內(nèi)容摘要:DeepSeek事件是AI(人工智能)技術(shù)與應(yīng)用一次里程碑式的歷史突破,是一場(chǎng)全球科技界的盛事,也是中國(guó)高科技發(fā)展的一次信心重樹。DeepSeek掀起了AIGC(人工智能生成內(nèi)容)主流化浪潮,AIGC進(jìn)入新的爆發(fā)階段,并將逐步占據(jù)主導(dǎo)性地位,這也預(yù)示著未來(lái)網(wǎng)絡(luò)空間信息和內(nèi)容構(gòu)成將發(fā)生根本性改變。但是,歡呼和欣喜的同時(shí),必須正視正在出現(xiàn)的新問(wèn)題與新風(fēng)險(xiǎn):數(shù)據(jù)隱私泄露、虛假信息盛行、意識(shí)形態(tài)風(fēng)險(xiǎn)、“AI幻覺(jué)”困境等。生成式人工智能平臺(tái)的技術(shù)自主性與責(zé)任彌散化讓平臺(tái)主體責(zé)任和內(nèi)容主體責(zé)任都面臨“空心化”趨勢(shì),這是智能時(shí)代平臺(tái)治理面臨的重要課題。面對(duì)智能傳播范式的結(jié)構(gòu)性轉(zhuǎn)型,如何評(píng)估智能時(shí)代平臺(tái)的主體責(zé)任,如何調(diào)試動(dòng)態(tài)適應(yīng)性治理框架,如何構(gòu)建智能時(shí)代的傳播新秩序等,這一系列技術(shù)伴生風(fēng)險(xiǎn)與問(wèn)題亟待通過(guò)建構(gòu)有效的制度體系與創(chuàng)新監(jiān)管方式來(lái)實(shí)現(xiàn)系統(tǒng)性治理。
關(guān)鍵詞:DeepSeek;平臺(tái)治理;智能傳播;“AI幻覺(jué)”
課題:國(guó)家社科基金重大項(xiàng)目“融媒體環(huán)境下互聯(lián)網(wǎng)平臺(tái)型企業(yè)現(xiàn)代治理模式研究”(編號(hào):20amp;ZD321)
DOI:10.3969/j.issn.2095-0330.2025.03.003
智能時(shí)代AI技術(shù)的發(fā)展速度和影響力正以前所未有的態(tài)勢(shì)重塑全球格局。繼2022年底ChatGPT引發(fā)全球關(guān)注后,DeepSeek的橫空出世再次成為全球AI領(lǐng)域的焦點(diǎn)話題。此前,全球AI技術(shù)創(chuàng)新主要由硅谷科技巨頭和風(fēng)險(xiǎn)資本驅(qū)動(dòng),以O(shè)penAI、Google、Meta和Anthropic等為代表的美國(guó)企業(yè)在AI技術(shù)研發(fā)方面占據(jù)主導(dǎo)地位,形成了“閉源+高算力依賴”的閉環(huán)生態(tài)。這種生態(tài)構(gòu)筑了堅(jiān)固的技術(shù)壁壘,限制了全球AI技術(shù)的研發(fā)和創(chuàng)新,同時(shí)引發(fā)了“算力軍備競(jìng)賽”。
然而,DeepSeek的出現(xiàn)正沖擊著以美國(guó)科技巨頭為中心的AI敘事與競(jìng)爭(zhēng)規(guī)則,對(duì)全球AI生態(tài)產(chǎn)生了深遠(yuǎn)的影響。依托系統(tǒng)工程創(chuàng)新構(gòu)建的成本優(yōu)勢(shì)與效能突破,DeepSeek以高效的模型訓(xùn)練和低廉的API定價(jià),推動(dòng)AI技術(shù)在全球范圍內(nèi)的規(guī)?;瘧?yīng)用與普惠化發(fā)展,并逐漸擺脫對(duì)資本巨頭的依賴。上線18天后,DeepSeek的日活躍用戶已達(dá)到1,500萬(wàn),而ChatGPT達(dá)到這一數(shù)字則用了244天,DeepSeek的增速是ChatGPT的13倍。\" 這一成就不僅打破了美國(guó)企業(yè)主導(dǎo)的AI生態(tài)系統(tǒng),還對(duì)美國(guó)人工智能領(lǐng)軍企業(yè)的壟斷地位及其構(gòu)筑的技術(shù)壁壘構(gòu)成了挑戰(zhàn)。正如谷歌前首席執(zhí)行官埃里克·施密特(Eric Schmidt)強(qiáng)調(diào)的,DeepSeek的崛起標(biāo)志著全球人工智能競(jìng)賽的轉(zhuǎn)折,證明中國(guó)可以用更少的資源與大型科技公司競(jìng)爭(zhēng)。# 此外,DeepSeek還推動(dòng)了AI技術(shù)成功跨越主流化鴻溝,全面進(jìn)入主流化普及應(yīng)用的高歌猛進(jìn)階段,這是DeepSeek超越ChatGPT、定義“DeepSeek時(shí)刻”的根本邏輯。$ DeepSeek也將成為智能時(shí)代媒體發(fā)展的轉(zhuǎn)折點(diǎn),引發(fā)互聯(lián)網(wǎng)平臺(tái)重塑競(jìng)爭(zhēng)格局。
媒介環(huán)境學(xué)派第三代旗手保羅·萊文森(PaulLevinson)曾以電影為例,揭示媒介技術(shù)的發(fā)展導(dǎo)致文化類型的演變,提出“玩具—鏡子—藝術(shù)”(Toy-Mirror-Art)的技術(shù)演化三階段論。% 從這一視角觀照DeepSeek的發(fā)展過(guò)程,可以發(fā)現(xiàn)其在進(jìn)入大眾視野之初,僅僅是作為一種具有娛樂(lè)功能的“玩具”而存在,用戶關(guān)心的是使用DeepSeek答疑解惑的體驗(yàn)過(guò)程,并在自己的社交圈內(nèi)分享“樂(lè)趣”。然而,隨著越來(lái)越多的互聯(lián)網(wǎng)平臺(tái)接入DeepSeek,DeepSeek不再是人們滿足好奇心的“玩具”,而逐漸演變?yōu)橹悄軙r(shí)代的互聯(lián)網(wǎng)超級(jí)平臺(tái),這是治理者需要理性思考和面對(duì)的問(wèn)題。在此階段,DeepSeek可能會(huì)像其他互聯(lián)網(wǎng)超級(jí)平臺(tái)一樣,經(jīng)歷從互聯(lián)網(wǎng)中介到互聯(lián)網(wǎng)平臺(tái)再到生態(tài)的躍變,其屬性也從過(guò)去的技術(shù)權(quán)力和信息權(quán)力,延展到市場(chǎng)權(quán)力和經(jīng)濟(jì)權(quán)力,進(jìn)而延伸到社會(huì)權(quán)力和政治權(quán)力。如果缺乏有效的制度創(chuàng)新和治理舉措,其不但可能沖擊現(xiàn)有市場(chǎng)秩序,危及社會(huì)秩序和政治秩序,并且可能突破現(xiàn)有制度框架,挑戰(zhàn)國(guó)家權(quán)力和治理能力。
一、DeepSeek掀起AI主流化浪潮:數(shù)字內(nèi)容生產(chǎn)范式的重構(gòu)
從埃弗雷特·M.羅杰斯(Everett M.Rogers)的“創(chuàng)新與擴(kuò)散”(diffusion of innovations)理論視角來(lái)看,DeepSeek通過(guò)成本、效率、開源等系統(tǒng)性工程創(chuàng)新,推動(dòng)AI技術(shù)成功跨越主流化鴻溝,為數(shù)字內(nèi)容生產(chǎn)的范式重構(gòu)奠定了堅(jiān)實(shí)基礎(chǔ)。這一突破不僅標(biāo)志著AI技術(shù)的成熟,也預(yù)示著內(nèi)容生產(chǎn)方式的根本性轉(zhuǎn)變。
智能體(agent)的崛起,以及社交機(jī)器人(social robot)的發(fā)展,顯著改變了網(wǎng)絡(luò)空間的互動(dòng)模式和內(nèi)容生產(chǎn)模式。它們不僅延伸了人的“主體意識(shí)”、模仿人的“思維能力”,還逐漸從單純的傳播中介躍升為具有一定自主能力的傳播主體,在網(wǎng)絡(luò)空間中自主參與社交互動(dòng)、內(nèi)容生產(chǎn),甚至操縱輿論。社交機(jī)器人在推特(X)上被廣泛應(yīng)用,惡意機(jī)器流量泛濫,AI生成新聞網(wǎng)站興起。2012年,研究發(fā)現(xiàn)推特有10.5%的賬戶是機(jī)器人,另有36.2%是機(jī)器人輔助的人類用戶。' 2017年,美國(guó)皮尤研究中心(Pew Research Center)發(fā)現(xiàn),66%的帶URL鏈接的推文疑似由機(jī)器人賬號(hào)發(fā)布。( 2018年,Distil Networks公司發(fā)布的《2018惡意機(jī)器流量報(bào)告》顯示,2017年42.2%的互聯(lián)網(wǎng)流量由機(jī)器產(chǎn)生,其中良性機(jī)器產(chǎn)生的流量占20.4%,而惡意機(jī)器產(chǎn)生的流量占21.8%。) 2019年的相關(guān)研究顯示,與中國(guó)相關(guān)的推文中超過(guò)1/5疑似由機(jī)器人用戶發(fā)布。* 2020年的美國(guó)大選中,數(shù)千個(gè)機(jī)器人賬戶試圖通過(guò)發(fā)布關(guān)于候選人的推文來(lái)操縱選舉結(jié)果。+ 2023年,已有600余家AI生成的新聞和信息網(wǎng)站,涉及15種語(yǔ)言,這些網(wǎng)站缺乏人工監(jiān)督,其內(nèi)容主要或完全由機(jī)器人撰寫。
盡管AIGC在內(nèi)容生產(chǎn)中已嶄露頭角,但由于模型訓(xùn)練的高成本以及閉源的特性,其影響力始終有限,未能實(shí)質(zhì)性地改變傳統(tǒng)內(nèi)容生產(chǎn)范式。然而,DeepSeek-R1模型的出現(xiàn)可能徹底改變這一局面。自2025年1月20日DeepSeek開源其推理模型DeepSeek-R1以來(lái),超過(guò)30家媒體機(jī)構(gòu)已接入DeepSeek大模型,這些媒體機(jī)構(gòu)包括第一財(cái)經(jīng)、瀟湘晨報(bào)、江蘇廣播電視臺(tái)等。這些媒體機(jī)構(gòu)利用DeepSeek提高內(nèi)容生產(chǎn)效率,提供新聞事件背景溯源等增值服務(wù)。北京、廣東、江蘇等地的政務(wù)服務(wù)系統(tǒng)已接入DeepSeek系列大模型。三大電信運(yùn)營(yíng)商、中石油、中石化、百度、騰訊等中企巨頭也紛紛宣布與DeepSeek展開合作。有專家預(yù)計(jì),從2025年到2030年,99%以上的互聯(lián)網(wǎng)內(nèi)容將由AI生成。- 這一預(yù)測(cè)反映了AI技術(shù)在內(nèi)容生產(chǎn)中的潛力和未來(lái)趨勢(shì)。DeepSeek的成功不僅在于其技術(shù)突破,更在于其推動(dòng)了AIGC從邊緣地位向核心地位的轉(zhuǎn)變,加速了數(shù)字內(nèi)容生產(chǎn)范式的重構(gòu)。在可預(yù)見的未來(lái),以DeepSeek為典型代表的AGI(通用人工智能),將憑借其強(qiáng)大的技術(shù)效能加速AIGC的蓬勃興起。隨著AIGC在信息傳播總量中占比的不斷攀升,信息傳播生態(tài)將迎來(lái)全方位的重塑。從傳播主體的構(gòu)成來(lái)看,“人+AGI”的新型傳播格局正逐步從理論構(gòu)想轉(zhuǎn)化為具有現(xiàn)實(shí)可行性的社會(huì)圖景。實(shí)際上,進(jìn)入智能傳播時(shí)代以來(lái),行動(dòng)者網(wǎng)絡(luò)理論所講的“非人類”的傳播主體如算法程序(algorithmicprogram)、社交機(jī)器人(social robot)、視頻監(jiān)控(video monitoring)、計(jì)算機(jī)服務(wù)器(computer servers)等在引發(fā)、引導(dǎo)輿論方面已經(jīng)不是偶爾為之,而是系統(tǒng)性的改變。.“非人類”的AIGC工具參與內(nèi)容生產(chǎn)與傳播,形成多元主體協(xié)同的復(fù)雜網(wǎng)絡(luò)生態(tài)系統(tǒng)將成為一種必然趨勢(shì)。在內(nèi)容生產(chǎn)流程方面,AGI系統(tǒng)依托深度學(xué)習(xí)(deep learning)、自然語(yǔ)言處理(NLP)以及知識(shí)圖譜(knowledge graph)等核心技術(shù)架構(gòu),構(gòu)建了一個(gè)高度集成化的智能內(nèi)容生產(chǎn)生態(tài)系統(tǒng)。該系統(tǒng)可以通過(guò)分布式數(shù)據(jù)采集(distributed dataacquisition)實(shí)現(xiàn)對(duì)多源異質(zhì)信息的獲取與清洗,運(yùn)用語(yǔ)義理解和情感分析等技術(shù)對(duì)海量數(shù)據(jù)進(jìn)行深度挖掘與結(jié)構(gòu)化處理,進(jìn)而實(shí)現(xiàn)高質(zhì)量?jī)?nèi)容的自動(dòng)化創(chuàng)作。在內(nèi)容分發(fā)環(huán)節(jié),AGI通過(guò)用戶畫像和推薦算法的協(xié)同優(yōu)化,實(shí)現(xiàn)了內(nèi)容與受眾需求的精準(zhǔn)匹配,可以顯著提升傳播效率與用戶參與度。這一全流程智能化生產(chǎn)鏈路(end-to-end intelligentproduction pipeline)不僅突破了傳統(tǒng)內(nèi)容生產(chǎn)模式在效率與規(guī)模上的限制,更通過(guò)持續(xù)學(xué)習(xí)與自適應(yīng)優(yōu)化(adaptive optimization)機(jī)制,推動(dòng)內(nèi)容生產(chǎn)向智能化、個(gè)性化方向發(fā)展,為數(shù)字時(shí)代的信息傳播提供了全新的技術(shù)范式。此外,在內(nèi)容質(zhì)量維度,AGI憑借其強(qiáng)大的數(shù)據(jù)處理能力與算法優(yōu)化機(jī)制,不僅能夠生成更具語(yǔ)義深度與認(rèn)知價(jià)值的內(nèi)容,還可通過(guò)深度學(xué)習(xí)與迭代優(yōu)化不斷提升內(nèi)容生產(chǎn)的專業(yè)性與創(chuàng)新性。
DeepSeek掀起的AI主流化浪潮重新定義了信息傳播的實(shí)踐邏輯,也為傳播學(xué)理論發(fā)展提供了新的研究視域與實(shí)證基礎(chǔ)。人類憑借獨(dú)特的創(chuàng)造力、情感認(rèn)知與價(jià)值判斷,與具備超強(qiáng)運(yùn)算能力、海量數(shù)據(jù)處理能力和內(nèi)容快速生成能力的AGI相互協(xié)作、優(yōu)勢(shì)互補(bǔ),必將共同構(gòu)建起傳播效率更高、內(nèi)容更加多元、互動(dòng)性更強(qiáng)的信息傳播新生態(tài)。隨著AIGC的蓬勃發(fā)展,這一技術(shù)革新不僅引發(fā)了數(shù)字內(nèi)容生產(chǎn)范式的深刻變革,更將推動(dòng)信息傳播生態(tài)全方位重塑,開啟人類與AI協(xié)作的全新內(nèi)容生產(chǎn)時(shí)代。
二、從DeepSeek事件窺探智能時(shí)代的平臺(tái)風(fēng)險(xiǎn)
回望人類歷史,技術(shù)的革新往往帶來(lái)深刻的社會(huì)變革。然而,人類歷史同樣表明,“科技發(fā)展并不會(huì)帶來(lái)確定的結(jié)果”/,技術(shù)進(jìn)步并不代表人類進(jìn)步,人類既要充分受惠于技術(shù)的進(jìn)步,又要防止和減少技術(shù)給社會(huì)帶來(lái)的風(fēng)險(xiǎn)和問(wèn)題。0 按照德國(guó)社會(huì)學(xué)家烏爾里?!へ惪耍║lrich Beck)等人的觀點(diǎn),風(fēng)險(xiǎn)實(shí)質(zhì)是一種事物發(fā)展過(guò)程中損益發(fā)生的可能性,表現(xiàn)為不確定性與不可估量性。1 循此思路,AI技術(shù)越是迅速發(fā)展,越是滲入日常生活,人們就越需要認(rèn)識(shí)并正視它的各種風(fēng)險(xiǎn)。DeepSeek對(duì)于互聯(lián)網(wǎng)平臺(tái)而言并非“靈丹妙藥”,其本質(zhì)仍未脫離生成式人工智能的范疇。作為一款全面開放代碼、數(shù)據(jù)和算法的開源模型2,DeepSeek在未來(lái)將融入互聯(lián)網(wǎng)平臺(tái)的內(nèi)容生產(chǎn)以及信息分發(fā)等各個(gè)關(guān)鍵層面,AI技術(shù)也將從量變走向質(zhì)變,技術(shù)巨頭主導(dǎo)的、具有壟斷性質(zhì)的超級(jí)平臺(tái),已經(jīng)具備公共基礎(chǔ)設(shè)施的屬性3。DeepSeek可能給互聯(lián)網(wǎng)平臺(tái)帶來(lái)新的問(wèn)題與風(fēng)險(xiǎn)。推動(dòng)DeepSeek與互聯(lián)網(wǎng)平臺(tái)良性融合,應(yīng)對(duì)模型安全、數(shù)據(jù)泄露、輿論風(fēng)險(xiǎn)與虛假信息盛行等問(wèn)題,已成為智能時(shí)代互聯(lián)網(wǎng)平臺(tái)治理的當(dāng)務(wù)之急。
(一)模型安全與數(shù)據(jù)泄露隱患
目前,DeepSeek已陸續(xù)推出DeepSeekLLM7 B、Dee p S e e k C o d e r 、D e e p S e e k Ma t h 、DeepSeek-VL、DeepSeek-V2、DeepSeek-V3以及DeepSeek-R1等多個(gè)開源模型。4 開源是指發(fā)行商以源代碼的形式向公眾提供用于檢查、運(yùn)行、修改和共享的軟件。5 對(duì)于AI技術(shù)而言,開源意味著任何用戶均有機(jī)會(huì)利用成熟的基礎(chǔ)代碼開發(fā)全新的訓(xùn)練模型,從而創(chuàng)造出更多更高階的人工智能產(chǎn)品。6 出于保障企業(yè)機(jī)密與商業(yè)利益等因素,美國(guó)AI科技巨頭的AI大模型始終堅(jiān)持閉源策略,DeepSeek的出現(xiàn)打破了閉源大模型構(gòu)筑的技術(shù)壁壘。作為推動(dòng)全球AI生態(tài)發(fā)展的一股重要力量,DeepSeek憑借其先進(jìn)的技術(shù)和開源理念,使AI服務(wù)從“科技奢侈品”變?yōu)椤叭粘S闷贰?,惠及中小企業(yè)和個(gè)人開發(fā)者,不僅加速了AI的商業(yè)化進(jìn)程和應(yīng)用場(chǎng)景的大規(guī)模崛起,同時(shí)有助于紓解“算法黑箱”等人工智能監(jiān)管的部分困境。7 但隨著開源生態(tài)的持續(xù)拓展,DeepSeek必須與種類繁多的硬件、軟件以及框架實(shí)現(xiàn)集成與兼容。市面上硬件設(shè)備在性能、架構(gòu)等方面差異顯著,不同軟件和框架的設(shè)計(jì)理念、接口規(guī)范也各不相同,這使得DeepSeek在進(jìn)行集成時(shí)需要耗費(fèi)大量的時(shí)間和精力去適配,極大地增加了技術(shù)標(biāo)準(zhǔn)化的難度。企業(yè)和開發(fā)者出于自身業(yè)務(wù)需求、技術(shù)偏好等因素,會(huì)采用不同的技術(shù)標(biāo)準(zhǔn)和規(guī)范,這就導(dǎo)致基于DeepSeek開發(fā)的模型在不同環(huán)境中可能出現(xiàn)運(yùn)行異常,其可移植性和互操作性受到嚴(yán)重影響,極大地阻礙了模型的廣泛傳播和應(yīng)用。
此外,當(dāng)越來(lái)越多的平臺(tái)接入DeepSeek,海量的用戶數(shù)據(jù)也將涌入DeepSeek的大數(shù)據(jù)模型,如何確保這些數(shù)據(jù)的穩(wěn)定、安全和完整是其面臨的一大挑戰(zhàn)。隨著互聯(lián)網(wǎng)和人工智能等數(shù)字技術(shù)的迅猛發(fā)展,人類社會(huì)已經(jīng)進(jìn)入數(shù)字經(jīng)濟(jì)時(shí)代,數(shù)據(jù)化成為互聯(lián)網(wǎng)平臺(tái)的重要特征。維克托·邁爾-舍恩伯格(Viktor Mayer-Sch?nbenger)和肯尼思·庫(kù)克耶(Kenneth Cukier)認(rèn)為,“數(shù)據(jù)化”是指互聯(lián)網(wǎng)平臺(tái)將世界上許多以前從未被量化的方面轉(zhuǎn)化為數(shù)據(jù)的能力8,具體表現(xiàn)為平臺(tái)以一種系統(tǒng)化的方式收集和分析用戶數(shù)據(jù),然后通過(guò)應(yīng)用程序編程接口(API)源源不絕地將這些數(shù)據(jù)傳遞給第三方,再通過(guò)用戶界面?zhèn)鬟f給終端用戶。9DeepSeek的開源生態(tài)高度依賴眾多第三方組件和庫(kù),以此來(lái)拓展功能和提高開發(fā)效率。然而,這些第三方組件和庫(kù)的質(zhì)量參差不齊。部分開發(fā)者缺乏對(duì)數(shù)據(jù)安全和穩(wěn)定的足夠重視,在開發(fā)過(guò)程中引入安全漏洞,加之模型開源容易導(dǎo)致數(shù)據(jù)泄露,如果一些第三方組件和庫(kù)由于維護(hù)人員不足或開發(fā)團(tuán)隊(duì)解散,無(wú)法得到及時(shí)的更新和維護(hù),將逐漸變得不穩(wěn)定。用戶數(shù)據(jù)的安全性與DeepSeek開源生態(tài)的穩(wěn)定性高度綁定,一旦這些第三方組件和庫(kù)出現(xiàn)問(wèn)題,將產(chǎn)生骨牌效應(yīng),從而影響整個(gè)DeepSeek開源生態(tài)的穩(wěn)定性和安全性。美國(guó)云安全初創(chuàng)公司W(wǎng)iz的安全研究員加爾·納格利(Gal Nagli)透露,DeepSeek的ClickHouse數(shù)據(jù)庫(kù)處于可公開訪問(wèn)狀態(tài),任何人都可以訪問(wèn)且無(wú)須身份認(rèn)證。該數(shù)據(jù)庫(kù)中包含聊天記錄、密鑰、后端詳細(xì)信息及其他高度敏感信息。: 雖然DeepSeek在得知存在安全漏洞后立即對(duì)其進(jìn)行修復(fù),但模型開源誘發(fā)的數(shù)據(jù)泄露風(fēng)險(xiǎn)仍值得人們持續(xù)關(guān)注。
(二)輿論風(fēng)險(xiǎn)與敏感議題引導(dǎo)
互聯(lián)網(wǎng)為公共輿論提供了廣闊的表達(dá)平臺(tái),與此同時(shí),其動(dòng)態(tài)多變的特性對(duì)傳統(tǒng)治理模式形成了沖擊,也給國(guó)家治理帶來(lái)了全新的挑戰(zhàn)。DeepSeek作為一種具有海量參數(shù)與復(fù)雜結(jié)構(gòu)的大模型(large model);,擁有強(qiáng)大的語(yǔ)言處理極速響應(yīng)和推理能力,能夠針對(duì)用戶的提問(wèn)進(jìn)行高效且自然的語(yǔ)言對(duì)話交互,為信息交互和知識(shí)探索開啟了新維度。lt; 互聯(lián)網(wǎng)平臺(tái)接入大語(yǔ)言模型不僅能夠有效提升用戶的交互體驗(yàn),而且可以指令大語(yǔ)言模型完成客服咨詢、內(nèi)容總結(jié)、數(shù)據(jù)分析等工作項(xiàng)目,這會(huì)在降低互聯(lián)網(wǎng)平臺(tái)的人工成本的同時(shí),提升平臺(tái)的運(yùn)行效率。商業(yè)壟斷互聯(lián)網(wǎng)平臺(tái)已經(jīng)涉及社會(huì)生活的方方面面,成為日常生活的基礎(chǔ)設(shè)施,擁有連接資源的人們可以隨時(shí)調(diào)用多樣化的平臺(tái)來(lái)進(jìn)行信息的索取和意見的表達(dá)。= DeepSeek自然語(yǔ)言對(duì)話的交互方式具有較強(qiáng)仿真性,對(duì)于“顏色革命”等存在輿論風(fēng)險(xiǎn)的議題,DeepSeek的自然語(yǔ)言對(duì)話也能起到一定的推波助瀾作用。不少用戶曾嘗試向DeepSeek詢問(wèn)一些比較敏感的政治話題,但DeepSeek或不置可否,或根據(jù)我國(guó)官方立場(chǎng)回答問(wèn)題,這一現(xiàn)象引發(fā)了廣泛討論。雖然DeepSeek受到我國(guó)的信息技術(shù)管控,可以通過(guò)關(guān)鍵詞過(guò)濾等方式識(shí)別敏感內(nèi)容,但內(nèi)容的權(quán)變性使得任何單一的監(jiān)管方式都面臨失效的風(fēng)險(xiǎn)。
互聯(lián)網(wǎng)平臺(tái)接入DeepSeek后帶來(lái)的不確定性反映了平臺(tái)治理研究的重要性。不同于現(xiàn)實(shí)社會(huì)自上而下的傳播格局,互聯(lián)網(wǎng)平臺(tái)的開放協(xié)作協(xié)議以及基于智能技術(shù)建立的社會(huì)連接能力,使其具有了強(qiáng)大的輿論生成與社會(huì)動(dòng)員功能gt;,從而促進(jìn)傳播權(quán)力向“個(gè)體”回歸。以往被壓抑在個(gè)體層面的社會(huì)情緒得以在互聯(lián)網(wǎng)平臺(tái)釋放,并自下而上地形成具有合法性和正當(dāng)性的社會(huì)輿論,倒逼權(quán)力機(jī)關(guān)進(jìn)行回應(yīng)。治理者所忌憚的不是輿論,而是輿論背后捉摸不定的權(quán)力意志,輿論以“代表民意”的口號(hào)出現(xiàn),但其代表的究竟是真實(shí)的民意,還是“少數(shù)人的大聲疾呼”,甚至是利益集團(tuán)的商業(yè)謀劃,在輿論爆發(fā)之初,這一問(wèn)題很難回答,縱使通過(guò)溯源分析澄清了輿論發(fā)端的真實(shí)屬性,權(quán)力機(jī)關(guān)可能也錯(cuò)失了回應(yīng)輿論訴求的黃金窗口期,致使社會(huì)共識(shí)的彌合陷入被動(dòng)境地。由此可見,平臺(tái)治理的本質(zhì)并不是治理互聯(lián)網(wǎng)平臺(tái),防止別有用心之人利用互聯(lián)網(wǎng)平臺(tái)的傳播環(huán)境煽動(dòng)輿論對(duì)敏感議題的討論,維護(hù)網(wǎng)絡(luò)意識(shí)形態(tài)安全,將是互聯(lián)網(wǎng)平臺(tái)大規(guī)模接入DeepSeek后,我國(guó)平臺(tái)治理體系的主要發(fā)展方向和題中應(yīng)有之義。
(三)虛假信息盛行與“說(shuō)謊者紅利”現(xiàn)象
AI的最新進(jìn)展可能加劇虛假信息的多樣性和病毒式傳播,使內(nèi)容創(chuàng)建過(guò)程自動(dòng)化。深度偽造(deepfake)、假新聞(fake news)和虛假信息(disinformation)或許將充斥整個(gè)互聯(lián)網(wǎng)。操縱性內(nèi)容的制作成本非常低,而且很容易大規(guī)模生產(chǎn)。? 魚龍混雜的信息充斥網(wǎng)絡(luò)空間,導(dǎo)致一些政治參與者對(duì)可靠的信息也產(chǎn)生懷疑,由此形成了一種“說(shuō)謊者紅利”(liar’s dividend)現(xiàn)象,即政客或公眾人物可以通過(guò)聲稱真實(shí)事件和新聞為假新聞或深度偽造來(lái)維持公眾對(duì)其自身的輿論支持。@ 在生成式人工智能技術(shù)賦能的深度偽造與多模態(tài)合成技術(shù)持續(xù)演進(jìn)背景下,特朗普式政治傳播所依賴的“謊言重復(fù)即真理”機(jī)制正在呈指數(shù)級(jí)增強(qiáng)。這種“虛假信息擴(kuò)散的正向激勵(lì)”(disinformationincentive spiral)正在重構(gòu)數(shù)字公共領(lǐng)域的博弈規(guī)則。當(dāng)生成式對(duì)抗網(wǎng)絡(luò)(GAN)與強(qiáng)化學(xué)習(xí)結(jié)合形成自進(jìn)化內(nèi)容生產(chǎn)閉環(huán),傳統(tǒng)事實(shí)核查機(jī)制的響應(yīng)速度已滯后于虛假信息裂變周期,導(dǎo)致“零日虛假信息”(zero-day disinformation)漏洞的常態(tài)化風(fēng)險(xiǎn)。更值得警惕的是,AIGC的認(rèn)知戰(zhàn)武器化趨勢(shì)正在突破傳統(tǒng)信息戰(zhàn)邊界,這種精確到個(gè)體神經(jīng)反應(yīng)級(jí)別的信息操控(neuro-targetedinfluence)正在催生新型數(shù)字威權(quán)主義。然而,當(dāng)前治理框架的滯后性卻形成了危險(xiǎn)的真空期,并給社會(huì)帶來(lái)潛在的風(fēng)險(xiǎn),若不建立跨平臺(tái)的實(shí)時(shí)溯源聯(lián)邦學(xué)習(xí)框架(federated provenance learning)和基于區(qū)塊鏈的內(nèi)容DNA圖譜,這種“合成認(rèn)知污染”(synthetic cognitive pollution)的系統(tǒng)性風(fēng)險(xiǎn)將持續(xù)攀升,最終導(dǎo)致尤爾根·哈貝馬斯(Jürgen Habermas)所警示的“交往理性”(communicative rationality)在數(shù)字公共空間徹底瓦解。
此外,“說(shuō)謊者紅利”并不局限于政治領(lǐng)域,當(dāng)互聯(lián)網(wǎng)平臺(tái)接入DeepSeek等AI技術(shù)實(shí)現(xiàn)算法賦能,內(nèi)容生成門檻的降低不僅提升了內(nèi)容生產(chǎn)效率,也使得處于社會(huì)面的“說(shuō)謊者”更容易生產(chǎn)虛假信息,進(jìn)而增加維護(hù)社會(huì)秩序的成本,這一點(diǎn)在DeepSeek爆火之前的“西安爆炸”事件中就可見一斑?;ヂ?lián)網(wǎng)是開展輿論斗爭(zhēng)的重要場(chǎng)域。“過(guò)不了互聯(lián)網(wǎng)這一關(guān),就過(guò)不了長(zhǎng)期執(zhí)政這一關(guān)?!盇 然而,“說(shuō)謊者紅利”與虛假信息盛行等技術(shù)賦權(quán)與信息異化的伴生現(xiàn)象,對(duì)輿論生態(tài)和話語(yǔ)秩序構(gòu)成了嚴(yán)峻挑戰(zhàn),割裂著輿論事實(shí)的認(rèn)知圖景,操縱著輿論話語(yǔ)的公共導(dǎo)向,綁架著輿論價(jià)值的社會(huì)信任。在群體武器、時(shí)空脫域、數(shù)據(jù)圍獵的三重作用下,輿論生態(tài)出現(xiàn)異化,呈現(xiàn)出輿論載體“武裝化”、輿論主體“脫域化”、輿論客體“失控化”的特征。
(四)新的技術(shù)倫理難題:“AI幻覺(jué)”
DeepSeek掀起的AI主流化浪潮為全球信息傳播格局注入了革新動(dòng)力,在提升內(nèi)容生產(chǎn)效率和傳播精準(zhǔn)度的同時(shí),也帶來(lái)“AI幻覺(jué)”(AIhallucinations)這一技術(shù)倫理難題。當(dāng)前,AIGC在語(yǔ)義理解與內(nèi)容創(chuàng)作過(guò)程中存在的不可控偏差現(xiàn)象,已引發(fā)學(xué)術(shù)界對(duì)智能傳播可信度及責(zé)任邊界的深度探討。何為“AI幻覺(jué)”?目前學(xué)界并沒(méi)有一個(gè)統(tǒng)一的清晰定義。B 一般而言,“AI幻覺(jué)”指的是人工智能系統(tǒng)在處理輸入、決策或執(zhí)行任務(wù)時(shí)產(chǎn)生無(wú)意義或與輸入不一致的內(nèi)容。C“AI幻覺(jué)”的問(wèn)題早在ChatGPT上已經(jīng)顯現(xiàn)。有學(xué)者研究ChatGPT在完全由其生成的研究提案中的“AI幻覺(jué)”頻率,分析了其178個(gè)引用,其中許多引用缺少DOI(數(shù)字對(duì)象標(biāo)識(shí)符),部分引用無(wú)法追蹤或不正確,證明了ChatGPT在提供可靠的研究引用方面存在明顯的局限性。學(xué)者認(rèn)為“AI幻覺(jué)”可能對(duì)決策產(chǎn)生負(fù)面影響,并引發(fā)相應(yīng)的倫理和法律問(wèn)題。為解決這些問(wèn)題,需要通過(guò)多樣且準(zhǔn)確的數(shù)據(jù)改進(jìn)訓(xùn)練模型,但在此之前,研究人員應(yīng)謹(jǐn)慎采用ChatGPT生成的引用。D 有學(xué)者也以ChatGPT為研究案例,對(duì)收集到的243條失真的AIGC信息(包括問(wèn)題和答案)進(jìn)行了系統(tǒng)分類,研究確定了ChatGPT的8種一級(jí)錯(cuò)誤類型,即“過(guò)度擬合”“邏輯錯(cuò)誤”“推理錯(cuò)誤”“數(shù)學(xué)錯(cuò)誤”“毫無(wú)根據(jù)的捏造”“事實(shí)錯(cuò)誤”“文本輸出錯(cuò)誤”和“其他錯(cuò)誤”,在此基礎(chǔ)上又進(jìn)一步細(xì)分為31個(gè)二級(jí)錯(cuò)誤類型。
AI技術(shù)為學(xué)術(shù)研究注入了前所未有的效率動(dòng)能,卻也在全球?qū)W術(shù)界引發(fā)了一場(chǎng)深層次的學(xué)術(shù)信任挑戰(zhàn)。當(dāng)前AIGC平臺(tái)已能夠批量生成高仿真的學(xué)術(shù)參考文獻(xiàn)——從虛構(gòu)的權(quán)威作者姓名、國(guó)際期刊名稱到格式規(guī)范的DOI編碼,甚至可對(duì)引用數(shù)據(jù)進(jìn)行統(tǒng)計(jì)學(xué)意義上的精準(zhǔn)偽造。在學(xué)術(shù)生產(chǎn)鏈條中,參考文獻(xiàn)作為學(xué)術(shù)體系的基石文獻(xiàn)(backboneliterature),其真實(shí)性直接決定研究結(jié)論的可驗(yàn)證性與可復(fù)現(xiàn)性。此類算法生成的“學(xué)術(shù)幽靈”的泛濫,可能誘發(fā)多米諾骨牌式的學(xué)術(shù)誠(chéng)信崩塌,后續(xù)研究者在不知情狀態(tài)下引證這些無(wú)中生有的學(xué)術(shù)文獻(xiàn),將導(dǎo)致錯(cuò)誤知識(shí)以病毒式傳播,使整個(gè)學(xué)科領(lǐng)域的知識(shí)圖譜產(chǎn)生結(jié)構(gòu)性偏差。為此,科技行業(yè)分析師本尼迪克特·埃文斯(Benedict Evans)在推文中將ChatGPT形容為“一個(gè)自信的扯淡的家伙,可以寫出非常有說(shuō)服力的廢話”(ChatGPTis like a confident bullshitter:it can write veryplausible-sounding nonsense)。埃文斯的評(píng)價(jià)反映了當(dāng)前關(guān)于AIGC的普遍爭(zhēng)議,他并非否定技術(shù)本身,而是強(qiáng)調(diào)這類模型的本質(zhì)是“統(tǒng)計(jì)概率生成文本”,缺乏對(duì)事實(shí)或邏輯的真實(shí)理解,生成看似合理但實(shí)際錯(cuò)誤甚至離譜的內(nèi)容。
目前各類大模型在運(yùn)行過(guò)程中均難以避免出現(xiàn)“AI幻覺(jué)”問(wèn)題。獨(dú)立評(píng)測(cè)平臺(tái)Vectara2025年2 月1 1 日更新的“ 大模型幻覺(jué)率排行榜”顯示, G P T - 4 o 、D e e p S e e k - V 2 . 5 、G o o g l eGemini-2.0、Amazon Nova-Micro-V1等幾乎市面上所有的大模型在總結(jié)文檔時(shí)都會(huì)產(chǎn)生“幻覺(jué)”,它們的幻覺(jué)發(fā)生率介于0 . 7%與2 9 . 9 %之間。F 重要原因之一在于推理模型的多層次非線性復(fù)雜架構(gòu),讓少量錯(cuò)誤的數(shù)據(jù)標(biāo)注在層層迭代下,像滾雪球一樣不斷放大,最終出現(xiàn)答非所問(wèn)、信息虛假的問(wèn)題。實(shí)踐中,DeepSeek等AI技術(shù)的幻覺(jué)發(fā)生率也與其使用場(chǎng)景息息相關(guān),在邏輯推理、代碼生成、翻譯潤(rùn)色等方面,其幻覺(jué)率通常較低,但在需要嚴(yán)格準(zhǔn)確性并更多使用專業(yè)術(shù)語(yǔ)的領(lǐng)域,如法律咨詢、醫(yī)學(xué)處方、學(xué)術(shù)論文撰寫等方面,則應(yīng)謹(jǐn)慎使用,因?yàn)檫@類使用場(chǎng)景幻覺(jué)發(fā)生率明顯更高,造成的不良后果也更加讓人難以接受。此外,除了使用大量文本數(shù)據(jù)訓(xùn)練的大語(yǔ)言模型(LargeLanguage Model,簡(jiǎn)稱LLM)容易出現(xiàn)“AI幻覺(jué)”問(wèn)題,文生視頻大模型,如Sora,存在同樣的問(wèn)題。研究者通過(guò)對(duì)Sora官網(wǎng)展示的48個(gè)文本生成視頻進(jìn)行分析發(fā)現(xiàn),有相當(dāng)一部分視頻出現(xiàn)不符合現(xiàn)實(shí)的“AI幻覺(jué)”現(xiàn)象,如東京櫻花盛開和下雪同時(shí)出現(xiàn)的場(chǎng)景違背季節(jié)性規(guī)律。不僅雪降落得過(guò)于均勻,人物穿著也不符合天氣情況。G 在當(dāng)前生成式人工智能技術(shù)呈指數(shù)級(jí)躍遷的背景下,整個(gè)社會(huì)都將面臨AI技術(shù)帶來(lái)的“AI幻覺(jué)”困局——這種由算法黑箱與數(shù)據(jù)偏差引發(fā)的認(rèn)知失真現(xiàn)象,已對(duì)信息傳播的保真度構(gòu)成系統(tǒng)性威脅。
更令人擔(dān)憂的是,憑借其在成本效益、運(yùn)行效率和開源模式上的顯著創(chuàng)新優(yōu)勢(shì),DeepSeek生成高保真的深度偽造內(nèi)容的邊際成本正在趨近于零。廣泛普及是否會(huì)進(jìn)一步加劇當(dāng)前存在的“AI幻覺(jué)”現(xiàn)象?這一潛在風(fēng)險(xiǎn)亟待學(xué)界與行業(yè)通過(guò)長(zhǎng)期追蹤與系統(tǒng)性研究予以持續(xù)關(guān)注。
三、平臺(tái)責(zé)任“空心化”與智能時(shí)代平臺(tái)主體責(zé)任的重估
媒介思想家威廉·弗魯塞爾(Vile?m Flusser)認(rèn)為,在模仿特定思維過(guò)程的意義上,所有的裝置都是“計(jì)算”的機(jī)器,都是某種“人工智能”。DeepSeek等大語(yǔ)言模型也是一種“裝置”,這種“裝置”不僅改變了人與工具的關(guān)系和人與世界的關(guān)系,也改變了人類社會(huì)的權(quán)力結(jié)構(gòu):權(quán)力從物的擁有者向裝置的編程者和操作者轉(zhuǎn)移,從物件向符號(hào)轉(zhuǎn)移。H 人類社會(huì)權(quán)力結(jié)構(gòu)的變化讓智能時(shí)代的平臺(tái)責(zé)任面臨“空心化”趨勢(shì)。平臺(tái)責(zé)任“空心化”是指互聯(lián)網(wǎng)平臺(tái)內(nèi)容生產(chǎn)主體向AI技術(shù)轉(zhuǎn)移后導(dǎo)致的平臺(tái)責(zé)任彌散化趨勢(shì),主要表現(xiàn)為平臺(tái)內(nèi)容風(fēng)險(xiǎn)責(zé)任的不明晰與無(wú)規(guī)范。這種“空心化”趨勢(shì)可以從技術(shù)、法律和倫理三個(gè)維度進(jìn)行解析。從技術(shù)維度看,DeepSeek等AI大模型通過(guò)海量數(shù)據(jù)訓(xùn)練和深度學(xué)習(xí),能夠獨(dú)立生成復(fù)雜且具有語(yǔ)義連貫性的內(nèi)容,而不完全依賴于預(yù)先設(shè)定的規(guī)則,具有高度的技術(shù)自主性和內(nèi)容生成能力。此外,模型在運(yùn)行過(guò)程中可能產(chǎn)生開發(fā)者難以預(yù)見或控制的輸出,當(dāng)生成內(nèi)容引發(fā)爭(zhēng)議或造成損害時(shí),DeepSeek的技術(shù)自主性導(dǎo)致責(zé)任主體模糊化,人們難以明確是開發(fā)者、使用者還是AI大模型應(yīng)承擔(dān)內(nèi)容生產(chǎn)責(zé)任,責(zé)任歸屬變得更加復(fù)雜。從法律維度看,責(zé)任歸屬的復(fù)雜性加劇了平臺(tái)主體責(zé)任“空心化”趨勢(shì)。AI技術(shù)的運(yùn)作涉及研發(fā)機(jī)構(gòu)、部署平臺(tái)、用戶以及監(jiān)管機(jī)構(gòu)等多方主體,形成了一個(gè)復(fù)雜的責(zé)任網(wǎng)絡(luò)。互聯(lián)網(wǎng)平臺(tái)的傳統(tǒng)治理框架主要基于“平臺(tái)—用戶”的二元責(zé)任結(jié)構(gòu),但在DeepSeek等AI技術(shù)的使用場(chǎng)景中,傳統(tǒng)的框架難以有效應(yīng)對(duì)多主體參與和責(zé)任鏈條彌散化的挑戰(zhàn),使得各方主體容易規(guī)避法律義務(wù),從而形成責(zé)任“空心化”。這種復(fù)雜性已經(jīng)超越了傳統(tǒng)法律框架的解釋范疇,亟待構(gòu)建適應(yīng)技術(shù)特性的新型責(zé)任歸屬范式。從倫理維度看,AI技術(shù)的自主性以及由此導(dǎo)致的責(zé)任“空心化”將動(dòng)搖社會(huì)大眾對(duì)DeepSeek等AI技術(shù)的信任基礎(chǔ)。一方面,技術(shù)自主性可能導(dǎo)致生成內(nèi)容偏離社會(huì)倫理規(guī)范,而責(zé)任“空心化”則使得糾正這種偏離的機(jī)制面臨失效的風(fēng)險(xiǎn)。另一方面,互聯(lián)網(wǎng)平臺(tái)和技術(shù)開發(fā)者可能利用責(zé)任“空心化”趨勢(shì),將技術(shù)風(fēng)險(xiǎn)引發(fā)的矛盾沖突向外轉(zhuǎn)移,這不僅損害用戶權(quán)益,還可能引發(fā)更廣泛的社會(huì)倫理危機(jī)。
“空心化”趨勢(shì)不僅挑戰(zhàn)了現(xiàn)有的法律和倫理框架,也凸顯了重構(gòu)AI治理機(jī)制的必要性。未來(lái)需要通過(guò)增強(qiáng)技術(shù)透明性、完善責(zé)任分配機(jī)制、引入多方協(xié)同治理等方式,實(shí)現(xiàn)技術(shù)自主性與主體責(zé)任的動(dòng)態(tài)平衡,從而遏制“空心化”趨勢(shì)的蔓延。在此背景下,推動(dòng)DeepSeek與互聯(lián)網(wǎng)平臺(tái)的良性融合,進(jìn)而實(shí)現(xiàn)有效的平臺(tái)風(fēng)險(xiǎn)防控和治理,已成為智能時(shí)代互聯(lián)網(wǎng)平臺(tái)治理的當(dāng)務(wù)之急,“如何治理”以及“治理什么”也成為AIGC內(nèi)容全面主流化之后互聯(lián)網(wǎng)平臺(tái)治理工作的“元問(wèn)題”以及主要責(zé)任。
英國(guó)技術(shù)哲學(xué)家大衛(wèi)·科林格里奇(DavidCollingridge)在《技術(shù)的社會(huì)控制》(The socialControl of Technology )中提出了“科林格里奇困境”(Collingridge’s Dilemma),即一項(xiàng)技術(shù)如果因?yàn)閾?dān)心不良后果而過(guò)早實(shí)施控制,那么技術(shù)很可能就難以快速發(fā)展。反之,如果控制過(guò)晚,技術(shù)已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分,就可能走向失控,再來(lái)解決不良問(wèn)題就會(huì)變得昂貴、困難和耗時(shí)間。I 科林格里奇的觀點(diǎn)為AIGC內(nèi)容全面主流化背景下“如何治理”互聯(lián)網(wǎng)平臺(tái)提供了重要的理論支撐和方法論指導(dǎo)。依循科林格里奇所言,治理DeepSeek的關(guān)鍵在于時(shí)機(jī)的把握,應(yīng)根據(jù)DeepSeek的主流化進(jìn)程,探索“先發(fā)展,再治理”和“邊發(fā)展,邊管理”兩種節(jié)奏的靈活組合。不宜操之過(guò)急、過(guò)早控制,更不能過(guò)度控制,以防止傷害新技術(shù)的正常發(fā)展和社會(huì)普及,但也不能放任自流,而需要在理論探討和治理對(duì)策方面未雨綢繆。
此外,隨著生成式人工智能技術(shù)加速向社會(huì)生產(chǎn)領(lǐng)域滲透,AIGC全面主流化已成為不可逆轉(zhuǎn)的趨勢(shì)。在此背景下,構(gòu)建與之適配的互聯(lián)網(wǎng)平臺(tái)治理體系與責(zé)任分配機(jī)制,特別是對(duì)智能系統(tǒng)內(nèi)容生產(chǎn)邊界進(jìn)行科學(xué)界定與動(dòng)態(tài)管理,設(shè)置AIGC的“內(nèi)容生成防火墻”,正成為全球數(shù)字治理領(lǐng)域的核心課題。目前,為確保內(nèi)容生成符合倫理規(guī)范,同時(shí)避免產(chǎn)生爭(zhēng)議性內(nèi)容,DeepSeek無(wú)法回答涉及個(gè)人隱私、政治宗教、非法活動(dòng)以及需要主觀判斷或個(gè)人意見的問(wèn)題。這些帶有約束性質(zhì)的“出廠設(shè)置”劃定了DeepSeek的內(nèi)容生產(chǎn)邊界,這既是確保內(nèi)容生成安全可靠、符合社會(huì)價(jià)值導(dǎo)向的必要保障,同時(shí)可以為未來(lái)智能時(shí)代AIGC內(nèi)容全面主流化之后的互聯(lián)網(wǎng)平臺(tái)治理提供重要參考——在保障技術(shù)創(chuàng)新活力的同時(shí),通過(guò)可解釋、可追溯、可調(diào)控的技術(shù)治理架構(gòu),實(shí)現(xiàn)人機(jī)協(xié)同內(nèi)容生產(chǎn)與數(shù)字文明共建。
治理不同于管理,其核心在于通過(guò)良性引導(dǎo)實(shí)現(xiàn)有序發(fā)展,而非依賴強(qiáng)制性約束手段。有學(xué)者認(rèn)為,權(quán)力機(jī)構(gòu)以強(qiáng)制性的行政手段直接管理互聯(lián)網(wǎng)平臺(tái)的監(jiān)管機(jī)制,有時(shí)不僅不能解決各類新問(wèn)題,還容易引發(fā)新的沖突。根據(jù)何塞·范·迪克(José van Dijck)等人的觀點(diǎn),在平臺(tái)社會(huì),社會(huì)秩序不再局限于線下的機(jī)構(gòu)和組織,而是越來(lái)越多地與互聯(lián)網(wǎng)平臺(tái)集群交織在一起。社會(huì)如果想要?jiǎng)?chuàng)建一個(gè)可以反映和構(gòu)建民主秩序的平臺(tái)結(jié)構(gòu),就需要努力在平臺(tái)生態(tài)系統(tǒng)的設(shè)計(jì)中實(shí)現(xiàn)公共價(jià)值和集體利益,良性引導(dǎo)也往往建立在社會(huì)大眾共同認(rèn)同的價(jià)值理念和集體利益之上。J 在各大互聯(lián)網(wǎng)平臺(tái)全面接入DeepSeek等AI技術(shù)的智能時(shí)代,理想的互聯(lián)網(wǎng)平臺(tái)治理圖景應(yīng)當(dāng)以互聯(lián)網(wǎng)平臺(tái)為首要責(zé)任人。平臺(tái)應(yīng)協(xié)同權(quán)力機(jī)構(gòu)和社會(huì)組織共同構(gòu)建具有前瞻性的三位一體價(jià)值坐標(biāo)系:以社會(huì)公共價(jià)值為核心發(fā)展軸線,以國(guó)家數(shù)字主權(quán)為安全保障基線,以社會(huì)公序良俗和集體利益為倫理約束邊界,同時(shí)市場(chǎng)、國(guó)家和社會(huì)組織應(yīng)為實(shí)現(xiàn)平臺(tái)社會(huì)的公共價(jià)值和集體利益共同承擔(dān)責(zé)任。這一治理體系既要保障用戶流暢自如地運(yùn)用DeepSeek等AI技術(shù)進(jìn)行日?;膬?nèi)容生產(chǎn),進(jìn)而實(shí)現(xiàn)互聯(lián)網(wǎng)平臺(tái)內(nèi)容生產(chǎn)的范式轉(zhuǎn)型,也要通過(guò)大模型的多模態(tài)語(yǔ)義識(shí)別系統(tǒng)和動(dòng)態(tài)知識(shí)圖譜的協(xié)同運(yùn)作,對(duì)非常態(tài)的人機(jī)信息交互進(jìn)行分層級(jí)倫理審查,規(guī)范化地限制AI技術(shù)的內(nèi)容生產(chǎn)范圍,從而實(shí)現(xiàn)技術(shù)創(chuàng)新與價(jià)值導(dǎo)向的校準(zhǔn)式平衡發(fā)展。這種雙效驅(qū)動(dòng)的發(fā)展模型不僅體現(xiàn)了技術(shù)向善的倫理自覺(jué),更彰顯了數(shù)字文明新形態(tài)下工具理性與價(jià)值理性的辯證統(tǒng)一。
四、智能時(shí)代傳播秩序的建構(gòu)與治理
克利福德· G . 克里斯琴斯( C l i f f o r d G .Christians)曾言:“在技術(shù)崇拜的時(shí)代,我們所面臨的危機(jī)不是對(duì)規(guī)則的違背,而是無(wú)規(guī)范的真空(the vacuum of normlessness)?!盞 學(xué)者鄭永年也認(rèn)為人工智能已經(jīng)顯示出其強(qiáng)大的制度毀滅能力,但人們?nèi)晕窗l(fā)現(xiàn)其制度建設(shè)能力。在新制度確立遙遙無(wú)期的情況下,個(gè)人“原子化”的趨勢(shì)正在加快和加劇。L 面對(duì)ChatGPT、Sora和DeepSeek等具有里程碑意義的人工智能工具帶來(lái)的對(duì)原有社會(huì)秩序的巨大沖擊,恰如2024年諾貝爾物理學(xué)獎(jiǎng)得主杰弗里·辛頓(Geoffrey Hinton)所擔(dān)心的,人類目前社會(huì)的組織方式(無(wú)論是國(guó)家層面,還是全球?qū)用妫┖芸赡茈y以應(yīng)對(duì)人工智能的挑戰(zhàn)。
目前,私有民營(yíng)性質(zhì)的大公司或跨國(guó)集團(tuán)(平臺(tái)公司)是人工智能領(lǐng)域的主導(dǎo)力量之一,人工智能產(chǎn)品的私有性質(zhì)與產(chǎn)品所天然具備的“準(zhǔn)公共服務(wù)”屬性充滿矛盾和張力。就國(guó)內(nèi)層面而言,平臺(tái)公司通過(guò)對(duì)技術(shù)的壟斷,間接地掌控了信息的生產(chǎn),從而實(shí)現(xiàn)了“權(quán)力的轉(zhuǎn)移”,擁有了某種對(duì)抗國(guó)家權(quán)力、解構(gòu)主流話語(yǔ)的可能性。就國(guó)際政治層面而言,平臺(tái)公司有意或無(wú)意地充當(dāng)著國(guó)家利益代理人的角色。技術(shù)演進(jìn)的不可預(yù)測(cè)性與平臺(tái)公司在不同層面扮演的角色的多元性與復(fù)雜性使得平臺(tái)治理一定是一個(gè)動(dòng)態(tài)的規(guī)制演進(jìn)。整個(gè)社會(huì)越來(lái)越趨向于何塞·范·迪克所說(shuō)的“平臺(tái)社會(huì)”和烏爾里希·貝克所提出的“風(fēng)險(xiǎn)社會(huì)”的融合,由此可以預(yù)見的是,未來(lái),對(duì)DeepSeek等平臺(tái)的規(guī)制是重建智能時(shí)代傳播秩序的重中之重。
面對(duì)DeepSeek等AIGC平臺(tái)對(duì)智能時(shí)代秩序的沖擊以及它們帶來(lái)的技術(shù)伴生風(fēng)險(xiǎn)與問(wèn)題,應(yīng)明確治理的關(guān)鍵在于對(duì)介入時(shí)機(jī)的把握,探索“先發(fā)展,再治理”和“邊發(fā)展,邊管理”兩種節(jié)奏的靈活組合。治理的理念也要從“技術(shù)為王”轉(zhuǎn)向“負(fù)責(zé)任治理”,通過(guò)建構(gòu)有效的制度體系與監(jiān)管創(chuàng)新來(lái)實(shí)現(xiàn)系統(tǒng)性治理。在技術(shù)治理層面,構(gòu)建算法可控性基礎(chǔ)設(shè)施,在國(guó)家層面制定算法透明性強(qiáng)制標(biāo)準(zhǔn),參照歐盟《人工智能法案》高風(fēng)險(xiǎn)系統(tǒng)披露規(guī)則,強(qiáng)制要求AlGC平臺(tái)(如大語(yǔ)言模型、文生視頻模型、自動(dòng)駕駛系統(tǒng)等)向監(jiān)管機(jī)構(gòu)及利益相關(guān)方披露訓(xùn)練數(shù)據(jù)構(gòu)成,進(jìn)行數(shù)據(jù)溯源審計(jì)與制定偏差控制方法,確保技術(shù)可控性與社會(huì)可解釋性。同時(shí),可以在AIGC平臺(tái)內(nèi)置嵌入式治理工具,在模型層植入可追溯水印如DeepSeek的生成內(nèi)容標(biāo)記,部署“倫理強(qiáng)化學(xué)習(xí)”框架,構(gòu)建多模態(tài)倫理過(guò)濾引擎,對(duì)暴力、深度偽造等違規(guī)輸出實(shí)施分級(jí)攔截,拒絕提供自殺方法指南等。此外,在模型開發(fā)階段植入不可篡改的以區(qū)塊鏈為存證的“數(shù)字指紋”,實(shí)現(xiàn)人工智能生成內(nèi)容(文本/圖像/視頻)的跨平臺(tái)溯源與追責(zé)。在法律規(guī)制層面,建立彈性監(jiān)管體系。在2023年國(guó)家互聯(lián)網(wǎng)信息辦公室制定的《生成式人工智能服務(wù)管理辦法》的基礎(chǔ)上,針對(duì)AIGC平臺(tái)實(shí)施分類分級(jí)監(jiān)管,將AI應(yīng)用劃分為“禁止類”(如顛覆政權(quán))、“特許類”(如醫(yī)療診斷)、“備案類”(如推薦算法)等,實(shí)施梯度準(zhǔn)入。同時(shí)建立法律層面的溯源問(wèn)責(zé)機(jī)制,明確“開發(fā)者—部署者—使用者”責(zé)任鏈:開發(fā)者承擔(dān)基礎(chǔ)模型缺陷責(zé)任,使用者對(duì)惡意濫用負(fù)直接法律責(zé)任。此外,大模型開發(fā)平臺(tái)要保留模型訓(xùn)練全周期日志,司法部門可溯源追查數(shù)據(jù)缺陷的原始責(zé)任方。
黨的十八大以來(lái),以習(xí)近平同志為核心的黨中央高度重視我國(guó)新一代人工智能發(fā)展。習(xí)近平總書記曾深刻指出,“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),具有溢出帶動(dòng)性很強(qiáng)的‘頭雁’效應(yīng)”,“加快發(fā)展新一代人工智能是事關(guān)我國(guó)能否抓住新一輪科技革命和產(chǎn)業(yè)變革機(jī)遇的戰(zhàn)略問(wèn)題”。N 進(jìn)入智能時(shí)代以來(lái),全球歷經(jīng)的數(shù)次重大技術(shù)突破,基本上都是美國(guó)企業(yè)在引領(lǐng)主流化進(jìn)程,DeepSeek顛覆了這一基本定勢(shì)。“DeepSeek時(shí)刻”及其引發(fā)的“DeepSeek效應(yīng)”,打破了中國(guó)企業(yè)只善于在晚期大眾化階段后來(lái)居上的固有認(rèn)知,改寫了中國(guó)高科技的全球敘事。O 面對(duì)以DeepSeek為代表的生成式人工智能技術(shù)浪潮,應(yīng)以更高維度審視其戰(zhàn)略意涵:這不僅是單一技術(shù)賽道的競(jìng)爭(zhēng),更是關(guān)系到數(shù)字文明秩序重構(gòu)的綜合性較量。從技術(shù)主權(quán)維度,須加快構(gòu)建自主可控的產(chǎn)業(yè)生態(tài),圍繞大模型訓(xùn)練框架、高性能算力集群、多模態(tài)數(shù)據(jù)集等核心要素實(shí)施攻關(guān)。從意識(shí)形態(tài)維度,要統(tǒng)籌數(shù)據(jù)安全與價(jià)值引導(dǎo),在防范算法黑箱引發(fā)認(rèn)知操縱風(fēng)險(xiǎn)的同時(shí),推動(dòng)AIGC技術(shù)與產(chǎn)業(yè)深度融合,打造承載主流價(jià)值的智能傳播新范式。從國(guó)際規(guī)則維度,須主動(dòng)參與全球人工智能治理體系建構(gòu),通過(guò)技術(shù)標(biāo)準(zhǔn)輸出、跨境數(shù)據(jù)流動(dòng)協(xié)議締結(jié)、跨國(guó)技術(shù)倫理委員會(huì)共建等方式,搶占智能時(shí)代國(guó)際話語(yǔ)權(quán)制高點(diǎn)。當(dāng)前,生成式人工智能技術(shù)已呈現(xiàn)指數(shù)級(jí)擴(kuò)散態(tài)勢(shì),其引發(fā)的產(chǎn)業(yè)革命正在重塑全球經(jīng)濟(jì)版圖與技術(shù)權(quán)力結(jié)構(gòu),中國(guó)應(yīng)在這場(chǎng)技術(shù)制高點(diǎn)爭(zhēng)奪戰(zhàn)中把握主動(dòng)權(quán),避免重蹈受困于歷史性技術(shù)代差的覆轍。
(作者方興東系浙江大學(xué)網(wǎng)絡(luò)空間國(guó)際治理研究基地中心主任,烏鎮(zhèn)數(shù)字文明研究院教授;鐘祥銘系浙江傳媒學(xué)院新聞與傳播學(xué)院副研究員)
注釋
① 騰訊網(wǎng). DeepSeek怎么用18天干出ChatGPT244天的氣勢(shì)?[EB/OL]. (2025-02-03)[2025-02-20]. https://news.qq.com/rain/a/20250203A06EZM00.
② SHAPERO J. DeepSeek marks“turning point”for global AIrace: former Google CEO [EB/OL]. (2025-01-29)[2025-02-20].https://thehill.com/policy/technology/5113245-eric-schmidt-DeepSeek-ai-race/.
③ 方興東, 王奔, 鐘祥銘. DeepSeek時(shí)刻:技術(shù)—傳播—社會(huì)(TCS)框架與主流化鴻溝的跨越 [J/OL]. 新疆師范大學(xué)學(xué)報(bào) (哲學(xué)社會(huì)科學(xué)版),2025(4):103-113 [2025-02-26]. https://doi.org/10.14100/j.cnki.65-1039/g4.20250218.001.
④ LEVINSON P. Toy, mirror, and art: the metamorphosis oftechnological culture [J]. ETC: a review of general semantics,1977, 34 (2): 151-167.
⑤ 方興東,鐘祥銘.互聯(lián)網(wǎng)平臺(tái)反壟斷的本質(zhì)與對(duì)策 [J]. 現(xiàn)代出版, 2021 (2):37-45.
⑥ CHU Z, GIANVECCHIO S, WANG H, et al. Detecting automationof twitter accounts: are you a human, bot, or cyborg? [J]. IEEEtransactions on dependable and secure computing, 2012, 9 (6):811-824.
⑦ WOJCIK S. 5 things to know about bots on Twitter [EB/OL].(2018-04-09) [2025-02-22]. https://www.pewresearch.org/facttank/2018/04/09/5-things-to-know-about-bots-on-twitter/.
⑧ 騰訊云.【獨(dú)家解讀】2018 惡意機(jī)器流量報(bào)告 [ E B / O L ] . ( 2 0 1 8 -06-22) [2025-02-24]. https://cloud.tencent.com/developer/article/1151122.
⑨ 師文, 陳昌鳳. 分布與互動(dòng)模式:社交機(jī)器人操縱Twitter上的中國(guó)議題研究 [J]. 國(guó)際新聞界, 2020, 42 (5): 61-80.
⑩ FERRARA E, CHANG H, CHEN E, et al. Characterizing socialmedia manipulation in the 2020 US presidential election [J]. FirstMonday, 2020, 25 (11): 211-236.
? NewsGuard. Tracking AI-enabled misinformation: 1,254“Unreliable AI-Generated News”websites (and counting),plus the top 1 narratives generated by artificial intelligencet o o l s.[E B/O L].(2023-12-18)[2025-02-22]. h t t p s://w w w.newsguardtech.com/special-reports/ai-tracking-center/.
? HVITVED S. What if 99% of the metaverse is made by AI? [EB/OL].(2022-02-24)[2025-02-23].https://cifs.dk/news/what-if-99-of-the-metaverse-is-made-by-ai/.
? 黃浩宇, 方興東, 王奔. 中國(guó)網(wǎng)絡(luò)輿論30年:從內(nèi)容驅(qū)動(dòng)走向數(shù)據(jù)驅(qū)動(dòng) [J].傳媒觀察, 2023 (10): 34-40.
? 赫拉利. 未來(lái)簡(jiǎn)史 [M]. 林俊宏, 譯. 北京: 電子工業(yè)出版社, 2017: 357.
? 鄭永年.“第四次工業(yè)革命”與人類社會(huì)的政治秩序 [J]. 現(xiàn)代國(guó)際關(guān)系,2024 (12): 5-18+144.
? 譚九生, 楊建武. 人工智能技術(shù)的倫理風(fēng)險(xiǎn)及其協(xié)同治理 [J]. 中國(guó)行政管理, 2019 (10): 44-50.
? DeepSeek-AI.DeepSeek-R1 [EB/OL]. (2025-01-23)[2025-02-21]. https://github.com/DeepSeek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf.
? 劉昶, 金之玥. 個(gè)人信息保護(hù)與平臺(tái)權(quán)力制約:傳播學(xué)視角下的歐洲經(jīng)驗(yàn)[J]. 現(xiàn)代出版, 2021 (6): 56-64.
? F i s h e r A I.D e e p S e ek模型發(fā)布和重大事件時(shí)間線一覽 [E B/O L].(2025-02-08)[2025-02-21]. https://fisherdaddy.com/posts/DeepSeek-model-publish-timeline/.
? DALEY D, AGRAWAL R, SARBORARIA M, et al. Revisiting opensource [J]. International in-house counsel journal, 2017, 11: 1.
? 徐天意. 生成式人工智能開源的風(fēng)險(xiǎn)挑戰(zhàn)及其未來(lái)應(yīng)對(duì): 基于馬克思主義技術(shù)批判的分析 [J]. 武漢理工大學(xué)學(xué)報(bào) (社會(huì)科學(xué)版), 2024, 37 (4):8-14.
? 鄧建鵬, 趙治松. De e p S e e k 的破局與變局:論生成式人工智能的監(jiān)管方向 [J/O L]. 新疆師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2025(4):68-77 [2025-02-26].h t t p s://d o i.o r g/10.14100/j.c n k i.65-1039/g4.20250214.001.
? MAYER-SCH?NBERGER V,CUKIER K.Big data: a revolutionthat will transform how we live, work, and think [M].Boston:Houghton Mifflin Harcourt, 2013:91.
?? 迪克, 普爾, 德瓦爾. 平臺(tái)社會(huì):互聯(lián)世界中的公共價(jià)值 [M]. 孟韜, 譯.大連: 東北財(cái)經(jīng)大學(xué)出版社, 2023: 29; 29.
? NAGLI G. Wiz research uncovers exposed DeepSeek databaseleaking sensitive information, including chat history [EB/OL].(2025-01-29)[2025-02-21].h t t p s://www.w i z.i o/b l o g/w i zresearch-uncovers-exposed-deepseek-database-leak.
? ZHAO W X, ZHOU K, LI J, et al. A survey of large language models[J] .arXiv preprint arXiv: 2303. 18223, 2023.
? 喻國(guó)明, 金麗萍. 生成式媒介的極致優(yōu)化:De e p S e ek對(duì)傳播生態(tài)的系統(tǒng)性影響 [J/OL]. 新疆師范大學(xué)學(xué)報(bào) (哲學(xué)社會(huì)科學(xué)版), 2025 (4):114-122 [2025-02-26]. h t t p s://d o i.o r g/10.14100/j.c n k i.65-1039/g4.20250221.001.
? 姬德強(qiáng), 應(yīng)志慧. 重思“輿情”: 平臺(tái)化時(shí)代的輿論 [J]. 現(xiàn)代傳播 (中國(guó)傳媒大學(xué)學(xué)報(bào)), 2020, 42 (2): 49-54.
? 張志安, 冉楨. 中國(guó)互聯(lián)網(wǎng)平臺(tái)治理:路徑、效果與特征 [J]. 新聞與寫作,2022 (5): 57-69.
? 胡泳. 人工智能驅(qū)動(dòng)的虛假信息:現(xiàn)在與未來(lái) [J]. 南京社會(huì)科學(xué), 2024(1): 96-109.
? CHESNEY R, CITRON D. Deepfakes and the new disinformationwar: the coming age of post-truth geopolitics [J]. Foreign affairs,2019, 98 (1): 147.
? 習(xí)近平. 加快推動(dòng)媒體融合發(fā)展 構(gòu)建全媒體傳播格局 [J]. 求是, 2019(6): 4-8.
? MALEKI N, PADMANABHAN B, DUTTA K. AI hallucinations: amisnomer worth clarifying [C]. 2024 IEEE conference on artificialintelligence (CAI). IEEE, 2024: 133-138.
? JI Z, LEE N, FRIESKE R, et al. Survey of hallucination innaturallanguae generation [J]. ACM computing surveys, 2013 (12):1-38.
? ATHALURI S A, MANTHENA S V, KESAPRAGADA V S R KM, et al. Exploring the boundaries of reality: investigating thephenomenon of artificial intelligence hallucination in scientificwriting through ChatGPT references [J]. Cureus, 2023, 15 (4):e37432.
? SUN Y, SHENG D, ZHOU Z, et al. AI hallucination: towards acomprehensive classification of distorted information in artificialintelligence-generated content [J]. Humanities and socialsciences communications, 2024, 11 (1): 1-14.
? Vectara. Hallucination Leaderboard [EB/OL].(2020-03-13) [2025-03-10]. https://github. com/vectara/hallucinationleaderboard.。
? 張?jiān)姮帲?沈陽(yáng). Sora:傳媒生態(tài)鏡像進(jìn)化與認(rèn)知變革 [J]. 編輯之友, 2024(6): 53-60.
? 李斯揚(yáng). 歷史終結(jié)于無(wú)維之境及其后: 弗魯塞爾的技術(shù)圖像論與后歷史哲學(xué) [J]. 國(guó)際新聞界, 2023, 45 (6): 144-166.
? COLLINGRIDGE D. The social control of technology [M].London:Frances Pinter,1980: 16.
? 甘麗華, 克里斯琴斯. 全球媒介倫理及技術(shù)化時(shí)代的挑戰(zhàn): 克利福德·克里斯琴斯學(xué)術(shù)訪談 [J]. 新聞?dòng)浾撸?2015 (7): 4-14.
? 鄭永年.“第四次工業(yè)革命”與人類社會(huì)的政治秩序 [J]. 現(xiàn)代國(guó)際關(guān)系,2024 (12): 5-18+144.
? HEAVENARCHIVE W D.Geoffrey Hinton tells us why he’snow scared of the tech he helped build [EB/OL]. (2023-05-02)[2025-02-23] h t t p s://w w w. t e c h n o l o g y r e v i e w. c o m/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/.
? 高文. 搶抓人工智能發(fā)展的歷史性機(jī)遇: 深刻領(lǐng)會(huì)習(xí)近平總書記關(guān)于人工智能的重要論述 [N]. 人民日?qǐng)?bào), 2025-02-24 (9).
? 王奔, 方興東, 鐘祥銘. DeepSeek效應(yīng):科技創(chuàng)新的技術(shù)—資本—政治(TCP)范式與路徑選擇 [J/OL]. 青年記者, 2025(3):51-60[2025-02-26].https://doi.org/10.15997/j.cnki.qnjz.20250221. 001.