鄒 軍 劉 敏

一、引言

人們真正認(rèn)識(shí)宣傳始于第一次世界大戰(zhàn)期間,其時(shí)各種宣傳策略被廣泛使用,并取得了顯著的效果。拉斯韋爾將宣傳定義為“通過操縱表述以影響人類行為的技巧”①,揭示了宣傳的本質(zhì)就是符號(hào)操縱,是借助符號(hào)對(duì)社會(huì)進(jìn)行控制的手段?；仡櫺麄鞯臍v史不難發(fā)現(xiàn),每當(dāng)有新的傳播媒介問世和普及,一股新的宣傳浪潮就會(huì)隨之而來——無論是報(bào)刊、電影、廣播還是電視,都被充分地用于宣傳?；ヂ?lián)網(wǎng)自20世紀(jì)90年代商業(yè)化以來,經(jīng)過短短30年的發(fā)展,已成為信息傳播和社會(huì)交往的重要場所,是輿論呈現(xiàn)的絕佳之地,也是各種勢力開展宣傳的主陣地。近年來,伴隨社交媒體的興起,一種依托于社交媒體平臺(tái)的新宣傳方式——“計(jì)算宣傳”(computational propaganda)應(yīng)運(yùn)而生。美國華盛頓大學(xué)的塞繆爾·伍利(Samuel Woolley)和英國牛津大學(xué)的菲利普·霍華德(Philip N.Howard)于2016年聯(lián)合發(fā)表題為《政治傳播、計(jì)算宣傳和自主代理》的文章,將計(jì)算宣傳界定為“社交媒體平臺(tái)、自主代理、算法和旨在操縱輿論的大數(shù)據(jù)的組合”②。數(shù)據(jù)顯示,在2016年美國總統(tǒng)大選期間,可能有超過1.5億人受到俄羅斯宣傳活動(dòng)的影響③,使用社交媒體進(jìn)行計(jì)算宣傳和傳播政治虛假信息的國家和政黨數(shù)量逐年增長,計(jì)算宣傳的工具和技術(shù)已經(jīng)成為政治和公共外交等領(lǐng)域必不可少的組成部分④。

計(jì)算宣傳在政治傳播等領(lǐng)域得到了廣泛應(yīng)用,以至于要理解當(dāng)代政治和社會(huì)傳播,就必須研究計(jì)算宣傳以及與之相關(guān)的算法、自動(dòng)化政治等。國外關(guān)于計(jì)算宣傳的研究往往以某個(gè)國家為研究對(duì)象,分析該國家計(jì)算宣傳呈現(xiàn)的特征及帶來的危害。⑤如牛津大學(xué)互聯(lián)網(wǎng)研究所(Oxford Internet Institute,簡稱OII)關(guān)于世界各地計(jì)算宣傳案例的研究報(bào)告認(rèn)為,基于計(jì)算宣傳的社交媒體操縱可以追溯到21世紀(jì)初,主要表現(xiàn)為政府參與和組織的造謠活動(dòng)。⑥就影響而言,國外學(xué)者普遍認(rèn)為計(jì)算宣傳在破壞民主的同時(shí),會(huì)摧毀法治、選舉自由和禁止操縱選民等公共價(jià)值觀,全世界的政治話語也因此正在被改變。⑦諸多事實(shí)證實(shí)政治行動(dòng)者利用算法技術(shù)和政治機(jī)器人試圖操控公眾輿論,但他們對(duì)這些工具的運(yùn)作也不能完全控制。⑧

從國內(nèi)研究情況看,計(jì)算宣傳的影響最受關(guān)注,如歐亞、夏玥等指出計(jì)算宣傳在全球范圍內(nèi)已經(jīng)得到普遍應(yīng)用并顯現(xiàn)出潛在威脅,國際傳播遭遇新挑戰(zhàn)⑨；羅昕、張夢等認(rèn)為計(jì)算宣傳在西方已成為操縱輿論的重要方式,政治人物利用它幫助實(shí)現(xiàn)自身政治目的⑩；史安斌、楊晨晞通過分析“信息疫情”與計(jì)算宣傳的關(guān)聯(lián),發(fā)現(xiàn)計(jì)算宣傳會(huì)加速“信息疫情”的蔓延。至于計(jì)算宣傳的具體運(yùn)作,多數(shù)研究將其與社交媒體操縱聯(lián)系在一起。如駱正林、曹鉞從主體性、主體間性與人機(jī)關(guān)系三個(gè)維度批判社交媒體機(jī)器人假新聞的“遠(yuǎn)距離操縱”、數(shù)字勞工以及交流中介角色；張洪忠等則指出政治機(jī)器人的輿論干預(yù)突出體現(xiàn)在政治選舉、社會(huì)動(dòng)員、政治干擾三種應(yīng)用場景；盧林艷等借助社交媒體賬號(hào)的元特征、網(wǎng)絡(luò)特征、內(nèi)容特征、時(shí)間特征等分析社交機(jī)器人的行為特征,發(fā)現(xiàn)社交機(jī)器人更接近喧嘩的大眾,發(fā)聲的目的不是創(chuàng)造某種觀點(diǎn),而是讓某種觀點(diǎn)變得引人矚目或者通過關(guān)注特定話題模糊視線。

梅羅維茨指出：“電子媒介打破了傳統(tǒng)的情境定義,使得私人情境和公共場所的界限變得模糊,從而使人們的社會(huì)行為和角色都發(fā)生了相應(yīng)的變化?！鄙缃幻襟w的興起進(jìn)一步打破了公域和私域的界限,為計(jì)算宣傳手段的更新迭代提供了合適的傳播情境，其影響與日俱增。面對(duì)這一現(xiàn)象,我們有必要將目光投注到這一尚在發(fā)展的宣傳實(shí)踐,探討全球計(jì)算宣傳呈現(xiàn)的新態(tài)勢,分析其多層面的影響,并提出治理之策。

二、計(jì)算宣傳更新了社交媒體操縱的手段

社交媒體操縱是一系列相關(guān)操縱技術(shù)的集合,“監(jiān)視”與“控制”是其主要形式,包括使用邏輯謬誤、心理操縱、虛假信息、修辭和宣傳技巧,通過排擠信息或?qū)褂^點(diǎn)來壓制對(duì)方意見,誘導(dǎo)他人或群體停止聽取對(duì)方論點(diǎn),將受眾注意力轉(zhuǎn)移到操縱者設(shè)置的議題上。相較于傳統(tǒng)的社交媒體操縱,作為智能時(shí)代產(chǎn)物的計(jì)算宣傳大大拓展了社交媒體操縱的邊界和影響范圍,對(duì)于信息傳播的破壞和操縱更隱蔽、更復(fù)雜,也更具誤導(dǎo)性和沖突性。計(jì)算宣傳超越了以往任何一種媒體操縱方式,呈現(xiàn)出如下態(tài)勢:

(一)信息操縱更加隱蔽與不可控

社交媒體匿名機(jī)制和網(wǎng)絡(luò)平臺(tái)取代了傳統(tǒng)把關(guān)人,媒體操縱顯得更為隱蔽。相較于單純依靠社交機(jī)器人驅(qū)動(dòng)的操縱方式而言,計(jì)算宣傳更擅長使用算法技術(shù)、自動(dòng)化加人工管理技術(shù),有目的地在社交網(wǎng)絡(luò)上散布誤導(dǎo)性信息而非單純的人際互動(dòng)。一般而言,社交機(jī)器人的運(yùn)行邏輯以社交關(guān)系為主,能夠在短時(shí)間內(nèi)依托真實(shí)用戶的社交網(wǎng)絡(luò)加速噪音信息的傳播。但社交機(jī)器人只是計(jì)算宣傳的一部分,且依然是對(duì)人類行為的模仿而非超越,而算法技術(shù)的超級(jí)計(jì)算能力和社交媒體中的海量信息結(jié)合在一起,可精準(zhǔn)地向具體的人提供量身定制的信息。可以說,計(jì)算宣傳的威力遠(yuǎn)超單純依賴社交機(jī)器人的輿論操縱。由于普通用戶對(duì)于算法技術(shù)和大數(shù)據(jù)技術(shù)存在一定程度的知識(shí)盲區(qū),因而在輿論發(fā)酵之初借助自動(dòng)化信息為用戶設(shè)置政治議題,就可以塑造一種虛假的社會(huì)共識(shí)和媒介真實(shí),讓用戶誤以為所有的信息都來自自己的個(gè)人網(wǎng)絡(luò),即家人、親戚和朋友。例如,當(dāng)大量的機(jī)器人被用來跟蹤、轉(zhuǎn)發(fā)或點(diǎn)贊某候選人的內(nèi)容時(shí),這位候選人就看起來比實(shí)際情況更容易得到廣泛支持。這將帶來所謂“媒介等同”(media equation)效果,即用戶下意識(shí)地對(duì)社交媒體的自動(dòng)化信息做出社會(huì)性反應(yīng)——理性被壓制,錯(cuò)誤信息像病毒一樣在網(wǎng)絡(luò)社區(qū)中傳播。計(jì)算宣傳對(duì)社交媒體用戶的操縱正是利用虛擬社區(qū)缺乏集中控制的特點(diǎn),通過自動(dòng)化的數(shù)據(jù)生成來傳播充滿偏見的信息。至于輿論大規(guī)模擴(kuò)散時(shí)期,計(jì)算宣傳基于協(xié)同過濾機(jī)制將“政治模因”(meme,類似中文的“梗”)推薦給宣傳對(duì)象,再經(jīng)過用戶的大規(guī)模轉(zhuǎn)發(fā),其傳播效率和影響力都很驚人。在整個(gè)操縱過程中,計(jì)算宣傳不易被監(jiān)測到,人們也無法簡單地了解他們的范圍和規(guī)模,這為有效預(yù)防和抵制計(jì)算宣傳帶來了挑戰(zhàn)。

(二)欺騙和誤導(dǎo)更快、更智能

社交媒體的興起與通信技術(shù)的可供性激發(fā)了人們參與政治生活的熱情,也為進(jìn)一步釋放集體行動(dòng)和話語表達(dá)的潛力提供了可能。深度學(xué)習(xí)和智能算法讓社交機(jī)器人的速度變得更快,更能理解人類互動(dòng)。正因如此,網(wǎng)絡(luò)空間的決策權(quán)和選擇權(quán)逐步讓位于計(jì)算宣傳主導(dǎo)下的社交機(jī)器人,人的主體性與權(quán)威性被大大降低。盡管假新聞、假賬戶等都可以成為計(jì)算宣傳操縱的手段,但社交機(jī)器人仍是最常用的方式。當(dāng)社交機(jī)器人逐漸以“類人化”的方式去制造虛擬賬號(hào)并進(jìn)行傳播時(shí),計(jì)算宣傳就可以在無形之中滲透到虛擬空間的每一個(gè)角落,“機(jī)器水軍”成為驅(qū)動(dòng)社交網(wǎng)絡(luò)的決定性力量。2016 年美國總統(tǒng)大選期間,機(jī)器人不僅生成的選舉推文數(shù)量比其他類型的推文高得多,而且主要在操縱者所設(shè)定的政治框架內(nèi)發(fā)布推文(左傾和右傾社區(qū)都超過80%)。這被視為計(jì)算宣傳實(shí)施大規(guī)模欺騙的重大勝利,亦是社交媒體操縱使用計(jì)算宣傳方式的分水嶺。計(jì)算宣傳在引導(dǎo)公眾情緒、操縱輿論和規(guī)避法律程序方面發(fā)揮著越來越重要的作用,尤其表現(xiàn)在數(shù)字民主和選舉方面,由軟件驅(qū)動(dòng)的自動(dòng)化系統(tǒng)掌握著政治交流和民主進(jìn)程的命脈。除此之外,社交平臺(tái)本身的開放性和低門檻讓政治性媒介操縱更易成為誤導(dǎo)其他國家的工具。有西方國家借助計(jì)算宣傳在敵對(duì)國家的社交媒體大肆散播虛假信息,致使對(duì)方輿論環(huán)境復(fù)雜化。例如假借互聯(lián)網(wǎng)自由的名義開展了包括“藪貓項(xiàng)目”(The Serval Project,即突破互聯(lián)網(wǎng)防火墻的限制,在沒有基礎(chǔ)設(shè)施、無線發(fā)射塔、衛(wèi)星、無線接入點(diǎn)及載波的情況下實(shí)現(xiàn)無處不在、無時(shí)不有的通訊,支持各種手機(jī)終端)在內(nèi)的綜合破網(wǎng)工程,在全球范圍內(nèi)借助社交機(jī)器人傳播本國的價(jià)值觀,通過網(wǎng)絡(luò)虛擬機(jī)器人自動(dòng)發(fā)帖倒灌政治謠言和情緒滲透,在社交媒體以最短時(shí)間聚集最多的參與者,再借助圈層傳播的力量動(dòng)員并串聯(lián)集體行動(dòng)來誤導(dǎo)公眾,為其推行霸權(quán)主義和強(qiáng)權(quán)政治服務(wù)。

(三)“巨魔部隊(duì)”越來越組織化和政治化

“巨魔部隊(duì)”(troll armies)最初被定義為“那些故意誘使人們產(chǎn)生情緒反應(yīng)的人”?！熬弈Р筷?duì)”與“網(wǎng)絡(luò)水軍”的概念較為接近,意指受雇于政府、軍隊(duì)或政黨,通過社交媒體操縱公眾輿論,傳播政治觀點(diǎn)和干擾決策的類軍事化組織。越來越多的“巨魔部隊(duì)”利用計(jì)算宣傳的高智能性,參與到重大政治事件的進(jìn)程中。他們采用自動(dòng)化和人機(jī)交互組合的方式躲避平臺(tái)的限制和偵查,使得帶有政治意圖的操縱更為靈活和復(fù)雜。政治行動(dòng)者通過“巨魔部隊(duì)”能夠大規(guī)模地生產(chǎn)出充滿強(qiáng)烈怨恨和反對(duì)的信息,如歐盟研究發(fā)現(xiàn)由俄羅斯國家機(jī)構(gòu)雇用的“巨魔部隊(duì)”,一直在社交媒體上積極評(píng)論和張貼內(nèi)容,服務(wù)于克里姆林宮的政治議程。人們越來越認(rèn)識(shí)到,政治情感的喚起并非基于理性,而是由發(fā)自內(nèi)心的經(jīng)驗(yàn)情感和想象中的對(duì)錯(cuò)意識(shí)形成的,這給了“巨魔部隊(duì)”更多信心。近年來,大量“巨魔部隊(duì)”從準(zhǔn)軍事單位轉(zhuǎn)變?yōu)榕c政府簽訂合同的戰(zhàn)略傳播公司,對(duì)社交媒體的操縱也逐漸演變成越來越組織化、政治化的活動(dòng),“巨魔”儼然成為仇恨言論和騷擾的代名詞。早在2015年,英國陸軍第77旅就宣布將在社交網(wǎng)絡(luò)上通過控制信息的敘事方式與敵人作戰(zhàn)。一項(xiàng)研究表明,全球有30個(gè)政府(在該研究涵蓋的65個(gè)政府中)雇傭“鍵盤軍”(即巨魔部隊(duì))進(jìn)行宣傳和攻擊批評(píng)者。“巨魔部隊(duì)”通過強(qiáng)調(diào)悲情來喚起情感,從而加深群體與群體之間的沖突。不僅如此,“巨魔”制造的虛假信息在危機(jī)時(shí)期得到迸發(fā)式增長,即便在新冠肺炎大流行期間也不例外。有研究者指出,信息需求的急劇增加和民粹主義的暗流涌動(dòng)為計(jì)算宣傳奠定了理想環(huán)境。在這種高風(fēng)險(xiǎn)情況下,信息景觀操縱的下游效應(yīng)可能表現(xiàn)為態(tài)度和行為,個(gè)體對(duì)他人的想法或群體的行為模式缺乏了解,網(wǎng)絡(luò)空間的對(duì)立沖突時(shí)有發(fā)生,且呈愈演愈烈之勢。

四、計(jì)算宣傳的多層面影響

盡管計(jì)算宣傳亦可用于尋求建設(shè)性的公共服務(wù)、改善新聞業(yè)和產(chǎn)生公共知識(shí),但計(jì)算宣傳帶來的更多是深刻的政治動(dòng)蕩和倫理問題。對(duì)網(wǎng)絡(luò)信息進(jìn)行戰(zhàn)略性操縱以行使政治權(quán)力,已成為21世紀(jì)公眾輿論形成的一個(gè)關(guān)鍵問題,相關(guān)文獻(xiàn)也顯示出多項(xiàng)政治活動(dòng)與計(jì)算宣傳有關(guān)。當(dāng)虛假新聞內(nèi)容得到自動(dòng)化支持并通過不透明的算法以預(yù)先編程的方式來傳播時(shí),政治行動(dòng)者便擁有一套強(qiáng)大的計(jì)算宣傳工具。而這一操縱方式又常常與虛假新聞、后真相政治、社交媒體相勾連,讓計(jì)算宣傳的影響滲透到包括政治在內(nèi)的多個(gè)領(lǐng)域。這些影響往往從控制個(gè)體的認(rèn)知開始,進(jìn)而擴(kuò)展至網(wǎng)絡(luò)輿論,然后產(chǎn)生對(duì)現(xiàn)實(shí)政治的影響。

(一)個(gè)人層面:引發(fā)“孤島行動(dòng)主義”

總部設(shè)在美國的咨詢研究機(jī)構(gòu)——未來研究所(Institute for the Future,是不以營利為目的的智囊團(tuán),旨在幫助組織規(guī)劃長期未來,簡稱IFTF)數(shù)字智能實(shí)驗(yàn)室主任塞繆爾·伍利博士說:“計(jì)算宣傳的目的不僅是讓不受歡迎的意見在社交媒體對(duì)話中顯得更受歡迎,它還使民主運(yùn)作不可或缺的群體保持沉默和分裂?！遍L此以往,社交媒體在深化公民參與和改變民主方面的理想主義觀點(diǎn)被計(jì)算宣傳的惡意活動(dòng)所重創(chuàng)。不僅如此,受“后真相”病灶影響,假新聞傳播呈幾何式增長,計(jì)算宣傳與“后真相政治”交織后更顯強(qiáng)大,而公民力量和對(duì)抗精神卻越來越單薄。

1.虛假信息泛濫搭建思想“牢籠”

在 2011年的阿拉伯之春、2012年的墨西哥選舉、2013年的波士頓馬拉松和2014年的土耳其選舉期間,人工智能與計(jì)算宣傳技術(shù)尚未成熟,社交媒體操縱相對(duì)來說還比較容易被監(jiān)測。隨著深度偽造(deep fake)技術(shù)的不斷成熟,信息和視頻更容易被篡改,計(jì)算宣傳制造的虛假信息也更加隱蔽。心理學(xué)研究顯示,人們在無法找到最佳解決方案或者在處理復(fù)雜數(shù)據(jù)時(shí),傾向于放棄復(fù)雜分析過程,依賴思維捷徑做快速判斷。在這種情況下,一些惡意行動(dòng)者通過計(jì)算宣傳控制社交媒體,創(chuàng)造圍繞目標(biāo)群體的媒體幻影,極易導(dǎo)向錯(cuò)誤的結(jié)論,造成以訛傳訛。與此同時(shí),計(jì)算宣傳借助平臺(tái)匿名機(jī)制制造自動(dòng)賬號(hào)或虛假角色來傳播的假新聞更能促成主流觀點(diǎn)的形成,讓受眾產(chǎn)生“人為共識(shí)”的錯(cuò)覺。自從“深偽”開始用于計(jì)算宣傳以來,社交機(jī)器人不僅可以在社交平臺(tái)發(fā)布最新報(bào)道,也能發(fā)送大量的陰謀論和宣傳性內(nèi)容,將偽造的信息與虛假的權(quán)威勾連,使其具有誤導(dǎo)、誤傳和操縱信息的空前潛力。面對(duì)虛假信息的泛濫和算法推薦的廣泛采用,民眾容易陷入已有認(rèn)知的“信息繭房”,無形中受困于思想牢籠。當(dāng)某些事件觸及到不同人群的認(rèn)知分歧時(shí),情緒就會(huì)被不斷放大并通過圈層傳播在網(wǎng)絡(luò)空間回蕩,最終出現(xiàn)群體極化效應(yīng)。

2.民族主義“巨魔”壓制個(gè)人言論

有研究顯示,至少從2012年起,機(jī)器人就被用于在Twitter等社交媒體上騷擾記者和攻擊持不同政見者。如今,越來越多的國家和政府熱衷于在社交媒體展開政治行動(dòng)。為了更好地推動(dòng)輿論,設(shè)定政治或媒體議程,審查言論自由或控制在線信息流,操縱者依靠使用自動(dòng)化技術(shù)、算法和大數(shù)據(jù)分析的計(jì)算宣傳,雇傭大量的“巨魔部隊(duì)”有目的地分發(fā)虛假、誤導(dǎo)、捏造的內(nèi)容,影響或欺騙社交媒體用戶,將計(jì)算宣傳的政治屬性發(fā)揮到極致。“巨魔部隊(duì)”從事的計(jì)算宣傳擁有大量資金和資源,能夠通過高度協(xié)調(diào)的政府機(jī)構(gòu)傳播虛假信息并制造虛假共識(shí)?！熬弈Р筷?duì)”的強(qiáng)大威力不僅限制了言論自由,也幫助了黨派極端分子、國家情報(bào)機(jī)構(gòu)和恐怖分子提升自我宣傳能力并攻擊客觀報(bào)道理念,削弱公眾對(duì)媒體機(jī)構(gòu)的信任,從而降低民主的質(zhì)量。有研究者認(rèn)為,在2016年菲律賓選舉中,民粹主義領(lǐng)導(dǎo)人羅德里戈·杜特爾特(Rodrigo Duterte)的勝利正是得益于“巨魔部隊(duì)”誘導(dǎo)下草根階層的支持和虛假的媒介形象的營造。社交媒體的商業(yè)性使得影響意見的權(quán)力始終掌握在擁有最大傳播權(quán)的個(gè)人或者組織手上。正如伯奈斯(Bernays) 所說:“在我們生活的幾乎每一個(gè)行為中,無論是在政治或商業(yè)領(lǐng)域,在我們的社會(huì)行為或我們的倫理思想中,我們都被相對(duì)較少的人所支配……他們了解心理過程和社會(huì)運(yùn)動(dòng)的模式。正是他們拉動(dòng)了控制公眾思想的電線,他們利用舊的社會(huì)力量并設(shè)計(jì)出新的方式來約束和引導(dǎo)世界?！痹谀撤N意義上,只要能夠控制“巨魔部隊(duì)”,就能控制人們看到的信息。在計(jì)算宣傳時(shí)代,正是少數(shù)操縱者利用社會(huì)裂痕和“巨魔部隊(duì)”的話語擴(kuò)散參與話題討論和輿論發(fā)酵,從而擠壓個(gè)人言論自由和話語表達(dá)的空間。

(二)群體層面:信息聚集下的輿論偏向

計(jì)算宣傳對(duì)個(gè)人言論和思想的壓制必然引發(fā)群體效應(yīng)。表面上看,社交機(jī)器人和“巨魔部隊(duì)”被部署從事傳遞信息和通信之類的合法工作,但受操控的信息大規(guī)模聚集便會(huì)成為加強(qiáng)計(jì)算宣傳和仇恨運(yùn)動(dòng)的有效工具。一些政府使用政治機(jī)器人偽裝成公民賬號(hào),發(fā)帖壓制反對(duì)者的聲音,尤其是在選舉期間會(huì)采取更加廣泛的部署,用虛假新聞報(bào)道、協(xié)調(diào)造謠運(yùn)動(dòng)和“巨魔”等計(jì)算宣傳的關(guān)鍵要素，攻擊人權(quán)捍衛(wèi)者、民間社會(huì)團(tuán)體和記者,試圖左右選票或者誹謗批評(píng)者。這些自動(dòng)化傳播行為的影響常常難以察覺,經(jīng)過社交媒體的放大,極易在群體層面帶來情緒對(duì)立和輿論失焦的效果。

1.破壞性宣傳削弱網(wǎng)絡(luò)空間的公共性

互聯(lián)網(wǎng)最初被視為一種推動(dòng)民主化進(jìn)程的設(shè)施,但是伴隨社交媒體的興起,去中心化的公共領(lǐng)域“烏托邦”被擊碎。以平臺(tái)為中介的計(jì)算宣傳受到社交媒體運(yùn)作的規(guī)訓(xùn),商業(yè)目的和政治意圖的操縱亦會(huì)干擾受眾對(duì)真相的判斷?！跋热霝橹鳌钡氖滓蛐?yīng)讓計(jì)算宣傳的觀點(diǎn)和主張具有很強(qiáng)的導(dǎo)向性,加之議程設(shè)置的助推,操縱者主導(dǎo)的意見能夠形成強(qiáng)大的輿論聲勢,使其在短時(shí)間內(nèi)就能占領(lǐng)社交媒體陣地。杰森·斯坦利(Jason Stanly)認(rèn)為計(jì)算宣傳不是簡單地通過訴諸情感來結(jié)束理性辯論,也可以通過破壞性宣傳來干擾理性辯論,而這種破壞性宣傳需要通過另外一種理性的失敗得以證明,即通過證偽來傳播情緒,它更像是用“脫離他們思想的情感”來結(jié)束辯論。比如宣傳人員會(huì)使用機(jī)器人對(duì)人類用戶(如記者、維權(quán)人士和專家)進(jìn)行大規(guī)模的攻擊,并建構(gòu)和他們觀點(diǎn)相矛盾的競爭網(wǎng)絡(luò)。換句話說,這種宣傳策略是通過不同觀點(diǎn)的數(shù)量而非質(zhì)量來削減主流意見的可信度。計(jì)算宣傳正是這樣一步步侵蝕公眾的正常認(rèn)知基礎(chǔ),改變輿論形成和演變的正常軌跡,使網(wǎng)絡(luò)空間的公共性進(jìn)一步被削弱。

2.視頻化運(yùn)作和擬人化傳播致使輿論失焦

社交媒體提供的海量信息導(dǎo)致人們對(duì)于環(huán)境的認(rèn)識(shí)碎片化,公共事務(wù)想要吸引受眾的注意力就需要具有較強(qiáng)的視覺要素,即形成聚光燈效應(yīng)。這一需求與計(jì)算宣傳的深度偽造趨勢剛好吻合。牛津互聯(lián)網(wǎng)研究所的計(jì)算宣傳研究報(bào)告作者之一——薩曼莎·布拉德肖(Samantha Bradshaw)曾表示：“以視覺內(nèi)容為目標(biāo)的互聯(lián)網(wǎng)用戶將使科技巨頭難以識(shí)別和禁止被操縱的內(nèi)容。”不僅如此,社交機(jī)器人為了應(yīng)對(duì)平臺(tái)反垃圾信息的制約和算法識(shí)別,往往會(huì)在一段時(shí)間內(nèi)做某種觀點(diǎn)的“擴(kuò)音器”而非“發(fā)起者”。他們會(huì)選擇另辟角度切入熱點(diǎn)使其不易成為輿論焦點(diǎn),讓其行為表現(xiàn)得更像大眾社會(huì)里孤立的個(gè)體而非機(jī)器人,從而躲避平臺(tái)監(jiān)管。視頻化運(yùn)作和擬人化傳播使得計(jì)算宣傳更不易被觀測到,前者會(huì)分散受眾的注意力,后者可加劇網(wǎng)絡(luò)輿論情緒化、輿論話題多元化,并逐漸偏離事件的中心議題。這種情緒極化帶來的認(rèn)知趨同性還易招致利益泛化,增加了主流輿論演化的不確定性和復(fù)雜性。

(三)從國內(nèi)到國際:溢出國界的政治風(fēng)險(xiǎn)

牛津互聯(lián)網(wǎng)研究所發(fā)布的2020年媒體操縱調(diào)查顯示,有61個(gè)國家(地區(qū))的政黨或政客使用計(jì)算宣傳工具和技術(shù)作為其政治競選活動(dòng)的一部分。計(jì)算宣傳從誕生之初就自帶政治屬性,因?yàn)閷?duì)于政治人物而言,操縱輿論是實(shí)現(xiàn)政治目的最直接有效的途徑。據(jù)《紐約時(shí)報(bào)》報(bào)道,韓國國家檢察官曾指控韓國國家情報(bào)局特工發(fā)布120多萬條推特信息,旨在左右輿論并支持總統(tǒng)候選人樸槿惠。樸槿惠最終贏得了總統(tǒng)寶座,但負(fù)責(zé)機(jī)器人驅(qū)動(dòng)的情報(bào)局長被判入獄。簡言之,計(jì)算宣傳能夠成為左右國家選舉、煽動(dòng)公眾抗議、開展國際攻擊的有力武器。

1.“偽草根運(yùn)動(dòng)”淹沒真實(shí)政治對(duì)話

在某種意義上,政治格局的變遷造就了計(jì)算宣傳。近年來,越來越多的政黨通過社交網(wǎng)絡(luò)開展競選,宣傳自己的候選人或者特定的政治議題,制造“偽草根運(yùn)動(dòng)”(astroturfing):即讓政治機(jī)器人通過點(diǎn)贊或者分享故事制造虛假的受歡迎感或支持感。這種方式最常見于社交媒體中,僅僅在推特上就大約有3000萬活躍賬戶是機(jī)器人驅(qū)動(dòng)的,它們模仿人類用戶并生產(chǎn)豐富的內(nèi)容實(shí)現(xiàn)社交媒體操縱。而政治機(jī)器人主要有三種類型:(1)關(guān)注者機(jī)器人——用于提高政治人物的關(guān)注者數(shù)量,被動(dòng)地點(diǎn)贊或轉(zhuǎn)發(fā)內(nèi)容；(2)路障機(jī)器人——用來通過非傳統(tǒng)通信渠道發(fā)送與活動(dòng)分子或政治反對(duì)派相關(guān)的垃圾標(biāo)簽；(3)宣傳機(jī)器人——用來模仿人類,發(fā)出支持或反對(duì)信息的機(jī)器人。這三類政治機(jī)器人都被用來人為地提高政客的知名度,排擠網(wǎng)絡(luò)政治討論的合法參與者,最終以壓倒性規(guī)模淹沒網(wǎng)上關(guān)于政治的真實(shí)對(duì)話。當(dāng)政治機(jī)器人制造的虛假信息被大量支持時(shí),“偽草根運(yùn)動(dòng)”現(xiàn)象便會(huì)產(chǎn)生——偽造成自發(fā)涌現(xiàn)的公共輿論,強(qiáng)化草根群體對(duì)某些政治行動(dòng)者的刻板印象,通過“制造同意”產(chǎn)生“虛假民主”。不僅如此,一旦人工智能、自動(dòng)語音系統(tǒng)、機(jī)器學(xué)習(xí)等工具被廣泛運(yùn)用于社交媒體操縱,計(jì)算宣傳就擁有了對(duì)話性,政治機(jī)器人也會(huì)更加人性化,這時(shí)的操縱比任何時(shí)候都難以發(fā)現(xiàn),真實(shí)的政治對(duì)話被淹沒。

2.在線政治操縱制造網(wǎng)絡(luò)主權(quán)風(fēng)險(xiǎn)

社交媒體對(duì)政治參與的積極意義不言而喻,社交媒體的設(shè)計(jì)者們也一直遵循著這一自由愿景——思想自由、言論表達(dá)自由以及信息自由。但是隨著操縱手段的隱蔽性和智能化,幾乎所有社交平臺(tái)都在與操縱、極端主義內(nèi)容和不文明行為作斗爭。計(jì)算宣傳通過算法技術(shù)將新奇激進(jìn)的主張、激動(dòng)人心的新聞和斷言轉(zhuǎn)發(fā)給志同道合的小組成員加劇社會(huì)矛盾,“巨魔部隊(duì)”憑借其軍事化的統(tǒng)籌調(diào)度掀起“網(wǎng)絡(luò)戰(zhàn)”,用戶的假設(shè)和偏見在得到回應(yīng)和強(qiáng)化的同時(shí)降低了政治共識(shí)或妥協(xié)的可能性。有研究者指出,俄羅斯多年來一直在使用“巨魔部隊(duì)”來影響其他國家的事務(wù)。2014年,俄羅斯“巨魔”在網(wǎng)絡(luò)上發(fā)布大量親俄和反烏克蘭的帖子,進(jìn)一步讓烏克蘭人口實(shí)現(xiàn)分裂,以此作為促進(jìn)俄羅斯吞并克里米亞的一種手段。事實(shí)證明,利用計(jì)算宣傳來改變圍繞沖突的敘述可能有助于俄羅斯在烏克蘭盟友有限的報(bào)復(fù)下獲得這片領(lǐng)土。此外,“巨魔部隊(duì)”主導(dǎo)下的極端意見可以強(qiáng)化錯(cuò)誤信念:政治候選人、社會(huì)和政治話題、策略相關(guān)的虛假指控和陰謀論都被強(qiáng)化了。政治機(jī)器人與公民交流的“逐底競賽”(race to the bottom)會(huì)降低人的尊嚴(yán),改變以事實(shí)為基礎(chǔ)的社會(huì)對(duì)話方式,使日趨主觀的輿論環(huán)境得以形成。如果說政治操縱可以影響選民,針對(duì)他國的政治操縱就是對(duì)其網(wǎng)絡(luò)主權(quán)的侵犯,進(jìn)而威脅現(xiàn)實(shí)的國家安全。

3.全球網(wǎng)絡(luò)空間失序改變地緣政治格局

隨著逆全球化和國家間話語博弈的日益加劇,具備沖突性的計(jì)算宣傳變成了政治博弈的重要手段。一些政治勢力通過散布虛假信息試圖改變世界傳播格局,以掌控全球地緣政治的話語權(quán)。在信息地緣政治上,強(qiáng)國通過計(jì)算宣傳破壞國際議程和外交政策,這一策略在社交媒體匿名機(jī)制的運(yùn)作下更為隱蔽。當(dāng)前全球的網(wǎng)絡(luò)空間充滿著民粹主義、性別主義等極端思潮,僅2020 年,法國極右翼和極左翼民粹主義者在社交媒體上就發(fā)布了大量的誤導(dǎo)性信息,并將其變異成陰謀論和偽科學(xué),目標(biāo)直指政府和建制派。從空間維度上看,從事計(jì)算宣傳的組織遍布世界,僅菲律賓首都馬尼拉就有數(shù)百個(gè)“巨魔部隊(duì)”活躍在陰暗的網(wǎng)絡(luò)中,充當(dāng)網(wǎng)絡(luò)攻擊的武器。計(jì)算宣傳與極端情緒的雙重作用將政治焦慮不斷放大,激發(fā)用戶的非理性表達(dá),導(dǎo)致全球網(wǎng)絡(luò)空間失序。在這種情況下,信息地緣政治格局只會(huì)增加猜疑和分裂,致使“信息戰(zhàn)”更為激烈。

五、計(jì)算宣傳的治理路徑

計(jì)算宣傳與社交媒體“并駕齊驅(qū)”能夠賦予輿論操縱新的機(jī)會(huì)和想象力。用于計(jì)算宣傳的工具成為人類行為的腳手架,但它們的工作方式卻無法預(yù)測和控制,由此引發(fā)的后果常常難以預(yù)料,有時(shí)甚至超過始作俑者的設(shè)想。對(duì)計(jì)算宣傳的治理已成為全球互聯(lián)網(wǎng)治理的重要組成部分,亟需開辟有效治理的新路徑。

(一)構(gòu)建跨國合作的全球治理模式

計(jì)算宣傳是虛擬世界的“傳染病”。網(wǎng)絡(luò)傳播速度快,需盡快干預(yù)以防止惡意活動(dòng)蔓延,減少其對(duì)社會(huì)的危害?；ヂ?lián)網(wǎng)是典型的全球性市場,只有跨國合作的全球治理模式才能應(yīng)對(duì)計(jì)算宣傳不可控的風(fēng)險(xiǎn)和危害。全球治理模式的形成首先需要加強(qiáng)全球信息基礎(chǔ)設(shè)施建設(shè),促進(jìn)信息暢通,將網(wǎng)絡(luò)空間的治理主體拓展到由企業(yè)、非政府組織、國際機(jī)構(gòu)等組成的跨國社會(huì)網(wǎng)絡(luò),通過戰(zhàn)略互動(dòng),編織一個(gè)有效且穩(wěn)固的跨國行動(dòng)者合作網(wǎng)絡(luò)。這首先要求國際協(xié)議和國際公約鼓勵(lì)各國網(wǎng)絡(luò)法律法規(guī)的協(xié)調(diào),并尋求在應(yīng)對(duì)計(jì)算宣傳方面建立國家間的合作。早在三十多年前,經(jīng)濟(jì)合作與發(fā)展組織出版的《與計(jì)算機(jī)有關(guān)的犯罪:法律政策分析》就強(qiáng)調(diào)建立普通刑法和刑事訴訟法以保護(hù)國際數(shù)據(jù)網(wǎng)絡(luò)的重要性。如今,國家間的合作更顯必要。其次,國際政府與非政府組織要開展常態(tài)化的國際計(jì)算宣傳治理交流活動(dòng)。此外,鑒于從事計(jì)算宣傳的網(wǎng)絡(luò)部隊(duì)已經(jīng)從通常意義的軍事單位轉(zhuǎn)變?yōu)閼?zhàn)略傳播公司,這些企業(yè)作為計(jì)算宣傳的主體,應(yīng)按法律要求對(duì)計(jì)算宣傳的風(fēng)險(xiǎn)進(jìn)行專業(yè)評(píng)估,特別是關(guān)注如何保障社交媒體用戶數(shù)據(jù)跨境流動(dòng)的安全。這是全球治理的重要一環(huán),因?yàn)榇蠖鄶?shù)公共和私營部門共享著同一個(gè)封閉代碼軟件。

(二)建立節(jié)點(diǎn)治理與長效治理的協(xié)調(diào)機(jī)制

由于全球博弈的復(fù)雜性,制定基于各國網(wǎng)絡(luò)主權(quán)平等原則的、統(tǒng)一的計(jì)算宣傳治理規(guī)則在短時(shí)間內(nèi)尚難實(shí)現(xiàn),因而有必要采取“節(jié)點(diǎn)治理”策略應(yīng)對(duì)政治性操縱行動(dòng)。節(jié)點(diǎn)可以是任何機(jī)構(gòu)或組織,它們的界限可以是清楚的,也可以是模糊的；在組織上,它們可能是分散的或分等級(jí)的；它們可能包括個(gè)人、團(tuán)體、組織或國家；它們可以是大的或小的,緊密的或松散的,包容的或排他性的；它們可能只是偶爾從事類似活動(dòng)的業(yè)余人員,也可能是專業(yè)人士。當(dāng)計(jì)算宣傳破壞了正常的社交媒體秩序時(shí),節(jié)點(diǎn)會(huì)按照國家治理的基本規(guī)劃進(jìn)行針對(duì)性改造,這種治理也被稱為“協(xié)同治理”(coproduced governance)。它能夠從不同角度處理和看待事物,以便能夠在多利益相關(guān)方環(huán)境中進(jìn)行制衡,并分擔(dān)這項(xiàng)工作的集體責(zé)任。網(wǎng)絡(luò)和節(jié)點(diǎn)集合構(gòu)成了“實(shí)踐的臨時(shí)樞紐”,這種流動(dòng)性極強(qiáng)的權(quán)力網(wǎng)絡(luò)能夠更好地應(yīng)對(duì)計(jì)算宣傳的動(dòng)態(tài)化轉(zhuǎn)向。節(jié)點(diǎn)治理特征越明顯,在適當(dāng)條件下能夠?qū)股缃幻襟w操縱并以促進(jìn)公正和民主的方式來改變網(wǎng)絡(luò)關(guān)系的可能性就越大。在節(jié)點(diǎn)治理的同時(shí),應(yīng)逐步建立長效治理機(jī)制,協(xié)調(diào)運(yùn)行,以實(shí)現(xiàn)治理的常態(tài)化。

(三)實(shí)現(xiàn)線上線下聯(lián)動(dòng)的社交平臺(tái)監(jiān)管

網(wǎng)絡(luò)技術(shù)的全面普及以及社交媒體規(guī)模的持續(xù)擴(kuò)大為媒體操縱奠定了基礎(chǔ),而計(jì)算宣傳恰好利用了感知與現(xiàn)實(shí)之間的差異,將用戶對(duì)于社交媒體的信任轉(zhuǎn)換為政治操縱。整個(gè)網(wǎng)絡(luò)空間的計(jì)算宣傳威脅日益嚴(yán)峻,計(jì)算宣傳以其智能化、規(guī)?；?、隱匿性、攻擊性的特點(diǎn),令社交媒體操縱的防御和應(yīng)對(duì)面臨更大挑戰(zhàn)。考慮到社交媒體平臺(tái)在其中扮演的中介角色,應(yīng)采取激勵(lì)策略,賦予平臺(tái)更大責(zé)任,讓平臺(tái)樹立正確的價(jià)值導(dǎo)向,不給計(jì)算宣傳以有乘之機(jī)。只要平臺(tái)履行好把關(guān)人的角色,對(duì)數(shù)據(jù)流動(dòng)和信息內(nèi)容進(jìn)行監(jiān)測,及時(shí)鑒別、過濾并攔截非法信息,計(jì)算宣傳的危害就會(huì)大大減輕。與此同時(shí),法律法規(guī)的完善、行業(yè)組織和公眾的監(jiān)督等線下的監(jiān)管也要跟上,實(shí)現(xiàn)線上線下的聯(lián)動(dòng)。

(四)提升破除群體沉默和壓制的算法素養(yǎng)

在計(jì)算宣傳主導(dǎo)下的社交媒體操縱中,“算法黑箱”“信息繭房”等問題屢見不鮮,傳統(tǒng)媒體時(shí)期強(qiáng)調(diào)的媒介使用能力和素養(yǎng)已經(jīng)不能應(yīng)對(duì)“巨魔部隊(duì)”對(duì)個(gè)人言論自由的壓制,更不能應(yīng)對(duì)計(jì)算宣傳對(duì)正常的國際關(guān)系和民主進(jìn)程的破壞。即便各大社交媒體已經(jīng)在努力控制媒體操縱和虛假信息的傳播,真相的最終仲裁始終還需要用戶持續(xù)發(fā)力。因此,有必要將媒介素養(yǎng)替換成算法素養(yǎng),即媒介使用者在面對(duì)算法時(shí)的認(rèn)知、知識(shí)、想象和可能采取的策略。但現(xiàn)實(shí)并不容樂觀,有研究表明只有37%的用戶能夠察覺到臉書網(wǎng)站的新聞推送頁面背后有一套算法邏輯,因而各屆亟需加大對(duì)算法素養(yǎng)的關(guān)注,通過社會(huì)教育與學(xué)校教育并舉的方式培養(yǎng)人們評(píng)估在線內(nèi)容的數(shù)字技能,同時(shí)提高對(duì)互聯(lián)網(wǎng)信息流程和它的民主化潛力及結(jié)構(gòu)限制的認(rèn)知水平。從本質(zhì)上講,這種批判性的數(shù)字素養(yǎng)能夠幫助公眾對(duì)所見的內(nèi)容及背后的生產(chǎn)有更好的理解,從而有助于對(duì)抗計(jì)算宣傳的負(fù)面影響。

注釋:

① Marková,Ivana.PersuasionandPropaganda.Diogenes,vol.55,no.1,2008.p.41.

② Woolley,Samuel C.,Philip N.Howard.PoliticalCommunication,ComputationalPropaganda,andAutonomousAgents:Introduction.International Journal of Communication,vol.10,2016.p.3.

③ Bjola,Corneliu.PropagandaintheDigitalAge.Global affairs,vol.3,no.3,2017.p.189.

④ Arnaudo D.ComputationalPropagandainBrazil:SocialBotsDuringElections.Oxford:Computational Propaganda Project,Aguest,2017.p.1.

⑤ Bolsover,Gillian.ComputationalPropagandainChina:AnAlternativeModelofaWidespreadPractice.Oxford:Computational Propaganda Project,April,2017.pp.1-2.

⑥ Bradshaw,Samantha,Philip N.Howard.ChallengingTruthandTrust:AGlobalInventoryofOrganizedSocialMediaManipulation.Oxford:Computational Propaganda Project,January,2018.p.59.

⑦ Bayer,Judit,et al.DisinformationandPropaganda-ImpactontheFunctioningoftheRuleofLawintheEUanditsMemberStates.European Parliament,LIBE Committee,Policy Department for Citizens′ Rights and Constitutional Affairs,2019.p.111.

⑧ Howard,Philip N.,Bence Kollanyi.Bots,#Strongerin,and#Brexit:ComputationalPropagandaDuringtheUKEUReferendum.Available at SSRN 2798311,January,2016.p.5.

⑨ 歐亞、夏玥:《隱蔽的說服:計(jì)算式宣傳及其對(duì)中國國際傳播的挑戰(zhàn)》,《對(duì)外傳播》,2019年第12期,第40頁。

⑩ 羅昕、張夢:《西方計(jì)算宣傳的運(yùn)作機(jī)制與全球治理》,《新聞?dòng)浾摺?2019年第10期,第63頁。