羅昕

【摘要】計算宣傳是當(dāng)前一種最新的、普遍的、全球性的宣傳形式，是社交媒體平臺、自動化機(jī)器人和大數(shù)據(jù)算法的集合體，旨在有組織地操縱公共輿論。計算宣傳帶來潛在的影響，通過偽造信息或活動“制造同意”，產(chǎn)生“虛假民主”;通過“兩極分化”擾亂公共領(lǐng)域，撕裂社會共識;通過“武器化”的意識形態(tài)宣傳改變?nèi)虻鼐壵胃窬帧Ｓ嬎阈麄鞯闹卫?，關(guān)乎世界信息傳播新秩序的推進(jìn)，需要多行為體的協(xié)同參與，以共建全球網(wǎng)絡(luò)空間命運(yùn)共同體。

【關(guān)鍵詞】計算宣傳? 公共輿論? 社交機(jī)器人? 制造同意

【中圖分類號】G206? ? ? ? ? ? ? ? ? ? ? ? ? ?【文獻(xiàn)標(biāo)識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2020.15.003

計算宣傳是一種最新的、普遍的、全球性的宣傳形式，在很多國家得到了廣泛的應(yīng)用。我們將生活在一個有真正影響的人造揚(yáng)聲器的世界。計算宣傳的政治行動者包括政黨、政治候選人、戰(zhàn)略傳播公司，甚至國家力量。這些強(qiáng)大的行動者常與在思想上支持他們事業(yè)的私營企業(yè)、民間社會組織、互聯(lián)網(wǎng)亞文化、青年團(tuán)體、黑客團(tuán)體、邊緣運(yùn)動、社交媒體影響者和志愿者進(jìn)行協(xié)調(diào)合作。計算宣傳可以使強(qiáng)勢行動者將公共話語框架置于有利于自身的顯著地位上，而那些沒有財政資源和人工智能機(jī)器人知識的弱勢行動者并不能輕易地影響政治話語。計算宣傳在政策辯論、政治選舉、國家安全和政治危機(jī)中占有重要地位。計算宣傳日益與后真相政治交織在一起。在后真相政治時代，由于客觀事實(shí)在塑造輿論方面的影響力不如訴諸情感和個人信仰，計算宣傳可能會變得更加重要。

計算宣傳的概念

宣傳是一種傳播和說服某種信仰或價值觀的藝術(shù)。宣傳有幾種類型：白色宣傳是指公開表明信息來源的宣傳;灰色宣傳是指不說明信息來源的宣傳;黑色宣傳是指隱蔽真實(shí)信息來源的宣傳。宣傳媒介的歷史在某種程度上總是與空間和時間有關(guān)。從早期的傳單、小冊子到大眾傳播時代的報刊、廣播、影視，再到互聯(lián)網(wǎng)時代的網(wǎng)站、社交媒體，直至人工智能時代的算法媒體、社交機(jī)器人。宣傳方式從人工日益轉(zhuǎn)向自動化、智能化，從公開可見性日益轉(zhuǎn)向隱形不可見性。傳統(tǒng)上把宣傳理解為“通過操縱重要符號來管理集體態(tài)度”的思想仍然存在，但這種操縱隨著人工智能的到來而發(fā)生了變化?！盎ヂ?lián)網(wǎng)通過操縱算法管理在線信息以及通過大數(shù)據(jù)分析確定目標(biāo)受眾，為有效傳播宣傳提供了新的條件。宣傳性質(zhì)不斷變化帶來的社會影響才剛剛開始被理解，而互聯(lián)網(wǎng)時代所帶來的社會和技術(shù)的空前結(jié)合，使這種理解的進(jìn)展變得復(fù)雜。”[1]由此，宣傳最初被用來中立地描述信息傳播，而在人工智能時代它越來越多地被認(rèn)為是貶義的，與操縱公共輿論有關(guān)。計算宣傳也越來越成為不同政治行動者有目的地操縱公共輿論的重要策略。

計算宣傳的經(jīng)典定義可解釋為“社交媒體平臺、自動化代理人和大數(shù)據(jù)的集合體，旨在有組織地操縱公共輿論”[2]。計算宣傳既是社會現(xiàn)象，也是技術(shù)現(xiàn)象。計算是技術(shù)手段，宣傳是操縱目的，計算宣傳是手段和目的的統(tǒng)一體，缺一不可。有計算無宣傳或者說有宣傳無計算，都不是完整意義上的計算宣傳。

從技術(shù)層面講，計算宣傳是人工智能、大數(shù)據(jù)算法、社交機(jī)器人等技術(shù)的集合。新興的人工智能技術(shù)將從根本上增強(qiáng)計算宣傳的能力。人工智能聊天機(jī)器人、人工智能合成圖像語音、自動化音視頻操作工具、深度偽造技術(shù)、機(jī)器深度學(xué)習(xí)、大數(shù)據(jù)可視化內(nèi)容生成、情感計算工具、心理測量分析等技術(shù)，將使廣泛、高效、精準(zhǔn)、自主的計算宣傳成為可能。大數(shù)據(jù)算法在產(chǎn)生和管理我們的傳播和共享文化方面起著至關(guān)重要的作用，不僅在決定我們應(yīng)該看什么，還影響著我們應(yīng)該想什么。社交媒體平臺的可供性（affordance）使它們成為傳播計算宣傳的強(qiáng)大基礎(chǔ)設(shè)施。機(jī)器人是計算宣傳不可或缺的自動化程序，是一種用于執(zhí)行簡單、重復(fù)任務(wù)的軟件。部署在社交媒體上的機(jī)器人（簡稱“社交機(jī)器人”）是一種計算機(jī)算法，能自動生成內(nèi)容并在社交媒體上與人類互動，試圖模仿并可能改變?nèi)祟惖男袨?。?dāng)社交機(jī)器人被用于政治操縱時就成為了政治機(jī)器人。政治機(jī)器人作為非人類行動者，充當(dāng)了政治行動者擴(kuò)音器或代理人的角色，在政治對話中有著微小但戰(zhàn)略性的作用。目前政治機(jī)器人有三種[3]：（1）宣傳機(jī)器人：試圖通過大量傳播真實(shí)、半真半假和徹頭徹尾虛假的信息來說服和影響;（2）跟隨者機(jī)器人：假裝某個想法或人物獲得廣泛的共識而成為趨勢話題或明星人物;（3）路障機(jī)器人：通過轉(zhuǎn)移視線或話題來破壞正在自然進(jìn)行的對話。

從社會層面講，計算宣傳源自宣傳的定義——有意操縱符號，訴諸情感和偏見并繞開理性思維以實(shí)現(xiàn)其創(chuàng)建者的特定目標(biāo)。計算宣傳的操縱策略包括：（1）戰(zhàn)略部署政治機(jī)器人，在社交媒體上攻擊外國或政治對手，以遣散政治對手的追隨者使競爭對手去動員化，淹沒政治對手的議題/議程設(shè)置;（2）發(fā)布親政府或政黨或候選人的信息，夸大社交媒體追隨者名單，從多個機(jī)器人驅(qū)動的帳戶發(fā)出大量推文“炸彈”，幫助產(chǎn)生虛假的受歡迎感或政治共識;（3）混合使用算法分發(fā)、政治機(jī)器人、網(wǎng)絡(luò)釣魚和政治行動者一起工作。具體來說，政治機(jī)器人通過社交媒體來產(chǎn)生虛假信息、玩弄標(biāo)簽、制造趨勢、放大特定內(nèi)容，并同時啟動“偽草根運(yùn)動”（Astroturfing）。這種優(yōu)越但陰險的計算宣傳混合手段通常掌握在有權(quán)勢且資源充足的政治行動者手中。[4]這些所謂的“半機(jī)器人”被部署起來以幫助躲避檢測，并使交互感覺更真實(shí)。

計算宣傳的興起

在2016年美國總統(tǒng)競選期間，機(jī)器人流量占所有在線流量的60%以上，比兩年前增加了近20%;[5]約有20%的機(jī)器人在Twitter上產(chǎn)生了約20%的政治辯論;[6]在選舉日，支持特朗普的社交機(jī)器人份額以5：1的比例超過希拉里，其中前100名的自動賬戶每天發(fā)布大約500條推特，占所有與總統(tǒng)選舉有關(guān)推特流量的近18%;[7]在特朗普和希拉里的個人賬戶上運(yùn)行機(jī)器人檢測軟件時，分別檢測到約59%和50%的追隨者是機(jī)器人。[8]Twitter和Facebook上高度自動化賬戶和虛假賬戶的大型網(wǎng)絡(luò)宣傳了對希拉里腐敗的指控，并推動了諸如她與戀童癖或聯(lián)邦調(diào)查局特工神秘死亡之類事件有關(guān)的大量垃圾新聞報道。[9]在有關(guān)中美貿(mào)易談判議題討論中也發(fā)現(xiàn)了計算宣傳，社交機(jī)器人占比13%，發(fā)布內(nèi)容占比接近20%;從話題傾向性上看，社交機(jī)器人中反對貿(mào)易談判的占了多數(shù)（55%），大部分內(nèi)容跟美國農(nóng)民有關(guān)。[10]

在2016年英國脫歐公投中，社交機(jī)器人被積極利用以支持英國應(yīng)該離開歐盟的觀點(diǎn)。政治機(jī)器人在此次公民投票對話中有一個很小但是有戰(zhàn)略性的角色：與離開歐盟論點(diǎn)相關(guān)的標(biāo)簽家族占主導(dǎo)地位，對這一問題的不同觀點(diǎn)利用了不同層次的自動化，少于1%的抽樣帳戶生成幾乎三分之一的消息;[11]在2016年6月，77，000名機(jī)器人“簽署”了第二次英國退歐公投的網(wǎng)上請愿書;[12]有13，493個Twitter機(jī)器人組成了支持脫離歐盟的網(wǎng)絡(luò)運(yùn)動。[13]

機(jī)器人推動了法國“馬克龍泄密”的虛假信息運(yùn)動，“與馬克龍泄密有關(guān)的用戶大多是對右翼話題和另類媒體有預(yù)先興趣的外國用戶，而不是具有不同的政治觀點(diǎn)的法國用戶。反常的賬戶使用模式表明可能存在一個可重復(fù)使用的政治虛假信息機(jī)器人的黑市”。[14]在德國2017年競選活動中，2月到9月之間的“高度自動化”推特從5.7%增至7.4%[15];機(jī)器人的比例從以前的7.1%上升到了9.9%。[16]

在恐怖主義宣傳活動中發(fā)現(xiàn)了大量機(jī)器人的存在。從2012年到2016年，伊斯蘭國（ISIS）建立了一個虛擬的在線哈里發(fā)。他們把視頻傳到了YouTube，然后交叉發(fā)布到Facebook和Twitter進(jìn)行傳播。他們創(chuàng)建了數(shù)千個Twitter賬戶，包括人類粉絲和機(jī)器人，利用這個平臺一對一招募同情者，制造關(guān)于恐怖襲擊的流行標(biāo)簽和幸災(zāi)樂禍的輿論情緒。反恐組織幽靈安全集團(tuán)（Ghost Security Group）過去曾指出，ISIS利用幾乎所有可以想象的社交應(yīng)用來交流和分享其宣傳，包括像臉譜和推特這樣的支柱平臺，加密聊天應(yīng)用程序。ISIS正在通過計算傳播以達(dá)到最大范圍的有效傳播。當(dāng)研究人員于2014年12月在Twitter上進(jìn)行活動普查時，ISIS似乎是在46，000至70，000個Twitter賬戶之間運(yùn)行。[17]

值得關(guān)注的是，“沒有任何學(xué)術(shù)研究發(fā)現(xiàn)在中國使用機(jī)器人和算法進(jìn)行計算宣傳的證據(jù)”。[18]牛津大學(xué)互聯(lián)網(wǎng)研究所的計算宣傳研究項目經(jīng)過實(shí)證研究發(fā)現(xiàn)，中國并沒有發(fā)現(xiàn)計算宣傳現(xiàn)象。該項目研究人員基于中國新浪微博上有關(guān)官方政治信息帖子的150萬條評論以及在Twitter上使用與中國和中國政治相關(guān)的標(biāo)簽的110萬條帖子的分析，發(fā)現(xiàn)在國內(nèi)外社交媒體平臺上，幾乎沒有發(fā)現(xiàn)中國利用自動化宣傳來影響話語流的證據(jù)，中國沒有將自動化作為其國內(nèi)或國際宣傳戰(zhàn)略努力的一部分。相比之下，更令人驚訝的是，在關(guān)于中國和中國政治的Twitter標(biāo)簽上，發(fā)現(xiàn)了大量的反華自動化宣傳。這些話題標(biāo)簽中幾乎30%的內(nèi)容是由機(jī)器人發(fā)布，以簡體中文出版，專門針對散居海外的華人、出國留學(xué)生或從中國大陸翻墻使用Twitter的人。研究者認(rèn)為中國沒有發(fā)動計算宣傳，可能有幾個原因：中國國際宣傳工作長期以來一直由官方主流媒體主導(dǎo)，將機(jī)器人和自動化宣傳納入這一國際宣傳戰(zhàn)略需要新的技術(shù)能力，而這些技術(shù)能力不屬于這些傳統(tǒng)媒體提供者的范疇;這些傳播反華觀點(diǎn)的機(jī)器人和自動化宣傳實(shí)際上收效甚微;與中國的軟實(shí)力和外交政策有關(guān)。[19]

因此，對機(jī)器人和自動化的關(guān)注不應(yīng)轉(zhuǎn)移人們的注意力，因?yàn)檫@些技術(shù)只是一個嵌入在底層社會結(jié)構(gòu)中的工具。計算宣傳的實(shí)施有賴于不同政治行動者所處的政治、經(jīng)濟(jì)、社會、文化制度或條件。我們應(yīng)該進(jìn)一步努力把焦點(diǎn)從單純的計算和監(jiān)測，轉(zhuǎn)向?qū)ψ詣踊С值男畔?nèi)容進(jìn)行定性考慮，以評估它是否是宣傳，而不僅僅是計算。我們更應(yīng)關(guān)注的是宣傳目的，而不是宣傳手段。

計算宣傳的潛在影響

雖然我們知道有大量活躍的計算宣傳存在，但計算宣傳的影響是復(fù)雜的，難以評估衡量。評估計算宣傳對公眾輿論的影響是一項艱巨的任務(wù)。網(wǎng)民在多大程度上受到了虛假政治信息的影響，這種宣傳是否真的改變了網(wǎng)民的行為，目前的研究知之甚少。此外，計算宣傳的效果“是由調(diào)動的社會和技術(shù)因素的復(fù)雜相互作用決定的”。[20]政治行動者要集中適當(dāng)?shù)目赡軙绊懻螌υ挼馁Y金預(yù)算、倫理道德、組織行為、能力建設(shè)和社交平臺等資源，這是非常困難的。事實(shí)上，有一些例子表明，計算宣傳也作出了積極貢獻(xiàn)。例如，一些復(fù)雜的算法和機(jī)器人程序試圖承擔(dān)建設(shè)性的公共服務(wù)，改進(jìn)新聞業(yè)，并產(chǎn)生公共知識。

不管怎樣，計算宣傳被惡意用于操作公共輿論時，仍然具有微小而顯著的作用，往往造成深刻的社會政治和道德問題。計算宣傳正日益介入到“社會現(xiàn)實(shí)”的建構(gòu)過程中。計算宣傳可以通過賦予政治人物或政治觀點(diǎn)以政治份量（不管它的真實(shí)性），從而成為文化和政治討論的一部分來塑造“客觀現(xiàn)實(shí)”。當(dāng)這一建構(gòu)過程變得模糊不清時，“客觀現(xiàn)實(shí)”和“主觀現(xiàn)實(shí)”之間的距離進(jìn)一步縮小。應(yīng)該看到，計算宣傳的普遍性、多樣性對政治傳播的消極影響將會不斷增加。

通過偽造信息或活動“制造同意”，產(chǎn)生“虛假民主”?；谌斯ぶ悄苄畔⒓夹g(shù)的政治和民主可能會出現(xiàn)以下問題：不平等政治參與變得更加嚴(yán)重;公共議題的公開辯論變得更加困難;表面政治盛行等。長期以來，社會媒體對于深化公民參與和改善民主的理想主義觀點(diǎn)，現(xiàn)在受到與計算宣傳相關(guān)的陰險和惡意活動的嚴(yán)重挑戰(zhàn)。社交媒體平臺在公共生活中的敏感時刻提供了大量聳人聽聞的、煽情的以及其他形式的虛假信息。虛假信息“依賴于一種操縱性風(fēng)格、偽造活動、偏見、缺乏專業(yè)精神和足夠的可信度來進(jìn)行欺騙，它自由地利用社交媒體算法生成注意”。[21]同時，數(shù)字偽造技術(shù)進(jìn)一步催生了虛假信息的泛濫。隨著AI換臉技術(shù)、虛假音視頻制作能力的興起，深度偽造將變得更加復(fù)雜和有效，不斷降低人類對“眼見為實(shí)”的認(rèn)知敏感性。如2018年由深度偽造合成的加蓬總統(tǒng)Ali Bongo新年致辭視頻曾引起了兵變，足以窺見這種技術(shù)的破壞潛力。深度偽造技術(shù)的結(jié)果是真相的“終結(jié)”。人工智能偽造技術(shù)、虛假新聞和計算宣傳同時興起，對民主治理構(gòu)成了巨大挑戰(zhàn)。

虛假信息被自動化大量支持時，產(chǎn)生一種“偽草根運(yùn)動”現(xiàn)象。網(wǎng)絡(luò)“偽草根運(yùn)動”是“一種人造的、欺騙性的、戰(zhàn)略性的自上而下的互聯(lián)網(wǎng)活動，由政治行動者發(fā)起，模仿自主個體自下而上的活動”。[22]這種偽裝成公共輿論的自發(fā)涌現(xiàn)的實(shí)踐，旨在試圖給人們留下一種草根廣泛支持或反對某政策或政治人物的深刻印象?！皞尾莞\(yùn)動”孕育了一個龐大的“內(nèi)容農(nóng)場”（Content farms），即復(fù)制、拼湊別人的原創(chuàng)內(nèi)容，產(chǎn)生大量質(zhì)量低劣的垃圾內(nèi)容。政治機(jī)器人是一種相對粗糙的數(shù)字天體沖浪形式，具有高度自動化、協(xié)調(diào)一致性、放大性和隱蔽性的性質(zhì)。與計算宣傳有關(guān)的“偽草根運(yùn)動”，是民主政治中一個長期焦慮的問題。誰是公眾的一部分，誰代表公眾發(fā)言，都是令人擔(dān)憂的民主問題?，F(xiàn)在，公眾、政治家和記者不僅要辨別民意支持是來自草根自發(fā)的還是精心編造的，還要辨別發(fā)言主體是人類還是機(jī)器人。機(jī)器人與人類行為者的互動使解決政治機(jī)器人在民主中作用的問題更具挑戰(zhàn)性。[23]當(dāng)人們對主題或立場模棱兩可時一般會遵循“詳盡可能性模式”（Elaboration Likelihood Model）[24]。這種模式認(rèn)為，當(dāng)人們有很強(qiáng)的意愿來處理信息時，他們會仔細(xì)審查有說服力的論證;當(dāng)人們沒有動力時，他們往往依賴于信息中的簡單暗示，如更可評估性和顯著性，發(fā)帖者傳遞的信念或激情。因此，人們的決定依賴于論點(diǎn)強(qiáng)度、外圍線索或兩者，很大程度上依賴于接收者的參與水平?；谠敱M可能性模式和信息社會影響理論的綜合考慮，“偽草根運(yùn)動”的效果與四個重要機(jī)制有關(guān)：信息多源效應(yīng)、接收者不確定性、發(fā)送者和接收者之間的感知相似性（同伴壓力）以及接收者參與的動機(jī)。[25]

“偽草根運(yùn)動”的結(jié)果是“制造同意”，產(chǎn)生“虛假民主”。公關(guān)先驅(qū)愛德華·伯奈斯（Bernays）提出了著名的“同意工程化”（engineering of consent）的論點(diǎn)，認(rèn)為“同意工程化”的技術(shù)是價值中立的，既可以被煽動者利用達(dá)到反民主的目的，也可以被善意者利用達(dá)到社會理想的目的。[26]在人工智能時代，大數(shù)據(jù)、新興計算方法、建模、行為科學(xué)、實(shí)時環(huán)境下的實(shí)驗(yàn)科學(xué)以及平臺和算法治理的力量這六個相互交織的動力學(xué)，正在創(chuàng)造一個新的監(jiān)測和社會認(rèn)同工程化的環(huán)境。[27]“政治行動者在未經(jīng)公民同意的情況下精心部署制造同意、破壞持不同政見者、威脅活動家和收集信息。在線空間是有預(yù)謀地構(gòu)建共識和人工、算法地構(gòu)建同意的場所，而不是通過對話、參與和透明度加強(qiáng)民主的環(huán)境。”[28]計算宣傳通過社交媒體和機(jī)器人“制造共識”和“實(shí)現(xiàn)在線宣傳的民主化”，試圖放大自身訴求點(diǎn)，努力創(chuàng)造流行趨勢的支持，并給人們以“大多數(shù)人認(rèn)同”的幻覺。人們常常關(guān)注什么樣的政治故事可能會在社會上得到廣泛傳播，而不會探究這些政治故事的真實(shí)合理性。當(dāng)“制造同意”取代事實(shí)真相作為政治辯論和決策形成的基礎(chǔ)時，民主處于后事實(shí)狀態(tài)。強(qiáng)大的民主需要來自高質(zhì)量新聞、多元的輿論氛圍，以及公眾共識商議的能力。但是強(qiáng)大的政治參與者越來越多地利用計算宣傳制造同意，當(dāng)公民不能夠批判性地評估消息的來源或論點(diǎn)的說服力時，商議民主將處于風(fēng)險中。媒體作為選擇、排序和框架的機(jī)制，使得媒體的可見性從來都不是中立的。自動化算法所建構(gòu)的可見性機(jī)制對政治參與者施加了一個假想的“不可見性威脅”。公民可能把這種假想的“不可見性威脅”當(dāng)作“社會認(rèn)同”，從而產(chǎn)生“虛假民主”。

通過“兩極分化”擾亂公共領(lǐng)域，撕裂社會共識。公共領(lǐng)域往往意味著一個供所有人自由、平等、理性地辯論進(jìn)而產(chǎn)生公共輿論的公共空間。從理論上講，在一個運(yùn)作良好的理想的公共領(lǐng)域中，應(yīng)同時包括處于政治系統(tǒng)中心的行動者和來自邊緣的行動者，在新聞媒體的部分幫助下，強(qiáng)有力的公共話語將導(dǎo)致民主協(xié)商和社會共識。但要實(shí)現(xiàn)一個沒有操縱和調(diào)控的公共領(lǐng)域是不可能的。20世紀(jì)以來的媒體景觀給了媒體巨大的政治力量和操縱公眾的潛力。人工智能時代，算法支撐了許多目前致力于調(diào)解公共領(lǐng)域和政治話語的平臺（如搜索引擎、推薦系統(tǒng)和社交媒體網(wǎng)站）。當(dāng)自動化、操縱性和利益驅(qū)動的機(jī)器人進(jìn)入話語時，公共領(lǐng)域的多元化聲音尤其是弱勢、沉默的聲音將會顯得特別脆弱，而非理性的、非情緒化的辯論會變得更加強(qiáng)勢。政治機(jī)器人、大數(shù)據(jù)算法作為隱形的新型把關(guān)人，可以殖民、扭曲、工具化和操縱公共領(lǐng)域，對理想公共領(lǐng)域的建構(gòu)帶來潛在的影響。一些啟動計算宣傳的政治行動者幾乎不負(fù)責(zé)任地破壞作為公共領(lǐng)域的網(wǎng)絡(luò)空間，影響著脆弱的網(wǎng)絡(luò)信息生態(tài)系統(tǒng)。政治機(jī)器人被用來制造分裂的政治信息。這些行為可能包括協(xié)調(diào)一致的騷擾、造謠傳謠，發(fā)送垃圾郵件，傳播虛假的、誤導(dǎo)的、有偏見的、有陰謀的、煽動性的、攻擊性的、極端的、聳人聽聞的信息內(nèi)容，由此將導(dǎo)致兩極分化嚴(yán)重，社會共識撕裂。

自動化機(jī)器人和算法傳播可以規(guī)避傳統(tǒng)媒體過濾器和意見信息守門人，強(qiáng)化政治行動者的自我議題或議程設(shè)置，正在為政治議題屬性的顯著性而戰(zhàn)。在回聲室或過濾氣泡效應(yīng)和加強(qiáng)的確認(rèn)偏差作用下，虛假信息會比真相傳播得更快、更深、更廣泛、更有感情。在2016年美國總統(tǒng)大選期間，特朗普從參選開始的目標(biāo)就是制定并控制媒體議程。他的競選策略是在媒體和公眾面前大聲說話，設(shè)置各種聳人聽聞的、欺騙性的、煽動性的議題，攻擊和誹謗競爭對手，煽動政治紛爭，扭曲公共對話，刺激一種狂熱的宣傳效果，通過自動傳播標(biāo)簽來建立虛假的流行趨勢，讓事情迅速發(fā)酵擴(kuò)散發(fā)展，讓媒體無法抗拒報道他的議題。特朗普這種快節(jié)奏的修辭和“即興”說話的意愿給人留下了一種“真實(shí)性”的假象，帶來選民投票意向上的“樂隊花車效應(yīng)”。當(dāng)公眾談?wù)撎乩势諘r，人們會聽到更多的是“把她關(guān)起來”或“讓美國再一次偉大”的聲音，而不是“他不合格”或“他是瘋子”的聲音。

計算宣傳可能會使公民暴露在虛假新聞的影響下，削弱公眾對傳統(tǒng)機(jī)構(gòu)的信任，加劇社會分裂和政治兩極分化。對社會分裂來說，計算宣傳最致命和最有害的目標(biāo)是煽動社會情緒，鼓噪民粹主義，使公民接受政治行動者不斷強(qiáng)化的偏激觀點(diǎn)。這些煽動情緒的策略可能包括促進(jìn)兩極分化、回音室、過濾氣泡、極端黨派主義、誹謗、抹黑、攻擊、多元無知、旁觀者冷漠、級聯(lián)效應(yīng)、沉默或憤怒螺旋、恐懼、偏見、認(rèn)知失調(diào)。所有這些策略都有可能動員公眾以某種方式發(fā)生思想搖擺。如仇恨言論，即基于種族、宗教、族裔出身、性取向、難民、殘疾或性別等屬性對個人或群體進(jìn)行網(wǎng)上虐待或威脅。又如煽動恐懼，“無論是恐怖新聞戰(zhàn)術(shù)性、機(jī)會主義的放大，還是引發(fā)恐慌的災(zāi)難運(yùn)動的持久的戰(zhàn)略性運(yùn)動，恐懼的產(chǎn)生都削弱了目標(biāo)受眾正確評估信息來源的能力”。[29]情緒一直是政治和媒體中的關(guān)鍵因素?！昂笳嫦唷彼坪跻呀?jīng)在世界各地的傳播實(shí)踐中取得了一定的地位?！皟蓸O分化的政治陣營之間從根本上講是在情感層面的分歧，而意見的差異則不那么顯著。這種情感上的分歧尤其受到社交媒體實(shí)踐和算法的助長?！盵30]人們對“后真相”和“真相”的普遍理解揭示了情感和政治之間的關(guān)系在過去的十年里是如何變成前沿和中心的。計算宣傳反映了情感設(shè)置或操縱的重要性。為了激怒未決定的投票者，動搖希拉里的支持者投票特朗普，或確保希拉里的投票者宅在家，特朗普的競選活動使用了復(fù)雜的微靶向目標(biāo)，例如，在Facebook上將一些“暗帖”（非公共定向廣告），如“希拉里認(rèn)為黑人是超級掠奪者”提供給非裔美國人。[31]未來，情感、媒體和政治之間的問題將是計算宣傳的重要研究命題。

通過“武器化”的意識形態(tài)宣傳改變?nèi)虻鼐壵胃窬?。世界?jīng)濟(jì)論壇2014年確定網(wǎng)上虛假信息的迅速傳播是社會面臨的十大危險之一，認(rèn)為“大規(guī)模數(shù)字虛假信息的全球風(fēng)險處于從恐怖主義到網(wǎng)絡(luò)攻擊和全球治理失敗等一系列技術(shù)和地緣政治風(fēng)險的中心”;《慕尼黑安全報告2017：后真相，后西方，后秩序？》也指出，“用虛假信息來描述后事實(shí)時代的事態(tài)：偽造、泄露、傳播”。[32]當(dāng)前全球網(wǎng)絡(luò)空間彌漫著民粹主義、種族主義、右翼極端主義、左翼激進(jìn)主義、恐怖主義、民族主義、階級主義、性別主義、反共反社會主義、仇外心理和法西斯主義元素等意識形態(tài)氣氛。如網(wǎng)上法西斯主義在傳播仇恨、偏見、威權(quán)民粹主義、朋友/敵人關(guān)系和拜物教政治意識形態(tài)。右翼極端主義在網(wǎng)上言論中含有法西斯主義和仇恨的某些因素（如對移民和難民的仇恨、反猶太主義、反社會主義等）[33]。社交媒體民族主義通過社交媒體而不是現(xiàn)實(shí)世界的關(guān)系連接，可能極大地改變世界秩序，深刻影響信息地緣政治格局。社交媒體民族主義在許多方面與諸如競選活動、占領(lǐng)運(yùn)動（街頭革命）、社會運(yùn)動和更持久的黑客集團(tuán)重疊交織。在全球范圍內(nèi)，一些政治行動者創(chuàng)造了一個有相當(dāng)規(guī)模的“社交機(jī)器人部隊”參與國外政治運(yùn)動。

計算宣傳未來將被置于地緣政治沖突的中心。在地緣政治上，強(qiáng)國將部署和利用計算宣傳來影響外交政策的結(jié)果，以實(shí)現(xiàn)本國外交政策目標(biāo)。從更廣泛的地緣政治角度看，計算宣傳的行動者正在實(shí)行政治宣傳的武器化，以掌控其在全球地緣政治中的話語權(quán)?！拔淦骰臄⑹鲈噲D通過產(chǎn)生復(fù)雜性、混亂、政治和社會分裂來破壞對手的文明、身份和意志力。它可以作為明確的軍事或地緣政治沖突的一部分在戰(zhàn)術(shù)上使用，也可以作為減少、中和和擊敗一個文明、國家或組織的一種戰(zhàn)略手段。如果做得好，它將限制甚至消除武裝部隊實(shí)現(xiàn)政治和軍事目標(biāo)的任何需要?！盵34]武器化的敘述傾向于使用視覺手段和小報化（簡化，很少使用單詞，情感化、丑聞化、極化、平庸化、操縱、制造等）。如2020年初全球新冠肺炎疫情期間，美國總統(tǒng)特朗普、國務(wù)卿蓬佩奧和一些政客、媒體不斷鼓吹“中國病毒論”“中國責(zé)任論”等陰謀論，煽動仇華情緒，為美國聯(lián)邦政府抗疫不力尋找借口，轉(zhuǎn)移國內(nèi)民眾的不滿情緒，實(shí)為特朗普競選下一屆總統(tǒng)進(jìn)行的政治誣陷。

計算宣傳可能改變?nèi)虻鼐壵胃窬帧Ｍ鈬深A(yù)國家事務(wù)已成為政治過程完整性和傳播一致性的明顯威脅。最近五年來，國際事務(wù)、國際關(guān)系因新媒體技術(shù)的介入而日益復(fù)雜化。一些國家政府利用社交媒體操縱輿論，分配專業(yè)人員和財政資源進(jìn)行網(wǎng)上虛假信息宣傳活動，擾亂關(guān)于敏感安全問題的國際辯論，破壞國家主權(quán)、國際外交、國際貿(mào)易、國際和平和其他重要國際進(jìn)程的努力。這些運(yùn)動傾向于使用新聞框架和議程設(shè)置、意識形態(tài)霸權(quán)、符合象征力量或?qū)崿F(xiàn)預(yù)期結(jié)果的銳利力等策略。同時，“越來越多的政治行動者使用算法來操縱國際輿論，有興趣塑造外交政策成果、實(shí)現(xiàn)國家安全目標(biāo)和干預(yù)其他國家治理”。[35]一些國家的計算宣傳運(yùn)動在行動者、能力水平、組織形式和影響目標(biāo)方面不斷提升計算宣傳的水平?！叭绻鈬鴦萘Τ晒Φ乩糜嗅槍π缘臄?shù)字宣傳來干預(yù)選舉活動，對民主制度的信任就會折騰起來。當(dāng)外國勢力計劃放大有目標(biāo)的宗教、政治、文化或特殊利益集團(tuán)的聲音以煽動分裂的“火焰”時，同胞可以反對同胞，暴力可以被煽動，民間社會受到破壞?！盵36]需要警惕的是，計算宣傳驅(qū)動的全球信息戰(zhàn)爭，可能引爆新一輪的網(wǎng)絡(luò)軍備競賽。

計算宣傳的協(xié)同治理

由于計算宣傳在個人、社會、國家和國際層面引發(fā)的一系列潛在風(fēng)險，計算宣傳的全球治理勢在必行，盡管治理過程錯綜復(fù)雜。計算宣傳的治理，關(guān)乎世界信息傳播新秩序的推進(jìn)，“應(yīng)在聯(lián)合國框架內(nèi)，推進(jìn)多邊、民主、透明的國際互聯(lián)網(wǎng)治理體系，攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體”。[37]全球治理的一個重要特征是治理主體多元化，因此，在計算宣傳的全球治理過程中，要以人工智能、算法、大數(shù)據(jù)、社交媒體、虛假信息為重點(diǎn)治理對象，鼓勵企業(yè)、國家政府、國際組織、技術(shù)社群、公民等多行為體共建共治共享。

發(fā)揮聯(lián)合國力量，開展國際合作。發(fā)揮以聯(lián)合國為主導(dǎo)的國際力量，將有助于促進(jìn)計算宣傳走向正軌發(fā)展，更好地應(yīng)對計算宣傳可能產(chǎn)生的國家民主、國家安全以及全球秩序等問題。聯(lián)合國教科文組織（UNESCO）始終在指導(dǎo)人工智能技術(shù)發(fā)展的倫理標(biāo)準(zhǔn)和政策方面進(jìn)行全球性的倡議和反思。2018年11月，UNESCO與合作伙伴在其總部舉行的互聯(lián)網(wǎng)治理論壇（IGF）上，組織了一場關(guān)于“利用人工智能促進(jìn)知識社會和可持續(xù)發(fā)展”的公開討論，重點(diǎn)關(guān)注如何跨越人工智能時代的世界數(shù)字鴻溝，如何促進(jìn)媒體生產(chǎn)、傳播和評估新聞、數(shù)據(jù)和信息，如何應(yīng)對技術(shù)發(fā)展以打擊暴力極端主義和其他不可見的威脅。在2018年舉行的聯(lián)合國互聯(lián)網(wǎng)治理論壇（IGF）上，來自各國政府、私營部門和民間社會的利益攸關(guān)方就加強(qiáng)全球合作，打擊數(shù)字時代具有誤導(dǎo)性的危險信息達(dá)成了共識。2019年6月，聯(lián)合國秘書長古特雷斯正式推出“聯(lián)合國消除仇恨言論戰(zhàn)略和行動計劃”，旨在加深聯(lián)合國所有實(shí)體對仇恨言論的有害影響以及如何在工作中更有效地應(yīng)對的理解，呼吁加強(qiáng)對會員國的支持，與私營公司、民間社會和媒體進(jìn)行更多合作。

除了聯(lián)合國，還可以考慮發(fā)揮APEC、G20、金磚國家等國際性組織或區(qū)域性組織的角色，在區(qū)域或國家之間形成具有普遍共識的治理規(guī)則，實(shí)現(xiàn)從邊緣到中心的突破，最終獲得全球?qū)用娴囊?guī)則認(rèn)同。同時，也要重視全球行業(yè)組織的指導(dǎo)性專業(yè)倫理規(guī)范建設(shè)，如世界科學(xué)知識與技術(shù)倫理委員會（COMEST）發(fā)布關(guān)于機(jī)器人倫理的初步草案報告，提出應(yīng)當(dāng)在機(jī)器人及機(jī)器人技術(shù)的倫理與法律監(jiān)管中確立可追溯性，保證機(jī)器人的行為及決策全程處于監(jiān)管之下。但從歷史上分析國際宣傳的規(guī)制和國家防止外國傳播的義務(wù)，可以看出不同國家法律在保護(hù)自由表達(dá)方面存在相互沖突競爭的歷史，如西方民主國家贊成的“思想自由市場”方針與發(fā)展中國家提議的社會安全秩序的沖突。國際法不僅要禁止顛覆性宣傳，也要禁止旨在和平改變政權(quán)的宣傳。但對美國來說，對宣傳的任何規(guī)制都會與言論自由、傳播權(quán)和交流權(quán)相沖突。這種沖突對跨國計算宣傳的全球治理帶來挑戰(zhàn)，就私人宣傳的責(zé)任歸屬問題達(dá)成共識則更具挑戰(zhàn)性。

完善各國有關(guān)新媒體技術(shù)的法律法規(guī)體系。計算宣傳引發(fā)的倫理法律問題，引發(fā)了世界各國政府的高度重視，越來越多的政府行為者正通過制定完善具體的法律法規(guī)，進(jìn)一步加強(qiáng)與計算宣傳相關(guān)的治理，主要體現(xiàn)在保護(hù)數(shù)據(jù)隱私、限制數(shù)據(jù)收集、要求披露自動帳戶、授權(quán)廣告透明度。但許多立法者對社交媒體、自動化機(jī)器人、算法只有初步的了解。他們強(qiáng)加的規(guī)則可能會影響社交媒體平臺和用戶之間的生態(tài)均衡。政府在對抗社交媒體上的虛假信息和錯誤信息方面處于劣勢。政府監(jiān)管必須要在維護(hù)政治安全、言論自由和市場可持續(xù)發(fā)展之間謹(jǐn)慎平衡。

社交媒體上虛假新聞擴(kuò)散日益增長的威脅，已經(jīng)成為世界各國政府的一個重大關(guān)切。自2016年以來，超過30個國家出臺了相關(guān)法律，打擊互聯(lián)網(wǎng)上的假新聞。與此同時，一些國家建立了新的政府機(jī)構(gòu)或授權(quán)現(xiàn)有組織打擊假新聞及其對外影響力行動。這種反應(yīng)通常包括生產(chǎn)和傳播反敘述或創(chuàng)建舉報、標(biāo)記和事實(shí)檢查來促進(jìn)公民意識和參與。在許多情況下，這些目標(biāo)任務(wù)經(jīng)常與媒體法律、監(jiān)測能力、計算宣傳運(yùn)動、互聯(lián)網(wǎng)阻擋或過濾結(jié)合使用，以塑造在線公共對話。[38]歐洲防止虛假新聞傳播的方法在很大程度上依賴于數(shù)據(jù)保護(hù)法，如歐盟《歐盟更安全的社交網(wǎng)絡(luò)原則》（2009）和《通用數(shù)據(jù)保護(hù)法》（2018）。2018年3月，歐盟委員會虛假新聞和網(wǎng)絡(luò)謠言獨(dú)立高級專家組（HLEG）成立，2018年9月正式頒布《歐盟反虛假信息行為守則》。2019年10月底，歐盟委員會再次要求社交媒體必須采取更多措施來應(yīng)對虛假新聞或面臨監(jiān)管行動。2016年美國大選后，美國國會2017年10月宣布了《誠實(shí)廣告法》（the Honest Ads Act），要求Facebook和Google等在線平臺保留政治廣告副本，將其公開并密切關(guān)注誰在付款以及付款多少。2017年10月，德國通過《網(wǎng)絡(luò)強(qiáng)制法》，該法規(guī)定社交媒體要在24小時內(nèi)刪除網(wǎng)站上“明顯的非法內(nèi)容”，包括仇視性言論、誹謗、煽動以及暴力言論等，否則將面臨最高5000萬歐元的罰款。2018年1月，德國《社交媒體管理法》正式施行，該法案針對網(wǎng)絡(luò)上的仇恨、煽動性言論、虛假新聞內(nèi)容，對在德國境內(nèi)提供內(nèi)容服務(wù)的社交媒體平臺提出了更為嚴(yán)格的監(jiān)管要求。2018年11月，法國通過了專門的“虛假新聞法”，賦予了法國法官在競選期間即時（在通知后48小時內(nèi)采取行動）從網(wǎng)站上刪除假新聞的權(quán)力，以確保國家選舉免受虛假信息的影響。

在社交機(jī)器人、人工智能算法方面，歐盟《數(shù)據(jù)保護(hù)條例》要求數(shù)據(jù)處理者與數(shù)據(jù)主體保持關(guān)系并在質(zhì)疑時能解釋自動化決策的邏輯。意大利政府在2018年大選之前推出了一項旨在打擊計算宣傳的在線服務(wù)，人們可以通過網(wǎng)站上的“紅色按鈕”系統(tǒng)報告虛假新聞，同時使用專業(yè)軟件來確定信息是否受到了計算宣傳的操控。2017年1月，德國三個州重新啟動了一項關(guān)于數(shù)字入侵的立法倡議，將社交機(jī)器人在Facebook上的使用定為犯罪。2019年7月1日，美國加利福尼亞州成為第一個試圖規(guī)范機(jī)器人程序使用的州，要求自動披露旨在社交媒體上模擬或復(fù)制人類活動的賬戶，以防止社交媒體上的輿論操縱。歐盟于2019年4月發(fā)布“人工智能倫理準(zhǔn)則”，列出了“可信賴人工智能”的7個關(guān)鍵條件，以確保人工智能尊重基本人權(quán)、規(guī)章制度、核心原則及價值觀，同時在技術(shù)上安全可靠。

對于所有類型的算法，審計是驗(yàn)證正確功能的必要前提，是實(shí)現(xiàn)透明度的一種可能機(jī)制。算法審計是研究算法決策的功能和影響的過程，理解算法決策背后的邏輯，幫助公民解釋決策是如何被描述的。[39]公民可以要求政治透明度權(quán)利來限制不透明內(nèi)容系統(tǒng)對政治對話的權(quán)力，但不管怎樣，算法的專利產(chǎn)權(quán)保密性、深度學(xué)習(xí)復(fù)雜性和決策不透明性對算法審計的實(shí)施提出了重大挑戰(zhàn)。算法決策的邏輯可能在認(rèn)識論上無法為人類所理解。盡管存在許多障礙，但算法審計能最大程度地接近。算法審計的一種形式可能是建立監(jiān)管服務(wù)提供商的規(guī)制機(jī)構(gòu)，該機(jī)構(gòu)的工作就是通過對發(fā)布的內(nèi)容類型進(jìn)行有偏見的結(jié)果檢測來預(yù)測對政治對話的影響，以確定必須規(guī)范的內(nèi)容，如要求公司在沒有揭示產(chǎn)權(quán)性的算法設(shè)計細(xì)節(jié)下提交有質(zhì)量的信息披露，包括算法是如何運(yùn)作的，它的效果如何，以及它最有可能造成哪些錯誤。

強(qiáng)化社交媒體平臺的自律性措施。社交媒體平臺正在通過事實(shí)核查機(jī)制和標(biāo)記，要求用戶驗(yàn)證帳戶合法性，或者制定一些激勵政策，與第三方信息檢測和評級機(jī)構(gòu)合作，以減少自動操縱在線話語的風(fēng)險。與社交機(jī)器人有關(guān)的現(xiàn)有做法可歸結(jié)為披露、同意和尊重二次使用原則。披露原則指機(jī)器人賬戶應(yīng)清楚地被識別;同意原則指未經(jīng)用戶同意，機(jī)器人不應(yīng)主動與其接觸，包括喜歡、偏愛等互動或者轉(zhuǎn)發(fā);二次使用原則指機(jī)器人“所有者”不應(yīng)將收集到的關(guān)于用戶的信息用于其他無關(guān)的目的。[40]

2016年以來，F(xiàn)acebook陸續(xù)宣布打擊虛假信息的系列措施，如雇用了數(shù)千名事實(shí)檢查人員，依靠用戶舉報，發(fā)布內(nèi)容透明度報告等。Facebook正在與Fact-Check.org、ABC和美聯(lián)社這樣的事實(shí)核查機(jī)構(gòu)合作，將用戶報告的故事提交給這些機(jī)構(gòu)核實(shí)。這種努力是否會產(chǎn)生實(shí)際效果，或者反而會促使人們更多地散布虛假信息，我們目前還不知道。2019年4月，F(xiàn)acebook發(fā)布了一系列公告，旨在推廣更多值得信賴的新聞來源，打擊傳播虛假信息的團(tuán)體。Facebook于2019年9月宣布聯(lián)合微軟公司和多所高校，研究檢測Deepfake的方法。2019年12月，F(xiàn)acebook和Instagram宣布引入了一項人工智能過濾評論的新功能，可以在一定程度上防止社交機(jī)器人對虛假信息簡單的復(fù)制粘貼。在2020年2月召開的德國慕尼黑安全會議上，扎克伯格表示，F(xiàn)acebook已經(jīng)在致力于打擊虛假信息，改進(jìn)其對抗網(wǎng)絡(luò)選舉干擾的工作，每天都有100多萬個虛假賬戶被吊銷。

Twitter對機(jī)器人的使用有著最明確的指導(dǎo)方針，在平臺幫助中心設(shè)置了一個專門用于“自動化規(guī)則和最佳實(shí)踐”的頁面，禁止使用下列類型的機(jī)器人：發(fā)布在最終內(nèi)容之前通過登陸或廣告頁面重新定向的自動鏈接;未經(jīng)明確同意而分發(fā)用戶內(nèi)容;自動推特成趨勢主題（也被稱為#標(biāo)簽垃圾郵件）;未經(jīng)Twitter同意的自動回復(fù)或提及;自動轉(zhuǎn)發(fā)，除非Twitter認(rèn)為這項活動是“社區(qū)福利”;自動跟蹤和不跟蹤;自動偏袒。Twitter通過與第三方合作來幫助檢測和關(guān)閉機(jī)器人運(yùn)行的帳戶來減少機(jī)器人驅(qū)動的流量。2019年6月，Twitter宣布收購了AI初創(chuàng)公司Fabula，以幫助其打擊在其平臺上傳播的虛假新聞。2019年11月，Twitter公布了關(guān)于打擊深度偽造草案的細(xì)節(jié)。

社交媒體平臺正努力區(qū)別宣傳、虛假信息和錯誤信息之間的微妙差異，它們正努力保持平臺中立和遵守言論自由原則，謹(jǐn)慎決定內(nèi)容是否修正和如何修正，希望避免由于遵循通知刪除原則而最終帶來審查偏見的爭議和指控。盡管各大社交媒體平臺在打擊虛假新聞上采取了大量措施，但是相對于社交媒體用戶和機(jī)器人數(shù)據(jù)集的量級增長，以及日益復(fù)雜的自動化技術(shù)和人類傳播行為，社交媒體機(jī)器人和虛假信息的檢測和評價會變得非常困難。同時，社交媒體平臺既要確保其用戶不受計算宣傳的影響，同時也面臨著跨境數(shù)據(jù)流的挑戰(zhàn)?！吧缃幻襟w平臺面臨著來自100多個國家的重疊法律和法規(guī)的困境。每個國家都要求社交媒體平臺提供不同的標(biāo)準(zhǔn)和披露信息，并強(qiáng)加了運(yùn)作成本。社交媒體平臺如何在檢測和破壞一系列計算宣傳活動的同時，約束和取悅社交媒體國家？”[41]此外，社交媒體平臺沒有動力為可能會出現(xiàn)的問題而壓低利潤。如果不是由行業(yè)集體承擔(dān)，自我監(jiān)管會使第一家自我監(jiān)管的公司處于顯著的劣勢。

提升公民網(wǎng)絡(luò)媒體素養(yǎng)水平。如果沒有足夠的相關(guān)知識儲備，一般互聯(lián)網(wǎng)用戶很容易被計算宣傳這種方法欺騙。大多數(shù)公民（包括學(xué)生和成年人）缺乏正確區(qū)分假新聞和經(jīng)過驗(yàn)證的內(nèi)容的能力。斯坦福大學(xué)研究人員特別關(guān)注了千禧一代是否能夠區(qū)分合法和非法的新聞來源和文章，答案顯然是否定的。在這項研究中，大約80%的千禧一代錯誤地將一篇假文章認(rèn)定為真文章。[42]如果個人配備了識別和批評計算宣傳形式的工具和知識，計算宣傳的影響可能是有限的。因此，需要提升公民網(wǎng)絡(luò)媒體素養(yǎng)水平，教育人們?nèi)绾伪苊獬蔀橛嬎阈麄鞯氖芎φ?。媒體素養(yǎng)教育，就是要培養(yǎng)公民在面對媒體信息時所表現(xiàn)出的選擇能力、理解能力、質(zhì)疑能力、評估能力、創(chuàng)造能力、生產(chǎn)能力及思辨能力。

提升公民網(wǎng)絡(luò)媒體素養(yǎng)水平，需要政府部門、平臺提供商、公益組織、行業(yè)協(xié)會、學(xué)校、家庭等行動者的共同合力。像Common Sense Media這樣的公共組織已經(jīng)開發(fā)了“新聞素養(yǎng)101”課程，甚至開發(fā)了解釋和打擊虛假信息的游戲。 一些積極活躍的社會團(tuán)體正在公開地或私下地通過與算法工程師和決策者的反向?qū)υ拋碛握f各個平臺，以承擔(dān)減少虛假信息傳播的責(zé)任。谷歌新聞與谷歌旗下慈善機(jī)構(gòu)合作開展了一項耗資1000萬美元的媒體素養(yǎng)宣傳活動，旨在幫助年輕人辨別真假新聞。學(xué)校在打擊虛假或誤導(dǎo)的故事和事實(shí)的擴(kuò)散方面應(yīng)發(fā)揮重要作用，要在媒體素養(yǎng)工具包和事實(shí)核查網(wǎng)站等方面探討一些媒體素養(yǎng)課程的教學(xué)技巧。一些國家還以法規(guī)政策形式來確保公民媒體素養(yǎng)的提高。2019年7月，英國教育與衛(wèi)生部宣布，學(xué)校課程中將增加新內(nèi)容，旨在教孩子們?nèi)绾伟l(fā)現(xiàn)在線錯誤信息。

近年來，“算法素養(yǎng)”在國外也受到了廣泛關(guān)注。“算法素養(yǎng)”（Algorithmic Literacy）是指用戶能夠意識到算法在他們生活中的存在，并且用批判性的思維理解算法帶來的影響，包括充分了解算法的生產(chǎn)邏輯、防范算法帶來的認(rèn)知偏見。[43]“算法素養(yǎng)”運(yùn)動在國外已經(jīng)有了不少實(shí)踐。推特上曾有過專門針對算法素養(yǎng)而引發(fā)的話題，網(wǎng)民們討論了諸如“算法影響了我的搜索結(jié)果”等相關(guān)議題。德國之聲電視臺的“DW學(xué)院”在YouTube上發(fā)布了一則羅德島大學(xué)媒體教育實(shí)驗(yàn)室創(chuàng)始人蕾妮·霍布斯（Renee Hobbs）教授關(guān)于呼吁“我們需要算法素養(yǎng)”的視頻。在霍布斯教授看來，弄清楚我們所使用在媒體背后的算法是如何運(yùn)作的，是混亂而復(fù)雜的，但是對每個人來說，我們都迫切地需要去更好地理解它們。[44]因此，算法素養(yǎng)可能包括至少知道算法在什么情況下表現(xiàn)出來，什么時候藏在幕后，越來越多地意識到自動化算法和大數(shù)據(jù)是如何對我們的注意力進(jìn)行排序和塑造的，以及能夠?qū)λ惴ń酉聛淼囊鈭D作出正確推斷。

（本文系國家社科基金重點(diǎn)項目“全球互聯(lián)網(wǎng)治理的競爭格局與中國進(jìn)路研究”的階段性成果，項目編號：18AXW008）

注釋

[1]Gillian Bolsover; Philip Howard，" Computational Propaganda and Political Big Data： Moving Toward a More Critical Research Agenda"， Big Data， 2017， 5（4）， PP. 273-276.

[2]Samuel C. Woolley and Philip N. Howard， " Political Communication， Computational Propaganda， and Autonomous? Agents Introduction"， International Journal of Communication， 2016， （10）， pp. 4886.

[3]Emiliano Treré， "From digital activism to algorithmic resistance"， The Routledge Companion to Media and Activism， Edited By Graham Meikle， London： Routledge， 2018， pp. 367-375.

[4]Shaomin Xu， "Computational propaganda poses challenge"， Global Times， September 12， 2017， http：//www.globaltimes.cn/content/1066077.shtml.

[5]J. Condliffe， "Over 60 Percent of Internet Traffic Is Now Driven By Bots"， http：//gizmodo.com/over-60-percent-of-internettraffic-is-now-driven-by-bo-1482537192.

[6]Bessi， A.， and Ferrara， E.， "Social Bots Distort the 2016 US Presidential Election Online Discussion"， First Monday， 2016， 21（11）， https：//firstmonday.org/article/view/7090/5653.

[7]Kollanyi B; Howard PN and Woolley SC， "Bots and automation over Twitter during the U.S.election"， Data Memo， 2016.4.， Oxford， UK： Project on Computational Propaganda.

[8]Anastasia Pyrinis， "Fake News is Real：The Rise of Computational Propaganda and Its Political Ramifications"， Berkeley Political Review， November 6， 2017， https：//bpr.berkeley.edu/2017/11/06/fake-news-is-real-the-rise-of-computational-propaganda-and-its-political-ramifications/.

[9]Philip N. Howard; Samuel Woolley and Ryan Calo， "Algorithms， bots， and political communication in the US 2016 election： The challenge of automated political communication for election law and Administration"， Journal of Information Technology & Politics， 2018， 15（2）， pp. 81-93.

[10]張洪忠、趙蓓、石韋穎：《社交機(jī)器人在Twitter參與中美貿(mào)易談判議題的行為分析》，《新聞界》，2020年第2期，第46頁。

[11]Philip N.Howard， and Bence Kollanyi， "Bots，#StrongerIn，and #Brexit： Computational? Propaganda during the UK-EU Referendum"， Working Paper， No.2016.1， Oxford， UK： Project on Computational Propaganda.

[12]BBC， "EU referendum petition hijacked by bots"， June 27， 2016， http：//www.bbc.com/news/technology-36640459.

[13]Marco T.Bastos and Dan Mercea， "The Brexit Botnet and User-Generated Hyperpartisan News"， Social Science Computer Review， 2019， 37（1）， pp. 38-54.

[14]Emilio Ferrara， "Disinformation and social bot operations in the run up to the 2017 French presidential election"， First Monday， 2017， 22（8）. https：//doi.org/10.5210/fm.v22i8.8005.

[15]Lisa-Maria Neudert; Bence Kollanyi and Philip N. Howard， "Junk News and Bots during the German Parliamentary Election： What are German Voters Sharing over Twitter？"， Data Memo， 2017. 7， Oxford， UK： Project on Computational Propaganda.

[16]Keller; Tobias R.; Klinger and Ulrike， "Social Bots in Election Campaigns： Theoretical， Empirical， and Methodological Implications"， Political Communication， 2019， 36（1）， pp. 171-189.

[17]Renee Diresta， "Computational propaganda：If You Make It Trend， You Make It True"， The Yale Review， 2018， 106（4）， pp. 12-29.

[18]Gillian Bolsover， "Computational Propaganda in China： An Alternative Model of a Widespread Practice"， Working Paper， No.2017.4， Oxford， UK： Project on Computational Propaganda.

[19]Gillian Bolsover and Philip Howard， "Chinese Computational Propaganda： Automation， Algorithms and the Manipulation of Information About Chinese Politics on Twitter and Weibo"， Information， Communication & Society， 2019， 24（12）， pp. 2063-2080.

[20]Dhiraj Murthy and Alison B.Powell etal.， "Bots and Political Influence： A Sociotechnical Investigation of Social Network Capital"， International Journal of Communication ， 2016， 10， pp. 4952–4971.

[21]Samantha Bradshaw and Philip N. Howard etal.， "Sourcing and Automation of Political News and Information over Social Media in the United States， 2016-2018"， Political Communication， 2020， 37（2）， pp. 173-193.

[22]Marko Kovic and Adrian Rauchfleisch etal.， "Digital Astroturfing in Politics： Definition， Typology， and Countermeasures"， Studies in Communication Sciences， 2018， 8（1）， pp. 69–85.

[23]Elizabeth Dubois and Fenwick McKelvey， "Political Bots： Disrupting Canada's Democracy"， Canadian Journal of Communication， 2019， 44 （2）， pp. 27-33.

[24]John T Cacioppo and Richard E Petty etal.， "Central and peripheral routes to persuasion： An individual difference perspective"， Journal of Personality and Social Psychology， 1986， 51（5）， pp. 1032.

[25]Jerry Zhang; Darrell Carpenter and Myung Ko， "Online Astroturfifing： A Theoretical Perspective"， Proceedings of the Nineteenth Americas Conference on Information Systems， Chicago， Illinois， August 15-17， 2013.

[26]Edward L.Bernays， "The Engineering of Consent"， The ANNALS of the American Academy of Political and Social Science， 1947， 250（1）， pp. 113-120.

[27]Zeynep Tufekci， "Engineering the Public： Big Data， Surveillance and Computational Politics"， First Monday， 2014， 19（7）， https：//firstmonday.org/ojs/index.php/fm/article/view/4901.

[28]Emiliano Treré， "The Dark Side of Digital Politics： Understanding the Algorithmic Manufacturing of Consent and the Hindering of Online Dissidence"， IDS bulletin， 2016， 47（1）， pp. 127-138.

[29]Clint Watts， "Advanced Persistent Manipulators and Social Media Nationalism ——National Security in a World of Audiences"， Aegis Series Paper No.1812， Hoover Institution， Stanford University.

[30]Megan Boler and Elizabeth Davis， "The afffective politics of the 'post-truth' era： Feeling rules and networked subjectivity"， motion， Space and Society， 2018， 27， pp. 75-85.

[31]Julia Angwin and Terry Parris Jr.， "Facebook Lets Advertisers Exclude Users by Race"， October 28， 2016， https：//www.propublica.org/article/facebook-lets-advertisers-exclude-users-by-race.

[32]OECD， "How to stop the slide from info-storms to post-factual democracy"， https：//www.oecd.org/governance/how-to-stop-the-slide-from-info-storms-to-post-factual-democracy.htm.

[33]Fuchs，C.，"Propaganda 2.0： Herman and Chomsky's Propaganda Model in the Age of the Internet， Big Data and Social Media"， In The Propaganda Model Today： Filtering Perception and Awareness， Edited by Joan Pedro-Cara?ana; Daniel Broudy and Jeffery Klaehn， London： University of Westminster Press， 2018，? pp. 71-92.

[34]Brad Allenby and Joel Garreau （2017）， "Weaponized Narrative is the New Battlespace"， January 3， 2017， https：//www.defenseone.com/ideas/2017/01/ weaponized-narrative-new-battlespace/134284/.

[35]Samantha Shorey and Philip N.Howard， "Automation， Big Data， and Politics： A Research Review"， International Journal of Communication， 2016， 10， pp. 5032-5055.

[36]W Lance Bennett and Steven Livingston， "The disinformation order： Disruptive communication and the decline of democratic Institutions"， European Journal of Communication ， 2018， 33（2）， pp. 122-139.

[37]羅昕：《世界信息傳播新秩序建構(gòu)的脈絡(luò)變遷與中國進(jìn)路》，《內(nèi)蒙古社會科學(xué)》（漢文版），2019年第1期，第160～166頁。

[38]Samantha Bradshaw and Philip N. Howard， "Challenging Truth and Trust： A Global Inventory of Organized Social Media Manipulation"， http：//comprop.oii.ox.ac.uk/wp-content/uploads/sites/93/2018/07/ct2018.pdf.

[39]Brent Mittelstadt， "Auditing for Transparency in Content Personalization Systems"， International Journal of Communication ， 2016， 10， pp. 4991-5002.

[40]Nathalie Marechal， "When Bots Tweet： Toward a Normative Framework for Bots on Social Networking Sites"， International Journal of Communication， 2016， 10，? pp. 5022-5031.

[41]Clint Watts， "Advanced Persistent Manipulators and Social Media Nationalism ——National Security in a World of Audiences"， Aegis Series Paper No.1812， Hoover Institution， Stanford University.

[42]Anastasia Pyrinis， "Fake News is Real： The Rise of Computational Propaganda and Its Political Ramifications"， Berkeley Political Review， November 6， 2017， https：//bpr.berkeley.edu/2017/11/06/fake-news-is-real-the-rise-of-computational-propaganda-and-its-political-ramifications/.

[43]羅昕：《算法媒體的生產(chǎn)邏輯與治理機(jī)制》，《人民論壇·學(xué)術(shù)前沿》，2018年12月下，第25～39頁。

[44]Katharina Zweig， "Algorithm Literacy"， March 6， 2016， https：//prezi.com/yev4rbaz2cxl/algorithm-literacy/.

責(zé) 編/張 曉