文/吳文汐 榮 雪 李成博

隨著媒介技術(shù)的不斷演進(jìn)，事實(shí)核查的門檻在逐漸提高，謠言識(shí)別的難度日益加大，從“有圖有真相”發(fā)展為“有視頻有真相”，到如今，隨著AI技術(shù)的介入，“視頻換臉”的技術(shù)門檻降低，視頻造假也變得輕而易舉，傳播形式已經(jīng)無(wú)法成為辨識(shí)信息真?zhèn)蔚年P(guān)鍵性證據(jù)。AI技術(shù)對(duì)謠言傳播的影響具有兩面性，一方面，AI技術(shù)通過(guò)智能算法更加精準(zhǔn)地識(shí)別謠言，控制謠言傳播；另一方面，其可以用來(lái)創(chuàng)建更為逼真的謠言內(nèi)容，從而加劇謠言治理的難度。當(dāng)運(yùn)用AI創(chuàng)建和傳播虛假內(nèi)容的能力超過(guò)甄別真?zhèn)涡畔⒌哪芰r(shí)，謠言與社交媒體、智能媒體技術(shù)相結(jié)合，對(duì)網(wǎng)絡(luò)輿論場(chǎng)的負(fù)面效應(yīng)將更加突出，社交媒體空間中不同社群間的對(duì)話因難以快速核實(shí)的謠言而受到干擾，主流媒體的輿論引導(dǎo)力也將面臨更為嚴(yán)峻的挑戰(zhàn)。因此，智能媒體時(shí)代如何對(duì)謠言進(jìn)行有效的識(shí)別和控制，這是網(wǎng)絡(luò)輿論治理中必須高度重視的關(guān)鍵性問(wèn)題。

近幾年來(lái)上述問(wèn)題正在得到國(guó)內(nèi)外學(xué)者的關(guān)注，尤其是國(guó)外學(xué)者在這一領(lǐng)域有了較為豐富的成果?；诖耍P者結(jié)合相關(guān)研究成果，從算法模型和用戶心理兩個(gè)角度，提出智能媒體時(shí)代謠言識(shí)別、控制與更正的路徑。

謠言識(shí)別：從早期自動(dòng)檢測(cè)到實(shí)時(shí)預(yù)測(cè)

基于算法，利用大數(shù)據(jù)與AI技術(shù)是智能媒體環(huán)境下謠言識(shí)別的主要途徑。目前早期自動(dòng)檢測(cè)是主要的識(shí)別方式，主要通過(guò)傳統(tǒng)分類方法、基于深度神經(jīng)網(wǎng)絡(luò)的方法以及基于傳播模式這三種方法實(shí)現(xiàn)。前兩種主要聚焦于虛假信息的文本與用戶特征，第三種方法則聚焦于真假信息傳播過(guò)程的差異。傳統(tǒng)分類方法主要是通過(guò)對(duì)文本內(nèi)容特征（如主題、體裁、句子長(zhǎng)度、情感詞匯、修辭、基于時(shí)間的演化規(guī)律）以及用戶信息（如用戶年齡、粉絲特征、位置、轉(zhuǎn)發(fā)或評(píng)論行為）等進(jìn)行分類，發(fā)掘疑似謠言的類別特征，運(yùn)用已識(shí)別的謠言和非謠言數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)分類器，但這類方法用手動(dòng)設(shè)計(jì)分類特征，繁瑣而又費(fèi)時(shí)，在場(chǎng)景運(yùn)用上存在局限性。近年來(lái)深度神經(jīng)網(wǎng)絡(luò)的方法開始得到運(yùn)用，即通過(guò)深度神經(jīng)網(wǎng)絡(luò)自動(dòng)學(xué)習(xí)有效的語(yǔ)義特征，來(lái)代替?zhèn)鹘y(tǒng)的手動(dòng)分類方法。也有兩種方法相結(jié)合識(shí)別謠言，比如，用神經(jīng)網(wǎng)絡(luò)提取文本信息與用戶反饋信息，用傳統(tǒng)方法提取信息源用戶的特征，兩相結(jié)合對(duì)謠言分類做出判斷。基于傳播模式的方法則是通過(guò)分析虛假信息和真實(shí)信息在傳播過(guò)程中的差異（如傳播時(shí)間、傳播中的主導(dǎo)用戶、傳播的網(wǎng)絡(luò)結(jié)構(gòu)的差異），來(lái)辨識(shí)虛假信息。

然而謠言識(shí)別需要重復(fù)的信號(hào)才能達(dá)到足夠的精度，因此，只有在謠言開始傳播并造成危害時(shí)才能識(shí)別謠言。Qin等（2018）提出謠言預(yù)測(cè)的方法，這種方法是在每條信息剛發(fā)布時(shí)立即評(píng)估該信息是否可能成為謠言，從而在虛假信息傳播并造成傷害之前做出處理，這種方法需要在單次數(shù)據(jù)傳遞中做出即時(shí)決策，難度更高也更為復(fù)雜。Qin等（2018）將基于內(nèi)容的特征與基于新穎性的特征和偽反饋相結(jié)合，實(shí)驗(yàn)表明，這種方法能夠準(zhǔn)確地預(yù)測(cè)一條信息在未來(lái)是否會(huì)成為謠言。但是相關(guān)研究還比較少，實(shí)驗(yàn)結(jié)果的精確度還需要更多的研究輔證。

鑒于謠言預(yù)測(cè)相較于謠言識(shí)別，可以更早阻斷謠言傳播，隨著人工智能技術(shù)的發(fā)展，謠言預(yù)測(cè)將超越謠言識(shí)別，成為智能媒體時(shí)代謠言治理的首要任務(wù)。此外，從技術(shù)應(yīng)用的角度來(lái)說(shuō)，通過(guò)人機(jī)協(xié)作提高智能化事實(shí)核查的精準(zhǔn)度，加強(qiáng)對(duì)假新聞或新聞失實(shí)內(nèi)容的核查，也是智能媒體環(huán)境下抑制謠言傳播的重要方向。

基于算法的謠言控制與更正

從刪除節(jié)點(diǎn)向阻斷有限鏈接的轉(zhuǎn)變。早期的網(wǎng)絡(luò)謠言控制手段是刪除節(jié)點(diǎn)，這種方法的有效性在很多實(shí)驗(yàn)中得到了證實(shí)。刪除節(jié)點(diǎn)的根本目的其實(shí)是刪除謠言鏈接，然而單獨(dú)刪除鏈接對(duì)于系統(tǒng)來(lái)說(shuō)工作量巨大，因此Kimura等（2009）考慮到網(wǎng)絡(luò)的分層結(jié)構(gòu)，信息被逐層轉(zhuǎn)發(fā)，提出刪除節(jié)點(diǎn)的同時(shí)阻斷鏈接傳播的方法，出于經(jīng)濟(jì)效益的考慮，應(yīng)當(dāng)阻斷有限鏈接達(dá)到較好的謠言控制效果，而不是阻斷全部鏈接，Kimura等根據(jù)自然貪婪算法（Naturally greedy algorithm）和債券滲濾法（Bond percolation method）提出了刪除鏈接的啟發(fā)式算法（The link-removal heuristics），并且利用大型博客和維基百科網(wǎng)絡(luò)，實(shí)驗(yàn)證明了該方法的有效性：可以僅阻斷0.2%的鏈接，就減少近50%的謠言傳播，這為更加經(jīng)濟(jì)有效地刪除謠言提供了參考。

基于病毒傳播模型的謠言傳播及辟謠分析。由于謠言傳播與病毒傳播具有很強(qiáng)的相似性，計(jì)算機(jī)科學(xué)領(lǐng)域的學(xué)者利用數(shù)學(xué)模型和算法，在病毒傳播模型（如SIR傳染病模型）基礎(chǔ)上研究謠言傳播模型，并運(yùn)用仿真實(shí)驗(yàn)的方法對(duì)提出的模型進(jìn)行檢驗(yàn)，其中SIR模型是最常使用的模型。此類研究主要發(fā)現(xiàn)網(wǎng)絡(luò)的平均程度、受眾的個(gè)人狀態(tài)以及信息效價(jià)等因素會(huì)對(duì)謠言傳播產(chǎn)生影響，通過(guò)控制這些變量找到一個(gè)有效閾值，從而兼顧辟謠效果和經(jīng)濟(jì)效益。比如，Yong和Ma（2018）探討了正面新聞對(duì)謠言傳播的影響，與熱點(diǎn)事件或突發(fā)事件有關(guān)的謠言大多可以在社交網(wǎng)絡(luò)的溫床上迅速傳播，因此對(duì)其最好是轉(zhuǎn)移而不是封鎖，該研究提出了積極新聞可以抑制謠言傳播的ISSPR傳播模型。He等（2016）根據(jù)持續(xù)對(duì)策下的謠言傳播模型推導(dǎo)出謠言持續(xù)擴(kuò)散或者消亡的閾值，并提出了在預(yù)期時(shí)間內(nèi)以有效成本抑制謠言傳播的實(shí)時(shí)策略，即RTO和PSCB策略，經(jīng)證實(shí)這兩種策略可以通過(guò)周期性地傳播真實(shí)信息來(lái)抑制謠言的傳播。這兩種策略可以連續(xù)或周期性地抑制謠言，保證成本效益。Zhao等（2015）則是通過(guò)對(duì)謠言傳播過(guò)程建模，改變謠言傳播的終止機(jī)制，使模型更加逼真，通過(guò)穩(wěn)態(tài)分析，得出謠言傳播必須超過(guò)的傳播閾值。除此之外，模擬結(jié)果顯示，同時(shí)對(duì)大量受眾進(jìn)行辟謠效果不一定好，因?yàn)闀?huì)產(chǎn)生資源浪費(fèi)，所以理想的辟謠受眾數(shù)量存在一個(gè)閾值。這個(gè)閾值就是應(yīng)選擇的最佳辟謠個(gè)體數(shù)量。Zhang等（2014）建立了動(dòng)態(tài)8態(tài)ICSAR（無(wú)知、信息載體、信息傳播者、信息倡導(dǎo)者、移除）謠言傳播模型，分析了與謠言傳播相關(guān)的信息吸引力、謠言的客觀識(shí)別、人的主觀識(shí)別、信息媒體的信任度、傳播概率、強(qiáng)化系數(shù)和專家效應(yīng)等8個(gè)影響因素，ICSAR模型可以將人分為8種狀態(tài)，準(zhǔn)確分析謠言和反謠言傳播，對(duì)于提高辟謠效率和制定應(yīng)急預(yù)案具有重要意義。目前來(lái)看，這些算法和模型仍然需要更多的檢驗(yàn)。

基于用戶心理的謠言控制與更正

麻省理工學(xué)院的Vosoughi等人（2018）通過(guò)對(duì)2006年到2017年twitter上約300萬(wàn)用戶發(fā)布的約126000個(gè)新聞進(jìn)行分析，發(fā)現(xiàn)虛假信息的傳播速度遠(yuǎn)高于真實(shí)信息，一個(gè)虛假故事比一個(gè)真實(shí)故事的傳播速度快6倍，算法是以相同的速率在促進(jìn)真假信息的傳播，因此是用戶而非算法，使得虛假信息傳播快于真相，這與人性本身有關(guān)，人們更傾向于分享新奇的信息，而虛假信息比真實(shí)信息更加新奇。這也說(shuō)明要控制社交媒體的謠言，推動(dòng)辟謠信息的傳播，不僅需要靠算法，基于用戶心理的考量也相當(dāng)重要。

用戶心理因素阻礙謠言更正效果。采用阻斷方式控制謠言往往是在謠言初期效果較好，隨著謠言不斷擴(kuò)散，形成錯(cuò)誤認(rèn)知的用戶越來(lái)越多，簡(jiǎn)單的刪除很難改變?nèi)藗兊恼J(rèn)知，謠言的更正，也就是辟謠即成為重點(diǎn)。然而有一部分研究結(jié)果表明謠言更正的效果并不顯著。從用戶心理的角度出發(fā)，有以下幾方面原因：一是更正已存在的錯(cuò)誤認(rèn)知需要用戶付出更多的認(rèn)知努力，對(duì)謠言主體的認(rèn)同程度、知識(shí)水平、認(rèn)知負(fù)載程度、種族偏見程度、陰謀論程度等都會(huì)影響用戶對(duì)辟謠信息的接受程度；二是謠言的持續(xù)效果會(huì)影響更正信息發(fā)揮作用，這種效果也稱為“信念回聲（Belief Echoes）”，也就是說(shuō)，即使謠言得到了更正，但是對(duì)謠言的認(rèn)知仍然會(huì)影響人們的判斷；三是當(dāng)更正信息不足以說(shuō)服用戶時(shí)，用戶也會(huì)拒絕更正信息；四是更正信息還可能產(chǎn)生“反效果”，也稱為逆火效應(yīng)（Back Fire Effect）或者回旋鏢效應(yīng)（Boomerang Effect），即辟謠信息會(huì)產(chǎn)生事與愿違的效果，強(qiáng)化錯(cuò)誤認(rèn)識(shí)。

謠言更正的有效路徑?？偨Y(jié)此前國(guó)內(nèi)外相關(guān)研究成果，從用戶心理角度分析，謠言更正可以采取以下策略。

第一，不斷重復(fù)辟謠信息，提高用戶對(duì)辟謠信息的注意力，加深認(rèn)知，用與謠言等量的辟謠信息與謠言抗衡，建立謠言與反謠言的匹配機(jī)制，將信息的正反兩面同時(shí)顯示，抑制謠言的影響。

第二，提供具有可靠信息源的辟謠信息。目前來(lái)看，這種方法普遍使用，但是一些具體情境下的效果還有待測(cè)量，例如，當(dāng)涉及某領(lǐng)域的信任危機(jī)時(shí)，該領(lǐng)域的權(quán)威信源是否還會(huì)產(chǎn)生良好的辟謠效果還有待檢驗(yàn)。

第三，在辟謠信息的呈現(xiàn)結(jié)構(gòu)上，運(yùn)用與謠言信息同樣的話語(yǔ)體系，采用用戶熟悉和喜歡的話語(yǔ)方式，用故事等用戶易于理解的表達(dá)，都有助于提高用戶對(duì)辟謠信息的接受度。

第四，促進(jìn)用戶參與，鼓勵(lì)社交媒體用戶積極、自主駁斥不實(shí)信息，并且社交媒體應(yīng)當(dāng)為他們提供辟謠依據(jù)以配合用戶的自主辟謠。這里存在的一個(gè)關(guān)鍵問(wèn)題是如何激發(fā)用戶對(duì)辟謠信息的傳播意愿？有研究（Pal等，2019）表明包含三種“顯著信念”的辟謠信息能夠激發(fā)用戶的辟謠信息傳播意愿，這三種“顯著信念”分別為：分享辟謠信息有利于促進(jìn)真相的傳播，朋友與網(wǎng)絡(luò)社群鼓勵(lì)分享辟謠信息的行為，信源可信度高的辟謠信息能夠促進(jìn)辟謠信息的分享。

最后，需要說(shuō)明的是，算法和用戶心理都是從微觀角度來(lái)探討智能媒體環(huán)境下謠言的應(yīng)對(duì)，實(shí)際上，謠言是一個(gè)“上至國(guó)家政策、中至信息生命周期，下至個(gè)人心理和行為”的系統(tǒng)性問(wèn)題，未來(lái)如何綜合不同層面的因素來(lái)解決這一問(wèn)題，仍有待更多的研究與探討。