摘要：隨著移動(dòng)終端的普及，人們發(fā)布信息、傳遞信息的能力和速度得到空前提升，但也使網(wǎng)絡(luò)謠言不斷滋生。微博以其強(qiáng)人際傳播關(guān)系、傳播范圍廣、傳播速度快的特點(diǎn)成為網(wǎng)絡(luò)謠言的一個(gè)主要滋生地。微博謠言常常內(nèi)容模糊、形式多樣、不易辨別，給平臺(tái)進(jìn)行網(wǎng)絡(luò)治理帶來(lái)了一定難度，對(duì)網(wǎng)絡(luò)環(huán)境安全和社會(huì)穩(wěn)定造成了惡劣的影響。文章通過研究現(xiàn)存的微博運(yùn)用人工智能識(shí)別謠言的技術(shù)，發(fā)現(xiàn)該技術(shù)治理邏輯是“鎖定信息、判斷信源；抽取信息，對(duì)比文庫(kù)；監(jiān)控傳播路徑，追溯傳播源”。通過對(duì)這一技術(shù)治理過程的研究，發(fā)現(xiàn)該技術(shù)存在著造成用戶隱私泄露、謠言治理效果欠佳等困境。最后通過文獻(xiàn)分析法，總結(jié)“AI識(shí)謠”技術(shù)在微博謠言治理上可優(yōu)化的路徑有：提高對(duì)用戶隱私的敏感性，謠言識(shí)別模式由檢測(cè)式向預(yù)測(cè)式改變，結(jié)合區(qū)塊鏈、大數(shù)據(jù)技術(shù)等共同治理，提高“AI識(shí)謠”技術(shù)在微博謠言識(shí)別上的效率和效果，希望從源頭上遏制微博網(wǎng)絡(luò)謠言的傳播，通過對(duì)技術(shù)的改進(jìn)側(cè)面提高網(wǎng)民的媒介素養(yǎng)，打擊網(wǎng)絡(luò)謠言泛濫的現(xiàn)象，營(yíng)造清朗的網(wǎng)絡(luò)空間。

關(guān)鍵詞：“AI識(shí)謠”；微博；謠言；微博謠言；謠言治理

中圖分類號(hào)：G206；TP18 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：1674-8883（2023）15-0102-03

一、微博謠言的治理現(xiàn)狀

（一）微博平臺(tái)官方辟謠的治理

網(wǎng)絡(luò)傳播時(shí)代，夸張情緒詞匯成為激起公眾情緒的簡(jiǎn)單方法。一些網(wǎng)民和媒體為了表達(dá)態(tài)度，甚至編造事實(shí)以吸引關(guān)注和共鳴，導(dǎo)致網(wǎng)絡(luò)謠言頻繁出現(xiàn)[1]。為了應(yīng)對(duì)這一問題，新浪微博在2010年創(chuàng)立了官方辟謠賬號(hào)，專門檢測(cè)并發(fā)布與謠言相關(guān)的信息，確保24小時(shí)不間斷地進(jìn)行辟謠工作[2]。公安部于2015年6月在微博上線了首批各省市公安的“網(wǎng)警巡查執(zhí)法”賬號(hào)，旨在通過24小時(shí)巡查及時(shí)發(fā)現(xiàn)網(wǎng)絡(luò)上的各類違法犯罪信息和謠言信息。例如，微博賬號(hào)“微博辟謠”“科學(xué)辟謠”“中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)”等，有官方認(rèn)證的資質(zhì)，會(huì)針對(duì)相關(guān)的謠言進(jìn)行文章發(fā)布，對(duì)謠言的信息內(nèi)容進(jìn)行更正和澄清，及時(shí)的辟謠信息發(fā)布有力地遏制了謠言傳播，有利于維護(hù)網(wǎng)絡(luò)環(huán)境的秩序[3]?！爸袊?guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)”主頁(yè)顯示有多個(gè)話題，辟謠話題有#辟謠課堂#、#護(hù)航高考#、#全民反詐進(jìn)行時(shí)#、#聯(lián)合辟謠#等，這一賬號(hào)的官方認(rèn)證為“中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)官方微博”，從認(rèn)證以來(lái)其博文獲得了40.3萬(wàn)轉(zhuǎn)評(píng)贊，視頻累計(jì)播放量達(dá)到897.6萬(wàn)，具有強(qiáng)大的傳播力和公信力。

（二）基于人工智能技術(shù)的治理

1.基于用戶觀點(diǎn)的微博謠言識(shí)別技術(shù)

微博平臺(tái)采用了多種方法來(lái)檢測(cè)和辟謠。用戶舉報(bào)和投訴是重要的信息來(lái)源，相較于簡(jiǎn)單的數(shù)據(jù)庫(kù)檢測(cè)方法更具說服力。在謠言識(shí)別過程中，平臺(tái)會(huì)將博文的評(píng)論和轉(zhuǎn)發(fā)與謠言詞庫(kù)進(jìn)行比對(duì)。一條句子會(huì)被分成多個(gè)詞組，這些詞組成為謠言識(shí)別的關(guān)鍵詞。評(píng)論中的每個(gè)語(yǔ)句都會(huì)進(jìn)行層層劃分，并使用謠言識(shí)別系統(tǒng)生成離散化分詞。通過特征工程處理，這些分詞被轉(zhuǎn)化為特征詞語(yǔ)。接著，利用特征詞語(yǔ)對(duì)相似或完全相同的特征詞語(yǔ)進(jìn)行反饋打分比對(duì)。最終，通過數(shù)據(jù)模型分類器確定微博內(nèi)容是否為謠言，有效識(shí)別和辟謠[4]。

2.基于觀點(diǎn)和情感交融的微博謠言識(shí)別技術(shù)

該技術(shù)的目標(biāo)是通過分析用戶觀點(diǎn)和情感，來(lái)判斷謠言的真實(shí)性和可信度。通過對(duì)用戶評(píng)論和轉(zhuǎn)發(fā)的謠言進(jìn)行關(guān)鍵詞提取和特征工程處理，可以對(duì)相似或完全相同的特征進(jìn)行比對(duì)，最終確定謠言的識(shí)別結(jié)果。這種技術(shù)的應(yīng)用可以幫助識(shí)別和應(yīng)對(duì)網(wǎng)絡(luò)謠言的傳播，提供更準(zhǔn)確和可信的信息?；谟脩粲^點(diǎn)和情感分類的融合謠言識(shí)別技術(shù)是一種針對(duì)微博謠言的新方法。傳統(tǒng)的謠言識(shí)別技術(shù)只能識(shí)別單一文本特征，準(zhǔn)確性較低，對(duì)謠言的遏制作用有限。而基于用戶觀點(diǎn)和情感分類的融合技術(shù)采用了不同的數(shù)據(jù)集進(jìn)行訓(xùn)練，可以提取謠言不同方面的特征。通過互相彌補(bǔ)各子分類器之間的不足，包括數(shù)據(jù)訓(xùn)練過程中的過擬合或欠擬合狀態(tài)，提高了謠言識(shí)別的準(zhǔn)確性和可靠性。這一技術(shù)的應(yīng)用可以有效防止謠言在微博平臺(tái)的傳播，維護(hù)網(wǎng)絡(luò)信息的真實(shí)性和可信度[5]。這種融合技術(shù)相較于傳統(tǒng)的基于用戶觀點(diǎn)的識(shí)別技術(shù)大大提高了網(wǎng)絡(luò)謠言識(shí)別的準(zhǔn)確性。

二、“AI識(shí)謠”技術(shù)在微博謠言治理中的應(yīng)用

（一）“AI識(shí)謠”技術(shù)對(duì)微博謠言的治理邏輯

AI識(shí)謠的目的是檢測(cè)出網(wǎng)絡(luò)謠言，對(duì)其進(jìn)行識(shí)別和治理，及時(shí)引導(dǎo)社會(huì)輿論，減少社會(huì)恐慌。新浪微博于2010年11月開始實(shí)施微博辟謠計(jì)劃，旨在及時(shí)核實(shí)微博中的惡意和有害不實(shí)信息，并進(jìn)行辟謠[6]?！癆I識(shí)謠”技術(shù)采用兩種方式進(jìn)行謠言識(shí)別：自動(dòng)檢測(cè)和預(yù)測(cè)式識(shí)別。自動(dòng)檢測(cè)方式在謠言傳播過程中對(duì)相關(guān)信息進(jìn)行檢測(cè)和揭露，而預(yù)測(cè)式識(shí)別在謠言信息尚未大規(guī)模傳播之前，通過分析相關(guān)話題和后臺(tái)數(shù)據(jù)來(lái)預(yù)測(cè)其可信度，算法步驟更為復(fù)雜。用得較多的是早期自動(dòng)檢測(cè)，這種方式具有一定的滯后性，具體運(yùn)行過程如下：

1.檢測(cè)內(nèi)容特征，判斷信息源頭

在微博謠言檢測(cè)中，特征抽取挖掘是一個(gè)重要的方面。常用的特征包括用戶特征、內(nèi)容特征和傳播特征。通過對(duì)用戶的行為、社交網(wǎng)絡(luò)關(guān)系等進(jìn)行分析，可以得到用戶特征。內(nèi)容特征則是指微博文本中的一些關(guān)鍵詞、情感傾向等信息。傳播特征主要關(guān)注微博的轉(zhuǎn)發(fā)、評(píng)論等傳播行為。通過提取和分析這些特征，可以輔助識(shí)別和判斷微博中的謠言信息[7]?！癆I識(shí)謠”技術(shù)通過對(duì)傳播謠言的用戶進(jìn)行鎖定，并對(duì)其人口統(tǒng)計(jì)學(xué)信息進(jìn)行數(shù)據(jù)分析，綜合考量用戶的信用度來(lái)判斷其發(fā)布內(nèi)容的可信度。例如，一些賬號(hào)在水滴籌、輕松籌等平臺(tái)上發(fā)布虛假籌款信息，識(shí)別系統(tǒng)會(huì)分析賬號(hào)的發(fā)布?xì)v史、認(rèn)證情況以及所附鏈接的風(fēng)險(xiǎn)提示等信息，綜合判斷該博文為虛假信息并采取相應(yīng)措施，如設(shè)為不可見并對(duì)相關(guān)賬號(hào)進(jìn)行關(guān)停，有效打擊謠言傳播和詐騙行為，保護(hù)用戶利益。

2.抽取信息，對(duì)比文庫(kù)

微博消息或事件中所包含的內(nèi)容特征在重新分類方面表現(xiàn)出明顯優(yōu)勢(shì)，相較于基于用戶和基于網(wǎng)絡(luò)的特征更加具有準(zhǔn)確性[8]。通過以往的檢測(cè)經(jīng)驗(yàn)，識(shí)別系統(tǒng)積累了一定案例的數(shù)據(jù)庫(kù)，會(huì)將攔截內(nèi)容涉及的關(guān)鍵詞以及時(shí)間、地點(diǎn)等細(xì)節(jié)信息與案例中的數(shù)據(jù)進(jìn)行對(duì)比。如果在內(nèi)容及關(guān)鍵信息等細(xì)節(jié)上與以往案例較大程度地吻合，那么該系統(tǒng)就會(huì)將這類信息識(shí)別為謠言。例如某營(yíng)銷號(hào)發(fā)布的“某地發(fā)生泥石流事故造成10人死亡”的視頻，在AI系統(tǒng)檢測(cè)并攔截到這一博文之后，將其與數(shù)據(jù)庫(kù)相關(guān)案例對(duì)比發(fā)現(xiàn)關(guān)鍵信息吻合度較高，該文章內(nèi)容的可信度比較低，則識(shí)別該消息為謠言，最后經(jīng)過后臺(tái)處理刪除相關(guān)文章。

3.監(jiān)控傳播路徑，追溯傳播源

AI系統(tǒng)識(shí)別出某條謠言后，該系統(tǒng)會(huì)對(duì)這條信息主要的轉(zhuǎn)發(fā)人群進(jìn)行監(jiān)控，以便追溯到謠言的最初傳播者，并且統(tǒng)計(jì)出轉(zhuǎn)發(fā)過該信息的人，針對(duì)這些人精準(zhǔn)發(fā)送辟謠文章。例如，“唐山燒烤店打人”事件發(fā)生后輿論發(fā)酵不斷，微博平臺(tái)在進(jìn)行廣場(chǎng)審查時(shí)同時(shí)也收到了網(wǎng)友的舉報(bào)，一些賬號(hào)發(fā)布“燒烤店女子被車碾壓”“打人者為政府工作人員”等謠言信息，平臺(tái)立馬采取封禁行動(dòng)，其中包括禁言、官方通報(bào)、注銷賬號(hào)等，并通過賬號(hào)“微博辟謠”發(fā)布文章，及時(shí)遏制謠言的大肆傳播。

（二）“AI識(shí)謠”技術(shù)的治理成果

尼葛洛龐蒂在《數(shù)字化生存》中指出了計(jì)算對(duì)我們生存的重要性[9]?！癆I識(shí)謠”技術(shù)在微博謠言治理中起著關(guān)鍵作用，通過不斷改進(jìn)算法，實(shí)現(xiàn)了高效的謠言識(shí)別和治理，有效地遏制了微博謠言的傳播。根據(jù)微博辟謠的數(shù)據(jù)報(bào)告，去年共處理了66521條不實(shí)信息，成功辟除了406例謠言。每條不實(shí)信息平均受到42個(gè)網(wǎng)友的舉報(bào)，已標(biāo)記了2206條不實(shí)信息。微博辟謠平臺(tái)的閱讀量達(dá)到103.2億次，討論量達(dá)到667.8萬(wàn)次，人工智能在微博謠言治理方面已初見成效。

三、“AI識(shí)謠”技術(shù)在微博謠言治理中的困境與解決思路

（一）“AI識(shí)謠”技術(shù)在微博謠言治理中的困境

1.用戶隱私泄露嚴(yán)重

AI識(shí)謠系統(tǒng)最關(guān)鍵的一環(huán)就是對(duì)用戶畫像進(jìn)行分析，在用戶未察覺的情況下侵犯用戶的數(shù)據(jù)隱私。我國(guó)在隱私權(quán)立法方面仍然存在缺陷，關(guān)于人工智能侵犯隱私權(quán)的立法仍然是空白，如果有人工智能侵害用戶隱私權(quán)的情況出現(xiàn)，維權(quán)也只能借助傳統(tǒng)的隱私權(quán)被侵犯的相關(guān)法律法規(guī)獲得一定程度的保護(hù)。

2.技術(shù)漏洞導(dǎo)致謠言識(shí)別有“漏網(wǎng)之魚”

識(shí)別微博網(wǎng)絡(luò)中的關(guān)鍵節(jié)點(diǎn)，對(duì)關(guān)鍵節(jié)點(diǎn)進(jìn)行免疫，能有效地縮小謠言在微博網(wǎng)絡(luò)上的傳播范圍[10]。即使人工智能機(jī)器關(guān)鍵節(jié)點(diǎn)算法技術(shù)在不斷進(jìn)步，但仍然存在以下問題：一是人為故意干擾，及人為插入一些干擾數(shù)據(jù)庫(kù)進(jìn)行比對(duì)的數(shù)字符號(hào)，如“+%π_π”，這些符號(hào)的插入打亂了句子的結(jié)構(gòu)，導(dǎo)致在比對(duì)的過程中產(chǎn)生了阻礙。二是在識(shí)別的過程中關(guān)鍵詞是否準(zhǔn)確也影響到謠言識(shí)別的準(zhǔn)確性，比如以“抽獎(jiǎng)”為關(guān)鍵詞來(lái)判斷該信息是否為謠言就會(huì)產(chǎn)生不準(zhǔn)確的現(xiàn)象。

3.無(wú)法從源頭上根治謠言，網(wǎng)民媒介素養(yǎng)得不到提升

AI識(shí)謠的識(shí)別機(jī)制存在滯后性，在謠言產(chǎn)生和傳播之后再進(jìn)行識(shí)別和辟謠，此過程中，謠言影響已經(jīng)產(chǎn)生，并不能從源頭上提高人們的網(wǎng)絡(luò)媒介素養(yǎng)，增強(qiáng)人們辨別信息的能力。根源上還是要提高人們的媒介素養(yǎng)，減少謠言發(fā)生的可能性以及傳播的可能性。比如在“袁隆平去世”這一謠言當(dāng)中，系統(tǒng)識(shí)別到了該信息為虛假信息，對(duì)相關(guān)話題和帖子進(jìn)行了封禁，但是造成了更大的輿論影響。

（二）“AI識(shí)謠”技術(shù)在微博謠言治理中的優(yōu)化思路

1.提高對(duì)用戶隱私保護(hù)的敏感性

“隱私權(quán)”這一概念起源于美國(guó)，經(jīng)過百余年的演變，消費(fèi)者隱私保護(hù)的法律法規(guī)日益健全。然而，近年來(lái)迅猛發(fā)展的社交媒體平臺(tái)卻頻繁利用新技術(shù)手段侵犯用戶隱私，給政府監(jiān)管和內(nèi)容管理帶來(lái)了全新的挑戰(zhàn)[11]。蒂奇諾提出的“知識(shí)溝理論”在網(wǎng)絡(luò)隱私保護(hù)中也同樣能適用，一些用戶可以清晰地了解相關(guān)權(quán)利并進(jìn)行有效的隱私防護(hù)，但相關(guān)知識(shí)比較薄弱的人群可能將隱私泄露出去，被相關(guān)平臺(tái)利用，AI系統(tǒng)應(yīng)該提高對(duì)用戶隱私保護(hù)的敏感性，盡量避免泄露用戶隱私。

2.謠言識(shí)別模式由檢測(cè)式向預(yù)測(cè)式改進(jìn)

“辟謠”是指在謠言產(chǎn)生和傳播之后采取的一種行動(dòng)措施。然而，即使辟謠的效率再高，也存在滯后的問題。因此，為了實(shí)現(xiàn)精準(zhǔn)治理，需要采取更有針對(duì)性的措施，使謠言產(chǎn)生之前得到遏制。這就需要利用先進(jìn)的算法技術(shù)來(lái)識(shí)別各類虛假信息中的關(guān)鍵詞和所隱含的社會(huì)情緒。通過深入了解各類謠言的文本特征和傳播語(yǔ)境，我們可以實(shí)現(xiàn)精確的監(jiān)測(cè)和有效的預(yù)警，防止謠言的產(chǎn)生和擴(kuò)散[12]。目前，AI識(shí)謠的方式有待進(jìn)步，預(yù)測(cè)式的識(shí)別方式更新仍不完善，而檢測(cè)式的識(shí)別方式具有一定的滯后性，不能很好地進(jìn)行識(shí)謠辟謠。AI謠言識(shí)別技術(shù)應(yīng)盡快開發(fā)出預(yù)測(cè)式模型，實(shí)現(xiàn)及時(shí)預(yù)警，并對(duì)其發(fā)展趨勢(shì)進(jìn)行判定，可從根源上減少謠言產(chǎn)生的數(shù)量，并且從根源上消除謠言，也有利于消除受眾的質(zhì)疑心理，平衡輿論生態(tài)，增強(qiáng)微博平臺(tái)的公信力。

3.結(jié)合區(qū)塊鏈、大數(shù)據(jù)技術(shù)共同治理

網(wǎng)絡(luò)謠言的識(shí)別、傳播及阻斷一直是網(wǎng)絡(luò)輿情治理的核心問題，也是社會(huì)治理的重要內(nèi)容，互聯(lián)網(wǎng)技術(shù)在謠言治理方面已經(jīng)有了較為廣泛的應(yīng)用[13]。區(qū)塊鏈技術(shù)的特點(diǎn)包括共識(shí)機(jī)制、防篡改和追溯，這些特點(diǎn)為構(gòu)建可信的互聯(lián)網(wǎng)提供了有力的支持。盡管鏈上節(jié)點(diǎn)之間可能相互陌生，但區(qū)塊鏈技術(shù)創(chuàng)造了可信的環(huán)境。通過排除各種干擾因素，區(qū)塊鏈確保了人們之間的互信，并有效地防止謠言的產(chǎn)生和傳播[14]。人工智能技術(shù)也應(yīng)該和區(qū)塊鏈技術(shù)、物聯(lián)網(wǎng)、大數(shù)據(jù)等前沿信息技術(shù)深度融合，同時(shí)推動(dòng)其在不同領(lǐng)域的應(yīng)用，致力于提高網(wǎng)絡(luò)服務(wù)的智能化，集約化[15]。

四、結(jié)語(yǔ)

本文通過對(duì)微博謠言治理研究現(xiàn)狀的梳理以及治理困境的探究，發(fā)現(xiàn)“AI識(shí)謠”技術(shù)在微博謠言治理的痛點(diǎn)主要在技術(shù)層面。研究得出微博“AI”識(shí)謠技術(shù)可進(jìn)步的層面包括提高用戶隱私保護(hù)的敏感性、謠言模式從檢測(cè)式向預(yù)測(cè)式轉(zhuǎn)變以及結(jié)合互聯(lián)網(wǎng)技術(shù)共同治理。除技術(shù)層面的改進(jìn)外，高效地治理微博謠言還需要國(guó)家出臺(tái)相關(guān)法律法規(guī)及政策，實(shí)現(xiàn)機(jī)制和法治相結(jié)合，從而智能化、高效化地整頓網(wǎng)絡(luò)謠言頻發(fā)的環(huán)境。

參考文獻(xiàn)：

[1] 沈超.網(wǎng)絡(luò)謠言群體態(tài)度研究[M].北京：北京郵電大學(xué)出版社，2020：18：20.

[2] 陳書雨，段長(zhǎng)江，雍振煌，等.結(jié)合文本與用戶信息的微博謠言檢測(cè)方法研究[J].武漢理工大學(xué)學(xué)報(bào)（信息與管理工程版），2023，45（3）：442-448.

[3] 王著維.微博網(wǎng)絡(luò)謠言的用戶關(guān)注與平臺(tái)治理差異研究[J].情報(bào)探索，2021（9）：26-32.

[4] 劉校麟，陳蕾.基于機(jī)器學(xué)習(xí)的突發(fā)事件微博謠言識(shí)別技術(shù)研究進(jìn)展[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2022（5）：54-56.

[5] 任喆，李永鳳.人工智能參與網(wǎng)絡(luò)謠言治理的未來(lái)圖景[J].青年記者，2018（6）：79-80.

[6] 楊真.新浪微博謠言識(shí)別研究[D].鄭州：鄭州大學(xué)，2018.

[7] 劉雅輝，靳小龍，沈華偉，等.社交媒體中的謠言識(shí)別研究綜述[J].計(jì)算機(jī)學(xué)報(bào)，2018，41（7）：1536-1558.

[8] 孫高慧.智能技術(shù)在網(wǎng)絡(luò)謠言精準(zhǔn)治理中的應(yīng)用路徑研究[J].視聽，2023（6）：117-120.

[9] 尼古拉·尼葛洛龐帝.數(shù)字化生存[M].胡泳，范海燕，譯.北京：電子工業(yè)出版社，2017：1-2.

[10] 王韓.微博網(wǎng)絡(luò)謠言傳播模型及關(guān)鍵節(jié)點(diǎn)識(shí)別[D].重慶：重慶理工大學(xué)，2022.

[11] 孟茹.美國(guó)社交媒體平臺(tái)用戶隱私保護(hù)的自律與監(jiān)督機(jī)制：以Facebook為例[J].編輯之友，2017（1）：104-112.

[12] 譚毅.基于文本分析的網(wǎng)絡(luò)謠言識(shí)別研究[D].武漢：武漢科技大學(xué)，2020.

[13] 丁曉蔚.基于區(qū)塊鏈技術(shù)的網(wǎng)絡(luò)謠言防控和治理研究[J].南京社會(huì)科學(xué)，2020（12）：109-116，124.

[14] 廖海生.基于區(qū)塊鏈技術(shù)的微信謠言治理研究[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2022（4）：154-156.

[15] 劉鳳鳴.網(wǎng)絡(luò)謠言治理模型研究[M].北京：科學(xué)出版社，2022：55-57.

作者簡(jiǎn)介 胡淼，研究方向：廣告文化。