【摘要】在國際政治博弈過程中，基于網(wǎng)絡技術和人工智能的算法認知戰(zhàn)已經(jīng)成為“計算宣傳”中的重要環(huán)節(jié)。作為高新科技的“社交機器人”，在實現(xiàn)信息武器化之后，被用于網(wǎng)絡輿論戰(zhàn)后成為出沒于民間網(wǎng)絡、引導人類認知的隱蔽力量。現(xiàn)通過俄烏沖突等案例揭示在計算宣傳過程中社交機器人的動向與運作機制。同時，也對社交機器人對國家安全的挑戰(zhàn)提出思考，探索相關的治理之道。

【關鍵詞】社交機器人；算法認知戰(zhàn)計算宣傳；國家網(wǎng)絡安全

一、問題的提出

俄烏沖突被認為是互聯(lián)網(wǎng)誕生以來第一場真正意義的網(wǎng)絡時代戰(zhàn)爭，負責制造輿論的“筆桿子”在戰(zhàn)場中發(fā)揮了不亞于地面戰(zhàn)的重要作用［1］。開戰(zhàn)的頭三個月，烏克蘭安全局摧毀了俄羅斯十幾個對社交機器人賬號進行管理的機器人農(nóng)場，同時抵御了250多次網(wǎng)絡攻擊。這些機器人農(nóng)場集中在哈爾科夫、切爾卡西亞、捷爾諾波爾等地，使用了超過10萬個虛假用戶，超過100個GSM網(wǎng)關設備、近萬張SIM卡等。烏克蘭一方也使用了社交機器人相關技術，如人工智能程序GPT-3模型網(wǎng)絡，它具有1750億個參數(shù)的自然語言深度學習模型，有能力影響目標人群。美國在科技上全力援助烏克蘭，因此烏克蘭一方擁有的社交機器人技術與規(guī)模極有可能超越了俄羅斯的捕獲能力。

在現(xiàn)實主義邏輯凸顯、對抗性日益突出的國際政治領域，國家之間多層次多維度的算法認知戰(zhàn)（algorithmic cognitive warfare）融入廣義的宣傳戰(zhàn)之中，成為“計算宣傳”（ComuputationalPropaganda）的重要環(huán)節(jié)。在網(wǎng)絡戰(zhàn)爭中，誰掌握了網(wǎng)絡，誰就會獲得更大的優(yōu)勢［2］。社交機器人（Social bots）是人工智能的產(chǎn)物之一，它經(jīng)過人工編程后可直接與用戶互動交流。近年來，出于不同目的設計的社交機器人潛伏至社交網(wǎng)絡。由于網(wǎng)絡的匿名性特征，潛伏在人類用戶之中的社交機器人往往作為“腹語者”而存在，悄無聲息地引導民眾的認知和思考。被用作軍事領域的社交機器人，活躍于國際輿論場并散布假消息，成為計算宣傳中的信息武器。

二、文獻綜述：計算宣傳與算法認知戰(zhàn)

在古代的戰(zhàn)爭中，有謀略的軍事家往往在戰(zhàn)前散布各種信息，形成己方的道德優(yōu)勢，同時削弱對手士氣。《孟子·離婁上》有云：“得天下有道，得其民，斯得天下矣。”傳播學奠基人之一的拉斯韋爾（Harold Lasswell）在將“戰(zhàn)爭宣傳”定義為“操縱表述來影響人們行動的技巧”，指出宣傳策略也是一種制勝的武器［3］。隨著人類生活越來越向互聯(lián)網(wǎng)傾斜，多項網(wǎng)絡新技術包括人工智能、算法推送、深偽、VR/AR、短視頻等，悉數(shù)被軍事化和武器化，成為計算宣傳矩陣。伍利（Samuel C.Woolley）和霍華德（Philip N.Howard）在2016年提出“計算宣傳”的概念，將其描述為“以在社交媒體網(wǎng)絡上故意散布誤導信息為目的，使用算法、自動化和大數(shù)據(jù)分析等方式操縱公眾輿論”［4］。計算宣傳兼具技術和社會雙重屬性，技術屬性來源自以人工智能、算法為代表的現(xiàn)代信息傳播技術（ICT）的發(fā)展，而社會屬性則植根于“宣傳”控制輿論的內(nèi)涵。計算宣傳基于算法運作機制，發(fā)展出制造利己趨勢、消除不利聲音和推薦垃圾信息等基本形式。

當國際關系趨于緊張化，國家之間相互的計算宣傳也會變得越發(fā)激烈，有可能會引發(fā)算法認知戰(zhàn)。所謂認知戰(zhàn)，是指個體信息獲取、存儲、提取和應用的心理過程，具體包括個體思考抽象事物的能力和解決實際問題的能力，即個體信息加工（information processing）的過程和能力［5］。計算宣傳的核心在于采用算法改變?nèi)祟惔竽X對信息的存儲和編碼過程。自從算法介入媒體，算法會影響用戶所接受的新聞內(nèi)容和信息可見性，并影響他們的行為。某些信息強國通過網(wǎng)絡技術等手段對其他國家網(wǎng)民“釋放迷惑性的信息”［6］。與傳統(tǒng)地緣政治相比，信息時代的地緣政治具有“由國家到個人”“由真實的物理世界到虛擬世界的動員和力量”“舊媒體到新媒體”這三個新的轉(zhuǎn)變［7］。作為信息強國的美國率先強化了網(wǎng)絡戰(zhàn)爭的布置，2017年8月18日，美國國防部啟動了將網(wǎng)絡司令部（US CYBERCOM）升級為一級聯(lián)合作戰(zhàn)司令部的流程，成為美軍第十個聯(lián)合作戰(zhàn)司令部［8］。以信息網(wǎng)絡技術為基礎的網(wǎng)絡力量構(gòu)成各國的綜合國力基礎，也成為爭奪地緣政治權力的基本條件和競爭成敗的決定性因素［9］。

三、社交機器人的運作機制：一種“信息武器”

社交機器人（social bots）被定義為一種可以在在線社交網(wǎng)絡中自主運行、自動發(fā)布信息并進行互動的智能程序，最主要的特征是能與人類用戶進行互動［10］。社交機器人也可以偽裝成人類，高效地執(zhí)行多項“偽草根運動”［11］。政治傳播領域的機器人通常被作為政治腹語的言說者，通過營造虛假人氣、推送大量政治信息、傳播虛假或垃圾政治信息干擾輿論、制造煙霧遮蔽效應混淆公眾視聽、塑造高度人格化形象的虛擬意見領袖等方式［12］，助力于背后操縱主體的權力角逐，威脅民主政治的發(fā)展［13］。一些政客利用機器人在社交網(wǎng)絡上造勢，假裝擁有大量粉絲，以此攻擊競爭對手以營造選舉優(yōu)勢［14］。這盡管存在一定的倫理爭議，但在激烈的國際博弈過程中，社交機器人技術也被公然運用為“信息武器化”的一部分。一些信息強國將精心炮制的帶有政治導向的新聞報道、學術報告等納入互聯(lián)網(wǎng)公共空間之中［15］。

（一）制造“信息迷霧”：社交機器人生產(chǎn)海量內(nèi)容

大量投入互聯(lián)網(wǎng)的社交機器人可以生產(chǎn)出海量內(nèi)容，打造出信息迷霧，用于扭曲真相或局部真相。作為信息武器的社交機器人的有效載荷沒有上限，它具有深度學習能力，能在5分鐘內(nèi)生產(chǎn)并發(fā)布一萬條不同的原創(chuàng)內(nèi)容，同時進行大規(guī)模的轉(zhuǎn)發(fā)與點贊行為。社交機器人倚仗機器人農(nóng)場作為信息指揮站，具備無限再生的特點。它是一種足以瞄準一國互聯(lián)網(wǎng)用戶進行無差別轟炸的信息武器。在關于英國脫歐公投的推特流量中，不到1%的賬戶生產(chǎn)了幾乎三分之一的信息，其中絕大多數(shù)是自動化或半自動化的機器人。［16］

社交機器人長期潛伏并隱蔽于一國社交媒體場域，平日盡力扮演得像真人用戶。有一些機器人賬號還擁有自己的頭像、姓名、職業(yè)等具體消息。在2016年美國大選中出現(xiàn)了一些實名的“拉丁裔賬號”，無論是個人信息、發(fā)帖內(nèi)容，都很難分辨出它是虛假的智能程序。在強化自身話語的同時，社交機器人也可以識別對自己不利的言論，并對這些觀點“點踩”或“拍磚”，或進行簡單的反駁。社交機器人已經(jīng)具備一定的機器學習能力，能通過編寫好的詞匯組合來發(fā)布政治觀點。這些觀點往往集中在爭議較高的領域，爭議性話題會導致不同信息的交鋒，為誤導信息的傳播提供了契機，也更容易成為計算宣傳的內(nèi)容載體［17］。社交機器人能助推情緒擴散尤其是負面情緒，達到人機共情。在“沉默的螺旋”作用下，當社交機器人在通信網(wǎng)絡中占2%至4%時，就能影響意見氣候，并可以通過這種機制來塑造社交媒體用戶的行為規(guī)范［18］。作為信息武器的社交機器人能不動聲色地改變整個輿論場的氛圍環(huán)境，破壞輿論場的事實能見度。

（二）算法精準發(fā)布：以智能推送瞄準特定人群

在特殊情況下，社交機器人也會細分人群，選定特定群體。它們通過用戶上網(wǎng)瀏覽的“數(shù)字腳印”或“數(shù)字面包屑”可以了解到用戶大致輪廓，找到對政治議題感興趣的、具備一定經(jīng)濟基礎和社會活動力的網(wǎng)絡用戶來作為重點滲透對象。大數(shù)據(jù)為信息武器提供了精確的瞄準系統(tǒng)，并將有價值的目標變成一個個“光點”，達到“精準策反”的目的。以劍橋數(shù)據(jù)分析公司為例，在進行目標選取時，該團隊會尋找“自戀特質(zhì)得分較高的人”，因為他們“更容易產(chǎn)生嫉妒或‘這是我應得的’之類的情緒”，而這類情緒極易誘發(fā)違規(guī)和不服從等級制度的行為。該公司數(shù)據(jù)科學家克里斯托弗·懷利（ChristopherWylie）表示，網(wǎng)絡手段能策動某些關鍵人物叛變，“終極目標是激發(fā)和沖動型、反常型或強迫型行為相關的負面情緒和思維過程。目標的行為從輕微或消極抵抗上升到更有破壞性的行為”。通過一段時間逐漸瓦解對方的心理彈性因素，誘導目標形成錯誤的認知，破壞其自我效能。因此，在大數(shù)據(jù)的準確瞄準下，一些處于關鍵位置、心理符合模型設計的目標容易成為持續(xù)攻擊的對象。

（三）數(shù)字平臺支撐：成為認知戰(zhàn)的運載系統(tǒng)

社交機器人之所以成為信息武器，是因為它在國際政治體系和人類生活高度倚仗的網(wǎng)絡空間中找到了嵌入的途徑，數(shù)字平臺則成為社交機器人所利用的“特洛伊木馬”。一直以“中立者”自居的數(shù)字平臺很可能會為其效力的政府默默提供關鍵助力。在俄烏沖突中，俄羅斯的社交機器人農(nóng)場容易被集體揪出，這與美國掌控著推特、臉書等數(shù)字平臺有著直接關聯(lián)。平臺數(shù)字媒體是當前數(shù)字經(jīng)濟賴以運行的核心系統(tǒng)，已然深度嵌入社會結(jié)構(gòu)。數(shù)字平臺往往是由某個商業(yè)公司所主持，本質(zhì)上是一家跨國互聯(lián)網(wǎng)資本企業(yè)，是世界多個國家通用的社交媒體，它覆蓋了全世界絕大部分國家，注冊用戶有13億人，并開通了17個語言版本。擁有多家有國際影響力的數(shù)字平臺是美國在信息地緣政治中的巨大優(yōu)勢，數(shù)字平臺不僅是社交機器人的運載系統(tǒng)，也成為算法認知戰(zhàn)的戰(zhàn)略要地［19］。

四、社交機器人武器化對國家安全的挑戰(zhàn)

社交機器人帶來的信息迷霧用于影響一國用戶的認知，進而制造意識形態(tài)風險。意識形態(tài)的重要性不言而喻，關系到國之根本。當下，大量用戶將網(wǎng)絡信息作為認知外部世界的重要來源。社交機器人的“眾口鑠金”可以很大程度上扭曲受眾的認知、改變意見氣候、制造意識形態(tài)風險，從而挑戰(zhàn)國家安全。

（一）炮制謠言和偏見，制造社會恐慌

社交機器人的泛濫、批量生產(chǎn)謠言與偏見，人機共存的輿論場擠壓了真實聲音。一些社交機器人在特定程序的編寫下，在網(wǎng)絡上散布不實消息。民眾無法區(qū)分真相與謠言，一些民眾選擇盲目跟隨，也有一部分民眾對網(wǎng)絡信息保持警惕狀態(tài)，網(wǎng)絡信任度進一步下降?！爱斠粋€社會失去對基本價值和社會秩序的基本共識，觀念傳達與接受之間就會短路。網(wǎng)絡的后真相狀態(tài)進一步加劇，形成“只問立場、不問事實”的非理性網(wǎng)絡環(huán)境，導致網(wǎng)絡世界走向極化。

大量謠言的存在必定導致社會不安。作為信息武器的社交機器人不僅制造了信息迷霧，更帶來公共輿論場的極端情緒，形成所謂的“信息疫情”。在緊張的國際局勢中，作為信息武器的社交機器人成為散布流言、恐慌與仇恨的起點，對廣大網(wǎng)民身心造成傷害，導致受眾出現(xiàn)思想混亂、價值觀扭曲等現(xiàn)象，破壞社會凝聚力。

（二）信息大國發(fā)動“推特革命”，帶來意識形態(tài)風險

當下大部分第三世界國家依然處于網(wǎng)絡社會的初期，用戶網(wǎng)絡素養(yǎng)不高，國內(nèi)法制不完善，政府對國際輿論場缺乏了解，即使意識到問題所在也缺乏反制的辦法。因此這種狀態(tài)被信息強國所利用，通過社交機器人的滲透悄然改變著目標國的輿論場環(huán)境。本世紀多個國家爆發(fā)“推特革命”，就是社交媒體被策略性使用，而第三世界國家用戶對此完全沒有心理準備，政府也缺乏應對措施。美國多次以技術援助為名支援第三世界國家，助其搭建數(shù)字平臺，完成之后就試圖操縱目標國的議題，從而影響該國的政治走勢。這種意圖往往掩蓋在善意援助之下，實際上客觀服務于美國的海外策略。2022年7月13日，美國白宮前安全顧問博爾頓在接受美國新聞網(wǎng)采訪時不慎透露了自己參與2018年操縱委內(nèi)瑞拉政變的消息。在動蕩的國際環(huán)境之中，被用作軍事用途的社交機器人必然導致信息混亂，直接影響到目標國的國家安全。

五、治理方向：走向信息領域的全球治理

互聯(lián)網(wǎng)、數(shù)字平臺、社交機器人等通信科技的發(fā)明，其初衷都是促進不同人群、不同文明之間的對話，而不是用于制造信息迷霧。從理想主義的角度來看，信息的作用應當是促進人類彼此的交流與理解。在一些國家或地區(qū)，已經(jīng)對社交機器人的使用進行立法。然而，對社交機器人在國際上的濫用，更需要在國際層面引起關注。

（一）拒絕網(wǎng)絡霸權主義邏輯

當下的國際格局中，熱衷于將社交機器人作為信息武器的就是信息強國。他們因技術勢能而擁有絕對的制網(wǎng)權，從而遠程影響、控制、打擊別國，形成了當下的網(wǎng)絡霸權主義傾向。這種網(wǎng)絡霸權主義很容易誘發(fā)網(wǎng)絡世界的軍備競賽。其他國家為了提升網(wǎng)絡防御能力，也紛紛開發(fā)信息武器技術，以確保有“即時反擊”的能力，導致“網(wǎng)絡空間軍備競賽”。這就走入了博弈論中的經(jīng)典模式“囚徒困境”（Prisoner’sDilemma）：越是追求絕對安全，國際社會就越不安全，將再次陷入“所有人反對所有人”的“霍布斯叢林”（Hobbesian Jungle）狀態(tài)。網(wǎng)絡霸權主義對國際秩序的破壞性顯而易見，國際社會有必要共同反對某些信息強國技術濫用，避免國家間卷入“網(wǎng)絡軍備競賽”之中。

（二）加強對數(shù)字平臺的治理

數(shù)字平臺是社交機器人等信息武器的運載系統(tǒng)，也是治理的關鍵所在。一些跨國互聯(lián)網(wǎng)企業(yè)為了盈利，不惜與權力結(jié)盟，成為信息強國的同謀。2022年11月，馬斯克以440億美元完成了推特（后改名“X”）私有化的進程。在接管之后，馬斯克宣布了雄心勃勃的整治計劃，并更換了公司大半高層管理人員。他表示，“擁有一個共同的數(shù)字城市廣場對文明的未來很重要，在這里，各種各樣的信仰可以以健康的方式進行辯論，而不是訴諸暴力”。馬斯克決定改變推特“謊言公司”的形象，并對平臺進行紀律管制。當然，這一努力能否改變推特的性質(zhì)還是未知數(shù)，但這已經(jīng)是數(shù)字平臺改革的重要信號。

（三）完善國際網(wǎng)絡安全公約體系

對社交機器人的治理必須從國際關系現(xiàn)實主義邏輯中抽離，重新回到全球治理的邏輯之中。類似于核武器，社交機器人技術也是全球性問題，它帶來的危害有可能傷害每一個個體，也包括信息強國的公民?，F(xiàn)實主義范式認為國家在決策時對利益的考量高于道德，因此很可能造成“安全困境”。在全球治理的范式框架中，國家之間需要拋棄利益沖突，肩負起相關的責任。《網(wǎng)絡行動國際法塔林手冊》（Tallinn Manual）是通過歐美等地區(qū)國家的學者的集體研究來推動網(wǎng)絡空間國際規(guī)則制定的大型手冊，較為系統(tǒng)、全面地涉及了主權、管轄權、國家責任、人權法、海洋法、國際電信法等15個領域的網(wǎng)絡空間國際法規(guī)則。關于社交機器人的使用公約也應當及時付諸討論，以全球治理的思路制定算法認知戰(zhàn)的道德邊界。

（四）讓“南方國家”發(fā)揮更大的作用

“南方國家”是當下國際網(wǎng)絡輿論場的“新到者”，很容易成為信息武器襲擊的對象。這些國家需要進一步加強國內(nèi)“互聯(lián)網(wǎng)”輿論場主導，不能被美國和西方國家所操控?！澳戏絿摇痹?0世紀70年代倡導的新世界信息秩序運動，曾經(jīng)給世界帶來深刻影響，證明其有能力改寫當今信息領域的發(fā)展走勢。同等的邏輯也可以應用在社交機器人的使用上，信息強國的技術優(yōu)勢將足以支配信息弱國的輿論場，從而威脅后者的國家安全，形成“數(shù)字殖民主義”。不少“南方國家”表達了對信息武器化的擔憂，尤其表達了對社交機器人技術的排斥。他們將成為遏制信息霸權、維護全球正義的重要力量［20］。

六、結(jié)語

綜上所述，社交機器人在當下的國際局勢中會被作為信息強國操控與欺騙他國民眾的信息武器。社交機器人并不是孤立的，其他網(wǎng)絡革命的產(chǎn)品——包括數(shù)字平臺、深偽技術、人臉識別、GPS定位技術、區(qū)塊鏈技術等——混合使用，形成了算法認知戰(zhàn)矩陣。信息技術的武器化，必然導致國家間的軍備競賽與囚徒困境，最終損害整個網(wǎng)絡環(huán)境和人類利益。像所有戰(zhàn)爭一樣，算法認知戰(zhàn)也同樣沒有贏家。國家主席習近平指出，“網(wǎng)絡安全是全球性挑戰(zhàn)，沒有哪個國家能置身事外、獨善其身，維護網(wǎng)絡安全是國際社會的共同責任。各國應該攜手努力，共同遏制信息技術濫用”。［21］只有將網(wǎng)絡空間放到全人類福祉的高度，才能為美好世界創(chuàng)造積極前景和可行路徑。在任何時代，作為“萬物尺度”的人類，不應被社交機器人所愚弄及迷惑。最后，和平與發(fā)展是全球民眾的共同愿望，希望國際社會早日走出緊張狀態(tài)，網(wǎng)絡空間的建設與規(guī)范依然需要各國合力達成。

［本文為國家社科基金（24bxw058）的階段性成果］

參考文獻：

［1］方興東，鐘祥銘.算法認知戰(zhàn)：俄烏沖突下輿論戰(zhàn)的新范式[J].傳媒觀察，2022（4）：5-15.

［2］Arquilla J.Ronfeldt D.Cyberwar is Coming！.Rand Corporation[EB/OL].（2022-06-22）.https：//www.rand.org/pubs/reprints/RP223.html.

［3］哈羅德·拉斯韋爾.世界大戰(zhàn)中的宣傳技巧[M].張潔，田青，譯.北京：中國人民大學出版社，2003：22.

［4］Samuel C.Woolley，amp; Philip N.Howard.Automation，Algorithms，and Politics，Political Communication，Computational Propaganda，and Autonomous Agents[J].Introduction.International Journal of Communication，2016（10）：4882-4890.

［5］Ulric Neisser.Cognitive Psychology：Classic Edition[M].New York.Psychology Press，2014：4-28.

［6］陸俊元.論地緣政治中的技術因素[J].國際關系學院學報，2005（6）：9-14.

［7］Fraser，Matthew.Geopolitics 2.0[J].Elcano Newsletter，2009，Vo.60：7.

［8］特朗普宣布美軍網(wǎng)絡司令部升級地位與美軍中央司令部持平[EB/OL].（2022-06-22）.https：//www.guancha.cn/global-news/2017_08_19_423583.shtml.

［9］蔡翠紅.網(wǎng)絡地緣政治：中美關系分析的新視角[J].國際政治研究，2018（1）：9-37+5.

［10］Kollanyi，B.，Howard，P.N.，amp;Woolley，S.C.Bots and Automation over Twitter During the US Election[J].Computational propaganda project：Working paper series，2016.

［11］Marechal，N.Automation，algorithms，and politics| when bots tweet：Toward a normative framework for bots on social networking sites （feature）[J].International Journal of Communication，2016，10（10）：5022-5031.

［12］張洪忠，段澤寧，楊慧蕓.政治機器人在社交媒體空間的輿論干預分析[J].新聞界，2019（9）：17-25.

［13］趙爽，馮浩宸.機器人水軍發(fā)展與影響評析[J].中國信息安全，2017（11）：88-89.

［14］Howard，P.N.，Woolley，S.，amp;Calo，Ryan.Algorithms，bots，and political communication in the US 2016 election：The challenge of automated political communication for election law and administration[J]，Journal of Information Technology amp; Politics，2018，15（2）：81–93.

［15］趙永華，竇書棋.信息戰(zhàn)視角下國際假新聞的歷史嬗變：技術與宣傳的合奏[J].現(xiàn)代傳播（中國傳媒大學學報），2022（3）：58-67.

［16］Howard，P.N.，amp;Kollanyi，B.BotsStrongerInandBrexit.computational propaganda during the UK-EU Referendum[J].Available at SSRN，2016.

［17］羅昕，張夢.西方計算宣傳的運作機制與全球治理[J].新聞記者，2019（10）：63-72.

［18］Ross，B.，Pilz，L.，Cabrera，B.，Brachten，F(xiàn).，Neubaum，G.，amp; Stieglitz，S.Are social bots a real threat？An agent-based model of the spiral of silence to analyze the impact of manipulative actors in social networks[J]European Journal of Information Systems，2019，28（4）：394-412.

［19］馬立明.從信息全球化到信息地緣政治：互聯(lián)網(wǎng)思維邏輯的演進與趨勢[J].國外社會科學，2021（6）：84-95+158.

［20］馬立明，中國概念的知識再造與全球旅行：國家傳播視角下的概念地理[J].暨南學報（哲學社會科學版），2024（6）：71-85.

［21］2015年習近平在第二屆世界互聯(lián)網(wǎng)大會開幕式上的講話[EB/OL].新華網(wǎng)，（2015-12-16）.http：//www.xinhuanet.com/politics/2015-12/16/c_1117481089.htm.

作者簡介：馬立明，暨南大學新聞與傳播學院副教授（廣州 510632）；陳青，暨南大學新聞與傳播學院碩士生（廣州 510632）。

編校：鄭 艷