周鈺穎，閔 勇，2，江婷君，吳 曄，金小剛，蔡 和

1(浙江工業(yè)大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，杭州 310023)

2(浙江工業(yè)大學(xué) 網(wǎng)絡(luò)空間安全研究院，杭州 310023)

3(北京師范大學(xué) 新聞傳播學(xué)院，北京100875)

4(浙江大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，杭州310027)

5(浙江省經(jīng)濟(jì)信息中心，杭州 310006)

E-mail：myong@zjut.edu.cn

1 引 言

隨著在線社交媒體和人工智能技術(shù)的融合發(fā)展，信息傳播已經(jīng)進(jìn)入萬物皆媒、人機(jī)共生、算法當(dāng)?shù)赖?.0智能時(shí)代.與封閉單向灌輸?shù)?.0模式和以用戶創(chuàng)造內(nèi)容(User Generating Content，UGC)的2.0模式相比，智能時(shí)代的信息傳播和意見交互過程相當(dāng)程度上已由媒體平臺(tái)的軟件機(jī)器人與算法所控制.這些軟件與算法通過與億萬用戶的交互不斷演化，從而使之與用戶和媒體環(huán)境構(gòu)成一個(gè)前所未有的人機(jī)耦合媒體(Coupled Human and Machine System，CHAMS).在CHAMS中，社交媒體機(jī)器人扮演越來越重要的角色.研究表明，Twitter上充斥著9%～15%的社交媒體機(jī)器人[1]，而Facebook在2017年表示每個(gè)月大約有10萬個(gè)機(jī)器人在平臺(tái)上活動(dòng)[2].大量證據(jù)表明，社交媒體機(jī)器人已經(jīng)成為影響和干預(yù)網(wǎng)絡(luò)信息傳播的重要因素，并對(duì)社會(huì)穩(wěn)定和國家安全產(chǎn)生深遠(yuǎn)影響.

本文從5個(gè)方面對(duì)社交媒體機(jī)器人的最新研究進(jìn)行全面的總結(jié)并討論未來發(fā)展趨勢，包括：1)區(qū)分社交機(jī)器人和社交媒體機(jī)器人，明確定義社交媒體機(jī)器人；2)通過信息傳播、意見形成、影響力重塑和隱私泄露4個(gè)方面探究其影響；3)歸納總結(jié)識(shí)別社交媒體機(jī)器人的方法，將現(xiàn)有識(shí)別技術(shù)分成3類，包括基于圖論、基于機(jī)器學(xué)習(xí)和基于眾包的方法，并展開討論；4)探討社交媒體機(jī)器人所處的科技倫理困境；5)從社交媒體機(jī)器人田野實(shí)驗(yàn)、集群技術(shù)以及與推薦算法的互動(dòng)與干擾討論未來研究趨勢.

2 社交機(jī)器人和社交媒體機(jī)器人

隨著計(jì)算機(jī)技術(shù)的發(fā)展，社交機(jī)器人技術(shù)開始萌芽和發(fā)展.廣義上，社交機(jī)器人是指具備一定社交功能，被用于實(shí)現(xiàn)人機(jī)交互的軟硬件系統(tǒng).1966年，ELIZA作為第一個(gè)社交機(jī)器人出現(xiàn)在麻省理工學(xué)院的計(jì)算機(jī)科學(xué)實(shí)驗(yàn)室中，實(shí)現(xiàn)計(jì)算機(jī)程序通過人類語言進(jìn)行對(duì)話的功能[3].而MrMind機(jī)器人在1998年實(shí)現(xiàn)在網(wǎng)絡(luò)上的人機(jī)交流，標(biāo)志著社交機(jī)器人走進(jìn)互聯(lián)網(wǎng)[4].隨著人工智能和大數(shù)據(jù)技術(shù)的廣泛應(yīng)用，社交機(jī)器人的形態(tài)和種類也日漸多樣化，從簡單的網(wǎng)絡(luò)信息爬蟲，到災(zāi)難事件警告、播報(bào)天氣預(yù)報(bào)的機(jī)器人，乃至更為智能和具有硬件實(shí)體的語音聊天機(jī)器人(如Siri、天貓精靈等)和銀行餐飲部門使用的接待機(jī)器人等.

社交媒體機(jī)器人屬于社交機(jī)器人的范疇，其活動(dòng)空間是社交網(wǎng)絡(luò)，并主要針對(duì)社交關(guān)系和信息傳播進(jìn)行活動(dòng).Woolley等人將社交媒體機(jī)器人定義為一種特殊類型的自動(dòng)化軟件代理，用于收集信息、做出決策，以及與在線真實(shí)用戶進(jìn)行交互和模仿[5].Ferrara等人認(rèn)為社交媒體機(jī)器人是一種計(jì)算機(jī)算法，能夠自動(dòng)生成內(nèi)容并在社交媒體上與人類交互，試圖模仿并可能改變?nèi)祟惖男袨閇6].Wagner等人則認(rèn)為社交媒體機(jī)器人是自動(dòng)或半自動(dòng)計(jì)算機(jī)程序[7].Howard等人指出，社交媒體機(jī)器人能夠快速發(fā)布消息，并以人類用戶的身份傳遞信息[8].Murthy等人則強(qiáng)調(diào)社交媒體機(jī)器人是控制社交媒體賬戶的計(jì)算機(jī)程序或算法[9].Grimme等人從5個(gè)方面來界定社交媒體機(jī)器人，包括：完全自動(dòng)化以及部分人工控制的行為、自主行動(dòng)、目標(biāo)明確、通信方式多樣和跨媒體[10].

綜上所述，基于本文的討論場景，綜合Ferrara和Grimme等人的定義，將社交媒體機(jī)器人定義為一種活動(dòng)在互聯(lián)網(wǎng)社交媒體中，具有明確目標(biāo)和意圖，能自主對(duì)社交關(guān)系和信息傳播產(chǎn)生影響的智能化軟件系統(tǒng)[6，10].

3 社交媒體機(jī)器人的影響

近年來，社交媒體機(jī)器人的應(yīng)用日益普遍，其影響呈現(xiàn)兩面性.一方面，社交媒體機(jī)器人可以輔助生成規(guī)律性信息(如天氣和路況預(yù)報(bào)等)，提升信息時(shí)效性，減少人力成本.另一方面，機(jī)器人也被用于傳播虛假信息或者操縱話題討論，從而實(shí)現(xiàn)某種特定的商業(yè)和社會(huì)目的[11，12].

3.1 對(duì)信息傳播的影響

社交媒體機(jī)器人可以自動(dòng)發(fā)布新聞、博客、突發(fā)事件等，也可以收集內(nèi)容以供人類消費(fèi)和使用，促進(jìn)信息傳播.但同時(shí)能在短時(shí)間內(nèi)發(fā)布大量幾乎相同的內(nèi)容，達(dá)到廣告營銷的目的，也可以將惡意鏈接嵌入到信息中，通過URL重定向，傳播惡意網(wǎng)站信息，促進(jìn)虛假信息、負(fù)面信息的傳播[13].2017年法國總統(tǒng)大選前，機(jī)器人惡意擴(kuò)散和傳播馬克龍競選文件，同時(shí)夾雜虛假報(bào)道，嚴(yán)重影響法國大選[14].機(jī)器人活動(dòng)也曾讓Cynk科技公司被持續(xù)討論，導(dǎo)致該公司的市值短時(shí)間內(nèi)劇烈波動(dòng)[6].

Shao等人在Nature正刊中發(fā)表的研究指出社交媒體機(jī)器人在傳播來自低可信度來源的文章中起著不成比例的作用[15].通過構(gòu)建1400萬條Twitter信息的轉(zhuǎn)發(fā)網(wǎng)絡(luò)和“Knockout”策略，證明社交媒體機(jī)器人在傳播的早期放大此類內(nèi)容，還會(huì)通過回復(fù)和提及使用戶吸引到更多關(guān)注者.人類用戶很容易受到這種操縱的影響，共享機(jī)器人發(fā)布的內(nèi)容.

Stella等人在美國科學(xué)院院刊中發(fā)表的文章探究加泰羅尼亞獨(dú)立公投期間社交媒體機(jī)器人的活動(dòng)，發(fā)現(xiàn)機(jī)器人產(chǎn)生超過20%的公投帖子，人類與機(jī)器人互動(dòng)占19%，包括75%的轉(zhuǎn)發(fā)和25%的提及，表明其加速公投期間負(fù)面和煽動(dòng)性內(nèi)容的傳播[16].研究將核心社交互動(dòng)定義為至少有一次轉(zhuǎn)發(fā)以及存在回復(fù)或提及并構(gòu)建社交網(wǎng)絡(luò).采用Fiedler向量確定兩個(gè)極化社團(tuán)，發(fā)現(xiàn)兩個(gè)社團(tuán)中的機(jī)器人主要與人類互動(dòng)，并且會(huì)戰(zhàn)略性地與影響力大的人類進(jìn)行互動(dòng).

Cresci等人發(fā)現(xiàn)社交媒體機(jī)器人利用高價(jià)值股票推廣低價(jià)值股票，干擾股票市場的正常運(yùn)作.通過收集900萬條與美國五大金融市場股票相關(guān)的推文，利用異常檢測技術(shù)來檢測發(fā)文峰值，發(fā)現(xiàn)處于峰值的文章中有60%是轉(zhuǎn)發(fā)，而其中71%來自機(jī)器人賬戶，并且轉(zhuǎn)發(fā)內(nèi)容中高價(jià)值的股票和低價(jià)值的股票經(jīng)常同時(shí)出現(xiàn)[17].

Wang等人結(jié)合傳播動(dòng)力學(xué)知識(shí)，模擬社交媒體機(jī)器人在Twitter上生成、獲取和傳播虛假信息的場景[18].首先使社交媒體機(jī)器人搜索關(guān)于特定主題的信息，然后使其通過轉(zhuǎn)發(fā)假新聞制造初步欺騙性信息，最后使其傳播信息規(guī)模最大化[18].在傳播過程中，社交媒體機(jī)器人可以評(píng)估每個(gè)用戶的好友數(shù)量，從而更有針對(duì)性的對(duì)有影響力的人類用戶進(jìn)行信息傳播，最終可以達(dá)到大規(guī)模傳播虛假信息的效果.Balestrucci等人則通過研究一個(gè)公開可用的假新聞數(shù)據(jù)集，發(fā)現(xiàn)社交媒體機(jī)器人的推文發(fā)布率明顯高于人類用戶[19].

可見，社交媒體機(jī)器人加速虛假、噪音信息的傳播，能夠在短時(shí)間內(nèi)使得目標(biāo)信息大面積擴(kuò)散，達(dá)到事件“炒作”、干擾市場甚至干預(yù)政治活動(dòng)的目的.

3.2 對(duì)意見形成的影響

社交媒體機(jī)器人在一定程度下可以操縱輿論，改變用戶行為，影響意見形成過程.它們可以輕易地加入并且操縱一個(gè)群體，改變?nèi)后w對(duì)于事物的認(rèn)知.在特定話題中，社交媒體機(jī)器人只需要占據(jù)足夠大的比重，就能改變公眾意見，從而使其傳播的觀點(diǎn)最終成為主流觀點(diǎn)[20].

ABM模型也被用于探究社交媒體機(jī)器人對(duì)人類意見形成的影響[20，23].ABM模型基于“沉默的螺旋”理論[24]，即人因害怕被孤立而猶豫是否發(fā)表意見.該模型假設(shè)人類表達(dá)意見的3個(gè)重要因素：代表主觀意愿(積極/消極)的固定二分值vi、發(fā)表意見的渴望程度ci和用戶鄰居的影響δ(t).δ(t)被表示為(n)s(t)-no(t))/(n)s(t)+no(t))，其中ns(t)和no(t)分別表示時(shí)刻t鄰居中與自身觀點(diǎn)一致和不一致的用戶數(shù)量.結(jié)合以上3個(gè)因素，用戶i在t時(shí)刻表達(dá)意見的態(tài)度模型如下，其中l(wèi)為常量：

(1)

模型假設(shè)每個(gè)人都有表達(dá)閾值φi，因此用戶i公開表達(dá)意見(1表示表達(dá)，0表示不表達(dá))可以表示為：

(2)

Ross等人在初始化過程中，使xi(t)和φi均服從均勻分布.通過逐個(gè)添加節(jié)點(diǎn)的方式構(gòu)建無向圖，假設(shè)機(jī)器人獨(dú)立加入社交網(wǎng)絡(luò)，并且節(jié)點(diǎn)數(shù)量少于人類節(jié)點(diǎn)數(shù)量.結(jié)果表明，在高度兩極化下，機(jī)器人參與度僅為2-4%就足以改變2/3的用戶鄰居影響力δ(t).而Cheng等人在小世界和無標(biāo)度網(wǎng)絡(luò)中進(jìn)行模擬，將人類意愿隨機(jī)設(shè)置為積極或消極，機(jī)器人意愿均設(shè)置為消極，人類用戶的ci隨機(jī)設(shè)置為[0，1]，機(jī)器人設(shè)置為ci=1，δ(t)=0，即機(jī)器人始終保持自己的觀點(diǎn).結(jié)果表明，社交媒體機(jī)器人參與討論度為5%-10%，即可改變公眾意見，使它們傳播的觀點(diǎn)最終成為主流觀點(diǎn).

3.3 影響力重塑

一些社交媒體機(jī)器人通過擴(kuò)大社交圈來獲取更大的影響力，讓意見被更多人看到[25].它們通過關(guān)注受歡迎和有影響力的人，或滲透特定或流行的話題討論之中，從而提高曝光度.例如，新浪微博充斥的大量水軍通過有目的、有計(jì)劃地在平臺(tái)上討論某個(gè)事件，使事件持續(xù)發(fā)酵，達(dá)到“炒作”效果.

Boshmaf等人通過機(jī)器人蜜罐實(shí)驗(yàn)構(gòu)建社交媒體機(jī)器人網(wǎng)絡(luò)，讓機(jī)器人在Facebook上運(yùn)行并與大量Facebook用戶進(jìn)行互動(dòng)，用于了解社交媒體機(jī)器人通過大規(guī)模滲透威脅人類用戶的方式，結(jié)果發(fā)現(xiàn)機(jī)器人以80%的成功率與人類用戶建立聯(lián)系[26].Aiello等人在社交網(wǎng)絡(luò)aNobii中進(jìn)行實(shí)驗(yàn)，發(fā)現(xiàn)機(jī)器人僅僅訪問用戶界面也能獲得人類用戶關(guān)注[27].Rizoiu等人收集2016年第一次美國總統(tǒng)答辯期間的大量推文數(shù)據(jù)集，從用戶影響力、政治行為等角度分析150萬用戶[28].利用發(fā)文時(shí)間和用戶特征對(duì)信息擴(kuò)散結(jié)構(gòu)進(jìn)行建模，發(fā)現(xiàn)社交媒體機(jī)器人在活動(dòng)開始時(shí)轉(zhuǎn)推更多信息，并且影響力是人類的2.5倍.

這些研究顯示人類用戶在機(jī)器人面前的脆弱性，社交媒體機(jī)器人在社交網(wǎng)絡(luò)上很容易重塑影響力.

3.4 隱私泄露

現(xiàn)如今，成千上萬的用戶活躍于社交網(wǎng)絡(luò)之中，在線社交網(wǎng)絡(luò)的作用遠(yuǎn)不止聯(lián)系朋友、家人和熟人，更是人類用戶接觸外界活躍用戶的媒介，社交活動(dòng)的有效性依賴于用戶之間的信任.用戶對(duì)于社交媒體機(jī)器人的弱意識(shí)以及機(jī)器人與人類行為的高度相似性，使得社交媒體機(jī)器人可以與人類用戶建立任意數(shù)量的連接，獲取大量用戶的個(gè)人信息(如出生日期、手機(jī)號(hào)碼、郵箱地址等)，造成用戶隱私泄露.

Michalopoulos等人探究了Facebook上的用戶接受未知用戶好友請(qǐng)求的過程，結(jié)果表明，大部分用戶都愿意接受未知好友請(qǐng)求，并且愿意與其分享重要的個(gè)人信息[29].Ge等人通過在社交網(wǎng)絡(luò)上向不熟悉的人發(fā)送好友請(qǐng)求，發(fā)現(xiàn)用戶對(duì)于陌生賬號(hào)的警惕性不高，社交媒體機(jī)器人能夠很容易訪問到用戶資料，尤其對(duì)于青少年的隱私獲取特別容易[30].Li等人發(fā)現(xiàn)社交媒體機(jī)器人獲取隱私的有效性與網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)和聯(lián)系目標(biāo)選擇存在很大的聯(lián)系[31].當(dāng)社交媒體機(jī)器人與單個(gè)用戶進(jìn)行聯(lián)系時(shí)比較困難，而與一個(gè)緊密聯(lián)系的社區(qū)進(jìn)行互動(dòng)比較容易.

社交媒體機(jī)器人可以利用社交活動(dòng)，自動(dòng)提取用戶的隱私內(nèi)容.當(dāng)用戶意識(shí)到自己在與社交媒體機(jī)器人進(jìn)行互動(dòng)時(shí)，會(huì)產(chǎn)生對(duì)社交平臺(tái)的不信任感.并且開始謹(jǐn)慎與外界用戶交流，導(dǎo)致人類用戶之間以及用戶對(duì)社交網(wǎng)絡(luò)的信任缺失，對(duì)社交網(wǎng)絡(luò)生態(tài)健康發(fā)展造成嚴(yán)重的威脅.

3.5 本章小節(jié)

本章旨在探究社交媒體機(jī)器人的影響，社交媒體機(jī)器人作為有效工具，可以提高信息傳播速度，但同時(shí)會(huì)對(duì)虛假信息傳播、意見形成等方面造成負(fù)面影響，同時(shí)能夠重塑影響力，并且造成人類隱私泄露、信任缺失等問題.

4 社交媒體機(jī)器人識(shí)別方法

社交媒體機(jī)器人已經(jīng)對(duì)社會(huì)穩(wěn)定和國家安全產(chǎn)生明顯的影響.因此，搜索和識(shí)別社交媒體中的機(jī)器人賬號(hào)成為一個(gè)重大挑戰(zhàn).

4.1 基于圖論的方法

基于圖論的方法旨在利用社交網(wǎng)絡(luò)結(jié)構(gòu)和動(dòng)力學(xué)特征識(shí)別機(jī)器人賬號(hào)，最新研究主要利用循環(huán)置信傳播和隨機(jī)游走算法進(jìn)行機(jī)器人識(shí)別[32].本文對(duì)算法進(jìn)行優(yōu)缺點(diǎn)概括，如表1所示.

表1 基于圖論的方法比較Table 1 Comparison of graph based methods

SybilBelief算法將社交網(wǎng)絡(luò)建模成馬爾可夫隨機(jī)場(MRF)，通過一組已知狀態(tài)的機(jī)器人和人類節(jié)點(diǎn)，使用循環(huán)置信傳播算法，迭代收斂獲得未知節(jié)點(diǎn)是機(jī)器人的可能性[33].在建模馬爾可夫隨機(jī)場時(shí)，為節(jié)點(diǎn)和邊分配勢能量.其中xv∈{-1，1}，xv=1代表人類節(jié)點(diǎn)，xv=-1代表機(jī)器人節(jié)點(diǎn).節(jié)點(diǎn)v和邊(u，v)的勢能量表示為：

(3)

(4)

其中θv表示節(jié)點(diǎn)v的先驗(yàn)信息，根據(jù)節(jié)點(diǎn)內(nèi)容和行為生成，wuv表示兩個(gè)節(jié)點(diǎn)的耦合性.

在馬爾可夫隨機(jī)場中進(jìn)行循環(huán)置信傳播(LBP).Γ(u)表示節(jié)點(diǎn)u的鄰居節(jié)點(diǎn)集合，在迭代次數(shù)為i時(shí)，消息從節(jié)點(diǎn)u傳到v被定義為：

(5)

當(dāng)?shù)Y(jié)束以后，通過節(jié)點(diǎn)概率進(jìn)行排名，得到最有可能的機(jī)器人節(jié)點(diǎn).未知節(jié)點(diǎn)的后驗(yàn)概率求解方式如下：

(6)

SybilBelief算法基于機(jī)器人節(jié)點(diǎn)很難與人類節(jié)點(diǎn)建立連接的假設(shè)，認(rèn)為機(jī)器人節(jié)點(diǎn)和人類節(jié)點(diǎn)之間的聯(lián)系具有局限性.但是SybilFuse算法認(rèn)為在虛擬網(wǎng)絡(luò)上，機(jī)器人可以大范圍與人類節(jié)點(diǎn)產(chǎn)生聯(lián)系，在SybilBelief算法的基礎(chǔ)上進(jìn)行改進(jìn)[34].

SybilFuse算法首先利用節(jié)點(diǎn)的屬性(度數(shù)、聚類系數(shù)等)，在SVM、邏輯回歸等分類器下獲得節(jié)點(diǎn)的信任分?jǐn)?shù)，即節(jié)點(diǎn)是人類節(jié)點(diǎn)的可能性，節(jié)點(diǎn)v的初始信任分?jǐn)?shù)表示為Sv，同理獲得邊的初始信任分?jǐn)?shù)，即邊不是機(jī)器人與人類相連的可能性，邊(u，v)的信任分?jǐn)?shù)表示為Su，v，然后分別使用循環(huán)置信傳播算法和隨機(jī)游走算法識(shí)別機(jī)器人節(jié)點(diǎn).

在循環(huán)置信傳播算法中，同SybilBelief類似，但使用分類器得到的局部信任分?jǐn)?shù)初始化節(jié)點(diǎn)和邊勢函數(shù)：

(7)

(8)

在隨機(jī)游走過程中，初始化節(jié)點(diǎn)信任得分為S(0)(v)=Sv.隨機(jī)游走完成后，將最終信任分?jǐn)?shù)用于排名.其中S(i)(v)表示節(jié)點(diǎn)v第i次游走的信任分?jǐn)?shù)：

(9)

Liu等人將機(jī)器人節(jié)點(diǎn)細(xì)分為發(fā)起者(發(fā)送消息)和工作者(僅轉(zhuǎn)發(fā))，認(rèn)為工作者更有可能互相關(guān)注和形成社團(tuán)[35].方法包括識(shí)別工作者和發(fā)起者.由于工作者節(jié)點(diǎn)傾向于直接轉(zhuǎn)發(fā)發(fā)起者的信息，因此在識(shí)別工作者節(jié)點(diǎn)時(shí)，根據(jù)轉(zhuǎn)發(fā)行為定義節(jié)點(diǎn)間相似度，從已知狀態(tài)的節(jié)點(diǎn)開始隨機(jī)游走，獲取工作者分?jǐn)?shù).進(jìn)而根據(jù)工作者直接轉(zhuǎn)發(fā)的微博數(shù)量量化發(fā)起者可能性，識(shí)別機(jī)器人發(fā)起者.

(10)

邊的權(quán)重表示節(jié)點(diǎn)u對(duì)于v的重要性，定義為：

(11)

(12)

除上述算法外，許多研究也在圖論方面展開.SybilWalk算法解決了隨機(jī)游走不能同時(shí)包含人類用戶標(biāo)簽和機(jī)器人用戶標(biāo)簽的問題[36].他們定義兩個(gè)節(jié)點(diǎn)：人類虛擬節(jié)點(diǎn)lb和機(jī)器人虛擬節(jié)點(diǎn)ls，并將其添加到社交網(wǎng)絡(luò)中.將lb與已知人類節(jié)點(diǎn)相連，將ls與已知機(jī)器人節(jié)點(diǎn)相連.對(duì)于未知節(jié)點(diǎn)u，從u開始隨機(jī)游走，將節(jié)點(diǎn)u是機(jī)器人的概率定義為隨機(jī)游走先到達(dá)ls，而不是lb的可能性，迭代得到概率，判斷機(jī)器人賬號(hào).GANG算法將SybilBelief算法，應(yīng)用于有向圖中[37].SybilEdge算法對(duì)識(shí)別新出現(xiàn)的機(jī)器人作出貢獻(xiàn)[38].

基于圖論的方法旨在將網(wǎng)絡(luò)構(gòu)建成圖，該方法以直觀的方式呈現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)，量化節(jié)點(diǎn)和邊的性質(zhì)，包括節(jié)點(diǎn)度、中心性、相似性、聚類系數(shù)等指標(biāo).在構(gòu)圖過程中去除無用的邊和節(jié)點(diǎn)，減少噪聲數(shù)據(jù).但是在大數(shù)據(jù)環(huán)境下網(wǎng)絡(luò)涉及大量節(jié)點(diǎn)和邊，過程耗時(shí)嚴(yán)重，并且存在失敗的風(fēng)險(xiǎn).

4.2 基于機(jī)器學(xué)習(xí)的方法

機(jī)器學(xué)習(xí)方法的核心是機(jī)器人用戶的有效特征.綜合現(xiàn)有研究，機(jī)器人特征可被分為6類[39]，包括：

1)用戶特征：與用戶相關(guān)的基本數(shù)據(jù)，包括簡介、頭像、用戶名、創(chuàng)建時(shí)間、地理位置、國家等信息；

2)社交特征：與用戶互動(dòng)有關(guān)的信息，包括用戶的粉絲數(shù)、關(guān)注數(shù)量、好友數(shù)量、轉(zhuǎn)發(fā)數(shù)量、點(diǎn)贊數(shù)量、提及數(shù)量、被轉(zhuǎn)發(fā)數(shù)量、被點(diǎn)贊數(shù)量、被提及數(shù)量等，其中粉絲數(shù)、關(guān)注數(shù)量針對(duì)新浪微博或Twitter等有向交互平臺(tái)，好友數(shù)量適用于Facebook等無向交互平臺(tái)；

3)內(nèi)容特征：文章的詳細(xì)文本內(nèi)容，可通過自然語言處理分析，包括URL數(shù)量、文本相似性、圖片/視頻數(shù)量、文本長度、文本關(guān)鍵字、原創(chuàng)文章數(shù)量等；

4)網(wǎng)絡(luò)特征：社交網(wǎng)絡(luò)圖的各項(xiàng)指標(biāo)，包括度數(shù)分布、節(jié)點(diǎn)相似性、社團(tuán)結(jié)構(gòu)、聚類系數(shù)、節(jié)點(diǎn)中心性等；

5)時(shí)間特征：關(guān)注頻率、發(fā)送好友請(qǐng)求頻率、發(fā)文頻率、評(píng)論頻率、發(fā)文時(shí)長、點(diǎn)贊頻率等，其中關(guān)注頻率適用于有向交互平臺(tái)，好友請(qǐng)求頻率適用于無向交互平臺(tái)；

6)情感特征：用戶互動(dòng)時(shí)的情感傾向，包括表情符號(hào)占比、情感詞頻率等.

不同類別的特征的使用存在差異性，如圖1所示.內(nèi)容特征被最為廣泛的使用，許多社交媒體機(jī)器人發(fā)送的內(nèi)容具有高度重復(fù)性，同時(shí)內(nèi)容涉及更多的URL數(shù)量、標(biāo)簽、圖片和視頻等[40].社交特征中最為明顯的是在有向交互平臺(tái)中，社交媒體機(jī)器人的關(guān)注人數(shù)明顯高于粉絲人數(shù).同時(shí)在互動(dòng)中表現(xiàn)更為活躍，尤其是發(fā)文頻率和點(diǎn)贊頻率更高.在網(wǎng)絡(luò)特征中社交媒體機(jī)器人的節(jié)點(diǎn)中心性較低，同時(shí)更傾向于與人類節(jié)點(diǎn)建立聯(lián)系.而情感特征被較少使用，但是很多研究認(rèn)為機(jī)器人的情感傾向與人類用戶存在明顯差異，因此今后的研究可以借助情感分析模型、文本聚類等提取這一方面的特征[41，42].

圖1 特征類別數(shù)量統(tǒng)計(jì)圖Fig.1 Statistical chart of number of feature categories

基于上述全部或部分特征以及機(jī)器學(xué)習(xí)算法，產(chǎn)生了一系列檢測算法和平臺(tái)，如表2所示.其中最具代表性的是BotOrNot機(jī)器人檢測平臺(tái).BotOrNot是第一個(gè)公開用于識(shí)別Twitter機(jī)器人的平臺(tái)，采用隨機(jī)森林分類器，利用1000多種特征進(jìn)行訓(xùn)練[39].Ferquist等人同樣使用隨機(jī)森林分類器，利用Twitter關(guān)于2018年瑞典大選的推文訓(xùn)練分類模型，認(rèn)為識(shí)別機(jī)器人的重要特征是用戶的點(diǎn)贊次數(shù)/用戶所擁有的好友數(shù)量以及關(guān)注者和粉絲比例[43].Fazil等人使用隨機(jī)森林、決策樹和貝葉斯網(wǎng)絡(luò)，分別按照機(jī)器人和人類用戶1∶1、1∶2、1∶5和1∶10的比例構(gòu)建數(shù)據(jù)集訓(xùn)練分類器[44].

表2 基于機(jī)器學(xué)習(xí)的方法對(duì)比Table 2 Comparison of machine learning based methods

Ping等人提出基于深度學(xué)習(xí)算法的檢測模型DeBD，如圖2所示，主要包含3層[45].第1層為聯(lián)合內(nèi)容特征提取層，提取文章內(nèi)容以及文章之間的關(guān)系特征.他們首先使用Word2Vec將推文單詞轉(zhuǎn)化成詞向量，隨后將賬號(hào)的所有推文表示為矩陣并進(jìn)行連接，通過卷積神經(jīng)網(wǎng)絡(luò)提取其特征.第2層為時(shí)間特征提取層，將用戶元數(shù)據(jù)輸入到LSTM中，提取用戶時(shí)態(tài)特征.第3層為特征融合層，結(jié)合了上述內(nèi)容特征和時(shí)序特征.

圖2 DeBD模型[45]Fig.2 DeBD model[45]

Wu等人提出RGA模型，該模型由輸入層、殘差網(wǎng)絡(luò)(ResNet)層、雙向門控循環(huán)單元(BiGRU)層、注意層和推理層組成[46].在輸入層中，使用L2范數(shù)對(duì)用戶特征向量進(jìn)行標(biāo)準(zhǔn)化.殘差網(wǎng)絡(luò)層由3個(gè)殘差塊組成，每個(gè)殘差塊均為多層神經(jīng)網(wǎng)絡(luò)，包含卷積(Conv1D)層、批歸一化(BN)層和矯正線性單元(ReLU)激活層，用于初步提取用戶特征向量的時(shí)間模式.雙向門控循環(huán)單元同時(shí)考慮過去狀態(tài)和未來狀態(tài)，用于進(jìn)一步提取特征向量的時(shí)間模式.注意層用于提取數(shù)據(jù)中的關(guān)鍵信息和重要模式.在推理層中，采用全連通層和sigmoid激活函數(shù)進(jìn)行二值分類，得到最終分類結(jié)果.

機(jī)器學(xué)習(xí)適用于大型網(wǎng)絡(luò)分析，根據(jù)實(shí)際場景選擇和提取特征.但是該方法性能受限于特征的選擇和分類算法，并且不同數(shù)據(jù)集也會(huì)帶來實(shí)驗(yàn)結(jié)果的差異.

4.3 基于眾包的方法

眾包是指以自由和自愿的方式將任務(wù)分配給特定的人，主要依賴于人類的智能和敏感性.基于眾包的檢測研究最為代表性的是Wang等人提出的眾包惡意機(jī)器人檢測系統(tǒng)[56].該系統(tǒng)包含過濾層和眾包層，過濾層使用一組過濾器查找疑似惡意機(jī)器人，過濾器可以使用現(xiàn)有的惡意機(jī)器人檢測方法實(shí)現(xiàn).然后將疑似惡意機(jī)器人輸入到眾包層，進(jìn)行人工手動(dòng)標(biāo)記，同時(shí)在社交網(wǎng)絡(luò)上應(yīng)用此方法，發(fā)現(xiàn)眾包人員的標(biāo)記效果會(huì)隨時(shí)間推移而下降.Alarifi等人采用此方式標(biāo)記Twitter賬戶中的人類和社交媒體機(jī)器人賬號(hào)，并用于對(duì)比多種檢測系統(tǒng)的有效性[57].西班牙最大的社交網(wǎng)絡(luò)Tuenti使用14名眾包人員來檢測社交媒體機(jī)器人[58].Cresci等人則開展了一項(xiàng)探究機(jī)器人眾包有效性的實(shí)驗(yàn)，發(fā)現(xiàn)眾包工作者識(shí)別社交媒體機(jī)器人的準(zhǔn)確性欠佳[59].此外，Kouvela等人結(jié)合眾包機(jī)制和機(jī)器學(xué)習(xí)，通過在Twiiter上部署公開可用的社交機(jī)器人檢測服務(wù)來提高識(shí)別機(jī)器人的性能[60].

眾包方法可以保證數(shù)據(jù)的相對(duì)可靠準(zhǔn)確，但是在大型網(wǎng)絡(luò)下的識(shí)別工作成本高，同時(shí)會(huì)涉及到隱私問題，并且眾包人員的不確定性會(huì)導(dǎo)致標(biāo)記結(jié)果不準(zhǔn)確.同時(shí)，眾包方法主要依賴人工標(biāo)注，較少涉及計(jì)算機(jī)核心技術(shù)和算法創(chuàng)新，因此不在本文中詳細(xì)描述.

4.4 本章小節(jié)

本章總結(jié)概括目前社交媒體機(jī)器人識(shí)別的相關(guān)工作，分別從基于圖論的方法、基于機(jī)器學(xué)習(xí)的方法和基于眾包的方法3方面進(jìn)行展開，并對(duì)方法進(jìn)行對(duì)比與評(píng)估，為今后識(shí)別社交媒體機(jī)器人工作提供幫助.

5 社交媒體機(jī)器人的科技倫理困境

社交媒體機(jī)器人正在憑借自身的智能化、功能化和社會(huì)互動(dòng)性潛移默化地影響和改變社會(huì).在虛擬網(wǎng)絡(luò)空間中，人物角色可能部分由社交媒體機(jī)器人控制，部分由人控制，使得行為主體(執(zhí)行任務(wù))和道德主體(承擔(dān)責(zé)任)之間的一對(duì)一關(guān)系丟失，越來越難以界定行為和道德主體，這導(dǎo)致機(jī)器人倫理困境，即：社交媒體機(jī)器人應(yīng)該僅被當(dāng)作行為主體還是可以被當(dāng)作道德主體.

一方面，可以僅僅將社交媒體機(jī)器人當(dāng)作工具，即只充當(dāng)行為主體.工具主義理論表示技術(shù)是人類用于完成目的的工具，而工具是中立的，只用于提高效率[61].根據(jù)工具主義理論，社交媒體機(jī)器人不需要對(duì)執(zhí)行的任務(wù)負(fù)責(zé)，任何操作最終都由某些人員(系統(tǒng)的設(shè)計(jì)人員，設(shè)備的制造商，產(chǎn)品的最終用戶等)負(fù)責(zé)，人類是唯一的道德追究人.如果機(jī)器人出現(xiàn)問題或有人受到機(jī)器人的傷害，應(yīng)該將責(zé)任歸咎于執(zhí)行此類操作的人.

另一方面，當(dāng)今社會(huì)的道德主體已經(jīng)延伸到個(gè)體人以外的社會(huì)互動(dòng)實(shí)體.社會(huì)不僅涉及人與人的互動(dòng)，而且涉及人與機(jī)器、機(jī)器與機(jī)器之間的關(guān)系.這需要人類重新思考關(guān)于個(gè)體、技術(shù)和道德的關(guān)系，重新定義道德承擔(dān)主體.決定這一問題的標(biāo)準(zhǔn)方法集中在Coeckelbergh提出的“內(nèi)在屬性”上，其確定了一個(gè)或多個(gè)道德相關(guān)的屬性[62].如果社交媒體機(jī)器人擁有道德屬性，則將其視為道德主體，需要承擔(dān)一定的責(zé)任.

與醫(yī)學(xué)和生物學(xué)研究相比，我國對(duì)于社會(huì)學(xué)和科技研究的倫理研究依然空缺，從未探討機(jī)器的道德性問題.對(duì)于社交媒體機(jī)器人行為尚未給出明確的倫理規(guī)范，未能界定其承擔(dān)倫理責(zé)任的界限，倫理研究領(lǐng)域充滿機(jī)遇和挑戰(zhàn).

6 社交媒體機(jī)器人的未來研究趨勢

6.1 社交媒體機(jī)器人田野實(shí)驗(yàn)方法

利用社交媒體機(jī)器人技術(shù)在真實(shí)網(wǎng)絡(luò)和媒體環(huán)境下開展田野實(shí)驗(yàn)，挖掘人-機(jī)交互規(guī)律，探索輿論干預(yù)和引導(dǎo)是近幾年出現(xiàn)的全新研究方法，為社交網(wǎng)絡(luò)分析、信息傳播研究等領(lǐng)域提供了新的工具.德克薩斯大學(xué)奧斯汀分校的Dhiraj Murthy副教授針在Twitter中人為投放機(jī)器人賬號(hào)，追蹤測量機(jī)器人對(duì)2015年英國大選期間相關(guān)輿情的影響力，探究機(jī)器人在推動(dòng)話題網(wǎng)絡(luò)形成、擴(kuò)散特定標(biāo)簽信息等方面的作用，證明機(jī)器人的作用并不顯著[9].而南加利福尼亞大學(xué)的Emilio Ferrara副教授在Twitter部署機(jī)器人驗(yàn)證不同信息傳播模型的有效性[63].賓夕法尼亞州立大學(xué)的Kevin Munger副教授利用具有不同用戶屬性和粉絲數(shù)量的社交媒體機(jī)器人攻擊具有種族歧視言論的賬號(hào)，發(fā)現(xiàn)被具有“大量粉絲”、“白人”、“男性”機(jī)器人攻擊的賬號(hào)，會(huì)明顯減少其種族歧視言論[64].這些早期研究獲得高度重視，3項(xiàng)研究在Google Scholar的引用數(shù)量均在百次左右.2019年，浙江工業(yè)大學(xué)團(tuán)隊(duì)在微博上開展了我國首次社交媒體機(jī)器人控制實(shí)驗(yàn)研究，證明用戶偏好對(duì)于信息繭房形成和內(nèi)部結(jié)構(gòu)異化的關(guān)鍵作用[65].現(xiàn)階段關(guān)于社交媒體機(jī)器人的實(shí)驗(yàn)?zāi)Ｊ饺绫?所示.

表3 社交媒體機(jī)器人實(shí)驗(yàn)?zāi)Ｊ綄?duì)比表Table 3 Comparison table of social media bots experiments

實(shí)驗(yàn)中，社交媒體機(jī)器人的活動(dòng)模式可歸納為主動(dòng)模式和被動(dòng)模式.主動(dòng)模式表示社交媒體機(jī)器人主動(dòng)與人類用戶進(jìn)行互動(dòng)，主要分為4個(gè)步驟(見圖3)：1)建立社交媒體機(jī)器人，可以使其形成機(jī)器人內(nèi)部互連網(wǎng)絡(luò)；2)機(jī)器人關(guān)注人類用戶；3)機(jī)器人從關(guān)注用戶的粉絲列表以及關(guān)注列表中隨機(jī)選擇用戶繼續(xù)關(guān)注；4)運(yùn)行一段時(shí)間之后，繼續(xù)關(guān)注“回關(guān)”的用戶，取消關(guān)注沒有“回關(guān)”的用戶.

被動(dòng)模式與主動(dòng)模式相反，機(jī)器人被動(dòng)接受人類用戶的消息或關(guān)注，如圖3所示：1)在社交網(wǎng)絡(luò)上部署機(jī)器人，并與其他機(jī)器人用戶互動(dòng)；2)人類用戶主動(dòng)關(guān)注社交媒體機(jī)器人，追蹤這些人類用戶的行為.

圖3 實(shí)驗(yàn)部署模式Fig.3 Experimental deployment mode

主動(dòng)模式和被動(dòng)模式核心區(qū)別在于是否主動(dòng)與人類用戶發(fā)生互動(dòng).由于主動(dòng)模式嘗試通過各種方式和用戶產(chǎn)生互動(dòng)，因此活躍度更高，產(chǎn)生的粉絲、關(guān)注數(shù)量多于被動(dòng)模式，對(duì)網(wǎng)絡(luò)干預(yù)更大.如今采用主動(dòng)模式部署機(jī)器人的研究從多方面開展，包括研究信息傳播規(guī)律、社交網(wǎng)絡(luò)平臺(tái)的可滲透性、社交媒體機(jī)器人的影響力等，而被動(dòng)模式的研究比較單一，基本用于識(shí)別惡意社交媒體機(jī)器人.

雖然目前科學(xué)實(shí)驗(yàn)開始使用社交媒體機(jī)器人進(jìn)行實(shí)驗(yàn)，但是仍然處于探索階段，一些問題亟待明確和解決.

1)實(shí)驗(yàn)門檻高

使用社交媒體機(jī)器人開展田野實(shí)驗(yàn)對(duì)于技術(shù)有很高的要求.完成一次社交媒體機(jī)器人實(shí)驗(yàn)，需要具備交叉學(xué)科思維，由社會(huì)學(xué)、計(jì)算機(jī)科學(xué)、信息科學(xué)等多個(gè)學(xué)科的研究和開發(fā)人員共同參與.同時(shí)，真實(shí)社交網(wǎng)絡(luò)環(huán)境復(fù)雜且難以控制，導(dǎo)致組織和執(zhí)行實(shí)驗(yàn)難度大.

2)人工智能技術(shù)限制

雖然人工智能算法發(fā)展迅速，但在生產(chǎn)環(huán)境下依然存在不足，特別是與真實(shí)用戶互動(dòng)時(shí)，用戶行為復(fù)雜多樣，信息檢索、情感識(shí)別等無法完全準(zhǔn)確，算法產(chǎn)生的偏差很可能影響實(shí)驗(yàn)結(jié)果的可靠性.

3)道德和法律問題

使用社交媒體機(jī)器人進(jìn)行科學(xué)實(shí)驗(yàn)時(shí)，如果行為不當(dāng)會(huì)導(dǎo)致法律和道德問題，如輿論引導(dǎo)、侵犯隱私等.要明確實(shí)驗(yàn)只能用于科學(xué)研究，避免不適當(dāng)?shù)目刂坪透深A(yù).

6.2 社交媒體機(jī)器人集群技術(shù)

社交媒體機(jī)器人的核心作用是通過轉(zhuǎn)發(fā)、評(píng)論和點(diǎn)贊等操作，增強(qiáng)特定賬號(hào)的影響力，擴(kuò)大特定信息傳播能力.然而，對(duì)于如何設(shè)計(jì)和優(yōu)化機(jī)器人的行為依然處于起步階段.目前，相關(guān)研究更多關(guān)注單個(gè)機(jī)器人的行為設(shè)計(jì)和分析，包括：活躍時(shí)間、信息內(nèi)容的選擇以及行為模式設(shè)計(jì)等.對(duì)于2017年西班牙加泰羅尼亞公投期間的Twitter互動(dòng)研究表明，在約18%的機(jī)器人賬號(hào)和82%的人類賬號(hào)組成的單個(gè)極化群體中，機(jī)器人賬號(hào)相互互動(dòng)是極其稀少的，僅不到3%，在不同極化群體之間，機(jī)器人賬號(hào)幾乎不存在任何互動(dòng)[16].

隨著智能技術(shù)的發(fā)展，以無人機(jī)和車聯(lián)網(wǎng)為代表的各類軟硬件智能體的應(yīng)用和研究都發(fā)展到了集群尺度.例如：部署無人機(jī)集群可以讓無人機(jī)分別實(shí)現(xiàn)指揮、探測、攻擊等功能，協(xié)作完成任務(wù)，單個(gè)無人機(jī)的故障不會(huì)影響其他無人機(jī)的工作，這展現(xiàn)了無人機(jī)集群具備極大的優(yōu)勢[69，70].然而，在社交媒體機(jī)器人應(yīng)用和研究中，集群的概念、理論、應(yīng)用和影響依然處于空白階段.因此，集群理論可能成為提升社交媒體機(jī)器人能力和效率的重要渠道，并對(duì)維護(hù)國家安全和社會(huì)穩(wěn)定的起到積極作用.

綜合各類智能集群的理論以及社交媒體機(jī)器人的特點(diǎn)，可以明確社交媒體機(jī)器人集群當(dāng)前研究的3個(gè)必要特征：

1)規(guī)模設(shè)計(jì)[71]，在體量龐大的真實(shí)社交網(wǎng)絡(luò)媒體中要發(fā)揮一定的作用和影響，介入的機(jī)器人數(shù)量必須達(dá)到一定的閾值，而這個(gè)閾值的大小以及與社交網(wǎng)絡(luò)中不同特定子群規(guī)模的關(guān)系是整個(gè)集群理論的基礎(chǔ).

2)集群的結(jié)構(gòu)設(shè)計(jì)[72].從各類智能體集群的研究中可知，集群結(jié)構(gòu)主要可以分為中心化結(jié)構(gòu)和去中心化結(jié)構(gòu)，兩者如何影響集群的功能和效率是結(jié)構(gòu)設(shè)計(jì)的核心.在此基礎(chǔ)上，一些典型的網(wǎng)絡(luò)結(jié)構(gòu)特征對(duì)集群的影響也不可忽視，包括：無標(biāo)度度數(shù)分布、小世界性、社團(tuán)結(jié)構(gòu)以及層次結(jié)構(gòu)等.此外，結(jié)構(gòu)的動(dòng)態(tài)演化特征也是需要重視的問題.

3)機(jī)器人之間的互動(dòng)行為設(shè)計(jì)[16].在社交網(wǎng)絡(luò)中，媒體機(jī)器人的主要信息消費(fèi)行為包括：閱讀、發(fā)表、轉(zhuǎn)發(fā)、點(diǎn)贊和評(píng)論等，主要的社交行為包括：關(guān)注(和取消關(guān)注)，私信聊天等.在特定集群結(jié)構(gòu)的基礎(chǔ)上，不同機(jī)器人之間如何協(xié)調(diào)活動(dòng)是整個(gè)集群設(shè)計(jì)的關(guān)鍵.其中，機(jī)器人之間的評(píng)論(包括回復(fù))互動(dòng)對(duì)于公共輿論環(huán)境中的意見形成和影響力構(gòu)建有著關(guān)鍵性作用.

總之，探索具有特定規(guī)模，結(jié)構(gòu)和互動(dòng)行為的社交媒體機(jī)器人集群對(duì)于未來的在線社交媒體治理具有較高的前瞻性作用.

6.3 社交媒體機(jī)器人與推薦系統(tǒng)的互動(dòng)與對(duì)抗

如上所述，社交媒體機(jī)器人的應(yīng)用和研究都集中在機(jī)器人與人類的互動(dòng).然而，在當(dāng)今的社交媒體中，除社交媒體機(jī)器人外，推薦算法也是一個(gè)重要的人工智能角色.在影響信息傳播和意見方面，社交媒體機(jī)器人更多的處于非中心化的角色，并且個(gè)人、組織和機(jī)構(gòu)都可能使用機(jī)器人，而推薦算法卻幾乎掌握在媒體運(yùn)營者手中，是運(yùn)營者實(shí)現(xiàn)其商業(yè)或其他目的的重要手段.在2020年美國大選的網(wǎng)絡(luò)媒體中，可以清晰看到Twitter、Facebook等西方網(wǎng)絡(luò)運(yùn)營商如何通過推薦系統(tǒng)操控信息傳播[73].同時(shí)，海外媒體的推薦系統(tǒng)也成為影響我國對(duì)外宣傳的重要因素.因此，從外界影響和干預(yù)推薦系統(tǒng)將成為一個(gè)可能影響我國國際話語權(quán)的關(guān)鍵問題.2020年1月，Nature正刊發(fā)表一篇前瞻性文章，明確提出利用社交媒體機(jī)器人研究和對(duì)抗現(xiàn)有推薦算法是當(dāng)前互聯(lián)網(wǎng)信息傳播領(lǐng)域的前沿問題[74].

2020年一次針對(duì)谷歌地圖的社會(huì)學(xué)實(shí)驗(yàn)揭示了機(jī)器人可能成為干預(yù)推薦系統(tǒng)的一種潛在工具.一位德國藝術(shù)家將99部手機(jī)以緩慢的速度拖過一條柏林街道，讓谷歌地圖后臺(tái)算法認(rèn)為此條道路上的車速緩慢，從而標(biāo)記為擁堵(1)https：//www.bleepingcomputer.com/news/software/hack-creates-fake-google-maps-traffic-jams-with-99-cell-phones/.這說明通過一定規(guī)模的機(jī)器人群體模擬一些人類行為有可能影響智能算法的結(jié)果.此外，利用大量水軍進(jìn)行廣泛點(diǎn)贊和轉(zhuǎn)發(fā)，已經(jīng)成為在新浪微博等平臺(tái)中制造熱點(diǎn)的重要手段.

因此，社交媒體機(jī)器人的作用不僅僅限于其內(nèi)部以及與人類用戶的互動(dòng)，更可以擴(kuò)展為與社交媒體生態(tài)中其他智能算法的互動(dòng)，從而成為塑造整個(gè)社交媒體生態(tài)環(huán)境的關(guān)鍵技術(shù).