王乙朵 方 偉

（北京信息科技大學(xué)公共管理與傳媒學(xué)院，北京 100192）

1.社交機(jī)器人的內(nèi)涵與特征

社交機(jī)器人是完全或部分由計(jì)算機(jī)算法控制的社交媒體賬戶，這些賬戶通過設(shè)置首頁照片或資料來模仿人類用戶，并通過轉(zhuǎn)發(fā)、點(diǎn)贊來模仿人類行為。它們可以自動(dòng)生成內(nèi)容，并與人類互動(dòng)；也可以被用來傳播虛假信息，以此改變?nèi)藗儗?duì)政治問題的看法。

然而，對(duì)社交機(jī)器人，目前仍然缺乏一個(gè)精確且被廣泛認(rèn)同的定義，來自不同領(lǐng)域的研究人員從多個(gè)的角度定義了社交機(jī)器人。計(jì)算機(jī)科學(xué)家和工程師傾向于從技術(shù)角度定義社交機(jī)器人，關(guān)注活動(dòng)水平、自動(dòng)化程度、算法和人工智能的使用等特性。[3]社會(huì)科學(xué)領(lǐng)域的研究者通常對(duì)社會(huì)影響更感興趣，比如張洪忠等認(rèn)為社交機(jī)器人是一種擁有身份、人格屬性等特征的虛擬人工智能形象，它可以在社交網(wǎng)絡(luò)中與人互動(dòng)。[4]鄭晨予等認(rèn)為社交機(jī)器人是由程序員建立并由算法控制社交媒體賬號(hào)集群。[5]

早期的社交網(wǎng)絡(luò)開始，社交機(jī)器人就與人類共存。早期的社交機(jī)器人與垃圾郵件系統(tǒng)類似，它們功能單一，僅支持自動(dòng)發(fā)布內(nèi)容[6]，近幾年隨著大數(shù)據(jù)、云計(jì)算、深度學(xué)習(xí)等計(jì)算機(jī)技術(shù)的不斷發(fā)展，社交機(jī)器人的功能逐漸增多，影響也逐漸加大，分布也更加廣泛。據(jù)估計(jì)，2017年推特的活躍賬戶中，機(jī)器人平均占15%[7]；2019年臉書的活躍賬戶中，機(jī)器人平均占11%。[8]

不同的社交機(jī)器人具有不同的特征。簡單的社交機(jī)器人只負(fù)責(zé)自動(dòng)發(fā)布或轉(zhuǎn)發(fā)一種類型的內(nèi)容，它們不會(huì)試圖歪曲所發(fā)布的內(nèi)容，也不存在不良的動(dòng)機(jī)。[9]如推特賬戶@big_ben_clock，它會(huì)模仿真正的大笨鐘每小時(shí)發(fā)布一條消息。復(fù)雜的社交機(jī)器人采用各種策略來模擬人類用戶，以此獲得信任和關(guān)注。[10]這類社交機(jī)器人影響著網(wǎng)絡(luò)生態(tài)系統(tǒng)，是當(dāng)前各界研究和檢測的重點(diǎn)。還有一類社交機(jī)器人的活動(dòng)痕跡沒有前兩者明顯，它們是虛假粉絲。這些虛假粉絲通常會(huì)互相關(guān)注，形成一個(gè)社交網(wǎng)絡(luò)，為每個(gè)賬戶增加可信度，讓它們避免因缺乏粉絲而被平臺(tái)標(biāo)記。這類賬戶通常采取真人和自動(dòng)化操作相結(jié)合的方法運(yùn)行，Cresci等的一項(xiàng)研究顯示，無論是人類還是監(jiān)督機(jī)器學(xué)習(xí)算法都無法成功識(shí)別這類機(jī)器人。[11]

目前，國外關(guān)于機(jī)器人特征、檢測和影響的新研究層出不窮。意大利學(xué)者Stefano Cresci發(fā)現(xiàn)，關(guān)于社交機(jī)器人的研究數(shù)量自2014年開始激增。[12]但我國目前的相關(guān)研究較少，主要集中于對(duì)社交機(jī)器人特征、影響和檢測方法的研究，或是從中美貿(mào)易摩擦等具體事件中展開對(duì)社交機(jī)器人的實(shí)證研究，對(duì)社交機(jī)器人傳播策略的研究相對(duì)較少。

2.健康領(lǐng)域中社交機(jī)器人的傳播策略與影響

總體來看，社交機(jī)器人的傳播策略有以下三點(diǎn)。首先，機(jī)器人賬戶活躍在傳播的早期階段，它們會(huì)在第一次虛假信息發(fā)布后的幾秒鐘內(nèi)完成轉(zhuǎn)發(fā)，這種傳播策略讓許多用戶接觸到虛假信息，有效地促進(jìn)了病毒式傳播。其次，這些機(jī)器人賬戶會(huì)回復(fù)和提及有影響力的用戶，例如一個(gè)賬戶在18條推文中提到了@realDonaldTrump。社交機(jī)器人通過這種方式可以讓記者、政客等有影響力的人接觸到自己的觀點(diǎn)，并制造出這種觀點(diǎn)被廣泛分享的意見環(huán)境，以此增加這些名人傳播此觀點(diǎn)的機(jī)會(huì)。最后，社交機(jī)器人可能會(huì)虛報(bào)它們的地理位置，同時(shí)還會(huì)出現(xiàn)在不同的政治派別中，以此獲得更廣泛的支持。印第安納大學(xué)的一項(xiàng)研究表明，雖然目前沒有選民受到這些虛假信息影響的直接證據(jù)，但接收社交機(jī)器人所傳播的虛假信息的州，往往會(huì)產(chǎn)生更令人驚訝的選舉結(jié)果。[13]

涉及健康內(nèi)容的傳播可以統(tǒng)稱為健康傳播。[14]在健康傳播領(lǐng)域，吸煙、疫苗接種和新冠疫情等議題中均發(fā)現(xiàn)了社交機(jī)器人存在的痕跡。

第一，通過歪曲在線信息，造成用戶認(rèn)知偏差，以增加有損身體健康產(chǎn)品的銷售。社交機(jī)器人通過發(fā)布大量的、有特定情感傾向的信息，歪曲受眾的信息環(huán)境，實(shí)現(xiàn)對(duì)受眾認(rèn)知的影響與行為的引導(dǎo)。比如，2017年一項(xiàng)利用社交機(jī)器人進(jìn)行電子煙推廣的研究發(fā)現(xiàn)，社交機(jī)器人賬戶發(fā)布電子煙可用于戒煙的內(nèi)容數(shù)量，達(dá)到了人類用戶發(fā)布內(nèi)容的兩倍，而且社交機(jī)器人更傾向于用積極的詞匯來描述電子煙，以構(gòu)建電子煙產(chǎn)品的正面形象。[15]

第二，通過傳播謠言，降低人們開展諸如疫苗接種等健康實(shí)踐的意愿。比如，近年來隨著一些國家反疫苗運(yùn)動(dòng)的興起，社交媒體也成為反疫苗人士傳播虛假信息或不實(shí)信息的陣地。2019年，幾位記者進(jìn)行了一項(xiàng)實(shí)驗(yàn)，以“vaccine”為關(guān)鍵詞在社交媒體平臺(tái)臉書（Facebook）進(jìn)行搜索，結(jié)果顯示反疫苗言論占主導(dǎo)地位。[16]其中，社交機(jī)器人也已成反疫苗人士傳播謠言，混淆輿論環(huán)境，實(shí)施疫苗接種輿論與行為引導(dǎo)的工具。鑒于當(dāng)前社交媒體平臺(tái)是人們獲取信息的主要渠道之一，人們?cè)谄渲兴佑|的有關(guān)疫苗副作用和接種后果的信息，極有可能會(huì)影響接種疫苗的決定。[17]

第三，在突發(fā)公共衛(wèi)生事件中散布謠言，造成公眾恐慌，威脅社會(huì)穩(wěn)定。以新冠疫情為例，雖然那些轉(zhuǎn)發(fā)自主流媒體和可信的信息源的社交機(jī)器人，發(fā)揮了正面作用[18]，但不可否認(rèn)的是，由社交機(jī)器人充當(dāng)關(guān)鍵性傳播節(jié)點(diǎn)所展開的計(jì)算宣傳已經(jīng)成為疫情相關(guān)謠言盛行的根源[19]，美國卡內(nèi)基梅隆大學(xué)的研究員Young在分析了2億多條討論COVID-19的推文后發(fā)現(xiàn)，與之前的危機(jī)和選舉相比，此次疫情中發(fā)現(xiàn)了多達(dá)兩倍的社交機(jī)器人活動(dòng)痕跡，而在他們收集的數(shù)據(jù)集中，最具影響力的50名轉(zhuǎn)發(fā)者中有82%是機(jī)器人賬戶。[20]而由社交機(jī)器人發(fā)布的虛假信息，由于較低的成本與較大的發(fā)布量，對(duì)于加劇謠言傳播，制造社會(huì)恐慌有著不容忽視的影響。

3.社交機(jī)器人的治理策略

3.1 技術(shù)層面提升針對(duì)社交機(jī)器人的檢測能力

第一個(gè)針對(duì)在線社交網(wǎng)絡(luò)中自動(dòng)化賬戶檢測的研究始于2010年1月[21]，當(dāng)時(shí)的機(jī)器人檢測工作基于監(jiān)督機(jī)器學(xué)習(xí)和對(duì)個(gè)人賬戶的分析，檢測時(shí)需要對(duì)每個(gè)賬戶進(jìn)行檢測，并為其貼上是人類或機(jī)器人的二進(jìn)制標(biāo)簽。[22]在早期的監(jiān)督機(jī)器學(xué)習(xí)方法中，每個(gè)被調(diào)查的賬戶需要分配一名監(jiān)督員。這些方法的缺點(diǎn)是，標(biāo)簽只能由操作人員手動(dòng)分析數(shù)據(jù)給出，由于對(duì)社交機(jī)器人的定義不同，不同的操作人員會(huì)產(chǎn)生不同的標(biāo)簽方案[23]，而人與機(jī)器人之間的灰色地帶更是難以定義。

2012年至2013年，幾個(gè)不同的團(tuán)隊(duì)提出了新的檢測方案。這些新方案的主要特征是將檢測目標(biāo)作為一個(gè)整體，而不是單個(gè)賬戶。這種設(shè)計(jì)的基本原理是，機(jī)器人會(huì)與其他機(jī)器人協(xié)同展開行動(dòng)，以此形成網(wǎng)絡(luò)來擴(kuò)大它們的影響力。[24]這種用于發(fā)現(xiàn)群體協(xié)同行為的技術(shù)比分析單個(gè)賬戶的效率更高，而通過分析大量的賬戶，監(jiān)測系統(tǒng)還可以獲取更多的數(shù)據(jù)，為強(qiáng)大的人工智能算法提供支持。在2018年，新提出的基于群體的檢測器數(shù)量首次超過了基于個(gè)人賬戶分析的檢測器數(shù)量。[25]

2013年，對(duì)無監(jiān)督機(jī)器學(xué)習(xí)方法的探索開始出現(xiàn)。無監(jiān)督學(xué)習(xí)可以直接對(duì)數(shù)據(jù)建模，這種模式能夠直接用于標(biāo)記樣本，不但可以降低人工成本，還能減少人工干預(yù)提高樣本標(biāo)記的準(zhǔn)確性。[26]還有一種基于眾包的檢測方式，它們將檢測任務(wù)分發(fā)給多個(gè)標(biāo)注人員，通過投票決策的方式判斷該用戶是否為惡意社交機(jī)器人。但是這一方法的準(zhǔn)確率會(huì)隨著工作時(shí)間的增加而降低，也有一些其他缺陷，如眾包工作者的資質(zhì)和能力審查問題[27]、人工成本問題和用戶個(gè)人信息保護(hù)問題。[28]

在未來，應(yīng)該在信息傳播的早期階段對(duì)社交機(jī)器人進(jìn)行檢測，盡早與社交機(jī)器人接觸可以減輕其影響。此外，隨著模型復(fù)雜性的不斷增加，擁有基準(zhǔn)、框架和參考數(shù)據(jù)集等標(biāo)準(zhǔn)變得越來越重要，因此在評(píng)估機(jī)器人檢測系統(tǒng)時(shí)，應(yīng)該重視技術(shù)的通用性和算法偏差。同時(shí)，提升檢測技術(shù)的社會(huì)協(xié)作水平，將打擊社交機(jī)器人的行動(dòng)置于社會(huì)協(xié)同的框架，在提升研究人員的研究能力，以及相關(guān)檢測工作人機(jī)協(xié)作程度的同時(shí)，還應(yīng)重視如何提高網(wǎng)絡(luò)用戶媒介素養(yǎng)這一問題。

3.2 提升學(xué)界與業(yè)界協(xié)同治理水平

基于學(xué)術(shù)研究開發(fā)的檢測工具，為社交機(jī)器人檢測提供理論與技術(shù)支持。例如，印第安納大學(xué)開發(fā)了社交機(jī)器人檢測工具Botometer，它基于一種監(jiān)督機(jī)器學(xué)習(xí)方法[29]，通過對(duì)賬戶打分來區(qū)分機(jī)器人和人類。在過去的幾年中Botometer的應(yīng)用范圍不斷擴(kuò)大，為包括皮尤研究中心在內(nèi)的眾多研究機(jī)構(gòu)提供數(shù)據(jù)支持。但這些工具的使用也存在一些不確定性，算法有時(shí)會(huì)將人類用戶判定為機(jī)器人，進(jìn)而對(duì)其產(chǎn)生禁言、封號(hào)等限制措施，這引發(fā)了人們對(duì)于審查制度合理性的擔(dān)憂。因此，必須增加有關(guān)檢測工具準(zhǔn)確性的相關(guān)研究。

平臺(tái)應(yīng)該與學(xué)界合作，借助高?？蒲袃?yōu)勢(shì)完善自身檢測系統(tǒng)，并根據(jù)自身技術(shù)、用戶、數(shù)據(jù)等結(jié)構(gòu)，對(duì)現(xiàn)有檢測工具進(jìn)行改進(jìn)與提升，開發(fā)出適合自身平臺(tái)的檢測工具，并將其融入平臺(tái)整體產(chǎn)品、運(yùn)營等工作環(huán)節(jié)，提升檢測的準(zhǔn)確性與有效性。此外，平臺(tái)和學(xué)界還可以建立聯(lián)合辟謠平臺(tái)，辟謠平臺(tái)要積極整合政府有關(guān)部門、健康專家、主流媒體等機(jī)構(gòu)和社會(huì)資源，構(gòu)筑線上線下多種力量的互動(dòng)平臺(tái)，對(duì)虛假信息進(jìn)行協(xié)同治理。[30]

3.3 強(qiáng)化對(duì)社交機(jī)器人的立法監(jiān)管

在法律規(guī)制方面，已有政府出臺(tái)針對(duì)社交機(jī)器人規(guī)制法案的先例。比如，2019年美國加州政府頒布SB1001法案，要求所有試圖影響加州居民投票或購買行為的機(jī)器人應(yīng)該為自己貼上標(biāo)簽，公開自己的機(jī)器人身份。但該法案由于對(duì)社交機(jī)器人的定義模糊、沒有讓平臺(tái)方承擔(dān)披露責(zé)任、一些相關(guān)資本巨頭為自身利益阻礙立法等原因，要有效實(shí)施這項(xiàng)監(jiān)管措施可能還需要一段時(shí)間。[31]因此在管理社交機(jī)器人的政策真正有效實(shí)施之前，相關(guān)部門應(yīng)該發(fā)揮一定的作用，如在健康傳播中，公共衛(wèi)生部門應(yīng)該在打擊虛假健康信息傳播和打擊不健康產(chǎn)品的網(wǎng)絡(luò)推廣方面發(fā)揮作用。[32]

結(jié)語

本文梳理了社交機(jī)器人的定義、特征、社交機(jī)器人在健康傳播中的影響及治理策略。如今社交機(jī)器人廣泛活躍在網(wǎng)絡(luò)之中，已經(jīng)成為網(wǎng)絡(luò)環(huán)境的一部分，它們既讓網(wǎng)絡(luò)信息生態(tài)開始向“人機(jī)共生”轉(zhuǎn)變，也因傳播虛假信息、擾亂政治、危害公共健康等負(fù)面影響受到了各界的廣泛關(guān)注，而對(duì)這些社交機(jī)器人的檢測和規(guī)制一直是各界關(guān)注的研究重點(diǎn)。

在健康傳播領(lǐng)域中，吸煙、疫苗接種和新冠疫情等議題中均發(fā)現(xiàn)了社交機(jī)器人存在的痕跡。值得一提的是，當(dāng)前的一些研究發(fā)現(xiàn)社交機(jī)器人在健康傳播中并非只會(huì)產(chǎn)生負(fù)面影響，比如它們?cè)谝咔橹邪l(fā)揮著提高官方信息傳播效率的作用，這也提醒研究者應(yīng)該重新審視社交機(jī)器人所帶來的社會(huì)影響。