徐開元 周安民 陳艾琳 代金鞘 賈鵬

摘要：?社交機器人一直在應用中不斷發(fā)展，并且為了逃避現(xiàn)有的檢測方法，變得更加先進和復雜，較大地影響了原有部分社交機器人檢測方法的效果.檢測社交機器人成為了一項漫長而又艱巨的工作.在社交機器人檢測領域中，目前存在著已公開相關數據集較少的情況，需要人工標注大量的數據.本文提出了一種結合主動學習與關系圖卷積神經網絡（RGCN）的檢測方法——ALRGCN，用以解決人工標注大量數據成本較高的問題.其主要思路是利用主動學習方法來擴充標記數據集，以最大化人工標注的價值.主動學習利用種子選擇算法構建初始訓練集以及不確定性采樣方法篩選出較高信息熵的樣本，交由分類模型進行訓練，旨在通過專業(yè)人員的經驗來人工標注一些分類器難以分類的數據.鑒于社交機器人通常以集群的形式出現(xiàn)，本文引入了RGCN來捕捉其網絡結構特征.RGCN可以有效地分析節(jié)點及其相鄰節(jié)點的屬性，進而幫助該節(jié)點進行分類.實驗在TwiBot-20數據集上進行，通過對比進行使用的基線實驗，ALRGCN在 F 1上取得了2.83%的提升.實驗結果證明，ALRGCN在標注樣本更小的情況下可以更有效地檢測出社交機器人.

關鍵詞：社交機器人檢測； 主動學習； RGCN； 社交網絡

中圖分類號：??TP391? 文獻標識碼：A? DOI：10.19907/j.0490-6756.2023.053001

收稿日期： ?2022-07-01

基金項目： ?四川省科技廳重點研發(fā)項目（2021YFG0156）

作者簡介： ??徐開元（1998-）， 男， 碩士研究生， 研究方向為社交機器人檢測. E-mail： xuky11@163.com

通訊作者： ?周安民.E-mail： zhouanmin@scu.edu.cn

Social bot detection based on active learning ?and relational graph convolutional neural networks

XU Kai-Yuan， ZHOU An-Min， CHEN Ai-Lin， DAI Jin-Qiao， JIA Peng

（School of Cyber Science and Engineering， Sichuan University， Chengdu 610065， China）

Social bots have been evolving over time， and they have become more advanced and sophisticated while avoiding existing detection methods. This has made some of the original social bot detection methods no longer superior and detecting social bots has become a long and arduous task. The field of social bot detection currently suffers from a small number of publicly available relevant datasets and requires manual annotation of a large amount of data. This paper propose ALRGCN， a detection framework that combines active learning with Relational Graph Convolutional Neural networks （RGCN）， to address the problem of high cost of manually labeling large amounts of data. The main idea is to use active learning methods to expand the labeled dataset and maximize the value of manual labeling. Active learning uses a seed selection algorithm to construct an initial training set and an uncertainty sampling method to filter out samples with high information entropy for training by a classification model， aiming at classifying data that are prone to misclassification by a professional's experience. Given that social bots usually appear as clusters， this paper introduces RGCN to capture its network structure features. RGCN can effectively analyze the attributes of a node and its neighboring nodes， which in turn helps that node to perform classification. The experiments are conducted on the TwiBot-20 dataset， and ALRGCN achieves a 2.83% improvement on ?F 1 compared to the baseline experiments conducted for use. The experimental results demonstrate that ALRGCN can be more effective in detecting social bots with smaller labeled samples.

Social bot detection； Active Learning； RGCN； Social networks

1 引 言

社交機器人是一種人為控制的自動化軟件，用于在社交網絡中傳播各種信息.但是隨著應用的發(fā)展，這項技術遭到了濫用.社交機器人更多地被用來竊取個人信息，傳播錯誤信息，進而欺騙和操控社交網絡上的用戶.以往的檢測方法從檢測賬戶信息開始，通過賬戶上所填寫的個人信息作為特征，對正常用戶賬戶和社交機器人賬戶進行分類.而后演變至對賬戶發(fā)布的推文內容及其時間序列進行分析 ?［1］ .但是，社交機器人檢測是一個對抗性的過程，社交機器人為了避免現(xiàn)有的檢測方法，變得更加先進和復雜.為了增加自己的可信度，社交機器人會對正常的用戶進行身份盜竊，抓取正常的個人信息對自己的賬戶信息進行完善.社交機器人也會學習其他正常用戶的動作序列特征，在行為模式上表現(xiàn)也更像正常的用戶，而不是像在早期呈現(xiàn)出簡單的單一活動規(guī)律.現(xiàn)如今社交機器人已經能夠發(fā)布和正常用戶具有類似時間模式的內容，并與正常用戶在網絡上進行互動 ?［2］ .這些都使得社交機器人檢測變得極為復雜，也使得已有的部分檢測方法變得不再有效.面對如此迫切的情況，急需要提出新的社交機器人檢測方法.

越來越多的研究人員使用大量的已經標記過的數據，利用復雜的神經網絡進行分類訓練.這種方法存在的問題是，需要使用大量經過專家人員人工標記的樣本進行模型訓練.一方面，像推特這類在線網絡社交平臺上存在著難以計數的未標記用戶，手工標注大量的樣本數據是一項成本高且容易出錯的任務.另一方面，如果使用無監(jiān)督學習，得到的準確率往往很低，并且魯棒性很差 ?［3］ .

為解決上述存在的問題，本文提出了ALRGCN，這是一種結合主動學習和關系圖卷積神經網絡（Relational Graph Convolutional Neural networks，RGCN）的檢測方法.主動學習通過選擇性的標記較少數據，能夠以較快速度提升模型的檢測效果，一定程度上解決標注成本較大的問題.另一方面，由于社交網絡的特殊結構，社交機器人需要關注數以增強自身的影響力進而引導輿情.本文通過使用節(jié)點的賬戶特征和發(fā)送的推文作為關系圖的節(jié)點特征，不同樣本實例之間的關注與被關注關系構建圖的邊，整體構建了RGCN的模型，來同時捕獲節(jié)點特征和圖形結構特征，進而對社交機器人賬戶和正常用戶進行分類.本文的貢獻如下.

（1） 提出了一種結合主動學習和RGCN的社交機器人檢測方法.ALRGCN通過采樣策略篩選出含有較高信息熵的未標記實例，進而由人工進行標注，再加入至RGCN網絡的訓練集中進行再訓練，提高分類的效果.這是目前為止，首次提出在社交機器人檢測領域將主動學習和RGCN相結合的方法.

（2） 本文在公開數據集上測試結果，實驗表明本文的方法能夠在較少標記樣本的情況下更有效地出檢測社交機器人.

2 相關工作

近年來，社交機器人檢測研究方法的主要思路可以分為兩種：基于特征提取的社交機器人檢測和基于圖結構的社交機器人檢測.此外，為了解決研究過程中存在的需求樣本量大、標記難的問題，本文還引入了主動學習方法.

2.1 基于特征提取的社交機器人檢測

早期社交機器人檢測中的大部分方法都是在賬戶級別檢測機器人.這類方法為了保證訓練得到的精確度較高，需要收集大量的數據進行訓練，包括賬號信息、活動記錄、帖子的內容和情感、網絡結構和時間使用模式等內容.

一些學者呼吁研究機器人的一些行為模式，這樣的優(yōu)勢在于：行為模式很容易被編碼為各種特征，用以學習正常用戶和社交機器人行為的差異之處.這樣的方法有時也能揭示出機器人行為的一些新的規(guī)律.Gong等人 ?［4］ 結合了新引入的時間序列特征和從用戶活動中提取的一組常規(guī)特征，發(fā)現(xiàn)時間序列特征在檢測系統(tǒng)中起著至關重要的作用.另外一些學者通過分析賬號發(fā)布的推文內容，將研究從賬號級轉入到推文級.轉向推文級的檢測方法使得訓練數據的數量級遠大于其他方法，讓社交機器人檢測問題更易于使用深度學習模型.然而，用于文本分類的傳統(tǒng)深度學習技術完全依賴于文本特征進行分類.僅僅使用推文文本并不能很好地預測社交機器人帳戶，利用帳戶元數據、網絡結構信息或時態(tài)活動模式等其他特征的組合，可以獲得更健壯和準確的結果 ?［5］ .

然而，基于特征提取的社交機器人檢測方法也存在著如下的限制：（1） 從賬戶內容中提取特征是一項費時費力的工作；（2） 特征提取方法并不是通用的，只能檢測出特定特征所定義的特定類別的社交機器人.如果提取的特征質量低，分類系統(tǒng)的性能會自動降低.

2.2 基于圖結構的社交機器人檢測

為了克服基于特征提取方法中的局限性，研究人員嘗試基于圖劃分的方法檢測社交機器人.Cao等人 ?［6］ 認為，社交機器人賬戶存在著與正常用戶之間的關注關系，因為他們需要和大量正常的用戶進行互動以增強自己的可信程度.然而已有的集群檢測方法難以識別出社交機器人用戶.

隨著卷積神經網絡（Convolutional Neural Networks， CNN）的不斷發(fā)展，研究人員嘗試努力將這種風靡的模型用于編碼處理圖形結構.Kipf ?［7］ 提出的圖卷積神經網絡考慮了圖結構上的譜卷積，能夠利用節(jié)點的特征并聚合節(jié)點鄰域的特征，但是其需要計算完整的拉普拉斯圖，這樣會導致每一層中的單個節(jié)點的輸出嵌入完全依賴于前一層的所有相鄰節(jié)點.為了解決上述方法存在的缺陷，Hamilton ?［8］ 提出了Graph Stage節(jié)點嵌入算法，Hamilton使用神經網絡學習圖結構中節(jié)點的嵌入，并且可以從節(jié)點的領域聚合信息.此后，Alhossein ?［9］ 首次嘗試使用圖卷積神經網絡對社交機器人進行檢測，利用賬戶之間相互的關注關系構建圖進而對節(jié)點進行分類.Alhossein等人的實驗結果驗證了使用圖結構進行檢測的有效性.

互聯(lián)網中的圖數據存在多種節(jié)點類型和多種邊類型，而圖卷積神經網絡（Graph Convolutional Network， GCN）難以處理不同類型的邊，這對節(jié)點分類的效果造成了影響.Schlichtkrull ?［10］ 提出了基于關系圖的卷積神經網絡模型RGCN.RGCN引入了一個邊類型的轉換，依賴于邊的類型和方向可以更好地處理圖數據中多種邊類型的情況.Feng ?［14］ 則將RGCN引入到社交機器人檢測中，通過從關注和被關注關系構建異構圖的邊，使用賬戶的信息和推文作為節(jié)點的屬性，有效提高了社交機器人檢測的精度.

2.3 主動學習

主動學習作為機器學習的一個分支，主要是針對數據標簽較少或打標簽“代價”較高這一場景而設計的.Settles ?［11］ 的文章詳細地介紹了主動學習：“主動學習是機器學習的一個子領域，在統(tǒng)計學領域也叫查詢學習或最優(yōu)實驗設計”.主動學習方法能夠提高樣本及標注的收益，最大化模型的性能，是一種從樣本的角度提高模型性能的方案.Wu等人 ?［12］ 提出了一種結合主動學習和深度學習的社交機器人檢測方法，使用主動學習方法擴展標記數據，實驗結果證明了引入主動學習方法的有效性，但是沒有考慮到結合社交網絡中的圖結構對樣本進行分析.

雖然基于圖劃分的方法克服了基于特征提取方法的部分局限性，但是這兩種方法都存在著如下的缺點：首先，為了保證檢測能有較高的精度，需要獲取大量的已標記數據進行訓練.然而在實際的業(yè)務場景或者生產環(huán)境中，獲得大規(guī)模的數據樣本的成本很高.其次，目前缺少統(tǒng)一的標注標準，不同人員對相同數據的標注也可能存在著偏見.總之，手工標注樣本需要豐富的經驗支持和大量的時間成本.如何通過較少人工成本來獲得較大價值的標注數據，進一步地提升算法的效果就成為了值得思考的問題.綜合考慮之下，本文在基于圖劃分的方法中引入主動學習模塊，構建了ALRGCN的整體框架.

3 研究方法

為了解決社交機器人檢測領域中存在的已標記數據集較少的問題，本文結合社交網絡的結構特征，提出了基于主動學習和關系圖神經網絡相結合的ALRGCN檢測框架.ALRGCN有三個關鍵的組成部分，分別為主動學習、特征編碼與組合、關系圖卷積神經網絡訓練算法.在本節(jié)內容中，依次介紹ALRGCN的三個組成部分，并對本文研究過程中使用的方法進行說明.

3.1 主動學習過程

在進行分類任務的建模過程中，通常包括有樣本選擇、模型訓練、模型預測和模型更新等4個步驟.本文則將主動學習領域中的標注候選集提取和人工標注這兩個步驟加入整體流程.ALRGCN中主動學習流程的框架如圖1所示.

圖1中包含有：Seed表示種子選擇算法，將初始的訓練集劃分為 U 和 S d 兩部分； U 表示訓練集中不需標注的部分； S d 表示初始未標注訓練集，依賴于種子選擇算法構成，包含訓練集中一些最具代表性的實例； S 表示依賴于專家經驗對未標記的數據進行標記； L 表示進行標注過后的訓練集，由兩部分組成：第一部分由 S d 經過標記后得到，作為初始模型的訓練集.第二部分則是在每次訓練的迭代過程中，分類器選取 U 中不確定性最高的樣本，將其人工標注后加入到 L 中，利用主動學習更新的標記數據對RGCN進行再訓練； Q 表示查詢策略，從 U 中通過采樣方法獲得更有價值的樣本數據； C 表示本文使用的RGCN模型，其中包含有模型的訓練和預測兩部分.

主動學習算法用于進行賬號種子選擇以及標記和更新數據集中.首先，在關系圖卷積神經網絡訓練開始之前，主動學習算法通過種子選擇算法創(chuàng)建初始的未標記數據集 S d .其次，在RGCN進行訓練的迭代過程中，主動學習使用基于信息熵的不確定性采樣的方法選取熵較大的樣本實例進行標注后更新標記數據集 L . 接下來，對主動學習的這兩個部分進行說明.

（1） 種子選擇算法.常見的神經網絡通過給人為的給定數據的索引來劃分生成初始的訓練集和測試集.通過這種類似于隨機選擇的方法得到的訓練集，訓練數據不具有一定的代表性和多樣性，可能會使模型訓練得到的準確度較低 ?［13］ .本文使用種子選擇算法來生成初始的標記數據集 L ，以此來提升模型的精度.

如圖2所示，圖2中的每個圓表示一個樣本實例，黑線表示進行分類的決策邊界. A 更加遠離決策邊界，這將被認為是最具有代表性的.但是，查詢 B 會得到更多關于整個數據分布的信息，更能得到某類數據的一些劃分特征.本文使用基于密度權重的代表性采樣策略，在使用代表性采樣策略的時候，將樣本數據的稠密性考慮進去.如式（1）所示.

I（u）= argmax φ（u）·（ 1 k ∑ k ?i=1 ??sim （u，v ?i）） ?（1）

其中， φ（u） 表示使用的代表性采樣策略； k 表示類別的個數； v i 表示分類簇中某類元素中的一個具有代表性的元素；sim是用以計算信息密度的函數，計算得到的信息密度結果越高，給定的元素實例和其余的數據就越相似，即數據更為稠密.

信息密度的計算方法如式（2）所示.

sim （x，y）= 1 d+1 = 1 ?∑ n ?i=1 ??（x ?i-y ?i） ?2 +1 ??（2）

此處 d 為歐幾里德距離.通過計算各個節(jié)點的基于信息密度的代表性，再進行排序.在每個分類簇中按比例選取樣本，得到的樣本集合作為初始未標注訓練集 S d .

（2） 標注和更新樣本.在獲得初始未標注訓練集 S d 后還需要利用專業(yè)人員的經驗對 S d 中的樣本進行標注，得到初始訓練數據集 L ，此后對RGCN模型進行初始訓練.而后在RGCN每次訓練的迭代過程中，使用不確定性采樣策略從 U 篩選出最高不確定性的樣本實例對其標注，用于更新標記的訓練數據集 L .

基于不確定性的采樣策略將模型中難以區(qū)分的樣本數據提取出來，提供給專業(yè)標注人員進行標 注，從而達到以較快速度提升算法效果的能力.不確定性采樣方法的關鍵就是如何描述樣本或者數據的不確定性.由于社交機器人檢測是一個傳統(tǒng)的二分類問題，可以選擇信息熵較大的樣本數據作為待定標注數據.信息熵的計算方法如式（3）所示.

H（u）= arg max ?u-∑ i P ?θ（v ?i|u）· ln P ?θ（v ?i|u） ?（3）

通過排序，可以得到含有較高信息熵的樣本.由于本文使用的樣本具有真實的標簽，通過查詢使用真實樣本標簽對上述這些通過信息熵選出的樣本進行標注，以減少人為標注對于實驗檢測結果的影響.通過上述的標注步驟后，在每次迭代的過程中，將標注好的數據添加到已標注的訓練集 L 中，構成新的訓練數據集 L .

3.1 特征編碼與組合

受到BotRGCN ?［14］ 的啟發(fā)，本文從內容特征、賬戶特征和相鄰特征等三個方面形成樣本的綜合描述.接下來，對這三個方面進行如下說明.

（1） 內容特征： Dickerson ?［15］ 提出可以通過研究賬戶發(fā)送的推文中含有的情感內容來提高社交機器人檢測模型的預測精度.本文使用預訓練模型RoBERTa對用戶的所有推文進行編碼，將通過訓練得到的向量，作為用戶推文文本的整體特征.

RoBERTa是一種預訓練語言模型，具有對未標記文本數據進行預處理的能力，提供了每條推文文本的豐富特征表示 ?［16］ 對于每個Tweet文本的詞，本文使用了基于大型文本語料庫的預訓練語言模型進行編碼表示.如式（4）所示.

P ?content =φ（ 1 L ?n ∑ ?L ?n ??i=1 ?∑ ?L ?t ??j=1 ??RoBERTa （w ?j）） ?（4）

其中， L n 為每個檢測樣本所發(fā)布的推文總數； L t 為每條推文所含有的單詞個數； w j 為每條推文中的每個單詞； φ 是優(yōu)化函數.

（2） 賬號特征： 從用戶的個人信息中直接進行提取， 包括用戶的關注者數量和被關注者數量等數值特征，也包括發(fā)布的個人簡介、說明等含有文本信息的內容.本文同樣使用RoBERTa模型對于其中的文本信息進行處理得到向量，而后拼接其中的數值特征，整體部分作為用戶賬號特征的向量表示.

對于個人信息中的簡介等文本特征，同樣使用RoBERTa進行編碼得到向量.如式（5）所示.

P ?profile =φ（ 1 L ?n ∑ ?L ?n ??i=1 ?∑ ?L ?t ??j=1 ??RoBERTa （a ?j）） ?（5）

其中， L n 為每個檢測樣本中含有的文本內容的總數； L t 為每條文本內容中所含有的單詞個數； a j 為每條文本內容中的每個單詞.考慮到社交機器人賬戶在引導輿論時，常常會發(fā)表和自己個人資料并不符合的內容，為了檢測這種現(xiàn)象，需要計算出個人資料和發(fā)送推文的相關程度.本文使用哈達瑪積來計算用戶推文和用戶個人資料的關聯(lián)程度，并將其作為用戶的另一個新的特征.計算過程如式（6）、式（7）所示.

P ??content ′ =P ??content ?⊙P ??profile ???（6）

P ??profile ′ = Concat （（P ??content ?P ??profile ?）， num ） ?（7）

此處的⊙表示哈達瑪積乘法；表示矩陣加法.之后對于賬號中的數值特征num，將其與得到的賬號信息的向量拼接.

（3）相鄰特征： RGCN需要使用一個節(jié)點與相鄰節(jié)點之間的關注關系和被關注關系構建圖結構.使用相鄰節(jié)點的內容特征和賬號特征構建向量，并將所有相鄰節(jié)點的向量拼接，形成一個完整的向量.從而對自身節(jié)點的判斷提供支持.

3.2 關系圖卷積神經網絡訓練算法

模型的主體框架如圖3所示.和傳統(tǒng)的圖卷積神經網絡相比，RGCN最大的區(qū)別在于處理邊的種類，依賴邊的類型和方向來構建圖，解決了利用GCN處理圖結構中不同邊關系對節(jié)點分類結果產生影響的問題.

在RGCN中，節(jié)點的更新方式如式（8）所示.

h ??（l+1） ?i=σ（∑ ?r∈R ?∑ ?j∈N ?r i ??1 c ??i，r ?W ??（l） ?rh ??（l） ?j+W ??（l） ?0 ?h ??（l） ?i）

（8）

其中， N i ??r 表示節(jié)點 u i 的關系為 r 的相鄰節(jié)點集合； c ?i，r ?是一個正則化常量，其中 c ?i，r ?的取值為 ?|N i ??r| ?， W r ???（l） ?是線性轉化函數，將同類型邊的鄰居節(jié)點，使用一個參數矩陣 W r ???（l） ?進行轉化， W r ???（l） ?的個數也就是邊類型的個數； h ?（l） ?i 標識的是節(jié)點 u i 的第 l 層節(jié)點表示； ?h ?（l） ?j 則是節(jié)點 u i 的所有鄰居節(jié)點的第 l 層節(jié)點表示.

在本文的網絡結構中，使用關注和被關注的關系作為節(jié)點之間邊的屬性，來構建異構圖，而后使用第3.4節(jié)中得到的特征作為網絡訓練的初始向量，訓練的結果通過softmax層進行分類.

P={P ??content′ ?，P ??profile′ } （9）

R i= softmax （φ（P）） ?（10）

整體的網絡結構使用損失函數進行優(yōu)化.損失函數如式（11）所示.

Loss=-∑ m ?i=1 ?（R ?ilog（R ?i）+（1-R ?i）log（1-R ?i）） ??（11）

4 實驗及評價

本文評估了所提出的ALRGCN檢測框架的性能.首先，對于工作中的實驗設置進行描述.其次，進行了實驗以驗證本文提出的模型在檢測社交機器人方面的有效性與優(yōu)越性.最后，對于本文工作中使用的主動學習的有效性進行評估.

4.1 實驗設置

4.1.1 數據集 ?由于訓練數據集獲取較難、標注成本較大，社交機器人檢測領域中一直缺乏具有多樣性的、數據豐富的數據集.本文使用了在2021年提出的 TwiBot-20 ?［17］ 數據集，這是目前已知的，唯一的已公開的、含有用戶關注關系以及大量文本內容的數據集.該數據集中含有總計229 573個推特賬戶，包括他們發(fā)布的33 488 192條推文、 8 723 736 個用戶屬性項以及455 958個關注關系.每條數據中包含有推文、資料、關注關系三個方面的總共42個初始字段.

4.1.2 評價指標 ?本文采用模型精度、召回率和 ?F 1值 作為評價指標，這些評價指標可以通過式（12）～式（14）計算.通過使用這些指標來判斷一個模型能否有效的檢測出社交機器人.

Precision = TP TP+FP ??（12）

Recall = TP TP+FN ??（13）

F1 -measure=2× Precision×Recall Precision+Recall ?（14）

其中， TP ?表示被正確預測為社交機器人的用戶數； FP 表示被錯誤預測為社交機器人的正常用戶數； FN 表示被錯誤地預測為普通用戶的社交機器人的數量.

4.2 實驗結果與分析

本文共進行了三個部分的實驗.實驗1評估了本文提出的ALRGCN檢測方法的性能，將ALRGCN與設置的基線實驗的結果進行對比，驗證了ALRGCN整體模型在社交機器人檢測中的優(yōu)越性.實驗2通過修改初始訓練集大小，分析ALRGCN在不同大小訓練集的情況下的分類性能，驗證主動學習可以通過選擇盡可能少的高質量標注樣本使模型達到盡可能好的性能.實驗3則是在基線實驗的基礎上引入了主動學習，目的是為了探討引入主動學習方法的有效性.

4.2.1 對比實驗 ?在本實驗中，ALRGCN算法的訓練集是通過3.1.1節(jié)中的種子選擇算法得出.實驗優(yōu)化器使用AdamW，dropout設置為0.3，學習率為10 ?-3 ，節(jié)點向量維度為128，權重衰減項為5·10 ?-3 ，迭代次數設置為120.初始的訓練集大小設定為整個數據集大小的20%，在每次訓練迭代中，根據信息熵采樣，每次選擇10個測試集中的樣本使用其真實的樣本標簽進行標記，并將標注好的樣本添加至訓練集中.本文使用了一系列的檢測社交機器人的方法作為基線實驗對提出的ALRGCN算法的效果進行評估.

在對比實驗中使用所有數據的80%作為訓練集，剩余部分作為測試集.每個方法進行40次重復試驗取其平均值得到其結果.實驗得到的結果表1所示.

結果證明，本文提出的ALRGCN方法在TwiBot-20數據集上取得了明顯的進步.ALRGCN算法的精度可以達到89.86%，優(yōu)于進行對比所使用的基線.同樣的，對比原使用的BOTRGCN模型，實驗結果在精度和 F 1上均獲得了一定的提升，精度提升接近5%， F 1提升接近3%.由于ALRGCN充分利用了主動學習選擇的高信息熵實例，再經過人工的標注，減少了異常值的出現(xiàn)頻率并減緩了模型訓練迭代過程中的噪聲積累問題，使得分類器的性能在迭代過程中不斷提高，并提升了最終的模型性能.而在實驗樣本的行動邏輯更為復雜、行動模式表現(xiàn)得更像人類正常用戶的行為模式時，其他算法的檢測性能可能會下降，而主動學習算法可以借助相關人員的專業(yè)經驗，對相關數據進行標注，對于模型性能反而可能會有更為明顯的提升.在有限標記實例的情況下，ALRGCN能夠使用更小的標記樣本更加有效地檢測出社交機器人.

4.2.2 參數評估實驗 ?本文分析ALRGCN中初始訓練集 L 的大小對模型的分類性能產生的影響，以驗證主動學習能夠通過選擇盡可能少的、高質量的樣本標注使模型達到盡可能好的性能.

折線圖4描述了初始標記數據集對ALRGCN分類性能的影響.在將初始 L 從200到3000的過程中， F 1值以較快的速度得到提升，并且能夠快速接近模型分類能達到的最佳值.這是由于本文在使用種子選擇算法中使用基于密度權重的代表性采樣策略，使得模型在訓練的過程中可以快速提取到正常用戶和社交機器人之間的代表性的特征并學習兩者之間的差異，使得模型的分類性能隨著初始標記數據集 L 大小的提升獲得了較快的提升.召回率和精度的波動則是因為每個實驗中通過主動學習選擇的普通用戶和社交機器人的數量分布不同造成的.

圖3也能說明ALRGCN具有較強的學習能力，在只需要較少初始標記實例的情況下就可以獲得與使用大量初始標記實例進行 訓練后相同的性能.由于 L 相對于數據集的大小來說規(guī)模非常小，因而可以得出結論：ALRGCN使用主動學習在一定程度上緩解了人工標注數據較為困難、成本大的問題.

4.2.3 評估主動學習的有效性 ?為了進一步驗證所提出的主動學習結合關系圖卷積神經網絡模型的有效性，本文在基線檢測方法的基礎上加入主動學習，來比較處理前后的分類器性能.本文在主動學習的過程中，使用種子選擇算法得到初始的標記訓練集 L .此外，在每次訓練的迭代過程中，使用樣本的真實標簽對由不確定性采 樣篩選出的高信息熵樣本進行標記.同樣，設置的初始標記訓練集大小為整個數據集的20%，每組實驗都獨立重復了40次，最后的結果進行平均.實驗結果如圖5～圖7所示.

結果顯示，樸素貝葉斯（Naive Bayes，NB）的實驗精度略有下降，這可能是因為NB要求樣本屬性之間相互獨立，這個假設在社交機器人檢測中往往是不成立的，因而會使得檢測的精度降低.而在大多數的分類模型下，使用主動學習后都提升了模型的準確率.另外，使用主動學習后各個模型的召回率和 F 1均得到了一定程度的提升，這是因為在進行基線實驗不使用主動學習的情況下，往往是通過比例按照數據的下標來劃分訓練集與測試集，這樣的方法接近于隨機選擇，造成了數據的不平衡分布，使得不能很好地捕捉到一些具有代表性的社交機器人賬戶的特征.這就導致社交機器人的檢測性能不佳，召回率較低.主動學習算法則是通過種子選擇算法和選擇具有較高信息熵的代表性實例進行人工標注后再訓練，使得模型能更好地學習到正常用戶和社交機器人之間的代表性的特征，并且一定程度上減緩了數據分布不平衡的問題，大大提高了召回率，進而增加了 F 1值，使得最終模型的分類效果獲得了一定提升.通過對實驗結果的分析，可以得到：結合主動學習算法用以提升模型檢測性能的方法是有效的.

5 結 論

本文提出了一種結合主動學習和RGCN的社交機器人檢測方法.這是目前為止，首次在社交機器人檢測領域提出將主動學習和RGCN相結合的方法.本文使用種子選擇算法構建初始訓練集、在每一次的迭代過程中篩選信息熵較大的樣本實例進行人工標注、并通過RGCN進行訓練.實驗結果表明，ALRGCN可以顯著提高標注用戶數據的效率，可以有效地檢測社交機器人，與其他常用的檢測方法相比，具有更好的性能.

然而，本文研究還有待進一步的改進.本文使用預訓練模型對文本內容進行編碼.但是由于相關數據集的缺失，難以利用樣本的時態(tài)活動模式等其他特性來結合文本內容進行一個整體的分析.未來考慮在含有時態(tài)活動模式等的數據集上嘗試使用其他模型，用以揭示社交機器人的一些行動規(guī)律.

參考文獻：

［1］ ??Kudugunta ?S， Ferrara E. Deep neural networks for bot detection ［J］. Inform Sciences， 2018， 467： 312.

［2］ ?Cresci S， Di Pietro R， Petrocchi M， ?et al . The paradigm-shift of social spambots： Evidence， theories， and tools for the arms race ［C］//Proceedings of the 26th International Conference on world Wide Web Companion. Perth， Australia：WWW， 2017： 963.

［3］ ?Li Z， Zhang X， Shen H， ?et al . A semi-supervised framework for social spammer detection ［C］//Pacific-Asia Conference on Knowledge Discovery and Data Mining. Cham： Springer， 2015： 177.

［4］ ?Gong Q， Chen Y， He X， ?et al . DeepScan： exploiting deep learning for malicious account detection in location-based social networks［J］. IEEE Commun Mag， 2018， 56： 21.

［5］ ?Fazil M， Sah A K， Abulaish M. DeepSBD： a deep neural network model with attention mechanism for socialbot detection［J］. IEEE T Inf Foren Sec， 2021， 16： 4211.

［6］ ?Cao Q， Sirivianos M， Yang X， ?et al . Aiding the detection of fake accounts in large scale social online services ［C］// Proceedings of the 9th USENIX Symposium on Networked Systems Design and Implementation.San Jose， CA：USENIX Association，2012： 197.

［7］ ?Kipf T N， Welling M. Semi-supervised classification ?with graph convolutional networks［EB/OL］.［2022-05-20］. https：//arxiv.org/pdf/1609.02907.pdf.

［8］ ?Hamilton W L， Ying R， Leskovec J. Representation learning on graphs： methods and applications［EB/OL］.［2022-05-20］.https：//arxiv.org/abs/1709.05584v2.

［9］ ?Ali Alhosseini S， Bin Tareaf R， Najafi P， ?et al. ?Detect me if you can： spam bot detection using inductive representation learning ［C］//Companion Proceedings of ?the 2019 World Wide Web Conference. San Francisco， USA：Association for Computing Machinery， 2019： 148.

［10］ ?Schlichtkrull M， Kipf T N， Bloem P， ?et al . Modeling relational data with graph convolutional networks［C］//European Semantic Web Conference. Cham： Springer， 2018： 593.

［11］ Settles ?B. Active learning literature survey ［J］. Madison， USA：University of Wisconsinmadison， ??2010.

［12］ Wu Y， Fang Y， Shang S， ?et al . A novel framework for detecting social bots with deep neural networks and active learning ［J］. Knowl-Based Syst， 2021， 211： 106525.

［13］ Zhang X， Bai H， Liang W. A social spam detection framework via semi-supervised learning ［C］//Pacific-Asia Conference on Knowledge Discovery and Data Mining. Cham： Springer， 2016： 214.

［14］ Feng S， Wan H， Wang N， ?et al . BotRGCN： twitter bot detection with relational graph convolutional networks ［C］//Proceedings of the 2021 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining. Netherlands：Association for Computing Machinery， 2021： 236.

［15］ Dickerson J P， Kagan V， Subrahmanian V S. Using sentiment to detect bots on twitter： Are humans more opinionated than bots？［C］// Proceedings of the 2014 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining （ASONAM 2014）. Beijing， China：IEEE， 2014： 620.

［16］ Feng S， Wan H， Wang N， ?et al . Twibot-20： a comprehensive twitter bot detection benchmark［C］//Proceedings of the 30th ACM International Conference on Information & Knowledge Management. Queensland， Australia：Association for Computing Machinery， 2021： 4485.

［17］ Yuan X， Schuchard R J， Crooks A T. Examining emergent communities and social bots within the polarized online vaccination debate in Twitter ［J］. Social Media+ Society， 2019， 5： 2056305119865465.

［18］ Stukal D， Sanovich S， Bonneau R， ?et al . Detecting bots on Russian political Twitter［J］. Big Data， 2017， 5： 310.

［19］ Fu H， Xie X， Rui Y. Leveraging careful microblog users for spammer detection ［C］//Proceedings of the 24th International Conference on World Wide Web. New York，USA：Association for Computing Machinery， 2015： 419.

［20］ Yang K C， Varol O， Hui P M， ?et al . Scalable and generalizable social bot detection through data selection ［C］//Proceedings of the AAAI Conference on Artificial Intelligence. ［S.l.］：AAAI，2020， 34： 1096.

［21］ Ellaky Z， Benabbou F， Ouahabi S， ?et al . Word embedding for social bot detection systems ［C］// Proceedings of the 2021 5th International Conference on Intelligent Computing in Data Sciences （ICDS）.Fez， Morocco： IEEE， 2021： 1.

［22］ Battur R， Yaligar N. Twitter bot detection using machine learning algorithms ［J］. Int Sci Res （IJSR）， 2018， 8： 304.

［23］ Liu L， Jia K. Detecting spam in chinese microblogs-a study on sina weibo ［C］//Proceedings of 8th International Conference on Computational Intelligence and Security. Guangzhou， China： IEEE， 2012： ??578.

［24］ Park S， Lee K. The gravy value： a set of features for pinpointing bot detection method ［C］// Proceedings of theInternational Conference on Information Security Applications. Cham：Springer， 2020： 142.