文／張志勇

隨著5G和移動互聯網技術的廣泛和深度應用，以各類在線網絡社區(qū)、在線社交工具、平臺和服務為代表的社會網絡生態(tài)系統(tǒng)已經形成，并完全滲透到整個社會、組織和人群的各種生產生活的毛細血管之中，成為數字世界十億、幾十億互聯網用戶獲取海量信息資源的重要載體和渠道。社交網絡平臺在承載、提供和傳播有價值的數字信息的同時，也成為了大量負面虛假信息的溫床，一些別有用心的標題黨、水軍紛紛出現，甚至肆意捏造、傳播虛假新聞和謠言，利用社交網絡和自媒體，嘩眾取寵，混淆視聽。

虛假信息本身具有很強的誤導性和誘惑性，能夠快速吸引一些用戶的眼球，它又借助社交網絡用戶和群組緊密關聯的特性，在大規(guī)模復雜網絡下的傳播擴散已變得愈演愈烈，成為虛擬網絡空間安全面臨的熱點和難點問題，也是全球互聯網信息安全普遍存在的一個重大風險。虛假信息不僅影響了社交用戶之間正常的信息溝通、交流和共享，也嚴重影響到經濟社會發(fā)展，甚至國家安全和穩(wěn)定。因此，當前對社交網絡虛假信息檢測、傳播和控制等綜合研究，對實現虛擬網絡空間安全和網絡信息內容生態(tài)治理，意義重大，亟待開展。

值得關注的是，在社會網絡生態(tài)領域，2016年ACM通訊雜志曾報道了一種社交機器人的存在，以及如何檢測和識別這些由自動化程序控制的社交機器人。不幸的是，大量的惡意社交機器人已逐漸在國內外的社交網絡平臺中被發(fā)現。根據網絡安全服務提供商Distil Networks公布的《2019惡意機器人報告》，自然人在2018年產生的網絡流量占比62.1%，機器人流量占比37.9%，其中惡意機器人網絡流量高達20.4%。惡意機器人占比之大，不可低估，因為它們正在通過模仿正常自然人的操作行為，執(zhí)行網絡非法操作，包括個人隱私數據收集和濫用、數字廣告和金融欺詐、虛假信息惡意傳播、暴力登錄攻擊等，對國家政治、經濟和社會帶來了極其嚴重的負面影響。大量惡意社交機器人的存在，也使得傳統(tǒng)的以自然人為主的虛假信息傳播，又呈現出新的模式和形態(tài)，加劇了虛假信息的產生、傳播和擴散，對虛擬化數字世界的網絡信息治理更是雪上加霜。

為此，各國政府、學術界和工業(yè)界的研究人員對此廣泛關注，他們分別訴諸于政策法律、技術管理和平臺服務等多種手段，聯合攻關，積極應對，加以解決，并取得一定進展。虛假信息傳播和控制研究，可以追溯到早期復雜網絡和小世界網絡中的謠言傳播動力學模型研究，直到近三年來關于社交自然人和社交機器人的混合型、交互式傳播模式研究。2018年，國際權威期刊《Science》給出了虛假信息（新聞）全面的定義，并指出治理虛假信息需要多學科共同的努力。同年，《Science》又系統(tǒng)全面地分析了全球某知名社交平臺現狀，研究結果發(fā)現虛假信息比真實信息傳播得更快、更深、更廣，并進一步指出傳播最快的虛假信息類型是政治類新聞。此外，在2018年國際權威期刊《Nature·Communications》報道了社交機器人傳播低可信度信息最新研究成果。

近年來，我們面向虛擬網絡空間安全，提出了社會（社交）情境安全的概念和技術框架，最近我們又結合“以人為中心”的大規(guī)模情境感知與前沿計算，以實現社會情境安全為目標，進一步搭建了社會情境元數據實驗研究平臺，并實現了關鍵核心算法程序的開源。該平臺聚焦“以人為中心”的社會（社交）網絡空間安全和人工智能深度融合的核心問題，圍繞社交平臺安全評估、虛假信息傳播控制、社交機器人智能檢測、地理位置隱私保護等六大主題應用，支持具有社會性、交互性、互操作性的互聯網平臺應用實驗研究和二次開發(fā)，為國家互聯網安全保障和社會大數據有效利用提供有力支撐，同時也為全球虛擬化社會網絡安全提供了新的研究思路和開源應用。

2020年3月1日，國家網信辦頒發(fā)的《網絡信息內容生態(tài)治理規(guī)定》正式開始實施，可以看出國家重拳出擊，治理互聯網信息生態(tài)的決心和意志，并已取得初步成效。未來，隨著大數據、人工智能和新興前沿計算技術的深入發(fā)展，以及信息技術、信息管理和法律實踐等跨學科的交叉科學應用，虛假信息的自動化機器識別和跨社區(qū)、跨應用、跨平臺傳播控制，必將得到有效解決和根本治理，風清氣正、安全可信的網絡空間，在實現現代化“數字強國”“網絡強國”的國家戰(zhàn)略中，將充分發(fā)揮不可替代的重大作用和優(yōu)勢。