屈翼展，伍建昌，陳 新

（中國人民解放軍空軍預警學院，武漢 430019）

1 凈化網(wǎng)絡(luò)環(huán)境

日前，國家網(wǎng)信辦依法查封了某些用戶以及公眾號，責令相關(guān)負責人對涉及到的查處內(nèi)容并進行全面整改。究其原因，是一些個人消息平臺、自媒體或者是面向公眾的網(wǎng)絡(luò)宣傳平臺錯誤散布虛假、消極內(nèi)容、突破道德底線，造成不必要的社會恐慌，對社會風氣造成極大的危害。所以針對虛假和反社會反人類信息的互聯(lián)網(wǎng)治理顯得迫在眉睫?，F(xiàn)在社會上常見的輿情監(jiān)測方式有人工監(jiān)視、軟件檢索等方式。這些方法都存在一定的缺陷，比如人工監(jiān)視費時費力；軟件搜索往往需要人工提供樣本，使得監(jiān)視不夠及時和有效，同時在檢測準確度上也有待提高。目前大部分檢測方式都不能兼顧檢測文本、圖像以及視頻信息，而當今的信息卻又不是單一的，往往都是多種形式信息源相互交疊出現(xiàn)。多元輿情智能檢測系統(tǒng)則將傳統(tǒng)檢測算法與當前熱門的深度學習算法結(jié)合，兩者優(yōu)勢互補，整個系統(tǒng)對網(wǎng)絡(luò)輿情的檢測速度和準確率較傳統(tǒng)檢測方式都有較大提高，并且具有檢測文本和圖像兩種信息源的能力。本系統(tǒng)旨在保證互聯(lián)網(wǎng)信息安全，凈化網(wǎng)絡(luò)環(huán)境，并促進社會和諧與穩(wěn)定。

2 系統(tǒng)設(shè)計與實現(xiàn)

2.1 系統(tǒng)原理

圖1 系統(tǒng)原理框圖

本系統(tǒng)主要針對負面文本、惡意篡改圖像進行檢測。對于負面文本，本系統(tǒng)主要運用基于深度學習算法來進行檢測，檢測識別率得到明顯提高；在篡改圖像檢測方面，本系統(tǒng)基于經(jīng)典匹配算法與深度學習模型相結(jié)合的方法來對篡改圖像進行檢測，傳統(tǒng)算法用于檢測復制-粘貼篡改類型的圖像，深度學習模型主要用來檢測拼接篡改類型的圖像，在檢測的速度和準確度上都有提高。對于輸入的測試樣本，系統(tǒng)將根據(jù)樣本類型（文本或者圖像）來選擇相應的檢測模型，通過檢測模型檢測后輸出檢測結(jié)果。如果是文本型樣本，輸出結(jié)果給出的是文本的情感判別（正面、中性、負面）；若是圖像型樣本，輸出結(jié)果則在原始樣本上標注出篡改區(qū)域和類型。

2.2 系統(tǒng)特點

當前絕大多數(shù)檢測系統(tǒng)都只能對單一形式的樣本進行檢測（文本或者圖像），并且很多時候采用人工檢測，經(jīng)過P圖軟件惡意篡改后的圖像肉眼很難分辨且費時費力。在信息形式圖文并茂的今天檢測效率較低，并且由于檢測不夠全面，其結(jié)果可信度也較低。本系統(tǒng)將文本檢測模型與圖像檢測模型結(jié)合，能同時檢測惡意評論和篡改圖形。在圖像篡改檢測方面，傳統(tǒng)特征點匹配算法與深度學習算法結(jié)合，能夠檢測兩種不同篡改類型的圖像。系統(tǒng)對于目前互聯(lián)網(wǎng)上絕大多數(shù)負面評論和篡改圖像檢測都有較高的檢測速度和準確度，并對檢測樣本給出一個綜合評價，給網(wǎng)絡(luò)惡意信息檢測部門提供一個參考，給網(wǎng)民提供更好的網(wǎng)絡(luò)生態(tài)環(huán)境。

2.3 應用前景

目前，網(wǎng)絡(luò)負面信息以及虛假圖片肆虐情況愈發(fā)嚴重，對于圖文負面以及虛假信息的及時檢測和跟蹤了解，對于凈化網(wǎng)絡(luò)環(huán)境具有十分重要的意義。對于最近網(wǎng)絡(luò)突然爆紅的AI換臉，本系統(tǒng)也能做出不錯的檢測判斷。系統(tǒng)利用爬蟲再加上實現(xiàn)數(shù)據(jù)流處理功能后，不僅針對可以達到實時檢測的目的，還能夠?qū)崿F(xiàn)被動檢測以及預警的功能，為政府網(wǎng)安部門或者是企業(yè)對于負面信息的發(fā)現(xiàn)以及處理提供了更加高效便捷的工具。對于已經(jīng)標記為正面或負面的評論，可以通過云端平臺作為模型的訓練樣本；對于檢測到的經(jīng)過篡改的圖片樣本，同樣可以作為模型的訓練樣本進行保存，為后續(xù)的系統(tǒng)提供了更大的潛力。

隨著研究的不斷深入，可以將本系統(tǒng)更好地進行完善，發(fā)展出更加多元化的功能，向著輿情的全態(tài)勢掌控分析的方向發(fā)展。本系統(tǒng)將來不僅可以在電腦等平臺上實現(xiàn)，也能夠在手機平臺上實現(xiàn)，方便用戶在移動終端也能通過本系統(tǒng)得到是否為虛假信息的反饋，能為規(guī)避負面信息爆發(fā)式傳播、促進社會更加和諧穩(wěn)定做出工作。

3 結(jié)束語

互聯(lián)網(wǎng)通信技術(shù)的普及，加速的信息的傳播，同時增加了負面信息，惡意信息甚至是非法信息的數(shù)量，互聯(lián)網(wǎng)通信成為不法分子傳播謠言、反動言論、暴力色情和惡意煽動群眾的工具。本系統(tǒng)提供一種智能高效的網(wǎng)絡(luò)負面信息的檢測方法，提出將傳統(tǒng)檢測算法與深度學習算法結(jié)合，文本檢測與圖像檢測結(jié)合，可對負面網(wǎng)絡(luò)言論和惡意篡改圖像進行檢測，并且具有檢測速度快、準確度高，檢測覆蓋面廣的特點，解決了傳統(tǒng)檢測方法存在的問題，有利保障了網(wǎng)絡(luò)信息安全。