吳振峰

（中國科學(xué)技術(shù)信息研究所，北京 100038）

近年來，互聯(lián)網(wǎng)、大數(shù)據(jù)、云計算、人工智能和區(qū)塊鏈等技術(shù)飛速發(fā)展，數(shù)字經(jīng)濟(jì)已成為中國經(jīng)濟(jì)發(fā)展的重要驅(qū)動力。網(wǎng)站系統(tǒng)作為數(shù)字經(jīng)濟(jì)時代的關(guān)鍵信息基礎(chǔ)設(shè)施和典型組織形態(tài)，深刻改變了人們的生產(chǎn)生活方式，在優(yōu)化資源配置、推動產(chǎn)業(yè)轉(zhuǎn)型升級、賦能經(jīng)濟(jì)高質(zhì)量發(fā)展等方面發(fā)揮重要作用。數(shù)字經(jīng)濟(jì)時代開展網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)，對于維護(hù)國家安全、國家網(wǎng)絡(luò)安全和網(wǎng)絡(luò)空間主權(quán)，保障經(jīng)濟(jì)社會健康發(fā)展，維護(hù)公共利益和公民合法權(quán)益具有重要意義。

1 研究背景

信息內(nèi)容安全作為信息安全領(lǐng)域中的一個重要分支，與物理安全、網(wǎng)絡(luò)安全和數(shù)據(jù)安全等信息安全領(lǐng)域其他分支的不同之處在于，其以信息內(nèi)容為主要研究載體，分析識別信息內(nèi)容是否合法合規(guī)，更傾向于檢測保護(hù)信息自身的安全，強化信息內(nèi)容安全管控，防止非法內(nèi)容的傳播和利用。信息內(nèi)容安全的內(nèi)涵可總結(jié)為兩個主要方面：一是對信息內(nèi)容的保護(hù)，二是信息內(nèi)容要符合政治、法律和道德層面的有關(guān)要求[1]（見圖1）。面向網(wǎng)站系統(tǒng)的信息內(nèi)容安全防護(hù)，本質(zhì)上是信息內(nèi)容安全領(lǐng)域的一個子集，以網(wǎng)站系統(tǒng)的信息內(nèi)容為研究對象，針對網(wǎng)站系統(tǒng)中的文字、圖片和音視頻等信息開展內(nèi)容安全審核，監(jiān)測涉政、涉黃、涉暴、涉恐等違法違規(guī)信息，防范虛假新聞、網(wǎng)絡(luò)謠言等內(nèi)容造假信息，以及錯別字詞、標(biāo)點符號錯誤等不規(guī)范表述，加強知識產(chǎn)權(quán)保護(hù)、信息隱藏、隱私保護(hù)以及黨政、科技、金融等重點領(lǐng)域的重要信息內(nèi)容保密，及時處置可能存在的風(fēng)險隱患，確保網(wǎng)站系統(tǒng)信息內(nèi)容安全。

圖1 信息內(nèi)容安全的內(nèi)涵

2021 年10 月18 日，習(xí)近平總書記在十九屆中央政治局第三十四次集體學(xué)習(xí)時指出，要完善國家安全制度體系，重點加強數(shù)字經(jīng)濟(jì)安全風(fēng)險預(yù)警、防控機制和能力建設(shè)，實現(xiàn)核心技術(shù)、重要產(chǎn)業(yè)、關(guān)鍵設(shè)施、戰(zhàn)略資源、重大科技、頭部企業(yè)等安全可控。因此，發(fā)展數(shù)字經(jīng)濟(jì)，必須把安全問題擺在更加突出的位置，把安全防護(hù)貫穿數(shù)字經(jīng)濟(jì)發(fā)展的全過程，做好全面風(fēng)險管理和安全保障。黨的十九大以來，中國數(shù)字經(jīng)濟(jì)規(guī)模持續(xù)提升并實現(xiàn)全球領(lǐng)先，數(shù)據(jù)資源價值加快釋放，數(shù)字社會服務(wù)更加普惠便捷。根據(jù)《數(shù)字中國發(fā)展報告（2021 年）》，2017—2021 年，中國數(shù)字經(jīng)濟(jì)規(guī)模從27.2 萬億元增長至45.5 萬億元，總量穩(wěn)居世界第二位；數(shù)據(jù)產(chǎn)量從2.3 ZB 增長至6.6 ZB，大數(shù)據(jù)產(chǎn)業(yè)規(guī)模從4 700 億元增長至1.3 萬億元；網(wǎng)民規(guī)模從7.72 億人增長至10.32 億人，互聯(lián)網(wǎng)普及率從55.8%提升至73.0%[2]。數(shù)字經(jīng)濟(jì)內(nèi)涵和外延不斷豐富的同時，也帶動了網(wǎng)站類、平臺類和生產(chǎn)業(yè)務(wù)類等網(wǎng)站系統(tǒng)建設(shè)不斷提速。根據(jù)第49 次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》，截至2021 年12 月，中國域名總數(shù)為3 593 萬個，網(wǎng)站數(shù)量為418 萬個，網(wǎng)頁數(shù)量為3 350 億個；其中，政府網(wǎng)站數(shù)量為14 566 個，僅信息公開類欄目數(shù)量就高達(dá)22.5 萬個[3]。以此推斷，若將未聯(lián)網(wǎng)的業(yè)務(wù)系統(tǒng)考慮在內(nèi)，中國網(wǎng)站系統(tǒng)數(shù)量以及數(shù)據(jù)規(guī)模將更加龐大，這其中既包含具有重大價值的科研數(shù)據(jù)和商業(yè)數(shù)據(jù)，也包含用戶個人隱私數(shù)據(jù)，甚至可能包含影響國家安全的重要數(shù)據(jù)，對網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)提出新的挑戰(zhàn)。

數(shù)字經(jīng)濟(jì)時代，網(wǎng)站系統(tǒng)對行業(yè)、領(lǐng)域關(guān)鍵業(yè)務(wù)起到基礎(chǔ)支撐作用，網(wǎng)站系統(tǒng)信息內(nèi)容通常具有數(shù)量大、形式多樣化和流動性強等特點，導(dǎo)致信息全生命周期管理過程中的內(nèi)容安全風(fēng)險隨之增大。特別是近年來全球網(wǎng)絡(luò)信息泄露、網(wǎng)絡(luò)攻擊和數(shù)據(jù)違規(guī)使用等事件頻發(fā)，國內(nèi)外由網(wǎng)站系統(tǒng)信息內(nèi)容安全管理機制不健全、內(nèi)容監(jiān)測技術(shù)體系不完善等導(dǎo)致的內(nèi)容安全問題時有發(fā)生。中國國家計算機病毒應(yīng)急處理中心2022年9月5日發(fā)布的《西北工業(yè)大學(xué)遭美國NSA 網(wǎng)絡(luò)攻擊事件調(diào)查報告（之一）》顯示，近年美國國家安全局特定入侵行動辦公室對中國國內(nèi)的網(wǎng)絡(luò)目標(biāo)實施了上萬次的惡意網(wǎng)絡(luò)攻擊，控制了數(shù)以萬計的網(wǎng)絡(luò)設(shè)備，竊取了超過140 GB 的高價值數(shù)據(jù)[4]。國際商業(yè)機器公司（IBM）最新發(fā)布的《2022 年數(shù)據(jù)泄露成本報告》顯示，全球550 家來自不同行業(yè)和地域的組織在2021 年3 月—2022 年3 月所經(jīng)歷的數(shù)據(jù)泄露平均成本高達(dá)435 萬美元[5]。就網(wǎng)站系統(tǒng)自身而言，部分網(wǎng)站系統(tǒng)存在違規(guī)采編發(fā)布或交易信息、散播虛假消息和網(wǎng)絡(luò)謠言等亂象，極易擾亂網(wǎng)絡(luò)傳播秩序，泄露重要數(shù)據(jù)[1]。由此可見，網(wǎng)站系統(tǒng)一旦遭到破壞或者數(shù)據(jù)泄露，可能嚴(yán)重危害國家安全和公共利益，甚至對其他行業(yè)和領(lǐng)域產(chǎn)生重要的關(guān)聯(lián)性影響。網(wǎng)站系統(tǒng)信息內(nèi)容安全已成為事關(guān)國家安全、社會穩(wěn)定和人民利益的重要問題，信息內(nèi)容安全防護(hù)更是成為網(wǎng)站系統(tǒng)生態(tài)治理的重要內(nèi)容。

因此，本研究結(jié)合中國網(wǎng)站系統(tǒng)數(shù)量多、發(fā)布內(nèi)容多且用戶規(guī)模大的實際情況，歸納網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)的國內(nèi)外發(fā)展現(xiàn)狀、面臨的安全風(fēng)險，分析信息內(nèi)容安全防護(hù)的關(guān)鍵技術(shù)及相關(guān)產(chǎn)品，并重點從頂層設(shè)計、信息發(fā)布管控、信息化建設(shè)和安全人才隊伍建設(shè)4 個方面提出對策建議。

2 網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)國內(nèi)外發(fā)展現(xiàn)狀

隨著互聯(lián)網(wǎng)和人工智能等技術(shù)的快速發(fā)展和廣泛應(yīng)用，全球范圍內(nèi)網(wǎng)站系統(tǒng)信息內(nèi)容安全問題日益突出，特別是新冠肺炎疫情發(fā)生以來，網(wǎng)絡(luò)攻擊和數(shù)據(jù)泄露等事件頻發(fā)，受到世界各國的高度關(guān)注。本文在廣泛收集和系統(tǒng)梳理相關(guān)文獻(xiàn)資料的基礎(chǔ)上，從政策法規(guī)、項目產(chǎn)品和技術(shù)應(yīng)用3 個維度對國內(nèi)外網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)的發(fā)展現(xiàn)狀進(jìn)行了分析探討。

2.1 安全立法進(jìn)程不斷加快，安全保護(hù)政策法規(guī)體系逐步完善

國外方面，聯(lián)合國貿(mào)易發(fā)展組織統(tǒng)計數(shù)據(jù)顯示，截至2022 年2 月21 日，全球約80%的國家已完成數(shù)據(jù)安全和隱私立法或已提出相關(guān)法律草案。特別是2015—2022 年，以美國、歐盟和俄羅斯等為代表的主要國家和地區(qū)相繼出臺相關(guān)政策法規(guī)，不斷完善網(wǎng)絡(luò)安全、數(shù)據(jù)安全頂層設(shè)計（見表1）。例如，美國發(fā)布《關(guān)于加強國家網(wǎng)絡(luò)安全的行政命令》，強化針對影響聯(lián)邦政府信息系統(tǒng)或非聯(lián)邦政府信息系統(tǒng)的重大網(wǎng)絡(luò)事件、威脅活動和安全漏洞等的審核評估。歐洲數(shù)據(jù)保護(hù)監(jiān)管局發(fā)布《歐洲數(shù)據(jù)保護(hù)監(jiān)管局戰(zhàn)略計劃（2020—2024）：塑造更安全的數(shù)字未來》，明確了前瞻性、行動性和協(xié)調(diào)性三大數(shù)據(jù)保護(hù)任務(wù)，推進(jìn)數(shù)字經(jīng)濟(jì)轉(zhuǎn)型和可持續(xù)發(fā)展。俄羅斯發(fā)布《主權(quán)互聯(lián)網(wǎng)法》，提出要建立獨立于因特網(wǎng)的俄羅斯互聯(lián)網(wǎng)，確保俄羅斯互聯(lián)網(wǎng)安全、穩(wěn)定和可持續(xù)運行。

國內(nèi)方面，中國政府高度重視網(wǎng)絡(luò)與信息安全工作，不斷完善網(wǎng)絡(luò)安全、數(shù)據(jù)安全領(lǐng)域相關(guān)制度，有力保障關(guān)鍵信息基礎(chǔ)設(shè)施特別是網(wǎng)站系統(tǒng)的信息內(nèi)容安全。2016 年以來，中國加快推進(jìn)安全立法，相繼出臺《中華人民共和國數(shù)據(jù)安全法》《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》等多項代表性政策法規(guī)，為維護(hù)國家安全和人民群眾利益提供堅實的法治保障。例如，為規(guī)范數(shù)據(jù)處理活動，保障數(shù)據(jù)安全，《中華人民共和國數(shù)據(jù)安全法》明確了數(shù)據(jù)安全保護(hù)的適用范圍、支持促進(jìn)數(shù)據(jù)安全與發(fā)展的措施、數(shù)據(jù)安全制度、數(shù)據(jù)安全保護(hù)義務(wù)、政務(wù)數(shù)據(jù)安全與開放，以及數(shù)據(jù)安全工作職責(zé)。為保障關(guān)鍵信息基礎(chǔ)設(shè)施安全，維護(hù)網(wǎng)絡(luò)安全，《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》完善了關(guān)鍵信息基礎(chǔ)設(shè)施認(rèn)定機制，明確了關(guān)鍵信息基礎(chǔ)設(shè)施范圍和保護(hù)工作原則目標(biāo)、監(jiān)督管理體制、運營者的責(zé)任與義務(wù)、保障和促進(jìn)措施，以及法律責(zé)任。

2.2 信息內(nèi)容安全產(chǎn)業(yè)規(guī)模持續(xù)增長，項目和產(chǎn)品更趨多元化

國外方面，相關(guān)統(tǒng)計數(shù)據(jù)顯示，全球信息內(nèi)容安全產(chǎn)業(yè)規(guī)模增長較快，收入從2018 年的1 400 億～1 600 億元增長到2020 年的1 600 億～2 000 億元，其中北美、西歐和亞太地區(qū)占據(jù)產(chǎn)業(yè)結(jié)構(gòu)的主導(dǎo)地位，總占比達(dá)90%，而北美占比接近40%[6]。面向政府管理需求，許多國家政府、科研院所或企業(yè)主導(dǎo)了一些代表性的信息內(nèi)容安全項目，并形成相關(guān)產(chǎn)品。例如，美國政府層面主導(dǎo)了無限信息（Boundless Informant）、食肉獸（Carnivore）、錦繡（Fairview）和特別收集服務(wù)（Special Collection Service）等一系列項目，開展語音識別和關(guān)鍵信息提取等數(shù)據(jù)挖掘技術(shù)研究，分析全球電子信息，監(jiān)聽新聞網(wǎng)站和電子郵件等信息并進(jìn)行內(nèi)容分析，識別恐怖活動、欺詐等可能威脅國家安全和社會公共利益的行為。澳大利亞國家信息與通信技術(shù)研究中心主導(dǎo)的安全（SAFE）項目，通過目標(biāo)檢測等計算機視覺技術(shù)分析異常行為，預(yù)判可能的恐怖活動[6]。英國Autonomy 公司主導(dǎo)的智能數(shù)據(jù)操作層（Intelligent Data Operating Layer，IDOL）服務(wù)項目，研發(fā)文本信息發(fā)掘工具，支持多語言語義檢索、信息聚類、文本分類與推送等功能，并應(yīng)用于實踐。

國內(nèi)方面，中國工業(yè)和信息化部公布的《2021 年中國軟件和信息技術(shù)服務(wù)業(yè)統(tǒng)計公報》數(shù)據(jù)顯示，信息安全產(chǎn)品和服務(wù)收入增長較快，2021 年，實現(xiàn)收入1 825 億元，增速較2020 年同期提高3 個百分點。從全球范圍來看，中國信息內(nèi)容安全產(chǎn)業(yè)已初具規(guī)模，約占亞太地區(qū)的7%[6]。從應(yīng)用領(lǐng)域來看，政府、電信和金融等領(lǐng)域?qū)π畔踩枨笠?guī)模較大，約占全國總需求份額的60%[7]。隨著國家在信息內(nèi)容安全政策上的支持加大、用戶需求擴(kuò)大和數(shù)量增多，除北京奇虎科技有限公司、奇安信科技集團(tuán)股份有限公司等信息安全領(lǐng)域代表性企業(yè)外，許多互聯(lián)網(wǎng)公司和科研院所也相繼加入信息內(nèi)容安全領(lǐng)域。例如，阿里巴巴、騰訊、網(wǎng)易等互聯(lián)網(wǎng)公司分別推出了云盾、天御、網(wǎng)易易盾等一系列內(nèi)容安全產(chǎn)品，借助人工智能技術(shù)，檢測文本、圖片、視頻中的涉政、涉黃、涉暴、涉恐等信息，但是面向科技領(lǐng)域的內(nèi)容安全審核較少。中國科學(xué)技術(shù)信息研究所面向科技領(lǐng)域內(nèi)容安全需求，推出了內(nèi)容安全防控系統(tǒng)，能夠快速自動檢測黨政、科技等重點領(lǐng)域的敏感信息和錯誤表述，識別科技熱點話題、敏感話題并獲取相關(guān)資訊，實現(xiàn)風(fēng)險信息內(nèi)容的科學(xué)研判和分級預(yù)警。

2.3 信息內(nèi)容安全行業(yè)技術(shù)發(fā)展處于成長期，人工智能等技術(shù)研發(fā)及應(yīng)用受到重視

國外方面，前瞻產(chǎn)業(yè)研究院《中國信息安全行業(yè)市場前瞻與投資戰(zhàn)略規(guī)劃分析報告》統(tǒng)計數(shù)據(jù)顯示，2010—2020 年全球信息安全行業(yè)專利申請數(shù)量和授權(quán)數(shù)量呈現(xiàn)逐年增長的趨勢，全球信息安全技術(shù)整體上處于成長期，截至2022 年1 月，美國信息安全專利申請量約占國外信息安全專利總申請量的50%[7]。從基于人工智能的內(nèi)容信息安全技術(shù)角度看，美國人工智能論文引文影響力、專利合作條約（PCT）專利數(shù)量、企業(yè)數(shù)量和融資規(guī)模等指標(biāo)位居全球第一，整體實力領(lǐng)跑全球；歐洲、日本等主要發(fā)達(dá)國家和地區(qū)也紛紛將人工智能發(fā)展作為國家戰(zhàn)略重點，通過加強人工智能等技術(shù)研究，賦能信息內(nèi)容安全防護(hù)。例如，康奈爾大學(xué)主導(dǎo)的一項美國國土安全部資助項目，利用人工智能技術(shù)從收集的文本中判別蘊含的觀點并尋找可能的信息來源，從而輔助決策；雅虎等公司利用大數(shù)據(jù)與人工智能分析技術(shù)過濾垃圾郵件；美國點評網(wǎng)站（Yelp）等社交網(wǎng)站利用自然語言處理技術(shù)識別虛假評論。

國內(nèi)方面，截至2022 年1 月，中國信息安全專利申請量占全球信息安全專利總申請量的78.33%，排名第一位，國家電網(wǎng)、華為、騰訊等公司的信息安全專利申請數(shù)量在全國位列前三名[7]。近年來，中國人工智能發(fā)展迅速，綜合實力不斷提升，中國科學(xué)技術(shù)信息研究所發(fā)布的《2021 年全球人工智能創(chuàng)新指數(shù)報告》顯示，中國人工智能創(chuàng)新水平已經(jīng)進(jìn)入世界第一梯隊。中國科研院所和企業(yè)根據(jù)國內(nèi)信息內(nèi)容安全實際，積極開展基于人工智能的信息內(nèi)容安全技術(shù)研發(fā)和應(yīng)用示范。例如，阿里云平臺、新浪微博等借助自然語言處理技術(shù)開展內(nèi)容安全審核，識別垃圾文本和惡意行為，定位敏感信息[6]。中國科學(xué)技術(shù)信息研究所內(nèi)容安全防控系統(tǒng)通過加持網(wǎng)絡(luò)新聞熱點話題識別等人工智能技術(shù)[8]，開展內(nèi)容安全審核、科技主題研判、智能監(jiān)控預(yù)警和防控定制服務(wù)，保障信息內(nèi)容安全。

3 網(wǎng)站系統(tǒng)信息內(nèi)容安全面臨的風(fēng)險

網(wǎng)站系統(tǒng)作為信息存儲、交換和服務(wù)的基本載體，是網(wǎng)絡(luò)安全的重中之重，也是可能遭受攻擊的重點目標(biāo)。例如，金融、能源和電力等領(lǐng)域的網(wǎng)站系統(tǒng)一旦遭受破壞或者發(fā)生重要信息泄露，極可能導(dǎo)致金融紊亂、交通中斷、電力癱瘓等問題，將對經(jīng)濟(jì)社會穩(wěn)定和國家安全構(gòu)成威脅。本文從信息生命周期管理、技術(shù)謬用和濫用、網(wǎng)絡(luò)輿情管理3 個視角，重點梳理了網(wǎng)站系統(tǒng)信息內(nèi)容安全存在的風(fēng)險。

3.1 網(wǎng)站系統(tǒng)信息生命周期管理各環(huán)節(jié)存在數(shù)據(jù)安全風(fēng)險

網(wǎng)站系統(tǒng)信息的采集、傳輸、處理、存儲、傳播和利用等信息生命周期管理的重要環(huán)節(jié)，存在數(shù)據(jù)篡改、違規(guī)傳輸、非法訪問、數(shù)據(jù)泄露和數(shù)據(jù)濫用等數(shù)據(jù)安全風(fēng)險[9-10]。一是信息采集環(huán)節(jié)存在數(shù)據(jù)篡改和違規(guī)采集風(fēng)險。采集的信息經(jīng)過計算機或者人為的修改、增加和刪除等破壞操作造成數(shù)據(jù)失真，或者未按照有關(guān)規(guī)定開展信息采集工作，影響數(shù)據(jù)的真實性和合法性。二是信息傳輸環(huán)節(jié)存在隱私泄露和違規(guī)傳輸風(fēng)險。數(shù)據(jù)傳輸實時性要求高，由于行業(yè)和企業(yè)間存在差異，數(shù)據(jù)接口規(guī)范、通信協(xié)議不統(tǒng)一，加密技術(shù)和安全策略強度不足，或者數(shù)據(jù)未按照有關(guān)規(guī)定擅自進(jìn)行傳輸，容易導(dǎo)致數(shù)據(jù)傳輸過程追蹤溯源和隱私泄露等問題。三是信息處理環(huán)節(jié)存在內(nèi)容敏感和不規(guī)范風(fēng)險。網(wǎng)站系統(tǒng)在信息處理過程中容易忽視黨政、科技等領(lǐng)域敏感詞匯和不規(guī)范表述的內(nèi)容安全審核，導(dǎo)致涉及國家秘密、商業(yè)秘密和個人隱私等信息的泄露風(fēng)險。四是信息存儲環(huán)節(jié)存在數(shù)據(jù)篡改和數(shù)據(jù)濫用風(fēng)險。數(shù)據(jù)資源整合不足、數(shù)據(jù)分級分類管理不規(guī)范、數(shù)據(jù)存儲故障或被破壞等問題，會影響數(shù)據(jù)的真實性和保密性，容易導(dǎo)致數(shù)據(jù)泄露、篡改、丟失、不可用等風(fēng)險。五是信息傳播環(huán)節(jié)存在數(shù)據(jù)泄露和數(shù)據(jù)濫用風(fēng)險。數(shù)據(jù)被惡意獲取或者轉(zhuǎn)移、發(fā)布至不安全環(huán)境，以及數(shù)據(jù)超時間、超范圍和超用途使用，容易造成數(shù)據(jù)泄露風(fēng)險。六是信息利用環(huán)節(jié)存在非法訪問和流量異常風(fēng)險。網(wǎng)站系統(tǒng)易出現(xiàn)數(shù)據(jù)遭到未授權(quán)訪問、數(shù)據(jù)資源整合和深度分析不足、數(shù)據(jù)流量規(guī)模和內(nèi)容出現(xiàn)異常等問題，導(dǎo)致身份識別和權(quán)限管理風(fēng)險增加。

3.2 技術(shù)謬用和濫用對網(wǎng)站系統(tǒng)信息內(nèi)容安全構(gòu)成潛在威脅

隨著人工智能等新技術(shù)的快速發(fā)展，“深度偽造”“大數(shù)據(jù)殺熟”等技術(shù)謬用和濫用現(xiàn)象，為個人和社會帶來風(fēng)險挑戰(zhàn)。一是基于人工智能的內(nèi)容“深度偽造”現(xiàn)象可能威脅公民人身和財產(chǎn)安全。具有極高欺騙性的“深度偽造”技術(shù)借助深度學(xué)習(xí)算法，制作或修改視頻、音頻、圖片、文本內(nèi)容，以呈現(xiàn)出高度逼真但與實際不符的事物，加劇了社交媒體虛假信息的傳播[11]。二是“大數(shù)據(jù)殺熟”現(xiàn)象沖擊市場和商業(yè)倫理。部分企業(yè)和商家濫用用戶信息數(shù)據(jù)，對新老用戶實施差異化定價手段而牟取利益，侵害消費者權(quán)益。三是算法模型自身存在安全風(fēng)險。通過數(shù)據(jù)投毒攻擊、神經(jīng)網(wǎng)絡(luò)后門攻擊、對抗攻擊和模型竊取攻擊等技術(shù)手段，誘使算法模型生成誤判或漏判結(jié)果，或造成數(shù)據(jù)、模型泄露，影響網(wǎng)站系統(tǒng)信息內(nèi)容安全[12]。四是算法模型可解釋性影響網(wǎng)站系統(tǒng)信息內(nèi)容的可信度。部分網(wǎng)站系統(tǒng)使用深度學(xué)習(xí)算法模型進(jìn)行數(shù)據(jù)挖掘，并提供信息服務(wù)，但是由于深度學(xué)習(xí)算法模型可解釋性不足，模型預(yù)測結(jié)果透明度成為研究人員和網(wǎng)站系統(tǒng)用戶關(guān)注的主要問題。五是基于智能算法的情報收集技術(shù)可能被用于國家競爭和現(xiàn)代戰(zhàn)爭。網(wǎng)站系統(tǒng)信息內(nèi)容經(jīng)過深度關(guān)聯(lián)分析，極容易形成有價值的情報，威脅國家安全。

3.3 復(fù)雜傳播環(huán)境下網(wǎng)站系統(tǒng)信息發(fā)布內(nèi)容的網(wǎng)絡(luò)輿情管理難度加大

新媒體技術(shù)的快速發(fā)展和廣泛應(yīng)用，促使網(wǎng)絡(luò)傳播環(huán)境更加復(fù)雜化、傳播形態(tài)更加多樣化，網(wǎng)絡(luò)傳播交互性和實時性特征凸顯，重要信息泄露、虛假新聞傳播等風(fēng)險大幅增加，加大了網(wǎng)絡(luò)輿情管理工作的難度。一是網(wǎng)站系統(tǒng)用戶辨別能力較弱、法律意識不強等問題導(dǎo)致輿情復(fù)雜化。用戶非理性轉(zhuǎn)發(fā)傳播網(wǎng)絡(luò)突發(fā)事件信息，促使突發(fā)事件傳播更快、更廣，擴(kuò)大了網(wǎng)絡(luò)輿情帶來的負(fù)面影響。二是網(wǎng)絡(luò)信息碎片化和不對稱性引發(fā)負(fù)面輿情風(fēng)險。信息內(nèi)容失真、信息觀點分化，以及用戶對信息獲取滯后、了解缺失等現(xiàn)象，使得網(wǎng)站系統(tǒng)與受眾之間產(chǎn)生認(rèn)知偏差，導(dǎo)致負(fù)面輿情風(fēng)險增加。三是網(wǎng)站系統(tǒng)信息發(fā)布制度疏漏和審核不嚴(yán)謹(jǐn)導(dǎo)致負(fù)面輿情風(fēng)險。部分網(wǎng)站系統(tǒng)存在審核把關(guān)機制不健全、管理規(guī)范性不高、內(nèi)容保障和安全保障能力不強等問題，導(dǎo)致錯別字詞和表述性錯誤時有發(fā)生，影響網(wǎng)站系統(tǒng)服務(wù)質(zhì)量。四是網(wǎng)站系統(tǒng)中的不良信息、偏激信息影響社會穩(wěn)定性。不良信息會對正確價值觀產(chǎn)生負(fù)面影響，偏激信息在網(wǎng)絡(luò)上傳播容易導(dǎo)致用戶產(chǎn)生負(fù)面情緒，影響用戶對信息的價值判斷。五是輿情管理機制不健全威脅網(wǎng)站系統(tǒng)信息安全。網(wǎng)絡(luò)輿情信息收集、識別、研判、分析、預(yù)警和監(jiān)督等機制不完善，信息化和智能化水平還不夠高，導(dǎo)致復(fù)雜網(wǎng)絡(luò)傳播環(huán)境下安全漏洞和惡意攻擊事件頻繁發(fā)生。

4 信息內(nèi)容安全防護(hù)關(guān)鍵技術(shù)及相關(guān)產(chǎn)品

信息內(nèi)容安全防護(hù)旨在分析識別信息內(nèi)容是否合法、規(guī)范，防止非法內(nèi)容和不良信息的傳播與利用，確保信息內(nèi)容安全[6]。近年來，人工智能等新技術(shù)快速發(fā)展，有效提高了內(nèi)容鑒別和審查能力，推進(jìn)內(nèi)容安全治理自動化、智能化、高效化和精準(zhǔn)化[1]。為此，本文廣泛調(diào)研國內(nèi)外應(yīng)對信息內(nèi)容安全的經(jīng)驗做法，梳理了信息內(nèi)容安全防護(hù)的關(guān)鍵技術(shù)及相關(guān)產(chǎn)品，為數(shù)字經(jīng)濟(jì)時代做好網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)提供參考。

4.1 信息內(nèi)容安全防護(hù)關(guān)鍵技術(shù)及應(yīng)用

從防范和化解網(wǎng)站系統(tǒng)信息內(nèi)容安全風(fēng)險角度出發(fā)，信息內(nèi)容安全防護(hù)范疇可重點歸結(jié)為信息生命周期保護(hù)、新技術(shù)安全應(yīng)用和網(wǎng)絡(luò)輿情安全管理3 個方面，以下對其相關(guān)關(guān)鍵技術(shù)及應(yīng)用進(jìn)行分析。

信息生命周期保護(hù)方面，隱私計算和區(qū)塊鏈等關(guān)鍵技術(shù)被用于助力數(shù)據(jù)開放共享、加強數(shù)據(jù)隱私保護(hù)、降低數(shù)據(jù)泄露風(fēng)險和服務(wù)數(shù)據(jù)價值流通等實際場景中，輔助解決信息生命周期各階段中的數(shù)據(jù)權(quán)屬界定和數(shù)據(jù)安全風(fēng)險等問題。隱私計算技術(shù)可在充分保護(hù)數(shù)據(jù)和隱私安全的前提下實現(xiàn)數(shù)據(jù)價值的轉(zhuǎn)化和釋放，實現(xiàn)多方數(shù)據(jù)“可用不可見”[13]。目前隱私計算技術(shù)有3 個主流方向，分別是以多方安全計算為代表的基于密碼學(xué)的隱私計算技術(shù)、以聯(lián)邦學(xué)習(xí)為代表的人工智能與隱私保護(hù)技術(shù)融合衍生的隱私計算技術(shù)，以及以可信執(zhí)行環(huán)境為代表的基于可信硬件的隱私計算技術(shù)[14]。區(qū)塊鏈技術(shù)具有分布式、難篡改和可溯源等特點，確保計算過程和數(shù)據(jù)可信[15]。隨著中國“東數(shù)西算”工程實施，隱私計算技術(shù)與區(qū)塊鏈技術(shù)加速融合，用于解決數(shù)據(jù)隱私保護(hù)和數(shù)據(jù)共享之間的矛盾，助力數(shù)據(jù)可信流通。隱私計算和區(qū)塊鏈等關(guān)鍵技術(shù)為實現(xiàn)數(shù)據(jù)安全提供了重要的技術(shù)支撐，但是它們本身的安全性和性能仍需進(jìn)一步完善。

新技術(shù)安全應(yīng)用方面，機器學(xué)習(xí)安全防御、虛假內(nèi)容檢測等關(guān)鍵技術(shù)被用于應(yīng)對算法模型本身存在的安全風(fēng)險，以及解決“深度偽造”“大數(shù)據(jù)殺熟”等技術(shù)謬用和濫用問題。機器學(xué)習(xí)在自然語言處理、計算機視覺和信息安全等領(lǐng)域應(yīng)用廣泛，但是機器學(xué)習(xí)算法模型和訓(xùn)練數(shù)據(jù)本身面臨數(shù)據(jù)投毒攻擊、模型竊取攻擊等安全威脅，進(jìn)而影響基于機器學(xué)習(xí)的應(yīng)用系統(tǒng)的安全性。針對機器學(xué)習(xí)算法模型安全問題，近年來機器學(xué)習(xí)算法安全評估、訓(xùn)練過程防御、測試推理過程防御、數(shù)據(jù)安全隱私保護(hù)等多方面技術(shù)加速發(fā)展，旨在防御算法模型在訓(xùn)練和推理過程中的安全威脅[16]。針對“深度偽造”技術(shù)謬用現(xiàn)象，近年來涌現(xiàn)出大量虛假內(nèi)容檢測技術(shù)，著力于識別人工無法審核的內(nèi)容，在虛假新聞檢測和人臉資料審核等實際應(yīng)用場景中發(fā)揮作用[17-18]。機器學(xué)習(xí)安全防御、虛假內(nèi)容檢測等關(guān)鍵技術(shù)有力保障了新技術(shù)的安全應(yīng)用，但在多學(xué)習(xí)器安全問題和信息缺失下的系統(tǒng)建模和推理問題等方面仍有待深入研究[1]。

網(wǎng)絡(luò)輿情安全管理方面，不良信息檢測與過濾和社會網(wǎng)絡(luò)分析等關(guān)鍵技術(shù)被用于復(fù)雜網(wǎng)絡(luò)環(huán)境下信息內(nèi)容安全審核和網(wǎng)絡(luò)安全防護(hù)。網(wǎng)絡(luò)輿情管理是集信息監(jiān)測、分析、預(yù)警、處置和總結(jié)于一體的系統(tǒng)性工作，需要利用信息檢索、網(wǎng)絡(luò)爬蟲、特征抽取、話題檢測與跟蹤以及情感分析等技術(shù)對網(wǎng)絡(luò)輿情進(jìn)行綜合研判處理。同時，社會網(wǎng)絡(luò)分析、信息內(nèi)容過濾和文本自動糾錯等關(guān)鍵技術(shù)可用于識別涉政敏感、科技敏感、低俗色情和違禁暴恐等敏感信息和不規(guī)范內(nèi)容。例如，可通過對文本數(shù)據(jù)進(jìn)行語義網(wǎng)絡(luò)分析，自動識別陰謀論文本[19]。通過對網(wǎng)絡(luò)開源信息開展針對性監(jiān)測，基于開源情報分析、話題檢測與跟蹤等技術(shù)判斷敏感信息網(wǎng)絡(luò)暴露情況，追蹤網(wǎng)絡(luò)輿情事件發(fā)展趨勢和態(tài)勢。從系統(tǒng)網(wǎng)絡(luò)角度來看，基于流量分析與入侵檢測、惡意代碼挖掘與檢測等技術(shù)，對網(wǎng)絡(luò)中各種業(yè)務(wù)流量以及系統(tǒng)代碼進(jìn)行深入分析，識別惡意流量和代碼，及時開展問題溯源，保障網(wǎng)絡(luò)信息安全。

4.2 信息內(nèi)容安全防護(hù)相關(guān)產(chǎn)品

計算機技術(shù)的快速發(fā)展和信息化應(yīng)用的廣泛普及，特別是人工智能、區(qū)塊鏈等新技術(shù)加速演進(jìn)，導(dǎo)致網(wǎng)絡(luò)信息安全風(fēng)險概率、種類和復(fù)雜度日益增加。面對日益復(fù)雜嚴(yán)峻的網(wǎng)絡(luò)安全形勢挑戰(zhàn)，中國近年來相繼推出《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》等多項政策法規(guī)，為信息內(nèi)容安全產(chǎn)業(yè)快速發(fā)展提供了良好的政策環(huán)境和制度保障。本文對現(xiàn)有信息內(nèi)容安全防護(hù)產(chǎn)品進(jìn)行了梳理，重點總結(jié)了內(nèi)容安全、數(shù)據(jù)安全、身份與訪問安全、云安全、安全智能、網(wǎng)絡(luò)安全、安全服務(wù)7 個類別的相關(guān)產(chǎn)品，可以看出，信息內(nèi)容安全類產(chǎn)品與服務(wù)的種類趨于多樣化、功能趨于實用化、性能趨于智能化（見表2）。

5 開展網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)的對策

數(shù)字經(jīng)濟(jì)背景下造成的網(wǎng)站系統(tǒng)信息內(nèi)容安全問題，既有網(wǎng)站系統(tǒng)自身的原因，也有外部的原因，主要受網(wǎng)站系統(tǒng)自身安全防控能力不足、不能及時適應(yīng)信息安全等級保護(hù)要求、信息安全環(huán)境復(fù)雜多變、防控體制機制不健全等多方面因素的影響。未來的網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)將成為各方重點關(guān)注的問題。黨的二十大報告明確指出，必須堅定不移貫徹總體國家安全觀，把維護(hù)國家安全貫穿黨和國家工作各方面全過程，健全國家安全體系，增強維護(hù)國家安全能力，提高公共安全治理水平，完善社會治理體系，確保國家安全和社會穩(wěn)定。這為今后做好網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)指明了前進(jìn)方向，提供了根本遵循。

面對形勢新變化和實踐新要求，網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)仍然存在政策體系不完善、管理責(zé)任不明晰和技術(shù)監(jiān)測機制有待健全等問題。為科學(xué)應(yīng)對網(wǎng)站系統(tǒng)信息內(nèi)容安全面臨的風(fēng)險，可以重點從頂層設(shè)計、信息發(fā)布管控、信息化建設(shè)和安全人才隊伍建設(shè)4 個方面著手解決問題。

（1）加強頂層設(shè)計，完善法律法規(guī)和政策標(biāo)準(zhǔn)體系。

中國要充分適應(yīng)形勢新變化、實踐新要求和促進(jìn)新技術(shù)快速發(fā)展，加強關(guān)鍵信息基礎(chǔ)設(shè)施特別是網(wǎng)站系統(tǒng)的信息內(nèi)容安全立法工作，建立新的自上而下的信息內(nèi)容安全法律法規(guī)和政策標(biāo)準(zhǔn)體系保障框架，從國家戰(zhàn)略層面引導(dǎo)各級政府機構(gòu)、非政府組織和企業(yè)等多方完善機構(gòu)層面的網(wǎng)站系統(tǒng)信息內(nèi)容安全管理制度，制定更加務(wù)實、可落地和操作性強的安全防控工作舉措，并建立長效工作機制，強化對本行業(yè)、本領(lǐng)域和本區(qū)域?qū)ν獍l(fā)布信息內(nèi)容安全的管理。網(wǎng)站系統(tǒng)責(zé)任機構(gòu)要以優(yōu)化機制、完善流程和強化管理為抓手，健全網(wǎng)站系統(tǒng)信息發(fā)布和更新維護(hù)、信息內(nèi)容安全檢測、定期備份和應(yīng)急響應(yīng)等信息內(nèi)容安全管理制度體系，機構(gòu)內(nèi)各部門依據(jù)信息內(nèi)容安全管理制度體系，結(jié)合實際制定相應(yīng)實施細(xì)則，完善網(wǎng)站系統(tǒng)信息內(nèi)容安全保護(hù)流程，明確責(zé)任分工、審查流程、審查標(biāo)準(zhǔn)、應(yīng)急處置和檔案管理等要求，并與時俱進(jìn)更新完善。上級主管機構(gòu)做好對網(wǎng)站系統(tǒng)責(zé)任機構(gòu)的指導(dǎo)、監(jiān)督和檢查工作。各級網(wǎng)信部門和保密部門要強化網(wǎng)站系統(tǒng)信息內(nèi)容安全工作協(xié)調(diào)機制，完善網(wǎng)站系統(tǒng)安全防控力量布局，構(gòu)建全域聯(lián)動、立體高效的信息內(nèi)容安全防護(hù)體系，努力形成各單位各部門協(xié)調(diào)配合、齊抓共管的良好局面。

（2）加強信息發(fā)布管控，完善信息內(nèi)容安全風(fēng)險監(jiān)測和評估機制。

從國家層面加快健全風(fēng)險監(jiān)測、評估、預(yù)警和管控機制，明確重點領(lǐng)域安全風(fēng)險，構(gòu)建一套完備的網(wǎng)站系統(tǒng)信息內(nèi)容安全工作監(jiān)測和評估指標(biāo)體系，制定內(nèi)容安全風(fēng)險管理流程標(biāo)準(zhǔn)和操作指南，搭建包含識別、防護(hù)、檢測、響應(yīng)和恢復(fù)等功能的內(nèi)容安全框架，并根據(jù)實際情況變化適時修訂完善，為各級政府機構(gòu)、非政府組織和企業(yè)等多方做好內(nèi)容安全風(fēng)險防控并及時改進(jìn)工作提供重要遵循。網(wǎng)站系統(tǒng)責(zé)任機構(gòu)要加強信息發(fā)布內(nèi)容公開審查，堅持“先審查、后公開”的原則，嚴(yán)格限定公開范圍及時限；要規(guī)范網(wǎng)站系統(tǒng)信息的宣傳報道內(nèi)容，強化核心技術(shù)、重大項目、關(guān)鍵人才、重點機構(gòu)、重要成果和展覽展示的信息發(fā)布審查；要建立應(yīng)急處置機制，制定風(fēng)險防控應(yīng)急預(yù)案，一旦發(fā)現(xiàn)內(nèi)容安全風(fēng)險，第一時間采取措施防止擴(kuò)散并進(jìn)行處理。各級網(wǎng)信部門和保密部門要以堅定維護(hù)國家政權(quán)安全、制度安全、意識形態(tài)安全為根本，加大監(jiān)督檢查力度，推進(jìn)網(wǎng)站系統(tǒng)信息內(nèi)容安全防控常態(tài)化，定期開展網(wǎng)站系統(tǒng)信息內(nèi)容安全風(fēng)險專項整治，加強重點行業(yè)、重點領(lǐng)域的網(wǎng)站系統(tǒng)信息發(fā)布、傳播的管理和監(jiān)管，以及內(nèi)容安全風(fēng)險信息獲取、分析、研判和預(yù)警工作，及時掌握網(wǎng)站系統(tǒng)信息內(nèi)容安全整體態(tài)勢，嚴(yán)密防范安全風(fēng)險。

（3）加強信息化建設(shè)，開發(fā)自主可控、安全可靠的內(nèi)容安全防控系統(tǒng)。

考慮到機構(gòu)層面的網(wǎng)站系統(tǒng)內(nèi)容安全保護(hù)能力參差不齊，國家網(wǎng)信部門和保密部門應(yīng)牽頭完善網(wǎng)站系統(tǒng)內(nèi)容安全風(fēng)險防控體系，建設(shè)涵蓋網(wǎng)絡(luò)攻擊和敏感信息等方面的高質(zhì)量權(quán)威內(nèi)容安全比對數(shù)據(jù)庫，充分利用人工智能、隱私計算和開源情報分析等先進(jìn)技術(shù)，研發(fā)有效的內(nèi)容安全防控系統(tǒng)，能夠針對網(wǎng)站系統(tǒng)中的文字、圖片和音視頻等信息內(nèi)容開展內(nèi)容安全審核，檢測隱私泄露、知識產(chǎn)權(quán)侵權(quán)和涉政、涉黃、涉暴、涉恐等違法違規(guī)信息，黨政、科技和金融等重點領(lǐng)域的保密或敏感信息，虛假新聞、網(wǎng)絡(luò)謠言等內(nèi)容造假信息，以及錯別字詞、標(biāo)點符號錯誤等不規(guī)范表述，提升安全防控智能化、信息化水平，全面提高網(wǎng)站系統(tǒng)全域監(jiān)測、智能預(yù)警和風(fēng)險處置能力。網(wǎng)站系統(tǒng)責(zé)任機構(gòu)要著力貫通機構(gòu)內(nèi)部各網(wǎng)站系統(tǒng)的底層數(shù)據(jù)，夯實網(wǎng)站系統(tǒng)數(shù)據(jù)脫敏、追蹤溯源、全域掃描和實時監(jiān)測等技術(shù)基礎(chǔ)，強化網(wǎng)站系統(tǒng)中數(shù)據(jù)、技術(shù)和服務(wù)等各類要素的融合與銜接，促使數(shù)據(jù)資源分級分類管理和跨系統(tǒng)有序高效流動，推進(jìn)技術(shù)和服務(wù)跨系統(tǒng)安全耦合，依托內(nèi)容安全防控系統(tǒng)，持續(xù)監(jiān)測網(wǎng)站系統(tǒng)發(fā)布信息和開源網(wǎng)絡(luò)及社交媒體數(shù)據(jù)，提升網(wǎng)站系統(tǒng)信息內(nèi)容鑒別和違規(guī)審查水平，確保網(wǎng)站系統(tǒng)數(shù)據(jù)、技術(shù)和服務(wù)等各類要素用途明確、范圍可控。關(guān)鍵領(lǐng)域、易受攻擊威脅和對信息技術(shù)依賴較大的機構(gòu)要做好硬件設(shè)備、軟件系統(tǒng)和關(guān)鍵技術(shù)的國產(chǎn)化更新升級，有組織、有計劃地保障網(wǎng)站系統(tǒng)信息內(nèi)容安全。

（4）加強安全人才隊伍建設(shè)，營造人人關(guān)注安全、重視安全和參與安全的良好氛圍。

考慮到網(wǎng)站系統(tǒng)信息內(nèi)容安全工作具有復(fù)雜性、動態(tài)變化性等特點，政府主管部門需要與時俱進(jìn)地吸收網(wǎng)站系統(tǒng)信息內(nèi)容安全的創(chuàng)新理念、技術(shù)和管理方法，加強信息內(nèi)容安全人才引進(jìn)、培養(yǎng)等管理工作；發(fā)展壯大群防群治力量，營造安全氛圍，推動構(gòu)建人人有責(zé)、人人盡責(zé)和人人享有的信息內(nèi)容安全治理共同體。鼓勵高等院校探索信息內(nèi)容安全人才培養(yǎng)的新思路和新機制，強化師資隊伍建設(shè)和專業(yè)人才培養(yǎng)；鼓勵企業(yè)深度參與高等院校信息內(nèi)容安全人才培養(yǎng)工作，推動高校和企業(yè)協(xié)同育人，構(gòu)建信息內(nèi)容安全人才培養(yǎng)和技術(shù)創(chuàng)新助力產(chǎn)業(yè)發(fā)展的良好生態(tài)。網(wǎng)站系統(tǒng)責(zé)任機構(gòu)要把安全文化建設(shè)作為業(yè)務(wù)工作考核的重要參考，充分調(diào)動干部職工的積極性和創(chuàng)造力，從根本上提升安全工作水平；加強提高網(wǎng)站系統(tǒng)信息內(nèi)容安全以及處置相關(guān)突發(fā)輿情事件的保障能力，加強本單位的信息內(nèi)容安全人才、技術(shù)等力量建設(shè)。各級網(wǎng)信部門和保密部門要加強網(wǎng)站系統(tǒng)信息內(nèi)容安全教育，通過培訓(xùn)、宣傳和研討等形式，增強相關(guān)單位及人員維護(hù)網(wǎng)站系統(tǒng)信息內(nèi)容安全的意識和能力，筑牢網(wǎng)站系統(tǒng)信息內(nèi)容安全人民防線。■