摘要：隨著互聯(lián)網(wǎng)和信息技術(shù)的發(fā)展，互聯(lián)網(wǎng)內(nèi)容呈現(xiàn)爆發(fā)式增長，“人人都有麥克風，人人都是自媒體”。UGC（用戶生產(chǎn)內(nèi)容）的模式讓互聯(lián)網(wǎng)內(nèi)容更加豐富的同時，也帶來了內(nèi)容良莠不齊的嚴峻問題?；ヂ?lián)網(wǎng)內(nèi)容治理成為擺在管理部門面前一項重要而緊迫的課題。本文探討了互聯(lián)網(wǎng)企業(yè)應發(fā)揮平臺責任，在政策學習和理解、制度建設以及應用科技手段方面進行內(nèi)容治理的一些思考。

關鍵詞：平臺責任；內(nèi)容治理；落實政策；建立機制；科技手段

引言

隨著信息技術(shù)的發(fā)展和手機等智能終端的普及，各種自媒體傳播方式不斷出現(xiàn)，互聯(lián)網(wǎng)已經(jīng)進入“自媒體”時代，互聯(lián)網(wǎng)內(nèi)容呈現(xiàn)爆發(fā)式增長，UGC的模式讓互聯(lián)網(wǎng)內(nèi)容更加豐富，但同時也帶來了良莠不齊的嚴峻問題。黨的十八大以來，黨中央和國務院多次強調(diào)互聯(lián)網(wǎng)的發(fā)展要“依法治網(wǎng)、依法辦網(wǎng)、依法上網(wǎng)，讓互聯(lián)網(wǎng)在法治軌道上健康運行”。習近平總書記在“4·19”重要講話[1]中指出，“網(wǎng)絡空間是億萬民眾共同的精神家園。網(wǎng)絡空間天朗氣清、生態(tài)良好，符合人民利益。網(wǎng)絡空間烏煙瘴氣、生態(tài)惡化，不符合人民利益”?！拔覀円局鴮ι鐣撠?、對人民負責的態(tài)度，依法加強網(wǎng)絡空間治理，加強網(wǎng)絡內(nèi)容建設，做強網(wǎng)上正面宣傳，培育積極健康、向上向善的網(wǎng)絡文化，用社會主義核心價值觀和人類優(yōu)秀文明成果滋養(yǎng)人心、滋養(yǎng)社會，做到正能量充沛、主旋律高昂，為廣大網(wǎng)民特別是青少年營造一個風清氣正的網(wǎng)絡空間?！薄熬W(wǎng)絡安全是共同的而不是孤立的。網(wǎng)絡安全為人民，網(wǎng)絡安全靠人民，維護網(wǎng)絡安全是全社會共同責任，需要政府、企業(yè)、社會組織、廣大網(wǎng)民共同參與，共筑網(wǎng)絡安全防線?！被ヂ?lián)網(wǎng)企業(yè)作為互聯(lián)網(wǎng)內(nèi)容平臺的運營主體，必須提高認識、加大力度，承擔主體責任。平臺運營主體必須在互聯(lián)網(wǎng)內(nèi)容治理中發(fā)揮關鍵作用。

1. 正視問題以高度責任感擔起內(nèi)容安全主責

互聯(lián)網(wǎng)企業(yè)作為提供內(nèi)容傳播的平臺和渠道，應該以高度的責任感來承擔互聯(lián)網(wǎng)內(nèi)容治理和凈化的職責。近年來，網(wǎng)站平臺積極履行信息內(nèi)容管理主體責任，在保障信息安全、規(guī)范傳播秩序、維護良好生態(tài)等方面，發(fā)揮了主體作用。但是，也有部分網(wǎng)站平臺仍存在責任認識不充分、角色定位不準確、履職盡責不到位、制度機制不完善、管理操作不規(guī)范等問題，一定程度上導致了違法和不良信息禁而不絕，網(wǎng)絡生態(tài)問題時有發(fā)生。

1.1 樹立正確導向，加強黨建引領

作為以內(nèi)容為主業(yè)的企業(yè)，內(nèi)容安全是生命線。必須堅持政治站位，持續(xù)強化政治導向，堅持學習貫徹黨的會議精神和政策方針。始終堅持正確的政治方向、輿論導向和價值取向，確保內(nèi)容安全。企業(yè)應加強員工的思想政治教育，切實提升政治意識和業(yè)務能力，進一步嚴格把好政治關、導向關。有條件的互聯(lián)網(wǎng)企業(yè)根據(jù)人數(shù)應該開展黨組織生活，成立黨小組、黨支部、黨總支乃至黨委各層級的黨的組織機構(gòu)。充分發(fā)揮基層黨組織戰(zhàn)斗堡壘作用和共產(chǎn)黨員先鋒模范作用，提高政治站位，增強政治覺悟，強化責任擔當。

1.2 貫徹政策要求，認真對標對表

近年來，國家出臺一系列與互聯(lián)網(wǎng)安全相關的政策文件。2020年3月1日開始施行的《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》，明確了正能量信息、違法信息和不良信息的具體范圍，明確網(wǎng)絡信息內(nèi)容生產(chǎn)者應當遵守法律法規(guī)，遵循公序良俗，不得損害國家利益、公共利益和他人合法權(quán)益，不得制作、復制、發(fā)布違法信息。應當采取措施，防范和抵制制作、復制、發(fā)布不良信息[2]。2021年9月，國家網(wǎng)信辦發(fā)布《關于進一步壓實網(wǎng)站平臺信息內(nèi)容主體責任的意見》，首次系統(tǒng)提出網(wǎng)站平臺履行信息內(nèi)容管理主體責任的工作要求，從完善平臺社區(qū)規(guī)則、加強賬號規(guī)范管理、健全內(nèi)容審核機制、提升信息內(nèi)容質(zhì)量、規(guī)范信息內(nèi)容傳播、加強重點功能管理、堅持依法合規(guī)經(jīng)營、嚴格未成年人網(wǎng)絡保護、加強人員隊伍建設等9個方面，對網(wǎng)站平臺履行主體責任提出具體要求。作為內(nèi)容治理的主體，網(wǎng)站平臺應嚴格按照相關政策要求，擔當作為、履職盡責，切實發(fā)揮好網(wǎng)站平臺信息內(nèi)容管理第一責任人的作用。

2. 建章立制，以完善的機制為內(nèi)容治理夯基架梁

加強網(wǎng)絡內(nèi)容安全建設，加強風險防控，已成為互聯(lián)網(wǎng)行業(yè)的必然要求。互聯(lián)網(wǎng)企業(yè)應高度重視安全建設，定期舉辦包括公司管理層參與的專項培訓活動，特別是針對內(nèi)容安全管理方面，切實提升全員的安全責任意識。在體系建設方面，企業(yè)更應全面從嚴，堅持高標準、嚴要求。企業(yè)應在遵守國家各項政策的基礎上，制定各項規(guī)章制度并落實執(zhí)行，例如總編輯負責制、多層級內(nèi)容審核機制、應急管理及保障制度、安全巡檢制度等，從制度層面為企業(yè)的內(nèi)容安全管理工作保駕護航。

2.1 建立以總編責任制為根本的多層級審核制度

2016年，國家網(wǎng)信辦就互聯(lián)網(wǎng)從事新聞信息的網(wǎng)站專門提出了建立總編責任制的要求?？偩庉嬕獙π侣勑畔?nèi)容的導向和創(chuàng)作生產(chǎn)傳播活動負總責，完善總編輯及核心內(nèi)容管理人員任職、管理、考核與退出機制。2020年，《新聞出版署關于進一步加強網(wǎng)絡文學出版管理的通知》中明確要求[3]，建立健全內(nèi)容審核機制，網(wǎng)絡文學出版單位須設立總編輯，建立健全編輯委員會，強化內(nèi)容把關職責，總編輯對涉及內(nèi)容導向問題的事項具有否決權(quán)，對發(fā)布作品的內(nèi)容質(zhì)量負總責。各類生產(chǎn)互聯(lián)網(wǎng)內(nèi)容的圖、文、音視頻等各類數(shù)字內(nèi)容的互聯(lián)網(wǎng)企業(yè)，包括網(wǎng)絡音樂、網(wǎng)絡動漫、長短視頻等各類平臺。這些平臺均應建立總編責任制，總編輯作為網(wǎng)站內(nèi)容的第一負責人和總負責人。在此基礎上，建立多層級內(nèi)容審核機制。目前各類互聯(lián)網(wǎng)網(wǎng)站都已經(jīng)有內(nèi)容審核的相關工作，但在管理和要求上都不盡一致[4]。機制完善的網(wǎng)站大多建立了“三審”制度：編輯一審，責任編輯二審，分管領導三審?！叭龑彙敝贫戎?，以“人防”為主、“技防”為輔，兩相結(jié)合，取長補短，最大程度消除內(nèi)容安全隱患[5]。

2.2 建立應急管理制度

應急管理制度是為了預防和控制潛在的事故或緊急情況發(fā)生時，做好應急準備和及時響應，最大限度減輕可能產(chǎn)生的事故后果而制定的制度。各平臺企業(yè)應建立應急管理制度和制定完善的應急預案，包括人員、應急工作流程以及向上級匯報的渠道和途徑等各個方面，對于出現(xiàn)的疑似違規(guī)內(nèi)容，第一時間進行證據(jù)保留并立即屏蔽和下架違規(guī)內(nèi)容，同時主動向上級主管部門進行匯報。

2.3 提升崗位能力模型建設

與普通管理崗位不同，安全問題可能隨時發(fā)生，這就給安全審核人員提出了更高更切實的要求，要有敏銳的觀察力和快速決策的能力，把安全問題降到最低程度。為此，各企業(yè)針對網(wǎng)絡安全人員特別是內(nèi)容安全審核人員建立了崗位能力模型建設，設置初級、中級、高級審核崗位，針對不同的崗位，制定明確的能力要求。初級審核員要求具備基本的內(nèi)容體系知識，能夠在指導下按既定的流程完成基本工作，解決常見問題；中級審核員要具備豐富的內(nèi)容安全體系知識，可獨立完成審核工作中各項流程，能夠準備發(fā)現(xiàn)或識別明顯的內(nèi)容問題；高級審核員要求掌握領域內(nèi)專業(yè)知識，具備風控意識，具備團隊管理能力，有一定正確的判定能力，定方向、定策略、定節(jié)奏來完成工作任務。

2.4 完善安全巡檢制度

日常巡檢工作是發(fā)現(xiàn)風險隱患的有效手段，互聯(lián)網(wǎng)企業(yè)應開展日常巡檢工作，包括查思想、查制度、查紀律、查管理、查措施、查隱患在內(nèi)的多項檢查工作。巡檢工作應遵循“查漏補缺”的原則，突出“檢查的復查和落實”“管理的監(jiān)督和考核”，在巡檢過程中做到巡檢有記錄、檢查有目標、查后有改進，推動內(nèi)容管理更加完善詳盡。

3. 人技結(jié)合，以技術(shù)反制技術(shù)，以人防強化技防

20多年來，我們的互聯(lián)網(wǎng)發(fā)展取得了一些技術(shù)方面的成就，但是同世界先進水平相比，同建設網(wǎng)絡強國目標相比，還是存在不小的差距，特別是在內(nèi)容審核技術(shù)成為保障互聯(lián)網(wǎng)健康發(fā)展重要手段的今天，適應智能化、多模態(tài)、實時性的技術(shù)發(fā)展趨勢，應對錯判率、算法攻擊、多語種審核等技術(shù)挑戰(zhàn)，不斷提高內(nèi)容審核技術(shù)的精準度和安全性，是每個互聯(lián)網(wǎng)企業(yè)持續(xù)攻關的重要課題。

3.1 利用人工智能、大數(shù)據(jù)技術(shù)強化機器審核內(nèi)容安全

目前市場上有專業(yè)公司提供機器進行內(nèi)容審核的服務，各大互聯(lián)網(wǎng)企業(yè)平臺也都有自己的機器審核技術(shù)和平臺。各企業(yè)高度重視技術(shù)手段，運用最新的技術(shù)進行內(nèi)容的初篩與把控，建立敏感詞庫并隨時更新，利用技術(shù)手段提升審核能力與審核效率，形成覆蓋涉政、涉黃、涉恐、惡意推廣、低質(zhì)灌水、官方違禁內(nèi)容庫等多維度多層面的審核維度，為業(yè)務健康發(fā)展保駕護航。平臺公司應加大技術(shù)研發(fā)和攻關，從語義分析、知識規(guī)則匹配、用戶分析、異常行為識別、命名實體識別、場景分析等多方面進行綜合處理監(jiān)測，利用機器學習技術(shù)，將大量違規(guī)數(shù)據(jù)和正常數(shù)據(jù)提供給機器學習，通過機器強大的自學習能力，不斷提高鑒別的準確度，向用戶標準靠近[6]。

3.2 建立人員配備充分、培訓機制健全的組織架構(gòu)

內(nèi)容安全團隊管理具有復雜度高、質(zhì)量要求高、業(yè)務分支多、人員數(shù)量多、跨地區(qū)溝通、協(xié)作頻繁、規(guī)則更新快等特點，這些復雜的情況給內(nèi)容安全審核業(yè)務的交付質(zhì)量增加了難度，也提出了很大的挑戰(zhàn)。各平臺企業(yè)應建立合理的組織架構(gòu)，配備充分的人力保障內(nèi)容安全審核工作，配備與業(yè)務規(guī)模相適應的編輯和安審人員，增加內(nèi)容審核人員數(shù)量[7]。同時，制定明確的培訓計劃，可以建立月度培訓會、一定范圍內(nèi)的雙周經(jīng)驗交流會，以及有重大事項的專題培訓會等，對各級編輯開展定期或不定期的培訓，有針對性開展業(yè)務培訓，持續(xù)提升能力素質(zhì)。

結(jié)語

網(wǎng)絡內(nèi)容治理是建設清朗網(wǎng)絡空間、營造良好輿論環(huán)境的重點內(nèi)容，關乎國家發(fā)展，關乎社會長治久安，更關乎青少年健康成長，樹立正確世界觀、人生觀、價值觀的重要事情，各互聯(lián)網(wǎng)平臺企業(yè)要在主管部門的指導下，積極承擔主體責任，擔當作為，真抓實干，切實履行好內(nèi)容治理的責任和義務，為新時代網(wǎng)絡強國建設做出新貢獻。

參考文獻：

[1]習近平在網(wǎng)信工作座談會上的講話全文發(fā)表[EB/OL].（2016-4-19）[2016-4-25].http：//www.xinhuanet.com/politics/2016-04/25/c_1118731175.htm.

[2]國家互聯(lián)網(wǎng)信息辦公室.網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定[EB/OL].（2019-12-20）[2020-3-1].http：//www.cac.gov.cn/2019-12/20/c_1578375159509309.htm.

[3]新聞出版署關于進一步加強網(wǎng)絡文學出版管理的通知（國新出發(fā)〔2020〕11號）[A/OL].（2020-6-5）[2023-8-15].https：//www.gov.cn/gongbao/content/2020/content_5551816.htm.

[4]陳璐穎.互聯(lián)網(wǎng)內(nèi)容治理中的平臺責任研究[J].出版發(fā)行研究，2020，（6）：12-18.

[5]張莉婧.出版融合背景下數(shù)字出版內(nèi)容審核策略[J].中國傳媒科技，2020，（7）： 17-20.

[6]陳奎蓮.AI在數(shù)字出版內(nèi)容審核中的應用研究[J].出版廣角，2020，（10）：15-18.

[7]孫群.自媒體內(nèi)容安全審查邏輯與發(fā)展空間[J].青年記者，2019，（2）：83-84.

作者簡介：郭棟，碩士研究生，副編審。