朱垚穎　謝新洲　張靜怡

【摘要】作為當(dāng)前網(wǎng)絡(luò)治理和社會(huì)治理的重點(diǎn)，網(wǎng)絡(luò)內(nèi)容治理工作的重要性與日俱增。網(wǎng)絡(luò)內(nèi)容審核是網(wǎng)絡(luò)內(nèi)容治理的關(guān)鍵一環(huán)，內(nèi)容審核標(biāo)準(zhǔn)體系的完善對(duì)于網(wǎng)絡(luò)內(nèi)容治理意義深遠(yuǎn)。基于安全和發(fā)展兩個(gè)價(jià)值取向，當(dāng)前網(wǎng)絡(luò)內(nèi)容審核機(jī)制存在責(zé)任規(guī)約不明確、管控尺度難把握、公開機(jī)制不健全、前置預(yù)防有漏洞、技術(shù)標(biāo)準(zhǔn)不全面等問題，這反映出安全與發(fā)展雙重價(jià)值的失衡，凸顯了平臺(tái)利益與社會(huì)效益的價(jià)值沖突?，F(xiàn)提出需建立體系化、標(biāo)準(zhǔn)化的內(nèi)容審核機(jī)制，以全流程、可操作性、多維度作為治理要求，實(shí)現(xiàn)網(wǎng)絡(luò)內(nèi)容在價(jià)值取向上的安全與發(fā)展并重。

【關(guān)鍵詞】網(wǎng)絡(luò)內(nèi)容；審核標(biāo)準(zhǔn)；安全；發(fā)展；治理體系

伴隨各類互聯(lián)網(wǎng)內(nèi)容平臺(tái)的興起、社交媒體的廣泛普及、用戶內(nèi)容生產(chǎn)參與度的提升，以及網(wǎng)絡(luò)內(nèi)容與現(xiàn)實(shí)世界連接和滲透程度的進(jìn)一步加深，網(wǎng)絡(luò)內(nèi)容對(duì)社會(huì)政治、經(jīng)濟(jì)、文化等領(lǐng)域的影響力日益凸顯，網(wǎng)絡(luò)內(nèi)容治理問題也成為網(wǎng)絡(luò)治理和社會(huì)治理的重點(diǎn)。近年來，我國高度重視網(wǎng)絡(luò)內(nèi)容治理工作，并將信息安全提升至國家安全的戰(zhàn)略高度，相繼出臺(tái)了《網(wǎng)絡(luò)安全法》《信息安全保護(hù)法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律及規(guī)定。2021年9月1日，《數(shù)據(jù)安全法》開始施行，國家正式建立數(shù)據(jù)安全審查制度。2022年2月15日起施行的《網(wǎng)絡(luò)安全審查辦法》，進(jìn)一步明確了國家網(wǎng)絡(luò)安全審查工作機(jī)制。上述辦法的施行，意味著我國數(shù)據(jù)安全及網(wǎng)絡(luò)安全審查工作進(jìn)入機(jī)制化、體系化的新階段。網(wǎng)絡(luò)內(nèi)容作為網(wǎng)絡(luò)數(shù)據(jù)治理和網(wǎng)絡(luò)安全治理的關(guān)鍵，其審核機(jī)制的建立和價(jià)值取向也是當(dāng)前政府、學(xué)界、業(yè)界高度關(guān)注的話題。

安全與發(fā)展是網(wǎng)絡(luò)內(nèi)容建設(shè)的兩個(gè)價(jià)值取向，隨著內(nèi)容審核技術(shù)的發(fā)展與工作思路的成熟，網(wǎng)絡(luò)內(nèi)容審核應(yīng)逐漸由“安全第一”向“發(fā)展優(yōu)先”轉(zhuǎn)化[1]，實(shí)現(xiàn)安全與發(fā)展的相輔相成。網(wǎng)絡(luò)內(nèi)容審核機(jī)制是網(wǎng)絡(luò)內(nèi)容治理與建設(shè)的重要組成部分，關(guān)系到內(nèi)容審查工作的發(fā)展方向。以此為出發(fā)點(diǎn)，本文將探討安全與發(fā)展在內(nèi)容審核工作中的現(xiàn)狀與問題，分析其矛盾根源，進(jìn)而對(duì)內(nèi)容標(biāo)準(zhǔn)的制定方式及其意義進(jìn)行討論，提出具有系統(tǒng)性、全面性和可操作性的網(wǎng)絡(luò)內(nèi)容審核標(biāo)準(zhǔn)體系的建設(shè)思路，有助于適應(yīng)當(dāng)前階段的網(wǎng)絡(luò)內(nèi)容規(guī)律和特征，解決好網(wǎng)絡(luò)內(nèi)容審核工作中的問題與矛盾。

一、網(wǎng)絡(luò)內(nèi)容審核的現(xiàn)狀探討

網(wǎng)絡(luò)內(nèi)容審核是指由政府主導(dǎo)建立的，由政府、平臺(tái)及用戶等多主體協(xié)作執(zhí)行的對(duì)網(wǎng)絡(luò)內(nèi)容進(jìn)行的檢審、核查與治理活動(dòng)，目標(biāo)是保障網(wǎng)絡(luò)內(nèi)容的安全與清朗，推動(dòng)網(wǎng)絡(luò)內(nèi)容生態(tài)長久發(fā)展。由此可見，網(wǎng)絡(luò)內(nèi)容審核涉及安全和發(fā)展兩個(gè)價(jià)值取向，前者以后置處理為主，在監(jiān)測(cè)到負(fù)面信息之后對(duì)內(nèi)容及其發(fā)布主體實(shí)行管控措施，后者以前置工作為主，包括用戶素質(zhì)培育、輿情風(fēng)險(xiǎn)監(jiān)測(cè)技術(shù)、優(yōu)質(zhì)內(nèi)容創(chuàng)作引導(dǎo)等內(nèi)容。對(duì)當(dāng)前網(wǎng)絡(luò)內(nèi)容審核發(fā)展現(xiàn)狀的分析，既需關(guān)注審核背后的“底線”思維考量，也需關(guān)注審核方式和審核對(duì)象的差異。

（一）“底線”思維下的內(nèi)容審核模式

目前，我國網(wǎng)絡(luò)審核以安全保障工作為主要取向，平臺(tái)的審核工作也以守住內(nèi)容“底線”為主要目標(biāo)。從政策層面來看，20世紀(jì)以來，我國已經(jīng)建立了較為全面的網(wǎng)絡(luò)安全政策及法規(guī)體系：從1994年《計(jì)算機(jī)信息系統(tǒng)安全保護(hù)條例》出臺(tái)，到2021年《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》推行，我國基礎(chǔ)網(wǎng)絡(luò)安全體系逐漸建立。近年來《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》相繼頒布，信息和數(shù)據(jù)安全得到了更為細(xì)致的法律保障。在網(wǎng)絡(luò)信息安全保護(hù)日益強(qiáng)化的大環(huán)境下，網(wǎng)絡(luò)內(nèi)容安全體系也逐漸完善。2019年，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》（以下簡稱《規(guī)定》）推出，提出了違法及不良信息的判定標(biāo)準(zhǔn)以及優(yōu)質(zhì)信息的內(nèi)容特征。2022年1月，《網(wǎng)絡(luò)安全審查辦法》出臺(tái)，進(jìn)一步針對(duì)產(chǎn)品、服務(wù)和數(shù)據(jù)三個(gè)治理對(duì)象強(qiáng)化了平臺(tái)的管理責(zé)任。可見，當(dāng)前階段審核標(biāo)準(zhǔn)體系主要圍繞信息安全及國家安全建立和展開，針對(duì)互聯(lián)網(wǎng)內(nèi)容方面的潛在風(fēng)險(xiǎn)和現(xiàn)存問題建立了較為全面的政策體系。同時(shí)，《規(guī)定》也涉及了一部分內(nèi)容發(fā)展層面的措施，要求平臺(tái)對(duì)《規(guī)定》所提出的優(yōu)質(zhì)內(nèi)容進(jìn)行優(yōu)先傳播和呈現(xiàn)。

從平臺(tái)層面來看，當(dāng)前內(nèi)容審核工作主要采取機(jī)器審核與人工審核相結(jié)合的方式。主體在平臺(tái)中創(chuàng)作和發(fā)布的內(nèi)容首先通過機(jī)器進(jìn)行負(fù)面關(guān)鍵詞初步匹配，未命中關(guān)鍵詞的內(nèi)容視為審核通過內(nèi)容，直接發(fā)送至平臺(tái)。機(jī)器檢測(cè)到可能存在風(fēng)險(xiǎn)的內(nèi)容進(jìn)入人工復(fù)審環(huán)節(jié)，涉及違法違規(guī)的“底線”內(nèi)容將被進(jìn)行封禁和刪除處理。一些具有模糊性的內(nèi)容則進(jìn)入二輪人工審核環(huán)節(jié)，并根據(jù)內(nèi)容可辨別難度的增加依次上遞，最終確定對(duì)其的處理方式。在審核內(nèi)容層次方面，一些平臺(tái)也按照內(nèi)容影響力進(jìn)行優(yōu)先級(jí)劃分，重點(diǎn)關(guān)注“大V”等賬號(hào)發(fā)布的內(nèi)容，普通用戶發(fā)布的內(nèi)容在達(dá)到一定熱度之后才會(huì)進(jìn)入平臺(tái)審核庫中。對(duì)于謠言等信息內(nèi)容，平臺(tái)也設(shè)置了相應(yīng)的后置處理辦法，包括設(shè)置謠言信息標(biāo)簽、建立辟謠平臺(tái)、開啟官方媒體辟謠權(quán)限等?？傮w來看，平臺(tái)內(nèi)容審核工作主要依據(jù)《規(guī)定》所提出的負(fù)面信息清單來進(jìn)行，集中審核力量處理“底線”問題，并進(jìn)行必要的內(nèi)容審核處理結(jié)果公示，同時(shí)配合相關(guān)優(yōu)質(zhì)內(nèi)容的推薦工作。

（二）內(nèi)容審核方式的多元發(fā)展

當(dāng)前，網(wǎng)絡(luò)內(nèi)容審核呈現(xiàn)多元模式，審核方式以體制機(jī)制審核、人工審核、機(jī)器審核為基礎(chǔ)，形成多種方式相互配合、互為補(bǔ)充的多層級(jí)審核流程。在此過程中，官方媒體、市場(chǎng)化媒體、賬號(hào)類媒體由于在內(nèi)容生產(chǎn)機(jī)制、內(nèi)容傳播目的、專業(yè)性程度等各方面存在差異，往往在內(nèi)容審核中采取不同的審核模式及策略。與此同時(shí)，不同審核模式對(duì)于人才、勞動(dòng)、技術(shù)等要素的傾向性和需求也存在差異，形成了多元的工作方法和審核思路。

體制機(jī)制審核是目前主流媒體的主導(dǎo)內(nèi)容審核方式，媒體編輯部在審核工作中扮演著“把關(guān)人”的角色，專業(yè)人才的評(píng)估和判斷在內(nèi)容“底線”的把控和內(nèi)容質(zhì)量的優(yōu)化中發(fā)揮著關(guān)鍵作用。網(wǎng)絡(luò)內(nèi)容時(shí)代的體制機(jī)制審核沿襲了傳統(tǒng)媒體內(nèi)容生產(chǎn)的嚴(yán)謹(jǐn)性與專業(yè)性，其不僅是主流媒體傳播力與公信力的重要保證，同時(shí)也為推進(jìn)行業(yè)內(nèi)容審核的專業(yè)化和規(guī)范化提供了有效示范和指導(dǎo)。目前，由主流媒體主導(dǎo)建立的內(nèi)容風(fēng)控業(yè)務(wù)機(jī)構(gòu)成為內(nèi)容審核工作中的業(yè)務(wù)主力之一[2]，為行業(yè)內(nèi)容審核工作提供了有力支持。

人工審核主要指由具備內(nèi)容審核相關(guān)知識(shí)和技能的人員根據(jù)內(nèi)容審核規(guī)則對(duì)體量龐大的網(wǎng)絡(luò)信息展開的人工篩查。這一審核方式以“勞動(dòng)密集型”為主要生產(chǎn)形式，并將官方制定的法律法規(guī)與平臺(tái)規(guī)則作為主要的行動(dòng)原則?，F(xiàn)階段，市場(chǎng)化媒體通常借助于“機(jī)器+人工”的內(nèi)容審核方式，人工審核主要作為機(jī)器審核的補(bǔ)充手段和上層環(huán)節(jié)，用于把關(guān)音視頻作品以及較為模糊或復(fù)雜的內(nèi)容問題，補(bǔ)足機(jī)器審核在內(nèi)容形式上的局限性，精細(xì)化處理機(jī)器預(yù)篩過程中可能存在的內(nèi)容風(fēng)險(xiǎn)。

機(jī)器審核運(yùn)用算法進(jìn)行內(nèi)容比對(duì)和篩選，是內(nèi)容審核標(biāo)準(zhǔn)化、規(guī)?；l(fā)展方向的集中體現(xiàn)。機(jī)器審核以技術(shù)為導(dǎo)向，運(yùn)用數(shù)據(jù)庫、人工智能等現(xiàn)代技術(shù)進(jìn)行實(shí)時(shí)高效的內(nèi)容治理，極大提高了內(nèi)容審核工作效率，推動(dòng)審核工作的常態(tài)化開展。但是，現(xiàn)階段的機(jī)器審核仍然存在著技術(shù)滯后的問題，同時(shí)面臨著網(wǎng)絡(luò)內(nèi)容復(fù)雜化帶來的挑戰(zhàn)，因此尚難達(dá)到完全智能化的水平，需要人工復(fù)核作為其支持與補(bǔ)充。機(jī)器審核的把關(guān)作用在賬號(hào)類媒體中得到突出體現(xiàn)，賬號(hào)類媒體主要指各類網(wǎng)絡(luò)平臺(tái)中的自媒體以及個(gè)人創(chuàng)作者，其內(nèi)容創(chuàng)作時(shí)常存在著自我審核環(huán)節(jié)缺失的問題，進(jìn)而將審核壓力轉(zhuǎn)嫁到內(nèi)容發(fā)布平臺(tái)方。在此過程中，違規(guī)內(nèi)容通過機(jī)器審核得到快速處理，阻斷了不良內(nèi)容的大規(guī)模傳播。與此同時(shí)，大量賬號(hào)內(nèi)容為機(jī)器學(xué)習(xí)提供了良好數(shù)據(jù)，進(jìn)而促進(jìn)機(jī)器學(xué)習(xí)的開展和內(nèi)容審核算法的成熟。

（三）各類型網(wǎng)絡(luò)內(nèi)容審核的不同側(cè)重

當(dāng)前網(wǎng)絡(luò)內(nèi)容海量豐富、類型多元，包括文字、圖片、視頻、游戲、虛擬沉浸內(nèi)容等多種形態(tài)，呈現(xiàn)出多媒體、數(shù)字化、智能化等趨勢(shì)。隨著互聯(lián)網(wǎng)文化產(chǎn)品的日益豐富，短視頻、直播、游戲等諸多文化產(chǎn)品進(jìn)一步豐富了網(wǎng)絡(luò)內(nèi)容這一概念內(nèi)涵，也帶來了更復(fù)雜的審核需求。

在網(wǎng)絡(luò)內(nèi)容不斷發(fā)展的背景下，針對(duì)不同類型內(nèi)容的審核方式和重點(diǎn)也存在相應(yīng)差異。文字類型的網(wǎng)絡(luò)內(nèi)容審核往往以關(guān)鍵詞及語義審核作為重點(diǎn)，審核方式相對(duì)明確，常見前置審批和事后刪帖等審核方式。而游戲等更復(fù)雜的網(wǎng)絡(luò)內(nèi)容前置審核，既需要對(duì)游戲中出現(xiàn)的一些文字、圖片、NPC形象等進(jìn)行審核，也需要對(duì)游戲故事情節(jié)、劇情推進(jìn)、環(huán)境場(chǎng)景等體現(xiàn)出的文化價(jià)值觀進(jìn)行審核，避免出現(xiàn)低俗文化、傳統(tǒng)文化誤讀等情況，確保內(nèi)容優(yōu)質(zhì)、健康、干凈。直播內(nèi)容審核涉及即時(shí)直播，因此較難進(jìn)行前置審核，審核難度也大大增加，常見的審核方式是以智能審核方式對(duì)直播中的“間隔圖片”進(jìn)行審核，以及對(duì)一些直播賬號(hào)進(jìn)行人工審核。

目前，在不同類型網(wǎng)絡(luò)內(nèi)容的審核中，文字、圖片審核相對(duì)較為成熟，短視頻審核、游戲?qū)徍说募夹g(shù)審核也在不斷發(fā)展，直播審核可能面臨著較大的技術(shù)挑戰(zhàn)和內(nèi)容把關(guān)上的困難。目前不同類型內(nèi)容的審核方式和技術(shù)也在彼此借鑒，例如將敏感詞過濾、圖片審核作為視頻內(nèi)容審核的手段，或是將傳統(tǒng)內(nèi)容審核中的播前審核引入到直播內(nèi)容審核中來。總的來說，不同類型的網(wǎng)絡(luò)內(nèi)容有著相應(yīng)的審核機(jī)制和審核方式，相應(yīng)的審核準(zhǔn)則也在推出，例如中國網(wǎng)絡(luò)視聽節(jié)目服務(wù)協(xié)會(huì)在2017年和2019年分別發(fā)布《網(wǎng)絡(luò)視聽節(jié)目內(nèi)容審核通則》《網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》，2021年也對(duì)后者進(jìn)行了全面修訂，進(jìn)一步結(jié)合新的內(nèi)容變化修訂了審核標(biāo)準(zhǔn)。

二、當(dāng)前網(wǎng)絡(luò)內(nèi)容審核工作存在的問題

由于審核技術(shù)、機(jī)制和責(zé)任歸屬的不健全，以及審核方式和審核對(duì)象的差異化，現(xiàn)階段網(wǎng)絡(luò)內(nèi)容標(biāo)準(zhǔn)存在著安全與發(fā)展取向不平衡的問題。一方面，平臺(tái)內(nèi)容審核工作固守安全底線，忽視了長遠(yuǎn)發(fā)展目標(biāo)的規(guī)劃；另一方面，平臺(tái)面對(duì)技術(shù)紅利的吸引單方面追求內(nèi)容發(fā)展，致使相關(guān)的安全保障措施配備相對(duì)滯后。兩方面的價(jià)值失衡引發(fā)了各類審核工作問題，同時(shí)也反映了相關(guān)制度建設(shè)的短板。

（一）責(zé)任規(guī)約不明確

習(xí)近平總書記在2016年的全國網(wǎng)絡(luò)安全和信息化工作座談會(huì)上提出，網(wǎng)站在網(wǎng)上信息管理中應(yīng)負(fù)“主體責(zé)任”。[3]互聯(lián)網(wǎng)平臺(tái)掌握著干預(yù)平臺(tái)信息流動(dòng)的技術(shù)能力和內(nèi)容管理的實(shí)際權(quán)力，是網(wǎng)絡(luò)內(nèi)容審核的責(zé)任主體。突出平臺(tái)責(zé)任，強(qiáng)化平臺(tái)治理是黨的十八大以來，我國在網(wǎng)絡(luò)治理方面取得的重要經(jīng)驗(yàn)。[4]平臺(tái)主體責(zé)任的落實(shí)是安全與發(fā)展的實(shí)現(xiàn)基礎(chǔ)，然而實(shí)際工作中卻存在著各類責(zé)任不明確的問題。

首先，平臺(tái)的責(zé)任履行不夠全面。一些平臺(tái)初步明確了“底線”工作的重要性，并成立專班小組負(fù)責(zé)相關(guān)工作，但對(duì)優(yōu)質(zhì)內(nèi)容引導(dǎo)工作還不夠重視，因而導(dǎo)致了內(nèi)容審核與內(nèi)容發(fā)展之間的價(jià)值斷層，尤其是一些處于早期發(fā)展階段的內(nèi)容平臺(tái)仍然以擴(kuò)大平臺(tái)影響力作為第一訴求，將優(yōu)質(zhì)內(nèi)容的生產(chǎn)放在后置需求地位。其次，平臺(tái)考慮審核成本和效率，將部分審核工作移交外部團(tuán)隊(duì)，導(dǎo)致審核責(zé)任間接落實(shí)、人員素質(zhì)參差不齊等問題，可能造成審核質(zhì)量下降。再次，部分平臺(tái)自制力較弱，內(nèi)容安全意識(shí)不足，時(shí)常為了追求流量而犧牲質(zhì)量，致使一些處于灰色地帶的內(nèi)容頻頻出現(xiàn)。例如2021年底，全國網(wǎng)絡(luò)執(zhí)法就整治了網(wǎng)上歷史虛無主義、治理算法亂用、整治未成年人網(wǎng)絡(luò)環(huán)境、整治彈窗新聞信息突出問題、規(guī)范網(wǎng)站賬號(hào)運(yùn)營、整治網(wǎng)上文娛及熱點(diǎn)排行亂象等問題，其中如金山毒霸應(yīng)用程序彈窗推送詆毀革命烈士邱少云等內(nèi)容的出現(xiàn)[5]，危害了網(wǎng)絡(luò)內(nèi)容空間的健康發(fā)展。

上述問題也反映出了平臺(tái)審核工作中安全與發(fā)展的價(jià)值錯(cuò)位。如何通過政策引導(dǎo)將平臺(tái)審核責(zé)任中的安全與發(fā)展有效銜接，提高平臺(tái)自我管理的自主性和積極性，是當(dāng)前階段需要思考的問題。

（二）管控尺度難以把握

《規(guī)定》中將網(wǎng)絡(luò)內(nèi)容的審核與處理標(biāo)準(zhǔn)概括為“十一不準(zhǔn)”“九防范抵制”和“七鼓勵(lì)”，是當(dāng)前最為權(quán)威和全面的內(nèi)容治理標(biāo)準(zhǔn)參考。[6]這一標(biāo)準(zhǔn)為內(nèi)容治理劃定了較清晰的框架，對(duì)優(yōu)質(zhì)內(nèi)容的標(biāo)準(zhǔn)予以一定的指引，體現(xiàn)了安全和發(fā)展兩個(gè)價(jià)值維度?；谶@一框架，平臺(tái)能夠?qū)ι?、暴力等“底線”內(nèi)容進(jìn)行果斷識(shí)別和封禁，但對(duì)于相對(duì)模糊的內(nèi)容仍然存在管理力度難以掌握的問題。

網(wǎng)絡(luò)內(nèi)容本身具有復(fù)雜性，是一種處于添加、改寫、再傳播狀態(tài)中的永久“半成品”[7]，這也導(dǎo)致平臺(tái)難以形成普適化的處理策略。平臺(tái)依靠自身治理經(jīng)驗(yàn)進(jìn)行的管理具有局限性，其管理范圍與用戶接受能力之間可能存在偏差，引發(fā)次生輿情，造成公共利益損失。當(dāng)前內(nèi)容審核在系統(tǒng)管理理論以及行動(dòng)邏輯方面還有待深入研究[8]，存在可操作性較弱的問題，缺乏具有動(dòng)態(tài)適應(yīng)性的處理預(yù)案，因此難以為平臺(tái)審核工作提供更為細(xì)致的指導(dǎo)。審核工作的完善需要進(jìn)一步考慮其維度多樣性，在為安全問題提供參考的同時(shí)，也為復(fù)雜內(nèi)容的處理以及優(yōu)質(zhì)內(nèi)容的發(fā)展提供更多切實(shí)的解決路徑。

（三）公開機(jī)制不健全

內(nèi)容審核流程的完整性和合理性是內(nèi)容審核工作的重要發(fā)展維度，平臺(tái)公開機(jī)制是提高審核工作透明度和保障工作質(zhì)量的重要環(huán)節(jié)。目前，一些平臺(tái)在審核工作中存在機(jī)械化、形式化的問題，可能造成用戶的不滿情緒以及社會(huì)監(jiān)督的缺失。

一方面，平臺(tái)的信息公開工作不夠深入。許多平臺(tái)頒布了社區(qū)公約，對(duì)平臺(tái)使用進(jìn)行了細(xì)致規(guī)約，同時(shí)也開通了官方管理平臺(tái)，例如抖音社區(qū)自律公約、“微博管理員”賬號(hào)、微信“辟謠助手”小程序等。這些做法取得了一定成效，但對(duì)用戶主動(dòng)性要求較高，治理范圍較為有限，仍然需要進(jìn)一步的宣傳推廣。另一方面，用戶在審核工作中處于較被動(dòng)的地位，用戶主體性體現(xiàn)不足。一些平臺(tái)利用技術(shù)優(yōu)勢(shì)在用戶不知情的情況下對(duì)其創(chuàng)作內(nèi)容進(jìn)行一定范圍的設(shè)限，從而預(yù)防不確定性內(nèi)容的負(fù)面影響，減輕審核工作壓力。類似做法雖然能夠規(guī)避風(fēng)險(xiǎn)，但是不利于用戶的引導(dǎo)和培育，也放任了平臺(tái)所構(gòu)建的權(quán)力不對(duì)等的私人秩序的形成。[9]透明化工作中的問題進(jìn)一步表明了安全與發(fā)展的價(jià)值失衡，內(nèi)容審核工作需要著眼全局，形成可持續(xù)的工作模式和方法，不僅考慮當(dāng)前工作的完成和問題的解決，更要考慮內(nèi)容治理的長遠(yuǎn)規(guī)劃和發(fā)展目標(biāo)。

（四）前置預(yù)防機(jī)制不完善

長期以來，后置處理是平臺(tái)內(nèi)容審核工作的主要模式。一些信息形式具有較大的管理難度，例如謠言等不良信息具有來源廣泛、不確定性強(qiáng)、變化發(fā)展快、人際擴(kuò)散迅速等特征，使平臺(tái)在介入之初就面臨著較大規(guī)模的傳播和影響范圍，處于相對(duì)被動(dòng)的地位，即使最行之有效的謠言治理辦法仍然是偏滯后性的。即時(shí)通信類信息也存在著類似問題，此類信息具有碎片性和隱匿性，除了針對(duì)特定關(guān)鍵詞的前置攔截以外，其他信息只能進(jìn)行事后干預(yù)，而此前已發(fā)出的內(nèi)容則難以進(jìn)入治理范圍。此外，平臺(tái)依據(jù)內(nèi)容熱度的審核優(yōu)先級(jí)劃分也導(dǎo)致某些偶然性大面積傳播的不良內(nèi)容難以得到及時(shí)發(fā)現(xiàn)和處理。

面對(duì)體量龐大的網(wǎng)絡(luò)信息，單方面的后置性安全保障工作難以完全解決內(nèi)容問題，需要從發(fā)展的思路出發(fā)，開展前置性的教育和預(yù)防工作。一些平臺(tái)開通了“贊賞”“投幣”等激勵(lì)功能，鼓勵(lì)用戶發(fā)布優(yōu)質(zhì)原創(chuàng)內(nèi)容。此類做法有利于推進(jìn)內(nèi)容審核工作由事后管理向事前引導(dǎo)轉(zhuǎn)變，但總體來看平臺(tái)在公約引導(dǎo)和優(yōu)質(zhì)內(nèi)容激勵(lì)層面相對(duì)薄弱，同時(shí)需要避免商業(yè)炒作、非理性打賞、盜版侵權(quán)等問題。與此同時(shí)，自媒體平臺(tái)推出了各類內(nèi)容創(chuàng)作者扶持政策，但執(zhí)行過程中存在著創(chuàng)作者與平臺(tái)話語權(quán)不對(duì)等的現(xiàn)象，扶持政策“高門檻、低力度”，創(chuàng)作者所得回報(bào)難以達(dá)到預(yù)期[10]，因而進(jìn)一步加劇了內(nèi)容資源的頭部集中以及內(nèi)容同質(zhì)化趨勢(shì)。一些平臺(tái)推出了個(gè)性化的用戶素養(yǎng)培育功能，例如嗶哩嗶哩要求用戶在獲得會(huì)員身份之前通過社區(qū)使用規(guī)范考核，一些豆瓣小組要求用戶在加入前作出遵守小組規(guī)則的相應(yīng)承諾等。這些做法能夠在一定程度上提高用戶的規(guī)則意識(shí)，但是目前尚未全面推廣使用，一些公約內(nèi)容也由用戶自主制定，缺乏專業(yè)性和約束力，治理方面存在一定的漏洞。

（五）技術(shù)標(biāo)準(zhǔn)不全面

技術(shù)是內(nèi)容建設(shè)的重要驅(qū)動(dòng)力，代表著發(fā)展的價(jià)值取向。平臺(tái)技術(shù)的創(chuàng)新需要通過內(nèi)容呈現(xiàn)，因此“發(fā)展”是平臺(tái)內(nèi)容的基本要?jiǎng)?wù)。盡管如此，內(nèi)容安全仍然是內(nèi)容繁榮發(fā)展的前提條件，現(xiàn)階段存在著內(nèi)容審核技術(shù)滯后于內(nèi)容發(fā)展技術(shù)的現(xiàn)象[11]，導(dǎo)致平臺(tái)在技術(shù)方面出現(xiàn)了過度追求發(fā)展取向的問題。具體來看，智能算法推薦等平臺(tái)內(nèi)容生產(chǎn)技術(shù)滿足了用戶的個(gè)性化需求，但同時(shí)也導(dǎo)致了內(nèi)容同質(zhì)化、碎片化等問題。然而與之相應(yīng)的內(nèi)容質(zhì)量保障技術(shù)尚未得到充分開發(fā)和應(yīng)用，無法與過分商業(yè)化導(dǎo)向的推薦機(jī)制形成制衡，進(jìn)一步放任了內(nèi)容質(zhì)量的滑坡。

另外，當(dāng)前審核技術(shù)尚且無法全面滿足審核工作的現(xiàn)實(shí)要求，針對(duì)圖片、視頻、音頻等內(nèi)容審核的相關(guān)技術(shù)處于弱智能狀態(tài)。例如，平臺(tái)的視頻內(nèi)容審核仍然存在著成本較高的問題，當(dāng)前技術(shù)水平下需要對(duì)視頻畫面進(jìn)行抽幀處理，對(duì)音頻信息進(jìn)行文字轉(zhuǎn)化，大大增加了審核工作量。

目前我國仍然缺乏有效的內(nèi)容審核技術(shù)研發(fā)制度與研發(fā)激勵(lì)機(jī)制，導(dǎo)致以平臺(tái)和企業(yè)為主體的研發(fā)主體的創(chuàng)新性不足，技術(shù)開發(fā)的積極性較弱，從而導(dǎo)致了內(nèi)容審核技術(shù)的發(fā)展滯后問題?，F(xiàn)有技術(shù)標(biāo)準(zhǔn)不夠系統(tǒng)，更加側(cè)重技術(shù)的可能性與實(shí)用性，對(duì)于技術(shù)與內(nèi)容更新速度的適應(yīng)性以及技術(shù)與網(wǎng)絡(luò)內(nèi)容形式間的匹配性考慮不足。

三、問題剖析：顯隱要素與價(jià)值沖突

目前內(nèi)容審核工作中的各類問題在一定程度上反映了安全與發(fā)展雙重價(jià)值的失衡，也是平臺(tái)利益與社會(huì)效益產(chǎn)生價(jià)值沖突的體現(xiàn)。平臺(tái)對(duì)審核工作的不同環(huán)節(jié)有著差異化的價(jià)值權(quán)衡，根據(jù)具體工作性質(zhì)及其與平臺(tái)經(jīng)營之間的關(guān)系選擇工作策略，進(jìn)而形成了現(xiàn)有的內(nèi)容審核工作局面。沿著這一思路，對(duì)審核工作問題原因進(jìn)行剖析，能夠進(jìn)一步明確當(dāng)前審核工作的癥結(jié)所在，從而為標(biāo)準(zhǔn)體系的制定提供更為準(zhǔn)確的思路。

（一）安全與發(fā)展的價(jià)值取向探討

習(xí)近平總書記強(qiáng)調(diào)：“安全和發(fā)展是一體之兩翼，驅(qū)動(dòng)之雙輪?！盵12]統(tǒng)籌安全和發(fā)展兩件大事，實(shí)現(xiàn)更高水平的安全和更高質(zhì)量的發(fā)展是社會(huì)主義事業(yè)的必然發(fā)展方向。網(wǎng)絡(luò)內(nèi)容審核工作中同樣需要平衡好安全與發(fā)展之間的關(guān)系，既塑造有利于網(wǎng)絡(luò)內(nèi)容的安全環(huán)境，又用扎實(shí)發(fā)展成果夯實(shí)我國網(wǎng)絡(luò)內(nèi)容空間建設(shè)，實(shí)現(xiàn)動(dòng)態(tài)平衡。

內(nèi)容管理制度的深入推進(jìn)需要秉承“安全與發(fā)展辯證統(tǒng)一”的價(jià)值觀。在這一過程中，既需要信息安全管理范式的創(chuàng)新和轉(zhuǎn)型，由傳統(tǒng)的經(jīng)驗(yàn)研判轉(zhuǎn)向數(shù)據(jù)研判，由被動(dòng)應(yīng)對(duì)轉(zhuǎn)向主動(dòng)預(yù)防，培養(yǎng)公眾的數(shù)據(jù)素養(yǎng)和防范意識(shí)，[13]也需要加強(qiáng)對(duì)各個(gè)主體約束性的轉(zhuǎn)變，由強(qiáng)制性約束轉(zhuǎn)為正確引導(dǎo)，由依靠組織化控制轉(zhuǎn)為依靠個(gè)體自治，由封閉式治理轉(zhuǎn)為互動(dòng)治理。[14]

目前，我國內(nèi)容治理正處于由安全向發(fā)展轉(zhuǎn)化的過程之中，在此階段更需要明確內(nèi)容審核工作的發(fā)展方向，對(duì)內(nèi)容審核工作提出更高的發(fā)展要求，同時(shí)提供更為有力的制度支持。無論是“安全第一”還是“重視發(fā)展”，都是基于國家網(wǎng)絡(luò)內(nèi)容治理能力和網(wǎng)絡(luò)內(nèi)容階段性特征進(jìn)行的策略選擇。由安全向發(fā)展的轉(zhuǎn)化也是二者相互作用，達(dá)成平衡的動(dòng)態(tài)過程。需要注意的是，制度重心由安全向發(fā)展的演變并不是對(duì)安全的摒棄，而是在安全制度體系基本健全、網(wǎng)絡(luò)信息安全得到全面保障基礎(chǔ)上的深化改革，以制度創(chuàng)新為引領(lǐng)，為網(wǎng)絡(luò)內(nèi)容審核工作注入發(fā)展動(dòng)力。

（二）隱性要素與平臺(tái)的效率考量

隱性要素是指平臺(tái)在內(nèi)容審核工作中的流程、制度、組織方式、素養(yǎng)培育等后臺(tái)管理環(huán)節(jié)，這些工作關(guān)乎平臺(tái)的審核工作質(zhì)量以及內(nèi)容建設(shè)的可持續(xù)發(fā)展，但在短期內(nèi)對(duì)平臺(tái)的內(nèi)容質(zhì)量影響較為間接，因此常常被平臺(tái)視為安全保障范疇。實(shí)際工作中，平臺(tái)傾向于保證隱性要素的完成性，而對(duì)于此類工作的完整性與質(zhì)量情況未予以充分的重視。這一現(xiàn)象是平臺(tái)出于效率考量的結(jié)果，同時(shí)也是安全與發(fā)展價(jià)值特征在審核工作中的具體體現(xiàn)。

在內(nèi)容審核工作中，安全與發(fā)展在投入與回報(bào)的時(shí)效性上存在差異。平臺(tái)內(nèi)容“底線”的嚴(yán)守是平臺(tái)運(yùn)營正常開展的基本條件，在這一問題上，平臺(tái)對(duì)于安全方面的投入見效較快，能夠避免重大內(nèi)容問題的發(fā)生，確保平臺(tái)在當(dāng)前政策框架下平穩(wěn)運(yùn)行。因此，平臺(tái)在機(jī)器審核數(shù)據(jù)庫建設(shè)、重要內(nèi)容專班小組審核、海外輿情風(fēng)險(xiǎn)監(jiān)測(cè)等安全范疇投入了較大精力。相比之下，審核公開機(jī)制的完善、用戶素養(yǎng)培育機(jī)制等工作投入見效比較遲緩，且投入與收益之間的關(guān)聯(lián)性具有較大未知性與復(fù)雜性?；谝陨峡紤]，平臺(tái)采取了著力保障“底線”工作的內(nèi)容管理策略，而對(duì)于流程、制度、組織方式、素養(yǎng)培育等隱性管理工作，平臺(tái)更加期望效率的提高，即在短時(shí)間內(nèi)解決問題，達(dá)到投入最小化。

平臺(tái)在隱性要素方面向安全價(jià)值取向傾斜，導(dǎo)致了內(nèi)容審核流程、機(jī)制以及前置工作的不健全。針對(duì)這一問題，審核標(biāo)準(zhǔn)體系建設(shè)應(yīng)該考慮向發(fā)展取向的引導(dǎo)轉(zhuǎn)型。審核標(biāo)準(zhǔn)體系需要給予平臺(tái)經(jīng)營充分的理解與支持，同時(shí)幫助平臺(tái)明確發(fā)展范疇工作的長遠(yuǎn)意義和潛在價(jià)值，通過出臺(tái)相關(guān)激勵(lì)政策、工作細(xì)則、工作規(guī)范等，督促平臺(tái)加緊全流程審核工作質(zhì)量的提升。

（三）顯性要素與平臺(tái)的利益追逐

顯性要素是指平臺(tái)所能呈現(xiàn)的內(nèi)容及功能形式，以及能夠直接促進(jìn)平臺(tái)內(nèi)容繁榮的相關(guān)技術(shù)手段。這些要素直接作用于平臺(tái)內(nèi)容形式、視覺呈現(xiàn)效果、功能多樣性等，與用戶黏度、流量吸引力等商業(yè)指標(biāo)息息相關(guān)?！皟?nèi)容先行”是當(dāng)前網(wǎng)絡(luò)平臺(tái)發(fā)展的基礎(chǔ)邏輯，用戶是平臺(tái)利益的根基[15]，因此，這一邏輯不僅要求平臺(tái)信息的豐富性，同時(shí)追求更具個(gè)性和針對(duì)性的定制服務(wù)，以滿足平臺(tái)用戶的多樣化需求。對(duì)顯性要素的傾向性體現(xiàn)了平臺(tái)對(duì)發(fā)展的價(jià)值取向的傾斜，是平臺(tái)利益追逐在實(shí)際工作中的表現(xiàn)。

安全與發(fā)展對(duì)平臺(tái)經(jīng)營的作用不同，對(duì)安全問題的投入雖然能夠快速解決矛盾和規(guī)避風(fēng)險(xiǎn)，但其作用僅限于維持平臺(tái)運(yùn)行。相比之下，對(duì)發(fā)展問題的投入能夠創(chuàng)造更大的商業(yè)價(jià)值。具體而言，平臺(tái)內(nèi)容技術(shù)的迅速演進(jìn)就是發(fā)展價(jià)值取向的充分體現(xiàn)。對(duì)于平臺(tái)內(nèi)容這一顯性要素來說，發(fā)展問題的投入效果是立竿見影的，直接影響著用戶體驗(yàn)與平臺(tái)熱度。因此，平臺(tái)更樂于在內(nèi)容生產(chǎn)和發(fā)展方面投入更多資源，特別是智能算法等技術(shù)要素，直接作用于用戶吸引力和用戶黏度的提升，進(jìn)而獲得更大的商業(yè)效益。這也解釋了內(nèi)容審核技術(shù)發(fā)展始終相對(duì)遲緩的原因，平臺(tái)在技術(shù)開發(fā)過程中的商業(yè)邏輯造就了當(dāng)前技術(shù)發(fā)展不均衡的局面，使得內(nèi)容審核技術(shù)僅僅能夠滿足基本審核工作的需要，而在復(fù)雜內(nèi)容識(shí)別、圖片視頻審核工作中仍處于弱智能階段。

顯隱要素價(jià)值取向的差異表明，平臺(tái)在內(nèi)容建設(shè)工作中的策略選擇并非單純對(duì)安全或發(fā)展中某一方的青睞，而是基于自身經(jīng)營需求與實(shí)際工作性質(zhì)進(jìn)行的價(jià)值選擇。因此，內(nèi)容審核標(biāo)準(zhǔn)體系的建設(shè)也并非對(duì)某一價(jià)值取向的單方面強(qiáng)調(diào)，而是需要考慮更為細(xì)致化的審核工作語境，進(jìn)而對(duì)具體領(lǐng)域存在的問題提供具體化的規(guī)約和指導(dǎo)。

四、網(wǎng)絡(luò)內(nèi)容審核標(biāo)準(zhǔn)體系的發(fā)展建議

網(wǎng)絡(luò)內(nèi)容審核工作需要平衡好當(dāng)前工作中安全與發(fā)展的關(guān)系，明確責(zé)任主體、執(zhí)行方式、制度公開、素養(yǎng)培育、技術(shù)標(biāo)準(zhǔn)等各個(gè)環(huán)節(jié)，更為關(guān)鍵的是，需要建立一套能夠運(yùn)轉(zhuǎn)于政府、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)、網(wǎng)絡(luò)內(nèi)容消費(fèi)用戶三個(gè)主體之間的標(biāo)準(zhǔn)體系。網(wǎng)絡(luò)內(nèi)容審核的標(biāo)準(zhǔn)體系應(yīng)涵蓋網(wǎng)絡(luò)內(nèi)容的評(píng)價(jià)尺度、審核工作的執(zhí)行方式及流程、審核技術(shù)標(biāo)準(zhǔn)、內(nèi)容風(fēng)險(xiǎn)預(yù)防機(jī)制的建立標(biāo)準(zhǔn)等，從而為內(nèi)容審核工作提供系統(tǒng)化的指引，推進(jìn)內(nèi)容治理體系的不斷完善。審核標(biāo)準(zhǔn)體系的完善不僅是當(dāng)下互聯(lián)網(wǎng)內(nèi)容建設(shè)的現(xiàn)實(shí)需求，更是網(wǎng)絡(luò)強(qiáng)國建設(shè)社會(huì)治理現(xiàn)代化的必然要求。建立系統(tǒng)化、立體化、具體化的內(nèi)容審核標(biāo)準(zhǔn)體系，能夠提高內(nèi)容治理效能，平衡當(dāng)前存在的價(jià)值矛盾，推動(dòng)建立多主體協(xié)同治理格局，促進(jìn)公平健康的網(wǎng)絡(luò)空間與生態(tài)的形成，為社會(huì)治理的現(xiàn)代化提供支持與保障。

（一）建立系統(tǒng)的全流程標(biāo)準(zhǔn)

內(nèi)容審核標(biāo)準(zhǔn)體系需要健全內(nèi)容審核工作的各項(xiàng)機(jī)制和流程，推進(jìn)審核工作的完整性、合理性，推進(jìn)前置預(yù)防工作的完善。

第一，需要對(duì)平臺(tái)責(zé)任進(jìn)行更為具體細(xì)致的規(guī)約。一方面，內(nèi)容審核標(biāo)準(zhǔn)需要從更為細(xì)化的角度對(duì)平臺(tái)需要承擔(dān)的工作內(nèi)容進(jìn)行指導(dǎo)，推進(jìn)平臺(tái)內(nèi)容審核的有效執(zhí)行，減少因平臺(tái)主體缺位造成的內(nèi)容審核漏洞。另一方面，內(nèi)容審核標(biāo)準(zhǔn)應(yīng)為平臺(tái)提供重要的工作執(zhí)行參照，減少平臺(tái)審核工作的不確定性，降低審核工作難度，從而推進(jìn)平臺(tái)審核工作的全面落實(shí)。

第二，需要推進(jìn)審核工作公開制度和意見反饋機(jī)制的完善，提高內(nèi)容審核工作的透明度，密切用戶與平臺(tái)之間的溝通。制度公開機(jī)制能夠更好地發(fā)揮社會(huì)監(jiān)督作用，形成規(guī)約和督促平臺(tái)內(nèi)容審核工作標(biāo)準(zhǔn)化、有序化的外部力量。意見反饋機(jī)制一方面能夠提高用戶對(duì)平臺(tái)內(nèi)容審核工作的參與度，收集多方有益建議，另一方面也能夠深化用戶與平臺(tái)的溝通與交流，減少審核工作不透明造成的矛盾與摩擦。同時(shí)，平臺(tái)不僅需要提升用戶參與的積極性與廣泛性，也要注重參與主體的關(guān)聯(lián)性[16]，加強(qiáng)與事件相關(guān)主體的對(duì)話與溝通，提高內(nèi)容管理工作的針對(duì)性。

第三，需要建立用戶素養(yǎng)培育機(jī)制和優(yōu)質(zhì)內(nèi)容激勵(lì)機(jī)制，促進(jìn)治理和引導(dǎo)工作的前置性，減少負(fù)面輿論事件的產(chǎn)生和擴(kuò)散。用戶素質(zhì)的提高有利于用戶內(nèi)容創(chuàng)作行為的規(guī)范化，提升平臺(tái)內(nèi)容質(zhì)量，同時(shí)也有助于提高用戶辨別和篩選信息的能力，削弱網(wǎng)絡(luò)謠言等不良內(nèi)容的影響力和傳播力。優(yōu)質(zhì)內(nèi)容激勵(lì)機(jī)制能夠通過平臺(tái)引流、內(nèi)容評(píng)選等多種手段提高用戶內(nèi)容創(chuàng)作的積極性，引導(dǎo)優(yōu)質(zhì)內(nèi)容的生產(chǎn)和傳播。此外，優(yōu)質(zhì)內(nèi)容激勵(lì)機(jī)制的實(shí)行還需要更為有力的互聯(lián)網(wǎng)版權(quán)保護(hù)政策，保障原創(chuàng)內(nèi)容的版權(quán)歸屬，切實(shí)維護(hù)創(chuàng)作者權(quán)益。

（二）推出具體的可操作標(biāo)準(zhǔn)

內(nèi)容審核標(biāo)準(zhǔn)體系不僅需要進(jìn)行價(jià)值方向的有力引導(dǎo)，也需要為實(shí)際工作提供具體的實(shí)踐指導(dǎo)。制定完善和細(xì)化的內(nèi)容審核標(biāo)準(zhǔn)，能夠提高內(nèi)容審核工作效率，提升內(nèi)容審核工作質(zhì)量。面對(duì)體量龐大、內(nèi)容多元的網(wǎng)絡(luò)信息，內(nèi)容細(xì)致且具備較強(qiáng)指導(dǎo)價(jià)值的審核標(biāo)準(zhǔn)能夠?yàn)閷徍斯ぷ鞯膱?zhí)行者提供多語境適用的行動(dòng)參考，減少不確定性造成的審核工作障礙。另外，審核標(biāo)準(zhǔn)制定工作相關(guān)的案例研究和分析也有助于制定包括網(wǎng)絡(luò)輿情事件在內(nèi)的各類行動(dòng)預(yù)案，推進(jìn)內(nèi)容治理主體對(duì)網(wǎng)絡(luò)內(nèi)容規(guī)律的把握和認(rèn)識(shí)，提高相關(guān)工作的執(zhí)行效率。

從制度設(shè)計(jì)方面看，內(nèi)容審核需要建立具體化的價(jià)值評(píng)價(jià)體系。具體化的操作標(biāo)準(zhǔn)能夠幫助平臺(tái)進(jìn)行準(zhǔn)確的尺度把握，不僅為平臺(tái)明確指出內(nèi)容審核的“底線”“紅線”，并且能為模糊性、爭(zhēng)議性內(nèi)容的處理提供細(xì)致的判別標(biāo)準(zhǔn)，為健康、優(yōu)質(zhì)內(nèi)容提供價(jià)值引導(dǎo)的方向和方法。與此同時(shí)，平臺(tái)能夠基于系統(tǒng)化的審核標(biāo)準(zhǔn)和治理理論制訂各類行動(dòng)預(yù)案，為審核工作提供實(shí)踐指導(dǎo)和參考，縮短突發(fā)事件的處理周期，提高平臺(tái)的風(fēng)險(xiǎn)感知能力和應(yīng)對(duì)能力。細(xì)致且可操作的內(nèi)容審核標(biāo)準(zhǔn)能夠減少內(nèi)容審核對(duì)人工成本的需求，推動(dòng)審核工作從主要依靠經(jīng)驗(yàn)判斷向主要依靠規(guī)則尺度轉(zhuǎn)變，推進(jìn)審核工作的標(biāo)準(zhǔn)化和規(guī)范化。

從實(shí)施效果方面看，內(nèi)容審核標(biāo)準(zhǔn)的細(xì)化能夠推進(jìn)平臺(tái)治理手段和治理尺度的標(biāo)準(zhǔn)化，進(jìn)而減少相應(yīng)的次生輿論問題，減輕平臺(tái)內(nèi)容審核工作的負(fù)擔(dān)。審核標(biāo)準(zhǔn)制定需要考慮網(wǎng)絡(luò)內(nèi)容治理的總體目標(biāo)，也需要兼顧當(dāng)前階段網(wǎng)絡(luò)內(nèi)容特征以及用戶需求，建立適應(yīng)目前網(wǎng)絡(luò)內(nèi)容發(fā)展規(guī)律的內(nèi)容審核體系。這一做法有助于平臺(tái)內(nèi)容審核工作的合理決策和準(zhǔn)確執(zhí)行，避免管理范圍與用戶認(rèn)知之間的差異造成的誤解和質(zhì)疑，從而減少內(nèi)容管理引發(fā)的用戶情緒化問題，消除平臺(tái)審核工作的相關(guān)顧慮，提升平臺(tái)對(duì)內(nèi)容審核工作的積極性和執(zhí)行力。

（三）構(gòu)建立體的多維度標(biāo)準(zhǔn)

內(nèi)容審核標(biāo)準(zhǔn)體系需要從技術(shù)和內(nèi)容兩個(gè)方面構(gòu)建更為立體化的評(píng)判標(biāo)準(zhǔn)。當(dāng)前我國內(nèi)容治理政策以基礎(chǔ)法律為核心政策，呈現(xiàn)“虹吸效應(yīng)”[17]，與各類規(guī)定細(xì)則相輔相成，共同作用于內(nèi)容治理工作。從技術(shù)角度看，不僅要鞏固基礎(chǔ)內(nèi)容審核技術(shù)的發(fā)展，更要推進(jìn)審核手段的全面智能化，不僅要完善針對(duì)負(fù)面內(nèi)容管理的技術(shù)標(biāo)準(zhǔn)，更要建立優(yōu)質(zhì)內(nèi)容推薦和生產(chǎn)的相關(guān)技術(shù)規(guī)范。從內(nèi)容角度來看，審核標(biāo)準(zhǔn)需要建立多層次的價(jià)值評(píng)價(jià)體系，既要進(jìn)行全方位的頂層設(shè)計(jì)，又要建立適應(yīng)具體情境的可操作標(biāo)準(zhǔn)；既要對(duì)負(fù)面內(nèi)容和模糊性內(nèi)容進(jìn)行詳細(xì)規(guī)約，又要對(duì)優(yōu)質(zhì)內(nèi)容評(píng)判標(biāo)準(zhǔn)進(jìn)行更為深入的指引。

組織機(jī)構(gòu)的數(shù)字治理能力是其進(jìn)行策略設(shè)計(jì)、提供技術(shù)保障以及完善隊(duì)伍建設(shè)的基礎(chǔ)[18]，全面多元的內(nèi)容審核技術(shù)標(biāo)準(zhǔn)能夠?yàn)槠脚_(tái)審核技術(shù)提供明確方向，促進(jìn)平臺(tái)審核技術(shù)的全面均衡發(fā)展，提升平臺(tái)的綜合數(shù)字治理能力。具體來看，目前的機(jī)器審核工作仍然存在誤判和漏判現(xiàn)象，可能造成商業(yè)損失、影響新聞價(jià)值、降低用戶信任度[19]，多元技術(shù)標(biāo)準(zhǔn)體系能夠?qū)C(jī)器審核技術(shù)提出更為精準(zhǔn)的識(shí)別要求，強(qiáng)化復(fù)雜內(nèi)容辨別技術(shù)的研發(fā)和優(yōu)化，推動(dòng)優(yōu)質(zhì)內(nèi)容推薦機(jī)制的智能化和精準(zhǔn)化，建立與網(wǎng)絡(luò)內(nèi)容結(jié)構(gòu)與形式相匹配的機(jī)器審核技術(shù)體系，促進(jìn)文字、圖片、視頻識(shí)別技術(shù)的全面發(fā)展。技術(shù)激勵(lì)機(jī)制能夠在一定程度上平衡內(nèi)容技術(shù)與審核技術(shù)之間的發(fā)展差距，鼓勵(lì)平臺(tái)深入拓展內(nèi)容審核技術(shù)發(fā)展的深度與廣度，突破當(dāng)前機(jī)器審核的技術(shù)瓶頸，實(shí)現(xiàn)審核工作的智能化發(fā)展。

多維度內(nèi)容標(biāo)準(zhǔn)的建立對(duì)于平臺(tái)的良性運(yùn)轉(zhuǎn)與內(nèi)容建設(shè)具有重要的調(diào)節(jié)和推動(dòng)作用。平臺(tái)是智能化時(shí)代互聯(lián)網(wǎng)內(nèi)容生態(tài)建設(shè)的關(guān)鍵，不斷造就著內(nèi)容生產(chǎn)、分發(fā)、消費(fèi)的一體化局面，良好生態(tài)的形成需要多方利益的平衡與能量的相互供給。[20]內(nèi)容標(biāo)準(zhǔn)體系需要兼顧用戶內(nèi)容創(chuàng)作的引導(dǎo)與發(fā)展、平臺(tái)管理方式的多樣化與標(biāo)準(zhǔn)化、平臺(tái)審核制度與流程的合理性等多個(gè)方面，鼓舞和激勵(lì)網(wǎng)絡(luò)內(nèi)容創(chuàng)作，增強(qiáng)網(wǎng)絡(luò)內(nèi)容的多樣性與創(chuàng)新性，指引網(wǎng)絡(luò)內(nèi)容的發(fā)展方向，推動(dòng)網(wǎng)絡(luò)內(nèi)容建設(shè)融入社會(huì)文化發(fā)展，營造生態(tài)良好的網(wǎng)絡(luò)空間。

[本文為國家社會(huì)科學(xué)基金重大項(xiàng)目“中國特色網(wǎng)絡(luò)內(nèi)容治理體系及監(jiān)管模式研究”（18ZDA317）的階段性成果之一]

參考文獻(xiàn)：

[1]何明升.網(wǎng)絡(luò)內(nèi)容治理：基于負(fù)面清單的信息質(zhì)量監(jiān)管[J].新視野，2018（4）：108-114.

[2]張杰，毛藝融.平臺(tái)型媒體內(nèi)容審核：動(dòng)因、現(xiàn)狀與突破[J].出版科學(xué)，2021，29（6）：76-83.

[3]習(xí)近平.在網(wǎng)絡(luò)安全和信息化工作座談會(huì)上的講話[EB/OL].http：//www.gov.cn/xinwen/2016-04/25/content_5067705.htm，2016-04-25/2022-07-17.

[4]田麗.互聯(lián)網(wǎng)內(nèi)容治理新趨勢(shì)[J].新聞愛好者，2018（7）：9-11.

[5]2021年全國網(wǎng)絡(luò)執(zhí)法取得顯著成效[EB/OL].http：//www.cac.gov.cn/2022-01/27/c_1644887128880847.htm，2022-01-27/2022-07-17.

[6]王建新.綜合治理：網(wǎng)絡(luò)內(nèi)容治理體系的現(xiàn)代化[J].電子政務(wù)，2021（9）：13-22.

[7]任慧，曹珊，李巍霞.媒介內(nèi)容產(chǎn)業(yè)生產(chǎn)趨勢(shì)、困境與治理機(jī)制研究：基于新媒體傳播生態(tài)的思考[J].現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報(bào)），2014（12）：57-60.

[8]周毅.總體國家安全觀視域的網(wǎng)絡(luò)信息內(nèi)容治理：進(jìn)展、內(nèi)涵與研究邏輯[J].情報(bào)理論與實(shí)踐，2020（8）：44-50.

[9]謝新洲，宋琢.用戶視角下的平臺(tái)責(zé)任與政府控制：一個(gè)有調(diào)節(jié)的中介模型[J].新聞與寫作，2021（12）：13-23.

[10]申玲玲，向爽.價(jià)值共創(chuàng)視角下自媒體平臺(tái)內(nèi)容創(chuàng)作者扶持政策研究[J].出版科學(xué)，2021（5）：80-91.

[11]謝新洲，朱垚穎.網(wǎng)絡(luò)內(nèi)容治理發(fā)展態(tài)勢(shì)與應(yīng)對(duì)策略研究[J].新聞與寫作，2020（4）：76-82.

[12]統(tǒng)籌好發(fā)展和安全兩件大事[EB/OL].http：//www.qstheory.cn/qshyjx/2021-04/15/c_1127333059.htm，2022-03/2022-04-15.

[13]王世偉.論大數(shù)據(jù)時(shí)代信息安全的新特點(diǎn)與新要求[J].圖書情報(bào)工作，2016（6）：5-14.

[14]張東.中國互聯(lián)網(wǎng)信息治理模式研究[D].北京：中國人民大學(xué)，2010.

[15]謝新洲，宋琢.用戶視角下的平臺(tái)責(zé)任與政府控制：一個(gè)有調(diào)節(jié)的中介模型[J].新聞與寫作，2021（12）：13-23.

[16]謝新洲，杜燕.政治與經(jīng)濟(jì)：網(wǎng)絡(luò)內(nèi)容治理的價(jià)值矛盾[J].新聞與寫作，2020（9）：69-77.

[17]鄧衛(wèi)華，左靜.“十八大”以來互聯(lián)網(wǎng)內(nèi)容治理政策變遷：基于政策文獻(xiàn)計(jì)量的研究[J].信息資源管理學(xué)報(bào)，2021（3）：88-98.

[18]張杰，毛藝融.平臺(tái)型媒體內(nèi)容審核：動(dòng)因、現(xiàn)狀與突破[J].出版科學(xué)，2021，29（6）：76-83.

[19]祝智庭，陳丹.數(shù)字治理：智慧學(xué)習(xí)新素養(yǎng)[J].電化教育研究，2014（9）：9-17.

[20]彭蘭.智能時(shí)代的新內(nèi)容革命[J].國際新聞界，2018（6）：88-109.

[朱垚穎為清華大學(xué)人文學(xué)院寫作與溝通教學(xué)中心講師；謝新洲（通訊作者）為北京大學(xué)新媒體研究院院長、教授、博士生導(dǎo)師；張靜怡為北京大學(xué)新媒體研究院博士生]

編校：張紅玲