張杰 毛藝融

[摘 要] 探討當(dāng)下平臺(tái)型媒體內(nèi)容審核的邏輯動(dòng)因、路徑與發(fā)展現(xiàn)狀，反思其存在的困境以及未來突破該種困境的策略。指出當(dāng)前問題及挑戰(zhàn)主要體現(xiàn)在內(nèi)容量過大，算法和人工審核均存在歧視問題，且平臺(tái)內(nèi)容審核規(guī)則的透明度邏輯被遮蔽。未來內(nèi)容審核機(jī)制會(huì)更加完善，內(nèi)容生態(tài)中會(huì)催生新的社會(huì)分工;第三方內(nèi)容審核機(jī)構(gòu)涌現(xiàn);更多審核工作將會(huì)被機(jī)器審核所取代;內(nèi)容行業(yè)審核規(guī)則會(huì)逐步建立起來，并將多種社會(huì)力量納入審核體系當(dāng)中。

[關(guān)鍵詞] 內(nèi)容審核 平臺(tái)型媒體 場(chǎng)域理論 數(shù)字出版 新媒體

[中圖分類號(hào)] G237[文獻(xiàn)標(biāo)識(shí)碼] A[文章編號(hào)] 1009-5853 （2021） 06-0076-08

[Abstract] Discusses the logical motivation， paths and development status of the content audit of the current platform media in China， and reflects on its existing dilemma and how to solve this dilemma in the future. The current problems and challenges facing by content audit are reflected in the excessive content， the discrimination in algorithm and manual audit. The transparency logic of platform content audit rules is masked. In the future， the content audit mechanism will be more perfect， and a new social division of labor will be created in the content ecology. The content risk controller will become a new profession， and the third-party content auditing institutions will emerge. Part of the human audit tasks will be replaced by machine audit， and the content industry rules will be gradually established. A variety of social forces will also enter into the audit system.

[Key words] Content auditing Platform media Field theory Digital publishing New media

1 緒 論

平臺(tái)型媒體是指既擁有媒體的專業(yè)編輯權(quán)威性，又擁有面向用戶平臺(tái)所特有開放性的數(shù)字內(nèi)容實(shí)體[1]。國(guó)內(nèi)的平臺(tái)型媒體如微博、微信、今日頭條，既有著平臺(tái)的開放屬性，也有媒體的把關(guān)屬性。近年來，隨著互聯(lián)網(wǎng)行業(yè)內(nèi)容安全問題越來越凸顯，不少平臺(tái)型媒體紛紛在內(nèi)容審核方面投入大量人力財(cái)力，但由于外部監(jiān)管、商業(yè)競(jìng)爭(zhēng)、內(nèi)容生態(tài)等因素，內(nèi)容審核仍然面臨巨大挑戰(zhàn)。為了審查不良內(nèi)容，國(guó)內(nèi)外平臺(tái)型媒體都設(shè)立了內(nèi)容審核員，英文叫“content moderator”。在此背景下，研究平臺(tái)型媒體內(nèi)容審核路徑、發(fā)展現(xiàn)狀、面臨的困境與突破策略，是十分必要的。本文以布迪厄的場(chǎng)域理論為分析工具，研究以下問題：內(nèi)容審核的慣習(xí)由何演變而來？個(gè)體與組織行動(dòng)者如何適應(yīng)與突破場(chǎng)域內(nèi)的慣習(xí)？其保守性與革新性體現(xiàn)在何處？在場(chǎng)域理論視角下，內(nèi)容審核已有的路徑、發(fā)展現(xiàn)狀、正面臨的困境與突破的策略是什么？

為更深入地了解和解決這些問題，本文采用深度訪談方法，在2019年11月—2020年5月期間采用滾雪球抽樣方式，對(duì)12名在平臺(tái)型媒體工作的內(nèi)容審核與標(biāo)準(zhǔn)化人員進(jìn)行半結(jié)構(gòu)化訪談。其中，與5人進(jìn)行了面對(duì)面訪談，與7人進(jìn)行了微信語(yǔ)音訪談，平均訪談時(shí)間在40分鐘左右。本文對(duì)受訪對(duì)象進(jìn)行匿名化處理，并以從業(yè)年限、審核類型、工作城市進(jìn)行區(qū)分。

2 內(nèi)容審核的邏輯動(dòng)因、路徑與現(xiàn)狀

如今，我國(guó)傳媒業(yè)呈現(xiàn)為混合所有制的新體制，既有純國(guó)營(yíng)體制、純民營(yíng)體制，還有民營(yíng)和國(guó)營(yíng)相結(jié)合的媒體以及純個(gè)體經(jīng)營(yíng)的自媒體，這些媒體進(jìn)入媒介場(chǎng)域中的身份、位置、資本、慣習(xí)會(huì)具有異質(zhì)性。皮埃爾·布迪厄（Pierre Bourdieu）所謂“場(chǎng)域”是一個(gè)動(dòng)態(tài)的斗爭(zhēng)空間，不同位置的行動(dòng)者擁有不同種類和數(shù)量的資本，運(yùn)用包括慣習(xí)在內(nèi)的各種策略進(jìn)行權(quán)力斗爭(zhēng)，來維持場(chǎng)域內(nèi)的力量構(gòu)型[2]。與傳統(tǒng)媒體不同，迄今我國(guó)平臺(tái)型媒體背后的行動(dòng)邏輯更多的是基于對(duì)經(jīng)濟(jì)資本的追尋，因此探究其內(nèi)容審核的邏輯動(dòng)因、路徑必須從場(chǎng)域內(nèi)部與外部綜合考慮。從場(chǎng)域外部來看，國(guó)家法律法規(guī)對(duì)平臺(tái)內(nèi)容及其生態(tài)有相關(guān)要求，迫使平臺(tái)型媒體需要有類似傳統(tǒng)媒體的把關(guān)功能。從場(chǎng)域內(nèi)部來看，內(nèi)容審核是平臺(tái)型媒體算法迭代升級(jí)的必經(jīng)之路，大量的審核樣本能夠幫助算法糾偏，提高商業(yè)競(jìng)爭(zhēng)能力。

2.1 從傳統(tǒng)媒體編輯到平臺(tái)型媒體內(nèi)容審核

傳統(tǒng)媒體有編輯把關(guān)的傳統(tǒng)，主要是對(duì)報(bào)紙、電視等內(nèi)容進(jìn)行稿件審核、制作加工。書報(bào)刊媒體一直遵循三審三校制度，即產(chǎn)品至少經(jīng)過三層審核、三次校對(duì)才能簽發(fā)[3]。而平臺(tái)型媒體起初多以“新聞搬運(yùn)工”“信息聚合者”等身份出現(xiàn)，內(nèi)容生態(tài)則處于野蠻生長(zhǎng)階段。從2017年起，各平臺(tái)型媒體的內(nèi)容生態(tài)暴露出很多問題。不少內(nèi)容創(chuàng)作者發(fā)布和傳播的內(nèi)容涉及違反國(guó)家法律法規(guī)、破壞社會(huì)公序良俗，并危害到平臺(tái)生態(tài)健康以及廣大用戶的利益。如此，社會(huì)場(chǎng)域倒逼平臺(tái)型媒體進(jìn)行自我審查，逐步進(jìn)行內(nèi)容生態(tài)治理。政治場(chǎng)域里，相關(guān)部門如國(guó)家網(wǎng)信辦等作為監(jiān)管者約談了部分平臺(tái)型媒體;同時(shí)頒布《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)條例，督促平臺(tái)型媒體進(jìn)行內(nèi)容規(guī)范和治理。于是，國(guó)內(nèi)平臺(tái)型媒體開始大量招募內(nèi)容審核員，主動(dòng)探索內(nèi)容審核機(jī)制。

平臺(tái)型媒體通過算法分發(fā)內(nèi)容時(shí)，難免會(huì)出現(xiàn)偏差。為了減少優(yōu)質(zhì)內(nèi)容流量低的狀況，平臺(tái)型媒體會(huì)加大運(yùn)營(yíng)審核力度，在平臺(tái)內(nèi)部素材庫(kù)中篩選尋找優(yōu)質(zhì)內(nèi)容注入精品池，提升其成為爆款或者熱門內(nèi)容的可能性。與此同時(shí)，根據(jù)平臺(tái)媒體內(nèi)部的產(chǎn)品運(yùn)營(yíng)和算法策略，如果該內(nèi)容流量在一定時(shí)間內(nèi)不達(dá)標(biāo)則會(huì)停止推薦;或者成為爆款后繼續(xù)評(píng)估該內(nèi)容，判斷其是否符合平臺(tái)調(diào)性，是否需要助推更多流量[4]。因此，平臺(tái)型媒體雖然表面看來繼承沿襲了某些傳統(tǒng)媒體的編輯把關(guān)機(jī)制，但在技術(shù)邏輯和審核手段上呈現(xiàn)完全不同的編輯把關(guān)特性。如平臺(tái)內(nèi)容審核員是針對(duì)平臺(tái)媒體海量?jī)?nèi)容的質(zhì)量底線進(jìn)行審查;而傳統(tǒng)編輯則是針對(duì)大量?jī)?nèi)容，根據(jù)有限展示位置進(jìn)行過濾和篩選，篩選后的內(nèi)容質(zhì)量相對(duì)較高。

在深訪過程中，A3 說：“你經(jīng)過一段時(shí)間的培訓(xùn)就可以上崗，一般1—2周，最快2—3天就可以直接上崗了，可以選擇自己熟悉的垂類隊(duì)列展開審核，但這和真正的編輯差遠(yuǎn)了，沒有什么成就感?！?可以發(fā)現(xiàn)，互聯(lián)網(wǎng)內(nèi)容審核員的職業(yè)進(jìn)入門檻相對(duì)較低，難以產(chǎn)生傳統(tǒng)媒體編輯那樣的職業(yè)責(zé)任感和專業(yè)理想。而且，傳統(tǒng)媒體的慣習(xí)根深蒂固，如編委會(huì)投票機(jī)制需要通過多位編輯進(jìn)行選題投票、內(nèi)容改版制作、修改加工等流程;編輯面對(duì)的是媒體內(nèi)部專業(yè)化生產(chǎn)的內(nèi)容。而平臺(tái)型媒體的組織慣習(xí)中沒有可繼承、沿用的把關(guān)機(jī)制，當(dāng)審核員遇到無法判定的情況，一般需要和同級(jí)審核員協(xié)商或者找上級(jí)來判定。此外，他們面對(duì)的是平臺(tái)所有用戶生產(chǎn)的信息，內(nèi)容的范圍更廣、體量更大。

2.2 機(jī)器與人工并存的審核機(jī)制

在審核策略方面，國(guó)內(nèi)平臺(tái)型媒體大多采用人、機(jī)并用的方式，即：利用人工智能（Artificial Intelligence，AI）技術(shù)進(jìn)行第一輪機(jī)器審核，確?？焖俚贸鼋Y(jié)果;當(dāng)內(nèi)容涉及“灰色區(qū)域”時(shí)，則人工介入進(jìn)行第二輪審核。從內(nèi)容形式來看，平臺(tái)型媒體審核類型包括文本審核、圖片審核、語(yǔ)音審核、視頻審核等;從審核對(duì)象來看，主要包括平臺(tái)上用戶昵稱、用戶頭像、用戶評(píng)論、用戶發(fā)布的文字、圖片、音視頻動(dòng)態(tài)等;從審核目標(biāo)來看，重點(diǎn)包括不良內(nèi)容、內(nèi)容原創(chuàng)性、有無水印等。一般而言，針對(duì)不同業(yè)務(wù)線，平臺(tái)媒體會(huì)采用不同策略，也就是決定“先審后發(fā)”還是“先發(fā)后審”。比如知乎發(fā)布用戶問答時(shí)，采取“先審后發(fā)”策略，頁(yè)面會(huì)顯示“內(nèi)容審核中，內(nèi)容將在審核通過后自動(dòng)發(fā)布”的字樣。而微博用戶在發(fā)布動(dòng)態(tài)時(shí)，往往遵循“先發(fā)后審”策略，用戶可以搜索或看到即時(shí)發(fā)布的內(nèi)容，但平臺(tái)方會(huì)在較短時(shí)間內(nèi)完成審核。如果發(fā)布的內(nèi)容違規(guī)，則該條內(nèi)容會(huì)被設(shè)置為“用戶自見”或者被刪除處理。

“平臺(tái)型媒體會(huì)給每條審核業(yè)務(wù)線設(shè)置一個(gè)閾值，當(dāng)機(jī)器審核沒有達(dá)到直接審核的閾值，就會(huì)流轉(zhuǎn)到人工審核。審核員會(huì)在系統(tǒng)中接到審核任務(wù)，選擇相關(guān)隊(duì)列進(jìn)行審核。平臺(tái)型媒體會(huì)為內(nèi)容審核業(yè)務(wù)建立中臺(tái)，供內(nèi)容審核人員使用。該中臺(tái)會(huì)依據(jù)平臺(tái)方的內(nèi)容審核規(guī)則，設(shè)置審核的步驟操作，讓審核員能夠更機(jī)械、統(tǒng)一地作出判斷。”（A7）

機(jī)器審核能夠大規(guī)模處理內(nèi)容審核，但文本、圖片、語(yǔ)音、視頻等內(nèi)容對(duì)審核的要求較高，機(jī)器識(shí)別仍存在一定比例的誤判，無法完全代替人工審核。在對(duì)音頻內(nèi)容進(jìn)行審核時(shí)，機(jī)器識(shí)別語(yǔ)音轉(zhuǎn)換成的文本，再匹配關(guān)鍵詞，將與模型相似度最高的垃圾內(nèi)容進(jìn)行剔除。這是當(dāng)前較為通用的方案。但是針對(duì)方言、有不同音軌的雜音等場(chǎng)景，機(jī)器無法妥善處理。另外，在對(duì)直播內(nèi)容、短視頻、長(zhǎng)視頻等內(nèi)容進(jìn)行審核時(shí)，機(jī)器往往會(huì)抽取關(guān)鍵幀對(duì)視頻內(nèi)容進(jìn)行審核，無法覆蓋到全部畫面，因此會(huì)出現(xiàn)暴力或者色情內(nèi)容的“閃現(xiàn)”。對(duì)于文本內(nèi)容的審核常常采用關(guān)鍵詞過濾技術(shù)，也會(huì)存在一定的誤報(bào)率和漏檢率。因此，機(jī)器并不能完全代替人。人工審核往往需要針對(duì)機(jī)器無法判斷的內(nèi)容進(jìn)行再審核，因此人工是機(jī)器審核后的最后防線。

綜合受訪者觀點(diǎn)，國(guó)內(nèi)平臺(tái)型媒體的人工審核往往要經(jīng)過兩三次人力審查。首先是對(duì)涉及敏感人物、涉黃涉暴涉政等違反底線的內(nèi)容進(jìn)行排查，嚴(yán)重違反規(guī)則的內(nèi)容被設(shè)置為自見或者刪除。符合內(nèi)容質(zhì)量要求的會(huì)進(jìn)入二次審核的內(nèi)容池，進(jìn)一步判斷其是否符合美食、旅游、科技、歷史、教育、時(shí)尚等垂類優(yōu)質(zhì)內(nèi)容的標(biāo)準(zhǔn)。審核重點(diǎn)包括內(nèi)容抄襲率、是否有錯(cuò)別字、標(biāo)點(diǎn)符號(hào)是否規(guī)范、圖片是否清晰等。在二次審核內(nèi)容池里，每條內(nèi)容會(huì)被至少兩個(gè)審核員判斷，二者判斷一致，則內(nèi)容沒有問題;二者判斷不一致，則會(huì)有抽檢監(jiān)督員來進(jìn)行最終判斷。也就是說，機(jī)器能夠在一定程度上自動(dòng)剔除大量違規(guī)內(nèi)容;而人工要做的是根據(jù)規(guī)則對(duì)其他內(nèi)容維度進(jìn)行標(biāo)簽化判斷，在一定程度上糾正算法偏差，為算法保駕護(hù)航。

2.3 內(nèi)容審核成為平臺(tái)型媒體的游戲規(guī)則

從平臺(tái)角度來看，內(nèi)容審核是對(duì)平臺(tái)內(nèi)容生態(tài)的規(guī)范化治理，也是對(duì)內(nèi)容消費(fèi)者的一種保護(hù)，可以幫助用戶規(guī)避虛假信息：

“如果用戶有尋醫(yī)問藥的需求，看到了平臺(tái)上相關(guān)的虛假?gòu)V告，又沒有甄別出來，其實(shí)是容易受到傷害的，我們審核也是幫助用戶規(guī)避掉一些不實(shí)內(nèi)容?！保ˋ9）

平臺(tái)型媒體鼓勵(lì)用戶生產(chǎn)內(nèi)容，其中不可避免地會(huì)存在暴力內(nèi)容、虛假?gòu)V告，同時(shí)部分用戶也不具備甄別虛假信息的能力。而平臺(tái)內(nèi)容審核人員往往經(jīng)過一定訓(xùn)練，一定程度上可以減少不良內(nèi)容，幫助用戶規(guī)避風(fēng)險(xiǎn)和不必要的損失。從長(zhǎng)遠(yuǎn)來看，內(nèi)容審核也有利于平臺(tái)型媒體的商業(yè)化發(fā)展。一方面，內(nèi)容審核類似于信息清洗，可以幫助平臺(tái)建立起健康的內(nèi)容生態(tài)。而健康生態(tài)能夠鼓勵(lì)用戶進(jìn)行優(yōu)質(zhì)內(nèi)容生產(chǎn)，形成比較好的內(nèi)容生產(chǎn)與消費(fèi)氛圍。另一方面，平臺(tái)的用戶群會(huì)吸引品牌商進(jìn)行廣告投放。平臺(tái)型媒體的內(nèi)容審核行為能夠管控與品牌相關(guān)的評(píng)論信息，幫助品牌構(gòu)建和維護(hù)形象，從而有助于提高廣告主的產(chǎn)品、品牌曝光率和投資回報(bào)率，實(shí)現(xiàn)商業(yè)上的價(jià)值閉環(huán)。如此，更多品牌將主動(dòng)加入這一陣營(yíng)，在平臺(tái)型媒體投放廣告。

3 內(nèi)容審核的運(yùn)行邏輯

在媒介場(chǎng)域中，平臺(tái)型媒體居于重要位置，從其內(nèi)容審核行動(dòng)來看，需要考慮多種因素。一是使用機(jī)器審核內(nèi)容需要有充實(shí)的內(nèi)容資源庫(kù)，也需要對(duì)算法進(jìn)行迭代，勢(shì)必是一個(gè)長(zhǎng)期過程。二是內(nèi)容審核的松緊度將影響內(nèi)容生態(tài)的調(diào)性。對(duì)所投內(nèi)容把控過緊，會(huì)降低內(nèi)容創(chuàng)作者的積極性，壓縮公共表達(dá)空間，進(jìn)而降低平臺(tái)生態(tài)活躍度。三是內(nèi)容審核希望達(dá)到什么樣的效果，即什么是可以被公眾看到的內(nèi)容？什么是所謂優(yōu)質(zhì)內(nèi)容？何種內(nèi)容適合該平臺(tái)的生態(tài)？因此，本部分根據(jù)場(chǎng)域理論的3個(gè)關(guān)鍵概念，即行動(dòng)者、資本、慣習(xí)來討論平臺(tái)型媒體內(nèi)容審核的運(yùn)行邏輯。

3.1 多元行動(dòng)者成為內(nèi)容審核主體

任何一個(gè)場(chǎng)域都是流動(dòng)、變化的。變化往往源于行動(dòng)者在場(chǎng)域內(nèi)的斗爭(zhēng)。他們需要適應(yīng)場(chǎng)域游戲規(guī)則，不斷超越場(chǎng)域內(nèi)其他行動(dòng)者，甚至與場(chǎng)域外部的環(huán)境展開斗爭(zhēng)。在媒介場(chǎng)域中，平臺(tái)型媒體、內(nèi)容生產(chǎn)者、監(jiān)管者等共同構(gòu)筑了行動(dòng)者主體。可以說，平臺(tái)型媒體的發(fā)展催逼不同行動(dòng)者入場(chǎng)，從生產(chǎn)到分發(fā)，逐步產(chǎn)生自查、外部審查等多級(jí)審核行為。

從內(nèi)部來看，平臺(tái)型媒體作為一個(gè)行動(dòng)者共同體，特點(diǎn)是將企業(yè)組織的價(jià)值觀傳遞給工作人員。表現(xiàn)在內(nèi)容審核工作上，相關(guān)的算法、產(chǎn)品、審核等崗位人員需要接受和掌握平臺(tái)的內(nèi)容審核規(guī)則。如內(nèi)容審核人員需要判斷內(nèi)容是否合規(guī)，內(nèi)容是否有邏輯錯(cuò)誤，內(nèi)容是否能夠吸引更多用戶等。這也要求內(nèi)容審核人員有一定的知識(shí)水平和專業(yè)素養(yǎng)。從外部來看，內(nèi)容生產(chǎn)隊(duì)伍逐漸從個(gè)人擴(kuò)大到企業(yè)、政府機(jī)構(gòu)等。平臺(tái)型媒體的信息內(nèi)容生產(chǎn)不再囿于純粹的內(nèi)部組織，用戶自主創(chuàng)作過程取代了傳統(tǒng)由編輯主導(dǎo)的生產(chǎn)流程。而圍繞不同的生產(chǎn)者和傳播者，將出現(xiàn)不同形態(tài)的內(nèi)容生產(chǎn)方式;內(nèi)容主體的資質(zhì)與平臺(tái)方的責(zé)任也難以界定。

內(nèi)容生產(chǎn)者成指數(shù)級(jí)增長(zhǎng)，平臺(tái)型媒體上實(shí)時(shí)更新的內(nèi)容也愈加海量，導(dǎo)致較短時(shí)間內(nèi)平臺(tái)方需審核處理大量?jī)?nèi)容，因而面臨巨大的監(jiān)管壓力。為了盡可能保證內(nèi)容分發(fā)的時(shí)效性，內(nèi)容審核成本就會(huì)大幅提高。機(jī)器審核盡管能夠大大緩解內(nèi)容審核人員的工作量，但很多內(nèi)容生產(chǎn)者還是會(huì)想盡辦法突破平臺(tái)規(guī)則。因此，平臺(tái)需要不斷完善機(jī)器審核的規(guī)則和邏輯，不斷完善平臺(tái)內(nèi)部的審核規(guī)則。通常來說，平臺(tái)內(nèi)的頭部生產(chǎn)者已經(jīng)積累起較為豐富的經(jīng)驗(yàn)，清楚平臺(tái)型媒體審核規(guī)則的底線;而那些未獲得流量的尾部小生產(chǎn)者，基于業(yè)務(wù)壓力會(huì)在平臺(tái)規(guī)則漏洞內(nèi)尋找突圍機(jī)會(huì)，這將加劇審核工作量。

3.2 資本逐利性弱化平臺(tái)型媒體的公共性

在媒介場(chǎng)域斗爭(zhēng)中，平臺(tái)型媒體的最終目的是攫取和積累更多經(jīng)濟(jì)資本。它的商業(yè)屬性往往強(qiáng)于其公共屬性。也就是說，平臺(tái)型媒體始終把商業(yè)利益作為場(chǎng)域內(nèi)斗爭(zhēng)的重要選擇。經(jīng)濟(jì)資本占有巨大優(yōu)勢(shì)，在對(duì)內(nèi)容的把控中積累起自身的文化資本。而在場(chǎng)域競(jìng)爭(zhēng)中，平臺(tái)型媒體不僅攫取了傳統(tǒng)媒體的話語(yǔ)權(quán)，還聚集和蠶食著社會(huì)場(chǎng)域中各種資本力量。

審核的本質(zhì)是為了幫助機(jī)器學(xué)習(xí);畢竟存儲(chǔ)龐大的數(shù)據(jù)非常簡(jiǎn)單，但要過濾數(shù)據(jù)很難。如果累積足夠多且足夠好的數(shù)據(jù)，機(jī)器就能提供更為精準(zhǔn)的判斷。為此，平臺(tái)方會(huì)大量收集用戶數(shù)據(jù)，也會(huì)大量收集人工審核樣本，形成訓(xùn)練庫(kù)。而當(dāng)機(jī)器越來越大規(guī)模地、自動(dòng)化地開展審核，一些隱患可能浮現(xiàn)。首先，審核權(quán)利讓渡給技術(shù)后，平臺(tái)型媒體將獲得更多權(quán)利，決定什么是合適的內(nèi)容，什么是優(yōu)質(zhì)的內(nèi)容，從而導(dǎo)致社會(huì)場(chǎng)域?qū)?nèi)容的話語(yǔ)權(quán)式微。其次，機(jī)器審核威脅著人的主體性。算法機(jī)制反映平臺(tái)型媒體背后的價(jià)值觀以及偏見。有觀點(diǎn)認(rèn)為只要積累足夠的數(shù)據(jù)樣本，算法就會(huì)解決所有審核問題。這也許是烏托邦式的想象與傲慢。因?yàn)閷徍说慕K極奧義絕不僅僅是剔除劣質(zhì)內(nèi)容，還在于發(fā)現(xiàn)優(yōu)質(zhì)內(nèi)容;但優(yōu)質(zhì)內(nèi)容的標(biāo)準(zhǔn)是無法通過數(shù)據(jù)訓(xùn)練向機(jī)器言說和傳達(dá)的。因此，一旦將審核工作和權(quán)力讓渡給機(jī)器，平臺(tái)型媒體會(huì)對(duì)信息內(nèi)容生態(tài)擁有更多話語(yǔ)權(quán)。通過對(duì)文化資本、經(jīng)濟(jì)資本、社會(huì)資本的積累與轉(zhuǎn)化，平臺(tái)型媒體將擁有對(duì)內(nèi)容更大的掌控與解釋權(quán)，進(jìn)而對(duì)整個(gè)社會(huì)場(chǎng)域具有更大的影響力。如平臺(tái)在公共表達(dá)空間中具有分配優(yōu)質(zhì)內(nèi)容資源和用戶注意力的權(quán)利，在平臺(tái)有限的資源位置上有一套成熟的流量與資本置換標(biāo)準(zhǔn)，類似于傳統(tǒng)媒體時(shí)代的廣告位售賣邏輯，就可能會(huì)使商業(yè)性與公共性交織在一起，難以劃定清晰的邊界。然而需要警惕的是，如果平臺(tái)型媒體過于追求商業(yè)利益，將公眾輿論空間讓渡給商業(yè)廣告投放空間，其媒體屬性將讓渡給商業(yè)屬性，從而有可能使自身乃至整個(gè)社會(huì)處于不可控的風(fēng)險(xiǎn)中。

3.3 行動(dòng)者對(duì)慣習(xí)的適應(yīng)與革新

布迪厄認(rèn)為，慣習(xí)來自個(gè)體或者群體在實(shí)踐中受到的教育積累，表現(xiàn)為一種內(nèi)化的經(jīng)驗(yàn)習(xí)性[5]。內(nèi)容審核不僅是平臺(tái)型媒體的組織慣習(xí)，也日益成為內(nèi)容審核員的職業(yè)慣習(xí)。從組織慣習(xí)來看，國(guó)內(nèi)平臺(tái)型媒體的內(nèi)容審核方式與規(guī)則往往是不公開的。這是因?yàn)閷徍梭w系的不完善和審核話題的特殊性，導(dǎo)致其規(guī)則與標(biāo)準(zhǔn)難以公開。近年來，內(nèi)容審核規(guī)則已經(jīng)從不公開走向部分公開，內(nèi)容審核方式更為透明。如國(guó)外平臺(tái)型媒體選擇發(fā)布透明度報(bào)告，公開內(nèi)容審核規(guī)則?？的螤柎髮W(xué)的塔爾頓·吉萊斯皮（Tarleton Gillespie）教授提出倡議，社交媒體平臺(tái)應(yīng)該在內(nèi)容審核方式上更加透明[6]。透明度報(bào)告也有可能僅僅展現(xiàn)表象，但它比一些“服務(wù)條款”類的法律術(shù)語(yǔ)更為直白，可以告知用戶不能觸犯的底線，從而為平臺(tái)內(nèi)容審核行為合法性提供背書。

從職業(yè)慣習(xí)來看，內(nèi)容審核員的職業(yè)角色與職業(yè)素養(yǎng)也逐漸明晰。而不同審核業(yè)務(wù)線的人員，其職業(yè)慣習(xí)也不一致。雖然審核人員、標(biāo)準(zhǔn)化人員、內(nèi)容運(yùn)營(yíng)人員的工作場(chǎng)景都涉及對(duì)內(nèi)容的判斷，但往往偏向運(yùn)營(yíng)人員的門檻較高，而偏向內(nèi)容合規(guī)檢查的審核人員門檻較低。

“很多時(shí)候，我感覺自己就是工廠女工，每天面對(duì)電腦，做的都是流水線的重復(fù)勞動(dòng)，而且不能停下來。越初級(jí)的審核，越不需要你有內(nèi)容審美，只要你遵循業(yè)務(wù)線的細(xì)則就行了?！保ˋ12）

“從審核出來之后比較難跳槽，大概率還是跟審核打交道。” （A4）

也就是說，內(nèi)容審核員需要接受該工作的重復(fù)性以及職業(yè)路徑的不確定性等。個(gè)體接受組織慣習(xí)的規(guī)訓(xùn)，成為平臺(tái)機(jī)器的一個(gè)螺絲釘。不僅要遵循其審核規(guī)則，還要在實(shí)踐中發(fā)揮能動(dòng)性，反思實(shí)踐，進(jìn)而突破和超越場(chǎng)域慣習(xí)，甚至革新職業(yè)慣習(xí)。

4 困境突破：內(nèi)容審核的競(jìng)爭(zhēng)走向

內(nèi)容審核遇到的問題及挑戰(zhàn)體現(xiàn)在內(nèi)容量過大，同時(shí)算法和人工審核均存在偏倚問題，且由于平臺(tái)外部監(jiān)管和內(nèi)部規(guī)則的影響，導(dǎo)致審核標(biāo)準(zhǔn)充滿不確定性。同時(shí)，平臺(tái)內(nèi)容審核規(guī)則的透明度邏輯也被遮蔽。場(chǎng)域?yàn)樾袆?dòng)者提供場(chǎng)所，資本與慣習(xí)充實(shí)并建構(gòu)著場(chǎng)域，并經(jīng)由實(shí)踐推動(dòng)場(chǎng)域不斷運(yùn)行。因此，平臺(tái)型媒體需要從社會(huì)場(chǎng)域、經(jīng)濟(jì)場(chǎng)域以及場(chǎng)域內(nèi)部的資本、慣習(xí)入手，尋求突破困境的辦法。具體來說，主要是將部分經(jīng)濟(jì)機(jī)會(huì)讓渡給社會(huì)場(chǎng)域中的第三方機(jī)構(gòu)，同時(shí)與場(chǎng)域中的其他行動(dòng)者共同建立起內(nèi)容生態(tài)的規(guī)則，且在場(chǎng)域內(nèi)部進(jìn)行機(jī)器算法的迭代升級(jí)，進(jìn)而打造有自潔功能的內(nèi)容生態(tài)。

4.1 多元化內(nèi)容審核模式

正因場(chǎng)域內(nèi)行動(dòng)者群體構(gòu)成復(fù)雜，場(chǎng)域內(nèi)其他行動(dòng)者也在尋求新的突破方法，甚至改變場(chǎng)域規(guī)則。具體來說，內(nèi)容風(fēng)控業(yè)務(wù)會(huì)逐漸延伸出更多元的模式;內(nèi)容審核行業(yè)也會(huì)涌現(xiàn)新的人才。在平臺(tái)型媒體的場(chǎng)域里，逐漸呈現(xiàn)出一種趨勢(shì)，即“正式員工精英化、中低端工作外包化”，也就是縮減正式崗位，把機(jī)械化的工種交給外包臨時(shí)工。

在訪談中，內(nèi)容審核作為內(nèi)容行業(yè)的底層工作，工作簽約多為外包崗。相關(guān)外包公司也被稱為第三方內(nèi)容審核機(jī)構(gòu)，目前有兩類：一類是主流媒體主導(dǎo)建立的內(nèi)容風(fēng)控業(yè)務(wù)機(jī)構(gòu);一類是依托人工智能與大數(shù)據(jù)技術(shù)的外包技術(shù)公司。

主流媒體主導(dǎo)建立的內(nèi)容風(fēng)控業(yè)務(wù)是何種形式？2019年，人民網(wǎng)開始頒發(fā)互聯(lián)網(wǎng)內(nèi)容風(fēng)控師證書，同時(shí)提供內(nèi)容風(fēng)控方面的業(yè)務(wù)：一是與大型客戶簽訂長(zhǎng)期外包服務(wù)協(xié)議;二是對(duì)中小客戶提供云服務(wù)后臺(tái)。如此一來，內(nèi)容審核成為傳統(tǒng)主流媒體新的盈利模式，同時(shí)也成為主流媒體提高引導(dǎo)力的新方式。主流媒體引領(lǐng)內(nèi)容風(fēng)控業(yè)務(wù)的標(biāo)準(zhǔn)與規(guī)則，原因在于在過去很長(zhǎng)一段時(shí)間中，其在內(nèi)容把關(guān)上積累起來的職業(yè)慣習(xí)，以及通過媒體業(yè)務(wù)在社會(huì)場(chǎng)域內(nèi)積累起來的文化資本與社會(huì)資本。例如，主流媒體長(zhǎng)期跟蹤時(shí)政類內(nèi)容，在該類內(nèi)容風(fēng)控上有更為老道的經(jīng)驗(yàn)。不少平臺(tái)型媒體也愿意高價(jià)招聘具有主流媒體編輯經(jīng)驗(yàn)的人員，以保證內(nèi)容生態(tài)的安全性。

與此同時(shí)，各大平臺(tái)型媒體也將審核標(biāo)準(zhǔn)化業(yè)務(wù)外包給相應(yīng)的技術(shù)公司。隨著平臺(tái)型媒體內(nèi)容空間和市場(chǎng)規(guī)模的擴(kuò)張，內(nèi)容審核需求也會(huì)越來越大。不過，內(nèi)容平臺(tái)方能否堅(jiān)持自身品牌特色，第三方機(jī)構(gòu)與平臺(tái)方審核標(biāo)準(zhǔn)是否統(tǒng)一，雙方責(zé)任劃分是否明確，等等。這些問題仍然需要進(jìn)一步探索。

另外，目前國(guó)內(nèi)內(nèi)容行業(yè)規(guī)則的建立并非由互聯(lián)網(wǎng)公司主導(dǎo);政府主導(dǎo)建立的內(nèi)容行業(yè)相關(guān)法律法規(guī)，包括互聯(lián)網(wǎng)新聞信息服務(wù)條例等，發(fā)揮著主流作用。不過在行業(yè)內(nèi)，平臺(tái)型媒體可以自主建立審核樣本庫(kù)，彌補(bǔ)算法審核的缺陷與漏洞，通過對(duì)共性問題的搜集、分析和解決，建立起行業(yè)共通準(zhǔn)則。

平臺(tái)型媒體也可以將社會(huì)力量納入審核體系當(dāng)中，如用戶監(jiān)督與專家團(tuán)隊(duì)審核。具體來說，用戶標(biāo)記與舉報(bào)能夠在一定程度上為平臺(tái)提供反饋，并且在此過程中參與到內(nèi)容規(guī)則的執(zhí)行中。用戶參與審核體系，既可以節(jié)省審核資源，也可以對(duì)平臺(tái)內(nèi)容質(zhì)量進(jìn)行反饋。用戶能夠及時(shí)對(duì)個(gè)人首頁(yè)出現(xiàn)的涉嫌違法犯罪、低俗色情的內(nèi)容舉報(bào);同時(shí)用戶標(biāo)記或者舉報(bào)的內(nèi)容能夠引起平臺(tái)關(guān)注，被優(yōu)先處理;此外，還可針對(duì)常被舉報(bào)的內(nèi)容類型建立審核準(zhǔn)則。如新浪微博的“微博監(jiān)督員”體系，對(duì)招募到的用戶進(jìn)行統(tǒng)一培訓(xùn)后，組成線上監(jiān)督團(tuán)隊(duì)，根據(jù)工作量給予報(bào)酬。至于依托政府機(jī)構(gòu)、新聞媒體、傳播學(xué)者等建立的專家團(tuán)隊(duì)，平臺(tái)方則可賦予更多功能權(quán)限，讓其對(duì)內(nèi)容質(zhì)量進(jìn)行把關(guān)與評(píng)鑒，從而在保證平臺(tái)內(nèi)容質(zhì)量方面發(fā)揮持久的作用[7]。

4.2 審核機(jī)制的更迭

目前，國(guó)外以臉書（Facebook）為代表的平臺(tái)型媒體，其內(nèi)容審核標(biāo)準(zhǔn)主要由平臺(tái)內(nèi)部審核規(guī)則指南、突發(fā)事件中的補(bǔ)充性規(guī)則、審核員之間的共識(shí)、內(nèi)部信息發(fā)布工具四個(gè)方面構(gòu)成。國(guó)內(nèi)平臺(tái)型媒體的審核標(biāo)準(zhǔn)雖與之類似，但所涉及的因素可能更為復(fù)雜。

平臺(tái)型媒體的審核現(xiàn)狀仍然是人工審核與機(jī)器審核并存。一方面，機(jī)器能夠降低人工成本;另一方面，人工能夠判斷機(jī)器無法識(shí)別的復(fù)雜內(nèi)容問題，進(jìn)行價(jià)值觀判斷[8]。人工審核結(jié)果還可為機(jī)器學(xué)習(xí)提供樣本庫(kù);當(dāng)樣本量積累到一定程度時(shí)，更為精密準(zhǔn)確的機(jī)器模型就被訓(xùn)練出來，然后更多人工審核內(nèi)容就又可以交給機(jī)器審核。

“工作了半年后，我和組里另外3個(gè)人調(diào)到另外一條工作線做審核評(píng)估。審核線的崗位變動(dòng)是經(jīng)常的。一方面是業(yè)務(wù)可能轉(zhuǎn)移到二三線城市來做;一方面是機(jī)器更精準(zhǔn)了，取代了部分人力的審核工作?！保ˋ5）

在訪談中，內(nèi)容審核員們認(rèn)為公司在審核方面最大的進(jìn)展就是技術(shù)工具的突破。大部分暴力色情類視頻和文字內(nèi)容都是通過機(jī)器學(xué)習(xí)算法識(shí)別出來的，用戶生產(chǎn)的不合規(guī)內(nèi)容在較短時(shí)間內(nèi)就被機(jī)器刪除了。但機(jī)器審核也會(huì)存在一定程度的誤判和漏判，如帶貨類商品內(nèi)容的誤判可能影響產(chǎn)品的投資回報(bào)率;對(duì)社會(huì)熱點(diǎn)內(nèi)容的誤判可能導(dǎo)致內(nèi)容失去時(shí)效性;對(duì)假新聞、假產(chǎn)品的漏判會(huì)影響用戶信任。但算法模型的迭代升級(jí)并不意味著算法在審核方面具有正義性與公平性，其背后的歧視問題日益受到用戶詬病：某些過濾掉的內(nèi)容往往是社會(huì)熱點(diǎn);某些爆款內(nèi)容讓用戶反感;此外，性別歧視、地域歧視等價(jià)值觀都有可能隱藏在算法模型與人工審核員背后。

在訪談中發(fā)現(xiàn)，一方面，受限于算法技術(shù)，機(jī)器審核的準(zhǔn)確率不是百分百;另一方面，審核員面臨著龐大、密集與冗雜的工作情境，需要進(jìn)行主觀判斷。A5陳述：“審核員的工作量非常大，用戶動(dòng)態(tài)如文字和圖片每人每天至少要600條，要是文章的話每天可能需要處理1000—1200條，而且我們的操作時(shí)間與判斷動(dòng)作都會(huì)被機(jī)器記錄下來，機(jī)器也會(huì)統(tǒng)計(jì)每個(gè)人每小時(shí)審核判斷的正確率?！倍遥瑑?nèi)容審核員們承認(rèn)在具體工作中也存有極強(qiáng)的主觀性，導(dǎo)致偏見出現(xiàn)，因此難以保證審核的精確性和客觀性。

5 結(jié) 論

從傳統(tǒng)編輯主導(dǎo)到互聯(lián)網(wǎng)時(shí)代的用戶與編輯共同主導(dǎo)，從三審三校制到機(jī)器與人工雙重審核，內(nèi)容審核已然成為平臺(tái)型媒體生存和發(fā)展的必要條件。當(dāng)前機(jī)器審核并不能完全替代人工審核;人工能夠?yàn)樗惴m偏，擔(dān)當(dāng)最終裁定角色。而內(nèi)容審核遇到的問題及挑戰(zhàn)，主要體現(xiàn)在內(nèi)容主體與內(nèi)容類型雜多，需要審核的內(nèi)容量過大，同時(shí)算法和人工審核均存在歧視問題;且由于平臺(tái)外部監(jiān)管和內(nèi)部規(guī)則的影響，審核標(biāo)準(zhǔn)充滿不確定性;同時(shí)，平臺(tái)內(nèi)容審核規(guī)則的透明度也在一定程度上被遮蔽。未來內(nèi)容生態(tài)中會(huì)催生新的社會(huì)分工，內(nèi)容風(fēng)控師將成為新的職業(yè)，第三方內(nèi)容審核機(jī)構(gòu)將涌現(xiàn)出來，而隨著海量樣本訓(xùn)練庫(kù)對(duì)算法的糾偏，更多審核工作將由機(jī)器來承擔(dān)。隨著多種社會(huì)力量加入到審核體系當(dāng)中，內(nèi)容行業(yè)的審核規(guī)則會(huì)逐步建立起來。盡管如此，平臺(tái)型媒體的商業(yè)邏輯仍是主導(dǎo)內(nèi)容審核的重要?jiǎng)恿?，也就是用平臺(tái)內(nèi)容吸引用戶，再將用戶打包給廣告商。因此，平臺(tái)型媒體的內(nèi)容審核可能會(huì)成為一種結(jié)構(gòu)性機(jī)制，無論是基于場(chǎng)域內(nèi)部資本驅(qū)動(dòng)—平臺(tái)的商業(yè)創(chuàng)收和盈利目標(biāo)，還是基于場(chǎng)域外部慣習(xí)影響—社會(huì)政治或文化期望的要求，并對(duì)社會(huì)其他場(chǎng)域發(fā)揮強(qiáng)大的他律作用。

注 釋

[1]喻國(guó)明.互聯(lián)網(wǎng)是一種“高維”媒介：兼論“平臺(tái)型媒體”是未來媒介發(fā)展的主流模式[J].新聞與寫作，2015（2）：41-44

[2]Bourdieu P. ?The field of cultural production： Essays on art and literature[M]. Columbia University Press，1993：ISO 690

[3]吉正霞.圖書質(zhì)量全方位監(jiān)控的研究與分析[J].傳播與版權(quán)，2018（6）：58-59

[4]閆澤華.內(nèi)容算法[M].北京：中信出版社， 2018：4

[5]Benson R. News Media As a “Journalistic Field”： What Bourdieu Adds to New Institutionalism and Vice Versa [J]. Political Communication， 2006，23 （2） ： 187-202

[6]臉書&油管透明度報(bào)告：引入用戶審核，能真正凈化平臺(tái)內(nèi)容嗎？[EB/OL]. [2020-10-24]. https：//mp.weixin.qq.com/s/mhSIj_gc97vzWsG-zRi_mg

[7]張志安，聶鑫，林功成.青少年網(wǎng)絡(luò)權(quán)益保護(hù)的平臺(tái)責(zé)任與多元共治[J].傳媒觀察，2018（11）：5-12+2

[8]張志安，聶鑫.互聯(lián)網(wǎng)內(nèi)容生態(tài)變化：歷程、路徑與反思[J].新聞與寫作， 2018（10）：5-12

（收稿日期：2021-02-22）