摘 要：近年來，以微博、微信、今日頭條、一點資訊為代表的平臺媒體（Platform Media）異軍突起，給傳統(tǒng)新聞業(yè)態(tài)注入了新鮮的血液。但隨之而來的問題是平臺媒體內(nèi)容把關的缺失，良莠不齊、真假不明甚至一些涉嫌違法犯罪的內(nèi)容充斥于網(wǎng)絡，給社會造成了不良影響。政府部門對此監(jiān)管趨嚴，約談部分違規(guī)平臺媒體和關停部分平臺媒體旗下產(chǎn)品。在這一背景下，內(nèi)容風控顯得尤為重要。本文以今日頭條的內(nèi)容風控實踐為例，試圖呈現(xiàn)新新聞業(yè)態(tài)下平臺媒體的內(nèi)容風控現(xiàn)狀，提出對平臺媒體內(nèi)容風控的反思。

關鍵詞：平臺媒體；內(nèi)容風控；新聞業(yè)態(tài)

中圖分類號：G206 文獻標志碼：A 文章編號：1674-8883（2020）01-0246-02

一、平臺媒體的崛起與危機

（一）平臺媒體異軍突起

中山大學傳播與設計學院院長張志安教授認為，新新聞生態(tài)主要包括4種類型媒體：一是理論上為公共利益服務的專業(yè)媒體（Professional Media），二是為特定機構或者行業(yè)傳播而建立的機構媒體（Institutional Media），三是具有草根文化和技術賦權特點的自媒體，四是具有明顯用戶規(guī)模、技術創(chuàng)新和資本驅(qū)動優(yōu)勢的平臺媒體。[1]本文提出的平臺媒體即張志安教授所提到的第4類媒體，其中，最具代表性的就是一點資訊、微信、微博和今日頭條等平臺媒體。

最早提出平臺媒體的是美國社交網(wǎng)站Sulia的CEO喬納森·格里克，但是美國學者杰羅姆給出的定義更為大眾所認同：平臺型媒體是指既擁有媒體的專業(yè)編輯權威性，又擁有面向用戶平臺所特有開放性的數(shù)字內(nèi)容實體。[2]從2014年開始到2018年，平臺媒體已經(jīng)慢慢成熟，為傳統(tǒng)新聞業(yè)態(tài)注入了新鮮的血液，也成為了媒體轉型發(fā)展的一個主流模式。

（二）平臺媒體內(nèi)容審核迫在眉睫

在這場平臺媒體的流量狂歡下，隨之而來的問題是平臺媒體內(nèi)容把關的缺失，良莠不齊、真假不明甚至一些涉嫌違法犯罪的內(nèi)容如侵犯版權和淫穢色情的內(nèi)容充斥于網(wǎng)絡，給社會造成了不良影響。[3]因此，平臺媒體逐漸陷于被監(jiān)管部門約談整改的泥潭中，社會聲譽也與日俱下。

從2017年開始到2019年，包括今日頭條、火山直播、微博問答、快手等平臺媒體因部分內(nèi)容艷俗等，接連遭遇相關監(jiān)管部門的懲罰并被要求下架或整改。通過以上日漸趨嚴的監(jiān)管動態(tài)，本文認為，違規(guī)內(nèi)容是懸在平臺媒體頭上的達摩克利斯之劍。具有社會連接屬性和社會生產(chǎn)屬性的平臺媒體想要持續(xù)發(fā)展，內(nèi)容風控和內(nèi)容審核是必不可少的一個環(huán)節(jié)。

二、今日頭條嘗試內(nèi)容整改

今日頭條主要為用戶推薦信息，提供連接人與信息的服務。據(jù)其創(chuàng)始人張一鳴在2019年互聯(lián)網(wǎng)大會上介紹，截止到2019年6月底，今日頭條已有1.4億活躍用戶，每天平均使用76分鐘。今日頭條經(jīng)過6年發(fā)展，已經(jīng)成長為一家大型平臺媒體。但是，正如我們前面在梳理平臺媒體面臨的內(nèi)容審核困境中所提到的那樣，今日頭條在內(nèi)容審核方面處處碰壁，為此損失了不少“愛子”，比如擁有2.5億高黏性用戶的內(nèi)涵段子APP。因此，從2018年開始，今日頭條開始正式著手布局內(nèi)容風控。

一方面，平臺媒體的社會責任成為了今日頭條的關鍵詞。2018年5月17日，今日頭條替換了原先的標語口號，將原來的“你關心的，才是頭條”更改為“信息創(chuàng)造價值”“堅持正確價值導向”，這一做法表明今日頭條已經(jīng)從內(nèi)部意識到，在推行智能算法、大數(shù)據(jù)挖掘技術和追求商業(yè)利益的同時，也要將社會責任納入考量。

在2018年年底，今日頭條成立了平臺責任研究中心，統(tǒng)籌反謠言工作，凈化其內(nèi)容生態(tài)。2019年年初，今日頭條發(fā)布了第一份《今日頭條資訊打假報告》。根據(jù)《今日頭條資訊打假報告》，今日頭條平臺內(nèi)所有發(fā)出的內(nèi)容必須經(jīng)過謠言模型和人工審核雙重檢測，月平均攔截11萬余條疑似謠言的文章，同時滾動式清理網(wǎng)站內(nèi)老謠言，平均每周對一千多條謠言點進行全站回溯。

另一方面，自2018年，今日頭條開始大規(guī)模招募人工內(nèi)容審核編輯，據(jù)今日頭條副總編輯李彤在公開場合介紹，在2018年年初，今日頭條擁有超過4000人的內(nèi)容審核團隊，這個團隊的主要職責就是把關今日頭條內(nèi)容，確保質(zhì)量和安全。除了人工審核之外，機器智能審核也是重要舉措。今日頭條的智能審核機器一秒鐘能夠?qū)徍?00篇文章，極大地提高了內(nèi)容審核的效率。在自身組建團隊進行內(nèi)容審核的同時，今日頭條還將部分內(nèi)容審核服務外包給專業(yè)的第三方內(nèi)容審核公司。

三、國外平臺媒體內(nèi)容風控舉措

良莠不齊、低俗媚俗甚至涉嫌違法犯罪的內(nèi)容在網(wǎng)絡中流竄，是全球所有平臺類媒體都無法完全治愈的“硬傷”，這些平臺媒體也面臨著法律的制裁和民眾的抗議。[4]因此，在這一背景下，國外一些平臺媒體也陸續(xù)開始審核和把關自身平臺上的內(nèi)容。

美國兩大平臺媒體Twitter和Facebook將內(nèi)容審查業(yè)務都交給了第三方內(nèi)容審核平臺。Twitter將其內(nèi)容審核業(yè)務交給了第三方審核公司Sift science，這是一家網(wǎng)絡安全科技公司，于2018年3月份獲得D輪融資5300萬美元。而總部在意大利的老牌公司CPL Resources則是Facebook一直以來的第三方內(nèi)容審核平臺。類似的第三方內(nèi)容審查平臺還包括新加坡的CashShield、特拉維夫的Foshirter、巴黎的Shift Technology、英國的Featurespace以及亞特蘭大的Pindrop公司。這些平臺都在為國外的平臺媒體提供內(nèi)容審查業(yè)務。

2018年Facebook發(fā)布了一份8000字的內(nèi)容審核指南，規(guī)定了22億用戶以后可以或不能在Facebook網(wǎng)站上發(fā)布的內(nèi)容。雖然有了第三方內(nèi)容審核系統(tǒng)的幫助，但Facebook和Twitter等公司依然會在公司內(nèi)部設置人工審核崗位，利用人工來甄別不法內(nèi)容。

四、內(nèi)容風控的反思

通過對今日頭條內(nèi)容風控的研究，本文認為平臺媒體內(nèi)容風控在一定程度上可以助推其實現(xiàn)長足發(fā)展。首先，平臺媒體通過內(nèi)容審核屏蔽了很多良莠不齊、庸俗媚俗、格調(diào)低下的內(nèi)容，凈化了新聞生態(tài)。本文認為內(nèi)容風控本質(zhì)上也是資本主義平臺的一種讓渡和妥協(xié)。目前平臺內(nèi)容審核的成本不小，但之所以這樣做，一是因為政府的強制管制，二是為了留住用戶、獲得更多的流量。如果輸出優(yōu)質(zhì)內(nèi)容的水平能決定平臺媒體發(fā)展有多高，那么內(nèi)容審核則決定平臺媒體能夠走多遠。其次，媒體平臺通過內(nèi)容審核也保護了版權。近年來，內(nèi)容審核可以在一定程度上防止平臺媒體侵犯傳統(tǒng)媒體版權的行為。自從平臺媒體誕生以來，經(jīng)常遇到傳統(tǒng)媒體起訴平臺媒體侵犯其著作權的案件。例如，雖然今日頭條標明了新聞來源網(wǎng)站的名稱和具體網(wǎng)址，但沒有完整地顯示來源網(wǎng)頁，而僅顯示其中的新聞內(nèi)容。而平臺媒體推出內(nèi)容風控，可以在一定程度上避免其侵權行為和，保護傳統(tǒng)媒體的著作權。

雖然平臺媒體的內(nèi)容風控現(xiàn)在正如火如荼地發(fā)展，但是我們也需要對其有冷靜的思考。一方面，平臺媒體內(nèi)容風控包括機器審核和人工審核，都存在審核標準模糊和審核不精準的問題；另一方面，人工審核對審核人的考驗巨大，不僅需要審核的文章數(shù)量多，而且長時間觀看血腥、暴力和色情的文字和圖片也在一定程度上會影響審核人的心理狀態(tài)。

據(jù)《今日頭條算法原理》公開信息，在機器審核內(nèi)容的過程中，泛低質(zhì)識別涉及的情況非常多，容易導致審核不精準。而就第二方面來看，今日頭條每一位人工審核員每周會有3次夜班，每天審核的文章數(shù)量為1000～2000篇，工作量很大。同時，在審核的過程中，還需要審核員劃分每一篇文章的傳播等級，這就要求審核員必須看完每一段文字和圖片。有內(nèi)容審核員曾對《中國經(jīng)營報》的記者表示，每次工作完之后腦子里總是會想起那些內(nèi)容，特別是一些兇殺暴力血腥的描寫，導致自己經(jīng)常失眠做噩夢，對自身身心是一種摧殘。

五、內(nèi)容風控的未來發(fā)展趨勢

近年來，為了加強網(wǎng)絡內(nèi)容安全管理，國家網(wǎng)信辦出臺了諸多文件，約談了眾多違法違規(guī)的平臺媒體，監(jiān)管日漸趨嚴。因此，對各大平臺來說，內(nèi)容風控將成為平臺媒體發(fā)展的應有之義。

那么，未來平臺媒體的內(nèi)容風控將走向何方？

首先，第三方內(nèi)容風控平臺將崛起。目前平臺媒體通過三大舉措來確保內(nèi)容風控：一是將內(nèi)容風控工作完全外包給第三方內(nèi)容風控企業(yè)，如微博；二是平臺媒體內(nèi)部組建內(nèi)容風控團隊，建立內(nèi)部媒體監(jiān)控平臺，人工和機器雙管齊下完成審核；三是平臺媒體將一部分審核任務外包給第三方企業(yè)，一部分由平臺媒體內(nèi)部處理，如今日頭條。[5]本文認為，隨著技術的發(fā)展和平臺媒體對內(nèi)容風控重視程度的提高，平臺媒體內(nèi)容風控模式將會更加多元，但是主要會向外包給第三方內(nèi)容風控企業(yè)靠攏。

其次，傳統(tǒng)媒體將會發(fā)力向平臺媒體推出內(nèi)容風控承包業(yè)務，內(nèi)容風控將會是傳統(tǒng)媒體和平臺媒體合作的新形式之一。傳統(tǒng)媒體特別是一些黨報黨刊在審核媒體內(nèi)容的時候，具有天然的優(yōu)勢和敏銳度，能夠非常清楚地了解媒體內(nèi)容屬性。此外，傳統(tǒng)媒體相對于平臺媒體來說，更加看重社會公共利益，比追求商業(yè)利益的平臺媒體更具有社會責任感和社會公信力。因此，由傳統(tǒng)媒體推出內(nèi)容風控業(yè)務是合適的選擇。以人民網(wǎng)為代表的傳統(tǒng)媒體推出第三方內(nèi)容風控業(yè)務，對其自身來說是一種再盈利模式，能夠緩解傳統(tǒng)媒體的困境。而對平臺媒體來說，將自己的內(nèi)容風控外包給第三方平臺，也將極大地節(jié)約自身人力成本，提升平臺內(nèi)容質(zhì)量。

最后，平臺媒體的內(nèi)容風控將會走向更加智能化，將人解放出來做更有意義的事情。雖然在機器審核內(nèi)容的過程中，泛低質(zhì)識別涉及的情況非常多，但是隨著技術的成熟和實際運用案例的增多，平臺媒體在運用機器審核內(nèi)容時，其錯誤率會下降，誤刪漏刪的情況也將減少。

六、結語

“欲戴王冠，必承其重”，平臺媒體兼具明顯的用戶規(guī)模、技術創(chuàng)新和資本驅(qū)動優(yōu)勢，如果想實現(xiàn)長足發(fā)展，就必須承擔相應的內(nèi)容審核責任。在未來，第三方內(nèi)容風控平臺的崛起、傳統(tǒng)媒體內(nèi)容風控業(yè)務與平臺媒體的融合、技術賦能平臺媒體，使其內(nèi)容審核實現(xiàn)智能化升級，將是平臺媒體的法寶和護身符。

參考文獻：

[1] 張志安.數(shù)字新聞業(yè)研究：生態(tài)、路徑和范式[J].新聞與傳播研究，2018（S1）：91.

[2] 張志安，姚堯.平臺媒體的類型、演進邏輯和發(fā)展趨勢[J].新聞與寫作，2018（12）：75-80.

[3] 張志安，聶鑫.互聯(lián)網(wǎng)內(nèi)容生態(tài)變化：歷程、路徑與反思[J].新聞與寫作，2018（10）：5-12.

[4] 杰羅姆.平臺型新媒體（Platisher）是有效的商業(yè)模式嗎？[J].中國傳媒科技，2014（23）：71-75.

[5] 陳安慶.內(nèi)容審核，傳統(tǒng)媒體盈利新模式[J].青年記者，2019（10）：47.

作者簡介：肖章鳳（1993—），女，江西贛州人，中山大學新聞與傳播專業(yè)碩士研究生，研究方向：媒介創(chuàng)新。