李恒宗

漏洞！合法新聞文章標記為垃圾郵件

因為貼紙被標記為違反了垃圾郵件社區(qū)標準。網(wǎng)友發(fā)疑問：湯姆·漢克斯怎么會是垃圾郵件，我只是分享新聞

全球性健康危機席卷全球，數(shù)以百萬計的人被限制在家中，社交媒體平臺已成為人們共享信息和彼此進行社交的最重要方式之一。為了保護其員工和商業(yè)客戶的健康，F(xiàn)acebook和其他科技公司也制定了內(nèi)容管理措施，但是他們的工作通常很難在家中完成，沒有專業(yè)團隊的協(xié)作辦公，互聯(lián)網(wǎng)很多問題無法及時解決。

加州大學洛杉磯分校信息研究教授、《屏幕背后：社交媒體陰影中的內(nèi)容審核》一書的作者莎拉·羅伯茨說：“平時我們會看到許多人工干預網(wǎng)絡內(nèi)容的痕跡，這些痕跡往往會被隱藏?！痹?016年美國總統(tǒng)大選之后，F(xiàn)acebook大幅提高了其內(nèi)容審核的能力，截至2019年底，它擁有超過30000名從事安全和保安工作的人員，其中大約一半是內(nèi)容審核員。這些人大多數(shù)是合同工，在全球各地的辦公室中都被埃森哲或Cognizant（業(yè)務涉及管理咨詢、信息技術和業(yè)務流程外包）等公司雇用。他們的工作是讓Facebook免受暴力、兒童剝削、垃圾郵件以及其他不受歡迎的內(nèi)容的侵害。

因為疫情在美國的蔓延，為了填補內(nèi)容審核的空白，F(xiàn)acebook正在將更多工作轉(zhuǎn)移到人工智能上，首席執(zhí)行官馬克·扎克伯格多年來一直將其視為內(nèi)容審核的未來。扎克伯格在電話中對媒體說，為了保障網(wǎng)站運營，最敏感的內(nèi)容還是要提供給全職員工審核，這些人將繼續(xù)在其辦公室工作。

扎克伯格說：“我個人非常擔心與家人隔離可能會導致更多的抑郁癥或心理健康問題。”為了為潛在的危機做準備，F(xiàn)acebook正在增加致力于調(diào)解諸如自殺和自殘之類的內(nèi)容的人數(shù)。另一個擔憂是錯誤信息的傳播，尤其是在公共衛(wèi)生危機期間。作為對Covid-19的更廣泛回應，F(xiàn)acebook還宣布將在新聞源中部署冠狀病毒信息中心，使人們可以從權威來源獲得有關大流行的最新信息，而非被虛假信息所誤導。

機器學習露短板

隨著對垃圾郵件故障的投訴增加，F(xiàn)acebook員工懷疑它可能與公司最近的工作流程變更有關。Facebook前安全主管亞歷克斯·斯塔莫斯在推特上說：“看起來，F(xiàn)B的反垃圾郵件規(guī)則變得混亂，由于公司做出的隱私承諾，內(nèi)容審核員無法正常工作，機器人的AI學習變得瘋狂起來?！?/p>

Facebook的副總裁蓋伊·羅森迅速做出澄清：“這是反垃圾郵件系統(tǒng)中的錯誤，與內(nèi)容審核人員隊伍的任何變化無關。我們正在修復所有這些帖子，并將其重新發(fā)布?！?/p>

但是研究人員說，如果沒有強大的人工審核團隊，像星期二晚上這樣的問題可能會變得更加普遍。YouTube和Twitter3月16日宣布，他們的員工也被要求居家辦公，會更加依賴自動標記工具和基于AI的審閱系統(tǒng)。

人工內(nèi)容審核員減少，對于如今依賴社交媒體與外界溝通的數(shù)百萬人而言，可能會發(fā)生巨大變化。Facebook、YouTube、Twitter和其他站點使用的自動化系統(tǒng)各不相同，但它們通常通過檢測關鍵字、自動掃描圖像以及查找帖子違反規(guī)則的其他信號來起作用。

圣約翰大學法學院的教授、耶魯大學信息社會項目的研究員凱特·科洛尼克說，科技巨頭可能需要過于寬泛地進行審核，以減少自動化系統(tǒng)錯過重要違規(guī)的可能性。人工審稿很多時候都做得不好，但是自動下線系統(tǒng)更加糟糕，將會有很多內(nèi)容被錯誤地歸類。

YouTube在宣布更改措施的博客文章中指出：“用戶和創(chuàng)作者可能會看到視頻刪除量增加，包括一些可能不違反政策的視頻?！痹摼W(wǎng)站的自動化系統(tǒng)非常不精確，計算機在更大程度上負責審查上傳內(nèi)容。機器學習有助于檢測潛在有害的內(nèi)容，然后將其發(fā)送給人工審核者進行評估。

辦公室變得冷清，人工智能正在代替人類做更多的工作

作為對Facebook計劃中的監(jiān)督委員會成員（該委員會將審查有爭議的內(nèi)容審核決定的獨立小組）的研究的一部分，科洛尼克審查了該公司的執(zhí)法報告，其中詳細說明了其在Facebook和Instagram上監(jiān)管內(nèi)容的程度?？坡迥峥苏f，11月份的最新報告令她感到震驚，F(xiàn)acebook撤銷的大部分決定都來自其自動標記工具和技術：“錯誤率很高，他們太容易受到過度審查。”

業(yè)內(nèi)人士指出，軟件是基于機器學習構建的，可以根據(jù)違規(guī)類型和本地語言來識別模式，在某些情況下，我們的軟件還沒有經(jīng)過足夠的培訓，無法自動大規(guī)模檢測違規(guī)情況，因此還得要經(jīng)過訓練有素的人工團隊進行審查。