陳光

“大家看到的這個世界是由所有人呈現(xiàn)的，而歷史上我們看到的世界是由少數(shù)人呈現(xiàn)的。今天所有人一起參與呈現(xiàn)這個世界，當(dāng)我們以這樣的方式去觀察和感知這個世界時，背后有一些新的社會問題就出現(xiàn)了”。

年初至今，李軍經(jīng)歷了一場穿梭于晝夜，險些“摧毀靈魂”的冒險。

90后的李軍是武漢青山區(qū)人。去年底，他經(jīng)歷5天的封閉培訓(xùn)和考核，簽了保密協(xié)議，成為快手的內(nèi)容審核員。他沒想到，剛?cè)肼?個月，就親歷了一場凈化短視頻平臺的“最強(qiáng)整頓”。

4月4日，國家廣播電視總局約談快手和今日頭條兩家網(wǎng)站的主要負(fù)責(zé)人，要求其全面清查庫存節(jié)目，立即下線低俗、暴力、色情等有害內(nèi)容，并追究相關(guān)人責(zé)任。約談之后，罰款、下架、永久關(guān)停等幾大監(jiān)管手段齊下，急速發(fā)展后，今日頭條、快手等互聯(lián)網(wǎng)內(nèi)容平臺亟需邁過監(jiān)管這道坎。

“新的社會問題”

快手創(chuàng)始人兼CEO宿華沒有出來說任何話，直接道歉。

4月3日，宿華在其個人微博上發(fā)表長篇文章《接受批評，重整前行》。當(dāng)天，宿華還出現(xiàn)在快手和清華大學(xué)合作成立未來媒體數(shù)據(jù)聯(lián)合研究院的活動上，他說，“大家看到的這個世界是由所有人呈現(xiàn)的，而歷史上我們看到的世界是由少數(shù)人呈現(xiàn)的。今天所有人一起參與呈現(xiàn)這個世界，當(dāng)我們以這樣的方式去觀察和感知這世界時，背后有一些新的社會問題其實就出現(xiàn)了?！?/p>

這些“新的社會問題”比所有人預(yù)想的嚴(yán)重。

隨著短視頻平臺壯大，每天都有海量新類型的用戶生成內(nèi)容被上傳到網(wǎng)上。這其中包含不少傳統(tǒng)色情、暴力等分類覆蓋不到的新型違規(guī)內(nèi)容?？焓殖闪?年，有7億用戶，審核成了頭等難題。

3月31日，央視《新聞直播間》節(jié)目報道了快手和今日頭條旗下火山小視頻等短視頻平臺出現(xiàn)大量未成年人懷孕視頻，以未成年人生子為噱頭廣泛傳播，造成不良社會影響。4月3日晚間，新華網(wǎng)微博也發(fā)文《別讓“社會搖”等低俗視頻晃散了你的“詩和遠(yuǎn)方”》?！吧鐣u”是從短視頻平臺興起的一種舞蹈形式，人們跟著強(qiáng)勁的節(jié)奏搖擺，即興發(fā)揮。這類行為引得部分小學(xué)生和中學(xué)生模仿，對校園環(huán)境造成影響。

就連曾經(jīng)深愛著它們的用戶也開始漸漸對平臺產(chǎn)生反感。北京白領(lǐng)王峰算是快手的老用戶，現(xiàn)實中，他幾乎沒機(jī)會和快手上的網(wǎng)友接觸。他認(rèn)為，是技術(shù)讓這部分人把自己的生活剝出來一部分，拓寬了他的體驗，而且這份分享是真實的，不是演出來的。

快手、今日頭條旗下的抖音、火山小視頻等都依托于算法推薦，每個用戶的頁面都獨一無二。平臺會根據(jù)用戶點擊的視頻類型，迅速分析用戶感興趣的領(lǐng)域，并馬上推送類似內(nèi)容。

一開始，王峰對推送的內(nèi)容很滿意。但漸漸地，王峰發(fā)現(xiàn)，有時快手會自動向他推薦一些從未關(guān)注過的視頻，如美女主播類，疑似家長拍的小孩子裸體視頻。這觸碰了王峰的底線。他也看到一些低齡孕婦的視頻，他認(rèn)為，這些孕婦并不是記錄真實的日常生活，而是利用自己的身份特點去博眼球、要關(guān)注，是以炒作盈利為目的。

王峰也一直好奇，算法的背后到底有沒有人工指導(dǎo)?！氨澈笕绻且粋€人的話，這個人是誰？他憑什么？如果真有這么個人，還蠻可怕的。他是算法還是人？”

“算法有無價值觀”

“分發(fā)機(jī)制理想狀態(tài)靠算法，實際操作看人工。”一位短視頻運營人員說。據(jù)他介紹，每個大平臺都會從企業(yè)盈利角度推選一些他們認(rèn)為會火的話題，至于這些推送是否低俗則不是企業(yè)的首要考量。

成立于2012年，今日頭條是國內(nèi)早期以數(shù)據(jù)挖掘技術(shù)和智能推薦算法為核心競爭力迅速壯大的平臺。在這里，“你關(guān)心的，才是頭條”。在去年一場活動上，今日頭條創(chuàng)始人張一鳴稱，“今日頭條不是媒體。我們更關(guān)注信息的吞吐量和信息的多元。我不能準(zhǔn)確判斷這個好還是壞，是高雅還是庸俗。”這翻話讓張一鳴一度陷入輿論漩渦。

而宿華則一直對算法持謹(jǐn)慎態(tài)度，他說就算法是否有價值觀這個問題，自己想了30年?！靶r候是看科幻里面，經(jīng)常會討論機(jī)器人有沒有意識、價值觀，其實算法本身是沒有價值觀的，但是算法是人去定義、搭建的?！彼f。

內(nèi)蒙古赤峰市的阿其也是快手用戶。去年大學(xué)畢業(yè)， 他在一家牛肉干工廠做車間工人，那時開始用快手，在快手，他發(fā)現(xiàn)了很多設(shè)計簽名的網(wǎng)友，也開始發(fā)自己設(shè)計字體的視頻，有1萬多粉絲，本來通過快手展示才華，找到志趣相同的朋友是件好事，但一些莫名出現(xiàn)的視頻讓他不舒服。

當(dāng)看到一些穿著暴露的主播視頻時，阿其會根據(jù)系統(tǒng)規(guī)則，選擇減少此類作品出現(xiàn)的功能，但他發(fā)現(xiàn)這種拒絕不管用，類似視頻還會時不時地出現(xiàn)。

有次，阿其舉報了一位滿身文身，說大量臟話的男網(wǎng)紅，但快手系統(tǒng)回復(fù)他說該用戶被認(rèn)定沒有違規(guī)。

然而，阿其自己的內(nèi)容卻被判定違規(guī)。他是蒙古族人，有一次在快手直播時用蒙古語和朋友聊天，內(nèi)容是他今天有空，大家可以一起吃飯，每句后面他都用漢語再翻譯一次。當(dāng)時他還放了一首蒙古語的流行歌曲《雨》，歌曲懷念草原上的雨和逝去的愛情。

這在阿其看來極為平常的內(nèi)容，卻突然收到系統(tǒng)通知：“您的直播A類違規(guī)：政治，已被永久封禁直播?！?/p>

阿其不明白用家鄉(xiāng)話和朋友約飯，放抒情歌曲怎么就和政治有關(guān)了？在違規(guī)申訴中，他寫道，根據(jù)國家法律，自己有權(quán)合法使用民族語言?？焓挚烧埗晒耪Z的人回放視頻，絕無任何違法違規(guī)內(nèi)容。

“守夜人”

阿其算得上是一樁“冤案”，他的賬號終被解禁。

而4月10日，今日頭條旗下“內(nèi)涵段子”應(yīng)用程序及公眾號面臨的則是永久關(guān)停，其原因是存在導(dǎo)向不正、格調(diào)低俗等突出問題。

人民日報微評論稱，“只要價值，不要價值觀，甚至鼓吹‘算法沒有價值觀，就難免出事。產(chǎn)品不能淪為算法的奴隸?！边@次整頓的一項重點內(nèi)容就是對平臺的算法推薦進(jìn)行優(yōu)化，增強(qiáng)審核能力。

風(fēng)口浪尖上的算法到底是什么？快手CEO宿華曾給了個簡單版本的介紹?！八惴ê诵氖抢斫狻＠斫鈨?nèi)容和人的屬性，人和內(nèi)容歷史上的交互數(shù)據(jù)，然后通過一個模型，預(yù)估內(nèi)容與用戶之間匹配的程度（也叫特征）。比如有這么幾個人都共同喜歡同樣一個人，我們就會認(rèn)為這些人具備了相同的某個特征?！?/p>

然而，看似很聰明的算法卻失靈了。當(dāng)前階段，人工智能并不能完全勝任視頻流內(nèi)容的審核，多用于文字內(nèi)容。比如在用戶發(fā)布的帖子、留言、文章中檢測到非法詞匯內(nèi)容，就會刪除這些內(nèi)容，并向用戶發(fā)出警告，甚至直接封號。很多低俗的圖片或者視頻，人工智能無法像識別文字般精準(zhǔn)審核，因而只能成為人工審核員的助手。

今日頭條內(nèi)容質(zhì)量中心負(fù)責(zé)人、副總編輯李彤也表示，“對于廣告信息，機(jī)器會識別并標(biāo)注;對于標(biāo)題黨，機(jī)器會識別并提醒作者，如果作者不修改，機(jī)器會降低推薦權(quán)重或直接攔截，對于虛假信息、違法信息、色情信息，則主要依靠人工審核?！?/p>

遇到監(jiān)管這一難題后，今日頭條宣布將審核團(tuán)隊從6000人擴(kuò)大到10000人，“快手”宣布將審核團(tuán)隊從2000人擴(kuò)大到5000人，月薪4000-9000元，都要求“共產(chǎn)黨員優(yōu)先”。目前快手在北京、天津、武漢等六地建有審核中心。

“你們看不到的，我們都看了?！崩钴娬f從1月入職起，他和同事每天工作12小時，做一天休一天，一個月有4到5次通宵班。忙的時候，每人一天要審核150部視頻，正常的工作量是人均120部，視頻20秒到4分鐘不等，多以兩倍速度快進(jìn)播放，李軍大概每日會遇到40部正常視頻，30部“比較辣眼睛”但不涉及違法內(nèi)容，25部屬于反人類的，15部涉黃，剩下10部血腥暴力。

高強(qiáng)度熬夜讓一般人扛不住。由于夜晚正是用戶上傳視頻的高峰期，快手相關(guān)負(fù)責(zé)人也指出為高效整改，宿華特地提出了“守夜人”的概念。

然而，審核人數(shù)還是承載不了瀑布式的視頻量。

2018年春節(jié)期間，快手用戶單日上傳視頻數(shù)量突破1500萬條，每分鐘上傳視頻的峰值達(dá)到43000條，創(chuàng)歷史新高。這意味著快手原本的2000名內(nèi)容審核員，要在機(jī)器的配合之下，對每天1500萬條視頻內(nèi)容進(jìn)行審核。

“低俗”，是這輪整肅中出現(xiàn)最多的一大“罪名”。但是包括《網(wǎng)絡(luò)安全法》在內(nèi)，都沒有對“低俗”的定義和說明。在實際操作中，情色、淫穢、下流好判斷，但低俗和色情就不好判斷。此外，每個平臺對它認(rèn)定的標(biāo)準(zhǔn)都不一樣，比如某些直播平臺，對女主播在直播時，蹺二郎腿的換腿頻率有規(guī)定，多少次以上就屬于性暗示，就涉黃。

睜一只眼閉一只眼

尺度一直是網(wǎng)絡(luò)監(jiān)管的難題。

雖然《網(wǎng)絡(luò)安全法》和去年施行的《互聯(lián)網(wǎng)視聽節(jié)目審核通則》等相關(guān)法律法規(guī)不斷完善，但復(fù)雜的審核標(biāo)準(zhǔn)和多變的違規(guī)內(nèi)容讓審核員頭疼。

更讓他們琢磨不透的是飄忽不定的“內(nèi)部標(biāo)準(zhǔn)”。早在央視曝光低齡孕婦視頻前，李軍和同事就已注意到這類視頻的勢頭。一低齡媽媽哺乳的視頻讓李軍判斷應(yīng)該審掉，雖然畫面并沒有露點。李軍認(rèn)為，哺乳本身沒問題，但把這一行為拍成視頻發(fā)到網(wǎng)上就變了味。但這類視頻“老大”都讓過了，“老大”就是部門領(lǐng)導(dǎo)。

李軍和同事也比較反感社會搖這類視頻，“一天看50部社會搖，你煩不煩？”他們覺得這種視頻沒有營養(yǎng)，和低齡媽媽類視頻一樣，容易帶壞未成年人，算低俗，但“老大”也都通過了。

“這類國家沒有明令禁止但內(nèi)容又有些不妥的，老大就睜一只眼閉一只眼。我必須說一句，那些看了腦殘視頻后說我們審核員是腦殘，這種視頻都讓放的，這鍋我們不背?！?/p>

其實，宿華也經(jīng)常糾結(jié)，他發(fā)現(xiàn)一位身患罕見貧血病的用戶經(jīng)常以一些出格的方式炒作，獲得關(guān)注和打賞。他知道此人會用這些打賞的錢治病，但有時他博關(guān)注的行為過分了，經(jīng)過權(quán)衡，審核人員還是會刪掉一些內(nèi)容，并通過系統(tǒng)勸誡他。

得知快手招聘審核員的第一時間，阿其投了簡歷。他是共產(chǎn)黨員，大學(xué)專業(yè)是馬克思主義學(xué)院下的行政管理系，他應(yīng)聘這份工作有個私心，因為有過被快手“封號”的經(jīng)歷 ，阿其希望快手能有一些他這樣會少數(shù)民族語言的審核工作者，減少出現(xiàn)類似誤會。

自救運動

卷入了短視頻的“最強(qiáng)整頓”風(fēng)暴后，快手查封了大量違規(guī)賬號，無限期關(guān)閉推薦相似用戶的功能，并將對視頻分級，嚴(yán)格過濾未成年人看到的視頻。截止4月14日，快手已經(jīng)清理問題短視頻31萬條，封禁5.6萬名用戶，清理6.5萬個用戶名。

宿華道歉信中稱，算法的價值觀就是人的價值觀?？焓謱?yōu)先推薦個性化的更符合用戶興趣的正能量作品，放大優(yōu)秀作品的影響力。

“快手的審核規(guī)則一定是越來越嚴(yán)的，我們的遞進(jìn)邏輯是，法律法規(guī)為底線，公序良俗為參照，重點打擊低俗三觀不正的內(nèi)容?！笨焓重?fù)責(zé)人說。

“網(wǎng)絡(luò)監(jiān)管全世界都有，是個很正常的事。不過，我們國家的監(jiān)管相對較嚴(yán)?！崩钫袢A說。面對全球性的網(wǎng)絡(luò)監(jiān)管大勢，李振華覺得不管在法律、技術(shù)、產(chǎn)業(yè)和道德倫理等領(lǐng)域，都有很多值得社會各界共同探討和思考的空間。

（王允薦自《看天下》）