陳光
“大家看到的這個世界是由所有人呈現(xiàn)的,而歷史上我們看到的世界是由少數(shù)人呈現(xiàn)的。今天所有人一起參與呈現(xiàn)這個世界,當(dāng)我們以這樣的方式去觀察和感知這個世界時,背后有一些新的社會問題就出現(xiàn)了”。
年初至今,李軍經(jīng)歷了一場穿梭于晝夜,險些“摧毀靈魂”的冒險。
90后的李軍是武漢青山區(qū)人。去年底,他經(jīng)歷5天的封閉培訓(xùn)和考核,簽了保密協(xié)議,成為快手的內(nèi)容審核員。他沒想到,剛?cè)肼?個月,就親歷了一場凈化短視頻平臺的“最強(qiáng)整頓”。
4月4日,國家廣播電視總局約談快手和今日頭條兩家網(wǎng)站的主要負(fù)責(zé)人,要求其全面清查庫存節(jié)目,立即下線低俗、暴力、色情等有害內(nèi)容,并追究相關(guān)人責(zé)任。約談之后,罰款、下架、永久關(guān)停等幾大監(jiān)管手段齊下,急速發(fā)展后,今日頭條、快手等互聯(lián)網(wǎng)內(nèi)容平臺亟需邁過監(jiān)管這道坎。
“新的社會問題”
快手創(chuàng)始人兼CEO宿華沒有出來說任何話,直接道歉。
4月3日,宿華在其個人微博上發(fā)表長篇文章《接受批評,重整前行》。當(dāng)天,宿華還出現(xiàn)在快手和清華大學(xué)合作成立未來媒體數(shù)據(jù)聯(lián)合研究院的活動上,他說,“大家看到的這個世界是由所有人呈現(xiàn)的,而歷史上我們看到的世界是由少數(shù)人呈現(xiàn)的。今天所有人一起參與呈現(xiàn)這個世界,當(dāng)我們以這樣的方式去觀察和感知這世界時,背后有一些新的社會問題其實就出現(xiàn)了?!?/p>
這些“新的社會問題”比所有人預(yù)想的嚴(yán)重。
隨著短視頻平臺壯大,每天都有海量新類型的用戶生成內(nèi)容被上傳到網(wǎng)上。這其中包含不少傳統(tǒng)色情、暴力等分類覆蓋不到的新型違規(guī)內(nèi)容??焓殖闪?年,有7億用戶,審核成了頭等難題。
3月31日,央視《新聞直播間》節(jié)目報道了快手和今日頭條旗下火山小視頻等短視頻平臺出現(xiàn)大量未成年人懷孕視頻,以未成年人生子為噱頭廣泛傳播,造成不良社會影響。4月3日晚間,新華網(wǎng)微博也發(fā)文《別讓“社會搖”等低俗視頻晃散了你的“詩和遠(yuǎn)方”》?!吧鐣u”是從短視頻平臺興起的一種舞蹈形式,人們跟著強(qiáng)勁的節(jié)奏搖擺,即興發(fā)揮。這類行為引得部分小學(xué)生和中學(xué)生模仿,對校園環(huán)境造成影響。
就連曾經(jīng)深愛著它們的用戶也開始漸漸對平臺產(chǎn)生反感。北京白領(lǐng)王峰算是快手的老用戶,現(xiàn)實中,他幾乎沒機(jī)會和快手上的網(wǎng)友接觸。他認(rèn)為,是技術(shù)讓這部分人把自己的生活剝出來一部分,拓寬了他的體驗,而且這份分享是真實的,不是演出來的。
快手、今日頭條旗下的抖音、火山小視頻等都依托于算法推薦,每個用戶的頁面都獨一無二。平臺會根據(jù)用戶點擊的視頻類型,迅速分析用戶感興趣的領(lǐng)域,并馬上推送類似內(nèi)容。
一開始,王峰對推送的內(nèi)容很滿意。但漸漸地,王峰發(fā)現(xiàn),有時快手會自動向他推薦一些從未關(guān)注過的視頻,如美女主播類,疑似家長拍的小孩子裸體視頻。這觸碰了王峰的底線。他也看到一些低齡孕婦的視頻,他認(rèn)為,這些孕婦并不是記錄真實的日常生活,而是利用自己的身份特點去博眼球、要關(guān)注,是以炒作盈利為目的。
王峰也一直好奇,算法的背后到底有沒有人工指導(dǎo)?!氨澈笕绻且粋€人的話,這個人是誰?他憑什么?如果真有這么個人,還蠻可怕的。他是算法還是人?”
“算法有無價值觀”
“分發(fā)機(jī)制理想狀態(tài)靠算法,實際操作看人工。”一位短視頻運營人員說。據(jù)他介紹,每個大平臺都會從企業(yè)盈利角度推選一些他們認(rèn)為會火的話題,至于這些推送是否低俗則不是企業(yè)的首要考量。
成立于2012年,今日頭條是國內(nèi)早期以數(shù)據(jù)挖掘技術(shù)和智能推薦算法為核心競爭力迅速壯大的平臺。在這里,“你關(guān)心的,才是頭條”。在去年一場活動上,今日頭條創(chuàng)始人張一鳴稱,“今日頭條不是媒體。我們更關(guān)注信息的吞吐量和信息的多元。我不能準(zhǔn)確判斷這個好還是壞,是高雅還是庸俗。”這翻話讓張一鳴一度陷入輿論漩渦。
而宿華則一直對算法持謹(jǐn)慎態(tài)度,他說就算法是否有價值觀這個問題,自己想了30年?!靶r候是看科幻里面,經(jīng)常會討論機(jī)器人有沒有意識、價值觀,其實算法本身是沒有價值觀的,但是算法是人去定義、搭建的?!彼f。
內(nèi)蒙古赤峰市的阿其也是快手用戶。去年大學(xué)畢業(yè), 他在一家牛肉干工廠做車間工人,那時開始用快手,在快手,他發(fā)現(xiàn)了很多設(shè)計簽名的網(wǎng)友,也開始發(fā)自己設(shè)計字體的視頻,有1萬多粉絲,本來通過快手展示才華,找到志趣相同的朋友是件好事,但一些莫名出現(xiàn)的視頻讓他不舒服。
當(dāng)看到一些穿著暴露的主播視頻時,阿其會根據(jù)系統(tǒng)規(guī)則,選擇減少此類作品出現(xiàn)的功能,但他發(fā)現(xiàn)這種拒絕不管用,類似視頻還會時不時地出現(xiàn)。
有次,阿其舉報了一位滿身文身,說大量臟話的男網(wǎng)紅,但快手系統(tǒng)回復(fù)他說該用戶被認(rèn)定沒有違規(guī)。
然而,阿其自己的內(nèi)容卻被判定違規(guī)。他是蒙古族人,有一次在快手直播時用蒙古語和朋友聊天,內(nèi)容是他今天有空,大家可以一起吃飯,每句后面他都用漢語再翻譯一次。當(dāng)時他還放了一首蒙古語的流行歌曲《雨》,歌曲懷念草原上的雨和逝去的愛情。
這在阿其看來極為平常的內(nèi)容,卻突然收到系統(tǒng)通知:“您的直播A類違規(guī):政治,已被永久封禁直播?!?/p>
阿其不明白用家鄉(xiāng)話和朋友約飯,放抒情歌曲怎么就和政治有關(guān)了?在違規(guī)申訴中,他寫道,根據(jù)國家法律,自己有權(quán)合法使用民族語言??焓挚烧埗晒耪Z的人回放視頻,絕無任何違法違規(guī)內(nèi)容。
“守夜人”
阿其算得上是一樁“冤案”,他的賬號終被解禁。
而4月10日,今日頭條旗下“內(nèi)涵段子”應(yīng)用程序及公眾號面臨的則是永久關(guān)停,其原因是存在導(dǎo)向不正、格調(diào)低俗等突出問題。
人民日報微評論稱,“只要價值,不要價值觀,甚至鼓吹‘算法沒有價值觀,就難免出事。產(chǎn)品不能淪為算法的奴隸?!边@次整頓的一項重點內(nèi)容就是對平臺的算法推薦進(jìn)行優(yōu)化,增強(qiáng)審核能力。
風(fēng)口浪尖上的算法到底是什么?快手CEO宿華曾給了個簡單版本的介紹?!八惴ê诵氖抢斫狻@斫鈨?nèi)容和人的屬性,人和內(nèi)容歷史上的交互數(shù)據(jù),然后通過一個模型,預(yù)估內(nèi)容與用戶之間匹配的程度(也叫特征)。比如有這么幾個人都共同喜歡同樣一個人,我們就會認(rèn)為這些人具備了相同的某個特征?!?/p>
然而,看似很聰明的算法卻失靈了。當(dāng)前階段,人工智能并不能完全勝任視頻流內(nèi)容的審核,多用于文字內(nèi)容。比如在用戶發(fā)布的帖子、留言、文章中檢測到非法詞匯內(nèi)容,就會刪除這些內(nèi)容,并向用戶發(fā)出警告,甚至直接封號。很多低俗的圖片或者視頻,人工智能無法像識別文字般精準(zhǔn)審核,因而只能成為人工審核員的助手。
今日頭條內(nèi)容質(zhì)量中心負(fù)責(zé)人、副總編輯李彤也表示,“對于廣告信息,機(jī)器會識別并標(biāo)注;對于標(biāo)題黨,機(jī)器會識別并提醒作者,如果作者不修改,機(jī)器會降低推薦權(quán)重或直接攔截,對于虛假信息、違法信息、色情信息,則主要依靠人工審核?!?/p>
遇到監(jiān)管這一難題后,今日頭條宣布將審核團(tuán)隊從6000人擴(kuò)大到10000人,“快手”宣布將審核團(tuán)隊從2000人擴(kuò)大到5000人,月薪4000-9000元,都要求“共產(chǎn)黨員優(yōu)先”。目前快手在北京、天津、武漢等六地建有審核中心。
“你們看不到的,我們都看了?!崩钴娬f從1月入職起,他和同事每天工作12小時,做一天休一天,一個月有4到5次通宵班。忙的時候,每人一天要審核150部視頻,正常的工作量是人均120部,視頻20秒到4分鐘不等,多以兩倍速度快進(jìn)播放,李軍大概每日會遇到40部正常視頻,30部“比較辣眼睛”但不涉及違法內(nèi)容,25部屬于反人類的,15部涉黃,剩下10部血腥暴力。
高強(qiáng)度熬夜讓一般人扛不住。由于夜晚正是用戶上傳視頻的高峰期,快手相關(guān)負(fù)責(zé)人也指出為高效整改,宿華特地提出了“守夜人”的概念。
然而,審核人數(shù)還是承載不了瀑布式的視頻量。
2018年春節(jié)期間,快手用戶單日上傳視頻數(shù)量突破1500萬條,每分鐘上傳視頻的峰值達(dá)到43000條,創(chuàng)歷史新高。這意味著快手原本的2000名內(nèi)容審核員,要在機(jī)器的配合之下,對每天1500萬條視頻內(nèi)容進(jìn)行審核。
“低俗”,是這輪整肅中出現(xiàn)最多的一大“罪名”。但是包括《網(wǎng)絡(luò)安全法》在內(nèi),都沒有對“低俗”的定義和說明。在實際操作中,情色、淫穢、下流好判斷,但低俗和色情就不好判斷。此外,每個平臺對它認(rèn)定的標(biāo)準(zhǔn)都不一樣,比如某些直播平臺,對女主播在直播時,蹺二郎腿的換腿頻率有規(guī)定,多少次以上就屬于性暗示,就涉黃。
睜一只眼閉一只眼
尺度一直是網(wǎng)絡(luò)監(jiān)管的難題。
雖然《網(wǎng)絡(luò)安全法》和去年施行的《互聯(lián)網(wǎng)視聽節(jié)目審核通則》等相關(guān)法律法規(guī)不斷完善,但復(fù)雜的審核標(biāo)準(zhǔn)和多變的違規(guī)內(nèi)容讓審核員頭疼。
更讓他們琢磨不透的是飄忽不定的“內(nèi)部標(biāo)準(zhǔn)”。早在央視曝光低齡孕婦視頻前,李軍和同事就已注意到這類視頻的勢頭。一低齡媽媽哺乳的視頻讓李軍判斷應(yīng)該審掉,雖然畫面并沒有露點。李軍認(rèn)為,哺乳本身沒問題,但把這一行為拍成視頻發(fā)到網(wǎng)上就變了味。但這類視頻“老大”都讓過了,“老大”就是部門領(lǐng)導(dǎo)。
李軍和同事也比較反感社會搖這類視頻,“一天看50部社會搖,你煩不煩?”他們覺得這種視頻沒有營養(yǎng),和低齡媽媽類視頻一樣,容易帶壞未成年人,算低俗,但“老大”也都通過了。
“這類國家沒有明令禁止但內(nèi)容又有些不妥的,老大就睜一只眼閉一只眼。我必須說一句,那些看了腦殘視頻后說我們審核員是腦殘,這種視頻都讓放的,這鍋我們不背?!?/p>
其實,宿華也經(jīng)常糾結(jié),他發(fā)現(xiàn)一位身患罕見貧血病的用戶經(jīng)常以一些出格的方式炒作,獲得關(guān)注和打賞。他知道此人會用這些打賞的錢治病,但有時他博關(guān)注的行為過分了,經(jīng)過權(quán)衡,審核人員還是會刪掉一些內(nèi)容,并通過系統(tǒng)勸誡他。
得知快手招聘審核員的第一時間,阿其投了簡歷。他是共產(chǎn)黨員,大學(xué)專業(yè)是馬克思主義學(xué)院下的行政管理系,他應(yīng)聘這份工作有個私心,因為有過被快手“封號”的經(jīng)歷 ,阿其希望快手能有一些他這樣會少數(shù)民族語言的審核工作者,減少出現(xiàn)類似誤會。
自救運動
卷入了短視頻的“最強(qiáng)整頓”風(fēng)暴后,快手查封了大量違規(guī)賬號,無限期關(guān)閉推薦相似用戶的功能,并將對視頻分級,嚴(yán)格過濾未成年人看到的視頻。截止4月14日,快手已經(jīng)清理問題短視頻31萬條,封禁5.6萬名用戶,清理6.5萬個用戶名。
宿華道歉信中稱,算法的價值觀就是人的價值觀??焓謱?yōu)先推薦個性化的更符合用戶興趣的正能量作品,放大優(yōu)秀作品的影響力。
“快手的審核規(guī)則一定是越來越嚴(yán)的,我們的遞進(jìn)邏輯是,法律法規(guī)為底線,公序良俗為參照,重點打擊低俗三觀不正的內(nèi)容?!笨焓重?fù)責(zé)人說。
“網(wǎng)絡(luò)監(jiān)管全世界都有,是個很正常的事。不過,我們國家的監(jiān)管相對較嚴(yán)?!崩钫袢A說。面對全球性的網(wǎng)絡(luò)監(jiān)管大勢,李振華覺得不管在法律、技術(shù)、產(chǎn)業(yè)和道德倫理等領(lǐng)域,都有很多值得社會各界共同探討和思考的空間。
(王允薦自《看天下》)