亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        互聯(lián)網(wǎng)內(nèi)容“守夜人”

        2018-10-16 06:46:44陳光
        東西南北 2018年14期
        關(guān)鍵詞:內(nèi)容用戶

        陳光

        “大家看到的這個世界是由所有人呈現(xiàn)的,而歷史上我們看到的世界是由少數(shù)人呈現(xiàn)的。今天所有人一起參與呈現(xiàn)這個世界,當(dāng)我們以這樣的方式去觀察和感知這個世界時,背后有一些新的社會問題就出現(xiàn)了”。

        年初至今,李軍經(jīng)歷了一場穿梭于晝夜,險些“摧毀靈魂”的冒險。

        90后的李軍是武漢青山區(qū)人。去年底,他經(jīng)歷5天的封閉培訓(xùn)和考核,簽了保密協(xié)議,成為快手的內(nèi)容審核員。他沒想到,剛?cè)肼?個月,就親歷了一場凈化短視頻平臺的“最強(qiáng)整頓”。

        4月4日,國家廣播電視總局約談快手和今日頭條兩家網(wǎng)站的主要負(fù)責(zé)人,要求其全面清查庫存節(jié)目,立即下線低俗、暴力、色情等有害內(nèi)容,并追究相關(guān)人責(zé)任。約談之后,罰款、下架、永久關(guān)停等幾大監(jiān)管手段齊下,急速發(fā)展后,今日頭條、快手等互聯(lián)網(wǎng)內(nèi)容平臺亟需邁過監(jiān)管這道坎。

        “新的社會問題”

        快手創(chuàng)始人兼CEO宿華沒有出來說任何話,直接道歉。

        4月3日,宿華在其個人微博上發(fā)表長篇文章《接受批評,重整前行》。當(dāng)天,宿華還出現(xiàn)在快手和清華大學(xué)合作成立未來媒體數(shù)據(jù)聯(lián)合研究院的活動上,他說,“大家看到的這個世界是由所有人呈現(xiàn)的,而歷史上我們看到的世界是由少數(shù)人呈現(xiàn)的。今天所有人一起參與呈現(xiàn)這個世界,當(dāng)我們以這樣的方式去觀察和感知這世界時,背后有一些新的社會問題其實就出現(xiàn)了?!?/p>

        這些“新的社會問題”比所有人預(yù)想的嚴(yán)重。

        隨著短視頻平臺壯大,每天都有海量新類型的用戶生成內(nèi)容被上傳到網(wǎng)上。這其中包含不少傳統(tǒng)色情、暴力等分類覆蓋不到的新型違規(guī)內(nèi)容??焓殖闪?年,有7億用戶,審核成了頭等難題。

        3月31日,央視《新聞直播間》節(jié)目報道了快手和今日頭條旗下火山小視頻等短視頻平臺出現(xiàn)大量未成年人懷孕視頻,以未成年人生子為噱頭廣泛傳播,造成不良社會影響。4月3日晚間,新華網(wǎng)微博也發(fā)文《別讓“社會搖”等低俗視頻晃散了你的“詩和遠(yuǎn)方”》?!吧鐣u”是從短視頻平臺興起的一種舞蹈形式,人們跟著強(qiáng)勁的節(jié)奏搖擺,即興發(fā)揮。這類行為引得部分小學(xué)生和中學(xué)生模仿,對校園環(huán)境造成影響。

        就連曾經(jīng)深愛著它們的用戶也開始漸漸對平臺產(chǎn)生反感。北京白領(lǐng)王峰算是快手的老用戶,現(xiàn)實中,他幾乎沒機(jī)會和快手上的網(wǎng)友接觸。他認(rèn)為,是技術(shù)讓這部分人把自己的生活剝出來一部分,拓寬了他的體驗,而且這份分享是真實的,不是演出來的。

        快手、今日頭條旗下的抖音、火山小視頻等都依托于算法推薦,每個用戶的頁面都獨一無二。平臺會根據(jù)用戶點擊的視頻類型,迅速分析用戶感興趣的領(lǐng)域,并馬上推送類似內(nèi)容。

        一開始,王峰對推送的內(nèi)容很滿意。但漸漸地,王峰發(fā)現(xiàn),有時快手會自動向他推薦一些從未關(guān)注過的視頻,如美女主播類,疑似家長拍的小孩子裸體視頻。這觸碰了王峰的底線。他也看到一些低齡孕婦的視頻,他認(rèn)為,這些孕婦并不是記錄真實的日常生活,而是利用自己的身份特點去博眼球、要關(guān)注,是以炒作盈利為目的。

        王峰也一直好奇,算法的背后到底有沒有人工指導(dǎo)?!氨澈笕绻且粋€人的話,這個人是誰?他憑什么?如果真有這么個人,還蠻可怕的。他是算法還是人?”

        “算法有無價值觀”

        “分發(fā)機(jī)制理想狀態(tài)靠算法,實際操作看人工。”一位短視頻運營人員說。據(jù)他介紹,每個大平臺都會從企業(yè)盈利角度推選一些他們認(rèn)為會火的話題,至于這些推送是否低俗則不是企業(yè)的首要考量。

        成立于2012年,今日頭條是國內(nèi)早期以數(shù)據(jù)挖掘技術(shù)和智能推薦算法為核心競爭力迅速壯大的平臺。在這里,“你關(guān)心的,才是頭條”。在去年一場活動上,今日頭條創(chuàng)始人張一鳴稱,“今日頭條不是媒體。我們更關(guān)注信息的吞吐量和信息的多元。我不能準(zhǔn)確判斷這個好還是壞,是高雅還是庸俗。”這翻話讓張一鳴一度陷入輿論漩渦。

        而宿華則一直對算法持謹(jǐn)慎態(tài)度,他說就算法是否有價值觀這個問題,自己想了30年?!靶r候是看科幻里面,經(jīng)常會討論機(jī)器人有沒有意識、價值觀,其實算法本身是沒有價值觀的,但是算法是人去定義、搭建的?!彼f。

        內(nèi)蒙古赤峰市的阿其也是快手用戶。去年大學(xué)畢業(yè), 他在一家牛肉干工廠做車間工人,那時開始用快手,在快手,他發(fā)現(xiàn)了很多設(shè)計簽名的網(wǎng)友,也開始發(fā)自己設(shè)計字體的視頻,有1萬多粉絲,本來通過快手展示才華,找到志趣相同的朋友是件好事,但一些莫名出現(xiàn)的視頻讓他不舒服。

        當(dāng)看到一些穿著暴露的主播視頻時,阿其會根據(jù)系統(tǒng)規(guī)則,選擇減少此類作品出現(xiàn)的功能,但他發(fā)現(xiàn)這種拒絕不管用,類似視頻還會時不時地出現(xiàn)。

        有次,阿其舉報了一位滿身文身,說大量臟話的男網(wǎng)紅,但快手系統(tǒng)回復(fù)他說該用戶被認(rèn)定沒有違規(guī)。

        然而,阿其自己的內(nèi)容卻被判定違規(guī)。他是蒙古族人,有一次在快手直播時用蒙古語和朋友聊天,內(nèi)容是他今天有空,大家可以一起吃飯,每句后面他都用漢語再翻譯一次。當(dāng)時他還放了一首蒙古語的流行歌曲《雨》,歌曲懷念草原上的雨和逝去的愛情。

        這在阿其看來極為平常的內(nèi)容,卻突然收到系統(tǒng)通知:“您的直播A類違規(guī):政治,已被永久封禁直播?!?/p>

        阿其不明白用家鄉(xiāng)話和朋友約飯,放抒情歌曲怎么就和政治有關(guān)了?在違規(guī)申訴中,他寫道,根據(jù)國家法律,自己有權(quán)合法使用民族語言??焓挚烧埗晒耪Z的人回放視頻,絕無任何違法違規(guī)內(nèi)容。

        “守夜人”

        阿其算得上是一樁“冤案”,他的賬號終被解禁。

        而4月10日,今日頭條旗下“內(nèi)涵段子”應(yīng)用程序及公眾號面臨的則是永久關(guān)停,其原因是存在導(dǎo)向不正、格調(diào)低俗等突出問題。

        人民日報微評論稱,“只要價值,不要價值觀,甚至鼓吹‘算法沒有價值觀,就難免出事。產(chǎn)品不能淪為算法的奴隸?!边@次整頓的一項重點內(nèi)容就是對平臺的算法推薦進(jìn)行優(yōu)化,增強(qiáng)審核能力。

        風(fēng)口浪尖上的算法到底是什么?快手CEO宿華曾給了個簡單版本的介紹?!八惴ê诵氖抢斫狻@斫鈨?nèi)容和人的屬性,人和內(nèi)容歷史上的交互數(shù)據(jù),然后通過一個模型,預(yù)估內(nèi)容與用戶之間匹配的程度(也叫特征)。比如有這么幾個人都共同喜歡同樣一個人,我們就會認(rèn)為這些人具備了相同的某個特征?!?/p>

        然而,看似很聰明的算法卻失靈了。當(dāng)前階段,人工智能并不能完全勝任視頻流內(nèi)容的審核,多用于文字內(nèi)容。比如在用戶發(fā)布的帖子、留言、文章中檢測到非法詞匯內(nèi)容,就會刪除這些內(nèi)容,并向用戶發(fā)出警告,甚至直接封號。很多低俗的圖片或者視頻,人工智能無法像識別文字般精準(zhǔn)審核,因而只能成為人工審核員的助手。

        今日頭條內(nèi)容質(zhì)量中心負(fù)責(zé)人、副總編輯李彤也表示,“對于廣告信息,機(jī)器會識別并標(biāo)注;對于標(biāo)題黨,機(jī)器會識別并提醒作者,如果作者不修改,機(jī)器會降低推薦權(quán)重或直接攔截,對于虛假信息、違法信息、色情信息,則主要依靠人工審核?!?/p>

        遇到監(jiān)管這一難題后,今日頭條宣布將審核團(tuán)隊從6000人擴(kuò)大到10000人,“快手”宣布將審核團(tuán)隊從2000人擴(kuò)大到5000人,月薪4000-9000元,都要求“共產(chǎn)黨員優(yōu)先”。目前快手在北京、天津、武漢等六地建有審核中心。

        “你們看不到的,我們都看了?!崩钴娬f從1月入職起,他和同事每天工作12小時,做一天休一天,一個月有4到5次通宵班。忙的時候,每人一天要審核150部視頻,正常的工作量是人均120部,視頻20秒到4分鐘不等,多以兩倍速度快進(jìn)播放,李軍大概每日會遇到40部正常視頻,30部“比較辣眼睛”但不涉及違法內(nèi)容,25部屬于反人類的,15部涉黃,剩下10部血腥暴力。

        高強(qiáng)度熬夜讓一般人扛不住。由于夜晚正是用戶上傳視頻的高峰期,快手相關(guān)負(fù)責(zé)人也指出為高效整改,宿華特地提出了“守夜人”的概念。

        然而,審核人數(shù)還是承載不了瀑布式的視頻量。

        2018年春節(jié)期間,快手用戶單日上傳視頻數(shù)量突破1500萬條,每分鐘上傳視頻的峰值達(dá)到43000條,創(chuàng)歷史新高。這意味著快手原本的2000名內(nèi)容審核員,要在機(jī)器的配合之下,對每天1500萬條視頻內(nèi)容進(jìn)行審核。

        “低俗”,是這輪整肅中出現(xiàn)最多的一大“罪名”。但是包括《網(wǎng)絡(luò)安全法》在內(nèi),都沒有對“低俗”的定義和說明。在實際操作中,情色、淫穢、下流好判斷,但低俗和色情就不好判斷。此外,每個平臺對它認(rèn)定的標(biāo)準(zhǔn)都不一樣,比如某些直播平臺,對女主播在直播時,蹺二郎腿的換腿頻率有規(guī)定,多少次以上就屬于性暗示,就涉黃。

        睜一只眼閉一只眼

        尺度一直是網(wǎng)絡(luò)監(jiān)管的難題。

        雖然《網(wǎng)絡(luò)安全法》和去年施行的《互聯(lián)網(wǎng)視聽節(jié)目審核通則》等相關(guān)法律法規(guī)不斷完善,但復(fù)雜的審核標(biāo)準(zhǔn)和多變的違規(guī)內(nèi)容讓審核員頭疼。

        更讓他們琢磨不透的是飄忽不定的“內(nèi)部標(biāo)準(zhǔn)”。早在央視曝光低齡孕婦視頻前,李軍和同事就已注意到這類視頻的勢頭。一低齡媽媽哺乳的視頻讓李軍判斷應(yīng)該審掉,雖然畫面并沒有露點。李軍認(rèn)為,哺乳本身沒問題,但把這一行為拍成視頻發(fā)到網(wǎng)上就變了味。但這類視頻“老大”都讓過了,“老大”就是部門領(lǐng)導(dǎo)。

        李軍和同事也比較反感社會搖這類視頻,“一天看50部社會搖,你煩不煩?”他們覺得這種視頻沒有營養(yǎng),和低齡媽媽類視頻一樣,容易帶壞未成年人,算低俗,但“老大”也都通過了。

        “這類國家沒有明令禁止但內(nèi)容又有些不妥的,老大就睜一只眼閉一只眼。我必須說一句,那些看了腦殘視頻后說我們審核員是腦殘,這種視頻都讓放的,這鍋我們不背?!?/p>

        其實,宿華也經(jīng)常糾結(jié),他發(fā)現(xiàn)一位身患罕見貧血病的用戶經(jīng)常以一些出格的方式炒作,獲得關(guān)注和打賞。他知道此人會用這些打賞的錢治病,但有時他博關(guān)注的行為過分了,經(jīng)過權(quán)衡,審核人員還是會刪掉一些內(nèi)容,并通過系統(tǒng)勸誡他。

        得知快手招聘審核員的第一時間,阿其投了簡歷。他是共產(chǎn)黨員,大學(xué)專業(yè)是馬克思主義學(xué)院下的行政管理系,他應(yīng)聘這份工作有個私心,因為有過被快手“封號”的經(jīng)歷 ,阿其希望快手能有一些他這樣會少數(shù)民族語言的審核工作者,減少出現(xiàn)類似誤會。

        自救運動

        卷入了短視頻的“最強(qiáng)整頓”風(fēng)暴后,快手查封了大量違規(guī)賬號,無限期關(guān)閉推薦相似用戶的功能,并將對視頻分級,嚴(yán)格過濾未成年人看到的視頻。截止4月14日,快手已經(jīng)清理問題短視頻31萬條,封禁5.6萬名用戶,清理6.5萬個用戶名。

        宿華道歉信中稱,算法的價值觀就是人的價值觀??焓謱?yōu)先推薦個性化的更符合用戶興趣的正能量作品,放大優(yōu)秀作品的影響力。

        “快手的審核規(guī)則一定是越來越嚴(yán)的,我們的遞進(jìn)邏輯是,法律法規(guī)為底線,公序良俗為參照,重點打擊低俗三觀不正的內(nèi)容?!笨焓重?fù)責(zé)人說。

        “網(wǎng)絡(luò)監(jiān)管全世界都有,是個很正常的事。不過,我們國家的監(jiān)管相對較嚴(yán)?!崩钫袢A說。面對全球性的網(wǎng)絡(luò)監(jiān)管大勢,李振華覺得不管在法律、技術(shù)、產(chǎn)業(yè)和道德倫理等領(lǐng)域,都有很多值得社會各界共同探討和思考的空間。

        (王允薦自《看天下》)

        猜你喜歡
        內(nèi)容用戶
        內(nèi)容回顧溫故知新
        內(nèi)容回顧 溫故知新
        內(nèi)容回顧溫故知新
        關(guān)注用戶
        商用汽車(2016年11期)2016-12-19 01:20:16
        主要內(nèi)容
        臺聲(2016年2期)2016-09-16 01:06:53
        關(guān)注用戶
        商用汽車(2016年6期)2016-06-29 09:18:54
        關(guān)注用戶
        商用汽車(2016年4期)2016-05-09 01:23:12
        Camera360:拍出5億用戶
        100萬用戶
        如何獲取一億海外用戶
        午夜精品久久久久久久久| 国产成人自拍小视频在线| 亚洲精品国产二区在线观看| 亚洲高清中文字幕视频| 少妇高潮流白浆在线观看| 亚洲AV日韩AV永久无码电影| 亚洲综合久久一本久道| 国产精品亚洲一区二区三区16| 精品久久久久久久无码人妻热| 五月天精品视频在线观看| 亚洲在线一区二区三区四区| 日本高清视频在线观看一区二区 | 国产成人精品日本亚洲专区6| 国产精品二区三区在线观看| 久久免费看黄a级毛片| 人妻无码αv中文字幕久久琪琪布| 精品无码AⅤ片| av成人资源在线观看| 69国产成人精品午夜福中文| 久久久噜噜噜www成人网| 亚欧免费视频一区二区三区| 少妇熟女天堂网av天堂| 欧美综合天天夜夜久久| 亚洲av成人精品日韩一区| 蜜桃一区二区三区自拍视频| 成人国产激情自拍视频| 伊人久久久精品区aaa片| 国产免费网站看v片元遮挡| 日韩va高清免费视频| 亚洲av中文无码乱人伦下载| 欧美三级乱人伦电影| 亚洲国产精品一区二区第一 | 中文字幕乱码av在线| 亚洲蜜臀av一区二区三区| 天天综合网天天综合色| 日韩女人毛片在线播放| 丝袜美腿在线观看视频| 九色综合九色综合色鬼| 久草视频国产| 亚洲人妻精品一区二区三区| 又黄又爽又无遮挡免费的网站|