鄭見

近日，抖音官方本周發(fā)布公告宣布多舉措預(yù)防網(wǎng)暴，首家上線“評論發(fā)文警示”等功能。

公告顯示，抖音全面升級平臺預(yù)防網(wǎng)暴能力，為用戶提供了8項功能，全方位地管理評論和私信。其中，針對不當(dāng)私信，新上線“風(fēng)險提醒”和“負(fù)向內(nèi)容過濾”等功能；針對已發(fā)送的不當(dāng)評論，即將上線國內(nèi)首個“發(fā)文警示”功能，進行攔截。

數(shù)據(jù)顯示，抖音每天產(chǎn)生8億條評論，其中，被投訴、舉報并最終處理的不當(dāng)評論中，謾罵，人身攻擊占比32.79 %。

針對評論，抖音即將上線國內(nèi)首個“發(fā)文警示”功能。該功能下，若系統(tǒng)模型判定已經(jīng)發(fā)送的評論存在問題，則會推送彈窗提醒，建議發(fā)送者重新編輯，去除不當(dāng)言論。如果發(fā)送者堅持發(fā)送，則該條評論不會在評論區(qū)出現(xiàn)。近期，該功能已開啟小范圍測試。

此前，抖音已上線“評論權(quán)限分層管理”“關(guān)鍵詞屏蔽”“評論精選”3項功能。在“評論權(quán)限分層管理”下，用戶可通過“權(quán)限設(shè)置-高級設(shè)置-誰可以評論”設(shè)置評論權(quán)限，根據(jù)自身需求從“所有人”“僅粉絲”“僅互關(guān)朋友”“僅自己”4個選項中，自主選取誰可以對自己發(fā)布的內(nèi)容進行評論。

私信方面，抖音新增“用戶風(fēng)險提醒”和“負(fù)向內(nèi)容過濾”兩大功能。在“用戶風(fēng)險提醒”功能下，當(dāng)系統(tǒng)模型識別發(fā)現(xiàn)，用戶剛接收的陌生人私信存在風(fēng)險時，會對用戶推送彈窗，提示其“是否認(rèn)識該用戶”。如果用戶選擇“不認(rèn)識”，系統(tǒng)會再次彈窗，提示用戶可進行“拉黑、舉報、移除粉絲”等操作。目前，該功能日均會對25萬次會話發(fā)出風(fēng)險提示。

在“負(fù)向內(nèi)容過濾”功能下，當(dāng)模型判定用戶收到的私信消息為“謾罵或騷擾”，該消息會被直接放入“陌生人盒子—垃圾信息”中。此外，抖音還推出了“心情暖寶寶”助手，可以根據(jù)用戶內(nèi)容情緒傾向，通過消息對話的交互方式，緩解用戶的負(fù)向情緒。