張馨予
近幾年,因網(wǎng)暴而造成的悲劇性事件時有發(fā)生,一方面是各類反網(wǎng)暴措施不斷升級,另一方面是網(wǎng)暴的形態(tài)不斷更新,如何整治網(wǎng)暴受到全社會高度關(guān)注。
習近平總書記在黨的二十大報告中指出,要“健全網(wǎng)絡綜合治理體系,推動形成良好網(wǎng)絡生態(tài)”。
中央網(wǎng)信辦近日發(fā)布了《關(guān)于切實加強網(wǎng)絡暴力治理的通知》(以下簡稱《通知》)。提出要建立健全網(wǎng)暴預警預防機制,強化網(wǎng)暴當事人保護,依法從嚴處置處罰。
《通知》中這樣描述網(wǎng)絡暴力:“針對個人集中發(fā)布侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息,侵害他人合法權(quán)益,擾亂正常的網(wǎng)絡秩序。”
國家互聯(lián)網(wǎng)信息辦公室咨詢專家、中國傳媒大學人類命運共同體研究院副院長王四新告訴《中國新聞周刊》,《通知》出臺的背景,是網(wǎng)絡暴力的社會影響日益擴大,嚴重敗壞網(wǎng)絡空間言論生態(tài)和信息生態(tài)。
中央網(wǎng)信辦對網(wǎng)暴一直保持著高壓治理態(tài)勢。早在今年4月,中央網(wǎng)信辦就部署開展了“清朗·網(wǎng)絡暴力專項治理行動”,主要聚焦網(wǎng)絡暴力易發(fā)多發(fā)、社會影響力大的新浪微博、抖音等18家平臺,通過建立完善監(jiān)測識別、實時保護、干預處置等措施,進行全鏈條治理。
8月23日,在國務院新聞辦舉行的新聞發(fā)布會上,中央網(wǎng)信辦(國家網(wǎng)信辦)副主任盛榮華曾表示,在集中力量整治網(wǎng)絡暴力、網(wǎng)絡水軍、網(wǎng)絡黑公關(guān)這些問題時,中央網(wǎng)信辦針對不同類型網(wǎng)絡亂象的特點,抓住要害、對癥下藥。
在最新印發(fā)的《通知》中,中央網(wǎng)信辦提出要“進一步壓實網(wǎng)站平臺主體責任”。
“加強平臺自律,強化平臺的相關(guān)職責,有助于遏制網(wǎng)絡暴力現(xiàn)象?!蓖趵魇侵袊▽W會副會長、中國人民大學教授,他對《中國新聞周刊》說,平臺掌握關(guān)鍵信息的基礎(chǔ)設施,也有一定的技術(shù)手段應對網(wǎng)暴,實際上已經(jīng)是獲得了一定權(quán)力的“準監(jiān)管機構(gòu)”,因此需多發(fā)揮平臺的監(jiān)管責任。
王四新認為,加強網(wǎng)暴治理是平臺必要的付出,也是平臺維持安全運營的基礎(chǔ)性要求。
實際上,對平臺而言治理網(wǎng)暴并不是一種沒有回報的付出,因為良好的平臺氛圍也是競爭力之一。知乎社區(qū)治理業(yè)務負責人告訴《中國新聞周刊》,平臺內(nèi),以問答為主導的內(nèi)容形式使得用戶間的互動行為頻繁,在觀點的碰撞中,用戶間的摩擦、爭論在所難免,在這樣的背景下,知乎希望能夠維持一個友善的社區(qū)氛圍,“在平臺上,如果大家都友善進行互動,認認真真回答,社區(qū)才能繁榮起來,商業(yè)化道路也會比較好走?!?/p>
在王四新看來,中央網(wǎng)信辦印發(fā)的《通知》為網(wǎng)站平臺規(guī)定了較為細化的治理網(wǎng)暴的措施,指導性較強,“等于是給平臺出了一份操作方案”,“以前平臺可能不知道怎么去解決網(wǎng)絡暴力問題,但現(xiàn)在有了這個方案,平臺就可以有針對性地落實平臺的跟進措施?!?/p>
《通知》對網(wǎng)絡暴力給出了描述性定義,但沒有給出明確的定義。王四新表示,這并不妨礙平臺和用戶對網(wǎng)絡暴力的認知,因為網(wǎng)絡暴力在網(wǎng)絡空間太普遍了,每個人都幾乎經(jīng)歷過,《通知》對實施網(wǎng)絡暴力方式的列舉,有助于平臺和用戶更準確地對這個問題進行把握。
中央網(wǎng)信辦印發(fā)的《通知>網(wǎng)站平臺規(guī)定了較為細化的治理網(wǎng)絡暴力的措施,指導性較強,“等于是給平臺出了一份操作方案”,“以前沒有這種操作方案,平臺可能不知道怎么去解決網(wǎng)絡暴力問題,但現(xiàn)在有了這個方案,平臺就可以按照這個方案去針對性地落實平臺的跟進措施。”
一位抖音安全產(chǎn)品經(jīng)理對《中國新聞周刊》說,網(wǎng)暴與“非網(wǎng)暴”在很多時候難以區(qū)分,這對平臺來說是監(jiān)測和排查網(wǎng)暴的一大困難。一位業(yè)內(nèi)人士說,由于缺乏認定標準,行業(yè)內(nèi)的多個網(wǎng)站平臺在監(jiān)測網(wǎng)絡暴力時,還是按照自己的理解在做。
中國政法大學比較法學研究院教授劉文杰對《中國新聞周刊》說,要區(qū)分正常言論表達與網(wǎng)絡暴力確實存在困難。
目前,各個平臺幾乎都根據(jù)中央網(wǎng)信辦的指導意見和平臺特征,總結(jié)了一套對網(wǎng)暴內(nèi)容和行為的判定體系。
例如,知乎會判定為網(wǎng)暴內(nèi)容和行為的,包括泄露他人隱私、煽動網(wǎng)友對他人進行無根據(jù)地扣帽子、貼負面標簽,使用包含臟話、蔑稱等言語對他人進行辱罵攻擊,無視對方意愿對他人進行惡意騷擾等。豆瓣的判定體系包括使用不雅粗俗的詞匯攻擊他人、諷刺挑釁他人、抬杠拱火、煽動眾人情緒、對個人或群體持歧視偏見的態(tài)度等。
上述抖音安全產(chǎn)品經(jīng)理表示,抖音會嚴格處理詛咒、咒罵等突破底線的違反公序良俗的內(nèi)容,沒有真實依據(jù)、造謠、傳謠、污蔑他人的內(nèi)容,人肉搜索、違規(guī)曝光和傳播當事人隱私信息的內(nèi)容,以及事件中對當事人周邊無關(guān)人員、物品的曝光與無端指責。
不難發(fā)現(xiàn),各個平臺總結(jié)的網(wǎng)絡暴力標準體系,仍需要其進行相當程度的主觀判斷。王利明建議,國家網(wǎng)信部門在其職權(quán)范圍內(nèi)可以制定一些細則,規(guī)定網(wǎng)絡平臺在處理相關(guān)侵權(quán)信息時的處理標準、處理流程等事項。
將網(wǎng)絡暴力的風險扼殺在萌芽階段,是治理網(wǎng)暴的理想狀態(tài)。
王四新認為,“預防”是治理網(wǎng)絡暴力最重要的一個環(huán)節(jié)。在中央網(wǎng)信辦的《通知》中,“建立健全網(wǎng)暴預警預防機制”也被放到了第一項。
根據(jù)《通知》,中央網(wǎng)信辦要求網(wǎng)站平臺加強內(nèi)容識別預警。目前,各個網(wǎng)站平臺都擁有一套對存在網(wǎng)暴風險的信息內(nèi)容進行識別和過濾的手段。
前述抖音安全產(chǎn)品經(jīng)理對《中國新聞周刊》說,在內(nèi)容識別方面,抖音會根據(jù)相關(guān)內(nèi)容語境、評論、背景等進行綜合研判,包括機器研判和人工研判,平臺已經(jīng)研發(fā)了一些智能識別模型,目前線上已經(jīng)有100多個模型在運營,會提前攔截侮辱辱罵內(nèi)容。
抖音方面認為,評論是網(wǎng)暴的“重災區(qū)”,如果評論區(qū)的內(nèi)容被模型判定為不當評論,平臺將反復提醒內(nèi)容有風險,直至用戶最終修改。
知乎則會根據(jù)內(nèi)容的違規(guī)程度,限制內(nèi)容的展示范圍。知乎社區(qū)治理業(yè)務負責人說,對于不友善的內(nèi)容,平臺會對其進行折疊,降低其在社區(qū)里曝光的機會。明顯帶有侮辱性質(zhì)的語言,會被平臺刪除。
微博社區(qū)負責人對《中國新聞周刊》說,微博建立了一套關(guān)鍵詞詞庫,分為A、B、C三個級別,包括各類臟話和“綠茶婊”“怎么還不去死”等不友善詞匯,并且設置了126個禁發(fā)關(guān)鍵詞,用戶發(fā)布內(nèi)容觸及這些關(guān)鍵詞時會出現(xiàn)彈窗,提醒用戶要友善評論,并且內(nèi)容無法發(fā)出。
這位微博社區(qū)負責人說,關(guān)鍵詞詞庫會不斷更新,“比如涉及飯圈的討論會有很多黑話,隨著時事熱點的出現(xiàn),也會有很多新造的詞語?!备鶕?jù)微博于8月10日發(fā)布的《微博網(wǎng)暴治理報告》,截至7月31日,微博添加的網(wǎng)暴關(guān)鍵詞有700余個。
盡管各個平臺在關(guān)鍵詞策略等識別技術(shù)上都有相當?shù)耐度?,但在平臺看來,機器審核仍然只能承擔一部分工作,人工審核不能被替代。
王四新認為,“預防”是治理網(wǎng)絡暴力的過程中最重要的一個環(huán)節(jié)。在中央網(wǎng)信辦的《通知》中,“建立健全網(wǎng)暴預警預防機制”也被放到了第一項。
根據(jù)《通知》,中央網(wǎng)信辦也要求網(wǎng)站平臺建立涉網(wǎng)暴輿情應急響應機制,即組織專門力量,及時收集網(wǎng)暴相關(guān)熱點話題和輿情線索,并發(fā)現(xiàn)網(wǎng)暴異常行為。
以微博為例,其設立了7×24小時專項巡查小組,有專門的工作人員進行巡查,同時優(yōu)化關(guān)鍵詞策略。
微博社區(qū)負責人說,針對一些可能會產(chǎn)生網(wǎng)暴相關(guān)輿情的事件,微博還會派更多人手在話題落地頁進行監(jiān)測。
對于參與網(wǎng)暴的賬號,微博、抖音、豆瓣、知乎等各個平臺有類似的處罰機制,即根據(jù)行為程度的不同作出刪除言論、短暫禁言、永久禁言、封禁賬號等處理。
抖音在2022年1月至6月共攔截了9218萬條不當信息,封禁及禁言賬號11348個。微博在2022年4月24日至7月31日處置內(nèi)容1931萬余條,其中占比最大的三類內(nèi)容是粗俗冒犯類、煽動情緒類、譏諷內(nèi)容類,處置賬號1.8萬余個。
不過,在平臺不斷加強對于用戶言論的審查時,另一種擔憂自然而然地出現(xiàn)了。研究互聯(lián)網(wǎng)法和版權(quán)法的劉文杰認為,如果平臺對用戶言論的事前過濾多了,會對言論自由造成較大的損害。
“平臺的事前審查不是不可以,但是一定要謹慎?!痹趧⑽慕芸磥?,“通知-移除”這樣的事后監(jiān)管模式應該起主要作用,事前過濾不僅要謹慎使用,還要盡可能確保算法識別的準確度。
“通知-移除規(guī)則”始于1998年美國《千禧年數(shù)字版權(quán)法》,在該規(guī)則下,如果網(wǎng)暴受害者告知平臺出現(xiàn)侮辱、誹謗等違法信息,并提供足夠充分的材料,平臺進行移除即可。
但“通知-移除”規(guī)則的有效性也遭到質(zhì)疑。北京師范大學亞太網(wǎng)絡法律研究中心主任劉德良認為,該規(guī)則不符合網(wǎng)絡時代信息傳播的規(guī)律,無法有效阻止網(wǎng)絡暴力中侵權(quán)信息的發(fā)布和后續(xù)傳播。
“侵權(quán)人發(fā)布信息和受害人通知平臺或者平臺巡查到侵權(quán)信息中間總有時間差,比如說有人把受害人的裸照發(fā)到網(wǎng)上,一旦發(fā)布了,傳播的范圍既無法控制也無法預測,平臺事后再刪除已經(jīng)沒有什么意義?!?劉德良認為,平臺應該承擔事先審查義務。
為加大網(wǎng)暴治理力度,《通知》要求網(wǎng)站平臺通過一系列措施強化對網(wǎng)暴當事人的保護,包括優(yōu)化私信規(guī)則,防范網(wǎng)暴內(nèi)容通過私信傳輸。
《中國新聞周刊》了解到,近段時間以來,許多網(wǎng)站平臺已經(jīng)對私信功能進行了更新。以豆瓣、微博、小紅書為例,未互相關(guān)注且24小時內(nèi)未有過私信往來的陌生人,在得到用戶自己回復前只能發(fā)出一條私信。另外,用戶均可以設置私信的范圍,可選范圍包括所有人、自己關(guān)注的人、互相關(guān)注的人和禁止私信。
一些平臺還有更為嚴格的私信規(guī)則。在豆瓣,新注冊用戶或近期有過違規(guī)的用戶,無法直接向陌生人發(fā)送私信消息,需要通過“打招呼”并得到回應后,才可發(fā)送私信。
抖音則在今年上半年推出了私信臨時對話功能,陌生人每次只能向單個用戶發(fā)送一條申請信息,用戶回復后,陌生人才能與其臨時對話,有效期為 24 小時,超時后重新申請。
2022年以來,包括微博、抖音、豆瓣、知乎、小紅書、B站在內(nèi)的多個平臺推出了“一鍵防護”的功能,即讓用戶一段時間內(nèi)(通常是7天或14天)不會接受未關(guān)注人的私信、評論和轉(zhuǎn)發(fā)信息?!霸O置一鍵防護功能”也被寫進了《通知》,作為中央網(wǎng)信辦對更多網(wǎng)站平臺的要求。
微博方面對《中國新聞周刊》表示,一鍵防護功能是讓用戶進行自我保護的應急措施,當用戶遭受大量攻擊時,該功能將未關(guān)注人的各類信息屏蔽,“就像戴上降噪耳機,讓用戶感知不到網(wǎng)絡暴力的信息?!?/p>
防止用戶的個人信息被窺視、挖掘并被二次造謠,是網(wǎng)站平臺治理網(wǎng)暴的另一個方向。
在豆瓣,用戶可以對個人主頁的信息展示設置可見范圍,例如對未關(guān)注的人或關(guān)注不滿三十天的人,僅對其展示半年內(nèi)的10條動態(tài),而在用戶開啟“應急防護模式”后,他人將無法關(guān)注自己,只有關(guān)注的人才可以查看自己的個人主頁內(nèi)容。在微博,用戶可以將可見時間范圍設置為“最近半年”。
減少用戶個人信息的曝光可以有效治理網(wǎng)暴,但從另一方面來說,“透明化上網(wǎng)”乃至于網(wǎng)絡實名制,一直以來都備受推崇,被一部分人認為有助于減少網(wǎng)暴事件,理由是人在實名時的發(fā)言更加理性。
劉文杰認為,對前臺實名制仍需審慎評估,不宜高估前臺實名的震懾效果,因為個人處于人群之中容易受到群體行為驅(qū)使,“法不責眾”的心理仍會讓其對行為不受懲罰存有僥幸,并且“完全的實名制,意味著網(wǎng)絡個人信息的披露,一定程度上為日后的網(wǎng)絡暴力埋下隱患”。
當網(wǎng)暴信息仍然難以避免地傳達給了網(wǎng)暴當事人,舉報成為了個人最后的選擇。
《通知》要求平臺建立快速舉報通道,并堅持最有利于未成年人的原則,優(yōu)先處理涉未成年人網(wǎng)暴舉報。
自中央網(wǎng)信辦開展網(wǎng)絡暴力專項治理行動后,多個平臺都在舉報類型中添加了“網(wǎng)絡暴力”的選項。另外,平臺幾乎都增加了“一鍵取證”的功能,方便用戶快速搜集證據(jù)進行投訴。例如豆瓣用戶進行網(wǎng)絡暴力投訴時,平臺會自動將最近的20條對話生成證據(jù)照片,B站用戶舉報私信內(nèi)容時,可選擇將被舉報人的近期5條信息一并提交。
但劉文杰也表示,舉報不能被濫用,如果舉報方三番五次進行惡意投訴,而被舉報方不存在問題,可以采取降低舉報方信用評級等相應措施。
王利明還認為,平臺應當鼓勵當事人及時回應,并為當事人回應提供便利?!八自捳f,‘造謠一張嘴,辟謠跑斷腿’,在互聯(lián)網(wǎng)時代,在哪里辟謠最合適?應當說在哪里發(fā)出的謠言信息,在哪里澄清最為合適?!?/p>
只靠平臺和監(jiān)管部門防范網(wǎng)絡暴力是不夠的,要從根本解決網(wǎng)暴行為還需要法律規(guī)制。
從立法上看,民法、行政法和刑法上都有關(guān)于網(wǎng)絡暴力治理的法律規(guī)定。王利明表示,民法典新設了禁令制度,主要目的就在于及時制止相關(guān)的網(wǎng)絡侵權(quán)行為,防止損害后果的持續(xù)發(fā)酵。在符合禁令制度的適用條件時,司法機關(guān)應當允許受害人申請禁令。從實踐來看,禁令制度的適用情況較少,王利明認為,主要原因在于《民法典》關(guān)于禁令適用條件的規(guī)定并不清晰,這就需要盡快出臺相關(guān)的司法解釋。
在中國刑法體系中,與網(wǎng)絡暴力相關(guān)的有侮辱誹謗罪、侵犯公民個人信息罪和尋釁滋事罪等規(guī)定。
但在西南政法大學教授石經(jīng)??磥恚袊蓪τ诰W(wǎng)暴仍存在規(guī)制不足的問題,“雖然刑法中有侮辱誹謗罪等規(guī)定,但這些規(guī)定都是或?qū)嵸|(zhì)上是以傳統(tǒng)暴力行為方式為規(guī)制對象的,與網(wǎng)絡暴力的行為特征并不兼容?!笔?jīng)海表示,在實務中,難以將“網(wǎng)絡暴力”行為認定為相應犯罪和追究其刑事責任。
在現(xiàn)實層面,當受害者決定拿起法律武器,起訴網(wǎng)暴者,確實會遇到很多難題。
首先是證據(jù)收集方面,網(wǎng)絡暴力的取證十分困難。石經(jīng)海認為,網(wǎng)絡暴力的取證不同于其他的自訴案件,網(wǎng)絡環(huán)境復雜,甚至發(fā)動攻擊的人是誰都難以確定,在沒有相關(guān)部門協(xié)助的情況下,證據(jù)極其容易滅失,以致案件不了了之。
另外,在犯罪認定方面,網(wǎng)絡暴力難以對應刑法相關(guān)犯罪的構(gòu)成特征。王利明說,網(wǎng)絡暴力往往由多人參加,除了個別主犯以外,大多數(shù)網(wǎng)民可能對于事實真相并不知情,存在人云亦云的現(xiàn)象,網(wǎng)絡暴力的嚴重后果也往往是通過相當數(shù)量網(wǎng)民實施的跟帖評論等行為累加形成的,單個網(wǎng)民的行為可能并不太嚴重,因此對于“情節(jié)嚴重”如何認定等方面往往存在疑難之處。
僅對參與網(wǎng)絡暴力的人進行法律約束,還不足夠。不少網(wǎng)暴事件中有網(wǎng)絡水軍推波助瀾的身影。打擊互聯(lián)網(wǎng)黑灰產(chǎn),對于減少網(wǎng)絡暴力也會起到重要作用。
還有越來越多專家呼吁針對網(wǎng)絡暴力進行專門性立法。2022年全國兩會期間,全國政協(xié)委員王學坤表示,中國立法關(guān)于網(wǎng)絡暴力的規(guī)定發(fā)布在民法典、刑法、治安管理處罰法、網(wǎng)絡安全法等法律中,規(guī)定比較零散,建議采取專門化、體系化的集中立法來應對網(wǎng)絡暴力。
石經(jīng)海認為,應該增設“網(wǎng)絡暴力罪”,這是出于兩個方面的考慮,一是網(wǎng)絡暴力行為與傳統(tǒng)暴力行為有著本質(zhì)的不同,刑法中現(xiàn)有的相關(guān)犯罪在構(gòu)成特征上難以對接這些特征;二是想突出罪名的行為規(guī)范效果,也就是通過這個罪名,讓民眾清楚地知道實施網(wǎng)絡暴力是犯罪行為。
不過,關(guān)于是否需要通過專門立法治理網(wǎng)絡暴力,仍存在爭議。在王利明看來,針對網(wǎng)絡暴力專項立法必要性不大,“雖然網(wǎng)絡暴力亟需法律規(guī)制,但治理網(wǎng)絡暴力并非無法可依?!蓖趵髡J為,當前需要做的是如何切實貫徹好、實施好、落實好《民法典》等法律規(guī)定。
劉文杰說,治理網(wǎng)絡暴力,除了平臺要采取治理措施,執(zhí)法部門要對嚴重網(wǎng)絡暴力事件中的主要行為人給予相應的處罰,還要培養(yǎng)網(wǎng)絡用戶文明發(fā)言的習慣,“長遠來看,提高網(wǎng)絡用戶的網(wǎng)絡素養(yǎng),是根本上的治理方法,也是更可持續(xù)的方法?!?/p>