張馨予

近幾年，因網(wǎng)暴而造成的悲劇性事件時有發(fā)生，一方面是各類反網(wǎng)暴措施不斷升級，另一方面是網(wǎng)暴的形態(tài)不斷更新，如何整治網(wǎng)暴受到全社會高度關(guān)注。

習近平總書記在黨的二十大報告中指出，要“健全網(wǎng)絡綜合治理體系，推動形成良好網(wǎng)絡生態(tài)”。

中央網(wǎng)信辦近日發(fā)布了《關(guān)于切實加強網(wǎng)絡暴力治理的通知》（以下簡稱《通知》）。提出要建立健全網(wǎng)暴預警預防機制，強化網(wǎng)暴當事人保護，依法從嚴處置處罰。

《通知》中這樣描述網(wǎng)絡暴力：“針對個人集中發(fā)布侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息，侵害他人合法權(quán)益，擾亂正常的網(wǎng)絡秩序。”

國家互聯(lián)網(wǎng)信息辦公室咨詢專家、中國傳媒大學人類命運共同體研究院副院長王四新告訴《中國新聞周刊》，《通知》出臺的背景，是網(wǎng)絡暴力的社會影響日益擴大，嚴重敗壞網(wǎng)絡空間言論生態(tài)和信息生態(tài)。

中央網(wǎng)信辦對網(wǎng)暴一直保持著高壓治理態(tài)勢。早在今年4月，中央網(wǎng)信辦就部署開展了“清朗·網(wǎng)絡暴力專項治理行動”，主要聚焦網(wǎng)絡暴力易發(fā)多發(fā)、社會影響力大的新浪微博、抖音等18家平臺，通過建立完善監(jiān)測識別、實時保護、干預處置等措施，進行全鏈條治理。

8月23日，在國務院新聞辦舉行的新聞發(fā)布會上，中央網(wǎng)信辦（國家網(wǎng)信辦）副主任盛榮華曾表示，在集中力量整治網(wǎng)絡暴力、網(wǎng)絡水軍、網(wǎng)絡黑公關(guān)這些問題時，中央網(wǎng)信辦針對不同類型網(wǎng)絡亂象的特點，抓住要害、對癥下藥。

在最新印發(fā)的《通知》中，中央網(wǎng)信辦提出要“進一步壓實網(wǎng)站平臺主體責任”。

“加強平臺自律，強化平臺的相關(guān)職責，有助于遏制網(wǎng)絡暴力現(xiàn)象?！蓖趵魇侵袊▽W會副會長、中國人民大學教授，他對《中國新聞周刊》說，平臺掌握關(guān)鍵信息的基礎(chǔ)設施，也有一定的技術(shù)手段應對網(wǎng)暴，實際上已經(jīng)是獲得了一定權(quán)力的“準監(jiān)管機構(gòu)”，因此需多發(fā)揮平臺的監(jiān)管責任。

王四新認為，加強網(wǎng)暴治理是平臺必要的付出，也是平臺維持安全運營的基礎(chǔ)性要求。

實際上，對平臺而言治理網(wǎng)暴并不是一種沒有回報的付出，因為良好的平臺氛圍也是競爭力之一。知乎社區(qū)治理業(yè)務負責人告訴《中國新聞周刊》，平臺內(nèi)，以問答為主導的內(nèi)容形式使得用戶間的互動行為頻繁，在觀點的碰撞中，用戶間的摩擦、爭論在所難免，在這樣的背景下，知乎希望能夠維持一個友善的社區(qū)氛圍，“在平臺上，如果大家都友善進行互動，認認真真回答，社區(qū)才能繁榮起來，商業(yè)化道路也會比較好走?！?/p>

在王四新看來，中央網(wǎng)信辦印發(fā)的《通知》為網(wǎng)站平臺規(guī)定了較為細化的治理網(wǎng)暴的措施，指導性較強，“等于是給平臺出了一份操作方案”，“以前平臺可能不知道怎么去解決網(wǎng)絡暴力問題，但現(xiàn)在有了這個方案，平臺就可以有針對性地落實平臺的跟進措施?！?/p>

《通知》對網(wǎng)絡暴力給出了描述性定義，但沒有給出明確的定義。王四新表示，這并不妨礙平臺和用戶對網(wǎng)絡暴力的認知，因為網(wǎng)絡暴力在網(wǎng)絡空間太普遍了，每個人都幾乎經(jīng)歷過，《通知》對實施網(wǎng)絡暴力方式的列舉，有助于平臺和用戶更準確地對這個問題進行把握。

中央網(wǎng)信辦印發(fā)的《通知>網(wǎng)站平臺規(guī)定了較為細化的治理網(wǎng)絡暴力的措施，指導性較強，“等于是給平臺出了一份操作方案”，“以前沒有這種操作方案，平臺可能不知道怎么去解決網(wǎng)絡暴力問題，但現(xiàn)在有了這個方案，平臺就可以按照這個方案去針對性地落實平臺的跟進措施。”

一位抖音安全產(chǎn)品經(jīng)理對《中國新聞周刊》說，網(wǎng)暴與“非網(wǎng)暴”在很多時候難以區(qū)分，這對平臺來說是監(jiān)測和排查網(wǎng)暴的一大困難。一位業(yè)內(nèi)人士說，由于缺乏認定標準，行業(yè)內(nèi)的多個網(wǎng)站平臺在監(jiān)測網(wǎng)絡暴力時，還是按照自己的理解在做。

中國政法大學比較法學研究院教授劉文杰對《中國新聞周刊》說，要區(qū)分正常言論表達與網(wǎng)絡暴力確實存在困難。

目前，各個平臺幾乎都根據(jù)中央網(wǎng)信辦的指導意見和平臺特征，總結(jié)了一套對網(wǎng)暴內(nèi)容和行為的判定體系。

例如，知乎會判定為網(wǎng)暴內(nèi)容和行為的，包括泄露他人隱私、煽動網(wǎng)友對他人進行無根據(jù)地扣帽子、貼負面標簽，使用包含臟話、蔑稱等言語對他人進行辱罵攻擊，無視對方意愿對他人進行惡意騷擾等。豆瓣的判定體系包括使用不雅粗俗的詞匯攻擊他人、諷刺挑釁他人、抬杠拱火、煽動眾人情緒、對個人或群體持歧視偏見的態(tài)度等。

上述抖音安全產(chǎn)品經(jīng)理表示，抖音會嚴格處理詛咒、咒罵等突破底線的違反公序良俗的內(nèi)容，沒有真實依據(jù)、造謠、傳謠、污蔑他人的內(nèi)容，人肉搜索、違規(guī)曝光和傳播當事人隱私信息的內(nèi)容，以及事件中對當事人周邊無關(guān)人員、物品的曝光與無端指責。

不難發(fā)現(xiàn)，各個平臺總結(jié)的網(wǎng)絡暴力標準體系，仍需要其進行相當程度的主觀判斷。王利明建議，國家網(wǎng)信部門在其職權(quán)范圍內(nèi)可以制定一些細則，規(guī)定網(wǎng)絡平臺在處理相關(guān)侵權(quán)信息時的處理標準、處理流程等事項。

將網(wǎng)絡暴力的風險扼殺在萌芽階段，是治理網(wǎng)暴的理想狀態(tài)。

王四新認為，“預防”是治理網(wǎng)絡暴力最重要的一個環(huán)節(jié)。在中央網(wǎng)信辦的《通知》中，“建立健全網(wǎng)暴預警預防機制”也被放到了第一項。

根據(jù)《通知》，中央網(wǎng)信辦要求網(wǎng)站平臺加強內(nèi)容識別預警。目前，各個網(wǎng)站平臺都擁有一套對存在網(wǎng)暴風險的信息內(nèi)容進行識別和過濾的手段。

前述抖音安全產(chǎn)品經(jīng)理對《中國新聞周刊》說，在內(nèi)容識別方面，抖音會根據(jù)相關(guān)內(nèi)容語境、評論、背景等進行綜合研判，包括機器研判和人工研判，平臺已經(jīng)研發(fā)了一些智能識別模型，目前線上已經(jīng)有100多個模型在運營，會提前攔截侮辱辱罵內(nèi)容。

抖音方面認為，評論是網(wǎng)暴的“重災區(qū)”，如果評論區(qū)的內(nèi)容被模型判定為不當評論，平臺將反復提醒內(nèi)容有風險，直至用戶最終修改。

知乎則會根據(jù)內(nèi)容的違規(guī)程度，限制內(nèi)容的展示范圍。知乎社區(qū)治理業(yè)務負責人說，對于不友善的內(nèi)容，平臺會對其進行折疊，降低其在社區(qū)里曝光的機會。明顯帶有侮辱性質(zhì)的語言，會被平臺刪除。

微博社區(qū)負責人對《中國新聞周刊》說，微博建立了一套關(guān)鍵詞詞庫，分為A、B、C三個級別，包括各類臟話和“綠茶婊”“怎么還不去死”等不友善詞匯，并且設置了126個禁發(fā)關(guān)鍵詞，用戶發(fā)布內(nèi)容觸及這些關(guān)鍵詞時會出現(xiàn)彈窗，提醒用戶要友善評論，并且內(nèi)容無法發(fā)出。

這位微博社區(qū)負責人說，關(guān)鍵詞詞庫會不斷更新，“比如涉及飯圈的討論會有很多黑話，隨著時事熱點的出現(xiàn)，也會有很多新造的詞語?！备鶕?jù)微博于8月10日發(fā)布的《微博網(wǎng)暴治理報告》，截至7月31日，微博添加的網(wǎng)暴關(guān)鍵詞有700余個。

盡管各個平臺在關(guān)鍵詞策略等識別技術(shù)上都有相當?shù)耐度?，但在平臺看來，機器審核仍然只能承擔一部分工作，人工審核不能被替代。

王四新認為，“預防”是治理網(wǎng)絡暴力的過程中最重要的一個環(huán)節(jié)。在中央網(wǎng)信辦的《通知》中，“建立健全網(wǎng)暴預警預防機制”也被放到了第一項。

根據(jù)《通知》，中央網(wǎng)信辦也要求網(wǎng)站平臺建立涉網(wǎng)暴輿情應急響應機制，即組織專門力量，及時收集網(wǎng)暴相關(guān)熱點話題和輿情線索，并發(fā)現(xiàn)網(wǎng)暴異常行為。

以微博為例，其設立了7×24小時專項巡查小組，有專門的工作人員進行巡查，同時優(yōu)化關(guān)鍵詞策略。

微博社區(qū)負責人說，針對一些可能會產(chǎn)生網(wǎng)暴相關(guān)輿情的事件，微博還會派更多人手在話題落地頁進行監(jiān)測。

對于參與網(wǎng)暴的賬號，微博、抖音、豆瓣、知乎等各個平臺有類似的處罰機制，即根據(jù)行為程度的不同作出刪除言論、短暫禁言、永久禁言、封禁賬號等處理。

抖音在2022年1月至6月共攔截了9218萬條不當信息，封禁及禁言賬號11348個。微博在2022年4月24日至7月31日處置內(nèi)容1931萬余條，其中占比最大的三類內(nèi)容是粗俗冒犯類、煽動情緒類、譏諷內(nèi)容類，處置賬號1.8萬余個。

不過，在平臺不斷加強對于用戶言論的審查時，另一種擔憂自然而然地出現(xiàn)了。研究互聯(lián)網(wǎng)法和版權(quán)法的劉文杰認為，如果平臺對用戶言論的事前過濾多了，會對言論自由造成較大的損害。

“平臺的事前審查不是不可以，但是一定要謹慎?！痹趧⑽慕芸磥?，“通知-移除”這樣的事后監(jiān)管模式應該起主要作用，事前過濾不僅要謹慎使用，還要盡可能確保算法識別的準確度。

“通知-移除規(guī)則”始于1998年美國《千禧年數(shù)字版權(quán)法》，在該規(guī)則下，如果網(wǎng)暴受害者告知平臺出現(xiàn)侮辱、誹謗等違法信息，并提供足夠充分的材料，平臺進行移除即可。

但“通知-移除”規(guī)則的有效性也遭到質(zhì)疑。北京師范大學亞太網(wǎng)絡法律研究中心主任劉德良認為，該規(guī)則不符合網(wǎng)絡時代信息傳播的規(guī)律，無法有效阻止網(wǎng)絡暴力中侵權(quán)信息的發(fā)布和后續(xù)傳播。

“侵權(quán)人發(fā)布信息和受害人通知平臺或者平臺巡查到侵權(quán)信息中間總有時間差，比如說有人把受害人的裸照發(fā)到網(wǎng)上，一旦發(fā)布了，傳播的范圍既無法控制也無法預測，平臺事后再刪除已經(jīng)沒有什么意義?！?劉德良認為，平臺應該承擔事先審查義務。

為加大網(wǎng)暴治理力度，《通知》要求網(wǎng)站平臺通過一系列措施強化對網(wǎng)暴當事人的保護，包括優(yōu)化私信規(guī)則，防范網(wǎng)暴內(nèi)容通過私信傳輸。

《中國新聞周刊》了解到，近段時間以來，許多網(wǎng)站平臺已經(jīng)對私信功能進行了更新。以豆瓣、微博、小紅書為例，未互相關(guān)注且24小時內(nèi)未有過私信往來的陌生人，在得到用戶自己回復前只能發(fā)出一條私信。另外，用戶均可以設置私信的范圍，可選范圍包括所有人、自己關(guān)注的人、互相關(guān)注的人和禁止私信。

一些平臺還有更為嚴格的私信規(guī)則。在豆瓣，新注冊用戶或近期有過違規(guī)的用戶，無法直接向陌生人發(fā)送私信消息，需要通過“打招呼”并得到回應后，才可發(fā)送私信。

抖音則在今年上半年推出了私信臨時對話功能，陌生人每次只能向單個用戶發(fā)送一條申請信息，用戶回復后，陌生人才能與其臨時對話，有效期為 24 小時，超時后重新申請。

2022年以來，包括微博、抖音、豆瓣、知乎、小紅書、B站在內(nèi)的多個平臺推出了“一鍵防護”的功能，即讓用戶一段時間內(nèi)（通常是7天或14天）不會接受未關(guān)注人的私信、評論和轉(zhuǎn)發(fā)信息?！霸O置一鍵防護功能”也被寫進了《通知》，作為中央網(wǎng)信辦對更多網(wǎng)站平臺的要求。

微博方面對《中國新聞周刊》表示，一鍵防護功能是讓用戶進行自我保護的應急措施，當用戶遭受大量攻擊時，該功能將未關(guān)注人的各類信息屏蔽，“就像戴上降噪耳機，讓用戶感知不到網(wǎng)絡暴力的信息?！?/p>

防止用戶的個人信息被窺視、挖掘并被二次造謠，是網(wǎng)站平臺治理網(wǎng)暴的另一個方向。

在豆瓣，用戶可以對個人主頁的信息展示設置可見范圍，例如對未關(guān)注的人或關(guān)注不滿三十天的人，僅對其展示半年內(nèi)的10條動態(tài)，而在用戶開啟“應急防護模式”后，他人將無法關(guān)注自己，只有關(guān)注的人才可以查看自己的個人主頁內(nèi)容。在微博，用戶可以將可見時間范圍設置為“最近半年”。

減少用戶個人信息的曝光可以有效治理網(wǎng)暴，但從另一方面來說，“透明化上網(wǎng)”乃至于網(wǎng)絡實名制，一直以來都備受推崇，被一部分人認為有助于減少網(wǎng)暴事件，理由是人在實名時的發(fā)言更加理性。

劉文杰認為，對前臺實名制仍需審慎評估，不宜高估前臺實名的震懾效果，因為個人處于人群之中容易受到群體行為驅(qū)使，“法不責眾”的心理仍會讓其對行為不受懲罰存有僥幸，并且“完全的實名制，意味著網(wǎng)絡個人信息的披露，一定程度上為日后的網(wǎng)絡暴力埋下隱患”。

當網(wǎng)暴信息仍然難以避免地傳達給了網(wǎng)暴當事人，舉報成為了個人最后的選擇。

《通知》要求平臺建立快速舉報通道，并堅持最有利于未成年人的原則，優(yōu)先處理涉未成年人網(wǎng)暴舉報。

自中央網(wǎng)信辦開展網(wǎng)絡暴力專項治理行動后，多個平臺都在舉報類型中添加了“網(wǎng)絡暴力”的選項。另外，平臺幾乎都增加了“一鍵取證”的功能，方便用戶快速搜集證據(jù)進行投訴。例如豆瓣用戶進行網(wǎng)絡暴力投訴時，平臺會自動將最近的20條對話生成證據(jù)照片，B站用戶舉報私信內(nèi)容時，可選擇將被舉報人的近期5條信息一并提交。

但劉文杰也表示，舉報不能被濫用，如果舉報方三番五次進行惡意投訴，而被舉報方不存在問題，可以采取降低舉報方信用評級等相應措施。

王利明還認為，平臺應當鼓勵當事人及時回應，并為當事人回應提供便利?！八自捳f，‘造謠一張嘴，辟謠跑斷腿’，在互聯(lián)網(wǎng)時代，在哪里辟謠最合適？應當說在哪里發(fā)出的謠言信息，在哪里澄清最為合適?！?/p>

只靠平臺和監(jiān)管部門防范網(wǎng)絡暴力是不夠的，要從根本解決網(wǎng)暴行為還需要法律規(guī)制。

從立法上看，民法、行政法和刑法上都有關(guān)于網(wǎng)絡暴力治理的法律規(guī)定。王利明表示，民法典新設了禁令制度，主要目的就在于及時制止相關(guān)的網(wǎng)絡侵權(quán)行為，防止損害后果的持續(xù)發(fā)酵。在符合禁令制度的適用條件時，司法機關(guān)應當允許受害人申請禁令。從實踐來看，禁令制度的適用情況較少，王利明認為，主要原因在于《民法典》關(guān)于禁令適用條件的規(guī)定并不清晰，這就需要盡快出臺相關(guān)的司法解釋。

在中國刑法體系中，與網(wǎng)絡暴力相關(guān)的有侮辱誹謗罪、侵犯公民個人信息罪和尋釁滋事罪等規(guī)定。

但在西南政法大學教授石經(jīng)?？磥恚袊蓪τ诰W(wǎng)暴仍存在規(guī)制不足的問題，“雖然刑法中有侮辱誹謗罪等規(guī)定，但這些規(guī)定都是或?qū)嵸|(zhì)上是以傳統(tǒng)暴力行為方式為規(guī)制對象的，與網(wǎng)絡暴力的行為特征并不兼容?！笔?jīng)海表示，在實務中，難以將“網(wǎng)絡暴力”行為認定為相應犯罪和追究其刑事責任。

在現(xiàn)實層面，當受害者決定拿起法律武器，起訴網(wǎng)暴者，確實會遇到很多難題。

首先是證據(jù)收集方面，網(wǎng)絡暴力的取證十分困難。石經(jīng)海認為，網(wǎng)絡暴力的取證不同于其他的自訴案件，網(wǎng)絡環(huán)境復雜，甚至發(fā)動攻擊的人是誰都難以確定，在沒有相關(guān)部門協(xié)助的情況下，證據(jù)極其容易滅失，以致案件不了了之。

另外，在犯罪認定方面，網(wǎng)絡暴力難以對應刑法相關(guān)犯罪的構(gòu)成特征。王利明說，網(wǎng)絡暴力往往由多人參加，除了個別主犯以外，大多數(shù)網(wǎng)民可能對于事實真相并不知情，存在人云亦云的現(xiàn)象，網(wǎng)絡暴力的嚴重后果也往往是通過相當數(shù)量網(wǎng)民實施的跟帖評論等行為累加形成的，單個網(wǎng)民的行為可能并不太嚴重，因此對于“情節(jié)嚴重”如何認定等方面往往存在疑難之處。

僅對參與網(wǎng)絡暴力的人進行法律約束，還不足夠。不少網(wǎng)暴事件中有網(wǎng)絡水軍推波助瀾的身影。打擊互聯(lián)網(wǎng)黑灰產(chǎn)，對于減少網(wǎng)絡暴力也會起到重要作用。

還有越來越多專家呼吁針對網(wǎng)絡暴力進行專門性立法。2022年全國兩會期間，全國政協(xié)委員王學坤表示，中國立法關(guān)于網(wǎng)絡暴力的規(guī)定發(fā)布在民法典、刑法、治安管理處罰法、網(wǎng)絡安全法等法律中，規(guī)定比較零散，建議采取專門化、體系化的集中立法來應對網(wǎng)絡暴力。

石經(jīng)海認為，應該增設“網(wǎng)絡暴力罪”，這是出于兩個方面的考慮，一是網(wǎng)絡暴力行為與傳統(tǒng)暴力行為有著本質(zhì)的不同，刑法中現(xiàn)有的相關(guān)犯罪在構(gòu)成特征上難以對接這些特征；二是想突出罪名的行為規(guī)范效果，也就是通過這個罪名，讓民眾清楚地知道實施網(wǎng)絡暴力是犯罪行為。

不過，關(guān)于是否需要通過專門立法治理網(wǎng)絡暴力，仍存在爭議。在王利明看來，針對網(wǎng)絡暴力專項立法必要性不大，“雖然網(wǎng)絡暴力亟需法律規(guī)制，但治理網(wǎng)絡暴力并非無法可依?！蓖趵髡J為，當前需要做的是如何切實貫徹好、實施好、落實好《民法典》等法律規(guī)定。

劉文杰說，治理網(wǎng)絡暴力，除了平臺要采取治理措施，執(zhí)法部門要對嚴重網(wǎng)絡暴力事件中的主要行為人給予相應的處罰，還要培養(yǎng)網(wǎng)絡用戶文明發(fā)言的習慣，“長遠來看，提高網(wǎng)絡用戶的網(wǎng)絡素養(yǎng)，是根本上的治理方法，也是更可持續(xù)的方法?！?/p>