摘 要：面對愈演愈烈的網(wǎng)絡(luò)暴力，我國社交媒體平臺采取了一系列治理措施。本文以國內(nèi)15個主要社交媒體平臺作為研究對象，對其涉及網(wǎng)絡(luò)暴力的209份文件做內(nèi)容分析，并對實際效果進行審計。研究發(fā)現(xiàn)，絕大多數(shù)平臺未能清晰界定網(wǎng)絡(luò)暴力；盡管所有平臺都在事前、事中和事后三個環(huán)節(jié)采取了舉措，但實際治理尺度各不相同，治理效力仍有較大提升空間，具體表現(xiàn)為：對違規(guī)內(nèi)容的甄別和警示力度不足，一鍵防護設(shè)置路徑復(fù)雜，處理舉報的精度和速度需提升，以及關(guān)懷救助環(huán)節(jié)較薄弱。最后，提出平臺完善治理舉措的具體方式，并指出，治理網(wǎng)絡(luò)暴力需要超越平臺，建立多元主體參與的責(zé)任共同體和治理共同體。

關(guān)鍵詞：網(wǎng)絡(luò)暴力；社交媒體；互聯(lián)網(wǎng)治理；平臺政策；看門人

作者簡介：胡岑岑，北京體育大學(xué)新聞與傳播學(xué)院講師，主要從事新媒體與青年文化、視聽傳播研究；黃雅蘭，暨南大學(xué)新聞與傳播學(xué)院副教授，主要從事女性主義媒介、數(shù)字新聞學(xué)研究。

基金項目：國家社會科學(xué)基金項目“粉絲文化視域下青少年的社會參與及其引導(dǎo)研究”（項目編號：20CXW030）、教育部人文社會科學(xué)研究青年基金“自媒體中性別暴力的傳播機制與協(xié)同治理研究”（項目編號：20YJC86013）的階段性成果。

中圖分類號：G206 ""文獻標(biāo)識碼：A ""文章編號：1001-4403（2024）04-0172-09

DOI：10.19563/j.cnki.sdzs.2024.04.017

近年來，網(wǎng)絡(luò)暴力在我國愈演愈烈?！吨袊嗄陥蟆返恼{(diào)查顯示，65.3%的受訪青年表示自己或周圍人遭遇過網(wǎng)絡(luò)暴力，71.9%的受訪青年覺得網(wǎng)絡(luò)暴力越來越頻繁。①" ①吳欣宇、王品芝、楊萬淑等：《65.3%受訪青年表示自己或周圍人遭遇過網(wǎng)絡(luò)暴力》，2023-06-20，http：//zqb.cyol.com/html/2023-06/20/nw.D110000zgqnb_20230620_2-07.htm.河北尋親男孩遭網(wǎng)暴后留書自殺，上海姑娘因打賞外賣員200元被網(wǎng)暴后跳樓，杭州女孩因粉色頭發(fā)被網(wǎng)暴后自殺……網(wǎng)絡(luò)暴力導(dǎo)致的悲劇不斷上演，治理迫在眉睫。社交媒體平臺是網(wǎng)絡(luò)暴力的主要發(fā)生場所，中央網(wǎng)信辦、國信辦等印發(fā)的《關(guān)于切實加強網(wǎng)絡(luò)暴力治理的通知》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》和《網(wǎng)絡(luò)暴力信息治理規(guī)定（征求意見稿）》等文件，都強調(diào)平臺在網(wǎng)絡(luò)暴力治理中的主體責(zé)任，求平臺“履行信息內(nèi)容管理主體責(zé)任，建立完善網(wǎng)絡(luò)暴力信息治理機制，健全賬號管理、信息發(fā)布審核、監(jiān)測預(yù)警、舉報救助、網(wǎng)絡(luò)暴力信息處置等制度”。②" ②中國網(wǎng)信網(wǎng)：《國家互聯(lián)網(wǎng)信息辦公室關(guān)于〈網(wǎng)絡(luò)暴力信息治理規(guī)定（征求意見稿）〉公開征求意見的通知》，2023-07-07，http：//www.cac.gov.cn/2023-07/07/c_1690295996362667.htm.

目前，我國社交媒體平臺已采取一系列舉措治理網(wǎng)絡(luò)暴力。然而，一方面，相關(guān)政策法規(guī)對網(wǎng)絡(luò)暴力的認定較模糊，如《關(guān)于切實加強網(wǎng)絡(luò)暴力治理的通知》中提到的“不友善信息”范圍較廣，網(wǎng)絡(luò)暴力形式的不斷演變也給其界定帶來困難①" ①半月談記者：《更新“武器庫”，運作假輿情！新型網(wǎng)絡(luò)暴力有組織、有策劃，形成一門黑產(chǎn)生意》，2020-07-21，https：//mp.weixin.qq.com/s/PKFO1HWTzWg4hpb3MppmoA.；另一方面，政策法規(guī)在賦予平臺較大權(quán)責(zé)的同時，對治理效果缺乏權(quán)威有效的評估，主要依靠平臺發(fā)布的治理公告，平臺在治理網(wǎng)絡(luò)暴力過程中實際擁有較大的自由度和裁量權(quán)。由此，平臺如何認定網(wǎng)絡(luò)暴力，如何預(yù)防、干預(yù)和懲治網(wǎng)絡(luò)暴力，在很大程度上關(guān)系到我國網(wǎng)絡(luò)暴力治理的成效。目前學(xué)界對平臺如何定義和治理網(wǎng)絡(luò)暴力及其治理效果的研究較為不足，基于此，本文提出以下問題：我國主要的社交媒體平臺如何界定網(wǎng)絡(luò)暴力？采取了什么措施應(yīng)對網(wǎng)絡(luò)暴力？治理措施的有效性如何？

一、平臺的看門人角色與網(wǎng)絡(luò)暴力治理

近年來，平臺逐漸成為數(shù)字社會的信息中心與組織樞紐，成為天然的“看門人”（gatekeeper）。然而，在面對是否干預(yù)內(nèi)容和用戶行為的問題時，平臺常常自稱“中介”，保持“中立”態(tài)度。這種為免責(zé)而擺出的中立姿態(tài)只是一種“神話”或“話語策略”。②" ②Schoenebeck S，Blackwell L.Reimagining social media governance：Harm，accountability，and repair.Yale JL amp; Tech.，2020，23，pp.113-152.事實上，平臺的政策和架構(gòu)已經(jīng)融入了特定規(guī)范和價值觀③" ③Maddox J，Malson J.Guidelines without lines，communities without borders：The marketplace of ideas and digital manifest destiny in social media platform policies.Social Media+Society，2020，6（2），pp.1-10.，平臺尤其在內(nèi)容和賬戶的推廣、約束、允許和審查方面發(fā)揮著決定性作用。不過，對于憑借技術(shù)權(quán)力和以海量用戶為基礎(chǔ)的經(jīng)濟權(quán)力成為看門人的平臺而言，存在著一個悖論：一方面，平臺屬于私人物品，具有資產(chǎn)專有性與經(jīng)濟性；另一方面，大型平臺已逐步演變?yōu)椤皽使伯a(chǎn)品”，具有公共性和共享性。④" ④范如國：《平臺技術(shù)賦能、公共博弈與復(fù)雜適應(yīng)性治理》，《中國社會科學(xué)》2021年第12期，第131-152頁。因此，平臺需要在運行和治理過程中小心平衡商業(yè)利益和社會公共利益。

基于社會歷史、媒介制度等原因，不同國家的平臺治理模式有所區(qū)別。⑤" ⑤王震宇、張曉磊：《平臺治理的制度之維：基于中美英三國模式的比較》，《國際關(guān)系研究》2021年第6期，第97-124頁。美國以憲法第一修正案中的“言論自由”為大原則，明確平臺不承擔(dān)主動審查義務(wù)，僅要求嚴格執(zhí)行“通知-刪除”程序，歐盟與美國相似。⑥" ⑥劉文杰：《網(wǎng)絡(luò)暴力中個體維權(quán)困境與平臺安全保障義務(wù)》，《國家檢察官學(xué)院學(xué)報》2023年第5期，第39-57頁。我國的網(wǎng)絡(luò)暴力治理模式則為“政企發(fā)包制”，即政府部門將網(wǎng)絡(luò)事務(wù)治理權(quán)發(fā)包給非公有制企業(yè)并附加相應(yīng)激勵機制，同時保留監(jiān)督權(quán)與最終獎懲權(quán)。⑦" ⑦于洋、馬婷婷：《政企發(fā)包：雙重約束下的互聯(lián)網(wǎng)治理模式——基于互聯(lián)網(wǎng)信息內(nèi)容治理的研究》，《公共管理學(xué)報》2018年第3期，第117-128頁。根據(jù)我國法律法規(guī)，互聯(lián)網(wǎng)服務(wù)提供者須履行安全管理義務(wù)；網(wǎng)信辦、國信辦等部門的相關(guān)規(guī)章還進一步明確了平臺在網(wǎng)絡(luò)暴力治理中的主體責(zé)任及其在監(jiān)測預(yù)警、處置及保護機制等方面的相應(yīng)義務(wù)。⑧" ⑧石佳友：《網(wǎng)絡(luò)暴力治理中的平臺責(zé)任》，《法律科學(xué)》2023年第6期，第14-23頁。盡管不同國家關(guān)于平臺治理網(wǎng)絡(luò)暴力責(zé)任的法律和政策存在差異，但在實踐層面，其治理舉措表現(xiàn)出同構(gòu)性，常見的機制包括但不限于提供舉報工具、屏蔽和過濾、推送反網(wǎng)暴教育材料以及人工審核等。⑨" ⑨Milosevic T.Protecting children online？Cyberbullying policies of social media companies.The MIT Press，2018，p.8，p.107；趙韞淏、劉晶：《“規(guī)則+技術(shù)”：互聯(lián)網(wǎng)平臺針對“網(wǎng)絡(luò)暴力”現(xiàn)象的數(shù)字化治理》，《北京文化創(chuàng)意》2023年第2期，第75-84頁。國外學(xué)者分析平臺的核心文件（如服務(wù)條款和社區(qū)指南）后發(fā)現(xiàn)，當(dāng)前各平臺對網(wǎng)絡(luò)暴力的定義都較模糊，具體的治理標(biāo)準缺乏透明度。⑩" ⑩Pater J A.et al.Characterizations of online harassment：Comparing policies across social media platforms.In Proceedings of the 2016 ACM International Conference on Supporting Group Work，2016，pp.369-374.

除了治理舉措外，治理效果也值得關(guān)注。在美國，由政府發(fā)起的對治理效力的獨立評估很少，并被認為已經(jīng)過時①" ①Milosevic T.Social media companies’ cyberbullying policies.International Journal of Communication，2016（10），p.22.；學(xué)者還質(zhì)疑，平臺似乎并不關(guān)注治理有效性，它們僅通過關(guān)注網(wǎng)絡(luò)暴力并采取措施來維持良好聲譽。②" ②Milosevic T.Protecting children online？Cyberbullying policies of social media companies.The MIT Press，2018，pp.4-5.關(guān)于用戶對國內(nèi)某平臺網(wǎng)絡(luò)暴力治理反饋的研究表明，用戶從最初的振奮變?yōu)閷χ卫矸αΦ氖?，質(zhì)疑“舉報無效”、被“誤傷”等。③" ③辛艷艷、方師師：《網(wǎng)絡(luò)暴力治理中的平臺主體責(zé)任困境》，《青年記者》2023年第13期，第88-90頁。整體來說，我國針對平臺網(wǎng)絡(luò)暴力治理的研究主要圍繞“應(yīng)然”展開，對“實然”的討論不足。

二、研究方法

在內(nèi)容治理方面，平臺除了行使裁決糾紛的“準司法權(quán)”與實施懲罰的“準行政權(quán)”，還擁有制定規(guī)則的“準立法權(quán)”④" ④張志安、冉楨：《中國互聯(lián)網(wǎng)平臺治理：路徑、效果與特征》，《新聞與寫作》2022年第5期，第57-69頁。，主要通過與用戶簽訂用戶協(xié)議來實現(xiàn)。本研究將分析包括用戶協(xié)議在內(nèi)的平臺政策文件，并測試其相應(yīng)反網(wǎng)暴功能的效果，以此檢視平臺在網(wǎng)暴治理中的看門人角色。綜合考慮了社交媒體平臺的用戶規(guī)模和功能定位等因素，本文確定了國內(nèi)用戶規(guī)模大、活躍度高、功能定位有差異的15家社交媒體平臺作為研究對象。⑤" ⑤由于版面限制，關(guān)于研究對象的具體信息，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。

（一）內(nèi)容分析

本研究對兩類平臺文件進行分析：一是各平臺最新的用戶協(xié)議、隱私政策、社區(qū)公約等核心文件，這類文件扮演著“準憲法”角色⑥" ⑥Fan J，Zhang A X.Digital juries：A civics-oriented approach to platform governance.In Proceedings of the 2020 CHI conference on human factors in computing systems，2020，April，pp.1-14.，是平臺治理的主要依據(jù)；二是各平臺官方賬號（如微博管理員、抖音黑板報、知乎小管家）就網(wǎng)絡(luò)暴力發(fā)布的宣傳、倡導(dǎo)等非正式文件，如《微博防網(wǎng)暴功能實用指南》等。最終共收集有效文件209份，其中YY和嗶哩嗶哩的文件數(shù)量最多，均超過20份，虎撲、Lofter和陌陌的文件數(shù)量為個位數(shù)。在這些文件中，具有一定法律效力的文件（如隱私協(xié)議、用戶協(xié)議）和社區(qū)公約等平臺規(guī)范性文件占52.63%，不具備約束力的非正式文件（如社區(qū)公告、倡議書以及對社區(qū)規(guī)則的解讀說明等）占47.37%。

研究主要圍繞網(wǎng)絡(luò)暴力的定義及類型、治理網(wǎng)暴的舉措等維度設(shè)計了編碼表⑦" ⑦由于版面限制，研究具體的編碼類目，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。；3名編碼員均為新聞傳播學(xué)在讀研究生，為降低編碼員類目判定時的主觀性，研究者對編碼員進行了培訓(xùn)。正式編碼前，研究者從15家平臺的樣本文件中各隨機抽取了2個樣本，共計30個樣本，讓3名編碼員獨立編碼；隨后以Cohen’s kappa值評估編碼員間信度，結(jié)果顯示“網(wǎng)絡(luò)暴力的定義”及“網(wǎng)絡(luò)暴力的類型”的Kappa值均超過了0.93，“網(wǎng)絡(luò)暴力的治理措施”的Kappa值也達到了0.88。

（二）平臺審計

審計研究指通過準實驗方法來識別社會中的系統(tǒng)性偏向。近年來，算法和平臺成為新的審計對象，研究者在平臺這一新型社會行動空間中搭建實驗場景，探究平臺規(guī)則。⑧" ⑧仇筠茜等：《審計研究拓展新聞傳播學(xué)空間》，《中國社會科學(xué)報》2024年1月10日，第6版。據(jù)此，本研究測試了各平臺的網(wǎng)暴治理效果，具體包括以下兩方面研究設(shè)計。第一，研究者在軟件漫游（walkthrough）過程中對在每個平臺上偶遇的5條明顯包含暴力信息的帖子或評論（共75條）進行舉報⑨" ⑨作為探索性研究，本文主要考慮網(wǎng)暴言論的典型性而進行立意抽樣，包括明顯的侮辱、詛咒類信息，也包括當(dāng)前社交媒體上常見的以諧音出現(xiàn)的暴力信息。，記錄和統(tǒng)計舉報的便捷度（點擊次數(shù)、舉報所需的材料數(shù)量等）以及平臺對舉報的反饋（反饋時間、方式、內(nèi)容和處理結(jié)果）。第二，研究者在每個平臺上對其他用戶發(fā)送5條包含暴力信息的評論（共75條）①" ①為避免傷害，發(fā)送對象是發(fā)送者熟知的朋友，在測試前已被告知此項研究；為貼近真實情境，研究中所發(fā)送的網(wǎng)暴言論多為以往網(wǎng)暴事件中受害者曾遭受的攻擊。，記錄各平臺對暴力信息的識別和攔截效力，以及平臺對發(fā)送者和接收者的警示和提示情況。

三、如何定義：面貌模糊的網(wǎng)絡(luò)暴力

在本研究關(guān)注的平臺中，僅抖音明確定義了網(wǎng)絡(luò)暴力：“一種危害嚴重、影響惡劣的暴力形式。它是指一類由網(wǎng)民發(fā)表在網(wǎng)絡(luò)上的并具有‘誹謗性、污蔑性、侵犯名譽、損害權(quán)益和煽動性’的動作”②" ②《“抖音”用戶服務(wù)協(xié)議》，https：//www.douyin.com/draft/douyin_agreement/douyin_agreement_user.html，2024-03-25。，有言論、文字、圖片、視頻等形式，會對他人的名譽等合法權(quán)益與精神造成損害。大部分平臺將網(wǎng)絡(luò)暴力作為一個不言而喻的詞語，主要通過列舉一系列具體行為并偶爾結(jié)合案例來呈現(xiàn)。這些行為包括謠言誹謗/惡意揣測、謾罵侮辱/貶低歧視、道德綁架、騷擾拱火、公開隱私、煽動滋事、威脅恐嚇、宣揚暴力等幾種類型；而“網(wǎng)絡(luò)暴力”一詞與上述行為之間的關(guān)系也不穩(wěn)定：網(wǎng)絡(luò)暴力有時被描述為與之并列的侵權(quán)行為，有時又被作為包含這些侵權(quán)行為的概括性條目，甚至在同一份文件中還會同時出現(xiàn)上面兩種關(guān)系。

平臺文件提及率最高的網(wǎng)暴類型包括：謾罵侮辱/貶低歧視（62.2%）、謠言誹謗/惡意揣測（54.07%）、公開隱私（51.2%）和煽動滋事（46.89%），正對應(yīng)著當(dāng)前我國法律法規(guī)明確了內(nèi)涵定義與入罪條件的、與網(wǎng)絡(luò)暴力相關(guān)的傳統(tǒng)罪名，即侮辱罪、誹謗罪、尋釁滋事罪、侵犯公民個人信息罪。這雖然反映出法律對平臺網(wǎng)絡(luò)暴力治理的指導(dǎo)價值，卻也表明我國現(xiàn)有法律法規(guī)在面對不斷更新的網(wǎng)絡(luò)暴力形態(tài)時，其有效性已不足，如惡意揣測、道德綁架等容易給用戶造成精神創(chuàng)傷的行為難以入罪③" ③張凌寒：《“不良信息”型網(wǎng)絡(luò)暴力何以治理——基于場域理論的分析》，《探索與爭鳴》2023年第7期，第96-107頁。，未能給平臺治理提供依據(jù)。

盡管各平臺的文件涵蓋了絕大部分網(wǎng)絡(luò)暴力類型，但每家平臺對不同類型網(wǎng)絡(luò)暴力的提及率有所區(qū)別。④" ④由于版面限制，“各平臺文件提及率最高和最低的網(wǎng)絡(luò)暴力行為類型”的統(tǒng)計結(jié)果，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。這既反映出由于缺乏統(tǒng)一標(biāo)準，平臺對網(wǎng)絡(luò)暴力理解上的差異，也在一定程度上展現(xiàn)出不同平臺中差異化的網(wǎng)絡(luò)暴力表現(xiàn)及其導(dǎo)致的治理重心區(qū)別。例如，同為以興趣為中心的社區(qū)，百度貼吧和Lofter更強調(diào)對謾罵侮辱的治理，豆瓣則偏重對隱私侵害的治理。此外，當(dāng)前我國的網(wǎng)絡(luò)暴力有相當(dāng)比重是在公平、正義等“正當(dāng)性”支撐下展開的道德審判。已有研究通過理論探討或數(shù)據(jù)驗證，分析了傳統(tǒng)社會道德準則的律令化⑤" ⑤羅譞：《網(wǎng)絡(luò)暴力的微觀權(quán)力結(jié)構(gòu)與個體的“數(shù)字性死亡”》，《現(xiàn)代傳播》2020年第6期，第151-157頁。，以及個體的消極道德評價與網(wǎng)絡(luò)暴力之間的相關(guān)關(guān)系⑥" ⑥劉績宏、柯惠新：《道德心理的輿論張力：網(wǎng)絡(luò)謠言向網(wǎng)絡(luò)暴力的演化模式及其影響因素研究》，《國際新聞界》2018年第7期，第37-61頁。，但根據(jù)本研究的統(tǒng)計結(jié)果，僅微博、嗶哩嗶哩、抖音等六家平臺提及道德綁架。這可能與道德綁架概念的模糊性以及與其他侵權(quán)行為之間存在交叉有關(guān)。另外，道德綁架與出于道德正義的輿論監(jiān)督之間也缺乏有效的區(qū)分標(biāo)準，邊界不夠清晰。⑦" ⑦蔣麗紅、李志祥：《論網(wǎng)絡(luò)道德評論的正當(dāng)依據(jù)與合理邊界》，《科學(xué)技術(shù)哲學(xué)研究》2022年第3期，第76-81頁。盡管網(wǎng)信辦2023年7月發(fā)布的《網(wǎng)絡(luò)暴力信息治理規(guī)定（征求意見稿）》將“嚴重影響身心健康的道德綁架”列入網(wǎng)絡(luò)暴力信息范疇，然而該規(guī)定并未言明其內(nèi)涵，未能給平臺治理提供有效參考?？紤]到近幾年網(wǎng)絡(luò)暴力的發(fā)展趨勢，將道德綁架納入治理范疇并制定清晰的標(biāo)準，對監(jiān)管部門和平臺來說十分必要。

四、如何應(yīng)對：各行其是的治理措施

平臺應(yīng)開展對網(wǎng)絡(luò)暴力的全鏈條式治理，包括潛伏期的事前監(jiān)測預(yù)防、爆發(fā)期和持續(xù)期的事中干預(yù)處置以及消退期的事后懲治與救濟，并形成常態(tài)化治理機制。當(dāng)前，各個平臺均或多或少地在各個階段設(shè)置了網(wǎng)絡(luò)暴力治理措施。①" ①由于版面限制，“各平臺文件提及的網(wǎng)絡(luò)暴力治理措施”的統(tǒng)計結(jié)果，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。

（一）事前監(jiān)測預(yù)防：對違規(guī)內(nèi)容的甄別和警示力度不足

各平臺均注重通過內(nèi)容過濾、違規(guī)警告以及宣傳倡導(dǎo)等進行事前監(jiān)測預(yù)防。前兩項措施主要基于智能識別模型，輔以人工審核，過濾違規(guī)信息。從攔截效果看②" ②由于版面限制，“各平臺事前預(yù)防監(jiān)測功能”的測試結(jié)果，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。，在測試的75條違規(guī)評論中，49條（65.3%）被成功攔截，未出現(xiàn)在接收者的評論區(qū)，其中3條是在發(fā)出一段時間后被系統(tǒng)刪除，還有1條對個別字詞打碼處理。YY、斗魚、知乎攔截了所有違規(guī)內(nèi)容，抖音僅攔截1條違規(guī)內(nèi)容，豆瓣則未攔截任何信息。近三分之一的違規(guī)內(nèi)容未被攔截，這一方面與智能識別模型不夠完善有關(guān)，對一些陰陽怪氣、內(nèi)涵式辱罵以及圖像類網(wǎng)暴信息的識別度較低③" ③趙韞淏、劉晶：《“規(guī)則+技術(shù)”：互聯(lián)網(wǎng)平臺針對“網(wǎng)絡(luò)暴力”現(xiàn)象的數(shù)字化治理》，《北京文化創(chuàng)意》2023年第2期，第75-84頁。；另一方面也與平臺的評判尺度不一相關(guān)，例如，包含“死”字的信息在大部分平臺上會被攔截，在豆瓣卻暢通無阻。不過，以往研究也指出，部分平臺出于成本考慮采取簡單粗暴的關(guān)鍵詞屏蔽，造成“誤傷”，或為降低風(fēng)險而過度屏蔽和刪除。④" ④劉文杰：《網(wǎng)絡(luò)暴力中個體維權(quán)困境與平臺安全保障義務(wù)》，《國家檢察官學(xué)院學(xué)報》2023年第5期，第39-57頁。因此，提高對暴力信息的識別精度，對于網(wǎng)暴的事前預(yù)防非常關(guān)鍵，從當(dāng)前的平臺文件來看，沒有平臺詳細說明內(nèi)容識別和過濾的尺度。

對于網(wǎng)暴信息，部分平臺在信息發(fā)出端和接收端分別發(fā)送了違規(guī)警告和風(fēng)險提示。從發(fā)出端來看，與超過半數(shù)的違規(guī)評論被攔截形成對比的是，系統(tǒng)僅對19條（25.3%）信息發(fā)出了違規(guī)警告，其中，快手（5/5）、百度貼吧（5/5）和YY（4/5）的警告比率最高，嗶哩嗶哩、斗魚等八個平臺則完全沒有警告；而向施暴者發(fā)出的信息發(fā)送失敗提示數(shù)量更少（8/75，10.7%），僅斗魚對其攔截的所有信息都發(fā)出了發(fā)送失敗提示。這意味著，網(wǎng)暴實施者未被有效提醒或警示。盡管較少的系統(tǒng)提示能提升用戶使用體驗，但從網(wǎng)暴防治的角度看，對違規(guī)內(nèi)容“悄無聲息”的攔截不利于用戶對自身施暴行為的認知，不利于減少未來潛在的違規(guī)言論。從接收端看，雖然絕大多數(shù)平臺未提示用戶收到違規(guī)評論（僅抖音提示），但有14條違規(guī)評論會出現(xiàn)在用戶的消息提醒中（收到評論提醒，但不展示內(nèi)容），這仍可能向用戶傳達出其被發(fā)送了違規(guī)評論的模糊信息。從保護用戶的角度看，被發(fā)送了違規(guī)評論的用戶或許無須被提醒，提示風(fēng)險反而可能對其造成困擾。

向用戶倡導(dǎo)正向內(nèi)容和參與，以及告知用戶應(yīng)對網(wǎng)暴的功能，也是重要的事前預(yù)防舉措。大部分平臺都在文件中描繪了理想社區(qū)氛圍，健康、友善、和諧、清朗、綠色等指向“生態(tài)主題”的詞語出現(xiàn)頻率較高（圖1）；作為網(wǎng)絡(luò)暴力的對照組，這類描述提示用戶應(yīng)該如何行動，也增強了平臺懲戒暴力行為的合法性。此外，不少平臺在完善反網(wǎng)暴功能的同時，也發(fā)布了防網(wǎng)暴指南手冊、維權(quán)指引等，以圖文、短視頻等方式向用戶科普應(yīng)對網(wǎng)暴的措施。但本研究發(fā)現(xiàn)，這些包含倡導(dǎo)鼓勵和宣教信息的文件大多未出現(xiàn)在網(wǎng)站或客戶端的顯著位置，未得到平臺的廣泛推送，這導(dǎo)致防暴信息不能有效到達用戶，反網(wǎng)暴功能無法真正發(fā)揮作用。

（二）事中干預(yù)處置：一鍵防護設(shè)置路徑復(fù)雜，處理舉報的精度和速度需提升

網(wǎng)信辦《關(guān)于切實加強網(wǎng)絡(luò)暴力治理的通知》要求平臺設(shè)置一鍵防護功能、優(yōu)化私信規(guī)則、建立快速舉報通道，以強化對當(dāng)事人的保護。在眾多阻斷功能中，一鍵防護最為便捷有力。在本研究關(guān)注的15個平臺中，有12個平臺設(shè)置了此項功能。①" ①該功能的具體名稱包括“一鍵防護”“一鍵防網(wǎng)暴”“應(yīng)急防護”等，但百度貼吧的該功能按鍵并不包含“一鍵”或“應(yīng)急”等字眼，而僅僅是在隱私設(shè)置中關(guān)閉“接收陌生人消息”。在設(shè)置方式上，用戶至少要按照“我的→設(shè)置→隱私設(shè)置→一鍵防護”的路徑點擊4次才能啟動該功能，嗶哩嗶哩、豆瓣和快手都需要在點擊“一鍵防護”后再次確認才能真正啟動功能，最多需點擊6次；在抖音，用戶則需在搜索框中輸入“網(wǎng)暴”二字，再點擊兩次按鈕才能開啟，設(shè)置難度更大。此外，各平臺一鍵防護功能的具體內(nèi)涵也不一致，但基本包含陌生人不可以評論/發(fā)彈幕/私信等，并不同程度地包含轉(zhuǎn)發(fā)/分享、搜索用戶名和加好友方面的限制②" ②由于版面限制，“各平臺‘一鍵防護’功能的便捷度和內(nèi)容”測試結(jié)果，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。，其中，微博、小紅書和豆瓣的防護功能更齊全，保護力度更強。從保護時間來看，微博、小紅書等六個平臺設(shè)置了一鍵防護的默認時限（大多為7天）；過了時限，防護功能就自動解除。

在未提供一鍵防護功能的平臺中，陌陌和Lofter的用戶需要在“隱私設(shè)置”或者“屏蔽設(shè)置”中逐一開啟陌生人不能評論、私信、轉(zhuǎn)發(fā)等功能，YY則需要用戶達到一定等級才能在直播中開啟防打擾特權(quán)。其他提供了一鍵防護功能的平臺也大多設(shè)置有單獨的評論轉(zhuǎn)發(fā)管理、私信設(shè)置、黑名單和關(guān)鍵詞屏蔽等阻斷功能，但其政策文件并未充分提及，這也反映出平臺在指引用戶加強自我保護方面的不足。

用戶標(biāo)記是當(dāng)前在線內(nèi)容治理的重要輔助手段，普通用戶可作為公共利益的代理人規(guī)范他人的行為，在我國常被稱作“投訴舉報”。③" ③易前良、唐芳云：《平臺化背景下我國網(wǎng)絡(luò)在線內(nèi)容治理的新模式》，《現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報）》2021年第1期，第13-20頁。面對已發(fā)生的網(wǎng)絡(luò)暴力，各平臺基本都設(shè)置了一鍵取證/快速舉報功能，特別是微博、快手、豆瓣和今日頭條等平臺制定了指引投訴流程和解釋投訴規(guī)則的專項文件。舉報違規(guī)信息通常較便捷，用戶僅需對某條評論或私信等點擊“舉報”按鈕并選擇投訴理由即可，毋需額外證明材料。Soul、YY、斗魚、虎撲、今日頭條等平臺點擊2次就可完成舉報，抖音和知乎需點擊5次。各平臺根據(jù)自身內(nèi)容和功能偏向設(shè)置了差異化的投訴理由④" ④如嗶哩嗶哩與影視作品密切相關(guān)，其彈幕投訴理由包含了“劇透”“視頻無關(guān)”等選項；小紅書強調(diào)其筆記文圖內(nèi)容的原創(chuàng)性，其筆記投訴理由包含“搬運抄襲洗稿”等選項。；在同一平臺上，舉報評論、彈幕等公開信息與舉報私信的理由分類也有差別，整體來說，私信舉報的理由分類更精簡，這或許跟私信的非公開屬性、影響面較小有關(guān)。⑤" ⑤例如，在微博上，相比于私信的投訴理由僅包括“網(wǎng)絡(luò)暴力”“人身攻擊”“違法信息”“違規(guī)營銷”和“騷擾我”，對公開微博的投訴理由還包括“涉黃信息”“不良價值導(dǎo)向”“飯圈違規(guī)”等。絕大部分平臺文件未具體說明投訴理由的分類，僅微博在《投訴操作細則》中有相對詳細的解釋。

如果投訴內(nèi)容涉及侵害個人權(quán)益，投訴流程就會比較復(fù)雜，一般需要在線填寫投訴單，并提供投訴主體的身份證明材料（如身份證）以及經(jīng)過公證或加蓋公章的侵權(quán)證明材料。然而，對網(wǎng)暴受害者而言，繁瑣的舉證流程會增加其舉報維權(quán)的難度，加重其心理負擔(dān)。網(wǎng)暴受害者鄭靈華就曾表示，在遭網(wǎng)暴后的維權(quán)進程中，“要和某些平臺繁瑣甚至‘故意為難’用戶的投訴規(guī)則斗智斗勇”，“有平臺的網(wǎng)絡(luò)投訴入口十分難找，她通過搜索才發(fā)現(xiàn)那個幾近透明的按鈕，平臺還需要她提交身份證正反面照片以及加蓋公章的相關(guān)函件”。⑥" ⑥耿學(xué)清：《她只是染了粉紅色頭發(fā)》，《中國青年報》2022年7月27日，第6版。

在處理投訴的時限方面，僅快手明確表示會在24小時內(nèi)受理。本研究測試數(shù)據(jù)顯示，除YY、Lofter和豆瓣，其他12個平臺均對舉報做出了反饋，反饋時長從1分鐘到25小時不等，其中小紅書、知乎和斗魚的反饋時間均為1分鐘，嗶哩嗶哩和微博的反饋速度也較快，通常在10分鐘左右回復(fù)。那些較直接的暴力言論通常會被快速回復(fù)，對較隱晦的暴力信息舉報的回復(fù)速度更慢。以今日頭條為例，其回復(fù)時間快則5分鐘，慢則24小時。就反饋方式而言，絕大多數(shù)平臺通過私信反饋處理結(jié)果，今日頭條由于沒有私信功能，用戶需要在專門的舉報頁面查看處理結(jié)果。

從處理結(jié)果來看，平臺大多能將明顯包含辱罵、歧視的內(nèi)容判定為違規(guī)，而那些陰陽怪氣或者使用了特殊字符或表情的內(nèi)容更難被判為違規(guī)。不同平臺的評判尺度也存在差異，例如，微博和貼吧對一些明顯具有暴力性質(zhì)的舉報內(nèi)容也并不判為違規(guī)，嗶哩嗶哩、Soul、抖音的評判尺度則更加嚴格。除了判定結(jié)果外，平臺的反饋還會不同程度地提及違規(guī)用戶名、舉報時間、判定緣由/違規(guī)理由等內(nèi)容，相較于其他信息，判定緣由/違規(guī)理由較少被提及。

（三）事后懲治救助：懲治告知不明確，救助措施不足

各平臺的網(wǎng)暴懲治措施比較統(tǒng)一和明確，主要是刪除相關(guān)內(nèi)容，對相關(guān)賬號實施警告、禁言、關(guān)閉、扣除收益、注銷，全網(wǎng)禁止注冊新賬號，以及在官方賬號定期發(fā)布網(wǎng)絡(luò)暴力治理公告等；如果相關(guān)信息及行為涉及違反法律、侵害公民人身權(quán)益等，平臺會向相關(guān)部門報告。在本研究的測試中，對于被判違規(guī)的信息，平臺大多會在反饋中明確提及已刪除違規(guī)信息，Soul和虎撲僅模糊地提及“處理”，“限制該貼的后續(xù)發(fā)放”或者“吧主會根據(jù)版規(guī)處理”等，陌陌還會在反饋中提到對發(fā)出違規(guī)言論者進行警告。

盡管所有平臺的文件都提及上述懲治措施，但大多未提供有關(guān)網(wǎng)暴評判標(biāo)準和相應(yīng)處罰方式的細則。少量平臺有模糊的說明，如斗魚將違規(guī)行為及相關(guān)處罰措施劃分為嚴重違規(guī)和一般違規(guī)，并對直播間實行量化計分/扣分，但未說明具體的扣分規(guī)則；陌陌指出對屢犯或情節(jié)嚴重者，將禁用賬號的部分功能直至永久封禁賬號，但對“屢犯或情節(jié)嚴重”同樣未做解釋。YY和Soul較明確地表述了其懲治規(guī)則：YY針對社區(qū)頻道、主播及社區(qū)用戶分別制定了違規(guī)管理規(guī)則，并明確說明了不同違規(guī)行為對應(yīng)的處罰等級，其中用戶的違規(guī)包括嚴重違規(guī)和一般違規(guī)，根據(jù)情節(jié)嚴重程度被處以凍結(jié)賬號7天（1級）到永久凍結(jié)賬號（5級）的處罰；Soul則將違規(guī)行為分為三個級別，分別對應(yīng)三級處罰。還有部分平臺制定了具體懲治細則，但僅作為內(nèi)部管理文件使用，如《2023微博網(wǎng)暴治理報告》顯示，微博2023年6月修訂了《微博平臺網(wǎng)絡(luò)暴力處置細則》，然而該細則在網(wǎng)絡(luò)上無法搜索到。不過，也有學(xué)者質(zhì)疑這種將網(wǎng)絡(luò)暴力分級或量化的處理方式，認為其簡化了網(wǎng)絡(luò)暴力復(fù)雜的表現(xiàn)形式。①" ①DeCook J R，et al.Safe from “harm”：The governance of violence by platforms.Policy amp; Internet，2020，14（1），pp.63-78.

與懲治措施相比，平臺的救助措施較疲軟。僅小紅書、嗶哩嗶哩和抖音的文件提及對網(wǎng)暴受害者的關(guān)懷措施。這可能與管理部門對平臺治理提出的主體責(zé)任不包括救助受害者有關(guān)，而在平衡商業(yè)利益和公共利益的過程中，平臺優(yōu)先考慮的是在規(guī)避法律風(fēng)險、回應(yīng)管理部門和輿論要求的前提下控制治理成本。誠然，救助受害者并非平臺義務(wù)，但如果平臺能與社會力量加強協(xié)作，在受害者和心理救助組織之間搭建橋梁，無疑有利于及時識別受害人抑郁、輕生等心理困境，也有助于平臺避免因網(wǎng)暴受害者的遭遇而被推上輿論中心。

（四）常態(tài)化治理機制：用戶角色有待強化，對未成年人的保護措施有待改善

除了上述由平臺主導(dǎo)的事前—事中—事后措施，建立多元主體參與的常態(tài)化配套治理機制也很必要。作為數(shù)字社區(qū)，平臺應(yīng)積極邀請社區(qū)成員參與治理，這有助于減少用戶對平臺治理中“黑箱”操作的質(zhì)疑，也有利于平臺減輕人工審核及技術(shù)過濾的負擔(dān)，提升治理有效性。當(dāng)前，各平臺尚未充分實施“用戶協(xié)管員”制度，但部分平臺的探索仍有借鑒意義。如微博2017年9月起開始實行微博社區(qū)志愿者（微博監(jiān)督員）制度，通過開展線上線下交流培訓(xùn)、微博會員、發(fā)放現(xiàn)金獎勵等方式鼓勵滿足一定條件的志愿者對平臺中的違法有害信息進行投訴；在此基礎(chǔ)上，微博還實行社區(qū)委員會制度，招募微博信用歷史分為滿分、通過資格測試的用戶，組成社區(qū)委員會，對部分用戶投訴是否成立進行“眾裁”投票，為平臺處置提供裁決依據(jù)。

在平臺中，賬號不僅是用戶活動的前提，也決定了背后的主體通過平臺贏取社會資本、文化資本以及經(jīng)濟資本的可能性，因此，平臺應(yīng)該借助對賬號的動態(tài)管理來鼓勵用戶參與網(wǎng)絡(luò)暴力治理。從平臺文件來看，已有部分平臺采取了相關(guān)措施，如知乎對用戶行為進行智能識別和加權(quán)計算，形成了由基礎(chǔ)信用、內(nèi)容創(chuàng)作、友善互動、遵守規(guī)范、社區(qū)建設(shè)五個維度構(gòu)成的“鹽值”體系，鹽值不僅對應(yīng)著不同的賬號權(quán)益和權(quán)限，還直接作用于內(nèi)容的推薦和賦權(quán)系統(tǒng)；根據(jù)知乎的說明，盡管占比有限，但“鹽值”的每個維度都與鼓勵正向行為、反對網(wǎng)絡(luò)暴力相關(guān)。

此外，對未成年人的保護一直是網(wǎng)暴治理的重要環(huán)節(jié)。本研究發(fā)現(xiàn)，幾乎所有平臺都有針對未成年人的政策文件，但大多為兒童個人隱私保護政策，今日頭條、抖音和小紅書有專門的未成年人社區(qū)內(nèi)容管理規(guī)范，部分平臺發(fā)布了維護未成年人網(wǎng)絡(luò)安全的專項治理公告。具體而言，針對未成年人的政策大多聚焦色情低俗、侮辱欺凌、侵害隱私等網(wǎng)絡(luò)暴力，涉性內(nèi)容大多作為第一條出現(xiàn)。不過，這些文件均沒有具體說明如何加強對涉及未成年的網(wǎng)絡(luò)暴力治理。

五、超越看門人：從責(zé)任共同體到治理共同體

近年來，我國社交媒體平臺普遍重視對網(wǎng)絡(luò)暴力的治理，但各平臺對網(wǎng)絡(luò)暴力的界定內(nèi)涵模糊且邊界不清。一方面，法律法規(guī)未能對此提供明確的參考標(biāo)準；另一方面，平臺也回避對網(wǎng)絡(luò)暴力進行過于明確的定義，這有利于平臺靈活應(yīng)對圍繞網(wǎng)絡(luò)暴力的輿論，在周旋于各種利益之間時做出更有利于自身的選擇。①" ①DeCook J R，et al.Safe from “harm”：The governance of violence by platforms.Policy amp; Internet，2020，14（1），pp.63-78.在具體的治理措施上，平臺也未形成清晰的共識，未能向公眾有效傳播其反網(wǎng)暴舉措，使得包括公眾在內(nèi)的其他主體難以參與其中。這種各行其是的特征固然與各平臺的內(nèi)容形態(tài)、目標(biāo)用戶群體及隨之而來的差異化利益導(dǎo)向關(guān)系密切，但從結(jié)果看，這不僅影響公眾對網(wǎng)絡(luò)暴力的認知，更限制了平臺間協(xié)同治理的可能性。

網(wǎng)絡(luò)暴力正成為全球性治理難題，結(jié)合我國的治理困境和域外治理經(jīng)驗，平臺目前可從以下方面完善治理舉措。首先，對網(wǎng)絡(luò)暴力形成更清晰的定義和更具操作性的分類。當(dāng)前人工智能技術(shù)越來越深地嵌入暴力信息的甄別，明確的定義和分類關(guān)涉暴力信息能否在一開始被攔截。其次，加強事前警告，平臺雖能攔截大部分暴力信息，但對發(fā)送者的警示力度不足，無法有效遏制潛在暴力信息的發(fā)送。研究表明，若用戶在發(fā)布冒犯性評論前受到警告，約50%的用戶會重新編輯或者刪除評論。②" ②Ghaffary S.Instagram’s surprising strategy for bullies：Tell them to be nice，Vox，2022-10-20.https：//www.vox.com/recode/2022/10/20/23413581/instagram-nudging-meta-creators-wellbeing-bullying-harassment.第三，提升反網(wǎng)暴信息的可見性，將反網(wǎng)暴工具或指南置于平臺中更容易找到的位置，例如，Instagram官網(wǎng)有兩處專題頁面告知用戶如何應(yīng)對網(wǎng)絡(luò)暴力：分別是“社區(qū)”標(biāo)簽下的“反霸凌”頁面和“幫助中心”里的“保持安全”（staying safe）專題。③" ③參見Instagram官網(wǎng)頁面：https：//about.instagram.com/community/anti-bullying，https：//help.instagram.com/.

具體功能的改進固然能提升治理效果，但網(wǎng)絡(luò)暴力產(chǎn)生于復(fù)雜的媒介生態(tài)，涉及多元利益攸關(guān)方，因此，還需從全局視角出發(fā)，建立多元行動者參與的網(wǎng)絡(luò)暴力治理機制。毋庸置疑，平臺在該治理機制中扮演著關(guān)鍵角色。我國的互聯(lián)網(wǎng)治理是一種授權(quán)的自我規(guī)制或政府監(jiān)管下的行業(yè)自我規(guī)制：治理權(quán)力被下放至平臺，后者被定性為“自媒體運營的服務(wù)提供者、自媒體行業(yè)秩序的維護者”，需要“積極履行平臺法律責(zé)任和社會責(zé)任”④" ④網(wǎng)絡(luò)傳播雜志：《“組合拳”治理自媒體亂象》，2019年3月20日，檢索于：https：//www.cac.gov.cn/2019-03/20/c_1124259403.htm.；而平臺出于自身運營和管理的需求，亦要開展治理工作。即網(wǎng)絡(luò)暴力治理既是國家意志下縱向到底的義務(wù)性治理責(zé)任，又是以平臺自身為中心、以自我服務(wù)和自我管理為目標(biāo)的橫向到邊的自治性治理責(zé)任。⑤" ⑤張大維、趙益晨：《責(zé)任聯(lián)結(jié)：社區(qū)治理共同體運轉(zhuǎn)的機制塑造與實踐進路——基于老舊小區(qū)改造的案例比較》，《求實》2023年第6期，第65-78頁。在這一責(zé)任共識基礎(chǔ)上，平臺有必要建立“責(zé)任聯(lián)結(jié)機制”，形成網(wǎng)絡(luò)暴力治理的責(zé)任共同體。這不僅有助于明確平臺作為治理主體的責(zé)任定位，更有利于塑造平臺間的共同價值理念與行動實踐，緩解其利益沖突和規(guī)制差異。具體來說，平臺首先應(yīng)明確網(wǎng)絡(luò)暴力治理的共同體目標(biāo)，就治理的權(quán)責(zé)邊界達成共識；繼而在目標(biāo)框架下，以相關(guān)法律法規(guī)和政策為指導(dǎo)，明確網(wǎng)絡(luò)暴力的內(nèi)涵和邊界，建立基本的行業(yè)治理標(biāo)尺；在此基礎(chǔ)上，各平臺可靈活根據(jù)自身特征提出針對性治理措施，并基于實踐經(jīng)驗反哺共同體的治理標(biāo)準。

隨著社交媒體平臺的“基礎(chǔ)設(shè)施化”，網(wǎng)絡(luò)暴力所觸及的范圍及產(chǎn)生的影響都在不斷擴大，因此，除了平臺，政府、普通用戶、學(xué)校、心理和法律援助機構(gòu)等多元主體也應(yīng)該樹立對網(wǎng)暴治理的責(zé)任意識。覆蓋全社會的責(zé)任共識有助于建立主體有責(zé)、行動盡責(zé)、善治履責(zé)的“責(zé)任共同體”①" ①姬贇璐、王東：《責(zé)任共同體：社區(qū)治理共同體的內(nèi)生邏輯及構(gòu)建路徑》，《重慶工商大學(xué)學(xué)報（社會科學(xué)版）》2022年第1期，136-145頁。，這也正是黨的二十大報告指出的“建設(shè)人人有責(zé)、人人盡責(zé)、人人享有的社會治理共同體”②" ②習(xí)近平：《高舉中國特色社會主義偉大旗幟 為全面建設(shè)社會主義現(xiàn)代化國家而團結(jié)奮斗——在中國共產(chǎn)黨第二十次全國代表大會上的報告》，人民出版社2022年版，第54頁。的重要前提和根本內(nèi)核。從治理主體上看，要形成政府主導(dǎo)、平臺負責(zé)、多元主體共同參與的協(xié)同治理格局，除平臺這一看門人之外，向上需要作為治理真正主導(dǎo)者的政府完善法律法規(guī)，特別是當(dāng)前“問題導(dǎo)向下的網(wǎng)絡(luò)社會治理頂層制度設(shè)計和基礎(chǔ)性法律規(guī)范制定存在‘頭疼醫(yī)頭、腳疼醫(yī)腳’被動跟進、應(yīng)急出臺現(xiàn)象”③" ③徐漢明、張新平：《網(wǎng)絡(luò)社會治理的法治模式》，《中國社會科學(xué)》2018年第2期，第48-71頁。，厘定網(wǎng)絡(luò)暴力各攸關(guān)方的權(quán)責(zé)邊界，在政府和平臺企業(yè)之間建立柔性回應(yīng)機制，解決行政指令與企業(yè)成本之間的沖突，以及過分依賴政府高強度的“負激勵”等問題；向下則要激活和調(diào)動用戶以及其他社會機構(gòu)在協(xié)同治理中的能動性，形成用戶反哺社區(qū)的良性生態(tài)。

概言之，對平臺網(wǎng)絡(luò)暴力的治理作為互聯(lián)網(wǎng)治理的重要構(gòu)成，應(yīng)當(dāng)從宣教走向協(xié)作，從封閉走向開放，從單一主體走向多元主體，不斷凝聚各方社會力量，在責(zé)任共識的基礎(chǔ)上，形成共建、共治、共享的治理共同體。

[責(zé)任編輯：其 時]

“Beyond Gatekeepers”：A Comparative Analysis on Cyber Violence Governance on China’s Social Media Platforms

HU Cen-cen1 HUANG Ya-lan2

（1.School of Jounalism and Communication，Beijing Sport University，Beijing 100084，China;

（2.School of Jounalism and Communication，Jinan University，Guangzhou Guangdong 510647，China）

Abstract：This article examines the regulatory policies of 15 major social media platforms through a content analysis of 209 platform documents on cyber violence and a review of their actual effectiveness.The paper finds that most of the platforms do not clearly define cyberviolence，but rather take it for granted.All platforms have policies in place before，during and after an incident.However，the actual scope of governance varies，and the effectiveness of governance is limited due to the following problems：screening and warning of illegal content is insufficient，one-click protection setting is too complicated，accuracy and speed of response to user reports need to be improved，and care and rescue measures are insufficient.Finally，we propose several specific ways to improve platform governance and establish a community of shared responsibility and governance with multiple stakeholders to address the problem of cyber violence.

Key words：cyber violence;social media;internet governance;platform policy;gatekeepers