中圖分類號:D924 文獻(xiàn)標(biāo)志碼:A文章編號:2096-9783(2025)03-0093-12
一、問題提出與文獻(xiàn)回顧
Web3.0時代引發(fā)了數(shù)智平臺與媒介化基礎(chǔ)設(shè)施的巨大變革,人類已經(jīng)進(jìn)入平臺化社會。在此基礎(chǔ)上,數(shù)字平臺憑借其獨特的連通性、交互性、構(gòu)成性2,已成為現(xiàn)代性推動力的組織媒介,塑造并展現(xiàn)了人類數(shù)字化的生存圖景。然而,人們在依托數(shù)字平臺建立聯(lián)系、傳遞知識的同時,侮辱、謾罵、騷擾等網(wǎng)絡(luò)暴力行為也愈演愈烈。近年來,繼“粉色頭發(fā)女生自殺\"事件、“網(wǎng)紅管管自殺身亡\"事件以及“胖貓\"事件之后,網(wǎng)絡(luò)暴力的矛頭逐漸轉(zhuǎn)向了體育、娛樂等行業(yè)領(lǐng)域,并在平臺中對體育運動員、娛樂明星進(jìn)行人肉、辱罵、騷擾。為打造健康的數(shù)字平臺生態(tài),我國積極制定并實施了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)暴力信息治理規(guī)定》等規(guī)范,旨在強化數(shù)字平臺在網(wǎng)絡(luò)暴力信息治理中的主體責(zé)任。在實踐中,我國還持續(xù)推進(jìn)針對網(wǎng)絡(luò)暴力、語言文字使用等方面的專項治理行動,加大對網(wǎng)絡(luò)暴力行為的懲罰處置力度。然而,在國家治理體系和治理能力現(xiàn)代化的語境下,這些政策舉措雖對遏制網(wǎng)絡(luò)暴力產(chǎn)生了一定的積極效果,但對網(wǎng)絡(luò)暴力現(xiàn)象的深層動因以及平臺義務(wù)的設(shè)定邊界方面尚未給予充分關(guān)注。事實上,在數(shù)字化時代,用戶、媒體、營銷機構(gòu)等主體均被嵌人平臺生態(tài)系統(tǒng)(platformecosystem)中[3],共享數(shù)字權(quán)利,并持續(xù)在話語權(quán)和信息生產(chǎn)領(lǐng)域展開激烈競爭。這種動態(tài)不確定的競爭格局給數(shù)字平臺的內(nèi)容生產(chǎn)帶來了規(guī)模性風(fēng)險,并在很大程度上加劇了網(wǎng)絡(luò)暴力現(xiàn)象的滋生、蔓延。對此,我們應(yīng)當(dāng)思考:數(shù)字平臺網(wǎng)絡(luò)暴力現(xiàn)象究竟是如何演化形成的?當(dāng)前我國對網(wǎng)絡(luò)暴力現(xiàn)象的治理存在何種困境?又該如何有效紓解?
針對此問題,學(xué)界一般存在兩種傾向:一是偏向于對網(wǎng)絡(luò)暴力現(xiàn)象的法律規(guī)制研究,諸多學(xué)者主張采取以公力救濟為主的基本模式,通過法律事前預(yù)防和適度擴張刑法介入范圍等途徑來應(yīng)對網(wǎng)絡(luò)暴力問題4。在此基礎(chǔ)上,雖有學(xué)者對其進(jìn)行反思,提出網(wǎng)絡(luò)暴力現(xiàn)象治理應(yīng)走向多元主體共治5,但本質(zhì)上仍是期冀通過法律的理性設(shè)計與強制功能實現(xiàn)對網(wǎng)絡(luò)暴力的規(guī)范治理。二是青睞于對數(shù)字平臺中的網(wǎng)絡(luò)暴力現(xiàn)象進(jìn)行傳播心理學(xué)、社會學(xué)以及語詞分析,相關(guān)學(xué)者主要從話語要素、邏輯及策略來闡釋網(wǎng)絡(luò)暴力主義聚合的風(fēng)險因素,或是從滋生情境、正義鏈條、機會主義三個維度厘清網(wǎng)絡(luò)暴力生成的社會根源,意圖明晰網(wǎng)絡(luò)暴力現(xiàn)象的風(fēng)險構(gòu)成要素。雖然近期研究意識到平臺在網(wǎng)絡(luò)暴力信息治理中的重要作用,但由于其未能考慮在數(shù)字時代的結(jié)構(gòu)性隱喻之下,社會背景和技術(shù)運用對網(wǎng)絡(luò)暴力的影響,最終導(dǎo)致學(xué)界對數(shù)字平臺網(wǎng)絡(luò)暴力現(xiàn)象治理的研究缺乏系統(tǒng)性審視與深度闡發(fā)。事實上,由數(shù)字平臺所營造的網(wǎng)絡(luò)空間具有社會性內(nèi)涵,其是權(quán)力和資本在空間意義上的體現(xiàn)8,網(wǎng)絡(luò)暴力現(xiàn)象既有其產(chǎn)生的空間邏輯,亦有其獨特的社會邏輯。鑒于此,本文欲從整體性視角出發(fā),明確平臺社會背景下網(wǎng)絡(luò)暴力的獨特內(nèi)涵,并通過對平臺、意見領(lǐng)袖、算法技術(shù)及用戶等多個關(guān)鍵要素的考察,剖析數(shù)字平臺網(wǎng)絡(luò)暴力的演化機理,在此基礎(chǔ)上分析目前我國數(shù)字平臺網(wǎng)絡(luò)暴力治理面臨的困境,進(jìn)而提出針對性的治理路徑。
二、從網(wǎng)絡(luò)社會到平臺社會:數(shù)字平臺網(wǎng)絡(luò)暴力的內(nèi)涵分析
以元宇宙、區(qū)塊鏈、智能化語義網(wǎng)、加密貨幣等核心技術(shù)構(gòu)造的數(shù)字平臺基礎(chǔ)設(shè)施實現(xiàn)了三維“閱讀—創(chuàng)作一交互\"功能,深刻重塑了傳統(tǒng)網(wǎng)絡(luò)社會的內(nèi)在架構(gòu)。數(shù)字平臺從根本上成為顛覆人們在線互動、交易和社交的方式,這一轉(zhuǎn)變意味著人類已從大眾的“網(wǎng)絡(luò)社會\"代際轉(zhuǎn)換至更為精細(xì)化的“平臺社會”。在此背景之下,網(wǎng)絡(luò)暴力不再是一種泛化了的、從信息生產(chǎn)到受眾傳遞的簡單線性模式,其作為一種新型的暴力形態(tài),不僅超越了傳統(tǒng)社交網(wǎng)絡(luò)固有的虛擬性與匿名性,也更顯著地展現(xiàn)出“平臺化\"的運作邏輯與平行擴散的傳播特性。因此,有必要將網(wǎng)絡(luò)暴力的內(nèi)涵置于數(shù)字平臺的獨特語境下進(jìn)行重新厘定和系統(tǒng)性分析,并明確其作為承載權(quán)力運行的具體機制而存在。
迄今為止,“平臺\"并無一個確切的概念術(shù)語界定,不同的學(xué)科領(lǐng)域?qū)ζ脚_的理解方式存在微妙的差異。平臺一詞最早指的是某個物體的基座支撐面1%,而后被應(yīng)用至計算機科學(xué)領(lǐng)域,并隨著計算機網(wǎng)絡(luò)、阿帕網(wǎng)和早期公告板的出現(xiàn)以及軟件開發(fā)技術(shù)的成熟逐漸得以概念化,其意指某些數(shù)字代碼能夠得到充分開發(fā)和部署的具體依托[1]。在科技產(chǎn)業(yè)和技術(shù)意義層面,平臺被認(rèn)為是一種“通用介質(zhì)”,借此使雙邊(或多邊)主體實現(xiàn)互融互通[12]。而在信息傳播過程中,傳統(tǒng)媒體的完全數(shù)字化和深度融合導(dǎo)致新的使用終端出現(xiàn),平臺呈現(xiàn)出強大的中心性,其處于網(wǎng)絡(luò)中心位置,對信息流、數(shù)據(jù)流的流向具有重要影響。在此基礎(chǔ)上,平臺逐漸能夠控制市場準(zhǔn)入、信息生產(chǎn)和用戶交互規(guī)則,從而影響市場格局和用戶行為。數(shù)字化時代,平臺已演變?yōu)橐环N混合結(jié)構(gòu)(組織、系統(tǒng)和技術(shù))[3],其在算法關(guān)系數(shù)字生態(tài)系統(tǒng)中提供兩個或多個外部用戶組之間的直接交互,并由此兼具中介調(diào)節(jié)、數(shù)據(jù)聚合、權(quán)力生產(chǎn)、實時互動以及虛實交織等功能,進(jìn)而形成一個涉及構(gòu)造、隱喻、計算以及政治層面的復(fù)合形態(tài)4,即數(shù)字平臺。數(shù)字平臺不僅作為一種新興技術(shù)形態(tài)存在,又催生了革命性的生產(chǎn)范式、獨特的文化實踐形態(tài)以及深刻的價值重構(gòu),這些變革推動了數(shù)字平臺技術(shù)、商業(yè)模式及文化生態(tài)的進(jìn)一步合法化進(jìn)程。申而言之,數(shù)字平臺的具體運作涉及權(quán)力、資本、用戶、數(shù)據(jù)信息以及算法技術(shù)等多重要素,本質(zhì)上是多元主體精心篩選且存在于特定受眾和特定話語中的概念,尤其是依賴在線、數(shù)據(jù)驅(qū)動的應(yīng)用程序和服務(wù)(如抖音、Facebook、YouTube)等即為典型的數(shù)字平臺。
在明確“平臺\"以及“數(shù)字平臺\"內(nèi)涵的基礎(chǔ)上,還須厘定網(wǎng)絡(luò)暴力在數(shù)字平臺這一獨特語境之下的特定內(nèi)涵。長期以來,國內(nèi)外學(xué)者對網(wǎng)絡(luò)暴力的概念展開了諸多討論。在國內(nèi),有學(xué)者認(rèn)為,網(wǎng)絡(luò)暴力是網(wǎng)民在網(wǎng)絡(luò)中的暴力行為[15],網(wǎng)絡(luò)暴力本質(zhì)上是網(wǎng)絡(luò)話語暴力的簡稱[6],其常與輿論、謠言等聯(lián)系在一起[],且極易構(gòu)成侵權(quán)、犯罪等失范行為。還有學(xué)者嘗試以風(fēng)險社會理論為切人,指出網(wǎng)絡(luò)暴力既依憑虛擬的網(wǎng)絡(luò)技術(shù),又兼具實在的暴力元素[18]。但遺憾的是,上述研究雖然意識到技術(shù)能力在不斷革新1,但大多仍局限于對網(wǎng)絡(luò)暴力概念本身的探討,即“網(wǎng)絡(luò)暴力之本質(zhì)為何”,未能充分深人網(wǎng)絡(luò)暴力現(xiàn)象發(fā)生的具體場域環(huán)境及其內(nèi)在的結(jié)構(gòu)性要素,這在一定程度上限制了對網(wǎng)絡(luò)暴力概念分析的全面性和深度;在國外,沃爾(WaII)率先提出了一種最常被引用的網(wǎng)絡(luò)犯罪類型,即虛擬環(huán)境中存在的四種犯罪形式:欺騙/盜竊、色情、暴力和網(wǎng)絡(luò)侵入[2o;路易斯(Louis)則意識到數(shù)字平臺中的多種要素共同塑造數(shù)字環(huán)境和信息秩序的強大能力,其將網(wǎng)絡(luò)暴力界定為一個具有統(tǒng)合性的概念,并依據(jù)不同場景具體劃分為:網(wǎng)絡(luò)騷擾、網(wǎng)絡(luò)欺凌、羞辱以及網(wǎng)絡(luò)跟蹤2]。綜合國內(nèi)外學(xué)者的已有研究,筆者認(rèn)為,本文所提出的“數(shù)字平臺網(wǎng)絡(luò)暴力”,不僅追求對網(wǎng)絡(luò)暴力本質(zhì)的解析,而是將網(wǎng)絡(luò)暴力的概念置于“數(shù)字平臺\"這一獨特場域中進(jìn)行多維度考察。
基于上述分析,本文認(rèn)為,數(shù)字平臺網(wǎng)絡(luò)暴力,是指多元主體基于特定利益或目的考量,借助數(shù)字平臺的中介調(diào)節(jié)能力、數(shù)據(jù)聚合效應(yīng)、權(quán)力動態(tài)生成機制、即時互動特性以及現(xiàn)實與虛擬交織的復(fù)雜環(huán)境,誘導(dǎo)或推動網(wǎng)絡(luò)社群成員對特定個體或群體實施騷擾、侮辱、欺凌在內(nèi)的一系列行為的新型暴力形態(tài)。
三、數(shù)字平臺網(wǎng)絡(luò)暴力的演化機理剖析
如前所述,網(wǎng)絡(luò)暴力現(xiàn)象滋生于數(shù)字平臺這一獨特場域,除平臺本身的作用之外,還涉及意見領(lǐng)袖的影響力、算法技術(shù)的驅(qū)動效應(yīng),以及平臺用戶群體的行為模式,這些要素的共同作用對網(wǎng)絡(luò)暴力信息的生命周期產(chǎn)生結(jié)構(gòu)性影響,塑造其在網(wǎng)絡(luò)空間中的傳播形態(tài)與傳播路徑。具而言之,數(shù)字平臺網(wǎng)絡(luò)暴力的演化機理主要包括:“線上 + 線下\"雙向互動下平臺對特定議題的篩選與操控、“流量捕捉”主導(dǎo)下意見領(lǐng)袖的偏見制造與動員引導(dǎo)、“算法機制\"運作下失真網(wǎng)暴信息的情境浸染與敘事轉(zhuǎn)換、“第二自我\"身份鏈條下的情緒激發(fā)與非理性表達(dá)四個環(huán)節(jié),如圖1所示。
數(shù)字平臺的特定議題篩選與操縱信息洪流 數(shù)字秩序 議題生產(chǎn)√ ↓ ↓ ↓ ↓ √
注意力 平臺 信息 權(quán)力 話題 虛實稀缺 篩選 傳播 重組 策略 交互意見領(lǐng)袖的偏見制造與動員引導(dǎo)流量邏輯 偏見制造 動員引導(dǎo)↓ ↓ ↓ ↓ ↓ ↓內(nèi)容 垂直 分析 內(nèi)心 價值 選擇性載體 展示 解碼 認(rèn)同 評判 傳播失真網(wǎng)暴信息的情境浸染與敘事轉(zhuǎn)換算法機制 碎片情境 敘事轉(zhuǎn)換↓ √ √ √ √ ↓信息 信息 選擇性 邏輯 失真 片段式分發(fā) 偏差 拼接 斷層 信息 傳播第二自我的情緒激發(fā)與非理性表達(dá)雙重身份 情感投射 理性缺失√ √ ↓ ↓ √ √現(xiàn)實 數(shù)字 身份 形象 群體 非理性
自我 身份 互嵌 沖突 效應(yīng) 行為
(一)“線上 + 線下\"雙向互動下平臺對特定議題的篩選與操控
在數(shù)字化造就的信息洪流中,社會公眾的注意力是一種稀缺資源,其議程容量的有限性決定了并非所有的話題都能夠進(jìn)入公眾的視野[22]。任何一項議題都需要與其他議題展開激烈的競爭與博弈才有可能占據(jù)輿論中心,進(jìn)而轉(zhuǎn)移至議程設(shè)置的各個環(huán)節(jié)。網(wǎng)絡(luò)暴力議題生產(chǎn)的過程并非僅是用戶的個體性行為,還包含平臺篩選、操控聚合數(shù)據(jù),識別、創(chuàng)造、形成一項議題的積極作為過程。
事實上,由數(shù)字平臺所塑造的數(shù)字秩序和在場秩序互通共融、相互影響[23],其已非純粹的“虛擬”,而是成為\"社會現(xiàn)實\"并將社會主體卷人其中[24]。正因如此,關(guān)于網(wǎng)絡(luò)暴力議題生產(chǎn)和信息傳播并非孤立地植根于網(wǎng)絡(luò)空間之內(nèi),而是經(jīng)由數(shù)字平臺通過“線上與線下\"交互作用的模式所催生。一方面,在平臺社會的背景下,原有的信息傳播權(quán)力結(jié)構(gòu)經(jīng)歷了深刻的重組,傳統(tǒng)權(quán)威、機構(gòu)及壟斷傳播渠道的中心地位與控制力被削弱,而社會公眾則被賦予了更多的表達(dá)權(quán)與行動權(quán)。數(shù)字平臺用戶利用圖像、視頻等多媒體手段,將現(xiàn)實中發(fā)生的各類社會問題,特別是社會熱點事件及公眾高度關(guān)注的事件,直觀地反饋至網(wǎng)絡(luò)平臺之上。抖音平臺副總裁曾明確表示,抖音短視頻對優(yōu)質(zhì)內(nèi)容的定義就是“驚喜\"\"反差\"\"能整活兒\"25,平臺更傾向于推送甚至鼓勵符合其商業(yè)利益與特性的敏感新聞信息(如兩性關(guān)系、家庭關(guān)系、公權(quán)私權(quán)關(guān)系等)至其生態(tài)系統(tǒng)內(nèi)。在此基礎(chǔ)上,更易導(dǎo)致網(wǎng)絡(luò)暴力的相關(guān)社會現(xiàn)實問題逐漸被平臺增權(quán)和放大,并將之推送至更廣泛的受眾群體,從而在網(wǎng)絡(luò)空間中營造出熱烈的討論氛圍。而另一方面,數(shù)字平臺網(wǎng)絡(luò)暴力信息的發(fā)酵往往推動線下暴力行為的出現(xiàn),相關(guān)行為的線上呈現(xiàn)又進(jìn)一步成為數(shù)字平臺內(nèi)容識別、甄選的重點,導(dǎo)致新一輪網(wǎng)絡(luò)暴力事件的發(fā)生。進(jìn)而言之,現(xiàn)實生活中具有高度情緒煽動性的事件更容易轉(zhuǎn)化為線上討論的焦點,進(jìn)而加劇數(shù)字平臺中的仇恨言論和毒性內(nèi)容的生產(chǎn)與傳播,形成了一種“線上 + 線下”雙向激化的惡性循環(huán)。由此,暴力的種子在平臺用戶群體中逐漸生根發(fā)芽。可以說,網(wǎng)絡(luò)暴力話題的生成實際上是平臺在利益驅(qū)動下精心策劃與推動的產(chǎn)物。平臺通過不斷篩選與放大具有爭議性的話題,以實現(xiàn)
其特定的利益訴求。
(二)“流量捕捉”主導(dǎo)下意見領(lǐng)袖的偏見制造與動員引導(dǎo)
在平臺流量化的邏輯之下,信息內(nèi)容依據(jù)其熱度被分級垂直展示,而極端化、具有偏見性與煽動性的內(nèi)容則成為實現(xiàn)流量經(jīng)濟價值的主要形式載體。在此基礎(chǔ)上,意見領(lǐng)袖(leader)為了更進(jìn)一步增強自身話語權(quán)和曝光度,通常傾向于在敏感且具有爭議的事件中制造多方偏見,樹立起多個相互對立的陣營,并在這一過程中利用自身資源優(yōu)勢對平臺用戶進(jìn)行動員引導(dǎo),進(jìn)而重構(gòu)事件本身的意義框架,加劇網(wǎng)絡(luò)暴力事件醞釀與發(fā)展的潛在風(fēng)險。
有學(xué)者指出:“任何群體行為都必然包括對參加者的有效行動動員,即通過宣傳、示范、暗示等方式強化結(jié)構(gòu)性誘因和一般性信念階段形成的認(rèn)知與態(tài)度。[26]”由于意見領(lǐng)袖在信息傳播架構(gòu)中占據(jù)核心地位,相較于普通平臺用戶,其擁有更為充裕的資源儲備與顯著的影響力優(yōu)勢。在網(wǎng)絡(luò)暴力事件的動態(tài)進(jìn)程中,他們傾向于積極利用網(wǎng)絡(luò)平臺,發(fā)表對于此類事件的所謂深刻見解,以此吸引公眾的關(guān)注焦點并擴大其網(wǎng)絡(luò)流量基數(shù)。意見領(lǐng)袖憑借其獨特的觀察視角、透徹的分析能力以及廣泛的社交網(wǎng)絡(luò)覆蓋力,能夠高效吸引并引導(dǎo)廣大網(wǎng)民的關(guān)注與討論,進(jìn)而構(gòu)建起平臺用戶對其的信任根基與心理共鳴。諸如各大平臺的知名網(wǎng)紅博主與網(wǎng)絡(luò)大V,擅長在紛繁復(fù)雜的數(shù)據(jù)中篩選高質(zhì)量信息源,通過深入剖析爭議性及模糊議題,并補充詳盡信息以拓展原始媒體報道的維度,從而在潛移默化中引導(dǎo)公眾意見的形成,構(gòu)建起一個潛在的社會動員架構(gòu),促使平臺用戶圍繞其所設(shè)定的議題形成共識并采取集體行動。在此過程中,意見領(lǐng)袖會確立一套被廣泛認(rèn)同的價值觀與體系,并以此作為評判標(biāo)準(zhǔn),深入分析事件中當(dāng)事人的道德心理、生活習(xí)慣等,通過在“好\"還是“壞\"的評價中引導(dǎo)平臺用戶內(nèi)心偏見的強化。在此過程中,意見領(lǐng)袖還會將呈現(xiàn)在平臺中的信息內(nèi)容精心篩選,剔除與自身認(rèn)知相悖的觀點,積極傳播并放大那些能夠佐證其立場的信息,通過此類選擇性傳播機制,不僅增強了特定觀點,還促使相關(guān)議題在網(wǎng)絡(luò)空間內(nèi)形成強烈的共鳴效應(yīng)。由此,眾多平臺用戶集結(jié)成群,成為意見領(lǐng)袖的堅定追隨者,其所持觀點在數(shù)字平臺上經(jīng)歷了一個不斷加權(quán)與放大的循環(huán)過程,這一過程導(dǎo)致個人偏見的逐漸凸顯與極化,進(jìn)而誘發(fā)了網(wǎng)絡(luò)暴力主義的滋生。
(三)“算法機制”運作下失真網(wǎng)暴信息的情境浸染與敘事轉(zhuǎn)換
數(shù)字化時代,“算法機制\"不僅嵌入現(xiàn)有的組織實踐和制度中,而且還形成了信息架構(gòu)的核心[27,并在很大程度上決定信息傳播的方式和效果。在這一機制的主導(dǎo)下,信息生產(chǎn)和分發(fā)的過程由算法主導(dǎo),推薦算法成為平臺呈現(xiàn)和分發(fā)信息的方式28]。然而,算法的信息聚合功能并非完全真實,而是通過抓取、清洗、整理數(shù)據(jù)為人們呈現(xiàn)存在偏差的鏡像環(huán)境[29],容易進(jìn)一步演化成為失真信息。尤其是在網(wǎng)絡(luò)暴力相關(guān)信息的傳播過程中,算法往往將這些信息語料不斷地解構(gòu)、編譯、解讀,甚至營造碎片化的情境表達(dá),以保證信息生產(chǎn)貼合多樣化的受眾群體需求和敘事模式。
算法技術(shù)實質(zhì)上是依靠精密的計算機代碼和系統(tǒng)指令共同構(gòu)成的“數(shù)學(xué)邏輯\"來進(jìn)行運作。面對一起網(wǎng)絡(luò)暴力事件,算法技術(shù)往往通過分布式計算(DistributedComputing)和內(nèi)存計算(In-MemoryComputing)功能將海量數(shù)據(jù)進(jìn)行篩選、分類,并通過自然語言處理技術(shù)(NLP)與機器學(xué)習(xí)技術(shù)(ML)從不同維度對相關(guān)文本的詞匯、短句、情感傾向進(jìn)行深人理解,進(jìn)而形成多樣化的結(jié)論。但鑒于文本結(jié)構(gòu)、語法規(guī)則及語義關(guān)系的復(fù)雜性,算法的“數(shù)學(xué)邏輯”和人類的“語言邏輯”之間存在著斷層,因此算法在識別與理解相關(guān)內(nèi)容時會呈現(xiàn)出顯著的差異性,極大影響對相關(guān)信息的意義闡釋與解讀。正因如此,在整合碎片化的網(wǎng)絡(luò)暴力事件信息時,算法依循數(shù)學(xué)邏輯將相關(guān)內(nèi)容要素抽取之后再進(jìn)行選擇性拼接,極易導(dǎo)致虛假的網(wǎng)絡(luò)暴力信息在數(shù)字平臺中生成和迅速傳播,并定向推送給目標(biāo)用戶。如在“重慶胖貓\"事件中,最初的社會爭議聚焦于“拜金女\"并甩掉其男友的行為。然而,隨著信息的不斷擴散與演變,大量基于算法技術(shù)拼接功能的虛假信息被生成、傳播且難以溯源。原本的爭議被歪曲為“拜金女欠債不還\"以及“拜金女侮辱男友家人\"等不實傳言。這一系列虛假信息的累積,最終導(dǎo)致涉事女子遭遇了長達(dá)一個月的網(wǎng)絡(luò)暴力攻擊,各大平臺均充斥著對她的惡意言論。由此可見,算法機制在網(wǎng)絡(luò)暴力事件的演化中,試圖構(gòu)建一種看似逼真的語言情境,并通過失真的敘事轉(zhuǎn)換,誘導(dǎo)大量網(wǎng)絡(luò)用戶沉浸于由其所塑造的虛擬世界之中。但事實上,用戶所接觸到的往往只是整個事件中的某個孤立片段,而非其全面、真實的原貌。
(四)“第二自我”身份鏈條下的情緒激發(fā)與非理性表達(dá)
“第一自我”是人們在獨特的現(xiàn)實社會環(huán)境中,通過社會規(guī)范、社會角色、社會等級和社會關(guān)系等要素來完成自我認(rèn)知與自我建構(gòu)。在數(shù)字時代的隱喻之下,謝利·特克爾(SherryTurkle)對\"第一自我\"概念進(jìn)行了進(jìn)一步延展,并提出了“第二自我\"(TheSecondSelf)的命題,即個體能借助數(shù)字平臺媒介塑造另一身份,在自創(chuàng)環(huán)境中實現(xiàn)交流互動[30]。具而言之,平臺用戶在社交媒體中創(chuàng)建虛擬賬號(即便是“實名制\"),以第二自我的身份鏈條進(jìn)行個性表達(dá)、社交互動和信息交流,他們在這些平臺上建立起自身的數(shù)字領(lǐng)域,持續(xù)地將第一自我的社會實踐活動融人平臺操作的點贊、評論、轉(zhuǎn)發(fā)的過程中,實現(xiàn)線下身份與數(shù)字身份的深度互嵌。
然而,在數(shù)字平臺這一特定場域中,第一自我的現(xiàn)實展現(xiàn)與第二自我的虛擬呈現(xiàn)之間往往存在著形象層面的沖突。第二自我身份構(gòu)建的離身性與匿名性,使得數(shù)字平臺易于成為不良情緒的溫床,進(jìn)而誘發(fā)網(wǎng)絡(luò)暴力事件的產(chǎn)生與擴散。在實體物理世界中,個體行為通常受制于社會規(guī)范、法律框架及道德標(biāo)準(zhǔn)的約束,促使個體在行動前進(jìn)行理性的權(quán)衡與考量。相比之下,數(shù)字平臺本質(zhì)上是一個由技術(shù)、生產(chǎn)力、社會現(xiàn)實等多重因素交織而成的復(fù)雜空間,用戶在數(shù)字平臺中的停留具有瞬時性,且高度依賴符號化介質(zhì)進(jìn)行虛擬交互。因此,情緒化的內(nèi)容更易于在短時間內(nèi)迅速吸引注意力、激發(fā)共鳴。在這種心理狀態(tài)下,面對真假難辨的網(wǎng)絡(luò)暴力信息,網(wǎng)絡(luò)用戶往往被瞬間的情緒洪流裹挾,傾向于將第二自我的情感投射至目標(biāo)事件,并把當(dāng)事人送至道德法庭進(jìn)行正義遣責(zé)與審判。換言之,這種即時的情緒反應(yīng)阻礙了平臺用戶自身深人、全面的理性分析路徑,眾多用戶無意識受到群體效應(yīng)的影響,傾向于以第二自我的身份鏈條放任攻擊性、侮辱性言辭的宣泄,甚至主動參與網(wǎng)絡(luò)欺凌,對受害者造成嚴(yán)重傷害。同時,由于平臺用戶第一自我與第二自我之間的撕裂,即便其已實施網(wǎng)絡(luò)暴力行為,也往往忽視其行為后果,認(rèn)為網(wǎng)絡(luò)言行僅是“短暫存在”的,一旦關(guān)閉應(yīng)用或“下線\"回歸現(xiàn)實,便不會對自己或他人產(chǎn)生持續(xù)影響,因而缺乏對自身網(wǎng)絡(luò)行為潛在后果的理性考量。
四、數(shù)字平臺網(wǎng)絡(luò)暴力的治理困境
如前所述,數(shù)字平臺中的多重結(jié)構(gòu)要素導(dǎo)致網(wǎng)絡(luò)暴力現(xiàn)象的產(chǎn)生、擴散與傳播,網(wǎng)絡(luò)暴力現(xiàn)象治理的困境亦存在于其演化機制過程之中。具體來說,主要包括:消極義務(wù)與積極義務(wù)設(shè)置失衡,平臺“守門人”義務(wù)預(yù)防性與引導(dǎo)性不足;意見領(lǐng)袖道德想象力缺失,助推網(wǎng)絡(luò)暴力輿論深層發(fā)酵;算法信息區(qū)隔導(dǎo)致意見極化,平臺用戶對網(wǎng)絡(luò)暴力事件認(rèn)知窄化;集體責(zé)任壓倒個體責(zé)任,網(wǎng)絡(luò)暴力行為刑法規(guī)制效果乏力。
(一)積極義務(wù)與消極義務(wù)配置失衡,平臺“守門人”義務(wù)預(yù)防性與引導(dǎo)性不足
“守門人”(gatekeeper)一詞最早由美國學(xué)者科特·雷溫(KurtLewin)提出,近年來,守門人的內(nèi)涵逐漸擴展至政治學(xué)、社會學(xué)等領(lǐng)域,其常被認(rèn)為是控制移動互聯(lián)網(wǎng)生態(tài)關(guān)鍵環(huán)節(jié)(技術(shù)環(huán)境和運營環(huán)境)、有資源或有能力影響其他個人信息處理者處理個人信息能力的互聯(lián)網(wǎng)營運者[32]。在數(shù)字平臺網(wǎng)絡(luò)暴力的治理過程中,平臺既是被規(guī)范管理的對象,也是作為實施管理規(guī)范的手段或工具。近年來,我國相繼出臺的如《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)暴力信息治理規(guī)定》等法律規(guī)范中對數(shù)字平臺設(shè)置了積極義務(wù)與消極義務(wù),用以應(yīng)對網(wǎng)絡(luò)暴力、公眾輿論發(fā)酵等各種信息風(fēng)險問題。
然而,在現(xiàn)行法律框架下,我國針對數(shù)字平臺所設(shè)置的積極義務(wù)與消極義務(wù)呈現(xiàn)出失衡狀態(tài),主要表現(xiàn)在:一是,對數(shù)字平臺消極義務(wù)設(shè)置的過度倚重,導(dǎo)致其預(yù)防性不足。消極義務(wù)是要求平臺禁正從事的行為,在“結(jié)果主義”導(dǎo)向下,我國《網(wǎng)絡(luò)暴力信息治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》具體條目的設(shè)置,更多采用列舉式的方式明確平臺應(yīng)當(dāng)禁止的行為,如“禁止平臺傳播包含侮辱、謾罵、恐嚇、誹謗等內(nèi)容的網(wǎng)絡(luò)暴力信息\"“禁止平臺通過算法推薦等方式,擴大網(wǎng)絡(luò)暴力信息的傳播范圍”等。
這些規(guī)定的本意是通過禁止性規(guī)范來預(yù)防網(wǎng)絡(luò)暴力現(xiàn)象的發(fā)生,但這種義務(wù)設(shè)置模式實質(zhì)上是一種事后治理的思維,立法條例圍繞著網(wǎng)絡(luò)暴力行為所造成的實際損害結(jié)果來構(gòu)建,而非預(yù)防性的策略,因此無法有效應(yīng)對網(wǎng)絡(luò)暴力信息產(chǎn)生、傳播的突發(fā)性、隱蔽性和廣泛性等難題。
二是,對數(shù)字平臺積極義務(wù)的設(shè)定則顯得較為粗疏,導(dǎo)致其引導(dǎo)性缺失。積極義務(wù)是指數(shù)字平臺必須積極履行的行為,如在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)暴力信息治理規(guī)定》《數(shù)據(jù)安全法》等相關(guān)規(guī)范中都提及了平臺主體應(yīng)當(dāng)“建立健全信息內(nèi)容審核制度”\"鼓勵內(nèi)容創(chuàng)新和正能量\"等內(nèi)容,但對于如何具體落實這一要求,以及如何在信息審核中有效識別并預(yù)防網(wǎng)絡(luò)暴力信息的傳播,缺乏明確規(guī)定。同樣,雖然相關(guān)規(guī)范要求平臺應(yīng)當(dāng)積極采取措施預(yù)防和治理網(wǎng)絡(luò)暴力信息,但對于這些措施的具體內(nèi)容和實施方式,限于采取刪除、屏蔽、斷開鏈接等輿論壓制措施,忽視了平臺在網(wǎng)絡(luò)暴力信息擴散傳播過程中的引導(dǎo)性作用。正因如此,平臺在履行積極義務(wù)時要么由于過度擴張導(dǎo)致對言論自由的誤傷,要么由于過度保守導(dǎo)致治理效果的削減,難以在網(wǎng)絡(luò)暴力現(xiàn)象的治理過程中發(fā)揮實質(zhì)、有效的作用。
(二)意見領(lǐng)袖道德想象力缺失,助推網(wǎng)絡(luò)暴力輿論深層發(fā)酵
平臺社會是一個動態(tài)演變的社會結(jié)構(gòu),數(shù)字平臺中的公共價值不斷地被不同行動者塑造。意見領(lǐng)袖作為信息生產(chǎn)與傳播的關(guān)鍵節(jié)點,憑借眾多的粉絲基礎(chǔ)和高效的傳播渠道,能夠迅速占據(jù)輿論的中心位置,對公眾輿論的走向產(chǎn)生深遠(yuǎn)影響。然而,這種影響力的背后,也隱藏著道德選擇與公共價值沖突的深刻議題,尤其是意見領(lǐng)袖的道德想象力,已經(jīng)成為衡量其輿論引導(dǎo)能力與社會責(zé)任感的重要標(biāo)尺。
有學(xué)者指出,意見領(lǐng)袖的道德想象力,是指意見領(lǐng)袖在解碼輿情過程中“設(shè)身處地\"地為輿情利益相關(guān)者的價值訴求著想,根據(jù)對意見表達(dá)的多種可能性后果的評估確定輿情最適宜的意見表達(dá)的能力[33]。這種能力所展現(xiàn)的不僅是意見領(lǐng)袖道德理性的自我構(gòu)建,更是彌合輿論沖突,塑造公眾認(rèn)知,阻斷網(wǎng)絡(luò)暴力進(jìn)一步升級的重要手段。然而,在數(shù)字平臺網(wǎng)絡(luò)暴力的演化過程中,意見領(lǐng)袖的道德想象力的缺失,助推了網(wǎng)絡(luò)暴力輿論的深層次發(fā)酵。一方面,意見領(lǐng)袖在追求流量變現(xiàn)和保持個人影響力的私利驅(qū)動下,很容易陷入“流量為王\"的誤區(qū)。面對一起網(wǎng)絡(luò)暴力事件,意見領(lǐng)袖很容易忽視對事件真相的深入調(diào)查和理性分析,而是從何種話題更能吸引眼球,更能獲得公眾認(rèn)同的角度出發(fā),隨意得出符合自身利益追求的結(jié)論。這種基于短期利益最大化的行為模式,削弱了意見領(lǐng)袖在輿論引導(dǎo)層面的公信力,更可能誤導(dǎo)公眾對網(wǎng)絡(luò)暴力事件的理解,加劇網(wǎng)絡(luò)暴力現(xiàn)象的蔓延。另一方面,面對復(fù)雜多變的輿情環(huán)境,意見領(lǐng)袖在道德和利益之間往往難以平衡。數(shù)字平臺中的信息傳播在認(rèn)識論上具有公共性的特征,但在實踐論上還具有私人性的底色34,基于維護粉絲群體或增加廣告推廣、商業(yè)合作機會,意見領(lǐng)袖會選擇刻意回避敏感話題,甚至為迎合公眾情緒而發(fā)表偏激或片面的言論,進(jìn)一步導(dǎo)致網(wǎng)絡(luò)暴力輿論的發(fā)酵。當(dāng)意見領(lǐng)袖無法站在網(wǎng)絡(luò)暴力輿論事件當(dāng)事人的角度思考問題,無法真正理解和共情他們的價值訴求時,其言論就很容易成為數(shù)字平臺網(wǎng)絡(luò)暴力的“幫兇”,加劇對受害者的二次傷害。因此,提升意見領(lǐng)袖的道德理性,不僅是增強其輿論引導(dǎo)能力的關(guān)鍵所在,更是構(gòu)建健康、和諧的網(wǎng)絡(luò)與論生態(tài)的必然要求。
(三)算法信息區(qū)隔導(dǎo)致意見極化,平臺用戶對網(wǎng)絡(luò)暴力事件認(rèn)知窄化
價值共識,是指人們在相互交往中,通過深層次的思想溝通和交流,在價值觀念上形成某種協(xié)調(diào)、一致的意見[35]。然而,在數(shù)字化時代,算法已成為信息生產(chǎn)與傳播的核心驅(qū)動力,其無形之手深刻影響著人類的價值觀念構(gòu)建,使得人們在面對同一事物時很難形成統(tǒng)一共識。尤其是在數(shù)字平臺中,網(wǎng)絡(luò)暴力信息的蔓延、熱點評論的引導(dǎo)以及熱點榜單的垂直排序等,無一不深刻地烙印著算法機制運作的痕跡,可以說算法技術(shù)塑造了一個既多元又極化的信息生態(tài)。
在網(wǎng)絡(luò)暴力信息的擴散傳播過程中,算法機制通過復(fù)雜的計算邏輯,對用戶的行為、興趣及偏好進(jìn)行深度挖掘與分析,為用戶提供高度個性化的信息推送。這一過程看似提升了信息獲取的便捷性與針對性,實則通過實時了解用戶偏好并過濾掉異質(zhì)信息,為用戶打造個性化的信息世界,筑起信息和觀念的“隔離墻\"[36]。面對同一起網(wǎng)絡(luò)暴力事件,持有各異價值觀與偏好的個體,在瀏覽、點贊、轉(zhuǎn)發(fā)的過程中,會遭遇到算法根據(jù)其特定立場精心篩選出的、凸顯各自關(guān)注熱點的差異化評論集合。這種依據(jù)用戶個人觀點進(jìn)行定制化信息推送的方式,通過強化個體偏好,進(jìn)一步加劇關(guān)于同一網(wǎng)絡(luò)暴力事件觀點的兩極分化現(xiàn)象。眾多平臺用戶因共享的興趣而集結(jié)成群,其內(nèi)部的認(rèn)同感得以持續(xù)強化,導(dǎo)致群體內(nèi)部形成的“共識\"往往被誤視為普遍真理。一旦面對來自圈層外部的不同觀點,平臺用戶的包容性降低,傾向于認(rèn)為這些觀點不屬于自身的認(rèn)知范疇或立場陣營,進(jìn)而可能陷入自身認(rèn)知的極端狀態(tài),并對其進(jìn)行批判甚至是口誅筆伐。算法技術(shù)造就的信息環(huán)境的封閉性,使得用戶難以接觸到與自己觀點相左的信息,從而加劇認(rèn)知的片面化與單一化。更為嚴(yán)重的是,算法機制在推動觀點極化的同時,還很大程度加劇網(wǎng)絡(luò)暴力事件的分裂與二次沖突。不同圈層的意見領(lǐng)袖為提升自身話語的合理性,會不斷引導(dǎo)網(wǎng)絡(luò)暴力信息的輿論走向,形成多個封閉且真假難辨的觀點陣營。這些陣營內(nèi)部的對象與結(jié)果之間的實在性與虛擬性出現(xiàn)融合趨向,只聽得到我們選擇和愉悅我們的東西[37],使得對于網(wǎng)絡(luò)暴力事件的理性價值話語難以穿透不同圈層壁壘。當(dāng)極端或片面化的價值觀念在特定網(wǎng)絡(luò)圈層內(nèi)占據(jù)主導(dǎo)地位時,不僅會窄化圈內(nèi)成員的行為模式與認(rèn)知框架,還會扭曲新用戶的價值觀念,使其逐漸被圈內(nèi)用戶同化,并轉(zhuǎn)變?yōu)榫W(wǎng)絡(luò)暴力信息的無意識傳播者。
(四)群體責(zé)任壓倒個體責(zé)任,網(wǎng)絡(luò)暴力行為法律規(guī)制效果乏力
數(shù)字平臺中網(wǎng)絡(luò)暴力行為的實施并非簡單的“一對一\"模式,而是經(jīng)由網(wǎng)絡(luò)空間的“發(fā)酵”,產(chǎn)生“聚眾”效應(yīng),進(jìn)而對侵害對象形成強大壓力與侵害效果[38]。但由于侵害參與主體的群體性特征,大多數(shù)用戶普遍存在一種“法不責(zé)眾\"的心理,即認(rèn)為在群體行為中,個人責(zé)任會被削弱,法律難以追究到每個個體。當(dāng)前學(xué)界在應(yīng)對網(wǎng)絡(luò)暴力問題上,更偏向于通過完善法律的理性設(shè)計來應(yīng)對,其核心策略是運用建設(shè)性的法治思維,持續(xù)推動網(wǎng)絡(luò)暴力立法體系的建構(gòu)[39,并拓寬司法實踐的打擊范疇,嚴(yán)厲懲處網(wǎng)絡(luò)暴力行為。
然而,面對基數(shù)龐雜且人員不特定的施暴者群體,無論是在技術(shù)層面還是法律層面,都面臨著歸責(zé)困難的巨大挑戰(zhàn)。一方面,我國在很長一段時間內(nèi)致力于推行網(wǎng)絡(luò)實名制,但由于人工智能技術(shù)的快速發(fā)展,大量利用賬號創(chuàng)建(AGM)內(nèi)容生成(CGC)、行為模擬(BSM)等技術(shù)產(chǎn)生的虛假水軍機器人充斥在數(shù)字平臺的各個角落。這些虛擬賬號能夠模擬真實用戶的行為模式,難以與真實用戶區(qū)分開來,且使用代理服務(wù)器、虛擬專用網(wǎng)絡(luò)等技術(shù)手段,隱藏其真實IP地址和地理位置。在此基礎(chǔ)上,相關(guān)人員無法搜集或者需要花費大量人力、物力、財力搜集證據(jù),增加了溯源難度,法律規(guī)制常常面臨著“無法歸責(zé)\"的困境。另一方面,即便是在真實的用戶群體中,部分用戶出于隱私保護、避免騷擾等考量,選擇不公開或隨意偽造個人信息,從而規(guī)避實名制的要求。更為重要的是,在網(wǎng)絡(luò)暴力事件的發(fā)酵過程中,除了直接相關(guān)的狂熱施暴者之外,還存在著眾多的擴大事態(tài)的傳播者、添油加醋的旁觀者等邊緣群體角色[4。這些邊緣群體角色在網(wǎng)絡(luò)暴力事件中的身份并不固定,彼此之間形成了相互支持、相互攻擊以及相互利用的復(fù)雜關(guān)系網(wǎng)。在不同的場景中,邊緣角色群體極易轉(zhuǎn)化成為直接施暴者,因此難以精確劃分每個參與者的具體作用及其所造成的影響。在這種情況下,如何界定網(wǎng)絡(luò)暴力的發(fā)起者、組織者、煽動者、教唆者等不同身份本身就構(gòu)成了法律適用的難題,更何況,即便能夠追蹤到信息發(fā)布者的身份,也難以準(zhǔn)確判斷其言論的真實性與意圖,更無法據(jù)此來判定其在網(wǎng)絡(luò)暴力事件中的責(zé)任大小。因此,基于以上原因,數(shù)字平臺網(wǎng)絡(luò)暴力行為的個體責(zé)任往往隱于群體責(zé)任之下,期冀憑借法律規(guī)制的單一手段無法做到對數(shù)字平臺網(wǎng)絡(luò)暴力的全方位治理。
五、數(shù)字平臺網(wǎng)絡(luò)暴力治理的突破路徑選擇
為實現(xiàn)對數(shù)字平臺網(wǎng)絡(luò)暴力的全方位治理,需從平臺義務(wù)重塑、意見領(lǐng)袖的道德培植、算法的技術(shù)治理以及輿論生態(tài)綜合施策四個維度深入剖析,構(gòu)建一個融合“公共一個體”二元思維、強化意見領(lǐng)袖道德理性、實施過程性監(jiān)管審查及促進(jìn)責(zé)任共擔(dān)治理體系的全方位策略框架。
(一)義務(wù)重塑:融入“公共一個體”二元思維,提升平臺信息治理的預(yù)防性與引導(dǎo)性
數(shù)字化時代,人類的信息傳播活動具有人際傳播、群體傳播、組織傳播、大眾傳播四種傳播形態(tài)[41],其中,人際傳播特指個體間直接且即時的信息交流與互動,強調(diào)的是傳播的私密性和直接性。群體傳播、組織傳播以及大眾傳播則側(cè)重于面向不特定多數(shù)人的信息傳播,這些形態(tài)共同構(gòu)成了更為廣泛的社會化傳播網(wǎng)絡(luò)。申而言之,基于網(wǎng)絡(luò)暴力信息的生產(chǎn)、傳播亦存在著“公共\"與“個體\"兩種受眾面向,在“個體”層面,網(wǎng)絡(luò)暴力信息往往起始于個體間的沖突或誤解,通過人際傳播渠道迅速擴散。而在“公共\"層面,這類信息則借助群體傳播、組織傳播乃至大眾傳播的強大力量,跨越個體界限,在更廣泛的受眾群體中引發(fā)關(guān)注與討論,進(jìn)而形成更為復(fù)雜的社會影響。因此,為了提升數(shù)字平臺網(wǎng)絡(luò)暴力信息治理的預(yù)防性和引導(dǎo)性,一個可能的思路是,把握信息傳播的雙重面向,融入“公共一個體\"的二元思維,并在事前和事中兩個階段展開相應(yīng)的制度設(shè)計。
我國2024年出臺的《網(wǎng)絡(luò)暴力信息治理規(guī)定》中指出,要建立完善網(wǎng)絡(luò)暴力信息治理機制,健全用戶注冊、賬號管理、個人信息保護、信息發(fā)布審核、監(jiān)測預(yù)警等制度①。因此,在事前階段,平臺應(yīng)著重于信息傳播的公共層面,構(gòu)建起一套“人機協(xié)同\"的預(yù)防性監(jiān)控體系。通過融合先進(jìn)的算法模型與人工審核機制,以確保能夠精確捕捉并識別出網(wǎng)絡(luò)暴力信息滋生的高風(fēng)險情境。在人智協(xié)同交互的過程中,平臺應(yīng)對公眾特別關(guān)注、點贊、轉(zhuǎn)發(fā)的信息進(jìn)行差異化的毒性內(nèi)容審查,通過內(nèi)容細(xì)粒度檢測的結(jié)果決定內(nèi)容是否需要進(jìn)一步修改或者直接封禁處置的結(jié)論。同時,該體系還需有效識別、阻斷那些可能促使網(wǎng)民群體將網(wǎng)絡(luò)暴力行為視為“正當(dāng)\"的高風(fēng)險環(huán)境因素,從而從源頭上遏制網(wǎng)絡(luò)暴力信息的產(chǎn)生與傳播。在事中階段,平臺在及時引導(dǎo)、處置不良公眾輿論的基礎(chǔ)上,亦需重點關(guān)注個體權(quán)益的保護和預(yù)防,確保用戶個體在網(wǎng)絡(luò)空間中的安全感。在數(shù)字平臺中,大量信息依據(jù)點贊及回復(fù)的數(shù)據(jù)高低進(jìn)行系統(tǒng)排名,將充滿對立情緒的言論“置頂\"42],這種趨勢限制了用戶個體對爭議事件的討論路徑。面對理性被極端聲音壓制、善意被惡意取代的不良網(wǎng)絡(luò)環(huán)境,平臺亟須扭轉(zhuǎn)暴力信息的傳播優(yōu)勢,引導(dǎo)個體深入了解爭議事件的多維度和復(fù)雜性,防止出現(xiàn)網(wǎng)絡(luò)暴力當(dāng)事人的失語現(xiàn)象。例如,平臺可以引人“一鍵屏蔽\"或“安全護盾\"等工具,避免網(wǎng)絡(luò)暴力滲透至用戶的日常生活。此外,于社交媒體平臺而言,還需在投訴與舉報系統(tǒng),以及輔助證據(jù)提交等關(guān)鍵環(huán)節(jié),融入更多便于受害者維護自身權(quán)益的功能設(shè)計,確保他們即便在遭遇網(wǎng)絡(luò)暴力后,保留一個基本的、數(shù)字化的避風(fēng)港。
(二)道德培植:培育意見領(lǐng)袖道德理性,引導(dǎo)個人利益與公共利益價值對齊
如前所述,在數(shù)字平臺中,意見領(lǐng)袖道德想象力的缺失,導(dǎo)致其常常陷入權(quán)衡個人利益與公共利益的糾結(jié)狀態(tài),這種糾結(jié)狀態(tài)有意或無意地助推了網(wǎng)絡(luò)暴力事件的深層發(fā)酵。為此,在數(shù)字平臺網(wǎng)絡(luò)暴力的治理過程中,應(yīng)著重培育意見領(lǐng)袖的道德理性,使其以更加道德、更負(fù)責(zé)任的方式在數(shù)字平臺中發(fā)表自身言論,從而周全、平衡網(wǎng)絡(luò)暴力輿論中的各種影響,引導(dǎo)個人利益與公共利益的價值對齊,推動對爭議事件多元化、有序化探討的格局形成。
道德理性,是指人們認(rèn)識到善并依據(jù)善而做出行為[43],其中,道德認(rèn)知與道德情感是構(gòu)成道德理性的核心要素。于意見領(lǐng)袖而言,道德理性是其在“向善”的道德判斷和行為選擇的基礎(chǔ)上,以一種更加審慎、負(fù)責(zé)的態(tài)度發(fā)表評論,引導(dǎo)公眾輿論的心理狀態(tài)與行為模式。因此,對意見領(lǐng)袖道德理性的培養(yǎng)主要包括兩點:一是要強化意見領(lǐng)袖的道德認(rèn)知。道德認(rèn)知是人們對現(xiàn)實道德關(guān)系和道德規(guī)范的認(rèn)識[44]。對于數(shù)字平臺中的百萬粉絲博主和網(wǎng)絡(luò)大V,一方面,在其發(fā)布涉及公眾輿論、網(wǎng)絡(luò)暴力相關(guān)的短視頻和評論時,平臺可以在發(fā)布頁面的醒目位置嵌入相關(guān)法律法規(guī)提示和可能后果警示,盡可能降低意見領(lǐng)袖在數(shù)字平臺發(fā)布動態(tài)的隨意性和強主觀性;另一方面,作為網(wǎng)絡(luò)流量和公眾輿論的掌控者,意見領(lǐng)袖自身亦需要自覺遵守平臺規(guī)則和法律規(guī)范,認(rèn)識到個人行為對數(shù)字平臺網(wǎng)絡(luò)空間乃至社會帶來的影響,從而及時調(diào)整自身行為,自覺地將公共利益置于個人利益之上。二是應(yīng)注重對意見領(lǐng)袖道德情感的培養(yǎng)。道德情感是指對他人遭受苦難產(chǎn)生共鳴的情感反應(yīng),并直接體現(xiàn)為一個人的道德想象力。意見領(lǐng)袖作為公眾利益的守望者,當(dāng)面對一起敏感、復(fù)雜多變的網(wǎng)絡(luò)暴力事件時,應(yīng)該增強自身的共情能力,能夠設(shè)身處地地理解不同群體的立場與感受,避免簡單的標(biāo)簽化與對立化。尤其是在探討社會不公、弱勢群體權(quán)益、兩性關(guān)系等敏感議題時,意見領(lǐng)袖不應(yīng)只追求高閱讀、高點贊、高評論的指標(biāo),塑造、強化對立觀點引導(dǎo)平臺用戶迅速“站隊”,掀起輿論熱潮,而應(yīng)保持冷靜與理性,在價值要素、自的要素、策略要素的權(quán)衡中,深入問題的本質(zhì)與根源,揭示問題背后的復(fù)雜關(guān)系與邏輯鏈條。通過對事件內(nèi)容的深度解釋和價值引導(dǎo),改變那些不理性用戶群體的認(rèn)知框架,促使他們開始重新審視自己的觀念與理解。由此,通過強化意見領(lǐng)袖道德認(rèn)知與道德情感的理性培植,推動其形成高度的責(zé)任自覺和道德自律,進(jìn)而實現(xiàn)個人利益與公共利益的價值對齊。
(三)技術(shù)治理:構(gòu)建過程性監(jiān)管審查機制,避免算法決策極端化
算法技術(shù)不僅主導(dǎo)著網(wǎng)絡(luò)暴力失真信息的生產(chǎn)、流轉(zhuǎn),也同樣影響著網(wǎng)絡(luò)用戶的行為認(rèn)知。但由于算法機制是由復(fù)雜多元的算法規(guī)則左右的運行過程,必須通過增設(shè)相應(yīng)的審查機制對算法技術(shù)本身展開技術(shù)治理,打開算法信息推送的“黑箱”。因此,需要構(gòu)建“過程性\"的監(jiān)管審查機制,以事前、事中以及事后三個階段為著眼點,避免算法在信息處理過程中的極端決策。
第一,事前階段的行政審查機制。數(shù)字平臺中,任何一套新開發(fā)且未經(jīng)投入使用的算法技術(shù),尤其是針對算法在公共議題和敏感議題中的預(yù)期應(yīng)用,應(yīng)實施一套嚴(yán)格的行政許可機制。具體而言,算法技術(shù)服務(wù)的提供者應(yīng)承擔(dān)起主動申報的責(zé)任,其需向?qū)iT的行政主管部門提交完備的申請材料,包括算法的基本設(shè)計邏輯,算法的預(yù)期效果,以及促進(jìn)信息的有效流通、提升用戶體驗的方法、模式等。同時,申請者必須提供全面的風(fēng)險評估報告,明確指出算法可能引發(fā)的網(wǎng)絡(luò)暴力風(fēng)險點,并附上相應(yīng)的應(yīng)對措施。主管部門在接收這些申請材料后,應(yīng)組建一支涵蓋計算機科學(xué)、社會學(xué)、法學(xué)等多個領(lǐng)域?qū)<覙?gòu)成的審查團隊,確保審查的全面性和專業(yè)性。在審查過程中,團隊專家需綜合運用技術(shù)手段和法律法規(guī)的雙重標(biāo)準(zhǔn),識別算法中可能存在的漏洞或偏見,確保算法的應(yīng)用不違反國家法律法規(guī)和科技倫理。通過應(yīng)用前的行政審查機制,可以有效遏制因算法技術(shù)濫用、誤用而導(dǎo)致網(wǎng)絡(luò)暴力信息在數(shù)字平臺中的滋生、蔓延。
第二,事中階段的主動披露機制。主動披露,即指由信息主體主動或授權(quán)平臺披露的情形[45]。目前我國針對算法技術(shù)監(jiān)管很大程度上依賴的仍是“備案審查制度”,一般來說,審查主體對算法技術(shù)審查的專業(yè)性不足,大多只能針對文本規(guī)范本身進(jìn)行“形式\"評估?!爸鲃优稒C制”作為算法應(yīng)用中的新型制度安排,其核心在于強制性要求算法技術(shù)的使用者或管理者主動公開如算法邏輯、決策規(guī)則及其背后依據(jù)在內(nèi)的一系列重要信息,從而使平臺用戶能夠洞察算法設(shè)計初衷、運作流程及潛在影響。具體而言,主動披露機制要求算法使用者定期提交算法分發(fā)影響評估報告,這些報告應(yīng)詳盡闡述算法在內(nèi)容排序、個性化推送、信息加權(quán)等核心環(huán)節(jié)中的具體操作方式,如算法系統(tǒng)中是否嵌人了針對網(wǎng)絡(luò)暴力、仇恨言論的識別與抑制模塊,以及這些模塊的運行效果與合理性評估等。另外,主動披露機制還強調(diào)算法決策規(guī)則的透明化,要求算法設(shè)計者明確動態(tài)標(biāo)記用戶興趣,以實現(xiàn)內(nèi)容的個性化推薦邏輯依據(jù)與考量因素。通過這一機制,算法技術(shù)的使用變得“可解釋”且“可理解”,防止極端言論的擴散與群體情緒的極化。
第三,事后階段的監(jiān)管懲罰機制。當(dāng)算法技術(shù)進(jìn)人常態(tài)化運行階段之后,如因算法技術(shù)自身的原因?qū)е铝舜蠓秶牟粚嵕W(wǎng)絡(luò)暴力信息滋生,則需要構(gòu)建完善的監(jiān)管懲罰機制。一方面,需將算法設(shè)計者、內(nèi)容生成者及技術(shù)平臺企業(yè)均擴展為責(zé)任主體,遵循“使用者責(zé)任制”的原則,明確各自在算法應(yīng)用中的責(zé)任歸屬。另一方面,針對那些未遵守算法使用規(guī)范的平臺主體,應(yīng)構(gòu)建一套涵蓋行政監(jiān)管、刑事追責(zé)、民事賠償及社會監(jiān)督在內(nèi)的綜合執(zhí)法與懲罰體系,并依據(jù)違規(guī)行為的性質(zhì)與嚴(yán)重程度,對責(zé)任主體實施相應(yīng)的處罰措施,以此促使平臺在信息生產(chǎn)、推送過程中審慎運用算法技術(shù),有效防范網(wǎng)絡(luò)暴力的潛在風(fēng)險。
(四)綜合施策:構(gòu)建責(zé)任共擔(dān)治理體系打造良好網(wǎng)絡(luò)輿論生態(tài)環(huán)境
在治理層次上,數(shù)字平臺網(wǎng)絡(luò)暴力的治理并不是純粹的法律制度建構(gòu)的議題,而是一個由法律規(guī)制、政府監(jiān)管、平臺自治、市場督促和利益相關(guān)者制衡等構(gòu)成的多維度、多層網(wǎng)絡(luò)治理體系[46。數(shù)字平臺網(wǎng)絡(luò)暴力的治理需要自律和他律對齊[47],需要構(gòu)建一個由政府、企業(yè)、社會組織和用戶共同參與的監(jiān)督評價機制,形成責(zé)任共擔(dān)的治理體系,為網(wǎng)絡(luò)輿論生態(tài)的良性發(fā)展提供堅實支撐。在此基礎(chǔ)上,政府不僅應(yīng)擔(dān)當(dāng)起制定詳盡且具有高度可操作性的網(wǎng)絡(luò)輿論環(huán)境規(guī)范與標(biāo)準(zhǔn)的重任,為網(wǎng)絡(luò)行為設(shè)定明確的道德和法律邊界,還需構(gòu)建一套強有力的監(jiān)管體系,確保這些規(guī)范得以嚴(yán)格執(zhí)行,從而維護網(wǎng)絡(luò)空間的秩序與公正。網(wǎng)信、公安、宣傳等多個部門需打破信息壁壘,實現(xiàn)數(shù)據(jù)資源的快速流通與高效整合。這不僅能夠提升對網(wǎng)絡(luò)輿情事件的響應(yīng)速度,更能在虛假網(wǎng)絡(luò)暴力信息、惡意評論及熱點炒作等苗頭初現(xiàn)時,迅速采取行動,有效遏制不良信息的傳播,防止其對社會公眾的認(rèn)知造成誤導(dǎo),維護網(wǎng)絡(luò)環(huán)境的清朗與穩(wěn)定。
更為重要的是,網(wǎng)絡(luò)暴力的治理,其根本在于提升人的數(shù)字素養(yǎng)。在數(shù)字時代,公眾的信息甄別能力已成為衡量其數(shù)字素養(yǎng)的重要標(biāo)尺。公眾需深刻認(rèn)識到,雖然數(shù)字平臺極大地促進(jìn)了人與人之間的交流自由,但同時也可能扭曲個體認(rèn)知,誘導(dǎo)非理性行為。因此,提升公眾對算法技術(shù)基本邏輯與運作原理的理解至關(guān)重要。這有助于個體識別并抵御算法可能基于個人偏好而進(jìn)行的信息操縱,避免被算法編織的“信息繭房\"所束縛。公眾應(yīng)積極學(xué)習(xí)并掌握算法技術(shù)的基礎(chǔ)知識,特別是關(guān)于信息推送與觀點形成的機制,從而幫助自身在信息洪流中保持清醒的頭腦,識別并抵制算法可能帶來的信息偏見與誤導(dǎo)。同時,我們還應(yīng)鼓勵公眾跨越算法構(gòu)建的虛擬壁壘,積極參與現(xiàn)實社會的公共生活,培養(yǎng)對各類信息的全面審視能力。在面對網(wǎng)絡(luò)中的對立觀點與爭議事件時,公眾應(yīng)保持理性與批判性思維,不輕信、不盲從,對網(wǎng)絡(luò)平臺、知名博主及算法驅(qū)動的自媒體內(nèi)容持有審慎的質(zhì)疑態(tài)度。通過官方發(fā)布、主流媒體報道及相關(guān)專家解析等多渠道了解信息,形成對事件全面而客觀的認(rèn)識,從而在網(wǎng)絡(luò)空間中保持獨立判斷與理性思考的能力??傊獙崿F(xiàn)網(wǎng)絡(luò)暴力的全方位治理,不僅需要政府、企業(yè)、社會組織和網(wǎng)民的共同努力,更需從提升公眾數(shù)字素養(yǎng)這一關(guān)鍵要素出發(fā),通過培養(yǎng)公眾在信息時代的自我防護與理性思考能力,為構(gòu)建健康、有序的網(wǎng)絡(luò)輿論生態(tài)奠定堅實基礎(chǔ),推動數(shù)字平臺網(wǎng)絡(luò)空間成為促進(jìn)社會發(fā)展、增進(jìn)人民福祉的重要力量。
六、結(jié)語
伴隨人類信息技術(shù)實踐對現(xiàn)代社會生態(tài)的深人滲透,數(shù)字平臺被賦予了極高的實踐效能、緊密的關(guān)系聯(lián)結(jié)能力以及顯性的秩序構(gòu)建能力,塑造了人類開展生產(chǎn)和生活實踐的基本場域。正因如此,近乎瘋狂的網(wǎng)絡(luò)暴力現(xiàn)象越來越依托數(shù)字平臺這一獨特場域展開,并持續(xù)性地給個人和社會帶來傷害。本質(zhì)而言,數(shù)字平臺網(wǎng)絡(luò)暴力現(xiàn)象是“人一技\"交互的結(jié)果。對數(shù)字平臺網(wǎng)絡(luò)暴力現(xiàn)象的關(guān)注,不應(yīng)僅從動機、心理、意圖等要素展開,而應(yīng)深人數(shù)字平臺運作的各關(guān)鍵主體和要素,探尋網(wǎng)絡(luò)暴力現(xiàn)象的演化機制,重新厘定平臺義務(wù)的制度設(shè)計體系,進(jìn)而不斷推進(jìn)網(wǎng)絡(luò)暴力治理的科學(xué)化、體系化進(jìn)程。誠然,學(xué)界對網(wǎng)絡(luò)暴力的研究成果已十分豐碩,甚至形成了諸多主流探討路徑,但目前學(xué)界研究仍缺乏網(wǎng)絡(luò)暴力現(xiàn)象的平臺視角。本文是對數(shù)字平臺網(wǎng)絡(luò)暴力現(xiàn)象的底層理論的探討,屬拋磚引玉之作,未來對于人工智能技術(shù)的倫理治理、“飯圈\"文化治理等新興問題皆可依循此路徑展開進(jìn)一步研究。
參考文獻(xiàn):
[1]POELLT,NIEBORGD,VANDIJCKJ.Platformisation[J].InternetPolicyReview,2019,8(4):253.
[2]杰米·薩斯坎德.算法的力量:人類如何共同生存[M].李大白,譯.北京:北京日報出版社,2022:16-32.
[3]焦豪,王林棟.數(shù)字平臺生態(tài)系統(tǒng)治理——理論邏輯、行動框架與模式劃分[J].山東大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2024(4): 117-130.
[4]勞東燕.網(wǎng)絡(luò)暴力刑法治理的基本立場[J].政法論壇,2024,42(3):39-54.
[5]辛艷艷,方師師.網(wǎng)絡(luò)暴力治理中的平臺主體責(zé)任困境[J].青年記者,2023(13):88-90.
[6]嚴(yán)丹.智媒時代網(wǎng)絡(luò)暴力主義話語的生成機理與治理策略[J].內(nèi)蒙古社會科學(xué),2023,44(4):70-77.
[7]失真?正義?群氓?網(wǎng)絡(luò)暴力到底從何而來?[EB/OL].(2023-11-24)[2024-06-30]. https: //baijiahao.baidu.com/s?id=1783427401462247285.
[8]劉濤.社會化媒體與空間的社會化生產(chǎn)——列斐伏爾和福柯\"空間思想\"的批判與對話機制研究[J].新聞與傳播研究,2015,22(5):73-128.
[9]TheEvolutionoftheWeb:FromWeb1.OtoWeb3.0and the Dawn of a Digital Renaissance[EB/OL].(2023-04-15)[2024-06-20]. https: //www.apirodata.io/post/the-evolution-of-the-web-from-web-1-0-to-web-3-0-and-the-dawn-of-a-digital-renaissance.
[10] GILLESPIE T. The politics of \"platforms\"[J]. New mediaamp; society,2010,(4): 347-364.
[11] GORWA R.What is platform governance?[J]. Informa-tion,communication amp; society,2019(6): 854-871.
[12]黃升民,谷虹.數(shù)字媒體時代的平臺建構(gòu)與競爭[J].現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報),2009(5):20-27.
[13] GELISKHANOV I. Digital platform: A new economic in-stitution[J]. Quality-Access to Success Journal, 2018,19(S2): 20-26.
[14]尼古拉斯·凱拉.媒介與社會:權(quán)力、平臺與參與[M].任孟山,譯.北京:中國傳媒大學(xué)出版社,2023:123.
[15]白淑英,肖本立.新浪微博中網(wǎng)民的情感動員[J].蘭州大學(xué)學(xué)報(社會科學(xué)版),2011,39(5):60-68.
[16]李巖.網(wǎng)絡(luò)話語的暴力效果——以??略捳Z理論解讀網(wǎng)絡(luò)暴力的生成[J].當(dāng)代傳播,2014(5):26-28.
[17]王秀平.網(wǎng)絡(luò)暴力成因及理性法律規(guī)制[J].山東師范大學(xué)學(xué)報(人文社會科學(xué)版),2010,55(4):101-104.
[18]姜方炳.“網(wǎng)絡(luò)暴力\":概念、根源及其應(yīng)對——基于風(fēng)險社會的分析視角[J].浙江學(xué)刊,2011(6):181-187.
[19]西蒙尼·納塔萊.媒介的欺騙性:后圖靈時代的人工智能和社會生活[M].汪讓,譯.上海:復(fù)旦大學(xué)出版社,2023:3.
[20] PETERSON J, JAMES D. Cyber violence:What do weknow and where do we go from here?[J]. Aggression andviolent behavior,2017,34(6) : 193-200.
[21] LOUIS F, MOHAMED S. Cyberbullying and online ha-rassment: A multifaceted examination of digital platformviolence[J]. Journal of Sexual Aggression,2024(3): 35-48.
[22]麥庫姆斯.議程設(shè)置:大眾媒介與輿論[M].郭鎮(zhèn)之,等譯.北京:北京大學(xué)出版社,2008:44.
[23]管其平.數(shù)字秩序:數(shù)字社會的新型秩序形態(tài)[J].華南理工大學(xué)學(xué)報(社會科學(xué)版),2024,26(5):148-156.
[24]李鎵.從網(wǎng)絡(luò)社會到平臺社會:算法風(fēng)險的媒介化治理邏輯演進(jìn)[J].蘇州大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2024,45(3): 183-192.
[25]抖音平臺的“優(yōu)質(zhì)內(nèi)容\"到底應(yīng)該如何定義?[EB/OL].(2024-09-22) [2024-09-30].https: //www.douyin.com/video/7417131213158124835.
[26]朱笑延.走向媒介正義:網(wǎng)絡(luò)暴力信息治理的平臺角色與法治實現(xiàn)[J].中南大學(xué)學(xué)報(社會科學(xué)版),2024,30(1): 50-62.
[27]馬克·舒?zhèn)惒?算法社會:技術(shù)、權(quán)力和知識[M].王延川,等譯.北京:商務(wù)印書館2023:3.
[28]沈國麟,易若彤.從網(wǎng)絡(luò)社會到平臺社會——傳播結(jié)構(gòu)的去中心化到再中心化[J].探索與爭鳴,2024(3):156-180.
[29]郭淼,師俊艷.重構(gòu)與糾偏:算法在網(wǎng)絡(luò)輿情中的效用[J].青年記者,2022(17):48-50.
[30] TURKLE S. The second self: Computers and the humanspirit[M]. Cambridge: Mit Press,2005:131.
[31] LAREHI A,ALTUNA J. Fake digital identity and cyber-bullying[J].Media,Cultureamp;Society,2023,45(2):338-353.
[32]張新寶.互聯(lián)網(wǎng)生態(tài)“守門人\"個人信息保護特別義務(wù)設(shè)置研究[J].比較法研究,2021(3):11-24.
[33]楊慧民,陳錦萍.網(wǎng)絡(luò)意見領(lǐng)袖道德想象力:內(nèi)涵、特性及其價值[J].學(xué)術(shù)界,2020(6):140-148.
[34]林洧.論互聯(lián)網(wǎng)平臺信息權(quán)力的競爭風(fēng)險治理[J].科技與法律(中英文),2024(1):100-110.
[35]汪信硯.價值共識與和諧世界[J].武漢大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2017,70(5):11-20.
[36]劉強,趙茜.算法中選擇的同化與異化——國外回音室效應(yīng)研究20年述評與展望[J].新聞界,2021(6):29-38.
[37]張愛軍.從算法“弱民\"到算法“強民\":動因、功能與改進(jìn)路徑[J].世界社會科學(xué),2023(5):225-248.
[38]李淼.網(wǎng)絡(luò)暴力犯罪\"法不責(zé)眾\"的規(guī)制難點與刑事應(yīng)對[J].當(dāng)代法學(xué),2024,38(5):112-123.
[39]劉艷紅.網(wǎng)絡(luò)暴力治理的法治化轉(zhuǎn)型及立法體系建構(gòu)[J].法學(xué)研究,2023,45(5):79-95.
[40]WANGR,LUT,ZHANGP,etal.Roleidentificationbasedmethod for cyberbullying analysisin social edgecomputing[J]. Arxiv Preprint Arxiv: 2408.03502,2024.
[41] 隋巖.群體傳播時代:信息生產(chǎn)方式的變革與影響[J].中國社會科學(xué),2018(11):114-205.
[42]陳啟涵.平臺可供性視角下網(wǎng)絡(luò)對立情緒的流量政治[J].新聞界,2023(1): 78-96.
[43]李建華.論德治與法治的協(xié)同[J].湖湘論壇,2017,30(5): 2-27.
[44]孟萬金.具身德育:源泉、體系、模式——二論新時代具身德育[J].中國特殊教育,2018(1):65-69.
[45]莫林.共享平臺的信息規(guī)制義務(wù)[J].科技與法律,2019(5): 68-75.
[46]范如國.平臺技術(shù)賦能、公共博弈與復(fù)雜適應(yīng)性治理[J].中國社會科學(xué),2021(12):131-202.
[47]盧智增,高翔.社交媒體平臺群體極化的形成機理與引導(dǎo)策略研究[J].情報理論與實踐,2021,44(8):51-58.
Digital Platform Network Violence: Connotation, Generation Mechanism and Governance Path
ZhaiYan,LiXiaobo
(Public Safety Behavioral Science Laboratory,People's Public Security University of China, Beijing100038,China)
Abstract: Digital platform network violence,refers to the multiple subject basedon specific interests or purpose,with the helpof digitalplatformmediationability,dataaggregationefect,powerdynamic generationmechanism,istantinteraction features and realityand virtualcomplex environment,induce or promote network community members of specific individuals or group harassment,insult,bullying behavior of new forms of violence.The evolution mechanismof digital platform network violence includes:\"onlineandofline\" two-way interactive platform for specific issues screening and manipulation,\"traficcapture”dominated opinion leaders bias and mobilization guide,\"algorithm mechanism\" under the operationof distortion network information situation and narrtive transformation and \"second self\" identity underthe chain of emotional excitationand irational expression.At present,there is a dilemma in the governanceof digital platformnetwork violence in China,such as the imbalance between negativeobligationandpositiveobligation seting,thelack of moral imaginationofopinion leaders,thepolarizationofopinioncausedbyalgorithmic information division,and groupresponsibilityoverriding individualresponsibility.Inthisegard,itisnecessarytointegratethe \"public-individual\"dual thinking to improve the prevention and guidance ofthe platform,strengthen the moralandrational cultivation of opinion leaders,caryout processsupervision and review of algorithm technology,and build a responsibility sharing system,so as to build a good ecological environment of network public opinion.
KeyWords: digital platform; network violence; evolution mechanism; technology governance; platform obligation