李忠東

2023年10月底，《在線安全法案》在英國(guó)獲得通過(guò)。作為一項(xiàng)重要立法，它旨在保護(hù)網(wǎng)絡(luò)用戶特別是兒童的安全及隱私。

在元宇宙中，兒童面臨傷害的風(fēng)險(xiǎn)較大。元宇宙的突出特點(diǎn)之一就是身臨其境，用戶可以在虛擬世界中“生活”。元宇宙允許玩家創(chuàng)建自己的游戲角色，而兒童可能會(huì)在沒(méi)有父母、其他監(jiān)護(hù)人或教師保護(hù)的情況下，暴露在成人面前。

英國(guó)《在線安全法案》規(guī)定了社交媒體公司的法律義務(wù)：無(wú)論使用何種技術(shù)，都必須建立適當(dāng)?shù)南到y(tǒng)和流程來(lái)杜絕不良內(nèi)容。英國(guó)政府認(rèn)為，社交媒體中的E2EE（端到端加密）系統(tǒng)，為不良信息的傳播提供了巨大便利。在沒(méi)有安全防護(hù)的情況下實(shí)施E2EE，會(huì)使社交媒體公司對(duì)其平臺(tái)上的不良信息視而不見(jiàn)。

E2EE是一種安全通信系統(tǒng)，信息只能被發(fā)送者和接收者看到。社交媒體公司在進(jìn)行內(nèi)容審核時(shí)，無(wú)法檢測(cè)出關(guān)于兒童性虐待等違法內(nèi)容。為此，該法案要求使用“安全技術(shù)挑戰(zhàn)基金”開發(fā)的概念驗(yàn)證工具，檢測(cè)E2EE環(huán)境中的不良信息，同時(shí)保護(hù)用戶的隱私。加強(qiáng)對(duì)不良信息的審核，將對(duì)WhatsApp和Facebook等加密消息服務(wù)商提出重大挑戰(zhàn)。

兒童在互聯(lián)網(wǎng)上面臨的風(fēng)險(xiǎn)較大 （圖/視覺(jué)中國(guó)）

《在線安全法案》規(guī)定，社交媒體公司在預(yù)防和迅速刪除有關(guān)恐怖主義等非法內(nèi)容方面應(yīng)承擔(dān)法律責(zé)任，另外必須阻止兒童看到對(duì)他們有害的內(nèi)容，包括霸凌、宣揚(yáng)自殘以及色情等等。社交媒體公司須進(jìn)行“兒童風(fēng)險(xiǎn)評(píng)估”，以檢測(cè)不良信息有沒(méi)有進(jìn)入游戲。對(duì)于存在不良信息的游戲，須明確是否有兒童玩家，以及是否有可能吸引大量?jī)和婕摇?/p>

該法案除了制定對(duì)社交媒體公司的總體要求外，還提出與保護(hù)兒童明確相關(guān)的要求，具體細(xì)化為社交媒體公司的職責(zé)：使用新的更高標(biāo)準(zhǔn)的年齡驗(yàn)證或年齡估算工具；對(duì)傷害的風(fēng)險(xiǎn)按照不同的兒童年齡群體進(jìn)行管理；在圍繞保護(hù)措施擬定政策時(shí)，考慮兒童的閱讀能力；由社交媒體公司高管負(fù)責(zé)確保兒童在其平臺(tái)上的安全；為兒童及其監(jiān)護(hù)人提供簡(jiǎn)單的保障方式，出問(wèn)題時(shí)可以在線報(bào)告。

英國(guó)數(shù)字、文化、媒體和體育大臣米歇爾·多內(nèi)蘭表示，新法案允許父母監(jiān)測(cè)網(wǎng)站對(duì)兒童造成的危險(xiǎn)并采取行動(dòng)。她指出：“不受監(jiān)管的社交媒體對(duì)孩子造成的傷害已經(jīng)太多了，必須消除這樣的傷害。我們應(yīng)將這些措施納入法律，改善現(xiàn)狀?！?/p>

《在線安全法案》要求社交媒體公司為互聯(lián)網(wǎng)用戶提供三層保護(hù)：確保刪除非法內(nèi)容，履行在用戶注冊(cè)時(shí)作出的承諾，為用戶提供可以過(guò)濾掉“不想看的內(nèi)容”的選項(xiàng)。該法案適用于“用戶對(duì)用戶”的服務(wù)，通過(guò)這項(xiàng)服務(wù)，用戶可以看到使用服務(wù)的其他用戶直接生成的內(nèi)容，或者上傳分享的內(nèi)容。它也適用于搜索服務(wù)，即那些允許用戶搜索多個(gè)網(wǎng)站或數(shù)據(jù)庫(kù)的服務(wù)。與此同時(shí)，該法案也可確保成年人對(duì)網(wǎng)絡(luò)內(nèi)容有更多的選擇權(quán)利，例如過(guò)濾掉不想看的內(nèi)容。

社交媒體公司負(fù)有安全職責(zé)，包括進(jìn)行風(fēng)險(xiǎn)評(píng)估，從一開始就了解內(nèi)容的種類、玩家及游戲可能帶來(lái)的危害，采取相應(yīng)措施降低非法內(nèi)容帶來(lái)的風(fēng)險(xiǎn)。

英國(guó)信息通信管理局發(fā)布了守則和指南，建議使用特定工具進(jìn)行內(nèi)容審核、用戶分析和行為識(shí)別，用相應(yīng)的程序防止個(gè)人遭遇非法內(nèi)容。相關(guān)保護(hù)措施包括年齡驗(yàn)證、自動(dòng)屏蔽某些詞語(yǔ)、嚴(yán)格執(zhí)行可接受的政策或行為準(zhǔn)則、對(duì)某些玩家群體限制某些內(nèi)容或功能等等。

社交媒體公司須明文規(guī)定如何保護(hù)個(gè)人免受非法內(nèi)容的影響，并始終如一地執(zhí)行這些規(guī)定。它們應(yīng)向玩家提供更多為保護(hù)他們而采取的措施的信息，這些信息可以采取問(wèn)答的形式，這種形式能夠被所有年齡段的人理解。社交媒體公司還應(yīng)具備靈活下架相關(guān)內(nèi)容的能力，即通過(guò)相應(yīng)的程序刪除非法內(nèi)容，同時(shí)為玩家舉報(bào)作弊或不良內(nèi)容提供便利。

《在線安全法案》的大部分條款在2023年底開始實(shí)施。從2023年11月26日起，英國(guó)信息通信管理局升級(jí)為英國(guó)網(wǎng)絡(luò)安全監(jiān)管機(jī)構(gòu)，就打擊網(wǎng)絡(luò)非法內(nèi)容進(jìn)行準(zhǔn)備。

在必要和適當(dāng)?shù)那闆r下，該機(jī)構(gòu)要求社交媒體公司使用經(jīng)過(guò)該機(jī)構(gòu)認(rèn)可的技術(shù)，或盡最大努力開發(fā)新技術(shù)，以解決公共和私人渠道中的不良信息問(wèn)題。一旦違反相關(guān)規(guī)定，社交媒體公司將被處以最高1800萬(wàn)英鎊或該公司全球年?duì)I業(yè)額10%的罰款。罰款將以兩者之中較大的金額為準(zhǔn)，這意味著有些公司可能面臨高達(dá)數(shù)十億英鎊的巨額罰款。

英格蘭兒童事務(wù)專員瑞秋·索薩稱，這項(xiàng)具有里程碑意義的立法是一個(gè)千載難逢的機(jī)會(huì)，可以保護(hù)英國(guó)的所有在線兒童?！霸袃和诮佑|可怕的自殘和自殺信息后自殺身亡。悲劇提醒我們，網(wǎng)上的不良信息會(huì)導(dǎo)致嚴(yán)重后果?！彼f(shuō)，“我很高興《在線安全法案》認(rèn)可兒童事務(wù)專員是政府制定規(guī)則時(shí)的法定顧問(wèn)，我能夠以兒童權(quán)利和意見(jiàn)代表的獨(dú)特身份來(lái)監(jiān)督社交媒體公司遵守該法案，確保兒童的意見(jiàn)和體驗(yàn)得到充分理解。我期待所有人都能為保護(hù)兒童提供支持?！?/p>

在談及制定《在線安全法案》的初衷時(shí)，米歇爾·多內(nèi)蘭引用了“互聯(lián)網(wǎng)觀察基金會(huì)”的數(shù)據(jù)：自2020年以來(lái)，在線兒童性虐待事件的發(fā)生率增加了一倍多。社交媒體上每月有超過(guò)40萬(wàn)次針對(duì)兒童性虐待信息的搜索。

此前，14歲的英國(guó)少女莫莉·拉塞爾因抑郁癥及遭遇“網(wǎng)絡(luò)信息的負(fù)面影響”而自殘身亡，引起社會(huì)廣泛關(guān)注。在去世前的6個(gè)月里，莫莉總共觀看了138個(gè)包含自殺和自殘內(nèi)容的視頻。

在英國(guó)，網(wǎng)絡(luò)空間的監(jiān)管格局正在發(fā)生重大變化，莫莉的家人是推動(dòng)這一變化的重要因素。莫莉死后，他們成為呼吁改善互聯(lián)網(wǎng)安全的活躍人士。據(jù)一位參與制定《在線安全法案》的人士稱，拉塞爾夫婦在立法中發(fā)揮了至關(guān)重要的作用。莫莉59歲的父親伊恩·拉塞爾呼吁采取行動(dòng)，“防止如此年輕的生命再被浪費(fèi)。這是最凄涼的世界，是一個(gè)我不認(rèn)識(shí)的世界，是網(wǎng)絡(luò)世界中的貧民窟”。

網(wǎng)上兒童性虐待是一個(gè)復(fù)雜的問(wèn)題，需要政府、私營(yíng)部門和民間組織合力應(yīng)對(duì)。明確的立法是有效應(yīng)對(duì)該問(wèn)題的關(guān)鍵。制定《在線安全法案》體現(xiàn)了英國(guó)政府建成“世界上最安全的在線場(chǎng)所”的決心。

英國(guó)一個(gè)專門應(yīng)對(duì)兒童性虐待問(wèn)題的組織指出，在新冠疫情期間，全球報(bào)告的網(wǎng)上兒童性虐待事件數(shù)量創(chuàng)下新高。為了應(yīng)對(duì)此類事件的增多，需要通過(guò)制定法律法規(guī)來(lái)確保在線服務(wù)提供商有動(dòng)力解決這一問(wèn)題，同時(shí)為兒童在數(shù)字世界中安全地學(xué)習(xí)、游戲和互動(dòng)提供保障。英國(guó)為推動(dòng)實(shí)施《在線安全法案》所做的努力，以及把應(yīng)對(duì)兒童性虐待問(wèn)題確定為政府的首要任務(wù)之一，是值得肯定的。

編輯：姚志剛? ? winter-yao@163.com