【摘要】保護數(shù)量龐大的未成年人，應(yīng)對相關(guān)的網(wǎng)絡(luò)安全問題，是當下全球性的棘手難題。英國的《網(wǎng)絡(luò)服務(wù)適齡設(shè)計實踐準則》著眼建立普遍的數(shù)字內(nèi)容出版制作標準，成為全球未成年人網(wǎng)絡(luò)保護的重要制度創(chuàng)新。其秉持“保護數(shù)字世界中的兒童，而不是保護兒童遠離數(shù)字世界”的理念；以“可能接觸原則”劃定準則適用范圍；設(shè)立兒童利益最大化的三大原則框架；在數(shù)據(jù)保護、產(chǎn)品設(shè)計、關(guān)鍵技術(shù)等方面建立標準，以應(yīng)用場景設(shè)定數(shù)據(jù)保護標準；以年齡段設(shè)立網(wǎng)絡(luò)產(chǎn)品設(shè)計要求；規(guī)制助推、默認設(shè)置、推薦算法等關(guān)鍵技術(shù)?！毒W(wǎng)絡(luò)服務(wù)適齡設(shè)計實踐準則》對我國未成年人網(wǎng)絡(luò)保護工作的理念轉(zhuǎn)變、主體協(xié)調(diào)、制度構(gòu)建等具有一定的借鑒意義。

【關(guān)鍵詞】互聯(lián)網(wǎng)內(nèi)容制作準則 適齡設(shè)計 未成年人保護

【中圖分類號】G239 【文獻標識碼】Ａ 【文章編號】1003-6687（2023）8-105-08

【DOI】10.13786/j.cnki.cn14-1066/g2.2023.8.015

保護數(shù)量龐大的未成年人，應(yīng)對相關(guān)的網(wǎng)絡(luò)安全問題，是當下全球性的棘手難題，也是我國未成年人保護工作的重要挑戰(zhàn)。中國互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）與共青團中央維護青少年權(quán)益部聯(lián)合發(fā)布的《2021年全國未成年人互聯(lián)網(wǎng)使用情況研究報告》顯示，截至2021年12月，我國未成年網(wǎng)民達1.91億人，未成年人互聯(lián)網(wǎng)普及率為96.8%。[1]我國未成年網(wǎng)民群體呈現(xiàn)網(wǎng)絡(luò)普及率高、數(shù)量大、低齡化等特征。保護這些未成年人的網(wǎng)絡(luò)安全成為全社會關(guān)注的迫切問題。

近年來，我國通過制定《中華人民共和國未成年人保護法》（以下簡稱《未成年人保護法》）、《中華人民共和國個人信息保護法》（以下簡稱《個人信息保護法》）和《兒童個人信息網(wǎng)絡(luò)保護規(guī)定》等法律法規(guī)來保護未成年人的網(wǎng)絡(luò)安全，雖然取得了一定的成效，但依然存在不少問題。制度方面，宏觀的法律法規(guī)較多，具體可操作的制度較少。宏觀的保護性法律法規(guī)如何落實到具體的網(wǎng)絡(luò)產(chǎn)品中，尚缺少明確、可操作的制度措施。如《未成年人保護法》第七十四條規(guī)定，網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者不得向未成年人提供誘導(dǎo)其沉迷的產(chǎn)品和服務(wù)。[2]然而，在具體實踐層面，企業(yè)應(yīng)如何不提供導(dǎo)致未成年人沉迷的網(wǎng)絡(luò)產(chǎn)品和服務(wù)，目前尚未見到可遵循的制度標準。保護主體方面，現(xiàn)有相關(guān)制度對不同年齡段的未成年人未做細分處理，但實際情況是，18歲以下的不同年齡層次的未成年人群體，相互間在網(wǎng)絡(luò)需求和能力等方面的差異較大，整齊劃一的標準缺乏針對性，有效性欠佳。雖然相關(guān)政府部門針對不同年齡段的未成年人，也嘗試開展差異化保護，但仍不深入。如國家新聞出版署在2019年11月發(fā)布的《關(guān)于防止未成年人沉迷網(wǎng)絡(luò)游戲的通知》中提出：“網(wǎng)絡(luò)游戲企業(yè)探索實施適齡提示制度，從多維度綜合衡量，對不同年齡段用戶給出相應(yīng)提示，幫助未成年人、家長和老師等更好區(qū)分網(wǎng)絡(luò)游戲，引導(dǎo)未成年人更好使用網(wǎng)絡(luò)游戲?！盵3]2020年12月，中國音像與數(shù)字出版協(xié)會游戲出版物工作委員會編制了游戲業(yè)《網(wǎng)絡(luò)游戲適齡提示》團體標準，為未成年人及其監(jiān)護人提供了解游戲產(chǎn)品是否適用的提示信息。適齡游戲提示主要在使用環(huán)節(jié)提供輔助提示信息，但在更為重要的網(wǎng)絡(luò)內(nèi)容生產(chǎn)制作環(huán)節(jié)，尚未見到有效舉措。保護未成年人的網(wǎng)絡(luò)安全，在源頭上的網(wǎng)絡(luò)產(chǎn)品與服務(wù)的制作出版階段，就應(yīng)建立具體、有針對性的可操作標準。

英國在2020年9月公布了《網(wǎng)絡(luò)服務(wù)適齡設(shè)計實踐準則》（Age Appropriate Design： a Code of Practice for Online Services，以下簡稱《準則》），針對所有兒童可能接觸的網(wǎng)絡(luò)服務(wù)產(chǎn)品，制定了分年齡段的設(shè)計制作指引，為企業(yè)提供了較為明確和可操作的規(guī)范標準。[4]《準則》給企業(yè)留有一年的調(diào)整期，2021年9月開始正式實施。英國信息專員辦公室（ICO）在制定《準則》的過程中，參考了家長、兒童、學(xué)校、兒童運動團體、軟件開發(fā)商、科技和游戲公司等各方意見，制定了15條具體的網(wǎng)絡(luò)產(chǎn)品設(shè)計標準。

《準則》是全球未成年人網(wǎng)絡(luò)保護制度的重要創(chuàng)新，對各國未成年人網(wǎng)絡(luò)保護政策和各大互聯(lián)網(wǎng)公司產(chǎn)生了顯著影響。2022年9月，美國加州參考該《準則》，通過了《加州網(wǎng)絡(luò)適齡設(shè)計規(guī)范法案》。受該《準則》影響，谷歌對未成年用戶停止個性化廣告推薦，關(guān)閉地理定位歷史記錄，自動開啟安全搜索模式；TikTok將16歲以下賬號默認設(shè)置為個人可見；Instagram不再允許成年用戶直接私信18歲以下用戶；YouTube移除自動播放功能，防止兒童沉迷于觀看視頻。

一、《準則》的理念

1. 保護數(shù)字世界中的兒童，而不是保護兒童遠離數(shù)字世界

“保護數(shù)字世界的兒童，而不是保護兒童遠離數(shù)字世界”，在《準則》的前言中，英國信息保護專員首先聲明了《準則》設(shè)立的初衷。在當下信息化時代，為保護兒童免受可能的威脅而讓他們遠離互聯(lián)網(wǎng)，顯然不現(xiàn)實，也剝奪了兒童應(yīng)有的使用數(shù)字信息技術(shù)學(xué)習(xí)、成長的權(quán)利?！稖蕜t》不是禁止未成年人使用網(wǎng)絡(luò)信息服務(wù)產(chǎn)品，而是在網(wǎng)絡(luò)內(nèi)容生產(chǎn)領(lǐng)域制定措施，構(gòu)建有益于未成年人成長的數(shù)字世界，保護數(shù)字世界中的兒童，很好地兼顧安全與發(fā)展兩方面的需求。

《準則》的理念源于聯(lián)合國《兒童權(quán)利公約》提倡的“兒童在生活的各方面需要特殊的保障”。在網(wǎng)絡(luò)世界，兒童需要特殊保護?！稖蕜t》要求企業(yè)在網(wǎng)絡(luò)產(chǎn)品設(shè)計中充分考慮可能的未成年人使用情景，首先確保產(chǎn)品和服務(wù)不會對未成年人產(chǎn)生不良影響，其次應(yīng)對他們的健康成長有益。《準則》要求企業(yè)識別和評估產(chǎn)品和服務(wù)對兒童的可能風險、潛在影響，以及在數(shù)據(jù)處理中可能造成的任何傷害或損害——無論是身體、情感、發(fā)展還是物質(zhì)的損害，包括身體傷害、網(wǎng)上誘導(dǎo)或其他性剝削；社交焦慮、自尊問題、欺凌或同伴壓力；接觸有害或不適當?shù)膬?nèi)容；誤導(dǎo)或不適當?shù)南拗菩畔?；鼓勵過度冒險或不健康的行為；破壞父母的權(quán)威或責任；喪失自主權(quán)或權(quán)力（包括對數(shù)據(jù)的控制）；強迫性使用或注意力缺失癥；過多的觀看屏幕的時間；中斷或不充分的睡眠模式；經(jīng)濟剝削或不公平的商業(yè)壓力；任何其他重大的經(jīng)濟、社會或發(fā)展方面的不利因素等。《準則》對數(shù)字世界的未成年人可能遇到的安全威脅進行了具體詳細的陳述。

2. 以兒童利益最大化為原則，設(shè)立兒童利益框架

構(gòu)建有益于未成年人成長的數(shù)字世界，不單是保護未成年人不受傷害。《準則》明確要求企業(yè)在具體技術(shù)設(shè)計和產(chǎn)品開發(fā)中，以兒童利益最大化為首要考慮因素。《準則》將兒童利益最大化原則具體化為“兒童守則：最佳利益框架”，要求企業(yè)在提供網(wǎng)絡(luò)信息服務(wù)和處理數(shù)據(jù)的過程中，基于兒童不斷發(fā)展的能力，重點保護兒童三個方面的權(quán)利：兒童身心健康與發(fā)展的“自我”權(quán)利、獲得資源的“支持”權(quán)利、“社會”權(quán)利。為保障這些權(quán)利的有效實施，《準則》設(shè)置了相應(yīng)的保障條款。

“自我”權(quán)利是兒童身心健康和發(fā)展的權(quán)利，支持兒童不斷發(fā)展能力，以利于其形成和表達身份、界限和自我意識。要確保兒童能夠在對自己有影響的事務(wù)中表達觀點，企業(yè)要為兒童實現(xiàn)這些權(quán)利提供適齡的在線輔助工具，在與兒童的互動中要采用符合其年齡特點、便于理解的信息形式等。

“支持”權(quán)利是兒童獲得支持自身發(fā)展和成長資源的權(quán)利。產(chǎn)品設(shè)計要確保兒童獲得父母以及社會的支持。《準則》對不同年齡階段的兒童采取靈活的監(jiān)護人同意要求，建立了以13歲為數(shù)據(jù)保護年齡界限的父母同意機制。在個人數(shù)據(jù)獲取以及使用過程中，13歲以上的未成年人擁有一定的網(wǎng)絡(luò)行為決定權(quán)，13歲以下的兒童則需要監(jiān)護人授權(quán)。

“社會”權(quán)利是兒童群體的權(quán)利，包括那些脆弱的和有特殊需求的兒童。網(wǎng)絡(luò)產(chǎn)品應(yīng)承認兒童在社會共享的資源和制度中也擁有利害關(guān)系。

二、《準則》的內(nèi)容

1. 以“可能接觸原則”劃定準則適用范圍

通常，未成年人網(wǎng)絡(luò)保護法律法規(guī)只針對面向未成年人的產(chǎn)品而制定。如美國的《兒童在線隱私保護法》（Children's Online Privacy Protection Act，COPPA），即針對面向兒童的在線服務(wù)而出臺，不包括Facebook等大眾化社交媒體。此類法律法規(guī)默認13歲以下的兒童不是大眾化社交平臺的主要受眾，而企業(yè)對兒童正在使用這些產(chǎn)品也不知情。此法出臺于1998年，當時上網(wǎng)的兒童還是比較少的，但當今互聯(lián)網(wǎng)廣泛普及，未成年人用戶占全球互聯(lián)網(wǎng)用戶總數(shù)的近三分之一，互聯(lián)網(wǎng)在社會中得到普遍應(yīng)用，未成年人接觸到各類面向成年人的網(wǎng)絡(luò)產(chǎn)品和服務(wù)的概率增加。如只針對面向兒童的產(chǎn)品設(shè)定保護制度，保護的有效性將大為降低。

英國要求所有兒童可能接觸到的信息產(chǎn)品和服務(wù)提供者都遵守《準則》，不僅限于專門針對兒童的信息產(chǎn)品和服務(wù)提供者。按照“可能接觸原則”，信息產(chǎn)品和服務(wù)既包括應(yīng)用程序和設(shè)備、搜索引擎、社交媒體平臺、流媒體、在線游戲等通過互聯(lián)網(wǎng)向用戶提供的產(chǎn)品或服務(wù)，也包括聯(lián)網(wǎng)玩具和其他設(shè)備。

“可能接觸原則”以網(wǎng)絡(luò)產(chǎn)品的應(yīng)用場景設(shè)定規(guī)制范圍，而不是以產(chǎn)品宣稱的目標服務(wù)對象劃定界線，解決了當前兒童觸網(wǎng)途徑多樣的難題，既將當前眾多的網(wǎng)絡(luò)信息產(chǎn)品以及聯(lián)網(wǎng)玩具、智能音箱等新型的數(shù)字產(chǎn)品涵蓋其中，又適用于未來可能出現(xiàn)的新技術(shù)、新產(chǎn)品、新應(yīng)用，具有較為普遍的適用性和良好的前瞻性。

2. 最小化使用數(shù)據(jù)，防止信息濫用與泄漏

未成年人在虛擬世界受到的安全威脅大部分與隱私相關(guān)，因此，有效保護未成年人相關(guān)的隱私數(shù)據(jù)至關(guān)重要?！稖蕜t》特別要求企業(yè)最小化使用未成年人相關(guān)數(shù)據(jù)，從原則、技術(shù)、存儲三方面提出了具體要求。一是在原則方面，要求企業(yè)僅收集必需的、最低量的個人數(shù)據(jù)，這些數(shù)據(jù)應(yīng)僅限于與保障服務(wù)有關(guān)的必要內(nèi)容，且應(yīng)在兒童或監(jiān)護人知情的情況下進行收集。2023年4月4日，英國信息專員辦公室宣布對TikTok公司罰款1 270萬英鎊，原因是該公司在未經(jīng)監(jiān)護人同意的情況下處理了近100萬英國13歲以下兒童的數(shù)據(jù)。[5]二是在用戶界面設(shè)計方面，要求產(chǎn)品默認采取高隱私設(shè)置，減少數(shù)據(jù)收集的行為。由于未成年人在使用相關(guān)產(chǎn)品時，很少改變默認設(shè)置，所以企業(yè)應(yīng)將產(chǎn)品的默認設(shè)置定為高隱私標準，以減少數(shù)據(jù)收集與使用，從而保護未成年人的信息安全。且在用戶改變默認設(shè)置時，企業(yè)要給出適齡、明顯的提示信息，提醒未成年人應(yīng)在與家長或其他成年人交流后再對設(shè)置進行改變。此外，對一些重要的隱私信息，《準則》特別作出強制性保護要求，如考慮到地理位置信息的泄漏可能直接威脅未成年人現(xiàn)實生活的安全，因此地理位置數(shù)據(jù)應(yīng)默認關(guān)閉，除非企業(yè)提供了令人信服的合理理由。三是數(shù)據(jù)存儲時間應(yīng)盡可能短，只在必需的最短時間內(nèi)存儲數(shù)據(jù)。這一要求可減少因數(shù)據(jù)意外泄漏導(dǎo)致未成年人隱私泄漏的風險?！稖蕜t》還要求不得共享未成年人相關(guān)數(shù)據(jù)，除非有足夠信服的合法理由。這種最小化使用數(shù)據(jù)的原則可以最大限度防范未成年人數(shù)據(jù)濫用與泄漏。

為符合英國的《準則》，全球眾多互聯(lián)網(wǎng)公司紛紛更新自己的產(chǎn)品和服務(wù)。如TikTok就在2021年2月，對16歲以下用戶的默認隱私設(shè)置功能進行了更新（見表1），以符合《準則》要求。[6]

個人數(shù)據(jù)的保護需要兼顧用戶使用相關(guān)網(wǎng)絡(luò)產(chǎn)品和服務(wù)的體驗，確保隱私保護與數(shù)據(jù)處理效率的平衡，《準則》因此確立了區(qū)分核心處理場景與非核心處理場景的差別授權(quán)模式。核心處理場景指處理的數(shù)據(jù)是提供網(wǎng)絡(luò)核心服務(wù)不可或缺的，服務(wù)提供者已經(jīng)與兒童訂立服務(wù)合同且該兒童具有締結(jié)合同的法律能力，出于維護兒童合法利益或執(zhí)行公共任務(wù)的目的對兒童個人數(shù)據(jù)進行處理，無須征得監(jiān)護人同意。①主要包括用戶賬戶創(chuàng)建和管理、用戶提交內(nèi)容的處理和存儲、為實現(xiàn)應(yīng)用程序功能而進行的數(shù)據(jù)分析。[7]在核心處理場景中，企業(yè)無須每次在處理個人數(shù)據(jù)的行為時，尋求未成年人和監(jiān)護人的授權(quán)，這就提高了相關(guān)信息的處理效率，確保了產(chǎn)品具有較好的用戶體驗。非核心處理場景指提供核心服務(wù)以外的其他業(yè)務(wù)（如開展營銷、改進服務(wù)、使用cookies或類似技術(shù)、與第三方共享、特殊類別數(shù)據(jù)處理等），須征得13周歲以下兒童的監(jiān)護人或13周歲以上未成年人本人的同意。

區(qū)分核心與非核心場景的數(shù)據(jù)處理原則，根據(jù)數(shù)據(jù)用途和未成年人的判斷能力，賦予企業(yè)不同的處理權(quán)限和程序，這樣既確保了對未成年人個人信息提供必要的保護，又保證了對必需、合法數(shù)據(jù)進行處理的效率，減少了部分不必要的監(jiān)護人同意流程，避免監(jiān)護人出現(xiàn)“同意疲勞”的情況，實現(xiàn)了未成年人網(wǎng)絡(luò)保護的效率和效力的平衡。

3. 明確網(wǎng)絡(luò)產(chǎn)品適齡設(shè)計要求

國際上將未成年人具備處理自身數(shù)據(jù)權(quán)力的年齡，稱為數(shù)據(jù)同意年齡。英國和美國將13歲定為數(shù)據(jù)同意年齡，歐洲其他國家為16歲。我國《兒童個人信息網(wǎng)絡(luò)保護規(guī)定》將數(shù)據(jù)同意年齡設(shè)定為14歲。不同年齡的未成年人在網(wǎng)絡(luò)需求、判斷能力和應(yīng)對安全風險能力等方面存在差異，如6歲、9歲、14歲，三個年齡階段的兒童網(wǎng)絡(luò)需求和自我保護能力是完全不同的，通過單一年齡界限以二元化的方式對未成年人進行劃分，會出現(xiàn)保護不足與保護過度并存的問題，影響保護制度的執(zhí)行效力。

《準則》打破了以單一年齡界限二元式劃分未成年人的網(wǎng)絡(luò)保護模式，而是根據(jù)未成年人對規(guī)則的認知理解能力、社會關(guān)系參與程度、面臨的數(shù)據(jù)風險情況、網(wǎng)絡(luò)產(chǎn)品用途等指標，將18歲以下的未成年人分為五個年齡階段：0—5歲為學(xué)齡前期、6—9歲為學(xué)齡初期、10—12歲為過渡期、13—15歲為青少年初期、16—17歲為即將成年期?！稖蕜t》圍繞透明度、家長控制、助推技術(shù)、在線工具四方面，針對各年齡段未成年人用戶設(shè)立了相應(yīng)的網(wǎng)絡(luò)產(chǎn)品設(shè)計指引（見下頁表2）。指引不僅列出禁止企業(yè)做什么，還明確網(wǎng)絡(luò)產(chǎn)品設(shè)計應(yīng)該做什么，引導(dǎo)企業(yè)開發(fā)適合未成年人年齡階段的產(chǎn)品和服務(wù)。對企業(yè)而言，《準則》具有非常強的可操作性，在開發(fā)和提供產(chǎn)品與服務(wù)的過程中能夠有據(jù)可依。尤其是對一些中小企業(yè)而言，相較于禁止性指令，《準則》的要求更為明確和具有可操作性。

4. 為助推、算法推薦等關(guān)鍵技術(shù)畫紅線

手機應(yīng)用程序等具有強大吸引力的原因，一定程度上是其在技術(shù)層面的某些設(shè)置容易致人沉迷上癮，未成年人更是難以抵擋其誘惑。因此，需在產(chǎn)品開發(fā)設(shè)計階段對這些關(guān)鍵技術(shù)設(shè)定應(yīng)用邊界，以有效保護未成年人?！稖蕜t》對助推和算法推薦等技術(shù)畫定了應(yīng)用紅線。

一方面，限制助推技術(shù)，保護兒童隱私。《準則》要求企業(yè)“不要使用助推技術(shù)來引導(dǎo)或鼓勵兒童提供不必要的個人數(shù)據(jù)，以及削弱或關(guān)閉他們的隱私保護功能”。助推技術(shù)是指產(chǎn)品或服務(wù)的提供者刻意引導(dǎo)或鼓勵用戶在決策時遵循設(shè)計者設(shè)置的默認選項。如當一些設(shè)計者希望獲得用戶授權(quán)時，會把同意授權(quán)的選項做得更為顯眼?！稖蕜t》認為，在線上服務(wù)設(shè)計中使用助推技術(shù)，可能導(dǎo)致用戶被鼓勵允許平臺獲取比他們自愿提供的更多的個人數(shù)據(jù)，損害兒童的利益。2018年，兒童保護組織5Rights曾發(fā)表報告，揭示商家會使用行為科學(xué)和心理學(xué)理論來操縱兒童放棄更多個人數(shù)據(jù)，包括延長他們的上網(wǎng)時間等，以獲取更多商業(yè)利益。[8]《準則》限制助推技術(shù)潛在的不良應(yīng)用場景，眾多互聯(lián)網(wǎng)公司都響應(yīng)《準則》要求，對自己的產(chǎn)品進行了調(diào)整（見下頁表3）。

《準則》鼓勵善用助推技術(shù)以促進兒童健康成長和保護兒童隱私。如兒童應(yīng)用POPJAM就使用助推技術(shù)來激勵兒童進行創(chuàng)意表達和負責任的在線行為。當用戶與其他用戶進行積極互動時，平臺會獎勵其虛擬貼紙（見下頁圖1）和其他應(yīng)用內(nèi)物品。這種助推有助于營造一個支持性和適齡的兒童網(wǎng)絡(luò)空間。[9]

另一方面，為算法推薦畫紅線，從技術(shù)底層防沉迷。當下，算法技術(shù)得到廣泛應(yīng)用，自動推薦已成為眾多網(wǎng)絡(luò)應(yīng)用的標配。《準則》對這類技術(shù)畫定了紅線：企業(yè)對使用未成年用戶個人數(shù)據(jù)進行內(nèi)容推薦等信息處理行為負責，且應(yīng)將使用用戶數(shù)據(jù)進行特征分析的選項默認設(shè)置為“關(guān)閉”，只有用戶主動設(shè)置為“開啟”后，方可運行相關(guān)程序。上述對助推和算法推薦等關(guān)鍵技術(shù)的規(guī)制，可以從技術(shù)底層著手，減少使未成年人沉迷的信息產(chǎn)品的出現(xiàn)。

5. 為未成年人提供在線輔助工具

實現(xiàn)未成年人權(quán)利框架中的自我權(quán)利，支持未成年人在對自己有影響的事務(wù)中表達觀點，企業(yè)需提供具體的技術(shù)支持?！稖蕜t》要求企業(yè)為未成年人提供在線輔助工具，幫助其簡單輕松地行使自身權(quán)利。企業(yè)要建立兒童緊急投訴、請求機制，允許未成年人陳述緊急情況，并根據(jù)相應(yīng)情況迅速采取行動。在使用用戶的個人數(shù)據(jù)時，企業(yè)要適時通知并“一口氣解釋”，讓未成年人及時與監(jiān)護人進行交流。在未成年人試圖改變隱私設(shè)置時，提供適合其年齡的解釋和提示，以預(yù)防這種改變可能引發(fā)的風險。未成年人的注意力、理解力的特殊性，要求企業(yè)在溝通過程中，以與未成年人年齡相符的友好方式傳達信息，通過圖標、漫畫、圖形、視頻和音頻等形式，以游戲化和交互方式，吸引未成年人的注意，激發(fā)未成年人的興趣，而不是僅僅提供文字信息，以確保信息的有效傳遞。

6. 為家長提供在線控制工具

家長作為保護未成年人網(wǎng)絡(luò)安全的重要主體，在網(wǎng)絡(luò)空間履行監(jiān)護義務(wù)時，面臨一定的技術(shù)障礙?！稖蕜t》要求企業(yè)為父母或監(jiān)護人提供在線活動控制工具。同時，對家長在線控制工具提供的功能做了較為詳細的要求，主要包括：設(shè)置兒童使用時長、就寢時間、網(wǎng)站訪問白名單、限制應(yīng)用內(nèi)購買、監(jiān)控兒童在線活動、跟蹤地理位置等功能。這些工具為家長保護未成年人的網(wǎng)絡(luò)安全提供了較好的技術(shù)支持?！稖蕜t》公布后，眾多企業(yè)都按照要求提供了相關(guān)的家長控制工具。2021年5月，TikTok推出了家長控制工具Family Pairing，幫助家長限制孩子接觸到的內(nèi)容，并確保其在線行為的安全（見表4）。[10]近年來，媒體報道眾多未成年人在直播中巨額打賞、在氪金游戲中購買昂貴的裝備等事件，如果相關(guān)應(yīng)用程序提供了應(yīng)用內(nèi)購買限制功能，將極大減少此類事件的發(fā)生。此外，《準則》還要求企業(yè)提供家長工具時，需提示該選項適合的未成年人年齡信息，以便家長更好地履行監(jiān)護義務(wù)賦能?！稖蕜t》還要求在運行家長控制工具時給未成年人顯著提醒信息，以維護其必要的知情權(quán)。

企業(yè)提供功能強大的家長工具，一定程度上解決了家長在保護未成年人網(wǎng)絡(luò)安全中能力不足的問題，有利于更好地發(fā)揮家庭在保護未成年人網(wǎng)絡(luò)安全中的作用。

7. 為企業(yè)提供風險評估工具

《準則》第2條要求，對企業(yè)處理未成年人數(shù)據(jù)可能給其權(quán)利帶來的影響，應(yīng)使用數(shù)據(jù)保護影響評估模板（Data Protection Impact Assessment，DPIA）等工具進行系統(tǒng)性分析，及時、準確了解自身履行相關(guān)責任情況。

數(shù)據(jù)保護影響評估模板是英國數(shù)據(jù)保護機構(gòu)制定的一項個人數(shù)據(jù)保護制度，旨在幫助企業(yè)識別和降低風險。DPIA可以幫助企業(yè)遵循《準則》要求的數(shù)據(jù)最小化原則、訪問控制工具、默認設(shè)置等要求（見下頁表5），以保護兒童的隱私權(quán)和在線安全，降低企業(yè)無意違規(guī)的風險，避免可能的法律糾紛和罰款，還可提高用戶對企業(yè)的信任度，增強品牌聲譽和客戶忠誠度。

8. 設(shè)置階梯式執(zhí)行工具箱

制度執(zhí)行方面，《準則》設(shè)置了從輕到重的階梯式執(zhí)行工具箱，包括評估通知、警告、申斥、執(zhí)行通知和處罰通知（行政罰款）。《準則》雖不具有法律約束力，卻是整個英國數(shù)據(jù)保護制度的重要構(gòu)件，英國《數(shù)據(jù)保護法》指出，信息服務(wù)需要遵循標準，以便“確保它們遵守數(shù)據(jù)保護法規(guī)定的保護兒童在線數(shù)據(jù)的義務(wù)”。對于嚴重違反數(shù)據(jù)保護原則的行為，可罰款2 000萬歐元或企業(yè)每年全球營業(yè)額的4%，以較高者為準。這一套從提醒注意到高額經(jīng)濟處罰的執(zhí)行工具，具有一定的可操作性和合理的處罰力度，為《準則》的有效實施提供了很好的保證。

三、《準則》的啟示

當前，我國未成年人網(wǎng)絡(luò)保護工作面臨的主要問題有：一是理念方面，仍然延續(xù)數(shù)字化社會之前的保護遠離的理念，未能針對互聯(lián)網(wǎng)設(shè)備廣泛普及的新情況更新保護理念；二是制度方面，宏觀法律法規(guī)等制度較多，具體可實踐可操作的標準鮮見，對網(wǎng)絡(luò)產(chǎn)品的關(guān)鍵技術(shù)和功能的規(guī)制不足；三是相關(guān)保護制度對主客體差異性考慮不足，針對不同年齡階段未成年網(wǎng)民需求和能力差異的考慮較少，對不同類型網(wǎng)絡(luò)產(chǎn)品對未成年人的安全威脅程度的區(qū)分不夠；四是對多元主體參與未成年人網(wǎng)絡(luò)保護的具體支持不夠，未成年人網(wǎng)絡(luò)保護需要企業(yè)、家庭、社會等的多方參與，目前我國各主體參與度不夠，特別是在技術(shù)支持方面還不是很充分。

1. 轉(zhuǎn)變保護理念，從“保護兒童遠離數(shù)字世界”到“保護數(shù)字世界的兒童”

我國未成年人網(wǎng)絡(luò)保護工作主要依靠青少年保護模式等技術(shù)工具，這類工具限制使用時間、時長等，以減少未成年人與互聯(lián)網(wǎng)的接觸，這類基于遠離理念的限制使用行為的措施，對防止未成年人沉迷于數(shù)字產(chǎn)品有一定的效果。不過，隨著數(shù)字技術(shù)的發(fā)展，在當前的情況下，無論是在學(xué)習(xí)、娛樂還是生活中，讓未成年人遠離數(shù)字世界顯然已不現(xiàn)實。

《準則》基于兒童利益最大化原則，依循“保護數(shù)字世界的兒童，而不是保護兒童遠離數(shù)字世界”的理念，建立網(wǎng)絡(luò)產(chǎn)品設(shè)計指引，推動建立有益于未成年人成長的數(shù)字生活環(huán)境。這一做法超越僅僅為目標提供保護的理念，兼顧未成年人的保護與賦權(quán)發(fā)展，著眼建立對兒童友好的數(shù)字世界，適應(yīng)新的社會發(fā)展狀況和兒童成長需求。

此外，在當下互聯(lián)網(wǎng)產(chǎn)品眾多的情況下，如何設(shè)立兒童網(wǎng)絡(luò)安全保護邊界是個難題，《準則》以未成年人“可能接觸”原則，劃定需遵循未成年人保護制度的網(wǎng)絡(luò)產(chǎn)品范圍，具有較好覆蓋性和前瞻性。

2. 抓住未成年人網(wǎng)絡(luò)保護的關(guān)鍵主體和核心環(huán)節(jié)，建立技術(shù)規(guī)范指引

雖然我國頒布了不少保護未成年人網(wǎng)絡(luò)安全的法律法規(guī)，但大多為宏觀的理念性、原則性表述，缺少對關(guān)鍵主體——互聯(lián)網(wǎng)企業(yè)和核心環(huán)節(jié)網(wǎng)絡(luò)產(chǎn)品的具體制度要求。企業(yè)為未成年人提供了具體的網(wǎng)絡(luò)服務(wù)產(chǎn)品，進而構(gòu)建了未成年人的網(wǎng)絡(luò)生活環(huán)境，因此對企業(yè)和網(wǎng)絡(luò)產(chǎn)品的規(guī)制至關(guān)重要。對企業(yè)開發(fā)設(shè)計網(wǎng)絡(luò)產(chǎn)品應(yīng)建立明確具體的約束制度，從而提高保護的效率和效力。

《準則》將法律法規(guī)的原則性條文轉(zhuǎn)化為具體可操作的明確規(guī)則，為網(wǎng)絡(luò)產(chǎn)品制定了具體的設(shè)計標準，給企業(yè)提供了可操作的遵循指南，讓未成年人網(wǎng)絡(luò)保護工作具有可操作性和可控制性。我國有必要依據(jù)《未成年人保護法》《個人信息保護法》《兒童個人信息網(wǎng)絡(luò)保護規(guī)定》等法律法規(guī)，制定更為具體、可操作的網(wǎng)絡(luò)產(chǎn)品制作出版標準，深化未成年人網(wǎng)絡(luò)保護法律法規(guī)的實踐指引。

《準則》圍繞未成年人網(wǎng)絡(luò)保護的關(guān)鍵主體和核心環(huán)節(jié)，針對互聯(lián)網(wǎng)企業(yè)和網(wǎng)絡(luò)產(chǎn)品設(shè)立有益于未成年人健康成長的設(shè)計標準。盡管網(wǎng)絡(luò)產(chǎn)品千差萬別，但抓住默認設(shè)置、數(shù)據(jù)使用、信息樣式等核心功能和算法推薦、助推技術(shù)等關(guān)鍵技術(shù)制定相關(guān)規(guī)則，確實可以起到四兩撥千斤的作用。這種對網(wǎng)絡(luò)產(chǎn)品核心功能和關(guān)鍵細節(jié)立規(guī)定約的方式，是一種基于源頭和底層進行治理的理念和方法，將極大提升未成年人網(wǎng)絡(luò)保護的效果，值得我們參考和借鑒。

3. 制定針對性保護措施，提高制度效能

不同年齡階段的未成年人在網(wǎng)絡(luò)需求、應(yīng)對安全風險和判斷能力等方面均存在較大差異，簡單劃定一個年齡標準顯然無法滿足各年齡階段未成年人的保護與發(fā)展需求?！稖蕜t》根據(jù)對規(guī)則的認知理解、社會關(guān)系的參與、面臨的數(shù)據(jù)風險、數(shù)字應(yīng)用的用途等指標，將18歲以下未成年人細分為五個年齡段，確立不同的設(shè)計標準，讓保護制度的針對性極大提升。2022年9月，美國加利福尼亞州頒布的《加州適齡設(shè)計規(guī)范法案》（The California Age-Appropriate Design Code Act，AB 2273），也完全借鑒了英國《準則》的年齡劃分標準，這種對未成年人進行分年齡段保護的做法正在被各國采納。

當前，我國網(wǎng)絡(luò)保護中的監(jiān)護人同意模式有不少問題，眾多功能應(yīng)用頻繁需要監(jiān)護人同意，且相關(guān)內(nèi)容冗長晦澀，不少監(jiān)護人實際上沒有閱讀內(nèi)容即勾選“同意”選項，“同意疲勞”現(xiàn)象較為普遍。此外，不少家長缺乏足夠的時間與精力來監(jiān)督孩子的上網(wǎng)時間和上網(wǎng)活動，對游戲等新奇的網(wǎng)絡(luò)應(yīng)用不熟悉、不了解，部分監(jiān)護人自身不具備網(wǎng)絡(luò)使用技能，家長監(jiān)督的效果不佳。英國網(wǎng)絡(luò)適齡設(shè)計制度區(qū)分應(yīng)用的核心場景和非核心場景，根據(jù)同意內(nèi)容的必要性實施同意確認程序，省去了監(jiān)護人與兒童的部分不必要確認程序，既保證了重要、必要信息的高效處理，也提高了保護的效率和效力，這一做法值得我們參考。

4. 提供技術(shù)工具，賦權(quán)賦能多元主體有效參與

未成年人網(wǎng)絡(luò)安全保護需企業(yè)、家庭、社會各方的共同參與，在實踐中企業(yè)缺乏有效可靠的具體執(zhí)行標準及自我核查工具，一些家長及未成年人在履行保護能力和條件方面存在一定的困難?！稖蕜t》為企業(yè)提供了產(chǎn)品設(shè)計的標準以及自我評估工具，讓保護責任的落實更加明確和可操作。《準則》要求企業(yè)分別為家長及未成年人提供有效的網(wǎng)絡(luò)保護工具，這種技術(shù)賦能極大提升了家長和未成年人自我保護的能力。這些賦能賦權(quán)舉措，提高了相關(guān)主體參與保護的能力，有利于形成多元主體共同參與未成年人網(wǎng)絡(luò)安全保護的良好格局。

參考文獻：

[1] 共青團中央維護青少年權(quán)益部，中國互聯(lián)網(wǎng)絡(luò)信息中心. 2021年全國未成年人互聯(lián)網(wǎng)使用情況研究報告[EB/OL].[2022-11-30].https：//news.youth.cn/gn/202211/t20221130_14165457.htm.

[2] 中華人民共和國未成年人保護法[EB/OL].[2020-10-17].http：//www.npc.gov.cn/npc/c30834/202010/82a8f1b84350432cac03b1e382ee1744.shtml.

[3] 國家新聞出版署. 國家新聞出版署關(guān)于防止未成年人沉迷網(wǎng)絡(luò)游戲的通知[EB/OL].[2019-11-19].https：//www.nppa.gov.cn/nppa/contents/312/74539.shtml.https：//www.nppa.gov.cn/nppa/contents/312/74539.shtml.

[4] ICO. Background to the children's code[EB/OL].[2022-02-07]. https：//ico.org.uk/about-the-ico/what-we-do/background-to-the-children-s-code/.

[5] McCallum S， Gerken T， Kleinman Z. TikTok fined ￡12.7m for misusing children's data[EB/OL].[2023-04-04].https：//www.bbc.com/news/uk-65175902.

[6] TikTok. 隱私政策調(diào)整說明[EB/OL].[2021-01-31].https：//newsroom.tiktok.com/en-us/strengthening-privacy-and-safety-for-youth.

[7] Shilton K. Data Leverage： A Framework for Empowering the Public in its Relationship with Technology Companies[J]. Journal of Information Policy， 2018（8）：46-71.

[8] Baroness Beeban Kidron. Digital Childhood - Addressing Childhood Development Milestones in the Digital Environment[EB/OL].[2017-12-31]. https：//5rightsfoundation.com/static/Digital_Childhood_report_-_EMBARGOED.pdf.

[9] PopJam[EB/OL].[2023-06-30].https：//www.popjam.com/.

[10] TikTok. Introducing Family Pairing[EB/OL].[2023-06-30].https：//newsroom.tiktok.com/en-us/introducing-family-pairing.

Protecting Children in the Digital World： Concepts， Tools and Systems

——UK Age Appropriate Design Code and Its Implications

ZHANG JIAN-jun（Journalism and Communication College， Tianjin Normal University， Tianjin 300387，? China）

Abstract： Protecting the online safety of a vast number of minors is a pressing global issue. The UK's Age Appropriate Design Code aims to establish universal standards for digital content creation and has become a crucial institutional innovation for safeguarding minors online worldwide. The code adheres to the principle of "protecting children within the digital world， rather than shielding them from it"， delineates the scope of application based on the "likelihood of access" principle， and sets up a three-principle framework to maximize children's interests. It establishes standards for data protection， product design， and essential technologies in various aspects， including setting data protection standards according to application scenarios， formulating online product design requirements based on age groups， and regulating critical technologies such as boosting， default settings， and recommendation algorithms. This code offers valuable insights for the conceptual shift， coordination of relevant stakeholders， and development of institutional frameworks in China's efforts to protect minors online.

Keywords： internet content production standards; age-appropriate design; protection of minors

基金項目：國家社會科學(xué)基金一般項目“我國互聯(lián)網(wǎng)多元主體合作治理模式研究”（19BXW119）

作者信息：張建軍（1979— ），男，內(nèi)蒙古鄂爾多斯人，天津師范大學(xué)新聞傳播學(xué)院副教授，主要研究方向：新媒體傳播、互聯(lián)網(wǎng)治理。