李玉順 沈希 安欣 吳永和

[摘? ?要] 隨著ChatGPT等新型人工智能技術(shù)的進(jìn)一步發(fā)展，未成年人成長面臨著新的風(fēng)險(xiǎn)與挑戰(zhàn)，急需構(gòu)建面向未成年人的人工智能規(guī)范體系。文章從人才發(fā)展、AI向善和人機(jī)共融視角出發(fā)，構(gòu)建了面向未成年人的人工智能技術(shù)規(guī)范體系模型：“技術(shù)內(nèi)容規(guī)范”將基礎(chǔ)性、時(shí)代性和價(jià)值性三個(gè)維度的知識(shí)結(jié)合在一起，旨在從核心素養(yǎng)的角度規(guī)范學(xué)生能接觸到的人工智能技術(shù)內(nèi)容；“技術(shù)工具規(guī)范”圍繞可用性、適用性、安全性、價(jià)值觀對(duì)AI學(xué)習(xí)工具的設(shè)計(jì)、開發(fā)和應(yīng)用全過程提出規(guī)范要求，旨在從應(yīng)用監(jiān)管角度保障未成年人的使用體驗(yàn)；“技術(shù)倫理規(guī)范”基于以人為本、公平公正、安全可控原則，對(duì)人工智能技術(shù)倫理治理提出要求，旨在從安全倫理角度促進(jìn)未成年人、社會(huì)、自然和人工智能的和諧共處。

[關(guān)鍵詞] 人工智能； 未成年人； 技術(shù)規(guī)范； 核心素養(yǎng)； 應(yīng)用監(jiān)管； 安全倫理

[中圖分類號(hào)] G434? ? ? ? ? ? [文獻(xiàn)標(biāo)志碼] A

[作者簡介] 李玉順（1969—），男，江蘇寶應(yīng)人。教授，博士，主要從事基礎(chǔ)教育信息化、課堂學(xué)習(xí)方式變革理論與實(shí)踐、慕課及在線學(xué)習(xí)等研究。E-mail：lyshun@bnu.edu.cn。

一、 引? ?言

21世紀(jì)以來，“互聯(lián)網(wǎng)+”顛覆與重構(gòu)教育系統(tǒng)，給未成年人帶來便利的同時(shí)，也伴隨著諸多風(fēng)險(xiǎn)與挑戰(zhàn)。隨著智能技術(shù)賦能教育的變革逐漸深化，技術(shù)賦能教育變革邁入了深度發(fā)展的階段，解構(gòu)與重構(gòu)的特征日益明顯，在這一進(jìn)程中越來越多的研究者關(guān)注到了人工智能技術(shù)帶來機(jī)遇背后的巨大風(fēng)險(xiǎn)。聯(lián)合國教科文組織于2021年發(fā)布《人工智能倫理問題建議書》，其中特別強(qiáng)調(diào)要“提供充分的人工智能素養(yǎng)教育”，“以負(fù)責(zé)任和合乎倫理的方式”將人工智能技術(shù)應(yīng)用于教育[1]，從宏觀層面為規(guī)范人工智能教育倫理提供了國際經(jīng)驗(yàn)。技術(shù)與人的發(fā)展關(guān)系問題日益成為宏觀教育治理、微觀育人實(shí)踐中的時(shí)代性命題。

智能技術(shù)逐漸成為新時(shí)代學(xué)生學(xué)習(xí)的有力支撐，但未成年人正處于高認(rèn)知、低控制的成長發(fā)展階段，其自身人格塑造和培養(yǎng)容易受到人工智能技術(shù)影響[2]。同時(shí)， 隨著ChatGPT等新型人工智能技術(shù)的進(jìn)一步發(fā)展，未成年人成長也面臨著新的風(fēng)險(xiǎn)與挑戰(zhàn)，未成年人教育也將產(chǎn)生更多“科技向善”“本真育人”的現(xiàn)實(shí)訴求。從國家層面進(jìn)行頂層設(shè)計(jì)和規(guī)劃需更重視技術(shù)倫理和人文包容，對(duì)潛在的風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)和管理，以規(guī)范和引導(dǎo)人工智能技術(shù)的正向應(yīng)用，加速數(shù)字技術(shù)驅(qū)動(dòng)的文明變局。

為此，本研究將探索面向未成年人的人工智能技術(shù)規(guī)范，構(gòu)建面向未成年人的人工智能規(guī)范體系框架，以指導(dǎo)人工智能核心素養(yǎng)、應(yīng)用監(jiān)管、安全倫理等標(biāo)準(zhǔn)規(guī)范的研制，從系統(tǒng)全局觀的角度為建立以人為本、面向未成年人的人工智能技術(shù)規(guī)范研究提供理論指導(dǎo)。

二、 面向未成年人的人工智能技術(shù)應(yīng)用現(xiàn)狀

面向未成年人的人工智能技術(shù)規(guī)范，是人工智能技術(shù)在內(nèi)容、技術(shù)工具、倫理等多個(gè)不同層面，對(duì)未成年人產(chǎn)生“科技向善”“本真育人”作用所體現(xiàn)的訴求。這種訴求是以技術(shù)的邏輯、技術(shù)的功能、技術(shù)的“思維”來影響未成年人的。因此，本研究將從三個(gè)層次探討面向未成年人的人工智能技術(shù)規(guī)范：一是技術(shù)內(nèi)容規(guī)范，探討未成年人對(duì)人工智能技術(shù)本身應(yīng)該理解到什么程度，這是從人才發(fā)展的視角進(jìn)行理解，對(duì)應(yīng)未成年人的核心素養(yǎng)；二是技術(shù)工具規(guī)范，探討作為人工智能賦能的各類學(xué)習(xí)工具，應(yīng)該如何更有效地服務(wù)于未成年人的心理特征、心智特征、年齡特征，解決當(dāng)下社會(huì)發(fā)展中未成年人成長的問題，這是從AI向善的視角進(jìn)行理解，對(duì)應(yīng)相關(guān)部門、企業(yè)和人員對(duì)人工智能技術(shù)的應(yīng)用監(jiān)管；三是技術(shù)倫理規(guī)范，探討如何促進(jìn)未成年人、社會(huì)、自然和人工智能的和諧共處，這是從人機(jī)共融的視角進(jìn)行理解，對(duì)應(yīng)人工智能應(yīng)用于社會(huì)的安全倫理。

（一）技術(shù)內(nèi)容規(guī)范

為了提升在智能時(shí)代的競(jìng)爭力，未成年人需要掌握一定的人工智能技術(shù)內(nèi)容。這些技術(shù)內(nèi)容需要依照未成年人的身心發(fā)展特點(diǎn)制定規(guī)范，以促進(jìn)其在人工智能技術(shù)方面的知識(shí)技能提升、興趣拓展及價(jià)值觀培養(yǎng)。自此，以機(jī)器人、編程等為代表的各類人工智能課程逐漸成為課程教學(xué)的新內(nèi)容，有關(guān)的課程標(biāo)準(zhǔn)也逐漸規(guī)范化、體系化。本研究梳理了近年來以“人工智能”為主題的課程內(nèi)容相關(guān)標(biāo)準(zhǔn)，具體見表 1。

總體來看，人工智能類課程內(nèi)容規(guī)范已經(jīng)初具規(guī)模，涵蓋人工智能的基礎(chǔ)性知識(shí)、時(shí)代性應(yīng)用、社會(huì)安全與倫理，并越來越體現(xiàn)小初高銜接、完整全面的統(tǒng)一化取向。但目前市場(chǎng)上與少兒編程、青少年人工智能相關(guān)的課外興趣班質(zhì)量參差不齊，大大小小的教育機(jī)構(gòu)借著人工智能的東風(fēng)炒作概念，這不僅會(huì)使社會(huì)大眾陷入對(duì)人工智能的理解誤區(qū)，還容易扼殺未成年人對(duì)此的興趣和天賦。因此，急需制定關(guān)于未成年人的人工智能技術(shù)內(nèi)容規(guī)范，為學(xué)校、家庭、社會(huì)發(fā)揮引導(dǎo)作用，推動(dòng)面向人工智能時(shí)代的人才培養(yǎng)。

（二）技術(shù)工具規(guī)范

近年來，隨著人工智能技術(shù)的快速發(fā)展，面向兒童群體的相關(guān)應(yīng)用和產(chǎn)品大量涌現(xiàn)，蓬勃發(fā)展，場(chǎng)景覆蓋健康、安全、教育、娛樂和公益等各個(gè)方面，在帶來更好體驗(yàn)的同時(shí)，容易造成不公平、隱私泄露、泛人工智能亂象和過度依賴等問題。2021年，中國版《人工智能為兒童——面向兒童群體的人工智能應(yīng)用調(diào)研報(bào)告》發(fā)布，針對(duì)政府和行業(yè)提出了以兒童為中心的人工智能的實(shí)用建議和原則，特別關(guān)注了人工智能對(duì)兒童的適用性[8]。人工智能賦能的各類工具應(yīng)該如何發(fā)揮正向價(jià)值，更有效地服務(wù)于未成年人的心理特征、心智特征、年齡特征，是當(dāng)下需要關(guān)注的關(guān)鍵問題。

以教育領(lǐng)域?yàn)槔?，?dāng)前的人工智能技術(shù)工具已經(jīng)由廣到深，開始支持到具體學(xué)科的學(xué)習(xí)。本團(tuán)隊(duì)曾對(duì)17款英語學(xué)科人工智能技術(shù)工具進(jìn)行編碼分析[9]，結(jié)果發(fā)現(xiàn)，盡管目前市面上人工智能類學(xué)習(xí)工具品種繁多，但在學(xué)科知識(shí)和技能的專業(yè)性方面仍存在薄弱點(diǎn)：目前的學(xué)習(xí)行為分析多為簡單的出勤次數(shù)、學(xué)習(xí)時(shí)長、視頻播放量等數(shù)據(jù)的采集，缺乏學(xué)科專家視角所需要的更深入的數(shù)據(jù)支持；在資源推薦方面，大部分的英語學(xué)習(xí)軟件推薦規(guī)則較為簡單，主要是基于匹配各類學(xué)習(xí)資源所標(biāo)注的標(biāo)簽完成的，相關(guān)推薦算法有待改良與深化；自動(dòng)測(cè)試和反饋功能缺少對(duì)于學(xué)習(xí)方法和策略的指導(dǎo)?？傮w而言，人工智能類學(xué)習(xí)工具的發(fā)展還需要更加專業(yè)的學(xué)科視角、更有針對(duì)性的測(cè)評(píng)功能以及更科學(xué)的個(gè)性化推薦和指導(dǎo)機(jī)制。

整體來看，人工智能技術(shù)工具為教育提供了新的途徑和手段。但是，技術(shù)并非單純中立的工具，它滲透并改變著教育的本質(zhì)，在帶來便利和創(chuàng)新的同時(shí)，也可能伴隨著潛在的風(fēng)險(xiǎn)與副作用。如果應(yīng)用不當(dāng)，人工智能可能損害教育的公正性和客觀性。需要深入地思考如何在教育中平衡人工智能技術(shù)的利弊，針對(duì)性地制定技術(shù)工具規(guī)范標(biāo)準(zhǔn)，在技術(shù)的驅(qū)動(dòng)下保持人文關(guān)懷和價(jià)值追求，為未成年人創(chuàng)造一個(gè)有啟發(fā)力和包容性的技術(shù)環(huán)境。

（三）技術(shù)倫理規(guī)范

現(xiàn)代倫理是以強(qiáng)調(diào)個(gè)人幸福和權(quán)利優(yōu)先性為特征的，而人工智能已經(jīng)反客為主對(duì)人的行為產(chǎn)生了深刻影響，給人的主體性地位帶來了挑戰(zhàn)[10]，體現(xiàn)在未成年人身上最為突出[11]。特別是以ChatGPT為代表的生成式人工智能進(jìn)入到未成年人的生活中，帶來更加嚴(yán)峻的全新挑戰(zhàn)。聯(lián)合國教科文組織在2023年接連發(fā)布“Generative AI and the Future of Education”和“Guidance for Generative AI in Education and Research”兩份文件，強(qiáng)調(diào)要對(duì)教育中使用生成式人工智能加強(qiáng)管理、提出規(guī)范。

目前國際上很多機(jī)構(gòu)組織提出了人工智能發(fā)展的道德倫理原則，如歐盟提出的“可信賴人工智能”包含“人的能動(dòng)性和監(jiān)督能力、安全性、隱私數(shù)據(jù)管理、透明度、包容性、社會(huì)福祉、問責(zé)機(jī)制”七個(gè)關(guān)鍵條件；有學(xué)者整理了英美等國共84份人工智能倫理指南，總結(jié)出“透明、正義和公平、不傷害、責(zé)任、隱私、有益、自由和自主、信任、持續(xù)性、尊嚴(yán)、團(tuán)結(jié)”等倫理原則[12]。但審慎思考后，會(huì)發(fā)現(xiàn)這些原則之間其實(shí)缺少了有機(jī)聯(lián)系，且更多地是對(duì)人工智能發(fā)展的限制或預(yù)防，缺少積極的倫理支持來為人工智能技術(shù)的良性發(fā)展作保障。這就要求有一個(gè)統(tǒng)領(lǐng)性的“基點(diǎn)”，作為人工智能研發(fā)與應(yīng)用的最高倫理原則，即“人本原則”[13]。人工智能技術(shù)的發(fā)展與應(yīng)用，歸根結(jié)底是要為人提供更好的產(chǎn)品和服務(wù)，滿足人的需求，要防止其異化，避免朝著危害人的方向發(fā)展。在對(duì)未成年人影響最為深刻的教育領(lǐng)域，人工智能的應(yīng)用需要遵循教學(xué)倫理原則：以學(xué)習(xí)者為中心或以人為中心應(yīng)用人工智能；加強(qiáng)數(shù)據(jù)管理與人工智能技術(shù)治理；加強(qiáng)學(xué)習(xí)者與教師自治，尊重學(xué)習(xí)者與教師的自主性[14]。因此，首先要以平衡“工具理性”和“價(jià)值理性”為基礎(chǔ)，構(gòu)建統(tǒng)一、和諧、促進(jìn)人與技術(shù)共生的觀念基礎(chǔ)，強(qiáng)調(diào)教育中人的中心地位；其次，要構(gòu)建一系列核心原則用以支撐人工智能教育倫理體系，如隱私原則、透明原則、平等原則、問責(zé)原則等[15]；最后，在人工智能與教育的融合中，始終發(fā)揮技術(shù)優(yōu)勢(shì)，同時(shí)保障師生主體權(quán)益，實(shí)現(xiàn)負(fù)責(zé)任的人工智能教育[16]。

三、 面向未成年人的人工智能規(guī)范體系框架構(gòu)建

基于技術(shù)內(nèi)容、工具和倫理三個(gè)層次的探討，本研究構(gòu)建了以核心素養(yǎng)、應(yīng)用監(jiān)管和安全倫理為核心的面向未成年人的人工智能規(guī)范體系框架，下面將具體從人才發(fā)展、AI向善和人機(jī)共融的視角作詳細(xì)解讀。

（一）核心素養(yǎng)：技術(shù)內(nèi)容規(guī)范

目前以ChatGPT為代表的新一輪人工智能技術(shù)正快速改變著人們的生活、學(xué)習(xí)、工作方式，未成年人所處的成長環(huán)境正在發(fā)生深刻變化。學(xué)校作為未成年人接受教育的主陣地，需要立足時(shí)代特色，根據(jù)國家課程計(jì)劃和課程管理要求，為學(xué)生提供技術(shù)內(nèi)容教育。以《義務(wù)教育信息科技課程標(biāo)準(zhǔn)（2022年版）》和《普通高中信息技術(shù)課程標(biāo)準(zhǔn)（2017年版2020年修訂）》為基礎(chǔ)，本研究將“技術(shù)內(nèi)容規(guī)范”定位為“基于未成年人身心發(fā)展規(guī)律，規(guī)定未成年人應(yīng)學(xué)習(xí)的人工智能技術(shù)知識(shí)內(nèi)容”。結(jié)合我國人才培養(yǎng)要求、信息技術(shù)課程標(biāo)準(zhǔn)和國內(nèi)外最新研究成果，面向未成年人的人工智能技術(shù)內(nèi)容規(guī)范應(yīng)立足于發(fā)展人工智能時(shí)代學(xué)生的核心素養(yǎng)，具體可圍繞以下三個(gè)維度展開：

基礎(chǔ)性知識(shí)：包括信息處理的基本概念、信息系統(tǒng)基礎(chǔ)、常用軟件基礎(chǔ)、網(wǎng)絡(luò)基礎(chǔ)知識(shí)、信息安全和數(shù)據(jù)隱私保護(hù)、程序設(shè)計(jì)等方面的知識(shí)。這部分內(nèi)容要求未成年人能理解人工智能技術(shù)的基本知識(shí)。

時(shí)代性知識(shí)：包括人工智能、大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)等前沿技術(shù)及其應(yīng)用，以及面向未來數(shù)字經(jīng)濟(jì)社會(huì)和數(shù)字文化等方面的問題。時(shí)代性知識(shí)是由技術(shù)本身發(fā)展的特性決定的，需要特別考慮未成年人的先驗(yàn)知識(shí)經(jīng)驗(yàn)及其未來發(fā)展的有效銜接，以便幫助其體悟人工智能技術(shù)所帶來的時(shí)代變化。

價(jià)值性知識(shí)：包括數(shù)字倫理、數(shù)字公民素養(yǎng)、知識(shí)產(chǎn)權(quán)、信息權(quán)利保護(hù)等方面的知識(shí)，涉及數(shù)字道德、社會(huì)影響、環(huán)境保護(hù)等方面的問題。在新一輪技術(shù)革命的背景下，未成年人需要懂得如何正確看待人工智能技術(shù)應(yīng)用中個(gè)人與社會(huì)的關(guān)系，需要對(duì)技術(shù)帶來的機(jī)遇與挑戰(zhàn)保持包容審慎的態(tài)度，對(duì)自身使用技術(shù)擔(dān)負(fù)起應(yīng)有的責(zé)任。從價(jià)值觀的角度增強(qiáng)未成年的信息社會(huì)責(zé)任意識(shí)，才能真正實(shí)現(xiàn)技術(shù)內(nèi)容知識(shí)與未成年人核心素養(yǎng)發(fā)展的統(tǒng)一。

（二）應(yīng)用監(jiān)管：技術(shù)工具規(guī)范

實(shí)現(xiàn)真正有效的標(biāo)準(zhǔn)治理，必須將標(biāo)準(zhǔn)內(nèi)嵌到人工智能的技術(shù)生成過程中[17]，為技術(shù)工具的開發(fā)與應(yīng)用提供明確的監(jiān)管準(zhǔn)則。2020年，國家標(biāo)準(zhǔn)化管理委員會(huì)等五部門聯(lián)合印發(fā)《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，對(duì)智慧教育領(lǐng)域的行業(yè)應(yīng)用標(biāo)準(zhǔn)作出了指示，要求規(guī)范在新型教育體系中的教學(xué)、管理等全流程相關(guān)的人工智能應(yīng)用[18]?！吨腥A人民共和國未成年人保護(hù)法》中強(qiáng)調(diào)，處理涉及未成年人事項(xiàng)，應(yīng)符合“適應(yīng)未成年人身心健康發(fā)展的規(guī)律和特點(diǎn)”原則[19]?；谏鲜隹紤]， “技術(shù)工具規(guī)范”重點(diǎn)關(guān)注如何基于新型教育體系，規(guī)范賦能教育領(lǐng)域的人工智能技術(shù)的設(shè)計(jì)、開發(fā)與應(yīng)用，兼顧技術(shù)本身的質(zhì)量安全和教育環(huán)境的特殊需求，促進(jìn)教育新生態(tài)可持續(xù)、穩(wěn)定發(fā)展。該規(guī)范的重點(diǎn)關(guān)注對(duì)象是人工智能賦能的各類學(xué)習(xí)工具（簡稱“AI學(xué)習(xí)工具”），因此，面向未成年人的人工智能技術(shù)工具規(guī)范應(yīng)立足未成年人的心理特征、心智特征、年齡特征，從AI向善的角度出發(fā)，重點(diǎn)關(guān)注智能時(shí)代技術(shù)對(duì)未成年人個(gè)性化、智能化、開放式學(xué)習(xí)全過程的支持，具體可圍繞以下四個(gè)維度展開：

可用性：指AI學(xué)習(xí)工具在設(shè)計(jì)、開發(fā)和應(yīng)用過程中，以使用者為中心，保證工具功能易于理解、易于使用，有效實(shí)現(xiàn)其開發(fā)目的?？捎眯允茿I學(xué)習(xí)工具作為技術(shù)工具所應(yīng)該具備的最基本的功能特性。同時(shí)，考慮到未成年人的心智尚未發(fā)育成熟，AI學(xué)習(xí)工具還應(yīng)重點(diǎn)考慮使用時(shí)長的限制機(jī)制，避免過度使用會(huì)對(duì)未成年人產(chǎn)生負(fù)面影響。

適用性：指AI學(xué)習(xí)工具在設(shè)計(jì)、開發(fā)和應(yīng)用過程中需要考慮不同使用者的需求和差異，以便滿足其使用需求。AI學(xué)習(xí)工具的服務(wù)對(duì)象是學(xué)習(xí)者，包含未成年人群體，因此，首先要考慮其功能對(duì)使用者的年齡適配性。同時(shí)，AI學(xué)習(xí)工具本質(zhì)上是為學(xué)習(xí)者提供學(xué)習(xí)幫助的工具，須具備較好的教育性，不能只停留在娛樂層面。此外，智能時(shí)代的學(xué)習(xí)具有顯著的個(gè)性化、定制化特征，AI學(xué)習(xí)工具也要順應(yīng)時(shí)代特點(diǎn)，強(qiáng)調(diào)個(gè)性化內(nèi)容推送，盡可能地根據(jù)未成年人的興趣、學(xué)習(xí)能力和偏好來智能定制推送的內(nèi)容。

安全性：指AI學(xué)習(xí)工具在設(shè)計(jì)、開發(fā)和應(yīng)用過程中應(yīng)對(duì)潛在風(fēng)險(xiǎn)和威脅的能力，以保護(hù)系統(tǒng)和使用者的安全。一方面是保障AI學(xué)習(xí)工具系統(tǒng)本身的安全，另一方面是保障未成年人個(gè)人隱私的信息安全。未成年人作為弱勢(shì)群體，容易被黑客定位為攻擊目標(biāo)，在AI學(xué)習(xí)工具的設(shè)計(jì)與開發(fā)階段就需要針對(duì)這類情況預(yù)設(shè)安全解決方案。此外，AI學(xué)習(xí)工具在提供數(shù)據(jù)和資源時(shí)，要注意加強(qiáng)分類管理和訪問權(quán)限限制；在收集與管理未成年人信息時(shí)，要避免未成年人的敏感和個(gè)人信息被泄露或?yàn)E用，同時(shí)也應(yīng)考慮到未成年人的心理特征，避免過度采集數(shù)據(jù)對(duì)未成年人心理發(fā)展造成負(fù)面影響。

價(jià)值觀：指AI學(xué)習(xí)工具在設(shè)計(jì)、開發(fā)和應(yīng)用過程中必須遵循的符合社會(huì)主流價(jià)值的價(jià)值取向。AI學(xué)習(xí)工具的使用對(duì)象多為未成年人，其功能主要為教育，因此，AI學(xué)習(xí)工具的設(shè)計(jì)、開發(fā)與應(yīng)用必須符合社會(huì)和人類價(jià)值觀，避免出現(xiàn)影響社會(huì)團(tuán)結(jié)和諧的內(nèi)容，避免開發(fā)不道德、有爭議的產(chǎn)品，堅(jiān)決避免將未成年人置于潛在危險(xiǎn)或是不良影響中。

（三）安全倫理：技術(shù)倫理規(guī)范

科技倫理治理已成為社會(huì)治理的重要內(nèi)容和影響國家與社會(huì)安全穩(wěn)定的重要因素[20]。面向未成年人的技術(shù)倫理規(guī)范必須在推動(dòng)國內(nèi)人工智能技術(shù)規(guī)范研究的大前提下，兼顧實(shí)現(xiàn)我國標(biāo)準(zhǔn)和國際標(biāo)準(zhǔn)的相互轉(zhuǎn)化，走出一條富有中國特色的人工智能倫理治理道路。2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見》，確立了“增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明”五大中國科技倫理基本原則[15]。在本研究中，將“技術(shù)倫理規(guī)范”定位為基于我國國情與國際趨勢(shì)，規(guī)范我國人工智能技術(shù)應(yīng)用于教育領(lǐng)域所需要遵循的價(jià)值理念和行為規(guī)范。技術(shù)倫理規(guī)范作為一種上位的價(jià)值導(dǎo)向，在整個(gè)面向未成年人的人工智能技術(shù)發(fā)展藍(lán)圖中起統(tǒng)領(lǐng)性作用。因此，從人機(jī)共融的角度出發(fā)，面向未成年人的人工智能技術(shù)倫理規(guī)范應(yīng)全面審視未成年人、社會(huì)、自然和人工智能的關(guān)系，具體可圍繞以下三個(gè)維度展開：

以人為本：指保障未成年人成長與發(fā)展的福祉，尊重未成年人的生命權(quán)利，并引導(dǎo)未成年人樹立和諧共處、社會(huì)責(zé)任、保護(hù)自然的意識(shí)。人工智能技術(shù)應(yīng)堅(jiān)持以人為本的發(fā)展思想，促進(jìn)未成年人成長與發(fā)展、社會(huì)進(jìn)步和環(huán)境保護(hù)，構(gòu)建和諧共進(jìn)的社會(huì)生態(tài)環(huán)境，促進(jìn)社會(huì)可持續(xù)發(fā)展。

公平公正：指保障未成年人享有平等公正的合法權(quán)益，避免人工智能算法決策歧視未成年人，并引導(dǎo)未成年人樹立公平公正的意識(shí)。人工智能技術(shù)應(yīng)為不同種族、性別、地區(qū)、教育背景的未成年人提供平等的服務(wù)內(nèi)容，并且避免權(quán)力濫用和不當(dāng)歧視的算法模型出現(xiàn)，為未成年人構(gòu)建一個(gè)公平公正的技術(shù)環(huán)境，營造平等的社會(huì)文化氛圍。

安全可控：指保障未成年人在使用人工智能技術(shù)時(shí)的身心健康，并引導(dǎo)未成年人樹立自我保護(hù)意識(shí)。應(yīng)客觀評(píng)估和審慎對(duì)待人工智能技術(shù)給未成年人帶來的不確定性和技術(shù)應(yīng)用風(fēng)險(xiǎn)，及時(shí)采取防范措施，確保未成年人的身心安全，杜絕不良社會(huì)行為和技術(shù)濫用現(xiàn)象，增強(qiáng)人工智能技術(shù)的公眾信任度和認(rèn)可度。

（四）面向未成年人的人工智能規(guī)范體系模型

技術(shù)內(nèi)容規(guī)范、技術(shù)工具規(guī)范和技術(shù)倫理規(guī)范是人工智能發(fā)展的三個(gè)方面。本文梳理了人工智能技術(shù)發(fā)展歷程及其在教育領(lǐng)域的應(yīng)用現(xiàn)狀，通過與一線實(shí)踐者的對(duì)話，了解未成年人在使用人工智能技術(shù)過程中遇到的問題及實(shí)際需求，深入挖掘當(dāng)前政策對(duì)于人工智能技術(shù)應(yīng)用于教育的引導(dǎo)和支持情況，綜合考慮教育技術(shù)領(lǐng)域?qū)＜业囊庖娺M(jìn)行修訂與討論，最終構(gòu)建了多主體視域下未成年人與人工智能和諧共進(jìn)的技術(shù)規(guī)范體系模型，如圖 1所示。

“技術(shù)內(nèi)容規(guī)范”將基礎(chǔ)性、時(shí)代性和價(jià)值性三個(gè)維度的知識(shí)結(jié)合在一起，旨在從核心素養(yǎng)的角度規(guī)范學(xué)生能接觸到的人工智能技術(shù)內(nèi)容，符合未成年人身心發(fā)展規(guī)律，促進(jìn)學(xué)生的信息素養(yǎng)和信息能力的發(fā)展，提高他們對(duì)現(xiàn)代科技的認(rèn)識(shí)和理解，同時(shí)增強(qiáng)道德、法律和倫理觀念，促進(jìn)學(xué)生的全面發(fā)展和社會(huì)責(zé)任感。學(xué)校和教育機(jī)構(gòu)可以根據(jù)技術(shù)內(nèi)容規(guī)范，制定相應(yīng)的課程體系和教學(xué)內(nèi)容，幫助學(xué)生全面掌握人工智能技術(shù)相關(guān)知識(shí)，提高其核心素養(yǎng)和應(yīng)用能力。相關(guān)企業(yè)和監(jiān)管部門可以根據(jù)技術(shù)內(nèi)容規(guī)范推動(dòng)行業(yè)應(yīng)用標(biāo)準(zhǔn)化和規(guī)范化，提高人工智能產(chǎn)業(yè)的健康發(fā)展水平。家長、政府和社會(huì)各界可以借以了解和普及人工智能知識(shí)，對(duì)于不良信息和應(yīng)用進(jìn)行過濾和選擇，引導(dǎo)未成年人正確使用人工智能技術(shù)，幫助他們逐步成為數(shù)字時(shí)代的主人和有責(zé)任感的公民。

“技術(shù)工具規(guī)范”圍繞可用性、適用性、安全性、價(jià)值觀對(duì)AI學(xué)習(xí)工具的設(shè)計(jì)、開發(fā)和應(yīng)用全過程提出規(guī)范要求，旨在從應(yīng)用監(jiān)管角度保障未成年人的使用體驗(yàn)，讓人工智能賦能的各類學(xué)習(xí)工具更有效地服務(wù)于未成年人的心理特征、心智特征、年齡特征，體現(xiàn)AI向善原則。企業(yè)可以依照規(guī)范進(jìn)行針對(duì)性的技術(shù)和管理調(diào)整，提高維護(hù)未成年人權(quán)益和保護(hù)未成年人安全的意識(shí)和能力。政府和監(jiān)管部門應(yīng)嚴(yán)格依照規(guī)范對(duì)市場(chǎng)上的AI學(xué)習(xí)工具進(jìn)行全面監(jiān)管和檢查，并積極制定和完善相關(guān)的法律和規(guī)章制度，規(guī)定和約束人工智能技術(shù)在未成年人領(lǐng)域的應(yīng)用范圍和規(guī)范。此外，未成年人和家長也應(yīng)根據(jù)規(guī)范的要求，發(fā)揮主觀能動(dòng)性，選擇可能帶來更好的使用體驗(yàn)的AI學(xué)習(xí)工具，加強(qiáng)對(duì)于不良應(yīng)用和受限應(yīng)用的警惕和鑒別，確保自身權(quán)益得到充分的維護(hù)和保護(hù)。

“技術(shù)倫理規(guī)范”基于以人為本、公平公正、安全可控原則，對(duì)人工智能技術(shù)倫理治理提出要求，旨在從安全倫理角度促進(jìn)未成年人、社會(huì)、自然和人工智能的和諧共處，樹立未成年人的道德倫理價(jià)值觀。政府和社會(huì)可依據(jù)技術(shù)倫理規(guī)范明確人工智能技術(shù)應(yīng)用的道德原則和社會(huì)責(zé)任，加強(qiáng)對(duì)人工智能技術(shù)的監(jiān)管和監(jiān)督，保障未成年人的權(quán)益，為未成年人提供更安全、健康、可控的人工智能技術(shù)環(huán)境。學(xué)校和家長也要注重培養(yǎng)未成年人的人文素質(zhì)和倫理意識(shí)，提高未成年人對(duì)人工智能技術(shù)的理解和自我防范意識(shí)，關(guān)注未成年人的心理健康和成長。

四、 結(jié)? ?語

本文首先對(duì)面向未成年人的人工智能技術(shù)發(fā)展現(xiàn)狀和應(yīng)用態(tài)勢(shì)進(jìn)行了分析，討論了面向未成年人的人工智能技術(shù)內(nèi)容規(guī)范、技術(shù)工具規(guī)范和技術(shù)倫理規(guī)范三個(gè)層面的研究現(xiàn)狀和存在的問題，接著提出了面向未成年人的人工智能規(guī)范體系框架，為解決未成年人和人工智能技術(shù)融合協(xié)調(diào)發(fā)展問題提供指引。圍繞“面向未成年人的人工智能技術(shù)規(guī)范”，本研究提出了技術(shù)內(nèi)容規(guī)范、技術(shù)工具規(guī)范和技術(shù)倫理規(guī)范，分別指向未成年人核心素養(yǎng)發(fā)展、技術(shù)開發(fā)與應(yīng)用監(jiān)管和安全倫理價(jià)值導(dǎo)向，旨在推動(dòng)面向未成年人的人工智能技術(shù)治理，引導(dǎo)智能技術(shù)健康發(fā)展，并進(jìn)一步完善面向未成年人的人工智能社會(huì)治理生態(tài)體系。未來的研究也將繼續(xù)關(guān)注符合未成年人學(xué)習(xí)特征的人工智能技術(shù)產(chǎn)品和應(yīng)用，提升未成年人的人工智能核心素養(yǎng)和創(chuàng)新創(chuàng)造能力，實(shí)現(xiàn)人機(jī)相融共進(jìn)的人類命運(yùn)共同體。

[參考文獻(xiàn)]

[1] 聯(lián)合國教科文組織.人工智能倫理問題建議書[R/OL].（2021-11-23）[2024-02-29]. https：//unesdoc.unesco.org/ark：/48223/pf0000381137_chi/PDF/381137chi.pdf.multi.

[2] 唐漢衛(wèi).人工智能時(shí)代教育將如何存在[J].教育研究，2018，39（11）：18-24.

[3] 中華人民共和國教育部.普通高中信息技術(shù)課程標(biāo)準(zhǔn)（2017年版2020年修訂）[S].北京：北京人民教育出版社，2022.

[4] 中國教育學(xué)會(huì)中小學(xué)信息技術(shù)教育專業(yè)委員會(huì).中小學(xué)人工智能課程開發(fā)標(biāo)準(zhǔn)（試行）[S/OL].（2021-10-20）[2024-02-29]. https：//www.ttbz.org.cn/Pdfs/Index/？ftype=st&pms=51978.

[5] 中華人民共和國教育部.義務(wù)教育信息科技課程標(biāo)準(zhǔn)（2022年版）[S]. 北京：北京師范大學(xué)出版社， 2022.

[6] 聯(lián)合國教科文組織.中小學(xué)階段的人工智能課程：對(duì)政府認(rèn)可人工智能課程的調(diào)研[R/OL].[2024-02-29]. https：//unesdoc.unesco.org/ark：/48223/pf0000380602_chi/PDF/380602chi.pdf.multi.

[7] 中小學(xué)人工智能課程指南課題組.中小學(xué)人工智能課程指南[J].華東師范大學(xué)學(xué)報(bào)（教育科學(xué)版），2023，41（3）：121-134.

[8] 人工智能為兒童項(xiàng)目組.人工智能為兒童——面向兒童群體的人工智能應(yīng)用調(diào)研報(bào)告[R].北京：中國商務(wù)出版社，2021.

[9] 禹鼎，周穎，李玉順，沈希，田曼曼，楊冰鈺，蘇靜，孫延.基于 TPACK 框架的英語學(xué)習(xí)軟件調(diào)查研究[C]//中國教育技術(shù)協(xié)會(huì)信息技術(shù)教育專業(yè)委員會(huì)第十七屆學(xué)術(shù)年會(huì).天津：[出版者不詳]，2022.

[10] 鄭智航.人工智能算法的倫理危機(jī)與法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2021，39（1）：14-26.

[11] 鄧國民，李梅.教育人工智能倫理問題與倫理原則探討[J].電化教育研究，2020，41（6）：39-45.

[12] JOBIN A， IENCA M， VAYENA E. The global landscape of AI ethics guidelines[J]. Nature machine intelligence， 2019，1（9）：389-399.

[13] 孫偉平，李揚(yáng).論人工智能發(fā)展的倫理原則[J]. 哲學(xué)分析，2022，13（1）：3-14，196.

[14] 張慧，黃榮懷，李冀紅，尹霞雨.規(guī)劃人工智能時(shí)代的教育：引領(lǐng)與跨越——解讀國際人工智能與教育大會(huì)成果文件《北京共識(shí)》[J]. 現(xiàn)代遠(yuǎn)程教育研究， 2019，31（3）：3-11.

[15] 新華社.中共中央辦公廳 國務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見》[EB/OL].（2022-03-20）[2023-04-12]. http：//www.gov.cn/zhengce/2022-03/20/content_5680105.htm.

[16] 張學(xué)軍，董曉輝.人機(jī)共生：人工智能時(shí)代及其教育的發(fā)展趨勢(shì)[J].電化教育研究，2020，41（4）：35-41.

[17] 蔡星月.人工智能的“標(biāo)準(zhǔn)之治”[J].中國法律評(píng)論，2021（5）：94-103.

[18] 國家標(biāo)準(zhǔn)化管理委員會(huì)，中央網(wǎng)信辦，國家發(fā)展改革委，科技部，工業(yè)和信息化部.關(guān)于印發(fā)《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》的通知[EB/OL]. （2020-07-27）[2024-02-29]. https：//www.gov.cn/zhengce/zhengceku/2020-08/09/content_5533454.htm.

[19] 中國人大網(wǎng). 中華人民共和國未成年人保護(hù)法[EB/OL]. （2020-10-23）[2024-02-29]. https：//www.moj.gov.cn/pub/sfbgw/jgsz/jgszzsdw/zsdwflyzzx/flyzzxzcxx/zcxxzcfg/zcfgfl/202010/t20201023_188560.html.

[20] 王沛楠.西方人工智能的數(shù)字倫理規(guī)制：困境與進(jìn)路[J].青年記者，2022（13）：95-96.