摘要：爆火出圈的ChatGPT為AIGC的發(fā)展帶來(lái)了重大突破，也使教育領(lǐng)域從普適走向個(gè)性、從單一走向多樣、從零散走向整合，人工智能賦能教育進(jìn)入新階段，隨之也面臨AIGC帶來(lái)的一系列倫理風(fēng)險(xiǎn)，引起教育工作者的高度關(guān)注，需要從風(fēng)險(xiǎn)性監(jiān)管視角來(lái)處理AIGC教育應(yīng)用的倫理風(fēng)險(xiǎn)。該文首先從“人-技術(shù)”交互角度歸納AIGC教育應(yīng)用四類倫理風(fēng)險(xiǎn)：算法相關(guān)倫理風(fēng)險(xiǎn)、數(shù)據(jù)相關(guān)倫理風(fēng)險(xiǎn)、技術(shù)相關(guān)倫理風(fēng)險(xiǎn)和應(yīng)用相關(guān)倫理風(fēng)險(xiǎn)。其次以風(fēng)險(xiǎn)性監(jiān)管流程為基礎(chǔ)制定AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的治理框架，依據(jù)治理框架對(duì)四類倫理風(fēng)險(xiǎn)按照“歸納-運(yùn)行-分級(jí)”的順序?qū)嵭斜O(jiān)管：在總結(jié)倫理風(fēng)險(xiǎn)已有的治理依據(jù)后構(gòu)建“5W1H”監(jiān)管模型，對(duì)倫理風(fēng)險(xiǎn)進(jìn)行編碼后實(shí)現(xiàn)高、中、低三類分級(jí)。以此系統(tǒng)化的監(jiān)管流程為應(yīng)對(duì)AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)提供借鑒，對(duì)AIGC時(shí)代賦能教育的倫理使用指南提供指向性的引領(lǐng)，推動(dòng)教育領(lǐng)域這場(chǎng)持久變革的健康化發(fā)展。

關(guān)鍵詞：AIGC教育應(yīng)用；倫理風(fēng)險(xiǎn)；風(fēng)險(xiǎn)性監(jiān)管

中圖分類號(hào)：G434 文獻(xiàn)標(biāo)識(shí)碼：A

本文系全國(guó)教育科學(xué)規(guī)劃2021年度國(guó)家一般課題“教育領(lǐng)域人工智能應(yīng)用的倫理風(fēng)險(xiǎn)與防范對(duì)策研究”（課題編號(hào)：BCA210086）研究成果。

一、引言

在2022年百度世界年度論壇中，百度創(chuàng)始人兼CEO李彥宏提出了生成式AI的新概念：AIGC（AI Generated Content），并指出在未來(lái)十年內(nèi)，“AIGC”將顛覆所有當(dāng)前的內(nèi)容制作模式。隨著生成式AI的發(fā)展趨勢(shì)朝著多模態(tài)化演進(jìn)，我國(guó)已進(jìn)入教育4.0時(shí)期，正為教育領(lǐng)域帶來(lái)新一輪的科技和產(chǎn)業(yè)革命[1]。正如，近期爆火出圈的ChatGPT為AIGC的發(fā)展帶來(lái)了重大突破，不僅革新了數(shù)字文化創(chuàng)作的生產(chǎn)范式，也改變了教育主體與人工智能之間的交互模式[2]。在技術(shù)的不斷突破和創(chuàng)新方法的推動(dòng)下，GPT-4隨之問(wèn)世，開(kāi)啟“軟件工程3.0”新時(shí)代，谷歌的工程主管甚至表示：程序員的職業(yè)生涯將在三年內(nèi)被AIGC所終結(jié)[3]。由此，AIGC的發(fā)展速度讓教育工作者們又興奮又恐懼，驚嘆于AIGC能為教育主體提供自動(dòng)生成學(xué)習(xí)成果、提供無(wú)所不能的需求、打造更為安全且有創(chuàng)意的學(xué)習(xí)環(huán)境，又擔(dān)心教育主體在AIGC營(yíng)造的美好前景中丟失自我，忽視其存在的一系列倫理問(wèn)題[4]。在AIGC的新機(jī)遇下，教育領(lǐng)域應(yīng)給予豐富的AIGC產(chǎn)業(yè)產(chǎn)品和應(yīng)用場(chǎng)景，在加快融合關(guān)鍵技術(shù)的同時(shí)鼓勵(lì)健康發(fā)展AIGC教育應(yīng)用，在AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)出現(xiàn)之前便開(kāi)始實(shí)行監(jiān)管，從而更好地推動(dòng)AIGC教育應(yīng)用的良序循環(huán)，在全球化的科技變革教育之際，實(shí)現(xiàn)AIGC在教育領(lǐng)域的合規(guī)布局。那么，在AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)發(fā)生之前，又該如何實(shí)施監(jiān)管呢？本文嘗試從風(fēng)險(xiǎn)性監(jiān)管視角詳細(xì)探究。

二、AIGC教育應(yīng)用的倫理風(fēng)險(xiǎn)現(xiàn)狀

在AIGC為教育帶來(lái)應(yīng)用潛力的同時(shí)，也可能存在一定的問(wèn)題與風(fēng)險(xiǎn)。本研究從AIGC教育應(yīng)用中“人-技術(shù)”交互的維度，分析AIGC教育應(yīng)用的倫理風(fēng)險(xiǎn)圖譜，主要分為四類：算法相關(guān)倫理風(fēng)險(xiǎn)、數(shù)據(jù)相關(guān)倫理風(fēng)險(xiǎn)、技術(shù)相關(guān)倫理風(fēng)險(xiǎn)與應(yīng)用相關(guān)倫理風(fēng)險(xiǎn)，將其劃分為一級(jí)維度，如下頁(yè)圖1所示。在二級(jí)維度中，算法相關(guān)倫理風(fēng)險(xiǎn)分為算法偏見(jiàn)與歧視、算法不透明、算法不可問(wèn)責(zé)與算法濫用；數(shù)據(jù)相關(guān)倫理風(fēng)險(xiǎn)分為泄露隱私、數(shù)據(jù)缺失與錯(cuò)誤、數(shù)據(jù)誤用與數(shù)據(jù)濫用；技術(shù)相關(guān)倫理風(fēng)險(xiǎn)分為技術(shù)依賴與技術(shù)“拜物教”；應(yīng)用相關(guān)倫理風(fēng)險(xiǎn)分為AI生成內(nèi)容濫用、重構(gòu)師生關(guān)系、喪失自主權(quán)與無(wú)追責(zé)機(jī)制。新興技術(shù)都會(huì)經(jīng)歷從野蠻生長(zhǎng)到安全合規(guī)的過(guò)程，AIGC亦不可避免[5]。在教育領(lǐng)域AIGC的快速應(yīng)用與實(shí)踐下，需要追求道德化的教育、真實(shí)化的教育、特殊化的教育與有溫度的教育，推動(dòng)AIGC教育應(yīng)用的健康發(fā)展。

（一）算法相關(guān)倫理風(fēng)險(xiǎn)，應(yīng)塑造道德化教育

生成式AI是一種新穎的數(shù)字技術(shù)，可以為學(xué)生快速地創(chuàng)建具有新意且逼真的視覺(jué)和動(dòng)畫(huà)內(nèi)容，然而仍有可能為學(xué)生創(chuàng)作生成不準(zhǔn)確、不真實(shí)與偏見(jiàn)性的內(nèi)容[6]。在AIGC教育應(yīng)用算法相關(guān)的倫理風(fēng)險(xiǎn)中，算法技術(shù)存在著刻板印象，例如性別、種族和地域偏見(jiàn)，都有可能對(duì)學(xué)生造成持續(xù)性的風(fēng)險(xiǎn)侵害。其次，教育主體并不能對(duì)AIGC中算法模型進(jìn)行透徹地了解，存在著一定的模糊性，在經(jīng)濟(jì)和資本的操控下，教育領(lǐng)域想要使AIGC的算法具有可解釋性是一件困難的事情，忽視了教育主體的知情權(quán)。再者，如果出現(xiàn)AIGC應(yīng)用下算法相關(guān)的教育事故，目前并不能厘清事故的責(zé)任關(guān)系，將責(zé)任具體至個(gè)人。最終，算法模型很有可能被應(yīng)用于教育領(lǐng)域中不當(dāng)之處，導(dǎo)致學(xué)生權(quán)利受到威脅。

（二）數(shù)據(jù)相關(guān)倫理風(fēng)險(xiǎn)，應(yīng)構(gòu)建真實(shí)化教育

數(shù)據(jù)相關(guān)的倫理風(fēng)險(xiǎn)在人工智能賦能教育應(yīng)用中就已是常見(jiàn)，AIGC教育應(yīng)用中并不例外。其存在個(gè)人數(shù)據(jù)風(fēng)險(xiǎn)和群體數(shù)據(jù)風(fēng)險(xiǎn)之分，AIGC教育應(yīng)用時(shí)并未界定數(shù)據(jù)隱私的邊界，學(xué)生自我隱私有可能遭到泄露，缺乏精準(zhǔn)地?cái)?shù)據(jù)保護(hù)措施。其次，AIGC教育應(yīng)用時(shí)會(huì)發(fā)生生成數(shù)據(jù)不完整和不準(zhǔn)確的情況，由此引發(fā)數(shù)據(jù)的缺失與錯(cuò)誤。再次，如果AIGC將采納的學(xué)生有關(guān)數(shù)據(jù)應(yīng)用于其他地方，或者是對(duì)其不當(dāng)處理，則將違背教育初衷，數(shù)據(jù)很可能存在著欺騙性，并未對(duì)輸出數(shù)據(jù)形成事實(shí)檢查，未提供有質(zhì)量的來(lái)源保障。

（三）技術(shù)相關(guān)倫理風(fēng)險(xiǎn)，應(yīng)追求特殊化教育

此“特殊化”非日常所理解之意，將教育領(lǐng)域看作AIGC應(yīng)用的特殊領(lǐng)域，而是指在AIGC的積極推廣下，教育需保持自身特殊化的清醒意識(shí)，不能過(guò)渡依賴技術(shù)，AIGC技術(shù)的強(qiáng)大力量并不能使教育忘記以人為本的初衷，堅(jiān)持立德樹(shù)人的根本宗旨[7][8]。因此，在AIGC教育應(yīng)用下，教育主體不可盲目信奉A(yù)IGC帶來(lái)的都是好處，正如算法偏見(jiàn)與歧視、數(shù)據(jù)隱私泄露等仍需警惕。此外，AIGC熱潮下學(xué)生使用過(guò)程中可能會(huì)感受到自我行為受到技術(shù)的支配，過(guò)分依賴技術(shù)實(shí)現(xiàn)自我價(jià)值，過(guò)渡崇拜技術(shù)生成的創(chuàng)意性成果，這都是教育管理者、教師、家長(zhǎng)需要三方協(xié)調(diào)共同解決的風(fēng)險(xiǎn)，否則將會(huì)增長(zhǎng)學(xué)生惰性以及降低思考問(wèn)題的能力。

（四）應(yīng)用相關(guān)倫理風(fēng)險(xiǎn)，應(yīng)做有溫度的教育

AIGC教育應(yīng)用中除特定的算法、數(shù)據(jù)與技術(shù)相關(guān)的倫理風(fēng)險(xiǎn)，本研究將其他易出現(xiàn)的倫理風(fēng)險(xiǎn)歸納為應(yīng)用相關(guān)倫理風(fēng)險(xiǎn)。首先，學(xué)生通過(guò)AIGC生成自我所需的內(nèi)容，卻有可能出現(xiàn)擴(kuò)大數(shù)字鴻溝現(xiàn)象，尤其是不發(fā)達(dá)地區(qū)的學(xué)生，也有可能使教師的教學(xué)重心偏移，破壞學(xué)生的價(jià)值觀，過(guò)分肯定AIGC生成內(nèi)容的價(jià)值，從而破壞教育公平性。其次，在AIGC教育應(yīng)用下，師生關(guān)系是否會(huì)遭到破壞是一直值得關(guān)注的問(wèn)題，教育主體對(duì)其看法一分為二，有些學(xué)者認(rèn)為教師有可能讓渡自主權(quán)，給予學(xué)生過(guò)量的自主學(xué)習(xí)時(shí)間，造成自我地位消解，使學(xué)生情感遮蔽，進(jìn)而出現(xiàn)師生情感異化的風(fēng)險(xiǎn)[9]。再次，教育領(lǐng)域大力倡導(dǎo)個(gè)性化學(xué)習(xí)情境下，學(xué)生很有可能喪失自主權(quán)，一言一行受到技術(shù)的監(jiān)視與監(jiān)管，并沒(méi)有準(zhǔn)確劃分“人-技術(shù)”的邊界，對(duì)學(xué)生造成網(wǎng)絡(luò)欺凌，突出顯示其道德立場(chǎng)，使學(xué)生的學(xué)習(xí)認(rèn)知與行為受到限制[10]。最后，如果發(fā)生有關(guān)AIGC應(yīng)用的教育事故，并無(wú)完備的事故問(wèn)責(zé)機(jī)制，目前對(duì)其監(jiān)管僅是零散狀態(tài)，教師與教育管理者沒(méi)有及時(shí)的處理措施，造成事故原因無(wú)法追溯，更有可能發(fā)生無(wú)法將真實(shí)性的建議傳至有關(guān)部門(mén)，發(fā)生惡性循環(huán)。

三、風(fēng)險(xiǎn)性監(jiān)管：AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的治理框架

（一） 風(fēng)險(xiǎn)性監(jiān)管

風(fēng)險(xiǎn)性監(jiān)管是一種基于風(fēng)險(xiǎn)的安全管理技術(shù)和方法體系，其以風(fēng)險(xiǎn)管理理論為基本理論，為風(fēng)險(xiǎn)進(jìn)行分級(jí)，要求以風(fēng)險(xiǎn)分級(jí)水平，實(shí)施科學(xué)化的安全監(jiān)管。其強(qiáng)調(diào)“治理不應(yīng)當(dāng)以消除所有潛在的損害或更加廣泛的不利后果為目標(biāo)”，關(guān)注點(diǎn)應(yīng)當(dāng)為潛在的不利后果發(fā)生的概率以及影響。具體包括四個(gè)特征：（1）風(fēng)險(xiǎn)提供了監(jiān)管的對(duì)象；（2）風(fēng)險(xiǎn)成為了監(jiān)管的正當(dāng)依據(jù)；（3）風(fēng)險(xiǎn)存在架構(gòu)并塑造合理的監(jiān)管組織和程序；（4）風(fēng)險(xiǎn)塑造了責(zé)任間的關(guān)系。風(fēng)險(xiǎn)性監(jiān)管力求做到監(jiān)管最科學(xué)、最有效、最合理，實(shí)現(xiàn)事故風(fēng)險(xiǎn)的最小化。

風(fēng)險(xiǎn)性監(jiān)管方法在教育應(yīng)用有很多。例如，澳大利亞職業(yè)教育與培訓(xùn)機(jī)構(gòu)出臺(tái)《風(fēng)險(xiǎn)監(jiān)管框架》構(gòu)筑了五位一體與銜接貫通的風(fēng)險(xiǎn)監(jiān)管模式[11]。李樹(shù)旺立足于體育實(shí)踐，精準(zhǔn)識(shí)別與評(píng)估體育的課堂風(fēng)險(xiǎn)，從“高度優(yōu)先-日常監(jiān)控-定期評(píng)估-做好準(zhǔn)備”四種風(fēng)險(xiǎn)防控層級(jí)實(shí)現(xiàn)體育課堂風(fēng)險(xiǎn)的監(jiān)管[12]。馮磊通過(guò)基于風(fēng)險(xiǎn)監(jiān)管的注冊(cè)制詳細(xì)闡述英格蘭高等教育治理的新框架，為我國(guó)高等教育普及化和現(xiàn)代化發(fā)展提供有益借鑒[13]。與此同時(shí)，其被應(yīng)用于治理在教育領(lǐng)域的倫理風(fēng)險(xiǎn)也很廣泛。例如，趙磊磊提出在面對(duì)智慧校園智能升級(jí)帶來(lái)的倫理威脅時(shí)，需關(guān)注風(fēng)險(xiǎn)防范與問(wèn)責(zé)，創(chuàng)設(shè)智能校園的倫理風(fēng)險(xiǎn)監(jiān)管體系，并提出恰當(dāng)?shù)拇胧14]。劉成認(rèn)為應(yīng)對(duì)人臉識(shí)別帶來(lái)的倫理風(fēng)險(xiǎn)不僅要從應(yīng)對(duì)型治理向預(yù)見(jiàn)性與敏捷治理轉(zhuǎn)變，更需通過(guò)風(fēng)險(xiǎn)監(jiān)管與技術(shù)創(chuàng)新疊加發(fā)力，提高人臉識(shí)別的信息利用率[15]。

（二）基于風(fēng)險(xiǎn)性監(jiān)管的治理框架

由于AIGC技術(shù)的獨(dú)特性與新穎性，倫理風(fēng)險(xiǎn)的特殊性與難控性，本文依據(jù)風(fēng)險(xiǎn)性監(jiān)管的應(yīng)用流程制定了AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的三層七步治理框架，分別為“歸納-運(yùn)行-分級(jí)”三層治理，包括明確的治理目標(biāo)、了解已有治理依據(jù)、構(gòu)建監(jiān)管模型并編碼、實(shí)現(xiàn)風(fēng)險(xiǎn)分級(jí)、制定分級(jí)監(jiān)管對(duì)策、實(shí)施基于風(fēng)險(xiǎn)水平的監(jiān)管措施與實(shí)現(xiàn)風(fēng)險(xiǎn)可接受狀態(tài)或達(dá)到治理目標(biāo)七個(gè)步驟，如圖2所示。在歸納層，根據(jù)發(fā)現(xiàn)的AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的治理目標(biāo)總結(jié)不同國(guó)家頒布的權(quán)威性法案或其他具有權(quán)威性和代表性的相關(guān)措施；在運(yùn)行層，構(gòu)建針對(duì)AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的監(jiān)管模型，結(jié)合倫理風(fēng)險(xiǎn)的治理依據(jù)進(jìn)行詳細(xì)的編碼，從而得出倫理風(fēng)險(xiǎn)的不同編碼情況；在分級(jí)層，根據(jù)編碼情況，實(shí)現(xiàn)倫理風(fēng)險(xiǎn)的級(jí)別劃分，制定分級(jí)監(jiān)管對(duì)策和實(shí)施基于風(fēng)險(xiǎn)水平的監(jiān)管措施，最終達(dá)到實(shí)現(xiàn)風(fēng)險(xiǎn)可接受狀態(tài)或達(dá)到治理目標(biāo)。

基于此，針對(duì)前文所述的四類AIGC教育應(yīng)用倫理，將從“歸納-運(yùn)行-分級(jí)”的順序?qū)IGC教育應(yīng)用場(chǎng)景的倫理風(fēng)險(xiǎn)進(jìn)行詳細(xì)地劃定，以監(jiān)管視角來(lái)衡量其效能，爭(zhēng)取在AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)發(fā)生之前找尋最合理可行原則，降低教育事故的風(fēng)險(xiǎn)發(fā)生率。

四、歸納AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的治理依據(jù)

在明晰AIGC教育應(yīng)用的倫理風(fēng)險(xiǎn)后，通過(guò)對(duì)AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)相關(guān)的治理機(jī)制與法案等進(jìn)行統(tǒng)計(jì)與歸納，得出了歐盟、美國(guó)、英國(guó)、聯(lián)合國(guó)教科文組織四個(gè)具有代表性的國(guó)家和組織與我國(guó)本土的治理依據(jù)，如表1所示。從整體上看，目前每類倫理風(fēng)險(xiǎn)都能有相應(yīng)治理的參考之處，關(guān)于算法偏見(jiàn)與歧視和算法不透明的涉及個(gè)數(shù)最多，均為10個(gè)，關(guān)于數(shù)據(jù)缺失與錯(cuò)誤、技術(shù)依賴和重構(gòu)師生關(guān)系的涉及個(gè)數(shù)最少，均為1個(gè)。

共歸納總結(jié)出21個(gè)倫理風(fēng)險(xiǎn)的治理依據(jù)：（1）《數(shù)字服務(wù)法（Digital Services Act）》（歐盟）、（2）《算法正義和在線平臺(tái)透明度法案（Algorithmic Justice and Internet Platform Transparency Act）》（美國(guó)）、（3）《人工智能倫理建議書(shū)（Recommendation on the Ethics of Artificial Intelligence）》（聯(lián)合國(guó)教科文組織）、（4）《新一代人工智能倫理規(guī)范》、（5）《可信賴的人工智能道德準(zhǔn)則（Ethics Guidelines For Trustworthy AI）》（歐盟）、（6）《AI法案（The Artificial Intelligence Act）》（歐盟）、（7）《AI白皮書(shū)（White Paper On Artificial Intelligence）》、（8）《算法問(wèn)責(zé)法案（Algorithmic Accountability Act）》（美國(guó)）、（9）《中華人民共和國(guó)個(gè)人信息保護(hù)法》、（10）《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》、（11）《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、（12）《國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃（The National Artificial Intelligence Research and Development Strategic Plan）》（美國(guó)）、（13）《人工智能應(yīng)用監(jiān)管指南（Guidance for Regulation of Artificial Intelligence Applications）》（美國(guó)）、（14）《通用數(shù)據(jù)保護(hù)條例（General Data Protection Regulation， GDPR）》、（15）《民法典》、（16）《數(shù)據(jù)出境安全評(píng)估辦法》、（17）《人工智能深度合成圖像系統(tǒng)技術(shù)規(guī)范》、（18）《信息安全技術(shù)機(jī)器學(xué)習(xí)算法安全評(píng)估規(guī)范（征求意見(jiàn)稿）》、（19）《國(guó)家人工智能戰(zhàn)略（National AI Strategy）》（英國(guó)）、（20）《中華人民共和國(guó)數(shù)據(jù)安全法》、（21）《生成式人工智能服務(wù)管理辦法》（征求意見(jiàn)稿），在表格中用編號(hào)（1）—（21）來(lái)表示。

具體來(lái)說(shuō)，算法相關(guān)的倫理風(fēng)險(xiǎn)下，在算法偏見(jiàn)與歧視中，《數(shù)字服務(wù)法》規(guī)定大型的在線平臺(tái)有義務(wù)采取一定的措施，確保它們所使用的算法系統(tǒng)設(shè)計(jì)不會(huì)在平臺(tái)用戶之間造成歧視；《可信賴的人工智能道德準(zhǔn)則》《AI法案》《AI白皮書(shū)》《人工智能應(yīng)用監(jiān)管指南》中提到人工智能需遵守非歧視性與公平性原則，在教育領(lǐng)域亦是如此；在算法不透明中，《算法正義和在線平臺(tái)透明度法案》中指出在線平臺(tái)對(duì)算法使用和處理記錄存在保留的義務(wù)，在線平臺(tái)應(yīng)當(dāng)保留5年以備審查，《中華人民共和國(guó)個(gè)人信息保護(hù)法》提出保證信息處理的透明度和結(jié)果公平公正；在算法不可問(wèn)責(zé)中，《算法正義和在線平臺(tái)透明度法案》提及在線平臺(tái)的算法審核業(yè)務(wù)，應(yīng)當(dāng)設(shè)立在線平臺(tái)的立法、調(diào)查和執(zhí)行權(quán)，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》認(rèn)為算法推薦服務(wù)的提供者不得利用算法推薦服務(wù)形式危害國(guó)家安全和社會(huì)公共利益、擾亂社會(huì)秩序、侵犯他人合法權(quán)益等活動(dòng)；在算法濫用中，《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》明確指出需防范算法濫用的風(fēng)險(xiǎn)。

數(shù)據(jù)相關(guān)的倫理風(fēng)險(xiǎn)下，在泄露隱私中，《通用數(shù)據(jù)保護(hù)條例》認(rèn)為個(gè)人敏感數(shù)據(jù)必須經(jīng)過(guò)個(gè)人同意后才能使用，數(shù)據(jù)主體具有知情權(quán)、訪問(wèn)權(quán)、更正權(quán)和刪除權(quán)等，《AI法案》中提及不能通過(guò)暴露特定人群的年齡、身體或心理殘疾等來(lái)扭曲人的行為，導(dǎo)致受到身體或心理的傷害，這對(duì)學(xué)生來(lái)說(shuō)十分重要；在數(shù)據(jù)誤用與濫用中，《中華人民共和國(guó)個(gè)人信息保護(hù)法》提出需要遵循告知、同意的原則后才能使用數(shù)據(jù)，并且個(gè)人處理者應(yīng)當(dāng)對(duì)其個(gè)人信息處理活動(dòng)負(fù)責(zé)，《可信賴的人工智能道德準(zhǔn)則》發(fā)出必須確保人工智能技術(shù)不會(huì)被惡意使用的要求來(lái)約束數(shù)據(jù)的誤用與濫用情況，《生成式人工智能服務(wù)管理辦法》（征求意見(jiàn)稿）表示用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)應(yīng)能保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性和多樣性，并且不含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容。

技術(shù)相關(guān)的倫理風(fēng)險(xiǎn)下，《新一代人工智能倫理規(guī)范》中發(fā)出必須堅(jiān)持“以人為本”的準(zhǔn)則，更好地接受倫理培訓(xùn)，加強(qiáng)人工智能應(yīng)用質(zhì)量的監(jiān)控；《國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃》提出仍需持續(xù)性認(rèn)識(shí)國(guó)家對(duì)人工智能研發(fā)勞動(dòng)力的需求，不能一味崇拜技術(shù)。

應(yīng)用相關(guān)的倫理風(fēng)險(xiǎn)下，在AI生成內(nèi)容濫用中，《人工智能倫理建議書(shū)》描述既需向所有國(guó)家的公眾提供充分的人工智能素養(yǎng)教育，避免出現(xiàn)數(shù)字鴻溝現(xiàn)象，也需要促進(jìn)人工智能的多樣性和公平性，從而促進(jìn)教育公平，《國(guó)家人工智能戰(zhàn)略》中指出使用人工智能時(shí)應(yīng)堅(jiān)持多樣性和包容性，不可濫用；在重構(gòu)師生關(guān)系中，《人工智能倫理建議書(shū)》堅(jiān)持以人為本，提出應(yīng)提前了解人工智能對(duì)人權(quán)和權(quán)利獲取的影響；在喪失自主權(quán)中，《可信賴的人工智能道德準(zhǔn)則》也明確指出需堅(jiān)持人的自主性原則；在無(wú)追責(zé)機(jī)制中，《AI白皮書(shū)》中認(rèn)為需要明確的安全條款來(lái)應(yīng)對(duì)這些風(fēng)險(xiǎn)，《國(guó)家人工智能戰(zhàn)略》中提出短期、中期和長(zhǎng)期的人工智能管理戰(zhàn)略。

五、構(gòu)建與運(yùn)行AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的監(jiān)管模型

（一）構(gòu)建監(jiān)管模型的依據(jù)

風(fēng)險(xiǎn)性監(jiān)管視角下，構(gòu)建AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的“5W1H”模型，以此模型展現(xiàn)AIGC倫理風(fēng)險(xiǎn)的監(jiān)管運(yùn)行規(guī)律，如圖3所示。其中“5W1H”包括：（1）Why-AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)監(jiān)管的理論基礎(chǔ)，保障科學(xué)性運(yùn)行，具體包括其本質(zhì)是什么、規(guī)律是什么與依據(jù)是什么，編碼為A，前文所述AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)現(xiàn)有的治理依據(jù)則為理論基礎(chǔ)。（2）Who-AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)監(jiān)管的主體，保障合理性運(yùn)行，具體包括讓誰(shuí)監(jiān)管、誰(shuí)來(lái)監(jiān)管、監(jiān)管的主體是誰(shuí)，編碼為B。（3）What-AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)監(jiān)管的內(nèi)容，保障系統(tǒng)性運(yùn)行，具體包括監(jiān)管的客體是什么，編碼為C。（4）Where-AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)監(jiān)管的對(duì)象，保障針對(duì)性運(yùn)行，具體包括監(jiān)管點(diǎn)是什么，編碼為D。（5）When-AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)監(jiān)管的時(shí)機(jī)，保障及時(shí)性運(yùn)行，具體包括監(jiān)管對(duì)象的體系和類型，編碼為E。（6）How toAIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的監(jiān)管方法，保障有效性運(yùn)行，具體包括如何實(shí)施監(jiān)管，監(jiān)管的策略和方法，編碼為F。

（二）監(jiān)管模型的可供選擇項(xiàng)

在“5W1H”模型中，本文在每個(gè)維度中為四類AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)提供了可供選擇的項(xiàng)。其中，Why包括較多依據(jù)、中等依據(jù)、較少依據(jù)三種類型，編碼為A1、A2、A3；Who包括國(guó)家、學(xué)校、教師、學(xué)生、家長(zhǎng)、企業(yè)、社會(huì)公眾七種類型，編碼為B1、B2、B3、B4、B5、B6、B7；What包括點(diǎn)（全員監(jiān)管）、線（全過(guò)程監(jiān)管）、面（全面監(jiān)管）三種類型，編碼為C1、C2、C3；Where包括頒布權(quán)威性機(jī)制或法案、學(xué)校主體通力合作、提升學(xué)校主體的倫理素養(yǎng)、學(xué)校管理者實(shí)行監(jiān)督、教師具備敏銳的觀察與發(fā)現(xiàn)能力、學(xué)生具備勇于提出質(zhì)疑之處的意識(shí)、家長(zhǎng)實(shí)行真實(shí)監(jiān)督與匯報(bào)、企業(yè)具備倫理素養(yǎng)與自我約束力、社會(huì)公眾加快輔助解決的速度九種類型，編碼為D1、D2、D3、D4、D5、D6、D7、D8、D9；When包括及時(shí)、適時(shí)、實(shí)時(shí)、隨時(shí)六種類型，編碼為E1、E2、E3、E4；How to包括控制倫理風(fēng)險(xiǎn)、轉(zhuǎn)移倫理風(fēng)險(xiǎn)、降低倫理風(fēng)險(xiǎn)、消除倫理風(fēng)險(xiǎn)、預(yù)防倫理風(fēng)險(xiǎn)、規(guī)避倫理風(fēng)險(xiǎn)六種類型，編碼為F1、F2、F3、F4、F5、F6。

（三）AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的運(yùn)行模式

在AIGC教育應(yīng)用的四類倫理風(fēng)險(xiǎn)中，本文根據(jù)上文編碼，將其進(jìn)行詳細(xì)的劃分界定，共計(jì)14項(xiàng)，如表2所示。第一，在Why-理論基礎(chǔ)中，所有項(xiàng)均為1項(xiàng)，將已有7—10個(gè)治理依據(jù)劃分為A1，將已有4—6個(gè)治理依據(jù)劃分為A2，將已有1—3個(gè)治理依據(jù)劃分為A3，算法偏見(jiàn)與歧視、算法不透明的治理依據(jù)數(shù)量最多為10個(gè)；第二，在Who-監(jiān)管主體中，算法偏見(jiàn)與歧視和技術(shù)依賴的編碼數(shù)最多，為7個(gè)，算法不透明和數(shù)據(jù)缺失與錯(cuò)誤的編碼數(shù)最少，為2個(gè)；第三，在What-監(jiān)管內(nèi)容中，算法偏見(jiàn)與歧視的編碼數(shù)最多，為3個(gè)，算法濫用、數(shù)據(jù)缺失與錯(cuò)誤、技術(shù)“拜物教”、喪失自主權(quán)編碼數(shù)最少，為1個(gè)；第四，在Where-監(jiān)管對(duì)象中，無(wú)追責(zé)機(jī)制的編碼數(shù)最多，為9個(gè)，算法濫用的編碼數(shù)最少，為4個(gè)；第四，在When-監(jiān)管時(shí)機(jī)中，算法不透明、算法濫用、泄露隱私的編碼數(shù)最多，為3個(gè)，其余均為兩個(gè)編碼數(shù)；第五，在How to-監(jiān)管方式中，泄露隱私的編碼數(shù)最多，為5個(gè)，數(shù)據(jù)誤用、數(shù)據(jù)濫用、技術(shù)“拜物教”、技術(shù)依賴等8項(xiàng)的編碼數(shù)均最少，為3個(gè)。

六、劃分AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的級(jí)別維度

本文將根據(jù)14項(xiàng)AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)在“5W1H”模型中每類監(jiān)管的編碼數(shù)進(jìn)行等級(jí)的劃分。在Why中，編碼為A1記為多，編碼為A3記為少；在Who中，編碼數(shù)為4—7記為多，編碼數(shù)為1—3記為少；在What中，編碼數(shù)為2—3記為多，編碼數(shù)為1記為少；在Where中，編碼數(shù)為5—9記為多，編碼數(shù)為1—4記為少；在When中，編碼數(shù)為3—4記為多，編碼數(shù)為2記為少；在How to中，編碼數(shù)為4—6記為多，編碼數(shù)為1—3記為少。從14項(xiàng)倫理風(fēng)險(xiǎn)的橫向劃分來(lái)看，如下頁(yè)圖4所示。最終根據(jù)每類監(jiān)管為“多”與“少”的次數(shù)將其進(jìn)行AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的分級(jí)。

在定級(jí)中，將六類監(jiān)管中出現(xiàn)“多”的次數(shù)為4—6次的定級(jí)為高倫理風(fēng)險(xiǎn)，也稱為不可接受風(fēng)險(xiǎn)；出現(xiàn)“少”的次數(shù)為4—6次的定級(jí)為低倫理風(fēng)險(xiǎn)，也稱為有限接受風(fēng)險(xiǎn)；其余倫理風(fēng)險(xiǎn)定級(jí)為中倫理風(fēng)險(xiǎn)，也稱為有限接受風(fēng)險(xiǎn)；由此歸納得出14項(xiàng)AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的定級(jí)劃分圖譜，它們具有不同的監(jiān)管內(nèi)容、級(jí)別、方式、狀態(tài)和策略，如下頁(yè)表3所示。例如，算法歧視與偏見(jiàn)、算法透明、算法不可問(wèn)責(zé)、泄露隱私與數(shù)據(jù)濫用五種倫理風(fēng)險(xiǎn)需要高級(jí)別監(jiān)管（一級(jí)預(yù)警），強(qiáng)力的監(jiān)管方式，強(qiáng)制終止和全面檢查的狀態(tài)以及采用否決策略；算法濫用、數(shù)據(jù)誤用、數(shù)據(jù)濫用、技術(shù)依賴等七種倫理風(fēng)險(xiǎn)需要中等級(jí)別監(jiān)管（二級(jí)預(yù)警），較強(qiáng)的監(jiān)管方式，高頻率檢查的監(jiān)管狀態(tài)以及采用警告的監(jiān)管策略；喪失自主權(quán)、技術(shù)“拜物教”、數(shù)據(jù)缺失與錯(cuò)誤需要一般級(jí)別監(jiān)管（三級(jí)預(yù)警），中等的監(jiān)管方式，局部限制與有限檢查的監(jiān)管狀態(tài)以及采用關(guān)注的監(jiān)管策略。通過(guò)制定分級(jí)監(jiān)管對(duì)策和實(shí)施基于風(fēng)險(xiǎn)水平的監(jiān)管措施，最終才能達(dá)到對(duì)AIGC教育應(yīng)用的每類倫理風(fēng)險(xiǎn)的有效治理。

七、結(jié)論與問(wèn)題討論

在教育領(lǐng)域，AIGC將催生全新的體系和帶來(lái)無(wú)窮無(wú)盡的潛在應(yīng)用。學(xué)生可以利用生成式AI創(chuàng)建令人興奮的新成果，從而更好地創(chuàng)造出引人入勝的互動(dòng)學(xué)習(xí)體驗(yàn)，促進(jìn)學(xué)生的成長(zhǎng)。盡管AIGC在改進(jìn)教育實(shí)踐方面具有強(qiáng)大的潛力，但也可能帶來(lái)一些潛在的挑戰(zhàn)，例如學(xué)習(xí)材料中摻雜的算法偏見(jiàn)、虛假或不準(zhǔn)確的信息、濫用生成作品獲得利益等。本文從風(fēng)險(xiǎn)性監(jiān)管這一獨(dú)特視角，爭(zhēng)取在倫理風(fēng)險(xiǎn)發(fā)生之前對(duì)其進(jìn)行有效評(píng)估：剖析了AIGC帶來(lái)的四類倫理風(fēng)險(xiǎn)，基于風(fēng)險(xiǎn)性監(jiān)管制定了三層七步的治理框架，分別包括歸納、運(yùn)行與分級(jí)三層。在歸納中，總結(jié)目前對(duì)AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的已有治理依據(jù)；在運(yùn)行中，構(gòu)建AIGC教育應(yīng)用倫理風(fēng)險(xiǎn)的“5W1H”監(jiān)管模型并進(jìn)行編碼；在分級(jí)中，實(shí)施對(duì)四類倫理風(fēng)險(xiǎn)的高、中、低級(jí)別劃分，從而以不同的解決措施對(duì)其處理。通過(guò)結(jié)構(gòu)化的監(jiān)管流程，為面對(duì)未來(lái)生成式AI在教育領(lǐng)域引發(fā)的倫理風(fēng)險(xiǎn)，提供實(shí)質(zhì)性與持續(xù)性幫助。

參考文獻(xiàn)：

[1] 王文禮，龍顯芝.推進(jìn)教育4.0建設(shè)：實(shí)現(xiàn)以人為本的復(fù)蘇[J].開(kāi)放教育研究，2023，29（2）：36-45.

[2] 王佑鎂，王旦等.“阿拉丁神燈”還是“潘多拉魔盒”：ChatGPT教育應(yīng)用的潛能與風(fēng)險(xiǎn)[J].現(xiàn)代遠(yuǎn)程教育研究，2023，35（2）：48-56.

[3] 何哲，曾潤(rùn)喜等.ChatGPT等新一代人工智能技術(shù)的社會(huì)影響及其治理[J].電子政務(wù)，2023，244（4）：2-24.

[4] 楊欣.基于生成式人工智能的教育轉(zhuǎn)型圖景——ChatGPT究竟對(duì)教育意味著什么[J].中國(guó)電化教育，2023，（5）：1-8+14.

[5] 黃正艷，鄭原斌等.安全合規(guī)多標(biāo)準(zhǔn)管理體系融合與實(shí)踐[J].信息技術(shù)與標(biāo)準(zhǔn)化，2022，（5）：199-205+212.

[6] Dwivedi Y K，Kshetri N，et al.“So what if ChatGPT wrote it ” Multidisciplinary perspectives on opportunities， challenges and implications of generative conversational AI for research， practice and policy [J].International Journal of Information Management，2023，71：102642.

[7] 王鑒，姜紀(jì)壘.中國(guó)共產(chǎn)黨立德樹(shù)人教育思想的百年歷程與基本經(jīng)驗(yàn)[J].教育研究，2021，42（7）：16-26.

[8] 楊欣.基于生成式人工智能的教育轉(zhuǎn)型圖景——ChatGPT究竟對(duì)教育意味著什么[J].中國(guó)電化教育，2023，（5）：1-8+14.

[9] 吳軍其，吳飛燕等.ChatGPT賦能教師專業(yè)發(fā)展：機(jī)遇、挑戰(zhàn)和路徑[J].中國(guó)電化教育，2023，（5）：15-23+33.

[10] 馮建軍.我們?nèi)绾慰创鼵hatGPT對(duì)教育的挑戰(zhàn)[J].中國(guó)電化教育，2023，（7）：1-6+13.

[11] 鄭偉，張嘉禹.澳大利亞職業(yè)教育與培訓(xùn)機(jī)構(gòu)的風(fēng)險(xiǎn)防控與監(jiān)管——基于《風(fēng)險(xiǎn)監(jiān)管框架》的分析[J].現(xiàn)代教育論叢，2022，248（6）：75-83+111-112.

[12] 李樹(shù)旺，李京律，梁媛等.高校體育課堂風(fēng)險(xiǎn)識(shí)別與評(píng)估研究[J].沈陽(yáng)體育學(xué)院學(xué)報(bào)，2021，40（6）：25-33.

[13] 馮磊.基于風(fēng)險(xiǎn)監(jiān)管的注冊(cè)制——英格蘭高等教育治理新框架的構(gòu)成與特征[J].外國(guó)教育研究，2021，48（10）：69-84.

[14] 趙磊磊，蔣馨培等.困境與路徑：人工智能時(shí)代學(xué)校教育競(jìng)爭(zhēng)力發(fā)展研究[J].杭州師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2022，44（5）：70-77.

[15] 劉成，張麗.“刷臉”治理的應(yīng)用場(chǎng)景與風(fēng)險(xiǎn)防范[J].學(xué)術(shù)交流，2021，328 （7）：151-162.

作者簡(jiǎn)介：

王佑鎂：教授，博士，研究方向?yàn)橹腔劢逃?、人工智能教育、?shù)字閱讀。

王旦：在讀碩士，研究方向?yàn)槿斯ぶ悄芙逃?/p>

王海潔：在讀碩士，研究方向?yàn)槿斯ぶ悄芙逃?/p>

柳晨晨：副教授，博士，研究方向?yàn)槿斯ぶ悄芙逃?shù)字化學(xué)習(xí)。

Research on Risk Governance of AIGC Educational Application Ethics Based on Risk Regulation

Wang Youmei， Wang Dan， Wang Haijie， Liu Chenchen

（Research Center for Big Data and Smart Education， Wenzhou University， Wenzhou 325035， Zhejiang）

Abstract： ChatGPT， which bursts out of the circle， has brought a major breakthrough in the development of AIGC， and also made the field of education move from universal to individuality， from single to diversity， from fragmentation to integration， and AIenabled education enter a new stage， and then also face a series of ethical risks brought by AIGC， which arouses great concern among educators and requires a risky regulatory perspective to deal with the ethical application of AIGC education. Risks. Firstly， the four types of ethical risks of AIGC educational applications are summarized from the perspective of “human-technology” interaction： algorithm-related ethical risks， data-related ethical risks， technology-related ethical risks and application-related ethical risks. Secondly， we formulate a governance framework for ethical risks of AIGC educational applications based on the risk-based regulatory process， and implement the regulation of the four types of ethical risks in the order of “generalization-operation-grading” based on the governance framework： after summarizing the existing governance basis for ethical risks， we construct the “5W1H” regulatory model is constructed after summarizing the existing ethical risk management basis， and the ethical risks are coded and graded into three categories： high， medium and low. This systematic regulatory process provides a reference for addressing the ethical risks of AIGC educational applications， and provides guidance for the ethical use of empowered education in the AIGC era to promote the healthy development of this lasting change in education.

Keywords： AIGC educational applications； ethical risk； risk-based riskiness regulation

責(zé)任編輯：趙云建