摘 要以生成式人工智能為代表的新一代人工智能教育應(yīng)用不斷涌現(xiàn)，為教育數(shù)字化轉(zhuǎn)型帶來無限可能。借鑒風(fēng)險(xiǎn)社會(huì)理論思考生成式人工智能教育應(yīng)用，生成式人工智能教育應(yīng)用悖論將是教育領(lǐng)域長期存在的現(xiàn)象，誘發(fā)倫理風(fēng)險(xiǎn)、教育失范風(fēng)險(xiǎn)、“社會(huì)-物理-信息”空間交互異化風(fēng)險(xiǎn)、個(gè)體人格情感異化風(fēng)險(xiǎn)等。相關(guān)風(fēng)險(xiǎn)可劃分為直接風(fēng)險(xiǎn)、早期風(fēng)險(xiǎn)、中期風(fēng)險(xiǎn)、長期風(fēng)險(xiǎn)四個(gè)階段，反映創(chuàng)新與傳統(tǒng)、效率與質(zhì)量、技術(shù)與道德、公平與不平等、教師與人工智能等矛盾。生成式人工智能教育應(yīng)用悖論的風(fēng)險(xiǎn)側(cè)治理是一個(gè)復(fù)雜的系統(tǒng)性問題，應(yīng)結(jié)合柔性治理理念構(gòu)建風(fēng)險(xiǎn)治理綜合防控體系，構(gòu)建生成式人工智能教育應(yīng)用風(fēng)險(xiǎn)預(yù)防體系標(biāo)準(zhǔn)，強(qiáng)化教育全場景數(shù)據(jù)監(jiān)管體系建設(shè)與數(shù)據(jù)池監(jiān)管，構(gòu)建生成式人工智能教育應(yīng)用悖論風(fēng)險(xiǎn)側(cè)預(yù)警系統(tǒng)，形成多元主體參與治理的協(xié)同聯(lián)動(dòng)機(jī)制，引導(dǎo)利益主體正確看待教育公益與市場行為。

關(guān)鍵詞生成式人工智能 風(fēng)險(xiǎn)治理 風(fēng)險(xiǎn)社會(huì) 教育人工智能 教育安全治理 人工智能倫理

一、問題提出

近來，生成式人工智能（AGI）技術(shù)不斷更新迭代，短短幾個(gè)月時(shí)間，ChatGPT已經(jīng)由第四代更新到GPT-4 Turbo，它不僅能夠有效地處理文本分類、情感分析、機(jī)器翻譯等任務(wù)，還能生成新聞報(bào)道、故事、散文等。由于生成式人工智能神經(jīng)網(wǎng)絡(luò)的“黑箱”現(xiàn)象，國內(nèi)外學(xué)者強(qiáng)烈呼吁暫停生成式人工智能的研發(fā)，建議先開展生成式人工智能潛在風(fēng)險(xiǎn)和可能引發(fā)的危機(jī)的研究，待找到合適的解決辦法或?qū)Σ吆笤倩谙嚓P(guān)準(zhǔn)則開展生成式人工智能研發(fā)。我國高度重視生成式人工智能的規(guī)范使用。2021年，科技部國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》，提出增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚?、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項(xiàng)基本倫理要求。（國家新一代人工智能治理專業(yè)委員會(huì)：《新一代人工智能倫理規(guī)范》， https：//www.most.gov.cn/kjbgz/202109/t20210926_177063.html。）2023年，國家人工智能標(biāo)準(zhǔn)化總體組、全國信標(biāo)委人工智能分委會(huì)發(fā)布《人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）》，對人工智能倫理風(fēng)險(xiǎn)進(jìn)行了界定，針對倫理風(fēng)險(xiǎn)評估、治理技術(shù)、治理標(biāo)準(zhǔn)進(jìn)行了闡釋，基于人工智能的敏捷治理原則，圍繞人工智能全生命周期，重點(diǎn)從數(shù)據(jù)、算法、系統(tǒng)（決策方式）、人為因素等4個(gè)維度，識別人工智能倫理風(fēng)險(xiǎn)來源。這些文件均為開展生成式人工智能教育應(yīng)用風(fēng)險(xiǎn)治理提供了參考依據(jù)和思路指引。

很多組織和學(xué)者針對生成式人工智能的風(fēng)險(xiǎn)治理進(jìn)行了研討，嘗試提出一些阻斷生成式人工智能教育風(fēng)險(xiǎn)的基本方法或策略。針對生成式人工智能的教育與安全治理，聯(lián)合國教科文組織于2023年9月發(fā)布《生成式人工智能教育和研究應(yīng)用指南》，旨在支持各國針對教育領(lǐng)域開展即時(shí)行動(dòng)、規(guī)劃長期政策和探索生成式人工智能教育應(yīng)用落地，確保在教育服務(wù)過程中圍繞“以人為本”的理念采用生成式人工智能。（“Guidance for generative AI in education and research： UNESCO·2023”，https：//www.unesco.org/en/articles/guidance-generative-ai-education-and-research.）但實(shí)際上，生成式人工智能教育應(yīng)用話題的指向是教育的系統(tǒng)性變革。當(dāng)前，教育已經(jīng)步入智能時(shí)代，在“師-

生-機(jī)”三元結(jié)構(gòu)的教學(xué)場景中，生成式人工智能將分別在“教-學(xué)-管-評-測-練-輔”等環(huán)節(jié)顛覆現(xiàn)有的學(xué)校教育布局。技術(shù)具有“雙刃劍”屬性，生成式人工智能教育可能存在風(fēng)險(xiǎn)的認(rèn)知一直徘徊于人們的思維中。因此，研判、識別教育應(yīng)用風(fēng)險(xiǎn)，避免給教育生態(tài)系統(tǒng)帶來破壞性傷害甚至更沉重的打擊，需要揭示生成式人工智能教育應(yīng)用風(fēng)險(xiǎn)的生成邏輯、發(fā)生線索、傳遞過程、極限可能等，進(jìn)而有針對性地提出治理路徑，制定預(yù)案促進(jìn)風(fēng)險(xiǎn)化解。

若我們站在更宏大的社會(huì)背景下看待生成式人工智能教育應(yīng)用這一命題，可預(yù)見到生成式人工智能教育應(yīng)用帶來的影響不僅存在于教育系統(tǒng)內(nèi)部，還會(huì)外溢到社會(huì)層面，在聯(lián)通的社會(huì)系統(tǒng)中形成更為復(fù)雜的社會(huì)風(fēng)險(xiǎn)。教育的核心在于人才培養(yǎng)，社會(huì)的核心在于人的聯(lián)系與活動(dòng)，二者的關(guān)系可以通過社會(huì)風(fēng)險(xiǎn)理論來考察。一方面，應(yīng)正視生成式人工智能教育應(yīng)用的價(jià)值與潛力；另一方面，坦承技術(shù)存在引發(fā)教育風(fēng)險(xiǎn)的弊端。在這個(gè)邏輯框架下，生成式人工智能教育應(yīng)用出現(xiàn)悖論。我們既要妥善運(yùn)用生成式人工智能開展各類教育活動(dòng)，甚至促動(dòng)教育系統(tǒng)發(fā)生顛覆性變革；又要遏制潛在的應(yīng)用風(fēng)險(xiǎn)，確保整個(gè)教育系統(tǒng)穩(wěn)定可靠。通過治理，推動(dòng)生成式人工智能助力教育數(shù)字化深度轉(zhuǎn)型，賦能教育的系統(tǒng)性變革。

二、生成邏輯：生成式人工智能教育應(yīng)用悖論

（一）風(fēng)險(xiǎn)社會(huì)視角下生成式人工智能教育應(yīng)用悖論

“風(fēng)險(xiǎn)社會(huì)”最早是由烏爾里?！へ惪嗽?986年出版的《風(fēng)險(xiǎn)社會(huì)》中提出的。貝克系統(tǒng)性地闡述了風(fēng)險(xiǎn)社會(huì)的概念和形成機(jī)理，他提出風(fēng)險(xiǎn)是人類活動(dòng)的產(chǎn)物，與人的活動(dòng)和創(chuàng)造緊密聯(lián)系，控制人類活動(dòng)的未來結(jié)果可以實(shí)現(xiàn)控制預(yù)期不可控的事情。（[德]烏爾里希·貝克：《風(fēng)險(xiǎn)社會(huì)》，何博聞譯，譯林出版社，2004年，第19頁。）在特定文化、社會(huì)制度條件下，人類進(jìn)行現(xiàn)代化創(chuàng)造性活動(dòng)將產(chǎn)生可預(yù)見的廣泛社會(huì)關(guān)聯(lián)、影響或傷害，風(fēng)險(xiǎn)社會(huì)可以理解為可控情況下現(xiàn)代化進(jìn)程的副產(chǎn)品，并不具有必然性。（[德]烏爾里希·貝克、郗衛(wèi)東：《風(fēng)險(xiǎn)社會(huì)再思考》，《馬克思主義與現(xiàn)實(shí)》，2002年第4期。 ）隨著社會(huì)物質(zhì)文化的快速發(fā)展和科技的快速迭代，教育領(lǐng)域的各類活動(dòng)逐漸注重對科技的使用，運(yùn)用教育技術(shù)支持各類教學(xué)活動(dòng)，教育數(shù)字化已經(jīng)成為教育現(xiàn)代化進(jìn)程中的標(biāo)志性特征之一。（袁振國：《教育數(shù)字化轉(zhuǎn)型：轉(zhuǎn)什么，怎么轉(zhuǎn)》，《華東師范大學(xué)學(xué)報(bào)（教育科學(xué)版）》， 2023年第3期。）生成式人工智能影響我國教育數(shù)字化轉(zhuǎn)型已是必然的趨勢，隨著人工智能技術(shù)的可靠性不斷提高，功能逐漸完備，教育領(lǐng)域正謀求運(yùn)用人工智能實(shí)現(xiàn)顛覆式變革，更好地建設(shè)教育強(qiáng)國。（黃斌、云如先：《教育發(fā)展何以強(qiáng)國——基于1960—2020年認(rèn)知技能國際可比數(shù)據(jù)的實(shí)證分析》，《教育研究》，2023年第10期。）因此，可以借助風(fēng)險(xiǎn)社會(huì)理論框架來思考生成式人工智能教育應(yīng)用的未來風(fēng)險(xiǎn)。

借鑒風(fēng)險(xiǎn)社會(huì)理論思考生成式人工智能的教育應(yīng)用，我們默認(rèn)這項(xiàng)技術(shù)會(huì)在教育領(lǐng)域發(fā)揮重大作用，加速推動(dòng)教育現(xiàn)代化進(jìn)程，甚至實(shí)現(xiàn)教育顛覆式變革，同時(shí)也認(rèn)為這種技術(shù)可能會(huì)在未來某一個(gè)時(shí)刻給教育領(lǐng)域帶來一定的風(fēng)險(xiǎn)，甚至造成系統(tǒng)性的災(zāi)難?；谶@種預(yù)期判斷，我們必然要采取一些手段來遏制風(fēng)險(xiǎn)，不斷剖析生成式人工智能教育應(yīng)用的方向、可能和價(jià)值，同時(shí)分別從技術(shù)本身、應(yīng)用主體、教育系統(tǒng)內(nèi)部結(jié)構(gòu)、教與學(xué)承載的知識內(nèi)容等方面考察風(fēng)險(xiǎn)的可能與類型，在防止風(fēng)險(xiǎn)的同時(shí)保證各教育主體善于運(yùn)用生成式人工智能，實(shí)現(xiàn)其教育目標(biāo)。因此，基于風(fēng)險(xiǎn)社會(huì)理論，生成式人工智能教育應(yīng)用悖論就是指既要用好生成式人工智能，服務(wù)教育活動(dòng)，又要客觀防范和應(yīng)對生成式人工智能可能引發(fā)的教育風(fēng)險(xiǎn)。

生成式人工智能教育應(yīng)用悖論將是教育領(lǐng)域長期存在的現(xiàn)象?，F(xiàn)有教育形態(tài)與生成式人工智能即將融入的新型教育形態(tài)將形成“傳統(tǒng)-未來”的遞進(jìn)關(guān)系，進(jìn)而衍生出教育公平、隱私保護(hù)、數(shù)據(jù)安全、人類教師角色、技術(shù)可靠性、倫理等方面的問題，預(yù)示著各種潛在的風(fēng)險(xiǎn)。我們需要采取行動(dòng)應(yīng)對生成式人工智能教育應(yīng)用的諸多風(fēng)險(xiǎn)挑戰(zhàn)。

（二）生成式人工智能教育應(yīng)用悖論的生成邏輯

1.內(nèi)源性生成邏輯

生成式人工智能教育應(yīng)用悖論有可能帶來種類繁多的風(fēng)險(xiǎn)挑戰(zhàn)，為了規(guī)避這些風(fēng)險(xiǎn)，認(rèn)清風(fēng)險(xiǎn)的生成邏輯，有必要從技術(shù)本身和教育內(nèi)部特性兩方面進(jìn)行探究。生成式人工智能的技術(shù)性質(zhì)決定了它可能具有風(fēng)險(xiǎn)傾向，如算法偏見、參數(shù)歧視、技術(shù)不穩(wěn)定等。從教育內(nèi)部特性來看，生成式人工智能的運(yùn)用有可能引發(fā)主體間關(guān)系、教育要素結(jié)構(gòu)、教育資源供給、教育制度適配等方面的風(fēng)險(xiǎn)，如數(shù)據(jù)確權(quán)不當(dāng)、隱私泄露、認(rèn)知偏差、道德失范等。

（1）大模型技術(shù)自限性

當(dāng)前，生成式人工智能已經(jīng)商業(yè)化，在機(jī)器翻譯、文獻(xiàn)資料整理、人機(jī)對話、數(shù)據(jù)分析等方面有著得天獨(dú)厚的優(yōu)勢。教育領(lǐng)域也涌現(xiàn)出許多專門的生成式人工智能應(yīng)用，例如MathGPT、Hi Echo、“子曰”等依托教學(xué)大模型的生成式人工智能。隨著教育系統(tǒng)性變革的有序推進(jìn)，生成式人工智能教育應(yīng)用逐漸走向縱深。從生成式人工智能技術(shù)本身來看，引發(fā)的教育應(yīng)用風(fēng)險(xiǎn)主要來自大模型設(shè)計(jì)、參數(shù)獲取和模型訓(xùn)練成熟度等方面。

首先，大模型設(shè)計(jì)方面一直備受關(guān)注。ChatGPT采用Transformer模型架構(gòu)，編碼器和解碼器不再采用RNN結(jié)構(gòu)，而是使用編碼器堆棧和解碼器堆棧。編碼器由Self-attention和前饋神經(jīng)網(wǎng)絡(luò)組成，每層之間都有殘差連接。解碼器除了Self-attention和前饋神經(jīng)網(wǎng)絡(luò)，還加入了編碼器-解碼器注意力模塊，每層之間同樣有殘差連接。這樣的模型架構(gòu)優(yōu)點(diǎn)是訓(xùn)練速度快、可微調(diào)、預(yù)訓(xùn)練、前后內(nèi)容關(guān)聯(lián)性強(qiáng)，但缺點(diǎn)也很突出，數(shù)據(jù)要求高、可解釋性差、對較復(fù)雜長距離的關(guān)系型語句學(xué)習(xí)能力差，等等。從模型技術(shù)路徑來看，潛在風(fēng)險(xiǎn)因素較多，極有可能會(huì)在復(fù)雜語義理解、訓(xùn)練數(shù)據(jù)豐富程度等方面出現(xiàn)一定的認(rèn)知偏差或偏見。

其次，從數(shù)據(jù)集到訓(xùn)練參數(shù)，數(shù)據(jù)來源準(zhǔn)確性和采集質(zhì)量決定了訓(xùn)練后模型的“能力”，訓(xùn)練參數(shù)數(shù)量能強(qiáng)化生成式人工智能的敏感度和適用性。當(dāng)前常見的生成式人工智能數(shù)據(jù)集數(shù)據(jù)來源較為廣泛，并非專門針對教育領(lǐng)域的學(xué)科教學(xué)而構(gòu)建，這是目前生成式人工智能教育應(yīng)用在可靠性方面受到詬病的原因之一。

最后，模型訓(xùn)練調(diào)教和測試存在缺陷。目前，生成式對抗網(wǎng)絡(luò)模型（GANs）、生成式預(yù)訓(xùn)練轉(zhuǎn)化模型（GPT）、生成式擴(kuò)散模型（GDM）等用于訓(xùn)練生成式人工智能的模型算法對內(nèi)容的理解和嵌入具有一定的局限性。（Zhimin Zhang， Huansheng Ning， Feifei Shi， et al，“Articial intelligence in cyber security： Research advances， challenges， and opportunities”， Artificial Intelligence Review，vol.55（2022）.）雖然生成式人工智能可以生成相關(guān)內(nèi)容，但是這些內(nèi)容的準(zhǔn)確性、合法性、真實(shí)性等都有待進(jìn)一步確認(rèn)。（Mehdi Dadkhah， Marilyn H. Oermann， Mihály Hegedüs， et al，“Detection of fake papers in the era of artificial intelligence”， Diagnosis， vol.10， no.4（2023）. ）因此，生成式人工智能教育應(yīng)用過程中勢必會(huì)存在風(fēng)險(xiǎn)，就技術(shù)本身來講，這種風(fēng)險(xiǎn)可能體現(xiàn)在技術(shù)自限性方面，在一定程度上會(huì)給教育的某些方面帶來影響。

（2）教育內(nèi)部系統(tǒng)性變革

從教育內(nèi)部特性來看，生成式人工智能教育應(yīng)用的風(fēng)險(xiǎn)來源較為復(fù)雜。這種內(nèi)部性源于數(shù)字素養(yǎng)、主體間關(guān)系、教育形態(tài)、教育資源、教育制度等方面，特別是在當(dāng)下的教育數(shù)字化轉(zhuǎn)型進(jìn)程中，生成式人工智能技術(shù)將被廣泛用于各種教育活動(dòng)，影響“教-學(xué)-管-評-測-練-輔”等各環(huán)節(jié)。同時(shí)，開展智慧教育也需要更多地引入這類技術(shù)，為教與學(xué)提供支持，智慧校園建設(shè)更是離不開生成式人工智能的輔助支持，在校園內(nèi)廣泛地開展人機(jī)對話。這些需求將加速生成式人工智能在教育領(lǐng)域的落地應(yīng)用，這一趨勢不可避免。盡管生成式人工智能教育應(yīng)用落地已經(jīng)走在理論研究的前面，但是生成式人工智能無法避免技術(shù)自限性問題，試錯(cuò)空間顯得尤為有限。

從教育主體來看，生成式人工智能的使用者主要是教師、學(xué)生和管理者等，他們直接運(yùn)用該項(xiàng)技術(shù)開展教育活動(dòng)，但是使用的目的、動(dòng)機(jī)、方向和方式不盡相同，認(rèn)識程度差異明顯，尤其是教師與學(xué)生之間存在明顯的知識差。本質(zhì)上，教育主體希望運(yùn)用生成式人工智能幫助解決問題，或在教與學(xué)方面有所收獲，但是由于主體間存在認(rèn)知、知識、能力等勢差，技術(shù)在教育過程中的主體駕馭與被牽制成為一種悖論——一方面，我們認(rèn)為主體能用好生成式人工智能，開展教育活動(dòng)；另一方面，相關(guān)技術(shù)可能存在的反噬作用將使教育活動(dòng)失之偏頗。

在教育形態(tài)與教育資源供給層面，生成式人工智能融入教育系統(tǒng)，勢必會(huì)造成傳統(tǒng)教育形態(tài)與新教育形態(tài)的摩擦，兩種教育形態(tài)的比較與更迭引發(fā)教育系統(tǒng)的內(nèi)耗在所難免。引入生成式人工智能的本意是促進(jìn)優(yōu)質(zhì)教育資源供給均等化，促進(jìn)受教育者的全面發(fā)展，但現(xiàn)實(shí)問題是生成式人工智能的獲取成本不斷增加，如配備支持該技術(shù)的設(shè)備、購買會(huì)員資格等，甚至教育活動(dòng)參與者要通過虛擬專用網(wǎng)絡(luò)（VPN）才能使用ChatGPT，這些都將增加獲取優(yōu)質(zhì)教育資源的機(jī)會(huì)成本。

教育制度適配問題也將影響生成式人工智能的運(yùn)用。實(shí)際上，教育制度一直屬于層級模式，這給產(chǎn)生于互聯(lián)網(wǎng)環(huán)境中的生成式人工智能運(yùn)行帶來了一定挑戰(zhàn)。生成式人工智能適配于扁平化的制度模式，層級模式與扁平化的制度模式發(fā)生碰撞，若不積極改革，對教育領(lǐng)域的沖擊和引發(fā)的內(nèi)部系統(tǒng)性矛盾將愈發(fā)嚴(yán)重。

總之，在教育內(nèi)部發(fā)生系統(tǒng)性變革的趨勢下，教育數(shù)字化轉(zhuǎn)型需要生成式人工智能提供更多的支持和服務(wù)，如啟發(fā)智慧、傳遞知識、知識轉(zhuǎn)移、教育服務(wù)、參與教學(xué)等。同時(shí)，生成式人工智能可能會(huì)在教育系統(tǒng)內(nèi)部變革的進(jìn)程中引發(fā)風(fēng)險(xiǎn)，在有限的容錯(cuò)空間中，如何有效規(guī)避風(fēng)險(xiǎn)成為一個(gè)迫切的問題。

2.外源性生成邏輯

生成式人工智能教育應(yīng)用悖論的外源性生成邏輯體現(xiàn)在教育系統(tǒng)之外的趨勢、力量或組織結(jié)構(gòu)對教育系統(tǒng)的滲透，如教育科技產(chǎn)業(yè)的快速發(fā)展、社會(huì)期盼的教育系統(tǒng)性變革、新一輪工業(yè)革命等。外源性力量對教育系統(tǒng)的影響較為強(qiáng)勢，主要原因是經(jīng)濟(jì)社會(huì)發(fā)展主導(dǎo)了教育發(fā)展形態(tài)，尤其是工業(yè)革命級別的社會(huì)變革將推動(dòng)教育系統(tǒng)整體的顛覆式變革，（陳曉珊、戚萬學(xué)：《“技術(shù)”何以重塑教育》，《教育研究》，2021年第10期。）例如第三次工業(yè)革命推動(dòng)教育領(lǐng)域建立了現(xiàn)有的學(xué)校教育模式，培養(yǎng)了大批科技、工業(yè)等方面的人才，反哺經(jīng)濟(jì)社會(huì)快速發(fā)展。

（1）新一輪科技革命

隨著人工智能技術(shù)的快速發(fā)展，數(shù)字經(jīng)濟(jì)在整個(gè)經(jīng)濟(jì)社會(huì)中的地位不斷提升，數(shù)據(jù)要素已經(jīng)成為經(jīng)濟(jì)社會(huì)發(fā)展的重要組成部分和推動(dòng)新一輪科技革命的真正驅(qū)動(dòng)力量。新一輪科技革命促使第四次工業(yè)革命悄然發(fā)生，工業(yè)4.0的核心是算力和數(shù)據(jù)要素，教育應(yīng)當(dāng)與這輪工業(yè)革命同步發(fā)展。因此，教育系統(tǒng)性變革需加速推進(jìn)才能與當(dāng)下的數(shù)字經(jīng)濟(jì)社會(huì)相匹配。德國“工業(yè)4.0”戰(zhàn)略促使德國教育界改變以往的教育形態(tài)，開始全面數(shù)字化轉(zhuǎn)型，并將人工智能、大數(shù)據(jù)、云計(jì)算等新興數(shù)字技術(shù)作為教育數(shù)字化轉(zhuǎn)型的基座。我國正在積極推動(dòng)教育數(shù)字化轉(zhuǎn)型，生成式人工智能與這輪教育數(shù)字化轉(zhuǎn)型高度吻合。從輔助教師教學(xué)到支持學(xué)生個(gè)性化學(xué)習(xí)，再到虛擬數(shù)字人擔(dān)任理論課程教師，數(shù)字孿生也逐漸被應(yīng)用到學(xué)生全流程學(xué)習(xí)反饋與評價(jià)過程中，這些均是新一輪科技革命驅(qū)動(dòng)下生成式人工智能教育應(yīng)用快速落地的表征。我國正加速建設(shè)教育強(qiáng)國，錨定“到2035年，形成我國在諸多領(lǐng)域人才競爭比較優(yōu)勢，國家戰(zhàn)略科技力量和高水平人才隊(duì)伍位居世界前列”（《深入實(shí)施新時(shí)代人才強(qiáng)國戰(zhàn)略 加快建設(shè)世界重要人才中心和創(chuàng)新高地》，《人民日報(bào)》，2021年9月29日。）的宏偉目標(biāo)，加快建設(shè)世界重要人才中心和創(chuàng)新高地。（周洪宇：《加快建設(shè)教育強(qiáng)國、科技強(qiáng)國、人才強(qiáng)國》，《紅旗文稿》，2023年第5期。）因此，教育領(lǐng)域?qū)⑿乱淮斯ぶ悄苓\(yùn)用于教育教學(xué)的愿望更加迫切，積極吸納高新數(shù)字技術(shù)助推高質(zhì)量人才培養(yǎng)。

（2）社會(huì)期盼的教育變革

全社會(huì)對教育質(zhì)量的要求和理想需求一直驅(qū)動(dòng)或某種意義上塑造著當(dāng)下的教育。（柳海民、鄒紅軍：《高質(zhì)量：中國基礎(chǔ)教育發(fā)展路向的時(shí)代轉(zhuǎn)換》，《教育研究》，2021年第4期。）尤其是對優(yōu)質(zhì)教育資源的追求成為社會(huì)各界較為關(guān)注的議題，迫使教育界在開展課題研究的同時(shí)不斷調(diào)整教育資源布局。從教育主管部門的教育政策修訂和改革，到地方基層教育單位的教研、教師進(jìn)修、教育裝備更新、教育科技運(yùn)用、師生數(shù)字素養(yǎng)等方面都出現(xiàn)了極大的改善和提升，可以說，全社會(huì)對教育的要求推動(dòng)了教育領(lǐng)域的內(nèi)在變革和系統(tǒng)改造。與此同時(shí)，教育主體也不斷地通過學(xué)習(xí)、采納、引入、轉(zhuǎn)化等手段將新型教育技術(shù)轉(zhuǎn)化為教與學(xué)的生產(chǎn)力工具，促進(jìn)績效正向提升，生成了一些新的教育教學(xué)模式，如線上線下混合式教學(xué)、翻轉(zhuǎn)課堂、行動(dòng)教學(xué)、數(shù)字化探究式教學(xué)等。生成式人工智能在支持和服務(wù)這些新興教育教學(xué)模式方面具有天然的優(yōu)勢，教育部門各層級、各單位、各主體等都會(huì)逐漸引入生成式人工智能提供支持服務(wù)，甚至?xí)谡n堂教學(xué)中引入生成式人工智能，輔助啟發(fā)學(xué)生的創(chuàng)造性思維和批判性思維。數(shù)字社會(huì)建設(shè)正在提速，國際社會(huì)高度重視數(shù)字社會(huì)建設(shè)，如日本提出了“社會(huì)5.0”概念。（趙繼政、崔艷偉：《“社會(huì)5.0”戰(zhàn)略構(gòu)想下的日本職業(yè)教育改革動(dòng)向探究——基于日本政府及產(chǎn)業(yè)協(xié)會(huì)相關(guān)報(bào)告》，《外國教育研究》，2023年第2期。）在數(shù)字社會(huì)的浪潮下，教育數(shù)智化是必然趨勢，生成式人工智能當(dāng)仁不讓。實(shí)際上，在社會(huì)的殷切期盼下，生成式人工智能教育應(yīng)用悖論的核心問題在于教育輸出端（即培養(yǎng)的人才）能否滿足經(jīng)濟(jì)社會(huì)發(fā)展的需要。社會(huì)期盼的教育變革是積極的、主動(dòng)的、向善的，要求生成式人工智能更好地服務(wù)于教育，幫助培養(yǎng)優(yōu)秀人才，在思想、行為、能力、專業(yè)、認(rèn)知等方面輔助塑造全方位發(fā)展的人才。但是生成式人工智能被社會(huì)力量驅(qū)動(dòng)進(jìn)入教育應(yīng)用層面后，被教育者能否主動(dòng)運(yùn)用生成式人工智能輔助自身的學(xué)習(xí)、實(shí)現(xiàn)能力的提升？在現(xiàn)有教育制度和學(xué)校教育的框架下，學(xué)習(xí)者嘗試運(yùn)用生成式人工智能完成作業(yè)、回答問題等，結(jié)果可能是惰化思維或弱化獨(dú)立自主能力，（田陽、王運(yùn)武、于燕娟：《ChatGPT類人工智能推動(dòng)教育數(shù)字化變革的失范風(fēng)險(xiǎn)及應(yīng)對策略》，《中國醫(yī)學(xué)教育技術(shù)》，2023年第3期。）效果適得其反，這些不得不引起我們的高度關(guān)注。

（3）教育科技產(chǎn)業(yè)助推

隨著教育現(xiàn)代化進(jìn)程的加速，教育科技產(chǎn)業(yè)與教育的關(guān)系越發(fā)緊密，高新技術(shù)被引入教育系統(tǒng)，促進(jìn)教育發(fā)生系統(tǒng)性變革，推動(dòng)教育教學(xué)提質(zhì)增效。教育領(lǐng)域越發(fā)注重教育發(fā)展的績效性，資源投入產(chǎn)出比成為評價(jià)的一種宏觀指標(biāo)，并得到教育行政主管部門的認(rèn)可與支持，整個(gè)教育系統(tǒng)步入科技賦能的新階段。教育科技的產(chǎn)業(yè)化運(yùn)作必然會(huì)推出促進(jìn)教育數(shù)字化轉(zhuǎn)型升級的產(chǎn)品，智慧校園系統(tǒng)、智慧教室、教育云平臺、元宇宙教育空間、虛擬教研室、網(wǎng)絡(luò)在線研修等逐漸通過“產(chǎn)-學(xué)-研-用-服”一體化快速落地，并得到廣泛運(yùn)用。很多教育科技企業(yè)參與其中，在技術(shù)支持、應(yīng)用服務(wù)、模式推廣等方面發(fā)揮了較大作用，這些項(xiàng)目和產(chǎn)品的落地有效反哺了教育科技企業(yè)。近來，人工智能教育應(yīng)用在教育科技產(chǎn)業(yè)領(lǐng)域頗受關(guān)注，教育科技企業(yè)嘗試以人工智能技術(shù)構(gòu)建數(shù)智融通的教育數(shù)字基座，在數(shù)字基座上部署人工智能應(yīng)用，實(shí)現(xiàn)數(shù)據(jù)驅(qū)動(dòng)的精準(zhǔn)教學(xué)、人機(jī)協(xié)同互動(dòng)教學(xué)、仿真環(huán)境的探究式教學(xué)、實(shí)時(shí)交互的遠(yuǎn)程教學(xué)等，同時(shí)開啟智能化學(xué)習(xí)新路徑，創(chuàng)建自適應(yīng)自主學(xué)習(xí)系統(tǒng)、智能自主學(xué)習(xí)終端、互聯(lián)網(wǎng)泛在學(xué)習(xí)等自主學(xué)習(xí)系統(tǒng)平臺；嘗試運(yùn)用生成式人工智能輔助教師備課，幫助學(xué)生減輕學(xué)習(xí)負(fù)擔(dān)，提供學(xué)生心理疏導(dǎo)以及輔助高效編程等。（訊飛教育技術(shù)研究院認(rèn)知智能國家重點(diǎn)實(shí)驗(yàn)室智能教育研究中心：《2023智能教育發(fā)展藍(lán)皮書——智能技術(shù)助推教育數(shù)字化轉(zhuǎn)型》，https：//edu.iflytek.com/views-downloads/think-tank/41。）整體來看，來自教育科技產(chǎn)業(yè)的生成式人工智能教育應(yīng)用的驅(qū)動(dòng)力量是向善的，但是作為數(shù)字教育資源，這類教育產(chǎn)品難免受到資本逐利本性的影響，追逐更廣泛的商業(yè)利益，在信息安全、內(nèi)容、運(yùn)營、知識產(chǎn)權(quán)、教學(xué)模式等方面難免存在一些風(fēng)險(xiǎn)和問題，尤其是對個(gè)人隱私和互動(dòng)過程中音頻視頻信息的保護(hù)不足，有可能導(dǎo)致隱私泄露，不利于未成年人的健康成長，甚至威脅人身安全。（曾海軍、田陽：《強(qiáng)化信息安全和備案審查：優(yōu)質(zhì)在線教育資源為師生所用》，《中國教育報(bào)》，2019年11月30日。）總之，教育科技產(chǎn)業(yè)發(fā)展驅(qū)動(dòng)生成式人工智能落地教育應(yīng)用，在產(chǎn)品化的過程會(huì)衍生出一些不可預(yù)見的風(fēng)險(xiǎn)特質(zhì)，有可能釀成一定的教育風(fēng)險(xiǎn)。

三、存在限度：生成式人工智能教育應(yīng)用悖論中的風(fēng)險(xiǎn)類型與預(yù)期

（一） 生成式人工智能教育應(yīng)用悖論中的風(fēng)險(xiǎn)類型

生成式人工智能教育應(yīng)用悖論表現(xiàn)為教育領(lǐng)域?qū)ζ涞姆e極應(yīng)用可能會(huì)生成教育風(fēng)險(xiǎn)，在社會(huì)風(fēng)險(xiǎn)框架下將給教育領(lǐng)域帶來負(fù)面影響。當(dāng)前，生成式人工智能教育應(yīng)用的主要方向是個(gè)性化教學(xué)支持服務(wù)、個(gè)性化學(xué)習(xí)支持、教學(xué)支持服務(wù)、學(xué)習(xí)監(jiān)測與反饋、課堂教學(xué)觀察與分析、智能評閱、智慧校園等，由此看來，潛在風(fēng)險(xiǎn)主要指向教師、學(xué)生、管理者、家長等教育行為主體。生成式人工智能的風(fēng)險(xiǎn)點(diǎn)將集中在私人權(quán)益受沖擊、編造偽造信息、影響信息安全、張冠李戴、錯(cuò)誤混淆、情緒化逃逸、隱私保護(hù)不力、認(rèn)知偏見等方面。（馮雨奐：《ChatGPT在教育領(lǐng)域的應(yīng)用價(jià)值、潛在倫理風(fēng)險(xiǎn)與治理路徑》，《思想理論教育》，2023年第4期。）生成式人工智能教育應(yīng)用還有可能帶來師生關(guān)系異化問題，形成知識盲區(qū)，強(qiáng)化“信息繭房”現(xiàn)象。綜合分析國內(nèi)外學(xué)者有關(guān)生成式人工智能教育應(yīng)用風(fēng)險(xiǎn)的研究文獻(xiàn)，（苗逢春：《生成式人工智能技術(shù)原理及其教育適用性考證》，《現(xiàn)代教育技術(shù)》，2023年第11期。朱永新、楊帆：《ChatGPT/生成式人工智能與教育創(chuàng)新：機(jī)遇、挑戰(zhàn)以及未來》，《華東師范大學(xué)學(xué)報(bào)（教育科學(xué)版）》，2023年第7期。

）當(dāng)前生成式人工智能教育應(yīng)用風(fēng)險(xiǎn)主要包括倫理風(fēng)險(xiǎn)、教育失范風(fēng)險(xiǎn)、“社會(huì)-物理-信息”空間交互異化風(fēng)險(xiǎn)、個(gè)體人格情感異化風(fēng)險(xiǎn)等。

（二） 生成式人工智能教育應(yīng)用悖論預(yù)期及存在限度闡釋

1.悖論的風(fēng)險(xiǎn)側(cè)預(yù)期

基于社會(huì)風(fēng)險(xiǎn)理論的分析框架，生成式人工智能教育應(yīng)用悖論中的風(fēng)險(xiǎn)側(cè)被稱為預(yù)期風(fēng)險(xiǎn)，即可能發(fā)生或未來某一時(shí)刻將會(huì)發(fā)生的風(fēng)險(xiǎn)現(xiàn)象。管控風(fēng)險(xiǎn)側(cè)的核心目標(biāo)就是遏制風(fēng)險(xiǎn)或減少風(fēng)險(xiǎn)導(dǎo)致的損害，需要開展探針風(fēng)險(xiǎn)識別、風(fēng)險(xiǎn)評估、風(fēng)險(xiǎn)應(yīng)對策略、風(fēng)險(xiǎn)控制等基本的風(fēng)險(xiǎn)管理業(yè)務(wù)流程，最終實(shí)現(xiàn)規(guī)避風(fēng)險(xiǎn)或安全度過風(fēng)險(xiǎn)。風(fēng)險(xiǎn)的發(fā)生不是一蹴而就的，而是具有時(shí)間累積效應(yīng)。為此，采用專家咨詢的方式進(jìn)行探索，與領(lǐng)域內(nèi)專家學(xué)者進(jìn)行電話或微信咨詢，（ 本研究咨詢了16位具有高級職稱的教育學(xué)領(lǐng)域的專家學(xué)者，他們分別來自師范類大學(xué)、綜合性大學(xué)，其中來自師范類大學(xué)的專家13位（81.25%），來自“雙一流”高校的專家10位（62.50%），具有高級職稱的專家11位（68.75%），擁有副高職稱者5位（31.25%）。從專家的學(xué)校類型、職稱、學(xué)校聲譽(yù)等方面綜合來看，提出的建議具有較高的信度和代表性。

）征詢他們對風(fēng)險(xiǎn)分類與預(yù)期風(fēng)險(xiǎn)的判斷。綜合專家們的回答，生成式人工智能教育應(yīng)用的預(yù)期風(fēng)險(xiǎn)可劃分為直接風(fēng)險(xiǎn)、早期風(fēng)險(xiǎn)、中期風(fēng)險(xiǎn)、長期風(fēng)險(xiǎn)四個(gè)階段，默認(rèn)為有些風(fēng)險(xiǎn)在生成式人工智能投入教育領(lǐng)域時(shí)就可能發(fā)生，有些風(fēng)險(xiǎn)則是隨著應(yīng)用時(shí)間的延遲而逐步顯現(xiàn)的（表1）。

首先，90%以上的專家認(rèn)為當(dāng)下生成式人工智能教育應(yīng)用還處于初級階段。從學(xué)段方面來看，在高等教育領(lǐng)域、成人繼續(xù)教育領(lǐng)域運(yùn)用較多，在中小學(xué)中的運(yùn)用目前還處于探索之中。不過一些商業(yè)化的生成式人工智能產(chǎn)品已經(jīng)出現(xiàn)，所以風(fēng)險(xiǎn)側(cè)的直接風(fēng)險(xiǎn)源于產(chǎn)品技術(shù)本身局限性的可能較大。其次，從教與學(xué)的場景看，幾乎所有專家都認(rèn)為在自主學(xué)習(xí)場景中學(xué)習(xí)者會(huì)采用人工智能技術(shù)嘗試提升學(xué)習(xí)效率或作為學(xué)習(xí)輔助，當(dāng)然，商業(yè)化的應(yīng)用產(chǎn)品可以更好地幫助學(xué)習(xí)者完成學(xué)習(xí)計(jì)劃、實(shí)現(xiàn)學(xué)習(xí)目標(biāo)，其中的風(fēng)險(xiǎn)較為隱蔽，教師、家長、管理者等不易察覺。在學(xué)習(xí)者的自主行為中，預(yù)期風(fēng)險(xiǎn)的暴露將會(huì)延遲，因此需對這類產(chǎn)品進(jìn)行較為嚴(yán)格的審查和監(jiān)管。最后，從參與教育的主體來看，教師、管理者、家長具備更高的鑒別能力，可以直接或逐步發(fā)現(xiàn)存在的問題，自主糾正，反而需關(guān)注學(xué)生端的風(fēng)險(xiǎn)。整體而言，所有的參與主體都面臨隱私數(shù)據(jù)、算法偏見等方面的風(fēng)險(xiǎn)。

2.悖論風(fēng)險(xiǎn)側(cè)存在限度闡釋

生成式人工智能教育應(yīng)用悖論的存在限度是指悖論中的預(yù)期風(fēng)險(xiǎn)從臨界狀態(tài)演變到風(fēng)險(xiǎn)降臨的全過程。實(shí)際上，生成式人工智能教育應(yīng)用悖論風(fēng)險(xiǎn)側(cè)存在限度即應(yīng)用側(cè)與風(fēng)險(xiǎn)側(cè)的博弈行為，生成式人工智能的教育變革預(yù)期是強(qiáng)烈的，而且由于其獨(dú)特的學(xué)習(xí)和生成能力，在輔助教學(xué)、語言交流、同伴協(xié)同、創(chuàng)新思維等方面有其獨(dú)到的教育價(jià)值，同時(shí)，在學(xué)習(xí)支持服務(wù)領(lǐng)域已經(jīng)出現(xiàn)了許多商業(yè)化的產(chǎn)品，疊加教育數(shù)字化轉(zhuǎn)型，在生成式人工智能應(yīng)用側(cè)已經(jīng)出現(xiàn)持續(xù)的增長。為了保證應(yīng)用側(cè)的可持續(xù)發(fā)展，就必須遏制風(fēng)險(xiǎn)側(cè)的不利影響。應(yīng)用側(cè)與風(fēng)險(xiǎn)側(cè)時(shí)刻對應(yīng)，理論上而言，有生成式人工智能教育應(yīng)用現(xiàn)象發(fā)生，預(yù)期風(fēng)險(xiǎn)就有可能存在，風(fēng)險(xiǎn)限度這一概念就會(huì)成立（圖1）。

作為一種新興數(shù)字技術(shù)，生成式人工智能運(yùn)用于教育領(lǐng)域，在教學(xué)、管理、自主學(xué)習(xí)、教育評價(jià)、教研、學(xué)校安全等方面均可采用，在未來，應(yīng)用場景將得到進(jìn)一步挖掘。因此，生成式人工智能教育應(yīng)用悖論的應(yīng)用側(cè)與風(fēng)險(xiǎn)側(cè)將長期共存且相互作用，提醒我們時(shí)刻警惕預(yù)期風(fēng)險(xiǎn)的發(fā)生。在采納或運(yùn)用生成式人工智能開展教育活動(dòng)的時(shí)候，應(yīng)當(dāng)嘗試構(gòu)建風(fēng)險(xiǎn)管理模型，確保教育活動(dòng)的有效、穩(wěn)定、可靠、綠色、安全。

基于存在限度的風(fēng)險(xiǎn)預(yù)期背景，生成式人工智能之所以會(huì)導(dǎo)致風(fēng)險(xiǎn)朝著風(fēng)險(xiǎn)臨界方向發(fā)展，歸結(jié)起來是因?yàn)樯墒饺斯ぶ悄芙逃龖?yīng)用悖論的存在限度中含有幾對矛盾——?jiǎng)?chuàng)新與傳統(tǒng)、效率與質(zhì)量、技術(shù)與道德、公平與不平等、教師與人工智能等。

關(guān)于創(chuàng)新與傳統(tǒng)的矛盾。一方面，要在傳統(tǒng)教育的各環(huán)節(jié)結(jié)構(gòu)性地融入生成式人工智能；另一方面，要探索運(yùn)用生成式人工智能促進(jìn)教育變革的發(fā)生。在這一推進(jìn)過程中，創(chuàng)新與傳統(tǒng)是辯證、動(dòng)態(tài)發(fā)展的，傳統(tǒng)教育應(yīng)用的創(chuàng)新將從嵌入生成式人工智能做起，教育創(chuàng)新者會(huì)推動(dòng)顛覆式的教育變革，核心思想都是讓技術(shù)發(fā)揮教育價(jià)值，促進(jìn)教育朝著更好的方向發(fā)展。但是，在嘗試新技術(shù)的時(shí)候難免要做出風(fēng)險(xiǎn)讓渡。

關(guān)于效率與質(zhì)量的矛盾。過去，強(qiáng)化效率必然要放棄獨(dú)立自主的特性，過分追求效率可能導(dǎo)致對教育質(zhì)量的關(guān)注度下降，進(jìn)而影響學(xué)生的全面發(fā)展，長此以往，造成的風(fēng)險(xiǎn)就是思維惰化、過度依賴等。在強(qiáng)化質(zhì)量的前提下，教育類生成式人工智能必須更加安全、可靠、穩(wěn)定，這需要大量的資源投入和教育管理部門的強(qiáng)勢介入，代價(jià)就是較高的教育成本。

關(guān)于技術(shù)與道德的矛盾。這是預(yù)期風(fēng)險(xiǎn)中最為直接的一種，教育活動(dòng)參與者的隱私信息、行為數(shù)據(jù)等暴露明顯，若處理不當(dāng)就會(huì)造成信息泄露，導(dǎo)致倫理道德困境，教育活動(dòng)參與者可能面臨倫理風(fēng)險(xiǎn)。

關(guān)于公平與不平等的矛盾。教育不公平問題將更為突出，原因在于數(shù)字技術(shù)的運(yùn)用不僅需要物質(zhì)成本，還需要提前培養(yǎng)數(shù)字素養(yǎng)，尤其是生成式人工智能越是先進(jìn)和強(qiáng)大，教育成本就越高。擁有更多資源和先進(jìn)技術(shù)的學(xué)校將獲得更多的教育資源，弱勢學(xué)校和學(xué)生可能會(huì)進(jìn)一步被邊緣化。另外，優(yōu)質(zhì)教育資源將更多地向富裕地區(qū)和家庭傾斜。

關(guān)于教師與人工智能的矛盾。教師與人工智能在教育活動(dòng)中將發(fā)揮各自的優(yōu)勢，教育場景中融入生成式人工智能，教師角色隨之轉(zhuǎn)變，教師主導(dǎo)-機(jī)器輔助的格局將逐步形成。在這一過程中，要防止產(chǎn)生錯(cuò)誤的信息、誤導(dǎo)性的建議或不可靠的答案。如果這些錯(cuò)誤的內(nèi)容被廣泛使用，將對學(xué)生的學(xué)習(xí)產(chǎn)生嚴(yán)重的負(fù)面影響。

四、風(fēng)險(xiǎn)治理：生成式人工智能教育應(yīng)用悖論的應(yīng)對

（一）風(fēng)險(xiǎn)治理理念分析

生成式人工智能教育應(yīng)用悖論中的風(fēng)險(xiǎn)側(cè)治理是一個(gè)復(fù)雜的系統(tǒng)性問題，參與主體眾多，對技術(shù)的依賴程度較高，必然與傳統(tǒng)社會(huì)治理框架下“發(fā)現(xiàn)→探索→溯源→認(rèn)知→應(yīng)對”的治理程序大不相同。首先，教育領(lǐng)域的風(fēng)險(xiǎn)關(guān)乎人的生理和心理，影響重大。其次，教育領(lǐng)域風(fēng)險(xiǎn)的暴露面較為廣泛，后續(xù)影響難以鑒別。再次，教育領(lǐng)域風(fēng)險(xiǎn)不存在風(fēng)險(xiǎn)避免、風(fēng)險(xiǎn)轉(zhuǎn)移，只有風(fēng)險(xiǎn)減輕或風(fēng)險(xiǎn)接受，后續(xù)可以通過心理介入或干預(yù)實(shí)現(xiàn)轉(zhuǎn)變。最后，教育領(lǐng)域風(fēng)險(xiǎn)是無法包容的，這給風(fēng)險(xiǎn)策略提出嚴(yán)峻挑戰(zhàn)。

風(fēng)險(xiǎn)治理要考慮教育領(lǐng)域的特殊性和教育領(lǐng)域生成式人工智能應(yīng)用的多類態(tài)特征，生成式人工智能不僅會(huì)被教師、學(xué)生、管理者、家長等直接使用，還會(huì)作為底層技術(shù)基座被打造成新的教育服務(wù)應(yīng)用。當(dāng)下，生成式人工智能技術(shù)已經(jīng)被用于認(rèn)知服務(wù)、教學(xué)服務(wù)、課后輔導(dǎo)、學(xué)伴支持、個(gè)性化學(xué)習(xí)、語言教學(xué)等各方面，形成了多類態(tài)的教育應(yīng)用服務(wù)特色。因此，生成式人工智能教育應(yīng)用悖論的風(fēng)險(xiǎn)側(cè)治理不能采取一刀切式的阻斷措施，傳統(tǒng)的剛性治理雖然能發(fā)揮一定的作用，但是容易“一棒子打死”；柔性治理的效果過于緩慢，在不能立即停止、避免損傷的前提下開展迂回處理并不適合教育領(lǐng)域的風(fēng)險(xiǎn)危機(jī)處理，甚至適得其反，有可能誘發(fā)更大的危機(jī)。

韌性治理理念為生成式人工智能教育應(yīng)用悖論風(fēng)險(xiǎn)側(cè)治理提供了新的方向。韌性治理是與剛性治理、柔性治理相對的一種治理理念，力度處于二者之間。韌性治理適用于復(fù)雜關(guān)系網(wǎng)絡(luò)結(jié)構(gòu)中的風(fēng)險(xiǎn)治理問題?；陧g性治理理念，生成式人工智能教育應(yīng)用悖論風(fēng)險(xiǎn)側(cè)治理需要關(guān)注人的本性，在治理全流程中尊重人的心理、生理特征，避免二次傷害。此外，生成式人工智能教育應(yīng)用悖論風(fēng)險(xiǎn)側(cè)治理應(yīng)提前識別預(yù)期風(fēng)險(xiǎn)，在治理進(jìn)程中應(yīng)確保穩(wěn)定性、可持續(xù)性、安全性、健康性。

（二）風(fēng)險(xiǎn)治理對策建議

1.構(gòu)建生成式人工智能教育應(yīng)用風(fēng)險(xiǎn)預(yù)防體系標(biāo)準(zhǔn)

生成式人工智能教育應(yīng)用風(fēng)險(xiǎn)治理的核心在于精準(zhǔn)把控風(fēng)險(xiǎn)發(fā)生的內(nèi)在機(jī)理，進(jìn)而有針對性地構(gòu)建應(yīng)對模式，制定多種行之有效的策略；了解機(jī)制生成機(jī)理之后，可以嘗試構(gòu)建相關(guān)標(biāo)準(zhǔn)，開展風(fēng)險(xiǎn)預(yù)防。如同在實(shí)驗(yàn)室制定安全管理辦法一樣，按照標(biāo)準(zhǔn)執(zhí)行操作，就不會(huì)觸碰風(fēng)險(xiǎn)臨界閾，進(jìn)而避免風(fēng)險(xiǎn)發(fā)生。針對教育領(lǐng)域生成式人工智能的應(yīng)用，應(yīng)盡快開展生成式人工智能風(fēng)險(xiǎn)機(jī)理的研究，探索生成式人工智能教育應(yīng)用風(fēng)險(xiǎn)的預(yù)防指標(biāo)，構(gòu)建風(fēng)險(xiǎn)預(yù)防體系標(biāo)準(zhǔn)，從制度標(biāo)準(zhǔn)層面隔離風(fēng)險(xiǎn)，進(jìn)而促進(jìn)生成式人工智能教育應(yīng)用生態(tài)的良性發(fā)展。

2.強(qiáng)化教育全場景數(shù)據(jù)監(jiān)管體系建設(shè)與數(shù)據(jù)池監(jiān)管

生成式人工智能教育應(yīng)用的直接風(fēng)險(xiǎn)有可能發(fā)生在倫理層面，涉及數(shù)據(jù)隱私、算法偏見等，給教育系統(tǒng)使用生成式人工智能帶來了不小的挑戰(zhàn)。當(dāng)下，針對教育領(lǐng)域的數(shù)據(jù)確權(quán)、數(shù)字信任、隱私保護(hù)、數(shù)據(jù)要素流通等方面有待持續(xù)深入完善，在教育大模型的數(shù)據(jù)采集過程中加強(qiáng)隱私保護(hù)就顯得尤為重要。教育大模型的研發(fā)需要進(jìn)行算法設(shè)計(jì)，而算法決定了大模型的基本架構(gòu)和應(yīng)用方向，一旦算法層面出現(xiàn)誤差或存在偏見，負(fù)面影響難以估量。為此，教育主管部門有必要強(qiáng)化對教育全場景數(shù)據(jù)采集的監(jiān)管，通過數(shù)據(jù)確權(quán)、數(shù)字信任技術(shù)實(shí)現(xiàn)全流程監(jiān)管，保證隱私數(shù)據(jù)安全、涉密信息脫敏，同時(shí)制定用于訓(xùn)練教育大模型的數(shù)據(jù)采集標(biāo)準(zhǔn)，構(gòu)建教育大模型訓(xùn)練數(shù)據(jù)池，通過監(jiān)管實(shí)現(xiàn)教育全景數(shù)據(jù)的閉環(huán)管理。

3.構(gòu)建生成式人工智能教育應(yīng)用悖論風(fēng)險(xiǎn)側(cè)預(yù)警系統(tǒng)

隨著科技的進(jìn)步，科技引發(fā)的風(fēng)險(xiǎn)將越發(fā)強(qiáng)烈。例如在社交網(wǎng)絡(luò)興起階段，網(wǎng)絡(luò)輿情治理不夠健全，社交網(wǎng)絡(luò)平臺誘發(fā)的線上輿情轉(zhuǎn)化為線下社會(huì)事件屢見不鮮，成為互聯(lián)網(wǎng)快速發(fā)展帶來的風(fēng)險(xiǎn)社會(huì)現(xiàn)象之一。當(dāng)下，針對生成式人工智能教育應(yīng)用悖論的風(fēng)險(xiǎn)側(cè)治理尤為重要。生成式人工智能代表了人工智能領(lǐng)域最先進(jìn)的落地應(yīng)用，風(fēng)險(xiǎn)預(yù)期最為強(qiáng)烈，強(qiáng)化預(yù)警系統(tǒng)有利于盡早發(fā)現(xiàn)預(yù)期風(fēng)險(xiǎn)，偵測到風(fēng)險(xiǎn)臨界狀態(tài)，及時(shí)實(shí)施柔性治理策略，遏制危險(xiǎn)發(fā)生。該預(yù)警系統(tǒng)應(yīng)是多層次、多機(jī)構(gòu)、多級別的聯(lián)合預(yù)警監(jiān)測網(wǎng)絡(luò)，包含風(fēng)險(xiǎn)預(yù)警監(jiān)測網(wǎng)站、APP、小程序等，吸納能夠熟練使用生成式人工智能的教師、管理者、家長、學(xué)生等多元主體，主動(dòng)承擔(dān)風(fēng)險(xiǎn)識別“探針”責(zé)任，發(fā)現(xiàn)風(fēng)險(xiǎn)苗頭立即上報(bào)。上級主管部門組織應(yīng)急管理專家、技術(shù)人員、監(jiān)管人員等成立聯(lián)合預(yù)警評估組，識別風(fēng)險(xiǎn)類型和風(fēng)險(xiǎn)發(fā)展階段，做出合理預(yù)判后再采取進(jìn)一步措施。生成式人工智能教育應(yīng)用悖論風(fēng)險(xiǎn)側(cè)預(yù)警系統(tǒng)應(yīng)當(dāng)做到早發(fā)現(xiàn)、早預(yù)警、早行動(dòng)，避免風(fēng)險(xiǎn)發(fā)生。

4.形成多元主體參與治理的協(xié)同聯(lián)動(dòng)機(jī)制

智能網(wǎng)聯(lián)時(shí)代的風(fēng)險(xiǎn)治理主體已經(jīng)不再局限于專門的監(jiān)管機(jī)構(gòu)或組織，傳統(tǒng)治理模式不能快速反應(yīng)、形成聯(lián)動(dòng)，而且過于剛性和行政化，在教育領(lǐng)域容易形成二次傷害。教育領(lǐng)域風(fēng)險(xiǎn)治理更需要柔性治理，通過情感維系來實(shí)現(xiàn)風(fēng)險(xiǎn)控制。多元主體參與風(fēng)險(xiǎn)治理能形成快速聯(lián)動(dòng)機(jī)制，真正做到快速發(fā)現(xiàn)、快速治理，同時(shí)，不同治理主體的參與能讓教育活動(dòng)者感受到治理過程中教育主管部門、社會(huì)組織、個(gè)體等的關(guān)注，建立情感聯(lián)系，實(shí)現(xiàn)風(fēng)險(xiǎn)危機(jī)情緒扭轉(zhuǎn)，進(jìn)而實(shí)現(xiàn)預(yù)期風(fēng)險(xiǎn)治理管控。為此，多元主體參與風(fēng)險(xiǎn)治理需提供數(shù)字確權(quán)，獲取數(shù)字信任。在確保隱私數(shù)據(jù)、行為過程等安全的前提下，應(yīng)當(dāng)為多元主體參與風(fēng)險(xiǎn)治理搭建交流溝通與行動(dòng)的平臺，促使多元主體協(xié)同聯(lián)動(dòng)，形成自組織力量，讓風(fēng)險(xiǎn)治理從傳統(tǒng)行政組織層級下壓模式演進(jìn)為多元主體自組織涌現(xiàn)模式。

5.引導(dǎo)利益主體正確看待教育公益與市場行為

生成式人工智能教育應(yīng)用的推動(dòng)力量一方面來自教育系統(tǒng)，另一方面來自研發(fā)利益主體，后者更期盼該項(xiàng)技術(shù)廣泛、深入地運(yùn)用于教育領(lǐng)域各環(huán)節(jié)、各場景，實(shí)現(xiàn)生成式人工智能與教育的全面融合發(fā)展。為此，研發(fā)生成式人工智能的利益主體會(huì)通過交流合作、商業(yè)活動(dòng)、實(shí)驗(yàn)探索等方式獲取教育活動(dòng)數(shù)據(jù)，訓(xùn)練大模型，實(shí)現(xiàn)生成式人工智能教育應(yīng)用落地。這種運(yùn)作閉環(huán)雖然兼顧了教育的公益屬性和市場行為活動(dòng)，但后者對利益主體的吸引力更大。為此，教育主管部門要加強(qiáng)對生成式人工智能教育應(yīng)用服務(wù)的利益主體進(jìn)行監(jiān)管，同時(shí)出臺合理的政策扶持引導(dǎo)相關(guān)利益主體正確處理教育公益與市場行為的關(guān)系，尊重教育規(guī)律、倫理規(guī)范等，確保生成式人工智能利益主體不會(huì)給教育系統(tǒng)造成風(fēng)險(xiǎn)。

五、總 結(jié)

隨著教育大模型技術(shù)的進(jìn)步，生成式人工智能將在教育領(lǐng)域茁壯成長，與教育生態(tài)系統(tǒng)全面融合，成為教育生態(tài)系統(tǒng)中的底層基座技術(shù)，服務(wù)教育教學(xué)活動(dòng)的方方面面。未來，生成式人工智能將成為教育現(xiàn)代化的標(biāo)志性技術(shù)特征之一，極大地提高教育教學(xué)質(zhì)量，助力我國教育數(shù)字化轉(zhuǎn)型走向縱深。但是，作為一項(xiàng)新興數(shù)字技術(shù)，生成式人工智能在教育領(lǐng)域的應(yīng)用還處于起步階段。相關(guān)技術(shù)的核心算法模型運(yùn)作機(jī)理依然無法解釋清楚，被科學(xué)家們比喻為“黑箱”，好在目前這個(gè)“黑箱”總體而言是向善的。構(gòu)建數(shù)據(jù)集和大規(guī)模訓(xùn)練參數(shù)可以實(shí)現(xiàn)人工智能大模型算法的有效訓(xùn)練，讓人工智能大模型具備人們期盼的能力和應(yīng)用價(jià)值。在教育領(lǐng)域，這類生成式人工智能應(yīng)用正逐步落地，而“黑箱”依然存在，高新技術(shù)的雙刃劍屬性無法避免。風(fēng)險(xiǎn)社會(huì)理論不斷提醒人們，探索、制定針對生成式人工智能教育應(yīng)用悖論風(fēng)險(xiǎn)側(cè)治理的對策尤為重要，很多深層次問題仍需要更多的研究者開展相關(guān)探討。

〔責(zé)任編輯：沈 丹〕

作者簡介：田陽，教育學(xué)博士，揚(yáng)州大學(xué)新聞與傳媒學(xué)院校聘教授。

基金項(xiàng)目：2023年江蘇省社會(huì)科學(xué)基金項(xiàng)目“指向初中課堂深度學(xué)習(xí)的生成式人工智能賦能機(jī)制研究”（23JYD015）；江蘇省教育科學(xué)規(guī)劃“十四五”2021年度重點(diǎn)課題“基于云網(wǎng)融合的江蘇數(shù)字教育資源公共服務(wù)模式研究”（C-b/2021/01/34）。