王佑鎂 王旦 梁煒怡 柳晨晨

摘要：智能聊天機器人模型ChatGPT，因具有可以針對用戶輸入內(nèi)容生成自然語言文本，支持連續(xù)多輪對話與上下文理解等特性，吸引了大量教育研究者和工作者的關(guān)注。作為AIGC的典型應用，ChatGPT會如何改變教育？它到底是教育的“阿拉丁神燈”還是“潘多拉魔盒”呢？一方面，ChatGPT具有賦能教學創(chuàng)新的潛能，可以提升教學成果的完成度與創(chuàng)意感、增強數(shù)字導師的角色感與互動性、提高自適應學習系統(tǒng)的易用性與精準度、促進教學策略與方式的智慧化與創(chuàng)造性，支持教學反饋與評價的生成性與個性化。另一方面，ChatGPT在教育中的應用也可能引發(fā)四類風險：學業(yè)誠信遭質(zhì)疑與評估機制失平衡、過度依賴生沉迷與教師地位恐弱化、信息傳輸不準確與知識水平受限制、倫理意識未加強與倫理風險難應對。顯而易見，作為一款現(xiàn)象級生成式人工智能應用，ChatGPT可能引發(fā)教育的深刻變革。教育工作者應謹慎地加以使用，積極吸納ChatGPT帶來的教育創(chuàng)新，同時通過發(fā)展評估策略、分割教學責任、加速技術(shù)革新、制定倫理指南等措施規(guī)避其可能帶來的教育風險。

關(guān)鍵詞：人工智能；ChatGPT；AIGC；教育潛能；教育風險

中圖分類號：G434 ? 文獻標識碼：A ? ?文章編號：1009-5195（2023）02-0048-09 ?doi10.3969/j.issn.1009-5195.2023.02.006

基金項目：全國教育科學規(guī)劃2021年度國家一般課題“教育領(lǐng)域人工智能應用的倫理風險與防范對策研究”（BCA210086）。

作者簡介：王佑鎂，博士，教授，博士生導師，溫州大學大數(shù)據(jù)與智慧教育研究中心主任（浙江溫州 325035）；王旦、梁煒怡，碩士研究生，溫州大學教育學院教育技術(shù)系（浙江溫州 325035）；柳晨晨，博士，副教授，溫州大學教育學院教育技術(shù)系（浙江溫州 325035）。

一、 引言

2022年11月30日，由美國人工智能研究實驗室OpenAI上線發(fā)布的全新聊天機器人模型ChatGPT火爆全網(wǎng)，其在上線后短短5天內(nèi)便吸引了超過百萬用戶，這是社交媒體平臺Meta用了10個月、流媒體平臺Netflix用了3年才達到的成績（Hurst，2022）。ChatGPT可以針對用戶輸入的內(nèi)容生成更自然的響應文本，允許用戶與其就任何事情進行自然語言對話。其敢于質(zhì)疑、承認無知、支持連續(xù)多輪對話與上下文理解等特性吸引了大量教育研究者和工作者的關(guān)注。

一些研究者認為ChatGPT將加速教育變革?！坝辛薈hatGPT，教育可能永遠不一樣?！保‥uchner，2023）“ChatGPT如果使用得當，將是一種強大的教育工具?！保≧udolph et al.，2023）也有學者指出，ChatGPT成為了抄襲和作弊的利器（王樹義等，2023），濫用ChatGPT可能會對學術(shù)公平性產(chǎn)生一定的負面影響（朱光輝等，2023）。那么，ChatGPT會如何改變教育呢？它到底是教育的“阿拉丁神燈”還是“潘多拉魔盒”呢？面對人工智能的飛速發(fā)展，教育工作者該如何做好準備迎接此類新技術(shù)的出現(xiàn)呢？本文擬結(jié)合各界對ChatGPT的應用與探索，嘗試探討其在教育中應用的潛能與限度。

二、ChatGPT的實質(zhì)：AIGC的突破性落地

從內(nèi)容的創(chuàng)作者角度來看，互聯(lián)網(wǎng)的內(nèi)容生產(chǎn)形態(tài)目前為止可大致分為三個階段，分別是專業(yè)生成內(nèi)容（Professional Generated Content，PGC）、用戶生成內(nèi)容（User Generated Content，UGC）和人工智能生成內(nèi)容（AI Generated Content，AIGC），具體如表1所示（王諾等，2022）。

專業(yè)生成內(nèi)容（PGC）是Web1.0時代主要的內(nèi)容生成模式，主要通過鼠標鍵盤的操作進行專業(yè)內(nèi)容分享，創(chuàng)作者是具備專業(yè)知識和技能的專業(yè)人士，分享內(nèi)容具有專業(yè)化、垂直化與權(quán)威化等特點（張新新等，2022）。此階段依賴靜態(tài)和動態(tài)HTML網(wǎng)頁技術(shù)，以靜態(tài)單向閱讀為主，用戶僅是被動參與，難以產(chǎn)生交互和新內(nèi)容的創(chuàng)作。Web2.0時代，互聯(lián)網(wǎng)內(nèi)容生成由專家主導轉(zhuǎn)向用戶主導模式，即用戶生成內(nèi)容（UGC）。這一階段創(chuàng)作權(quán)由專業(yè)人員讓渡給普通用戶，用戶既是內(nèi)容受眾，也是內(nèi)容的創(chuàng)造者和發(fā)布者。用戶可根據(jù)自身需求，自主創(chuàng)作需要的內(nèi)容，分享內(nèi)容也更加多元化、個性化、民主化和創(chuàng)新化。此階段以Blog、SNS、RSS、Wiki等社會性軟件的應用為核心，由六度分隔、XML、AJAX等新理論和技術(shù)支持展開。目前，互聯(lián)網(wǎng)已逐步邁入Web3.0時代。隨著人工智能技術(shù)的不斷改進，通過自然語言處理（Natural Language Processing，NLP）和自然語言生成（Natural Language Generation，NLG）方法，依據(jù)用戶某些詞語或句子自動化生成滿足用戶需求的人工智能生成內(nèi)容（AIGC）模式，已成為Web3.0時代內(nèi)容生成的重要方式。相較于PGC和UGC，AIGC最大的不同就是能利用人工智能技術(shù)驅(qū)動機器創(chuàng)作內(nèi)容，具有大模型、多模態(tài)、可控制和虛實共生等特征（李白楊等，2022）。AIGC被認為是推動元宇宙發(fā)展的加速器。

ChatGPT是基于人工智能技術(shù)的大型語言對話模型，是一種新型自然語言處理工具。ChatGPT首次采用從人類反饋中強化學習（Reinforcement Learning from Human Feedback，RLHF）的方式，具有根據(jù)用戶反饋改進輸出結(jié)果的能力，并會根據(jù)用戶反饋持續(xù)化更新和學習，實現(xiàn)與真實對話無異的交流（Shen et al.，2023）。同時，ChatGPT采用了注重道德水平的訓練方式，這使它具備了能判斷不懷好意的提問和請求的能力，并能對它們“說不”（Tate et al.，2023）。OpenAI（2022）稱，平臺提供的對話模式令ChatGPT可以“回答后續(xù)的問題、承認自己的錯誤、挑戰(zhàn)不正確的前提與拒絕不恰當?shù)恼埱蟆薄?/p>

從技術(shù)層面看，ChatGPT屬于AIGC應用，是基于自然語言處理（NLP）和機器學習技術(shù)（Machine Learning，ML）的人工智能內(nèi)容生成應用（George et al.，2023）。但從創(chuàng)作層面來說，ChatGPT不僅可以自動化生成內(nèi)容，還可以根據(jù)用戶提供的輸入內(nèi)容，生成用戶內(nèi)容和專家內(nèi)容。ChatGPT基于GPT-3.5大型語言模型家族，結(jié)合監(jiān)督學習和強化學習技術(shù)進行微調(diào)，擁有1750億個模型參數(shù)（Hirosawa et al.，2023），能夠以更接近人類思考的方式參與用戶查詢過程，并可以模擬多種人類情緒和語氣，根據(jù)上下文和語境提供恰當回答，優(yōu)化了GPT-3回答中看似通順但脫離實際的問題（Taecharungroj，2023）。作為一個低門檻、高效率的文字內(nèi)容生產(chǎn)工具，ChatGPT被認為將在智能客服、虛擬人、游戲、教育等領(lǐng)域獲得更大落地，這對于傳統(tǒng)的內(nèi)容生產(chǎn)形態(tài)無疑是一次巨大的沖擊。

三、賦能創(chuàng)新：ChatGPT教育應用的潛能

ChatGPT一經(jīng)推出便引起轟動，成為互聯(lián)網(wǎng)上最受關(guān)注的人工智能應用之一。教育研究者和工作者也紛紛就ChatGPT在教育領(lǐng)域的應用潛力與影響展開探索與討論。有學者認為，ChatGPT具有非常強大的信息搜索與整理能力，能為學生的疑問提供更豐富的答案，并允許學生使用自然語言找到他們所需要的學習資源，這將有望徹底改變基于互聯(lián)網(wǎng)的信息搜索方式（Aljanabi et al.，2023）。它可以成為一個很好的AI助教，在短時間內(nèi)幫助教師和學生制定課程計劃、生成不同級別的問題列表；也能作為智能助理與秘書，輔助學生完成學術(shù)論文、程序和測驗等（儲舒婷，2023）。Zhai（2023）通過ChatGPT進行了一項實驗研究：利用其完成了一篇題為《Artificial Intelligence for Education》的學術(shù)論文，發(fā)現(xiàn)ChatGPT能協(xié)助研究人員完成一篇連貫的、部分準確的、內(nèi)容豐富的論文。他還將ChatGPT應用于科學學習中，并提出四項具體的應用范式：開發(fā)自動評估項目、評估再反饋、個性化學習指導與特殊需求的制定。Rudolph等（2023）探索了ChatGPT在高等教育中的可能應用，包括為教學引入創(chuàng)新性評價、創(chuàng)新教學策略、提供實驗與經(jīng)驗學習、促進協(xié)作學習與團隊合作等。

依據(jù)教育領(lǐng)域人工智能教育應用的基本取向和教學設(shè)計的基本要素（王春麗，2022），本文將ChatGPT在教育中的可能應用劃分為5個方面，如圖1所示。

1.提升教學成果的完成度與創(chuàng)意感

ChatGPT與教育的結(jié)合，能為學生的論文、作業(yè)、測試等提供支持，減少一系列重復性工作，激發(fā)生成具有創(chuàng)意感的內(nèi)容（楊歡等，2022）。一位五年級教師Piercey分享了其利用ChatGPT將一名學生創(chuàng)作的故事重新組合成童謠、連續(xù)劇、兒童讀物的過程（ED TECH，2022）。他詳細解釋了ChatGPT如何潛移默化地在一個五年級學生創(chuàng)作的簡短故事中添加你想增加的元素，例如機器人、隨機角色等，從而構(gòu)建出更豐富的故事。他認為ChatGPT的出現(xiàn)為趣味性的課堂增添了可能性，為學生提供了一些非常獨特的范例，學生能學會如何將寫作內(nèi)容描繪得更加生動和有趣。

ChatGPT不僅能創(chuàng)造出一段寫實的故事、一篇精彩的文章、一首優(yōu)美的詩，還能對寫作類和編程代碼類作業(yè)進行輔導。在寫作方面，ChatGPT通過寫作提示能鼓勵學生更加深入地寫作，提高其批判性思維。并且，ChatGPT能使學生認識不同的寫作體裁與風格，以一種有趣的方式來幫助學生克服寫作時的畏懼感。在輔助編程方面，ChatGPT可以為學生自動生成所需代碼，促進學生將精力聚焦于更具有創(chuàng)造性的創(chuàng)意上。

2.增強數(shù)字導師的角色感與互動性

ChatGPT可以為學生分析、整合已有知識，并提供智能虛擬輔導與服務，使學生獲得個性化的回答和反饋（Qadir，2022），可以作為學生互動學習、語言翻譯與論文評分的數(shù)字導師。

首先，在ChatGPT的支持下，學生能夠以對話方式與虛擬導師進行互動。有研究表明，基于生成式的會話代理可以為學生學習第二語言提供有效的支持，進而提升語言表達能力（Chang et al.，2022）。其次，ChatGPT可以翻譯不同的語言，能為虛擬教師提供教學材料，為學生第二語言學習提供支持。已有研究表明，基于數(shù)據(jù)集訓練的生成模型能夠為學生提供準確的翻譯結(jié)果（Wu et al.，2016）。再次，ChatGPT的數(shù)據(jù)模型能夠精準地識別論文的主要特征，可以為學生的論文評分，使教師能有更多時間來專注于教學其他方面，從而減輕教師的壓力。

國外學者Omar等（2022）嘗試使用ChatGPT強大的語言模型吸引和教育學生。他們分享了ChatGPT作為數(shù)字導師如何訓練學生語言技能和溝通技能的詳細做法。例如在英語課程中，可以將ChatGPT作為對話伙伴，來練習學生的口語、聽力、閱讀和寫作技能，鼓勵學生參與討論，從而加深學習印象；在歷史課堂中，ChatGPT可以針對一個歷史主題，從各種不同角度為學生提供相關(guān)材料，從而幫助學生更加開拓性地思考與討論。可見，ChatGPT能在教與學中扮演數(shù)字導師角色，鍛煉學生多方面的技能（Khan et al.，2023）。

3.提高自適應學習系統(tǒng)的易用性與精準度

ChatGPT能自動化輔助學生多項任務?！芭cChatGPT對話，它會記住你所回復的內(nèi)容，并且如果你不喜歡它回復的內(nèi)容，你可以拓展、精煉回復的內(nèi)容，甚至可以要求它以不同的聲音和方式進行回復?！保ˋlshater，2022）因此，ChatGPT可以被用來創(chuàng)建自適應的學習系統(tǒng)，其模型能自動化理解用戶輸入的任務，并相應地調(diào)整自身輸出內(nèi)容的難度，自主化適應學生學習。教師也可以利用學生的進步和表現(xiàn)來調(diào)整自身教學方法，進而更有效率地完成教學目標。這無疑提高了自適應學習系統(tǒng)的易用性與精準度，為學生個性化學習提供了便利。

同時，ChatGPT還可以為學習有障礙的學生提供自適應服務，有助于促進教育的公平性和包容性。例如，ChatGPT可以為有閱讀障礙的學生提供有聲文本的朗讀以及自動化的學習方法推薦，進而縮小數(shù)字鴻溝，創(chuàng)建學生學習方式的新樣態(tài)。

4.促進教學策略與方式的智慧化與創(chuàng)造性

ChatGPT不僅能為學生帶來便利，還可能引發(fā)教學方式的變革。ChatGPT可以創(chuàng)新教學策略，促進協(xié)作學習與經(jīng)驗學習。

首先，ChatGPT可以結(jié)合不同的教學方式，如基于游戲的教學、基于項目的教學等，通過不同方式賦能智慧化教學的趣味性，提高學習的投入度和體驗感，讓學生獲益。它還能便捷地幫助教師布置隨機的教學任務，生成不同級別且富有創(chuàng)造性的教學問題與答案，使教學策略和方式升級（Topsakal et al.，2022）。已有研究在課堂中借助ChatGPT實施翻轉(zhuǎn)課堂、智慧課堂等教學方式，發(fā)現(xiàn)其有助于提升學生的學習興趣（Rudolph et al.，2023）。

其次，ChatGPT可以幫助教師制定教學計劃、對教學內(nèi)容進行排序，并生成課堂問題，為教師節(jié)省大量尋找教學靈感的時間，這對于新手教師是非常有用的。教師借助ChatGPT，可以使用自然語言輕松地創(chuàng)建定制課程、測驗和其他學習材料，顯著提高教師教學的有效性和效率 （Pfeffer et al.，2023）。如此一來，教師可以將更多時間和精力專注于打造更優(yōu)質(zhì)的教學，為學生提供個性化學習。

最后，在適當教學策略的輔助下，ChatGPT還可以作為不同場景的學習手段，使學生分小組協(xié)作解決對應問題，進而促進學生之間的合作，讓學生在體驗中成長。

5.支持教學反饋與評價的生成性與個性化

教學反饋與評價是教學中非常關(guān)鍵的一環(huán)，有效的反饋能促進學生的理解，保證學習效果（陳明選等，2018）。ChatGPT可以實現(xiàn)個性化的學習指導、開發(fā)自動評估項目與評價再反饋。

首先，ChatGPT通過有針對性地提供學習資源，可以指導學生進行自主學習，獲得必要的知識和技能。已有研究表明，ChatGPT及類似聊天機器人在個性化的學習指導方面具有一定的有效性，能進一步改善學習效果（Aljanabi，2023）。其對話功能可以及時糾正學生的錯誤理解，并提供符合不同年齡段學生知識理解水平的、量身定制的解釋。

其次，ChatGPT可以協(xié)助教師生成個性化的教學評估項目，使教學評價走向公平化。例如，有研究通過ChatGPT開發(fā)了一個與中學生生活現(xiàn)象相關(guān)的評估任務來評估學生的學習表現(xiàn)，包括標題、方向和評估標準，并通過實證研究的方式驗證了此評估項目的有效性（Zhai，2023）。

再次，ChatGPT不僅能協(xié)助評估和報告學生的學習表現(xiàn)，還能對學生的學習表現(xiàn)進行準確分析，并與家長或其他利益相關(guān)者共享。在人類反饋強化學習（RLHF）機制支持下，ChatGPT可以實現(xiàn)對教學評價的再反饋，甚至能分析學生對教學評價的反應。有研究嘗試將一篇文章輸入ChatGPT并要求它提出改進建議，發(fā)現(xiàn)ChatGPT作出的回應又快又準確，且還可監(jiān)控和支持學生完成所有修改（Frieder et al.，2023）。

四、潛在風險：ChatGPT教育應用的挑戰(zhàn)

也有一些學者對ChatGPT在教育中的使用表示擔憂。Alshater（2022）認為ChatGPT存在一定的局限性，包括對數(shù)據(jù)的質(zhì)量存在依賴性、有限的知識領(lǐng)域、倫理問題、過度依賴技術(shù)與存在誤用的可能性等。Baidoo-Anu等（2023）也認為，在教育中使用ChatGPT可能存在缺乏人類的互動、有限的理解、訓練數(shù)據(jù)存在偏差、缺乏創(chuàng)造力、缺乏上下文的理解與泄露隱私等問題。Qadir（2022）還提出，ChatGPT和其他生成式人工智能系統(tǒng)一樣可能會存在偏見，甚至產(chǎn)生和傳播錯誤信息，并引發(fā)一系列倫理問題。當下教育領(lǐng)域最擔心的是ChatGPT會幫助學生完成家庭作業(yè)或作弊，從而有損教育公平。

總的來說，雖然ChatGPT在教育中的應用具有很大潛力，但也存在學業(yè)誠信遭質(zhì)疑、師生過度依賴、信息傳輸不準確、倫理風險難應對等風險與挑戰(zhàn)，如圖2所示。

1.學業(yè)誠信遭質(zhì)疑，評估機制失平衡

ChatGPT能在多門學科中幫助學生完成學習任務，提高教學成果的完成度與創(chuàng)意感，但隨之而來也引發(fā)了學者們對學生學業(yè)誠信的擔憂。有研究者提出，ChatGPT可能會幫助學生實施作弊，使教育評估機制失去平衡，導致教育不公平的問題（Cotton et al.，2023；Ventayen，2023）。有研究者通過測試ChatGPT與真實考生在大學開放性考試中的作答結(jié)果后表示，ChatGPT的推出可能導致在線考試和開放性考試學術(shù)誠信的終結(jié)，因為ChatGPT的考試答案展現(xiàn)出了高度的批判思維和邏輯思維，能在很少的輸入下生成高度逼真的文本，使學生在考試中作弊成為可能（Susnjak，2022）。此外，教務人員也表示很難區(qū)分學生和ChatGPT生成的寫作內(nèi)容，并且當學生使用ChatGPT回答問題時，教務人員很難充分評估學生的真實理解水平。因此，這可能導致已有教育評估機制的失效（Cotton et al.，2023）。達沃斯世界經(jīng)濟論壇人工智能負責人Kay Firth-Butterfield表示：學生提交人工智能生成的內(nèi)容將影響其自我能力的提升，因為“這種行為好比是一個工作機器”。而且，教育領(lǐng)域?qū)θ斯ぶ悄芄ぞ叩姆磻蔷徛?，防止其帶來的風險需多次嘗試和反復調(diào)整才能準確實施（Pomeroy，2022）。當學生依賴人工智能產(chǎn)品，將創(chuàng)作的主權(quán)移交給AI后，學生又能在教育中學到什么呢？我們又如何掌握學生的真實水平呢？這對學業(yè)誠信檢測與評估機制提出了巨大的挑戰(zhàn)。

2.過度依賴生沉迷，教師地位恐弱化

誠然，ChatGPT和其他內(nèi)容生成類模型能為學生提供互動學習，讓學生在互動中受益（Baidoo-Anu et al.，2023）。2014年的一項研究也證明，與模仿人類情感行為的虛擬導師互動的學生學習效果更好（DMello et al.，2014）。但是，學生在多次使用ChatGPT后，很可能會產(chǎn)生一定的依賴心理。尤其在多次使用其協(xié)助完成學習任務并獲得較好的成績后，學生很可能沉迷于其效果。因智能工具產(chǎn)生依賴進而養(yǎng)成惰性心理是有先例的。如早前多有報道學生依賴作業(yè)搜題工具而導致學習成績下降的問題。過度依賴在線工具可能降低學生的創(chuàng)造力，使其將節(jié)省的時間轉(zhuǎn)移至與學習無關(guān)的方面。同時，強大的人工智能輔助工具也對教師的能力提出了更高的要求，教師需具有較強的知識對錯辨別能力，特別是在備課環(huán)節(jié)能做到取其精華與去其糟粕（周潔等，2022）。而且，ChatGPT的過度使用也可能威脅教師在課堂中的地位，導致學生在課堂中不專心聽講，而將解決課后任務的希望寄托于ChatGPT。ChatGPT確實讓知識獲取更加容易、作業(yè)反饋更加便捷、學習模式更加多樣，還能幫助教師節(jié)省文書工作、評分測驗等，但如果師生不能適應ChatGPT帶來的變化，其將帶來怎樣的后果，還不得而知。

3.信息傳輸不準確，知識水平受限制

盡管ChatGPT很像傳統(tǒng)的搜索引擎，可以快速提供大量、豐富的學習信息，但其信息的準確性還無法保證。紐約市教育局就對ChatGPT向?qū)W生傳達的信息表示了擔憂，特別是對其答案的安全性和準確性提出了質(zhì)疑。他們還擔心使用ChatGPT會導致年輕學生變得自滿，致其缺乏評估信息的必備技能（Hsu，2023）。OpenAI（2022）也承認，ChatGPT有時會回復看似合理但不正確或荒謬的答案，因為：（1）在反饋學習（Reinforcement Learning）訓練期間，沒有真實的信息來源；（2）訓練模型較為謹慎導致它會拒絕可以正確回答的問題；（3）監(jiān)督訓練誤導模型的回答。而且，ChatGPT對學生輸入文本的調(diào)整或多次輸入相同文本十分敏感。例如，在ChatGPT中輸入想要詢問的問題，ChatGPT可以聲稱不知道答案，但稍作改寫就可以回答出正確的答案。正因如此，教學中使用ChatGPT時，必須是精確詢問的文本。教師與學生并不能完全信任它。還有研究者指出，OpenAI上線ChatGPT時，其訓練模型的數(shù)據(jù)受制于2021年，對2021年之后的世界的認知是有限的，對某些特殊人群的相關(guān)問題也知之甚少，尤其是對理科方面的內(nèi)容掌握程度較低（Qadir，2022）。此外，ChatGPT無法與活躍的互聯(lián)網(wǎng)相連接，無法從社交媒體中獲取任何信息，數(shù)據(jù)集存在封閉性，所以生成不正確的信息是可能的。如果ChatGPT為學生生成的是一個圍繞特定搜索主題的虛假閱讀列表，那么ChatGPT能為教學提供便利的基礎(chǔ)又何在呢？

4.倫理意識未加強，倫理風險難應對

人工智能倫理是指在道德上約束人工智能開發(fā)、管理、應用等應遵守的一切倫理原則和行為規(guī)范。隨著人工智能的飛速發(fā)展，教育工作者們也必須具有一定的倫理意識。在ChatGPT為學生提供個性化的教學反饋時，以下三種倫理問題值得注意：數(shù)據(jù)隱私、偏見性與所有權(quán)，如圖3所示。

第一， 數(shù)據(jù)隱私。為了獲得ChatGPT對特定問題的解決方案，師生需要輸入大量與之相關(guān)的數(shù)據(jù)和資料。ChatGPT在識別數(shù)據(jù)并為使用者提供滿意的答復時，儲存的數(shù)據(jù)卻有可能被泄露。教育機構(gòu)尤其是學校對第三方在未經(jīng)同意的情況下如何正確使用學生數(shù)據(jù)表示擔憂。

第二， 偏見性。ChatGPT是一個大型的語言模型，雖然被訓練了幾百萬個數(shù)據(jù)點，包括了大量的文本與書籍，但由于其學習到的知識僅來自于訓練數(shù)據(jù)中的統(tǒng)計規(guī)律，缺乏語境理解能力，無法像人類一樣能對世界進行復雜和系統(tǒng)地了解，因此常具有攻擊性和偏見性的反饋內(nèi)容（Baidoo-Anu et al.，2023）。

第三， 所有權(quán)。ChatGPT為教師與學生生成的所有內(nèi)容能否被直接使用需要評估。雖然ChatGPT代寫編程代碼、擴寫生動故事等能力在短時間內(nèi)已獲得廣泛認可，但這種生成性模型只能根據(jù)它們的訓練數(shù)據(jù)模式生成響應，并不具備創(chuàng)新性和獨創(chuàng)性。換句話說，ChatGPT的響應是匯聚數(shù)據(jù)庫中數(shù)據(jù)的成果，這些作品的所有權(quán)又該屬于誰呢？而后產(chǎn)生的一系列風險又應該由誰來承擔呢（Pavlik，2023）？這需引起人們的高度重視。

五、未來教育的發(fā)展之路：ChatGPT引發(fā)的思考

無論ChatGPT為教育領(lǐng)域帶來的是機遇還是風險，其作為一種變革性力量，已經(jīng)在全球各個領(lǐng)域引發(fā)廣泛關(guān)注。智能技術(shù)的快速發(fā)展，勢必進一步引發(fā)教育的深刻變革。應如何正確謹慎地使用ChatGPT，積極吸納ChatGPT帶來的教育創(chuàng)新，同時制定合理使用的準則與標準以規(guī)避其風險，不僅關(guān)乎教育人工智能的創(chuàng)新融入，也影響著未來教育的發(fā)展方向。基于此，本文構(gòu)建了未來ChatGPT教育應用的優(yōu)化路徑，如圖4所示。

1.發(fā)展評估策略，重塑學術(shù)誠信

當前人們對ChatGPT在教育中應用的最大擔憂，即是其可能引發(fā)學生作弊和學術(shù)不端現(xiàn)象。當前已有教育部門、高校、出版機構(gòu)出臺ChatGPT的使用禁令。但是堵不如疏。如何做好應對策略，才是教學管理者和有關(guān)機構(gòu)應該重點關(guān)注的問題。一方面，教育機構(gòu)應該加大對學生的誠信教育，幫助其認識學業(yè)誠信的重要性以及剽竊和作弊引發(fā)后果的嚴重性；同時鼓勵學生原創(chuàng)。另一方面，教師要改進教學方式，設(shè)定明確的期望和指導方針，跟蹤學生進度，定期審查學生的作業(yè)進度，或要求學生上交作業(yè)草稿以供審閱，及早發(fā)現(xiàn)學生問題并解決。此外，研究機構(gòu)或企業(yè)也要積極進行產(chǎn)品研發(fā)，開發(fā)或改良誠信檢測的軟件或工具，幫助識別采用ChatGPT等智能工具輔助的成果。Turnitin檢測軟件承諾于2023年將最新的人工智能生成檢測功能（包括識別ChatGPT生成文本）整合于已上市的監(jiān)測產(chǎn)品中，這有助于解決學業(yè)誠信問題（Riley，2023）。

2.分割教學責任，加強情感互動

教育應以學生的發(fā)展為第一要義。ChatGPT可以作為數(shù)字導師，輔助教師教學，但在ChatGPT與教師之間，需明確各自的角色、任務與責任。教師要合理應用ChatGPT的技術(shù)功能，注重師生情感交流，增強人文關(guān)懷。學生可以將ChatGPT作為學習輔導工具，但不能形成慣性依賴。家長需積極配合教師，正確引導、監(jiān)督學生使用ChatGPT。教學管理者要制定合理的政策與規(guī)范，協(xié)調(diào)學生、教師以及技術(shù)工具三者之間的關(guān)系，營造積極、健康的教學環(huán)境。

3.加速技術(shù)革新，促進教育發(fā)展

當前ChatGPT技術(shù)本身還存在缺陷，需不斷優(yōu)化和升級，以適應不同行業(yè)、領(lǐng)域的需求。2023年1月9日，OpenAI實驗室對ChatGPT模型進行了最新一輪的改進，改進后ChatGPT能在更廣泛的主題上進行響應，并提高了回答的真實性（Akhter et al.，2023）。此外，教師和學生在借助ChatGPT進行內(nèi)容創(chuàng)作時必須明確，ChatGPT只是輔助工具，其“理解”和“創(chuàng)新”只是淺層的。ChatGPT能否被很好地應用于教育，取決于教育工作者能否發(fā)現(xiàn)正確使用ChatGPT的途徑。教育的核心是人，技術(shù)只是工具。只有明確人與工具的關(guān)系，才能在教育中更好地發(fā)揮技術(shù)的功效，促進教育的發(fā)展。

4.制定倫理指南，監(jiān)督應用方式

在倫理方面，應加快提升教育各層人士的人工智能倫理素養(yǎng)，強化“倫理先行”意識，加強自律自治，共同打造ChatGPT教育應用的良性發(fā)展生態(tài)。具體而言，一方面要制定ChatGPT等內(nèi)容生成類智能工具的使用與應用指南，明確倫理界限；另一方面要加強倫理教育，確保學生、教師、管理者等了解倫理指南，并在學習與教學中以合乎倫理的方式使用ChatGPT。如可以將批判性思維與倫理元素納入教學課程中，幫助學生培養(yǎng)負責任地使用ChatGPT所需要的技能和習慣。此外，還應綜合應用多種舉措，監(jiān)督ChatGPT在教育環(huán)境下的使用，以防止不當應用行為的出現(xiàn)。

參考文獻：

[1]陳明選，王詩佳（2018）.測評大數(shù)據(jù)支持下的學習反饋設(shè)計研究[J].電化教育研究，39（3）：35-42，61.

[2]儲舒婷（2023）.ChatGPT火熱“出圈”，我們?nèi)绾螒獙π绿魬?zhàn)[N].文匯報，2023-02-05（003）.

[3]李白楊，白云，詹希旎等（2022）.人工智能生成內(nèi)容（AIGC）的技術(shù)特征與形態(tài)演進[J/OL].圖書情報知識.https：//kns.cnki.net/kcms/detail/42.1085.G2.20221128.1005.002.html.

[4]王春麗（2022）.國際組織的人工智能教育應用觀：技術(shù)、實踐及挑戰(zhàn)[J].比較教育研究，44（10）：86-93，102.

[5]王諾，畢學成，許鑫（2022）.先利其器：元宇宙場景下的AIGC及其GLAM應用機遇[J].圖書館論壇，43（2）：117-124.

[6]王樹義，張慶薇（2023）.ChatGPT給科研工作者帶來的機遇與挑戰(zhàn)[J/OL].圖書館論壇.https：//kns.cnki.net/kcms/detail

//44.1306.g2.20230223.2231.002.html.

[7]楊歡，劉世清（2022）.人工智能背景下教育風險的規(guī)避策略研究[J].電腦知識與技術(shù)，18（8）：81-82，87.

[8]張新新，夏翠娟，肖鵬等（2022）.共創(chuàng)元宇宙：理論與應用的學科場景[J].信息資源管理學報，12（5）：139-148.

[9]周潔，蔡燃，宋偉等（2022）.中小學人工智能教育的開展困境與實施路徑探究[J].計算機教育，331（7）：7-11.

[10]朱光輝，王喜文（2023）.ChatGPT的運行模式、關(guān)鍵技術(shù)及未來圖景[J/OL].新疆師范大學學報（哲學社會科學版）. DOI：10.14100/j.cnki.65-1039/g4.20230217.001.

[11]Akhter， H. M.， Cooper， J. S.， & Cooper， J. （2023）. Acute Pulmonary Edema After Hyperbaric Oxygen Treatment： A Case Report Written with ChatGPT Assistance[J]. Cureus， 15（2）：e34752.

[12]Aljanabi， M. （2023）. ChatGPT： Future Directions and Open Possibilities[J]. Mesopotamian Journal of CyberSecurity， 2023：16-17.

[13]Aljanabi， M.， Ghazi， M.， & Ali， A. H. et al. （2023）. ChatGpt： Open Possibilities[J]. Iraqi Journal For Computer Science and Mathematics， 4（1）：62-64.

[14]Alshater， M. （2022）. Exploring the Role of Artificial Intelligence in Enhancing Academic Performance： A Case Study of ChatGPT [EB/OL]. [2023-01-15]. https：//papers.ssrn.com/sol3/

papers.cfm？abstract_id=4312358.

[15]Baidoo-Anu， D.， & Owusu Ansah， L. （2023）. Education in the Era of Generative Artificial Intelligence （AI）： Understanding the Potential Benefits of ChatGPT in Promoting Teaching and Learning[EB/OL]. [2023-01-13]. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=4337484.

[16]Chang， C. Y.， Hwang， G. J.， & Gau， M. L. （2022）. Promoting Students Learning Achievement and Self-Efficacy： A Mobile Chatbot Approach for Nursing Training[J]. British Journal of Educational Technology， 53（1）：171-188.

[17]Cotton， D. R.， Cotton， P. A.， & Shipway， J. R. （2023）. Chatting and Cheating. Ensuring academic integrity in the Era of ChatGPT[EB/OL]. [2023-01-15]. https：//edarxiv.org/mrz8h？trk=public_post_main-feed-card_reshare-text.

[18]DMello， S.， Craig， S.， & Witherspoon， A. et al. （2014）. Affective and Learning-Related Dynamics During Interactions with an Intelligent Tutoring System[J]. International Journal of Human-Computer Studies， 72（6）：415-435.

[19]ED TECH （2022）. ChatGPT， Chatbots and Artificial Intelligence in Education[EB/OL]. [2023-01-17]. https：//ditchthattextbook.com/ai/.

[20]Euchner， J. （2023）. Almost Human[J]. Research-Technology Management， 66（2）：10-11.

[21]Frieder， S.， Pinchetti， L.， & Griffiths， R. R. et al. （2023）. Mathematical Capabilities of ChatGPT[EB/OL]. [2023-01-16]. https：//arxiv.org/abs/2301.13867.

[22]George， A. S.， & George， A. H. （2023）. A Review of ChatGPT AIs Impact on Several Business Sectors[J]. Partners Universal International Innovation Journal， 1（1）：9-23.

[23]Hirosawa， T.， Harada， Y.， & Yokose， M. et al. （2023）. Diagnostic Accuracy of Differential-Diagnosis Lists Generated by Generative Pretrained Transformer 3 Chatbot for Clinical Vignettes with Common Chief Complaints： A Pilot Study[J]. International Journal of Environmental Research and Public Health， 20（4）：3378.

[24]Hsu， J. （2023）. Should Schools Ban AI Chatbots[EB/OL]. [2023-01-16]. https：//www.sciencedirect.com/science/article/pii/

S0262407923000994.

[25]Hurst， L. （2022）. ChatGPT： Why the Human-Like AI Chatbot Suddenly Has Everyone Talking[EB/OL]. [2023-01-15]. https：//www.euronews.com/next/2022/12/14/chatgpt-why-the-

human-like-ai-chatbot-suddenly-got-everyone-talking.

[26]Khan， R. A.， Jawaid， M.， & Khan， A. R. et al. （2023）. ChatGPT-Reshaping Medical Education and Clinical Management[J]. Pakistan Journal of Medical Sciences， 39（2）：605-607.

[27]Omar， F. （2022）. Chatgpt in Education Engaging and Educating Students with a Powerful Language Model[EB/OL]. [2023-01-13]. https：//www.youtube.com/watch？v=XXnc2T879kQ.

[28]OpenAI （2022）. ChatGPT： Optimizing Language Models for Dialogue[EB/OL]. [2023-01-12]. https：//openai.com/blog/chatgpt/.

[29]Pavlik， J. V. （2023）. Collaborating with ChatGPT： Considering the Implications of Generative Artificial Intelligence for Journalism and Media Education[J/OL]. [2023-01-13]. https：//journals.sagepub.com/doi/abs/10.1177/10776958221149577.

[30]Pfeffer， O. P.， Sailer， M.， & Schmidt， A. et al. （2023）. ChatGPT for Good？ On Opportunities and Challenges of Large Language Models for Education[EB/OL]. [2023-01-15]. https：//www.edu.sot.tum.de/fileadmin/w00bed/hctl/_my_direct_uploads/ChatGPT_for_Good_.pdf.

[31]Pomeroy， R. （2022）. The Promises and Perils of AI - Stuart Russell on Radio Davos[EB/OL]. [2023-02-01]. https：//www.weforum.org/agenda/2022/01/artificial-intelligence-stuart-

russell-radio-davos/.

[32]Qadir， J. （2022）. Engineering Education in the Era of ChatGPT： Promise and Pitfalls of Generative AI for Education [EB/OL]. [2023-01-15]. https：//www.techrxiv.org/articles/preprint/Engineering_Education_in_the_Era_of_ChatGPT_Promise_and_

Pitfalls_of_Generative_AI_for_Education/21789434.

[33]Riley， S. （2023）. ChatGPT， Friend or Foe in the Classroom[EB/OL]. [2023-01-17]. https：//otl.du.edu/chatgpt-

friend-or-foe-in-the-classroom/.

[34]Rudolph， J.， Tan， S.， & Tan， S. （2023）. ChatGPT： Bullshit Spewer or the End of Traditional Assessments in Higher Education？[J]. Journal of Applied Learning and Teaching， 6（1）：1-22.

[35]Shen， Y.， Heacock， L.， & Elias， J. et al. （2023）. ChatGPT and Other Large Language Models Are Double-Edged Swords[EB/OL]. [2023-01-13]. https：//pubs.rsna.org/doi/abs/10.1148/

radiol.230163？journalCode=radiology.

[36]Susnjak， T. （2022）. ChatGPT： The End of Online Exam Integrity？[EB/OL]. [2023-01-12]. https：//arxiv.org/abs/2212.09292.

[37]Taecharungroj， V. （2023）. “What Can ChatGPT Do？” Analyzing Early Reactions to the Innovative AI Chatbot on Twitter[J]. Big Data and Cognitive Computing， 7（1）：35.

[38]Tate， T.， Doroudi， S.， & Ritchie， D. et al. （2023）. Educational Research and AI-Generated Writing： Confronting The Coming Tsunami[EB/OL]. [2023-01-16]. https：//edarxiv.org/4mec3/download？format=pdf.

[39]Topsakal， O.， & Topsakal， E. （2022）. Framework for A Foreign Language Teaching Software for Children Utilizing AR， Voicebots and ChatGPT （Large Language Models）[J]. The Journal of Cognitive Systems， 7（2）：33-38.

[40]Ventayen， R. J. M. （2023）. OpenAI ChatGPT Generated Results： Similarity Index of Artificial Intelligence-Based Contents[EB/OL]. [2023-01-13]. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=4332664.

[41]Wu， Y.， Schuster， M.， & Chen， Z. et al. （2016）. Googles Neural Machine Translation System： Bridging the Gap Between Human and Machine Translation[EB/OL]. [2023-01-12]. https：//arxiv.org/abs/1609.08144.

[42]Zhai， X. （2023）. ChatGPT for Next Generation Science Learning[EB/OL]. [2023-01-12]. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=4331313.

收稿日期 2023-02-16 責任編輯 汪燕

“Aladdins Lamp” or “Pandoras Box”：

The Potential and Risks of ChatGPTs Educational Application

WANG Youmei， WANG Dan， LIANG Weiyi， LIU Chenchen

Abstract： ChatGPT， an intelligent chatbot model， has attracted a lot of attention from educational researchers and workers because of its features of generating natural language text in response to user input and supporting continuous multi-round dialogues with contextual understanding. As a typical application of AIGC， how will ChatGPT change education？ Is it an “Aladdins Lamp” or “Pandoras Box” of education？ On the one hand， ChatGPT has the potential to empower teaching innovation， enhance the completion and creativity of teaching outcomes， strengthen the role and interactivity of digital tutors， improve the ease of use and accuracy of adaptive learning systems， promote the wisdom and creativity of teaching strategies and methods， and support the generativity and personalization of teaching feedback and evaluation. On the other hand， the application of ChatGPT in education may also lead to four types of risks， including questionable academic integrity and unbalanced assessment mechanisms， over-reliance on student addiction and the weakening status of teachers， inaccurate information transmission and limited knowledge， and unenforced ethical awareness and difficulty in dealing with ethical risks. Obviously， as a phenomenal generative AI application， ChatGPT may trigger a profound change in education. Educators should use it cautiously and actively， incorporating the educational innovations brought by ChatGPT， while avoiding the possible educational risks by developing assessment strategies， dividing teaching responsibilities， accelerating technological innovation and developing ethical guidelines.

Keywords： Artificial Intelligence; ChatGPT; AIGC; Educational Potential; Education Risk