[摘要]以ChatGPT為代表的生成式人工智能在教育領(lǐng)域的快速發(fā)展，隨之帶來的各種潛在風(fēng)險也引起了教育界的高度重視，如濫用ChatGPT生成內(nèi)容導(dǎo)致的潛在倫理風(fēng)險、生成內(nèi)容可靠性難以甄別智能、使用者隱私和信息安全存在風(fēng)險等。為了規(guī)范生成式人工智能技術(shù)在教育領(lǐng)域的應(yīng)用，推進教育數(shù)字化轉(zhuǎn)型和教育高質(zhì)量發(fā)展，探究生成式人工智能技術(shù)對高等教育的挑戰(zhàn)成為加強規(guī)范其應(yīng)用和管理的重點。

[關(guān)鍵詞]ChatGPT；生成式人工智能；高等教育；挑戰(zhàn)

[中圖分類號]TP18；G64? ? ? [文獻標(biāo)識碼]A

[DOI]：10.20122/j.cnki.2097-0536.2023.11.041

一、以ChatGPT為代表的生成式人工智能對高等教育的影響

2023年2月，中共中央、國務(wù)院印發(fā)的《數(shù)字中國建設(shè)整體布局規(guī)劃》強調(diào)要大力推行國家教育數(shù)字化戰(zhàn)略行動，促進數(shù)字技術(shù)在教育領(lǐng)域的創(chuàng)新應(yīng)用。黨的二十大報告也明確了要推進教育數(shù)字化，使教育教學(xué)與信息技術(shù)進一步融合，加快教育數(shù)字化轉(zhuǎn)型。2023年2月13日，關(guān)于“數(shù)字變革與教育未來”的世界數(shù)字教育大會是推進教育數(shù)字化轉(zhuǎn)型的重要舉措。

教育數(shù)字化轉(zhuǎn)型是為了適應(yīng)當(dāng)今數(shù)字技術(shù)發(fā)展的必然趨勢，也是推進教育高質(zhì)量發(fā)展的有效方式，推進教育數(shù)字化轉(zhuǎn)型已經(jīng)成為世界各國的共識與趨勢。近年來，世界各國都在加快人工智能在高等教育領(lǐng)域的布局，以智能技術(shù)驅(qū)動教育理念的更新、教育模式的變革和教育體系的重構(gòu)[1]。人工智能技術(shù)早已潛移默化地融入教學(xué)中，而以ChatGPT為代表的生成式人工智能的問世以及其帶來的各種潛在風(fēng)險仍在教育界引起了軒然大波，也從側(cè)面印證了教育數(shù)字化轉(zhuǎn)型的緊迫性和必要性。

ChatGPT（Chat Generative Pre-trained Transformer，即聊天生成式預(yù)訓(xùn)練模型）是一款由美國人工智能研究公司OpenAI開發(fā)的人工智能技術(shù)驅(qū)動的自然語言處理工具，使用了Transformer神經(jīng)網(wǎng)絡(luò)架構(gòu)，通過連接大量的語料庫來訓(xùn)練模型，擁有接近人類水平的語言理解和文本生成能力，具有出色地回答各種復(fù)雜問題答案、撰寫視頻文案、編輯代碼等能力。ChatGPT可以通過自然語言交流，根據(jù)多輪次的對話互動，通過推理指令之間的關(guān)聯(lián)性，實現(xiàn)用戶學(xué)習(xí)和工作上的多種要求，人們可以直觀地體會到生成式人工智能技術(shù)對于工作和學(xué)習(xí)效率的提升。據(jù)在專業(yè)考試方面的測試顯示，ChatGPT基本可以通過谷歌L3級軟件工程師水平測試、美國執(zhí)業(yè)醫(yī)師資格考試、美國司法考試中的證據(jù)和侵權(quán)行為測試等[2]，因此上線五天之內(nèi)用戶突破100萬，三個月內(nèi)注冊數(shù)過億，成為迄今為止用戶增長速度最快的AI應(yīng)用程序。

一項調(diào)查顯示，截止ChatGPT上線三個月內(nèi)，美國有89%的大學(xué)生都在使用ChatGPT完成作業(yè)，其在教育領(lǐng)域的廣泛應(yīng)用迅速引起了教育界的重視，所帶來的挑戰(zhàn)和風(fēng)險更是熱議不斷。美國紐約市教育局率先禁止學(xué)生使用ChatGPT，中國香港大學(xué)也隨之嚴(yán)禁學(xué)生使用ChatGPT及其他人工智能工具完成作業(yè)和評估，也有學(xué)校和組織允許學(xué)生基于學(xué)術(shù)誠信原則合乎道德地使用ChatGPT輔助學(xué)習(xí)、但要求在引用其回答時必須明確標(biāo)注。ChatGPT的優(yōu)勢顯而易見，它可以為學(xué)生提供各個領(lǐng)域的學(xué)習(xí)支持和輔導(dǎo)，并展現(xiàn)出較強的能力，但其在實際使用過程中仍存在大量的風(fēng)險。如何應(yīng)對ChatGPT所帶來的挑戰(zhàn)，采取應(yīng)對策略賦能教學(xué)創(chuàng)新，推進以ChatGPT為代表的人工智能合理有效地推動教育數(shù)字化變革，是教育界迫切需要思考的問題。

二、以ChatGPT為代表的生成式人工智能對高等教育的挑戰(zhàn)

（一）學(xué)生濫用ChatGPT生成內(nèi)容導(dǎo)致的潛在倫理風(fēng)險

相比傳統(tǒng)搜索引擎，ChatGPT能夠幫助學(xué)生更加便捷地查閱和獲得信息；但與此同時，由于ChatGPT具有強大的信息快速生成能力，生成的內(nèi)容語言流暢、邏輯結(jié)構(gòu)清晰，且與人類語言習(xí)慣和思維方式高度相似，這就導(dǎo)致學(xué)生濫用生成內(nèi)容完成作業(yè)和論文可能性的出現(xiàn)，最終導(dǎo)致抄襲、剽竊等惡劣學(xué)術(shù)行為，干擾正常的教學(xué)秩序，引發(fā)關(guān)于學(xué)術(shù)誠信危機的倫理問題，對學(xué)術(shù)生態(tài)產(chǎn)生惡劣影響，這也是目前教育界對于ChatGPT等生成式人工智能主要的擔(dān)憂之一。面對ChatGPT“便捷式”學(xué)習(xí)的誘惑，部分學(xué)生逐漸養(yǎng)成學(xué)習(xí)惰性，甚至過度依賴于這種“投喂式”學(xué)習(xí)模式，不愿去主動探索新的知識和技能，失去學(xué)習(xí)動力和能力，最終導(dǎo)致學(xué)習(xí)主體性被智能技術(shù)異化。倘若學(xué)生長期依賴ChatGPT的智能推薦，這種碎片化的學(xué)習(xí)方式容易導(dǎo)致信息渠道和信息內(nèi)容的窄化，學(xué)生難以接收更全面、更豐富的信息，可能喪失對系統(tǒng)知識的通盤掌握[3]。

高等教育的目標(biāo)是培養(yǎng)高素質(zhì)的創(chuàng)新人才，創(chuàng)新人才的培養(yǎng)是各個領(lǐng)域的核心競爭力，而學(xué)生錯誤依賴于ChatGPT而失去學(xué)習(xí)能力的情況會導(dǎo)致創(chuàng)新人才培養(yǎng)困難。同時，學(xué)生使用ChatGPT所生成的內(nèi)容時，無法保證其對生成內(nèi)容完全理解和掌握，無法進一步將知識進行有效運用，這就失去了教育的最根本意義。另外，以ChatGPT為代表的生成式人工智能目前只能在部分地區(qū)使用，無法惠及到教育的所有群體，這種差異也會造成教育的不公平性。

人工技術(shù)的過多干預(yù)會導(dǎo)致教育中情感逐漸淡漠，甚至?xí)?dǎo)致缺失的情況。在老師的教學(xué)過程中，傳授知識的同時也會在師生間產(chǎn)生共同的情感體驗和共鳴，這不僅是知識的教育過程，也是立德樹人的過程，老師在教育過程中對學(xué)生情感道德的引導(dǎo)也是重要的環(huán)節(jié)。而ChatGPT生成信息的過程則缺乏了與學(xué)生的情感交流互動，可能導(dǎo)致情感和道德淡漠，將直接影響學(xué)生今后在生活工作中的人際關(guān)系。

ChatGPT本身也隱藏倫理風(fēng)險，雖然其沒有自主價值觀判斷能力，但所獲取的數(shù)據(jù)庫內(nèi)容大多數(shù)來自于反映西方的價值觀的網(wǎng)站、論壇、新聞等，包含價值觀、邏輯性、意識形態(tài)等內(nèi)的隱性內(nèi)容；ChatGPT的算法編制者本身也可能存在不同于我國主流思想的意識形態(tài)和道德準(zhǔn)則，甚至可能會把個人偏見滲透入數(shù)據(jù)和算法中，因此輸出的信息可能存在文化偏見，不能夠保證正確性和真實性；另外，ChatGPT的研發(fā)公司OpenAI是在美國成立的人工智能研究公司，無法排除其被美國政府或者其他資本主義意識形態(tài)利用的可能性，甚至可能利用“算法霸權(quán)”等手段對學(xué)生進行錯誤意識形態(tài)植入?？此瓶陀^、公證、科學(xué)的算法技術(shù)，可能蘊含著算法制造者的政治偏見、民族偏見和性格偏見等[4]。

（二）學(xué)生難以甄別生成內(nèi)容可靠性

數(shù)據(jù)、算法和算力作為ChatGPT等生成式人工智能的三大要素具有不透明性和不可解釋性。其核心支撐的數(shù)據(jù)主要來源于大量的西方公共語料庫，如維基百科、新聞報道、社交媒體、電子書籍等；其原始數(shù)據(jù)，即預(yù)訓(xùn)練語料庫在分布上也存在傾斜，大部分是以英文數(shù)據(jù)為主，反映的也是西方國家的價值觀，契合資本主義意識形態(tài)；其內(nèi)容的可信度和真實性都無法得到保障，并不適合我國主流意識形態(tài)。因此，如果不恰當(dāng)使用西方數(shù)據(jù)為主的生成式人工智能，可能會對學(xué)生的思想教育產(chǎn)生潛在的不良影響，影響學(xué)生的價值觀和意識形態(tài)，加劇偏見價值的傳播。

由于學(xué)生無法檢索ChatGPT生成內(nèi)容的出處，還可能會引發(fā)關(guān)于在不知情使用的情況下侵犯數(shù)據(jù)所有權(quán)、使用權(quán)等風(fēng)險，導(dǎo)致無意識的學(xué)術(shù)造假和抄襲。對于一些新興領(lǐng)域或者具有難度的問題，ChatGPT甚至?xí)慑e誤答案，但這些模擬人類語言的看似具有邏輯性的錯誤答案具有迷惑性，學(xué)生難以甄別其正確性和可靠性。OpenAI自己發(fā)布的使用條款中也提到，ChatGPT存在生成有害建議、錯誤代碼或不準(zhǔn)確信息的風(fēng)險，并可能產(chǎn)生負(fù)面的社會影響。普林斯頓大學(xué)計算機科學(xué)教授Arvind Narayanan發(fā)表推特：“我嘗試了一些基本的信息安全問題，在大多數(shù)情況下，答案聽起來似乎有理，但實際上漏洞百出?！?/p>

ChatGPT的算法的運作過程具有不透明性，其本質(zhì)就是一個基于統(tǒng)計學(xué)方式的猜詞模型，通過在大量的數(shù)據(jù)庫中歸納語言規(guī)律，總結(jié)單詞之間的搭配使用，根據(jù)與用戶的對話內(nèi)容和上文的單詞的慣用搭配預(yù)測下一個單詞，模仿人類語言對單詞和語句進行搭配組合，而不是通過理解文字的邏輯結(jié)構(gòu)產(chǎn)生文本，其底層邏輯仍然是歸納并非創(chuàng)新，無法創(chuàng)造新的科學(xué)知識，也無法保證正確性和科學(xué)性。ChatGPT所追求的是語義連貫而非正確的回答，這就導(dǎo)致它總是在圍繞一個話題進行反復(fù)解釋，產(chǎn)生沒有任何創(chuàng)新觀點的“流利的廢話”。

SimilarWeb的數(shù)據(jù)顯示，在2023年1月期間，平均每天約有1300萬用戶在使用ChatGPT。這種驚人的使用量對背后的算力提出了極高的要求，也需要先進的技術(shù)和巨大的財力來支撐。而目前我國能和OpenAI這種掌握先進技術(shù)和強大算力水平相比的公司卻是少之又少，這就可能導(dǎo)致將學(xué)生推向使用西方國家的人工智能軟件，而西方人工智能不可避免的滲透了不同文化和價值觀，容易對學(xué)生的意識形態(tài)產(chǎn)生錯誤導(dǎo)向。

（三）學(xué)生隱私和信息安全存在風(fēng)險

OpenAI還未公布ChatGPT如何對用戶個人隱私和數(shù)據(jù)安全進行保護。在用戶的使用過程中，ChatGPT可以通過用戶在注冊賬戶時提供的銀行支付信息、通信地址信息等悄無聲息地收集到各種身份信息，還可以在用戶使用軟件時收集到IP地址、設(shè)備、操作系統(tǒng)、瀏覽器等相關(guān)的技術(shù)信息。在信息技術(shù)已經(jīng)和人類生活密不可分的如今，用戶信息似乎已經(jīng)不再是秘密，但是最令人擔(dān)憂的是，相比其他技術(shù)，ChatGPT生成式人工智能的運行方式是與學(xué)生直接對話，在進行多輪次的互動中便逐漸掌握了其興趣偏好、學(xué)習(xí)習(xí)慣、學(xué)習(xí)需求等大量私人信息，一旦這些隱私信息被第三方所獲取并加以利用，將會造成嚴(yán)重的后果。ChatGPT在其隱私政策中也聲明，它有權(quán)與各種實體共享用戶信息，包括附屬公司、業(yè)務(wù)合作伙伴、服務(wù)提供商和執(zhí)法部門。因此，學(xué)生信息的披露風(fēng)險成為ChatGPT在教育領(lǐng)域應(yīng)用中的重大隱患之一，如果平臺和監(jiān)管機構(gòu)不采取相關(guān)保護措施，不法分子就很容易通過竊取個人信息實施違法犯罪活動。

三、結(jié)語

以ChatGPT為代表的生成式人工智能的崛起，意味著人工智能的一次重大變革，也會對高等教育的教學(xué)方式產(chǎn)生重大影響，如何應(yīng)對人工智能在賦能教育發(fā)展同時帶來的風(fēng)險是教育界需要思考的新問題。通過研究其存在的潛在風(fēng)險，積極地探尋應(yīng)對策略，是將生成式人工智能積極地融入教育教學(xué)的有效方式，也是推進教育數(shù)字化轉(zhuǎn)型的重要環(huán)節(jié)。教育界應(yīng)該以開放的思想和廣闊的視角接納其在教育領(lǐng)域的影響，以科學(xué)理性、謹(jǐn)慎的態(tài)度把握該項技術(shù)的本質(zhì)特征，并有效運用到教學(xué)中。相關(guān)教育部門和高等院校必須加快更新、制定與時俱進的高等教育課程規(guī)劃和新時代人才培養(yǎng)方案，推動教育數(shù)字化轉(zhuǎn)型，以應(yīng)對高速發(fā)展的人工智能技術(shù)對高校教育巨大的沖擊和挑戰(zhàn)。

參考文獻：

[1]蓋君芳，黃寶忠.教育人工智能：新的革命[J].浙江大學(xué)學(xué)報（人文社會科學(xué)版），2022，52（6）：53-65.

[2]盧宇，余京蕾，陳鵬鶴，等.生成式人工智能的教育應(yīng)用與展望——以ChatGPT系統(tǒng)為例[J].中國遠(yuǎn)程教育，2023，43（4）：24-31+51.

[3]馮雨奐.ChatGPT在教育領(lǐng)域的應(yīng)用價值、潛在倫理風(fēng)險與治理路徑[J].思想理論教育，2023（4）：26-32.

[4]馮建軍.網(wǎng)絡(luò)公民教育：智能時代道德教育的新要求[J].倫理學(xué)研究，2022（3）：1-9.

作者簡介：張玥（1990.10-），女，漢族，江蘇連云港人，博士，講師，研究方向：教育學(xué)。