摘要：作為生成性人工智能的代表，ChatGPT火遍全網(wǎng)，也引發(fā)了全球各級各類學校教育工作者的高度關注。它到底是學校教育的朋友還是敵人？文章在簡要介紹ChatGPT及其教育意義的基礎上，將ChatGPT置于教育科技的百年歷史中加以審視，并從技術哲學的視角分別剖析了ChatGPT作為學校教育的“朋友”的創(chuàng)新應用和作為“敵人”的威脅與隱憂，最后給出了科學合理、合乎學術規(guī)范地使用ChatGPT的意見和建議，以期為一線教育工作者使用生成性人工智能提供具體、可操作的規(guī)范指引。

關鍵詞：ChatGPT；人工智能；大型語言模型；教育科技

【中圖分類號】G40-057 【文獻標識碼】A 【論文編號】1009—8097（2023）04—0005—11 【DOI】10.3969/j.issn.1009-8097.2023.04.001

引言

ChatGPT是一種基于人工智能技術的能與用戶進行自然語言交互的聊天機器人，它對機器學習自然語言處理模型進行了擴展，稱為大語言模型（Large Language Model，LLM），能夠讀取學習大量文本數(shù)據(jù)，并推斷文本中單詞之間的關系。作為一種基于自然語言處理技術、利用深度學習算法進行訓練的人工智能程序，ChatGPT可以通過大量的文本數(shù)據(jù)來學習和理解人類的語言和語義，與人類進行基于自然語言的對話交流[1]。這使其成為生成性人工智能技術的代表，一經(jīng)問世，便在全球互聯(lián)網(wǎng)界掀起了驚濤駭浪。在發(fā)布的短短五天時間之內(nèi)，注冊用戶就超過百萬；只用了短短2個月時間，用戶數(shù)量就實現(xiàn)過億，創(chuàng)下了人類消費類應用程序流行度方面的歷史新記錄[2]。

ChatGPT一石激起千層浪，引發(fā)了全球互聯(lián)網(wǎng)龍頭企業(yè)（尤其是微軟、谷歌、百度、Meta等）圍繞搜索引擎相關業(yè)務展開的搜索引擎大戰(zhàn)，一時狼煙四起。與此同時，科技、教育、哲學等領域，也就ChatGPT類的大型語言模型和相關人工智能技術展開了激烈的爭論。有人將其視為人類科技史上非凡的成就和巨大的進步[3]，但也有人稱其為“高科技剽竊”和“逃避學習的方式”[4]；有人說它是論文和寫作的革命性工具，但也有人表示大學中的論文和英語課程中的寫作從此壽終正寢了[5]。

我們到底該如何看待ChatGPT？它到底能夠為教育、教學、學習帶來什么？它對于教師和學生究竟意味著什么？它究竟是阿拉丁神燈，還是潘多拉魔盒？對于學生、教師和學校乃至教育而言，它究竟是敵人還是朋友？本研究試圖回答這些問題。

一 ChatGPT的發(fā)展及其教育意義

在過去的幾十年中，人們一直在嘗試使用計算機程序來模擬人類自然語言的加工、處理和理解。早期的語言模型主要基于規(guī)則和模式匹配，這種方法需要編寫大量的規(guī)則和模板來處理各種不同的語言結構和表達方式，但是很難擴展到更復雜的問題和更大的數(shù)據(jù)集中。

隨著機器學習（Machine Learning，ML）和深度學習（Deep Learning，DL）技術的發(fā)展，自然語言處理（Natural Language Processing，NLP）領域發(fā)生了革命性的變化。研究人員開始使用神經(jīng)網(wǎng)絡來構建語言模型，這種模型可以自動學習語言規(guī)則和模式，并根據(jù)數(shù)據(jù)進行調(diào)整和改進，最終生成具有連貫性和合理性的文本。

在此背景下，OpenAI于2015年啟動了名為生成型預訓練變換模型（Generative Pre-trained Transformer，GPT）的項目，旨在開發(fā)一種基于神經(jīng)網(wǎng)絡的語言模型。2018年，OpenAI推出GPT-2模型，它基于Transformer新型神經(jīng)網(wǎng)絡架構，可更好地處理長文本，并捕捉文本之間的關系。2020年初，OpenAI推出GPT-3模型，它不僅可以生成高質量的連續(xù)文本，還能夠執(zhí)行各種語言任務，包括機器翻譯、問答、摘要、生成代碼等，這是迄今為止較為先進的語言模型之一。2022年11月30日，OpenAI公司在社交網(wǎng)絡上向世界宣布其最新的大型語言預訓練模型——ChatGPT，這是OpenAI對GPT-3模型（又稱為GPT-3.5）微調(diào)后開發(fā)的對話機器人。

ChatGPT的推出是繼深度學習后又一個里程碑式的技術革命，它為以自然語言處理為核心的認知智能技術發(fā)展提供了新的“歷史機遇”。不僅如此，作為人工智能生成內(nèi)容（Artificial Intelligence Generated Content，AIGC）的代表，ChatGPT有望與其他生成性人工智能一起，徹底改變傳統(tǒng)的內(nèi)容生產(chǎn)和信息獲取模式，它可以像人類一樣高效地完成智力任務，通過人機高效協(xié)同，顛覆所有智力行業(yè)的內(nèi)容生產(chǎn)模式，實現(xiàn)高效、高質、海量、實時、多樣性、個性化的內(nèi)容生成，對于包括學校教育在內(nèi)的各種傳統(tǒng)行業(yè)的改造產(chǎn)生重要而深遠的影響。

對于教育領域，ChatGPT可以幫助教育工作者減負增效，有助于推動學生的學習方式從“搜索就是學習”逐步轉向“對話式學習”，并重點發(fā)展其批判性思維、創(chuàng)造性、溝通（提問）能力、協(xié)作能力、審美、情商和品格等；ChatGPT可以使具有悠久歷史的教育傳統(tǒng)逐漸回歸，尤其是隨著現(xiàn)代學校教育制度的發(fā)展而日漸式微的對話式學習；ChatGPT還可以為師生提供私人智能助理和個人學習伙伴，先賢們倡導并一直被后人奉為教育典范的“因材施教”的教育理念將能夠真正得到踐行[6]。

二 教育科技百年回眸：從歷史的視角看ChatGPT

ChatGPT作為自然語言處理和大型語言模型技術的最新突破，盡管過去一直蓄勢待發(fā)，但畢竟是處于高速發(fā)展和快速變化中的新生事物，要真正領會和準確把握其本質、內(nèi)涵及其對于學校教育的深遠意義與社會價值，必須將其置于教育科技的歷史長河中加以審視。

教育科技的歷史可以追溯到20世紀初期，當時的學習和教學主要依靠實物展示、掛圖、紙質教材、黑板和講臺。1905年，電影的問世為教育科技的應用提供了新契機，教師可以將電影作為教學資料，為學生呈現(xiàn)生動、形象的教學內(nèi)容。隨后，廣播的出現(xiàn)突破了空間的限制，將課程內(nèi)容廣泛傳播到國內(nèi)外，成為當時教育科技傳播的重要手段之一。

隨著科技的進步和發(fā)展，學習和教學變得更加復雜和多樣。1928年，美國人Sydney發(fā)明了世界上第一臺教學機器。在20世紀30年代，借助教學機器開展適應性教學實驗成為當時最前沿的研究。20世紀50年代，Skinner開始依據(jù)程序教學理論，探索教學機器的設計。這些早期的探索和實踐可以說是教育科技和技術增強學習的歷史發(fā)端。

20世紀70年代，個人計算機興起并被迅速引入學校教育情景中，大大推動了學習和教學的自動化發(fā)展，計算機輔助教學（Computer Aided Instruction，CAI）開始進入人們的視野。早期的計算機教育系統(tǒng)包括一些基本的數(shù)學和語言教育軟件，主要通過計算機模擬學習的過程來指導學生。但是，直至20世紀80年代，CAI的研究仍沒有立足于深度學習理論，而是更多地建立在行為主義學習理論的“刺激—反應—聯(lián)結”之上。

從20世紀70、80年代開始，教育軟件和多媒體教學系統(tǒng)等更加復雜和全面的教育軟、硬件相繼出現(xiàn)，使教與學自動化邁入了一個新階段——教育個性化和互動化階段。在該階段，隨著人工智能和教育的發(fā)展，人們試圖找到概念性知識的計算機表征；人類學習行為建模和計算機導師系統(tǒng)的進步，促進了技術增強學習的快速發(fā)展；早期的智能導師系統(tǒng)試圖幫助學習者與機器進行對話，如有關代數(shù)、幾何和計算機編程等方面的系統(tǒng)發(fā)展比較快速。

在過去20年間，隨著移動互聯(lián)網(wǎng)、云計算和人工智能技術的興起，教育科技又進入全新的發(fā)展階段——教育自動化階段。在該階段，移動學習、在線教育和智能輔導等新興技術為學生和教師提供了更豐富的學習資源和更加智能的教學工具；虛擬學習環(huán)境、在線學習空間、基于WEB的學習、移動學習、大規(guī)模開放在線課程、虛擬現(xiàn)實/增強現(xiàn)實/混合現(xiàn)實、大數(shù)據(jù)和人工智能、基于平板電腦的一對一數(shù)字化學習、自適應學習以及今天風靡的智慧課堂等，為技術增強的學習帶來了新方法，從而使行業(yè)、學科、產(chǎn)業(yè)都處于高速發(fā)展的陽光地帶！

百年回眸，不難發(fā)現(xiàn)，教育科技的歷史幾乎可以說是技術增強學習的歷史，是技術支持教與學自動化的歷史。在這一歷程中，越來越多的新技術不斷涌現(xiàn)，并被引入學校教育，提高了教與學的效率和質量，使教育更加普及和人性化，為人類社會的進步和發(fā)展做出了重要貢獻。

教育科技的歷史，也可以說是教育追逐和擁抱新科技的歷史。在其整個歷史進程中，激進和狂熱的技術決定論者，與保守或審慎的技術抵制者的爭論，從來都沒有停止過。尤其是在過去近半個世紀里，從“學媒之爭”到非顯著性差異現(xiàn)象（No Significant Difference Phenomenon，NSDP），從喬布斯之問到錢學森之問，無不映射著教育科技應用于學校教育所帶來的思想震蕩。此時，新技術進入教育的興奮與可能的負面影響帶來的憂慮始終交織在一起：一方面，引入新技術能夠帶來更高效、便捷的教與學方式，提高教育資源的普及性、可及性和質量，使人類的學習變得更加有趣、生動、靈活，進而促進學生的全面發(fā)展和個性化成長。另一方面，新技術也帶來了負面影響和諸多擔憂。有人擔心新技術可能會改變教學的傳統(tǒng)方式，破壞教育的人文本質、感性體驗和人性化；有人擔心過分依賴技術可能會讓學生失去自主學習、獨立思考和創(chuàng)造能力；還有人擔心新技術會因為成本高、技術要求難以滿足等因素，增加教育中的不平等性，使教育資源的分配更加不公平[7]。比如，1876年電話的發(fā)明帶給人們的不僅是驚奇，還有恐懼，批評者質疑電話是否會影響人際交往中面對面的交流[8]；教學機器在得到較大范圍普及的時候，人們普遍擔憂教師會下崗[9]；電視走進家庭的時候，人們擔心花費在電視節(jié)目中的時間會使人們甚至難以注意到坐在他們身邊的人，也不會從事更重要的活動[10]；筆記本電腦和智能手機的快速普及加大了人們的憂慮，諸如技術濫用、學生視力損害、注意力分散、沉迷游戲和過分依賴[11]；后來，“屏幕時間”的定義被擴大到包括數(shù)字內(nèi)容和“社交媒體”對兒童與青少年的影響[12]。

在過去的100年里，每當新的科技被引入教育時，都會產(chǎn)生激烈的爭論和普遍的擔憂。事實上，教育科技的引入一直以來都會面臨各種各樣的擔憂和爭議。在這100年里，我們已經(jīng)見證了很多教育科技的應用和變革，其中包括黑板、放映機、計算機、互聯(lián)網(wǎng)、平板電腦等，ChatGPT當然也不例外。面對ChatGPT的迅猛發(fā)展和快速流行，它究竟是學生和老師的敵人還是朋友？如果熟悉教育科技發(fā)展的百年歷史，恐怕不會有人對此感到意外了！

三 作為朋友的ChatGPT：可以幫教師和學生做什么？

在技術哲學陣營中，價值中立論具有一定的影響力。在技術價值中立論者看來，一項技術本身并不具有任何道德價值，只有當人使用它時，才具有價值，正如David Wong所說，“新技術本身并無好壞之分，關鍵在于人們?nèi)绾芜x擇使用它”。而Joseph Pitt在他的文章《槍不殺人，殺人的是人》（The Moral Status of Technical Artefacts）中指出，為了讓技術包含或體現(xiàn)價值，這些價值應該是可識別的，但事實并非如此[13]。技術由人創(chuàng)造，為人服務，價值觀決定了我們自身所創(chuàng)造的東西及其用途。對此，人本主義心理學大師馬斯洛曾經(jīng)說過：“當你只有一把錘子時，所有的東西看起來都像釘子?！盵14]，麥克盧漢則指出：“我們成為我們所看到的東西，我們塑造工具，此后工具又塑造我們?！盵15]即使技術本身是價值中立的，但是圍繞技術的行為——從設想設計，到開發(fā)、傳播、應用、管制等——這些林林總總的技術活動沒有一個是所謂中立的。對此，海德格爾在其《演講與論文集》一書中提出：“如果我們把技術當作某種中性的東西，我們就最惡劣地聽任技術擺布了；因為這種觀念雖然是人們特別愿意采納的，但它尤其使我們對技術之本質茫然無知?！盵16]設計師的目的和價值，可能不同于用戶的目的和價值。價值中立論中的“價值”到底是誰的價值？這很大程度上支持了“技術作為合乎人的目的性的存在”這個觀點[17]。

回到ChatGPT，它到底是學校教育的朋友，還是學生和老師的敵人，既取決于我們的立場和視角，也取決于我們的目的和意圖，歸根結底在于它可以幫助教師和學生做什么，本研究對其進行了總結，具體如下：

1 生成學習和教學材料

作為生成性人工智能的代表，ChatGPT能夠為教師和學生生成相應的文本，如活動方案、教學設計、隨堂練習題等。配合第三方應用，ChatGPT還可以生成故事、電子書、講義、教案、教學材料、視頻微課，甚至演示文稿、代碼和網(wǎng)站等。

2 智能回答問題

ChatGPT作為一個基于自然語言的大型語言模型，更具對話性且似乎更有語言天賦，它能夠回答后續(xù)問題、承認錯誤、質疑不正確的前提并拒絕不適當?shù)恼埱骩18]；還可以幫助學生、教師或其他任何人更好地理解和掌握抽象的概念和知識，并為教師提供課程相關支持，如回答學術問題，包括科學、歷史、文學、數(shù)學等。此外，教師可以借助ChatGPT檢查學生是否真正理解其所講授的知識；學生可以使用ChatGPT來解決其在學習中遇到的問題。

3 使常規(guī)業(yè)務自動化

ChatGPT已經(jīng)通過使某些任務和角色自動化，為諸多工作場所帶來重大變化。它可以完成多種基于自然語言處理的相關業(yè)務，尤其是常規(guī)性業(yè)務；通過將ChatGPT的功能與其他人工智能技術（如人工智能藝術引擎）相結合，可以使目前由人類設計師、藝術家和內(nèi)容創(chuàng)作者完成的任務自動化；它還可以使學生學習和教師教學的相關業(yè)務自動化，如為學生和教師提供學習資源，幫助教師和學生尋找有用的學習資源。

4 協(xié)助開展科學研究

ChatGPT的應用場景不僅僅體現(xiàn)在常規(guī)工作和教學業(yè)務中，在科學研究領域，ChatGPT也有廣泛的應用前景。例如2022年12月16日，一篇題為《護理教育中的開放人工智能平臺：學術進步的工具？還是濫用？》（Open Artificial Intelligence Platforms in Nursing Education： Tools for Academic Progress or Abuse？）的學術論文見諸網(wǎng)絡，這篇論文的第一作者是英國曼徹斯特大學護理、助產(chǎn)和社會工作部研究人員Connor，第二作者則是ChatGPT[19]——這也許是人類歷史上第一篇與ChatGPT聯(lián)署的論文。但同時，在2023年1月，極負盛名的機器學習會議之一，國際機器學習會議（the International Conference on Machine Learning，ICML）禁止作者使用ChatGPT之類的工具撰寫論文，引發(fā)了關于人工智能生成文本在學術界中應用的辯論。

從2022年11月30日ChatGPT發(fā)布至今，許多科學家和研究人員嘗試使用ChatGPT輔助科學研究過程中的某些任務，取得了令人振奮的成績。如研究人員可結合ChatGPT和其他大型語言模型來確定研究空白、進行文獻綜述、起草論文并修改完善，撰寫演講稿以及編寫計算機代碼等。未來，這項技術還將進一步發(fā)展到可設計實驗、撰寫和完成初稿、進行同行評審以及幫助編輯判斷是否錄用稿件的程度。為此，有不少人驚呼，ChatGPT之類的聊天機器人在一定程度上可以說是科學研究的游戲規(guī)則改變者。

的確，類似ChatGPT的大型語言模型可以被運用于科學研究工作中，尤其是教育、人文、行為和社會科學中。然而，Alshater[20]認為，ChatGPT雖然可能對科學研究工作有所幫助，尤其是用于構建研究性研究中涉及的一系列任務，但是這些并未進行實證驗證。就目前而言，在可見的報道中，將ChatGPT應用于科學研究的實踐探索大多集中在研究摘要的創(chuàng)建和文獻綜述方面。在社交媒體中，可以看到很多有關幫助研究人員進行文獻綜述、摘要創(chuàng)建、題目擬定方面的提示語設計，這些提示語可以幫助研究人員快速地將ChatGPT整合到自己的研究工作中。

此外，Aydin等[21]試圖創(chuàng)建一個適合學術期刊的醫(yī)療保健方面的文獻綜述，結果發(fā)現(xiàn)：盡管ChatGPT可以幫助生成文獻綜述，但是可能存在“剽竊”嫌疑。筆者曾發(fā)布一篇微信公眾號推文《ChatGPT：信息素養(yǎng)研究綜述》，這篇文章就是利用ChatGPT生成的?？梢?，盡管ChatGPT可以快速獲取一部分文獻和信息，但總體平淡無奇或有“剽竊”嫌疑。Gao等[22]發(fā)現(xiàn)，盡管ChatGPT生成的摘要可以通過AI生成文字識別系統(tǒng)鑒別出自AI平臺，但是它確實可以在沒有明顯剽竊痕跡的情況下生成新穎的論文摘要。Chen等[23]還探討了學術論文標題和摘要生成方面的可能性。在Dowling等[24]看來，在想法生成和數(shù)據(jù)識別方面，ChatGPT有明顯的優(yōu)勢。

ChatGPT還有以下應用：①個性化輔導和指導。在教育教學實踐中，最值得加以倡導的應用是使用ChatGPT為教師和學生提供反饋和評估。例如，ChatGPT可以提供試卷答案的反饋，或者可以提供寫作反饋，幫助學生更好地掌握學術寫作技巧，為學習者提供關于如何學會學習的指導，如時間管理、學術寫作、學習技巧等。這可以幫助學生更好地應對學習挑戰(zhàn)，并減輕一些壓力、焦慮和困惑。②頭腦風暴集思廣益。到目前為止，人們已經(jīng)測試并明確ChatGPT在設計巧妙的提示語指令幫助下，可以協(xié)助教師設計隨堂練習和測驗題，通過頭腦風暴汲取教學點子和靈感協(xié)助設計學習活動，生成常規(guī)性問題的文本解答等。

而這里列舉的僅僅是ChatGPT教育應用的冰山中浮出水面的一角。ChatGPT到目前為止依舊是新生事物，也正處于高速發(fā)展過程中，這里羅列的僅僅是一些例子，更多的創(chuàng)新應用有待教師和學生共同探索和發(fā)掘?？偟膩碚f，如果合理使用且使用得當，ChatGPT能夠為教師和學生提供多種支持和幫助，從而提高他們的學習和教學效果。

四 作為“敵人”的ChatGPT：潛在的危險和威脅

要判定一項技術究竟是朋友還是敵人，核心與關鍵在于它能夠幫助我們做什么。技術樂觀主義者和技術悲觀主義者是技術決定論的兩種思想代表：技術樂觀主義者相信，技術是解決一切人類問題并給人類帶來更大幸福的可靠保障；而技術悲觀主義者則認為技術在本質上具有非人道的價值取向，現(xiàn)代技術會給人類社會及其文化帶來滅頂之災。相對應的，在如何看待ChatGPT這個問題上，技術樂觀主義者和技術悲觀主義者的觀點體現(xiàn)得淋漓盡致。樂觀主義者認為ChatGPT之類的大型語言模型是科技史上的重要一頁，注定會對社會生活的方方面面產(chǎn)生重要而深遠的影響；而悲觀主義者則對人工智能時代人類的未來深表擔憂，顧忌人工智能繼續(xù)發(fā)展演進是否會給人類帶來災難[25]，如埃隆·馬斯克在推特上評論ChatGPT的時候，曾說：“ChatGPT非常強大，讓人感到有些害怕。我們距離危險的強大人工智能并不遙遠?！?/p>

作為一種自然語言處理技術，在回答問題和生成文章方面，ChatGPT非常智能化和自動化。它的應用雖然有很多優(yōu)點，但同時也存在一些潛在的威脅[26]，主要包括以下幾個方面：

1 抄襲問題

ChatGPT在回答問題時可能會借鑒某篇文獻或引用某個權威人士的觀點，但是目前大多數(shù)大型語言模型不會主動標識它使用了哪些訓練語料，這導致在利用人工智能生成文本時很容易出現(xiàn)抄襲問題，嚴重影響學術道德和研究誠信。針對這個問題，人們的觀點存在一定的分歧和爭議。一些學者和專家認為，ChatGPT生成的內(nèi)容很可能會涉嫌抄襲或剽竊[27]，尤其是在論文寫作方面，這會嚴重威脅學術研究的誠信性和可信度。他們認為，ChatGPT生成的內(nèi)容可能在語言和內(nèi)容上與某些原創(chuàng)作品相似，雖然沒有直接剽竊原文，但也可能會存在知識產(chǎn)權問題。也有學者和專家認為，ChatGPT并非直接從某篇文獻或其他來源復制內(nèi)容，而是根據(jù)其學習的知識生成內(nèi)容，因此并不會涉嫌抄襲或剽竊。此外，他們還認為ChatGPT生成的內(nèi)容也可能是完全獨立的想法和觀點，而非借鑒和模仿其他作品[28]。

因此，在ChatGPT是否容易引起抄襲問題的爭議中，我們需要進行更多的研究和討論，同時倡導學者、作者以及使用ChatGPT的人員應該尊重學術研究的誠信原則，遵循科學研究規(guī)范，維護學術界的誠信和道德。

2 真假信息難以辨別問題

由于ChatGPT模型具有智能化和超強的模擬人類思維能力，因此，它可能會產(chǎn)生虛假信息或不恰當?shù)膬?nèi)容，甚至一本正經(jīng)地“胡說八道”，導致信息的誤導和學術研究的不可信問題。比如，ChatGPT可以自動生成新聞、評論、社交媒體帖子等內(nèi)容，但是這些內(nèi)容往往難以辨別是人為創(chuàng)造的還是機器自動生成的，由此可能影響公共輿論、破壞信息傳播的可信度，從而引發(fā)輿論誤導和侵害公共利益等問題。

ChatGPT是基于一種特定語言訓練的，它可能會出現(xiàn)無法識別異構語言的情形，導致信息得不到恰當?shù)姆g。此外，由于受到算法、機器學習能力和預訓練的大型語料庫品質等諸多因素影響，ChatGPT還可能會生成錯誤信息。因此，學生和教師在使用ChatGPT時，必須進行人工鑒別。關于這一點，ChatGPT的首頁就對其局限進行了明確的申明，如“偶爾可能會生成錯誤的信息”“偶爾可能會產(chǎn)生有害指令或有偏見內(nèi)容”。

3 私人信息泄露等倫理問題

ChatGPT的智能程度越來越高，若對收集到的個人信息處理不當，將可能引發(fā)諸多倫理問題：①在聊天或交流過程中，ChatGPT模型需要大量的信息作為輸入，這可能威脅個人隱私和數(shù)據(jù)安全。同時，用戶與ChatGPT進行的對話相關數(shù)據(jù)可能會被記錄并進一步用于商業(yè)或其他目的。②涉及敏感話題時，機器可能讀取未經(jīng)個人授權或禁止被未成年人讀取的內(nèi)容。③ChatGPT需要學習大量人類語言，可能會造成隱私泄露和信息濫用等問題。④ChatGPT在處理文本、圖像等任務方面具備強大的能力。隨著其應用范圍不斷擴大，相關的倫理和道德爭議也可能會接踵而至。

4 惡意使用帶來的違法行為

ChatGPT之類的人工智能雖然能夠自動產(chǎn)生對話內(nèi)容，但是它們?nèi)狈χ饔^判斷和思維邏輯能力，因此很容易被不法分子用來產(chǎn)生虛假、鼓吹暴力等“有毒信息”。例如，生成令人信服的網(wǎng)絡釣魚電子郵件，鑒于ChatGPT生成連貫且語法正確的句子的能力，這可能會使?jié)撛谑芎φ吒y識別網(wǎng)絡釣魚企圖。事實上，ChatGPT一經(jīng)誕生，類似的違規(guī)甚至違法的應用屢見不鮮。ChatGPT背后的公司OpenAI在決定模型的開發(fā)和使用方式方面擁有巨大的權力，該公司因未將模型代碼開源而受到批評，這限制了公眾了解和影響其發(fā)展的能力。

此外，具有誤導性或者虛假性甚至使青少年、未成年人或者其他弱勢人群身心健康受到威脅的“有毒信息”，可能很難被識別、檢測和防范，這將會對受眾尤其是未成年人產(chǎn)生負面影響，包括但不限于影響學習成績、心理健康、價值觀等。因此，人們需要高度警惕，提高人們的意識和媒介素養(yǎng)是十分必要而緊迫的。

5 意識形態(tài)、特定價值導向和社會平等問題

不少人擔心ChatGPT會輸出具有意識形態(tài)和特定價值導向的結果。確實，雖然ChatGPT類人工智能技術旨在產(chǎn)生自然語言對話，但由于其訓練數(shù)據(jù)的來源和處理方式等不確定因素，可能會導致其輸出具有意識形態(tài)和特定價值導向的結果。如果訓練數(shù)據(jù)集存在明顯的偏差，或者涉及極端思想、暴力、仇恨、種族主義等內(nèi)容，那么ChatGPT產(chǎn)生的對話內(nèi)容就有可能帶有類似的信息。另外，ChatGPT的輸出結果也會受到模型設計和算法等因素的影響。因此，在開發(fā)和使用ChatGPT類技術時，需要加強技術監(jiān)管，提升相關人員的媒體素養(yǎng)和負責的意識，從源頭上對這種情況進行防范。

另外，由于ChatGPT通過吸收學術或非學術知識而生成內(nèi)容，因此其生成的內(nèi)容可能會帶有一定的偏見，如收集與社會精英相應的內(nèi)容，ChatGPT所生成的內(nèi)容就可能更傾向于反映社會精英階層觀點，而忽視普通大眾的特定文化及言語的特征。由于大型語言模型接受過人類集體寫作的訓練，這意味著它也可以表現(xiàn)出與訓練數(shù)據(jù)中存在的相同偏見。這一事實意味著ChatGPT的使用可能會導致有害或帶有歧視性的答案。

綜上可見，ChatGPT在應用中還存在一些道德和倫理問題需要引起重視和關注，需要在技術的設計和應用上加以規(guī)范和約束，并做好教育普及，增強用戶的安全數(shù)據(jù)意識。

五 如何讓ChatGPT成為教育的朋友？

2023年1月3日，紐約市教育局采取了阻止在所有部門設備和網(wǎng)絡上訪問ChatGPT的措施來應對這些恐懼。一位部門發(fā)言人表達了對學生學習負面影響以及對內(nèi)容安全性和準確性的擔憂，并進一步質疑該技術的教育價值，指出：“雖然該工具可能會快速輕松地回答問題，但它不具備培養(yǎng)學生批判性思維和解決問題的能力，而這些能力對于學術和終身能力至關重要。”2月27日，國際文憑組織（the International Baccalaureate Organization，IBO）表示，學生可以在論文中引用ChatGPT之類的聊天機器人的觀點，但是必須標注清楚。

盡管基于ChatGPT的作弊可能性令教師和學術界感到擔憂，但是國際文憑組織評估原則和實踐負責人馬特·格蘭維爾（Matt Glanville）在接受時代周刊（the Times）采訪時表示，聊天機器人應該被視為“一個非凡的機會”（an Extraordinary Opportunity）[29]。國際文憑組織也在官網(wǎng)上申明：“IB相信這種人工智能技術將成為我們?nèi)粘Ｉ畹囊徊糠帧拖衿磳憴z查器、翻譯軟件和計算器一樣。因此，我們需要調(diào)整和轉變我們的教育計劃和評估實踐，以便學生能夠合乎道德并有效地使用這些新的人工智能工具。IB不會禁止使用此類軟件，并會與學校協(xié)力制定規(guī)則，支持學生根據(jù)學術誠信原則合乎道德地使用這些工具?！?/p>

本研究認為國際文憑組織對ChatGPT之類的生成性人工智能技術的立場和態(tài)度是合理的、可取的，它不僅能促進和保護創(chuàng)新，也能使其朝著健康的軌道發(fā)展。人工智能技術在我們?nèi)粘Ｉ钪械氖褂迷絹碓狡毡?，并正在成為我們?nèi)粘Ｉ畹囊徊糠?，我們應該擁抱它而非害怕它，并疏導廣大青少年學生以更安全、更負責的方式駕馭這一新技術。

對學生來說，如果以正確的方式使用ChatGPT，它可以成為課堂和學校中一個了不起的創(chuàng)造性工具，而非令人恐懼的事物。它會成為學校教育的朋友，而不是敵人；對技術派教師和創(chuàng)新人才來說，生成性人工智能是阿拉丁神燈，不是潘多拉魔盒。

那么，學校究竟應該怎樣趨利避害，使ChatGPT之類的生成性人工智能成為學校教育的朋友？許多進步的學校和先進的大學通過以下方式響應ChatGPT這項新技術的出現(xiàn)：

1 將人工智能教育融入課程

一些學校和大學已經(jīng)開始將人工智能教育融入課程，向學生傳授人工智能的基礎知識，以及它的潛在風險和好處，這可以幫助學生了解該技術及其對他們未來職業(yè)的影響。

展望未來，使用AI工具學習和執(zhí)行創(chuàng)造性任務，與AI合作與協(xié)作必將成為未來教育目標的重要組成部分。各級各類學校應盡早培養(yǎng)教職員工和廣大學生的這種能力，將會大幅度提升技術豐富環(huán)境下的核心競爭力。

2 使用ChatGPT進行教學和學習

一些教育工作者已經(jīng)開始使用ChatGPT幫助生成用于教育目的的課程計劃、問題和答案，或者幫助學生練習和提高他們的語言技能。任何工具和技術是有益還是有害，在很大程度上取決于使用者及其方式方法。畢竟，技術歸根結底只是合乎人的目的性的存在。

教師教育機構應當加強生成性人工智能教育應用方面的培訓，幫助教師和學生將ChatGPT之類的人工智能應用于學習和教學。

3 制定ChatGPT相關道德準則

一些大學和學校已經(jīng)開始制定使用AI技術（包括ChatGPT）的道德準則，確保以負責任和合乎道德的方式使用它們。

針對ChatGPT可能帶來的“威脅”和“危險”，我們需要制定相應的規(guī)范和標準，同時也要倡導學術研究者和用戶在使用ChatGPT相關技術時必須遵循學術道德和研究誠信的原則，維護學術界的良好秩序和口碑。

4 積極推進和監(jiān)控AI技術的使用

一些學校和大學已經(jīng)開始監(jiān)控AI技術的使用，例如ChatGPT，以確保它不被學生或員工濫用。而在美國、法國、澳大利亞的一些地方教育行政部門和高等院校已經(jīng)命令禁止學生將生成性人工智能應用于代寫作業(yè)。

在互聯(lián)網(wǎng)領域，也開始出現(xiàn)了不少專門幫助教師和學校檢測學生提交的文本是否為人工智能生成的之類的檢測軟件，OpenAI也發(fā)布了類似的工具，幫助學校和教師防止學生濫用。

5 加快推進和深化ChatGPT相關研究

一些大學和學校已經(jīng)開始在研究項目中使用ChatGPT，如自然語言處理、機器學習和一般人工智能。我們確實看到學校和大學開始認識到ChatGPT和其他AI技術的潛力，并且他們正在采取積極措施以負責任和合乎道德的方式將它們整合到課程、研究和政策中，從基于恐懼的方法轉變?yōu)楦泳C合的啟蒙和教育方法。

父母和教育工作者必須與時俱進，積極學習和駕馭生成性人工智能，更要充分了解ChatGPT和其他人工智能技術的潛在風險和濫用的可能性，并教育和引導青少年負責任、合乎道德地、采取對自己和他人安全且有益的方式使用技術。

然而，要做到這一點，家長和教育工作者首先需要對生成性人工智能技術進行自我教育！其次，教育工作者必須以身作則，身先士卒，教導學生端正學術態(tài)度，樹立良好的學術道德，堅守技術倫理，教導學生保護個人及他人的隱私。最后，與青少年就濫用ChatGPT和其他AI技術的潛在風險和后果進行開誠布公的對話也至關重要，通過開誠布公地交談，家長和教育工作者可幫助青少年了解負責任和合乎道德地使用技術的重要性，從而幫助他們做出明智的選擇。

此外，學校和機構應該引進新的人工智能檢測工具，鑒別檢測學生的習作和相關作品中哪些是人工智能生成的，哪些是自己創(chuàng)作的。政府、學會協(xié)會和科學研究管理部門要抓緊制定相關的政策法規(guī)和學術倫理道德規(guī)范，對ChatGPT之類的生成性人工智能技術的科學研究和教育教學應用行為予以規(guī)范，制定具體明確可執(zhí)行的相關政策和建議。

六 結語

作為一個智能聊天機器人，ChatGPT擁有快速、準確的回應能力，能夠在課堂上回答學生的問題，提供解決方案，幫助學生更好地理解和掌握學習內(nèi)容。但需要注意的是，ChatGPT并不能取代教師的角色，只能作為輔助教學工具使用。

在本文收尾之際，筆者詢問ChatGPT如何看待它的未來和對教育的影響，ChatGPT答復道：“ChatGPT在教育領域的未來非常有前途。ChatGPT可用于為學生提供個性化、一對一的教育支持，它可以在回答問題、提供解釋甚至幫助學生完成作業(yè)方面提供幫助。ChatGPT還可以用于創(chuàng)建針對每個學生獨特學習風格和節(jié)奏量身定制的互動式學習體驗。此外，ChatGPT還可以用于對學生的作業(yè)或文章進行評分、分析和反饋。隨著人工智能技術的不斷發(fā)展和改善，我們可以預料ChatGPT將成為課堂和在線學習環(huán)境中越來越有價值的工具。憑借快速處理大量信息并提供智能響應的能力，ChatGPT有可能顛覆我們教與學的方式?！?/p>

讓我們一起見證歷史，共同創(chuàng)造人工智能教育應用的未來！

參考文獻

[1]Open AI. Introducing ChatGPT[OL]. lt;https：//openai.com/blog/chatgptgt;

[2]News Alert. UBS study： ChatGPT reached ～100M MAUs with ～13M daily unique visitors in January， two months after launch， becoming the fastest-growing consumer app ever （Krystal Hu/Reuters）[OL].

lt;https：//usanewsalert.com/news/techno/ubs-study-chatgpt-reached-100m-maus-with-13m-daily-unique-visitors-in-january-two-months-after-launch-becoming-the-fastest-growing-consumer-app-ever-krystal-hu-reuters/gt;

[3][5]Marche S. The college essay is dead[OL].

lt;https：//www.theatlantic.com/technology/archive/2022/12/chatgpt-ai-writing-college-student-essays/672371/gt;

[4]Marshall C. Noam Chomsky on ChatGPT： It’s “basically high-tech plagiarism” and “a way of avoiding learning”[OL]. lt;Openculture. https：//www.openculture.com/2023/02/noam-chomsky-on-chatgpt.htmlgt;

[6]焦建利.ChatGPT助推學校教育數(shù)字化轉型——人工智能時代學什么與怎么教[OL].中國遠程教育，2023，（4）：1-8.

[7]Layon J R. No significant difference phenomenon[M]. Raleigh， NC： State University Press， 1999.

[8]Bellis M. How the telephone was invented[OL].

lt;https：//www.thoughtco.com/history-of-the-telephone-alexander-graham-bell-1991380gt;

[9]Trucano M. Will technology replace teachers？ No， but...[OL].

lt;https：//blogs.worldbank.org/edutech/tech-and-teachersgt;

[10]Klemm W R. Television effects on education， revisited impaired learning to learn[OL].

lt;https：//www.psychologytoday.com/us/blog/memory-medic/201207/television-effects-education-revisited#：～：text=Language%20and%20communication%20abilities%20are%20stunted%20because%20TV，from%20reading%20and%20improving%20reading%20skills%20through%20practicegt;

[11]Morris P， Sarapin S. Mobile phones in the classroom： Policies and potential pedagogy[J]. Journal of Media Literacy Education， 2020，（1），57-69.

[12]Ray Kecia. What research shows about screen time for students[OL].

lt;https：//www.techlearning.com/news/what-research-shows-about-screen-time-for-students#：～：text=A%20study%20published%20in%202020%20observed%202%2C320%20adolescents，Active%20screen%20time%20had%20a%20considerably%20less%20effectgt;

[13]Pitt J C. “Guns don’t kill， people kill”; Values in and/or around technologies[M]. The Moral Status of Technical Artefacts. Dordrecht： Springer Netherlands， 2013：89-101.

[14]（美）馬斯洛.科學心理學[M].西安：陜西師范大學出版社，2010.

[15]（加）馬歇爾·麥克盧漢著.何道寬譯.理解媒介：論人的延伸[M].南京：譯林出版社，2011.

[16]（德）海德格爾.演講與論文集[M].北京：商務印書館，2020.

[17]（法）讓·伊夫.技術哲學[M].北京：商務印書館，2000.

[18]Open AI. ChatGPT[OL]. lt;http：//chatGPT.openai.comgt;

[19]Connor S O， ChatGPPT. Open artificial intelligence platforms in nursing education： Tools for academic progress or abuse？[J]. Nurse Education in Practice， 2022，66：103537-103537.

[20]Alshater M M. Exploring the role of artificial intelligence in enhancing academic performance： A case study of ChatGPT[J]. SSRN Electronic Journal， 2022.

[21]Ayd?n ?， Karaarslan E. OpenAI ChatGPT generated literature review： Digital twin in healthcare[J]. Emerging Computer Technologies， 2022，2：22-31.

[22]Gao C A， Howard F M， Markov N S， et al. Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector， plagiarism detector， and blinded human reviewers[OL].

lt;https：//www.biorxiv.org/content/10.1101/2022.12.23.521610v1.full.pdfgt;

[23]Chen Y， Eger S. Transformers go for the LOLs： Generating （humourous） titles from scientific abstracts end-to-end[OL]. lt;https：//arxiv.org/pdf/2212.10522.pdfgt;

[24]Dowling M， Lucey B. ChatGPT for （Finance） research： The Bananarama conjecture[J]. Finance Research Letters， 2023，53：103662.

[25][28]Taecharungroj V. “What can ChatGPT do？” Analyzing early reactions to the innovative AI Chatbot on Twitter[J]. Big Data Cognitive Computing， 2023，（1）：35.

[26]Fox News. Will robots soon replace teachers in the classroom？[OL].

lt;https：//www.foxnews.com/tech/will-robots-soon-replace-teachers-in-the-classroomgt;

[27]Marshall C. Noam Chomsky on ChatGPT： It’s “basically high-tech plagiarism” and “a way of avoiding learning”[OL]. lt;https：//www.openculture.com/2023/02/noam-chomsky-on-chatgpt.htmlgt;

[29]EdTech. International baccalaureate won’t ban ChatGTP[OL]. lt;https：//www.schoolmanagementplus.com/edtech/international-baccalaureate-wont-ban-chatgtp/gt;

Abstract： As the representative of generative artificial intelligence， ChatGPT has spread all over the network， and has also aroused high attention of all kinds of school education work at all levels in the world. Is it a friend or an enemy of school education？ On the basis of a brief introduction to ChatGPT and its educational significance， this paper examined ChatGPT in the century-old history of education and technology， analyzed the innovative application of ChatGPT as a “friend” of school education and the “threat and hidden worry” of ChatGPT as an “enemy” from the perspective of philosophy of technology， and finally gave the opinions and suggestions on the scientific and reasonable use of ChatGPT in accordance with academic norms， expecting to provide concrete and operable guidelines for front-line educators to use generative artificial intelligence.

Keywords： ChatGPT; artificial intelligence; large language model; education technology

作者簡介：焦建利，教授，博士，研究方向為教育技術學，郵箱為jiaojianli@126.com。

收稿日期：2023年2月28日

編輯：小西