摘要:文章選取我國近10年175篇智能教育倫理研究的CSSCI論文作為研究對象,綜合運用科學計量法、社會網(wǎng)絡、聚類分析等方法,對我國智能教育倫理研究的現(xiàn)狀、熱點和發(fā)展趨勢進行分析。研究發(fā)現(xiàn),我國智能教育倫理研究發(fā)文量整體呈現(xiàn)上升趨勢,多數(shù)文章?lián)碛谢鹬С郑抑饕岳碚撗芯繛橹?;在研究熱點上,主要包括智能教育倫理內(nèi)涵與原則研究、智能教育中的數(shù)據(jù)與算法風險研究、智能教育空間的倫理規(guī)范研究、智能教育與師生主體性研究、智能教育與技術本體倫理風險研究等;在研究趨勢上,未來會更加關注智能技術教育應用的監(jiān)管機制研究、可信教育人工智能研究、師生智能倫理素養(yǎng)培育研究、人工智能教育應用的社會實驗研究、國產(chǎn)人工智能工具賦能教育研究。
關鍵詞:智能教育;倫理;人工智能技術;教育數(shù)字化;DeepSeek
人工智能的快速發(fā)展,尤其是以DeepSeek、ChatGPT為代表的智能語言大模型,給教育的數(shù)字化轉型與高質(zhì)量發(fā)展帶來了新的機遇,正在對教育產(chǎn)生革命性、顛覆性的影響,推動教育理念更新、教育模式創(chuàng)新乃至整個教育體系的系統(tǒng)重構。但在這一過程中,也伴隨著諸多教育倫理問題,比如數(shù)據(jù)泄露、算法歧視、“人—機”沖突等,給教育教學的良性發(fā)展帶來了阻礙,引起了學界的廣泛關注。本研究旨在對我國智能教育倫理研究進行可視化分析,通過社會網(wǎng)絡分析、關鍵詞聚類分析等,揭示相關研究的熱點與趨勢,為我國人工智能和教育的深度融合提供參考。
一、研究設計
(一)數(shù)據(jù)來源與選擇
本研究以中國知網(wǎng)的CSSCI數(shù)據(jù)庫為樣本源,以“智能教育倫理”“人工智能教育倫理”“智能倫理”“AI倫理”為單獨主題詞進行檢索,以主題詞“智能教育”“智慧教育”“教育數(shù)字化”“人工智能”與“倫理”“風險”“挑戰(zhàn)”分別配對檢索(檢索時間為2014年8月—2024年8月),剔除非學術性文章、非教育主題和非智能教育倫理主旨文章后,獲175篇有效文獻。
(二)研究方法與工具
本研究采用社會網(wǎng)絡分析、聚類分析等方法,借助 Citespace、Bicomb 2.0、Ucinet 6.0和SPSS 23.0軟件,對我國智能教育倫理研究現(xiàn)狀進行定量分析,歸納研究熱點并預測發(fā)展趨勢。其中,社會網(wǎng)絡分析用于揭示關鍵詞間關系地位,聚類分析用于歸納研究主題結構,各軟件在數(shù)據(jù)處理、網(wǎng)絡分析、統(tǒng)計分析等方面發(fā)揮特定功能,共同支撐研究結論的可靠性。
二、我國智能教育倫理研究的整體樣態(tài)
(一)演進階段分析
發(fā)文數(shù)量通??勺鳛槟骋谎芯款I域發(fā)展階段的重要劃分依據(jù)。總體來說,我國智能教育倫理研究起步相對較晚,發(fā)文量整體上呈現(xiàn)增長態(tài)勢,大致可分為萌芽探索(2014—2018年)、平緩發(fā)展(2019—2022年)、快速發(fā)展(2023年至今)3個階段。萌芽探索階段總發(fā)文9篇,主要是從技術視角層面探討教育應用可能存在的倫理問題。隨著人工智能在教育領域的廣泛應用,其對教育的影響逐漸外顯,越來越多的學者開始關注人工智能如何在教育中可持續(xù)、向善、健康地應用,國內(nèi)有關智能教育倫理研究的文獻數(shù)量逐步上升。進入平緩發(fā)展期,年均發(fā)文18篇。2022年11月,ChatGPT正式推出,其強大的內(nèi)容生成能力、類人能力,使得人們更加關注AIGC技術應用于教育后現(xiàn)存或潛在的倫理風險,2023年全年相關的文獻數(shù)量達49篇,2024年近半年時間已有44篇??梢哉f生成式人工智能不僅放大了平緩發(fā)展期存在的倫理風險,還引發(fā)了研究者對傳統(tǒng)智能教育倫理規(guī)則的重新審視與深度反思。
(二)核心作者分析
統(tǒng)計作者相關信息有利于發(fā)現(xiàn)該領域高產(chǎn)作者以及作者之間的合作關系。根據(jù)普賴斯定律,高產(chǎn)作者前3位分別是趙磊磊(11篇)、胡凡剛(7篇)、王佑鎂(7篇)。此外,運用 Citespace 生成共現(xiàn)圖譜,得出125條連線,網(wǎng)絡密度為 0.0095,這表明我國研究者整體合作關系網(wǎng)相對稀疏,尚未形成高影響力的核心研究節(jié)點,呈現(xiàn)“孤島研究”現(xiàn)象。
(三)發(fā)文期刊分析
期刊分析在一定程度上反映了智能教育倫理研究的載體分布。統(tǒng)計結果顯示,175篇文獻共發(fā)表在55種CSSCI期刊上,相關發(fā)文量居于前3位的期刊為《電化教育研究》《中國電化教育》《現(xiàn)代教育技術》。從期刊來源看,教育技術學領域CSSCI期刊是發(fā)文的主要平臺,總發(fā)文量104篇,占比約為總樣本量的60%,這表明教育技術學學科是當前我國智能教育倫理研究的主要領域。
(四)被引用量分析
文獻的被引頻次通常被看作學術影響力和價值的重要標志。統(tǒng)計結果顯示,175篇文獻的被引總量為3622次,篇均被引量為20.7次。分析被引量前10的論文,可發(fā)現(xiàn)3個特點:一是從研究主題看,主要聚焦于智能教育倫理風險與消解對策、倫理原則與規(guī)范框架、數(shù)據(jù)安全與隱私等方面;二是從文獻類型看,10篇文章均為思辨理論性文章,表明這些文章具有較好的深度和價值,為后來的智能教育倫理研究提供了較好的理論指導與參考價值;三是從刊載時間看,有6篇文章刊載于平緩發(fā)展期,說明這一階段產(chǎn)出了一批具有突破性和引領性的原創(chuàng)研究成果,為后來的智能教育倫理研究奠定了較好的理論與實踐基礎。
(五)基金資助分析
基金論文率通常體現(xiàn)出國家或社會組織等對該領域的重視與關注情況。統(tǒng)計結果顯示,175篇文獻中獲得基金資助的有150篇,約占文獻總量的85.7%。其中,國家級基金支持占比31%,省部級占比32%,其他基金占比37%。這說明我國智能教育倫理研究受到了國家和社會的廣泛關注與重視。另外,在國家級基金中,國家社會科學基金占比最大,說明國家社會科學基金在推動我國智能教育倫理研究方面具有重要的作用。
(六)研究方法分析
研究參考陸根書等對教育研究方法的分類規(guī)則,將其分成思辨類和實證類(包括定量、定性和混合研究)。經(jīng)統(tǒng)計,思辨類論文有 167篇(占比 95.4%)、實證研究類論文有8篇(僅占4.6%),說明當前我國智能教育倫理領域理論與實踐研究在數(shù)量上極度不平衡。在思辨研究中,大部分研究內(nèi)容都對智能教育倫理研究的興起背景、基本類型、防范路徑、基本內(nèi)涵與原則規(guī)范等進行了邏輯推理演繹等。實證類型的文章主要是通過問卷的形式,圍繞影響因素、師生主體適應性等展開。未來還須加大智能教育倫理的實證研究,探索符合我國實際國情、切實可行的倫理風險防范對策。
三、我國智能教育倫理研究的熱點聚焦
(一)高頻關鍵詞分析
高頻關鍵詞分析可以幫助研究者初步了解智能教育倫理研究的熱點。高頻關鍵詞選擇的標準一般為截取的高頻詞累計頻次達到總頻次的40%左右。循此規(guī)則,本研究共計42個高頻關鍵詞,排名前10的分別是人工智能、倫理風險、技術倫理、ChatGPT、教育倫理、教育人工智能、智能教育、倫理、教育、生成式人工智能。
(二)社會網(wǎng)絡分析
高頻關鍵詞詞頻分析能初步反映智能教育倫理研究熱點,但無法直觀呈現(xiàn)高頻關鍵詞的地位及其相互關系。本研究把關鍵詞當作網(wǎng)絡中的行動者,分析其在網(wǎng)絡中的地位及相互關系。結果如圖1所示,正方形代表關鍵詞節(jié)點,節(jié)點大小體現(xiàn)關鍵詞在網(wǎng)絡中地位與作用大?。ü?jié)點越大越重要、作用越大),節(jié)點間距離體現(xiàn)關鍵詞密切程度(距離越小越密切),連線粗細體現(xiàn)關鍵詞關系強弱(連線越粗關系越強)。
從節(jié)點大小看,除了主題檢索詞人工智能、教育、倫理等外,ChatGPT、倫理規(guī)范、技術倫理、倫理原則、大數(shù)據(jù)、算法等關鍵詞節(jié)點偏大,是智能教育倫理研究熱點,與高頻關鍵詞詞頻分析結果基本吻合。從節(jié)點關系看,人工智能與倫理風險、教育倫理、教育、倫理風險等關系密切,說明智能教育倫理宏觀層面的研究仍是重點。從整個網(wǎng)絡而言,教師、算法偏見、教育治理、道德教育、數(shù)據(jù)隱私等處于網(wǎng)絡圖邊緣且連線稀疏,表明對其研究尚不深入。
(三)聚類分析
社會網(wǎng)絡分析可以揭示出高頻關鍵詞的地位及其之間的關系。為進一步了解智能教育倫理的研究主題,本研究運用SPSS 23.0進行了聚類分析。聚類結果大致分成5個主題類團,其中,主題一聚焦于倫理原則的研究;主題二關注智能教育過程中的數(shù)據(jù)安全與隱私風險問題;主題三圍繞人工智能對數(shù)字教育空間的影響展開研究;主題四和主題五主要側重于研究技術本體的內(nèi)在邏輯,以及其對師生教育主體產(chǎn)生的多維度影響。
(四)研究熱點分析
根據(jù)聚類分析的結果,結合高頻關鍵詞、社會網(wǎng)絡分析以及二次文獻閱讀,我國智能教育倫理研究熱點主要聚焦以下5個方面。
1.智能教育倫理內(nèi)涵與原則研究
智能教育倫理是指在將智能技術應用于教育領域時所須遵循的倫理標準和原則,旨在探索智能教育環(huán)境下的道德問題和倫理挑戰(zhàn),以及如何建立相應的倫理框架來引導智能教育的實踐。智能教育倫理不僅關注技術的負面影響,也強調(diào)通過倫理規(guī)范促進技術的正面效果。因此,理解智能教育倫理內(nèi)涵其本質(zhì)上是理解智能技術與教育、與人之間的關系。在具體原則方面,有學者認為包含數(shù)據(jù)保護、隱私權、公正性,以及對于不同背景學生的包容性。同時,構建智能教育倫理原則時,應考慮公平性、透明度、責任感和尊重個體權利等核心價值。這些原則共同構成了一個多維的倫理框架,旨在維護學生福祉,促進教育公正,并保護個人數(shù)據(jù)不被濫用。
2.智能教育中的數(shù)據(jù)與算法風險研究
數(shù)據(jù)、算法、算力是人工智能發(fā)揮效力的三大核心。生成式人工智能正是基于大規(guī)模的數(shù)據(jù)和智能算法才得以獲得強大內(nèi)容生成、自然對話等智能。但技術的黑箱和不可解釋性也帶來了數(shù)據(jù)隱私泄露、算法歧視等倫理問題。一方面,大量的學生數(shù)據(jù)被收集和存儲,這些數(shù)據(jù)可能會被黑客攻擊、非法獲取或濫用,不僅會侵犯學生的隱私,還可能對學生的未來發(fā)展造成嚴重影響。另一方面,如果算法存在偏見和不公正性,會對特定群體的學生產(chǎn)生歧視,導致他們獲得不公平的教育機會。此外,算法的不透明性也使得人們難以理解和監(jiān)督其決策過程,增加了風險與不確定性。
3.智能教育空間的倫理規(guī)范研究
智能技術的發(fā)展引發(fā)了教育空間的變革,從傳統(tǒng)的物理空間拓展到虛擬的智能空間,比如在線學習社區(qū)、虛擬教室、教育元宇宙空間、數(shù)字校園等。傳統(tǒng)物理空間的倫理規(guī)范無法保障教育活動的正常進行和師生的權益,需要建立新的倫理規(guī)范。例如,制定虛擬社區(qū)公約以規(guī)范師生的行為,同時需要建立獎懲制度,強化師生對于公約的認識,確保學生在虛擬空間中也能獲得健全健康、高質(zhì)量的教育;從社區(qū)主體、規(guī)范體系、規(guī)范內(nèi)容、相應倫理行為4個方面,構建了教育虛擬社區(qū)的助學者倫理規(guī)范,以促進教育社區(qū)良性發(fā)展。此外,智能教育空間的設計和開發(fā)也應該考慮倫理因素。一方面,界面設計應該簡潔明了、易于操作,避免給學生帶來不必要的困擾;另一方面,功能應該符合教育和學習者認知規(guī)律與需求,避免過度商業(yè)化和娛樂化。
4.智能教育與師生主體性研究
在智能教育中,師生主體性問題備受關注。對于教師而言,智能技術應用將影響其教學角色與地位。傳統(tǒng)模式下,教師是知識傳授者與學習引導者,如今則需要更多地扮演組織者、協(xié)調(diào)者和促進者角色。對于學生而言,智能教育增加了其技術依賴的程度,制約其創(chuàng)新能力的發(fā)展。同時,智能技術雖增加了交流互動渠道,卻可能使情感聯(lián)系減弱,變成符號之間的互動,影響良好師生關系與氛圍的建立。
5.智能教育與技術本體倫理風險研究
技術本體倫理風險研究更多關注智能教育技術本身固有的風險,其與技術的不成熟、自主性等特性相關。一方面,技術的不成熟可能導致不可靠的教育結果。例如,早期的智能教育系統(tǒng)可能無法準確捕捉學生的學習需求,導致教育資源分配不合理。另一方面,技術自主性問題也帶來了倫理風險,系統(tǒng)的自我學習能力可能在某些情況下脫離人類控制,從而做出不合適的教學決策。此外,智能教育系統(tǒng)可能會引發(fā)倫理決策中的權力分配問題,技術開發(fā)者、學校管理者和教師在使用這些技術時可能會有不同的權力和責任分配,導致技術本體倫理風險的加劇。為此,在開發(fā)和推廣智能教育技術時,應當充分考慮技術固有的倫理風險,并加強技術的透明度與可控性。
四、我國智能教育倫理研究的趨勢展望
當前,我國智能教育倫理研究已進入快速發(fā)展階段,相關研究數(shù)量、質(zhì)量、層次不斷提高。隨著人工智能和教育的深度融合,結合我國的政策和相關文獻,未來我國智能教育倫理研究將呈現(xiàn)以下趨勢。
(一)重視智能技術教育應用的監(jiān)管機制研究
智能技術與教育的深度融合是大勢所趨。黨的二十屆三中全會提出,要建立人工智能應用管理與監(jiān)管制度,以安全賦能各行各業(yè)高質(zhì)量發(fā)展。未來的研究重點:一是秉承以人為本的理念,深入分析不同教育場景下智能技術應用的范圍與倫理邊界,平衡好教育領域的創(chuàng)新與風險、公平與效率、共性與個性之間的關系,針對潛在的倫理風險點,精準制定有針對性的、有效的多維監(jiān)管細則;二是探索政府、技術開發(fā)者、教育機構、社會公眾等多方協(xié)同監(jiān)管共治的模式,突破單一部門或領域監(jiān)管能力有限等問題;三是充分發(fā)揮以“智”治“智”的優(yōu)勢,探索如何通過技術手段增強監(jiān)管的靈活性和效能,構建動態(tài)的、具有快速響應能力的教育倫理風險監(jiān)測與評估預警體系。
(二)加強可信教育人工智能研究
2019年6月,國家新一代人工智能治理專業(yè)委員會印發(fā)的《新一代人工智能治理原則——發(fā)展負責任的人工智能》提出了“和諧友好”“公平公正”等8項原則??尚沤逃斯ぶ悄艿难芯浚仁菍姨岢龅慕逃龑S么竽P托袆拥膶嵺`與深化,也是解決智能教育倫理風險的必由之路。在后續(xù)的研究中,一方面,研究者應深入挖掘教育數(shù)據(jù)的內(nèi)在價值,通過改進算法模型,使其能夠更好地適應復雜多變的教育情境,如學生綜合素質(zhì)評價、個性化學習需求分析等。另一方面,研究者應積極探索如何將教育倫理理念融入智能技術開發(fā)全過程,通過建立教育導向的算法倫理審查機制,確保系統(tǒng)輸出結果既滿足教育規(guī)律,又滿足倫理要求,為教育提供可靠、智能、安全等技術支持。同時,還需加快智能技術可信度評估指標體系建設,結合教育的具體場景,對其精準量化評估。
(三)深化師生智能倫理素養(yǎng)培育研究
2024年11月,教育部印發(fā)的《關于加強中小學人工智能教育的通知》提出,要注重人工智能教育應用倫理,引導中小學生科學合理使用各類人工智能工具,特別是生成式人工智能工具。未來的教育將會是人機共育的時代,如何提升師生安全、良性、有序使用智能技術的能力至關重要。一方面,研究系統(tǒng)化的智能倫理素養(yǎng)教育框架,設計適應不同教育階段的智能倫理課程體系,探討如何通過互動教學、案例分析等方法培養(yǎng)學生的倫理思維,同時提升教師的智能倫理素養(yǎng),幫助他們有效引導學生進行道德判斷和決策。另一方面,推行智能倫理素養(yǎng)的評估機制與影響研究,開發(fā)科學的、可操作的倫理素養(yǎng)評估工具,衡量師生在智能技術應用中的倫理認知水平,并探討倫理素養(yǎng)對教育公平、學習效果及師生互動的影響,推動智能教育的公平性與有效性。
(四)關注人工智能教育應用的社會實驗研究
當前智能教育倫理研究以理論探討為主,缺乏對真實教育場景中的實證研究。近年來,我國重點開展“國家智能社會治理實驗基地”的建設工作,旨在通過社會實驗的方式探索智能技術對于教育教學的影響。未來,學術界將會投入更多的實證研究:一是聚焦多樣化的教育場景開展實驗,系統(tǒng)研究與跟蹤智能技術介入后學生學習成效、師生關系、教育公平、教育結構、家長參與度等方面的變化,挖掘智能技術與教育深度融合的底層邏輯與規(guī)律;二是重點研究社會各群體(學生、教師、家長等)對智能技術的認知與接受程度,進而為教育政策的制定和技術優(yōu)化提供數(shù)據(jù)支持,確保技術的應用符合社會倫理規(guī)范,提升其在教育領域的可持續(xù)性和社會認同度。
(五)利用國產(chǎn)人工智能工具賦能教育研究
智能時代,機器“學以成人”乃至“超人”的趨勢正在深刻改寫教育生態(tài)版圖,尤其是DeepSeek的發(fā)布,更是加速了“人人能用AI、人人會用AI、人人有用AI”的社會新形態(tài)形成,為教育發(fā)展帶來了空前的機遇:
一是實現(xiàn)更加全面的教育公平。DeepSeek具有低成本、低門檻、高效率、開放源代碼等特征,一定程度上突破了能力、時空、經(jīng)濟及軟硬件等多重限制,使得教育資源能夠更廣泛地觸及不同地區(qū)、群體的師生,推動教育公平邁向更高層次。
二是重塑教育培養(yǎng)目標。伴隨GenAI成長的學生將會是新的數(shù)字原生代,教育目標也將從單純的知識傳授,逐步轉向創(chuàng)新激發(fā)、能力培養(yǎng)、人文精神塑造和高階思維的培養(yǎng),致力于培育更加全面的復合型人才。
三是革新教學范式與認知方式。傳統(tǒng)的“滿堂灌”“標準式”的教學將會被個性化、靈活化、互動化的人機協(xié)同模式取代,學習者的認知方式將從被動接受轉向主動探索,從線性思維轉向多元思維,從孤立學習到關聯(lián)學習,從單一知識源轉向多源認知,從注重記憶到注重理解和應用。
四是重構教育評價體系。評價不再單純依賴標準化考試和分數(shù),而是向綜合素質(zhì)評估轉型,涵蓋學生的創(chuàng)新能力、合作精神、社會責任感等多維度的綜合素質(zhì)。
五是促進教育研究與創(chuàng)新。DeepSeek等工具憑借強大的數(shù)據(jù)處理與分析能力,能深度挖掘教育數(shù)據(jù),揭示教育規(guī)律與學習行為,為教育研究提供新視角,支持理論創(chuàng)新與教學實踐。
在這場持續(xù)且深刻的教育變革浪潮中,我們既要張開雙臂積極擁抱智能技術賦予的無限機遇,推動教育轉型升級,更要以高瞻遠矚的戰(zhàn)略眼光和審慎的態(tài)度深耕智能教育倫理與風險領域,洞察技術應用的潛在問題,平衡好技術與教育本質(zhì)的關系,精準把握融合創(chuàng)新平衡點。如此,方能在無限變化的智能時代讓教育煥發(fā)出更璀璨光彩,達成教育強國的偉大目標,實現(xiàn)全面育人的美好愿景。
參考文獻:
[1]張惠彬,許蕾.生成式人工智能在教育領域的倫理風險與治理路徑:基于羅素大學集團的實踐考察[J].現(xiàn)代教育技術,2024(6).
[2]白鈞溢,于偉.教育人工智能倫理原則的有限性及其補正:兼論“原則—美德—法律”框架[J].中國電化教育,2024(2).
[3]王佑鎂,王旦,柳晨晨.從科技向善到人的向善:教育人工智能倫理規(guī)范核心原則[J].開放教育研究,2022(5).
[4]吳永和,吳慧娜,陳圓圓,等.推動人工智能向善發(fā)展:教育與人工智能共同的責任[J].中國電化教育,2024(1).
[5]吳砥,吳河江.通用大模型教育應用的潛在風險及其規(guī)避:基于技術倫理的視角[J].華東師范大學學報(教育科學版),2024(8).
[6]孫田琳子.虛擬現(xiàn)實教育應用的倫理反思:基于伯格曼技術哲學視角[J].電化教育研究,2020(9).
[7]胡凡剛,盧瀟,龐茗月,等.教育虛擬社區(qū)助學者倫理規(guī)范構建及作用[J].開放教育研究,2020(2).
[8]巫娜.“生成式人工智能+教育”的偽主體間性及其風險[J].現(xiàn)代大學教育,2024(4).
[9]柯清超,米橋偉,鮑婷婷.生成式人工智能在基礎教育領域的應用:機遇、風險與對策[J].現(xiàn)代教育技術,2024(9).
(責任編輯:趙昆倫)