高山冰 楊丹

摘要：人工智能教育應(yīng)用的倫理議題主要包括教育大數(shù)據(jù)引發(fā)的隱私安全問(wèn)題、智能機(jī)器對(duì)人類(lèi)教師職業(yè)造成的威脅、個(gè)性化學(xué)習(xí)算法存在的倫理沖突、教育領(lǐng)域數(shù)字鴻溝帶來(lái)的倫理危機(jī)、智能教育發(fā)展對(duì)社會(huì)美德的沖擊等多方面的倫理問(wèn)題。究其成因，與技術(shù)主體的職業(yè)素養(yǎng)“失守”、倫理自主性受限，用戶(hù)技術(shù)崇拜、能動(dòng)性喪失以及社會(huì)層面的監(jiān)管不力、倫理規(guī)范缺失等關(guān)聯(lián)密切。人工智能教育應(yīng)用要構(gòu)建倫理規(guī)范體系，完善問(wèn)責(zé)體制，健全算法審查及數(shù)據(jù)監(jiān)管機(jī)制以及建構(gòu)以人為本的倫理共識(shí)。

關(guān)鍵詞：人工智能;智能教育;倫理;算法近年來(lái)，各國(guó)紛紛將發(fā)展人工智能作為提升國(guó)家競(jìng)爭(zhēng)力、維護(hù)國(guó)家安全的重要戰(zhàn)略。我國(guó)也制定了多項(xiàng)人工智能發(fā)展戰(zhàn)略，快速推進(jìn)人工智能技術(shù)與社會(huì)經(jīng)濟(jì)各個(gè)領(lǐng)域的深度融合。教育是人工智能應(yīng)用的一個(gè)重要領(lǐng)域，人工智能教育的發(fā)展?jié)摿?，吸引了大批互?lián)網(wǎng)企業(yè)、科技公司入局，產(chǎn)生了多種智能教育應(yīng)用形式和大量的應(yīng)用案例。與此同時(shí)，人工智能教育應(yīng)用由于缺乏有效的技術(shù)標(biāo)準(zhǔn)與“強(qiáng)制性”法律手段加以規(guī)約，引發(fā)的倫理爭(zhēng)議嚴(yán)重制約了行業(yè)發(fā)展。

一、文獻(xiàn)綜述

Holmes等[1]學(xué)者在2018年人工智能教育應(yīng)用（AIED）研討會(huì)上指出，目前有關(guān)研究、開(kāi)發(fā)和部署在本質(zhì)上仍是在道德真空的環(huán)境下進(jìn)行的，幾乎還未形成任何方針、政策、法規(guī)來(lái)解決在教育領(lǐng)域應(yīng)用“AI”所引發(fā)的特定倫理問(wèn)題，提出了建構(gòu)人工智能教育應(yīng)用倫理規(guī)制的現(xiàn)實(shí)需求。蘇明等（2019）[2]基于馬克思主義技術(shù)批判和人的全面發(fā)展理論，對(duì)人工智能教育應(yīng)用進(jìn)行價(jià)值審視、公平性審視、人性審視、責(zé)任審視和終極目標(biāo)的審視，提出要警惕人工智能可能產(chǎn)生的異化作用，促進(jìn)人工智能教育應(yīng)用的良性發(fā)展。Morley等（2020）[3]梳理了人工智能倫理爭(zhēng)論的演變，認(rèn)為如今圍繞人工智能的道德辯論主要集中在人工智能的倫理原則是“什么”上，并提出人們的倫理風(fēng)險(xiǎn)意識(shí)和緩解相關(guān)風(fēng)險(xiǎn)的能力明顯脫節(jié)，應(yīng)在AI產(chǎn)品設(shè)計(jì)開(kāi)發(fā)的各個(gè)方面應(yīng)用道德規(guī)范。Berendt等（2020）[4]認(rèn)為，人工智能的教育應(yīng)用不僅會(huì)影響數(shù)據(jù)保護(hù)和隱私，還會(huì)影響公民的基本權(quán)力。鑒于AI的全球影響力，應(yīng)該在跨國(guó)級(jí)別對(duì)其進(jìn)行監(jiān)管，由聯(lián)合國(guó)等全球組織來(lái)承擔(dān)這一角色。

圍繞教育公平和人類(lèi)教師能否被代替議題，Hilbert（2016）[5]認(rèn)為人工智能可能是一種破壞性的技術(shù)，會(huì)加劇現(xiàn)有的不平等和分歧，導(dǎo)致新的數(shù)字鴻溝。劉盾等（2019）[6]從哲學(xué)與倫理的視角，對(duì)人工智能對(duì)教育的沖擊與顛覆展開(kāi)分析，指出人工智能的教育應(yīng)用可能導(dǎo)致人與教育分離、科技依賴(lài)、職業(yè)危機(jī)等倫理問(wèn)題。Cope等（2020）[7]通過(guò)分析機(jī)器智能的本質(zhì)及其教育應(yīng)用的局限性和潛力，認(rèn)為人工智能的工作原理和作用始終與人類(lèi)智慧有很大不同，它將永遠(yuǎn)不會(huì)“代替”教師的角色。Tan（2020）[8]探討了數(shù)字教師能否在精神教育中替代人類(lèi)教師的問(wèn)題，認(rèn)為數(shù)字教師能作為“人工智能伙伴”在傳播知識(shí)和技能方面發(fā)揮作用，但在作為學(xué)生的道德精神指導(dǎo)者和行為榜樣方面則無(wú)能為力。

在具體應(yīng)用層面，F(xiàn)loridi等（2018）[9]認(rèn)為利用AIDA數(shù)據(jù)分析技術(shù)對(duì)發(fā)展適應(yīng)性學(xué)習(xí)有重要作用，但在數(shù)據(jù)收集、使用，算法設(shè)計(jì)、應(yīng)用的過(guò)程中都可能會(huì)面臨倫理難題。Annabel Latham等（2019）[10]為研究人工智能教育應(yīng)用倫理提供了受眾視角。何億寧等（2019）[11]對(duì)人工智能課程與倫理道德教育的融合進(jìn)行了探討，指出應(yīng)當(dāng)適當(dāng)?shù)丶尤氲赖陆逃脑?，均衡其固有的技術(shù)性偏向。Perrotta等（2020）[12]質(zhì)疑機(jī)器學(xué)習(xí)能否用于教育，通過(guò)對(duì)智能輔導(dǎo)系統(tǒng)和“深度學(xué)習(xí)”算法預(yù)測(cè)教育表現(xiàn)案例的分析，認(rèn)為用此類(lèi)算法處理教育數(shù)據(jù)有諸多不合理性。

人工智能應(yīng)用于教育存在一定的倫理風(fēng)險(xiǎn)已成共識(shí)，不過(guò)多數(shù)對(duì)人工智能教育應(yīng)用倫理問(wèn)題的討論包含在以智能教育發(fā)展或具體的教育應(yīng)用場(chǎng)景分析為主題的研究之中，總體上還停留在抽象價(jià)值的提取和共識(shí)構(gòu)建階段。全面、系統(tǒng)地審視人工智能教育應(yīng)用的倫理問(wèn)題，有助于促進(jìn)其高質(zhì)量發(fā)展。

二、人工智能教育應(yīng)用倫理風(fēng)險(xiǎn)

（一）過(guò)度資源依賴(lài)潛藏倫理危機(jī)

1.教育目標(biāo)發(fā)生偏移?？v觀技術(shù)的發(fā)展歷程，科學(xué)技術(shù)的進(jìn)步實(shí)現(xiàn)了人對(duì)自然的有效控制，然而人在肯定技術(shù)價(jià)值、消費(fèi)技術(shù)所帶來(lái)的物質(zhì)資料的過(guò)程中，卻失去了批判精神和否定意識(shí)[13]，人工智能教育應(yīng)用亦是如此。教育對(duì)人工智能技術(shù)的一味追逐，可能導(dǎo)致教育教學(xué)的核心發(fā)生偏移。一方面，多元化的教學(xué)資源，滿(mǎn)足了學(xué)生的個(gè)性化學(xué)習(xí)需求，但使得傳統(tǒng)的教師和學(xué)生的二元關(guān)系，變成了教師、產(chǎn)品、學(xué)生的三元關(guān)系，進(jìn)一步拉開(kāi)了師生之間的心理距離。另一方面，人被量化、標(biāo)簽化的現(xiàn)象普遍存在，用數(shù)據(jù)來(lái)描述人的特性，有將教育標(biāo)準(zhǔn)片面化、教育過(guò)程流水線化的嫌疑。過(guò)度追求數(shù)據(jù)層面人的成長(zhǎng)，會(huì)出現(xiàn)技術(shù)對(duì)教育的控制和壟斷。

·教育基本理論·人工智能教育應(yīng)用的倫理風(fēng)險(xiǎn)及其應(yīng)對(duì)研究2.理性工具化的泥淖。技術(shù)體現(xiàn)了主導(dǎo)性的思考和行為模式，是控制和支配的工具。[14]技術(shù)的發(fā)展造就了一個(gè)自成體系的機(jī)器世界，人們也就越來(lái)越根據(jù)實(shí)證科學(xué)的思維方式來(lái)調(diào)整自己的行為與價(jià)值理念，理性越來(lái)越工具化了。[15]人工智能為教育帶來(lái)了諸多變化和美好預(yù)期。然而，人工智能讓機(jī)器越來(lái)越像人，教育卻讓人變得越來(lái)越像機(jī)器，這樣的教育最終結(jié)果是讓學(xué)生被迫記住一大堆對(duì)付考試要用的東西，卻逐漸喪失了學(xué)習(xí)能力、創(chuàng)新能力。[16]學(xué)生不再運(yùn)用大腦（以及認(rèn)知、感知和注意）理解教學(xué)內(nèi)容，這與教育的本質(zhì)和追求背道而馳。從教育者采用智能應(yīng)用開(kāi)始，技術(shù)就在“籌謀”反客為主之道，由服務(wù)者變成控制者，從技術(shù)融入教育，到教育者過(guò)度依賴(lài)技術(shù)，理性越來(lái)越工具化，最終落入被技術(shù)掌控的“泥淖”。

（二）教育大數(shù)據(jù)引發(fā)信息安全問(wèn)題

大數(shù)據(jù)、深度學(xué)習(xí)等關(guān)鍵信息技術(shù)的突破和成熟，引發(fā)了第三次人工智能浪潮。與大數(shù)據(jù)技術(shù)相關(guān)的在數(shù)據(jù)采集、存儲(chǔ)和使用中面臨的隱私泄露、信息安全問(wèn)題，與深度學(xué)習(xí)算法有關(guān)的算法黑箱、歧視問(wèn)題等，也順延到了人工智能應(yīng)用的各個(gè)領(lǐng)域，教育應(yīng)用也不例外。

1.隱私邊界更加模糊。大數(shù)據(jù)時(shí)代，隱私的邊界越發(fā)模糊，各類(lèi)數(shù)據(jù)都可能被挖掘、預(yù)測(cè)甚至監(jiān)控，人在網(wǎng)絡(luò)空間越發(fā)“透明”。2019年初，西南地區(qū)十余所中小學(xué)試水智能校服，在網(wǎng)絡(luò)上引發(fā)了對(duì)此類(lèi)智能產(chǎn)品是否侵犯未成年人隱私權(quán)的熱議。這些敏感數(shù)據(jù)的收集、存儲(chǔ)、使用、監(jiān)管等全然由智能教育科技公司自主進(jìn)行，因而外界對(duì)“收集敏感數(shù)據(jù)如何使用”“監(jiān)測(cè)設(shè)備是否會(huì)影響使用者的身心健康”等問(wèn)題的質(zhì)疑之聲也未斷絕。隨著在線教育用戶(hù)規(guī)模的快速增長(zhǎng)，各類(lèi)教育App過(guò)度收集用戶(hù)信息的現(xiàn)象屢禁不止，教育平臺(tái)泄露用戶(hù)信息的事件時(shí)有發(fā)生，引發(fā)了社會(huì)對(duì)個(gè)人隱私和智能教育應(yīng)用的擔(dān)憂(yōu)。

2.數(shù)據(jù)安全難以保障。大數(shù)據(jù)、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù)的協(xié)同探索，為用戶(hù)“個(gè)性化學(xué)習(xí)”提供了實(shí)現(xiàn)的可能。但是，數(shù)據(jù)收集標(biāo)準(zhǔn)不統(tǒng)一、處理規(guī)范不完善帶來(lái)嚴(yán)重影響了人工智能教育應(yīng)用的有序發(fā)展。因服務(wù)器安全措施不到位、防火墻漏洞等導(dǎo)致用戶(hù)信息泄露的事件時(shí)有發(fā)生。人工智能技術(shù)給非法入侵者提供了“過(guò)墻梯”的資源，對(duì)用戶(hù)的數(shù)據(jù)安全造成嚴(yán)重威脅。

（三）個(gè)性化學(xué)習(xí)算法潛存?zhèn)惱盹L(fēng)險(xiǎn)

算法是人工智能的“靈魂”，但由于算法本身的復(fù)雜性以及技術(shù)公司的排他性商業(yè)政策等，“算法黑箱”普遍存在且很難被打破。此外，數(shù)據(jù)的中立性、客觀性難以保證，算法存在諸多固有偏見(jiàn)，可能導(dǎo)致一系列的負(fù)面影響。

1.算法的不透明性忽視了人的知情權(quán)。以深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)為代表的人工智能，是數(shù)據(jù)驅(qū)動(dòng)的不確定性智能。其不確定性主要體現(xiàn)在算法并不能完全為其主導(dǎo)者和設(shè)計(jì)者所左右。[17]人工智能教育應(yīng)用中的個(gè)性化推薦算法可以描述成一個(gè)未知的“黑箱”，算法以用戶(hù)的各方面數(shù)據(jù)為基礎(chǔ)發(fā)揮作用，為用戶(hù)量身定制個(gè)性化學(xué)習(xí)服務(wù)。用戶(hù)卻幾乎無(wú)從獲悉算法的設(shè)計(jì)者、持有者[18]，對(duì)推薦個(gè)性化學(xué)習(xí)內(nèi)容的生成方式更是一無(wú)所知。利用不可解釋的個(gè)性化學(xué)習(xí)推薦算法，對(duì)海量的教育數(shù)據(jù)進(jìn)行分析，最終生成的結(jié)果是否合理，能否用于指導(dǎo)學(xué)生的成長(zhǎng)發(fā)展，爭(zhēng)議頗多。即便數(shù)據(jù)透明，對(duì)人的隱私保護(hù)、知情同意、信息安全是否一定是正向影響，也很難確定。

2.個(gè)性化推薦算法限制了人的選擇權(quán)。機(jī)器學(xué)習(xí)算法是基于社會(huì)整體“大數(shù)據(jù)集”而形成“規(guī)則集”并應(yīng)用于具體場(chǎng)景的過(guò)程，暗含著以整體特征推斷個(gè)體行為的邏輯。[19]算法本身并非是絕對(duì)客觀、無(wú)情感偏向的，算法的設(shè)計(jì)無(wú)一例外都是為了實(shí)現(xiàn)一定的目的，其中或明或暗地滲透著主導(dǎo)者的意圖與能動(dòng)性。推薦算法自主運(yùn)行輸出個(gè)性化學(xué)習(xí)方案這一過(guò)程，在某種意義上，收束了用戶(hù)的自主選擇權(quán)，可能對(duì)用戶(hù)的成長(zhǎng)發(fā)展產(chǎn)生負(fù)面的影響。如今，個(gè)性化學(xué)習(xí)、個(gè)性化輔導(dǎo)、個(gè)性化學(xué)習(xí)計(jì)劃定制已成智能教育的“標(biāo)配”。然而，利用智能教育應(yīng)用的推薦算法生成的個(gè)性化學(xué)習(xí)課程，是用戶(hù)需要的“因材施教”的“良境”，還是選擇受限的“信息繭房”的“困境”，尚難定論。

（四）數(shù)字鴻溝困境與教師職業(yè)威脅

1.數(shù)字鴻溝的困境。有學(xué)者指出，以慕課為代表的在線教育確實(shí)為部分弱勢(shì)群體、教育貧困群體帶來(lái)了獲取優(yōu)質(zhì)資源的契機(jī)，但它從接觸率到有效使用率都偏向在經(jīng)濟(jì)條件、設(shè)備基礎(chǔ)、知識(shí)儲(chǔ)備等方面更具優(yōu)勢(shì)的群體，這可能會(huì)助長(zhǎng)而不是削弱已有的教育不公平問(wèn)題。[20]此外，人工智能教育應(yīng)用一直被寄望于對(duì)特殊人群有所幫助，對(duì)其生理缺陷有所“補(bǔ)足”，但實(shí)際上這些人群幾乎被排除在人工智能教育應(yīng)用的用戶(hù)之外。這與其媒介使用情況、智能設(shè)備持有率、特殊用途教育應(yīng)用的市場(chǎng)有限性等外部條件不無(wú)關(guān)系，無(wú)形之中擴(kuò)大了“數(shù)字鴻溝”。

2.對(duì)教師職業(yè)的威脅。人工智能終將邁入新的發(fā)展階段，智能機(jī)器帶來(lái)的職業(yè)威脅并非妄言。如今，人工智能教育應(yīng)用已經(jīng)遠(yuǎn)超了普雷希和斯金納時(shí)代教學(xué)機(jī)器的意義，它不僅涉及教學(xué)環(huán)節(jié)中的某種工具或具體技術(shù)問(wèn)題，而且包含了對(duì)人類(lèi)教育任務(wù)的根本挑戰(zhàn)。雖然現(xiàn)階段的人工智能教師還不能完全發(fā)揮人類(lèi)教師的作用，它在智能問(wèn)答、信息儲(chǔ)備、處理重復(fù)工作等方面所具有的優(yōu)勢(shì)，尚不能均衡它在情緒感知、精神引領(lǐng)方面的乏力。但隨著智能程度的提升，兩者之間勢(shì)必將暴露出更多的倫理沖突。

三、人工智能教育應(yīng)用倫理風(fēng)險(xiǎn)根源剖析

（一）技術(shù)主體的失范

由于應(yīng)用開(kāi)發(fā)者，即技術(shù)主體的倫理行為有個(gè)體型技術(shù)主體的倫理行為和組織型技術(shù)主體的倫理行為，所以可以將技術(shù)主體的行為失范分為個(gè)體型技術(shù)主體的行為失范和組織型技術(shù)主體的行為失范。[21]

1.職業(yè)素養(yǎng)“失守”。古人講“三不朽”：立德、立功、立言。即便此后更高形式的機(jī)器智能能達(dá)到立功和立言的結(jié)果，立德也永遠(yuǎn)不會(huì)被取代。[22]然而事實(shí)證明，經(jīng)濟(jì)因素、政治因素、社會(huì)因素等外在條件能輕易越過(guò)技術(shù)主體的職業(yè)道德“屏障”，導(dǎo)致倫理失范行為。技術(shù)“中性”論認(rèn)為，技術(shù)本身無(wú)所謂善惡，它無(wú)非是中性的工具和手段，技術(shù)產(chǎn)生什么影響，服務(wù)于什么目的，不是技術(shù)本身所固有的，而取決于人用技術(shù)來(lái)做什么。[23]所以，技術(shù)實(shí)施者自身的道德素養(yǎng)“失守”，以經(jīng)濟(jì)等原因作為智能應(yīng)用開(kāi)發(fā)的首要考慮因素，是導(dǎo)致此類(lèi)倫理問(wèn)題的主要原因。

2.倫理自主性受限。倫理自主性是指技術(shù)主體在開(kāi)展技術(shù)活動(dòng)的過(guò)程中，能動(dòng)地進(jìn)行行為判斷和道德選擇，并自主承擔(dān)相應(yīng)的倫理后果的特性。技術(shù)主體這個(gè)角色本身有一定的矛盾性。他一方面受雇于企業(yè)，是技術(shù)活動(dòng)的實(shí)施者、企業(yè)利益的生產(chǎn)者和企業(yè)發(fā)展的獲益者。需要遵循相應(yīng)的企業(yè)規(guī)范，完成上級(jí)管理者分配的工作任務(wù)，參與以公司利益為主導(dǎo)的技術(shù)開(kāi)發(fā)等。另一方面，技術(shù)主體作為社會(huì)公民，有遵守社會(huì)道德規(guī)范。其在實(shí)施技術(shù)行為的過(guò)程中有堅(jiān)持倫理自主性，甚至在沖突發(fā)生時(shí)與企業(yè)利益進(jìn)行協(xié)商的必要。在現(xiàn)實(shí)生活中，當(dāng)技術(shù)主體的倫理自主性被上級(jí)管理者或更高層面的利益所抑制，技術(shù)主體應(yīng)有的職責(zé)操守往往會(huì)做出退讓和妥協(xié)。人工智能發(fā)展到現(xiàn)在，其與教育融合引發(fā)的倫理問(wèn)題雖然有部分可以用傳統(tǒng)的倫理原則來(lái)審視，但更多的問(wèn)題是全新的，需要新的行業(yè)規(guī)范從根本上提升技術(shù)行為實(shí)施者的倫理意識(shí)和道德素養(yǎng)。

（二）技術(shù)拜物教的桎梏

人工智能在教育領(lǐng)域的應(yīng)用使得傳統(tǒng)的教育倫理從關(guān)注教育公平、教師素養(yǎng)、職業(yè)道德，拓展到對(duì)教育者的智能技術(shù)使用行為，受教育者被侵權(quán)，教育者、受教育者、智能機(jī)器三者之間關(guān)系的討論，技術(shù)在這一過(guò)程中有著重要的影響。

技術(shù)是人創(chuàng)造的、服務(wù)于人、內(nèi)在于人生命的。而在現(xiàn)代社會(huì)它卻反過(guò)來(lái)控制人、支配人、統(tǒng)治人。技術(shù)的巨大功能使人們產(chǎn)生了“技術(shù)無(wú)所不能”的神秘感，讓人在心理上形成了類(lèi)似宗教崇拜的知覺(jué)狀態(tài)，這是現(xiàn)代技術(shù)社會(huì)特有的技術(shù)拜物教現(xiàn)象。[24]人工智能技術(shù)作為一門(mén)前沿科學(xué)技術(shù)，有帶動(dòng)生產(chǎn)力整體躍升的巨大潛力，現(xiàn)代生產(chǎn)和消費(fèi)的需要決定了人工智能是“拜物教”的現(xiàn)代形式。人工智能技術(shù)為教育者提供了新的教育教學(xué)途徑，也使這些新的應(yīng)用處于一種不確定的狀態(tài)，教育者面對(duì)人工智能教育應(yīng)用極易處于“手握一把錘子”的狀態(tài)，無(wú)論有無(wú)必要都在教育過(guò)程中使用人工智能技術(shù)。如此一來(lái)，容易陷入過(guò)于依賴(lài)人工智能對(duì)學(xué)習(xí)者學(xué)習(xí)活動(dòng)的反饋評(píng)價(jià)，而喪失教師自身的主體能動(dòng)性的局面。另外，人工智能教育產(chǎn)品的生產(chǎn)成本較高，且尚無(wú)系統(tǒng)的法律法規(guī)制約，發(fā)展?fàn)顩r參差不齊。由此帶來(lái)的新數(shù)字鴻溝問(wèn)題已經(jīng)引發(fā)了社會(huì)的廣泛熱議。此外，如果教育者的教學(xué)設(shè)計(jì)需要學(xué)習(xí)者配備相應(yīng)的智能產(chǎn)品，則極易導(dǎo)致有關(guān)教育者素養(yǎng)甚至教育倫理的爭(zhēng)議。

（三）監(jiān)管與規(guī)制的缺失

在人工智能教育應(yīng)用的發(fā)展過(guò)程中，一方面是學(xué)界和業(yè)界對(duì)人工智能教育應(yīng)用前景的美好預(yù)期和積極探索;另一方面，在實(shí)際的融合過(guò)程中，智能應(yīng)用迅速增多，企業(yè)競(jìng)爭(zhēng)加劇，而規(guī)范人工智能教育應(yīng)用的行業(yè)規(guī)范、法律法規(guī)卻不完善等問(wèn)題仍然十分突出。

1.智能教育應(yīng)用監(jiān)管不力。人工智能教育應(yīng)用的監(jiān)督主要涉及兩個(gè)主體，一個(gè)是國(guó)家強(qiáng)制力量;另一個(gè)是以媒體監(jiān)督為主的社會(huì)監(jiān)督力量。近幾年，我國(guó)雖然在人工智能倫理準(zhǔn)則設(shè)計(jì)、智能應(yīng)用整治等方面取得了一些成果，但與人工智能相關(guān)的立法工作的推進(jìn)較為緩慢，與打擊智能應(yīng)用侵權(quán)相匹配的法律法規(guī)尚不完善，威懾力不足。另外，媒體對(duì)人工智能教育應(yīng)用的報(bào)道仍是以“緊追時(shí)效”為主，什么應(yīng)用熱度高就報(bào)道什么，鮮有事關(guān)人工智能教育應(yīng)用倫理問(wèn)題長(zhǎng)期的、系列深度報(bào)道。在某種程度上反映出媒體在人工智能教育應(yīng)用的倫理風(fēng)險(xiǎn)監(jiān)督中的缺位和力度不足。

2.倫理規(guī)制的滯后。人工智能教育應(yīng)用作為如今的熱門(mén)發(fā)展領(lǐng)域，一方面，企業(yè)逐漸拓寬人工智能技術(shù)在教育領(lǐng)域的應(yīng)用范疇，不斷推出新的智能教育應(yīng)用產(chǎn)品。另一方面，行業(yè)發(fā)展速度遠(yuǎn)高于行業(yè)規(guī)范、法律法規(guī)的更新速度，各企業(yè)實(shí)則處在“自由生長(zhǎng)”的無(wú)序發(fā)展?fàn)顩r之中。有學(xué)者指出，對(duì)信息技術(shù)在隱私方面的規(guī)范通常是無(wú)效的，因?yàn)槌掷m(xù)變化的技術(shù)和技術(shù)實(shí)踐活動(dòng)使得各種規(guī)范很快過(guò)時(shí)。相對(duì)于技術(shù)“日新月異”的發(fā)展速度，倫理規(guī)范的發(fā)展的確要緩慢的多，這從客觀上造成了人工智能教育應(yīng)用的倫理規(guī)制缺失問(wèn)題。

四、人工智能教育應(yīng)用倫理問(wèn)題的應(yīng)對(duì)

1.構(gòu)建智能教育應(yīng)用的倫理規(guī)范體系

人工智能教育應(yīng)用既不能做出有違信息倫理或信息法律的行為和結(jié)果，也不能做出有違教育倫理或教育規(guī)律的行為和結(jié)果。[25]有必要加強(qiáng)智能教育應(yīng)用頂層規(guī)劃設(shè)計(jì)，在遵循人工智能、大數(shù)據(jù)等技術(shù)的一般標(biāo)準(zhǔn)規(guī)范的前提下，結(jié)合教育業(yè)務(wù)的實(shí)際特點(diǎn)，制定智能教育倫理標(biāo)準(zhǔn)和管理規(guī)范。推動(dòng)技術(shù)活動(dòng)主體倫理意識(shí)和倫理素養(yǎng)的養(yǎng)成，堅(jiān)持“善”的技術(shù)活動(dòng)出發(fā)點(diǎn)。進(jìn)一步通過(guò)社會(huì)廣泛認(rèn)可的道德準(zhǔn)則的約束，輿論的引導(dǎo)和監(jiān)督，以及法律規(guī)范等強(qiáng)制力量的保障，確保智能教育應(yīng)用生態(tài)健康、有序發(fā)展。

2.完善智能教育應(yīng)用的問(wèn)責(zé)體制

人工智能教育應(yīng)用過(guò)程中如果數(shù)據(jù)有誤、算法不合宜或者用戶(hù)操作不當(dāng)，就可能導(dǎo)致反向的效果。事故發(fā)生后，設(shè)計(jì)者、開(kāi)發(fā)方、使用方或用戶(hù)各自該承擔(dān)怎樣的責(zé)任，需要有明確的追責(zé)問(wèn)責(zé)機(jī)制。此外，明確的問(wèn)責(zé)機(jī)制需要建立在系統(tǒng)透明的基礎(chǔ)上，即應(yīng)該建立完整的數(shù)據(jù)跟蹤記錄方案，保持系統(tǒng)算法和決策推理過(guò)程的透明，以便在任何情況下均可以快速找出責(zé)任主體。

3.健全智能教育算法審查及數(shù)據(jù)監(jiān)管機(jī)制

首先，智能教育應(yīng)用要注重算法公平。要拆除算法的“黑箱”，將其內(nèi)在邏輯明確化，避免可能存在的倫理風(fēng)險(xiǎn)。要警惕程序設(shè)計(jì)者將自身偏見(jiàn)帶入算法設(shè)計(jì)過(guò)程中導(dǎo)致的歧視現(xiàn)象等問(wèn)題。其次，避免濫用大數(shù)據(jù)分析等技術(shù)手段，侵犯用戶(hù)合法權(quán)益的行為。要嚴(yán)格保證用戶(hù)信息安全，對(duì)收集的信息如何存儲(chǔ)、作何使用能給出合理的解釋。第三，人工智能教育應(yīng)用應(yīng)當(dāng)實(shí)現(xiàn)教育公平，而不是擴(kuò)大現(xiàn)有的“數(shù)字鴻溝”。要避免應(yīng)用設(shè)計(jì)、開(kāi)發(fā)過(guò)程中可能存在的偏見(jiàn)和歧視，同時(shí)也要加強(qiáng)監(jiān)管，審慎判定其在使用中是否有產(chǎn)生偏見(jiàn)和歧視的可能。

4.建構(gòu)以人為本的倫理共識(shí)

人工智能應(yīng)用于教育應(yīng)當(dāng)產(chǎn)生改善現(xiàn)有教學(xué)環(huán)境的效果，而非打破已有的教學(xué)平衡。于教育者而言，智能應(yīng)用能夠扮演強(qiáng)大的助力角色，協(xié)助其處理瑣碎重復(fù)的日常工作，準(zhǔn)確的反應(yīng)學(xué)生的學(xué)習(xí)狀況;于受教育者而言，智能應(yīng)用能夠使其更好地理解學(xué)習(xí)的內(nèi)容，針對(duì)性地推薦個(gè)人學(xué)習(xí)內(nèi)容，自動(dòng)提供作業(yè)反饋等，使教學(xué)活動(dòng)的各方參與者利益最大化。人工智能發(fā)揮的是“賦能”教育、助力人的培養(yǎng)的功能，始終保有對(duì)人的自我實(shí)現(xiàn)的關(guān)注，體現(xiàn)出人工智能教育應(yīng)用對(duì)提高整體教育水平，促進(jìn)人的全面發(fā)展等更高層次社會(huì)發(fā)展進(jìn)步的關(guān)懷。

五、結(jié)語(yǔ)

人工智能技術(shù)與教育的融合，在提升教學(xué)效果、提高管理效率、促進(jìn)教育資源合理分配等方面都將產(chǎn)生積極的影響。但技術(shù)的普及和應(yīng)用與已有的社會(huì)文化制度體系總存在著一定的張力、矛盾。數(shù)字鴻溝在不斷地?cái)U(kuò)大，教育資源配置仍呈現(xiàn)馬太效應(yīng)。[26]同時(shí)，人工智能教育應(yīng)用涉及教育學(xué)、計(jì)算機(jī)科學(xué)等學(xué)科，其倫理爭(zhēng)議既與這些學(xué)科原有的倫理問(wèn)題有關(guān)，又有融合帶來(lái)的新問(wèn)題。首先，人工智能是科學(xué)技術(shù)發(fā)展的前沿領(lǐng)域，技術(shù)倫理、計(jì)算機(jī)倫理等相關(guān)倫理問(wèn)題在人工智能教育應(yīng)用的倫理議題中都有所體現(xiàn);其次，人工智能浪潮的到來(lái)，受益于深度學(xué)習(xí)、機(jī)器學(xué)習(xí)、情感計(jì)算等關(guān)鍵技術(shù)的突破，尤其是大數(shù)據(jù)技術(shù)的形成和發(fā)展。在大數(shù)據(jù)采集、處理、分析、挖掘的過(guò)程中面臨的倫理問(wèn)題同樣是智能應(yīng)用需要關(guān)注的倫理難題;第三，人工智能技術(shù)在教育中的應(yīng)用，使得技術(shù)所主導(dǎo)的思維、過(guò)程、理念等逐漸融入教育體系的方方面面，拓展了傳統(tǒng)教育的內(nèi)涵，為“因材施教”“有教無(wú)類(lèi)”等教育理念提供了實(shí)現(xiàn)的可能，也為教育倫理增添了新的內(nèi)容。

目前，國(guó)內(nèi)相關(guān)部門(mén)已將研制人工智能教育應(yīng)用的倫理法規(guī)提上日程，教育信息化技術(shù)標(biāo)準(zhǔn)委員會(huì)也在考慮制定“智慧校園”“智慧教室”等教育應(yīng)用的國(guó)家標(biāo)準(zhǔn)，以期為人工智能教育應(yīng)用創(chuàng)造一個(gè)健康規(guī)范的發(fā)展環(huán)境。雖然倫理規(guī)制的發(fā)展往往滯后于技術(shù)，但仍然需要規(guī)范制定者和執(zhí)行者。人工智能本身的倫理問(wèn)題尚未得解，其應(yīng)用于教育領(lǐng)域造成的新的挑戰(zhàn)時(shí)則更需審慎應(yīng)對(duì)。在人工智能技術(shù)與教育融合發(fā)展的過(guò)程中，如何有效地趨利避害，挖掘技術(shù)的正向作用，避免負(fù)面影響，制定人工智能教育應(yīng)用的倫理框架至關(guān)重要。[27]

參考文獻(xiàn)：

[1]HOLMES W，BEKTIK D，WOOLF B，etal.Ethicsin AIED：Who Cares？[R].20th International Conference on Artificial Intelligence in Education，Chicago，IL，JUN 25-29，2019.

[2]蘇明，陳·巴特爾.人工智能教育倫理的多維審視：基于馬克思技術(shù)批判和人的全面發(fā)展理論[J].西南民族大學(xué)學(xué)報(bào)（人文社科版），2019（11）：223-228.

[3]MORLEY J，F(xiàn)LORIDI L，KINSEY L，et al.From What to How：An Initial Review of Publicly Available AI Ethics Tools，Methods and Research to Translate Principles into Practices[J].Science and Engineering Ethics，2020（4）：2141-2168.

[4]BERENDT B，LITTLEJOHN A，BLAKEMORE M.AI in Education：Learner Choice and Fundamental Rights[J].Learning，Media and Technology，2020（3）：312-324.

[5]HILBERT M.Big Data for Development：A Review of Promises and Challenges[J].Development Policy Review，2016（1）：135-174.

[6]劉盾，劉健，徐東波.風(fēng)險(xiǎn)預(yù)測(cè)與憂(yōu)患深思：人工智能對(duì)教育發(fā)展的沖擊與變革：哲學(xué)與倫理的思考[J].高教探索，2019（7）：18-23.

[7]COPE B，KALANTZIS M，SEARSMITH D.Artificial Intelligence for Education：Knowledge and its Assessment in AI-enabled Learning Ecologies[J].Educational Philosophy and Theory，2020：1-17.

[8]TAN C.Digital Confucius？ Exploring the Implications of Artificial Intelligence in Spiritual Education[J].Connection Science，2020：1-12.

[9]FLORIDI L，COWLS J，BELTRAMETTI M，et al.AI4People—An Ethical Framework for a Good AI Society：Opportunities，Risks，Principles，and Recommendations[J].Minds and Machines，2018（4）：689-707.

[10]LATHAM A，GOLTZ S.A Survey of the General Public’s Views on the Ethics of Using AI in Education[C]//International Conference on Artificial Intelligence in Education.Springer，Cham，2019：194-206.

[11]何藝寧，商容軒，于游.高校人工智能課程與倫理道德教育融合探索[J].教育教學(xué)論壇，2019（41）：144-145.

[12]Perrotta C，Selwyn N.Deep Learning goes to School：Toward a Relational Understanding of AI in Education[J].Learning，Media and Technology，2020（3）：251-269.

[13]馬丹，金吉華.當(dāng)代設(shè)計(jì)教育中的技術(shù)樂(lè)觀主義傾向與反思[J].教育理論與實(shí)踐，2014（36）：17-19.

[14]Herbert Marcuse.Some Social Implications of Modern Technology[M].Routledge，1998：41.

[15]仰海峰.法蘭克福學(xué)派工具理性批判的三大主題[J].南京大學(xué)學(xué)報(bào)（哲學(xué)·人文科學(xué)·社會(huì)科學(xué)版），2009（4）：26.

[16][22]伏彩瑞，關(guān)新，朱華勇，等.“人工智能與未來(lái)教育”筆談（下）[J].華東師范大學(xué)學(xué)報(bào)（教育科學(xué)版），2017（5）：13-29.

[17]段偉文.數(shù)據(jù)智能的算法權(quán)力及其邊界校勘[J].探索與爭(zhēng)鳴，2018（10）：92.

[18]張淑玲.破解黑箱：智媒時(shí)代的算法權(quán)力規(guī)制與透明實(shí)現(xiàn)機(jī)制[J].中國(guó)出版，2018（7）：49-53.

[19]譚維智.人工智能教育應(yīng)用的算法風(fēng)險(xiǎn)[J].開(kāi)放教育研究，2019，25（6）：20-30.

[20]吳剛.從工具性思維到人工智能思維：教育技術(shù)的危機(jī)與教育技術(shù)學(xué)的轉(zhuǎn)型[J].開(kāi)放教育研究，2018（2）：51-59.

[21]蘆文龍.技術(shù)主體的倫理行為：規(guī)范、失范及其應(yīng)對(duì)[D].大連理工大學(xué)，2014.

[23]郭慶光.傳播學(xué)概論[M].北京：中國(guó)人民大學(xué)出版社，1999：117.

[24]王華英.技術(shù)拜物教探析[J].理論界，2009（6）：101-103.

[25]張坤穎，張家年.人工智能教育應(yīng)用與研究中的新區(qū)、誤區(qū)、盲區(qū)與禁區(qū)[J].遠(yuǎn)程教育雜志，2017（5）：54-63.

[26]張坤穎.大數(shù)據(jù)環(huán)境下的人工智能應(yīng)用[M].北京：學(xué)苑出版社，2019：9.

[27]張慧，黃榮懷，李冀紅，尹霞雨.規(guī)劃人工智能時(shí)代的教育：引領(lǐng)與跨越：解讀國(guó)際人工智能與教育大會(huì)成果文件《北京共識(shí)》[J].現(xiàn)代遠(yuǎn)程教育研究，2019（3）：3-11.

（責(zé)任編輯賴(lài)佳）

收稿日期：2021-08-04

作者簡(jiǎn)介：高山冰，南京師范大學(xué)新聞與傳播學(xué)院網(wǎng)絡(luò)與新媒體系主任，副教授;楊丹，南京師范大學(xué)新聞與傳播學(xué)院碩士研究生。（南京/210097）

*本文系國(guó)家社科基金重大項(xiàng)目“我國(guó)青少年網(wǎng)絡(luò)輿情的大數(shù)據(jù)預(yù)警體系與引導(dǎo)機(jī)制”（20&ZD012）;南京師范大學(xué)教學(xué)改革研究課題重中之重項(xiàng)目“全媒體背景下卓越新聞傳播人才培養(yǎng)體系建構(gòu)與實(shí)踐”（2020NSDJG002）的成果之一。

2889501705357