馮永剛 趙丹丹

（山東師范大學(xué)，山東 濟南 250014）

進入21 世紀(jì)以來，以互聯(lián)網(wǎng)普及作為發(fā)展紐帶，在物聯(lián)網(wǎng)、云計算、5G、虛擬現(xiàn)實技術(shù)的烘托下，爆炸式增長的大數(shù)據(jù)引發(fā)了社會結(jié)構(gòu)新的變革。伴隨數(shù)據(jù)處理與應(yīng)用能力的不斷提升，人工智能逐漸滲透到人類生產(chǎn)和生活的各個領(lǐng)域，驅(qū)使人類社會邁入了人工智能時代。當(dāng)前，人工智能教育已是教育創(chuàng)新發(fā)展的趨勢，人們期望通過人工智能與教育的深度融合化解棘手的教育問題，以實現(xiàn)人類能力的智慧打造，助力教育教學(xué)高質(zhì)量發(fā)展。在人工智能教育的發(fā)展中，算法和大數(shù)據(jù)的雙向聯(lián)合是其核心驅(qū)動力，算法更是人工智能教育發(fā)展的基礎(chǔ)。[1]通過算法將教育數(shù)據(jù)轉(zhuǎn)化為易處理、易計算的數(shù)學(xué)問題，克服了人類思維的局限性，給人類帶來的便捷是顯而易見的。在當(dāng)今社會，人類的每時每刻都直接或間接地與算法相關(guān)，甚至有人預(yù)測：“如果所有算法都突然停止運轉(zhuǎn)，那么就是人類的世界末日?！盵2]然而，我們必須清醒地意識到，“算法絕非中立、公正的，隨著算法全面滲透生活世界，算法歧視現(xiàn)象高發(fā)，已不容漠視”[3]。加之，教育因 “人” 而復(fù)雜，并非全部能夠物化為數(shù)字模型，使用算法將教育進行完全量化與預(yù)測的做法，勢必會背離教育的動態(tài)性、多元性特質(zhì)，造成一定的算法風(fēng)險。因此，厘清人工智能教育的算法風(fēng)險及其成因，并積極規(guī)避，方可確保人工智能教育為人類帶來福祉。

一、人工智能教育的算法風(fēng)險

在人工智能教育看來，所有的教育都是“可算度的教育”。算法被視為以特定函數(shù)的代碼值進入輸入端并在有限時間內(nèi)通過算法路徑輸出能夠解決目的性問題的方案。“算法是為實現(xiàn)某個任務(wù)而構(gòu)造的簡單指令集。在日常用語中，算法有時稱為過程或處方?！盵4]在人工智能教育運用中，算法是指按照預(yù)先目標(biāo)設(shè)定，通過機器學(xué)習(xí)、訓(xùn)練操作等一系列步驟模擬人類的思維過程和行為方式，以算法箱子輸入端和輸出端的既定數(shù)據(jù)運算模擬人類神經(jīng)工作、協(xié)助人們處理繁雜事務(wù)的過程。隨著人工智能教育的快速發(fā)展，一時間，教育領(lǐng)域被算法優(yōu)勢填充，“一切皆可計算” 的算法崇拜伴隨著這種氛圍應(yīng)運而生，算法逐漸成為教育權(quán)威的代言人。[5]當(dāng)然，沉浸在人工智能教育 “熱” 的同時，我們也要對人工智能教育面臨的風(fēng)險進行“冷” 思考。誠如聯(lián)合國教科文組織的警示，人工智能會給教育帶來壓力和挑戰(zhàn)，[6]人工智能教育的算法風(fēng)險也值得我們警惕。

1.算法的既定性導(dǎo)致教育被淺層化的風(fēng)險

在人工智能時代，算法的工作機理是固定函數(shù)公式下的智能運算和機器學(xué)習(xí)，函數(shù)一經(jīng)輸入便被既定的計算步驟所固化。因此，算法具有天然的既定性基因。莫里斯·克萊因（Morris Kline）表示，數(shù)學(xué)的成功之處在于以長度、質(zhì)量、時間等量化的概念形式來看待世界物質(zhì)，但是數(shù)學(xué)符號并不能夠表達(dá)一切，比如某些豐富多彩的體驗是數(shù)學(xué)符號所不能企及的。[7]如同人的身高并不能夠代表整個人一樣，在預(yù)設(shè)教育目標(biāo)下的既定性算法也不能夠代表整個教育過程。教育是一個復(fù)雜的社會活動，面對的是不同的教育群體、多元的教育訴求，是在動態(tài)中不斷生成的，絕非按部就班、機械劃一。人工智能教育依托算法對學(xué)校管理、教師教學(xué)、學(xué)生學(xué)習(xí)的過程進行量化分析，其所使用的信息多是教育對象或教育現(xiàn)象的淺層數(shù)據(jù)，而并非是能反映教育本質(zhì)的深層數(shù)據(jù)。算法模型對教育事實或教育現(xiàn)象的既定化分析，易遺失教育過程中最為豐富的元素，如學(xué)生的道德感、好奇心和探究欲等，引發(fā)教育過程的淺層化和表面化。

值得注意的是，既定的算法模型所設(shè)計出的虛擬仿真學(xué)習(xí)空間、模擬訓(xùn)練等并不能夠等同生動形象的真實學(xué)習(xí)情境。在算法創(chuàng)造的教育空間中，學(xué)生并不會像機器那樣按照既定路徑運作，教師也無法脫離自身環(huán)境而單純依靠算法設(shè)計進行 “流水作業(yè)”，教學(xué)成為套路固定、路徑生硬的 “游戲”；學(xué)生僅能夠獲得淺層的顯性知識，而那些緘默的活動經(jīng)驗、內(nèi)心活動、邏輯思維等高階活動都將難以得到發(fā)展，走馬觀花式的學(xué)習(xí)無異于飲鴆止渴，難以促進學(xué)生的全面發(fā)展、終身發(fā)展。

2.“黑箱” 效應(yīng)下催生教育被隱形控制的風(fēng)險

算法 “黑箱” 是指由于技術(shù)本身的復(fù)雜性，在算法的輸入端與輸出端之間存在著無法洞悉或未知的區(qū)域。一方面，“黑箱” 意味著我們難以理解算法內(nèi)部的邏輯與生產(chǎn)方法；另一方面，“黑箱” 也代表著其本身的復(fù)雜性導(dǎo)致設(shè)計者難以洞識其運動機制。正如盧克·多梅爾（Luke Dormehl）所說，我們所處的人工智能環(huán)境是依托于算法和大數(shù)據(jù)而生的，“技術(shù)對人類的理解越來越深刻，而人們卻越來越難以理解、把控技術(shù)”[8]。當(dāng)算法應(yīng)用于教育領(lǐng)域時，面對機器學(xué)習(xí)技術(shù)的迅速發(fā)展，人工智能教育能夠進行自我改進和自我優(yōu)化等一系列內(nèi)在的、不為人知的更新過程，我們同樣難以理解、詮釋算法處理教育問題時的邏輯機理和運作路徑。人工智能算法將自身的工作邏輯應(yīng)用于教育全過程，利用自己所演化的規(guī)則實現(xiàn)學(xué)生分析、教師分析和問題處理等，而在整個教育過程中的學(xué)生、教師甚至設(shè)計者等卻并不能夠?qū)ζ涔ぷ鬟壿嬜龅?“盡知”：學(xué)生無法判定算法的自動推薦是否反映客觀事實、是否真正符合自身需求；教師無法判定依據(jù)算法得出的既定結(jié)果是否真正適合學(xué)生發(fā)展、是否真正能夠正向解決教育問題；設(shè)計者無法肯定算法所算出的確定結(jié)果是否符合預(yù)期數(shù)據(jù)設(shè)定，等等。

在算法 “黑箱” 效應(yīng)下，參與者對算法路徑、工作邏輯的無法盡知令我們落入被動方位，只能被動地接受算法輸出的固定結(jié)果。在不知道其工作邏輯、不確定計算結(jié)果是否適切教育問題的情況下，貿(mào)然將其應(yīng)用于教育這一培養(yǎng)人的社會實踐活動之中，其中所蘊藏的風(fēng)險難以想象，易致教育成為一個失去方向、沒有活力、缺失靈動的機械執(zhí)行過程。教育參與者在“黑箱” 效應(yīng)的遮蓋下，一知半解地按照算法既定結(jié)果亦步亦趨，教育的自主性正在逐漸被隱形消解。

3.算法偏見下加劇了教育不公的風(fēng)險

教育公平是社會公平的子系統(tǒng)，是實現(xiàn)社會公平 “最偉大的工具”[9]。隨著時代變遷，人類社會在教育公平的道路上曲折前行。在人工智能時代，算法作為一把 “雙刃劍”，可極大地促進教育公平的發(fā)展步伐，與此同時，算法又以某一種方式加劇了教育的不公。這集中體現(xiàn)為算法偏見所帶來的教育不公風(fēng)險。算法是依賴數(shù)據(jù)和規(guī)則的，而數(shù)據(jù)樣本是經(jīng)過提煉選取的，在這一過程中會去除各種 “噪音” 數(shù)據(jù)，再賦予其看似合理的樣本數(shù)據(jù)，將其納入算法模型。加之算法偏見亦有其隱蔽的形成路徑，因此，看得見的、可計算的數(shù)據(jù)被裝入算法盒子，而看不見的、難處理的數(shù)據(jù)被剔除，在這些數(shù)據(jù)的取舍之間就產(chǎn)生了算法偏見，造成了結(jié)果狹隘。地區(qū)的教育信息化水平影響著人工智能教育的普及、深入程度，必然會拉大富裕地區(qū)與貧瘠地區(qū)受教育水平的差距，尤其是對算法偏見的認(rèn)識和處理水平，會影響教育機會公平、教育過程公平，拉垮教育結(jié)果公平。

算法偏見下，打開算法盒子看得到的是符合設(shè)計者、使用者的主觀數(shù)據(jù)與程序，關(guān)閉盒子輸出的卻是代表客觀性的大眾結(jié)果。[10]如果算法存在偏見，那么將會產(chǎn)生嚴(yán)重的不公后果，尤其是針對貧困社區(qū)、弱勢群體而言。教育領(lǐng)域同樣存在性別、種族、家庭環(huán)境、教育條件等參差不齊的背景樣本。面對這些大量的樣本，難以對其進行全面評估或預(yù)測，甚至難以帶入算法中進行結(jié)果分析。同樣，教育過程中所產(chǎn)生的情感、態(tài)度和價值觀等緘默數(shù)據(jù)，也難以被量化為顯性數(shù)據(jù)并加以分析，而這些不能被妥善植入算法的數(shù)據(jù)樣本，卻在極大程度上代表和體現(xiàn)著教育的公平、公正、關(guān)愛、尊重等。算法偏見的過濾，使得富有人文價值的數(shù)據(jù)被消解在外，教育不公不可避免地被放大，“數(shù)據(jù)鴻溝” 在算法偏見的加持下被拉大，教育天平進一步被拉扯傾斜，從而加劇教育公平的風(fēng)險。

4.算法的大規(guī)模應(yīng)用易引發(fā)教育同質(zhì)化的風(fēng)險

人工智能時代，算法的大規(guī)模應(yīng)用推動了技術(shù)的飛速提升?！凹夹g(shù)在追求效率的同時總是在謀求擴大受眾規(guī)模?！盵11]算法的大規(guī)模運用表現(xiàn)在教育領(lǐng)域更是多種多樣，大到智慧教育的生態(tài)研究、多元學(xué)習(xí)情境下教育規(guī)律的探討，小到個性化學(xué)習(xí)的支持服務(wù)、基于教育數(shù)據(jù)的學(xué)習(xí)分析與測評、自動化決策系統(tǒng)、智能教育產(chǎn)品，都是以算法為模型的多種教育信息科技的表現(xiàn)形式。不可否認(rèn)的是，算法通過 “智能導(dǎo)師系統(tǒng)、自動化測評系統(tǒng)、教育游戲、教育機器人”[12]等的應(yīng)用對教育個性化帶來了極大的推動，促進了教師指導(dǎo)的個性化、學(xué)生學(xué)習(xí)的個性化。

但是，算法的大規(guī)模應(yīng)用極易導(dǎo)致教育的程式化，使越來越多的人和教育機構(gòu)癡迷于算法規(guī)?；⒘炕鶐淼睦?，以推送算法的形式將 “人” 物化、將教育公式化，以同一的教育算法推送相同的教學(xué)資源、學(xué)習(xí)計劃等，這在一定程度上加劇了教育結(jié)果的同質(zhì)化。利用機器學(xué)習(xí)分類算法，將受眾分流到不同地點、不同時間段、不同層次的做法，從表面上看，似乎實現(xiàn)了教育的優(yōu)質(zhì)分層，實則不然。面對擁有不同學(xué)科背景、認(rèn)知程度不一的受教育者，算法的規(guī)?；?、流水線使用必然會強化學(xué)生的規(guī)?；?“生產(chǎn)”，導(dǎo)致辦學(xué)模式單一化、學(xué)生單維同質(zhì)化生長、教育一律性發(fā)展，引發(fā)教育反特色化、合眾化、趨同化的風(fēng)險，因為 “即使是優(yōu)質(zhì)的教育算法，一旦大規(guī)模使用，也會帶來湮滅學(xué)生個性的風(fēng)險”[13]。同時，我們也不能忽視人工智能教育應(yīng)用在一定程度上削弱了教師的指導(dǎo)性、學(xué)生的自主選擇性，使其成為固化學(xué)生思維、限制學(xué)生多樣發(fā)展的 “殺傷性”智能武器。

二、人工智能教育算法風(fēng)險究因

深究算法風(fēng)險的根由，有助于我們把握人工智能教育應(yīng)用的邊界與局限，促進人工智能教育更好地適應(yīng)和滿足人的發(fā)展需求。

1.算法的路徑固定化與學(xué)生個性化發(fā)展之間的矛盾

算法是依據(jù)預(yù)設(shè)的數(shù)學(xué)公式進行輸入、計算、輸出信息的運行過程，其工作路徑是固化的。算法的路徑固定化與學(xué)生的個性化發(fā)展之間的矛盾是教育被淺層化風(fēng)險的主要原因。算法使每個學(xué)生都被度量化，他們不再是一個鮮活的、有機的和內(nèi)在的整體，而是被拆解成一個個便于計算和處理的數(shù)字格、被細(xì)化為 “用數(shù)據(jù)表示的物理形態(tài)的人”[14]、被打上不同的標(biāo)記名片，接受不同數(shù)量的、所謂的個性化推薦信息資源。實質(zhì)上，真正的學(xué)生個性化發(fā)展是依據(jù)學(xué)生的學(xué)習(xí)動機、好奇心、興趣等來調(diào)動學(xué)生的主體性，激發(fā)其內(nèi)在潛能，而非通過算法公式化地向其推薦固定內(nèi)容。在算法固定的工作模式下，每個學(xué)生好比被獨立放進單間的信息素，被既定算法和固定工作路徑分開處理。這將加大學(xué)生之間的知識區(qū)隔，阻礙其信息交流、情感溝通、共同體建立等，將學(xué)生個性化發(fā)展扭曲為學(xué)生發(fā)展隔斷化。學(xué)生的個性化發(fā)展不是固定化的、公式化的，而是思辨能力、理解能力、合作能力等多方因素通力合作所達(dá)到的和諧景象，這顯然是固定規(guī)則下的算法無法企及的。

2.算法的模糊性與教育的公共性之間的對峙

算法 “黑箱” 意味著算法輸入端與輸出端之間有著難以洞悉的復(fù)雜結(jié)構(gòu)，算法具有模糊性、難解釋性的特質(zhì)。算法的模糊性來源于算法自身的復(fù)雜性與相對獨立性，難以被解釋，更難以被理解。另外，在人工智能高速發(fā)展的背景下，機器學(xué)習(xí)的能力日益強化。通過機器自身的深度學(xué)習(xí)，其算法發(fā)展的程度與所優(yōu)化的區(qū)域，甚至連算法的初始設(shè)計者都難以獲悉，這在一定程度上強化了模糊性。而教育是公共性的實踐活動，公共性是教育的內(nèi)在屬性。教育是公益而非私人的事業(yè)，具有顯著的公開、公益和公平的公共性品格?！啊病?意味著向任何人的審視開放，而私人則意味著一個由家人和朋友構(gòu)成的、受到遮蔽的生活區(qū)域?！盵15]算法的模糊性與教育的公共性形成明顯反差。同時，“黑箱” 效應(yīng)下算法的難解釋性，對教育者、受教育者等教育主體甚至社會公眾而言，意味著他們非但難以了解其工作的基本機制，甚或?qū)逃顒?“一概不知”，這有悖于教育的公開性。此外，算法的模糊性又在一定程度上強化了教育的排他性和私有化，引起了某些人對結(jié)果的早先獲知甚至滋生預(yù)先篡改和占有的問題，掩蔽了教育的公共性。

3.算法的數(shù)據(jù)依賴性與教育多維性之間的拉鋸

在人工智能教育應(yīng)用中，算法通過數(shù)據(jù)搜集、數(shù)據(jù)清洗、數(shù)據(jù)審查、數(shù)據(jù)分割等各種數(shù)據(jù)處理來發(fā)揮作用，因此，算法具有較強的數(shù)據(jù)依賴性，且數(shù)據(jù)分布本身就帶有一定的偏見性。[16]而教育是動態(tài)的、多維的。教育的存在意義與價值在于促進人的全面而有個性的發(fā)展，這必然要求智能教育應(yīng)用結(jié)果的多元化。而算法模型的建立需要使用過去的數(shù)據(jù)變量進行分析，將教師的教育行為、學(xué)生的學(xué)習(xí)行為等“過時” 的數(shù)據(jù)作為輸入數(shù)據(jù)，用以解決新鮮的教育問題，數(shù)據(jù)與發(fā)展存在著時差問題。如根據(jù)相關(guān)學(xué)者對高校成績數(shù)據(jù)的研究顯示，算法的使用上具有利用不充分、分析不深入等問題。[17]在數(shù)據(jù)收集與數(shù)據(jù)輸入的過程中，對數(shù)據(jù)處理的精準(zhǔn)度越高，數(shù)據(jù)處理的時間就會越長，其延時性就表現(xiàn)得越為明顯。同時，在教育的動態(tài)發(fā)生過程中，會涌現(xiàn)出較多的非事先預(yù)知的“意外情景”，如思維轉(zhuǎn)換、情感升華、直覺靈感和頓悟等質(zhì)變現(xiàn)象。這些變化都是難以從過往數(shù)據(jù)中推測預(yù)判，即利用已經(jīng)存在的 “信息足跡” 難以預(yù)判到教育過程的質(zhì)變現(xiàn)象，引發(fā)算法數(shù)據(jù)依賴性與教育多維性的拉鋸表現(xiàn)。

4.算法的確定性與教育過程的不確定性互相博弈

教育具有顯而易見的復(fù)雜性與不確定性。[18]教育對象的差異性、教育手段的多元化、教育情境的多變性等一系列因素都是教育不確定性的強化劑，彰顯著教育活動的獨特性的同時也給教育蒙上了神秘色彩。固定性是算法的內(nèi)在特質(zhì)，需要從明確的目標(biāo)出發(fā)，以固定的算法公式求得預(yù)設(shè)目標(biāo)的達(dá)成，以確定的輸入數(shù)據(jù)求得肯定、客觀的輸出結(jié)果。所以，算法的確定性在一定程度上與教育的不確定性有著難以調(diào)節(jié)的博弈現(xiàn)象。算法固定的、公式化的計算模式，難以與教育進程中個體隨時產(chǎn)生的動機、情感、好奇心等不定因素建立即時性的關(guān)聯(lián)，教育活動中時刻涌現(xiàn) “一石激起千層浪” 的伴隨性數(shù)據(jù)在一定程度上消解了算法的確定性權(quán)威。誠然，算法力圖將教育領(lǐng)域的各項不確定因素轉(zhuǎn)化為確定性的數(shù)據(jù)形式，而確定性在一定程度上代表著人工智能應(yīng)用于教育追求真善美目標(biāo)的明確性，其必要性是毋庸置疑的。然而，教育真善美的標(biāo)準(zhǔn)究竟是什么？這不是算法的確定性所能確證的。而這種不確定性本身也是教育多維、多變和多樣的典型映射，如此，動態(tài)多變的教育活動與算法的確定性之間的摩擦、沖突及對抗自是難免。

三、善治人工智能教育算法風(fēng)險的路徑

隨著人工智能教育的縱深發(fā)展，教育數(shù)據(jù)不斷堆疊，深度學(xué)習(xí)持續(xù)推進，算法所帶的偏見、風(fēng)險等也會呈現(xiàn)出強化與放大的苗頭。因此，通過有力的善法對算法所帶來的風(fēng)險加以防治就顯得日益重要且迫切。因此，要將道德嵌入算法，建立合乎道德要求、協(xié)助人們進行道德決策的道德算法，促逼算法從善。道德算法的建立，能夠保持人工智能教育應(yīng)用中算法的審慎使用，有效規(guī)避算法引發(fā)的教育風(fēng)險，極大發(fā)揮算法對教育的優(yōu)質(zhì)作用[19]，指向 “一切為了人類利益” 的目的，從而有效規(guī)避算法風(fēng)險，更好地發(fā)揮算法的正向功能，為人類帶來更多的利益和福祉。

1.優(yōu)化算法設(shè)計，以價值理性引領(lǐng)人工智能教育的深層化發(fā)展

通過優(yōu)化算法設(shè)計提升算法應(yīng)用中的價值理性與人文精神，是防范人工智能教育應(yīng)用中算法風(fēng)險的價值指南。從算法設(shè)計意圖和最終目的入手，以扎實的算法價值根基、人的主體性地位打破淺表化的發(fā)展局限，引領(lǐng)人工智能教育的深層發(fā)展，尊重人工智能教育應(yīng)用中教師與學(xué)生的主體地位，提升人工智能教育算法的風(fēng)險規(guī)避力，從技術(shù)源頭加強人工智能教育的深度，從而走出應(yīng)用淺表化的陷阱。

一方面，以道德算法筑牢算法的價值根基，促進人工智能教育行穩(wěn)致遠(yuǎn)。人工智能時代，算法在技術(shù)支撐下亦帶來巨大的資本收入，因此，算法在一定程度上也是資本與技術(shù)的化身。為了防止技術(shù)理性對價值理性的僭越，人工智能教育應(yīng)加強算法設(shè)計環(huán)節(jié)中的道德性與人文性精神，以價值理性為主導(dǎo)，以技術(shù)理性為輔助，賦予算法設(shè)計意圖正當(dāng)性。要加強人工智能教育應(yīng)用的源頭設(shè)計把關(guān)，定期對教育算法技術(shù)人員進行倫理與科技的話題教育，嚴(yán)把信息篩選、算法設(shè)計等過程，強化算法設(shè)計者的價值理性思想，激發(fā)算法 “育人為本” 的責(zé)任意識，明確自身的算法設(shè)計對教育發(fā)展、社會發(fā)展的影響意義，以道德算法扎穩(wěn)算法的價值根基，通過算法的正當(dāng)性確保人工智能教育縱深推進。

另一方面，確保技術(shù)應(yīng)用中人的主體性，以人的能動性促進教育的深層化發(fā)展。無論何種智能技術(shù)，都是以服務(wù)人、發(fā)展人和解放人為最終目的。在當(dāng)今時代，不乏技術(shù)運用者有迫切攫取眼前利益而置人的道德與價值于不顧的短視行為，長此以往，必然會導(dǎo)致價值理性消解、技術(shù)理性霸權(quán)的失衡現(xiàn)象。因此，要打破技術(shù)霸權(quán)的華麗包裝，以工具性教育回歸主體性教育，要尊重人的主體地位并發(fā)揮人的主體性作用，構(gòu)建以人為中心的智能教育場域，[20]以學(xué)生的情感、態(tài)度、價值等深層次的發(fā)展和教師的教育智慧、專業(yè)能力等的不斷提升作為人工智能教育算法設(shè)計之引領(lǐng)。在算法設(shè)計中，要以生為本，深度挖掘緘默的活動經(jīng)驗、內(nèi)心活動、邏輯思維等高階活動的深層性、本質(zhì)性的數(shù)據(jù)資源，如將基于內(nèi)容、協(xié)同過濾、綜合的三種傳統(tǒng)推薦算法轉(zhuǎn)為基于排序?qū)W習(xí)的推薦算法，補充傳統(tǒng)三種算法推薦內(nèi)容各有偏差的問題，將真正的學(xué)生個性化發(fā)展融入推薦公式的編制，促進學(xué)生主體從淺表化知識學(xué)習(xí)向順應(yīng)、同化不斷發(fā)展的進階學(xué)習(xí)轉(zhuǎn)化[21]，增強信息推薦主體適切性，助推人工智能教育的深度發(fā)展。

2.增加算法的透明度，提升人工智能教育的自主性

為了加強算法治理，人們越來越重視算法透明性原則對算法 “黑箱” 的克制作用。誠如凱文·凱利（Kevin Kelly）所言：“技術(shù)只有透明才能獲益?！盵22]增加算法的透明度可有效消解人工智能教育應(yīng)用中 “算法黑箱” 所帶來的內(nèi)容遮蓋，提升人工智能教育的自主支持性，保持社會公眾對教育的公平與道義的持有與把控。

一方面，加強教育數(shù)據(jù)操作的自主可查性，以數(shù)據(jù)透明突破教育被隱形控制的桎梏。算法對大數(shù)據(jù)的強依賴性決定了規(guī)避 “算法” 風(fēng)險需要從數(shù)據(jù)樣本作出調(diào)整，加強數(shù)據(jù)的透明性，確保教育數(shù)據(jù)來源可查、教育數(shù)據(jù)內(nèi)容可查、教育數(shù)據(jù)處理可查，斬斷教育被隱形控制的源頭。教育數(shù)據(jù)的可查性需要算法設(shè)計者對教育數(shù)據(jù)來源、篩選、處理步驟等做好嚴(yán)格記錄與及時備份，如明確標(biāo)注數(shù)據(jù)采集樣本所在年級、年齡、學(xué)習(xí)水平、學(xué)習(xí)習(xí)慣、數(shù)據(jù)采集時間與所在地等相關(guān)信息，了解算法可能存在的偏差及潛在危害，以保證后期對數(shù)據(jù)審查與復(fù)核等步驟的可控性、可查性。同時，確保數(shù)據(jù)的備份記錄具有合法的可訪問性與不可篡改性，以嚴(yán)格、環(huán)環(huán)相扣的數(shù)據(jù)記錄審查環(huán)節(jié)保障數(shù)據(jù)隱私與安全性，使數(shù)據(jù)獲取、篩選等痕跡以備份方式被清晰保存，保證數(shù)據(jù)的完全真實與不可偽造。

另一方面，堅持可解釋性原則，增加算法的自主支持性?？山忉屝允撬惴ㄍ该鞯氖滓瓌t?！拌b于智能算法日益決定著各種決策的結(jié)果，人們需要建構(gòu)技術(shù)公平規(guī)范體系，通過程序設(shè)計來保障公平的實現(xiàn)，并借助于技術(shù)程序的正當(dāng)性來強化智能決策系統(tǒng)的透明性、可審查性和可解釋性?！盵23]要明確算法設(shè)計者對教育問題處理的算法邏輯解釋義務(wù)，尤其是對教育數(shù)據(jù)的目標(biāo)預(yù)設(shè)、選取原則與技術(shù)原理等進行解釋，提升人們對算法的理論認(rèn)同，獲得他們對算法運用的態(tài)度支持。同時，設(shè)立專門的教育審計機構(gòu)，對人工智能教育應(yīng)用中的算法進行審計，避免一些商業(yè)類教育機構(gòu)以競爭獲利而故意掩蓋不合理算法的不當(dāng)行為，如一些教育機構(gòu)或某些學(xué)校為謀取招生量、提高教育獲利等操縱算法黑箱、營造算法神秘性的不良行徑，在技術(shù)運用中真正使人成為自身行動的主體，為自主創(chuàng)新激發(fā)活力，不斷提升教育的自主性。

3.減少算法偏見滋生，以道德決策推進人工智能教育的公平

算法是由設(shè)計者所編寫的。設(shè)計者將倫理維度納入人工智能教育的決策設(shè)計，是形成道德決策的內(nèi)在要求。同時，教育主體對算法的了解與認(rèn)識直接影響到算法在教育領(lǐng)域的應(yīng)用程度。教育主體對算法的無知與偏見會在極大程度上影響人工智能教育應(yīng)用的效果與公平程度。因此，減少算法偏見滋生需增強主體的算法認(rèn)知，以道德決策發(fā)揮算法在解決教育問題中的積極作用，強化人工智能教育的抗風(fēng)險性，力促教育公平的實現(xiàn)。

一方面，將道德規(guī)則嵌入算法之中，以道德物化推動道德決策。道德物化是由維貝克（Peter-Paul Verbeek）所提出的將技術(shù)道德化的方法。在人工智能算法 “物” 的設(shè)計環(huán)節(jié)中嵌入人類所公認(rèn)執(zhí)行的道德準(zhǔn)則，即將道德嵌入產(chǎn)品，使人工智能教育應(yīng)用中的使用者不得不遵守倫理道德，從設(shè)計源頭上規(guī)約人類的行為操作。[24]據(jù)此，要將道德規(guī)則清晰轉(zhuǎn)化為算法形式，以道德物化形成道德算法，使算法自身符合道德倫理規(guī)范，協(xié)助教育者針對突發(fā)問題情境作出更及時、準(zhǔn)確、全面的教育決策，從而有效促使教育者教育行為、教育策略的合道德化。

另一方面，加強技術(shù)使用者的道德意識，令道德決策貫穿教育教學(xué)全過程。道德算法是道德決策的遵循與依據(jù)，引導(dǎo)教育者進行科學(xué)、公正、合理的決策。據(jù)此，要增強技術(shù)使用者的道德意識與道德理念，使道德嵌入算法，切實推動道德決策落地。這就要加強教育使用者的技術(shù)道德、規(guī)則意識、法治觀念，從技術(shù)使用的源頭保障人工智能教育具備道德基因。同時，教育者將算法運用于教育時，要秉持 “以人為本” 的治理意識，堅定育人為本的初心，深入了解算法世界的 “游戲規(guī)則”，掙脫算法所帶來的束縛與控制，保持自身作為教育者的優(yōu)勢主導(dǎo)地位，將自身的教育智慧與人工智能相結(jié)合，獲取教育“美美與共” 的景象。[25]

4.確立算法問責(zé)機制，以制度保障人工智能教育發(fā)展的多元性

制度具有營造秩序和提升效率的功能。[26]化解人工智能教育的 “算法” 風(fēng)險，需要建立精準(zhǔn)的問責(zé)機制，在合理的制度框架下最大限度發(fā)揮算法設(shè)計者、使用者的權(quán)限，從源頭上規(guī)避算法引發(fā)的教育同質(zhì)化風(fēng)險，釋放張力，激發(fā)活力，推進人工智能教育的多樣性發(fā)展。一如貝克（Ulrich Bec）所指出：“風(fēng)險概念表明人們創(chuàng)造了一種文明，以便使自己的決定將會造成的不可預(yù)見的后果具備可預(yù)見性，從而控制不可控的事情，通過采取預(yù)防性行動以及相應(yīng)的制度化措施來戰(zhàn)勝種種副作用?！盵27]

一方面，建立精準(zhǔn)追責(zé)機制，以明確的責(zé)任主體釋放人工智能教育的發(fā)展活力。面對算法帶來的教育同質(zhì)化風(fēng)險，應(yīng)在政府立法部門與教育主導(dǎo)部門的合作下建立與之對應(yīng)的破解體系，以法律法規(guī)保障教育的自主性發(fā)展，打破教育的同質(zhì)化風(fēng)險。如依托人工智能教育大背景，鼓勵各級各類高等教育院校特色化發(fā)展、激勵基礎(chǔ)教育學(xué)校突出本土特色，以學(xué)校辦學(xué)特色作為打破教育趨同化的先鋒隊，帶領(lǐng)不同區(qū)域、不同類型、不同層次、不同形式的教育特色化、優(yōu)質(zhì)化發(fā)展。另外，需要彌補教育法律中人工智能教育相關(guān)內(nèi)容的規(guī)則監(jiān)控，明確人工智能教育應(yīng)用中設(shè)計者、使用者、推廣者等各方的法律責(zé)任、權(quán)利與義務(wù)，在合法規(guī)則下最大限度地增強算法的實用度和開放性，彰顯發(fā)展活力，增加教育的開放性和多樣性。

另一方面，嚴(yán)格糾錯處罰，以制度執(zhí)行力激活人工智能教育的張力。除了法律綱領(lǐng)的強制把控，還需要提升教育算法的制度執(zhí)行力度，真正實現(xiàn)高監(jiān)管低風(fēng)險的把控效果，嚴(yán)格懲治跨越道德甚至法律底線的過錯行為。要細(xì)化對教育信息獲取、教育信息使用等的制度保障，對出現(xiàn)的個人教育信息商業(yè)化使用、個人生物信息販賣等問題，要在制度執(zhí)行層面加強信息管控力度，嚴(yán)格、透明地處理 “信息犯罪” 案件。加強教育行業(yè)的市場準(zhǔn)入標(biāo)準(zhǔn)，由政府強制執(zhí)行責(zé)任糾紛、進行過錯處罰，最大限度地把控教育教學(xué)全過程中各方的責(zé)任邊界與嚴(yán)格處罰力度，在精準(zhǔn)追責(zé)與糾錯補償?shù)碾p效施力下，讓算法在教育領(lǐng)域更加公正透明運行，在開放中增強教育的發(fā)展動力與活力。