摘要：隨著人工智能技術(shù)的普及，其引發(fā)的倫理問題日益突出，在一定程度上制約了教育領(lǐng)域人工智能的研究和發(fā)展。本文先從技術(shù)應(yīng)用與倫理風(fēng)險的角度，分析了智慧教學(xué)主體、智慧教學(xué)環(huán)境、智慧教學(xué)模式以及個性化教學(xué)等方面的智能技術(shù)應(yīng)用原理以及存在的倫理問題，在此基礎(chǔ)上，結(jié)合國家關(guān)于科技倫理風(fēng)險治理的相關(guān)政策和指導(dǎo)意見，提出了智慧教學(xué)中智能技術(shù)應(yīng)用倫理風(fēng)險的治理對策，從治理機構(gòu)、治理技術(shù)、管理機制等方面為高校開展教學(xué)活動的潛在倫理風(fēng)險提供治理建議。

關(guān)鍵詞：智能技術(shù)；科技倫理；智慧教學(xué)

中圖分類號：G434? 文獻標(biāo)識碼：A? 論文編號：1674-2117（2023）12-0080-04

引言

智慧教學(xué)是人工智能應(yīng)用于教育行業(yè)的重要落腳點，其中智慧教學(xué)場景和智慧教學(xué)模式是現(xiàn)階段教育領(lǐng)域的研究熱點，人工智能技術(shù)對智慧教學(xué)場景和智慧教學(xué)模式的影響正持續(xù)擴大，但隨著人工智能技術(shù)的普及，其引發(fā)的倫理問題日益突出，對教育領(lǐng)域應(yīng)用人工智能的輿論導(dǎo)向產(chǎn)生了負面影響，在一定程度上制約了其研究和發(fā)展。

2022年3月，國務(wù)院發(fā)布了《關(guān)于加強科技倫理治理的意見》，對以人工智能為代表的重點科技領(lǐng)域，提出了體制機制不健全、制度不完善、領(lǐng)域發(fā)展不均衡等倫理治理方面的問題，要求有針對性地加強科技倫理治理。對高校而言，包含人工智能在內(nèi)的眾多學(xué)科的研究和應(yīng)用均面臨倫理風(fēng)險[1]，人工智能倫理的治理應(yīng)統(tǒng)籌規(guī)劃到科技倫理治理范圍，統(tǒng)一規(guī)劃和統(tǒng)一治理更有利于高校的全局管理和長遠發(fā)展。

技術(shù)應(yīng)用與倫理風(fēng)險

智慧教學(xué)環(huán)境、智慧教學(xué)模式以及效果評價是智慧教學(xué)的重要組成部分，國內(nèi)外學(xué)者對智能化教學(xué)環(huán)境和模式開展研究，對人工智能在智慧教學(xué)中的應(yīng)用倫理問題也展開了探討，如數(shù)據(jù)采集過程中人工智能相關(guān)技術(shù)侵犯隱私權(quán)[2]、肖像權(quán)等人格權(quán)問題。在技能與知識的教學(xué)過程中，“計算主義”[3]“數(shù)據(jù)至上”導(dǎo)致學(xué)生缺乏情感關(guān)懷、人機溝通缺乏共鳴以及教學(xué)氛圍缺失等問題。在人工智能技術(shù)原理層面，人工智能系統(tǒng)本質(zhì)上是以數(shù)據(jù)為基礎(chǔ)、以算法為框架、以軟件為形式的計算機程序及關(guān)聯(lián)硬件設(shè)施，算法本身可能產(chǎn)生“算法陷阱”，可能導(dǎo)致算法歧視、算法黑箱等問題[4]，引發(fā)師生權(quán)利失衡、師生倫理失范以及師生情感缺失等后果，對教學(xué)效果存在一定的負面影響，有違教學(xué)中引入人工智能技術(shù)的初衷。

1.虛擬教師：科技風(fēng)暴與情感缺失

虛擬教師是“虛擬角色”產(chǎn)品的衍生技術(shù)，虛擬教師是一個復(fù)合概念，可以指通過圖靈測試的、具備學(xué)科專業(yè)知識的教育機器人，也可以指數(shù)字孿生或者元宇宙概念下的“數(shù)字虛擬人”，兩者均可在智慧教學(xué)場景中發(fā)揮教學(xué)輔助作用。在線上和線下教學(xué)環(huán)境中，虛擬教師目前已經(jīng)被應(yīng)用于知識解答、學(xué)習(xí)引導(dǎo)、為學(xué)生提供個性化的幫助和建議等。

虛擬教師的知識解答、學(xué)習(xí)引導(dǎo)以及學(xué)習(xí)幫助和建議等功能所依據(jù)的算法各不相同，一般會用到自然語言處理、深度學(xué)習(xí)等算法，其中學(xué)習(xí)引導(dǎo)和個性化幫助功能還需使用與學(xué)生關(guān)聯(lián)的各類數(shù)據(jù)庫，如學(xué)生基本信息數(shù)據(jù)庫、學(xué)習(xí)檔案數(shù)據(jù)庫，該類功能還需要采集學(xué)生的個人行為習(xí)慣信息等，這可能導(dǎo)致教育倫理方面以及數(shù)據(jù)方面的風(fēng)險。在教育倫理學(xué)的角度，教育應(yīng)是“全方位的”，教學(xué)過程不僅要傳授知識與技能，更要適當(dāng)?shù)剡M行德育和美育等帶有“情感成分”的教學(xué)，從而實現(xiàn)“立德樹人”的目的。與傳統(tǒng)教師授業(yè)解惑相比，虛擬教師的一個重要缺陷是缺乏情感傳達和交互，情感傳達和交互是營造學(xué)習(xí)氛圍、激發(fā)學(xué)生潛能的重要因素。而虛擬教師作為與學(xué)生直接溝通的人工智能實體，會根據(jù)算法規(guī)則對學(xué)生學(xué)習(xí)階段、學(xué)習(xí)習(xí)慣、學(xué)習(xí)層次進行相對生硬的標(biāo)記和評估，如算法設(shè)計缺乏人性化考慮，則可能導(dǎo)致“張冠李戴、生搬硬套”等問題，也可能導(dǎo)致學(xué)生在學(xué)習(xí)的過程中缺乏情感認同。

2.智能化教學(xué)環(huán)境：人格權(quán)侵犯風(fēng)險

智能化教學(xué)環(huán)境通常指智慧教室內(nèi)以智能化技術(shù)為基礎(chǔ)的教學(xué)輔助軟硬件設(shè)備。[5]其中，機器視覺技術(shù)可以對教室狀態(tài)進行識別，判斷課堂的出勤率，可以對學(xué)生進行人臉識別以實現(xiàn)簽到功能；模式識別技術(shù)可以應(yīng)用于智慧教室內(nèi)部的人機協(xié)同教學(xué)，教師可以通過手勢、語音等方式控制教室內(nèi)部任意設(shè)備，根據(jù)教學(xué)需要實時調(diào)整設(shè)備的狀態(tài)；在課堂教學(xué)中，綜合機器視覺、模式識別和深度學(xué)習(xí)技術(shù)，人工智能還能對學(xué)生的表情、瀏覽習(xí)慣等進行綜合分析，實現(xiàn)教學(xué)效果評測以及學(xué)習(xí)狀態(tài)評價。在智能化教學(xué)環(huán)境中，數(shù)據(jù)庫是主要風(fēng)險點之一，如師生信息數(shù)據(jù)庫以及圖像識別相關(guān)的訓(xùn)練集等。

機器視覺以及模式識別技術(shù)的應(yīng)用需采集大量的人臉信息，包括圖片、人臉特征信息以及語音、姿態(tài)信息等，同時還將對整個學(xué)習(xí)過程進行實時數(shù)據(jù)采集，這可能帶來兩個問題：一是信息泄露風(fēng)險導(dǎo)致的自然人隱私權(quán)容易受侵犯的問題；二是實時數(shù)據(jù)采集和分析過程所帶來的人格權(quán)受侵犯的問題。人格權(quán)一般意義上可分為人格自由、獨立和尊嚴等權(quán)益，事實上，生活中無處不在的監(jiān)控也屬于實時數(shù)據(jù)采集的一種，但安防監(jiān)控一般受保密協(xié)議保護，而且普通安防監(jiān)控并不會對圖像、視頻信息進行分析，但機器視覺和模式識別等人工智能技術(shù)不僅采集視頻、圖像數(shù)據(jù)，還需要對數(shù)據(jù)進行處理、特征提取，并基于現(xiàn)有樣本集進行數(shù)據(jù)分析和歸類識別，由此可概括自然人的各種特征，其結(jié)果是將肖像權(quán)、隱私權(quán)等人格權(quán)的構(gòu)成要素進行數(shù)據(jù)化，如數(shù)據(jù)存放得不到有效的保護或者數(shù)據(jù)應(yīng)用得不到有效的規(guī)約，上述過程將可能造成隱私權(quán)、肖像權(quán)以及人格尊嚴等人格權(quán)侵犯問題。

3.智能化教學(xué)模式：從數(shù)字鴻溝到智能化鴻溝

智能化教學(xué)模式是教學(xué)數(shù)字化、信息化發(fā)展的新階段，其表現(xiàn)形式是借助智能化教學(xué)軟硬件，對教學(xué)過程、教學(xué)設(shè)計以及教學(xué)評測進行重構(gòu)，要求師生應(yīng)當(dāng)具備信息技術(shù)基礎(chǔ)知識以及人工智能基本素養(yǎng)，智能化教學(xué)模式在提升教學(xué)效率的同時，也引發(fā)了教育教學(xué)公平機制方面的問題，如數(shù)字鴻溝問題。數(shù)字鴻溝造成的后果之一就是無法保證教學(xué)起點、教學(xué)體驗和教學(xué)效果的公平性。隨著教育信息化的逐步發(fā)展，數(shù)字鴻溝造成的不公平問題會“馬太效應(yīng)”般急速加劇，導(dǎo)致素養(yǎng)鴻溝的出現(xiàn)。[6]

智能化教學(xué)模式加大了數(shù)字鴻溝和素養(yǎng)鴻溝的負面影響，人工智能是多學(xué)科交叉形成的高精尖技術(shù)，其運行機制和技術(shù)原理存在較高的復(fù)雜性，使用人工智能技術(shù)或者工具需具備一定的計算機科學(xué)、社會學(xué)以及哲學(xué)基礎(chǔ)，使用門檻大幅度提高，也催生了智能化鴻溝的出現(xiàn)。智能化鴻溝是素養(yǎng)鴻溝的高級階段，素養(yǎng)鴻溝造成的負面影響也存在于智能化鴻溝階段。例如，在教師層面，理工科教師對多媒體系統(tǒng)、智慧教學(xué)工具掌握程度比人文學(xué)科教師更加熟練；在學(xué)生層面，不同學(xué)科的學(xué)生以及不同學(xué)習(xí)階段的學(xué)生，均表現(xiàn)出對智能化學(xué)習(xí)模式的群體性差異，具備一定信息技術(shù)基礎(chǔ)的學(xué)生更容易接受智慧教學(xué)模式以及教育信息化工具。

4.個性化教學(xué)：信息繭房與算法偏見

人工智能技術(shù)賦能個性化教學(xué)的前提是計算機系統(tǒng)能夠“認識學(xué)生”并分析學(xué)生的個性行為，也即實現(xiàn)“用戶群體畫像”“用戶精準畫像”。[7]數(shù)據(jù)技術(shù)的發(fā)展為學(xué)生群體畫像和個性化分析提供了基本條件，在此基礎(chǔ)上，基于人工智能算法的主動推送功能和智能評測功能則為個性化教學(xué)提供了可行性。其中主動推送也叫智能化推送，是人工智能系統(tǒng)根據(jù)用戶的個性、偏好和習(xí)慣自動推送用戶感興趣的知識內(nèi)容。另外，利用自然語言處理等技術(shù)以及配套的人機交互界面，智能化軟硬件設(shè)備也可對學(xué)生進行問題輔導(dǎo)、作業(yè)批改、學(xué)習(xí)效果評判，達到擴充課后輔導(dǎo)方式、提高課后學(xué)習(xí)效率的目標(biāo)。

由于算法本身的不完備和訓(xùn)練數(shù)據(jù)的體量不夠等問題，基于智能技術(shù)的個性化教學(xué)也面臨相應(yīng)的倫理問題，其中最常見的是信息繭房和算法偏見。信息繭房在個性化教學(xué)中的表象之一是人工智能算法推送的信息過于同質(zhì)化，無形中打造了一個基于用戶瀏覽習(xí)慣和偏好的相對封閉的“繭房”。對學(xué)生來說，學(xué)習(xí)的過程不僅是溫故知新的過程，而且是培養(yǎng)創(chuàng)新精神以及創(chuàng)造力的過程，信息繭房可能形成一個“囚籠”，窄化學(xué)生眼界，不利于學(xué)生創(chuàng)造力的培養(yǎng)。算法和數(shù)據(jù)的微小偏差不僅能導(dǎo)致“網(wǎng)絡(luò)群體的極化”[8]和“社會粘性的喪失”[9]問題，還能引發(fā)算法偏見問題，如弱勢群體在尋求人工智能系統(tǒng)解答學(xué)科問題過程中，智能系統(tǒng)按照答復(fù)規(guī)則給出了看似正確合理的答案，但是該答案并不具備師德屬性，答案本身可能造成“弱勢群體歧視”等師德準則問題，不符合教育倫理提倡的“包容性”“公平性”。

倫理問題之對策

1.提高人工智能素養(yǎng)

高校師生的人工智能素養(yǎng)建立在信息化素養(yǎng)和普及人工智能常識的基礎(chǔ)上。信息化素養(yǎng)要求教師懂得基本的教育信息化常識，如信息化教學(xué)方案設(shè)計等，也能使用基本的信息化教學(xué)基礎(chǔ)設(shè)施實現(xiàn)教學(xué)目的。人工智能素養(yǎng)還要求廣大師生了解人工智能概念和起源、人工智能在社會生活中的應(yīng)用方向以及人工智能技術(shù)面臨的道德挑戰(zhàn)和安全問題。對高校而言，師生人工智能素養(yǎng)的提升途徑主要是加強教師技能培訓(xùn)，開設(shè)人工智能相關(guān)課程以及普及教學(xué)過程中人工智能倫理常識等。

2.建立科技倫理審查機構(gòu)

倫理審查機構(gòu)是科技倫理治理的執(zhí)行機構(gòu)，高?？萍紓惱韺彶椴块T應(yīng)由人工智能相關(guān)學(xué)科技術(shù)專家、校園信息化建設(shè)者、學(xué)校政策制定者等人員組成，并從以下幾個方面開展工作：注重全體師生人工智能素養(yǎng)的培養(yǎng)工作，常規(guī)性開展科技倫理科普活動，舉辦科技倫理培訓(xùn)活動；加大政策宣傳力度，避免師生對智能技術(shù)的恐慌感；規(guī)定人工智能技術(shù)的正確應(yīng)用導(dǎo)向，如智能化教學(xué)環(huán)境的設(shè)計應(yīng)遵循“不得改變?nèi)斯ぶ悄艿膹膶俚匚?，教學(xué)應(yīng)以師生倫理關(guān)系為主導(dǎo)”的原則。

3.借助可信人工智能技術(shù)

人工智能系統(tǒng)的風(fēng)險環(huán)節(jié)為數(shù)據(jù)和計算，數(shù)據(jù)安全、可信計算構(gòu)成了人工智能倫理安全的兩大要素，對于敏感信息泄露風(fēng)險、人工智能系統(tǒng)漏洞等問題，可以通過可信人工智能技術(shù)解決其安全和倫理隱患問題。可信人工智能技術(shù)有六個特征維度，分別是：健壯性、可解釋性、公平性、隱私性、可追責(zé)性，以及環(huán)境保護。每個維度都有對應(yīng)的可信計算技術(shù)，從而保證人工智能的公平、可解釋，確保人類自主等基本倫理準則?？尚湃斯ぶ悄芗夹g(shù)規(guī)定了人工智能系統(tǒng)的基本倫理框架，智慧教學(xué)中智能化的教學(xué)模式和教學(xué)系統(tǒng)的算法設(shè)計應(yīng)首先遵循可信倫理框架。倫理審查機構(gòu)可借助可信人工智能技術(shù)，注重人工智能系統(tǒng)的可解釋性評估、數(shù)據(jù)風(fēng)險評估，注重系統(tǒng)安全設(shè)計、人類可接管設(shè)計、責(zé)任機制設(shè)計、用戶權(quán)利義務(wù)設(shè)計以及系統(tǒng)公平性設(shè)計，構(gòu)建可控可靠、透明可釋、責(zé)任明確、多元包容的人工智能教學(xué)應(yīng)用系統(tǒng)，避免黑箱決策、師生倫理損害以及違背教學(xué)過程中的公平機制。

4.強化問責(zé)機制和倫理事故回溯機制

問責(zé)機制是監(jiān)管人工智能的重要手段之一，人工智能問責(zé)指的是智能系統(tǒng)的建設(shè)方和管理方應(yīng)為系統(tǒng)的任意決策和任意行動承擔(dān)相應(yīng)的責(zé)任。倫理事故回溯是實現(xiàn)問責(zé)機制的主要技術(shù)手段，人工智能系統(tǒng)的設(shè)計應(yīng)充分考慮倫理風(fēng)險事件回溯機制，要求系統(tǒng)設(shè)計、算法架構(gòu)、用戶交互等都是可解釋的，盡可能保證對用戶是透明的。回溯機制要求充分考慮系統(tǒng)運行過程中的“痕跡管理”，且在算法方面要求算法工程師遵循教育教學(xué)規(guī)律，對人工智能算法的關(guān)鍵參數(shù)進行合理設(shè)置，充分考慮數(shù)據(jù)安全和數(shù)據(jù)隱私保護。在使用者方面，回溯機制要求使用者充分了解系統(tǒng)設(shè)計原理、使用注意事項以及常見倫理風(fēng)險，要求高校倫理風(fēng)險管理機構(gòu)明確倫理追責(zé)機制，劃定人工智能建設(shè)方、使用方的責(zé)任邊界。

總結(jié)與展望

人工智能的應(yīng)用倫理風(fēng)險研究依據(jù)的往往是國家政策、行業(yè)規(guī)范以及智慧教學(xué)相關(guān)理論，實踐檢驗環(huán)節(jié)通常只能依靠閉環(huán)的課堂教學(xué)實驗。隨著新技術(shù)、新應(yīng)用的涌現(xiàn)，倫理風(fēng)險也在變化，在人類社會活動中，人工智能的應(yīng)用將不斷深入，如何有效認識倫理風(fēng)險、規(guī)避倫理風(fēng)險、管控倫理風(fēng)險需要在新的使用場景中進行驗證。

參考文獻：

[1]石連海，楊羽.適應(yīng)與跨越：人工智能沖擊下的教育現(xiàn)代化[J].中國教育學(xué)刊，2022（03）：47-52.

[2]苗逢春.教育人工智能倫理的解析與治理—《人工智能倫理問題建議書》的教育解讀[J].中國電化教育，2022（06）：22-36.

[3]楊足儀，向鷺娟.人工智能為什么“能”？—關(guān)于人工智能“心智建?！钡恼軐W(xué)思考[J].武漢科技大學(xué)學(xué)報：社會科學(xué)版，2022，24（04）：436-439.

[4]羅江華，王琳，劉璐.人工智能賦能課堂反饋的倫理困境及風(fēng)險化解[J].現(xiàn)代遠程教育研究，2022，34（02）：29-36.

[5]黃宇彤.人工智能在高等教育中的場景應(yīng)用[J].哈爾濱工程大學(xué)學(xué)報，2022，43（07）：1066-1072.

[6]石映輝，韋怡彤，楊浩.教師數(shù)字鴻溝的發(fā)展與彌合—基于從信息鴻溝到素養(yǎng)鴻溝的視角[J].現(xiàn)代教育技術(shù)，2018，28（03）：59-65.

[7]劉邦奇.智能技術(shù)賦能新時代綜合評價：挑戰(zhàn)、路徑、場景及技術(shù)應(yīng)用[J].中國考試，2022（06）：6-15.

[8]王海穩(wěn).網(wǎng)絡(luò)群體極化引發(fā)的道德風(fēng)險及對策分析[J].杭州電子科技大學(xué)學(xué)報：社會科學(xué)版，2018，14（06）：51-54.

[9]嚴俊.“信息繭房”現(xiàn)象的負效應(yīng)及對策研究[J].大連民族大學(xué)學(xué)報，2018，20（04）：370-373.

作者簡介：沈振興，中南民族大學(xué)現(xiàn)代教育技術(shù)中心教師，研究方向為教育信息化、智慧教育。

本文受中南民族大學(xué)教研項目“智能技術(shù)賦能智慧教學(xué)環(huán)境構(gòu)建的路徑與方法研究”資助（項目編號：JYX21092）。