亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        科技倫理視角:高校教學(xué)中智能技術(shù)應(yīng)用風(fēng)險及對策

        2023-07-04 02:43:36沈振興
        中國信息技術(shù)教育 2023年12期
        關(guān)鍵詞:智慧教學(xué)智能技術(shù)

        摘要:隨著人工智能技術(shù)的普及,其引發(fā)的倫理問題日益突出,在一定程度上制約了教育領(lǐng)域人工智能的研究和發(fā)展。本文先從技術(shù)應(yīng)用與倫理風(fēng)險的角度,分析了智慧教學(xué)主體、智慧教學(xué)環(huán)境、智慧教學(xué)模式以及個性化教學(xué)等方面的智能技術(shù)應(yīng)用原理以及存在的倫理問題,在此基礎(chǔ)上,結(jié)合國家關(guān)于科技倫理風(fēng)險治理的相關(guān)政策和指導(dǎo)意見,提出了智慧教學(xué)中智能技術(shù)應(yīng)用倫理風(fēng)險的治理對策,從治理機構(gòu)、治理技術(shù)、管理機制等方面為高校開展教學(xué)活動的潛在倫理風(fēng)險提供治理建議。

        關(guān)鍵詞:智能技術(shù);科技倫理;智慧教學(xué)

        中圖分類號:G434? 文獻標(biāo)識碼:A? 論文編號:1674-2117(2023)12-0080-04

        引言

        智慧教學(xué)是人工智能應(yīng)用于教育行業(yè)的重要落腳點,其中智慧教學(xué)場景和智慧教學(xué)模式是現(xiàn)階段教育領(lǐng)域的研究熱點,人工智能技術(shù)對智慧教學(xué)場景和智慧教學(xué)模式的影響正持續(xù)擴大,但隨著人工智能技術(shù)的普及,其引發(fā)的倫理問題日益突出,對教育領(lǐng)域應(yīng)用人工智能的輿論導(dǎo)向產(chǎn)生了負面影響,在一定程度上制約了其研究和發(fā)展。

        2022年3月,國務(wù)院發(fā)布了《關(guān)于加強科技倫理治理的意見》,對以人工智能為代表的重點科技領(lǐng)域,提出了體制機制不健全、制度不完善、領(lǐng)域發(fā)展不均衡等倫理治理方面的問題,要求有針對性地加強科技倫理治理。對高校而言,包含人工智能在內(nèi)的眾多學(xué)科的研究和應(yīng)用均面臨倫理風(fēng)險[1],人工智能倫理的治理應(yīng)統(tǒng)籌規(guī)劃到科技倫理治理范圍,統(tǒng)一規(guī)劃和統(tǒng)一治理更有利于高校的全局管理和長遠發(fā)展。

        技術(shù)應(yīng)用與倫理風(fēng)險

        智慧教學(xué)環(huán)境、智慧教學(xué)模式以及效果評價是智慧教學(xué)的重要組成部分,國內(nèi)外學(xué)者對智能化教學(xué)環(huán)境和模式開展研究,對人工智能在智慧教學(xué)中的應(yīng)用倫理問題也展開了探討,如數(shù)據(jù)采集過程中人工智能相關(guān)技術(shù)侵犯隱私權(quán)[2]、肖像權(quán)等人格權(quán)問題。在技能與知識的教學(xué)過程中,“計算主義”[3]“數(shù)據(jù)至上”導(dǎo)致學(xué)生缺乏情感關(guān)懷、人機溝通缺乏共鳴以及教學(xué)氛圍缺失等問題。在人工智能技術(shù)原理層面,人工智能系統(tǒng)本質(zhì)上是以數(shù)據(jù)為基礎(chǔ)、以算法為框架、以軟件為形式的計算機程序及關(guān)聯(lián)硬件設(shè)施,算法本身可能產(chǎn)生“算法陷阱”,可能導(dǎo)致算法歧視、算法黑箱等問題[4],引發(fā)師生權(quán)利失衡、師生倫理失范以及師生情感缺失等后果,對教學(xué)效果存在一定的負面影響,有違教學(xué)中引入人工智能技術(shù)的初衷。

        1.虛擬教師:科技風(fēng)暴與情感缺失

        虛擬教師是“虛擬角色”產(chǎn)品的衍生技術(shù),虛擬教師是一個復(fù)合概念,可以指通過圖靈測試的、具備學(xué)科專業(yè)知識的教育機器人,也可以指數(shù)字孿生或者元宇宙概念下的“數(shù)字虛擬人”,兩者均可在智慧教學(xué)場景中發(fā)揮教學(xué)輔助作用。在線上和線下教學(xué)環(huán)境中,虛擬教師目前已經(jīng)被應(yīng)用于知識解答、學(xué)習(xí)引導(dǎo)、為學(xué)生提供個性化的幫助和建議等。

        虛擬教師的知識解答、學(xué)習(xí)引導(dǎo)以及學(xué)習(xí)幫助和建議等功能所依據(jù)的算法各不相同,一般會用到自然語言處理、深度學(xué)習(xí)等算法,其中學(xué)習(xí)引導(dǎo)和個性化幫助功能還需使用與學(xué)生關(guān)聯(lián)的各類數(shù)據(jù)庫,如學(xué)生基本信息數(shù)據(jù)庫、學(xué)習(xí)檔案數(shù)據(jù)庫,該類功能還需要采集學(xué)生的個人行為習(xí)慣信息等,這可能導(dǎo)致教育倫理方面以及數(shù)據(jù)方面的風(fēng)險。在教育倫理學(xué)的角度,教育應(yīng)是“全方位的”,教學(xué)過程不僅要傳授知識與技能,更要適當(dāng)?shù)剡M行德育和美育等帶有“情感成分”的教學(xué),從而實現(xiàn)“立德樹人”的目的。與傳統(tǒng)教師授業(yè)解惑相比,虛擬教師的一個重要缺陷是缺乏情感傳達和交互,情感傳達和交互是營造學(xué)習(xí)氛圍、激發(fā)學(xué)生潛能的重要因素。而虛擬教師作為與學(xué)生直接溝通的人工智能實體,會根據(jù)算法規(guī)則對學(xué)生學(xué)習(xí)階段、學(xué)習(xí)習(xí)慣、學(xué)習(xí)層次進行相對生硬的標(biāo)記和評估,如算法設(shè)計缺乏人性化考慮,則可能導(dǎo)致“張冠李戴、生搬硬套”等問題,也可能導(dǎo)致學(xué)生在學(xué)習(xí)的過程中缺乏情感認同。

        2.智能化教學(xué)環(huán)境:人格權(quán)侵犯風(fēng)險

        智能化教學(xué)環(huán)境通常指智慧教室內(nèi)以智能化技術(shù)為基礎(chǔ)的教學(xué)輔助軟硬件設(shè)備。[5]其中,機器視覺技術(shù)可以對教室狀態(tài)進行識別,判斷課堂的出勤率,可以對學(xué)生進行人臉識別以實現(xiàn)簽到功能;模式識別技術(shù)可以應(yīng)用于智慧教室內(nèi)部的人機協(xié)同教學(xué),教師可以通過手勢、語音等方式控制教室內(nèi)部任意設(shè)備,根據(jù)教學(xué)需要實時調(diào)整設(shè)備的狀態(tài);在課堂教學(xué)中,綜合機器視覺、模式識別和深度學(xué)習(xí)技術(shù),人工智能還能對學(xué)生的表情、瀏覽習(xí)慣等進行綜合分析,實現(xiàn)教學(xué)效果評測以及學(xué)習(xí)狀態(tài)評價。在智能化教學(xué)環(huán)境中,數(shù)據(jù)庫是主要風(fēng)險點之一,如師生信息數(shù)據(jù)庫以及圖像識別相關(guān)的訓(xùn)練集等。

        機器視覺以及模式識別技術(shù)的應(yīng)用需采集大量的人臉信息,包括圖片、人臉特征信息以及語音、姿態(tài)信息等,同時還將對整個學(xué)習(xí)過程進行實時數(shù)據(jù)采集,這可能帶來兩個問題:一是信息泄露風(fēng)險導(dǎo)致的自然人隱私權(quán)容易受侵犯的問題;二是實時數(shù)據(jù)采集和分析過程所帶來的人格權(quán)受侵犯的問題。人格權(quán)一般意義上可分為人格自由、獨立和尊嚴等權(quán)益,事實上,生活中無處不在的監(jiān)控也屬于實時數(shù)據(jù)采集的一種,但安防監(jiān)控一般受保密協(xié)議保護,而且普通安防監(jiān)控并不會對圖像、視頻信息進行分析,但機器視覺和模式識別等人工智能技術(shù)不僅采集視頻、圖像數(shù)據(jù),還需要對數(shù)據(jù)進行處理、特征提取,并基于現(xiàn)有樣本集進行數(shù)據(jù)分析和歸類識別,由此可概括自然人的各種特征,其結(jié)果是將肖像權(quán)、隱私權(quán)等人格權(quán)的構(gòu)成要素進行數(shù)據(jù)化,如數(shù)據(jù)存放得不到有效的保護或者數(shù)據(jù)應(yīng)用得不到有效的規(guī)約,上述過程將可能造成隱私權(quán)、肖像權(quán)以及人格尊嚴等人格權(quán)侵犯問題。

        3.智能化教學(xué)模式:從數(shù)字鴻溝到智能化鴻溝

        智能化教學(xué)模式是教學(xué)數(shù)字化、信息化發(fā)展的新階段,其表現(xiàn)形式是借助智能化教學(xué)軟硬件,對教學(xué)過程、教學(xué)設(shè)計以及教學(xué)評測進行重構(gòu),要求師生應(yīng)當(dāng)具備信息技術(shù)基礎(chǔ)知識以及人工智能基本素養(yǎng),智能化教學(xué)模式在提升教學(xué)效率的同時,也引發(fā)了教育教學(xué)公平機制方面的問題,如數(shù)字鴻溝問題。數(shù)字鴻溝造成的后果之一就是無法保證教學(xué)起點、教學(xué)體驗和教學(xué)效果的公平性。隨著教育信息化的逐步發(fā)展,數(shù)字鴻溝造成的不公平問題會“馬太效應(yīng)”般急速加劇,導(dǎo)致素養(yǎng)鴻溝的出現(xiàn)。[6]

        智能化教學(xué)模式加大了數(shù)字鴻溝和素養(yǎng)鴻溝的負面影響,人工智能是多學(xué)科交叉形成的高精尖技術(shù),其運行機制和技術(shù)原理存在較高的復(fù)雜性,使用人工智能技術(shù)或者工具需具備一定的計算機科學(xué)、社會學(xué)以及哲學(xué)基礎(chǔ),使用門檻大幅度提高,也催生了智能化鴻溝的出現(xiàn)。智能化鴻溝是素養(yǎng)鴻溝的高級階段,素養(yǎng)鴻溝造成的負面影響也存在于智能化鴻溝階段。例如,在教師層面,理工科教師對多媒體系統(tǒng)、智慧教學(xué)工具掌握程度比人文學(xué)科教師更加熟練;在學(xué)生層面,不同學(xué)科的學(xué)生以及不同學(xué)習(xí)階段的學(xué)生,均表現(xiàn)出對智能化學(xué)習(xí)模式的群體性差異,具備一定信息技術(shù)基礎(chǔ)的學(xué)生更容易接受智慧教學(xué)模式以及教育信息化工具。

        4.個性化教學(xué):信息繭房與算法偏見

        人工智能技術(shù)賦能個性化教學(xué)的前提是計算機系統(tǒng)能夠“認識學(xué)生”并分析學(xué)生的個性行為,也即實現(xiàn)“用戶群體畫像”“用戶精準畫像”。[7]數(shù)據(jù)技術(shù)的發(fā)展為學(xué)生群體畫像和個性化分析提供了基本條件,在此基礎(chǔ)上,基于人工智能算法的主動推送功能和智能評測功能則為個性化教學(xué)提供了可行性。其中主動推送也叫智能化推送,是人工智能系統(tǒng)根據(jù)用戶的個性、偏好和習(xí)慣自動推送用戶感興趣的知識內(nèi)容。另外,利用自然語言處理等技術(shù)以及配套的人機交互界面,智能化軟硬件設(shè)備也可對學(xué)生進行問題輔導(dǎo)、作業(yè)批改、學(xué)習(xí)效果評判,達到擴充課后輔導(dǎo)方式、提高課后學(xué)習(xí)效率的目標(biāo)。

        由于算法本身的不完備和訓(xùn)練數(shù)據(jù)的體量不夠等問題,基于智能技術(shù)的個性化教學(xué)也面臨相應(yīng)的倫理問題,其中最常見的是信息繭房和算法偏見。信息繭房在個性化教學(xué)中的表象之一是人工智能算法推送的信息過于同質(zhì)化,無形中打造了一個基于用戶瀏覽習(xí)慣和偏好的相對封閉的“繭房”。對學(xué)生來說,學(xué)習(xí)的過程不僅是溫故知新的過程,而且是培養(yǎng)創(chuàng)新精神以及創(chuàng)造力的過程,信息繭房可能形成一個“囚籠”,窄化學(xué)生眼界,不利于學(xué)生創(chuàng)造力的培養(yǎng)。算法和數(shù)據(jù)的微小偏差不僅能導(dǎo)致“網(wǎng)絡(luò)群體的極化”[8]和“社會粘性的喪失”[9]問題,還能引發(fā)算法偏見問題,如弱勢群體在尋求人工智能系統(tǒng)解答學(xué)科問題過程中,智能系統(tǒng)按照答復(fù)規(guī)則給出了看似正確合理的答案,但是該答案并不具備師德屬性,答案本身可能造成“弱勢群體歧視”等師德準則問題,不符合教育倫理提倡的“包容性”“公平性”。

        倫理問題之對策

        1.提高人工智能素養(yǎng)

        高校師生的人工智能素養(yǎng)建立在信息化素養(yǎng)和普及人工智能常識的基礎(chǔ)上。信息化素養(yǎng)要求教師懂得基本的教育信息化常識,如信息化教學(xué)方案設(shè)計等,也能使用基本的信息化教學(xué)基礎(chǔ)設(shè)施實現(xiàn)教學(xué)目的。人工智能素養(yǎng)還要求廣大師生了解人工智能概念和起源、人工智能在社會生活中的應(yīng)用方向以及人工智能技術(shù)面臨的道德挑戰(zhàn)和安全問題。對高校而言,師生人工智能素養(yǎng)的提升途徑主要是加強教師技能培訓(xùn),開設(shè)人工智能相關(guān)課程以及普及教學(xué)過程中人工智能倫理常識等。

        2.建立科技倫理審查機構(gòu)

        倫理審查機構(gòu)是科技倫理治理的執(zhí)行機構(gòu),高??萍紓惱韺彶椴块T應(yīng)由人工智能相關(guān)學(xué)科技術(shù)專家、校園信息化建設(shè)者、學(xué)校政策制定者等人員組成,并從以下幾個方面開展工作:注重全體師生人工智能素養(yǎng)的培養(yǎng)工作,常規(guī)性開展科技倫理科普活動,舉辦科技倫理培訓(xùn)活動;加大政策宣傳力度,避免師生對智能技術(shù)的恐慌感;規(guī)定人工智能技術(shù)的正確應(yīng)用導(dǎo)向,如智能化教學(xué)環(huán)境的設(shè)計應(yīng)遵循“不得改變?nèi)斯ぶ悄艿膹膶俚匚?,教學(xué)應(yīng)以師生倫理關(guān)系為主導(dǎo)”的原則。

        3.借助可信人工智能技術(shù)

        人工智能系統(tǒng)的風(fēng)險環(huán)節(jié)為數(shù)據(jù)和計算,數(shù)據(jù)安全、可信計算構(gòu)成了人工智能倫理安全的兩大要素,對于敏感信息泄露風(fēng)險、人工智能系統(tǒng)漏洞等問題,可以通過可信人工智能技術(shù)解決其安全和倫理隱患問題。可信人工智能技術(shù)有六個特征維度,分別是:健壯性、可解釋性、公平性、隱私性、可追責(zé)性,以及環(huán)境保護。每個維度都有對應(yīng)的可信計算技術(shù),從而保證人工智能的公平、可解釋,確保人類自主等基本倫理準則??尚湃斯ぶ悄芗夹g(shù)規(guī)定了人工智能系統(tǒng)的基本倫理框架,智慧教學(xué)中智能化的教學(xué)模式和教學(xué)系統(tǒng)的算法設(shè)計應(yīng)首先遵循可信倫理框架。倫理審查機構(gòu)可借助可信人工智能技術(shù),注重人工智能系統(tǒng)的可解釋性評估、數(shù)據(jù)風(fēng)險評估,注重系統(tǒng)安全設(shè)計、人類可接管設(shè)計、責(zé)任機制設(shè)計、用戶權(quán)利義務(wù)設(shè)計以及系統(tǒng)公平性設(shè)計,構(gòu)建可控可靠、透明可釋、責(zé)任明確、多元包容的人工智能教學(xué)應(yīng)用系統(tǒng),避免黑箱決策、師生倫理損害以及違背教學(xué)過程中的公平機制。

        4.強化問責(zé)機制和倫理事故回溯機制

        問責(zé)機制是監(jiān)管人工智能的重要手段之一,人工智能問責(zé)指的是智能系統(tǒng)的建設(shè)方和管理方應(yīng)為系統(tǒng)的任意決策和任意行動承擔(dān)相應(yīng)的責(zé)任。倫理事故回溯是實現(xiàn)問責(zé)機制的主要技術(shù)手段,人工智能系統(tǒng)的設(shè)計應(yīng)充分考慮倫理風(fēng)險事件回溯機制,要求系統(tǒng)設(shè)計、算法架構(gòu)、用戶交互等都是可解釋的,盡可能保證對用戶是透明的。回溯機制要求充分考慮系統(tǒng)運行過程中的“痕跡管理”,且在算法方面要求算法工程師遵循教育教學(xué)規(guī)律,對人工智能算法的關(guān)鍵參數(shù)進行合理設(shè)置,充分考慮數(shù)據(jù)安全和數(shù)據(jù)隱私保護。在使用者方面,回溯機制要求使用者充分了解系統(tǒng)設(shè)計原理、使用注意事項以及常見倫理風(fēng)險,要求高校倫理風(fēng)險管理機構(gòu)明確倫理追責(zé)機制,劃定人工智能建設(shè)方、使用方的責(zé)任邊界。

        總結(jié)與展望

        人工智能的應(yīng)用倫理風(fēng)險研究依據(jù)的往往是國家政策、行業(yè)規(guī)范以及智慧教學(xué)相關(guān)理論,實踐檢驗環(huán)節(jié)通常只能依靠閉環(huán)的課堂教學(xué)實驗。隨著新技術(shù)、新應(yīng)用的涌現(xiàn),倫理風(fēng)險也在變化,在人類社會活動中,人工智能的應(yīng)用將不斷深入,如何有效認識倫理風(fēng)險、規(guī)避倫理風(fēng)險、管控倫理風(fēng)險需要在新的使用場景中進行驗證。

        參考文獻:

        [1]石連海,楊羽.適應(yīng)與跨越:人工智能沖擊下的教育現(xiàn)代化[J].中國教育學(xué)刊,2022(03):47-52.

        [2]苗逢春.教育人工智能倫理的解析與治理—《人工智能倫理問題建議書》的教育解讀[J].中國電化教育,2022(06):22-36.

        [3]楊足儀,向鷺娟.人工智能為什么“能”?—關(guān)于人工智能“心智建?!钡恼軐W(xué)思考[J].武漢科技大學(xué)學(xué)報:社會科學(xué)版,2022,24(04):436-439.

        [4]羅江華,王琳,劉璐.人工智能賦能課堂反饋的倫理困境及風(fēng)險化解[J].現(xiàn)代遠程教育研究,2022,34(02):29-36.

        [5]黃宇彤.人工智能在高等教育中的場景應(yīng)用[J].哈爾濱工程大學(xué)學(xué)報,2022,43(07):1066-1072.

        [6]石映輝,韋怡彤,楊浩.教師數(shù)字鴻溝的發(fā)展與彌合—基于從信息鴻溝到素養(yǎng)鴻溝的視角[J].現(xiàn)代教育技術(shù),2018,28(03):59-65.

        [7]劉邦奇.智能技術(shù)賦能新時代綜合評價:挑戰(zhàn)、路徑、場景及技術(shù)應(yīng)用[J].中國考試,2022(06):6-15.

        [8]王海穩(wěn).網(wǎng)絡(luò)群體極化引發(fā)的道德風(fēng)險及對策分析[J].杭州電子科技大學(xué)學(xué)報:社會科學(xué)版,2018,14(06):51-54.

        [9]嚴俊.“信息繭房”現(xiàn)象的負效應(yīng)及對策研究[J].大連民族大學(xué)學(xué)報,2018,20(04):370-373.

        作者簡介:沈振興,中南民族大學(xué)現(xiàn)代教育技術(shù)中心教師,研究方向為教育信息化、智慧教育。

        本文受中南民族大學(xué)教研項目“智能技術(shù)賦能智慧教學(xué)環(huán)境構(gòu)建的路徑與方法研究”資助(項目編號:JYX21092)。

        猜你喜歡
        智慧教學(xué)智能技術(shù)
        一次設(shè)備智能化技術(shù)在智能變電站的探討
        從百度“神燈搜索”看課堂教育教學(xué)的變革
        基于智慧教學(xué)理念的翻轉(zhuǎn)課堂教學(xué)流程與互動系統(tǒng)設(shè)計
        智能技術(shù)在電力系統(tǒng)自動化中的運用研究
        電氣自動化控制中的人工智能技術(shù)探究
        青春歲月(2016年22期)2016-12-23 16:16:56
        智能技術(shù)在電子工程自動化控制中的應(yīng)用
        探討智能技術(shù)在電力系統(tǒng)自動化中的應(yīng)用價值
        探討小學(xué)數(shù)學(xué)課堂中的智慧教學(xué)
        關(guān)于煙草設(shè)備自動化系統(tǒng)淺析
        課程智慧教學(xué)實踐研究
        考試周刊(2016年9期)2016-03-12 07:41:47
        欧美成人a在线网站| 欧美国产激情18| 亚洲最大av网站在线观看| 中文字幕乱码人妻一区二区三区| 亚洲欧美性另类春色| 亚洲一区二区三区视频免费| 精品人妻一区二区三区浪人在线| 色噜噜狠狠狠综合曰曰曰| 国产精品毛片无遮挡高清| 亚洲国产日韩综一区二区在性色| 精品一级一片内射播放| 亚洲a∨无码一区二区三区| av大片在线无码免费| 国产杨幂AV在线播放| 99久久国产精品免费热| 国产成人喷潮在线观看| 亚洲饱满人妻视频| 国产精品国产三级国产一地| 久久一区二区三区久久久| 国产成人精品一区二区三区视频 | 日韩精品人妻久久久一二三| 亚洲色在线v中文字幕| jlzzjlzz全部女高潮| 亚洲香蕉久久一区二区| 国产香港明星裸体xxxx视频| 国产色a在线观看| 欧美高h视频| 中文字幕在线乱码av| 一二三四日本中文在线| 色诱久久av| 女同中文字幕在线观看| 日韩日韩日韩日韩日韩日韩日韩| 国产精品久久久久久52avav| 亚洲AV乱码毛片在线播放| 国产精品一区二区三区四区亚洲 | 另类欧美亚洲| 亚洲第一页在线免费观看| 丰满人妻被两个按摩师| 大学生被内谢粉嫩无套| 在线观看视频日本一区二区三区| 成人av在线久色播放|