任鳳琴,董子涵

(山東農(nóng)業(yè)大學(xué) 馬克思主義學(xué)院,山東 泰安 271018)

2022年末,生成式人工智能應(yīng)用程序ChatGPT一經(jīng)發(fā)布就迅速上升為一個現(xiàn)象級熱點(diǎn)事件,人工智能的發(fā)展成為世界各國關(guān)注的焦點(diǎn)之一。自20世紀(jì)50年代興起至今,其核心技術(shù)和典型應(yīng)用都呈現(xiàn)出爆炸式增長的態(tài)勢,以算法和大數(shù)據(jù)為驅(qū)動力的生成式人工智能成為打造教育服務(wù)智能體的新型引擎,為思想政治教育的創(chuàng)新發(fā)展提供了新的契機(jī)。但人們在享受人工智能技術(shù)紅利的同時,也應(yīng)該意識到其所帶來的倫理風(fēng)險,教育過程中某些不可或缺的成分如倫理、價值、道德、情感等可能會被技術(shù)偏見所忽視,這反過來又在一定程度上影響著思想政治教育的實(shí)效性。因此,落實(shí)立德樹人的根本任務(wù),必須從倫理的視角對生成式人工智能賦能思想政治教育所產(chǎn)生的風(fēng)險進(jìn)行審視與反思,合理掌握技術(shù)與倫理的尺度,真正回歸思想政治教育本質(zhì)。

一、生成式人工智能賦能思想政治教育的倫理風(fēng)險

儒家倫理文化中,君臣、父子、夫婦、兄弟和朋友之間的人倫關(guān)系稱為五倫,忠、孝、悌、忍、善是其關(guān)系準(zhǔn)則。五倫涉及的是人與人、人與家庭以及人與社會之間的關(guān)系,由此決定相對應(yīng)的責(zé)任和角色,側(cè)重于由客觀關(guān)系的位分而帶來的客觀主體行為和思想的規(guī)約,核心是社會生活的正義秩序及其表現(xiàn)。作為一種深度合成類技術(shù),生成式人工智能所營造的虛擬場景能夠與現(xiàn)實(shí)社會共生,倫理也相應(yīng)地指向虛實(shí)交融中的種種社會關(guān)系。人工智能與思想政治教育跨界相交,從技術(shù)介入到技術(shù)融入,在推進(jìn)思想政治教育創(chuàng)新的同時,也不可避免地帶來了倫理風(fēng)險。

(一)主體維度:教育者主導(dǎo)性地位下降

在思想政治教育生態(tài)中,教育者是主體,在教育過程中占據(jù)主導(dǎo)性地位[1]。生成式人工智能技術(shù)雖然擁有無限大的數(shù)據(jù)庫以及強(qiáng)大的算法系統(tǒng),也能夠模擬人類進(jìn)行某些日常工作,但其本質(zhì)仍然是一門技術(shù),無法擁有傳統(tǒng)思想政治教育基于教育情感的親和力和權(quán)威性,在賦能思想政治教育的過程中,可能會影響師生的良性互動,導(dǎo)致教育者主導(dǎo)性地位下降。

一方面,生成式人工智能技術(shù)的介入在一定程度上弱化了教育者和教育對象的直接聯(lián)系,淡化了師生關(guān)系。思想政治教育不僅是一項政治性實(shí)踐,而且是一種情感養(yǎng)成[2]。生成式人工智能依托算法對思想政治教育的各個環(huán)節(jié)和組成部分進(jìn)行量化分析,其所采集和利用的數(shù)據(jù)只不過是教育過程中的淺層數(shù)據(jù),并不能反映思想政治教育過程中教育者與教育對象深層次的情感聯(lián)系。不可否認(rèn),生成式人工智能提供的智能學(xué)習(xí)空間與自主學(xué)習(xí)支持系統(tǒng)能夠在一定程度上提高學(xué)生自主學(xué)習(xí)和自我獲得的能力,但在人-機(jī)-人的關(guān)系中,機(jī)作為主要技術(shù)支撐,其倫理判斷難以被完全數(shù)字編碼化,也無法像教育者一樣為學(xué)生提供相應(yīng)的人文關(guān)懷。以美國人工智能實(shí)驗室OpenAI推出的ChatGPT為代表的生成式人工智能應(yīng)用程序為例,它通過龐大的數(shù)據(jù)集來訓(xùn)練計算機(jī)系統(tǒng),使其能夠獲得一種“類人”的響應(yīng)能力,而不僅僅是大量數(shù)據(jù)和文本參數(shù)簡單堆砌而成的“大型語言模型”[3]。一旦其介入教學(xué)過程,將會重塑教育生態(tài),打破教育-學(xué)校以及教育-師生之間的強(qiáng)相關(guān),使教育者課堂主導(dǎo)角色存在感減少,削弱教育者的課堂主導(dǎo)作用,傳統(tǒng)的師生關(guān)系受到人工智能“類主體”功能的沖擊,可導(dǎo)致師生情感遮蔽以及關(guān)系淡化的倫理風(fēng)險。

另一方面,人工智能與思想政治教育相結(jié)合對教育者的能力提出了新挑戰(zhàn)。與傳統(tǒng)思想政治教育師生面對面說理傳教的方式不同,生成式人工智能技術(shù)的發(fā)展改變了教育者與教育對象必須在同一時空場域內(nèi)進(jìn)行理論輸出與輸入的狀況,為教育者提供了超現(xiàn)實(shí)的虛擬學(xué)習(xí)空間和開放、共享式的交互式學(xué)習(xí)系統(tǒng),打破了傳統(tǒng)思政教育以課堂為中心、以教育者為知識灌輸者的教育模式。ChatGPT爆火的背后是1 750億參數(shù)的自然語言處理模型支持,GPT-4的推出更是標(biāo)志著這種聊天生成預(yù)訓(xùn)練模擬器已經(jīng)遠(yuǎn)遠(yuǎn)超過聊天的層面,有著強(qiáng)大的理解能力、學(xué)習(xí)能力和自我意志,具備一種“類人”的響應(yīng)能力和超出大多數(shù)機(jī)器的智慧,這種生成式人工智能在交流互動方面的應(yīng)用產(chǎn)物無疑對思想政治教育者的教學(xué)能力提出了新的挑戰(zhàn)?，F(xiàn)實(shí)情況中,部分教育者由于各種因素的限制對生成式人工智能應(yīng)用的認(rèn)識和運(yùn)用還達(dá)不到要求,無法發(fā)揮人機(jī)協(xié)作工作模式的優(yōu)勢,使得人工智能技術(shù)的使用、智能化教學(xué)無法進(jìn)一步開展,降低了工作效能,進(jìn)而導(dǎo)致在生成式人工智能賦能思想政治教育模式下出現(xiàn)教育者的身體“缺場”趨勢,引發(fā)了思想政治教育主體維度的風(fēng)險。

(二)客體維度:教育對象自我認(rèn)知失衡

生成式人工智能的加持使得傳統(tǒng)思想政治教育的教育空間被無限延伸,這打破了傳統(tǒng)教育模式的時間和空間界限,教育主體能夠依托網(wǎng)絡(luò)進(jìn)行實(shí)時交流,在提高教育效率的同時,也增強(qiáng)了教育者與教育對象的交互。但正是由生成式人工智能所創(chuàng)建的“無限的”學(xué)習(xí)空間,使作為思想政治教育客體的教育對象產(chǎn)生了一定程度的自我認(rèn)知的失衡。

一方面,無界限空間的匿名性導(dǎo)致了教育對象“自我”與“非我”的混淆。在網(wǎng)絡(luò)匿名制的保護(hù)下,教育對象脫離傳統(tǒng)教育的實(shí)名制度,披上了“馬甲”,現(xiàn)實(shí)中的班規(guī)紀(jì)律等被忽視,表現(xiàn)出強(qiáng)烈的個性,甚至?xí)纬膳c現(xiàn)實(shí)生活中截然不同的虛擬人格。從社會認(rèn)知的視角來看,虛擬人格就是其在現(xiàn)實(shí)生活中被種種制度框架所規(guī)范起來的“本我”人格。在無界限匿名制的教育空間的掩護(hù)下,這種虛擬人格會逐漸演化成“非我”人格,認(rèn)為現(xiàn)實(shí)中的“我”不需要對網(wǎng)絡(luò)上的“我”的言語行為承擔(dān)責(zé)任。伴隨著生成式人工智能與思想政治教育結(jié)合的不斷深入,教育對象如果把握不好現(xiàn)實(shí)世界和虛擬世界的平衡,必將導(dǎo)致“自我”與“非我”的相互撕扯,最終形成“兩面人”。

另一方面,生成式人工智能的潛在畫像功能在一定程度上會導(dǎo)致個體自我人格的迷失。一般而言,人工智能的三大核心要素是大數(shù)據(jù)、算法和計算能力,因而人工智能與思想政治教育的關(guān)聯(lián)和契合也離不開這三大核心要素[4]。思想政治教育依托生成式人工智能強(qiáng)大的數(shù)據(jù)庫以及強(qiáng)勁的算法和計算能力,能夠?qū)€體進(jìn)行畫像,從而實(shí)現(xiàn)對不同個體的個性化教育。但我們也應(yīng)該注意到,生成式人工智能的畫像功能看似是對教育對象個性和心理的精準(zhǔn)剖析,實(shí)則遠(yuǎn)遠(yuǎn)不能體現(xiàn)全部的我,人的社會性、復(fù)雜性等也并不是一堆符號和數(shù)據(jù)所能完全代表的。一種可能,教育對象可以借助虛擬的學(xué)習(xí)空間刻意塑造自己的符號身份,干擾人工智能的畫像功能,給教育者傳遞錯誤的信息,從而反向鞏固其虛擬的符號化身份;另一可能,教育對象完全沉浸于充當(dāng)數(shù)字、符號的虛擬角色,進(jìn)而喪失自我。由此可見,生成式人工智能的潛在畫像功能未必利于教育對象的全面發(fā)展,這與立德樹人的最終教育目標(biāo)是相割裂的。

(三)介體維度:人工智能技術(shù)運(yùn)用不當(dāng)

思想政治教育介體是聯(lián)結(jié)思想政治教育主體與客體的神經(jīng)中樞,它是指在思想政治教育過程中,教育主體為取得相應(yīng)的教學(xué)成果而對教育客體采取的教育方法和手段。隨著科技的發(fā)展,思想政治教育介體的種類不斷豐富,“思想政治教育+人工智能”已經(jīng)成為當(dāng)下思想政治教育的發(fā)展潮流。借助生成式人工智能技術(shù),思想政治教育的方式方法逐漸多元化、時代化,但我們也應(yīng)該意識到,科技本身就是一把雙刃劍,它有時也“表現(xiàn)為異己的、敵對的和統(tǒng)治的權(quán)力”[5],如果對人工智能技術(shù)運(yùn)用不當(dāng),就會引發(fā)思想政治教育介體維度的倫理風(fēng)險。

第一,教育信息的取用不當(dāng)導(dǎo)致個人隱私泄露的風(fēng)險。生成式人工智能賦能思想政治教育的實(shí)踐過程需要教育者和教育對象大量的數(shù)據(jù)信息支持,而這些信息數(shù)據(jù)大多來源于對教育者和教育對象全景式的監(jiān)控,依靠各種傳感設(shè)備以及錄音錄像設(shè)備等提供各種思想政治教育實(shí)踐活動的記錄。這就意味著用戶個人需要讓渡出某一部分的信息自主權(quán),將個人的隱私有意識地“泄露”給人工智能,以此來實(shí)現(xiàn)教育過程中千人千面的個性化定制與教育資源推送。當(dāng)然,數(shù)據(jù)本身并不具備倫理色彩,數(shù)據(jù)倫理問題往往產(chǎn)生在使用者或智能算法等對數(shù)據(jù)的使用過程中。當(dāng)數(shù)據(jù)脫離母體,被技術(shù)自身或者別有用心之人利用,其所帶來的倫理風(fēng)險不容忽視。

第二,運(yùn)用技術(shù)差異而導(dǎo)致的數(shù)字鴻溝風(fēng)險。生成式人工智能本身就是一種深度合成類技術(shù),該類型技術(shù)應(yīng)用便捷、場景豐富,生成內(nèi)容具有價值取向和誘導(dǎo)性,通過簡單的人工提示和算法運(yùn)行即可產(chǎn)生高風(fēng)險系數(shù)的輸出[6]。由于教育者和教育對象本身對這種合成類人工智能技術(shù)的認(rèn)識和運(yùn)用水平不同,在智能教育實(shí)踐中,可能會產(chǎn)生數(shù)字鴻溝問題,出現(xiàn)信息隔閡,阻礙教育主客體之間的交流。同樣,在同一性質(zhì)的教育主體之間,也會因技術(shù)運(yùn)用水平的差異而降低思想政治教育的公平性,致使那些技術(shù)運(yùn)用水平較低的教育主體產(chǎn)生自卑感和挫敗感,逐漸被邊緣化和透明化,喪失了思想政治教育的主導(dǎo)權(quán)和話語權(quán),這不利于思想政治教育成效的取得和教育現(xiàn)代化的發(fā)展。

第三,意識形態(tài)引導(dǎo)不當(dāng)?shù)娘L(fēng)險。目前來講,人工智能的研發(fā)和運(yùn)用仍然需要人工的支持,在研發(fā)設(shè)計過程中,相關(guān)技術(shù)人員自身的思想觀念和價值導(dǎo)向被融入其中,這會不自覺地影響人工智能技術(shù)的發(fā)展走向,給某些西方國家提供可乘之機(jī)。西方國家在人工智能技術(shù)的研發(fā)上具備先發(fā)優(yōu)勢,基于生成式人工智能與我國社會生活深度融合所產(chǎn)生的收益而獲得的認(rèn)同,有可能通過非政治化外衣極為隱蔽地裹挾著政治意圖進(jìn)行價值輸出,以達(dá)到其不可告人的目的。思想政治教育是為我國立德樹人的過程,倘若被某些不懷好意的國家所利用或影響,將對我國意識形態(tài)安全產(chǎn)生嚴(yán)重威脅。

(四)環(huán)體維度:思想政治教育環(huán)境復(fù)雜化

思想政治教育環(huán)體即思想政治教育的環(huán)境,是指與思想政治教育有關(guān)的、對人的思想政治品德形成、發(fā)展產(chǎn)生影響的外部因素[7]240。生成式人工智能與思想政治教育的結(jié)合為思想政治教育的發(fā)展提供了智能教育環(huán)境系統(tǒng),但受其智能驅(qū)動特點(diǎn)的影響,思想政治教育環(huán)境也逐漸復(fù)雜化,進(jìn)而引發(fā)了思想政治教育環(huán)體維度的倫理風(fēng)險。

第一,家庭群體感降低。家庭是思想政治教育的第一課堂。在家庭成員之間的交流交往中,蘊(yùn)含著豐富的思想政治教育元素,家庭的政治知識、態(tài)度、情感、價值取向會影響下一代[8],這是子女獲得社會化的原初起點(diǎn)。生成式人工智能所構(gòu)建的虛實(shí)相融的立體化教育場景使得教育對象在虛擬和現(xiàn)實(shí)之間頻繁切換,并且能夠?qū)λ屑彝コ蓡T一視同仁地提供無差別服務(wù),因此極有可能導(dǎo)致“人機(jī)共情”的親密關(guān)系的產(chǎn)生,引發(fā)人類之間的地緣、業(yè)緣和類血緣關(guān)系解構(gòu)的倫理風(fēng)險。長此以往,家庭中長輩的權(quán)威性被削弱,家庭思想政治教育中所蘊(yùn)含的深層次的情感聯(lián)系被一步步蠶食,相對于與家庭成員交流,教育對象更傾向于人機(jī)互動,家庭成員之間的良性互動減少,這不利于教育對象的全面發(fā)展。

第二,學(xué)校思想政治教育環(huán)境復(fù)雜化。學(xué)校是開展思想政治教育的主要場域,學(xué)校環(huán)境對于教育對象的影響是潛移默化的。隨著生成式人工智能技術(shù)與學(xué)校思想政治教育活動的結(jié)合,學(xué)校思想政治教育空間被逐漸擴(kuò)大,不再僅僅局限于傳統(tǒng)的思想政治教育課堂,轉(zhuǎn)而向人工智能技術(shù)所創(chuàng)造的教學(xué)平臺擴(kuò)展,現(xiàn)實(shí)空間與虛擬空間的交叉混合,不僅給教育者的教學(xué)工作帶來了挑戰(zhàn),而且使學(xué)校思想政治教育環(huán)境更加復(fù)雜多變。

第三,社會主流價值觀被消解。思想政治教育作為社會政治生活的關(guān)鍵輔助,具有促進(jìn)社會結(jié)構(gòu)優(yōu)化、凝聚社會共識、維護(hù)社會穩(wěn)定的重要作用[9]。一方面,生成式人工智能技術(shù)利用大數(shù)據(jù)和算法,能夠輕易捕捉用戶的興趣點(diǎn),再通過內(nèi)容推薦與協(xié)同過濾兩種運(yùn)行機(jī)制不斷為用戶提供感興趣的信息?；诖?思想政治教育所宣傳的核心價值觀與價值共識若不是人們感興趣的內(nèi)容,算法就會將其自動過濾掉,這極大地影響了社會主流價值觀的傳播。進(jìn)而,在生成式人工智能所構(gòu)筑的信息“繭房”中,教育對象的學(xué)習(xí)興趣和注意力都被鎖定在既定的范圍內(nèi),最終會逐漸形成同質(zhì)化圈層,對更高意義上的社會共同體身份的認(rèn)同卻不斷下降。此外,不同圈層的價值觀也不盡相同,某些圈層文化甚至能夠在一定程度上消解稀釋社會主流意識形態(tài)的價值共識,使社會成員的黏性逐漸減弱,產(chǎn)生群體思想極化現(xiàn)象,引發(fā)社會層面的倫理風(fēng)險。

二、生成式人工智能賦能思想政治教育倫理風(fēng)險的原因

生成式人工智能賦能思想政治教育,是以大數(shù)據(jù)為驅(qū)動、以智能算法為核心、以思想政治教育應(yīng)用為載體而產(chǎn)生的一系列教育活動。在此基礎(chǔ)上所引發(fā)的一系列倫理風(fēng)險有其必然性,它既承接了人工智能的一般性倫理問題,又體現(xiàn)了思想政治教育其本身的特殊性。究其原因,則是多方面因素相互作用的結(jié)果。

(一)算法自身的局限性與思想政治教育的實(shí)效性相矛盾

隨著技術(shù)的發(fā)展,回歸、聚類、貝葉斯、深度學(xué)習(xí)、自動編碼器以及各類神經(jīng)網(wǎng)絡(luò)算法等紛紛出現(xiàn),數(shù)據(jù)算法成為發(fā)現(xiàn)潛在教育數(shù)據(jù)價值的重要工具[10]。隨著生成式人工智能的進(jìn)一步發(fā)展,人工智能的算法優(yōu)勢逐漸凸顯。一時間,“一切皆可計算”成為人工智能的代名詞。但算法在彌補(bǔ)人類思維局限性的同時,其自身也同樣具有一定的局限性,人工智能算法自身的局限性與思想政治教育實(shí)效性的矛盾正是其賦能思想政治教育帶來倫理風(fēng)險的首要原因。

一方面,算法路徑的固定不利于教育對象的個性化發(fā)展。思想政治教育追求人自由而全面的發(fā)展,每個教育對象的成長背景和環(huán)境不同,其個性和對自身發(fā)展標(biāo)準(zhǔn)的界定也應(yīng)有所不同。但在生成式人工智能介入后,所謂的思想政治教育過程卻演變?yōu)橄盗兴惴?即按照預(yù)先設(shè)定的數(shù)學(xué)公式進(jìn)行運(yùn)作,將教育對象“拆解”為一堆沒有溫度的數(shù)字和符號,被分門別類地細(xì)化并打上相應(yīng)的標(biāo)簽。算法不斷向教育對象推送所謂的個性化教育資源,后者按照算法預(yù)先設(shè)定的固定模式進(jìn)行學(xué)習(xí)。這種用統(tǒng)一的算法標(biāo)準(zhǔn)衡量每個學(xué)生發(fā)展的方式,最終必然導(dǎo)致個體思維固化和分析解決復(fù)雜問題能力的弱化,會大大降低思想政治教育的實(shí)效性,本質(zhì)上不利于受教育者的個性化發(fā)展,因而不具備科學(xué)性。

另一方面,算法的數(shù)據(jù)依賴性與思想政治教育的動態(tài)性相悖。在生成式人工智能賦能思想政治教育的過程中,算法是通過數(shù)據(jù)收集、數(shù)據(jù)審查以及分析與計算來進(jìn)行工作的,其所有的工作內(nèi)容幾乎都與數(shù)據(jù)的處理有關(guān)。因此,算法具有較強(qiáng)的數(shù)據(jù)依賴性,但數(shù)據(jù)分布本身就帶有一定的偏見性[11]。生成式人工智能算法模型是在收集過去數(shù)據(jù)的基礎(chǔ)上建立的,其所收錄的數(shù)據(jù)本身就是過時的。用過時的數(shù)據(jù)分析現(xiàn)時的問題,這顯然與思想政治教育“因時而新”的動態(tài)性相悖。此外,在借助算法推進(jìn)思想政治教育實(shí)效性的過程中,教育對象思維的轉(zhuǎn)化、直覺靈感以及頓悟等“意外收獲”是無法通過數(shù)據(jù)來預(yù)測和分析的,即算法利用收集到的數(shù)據(jù)只能分析教育思想政治教育過程的“量變”,而無法預(yù)測其“質(zhì)變”。

(二)技術(shù)應(yīng)用的工具理性與思想政治教育的價值理性相沖突

生成式人工智能賦能思想政治教育首先要具備合理性這一基本要素。合理性分為工具理性和價值理性,前者更追求效率,重視發(fā)展的結(jié)果,后者則更注重人的個體價值和意義,不一定能讓結(jié)果大于發(fā)展。馬克思·韋伯指出,當(dāng)人的行為越趨向于滿足合理性的要求,社會結(jié)構(gòu)就會趨向于合理化發(fā)展[12]。因此,當(dāng)生成式人工智能技術(shù)的工具理性與思想政治教育的價值理性越趨向于滿足合理性的時候,思想政治教育結(jié)構(gòu)也就越趨向于合理化的穩(wěn)定發(fā)展。然而,從當(dāng)前生成式人工智能推動思想政治教育的情況來看,二者仍然存在著分歧。

首先,將生成式人工智能技術(shù)應(yīng)用到思想政治教育中符合推動教育創(chuàng)新和教育現(xiàn)代化的目標(biāo)合理性。生成式人工智能技術(shù)可以幫助教育者計算教育對象的知識儲備、評估與動態(tài)檢測教育對象的學(xué)業(yè)水平、重現(xiàn)或模擬教育場景等,為教育對象帶來不一樣的教育體驗,促進(jìn)思想政治教育模式的創(chuàng)新與發(fā)展。但是,在二者深度融合的發(fā)展過程中,某些應(yīng)用主體沉浸在人工智能所創(chuàng)造的有效性與合理性的幻象中,從而產(chǎn)生了技術(shù)依賴,進(jìn)而引發(fā)了思維惰性,喪失了批判精神和創(chuàng)新精神。對人工智能的應(yīng)用也背離了其當(dāng)初“以技術(shù)促進(jìn)以人為本”的目標(biāo)設(shè)定,一味追求高效率、高回報,以達(dá)到最終目的和利益最大化的實(shí)現(xiàn)。

其次,生成式人工智能與生俱來的工具理性所攜帶的高效性和便捷性使其一開始就極其容易將人的價值理性局限在解決技術(shù)問題的范圍內(nèi),難以跳出技術(shù)的圈層,使其看不到生成式人工智能賦能思想政治教育背后的人的價值以及發(fā)展本質(zhì)。眾所周知,生成式人工智能擁有天然的科技霸權(quán),在與思想政治教育相結(jié)合的過程中能夠輕易掌握話語權(quán),使教育被技術(shù)所支配。

最后,工具理性必然導(dǎo)致技術(shù)依賴,過度依賴人工智能技術(shù)而忽視人與人之間的情感交流,這不僅不利于教育對象高階思維能力的發(fā)展,更背離了思想政治教育促進(jìn)人全面發(fā)展的初衷。思想政治教育本身就是“人性為王”的教育,過多強(qiáng)調(diào)技術(shù)應(yīng)用的工具理性而忽視了“以人為本”的教育的價值理性,會導(dǎo)致技術(shù)對教育的“越位”,導(dǎo)致生成式人工智能技術(shù)的工具理性與思想政治教育的價值理性產(chǎn)生沖突,形成潛在的倫理風(fēng)險。

(三)人工智能的類主體性與教育者的主導(dǎo)地位相對峙

在教育現(xiàn)代化理念的引導(dǎo)下,生成式人工智能在教育領(lǐng)域的發(fā)展逐步深入,深刻改變了人們的學(xué)習(xí)方式。同時,隨著信息技術(shù)的快速發(fā)展,人工智能的工具屬性也在逐步體現(xiàn)出“類人”屬性,像ChatGPT以及“文心一言”等生成式人工智能應(yīng)用程序的推出和爆火,在一定程度上預(yù)示著人工智能不僅能夠在人們的日常生活中扮演工具性的角色,而且有能力取代人類的地位,直接扮演人類角色,這種現(xiàn)象在思想政治教育領(lǐng)域表現(xiàn)為教育者主導(dǎo)地位的下降。

“一切技術(shù)都是身體和神經(jīng)系統(tǒng)增加力量和速度的延伸”[13],技術(shù)被創(chuàng)造的最初目的就是作為人在現(xiàn)實(shí)生活中“解弊”的工具或手段,用來輔助人的正常生產(chǎn)生活。其中,人必然是主體,技術(shù)只能是客體。第三次科技革命以來,人工智能被廣泛應(yīng)用于多個行業(yè)領(lǐng)域,逐漸代替了人們無休止的勞作。從這一層面上講,這是人工智能對人的勞動解放。然而,當(dāng)生成式人工智能的“類人思維”能力和自主學(xué)習(xí)能力不斷提高,我們就應(yīng)該意識到,生成式人工智能已經(jīng)不再滿足于充當(dāng)一個技術(shù)化工具的角色了。

從人工智能AlphaGo接連戰(zhàn)勝世界圍棋冠軍李世石和柯潔的例子不難看出,人工智能在某些方面,尤其是計算方面已經(jīng)遠(yuǎn)遠(yuǎn)超越人的思維能力,這就很難保證人類以后不會被技術(shù)所操控。盡管我們當(dāng)前仍然處于弱人工智能時代,但人類與人工智能的關(guān)系已經(jīng)不再是純粹的“人與物”的關(guān)系,而是向著“人與類人”的關(guān)系發(fā)展。因此,隨著生成式人工智能的類人屬性屬性不斷增強(qiáng),其之于思想政治教育而言,也遠(yuǎn)遠(yuǎn)超出了傳統(tǒng)意義上的工具價值,而扮演起了“類教師”的角色,引發(fā)了一系列的倫理風(fēng)險。一方面,生成式人工智能的類人屬性不斷增強(qiáng),威脅著教育者的主導(dǎo)地位,削弱了其道德權(quán)威,這導(dǎo)致了師生之間情感遮蔽與關(guān)系疏離。生成式人工智能賦能思想政治教育的出發(fā)點(diǎn)在于“協(xié)同育人”,但生成式人工智能的AR、VR、MR以及ChatGPT等功能應(yīng)用的科技感和吸引力大于教育內(nèi)容本身,ChatGPT-4的推出更是預(yù)示著其可能具備改造人類思想和創(chuàng)造的能力,形成人工智能超越專業(yè)化和大眾化的趨勢,甚至可能在某些方面替代人類[14]。這種生成式人工智能應(yīng)用的“超智慧”屬性與教育者自身有限的教學(xué)能力形成了鮮明對比,教育對象的主體自覺性不斷增強(qiáng),對教育者的管理和教學(xué)方式心生抵觸,不利于和諧師生關(guān)系的構(gòu)建。另一方面,技術(shù)發(fā)展的背后不僅是科研的推動,還有巨大的資本與權(quán)力的加持。海德格爾曾指出,“現(xiàn)代技術(shù)業(yè)已不是中立中性的,它架構(gòu)式地滲透、彌散、影響,甚至操控人的現(xiàn)代生活”[15]。當(dāng)生成式人工智能算法程序被資本操控、數(shù)據(jù)庫被入侵篡改,科技向善將無法得到保證。思想政治教育作為社會主義精神文明建設(shè)的中心環(huán)節(jié),在與生成式人工智能相融合的過程中,要警惕其“類主體性”,必須牢牢把握思想政治教育的正確方向。

(四)技術(shù)發(fā)展的難以預(yù)測性與風(fēng)險認(rèn)知的有限性相制約

生成式人工智能依賴于海量的數(shù)據(jù)和強(qiáng)大的算法系統(tǒng)作用于思想政治教育的教育者和教育對象,有效提高了教育對象的學(xué)習(xí)效率,大大降低了教育者的勞動強(qiáng)度。近年來,人工智能被越來越多地應(yīng)用于思想政治教育活動中,其技術(shù)更新也越來越快。但是,由于主觀因素和現(xiàn)實(shí)條件的限制,教育者、教育對象以及技術(shù)人員等應(yīng)用主體對其潛在倫理風(fēng)險的認(rèn)知卻是有限的,這也是導(dǎo)致倫理風(fēng)險的重要原因之一。

一方面,算法作為生成式人工智能的技術(shù)核心之一,其本質(zhì)是一種方法或步驟。算法本身具有一定的自主性,這種自主性表現(xiàn)為它具備深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的能力。深度學(xué)習(xí)表示算法已經(jīng)能夠“獨(dú)立地將簡單的概念合并,從數(shù)據(jù)出發(fā)創(chuàng)建抽象的模型”[16]。這表明只要數(shù)據(jù)足夠,算法就可以自己創(chuàng)建和修改模型。強(qiáng)化學(xué)習(xí)則是指算法在運(yùn)用數(shù)據(jù)的同時,還可以產(chǎn)生新的數(shù)據(jù)并從中進(jìn)行學(xué)習(xí),算法所具備的這兩種能力無疑為人工智能技術(shù)的發(fā)展帶來了更多的可能性和難以預(yù)測性。更重要的是,算法以代碼的形式出現(xiàn),難以轉(zhuǎn)化為常人能夠理解的語言文字,相關(guān)應(yīng)用主體無法明確掌握算法的意圖,更無法判斷生成式人工智能技術(shù)背后的決策邏輯和責(zé)任歸屬,這就導(dǎo)致了“算法黑箱”的出現(xiàn)。

另一方面,相關(guān)應(yīng)用主體對生成式人工智能賦能思想政治教育的風(fēng)險認(rèn)知是有限的。當(dāng)前,大量思政教育工作者積極響應(yīng)“教育數(shù)字化”的要求,努力“入網(wǎng)、入圈”。但由于人工智能與思想政治教育本身是距離較遠(yuǎn)的兩個學(xué)科,教育者對生成式人工智能的算法運(yùn)行規(guī)則并不十分了解,同樣地,人工智能的相關(guān)研發(fā)設(shè)計人員對思想政治教育的相關(guān)知識和要求也未必了解,二者均缺乏對技術(shù)倫理的整體觀照。這就使得不同的應(yīng)用主體之間出現(xiàn)巨大的隔閡,對生成式人工智能與思想政治教育合力育人過程中的倫理風(fēng)險認(rèn)知不足。

生成式人工智能賦能思想政治教育本應(yīng)是相互融合、協(xié)同育人的過程,但由于技術(shù)發(fā)展的難以預(yù)測性和相關(guān)人員對風(fēng)險認(rèn)知的有限性相互制約,致使在教育實(shí)踐的過程中出現(xiàn)多種倫理風(fēng)險,阻礙了二者的進(jìn)一步融合發(fā)展。

三、生成式人工智能賦能思想政治教育倫理風(fēng)險的超越路徑

消解生成式人工智能賦能思想政治教育所引發(fā)的倫理風(fēng)險是推動思想政治教育智能化發(fā)展的重要條件之一。面對飛速發(fā)展的人工智能技術(shù),需要正確把握二者結(jié)合的特點(diǎn)和規(guī)律,堅持育人為本,牢牢把握思想政治教育的主線,促進(jìn)價值理性和工具理性的協(xié)調(diào)發(fā)展,建立起相關(guān)法律保障機(jī)制,以期實(shí)現(xiàn)對生成式人工智能賦能思想政治教育倫理風(fēng)險的超越。

(一)堅持育人為本和技術(shù)為用

生成式人工智能賦能思想政治教育是推動思想政治教育創(chuàng)新發(fā)展的重要方式,最終目標(biāo)是使人們實(shí)現(xiàn)思想上的廣泛認(rèn)同、道德上的良好養(yǎng)成以及行為上的篤實(shí)好學(xué)。要使人工智能技術(shù)真正為思想政治教育賦能增效,需要從生成式人工智能技術(shù)和思想政治教育規(guī)律二者之間的邏輯關(guān)系出發(fā),努力做到育人為本和技術(shù)為用相結(jié)合。

一方面,從學(xué)科立場和屬性出發(fā),明確人工智能賦能思想政治教育的價值導(dǎo)向。黨的二十大報告指出:“馬克思主義是我們立黨興國、興黨興國的根本指導(dǎo)思想。實(shí)踐告訴我們中國共產(chǎn)黨為什么能,中國特色社會主義為什好,歸根到底是馬克思主義行,是中國化的馬克思主義行?！盵17]新時代背景下的思想政治教育,要始終堅持馬克思主義的理論指導(dǎo),以追求人的全面發(fā)展和落實(shí)立德樹人的根本教育任務(wù)為主線,明確技術(shù)為用、育人為本的價值導(dǎo)向。思想政治教育本質(zhì)上是意識形態(tài)的教化,應(yīng)在教育過程中不斷提高人的思想指導(dǎo)的素質(zhì),促進(jìn)人與人、人與自然、人與社會的和諧健康發(fā)展,一切技術(shù)最終都應(yīng)該回歸到這一根本。

另一方面,反思生成式人工智能與思想政治教育結(jié)合的泛化趨勢,明確二者之間的結(jié)合限度。技術(shù)背后的復(fù)雜性遠(yuǎn)超人們的想象,若毫無限制地將其用于思想政治教育領(lǐng)域,勢必會威脅到意識形態(tài)領(lǐng)域的安全。因此,要堅持以習(xí)近平總書記關(guān)于人工智能和思想政治教育的相關(guān)論述為遵循,明確思想政治教育智能化的倫理界限和適用范圍,發(fā)揮生成式人工智能在構(gòu)建智慧教室、精準(zhǔn)畫像以及學(xué)情分析等方面的輔助作用,提升教育的實(shí)效性,在涉及道德養(yǎng)成以及價值判斷等方面,對生成式人工智能的技術(shù)標(biāo)準(zhǔn)以及相關(guān)的算法邏輯做出規(guī)范,必要時甚至可放棄人工智能技術(shù),避免思想政治教育被技術(shù)所綁架。

(二)堅持價值理性和工具理性

人工智能技術(shù)的工具理性與思想政治教育的價值理性并非是絕對對立的,在思想政治教育創(chuàng)新發(fā)展中促進(jìn)二者同向同行是教育現(xiàn)代化發(fā)展、數(shù)字化發(fā)展的題中應(yīng)有之義。從生成式人工智能賦能思想政治教育所帶來的倫理風(fēng)險來看,人工智能與思想政治教育的結(jié)合并不是簡單的疊加,而是既要遵循人工智能技術(shù)倫理的一般性原則,又要重視思想政治教育自身的發(fā)展規(guī)律,二者相互協(xié)調(diào),以促成其合理性的實(shí)現(xiàn)。

首先,要尊重思想政治教育的規(guī)律。思想政治教育規(guī)律是“思想政治教育活動在其運(yùn)動發(fā)展過程中內(nèi)在的、本質(zhì)的、必然的聯(lián)系”[7]119。在生成式人工智能賦能思想政治教育的過程中,要錨定人工智能在思想政治教育中的價值定位,實(shí)現(xiàn)技術(shù)本位到人之本位的轉(zhuǎn)變、由人到機(jī)的轉(zhuǎn)變和由師至生的轉(zhuǎn)變。依托人工智能,“為了人、發(fā)展人、服務(wù)人”的價值邏輯將思想政治教育對智能技術(shù)的依賴轉(zhuǎn)變?yōu)榻枇χ悄芗夹g(shù)回歸技術(shù)服務(wù)于促進(jìn)人全面發(fā)展的價值理性,引領(lǐng)人工智能技術(shù)的持久發(fā)展。

其次,應(yīng)以辯證的眼光看待生成式人工智能工具理性與思想政治教育價值理性的關(guān)系。對教育效率的追求應(yīng)該以育人為前提條件,同時更關(guān)注教育價值的體現(xiàn)。教育主體要用馬克思主義的世界觀和方法論來評判生成式人工智能之于思想政治教育的利和弊,以社會主義核心價值觀不斷優(yōu)化人工智能算法系統(tǒng)“內(nèi)嵌式規(guī)則”的倫理取向,有效防范工具理性在思想政治教育領(lǐng)域內(nèi)的霸權(quán)。

最后,要減少“冷”的工具理性,增加“暖”的價值理性。隨著生成式人工智能賦能思想政治教育的強(qiáng)度不斷攀升,思想政治教育本身所具有的價值理性逐漸被人工智能的工具理性所掩蓋,將教育對象“囚禁”在智能工具的陷阱之中。思想政治教育是有溫度的教育,既要以理服人,又要以情動人,在教學(xué)過程中不僅要利用人工智能“傳道授業(yè)解惑”,而且要給予學(xué)生充分的情感關(guān)懷,主動與學(xué)生溝通交流,建立起和諧的師生關(guān)系,最終實(shí)現(xiàn)思想政治教育的價值旨?xì)w。

(三)推動技術(shù)創(chuàng)新和個體賦能

生成式人工智能深度賦能思想政治教育,關(guān)鍵點(diǎn)在于“賦”?，F(xiàn)有的教學(xué)實(shí)踐中,生成式人工智能與思想政治教育的關(guān)聯(lián)更多體現(xiàn)在智能獲取教育數(shù)據(jù)層面,通過智能技術(shù)及傳感設(shè)備等實(shí)時捕捉與識別教育教學(xué)中的多模態(tài)信息,從而幫助教師開展學(xué)情診斷和教學(xué)評估[18]。在此基礎(chǔ)上,生成式人工智能有選擇性地向教育對象推薦相關(guān)信息。需要注意的是,沒有經(jīng)過干預(yù)的人工智能技術(shù)在一定程度上會產(chǎn)生信息“繭房”與傳播偏好的風(fēng)險,使得“賦”能成為“負(fù)”能,不利于思想政治教育核心價值的傳播。這就要求人工智能技術(shù)越是進(jìn)步,越應(yīng)該對教育對象的主體性和價值性保持高度的自覺和肯定,推動人工智能技術(shù)創(chuàng)新與教育對象個體賦能相統(tǒng)一。

一方面,增強(qiáng)教育者與教育對象的主體意識,提高其個體賦能,明確人工智能技術(shù)是“輔助”性的角色。人工智能在思想政治教育領(lǐng)域展示了強(qiáng)大的數(shù)據(jù)處理與分析能力和算法優(yōu)勢,這些能力和優(yōu)勢也是推動思想政治教育創(chuàng)新發(fā)展不可或缺的重要因素。但歸根結(jié)底,技術(shù)的發(fā)展最終還是要落腳到現(xiàn)實(shí)的人。為此,在人工智能與思想政治教育協(xié)同育人的過程中,要加強(qiáng)對教育對象人工智能倫理知識的教育,使學(xué)生充分認(rèn)識到人工智能的工作機(jī)理,提高其信息辨別的能力,避免信息“繭房”的產(chǎn)生,養(yǎng)成正確的科技觀。同時,教育者要努力提升自身的人工智能素養(yǎng),正確認(rèn)識自身與人工智能的協(xié)同合作關(guān)系,在實(shí)踐過程中自覺遵守相關(guān)倫理規(guī)范,破除“唯數(shù)據(jù)論”,積極關(guān)注教育對象的內(nèi)心生活并設(shè)計相關(guān)教育話題對其進(jìn)行引導(dǎo),切實(shí)發(fā)揮教育者的主導(dǎo)作用。

另一方面,加強(qiáng)對人工智能技術(shù)性的糾偏方法研究,促進(jìn)技術(shù)創(chuàng)新發(fā)展,實(shí)現(xiàn)技術(shù)突圍,提高育人的精準(zhǔn)度與智能化。從現(xiàn)實(shí)效果來看,無論是ChatGPT還是“文心一言”,目前它們作為生成式AI的代表性產(chǎn)品,還未能達(dá)到令人滿意的水平,其功能僅為可以便捷地為我們補(bǔ)充一些知識、提供一些經(jīng)過整合與濃縮的資料[19]。因此,生成式人工智能技術(shù)仍需要進(jìn)一步改進(jìn)和完善。在樣本數(shù)據(jù)收集方面,要進(jìn)一步考慮樣本數(shù)據(jù)的結(jié)構(gòu)和分布,盡可能選取更具代表性和時效性的數(shù)據(jù)進(jìn)行分析,降低數(shù)據(jù)處理存在偏差的風(fēng)險。在算法模型的編制過程中,應(yīng)充分考慮教育對象全面發(fā)展的目標(biāo)需求,提高社會主流價值觀和優(yōu)質(zhì)思想政治教育內(nèi)容賦值在算法優(yōu)先級里面的比重。要設(shè)置反向推薦功能,在向用戶推送“感興趣”選項的同時也推送“不感興趣”的內(nèi)容,以彌補(bǔ)算法個性化定制所造成的知識領(lǐng)域過窄的問題。

(四)建立倫理保障機(jī)制和提高相關(guān)人員倫理素養(yǎng)

生成式人工智能高速發(fā)展,已經(jīng)覆蓋了人們社會生活的大部分領(lǐng)域,但只有在具備人工智能技術(shù)可追責(zé)、可處罰的前提下,才能真正符合其為人類服務(wù)的價值邏輯。以ChatGPT為典型代表和轉(zhuǎn)折點(diǎn),未來所開發(fā)設(shè)計的各類人工智能產(chǎn)品和服務(wù)越來越具有類人的思維和行為,這就要求其更嚴(yán)格地遵守人類的基本倫理規(guī)范[19]。具體到思想政治教育領(lǐng)域,要保證生成式人工智能真正為思想政治教育賦能增效,防止其在實(shí)踐過程中價值被扭曲和倫理被異化,必須以法律為準(zhǔn)繩,明確底線要求,健全倫理保障機(jī)制。

一方面,要做好頂層設(shè)計,完善相關(guān)法律法規(guī)。通過法律化解風(fēng)險、吸納風(fēng)險,將風(fēng)險社會置于法治社會的背景之中,即對智能革命時代的法律制度乃至整個社會規(guī)范進(jìn)行新的建構(gòu)[20]。國家頂層設(shè)計要注重建立健全相關(guān)的法律法規(guī)體系,對生成式人工智能所傳播的內(nèi)容進(jìn)行監(jiān)控和過濾,明確對相關(guān)的責(zé)任主體的界定、隱私保護(hù)以及信息分發(fā)準(zhǔn)則等法律條例,將責(zé)任真正落實(shí)到思想政治教育相關(guān)主體上。要在遵守法律和道德的前提下推進(jìn)算法更智能化、人性化的研發(fā),為生成式人工智能進(jìn)一步賦能思想政治教育提供強(qiáng)大的制度保障。

另一方面,要提升生成式人工智能開發(fā)和應(yīng)用主體的倫理素養(yǎng)和道德素質(zhì)。無論是思想政治教育者、教育對象,還是相關(guān)的管理和技術(shù)人員,必須在生成式人工智能賦能思想政治教育的過程中貫徹恪守技術(shù)倫理,遵守技術(shù)應(yīng)用的倫理規(guī)范,構(gòu)建良好的倫理生態(tài)。特別要培養(yǎng)人工智能技術(shù)人員對倫理風(fēng)險的敏感度,積極鼓勵其與思想政治教育者通力合作,重視應(yīng)用主體對人工智能的意見和建議,設(shè)計更適用于思想政治教育的算法模型。要全面客觀地評價生成式人工智能技術(shù)在思想政治教育過程中的作用和意義,破除人們對人工智能的迷信,達(dá)成“技術(shù)向善”“技術(shù)為我所用”的終極目的。