摘 要：生成式人工智能作為智能技術(shù)迭代演進(jìn)的最新產(chǎn)物，憑借自然語(yǔ)言理解能力和文本生成能力為高校思政課數(shù)字化發(fā)展賦予了新的可能與空間。然而，生成式人工智能在賦能高校思政課的實(shí)踐中容易衍生出主體性失落、教師話語(yǔ)權(quán)旁落、意識(shí)形態(tài)安全和信息安全等多重風(fēng)險(xiǎn)，究其原因主要是教育主體的智能素養(yǎng)不足、算法“黑箱”和算法歧視、管理制度和問責(zé)機(jī)制缺失等因素而導(dǎo)致。為了有效規(guī)避和應(yīng)對(duì)生成式人工智能賦能高校思政課的風(fēng)險(xiǎn)，實(shí)現(xiàn)高校思政課高質(zhì)量發(fā)展，需要從高校、教育主體、教學(xué)話語(yǔ)范式、智能檢測(cè)監(jiān)控技術(shù)、管理制度和問責(zé)機(jī)制等方面共同發(fā)力。

關(guān)鍵詞：生成式人工智能；高校思政課；風(fēng)險(xiǎn)；規(guī)避

DOI：10.15938/j.cnki.iper.2024.03.014

中圖分類號(hào)：G641

文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1672-9749（2024）03－0094－07

習(xí)近平總書記在黨的二十大報(bào)告中強(qiáng)調(diào)，“推進(jìn)教育數(shù)字化，建設(shè)全民終身學(xué)習(xí)的學(xué)習(xí)型社會(huì)、學(xué)習(xí)型大國(guó)?！?sup>［1^］數(shù)字技術(shù)融入高校思想政治理論課（以下簡(jiǎn)稱“高校思政課”），是契合智能化、數(shù)字化時(shí)代社會(huì)發(fā)展新形勢(shì)的應(yīng)然要求，也是推進(jìn)高校思政課數(shù)字化建設(shè)、有效落實(shí)立德樹人根本任務(wù)的應(yīng)有之義。2022年，美國(guó)OpenAI公司開發(fā)的生成式人工智能——ChatGPT作為數(shù)字技術(shù)迭代演進(jìn)的最新產(chǎn)物，掀起了全球生成式人工智能的熱潮，之后百度、阿里云等公司也相繼開發(fā)和發(fā)布了文心一言、通義千問等生成式人工智能產(chǎn)品。相較于傳統(tǒng)人工智能僅對(duì)數(shù)字敏感，生成式人工智能對(duì)于文字的敏感度更高，它具有強(qiáng)智能化和強(qiáng)擴(kuò)展性：強(qiáng)智能化主要表現(xiàn)為生成式人工智能可以在人機(jī)對(duì)話中實(shí)時(shí)生成用戶需要的信息、解答用戶的問題；強(qiáng)擴(kuò)展性主要體現(xiàn)為生成式人工智能可以通過不斷增加大規(guī)模預(yù)訓(xùn)練數(shù)據(jù)和模型層數(shù)來提升性能以解決更多問題。^［2］生成式人工智能自身卓越的自然語(yǔ)言理解和文本生成能力，有望成為高校思政課數(shù)字化建設(shè)、高質(zhì)量發(fā)展的新動(dòng)力。

ChatGPT等生成式人工智能一經(jīng)推出，學(xué)者們就敏銳地意識(shí)到它在教育領(lǐng)域的影響，并從不同視域?qū)Υ藛栴}進(jìn)行了深入探討。戴嶺^［3］、馮雨奐^［4］、黃榮懷^［5］等人聚焦整個(gè)教育領(lǐng)域，從應(yīng)用價(jià)值、潛在風(fēng)險(xiǎn)、治理路徑等維度分析了ChatGPT對(duì)教育領(lǐng)域的影響。相較于從整個(gè)教育領(lǐng)域進(jìn)行探究，一些學(xué)者立足于思想政治教育這一視角，研究了ChatGPT等生成式人工智能賦能思想政治教育的學(xué)理基礎(chǔ)、價(jià)值意義和風(fēng)險(xiǎn)挑戰(zhàn)。一是在學(xué)理基礎(chǔ)上，黃欣榮等人^［6］剖析了ChatGPT賦能思想政治教育的哲學(xué)基礎(chǔ)；二是在價(jià)值意義上，燕連福^［7］、高雪梅^［8］等人從教育者、教育內(nèi)容、教育方式、教育模式等多個(gè)層面出發(fā)，深入探索了ChatGPT等生成式人工智能賦能思想政治教育的價(jià)值意義；三是在風(fēng)險(xiǎn)挑戰(zhàn)上，任鳳琴^［9］、常宴會(huì)^［10］、崔聰^［11］等人從倫理風(fēng)險(xiǎn)、意識(shí)形態(tài)安全風(fēng)險(xiǎn)、教育主體式微等方面進(jìn)行了闡述。綜上可見，當(dāng)前學(xué)者圍繞價(jià)值、風(fēng)險(xiǎn)、路徑等維度對(duì)生成式人工智能在思想政治教育方面的影響展開了深入探索，但是關(guān)于生成式人工智能在高校思政課的研究還存有很多有待研究的領(lǐng)域?；诖耍疚膰@風(fēng)險(xiǎn)樣態(tài)、風(fēng)險(xiǎn)生成因素、風(fēng)險(xiǎn)規(guī)避路徑等視域探討生成式人工智能對(duì)高校思政課的影響及應(yīng)對(duì)，闡述風(fēng)險(xiǎn)的表現(xiàn)、風(fēng)險(xiǎn)生成的主客體緣由以及規(guī)避風(fēng)險(xiǎn)的具體路徑。

一、生成式人工智能賦能高校思政課的風(fēng)險(xiǎn)樣態(tài)

高校思政課是向大學(xué)生傳播主流意識(shí)形態(tài)的主渠道、主陣地，生成式人工智能雖然可能成為高校思政課創(chuàng)新發(fā)展的新引擎，但是實(shí)踐中也易成為一種異己的力量，衍生出主體性失落、話語(yǔ)權(quán)旁落、意識(shí)形態(tài)安全和信息安全等多重風(fēng)險(xiǎn)。

1.主體性失落風(fēng)險(xiǎn)

生成式人工智能嵌入高校思政課雖然能夠促進(jìn)思政課數(shù)字化建設(shè)和高質(zhì)量發(fā)展，但是也隱匿著技術(shù)引誘、異化教育者和教育對(duì)象的可能性，引發(fā)主體性失落、迷失的風(fēng)險(xiǎn)，正如馬克思指出，科學(xué)技術(shù)有時(shí)也“表現(xiàn)為異己的、敵對(duì)的和統(tǒng)治的權(quán)力”^［12］。

一方面，生成式人工智能的高效率特質(zhì)不僅會(huì)誘發(fā)高校思政課教師對(duì)自身價(jià)值和地位的恐慌，也會(huì)導(dǎo)致高校思政課教師形成技術(shù)至上的觀念，放棄自身在思政課教學(xué)中的能動(dòng)性。生成式人工智能可以依據(jù)高校思政課教師的教學(xué)要求，形成邏輯清晰、指向鮮明的教學(xué)方案，為教師提供教學(xué)啟發(fā)，輔助教師備課。^［13］譬如，當(dāng)高校思政課教師在文心一言系統(tǒng)中輸入“圍繞新時(shí)代大學(xué)生人生價(jià)值觀的養(yǎng)成設(shè)計(jì)一個(gè)教學(xué)方案”時(shí)，系統(tǒng)會(huì)在幾十秒內(nèi)快速生成一個(gè)基礎(chǔ)方案，從教學(xué)目標(biāo)、教學(xué)內(nèi)容、教學(xué)方法、教學(xué)安排和教學(xué)評(píng)估等方面提供邏輯合理、內(nèi)容適切的教學(xué)方案。正因如此，生成式人工智能的高效率特質(zhì)會(huì)引發(fā)部分高校思政課教師對(duì)智能技術(shù)的恐懼，擔(dān)憂自身被淘汰而不斷否定自身的價(jià)值與地位。此外，生成式人工智能也容易造成部分高校思政課教師對(duì)智能技術(shù)的膜拜，喪失對(duì)其進(jìn)行理性審思和批判的能力。高校思政課教師可能不再根據(jù)大學(xué)生的學(xué)習(xí)習(xí)慣、需求來設(shè)計(jì)教學(xué)方案，而只是一味服從生成式人工智能提供的教學(xué)方案。久而久之，高校思政課教師的專業(yè)敏感度和人文感知技能會(huì)逐漸被生成式人工智能湮沒，教師在高校思政課教育中的作用逐漸被弱化，教師日益淪為思政課教學(xué)的“旁觀者”和非核心參與者，思政課教學(xué)的主導(dǎo)權(quán)也逐漸讓位于生成式人工智能，教師的主體性會(huì)被無情地消解，成為生成式人工智能的“附庸”。

另一方面，生成式人工智能的語(yǔ)言理解和文本生成能力可能會(huì)抑制大學(xué)生主體性的發(fā)展，并阻礙大學(xué)生政治素養(yǎng)和思想道德水平的提升。以生成式人工智能文心一言為例，文心一言低門檻的網(wǎng)絡(luò)化使用使得大學(xué)生只需要在聊天框中輸入需求，文心一言就會(huì)憑借自身出色的語(yǔ)言理解和文本生成能力，在幾十秒內(nèi)快速回復(fù)大學(xué)生的需求，提供令人信服的答案。相比于高校專業(yè)課程側(cè)重于培養(yǎng)大學(xué)生的專業(yè)知識(shí)和技能，高校思政課更加注重對(duì)大學(xué)生的政治引導(dǎo)、價(jià)值引領(lǐng)和品德塑造。為此，高校思政課平時(shí)和期末的考核大多都以撰寫課程論文為主，主要是讓學(xué)生圍繞人生價(jià)值、政治歷史、形勢(shì)政策等方面發(fā)表自己的感悟，并撰寫相關(guān)的論文，以此方便思政課教師考察大學(xué)生的政治覺悟和思想水平。因此，相比于專業(yè)課程中的實(shí)驗(yàn)操作等環(huán)節(jié)無法讓文心一言代以實(shí)施，文心一言可以在短時(shí)間內(nèi)幫助大學(xué)生快速完成思政課課程作業(yè)和課程論文。由此，大學(xué)生一旦過度依賴文心一言等生成式人工智能，就可能會(huì)滋長(zhǎng)惰性，滿足于生成式人工智能提供的現(xiàn)有答案，長(zhǎng)此以往會(huì)逐漸失去個(gè)人對(duì)政治歷史、人生價(jià)值和時(shí)代發(fā)展方面的認(rèn)知力、判斷力和洞察力，這無疑會(huì)給大學(xué)生政治素養(yǎng)和思想道德素養(yǎng)的提升帶來挑戰(zhàn)。

2.話語(yǔ)權(quán)旁落風(fēng)險(xiǎn)

思政課教學(xué)話語(yǔ)是高校思政課教師向大學(xué)生傳遞思想觀念、政治理論的載體，事關(guān)高校思政課教學(xué)的質(zhì)量，更關(guān)系到思政課立德樹人目標(biāo)的實(shí)現(xiàn)效果。生成式人工智能在賦能高校思政課、重構(gòu)思政課教學(xué)生態(tài)的過程中，思政課教師的話語(yǔ)權(quán)也不可避免地遇到重大風(fēng)險(xiǎn)和挑戰(zhàn)：話語(yǔ)主導(dǎo)權(quán)被削弱、話語(yǔ)認(rèn)同度降低和影響力減弱。

一方面，生成式人工智能帶來的海量教育資源沖擊了教育者的信息資源優(yōu)勢(shì)，削弱了高校思政課教師的話語(yǔ)主導(dǎo)權(quán)。傳統(tǒng)高校思政課教學(xué)環(huán)境下，教育資源主要依托紙質(zhì)資料，高校思政課教師在信息資源的擁有上具有絕對(duì)優(yōu)勢(shì)，其話語(yǔ)權(quán)威更易得到大學(xué)生的認(rèn)可。生成式人工智能實(shí)現(xiàn)了海量思政教育資源的共享與傳播，大學(xué)生可以自主通過文心一言、通義千問等生成式人工智能獲取教育資源。由此，大學(xué)生從信息的被動(dòng)接受者轉(zhuǎn)化為了信息的主動(dòng)選擇者，信息不對(duì)稱的局面被打破，教育者不再擁有信息優(yōu)先權(quán)的絕對(duì)優(yōu)勢(shì)，這在一定程度上削弱了高校思政課教師的教學(xué)地位，弱化了高校思政課教師的話語(yǔ)主導(dǎo)權(quán)。

另一方面，生成式人工智能的個(gè)性對(duì)話系統(tǒng)更加契合大學(xué)生的話語(yǔ)偏好，以致高校思政課教師的話語(yǔ)認(rèn)同度降低，影響力削弱。以生成式人工智能通義千問為例，通義千問可以與大學(xué)生進(jìn)行多輪對(duì)話，大學(xué)生只需要在聊天對(duì)話框中輸入自身的需求，通義千問就可以在幾十秒之內(nèi)快速生成大學(xué)生所需要的信息，如果大學(xué)生對(duì)此解答不滿意，大學(xué)生在聊天框中可以繼續(xù)輸入自身的需求，通義千問會(huì)繼續(xù)修改完善。^［14］通義千問的個(gè)性化對(duì)話系統(tǒng)能夠精準(zhǔn)理解大學(xué)生的需求，在對(duì)話中實(shí)時(shí)解答大學(xué)生的困惑，迎合了大學(xué)生個(gè)性化、互動(dòng)式的話語(yǔ)偏好，更易獲得大學(xué)生的青睞。然而，當(dāng)前部分高校思政課教師還存在數(shù)字化思政育人意識(shí)不夠、數(shù)字化思政技能本領(lǐng)不足的現(xiàn)象，存在與文心一言、通義千問等生成式人工智能零和思維，往往固守教材嚴(yán)肅、深邃的文本語(yǔ)言，以及“灌輸式”“一言堂”的話語(yǔ)表述形式。高校思政課教師話語(yǔ)內(nèi)容缺乏親和力和趣味性，話語(yǔ)形式缺乏互動(dòng)性，思政課教學(xué)話語(yǔ)無法滿足新時(shí)代大學(xué)生群體對(duì)趣味性語(yǔ)言和對(duì)話式話語(yǔ)形式的偏好，教育者和教育對(duì)象之間的話語(yǔ)間距被拉大，致使高校思政課教師的話語(yǔ)認(rèn)同度降低，話語(yǔ)影響力削弱。

3.意識(shí)形態(tài)安全風(fēng)險(xiǎn)

生成式人工智能作為具備語(yǔ)言處理能力的技術(shù)，它所提供的文本內(nèi)容主要源自已有的數(shù)據(jù)庫(kù)，倘若數(shù)據(jù)庫(kù)中的信息有誤，那么生成式人工智能生成的信息極易存在欺騙性和誤導(dǎo)性元素。因此，如果生成式人工智能輸出的教學(xué)內(nèi)容與主流意識(shí)形態(tài)相背離，高校思政課教師又沒有及時(shí)發(fā)現(xiàn)和匡正，那么生成式人工智能賦能的高校思政課不僅違背了高校思政課政治性、學(xué)理性、價(jià)值性的屬性，而且也難以發(fā)揮高校思政課的政治引導(dǎo)、價(jià)值引領(lǐng)和品德塑造等功能。同時(shí)，生成式人工智能輸出的具有意識(shí)形態(tài)偏見的教學(xué)內(nèi)容極有可能誤導(dǎo)大學(xué)生的思維和思想，削弱我國(guó)主流價(jià)值觀對(duì)于大學(xué)生的吸引力，誘發(fā)大學(xué)生對(duì)主流意識(shí)形態(tài)的情感疏離，最終導(dǎo)致大學(xué)生的價(jià)值判斷日趨模糊，出現(xiàn)價(jià)值觀錯(cuò)位。

4.信息安全風(fēng)險(xiǎn)

生成式人工智能賦能高校思政課以教育者和教育對(duì)象大量的信息數(shù)據(jù)為支撐，這就意味著教育者和教育對(duì)象要將某些個(gè)人隱私有意識(shí)地“泄露”給生成式人工智能。^［15］因?yàn)橹挥姓莆沾罅康男畔?shù)據(jù)，生成式人工智能方能通過對(duì)這些數(shù)據(jù)的分析和預(yù)測(cè)，及時(shí)有效捕捉教育主體的需求與動(dòng)態(tài)，以此促進(jìn)高校思政課的個(gè)性化、精準(zhǔn)化教學(xué)。然而，生成式人工智能在信息的獲取、使用方面存在“黑箱”。^［16］生成式人工智能在存儲(chǔ)、分析信息數(shù)據(jù)的過程中，教育主體的隱私數(shù)據(jù)難以保證不被二次利用，這很有可能造成教育者和教育對(duì)象的隱私泄露等信息安全風(fēng)險(xiǎn)。

二、生成式人工智能賦能高校思政課的風(fēng)險(xiǎn)生成因素

生成式人工智能嵌入高校思政課形成的風(fēng)險(xiǎn)是多重因素綜合作用的結(jié)果，既有教育主體智能素養(yǎng)不足的內(nèi)在因素，又有算法“黑箱”與算法歧視、管理制度和問責(zé)機(jī)制缺失等外在因素。

1.教育主體智能素養(yǎng)不足：風(fēng)險(xiǎn)防范意識(shí)和能力薄弱

生成式人工智能賦能高校思政課引發(fā)的風(fēng)險(xiǎn)與教育主體的智能知識(shí)、能力和倫理意識(shí)等智能素養(yǎng)緊密相關(guān)，教育主體智能素養(yǎng)的不足導(dǎo)致他們的風(fēng)險(xiǎn)防范意識(shí)和能力薄弱。

一方面，高校思政課教師智能素養(yǎng)不足。一是智能知識(shí)薄弱，風(fēng)險(xiǎn)識(shí)別不足。高校思政課教師大多來自人文社會(huì)科學(xué)專業(yè)，專業(yè)背景主要集中在法學(xué)、哲學(xué)、政治學(xué)、歷史學(xué)等領(lǐng)域，缺乏人工智能相關(guān)的知識(shí)背景，如計(jì)算機(jī)科學(xué)、機(jī)器學(xué)習(xí)、人工智能倫理等，以致難以深入了解生成式人工智能的原理、應(yīng)用及其對(duì)高校思政課的復(fù)雜影響，無法有效識(shí)別生成式人工智能賦能高校思政課的潛在風(fēng)險(xiǎn)。二是智能技術(shù)應(yīng)用能力不足，風(fēng)險(xiǎn)應(yīng)對(duì)不力。一些高校思政課教師雖然聽說過通義千問、文心一言等生成式人工智能，并且部分思政課教師甚至已經(jīng)接觸和使用過這些技術(shù)。然而，一些高校思政課教師在利用生成式人工智能創(chuàng)新、改進(jìn)思政課教學(xué)方式時(shí)，應(yīng)用能力不佳、操作不熟練、風(fēng)險(xiǎn)防控能力不高，在遇到技術(shù)故障、信息數(shù)據(jù)泄露等風(fēng)險(xiǎn)時(shí)無法有效應(yīng)對(duì)。三是智能倫理意識(shí)淡薄，風(fēng)險(xiǎn)規(guī)避意識(shí)和責(zé)任意識(shí)不強(qiáng)。部分高校思政課教師在利用生成式人工智能輔助思政課教學(xué)的過程中，缺乏倫理考量，對(duì)智能技術(shù)賦能高校思政課可能引發(fā)的倫理問題，如數(shù)據(jù)隱私、算法公正性等，缺乏敏感度和警惕性。另外，部分高校思政課教師對(duì)于生成式人工智能在思政課教學(xué)中引發(fā)的風(fēng)險(xiǎn)，采取消極應(yīng)對(duì)的態(tài)度，并未意識(shí)到自身對(duì)于防范化解風(fēng)險(xiǎn)的責(zé)任和義務(wù)。

另一方面，大學(xué)生的智能素養(yǎng)不足。高校思政課的教學(xué)對(duì)象是全體大學(xué)生，教育對(duì)象專業(yè)的不同導(dǎo)致大學(xué)生的智能素養(yǎng)也呈現(xiàn)出差異化，除了理工科大學(xué)生的智能素養(yǎng)較強(qiáng)，而很多大學(xué)生并未學(xué)習(xí)過生成式人工智能相關(guān)的課程，智能知識(shí)儲(chǔ)備匱乏，智能風(fēng)險(xiǎn)規(guī)避意識(shí)和應(yīng)對(duì)能力不足。大學(xué)生難以理解生成式人工智能背后的運(yùn)作邏輯和推送機(jī)制，在借助生成式人工智能搜集思政課學(xué)習(xí)資料、尋求相關(guān)問題解答時(shí)，無法以批判性思維識(shí)別、處理生成式人工智能提供的信息，難以有效辨識(shí)智能技術(shù)生成的信息的真?zhèn)涡?，無法有效評(píng)估智能技術(shù)潛藏的風(fēng)險(xiǎn)。如個(gè)人隱私被侵犯，自身的自主性、能動(dòng)性和創(chuàng)造性被算法禁錮和宰制等問題。

2.技術(shù)規(guī)則和指令的非透明性：算法歧視和算法“黑箱”

算法作為生成式人工智能清晰明確的規(guī)則與指令，是生成式人工智能應(yīng)用和運(yùn)轉(zhuǎn)的根基。然而，算法歧視和算法“黑箱”的存在，使得生成式人工智能應(yīng)用于高校思政課時(shí)，往往會(huì)導(dǎo)致意識(shí)形態(tài)安全風(fēng)險(xiǎn)、教學(xué)評(píng)價(jià)結(jié)果缺乏公正性以及教育主體的主動(dòng)性被削弱等一系列問題。

一方面，算法歧視的存在可能導(dǎo)致生成式人工智能推送的信息具有偏見和誤導(dǎo)性，進(jìn)而引發(fā)意識(shí)形態(tài)安全風(fēng)險(xiǎn)。算法作為一種規(guī)則和指令，本身不具備價(jià)值取向，它的運(yùn)行機(jī)制屬于偏見進(jìn)，則偏見出（Bias In，Bias Out）^［17］的規(guī)律，也即倘若輸入的數(shù)據(jù)具有偏見，那么輸出的結(jié)果也必然富有歧視性。為此，算法或明或暗地嵌入了設(shè)計(jì)主體的價(jià)值觀和意圖，設(shè)計(jì)主體若存在道德失范，往往會(huì)將主觀的偏見植入算法，使得生成式人工智能推送的信息具有偏見和歧視性，這極易誤導(dǎo)大學(xué)生的思想觀念，從而引發(fā)意識(shí)形態(tài)安全風(fēng)險(xiǎn)。

另一方面，算法“黑箱”的存在可能導(dǎo)致高校思政課教學(xué)評(píng)價(jià)結(jié)果的不公正、教育主體的主動(dòng)性和積極性受到抑制等風(fēng)險(xiǎn)。算法“黑箱”主要是指算法給出答案的過程就像是某種“技術(shù)黑箱”，生成式人工智能算法的運(yùn)行、決策過程缺乏透明性和可解釋性，普通人無法準(zhǔn)確理解。^［18］將生成式人工智能應(yīng)用于高校思政課時(shí)，尤其是在評(píng)價(jià)思政課的教學(xué)效果方面，算法主要基于大量歷史數(shù)據(jù)進(jìn)行評(píng)價(jià)，如大學(xué)生的學(xué)習(xí)行為數(shù)據(jù)、思政課教師的教學(xué)內(nèi)容等。然而，大學(xué)生的情感態(tài)度、思政課教師的人格魅力等難以通過簡(jiǎn)單的數(shù)據(jù)來進(jìn)行衡量和評(píng)估，因此算法評(píng)價(jià)可能存在誤解和偏差。此外，高校思政課教師通常難以審查算法的運(yùn)行和決策過程，以致高校思政課教學(xué)評(píng)價(jià)結(jié)果可能會(huì)出現(xiàn)不公正、不準(zhǔn)確的情況，從而在一定程度上會(huì)削弱教育主體的主動(dòng)性和積極性。

3.制度機(jī)制的空?qǐng)觯汗芾碇贫群蛦栘?zé)機(jī)制缺乏

制度和機(jī)制是約束高校思政課教師、大學(xué)生和高校智慧思政教學(xué)平臺(tái)管理服務(wù)人員行為的重要規(guī)范，對(duì)于促進(jìn)生成式人工智能與高校思政課的深度融合和創(chuàng)新發(fā)展至關(guān)重要。當(dāng)前，生成式人工智能嵌入高校思政課還處于初探階段，一些高校尚未建立一套系統(tǒng)完善的管理制度和問責(zé)機(jī)制，以致難以為高校思政課數(shù)字化建設(shè)保駕護(hù)航。

一方面，管理制度的缺失是導(dǎo)致生成式人工智能引發(fā)主體性迷失的重要緣由。當(dāng)前，濫用生成式人工智能引發(fā)的學(xué)術(shù)誠(chéng)信、主體性迷失等引起了一些高校的恐慌，但是一些高校針對(duì)生成式人工智能融入高校思政課尚未建立一套系統(tǒng)、高效的管理制度，尚未明確管理流程和管理規(guī)范，對(duì)于思政課教師、大學(xué)生使用生成式人工智能的范圍也還沒有明確的規(guī)定。同時(shí)，一些高校并未設(shè)立專門的管理部門和安排專職人員來監(jiān)管生成式人工智能在高校思政課中的應(yīng)用。

另一方面，問責(zé)機(jī)制的匱乏是導(dǎo)致生成式人工智能產(chǎn)生信息風(fēng)險(xiǎn)的重要緣由。當(dāng)前，一些高校對(duì)于生成式人工智能融入思政課，尚未建立權(quán)責(zé)明確、懲戒合理的問責(zé)機(jī)制，因而對(duì)信息安全難以形成強(qiáng)有力的保障。然而，生成式人工智能在賦能高校思政課的過程中，在借助大數(shù)據(jù)挖掘大學(xué)生在學(xué)習(xí)平臺(tái)上的瀏覽痕跡時(shí)，會(huì)儲(chǔ)存大量關(guān)于大學(xué)生學(xué)習(xí)特點(diǎn)和思想動(dòng)態(tài)方面的個(gè)人信息數(shù)據(jù)。數(shù)據(jù)的存儲(chǔ)、分析、流通和分享往往涉及高校思政課教師、高校智慧思政教學(xué)平臺(tái)管理服務(wù)人員等不同的責(zé)任主體，問責(zé)機(jī)制的匱乏，使得相關(guān)主體的責(zé)任和義務(wù)缺乏明確的規(guī)定，主體間的責(zé)任邊界不夠明晰，責(zé)任范圍和懲戒措施不明確，以致難以對(duì)個(gè)體行為進(jìn)行有效的約束，無法有效規(guī)避信息安全風(fēng)險(xiǎn)。

三、生成式人工智能賦能高校思政課的風(fēng)險(xiǎn)規(guī)避路徑

生成式人工智能切實(shí)成為高校思政課創(chuàng)新發(fā)展的新引擎，規(guī)避生成式人工智能應(yīng)用于高校思政課的風(fēng)險(xiǎn)，需要從高校、教育主體、教學(xué)話語(yǔ)范式、智能檢測(cè)監(jiān)控技術(shù)、管理制度和問責(zé)機(jī)制等方面共同發(fā)力。

1.實(shí)施智能素養(yǎng)提升工程，提高教育主體的智能素養(yǎng)和風(fēng)險(xiǎn)防范意識(shí)與能力

為了提高教育主體的智能素養(yǎng)，增強(qiáng)教育主體防范、化解生成式人工智能賦能高校思政課風(fēng)險(xiǎn)的意識(shí)與能力，需要從高校、教育主體兩個(gè)層面共同發(fā)力。

一方面，高校要定期開展合理高效的智能素養(yǎng)培訓(xùn)，提高思政課教師和大學(xué)生識(shí)別、規(guī)避相關(guān)風(fēng)險(xiǎn)的意識(shí)與能力。一是定期開展智能知識(shí)培訓(xùn)。高校可以充分利用人工智能專業(yè)教師資源優(yōu)勢(shì)，邀請(qǐng)人工智能專業(yè)相關(guān)教師定期為思政課教師、大學(xué)生開展智能知識(shí)培訓(xùn)課程或者智能知識(shí)相關(guān)專題講座，幫助他們了解生成式人工智能技術(shù)的原理和背后的算法運(yùn)行機(jī)制，以及它在思政課教學(xué)、學(xué)習(xí)中的具體應(yīng)用和潛在風(fēng)險(xiǎn)。二是加強(qiáng)智能技術(shù)應(yīng)用能力培訓(xùn)。高?？梢酝ㄟ^內(nèi)部選拔、外部招聘等形式建立一支智能技術(shù)團(tuán)隊(duì)，定期為思政課教師、大學(xué)生開展相關(guān)智能技術(shù)應(yīng)用培訓(xùn)，幫助他們掌握生成式人工智能應(yīng)用于高校思政課教學(xué)、學(xué)習(xí)的基本操作技能、風(fēng)險(xiǎn)應(yīng)對(duì)方法。三是強(qiáng)化智能倫理教育。高校要定期開展智能風(fēng)險(xiǎn)防范意識(shí)和責(zé)任意識(shí)教育，引導(dǎo)思政課教師、大學(xué)生正確對(duì)待生成式人工智能，既要主動(dòng)接納，發(fā)揮智能技術(shù)在教學(xué)、學(xué)習(xí)中的優(yōu)勢(shì)，又要明確生成式人工智能在思政課教學(xué)、思政課學(xué)習(xí)領(lǐng)域的應(yīng)用范圍，警惕算法“黑箱”和算法歧視可能引發(fā)的風(fēng)險(xiǎn)，強(qiáng)化他們的風(fēng)險(xiǎn)防范意識(shí)和責(zé)任意識(shí)。四是培養(yǎng)批判性思維和問題意識(shí)。高校在培訓(xùn)中可以設(shè)置相關(guān)專題或者引入生成式人工智能應(yīng)用的相關(guān)案例，引導(dǎo)思政課教師、大學(xué)生辯證審視生成式人工智能，審慎把握生成式人工智能的使用界限，鼓勵(lì)他們提出相關(guān)質(zhì)疑，避免盲目崇拜智能技術(shù)，以免在思政課教學(xué)和學(xué)習(xí)過程中喪失自身的主動(dòng)性和能動(dòng)性。

另一方面，教育主體要強(qiáng)化主體自覺，主動(dòng)提升自身的智能素養(yǎng)，強(qiáng)化規(guī)避風(fēng)險(xiǎn)的責(zé)任意識(shí)與能力。一是教育主體要積極閱讀智能技術(shù)相關(guān)的專業(yè)書籍、主動(dòng)參加智能技術(shù)相關(guān)講座和培訓(xùn)課程，學(xué)習(xí)、提高生成式人工智能應(yīng)用于高校思政課學(xué)習(xí)和教學(xué)的方式方法以及風(fēng)險(xiǎn)的識(shí)別與規(guī)避能力。二是高校思政課教師要堅(jiān)持智能技術(shù)為高校思政課鑄魂育人所用的價(jià)值導(dǎo)向，理性處理好教學(xué)內(nèi)容和教學(xué)工具的關(guān)系。高校思政課教師在教育實(shí)踐中要自覺遵循智能技術(shù)應(yīng)用的倫理規(guī)范，明確生成式人工智能在思政課教學(xué)中的適用范圍，根據(jù)課程內(nèi)容和大學(xué)生成才規(guī)律來選配智能技術(shù)，努力規(guī)避生成式人工智能賦能高校思政課的潛在風(fēng)險(xiǎn)，避免過度沉迷生成式人工智能而喪失自身在思政課教學(xué)中的主導(dǎo)權(quán)，防止高校思政課被工具理性主宰導(dǎo)致空洞化、娛樂化和形式化。三是大學(xué)生要著力提升理性思辨意識(shí)與行為自控能力。大學(xué)生需要強(qiáng)化運(yùn)用馬克思主義科學(xué)方法審思生成式人工智能的本質(zhì)與運(yùn)行機(jī)制的能力，自覺反思生成式人工智能背后的算法運(yùn)行機(jī)制，辨識(shí)生成式人工智能推送的信息的可信度，明辨信息背后的意識(shí)形態(tài)屬性，堅(jiān)定馬克思主義立場(chǎng)，防止被不良意識(shí)形態(tài)侵蝕和誘導(dǎo)。同時(shí)，大學(xué)生也要強(qiáng)化自我約束，自覺將生成式人工智能作為學(xué)習(xí)的輔助工具，避免盲目崇拜和過度依賴技術(shù)，避免自身被技術(shù)禁錮，從而有效規(guī)避主體性失落風(fēng)險(xiǎn)。

2.落實(shí)立德樹人根本任務(wù)，強(qiáng)化情感教育

在進(jìn)行高校思政課教學(xué)中，高校思政課教師要堅(jiān)持立德樹人導(dǎo)向，改變“投喂式”“說教灌輸式”的教學(xué)方式，強(qiáng)化情感教育。生成式人工智能雖然能夠豐富高校思政課的教學(xué)資源、拓寬高校思政課的教學(xué)時(shí)空，但是它缺乏情感力，無法替代高校思政課教師的情感教化工作。為此，高校思政課教師在教學(xué)中要增強(qiáng)情感投入，強(qiáng)化與大學(xué)生的心靈溝通與情感互動(dòng)，增強(qiáng)自身在思政課教學(xué)中的主動(dòng)性和能動(dòng)性，避免主體性被生成式人工智能消解，防止自身在思政課教學(xué)中的主導(dǎo)權(quán)被生成式人工智能取代。

一方面，高校思政課教師可以開展師生面對(duì)面談話交流活動(dòng)，在交流中給予學(xué)生情感關(guān)懷，增強(qiáng)大學(xué)生對(duì)教師的信任感和認(rèn)同感，這有助于思政課教師及時(shí)了解學(xué)生的思想動(dòng)態(tài)、價(jià)值取向、學(xué)習(xí)需求，以便及時(shí)為學(xué)生解疑釋惑和開展針對(duì)性的教學(xué)工作，實(shí)現(xiàn)思政課立德樹人的價(jià)值旨?xì)w。

另一方面，高校思政課教師要注意挖掘教材中的情感因素。例如，在愛國(guó)主義教育中，高校思政課教師可以選取我國(guó)科學(xué)家群體胸懷祖國(guó)、至誠(chéng)報(bào)國(guó)的相關(guān)案例進(jìn)行教學(xué)，講述王淦昌、郭永懷、鄧稼先等科學(xué)家為研制“兩彈一星”披荊斬棘、隱姓埋名、以身許國(guó)的故事，借助生動(dòng)、形象的故事傳遞我國(guó)科學(xué)家們的愛國(guó)主義精神。以情動(dòng)人，引導(dǎo)大學(xué)生繼承和發(fā)揚(yáng)我國(guó)科學(xué)家們心系祖國(guó)、愛黨報(bào)國(guó)的崇高品質(zhì)，激勵(lì)大學(xué)生樹立愛國(guó)情、強(qiáng)國(guó)志，自覺投身中國(guó)式現(xiàn)代化建設(shè)中去。

3.轉(zhuǎn)換教學(xué)話語(yǔ)范式，把牢高校思政課教學(xué)的話語(yǔ)主導(dǎo)權(quán)

高校思政課教師作為高校思政課教學(xué)的話語(yǔ)主體，話語(yǔ)主體的能力對(duì)于落實(shí)好高校思政課立德樹人的根本任務(wù)發(fā)揮著關(guān)鍵作用。為了有效應(yīng)對(duì)高校思政課教師話語(yǔ)主導(dǎo)權(quán)被削弱、話語(yǔ)認(rèn)同度降低和影響力減弱的風(fēng)險(xiǎn)，高校思政課教師要主動(dòng)接納并使用生成式人工智能，利用生成式人工智能轉(zhuǎn)換思政課教學(xué)話語(yǔ)范式，把牢思政課教學(xué)的話語(yǔ)主導(dǎo)權(quán)。

高校思政課教師自身要在講政治、堅(jiān)持馬克思主義話語(yǔ)的基礎(chǔ)上，需要根據(jù)時(shí)代語(yǔ)境和受眾喜好調(diào)整、創(chuàng)新高校思政課教學(xué)話語(yǔ)。高校思政課教師要敢于跳出學(xué)科界限，樹立智能化、數(shù)字化意識(shí)，積極借助生成式人工智能了解網(wǎng)絡(luò)熱詞和大學(xué)生的話語(yǔ)偏好，以適當(dāng)?shù)木W(wǎng)絡(luò)話語(yǔ)更新思政課教學(xué)話語(yǔ)體系，摒棄呆板乏味的教學(xué)語(yǔ)言。譬如，高校思政課教師可以在文心一言或者通義千問等生成式人工智能系統(tǒng)中輸入“當(dāng)代大學(xué)生流行的網(wǎng)絡(luò)語(yǔ)言”等問題，及時(shí)了解“凡爾賽”“脆皮大學(xué)生”“躺平”“內(nèi)卷”等網(wǎng)絡(luò)語(yǔ)言，并在思政課教學(xué)中恰到好處地加以運(yùn)用，以此彌合教育者與教育對(duì)象之間的話語(yǔ)鴻溝，增強(qiáng)高校思政課的“溫度”，提升大學(xué)生對(duì)思政課的接受度和認(rèn)同感。

4.加快研發(fā)智能檢測(cè)監(jiān)控技術(shù)，用主流價(jià)值引領(lǐng)技術(shù)

高校要聯(lián)合技術(shù)專家、思政課教師、人工智能企業(yè)協(xié)同研發(fā)針對(duì)生成式人工智能的相關(guān)智能檢測(cè)監(jiān)控技術(shù)，借助技術(shù)及時(shí)有效監(jiān)控生成式人工智能輸出的文本信息的真?zhèn)涡?、意識(shí)形態(tài)屬性，實(shí)時(shí)有效地監(jiān)測(cè)、屏蔽和刪除具有意識(shí)形態(tài)偏見的信息內(nèi)容，防止虛假有害信息擴(kuò)散。在研發(fā)過程中，高校思政課教師要做好“把關(guān)人”，構(gòu)建數(shù)字技術(shù)專家和高校思政課教師之間的共同體，強(qiáng)化對(duì)數(shù)字技術(shù)專家的價(jià)值引領(lǐng)和思想品德教育，確保數(shù)字技術(shù)專家遵循倫理規(guī)范、主流價(jià)值來確立算法運(yùn)算規(guī)則，研發(fā)契合主流意識(shí)形態(tài)的智能檢測(cè)監(jiān)控技術(shù)。

5.夯實(shí)制度機(jī)制保障，構(gòu)建管理制度和問責(zé)機(jī)制

“沒有規(guī)矩不成方圓”，對(duì)于生成式人工智能賦能高校思政課可能引發(fā)的風(fēng)險(xiǎn)，高校不能一刀切地“一禁了之”，而是要客觀理性地對(duì)待，建立生成式人工智能賦能高校思政課的相關(guān)管理制度和問責(zé)機(jī)制，從制度機(jī)制上規(guī)范生成式人工智能的使用。

一方面，建立科學(xué)高效的管理制度。在遵循國(guó)家信息服務(wù)管理、網(wǎng)絡(luò)安全法以及相關(guān)法律法規(guī)的基礎(chǔ)上，高校要積極組織法律人士、技術(shù)專家著力建立科學(xué)高效的管理制度。高?？梢灾贫ㄉ墒饺斯ぶ悄苜x能高校思政課應(yīng)遵循的倫理道德規(guī)范，明確生成式人工智能融入高校思政課的適用范圍和準(zhǔn)入程度，明確各個(gè)監(jiān)管環(huán)節(jié)的管理規(guī)范和管理人員，以便對(duì)生成式人工智能嵌入高校思政課進(jìn)行全過程、全流程的監(jiān)管。

另一方面，建立精準(zhǔn)追責(zé)和懲罰懲戒相結(jié)合的責(zé)任問責(zé)機(jī)制。為了切實(shí)保護(hù)大學(xué)生、高校思政課教師的隱私安全，規(guī)避數(shù)據(jù)泄露、濫用造成的信息安全風(fēng)險(xiǎn)，高校要著力建立相關(guān)問責(zé)機(jī)制，以加強(qiáng)信息安全防護(hù)。高校要明確生成式人工智能嵌入高校思政課中各主體應(yīng)該承擔(dān)的責(zé)任范圍，建立長(zhǎng)久可溯源的數(shù)據(jù)檔案，保證數(shù)據(jù)采集、管理和分析階段的公開透明性，以便快速辨明責(zé)任主體，為問責(zé)提供依據(jù)。^［19］一旦出現(xiàn)信息泄露的風(fēng)險(xiǎn)，高校要及時(shí)判定相關(guān)責(zé)任人，在明確緣由的基礎(chǔ)上，及時(shí)對(duì)相關(guān)人員進(jìn)行問責(zé)并嚴(yán)格落實(shí)各種形式的利益懲罰措施，通過精準(zhǔn)追責(zé)和懲罰懲戒的雙效發(fā)力來規(guī)避信息安全風(fēng)險(xiǎn)。

生成式人工智能作為人工智能更新迭代的最新產(chǎn)物，將其運(yùn)用到高校思政課是推進(jìn)教育數(shù)字化轉(zhuǎn)型的重要舉措，也是提高高校思政課時(shí)代感、推進(jìn)高校思政課數(shù)字化發(fā)展的重要助力。生成式人工智能作為一種智能工具，其本身并不具有價(jià)值取向，它在運(yùn)用過程中引發(fā)的風(fēng)險(xiǎn)本質(zhì)上是人類自身問題的映射。為此，高校思政課需要直面這一技術(shù)，既要主動(dòng)接納擁抱，把握歷史契機(jī)，又要植根馬克思主義基本立場(chǎng)，規(guī)范其使用，發(fā)揮其對(duì)高校思政課的正向賦能作用。

參考文獻(xiàn)

［1］ 習(xí)近平.高舉中國(guó)特色社會(huì)主義偉大旗幟 為全面建設(shè)社會(huì)主義現(xiàn)代化國(guó)家而團(tuán)結(jié)奮斗——在中國(guó)共產(chǎn)黨第二十次全國(guó)代表大會(huì)上的報(bào)告［M］.北京：人民出版社，2022：34.

［2］ 王延川，趙靖.生成式人工智能誘發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)的邏輯機(jī)理及其應(yīng)對(duì)策略［J］.河南師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023（4）：1.

［3］ 戴嶺，胡姣，祝智庭.ChatGPT賦能教育數(shù)字化轉(zhuǎn)型的新方略［J］.開放教育研究，2023（4）：41-42.

［4］［18］ 馮雨奐.ChatGPT在教育領(lǐng)域的應(yīng)用價(jià)值、潛在倫理風(fēng)險(xiǎn)與治理路徑［J］.思想理論教育，2023（4）：28-30，29.

［5］［16］ 黃榮懷.人工智能正加速教育變革：現(xiàn)實(shí)挑戰(zhàn)與應(yīng)對(duì)舉措［J］.中國(guó)教育學(xué)刊，2023（6）：30-32，28.

［6］ 黃欣榮，劉亮.ChatGPT賦能思想政治教育：技術(shù)路徑與可能問題［J］.江西財(cái)經(jīng)大學(xué)學(xué)報(bào)，2023（6）：105-106.

［7］ 燕連福，秦浦峰.生成式人工智能賦能思想政治教育的價(jià)值、問題與對(duì)策［J］.廣西社會(huì)科學(xué)，2023（9）：201-203.

［8］ 高雪梅.ChatGPT賦能大學(xué)生思想政治教育模式創(chuàng)新的挑戰(zhàn)及其超越［J］.貴州社會(huì)科學(xué)，2023（11）：106-108.

［9］［15］ 任鳳琴，董子涵.風(fēng)險(xiǎn)與超越：生成式人工智能賦能思政教育的倫理分析［J］.重慶郵電大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2023（6）：81-83，82.

［10］ 常宴會(huì).ChatGPT對(duì)思想政治教育的潛在挑戰(zhàn)及其應(yīng)對(duì)［J］.青年學(xué)報(bào)，2023（3）：24.

［11］ 崔聰.類ChatGPT技術(shù)賦能思想政治教育：圖景、風(fēng)險(xiǎn)與實(shí)現(xiàn)［J］.青年學(xué)報(bào)，2023（3）：29-30.

［12］ 馬克思恩格斯文集（第八卷）［M］.北京：人民出版社，2009：358.

［13］ 盧宇，余京蕾，陳鵬鶴，李沐云.生成式人工智能的教育應(yīng)用與展望——以ChatGPT系統(tǒng)為例［J］.中國(guó)遠(yuǎn)程教育，2023（4）：27.

［14］ 于浩，張文蘭.ChatGPT技術(shù)下教育面臨的挑戰(zhàn)和機(jī)遇［J］.中國(guó)醫(yī)學(xué)教育技術(shù)，2023（3）：262.

［17］ Editorial.More Accountability for Big-Data Algorithms［J］.Nature，2016（7621）：449.

［19］ 張譽(yù)元，張海.數(shù)據(jù)生命周期視閾下教育數(shù)據(jù)倫理問題及規(guī)約之徑［J］.中國(guó)電化教育，2022（10）：124.

［責(zé)任編輯：邢煒真］