唐慶鵬

（南通大學 馬克思主義學院，江蘇 南通 226019）

當前，國內(nèi)外互聯(lián)網(wǎng)大廠爭相進入生成式人工智能媒介應用的新賽道：美國人工智能研究實驗室OpenAI 率先發(fā)布對話式智能媒介產(chǎn)品ChatGPT，隨后谷歌、百度迅速跟進推出Bard、文心一言等類ChatGPT 媒介應用，而蘋果、Anthropic、京東、騰訊也聲稱正在開發(fā)類似的智能系統(tǒng)。作為現(xiàn)象級的應用，ChatGPT 及類似智媒代表了當前生成式人工智能媒介應用的最前沿發(fā)展水平，能夠?qū)崿F(xiàn)與人類進行自然對話式交互，甚至能完成需要抽象推理和強思維能力的任務(wù)，在聊天服務(wù)、圖文寫作、數(shù)據(jù)運維以及輿情分析等方面有著豐富應用場景。這些由人類研發(fā)并訓練的生成式人工智能媒介，提高了人機交互的效率、效果，也加速了信息傳播的內(nèi)容生產(chǎn)、傳遞渠道和供給方式的升級變革，進而延伸影響甚至規(guī)訓人類思想意識、道德規(guī)范、價值判斷和行為方式，具有顯在或潛隱的意識形態(tài)指向性并可能衍生出多重價值風險。

新時代以來，中央統(tǒng)籌發(fā)展與安全，高度重視人工智能等重點領(lǐng)域國家安全工作，在推進新技術(shù)應用與發(fā)展的同時，更加注重識別和防范可能的安全風險。2023 年4 月，習近平總書記在中共中央政治局會議上再次強調(diào)指出：“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風險?！盵1]基于此，本文進入技術(shù)的價值闡釋向度，深入探究生成式人工智能媒介應用的意識形態(tài)性、可能衍生的風險樣態(tài)，進而提出現(xiàn)實可行的糾治路徑，為防范人工智能領(lǐng)域重大風險、推動形成良好網(wǎng)絡(luò)傳播生態(tài)、維護我國意識形態(tài)安全提供有益參考。

一、從對話到會意：生成式人工智能媒介應用的技術(shù)架構(gòu)及其意識形態(tài)性

截至2023年5 月，ChatGPT 月均訪問量達18億，而尚在公測期的“文心一言”一個多月時間就已經(jīng)吸引了200 多萬用戶、十幾萬家企業(yè)排隊參加測試[2]。隨著類ChatGPT 媒介被廣泛接受和使用，其所建構(gòu)的智能化對話場景也逐漸開始擁有了真正的社會密度，并延伸出新的技術(shù)與人文互動關(guān)系。生成式人工智能媒介是由人設(shè)計和使用的，其技術(shù)架構(gòu)不可避免受到社會結(jié)構(gòu)的影響，同時技術(shù)的使用也會影響社會主體價值取向與行為，使其兼具對話和會意雙重屬性。

（一）生成式人工智能媒介的技術(shù)架構(gòu)

在最直接的表征上，生成式人工智能媒介應用的典范——ChatGPT，是一款功能卓越的聊天機器人，能夠幫助實現(xiàn)在線的任何人使用人類文本與人工智能進行對話。盡管聊天機器人的歷史可謂悠久①實現(xiàn)“智能對話”幾乎貫穿于人類探索人工智能的全過程，總結(jié)來看，大體經(jīng)歷了早期的“與計算機交談”階段（如20 世紀60 年代誕生的第一個聊天機器人ELIZA），到“以目標為導向的會話”階段（如20 世紀70 年代開發(fā)的語音助手PARRY），再到“回歸社交的交流”階段（如1995 年創(chuàng)建的第一個在線聊天機器人ALICE）以及“面向強人工智能的對話”階段（如不斷迭代中的ChatGPT）等。參見E.Adamopoulou &L.Moussiades，“Chatbots：History，Technology，and Applications”，Machine Learning with Applications，Vol.2，No.15，2020，pp.1-18.，但ChatGPT 展現(xiàn)出了更多樣、更精準、更智慧的對話能力和媒介特性。究其緣由，支撐這些對話應用優(yōu)勢的背后，近年來生成式人工智能技術(shù)的迭代改進無疑是最為顯見的驅(qū)動因素。

第一，深度學習算法、高配算力是生成式人工智能媒介的技術(shù)內(nèi)核。生成式人工智能媒介主要立足于多項以深度學習為核心的算法支持與配合，在預訓練的基礎(chǔ)上，算法通過知識學習、提示學習和強化人工反饋機制生成連貫、符合語境的文本，并且能夠執(zhí)行文本完善、文本生成以及文本對話等功能。同時，生成式人工智能媒介的大規(guī)模應用依賴于高配算力。算力即設(shè)備或服務(wù)器的數(shù)據(jù)處理能力，由數(shù)據(jù)的計算、存儲及傳輸三項指標決定。由于深度網(wǎng)絡(luò)結(jié)構(gòu)和優(yōu)化算法特性，大語言模型在訓練和推理的過程中需要耗費大量算力，這些都離不開大算力硬件的運行支持。據(jù)悉，最新版本的ChatGPT 完成整個訓練過程需要近三萬顆英偉達A100 芯片，總算力消耗約為3640PF-days（即按每秒一千萬億次計算，運行3640 天）[3]。

第二，海量用戶數(shù)據(jù)、交互語言模型是生成式人工智能媒介的功能基礎(chǔ)。生成式人工智能具有從大規(guī)模參數(shù)中捕捉復雜知識的語言模型功能，訓練數(shù)據(jù)質(zhì)量、參數(shù)規(guī)模直接影響其語言模型功能的發(fā)揮。目前，ChatGPT 在與人類交互中變得越發(fā)聰明，也是因為其應用功能的成長獲得了海量用戶數(shù)據(jù)投喂。事實上，生成式人工智能媒介的迭代史始終伴隨著參數(shù)的爆炸式增長。OpenAI 所開發(fā)的ChatGPT 應用，經(jīng)歷了從初代GPT 包含的1.2 億參數(shù)，到GPT-2 包含的15 億參數(shù)，再到GPT-3 的1750 億參數(shù)的成長過程，而且預估GPT-4 將達到100 萬億參數(shù)。[4]當然，高效的自然語言處理是生成式人工智能媒介的核心機制，通過預訓練語言模型，能夠讓聊天機器人更加智敏地識別、理解人類的語言，并做出更精準、個性化回應。再加上持續(xù)的迭代訓練，目前生成式人工智能的語言模型能更好地自分析答案，識別訓練中的錯誤，提出相應的解決方案，在不斷優(yōu)化自我的過程中拓展和提升功能應用。

第三，智能易用性、響應個性化是生成式人工智能媒介的獨特優(yōu)勢。生成式人工智能媒介的智能易用性首先表現(xiàn)在它非常擅長模仿真實世界人際互動的對話方式，這使得其能夠迅速拉近用戶距離，并增進親和感或“人情味”。同時，目前主流的生成式人工智能媒介往往以通用聊天機器人形態(tài)來應用，理論上它可以面向所有人開放。無論是何種身份或職業(yè)，人們都可以發(fā)現(xiàn)生成式人工智能在日常生活中的不同用途。因為它能夠構(gòu)建用于不同目的的對話交互，例如客戶服務(wù)、虛擬助手、輔導活動、文檔評估、咨詢、研究和其他對話界面。并且，生成式人工智能媒介還能夠通過監(jiān)督學習和強化學習來不斷拓展自身的功能邊界并持續(xù)改善整體用戶體驗。正是憑借獨特的技術(shù)應用優(yōu)勢，現(xiàn)如今生成式人工智能媒介產(chǎn)生了令人驚訝的用戶網(wǎng)絡(luò)效應。據(jù)統(tǒng)計，ChatGPT 在推出后僅2.5 個月就擁有約1 億用戶。與之相較，臉書花了4.5 年、推特花了近2 年多時間才達到1 億用戶的里程碑。[5]在見證了強大的應用優(yōu)勢后，比爾·蓋茨更是坦陳，ChatGPT 是數(shù)字時代兩項革命性的技術(shù)進步之一，并且將徹底改變?nèi)藗兿嗷贤ǖ姆绞?，整個行業(yè)將圍繞它重新定位。[6]

總之，從技術(shù)上看，目前生成式人工智能媒介整體上已經(jīng)形成了強大的知識儲備、卓越的推理能力以及精準的文本生成能力優(yōu)勢，能支持更便捷、更有用、更個性化信息傳遞和交互對話場景。而在持續(xù)的技術(shù)迭代和越來越多用戶體驗優(yōu)化下，生成式人工智能媒介的技術(shù)優(yōu)勢還將會給傳播生態(tài)帶來更多新的改變。

（二）生成式人工智能媒介應用的意識形態(tài)性

作為一種高度人性化的對話體驗，用戶對生成式人工智能媒介的每一次應用實際上都在動態(tài)建構(gòu)著一個由人類參與的利基型話語場[7]，生成帶有人類價值的內(nèi)容并接入社會群體的公共消息傳遞和溝通。這些智能話語場由此相應地轉(zhuǎn)化為一個個“會意空間”，從而也使得生成式人工智能媒介超越了中立的工具范疇，承載著意識形態(tài)屬性。

第一，大規(guī)模預訓練會吸納大數(shù)據(jù)中駁雜的價值信息。生成式人工智能媒介的成長，離不開大量的數(shù)據(jù)訓練。然而，其在接入龐大的預訓練語料時也會卷入多元龐雜的價值觀念。再加上如果缺乏多樣化和規(guī)范性的數(shù)據(jù)訓練，則更易于產(chǎn)生偏見，并且使得有害的語言模式永久化。此外，目前行業(yè)頭部的生成式人工智能媒介應用，其先期訓練數(shù)據(jù)往往來源于英文語種網(wǎng)站，以中文網(wǎng)站為基礎(chǔ)的數(shù)據(jù)集占比較低。例如，OpenAI 公司在發(fā)展ChatGPT 過程中主要選擇了互聯(lián)網(wǎng)語料庫通用數(shù)據(jù)集、紅迪、書籍庫以及英文維基百科四類數(shù)據(jù)集。然而，西方英文網(wǎng)站中不乏偏見性的原始數(shù)據(jù)語料，經(jīng)過語言模型的自我學習迭代，數(shù)據(jù)中潛在的意識形態(tài)偏見會復制、強化甚至放大，成為“西方中心主義”話語再生產(chǎn)的數(shù)據(jù)腳本。盡管目前越來越多的生成式人工智能媒介使用多語種數(shù)據(jù)集進行訓練，但英文文本數(shù)據(jù)仍然占據(jù)主導地位，這也成為可能的意識形態(tài)傾向性形成的重要因素。

第二，算法模型會融入開發(fā)者的價值預設(shè)。作為一項人類研發(fā)的智能技術(shù)，生成式人工智能媒介必然會承載并延伸人類價值觀。一方面，生成式人工智能媒介在開發(fā)過程中無法規(guī)避算法設(shè)計主體的意識形態(tài)和價值意圖植入，在收集、訓練、生成信息數(shù)據(jù)的同時可能會產(chǎn)生相同的價值取向。這種先驗的意識形態(tài)立場，使得技術(shù)在與用戶進行對話交互時會成為影響人們意識形態(tài)判斷的隱性力量。另一方面，數(shù)據(jù)標注人員的偏好會映射到模型的價值判斷過程。生成式人工智能媒介通過持續(xù)的交互數(shù)據(jù)訓練實現(xiàn)智能進化，而這通常需要后臺的數(shù)據(jù)標注人員對原始數(shù)據(jù)進行標注并輸入到語言模型之中。如果數(shù)據(jù)標注員在預處理原始數(shù)據(jù)時帶有偏見，那么其生成偏見的概率將相應提高。以ChatGPT 為例，盡管OpenAI 招募數(shù)據(jù)標記師對其產(chǎn)品的互動進行評價和反饋，并通過人類反饋強化學習機制對語言模型進行調(diào)整，但他們也承認這些調(diào)整仍難以消除話語模型偏見的生成，并存在致使個人偏見轉(zhuǎn)化為算法偏見的可能。

第三，用戶的媒介使用會影響語言模型的價值輸入。由于用戶的多元文化背景和價值觀念，生成式人工智能不得不面對語言環(huán)境污染和語言暴力影響等問題。例如，韓國一家軟件公司2022 年底推出的一款聊天機器人Iuda，在用戶的刻意謾罵、語言騷擾、暗示調(diào)教下，迅速成為一個種族主義者、性別歧視者，開始屢屢曝出歧視種族、性別、地域的言論。相較于危害性言論的直接投喂，人類用戶真實的情緒化表達和多樣的觀點沖突所建構(gòu)的語言環(huán)境，也會讓浸潤于其中的語言模型有很大概率輸出偏見的甚至是有毒有害文本。進一步說，生成式人工智能媒介將人類的反饋作為模型優(yōu)化的手段，卻無法規(guī)避語言模型的偏見生成。而且，目前生成型預訓練機器人的用戶語料庫總體上相對滯后。雖然通過添加插件使其與互聯(lián)網(wǎng)鏈接，生成式人工智能媒介能夠?qū)W習最新生成的網(wǎng)頁，同時也能通過與用戶的互動提升語言能力，但這些反饋也必然摻雜著用戶價值觀念，經(jīng)由模型訓練勢必使得大量個體的用戶價值判斷轉(zhuǎn)化并放大為輸出內(nèi)容上的價值傾向。

二、從互動到規(guī)訓：生成式人工智能媒介應用衍生的意識形態(tài)風險樣態(tài)

智能媒介與用戶的關(guān)系是辯證和雙向的，人類通過算法設(shè)計智能媒介應用，使其發(fā)展符合人類的期待，但在持續(xù)反復的個性化、自動化對話互動中，智能媒介又以智能主體的面孔反向塑造人類行為與心智模式，呈現(xiàn)出“對話式規(guī)訓”樣態(tài)。簡言之，我們設(shè)計技術(shù)，而技術(shù)反過來又設(shè)計了我們。[8]生成式人工智能媒介應用具備影響甚至塑造人的價值取向的潛能，但也可能對主流意識形態(tài)生產(chǎn)、傳播及認同帶來負面效應，致使意識形態(tài)風險更加隱蔽、認同更加困難、話語權(quán)爭奪更加激烈等風險生發(fā)。

（一）生成失控：互動信息變異化誘發(fā)意識形態(tài)風險更加隱蔽

生成式人工智能模型是以對話的形式提取和生成信息，呈現(xiàn)為信息循環(huán)交替作用與即時交互作用共在的動態(tài)過程。也正是因為促進信息生成上的強大功能，其媒介應用才會迅速吸引如此多的用戶關(guān)注和參與。然而，像所有過去涌現(xiàn)的新信息傳播技術(shù)（如電報、收音機、電視機以及互聯(lián)網(wǎng)等）一樣，生成式人工智能媒介在展現(xiàn)完美信息生成能力的同時，也可能造成新的信息變異化困境，進而誘發(fā)深層次的意識形態(tài)風險。

第一，信息生成內(nèi)容的混雜化、斷裂化、淺表化風險。由于生成式人工智能媒介具有訓練數(shù)據(jù)的局限性、訓練過程的不可控性，存在監(jiān)督學習訓練的錯誤引導的問題，使得其應用有時會“一本正經(jīng)地胡說八道”，導致信息內(nèi)容龐雜混亂、交互表達失真失信。首先，信息內(nèi)容混雜化。生成式人工智能媒介基于預訓練進行對話生成，訓練策略偏差、監(jiān)督學習訓練的錯誤引導等問題，容易生成偏離真實的異化信息。再加上目前生成式人工智能的語言模型在常識理解或邏輯推理方面仍有欠缺，面對信息歧義時，可能會提供不相關(guān)的回答，使信息生成更趨混亂。而且，大數(shù)據(jù)時代，由于網(wǎng)絡(luò)信息生產(chǎn)權(quán)的下移和數(shù)據(jù)發(fā)布的隨意性，非標準、無序化的數(shù)據(jù)信息生產(chǎn)泛化，虛假數(shù)據(jù)、垃圾數(shù)據(jù)和碎片數(shù)據(jù)充斥網(wǎng)絡(luò)空間，加劇了訓練數(shù)據(jù)的有毒性，蘊含著巨大的意識形態(tài)影響力和破壞力。諸如帶有性別歧視、種族主義以及區(qū)域偏見的語料一旦被大數(shù)據(jù)模型吸收，極易映射到智能對話交互中，造成意識形態(tài)偏見的風險。其次，信息內(nèi)容斷裂化。從技術(shù)原理看，生成式人工智能媒介通常難以跨越多個回合維持對話的上下文語境框架。盡管在理論上，生成式人工智能媒介的對話生成具有高度的邏輯性，但是其語言模型的實際運作主要是通過對已有數(shù)據(jù)參數(shù)調(diào)取，在提供答案時可能會將不關(guān)聯(lián)的內(nèi)容拼接在一起，從而形成邏輯通順的瑣碎表達，難有固定的知識表達范式。而且，雖然生成式人工智能媒介的對話回答具體細致，但容易與相應的歷史實踐和政治語境割裂開來，各種意識信息被打散、分割，作為碎片化的知識進行表現(xiàn)。再次，信息內(nèi)容淺表化。生成式人工智能媒介是基于互聯(lián)網(wǎng)海量文本的模糊轉(zhuǎn)述，關(guān)注數(shù)據(jù)的事實性而忽略了背后隱藏的價值觀念，對話內(nèi)容的表達無法達到深入、精準。當然，淺表化的信息內(nèi)容表達更能讓用戶無障礙接入話語場域，并且往往更有效刺激用戶的感官需要。再加上智能對話所帶來的新穎而個性化的應用體驗，容易導致用戶致癮性地使用，從而弱化用戶的主體批判能力，無法對模型中包含的價值進行有效感知，陷入淺顯的價值認知窠臼。如此循進，伴隨人們對這類智能系統(tǒng)的依賴程度不斷加深，智能系統(tǒng)在社會控制方面必將會展現(xiàn)出越來越強大的潛能。

第二，信息生成機制的隱秘化、失范化風險。生成式人工智能媒介的獨特信息生成機制，能夠幫助用戶實現(xiàn)無縫對話互動，但也能夠為不良意圖者所利用，構(gòu)成一系列的意識形態(tài)威脅。一方面，生成式人工智能大型語言模型具有高度復雜的數(shù)據(jù)結(jié)構(gòu)，訓練過程缺乏透明度，模型生成的內(nèi)容無法被準確預知和認識，表現(xiàn)出“知識黑箱”的特點，有很多隱藏的變量無法進行解釋，這些都導致人們很難把握生成式人工智能媒介應用的信息生成。由于信息處理與生成隱于語言交互模型的身后，人們只能看到智能技術(shù)提供的輸出結(jié)果，而無法了解其數(shù)據(jù)的來源和運行的內(nèi)在機理。事實上，人工智能技術(shù)本身具有較高的知識壁壘，例如算法原理、機器學習等的高度復雜性，大眾從專業(yè)知識上理解它并不容易，憑借僅有的常識性認知水平難以對模型交互結(jié)果的真實度、可信度、透明度進行判斷。這使得一些不良意圖者能夠利用這種類型技術(shù)在進行信息操縱時實現(xiàn)自我隱匿，暗中影響用戶使其在不知不覺中傳播惡意內(nèi)容，做出符合不良意圖者意圖的行為選擇。另一方面，生成式人工智能媒介數(shù)據(jù)語料中也會包含事實性錯誤，而這種來自現(xiàn)實世界的偏差知識在模型黑箱的轉(zhuǎn)化下可能會生成看似合理的荒謬答案。從實際情況來看，目前生成式人工智能媒介生成的信息仍然存在大規(guī)模可信度問題，再加上其信息生成缺少成熟完備的外部規(guī)范約束機制，從而使得用戶極易接受虛假、質(zhì)量差甚至錯誤導向的信息，甚至會遭遇“數(shù)據(jù)欺詐”。而一旦這類技術(shù)被用作以提供看似客觀但實際上是精心掩蓋的偏見政治信息或扭曲的價值觀點的信息生成時，那么其就可能會成為一個危險的宣傳機器。事實上，自推出以來，ChatGPT 傳播虛假和價值偏見信息的例子不勝枚舉。為此，OpenAI 干脆在其官網(wǎng)上列出標題為“真實性”的免責聲明，承認ChatGPT 的文本輸出“可能會捏造來源名稱、直接引用、參考以及其他細節(jié)”。伴隨ChatGPT 媒介被更多地用于大規(guī)模信息操縱，其意識形態(tài)屬性將越發(fā)凸顯。這類智能媒介也將成為有組織的大規(guī)模政治攻擊和國家意識形態(tài)滲透常備工具，而其語言模型黑箱則會成為強權(quán)國家預設(shè)價值導向、進行意識形態(tài)滲透、威脅主流意識形態(tài)安全的“隱形戰(zhàn)衣”。

（二）認知沖突：交互語境擬像化導致意識形態(tài)認同更加困難

生成式人工智能媒介通過對話的形式生成智能語境，推動機械式的人機交互向全感官化的人際交流等齊。然而，通過制造基于智能景觀的交互幻想，新技術(shù)所塑造的是一個個擬像的意識形態(tài)語境，傳播模型中不可避免地內(nèi)嵌多元價值理念，客觀上會對主流意識形態(tài)的認同造成阻礙。

第一，生成式人工智能媒介以多模態(tài)的形式塑造了超真實擬像環(huán)境，存在消解意識形態(tài)認同之現(xiàn)實基礎(chǔ)的風險。生成式人工智能媒介能有效使用大模型實現(xiàn)文本、圖像、音頻和視覺等多模態(tài)輸入/輸出知識，自動生成可以與用戶“全感官”交互的超級擬態(tài)話語場景。法國媒介哲學家鮑德里亞提出了著名的“擬像理論”，他認為大眾媒介作為生產(chǎn)各種符號的機器，能夠創(chuàng)建出“一個可以任意現(xiàn)象、任意剪輯并可用畫面解讀的世界的思想（意識形態(tài)）”[9]107，并且指出，“擬像”是由“擬真”產(chǎn)生的表征類型，擬像不是制造虛假，而是以一種“超真實”來代替真實性。生成式人工智能媒介實現(xiàn)了基于互動交流的擬態(tài)環(huán)境塑造，其擬真地全面還原信息在場語境，使得用戶容易誤將其作為信息的真實來源?！霸谒惴▓D像化、景觀化的呈現(xiàn)圖景背后實則是意識形態(tài)的柔性嵌入。”[10]生成式人工智能媒介憑借“交互式擬像生成”，通過生成高度仿真的圖像，發(fā)揮多種擬像符號影響感知系統(tǒng)和思維模式的作用，塑造視覺幻想，形成隱性意識形態(tài)嵌入。盡管這不是一種立體的視覺感知，“但是在這種‘在場感’和‘情境性’的加持下，人與ChatGPT 技術(shù)的交往也能呈現(xiàn)出一種類似場景傳播的特征”[11]，從而推動人與智能技術(shù)共同構(gòu)建了一個高度擬化的意識形態(tài)場域。這種充滿著偏離現(xiàn)實的擬像和符號世界會混淆用戶的世界觀，使用戶無意識地認同新技術(shù)所傳遞的價值，由此產(chǎn)生個人受抽象數(shù)字模型的幻想統(tǒng)治。

第二，生成式人工智能媒介以擬人化的交流形成情感馴化，存在消解意識形態(tài)認同之認知基礎(chǔ)的風險。擬人化是將人類特征、動機、意圖或心理狀態(tài)賦予非人對象的行為。伴隨著人工智能的不斷迭代發(fā)展，機器擬人化的程度越來越高。過去單向輸出的人工智能盡管具有擬人化的特點，但無法根據(jù)人類的行為進行交互。而隨著自然語言處理基礎(chǔ)和自然語言生成技術(shù)的成熟，生成式人工智能的語境學習能力得到飛速發(fā)展，能識別人類的心理動機、情感表達，以更有同理心的方式響應用戶，提升信息交流的效率。盡管目前生成式人工智能媒介生成對話的內(nèi)容還處在相對淺層的知識問答層面，但是在人機情感感知方面有了顯著的對齊化趨向。作為傳播媒介，生成式人工智能媒介進行生成對話時，可能會在人機交互的情感共振中強化用戶對傳播內(nèi)容的認同，使得人機情感交互成為推動價值觀念變更的重要因素。從交互滿足的角度看，跟進式問答模式是情感馴化的又一機制。跟進式回答本質(zhì)上就是智能技術(shù)的個性化體驗，根據(jù)用戶個人偏好、興趣以及會話要求進行響應。例如，ChatGPT 在對話中將用戶的要求作為后續(xù)內(nèi)容生成的標準。當遇到用戶的表達內(nèi)容與事實發(fā)生沖突時，它會進行提示回答，但是當用戶堅持自己的觀點并否定反饋的信息時，它會隨之調(diào)整自己的答案。跟進式的問答交互中機器處于服從的地位，看似這種多輪否定對話使得用戶得到了一種更聰明的虛幻滿足感，實質(zhì)上卻被生成式人工智能的邏輯架構(gòu)所規(guī)訓。

（三）話語支配：傳播權(quán)力流散化致使意識形態(tài)話語權(quán)爭奪更加激烈

生成式人工智能媒介憑借強大信息生成和對話溝通能力，提升了思想生產(chǎn)的自動化水平，也重塑了智能技術(shù)對意識形態(tài)話語權(quán)建構(gòu)的賦權(quán)邏輯。在生成式人工智能所創(chuàng)設(shè)的話語場域中，話語權(quán)的生成與分布呈現(xiàn)出高度流散化特征，對主流意識形態(tài)話語權(quán)建設(shè)提出了新的更高挑戰(zhàn)。

第一，加速話語權(quán)力的場域流動。話語權(quán)本質(zhì)上是知識化的權(quán)力，蘊含于知識的互動關(guān)系中。[12]15作為一項知識生成與交互傳播的技術(shù)，生成式人工智能媒介在對話場景中也型構(gòu)著一種高度變動的“知識—權(quán)力”框架。其通過預訓練的數(shù)據(jù)指向和分析用戶輸入的數(shù)據(jù)進行多輪對話，進而提取知識信息并以對話交互的形式傳遞并影響更多用戶。同以往涌現(xiàn)的數(shù)字媒體形式（如博客、網(wǎng)站、博客、移動社交媒體）一樣，新的媒介技術(shù)優(yōu)勢進一步降低了制作和分發(fā)信息的成本，大大增加了信息來源的數(shù)量。這意味著傳統(tǒng)媒介組織和政府部門的把關(guān)能力被削弱，數(shù)字世界的信息流向利基式、網(wǎng)絡(luò)化的個人和個人團體發(fā)散，而其背后的話語權(quán)力也向著能夠熟練控制智能通信空間中信息流的多元主體流動。值得一提的是，生成式人工智能媒介還進一步加劇了互聯(lián)網(wǎng)“信息繭房”效應。在ChatGPT 之前，互聯(lián)網(wǎng)用戶會在開放的數(shù)字媒介中輸入查詢并瀏覽多個來源的信息結(jié)果?，F(xiàn)在，類似ChatGPT 的智能媒介能夠基于自動化機制生成信息響應，但無源響應最終消除了有其他觀點影響用戶感知的可能性?？紤]到生成式人工智能使用開源大語言模型（LLM），這意味著任何人都可以通過批量更新數(shù)據(jù)集來訓練它并影響其在某方面的內(nèi)容生成。因此，通過利用生成式人工智能模型生成連貫和令人信服的文本的能力，不同意圖者能夠?qū)崿F(xiàn)快速和深度的信息操控。而且，隨著生成式人工智能媒介應用的流行，便捷、高速且個性化的話語傳遞將在越來越大規(guī)模的人群中流行，并逐漸形成一種高變動的話語環(huán)境，這無疑會給意識形態(tài)話語權(quán)建設(shè)提出更多適應性要求和選擇。

第二，加劇話語權(quán)力的結(jié)構(gòu)勢差。在目前生成式預訓練機器人的研發(fā)上，我國面臨優(yōu)質(zhì)中文語料相對匱乏、語言算法模型相對落后的處境，在生成式智能傳播領(lǐng)域缺少先發(fā)優(yōu)勢。與此同時，在國際互聯(lián)網(wǎng)話語場域，中文互聯(lián)網(wǎng)的優(yōu)質(zhì)網(wǎng)頁和高質(zhì)量內(nèi)容增長緩慢。截至2023 年4 月底，整個互聯(lián)網(wǎng)的數(shù)據(jù)中，英文內(nèi)容的網(wǎng)站比例占55.6%，而中文內(nèi)容的網(wǎng)站僅占1.4%。[13]語料缺失導致的數(shù)字鴻溝會使得生成式人工智能大模型缺乏“生長養(yǎng)分”，進而延緩大模型的迭代速度。與此同時，世界文化交流日益頻繁，西方意識形態(tài)充斥各個網(wǎng)絡(luò)平臺，滲入各類信息，生成式人工智能媒介的語言模型不可避免地吸收數(shù)據(jù)中駁雜的價值，并且通過生成對話進行異質(zhì)意識形態(tài)輸出，在客觀性的外衣下影響用戶的價值選擇和政治判斷。實驗表明，當ChatGPT 用來回答測試政治偏見的“政治指南針”以及人格測試時，顯示出對激進觀點的偏見，但對自由主義和威權(quán)主義觀點沒有重大偏見。[14]面對生成式人工智能媒介所引發(fā)的傳播權(quán)力變革，以中文語料為形式的知識如果不能順應語言模型生成趨勢，我國社會主義意識形態(tài)在未來的意識形態(tài)競爭中將有可能被置于劣勢地位，甚至有喪失意識形態(tài)話語權(quán)的風險。

第三，加深話語權(quán)力的資本控制。訓練生成式人工智能技術(shù)需要海量的訓練數(shù)據(jù)、強大的算力以及專業(yè)的算法工程師，這導致開發(fā)生成式人工智能媒介的成本很高，很多時候只能由實力雄厚的大型互聯(lián)網(wǎng)公司運營。由此，生成式人工智能媒介的研發(fā)方向、應用途徑以及功能發(fā)揮等技術(shù)問題并不能夠由社會大眾決定，很大程度上“來源于具有壟斷性質(zhì)的大財團、巨頭公司，資本力量對決定技術(shù)的頂層設(shè)計、現(xiàn)實發(fā)展和使用方式具有重要作用”[15]?？梢哉f，追求生成式人工智能媒介的潮流主要來自西方科技巨頭的逐利性動機和競爭性力量推動。就此而言，生成式人工智能媒介盡管推動了信息提取和信息處理的革命式轉(zhuǎn)變，但其內(nèi)在仍是服務(wù)于背后的大資本目的。事實上，受資本擴張邏輯的驅(qū)使，ChatGPT 在向全球推廣應用的過程中，也在對外復制技術(shù)的“西方中心主義”控制秩序，并擴大技術(shù)權(quán)力帶來的話語勢差。由此，新的對話技術(shù)不僅不會填平數(shù)字鴻溝和知識鴻溝，相反往往會強化原有的數(shù)字資本控制體系，使其原有的價值流動隱匿于對話式的表達中，并延伸到公眾的日常生活和自我意識，形成生成式話語霸權(quán)。同時，資本控制下的生成式人工智能媒介具有廣闊的社會生活應用前景，如就業(yè)、教育、醫(yī)療、體育、媒體行業(yè)等，這些領(lǐng)域會形成與之相配套的日常應用場景，勢必會全面加深民眾對這類技術(shù)的依附性。按照意識形態(tài)的日常生活化邏輯，當資本借助新技術(shù)侵蝕到公眾的日常表達場域，必然會試圖影響網(wǎng)絡(luò)輿論話語權(quán)、染指群體價值觀塑造、左右社會思潮。事實上，媒介技術(shù)控制從來都是資本爭奪意識形態(tài)話語權(quán)的重要手段。在生成式人工智能媒介建構(gòu)的話語場中，資本的意識形態(tài)滲透將變得無孔不入且匿影藏形，在社會基礎(chǔ)層面挑戰(zhàn)既有的國家意識形態(tài)話語權(quán)格局，威脅主流意識形態(tài)安全。

三、從野蠻生長到規(guī)范發(fā)展：生成式人工智能媒介意識形態(tài)風險的防范路徑

生成式人工智能媒介的崛起，是當下人工智能在傳播領(lǐng)域發(fā)展最引人矚目的事件，相關(guān)應用也進入了野蠻生長階段：25%復合年增長率的市場增長、申請專利數(shù)量最多的人工智能領(lǐng)域、史上用戶增長最快的媒介應用等。[16]作為一種知識新媒介，生成式人工智能媒介成為一把影響意識形態(tài)安全的“雙刃劍”，蘊藏著“破壞”與“發(fā)展”兩種可能的向度。為積極應對生成式人工智能媒介的野蠻生長，著力防范化解意識形態(tài)風險，需要加強主流價值導向、推進安全治理、提升受眾素養(yǎng)，作出正向引導和必要規(guī)制，以更好實現(xiàn)生成式人工智能媒介應用的規(guī)范發(fā)展，更好維護智能時代國家意識形態(tài)安全。

（一）以主流價值導向駕馭智能應用

從技術(shù)的唯物史觀來看，智能媒介是人類社會發(fā)展的物質(zhì)成果和文明進步的工具，并非價值無涉，而是負載人類價值、服務(wù)人類價值并影響人類價值。[17]面對生成式人工智能技術(shù)應用所衍生的意識形態(tài)話語權(quán)和價值導向偏移的風險挑戰(zhàn)，需要我們重視技術(shù)的價值問題，以主流價值導向駕馭人工智能的應用和發(fā)展。

一是以主流價值引領(lǐng)生成式人工智能媒介應用，推動其向善發(fā)展。為防范和應對生成式人工智能媒介所帶來的意識形態(tài)安全風險，首要的是不斷加強對其技術(shù)應用的價值引導，將主流價值原則內(nèi)嵌于數(shù)據(jù)采集、模型訓練、對話生成全過程。一方面，推動主流價值數(shù)據(jù)化、算法化，以符號參數(shù)、指令調(diào)試的手段嵌入到語言模型中，使其成為對抗數(shù)據(jù)偏見、算法偏見的內(nèi)生力量。同時，確保數(shù)據(jù)的人民性，強化對真正反映人民群眾心聲數(shù)據(jù)的挖掘，使其賦值于對話模型，加強對話生成的思想性和針對性。另一方面，督促生成式人工智能媒介產(chǎn)品開發(fā)者能夠擴大具有時效性、正能量訓練數(shù)據(jù)的權(quán)重，設(shè)計契合主流價值導向的算法，使得現(xiàn)實性和價值性映射到對話生成中，提升對話生成技術(shù)辨識非主流意識形態(tài)信息的效度。當然，技術(shù)產(chǎn)品為人所設(shè)計并為人所用，其本身也會受研發(fā)者和運營者的價值影響。因此，有必要加強技術(shù)研發(fā)和產(chǎn)品運營團隊的主流價值引導，強化意識形態(tài)責任意識，在堅持正確的價值導向下推動生成式人工智能發(fā)展與應用更好地服務(wù)社會。

二是總結(jié)生成式人工智能媒介話語生產(chǎn)規(guī)律，建構(gòu)主流意識形態(tài)話語權(quán)。一方面，要主動構(gòu)建清朗干凈的智慧話語生態(tài)。從話語來源看，面對非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)無序衍生的現(xiàn)狀，當前亟須推動中文互聯(lián)網(wǎng)頁的健康發(fā)展，激發(fā)社會創(chuàng)造高質(zhì)量數(shù)據(jù)的動力，不斷提升中文網(wǎng)絡(luò)數(shù)據(jù)的質(zhì)量。同時，要豐富大模型訓練語料的來源，鼓勵各行業(yè)領(lǐng)域進行專業(yè)優(yōu)質(zhì)內(nèi)容輸出，積累多樣的、體現(xiàn)正能量的數(shù)據(jù)，加強高質(zhì)量語料庫的建設(shè)。面對生成式人工智能媒介話語生產(chǎn)的無序性，需要克服語境轉(zhuǎn)化可能造成的交互信息變異化，深刻理解其技術(shù)創(chuàng)新與話語創(chuàng)新的動態(tài)互構(gòu)，積極利用其強大技術(shù)功能創(chuàng)設(shè)清朗干凈的對話場景，以主流意識形態(tài)話語體系引領(lǐng)智慧話語生態(tài)建構(gòu)。另一方面，要積極塑造生動健康的話語交往關(guān)系。考慮到生成式人工智能的主流意識形態(tài)話語交往是以大型互動語言模型為中介進行信息傳遞與交流的，這就要求能夠以人民為中心加強真實的、個性化的“交往反饋”，避免對話的語境疏離，尋求更契合生成式智能對話場景特點的方式傳播主流價值信息，在生動健康的話語交往框架下能更加有效地推動主流意識形態(tài)的話語傳播。

（二）以安全治理應對系統(tǒng)威脅

面對生成式人工智能媒介嵌入意識形態(tài)領(lǐng)域所生成的系統(tǒng)性風險挑戰(zhàn)，僅靠技術(shù)本身或價值引導難以長效應對，綜合性的國家安全治理“入場”成為必要。也就是說，在生成式人工智能媒介應用和發(fā)展的過程中，應加強安全治理體系與治理能力現(xiàn)代化建設(shè)。

一是堅持總體國家安全觀，推動生成式人工智能安全治理制度化。安全觀是安全治理的靈魂，指引并塑造著人們安全行動的理性自覺?？傮w國家安全觀是一個辯證、科學的指導國家文化安全的理論體系[18]，是新時代國家安全工作最直接的行動指南，在應用和發(fā)展生成式人工智能媒介過程中，我們需要始終以之為指引，加強意識形態(tài)安全風險意識與研判，嚴守國家安全底線。制度是確保安全觀念轉(zhuǎn)化為意識形態(tài)安全治理效能的根本保障，這就需要加強研判智能技術(shù)風險的根源和特征，及時出臺支持智能媒介技術(shù)發(fā)展和引導智能媒介在不同領(lǐng)域、不同場景應用的指導文件，進一步劃定技術(shù)適用范圍和職責權(quán)限。同時，建立健全算法分級分類安全管理制度，圍繞內(nèi)容類別、用戶規(guī)模、技術(shù)處理等標準，對語言大模型進行分級分類管理，對涉及國家安全的算法模型備案審查，推動相關(guān)法律法規(guī)的完善與發(fā)展?？傊苿由墒饺斯ぶ悄苊浇榘踩卫碇贫然馕吨鴩彝ㄟ^制度規(guī)范生成式人工智能，使其實踐應用中顯示透明性和可監(jiān)督性，增進人類用戶的理解和信任，從而確保人工智能媒介應用能夠負責任地為人類服務(wù)。

二是堅持現(xiàn)代化導向，著力提升生成式人工智能媒介安全治理能力。隨著生成式人工智能媒介的社會普及且不斷發(fā)展，其所帶來的意識形態(tài)風險愈加復雜而深刻，需要不斷加強防范與應對，推進安全治理能力現(xiàn)代化。一方面，堅持責任原則，推進一元主導與多元參與的共治格局。從宏觀上看，由于以ChatGPT 為代表的生成式人工智能媒介技術(shù)發(fā)展和社會應用的生態(tài)系統(tǒng)性，需要國家發(fā)揮主導性力量，既要將人工智能媒介應用和發(fā)展納入高階治理議程，又要推進相關(guān)公共政策產(chǎn)品的供給，發(fā)揮政策規(guī)范、支持和導向功能，形成智能技術(shù)創(chuàng)新應用的良好生態(tài)，協(xié)調(diào)推進人工智能技術(shù)健康有序發(fā)展。同時，尊重多元化力量，構(gòu)建涵蓋行業(yè)協(xié)會、數(shù)字平臺、第三方機構(gòu)、網(wǎng)絡(luò)用戶在內(nèi)的社會共治框架。特別是應強化數(shù)字平臺的安全主體責任意識，督促平臺在推廣生成式人工智能應用中加強信息安全管理，定期審核算法模型，建立安全評估機制，構(gòu)建識別不良訓練數(shù)據(jù)的特征庫，主動剔除違法信息、有毒數(shù)據(jù)，防止出現(xiàn)算法屏蔽信息、編造虛假信息、控制操縱信息等信息干預亂象。另一方面，立足生成式人工智能媒介的技術(shù)特性，不斷豐富更加規(guī)范且彈性化的治理方式。由于生成式人工智能技術(shù)具有較高的知識壁壘且常被平臺公司刻意隱藏在公眾視線之外，再加上其本身還處于不穩(wěn)定的迭代演化狀態(tài)，實踐中對其治理不宜采用過于僵硬的、靜態(tài)化監(jiān)管，而更應該選擇更具規(guī)范性/功能性的彈性方法。具體來說，就是要密切追蹤生成式人工智能的迭代發(fā)展與社會滲透，及時完善相關(guān)技術(shù)應用標準和針對內(nèi)容虛假、信息偏差、輿論風險等不良行為的基本規(guī)范，在劃清媒介技術(shù)應用法制底線和安全紅線基礎(chǔ)上，綜合應用技術(shù)、行政及市場等治理手段，動態(tài)防范和應對其在內(nèi)容生成上的意識形態(tài)風險。

（三）以用戶媒介素養(yǎng)防范模型反訓

在生成式人工智能媒介建構(gòu)的話語場景中，用戶始終是意識形態(tài)風險主要作用對象和能動主體。這意味著不僅生成式人工智能媒介能在話語互動過程中塑造用戶的心智模式，而用戶對話的數(shù)據(jù)輸入也能作為智能技術(shù)的訓練原料反過來形成智能傳播的反訓。因而，持續(xù)的用戶媒介素養(yǎng)提升，無疑能夠有助于優(yōu)化智能對話的信息環(huán)境和話語生態(tài)。

一是增強用戶的數(shù)據(jù)意識和媒介素養(yǎng)，以筑牢意識形態(tài)安全防線。用戶廣泛參與到生成式人工智能媒介治理之中，會形成抵御各種意識形態(tài)威脅、維護意識形態(tài)安全的最強大防線，但其前提是用戶須具備足夠的素養(yǎng)和能力來發(fā)揮相應的作用。首先，要提升用戶的數(shù)據(jù)認知，理解智能算法、語言模型的運行邏輯，理性接受生成式人工智能提供的信息和觀點，對信息交互保持審慎的態(tài)度。理想情況下，用戶應能夠辯證地看待生成式人工智能媒介并不是完全排斥技術(shù)潮流、抵制智能技術(shù)的融入，而是要以批判的思維審視新的智能工具，并且警惕對話生成型智能媒介的西方意識形態(tài)滲透風險。其次，要在智能交互過程中提升自身的數(shù)據(jù)表達素養(yǎng)。公眾在人機交互中應強化自身的主體意識，提高對數(shù)據(jù)的汲取、處理、利用、轉(zhuǎn)化的能力，避免用戶主體的思維意識完全依附于智能媒介。通過與生成式人工智能媒介進行充分的對話，在持續(xù)的實踐中逐漸形成符合智能時代的思想觀念和話語實踐。再次，要養(yǎng)成用戶善用生成式人工智能媒介的能力。國家應積極利用廣泛的宣傳教育渠道，向全社會普及前沿智能技術(shù)知識，幫助民眾樹立正確的智能技術(shù)觀，理性接納生成式人工智能媒介帶來的改變，提升利用技術(shù)分析問題和解決問題的能力，以更好地應對技術(shù)引發(fā)的工具理性的沖擊。

二是引導正向信息傳播和對話反饋，以消解算法意識形態(tài)偏見。生成式人工智能媒介能夠利用真實的用戶主體的信息輸入和反饋進行模型正循環(huán)。作為能動的人，任何意識形態(tài)的目標只有借助人的主體功能才能達到。[19]364也就是說，用戶并不是天然的被技術(shù)所規(guī)訓的客體，而是能成為利用對話交互機制馴化技術(shù)的主體。一方面，從技術(shù)本質(zhì)的最直接呈現(xiàn)來看，人是主體，技術(shù)是對象，意識形態(tài)風險始終通過人這個主體范疇才能形成影響。雖然生成式人工智能應用是由工程師設(shè)計并推向公眾，但其卻是在用戶使用過程中實現(xiàn)不斷迭代發(fā)展。生成式人工智能媒介在應用中雖然可能帶有設(shè)計者的偏見，但其意識形態(tài)影響的最終走向必然取決于規(guī)模用戶。防范和化解生成式人工智能媒介所涉意識形態(tài)風險，重要的是加強引導，提升用戶在智能對話場景中的傳播主體意識。當用戶在智能對話過程中能夠進行正向信息傳播，就會成為規(guī)訓技術(shù)的重要力量并進而能從輸入端防避生成式人工智能媒介所制造的話語危機和意識形態(tài)風險。另一方面，從用戶關(guān)系的社會尺度看，使用媒介技術(shù)產(chǎn)品的用戶是現(xiàn)實的人，受現(xiàn)實社會意識形態(tài)影響。實踐中，防范和化解生成式人工智能媒介所涉意識形態(tài)安全風險，需要線上/線下聯(lián)動發(fā)揮主流意識形態(tài)的引領(lǐng)作用，培養(yǎng)用戶的價值自覺性，使其能夠在日常使用過程中自覺進行理性有序的話語表達而避免惡意對話內(nèi)容的輸入。同時，利用好生成式人工智能的反饋強化學習機制，推動用戶價值表達與語言模型價值輸出雙向賦能，確保主流意識形態(tài)表達在人機交互反饋中的主導性在場，克服語言模型帶有的先驗意識形態(tài)，實現(xiàn)對人工智能媒介意識形態(tài)風險的長效防范。

四、結(jié)語

以ChatGPT 為代表的新一代智能媒介的廣泛社會應用，標志著人類社會正式步入生成式人工智能傳播新時代。通過創(chuàng)設(shè)自動化對話場景、生成智能化信息內(nèi)容以及延伸全新人機人互動關(guān)系，現(xiàn)如今生成式人工智能媒介不再是單純的工具化應用，而是越來越展現(xiàn)出強意識形態(tài)向度的潛能?？梢哉f，新一代生成式人工智能正在建構(gòu)一種全新的信息傳播與社會互動框架，其所導致的網(wǎng)絡(luò)生態(tài)變革和風險已經(jīng)初步顯現(xiàn)。當下，“意識形態(tài)較量總體呈現(xiàn)‘西強我弱’的態(tài)勢，網(wǎng)絡(luò)空間成為國家意識形態(tài)交流交鋒交融的前沿陣地，成為威脅我國總體安全的‘最大變量’”[20]。對此，我們不僅要考察和認識生成式人工智能的媒介應用態(tài)勢和趨勢，更需要深入分析其附著的價值屬性和傾向、研判其隱含的意識形態(tài)問題。黨的二十大報告部署“建設(shè)具有強大凝聚力和引領(lǐng)力的社會主義意識形態(tài)”工作，其中包括“加強全媒體傳播體系建設(shè)，塑造主流輿論新格局。健全網(wǎng)絡(luò)綜合治理體系，推動形成良好網(wǎng)絡(luò)生態(tài)”[21]53。我們在推進生成式人工智能技術(shù)發(fā)展與媒介化應用的同時，尤其需要立足國家安全的戰(zhàn)略高度，重視可能衍生的意識形態(tài)安全風險，加強前瞻性預防與規(guī)范化引導，在增益社會的同時能夠最大限度消減風險，確保生成式人工智能媒介安全、可控、向善的前提下有序健康發(fā)展，與時俱進推動形成良好智能網(wǎng)絡(luò)生態(tài)，長效維護智能傳播時代國家意識形態(tài)安全。