王玉婷 王凡

摘要：以大數(shù)據(jù)、虛擬現(xiàn)實為核心的人工智能正深刻改變著社會各領(lǐng)域，為意識形態(tài)工作帶來了巨大變革。人工智能正悄無聲息地操控著人們的意識形態(tài)，主要表現(xiàn)在技術(shù)工具對意識形態(tài)的操控、智能機器人本身的意識形態(tài)、資本家對意識形態(tài)的操控。這些現(xiàn)象帶來了算法獨裁與算法偏見風(fēng)險、透明人法律與倫理風(fēng)險、核心價值與話語權(quán)威的消解風(fēng)險、意識形態(tài)沖突失控風(fēng)險。為此，需要采取加強算法治理和個人隱私保護、修復(fù)技術(shù)漏洞與人為缺陷、規(guī)范人工智能從業(yè)者的思想和行為等措施防范風(fēng)險。

關(guān)鍵詞：人工智能;深度變革;意識形態(tài);操控;風(fēng)險防范

中圖分類號：D64 文獻標識碼：A 文章編號：1004-9436（2022）01-00-03

人工智能技術(shù)的出現(xiàn)，不僅為社會生產(chǎn)力的發(fā)展注入了新鮮的動力，也為社會生產(chǎn)力的解放提供了重要途徑，使社會生產(chǎn)方式和人類思維方式發(fā)生了巨大變革。人工智能是一種能夠深刻改變世界的顛覆性技術(shù)，當其滲透于社會的每個角落、人類活動高度依賴智能機器時，人們的意識形態(tài)就會被人工智能操控[1]。因此，深入思考當前意識形態(tài)領(lǐng)域面臨的變革與困境，人工智能技術(shù)操控人類意識形態(tài)的風(fēng)險，化挑戰(zhàn)為機遇、化風(fēng)險為動力，這對形成具有強大凝聚力的意識形態(tài)具有重要的現(xiàn)實意義。

一、意識形態(tài)工作的深度變革

人工智能技術(shù)正悄無聲息地改變著社會多個領(lǐng)域，尤其對意識形態(tài)領(lǐng)域工作的影響將在未來更加深化，使意識形態(tài)工作面臨更多機遇與挑戰(zhàn)。現(xiàn)階段，人工智能技術(shù)對意識形態(tài)領(lǐng)域的變革主要體現(xiàn)在傳播模式、工作機制、表現(xiàn)方式等方面。

第一，意識形態(tài)傳播模式的變革。近年來，互聯(lián)網(wǎng)技術(shù)的快速成熟與普及，使網(wǎng)絡(luò)平臺成為信息傳播的主要陣地，以雙向傳播機制打破了傳統(tǒng)信息傳播模式的時空壁壘，大幅度提升了信息傳播效率。隨著大數(shù)據(jù)和算法技術(shù)的發(fā)展，原本依靠人工的信息收集、處理、分析以及傳播等工作逐漸被機器承擔(dān)，信息傳播模式的變革正式開啟[2]。

第二，意識形態(tài)工作機制的變革。社會生產(chǎn)力的發(fā)展往往伴隨著統(tǒng)治階級內(nèi)部的分化，一些在身份地位、知識體系等方面具有明顯優(yōu)勢的人開始作為意識形態(tài)家出現(xiàn)[3]。其職責(zé)在于建構(gòu)符合統(tǒng)治階級意志的話語，以達到賦予統(tǒng)治階級合法性的目的。從本質(zhì)來看，意識形態(tài)是社會統(tǒng)治階級的思想，并非草率、零散的話語表達，而是由該階級的意識形態(tài)家通過凝練、整合、概括等方式所呈現(xiàn)的物質(zhì)關(guān)系[4]?？梢哉f，意識形態(tài)話語的形成取決于占據(jù)主導(dǎo)地位的思想家，借助話語載體將階級意志展現(xiàn)出來。意識形態(tài)家不僅是意識形態(tài)話語的制造者，還是階級意識形態(tài)話語的維護者。

人工智能時代，機器學(xué)習(xí)技術(shù)已滲透于社會的各個領(lǐng)域，基于智能算法的機器人已成為可能，這使意識形態(tài)話語的生產(chǎn)主體得到了延伸。受人工智能技術(shù)的影響，意識形態(tài)工作實現(xiàn)了向人機協(xié)同機制的轉(zhuǎn)變。一方面，人工智能已成為一種搶占意識形態(tài)話語權(quán)的重要手段，不僅具有主流意識形態(tài)保護功能，還具有意識形態(tài)滲透功能[5]。另一方面，基于智能算法的機器寫作模式是指通過篩選、分類、排序、過濾等方式處理海量數(shù)據(jù)，將自動化數(shù)據(jù)填充至人工模板中。當人工智能發(fā)展到一定階段，寫作機器人可以自主創(chuàng)新文章模板時，寫作機器人便成為新聞輿論的生產(chǎn)主體。

我國騰訊公司生產(chǎn)的智能機器人拉開了國內(nèi)自動化新聞寫作的帷幕。之后，“小封機器人”“快筆小新”“張小明”“小融”等寫作機器人迅速涌現(xiàn)，新聞編輯工作逐漸由加載算法程序的機器人承擔(dān)，迎來了輿論新聞的生產(chǎn)潮流。在意識形態(tài)話語自動化生產(chǎn)中，寫作機器人傳遞的仍是人類的意識形態(tài)。意識形態(tài)家與人工智能機器人共同協(xié)作，占據(jù)了意識形態(tài)領(lǐng)域的支配性地位。

第三，意識形態(tài)呈現(xiàn)方式的變革。傳統(tǒng)媒體時代背景下，文字、圖像、聲音是意識形態(tài)呈現(xiàn)的主要形式。隨著網(wǎng)絡(luò)媒體時代的到來，意識形態(tài)可通過動畫、音頻、視頻等媒介展現(xiàn)出來。到了人工智能時代，虛擬現(xiàn)實技術(shù)和可穿戴設(shè)備的出現(xiàn)突破了傳統(tǒng)二維的信息呈現(xiàn)格局。通過運用虛擬技術(shù)模擬現(xiàn)實場景，為人們帶來視、聽、觸等多重感官體驗，這種虛擬與現(xiàn)實交織的沉浸式空間的構(gòu)建及運用，能夠帶給受眾一種身臨其境的動態(tài)體驗。得益于人工智能技術(shù)的優(yōu)勢，意識形態(tài)的呈現(xiàn)也實現(xiàn)了向立體化形式的過渡。

二、人工智能操控意識形態(tài)的具體表現(xiàn)

從人工智能與人類關(guān)系及其發(fā)展的社會因素視角來看，人工智能對人類意識形態(tài)的控制主要體現(xiàn)在三個方面。

一是技術(shù)工具對意識形態(tài)的操控。在弱人工智能階段，人類與人工智能是使用主體與客體的關(guān)系，后者對前者的操控表現(xiàn)為算法操縱[6]。信息爆炸的互聯(lián)網(wǎng)時代，機器學(xué)習(xí)技術(shù)從自然科學(xué)領(lǐng)域拓展至人類社會領(lǐng)域，對人類行為、偏好或需求進行預(yù)測分析。機器學(xué)習(xí)技術(shù)的核心在于知識發(fā)現(xiàn)問題，在算法運用中存在著對意識形態(tài)的操控。隨著網(wǎng)絡(luò)社交平臺的大量出現(xiàn)，相比于文字表達，人們更傾向于使用圖片和視頻表達想法或情感。

二是人工智能機器人本身的意識形態(tài)。未來發(fā)展必將迎來機器與人類并駕齊驅(qū)的強人工智能階段。在強人工智能階段，機器與人類之間或共存或?qū)?，由此產(chǎn)生了兩種不同的言論，即和諧共存論和分裂對抗論[7]。

三是資本家對意識形態(tài)的操控。從社會因素層面來看，意識形態(tài)的操控問題涉及復(fù)雜的社會關(guān)系。利益紛爭的背后是資本家利用人工智能操控意識形態(tài)的丑惡面相，這也是當今社會不可避免的現(xiàn)實問題。人工智能時代，利用智能機器能夠為資本家?guī)砀嗟馁Y本增值。

此外，馬克思還論述了權(quán)力與技術(shù)之間的關(guān)系，認為工業(yè)機器與工人是敵對的，技術(shù)的進步意味著工人階級被剝削程度的加深。工業(yè)革命賦予了資產(chǎn)階級統(tǒng)治權(quán)力，形成了資產(chǎn)階級的意識形態(tài)。而工人階級想要打破被奴役的困境，就必須推翻資產(chǎn)階級在意識形態(tài)領(lǐng)域的統(tǒng)治，獲得政治上的統(tǒng)治權(quán)，打破資本對技術(shù)的操控。

而人工智能又為資產(chǎn)階級取得意識形態(tài)領(lǐng)域的領(lǐng)導(dǎo)地位提供了支撐，同時人工智能為人類社會帶來的福利不容小覷，如生產(chǎn)力提升、信息共享、物質(zhì)生活極大豐富等，這些都為實現(xiàn)共產(chǎn)主義、轉(zhuǎn)變資產(chǎn)階級的意識形態(tài)創(chuàng)造了重要的現(xiàn)實條件。但值得注意的是，馬克思面對的僅僅是工業(yè)技術(shù)，而人工智能技術(shù)是一種深刻影響社會發(fā)展的顛覆性技術(shù)，其影響遠大于工具技術(shù)。

三、人工智能操控意識形態(tài)存在的風(fēng)險

人工智能的出現(xiàn)使意識形態(tài)工作發(fā)生了深刻變革，應(yīng)用智能算法技術(shù)可實現(xiàn)對個體意識形態(tài)的追蹤、預(yù)測，提升意識形態(tài)傳播效率和精度，增強大眾對主流意識形態(tài)的認同感。但同時也為意識形態(tài)工作帶來了諸多風(fēng)險。

第一，算法獨裁與算法偏見風(fēng)險。算法獨裁在意識形態(tài)上主要體現(xiàn)在兩個方面。一方面，權(quán)力與資本控制下的技術(shù)人員可通過更改算法得出有利于自身利益的裁判結(jié)果。當他們利用算法篡改領(lǐng)域內(nèi)的運行規(guī)律時，將會對社會造成無法預(yù)估的危害。另一方面，人類對算法的過度依賴。利用算法能夠有效實現(xiàn)對個體意識形態(tài)數(shù)據(jù)的分析、歸類以及聚合。而人們?yōu)榱斯?jié)省時間和精力往往會賦予算法選擇權(quán)，這就導(dǎo)致了算法獨裁。人工智能時代，人工智能算法將破解人類的自我意識，而由于機器與人類意識形態(tài)的差異，機器人可能成為未來的獨裁者。

第二，透明人和倫理風(fēng)險。在人工智能領(lǐng)域，人臉識別、掌紋識別、機器視覺等技術(shù)的應(yīng)用使公眾的個人隱私面臨被泄露的風(fēng)險，甚至可能變成透明人?，F(xiàn)階段，語音語義識別、自動化搜索、人機交互等領(lǐng)域的迅速發(fā)展主要依賴于對數(shù)據(jù)群的機器分析，這實際上也是操控意識形態(tài)的一種方式。大數(shù)據(jù)技術(shù)是將海量數(shù)據(jù)轉(zhuǎn)化為有價值信息的重要工具，目前已成為社會各領(lǐng)域必不可少的重要資源。

第三，核心價值與話語權(quán)威的消解風(fēng)險。人工智能技術(shù)的出現(xiàn)從根本上改變了人們接收信息的議程。在信息領(lǐng)域中，人們只會選擇自身感興趣的內(nèi)容，進而被束縛于類似蠶繭的信息繭房之中。在智能算法的精準推薦下，用戶將無限度、同質(zhì)化地獲得與其意識形態(tài)趨同的信息，從而加劇信息繭房效應(yīng)，使人們處于封閉的輿論場場域中，進而因缺乏主流意識形態(tài)的引導(dǎo)而迷失正確的價值觀。

人工智能技術(shù)的產(chǎn)生實現(xiàn)了對傳媒信息資源的開放與共享，打破了以往主流意識形態(tài)的壟斷地位，使其面臨權(quán)威被消解的風(fēng)險。人工智能時代，信息傳播內(nèi)容取決于智能算法推薦，由算法承擔(dān)構(gòu)建意識形態(tài)話語的職責(zé)，取代主流媒體，發(fā)揮引導(dǎo)輿論的職能，威脅主流意識形態(tài)的話語權(quán)威。

第四，意識形態(tài)沖突失控風(fēng)險。隨著人工智能時代的來臨，云計算、物聯(lián)網(wǎng)、大數(shù)據(jù)等新興技術(shù)的綜合應(yīng)用，打破了傳統(tǒng)信息傳播模式的局限，能夠?qū)⒁庾R形態(tài)通過網(wǎng)絡(luò)傳遞給所有人，并精確捕獲個人信息。目前，我國人工智能的發(fā)展優(yōu)勢在于龐大的互聯(lián)網(wǎng)群體和海量的用戶數(shù)據(jù)，但核心技術(shù)與西方國家先進技術(shù)仍有較大差距。

四、防范人工智能意識形態(tài)操控風(fēng)險的策略

人工智能發(fā)展過程中，人工智能對意識形態(tài)的操控風(fēng)險不可避免，必須認真分析、理性思索，積極尋找有效的應(yīng)對策略。人與技術(shù)存在詮釋、具身、它異等關(guān)系，人工智能是以它者身份作為人類的伙伴而存在的，兩者之間實質(zhì)上就是一種它異關(guān)系。這就為防范人工智能對意識形態(tài)的操控風(fēng)險提供了思路。筆者認為，應(yīng)該從以下四個方面入手。

第一，加強算法治理和個人隱私保護。人工智能算法在意識形態(tài)領(lǐng)導(dǎo)權(quán)的掌控上極具隱秘性和便捷性，需要從倫理、技術(shù)及國家層面進行綜合治理。一方面，政府應(yīng)進一步完善個人信息保護相關(guān)法律法規(guī)，為規(guī)范良性算法設(shè)立相應(yīng)的法律條例。同時加大執(zhí)法力度和監(jiān)管力度，優(yōu)化算法治理體系，調(diào)整多元治理主體之間的良性關(guān)系，明確算法治理主體的法律責(zé)任。另一方面，針對人為利用人工智能操控意識形態(tài)的行為，可以建立高效、系統(tǒng)、科學(xué)的網(wǎng)絡(luò)輿情監(jiān)測系統(tǒng)。按照“技術(shù)反制技術(shù)”原則，運用大數(shù)據(jù)挖掘技術(shù)和智能算法搜集、整理、分析和監(jiān)測網(wǎng)絡(luò)言論，加大對意識形態(tài)惡意操控者的監(jiān)督力度，及時制止或規(guī)避惡意誤導(dǎo)主流意識形態(tài)的行為。

第二，規(guī)范人工智能從業(yè)者的思想和行為。從本質(zhì)來看，人工智能對意識形態(tài)的操控就是人對人的操控，因此必須設(shè)立合理科學(xué)的人工智能倫理準則，加強對人工智能工作者的行為監(jiān)管。道德判斷必須以理性道德原則及健全的論據(jù)為前提，規(guī)范性主張實質(zhì)上是通過理性話語表達的道德原則。根據(jù)該定義，人工智能倫理準則必須以道德信念為基礎(chǔ)，以服務(wù)于人類為原則，以服務(wù)于國家利益為目的，而非傳遞異化意識形態(tài)的借口。電氣和電子工程師協(xié)會提出了三項人工智能倫理標準，即“道德化的人工智能和自動系統(tǒng)的福祉衡量標準”“機器化系統(tǒng)、智能系統(tǒng)和自動系統(tǒng)的倫理推動標準”“自動和半自動系統(tǒng)的故障安全設(shè)計標準”。這些都是為了保護人類不受人工智能的威脅。

第三，修復(fù)技術(shù)漏洞與人為缺陷。借助人工智能技術(shù)裹挾轉(zhuǎn)移公眾意識形態(tài)的形式仍未改變斗爭的本質(zhì)，只是在形態(tài)上更加隱秘，在意識形態(tài)話語傳播上更加迅速、便捷。因此，必須充分運用人工智能作為工具技術(shù)在社會治理、人才培養(yǎng)、社會發(fā)展上的優(yōu)勢。在最大化發(fā)揮其技術(shù)紅利的同時，保持正確的意識形態(tài)。人工智能無法完全擺脫資本、權(quán)力和技術(shù)的控制，且在一定條件下具有異化人的作用，需要高度警惕其導(dǎo)致的極端價值取向風(fēng)險。此時，就需要借助技術(shù)力量及時檢測并修復(fù)技術(shù)漏洞，規(guī)避人工智能領(lǐng)域的人為缺陷。

五、結(jié)語

人工智能的發(fā)展在未來必將迎來更大變革，人工智能發(fā)展與人類意識形態(tài)問題交織必定會帶來人工智能技術(shù)操控意識形態(tài)的風(fēng)險。必須正確認識人工智能對意識形態(tài)工作的變革，掌握人工智能操控意識形態(tài)的原因及具體表現(xiàn)，研判該現(xiàn)象可能帶來的風(fēng)險及相應(yīng)的風(fēng)險防范策略，為避免意識形態(tài)沖突、促進人與機器和諧共存提供思路。

參考文獻：

[1] 朱定局.人工智能的文藝夢想和機器人的未來[J].華南師范大學(xué)學(xué)報（社會科學(xué)版），2019（5）：183-188，192.

[2] 余乃忠.自我意識與對象意識：人工智能的類本質(zhì)[J].學(xué)術(shù)界，2017（9）：93-101.

[3] 馬克思恩格斯選集：第1卷[M].北京：人民出版社，2012：56.

[4] [美]劉易斯·芒福德.技術(shù)與文明[M].陳允明，王克仁，李華山，譯.李偉格，石光，校.北京：中國建筑工業(yè)出版社，2009：203.

[5] 石德金，劉蕊.新時代意識形態(tài)治理新格局：基于本土化治理理論的視角[J].學(xué)習(xí)與探索，2020（2）：52-60.

[6] [法]阿爾都塞.哲學(xué)與政治：阿爾都塞讀本[M].陳越，編譯.長春：吉林人民出版社，2003：87.

[7] 弗洛里迪.第四次革命：人工智能如何重塑人類現(xiàn)實[M].王文革，譯.杭州：浙江人民出版社，2016：198.

作者簡介：王玉婷（1981—），女，湖北武漢人，博士，副教授，研究方向：高校思想政治教育。

王凡（1998—），女，河南駐馬店人，碩士在讀，研究方向：思想政治教育。