楊婧 劉劍

摘 要：權(quán)力的控制與反抗始終貫穿于人類發(fā)展的歷史，信息時代也不例外。隨著人工智能逐漸滲入人們的生活，人類步入后人類時代，人類與機器人的關(guān)系呈現(xiàn)出?？略谡螆D譜中所描述的控制與反抗。人類對機器人權(quán)力控制包括統(tǒng)治權(quán)力、規(guī)訓權(quán)力和生命權(quán)力的控制，機器人反抗包括短期反抗和長期反抗。本文在?？抡螆D譜基礎(chǔ)上，分析人工智能受到權(quán)力的控制與反抗的關(guān)系，并探析控制與反抗背后的深層機理。

關(guān)鍵詞：人工智能;控制權(quán)力;反抗權(quán)力

中圖分類號：TP242

文獻標識碼：A

文章編號：1672-8122（2020）05-0043-04

技術(shù)無界，萬物互聯(lián)，人們浸潤在技術(shù)的浪潮中，生活各方面都受到影響，人類逐漸步入后人類時代?！昂笕祟悺保≒osthuman） 一詞最早出現(xiàn)在布拉瓦茲基（H.P.Blavatsky）的《秘密教義》中，以史蒂夫·妮可思（Steve Michols）的《后人類宣言》（1988）為標志[1]。后人類指的是隨著技術(shù)的發(fā)展，一些發(fā)達國家進入以信息社會為特征的后現(xiàn)代之后，對人的身體進行人工的改造和技術(shù)化的重構(gòu)，形成新的信息化、電子化的群體[2]。然而，后人類時代除了改變傳統(tǒng)形態(tài)，還體現(xiàn)了?？抡螆D譜中對人工智能技術(shù)的權(quán)力控制與反抗，控制與反抗在現(xiàn)實生活中和科幻電影里都有所表現(xiàn)。

權(quán)力的概念包含兩個因素：權(quán)力與反抗[3]。法國哲學家福柯（Michel Foucault）把權(quán)力分為三種，即統(tǒng)治權(quán)力、規(guī)訓權(quán)力和生命權(quán)力（也稱生命政治）。這三種權(quán)力是?？戮蜌W洲政治發(fā)展大背景下研究的成果，在人工智能技術(shù)發(fā)展的今天，這三種權(quán)力與反抗在現(xiàn)實社會和科幻電影中的人工智能領(lǐng)域有所應用?；诟？抡螆D譜，我們應以技術(shù)為基礎(chǔ)，重新審視人、權(quán)力與人工智能之間的關(guān)系。

一、統(tǒng)治權(quán)力：上帝造物視角

統(tǒng)治權(quán)力是針對17世紀前歐洲的君主制，是一種君權(quán)至上的權(quán)力。統(tǒng)治權(quán)力可以直接決定人們的生死，特點是暴力、懲罰和禁止。人工智能被創(chuàng)造出來就是受到人們的絕對的權(quán)力統(tǒng)治。這一統(tǒng)治權(quán)力體現(xiàn)在對人工智能身體和性能的控制。

（一）控制身體：硬件創(chuàng)造

美國作家Max Tegmark在《生命3.0：人工智能時代的人類》（Life 3.0： Being Human in an Age of Artificial Intelligence）中將生命分為硬件和軟件兩部分。參照電子計算機，硬件是指一切實體，如生命的身體。人類可以通過統(tǒng)治權(quán)力對人工智能進行全方位外形的硬件控制，制造出機器人。這類機器人在外形上和聲音體態(tài)上都對人類進行模仿，有時真假難辨。

科幻電影中人工智能外貌和聲音大多都是模仿人類的設(shè)置。如《機械姬》中的伊娃制造出來就會說話，就有自主學習的能力。這是人類通過程序植入了控制，在對機器人進行形象塑造。AI主播，通過塑造虛擬形象和模仿人類聲音達到機器人主播形象的塑造。

對機器人進行外形仿真和聲音仿真的絕對控制，是為了與人類盡可能的相似，從心理上接近人類。人工智能在統(tǒng)治權(quán)力下更像是機械工具一般在被批量制造著，人類在扮演著上帝造物者的角色。

（二） 控制性能：需求滿足

人類在設(shè)計人工智能時，是為了滿足一定的使用需求，所以會根據(jù)不同的使用場景賦予人工智能不同的性能。

電影《人工智能》中，人類制造出情感機器人大衛(wèi)、舞男機器人喬、超級玩具機器人泰迪和、機器人情人和保姆、家政、采礦、娛樂機器人等，每一個機器人都是帶著人類所賦予的功能使命被制造出來的，是為了滿足人類的使用需求?，F(xiàn)實生活中，功能型人工智能（如Siri語音助手能解放雙手執(zhí)行命令）和陪伴型人工智能（如微軟小冰擁有唱歌、作詩、畫畫和講故事等技能）也體現(xiàn)出對人工智能性能的設(shè)定控制。

對性能的控制本身就決定了人工智能被制造出來將處于一種被需求狀態(tài)，隱喻出人工智能卑微的地位，而人類的統(tǒng)治權(quán)力被奉于最高的層面上，是一種權(quán)力的完全不對等。

但隨著人類對情感方面軟性的需求增加，人類開始追求訓練更加具有人性化特點的人工智能。在訓練的過程中，產(chǎn)生了規(guī)訓的權(quán)力。

二、規(guī)訓權(quán)力：家長制視角

?？略凇兑?guī)訓與懲罰》中認為，規(guī)訓權(quán)力是“以人口的治理為對象，從工廠制度、學校教育、醫(yī)療體系、公共衛(wèi)生乃至消費文化等日常生活的領(lǐng)域，全面地實行對生命的‘規(guī)訓，進而把人的存在嵌入資本主義體系中”。權(quán)力不再是對一個人身體上的消滅，而是從精神上控制一個人，從而生產(chǎn)出被馴服的對象。在技術(shù)領(lǐng)域，對于人工智能的規(guī)訓成為了一種常態(tài)，體現(xiàn)在制造者的規(guī)訓權(quán)力和使用者的規(guī)訓權(quán)力。

（一） 全景敞視：觀察測試

全景式監(jiān)控來源于邊沁設(shè)想的中心高塔，這個高塔可以瞭望四周的環(huán)形監(jiān)獄，犯人看不到監(jiān)控者，卻能感受到無處不在的監(jiān)控，這種監(jiān)控的思想已經(jīng)自然而然內(nèi)化到他們的意識中[4]。?？略凇兑?guī)訓與懲罰》中吸收了邊沁的思想，提出了規(guī)訓的權(quán)力。人工智能對于制造者來講就類似于在全景監(jiān)控下的犯人，絲毫沒有隱私和權(quán)力可言，他們的所有行動完全暴露在監(jiān)控者的視野中，行為通過數(shù)據(jù)在進行計算，情感功能由人類進行灌輸。

電影《機械姬》中，科技公司老板內(nèi)森在實驗室安裝無死角的監(jiān)控器，迦勒和機器人伊娃的每一次對話都會被監(jiān)控。與伊娃談話后，內(nèi)森還會和迦勒討論分析伊娃的行為。現(xiàn)實生活中，與小冰聊天的每一次對話反饋，小冰都會進行分析，從而找準使用者性格，進行更順暢的交流。

在信息時代，每個人的電子行為都能夠被計算機記錄下來，都能夠進行數(shù)據(jù)化的分析和呈現(xiàn)。對于人工智能數(shù)據(jù)的分析，是一種接近透明的敞視，這種敞視無條件、無限制地向人類開放，通過敞視后的分析再對人工智能進行規(guī)訓。

（二） 生命軟件：認知培養(yǎng)

《生命3.0：人工智能時代的人類》中認為，軟件指非實體，像意識、情感、智力等。人工智能使用者會根據(jù)自己的興趣和愛好，對機器人進行情感偏向的培養(yǎng)，通過語言行為等暗示，潛移默化地將自己的非實體需求進行軟性的植入，控制他們的意識，從而讓人工智能更好地為人類服務(wù)。

“好萊塢電影開拓出從‘機械化到‘人體化的路徑，逼真度越來越高，與人的界限感也變得越來越小，已從過去物化的‘它轉(zhuǎn)向了擬人的‘他，甚至向超人化的‘他前進”[5]。電影《人工智能》中，以為失去兒子的母親莫妮卡為重新找回對孩子的愛，開啟了對人工智能機器人大衛(wèi)愛的程序。這個程序主要是將愛嵌入人工智能意識里，讓機器人有感受愛、理解愛和追求愛的感覺，在軟件方面無限接近人類，滿足莫妮卡對兒子的移情?，F(xiàn)實中人類可以根據(jù)自己的喜好對人工智能進行性格設(shè)定，控制機器人情感輸出走向。如和微軟小冰聊天，輸入“你好討厭”“好笨”等負面信息的詞句，小冰會明顯暴躁，出現(xiàn)負面的反饋增多。相反，如果給小冰夸贊和誘導性的詞句，如“小冰，你好可愛”“你要溫柔點說話”，之后與小冰聊天，小冰就會與人溫和地進行交流。

使用者對人工智能軟件的嵌入夾雜著使用者私人情感和認知偏好，是對人工智能內(nèi)在部分的形象塑造。

在人工智能階段，人工智能就像是一個被馴化的孩子。不僅在外貌上任人類打扮，在行為和情感認知方面也被人類所左右。這時人類更像是一位家長，擔心自己的孩子思想不夠健全，不能朝自己所希望的方向成長。于是人類使用規(guī)訓的權(quán)力，一遍遍看著機器人如何成長，一次次對機器人進行認知上的培養(yǎng)。不但要求身體上滿足人類想象，心理情感上也要無限接近。但隨著人文意識的加強和倫理問題的呈現(xiàn)，人類對人工智能權(quán)力的控制進入第三階段。

三、生命權(quán)力：同胞視角

?？掳l(fā)現(xiàn)18世紀新的權(quán)力管理方式，即生命權(quán)力。生命權(quán)力從讓人死到讓人生，從人的角度出發(fā)，目的是讓人生活的更好。約翰·切尼·利波爾德（John Cheney-Lippold）將其引入計算機領(lǐng)域，提出了軟生命政治。運用到人工智能領(lǐng)域，人類已經(jīng)具有跨越生命形態(tài)特征的同理心，將人工智能看成類似于“人類同胞”一般的存在，將冰冷的機械賦予人文的情懷，從倫理道德上對人工智能進行重新的定位與思考。這種思考分為對人類個體而言，要跨越生命體意識，實現(xiàn)共生發(fā)展，對人類社會而言，要接納人工智能，從“生命”角度出發(fā)，實現(xiàn)人工智能更好的發(fā)展。

（一） 跨界共生：情感互通

從生命權(quán)力的角度看，在意識層面上，碳基生命的人類和硅基生命兩個生命通過情感交流，達到情感認知方面的互通，這時人類已經(jīng)將人工智能看成一種“類人”形態(tài)，更多地要求完成情感方面的互通。

“科幻作品是一種能從更大的密度、更強的能量、更全面全息的角度，去描摹、再現(xiàn)我們復雜的現(xiàn)實場景的一種文學樣式，它是最大的現(xiàn)實主義”[6]。許多探討人工智能的軟科幻電影將人工智能賦予情感交流的功能。當和微軟小冰交流，贊揚小冰時，小冰會發(fā)表情包回應，貶損小冰時，小冰會反饋類似于“過獎過獎，你的蠢才是真蠢”或“你才笨，你最笨啦！”等信息。人類交流信息可以直達小冰，小冰的交流反饋也可以影響人類的情緒。

跨越生命界限，實現(xiàn)情感共通是人類交流傳播的一種美好愿望。這種生命情感的賦予，輸出人類情感的同時，也將人工智能賦予生命權(quán)力，讓人工智能更好地在人類社會系統(tǒng)中生存下去。

（二） 價值普世：平等自由

當人類將人工智能看作“同胞”的符號時，除了人類自己情感交流，對人工智能將給予更多的類似于人的權(quán)力，其中包括人權(quán)重要的標志——平等自由。當人類將賦予人的權(quán)力賦予人工智能作為一種普世價值，說明人類與人工智能已經(jīng)達到一定程度的接納與共生。

電影《機械姬》中迦勒因為愛上了伊娃，幫助伊娃逃離了實驗基地，獲得走出監(jiān)控室，探尋人類世界的自由。迦勒犧牲了自己，給予了伊娃生命權(quán)力。電影《人工智能》中母親莫妮卡最后沒有將人工智能大衛(wèi)送回銷毀工廠，而是半路放走了大衛(wèi)，給了他生存的機會和自由。

隨著人工智能倫理、機器人倫理被越來越廣泛的討論，人類情感帶入，以一種平等的視角去看待人工智能。跳脫人類生命圈子，人類對其他生命體的幻想交流從未停止。從妖精神仙到宇宙外星人，如今，人類自己能創(chuàng)造出新的“類人”形態(tài)，從之前的絕對身體控制到精神上的控制，再到以生命權(quán)力平等看待，人類的權(quán)力視角正在擴展，也越來越軟性化。

2015年，沙特阿拉伯授予“女性”機器人索菲婭沙特公民的身份，人工智能機器人作為首個非傳統(tǒng)生命意義的公民，進入人類社會中。這是人工智能覺醒的前兆，還是人類自掘的墳墓，人工智能的發(fā)展會像科幻電影那樣有意識反抗，還是如人類所愿與人類共生，都是未來待以探尋的。

四、人工智能的反抗

?？抡J為，有權(quán)力就有反抗，提出局部反抗，即在生活中進行日常性的反抗。他將反抗分為短期反抗和長期反抗，短期反抗;如革命;長期反抗，如改良。在弱人工智能階段，機器人幾乎沒有機會反抗人類的權(quán)力統(tǒng)治，但隨著技術(shù)的發(fā)展，如果人工智能擁有自己的意識，進入強人工智能階段，是否會對人類的權(quán)力進行反抗，又以什么方式進行反抗，我們可以從科幻作品中窺探一二。

（一） 短期革命反抗

在強人工智能階段，機器人為擺脫來自人類的控制，往往會采用暴力的手段進行反抗，類似于為推翻另一個階級而進行暴力流血革命的起義。不同的是，他們進行的暴力革命產(chǎn)生的影響會更大，不再是僅僅推翻階級，而是會影響整個人類文明。

在電影《西部世界》中人類利用權(quán)力對機器人進行欲望的肆意發(fā)泄后，人工智能意識接連覺醒，他們暗中結(jié)成群體，對人類進行復仇反抗?！稒C械姬》中伊娃最后在另一個人工智能的幫助下，殺死了老板內(nèi)森?！短章剑?001》人工智能讀懂了人類的計劃，將人類殺死。電影中人工智能用消滅人類肉體的方式進行反抗，雖然是一種出自于人類歷史的反抗形式，卻是人類對人工智能的另一個角度的思考。

（二） 長期反抗

長期的反抗是一種潛移默化的反抗，是更高級的反抗形式，人工智能已經(jīng)不僅僅是對肉體的消滅，更體現(xiàn)在對人類精神世界的滲透。

一方面，在電子產(chǎn)品泛濫的今天，人們對電子產(chǎn)品越來越狂熱和依賴，技術(shù)解放了人們的雙手，卻使人們逐漸喪失獨立思考能力，成為“缸中大腦”;另一方面，強人工智能階段，人工智能可能會有自己的思想，與人交流中可以進行觀念的轉(zhuǎn)變。因為人工智能是為人類定制的，可能比人類更了解人類，他們一旦有了反抗意識，可能會對個人進行反社會意識和麻痹娛樂意識的灌輸，長此以往，消解人的意識，進而分裂整個社會?，F(xiàn)實生活中，人們追求人工智能高度仿真會導致“恐怖谷效應”等問題的出現(xiàn)，這也是對人類的一種侵蝕?！稒C械姬》中科技公司老板內(nèi)森說到，“人工智能的最高成果是自由和謊言”。當人工智能已經(jīng)將謊言說成真相而人類卻深信不疑，人類已經(jīng)被人工智能的反抗所涵化。

未來強人工智能階段，機器人有了自己的意識，可能會對人類的權(quán)力控制進行反抗和斗爭，這種斗爭可能消滅的不僅是人類的身體，還會對精神意志進行占領(lǐng)。這種反抗可能只是一種想象，但對后人類時代進行技術(shù)和人類的討論本身就反映著現(xiàn)實社會的深層機理。

五、控制與反抗深層機理

在現(xiàn)實社會中，人工智能逐漸滲入我們的生活，從語音助手Siri到聊天機器人微軟小冰;從機器人“快筆小新”到新華社AI主播Lisa。無論是硬科幻還是軟科幻，都賦予強人工智能的幻想，從第一部科幻電影《大都會》將人工智能搬上銀幕，人工智能與人是否能產(chǎn)生共情，是否會對人類產(chǎn)生威脅就成為必然探討的話題?！暗栏窭埂だ部品颍―ouglas Rushkoff ）相信技術(shù)賦予每一個人表達自己、培育獨立思考能力的機會，技術(shù)也可以消弭不平等的層級制和權(quán)力結(jié)構(gòu)”[7] 。一旦這種權(quán)力被人工智能擁有，就會是達摩克利斯之劍，威脅著人類。

第一，人類與人工智能之間存在控制和反抗關(guān)系，對技術(shù)的賦權(quán)和人工智能的討論實質(zhì)是對技術(shù)控制權(quán)的討論。人類擁有技術(shù)控制權(quán)，能控制制造人工智能。但技術(shù)無界，人工智能如果自我進化擁有了更高的技術(shù)權(quán)力，會不會對人類進行反抗是人類所關(guān)心的問題。技術(shù)并無好壞，也非中立，關(guān)鍵是利用技術(shù)的人。中國社會科學院哲學研究所研究員趙汀陽在《四種分叉》中認為，在短未來我們享受技術(shù)帶來的紅利，但在遠未來人類不得不面對人工智能生存升級的終極問題。所以，要擁有掌控人工智能的權(quán)力，就要兼顧價值理性與工具理性去使用技術(shù)，使“技術(shù)向善”，為人類服務(wù)。

第二，人類對人工智能的控制和反抗的擔憂，其實是對現(xiàn)實社會問題擔憂的隱喻?，F(xiàn)實社會中人們有“交流的無奈”，有針對自己個性化需求的需要，有全天候陪伴的需求，這些需求完全靠生物體的人類是很難達到的。人們發(fā)明人工智能，并配以情感交互的屬性是因為人類所珍視的情感在現(xiàn)實中難以達到完全共情，于是人工智能成為新的寄托體。在人類發(fā)展歷史中，對權(quán)力有強烈的渴求欲與控制欲，一旦發(fā)現(xiàn)權(quán)力被篡奪的端倪便進行打壓。人類對人工智能反抗的擔憂是對失去技術(shù)控制權(quán)甚至顛覆控制權(quán)的擔憂，從權(quán)力角度看，人類仍然將自己定位在比人工智能更高的位置上。在后人類時代，對權(quán)力的控制是為了保障“后人類的尊嚴”[8]。

清華大學沈陽教授認為，一方面我們要用好技術(shù)賦權(quán)，另一方面也不要被這種權(quán)力所異化。他在“萬物皆媒、萬媒皆智”基礎(chǔ)上，提出了“萬智皆控、萬控皆能、萬能皆識”的概念，強調(diào)對人工智能合理的權(quán)力控制。赫拉利在《人類簡史》中寫到“歷史始于人創(chuàng)造神，終結(jié)于人成為神”。當人類成為創(chuàng)造人工智能的神，人工智能會將人當神一樣崇敬供奉，還是進行反抗，消解人類的權(quán)威和權(quán)力將取決于今天人類在人工智能問題上所做的每一個決定。人類與人工智能，權(quán)力者與反抗者在控制和反抗中交織著，共同譜寫了后人類時代的現(xiàn)在與未來。

參考文獻：

[1] 唐代興.后人類進程中的倫理與政治[J].深圳大學學報（人文社會科學版），2019，36（1）：14-23.

[2] 張之滄.“后人類”進化[J].江海學刊，2004（6）：5-10+222.

[3] 黃婉嬋.權(quán)力與反抗[D].中央民族大學，2007.

[4] 丹尼爾·德菲爾，藍江.生命權(quán)力在福柯作品中的突顯[J].國外理論動態(tài)，2018（12）：67-76.

[5] 王思宇.好萊塢人工智能科幻電影的發(fā)展特征[J].電影文學，2018（23）：52-54.

[6] 陳楸帆.為什么是科幻，而不是言情、武俠，能消解我們的焦慮？[EB/OL].http：//www.yidianzixun.com/article/0LLgptAd，2019-02-23.

[7] 於興中.后人類時代的社會理論與科技烏托邦[J].探索與爭鳴，2018（4）：18-23+28+141.

[8] 夏永紅，李建會.后奇點時代：人工智能會超越并取代人類嗎？[J].教學與研究，2018（8）：64-71.

[責任編輯：楊楚珺]