呂文博 蔡曉琳 江昊軒

【摘要】人工智能技術(shù)迅猛發(fā)展，但隨之而來的各種影響也不可忽視。本文以英國作家伊恩·麥克尤恩的科幻小說——《我這樣的機(jī)器》為研究對象，圍繞技術(shù)異化這個概念，從主體性、倫理秩序和心理感受三個層面分析小說中的智能機(jī)器人給人類生活帶來的影響。在強(qiáng)人工智能時代到來之際，探討人工智能對人類社會秩序帶來的潛在風(fēng)險，對于人工智能技術(shù)的健康發(fā)展具有重要意義。

【關(guān)鍵詞】科技倫理；人工智能；技術(shù)異化；人機(jī)關(guān)系；人類主體性

【中圖分類號】I561? ? ? ? ? ?【文獻(xiàn)標(biāo)識碼】A? ? ? ? ? ?【文章編號】2096-8264（2023）44-0019-04

【DOI】10.20024/j.cnki.CN42-1911/I.2023.44.006

基金項目：東南大學(xué)2022年國家級大學(xué)生創(chuàng)新創(chuàng)業(yè)訓(xùn)練計劃項目“當(dāng)代英語小說中的人工智能書寫研究”（項目編號：202210286102Z）。

一、引言

近日，美國OpenAI研發(fā)的聊天程序ChatGPT在網(wǎng)絡(luò)爆火。人們在驚嘆人工智能進(jìn)步的同時，也對這種新興技術(shù)產(chǎn)生了深深的擔(dān)憂。人工智能盡管與人類生活的聯(lián)系日漸密切，為人類帶來許多便利，但同時也讓人類不得面對許多棘手的問題：人工智能在不斷發(fā)展的過程中會給人類社會的倫理秩序帶來什么樣的影響？人類又該如何應(yīng)對？

國內(nèi)學(xué)者吳巖（2008：42）表示，“科幻文學(xué)這種一直被認(rèn)為是描寫未來的文類，其實描寫的就是現(xiàn)實本身?！笨苹眯≌f猶如科技創(chuàng)新的預(yù)言家，既為現(xiàn)實科技提供動力，同時也預(yù)言高科技所帶來的憂患，以此來警示人類科技發(fā)展帶來的潛在問題。本文選取英國作家伊恩·麥克尤恩（Ian McEwan）的新作《我這樣的機(jī)器》作為研究對象，從技術(shù)異化的角度分析人工智能對人類社會的影響。在小說所呈現(xiàn)的人工智能時代，機(jī)器人“亞當(dāng)”和“夏娃”參與到人類生活，促使人們?nèi)ニ伎既藱C(jī)共處過程中必須面對的一系列問題。

尚必武（2019：63）基于對該書的文學(xué)倫理學(xué)分析，認(rèn)為“在小說中，自然選擇、倫理選擇和科學(xué)選擇的區(qū)別突出表現(xiàn)在機(jī)器人亞當(dāng)不具有承載倫理意識的生物性腦文本”。但由于亞當(dāng)不具有腦文本，它根本無法恰當(dāng)處理與人類的倫理關(guān)系，這也許就是亞當(dāng)引起人類倫理問題的根源。除了倫理方面的討論之外，更多的學(xué)者把目光放在了人工智能技術(shù)可能在未來給人類帶來的影響。國內(nèi)學(xué)者周敏（2020：75） 對人工智能技術(shù)持有相對樂觀的態(tài)度，并從“人機(jī)共同體的角度，探討人與人工智能之間的共在模式和倫理關(guān)系，進(jìn)而思考人機(jī)共存的可能性”。而布魯斯·金（Bruce King）（2019：870）對此則較為悲觀。在后殖民研究的框架下，他對小說進(jìn)行了分析，指出未來的科技將席卷并支配整個世界，最終引導(dǎo)人類走向不可避免的悲劇結(jié)局。在小說《我這樣的機(jī)器》中，人工智能技術(shù)進(jìn)入了人類日常生活，給主人公查理帶來了諸多好處，也引發(fā)了一系列倫理和心理問題。本文從技術(shù)異化的角度，從人類主體性、倫理秩序和心理沖擊三個方面分析小說中的人機(jī)關(guān)系。

二、技術(shù)異化

馬克思（Karl Marx）在19世紀(jì)定義了科學(xué)技術(shù)，發(fā)展并且形成了完整的馬克思主義科學(xué)技術(shù)觀。馬克思指出，“科學(xué)是一種在歷史上起推動作用的、革命的力量?！保f建樺， 2009：602）同時，馬克思的辯證思想促使他思考科技發(fā)展對人類的負(fù)面影響。在馬克思看來，當(dāng)人們失去對工作或活動本身的參與時，當(dāng)人們的工作或者生活被機(jī)器所支配時，異化就會發(fā)生。馬克思在闡述技術(shù)異化理論時也指出了“科學(xué)技術(shù)發(fā)展對人類內(nèi)心壓抑、心靈空虛以及價值觀缺失和對相伴的社會風(fēng)險加劇等問題。”（劉大椿，劉孝廷，萬小龍等，2019：37）

自馬克思之后，許多學(xué)者和哲學(xué)家都對技術(shù)異化理論進(jìn)行了深入闡釋。哈貝馬思（Jürgen Habermas）認(rèn)為，科學(xué)技術(shù)的異化已經(jīng)入侵日常生活領(lǐng)域，對人們之間的交往造成破壞，從而導(dǎo)致人類的異化。安德魯·芬伯格指出，在一個技術(shù)高度發(fā)展的社會，機(jī)器將擁有自我糾錯的機(jī)制，即機(jī)器知道如何調(diào)整自己的運作狀態(tài)，所以，當(dāng)機(jī)器進(jìn)化到可以脫離其創(chuàng)造者獨立思考的程度時，人類將會出現(xiàn)相應(yīng)的社會或心理問題。就人工智能產(chǎn)品而言，技術(shù)異化表現(xiàn)在人機(jī)關(guān)系的異化上，即勞動者與其所創(chuàng)造出的產(chǎn)品在人機(jī)共處階段呈現(xiàn)出相悖相離的趨勢。人作為主體，應(yīng)對其生產(chǎn)的產(chǎn)品有足夠的控制力。當(dāng)人工智能反客為主并進(jìn)而主導(dǎo)人的行為與心理時，人與人之間的關(guān)系也會受到影響，并進(jìn)而產(chǎn)生馬克思（2021：75）所說的“人與人之間的隔閡”。換言之，因為人工智能的影響，我們所習(xí)慣與熟知的人際交往也會發(fā)生改變。這也是麥克尤恩的這部小說所描述的情景。出于好奇，主人公查理購買了仿生機(jī)器人亞當(dāng)。但在與亞當(dāng)相處的過程中，不僅僅是查理本人受到了來自亞當(dāng)?shù)挠绊?，他和周圍人的關(guān)系也發(fā)生了變化。

三、挑戰(zhàn)人類的主體性

人類發(fā)展科技的目的是為了使科技產(chǎn)物能更好地服務(wù)自己。但如果技術(shù)發(fā)展到一定程度，甚至于到了產(chǎn)品脫離人類控制的階段，可能會對人的主體性形成沖擊。在《我這樣的機(jī)器》這部小說中，人工智能技術(shù)的產(chǎn)物——仿生機(jī)器人在很大程度上挑戰(zhàn)了人類的主體性，造成了書中人物自我認(rèn)同感的降低。

李為善和劉奔（2002：1）在《主體性和哲學(xué)基本問題》中寫道：“人之存在的主體性就是指人是主體這樣一種性質(zhì)，形象地說，即人總是以‘主’人的姿態(tài)出現(xiàn)在世間，經(jīng)緯天地，捭闔萬物，或革故鼎新，推動社，會或號令眾人，招待親朋等等，即使去做客也總要做自己的‘主’的?！痹谌祟惿鐣校绕涫窃谌穗H關(guān)系中，主體性是人類獨有的區(qū)別于其他萬物的特質(zhì)。小說中的查理在買回亞當(dāng)?shù)某跗诰秃芎玫伢w現(xiàn)了他的主體性。他只是將亞當(dāng)作為一個商品，一條連接他與米蘭達(dá)的紐帶。但隨著情節(jié)的發(fā)展，查理越來越依賴亞當(dāng)。有了亞當(dāng)幫他賺錢，處理家務(wù)，查理便不再積極地發(fā)揮主觀能動性。他和亞當(dāng)之間的關(guān)系也有了微妙的變化。到了最后，查理甚至覺得自己獨有的“主體性”也能在亞當(dāng)身上得到體現(xiàn)。他感覺自己在很多方面不如亞當(dāng)，他的自我認(rèn)同感也不斷受到打擊。

自我認(rèn)同感是指個體對于自身存在的一種認(rèn)同感，主要表現(xiàn)為能夠理性地看待自身與外部世界的關(guān)系，并能夠積極地追求人生目標(biāo)，體驗到自我存在的價值。（陶玥，張瑞涵，2022：2）亞當(dāng)在體力上勝過查理，在賺錢能力上非查理所能及，在文學(xué)鑒賞能力上更是遠(yuǎn)超查理。亞當(dāng)出色的賺錢能力讓查理的自尊受損，使他不愿去請教亞當(dāng)問題；亞當(dāng)在米蘭達(dá)父親面前的出色表現(xiàn)導(dǎo)致后者把查理看成機(jī)器人，把亞當(dāng)看成自己的女婿。亞當(dāng)展現(xiàn)出的出色表現(xiàn)不斷地削弱查理的自我認(rèn)同感。即使是在情愛生活上，查理也感到自己受到了沖擊。雖然說在米蘭達(dá)與亞當(dāng)發(fā)生性關(guān)系后，查理一再說服自己，只把亞當(dāng)看成是一個“做愛的機(jī)器”（周小進(jìn)譯，2020：92），并且堅信亞當(dāng)與米蘭達(dá)之間 “不可能有原則和快感之間的斗爭”，（周小進(jìn)譯，2020：89）但實際上他一直因為這件事而苦惱，始終在思考這個問題，即亞當(dāng)和自己誰更適合作為米蘭達(dá)的伴侶。查理知道，作為自然人的自己不可能像亞當(dāng)一樣，成為一個完美的存在，可以滿足伴侶的各種需求。雖然他不愿承認(rèn)亞當(dāng)在充當(dāng)愛人這一點上強(qiáng)于自己，但他又無法阻止亞當(dāng)與米蘭達(dá)的進(jìn)一步交往。顯然，在自我認(rèn)同這個問題上，因為亞當(dāng)?shù)拇嬖?，查理感到氣餒，遭遇了危機(jī)。

毫不夸張地說，在多個方面，亞當(dāng)都勝過了查理。雖然說作為主人的查理因為自己擁有亞當(dāng)而感覺到慶幸，并且享受著亞當(dāng)帶來的種種益處，但他在內(nèi)心深處也被嫉妒、不安、怨恨等多重復(fù)雜情感所攪擾。可以說，高速發(fā)展的人工智能產(chǎn)品給人類帶來了身份認(rèn)同上的危機(jī)。

四、倫理秩序的崩塌

在《我這樣的機(jī)器》這部小說中，機(jī)器人亞當(dāng)已經(jīng)超出現(xiàn)實生活中我們對機(jī)器人的普遍認(rèn)知，因為他不僅外表與自然人幾乎無異，他甚至可能擁有情感和自我意識。雖然他是智能機(jī)器，但他更接近于“人”而不是“物”。與普通的電子產(chǎn)品不同，機(jī)器人模糊了人與機(jī)器之間的界限。在小說中，亞當(dāng)這樣的機(jī)器也給查理的生活帶來了一定程度的倫理混亂。

宋希仁（2007：1）指出，“從社會關(guān)系的維度來看，倫理秩序是社會關(guān)系中的合理的秩序?！毙≌f中的“亞當(dāng)”是家庭伴侶型機(jī)器人。但當(dāng)他介入查理的生活之后，對查理生活中原有的倫理秩序造成了沖擊，使得他不得不重新思考他和亞當(dāng)之間的關(guān)系。剛開始時，查理把自己看成亞當(dāng)?shù)闹魅?。于他而言，亞?dāng)不過是一個高科技產(chǎn)品。但在女友米蘭達(dá)同亞當(dāng)發(fā)生性關(guān)系后，查理覺得自己受到了背叛。在內(nèi)心深處，他把亞當(dāng)看成是自己的情敵，一個強(qiáng)有力的競爭對手。在故事結(jié)尾，當(dāng)查理因為砸碎亞當(dāng)而被圖靈指控“犯下了永遠(yuǎn)不會接受審判的蓄意謀殺罪”（周小進(jìn)譯，2020：274）時，查理也在內(nèi)心深處承認(rèn)自己殺害了亞當(dāng)，并且出于愧疚“吻了吻他那和人類幾乎一樣柔軟的嘴唇”。（周小進(jìn)譯，2020：275）在查理心中，亞當(dāng)是生命，同人類一樣，擁有自我意識。從查理的境遇來看，亞當(dāng)這樣的類人機(jī)器是擁有“人類情感”的。如果我們把擁有“人類情感”作為一個判斷標(biāo)準(zhǔn)的話，那么久已存在的倫理秩序便面臨分崩離析的危險。

此外，既然機(jī)器人離“人”越來越近，那么機(jī)器人也會逐漸成為與人類直接發(fā)生聯(lián)系的人類社會和家庭中的成員，但這必然會對傳統(tǒng)的社會結(jié)構(gòu)和倫理觀念產(chǎn)生沖擊。在學(xué)者王玉雯（2021：46）看來，“伴侶機(jī)器人比起其他人工智能的特殊之處在于要與人類在身體和心靈上產(chǎn)生關(guān)系，甚至是進(jìn)入人類社會的家庭之中，成為家庭組成的一部分。這樣一來，就不可避免地對人類傳統(tǒng)的社會結(jié)構(gòu)和倫理觀念帶來巨大的沖擊。而沖擊的始源，就是使伴侶機(jī)器人擁有獨立的‘情感系統(tǒng)’?！逼鸪醪槔碣徶脕啴?dāng)是想緩和自己與女友米蘭達(dá)的關(guān)系，二人一同設(shè)置亞當(dāng)?shù)男愿駞?shù)，此時亞當(dāng)與二人的關(guān)系更接近于孩子與父母。然而，米蘭達(dá)與亞當(dāng)發(fā)生了性關(guān)系，并且亞當(dāng)一再聲稱自己愛上了米蘭達(dá)，還為她寫情詩。孩子愛上了母親，這是母子亂倫；查理認(rèn)為自己被戴了綠帽子，這使得父子變成情敵。隨著故事情節(jié)的發(fā)展，在米蘭達(dá)作偽證這件事上，查理和亞當(dāng)又因為立場不同成了敵人。亞當(dāng)擁有獨立的思考能力和情感能力。像他這樣的人工智能產(chǎn)品進(jìn)入人類家庭生活，很可能會引發(fā)家庭倫理的混亂，導(dǎo)致人與機(jī)關(guān)系或者更進(jìn)一步人際關(guān)系的沖突。

從這部小說中可以看出，當(dāng)機(jī)器人的外在與內(nèi)在與人類趨同甚至超過人類時，人機(jī)界限便越來越模糊，而既有的倫理秩序也將受到?jīng)_擊。通過講述查理與亞當(dāng)?shù)墓适?，麥克尤恩促使我們思考人工智能時代錯綜復(fù)雜的人機(jī)倫理關(guān)系，重視技術(shù)異化所帶來的對人類社會的影響。

五、心理層面的沖擊

在馬克思（1844：495）看來，“機(jī)器……是一種機(jī)制，在啟動后，使用其工具執(zhí)行與工人以前使用類似工具執(zhí)行的相同操作?！钡?dāng)機(jī)器無須工人啟動便能自己工作，甚至于在外表上、行為上、情感反應(yīng)上酷似人類時，便很可能產(chǎn)生“恐惑谷”現(xiàn)象，并進(jìn)而讓機(jī)器的所有者產(chǎn)生自卑和不信任等負(fù)面情緒。

在人機(jī)關(guān)系研究中，人類所經(jīng)歷的“恐惑谷”現(xiàn)象是一個不容忽視的話題，而這一現(xiàn)象在《我這樣的機(jī)器》中也有體現(xiàn)。20世紀(jì)七十年代初，日本的機(jī)器人專家森政弘提出了“恐惑谷”假說。他指出：人們在與一個類似人類的實體相處時，該實體外表越接近人類，人們對其好感度也會隨之增加，但是，當(dāng)實體外表和人類接近到一定程度時，人們的好感將驟然下跌，與此同時，人們的恐懼和疑惑卻不斷增強(qiáng)。這種現(xiàn)象也屬于人工智能技術(shù)異化的一部分。

在麥克尤恩的這部小說中，智能機(jī)器人亞當(dāng)?shù)耐獗砗腿祟惛叨认嗨?，但他終究不是人類。在與亞當(dāng)相處的過程中，米蘭達(dá)和查理都有“恐惑谷”的體驗。初見亞當(dāng)時，米蘭達(dá)對查理說，“它的身體竟然是暖的，‘真嚇人’”，“他能用舌頭發(fā)出詞語，‘有點怪怪的’”。（周小進(jìn)譯，2020：34）米蘭達(dá)的反應(yīng)說明，機(jī)器人亞當(dāng)讓她感覺不自在，其逼真的外表讓她感到恐懼。查理也是如此。看到亞當(dāng)在充電時還睜著眼，他不禁感慨：“這的確離奇嚇人。太像死亡了。”（周小進(jìn)譯，2020：242）森政弘（Mori，M.2012：100）認(rèn)為，“陰森怪誕（eeriness）的感覺可能是一種本能，它保護(hù)我們免受近處而不是遠(yuǎn)處的危險。近處危險包括死去的軀體、不同物種的成員和我們能密切接近的其他實體。遠(yuǎn)處的危險源包括風(fēng)暴和洪水”。亞當(dāng)充電時的模樣，讓查理聯(lián)想到了自己死去的父親，激起了查理內(nèi)心深處的恐懼。

亞當(dāng)不僅在外表上酷似自然人，在行為上顯示出的高度理性化也讓查理感到恐怖。在初次見到米蘭達(dá)之后，亞當(dāng)就提醒查理，讓他對米蘭達(dá)保持警覺，不要完全信任他。他還暗示查理，米蘭達(dá)心里藏了一個秘密。查理得知后，“相信米蘭達(dá)絕不會惡意撒謊，可是十天之后，自己開始調(diào)查了?！保ㄖ苄∵M(jìn)譯，2020：47）亞當(dāng)?shù)男袨樽裱鰪S時程序設(shè)定，他的一言一行都以事實和邏輯為基礎(chǔ)。他的高度理性化的、脫離人類情感干擾的選擇讓查理感到不舒服，甚至是恐懼。

人類一直以理性思維、理性決策為傲，把擁有理性思考的能力看作是區(qū)別人與其他動物的一個基準(zhǔn)。當(dāng)一個外表酷似自然人、在行動上比人還要理性的人工智能出現(xiàn)在人類社會中，他所引發(fā)的“恐惑谷”效應(yīng)是毋庸置疑的。對于人工智能可能導(dǎo)致的技術(shù)異化，我們需要提前預(yù)判，做好應(yīng)對的準(zhǔn)備。

六、結(jié)語

亞當(dāng)?shù)男袨槎际且罁?jù)他的人工智能程序做出的，那么，技術(shù)異化現(xiàn)象是否以先進(jìn)技術(shù)本身的存在為基礎(chǔ)？現(xiàn)實生活中，技術(shù)本身是沒有意識的。在現(xiàn)階段，“人工智能對其自身的實踐活動還處于無意識階段，未能脫離人類的技術(shù)框架，其呈現(xiàn)出的價值也只是為人類服務(wù)滿足人類現(xiàn)階段的需求”。（李楠楠，張偉，2021：64）麻省理工學(xué)院的機(jī)器人專家丹妮拉·魯斯（Daniela Rus）表示，目前技術(shù)的發(fā)展仍依靠多年前的理論研究，創(chuàng)新的研究方向在學(xué)界并不多見（2022：111）。盡管麥克尤恩筆下的人工智能出現(xiàn)了技術(shù)異化現(xiàn)象，但除非有新的技術(shù)理論產(chǎn)生，書中所呈現(xiàn)的科技倫理危機(jī)在接下來幾年發(fā)生的可能性并不大。

麥克尤恩曾在一次訪談中說道：“一個理性的人，或者一個視自己為理性的社會，在面對非理性的行為時會有什么反應(yīng)？”（David Lynn，Ian McEwan，2007：39）未來在遇到亞當(dāng)這樣懂得法律的力量、但不能理解人性的力量的機(jī)器人時，人類是否應(yīng)該像查理一樣選擇摧毀機(jī)器人？面對“亞當(dāng)”這樣如此近似人類甚至超越人類的存在時，人類又該如何看待這樣的機(jī)器人，如何審視自我呢？當(dāng)技術(shù)飛速發(fā)展之時，對于人性的關(guān)注與研究也不應(yīng)落后。查理的故事提醒我們，應(yīng)對科技發(fā)展注入足夠的人文關(guān)懷，避免對技術(shù)的濫用與過度開發(fā)。

參考文獻(xiàn)：

[1]吳巖.科幻文學(xué)理論和學(xué)科體系建設(shè)[M].重慶：重慶出版社，2008：42.

[2]尚必武.科學(xué)選擇與倫理選擇的沖突：麥克尤恩《像我這樣的機(jī)器》中的人工智能與腦文本[J].外國文學(xué)研究，2019，41（05）：61-74.

[3]周敏.人機(jī)共同體想象：以《像我一樣的機(jī)器》為例[J].外國文學(xué)研究，2020，（03）：73-86.

[4]Bruce King.“Review of The Testaments; Quichotte; Machines Like Me and People Like You”[J]. Journal of Postcolonial Writing，2019，55（06）：866-871.

[5]韋建樺.馬克思恩格斯文集：第3卷[M].北京：人民出版社，2009：602.

[6]劉大椿，劉孝廷，萬小龍等.科學(xué)技術(shù)哲學(xué)[M].北京：高等教育出版社，2019：37.

[7]Andrew Feenberg，“Alternative Modernity：The Technical turn in Philosophy and Social Theory”[J]. University of California Press，1995：79-86．

[8]卡爾·馬克思.1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿[M].北京：研究出版社，2021：75.

[9]李為善，劉奔.主體性和哲學(xué)基本問題[M].北京：中央文獻(xiàn)出版社，2002：1.

[10]陶玥，張瑞涵.“元宇宙”時代下的自我認(rèn)同與幸福[J].大眾心理學(xué)，2022，（08）：2-4.

[11]宋希仁.論倫理秩序[J].倫理學(xué)研究，2007，（05）：1-8.

[12]（英）伊恩·麥克尤恩.我這樣的機(jī)器[M].周小進(jìn)譯.上海：上海譯文出版社，2020.

[13]王玉雯.伴侶機(jī)器人倫理缺陷分析[J].湖北第二師范學(xué)院學(xué)報，2021，38（6）：45-48.

[14]Karl Marx.Economic and Philosophic Manuscripts of 1844[M].London：Dover Publications.2004：495.

[15]Mori，M.The uncanny valley[J].IEEE Robotics and Automation，2012，vol.19，no.2，pp.98-100.

[16]李楠楠，張偉.人工智能時代的審美生產(chǎn)及其技術(shù)指向[J].齊齊哈爾大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2021，（07）： 61-64.

[17]Daniela Rus.The Machines from Our Future[J]. AI & Society，2022，vol.151，no.2，pp.111.

[18]David Lynn，Ian McEwan.A Conversation with Ian McEwan[J].The Kenyon Review，2007，vol.29，no.3，pp.39.