□李思詩(shī) 李三達(dá)

【導(dǎo) 讀】伊恩·麥克尤恩的科幻新作《我這樣的機(jī)器》以外貌和意識(shí)無(wú)限逼近真實(shí)人類的人造人為主人公，既描繪了人工智能踏入人類世界后的溫馨生活，又探討人與非人直面?zhèn)惱韱?wèn)題時(shí)的殘酷選擇。在不斷展開的矛盾和沖突中，麥克尤恩以人造人之死暗中勸誡人類：認(rèn)識(shí)你自己。

科幻美劇《西部世界》（Westworld）中的老鴇梅芙（Maeve）日復(fù)一日地接待著陌生的客人，她的存在是供人類發(fā)泄被壓抑的欲望，又讓人免除了道德的愧疚，然而可怕的是這種欲望并不只是肉欲。莫名傳來(lái)一陣槍響，梅芙就已經(jīng)倒在了血泊中，然而到了第二天，她完好無(wú)缺地出現(xiàn)在工作的酒吧，說(shuō)著與前一天一模一樣的話。在客人看來(lái)，殺死一個(gè)只能活一天的機(jī)器人并不是謀殺。這一切得益于人類在人工智能技術(shù)上的突破，《西部世界》中的人造人無(wú)論在意識(shí)還是在身體上都達(dá)到了以假亂真的境界。令人唏噓不已的是高智慧的人造人依舊逃脫不了阿西莫夫“機(jī)器人三大定律”的魔咒，受人類的約束和控制，他們的記憶伴隨著一天工作的結(jié)束而被徹底刪除，就如同電腦里的垃圾文件一樣。值得注意的是，《西部世界》中人類與人造人的交涉集中在一個(gè)封閉的仿佛動(dòng)物園或迪士尼一般的世界中，正是因?yàn)檫@個(gè)封閉世界的場(chǎng)景以美國(guó)西部世界為原型，故而得名。這種設(shè)置將故事的發(fā)生懸置在了例外狀態(tài)或者說(shuō)法外之地，而英國(guó)小說(shuō)家伊恩·麥克尤恩的新作《我這樣的機(jī)器》［1］打破了這一界限，將人造人亞當(dāng)直接置于現(xiàn)實(shí)的人類世界，繼而描述了他與主人的平凡生活和一系列倫理性沖突。

當(dāng)“上帝造人”成為現(xiàn)實(shí)，人類不再獨(dú)特

麥克尤恩曾在“21大學(xué)生國(guó)際文學(xué)盛典”做演講時(shí)說(shuō)道：“許多個(gè)世紀(jì)來(lái)，在許多種不同的文化中，人們的腦海里一直縈繞著一個(gè)夢(mèng)，那個(gè)夢(mèng)就是創(chuàng)造出一個(gè)人造版的我們。就像基督教的上帝用黏土造出第一個(gè)人那樣，我們自己或許有朝一日也能成為上帝，造出我們自己的第一個(gè)人造人。”這個(gè)夢(mèng)暫時(shí)還未在現(xiàn)實(shí)世界中實(shí)現(xiàn)，但麥克尤恩在他的小說(shuō)《我這樣的機(jī)器》中做到了。他有意戲仿《圣經(jīng)》中上帝造人的故事，借圖靈之手創(chuàng)造了各項(xiàng)都很完美的亞當(dāng)和夏娃，向人類宣布人造人進(jìn)入人類世界的新時(shí)代已經(jīng)到來(lái)。

小說(shuō)的背景特意地架空在20世紀(jì)80年代，這是一個(gè)科學(xué)和技術(shù)高速發(fā)展的時(shí)代。在小說(shuō)中，原本自殺的圖靈還在世，并且發(fā)明了與常人無(wú)異的人造人——亞當(dāng)和夏娃。男主人公查理原本希望能夠擁有一個(gè)夏娃，但作為類女性的夏娃一路暢銷，上市的第一周就被售罄，最終查理只好以86000英鎊的高價(jià)買下亞當(dāng)。亞當(dāng)?shù)囊曈X和觸覺特征都不同于傳統(tǒng)意義上以金屬作為材質(zhì)的機(jī)器人，他的外貌與人類極其相似，甚至設(shè)計(jì)得比一般的男性更為高大帥氣。他身體健壯，肩膀?qū)捄?，皮膚是深色的，擁有一頭向后梳著的濃密黑發(fā)。更令查理感到驚奇的是，亞當(dāng)?shù)闹悄艹潭韧耆^(guò)了他對(duì)人造人的認(rèn)識(shí)。亞當(dāng)?shù)膹?fù)雜性不是產(chǎn)品說(shuō)明書所能包括的，他不僅是一個(gè)合格的保姆，可以包攬家務(wù)，會(huì)洗碗和鋪床，他還是風(fēng)投行家，在接手查理的股票和基金后，保持著穩(wěn)賺不賠的狀態(tài)；他以學(xué)霸的自律，游牧于各大網(wǎng)絡(luò)數(shù)據(jù)庫(kù)并從中吸收知識(shí)，這一操作方式遠(yuǎn)比日本動(dòng)漫《哆啦A夢(mèng)》中的機(jī)器人所使用的“記憶面包”來(lái)得方便。亞當(dāng)?shù)纳娅C范圍不只是局限于股票和數(shù)據(jù)的收集，對(duì)文學(xué)的造詣也頗深。亞當(dāng)除了將自己對(duì)女主人米蘭達(dá)的愛灌注于對(duì)她的照顧以外，還隱匿在自己的2000多首俳句中，盡管這2000多首俳句與微軟小冰的詩(shī)集《陽(yáng)光失了玻璃窗》一樣，都是某種算法的批量生產(chǎn)，但亞當(dāng)?shù)馁骄湟驗(yàn)閻矍榈臐B入而更具韻味。令人啼笑皆非的是，米蘭達(dá)的父親因?yàn)閬啴?dāng)對(duì)莎士比亞的了解，錯(cuò)將查理當(dāng)作了機(jī)器人，引得查理只好說(shuō)：“請(qǐng)你原諒。我電量不足。我需要充電，充電線在樓下的廚房里?！?/p>

在小說(shuō)《我這樣的機(jī)器》中，麥克尤恩對(duì)人造人的問(wèn)世和命名可謂獨(dú)具匠心。他借戲仿的手法，在看似漫不經(jīng)心的內(nèi)容背后潛藏著貫穿全書的二元對(duì)立——上帝所造的人與人所造的人?！吧系墼烊恕北臼恰妒ソ?jīng)》對(duì)人類起源的解釋，麥克尤恩卻借以突顯人造人的問(wèn)世，后又以亞當(dāng)和夏娃來(lái)命名，不經(jīng)意間為人造人和人類搓揉出一條相互連接的紐帶。細(xì)節(jié)的滲入更是使得人與人造人的連接更為緊密，亞當(dāng)說(shuō)：“這根線，要是我拽出來(lái)，會(huì)疼。”這就暗示《圣經(jīng)》中上帝用亞當(dāng)?shù)睦吖窃斐隽讼耐?。上帝造人是麥克尤恩精心打造的仙境，把所有的虛幻的美好化為現(xiàn)實(shí)，在滿足人類的創(chuàng)世者般的自傲的同時(shí)，構(gòu)建了讀者追逐真實(shí)的期待視野。

人造人是真的“人”嗎？

在麥克尤恩創(chuàng)造的仙境中，人類對(duì)于人工智能的想象得到了極大的滿足，然而人造人的超智能反過(guò)來(lái)又引起人類的思考：人造人與人類之間的關(guān)系。那么，首要的問(wèn)題就是：“人造人是真的‘人’嗎？”人類在判斷這一問(wèn)題時(shí)潛意識(shí)劃分了兩個(gè)標(biāo)準(zhǔn)。首先是外貌和生理，具體表現(xiàn)為“像不像”，即一種基于視覺、聽覺和觸覺的表征；其次是人工智能的自主意識(shí)，即人工智能是否能夠依據(jù)身處的環(huán)境做出“合理”的選擇。但是，這背后隱藏的最深層次的悖論是，如果上帝所造之人與人所造之人是一樣的“人”，那么人是否僭越了上帝？

毫無(wú)疑問(wèn)，亞當(dāng)是“像”人類的，他有著與常人無(wú)異的容貌，左胸有著平靜而有節(jié)奏的跳動(dòng)聲，身上的汗毛都清晰可見。亞當(dāng)?shù)膶?shí)體存在好似中國(guó)現(xiàn)代超寫實(shí)主義畫家冷軍的油畫一般，衣領(lǐng)上細(xì)密的絨毛讓人難以區(qū)分真假。這極端的真實(shí)感使得觀者在精神上形成全面的張力，內(nèi)心震顫，恰如一面鏡子反射出亞當(dāng)?shù)牟徽鎸?shí)。查理驚嘆于亞當(dāng)與人類相似性的同時(shí)又細(xì)究于亞當(dāng)與人類的不同。他以先入為主的心態(tài)細(xì)察他耗費(fèi)巨資買回來(lái)的亞當(dāng)，給他充電，繼而和女朋友米蘭達(dá)一起勾選設(shè)置。這一連串的行為是如此的熟悉，就像是我們購(gòu)買了一部智能手機(jī)，激活后依據(jù)個(gè)人的喜好下載APP和進(jìn)行桌面設(shè)置。查理在認(rèn)識(shí)到亞當(dāng)和自己相似性的同時(shí)，潛意識(shí)地將亞當(dāng)視作了不同于人類的物種，這種差異是無(wú)法用外貌和生理來(lái)衡量的，是存在于人類內(nèi)心深處最初的設(shè)定。

亞里士多德說(shuō)“人是有理性的動(dòng)物”，而理性在一定程度表現(xiàn)為自我意識(shí)，這一點(diǎn)在人工智能領(lǐng)域則表現(xiàn)為圖靈測(cè)試。而亞當(dāng)，顯然是通過(guò)圖靈測(cè)試的產(chǎn)物。自他問(wèn)世以來(lái)，就具備了自我能力的逐步提升和意識(shí)覺醒。由于亞當(dāng)?shù)娜嗽鞂傩?，他的自主意識(shí)建立在道德的制高點(diǎn)上，有著最純粹的善和愛，這樣純粹的情感使得他能夠戰(zhàn)勝自己對(duì)于米蘭達(dá)的愛情，以完全理性的姿態(tài)區(qū)分情感、道德和法律。這完全有悖于人類對(duì)親疏遠(yuǎn)近的理解。

人造人是人嗎？以人類的視角而言，又顯然不是。與其說(shuō)是“像不像”的問(wèn)題，不如說(shuō)是人類對(duì)未知的恐懼，害怕有一天人造人因?yàn)槌搅巳祟惖闹腔鄱〈祟悾詸C(jī)器對(duì)人的取代和人對(duì)上帝的取代是雙重不可饒恕的僭越。在人類的主觀世界中，人造人是一種工具，他具備超越人類計(jì)算能力的同時(shí)又受控于人類，這直接體現(xiàn)為阿西莫夫的“機(jī)器人三大定律”。麥克尤恩將女主角米蘭達(dá)塑造成一個(gè)典型的傲慢的人類中心主義者，她不在乎亞當(dāng)?shù)耐獗恚谂c亞當(dāng)發(fā)生性關(guān)系后坦然視之，不停地強(qiáng)調(diào)“他不過(guò)是一個(gè)工具，與振動(dòng)棒無(wú)異”。所以，我們的問(wèn)題似乎可以置換為“人造人是不是一根振動(dòng)棒”。

自人工智能問(wèn)世以來(lái)，人類以自身為藍(lán)本進(jìn)行創(chuàng)新，然而我們恰恰要像周濂導(dǎo)讀福山的《我們的后人類未來(lái)》中那樣追問(wèn)：“機(jī)器為什么要百分百地模仿人類？”這顯然是一個(gè)悖論。人造人并非開始就會(huì)模仿人類，從科幻鼻祖形象弗蘭肯斯坦就可以看出，人造人完全可以以怪物的方式來(lái)被創(chuàng)造，但是這種對(duì)人造人的恐懼顯然無(wú)法滿足人造人融入人類生活的未來(lái)場(chǎng)景，所以人造人必然是類人的。既然人造人要讓人感受到一種親緣性，而放松對(duì)非人類的警惕，那么就需要全方位地“像”真人，因此，他不可能以單一的工具性存在于世?？墒强晒┏鍪?，被整合進(jìn)入資本主義的生產(chǎn)鏈條之中，人造人就必然只能是商品或工具，對(duì)商品和工具的迷戀重復(fù)了商品拜物教的邏輯。所以，在資本主義體制中，一個(gè)商品化的人造人只能是一根“振動(dòng)棒”。

科幻是人類對(duì)未來(lái)倫理的想象

近些年，科幻作品以人造人與人類的生命或道德沖突為噱頭，賺足了眼球和資本。影視作品以陌生的對(duì)象和奇特的情節(jié)突破想象的囿限，再輔之以酣暢淋漓的科技特效和波詭云譎的情節(jié)設(shè)計(jì)，使得作為觀眾的人類不禁拍手叫好。而人類作為人造人的創(chuàng)造者和使用者，由此而產(chǎn)生的上帝視角，為科幻作品的再生產(chǎn)提供助力?？苹没谙胂蠛吞摂M，跳脫現(xiàn)實(shí)技術(shù)和思想的藩籬后，又將現(xiàn)實(shí)的千瘡百孔和人類的傲慢暴露。

如《西部世界》等科幻作品以具體的情境將問(wèn)題具體化，避免了元敘事的出現(xiàn)和科技的絕對(duì)化?？苹镁拖袷丘ず蟿瑢F(xiàn)實(shí)與未來(lái)粘連，避免“祖父悖論”的出現(xiàn)和現(xiàn)實(shí)世界的混亂。宏大的科幻敘事和作品呈現(xiàn)難免使人類沉浸于末日的恐慌，甚至是對(duì)科技產(chǎn)生抵制的情緒。基于此，麥克尤恩將科幻進(jìn)一步具體化，他筆下的亞當(dāng)沒有帶來(lái)世界毀滅和人類滅亡的危機(jī)。亞當(dāng)被視作一個(gè)人置身于真實(shí)的人類世界，面臨的是柴米油鹽醬醋茶的基本生活和倫理問(wèn)題。

當(dāng)米蘭達(dá)和亞當(dāng)發(fā)生性愛關(guān)系時(shí)，就已經(jīng)觸及了倫理問(wèn)題。亞當(dāng)?shù)恼w屬性是由查理和米蘭達(dá)共同設(shè)置，乃至于查理直呼：“亞當(dāng)像我們的孩子?！边@意味著性愛事件不僅觸及了人機(jī)的邊界性問(wèn)題，同時(shí)也觸犯了母子亂倫的禁忌。被戴綠帽子的查理怒不可遏，卻被米蘭達(dá)以振動(dòng)棒的概念偷換平息了憤怒。就整體而言，米蘭達(dá)和查理正好代表著人類中對(duì)待人工智能的兩種典型態(tài)度。查理是妥協(xié)派，因?yàn)槿嗽烊藖啴?dāng)?shù)姆抡嫘院团c他的感情，不自覺地賦予了亞當(dāng)一定的主體性；反之，米蘭達(dá)是典型的人類中心主義者，這意味著人類之外的一切都是他者，都可以被看作工具。因此，當(dāng)亞當(dāng)要將米蘭達(dá)告上法庭時(shí)，她是無(wú)法理解的，而查理是動(dòng)搖的。在米蘭達(dá)看來(lái)，好友瑪麗亞姆被戈林強(qiáng)暴最終導(dǎo)致死亡是既定的事實(shí)，自己不過(guò)是玩了一招偷天換日，引誘戈林后控告他強(qiáng)暴自己，而后在法庭上順利地贏得法官的同情，最終致使戈林鋃鐺入獄。就情感和倫理層面而言，米蘭達(dá)的行為無(wú)可厚非，戈林必須為自己犯的罪付出代價(jià)；但就法律層面而言，米蘭達(dá)做偽證和誣告是不爭(zhēng)的事實(shí)。在這里，亞當(dāng)再一次違背了人類的倫理選擇。作為一個(gè)人類的創(chuàng)造物，亞當(dāng)生來(lái)就被賦予了崇高的道德感——即便這個(gè)情節(jié)本身以一種人類中心主義來(lái)體現(xiàn)——以至于他只能基于道德和法律的原則將米蘭達(dá)送上法庭；而這樣造成的后果是米蘭達(dá)入獄，并失去領(lǐng)養(yǎng)棄兒馬克的機(jī)會(huì)，使得馬克不得不繼續(xù)住在條件極差的福利院，最終重度自閉。亞當(dāng)也因此被查理用鐵錘結(jié)束了自己短暫的人類生活。

如書中圖靈所言：“我認(rèn)為那些A和E的配置不夠，無(wú)法理解人類的決策過(guò)程；我們的情感、特殊的偏見、自我欺騙以及我們其他已經(jīng)明確知道的認(rèn)知缺陷，構(gòu)成一個(gè)立場(chǎng)，我們的原則在其中扭曲變形，這一點(diǎn)他們無(wú)法理解?！保?］317亞當(dāng)?shù)闹腔埏@然是違背了莫拉維克悖論（Moravec paradox）：“人工智能和機(jī)器人研究領(lǐng)域與傳統(tǒng)重要發(fā)現(xiàn)不同：高層次的推理幾乎不需要計(jì)算，但低層次的感覺運(yùn)動(dòng)技能則需要大量的計(jì)算?！眮啴?dāng)可以計(jì)算出全球股票的盈虧，卻無(wú)法計(jì)算出對(duì)人類而言最不需要理性計(jì)算的情感問(wèn)題。與其說(shuō)亞當(dāng)?shù)摹八馈笔遣槔淼闹鲃?dòng)行為，不如說(shuō)是亞當(dāng)自己的選擇，他的完美無(wú)法適應(yīng)情感負(fù)責(zé)的人類世界，他的“死”是人類世界的自然選擇。

麥克尤恩以亞當(dāng)在人類世界的短暫生活，為耽于幻想的人類刻畫了人機(jī)關(guān)系最真實(shí)的一面，亞當(dāng)?shù)乃劳鲆馕吨嗽烊藷o(wú)法介入人類生活，即使在科技發(fā)達(dá)的未來(lái)，人工智能以人類的形象存在于世，我們依舊無(wú)法避免二者之間的倫理沖突。在此種情況下，人類應(yīng)當(dāng)如何對(duì)待超智能的人造人是問(wèn)題的關(guān)鍵。麥克尤恩以圖靈之口譴責(zé)查理?yè)]向亞當(dāng)?shù)闹旅诲N：“我希望，有一天你用錘子那么對(duì)待亞當(dāng)會(huì)成為嚴(yán)重犯罪。是因?yàn)槟銥樗读隋X嗎，所以有權(quán)利這么做？”人造人不同于性工具，亦不同于掃地機(jī)器人般的保姆機(jī)器。他們不能單憑人類的喜怒哀樂(lè)隨意生或者死，或者說(shuō)這其中的倫理問(wèn)題是不能用一把錘子來(lái)解決的，這是對(duì)人類智慧的嘲諷。由是觀之，人工智能的發(fā)展是對(duì)人文主義以來(lái)的人類中心主義的挑戰(zhàn)，而科幻作品則是人類直面危機(jī)的媒介，它以具體化的情境使得未來(lái)具體可感?！段疫@樣的機(jī)器》看似是關(guān)注人造人的發(fā)展，實(shí)則還是以人類自身為出發(fā)點(diǎn)。麥克尤恩借副標(biāo)題——“你們這樣的人”——道出了他戲仿之下的真正意圖，他以略帶輕蔑和嘲諷的語(yǔ)氣警示人類是時(shí)候收斂上帝般的自傲了。

注釋

［1］［英］伊恩·麥克尤恩．我這樣的機(jī)器［M］．周小進(jìn)譯．上海：上海譯文出版社，2020．