汪慶子

《克拉拉與太陽》是石黑一雄（Kazuo Ishiguro，1954—）最新出版的描寫人工智能機器人題材的小說。石黑一雄以機器人克拉拉的視角，展現(xiàn)了專為陪伴兒童而設(shè)計的AF（Artificial Friend，人工朋友）進入人類社會生活后遇到的一系列問題。小說中有一兩項科學技術(shù)的突破性發(fā)展比現(xiàn)實世界實現(xiàn)得更早，其中機器人技術(shù)是小說討論的重要內(nèi)容，作者由此展開對科技、人性和倫理等問題的思考，以未來審視當下。本文借助文學倫理學批評研究擬對此論題加以探討，旨在揭示高科技快速發(fā)展所反映的深刻的倫理內(nèi)涵，以及從人類中心主義的倫理觀出發(fā)，很難建立和諧穩(wěn)定的人機倫理關(guān)系，從而思考在科學選擇的新時代人機共存如何才有可能。

一、人機倫理世界：人工朋友與重組社會

《克拉拉與太陽》描繪了一個高度技術(shù)化的社會，小說中既有“超級智能的”機器人幫助人類擺脫孤獨，也有各式各樣尚在發(fā)展的高端技術(shù)，然而人類在利用科技加速征服世界的現(xiàn)代化進程中，自身也遭到科技的反噬。

首先，人類為消除孤獨感，便通過“科學選擇”制造人工朋友來陪伴孩子。所謂科學選擇，是指人類文明在完成倫理選擇后，目前正在進行和即將進行的選擇。聶珍釗教授指出，科學選擇解決科學與人的結(jié)合問題，主要強調(diào)三個方面：“一是人如何發(fā)展科學和利用科學；二是如何處理科學對人的影響及科學影響人的后果；三是應(yīng)該如何認識和處理人同科學之間的關(guān)系?！敝魅斯死屯閭冏鳛槿斯づ笥讯恢圃斐鰜?，不僅具備一般人形機器人的特征和性能，還具有更多更優(yōu)秀的能力，并無私地以自己的種種能力服務(wù)于人類。他們有著與人類無異的外形，比如克拉拉像法國人，有著顏色很深的短而利落的頭發(fā)，還有“一雙最最善良的眼睛”。日本學者森政弘（Masahiro Mori）曾提出“恐惑谷”理論。該理論表明，機器人的外形與行為跟人類越是接近，人類越容易對其產(chǎn)生親和感；而當這種正面的情感達到一定的峰值后，隨著相似度不斷提高，人類反而會對他們產(chǎn)生莫名的惶惑，形成所謂“恐惑谷”。從喬西對克拉拉外貌的評價，以及大街上隨處可見的一個孩子身邊跟著一個AF 的情況來看，人工朋友的外觀設(shè)計顯然消除了人類“恐惑谷”的心理障礙，不至于因外形產(chǎn)生機器人與人類溝通交往的消極影響。同時，AF 們聰明且熱情，真誠又體貼，克拉拉具有出色的共情能力和學習能力，以及善良、體貼、無私的美好品質(zhì)。喬西向克拉拉承諾會把克拉拉帶回家后卻遲遲沒有出現(xiàn)，善良的克拉拉謹遵兩人的約定，一直等待著喬西?？死€能敏銳地察覺出人類的恐懼、憤怒等情緒，能透過喬西的表情、語言、動作等感受到她的喜怒哀樂，能無微不至地關(guān)懷生病中的喬西。然而，具備“類人”品質(zhì)的克拉拉還是無法獲得人們的認同，梅拉尼婭管家始終對其態(tài)度惡劣，里克的母親海倫質(zhì)疑其是否是臺真空吸塵器，卡帕爾迪先生僅僅將其當作科學實驗的研究對象。因而，從科學選擇的角度來看，克拉拉等人工智能機器人與生俱來的目的性和工具性使其不會被人類社會所認可，機器人作為人類工具的原初地位從未改變。

其次，小說還描繪了科技發(fā)展之下城市和鄉(xiāng)村的種種景觀，處處顯示這是一個正面臨巨大變革的重組社會。城市里，到處都是望不見頂?shù)母邩谴髲B，遮蔽住了太陽光的照射，行人走到了陰影里；制造污染的庫廷斯機器發(fā)出滾滾濃煙，還有惱人的噪音。鄉(xiāng)村看似保有自然和寧靜，實際上，父親保羅曾經(jīng)工作的制冷村荒廢在鄉(xiāng)野，克拉拉眼中可怕的“基因?！钡榷荚诎凳距l(xiāng)村也無可避免地受到科技的入侵?；蚋牧技夹g(shù)也已成為這個社會普遍認可的改造手段，但喬西的姐姐在接受改造后過世，喬西也因此患病，接受改造甚至成了一道入學的“門檻”，里克因未接受改造而受到嘲弄且無法進入夢想的學府。

無論是人工朋友的生產(chǎn)制造，還是其他機器或技術(shù)的極速發(fā)展，最終都指向科學技術(shù)的異化與技術(shù)理性的膨脹，而這無疑是人類中心主義的產(chǎn)物，在此之下，克拉拉會有何種經(jīng)歷，又會做出何種選擇？

二、人機倫理困境：人類中心主義倫理觀

克拉拉短暫的一生可以分為兩個階段：商店櫥窗階段，與喬西及其家人生活階段。在前一階段，克拉拉和其他AF 一樣，只需待在自己的位置上觀察學習，等待被孩子買回家。來到喬西家后，克拉拉成為一個名副其實的AF，陪伴在喬西左右，擔負起照顧喬西的任務(wù)。起初，克拉拉一直忠實地履行作為AF 最基本的職責，當喬西被病痛折磨時，克拉拉守護在她的床前，時刻關(guān)注她的狀態(tài)；當喬西和里克鬧別扭時，又幫助他們重歸于好等等。但是隨著喬西的健康每況愈下，克拉拉所需承擔的職責似乎遠遠超過了本職?？ㄅ翣柕舷壬莱雠c母親克麗西共謀為喬西“畫肖像”的真實目的：“我們不僅僅是要求你模仿喬西的外在行為。我們還要請你延續(xù)她?！痹瓉?，無論是第一次見面時克麗西要求克拉拉模仿喬西走路，還是摩根瀑布之行時要求克拉拉以喬西的口吻與她對話，以及后來特意為克拉拉安排的對喬西了解程度的測試，目的都是讓克拉拉更好地“延續(xù)”（continuation）喬西。作者在此處將小說推向高潮，擺在克拉拉面前的是要不要“成為喬西”的艱難抉擇。

眾所周知，在西方科幻小說史上，美國科幻作家艾薩克·阿西莫夫（Isaac Asimov）提出了著名的“機器人學三大法則”，并在其“機器人系列”小說中塑造了許多人類的朋友、幫手和忠實奴仆等機器人形象，改變了此前科幻文學中人對機器人害怕恐懼的描寫。“三大法則”的具體內(nèi)容是：“一、機器人不得傷害人類，或因不作為而使人類受到傷害。二、除非違背第一法則，機器人必須服從人類的命令。三、在不違背第一及第二法則的情況下，機器人必須保護自己?！焙唵握f來就是，機器人不得傷害人類，機器人必須服從人類的命令，機器人可以自保但前提是不得傷害人類，其中第一法則絕對優(yōu)先。“阿西莫夫的貢獻是巨大的，其后的文學作品，如果不是專門討論人工智能倫理問題，基本都會遵循該定律來敘述?！笨死葯C器人也遵循該定律，作為AF 的克拉拉從未違背過第一法則，此刻卻面臨違背“三大法則”的困境。也就是說，如果克拉拉答應(yīng)母親的請求，則成全了她對喬西的“延續(xù)”，但這樣就違背了第一法則，因為克拉拉“成為喬西”的同時也意味著喬西的生命走向了盡頭，作為機器人的克拉拉無論如何也不會讓這樣的事情發(fā)生。另一方面，如果拒絕請求，則又違背了第二法則，同時太陽是否愿意為喬西獻出特殊關(guān)照是不確定的，同樣可能使喬西遭受危險。

借助文學倫理學的術(shù)語來解釋，此時的克拉拉陷入了倫理困境，又稱倫理兩難?！皞惱韮呻y即倫理悖論。倫理兩難由兩個道德命題構(gòu)成，如果選擇者對它們各自單獨地做出道德判斷，每一個選擇都是正確的，并且每一個選擇都符合普遍道德原則。但是，一旦選擇者在二者之間做出一項選擇，就會導致另一項違背倫理，即違背普遍道德原則。”面對這般困境，克拉拉完美踐行了暗含人類中心主義的“三大法則”，不惜貢獻出自己體內(nèi)的溶液以毀壞產(chǎn)生污染的庫廷斯機器，又執(zhí)拗地尋求太陽的特殊關(guān)照，都只為幫助喬西恢復健康。但石黑一雄并未止步于此，其筆下的克拉拉更有著對“三大法則”的突破與超越，那就是克拉拉意識到喬西身上有著一樣特別的而自己無法替代的東西，“母親、里克、梅拉尼婭管家、父親——我永遠都無法觸及他們在內(nèi)心中對于喬西的感情”?？死⒎浅鲇趯Φ谝环▌t的絕對服從才不顧一切地拯救喬西，而是因為她要守護這份愛。最終，喬西在太陽的照耀下奇跡般地起死回生。在克拉拉對喬西“固執(zhí)”的愛與守護中，看到的是克拉拉身上集中了人類天性中最值得贊頌的部分，成為“愛”的絕對象征。

病愈后的喬西如愿奔赴理想的學府，而完成“任務(wù)”后的克拉拉卻獨自走向滿是機器人的堆場，在那里克拉拉看到了無數(shù)的同伴，他們同樣失去價值，正慢慢凋零，可見如此“超級智能的”機器人仍未能擺脫悲慘的命運。那么，當一個人與機器共處的時代必定來臨時，兩者如何才能實現(xiàn)真正的共存？

三、人機倫理反思：人機共存的可能性

在科學選擇的新時代，人類與機器人共存已成為不可回避的問題，石黑一雄曾表達對人工智能發(fā)展的擔憂：“在拐彎處——我們是否已經(jīng)轉(zhuǎn)危為安了？——是科學、技術(shù)和醫(yī)學的驚人突破所帶來的挑戰(zhàn)。新的遺傳技術(shù)，如基因編輯技術(shù)CRISPR，以及人工智能和機器人技術(shù)的進步將為我們帶來令人驚嘆的、拯救生命的益處，但也可能造成類似種族隔離制度的野蠻的精英統(tǒng)治社會，以及大規(guī)模失業(yè)的問題，甚至于當前的行業(yè)精英們也將瀕臨失業(yè)?！币虼?，作者在小說中反思了人類中心主義觀念下人機共存可能帶來的問題。

一方面，機器人不僅侵占了人類的生存空間，而且剝奪了越來越多人類工作的機會，對于在勞動與工作中獲得滿足感與認同感的人來說，意味著勞動與工作信仰的降低，以及對榮譽和價值欲望的喪失，就像小說中喬西的父親保羅被AI 取代，最后只能自我安慰“被替代是我遇到的一件最好的事情”。另一方面，當人工智能比人類強大得多的時候，人類對其“有一種十分普遍而且不斷滋長的擔憂”，“他們害怕，是因為他們已經(jīng)不能理解那里面是如何運作的了”，所以機器人遭到人類的仇視與攻擊，不斷被拆開檢查，但實質(zhì)性的問題卻始終沒有得到解決。

人與機器人共存本就是一個復雜的問題，其根源就在于人類中心主義的倫理觀所存在的弊端，那么如何打破這個禁錮，建立和諧穩(wěn)定的人機共存世界，石黑一雄自然不會為此提供簡單的答案。但作者賦予克拉拉獨特的情感特質(zhì)，通過克拉拉對“人心”的發(fā)現(xiàn)，讓讀者看到一個可謂是“真正的人”的機器，所以人工智能和機器人技術(shù)并非是對人類的徹底否定，恰恰是科學選擇時代里對人類未來走向的追問。盡管人工智能給人類生活和本質(zhì)帶來巨大挑戰(zhàn)，但可以肯定的是，“人心”的特殊價值是任何機器都無法替代的?？档略f：“對動物殘忍的人在處理他的人際關(guān)系時也會對他人殘忍。我們可以通過一個人對待動物的方式來判斷他的心腸是好是壞。”完全可以據(jù)此推論，在人機共存的未來時代里，人類對于機器人的傷害行為也會導致對其同胞的傷害，人類對待機器人的態(tài)度將成為評價人性善惡的標準之一。

世界千變?nèi)f化，愛卻始終是最為堅實的內(nèi)核，克拉拉便擁有這樣真誠的核心，她不僅僅是機器，更是一個太陽，以自己的光芒溫暖著世人，并告訴世人：無論世界如何發(fā)展，身份如何改變，都要守護好自己的“人心”。

四、結(jié)語

比爾·蓋茨在談及《克拉拉與太陽》時說道：“這本書讓我思考擁有超級智能機器人的生活會是怎樣的——以及我們是否會將這些機器視為技術(shù)的一部分，還是更多的東西?！笔谝恍垡宰骷业娜说乐髁x關(guān)懷，借助文學的想象力對人類與機器人的關(guān)系提出前瞻性設(shè)想，既反對技術(shù)至上的唯理主義，又反對以人類為中心的倫理取向，由此為讀者帶來思考與啟示：給人類生存造成威脅的不是技術(shù)本身，而是人類對待和使用科技的態(tài)度與方式；若要建立一個和諧穩(wěn)定的人機共存世界，必須擯棄以人類為中心的倫理觀，人機和諧關(guān)系建立的基礎(chǔ)不在于機器人究竟是不是“人”，而在于人類以怎樣的眼光和方式看待與對待他們，這不僅是一個科學選擇，更是一個倫理選擇。