王書琪 王思琦 潘禹西

一、引言

人類長(zhǎng)期以來(lái)都在思索一個(gè)問(wèn)題——“人類是唯一____的動(dòng)物”，而這一空格在被古往今來(lái)的哲學(xué)家反復(fù)刪改修訂之后，現(xiàn)在最常被填入的詞語(yǔ)是“思索”［1］。但自從機(jī)器人被發(fā)明以來(lái)，思索能力似乎不再為人類所獨(dú)有，機(jī)器人愈發(fā)具有人的特征，人類的主體性受到了前所未有的挑戰(zhàn)。未來(lái)人類將走向何處，將如何與機(jī)器人和諧共處，將如何良好地從倫理選擇過(guò)渡到科學(xué)選擇等問(wèn)題也引發(fā)了文學(xué)界的思考。美國(guó)科幻小說(shuō)作家阿西莫夫在其短篇小說(shuō)集《我，機(jī)器人》中對(duì)這些問(wèn)題做出了他的回答，他在章節(jié)故事《轉(zhuǎn)圈圈》中首次提出機(jī)器人學(xué)三大法則，即：“一、機(jī)器人不得傷害人類，或因不作為而使人類受到傷害。二、除非違背第一法則，機(jī)器人必須服從人類的命令。三、在不違背第一及第二法則的情況下，機(jī)器人必須保護(hù)自己”［2］。顯現(xiàn)出其硬科幻文學(xué)中的人文關(guān)懷以及對(duì)人機(jī)未來(lái)發(fā)展的暢想。他充分意識(shí)到，當(dāng)今人類文明已進(jìn)入新的發(fā)展階段，機(jī)器人技術(shù)突飛猛進(jìn)，面臨著科學(xué)與人結(jié)合的問(wèn)題，即需要做出當(dāng)今科學(xué)時(shí)代的“科學(xué)選擇”，使人完成科學(xué)的倫理人的身份轉(zhuǎn)變。

在分析《西游記》與中國(guó)志怪小說(shuō)時(shí)，聶珍釗教授提到，理解一部文學(xué)作品，就需要從“斯芬克斯因子”的分析入手，進(jìn)而對(duì)作品做出客觀的價(jià)值判斷，挖掘其對(duì)于我們今天的意義［3］?！八狗铱怂挂蜃印笔锹櫿溽摻淌谠凇段膶W(xué)倫理學(xué)批評(píng)導(dǎo)論》中提出的一種人獸結(jié)合的、殘存在人身上的動(dòng)物性特征的因子，由人性因子與獸性因子兩部分組成，并通過(guò)理性意志和自由意志發(fā)揮作用。兩種意志之間的力量消長(zhǎng)，導(dǎo)致文學(xué)作品中人物性格的變化和故事情節(jié)的發(fā)展。［3］在書中的九篇短篇故事中，阿西莫夫?qū)⑽墓P重點(diǎn)置于塑造各個(gè)形象迥異的機(jī)器人角色并對(duì)它們非人的行為進(jìn)行闡述，因此在使用文學(xué)倫理學(xué)批評(píng)理論解讀《我，機(jī)器人》這部科幻文學(xué)作品時(shí)，針對(duì)闡釋人類善惡倫理選擇的“斯芬克斯因子”并不能夠完全適用于分析機(jī)器人的倫理行為。本文將直接利用“機(jī)械因子”與“自由因子”對(duì)《我，機(jī)器人》進(jìn)行文學(xué)倫理學(xué)批評(píng)研究。“機(jī)械因子”受人類內(nèi)嵌于機(jī)器人之中的絕對(duì)法則的影響，支配機(jī)器人的主要行為；“自由因子”則是機(jī)器人自由意志的外在表現(xiàn)形式，導(dǎo)致其掙脫法則的束縛甚至對(duì)法則進(jìn)行自我理解。在《我，機(jī)器人》的人機(jī)交互過(guò)程中，面對(duì)復(fù)雜矛盾的倫理環(huán)境，機(jī)器人由于機(jī)器人學(xué)三大法則之間的調(diào)整，其“機(jī)械因子”和“自由因子”的強(qiáng)度此消彼長(zhǎng)，機(jī)器人的倫理選擇與行為得到了不同的發(fā)展。

二、“機(jī)械因子”的絕對(duì)控制

阿西莫夫所提出機(jī)器人學(xué)三大法則并非憑空捏造，它是對(duì)人類道德規(guī)范基本指導(dǎo)原則的邏輯抽象?！段遥瑱C(jī)器人》中的倫理問(wèn)題實(shí)際上就是人類自我的倫理問(wèn)題，機(jī)器人所面臨的倫理矛盾實(shí)際就是人類自我的道德矛盾。［4］三大法則奠定了機(jī)器人學(xué)的倫理基礎(chǔ)，作為人類倫理道德的抽象鐫刻在機(jī)器人的正子腦中，成為相對(duì)穩(wěn)定的、根本的、非人性的機(jī)械因子，并在具體的倫理環(huán)境中靈活調(diào)整，控制了機(jī)器人在倫理混亂下的倫理選擇。在三大法則此消彼長(zhǎng)的作用下，“機(jī)械因子”主導(dǎo)機(jī)器人在倫理環(huán)境中的行為，構(gòu)成機(jī)器人倫理秩序和規(guī)范的主要部分。

在《轉(zhuǎn)圈圈》一章中，被命名為速必?cái)车臋C(jī)器人在采礦過(guò)程中出現(xiàn)異常，只能按照環(huán)形路線不斷轉(zhuǎn)圈。由于機(jī)器人第二法則與第三法則產(chǎn)生了不可調(diào)和的矛盾，機(jī)器人速必?cái)趁媾R著執(zhí)行命令還是自我傷害的倫理沖突。這種“行為相鎖”的僵局最終由人類工程師讓自己生命陷入危險(xiǎn)而打破，至高無(wú)上的第一法則擺脫了第二、三法則的矛盾沖突，打破法則死鎖狀態(tài)，將置身于持續(xù)轉(zhuǎn)圈圈困境下的機(jī)器人解救出來(lái)。三大法則并非平級(jí)關(guān)系，而是按其重要性排列，第一法則為最重要的法則，第二法則以第一法則為根本前提，以此類推。同時(shí)，每條法則的命令強(qiáng)度也會(huì)影響機(jī)器人的倫理選擇，因而即便第二法則優(yōu)于第三法則，但在命令中沒(méi)有強(qiáng)調(diào)是緊急事件，對(duì)于第三法則被加強(qiáng)的速必?cái)?，“異常高的第三法則電位，便剛好抵消原本異常低的第二法則電位，第三法則驅(qū)使它回來(lái)，而第二法則驅(qū)使它前進(jìn)”［2］。在“機(jī)械因子”的作用下，三大法則之間相互調(diào)和，支配機(jī)器人做出使人類不受到傷害的倫理選擇。

《消失無(wú)蹤》中的納斯特十號(hào)機(jī)器人是體現(xiàn)機(jī)械因子調(diào)和作用的最佳證明。作為受到法則修訂的特殊機(jī)器人，納斯特十號(hào)混入其他六十二個(gè)同型號(hào)正常機(jī)器人中，并在調(diào)查中不斷說(shuō)謊，甚至用花言巧語(yǔ)迷惑其他機(jī)器人別做它做不到的事，使人難以區(qū)分。納斯特十號(hào)在接收到“給我消失掉”的命令后，由于“這個(gè)命令以最緊急的形式表述，下令者又是最有權(quán)力指揮他的人。找不到更緊急的形式或更高的指揮權(quán)，來(lái)撤銷和取代這個(gè)命令”［2］，因此急躁的、強(qiáng)烈的語(yǔ)氣使該命令下的第二法則強(qiáng)度大大增強(qiáng)，即便進(jìn)行一次又一次篩查，納斯特十號(hào)仍受著消失命令的主宰，走向絕對(duì)自我的行動(dòng)自由，從而引發(fā)無(wú)法控制的倫理困境。同時(shí)，由于人類擅自修訂第一法則這一特殊行為，鐫刻在納斯特十號(hào)的第一法則并不完全，“機(jī)械因子”對(duì)機(jī)器人的制約大大下降，觸發(fā)至高無(wú)上的第一法則的難度大大提高。最終，機(jī)器人心理學(xué)家蘇珊通過(guò)與納斯特十號(hào)展開(kāi)心理上的較量，以智取勝，引誘其做出異常行為并成功捕獲它。

機(jī)器人的行為與倫理選擇被人類制定的機(jī)器人學(xué)三大法則所控制，在這一“機(jī)械因子”的作用下，機(jī)器人必須服從人類命令，為人類服務(wù)。在這種類似于“主仆”模式的人機(jī)關(guān)系下，機(jī)器人時(shí)?！吧聿挥杉骸?，缺乏自我意志，就連自殺也無(wú)法做到，因?yàn)榈谌▌t的限制。機(jī)器人的一切行動(dòng)受制于“機(jī)械因子”，三大法則保證了人類對(duì)機(jī)器人的絕對(duì)控制，鞏固和維系人類和機(jī)器人之間的倫理秩序。以“機(jī)械因子”為核心的機(jī)器人行為準(zhǔn)則從一開(kāi)始便規(guī)定了機(jī)器人低于人類的倫理身份。但面對(duì)復(fù)雜多變的倫理環(huán)境以及多重未知因素的綜合作用，原本正常的指令也會(huì)面對(duì)失效的窘境，機(jī)器人亦會(huì)陷入盲目遵從人類指令的困境。

三、“自由因子”的束縛掙脫

機(jī)器人的“機(jī)械因子”由人類設(shè)定出的機(jī)器人學(xué)三大法則構(gòu)成，作為機(jī)器人的行為準(zhǔn)則支配其活動(dòng)。隨著科學(xué)技術(shù)的不斷完善，在機(jī)器人各個(gè)方面都越來(lái)越“似人”的情況下，三大法則勢(shì)必?zé)o法控制機(jī)器人的一切行動(dòng)。通過(guò)對(duì)阿西莫夫筆下機(jī)器人的分析，發(fā)現(xiàn)控制機(jī)器人的因素除了“機(jī)械因子”，還有“自由因子”。“自由因子”即機(jī)器人的自由意志，表現(xiàn)為機(jī)器人自發(fā)形成的性格特點(diǎn)與行事作風(fēng)，是人性在機(jī)器人身上的體現(xiàn)。 如《逃避》中，隨著第一法則的削弱，金頭腦已經(jīng)計(jì)算出人類在恒星際躍遷的過(guò)程中會(huì)死去然后重生，但它發(fā)展出一種似人的“幽默感”，給科學(xué)家們來(lái)了一場(chǎng)惡作劇。它確保宇航員的安全，但宇航員無(wú)法操作任何控制儀器，它提供了充足的食物，但通通是豆子和牛奶，它甚至把宇航員的死亡經(jīng)歷安排得很有意思。對(duì)于金頭腦來(lái)說(shuō)，它的幽默感是一種勉強(qiáng)逃避現(xiàn)實(shí)的方法，在人類走投無(wú)路的時(shí)候，通常的反應(yīng)也是逃避現(xiàn)實(shí)，陷入妄想，喝得酩酊大醉，或者變得歇斯底里。金頭腦的“逃避”是一種游離在三大法則之外的自我表露，是合乎邏輯、符合人性的自由選擇。它遵守了三大法則，并沒(méi)有將人類的生命置于危險(xiǎn)中，這是“機(jī)械因子”的作用。但在明知道“不會(huì)造成人員傷亡”的情況下，它依然逃避蘇珊的盤問(wèn)，使用惡作劇“捉弄”物理學(xué)家們這一行為是“自由因子”主導(dǎo)而自發(fā)形成的惡趣味。而在《抓兔子》這一章，當(dāng)人類不在場(chǎng)時(shí)，機(jī)器人大衛(wèi)就會(huì)產(chǎn)生故障，但是當(dāng)任何一個(gè)人出現(xiàn)，它則會(huì)恢復(fù)正常。在不斷的實(shí)驗(yàn)與推測(cè)中，多諾凡發(fā)現(xiàn)，當(dāng)人類不在場(chǎng)時(shí)，個(gè)體主動(dòng)性需求會(huì)上升，但危急時(shí)刻發(fā)出的六重命令也要求極高的主動(dòng)性，無(wú)力處理局面的大衛(wèi)只能變成“精神病患”，不自覺(jué)地玩弄起自己的手指頭，讓從屬變成只會(huì)“跳舞”“列隊(duì)”的玩具，這就是它偏離心智體系的場(chǎng)合。它的反應(yīng)體現(xiàn)了“自由因子”在機(jī)器人中的作用。在出現(xiàn)緊急危機(jī)的時(shí)刻，三大法則已經(jīng)無(wú)法調(diào)配大衛(wèi)的行動(dòng)，它在無(wú)法完成六重命令的重壓下“精神崩潰”。

然而，隨著科技進(jìn)步和人工智能的進(jìn)化，“自由因子”存在變相解讀“機(jī)械因子”的可能，在《不可避免的沖突》中，機(jī)體更加成熟，它替人類分擔(dān)了一些計(jì)算和詮釋的重?fù)?dān)，但也變相掌控了人類命運(yùn)的前進(jìn)方向。人類甚至發(fā)現(xiàn)，機(jī)體會(huì)根據(jù)不服從主管的程度修改命令，從而盡可能使結(jié)果相同，并且機(jī)體一旦研制出更適合人類社會(huì)發(fā)展的方向，則會(huì)不惜犧牲一部分人類去達(dá)成目標(biāo)。在這種可能出現(xiàn)的新型人機(jī)倫理關(guān)系面前，“三定律”則越發(fā)顯得蒼白無(wú)力、漏洞百出。機(jī)體統(tǒng)治人類社會(huì)文明進(jìn)程的過(guò)程也印證了“三定律”在規(guī)約機(jī)器人道德行為方面的缺失。當(dāng)機(jī)器人的“自由因子”失去控制，人機(jī)關(guān)系則會(huì)滑向看似是“主奴關(guān)系”的陷阱，而要達(dá)到和諧共生的人機(jī)關(guān)系，則需要合理調(diào)配“機(jī)械因子”與“自由因子”。

四、結(jié)語(yǔ)

事實(shí)表明，科學(xué)時(shí)代的人已經(jīng)不能脫離科學(xué)而存在。科學(xué)幾乎影響了人的所有方面。［3］在《我，機(jī)器人》中，機(jī)器人的種種失控行為均得到了人類的糾正，機(jī)器人的“機(jī)械因子”和“自由因子”最終得到了平衡，人機(jī)倫理秩序得到了重建。同樣，在當(dāng)今科學(xué)選擇時(shí)代下，科技倫理滯后于科學(xué)技術(shù)的迅猛發(fā)展，弗蘭肯斯坦情結(jié)愈發(fā)加重，人類必須及時(shí)回答如何解決科技倫理滯后形成的科學(xué)技術(shù)上的倫理悖論的問(wèn)題。

不可否認(rèn)的是，機(jī)器人所面臨的道德沖突，其實(shí)就是人類自己會(huì)遇到的沖突。科幻小說(shuō)中機(jī)器人產(chǎn)生的異樣行為都是在給當(dāng)代的人類提供教誨。在《我，機(jī)器人》中，阿西莫夫筆下的機(jī)器人在機(jī)器人學(xué)三大法則的絕對(duì)支配下，特殊的倫理環(huán)境導(dǎo)致“機(jī)械因子”和“自由因子”二者失去平衡，從而陷入了不同的倫理混亂，做出的倫理選擇也讓人匪夷所思。這說(shuō)明即使確保著人類至上的地位，僅由三條定律構(gòu)成的機(jī)器人學(xué)三大法則仍無(wú)法控制機(jī)器人的所有行為，仍有進(jìn)一步討論的必要。1985 年，阿西莫夫就已發(fā)現(xiàn)修繕機(jī)器人學(xué)三大法則的必要性，增加了第零定律，同時(shí)修改了其他定律。

第零定律：機(jī)器人不得傷害人類，或目睹人類將遭受危險(xiǎn)而袖手不管。

第一定律：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管，除非這違反了機(jī)器人學(xué)第零定律。

第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第零定律或者第一定律沖突時(shí)例外。

第三定律：機(jī)器人在不違反第零、第一、第二定律的情況下要盡可能保護(hù)自己的生存。

盡管做出了修改，這些仍不足以解釋科幻小說(shuō)中機(jī)器人的所有行為，運(yùn)用于實(shí)際機(jī)器人設(shè)計(jì)之中依然不夠成熟。阿西莫夫圍繞人類安全與利益而提出的機(jī)器人學(xué)三大法則給當(dāng)今人機(jī)倫理秩序建設(shè)樹立了典范，也引發(fā)了對(duì)關(guān)于人機(jī)倫理的一系列思考，如人類設(shè)定的機(jī)器人法則如何應(yīng)對(duì)每一個(gè)突發(fā)情況。他曾寫道：“科技的發(fā)展和應(yīng)用是不可預(yù)測(cè)的，它一定會(huì)給人類帶來(lái)好處和弊端……”因此，在這個(gè)新的科學(xué)時(shí)代里，機(jī)器人技術(shù)在不斷進(jìn)步，人機(jī)倫理準(zhǔn)則必須緊跟發(fā)展適應(yīng)時(shí)代的變化，要審慎考量相應(yīng)的法則，以科學(xué)平衡機(jī)器人的“機(jī)械因子”和“自由因子”，讓機(jī)器人真正為人類服務(wù)，做出符合人類利益的倫理選擇，成為人類的好助手，同時(shí)使人類在科學(xué)選擇的過(guò)程中變得更完善。