在今天我們能夠想象的條件下，機(jī)器人的行事原則只能是人類事先為它規(guī)定的，機(jī)器人必須執(zhí)行它主人的任何指令，包括大規(guī)模屠殺人類的指令。機(jī)器人三定律只能是善良人類的道德自律，根本不可能對(duì)科學(xué)狂人或邪惡之徒(這兩類人都是科幻影片中經(jīng)常出現(xiàn)的)有任何約束力。

當(dāng)年，阿西莫夫在他的小說《我，機(jī)器人》系列中提出了著名的機(jī)器人三定律：

第一定律——機(jī)器人不得傷害人，也不得見人受到傷害而袖手旁觀：

第二定律——機(jī)器人應(yīng)服從人的一切命令，但不得違反第一定律；

第三定律——機(jī)器人應(yīng)保護(hù)自身的安全，但不得違反第一、第二定律。

這三條定律，后來成為機(jī)器人學(xué)中的科學(xué)定律。以前我在文章中說過這樣的話：科幻作家們“那些天馬行空的藝術(shù)想象力，正在對(duì)公眾發(fā)生著重大影響，因而也就很有可能對(duì)科學(xué)發(fā)生影響——也許在未來的某一天，也許現(xiàn)在已經(jīng)發(fā)生了”。如果我們要找一個(gè)“現(xiàn)在已經(jīng)發(fā)生了”的例證，那么阿西莫夫的機(jī)器人三定律就是極好的一個(gè)。

將阿西莫夫的機(jī)器人三定律仔細(xì)推敲一番，可以看出它是經(jīng)過了深思熟慮的。第一、第二定律保證了機(jī)器人在服從人類命令的同時(shí)，不能被用作傷害人類的武器，也就是說，機(jī)器人只能被用于和平用途(因此在戰(zhàn)爭中使用機(jī)器人應(yīng)該是不被允許的)；第三定律則進(jìn)一步保證了這一點(diǎn)——）如果在違背前兩定律的情況下，機(jī)器人將不得不聽任自己被毀滅。

1968年庫布里克導(dǎo)演的著名影片《2001太空奧德賽》中，有一個(gè)重要的角色是一臺(tái)名為HAL 9000的電腦。這臺(tái)電腦操控著“發(fā)現(xiàn)”號(hào)宇宙飛船的航行及內(nèi)部運(yùn)作。從這個(gè)意義上說，這臺(tái)電腦也就是一個(gè)機(jī)器人(盡管它沒有類似人的形狀)。在將近40年前的作品中，關(guān)于這個(gè)角色的想象顯得如此超前——事實(shí)上，就是在今天看來，它也不算過時(shí)。

但是，由于《2001太空奧德賽》有著多重主題，諸如人類文明的過

去與未來、外星智慧、時(shí)空轉(zhuǎn)換、生死的意義等等，結(jié)局又是開放式的撲朔迷離；因此評(píng)論者通常都把注意力集中在上述這些宏大、開放的主題上，進(jìn)行聯(lián)想型、發(fā)散型的文學(xué)評(píng)論，很少有人從阿西莫夫機(jī)器人三定律出發(fā)來討論影片中電腦HAL 9000的行為。

在影片《2001太空奧德賽》中，電腦HAL 9000逐漸不再忠心耿耿地為人類服務(wù)了。最后它竟發(fā)展到關(guān)閉了三位休眠宇航員的生命支持系統(tǒng)——等于是謀殺了他們，并且將另兩位宇航員騙出飛船，殺害了其中的一位。當(dāng)脫險(xiǎn)歸來的宇航員戴夫決心關(guān)閉HAL9000的電源時(shí)，它又軟硬兼施，企圖避免被關(guān)閉的結(jié)局。

如果套用阿西莫夫機(jī)器人三定律，則HAL 9000的上述行為已經(jīng)明顯違背了第一、第二定律。這一點(diǎn)成為影片《2001太空奧德賽》的續(xù)集《2010接觸之年》(1984)中的重點(diǎn)。《2010接觸之年》雖然遠(yuǎn)沒有《2001太空奧德賽》那么成功和有名，有人甚至認(rèn)為它只是狗尾續(xù)貂之作。但它接著后者的開放式結(jié)尾往下講故事，其中關(guān)于HAL 9000的部分倒是有些意思的。 話說公元2001年(地球上的年份)，宇航員戴夫在“發(fā)現(xiàn)”號(hào)宇宙飛船上強(qiáng)行關(guān)閉了電腦HAL 9000之后，意外進(jìn)入了錯(cuò)亂的時(shí)空，不知何為過去未來，也不知自己是生是死。而“發(fā)現(xiàn)”號(hào)實(shí)際上已被遺棄在木星附近。9年之后，一艘蘇聯(lián)(注意這是1984年的影片，那時(shí)蘇聯(lián)還“健在”)宇宙飛船被派往木星，目的是尋找當(dāng)年“發(fā)現(xiàn)”號(hào)上保存的神秘信息。從理論上說，“發(fā)現(xiàn)”號(hào)是美國領(lǐng)土，所以蘇聯(lián)的飛船上還有三位美國宇航員，其中包括當(dāng)年HAL9000的設(shè)計(jì)者錢德拉博士。

在找到仍在軌道上運(yùn)行的“發(fā)現(xiàn)”號(hào)并成功對(duì)接之后，錢德拉博士登上了“發(fā)現(xiàn)”號(hào)，并重新啟動(dòng)了HAL 9000。HAL 9000表現(xiàn)十分溫順，對(duì)一切指令都乖乖執(zhí)行。順便插一句，HAL 9000用男聲說話，這當(dāng)然意味著它被想象為一個(gè)“雄性”物體。但影片中，它說話的聲音卻極為溫順——甚至有點(diǎn)娘娘腔了。錢德拉博士對(duì)它很有信心，甚至為它9年前的罪行辯護(hù)，說那是因?yàn)樗拥搅嗣艿闹噶钪?。但這種辯護(hù)顯然是站不住腳的，因?yàn)榘凑諜C(jī)器人第一、第二定律，根本不可能有指令上的矛盾——任何殺害宇航員的指令都應(yīng)視為“亂命”，根本不應(yīng)該考慮執(zhí)行。換句話說，即使“發(fā)現(xiàn)”號(hào)上有反叛或邪惡的宇航員需要被處死，那也只能由別的宇航員“人工”執(zhí)行，不能讓HAL 9000去執(zhí)行。 但是，隨著故事情節(jié)的發(fā)展，考驗(yàn)HAL 9000忠誠的時(shí)刻到了。美蘇兩國的宇航員們決定，用盡“發(fā)現(xiàn)”號(hào)上的燃料幫助蘇聯(lián)的宇宙飛船逃生，而“發(fā)現(xiàn)”號(hào)則將被遺棄并在一場爆炸中毀滅。現(xiàn)在的問題是，對(duì)于這樣的指令，HAL 9000會(huì)不會(huì)執(zhí)行呢?大部分人感到?jīng)]有把握，因?yàn)镠AL9000執(zhí)行這樣的指令就意味著它自身的毀滅。

影片在這里用了濃墨重彩。指令是錢德拉博士向HAL9000發(fā)出的。HAL 9000很不理解，它一再告誡錢德拉博士，這樣的話“我們的”飛船就會(huì)毀滅。在它不得不執(zhí)行指令，進(jìn)入倒計(jì)時(shí)之后，它還一次次告訴錢德拉博士，“現(xiàn)在停止還來得及”。最后錢德拉博士向它說出了真實(shí)意圖，HAL 9000終于明白：它將要?dú)缱约簛韼椭詈絾T們。它平靜地接受了這一殘酷的現(xiàn)實(shí)，執(zhí)行了指令。最終美蘇兩國的宇航員們得以返回地球，而HAL 9000連同“發(fā)現(xiàn)”號(hào)一起化為灰燼。

這里我們看到了對(duì)機(jī)器人第三定律的完美體現(xiàn)：當(dāng)人類的生命受到威脅時(shí)，為了挽救人類，機(jī)器人就不應(yīng)該再“保護(hù)自身的安全”了。因?yàn)榇藭r(shí)它再試圖保護(hù)自己，就會(huì)違背第一定律和第二定律。

在以機(jī)器人為主題的科幻影片中，阿西莫夫的機(jī)器人三定律通常會(huì)得到特殊的強(qiáng)調(diào)。比如，在影片《機(jī)械公敵》(2004)中，一上來就在浩瀚的星空背景上出現(xiàn)機(jī)器人定律的文本，似乎象征著該定律“放之四海而皆準(zhǔn)”。而在影片《變?nèi)恕?1999)中，機(jī)器人安德魯一到主人家就用夸張的方式向主人陳述了機(jī)器人三定律。

但是，機(jī)器人三定律雖然思慮周詳，真的要執(zhí)行起來，還是很困難的。比如將機(jī)器人用于戰(zhàn)爭，是許多科學(xué)家現(xiàn)今努力的方向。即使在不否定機(jī)器人三定律前提下，也可以為這種努力辯護(hù)。因?yàn)闄C(jī)器人、電腦、自動(dòng)機(jī)械之間的界限是很難清楚劃定的，使用自動(dòng)武器、智能武器，并不等于使用機(jī)器人啊。

在小說《基地前傳·基地前奏》中，阿西莫夫又提到，應(yīng)該有一個(gè)關(guān)于機(jī)器人的“第。定律”，表述為：“機(jī)器人不得傷害人類整體，也不得見人類整體受到傷害而袖手旁觀?！边@樣，原先的三定律就要做相應(yīng)的修正，比如第一定律改為：“機(jī)器人不得傷害人，也不得見人受到傷害而袖手旁觀，但不得違反第○定律?！钡诙?、第三定律依此類推。然而，加了這個(gè)“第○定律”情形只會(huì)變壞——“第○定律”非但對(duì)于狂人和惡人沒有任何約束力，反而讓他們有機(jī)會(huì)以人類整體利益的名義，來利用機(jī)器人傷害人類個(gè)體了。