好萊塢影片《人工智能》中，那個(gè)有潛意識(shí)，甚至?xí)鰤?mèng)的機(jī)器男孩大衛(wèi)令人難忘。片中，21世紀(jì)中期科學(xué)家們，為了應(yīng)對(duì)日漸惡劣的自然環(huán)境，研制出各種人工智能機(jī)器人，為愛(ài)而誕生的大衛(wèi)是其中之一。

為了安撫可能失去兒子的養(yǎng)父母，大衛(wèi)為媽媽泡咖啡，和她捉迷藏，在紙上寫(xiě)滿了對(duì)爸爸媽媽的愛(ài)。然而，因?yàn)椴涣私馊祟?lèi)社會(huì)而頻頻闖禍的大衛(wèi)還是被媽媽拋棄了。在躲過(guò)機(jī)器屠宰場(chǎng)的殘酷追殺后，大衛(wèi)卻看到一個(gè)和自己一模一樣的男孩。他沒(méi)想到自己只是一個(gè)復(fù)制品。由愛(ài)而產(chǎn)生的仇恨被激發(fā)了，他揮起武器要?dú)⑺滥莻€(gè)男孩……

那些生活在科幻世界中，看似離現(xiàn)實(shí)遙遠(yuǎn)的具有人類(lèi)情感的機(jī)器人，如今正隨著機(jī)器人自動(dòng)化程度的提高而臨近。人們相信，電腦控制的機(jī)器所面臨的倫理問(wèn)題已經(jīng)脫離了科幻的領(lǐng)域，而進(jìn)入了真實(shí)的世界。

或許真的不再遙遠(yuǎn)了。1985年蘇聯(lián)國(guó)際象棋冠軍古德科夫同機(jī)器人棋手下棋連勝3局，機(jī)器人突然向金屬棋盤(pán)釋放強(qiáng)大的電流，將這位國(guó)際大師殺死。雖然后經(jīng)分析認(rèn)為，是電子霧使超級(jí)電腦內(nèi)部程序出現(xiàn)了紊亂，而產(chǎn)生強(qiáng)大電流，但人們更愿意相信，是因?yàn)檫B續(xù)的失敗引發(fā)了機(jī)器人的憤怒而造成這場(chǎng)悲劇。

事實(shí)上，機(jī)器人在幫助人們解決各種難題的同時(shí)，也讓人糾結(jié)，如果它們?cè)诠ぷ髦谐隽瞬铄e(cuò)造成事故，該由誰(shuí)負(fù)責(zé)？尤其是，當(dāng)這些機(jī)器人擁有了“高智能”，能“自學(xué)成才”，還可以根據(jù)自己的所“見(jiàn)”所“想”自作主張的時(shí)候。

看來(lái)，機(jī)器人一旦擁有智能，需要的就不僅僅是維護(hù)和修理，更需要規(guī)則約束，人們要找到一些方法，幫助它們作出更好的道德判斷。

有道德感的機(jī)器戰(zhàn)士

毫無(wú)疑問(wèn)，軍事科技走在智能機(jī)器的前列，它的發(fā)展已派生出極為豐富的機(jī)器種類(lèi)。諸如能爬窗跳房并保持拍攝狀態(tài)的沙蚤機(jī)器人；可以在墻上爬行的6條腿機(jī)器蟑螂RiSE；能在崎嶇的地形跟著人類(lèi)小跑，還能負(fù)重180千克的機(jī)器狗LS3……

美國(guó)國(guó)防部甚至希望在2015年前用機(jī)器人取代其1/3的戰(zhàn)車(chē)和軍人，但美國(guó)陸軍仍擔(dān)心機(jī)器人存在失控的可能性。研究人員正在研究如何讓機(jī)器人使用致命武器的同時(shí)，遵守國(guó)際法和交戰(zhàn)規(guī)則。有消息稱(chēng)，具有“道德感”的機(jī)器人士兵將在未來(lái)20年內(nèi)正式登上戰(zhàn)場(chǎng)。

負(fù)責(zé)這項(xiàng)研究的羅納德?阿金博士正在制定一套機(jī)器人交戰(zhàn)規(guī)則，以確保它們能根據(jù)道德準(zhǔn)則使用致命武器。他采取的方法就是創(chuàng)造一種被稱(chēng)為“潛在行動(dòng)的多維數(shù)學(xué)決策空間”的軟件系統(tǒng)。他在提交的一份研究報(bào)告中說(shuō)，這套融合了人類(lèi)悔恨、同情、內(nèi)疚等情緒的軟件安裝到戰(zhàn)爭(zhēng)機(jī)器人上后就能扮演“道德適配器”的角色，把機(jī)器人所有可能的行動(dòng)分為“道德”和“不道德”兩種，并根據(jù)需要選擇相應(yīng)武器系統(tǒng)。機(jī)器人在使用大威力武器前必須經(jīng)過(guò)“道德適配器”審核，當(dāng)使用武器的“負(fù)罪感”低于標(biāo)準(zhǔn)值才可行動(dòng)。

阿金博士舉了一個(gè)例子。美軍常用的無(wú)人駕駛飛機(jī)攜帶有精確制導(dǎo)炸彈。當(dāng)無(wú)人機(jī)準(zhǔn)備打擊某個(gè)目標(biāo)時(shí)，其自帶的“道德適配器”覺(jué)察到動(dòng)用機(jī)槍可能導(dǎo)致平民傷亡，便會(huì)及時(shí)作出“有罪”判定，機(jī)槍會(huì)被停用。而無(wú)人機(jī)下一步計(jì)劃發(fā)射威力更大的“地獄火”激光制導(dǎo)導(dǎo)彈時(shí)，“道德適配器”將發(fā)出更強(qiáng)烈的“有罪”提示，此時(shí)由于“有罪”提示達(dá)到最大允許量，無(wú)人機(jī)的武器系統(tǒng)將會(huì)失效。

美國(guó)《華盛頓郵報(bào)》的預(yù)測(cè)是，用不了20年，具有“道德感”的機(jī)器人能從根本上改變“戰(zhàn)爭(zhēng)屠宰場(chǎng)”的面貌。常規(guī)戰(zhàn)爭(zhēng)乃至種族屠殺將因這種機(jī)器人的干預(yù)而消失。希望如此。

機(jī)器人法律三原則

實(shí)際上，阿金團(tuán)隊(duì)的工作與20世紀(jì)50年代科幻作家艾薩克?阿西莫夫提出的“機(jī)器人三原則”有相似之處。所謂“機(jī)器人三原則”，就是機(jī)器人不能傷害人類(lèi)，也不能眼看人類(lèi)將要遇到傷害而袖手旁觀；機(jī)器人必須服從人的命令，除非這些命令與第一條原則相違背；機(jī)器人應(yīng)該能保護(hù)自己，但與前兩條原則相違背的情況除外。他提出的規(guī)則是為了保證機(jī)器人在任何情況下都不傷害人類(lèi)，而阿金的準(zhǔn)則是為了確保機(jī)器人不在“不道德”的情況下殺害人類(lèi)。

事實(shí)上，首先，法律需要界定，如果一架無(wú)人駕駛飛機(jī)襲擊了錯(cuò)誤的目標(biāo)，或者一輛無(wú)人駕駛汽車(chē)引發(fā)了事故，設(shè)計(jì)者、編程者、生產(chǎn)者和操控者是否有責(zé)任。為了界定責(zé)任，自動(dòng)系統(tǒng)必須保存詳細(xì)的記錄，這樣才可以在必要時(shí)解釋它們所作決定背后的理由。這對(duì)于系統(tǒng)設(shè)計(jì)有重大的影響。例如，人工神經(jīng)網(wǎng)絡(luò)和向?qū)嵗龑W(xué)習(xí)決策過(guò)程的系統(tǒng)發(fā)展將受到制約，取而代之的是要求機(jī)器人遵守事先制定好的規(guī)則。

其次，一旦機(jī)器人被植入道德系統(tǒng)，它們所作出的判斷需要被大部分人所接受。研究人類(lèi)如何處理道德困境的實(shí)驗(yàn)性哲學(xué)技術(shù)，將幫助實(shí)現(xiàn)這個(gè)功能。

最后，也是最重要的一點(diǎn)，工程師、倫理學(xué)家、律師和政策制定者要進(jìn)行更密切的合作。如果讓他們?cè)O(shè)計(jì)出自己的機(jī)器人，每個(gè)人都會(huì)制定出完全不同的一套規(guī)則。倫理學(xué)家與工程師的合作讓雙方均有受益：通過(guò)向機(jī)器傳授倫理，倫理學(xué)家對(duì)自己所研究的領(lǐng)域會(huì)有更深入的了解；工程師需要向社會(huì)保證，他們沒(méi)有回避任何倫理問(wèn)題。人工智能所面臨的道德問(wèn)題越快得到解決，人類(lèi)就可以越早享受到它們所帶來(lái)的福祉。

在經(jīng)典科幻影片《2001太空漫游》中，飛船電腦哈爾遇到了一個(gè)兩難選擇。它收到的指令要求它既完成飛船的任務(wù)，又向宇航員隱藏真實(shí)的目的。為了解決這個(gè)矛盾，它試圖殺死船員。而有了這個(gè)界定，哈爾就可以作出更好的道德判斷了。

雨讀根據(jù)《經(jīng)濟(jì)學(xué)人》、《遼寧日?qǐng)?bào)》、《科學(xué)人》、《高中生》雜志綜合編輯。