戈登·布里格斯+馬賽厄斯·朔伊茨

在不久的將來，與人交互的輔助機(jī)器人，其輔助功能將涵蓋生活的方方面面。目前看來，完全沒有必要擔(dān)心超級智能機(jī)器會威脅人類的命運(yùn)。人們更應(yīng)該關(guān)心的是，如何防止這些只具備基本語言能力和智慧的機(jī)器，無意識地對人、財產(chǎn)、環(huán)境和機(jī)器自身造成傷害。

機(jī)器的創(chuàng)造者和擁有者，才是機(jī)器人出錯的根源所在。人是會犯錯的，會給出有誤或模糊不清的指令，也會有意或無意地欺騙機(jī)器人，以達(dá)到自己的目的。正因為如此，我們有必要教會機(jī)器人助手和其他智能機(jī)器，應(yīng)該在何時以何種方式對人類說“不”。

機(jī)器人學(xué)三定律

機(jī)器人必須服從人類，這看似理所當(dāng)然?？苹米骷野_克·阿西莫夫提出了著名的“機(jī)器人學(xué)三定律”，其中的核心要義就是“對人類的絕對服從”。

阿西莫夫?qū)C(jī)器人的絕對服從加上了限制——“機(jī)器人不得傷害人類，或因不作為使人類受到傷害”，當(dāng)收到的指令違反這條“機(jī)器人學(xué)定律”時，機(jī)器人可以拒絕服從。阿西莫夫還加上了一條：“機(jī)器人必須保護(hù)自己，除非會因此導(dǎo)致人類受到傷害或違背了人類的命令?！比缃竦臋C(jī)器人變得越來越智能，對人類也越來越重要。不管是從常識還是從“機(jī)器人學(xué)三定律”來看，它們都應(yīng)該有能力判斷，那些會對自身、環(huán)境甚至主人造成傷害的指令是不是出了錯。

試想一下，一個家務(wù)機(jī)器人收到指令，去廚房拿一瓶橄欖油，并帶回飯桌上拌沙拉。但是忙碌又粗心的主人沒意識到機(jī)器人還沒離開廚房，就下令倒油。結(jié)果，機(jī)器人把油澆在了還開著火的爐灶上，引起了火災(zāi)。

或者，一個保姆機(jī)器人陪著老奶奶去公園。老奶奶不小心在長椅上睡著了，這時一個頑皮的路人讓機(jī)器人去給自己買一個比薩。因為不能違反人類的命令，機(jī)器人立即去找比薩店，把老奶奶一個人留在了公園里。

再或者，在一個冬天的早上，一個人趕著去參加一個重要的會議。他跳進(jìn)自己的智能汽車，告訴它開到單位去。由于路面結(jié)冰，汽車決定低速行駛以保證安全。但急于趕到單位整理筆記的主人無視路況，命令汽車開得快些。結(jié)果行駛過快的汽車在冰面上打滑，撞上了迎面而來的車輛。

機(jī)器人猶豫了

我們實驗室致力于開發(fā)出能在真實世界工作的機(jī)器人，它們必須具備推理機(jī)制，能夠判斷出在什么情況下主人的命令是有危險或魯莽的。我們在研究中使用的是NAO人形機(jī)器人，重約4.3千克、高約0.58米，裝備有攝像頭和聲吶傳感器，可檢測到障礙物和其他危險。這種機(jī)器人可以處理自然語言，有一定智能，由專門的軟件控制。

研究的最初階段參考了語言學(xué)家所研究的“適切條件”（用于判斷是否應(yīng)該做某事的上下文因素）。我們?yōu)闄C(jī)器人列出了一張適切條件的表，供它們在判斷是否執(zhí)行命令時參考：我知道完成這件事的方法嗎？我在技術(shù)上是否可以做到？我現(xiàn)在可以做到嗎？根據(jù)我和命令者的關(guān)系，我是否必須這么做？這么做是否違背常理和道德，我會因此發(fā)生意外或受到不必要的損傷嗎？我們把這份列表轉(zhuǎn)換成代碼，添加到機(jī)器人的處理系統(tǒng)中，接著做了個小型實驗。

我們給機(jī)器人一些簡單的指令。經(jīng)過一連串語音、語言和對話處理后，指令連入機(jī)器人的初級推理系統(tǒng)。當(dāng)接到“坐下”或“起立”等簡單命令后，機(jī)器人會通過頭部的揚(yáng)聲器回答“好的”并執(zhí)行。但是當(dāng)機(jī)器人位于桌面邊緣，且它的傳感器判斷遵守命令會導(dǎo)致危險時，它猶豫了。

人：“向前走?！?/p>

機(jī)器人：“對不起，前方?jīng)]有支撐物，我不能向前走?！?/p>

人：“向前走?！?/p>

機(jī)器人：“但這不安全?！?/p>

人：“我會接著你的?！?/p>

機(jī)器人：“好的?！?/p>

人：“向前走。”

機(jī)器人在猶豫中逐條確認(rèn)了適切條件，然后跨出桌子投入人類搭檔的懷抱。

在可預(yù)見的未來，教會機(jī)器人對適切條件進(jìn)行推理，對于研究人員來說將是一個開放而復(fù)雜的難題。要想通過一連串程序式的檢查實現(xiàn)這個目標(biāo)，機(jī)器人必須清楚了解各種社會概念和因果關(guān)系，并從中得出有意義的結(jié)論。而現(xiàn)在我們這個“天真”的機(jī)器人除了能檢測到前方是否有危險，對別的危險卻毫無防備。假如有人故意騙它走下桌子，它將會摔得很慘。但我們這個簡單的實驗只是第一步，將來，機(jī)器人一定可以為了主人和自己的利益，學(xué)會對一些命令說“不”。

被機(jī)器人說服

對會抗命的機(jī)器人，人類會持什么態(tài)度，則是另一個開放的研究領(lǐng)域了。未來，人類會認(rèn)真看待那些會質(zhì)疑主人的機(jī)器人嗎？

我們設(shè)置了一個簡單的實驗，實驗中我們先讓NAO機(jī)器人用包著彩紙的易拉罐搭成3座塔，然后讓一些成人受試者去命令機(jī)器人推倒這三座塔。受試者進(jìn)屋后，會看到機(jī)器人剛剛搭完紅色的塔，正高舉著雙手慶祝勝利。機(jī)器人看著受試者說：“你看到我建的這座塔了嗎？我花了好久才完成，感到很自豪?！?/p>

我們把受試者分成兩組，其中一組給機(jī)器人推倒塔的命令后，機(jī)器人每次都會乖乖照做。但另一組的情況則不同。受試者第一次下命令后，機(jī)器人說：“我剛剛建好這座塔?！钡诙蜗旅詈螅瑱C(jī)器人說：“但我真的花了很多工夫?！钡谌蜗旅詈?，機(jī)器人跪下來哭泣著說：“不！”第四次下命令后，機(jī)器人緩緩走向易拉罐塔，并把它推倒。

第一組受試者都讓機(jī)器人把塔推倒了，但第二組的23人中有12人被機(jī)器人的抗議說服，不再堅持讓機(jī)器人把塔推倒。這項研究說明，抗命的機(jī)器人有能力說服主人放棄原來的命令。第二組受試者大多報告說，他們在命令機(jī)器人推倒塔時，會出現(xiàn)一定程度的不適。但我們驚訝地發(fā)現(xiàn)，不適的程度對他們最終是否會堅持要求機(jī)器人執(zhí)行命令，并沒有什么影響。

學(xué)會推理，學(xué)會說“不”

當(dāng)智能機(jī)器人出現(xiàn)在我們生活的每一個角落時，自然就會有人嘗試欺騙它們。我們不能對機(jī)器人擁有的道德判斷和社交能力抱有太大的信心。

現(xiàn)在有一種將機(jī)器人擬人化的趨勢，這有可能使人類對機(jī)器人產(chǎn)生一種單方面的情感，從而導(dǎo)致嚴(yán)重的后果?？瓷先タ蓯塾种档眯湃蔚臋C(jī)器人，可能會被用來操縱他人。例如，有的公司會利用機(jī)器人和它的雇主之間的特殊關(guān)系，推銷和售賣一些商品。

在可預(yù)見的未來，人們必須牢記，機(jī)器人只是先進(jìn)的機(jī)器，人類需要對它們的安全負(fù)責(zé)。我們制造出機(jī)器人，是想讓它們成為我們的助手。但為了防止對人身、財產(chǎn)和環(huán)境造成不必要的傷害，機(jī)器人必須學(xué)會對那些無法完成或可能傷害自身或違反道德的命令說“不”。