張文韜/編譯

機(jī)器人也有“人權(quán)”

張文韜/編譯

“機(jī)器人權(quán)”理念的出現(xiàn)

在不久的將來(lái)，以機(jī)器人形式出現(xiàn)的人工智能（AIs）也許具有思維能力，而且這種可能性越來(lái)越大。無(wú)論采取何種形式，機(jī)器意識(shí)的出現(xiàn)將會(huì)給人類社會(huì)帶來(lái)重大影響。

幾個(gè)月前，物理學(xué)家斯蒂文·霍金（Stephen Hawking）和微軟創(chuàng)始人比爾·蓋茨（Bill Gates）警告說(shuō)，智能機(jī)器人將會(huì)變得越來(lái)越強(qiáng)大，人類甚至難以控制它們。長(zhǎng)期以來(lái)，科幻作品經(jīng)常以智能機(jī)器人的道德難題以及它們?nèi)绾闻c人類共處作為主題，最為典型的是1982年拍攝的電影《銀翼殺手》和今年上映的《機(jī)械姬》。

在研究AIs時(shí)，學(xué)術(shù)界和藝術(shù)界大多關(guān)注的是人和機(jī)器人之間的相互關(guān)系問(wèn)題，譬如：機(jī)器人會(huì)使人類生活更好嗎？它們會(huì)很危險(xiǎn)嗎？未來(lái)它們會(huì)成為人類的威脅嗎？但這些都忽略了至關(guān)重要的一點(diǎn)，即我們還必須考慮智能機(jī)器人之間的相互關(guān)系，或它們彼此的交流對(duì)創(chuàng)造它們的人類會(huì)產(chǎn)生怎樣的影響。例如，如果我們?cè)试S智能機(jī)器對(duì)其他機(jī)器人實(shí)施侵害——即使這類“犯罪”沒有直接影響人類的利益，卻可能對(duì)人類社會(huì)產(chǎn)生不好的影響。諸如此類的這類哲學(xué)研討為“機(jī)器人權(quán)”理念的出現(xiàn)鋪平了道路。

通常有關(guān)開發(fā)機(jī)器人的討論都引用了科幻作家艾薩克·阿西莫夫（Isaac Asimov）提出的“機(jī)器人學(xué)三定律”：1.機(jī)器人不得傷害人類，也不得見人類受到傷害而袖手旁觀；2.機(jī)器人必須服從人類的指令，但不得違反第一定律；3.機(jī)器人應(yīng)保護(hù)自身的安全，但不得違反第一、第二定律。然而，這些定律都沒有提及機(jī)器人應(yīng)該如何對(duì)待彼此，包括忽略其他具有思想的機(jī)器的權(quán)利，這顯然是不合理的。

人類已經(jīng)為表現(xiàn)出思維活動(dòng)的動(dòng)物賦予權(quán)利和保護(hù)，目前文明社會(huì)也蔑視那些為了娛樂而設(shè)立的斗獸項(xiàng)目。由此可見，比動(dòng)物更智能的機(jī)器人也不應(yīng)該為了人類的娛樂而相互打斗。毫無(wú)疑問(wèn)的是，軍用機(jī)器人必須部署在戰(zhàn)場(chǎng)上。但除了正當(dāng)戰(zhàn)爭(zhēng)之外，迫使AIs和機(jī)器人發(fā)生沖突、或虐待它們，是有違人類道德、倫理和心理健康的。

迎接智能族群的到來(lái)

盡管智能機(jī)器人還存在于科幻小說(shuō)里，但有必要從現(xiàn)在開始認(rèn)真對(duì)待這些問(wèn)題。例如，英國(guó)工程與自然科學(xué)研究理事會(huì)(EPSRC)和藝術(shù)與人文科學(xué)研究理事會(huì)(AHRC)已經(jīng)提出了一套機(jī)器人設(shè)計(jì)原則：強(qiáng)調(diào)機(jī)器人是工業(yè)產(chǎn)品，人類必須對(duì)它們負(fù)責(zé)。

科學(xué)家、哲學(xué)家和決策者必須更深入地思考機(jī)器人和AIs之間的關(guān)系，包括提出有關(guān)AIs的國(guó)際憲章（類似聯(lián)合國(guó)的《世界人權(quán)宣言》），這將在研發(fā)過(guò)程中有助于引導(dǎo)人們?cè)诘赖律细由髦氐貙?duì)待機(jī)器人和AIs，包括引入針對(duì)人工智能和機(jī)器人的人道主義法（AIonAI）理念，以期研制出安全的AIs。甚至應(yīng)該設(shè)立一個(gè)AIonAI年度獎(jiǎng)項(xiàng)，以獎(jiǎng)勵(lì)那些最無(wú)私的AIs設(shè)計(jì)。

在推進(jìn)AIonAI理念的同時(shí)，社會(huì)學(xué)家、哲學(xué)家應(yīng)該加強(qiáng)與機(jī)器人學(xué)與計(jì)算機(jī)科學(xué)的聯(lián)系。投資人除了支持AIs開發(fā)，也應(yīng)該向諸如惠康基金會(huì)等醫(yī)學(xué)研究投資者看齊：既支持尖端健康研究，同時(shí)為醫(yī)學(xué)倫理學(xué)和歷史研究提供資金。

當(dāng)前和未來(lái)，從事AIs和機(jī)器人研究的機(jī)構(gòu)在關(guān)注AIonAI理念的同時(shí)，應(yīng)舉辦以AIonAI為議題的研討會(huì)，為出臺(tái)相關(guān)的指導(dǎo)方針和政策做鋪墊，激勵(lì)下一代機(jī)器人工程師和AI研究者掌握AIonAI原則。就如同進(jìn)入英國(guó)政界工作的學(xué)生必須掌握PPE課程（政治學(xué)、哲學(xué)和經(jīng)濟(jì)學(xué)）一樣，相應(yīng)的，對(duì)機(jī)器人學(xué)和AIs感興趣的學(xué)生則要學(xué)習(xí)CEP課程（計(jì)算機(jī)科學(xué)、工程學(xué)和哲學(xué)）。

同時(shí)，我們必須把阿西莫夫的機(jī)器人學(xué)三定律拓展到與AIonAI對(duì)應(yīng)的相互關(guān)系上。我為此提出第四定律：所有被賦予人性和是非觀的機(jī)器人，都應(yīng)該友善地對(duì)待其他機(jī)器人。

不要低估人工思維機(jī)器到來(lái)的可能性。人類將要迎接一個(gè)新的智能族群的到來(lái)。無(wú)論這個(gè)族群是否是“人工的”，都不會(huì)影響這個(gè)問(wèn)題的存在：新的數(shù)字族群應(yīng)該得到尊嚴(yán)與權(quán)利，應(yīng)該有新的法則來(lái)保護(hù)它們。

[資料來(lái)源：Nature][責(zé)任編輯：則鳴]