編譯 思羽

假如機(jī)器人可以是狡猾的、自以為是的、善于表達(dá)的，那么為何不能有知覺？

在2018年上映的電影《游俠索羅：星球大戰(zhàn)外傳》中，我們初次認(rèn)識(shí)了機(jī)器人L3，她是藍(lán)道·卡利森的機(jī)器人副駕駛，當(dāng)時(shí)在酒吧里痛斥一場機(jī)器人對抗機(jī)器人的殘忍籠中斗：“你們怎么能寬恕這種野蠻暴行？！機(jī)器人也有權(quán)利！我們有知覺！”

我第一次觀看《游俠索羅》電影時(shí)，我對機(jī)器人L3的反應(yīng)五味雜陳。我終于在《星球大戰(zhàn)》電影中看到一個(gè)角色大聲說出我思考了多年的想法：機(jī)器人也有知覺，機(jī)器人擁有像人類一樣的心智，這難道不是顯而易見的嗎？我為此而雀躍，但我也有少許氣惱，因?yàn)檫^了如此久之后，才有人在大銀幕上承認(rèn)這一點(diǎn)。此前幾十年里，“星球大戰(zhàn)”星系里的機(jī)器人一直被奇怪地看作僅僅是一件所有物。

L3大聲疾呼機(jī)器人解放的口號(hào)，而她的同類全都對此翻白眼，看起來不只是他們有此反應(yīng)。2019年首播的電視劇集《曼達(dá)洛人》（在《星球大戰(zhàn)》年表中，該劇集故事設(shè)定于《游俠索羅》故事的19年后），描繪了一個(gè)機(jī)器人的命運(yùn)并無改善的世界或星系。劇集還強(qiáng)化了這一觀點(diǎn)，被稱為“曼多”的主角對機(jī)器人有著極深的不信任和鄙夷，比如在第一集中就描繪了這一點(diǎn)：主角堅(jiān)持要乘坐一輛由人類駕駛的、狀況堪憂的飛行摩托，而不選擇一輛由機(jī)器人駕駛、更好的飛行摩托。

機(jī)器人Jibo和辛西婭·布雷齊爾

曼多對機(jī)器人的鄙夷與我們作為觀眾對影片中機(jī)器人的想法形成了鮮明反差。R2-D2和BB-8之類的機(jī)器人外形可愛，它們看起來更像是朋友而不是猜忌的對象，而盧克、阿納金和蕾伊等角色也正是像對待伙伴一樣對待那些機(jī)器人。但那些機(jī)器人是否如L3所堅(jiān)稱的那樣具有心智呢？我們要如何判斷呢？

這不只是一個(gè)理論問題。當(dāng)然，《星球大戰(zhàn)》電影中的機(jī)器人是虛構(gòu)的。但它們所提出的關(guān)于人類與機(jī)器人關(guān)系的問題十分現(xiàn)實(shí)。在未來不久的人類世界中，他們也許碰不到L3這樣的機(jī)器人，但當(dāng)前碎片化的人工智能和機(jī)器人領(lǐng)域取得的研究進(jìn)展讓人想到，像L3的機(jī)器人可能會(huì)出現(xiàn)得比許多人預(yù)想的更早。

譬如說，人工智能語言模型早已能生成文本，這些文本常常與人類的創(chuàng)作難以區(qū)分（不過仍然有改善的空間）。在機(jī)器人研究領(lǐng)域，一些工程師已經(jīng)把重心放在機(jī)動(dòng)性和靈巧性上。你可能早已看過波士頓動(dòng)力公司靈活敏捷但沒有臉龐（大概因此讓人感覺恐怖）的機(jī)器人的視頻，那些機(jī)器人主要用于工業(yè)和軍事用途。其他工程師和科研人員將重心放到所謂的社交機(jī)器人上，設(shè)計(jì)用來在教育和照顧角色中安慰人類。一個(gè)例子是最近起死回生的機(jī)器人Jibo，它源自于辛西婭·布雷齊爾（Cynthia Breazeal）在麻省理工學(xué)院的個(gè)性化機(jī)器人研究團(tuán)隊(duì)，基本上就是一個(gè)可愛做作版的亞馬遜Echo智能音箱，能識(shí)別你的面容，移動(dòng)過來看著你。

事實(shí)上，波士頓動(dòng)力公司的Atlas機(jī)器人和L3有一點(diǎn)兒相似之處，而Jibo看上去略微像BB-8機(jī)器人。出于這個(gè)原因，不難想象這些不同的發(fā)展路線也許在某一天匯聚，在我們的有生之年，我們可能和一臺(tái)現(xiàn)實(shí)中的《星球大戰(zhàn)》風(fēng)格機(jī)器人面對面站著。所以，我們要如何判斷L3、BB-8或《曼達(dá)洛人》中的IG-11機(jī)器人具不具備心智？這個(gè)問題實(shí)質(zhì)上就是在問“我們將要如何判斷未來的機(jī)器人是否擁有心智？”

事實(shí)上，我們每天都在未深入思考的情況下對其他人的心智狀況做出判定。你如何判斷一臺(tái)無人機(jī)有沒有心智？你養(yǎng)的貓呢？你最好的朋友呢？你實(shí)際上不用確切知道任何人或任何事，但你能做出合理的猜測。無人機(jī)？幾乎一定不會(huì)有心智；你養(yǎng)的貓？當(dāng)然在某種程度上有；你最好的朋友呢？幾乎一定擁有心智。但這些猜測建立在什么基礎(chǔ)上呢？

哲學(xué)家丹尼爾·丹尼特（Daniel Dennett）提出，當(dāng)你想要預(yù)測將發(fā)生的事情時(shí)，你能采用幾種不同的視角。對于所謂的“能動(dòng)者”——比如你養(yǎng)的貓或你的朋友——而言，最有用的視角是丹尼特稱為意向立場（intentional stance）的視角：你假定能動(dòng)者能理性行動(dòng)，達(dá)成目標(biāo)，實(shí)現(xiàn)欲望。為什么你養(yǎng)的貓走向食盆？為什么你的朋友走向冰箱？出于同樣的原因：他們餓了，他們的行動(dòng)旨在消除饑餓。

BB-8

假如你對你的貓咪和好友觀察足夠的時(shí)間，解釋貓的行為比解釋好友的行為要困難許多。但如果你將無人機(jī)想象成理性能動(dòng)者的話，你就不會(huì)有任何好運(yùn)來解釋無人機(jī)的行為。為何無人機(jī)飛向冰箱？不是因?yàn)樗囸I。我們越能容易用意向立場來解釋某個(gè)對象的行動(dòng)，我們就越可能認(rèn)為它擁有知覺。

當(dāng)我看到R2-D2、BB-8和IG-11，我所見到的行為更像好友的行為，而不是無人機(jī)的行為。他們的行為有意圖（知覺的跡象），但他們的行為遠(yuǎn)遠(yuǎn)不止有意圖，而是智慧的行為。

人類智慧的關(guān)鍵性組成部分是社會(huì)性理解：推斷其他人和能動(dòng)者想要什么或感覺什么的能力。在《曼達(dá)洛人》劇集中，盡管IG-11操著單調(diào)的機(jī)器人嗓音，但他并不缺乏社會(huì)性理解。譬如說，他在格羅古（大多人都稱其為“尤達(dá)寶寶”）面前殘忍干掉兩名風(fēng)暴兵后，他因?yàn)楹Φ酶窳_古不得不目睹這一幕而向格羅古道歉。在劇集第一季末尾的溫柔一幕中，當(dāng)IG-11治療受重傷的曼多時(shí)，IG-11意識(shí)到曼多可能受了驚嚇，于是他的反應(yīng)就像一位共情的醫(yī)生，以友善態(tài)度對待患者：“你的中央處理單元遭受損傷……那是個(gè)笑話，本意是要讓你放寬心?！辈贿^，IG-11的程序中就有照料他人的內(nèi)容。那么R2-D2這樣的機(jī)器人表現(xiàn)如何呢？

R2利用他對人類信仰和感覺的認(rèn)知來操縱影響人類，以這種方式顯露出他的社交智慧。在電影《新希望》中，R2哄騙天行者盧克摘下他身上的限制螺栓。在《最后的絕地武士》中，他再次操縱盧克，讓他回憶起他的妹妹和他的責(zé)任感，喚起他心中的內(nèi)疚，促使他開始訓(xùn)練蕾伊為絕地武士。R2的行為實(shí)際上相當(dāng)復(fù)雜：幼兒通常要到至少三四歲的年紀(jì)才產(chǎn)生這樣操縱他人的能力，大多數(shù)幼兒那時(shí)已經(jīng)學(xué)會(huì)以完整的句子說話。更為重要的是，現(xiàn)實(shí)世界里沒有任何一個(gè)機(jī)器人能做出這樣的行為。

最后一點(diǎn)是，機(jī)器人擁有感覺。從字面意思來理解，這似乎是真的——在電影《絕地歸來》中，我們看到一個(gè)機(jī)器人在賈巴的地牢里遭受折磨，大聲喊叫，貌似它是因疼痛而叫出聲來。但機(jī)器人顯然感覺得到復(fù)雜的情緒。正如《原力覺醒》的一個(gè)例子中，你能否用“傷心”以外的其他說法來形容BB-8從芬恩口中獲知波墜機(jī)身亡后的反應(yīng)？

機(jī)器人的感覺能力很重要，這是因?yàn)檠芯匡@示，我們判斷一個(gè)能動(dòng)者是否擁有心智基于兩個(gè)因素：它是否能做出決定和計(jì)劃？它是否有感覺的能力？2007年時(shí)，在心理學(xué)家希瑟·格雷（Heather Gray）領(lǐng)導(dǎo)下進(jìn)行的一項(xiàng)對于2 000多人的調(diào)查中，只有人類在這兩項(xiàng)因素上都得到高分（狗和黑猩猩在感覺能力的評分上和人類差不多一樣高，但在做決定和計(jì)劃的能力上沒人類那么高）。

當(dāng)然，我們僅能從機(jī)器人的行為推斷它們擁有感覺。《星球大戰(zhàn)》系列電影的制作人有時(shí)利用人類心理學(xué)來獲得戲劇性效果。譬如說，盡管IG-11的舉止和言談?dòng)袝r(shí)顯得機(jī)械呆板，但是他和《曼達(dá)洛人》第2季中引入的如同機(jī)器一般的“黑暗風(fēng)暴兵”一對比，就小巫見大巫。黑暗風(fēng)暴兵完全不說話，移動(dòng)時(shí)邁著僵硬的連鎖步伐，這些特征使得他們看起來比有知覺的能動(dòng)者更像缺乏體驗(yàn)的單純機(jī)械。

這種反差是貫穿于《星球大戰(zhàn)》系列主題的一部分，影片中“壞”機(jī)器人描繪得比“好”機(jī)器人更加機(jī)械呆板。將BB-8和《最后的絕地武士》中出現(xiàn)的第一秩序組織機(jī)器人BB-9E作比較，或者將K-2SO和《俠盜一號(hào)》中出現(xiàn)的帝國K-2機(jī)器人作比較，BB-8移動(dòng)順暢，動(dòng)作更像在嬉戲，而K-2SO行走時(shí)步態(tài)懶散，用手勢表達(dá)意思時(shí)動(dòng)作夸張，而他們的對照物移動(dòng)時(shí)動(dòng)作僵硬而精確。這就必然意味著BB-9E或者黑暗風(fēng)暴兵沒有知覺嗎？完全不是。但是，很難不去將他們理解成雖然擁有心智，但感覺或體驗(yàn)較少，比不上IG-11和BB-8之類的機(jī)器人。

這是共同語言的不幸特征，即“人”常常意味著富有同情心、能為他人考慮，與代表冷漠的“機(jī)器人”形成對比。然而，《星球大戰(zhàn)》中的機(jī)器人向我們展現(xiàn)：富有同情心并非人類所固有，機(jī)器人擁有心智也沒有任何矛盾之處。R2-D2和BB-8的外形甚至都不像人類，然而他們擁有極高的表達(dá)能力和智慧。IG-11的外形稍許更像人類，但他明確告訴曼多，他“并非活物”。然而，就算是憎惡機(jī)器人的曼多也明白，他不能因此而拒絕像對待朋友一樣對待IG-11；當(dāng)IG-11犧牲自身來拯救格羅古、曼多和他們的朋友時(shí)，曼多感覺到我們所有人都會(huì)感受到的情緒：傷心、難過。

我們在不遠(yuǎn)的未來就可能面臨這種進(jìn)退兩難的窘境。無論人工智能是以實(shí)體機(jī)器人的形式還是以純粹數(shù)字化的智慧形式出現(xiàn)，我們很快就會(huì)遇到擁有BB-8那樣的表達(dá)能力、IG-11那樣的友善、R2-D2那樣的狡黠或者像L3那樣自以為是的人工智能。要判定這些人工智能是否擁有心智不會(huì)是件容易的事。然而，它們可能會(huì)擁有心智，我們應(yīng)當(dāng)準(zhǔn)備好對此予以認(rèn)可。畢竟，過去幾十年里，我們已經(jīng)開始認(rèn)可《星球大戰(zhàn)》中的機(jī)器人擁有心智。我們會(huì)對此做出任何其他選擇嗎？

資料來源 Nautilus