趙玉群，陳曉英（渤海大學(xué)政治與歷史學(xué)院，遼寧錦州121000）

?

物轉(zhuǎn)向視閾下機器人倫理學(xué)的發(fā)展
——兼評圖靈分流測試及勃克斯論題

趙玉群，陳曉英
（渤海大學(xué)政治與歷史學(xué)院，遼寧錦州121000）

【摘 要】進入21世紀以來，計算機和信息技術(shù)得到快速發(fā)展，機器人自治性、自主性不斷增強，機器人應(yīng)用與人類的關(guān)系越來越密切，先前人們的觀念認為機器人只是作為一種人造物或者一種工具來輔助人們工作、生活、學(xué)習(xí)等，但是在不久的將來機器人便會融入人們的生活，成為人們生活的一部分，機器人的廣泛使用會產(chǎn)生一些倫理問題。追根溯源，從機器人倫理學(xué)定義、物轉(zhuǎn)向與物倫理這兩個方面進行主要論證，圖靈分流測試以及“人=機器人”勃克斯論題進行輔助論證，對機器人倫理學(xué)進行一個總的概述。

【關(guān)鍵詞】機器人倫理學(xué)；物倫理；圖靈分流測試；勃克斯論題

機器人發(fā)展有其獨特的歷史［1］1。1950年，美國科幻小說家阿西莫夫在他的小說《我是機器人》中提出了機器人必須遵循的“三準則”：首先，機器人不得傷害人類或坐視人類受到傷害；其次，機器人必須服從人類命令，與第一準則相違背的情況除外；第三，機器人必須保護自己不受傷害，與第一、二準則相違背的情況除外。這些準則也成為機器人發(fā)展中所遵循的道德底線。目前，隨著科技的不斷進步，人們正在經(jīng)歷“第三次工業(yè)革命”，這次革命不僅是一場信息化、網(wǎng)絡(luò)化的革命，而且是一場多元化、多領(lǐng)域的革命，而機器人的發(fā)展也正處于多元化領(lǐng)域內(nèi)的一角。機器人在各個領(lǐng)域應(yīng)用的同時，不免會出現(xiàn)諸多的問題，尤其是在機器人倫理方面，這就需要尋求某種方式來正確處理機器人的倫理問題，以規(guī)范機器人的發(fā)展。

機器人倫理學(xué)也可稱為新的應(yīng)用倫理學(xué)。2004年舉辦了第一屆機器人倫理學(xué)研討會，并對機器人倫理學(xué)進行公開討論［2］1200。一些機器人專家針對機器人倫理學(xué)給出了在哲學(xué)、技術(shù)、社會等層面的分析：第一，我們能在多大程度上賦予機器人倫理？第二，機器人應(yīng)具有何種倫理？第三，機器人一方面要體現(xiàn)倫理，而另一方面又要實現(xiàn)自治，這本身不矛盾嗎？第四，是否應(yīng)該討論機器人的意識、情感和個性？以上專家的觀點可以說是一種宏觀的分析，要想進一步具象化，還需對機器人倫理學(xué)進行深層次分析。

一、何為機器人倫理學(xué)

所謂機器人倫理學(xué)是一門關(guān)于科學(xué)和倫理（科學(xué)研究、科技研究、科學(xué)技術(shù)、公共法規(guī)、職業(yè)道德等）的研究工作的倫理學(xué)，它是由這些研究工作衍生出來的，事實上，機器人倫理學(xué)不是無根之木，它的基本原則是由普遍采用的應(yīng)用倫理學(xué)衍生出來的［2］1200。機器人倫理學(xué)在一定程度上也屬于計算機應(yīng)用倫理學(xué)和生命倫理學(xué)。

2002年，機器人專家Gianmarco Veruggio在機器文化與教育活動的框架內(nèi)，提出建立一種能夠引導(dǎo)機器人學(xué)研究人員工作的倫理學(xué)需要，他稱這種新的應(yīng)用倫理學(xué)為機器人倫理學(xué)，他認為，機器人倫理學(xué)是一門應(yīng)用倫理學(xué)，其目標是發(fā)展可被不同的社會團體和信仰共享的科學(xué)、技術(shù)、文化的工具，這些工具能夠促進和鼓勵機器人學(xué)的發(fā)展，是機器有利于人類社會和個人，并且防止及機器人的誤用對人類造成傷害。

機器人倫理學(xué)是一個交叉性、應(yīng)用型的學(xué)術(shù)理論，涉及多方面的知識，其所探討的并不是機器人本身所帶來的一些倫理問題，相反的是探討其使用者、制造商、設(shè)計者等所帶來的倫理問題。

二、物轉(zhuǎn)向和物倫理

物倫理學(xué)是物轉(zhuǎn)向在倫理學(xué)領(lǐng)域內(nèi)的一個映射。物轉(zhuǎn)向去除的是人本主義的傾向，轉(zhuǎn)而去研究物的德行與倫理，物倫理學(xué)是哲學(xué)研究的一個重要領(lǐng)域，不僅是研究物本體的存在，更研究的是物倫理的存在。與經(jīng)典道德責(zé)任相比，“物倫理學(xué)”是一種實用道德責(zé)任。機器人在快速發(fā)展的同時，與人類的關(guān)系愈來愈密切，那么就需要界定其倫理底線，是人還是物，是理性還是感性，是有意識還是無意識，是有道德還是無道德，這些都是需要去探討的倫理問題。

1900年，胡塞爾提出了“回到事物自身”這一口號；20世紀30年代、50年代，海德格爾對“物”曾進行過多次討論［3］158；60年代，羅蘭·巴特、鮑德里亞等人關(guān)注著“物意義”的闡釋；90年代唐·伊德提出了“后現(xiàn)象學(xué)”這一口號；到了21世紀維貝克提出的“物倫理學(xué)”更進一步推進了這一研究。

在柏拉圖所提出的“三張床”理論中，木匠的床即是人工物。柏拉圖以床為例，提出床的三個含義：一是理念的床，具有本質(zhì)意義；一個是木匠造的具體、特殊的床，是本質(zhì)意義上的床的影像；還有一個是畫家畫的床，它是床的影像的模仿。亞里士多德從物存在的角度給出了人工物與自然物的區(qū)別：凡存在的事物有的是由于自然而存在，有的是由于別的原因而存在。機器人只能看做是人工之物，也可以稱作是人造物，這種人造物也可以被看做是存在之存在。既然存在物有其存在的意義，那么從價值論角度講也就有研究價值，這種價值在物倫理學(xué)的建構(gòu)上才能得以體現(xiàn)，不能僅僅把機器人看做是一種人造物，更應(yīng)該在價值論的角度去賦予一定的物倫理意義。

三、圖靈分流測試引發(fā)的道德探討

圖靈分流測試最早是由計算機科學(xué)的創(chuàng)立人阿蘭·圖靈創(chuàng)立的一個競賽，目的是為了測試機器是否能思考，能否創(chuàng)造出一臺高精尖、具有獨立思維能力的計算機等問題。圖靈為了檢測這些問題，設(shè)計了一項實驗，評委通過計算機終端，向兩名測試者提出問題，一位測試者是人，而另外一位測試者是程序，評審并不是直接面對面地與兩位測試者坐在一起，而是間接地向測試者提出一系列問題，問題涉及日常生活、物理、天文、生物、醫(yī)學(xué)、八卦、閑聊以及哲學(xué)、歷史、政治、明星等各個方面，從而判定哪個是程序，哪個是人。如果程序通過了圖靈測試，那么這個程序就可以看做是智能的、能思維的。但是，目前還沒有完美的程序能夠通過圖靈的測試，最接近的是2008年在英格蘭雷丁舉辦的一次測試，機器與人只相差一票。可見，機器通過圖靈測試的能力不斷地增強，其中的倫理問題也不斷地凸顯。

關(guān)于圖靈測試的案例也有很多，由麻省理工學(xué)院約瑟夫·魏澤鮑姆在1964年到1965年編寫的聊天程序“伊莉莎”，對話如下：

用戶：男人都差不多。

伊莉莎：怎么說？

用戶：他們總纏著我們要這要那。

伊莉莎：你能舉個具體的例子嗎？

用戶：唉，是我男朋友要我來這的。

伊莉莎：你男朋友要你來這。

用戶：他說我總是經(jīng)常沮喪。

伊莉莎：聽說你沮喪，我很難過。

用戶：這是真的，我很不開心。

伊莉莎：你覺得來這能幫你變得不再那么不開心嗎？

用戶：我需要幫助，毫無疑問。

伊莉莎：如果你得到幫助，對你意味著什么呢？

用戶：或許我能學(xué)會如何跟媽媽相處。

伊莉莎：跟我講講你的家人吧［4］36。

可以看出以上對話很難分辨出哪個是機器，哪個是人，學(xué)者們認為這一測試從整體上解決了計算機理解自然語言的問題。試想，如果機器人通過了圖靈測試，是否可以把它當(dāng)做人看，是否具有道德，是否具有與人等同的倫理。

關(guān)于機器人道德的圖靈測試是機器人從人工物向人工道德行為本體轉(zhuǎn)化的重要過程。通過這個測試可以檢測機器人是否具有人類的道德水平。如果通過這個測試，那么機器人就可以被看做具有相應(yīng)的道德責(zé)任和權(quán)利，也就相應(yīng)地受一些法律框架的約束；相反，如果機器人沒能通過圖靈測試，那就說明它與人相比，僅僅還是個物，僅僅是人們從事各項活動的輔助工具。正是通過這一測試，我們才可以判定機器人是否具有人類的特征，以及確認具有人類特征的方法。

針對圖靈測試引起的道德探討，我們可以假想幾個案例來進行探討。在未來某一天，專門成立一個“圖靈測試部門”，該部分主要功能就是對機器人進行智能檢測，如果通過就貼上AMAs（人工道德行為體）的標簽，表明具有人類特征可以享用人類特有的權(quán)利和義務(wù)；那些沒有通過的，則被貼上AM （Artificial material，人造物）的標簽。情景設(shè)定在馬路上，一位年長者在過斑馬線的時候被一輛汽車剮蹭倒地，而這輛汽車駕駛員則是機器人，副駕駛則坐著的是人類。前提是這位老人并沒有違反交通規(guī)則，那么法律責(zé)任應(yīng)該由哪一方來承擔(dān)？是駕駛員機器人？還是坐在副駕駛的人類？這就需要圖靈測試發(fā)揮其作用，如果機器人為AM，各項指標均達不到圖靈測試的要求，那么該機器人只看做是由人來操控的人造物，不需要承擔(dān)法律責(zé)任，而人類則需要代替機器人承擔(dān)相應(yīng)的法律責(zé)任；相反，如果該機器人為AMAs，通過圖靈測試的機器人，具有人類特征以及相應(yīng)的權(quán)利和義務(wù)，那么機器人承擔(dān)相應(yīng)的法律責(zé)任，人類則不需要。

另外一個是關(guān)于老人暈倒的案例。未來的某天，老人帶著自己的機器人在路上行走，身體不適突發(fā)暈倒，這時候有位行人便去把老人扶起來，機器人也作出相應(yīng)的救助措施，當(dāng)老人醒來后，知道有三個條件：其一是附近沒有其他目擊者，只有這一位行人；其二，自己的機器人并沒有監(jiān)拍功能；其三，事發(fā)點為監(jiān)控盲區(qū)。老人依據(jù)三個條件轉(zhuǎn)而污蔑這位行人撞到，并告上法庭要求賠償其損失。那么這時候就有可能需要對該機器人進行圖靈測試，如果為AM，那么這位行人敗訴的可能性就比較大，因為該機器人為這位老人所有，并不能作為證人，即使能作證，也可能會提供偽造的佐證材料；如果判定為AMAs，那么該機器人可以作為證人站在法庭上，并依據(jù)自己的道德情感，說出實情，為行人洗刷冤屈。這里有一些分歧，因為圖靈測試并不能分辨該機器人具有善的情感還是惡的情感，所以還有另外一種情況，那就是該機器人作證說出同老人一樣的情況，最終導(dǎo)致行人敗訴。

以上兩個案例雖然只是假想的案例，但是卻可以說明圖靈測試對于機器人發(fā)展的重要性。該測試缺陷在于不能判定機器人所具有的情感是善還是惡，是否與人的情感或者倫理觀念等同。“盡管新技術(shù)在廣泛社會應(yīng)用之前，我們無法預(yù)測其對社會的影響，但是，我們相信計算機或者機器人應(yīng)該能夠做出正確的、善的道德決策”［5］30，成功通過道德的“圖靈測試”。因此，“每個人對計算機所作出的道德決策都肩負著義不容辭的責(zé)任，這樣的道德主體包括賽博空間內(nèi)的機器人和虛擬‘機器人’”［5］39。當(dāng)然，這只是我們相信機器人朝著善的方向發(fā)展，還需要進行另外一個層次的探討，也就是“人=機器人”論題的探討。

四、“人=機器人”的勃克斯論題探討

“人=機器人”論題的誕生，首選要追溯到笛卡爾的心物二元論，也就是物質(zhì)實體和精神實體的出現(xiàn)。他在大量生理解剖實驗的基礎(chǔ)上，提出了動物是機器的論斷。這一論斷是“人=機器人”的雛形。其后拉·梅特里認為宇宙間僅存在一種物質(zhì)實體，進一步把“動物是機器”的論題向前推進，提出了“人是機器”的論點。隨著自然科學(xué)的發(fā)展，發(fā)現(xiàn)非生物與生物處于兩種不同的運動軌道，也屬于不同質(zhì)的運動，“人是機器”的機械論的觀點被否定了［6］4-5。20世紀40年代，科學(xué)技術(shù)的發(fā)展進入了一個新的歷史時期，從信息轉(zhuǎn)換與反饋控制的角度，重新把人和機器進行類比，把有機體看作自動機，20世紀末，邏輯機器哲學(xué)的創(chuàng)始人勃克斯曾提出了“人=機器人”論題。他所謂的“人=機器人”論題是：一個有窮自動機可以實現(xiàn)人的一切自然功能。亦即，一個機器人可以實現(xiàn)人的一切自然功能。邏輯機器哲學(xué)是在當(dāng)今信息化、網(wǎng)絡(luò)化快速發(fā)展的基礎(chǔ)上提出來的，是一種哲學(xué)發(fā)展的新思維，是對樸素唯物論、目的論、機械論、柏拉圖主義等的揚棄和發(fā)展，而“人=機器人”的論題是邏輯機器哲學(xué)的核心。

其實這個論題從生物學(xué)、物理學(xué)等方面來講，是不成立的。機器就是機器，人就是人，二者有著本質(zhì)的區(qū)別，就像有機物和無機物的區(qū)別一樣完全是不能等同的。但是從哲學(xué)的層次進行分析，可以把“人=機器人”論題看做是邏各斯，是萬事萬物的邏各斯，同宗同源，只要達到一定的奇點，還是有可能成立的。這里的奇點是區(qū)分其為人造物或人工智能行為體的一個臨界點。奇點之左，機器人被看做是一種人工物或者人造物，“人=機器人”論題是不成立的；奇點之右，機器人被看做是一種人工道德行為體，但是并不等同于把機器人就可以看作是人，只能說是為證明勃克斯論題的成立提供了依據(jù)。目前來看，達到這個奇點，還有很長的路要走。

當(dāng)探討機器人是否可以像人一樣具有情感的問題時，勃克斯認為機器人可以具有情感，他認為每個人都是在行為上與之等效的有窮自動機，人的行為是與身體各個構(gòu)造器官的表達形式相符的，因此，這種有窮自動機也可以用作構(gòu)造掃描的程序。他設(shè)想了一個“自動機情人”，這個自動機具有輸入和輸出裝置，并把一些人造的耳朵、鼻子、眼睛等人類器官裝入機器人體內(nèi)，并且各個功能也能夠完全行使，勃克斯認為人的這些輸入輸出裝置能夠在計算機身上實現(xiàn)，當(dāng)接通這個“自動機情人”的輸入-輸出裝置，其行為就會表現(xiàn)的像個情人，能夠滿足計算機的要求，構(gòu)造自動機情人是可能的，那么機器人也可以像人類一樣具有情感。

在2016年圍棋人機大戰(zhàn)中，韓國棋手李世石不敵AlphaGo（阿爾法圍棋）以1：4落敗，這個例子充分體現(xiàn)了人工智能的優(yōu)越性，也進一步說明實現(xiàn)“人=機器人”也不是完全沒有可能，以及發(fā)展機器人倫理學(xué)的必要性。在比賽之前曾有人預(yù)測目前的人工智能還不能與圍棋冠軍匹敵，但事實證明阿爾法程序趨于完美，它是在模擬大腦神經(jīng)網(wǎng)絡(luò)系統(tǒng)的基礎(chǔ)上構(gòu)建的一種名為deepmind的程序，它是在日積月累的游戲過程中不斷地犯錯誤并且不斷地學(xué)習(xí)、改善、提升自己的程序。目前，AlphaGo所達到的圍棋水平并不是與生俱來的，而是在不斷游戲中不斷演化。AlphaGo在與李世石比賽的過程也是一個學(xué)習(xí)的過程，類似于人腦在思考，但不等同于人腦，也就是目前來講還屬于一種程序，也就是人造物。在第四局比賽中，人工智能輸?shù)粽麍霰荣惖奈ㄒ灰痪郑敲此悄撤N程序上的錯誤導(dǎo)致的，還是故意輸?shù)暨@一局的？這是值得研究的。如果說是因為程序的錯誤導(dǎo)致的，那么其本身還處于“奇點”之左，也就是人工物的范疇里；如果說阿爾法故意輸?shù)暨@一盤，目的是為了不顯現(xiàn)人工智能的優(yōu)勢或者為了給對手留個臺階下，那么該程序已經(jīng)不能僅僅稱為是人造物了。從目前來看，圍棋中的人機大戰(zhàn)把“人=機器人”的勃克斯論題向前推進了一步。

2014年，習(xí)近平在兩院院士大會上指出，機器人有望成為“第三次工業(yè)革命”的切入點，中國將迎來機器人發(fā)展的黃金時代。未來幾十年，機器人應(yīng)用的領(lǐng)域會越來越廣泛，人們對于機器人倫理學(xué)的研究也會越來越迫切，機器人倫理學(xué)的進一步發(fā)展更加有利于機器人與人的和諧共生。

【參考文獻】

［1］張奇志，周亞麗.機器人學(xué)簡明教程［M］.西安：西安電子科技大學(xué)出版社，2013.

［2］Bruno Siciliano，Oussama Khatib.機器人手冊［M］.《機器人手冊》翻譯委員會，譯.北京：機械工業(yè)出版社，2013.

［3］楊慶峰，閆宏秀.多領(lǐng)域中的物轉(zhuǎn)向及其本質(zhì)［J］.哲學(xué)分析，2011（1）.

［4］李婷.人與機器共同進化［M］.北京：電子工業(yè)出版社，2014.

［5］Wendell Wallach，Colin Allen.Moral machines：Teaching Robots Right from Wrong［M］.Oxford University Press，2010.

［6］杜建華.“人=機器人”論題辨析［D］.天津：南開大學(xué)，2005.

（責(zé)任編輯 王先霞）

Development of Robot Ethics under the Visual Threshold of Matter Diversion——Comment on Turing Shunt Tests and Burks Topic

ZHAO Yuqun，CHEN Xiaoying
（School of Politics and History，Bohai University，Jinzhou 121000，China）

Abstract：Since the 21st century，computer and information technology have developed very quickly，the robot autonomy and independence have been enhanced，and robot applications is more and more related to humans.Before，people thought that the robot was just a kind of creation or a tool to help people work，live and study，etc.，but in the near future robots will be integrated into the life of people and become part of people's life，during which some ethical issues may occur.Traced back，from the definition of ethics，matter diversion and matter ethics are the main arguments.Turing shunt test and the"human=robot"of Burks topic are as auxiliary demonstration，providing ageneral overview of robot ethics.

Key words：robot ethics；matter ethics；Turing shunt tests；Burks topic

【中圖分類號】B82-057

【文獻標識碼】A

【文章編號】1009-4326（2016）02-0035-04

DOI：10.13600/j.cnki.jpsslof.issn.1009-4326.2016.02.010

【收稿日期】2016-03-09

【作者簡介】趙玉群（1988-），男，河南濮陽人，渤海大學(xué)政治與歷史學(xué)院2014級科學(xué)技術(shù)哲學(xué)專業(yè)碩士研究生。研究方向：科學(xué)技術(shù)與社會。