馮靜

書名：機(jī)器人是人嗎？

作者：[美]約翰·弗蘭克·韋弗

譯者：劉海安 徐鐵英 向秦

出版：上海人民出版社

編者按：2018世界人工智能大會(huì)上，與會(huì)的部分專家學(xué)者研究成果相繼推出。本書為其中的一本，由上海交通大學(xué)凱原法學(xué)院副院長(zhǎng)彭成信教授主編。

隨著人工智能的使用變得越來(lái)越普遍，涉及人工智能的事故或事件的法律責(zé)任承擔(dān)也變得越來(lái)越普遍。基本上，有如下四種情況將會(huì)發(fā)生：

一、使用或者監(jiān)控人工智能的人承擔(dān)法律責(zé)任。此類事故可能發(fā)生的情況非常多：

一個(gè)人工智能外科醫(yī)生正在對(duì)病人進(jìn)行手術(shù)，要給病人安裝新的髖關(guān)節(jié)，手術(shù)過(guò)程中人工智能機(jī)器卻出現(xiàn)了機(jī)械性的錯(cuò)誤。負(fù)責(zé)監(jiān)控手術(shù)的人類醫(yī)生沒(méi)能盡職地監(jiān)控手術(shù)進(jìn)程，并且無(wú)法中途介入以完成髖關(guān)節(jié)置換術(shù)，導(dǎo)致手術(shù)不得不提早結(jié)束，迫使患者必須進(jìn)行第二次髖關(guān)節(jié)置換手術(shù)。

人工智能建筑工人錯(cuò)誤地拆除了墻壁，導(dǎo)致整個(gè)建筑物倒塌，原因在于監(jiān)控人工智能的人給出了不正確的拆除指令，指示人工智能機(jī)器應(yīng)該拆除那堵墻。

負(fù)責(zé)監(jiān)控人工智能客機(jī)的人沒(méi)有注意到，兩架客機(jī)給出重復(fù)相同的著陸指令，造成了兩架客機(jī)空中相撞。

任何針對(duì)符合上述情境的人提起的訴訟，最有可能訴稱“過(guò)失疏忽”（或失職行為，如果適用到專業(yè)領(lǐng)域中），作為被告應(yīng)承擔(dān)法律責(zé)任的理由。這類責(zé)任涉及人工智能時(shí)，說(shuō)明仍然有需要人類監(jiān)控人工智能的情形。但是，關(guān)于法律責(zé)任分配給人類，將會(huì)在“主要用于方便人類的人工智能”和“主要用于優(yōu)化人類工作的人工智能”之間出現(xiàn)重大的分裂。也即是，把人工智能主要用作優(yōu)化人本身的工作時(shí)，要求人對(duì)人工智能監(jiān)控，如果人工智能造成了事故，此監(jiān)控的人就要承擔(dān)法律責(zé)任。把人工智能主要用作人類的便利時(shí)，不需要人對(duì)人工智能進(jìn)行監(jiān)控，對(duì)人工智能造成的事故損害負(fù)擔(dān)更少的責(zé)任。

當(dāng)然，有疑問(wèn)的是人工智能可能同時(shí)具備上述兩種功能。例如，90%的車禍都是由人的錯(cuò)誤造成的，意味著無(wú)人駕駛汽車很有潛力能夠大幅度降低車禍發(fā)生的次數(shù)。然而，正因?yàn)榇蠖鄶?shù)司機(jī)都認(rèn)為自己是好司機(jī)，無(wú)人駕駛汽車的安全性能并不會(huì)動(dòng)搖消費(fèi)者。相反，對(duì)于那些駕車是一種負(fù)擔(dān)的人群（視力受損、身體受損、老年人等）來(lái)說(shuō)，傾向于購(gòu)買一輛無(wú)人駕駛汽車，因?yàn)樗麄兿矚g就此帶來(lái)的方便，或者對(duì)于部分年輕人來(lái)說(shuō)，認(rèn)為開(kāi)車不是什么了不起的事（因?yàn)殚_(kāi)車反而減少了他們和朋友發(fā)信息聊天的時(shí)間）。所以，盡管無(wú)人駕駛汽車可能會(huì)減少事故發(fā)生、傷害和死亡，但出于法律責(zé)任考慮，認(rèn)為無(wú)人駕駛汽車的主要目的是降低傷亡是錯(cuò)誤的。大多數(shù)人會(huì)使用無(wú)人駕駛汽車閱讀、睡覺(jué)、聊天，玩游戲，或者做些事情來(lái)打發(fā)（或浪費(fèi)）他們駕駛的時(shí)間；他們不會(huì)做的事就是仔細(xì)地監(jiān)控人工智能。一旦無(wú)人駕駛汽車普遍存在，人們因?yàn)闆](méi)有監(jiān)控?zé)o人駕駛汽車而對(duì)其無(wú)人駕駛汽車承擔(dān)法律責(zé)任，這似乎有些荒謬，因?yàn)槿藗兏静粫?huì)去監(jiān)控自動(dòng)駕駛汽車。與此相反，人工智能外科醫(yī)生并不會(huì)增加人類的自由時(shí)間，也不會(huì)讓生活更方便。相反，人工智能外科醫(yī)生的目的是改善并提高人類的手術(shù)結(jié)果，因?yàn)樗鼈兛梢赃M(jìn)行切割、進(jìn)入身體，并以人類不可能的角度來(lái)伸縮彎曲。沒(méi)有密切監(jiān)測(cè)其人工智能外科醫(yī)生的人類醫(yī)生應(yīng)該對(duì)由此發(fā)生的醫(yī)療事故承擔(dān)責(zé)任。人工智能將不會(huì)被購(gòu)買來(lái)為人類醫(yī)生創(chuàng)造更多的自由時(shí)間。

出于同樣的原因，法院在分配法律責(zé)任時(shí)會(huì)區(qū)分自動(dòng)的機(jī)器和自主的機(jī)器（即人工智能）。自動(dòng)的機(jī)器執(zhí)行固定的功能，就像電梯或者工廠裝配線上的機(jī)器人，但僅此而已；如果不進(jìn)行進(jìn)一步編程，自動(dòng)的機(jī)器不會(huì)（或者不太會(huì)）自行調(diào)整其功能以對(duì)新信息做出反應(yīng)。即使人類不站在自動(dòng)的機(jī)器旁邊監(jiān)控它們，但最終會(huì)有人對(duì)機(jī)器導(dǎo)致的損害結(jié)果承擔(dān)責(zé)任，比如程序員或維修人員，因?yàn)闄C(jī)器自己本身無(wú)法做出任何決定。如果一臺(tái)自動(dòng)的機(jī)器造成事故，而機(jī)器的設(shè)計(jì)或生產(chǎn)并沒(méi)有任何瑕疵缺陷，那么在事故發(fā)生前就應(yīng)該有相關(guān)人員發(fā)現(xiàn)機(jī)器出現(xiàn)了問(wèn)題。然而，自主的機(jī)器能夠自己做出決定，這也意味著相關(guān)的人員可能根本沒(méi)有責(zé)任。

二、與人工智能相互作用的第三人承擔(dān)法律責(zé)任。我們實(shí)際已經(jīng)見(jiàn)過(guò)這樣的例子。2010年，谷歌的工程師們報(bào)告稱，谷歌無(wú)人駕駛汽車被一輛由人駕駛的汽車追尾。主張與人工智能因互動(dòng)行為產(chǎn)生的第三人責(zé)任，將與當(dāng)前任何一個(gè)人與機(jī)器或其他人之間因相互行為可能產(chǎn)生的責(zé)任基本相同。最大的區(qū)別可能在于保險(xiǎn)理算員或陪審團(tuán)成員的傾向，他們可能會(huì)（也可能不會(huì)）比起同情一臺(tái)智能的機(jī)器更加同情人類。

三、分銷鏈中的制造商、分銷商或者另一方當(dāng)事人承擔(dān)法律責(zé)任。當(dāng)涉及人工智能導(dǎo)致事故發(fā)生是由于其本身出現(xiàn)故障、錯(cuò)誤的編程、粗制濫造、配送過(guò)程中受損，或者由于與產(chǎn)品本身出錯(cuò)相關(guān)的任何原因，事故責(zé)任將按比例適當(dāng)?shù)胤峙浣o分銷鏈中的人：設(shè)計(jì)師、制造商、出售人工智能產(chǎn)品的商店等等。基本上，這種類型的索賠要么是一個(gè)標(biāo)準(zhǔn)的缺陷產(chǎn)品責(zé)任訴訟（人工智能產(chǎn)品沒(méi)有按照預(yù)期工作），要么是疏忽過(guò)失損害賠償訴訟（當(dāng)事人在準(zhǔn)備或交付人工智能產(chǎn)品時(shí)沒(méi)有盡到應(yīng)有的注意義務(wù)，消費(fèi)者獲得產(chǎn)品之前已經(jīng)被損壞）。舉如下幾個(gè)例子：

一位人工智能廚師在煎牛排時(shí)發(fā)生故障并停止工作，燒焦了米飯，最終燒毀了做飯的房子。

控制人工智能商店店員識(shí)別物品的部分代碼被意外地刪除，這些代碼是用來(lái)識(shí)別需要出示身份證才能購(gòu)買的物品（香煙、酒），導(dǎo)致未成年人購(gòu)買了一箱酒，喝醉并導(dǎo)致事故發(fā)生。

人工智能掃雪機(jī)使用說(shuō)明書未能說(shuō)明低于零下15度的溫度時(shí)會(huì)導(dǎo)致機(jī)器人熄火，在一場(chǎng)怪異但也不是前所未有的五月暴風(fēng)雪期間，新英格蘭北部道路中使用的這些掃雪機(jī)器人發(fā)生熄火，導(dǎo)致大量事故發(fā)生。

四、人工智能對(duì)其行為承擔(dān)法律責(zé)任。在少數(shù)情況下，人工智能因其具有法律上的義務(wù)而被視為具有責(zé)任能力的人。在以下情況發(fā)生時(shí)，人工智能將對(duì)其行為承擔(dān)責(zé)任：（1）人工智能造成損害或傷害；（2）造成損害或傷害的所有責(zé)任都不能歸責(zé)于一群人或者分配鏈中的某一人。有時(shí)候，當(dāng)這些情況發(fā)生時(shí)，人工智能的行為完全按照預(yù)期的進(jìn)行，但是仍會(huì)造成損害，也應(yīng)該承擔(dān)責(zé)任。

列舉實(shí)踐中的幾個(gè)例子予以說(shuō)明：

兩輛無(wú)人駕駛汽車在高速公路上行駛，第一輛車在左車道上，行駛在右車道上的第二輛車前面。這兩輛車正以合理的速度行駛。車內(nèi)人員沒(méi)有密切監(jiān)控車輛，但是都系好了安全帶。突然一只鹿跳到左車道的中間，一瞬間，第一輛車的人工智能采取最安全的可行方案，轉(zhuǎn)向右車道以防止與鹿碰撞。又一剎那，第二輛車為了避免和第一輛車相撞，也做出了最安全的可行決策，而轉(zhuǎn)向右邊，但是卻撞到了一棵樹(shù)。第一輛車沒(méi)有人員傷亡，第二輛車的一個(gè)乘客卻撞斷了手臂。如果第二輛無(wú)人駕駛汽車試圖停在自己的車道上（因?yàn)樗鼤?huì)撞上第一輛車，撞傷車?yán)锩娴娜耍┗蛘呦蜃蠹鞭D(zhuǎn)（因?yàn)樗鼤?huì)和鹿相撞，撞傷第二輛車?yán)锏娜耍?，?huì)使更多人受傷，這是毋庸置疑的。這兩輛車的人工智能從技術(shù)上來(lái)說(shuō)都運(yùn)行正確。這兩輛車在購(gòu)買前或事故發(fā)生前都制造良好且沒(méi)有受過(guò)任何損壞。

人工智能外科醫(yī)生正在做一個(gè)常規(guī)的膽囊切除手術(shù)，結(jié)果脆弱的動(dòng)脈破裂，這是先前并未被檢測(cè)到的。人工智能外科醫(yī)生便開(kāi)始修復(fù)破裂的動(dòng)脈。正在監(jiān)測(cè)人工智能的人類醫(yī)生同意人工智能外科醫(yī)生的決定和計(jì)劃。只有在病人遭受嚴(yán)重失血之后，人工智能外科醫(yī)生才能夠修復(fù)動(dòng)脈。由于病人內(nèi)部受損傷，人工智能外科醫(yī)生決定在那個(gè)時(shí)候不切除膽囊。人類醫(yī)生表示同意。病人必須在改期膽囊切除手術(shù)前花費(fèi)額外兩周時(shí)間，以從動(dòng)脈修復(fù)中恢復(fù)。經(jīng)調(diào)查還證實(shí)了，負(fù)責(zé)監(jiān)測(cè)人工智能外科醫(yī)生的人類醫(yī)生提供了充分的監(jiān)督，并做好充分準(zhǔn)備隨時(shí)終止人工智能，在必要時(shí)親自進(jìn)行動(dòng)脈修復(fù)。人類醫(yī)生也正確地指出，人工智能外科醫(yī)生當(dāng)時(shí)采取了合適的決定與措施，來(lái)修復(fù)動(dòng)脈并拯救了病人。通過(guò)檢測(cè)人工智能，表明其在手術(shù)過(guò)程中操作正確。此人工智能產(chǎn)品制造完善且在進(jìn)行手術(shù)前未受到任何損傷……

編輯：黃靈 yeshzhwu@foxmail.com