蘇令銀 許夢(mèng)怡

一、引言

自動(dòng)駕駛汽車(chē)有望在未來(lái)的交通運(yùn)輸系統(tǒng)中發(fā)揮關(guān)鍵作用。它們將產(chǎn)生全球性影響，改變社會(huì)以及道路和交通系統(tǒng)的安全。對(duì)于公共道路上的自動(dòng)駕駛汽車(chē)的討論，技術(shù)視角只是其中一個(gè)方面。未來(lái)的自動(dòng)駕駛汽車(chē)將不得不做出對(duì)人類來(lái)說(shuō)在道德上難以做出的決定，而工業(yè)領(lǐng)域和學(xué)術(shù)研究尚未提供圓滿的解決方案。汽車(chē)制造商目前關(guān)注的焦點(diǎn)是將倫理準(zhǔn)則嵌入自動(dòng)駕駛汽車(chē)的軟件中。

“電車(chē)難題(Trolley Problem)”是倫理學(xué)領(lǐng)域最為知名的思想實(shí)驗(yàn)之一。最早是由哲學(xué)家菲利帕·福特(Philippa Foot)于1967年提出來(lái)的。菲利帕·福特在她的論文《墮胎問(wèn)題和雙重效應(yīng)主義》中，首先清楚地闡述了當(dāng)我們將意圖和遠(yuǎn)見(jiàn)相結(jié)合時(shí)出現(xiàn)的哲學(xué)困境。在這篇論文中，福特提出了一個(gè)外科醫(yī)生的例子，她在對(duì)分娩中的母親進(jìn)行手術(shù)時(shí)，必須在以下兩種試圖挽救她生命的方法之間做出選擇：一是進(jìn)行子宮切除術(shù)，同時(shí)預(yù)見(jiàn)到一個(gè)額外的后果將是胎兒死亡；二是進(jìn)行后期流產(chǎn)，直接結(jié)束胎兒的生命。經(jīng)典“電車(chē)難題”的大致內(nèi)容是：假設(shè)在一個(gè)電車(chē)軌道上綁了5個(gè)人，備用軌道上綁了1個(gè)人，有一輛失控的電車(chē)飛速駛來(lái)。而你身邊正好有一個(gè)搖桿，你可以推動(dòng)搖桿來(lái)讓電車(chē)駛?cè)雮溆密壍溃瑲⑺滥?個(gè)人，救下5個(gè)人；你也可以什么都不做，殺死5個(gè)人，救下1個(gè)人。此類倫理困境問(wèn)題被稱為“電車(chē)難題”。現(xiàn)有的文獻(xiàn)中包含了許多具有這種基本結(jié)構(gòu)的變形案例。朱迪斯·賈維斯·湯姆森(Judith Jarvis Thomson)將這些變形案例統(tǒng)稱為“電車(chē)難題”(1)Thomson,J.J.，“Killing,letting die,and the trolley problem”，The Monist,1976，59(2)，pp.204-217.。在這些電車(chē)難題的早期討論之后，出現(xiàn)了一整套討論道德直覺(jué)、意圖和我們預(yù)見(jiàn)行為后果的能力之間關(guān)系的文獻(xiàn)。道德哲學(xué)的許多工作都旨在明確我們?cè)谶@些情況下應(yīng)該做什么。在流行文化中也充分利用了這種困境。例如，蝙蝠俠在《黑暗騎士》(2008)中拯救公眾英雄哈維·丹特(Harvey Dent)和他的戀人瑞秋·道斯(Rachel Dawes)之間的悲劇選擇；柯克船長(zhǎng)試圖成功完成沒(méi)有勝利的小林丸訓(xùn)練。在很多情況下，這些道德選擇架構(gòu)被作家用來(lái)梳理觀眾的道德直覺(jué)。

這些電車(chē)難題不僅僅出現(xiàn)在學(xué)術(shù)文獻(xiàn)和小說(shuō)作品中。在自動(dòng)化、大數(shù)據(jù)、人工智能時(shí)代，我們?cè)诂F(xiàn)實(shí)世界中也不斷面臨著這些場(chǎng)景。自動(dòng)駕駛汽車(chē)已經(jīng)出現(xiàn)，自動(dòng)駕駛汽車(chē)已經(jīng)被證明可以成功地減少交通擁堵，降低交通事故率，甚至顯示出比人類駕駛員更強(qiáng)的導(dǎo)航效能(2)Chen,B.,Sun,D.,Zhou,J.,Wong,W.,&Ding,Z，“A future intelligent traffic system with mixed autonomous vehicles and human-driven vehicles”，Information Sciences,2020(529),pp.59-72.。自動(dòng)駕駛汽車(chē)的早期使用也暴露了它們的一些弱點(diǎn)和根本缺陷，以及我們對(duì)它們維持有意義的控制的脆弱能力(3)Calvert,S.C.,Heikoop,D.D.,Mecacci,G.,&van Arem,B，“A human centric framework for the analysis of automated driving systems based on meaningful human control”，Theoretical Issues in Ergonomics Science,2020，21(4)，pp.478-506.。僅僅擔(dān)心電車(chē)難題中軌道分叉的日子早已一去不復(fù)返。在我們的社會(huì)技術(shù)世界中，技術(shù)產(chǎn)品已經(jīng)與我們的生活、組織、機(jī)構(gòu)和政策不可分割地聯(lián)系在一起，這造成了一個(gè)道德困境。如果自動(dòng)駕駛汽車(chē)為了避免撞到亂穿馬路的行人而撞到墻上，導(dǎo)致司機(jī)死亡，那么誰(shuí)應(yīng)該承擔(dān)道德責(zé)任呢？比如，當(dāng)一輛自動(dòng)駕駛汽車(chē)駛進(jìn)隧道時(shí)，一個(gè)人突然出現(xiàn)在道路上，碰撞不可避免，這就面臨著兩種選擇：要么是汽車(chē)輾過(guò)了那個(gè)人，撞死了他；要么是汽車(chē)突然轉(zhuǎn)向撞上了隧道的墻壁，導(dǎo)致車(chē)內(nèi)乘客的傷亡。此時(shí)這輛自動(dòng)駕駛汽車(chē)應(yīng)該怎么做？?jī)煞N選擇情況可能看似相似，但卻會(huì)導(dǎo)致直覺(jué)上的沖突。究竟應(yīng)該如何理解這些相互矛盾的直覺(jué)？雖然電車(chē)事故的討論起源于電車(chē)難題，但近年來(lái)，在自動(dòng)駕駛汽車(chē)事故中，涉及“電車(chē)難題”的討論卻面臨著一系列困境。這些問(wèn)題很難回答。這表明在我們的社會(huì)技術(shù)領(lǐng)域，對(duì)電車(chē)難題及其進(jìn)一步的更基本的結(jié)構(gòu)問(wèn)題的思考是普遍存在的。鑒于我們對(duì)技術(shù)創(chuàng)造的控制力不斷減弱，更清楚地知道誰(shuí)對(duì)它們的設(shè)計(jì)負(fù)責(zé)，以及它們是如何設(shè)計(jì)的就是至關(guān)重要的。

電車(chē)難題一直以來(lái)被廣泛認(rèn)為是自動(dòng)駕駛汽車(chē)倫理問(wèn)題的核心挑戰(zhàn)?？此萍兇饧僭O(shè)的兩難境地即將成為現(xiàn)實(shí)。不久之后，自動(dòng)駕駛汽車(chē)可能必須決定其所造成的事故危害如何分擔(dān)、責(zé)任如何承擔(dān)等。因此，電車(chē)難題有了活生生的電車(chē)事故案例，以及大量出臺(tái)的政策文件和發(fā)表的研究文獻(xiàn)(4)Bonnefon JF,Shariff A,Rahwan I，“The social dilemma of autonomous vehicles”，Science,2016(352),pp.1573-1576；Fleetwood J，“Public health,ethics,and autonomous vehicles”，American J Public Health,2017(107),pp.532-537;Gogoll J,Müller JF，“Autonomous cars:in favor of a mandatory ethics setting”，Sci Eng Ethics,2017(23),pp.681-700;郭喨、唐興華：《“無(wú)人駕駛”的雙重悖論及其解決》，《中國(guó)社會(huì)科學(xué)報(bào)》2019年2月12日，“科學(xué)與人文”版;王前：《“電車(chē)難題”的“道德物化”解法》，《中國(guó)社會(huì)學(xué)報(bào)》2020年9月1日，第4版。。越來(lái)越多的學(xué)者對(duì)電車(chē)難題構(gòu)成自動(dòng)駕駛汽車(chē)倫理準(zhǔn)則建構(gòu)之核心挑戰(zhàn)的觀點(diǎn)提出了反駁(5)Nyholm S,Smids J，“The ethics of accident-algorithms for self-driving cars:an applied trolley problem?”，Ethical Theory Moral Pract,2016(19),pp.1275-1289.。事實(shí)上，日常情境(如人行橫道或十字路口轉(zhuǎn)彎)下的自動(dòng)駕駛才會(huì)引發(fā)更加重要的道德挑戰(zhàn)。首先，電車(chē)難題可以審查自動(dòng)駕駛汽車(chē)的道德原則。其次，電車(chē)難題在審查自動(dòng)駕駛汽車(chē)道德原則方面的作用是有限的。這里主要討論在建構(gòu)自動(dòng)駕駛汽車(chē)倫理原則的過(guò)程中，電車(chē)難題面臨的四個(gè)困境，其中一些困境之前已經(jīng)有學(xué)者提出。這里討論的困境更普遍地針對(duì)日常情境下自動(dòng)駕駛汽車(chē)電車(chē)難題提出，但在自動(dòng)駕駛汽車(chē)倫理原則中尚未真正運(yùn)用電車(chē)難題(6)Kagan S.,“Solving the trolley problem”，Rakowski E(ed)，The trolley problem mysteries，Oxford：Oxford University Press,2016.。再次，日常情境下自動(dòng)駕駛汽車(chē)的實(shí)際道德選擇對(duì)倫理準(zhǔn)則的建構(gòu)更加具有相關(guān)性?？傊?，電車(chē)難題的情況雖然很重要，但根據(jù)自動(dòng)駕駛汽車(chē)倫理探究的現(xiàn)狀，相對(duì)于日常情境而言，電車(chē)難題的重要性往往被過(guò)分夸大了。與電車(chē)難題不同，日常情境下的道德相關(guān)性很容易被忽視。

二、“電車(chē)難題”的合理性

電車(chē)難題是一種理想化的情況，在這種情況下，能動(dòng)者必須在可能導(dǎo)致不可避免的事故傷害如何分配的兩種行為之間做出決定。具體來(lái)說(shuō)，作為電車(chē)難題至少要滿足三個(gè)條件。首先，在電車(chē)難題情況下，碰撞是迫在眉睫和不可避免的(7)考慮到自動(dòng)駕駛汽車(chē)的狀況，這里將討論限制在碰撞上，并根據(jù)對(duì)危害的分配來(lái)討論更普遍的倫理原則。。第二，能動(dòng)者能夠選擇如何分配由于碰撞而產(chǎn)生的傷害。第三，實(shí)際決策情況是確定的，因此能動(dòng)者可以在結(jié)果之間做出選擇。(8)尼霍姆等認(rèn)為在自動(dòng)駕駛汽車(chē)面臨的現(xiàn)實(shí)中這三個(gè)假設(shè)都沒(méi)有得到滿足，因此電車(chē)難題的案例并非好的類比。

電車(chē)難題至少在四個(gè)方面是有價(jià)值的：它們可以用于電車(chē)事故討論；可以用于道德實(shí)驗(yàn)范式；可以作為倫理教學(xué)工具；也可以用來(lái)揭示和說(shuō)明社會(huì)倫理困境。具體分析如下：

首先，電車(chē)難題可以用于電車(chē)事故的討論。在電車(chē)難題中，人們會(huì)問(wèn)自己在兩種或兩種以上看似相似的不同電車(chē)案例情況下如何決定。盡管案例之間在結(jié)構(gòu)上有某些相似之處，但個(gè)體往往會(huì)對(duì)“應(yīng)該如何決策”做出相反的直覺(jué)判斷。電車(chē)難題是系統(tǒng)地尋找一個(gè)原則來(lái)回答該如何解釋兩種情況下的道德差異問(wèn)題。換句話說(shuō)，電車(chē)難題是對(duì)多個(gè)電車(chē)事故情境中應(yīng)該如何對(duì)這些案例進(jìn)行反思和相互對(duì)照，以揭示道德差異并告知人們必要的道德原則。最終的決策在道德上有什么不同？是應(yīng)該把人當(dāng)做目的從而拯救更多的人，還是應(yīng)該把一部分人當(dāng)作拯救另一部分人的手段來(lái)看待？通過(guò)這種對(duì)比方法，電車(chē)難題得到了非常廣泛的應(yīng)用，并導(dǎo)致了微妙而復(fù)雜的規(guī)范倫理的發(fā)展。

其次，電車(chē)難題可以用在道德實(shí)驗(yàn)范式中。通過(guò)這種方式，電車(chē)難題被用來(lái)作為一種系統(tǒng)激發(fā)個(gè)體道德直覺(jué)的方式。受試者被問(wèn)及在一個(gè)或多個(gè)電車(chē)難題中他們會(huì)做什么。當(dāng)在道德實(shí)驗(yàn)范式中使用電車(chē)難題時(shí)，電車(chē)難題也是思想實(shí)驗(yàn)。作為思想實(shí)驗(yàn)，它可以幫助人們仔細(xì)考查一組相關(guān)的考慮事項(xiàng)(9)帕垂克·林(Patrik Lin)認(rèn)為，電車(chē)難題的目的是為了簡(jiǎn)化問(wèn)題，從而分離和研究某些變量。。所涉人員的年齡、身份以及具體情況是如何產(chǎn)生的等諸事實(shí)都被抽象出來(lái)了。但在道德實(shí)驗(yàn)范式中使用電車(chē)難題與在電車(chē)事故中使用電車(chē)難題是不同的。例如，在一個(gè)道德實(shí)驗(yàn)范式中，電車(chē)難題的實(shí)驗(yàn)?zāi)康耐ǔ１徽J(rèn)為是存在分離性的，道德實(shí)驗(yàn)范式旨在引出直覺(jué)并將其用作數(shù)據(jù)或證據(jù)，而不是反映案例之間的道德差異。相比之下，電車(chē)難題主要不是關(guān)于個(gè)別情況下的直覺(jué)，而是關(guān)于明顯相似情況下直覺(jué)的差異。當(dāng)在道德實(shí)驗(yàn)范式中使用電車(chē)難題時(shí)，實(shí)驗(yàn)者可以系統(tǒng)地大量收集人們對(duì)于電車(chē)難題中的直覺(jué)，以便更好地理解關(guān)于如何依賴于情境的變化而做出相對(duì)重要性的判斷。最值得注意的是，電車(chē)難題已被用于道德心理學(xué)的實(shí)驗(yàn)范式(10)Greene JD,Cushman FA,Stewart LE,Lowenberg K,Nystrom LE,Cohen JD，“Pushing moral buttons:the interaction between personal force and intention in moral judgment”，Cognition，2009(111)，pp.364-371.。同樣，在討論自動(dòng)駕駛汽車(chē)的倫理準(zhǔn)則時(shí)，電車(chē)難題被用作可分離的決策情境，要求個(gè)人對(duì)“應(yīng)該如何決策”做出直覺(jué)判斷。在這種情況下，道德機(jī)器研究也往往使用電車(chē)難題(11)http://moralmachine.mit.edu.。

再次，自動(dòng)駕駛汽車(chē)中的電車(chē)難題是一種有效的倫理學(xué)教學(xué)手段。一方面，在倫理學(xué)教學(xué)中，電車(chē)難題思想實(shí)驗(yàn)經(jīng)常被拿來(lái)應(yīng)用，原因在于它提出了一個(gè)悲劇性的選擇，向人們灌輸了一種道德緊迫感。因此，關(guān)于自動(dòng)駕駛汽車(chē)倫理原則更廣泛的討論都從對(duì)電車(chē)難題的描述開(kāi)始。另一方面，在倫理學(xué)教學(xué)實(shí)踐中，電車(chē)難題能夠很好地吸引學(xué)生，并激發(fā)他們開(kāi)展思辨性的討論。此外，電車(chē)難題還有助于讓那些不具備相應(yīng)哲學(xué)背景的人參與到關(guān)于道德議題的對(duì)話中來(lái)?？傊?，至少在某些特定的情況下電車(chē)難題成功地激發(fā)了人們對(duì)道德問(wèn)題的深入思考。

最后，在自動(dòng)駕駛汽車(chē)的背景下，電車(chē)難題揭示了一個(gè)重要的社會(huì)倫理困境。電車(chē)難題揭示了個(gè)人的道德觀和他的策略動(dòng)機(jī)是如何沖突的。自動(dòng)駕駛汽車(chē)的“電車(chē)難題”場(chǎng)景是，如果出現(xiàn)事故，汽車(chē)是優(yōu)先保護(hù)車(chē)?yán)锏某丝投蚕蛐腥?，還是優(yōu)先保護(hù)路上的行人而讓車(chē)?yán)锏某丝拖萑胛ｋU(xiǎn)。這就離不開(kāi)道德方面的考量。在現(xiàn)實(shí)生活中，很多人可能會(huì)像美劇《上載新生》里面的未婚夫一樣，對(duì)于把自動(dòng)駕駛汽車(chē)模式從“優(yōu)先保護(hù)行人”切換到“優(yōu)先保護(hù)車(chē)內(nèi)乘客”沒(méi)有任何內(nèi)疚感。如果自動(dòng)駕駛汽車(chē)基于合乎社會(huì)道德價(jià)值觀的決策(即利他性決策)而傾向于“優(yōu)先保護(hù)行人”，那么，大多數(shù)人就都會(huì)不愿意使用自動(dòng)駕駛汽車(chē)，因?yàn)樽詣?dòng)駕駛汽車(chē)做出的決定盡管符合他們道德上的認(rèn)同(即利他性決策)，但最終卻不傾向于保護(hù)車(chē)上的乘客(自己)。當(dāng)然，也許有的人更善良，讓自動(dòng)駕駛汽車(chē)保持“優(yōu)先保護(hù)行人”的模式。無(wú)論選擇哪種模式，車(chē)內(nèi)的乘客都不難想象兩種模式的后果，對(duì)后果的想象可能促使人們選擇不同的模式。這就是一個(gè)社會(huì)倫理困境，因?yàn)樗赡軙?huì)阻礙自動(dòng)駕駛汽車(chē)的技術(shù)轉(zhuǎn)型，并阻礙隨之而來(lái)的安全技術(shù)改進(jìn)。在這種社會(huì)倫理困境下電車(chē)難題是有價(jià)值的，因?yàn)樗沂玖艘粋€(gè)重要的道德決策問(wèn)題。

三、“電車(chē)難題”的現(xiàn)實(shí)困境

盡管電車(chē)難題有許多有用之處，它同樣存在令人擔(dān)憂的困境，提醒人們不要過(guò)度依賴電車(chē)難題來(lái)審查自動(dòng)駕駛汽車(chē)的倫理準(zhǔn)則。首先，作為思想實(shí)驗(yàn)，電車(chē)難題往往建立在相互矛盾的假設(shè)基礎(chǔ)上。其次，電車(chē)難題的思想實(shí)驗(yàn)是與特定的倫理設(shè)計(jì)框架相銜接的。第三，電車(chē)難題往往最終會(huì)給出錯(cuò)誤的抉擇。電車(chē)難題本質(zhì)上尋求的應(yīng)該是政治上的社會(huì)選擇，而實(shí)際給出的卻是道德上的個(gè)人抉擇。最后，電車(chē)難題作為一種收集人們直覺(jué)的方法，其有效性受到了質(zhì)疑。

不可否認(rèn)，有人可能會(huì)反對(duì)電車(chē)難題，認(rèn)為它不應(yīng)該做人類自認(rèn)都無(wú)法做到的事情。然而，電車(chē)難題最初是用來(lái)解決電車(chē)事故的，其方法已得到嚴(yán)格審查。相比之下，在自動(dòng)駕駛汽車(chē)領(lǐng)域，電車(chē)難題有不同的方法論。它們似乎被用作一個(gè)模型來(lái)幫助審查相關(guān)的倫理挑戰(zhàn)。這里主要是對(duì)這個(gè)模型在自動(dòng)駕駛汽車(chē)倫理原則建構(gòu)中的充分性進(jìn)行討論，并不是說(shuō)必須要拋棄這種模型。相反，在意識(shí)到該模型的局限性之后，我們應(yīng)該謹(jǐn)慎地運(yùn)用該模型，并且只能在有限的范圍內(nèi)使用它，防止過(guò)度依賴這一模型進(jìn)行自動(dòng)駕駛汽車(chē)倫理原則的建構(gòu)。

(一)在前提假設(shè)上，電車(chē)難題存在基本假設(shè)的矛盾性

電車(chē)難題的基本假設(shè)可能相互矛盾。電車(chē)難題的基本假設(shè)可能是不一致的，這種不一致性是建立在語(yǔ)義而不是語(yǔ)法的一致性概念上。我們可以把這種語(yǔ)義上的一致性理解為可組合性。當(dāng)存在一種可能性時(shí)，這些基本假設(shè)是可組合的，我們就可以將其理解為一個(gè)可能的世界，其中每個(gè)假設(shè)都是正確的。而電車(chē)難題中的基本假設(shè)在語(yǔ)義上也許是不可組合的，因?yàn)樗鼘?duì)可能性是有一定限制的。應(yīng)該承認(rèn)電車(chē)難題的基本假設(shè)是可組合的。也就是說(shuō)，如果沒(méi)有對(duì)可能情況的限制，存在認(rèn)知上可能的電車(chē)難題的情況就會(huì)發(fā)生。相反，電車(chē)難題的情況在有限可能性(人們也稱之為技術(shù)可能性)意義下卻往往又是難以實(shí)現(xiàn)的。

電車(chē)難題中存在兩個(gè)必要假設(shè)。第一個(gè)假設(shè)是碰撞必須是迫在眉睫且不可避免的。第二個(gè)假設(shè)是處于這種情況下的行為人必須對(duì)不可避免的傷害分配作出選擇。簡(jiǎn)言之，只有當(dāng)碰撞不可避免時(shí)才會(huì)是電車(chē)難題發(fā)生的情況，但無(wú)論如何有意義的選擇都是可能的。這些假設(shè)分別被稱為不可避免性和控制性。但在合理的約束條件下這兩個(gè)假設(shè)無(wú)法同時(shí)得到滿足。首先，在關(guān)于自動(dòng)駕駛汽車(chē)的工程設(shè)計(jì)及其故障模式的假設(shè)下，如果兩個(gè)假設(shè)中一個(gè)是正確的，那么另一個(gè)似乎就是錯(cuò)誤的。假設(shè)自動(dòng)駕駛汽車(chē)的故障模式是彼此相關(guān)的，當(dāng)系統(tǒng)的一部分失效時(shí)，另一部分也可能失效，這可能就會(huì)面臨有意義的選擇。碰撞也可能是可以避免的或者是不可避免的，但是無(wú)法選擇如何分配傷害，因?yàn)檐?chē)輛已經(jīng)失去控制。這兩個(gè)關(guān)于電車(chē)難題的基本假設(shè)之間似乎存在著內(nèi)在張力?？紤]電車(chē)情況之前會(huì)發(fā)生什么，其中一種選擇是車(chē)輛會(huì)遭遇完全的系統(tǒng)故障而導(dǎo)致碰撞不可避免。在這種情況下，碰撞可能是不可避免的，但同時(shí)自動(dòng)駕駛汽車(chē)也不能做出有意義的選擇。這說(shuō)明如果假定故障模式相關(guān)，控制和不可避免性這兩個(gè)假設(shè)是相互矛盾的。

當(dāng)然，在電車(chē)難題的情況下可能不會(huì)出現(xiàn)完全的系統(tǒng)故障。事實(shí)上系統(tǒng)故障模式似乎不可能完全相關(guān)。然而考慮到一些合理的狀況，人們對(duì)電車(chē)難題前后矛盾的擔(dān)憂依然存在。與其假設(shè)故障模式之間的相關(guān)性，不如假設(shè)車(chē)輛是完全正常的，并且行人意外地出現(xiàn)在車(chē)輛的路徑上。這一情況有兩個(gè)選項(xiàng)，可以把它們稱為低速和高速場(chǎng)景。在低速情況下，有足夠的時(shí)間進(jìn)行有意義的選擇。假設(shè)碰撞是不可避免的，這樣一來(lái)控制和不可避免的假設(shè)都是正確的。然而，低速的情況并不是通常的電車(chē)行駛情況，不同的人所受到的傷害在具體情形上是有差異的。比如，如果行人被撞擊很可能會(huì)死亡，但當(dāng)車(chē)撞到墻上時(shí)車(chē)內(nèi)的乘客可能只是會(huì)受傷。與一般電車(chē)情況不同的是，這種情況會(huì)同時(shí)改變幾個(gè)因素，而不是幾乎所有因素都保持不變。這可能會(huì)削弱其作為電車(chē)情況的有效性。在高速行駛的情況下所造成的危害在物理上是平等的，這似乎是合理的。行人和車(chē)輛內(nèi)的乘客都將死于碰撞。這種情況將滿足碰撞不可避免的假設(shè)，但這種情況可能與控制假設(shè)不一致。導(dǎo)致車(chē)內(nèi)乘客死亡所需的速度可能很高，以至于沒(méi)有足夠的手段來(lái)避免碰撞，這再次表明在一個(gè)有意義選擇的假設(shè)與不可避免的碰撞之間存在著一種內(nèi)在的張力。

總之，通過(guò)假設(shè)故障模式的相關(guān)性或者通過(guò)考慮電車(chē)難題發(fā)生的合理方式，似乎在有意義的選擇和不可避免的碰撞之間存在一種張力，這實(shí)際上削弱了電車(chē)難題與自動(dòng)駕駛汽車(chē)倫理原則建構(gòu)的相關(guān)性。如果論證是正確的，電車(chē)難題就很難代表可能發(fā)生的情況；對(duì)車(chē)輛的控制和不可避免的碰撞不能很好地同時(shí)進(jìn)行，工程上的限制似乎沒(méi)有給電車(chē)本身留下多少空間。當(dāng)然，這種擔(dān)憂沒(méi)有影響電車(chē)難題的理論優(yōu)勢(shì)。人們將基本假設(shè)的一致性作為基于電車(chē)難題低頻率論證的改進(jìn)版本來(lái)考慮是不夠合理的。(12)一些人反對(duì)電車(chē)難題，理由是它們很少見(jiàn)。即使引發(fā)電車(chē)事故的情況很少見(jiàn)，但從長(zhǎng)遠(yuǎn)來(lái)看它們肯定會(huì)發(fā)生。不管這些情況是否真的發(fā)生，自動(dòng)駕駛汽車(chē)仍然需要編程，以某種方式或選擇來(lái)為不可避免的碰撞做好準(zhǔn)備。

(二)在方法論上，電車(chē)難題框架設(shè)計(jì)導(dǎo)致倫理范圍的局限性

電車(chē)難題所能闡明的倫理范圍的限制是電車(chē)難題往往適用于特定的設(shè)計(jì)方法，而這導(dǎo)致了兩個(gè)限制。首先，不同設(shè)計(jì)方法之間的倫理差異并沒(méi)有被電車(chē)難題所闡明。其次，電車(chē)難題的審查可能與實(shí)際工程實(shí)踐相脫節(jié)，工程師們可能會(huì)采用與電車(chē)難題最相關(guān)的相反的方法。

電車(chē)難題采用的是自上而下的自動(dòng)化決策或人工智能方法。這種方法類似于深思熟慮的、有意識(shí)的演繹決策過(guò)程。采用這種自上而下方法開(kāi)發(fā)人工智能的目的是實(shí)現(xiàn)直接指導(dǎo)給定過(guò)程的原則。這種自上而下的設(shè)計(jì)方法與自下而上的方法形成了對(duì)比，自下而上的方法借助于學(xué)習(xí)行為(例如神經(jīng)網(wǎng)絡(luò))，它類似于相當(dāng)直觀和無(wú)意識(shí)的決策。在自下而上的過(guò)程中做出選擇的原因通常是難以理解和解釋的，因?yàn)檫x擇不是基于明確的決策規(guī)則或原則。因此，電車(chē)難題很自然地采用了自上而下的設(shè)計(jì)方法。這種自上而下的方法體現(xiàn)在電車(chē)難題中，就是其假設(shè)一個(gè)能動(dòng)者通過(guò)利用一般原則而明確地做出決定。這種自上而下的方法具有某些受歡迎的特性。

當(dāng)然，采用自上而下的方法本身也會(huì)引發(fā)倫理問(wèn)題。例如：考慮到在任何情況下、任何時(shí)候所有決策都是由自動(dòng)駕駛汽車(chē)做出的，乘客是否應(yīng)該對(duì)這些決策有發(fā)言權(quán)呢？這些問(wèn)題無(wú)法用電車(chē)難題的答案來(lái)解釋。然而，對(duì)于自動(dòng)駕駛汽車(chē)在工程領(lǐng)域?qū)⒚媾R的大多數(shù)挑戰(zhàn)，都需要做出設(shè)計(jì)決策。這些決定可能會(huì)對(duì)自動(dòng)駕駛汽車(chē)的性能和社會(huì)接受這項(xiàng)技術(shù)的程度產(chǎn)生嚴(yán)重影響。有些人甚至認(rèn)為，道德上最重要的決定……是在計(jì)劃階段，即當(dāng)決定如何對(duì)自動(dòng)駕駛汽車(chē)進(jìn)行編程時(shí)(13)Nyholm S,Smids J，“The ethics of accident-algorithms for self-driving cars: an applied trolley problem?”，Ethical Theory Moral Pract，2016(19),p.1280.。由于他們無(wú)法闡明設(shè)計(jì)問(wèn)題，電車(chē)難題受到了嚴(yán)重的限制。這提醒人們，在調(diào)查自動(dòng)駕駛汽車(chē)的道德問(wèn)題時(shí)，不要只關(guān)注電車(chē)難題。此外，鑒于目前以神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法形式出現(xiàn)的自下而上方法在人工智能領(lǐng)域的突出地位，倫理方法與工程方法之間存在不可通約性的風(fēng)險(xiǎn)。工程師可能會(huì)采用與電車(chē)難題最自然相關(guān)的方法相反的方法(14)盡管有這些限制，但電車(chē)事故的案例在這里還是發(fā)揮了倫理學(xué)教學(xué)的作用。。

(三)在本體論上，電車(chē)難題是道德問(wèn)題而非政治問(wèn)題

電車(chē)難題似乎導(dǎo)致了錯(cuò)誤的解決方案。電車(chē)難題的解決方案包括行動(dòng)的選擇和這種選擇的正當(dāng)性，這種選擇通常采用抽象規(guī)范理論的形式(15)因此，電車(chē)事故的處理方法與電車(chē)難題的方法有很大的不同，電車(chē)難題的目的是制定普遍的道德原則。。簡(jiǎn)言之，電車(chē)難題被認(rèn)為是道德問(wèn)題。但這在錯(cuò)誤的層面上定位了這一問(wèn)題。相反，對(duì)于自動(dòng)駕駛中的電車(chē)難題，人們需要在政治層面上找到解決辦法。道德哲學(xué)是對(duì)個(gè)人行為的反思，政治哲學(xué)則是對(duì)實(shí)質(zhì)分歧背景下的社會(huì)安排的一種反思。電車(chē)難題的解決方案似乎不太可能得到廣泛的社會(huì)認(rèn)可。在這種進(jìn)退兩難的情況下，什么才是正確的選擇是有爭(zhēng)議的，而且這種分歧很大。應(yīng)該如何處理道德問(wèn)題上廣泛而深刻的分歧卻引發(fā)了一個(gè)政治選擇問(wèn)題。面對(duì)道德分歧和價(jià)值多元主義，政治哲學(xué)家們反思了治理共同生活的不同模式。政治方法以現(xiàn)有的觀點(diǎn)和價(jià)值觀的多樣性為出發(fā)點(diǎn)，它與電車(chē)難題中道德哲學(xué)的方法形成了對(duì)比。電車(chē)難題沒(méi)有為這種多元主義留出空間，因?yàn)樗哪康氖且l(fā)個(gè)體的道德選擇。電車(chē)難題促使人們做出個(gè)人選擇，而實(shí)際上人們面對(duì)的卻是社會(huì)選擇。人們似乎需要的是一種政治妥協(xié)，以克服在價(jià)值問(wèn)題上的分歧。只要人們重視政治群體的道德多樣性，就應(yīng)該認(rèn)識(shí)到自動(dòng)駕駛汽車(chē)主要應(yīng)該是一個(gè)社會(huì)政治決策問(wèn)題，而不是個(gè)體道德選擇問(wèn)題。

(四)在認(rèn)識(shí)論上，電車(chē)難題存在不確定性，其證據(jù)價(jià)值存疑

為了便于討論，假設(shè)人們要找到電車(chē)難題的解決方案，而且?guī)缀跛腥硕纪膺@個(gè)解決方案。然而，在確定自動(dòng)駕駛汽車(chē)的倫理議題設(shè)置時(shí)，這種解決方案的幫助仍然有限。這是因?yàn)殡娷?chē)難題尤其是更普遍的電車(chē)難題存在各種認(rèn)識(shí)論問(wèn)題。

首先，一種電車(chē)難題的解決方案可能不適用于其他新情況。在一種情況下看似正確的選擇，在另一種情況下可能變成錯(cuò)誤的選擇。電車(chē)難題通常規(guī)定所有相關(guān)的個(gè)人情境都是相同的。但是哪怕細(xì)小的個(gè)體情境的改變可能都很重要。根據(jù)參與者的年齡、他們與他人的關(guān)系、他們?cè)谔囟ń煌ㄇ闆r下的責(zé)任，人們都可能想要做出不同的選擇。更普遍地說(shuō)，一個(gè)給定的道德選擇或原則是否能從一種情況擴(kuò)展到另一種情況，本身就是一個(gè)道德問(wèn)題。

其次，電車(chē)難題的解決方案可能不會(huì)擴(kuò)展到不確定性的決策。人們做出的所有決定——以及自動(dòng)駕駛汽車(chē)必須做出的任何決定——都只能以概率的形式恰當(dāng)?shù)乇硎境鰜?lái)。相比之下，電車(chē)難題以兩種方式假定確定性。首先，他們假設(shè)面臨決策的能動(dòng)性確定沖突是不可避免的。但是，認(rèn)識(shí)到碰撞是否不可避免并非無(wú)關(guān)緊要，它本質(zhì)上是一個(gè)概率問(wèn)題。因此，存在一個(gè)情況不確定性的問(wèn)題。其次，作為一種理想化，電車(chē)難題規(guī)定人們選擇的結(jié)果是確定的。但事實(shí)上，選擇的結(jié)果也是一個(gè)概率問(wèn)題。因此，電車(chē)難題并不代表決策的不確定性。對(duì)于這兩種不確定性中的任何一種都會(huì)出現(xiàn)以下問(wèn)題，即不清楚確定性的決策原則是否以及如何擴(kuò)展到不確定性的決策；在確定的情況下容易做出的決定，在不確定的情況下會(huì)變得困難得多，并且在道德上充滿了不確定性。不確定性給一系列規(guī)范理論帶來(lái)了深層次的問(wèn)題。這在相關(guān)文獻(xiàn)中已經(jīng)有所體現(xiàn)(16)Jackson F,Smith M,“The implementation problem for deontology”，In:Lord E,Maguire B(eds)，Weighing reasons，Oxford：Oxford University Press,2016,pp.279-292.。然而，在解決這些不確定性問(wèn)題時(shí)，對(duì)電車(chē)難題的反思只能提供有限的幫助。弗雷德(Fried)甚至得出這樣的結(jié)論：幾十年來(lái)，人們對(duì)電車(chē)難題的關(guān)注所產(chǎn)生的各種道德準(zhǔn)則中，沒(méi)有一個(gè)能夠處理其中的普通風(fēng)險(xiǎn)問(wèn)題(17)Fleetwood J，“Public health, ethics,and autonomous vehicles”，American J Public Health，2017(107)，p.506.。

最后，在高度抽象的決策情境下做出的直覺(jué)判斷的證據(jù)價(jià)值令人懷疑。人們對(duì)想象中的情況作出道德判斷的能力會(huì)減弱，因?yàn)檫@些情況是高度理想化和抽象化的，因此與人們所熟悉的日常環(huán)境非常不同。人們對(duì)電車(chē)難題的直覺(jué)會(huì)對(duì)根本沒(méi)有任何真正道德意義的因素做出反應(yīng)。這一論點(diǎn)使人們對(duì)電車(chē)難題作為一種獲取證據(jù)的方式，以及在自動(dòng)駕駛背景下為汽車(chē)道德決策提供信息的作用提出了質(zhì)疑。

綜上所述，電車(chē)難題并不是解決自動(dòng)駕駛汽車(chē)倫理問(wèn)題的核心。這里已經(jīng)闡述了四個(gè)方面的擔(dān)憂。首先，電車(chē)難題假設(shè)可能是不一致的，這可能導(dǎo)致它們的實(shí)用性受到實(shí)際限制。其次，電車(chē)難題往往與自上而下的設(shè)計(jì)方法相結(jié)合。因此，它們將重要的設(shè)計(jì)決策排除在視野之外，并且它們可能與當(dāng)前人工智能領(lǐng)域的主要方法不連續(xù)。第三，當(dāng)社會(huì)需要政治解決方案時(shí)，電車(chē)難題能夠給出的卻只是道德解決方案。第四，即使人們找到了一個(gè)所有人都能接受的解決方案，由于某些原因使得這種解決方案的幫助也有限。比如，一種電車(chē)難題的解決方案是否會(huì)延續(xù)到另一種情況尚不清楚；基于電車(chē)難題的審查可能無(wú)法提供關(guān)于情境不確定性和決策不確定性的信息；假設(shè)人們的直覺(jué)只在熟悉的環(huán)境中起很好的引導(dǎo)作用，那么電車(chē)難題的理想化可能會(huì)弱化直覺(jué)的證據(jù)價(jià)值。以上都說(shuō)明了電車(chē)難題在審查自動(dòng)駕駛汽車(chē)道德問(wèn)題方面的局限性。

四、日常情境中自動(dòng)駕駛的倫理挑戰(zhàn)

我們應(yīng)該為自動(dòng)駕駛汽車(chē)的道德原則建構(gòu)提供一個(gè)積極的愿景。日常的交通狀況，比如接近能見(jiàn)度有限的人行橫道、遇到迎面駛來(lái)的車(chē)輛時(shí)左轉(zhuǎn)、以及通過(guò)繁忙的十字路口等都會(huì)對(duì)自動(dòng)駕駛汽車(chē)提出重要的道德問(wèn)題。與這些日常情境相關(guān)的倫理問(wèn)題范圍十分廣泛，包括風(fēng)險(xiǎn)管理技術(shù)、社會(huì)正義問(wèn)題，以及整個(gè)交通系統(tǒng)層面出現(xiàn)的倫理挑戰(zhàn)(18)Borenstein J,Herkert JR,Miller KW，“Self-driving cars and engineering ethics:the need for a system level analysis”，Sci Eng Ethics，https://doi.org/10.1007/s11948-017-0006-0(2017).。當(dāng)然，這里關(guān)注的主要是駕駛策略問(wèn)題。

首先，對(duì)于自動(dòng)駕駛汽車(chē)來(lái)說(shuō)，在日常情境下的駕駛策略具有挑戰(zhàn)性。人類可以憑直覺(jué)做決定，而機(jī)器卻不能憑直覺(jué)作出決定。這就是一種特殊性的挑戰(zhàn)，也是眾所周知的“莫拉維克悖論”的一個(gè)例子：對(duì)人類來(lái)說(shuō)容易的東西對(duì)自動(dòng)化系統(tǒng)來(lái)說(shuō)卻很難。人們憑直覺(jué)決定自己需要多么小心地駕駛。然而，這種直觀的感覺(jué)或訣竅并不容易轉(zhuǎn)化為自動(dòng)化算法。人們理解祈使句“慢下來(lái)”的意思，但是它的意思卻很難精確，因?yàn)樗Q于不同的情境和環(huán)境參數(shù)，比如，此刻后面有沒(méi)有另一輛汽車(chē)？這一街區(qū)上有多少行人？準(zhǔn)確地闡明駕駛策略的難度表明，在這種普通情況下采用自上而下的方法實(shí)施車(chē)輛行為不太可能成功。這一方法通過(guò)誘導(dǎo)性地復(fù)制人類駕駛員的實(shí)際行為來(lái)告知車(chē)輛的行為策略很難避免特殊性的挑戰(zhàn)。關(guān)于人類駕駛員的實(shí)際行為的數(shù)據(jù)往往存在偏見(jiàn)等突出問(wèn)題。人類駕駛員的實(shí)際行為受文化、地理差異等因素的顯著影響，并且在年齡、種族等方面往往具有歧視性。此外，由于行人對(duì)自動(dòng)駕駛汽車(chē)的行為可能與他們對(duì)人類駕駛汽車(chē)的行為反應(yīng)不同，因此，對(duì)人類駕駛員實(shí)際行為的復(fù)制并不能充分解決自動(dòng)駕駛汽車(chē)可能被行人策略性利用的難題。其次，除了特殊性的挑戰(zhàn)，還有規(guī)模性的挑戰(zhàn)。對(duì)于人類駕駛員(尤其熟練的駕駛員)來(lái)說(shuō)，在日常的交通狀況下如何最恰當(dāng)?shù)伛{駛，通常是不需要專門(mén)去思考的問(wèn)題。這不僅是因?yàn)槿粘Ｇ榫澈苋菀字庇^地處理，而且還因?yàn)槊總€(gè)人開(kāi)車(chē)的方式——只要我們稍微合理地開(kāi)車(chē)——總體上沒(méi)有多大區(qū)別。相比之下，自動(dòng)駕駛汽車(chē)在日常情境下的駕駛行為選擇本質(zhì)上關(guān)涉的是普遍的社會(huì)政策，絕非個(gè)體的道德選擇問(wèn)題。因?yàn)椋詣?dòng)駕駛汽車(chē)如何接近人行橫道的決策不僅影響一輛車(chē)的行為，還影響所有以這種方式編程的車(chē)輛在所有人行橫道上的行為。可見(jiàn)，日常情境下的自動(dòng)駕駛的情況就不再是一個(gè)小問(wèn)題，而是一個(gè)社會(huì)大問(wèn)題。關(guān)于自動(dòng)駕駛行為的小差異將在總體上產(chǎn)生很大的差異。由于日常情境的自動(dòng)駕駛行為經(jīng)過(guò)學(xué)習(xí)訓(xùn)練后就經(jīng)常發(fā)生，由此造成的統(tǒng)計(jì)性傷害和死亡可能相當(dāng)大。特殊性和規(guī)模性的挑戰(zhàn)，使得日常情境與自動(dòng)駕駛汽車(chē)的倫理原則建構(gòu)是密切相關(guān)的。人類駕駛員在風(fēng)格上可以是多樣的，在決策上也可以是直覺(jué)的。但是，自動(dòng)駕駛汽車(chē)的風(fēng)格將是統(tǒng)一的，而且在使用方法上必須是具體落地的。

在此背景下，我們確定三種方式并在日常情境下提出與道德相關(guān)的問(wèn)題。首先，使自動(dòng)駕駛汽車(chē)盡可能安全的優(yōu)化問(wèn)題。其次，在安全性和其他價(jià)值之間存在權(quán)衡，如機(jī)動(dòng)性、環(huán)境保護(hù)和可承擔(dān)性。第三，現(xiàn)有的法律框架如何適應(yīng)自動(dòng)駕駛汽車(chē)產(chǎn)生的法律問(wèn)題，如法律的激勵(lì)性機(jī)制問(wèn)題。

(一)安全的優(yōu)化問(wèn)題

自動(dòng)駕駛汽車(chē)有可能使駕駛變得比現(xiàn)在安全得多。然而，潛在的安全優(yōu)化實(shí)現(xiàn)的程度取決于工程和社會(huì)決策。比如，以能見(jiàn)度有限的人行橫道為例，一些汽車(chē)制造商可能會(huì)采用自上而下的方法，另一些制造商可能依賴自下而上的方法讓自動(dòng)駕駛汽車(chē)向人類駕駛員學(xué)習(xí)。有些方法可能比其他方法更安全。當(dāng)然，這也帶來(lái)了兩個(gè)突出挑戰(zhàn)：一是如果需要就不同的技術(shù)方法進(jìn)行協(xié)調(diào)以改善總體安全，那么在競(jìng)爭(zhēng)環(huán)境中如何促進(jìn)這些技術(shù)方法協(xié)調(diào)呢？類似的問(wèn)題也出現(xiàn)在互操作性標(biāo)準(zhǔn)中，例如，車(chē)輛對(duì)車(chē)輛通信的協(xié)議或者車(chē)輛對(duì)基礎(chǔ)設(shè)施通信的交叉口集中管理的操作。二是不同的制造商可能會(huì)根據(jù)各自的解決方案找到安全最佳方案。如何將這些方法結(jié)合起來(lái)以避免局部最優(yōu)從而達(dá)到一個(gè)可行的全局最優(yōu)？

可以設(shè)想采取不同的措施來(lái)鼓勵(lì)打破局部的安全最佳狀態(tài)，并促進(jìn)技術(shù)方法上的協(xié)調(diào)。第一種措施是基于監(jiān)管而實(shí)現(xiàn)。只有最安全的自動(dòng)駕駛汽車(chē)或達(dá)到某些最低安全標(biāo)準(zhǔn)的汽車(chē)才會(huì)被允許上路，這一安全措施可能會(huì)導(dǎo)致用戶部分放棄自己的經(jīng)濟(jì)自由。第二種措施是要求制造商之間的知識(shí)轉(zhuǎn)移或數(shù)據(jù)共享。自動(dòng)駕駛汽車(chē)的整體安全性可以通過(guò)公開(kāi)確定成功的解決方案來(lái)提高，這樣競(jìng)爭(zhēng)對(duì)手就可以相互借鑒采用某些策略。然而，這種措施一方面使得用戶數(shù)據(jù)的隱私可能面臨風(fēng)險(xiǎn)；另一方面，為了提高安全性而放棄部分知識(shí)產(chǎn)權(quán)和產(chǎn)品差異化的優(yōu)勢(shì)。第三種措施是將安全優(yōu)化問(wèn)題留給消費(fèi)者。但由于消費(fèi)者會(huì)基于安全原因在各種不同產(chǎn)品之間進(jìn)行選擇。因此，與基于數(shù)據(jù)交換或監(jiān)管的措施相比，第三種措施很可能導(dǎo)致總體上不那么安全的情況。這三種措施中的每一項(xiàng)都將有助于優(yōu)化自動(dòng)駕駛汽車(chē)的安全性，但哪種措施(或哪些措施的組合)更好卻是一個(gè)倫理問(wèn)題。

簡(jiǎn)言之，考慮到特殊性和規(guī)模性的挑戰(zhàn)，設(shè)計(jì)無(wú)人駕駛汽車(chē)在日常情境下的行為決策是一項(xiàng)復(fù)雜的挑戰(zhàn)，而且考慮到人類健康和生命受到威脅，政策方法的選擇在道德上是相關(guān)的。盡管類似的治理問(wèn)題——通過(guò)監(jiān)管、共享或通過(guò)市場(chǎng)來(lái)提高安全性——也被用于其他產(chǎn)品，但考慮到專用性和規(guī)模性的挑戰(zhàn)，自動(dòng)駕駛汽車(chē)的情況也帶來(lái)了獨(dú)特的問(wèn)題。

(二)不同價(jià)值間的權(quán)衡問(wèn)題

除了基于安全優(yōu)化的考慮，其他的價(jià)值可能與設(shè)計(jì)自動(dòng)駕駛及其在日常情境下的可承擔(dān)性行為有關(guān)。人們主要需要考慮三個(gè)必須與安全相權(quán)衡的價(jià)值：機(jī)動(dòng)性、環(huán)境影響和城市道路的規(guī)劃設(shè)計(jì)。

首先，通過(guò)機(jī)動(dòng)性，人們可以了解交通效率的衡量標(biāo)準(zhǔn)，比如交通流量的平均速度。如果車(chē)輛在接近能見(jiàn)度有限的人行橫道時(shí)大幅減速，這將以減少交通流量為代價(jià)來(lái)增加安全性。個(gè)人可以憑直覺(jué)在高效的機(jī)動(dòng)性和安全性之間做出這些權(quán)衡。但對(duì)于自動(dòng)駕駛汽車(chē)來(lái)說(shuō)，這些權(quán)衡可以在系統(tǒng)層面進(jìn)行，這就引出了一個(gè)問(wèn)題，即如何正確平衡安全性和機(jī)動(dòng)性。另一種選擇是允許個(gè)人設(shè)置，也就是說(shuō)個(gè)人可以調(diào)整自動(dòng)駕駛汽車(chē)的駕駛行為。當(dāng)你開(kāi)會(huì)遲到的時(shí)候，你可以通過(guò)其他交通工具或者無(wú)視安全措施來(lái)支付路費(fèi)。在多大程度上應(yīng)該允許這樣做(如果應(yīng)該允許的話)就引發(fā)了一個(gè)倫理問(wèn)題。

其次，日常情境可能會(huì)導(dǎo)致與外部?jī)r(jià)值的權(quán)衡，如相對(duì)環(huán)保的交通系統(tǒng)?？紤]到規(guī)模性的挑戰(zhàn)，車(chē)輛在通常情況下(比如轉(zhuǎn)彎)的性能設(shè)置將對(duì)環(huán)境產(chǎn)生重大影響，比如溫室氣體排放或交通噪音。根據(jù)車(chē)輛加速和剎車(chē)的速度，排放和材料磨損對(duì)環(huán)境的影響將有所不同(19)Millar J，“Ethics Settings for Autonomous Vehicles”，In Lin P,Jenkins R,Abney K(eds),Robot Ethics 2.0:From Autonomous Cars to Artificial Intelligence，New York:Oxford University Press,2017，pp.20-34.。由于大量車(chē)輛將遵循相同的算法來(lái)處理日常情境，交通增量變化將在總體上減少或增加對(duì)環(huán)境的影響。

最后，日常道路交通中存在人行橫道這樣的情況，而自動(dòng)駕駛汽車(chē)的引入將為城市道路規(guī)劃設(shè)計(jì)提供變革和新穎的方法。在安全有效地讓位于行人方面，自動(dòng)駕駛汽車(chē)可能更可靠，因此出現(xiàn)了一個(gè)問(wèn)題：在任何地方過(guò)馬路時(shí)，行人是否應(yīng)該獲得更大的優(yōu)先權(quán)。也許專用人行橫道的想法應(yīng)該放棄。這是影響城市道路規(guī)劃設(shè)計(jì)的關(guān)鍵問(wèn)題，也是一個(gè)規(guī)范性問(wèn)題。這個(gè)關(guān)鍵問(wèn)題引出了后續(xù)的問(wèn)題。假設(shè)在城市的任何地方，行人在過(guò)馬路時(shí)都比車(chē)輛享有優(yōu)先權(quán)，那么是否應(yīng)該要求行人表明他們想過(guò)馬路的意圖呢？這個(gè)問(wèn)題涉及有關(guān)行人和自動(dòng)駕駛車(chē)輛使用者的角色和責(zé)任的倫理問(wèn)題。思考自動(dòng)駕駛汽車(chē)將如何改變?nèi)粘Ｇ榫持械慕煌顩r，有助于激發(fā)對(duì)這些問(wèn)題的思考和解決。

簡(jiǎn)言之，日常情境的駕駛體現(xiàn)了不同價(jià)值觀之間的權(quán)衡，比如安全、機(jī)動(dòng)性、效率、環(huán)境影響，以及在城市道路規(guī)劃設(shè)計(jì)中如何考慮行人的責(zé)任等等。這些價(jià)值觀是很重要的，特別是在針對(duì)穩(wěn)定性方面，以及它們之間的權(quán)衡應(yīng)該是基于規(guī)模性挑戰(zhàn)的重要倫理問(wèn)題。

(三)法律激勵(lì)機(jī)制的調(diào)整問(wèn)題

基于新型故障模式的自動(dòng)駕駛汽車(chē)制造商可能面臨更多的責(zé)任負(fù)擔(dān)和訴訟。鑒于大部分交通事故都發(fā)生在普通駕駛情況下，人們應(yīng)該就控制這些情況下的責(zé)任的法律框架來(lái)審查普通駕駛情況。當(dāng)前，人們往往用非?；\統(tǒng)的術(shù)語(yǔ)來(lái)描述復(fù)雜的法律環(huán)境，并且只提到道德問(wèn)題來(lái)說(shuō)明這些案例。比如，美國(guó)侵權(quán)法的基本原則是責(zé)任損害賠償是受扶養(yǎng)人收入損失的函數(shù)限制。假設(shè)制造商希望保持對(duì)責(zé)任索賠的敞口不變，就會(huì)受到激勵(lì)根據(jù)一個(gè)地區(qū)的平均收入來(lái)調(diào)整駕駛行為的做法。自動(dòng)駕駛汽車(chē)在富裕地區(qū)會(huì)比在經(jīng)濟(jì)貧困地區(qū)更傾向于小心駕駛。這就會(huì)導(dǎo)致現(xiàn)有的法律框架鼓勵(lì)歧視某些駕駛行為(20)Casey BJ，“Amoral machines,or:how roboticists can learn to stop worrying and love the law”，Northwest U Law Rev，2017(11),pp.231-250.。究竟應(yīng)該如何調(diào)整法律框架——侵權(quán)行為法的原則是否應(yīng)該只適用于涉及自動(dòng)駕駛汽車(chē)的事故？——是應(yīng)用倫理學(xué)與法學(xué)交叉的一個(gè)相關(guān)問(wèn)題。因此，這說(shuō)明即使在日常情境下道德問(wèn)題也會(huì)出現(xiàn)，比如當(dāng)法律框架造成令人反感的激勵(lì)時(shí)，就會(huì)不可避免地出現(xiàn)不公平、歧視等道德問(wèn)題。

五、結(jié)論

日常情境的自動(dòng)駕駛汽車(chē)面臨著一系列的道德挑戰(zhàn)。與電車(chē)難題相比，這些挑戰(zhàn)似乎不那么明顯和緊迫。為了強(qiáng)調(diào)日常情境的相對(duì)重要性，這里討論了將電車(chē)難題作為自動(dòng)駕駛汽車(chē)倫理核心所面臨的四個(gè)方面的困境。第一，電車(chē)難題可能建立在相互矛盾的假設(shè)之上。第二，電車(chē)難題與自上而下的設(shè)計(jì)方法相結(jié)合。對(duì)日常交通狀況的反思則要求考慮此類工程和設(shè)計(jì)決策的相關(guān)性。第三，電車(chē)難題在錯(cuò)誤的層面上處理了自動(dòng)駕駛汽車(chē)的道德問(wèn)題。在實(shí)際上需要社會(huì)政治選擇時(shí)，它給出的卻是個(gè)人道德解決方案?，F(xiàn)實(shí)的交通狀況說(shuō)明了自動(dòng)駕駛汽車(chē)的駕駛行為如何與其他交通參與者的權(quán)利和責(zé)任，以及社會(huì)普遍持有的道德價(jià)值觀相吻合。第四，電車(chē)難題的解決方案只要能被廣泛接受，在不確定的情況下可能對(duì)做出決策的幫助是有限的。相比之下，對(duì)日常情境的反思可以立即獲得自動(dòng)駕駛汽車(chē)的發(fā)展趨向。

總之，日常情境會(huì)引發(fā)自動(dòng)駕駛汽車(chē)的重要倫理問(wèn)題，這是因?yàn)樘厥庑院鸵?guī)模性這兩個(gè)重要挑戰(zhàn)。人類駕駛員憑直覺(jué)在汽車(chē)駕駛中做出決定，而日常情境下的行為則成為政策選擇問(wèn)題。與一般情況相關(guān)的算法中的小差異可能在總體上產(chǎn)生重大影響。這引發(fā)了三種倫理問(wèn)題：一是使自動(dòng)駕駛汽車(chē)盡可能安全的優(yōu)化問(wèn)題涉及經(jīng)濟(jì)自由和知識(shí)產(chǎn)權(quán)問(wèn)題，這是在實(shí)現(xiàn)全局安全優(yōu)化過(guò)程中產(chǎn)生的內(nèi)部?jī)r(jià)值沖突。二是其他的價(jià)值觀可能與安全相沖突，比如機(jī)動(dòng)性、環(huán)境影響或城市設(shè)計(jì)和交通規(guī)劃中的價(jià)值觀。這些價(jià)值觀如何相互平衡是一個(gè)重要的倫理問(wèn)題。三是現(xiàn)有的法律框架導(dǎo)致了反常的激勵(lì)，調(diào)整框架并減輕對(duì)這些激勵(lì)措施的抵觸是一個(gè)微妙的問(wèn)題，因?yàn)榉勺兓挠绊懣赡苁菑V泛的。

綜上，雖然人們承認(rèn)電車(chē)難題可能在電車(chē)難題的思維實(shí)驗(yàn)、收集證據(jù)的方法、倫理學(xué)教學(xué)手段以及闡明社會(huì)政策困境方面很有用，但當(dāng)涉及到自動(dòng)駕駛汽車(chē)的道德原則建構(gòu)時(shí)，它們的用處卻是有限的。在對(duì)發(fā)展自動(dòng)駕駛汽車(chē)所涉及的道德和政治問(wèn)題進(jìn)行反思時(shí)，應(yīng)更多地關(guān)注日常情境下行為選擇和現(xiàn)實(shí)情況，而單純依賴道德哲學(xué)中的“電車(chē)難題”思想實(shí)驗(yàn)往往不能解決日常情景中的自動(dòng)駕駛汽車(chē)引發(fā)的道德與法律挑戰(zhàn)。