王啟明

摘要：無人駕駛汽車應如何應對不可避免的人身傷害？本文將自動駕駛汽車的案例作為算法道德決策的一個突出例子，這是一種在數字化商業(yè)世界中高速發(fā)展的新興道德類型。作為其主要貢獻，它使得和自動駕駛汽車的道德碰撞算法相關的困境決策情況與兩個極端案例并列討論：一方面是手動駕駛汽車面臨現(xiàn)實生活中的案例——普通事故，另一方面是理論上構建的自動駕駛汽車中的困境情況。本文確定了案例在決策者、決策設計和決策結果方面的類比和反類比。從不同角度討論了這些發(fā)現(xiàn)：可以找到類比的方面，自動駕駛汽車的情況被證明介于兩種邊界案例（Edge.cases）之間。作為主要結論，本文認為手動駕駛和自動駕駛汽車僅在有限程度上是設計道德碰撞算法問題的合適參考點。相反，在自動駕駛汽車和使用的情況下，兩難決策情況的基本認識和概念分歧得到了證實。.

關鍵詞：算法決策倫理 自動駕駛倫理 自動駕駛汽車的道德規(guī)范

一、介紹

盡管對于技術方面的人文管理是一個相對新興的研究領域，主要是在過去十年中出現(xiàn)的，但它的文獻涵蓋了廣泛的主題。關鍵主題包括技術設計研發(fā)中的管理實踐產生的實際問題以及對相應術語和概念的理論研究。人文管理關于問題導向的研究在相關文獻中不斷得到發(fā)展。相關文獻重點關注的問題首先是實踐方面的人的尊嚴概念、可持續(xù)性和自由。而另一個廣泛討論的問題是人文管理在商業(yè)教育背景下的作用，以及它如何幫助轉變教育計劃，以更全面地理解技術設計的相關管理。

盡管主題覆蓋面很廣，但人文管理文獻迄今為止很少致力于研究在數字化商業(yè)世界中高速發(fā)展的新型決策：因為越來越多的商業(yè)工作流程被轉變?yōu)樽詣舆\行的復雜的技術系統(tǒng)，算法決策成為業(yè)務領域不可分割的一部分。它們對決策領域提出了根本性的變化，決策領域越來越多地進入各種各樣的企業(yè)，它們也將成為管理實踐的核心問題。為了趕上這一發(fā)展，人文管理一方面可以通過擴展其在算法決策方面的專業(yè)知識來進一步發(fā)展自己的學術范圍，另一方面能夠在算法自動化研究的早期階段做出有價值的貢獻。換句話說，將人文管理研究與算法道德決策結合起來，不僅具有加強自身領域的潛力，同時也促進了其他領域的相關研究。

二、算法決策：自動駕駛汽車的案例

在近十年的技術研發(fā)議程中，最具爭議的技術創(chuàng)新之一便是自動駕駛?；旧希詣悠嚨脑妇凹创硪粋€全面的軟件代碼，通過它可以控制汽車在每種可能的駕駛情況下的行為。自然地，這需要無人駕駛汽車可能會發(fā)現(xiàn)自己面臨“做出決定”的需要，即在可能的替代行動方案之間進行“選擇”。除其他問題外，在不可避免的碰撞和由此造成的人身傷害的情況下的倫理解決方案，即所謂的道德困境通常是關于自動駕駛汽車的文獻中爭議性辯論的中心。它們代表了一種特定類型的道德決策問題，其中不相容的行動選擇發(fā)生沖突，出于道德原因，所有這些選擇既是對的又是錯的。然而，在駕駛環(huán)境中出現(xiàn)的困境現(xiàn)象與道路交通本身一樣古老。是什么讓道德困境成為現(xiàn)在如此有爭議的倫理問題？德國自動駕駛和聯(lián)網駕駛道德委員會（ECAD）指出：“真正的兩難抉擇，例如在一個人的生命與另一個人的生命之間做出的決定，取決于實際的具體情況，將‘不可預測的’行為納入受影響的各方。因此，它們不能被明確標準化，也不能被編程為在道德上是不容置疑的?！盵 1 ]在即將發(fā)生碰撞的前幾分之一秒內做出的人類決定遠不能與在緊急情況下生效的復雜算法相提并論，這似乎是合理的。

此外通過對相關文獻進行閱讀，所提出的分析還揭示了自動駕駛與兩種邊界案例都不對應的某些方面，而是介于兩者之間。首先，自動駕駛可以利用在運行時和試駕期間收集的大量極盡詳細的數據信息。但是，這些數據必然是不完整的，其質量也不是完全可靠的。一方面，數據的質量可能會受到傳感器和攝像頭技術容易出錯的影響，例如由于天氣或照明條件。 另一方面，技術人員對數據進行評估、解釋和處理以使其可用于算法，但算法決策所造成的結果卻不一定是正確的。這樣，即使是高質量的數據也可能導致次優(yōu)決策。其次，就結果的確定性而言，自動駕駛的決策介于兩種邊界案例之間，它使用依賴于風險估計和概率計算模型的方法。盡管它受益于大量的技術支持，但計算結果在一定程度上始終存在不確定性。第三，與現(xiàn)實情況的關系可以解釋為是什么使自動駕駛與邊界案例如此不同的總結。必須針對尚未成為現(xiàn)實的假設的、可想象的場景做出決定，可能發(fā)生的事情和真正發(fā)生的事情之間的隔閡使得算法決策變得如此具有挑戰(zhàn)性。

三、道德決策主要難點分析

最終，分析揭示了自動駕駛汽車案例與邊界案例有很大不同的地方。相關學者們指出了特別需要監(jiān)管的領域。首先，無人駕駛汽車困境中的決策情況應該被描述為集體決策。關于如何解決自動駕駛道德困境的決策不是個人的任務，而是一個考慮各方需求和主張的過程。

一方面，由于決策的獨立性和具體化，相應的決策理應是授權的，并且沒有任何形式的直接個人參與。當車輛遇到兩難情況時，在機器中實施的算法決策程序隨時準備生效，算法的執(zhí)行可能會影響各環(huán)節(jié)中的每個人。正是出于這個原因，授權決策者需要尊重各方在經濟、生態(tài)、社會、道德和法律方面的利益。其次，在無人駕駛汽車的背景下，責任問題特別復雜。雖然大多數研究文章都涉及誰應對自動駕駛汽車造成的傷害負責的問題，但本文更關注的是在道德和法律上如何追究一個人的責任。帕特里克·林（Patrick Lin）強調算法的實現(xiàn)負有特殊責任：“程序員和制造商并不是在理性本能的引導下執(zhí)行工作的，他們是在沒有真正緊迫的時間限制下做出潛在的生死攸關的決定，因此與人類駕駛員在意外情況下的條件反射性反應相比，他們有責任做出更好的決定?！?/p>

另一方面，在不改變方向的情況下造成嚴重傷害或死亡的行為。轉移到自動駕駛汽車的案例中，這意味著批準自動駕駛汽車改變方向并隨后傷害甚至致人死亡的方式對汽車進行編程的實體是故意行為，因此將被拘留負刑事責任。這個結論似乎有問題，并表明將道德相關性附加到主動和被動傷害行為之間的區(qū)別對于算法決策幾乎沒有意義。雖然人類駕駛員僅在發(fā)生不可避免的碰撞采取規(guī)避行動時才會主動進行操作，但保持汽車的行駛軌跡被認為是被動行為。但是無人駕駛汽車沒有需要對其算法執(zhí)行進行審議的默認行為，也就是說，它沒有自己的意圖。無論選擇哪種選項，汽車控制系統(tǒng)的程序員都會主動（盡管是間接地）對受影響的各方造成損害。無論如何，敦促司法管轄區(qū)制定一個復雜的解決方案，以解決個人和集體責任問題的復雜性，這些問題使自動駕駛汽車道德接近于飽和。第三，人類駕駛員的決定可以粗略地描述為由自發(fā)的瞬間決定產生的單一反應，因此僅與單一事件有關。而在自動行駛案例中做出的決定與各自版本的結構所構成的獨特背景密切相關，而自動駕駛汽車使用的是單獨的解決方案，這些解決方案一般情況下不會轉移到其他案例中，因此對于自動駕駛汽車來說，需要一種道德解決方案，它不僅適合一種特定的環(huán)境，而且還適合多種其他環(huán)境。對單個解決方案進行編程以使決策對每個可以想象的場景的所有方面都能夠全面的顧及到，這無疑構成了一個巨大的（如果不是不可能的話）現(xiàn)實挑戰(zhàn)。正是由于這個原因，同時通過不同的標準對場景進行分類似乎是合理和必要的。然而，真正的困境情況總是單一的案例，無法完全標準化，這種困境的獨特性與需要對各種反應概括性描述的實際需求之間有著巨大的隔閡，這似乎是與自動駕駛汽車倫理相關的最復雜的問題之一：確定的行動不是唯一的，而是多次重復的。因此，自動駕駛困境中的道德決定不是單獨的，而是可以描述為一種反復出現(xiàn)的行為模式。這意味著碰撞算法的決策范圍比手動駕駛中的個別、狹窄的范圍更廣。這個問題的復雜性在涉及不止一輛無人駕駛汽車的困境情況下尤為明顯。假設所有自動駕駛汽車將使用相同的碰撞算法的情況是合理的，這意味著所有算法在面對特定情況時都會以相同的方式做出反應，從而可能引發(fā)不可預測的嚴重事故。與此相關的是標準化算法在產生特定結果時會受到偏見的影響，當兩輛編程相同的自動駕駛汽車發(fā)生事故時，由此產生的累積效應可能還會產生低效的結果。例如，想象一下，兩輛無人駕駛汽車相互靠近，然后都轉向并撞墻犧牲了他們的乘客。這個場景說明協(xié)調是自動駕駛汽車之間做出反應必不可少的一環(huán)，而不是盲目地遵循預先實施的規(guī)范。[ 2 ]

四、結論

簡而言之，自動駕駛汽車相關的困境決策情況與手動駕駛的案例之間只有很少的共同之處。這一發(fā)現(xiàn)具有重要意義：在討論碰撞算法的倫理時，手動駕駛的實際現(xiàn)實視角不能成為廣泛的標桿。相反，所提出的分析證實了自動駕駛汽車背景下的決策情況與邊界案例之間的基本認知和概念的距離。本文討論的問題對引入自動駕駛汽車提出了挑戰(zhàn)，其特點是需要監(jiān)管，同時考慮到在無人駕駛汽車困境中制定道德決策的具體因素。

除此之外，本文討論的無人駕駛汽車困境案例可能被解釋為對從道德角度看待和評估人工智能技術的一般方式具有更廣泛的影響。機器倫理研究人員普遍認為，自治系統(tǒng)缺乏歸因于人類的完全道德代理的能力。機器不具備真正的人類能力，如現(xiàn)象意識、情感、高階推理、意向性和自由意志。[ 2 ]盡管自治系統(tǒng)的實施方式可能使它們能夠根據倫理原則、某些價值觀或觀察到的道德直覺行事，但它們無法將人視為具有人文意義的內在價值和尊嚴的承載者。正是由于這個原因，算法程序通常被認為是非個人的和死板的。人文管理視角或許能夠開辟將“人為因素”整合到看似不人道的機械化事物中的方法。通過這種方式，它可以作為一個重要的貢獻者，為算法決策提供研究進路，為有意義和謹慎的管理實踐鋪平道路。

【參？考？文？獻】

[1]白惠仁. 自動駕駛汽車的倫理， 法律與社會問題研究述評[J]. 科學與社會， 2018， 8（1）： 72-87.

[2]高華， 陳紅兵. 論人工智能與人類智能之差異[J].東北大學學報 （社會科學版）， 2021， 23（2）： 15.

（責任編輯：姜秀靚）