夏永紅，李建會

(1 華南師范大學(xué)科學(xué)技術(shù)與社會研究院，廣東 廣州 510006，yonghongx@126.com；2 北京師范大學(xué)哲學(xué)學(xué)院，北京 100875)

0 導(dǎo)論

人工智能是通過計算機實現(xiàn)的在一定程度上可以自主運行，并替代或輔助人類進行推理、識別、決策、互動和操作等智能活動的人工能動者。在醫(yī)學(xué)領(lǐng)域，人工智能的應(yīng)用目前主要包含了兩個分支：虛擬的和物理的。虛擬分支主要依賴于以計算機程序形態(tài)存在的虛擬人工智能能動者，它的主要應(yīng)用包括：①醫(yī)療信息管理系統(tǒng)。比如結(jié)合自然語言處理技術(shù)，自動讀取患者電子病歷，以實現(xiàn)輔助診斷、醫(yī)療處方警示和規(guī)范、流行病學(xué)調(diào)查等；②健康管理系統(tǒng)。收集健康智能設(shè)備和APP的用戶大數(shù)據(jù)，并在合規(guī)合法的情況下打通電子病歷數(shù)據(jù)，對這些數(shù)據(jù)進行綜合分析和處理，以評估疾病和健康風(fēng)險，對用戶給出個性化和精準(zhǔn)化的醫(yī)療、運動和飲食建議；③自動診斷和分診系統(tǒng)。結(jié)合對醫(yī)學(xué)影像檢查、化驗數(shù)據(jù)、電子病歷數(shù)據(jù)的分析，以及對患者的自動問診，自動給出診斷意見并開具處方，或輔助醫(yī)生作出診斷。物理分支則主要包括以物理形態(tài)存在的智能機器人，它在很多醫(yī)學(xué)設(shè)備和看護機器人上都有應(yīng)用。目前應(yīng)用最為廣泛的是手術(shù)機器人，它們可以被作為外科醫(yī)生助理，甚至是擔(dān)任主刀醫(yī)生的角色[1]。

醫(yī)學(xué)人工智能的廣泛應(yīng)用，將會沖擊目前的醫(yī)療現(xiàn)狀，并帶來新的醫(yī)療風(fēng)險，包括：①醫(yī)療安全性問題。人工智能如果給出不準(zhǔn)確或錯誤的醫(yī)療建議，將給患者帶來嚴重的健康后果，如何規(guī)范醫(yī)學(xué)人工智能的合理應(yīng)用，將會考驗醫(yī)療政策和倫理規(guī)范的制定者；②數(shù)據(jù)隱私問題。如果沒有對健康和病歷數(shù)據(jù)的收集和使用進行規(guī)范，將會侵犯用戶或患者的私人隱私；③醫(yī)療公正問題。不同年齡、階層、地區(qū)之間的數(shù)字設(shè)備使用水平，以及醫(yī)療資源分配的不均，可能會讓醫(yī)學(xué)人工智能不能公正地惠及所有人；④責(zé)任劃分問題。當(dāng)智能診斷系統(tǒng)、手術(shù)機器人產(chǎn)生診斷錯誤和操作錯誤的時候，有可能會產(chǎn)生責(zé)任劃分上的困境[2]。在這么多的風(fēng)險中，醫(yī)療安全性問題更多屬于技術(shù)層面的問題，我們可以通過改善醫(yī)學(xué)人工智能系統(tǒng)的穩(wěn)健性和準(zhǔn)確性來避免；醫(yī)療公正問題更多屬于政策方面的問題，可以制定更具普惠性的醫(yī)保政策，對弱勢群體進行知識扶貧、知識救助；數(shù)據(jù)隱私問題兼具技術(shù)和政策維度，一方面可以改進數(shù)據(jù)保密和加密技術(shù)，另一方面應(yīng)該從政策上明確各種數(shù)據(jù)的使用范圍。只有責(zé)任劃分問題，無法純粹依靠技術(shù)的進步和政策的改進而得以解決，它更多地需要在道德哲學(xué)層面澄清基本的責(zé)任歸屬。

醫(yī)學(xué)人工智能意味著它取代了先前由醫(yī)生執(zhí)行的某些任務(wù)，這無疑會極大地改變醫(yī)生與患者之間的關(guān)系，從而也會改變醫(yī)生與患者之間的道德責(zé)任劃定。如果產(chǎn)生醫(yī)療事故，那就不能簡單地歸責(zé)于醫(yī)生，而需要把更多的責(zé)任相關(guān)者帶入進來，比如醫(yī)學(xué)人工智能的開發(fā)商、算法的設(shè)計者、訓(xùn)練數(shù)據(jù)的提供者[3]，乃至醫(yī)學(xué)人工智能的監(jiān)管者等。然而，如何在這些責(zé)任相關(guān)者之間進行責(zé)任劃分？是否會面臨發(fā)生了醫(yī)療事故卻無人負責(zé)的狀況？這一問題將會成為亟待解決的倫理問題。本文將聚焦于醫(yī)療責(zé)任劃分的道德哲學(xué)問題，通過引入角色責(zé)任和分布式責(zé)任，來嘗試解決上述問題。

1 醫(yī)學(xué)人工智能的道德空場問題

一個完整的醫(yī)學(xué)診斷流程一般可以分為問診、檢查和決策三個階段。在這個過程中，需要搜集的就是確診某種疾病的證據(jù)。在問診階段，醫(yī)生基于臨床知識，根據(jù)患者的主訴、病史獲得初步的診斷。如果問診獲得的證據(jù)強度達到某個治療閾值，則可以初步確診疾病以開始治療；如果證據(jù)強度低于治療閾值但達到了檢測閾值，則需要開出醫(yī)學(xué)檢查單，在獲得相關(guān)的影像、細胞檢查結(jié)果后，如果證據(jù)強度達到了治療閾值，就可以開始治療[4]。這三個診斷階段涉及多種智能。首先是問診階段的語言交互智能，問診是一種開放場景下的問答，旨在了解患者的主訴和病史，醫(yī)生需要見機進行開放式的提問，鼓勵并引導(dǎo)患者的講述，并對患者的反饋或反問有及時和恰當(dāng)?shù)幕貞?yīng)。其次是圖像識別智能，醫(yī)生需要熟練地識別影像學(xué)檢查結(jié)果中各個器官組織，會區(qū)分正常組織與病灶的相關(guān)特征，并根據(jù)病灶的特征推斷出可能的病因。此外，還包括認知計算智能，醫(yī)生需要基于檢測結(jié)果、患者主訴和病史等證據(jù)，來進行因果-概率推斷，對疾病作出診斷。

目前醫(yī)學(xué)人工智能領(lǐng)域的眾多產(chǎn)品，正是針對醫(yī)學(xué)診斷中所涉及的言語交互、圖像識別和認知計算等三種主要智能而開發(fā)。言語交互和認知計算兩個領(lǐng)域往往相互交織在一起，比如智能問診、導(dǎo)診機器人、臨床決策支持系統(tǒng)等產(chǎn)品。這些系統(tǒng)的核心是一套復(fù)雜程度不同的醫(yī)學(xué)知識圖譜，它集成了大量的結(jié)構(gòu)化的醫(yī)學(xué)知識，在其開發(fā)過程中需要基于大量醫(yī)生的專業(yè)判斷，對大量現(xiàn)有的電子病歷、醫(yī)學(xué)診斷報告和治療方案的數(shù)據(jù)進行結(jié)構(gòu)化處理。根據(jù)相應(yīng)的醫(yī)學(xué)知識圖譜，這些醫(yī)學(xué)人工智能系統(tǒng)就可以根據(jù)從患者獲得的信息作出推斷，最終輸出包括分診、診斷、預(yù)測和建議等推論結(jié)果，以輔助醫(yī)生的決策。圖像識別領(lǐng)域的產(chǎn)品包括智能影像輔助診斷系統(tǒng)和細胞病理自動診斷分析儀，二者的核心都是一套訓(xùn)練好的深度學(xué)習(xí)模型。它的開發(fā)需要專業(yè)醫(yī)生對大量電子影像的和細胞病理切片的病變進行標(biāo)注，再把這些標(biāo)注數(shù)據(jù)喂入預(yù)先設(shè)計好的訓(xùn)練模型，經(jīng)過工程師的調(diào)參和訓(xùn)練，最終就可以在輸入未經(jīng)標(biāo)注的檢查數(shù)據(jù)之后，自動識別其中的病灶和病變[5]。

表1 人工智能醫(yī)學(xué)診斷系統(tǒng)的分類

可見，知識圖譜和深度學(xué)習(xí)是當(dāng)下醫(yī)學(xué)人工智能兩種主要算法，其中深度學(xué)習(xí)又主要應(yīng)用于分析影像學(xué)和病理學(xué)檢查結(jié)果。兩種算法給醫(yī)學(xué)人工智能帶來了兩個非常重要的特征：首先是數(shù)據(jù)依賴性，無論是知識圖譜還是深度學(xué)習(xí)，都需要海量的醫(yī)學(xué)專業(yè)數(shù)據(jù)；其次是不可解釋性，尤其是深度學(xué)習(xí)，難以解釋從輸入到輸出的邏輯過程，從而也意味著無法解釋醫(yī)學(xué)人工智能作出的診斷的理由或邏輯。這兩個特征分別帶來了兩個相互關(guān)聯(lián)的后果。

對專業(yè)數(shù)據(jù)的依賴性，意味著人工智能的能動性是分布式的，而不僅僅是一個被人類能動者使用的簡單工具。對于使用工具導(dǎo)致的不良后果，我們往往會歸責(zé)于使用者和監(jiān)管者，比如使用刀具或槍械殺人，我們會懲罰使用者，并可能會問責(zé)政府是否存在對刀具或槍械的監(jiān)管不力。然而，人工智能的分布能動性意味著，人工智能的設(shè)計者和數(shù)據(jù)的提供者都可能導(dǎo)致人工智能應(yīng)用的不良后果。正如塔代奧和弗洛里迪所指出的，人工智能的能動性是分布式的而非個體性的，因為“基于人工智能的決策或行動的效果，通常是許多行動者(包括設(shè)計者、開發(fā)者、使用者、軟件和硬件)之間無數(shù)次交互作用的結(jié)果?！盵6]分布式能動性帶來了分布式的道德責(zé)任。首先，專業(yè)數(shù)據(jù)對于醫(yī)學(xué)人工智能是基礎(chǔ)性的，數(shù)據(jù)的提供者或標(biāo)注者是必然的責(zé)任承擔(dān)者。如果醫(yī)生對數(shù)據(jù)進行了錯誤的標(biāo)注，很可能會增加醫(yī)學(xué)人工智能產(chǎn)品開發(fā)的難度，更嚴重的情況是，開發(fā)出來的產(chǎn)品產(chǎn)生錯誤輸出，對患者進行錯誤的診斷。其次，設(shè)計者也需要承擔(dān)道德責(zé)任，因為醫(yī)學(xué)人工智能模型的受眾，在很大程度上來自于設(shè)計者或開發(fā)商的選擇偏好。如果沒有一種普惠、公正的理念的指導(dǎo)，由于弱勢群體的醫(yī)學(xué)數(shù)據(jù)相對匱乏，很可能會導(dǎo)致某種“算法歧視”，即模型的準(zhǔn)確性在弱勢群體中大打折扣。

另一方面，由于當(dāng)前的人工智能存在可解釋性問題，即無法解釋人工智能的決策背后的理由或邏輯，相關(guān)的能動者可能難以對人工智能帶來的后果承擔(dān)責(zé)任。對于設(shè)計者而言，人工智能是一個黑箱，他無法解釋模型何以會有這樣的輸出，他對模型和參數(shù)的調(diào)節(jié)往往和“煉丹”無異；對于標(biāo)注者而言，他無法理解人工智能為何不能舉一反三，人工智能往往會脫離情境，輸出他明顯覺得錯誤的結(jié)果；對于使用者來說，他無法理解人工智能為何會作出一些超出常理的決策，如果沒有合理的理由又如何信賴這些決策；對于監(jiān)管者而言，他可能會無法確定人工智能究竟應(yīng)該作為一種純粹的工具，還是作為一種具有某種自主性的能動者來進行監(jiān)管[7]。因此，人工智能的所有相關(guān)的能動者都無法把控人工智能應(yīng)用的后果，都面臨著人工智能應(yīng)用的某種運氣和不確定性。

如果人類能動者不能擔(dān)責(zé)，那么人工能動者可以擔(dān)責(zé)嗎？人工智能是否可以成為道德的能動者和受動者，仍然是一個有爭議的問題[8]。科林·艾倫(Colin Allen)試圖用道德圖靈測試作為判定道德能動者的判準(zhǔn)[9]，而斯帕羅(Robert Sparrow)提出用圖靈分診測試來判定人工智能是否可被視為道德受動者[10]。鑒于目前并沒有任何一種人工智能能動者在現(xiàn)實中通過了這兩種測試，我們現(xiàn)在一般并不會把人工智能作為道德能動者和受動者，因而也不會把它們視為道德責(zé)任的承擔(dān)者[11]。這樣，我們就無法簡單地把醫(yī)療人工智能作為醫(yī)生的替代者，在遇到醫(yī)療事故的時候歸責(zé)于醫(yī)療人工智能。

這就讓道德責(zé)任的歸責(zé)尤其困難。因為很可能出現(xiàn)這樣的情景，每個人看起來都沒有做出什么故意的壞事，但最終卻導(dǎo)致了一場不幸的醫(yī)療事故，以至于我們很難去單獨地歸責(zé)于誰，最后的結(jié)果是誰也不必承擔(dān)責(zé)任。我們不妨把這稱之為責(zé)任空場問題。責(zé)任空場往往意味著，某個壞的結(jié)果最好稱之為不幸，而非不正義，或者說，是某種壞運氣，而不是壞的行為導(dǎo)致了壞的結(jié)果。然而，我們假設(shè)一個患者因為人工智能的錯誤診斷而被不當(dāng)治療，最后丟了性命，但因為這是機器作出的診斷，而且沒有人能預(yù)知和解釋機器何以作出這種診斷，從而也就沒有人需要為此承擔(dān)責(zé)任。如果我們作為患者家屬，可能會覺得這是不正義的，無人擔(dān)責(zé)不符合我們的道德直覺。

總而言之，醫(yī)學(xué)人工智能的數(shù)據(jù)依賴性導(dǎo)致了一種分布式能動性，不可解釋性產(chǎn)生了一種道德責(zé)任空場問題。兩者之間又是高度相關(guān)的，因為正是分布式能動性，產(chǎn)生了弗洛里迪所說的分布式的道德行動，也就是說，在一個人類與機器混雜的行動體系中，那些道德上具有善惡屬性的行動，很可能是被那些在道德上中立的互動所引起的[12]。于是，我們就很難追究不同的人類能動者的責(zé)任，從而產(chǎn)生了一個道德責(zé)任空場。

2 兩種道德責(zé)任：直接責(zé)任與角色責(zé)任

所謂道德責(zé)任，也就是一個人應(yīng)該在道德上為其行為所導(dǎo)致的后果負起責(zé)任。這實際上意味著一個人的行為與其所需要負責(zé)的后果之間，必須存在著一種因果關(guān)聯(lián)。我們可以稱其為道德責(zé)任的因果條件。然而，行為與后果之間的因果關(guān)聯(lián)對于道德責(zé)任是不充分的。亞里士多德在《尼各馬可倫理學(xué)》中提出，一個人只有當(dāng)它的行為是出于意愿的時候，才有資格被稱贊或譴責(zé)，也就是說，才可以承擔(dān)道德責(zé)任。在亞里士多德看來，一個出于意愿的行動具有兩個特征：首先，行動是由一個能動者發(fā)起的，而不是外部強迫的；其次，能動者應(yīng)該意識到自己所做的事情及其后果[13]。從亞里士多德的觀點出發(fā)，我們可以歸納出另外兩個道德責(zé)任條件：一個是控制條件，即與某種不良后果相關(guān)的行為處于能動者的控制范圍之內(nèi)；另一個是認知條件，即能動者可以預(yù)知到自己的行為決策可能會導(dǎo)致某種不良后果。這兩個條件加上因果條件一起界定了我們對道德責(zé)任的傳統(tǒng)理解，它們一起所表達的意思是，我們只對哪些我們可以預(yù)知的、在控制范圍內(nèi)，并且由我們的行為所導(dǎo)致的后果負責(zé)。假設(shè)某種后果因為因果鏈條過長，超出了我們的控制和認知，那么我們就無須對此負責(zé)。因此，道德責(zé)任就意味著我們只對不正義負責(zé)，不對不幸負責(zé)，因為后者超出了我們的認知和控制。更進一步的推論是，對道德的評價只應(yīng)考慮道德能動者的信念、欲念和意圖。這種觀念最典型的代表就是康德，他認為善之為善，僅僅因為意念本身就是善的，而非任何可能的后果[14]。因為前者是我們所能控制的，而后者則處在被因果規(guī)律所支配的世界中。

然而，這三個條件對于道德責(zé)任是否充分？我們可以相像一個人在小區(qū)遛狗，但一不留神狗掙脫了繩子，咬到了路上的行人。在這個場景中，如果我們把因果鏈條限定在從遛狗到咬人這個時間段的話，狗主人不滿足前述任何一個道德責(zé)任的條件，他沒有教唆狗去咬人——不滿足因果條件，他在那一刻難以控制狗的行為——不滿足控制條件，他在牽狗的時候也不知道它將會咬到人——不滿足認知條件。然而，從我們的道德直覺出發(fā)，我們顯然會認為狗主人應(yīng)該對被咬的路人負有道德責(zé)任。因為他沒有盡到一個狗主人的責(zé)任，即防止他的狗去傷害別人。這提示我們，很可能還存在著這樣一種道德責(zé)任，責(zé)任人的行為與所負責(zé)的后果之間不存在因果關(guān)聯(lián)。

哈特(H.L.A. Hart)將這種責(zé)任稱之為角色責(zé)任(role-responsibility)[15]。任何一個行動者，總是處于特定的社會組織之中，它總是擔(dān)負了某種崗位、角色和任務(wù)，從一種職業(yè)或道德規(guī)范出發(fā)，它應(yīng)該對其相關(guān)的他者負責(zé)任[16]。這意味著，一個人不僅不應(yīng)該去做出錯誤的行為傷害他者，而且也不應(yīng)該因不作為導(dǎo)致他者的不幸。角色責(zé)任更多地與后者相關(guān)。比如，教師應(yīng)當(dāng)對學(xué)生的學(xué)業(yè)負責(zé)，醫(yī)生應(yīng)當(dāng)對患者的健康負責(zé)，這不僅意味著他們不應(yīng)該傷害學(xué)生和患者，更意味著他們需要在職業(yè)規(guī)范的指導(dǎo)下避免某些不作為，或者說，不能玩忽職守。由此，我們就可以提出一種新的道德責(zé)任的條件：能動者本可以作出某種分內(nèi)的干預(yù)以避免或減弱某種不良后果，但卻因為不作為而導(dǎo)致了不幸。由于這一條件是以一種反事實虛擬的方式被表述出來的，它是對一種可能模態(tài)的陳述，我們不妨將其稱之為虛擬條件。顯然，在前述的例子，狗主人就滿足了失職條件，他本應(yīng)該給狗戴上口套，但他卻沒有盡到職責(zé)，從而導(dǎo)致了他人的不幸。如果考慮他的不作為的決定本身，他顯然滿足控制條件，因為他沒給狗戴上口套的決定是自愿作出的，也滿足認知條件，因為他可以認識到他的這一決定是不合規(guī)范的。因此，總體而言，角色責(zé)任意味著一個人應(yīng)當(dāng)為它的不作為而承擔(dān)責(zé)任，這種不作為的決定需要滿足控制條件、認知條件和虛擬條件。

綜上所述，一個人可能因為錯誤的作為而負有道德上的直接責(zé)任，也可能因為失職的不作為而負有道德上的角色責(zé)任，因此存在著兩種不同的道德責(zé)任：直接責(zé)任和角色責(zé)任。前者需要滿足因果條件、控制條件和認知條件，后者需要滿足虛擬條件、控制條件和認知條件。

這一區(qū)分在很大程度上可以幫助我們解決道德空場問題，并把運氣帶回對道德責(zé)任的反思中，也就是說，有時候我們需要對不幸負責(zé)。我們總是生活在一個被運氣支配的世界，不受控制的自然常常給人們帶來不幸。我們往往認為，自然帶來的是不幸，人為才產(chǎn)生了不正義。然而，正如施克萊所指出的，自然與人為對于區(qū)分不幸與不正義并不重要，問題的關(guān)鍵在于人們“是否站在受害者的立場采取行動，是進行譴責(zé)還是宣告無罪，是去提供幫助、排憂解難、作出補償，還是直接掉頭走開?！盵17]然而，一個人并不能對受害者采取一種無限責(zé)任的立場，他只能作為一個人而不是作為上帝，在其職分范圍內(nèi)承擔(dān)對他者的責(zé)任。如果他不能在其職分范圍內(nèi)幫助、補償他者，那么他者的不幸就變成了不正義，他就需要對他者承擔(dān)角色責(zé)任。雖然他者的不幸并非是他在因果上直接導(dǎo)致的，并且在很大程度上要歸結(jié)于來自自然的無常的運氣，但是他在道德上卻需要為壞運氣導(dǎo)致的壞結(jié)果負責(zé)。

把運氣及其后果帶入道德評價，表明運氣與道德并非互不相關(guān)，從而提示我們存在著一種被稱為道德運氣(moralluck)的東西。內(nèi)格爾(T. Nagel)指出了這一點，如果一個人所做的事物的某些方面是其無法控制的，并且這些方面影響到了對他的道德評價，那么我們就可以說它受到了道德運氣的影響[18]。道德運氣無疑會影響到對直接責(zé)任的評估，比如兩個意圖殺人的兇手，一個最終殺了人，另一個因為某種壞運氣抑或是好運氣，沒有殺成人，那么最終前者可能就會背負在程度上更嚴重的道德責(zé)任。然而，無論兩個兇手是否殺了人，他們都因為錯誤的決定和作為，而無法免除道德責(zé)任。道德運氣的更大作用在于幫助我們理解角色責(zé)任。比如兩個醫(yī)生由于同樣的疏忽，沒有詢問他們的患者是否青霉素過敏就開出這個處方，結(jié)果第一個醫(yī)生的患者青霉素過敏死去了，而第二個醫(yī)生的患者則完全不對青霉素過敏。雖然兩個醫(yī)生都有同樣的失職之處，但第一個醫(yī)生需要承擔(dān)法律和道德的責(zé)任，而第二個醫(yī)生一般不會有任何人追責(zé)他。我們可以說第一個醫(yī)生和他的患者遭遇了壞運氣，但第一個醫(yī)生無疑需要為他的失職和壞運氣承擔(dān)責(zé)任。因此，只要一個人存在著某種失職，讓不幸變成了不正義，他就需要為此擔(dān)責(zé)。

3 從個體式責(zé)任到分布式責(zé)任？

角色責(zé)任無疑可以將大部分不幸歸結(jié)為不正義，從而極大地填補道德責(zé)任的空場。然而，無論如何還存在著這種情形，四種相關(guān)能動者都恪守職分，但還是不能防止醫(yī)學(xué)人工智能作出了錯誤的診斷，最終導(dǎo)致患者的不幸。為此，弗洛里迪提出了一種無過錯責(zé)任(faultless responsibility)的道德責(zé)任原則。這本來是一個法學(xué)術(shù)語，指的是雖然沒有人存在過錯，但也需要為此擔(dān)責(zé)。但弗洛里迪認為人工智能的無過錯責(zé)任是一種基于群體互動的分布式責(zé)任，它相對于基于個體故意行為的個體式責(zé)任，如果說后者聚焦于對個體的懲罰和獎勵，那么前者就主要以對環(huán)境損害和福利的分配為導(dǎo)向。弗洛里迪認為，我們可以制定一種機制，不再細究每一個能動者的意圖和認知，而是把讓這些能動者作為一個網(wǎng)絡(luò)，共同承擔(dān)風(fēng)險和責(zé)任，把我們關(guān)注的重心從個人發(fā)展和福利轉(zhuǎn)向社會系統(tǒng)的福祉和繁榮[12]。由此，任何人工智能系統(tǒng)的相關(guān)能動者都可以共擔(dān)責(zé)任，并將一切不幸都作為不正義接受下來。

然而，我們將指出，弗洛里迪的分布式責(zé)任方案至少在兩個方面存在某種不可解決的錯誤。首先，人工能動者難以作為分布式責(zé)任的承擔(dān)者，弗洛里迪犯了責(zé)任謬置的錯誤。弗洛里迪曾經(jīng)認為人機混合體系的分布式道德不需要道德能動者具有意向性和責(zé)任性，因此，人工能動者也可以成為道德能動者。盡管它無法承擔(dān)道德責(zé)任，但卻具有可問責(zé)性(accountability)[19]。但現(xiàn)在他卻似乎傾向于認為，分布式道德意味著分布式責(zé)任，人工能動者也需要承擔(dān)分布式責(zé)任，雖然依然不要求它具有意向性。然而，這并不能幫我們理解人工智能如何可以承擔(dān)責(zé)任性，因為似乎將人工智能排除出分布式責(zé)任體系之后，仍然不影響這一體系的運作。意向性似乎仍然是責(zé)任性的構(gòu)成要素，但由于迄今為止的人工智能還缺乏真正的意向性，人工智能無法成為角色責(zé)任的承擔(dān)者。無論是深度學(xué)習(xí)依賴的人工神經(jīng)網(wǎng)絡(luò)，還是知識圖譜所歸屬的符號主義，其系統(tǒng)的意義都依賴于外部觀察者的設(shè)計和賦予[20]。也就是說，人工智能系統(tǒng)缺乏一種根據(jù)內(nèi)稟的目的來進行決策的能力，所有的目的、意義和規(guī)范都是外部賦予的。在這個意義上，人工智能并不能控制自身的行為，更不能預(yù)知自身的行為可能會導(dǎo)致什么后果。因此，人工智能不滿足道德責(zé)任所必需的控制條件和認知條件，從而不能承擔(dān)任何道德責(zé)任。

其次，在現(xiàn)實中回避個體式責(zé)任，要么不可欲，要么不可行。弗洛里迪所說的無過錯責(zé)任類似于我們前面所說的角色責(zé)任，它們都意味著責(zé)任人的行為與受害人的損害之間沒有因果關(guān)系，但責(zé)任人的職責(zé)卻規(guī)定了他應(yīng)該避免引起這種損害。區(qū)別在于，弗洛里迪的無過錯責(zé)任是一種分布式責(zé)任，而我們所說的角色責(zé)任仍然是一種個體式責(zé)任。但在我們看來，如果完全排除個體式責(zé)任，分布式責(zé)任根本不具有可實行性。分布式責(zé)任預(yù)設(shè)了一個有著共同福祉和利益的共同體，預(yù)設(shè)了一種具有高度同理心和關(guān)注他者的道德德性，這一切都與我們的現(xiàn)實處境完全不符。如果一個共同體中分攤責(zé)任的損失，遠小于違規(guī)獲得的私人利益，那么很可能就會導(dǎo)致這樣的博弈策略，即每個人都傾向于違規(guī)獲得更多的利益。最后將導(dǎo)致一種責(zé)任公地悲劇，讓分布式責(zé)任不可行。另一方面，由于無過錯責(zé)任完全回避了個體式責(zé)任，這就意味著每個人都同等地為風(fēng)險和運氣承擔(dān)責(zé)任，也可能會導(dǎo)致這樣的結(jié)果，即每個人都不愿意冒險，每個人都阻止別人冒險。最終每個人都傾向于不惹麻煩，讓新技術(shù)的應(yīng)用和創(chuàng)新變得不再可能。這樣的結(jié)果就是一種責(zé)任反公地悲劇，讓分布式責(zé)任不可欲。

為了徹底解決道德責(zé)任空場問題，并避免分布式責(zé)任所導(dǎo)致的責(zé)任謬置、責(zé)任公地悲劇和反公地悲劇的錯誤，我們有必要把個體式責(zé)任和分布式責(zé)任結(jié)合起來，把個體式責(zé)任作為歸責(zé)程序的開始，從而盡可能避免責(zé)任謬置、責(zé)任公地悲劇和反公地悲劇，同時把分布式責(zé)任來為最純粹的不幸兜底，從而徹底解決道德責(zé)任空場問題。

個體式責(zé)任包括直接責(zé)任和角色責(zé)任。對于直接責(zé)任，只要明確能動者的行為與損害之間的因果關(guān)系，就可以很容易地作出判定。復(fù)雜的是角色責(zé)任的判定，它需要滿足一個并不容易確定的虛擬條件：能動者本可以作出某種分內(nèi)的干預(yù)以避免或減弱某種不良后果，但卻因為不作為而導(dǎo)致了不幸。困難之處就在于如何界定什么干預(yù)是分內(nèi)的，什么干預(yù)是分外的。一個可行的辦法是根據(jù)每個人在社會中的功能角色來推演其職分?；谝环N新亞里士多德主義的視角，每個人都被共同體中賦予了一種功能性的道德和政治角色，美德即意味著一個人對其社會角色的出色發(fā)揮。而具體處境下的處事規(guī)范，不過是通過某種實踐智慧來具體地、情境地把握其社會角色。因此，只要我們明確了這種社會角色，就可以間接地明確角色責(zé)任的分內(nèi)和分外之分。比如，數(shù)據(jù)標(biāo)注者的功能角色是提供準(zhǔn)確和公正的數(shù)據(jù)，模型設(shè)計者的功能角色是設(shè)計準(zhǔn)確、公正和安全的模型，醫(yī)學(xué)人工智能使用者的功能角色是規(guī)范、謹慎地使用模型，監(jiān)管者的功能角色是及時頒布相應(yīng)的技術(shù)和倫理規(guī)范。這些功能角色無疑只是概略性的，可以在以后的研究中進一步細化，但從這些功能角色，無疑可以推演出具體情境中的職分。無論如何，在這個角色責(zé)任體系中，每個人的作為與不作為，都是被某種角色規(guī)范所引導(dǎo)的，并與特定的懲罰與獎賞綁定在一起。這是一個權(quán)責(zé)清晰的責(zé)任體系，可以避免責(zé)任公地悲劇和反公地悲劇，并可以有效地避免大部分道德責(zé)任空場問題，因為大部分不幸都會歸結(jié)為角色責(zé)任。

結(jié)合分布式責(zé)任與個體式責(zé)任，我們就可以構(gòu)想一個人工智能損害的歸責(zé)程序。當(dāng)患者因為人工智能的錯誤診斷而遭受健康損害的時候，首先的工作是排查直接責(zé)任，檢查是否存在著相關(guān)能動者因為某種錯誤的作為而因果地導(dǎo)致了患者的健康損害。下一步的工作是排查角色責(zé)任，檢查相關(guān)的能動者是否因為某種失職的不作為，讓本可避免的損害發(fā)生了。如果既不存在直接責(zé)任，也不存在角色責(zé)任，那么最后的工作才是確定一種分布式的無過錯責(zé)任，讓相關(guān)的道德能動者實行一種責(zé)任分擔(dān)。由此，我們就可以將醫(yī)學(xué)人工智能的問責(zé)程序歸納如下：直接責(zé)任——角色責(zé)任——分布式責(zé)任。

4 結(jié)語

醫(yī)學(xué)人工智能由于數(shù)據(jù)依賴性和不可解釋性，其能動性分布于不同的行動者之間，并難以預(yù)期和解釋它的輸出結(jié)果，這會導(dǎo)致一種道德責(zé)任空場問題：醫(yī)學(xué)人工智能的錯誤診斷導(dǎo)致了患者的不幸，每個行動者似乎都沒有明顯的過錯，從而也無人需要為此負責(zé)。在這樣的背景下，由于商業(yè)利益和部門利益的驅(qū)動，很可能加劇醫(yī)學(xué)人工智能對患者的損害，讓他們徹底置于無常的運氣的支配。為了實行一種負責(zé)任的創(chuàng)新，建造一種更加安全和公正的人工智能，有必要把個體角色責(zé)任和分布式責(zé)任體系置于醫(yī)學(xué)人工智能責(zé)任體系的中心，讓相關(guān)的責(zé)任人承擔(dān)壞道德運氣的后果。畢竟現(xiàn)代技術(shù)的原初目的就在于克服人類的不幸，以我們道德能力克服運氣對人類的支配。無論如何，我們應(yīng)該向這個目標(biāo)邁進，把不幸作為一種不正義來認真對待。