談在祥 蔣雨彤

1 醫(yī)療人工智能侵權(quán)責任法律研究背景

醫(yī)療人工智能(medical artificial intelligence，MAI)作為一種新興醫(yī)療保健工具，為降低醫(yī)療成本、診療患者和未來醫(yī)學發(fā)展提供了前所未有的機遇[1]。在智能診療方面，IBM 公司已研發(fā)出可以診斷癌癥的 Watson 機器人，其診斷準確率可超過臨床醫(yī)生[2-3]，一項研究報告稱，人工智能（artificial intelligence，AI）對乳腺癌腫瘤的正確檢測率為92.4%，而人類醫(yī)生的正確檢測率僅為73.2%[4-6]。在智能手術(shù)方面，Intuitive Surgical 公司開發(fā)出了世界一流的外科手術(shù)機器人“達芬奇機器人”，通過使用微創(chuàng)的方法，代替醫(yī)生實施復雜精準的外科手術(shù)[7]。在智能緊急醫(yī)療資源調(diào)度方面，Corti 是一種用于管理和優(yōu)化哥本哈根醫(yī)療資源緊急調(diào)度過程的技術(shù)[8-9]。在智能個人健康管理方面，由巴比倫健康中心提供的應(yīng)用程序GP at Hand，用于評估患者已有癥狀和風險因素，并提供已知的醫(yī)療信息以及保持健康的建議[10-11]。

在推動技術(shù)革新與醫(yī)學發(fā)展的同時，MAI 也帶來了許多問題。例如，美國食品藥品監(jiān)督管理局（Food and Drug Administration，F(xiàn)DA）在2007 年收到了200 余次投訴，指控醫(yī)療外科手術(shù)機器人導致患者遭受燒傷、切割傷與感染，甚至造成89 例死亡事故[12]。在英國2015 年首例“達芬奇”心瓣修復手術(shù)中，機器人對患者心臟的縫合位置和方式都不對，甚至還戳穿了患者的大動脈。隨著MAI 的飛速發(fā)展，這類侵權(quán)行為將持續(xù)增多，給民事責任的歸責帶來一系列問題。然而，由于MAI 的算法不透明性、學習自主性、行為獨立性，其造成的侵權(quán)呈現(xiàn)出一定的擬人性、不可預見性和復雜性，進而引發(fā)對傳統(tǒng)法律規(guī)制的沖擊。因此，筆者分析傳統(tǒng)民事責任制度適用MAI 侵權(quán)的困境，結(jié)合國外的經(jīng)驗，為我國MAI 侵權(quán)責任法律應(yīng)用的發(fā)展與完善提供建議。

2 我國MAI 侵權(quán)責任規(guī)制的應(yīng)用困境

2.1 責任主體的法律地位問題

運用恰當法律規(guī)制的首要前提即為明確責任主體，然而目前國內(nèi)學界對于MAI 是否具有法律人格存在不同看法[13]。

2.1.1 肯定說

2017 年10 月，在沙特首都利雅得舉行的Future Investment Initiative 大會上，索菲亞被宣告成為歷史上第一個獲得公民身份的機器人[14]。這一里程碑事件使眾多學者對AI 法律人格肯定說更加篤定?？隙ㄕf主要包含擬制法律人格說。擬制法律人格說認為AI 應(yīng)當被賦予獨立的法律人格。在現(xiàn)代法律人格理論的發(fā)展史上，法律主體逐漸從自然人擴展至法人和組織，法人作為法律關(guān)系的主體，通過法律人格擬制的方式參與法律關(guān)系。而人與AI 之間天然不平等，AI 獨特的“應(yīng)用”路徑，AI 承擔有限的法律責任后果等因素，決定了其應(yīng)當享有擬制法律人格[15]。

2.1.2 否定說

我國學者大多傾向于該學說，否定了AI 的法律人格與主體地位。否定說主要包含工具說與代理說。工具說認為AI 是人類創(chuàng)造的在給定環(huán)境下表現(xiàn)良好的智能體程序，其本質(zhì)是為人類服務(wù)的工具，不具備獨立思考行動的能力[16-18]。代理說則認為AI 與所有人、使用人間的關(guān)系屬于法定代理關(guān)系，代理人對其的行為及產(chǎn)生的結(jié)果負責[19]。

2.1.3 折中說

折中說既不肯定AI 具有人格，也不否定AI 具有人格，而是認為其具有部分人格。折中說主要包括有限法律人格說和電子人格說。有限法律人格說認為AI 具有獨立自主的思考行為能力，享有法律規(guī)定的權(quán)利并能承擔責任，但其與傳統(tǒng)法律上的自然人或法人不同，AI 獨立承擔行為后果的能力有限，基于此，僅應(yīng)賦予AI 有限的法律人格[20]。電子人格說認為，“電子人”是擁有人類智能特征，具有自主性，以電子及電子化技術(shù)構(gòu)建的人格化AI 系統(tǒng)或機械裝置[21]。法律應(yīng)當將“電子人”作為法律主體容納，并在一定范圍內(nèi)賦予其權(quán)利與義務(wù)，讓其承擔一定范圍內(nèi)的責任。

2.2 法律適用的類型問題

現(xiàn)行《侵權(quán)責任法》在醫(yī)療侵權(quán)方面的適用主要包括產(chǎn)品責任、醫(yī)療損害責任和高度危險責任，然而在法律的認定上仍存在許多問題。

2.2.1 產(chǎn)品責任

根據(jù)《民法典》侵權(quán)責任編中產(chǎn)品責任的規(guī)定，因MAI 產(chǎn)品存在缺陷造成損害的，患者可以向產(chǎn)品的生產(chǎn)者或醫(yī)療機構(gòu)請求賠償[22]。但MAI 不同于一般產(chǎn)品，其缺陷不易證明。根據(jù)“誰主張，誰舉證”原則，患者需對MAI產(chǎn)品存在的缺陷進行舉證，但AI 產(chǎn)品屬高科技產(chǎn)品，它的算法具有不透明性，人類難以完全理解其運作過程[23]。在接收端，對于算法是如何從給定的輸入中得到特定的結(jié)果沒有清晰的認知[24]。因此，AI 算法經(jīng)常被描述為“黑匣子”[25]。AI 算法的不透明性是其“高維性和復雜性”的產(chǎn)物，即使是這些系統(tǒng)的設(shè)計者也無法理解機器的表達過程[26]，更不用說不具備專業(yè)知識的普通患者。

此外，我國專業(yè)的AI 缺陷鑒定機構(gòu)目前仍處于缺位狀態(tài)。大部分鑒定結(jié)論都會聚焦于醫(yī)療機構(gòu)的過失行為，而對于醫(yī)療產(chǎn)品本身缺陷的檢測和分析卻往往不到位。筆者在中國裁判文書網(wǎng)上檢索到的與達芬奇機器人相關(guān)的醫(yī)療糾紛共5 例，均屬于醫(yī)療過錯責任糾紛領(lǐng)域。例如，根據(jù)《山東省青島市中級人民法院（2019）魯 02 民終5081號二審民事判決書》，“鄒愛敏、趙瀟訴青島大學附屬醫(yī)院醫(yī)療損害責任糾紛案”中, 患者術(shù)后脾動脈破裂大出血，醫(yī)療鑒定結(jié)果是醫(yī)院承擔70%的過錯責任。根據(jù)《重慶市第一中級人民法院（2018）渝 01 民終3540 號二審民事判決書》，“楊邦文訴重慶西南醫(yī)院醫(yī)療損害責任糾紛案”中，患者在達芬奇機器人術(shù)后肺部感染，鑒定結(jié)論是醫(yī)方在楊邦文的診療過程中， 對患者病情的嚴重程度重視不夠，觀察不仔細，病情變化后處理不及時，存在過錯，該過錯與楊邦文“截癱”之損害后果存在因果關(guān)系。醫(yī)方應(yīng)對損失承擔 50% 的賠償責任[27]。

2.2.2 醫(yī)療損害責任

傳統(tǒng)大陸法系認為，醫(yī)療過失屬于典型的業(yè)務(wù)過失。如果作為可信賴專家的醫(yī)生在診療活動中存在過錯或未盡到與當時的醫(yī)療水平相應(yīng)的診療義務(wù)，造成了患者損害，他將被視為醫(yī)務(wù)人員違反注意義務(wù)承擔過失責任，醫(yī)療機構(gòu)將承擔替代責任[28]。然而，當AI 參與到醫(yī)患關(guān)系中時，情況就會變得十分復雜。

首先，要想在醫(yī)療侵權(quán)案件中勝訴，原告必須證明，其傷害是由于治療醫(yī)生背離了普遍認可和接受的慣例和程序，未盡到與當時的醫(yī)療水平相應(yīng)的診療義務(wù)[29-30]。法院評估這一標準的依據(jù)是一個合格的醫(yī)生應(yīng)該做些什么，也就是說，一個與被告具有相同的技術(shù)背景和專業(yè)知識的醫(yī)生會怎樣進行診療。但是，當一項新技術(shù)，如AI，被引入臨床診療時，當前醫(yī)療的平均水平的標準可能是模糊的[31]。

其次，醫(yī)務(wù)人員過錯與損害結(jié)果之間的因果關(guān)系難以判斷。醫(yī)療損害責任構(gòu)成要件包括：醫(yī)療機構(gòu)和醫(yī)務(wù)人員在診療活動中有違法診療行為；患者受到損害；診療行為與患者損害結(jié)果之間具有因果關(guān)系；醫(yī)療機構(gòu)及其醫(yī)務(wù)人員有過錯[32-33]。由于AI 算法具有“黑箱”屬性，其決策過程不透明，原告很難證明其損害是由于醫(yī)務(wù)人員存在過錯而不是由于AI 本身的故障，也就無法說明是醫(yī)務(wù)人員的診療行為導致了患者的損害。在未來，機器的自治能力越大，將其行為的法律責任歸咎和分配給人類的合理性就越薄弱[34]。隨著AI 系統(tǒng)變得越來越自主，真正能控制它的各方（即臨床醫(yī)生、醫(yī)療機構(gòu)和AI 設(shè)計師）越來越少，代理AI、控制AI 以及對其行為可預見性的崩潰直接影響了基于過失和替代責任的法律理論和患者受到損害時的追償機會[35]。

2.2.3 高度危險責任

由于目前學界對AI 性質(zhì)界定的不明確，相關(guān)法律制度的不完備和高度危險責任體系結(jié)構(gòu)的開放性，部分學者認為MAI 侵權(quán)也可考慮適用高度危險責任。然而在具體實施方面也存在以下問題。首先，高度危險責任包括高度危險物致?lián)p責任與高度危險作業(yè)致?lián)p責任[36]。MAI 造成患者損害歸屬于何種致?lián)p責任值得深入探討[37]。其次，高度危險責任通用無過錯責任原則，其賠償義務(wù)主體是危險活動或者危險物的作業(yè)人，即醫(yī)務(wù)人員與醫(yī)療機構(gòu)。因此，若適用高度危險責任，醫(yī)療AI 侵權(quán)的最終責任主體即為醫(yī)療機構(gòu)，而其他參與AI 從出廠到投入使用過程且可能造成損害的主體如設(shè)計者、生產(chǎn)者、運輸者則得以逃脫責任，這顯然是不合理的[38]。最后，如果把MAI 歸為高度危險物或把AI 診療過程判定為高度危險作業(yè)，那么會造成大眾對AI 的誤解，使他們對其產(chǎn)生害怕抵觸的心理，這不利于未來科技的進步與醫(yī)學的發(fā)展[39]。

2.3 法律適用的歸責問題

2.3.1 過錯原則

如前文所述，AI 產(chǎn)品是人類智慧活動的結(jié)晶，但其依然擁有擺脫人為控制的可能性，這就難以詮釋傳統(tǒng)侵權(quán)理論秉承的主觀過錯要件[40]，主要原因是過錯判定一般以侵權(quán)人在主觀上是否盡到了應(yīng)知和明知的注意義務(wù)為準則。當前許多MAI 實現(xiàn)了無人化的操作，使其使用者不再負有主觀上的注意義務(wù)，這讓過錯歸責原則變得無所適從。對于一些仍需要人為操控和監(jiān)管的AI 來說，就算使用者盡到了主觀上的注意義務(wù)，由于AI 本身的智能性與自主性，仍有可能使患者遭受侵害。AI 產(chǎn)品是基于獨立自主的算法、思考做出判斷而導致了侵害，并非源自人為的操作失誤。如只是考慮使用過錯原則對醫(yī)療機構(gòu)及醫(yī)務(wù)人員進行責任判定，這無疑增加了醫(yī)療機構(gòu)的負擔。此外，在AI 產(chǎn)品應(yīng)否作為法律責任主體的爭議狀態(tài)下，探究其是否存在主觀過錯似乎沒有任何實際意義。即使AI 產(chǎn)品可被認定為承擔過錯責任的責任承擔者，它也無法履行經(jīng)濟賠償或其他相應(yīng)的法律責任[12]，最終真正的責任履行還是會落到醫(yī)療機構(gòu)與醫(yī)療AI 使用者身上。

2.3.2 無過錯責任歸責

在上述幾種責任類型中，目前無過錯責任歸責僅通用于產(chǎn)品責任。運用無過錯原則的產(chǎn)品責任進行責任判定即承認了AI 的客體地位，也追究了生產(chǎn)者、銷售者的責任。生產(chǎn)者將承擔舉證責任證明自己的產(chǎn)品沒有缺陷才能免于擔責。雖然保護了患者這一弱勢群體，也規(guī)避了上述對于醫(yī)療機構(gòu)和MAI 使用者責任判定的困境，但這種歸責方式也存在局限。一方面，這對生產(chǎn)者經(jīng)濟上造成了重大壓力，嚴重打擊AI 市場的主體的積極性[41]，最終可能妨礙AI 的推廣與應(yīng)用。另一方面，生產(chǎn)者承擔無過錯原則的產(chǎn)品責任僅限于技術(shù)缺陷情形，而MAI 產(chǎn)品對患者產(chǎn)生侵害既有可能是因為生產(chǎn)者的技術(shù)缺陷，也有可能因為AI 本身的自主行為，明確侵害來源是十分困難的。

2.4 責任承擔的舉證問題

由于AI 本身的特殊性，責任認定中主體的復雜多樣性，侵權(quán)責任的舉證工作也變得十分困難。首先，AI 自身的缺陷難以證明，這一點在產(chǎn)品責任部分已經(jīng)闡明，此處不再贅述。其次，AI 引起損害的原由難以解釋，即便將AI算法公之于眾，但其基于算法學習、思考、推理、決策的過程是難以理解與解釋的。專業(yè)技術(shù)研發(fā)人員都未必能闡述清楚AI 運行機制，更何況不具備專業(yè)知識的普通民眾，那又談何舉證醫(yī)療機構(gòu)與AI 使用者過錯分配呢？這無疑增加了患者的舉證難度，醫(yī)療機構(gòu)與AI 使用者的逃避責任機會。再次，AI 技術(shù)作為商業(yè)機密的一種，是一個高科技企業(yè)核心競爭力的體現(xiàn)。當前我國沒有相關(guān)法律規(guī)定在侵權(quán)案件中，AI 設(shè)計者、生產(chǎn)者需要公開研發(fā)數(shù)據(jù)資料。最后，AI 數(shù)據(jù)庫龐大繁雜，這對于后續(xù)的記錄顯示和保存也造成了嚴重困難，恐難無法完全還原當時客觀的侵權(quán)過程[39]。

3 域外MAI 侵權(quán)責任規(guī)制的探索

3.1 美國

3.2 歐盟

歐盟正在對其頒布的 《醫(yī)療設(shè)備指令》進行調(diào)整，但也仍未建立起應(yīng)對MAI 侵權(quán)問題的完備法律體系[50]。首先，歐盟2017 年2 月16 日頒布了《機器人民事法規(guī)則》[51]，該文件倡議賦予AI 機器人“電子人”的法律地位，以應(yīng)對由其自主決策，行為引起損害的情形[52-53]。其次，除AI機器人以外的法律主體的民事責任應(yīng)與AI 機器人的自主程度成反比[54]，如果機器人的自主能力越高，那么越難被看作是其他行為人的工具，其生產(chǎn)者、使用者應(yīng)負的責任也就越小。最后，建立強制保險制度，要求生產(chǎn)者為自己制造的AI 機器人投保，該保險方案還應(yīng)當有賠償基金作為補充，以確保患者在受到強制保險未能覆蓋的損害時也能得到補償[55]。然而，當前歐盟法規(guī)僅是單純提出“電子人”的概念，并沒有說明具體如何讓它們履行責任進行補償。所以最終該類侵權(quán)民事案件仍是由人承擔責任。嚴格責任制度（也稱危險責任）在歐盟國家占主導地位。無論是AI 機器人違反了歐盟國家民事責任制度，還是MAI的作業(yè)人、持有人有過錯，都由AI 的作業(yè)人、持有人對造成的損害承擔責任[55]。在監(jiān)管方面，2021 年4 月，歐盟委員會發(fā)布《人工智能法案》，明確了對AI 實行基于風險的分級監(jiān)管思路，意在為歐盟范圍內(nèi)的投資和創(chuàng)新營造良好法治環(huán)境。歐盟委員會將AI 產(chǎn)品劃分為不可接受的風險、高風險、有限的風險和極小的風險四類，著重立法規(guī)制前兩類，并對高風險AI 的全生命周期監(jiān)管設(shè)立了嚴格詳細的規(guī)定，同時明確三類違法情形的處罰原則，以保障歐盟公民的尊嚴、隱私等基本權(quán)利，構(gòu)建公民對新興科技的信任。

3.3 日本

日本的大部分AI 方法都以工業(yè)為基礎(chǔ)，其中出現(xiàn)的挑戰(zhàn)為各國制定新的AI 戰(zhàn)略提供了重要的經(jīng)驗教訓。2014 年5 月，日本新能源產(chǎn)業(yè)技術(shù)綜合開發(fā)機構(gòu)公布了《關(guān)于工業(yè)、商業(yè)和生活機器人化的白皮書》，白皮書中提到在醫(yī)療衛(wèi)生以及相應(yīng)醫(yī)療衛(wèi)生服務(wù)相關(guān)的機器人有清潔機器人、醫(yī)療機器人、救災機器人。2016 年，日本頒布《日本復興戰(zhàn)略-走向第四次工業(yè)革命》，通過使用機器人和傳感器等技術(shù)提高護理質(zhì)量和生產(chǎn)力，減輕護理人員的負擔，進一步將機器人技術(shù)引入護理場所。日本從法政策學角度，主張將MAI 的侵權(quán)責任由醫(yī)療機構(gòu)與醫(yī)務(wù)人員承擔。

4 我國MAI 侵權(quán)責任法律應(yīng)用困境的應(yīng)對

當前我國MAI 侵權(quán)責任法律體系仍存在眾多問題，筆者綜合了域外之先進經(jīng)驗，提出如下應(yīng)對建議。

4.1 分階段厘定MAI 的法律地位

4.1.1 當下

當下仍屬于弱AI 時代，MAI 應(yīng)當被視為物、產(chǎn)品和醫(yī)療器械[56]。其仍然具備工具屬性即不具有自由意志，有可支配性[57]。即便是當前較為先進的手術(shù)機器人，也不應(yīng)當被規(guī)定為民事主體[58]，手術(shù)機器人作為輔助外科醫(yī)生開展手術(shù)的助手，受到人類的終極支配。另外，考慮到現(xiàn)實基礎(chǔ)不充分，尚無落實責任的可行辦法，立法成本較大等方面的原因，如將MAI 立為責任主體并進行嚴格責任執(zhí)行，將阻礙科學技術(shù)的創(chuàng)新和發(fā)展。

4.1.2 未來

在未來強AI 時代，MAI 將不具有工具屬性，而成為侵權(quán)責任主體[57]，因為其不再具有可支配性，并存在自由意志的可能性。屆時，人機界限模糊且人機共存狀態(tài)成為新的社會特征[59]，賦予其法律人格能更好解決法律關(guān)系問題。我國可效仿歐盟做法，立法賦予醫(yī)療AI 法律主體人格，由其與人類主體共同承擔侵權(quán)責任。同時立法需明確MAI的責任承擔方式與細節(jié)，更新現(xiàn)行《民法典》中關(guān)于傳統(tǒng)侵權(quán)責任的認定標準與法條規(guī)定，避免空有概念而無實踐。MAI 作為法律主體的具體責任承擔方式見下。

4.2 分階段、情形適用不同類型責任與歸責原則

4.2.1 弱AI

生產(chǎn)機械設(shè)備使用的材料影響設(shè)備的使用壽命。因此需要在選擇材料時要全面考慮經(jīng)濟性和適用性。很多煤礦企業(yè)的生產(chǎn)設(shè)備在選擇耐磨零件的時候傾向于低碳錳鋼。相較于普通的鋼來說，這種鋼的耐磨性能更好，同時隨著現(xiàn)代生產(chǎn)技術(shù)以及工藝的迅速發(fā)展，能夠選擇的材料增多，使得煤礦機械零件所具備的抗磨性以及抗腐性得到了提升，為降低磨損，應(yīng)合理選擇材料，提高零件耐磨性和壽命。

在弱AI 時代下，AI 作為客體，可分情況應(yīng)用當前既存的《民法典》侵權(quán)責任編的規(guī)定進行責任認定。

僅由產(chǎn)品自身缺陷導致的損害，適用產(chǎn)品責任規(guī)則，生產(chǎn)者和醫(yī)療機構(gòu)對直接責任的承擔適用無過錯責任原則?；颊呖梢韵騇AI 生產(chǎn)者或醫(yī)療機構(gòu)請求賠償?；颊呦蜥t(yī)療機構(gòu)請求賠償?shù)模t(yī)療機構(gòu)賠償后，有權(quán)向生產(chǎn)者追償。在產(chǎn)品責任規(guī)則時，要注意以下兩點。其一，責任主體外延,采用“共同企業(yè)”責任制。產(chǎn)品責任的責任主體不應(yīng)僅局限于生產(chǎn)者，銷售者、存儲者、運輸者都可能存在過錯，對產(chǎn)品自身缺陷負有一定責任，即從生產(chǎn)研發(fā)開始到使用前的整個過程中所涉及的所有主體組成相互關(guān)聯(lián)的“共同企業(yè)”，其中每一個實體都可能對屬于企業(yè)的其他實體的行為承擔連帶責任[60]。如果產(chǎn)品的缺陷是因第三人過錯所致，生產(chǎn)者或醫(yī)療機構(gòu)在承擔無過錯的直接責任后，則可向有過錯的運輸者、存儲者等第三人追償。運輸者、存儲者等第三人對這種最終責任的承擔適用過錯責任原則。其二，增設(shè)認定產(chǎn)品缺陷的標準?？紤]到當前MAI 侵權(quán)責任法律制度尚不完善，產(chǎn)品鑒定技術(shù)尚不發(fā)達，被損害者專業(yè)知識匱乏，為了更大限度地保障患者的利益，認定產(chǎn)品缺陷的標準不應(yīng)單一化，如未達到同類MAI 產(chǎn)品市場平均效果的即可考慮認定為產(chǎn)品缺陷。此外，由黑客攻擊MAI 造成的產(chǎn)品損害，適用產(chǎn)品責任的第三人責任，由黑客承擔責任，這不在本文的討論范圍之內(nèi)。

在絕大多數(shù)醫(yī)療侵權(quán)案件中，醫(yī)務(wù)人員或醫(yī)療機構(gòu)的主觀心理狀態(tài)為過失，而非故意。因此，過失情形的判定需要進一步細化。應(yīng)考慮兩種過失情形，第一，應(yīng)當使用而沒有使用MAI 的情形。根據(jù)美、德法律，對單個患者而言，相較于傳統(tǒng)方法，MAI 優(yōu)勢大于劣勢，那么MAI 法就應(yīng)當使用[61]。這點值得我國借鑒。第二，MAI 使用過程中出現(xiàn)過失的情形。一種是不應(yīng)當使用而使用MAI 的情形。另一種是應(yīng)當使用但在使用MAI 的過程中發(fā)生操作失誤。

產(chǎn)品缺陷和醫(yī)務(wù)人員操作失誤或醫(yī)院管理不當共同導致?lián)p害發(fā)生時，應(yīng)進行原因力的考量，分別適用產(chǎn)品責任規(guī)則和醫(yī)療損害責任規(guī)則，由產(chǎn)品的生產(chǎn)者與醫(yī)療機構(gòu)承擔不真正連帶責任[37]。

高度危險致人損害責任屬于危險責任，歸責原則為無過錯責任原則，且責任主體僅為高度危險物使用者（即醫(yī)療機構(gòu)），因此，筆者建議謹慎使用高度危險責任規(guī)則，以防生產(chǎn)者、運輸者等第三人得以逃脫責任。應(yīng)僅考慮在確定適用高度危險責任的第三類MAI 器械侵權(quán)案例中和患者損傷嚴重的情況下使用[37]。

就歸責原則來說，制造商作為MAI 的締造者，應(yīng)初步承擔無過錯的嚴格責任，其他主體承擔過錯責任。

4.2.2 強AI

此時MAI 作為侵權(quán)責任主體，違反診療義務(wù)，存在過錯，應(yīng)與相關(guān)人類主體共同承擔侵權(quán)責任。首先MAI 應(yīng)以“停止侵害”的方式承擔侵權(quán)連帶責任的前一部分，然后人類以其他方式承擔后一部分的侵權(quán)連帶責任[15]。MAI 并無財產(chǎn)，并不能像傳統(tǒng)責任主體一樣對患者進行賠償，因此需要采取別種方式對其進行責任追究，如強制更改其程序，刪除部分記憶，終止某些功能，對患者造成嚴重損害的，甚至可將其銷毀。作為MAI 的生產(chǎn)者、使用者，也應(yīng)當承擔部分責任，對患者進行經(jīng)濟補償。強AI 醫(yī)療過失認定標準包括過失情形和認定標準。過失情形分為選任過失和監(jiān)督過失。選任過失包括應(yīng)當使用MAI 卻未使用或不應(yīng)使用MAI 卻使用兩種情況。認定標準應(yīng)混合人類醫(yī)生和MAI 的平均醫(yī)療水平作為注意義務(wù)的標準。強AI 時代，MAI 可達到與人類相當甚至更高的醫(yī)療水準，因此，將人類醫(yī)生和MAI 的平均醫(yī)療水平作為標準是最合理的。本著人類健康權(quán)、生命權(quán)高于一切的原則，任何一方未達到應(yīng)盡的注意義務(wù)，都應(yīng)當承擔侵權(quán)責任[45]。

4.3 利用“黑匣子”記錄MAI 信息

馬航MH370 的失事讓“黑匣子”走入大眾視野，“黑匣子”是飛機專用的電子記錄設(shè)備之一，可記錄存儲飛機運行的數(shù)據(jù)，在飛機失事后大大提高了空難分析的準確度?？紤]到MAI 的不透明性、自主性、不可預測性，這樣的技術(shù)急需運用其中?！昂谙蛔印辈粌H可以記錄AI的操作過程，而且其內(nèi)部存儲的數(shù)據(jù)可以幫助查明出錯的環(huán)節(jié)，便于進行責任分配?？紤]到受害者處于信息弱勢地位，舉證困難，生產(chǎn)者應(yīng)自覺披露黑匣子內(nèi)部的數(shù)據(jù)，如有隱瞞或惡意篡改數(shù)據(jù)者，則可推定其在法律上承擔過錯責任。此外，對“黑匣子”的數(shù)據(jù)分析涉及商業(yè)科技秘密與個人隱私，我國可效仿歐盟《一般數(shù)據(jù)保護條例》（General Data Protection Regulation，GDPR）[62]，制定個人數(shù)據(jù)信息保護管理規(guī)則，既要保證信息所有人查閱修改存儲數(shù)據(jù)的權(quán)利，也要對其有所限制。同時也要制定AI 技術(shù)的隱私權(quán)保護規(guī)則，賦予AI 開發(fā)商一定的數(shù)據(jù)自主權(quán)，定期進行數(shù)據(jù)銷毀，以防止信息的竊取濫用。

4.4 對AI 產(chǎn)品確立必要的監(jiān)管或處置機制

設(shè)立AI 管理委員會，引入一套基于機器人分類標準的高級機器人登記系統(tǒng)。登記系統(tǒng)及登記簿應(yīng)當建立在全國范圍內(nèi)并覆蓋其內(nèi)部市場，由AI 管理委員會直轄。針對高度自主化的AI 產(chǎn)品施行登記公示制度，嚴格把關(guān)AI 的質(zhì)量、安全性與市場流通。針對已發(fā)生侵害行為、高度危險的MAI 產(chǎn)品，需召回返廠并對生產(chǎn)者進行相應(yīng)處罰，對情節(jié)嚴重的，甚至進行強制銷毀。此外，為了方便患者舉證，AI 管理委員會需督促生產(chǎn)者盡快如實披露黑匣子內(nèi)存儲的相關(guān)數(shù)據(jù)，并為患者提供AI 算法專家及一系列支持服務(wù)。

4.5 建立醫(yī)療責任強制保險和賠償基金

我國可參考歐盟的做法，通過法律法規(guī)強制要求MAI產(chǎn)品的生產(chǎn)者投保責任保險，并建立專項賠償責任基金用以涵蓋責任保險中不包含的侵害情況的賠償，切實保障接受MAI 診療致?lián)p患者的權(quán)益。

5 結(jié)語

MAI 作為新興事物，不可能照搬當下的法律規(guī)制進行責任認定，應(yīng)在不斷探索中完善相關(guān)法律法規(guī)。此外，要利用“黑匣子”記錄MAI 信息，對MAI 進行必要的監(jiān)管或處置，建立責任強制保險和賠償基金保障患者的利益。在做到“有法可依”的同時，切實保護個人隱私，技術(shù)機密，各方權(quán)益，以期MAI 帶來更多民生福祉。