茅鴦對，沈 茜，王維標(biāo)，丁 靜

（浙江醫(yī)藥高等?？茖W(xué)校，浙江 寧波315000）

《新一代人工智能發(fā)展規(guī)劃的通知》（國發(fā)〔2017〕35號）指出，到2025年新一代人工智能（AI）會在智能醫(yī)療領(lǐng)域得到廣泛應(yīng)用。AI正成功地應(yīng)用于放射學(xué)、病理學(xué)和皮膚病學(xué)的圖像分析，其診斷速度可超過醫(yī)學(xué)專家，且準(zhǔn)確性與之相當(dāng)［1］，在提高診療效率的同時(shí)能降低醫(yī)療成本。醫(yī)療AI對醫(yī)師的診斷和決策具有重要的導(dǎo)向作用，一旦失誤，可能危及患者的生命安全。北京智源人工智能研究院聯(lián)合北京大學(xué)、清華大學(xué)、中國科學(xué)院自動化研究所等發(fā)布的《人工智能北京共識》指出，要為未來打造“負(fù)責(zé)任的、有益的”AI，實(shí)現(xiàn)這一目標(biāo)的前提是確立醫(yī)療AI診斷主體，明確侵權(quán)責(zé)任歸屬，但我國尚未出臺相關(guān)法律規(guī)范、評價(jià)標(biāo)準(zhǔn)與方法規(guī)范［2］。本研究中通過實(shí)證調(diào)研分析，探討醫(yī)療AI診斷器械的主體責(zé)任相關(guān)焦點(diǎn)問題，以期為監(jiān)管部門完善法律規(guī)范提供參考。

1 對象與方法

1.1 調(diào)查對象

藥械監(jiān)管系統(tǒng)人員、醫(yī)療機(jī)構(gòu)醫(yī)務(wù)人員、藥械企業(yè)人員（含AI企業(yè)人員）、醫(yī)藥類高校教師、醫(yī)療器械專業(yè)（精密醫(yī)療器械、醫(yī)療器械檢驗(yàn)與注冊、醫(yī)療器械經(jīng)營與管理）學(xué)生。

1.2 調(diào)查方法

采用文獻(xiàn)分析法、專家訪談法進(jìn)行醫(yī)療AI診斷主體責(zé)任相關(guān)焦點(diǎn)問題摸底，結(jié)合專家意見進(jìn)行問卷設(shè)計(jì)，最終通過問卷調(diào)查法開展調(diào)研工作。

1.3 統(tǒng)計(jì)學(xué)處理

采用SPSS 22.0統(tǒng)計(jì)學(xué)軟件分析。對醫(yī)療人工智能診斷法律主體資格、責(zé)任主體、侵權(quán)責(zé)任歸屬等問題進(jìn)行描述性統(tǒng)計(jì)，對不同職業(yè)、學(xué)歷、職稱與主體責(zé)任相關(guān)問題的關(guān)系采用χ2檢驗(yàn)，以P＜0.05為差異有統(tǒng)計(jì)學(xué)意義。對醫(yī)療AI診斷主體責(zé)任評價(jià)指標(biāo)體系采用探索因子分析法。

2 結(jié)果

2.1 問卷基本情況

本次調(diào)查共發(fā)放問卷155份，回收有效問卷150份，有效回收率96.77%。調(diào)查對象的職業(yè)分布情況，藥械監(jiān)管系統(tǒng)人員25人（16.67%）、醫(yī)療機(jī)構(gòu)醫(yī)務(wù)人員27人（18.00%）、藥械企業(yè)人員45人（30.00%）、醫(yī)藥類高校教師23人（15.33%）、醫(yī)療器械專業(yè)學(xué)生30人（20.00%）。職 稱 分 布 情 況，初 級 職 稱20人（13.33%）、中級職稱37人（24.67%）、高級職稱21人（14.00%）、無職稱72人（48.00%）。學(xué)歷分布情況，大學(xué)?？?2人（8.00%）、大學(xué)本科61人（40.67%）、碩士研究生64人（42.67%）、博士研究生13人（8.66%）。

分析問卷Cronbach信度，統(tǒng)計(jì)可得Cronbach′sα=0.748（＞0.7），表明研究數(shù)據(jù)信度良好；采用KMO抽樣適當(dāng)性檢查和Bartlett′s球形檢驗(yàn)進(jìn)行數(shù)據(jù)效度分析，KMO=0.757（＞0.5），說明研究數(shù)據(jù)結(jié)構(gòu)效度良好。

2.2 主體責(zé)任相關(guān)問題

產(chǎn)品應(yīng)用潛在風(fēng)險(xiǎn)多：受訪者認(rèn)為，AI在應(yīng)用中會出現(xiàn)諸多問題，包括誤診、漏診風(fēng)險(xiǎn)（89.33%），與醫(yī)院使用需求不配套（46.00%），應(yīng)變能力差（79.33%），診斷效率提升不明顯（36.67%），造成院方數(shù)據(jù)泄露（52.00%），倫理風(fēng)險(xiǎn)（3.33%）。

法律主體資格存在爭議：對于可否賦予醫(yī)療AI法律主體資格，57人（38.00%）認(rèn)為可以，57人（38.00%）認(rèn)為弱AI時(shí)代不可以，強(qiáng)AI時(shí)代可以，36人（24.00%）認(rèn)為不可以。交叉分析結(jié)果顯示，不同職業(yè)（χ2=12.919，P=0.040）和不同學(xué)歷（χ2=15.791，P=0.045）人群對醫(yī)療AI法律主體資格認(rèn)定結(jié)果有顯著差異，而不同職稱者（χ2=9.744，P=0.136）的認(rèn)定結(jié)果無顯著差異。

責(zé)任主體不單一：123人（82.00%）認(rèn)為雖然AI技術(shù)革新，仍不能完全替代醫(yī)師進(jìn)行診斷，27人（18.00%）則認(rèn)為可以。不同職業(yè)、學(xué)歷、職稱人群對于醫(yī)療AI能否替代醫(yī)師的判斷結(jié)果均無顯著差異（χ2=3.563，4.220，0.580，P=0.313，0.377，0.901）。表明大部分被訪者堅(jiān)定支持醫(yī)師在診斷中的核心地位，小部分被訪者信任醫(yī)療AI的診斷。選擇設(shè)計(jì)者、生產(chǎn)者、醫(yī)療機(jī)構(gòu)、醫(yī)師作為醫(yī)療AI診斷責(zé)任主體的分別有80人（53.33%）、63人（42.00%）、91人（60.67%）、86人（57.33%）。

侵權(quán)責(zé)任需由多方承擔(dān)：對于醫(yī)療AI診斷失誤造成醫(yī)療損害的侵權(quán)責(zé)任，104位被訪者（69.33%）認(rèn)為應(yīng)厘清設(shè)計(jì)者、生產(chǎn)者、醫(yī)療機(jī)構(gòu)等各方職責(zé)，合理分配各自責(zé)任，24位被訪者（16.00%）認(rèn)為應(yīng)由生產(chǎn)者、醫(yī)療機(jī)構(gòu)承擔(dān)連帶賠償責(zé)任，13位被訪者（8.67%）認(rèn)為應(yīng)由設(shè)計(jì)者、生產(chǎn)者承擔(dān)連帶賠償責(zé)任，9位被訪者（6.00%）認(rèn)為應(yīng)由醫(yī)院或醫(yī)師承擔(dān)責(zé)任。不同學(xué)歷人群對于侵權(quán)歸責(zé)的判定有顯著差異（χ2=30.607，P=0.002），不同職業(yè)人群與不同職稱人群的判定無顯著差異（χ2=13.231，6.867，P=0.152，0.651）。

2.3 主體責(zé)任評價(jià)指標(biāo)的構(gòu)建

以國家藥品監(jiān)督管理局醫(yī)療器械技術(shù)審評中心《深度學(xué)習(xí)輔助決策醫(yī)療器械軟件審評要點(diǎn)》、國家衛(wèi)生健康委員會《人工智能輔助診斷技術(shù)臨床應(yīng)用質(zhì)量控制指標(biāo)（2017年版）》等為依據(jù)，結(jié)合專家調(diào)研，梳理出13個(gè)醫(yī)療AI診斷主體責(zé)任評價(jià)指標(biāo)，進(jìn)行探索性因子分析。

信度、效度檢驗(yàn)：信度檢驗(yàn)處理數(shù)據(jù)后得Cronbach′s α=0.892（＞0.8），說明信度高；對有效樣本數(shù)據(jù)進(jìn)行KMO抽樣適當(dāng)性檢驗(yàn)和Bartlett′s球形檢驗(yàn)，檢驗(yàn)結(jié)果顯示，KMO=0.859（＞0.5），Bartlett′s球形檢驗(yàn)的χ2值為977.798（自由度為78），達(dá)到顯著水平（P=0.000＜0.01）。數(shù)據(jù)顯示，樣本數(shù)據(jù)結(jié)構(gòu)效度良好，可進(jìn)行因子分析。

因子分析結(jié)果：采用主成分分析法提取公因子，對13個(gè)指標(biāo)進(jìn)行Varimax方差正交旋轉(zhuǎn)，最終提取特征值大于1，得出3個(gè)公因子累計(jì)方差貢獻(xiàn)率為66.276%，旋轉(zhuǎn)后成分矩陣各因子解釋度差。故將提取公因子設(shè)定為4個(gè)，累計(jì)方差貢獻(xiàn)率為72.923%。根據(jù)因子分析解釋的總方差（見表1），計(jì)算評估總指標(biāo)公式如下。

F=（21.955F1+19.819F2+17.557F3+13.591F4）/72.923

正交旋轉(zhuǎn)后得到的因子負(fù)荷矩陣見表2。某個(gè)公因子下的變量旋轉(zhuǎn)成分值大于0.5時(shí)，此變量應(yīng)歸屬于此公因子。梳理13項(xiàng)指標(biāo)，可得醫(yī)療AI診斷主體責(zé)任評價(jià)指標(biāo)體系（見表3），通過旋轉(zhuǎn)后因子得分系數(shù)矩陣可得出如下各公因子的得分公式。

表1總方差解釋

表2旋轉(zhuǎn)后的因子矩陣

3 討論與建議

3.1 按AI強(qiáng)弱確立產(chǎn)品法律主體資格及責(zé)任主體

醫(yī)療AI診斷產(chǎn)品隱患較多，成為其大規(guī)模實(shí)施的障礙，亟須明確主體責(zé)任邊界。不同醫(yī)療AI診斷產(chǎn)品獨(dú)立診斷與決策能力不同，對醫(yī)師工作幫助程度有所區(qū)別?？紤]到應(yīng)用場景的特殊性，其責(zé)任主體并不單一。國家衛(wèi)生健康委員會醫(yī)院管理研究所人工智能藍(lán)皮書《中國醫(yī)療人工智能發(fā)展報(bào)告（2019年）》指出，現(xiàn)階段的弱AI醫(yī)療診斷器械在不同程度上需借助人類智慧，受人類的操作與監(jiān)管，其地位等同于普通醫(yī)療器械，不能賦予其法律主體資格。鑒于存在大量混合責(zé)任的情況［3］，設(shè)計(jì)者、生產(chǎn)者、醫(yī)療機(jī)構(gòu)、醫(yī)師等均是相關(guān)責(zé)任主體。強(qiáng)AI擁有獨(dú)立思考及決策能力，具備自我感知和行為能力，可賦予其享有同人類平等的權(quán)利并承擔(dān)相應(yīng)責(zé)任義務(wù)［4］，但考慮到其能承擔(dān)的法律后果有限，建議將其確立為具有特殊性質(zhì)的法律主體［5］，即具有有限法律人格。

表3醫(yī)療人工智能診斷主體責(zé)任評價(jià)指標(biāo)體系

3.2 醫(yī)療AI應(yīng)用需遵循權(quán)責(zé)一致原則

醫(yī)療AI存在算法泛化能力弱、重復(fù)性和再現(xiàn)性差、魯棒性設(shè)計(jì)缺乏等問題［6］，診斷結(jié)果容易出現(xiàn)漏診、誤診、錯診，給患者帶來生理傷害和精神傷害，構(gòu)成額外的經(jīng)濟(jì)負(fù)擔(dān)。醫(yī)療AI技術(shù)應(yīng)用方面應(yīng)遵循權(quán)責(zé)一致原則［7］，設(shè)計(jì)者、生產(chǎn)者、經(jīng)營者、使用者等責(zé)任主體應(yīng)嚴(yán)格遵守倫理道德與法律規(guī)范，切實(shí)履行自身權(quán)利和責(zé)任。AI診斷產(chǎn)品致?lián)p后要追溯原因，判定后按《產(chǎn)品質(zhì)量法》和《產(chǎn)品侵權(quán)法》進(jìn)行追責(zé)。侵權(quán)責(zé)任歸責(zé)前，首先要明確AI診斷產(chǎn)品對診斷結(jié)果的影響程度及其自身定位。若注冊時(shí)在適用范圍項(xiàng)明確寫明其能進(jìn)行有效決策，則加重制造商的責(zé)任；若表明其僅起輔助篩查作用，醫(yī)師仍需結(jié)合患者病史、基礎(chǔ)病癥、身體狀況進(jìn)行綜合判斷，則應(yīng)以醫(yī)師為重要?dú)w責(zé)對象。為合理分散舉證負(fù)擔(dān)，受害者向主要責(zé)任者索要賠償，主要承擔(dān)者可向其他方追償。同時(shí)，建議建立以責(zé)任保險(xiǎn)制度為核心的綜合救濟(jì)體系［8］，提高社會救濟(jì)能力。

3.3 主體責(zé)任評價(jià)體系的應(yīng)用

醫(yī)療AI診斷主體責(zé)任評價(jià)指標(biāo)體系的構(gòu)建有利于企業(yè)“內(nèi)部監(jiān)管+外部監(jiān)管”并行，充分激發(fā)企業(yè)活力，釋放技術(shù)紅利。企業(yè)每年結(jié)合指標(biāo)體系開展內(nèi)部自查，及時(shí)糾正問題，向監(jiān)管部門提交年度報(bào)告。建議開啟多元共治新篇章［9］，監(jiān)管部門邀請行業(yè)專家、行業(yè)協(xié)會、媒體、公眾代表等多方共同開展評價(jià)工作，結(jié)合評價(jià)結(jié)果對企業(yè)開展分級分類監(jiān)管，制訂《醫(yī)療人工智能診斷產(chǎn)品重點(diǎn)監(jiān)管目錄》，對主營品種在目錄范圍內(nèi)且主體履責(zé)嚴(yán)重不到位的企業(yè)予以重點(diǎn)監(jiān)管，對主體履責(zé)到位的企業(yè)予以寬松監(jiān)管，合理分配有限的監(jiān)管資源，提高監(jiān)管效能。對主體責(zé)任評價(jià)結(jié)果進(jìn)行年度公告，對表現(xiàn)極差的企業(yè)予以警示，并加強(qiáng)日常監(jiān)管；對表現(xiàn)優(yōu)異的企業(yè)予以表揚(yáng)。醫(yī)療AI安全監(jiān)管正面臨平衡創(chuàng)新與風(fēng)險(xiǎn)的難題，公眾對AI主體的信任是至關(guān)重要，而可信任AI唯有具備誠實(shí)、一致性、可靠性、透明度、公平性五大特性，才能真正提高公眾滿意度，提升健康服務(wù)質(zhì)量。