趙宏瑞　楊庚齊　楊悅

摘 要：醫(yī)療人工智能的法律倫理問題是目前研究的熱點，近5年來關于醫(yī)療人工智能的法律倫理問題有了許多新的認知，因此有必要對該領域的研究進行定性定量分析。從Web of Science（WoS）核心文集中檢索2018—2022年醫(yī)療人工智能的法律倫理問題領域738篇相關文獻，運用Citespace軟件分析相關文獻的主要數(shù)據(jù)信息，并生成可視化數(shù)據(jù)圖譜。結(jié)果顯示：哈佛大學是研究醫(yī)療人工智能法律倫理問題最多的機構；衛(wèi)生政策、醫(yī)學信息學和特征選擇等是醫(yī)療人工智能法律倫理問題研究的熱點。結(jié)果表明：醫(yī)療人工智能法律倫理問題研究已經(jīng)成為關乎人類健康最重要的研究領域之一；未來醫(yī)療人工智能法律倫理問題研究的重點主要集中在責任認定、風險防范、隱私風險、數(shù)據(jù)安全、倫理風險和機器深度學習后“自主性”導致的風險；全球還需要加強合作，促進AI+醫(yī)療的法律倫理問題研究發(fā)展。

關鍵詞：人工智能；醫(yī)療問題；法律倫理；文獻計量學

中圖分類號：D919.4；R-052? ? ? 文獻標識碼：A? ? ? ?文章編號：1674-5450（2023）02-0026-07

一、引言

人工智能（AI）作為數(shù)字時代產(chǎn)業(yè)變革最重要的技術之一，已經(jīng)被廣泛應用于各個領域。加之全球聯(lián)合抗擊新冠肺炎疫情的大背景，AI與醫(yī)療行業(yè)進行了快速融合。AI+醫(yī)療的應用范圍不斷拓寬并不斷發(fā)展落地。值得注意的是，除了技術上的突破，從法律、倫理層面來說，醫(yī)療人工智能也給當前價值體系和法律體系帶來一定的挑戰(zhàn)。

近年來，國內(nèi)外發(fā)布了大量有關人工智能在倫理方面的法律和規(guī)定。國際方面，歐盟委員會在2019年4月發(fā)布的《人工智能倫理準則》中提出四項倫理準則和實現(xiàn)可信賴AI的七個關鍵要素；2019年10月，美國國防創(chuàng)新委員會發(fā)布《人工智能原則：國防部人工智能應用倫理的若干建議》，建議中明確提出人工智能應用要遵循“負責、公平、可追蹤、可靠、可控”五大原則；最新版的歐盟《人工智能法案》于2021年推出，目前正在迅速通過審查過程，最早可能在2023年實施；2021年6月，世界衛(wèi)生組織發(fā)布《衛(wèi)生健康領域人工智能倫理與治理指南》，提出確保人工智能符合所有國家公共利益的六項原則、不能高估人工智能對健康的益處、機會與挑戰(zhàn)和風險高度相關等觀點。國內(nèi)方面，從2017年開始，陸續(xù)出臺一系列有關人工智能發(fā)展的全國性文件：國務院《新一代人工智能發(fā)展規(guī)劃》（2017.7）中明確指出，要重視并加強人工智能法律倫理問題研究，建立并制定促進人工智能發(fā)展的相應法律法規(guī)；在《網(wǎng)絡安全標準實踐指南——人工智能倫理安全風險防范指引》（2021.1）中，針對潛在倫理安全風險，給出安全開展人工智能研究開發(fā)、設計制造、部署應用等相關活動的規(guī)范指引；《新一代人工智能倫理規(guī)范》（2021.9）更是將倫理規(guī)范直接寫入文件名稱中，明確提出了增進人類福祉、促進公平公正、保護隱私安全、確?？煽乜尚拧娀熑螕?shù)然緜惱硪?，以及包含研發(fā)、管理、使用在內(nèi)的18項具體倫理要求。學術界AI+醫(yī)療領域發(fā)表大量關于法律倫理問題的研究文獻。因此，有必要利用文獻計量學的方法對醫(yī)療人工智能的法律倫理問題領域進行定性定量分析，在現(xiàn)有研究的基礎上，進行研究熱點的識別。

文獻計量學分析是學術研究的有用工具，旨在通過分析某一領域的研究現(xiàn)狀，指導未來的研究方向[1]。Citespace可視化分析是對于復雜社會現(xiàn)象的一種數(shù)量化梳理，是當代計算科學將復雜問題簡化的一種大眾傳播手段，其由陳超美開發(fā)，是以確定變量關系、通過共詞分析和共被引關系構成可視化圖譜的應用。文獻計量學分析現(xiàn)已運用于法學與醫(yī)學交叉的研究中，也有一些關于我國全科醫(yī)生法律保障現(xiàn)狀的文獻計量學分析。但受到時間和地域等限制性因素的影響，全球研究方向和研究重點也在改變。目前，還沒有針對智能醫(yī)療的法律和倫理問題的文獻計量學分析。為補充研究短缺的情況，有必要對醫(yī)療人工智能的法律倫理問題領域所發(fā)表的文獻進行定性定量分析。

二、研究對象和研究方法

（一）檢索對象與篩選

筆者于2022年9月14日檢索WoS核心合集（SCI-EXPANDED）中與醫(yī)療人工智能領域法律倫理問題相關的文獻。檢索式為［TS=（arti-ficial intelligence））OR TS=（machine learning）］AND［（（（TS=（law）） OR TS=（ethics）） OR TS=（le-gal））OR TS=（ethical）］AND［（（TS=（medical））OR TS=（medicine））OR TS=（health care）］。檢索時間設定為最近5年（2018—2022年），篩選文獻類型為article和review，限定語言英語。WoS檢索式見圖1。利用WoS檢索出的文獻，可以對一些重要指標進行文獻計量學分析，如年發(fā)文量、作者、期刊、機構、國家/地區(qū)和基金資助等。WoS檢索文獻流程見圖2。

（二）分析工具

本文所使用的分析工具為CiteSpace，它可以對文獻的知識單元進行共被引分析、共詞分析和研究合作網(wǎng)絡分析[2]。共被引分析指兩篇文獻同時出現(xiàn)在了第三篇施引文獻的參考文獻目錄中，則這兩篇文獻為共被引關系[3]。共詞分析最早由法國國家科學研究中心提出，其原理是利用網(wǎng)絡地圖的方式，把主題詞和關鍵詞聚類成簇表現(xiàn)出來[4]?？蒲泻献魇侵敢黄恼轮?，不同作者、機構或國家/地區(qū)共存。

在共現(xiàn)知識圖譜中，圓圈代表節(jié)點，節(jié)點代表不同的標簽，圓圈越大，節(jié)點出現(xiàn)的頻率越高，則其標簽（本文中指關鍵詞、國家/地區(qū)，共被引文獻）出現(xiàn)的頻率就越高；節(jié)點之間的連線代表不同標簽之間的關系，連線越粗，則關系越強[5-6]。

三、數(shù)據(jù)分析

（一）發(fā)文量分析

近5年，醫(yī)療人工智能的法律和倫理問題領域發(fā)文量總數(shù)為798篇。圖3描述了該領域2018—2022年間的年發(fā)文量。圖中清晰地展示出一個科學領域的研究從快速發(fā)展到穩(wěn)定的過程：從2018年開始該領域進入快速發(fā)展期，發(fā)文量逐年增長（從 2018 年的 36 篇逐漸增多至2021年的251篇），繼而進入穩(wěn)定期。事實上，從2021年開始發(fā)文量即在200篇上下波動。該領域共獲得資金支持2 865筆（見表1）。其中，排在前10名的基金（除惠康基金會外）來源都是國家機構，除中國國家自然科學基金（排名第4位）外，其余基金均來源于發(fā)達國家。

（二）期刊分析

表2列出了2018—2022年間，該領域文獻所發(fā)表的期刊總數(shù)達534個。發(fā)文數(shù)量排在前10名的期刊占總發(fā)文量的36%（共15本，其中有7本期刊并列排名第9）。發(fā)文數(shù)量最多的前3個期刊分別是《BMJ開放 》《互聯(lián)網(wǎng)醫(yī)學期刊》《醫(yī)德雜志》。上述期刊大部分都是該領域的專業(yè)期刊或活躍期刊。

（三）科研合作分析

共計有79個國家/地區(qū)發(fā)表了該領域文章，圖4是國家/地區(qū)共現(xiàn)網(wǎng)絡圖譜，圖5是機構共現(xiàn)網(wǎng)絡圖譜?？梢钥闯觯好绹暮献骰锇槭羌幽么蠛驮侥?；英國與荷蘭、葡萄牙合作密切；中國與韓國、瑞士有合作；德國與愛爾蘭、加拿大有合作；日本和南非、俄羅斯、智利、菲律賓等國家有合作。

表3列出了該領域發(fā)文數(shù)量最多的前10個國家，依次為美國、英國、德國、中國、加拿大、挪威、澳大利亞、法國、意大利和瑞士。表4通過分析以上國家在該領域發(fā)表文章的引用數(shù)據(jù)可以直觀地發(fā)現(xiàn)：引用頻次數(shù)按大小排列，排在前3名的國家是美、英、德三國。

2018—2022年，該領域共有4 015個研究機構發(fā)表了文章。其中，發(fā)文數(shù)量排在前10名的機構及其引用數(shù)據(jù)如表5所示：發(fā)表文章數(shù)量最多的前3個機構是哈佛大學醫(yī)學院、多倫多大學、斯坦福大學。被引頻次數(shù)最多的前3個機構是哈佛大學醫(yī)學院、麻省理工學院和牛津大學。

（四）共被引分析

文獻共被引的概念最早是由美國情報學家Small在1973年提出的，利用共被引分析可以研究文獻間的關系程度。本文的研究對象總共引用了2 929篇參考文獻。圖6顯示了引用參考文獻的聚類。對醫(yī)療人工智能的法律與倫理問題5年的聚類標簽分析可見，該領域的基礎框架為：醫(yī)療信息學、人工神經(jīng)網(wǎng)絡、精準醫(yī)療等。

從表6中可以看到，在共被引強度排名前10的期刊中，影響因子最高的3個期刊是《柳葉刀》《新英格蘭醫(yī)學雜志》《美國醫(yī)學會雜志》。共被引頻次數(shù)排名前3的分別是《美國醫(yī)學會雜志》《自然》《美國科學公共圖書館》。這些頂級期刊發(fā)表的文章反映了該研究領域的情況。

（五）共詞分析

共詞分析可以通過明確主題之間的聯(lián)系，進而獲得關鍵詞之間的聯(lián)系。通過對關鍵詞頻次排序可以獲取該領域的研究熱點；通過爆發(fā)關鍵詞在不同時間段出現(xiàn)的頻次則可明確該領域的前沿知識點。

圖7為該領域排序前15的爆發(fā)性關鍵詞，分析可得該領域的前沿知識點為信息技術和臨床道德規(guī)范。圖8的時間線圖譜則顯示大部分關鍵詞集中出現(xiàn)在2018年至2020年。

圖9是該領域的關鍵詞共現(xiàn)圖譜，圖中顯示節(jié)點數(shù)（即關鍵詞個數(shù)）799個，邊數(shù)（即關鍵詞之間的連線數(shù)）3 342條，圖中圓圈大小代表的是關鍵詞出現(xiàn)的頻次，圓圈越大，則該詞或詞組出現(xiàn)的頻次就越高。圖10的聚類圖包含了11個聚類，Q 和 S 分別為 0.7393、0.8465。其中，數(shù)字醫(yī)療經(jīng)常與風險、醫(yī)學倫理及監(jiān)管等次一同出現(xiàn)；風險管理、執(zhí)行、大數(shù)據(jù)及健康信息則常常與醫(yī)療服務一起出現(xiàn)；伴隨心理健康出現(xiàn)的詞是醫(yī)療決策。

四、討論

此次研究基于 WoS和 CiteSpace對醫(yī)療人工智能的法律與倫理問題領域的文章進行文獻計量學分析，并制作可視化圖譜，為該領域未來的研究方向提供了一些值得參考的信息。

關于醫(yī)療的文獻有1 957 986篇，人工智能的文獻 222 632篇。雖然醫(yī)療人工智能的法律與倫理問題文獻在以上兩類文獻中的占比不足1%，但過去5年整體呈現(xiàn)增長狀態(tài)，隨著新冠肺炎后疫情時代的到來，人們對醫(yī)療健康問題重視程度會逐漸加深，人工智能的應用在全球范圍內(nèi)會進一步擴大，醫(yī)療人工智能的法律和倫理問題領域?qū)⒊蔀橐粋€逐漸發(fā)展的熱點研究領域。《人工智能藍皮書：中國醫(yī)療人工智能發(fā)展報告（2020）》指出，醫(yī)療人工智能面臨的法律問題，其核心或者出發(fā)點是對大數(shù)據(jù)與核心算法的規(guī)制，要確立規(guī)制基本原則[7]77。原因主要包括醫(yī)療AI的行為主體地位目前很難明確，直接導致后續(xù)的法律問題及相應解決措施很難得到系統(tǒng)化的推進。有了規(guī)則即可合法界定行為；人們之間或國家之間一旦有了合法行為，才便于構建穩(wěn)定的安全關系[8]247。因此，還需要努力提高研究水平，加快相應領域立法，以解決該領域在發(fā)展過程中的一系列不確定性問題。

通過對基金資助機構進行分析得出：歐美發(fā)達國家對醫(yī)療人工智能領域投入了大量的財力，基金資助投入最高的10個機構中，只有一個屬于發(fā)展中國家，即中國國家自然科學基金，同時也是對我國的研究支持力度最大的基金。我國醫(yī)療保健和公共衛(wèi)生方面的支出隨著經(jīng)濟發(fā)展迅速增長。從某種程度上來說，醫(yī)療保健成本的增速已然超過我國經(jīng)濟增速[9]93。未來如果想在該領域得到進一步發(fā)展，可能還需要投入更多的財力、物力和人力。

確定研究熱點和研究前沿，有助于科研人員追蹤解決熱點問題。通過分析，該領域近年來的研究熱點集中在以下方面：醫(yī)療人工智能的法律人格、知識產(chǎn)權、民事主體身份、法律行為、法律責任、規(guī)則成因和醫(yī)療事故的責任劃分等。事實上，關于“機器人是人嗎”的問題在法律人格上并沒有一個明確和統(tǒng)一的認知，人工智能機器人是否可以被賦予民事責任是一個重大的法律問題。從現(xiàn)階段的研究來看，對醫(yī)療人工智能應用的民事主體身份尚未形成法律上的共識，因此缺乏相關法律文件對醫(yī)療人工智能的診療及應用進行規(guī)制。

本文研究的局限性在于只檢索了2018—

2022年間發(fā)表在WoS核心合集中的英文文獻。隨著新冠肺炎后疫情時代的到來，醫(yī)療人工智能的法律領域?qū)⑿纬稍S多新的認知。未來可針對這一問題做進一步的研究。

五、結(jié)論

自新冠肺炎疫情暴發(fā)以來，世界各國的醫(yī)療體系乃至經(jīng)濟貿(mào)易都受到了不同程度的沖擊和影響。在這種大背景下，人工智能在醫(yī)療領域應用中所涉及的法律問題愈發(fā)凸顯，諸如隱私保護、風險管理、人權保障、倫理道德和行業(yè)監(jiān)管等方面，均在一定程度上存在著法律問題?？梢哉f，醫(yī)療人工智能的法律與倫理問題是新冠肺炎后疫情時代一個重要的研究領域。該領域的主要研究方向集中在責任認定、風險防范、隱私風險、數(shù)據(jù)安全、倫理風險和機器深度學習后“自主性”導致的風險。

綜上所述，法律問題在人工智能醫(yī)療領域中的作用極其重要，因為它將影響著新冠肺炎后疫情時代的經(jīng)濟社會發(fā)展。有必要針對該領域進行特別立法或制訂政策，這不僅是關乎個人安全的問題，更是關乎國家安全乃至全人類福祉的問題。同時，全球的相關科研力量應該加強學科間的合作，這樣才能最大程度地規(guī)避人工智能在應用過程中可能產(chǎn)生的法律問題和潛在危機，尊重相關方利益，促進全球科學技術的進步。另外，通過科學研究、法律教育和社會實踐，建立一整套有效的行業(yè)標準體系，以更好地支持人工智能在醫(yī)療領域的發(fā)展，實現(xiàn)更高水平的社會進步。

參考文獻：

［1］ Chen C， Hu Z， Liu S， et al. Emerging Trends in Regenerative Medicine： AScientometricAnalysis in CiteSpace［J］. Expert Opin Biol Ther， 2012（5）： 593-608.

［2］ Li JF， Zhang YH， Wang XS， et al. Bibliometric Analysis of Atmospheric Simulation Trends in Meteorology and Atmospheric Science Journals［J］.Croat Chem Acta， 2009（3）： 695-705.

［3］ Lee YC， Chen CM， Tsai XT. Visualizing the Knowledge Domain of Nanoparticle Drug Delivery Technologies： A Scientometric Review（2000—2016））［J］.Chinese Journal of Applied Linguistics， 2016（1）： 221-226.

［4］ Liu X， Liu N， Zhou M， et al. Bibliometric Analysis of Global Research on the Rehabilitation of Spinal Cord Injury in the Past Two Decades［J］.Ther Clin Risk Manag， 2019（15）： 1-14.

［5］ Jia ZJ， Hong B， Chen DM， et al. Chinas Growing Contribution to Global Intracranial Aneurysm Research （1991—

2012）： A Bibliometric Study［J］.PLoS One， 2014（3）： 91594.

［6］ Liu ZG， Yin YM， Liu WD， et al. Visualizing the Intellectual Structure and Evolution of Innovation Systems esearch： a Bibliometric Analysis［J］.Scientometrics， 2015（1）： 135-158.

［7］ 張旭東.人工智能藍皮書：中國醫(yī)療人工智能發(fā)展報告［M］.北京：社會科學文獻出版社，2020.

［8］ 趙宏瑞.世界文明總量論：中國的文明崛起與國安法治原理［M］.北京：中國法制出版社，2015.

［9］ Office of The Ministry of Health. National Health and Family Planning Commission China Health Statistics Yearbook 2018［M］.Beijing： Beijing Union Medical University Press， 2018.

Research on Legal Ethics of Medical Artificial Intelligence

——Based on Quantitative and Visual Analysis of Foreign Literatures

Zhao Hongrui， Yang Gengqi， YangYue

（College of Humanities， Social Sciences & Law， Harbin Institute of Technology， Harbin Heilongjiang 150001）

Abstract：The medical problem of artificial intelligence is a hot spot of current artificial intelligence research. In the past five years， there have been many fields of ethical issues in legal medical care. Therefore， it is necessary to conduct qualitative new analysis of the research field.（WoS）focused on retrieving 738 related literatures in the field of artificial intelligence legal ethics issues from 2018 to 2022， using Citespace software to analyze the main data of related literatures， and generate a visual data map. Institutions with the most ethical issues; health issues， medical science and feature selection and selection of medical artificial intelligence ethical issues research， etc. are legal results with important legal information： AI ethics research has become one of the most research fields related to human health; future The focus of medical artificial intelligence ethics research is mainly on identification， global law， privacy， data security ethical risks， and liability risks caused by the“autonomy” of investigation and research. It is necessary to increase the risk of cooperation and promote the development and research of legal and ethical issues in AI + medical care.

Key words：artificial intelligence；medical issues；law and ethics；bibliometric science

【責任編輯：趙 踐? ? 責任校對：劉北蘆】

收稿日期： 2022-11-22

基金項目： 中央網(wǎng)絡安全和信息化委員會辦公室資助項目（MB20220006）

作者簡介： 趙宏瑞，男，黑龍江哈爾濱人，哈爾濱工業(yè)大學教授，博士研究生導師，主要從事國家安全法與網(wǎng)絡安全法研究；楊庚齊，女，黑龍江哈爾濱人，哈爾濱工業(yè)大學社會學博士研究生，主要從事國家安全法與網(wǎng)絡安全法研究；楊悅，女，黑龍江齊齊哈爾人，哈爾濱工業(yè)大學社會學博士研究生，主要從事國家安全法與網(wǎng)絡安全法研究。