王姍姍， 翟曉梅

(北京協(xié)和醫(yī)學院人文和社會科學學院，北京 100732，shanshanwang_pumc@hotmail.com)

1 人工智能的分類

智能涉及兩層含義，即智力和能力，是衡量一個人在各種環(huán)境中認識活動和進行實際活動的能力。20世紀50年代，人工智能(Artificial Intelligence, AI)的概念首先在達特茅斯會議上被提出，被定義為制造智能機器的科學，尤其是指智能計算機程序。歐盟委員會人工智能高級專家組將人工智能界定為由人類設計的，在給定某個復雜目標的情況下，能夠在物理或數(shù)字世界中，通過感知環(huán)境、解釋收集的數(shù)據(jù)，推斷從該數(shù)據(jù)獲得的知識，并決定采取的最佳行動。它是能夠根據(jù)預先定義的參數(shù)實現(xiàn)既定目標的系統(tǒng)[1]。簡言之，人工智能是指像人類一樣能夠理性思考和行動的智能系統(tǒng)。與人類的智能水平相比，人工智能可分為三類：①弱人工智能；②強人工智能；③超級人工智能。

目前人類社會所有應用的人工智能均為弱人工智能技術。弱人工智能只能執(zhí)行特定任務或處理預定義問題[2]。從軍事武器到智能音箱，從蘋果智能語音助手Siri到IBM超級電腦沃森(Watson)，從谷歌的阿爾法圍棋(Alpha Go)至其2018年上線的第一個微信人工智能小程序“猜畫小歌”，都依賴弱人工智能技術。這些技術的應用，可以降低經(jīng)濟成本，使得生產(chǎn)力大幅提高，社會資本高效運作。

人工智能技術的迭代不是線性增長，而是呈指數(shù)化爆炸性增長。弱人工智能的進階是強人工智能。強人工智能是具有全方面人類智能的人工智能[3]。一些專家相信在幾十年內人類社會至少會部分實現(xiàn)強人工智能[4]。超級人工智能是指比人腦智能水平更高的智能。超級人工智能被定義為在所有領域中任何超過人類認知表現(xiàn)的智力和能力[5]。一些人對超級人工智能充滿好奇心并期待其迅速實現(xiàn)，但也有不少人對超級人工智能表示懷疑和擔憂，擔憂如果人工智能終有一天會超越人腦智能，人們甚至對此感到恐懼：超級人工智能是人類最后的發(fā)明，同時也是人類時代的終結[6]。

2 人工智能技術在醫(yī)療衛(wèi)生領域的應用

人工智能以神經(jīng)科學、心理學、統(tǒng)計學、計算科學、數(shù)學、邏輯學、編程、哲學等學科為基礎，在很多領域中發(fā)揮重要作用。在醫(yī)學領域中，人工智能技術可應用于健康管理、臨床決策支持、醫(yī)學影像、疾病篩查和早期疾病預測、病歷/文獻分析、醫(yī)院管理等。

醫(yī)院、患者健康管理和臨床決策支持：電子病歷語音錄入、智能導診分診機器人、藥物助理等方面的應用。人工智能技術能夠對電子病歷和文獻進行結構化處理，提升醫(yī)護人員檢索病案信息的效率，并從中挖掘多元數(shù)據(jù)。在醫(yī)院信息系統(tǒng)(HIS)、實驗室信息管理系統(tǒng)(LIS)、放射信息管理系統(tǒng)(RIS)、醫(yī)學影像存檔與通信系統(tǒng)(PACS)和電子病歷(EMR)等院內系統(tǒng)中，人工智能醫(yī)學應用可以將患者信息和病案集合處理，通過時間順序展示每位患者的門診、住院病歷信息，滿足日益升級的醫(yī)療需求，解決醫(yī)院信息互聯(lián)問題，方便醫(yī)生診治和患者就診。臨床決策支持系統(tǒng)(CDSS)為醫(yī)療衛(wèi)生專業(yè)人員提供專家支持計算機程序，它通過人機對話，根據(jù)患者數(shù)據(jù)并作出有關診斷、預防和治療的決策[7]，提高決策有效性。人工智能醫(yī)學應用覆蓋基層醫(yī)療衛(wèi)生機構是我國大力發(fā)展基礎醫(yī)療的重要手段。

醫(yī)學影像、疾病篩查和輔助早期疾病診斷：人工智能可通過分析醫(yī)學影像和醫(yī)療信息進行疾病篩查和疾病預測，輔助醫(yī)生作出診斷。在眼科，人工智能可以通過病灶篩查糖尿病視網(wǎng)膜病變；在癌癥診療中，人工智能可對乳腺癌、鼻咽癌、肝癌和肺癌進行靶區(qū)勾畫；在外科，手術導航系統(tǒng)可形成臟器三維成像；在病理分析中，人工智能可通過建立病理平臺進行病理和影像定量分析。

3 人工智能醫(yī)學應用提出的倫理挑戰(zhàn)

人工智能醫(yī)學應用使人類受益的同時，也提出了一些倫理挑戰(zhàn)。下文將從安全性問題、隱私保護、患者對人工智能技術的可及性和可負擔性以及責任劃分等四方面的問題，對我國人工智能醫(yī)學應用提出的倫理挑戰(zhàn)進行分析和討論。

3.1 安全性風險

人工智能的安全性(Safety)是指人工智能系統(tǒng)在運行全周期均是安全可靠的，并在適用且可行的情況下可驗證其安全性[8]。保障人類生命健康這一要求促使科學家謹慎地研發(fā)關乎人身安全的科學技術。成熟可靠的人工智能醫(yī)學應用可保護和促進人類健康，但那些不成熟、不穩(wěn)定的應用可能會損害人類健康，甚至剝奪人類的生命。

人工智能醫(yī)學應用的安全性風險是指人工智能在應用時可能發(fā)生的傷害。根據(jù)所出現(xiàn)概率和后果嚴重程度，風險可分為四類。第一類是風險出現(xiàn)概率高和后果重大；第二類是風險出現(xiàn)概率極低，但后果一樣重大；第三類是風險出現(xiàn)概率高，后果輕微；第四類是風險出現(xiàn)概率低，后果輕微。基于目前人工智能技術和其醫(yī)學應用的發(fā)展情況，以第一類風險為主。

典型的例子如IBM沃森(Watson)系統(tǒng)助力輔助診療，通過海量數(shù)據(jù)分析和數(shù)據(jù)迭代分析，實現(xiàn)疾病篩查和早期疾病預測。根據(jù)外國媒體Stat新聞報道和來自IBM公司的內部文件顯示，與該公司沃森合作的醫(yī)學專家在使用沃森時發(fā)現(xiàn)沃森推薦了不安全的、錯誤的治療建議，這些建議來源于每類腫瘤領域的少量專家的建議，而不是有關的準則或可靠的證據(jù)[9]。此外，正在使用沃森腫瘤解決方案的醫(yī)生們對這樣的錯誤治療建議提出了強烈的批評：一些案例已經(jīng)表明沃森經(jīng)常提出不準確的醫(yī)療建議，它在給出意見的過程和底層技術上存在嚴重的安全性問題。例如，沃森提出的治療建議包括給有嚴重出血癥狀的肺癌患者使用會導致出血的抗癌藥物，而從醫(yī)學/醫(yī)生的判斷來看，這種用藥對患者是致命的[10]。

該案例揭示了人工智能醫(yī)學應用可能產(chǎn)生破壞性的結果(如誤診)。誤診對于患者及其家庭、醫(yī)生、醫(yī)院和研發(fā)生產(chǎn)的公司來說，都是一件難以承受的事情。上述案例中沃森的錯誤建議源于有缺陷的計算機算法。案例強調了有缺陷的算法對患者可以造成重大傷害、導致醫(yī)療事故的可能性。相對于臨床醫(yī)生誤診一位患者，一個機器學習算法可能會誤診更多的患者，因此，其誘導的醫(yī)源性風險出現(xiàn)的可能性更大、后果更為嚴重[11]。這也突出了人工智能醫(yī)學應用可能會對人的生命健康帶來威脅。

我國對人工智能醫(yī)學應用的安全性標準和風險監(jiān)管尚處于探索階段。2014年，我國頒布了《醫(yī)療器械監(jiān)督管理條例》(簡稱《條例》)以保障醫(yī)療器械安全，保護人的生命健康。我國將醫(yī)療器械分為三類，根據(jù)不同的產(chǎn)品類型進行產(chǎn)品備案或注冊?！稐l例》還提出依法追究責任人責任并詳列罰則。違反條例的，罰款不得超過5萬元；構成犯罪的，依法追究刑事責任；造成人身、財產(chǎn)或者其他損害的，依法承擔賠償責任。與醫(yī)療器械企業(yè)的盈利和罰金5萬元的對比，我們不難發(fā)現(xiàn)生產(chǎn)售賣未注冊或有質量問題的醫(yī)療器械的違法成本極低。鑒于極低的違法成本，生產(chǎn)者可能生產(chǎn)不安全的醫(yī)療器械。

我國人工智能技術發(fā)展速度很快，醫(yī)學應用產(chǎn)品層出不窮，但我國一直沒有統(tǒng)一的監(jiān)管人工智能醫(yī)學應用的標準，我國尚沒有通過審批的人工智能醫(yī)療器械產(chǎn)品，這影響了對該技術使用的安全性風險的把控。2017年7月，我國國務院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，提出促進智能醫(yī)療和智能健康的目標。國家鼓勵推廣應用人工智能治療新模式、新手段，建立快速精準的智能醫(yī)療體系以及加強我國的群體智能健康管理。2018年11月，國家藥品監(jiān)督管理局醫(yī)療器械技術審評中心確定了3類人工智能醫(yī)療器械審批的全流程。但國家藥品監(jiān)督管理局醫(yī)療器械技術審評中心的審批流程只覆蓋3類人工智能醫(yī)療器械，尚不能覆蓋所有人工智能技術在醫(yī)學領域的應用。權威管理部門出臺其他類別的人工智能醫(yī)療應用的監(jiān)管規(guī)則，行業(yè)和公司制定有關規(guī)范都迫在眉睫。

3.2 隱私保護問題

隱私(Privacy)是一個人不容許他人隨意侵入的領域[12]。隱私數(shù)據(jù)在國家、企業(yè)、家庭和個人層面發(fā)揮巨大作用。我國數(shù)據(jù)主體的隱私泄露情況屢見不鮮，這侵犯了數(shù)據(jù)主體的權益。隱私主要通過以下三種方式泄露：

第一，隱私被有關人員有意泄露，這是指可以接觸到隱私的人帶有一定目的故意泄露數(shù)據(jù)主體的信息。在我國，在獲得的便利面前，用戶只能無奈地選擇或者在不知情的情況下讓渡隱私權。手機安裝各類健康軟件時，用戶不得不在冗長的用戶協(xié)議下方點擊同意，并且注冊賬號；如若不同意，便無法使用這些軟件。得到用戶的同意后，這些軟件能夠獲取數(shù)據(jù)主體的隱私信息，如姓名、電話、照片等信息。

醫(yī)療健康數(shù)據(jù)分散，但是具有巨大的研究或商業(yè)價值。有些醫(yī)療健康數(shù)據(jù)明顯與人的健康信息相關，這些數(shù)據(jù)具有敏感性和私密性，如醫(yī)療病歷記錄掌握在醫(yī)院手中，通過手機、可穿戴設備所產(chǎn)生的健康信息或數(shù)據(jù)主體自己在軟件中記錄的健康信息主要掌握在軟件公司手中。雖然有些數(shù)據(jù)雖然不明顯與健康狀態(tài)直接相關有關，但可揭示個人的健康狀況。例如社交媒體活動或互聯(lián)網(wǎng)搜索歷史可能會揭示有關數(shù)據(jù)主體或其周圍人的健康狀況[13]。

人工智能醫(yī)學應用收集的數(shù)據(jù)在數(shù)據(jù)主體未知情的情況下可能很容易被數(shù)據(jù)收集者轉讓給其他機構。醫(yī)療衛(wèi)生領域常見的隱私泄露情況是醫(yī)院員工或軟件公司員工將信息販賣給第三方。2016年，某互聯(lián)網(wǎng)企業(yè)發(fā)生“隱私泄露事件”,該企業(yè)的數(shù)據(jù)包在黑市流通，包括用戶名、密碼、郵箱、電話號碼、身份證、QQ號等信息。騙子在數(shù)據(jù)主體購物后快速電話聯(lián)系數(shù)據(jù)主體實施詐騙，給數(shù)據(jù)主體帶來了共計數(shù)百萬的損失[14]。而醫(yī)療數(shù)據(jù)具有較高價值，主要包括患者姓名、年齡、就診情況、銀行賬戶、醫(yī)保賬戶等信息。如數(shù)據(jù)主體的醫(yī)療信息被售賣，那么這些信息可能被騙子或其他醫(yī)療衛(wèi)生機構獲取，他們可能向數(shù)據(jù)主體實施詐騙、推銷醫(yī)療產(chǎn)品或服務。

第二，隱私被有關人員無意泄露，這是指他們不帶有明確目的地泄露患者隱私。醫(yī)療衛(wèi)生領域中，醫(yī)生可能在無意間泄露患者隱私。公共場合討論患者信息、將患者的病案儲存在云端或公共電腦/人工智能醫(yī)學應用中，都可能被第三方獲取，導致隱私泄露。

第三，隱私信息還可通過黑客攻擊的方式被泄露。黑客通過系統(tǒng)漏洞侵入電腦系統(tǒng)，盜取信息資料或破壞系統(tǒng)資料。我國的醫(yī)療衛(wèi)生機構信息化系統(tǒng)安全水平低，存在諸多系統(tǒng)漏洞，容易遭到黑客攻擊。此外，醫(yī)療記錄并沒有加密，也使得黑客盜取醫(yī)療信息輕而易舉[15]。

隱私信息泄露會對數(shù)據(jù)主體及其家庭帶來嚴重傷害。信息泄露可能導致公眾對于數(shù)據(jù)主體的歧視或污名化。此外，數(shù)據(jù)的泄露可能危害到國家和社會安全。因此，保護數(shù)據(jù)主體的醫(yī)療健康隱私十分重要。國家還需盡快出臺《個人信息保護法》以保護個人隱私，防止隱私泄露。

3.3 可及性和可負擔性問題

人工智能醫(yī)學應用的可及性(Accessibility)和可負擔性(Affordability)挑戰(zhàn)主要包括數(shù)字裂溝和資源分配兩方面：

第一，數(shù)字裂溝。數(shù)字裂溝是不同社會經(jīng)濟水平的個人、家庭、企業(yè)和地區(qū)接觸信息通信技術和利用因特網(wǎng)進行各種活動的機會而產(chǎn)生的差距[16]。數(shù)字裂溝涉及全球或各國貧富個體間、不同性別之間、不同受教育程度之間信息技術可及的不平等和不公平[17]。數(shù)字裂溝與人工智能醫(yī)學應用關系密切。掌握人工智能醫(yī)學應用的國家和企業(yè)的壟斷加劇資源分配不均衡，造成新的數(shù)字裂溝，這也削弱了人工智能醫(yī)學應用的可及。在我國，各地區(qū)經(jīng)濟發(fā)展不平衡，經(jīng)濟落后地區(qū)享受到人工智能醫(yī)學應用服務的機會相對較少，甚至無法享受到人工智能的技術紅利。

第二，醫(yī)療衛(wèi)生資源分配不公正。醫(yī)療衛(wèi)生資源分配不公正導致人工智能醫(yī)學應用的可及性和可負擔性問題。醫(yī)療衛(wèi)生資源宏觀分配是指在國家能得到的全部資源中應該把多少分配給醫(yī)療衛(wèi)生領域，以及分配給醫(yī)療衛(wèi)生領域的資源在醫(yī)療衛(wèi)生領域內部應如何分配[18]。醫(yī)療資源少的地區(qū)的基層醫(yī)療衛(wèi)生機構的醫(yī)療儀器少、醫(yī)務從業(yè)人員數(shù)量少、專業(yè)技能低，百姓無法獲得高質量的醫(yī)療健康服務。我國人工智能醫(yī)學應用主要集中于大型三甲醫(yī)院，偏遠地區(qū)的患者很難有機會使用這些技術。此外，高昂的價格是制約人工智能醫(yī)學應用可及的重要因素。達芬奇手術機器人能夠進行微創(chuàng)、更精細化、更復雜的手術。因為國家配額和機器人購買和維護的巨大花銷，所以我國只有60余臺達芬奇手術機器人。由于企業(yè)壟斷，機器人做手術的費用大大高于傳統(tǒng)手術[19]。

或許人工智能技術在醫(yī)學領域應用在其發(fā)展的初始階段難以讓大多數(shù)人獲益，確保醫(yī)學人工智能應用的可及和可負擔尚需時間，但決策者應該考慮如何讓更多有需要的人從技術的進步中受益，如何進行成本受益分析(Cost-benefit Analysis)，比較人工智能醫(yī)學應用和傳統(tǒng)醫(yī)療技術的成本受益比，以什么標準進行資源分配？如何權衡患者健康需求和技術成本？這些都涉及我國人工智能發(fā)展中面臨的公正性和可及性的倫理挑戰(zhàn)。

3.4 責任劃分問題

人工智能醫(yī)學應用涉及責任劃分(Responsibility)、問責等問題，包括輔助診斷系統(tǒng)產(chǎn)生診斷失誤、手術機器人在為患者進行手術時操作錯誤等。醫(yī)療服務機器人是服務類機器人的一種，主要包括救援機器人、轉運機器人、醫(yī)院辦公機器人、護士機器人、導診機器人、分藥機器人、手術機器人等[19]。如果人工智能醫(yī)療服務機器人在手術過程中出現(xiàn)機器斷電、機器故障、錯誤操作等嚴重問題，可能導致人類受傷或死亡，這樣的后果不堪設想。因此，我們應該根據(jù)手術的實際情況，界定利益相關者的責任，以便適當問責和處罰。

在制度層面應盡快建立人工智能醫(yī)學應用的倫理管理規(guī)范和法律問責機制，以應對其可能帶來的倫理和法律等挑戰(zhàn)。例如政策制定者、科學共同體可確定應該委托給人工智能決策和操作的類型，并采用規(guī)則和標準，確保人們有效控制這些決策，以及如何為它們造成的損害分配法律責任。

我國人工智能醫(yī)學應用越來越多，但是我國侵權責任法中尚無對人工智能醫(yī)學應用的侵權責任的明確界定。決策者應該緊跟人工智能醫(yī)學應用的發(fā)展步伐，建立人工智能醫(yī)學應用的問責機制，界定有關利益相關者的責任。

4 總結

人工智能的出現(xiàn)極大地改變了人類的生活方式，對人類的生命健康產(chǎn)生了深遠的影響。人工智能醫(yī)學應用前景廣闊，可以滿足人們日益增長的健康需求，與此同時，我們必須積極應對人工智能醫(yī)學應用給我們帶來的倫理挑戰(zhàn)。人類應確保人工智能醫(yī)學應用的安全性，尊重數(shù)據(jù)主體的自主性和充分保護個人隱私，促進技術應用的可及性和可負擔性，并建立相應的倫理規(guī)范與法律機制，以確保人工智能技術以符合倫理的方式應用。