文/董楓

醫(yī)療AI技術為臨床診療注入了無限可能，但所面臨的倫理挑戰(zhàn)同樣值得深思。

醫(yī)療人工智能正在越來越多的醫(yī)療場景和院外場景中被使用，作為人類科技史上又一次生產(chǎn)力飛躍，醫(yī)療AI第一次將診療技術的載體從“人腦”擴展為“醫(yī)生+AI”，使得人類第一次擁有了將診療能力批量復制的可能；更高的閱片、診斷效率，更精準、規(guī)范的診斷結果，更優(yōu)化的診療流程，以及與大數(shù)據(jù)、物聯(lián)網(wǎng)、5G技術所結合的空前廣闊的應用場景令人心動，但由此而來的，對醫(yī)學倫理、信息安全、隱私保護、數(shù)據(jù)分享與利用等前沿領域也提出了更為嚴峻的思考與挑戰(zhàn)。

如何客觀評價醫(yī)療AI產(chǎn)品的實際價值？如何正確看待醫(yī)療AI技術臨床應用所面臨的數(shù)據(jù)分享與利用、隱私保護等倫理問題？面對上述難題，臨床醫(yī)師及醫(yī)療機構管理者又有哪些對策？

價值凸顯

在2019年的全球頂級放射學會議——北美放射學年會（RSNA）上，1400余場口頭報告中，中國學者的比例已經(jīng)超過15%；總的文章發(fā)表數(shù)中，與AI相關的文章也已超過100篇，遠超日韓總和。中國醫(yī)療AI的發(fā)展速度與水平可見一斑。

以復旦大學附屬腫瘤醫(yī)院為代表的頂級三甲醫(yī)院是醫(yī)療AI技術探索的主力軍，在門診流程優(yōu)化、智能輔助診斷、智能科研等領域均有諸多經(jīng)驗。從研發(fā)與試用經(jīng)驗來看，醫(yī)療人工智能技術的核心價值主要體現(xiàn)在以下三個方面。

第一，高效。醫(yī)療AI技術的出現(xiàn)使得醫(yī)生擺脫繁重的體力勞動，將部分重復的基礎性工作，如病灶檢出、結構化報告撰寫等工作以AI的方式壓縮至數(shù)秒鐘完成，醫(yī)生能夠擁有更高的閱片效率，勞動力得到釋放。

第二，精準。以乳腺X線鉬靶閱片為例，乳腺X線鉬靶閱片難度較高，需要豐富的臨床經(jīng)驗與高水平專家的教學指導，復旦大學附屬腫瘤醫(yī)院在該領域長期處于國內(nèi)領先水平，但培養(yǎng)成本高、培養(yǎng)周期長、閱片難度大、影像數(shù)量少等難題長期制約基層醫(yī)院相關人才的培養(yǎng)，閱片質(zhì)量難以提升。如何解決？能夠“學習”頂級醫(yī)院診療能力的AI應用或可能帶來新的改變。

第三，一致性。AI系統(tǒng)在未來有望解決全國各個區(qū)域、不同層級醫(yī)療機構之間對于乳腺X線鉬靶閱片的一致性難題，讓偏遠地區(qū)的乳腺癌患者也能夠享受“復旦水準”的醫(yī)學影像診斷服務。

頂級醫(yī)療資源長期且必然處于極度緊缺狀態(tài)，不同層級醫(yī)療機構之間診療能力難以短時間內(nèi)實現(xiàn)均質(zhì)。而人工智能則可能將診療能力工具化，通過深度學習技術復制頂級醫(yī)療機構的診療能力，顯著提升基層醫(yī)療機構診療能力，以技術手段實現(xiàn)診療能力的傳播，是人類社會未來解決優(yōu)質(zhì)醫(yī)療資源短缺，推動醫(yī)療資源供給側改革，實現(xiàn)社會公平，民眾醫(yī)療資源獲得感提升的重要工具。

倫理困境

AI技術在醫(yī)學領域的飛速發(fā)展，為臨床診療注入了無限可能，也帶來了新的諸如醫(yī)學倫理、信息安全、隱私保護、數(shù)據(jù)分享與利用等前沿領域的倫理問題。

一是安全性風險。醫(yī)療AI在大幅提升診斷效率、精確度以及一致性的情況下，依然不可避免地存在一定的誤診漏診現(xiàn)象，未來的臨床應用中必然面臨責任界定問題。目前，日本與歐盟的監(jiān)管機構曾提出：應將AI系統(tǒng)與“工具”等同，即由操作“工具”的醫(yī)生來承擔主體責任，而我國目前尚無相關法律明文規(guī)定，對AI的推廣應用帶來一定的不確定性。

此外，安全性風險還涉及醫(yī)療人工智能產(chǎn)品的臨床效能評定及質(zhì)量控制體系建設，醫(yī)療人工智能技術的應用者需要結合病種特點及科室實際工作流建立新的工作模式及質(zhì)量控制體系，以確保醫(yī)療安全。

二是數(shù)據(jù)隱私保護風險。醫(yī)療數(shù)據(jù)所包含的患者健康管理高度敏感，一旦泄露可能對患者造成重大的經(jīng)濟影響，甚至生命威脅。歐美等多個國家和地區(qū)均對醫(yī)療數(shù)據(jù)提出了嚴格的保護政策。以歐盟2018年頒布的《通用數(shù)據(jù)保護條例》（GDPR）為例，一方面，新法規(guī)使患者有更多權利控制其個人數(shù)據(jù)的收集及使用；另一方面，對相關數(shù)據(jù)的不合規(guī)行為可導致重罰。

而與此同時，我國雖然關于醫(yī)療大數(shù)據(jù)的總體性綱領不斷涌現(xiàn)，但對于醫(yī)療中的隱私及數(shù)據(jù)保護散見在一些法律法規(guī)中，如《民法總則》《中華人民共和國執(zhí)業(yè)醫(yī)師法》《醫(yī)療機構病歷管理規(guī)定》《全國人民代表大會常務委員會關于加強網(wǎng)絡信息保護的決定》等，且對于侵犯醫(yī)療數(shù)據(jù)隱私的懲處條例相對寬松，以行政處罰和經(jīng)濟懲罰為主，相對較輕。

三是算法偏見問題。“算法偏見”是指在看似沒有惡意的程序設計中帶著創(chuàng)建者的偏見，或者所采用的數(shù)據(jù)是帶有偏見的。這種偏見最初出現(xiàn)在人臉識別程序中對于部分人種的識別困難，但在醫(yī)療領域中，“算法偏見”并不罕見。

以乳腺X線AI的研發(fā)為例，不少企業(yè)及高校利用海外數(shù)據(jù)集進行原始模型構建，但由于歐美女性多為脂肪型乳腺，而中國女性則為致密性乳腺，加之清晰度不足、標注質(zhì)量低下等原因，依靠單一的公開數(shù)據(jù)集中公開的歐美女性乳腺影像所研發(fā)出來的AI產(chǎn)品無一例外，均在醫(yī)療機構實地運行中出現(xiàn)“水土不服”，性能出現(xiàn)大幅跳水。這也對醫(yī)療人工智能產(chǎn)品研發(fā)過程中的數(shù)據(jù)質(zhì)量、數(shù)據(jù)來源多樣性提出了嚴峻挑戰(zhàn)。

同時，不同區(qū)域、不同醫(yī)療機構對于同一疾病的認知也可能存在差異，當AI的“老師”意見不一致時，最終產(chǎn)出的醫(yī)療AI產(chǎn)品性能也會存在差異。

四是醫(yī)師培養(yǎng)體制進步。該種現(xiàn)象當前并不明顯，但未來很有可能發(fā)生。以醫(yī)療AI技術影響最為深刻的放射科而言，隨著技術進步，越來越多的閱片工作與流程將實現(xiàn)自動化、智能化，放射醫(yī)師的主要工作將從體力勞動者化身醫(yī)療AI的訓練者與監(jiān)督者，其日常工作重心及培養(yǎng)方式將不可避免地發(fā)生變化。正如馬車夫被汽車駕駛員淘汰一樣，未來放射醫(yī)師的學習重點也可能隨著醫(yī)療AI技術的進步而發(fā)生改變。探索路徑

醫(yī)療人工智能早已不是“新生事物”，醫(yī)療機構醫(yī)教研管的每一個環(huán)節(jié)都已經(jīng)能看到醫(yī)療人工智能的身影。作為臨床醫(yī)務工作者和管理者，我們必須以開放且積極的態(tài)度擁抱醫(yī)療人工智能，正視醫(yī)療人工智能發(fā)展中所面臨的技術難題、倫理難題、法律難題，并尋求相關對策，推動醫(yī)學技術進步，以技術創(chuàng)新讓人人享有更好的醫(yī)療。

首先，嚴格院內(nèi)管理制度，建立院內(nèi)風控體系。新技術的應用必然對院內(nèi)醫(yī)療安全產(chǎn)生影響，隱私保護、醫(yī)療責任歸屬、產(chǎn)品風險防范等問題必須在醫(yī)療AI產(chǎn)品落地之前即進行嚴格論證，建立產(chǎn)品性能及風險評價體系，明確產(chǎn)品應用范圍，遵守“數(shù)據(jù)不出院”等基礎原則，為醫(yī)療安全建立第一道屏障。

其次，加速監(jiān)管體制創(chuàng)新，明確法律責任。醫(yī)療AI產(chǎn)品的監(jiān)管難點之一在于其技術處于飛速進步之中，相較于傳統(tǒng)藥品及器械品種動輒3～5年，甚至5～10年的審批流程，醫(yī)療AI的技術進步以1年計，甚至每半年都會有新功能推出，行業(yè)組織及相關部委必須研究“高頻創(chuàng)新”時代的新監(jiān)管體系及理念，建立動態(tài)準入及監(jiān)管機制，既鼓勵新技術研發(fā)的同時，也確保只有真正有用、有價值的醫(yī)療AI產(chǎn)品才能落地臨床。

同時，諸多倫理難題，尤其是醫(yī)療數(shù)據(jù)的歸屬、利用、開發(fā)、分享等細則必須進一步明確，以法律條文的形式為行業(yè)發(fā)展奠定基調(diào)，明確法律責任之后，必將大力推動相關行業(yè)進步，充分利用中國這個全球最大的醫(yī)療數(shù)據(jù)資源寶庫。

再次，發(fā)揮頂級三甲醫(yī)院的學術帶頭作用，加速行業(yè)標準、應用規(guī)范的制定，形成行業(yè)標準或共識。當前醫(yī)療AI產(chǎn)品開發(fā)中良莠不齊現(xiàn)象嚴重，水平差距較大，數(shù)量雖多但精品稀缺，頂級三甲醫(yī)院作為優(yōu)質(zhì)醫(yī)療資源高地及醫(yī)療AI應用先行者，一方面能夠以頂級的數(shù)據(jù)基礎及診療水平成為醫(yī)療AI產(chǎn)品的高水平“導師”；另一方面，也有能力以區(qū)域組織或醫(yī)聯(lián)體為單位推動醫(yī)療AI產(chǎn)品的質(zhì)量評定、信息安全、倫理審查等體系建設，形成區(qū)域或行業(yè)標準并進行推廣。