文/董楓

醫(yī)療AI技術(shù)為臨床診療注入了無(wú)限可能，但所面臨的倫理挑戰(zhàn)同樣值得深思。

醫(yī)療人工智能正在越來(lái)越多的醫(yī)療場(chǎng)景和院外場(chǎng)景中被使用，作為人類(lèi)科技史上又一次生產(chǎn)力飛躍，醫(yī)療AI第一次將診療技術(shù)的載體從“人腦”擴(kuò)展為“醫(yī)生+AI”，使得人類(lèi)第一次擁有了將診療能力批量復(fù)制的可能；更高的閱片、診斷效率，更精準(zhǔn)、規(guī)范的診斷結(jié)果，更優(yōu)化的診療流程，以及與大數(shù)據(jù)、物聯(lián)網(wǎng)、5G技術(shù)所結(jié)合的空前廣闊的應(yīng)用場(chǎng)景令人心動(dòng)，但由此而來(lái)的，對(duì)醫(yī)學(xué)倫理、信息安全、隱私保護(hù)、數(shù)據(jù)分享與利用等前沿領(lǐng)域也提出了更為嚴(yán)峻的思考與挑戰(zhàn)。

如何客觀評(píng)價(jià)醫(yī)療AI產(chǎn)品的實(shí)際價(jià)值？如何正確看待醫(yī)療AI技術(shù)臨床應(yīng)用所面臨的數(shù)據(jù)分享與利用、隱私保護(hù)等倫理問(wèn)題？面對(duì)上述難題，臨床醫(yī)師及醫(yī)療機(jī)構(gòu)管理者又有哪些對(duì)策？

價(jià)值凸顯

在2019年的全球頂級(jí)放射學(xué)會(huì)議——北美放射學(xué)年會(huì)（RSNA）上，1400余場(chǎng)口頭報(bào)告中，中國(guó)學(xué)者的比例已經(jīng)超過(guò)15%；總的文章發(fā)表數(shù)中，與AI相關(guān)的文章也已超過(guò)100篇，遠(yuǎn)超日韓總和。中國(guó)醫(yī)療AI的發(fā)展速度與水平可見(jiàn)一斑。

以復(fù)旦大學(xué)附屬腫瘤醫(yī)院為代表的頂級(jí)三甲醫(yī)院是醫(yī)療AI技術(shù)探索的主力軍，在門(mén)診流程優(yōu)化、智能輔助診斷、智能科研等領(lǐng)域均有諸多經(jīng)驗(yàn)。從研發(fā)與試用經(jīng)驗(yàn)來(lái)看，醫(yī)療人工智能技術(shù)的核心價(jià)值主要體現(xiàn)在以下三個(gè)方面。

第一，高效。醫(yī)療AI技術(shù)的出現(xiàn)使得醫(yī)生擺脫繁重的體力勞動(dòng)，將部分重復(fù)的基礎(chǔ)性工作，如病灶檢出、結(jié)構(gòu)化報(bào)告撰寫(xiě)等工作以AI的方式壓縮至數(shù)秒鐘完成，醫(yī)生能夠擁有更高的閱片效率，勞動(dòng)力得到釋放。

第二，精準(zhǔn)。以乳腺X線鉬靶閱片為例，乳腺X線鉬靶閱片難度較高，需要豐富的臨床經(jīng)驗(yàn)與高水平專(zhuān)家的教學(xué)指導(dǎo)，復(fù)旦大學(xué)附屬腫瘤醫(yī)院在該領(lǐng)域長(zhǎng)期處于國(guó)內(nèi)領(lǐng)先水平，但培養(yǎng)成本高、培養(yǎng)周期長(zhǎng)、閱片難度大、影像數(shù)量少等難題長(zhǎng)期制約基層醫(yī)院相關(guān)人才的培養(yǎng)，閱片質(zhì)量難以提升。如何解決？能夠“學(xué)習(xí)”頂級(jí)醫(yī)院診療能力的AI應(yīng)用或可能帶來(lái)新的改變。

第三，一致性。AI系統(tǒng)在未來(lái)有望解決全國(guó)各個(gè)區(qū)域、不同層級(jí)醫(yī)療機(jī)構(gòu)之間對(duì)于乳腺X線鉬靶閱片的一致性難題，讓偏遠(yuǎn)地區(qū)的乳腺癌患者也能夠享受“復(fù)旦水準(zhǔn)”的醫(yī)學(xué)影像診斷服務(wù)。

頂級(jí)醫(yī)療資源長(zhǎng)期且必然處于極度緊缺狀態(tài)，不同層級(jí)醫(yī)療機(jī)構(gòu)之間診療能力難以短時(shí)間內(nèi)實(shí)現(xiàn)均質(zhì)。而人工智能則可能將診療能力工具化，通過(guò)深度學(xué)習(xí)技術(shù)復(fù)制頂級(jí)醫(yī)療機(jī)構(gòu)的診療能力，顯著提升基層醫(yī)療機(jī)構(gòu)診療能力，以技術(shù)手段實(shí)現(xiàn)診療能力的傳播，是人類(lèi)社會(huì)未來(lái)解決優(yōu)質(zhì)醫(yī)療資源短缺，推動(dòng)醫(yī)療資源供給側(cè)改革，實(shí)現(xiàn)社會(huì)公平，民眾醫(yī)療資源獲得感提升的重要工具。

倫理困境

AI技術(shù)在醫(yī)學(xué)領(lǐng)域的飛速發(fā)展，為臨床診療注入了無(wú)限可能，也帶來(lái)了新的諸如醫(yī)學(xué)倫理、信息安全、隱私保護(hù)、數(shù)據(jù)分享與利用等前沿領(lǐng)域的倫理問(wèn)題。

一是安全性風(fēng)險(xiǎn)。醫(yī)療AI在大幅提升診斷效率、精確度以及一致性的情況下，依然不可避免地存在一定的誤診漏診現(xiàn)象，未來(lái)的臨床應(yīng)用中必然面臨責(zé)任界定問(wèn)題。目前，日本與歐盟的監(jiān)管機(jī)構(gòu)曾提出：應(yīng)將AI系統(tǒng)與“工具”等同，即由操作“工具”的醫(yī)生來(lái)承擔(dān)主體責(zé)任，而我國(guó)目前尚無(wú)相關(guān)法律明文規(guī)定，對(duì)AI的推廣應(yīng)用帶來(lái)一定的不確定性。

此外，安全性風(fēng)險(xiǎn)還涉及醫(yī)療人工智能產(chǎn)品的臨床效能評(píng)定及質(zhì)量控制體系建設(shè)，醫(yī)療人工智能技術(shù)的應(yīng)用者需要結(jié)合病種特點(diǎn)及科室實(shí)際工作流建立新的工作模式及質(zhì)量控制體系，以確保醫(yī)療安全。

二是數(shù)據(jù)隱私保護(hù)風(fēng)險(xiǎn)。醫(yī)療數(shù)據(jù)所包含的患者健康管理高度敏感，一旦泄露可能對(duì)患者造成重大的經(jīng)濟(jì)影響，甚至生命威脅。歐美等多個(gè)國(guó)家和地區(qū)均對(duì)醫(yī)療數(shù)據(jù)提出了嚴(yán)格的保護(hù)政策。以歐盟2018年頒布的《通用數(shù)據(jù)保護(hù)條例》（GDPR）為例，一方面，新法規(guī)使患者有更多權(quán)利控制其個(gè)人數(shù)據(jù)的收集及使用；另一方面，對(duì)相關(guān)數(shù)據(jù)的不合規(guī)行為可導(dǎo)致重罰。

而與此同時(shí)，我國(guó)雖然關(guān)于醫(yī)療大數(shù)據(jù)的總體性綱領(lǐng)不斷涌現(xiàn)，但對(duì)于醫(yī)療中的隱私及數(shù)據(jù)保護(hù)散見(jiàn)在一些法律法規(guī)中，如《民法總則》《中華人民共和國(guó)執(zhí)業(yè)醫(yī)師法》《醫(yī)療機(jī)構(gòu)病歷管理規(guī)定》《全國(guó)人民代表大會(huì)常務(wù)委員會(huì)關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》等，且對(duì)于侵犯醫(yī)療數(shù)據(jù)隱私的懲處條例相對(duì)寬松，以行政處罰和經(jīng)濟(jì)懲罰為主，相對(duì)較輕。

三是算法偏見(jiàn)問(wèn)題?！八惴ㄆ?jiàn)”是指在看似沒(méi)有惡意的程序設(shè)計(jì)中帶著創(chuàng)建者的偏見(jiàn)，或者所采用的數(shù)據(jù)是帶有偏見(jiàn)的。這種偏見(jiàn)最初出現(xiàn)在人臉識(shí)別程序中對(duì)于部分人種的識(shí)別困難，但在醫(yī)療領(lǐng)域中，“算法偏見(jiàn)”并不罕見(jiàn)。

以乳腺X線AI的研發(fā)為例，不少企業(yè)及高校利用海外數(shù)據(jù)集進(jìn)行原始模型構(gòu)建，但由于歐美女性多為脂肪型乳腺，而中國(guó)女性則為致密性乳腺，加之清晰度不足、標(biāo)注質(zhì)量低下等原因，依靠單一的公開(kāi)數(shù)據(jù)集中公開(kāi)的歐美女性乳腺影像所研發(fā)出來(lái)的AI產(chǎn)品無(wú)一例外，均在醫(yī)療機(jī)構(gòu)實(shí)地運(yùn)行中出現(xiàn)“水土不服”，性能出現(xiàn)大幅跳水。這也對(duì)醫(yī)療人工智能產(chǎn)品研發(fā)過(guò)程中的數(shù)據(jù)質(zhì)量、數(shù)據(jù)來(lái)源多樣性提出了嚴(yán)峻挑戰(zhàn)。

同時(shí)，不同區(qū)域、不同醫(yī)療機(jī)構(gòu)對(duì)于同一疾病的認(rèn)知也可能存在差異，當(dāng)AI的“老師”意見(jiàn)不一致時(shí)，最終產(chǎn)出的醫(yī)療AI產(chǎn)品性能也會(huì)存在差異。

四是醫(yī)師培養(yǎng)體制進(jìn)步。該種現(xiàn)象當(dāng)前并不明顯，但未來(lái)很有可能發(fā)生。以醫(yī)療AI技術(shù)影響最為深刻的放射科而言，隨著技術(shù)進(jìn)步，越來(lái)越多的閱片工作與流程將實(shí)現(xiàn)自動(dòng)化、智能化，放射醫(yī)師的主要工作將從體力勞動(dòng)者化身醫(yī)療AI的訓(xùn)練者與監(jiān)督者，其日常工作重心及培養(yǎng)方式將不可避免地發(fā)生變化。正如馬車(chē)夫被汽車(chē)駕駛員淘汰一樣，未來(lái)放射醫(yī)師的學(xué)習(xí)重點(diǎn)也可能隨著醫(yī)療AI技術(shù)的進(jìn)步而發(fā)生改變。探索路徑

醫(yī)療人工智能早已不是“新生事物”，醫(yī)療機(jī)構(gòu)醫(yī)教研管的每一個(gè)環(huán)節(jié)都已經(jīng)能看到醫(yī)療人工智能的身影。作為臨床醫(yī)務(wù)工作者和管理者，我們必須以開(kāi)放且積極的態(tài)度擁抱醫(yī)療人工智能，正視醫(yī)療人工智能發(fā)展中所面臨的技術(shù)難題、倫理難題、法律難題，并尋求相關(guān)對(duì)策，推動(dòng)醫(yī)學(xué)技術(shù)進(jìn)步，以技術(shù)創(chuàng)新讓人人享有更好的醫(yī)療。

首先，嚴(yán)格院內(nèi)管理制度，建立院內(nèi)風(fēng)控體系。新技術(shù)的應(yīng)用必然對(duì)院內(nèi)醫(yī)療安全產(chǎn)生影響，隱私保護(hù)、醫(yī)療責(zé)任歸屬、產(chǎn)品風(fēng)險(xiǎn)防范等問(wèn)題必須在醫(yī)療AI產(chǎn)品落地之前即進(jìn)行嚴(yán)格論證，建立產(chǎn)品性能及風(fēng)險(xiǎn)評(píng)價(jià)體系，明確產(chǎn)品應(yīng)用范圍，遵守“數(shù)據(jù)不出院”等基礎(chǔ)原則，為醫(yī)療安全建立第一道屏障。

其次，加速監(jiān)管體制創(chuàng)新，明確法律責(zé)任。醫(yī)療AI產(chǎn)品的監(jiān)管難點(diǎn)之一在于其技術(shù)處于飛速進(jìn)步之中，相較于傳統(tǒng)藥品及器械品種動(dòng)輒3～5年，甚至5～10年的審批流程，醫(yī)療AI的技術(shù)進(jìn)步以1年計(jì)，甚至每半年都會(huì)有新功能推出，行業(yè)組織及相關(guān)部委必須研究“高頻創(chuàng)新”時(shí)代的新監(jiān)管體系及理念，建立動(dòng)態(tài)準(zhǔn)入及監(jiān)管機(jī)制，既鼓勵(lì)新技術(shù)研發(fā)的同時(shí)，也確保只有真正有用、有價(jià)值的醫(yī)療AI產(chǎn)品才能落地臨床。

同時(shí)，諸多倫理難題，尤其是醫(yī)療數(shù)據(jù)的歸屬、利用、開(kāi)發(fā)、分享等細(xì)則必須進(jìn)一步明確，以法律條文的形式為行業(yè)發(fā)展奠定基調(diào)，明確法律責(zé)任之后，必將大力推動(dòng)相關(guān)行業(yè)進(jìn)步，充分利用中國(guó)這個(gè)全球最大的醫(yī)療數(shù)據(jù)資源寶庫(kù)。

再次，發(fā)揮頂級(jí)三甲醫(yī)院的學(xué)術(shù)帶頭作用，加速行業(yè)標(biāo)準(zhǔn)、應(yīng)用規(guī)范的制定，形成行業(yè)標(biāo)準(zhǔn)或共識(shí)。當(dāng)前醫(yī)療AI產(chǎn)品開(kāi)發(fā)中良莠不齊現(xiàn)象嚴(yán)重，水平差距較大，數(shù)量雖多但精品稀缺，頂級(jí)三甲醫(yī)院作為優(yōu)質(zhì)醫(yī)療資源高地及醫(yī)療AI應(yīng)用先行者，一方面能夠以頂級(jí)的數(shù)據(jù)基礎(chǔ)及診療水平成為醫(yī)療AI產(chǎn)品的高水平“導(dǎo)師”；另一方面，也有能力以區(qū)域組織或醫(yī)聯(lián)體為單位推動(dòng)醫(yī)療AI產(chǎn)品的質(zhì)量評(píng)定、信息安全、倫理審查等體系建設(shè)，形成區(qū)域或行業(yè)標(biāo)準(zhǔn)并進(jìn)行推廣。