周文康 費(fèi)艷穎

由于醫(yī)療行為本身為社會所必需，人工智能(artificial intelligence,AI)作為引領(lǐng)世界科技前沿的戰(zhàn)略性技術(shù)，將AI嵌入醫(yī)療領(lǐng)域，以AI技術(shù)創(chuàng)新驅(qū)動、AI高質(zhì)量供給引領(lǐng)和創(chuàng)造醫(yī)療新需求，醫(yī)療AI將不斷呈現(xiàn)創(chuàng)新發(fā)展及高速增長的態(tài)勢，有利于從更高層次、更廣范圍保護(hù)患者的生命健康安全。進(jìn)一步說，人體本身就是一座大數(shù)據(jù)庫，AI要補(bǔ)足最后一里路，醫(yī)療AI已經(jīng)推動了數(shù)字化健康革命，促使醫(yī)學(xué)領(lǐng)域產(chǎn)生了巨大的改變。AI的介入使得深度學(xué)習(xí)、智能機(jī)器人、大數(shù)據(jù)等在醫(yī)療領(lǐng)域的應(yīng)用成為可能，也使得精準(zhǔn)醫(yī)療與AI深度整合，連接醫(yī)患雙方、醫(yī)療器械等醫(yī)療行動主體和介質(zhì)，以技術(shù)創(chuàng)新為依托，結(jié)合制度轉(zhuǎn)型，促進(jìn)醫(yī)療AI創(chuàng)新研發(fā)。

新冠疫情的防控，更是彰顯了醫(yī)療AI誕生的初衷：幫助醫(yī)生從重復(fù)性勞動解救出來，促進(jìn)解決優(yōu)質(zhì)醫(yī)療資源稀缺的問題。但是，醫(yī)療行為本身具有高度的復(fù)雜性、不確定性和風(fēng)險性。據(jù)此，科技風(fēng)險與醫(yī)療需求將推動AI規(guī)制的政策倫理在本體、價值、運(yùn)行和實(shí)施等方面創(chuàng)新變革，尤其亟需在醫(yī)療大數(shù)據(jù)的規(guī)范、智能機(jī)器人的調(diào)適、算法倫理的治理以及準(zhǔn)入機(jī)制的完善四個方面打好制度基礎(chǔ)，形成一個向外AI臨床運(yùn)用、向內(nèi)數(shù)據(jù)反饋與底層AI反向驅(qū)動的圈層式創(chuàng)新聯(lián)盟。

1 醫(yī)療AI創(chuàng)新發(fā)展的現(xiàn)狀特征

醫(yī)療AI通過深度學(xué)習(xí)、智能機(jī)器人、醫(yī)療大數(shù)據(jù)等應(yīng)用，打通了“院前預(yù)防”“院內(nèi)臨床”與“康復(fù)路徑”，打造了全新的智慧診療模式。以日本最新的JOIN模式為例，該架構(gòu)能夠提前獲得患者信息，通過AI分析結(jié)果就能夠預(yù)先制定急救計劃，并同時告知手術(shù)室、急救室等數(shù)個醫(yī)療關(guān)系者，縮短抵達(dá)后傷檢判斷時間，以達(dá)到提升急救成功機(jī)率與減輕后遺癥的目標(biāo)，推動實(shí)現(xiàn)急救醫(yī)療模式的架構(gòu)創(chuàng)新。

1.1 深度學(xué)習(xí)是醫(yī)療AI技術(shù)創(chuàng)新的基礎(chǔ)領(lǐng)域

機(jī)器學(xué)習(xí)是指在數(shù)據(jù)模型與參數(shù)調(diào)校的協(xié)助下，通過分析數(shù)據(jù)從而達(dá)到預(yù)測目的。深度學(xué)習(xí)則是在機(jī)器學(xué)習(xí)的基礎(chǔ)上，通過解釋數(shù)據(jù)以獲得內(nèi)在的規(guī)律和理論。在深度學(xué)習(xí)中，“如果是A，就會演化為B”的單純對應(yīng)關(guān)系，逐漸發(fā)展到“A為前提，如果是B，可能會演化為C”的多層判斷。此時便不再需要依賴人工來完成初步對比和信息輸入，而是通過其不斷的自我運(yùn)算完成對醫(yī)療數(shù)據(jù)的自動識別。在醫(yī)療實(shí)踐中，深度學(xué)習(xí)常見的兩種模型架構(gòu)主要為卷積類神經(jīng)網(wǎng)絡(luò)和遞回類神經(jīng)網(wǎng)絡(luò)。前者較常用于與圖像分類、語音辨識或特征萃取的相關(guān)研究，而后者屬于一種有記憶性的類神經(jīng)網(wǎng)絡(luò)架構(gòu)，可使用于與時間序列或易受時間影響的相關(guān)研究[1]。例如，從當(dāng)前數(shù)據(jù)庫中搜集青光眼的癥狀圖像，將圖像進(jìn)行RGB通道及灰階的圖像進(jìn)行特征萃取并用于卷積類神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，其結(jié)果能達(dá)到100%的辨識準(zhǔn)確率?；谏疃葘W(xué)習(xí)在圖像辨識的成效顯著，醫(yī)療AI可以大幅降低醫(yī)生負(fù)擔(dān)，并減少醫(yī)療錯誤，這也使得AI在醫(yī)療影像診斷領(lǐng)域被廣泛使用?；谒惴ㄟ壿嫷能浖绦蚝痛髷?shù)據(jù)分析技術(shù)提供創(chuàng)新支持，研究人員還可以系統(tǒng)建立全程全周期的觀察網(wǎng)，從個性化功能需求出發(fā)，突出細(xì)分化領(lǐng)域應(yīng)用，尋找基因、生長環(huán)境、生活形態(tài)等危險因子與疾病間的關(guān)系，并以醫(yī)院為媒介利用基因、影像來定量計算危險因子以實(shí)現(xiàn)綜合防控。另外，具有算法存儲與集成特征的AI為數(shù)據(jù)集成式創(chuàng)新提供了可能性，增強(qiáng)了醫(yī)療AI前沿研究在更多條件集下的方案測試[2]，完成了對疾病的重新分類，實(shí)現(xiàn)了診療模式的創(chuàng)新重構(gòu)。

1.2 智能機(jī)器人是醫(yī)療AI創(chuàng)新應(yīng)用的重要形式

基于AI可能會改變醫(yī)務(wù)人員雇傭方式及配置方式，創(chuàng)新醫(yī)護(hù)服務(wù)模式，加快醫(yī)生的能力分流，并最終落腳在醫(yī)療任務(wù)、醫(yī)療技能和醫(yī)務(wù)人員/AI勞動力成本的創(chuàng)新匹配上。因此，“AI+機(jī)器人”被視為醫(yī)療AI的下一個創(chuàng)新與投資風(fēng)口，日漸成為整個社會關(guān)注的焦點(diǎn)。目前，醫(yī)療機(jī)器人大致可以分為四類：手術(shù)機(jī)器人、檢查機(jī)器人、護(hù)理機(jī)器人以及導(dǎo)診機(jī)器人。手術(shù)機(jī)器人可以監(jiān)測手術(shù)環(huán)境、結(jié)合患者的術(shù)前信息和及時高解析的成像，建構(gòu)更完整的智能微創(chuàng)手術(shù)系統(tǒng)以補(bǔ)足外科醫(yī)生技能，例如，達(dá)芬奇機(jī)器人手術(shù)系統(tǒng)涵蓋擴(kuò)大15倍～30倍的空間三維視覺以及過濾手的微顫等諸多優(yōu)勢，適宜在狹窄的手術(shù)空間里開展精細(xì)的操作[3]。對于檢查機(jī)器人來說，放射科的報告清單將不再只是依照檢查時間先后排序，而是根據(jù)AI懷疑病灶的急性或重要程度來排序。護(hù)理機(jī)器人是將護(hù)理工作與機(jī)器人深度融合，以滿足身體障礙人士的特定需求。導(dǎo)診機(jī)器人主要通過人機(jī)交互以達(dá)到科室導(dǎo)航、就醫(yī)流程引導(dǎo)等功能[4]。由此可見，智能機(jī)器人不僅為醫(yī)院及患者提供了工具支持，更創(chuàng)造了一個有著全新參與方式、全新互動模式及全新相互關(guān)系的嶄新的醫(yī)療生態(tài)[5]。近期，美國首度開發(fā)了全自動手術(shù)機(jī)器人——STAR(smart tissue autonomous robot)， STAR自主手術(shù)機(jī)器人正在逐步向臨床階段邁進(jìn)。由此，強(qiáng)AI狀態(tài)下智能機(jī)器人對醫(yī)療過程和結(jié)果的影響大大加深，“AI”醫(yī)生有望真正在臨床得以實(shí)現(xiàn)。我國近年來也致力于普及AI輔助診療、機(jī)器人智能護(hù)理等新應(yīng)用，全面提升醫(yī)療機(jī)器人的智能化水平。最新的例證是，上海中醫(yī)藥大學(xué)和復(fù)旦大學(xué)聯(lián)合創(chuàng)新研發(fā)了中醫(yī)機(jī)器人，不僅提高了面診、舌診和脈診的精準(zhǔn)度，還通過深度學(xué)習(xí)整合豐富的中醫(yī)經(jīng)驗，被視為“中醫(yī)+AI”領(lǐng)域創(chuàng)新的成功實(shí)踐。

1.3 醫(yī)療大數(shù)據(jù)是醫(yī)療AI創(chuàng)新發(fā)展的關(guān)鍵要素

隨著醫(yī)療數(shù)據(jù)庫的不斷壯大，醫(yī)療AI也逐漸從早期的“數(shù)據(jù)整合”階段過渡到“數(shù)據(jù)共享+感知智能”階段[6]。例如，IBM的Watson系統(tǒng)允許將患者與臨床試驗者的數(shù)據(jù)進(jìn)行匹配，協(xié)助腫瘤科醫(yī)生制定個性化治療方案。醫(yī)療AI可以依據(jù)醫(yī)療數(shù)據(jù)對患者進(jìn)行病況預(yù)測，包括并發(fā)癥的發(fā)生率、致死率、回診率等，以促進(jìn)醫(yī)療資源公平分配。例如，谷歌于2008年便針對棘手的流感展開了建模趨勢研究，基于內(nèi)部搜索引擎中用戶的瀏覽數(shù)據(jù)量化預(yù)測流感的發(fā)展軌跡[7]。目前已經(jīng)進(jìn)入認(rèn)知智能+健康大數(shù)據(jù)階段，極大創(chuàng)新了醫(yī)療服務(wù)提供方式，患者和公眾可以更多參與并突破時空限制，例如，借由穿戴裝置掌握病況和搜集數(shù)據(jù)，以獲得健身建議與疾病警告。AI診療方式的精準(zhǔn)化，促使醫(yī)療AI體系進(jìn)行科學(xué)布局，為醫(yī)療體系協(xié)同創(chuàng)新構(gòu)建奠定信息化基礎(chǔ)。但是，高度不透明的數(shù)字化醫(yī)療設(shè)備卻逐漸使得數(shù)據(jù)安全成為疑慮[8]，長此以往無疑會降低公眾對醫(yī)療AI的信任，對AI的創(chuàng)新研發(fā)極為不利。值得注意的是，就連醫(yī)療影像本身都有機(jī)會對患者進(jìn)行再識別，如使用大腦影像將臉部構(gòu)造進(jìn)行重組后，便可以成功地再識別患者。

2 醫(yī)療AI的發(fā)展方向與風(fēng)險識別

基于醫(yī)療AI創(chuàng)新發(fā)展的現(xiàn)狀特征，對于醫(yī)療AI的趨勢研判應(yīng)當(dāng)在整體觀察的基礎(chǔ)上辯證分析：一方面，醫(yī)療AI的技術(shù)創(chuàng)新正處于強(qiáng)力突破階段并持續(xù)不斷進(jìn)行中，對醫(yī)療生態(tài)圈或者診療模式會產(chǎn)生顛覆性影響，未來會快速成長、變動性高、可能將于幾年內(nèi)到達(dá)極峰等趨勢。另一方面，鑒于醫(yī)療AI的自主性、應(yīng)急性與不確定性，其自身發(fā)展的各類風(fēng)險尤其是倫理問題已經(jīng)日益凸顯，再加上現(xiàn)行的法律法規(guī)以及規(guī)則指南已無法涵蓋涉及醫(yī)學(xué)AI研究所提出的倫理和法律要求。因此，對于醫(yī)療AI的風(fēng)險識別也是趨勢研判的關(guān)鍵環(huán)節(jié)。

2.1 關(guān)于醫(yī)療AI創(chuàng)新的發(fā)展方向

2.1.1 建構(gòu)深度學(xué)習(xí)的全新模式

一方面，深度學(xué)習(xí)架構(gòu)與電腦輔助算法最大的差別在于如何定義“特征”?！安≡睢钡妮喞怯膳R床醫(yī)生手動進(jìn)行圈選標(biāo)注，通過分析“病灶”與“正常組織”之間的差異進(jìn)而制定出最合適的閾值。而深度學(xué)習(xí)在“特征”的決定上都是由深度卷積神經(jīng)網(wǎng)絡(luò)通過多次學(xué)習(xí)后才逐漸定型，有限的數(shù)據(jù)資源是限制深度學(xué)習(xí)發(fā)展上的主要原因。隨著醫(yī)療AI與精準(zhǔn)醫(yī)療的深度融合，精準(zhǔn)醫(yī)療又為AI的發(fā)展提供了大量帶標(biāo)簽的理想數(shù)據(jù)樣本，醫(yī)療AI在診療過程中產(chǎn)生的醫(yī)療數(shù)據(jù)又成為新的大數(shù)據(jù)內(nèi)容，并且持續(xù)不斷地良性循環(huán)。研發(fā)人員據(jù)此可圍繞實(shí)際應(yīng)用場景對圖像識別、傳感器聯(lián)結(jié)、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等領(lǐng)域繼續(xù)深耕，提升診療的規(guī)范度和創(chuàng)新度。另一方面，醫(yī)療AI架構(gòu)的形成，不僅是病灶外圍輪廓的圈選，更重要的是合乎病灶特征的“語意描述”?，F(xiàn)階段的醫(yī)療AI都是仰賴電腦自動產(chǎn)生的“特征集”作為分類依據(jù)，其運(yùn)算速度雖然快速卻明顯缺乏具有臨床意義的描述信息，這在證據(jù)為主的傳統(tǒng)醫(yī)療領(lǐng)域難以被真正接受[9]。對此，可以預(yù)見的是未來應(yīng)當(dāng)以深度學(xué)習(xí)為基礎(chǔ)，以臨床經(jīng)驗為補(bǔ)充，致力于將其轉(zhuǎn)化為國際醫(yī)療影像標(biāo)注標(biāo)準(zhǔn)(annotation and image markup，AIM)數(shù)據(jù)格式，并在訓(xùn)練樣本充足的前提下作為深度學(xué)習(xí)模型的訓(xùn)練依據(jù)[10]。

2.1.2 創(chuàng)新人機(jī)協(xié)同的診療體系

未來，從問診、配藥、消毒、運(yùn)輸乃至手術(shù)等各個環(huán)節(jié)都存在真實(shí)的自動化需求。此次應(yīng)對新冠疫情的成功經(jīng)驗表明，人類面對重大疾病和突發(fā)公共衛(wèi)生事件的防控迫切需要發(fā)揮智能機(jī)器人的替代性作用?？梢灶A(yù)見的是，一旦AI的技術(shù)應(yīng)用獲得突破，便可以依托科學(xué)培訓(xùn)體系迅速“量產(chǎn)”出一定數(shù)量的AI醫(yī)生，以擴(kuò)大醫(yī)療服務(wù)隊伍。隨著強(qiáng)AI的誕生，智能機(jī)器人完全有可能獨(dú)立于醫(yī)生而具有自行運(yùn)作、推理、決策、行動與反思的能力，智能機(jī)器人作為“人造醫(yī)生”是可以預(yù)見的必然趨勢，其診斷結(jié)論基本等同于醫(yī)生的診斷結(jié)論，也同醫(yī)生一樣會出現(xiàn)誤診，甚至賦予其主體資格使其承擔(dān)責(zé)任也是醫(yī)療AI創(chuàng)新到特定階段的現(xiàn)實(shí)需求。如此一來，勢必會加快實(shí)現(xiàn)醫(yī)生的能力分流，以后的情景可能是：醫(yī)術(shù)高超的醫(yī)生讓AI做助理，而水準(zhǔn)不濟(jì)的醫(yī)生則要做AI的助理[11]，并適時調(diào)適醫(yī)生和AI的綜合水準(zhǔn)作為注意義務(wù)的標(biāo)準(zhǔn)，以患者利益為導(dǎo)向，鼓勵公平競爭。當(dāng)醫(yī)療AI的創(chuàng)新度達(dá)到技術(shù)標(biāo)準(zhǔn)、普及度達(dá)到固定指標(biāo)時，還可以對現(xiàn)有的分級診療模式進(jìn)行創(chuàng)新優(yōu)化，形成以患者為中心的智慧醫(yī)療分級診療新模式，實(shí)現(xiàn)機(jī)器人與醫(yī)生的優(yōu)勢互補(bǔ)。此外，由于復(fù)數(shù)決策的創(chuàng)新機(jī)制可以在很大程度上避免錯誤，“AI決策—醫(yī)生復(fù)查”可能成為醫(yī)療創(chuàng)新的常態(tài)[12]。

2.1.3 依托“認(rèn)知智能+健康大數(shù)據(jù)”助力精準(zhǔn)醫(yī)療

目前，醫(yī)學(xué)數(shù)據(jù)的碎片化、數(shù)據(jù)利用的低效性及不連貫性等問題阻礙了醫(yī)療數(shù)據(jù)的開發(fā)與應(yīng)用。未來在醫(yī)療AI的應(yīng)用基礎(chǔ)上，依托認(rèn)知“智能+健康大數(shù)據(jù)”的模式，精準(zhǔn)醫(yī)療和AI真正實(shí)現(xiàn)了交集整合、相生相進(jìn)、系統(tǒng)生發(fā)。具體來說，醫(yī)療AI可以對醫(yī)療數(shù)據(jù)進(jìn)行綜合提取與交叉分析，通過高效計算和精準(zhǔn)匹配使得個性化健康管理成為可能。由于個人肯定會受整個群體及地域的影響，現(xiàn)在更要將精準(zhǔn)醫(yī)療自然延伸到公共衛(wèi)生領(lǐng)域，整合基礎(chǔ)研究與臨床實(shí)踐，打造以數(shù)據(jù)為基礎(chǔ)的醫(yī)療模式，聚焦人體基因、環(huán)境因素與復(fù)雜疾病的相互關(guān)聯(lián)，準(zhǔn)確計算危險因子以及致病概率，對傳統(tǒng)醫(yī)療領(lǐng)域進(jìn)行了顛覆性地創(chuàng)新改造，見圖1[13]。此次新冠病毒傳播路徑復(fù)雜，疫情防控多次出現(xiàn)技術(shù)瓶頸。也正因為如此，新藥研發(fā)面臨研發(fā)周期長、研發(fā)成功率低和研發(fā)費(fèi)用高三大痛點(diǎn)問題。憑借算法和算力優(yōu)勢，醫(yī)療AI不僅可以壓縮新藥測試周期，降低防控成本[14]，還可以通過深度學(xué)習(xí)等方法對疫情發(fā)展進(jìn)行精準(zhǔn)預(yù)測，以實(shí)現(xiàn)加速研究、設(shè)計及制造新藥物、預(yù)測藥物脫靶效應(yīng)及毒性等。

圖1 精準(zhǔn)醫(yī)療與AI模式

2.2 關(guān)于醫(yī)療AI發(fā)展的風(fēng)險識別

2.2.1 醫(yī)療AI的數(shù)據(jù)倫理問題

規(guī)范層面，2018年原國家衛(wèi)生和計劃生育委員會研究制定了《國家健康醫(yī)療大數(shù)據(jù)標(biāo)準(zhǔn)、安全和服務(wù)管理辦法(試行)》，國家立法開始著重優(yōu)化醫(yī)療大數(shù)據(jù)保護(hù)和利用的法治環(huán)境。但是，目前我國對醫(yī)療大數(shù)據(jù)“保護(hù)”與“發(fā)展”兩方面的規(guī)則均缺位，醫(yī)療AI作為關(guān)鍵技術(shù)優(yōu)勢的特定應(yīng)用領(lǐng)域更沒有對應(yīng)的專項制度設(shè)計。實(shí)踐層面，醫(yī)學(xué)AI通過用戶提供、自動采集、間接獲取等方式采集大量訓(xùn)練數(shù)據(jù)和應(yīng)用數(shù)據(jù)，用于訓(xùn)練模型或推斷預(yù)測，一旦存在數(shù)據(jù)造假、偏倚以及不完整等問題，將直接影響醫(yī)療AI的有效性和安全性，甚至可能通過數(shù)據(jù)鴻溝造成算法歧視/偏見，擾亂社會倫理秩序。具體而言，數(shù)據(jù)倫理問題主要表現(xiàn)在以下幾個方面：(1)數(shù)據(jù)源頭管理中的權(quán)屬爭議始終存在。從本質(zhì)上講，個人數(shù)據(jù)主體(如用戶、消費(fèi)者、數(shù)據(jù)生產(chǎn)者)和數(shù)據(jù)處理者(如商業(yè)實(shí)體、數(shù)據(jù)開發(fā)利用者、數(shù)據(jù)創(chuàng)新者)的利益沖突短時間內(nèi)無法得到根本解決，嚴(yán)重阻礙了醫(yī)療大數(shù)據(jù)應(yīng)用效益最大化。(2)由于數(shù)據(jù)控制權(quán)不在受試者或者患者方面，醫(yī)院和研究者可以單方面對醫(yī)療健康數(shù)據(jù)進(jìn)行處理，往往也沒有向受試者履行知情同意。進(jìn)一步說，采集數(shù)據(jù)時是否履行知情同意、如何保障知情同意順利進(jìn)行、在研究過程中誰來監(jiān)督知情同意實(shí)施情況等都是亟待明確的議題。(3)數(shù)據(jù)采集和共享過程中要長期持續(xù)地收集有關(guān)遺傳密碼、性格特征等敏感數(shù)據(jù)。個人數(shù)據(jù)的易獲取性導(dǎo)致隱私數(shù)據(jù)的潛在價值被深度挖掘且更難控制[15]。(4)AI的出現(xiàn)使得學(xué)術(shù)研究與臨床使用的隱私界線產(chǎn)生了模糊地帶，臨床產(chǎn)生的醫(yī)療數(shù)據(jù)被AI統(tǒng)合分析應(yīng)用于研究上，或者研究/臨床的數(shù)據(jù)經(jīng)過由醫(yī)療AI轉(zhuǎn)換為研發(fā)數(shù)據(jù)，此種非商業(yè)與商業(yè)的目的轉(zhuǎn)換值得警惕[16]。其中，人體基因組數(shù)據(jù)的泄露使?jié)撛诘纳镂：蜕虡I(yè)利益沖突更為突出。有數(shù)據(jù)表明，59.72%的公眾顧慮個人隱私泄露問題[17]。

2.2.2 醫(yī)療AI的責(zé)任倫理問題

在不同的技術(shù)發(fā)展階段，AI有著不同的功能定位，其倫理的供給需求也不一樣。而且，人工智能倫理風(fēng)險的產(chǎn)生取決于研發(fā)和應(yīng)用主體的風(fēng)險決策，而風(fēng)險后果則與人工智能全生命周期內(nèi)的多個利益主體相關(guān)，因此人工智能倫理風(fēng)險分析需要著眼于多利益相關(guān)主體[18]。在弱AI階段，AI在醫(yī)療活動中不能脫離人類，也不能做出獨(dú)立診斷行為，醫(yī)療AI中責(zé)任主體仍是研發(fā)者、生產(chǎn)者以及使用者。一方面，AI時代醫(yī)療服務(wù)和產(chǎn)品的地位及醫(yī)療決策過程正發(fā)生微妙變化。雖然各國均強(qiáng)調(diào)在醫(yī)療領(lǐng)域應(yīng)確保醫(yī)生的最終決策權(quán)，但醫(yī)療的實(shí)際決策過程很可能轉(zhuǎn)變?yōu)椤叭斯ぶ悄軟Q策-醫(yī)生驗證復(fù)查”的模式，這種“先入為主”的影響恐怕是巨大而難以阻擋的[19]。另一方面，自助型的看病體驗可能會使醫(yī)生的專業(yè)權(quán)威甚至職業(yè)受到威脅，診療過程中醫(yī)生的主體功能明顯被弱化，醫(yī)患之間的情感交流可能產(chǎn)生根本性斷裂，從而引發(fā)醫(yī)患之間的信任危機(jī)?，F(xiàn)實(shí)層面，醫(yī)生對于醫(yī)療AI的全面接受需要明顯的過渡期。甚至，智能機(jī)器人手術(shù)的自身缺陷與算法的倫理疑慮，傳統(tǒng)的“醫(yī)患問題”有可能發(fā)展出新的“信任危機(jī)”。

2.2.3 醫(yī)療AI的算法倫理問題

(1)算法的黑箱屬性。通過機(jī)器學(xué)習(xí)過程形成的決策越來越難以解釋AI內(nèi)部的代碼、算法存在的“黑箱”，再加上設(shè)計者通常以商業(yè)秘密為理由拒絕公開算法，導(dǎo)致其決策過程是不透明的且難以理解。(2)算法的歧視隱患。算法并非價值中立，也可能帶有人為歧視。盡管這種歧視可能并非有意為之，不同人群的倫理判斷標(biāo)準(zhǔn)可能不盡相同，可能出現(xiàn)超預(yù)期的道德成本。(3)算法的安全問題。誠前所述，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)算法多為動態(tài)學(xué)習(xí)算法。如果數(shù)據(jù)不全或本身偏見都將會導(dǎo)致綜合分析的結(jié)果偏離預(yù)期，部分干擾數(shù)據(jù)可能會被無限放大，一旦相關(guān)干擾數(shù)據(jù)流入預(yù)測模型，將會使系統(tǒng)產(chǎn)生偏差。

2.2.4 醫(yī)療AI的法律監(jiān)管問題

目前，醫(yī)療AI應(yīng)屬最高等級的“物”，屬于醫(yī)療器械。但是，傳統(tǒng)監(jiān)管方式已經(jīng)明顯滯后，顯然不能因應(yīng)醫(yī)療AI的創(chuàng)新發(fā)展，其主要表現(xiàn)在以下幾個方面：(1)傳統(tǒng)的監(jiān)管方式要求大多數(shù)醫(yī)療AI執(zhí)行嚴(yán)格的、耗時的資料審查、臨床試驗等過程。但是，醫(yī)療大數(shù)據(jù)可能會隨時更新，再加上審查時長過長，這些都將會在一定程度上扼殺醫(yī)療創(chuàng)新。(2)傳統(tǒng)的監(jiān)管方式還容易導(dǎo)致過度監(jiān)管或監(jiān)管不足雙重疑慮。過度監(jiān)管包含將所有黑箱屬性的醫(yī)療AI全部歸類為風(fēng)險最高的第三級醫(yī)療器械，這無疑在一定程度上扼殺醫(yī)療創(chuàng)新。監(jiān)管不足的問題則是當(dāng)監(jiān)管單位未經(jīng)嚴(yán)格監(jiān)督時，制造商有更多的空間來生產(chǎn)低質(zhì)量的AI產(chǎn)品，這些AI產(chǎn)品供應(yīng)可能導(dǎo)致消費(fèi)者受損并降低消費(fèi)者對AI的信任度。(3)2018年新修訂的《創(chuàng)新醫(yī)療器械特別審批程序》明確規(guī)定了對創(chuàng)新醫(yī)療器械實(shí)行優(yōu)先審評程序。由于我國之前便存在審批隊伍能力差異較大且基層審批人員專業(yè)性缺乏的困境，該條文的出臺必然會導(dǎo)致醫(yī)療AI申報增多，加重了審批隊伍人員的工作負(fù)擔(dān)[20]。

3 醫(yī)療AI創(chuàng)新發(fā)展的優(yōu)化路徑

3.1 構(gòu)建開放安全的健康醫(yī)療信息環(huán)境

3.1.1 建構(gòu)數(shù)據(jù)開放的誘因機(jī)制

我國應(yīng)當(dāng)建立數(shù)據(jù)流通的激勵機(jī)制，其運(yùn)行邏輯大致可借鑒日本的醫(yī)療AI數(shù)據(jù)管理系統(tǒng)[21]，見圖2。在實(shí)施方面，第一，建立國家級的健康醫(yī)療大數(shù)據(jù)云平臺。建立面向醫(yī)療AI的公共資源數(shù)據(jù)庫、標(biāo)準(zhǔn)測試數(shù)據(jù)集和對抗數(shù)據(jù)集，健全共享共通的數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范，促進(jìn)信息化平臺協(xié)同運(yùn)作。第二，加強(qiáng)匿名化數(shù)據(jù)供給以加快科研機(jī)構(gòu)醫(yī)療研究，建構(gòu)廠商配合且授權(quán)第三方的價值再利用機(jī)制，將開放數(shù)據(jù)提供給潛力廠商進(jìn)行強(qiáng)化信息的創(chuàng)新應(yīng)用加值，并確立數(shù)據(jù)庫的鎖定、備份與恢復(fù)等應(yīng)急預(yù)案機(jī)制。第三，鼓勵公眾提供去識別化數(shù)據(jù)，通過一定程序的加工處理使個人數(shù)據(jù)不再具有私人屬性。其中，去識別化的方式包含以編碼、加密、去連結(jié)或其他無法辨識當(dāng)事人等方式，不以去連結(jié)作為去識別化的唯一方法。此外，特定機(jī)構(gòu)管控去識別化程度時不宜單一因素檢驗，全面衡量數(shù)據(jù)類型、敏感程度、數(shù)據(jù)提供方式等指標(biāo)進(jìn)行綜合判斷。在符合數(shù)據(jù)標(biāo)準(zhǔn)化與安全規(guī)范的基礎(chǔ)下，建構(gòu)數(shù)據(jù)開放授權(quán)的誘因機(jī)制，提高健康醫(yī)療數(shù)據(jù)的市場化程度。

圖2 醫(yī)療AI數(shù)據(jù)管理系統(tǒng)

3.1.2 多維協(xié)同保護(hù)醫(yī)療大數(shù)據(jù)

(1)加強(qiáng)醫(yī)療大數(shù)據(jù)保護(hù)的頂層設(shè)計：其一，堅持“最少必要”原則與“必須知道”原則，前者為達(dá)到目的而使用最少且必要的數(shù)據(jù)，后者為獲取醫(yī)療數(shù)據(jù)的范圍僅以業(yè)務(wù)相關(guān)為限。必要時可借鑒英國設(shè)立專門的醫(yī)療AI控管中心以維護(hù)患者利益。開創(chuàng)以患者為中心的信息系統(tǒng)以促進(jìn)患者的信息賦權(quán)。其二，完善知情同意的制度設(shè)計，尤其是對于弱勢群體商業(yè)使用的立法選擇或者臨床試驗階段受試者的知情同意權(quán)都必須更為謹(jǐn)慎。需要注意的是，醫(yī)療大數(shù)據(jù)的倫理審查在借鑒發(fā)達(dá)國家成功經(jīng)驗的同時，還應(yīng)當(dāng)根植于我國的現(xiàn)實(shí)國情，注重中西方數(shù)據(jù)保護(hù)觀的層級差異性。而且，醫(yī)療大數(shù)據(jù)背景下的知情同意原則與實(shí)現(xiàn)方式發(fā)生著重大改變，往往無法像傳統(tǒng)方式一樣在完成必要告知后才簽署知情同意書。假設(shè)健康醫(yī)療大數(shù)據(jù)信息采集前過度尋求患者的知情同意，不僅成本過大反而會增加患者額外的心理壓力，損害了患者的最佳利益甚至是公眾利益。因此，醫(yī)療大數(shù)據(jù)知情同意授權(quán)應(yīng)從公民的基本權(quán)利與義務(wù)切入，始終秉承“鼓勵創(chuàng)新，包容審慎”的原則，規(guī)范醫(yī)療數(shù)據(jù)公益與私益的重疊使用。相關(guān)的例證是，傳染病防控視域下個人權(quán)利應(yīng)當(dāng)讓渡給公眾健康等公共利益，具體可考慮在事先進(jìn)行授權(quán)，通過倫理審查后向社會公眾公開[22]。(2)企業(yè)、高校以及科研機(jī)構(gòu)應(yīng)當(dāng)加大隱私保護(hù)的技術(shù)開發(fā)，保證數(shù)據(jù)使用“適度”。一方面，平衡好精準(zhǔn)醫(yī)療訓(xùn)練樣本的擬合度，有效遏制過擬合現(xiàn)象對預(yù)測結(jié)果的負(fù)面干擾；另一方面，把控訓(xùn)練樣本的擬合精度，只提取與預(yù)報量相關(guān)度高且它們之間相關(guān)為零、沒有復(fù)共線性關(guān)系的主分量[23]。最終，通過數(shù)據(jù)收集、數(shù)據(jù)清洗、倫理批件確認(rèn)、脫敏確認(rèn)等操作形成標(biāo)準(zhǔn)作業(yè)程序有效緩解抽樣偏倚問題[24]。

3.2 調(diào)適智能機(jī)器人的責(zé)任倫理

3.2.1 盡快構(gòu)建明確的倫理規(guī)范和歸責(zé)制度

基于智能機(jī)器人的自身特點(diǎn)，一方面，智能機(jī)器人的擬人性。尤其是在強(qiáng)AI狀態(tài)下，智能機(jī)器人已經(jīng)完全具備了因應(yīng)不同醫(yī)療情景的“思考力”和“決策力”；另一方面，所有智能機(jī)器人演算的基礎(chǔ)資料、演算方法、價值判斷都是由人類預(yù)設(shè)立場提供的[25]。事實(shí)上，醫(yī)療AI在本質(zhì)上并沒有擺脫其作為一種技術(shù)的本質(zhì)屬性，它的自主性實(shí)質(zhì)上最終轉(zhuǎn)換為技術(shù)自主性問題。對技術(shù)倫理問題的討論歸根到底是對人的問題的探討，機(jī)器只能被設(shè)計成遵守規(guī)則，卻不能理解規(guī)則，應(yīng)站在“人”的立場上對現(xiàn)實(shí)存在的責(zé)任倫理進(jìn)行理性審度[26]。在規(guī)制智能機(jī)器人所衍生的風(fēng)險責(zé)任時，既要塑造優(yōu)質(zhì)的創(chuàng)新環(huán)境，又要防止嚴(yán)苛標(biāo)準(zhǔn)對積極性的負(fù)面打擊?？紤]到醫(yī)療AI在不斷地學(xué)習(xí)和進(jìn)化，嚴(yán)格的產(chǎn)品責(zé)任顯然不利于技術(shù)的創(chuàng)新和發(fā)展。因此，應(yīng)遵循最小化原則和程序化原則，制造缺陷與設(shè)計缺陷應(yīng)統(tǒng)一適用無過錯責(zé)任原則。同時，現(xiàn)階段的醫(yī)療AI產(chǎn)品責(zé)任應(yīng)當(dāng)適當(dāng)軟化，以合理替代設(shè)計原則代替消費(fèi)者合理期待原則。此外，為覆蓋強(qiáng)制責(zé)任保險無法控制的侵權(quán)風(fēng)險，還應(yīng)當(dāng)組建補(bǔ)償醫(yī)療基金進(jìn)行管理與執(zhí)行賠償，并以此作為強(qiáng)制責(zé)任險的補(bǔ)充。

3.2.2 全面提高醫(yī)生的醫(yī)療水準(zhǔn)和道德標(biāo)準(zhǔn)

(1)醫(yī)療AI的選擇是首要前提?；卺t(yī)療實(shí)踐進(jìn)行反向思考，對于醫(yī)療AI的不當(dāng)選擇主要包括作為和不作為兩種情形。作為情形主要是指使用前醫(yī)生需要充分了解醫(yī)療風(fēng)險或者按照安全說明運(yùn)作設(shè)備，否則推定為過失。不作為情形主要是指醫(yī)療AI的使用符合“醫(yī)療常規(guī)”的標(biāo)準(zhǔn)，并達(dá)到診療規(guī)范的要求卻未使用。例如，使用醫(yī)療AI的手術(shù)并發(fā)癥發(fā)生率為0.5%，但醫(yī)療文獻(xiàn)上記載某傳統(tǒng)醫(yī)生的手術(shù)并發(fā)率為5%，在術(shù)后并發(fā)癥患者中有90%系因沒有使用醫(yī)療AI所致，患者能以高達(dá)90%的蓋然性證明對方存在過失[26]。需要注意的是，醫(yī)療AI的選擇需要結(jié)合患者病情、治療風(fēng)險、應(yīng)使用而未使用醫(yī)療AI所生損害的大小、損害發(fā)生的機(jī)率、可能的治療成本以及患者的經(jīng)濟(jì)負(fù)擔(dān)等予以綜合判斷。(2)醫(yī)療水準(zhǔn)的提升是關(guān)鍵要素。醫(yī)生熟練掌握機(jī)器人的執(zhí)行技術(shù)并且能夠及時對手術(shù)導(dǎo)致的并發(fā)癥進(jìn)行妥善處理。以手術(shù)階段為例，醫(yī)生的注意義務(wù)主要包括：嚴(yán)格遵循操作規(guī)范的義務(wù)、按照事前預(yù)案合理應(yīng)對突發(fā)情況的義務(wù)、需改變手術(shù)方案時告知患者及其家屬的義務(wù)等。(3)道德倫理的培育是重要條件。在人機(jī)協(xié)同的新型診療體系中，醫(yī)生是唯一的道德主體。必須堅定以醫(yī)生為主導(dǎo)，AI為輔助，從而更好地服務(wù)患者。醫(yī)學(xué)側(cè)重于對以人為主體的情感關(guān)懷，患者需要的也是有真實(shí)情感和知覺的“人”[27]。醫(yī)生應(yīng)當(dāng)秉持保密性、中立性、不偏性等價值追求，促進(jìn)“情感培育”式創(chuàng)新，由單向診療思維向關(guān)懷互動模式轉(zhuǎn)變，注重溝通方法的多樣性，把握溝通技巧的有效性，疏導(dǎo)不良情緒，規(guī)避不利因素[28]，以有效預(yù)防和修補(bǔ)醫(yī)患雙方的內(nèi)在情緒與外在關(guān)系。

3.3 構(gòu)建協(xié)同管控的算法倫理風(fēng)險防范路徑

3.3.1 建立健全倫理審查委員會以嵌入價值導(dǎo)向

倫理審查委員會的職能在于制定醫(yī)療AI的倫理標(biāo)準(zhǔn)并對倫理問題進(jìn)行專門審查，將醫(yī)學(xué)倫理學(xué)原則和法律準(zhǔn)則嵌入到算法中，發(fā)揮AI專家、醫(yī)學(xué)專家、倫理專家、法律專家的協(xié)同作用，并在尊重民族文化差異、宗教信仰不同的基礎(chǔ)上探討和建構(gòu)一個多層次多角度的倫理風(fēng)險應(yīng)對系統(tǒng)。具體而言，倫理審查內(nèi)容主要包括兩個方面：一方面，對研發(fā)人員進(jìn)行倫理審察。審查研發(fā)人員的道德倫理也成為防范AI道德倫理風(fēng)險中至關(guān)重要的前置環(huán)節(jié)。算法決策程序滲透著研發(fā)者的道德素養(yǎng)，因此，規(guī)范倫理教育、增進(jìn)算法設(shè)計者和開發(fā)者的倫理自覺，并在自主和智能系統(tǒng)的設(shè)計和開發(fā)中優(yōu)先考慮倫理問題[29]。另一方面，對醫(yī)療AI本身進(jìn)行倫理審查。尤其是在強(qiáng)AI時代，AI的自主選擇甚或超出研發(fā)人員的預(yù)制，對醫(yī)療AI本身的道德倫理約束就顯得尤為必要。在審查過程中以患者的需求為出發(fā)點(diǎn)，運(yùn)用倫理規(guī)范捍衛(wèi)個體尊嚴(yán)，充分尊重患者的各項權(quán)利和意愿。尤其是，缺乏倫理上可接受的代價產(chǎn)生時必須堅守某些特定、絕對的基本權(quán)利，如尊重患者、服務(wù)社會的倫理意識應(yīng)貫徹始終，患者利益至上的安全原則不容撼動。

3.3.2 創(chuàng)新監(jiān)管模式以保證算法決策科學(xué)可信

(1)規(guī)范道德倫理技術(shù)預(yù)制。所謂技術(shù)預(yù)制，主要是對醫(yī)療AI預(yù)先設(shè)置具有道德和倫理傾向性的處置機(jī)制，使醫(yī)療AI具備危險鑒別能力和道德傾向性，力求通過對醫(yī)療AI所包含的程序進(jìn)行事先審查與前置管理，以最大程度地避免算法歧視。(2)完善多方共治的良性機(jī)制，企業(yè)、研發(fā)機(jī)構(gòu)、政府和社會公眾等主體應(yīng)當(dāng)相互配合、聯(lián)防聯(lián)控，確保利益與成本之間的平等分配、個體和群體不被歧視或受偏見。為保證信息公開透明，研發(fā)機(jī)構(gòu)要定期向公眾和監(jiān)管機(jī)構(gòu)報告其研發(fā)的進(jìn)程。針對算法本身過多強(qiáng)調(diào)數(shù)據(jù)相關(guān)性而暴露出的分析偏差缺陷，引入因果推理概念補(bǔ)償這些偏差[30]，避免出現(xiàn)因算法缺陷而產(chǎn)生產(chǎn)品缺陷。(3)建構(gòu)事前與事后雙重監(jiān)管機(jī)制，上市前要求持有人負(fù)起舉證責(zé)任以確保醫(yī)療AI的有效性及安全性，尤其是算法設(shè)計者首先應(yīng)該對訓(xùn)練數(shù)據(jù)的來源及可靠性加以說明；上市后則持續(xù)追蹤關(guān)于醫(yī)療AI的市面使用，監(jiān)控算法的運(yùn)行狀態(tài)和運(yùn)行結(jié)果，防止數(shù)據(jù)庫或算法模型被篡改以保障算法安全。此外，可考慮建立專門的算法監(jiān)管機(jī)構(gòu)，對算法進(jìn)行風(fēng)險評估、調(diào)查算法系統(tǒng)涉嫌侵權(quán)等情況、為其他監(jiān)管機(jī)構(gòu)提供關(guān)于算法系統(tǒng)的建議[29]。

3.4 完善AI在醫(yī)療領(lǐng)域的準(zhǔn)入管理

3.4.1 制定注冊技術(shù)指導(dǎo)原則并科學(xué)調(diào)整監(jiān)管范圍

我國應(yīng)當(dāng)加快制定醫(yī)療AI注冊技術(shù)指導(dǎo)原則的步伐，細(xì)化相關(guān)產(chǎn)品申報審批的具體程序與實(shí)體要求。美國食品藥品監(jiān)督管理局(Food and Drug Administration,FDA)對于醫(yī)療AI的監(jiān)管抱持開放且積極的態(tài)度，尤其對于低中度風(fēng)險的AI器械逐漸采取放寬審查，促進(jìn)技術(shù)創(chuàng)新與醫(yī)療進(jìn)行更密切的互動。具體來講，第一，只有涉及核心醫(yī)療領(lǐng)域的醫(yī)療AI才有必要納入監(jiān)管框架。第二，醫(yī)療AI生命周期短暫，不像生命周期長的藥品可以歷經(jīng)漫長的臨床試驗。因此，即使屬于核心醫(yī)療領(lǐng)域的醫(yī)療AI，在確保安全性和有效性的同時也應(yīng)當(dāng)強(qiáng)化審批流程彈性以提升審查能力，簡化醫(yī)療AI的應(yīng)用認(rèn)證機(jī)制。第三，借鑒美國的“突破性醫(yī)療器械計劃”，對于可以有效診斷或治療危及生命或不可逆轉(zhuǎn)的使人衰弱的疾病，F(xiàn)DA可以在AI器械開發(fā)期間以及上市審核過程中與企業(yè)進(jìn)行密集互動與實(shí)時溝通指導(dǎo)，加快醫(yī)療AI的實(shí)質(zhì)創(chuàng)新速度。

3.4.2 創(chuàng)新注冊審批隊伍建設(shè)的支持機(jī)制和培訓(xùn)體系

我國應(yīng)當(dāng)盡快完善注冊審批隊伍建設(shè)機(jī)制，增加監(jiān)管機(jī)構(gòu)的資金投入。在物理設(shè)施上，加大對醫(yī)療AI有關(guān)的大型科研設(shè)施和圖書館的建設(shè)，為科學(xué)研究提供基礎(chǔ)研發(fā)設(shè)施。在信息化設(shè)施上，拓展更新醫(yī)療AI信息數(shù)據(jù)庫，開放共享的醫(yī)療技術(shù)創(chuàng)新平臺。具體而言，第一，完善AI領(lǐng)域醫(yī)療平臺模式。推動創(chuàng)新系統(tǒng)、專家體系、用戶群體在AI平臺中實(shí)現(xiàn)多元互動，以開放式協(xié)作模式建立“每個人都使用的AI判讀系統(tǒng)”，鼓勵公眾理解和參與醫(yī)療AI研究。第二，加大人才引進(jìn)力度。建立醫(yī)療AI審批人才精準(zhǔn)引進(jìn)機(jī)制，通過產(chǎn)學(xué)研醫(yī)生態(tài)環(huán)境整合的誘因機(jī)制，加快科研成果轉(zhuǎn)化行業(yè)應(yīng)用，建構(gòu)完善的跨域應(yīng)用人才培育環(huán)境，保障審批隊伍的專業(yè)化程度。第三，建立醫(yī)療AI審批培訓(xùn)體系。明確醫(yī)療AI審批的業(yè)務(wù)流程、管理標(biāo)準(zhǔn)與產(chǎn)品規(guī)范，逐漸完善技術(shù)審評制度，統(tǒng)一審批標(biāo)準(zhǔn)尺度，以提高審批人員積極性和執(zhí)行力。