陳頌忻

（強(qiáng)生（上海）醫(yī)療器材有限公司，上海 200030）

人工智能醫(yī)療器械，是指融入應(yīng)用了各種人工智能技術(shù)的醫(yī)療器械。相較于普通的醫(yī)療器械，人工智能醫(yī)療器械有著諸多優(yōu)勢，比如可以實現(xiàn)精準(zhǔn)化醫(yī)療、個性化醫(yī)療、遠(yuǎn)程診斷，還能有效緩解因為醫(yī)療資源缺乏，導(dǎo)致看病難、醫(yī)患關(guān)系緊張、醫(yī)療事故頻發(fā)等問題。為更好地推動人工智能醫(yī)療器械產(chǎn)品研發(fā)生產(chǎn)，應(yīng)加強(qiáng)對其標(biāo)準(zhǔn)體系設(shè)計探索分析，使其更好地服務(wù)于醫(yī)療領(lǐng)域，提高我國整體醫(yī)療質(zhì)量水平。

1 人工智能醫(yī)療器械研究現(xiàn)狀

1.1 國外研究現(xiàn)狀

關(guān)于人工智能醫(yī)療器械，從國外研究現(xiàn)狀來看，人工智能醫(yī)療器械在種類方面日益豐富，相應(yīng)的功能作用也日益多樣化，比如在臨床診療路徑、健康干預(yù)以及智能醫(yī)療服務(wù)等方面，人工智能醫(yī)療器械均發(fā)揮著重要作用。以美國為例，當(dāng)前該國家食品藥品監(jiān)督管理總局（簡稱FDA）已正式批準(zhǔn)了幾十款人工智能醫(yī)療器械產(chǎn)品上市，很多產(chǎn)品均搭載有獨立軟件，比如計算機(jī)輔助診斷軟件、輔助探測軟件等。與此同時，當(dāng)下在國外還出現(xiàn)很多新型人工智能醫(yī)療器械產(chǎn)品，這些產(chǎn)品的主要特色是搭載了智能硬件、智能快速重建等功能，部分產(chǎn)品也已經(jīng)正式上市。在臨床應(yīng)用方面，人工智能醫(yī)療器械的存在，有效提升了臨床工作效率和服務(wù)質(zhì)量，例如借助CT劑量優(yōu)化、X光智能擺位、圖像質(zhì)控等優(yōu)秀的人工智能醫(yī)療產(chǎn)品，有效推動了臨床醫(yī)療效率與品質(zhì)提升。不僅如此，人工智能作為一種先進(jìn)的信息技術(shù)，不僅作用于醫(yī)療器械本身，而且正逐步融入整個醫(yī)療器械研發(fā)、生產(chǎn)、質(zhì)量管理等全過程，推動著傳統(tǒng)醫(yī)療器械“人工智能+”升級，帶動了整體醫(yī)療行業(yè)的進(jìn)步發(fā)展。

1.2 國內(nèi)研究現(xiàn)狀

相較于發(fā)達(dá)國家，我國人工智能技術(shù)發(fā)展起步較晚，因此在人工智能醫(yī)療器械行業(yè)發(fā)展方面，與發(fā)達(dá)國家也有著一定的差距。但近年來，隨著我國信息技術(shù)尤其是人工智能技術(shù)的迅猛發(fā)展，在人工智能醫(yī)療器械方面取得了顯著的進(jìn)步。與此同時，在推動人工智能技術(shù)在醫(yī)療領(lǐng)域中的應(yīng)用方面，我國也發(fā)布了很多利好政策，因此有效推動了人工智能醫(yī)療器械產(chǎn)學(xué)研用發(fā)展。在國內(nèi)，關(guān)于人工智能算法研究與臨床應(yīng)用成果在Nature Medicine、Cell等頂級期刊上發(fā)布。與此同時，國內(nèi)關(guān)于人工智能醫(yī)療器械產(chǎn)品的研發(fā)，也從早期的糖尿病視網(wǎng)膜病變（以下簡稱糖網(wǎng)）眼底照片、肺結(jié)節(jié)CT影像等，進(jìn)一步發(fā)展升級到醫(yī)學(xué)影像和醫(yī)學(xué)信號的方方面面；在人工智能醫(yī)療器械產(chǎn)品形態(tài)方面，也從單一軟件形式，發(fā)展為各種通用、專用智能平臺。國內(nèi)一些醫(yī)療企業(yè)也在積極準(zhǔn)備人工智能醫(yī)療產(chǎn)品注冊上市，并逐步向海外市場擴(kuò)展，未來發(fā)展前景可期。

1.3 人工智能醫(yī)療器械產(chǎn)品檢驗與質(zhì)量研究現(xiàn)狀

從人工智能醫(yī)療器械產(chǎn)品檢驗與質(zhì)量研究發(fā)展情況來看，我國在人工智能醫(yī)療器械檢驗方面取得了良好成績，同時也面臨著一些挑戰(zhàn)。2018年，國內(nèi)第一批糖網(wǎng)產(chǎn)品性能檢驗報告問世；2019年，國內(nèi)第一批肺結(jié)節(jié)產(chǎn)品的性能檢驗報告也正式誕生，這標(biāo)志著我國在病灶檢出、分類、區(qū)域分割等智能算法功能和相關(guān)指標(biāo)方面能夠真正實現(xiàn)量化評價，宣告以CT為代表的三維醫(yī)學(xué)影像人工智能醫(yī)療產(chǎn)品質(zhì)量評價已經(jīng)取得了階段性成果。這為其他放射影像類人工智能醫(yī)療產(chǎn)品的質(zhì)量評價和相關(guān)標(biāo)準(zhǔn)的制訂開了一個好頭。在當(dāng)下，已經(jīng)有數(shù)十家企業(yè)通過在中檢院糖網(wǎng)以及肺結(jié)節(jié)標(biāo)準(zhǔn)數(shù)據(jù)集的幫助下，正式實施算法性能驗證，部分人工智能醫(yī)療產(chǎn)品也已經(jīng)進(jìn)入了臨床試驗階段，這為相應(yīng)的產(chǎn)品正式上市創(chuàng)造了有利條件。2018年，我國的人工智能醫(yī)療產(chǎn)品多是以糖網(wǎng)、肺結(jié)節(jié)等相對單一的產(chǎn)品類型為主，目前，人工智能醫(yī)療新產(chǎn)品呈現(xiàn)多元化、差異化趨勢，在預(yù)期用途、功能、病種等方面也凸顯了各自的特色。

但當(dāng)前人工智能醫(yī)療器械產(chǎn)品檢驗與質(zhì)量發(fā)展也面臨著一定的挑戰(zhàn)，比如相應(yīng)的檢驗用標(biāo)準(zhǔn)數(shù)據(jù)集沒有成功建立，從而對算法性能評價造成了制約影響。為突破這一困境，當(dāng)前我國中檢院與國內(nèi)知名醫(yī)院以及科研機(jī)構(gòu)合作，在數(shù)據(jù)集建設(shè)的過程中，融入了把質(zhì)量控制的理念，推動了人工智能醫(yī)療器械產(chǎn)品檢驗與質(zhì)量發(fā)展。具體而言，中檢院團(tuán)隊結(jié)合以往累積的醫(yī)療器械檢測經(jīng)驗，從以下幾點入手開展相應(yīng)的工作：

首先，從檢驗方法研究入手，通過加強(qiáng)各種技術(shù)手段的應(yīng)用，利用現(xiàn)有的臨床數(shù)據(jù)，圍繞眼底相機(jī)、CT和心電等模態(tài)，實施了對抗測試。與此同時，還從長遠(yuǎn)角度出發(fā)，模擬人工智能醫(yī)療產(chǎn)品在現(xiàn)實中應(yīng)用可能面臨的種種問題，并對相應(yīng)產(chǎn)品魯棒性與泛化能力進(jìn)行了評價，有效擴(kuò)展了人工智能醫(yī)療器械產(chǎn)品質(zhì)量評價的維度。當(dāng)前，關(guān)于人工智能醫(yī)療器械產(chǎn)品對抗測試研究部分成果已經(jīng)在國內(nèi)學(xué)術(shù)期刊公開發(fā)表。與此同時，一些方法在日常檢驗中也得到了落實應(yīng)用，從而有效彌補(bǔ)了現(xiàn)有檢驗方法的不足，顯著增強(qiáng)了企業(yè)對人工質(zhì)量醫(yī)療器械產(chǎn)品質(zhì)量認(rèn)識。

其次，在人工智能醫(yī)療產(chǎn)品質(zhì)量評價策略方面，中檢院團(tuán)隊通過與相關(guān)的臨床專家合作，在引入了全生命周期質(zhì)量控制理念基礎(chǔ)上，結(jié)合產(chǎn)品技術(shù)，提出了醫(yī)學(xué)影像人工智能產(chǎn)品的臨床在用質(zhì)控框架，從多個角度入手，討論了人工智能產(chǎn)品在臨床部署后，該采取何種方法，才能提高質(zhì)量管理與日常質(zhì)控質(zhì)量，同時也探討分析了人機(jī)比對、超預(yù)期使用等熱點問題，從臨床視角出發(fā)，進(jìn)一步豐富了人工智能醫(yī)療器械產(chǎn)品質(zhì)量評價的內(nèi)涵。

最后，在新的人工智能醫(yī)療器械產(chǎn)品評價方面，中檢院團(tuán)隊從人工智能+可穿戴設(shè)備、臨床輔助決策系統(tǒng)（CDSS）等研究熱點出發(fā)，深度實施了標(biāo)準(zhǔn)評估工作，并系統(tǒng)整理了人工智能醫(yī)療器械產(chǎn)品特殊風(fēng)險，總結(jié)了一些評價策略，從而促使新產(chǎn)品檢測任務(wù)實施有了新的進(jìn)展，同時也向業(yè)內(nèi)貢獻(xiàn)了更多研究成果，加深了業(yè)內(nèi)對人工智能醫(yī)療器械產(chǎn)品質(zhì)量的認(rèn)識。在當(dāng)下，中檢院團(tuán)隊在人工智能醫(yī)療器械產(chǎn)品檢驗與質(zhì)量評價方面形成了一個完整的體系，相關(guān)體系內(nèi)容包括了人工智能軟硬件測試、人工智能算法性能驗證、人工智能醫(yī)療器械產(chǎn)品數(shù)據(jù)集質(zhì)量控制與評價等。僅僅在2019年，該團(tuán)隊便成功申報了多個科技部重點研發(fā)計劃課題和省部級課題，同時也推動了國家級醫(yī)學(xué)人工智能產(chǎn)品全生命周期檢測平臺的建設(shè)，使得人工智能醫(yī)療器械產(chǎn)品在監(jiān)管、產(chǎn)業(yè)、使用等環(huán)節(jié)方面技術(shù)與服務(wù)能力得到了顯著增強(qiáng)。

2 人工智能醫(yī)療器械質(zhì)量評價演變過程

在人工智能醫(yī)療器械產(chǎn)品質(zhì)量評價中，人工智能算法性能評價是其中核心組成部分，這對產(chǎn)品標(biāo)準(zhǔn)體系的建設(shè)有著非常重要的指導(dǎo)價值?；诖耍恼乱蕴悄虿∫暰W(wǎng)膜病變輔助診斷軟件為例，分析該人工智能醫(yī)療器械產(chǎn)品質(zhì)量評價思路演變過程。

首先，在初步階段，針對該產(chǎn)品質(zhì)量評價工作的開展，主要依賴于測試集整體結(jié)果，利用統(tǒng)計學(xué)意義，反映其整體的表現(xiàn)。通常而言，測試人員需要先進(jìn)行數(shù)據(jù)收集，數(shù)據(jù)來源一般為不同組織機(jī)構(gòu)以及臨床分期的患者眼底圖像，然后以這些數(shù)據(jù)為基礎(chǔ)，完成測試集的構(gòu)建。并對人工智能提供的分期與參考標(biāo)準(zhǔn)分期進(jìn)行比較，隨后計算準(zhǔn)確率等相關(guān)指標(biāo)，以此來增強(qiáng)對該人工智能醫(yī)療器械產(chǎn)品魯棒性認(rèn)知。

在這一過程中，測試人員還可以通過采取多種方法手段處理眼底圖像，比如通過利用裁剪、插值等處理手段方法，模擬臨床環(huán)境下的數(shù)據(jù)變化。隨后將處理后圖像數(shù)據(jù)輸入人工智能產(chǎn)品中，查看具體的輸出變化情況。上述這種測試方法也被稱之為對抗測試方法，該方法通常更加關(guān)注產(chǎn)品性能變化的趨勢，有助于制造商進(jìn)一步明確產(chǎn)品部署使用環(huán)境，并提高相應(yīng)的數(shù)據(jù)質(zhì)量。人工智能倫理思想的發(fā)展，正對人工智能醫(yī)療器械產(chǎn)品質(zhì)量評價思路帶來影響。以糖尿病視網(wǎng)膜病變輔助診斷算法為例，在眼底圖像上，通常會存在出血斑，這是臨床醫(yī)生以及人工智能產(chǎn)品開展圖像分期重要依據(jù)。而患者個體的不同，實際出血斑大小也有所差異。因此為了更好地了解出血斑尺寸對人工智能算法帶來的影響，可以從增殖性糖網(wǎng)病變的眼底圖像入手，通過提取出血斑圖像，再采用不同的比例，改變相應(yīng)圖像的尺寸。

在上述基礎(chǔ)上，還需要應(yīng)用泊松融合算法，完成植健康眼底圖像的植入，如此可以順利合成一個完整的試驗樣本。該樣本圖像在醫(yī)學(xué)上屬于糖網(wǎng)二期，然后將其輸入糖網(wǎng)人工智能算法模型，即可獲得人工智能分期結(jié)果隨出血斑尺寸變化的曲線和“拐點”。此時，伴隨著出血斑尺寸增加，人工智能分期則處于對應(yīng)的階梯式上升狀態(tài)；當(dāng)出血斑尺寸在20像素以內(nèi)，通過人工智能算法的計算，可得出假陰性結(jié)果；反之，算法分期結(jié)論則保持正確狀態(tài)。這同時也證明，血斑尺寸大小，能直接影響人工智能準(zhǔn)確性。因此制造商可以以此為依據(jù)，在后續(xù)進(jìn)行臨床部署時，更加準(zhǔn)確地設(shè)置產(chǎn)品適用范圍，提高驗證的針對性。

通過上述案例我們能夠認(rèn)識到，人工智能醫(yī)療器械產(chǎn)品質(zhì)量評價，應(yīng)提高對算法應(yīng)用的重視，加強(qiáng)對數(shù)據(jù)樣本的收集，從個體研究出發(fā)，分析患者或病灶個體具體表現(xiàn)，從而能夠了解算法的缺陷，促進(jìn)人工智能算法完善，同時還能夠顯著提高人工智能醫(yī)療器械的產(chǎn)品質(zhì)量標(biāo)準(zhǔn)。

3 人工智能醫(yī)療器械標(biāo)準(zhǔn)體系設(shè)計建議

3.1 基礎(chǔ)標(biāo)準(zhǔn)設(shè)計

在當(dāng)前的人工智能算法中，本身已經(jīng)具備深度學(xué)習(xí)的功能，受此影響，在實際工作運行方面，則具備了黑盒特點，直觀理解難度較高。基于此，相關(guān)利益主體對產(chǎn)品質(zhì)量也不夠信任，這對人工智能醫(yī)療器械產(chǎn)品應(yīng)用實踐帶來了一定阻礙影響。因此為確保人工智能醫(yī)療器械產(chǎn)品安全性，應(yīng)設(shè)置一系列明確的標(biāo)準(zhǔn)指標(biāo)，比如信賴性、透明度、可解釋性、可溯源性等指標(biāo)，這是構(gòu)建基礎(chǔ)標(biāo)準(zhǔn)的一項基本條件。為更好地實現(xiàn)這一條件，需要從安全可信、編碼溯源、隱私保護(hù)等方面入手，進(jìn)一步加強(qiáng)上述質(zhì)量特性的控制，從而有效消除相關(guān)利益主體的疑慮。同時從當(dāng)前研發(fā)情況來看，人工智能產(chǎn)品的設(shè)計，還很容易受數(shù)據(jù)、算法等因素的影響，因此還需要提高數(shù)據(jù)集質(zhì)量，在產(chǎn)品形態(tài)方面，提高軟件的獨立性，合理配置軟件組件，并進(jìn)一步保障智能算法質(zhì)量，才能更好地體現(xiàn)軟件智能功能特色。在人工智能醫(yī)療器械產(chǎn)品運行環(huán)境方面，應(yīng)注重提高靈活性，進(jìn)一步加強(qiáng)與互聯(lián)網(wǎng)技術(shù)融合的力度。總而言之，在上述基礎(chǔ)標(biāo)準(zhǔn)設(shè)計的基礎(chǔ)上，還需要從數(shù)據(jù)集、數(shù)據(jù)標(biāo)注、算法框架與模型等方面入手，做好人工智能醫(yī)療器械產(chǎn)品設(shè)計的研發(fā)，有效提高產(chǎn)品質(zhì)量。

3.2 方法標(biāo)準(zhǔn)設(shè)計

通過上文敘述可知，基于深度學(xué)習(xí)的人工智能算法本身具有一定黑盒特點，這導(dǎo)致產(chǎn)品在設(shè)計測試方面會存在一定的不確定性。與此同時，在人工智能醫(yī)療器械產(chǎn)品質(zhì)量評價中，當(dāng)下主要關(guān)注的是輸入與輸出的關(guān)系。對性能指標(biāo)測試而言，最終的結(jié)果與輸入測試集有著密切關(guān)系。因此在人工智能醫(yī)療器械產(chǎn)品實際應(yīng)用過程中，可能會面臨數(shù)據(jù)變化的問題。基于此，針對人工智能醫(yī)療器械產(chǎn)品的質(zhì)量評價，還需要注重滿足算法模型、成品的質(zhì)量評價需求。同時還應(yīng)兼顧多個環(huán)節(jié)，比如在正式上市前，需要對產(chǎn)品進(jìn)行驗證與確認(rèn)，還需要進(jìn)行產(chǎn)品臨床驗收與質(zhì)控，最終還需要落實到實踐，做好產(chǎn)品使用監(jiān)測等。在這一過程中除了要關(guān)注常見設(shè)計指標(biāo)，比如靈敏度、特異性等，還需要加強(qiáng)對人工智能醫(yī)療器械產(chǎn)品質(zhì)量特性評價，比如魯棒性。在實際評價過程中，應(yīng)注重關(guān)注患者個體，提高對算法細(xì)節(jié)表現(xiàn)的重視，同時還需要將評價過程中采用的方法、工具等納入標(biāo)準(zhǔn)體系中，促使人工智能醫(yī)療器械標(biāo)準(zhǔn)體系設(shè)計更加完善。

3.3 管理標(biāo)準(zhǔn)設(shè)計

在人工智能醫(yī)療器械產(chǎn)品實際發(fā)展過程中，對數(shù)據(jù)、算法、算力等因素較為依賴，實際驗證方式也帶有一定的特殊性，產(chǎn)品更新升級的速度也比較快。在生產(chǎn)質(zhì)量管理方面，除了要遵循現(xiàn)有的質(zhì)量管理標(biāo)準(zhǔn)法規(guī)外，針對人工智能算法、數(shù)據(jù)集等，還需要做進(jìn)一步的規(guī)范。與此同時，還需要對算法更新與再評價框架進(jìn)行創(chuàng)新，進(jìn)一步加強(qiáng)對云平臺、計算平臺等設(shè)施的管理落地。另一方面，還應(yīng)進(jìn)一步加強(qiáng)數(shù)據(jù)采集人員的選拔、培訓(xùn)工作，從而促使人工智能醫(yī)療器械產(chǎn)品管理更加標(biāo)準(zhǔn)化。在這一過程中，還可以參考借鑒醫(yī)療器械軟件監(jiān)管與標(biāo)準(zhǔn)化的思想，從而有效提高對不良事件風(fēng)險的控制，加強(qiáng)對產(chǎn)品版本控制與追溯。在管理標(biāo)準(zhǔn)具體落實方面，還離不開領(lǐng)域技術(shù)規(guī)范的支持，比如在數(shù)據(jù)集標(biāo)準(zhǔn)與建設(shè)方面，需要結(jié)合實際，編寫與之匹配的專家共識，促使人工智能醫(yī)療器械產(chǎn)品管理標(biāo)準(zhǔn)得到有效提升。

4 總結(jié)

總而言之，人工智能醫(yī)療器械產(chǎn)品標(biāo)準(zhǔn)體系設(shè)計是一項復(fù)雜的過程。在實際設(shè)計探索過程中，除了要了解當(dāng)前人工智能醫(yī)療器械產(chǎn)品發(fā)展現(xiàn)狀，還需要從人工智能醫(yī)療器械質(zhì)量評價演進(jìn)中獲得一定啟示，提出一些具體的設(shè)計建議及方法，從而促進(jìn)人工智能醫(yī)療器械標(biāo)準(zhǔn)體系設(shè)計更加完善。