美國政府問責署（GAO）和美國國家醫(yī)學院（NAM）聯(lián)合發(fā)布了《醫(yī)療衛(wèi)生領(lǐng)域的人工智能》（Artificial Intelligence in Health Care）報告。報告第一部分是NAM 2020年特別報告《醫(yī)療衛(wèi)生領(lǐng)域的人工智能：希望、炒作、承諾和風險》的摘錄；第二部分是GAO對醫(yī)療衛(wèi)生領(lǐng)域人工智能的評估報告《醫(yī)療衛(wèi)生領(lǐng)域的人工智能：機器學習在藥物開發(fā)中的優(yōu)勢和挑戰(zhàn)》。

第一部分

NAM特別報告《醫(yī)療衛(wèi)生領(lǐng)域的人工智能：希望、炒作、承諾和風險》

美國國家醫(yī)學院的特別報告《醫(yī)療衛(wèi)生領(lǐng)域的人工智能：希望、炒作、承諾和危險》對當前人工智能用于藥物開發(fā)的現(xiàn)狀進行了調(diào)研，為醫(yī)療衛(wèi)生領(lǐng)域內(nèi)的相關(guān)人員，如人工智能和機器學習（AI/ML）模型開發(fā)人員、臨床醫(yī)生、病人、監(jiān)管人員和政策制定者提供了易于獲取的指南。本報告的NAM專家工作組由來自公共衛(wèi)生學、信息學、生物醫(yī)學、倫理學和應(yīng)用科學各學科的帶頭人組成，工作組為當前人工智能的應(yīng)用提供了范例。報告著眼于人工智能用于藥物開發(fā)的近期可能性，強調(diào)了相關(guān)的挑戰(zhàn)和局限性，并概述了醫(yī)療衛(wèi)生領(lǐng)域中人工智能開發(fā)和應(yīng)用的基本倫理、法律、監(jiān)管和社會影響等因素。

NAM曾召集了一次來自各利益相關(guān)方60多名專家參加的研討會，專家們對更好確保醫(yī)療衛(wèi)生領(lǐng)域中AI/ML的開發(fā)、部署和應(yīng)用的草案進行了審議，草案內(nèi)容包括：對解決方案和方法的描述；對醫(yī)療衛(wèi)生領(lǐng)域內(nèi)AI/ML模型開發(fā)和配置的指導；促進醫(yī)療衛(wèi)生人工智能開發(fā)利用并取得進展的辦法和途徑。作為積極參與者之一的GAO就報告內(nèi)容提供了各方面的重要反饋意見。根據(jù)討論內(nèi)容，并輔以外部專家的書面評論，NAM的報告確定了以下幾項相關(guān)主題。

人工智能和機器學習對醫(yī)療衛(wèi)生領(lǐng)域發(fā)展的潛在重要性

隨著醫(yī)療衛(wèi)生各部門紛紛進入數(shù)字平臺，與健康相關(guān)的常規(guī)流程以及醫(yī)療衛(wèi)生和生物醫(yī)學科學研究生成的信息量出現(xiàn)了驚人增長。特別是隨著對健康和疾病潛在遺傳傾向探索的不斷深入，使用人工智能和分子工具的能力將很快成為促進精準醫(yī)學領(lǐng)域發(fā)展的關(guān)鍵。

此外，要從醫(yī)療衛(wèi)生移動應(yīng)用程序和傳感器每天生成的大量數(shù)據(jù)中提取有用信息，需要具備對多來源數(shù)據(jù)同時處理的能力。隨著數(shù)字平臺開發(fā)的環(huán)境和地理空間傳感器的可用性越來越高，需要AI/ML提供更多的額外數(shù)據(jù)空間，才能為大量數(shù)據(jù)納入預測建模工具提供條件。

人工智能和透明度

隨著人工智能應(yīng)用程序為醫(yī)療衛(wèi)生部門決策提供新視角能力的不斷增強，人們意識到，我們迫切需要算法和數(shù)據(jù)源的透明性，算法透明性的需要是基于風險、預期用途和具體情況的。例如，與一個低風險的、向最終用戶傳達明確建議的、能準確記錄的工具相比，一個具有直接臨床意義的高影響力人工智能工具需要有更嚴格的說明要求。因此，人工智能開發(fā)人員、具體實施者、用戶和監(jiān)管者應(yīng)該協(xié)作定義其指導方針，以明確整個過程所需的透明度水平。

隨著這一領(lǐng)域的快速發(fā)展，監(jiān)管者和立法者必須靈活保持人工智能創(chuàng)新、安全和信任之間的平衡。為避免對人工智能的發(fā)展產(chǎn)生阻礙，同時確保適當?shù)谋O(jiān)督力度，監(jiān)管者必須讓各利益相關(guān)方和專家參與到基于真實世界數(shù)據(jù)的人工智能臨床應(yīng)用的評估中來。作為一種預告，美國食品藥品管理局（FDA）發(fā)布了一項基于患者風險水平、人工智能自主性和工具動態(tài)性的醫(yī)療衛(wèi)生人工智能評估框架。然而，隨著新數(shù)據(jù)大量涌現(xiàn)環(huán)境下機器學習模型的發(fā)展，以及這一領(lǐng)域內(nèi)法院、監(jiān)管機構(gòu)和保險公司等部門越來越多的參與，相關(guān)責任問題也將繼續(xù)展開。

降低宣傳炒作熱度

隨著人工智能潛在奇跡的傳播熱炒滲透到社會意識中，人們很容易被誤導產(chǎn)生過度恐懼和盲目樂觀情緒，這些情緒會掩蓋其短期可能性。雖然人工智能的能力與人類解決問題的能力相比有一定的局限性，但人工智能自動化已為顛覆性的工作場所創(chuàng)新做好了準備。為最大限度地幫助衛(wèi)生專業(yè)人員跟上快速增長知識庫的發(fā)展，對信息技術(shù)（IT）和機器學習（ML）的依賴還是很有必要的，醫(yī)學教育需要一個實質(zhì)性的改革。這需要更多地關(guān)注人工智能作為常規(guī)決策輔助工具的使用，跨多個專業(yè)的培訓計劃需要側(cè)重于數(shù)據(jù)科學和對人工智能產(chǎn)品和服務(wù)的適當使用。還需要建立這些新興技術(shù)與患者和消費者舒適度之間的橋梁功能，以確保臨床醫(yī)生與患者之間的信任。最終目標是要建立人工智能和數(shù)據(jù)科學方面的能力，以達到醫(yī)療人工智能為人類提供輔助性益處的目的，而不是取而代之。因此，近期的關(guān)注點不妨稱為“智能增強”。

優(yōu)先考慮公平和包容性

在NAM報告中列出的許多考慮因素中，特別強調(diào)了“適當和公平地發(fā)展、實施醫(yī)療衛(wèi)生人工智能”。優(yōu)先考慮公平和包容性始于從豐富的、具有人口代表性的數(shù)據(jù)集發(fā)展而來的算法。盡管有大量的醫(yī)療衛(wèi)生數(shù)據(jù)，但由于缺乏系統(tǒng)互操作性和次優(yōu)的數(shù)據(jù)標準化技術(shù)，無法有效地集成來自不同系統(tǒng)的健康數(shù)據(jù)。沒有強大的數(shù)據(jù)基礎(chǔ)，人工智能算法無法成功達到可推廣性和實用性的層次。

要確保在人工智能技術(shù)開發(fā)和部署過程中，公平性和包容性始終處于首要地位，需要系統(tǒng)管理者、人工智能實施者和監(jiān)管者的積極參與，因為要由他們來做好確定人工智能工具是否適合特定環(huán)境的工作，并就人工智能工具的引入是否會加劇現(xiàn)有的偏見和不公平提出問題。為滿足患者和社區(qū)的需要，衛(wèi)生服務(wù)機構(gòu)正在制定治理戰(zhàn)略，擴大與社會決定因素、心理社會學數(shù)據(jù)之間的聯(lián)系?？赏ㄟ^國家一級的監(jiān)管力度來降低采用這些技術(shù)的障礙，并盡量減少因信息技術(shù)能力不足和社區(qū)服務(wù)水平低下可能造成的數(shù)字鴻溝。

第二部分

GAO評估報告《醫(yī)療衛(wèi)生領(lǐng)域的人工智能：機器學習在藥物開發(fā)中的優(yōu)勢和挑戰(zhàn)》

美國政府問責局的評估報告《醫(yī)療衛(wèi)生領(lǐng)域的人工智能：機器學習在藥物開發(fā)中的優(yōu)勢和挑戰(zhàn)》是應(yīng)國會要求，對醫(yī)療衛(wèi)生中使用人工智能技術(shù)開展的一系列計劃的首次評估，評估重點是其前瞻性和政策影響。報告討論了以下三個主題：可用于藥物開發(fā)的現(xiàn)有和新興人工智能技術(shù)及其潛在益處；開發(fā)和采用這些技術(shù)面臨的挑戰(zhàn)；藥物開發(fā)中使用機器學習面臨挑戰(zhàn)的政策選擇。

GAO為何研究機器學習在藥物開發(fā)中的應(yīng)用

目前的藥物開發(fā)是一個漫長且昂貴的過程，開發(fā)新藥并投放市場可能需要10到15年時間。在獲得FDA批準之前，藥物開發(fā)人員要對新化合物的好處和風險進行研究評估。在最初測試被認為有藥物潛力的10 000種化合物中，大約只有一種能夠通過研發(fā)，然后由FDA確定其安全有效性后批準在美國上市。機器學習在藥物開發(fā)中的應(yīng)用為我們展開了一個新的視角。

GAO應(yīng)國會要求對人工智能技術(shù)在藥物開發(fā)中的應(yīng)用進行評估，主要對藥物開發(fā)的前三個階段進行了評估，即藥物發(fā)現(xiàn)、臨床前研究和臨床試驗；采訪了一系列利益相關(guān)者團體，包括政府機構(gòu)、行業(yè)、學術(shù)界和非政府組織；與國家研究院聯(lián)合召開了一次專家會議，會議旨在增進GAO對機器學習在醫(yī)療和藥物開發(fā)方面的理解；審查了主要報告和科學文獻；最后在報告中確定了政策選項。

機器學習加速藥物研發(fā)

機構(gòu)官員、行業(yè)代表和學術(shù)研究人員等利益相關(guān)者表示，機器學習在藥物開發(fā)中具有巨大潛力。機器學習屬于人工智能的一個領(lǐng)域，即軟件在數(shù)據(jù)流中學習并擁有完成某項任務(wù)的能力。機器學習已被用于藥物開發(fā)，并有可能給藥物開發(fā)領(lǐng)域帶來革命性的改變。機器學習可貫穿于整個藥物開發(fā)過程，可加快候選藥物的發(fā)現(xiàn)、篩選、設(shè)計和測試，提高藥物開發(fā)的效率和有效性，減少新藥上市所需的時間和成本。這些改進可以通過更快地向有需要的患者提供藥物來挽救生命和減少痛苦，并可讓研究人員在罕見病等領(lǐng)域內(nèi)投入更多資源。

技術(shù)評估展示了機器學習研究和應(yīng)用的廣度，并舉例說明藥物開發(fā)過程的前三階段：藥物發(fā)現(xiàn)、臨床前研究和臨床試驗。在藥物發(fā)現(xiàn)方面，研究人員正在使用機器學習識別新的藥物靶點，篩選已知化合物用于新的治療應(yīng)用，以及設(shè)計新的候選藥物等。在臨床前研究中，機器學習可以加強候選藥物的臨床前檢測，在藥物用于人體實驗前，研究人員要加大臨床前測試和對藥物潛在毒性預測的力度。在臨床試驗方面，研究人員開始使用機器學習改進臨床試驗設(shè)計，這也是許多候選藥物失敗的階段，這一階段研究人員的工作包括將機器學習應(yīng)用于患者選擇和志愿者招募，以及確定對某些藥物反應(yīng)較好的患者群體等，從而朝著精準醫(yī)療的前景邁進。

機器學習的挑戰(zhàn)

根據(jù)文獻資料及利益相關(guān)方和專家的意見，技術(shù)評估確定了阻礙機器學習在藥物開發(fā)中應(yīng)用的幾項挑戰(zhàn)。例如，生物學、化學和醫(yī)學研究的空白限制了對這一領(lǐng)域的理解和影響力；另一項挑戰(zhàn)是缺乏保證機器學習有效性所必需的高質(zhì)量數(shù)據(jù)，由于成本、法律問題以及缺乏共享的激勵措施，造成了訪問和共享這些數(shù)據(jù)的困難；此外，擁有專業(yè)技能和跨學科知識工作人員的缺乏也給制藥公司帶來了人員招聘和留住人才方面的挑戰(zhàn)；最后，機器學習在藥物研發(fā)中監(jiān)管政策的不確定性可能會限制這一領(lǐng)域內(nèi)的投資。其中一些挑戰(zhàn)與NAM特別報告中確定的挑戰(zhàn)類似，例如缺乏高質(zhì)量、結(jié)構(gòu)化的數(shù)據(jù)等，而其他一些挑戰(zhàn)則是藥物開發(fā)領(lǐng)域所特有的。

機器學習的政策選擇

通過機器學習，可篩選出更多化合物，與目前的方法相比，可在更短時間內(nèi)找到有希望的候選藥物

針對這些挑戰(zhàn)，GAO制定了六大政策選擇。其中五大政策選擇集中于研究、數(shù)據(jù)訪問、標準化、人力資本和監(jiān)管確定性。最后一個是當前現(xiàn)狀，即政策制定者不需要對人工智能在藥物開發(fā)領(lǐng)域內(nèi)的應(yīng)用加以干預，這些政策制定者包括聯(lián)邦機構(gòu)、州和地方政府、學術(shù)和研究機構(gòu)以及工業(yè)界等。有關(guān)政策選擇、新的機遇和挑戰(zhàn)參見“機器學習在藥物開發(fā)中面對挑戰(zhàn)的政策選擇”表。

機器學習在藥物開發(fā)中面對挑戰(zhàn)的政策選擇

資料來源 GAO