杜 萍

(海軍軍醫(yī)大學(xué)人文社科部，上海 200433，371496488@qq.com)

2017年7月，國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，提出了面向2030年我國(guó)新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點(diǎn)任務(wù)和保障措施[1]。21世紀(jì)以來(lái)，人工智能(artificial intelligence,AI)技術(shù)在醫(yī)學(xué)領(lǐng)域的廣泛應(yīng)用給醫(yī)學(xué)相關(guān)從業(yè)人員帶來(lái)新的機(jī)遇和挑戰(zhàn)。傳統(tǒng)醫(yī)學(xué)實(shí)踐多年的“人人互動(dòng)”模式逐漸向“人機(jī)互動(dòng)”模式轉(zhuǎn)變，這種轉(zhuǎn)變包含了醫(yī)際之間和醫(yī)患之間的交流方式。而伴隨醫(yī)學(xué)發(fā)展的道德哲學(xué)——醫(yī)學(xué)倫理學(xué)，其研究?jī)?nèi)容必然會(huì)因?yàn)檠芯繉?duì)象的變化而發(fā)生相應(yīng)的變化。同時(shí)，就醫(yī)學(xué)倫理學(xué)課程教學(xué)的具體實(shí)施而言，人工智能的應(yīng)用背景也將極大地豐富傳統(tǒng)課堂師生面對(duì)面教學(xué)的單一形式。本文旨在分析人工智能應(yīng)用于醫(yī)學(xué)實(shí)踐的主要方面，分析其面臨的倫理困境，并在課程教學(xué)要素中回應(yīng)這些現(xiàn)實(shí)，整體描述醫(yī)學(xué)倫理學(xué)課程在此技術(shù)背景下的變化情況。

1 人工智能技術(shù)在醫(yī)學(xué)中的應(yīng)用與課程變化的背景

人工智能輔助醫(yī)學(xué)的發(fā)展，理論上將經(jīng)歷三個(gè)階段。第一階段，人工智能單純地服從指令，篩選“符合預(yù)設(shè)條件”的結(jié)果，幫助醫(yī)生收集資料，提供備選方案(相當(dāng)于圖書館或數(shù)據(jù)庫(kù))，由醫(yī)生作出最終決定。第二階段，人工智能自發(fā)地獲取相關(guān)信息進(jìn)行分析，并自主選擇處理方式(未來(lái)超級(jí)手術(shù)機(jī)器人的應(yīng)用)，醫(yī)生只負(fù)責(zé)制定目標(biāo)和原則。第三階段，人工智能根據(jù)數(shù)據(jù)整合直接給出最符合知識(shí)體系判斷的醫(yī)療建議，進(jìn)行決策(甚至超出醫(yī)生認(rèn)知水平)，醫(yī)生將放棄思考。目前AI對(duì)于醫(yī)療的輔助作用仍處在第一階段，主要體現(xiàn)在影像診斷、手術(shù)治療、大數(shù)據(jù)運(yùn)用和醫(yī)療管理等方面。這些滲透在醫(yī)學(xué)日常工作中的應(yīng)用與變化，一方面高效地推動(dòng)醫(yī)療領(lǐng)域向著智能化、日常化和人性化的方向發(fā)展；另一方面對(duì)醫(yī)務(wù)人員執(zhí)業(yè)和患者就診體驗(yàn)產(chǎn)生重要影響，為醫(yī)學(xué)倫理學(xué)教學(xué)目標(biāo)、教學(xué)內(nèi)容和教學(xué)方式的調(diào)整提供了基礎(chǔ)和依據(jù)。

1.1 影像診斷與疾病篩查

20世紀(jì)80年代，隨著人工神經(jīng)網(wǎng)絡(luò)和基于人工智能的計(jì)算機(jī)輔助診斷(computer aided diagnosis，CAD)軟件的應(yīng)用，AI逐漸進(jìn)入醫(yī)學(xué)影像科工作流程[2]。影像數(shù)據(jù)經(jīng)由AI篩選、梳理和提取后，可以轉(zhuǎn)換成有效的臨床決策依據(jù)，在腫瘤檢出、定性診斷、自動(dòng)結(jié)構(gòu)化報(bào)告、腫瘤提取、腫瘤放療靶器官勾畫等方面廣泛應(yīng)用，特別是對(duì)乳腺癌、肺癌、皮膚癌、前列腺癌的診斷和早期篩查，以IBM公司的Watson機(jī)器人為代表產(chǎn)品。毋庸諱言，人工智能技術(shù)能夠進(jìn)行精準(zhǔn)影像圖像分析，有效減少了影像科醫(yī)生的人為錯(cuò)誤和失誤，提高了工作效率。

1.2 外科手術(shù)機(jī)器人應(yīng)用

2000 年，Intuitive Surgical 公司推出的 Da Vinci手術(shù)機(jī)器人系統(tǒng)憑借高清視覺、直覺操作、人體工程學(xué)控制臺(tái)和高自由度仿真手腕等核心技術(shù)，成為全世界應(yīng)用最廣、最先進(jìn)的手術(shù)機(jī)器人[3]。精準(zhǔn)定位和細(xì)致操作是手術(shù)機(jī)器人的核心技術(shù)，它能有效避免醫(yī)生在手術(shù)時(shí)手部的抖動(dòng)。20年來(lái)，其應(yīng)用范圍涵蓋胸心外科、普外科、泌尿外科等數(shù)十個(gè)學(xué)科，治療結(jié)果已經(jīng)呈現(xiàn)出手術(shù)出血量少、患者術(shù)后疼痛減輕、住院時(shí)間明顯縮短、安全性高、圍術(shù)期死亡率低等諸多優(yōu)勢(shì)。

1.3 大數(shù)據(jù)健康平臺(tái)

醫(yī)療大數(shù)據(jù)不僅包含患者個(gè)體醫(yī)學(xué)影像、醫(yī)院診斷的數(shù)據(jù)信息，同時(shí)包含人們?cè)谌粘８深A(yù)健康過(guò)程中產(chǎn)生的身體生理數(shù)據(jù)，這是人工智能與人類日常健康生活結(jié)合最為緊密的一個(gè)領(lǐng)域。通過(guò)AI算法，醫(yī)生可以準(zhǔn)確把握患者個(gè)人的健康狀況，甚至通過(guò)大數(shù)據(jù)平臺(tái)預(yù)測(cè)傳染性疾病和季節(jié)性流行病的發(fā)展?fàn)顩r。流感預(yù)測(cè)、血糖管理、健康數(shù)據(jù)監(jiān)測(cè)、生活品質(zhì)提升、人臉識(shí)別與情緒分析是應(yīng)用的五個(gè)主要方面[4]。

1.4 醫(yī)院管理與服務(wù)系統(tǒng)

目前，與醫(yī)院管理相關(guān)的AI應(yīng)用主要表現(xiàn)為虛擬醫(yī)療助手。例如分診機(jī)器人、門診導(dǎo)醫(yī)系統(tǒng)等，能夠協(xié)助醫(yī)院實(shí)施患者分流，在線指導(dǎo)就醫(yī)，節(jié)省醫(yī)院管理的時(shí)間和人力，有效地提高醫(yī)療資源利用效率和醫(yī)院智能化運(yùn)行程度。病例跟蹤能夠幫助慢性病患者規(guī)劃日常安排、監(jiān)控睡眠數(shù)據(jù)、提供服用藥物和測(cè)試提醒，提高患者追蹤的質(zhì)量，更好地促進(jìn)慢性疾病管理和康復(fù)，降低醫(yī)療資源的消耗，控制醫(yī)療成本。

2 醫(yī)學(xué)倫理學(xué)教學(xué)變化的主要表現(xiàn)

大量高新技術(shù)隨著工業(yè)化時(shí)代的到來(lái)，計(jì)算機(jī)時(shí)代和人工智能的廣泛應(yīng)用強(qiáng)勢(shì)涌入醫(yī)學(xué)領(lǐng)域，在人類將醫(yī)療技術(shù)優(yōu)勢(shì)轉(zhuǎn)化為患者健康優(yōu)勢(shì)的同時(shí)，新技術(shù)使用的倫理邊界屢次被突破，這使得醫(yī)患之間的距離不斷被拉遠(yuǎn)。這些因素啟示要深化醫(yī)學(xué)倫理學(xué)研究，醫(yī)學(xué)倫理學(xué)重在提醒醫(yī)務(wù)人員敬畏生命，并通過(guò)倫理規(guī)范來(lái)維護(hù)醫(yī)療服務(wù)的公平公正，化解醫(yī)患之間的沖突。

2.1 教學(xué)目標(biāo)和教師角色的變化

醫(yī)學(xué)倫理學(xué)課程的教學(xué)目標(biāo)是培養(yǎng)醫(yī)學(xué)生敬畏生命、關(guān)心愛護(hù)患者的美德，保障醫(yī)療行為不偏離醫(yī)學(xué)目的，把醫(yī)學(xué)生培養(yǎng)成為合格的醫(yī)務(wù)工作者。隨著生命科學(xué)技術(shù)的不斷發(fā)展，教學(xué)目標(biāo)拓展得更加豐富，包括培養(yǎng)醫(yī)學(xué)生具備高尚的道德品質(zhì)和崇高的職業(yè)精神，能夠在未來(lái)的醫(yī)學(xué)實(shí)踐活動(dòng)中妥善處理新技術(shù)、新方法引發(fā)的倫理問(wèn)題，全面提升衛(wèi)生健康事業(yè)的保障水平。在這一轉(zhuǎn)變過(guò)程中，倫理道德反思和人文情懷的培育成了核心目標(biāo)。教學(xué)目標(biāo)的變化使得教學(xué)理念和教師定位隨之發(fā)生轉(zhuǎn)化。AI技術(shù)背景下，教師的角色由過(guò)去的定義者、闡釋者、答疑者向提問(wèn)者、引導(dǎo)者、輔助者轉(zhuǎn)變，重點(diǎn)培養(yǎng)學(xué)生敏銳的倫理嗅覺和道德實(shí)踐的感知能力，真正使學(xué)生參與到倫理決策的過(guò)程中。醫(yī)學(xué)生在基礎(chǔ)學(xué)習(xí)和臨床見習(xí)的過(guò)程中已經(jīng)接觸到醫(yī)患關(guān)系、臨終關(guān)懷、器官移植、人工輔助生殖等具體問(wèn)題，并有了自己初步的思考，在此時(shí)給予他們?cè)瓌t說(shuō)明、倫理指導(dǎo)可以幫助他們迅速掌握原則、分析問(wèn)題、事半功倍。

2.2 教學(xué)內(nèi)容的變化

與傳統(tǒng)醫(yī)療服務(wù)相比，人工智能技術(shù)極大地改變了就醫(yī)的方式，尤其在提升醫(yī)療質(zhì)量、提高醫(yī)療效率、優(yōu)化治療方案、降低決策成本等方面呈現(xiàn)出了優(yōu)勢(shì)。醫(yī)學(xué)診療過(guò)程本身決定的“經(jīng)驗(yàn)決策樹”模式，因?yàn)锳I技術(shù)的介入和海量醫(yī)療數(shù)據(jù)的積累變得無(wú)比強(qiáng)大，醫(yī)療行為中“診斷”“治療”“決策”“干預(yù)”的路徑逐漸改變，醫(yī)生的視覺、觸覺、聽覺等感官得到極大強(qiáng)化與延伸。但與此同時(shí)，與醫(yī)學(xué)相關(guān)的人類增強(qiáng)技術(shù)的雙刃劍效應(yīng)也不斷凸顯，對(duì)公共衛(wèi)生服務(wù)產(chǎn)生重大影響，對(duì)傳統(tǒng)的醫(yī)學(xué)倫理原則提出挑戰(zhàn)。

①數(shù)據(jù)隱私的保護(hù)?；跀?shù)據(jù)采集和機(jī)器學(xué)習(xí)的人工智能需要使用海量醫(yī)療數(shù)據(jù)。在大數(shù)據(jù)平臺(tái)的支持下，AI 對(duì)個(gè)體或群體的診斷建議、治療決策、健康管理才能得以實(shí)施。而醫(yī)療數(shù)據(jù)又不同于普通個(gè)人信息數(shù)據(jù)，包括患者姓名、年齡、診斷治療情況、疾病種類、銀行賬戶、醫(yī)保賬戶等信息，具有較高隱私價(jià)值。這些海量隱私數(shù)據(jù)的保存使用是否得當(dāng)，是否會(huì)造成數(shù)據(jù)泄露，是數(shù)據(jù)使用安全的首要問(wèn)題。隱私數(shù)據(jù)如果被售賣，對(duì)方可能會(huì)向數(shù)據(jù)主體實(shí)施資金詐騙或推銷醫(yī)療保健產(chǎn)品、服務(wù)。如果特定人群數(shù)據(jù)與不明機(jī)構(gòu)進(jìn)行交易，對(duì)方不僅可以掌握整個(gè)數(shù)據(jù)群體的族群特征、健康狀況、體格特點(diǎn)，還可能導(dǎo)致社會(huì)公眾對(duì)于數(shù)據(jù)主體人群的歧視或污名化，這些交易甚至?xí)?duì)國(guó)家、企業(yè)、家庭和個(gè)人等不同層面造成巨大威脅和傷害。

②安全責(zé)任的承擔(dān)。自人工智能產(chǎn)生，就曾引發(fā)過(guò)是否應(yīng)該賦予AI機(jī)器人權(quán)的爭(zhēng)議。問(wèn)題的核心在于，如果人工智能技術(shù)出現(xiàn)差錯(cuò)而導(dǎo)致了壞的結(jié)果，對(duì)人造成傷害，責(zé)任應(yīng)該由誰(shuí)來(lái)承擔(dān)。AI應(yīng)用于醫(yī)學(xué)的責(zé)任劃分、追責(zé)問(wèn)題主要包括輔助診斷系統(tǒng)產(chǎn)生的診斷失誤，手術(shù)機(jī)器人造成的操作錯(cuò)誤等。目前應(yīng)用于醫(yī)學(xué)領(lǐng)域的大部分人工智能是經(jīng)過(guò)臨床驗(yàn)證的成熟可靠的技術(shù)，可以保護(hù)和促進(jìn)人類健康。但是某些不成熟、不穩(wěn)定，算法決策不完善的技術(shù)，特別是風(fēng)險(xiǎn)出現(xiàn)概率高而后果嚴(yán)重的應(yīng)用，可能會(huì)損害人的健康，甚至威脅人的生命。例如，Watson 系統(tǒng)曾經(jīng)提出不準(zhǔn)確的醫(yī)療建議，在決策技術(shù)上存在安全性問(wèn)題，給有嚴(yán)重出血癥狀的肺癌患者提出使用抗癌藥物建議，而這種抗癌藥物會(huì)導(dǎo)致出血，這對(duì)肺癌患者是致命的[5]。因此，醫(yī)療行業(yè)和相關(guān)管理部門及時(shí)出臺(tái)人工智能醫(yī)療應(yīng)用監(jiān)管規(guī)則迫在眉睫。

③醫(yī)患關(guān)系的嬗變。醫(yī)患關(guān)系不僅是醫(yī)學(xué)實(shí)踐領(lǐng)域中的核心關(guān)系，也是醫(yī)學(xué)倫理研究中的核心關(guān)系。我們通過(guò)倫理原則、道德規(guī)范來(lái)引導(dǎo)和評(píng)判醫(yī)學(xué)實(shí)踐中的倫理問(wèn)題、醫(yī)療群體行為，以實(shí)現(xiàn)醫(yī)學(xué)向善的目的。隨著人工智能技術(shù)的應(yīng)用，傳統(tǒng)的醫(yī)患關(guān)系受到了極大的挑戰(zhàn)，AI技術(shù)必然加速傳統(tǒng)醫(yī)患關(guān)系的解構(gòu)。傳統(tǒng)就診模式中醫(yī)患面對(duì)面的語(yǔ)言交流、體格檢查、肢體接觸、心理互動(dòng)越來(lái)越多地被機(jī)器取代，很大程度上演變成患者與檢查設(shè)備的“人機(jī)互動(dòng)”?；颊呓佑|到的是冰冷的機(jī)械設(shè)備，聽到的是系統(tǒng)指令，感受到的是孤獨(dú)的診療氛圍。特別是在手術(shù)機(jī)器人應(yīng)用過(guò)程中，突破了傳統(tǒng)手術(shù)醫(yī)生與患者密切接觸的空間距離，使得每一步操作處置都加入了大量的機(jī)械手臂技術(shù)的干預(yù)，雖然治療結(jié)果可能更好，但是醫(yī)患之間的密切性被打破了。相比于“有血有肉”的醫(yī)護(hù)人員來(lái)說(shuō)，手術(shù)機(jī)器人和智能檢查設(shè)備還不能與患者進(jìn)行情感交流、意志表達(dá)，不懂得關(guān)心、尊重、慰藉患者。缺乏“仁愛”的醫(yī)療互動(dòng)過(guò)程變成了“流程”式操作，將影響醫(yī)患關(guān)系的內(nèi)涵和發(fā)展。

④醫(yī)療衛(wèi)生資源分配的公平可及。我國(guó)各地區(qū)經(jīng)濟(jì)發(fā)展的不平衡直接影響了人工智能醫(yī)療資源的公平性、可及性和可負(fù)擔(dān)性。在宏觀分配上，人工智能醫(yī)學(xué)應(yīng)用服務(wù)主要集中在發(fā)達(dá)地區(qū)的三級(jí)甲等醫(yī)院中，而經(jīng)濟(jì)欠發(fā)達(dá)地區(qū)和基層醫(yī)療衛(wèi)生機(jī)構(gòu)的AI技術(shù)設(shè)備欠缺，醫(yī)療人才數(shù)量少、專業(yè)技能相對(duì)較低，甚至無(wú)法享受到人工智能的技術(shù)紅利。在微觀應(yīng)用上，基于互聯(lián)網(wǎng)等技術(shù)支持的醫(yī)療相關(guān)軟件的應(yīng)用給年紀(jì)較輕的患者就診提供了便利，但對(duì)年長(zhǎng)患者而言，因?yàn)椴荒茌p松使用手機(jī)終端的醫(yī)療服務(wù)等資源喪失了享受某些快捷醫(yī)療服務(wù)的機(jī)會(huì)。此外，高昂的檢查治療費(fèi)用和醫(yī)保支付的零覆蓋是強(qiáng)烈制約AI技術(shù)應(yīng)用公平性和可及性的重要因素。例如達(dá)芬奇手術(shù)機(jī)器人系統(tǒng)購(gòu)買和維護(hù)的巨大花銷，其費(fèi)用大大高于傳統(tǒng)手術(shù)，并非所有患者都能負(fù)擔(dān)，這破壞了醫(yī)療資源使用的公平性。

2.3 教學(xué)方式和手段的變化

目前很多高校的智能校園建設(shè)，有效推動(dòng)了人工智能在教學(xué)、管理、資源建設(shè)等全流程應(yīng)用。在2020年新冠肺炎疫情肆虐之際，智能教育與在線課堂在各級(jí)各類學(xué)校的教學(xué)實(shí)踐中發(fā)揮了不可替代的作用。全國(guó)中小學(xué)、高等院校延遲開學(xué)，在“停課不停學(xué)”的大方向下，組織學(xué)生在家進(jìn)行大規(guī)模在線課程學(xué)習(xí)，這一舉動(dòng)推動(dòng)了在線教育普及，擴(kuò)大了用戶規(guī)模，一大批產(chǎn)品應(yīng)用迅速崛起,中國(guó)億萬(wàn)師生參與的首次“在線教育”大練兵，創(chuàng)造了人類教育史上的一個(gè)奇跡。AI技術(shù)支持使教育模式從過(guò)去知識(shí)傳授轉(zhuǎn)變?yōu)閭€(gè)性化服務(wù)，更加注重學(xué)習(xí)能力的培養(yǎng)，課堂內(nèi)部關(guān)系開始由教師主導(dǎo)轉(zhuǎn)變?yōu)橐詫W(xué)生為主。具體到醫(yī)學(xué)倫理學(xué)課程教學(xué)方式，在線課堂為學(xué)生講解基本概念和原則之后，鼓勵(lì)學(xué)生通過(guò)推薦案例或電影鏈接的線下學(xué)習(xí)、小組合作研究，培養(yǎng)學(xué)生分析臨床倫理困境并作出判斷的能力。線上學(xué)習(xí)模式側(cè)重于顯性知識(shí)的傳遞、原則的建構(gòu)與創(chuàng)造；線下教學(xué)則側(cè)重于隱性知識(shí)的內(nèi)化和遷移，促進(jìn)情感、態(tài)度、價(jià)值觀的形成，二者互相促進(jìn)。網(wǎng)絡(luò)平臺(tái)的及時(shí)性和共同參與性給予了學(xué)生更充分的互動(dòng)空間，提升了學(xué)習(xí)效率，優(yōu)化了學(xué)習(xí)效果。

3 醫(yī)學(xué)倫理學(xué)教學(xué)變化的啟示

人工智能技術(shù)應(yīng)用于醫(yī)學(xué)實(shí)踐，已經(jīng)并將繼續(xù)給醫(yī)學(xué)倫理學(xué)及其課程教學(xué)帶來(lái)重大的現(xiàn)實(shí)挑戰(zhàn)與發(fā)展機(jī)遇?？梢灶A(yù)見，人工智能技術(shù)的進(jìn)一步發(fā)展甚至?xí)o這些領(lǐng)域帶來(lái)革命性的變化，必須順應(yīng)這一形勢(shì)，積極作為。在課程教學(xué)的諸多要素中，教學(xué)內(nèi)容的更新是核心和基礎(chǔ)，其外延的擴(kuò)展和內(nèi)涵的深化是變化最大的部分。目前我國(guó)醫(yī)學(xué)倫理學(xué)教學(xué)內(nèi)容主要涉及職業(yè)道德原則、醫(yī)患關(guān)系、臨床診療、生命倫理和醫(yī)學(xué)前沿技術(shù)倫理等主題。而國(guó)外醫(yī)學(xué)倫理學(xué)較重視運(yùn)用倫理學(xué)的理論和方法解決醫(yī)學(xué)中出現(xiàn)的新問(wèn)題，以職業(yè)道德、臨床倫理、醫(yī)患關(guān)系三個(gè)方面為基點(diǎn)，逐漸延伸到臨床試驗(yàn)、倫理審查、死亡倫理、衛(wèi)生政策、醫(yī)生角色等多個(gè)新的研究領(lǐng)域。隨著AI 與醫(yī)學(xué)的結(jié)合越來(lái)越緊密，現(xiàn)有的醫(yī)學(xué)倫理規(guī)范對(duì)技術(shù)的約束遠(yuǎn)遠(yuǎn)不夠。2017年，由人工智能和機(jī)器人領(lǐng)域的專家聯(lián)合簽署的《阿西洛馬人工智能原則》成為新的倫理參考。有專家通過(guò)解讀這份原則認(rèn)為，“人工智能倫理的基礎(chǔ)問(wèn)題實(shí)際上是人-機(jī)之間的技術(shù)關(guān)系提升到人-機(jī)倫理關(guān)系”[6]。

在AI技術(shù)背景下，醫(yī)學(xué)倫理學(xué)的研究者和教育者應(yīng)該突破當(dāng)前教學(xué)研究?jī)?nèi)容的局限性，緊跟時(shí)代步伐，在前述主要人工智能技術(shù)應(yīng)用于醫(yī)學(xué)領(lǐng)域?qū)е碌膫惱韱?wèn)題中積極思考，作出判斷，提出倫理建議，降低醫(yī)學(xué)倫理學(xué)對(duì)于人類醫(yī)學(xué)科技發(fā)展的滯后性。醫(yī)學(xué)倫理學(xué)教育者回應(yīng)人工智能應(yīng)用于醫(yī)學(xué)領(lǐng)域?qū)е碌膫惱韱?wèn)題和困境的重大關(guān)切，及時(shí)有效地調(diào)整教學(xué)要素，滿足教學(xué)客體的需求，是醫(yī)學(xué)教育領(lǐng)域“供給側(cè)改革”的題中應(yīng)有之意。