劉榮

自人工智能出現(xiàn)以來(lái)，人工智能的安全問(wèn)題就是一個(gè)長(zhǎng)盛不衰的話題。在推廣“智能醫(yī)學(xué)”概念、介紹智能醫(yī)學(xué)發(fā)展?jié)撃艿臅r(shí)候，經(jīng)常會(huì)聽(tīng)到人們對(duì)智能醫(yī)學(xué)安全問(wèn)題的擔(dān)憂。究其原因，是因?yàn)獒t(yī)療行為的受眾是人，準(zhǔn)確地說(shuō)，是所有的人，每個(gè)人都是潛在的患者，而醫(yī)學(xué)行為又直接關(guān)乎生老病死這些人生最本質(zhì)的問(wèn)題；此外，當(dāng)人工智能投入醫(yī)學(xué)應(yīng)用之后，人工智能將在很大程度上取代人類成為醫(yī)療行為的主體。因此，智能醫(yī)學(xué)的安全問(wèn)題必然會(huì)引起人們廣泛的關(guān)注和討論。筆者在此對(duì)幾個(gè)智能醫(yī)學(xué)中涉及安全的熱點(diǎn)問(wèn)題進(jìn)行介紹和分析。

一、人工智能是否會(huì)傷害人類

普遍最受人們關(guān)心的問(wèn)題之一是，機(jī)器人是否會(huì)出于自身利益而傷害人類。在目前的技術(shù)條件下，所能實(shí)現(xiàn)的人工智能都在弱人工智能的范疇內(nèi)。弱人工智能只能完成人類賦予的特定任務(wù)，也就是無(wú)論弱人工智能做什么，其貫徹的都是人類的目的。因此，弱人工智能是否會(huì)傷害人類，取決于賦予其任務(wù)的人類是否有傷害人類的目的。例如，某家科技公司制造了一款基于人工智能的“殺人無(wú)人機(jī)”，“殺人無(wú)人機(jī)”可以通過(guò)面部識(shí)別找到要擊殺的目標(biāo)，通過(guò)靈活的走位躲避攔截，最終可以固定在人類頭部，通過(guò)引爆內(nèi)置的炸藥，來(lái)完成對(duì)目標(biāo)任務(wù)的擊殺。

有人擔(dān)心在日常生活中會(huì)出現(xiàn)這樣的一種殺人武器，對(duì)自己的生命構(gòu)成威脅。但基于弱人工智能的原理，這是不會(huì)出現(xiàn)的，因?yàn)檫@個(gè)無(wú)人機(jī)執(zhí)行的是人類賦予的目標(biāo)。它所要擊殺的目標(biāo)，是由背后操縱機(jī)器的人指定的。只要控制住了給無(wú)人機(jī)指定目標(biāo)的人，就可以控制無(wú)人機(jī)的行為；只要知道了賦予無(wú)人機(jī)目標(biāo)的人，就可以對(duì)其進(jìn)行相應(yīng)的懲罰。這樣的“殺人無(wú)人機(jī)”是可控的，是可以被限制住的。想要?dú)⑷说氖侨?，而不是機(jī)器。換而言之，只要是在弱人工智能的技術(shù)范疇之內(nèi)，我們就可以通過(guò)法律和規(guī)定，來(lái)控制人工智能的目標(biāo)，進(jìn)而保證人工智能的安全應(yīng)用。在此條件之下，人類的真正敵人是人類自身，人工智能是我們忠實(shí)的盟友。

二、智能醫(yī)學(xué)中的“數(shù)據(jù)歧視”

值得注意的是，人工智能傷害人類的方式可能并不都是那么直接。例如，有一種協(xié)助人類對(duì)應(yīng)聘者進(jìn)行篩選的人工智能系統(tǒng)，在積累一定經(jīng)驗(yàn)之后，會(huì)直接將女性應(yīng)聘者從備選者名單中剔除。人們指責(zé)這是人工智能對(duì)女性的性別歧視。但其實(shí)剔除女性備選者原因并不是模型“歧視”了女性，而是因?yàn)槟Ｐ拖萑肓司植孔顑?yōu)解。局部最優(yōu)解是指對(duì)解決問(wèn)題或達(dá)成目標(biāo)的手段在一定范圍或限制內(nèi)最優(yōu)。例如在胰腺囊腺瘤的診斷中，漿液性囊腺瘤占兩者總量的80%以上，黏液性囊腺瘤則只有不到 20%。也就是說(shuō)，如果一個(gè)模型將所有的胰腺囊腺瘤的患者全部診斷為漿液性，就可以獲得80% 以上的準(zhǔn)確率。這樣的準(zhǔn)確率是非?？捎^的，但是這種模型在實(shí)際應(yīng)用中毫無(wú)意義，因?yàn)槟Ｐ拖萑肓司植孔顑?yōu)解，沒(méi)有根據(jù)全局進(jìn)行判斷。在招聘中，一名企業(yè)管理者的目的是為企業(yè)獲取最大的利益，所以在訓(xùn)練系統(tǒng)的時(shí)候，會(huì)根據(jù)情況給不同的訓(xùn)練標(biāo)本打上標(biāo)簽，讓模型根據(jù)這種標(biāo)簽去進(jìn)行訓(xùn)練。由于機(jī)器學(xué)習(xí)的訓(xùn)練數(shù)據(jù)維度很高，人類很難對(duì)如此高維的數(shù)據(jù)有感性的認(rèn)識(shí)，可能管理者在給樣本打標(biāo)簽的過(guò)程中并沒(méi)有意識(shí)到自己對(duì)女性存在偏見(jiàn)，或者是僅僅考慮到了經(jīng)濟(jì)利益而忽略了更廣泛的社會(huì)因素，最終根據(jù)這樣的數(shù)據(jù)就訓(xùn)練出了一個(gè)有著性別歧視傾向的模型。

這給我們敲響了警鐘，相較于招聘，醫(yī)療行為中的歧視是更無(wú)法被接受的。生理缺陷者、精神疾病患者、罕見(jiàn)疾病患者和傳染性疾病的感染者等特殊群體往往會(huì)遭受到不同程度的歧視。醫(yī)師在日常的醫(yī)療行為中，通常都會(huì)盡力去避免歧視，因?yàn)樵卺t(yī)療行為中這些群體恰恰是最需要關(guān)心的，對(duì)這些患者的歧視不能被容忍。然而，如果在對(duì)這些患者的診治過(guò)程中，出現(xiàn)了對(duì)患者的某些負(fù)面的反饋，就很有可能形成一種標(biāo)簽，進(jìn)而影響到患者的診斷和治療。這種情況會(huì)引起較大的爭(zhēng)議。因此，我們?cè)谀Ｐ陀?xùn)練的過(guò)程中應(yīng)通過(guò)平衡訓(xùn)練樣本數(shù)量等方法避免這種狀況的出現(xiàn)，防止由于算法的歧視給患者利益帶來(lái)的損害。

三、醫(yī)療數(shù)據(jù)安全

醫(yī)療數(shù)據(jù)是智能醫(yī)學(xué)的基礎(chǔ)。醫(yī)療數(shù)據(jù)安全包括兩個(gè)方面。① 數(shù)據(jù)的存儲(chǔ)安全，就是要保證醫(yī)療數(shù)據(jù)在儲(chǔ)存的過(guò)程中不損壞、不丟失。這一問(wèn)題隨著存儲(chǔ)介質(zhì)和云存儲(chǔ)技術(shù)的進(jìn)步已經(jīng)基本得到了解決。② 數(shù)據(jù)的隱私安全，網(wǎng)絡(luò)的互聯(lián)互通為人們帶來(lái)便利的同時(shí)，也增大了個(gè)人數(shù)據(jù)泄露的風(fēng)險(xiǎn)。用戶在線上填寫非保密個(gè)人信息的時(shí)候、智能裝備收集健康數(shù)據(jù)的時(shí)候、在地圖軟件上進(jìn)行搜索的時(shí)候、使用約車軟件約車的時(shí)候……個(gè)人數(shù)據(jù)都會(huì)被源源不斷地上傳到網(wǎng)絡(luò)上。

與常規(guī)的數(shù)據(jù)相比，醫(yī)療信息涉及諸多深度的信息，因此被盜后的損失會(huì)更大。例如，利用智能裝備等實(shí)時(shí)收集的健康數(shù)據(jù)可以分析出某種疾病的發(fā)病風(fēng)險(xiǎn)。但是獲得數(shù)據(jù)分析的硬件和軟件的方法對(duì)所有人都是一樣的。如果獲得數(shù)據(jù)的人通過(guò)這些數(shù)據(jù)分析出某種疾病的發(fā)病風(fēng)險(xiǎn)，然后將相關(guān)結(jié)果出售給保險(xiǎn)公司，那么保險(xiǎn)公司就可以通過(guò)分析出來(lái)的某種疾病發(fā)病風(fēng)險(xiǎn)的數(shù)據(jù)來(lái)增加高發(fā)病風(fēng)險(xiǎn)人員的保費(fèi)。這樣，保險(xiǎn)公司就可以通過(guò)隱性的手段來(lái)謀取不正當(dāng)利益。

智能醫(yī)學(xué)時(shí)代的到來(lái)使個(gè)人隱私的保護(hù)面臨尷尬的處境。① 對(duì)于人工智能，數(shù)據(jù)是人工智能的基石，數(shù)據(jù)的量和質(zhì)量直接決定其成敗。因此，如果希望人工智能在某一方面有所作為，就必然需要讓人工智能掌握相關(guān)的數(shù)據(jù)。② 將如此多的信息進(jìn)行集中又會(huì)對(duì)我們的隱私造成極大的挑戰(zhàn)。如果希望網(wǎng)站對(duì)其內(nèi)容進(jìn)行準(zhǔn)確地推送，就必然需要網(wǎng)站知道用戶的瀏覽歷史記錄；如果想要零售商為我們推薦想要的產(chǎn)品，就必然要透露購(gòu)買記錄；如果想得到更精準(zhǔn)、個(gè)體化的醫(yī)療服務(wù)，就必然要共享醫(yī)療記錄。可以假設(shè)兩種極端的情況，① 完全拋棄對(duì)于隱私的保護(hù)，所有數(shù)據(jù)都可以用來(lái)發(fā)展技術(shù)。② 絕對(duì)的保護(hù)隱私，無(wú)論這些數(shù)據(jù)可以帶來(lái)怎么樣的技術(shù)進(jìn)步。顯然這兩種局面都不是我們所愿意看到的。更多人希望的是在兩者之間取一個(gè)平衡。對(duì)于不同的數(shù)據(jù)類型來(lái)說(shuō)，這個(gè)平衡點(diǎn)可能也是完全不同的。比如，骨折患者對(duì)于醫(yī)療數(shù)據(jù)的泄露可能并不特別在意，會(huì)更愿意將數(shù)據(jù)貢獻(xiàn)出來(lái)發(fā)展新技術(shù)；而乙肝患者可能就會(huì)比較擔(dān)心診斷數(shù)據(jù)的泄露會(huì)影響其就業(yè)和擇偶，就會(huì)更傾向于對(duì)自己的信息進(jìn)行保密。

我們可以考慮保護(hù)數(shù)據(jù)隱私的可能方法：比如，利用數(shù)據(jù)加密的方法，將數(shù)據(jù)獲取端和數(shù)據(jù)使用端的信息隔開(kāi)，數(shù)據(jù)分析端可以利用數(shù)據(jù)進(jìn)行分析，但是使用的數(shù)據(jù)是經(jīng)過(guò)加密的數(shù)據(jù)。那么數(shù)據(jù)分析端的人員即使通過(guò)數(shù)據(jù)分析出了有價(jià)值的信息，也不知道該如何去利用這些信息。此外，吳軍在《智能時(shí)代：大數(shù)據(jù)與智能革命重新定義未來(lái)》一書中提到了一種應(yīng)對(duì)智能時(shí)代隱私泄露的方法，就是隱私數(shù)據(jù)獲取的“雙向性”，其思路是使被獲取隱私數(shù)據(jù)者也可以同時(shí)獲取對(duì)方相應(yīng)的隱私數(shù)據(jù)，并清楚地知道對(duì)方使用自己的隱私數(shù)據(jù)做了什么事情，通過(guò)這種互相制約的方法來(lái)保證隱私數(shù)據(jù)的安全性。就好比一個(gè)人從門縫向門里偷窺另一個(gè)人，如果門里的人對(duì)此渾然不知的話，那么偷窺者就可以肆無(wú)忌憚；而如果偷窺者打開(kāi)門后發(fā)現(xiàn)門里有雙眼睛在盯著自己，那么勢(shì)必就要自我約束行為了。這也是智能醫(yī)學(xué)時(shí)代保護(hù)個(gè)人隱私的一個(gè)可行之策。

四、醫(yī)療數(shù)據(jù)的應(yīng)用范圍和數(shù)據(jù)壟斷

現(xiàn)在智能醫(yī)學(xué)的發(fā)展趨勢(shì)，主導(dǎo)智能醫(yī)學(xué)發(fā)展的很多是業(yè)務(wù)跨度極大的高技術(shù)公司。比如，美國(guó)的IBM、谷歌，中國(guó)的阿里、百度等。這些公司無(wú)一例外的都不是專門的智能醫(yī)學(xué)公司，之所以能在智能醫(yī)學(xué)的發(fā)展中搶到先機(jī)，與其掌握著大量的用戶數(shù)據(jù)的關(guān)系密切。這無(wú)疑對(duì)技術(shù)的發(fā)展是有利的，但是這些公司都有著眾多其他業(yè)務(wù)，在發(fā)展智能醫(yī)學(xué)的過(guò)程中獲取的數(shù)據(jù)也可以用于其他業(yè)務(wù)的發(fā)展。

例如，某家公司發(fā)現(xiàn)年齡、住院時(shí)間與出院后使用某些護(hù)理用品之間的關(guān)系，就可以針對(duì)這類客戶推廣相應(yīng)的產(chǎn)品；分析出胰腺手術(shù)后患者需要長(zhǎng)期進(jìn)行換藥、引流袋沖洗之類的醫(yī)療服務(wù)，制作搜索引擎的公司就可以向這類患者推薦與其有合作關(guān)系的、收費(fèi)較高的私立醫(yī)院，并向醫(yī)院收取宣傳費(fèi)用。這種行為似乎從道義上說(shuō)很不正確，但是其前提是公司投入資源進(jìn)行智能醫(yī)學(xué)的技術(shù)研發(fā)，在客觀上推動(dòng)著技術(shù)的進(jìn)步，很難說(shuō)這種行為是對(duì)的還是錯(cuò)的。

數(shù)據(jù)壟斷的問(wèn)題，目前討論得比較少。壟斷者在市場(chǎng)上，能夠隨意調(diào)節(jié)價(jià)格與產(chǎn)量。數(shù)據(jù)在智能時(shí)代將會(huì)成為像水、電、石油一樣的“能源”，擁有巨大財(cái)力和社會(huì)資源的一家或幾家公司就可以通過(guò)資金完全或基本完全的掌握某行業(yè)的數(shù)據(jù)資源，進(jìn)而獲得定價(jià)權(quán)，以此謀利。

壟斷在歷史上是有跡可循的。人類文明史上發(fā)生過(guò) 3次信息載體領(lǐng)域的革命：第一次是語(yǔ)言，第二次是文字，第三次是數(shù)據(jù)。在文字作為主要信息載體的時(shí)代，由于書寫工具和文字載體普遍比較昂貴和專業(yè)，因此在很大程度上成為了統(tǒng)治階級(jí)壟斷思想和文化的工具（中國(guó)，由于造紙術(shù)出現(xiàn)得很早，沒(méi)有出現(xiàn)這樣的情況）。例如在中世紀(jì)的歐洲，文字的載體是昂貴的羊皮紙，只有教會(huì)和貴族可以掌握，這就決定了以文字傳播的思想和知識(shí)就被限制在這兩個(gè)階層的范圍內(nèi)，尤以教會(huì)階層為甚，這就是典型的信息載體壟斷。

一個(gè)醫(yī)療行業(yè)內(nèi)的現(xiàn)實(shí)例子。目前，世界范圍之內(nèi)，成熟的機(jī)器人手術(shù)系統(tǒng)只有一家公司在生產(chǎn)。所以，這家公司現(xiàn)在掌握的幾乎是全球全部的機(jī)器人手術(shù)數(shù)據(jù)，目前想開(kāi)展機(jī)器人手術(shù)業(yè)務(wù)的醫(yī)院都必須購(gòu)買該公司的產(chǎn)品。那么，在智能手術(shù)系統(tǒng)的開(kāi)發(fā)過(guò)程中，這家公司所擁有的數(shù)據(jù)將構(gòu)成極大的先天優(yōu)勢(shì)和定價(jià)權(quán)，這是其他公司所難以比擬的。

醫(yī)學(xué)數(shù)據(jù)是典型的高價(jià)值數(shù)據(jù)，因此較一般的數(shù)據(jù)，更容易形成壟斷。而醫(yī)療服務(wù)又是人們所必需的。試想，如果在智能醫(yī)學(xué)時(shí)代，智能影像診斷成為常規(guī)診斷方法的背景下，有某家公司從一種發(fā)病率較低的疾病入手，掌握了整個(gè)地區(qū)全部的該疾病的診斷相關(guān)數(shù)據(jù)，那么該地區(qū)的所有這一疾病患者的診斷都要依賴于在這家公司擁有的數(shù)據(jù)的基礎(chǔ)之上建立的診斷模型。而我們知道，人工智能模型的質(zhì)量是與數(shù)據(jù)的質(zhì)和量直接相關(guān)的。因此，其他人很難在相關(guān)疾病的診斷質(zhì)量上超過(guò)這家公司，而醫(yī)療機(jī)構(gòu)為了獲取更高的診斷質(zhì)量，也會(huì)更加傾向于與該公司進(jìn)行合作，為其提供數(shù)據(jù)并獲得智能診斷的產(chǎn)品。該公司就擁有了很大的市場(chǎng)定價(jià)權(quán)和話語(yǔ)權(quán)，成為這一疾病診斷領(lǐng)域的“數(shù)據(jù)寡頭”，這無(wú)疑會(huì)對(duì)市場(chǎng)的公平性形成挑戰(zhàn)。

五、智能醫(yī)學(xué)的導(dǎo)向安全

隨著人工智能技術(shù)的不斷進(jìn)步，人工智能可以完成的任務(wù)也越來(lái)越多，但是人工智能所做的就真的一定是我們想要的么？有個(gè)希臘神話，邁達(dá)斯國(guó)王（佛律癸亞國(guó)王）貪戀財(cái)富，后來(lái)如愿以償，獲得了點(diǎn)石成金的能力；不過(guò)他所觸及之處都會(huì)變成金子；連他碰到的面包、他的女兒都變成了金子，他因?yàn)闊o(wú)法吃到事物，差點(diǎn)餓死。

這個(gè)希臘神話放到智能醫(yī)學(xué)的大背景下具有很強(qiáng)的現(xiàn)實(shí)意義。我們希望人工智能擴(kuò)展技術(shù)的邊界，去實(shí)現(xiàn)人類的目標(biāo)。但這是否真的對(duì)人類有利呢？可以設(shè)想，如果在人工智能、基因技術(shù)的協(xié)助下，人類獲得了永葆年輕的能力，那么會(huì)怎么樣呢？人口爆炸、資源匱乏是必然會(huì)出現(xiàn)的情況；更嚴(yán)重的是，人類會(huì)喪失進(jìn)化的動(dòng)力，最終被淘汰。而這些可怕的結(jié)局最初都是源于人類為了實(shí)現(xiàn)愿望所做的努力。因此，在人工智能的導(dǎo)向方面，是否真的要讓人工智能極盡所能的去完成人類的目標(biāo)呢？實(shí)現(xiàn)這些目標(biāo)是否真的會(huì)給醫(yī)療領(lǐng)域，或者給人類帶來(lái)進(jìn)步呢？邁達(dá)斯國(guó)王的故事是一個(gè)很好的啟示。

六、維護(hù)智能醫(yī)學(xué)的安全需要約束

智能醫(yī)學(xué)的安全應(yīng)用需要倫理框架和法律約束。電氣和電子工程師協(xié)會(huì)提出，要將人類社會(huì)的法律和道德規(guī)范融入到人工智能系統(tǒng)之中。在智能醫(yī)學(xué)的實(shí)現(xiàn)過(guò)程中，也要將醫(yī)學(xué)相關(guān)的法律法規(guī)和醫(yī)學(xué)倫理學(xué)的準(zhǔn)則嵌入智能醫(yī)學(xué)的相關(guān)系統(tǒng)中。但是醫(yī)學(xué)倫理準(zhǔn)則本身就存在著諸多爭(zhēng)議。例如在臨床工作中，對(duì)于是否應(yīng)該告知惡性腫瘤的患者本人病情就存在很大爭(zhēng)議?；颊弑救酥啦∏闀?huì)加重心理負(fù)擔(dān)；但是如果不進(jìn)行告知，又侵害了患者的知情權(quán)。在歐美國(guó)家，普遍的共識(shí)是應(yīng)該尊重患者的知情權(quán)，告知患者本人的病情。而在國(guó)內(nèi)，則經(jīng)常為了不加重患者的心理負(fù)擔(dān)，不告知患者本人病情。兩者孰優(yōu)孰劣？很難說(shuō)，因此人類自身就處于對(duì)醫(yī)學(xué)倫理的巨大爭(zhēng)論之中，又應(yīng)該將何種倫理框架加之與人工智能呢？

毋庸置疑，人工智能將會(huì)帶來(lái)很多安全方面的問(wèn)題。這里討論的內(nèi)容只是可以預(yù)見(jiàn)的問(wèn)題，還有更多的、無(wú)法預(yù)見(jiàn)的安全問(wèn)題在智能醫(yī)學(xué)的路上等著我們?，F(xiàn)在的智能醫(yī)學(xué)更多是工程師和少數(shù)醫(yī)師在參與，缺乏哲學(xué)、倫理學(xué)、法學(xué)等其他社會(huì)學(xué)科的參與。智能醫(yī)學(xué)的發(fā)展需要這些學(xué)科的加入，因?yàn)樵谀撤N意義上我們已經(jīng)不是在制造一個(gè)被動(dòng)的簡(jiǎn)單工具，而是在設(shè)計(jì)像人一樣具有感知、認(rèn)知、決策等能力的事物，我們需要確保這樣的事物進(jìn)入人類社會(huì)以后和我們所期待的醫(yī)療價(jià)值規(guī)范相一致，與醫(yī)療行為整體的目標(biāo)相符合。良好的智能醫(yī)學(xué)的安全規(guī)范將是智能醫(yī)學(xué)發(fā)展的壓艙石。

（摘自《中華腔鏡外科雜志（電子版）》2018年第1期）