陸 婷 張 燕

·綜述與進展·

人工智能科研項目中的隱私問題研究

陸 婷1張 燕2

1.北京大學(xué)腫瘤醫(yī)院暨北京市腫瘤防治研究所倫理委員會，北京 100142； 2.北京大學(xué)腫瘤醫(yī)院暨北京市腫瘤防治研究所胃腸腫瘤中心一病區(qū)，北京 100142

隨著人工智能（artificial intelligence，AI）、大數(shù)據(jù)技術(shù)在臨床研究中的廣泛應(yīng)用，其面臨的隱私問題越來越突出。本文從倫理審查的角度分析了北京大學(xué)腫瘤醫(yī)院的人工智能項目受試者隱私保護存在的問題，并針對存在的問題提出受試者隱私保護的建議，以期在充分保護受試者個人信息和隱私安全的基礎(chǔ)上推動規(guī)范開展人工智能科研項目。

人工智能；臨床科研；隱私保護；數(shù)據(jù)管理；倫理審查

人工智能（artificial intelligence，AI）是一門基于計算機科學(xué)，以智能行為為目標(biāo)的橫斷學(xué)科，可分為強人工智能和弱人工智能[1]。近年來，我國開始推行“互聯(lián)網(wǎng)+健康醫(yī)療”的政策方針，人工智能技術(shù)在醫(yī)療領(lǐng)域的應(yīng)用不斷擴展和延伸。人工智能技術(shù)不僅可應(yīng)用于健康管理、輔助臨床決策、疾病的篩查和診斷、臨床資料或文獻的分析、醫(yī)院管理等[2]，其數(shù)據(jù)整合和數(shù)據(jù)處理能力在醫(yī)學(xué)研究方面也發(fā)揮重要作用。人工智能提供更便攜的技術(shù)支持的同時，也為臨床研究帶來了更多的機會和可能[3]。

隨著個人信息和臨床數(shù)據(jù)廣泛應(yīng)用于人工智能的相關(guān)研究，受試者數(shù)據(jù)安全和個人隱私問題逐漸突顯[4]。筆者以北京大學(xué)腫瘤醫(yī)院2018至2022年經(jīng)過倫理審查的共30項人工智能科研項目為對象進行分析，對發(fā)現(xiàn)的受試者隱私保護的常見問題進行梳理歸納，并針對存在的問題提出可行性對策。

1 人工智能科研項目中涉及受試者隱私保護的常見問題

1.1 隱私保護的認識不足

人工智能科研項目屬于較新的研究，研究者及申辦者對此類項目的受試者隱私泄露風(fēng)險認識不足。北京大學(xué)腫瘤醫(yī)院90%的人工智能項目中研究者及申辦者均未重視個人數(shù)據(jù)的不正當(dāng)處理、個人隱私泄露、侵害隱私權(quán)所可能帶來的社會風(fēng)險。根據(jù)《民法典》[5]第111條和第1034條規(guī)定，研究者及申辦者應(yīng)重視個人信息泄露對數(shù)據(jù)主體（受試者）可能產(chǎn)生的嚴重風(fēng)險。同時，在醫(yī)學(xué)研究倫理審查中，除關(guān)注受試者生命健康安全外，還應(yīng)注意審查信息數(shù)據(jù)安全管理措施是否得當(dāng)且充分，高度重視大數(shù)據(jù)時代受試者個人數(shù)據(jù)泄露的風(fēng)險，防患于未然[6]。

1.2 隱私數(shù)據(jù)缺乏保護措施

為確保研究項目資料的保密性，通常采用特有的受試者識別（identify code，ID）編號而非醫(yī)院病歷號來標(biāo)記受試者的研究數(shù)據(jù)和生物樣本，該編號無法識別受試者的姓名、照片等身份識別信息。北京大學(xué)腫瘤醫(yī)院多數(shù)人工智能項目中，僅對受試者姓名、性別等身份信息用代號或數(shù)字代替，而忽略了對受試者相關(guān)視頻圖像等健康信息采取相應(yīng)的保密措施。

此外，在查閱標(biāo)有受試者ID編號的研究數(shù)據(jù)或樣本時，需要向訪問者明確以下情況：①審查受試者信息（包括含有可識別受試者身份個人信息的病歷）是為了確保研究過程符合要求。②保證受試者研究數(shù)據(jù)在擁有良好數(shù)據(jù)保護法律環(huán)境且符合我國數(shù)據(jù)安全和保護法要求的國家和地區(qū)被查閱和分析。③當(dāng)涉及受試者基因信息時，僅可提供所需的基因組信息，如遺傳特征信息，不應(yīng)標(biāo)有受試者姓名、照片或任何其他個人身份識別信息。

總之，根據(jù)適用的數(shù)據(jù)隱私保護法和數(shù)據(jù)安全相關(guān)法律、法規(guī)、行業(yè)規(guī)范、國家標(biāo)準和臨床研究相關(guān)的法律法規(guī)和部門規(guī)章，使用多種方法保護受試者隱私[7]。

1.3 隱私數(shù)據(jù)共享安全管理不足

人工智能研究通常涉及與第三方單位的合作，北京大學(xué)腫瘤醫(yī)院研究者及申辦者在遞交倫理審查材料時，多數(shù)未提供第三方合作單位的資質(zhì)文件及合作協(xié)議，但此類文件是倫理審查過程中必不可少的。事實上，選擇有資質(zhì)的第三方合作單位就是保障受試者個人信息安全的主要措施之一，因為在合作協(xié)議中對雙方責(zé)任、義務(wù)及權(quán)利，知識產(chǎn)權(quán)，受試者隱私及數(shù)據(jù)保護、保密等方面進行了明確規(guī)定[8]。

研究中通常需要嚴格相關(guān)人員訪問數(shù)據(jù)的權(quán)限，以保證數(shù)據(jù)共享的可控性，如相關(guān)政府部門（如監(jiān)督本次研究的倫理委員會）、申辦者自身及為申辦者工作或與其合作的人員；儀器供應(yīng)商和實驗室等服務(wù)提供方的試驗醫(yī)生、工作人員。

1.4 對隱私保護的知情同意不充分

知情同意和倫理審查是保護受試者隱私的重要的兩個環(huán)節(jié)。知情同意可以使受試者充分獲知所參加臨床試驗內(nèi)容和風(fēng)險，同時也是試驗過程中受試者相關(guān)數(shù)據(jù)采集和使用授權(quán)。北京大學(xué)腫瘤醫(yī)院人工智能項目中申辦者及研究者存在知情告知范圍不全面的問題，侵犯了受試者的知情同意權(quán)。

關(guān)于人工智能項目中的數(shù)據(jù)安全及隱私保護問題，倫理委員會應(yīng)根據(jù)研究預(yù)期目的、數(shù)據(jù)的收集方式及涉密性、敏感性、研究所帶來的社會價值、重新獲取知情同意的難度及管理措施等，來判斷項目應(yīng)采取具體的知情同意、廣泛的知情同意、免除知情同意，還是選擇退出程序及知情同意的撤回形式[9]。

2 人工智能臨床研究中對受試者隱私保護的建議

2.1 提高對隱私保護的認識，完善監(jiān)管體系

為充分保護個人隱私權(quán)，各國政府陸續(xù)出臺相關(guān)法律或規(guī)范性文件，如美國的《健康保險流通與責(zé)任法案》，歐盟的《通用數(shù)據(jù)保護條例》，并在實踐過程中不斷完善[10,11]。我國應(yīng)借鑒國際已有條款，盡快針對人工智能項目中的隱私問題立法，保護個人數(shù)據(jù)隱私[12]，并建設(shè)合作、配套的監(jiān)管制度，建立隱私風(fēng)險評估機制和行業(yè)自律體制。同時，應(yīng)定期、廣泛開展受試者隱私保護的培訓(xùn)，以提升利益相關(guān)者的隱私素養(yǎng)。

人工智能的發(fā)展離不開有效地監(jiān)管，建立健全的監(jiān)管體系，更有利于其健康發(fā)展。2022年3月20日，中共中央辦公廳、國務(wù)院辦公廳發(fā)布了《關(guān)于加強科技倫理治理的意見》[13]，該意見是我國國家層面科技倫理治理的執(zhí)行性文件，提出了五條科技倫理原則：增進人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風(fēng)險、保持公開透明，并要求“從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動的單位，研究內(nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理（審查）委員會”[14]。

臨床研究開展前，倫理委員會應(yīng)嚴格審查人工智能臨床試驗中的有關(guān)受試者隱私及保密的具體措施，并決定是否同意開展本研究。此外，在臨床試驗項目進展過程中，倫理委員應(yīng)對其進行全過程監(jiān)管，一旦發(fā)受試者的個人信息或隱私存在泄漏風(fēng)險，應(yīng)責(zé)成相關(guān)方排除風(fēng)險；如受試者隱私權(quán)受到侵犯的或造成嚴重后果的，應(yīng)當(dāng)要求責(zé)任方給予賠償或依法承擔(dān)相應(yīng)法律責(zé)任[13]。

2.2 建立或完善數(shù)據(jù)管理體系

為保證受試者的隱私數(shù)據(jù)安全，以北京大學(xué)腫瘤醫(yī)院胃腸中心為例，在開展人工智能科研項目時，任命一名數(shù)據(jù)工程師作為隱私保護專員，該專員將確保所有臨床科研數(shù)據(jù)在交付過程中的隱私保護措施得以執(zhí)行。具體措施如下：

2.2.1 數(shù)據(jù)操作標(biāo)準化 ①相關(guān)數(shù)據(jù)管理軟件中需進行數(shù)據(jù)流程申請，由主任、副主任雙重審核備案并留痕，以供隨時查閱歸檔數(shù)據(jù)信息，形成數(shù)據(jù)使用后的反饋機制。②數(shù)據(jù)使用后的銷毀和反饋機制：牽涉第三方使用受試者數(shù)據(jù)使用時，需簽署經(jīng)本院律師審核過的、相對嚴謹?shù)牡谌綌?shù)據(jù)保密協(xié)議。③設(shè)定相應(yīng)的數(shù)據(jù)訪問權(quán)限，如僅對部門負責(zé)人設(shè)有高級管理權(quán)限，而其他普通工作人員僅有限時瀏覽權(quán)限。另外，臨床試驗輔助人員進入科室系統(tǒng)均需提交申請，防止第三方人員利用個人用戶信息進行醫(yī)療詐騙等惡意行為。④設(shè)置高級別密碼并定期修改，通過系統(tǒng)升級、禁用弱口令、啟用強口令（必須包含數(shù)字和字母，8～10位）等措施，有效保護系統(tǒng)信息安全，降低醫(yī)療數(shù)據(jù)安全風(fēng)險隱患。⑤采用單通路（北京大學(xué)腫瘤醫(yī)院內(nèi)網(wǎng)環(huán)境下的辦公系統(tǒng)）傳輸數(shù)據(jù)，以避免網(wǎng)絡(luò)的非法獲取，不可使用微信、QQ在線傳輸?shù)萚14]。

2.2.2 數(shù)據(jù)的脫敏處理 采用醫(yī)療行業(yè)數(shù)據(jù)脫敏系統(tǒng)對醫(yī)療系統(tǒng)內(nèi)的敏感數(shù)據(jù)進行脫敏保護，防止醫(yī)療數(shù)據(jù)被非法篡改，及在醫(yī)院信息系統(tǒng)的開發(fā)、測試環(huán)境中被第三方泄露。

2.2.3 訪問者的實名認證 北京大學(xué)腫瘤醫(yī)院搭建了醫(yī)生實名認證的電子簽名系統(tǒng)，每次登錄會出現(xiàn)UKey提示，防止匿名用戶的登錄；使用界面設(shè)有定時退出功能，避免因長時間不使用而增加信息泄露的風(fēng)險。

2.2.4 加強數(shù)據(jù)管理，建立數(shù)據(jù)共享與管控機制 對于每一項臨床研究，統(tǒng)計分析結(jié)果首先在本地數(shù)據(jù)集進行計算，得到本地統(tǒng)計數(shù)據(jù)后發(fā)送至業(yè)務(wù)終端，然后匯總每個數(shù)據(jù)提供者的單個結(jié)果，以獲得分析的最終匯總結(jié)果。與個體方面的數(shù)據(jù)比較，局部統(tǒng)計數(shù)據(jù)具有較低的維度，因此在去中心化的數(shù)據(jù)共享模型中，被重新識別的風(fēng)險較低，這樣就能有效地避免了因內(nèi)部敏感數(shù)據(jù)被拷貝和竊取，從而出現(xiàn)導(dǎo)致個人信息泄露等問題[15]。

2.2.5 數(shù)據(jù)二次利用的管控 對于已存儲數(shù)據(jù)進行二次研究的管控對于生物標(biāo)本庫及相關(guān)數(shù)據(jù)庫非常重要。生物標(biāo)本庫保存著生物標(biāo)本及相關(guān)的表型和人口統(tǒng)計數(shù)據(jù)，在將其分發(fā)給第三方研究人員進行二次研究前，生物樣本及其相關(guān)需通過關(guān)鍵編碼等方式處理，確保二次研究的團隊無法識別其個人信息主體[16]。

2.3 加強隱私數(shù)據(jù)，共享安全管理

數(shù)據(jù)共享中存在敏感數(shù)據(jù)難以保護、隱私數(shù)據(jù)泄露等受試者數(shù)據(jù)安全及隱私問題。針對數(shù)據(jù)共享中侵犯受試者隱私權(quán)的問題，可通過樹立正確的倫理價值觀、加強倫理監(jiān)管等方式來避免；可以采用數(shù)據(jù)收集限制原則、數(shù)據(jù)的質(zhì)量提升原則、目的明確化原則、利用限制原則、安全保護原則、開放原則、個人參與原則、問責(zé)原則等隱私治理原則[17]。監(jiān)管機構(gòu)應(yīng)賦予患者積極保護自己的權(quán)利，通過監(jiān)控患者的電子病歷來保護其隱私。

對受試者隱私保護并非信息孤島，而是數(shù)據(jù)共享的適當(dāng)條件。為了更好地實現(xiàn)“科學(xué)數(shù)據(jù)共享價值的最大化”與“隱私風(fēng)險的最小化”治理目的，受試者數(shù)據(jù)共享中的隱私治理需政府、倫理委員會、申辦者、研究人員及受試者等多方主體積極參與、協(xié)同治理，才能有效降低隱私泄露的風(fēng)險[19]。

2.4 受試者知情同意權(quán)保護

知情同意書應(yīng)包括隱私保護的內(nèi)容。知情同意過程中，對受試者進行充分告知，取得受試者知情同意，使受試者知道其個人信息和隱私受到法律保護，研究團隊也會將按法律法規(guī)和知情同意書等文件的要求合理使用其數(shù)據(jù)[20,21]。

如有個人信息或隱私被侵犯的情況發(fā)生，受試者可向研究方提出撤銷對個人信息的繼續(xù)使用和共享許可，研究者及申辦方應(yīng)尊重受試者意愿，將其相關(guān)數(shù)據(jù)刪除。若因各種原因無法刪除其相關(guān)數(shù)據(jù)，應(yīng)向受試者做出書面說明，并提交倫理委員會備案。隨后，若該受試者將退出實驗，研究者不再收集其新研究數(shù)據(jù)。但是，根據(jù)臨床試驗規(guī)則的要求，可能仍然會在采取知情同意書描述的措施保護受試者隱私的前提下使用已收集到的健康數(shù)據(jù)。

綜上所述，人工智能的發(fā)展日趨成熟，已經(jīng)滲透到臨床試驗的各個領(lǐng)域。人工智能應(yīng)用于臨床試驗為其帶來了新的發(fā)展機遇的同時，也對受試者的隱私保護帶來了新的挑戰(zhàn)。除借鑒發(fā)達國家和地區(qū)系統(tǒng)的隱私保護政策以外，提高對隱私保護的認識、加強人工智能項目的倫理審查監(jiān)督、完善數(shù)據(jù)管理體系建設(shè)、加強對受試者隱私數(shù)據(jù)共享的安全管理、注重受試者知情同意權(quán)保護等方面的措施，是保護受試者個人信息和隱私安全的重要工作。

[1] 任相閣, 任相穎, 李緒輝, 等. 醫(yī)療領(lǐng)域人工智能應(yīng)用的研究進展[J]. 世界科學(xué)技術(shù)-中醫(yī)藥現(xiàn)代化, 2022, 24(2): 762-770.

[2] 王姍姍, 翟曉梅. 人工智能醫(yī)學(xué)應(yīng)用的倫理問題[J]. 中國醫(yī)學(xué)倫理學(xué), 2019, 32(8): 972-976.

[3] 胡獻紅. 人工智能的國際倫理原則探討: 聚焦隱私和數(shù)據(jù)保護問題[J]. 新媒體與社會, 2021(1): 3-20.

[4] 王瑞, 陳曉英. 人工智能的倫理困境和解困之道[J]. 遼寧工業(yè)大學(xué)學(xué)報(社會科學(xué)版), 2022, 24(1): 17-19.

[5] 民法典. 北京: 人民法院出版社, 2020.

[6] 劉瑞爽. GDPR對我國醫(yī)學(xué)研究倫理審查的啟示[J]. 醫(yī)學(xué)與哲學(xué), 2019, 40(3): 29-33.

[7] 吳何奇. 大數(shù)據(jù)時代個人隱私保護的刑法路徑——從醫(yī)療人工智能的隱私風(fēng)險談起[J]. 科學(xué)與社會, 2020, 10(2): 89-110.

[8] 劉丹, 周吉銀. 臨床科研項目受試者隱私保護的倫理審查[J]. 中國醫(yī)學(xué)倫理學(xué), 2021, 34(10): 1306-1310.

[9] 謝小萍, 何曉波, 張玲希, 等. 涉及醫(yī)學(xué)人工智能研究的倫理審查要點分析[J]. 中國醫(yī)學(xué)倫理學(xué), 2021, 34(7): 844-850.

[10] 李明, 李昱熙, 戴廉, 等. 醫(yī)療人工智能倫理若干問題探討[J]. 醫(yī)學(xué)與哲學(xué), 2019, 40(21): 1-4.

[11] 藥物臨床試驗受試者隱私保護·廣東共識[J]. 今日藥學(xué), 2020, 30(12): 807-814.

[12] 烏守恒, 劉芯如, 楊建英, 等. 醫(yī)互通微信隨訪平臺在PAC隨訪中的應(yīng)用[J]. 中國計劃生育學(xué)雜志, 2018, 26(2): 156-159.

[13] 中共中央辦公廳. 國務(wù)院辦公廳. 關(guān)于加強倫理治理的意見[OL]. (2022-03-20) [2022-12-28], www.gov. cn/ zhengce/2022-03/20/content-5680105.htm.

[14] 劉星, 盧曉然, 吳影, 等. 人工智能應(yīng)用于臨床試驗的倫理問題分析及對策[J]. 中國臨床藥理學(xué)與治療學(xué), 2022, 27(3): 322-327.

[15] 張海洪. 健康數(shù)據(jù)二次使用研究的倫理審查探討[J].醫(yī)學(xué)與哲學(xué), 2019, 40(3): 26-28.

[16] 王國豫, 黃斌. 論大數(shù)據(jù)技術(shù)對知情同意的挑戰(zhàn)[J]. 自然辯證法研究, 2020, 36(4): 61-66.

[17] 孟祥菡. 我國人體臨床試驗受試者知情同意權(quán)的法律保護[J]. 人權(quán), 2022(1): 150-167.

[18] 柳薇, 吳丁娟. 醫(yī)療信息隱私保護的研究進展[J]. 軟件, 2020, 41(5): 66-71.

[19] 朱貝, 王傳清. 我國科學(xué)數(shù)據(jù)共享中的隱私治理探析[J]. 圖書情報工作, 2020, 64(22): 37-47.

[20] 李憲辰, 康玫, 邱燕, 等. 研究者發(fā)起的臨床研究中受試者個人隱私保護探討[J]. 中國醫(yī)學(xué)倫理學(xué), 2020, 33(12): 1459-1462.

[21] 周琬琳. 人工智能醫(yī)學(xué)應(yīng)用的分類與倫理問題反思[J].中國醫(yī)學(xué)倫理學(xué), 2020, 33(7): 826-830.

張燕，電子信箱：zhangyangoog@163.com

（2022-07-25）

（2022-09-11）

R920.4

A

1673–9701(2022)36–0109–03