唐澤 李旭

摘 要：以色列歷史學(xué)家尤瓦爾·赫拉利在《今日簡史》中將科技顛覆視為21世紀人類面臨的巨大挑戰(zhàn)之一，并認為以算法為共識的人工智能將會對人類生存狀態(tài)和生活方式帶來革命性的改變。目前“新冠肺炎的病原學(xué)檢測”“人臉檢測和識別”“語言識別”等人工智能已走入社會生活的方方面面，面對方興未艾的人工智能，如何把控其開發(fā)風(fēng)險？文章避開深奧的人工智能技術(shù)，從具體案例入手，從法律維度著重探索了著作權(quán)視域下委托開發(fā)AI應(yīng)用軟件的風(fēng)險把控。

關(guān)鍵詞：著作權(quán) 臨床輔助綜合診斷AI 應(yīng)用軟件 風(fēng)險把控

人工智能（Artificial Intelligence）英文縮寫為AI。它是研究、開發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。[1]通俗來講，AI就是通過采取自我學(xué)習(xí)等一系列重要方法，使機器模擬人類智能。2020年初，AI在抗擊新冠肺炎臨床救治一線為國家公共安全作出了非凡貢獻：阿里巴巴達摩院與浙江省疾控中心合作，將AI算法應(yīng)用于新冠肺炎的病原學(xué)檢測上，利用算法將疑似病例基因分析時間縮至半小時，同時可以避免核酸檢測出現(xiàn)的漏檢情況。2016年，運用AI算法開發(fā)的圍棋機器人AlphaGo擊敗人類圍棋頂尖高手，緣于它結(jié)合了數(shù)百萬人類圍棋高手對弈的棋譜，通過強化學(xué)習(xí)進行了自我訓(xùn)練。獲勝之后，AlphaGo之父杰米斯·哈薩比斯表示：“AlphaGo能利用機器學(xué)習(xí)技術(shù)，通過自我教學(xué)去掌握圍棋。最終，我們希望將這種技術(shù)應(yīng)用至現(xiàn)實世界最重要的問題，例如氣候建模，以及對復(fù)雜疾病的分析?！盵2]近些年，AI在醫(yī)學(xué)影像設(shè)備的圖像重建、勾畫靶區(qū)、判斷病理切片等臨床應(yīng)用上取得了人工無以能及的高速運算能力和準確判斷能力。值得注意的是，當(dāng)前，出版領(lǐng)域的著作權(quán)委托開發(fā)AI應(yīng)用如日方升，具體實踐中我們發(fā)現(xiàn)，稍有不慎極易引發(fā)法律糾紛。筆者近期接觸了一些委托開發(fā)AI軟件產(chǎn)生的版權(quán)歸屬、軟件安全性問題等爭議調(diào)解，感受頗深，引發(fā)了我們對同類問題的思考和探究。在此以《臨床思維基礎(chǔ)與方法》委托開發(fā)臨床輔助綜合診斷AI應(yīng)用軟件為例，粗淺探討著作權(quán)視域下委托開發(fā)臨床輔助綜合診斷AI背景條件及其風(fēng)險把控等問題。

一、著作權(quán)視域下委托開發(fā)臨床輔助綜合診斷AI的前提

21世紀，人類處于一個史無前例的巨變中，以信息化和人工智能為標志的生產(chǎn)智能化程度突飛猛進，醫(yī)療AI也隨之取得了長足發(fā)展。醫(yī)療科研工作者將潛心研究的臨床理論專著深度開發(fā)為AI應(yīng)用，審慎地應(yīng)用于臨床，有力推動了臨床診治水平提升。但必須注意，科研論著委托開發(fā)為臨床輔助綜合診斷AI應(yīng)用軟件，實現(xiàn)“值得信賴的AI要求算法足夠安全、可靠和穩(wěn)健，以處理人工智能系統(tǒng)所有生命周期階段的錯誤或不一致”。首先要滿足以下五個必要條件。

1.建構(gòu)科學(xué)精確算法

AI算法針對具有相同屬性的一類事物，遵循一定的數(shù)學(xué)模型，處理信息做出決定的方法。本文涉及的臨床綜合診斷算法，則是針對臨床定性信息（病理改變數(shù)據(jù)）和定量信息（檢驗結(jié)果數(shù)據(jù)），依據(jù)相應(yīng)的算法進行復(fù)雜的運算后得出客觀全面的處理方式。如下圖1是以醫(yī)學(xué)專著《臨床思維基礎(chǔ)與方法》為依據(jù)，對臨床思維內(nèi)容和邏輯的解析而得出的原創(chuàng)性臨床思維理論及其算法。科學(xué)家李四光指出：“科學(xué)尊重事實，不能胡亂編造理由來附會一部學(xué)說?！迸R床綜合診斷算法必須建立在臨床客觀事實基礎(chǔ)之上，第一具有“可靠性”即基于醫(yī)學(xué)知識和臨床數(shù)據(jù)提煉得出，可對臨床醫(yī)學(xué)問題進行科學(xué)分析判斷和解決;第二“正確性”即對臨床數(shù)據(jù)的處理邏輯符合醫(yī)學(xué)知識的內(nèi)在邏輯，與可靠性協(xié)調(diào)統(tǒng)一;第三“可解釋性”即處理臨床數(shù)據(jù)進行推理的每一步可用醫(yī)學(xué)知識解釋——以避免“算法黑箱”（即推理的不可解釋性）;第四“可操作性”即可實現(xiàn)臨床數(shù)據(jù)、信息的結(jié)構(gòu)化，使其可以滿足人工智能大規(guī)模運算對數(shù)據(jù)的要求等四大特性，才能為開發(fā)“值得信賴的AI”提供科學(xué)研究支撐，才能經(jīng)得住臨床檢驗。

2.歸集客觀完整病案

臨床輔助綜合診斷AI的開發(fā)是基于大量的客觀完整病案?？陀^完整病案應(yīng)該是指如實記錄患者主訴、病史、體檢和各項檢查結(jié)果，包含診斷、治療方案及療效的病例資料。所以，歸集整理病案是開發(fā)工作的基礎(chǔ)和前提。隨著信息技術(shù)迅猛發(fā)展，如今醫(yī)院病案室已經(jīng)對所有病案實現(xiàn)全流程、全要素、全單元的系統(tǒng)化、規(guī)范化和可視化收集、整理和保管（門診、住院），這些海量臨床醫(yī)療數(shù)據(jù)，可以為教學(xué)、科研、臨床經(jīng)驗總結(jié)等提供可靠、快捷的支撐和保障。故而在開發(fā)AI之初，務(wù)必要注意進行篩選把關(guān)，從源頭上精選典型病案、防止問題病案混入其中，確保所開發(fā)臨床輔助綜合診斷AI的基于真實可靠的數(shù)據(jù)。

3.取得完整著作權(quán)使用許可

著作權(quán)的使用許可是著作權(quán)人許可他人在一定期限、一定范圍、一定條件下，對自己享有著作權(quán)的某一或某些特定作品，使用其著作權(quán)中財產(chǎn)權(quán)部分的一項或幾項權(quán)利。除《著作權(quán)法》規(guī)定的合理使用、法定許可等可以無需著作權(quán)人授權(quán)許可的情形外，使用他人作品應(yīng)當(dāng)同著作權(quán)人訂立許可使用合同。唯擁有著作權(quán)使用權(quán)，方可依法享有包括民事、行政、訴訟等方面的權(quán)利。因此，著作權(quán)委托開發(fā)AI，必須取得著作權(quán)人正式授權(quán)，倘若取得的著作權(quán)許可使用授權(quán)是由各合作作者共同享有的合作作品，且不可以分割使用，必須依《著作權(quán)法實施條例》第九條規(guī)定，通過協(xié)商一致取得行使權(quán)利。

4.優(yōu)組專業(yè)設(shè)計團隊

開發(fā)臨床輔助綜合診斷AI應(yīng)用軟件，必須是既能深刻理解《臨床思維基礎(chǔ)與方法》的函數(shù)臨床思維f（x）=y理論，同時又能掌握其AI算法，并就此算法進行建模設(shè)計的軟件工程師。就像AlphaGo之父杰米斯·哈薩比斯不僅是國際象棋高手，又是計算機軟件設(shè)計師。想要尋找具備醫(yī)學(xué)和計算機交叉學(xué)科背景的復(fù)合型優(yōu)秀人才，可以說是鳳毛麟角，實際開發(fā)中，我們可以把高水平醫(yī)學(xué)專家和AI專家強強結(jié)合，組建優(yōu)勢互補的開發(fā)團隊，集智攻關(guān)，充分發(fā)揮1+1>2的效能。團隊組建后，針對專著內(nèi)容模型構(gòu)建的具體算法進行反復(fù)磨合、反復(fù)交流、反復(fù)溝通，在全面吃透、融會貫通基礎(chǔ)上，經(jīng)團隊專家評估后確定開發(fā)的原則、路徑和方法，如此可保證總體方向正確，有效提升AI軟件開發(fā)工作效率。

5.嚴格遵循行業(yè)準則

“行身踐規(guī)矩”。唯有遵循行業(yè)準則，所開發(fā)的臨床輔助綜合診斷AI才會取得業(yè)內(nèi)人士共識，才可探索生命規(guī)律，達到科技造福于人類的目的。目前，我國行業(yè)準則有國家新一代人工智能治理專業(yè)委員會發(fā)布的《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》包括八個原則：其中第一條“和諧友好”。人工智能發(fā)展應(yīng)以增進人類共同福祉為目標;應(yīng)符合人類的價值觀和倫理道德，促進人機和諧，服務(wù)人類文明進步;應(yīng)以保障社會安全、尊重人類權(quán)益為前提，避免誤用，禁止濫用、惡用。第二條“公平公正”。人工智能發(fā)展應(yīng)促進公平公正，保障利益相關(guān)者的權(quán)益，促進機會均等。通過持續(xù)提高技術(shù)水平、改善管理方式，在數(shù)據(jù)獲取、算法設(shè)計、技術(shù)開發(fā)、產(chǎn)品研發(fā)和應(yīng)用過程中消除偏見和歧視。第三條“包容共享”。人工智能應(yīng)促進綠色發(fā)展，符合環(huán)境友好、資源節(jié)約的要求;應(yīng)促進協(xié)調(diào)發(fā)展，推動各行各業(yè)轉(zhuǎn)型升級，縮小區(qū)域差距;應(yīng)促進包容發(fā)展，加強人工智能教育及科普，提升弱勢群體適應(yīng)性，努力消除數(shù)字鴻溝;應(yīng)促進共享發(fā)展，避免數(shù)據(jù)與平臺壟斷，鼓勵開放有序競爭……這八大原則均圍繞促進新一代人工智能的健康發(fā)展，更好地協(xié)調(diào)發(fā)展與治理關(guān)系，確保人工智能安全可靠可控，推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，共建人類命運共同體等方面提出了要求。這八項原則是AI開發(fā)和應(yīng)用必須遵循的原則和路線。

但我們在接觸著作權(quán)委托開發(fā)AI爭議中深切感受到，著作權(quán)委托開發(fā)AI應(yīng)用軟件，極易出現(xiàn)AI技術(shù)性問題（包括可控性、穩(wěn)健性和安全性等）、商業(yè)機密泄漏、著作權(quán)歸屬爭議三類核心風(fēng)險，從源頭上對這些風(fēng)險因素嚴格把控，是成功開發(fā)“值得信賴的AI”關(guān)鍵所在。

二、AI應(yīng)用軟件運算可靠性及其控制措施

臨床輔助綜合診斷AI作為一種計算機軟件，其開發(fā)目的是讓計算機通過深度神經(jīng)網(wǎng)絡(luò)模擬醫(yī)生的頭腦進行學(xué)習(xí)、判斷和決策，以期達到模擬醫(yī)生解讀、分析病例和判斷病情的能力。從圖2可以看出，AI三大要素：算法、硬件、數(shù)據(jù)缺一不可，[3]而算法是影響AI最終運算分析結(jié)果的首要核心要素。若最初AI軟件設(shè)計師不能深入理解臨床診治路徑和科學(xué)把握臨床綜合診斷算法，那么在模型設(shè)計階段哪怕一個細小的紕漏，當(dāng)相關(guān)數(shù)據(jù)輸入計算機后，依據(jù)其研發(fā)的AI算法最終運算結(jié)果或?qū)⒅囍Ю?，這無疑影響AI可控性、穩(wěn)健性和安全性。

毋庸置疑，從源頭上控制AI可控性、穩(wěn)健性和安全性是解決問題的關(guān)鍵所在，即需在AI軟件設(shè)計之初，委托方以合同的形式約定受托方，對所開發(fā)AI應(yīng)用軟件必須從構(gòu)架設(shè)計開始到移交為止的全程技術(shù)把控。質(zhì)量控制流程可效仿圖書質(zhì)量管理“三審三?！敝贫?，設(shè)立各系統(tǒng)和過程控制的“責(zé)任編輯”制度。例如，《臨床思維基礎(chǔ)與方法》專著委托開發(fā)臨床輔助綜合診斷AI軟件，首先，在AI軟件開發(fā)前，在明確權(quán)利人時，確定醫(yī)學(xué)系統(tǒng)和軟件系統(tǒng)總負責(zé)人，分別對臨床輔助綜合診斷AI的算法及其程序設(shè)計負責(zé)。每個子系統(tǒng)也相應(yīng)設(shè)立責(zé)任人，分別對口向上一個級別負責(zé)匯報，這樣可以把所有系統(tǒng)和開發(fā)過程納入閉環(huán)管理之中。其次，約定AI軟件提交用戶驗收前，要求開發(fā)流程中諸如軟件系統(tǒng)和概要設(shè)計、軟件編碼、軟件測試等每個環(huán)節(jié)，都必須由責(zé)任設(shè)計、責(zé)任編碼、責(zé)任軟件測試三類技術(shù)人員進行嚴格的“三級審核”和“三級測試”質(zhì)量控制。再次，若遇AI軟件修改進行的回歸測試，還務(wù)必于每次回歸測試的同時，連同程序設(shè)計說明書、流程圖、用戶手冊等在內(nèi)的文檔也要再次走一遍“三級審核”和“三級測試”質(zhì)量控制流程。

三、AI算法和數(shù)據(jù)防泄密辦法構(gòu)建

目前那些用戶體驗好并已形成好口碑的AI應(yīng)用軟件，極易在激烈的市場角逐中成為不法者竊取商業(yè)秘密的目標。侵犯商業(yè)秘密的手段繁多，或通過軟件開發(fā)企業(yè)員工、前員工侵犯商業(yè)秘密，或“黑客”以非法手段侵入他人計算機系統(tǒng)、植入電腦病毒等旁門左道盜取商業(yè)秘密。

商業(yè)秘密泄密，除了由《反不正當(dāng)競爭法》第九條列舉的四種侵犯商業(yè)秘密行為以及“黑客”非法入侵等情形導(dǎo)致外，還與商業(yè)秘密權(quán)利人采用的保密措施有關(guān)。為此，權(quán)利人可依法構(gòu)筑一套綜合防范體系，以營造一種相對去危就安的環(huán)境。權(quán)利人具有在法律范圍內(nèi)實施某種行為的積極行為的權(quán)利，也有請求義務(wù)人履行法律義務(wù)的請求權(quán)，在義務(wù)人違反法律要求其承擔(dān)的義務(wù)時，還具有訴諸國家法律，要求協(xié)助保護其權(quán)利的要求保護權(quán)。例如，《臨床思維基礎(chǔ)與方法》專著委托開發(fā)臨床輔助綜合診斷AI軟件開發(fā)伊始，權(quán)利人就敏銳地意識到在軟件開發(fā)中保密的重要意義，為防止AI應(yīng)用軟件最核心的商業(yè)秘密——算法和臨床醫(yī)學(xué)數(shù)據(jù)（見圖2）泄密，權(quán)利人即用嚴謹?shù)暮贤瑮l款對義務(wù)人進行了三個方面約定：一是在保密層面，針對《反不正當(dāng)競爭法》第九條列舉的四種侵犯商業(yè)秘密行為，在保密條款中對應(yīng)四種侵犯商業(yè)秘密行為進行了規(guī)制，以限制義務(wù)人惡意泄密;二是在軟件開發(fā)技術(shù)層面，約定義務(wù)人必須運用數(shù)字化信息技術(shù)，設(shè)計針對臨床輔助綜合診斷AI軟件的數(shù)字著作權(quán)進行保護的整套技術(shù)方案，以使AI軟件不被非法復(fù)制、修改和任意傳播;三是在制度管理層面，以制度的形式約定義務(wù)人遵守規(guī)定的權(quán)限，約束義務(wù)人若未履行一定的手續(xù)，不得擅自越權(quán)運行AI軟件。

上述對義務(wù)人制約的方式并非萬無一失。因為，隨著互聯(lián)網(wǎng)的發(fā)展，軟件加密技術(shù)在不斷升級的同時，一些“電子侵入”防不勝防，通過對軟件復(fù)制、重編等技術(shù)改頭換面后進行盜版軟件生產(chǎn)?！斗床徽?dāng)競爭法》明確將“電子侵入”列為不正當(dāng)獲取商業(yè)秘密的手段。對此，權(quán)利人可以通過逆向工程（又稱逆向技術(shù)）溯源方式來尋找證據(jù)。查看疑似盜版的AI應(yīng)用軟件是否是通過設(shè)計技術(shù)再現(xiàn)過程進行逆向分析及研究，從而演繹并得出正版AI應(yīng)用軟件的組織結(jié)構(gòu)、功能特性和技術(shù)規(guī)格等設(shè)計要素，并制作出功能相近，但又不完全一樣的產(chǎn)品。若逆向工程破解結(jié)果發(fā)現(xiàn)其核心要素是盜用權(quán)利人算法（完全一樣）和臨床醫(yī)學(xué)數(shù)據(jù)（部分吻合），則可以按合同約定要求相關(guān)義務(wù)人協(xié)助進一步確認證據(jù)并起訴。

四、AI應(yīng)用軟件著作權(quán)歸屬爭議及其解決途徑

AI應(yīng)用軟件著作權(quán)歸屬爭議，往往體現(xiàn)于開發(fā)成果的著作權(quán)分配的約定，這是著作權(quán)委托開發(fā)AI合同的重點，倘若雙方對合同表述條款理解不一，極易滋生爭議或糾紛。例如，《臨床思維基礎(chǔ)與方法》的原創(chuàng)性函數(shù)臨床思維理論及其算法，委托開發(fā)臨床輔助綜合診斷AI軟件案例中，委托人約定“向受托人支付開發(fā)費用，全部版權(quán)歸委托人所有”。但受托人要求合同的著作權(quán)歸屬條款更改為“所委托開發(fā)的AI軟件，其著作權(quán)以及進一步開發(fā)的權(quán)利歸甲乙雙方共同所有”。委托人則認為：“AI應(yīng)用軟件的核心要素是我方的臨床綜合診斷算法，在合同中已約定了我方向受托方支付報酬，即視為買下了所開發(fā)AI應(yīng)用軟件的著作權(quán)”?！队嬎銠C軟件保護條例》第十一條規(guī)定“接受他人委托開發(fā)的軟件，其著作權(quán)的歸屬由委托人與受托人簽訂書面合同約定;無書面合同或者合同未作明確約定的，其著作權(quán)由受托人享有?！笨梢?，法律規(guī)定委托作品的著作權(quán)主要是通過委托合同來約定。本案中委托方約定的支付報酬，只是對受托方開發(fā)AI應(yīng)用軟件付出創(chuàng)造性勞動的補償，但不能認為這就是買斷AI應(yīng)用軟件的著作權(quán)。

本案焦點問題集中體現(xiàn)為委托方欲力圖取得AI軟件著作權(quán)而對合同條款不認可所引發(fā)的爭議。合同屬“契約”類文書，是就其中涉及問題經(jīng)過談判或共同協(xié)商謀求意見一致后，所訂立的一種具有經(jīng)濟或其它關(guān)系的契約性文書。為了保護合同當(dāng)事人的合法權(quán)益，維護社會經(jīng)濟秩序，爭議完全可通過再談判或協(xié)商來達成共識，例如，可參照經(jīng)濟規(guī)律和醫(yī)療AI科技前景預(yù)測為前提，修改付酬條款，或約定受托方作為技術(shù)資源投資，與委托方共同發(fā)展等方式，以達到如期履行“契約”的目的。

值得指出的是，雖然《計算機軟件保護條例》第五條規(guī)定“中國公民、法人或者其他組織對其所開發(fā)的軟件，不論是否發(fā)表，依照本條例享有著作權(quán)”，即“自動保護”原則，但軟件需經(jīng)過登記后，軟件著作權(quán)人才享有發(fā)表權(quán)、開發(fā)者身份權(quán)、使用權(quán)、使用許可權(quán)和獲得報酬權(quán)[4]。

五、總結(jié)

信息技術(shù)飛速發(fā)展，不斷催生出新的著作權(quán)類型，例如，互聯(lián)網(wǎng)書刊、著作權(quán)委托制作的音視頻產(chǎn)品、著作權(quán)委托開發(fā)的AI應(yīng)用軟件等。我國一貫重視著作權(quán)的保護，旨在用法律手段、經(jīng)濟杠桿來激發(fā)和保證智力產(chǎn)品的創(chuàng)新和傳播，促進社會主義市場經(jīng)濟繁榮，推動人類文明發(fā)展進程。為了適應(yīng)社會的發(fā)展和科技的進步，我國陸續(xù)對正式頒布的《中華人民共和國著作權(quán)法》《計算機軟件保護條例》《信息網(wǎng)絡(luò)傳播權(quán)保護條例》等相關(guān)法律法規(guī)進行了適時的修訂。信息科學(xué)與技術(shù)驅(qū)動下的數(shù)字經(jīng)濟風(fēng)暴勢不可遏。數(shù)字化時代，數(shù)據(jù)已成為21世紀最重要的資產(chǎn)，隨之帶來的算法泄密、數(shù)據(jù)被盜不可避免，這無疑要求我們一方面要緊隨科技發(fā)展的步伐，善于用愈加精準化和科技化的手段對著作權(quán)予以保護;另一方面要學(xué)會運用法律武器、采取法律手段，保護自身著作權(quán)權(quán)益。有讀者會提出疑問，大數(shù)據(jù)時代著作權(quán)的所有權(quán)歸屬到底是個人還是全人類？對此，國家在立法監(jiān)管層面已開始謀篇布局：一是全面推進《中華人民共和國數(shù)據(jù)安全法》立法，探索建立數(shù)據(jù)權(quán)屬確定等方面的法律法規(guī)，為數(shù)據(jù)交易建立制度性根基。二是加強數(shù)據(jù)作為生產(chǎn)要素參與分配的機制研究，兼顧效率與公平，推動建立以最優(yōu)化為目標的要素分配方式，實現(xiàn)政府、企業(yè)、個人三方的激勵相容。三是確立完善的數(shù)據(jù)交易監(jiān)管制度，制定有效的監(jiān)管措施，執(zhí)行嚴格的準入條件，保障數(shù)據(jù)交易合法合規(guī)。

參考文獻：

[1]百度百科.人工智能[EB/OL].[2020-05-11].https：//baike.baidu.com/item/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD/9180.

[2]北絳.“阿爾法狗”之父哈薩比斯：實打?qū)嵉膲粝爰襕N].中國科學(xué)報，2016-04-01.

[3]人工智能的三大要素：算法、硬件、數(shù)據(jù)缺一不可[EB/OL].[2020-05-11].https：//www.sohu.com/a/337997324_439726.

[4]百度百科.軟件著作權(quán)[EB/OL].[2020-05-11].https：//baike.baidu.com/item/%E8%BD%AF%E4%BB%B6%E8%91%97%E4%BD%9C%E6%9D%83/3348250？fr=aladdin.

（作者單位系軍事科學(xué)出版社）