解庭峰

（安徽大學法學院,安徽 合肥 230039）

1 問題的提出

在大數(shù)據(jù)時代，智能化算法不僅可以針對用戶的興趣愛好進行個性化推送，還可以用于推測人的財務狀況和工作能力等情況，除此之外還被應用于互聯(lián)網(wǎng)搜索、產(chǎn)品推薦、自動駕駛等多個領域，其在現(xiàn)代的政治、經(jīng)濟領域已經(jīng)產(chǎn)生了巨大的影響，深刻改變了人們的行為模式和商業(yè)的經(jīng)營模式。但智能化算法造成的負面影響也屢見報端，比如近期廣州一女子地鐵照片被人工智能（AI）“一鍵脫衣”[1]；OpenAI推出的人工智能ChatGPT在與用戶溝通過程中頻頻發(fā)表種族歧視和性別歧視言論等[2]。如何規(guī)避智能化算法的負面效應，對智能化算法的使用進行合理規(guī)制，是進一步發(fā)展智能化算法需要解決的重要問題。

在現(xiàn)有的算法侵權糾紛案件中，存在兩種觀點，一種觀點認為智能化算法的控制人應當對算法侵權承擔相應的民事侵權責任，但對其為何要承擔侵權責任，適用的是何種歸責原則并沒有一致意見。另一種觀點則認為智能化算法的控制人無需承擔侵權責任，其理論依據(jù)為算法黑箱。國內(nèi)學界主張以算法透明和算法解釋進行分析，從技術角度探究智能化算法的決策過程，從而避免算法黑箱問題[3]，但此種方式并不能解決智能化算法決策的歸責問題。故本文嘗試以現(xiàn)有的法律規(guī)范來分析智能化算法侵權行為，從而確定智能化算法侵權情形下的歸責原則和認定侵權的構成要件。

2 智能化算法的侵害形式

智能化算法的決策基礎是可以數(shù)據(jù)化的概念，對無法數(shù)據(jù)化的信息智能化算法不具有處理的能力，現(xiàn)實世界的復雜性在算法的輸入階段就被簡化了，由此得出的算法決策模式自然與真實的場景相去甚遠。而且智能化算法運作的底層邏輯就是自我編程，一方面存在外部數(shù)據(jù)輸入的片面性，另一方面智能化算法具有學習功能，在運行中會不斷修正計算結果，難以實時監(jiān)測，因此人類并不能理解算法決策的過程和其邏輯，其自我優(yōu)化的方向也可能與控制者的意圖不同。由此就產(chǎn)生了智能化算法造成損害的問題。

智能化算法構成侵害的形式包括：對個人的犯罪風險和財務風險進行大數(shù)據(jù)算法評估形成算法標簽；對不同的個體采取差別化對待形成的算法歧視；利用算法個性化推送和檢索過濾等方式影響個人的意思形成與行為抉擇的算法操縱；此外還包括算法因設計缺陷和輸入數(shù)據(jù)的片面性或第三人濫用而作出錯誤決策[4]。上述算法侵權形式首先會對個人的人身或財產(chǎn)權益造成損害，且由于智能化算法的應用具有系統(tǒng)性和規(guī)模性，因此又會對整個社會造成巨大的負面影響。

3 智能化算法控制者擔責的義務基礎

智能化算法的決策范圍是有限的，算法的使用環(huán)境、如何設計算法模型以及如何利用算法的輸出結果都在控制者的預知范圍之內(nèi)。對人臉識別技術的應用即是如此，在管理較為寬松的場景，如小區(qū)、校園通過人臉識別管理進出人員，對人臉識別技術的精度并無過高的要求。但在金融領域或執(zhí)法領域應用人臉識別技術就需要其具備極高的精度和準確度，因為只要人臉識別出錯，就可能造成個人的人身或財產(chǎn)損失。因此控制者有提供與使用場景相符的算法的義務?？偠灾幢闶窃谒惴ㄔ桨l(fā)智能化的大數(shù)據(jù)時代，算法控制者對最終決策的產(chǎn)生仍然有不可替代的影響力，算法控制者擔責的義務基礎就在于此。

3.1 智能化算法應具備合法性

首先，智能化算法本身應當具備合法性。任何在設計之初就以侵犯他人合法權益從而謀取利益為目的的算法都應當明令禁止，如網(wǎng)約車平臺所使用的“殺熟”算法利用大數(shù)據(jù)信息對不同消費者區(qū)別定價侵犯了消費者的合法權益。其次，中立算法的應用場景應當具備合法性。若本身中立的算法被用于違法目的，則此時該算法也就不具備合法性。如某男子利用深度合成技術①的換臉功能合成自己與女明星親吻的視頻，更有甚者使用深度合成技術制作淫穢視頻。該種算法本身不合法或應用場景不合法，說明算法控制者的主觀意圖必然不具備正當性。

3.2 用于算法訓練的數(shù)據(jù)應具有合理性

智能化算法具有機器學習功能，通過對輸入數(shù)據(jù)進行識別與分析，從而在面對相似類型的數(shù)據(jù)時可以作出相應的決策。輸入數(shù)據(jù)須滿足以下條件：首先，數(shù)據(jù)必須真實且完整。如果輸入的數(shù)據(jù)存在瑕疵或者不完整，那么必然會導致算法作出的決策出現(xiàn)誤差，因此必須保證輸入到智能化算法中的數(shù)據(jù)真實且完整②。其次，用于算法訓練的數(shù)據(jù)要與算法的應用場景相契合。任何算法都具有特定的目的和應用場景，只有符合具體的應用場景的數(shù)據(jù)才能用于算法的訓練。最后，在算法訓練過程中需要人為地對數(shù)據(jù)進行歸類和糾正。算法在對數(shù)據(jù)進行分類和標簽化的過程中有出現(xiàn)錯誤的可能性，就會導致原來真實、完整的數(shù)據(jù)可能不具有合理性，因此有必要采用人工干預的方式對算法進行引導。

3.3 智能化算法應具備可控性

由于算法黑箱的存在，智能化算法在輸入數(shù)據(jù)、分析數(shù)據(jù)和作出決策的過程中存在造成損害的可能性，與此具有一定相似性的是飼養(yǎng)的動物，動物和智能化算法一樣，均具有一定的不可控性和危險性，針對飼養(yǎng)的動物，相關法律法規(guī)規(guī)定動物飼養(yǎng)人必須對飼養(yǎng)的動物進行有效控制，防止其對他人造成損害。而智能化算法一旦應用于網(wǎng)絡，與之接觸的人以百萬計，就更需要控制者對其進行有效控制。為了對智能化算法進行有效監(jiān)督和控制，可以鼓勵非營利的第三方機構介入其中，要求算法控制者進行算法認證[5]。現(xiàn)在用于算法認證的工具是算法測試，該工具的適用不需要算法的程序設計和底層代碼，而是通過對算法運算反推來進行測試。

4 智能化算法控制者的主觀意志解析

智能化算法的編寫和運作流程包括建立算法模型、進行數(shù)字化編碼、輸入數(shù)據(jù)信息并訓練算法、輸出結果。智能化算法所輸出的結果取決于設計者在建構算法時的主觀目的、輸入的數(shù)據(jù)樣本、學習階段用戶提供的數(shù)據(jù)信息等多重因素。判斷算法控制者是否對算法所造成的損害具備主觀意志需要對控制者在各個階段的主觀狀態(tài)都有所了解，包括設計算法模型時具備明確的目標、在算法運行階段知曉算法運作進程、能夠預見算法在運作過程中產(chǎn)生的逃逸風險。

4.1 由算法的設計目的可知算法控制者的主觀意志

智能化算法自身不具有構建算法模型的能力，是算法控制者基于其應用要求來確定目標、指令和用于機器學習的訓練數(shù)據(jù)，且算法控制者可以任意設定算法的分析邊界，算法對邊界內(nèi)的因素予以考慮，忽略邊界外的因素，從而限定運算結果。比如，“if … then”是最基本的算法規(guī)則，“if”是算法控制者預設的算法分析邊界，“then”則是算法控制者的決策目標。在網(wǎng)絡招聘算法中，如果設定的算法包含“若候選人患有乙肝，則候選人不合格”的運算邏輯，該算法就體現(xiàn)了算法控制者對乙肝人群的歧視。因此即便存在算法黑箱，算法控制者亦明確知曉算法的設計目的，由此便可得知算法控制者的主觀意志。

4.2 由算法訓練進程可知算法控制者的主觀意志

智能化算法的機器學習包括監(jiān)督學習和非監(jiān)督學習兩種形式，算法控制者會根據(jù)算法的目標和類型選擇其中一種學習形式。若用于算法訓練的數(shù)據(jù)中已經(jīng)包含了決策結果的相關特征，則采用監(jiān)督學習形式較為適宜。監(jiān)督學習所使用的數(shù)據(jù)都是已標簽化的數(shù)據(jù)，算法控制者能夠把控機器學習過程，也就對該算法具有更強的控制能力。但如果用于算法訓練的數(shù)據(jù)是尚未標簽化的數(shù)據(jù)，算法則要對雜亂的數(shù)據(jù)進行聚類，就需要采用非監(jiān)督學習形式。該種學習形式需要智能化算法自行分析數(shù)據(jù)進行機器學習，在數(shù)據(jù)存在瑕疵或偏見的情況下，利用該數(shù)據(jù)訓練的算法就必然會存在瑕疵或帶有偏向性。此外在算法設計過程中，若以單一、簡單的數(shù)據(jù)作為學習樣本，智能化算法會將單一特征當作整體性特征，形成算法偏見。當學習樣本是龐大而多變的數(shù)據(jù)時智能化算法會降低偏見，卻可能會將大量正確卻無關的數(shù)據(jù)納入其中。算法控制者是選擇監(jiān)督學習還是非監(jiān)督學習，選取單一、簡單的學習樣本還是龐大、多變的學習樣本都體現(xiàn)了算法控制者對算法訓練進程的了解和控制，進而可知算法控制者的主觀意志。

4.3 由算法逃逸風險可知算法控制者的主觀意志

算法逃逸是指算法運行出乎算法控制者的預料，產(chǎn)生了預設目標之外的結果。智能化算法具有機器學習的功能，是一個對外界數(shù)據(jù)開放的系統(tǒng)。因此智能化算法會受到外部數(shù)據(jù)的影響，出現(xiàn)算法逃逸的情況。出現(xiàn)算法逃逸一般存在兩種原因：一是算法在設計或?qū)W習階段存在不足，在機器學習階段輸入數(shù)據(jù)較為單一或算法設計層面存在紕漏。如2020年10月，在蘇格蘭足球冠軍聯(lián)賽中，智能轉播系統(tǒng)誤將裁判的光頭識別為足球，導致攝像頭總是追隨著這位裁判，該比賽也因此成為一場被高科技毀掉的比賽。二是外界存在數(shù)據(jù)干擾，并且往往攻擊安全性最薄弱的環(huán)節(jié)，即算法學習系統(tǒng)。對于具有機器學習功能的算法而言，輸入數(shù)據(jù)出現(xiàn)輕微變動，都可能導致算法的學習結果與設想結果大相徑庭。作為智能化算法的控制者必然知曉算法存在的逃逸風險可能會侵害用戶的合法權益。

綜上所述，智能化算法控制者知曉算法的設計目的、算法的訓練過程以及算法在具體應用場景中可能出現(xiàn)的負面效應。盡管由于算法黑箱的存在，難以判定智能化算法控制者對算法侵權是否有明確的主觀過錯，但在智能化算法存在安全風險并可能損害用戶權益的情況下，算法控制者未采取相應的糾正措施，這就為對智能化算法控制者進行歸責提供了相應的依據(jù)。

5 智能化算法控制者的行為與損害結果的因果關系

侵害行為和損害結果之間存在因果關系是認定侵權責任的關鍵要素，但智能化算法決策的產(chǎn)生過程和推演邏輯因算法黑箱的存在而無從得知。因此智能化算法控制者的行為與損害結果之間因果關系的認定要比普通侵權案件中因果關系的認定復雜得多。傳統(tǒng)學說中有多種認定因果關系的理論，如法規(guī)目的說、近因理論、相當因果關系說等。判斷智能化算法控制者的行為與損害結果之間因果關系選擇何種理論應結合算法的特性。鑒于智能化算法的自我學習特性、內(nèi)部的復雜性和算法黑箱的存在，筆者認為以相當因果關系說作為判斷標準較為適宜。相當因果關系說主張構成損害的原因需滿足兩個條件：一是該原因是損害發(fā)生的必要條件，該條件的檢驗方法一般為“若無，則不”，即若無此行為，就不會發(fā)生損害[6]。二是該原因?qū)е聯(lián)p害的發(fā)生存在高度的蓋然性。即以一般理性人能夠預見或應當預見該原因會導致?lián)p害發(fā)生，和一般人雖不能預見但因行為人的職業(yè)而能夠預見或應當預見該原因會導致?lián)p害發(fā)生。

5.1 算法模型缺陷和損害結果之間的直接因果關系

算法控制者所設計的智能化算法本身存有缺陷是造成損害結果的直接原因。從智能化算法的外部觀察，智能化算法似乎是中立性的技術工具，但若算法控制者設計的算法本身所追求的目標違反法律法規(guī)或通過侵犯他人權益而獲益，此時智能化算法作出的決策必然會造成損害結果。如典型的大數(shù)據(jù)“殺熟”算法、信息繭房式的推薦算法以及違法收集個人隱私信息的算法等，其設計初衷就在于侵犯他人權益，無論其內(nèi)部決策過程如何，該智能化算法的控制者設計算法的行為與最終的損害結果都存在直接的因果關系。

5.2 數(shù)據(jù)瑕疵和損害結果之間存在間接因果關系

數(shù)據(jù)是智能化算法進行決策的基礎，智能化算法的決策和數(shù)據(jù)的特征選擇、訓練數(shù)據(jù)的標簽、目標變量等因素相關，不準確、不全面的數(shù)據(jù)都有可能造成數(shù)據(jù)瑕疵。數(shù)據(jù)瑕疵分為以下兩種情況：一是數(shù)據(jù)固有瑕疵，智能化算法在繁雜的大數(shù)據(jù)中提取出的數(shù)據(jù)要素必然帶有社會對事實的普遍認知，如果這些普遍認知本身具有偏見性，那么智能化算法處理后的數(shù)據(jù)必然也會存在相應的瑕疵。二是數(shù)據(jù)標注和處理瑕疵。智能化算法在進行機器學習的過程中需要先對收集到的數(shù)據(jù)進行標簽化處理從而建立變量之間的相關性，數(shù)據(jù)的分類、數(shù)據(jù)的標簽化及對數(shù)據(jù)標簽化的糾偏都有可能導致數(shù)據(jù)出現(xiàn)瑕疵，從而造成算法作出的決策致人損害。

6 探索智能化算法侵權的認定規(guī)則

前文對傳統(tǒng)侵權責任歸責原則中的構成要件進行的分析表明，盡管智能化算法存在很強的技術性，但仍未超出現(xiàn)有的侵權法律體系范疇。但傳統(tǒng)責任理論在面對算法黑箱、機器學習、自動決策等新型技術時，也存在一些適用上的難題，因此有必要針對智能化算法的技術特性選擇合適的歸責原則，并對其進行一定的限制和修改，為解決智能化算法侵權的歸責問題構建適當?shù)呢熑纬袚绞健?/p>

6.1 一般侵權責任條款適用檢視

一般侵權責任原則要求受害方證明構成侵權的全部要件，但算法黑箱的存在使得受害人難以證明智能化算法控制人存在主觀過錯和其行為與損害結果之間存在因果關系，而且智能化算法控制人了解智能化算法的運作原理并且能夠?qū)χ悄芑惴ㄟM行技術控制，因此為保障受害人合法權益，有學者主張利用算法解釋權③制度要求智能化算法控制人對算法的決策原理進行披露[7]。但筆者認為算法解釋權制度無法解決一般侵權責任條款在智能化算法侵權的適用困境。

首先，智能化算法是智能化算法控制者投入大量金錢和時間研發(fā)的產(chǎn)物，往往是智能化算法控制者掌握的核心技術秘密。將智能化算法認定為商業(yè)秘密是學界和司法實務界普遍持有的觀點。而且在保護智能化算法相關的商業(yè)秘密和支持算法解釋權之間，法官往往會選擇保護公司的商業(yè)秘密。如在一例大數(shù)據(jù)“殺熟”案件中，原告主張美團通過大數(shù)據(jù)“殺熟”技術向其多收取1元的配送費，要求美團承擔侵權責任，在該案中法院未要求美團對其算法進行解釋，而是判定由原告承擔全部的舉證責任④。因為如果法院強制算法控制者公開并解釋算法決策可能會導致企業(yè)商業(yè)秘密的泄露，因此在司法實踐中要求算法控制者對算法決策進行解釋不具有可行性，但也引起了使算法不透明合法化的爭議[8]。其次，對算法的事后解釋也并不能完全解釋算法黑箱。智能化算法作出決策的算法邏輯與智能化算法控制者的決策邏輯并不一定相同，即便通過算法解釋權受害人能夠知曉算法內(nèi)部的運行邏輯，智能化算法控制者還是能夠以算法黑箱來抗辯。最后，受害方對智能化算法的理解能力有限，無法對解釋結果進行有效分析和判斷。假設法院通過算法解釋權，算法解釋權制度要求智能化算法控制者解釋智能化算法決策的運作邏輯，只憑一般受害人對智能化算法的理解水平很難找出算法模型缺陷或者數(shù)據(jù)瑕疵，更遑論證明智能化算法控制者的侵權責任。即便受害人聘請相關專業(yè)人士協(xié)助舉證，也極難證明其中微小的數(shù)據(jù)瑕疵與損害結果之間存在因果關系，還會極大地加重受害人的訴訟負擔。故一般侵權責任條款不能解決智能化算法侵權歸責問題。

6.2 適用產(chǎn)品責任規(guī)則的可行性分析

6.2.1 形式要件：智能化算法的產(chǎn)品屬性

我國《產(chǎn)品質(zhì)量法》將產(chǎn)品界定為“經(jīng)過加工、制作，用于銷售的產(chǎn)品”，智能化算法是否屬于產(chǎn)品，需以立法界定的產(chǎn)品概念來判斷。首先，“加工、制作”所指的是通過人的介入來改變物質(zhì)的行為，智能化算法是人為設計的產(chǎn)物，當然滿足“加工、制作”這一要件。其次，“銷售”是指以營利為目的將產(chǎn)品交由用戶使用的行為，現(xiàn)如今將智能化算法提供給用戶有多種方式，其中與實物相結合通過售賣的方式提供給用戶，自然屬于銷售行為。而對于包含算法的軟件供用戶免費下載并使用是否屬于銷售則頗具迷惑性。事實上，軟件的免費下載和使用并非真正的免費，在大數(shù)據(jù)時代，平臺的訪問量、用戶數(shù)量以及用戶在平臺上的行為所產(chǎn)生的數(shù)據(jù)就是核心競爭力，用戶使用軟件的行為本身就是在向經(jīng)營者支付費用。最后，產(chǎn)品的范疇是否限于有體物？在民法學說中對物的定義就包含了有體物和無體物兩種形式，電磁波也被認定為物。通過電磁波進行運作的智能化算法自然也屬于物。并且在大數(shù)據(jù)時代，產(chǎn)品已經(jīng)不再局限于硬件設施，軟件也具備產(chǎn)品屬性，如有的算法已經(jīng)可以作為虛擬裝置申請專利。因此，智能化算法可以被看作智能化算法控制者提供的一項電子產(chǎn)品。

6.2.2 實質(zhì)要件：智能化算法適用產(chǎn)品責任規(guī)則的理論基礎

產(chǎn)品致人損害適用的是嚴格責任歸責原則。我國一般稱嚴格責任為無過錯責任，無過錯責任原則的發(fā)展經(jīng)歷了漫長的歷史演進，而產(chǎn)品責任從適用一般的過錯原則轉變?yōu)檫m用無過錯責任原則，源于法學界對產(chǎn)品責任的新的認識。首先，民法并非純粹的交易法，其同時也保護自然人的生命和健康等人格權益，以免產(chǎn)品消費者受到因產(chǎn)品導致的傷害。因此在法律層面產(chǎn)品提供者就負有保證產(chǎn)品不具有危險性的保證義務，即使其已經(jīng)盡到了一定的注意義務。其次，隨著科學技術的發(fā)展，產(chǎn)品的內(nèi)部結構越發(fā)復雜，一般人很難證明產(chǎn)品存在瑕疵，若仍適用過錯原則，受害人將難以舉證。只有采取無過錯責任原則，由最了解產(chǎn)品的生產(chǎn)者來舉證，才符合公平原則的要求[9]。

綜上所述，智能化算法相比于普通產(chǎn)品具有更復雜的內(nèi)部結構，受害人基本沒有舉證的能力和條件。并且由智能化算法控制者承擔舉證責任同樣存在相應的義務基礎和主觀意志基礎，因此智能化算法侵權適用產(chǎn)品責任規(guī)則并無理論上的阻礙。目前國外已經(jīng)出現(xiàn)要對智能化算法侵權適用產(chǎn)品責任規(guī)則的聲音，歐洲議會曾在相關會議中提出要撤銷對新興數(shù)字技術適用的舉證責任的規(guī)則，轉而適用產(chǎn)品責任規(guī)則。未來我國可以結合智能化算法的監(jiān)管經(jīng)驗，以《民法典》的產(chǎn)品責任條款為歸責基礎，再輔之以行政管理規(guī)范，針對智能化算法侵權構建多元協(xié)同的法律責任機制。

注釋：

①合成技術是指利用以深度學習、虛擬現(xiàn)實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。

②《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第14條：深度合成服務提供者和技術支持者應當加強訓練數(shù)據(jù)管理，采取必要措施保障訓練數(shù)據(jù)安全。

③指當算法所輸出的自動化結果對算法相對人產(chǎn)生法律上或其他方面的重大影響時，算法相對人有權要求算法背后的行為人對該結果的來源進行解釋。

④劉權、北京三快科技有限公司侵權責任糾紛二審民事判決書，湖南省長沙市中級人民法院（2019）湘01民終9501號民事判決書。