□唐逸倫

(武漢大學(xué)，武漢 430072)

一、問題的提出

工業(yè)社會以來，科技革命便愈發(fā)呈現(xiàn)出自反性特征：解決方案和解放許諾在付諸實施時明顯暴露出成問題的一面，而這些又反過來成了科學(xué)密集分析的對象。[1]人工智能時代，科技革命的這種自反性更為明顯——帶有“人為制造的不確定性”的人工智能技術(shù)，無疑是對人類算力和決策力的巨大解放，但大數(shù)據(jù)技術(shù)、深度學(xué)習(xí)技術(shù)的大量運用使得人工智能的可解釋性及可預(yù)測性日漸淡化，這暗合了貝克對風(fēng)險社會的描述，成為了擔(dān)憂與反思的起點——風(fēng)險和焦慮總是相伴而生、如影隨形。[2]在人工智能技術(shù)已得到廣泛運用的今天，如何面對人工智能應(yīng)用過程中引發(fā)的社會問題，已成為當(dāng)代法學(xué)研究的重要使命。

近年來的人工智能刑法學(xué)研究基本圍繞以下三個命題展開：第一，人工智能刑法學(xué)研究意義，即是否有必要在當(dāng)下開展人工智能的刑法研究；第二，人工智能體的刑法地位，即人工智能體能否具有刑事責(zé)任主體地位；第三，涉人工智能犯罪中的歸責(zé)問題，包括如何在人工智能體及其研發(fā)者、使用者間配置刑事責(zé)任和新型罪名的設(shè)立討論。討論過程中，學(xué)界基本形成了三種截然不同的研究思路，即“將來視角”“當(dāng)下視角”及“統(tǒng)合視角”；不同的研究思路導(dǎo)致了學(xué)界研究重心的分歧。認(rèn)同“未來視角”的學(xué)者往往立足于“強人工智能”的概念，對技術(shù)進(jìn)步抱持極高的期待與信念，試圖構(gòu)建面向未來的、能夠兼容強、弱兩種人工智能體的新刑法體系。[3]與之相對，“當(dāng)下視角”則堅持刑法對未來的謙抑品質(zhì)，試圖挖掘傳統(tǒng)刑法教義學(xué)在當(dāng)下及短期未來的適用潛力。[4]103“統(tǒng)合視角”則認(rèn)為“將來視角”與“當(dāng)下視角”無法兼顧涉人工智能犯罪及刑法教義學(xué)的現(xiàn)狀與未來，因此主張以“算法安全犯罪”的概念同時指稱弱人工智能時代的涉人工智能犯罪及強人工智能時代的涉人工智能犯罪，進(jìn)行合并研究。[5]

考察“將來視角”及“統(tǒng)合視角”，以下問題值得注意：首先，人工智能領(lǐng)域刑事立法的過早啟動違背了刑法謙抑性的基本品格。作為一項新興的技術(shù)類型，人工智能與法治的耦合應(yīng)肇始于民商事及行政領(lǐng)域的法治實踐。“將來視角”對強人工智能體犯罪的討論將刑事立法置于法治實踐以前，可能有使立法陷入“一遇到社會失范現(xiàn)象，首先想到的就是動用刑法進(jìn)行干預(yù)和調(diào)整”的刑法工具主義風(fēng)險之中。[6]其次，“將來視角”及“統(tǒng)合視角”對技術(shù)進(jìn)步抱持的極強信念本質(zhì)上反映的仍是“進(jìn)步共識的社會構(gòu)想”，即“技術(shù)進(jìn)步等于社會進(jìn)步”的社會共識；然則此種觀念隨著科技革命的不斷深化及現(xiàn)代化的不斷迭代，已經(jīng)遭到了較為普遍的質(zhì)疑；因此，以擁抱技術(shù)進(jìn)步的態(tài)勢對未來涉人工智能犯罪作出樂觀預(yù)期的觀點并非是當(dāng)代社會的文化共識。

因此，筆者贊同“當(dāng)下視角”的研究思路，刑法面對人工智能問題的當(dāng)務(wù)之急是挖掘傳統(tǒng)刑法教義學(xué)在當(dāng)下及短期未來的適用潛力。而在當(dāng)下，人工智能的本質(zhì)仍“在于算法和數(shù)據(jù)處理”，“類人化”的物理形體并非構(gòu)成人工智能的必備要素，即使是人形機器人，也只不過是算法主導(dǎo)下的一個硬件系統(tǒng)。[7]由此，刑法教義學(xué)對人工智能技術(shù)的觀審應(yīng)圍繞智能算法這一核心概念展開。

二、智能算法的教義學(xué)觀審

(一)智能算法的現(xiàn)狀考察

算法，是指一種獲得所需結(jié)果的機械過程；即在有限步內(nèi)，從一定類型的數(shù)據(jù)，導(dǎo)出一定類型的結(jié)果。[8]不論是古典的傳統(tǒng)算法還是時興的智能算法，均是數(shù)據(jù)輸入至結(jié)果輸出的過程。傳統(tǒng)算法的運行過程具有透明性，其運算的每一環(huán)節(jié)均在算法設(shè)計者的掌控之下，因此刑法學(xué)界往往將其納入工具的范疇，關(guān)注較少。

在傳統(tǒng)算法向智能算法迭代的過程中，兩項技術(shù)起到了至關(guān)重要的作用：大技術(shù)數(shù)據(jù)和機器學(xué)習(xí)(尤其是無監(jiān)督學(xué)習(xí))技術(shù)；智能算法也因此被賦予了傳統(tǒng)算法所不具有的技術(shù)特征，即數(shù)據(jù)前置、自我適應(yīng)和高速迭代。首先，大數(shù)據(jù)技術(shù)的運用使得人類認(rèn)知模式從對即有事物的描述和對未知事物的創(chuàng)構(gòu)，轉(zhuǎn)化為對物的數(shù)據(jù)化和數(shù)據(jù)的物化過程。[9]“數(shù)據(jù)”這一本來作為認(rèn)知結(jié)果的概念成為了認(rèn)知的原料與要素，并日益居于認(rèn)知過程的核心地位。由此，傳統(tǒng)以因果關(guān)系為支撐、強調(diào)必然性和方向性的認(rèn)知模式被突破，而作為一種全新認(rèn)知方法的算法過程也日漸呈現(xiàn)出“黑箱”姿態(tài)，產(chǎn)生了“算法黑箱”問題。其次，機器學(xué)習(xí)的運用，導(dǎo)致了智能算法的自我適應(yīng)與高速迭代?！巴ㄟ^從數(shù)據(jù)中推斷，自己學(xué)會做事的方法……掌握的數(shù)據(jù)越多，它們的工作就越順利”，憑借自我適應(yīng)的特征，智能算法得以自主適應(yīng)人類社會的需要，自主取得問題最優(yōu)解。[10]同時，無監(jiān)督學(xué)習(xí)技術(shù)的廣泛運用也為智能算法的高速迭代提供了技術(shù)基礎(chǔ)。自我適應(yīng)和高速迭代不僅使得智能算法的可解釋性降低，更使得其對人類決策的可替代性日益增強，產(chǎn)生了“算法操縱”問題。

(二)智能算法核心爭議的教義學(xué)評價

如前所述，智能算法的技術(shù)特征引申出“算法黑箱”和“算法操縱”兩大核心爭議；因此，教義學(xué)對智能算法的觀察亦應(yīng)圍繞這兩個問題展開。誠如法國哲學(xué)家卡斯托利阿達(dá)斯所說：“技術(shù)將世界分為兩個基礎(chǔ)的領(lǐng)域:絕對抵制人類能力的和以某種方式抵制人類能力的。技術(shù)創(chuàng)造就是在這兩者之間找出差異，并在世界的合理性以及不確定的空間中進(jìn)行?！盵11]人工智能時代下，“算法黑箱”和“算法操縱”均帶有極強的兩面性特征，而這種兩面性刻畫了人工智能社會的基本面貌，應(yīng)當(dāng)?shù)玫椒傻娜嬖u價。

當(dāng)下刑法學(xué)對智能算法的研究，往往以風(fēng)險社會理論為討論原點，通過分析智能算法的刑事風(fēng)險類型，討論如何對其進(jìn)行刑事規(guī)制?？偨Y(jié)來看，智能算法蘊含的刑事風(fēng)險貫穿于其設(shè)計、輸入、計算、輸出的各個環(huán)節(jié)：(1)在算法設(shè)計環(huán)節(jié)，由于智能算法對人類決策的可替代性，如何在設(shè)計階段規(guī)避目的不良算法的產(chǎn)生成為問題；(2)在數(shù)據(jù)輸入環(huán)節(jié)，如何確保數(shù)據(jù)安全值得討論；(3)在算法運行過程中，由于智能算法的黑箱特性，現(xiàn)有的刑法教義學(xué)體系如何回應(yīng)由此帶來的危害行為、因果關(guān)系、主觀罪過、刑事責(zé)任等方面的異化；(4)在結(jié)果輸出環(huán)節(jié)，算法歧視、算法集權(quán)的風(fēng)險不容忽視。

風(fēng)險以外，“算法黑箱”和“算法操控”并不天然無價值。智能算法與人類生活日益綁定的同時，其與法益的關(guān)系也日漸密切。然而，既往的研究在探尋智能算法與法益的關(guān)系時往往更傾向從規(guī)制角度論證未來涉人工智能犯罪所侵犯的法益。這或許忽視了其本身蘊含的巨大技術(shù)價值——智能算法亦含有值得保護(hù)的法益：例如，作為設(shè)計者的競爭優(yōu)勢，智能算法可被作為商業(yè)秘密看待；再如，由于智能算法運用過程中牽涉大量數(shù)據(jù)，其運作的穩(wěn)定性在未來或許牽涉公共安全，小型的數(shù)據(jù)泄露事件亦可能侵犯個體的隱私權(quán)等。

通過對智能算法核心爭議“算法黑箱”及“算法操縱”兩面性的完整分析，在智能算法與刑法體系耦合的過程中，應(yīng)當(dāng)兼顧對刑事風(fēng)險的規(guī)制與對算法本身蘊含法益的刑法保護(hù)。在刑事規(guī)制層面，應(yīng)當(dāng)跳出規(guī)制企業(yè)行為、規(guī)制人工智能本身的傳統(tǒng)思維，樹立起數(shù)據(jù)安全保障、算法規(guī)制為核心的人工智能刑法評價模式。[12]而在刑法保護(hù)層面，則應(yīng)準(zhǔn)確厘清智能算法本身包含的法益，對智能算法內(nèi)含的法益進(jìn)行復(fù)歸。

三、法益復(fù)歸思路下智能算法的刑法保護(hù)

(一)智能算法內(nèi)含法益的復(fù)歸

作為刑事立法的一項基本指導(dǎo)原則，法益保護(hù)原則是現(xiàn)代刑法教義學(xué)展開的基礎(chǔ)。“現(xiàn)代法益概念使國家動用刑罰具有正當(dāng)化根據(jù)，同時劃定了處罰界限：只有當(dāng)某種行為具有法益侵害性時，對之設(shè)置處罰規(guī)定才是正當(dāng)?shù)摹！盵13]因此，對智能算法的教義學(xué)審查應(yīng)起步于對智能算法內(nèi)含法益的分析——這也是部分以智能算法為對象的失范行為能夠被認(rèn)定為刑事犯罪而非民事、行政失范的根源所在。有論者曾對涉人工智能失范行為的刑事可罰性起點做出如下論述：“在假設(shè)人工智能(AI)已經(jīng)成為民商事法律主體的前提下，應(yīng)當(dāng)承認(rèn)AI具備刑法可譴責(zé)性的條件?！盵14]此種觀點將涉人工智能失范行為的可罰性前提與民商事立法綁定，看似嚴(yán)格遵循了刑法的謙抑性品格，實際卻消解了刑法的獨立性地位。刑法的最后手段性并不意味著其對其他部門法的體系性依賴，只有完成了對智能算法內(nèi)含法益的分析，才能對智能算法的刑法保護(hù)與刑事規(guī)制展開行之有效的討論。

目前學(xué)界對智能算法內(nèi)含法益問題主要有以下三種觀點：

1.新生法益論。有論者指出，隨著智能時代的到來，新型經(jīng)濟(jì)關(guān)系和社會關(guān)系得以涌現(xiàn)，產(chǎn)生了許多“既有法律規(guī)范難以有效涵蓋和調(diào)整”的“新生法益”。此種“新生法益”的具體類型無法在傳統(tǒng)刑法理論中找到歸屬，立足當(dāng)下對“新生法益”進(jìn)行解讀，即便是“通過修改法律條款、擴(kuò)張性解釋或者類比適用，也會遭遇捉襟見肘的困境”。[15]新生法益論克服了當(dāng)下涉人工智能法律問題討論中泛濫的“空想化”姿態(tài)，但也忽視了智能算法已被大量應(yīng)用于社會活動的實踐樣貌。將智能算法的內(nèi)涵歸納為籠統(tǒng)的“新生法益”的論述，雖然能夠獲得一個方向正確但界限模糊的答案，卻無法對當(dāng)下及可見未來智能算法與法治實踐耦合過程中發(fā)現(xiàn)的刑法問題提供具體的教義學(xué)指引。

2.安全型法益論。此為一系列觀點的統(tǒng)稱，具體來看包括“社會秩序說”“數(shù)據(jù)安全說”與“算法安全說”。“社會秩序說”對智能算法蘊含法益的描繪較為模糊，大致認(rèn)為智能算法的穩(wěn)定性關(guān)乎社會倫理、法律秩序、社會風(fēng)險治理秩序等多方面秩序的維護(hù)。此種觀點的缺陷與新生法益說類似，即無法更進(jìn)一步地對智能算法與刑事法耦合過程提供具體指引。與之相對，“數(shù)據(jù)安全說”與“算法安全說”的觀點則更為具體。“數(shù)據(jù)安全說”主張將數(shù)據(jù)安全作為人工智能犯罪保護(hù)的法益：大數(shù)據(jù)與深度學(xué)習(xí)的技術(shù)背景下，數(shù)據(jù)是智能算法決策的原料與素材；面臨信息犯罪日漸嚴(yán)峻的異化態(tài)勢，受侵害的數(shù)據(jù)質(zhì)量、規(guī)模與危害性后果都愈發(fā)嚴(yán)重。[16]“算法安全說”提出了算法安全概念，認(rèn)為算法自主性是智能算法的核心要義。該說認(rèn)為，盡管智能算法本身與數(shù)據(jù)的聯(lián)系十分緊密，然而數(shù)據(jù)安全本質(zhì)上是一種混合法益，包含了虛擬數(shù)據(jù)權(quán)利(即虛擬空間數(shù)據(jù)指向的權(quán)利，如虛擬財產(chǎn))、真實數(shù)據(jù)權(quán)利(即以數(shù)據(jù)為載體的現(xiàn)實世界中的身份性、財產(chǎn)性利益)和人工智能數(shù)據(jù)權(quán)利(即智能算法的安全與穩(wěn)定)。其中，虛擬數(shù)據(jù)權(quán)利與真實數(shù)據(jù)權(quán)利均為網(wǎng)絡(luò)時代便已存在的法益，其與智能算法間不具有唯一關(guān)聯(lián)性，我國已經(jīng)通過諸如破壞計算機信息系統(tǒng)罪等信息網(wǎng)絡(luò)犯罪的立法活動完成了對此類法益的初步保護(hù)；因此，智能算法蘊含的獨特法益應(yīng)為數(shù)據(jù)安全中人工智能數(shù)據(jù)權(quán)利指向的算法安全。[17]

3.混合法益論。持該說的學(xué)者認(rèn)為：人工智能時代，隨著數(shù)據(jù)在社會生活的多個領(lǐng)域得以體現(xiàn)，數(shù)據(jù)犯罪侵害的法益也更加多元。[18]單純以某種社會秩序作為智能算法蘊含法益的觀點忽視了這種多元性：人工智能技術(shù)的發(fā)展與國家發(fā)展戰(zhàn)略聯(lián)系日益密切，智能算法的穩(wěn)定可能關(guān)乎國家安全；大數(shù)據(jù)時代，公民的人格、信息均呈現(xiàn)出數(shù)據(jù)化傾向，因此，智能算法的穩(wěn)定亦關(guān)乎公民個人隱私。由此，該說認(rèn)為智能算法蘊含的法益應(yīng)是包含個人隱私權(quán)、商業(yè)秘密權(quán)、社會秩序與國家安全的混合法益。

如前所述，新生法益論、安全型法益論中的社會秩序說及算法安全說，均由于其自身表述的模糊性或非專屬性而不應(yīng)采納。因此，值得進(jìn)一步權(quán)衡的是算法安全說與混合法益論。支持算法安全說的學(xué)者對混合法益論提出的主要批評意見為：即使是混合法益論，仍需要運用復(fù)合法益論來確定其中法益的主次關(guān)系，并以搶劫罪規(guī)定于侵財罪中為例證。[17]然而在筆者看來，此種批評并不能成立：首先，使用復(fù)合法益理論分析混合法益說本身便承認(rèn)了智能算法蘊含法益的多元化與復(fù)雜性。同樣以搶劫罪為例，公民的人身權(quán)利是本罪當(dāng)然保護(hù)的法益——這是本罪區(qū)別于搶奪罪的根本特征；不能因為其居次要地位而否認(rèn)其本身的法益屬性。其次，算法安全說展示了當(dāng)下學(xué)界對智能算法考察側(cè)重刑事規(guī)制、忽視刑法保護(hù)的現(xiàn)狀。將智能算法蘊含的法益限定在算法安全這一社會秩序的觀點實質(zhì)上是將智能算法看做一項未來的風(fēng)險加以規(guī)避。然而如前所述，當(dāng)我們聚焦于智能算法的巨大技術(shù)價值時，其作為開發(fā)者的一項巨大競爭優(yōu)勢亦應(yīng)得到包括刑法在內(nèi)的法律保護(hù)。

因此，較之算法安全論，混合法益論的觀點更為全面地揭示了智能算法的兩面性特征；需要思考的問題也由此轉(zhuǎn)化為對智能算法所蘊含混合法益的具體界定。正如李斯特所言：“法益概念，也必然包含著對某種干涉的禁止?！盵19]在混合法益的具體界定上，應(yīng)抱持謹(jǐn)慎的態(tài)度，進(jìn)行法益衡量。由于智能算法的數(shù)據(jù)前置特性，其運算過程以大量數(shù)據(jù)的輸入為前提，而作為輸入源的大數(shù)據(jù)可能涵蓋了公民的個人隱私，這是部分混合法益論者主張混合法益中包括個人隱私權(quán)的重要原因。然而，智能算法本質(zhì)上僅是“數(shù)據(jù)輸入-結(jié)果輸出”的一個中間環(huán)節(jié)，由于“算法黑箱”的特性，數(shù)據(jù)在輸入后的可解性變差，前述對個人隱私泄露的擔(dān)憂往往只能發(fā)生于“數(shù)據(jù)輸入”即算法啟動以前。除此之外，有論者亦主張如目的不良的算法設(shè)計及智能算法的穩(wěn)定性遭到破壞，則可能導(dǎo)致個人隱私泄露。我們需要追問的是，此時被泄漏的個人隱私信息，是以個人法益的形式存在，還是以公共法益組成部分的形式存在？對于目的不良或穩(wěn)定性遭破壞的智能算法，雖然結(jié)果上可能導(dǎo)致個人隱私信息的泄露，然而這種泄露顯然可以歸屬于教義學(xué)對“公共安全”所謂“不特定多數(shù)”的理解，實際上仍應(yīng)在“算法安全”這一公共法益的涵射范疇。然而，當(dāng)將智能算法作為一項競爭優(yōu)勢加以考量時，其價值便有了特定的歸屬，不能一概劃分至“不特定多數(shù)”的“公共安全”內(nèi)，而應(yīng)屬于一種“算法權(quán)利”。

綜上所述，智能算法蘊含的混合法益應(yīng)包括作為公共法益的“算法安全”及作為開發(fā)者競爭優(yōu)勢的“算法權(quán)利”。面向“算法安全”時，刑法保護(hù)的是智能算法不被濫用的穩(wěn)定性；而面向“算法權(quán)利”時，刑法保護(hù)的是智能算法本身的技術(shù)價值。

(二)智能算法刑法保護(hù)的具體展開

1.算法安全的刑法保護(hù)

在討論刑法保護(hù)算法安全的具體舉措之前，首先應(yīng)對“算法安全的刑法保護(hù)”與“智能算法的刑事規(guī)制”做出一定辨析?！八惴ò踩笔侵钢悄芩惴▋?nèi)蘊含的指向社會秩序的公共法益，因此，“算法安全的刑法保護(hù)”強調(diào)的是防止外界對算法穩(wěn)定性及用途的破壞。與此相對，“智能算法的刑法規(guī)制”雖也主要保護(hù)的是指向社會秩序的公共法益，強調(diào)的卻是對算法本身蘊含風(fēng)險的甄別和規(guī)避。對于智能算法的刑事規(guī)制，筆者將在下一部分詳細(xì)論述，故不在此展開。而刑法對算法安全的保護(hù)，可以從以下幾方面展開：

第一，對智能算法穩(wěn)定性的保護(hù)。如前所述，人工智能的結(jié)果輸出以前置的海量數(shù)據(jù)為前提。兩項內(nèi)部風(fēng)險可能影響智能算法的穩(wěn)定性，進(jìn)而危及算法安全：首先，智能算法的內(nèi)部缺陷可能導(dǎo)致結(jié)果輸出的不合理；其次，大數(shù)據(jù)本身攜帶的偏見亦會加劇人工智能結(jié)果輸出的偏見，即算法歧視現(xiàn)象。由此，必須設(shè)立智能算法的自我糾正機制；對于某些關(guān)乎算法安全的自我糾正機制缺位(尤其是涉及醫(yī)療衛(wèi)生、軍事用途等重要領(lǐng)域時)，刑法可以考慮在必要時進(jìn)行介入，防止此種機制缺位的內(nèi)部風(fēng)險演變成外部的危害結(jié)果。[4]109具體到弱人工智能的當(dāng)下，對智能算法穩(wěn)定性的刑法保護(hù)可以考慮破壞計算機信息系統(tǒng)罪的適用空間，將破壞智能算法穩(wěn)定性的行為解釋為本罪“對計算機信息系統(tǒng)功能進(jìn)行刪除、修改、增加、干擾，造成計算機系統(tǒng)不能正常運行”“對計算機信息系統(tǒng)中存儲、處理、傳輸?shù)臄?shù)據(jù)和應(yīng)用程序進(jìn)行刪除、修改、增加的操作”的情形。

第二，對智能算法用途的保護(hù)。有論者指出，人工智能時代背景下，濫用人工智能行為的社會危害性遠(yuǎn)超過許多傳統(tǒng)的犯罪行為，鑒于此，有必要以兜底條款的形式將濫用人工智能的行為納入刑法處罰范圍。[20]此類犯罪與現(xiàn)行刑法條文的適配性較差，只能采用另立新法的方式進(jìn)行規(guī)制。在人工智能技術(shù)發(fā)展前景仍不甚明確的當(dāng)下，采用兜底條款的立法技術(shù)不失為一種行之有效的規(guī)制手段，但在具體立法、適用過程中仍應(yīng)審慎把握本罪的適用空間，注意本罪保護(hù)法益“算法安全”的公共屬性。

2.算法權(quán)利的刑法保護(hù)

“算法權(quán)利”是指智能算法內(nèi)蘊含的指向算法設(shè)計者、使用者的私人法益。具有獨創(chuàng)性價值的智能算法可視情形納入知識產(chǎn)權(quán)的文義范疇，以這種算法為對象的犯罪可以以侵犯知識產(chǎn)權(quán)犯罪定罪量刑。由于知識產(chǎn)權(quán)本身可被分為以著作權(quán)、專利權(quán)為代表的傳統(tǒng)知識產(chǎn)權(quán)和以商業(yè)秘密權(quán)為代表的新型知識產(chǎn)權(quán)，我國關(guān)于知識產(chǎn)權(quán)犯罪規(guī)定有假冒專利罪、侵犯著作權(quán)罪、侵犯商業(yè)秘密罪等罪名。以具有獨創(chuàng)性價值的智能算法為犯罪對象的行為究竟應(yīng)當(dāng)被評價為哪種罪名，取決于智能算法的類型定位，總結(jié)來看，作為私人法益的“算法權(quán)益”，存在以下三種不同的保護(hù)路徑：著作權(quán)保護(hù)路徑、專利權(quán)保護(hù)路徑及商業(yè)秘密保護(hù)路徑。

著作權(quán)保護(hù)路徑強調(diào)算法作為計算機軟件組成部分之一的結(jié)構(gòu)特征。該種觀點的支持者主張：由于我國《著作權(quán)法》第3條第(八)項及《計算機軟件保護(hù)條例》第5條均將計算機軟件蘊含的知識產(chǎn)權(quán)歸屬于著作權(quán)，因此，作為人工智能軟件重要組成部分的智能算法亦應(yīng)當(dāng)按照著作權(quán)進(jìn)行保護(hù)。在筆者看來，此種觀點忽視了算法與傳統(tǒng)文學(xué)、美術(shù)作品的區(qū)別。盡管在形式上，算法亦可以被視為一串符號的特殊組合形式；然而，由于機器語言的根本價值在于代碼功能的運行與實現(xiàn)，行為人完全可以在窺知智能算法的決策思路、技術(shù)手段后選用與原算法截然不同的機器語言形式實現(xiàn)同樣的效果。此時，盡管原權(quán)利確認(rèn)的代碼并未受到著作權(quán)意義上的侵犯，但該算法蘊含知識產(chǎn)權(quán)的損失已然發(fā)生。此外，隨著技術(shù)進(jìn)步，算法侵權(quán)的形式也日漸多樣、隱蔽，著作權(quán)保護(hù)路徑并不能充分保護(hù)智能算法的價值。

專利權(quán)保護(hù)路徑與商業(yè)秘密保護(hù)路徑是學(xué)界爭議較大的兩種模式。支持專利權(quán)保護(hù)路徑的學(xué)者指出，由于智能算法本身蘊含有諸如“算法黑箱”“算法歧視”等不透明性弊端，采取商業(yè)秘密保護(hù)路徑會放大智能算法的不透明性；在此前提下，專利保護(hù)路徑明確強調(diào)“以公開換保護(hù)”的觀念有利于通過公開算法而避免其蘊含的社會風(fēng)險。[21]專利權(quán)和商業(yè)秘密權(quán)的核心區(qū)別在于：由于要求對知識產(chǎn)權(quán)的絕對壟斷，專利權(quán)以公開知識產(chǎn)權(quán)的具體細(xì)節(jié)為原則；商業(yè)秘密權(quán)不追求對知識產(chǎn)權(quán)的絕對壟斷，因此以不公開知識產(chǎn)權(quán)的具體細(xì)節(jié)為原則。[22]在筆者看來，專利權(quán)保護(hù)路徑的支持者過于聚焦于“算法黑箱”的負(fù)面潛能，以致忽視了“算法黑箱”本身的技術(shù)價值——在專利保護(hù)路徑之下，算法黑箱的打破成為原則，這不僅為算法設(shè)計者設(shè)定了過高義務(wù)，阻礙了技術(shù)進(jìn)步的積極性；更是對智能算法與傳統(tǒng)算法區(qū)別即“算法黑箱”技術(shù)價值的誤讀與消解。出于對智能算法內(nèi)含技術(shù)價值的保護(hù)，筆者支持商業(yè)秘密保護(hù)路徑，以具有獨創(chuàng)性價值的智能算法為犯罪對象的行為可以依照我國現(xiàn)有刑法第219條即侵犯商業(yè)秘密罪定罪處罰。需要補充的是，支持商業(yè)秘密保護(hù)路徑的觀點并不似部分學(xué)者擔(dān)憂的那樣排斥所有公開智能算法細(xì)節(jié)的情形，相反，在一定的場合下，即使是商業(yè)秘密保護(hù)路徑論者也承認(rèn)應(yīng)當(dāng)對算法進(jìn)行適當(dāng)公開。

四、智能算法的刑法規(guī)制

(一)智能算法刑法規(guī)制的基本立場

通過內(nèi)含法益的復(fù)歸，智能算法的技術(shù)價值得以獲得刑法的保護(hù)。在此基礎(chǔ)上，智能算法的刑事風(fēng)險不容忽視，只有對智能算法的刑事風(fēng)險進(jìn)行合理的規(guī)制，我們才能在權(quán)利保障、技術(shù)發(fā)展與風(fēng)險防控間取得平衡。具體來說，智能算法的刑事規(guī)制應(yīng)遵守以下兩個基本立場：

1.風(fēng)險預(yù)防原則

聯(lián)合國環(huán)境署1992年通過的《關(guān)于環(huán)境與發(fā)展的里約宣言》第15條曾就未來國際社會的發(fā)展問題指出：“在嚴(yán)重的或不可逆轉(zhuǎn)的損害威脅存在的領(lǐng)域，缺乏充分的科學(xué)確定性不應(yīng)成為暫緩采取有成本效益的措施來防止環(huán)境惡化的理由?！盵23]此宣言雖主要為規(guī)制技術(shù)發(fā)展帶來的環(huán)保問題而生，但其對待技術(shù)問題的態(tài)度可以推而廣之，即對于技術(shù)前景尚不明朗的領(lǐng)域，人類社會往往傾向采取審慎的態(tài)度，對其中可能的風(fēng)險采取預(yù)防的態(tài)勢——這便是風(fēng)險預(yù)防原則的基本內(nèi)涵。

有論者援引客觀歸責(zé)理論中“允許的風(fēng)險”理論，認(rèn)為智能算法的風(fēng)險“在一定程度上應(yīng)當(dāng)被刑法所容忍”。[24]那么如何理解“允許的風(fēng)險”與風(fēng)險預(yù)防原則的關(guān)系呢？應(yīng)當(dāng)注意，此處援引的“允許的風(fēng)險”理論更多立足于立法政策而非刑事違法性判斷，其與風(fēng)險預(yù)防原則是要求立法者進(jìn)行法益衡量的一體兩面——立法者當(dāng)然不能由于風(fēng)險的存在而一概否定人工智能的應(yīng)用圖景；與此同時，亦不能否認(rèn)部分對侵害法益的智能算法應(yīng)用行為可以被出罪化。一種更為合理的邏輯是：在立法層面，應(yīng)當(dāng)堅持風(fēng)險預(yù)防原則，以審慎的態(tài)勢確保智能算法運用過程中重大法益的穩(wěn)定性；而在教義學(xué)指引的界定不法及行為歸責(zé)層面，則可以靈活運用“允許的風(fēng)險”理論，對智能算法應(yīng)用過程中造成的部分具有法益侵害的行為予以出罪化。

2.正當(dāng)程序原則

在討論“算法操縱”帶來的刑事風(fēng)險時，不少論者均強調(diào)算法的“可解釋性”或者透明化是解決算法操縱的必由之路。并援引2018年由“谷歌大腦團(tuán)隊”研發(fā)出的“可解釋性的基礎(chǔ)構(gòu)件”技術(shù)，論證人類意圖對人工神經(jīng)網(wǎng)絡(luò)算法進(jìn)行可視化操作，使算法的工作狀態(tài)回到“人類尺度”。[25]然而，“可解釋性的基礎(chǔ)構(gòu)件”僅是人類技術(shù)對智能算法運算過程的一種擬合，并不意味著真正打破了智能算法的黑箱。一個必須正視的技術(shù)現(xiàn)實是，盡管人工神經(jīng)網(wǎng)絡(luò)算法技術(shù)已經(jīng)較為成熟，然而目前對其解釋的嘗試仍停留于運算過程的淺表。[26]算法的可解釋性已經(jīng)出現(xiàn)了遲滯于人工智能技術(shù)應(yīng)用的現(xiàn)實窘境。由此，遲滯的算法解釋嘗試已經(jīng)無法對前置的人工智能技術(shù)應(yīng)用產(chǎn)生的刑事風(fēng)險發(fā)揮預(yù)防效果。法律實踐者也逐步發(fā)現(xiàn)，算法黑箱在法律上所能被轉(zhuǎn)譯的內(nèi)容，一點兒也不支持算法透明性的要求。

基于算法解釋的遲滯性，正當(dāng)程序原則成為一條更為優(yōu)越的規(guī)制思路。正當(dāng)程序原則可從形式與實質(zhì)上進(jìn)行展開。形式的正當(dāng)程序原則要求算法權(quán)利的擁有者公開其算法運作的程序或者過程，來證明算法權(quán)利行使的正當(dāng)性，這通常體現(xiàn)為雙重要求：第一，程序本身是公開的；第二，程序的設(shè)計本身是正當(dāng)?shù)?，以此排除目的不良的智能算法。[27]在對智能算法進(jìn)行規(guī)制時，公開性原則產(chǎn)生了一定的形變：由于智能算法本身的黑箱屬性與算法解釋的遲滯性，僅僅將算法程序公開顯然無法滿足風(fēng)險預(yù)防原則的要求。因此，形式的正當(dāng)程序原則第二項要求即“程序設(shè)計本身是正當(dāng)?shù)摹保愠蔀橐?guī)制智能算法刑事風(fēng)險的重要思路。與之相對，實質(zhì)的正當(dāng)程序原則追求智能算法實質(zhì)的正當(dāng)性，這往往表現(xiàn)為通過對涉及人身安全、公共安全等重要法益的保留，強化對目的不良及結(jié)果不良算法的篩選及剔除，即部分論者表述的“重大利益保留原則”。

(二)智能算法刑法規(guī)制的具體展開

智能算法的決策過程可被劃分為數(shù)據(jù)輸入、數(shù)據(jù)運算及結(jié)果輸出三個階段，即輸入端、運算端及輸出端三個運算端口。在智能算法決策的不同階段，可選擇的刑事規(guī)制方式并不相同，刑法的介入難度也有所差異。因此，通過對不同端口特征的把握，智能算法的刑法規(guī)制方案可以進(jìn)行更為具體的展開。

1.輸入端。作為大數(shù)據(jù)技術(shù)應(yīng)用的產(chǎn)物，智能算法的決策過程離不開數(shù)據(jù)的輸入，“有數(shù)據(jù)方有人工智能”。[28]在智能算法的輸入端，刑法規(guī)制的重點便在于對輸入數(shù)據(jù)的風(fēng)險把控，具體而言包括以下兩個方面：第一，由于智能算法及其設(shè)計、使用者對作為決策原料的數(shù)據(jù)來源在所不問，所輸入的數(shù)據(jù)可能混入未經(jīng)公民授權(quán)的隱私數(shù)據(jù)，從而侵犯公民的隱私權(quán)利；第二，由于輸入數(shù)據(jù)本身的片面性及智能算法運行的功利導(dǎo)向，輸入端極易成為算法歧視產(chǎn)生的根源，從而侵犯公民的人格平等權(quán)。[29]對于第一種情況，現(xiàn)有刑法可以通過侵犯公民個人信息罪進(jìn)行有效規(guī)制；而對于第二種情況，現(xiàn)行刑法體系尚不能做出有效回應(yīng)，需要進(jìn)行進(jìn)一步完善。除此之外，在智能算法的啟動環(huán)節(jié)，必須堅持對目的不良算法的篩選及限制。2019年4月，歐盟委員會通過了《可信賴人工智能道德準(zhǔn)則》，該準(zhǔn)則規(guī)定:“可靠的人工智能應(yīng)提供關(guān)于人工智能系統(tǒng)影響和塑造組織決策過程的程度、系統(tǒng)的設(shè)計選擇以及開發(fā)合理性的解釋?！惫P者贊同此種規(guī)制思路，即在智能算法設(shè)計完成后、運算開始前的輸入端口便進(jìn)行開發(fā)合理性的審查，通過重大利益事項的保留，防止風(fēng)險的啟動。

2.運算端。與輸入端不同，刑法規(guī)制在運算端的開展面臨著較大的技術(shù)困境。前文對算法黑箱的論述已證明：智能算法的不透明性與其技術(shù)價值是一體兩面的關(guān)系，對智能算法進(jìn)行解釋嘗試的過程必然伴隨著對其技術(shù)價值的消解；況且，隨著人工智能技術(shù)的高速迭代，智能算法的可解釋性已經(jīng)產(chǎn)生了遲滯現(xiàn)象。因此，出于對智能算法技術(shù)價值的保護(hù)及人工智能技術(shù)現(xiàn)狀的考察，刑法不應(yīng)在未發(fā)生法益侵害的情況下，過度介入智能算法的運算環(huán)節(jié)。當(dāng)然，這并不意味著任何情況下都不應(yīng)對智能算法進(jìn)行解釋——恰如部分論者所主張的，“算法的可解釋性是算法進(jìn)入法律的前提”。[12]但筆者認(rèn)為，此種解釋的嘗試不應(yīng)在運算端頻頻展開，智能算法的解釋嘗試可留待輸出端解決。

3.輸出端。智能算法的運算過程終止于結(jié)果的輸出，但對智能算法的刑法規(guī)制不能僅止于此。結(jié)果不良算法的存在表明，即使是目的良好的算法也可能由于各種原因，輸出不良的決策與結(jié)果。此時，若一味堅持智能算法決策的獨立性，放任此種不良結(jié)果的輸出與傳播，則可能導(dǎo)致法益侵害后果的擴(kuò)散。因此，針對輸出不良結(jié)果導(dǎo)致法益侵害的的智能算法，有必要在制止其結(jié)果傳播的基礎(chǔ)上，向其決策過程的前端回溯，打開智能算法的技術(shù)黑箱，考察此算法的設(shè)計思路與價值取向，從而在算法的設(shè)計者、使用者與社會公眾間合理配置不良結(jié)果引發(fā)的刑事責(zé)任。對比在運算端對智能算法進(jìn)行實時解釋的方案，此種方案不僅較好地考慮了智能算法解釋的遲滯性，更堅守了刑法的謙抑性本位，有利于抑制刑法對新興技術(shù)的過度介入，從而理順在規(guī)制智能算法問題上刑法與其他部門法的關(guān)系，促進(jìn)人工智能技術(shù)的進(jìn)一步發(fā)展。

(三)智能算法刑事合規(guī)制度引入的探討

鑒于智能算法解釋的遲滯性，當(dāng)下有論者主張應(yīng)在智能算法的刑事規(guī)制領(lǐng)域引入刑事合規(guī)制度，以構(gòu)建智能算法內(nèi)部與外部、預(yù)防與刑罰并重的風(fēng)險防控系統(tǒng)，并從“算法設(shè)計上對人工智能的識別能力、決策能力和行為方式預(yù)先進(jìn)行合規(guī)性審查”。[25]

刑事合規(guī)制度起源于20世紀(jì)60年代的美國，是企業(yè)合規(guī)管理制度的組成部分。1987年頒布的《聯(lián)邦量刑指南》在1991年增加了“組織體量刑”章，正式建立了通過刑事合規(guī)計劃審查進(jìn)行刑罰減免的量刑機制。[30]作為一種預(yù)防、發(fā)現(xiàn)犯罪而主動實施的內(nèi)部機制，刑事合規(guī)計劃可以在刑事訴訟的各個環(huán)節(jié)產(chǎn)生深遠(yuǎn)的影響：在審前環(huán)節(jié)，涉案企業(yè)可以依據(jù)自身制定的刑事合規(guī)計劃與檢察官達(dá)成不起訴協(xié)議以免于刑事訴訟；在審判環(huán)節(jié)，涉案企業(yè)也可以通過制定形式合規(guī)計劃尋求刑罰的減免。[31]

筆者贊同智能算法規(guī)制領(lǐng)域刑事合規(guī)制度的引入，理由有三：

第一，刑事合規(guī)制度的引入是對人工智能時代刑事風(fēng)險的合理配置。如前所述，“算法黑箱”因其蘊含的技術(shù)價值而值得刑法保護(hù)，但與此同時，此種技術(shù)價值的最大受益者即為算法的設(shè)計者與使用者，因此，作為算法設(shè)計者與使用者的相關(guān)企業(yè)亦應(yīng)承擔(dān)起人工智能時代風(fēng)險防控的職責(zé)，與國家一同形成智能算法刑事風(fēng)險的共同治理者。在此前提下，刑事合規(guī)計劃通過正當(dāng)化事由的規(guī)定與量刑減免引導(dǎo)智能算法設(shè)計、使用者參與到對智能算法刑事風(fēng)險的治理過程中，有利于其更好地履行自身的合規(guī)義務(wù)，確立其對智能算法刑事風(fēng)險的保證人地位。

第二，刑事合規(guī)制度的引入是對人工智能時代預(yù)防刑法轉(zhuǎn)向的回應(yīng)。當(dāng)下，人工智能技術(shù)的應(yīng)用已經(jīng)領(lǐng)先于對人類社會智能算法的解釋力，在此情形下，預(yù)防刑法的轉(zhuǎn)向更為明顯；刑事合規(guī)制度的建立恰是對此種預(yù)防傾向的回應(yīng)與補強。

第三，刑事合規(guī)制度的引入，有利于解決智能算法帶來的歸責(zé)難題。由于人工智能技術(shù)的復(fù)雜性、裁量的獨立性和行為自控性等特點，使得現(xiàn)實中會出現(xiàn)人工智能因過失導(dǎo)致的法益侵害，存在無法歸責(zé)的空白地帶。[32]誠然，前文中提到的“允許的風(fēng)險”理論可以對部分法益侵害予以出罪化，然而，由于智能算法刑事規(guī)制風(fēng)險預(yù)防原則的基本立場，“允許的風(fēng)險”理論應(yīng)當(dāng)受到一定限制。刑事合規(guī)制度通過對各方風(fēng)險預(yù)防責(zé)任的事先配置，完善了歸責(zé)制度，有利于減少由于智能算法刑事風(fēng)險帶來的歸責(zé)難題。