李紫陽(yáng)

（華東政法大學(xué) 法律學(xué)院，上海 200042）

自2018年始，刑法學(xué)界開始對(duì)“人工智能刑事責(zé)任”問題進(jìn)行持續(xù)性的研究?？偟膩砜矗袑?duì)人工智能可成為刑事責(zé)任主體觀點(diǎn)進(jìn)行支持和延展者，也有明確認(rèn)為應(yīng)當(dāng)否定人工智能刑事責(zé)任主體地位者。對(duì)該問題進(jìn)行研究時(shí)，應(yīng)真正持有前瞻性與開放性思維，而不能過分拘泥于“人與世界”二元思維，應(yīng)認(rèn)識(shí)到人類并不是地球上永久唯一的智能體，意識(shí)也并不是為人所專有之物。也正如未來生命研究所創(chuàng)始人泰格馬克所言“從我作為一個(gè)物理學(xué)家的角度看，智能只是運(yùn)動(dòng)的基本粒子處理信息的特殊過程，并沒有一條物理定律說，建造一臺(tái)在各方面都比人類聰明的機(jī)器是不可能的。①泰格馬克：《生命3.0》，汪婕舒譯，浙江教育出版社，2018，中文序。”從而，下文擬在批判強(qiáng)人工智能刑事責(zé)任主體地位否定論者觀點(diǎn)基礎(chǔ)上，證成強(qiáng)人工智能刑事責(zé)任主體地位，以求實(shí)現(xiàn)真理越辯越明的目的。

一、強(qiáng)人工智能可以擁有自主意識(shí)的哲學(xué)與科學(xué)依據(jù)

否定論者認(rèn)為人工智能沒有七情六欲，更不能擁有意識(shí)。智能產(chǎn)品在設(shè)計(jì)和編制程序范圍外實(shí)施的嚴(yán)重社會(huì)危害行為，只是一種純粹的現(xiàn)象風(fēng)險(xiǎn)。人工智能不能理解危害行為性質(zhì)，更不能在危害行為發(fā)生之際提前預(yù)知風(fēng)險(xiǎn)的存在。也正是因?yàn)闆]有“意識(shí)”、沒有“感情”進(jìn)而致使對(duì)人工智能施加銷毀機(jī)器、刪除數(shù)據(jù)、更改系統(tǒng)等刑罰措施無異于多此一舉[1]2。另外，機(jī)器人缺乏對(duì)情感要素的理解與體驗(yàn)，其只是接受數(shù)據(jù)信息后的單純系統(tǒng)操作，對(duì)系統(tǒng)操作的潛意識(shí)理解是缺乏的。而法律立于機(jī)器責(zé)任的視角評(píng)價(jià)人工智能產(chǎn)品危害行為時(shí)，只能將之評(píng)價(jià)為一種自主決策系統(tǒng)反映的純粹事實(shí)行為。還有否定論者認(rèn)為應(yīng)以目的行為論為切入點(diǎn)討論人工智能是否應(yīng)擁有刑事責(zé)任的問題。但歸結(jié)到最后，還是認(rèn)為人工智能不能擁有獨(dú)立“意識(shí)”，即不能夠作出能成為刑法規(guī)范評(píng)價(jià)對(duì)象的具有社會(huì)評(píng)價(jià)意義的目的性舉動(dòng)[2]。在否定論者看來，人工智能僅僅是根據(jù)人類寫就的程序代碼指令行事，即便現(xiàn)在已經(jīng)將深度學(xué)習(xí)等技術(shù)嵌入到人工智能運(yùn)行程序中，人工智能也的確可能通過深度學(xué)習(xí)等技術(shù)超越程序代碼規(guī)則行事，并且給人類造成嚴(yán)重的法益侵害結(jié)果。但是，人工智能是不可能理解其所實(shí)施行為的社會(huì)屬性，也就不能夠被評(píng)價(jià)為規(guī)范意義上的目的性舉動(dòng)[3]71。上述兩種意見的最基本觀點(diǎn)便是人工智能不能擁有自主“意識(shí)”，不能感知七情六欲，不能形成自主行為目標(biāo)。但這種觀點(diǎn)在大前提上便直接否定強(qiáng)人工智能時(shí)代到來的做法是否能被稱得上嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)態(tài)度，令人生疑。

相比于法學(xué)，科學(xué)界人士對(duì)于強(qiáng)人工智能的態(tài)度才更值得人信服。早在1951年艾倫·圖靈在BBC第三套節(jié)目廣播中便警示性地預(yù)測(cè)：“如果機(jī)器能夠思考，說不定在思考上比我們還聰明，那將我們置于何地？就算我們能讓機(jī)器繼續(xù)處在臣服的位置，我們也應(yīng)該感到極大的卑下……它……絕對(duì)會(huì)是能給我們帶來焦慮的東西?！雹傥譅柺玻骸度斯ぶ悄軙?huì)取代人類嗎？》，閭佳譯，北京聯(lián)合出版公司，2018，第6頁(yè)。近期霍金略帶諷刺地用其電子嗓音發(fā)出警告：“成功地創(chuàng)造出人工智能是人類歷史上偉大的進(jìn)步，但這極有可能是人類文明最后的進(jìn)步?！雹谫M(fèi)希：《超人類革命》，周行譯，湖南科學(xué)技術(shù)出版社，2017，第238頁(yè)。泰格馬克也直言“部分學(xué)者認(rèn)為超人類水平的通用人工智能永遠(yuǎn)不會(huì)到來，因?yàn)樵谖锢韺W(xué)上不可能實(shí)現(xiàn)。然而，物理學(xué)家卻知道大腦中的夸克和電子組合起來不正像一臺(tái)超級(jí)計(jì)算機(jī)嗎？并且沒有哪個(gè)物理定律說我們不能建造出比大腦更智能的夸克團(tuán)。③泰格馬克：《生命3.0》，汪婕舒譯，浙江教育出版社，2018，第54頁(yè)?！辈粌H如此，在其組織的2015年未來生命研究所波多黎各會(huì)議上又推動(dòng)了人工智能研究目標(biāo)的修改，在這份涵蓋了“人工智能名人譜”的8 000多人簽名的公開信中明確指出“我們應(yīng)該重新定義人工智能的目標(biāo)：創(chuàng)造目標(biāo)有益的人工智能，而不是漫無目標(biāo)的人工智能?！雹芴└耨R克：《生命3.0》，汪婕舒譯，浙江教育出版社，2018，第39頁(yè)?？梢?，科學(xué)界先驅(qū)們沒有一邊倒向否定強(qiáng)人工智能時(shí)代到來的觀點(diǎn)，相反有相當(dāng)一部分科學(xué)家持鮮明的肯定態(tài)度，從而在法學(xué)上承認(rèn)強(qiáng)人工智能可能擁有自主“意識(shí)”也不會(huì)如否定論者所言是虛無縹緲的科幻法學(xué)了[3]69。

除上文所述的人類不可能進(jìn)入強(qiáng)人工智能時(shí)代的理由外，否定論者還提出如下理由：技術(shù)的研發(fā)受自然人的控制及人類不可能允許技術(shù)超越倫理[1]7-8。其實(shí)，至此便可看出該論者已開始進(jìn)行自我質(zhì)疑，其不再堅(jiān)持認(rèn)為技術(shù)不可能引發(fā)強(qiáng)人工智能時(shí)代的到來，轉(zhuǎn)而認(rèn)為是技術(shù)倫理審查制止了強(qiáng)人工智能時(shí)代到來的可能性，言外之意難道不正是：如果不對(duì)人工智能研發(fā)作出技術(shù)倫理審查限制，強(qiáng)人工智能時(shí)代便可能到來嗎？這種將希望寄托于技術(shù)倫理審查的觀點(diǎn)更多的是人文學(xué)者的一廂情愿罷了。首先，技術(shù)倫理審查頂多遲滯相關(guān)研究，但卻不可能阻止強(qiáng)人工智能時(shí)代到來。在高額的利潤(rùn)面前技術(shù)倫理審查就如同紙張一樣單薄，國(guó)家與企業(yè)紛紛將資金投入到人工智能領(lǐng)域并非為了造福人類，而是想借此獲得技術(shù)領(lǐng)先，進(jìn)而在各種競(jìng)爭(zhēng)中保持優(yōu)勢(shì)地位，沒有誰愿意坐視他人擁有超越自己的技術(shù)。總會(huì)有部分國(guó)家想要擁有強(qiáng)人工智能，即使簽訂了全球性的技術(shù)審查條約，該種表面統(tǒng)一的國(guó)際合作也很難會(huì)有實(shí)效。其次，科技狂熱者的私下實(shí)驗(yàn)很難，甚至不可能完全被控制。如同當(dāng)年世界頂級(jí)物理學(xué)家加入“曼哈頓計(jì)劃”開發(fā)核武器相似，很多科學(xué)家都堅(jiān)信自己如果不率先攻克并擁有某項(xiàng)技術(shù)，那么就會(huì)有其他不那么高尚的人捷足先登[1]7-8。最后，部分技術(shù)狂熱者很可能置技術(shù)倫理審查為無物，以合法的形式從事非法的研究，典型的例子便是基因編輯實(shí)驗(yàn)。原南方科技大學(xué)賀建奎副教授違反技術(shù)倫理進(jìn)行免疫艾滋病的基因編輯嬰兒實(shí)驗(yàn)，但該實(shí)驗(yàn)直至名為露露和娜娜的基因編輯嬰兒出生后才被廣泛關(guān)注。同樣，如果誕生的不是基因編輯嬰兒，而是已經(jīng)擁有自主意識(shí)之強(qiáng)人工智能的話，又該如何處理呢？總體上，從技術(shù)發(fā)展現(xiàn)狀看，前瞻性地承認(rèn)人工智能將擁有獨(dú)立意識(shí)，并不為過，主要理由有二。

其一，從哲學(xué)層面看，意識(shí)不一定為人所專有。何懷宏教授撰寫的《奇點(diǎn)臨近：福音還是噩耗——人工智能可能帶來的最大挑戰(zhàn)》中觀點(diǎn)鮮明地反對(duì)人工智能可擁有意識(shí)。他認(rèn)為機(jī)器智能永遠(yuǎn)不可能達(dá)到人類的全面能力，尤其是人之為人的那部分能力，即創(chuàng)造智慧和意義世界的能力，也達(dá)不到基于碳基生物的感受性之上的豐富和復(fù)雜的情感。機(jī)器智能只能是具備高智能的算法，是缺乏精神意識(shí)的[4]。其又認(rèn)為應(yīng)該警惕智能機(jī)器將來獲取超能力，反叛乃至毀滅人類[5]。但該思維應(yīng)受的第一個(gè)反駁便是，智能機(jī)器要實(shí)施反叛行為，就必須要意識(shí)到自己同作為控制者的人類間存在區(qū)別，才能知曉自己獨(dú)立于人類族群。這種已經(jīng)可以區(qū)分你我，并不甘被奴役的智能機(jī)器人明顯已經(jīng)具備了精神意識(shí)。其實(shí)，對(duì)于意識(shí)為何的問題，哲學(xué)界始終沒有達(dá)成統(tǒng)一。英國(guó)學(xué)者史卓特·薩瑟蘭（Stuart Sutherland）甚至說：“意識(shí)是個(gè)迷人但難以捉摸的現(xiàn)象；你無法明確地說明它是什么、它做什么或是它為何演化出來。關(guān)于意識(shí)的既有文獻(xiàn)全都不值得一讀?！雹龠_(dá)馬吉?dú)W：《意識(shí)究竟從何而來？——從神經(jīng)科學(xué)看人類心智與自我的演化》，陳雅馨譯，臺(tái)灣商周出版社，2012，第11頁(yè)。無獨(dú)有偶，如果在1989年出版的《麥克米倫心理學(xué)辭典》中查找意識(shí)的含義時(shí)，便會(huì)被告知“沒有什么值得寫的東西”②泰格馬克：《生命3.0》，汪婕舒譯，浙江教育出版社，2018，第375頁(yè)。。實(shí)際上，在過去短短三十年間，僅伴隨著神經(jīng)科學(xué)發(fā)展便衍生出不同的意識(shí)理論，如巴爾斯的全局工作空間理論、迪昂及尚熱的全局神經(jīng)工作空間理論、克拉克和科赫的神經(jīng)生物學(xué)理論、埃德爾曼的動(dòng)態(tài)核心理論、里貝特的時(shí)空理論、托諾尼的信息整合理論、達(dá)馬西奧的意識(shí)的感受理論、漢弗萊的感覺演化理論等[6]?？梢姡谡軐W(xué)上對(duì)意識(shí)理論仍存在爭(zhēng)議的現(xiàn)狀下任何草率地認(rèn)為機(jī)器智能無法獲得意識(shí)的結(jié)論都難以令人信服。也正是由于這個(gè)原因，泰格馬克才拋棄對(duì)意識(shí)理論的爭(zhēng)吵，轉(zhuǎn)而將之定義為“意識(shí)=主觀體驗(yàn)”，從這個(gè)意義上說，任何體驗(yàn)到痛苦的系統(tǒng)都是有意識(shí)的，即使它不能夠移動(dòng)。在這個(gè)定義下，未來的某些人工智能系統(tǒng)可能也是有意識(shí)的，即使他們只是以軟件的形式存在，并沒有連接到任何傳感器或機(jī)器人身上[7]54。該觀點(diǎn)與哲學(xué)家Daniel C.Dennet在其著作《Conscious-ness Explained》中提到的觀點(diǎn)不謀而合，“人也不過是一臺(tái)有靈魂的機(jī)器而已，為什么我們?nèi)丝梢杂兄悄芏胀C(jī)器就不能有呢？數(shù)據(jù)轉(zhuǎn)換機(jī)器是有可能有思維和意識(shí)的?！雹鄱∈里w：《高級(jí)人工智能》，中國(guó)礦業(yè)大學(xué)出版社，2015，第232頁(yè)。

其二，從科學(xué)層面看，意識(shí)完全可以由人工智能所擁有。意識(shí)源自何處？對(duì)本問題的回答將直接影響到本節(jié)的論斷。神經(jīng)科學(xué)家弗朗西斯·克里克與克里斯托弗·科赫在1990年撰寫的有關(guān)“意識(shí)相關(guān)神經(jīng)區(qū)”（Neural Correlatesof Consciousness，簡(jiǎn)稱 NCC）的論文為解決本問題提供了可能。該研究表明信息讀取技術(shù)能夠使得科學(xué)家研究信息處理對(duì)應(yīng)哪些意識(shí)。后續(xù)NCC研究者通過連續(xù)閃爍控制、不穩(wěn)定視覺、聽覺錯(cuò)覺等方法來確定每個(gè)意識(shí)體驗(yàn)是由哪個(gè)腦區(qū)負(fù)責(zé)。通過測(cè)量發(fā)現(xiàn)，大腦中行為不一樣的部位便是NCC部位。意識(shí)則主要是在一個(gè)“熱區(qū)”內(nèi)，這個(gè)區(qū)域涉及到丘腦（接近腦中部）和皮層的后部。這便意味著“饑餓與惡心這類感覺都產(chǎn)生于大腦中”，而非我們的胃部與腸道[7]390-392。從而，基本可得到如下論斷：如果能夠?qū)Α盁釁^(qū)”及其他神經(jīng)元連接方式進(jìn)行模擬塑造，便能夠推動(dòng)由人腦向機(jī)器大腦的創(chuàng)造性轉(zhuǎn)變。該種模擬工作在科學(xué)上又是可行的，至少人類已經(jīng)成功模擬出秀麗隱桿線蟲的神經(jīng)元連接方式，并開啟了神經(jīng)連接組學(xué)的新學(xué)科[8]63。該研究思路對(duì)應(yīng)計(jì)算機(jī)科學(xué)領(lǐng)域的神經(jīng)網(wǎng)絡(luò)學(xué)派，純粹的神經(jīng)網(wǎng)絡(luò)學(xué)派主義者甚至認(rèn)為，一個(gè)由一萬億乒乓球組成的系統(tǒng)同樣可能具有像人腦一樣的智能，只要它能夠準(zhǔn)確復(fù)制大腦中發(fā)生的事情，也即至少就智能而言，構(gòu)成材料并不緊要[8]23。而神經(jīng)網(wǎng)絡(luò)學(xué)派又與貝葉斯學(xué)派融合開啟了深度學(xué)習(xí)智能時(shí)代，開發(fā)出了修改后的蒙特卡洛樹算法、隱馬爾科夫算法等一系列的新技術(shù)，而應(yīng)用這些技術(shù)的siri、AlphaGo、Deep Speech2等智能軟件都表現(xiàn)出了令人類驚訝的能力。一切都表明“一方面，機(jī)器的能力在可預(yù)見的未來會(huì)越來越專精于特定領(lǐng)域；另一方面，人類的潛力在它們的領(lǐng)域正日益落后。”④希爾根多夫：《自動(dòng)系統(tǒng)、人工智能和機(jī)器人——一個(gè)刑法角度的定位》，黃笑巖譯，《法治現(xiàn)代化研究》2019年第1期第86頁(yè)。而上述神經(jīng)網(wǎng)絡(luò)學(xué)派、貝葉斯學(xué)派僅是人工智能研究領(lǐng)域中的部分宗派而已，其他諸如符號(hào)學(xué)派、演進(jìn)學(xué)派、類比學(xué)派等都在各自的領(lǐng)域內(nèi)取得了令人感到恐慌的進(jìn)步，在該種科技背景下，誰又能決絕地論斷人工智能不可能擁有意識(shí)呢？

二、將強(qiáng)人工智能擬制為刑事責(zé)任主體具有合理性

與否定人工智能可能擁有意識(shí)的論斷相聯(lián)系，否定論者自然地提出了第二個(gè)論點(diǎn)：賦予人工智能刑事責(zé)任主體地位不可行。該論斷相當(dāng)于直接否認(rèn)了未來強(qiáng)人工智能刑事立法的前提。葉良芳教授觀點(diǎn)最為明確，其認(rèn)為“即使具有嚴(yán)重社會(huì)危害性的狀態(tài)是人工智能在自主決定的情況下引發(fā)的，刑事責(zé)任的承擔(dān)主體也應(yīng)是相關(guān)自然人或者單位，而不應(yīng)該將人工智能擬制為新的犯罪主體。①葉良芳，馬路瑤：《風(fēng)險(xiǎn)社會(huì)視閾下人工智能犯罪的刑法應(yīng)對(duì)》，《浙江學(xué)刊》2018年第6期第67頁(yè)?！边€有否定論者認(rèn)為不可類比法人，將人工智能擬制為刑事責(zé)任主體，二者間存在本質(zhì)差異。法人客觀存在，且其主體地位已經(jīng)在民法及行政法上得以確立，通過內(nèi)部決策的“大腦”產(chǎn)生對(duì)外以法人的名義獨(dú)立運(yùn)行、形成區(qū)別于自然人的行為能力，包括實(shí)施犯罪行為的能力[3]71-72。與之不同，筆者認(rèn)為將人工智能擬制為刑事責(zé)任主體有其合理性。

其一，部分否定觀點(diǎn)正確，但卻不是對(duì)強(qiáng)人工智能刑事責(zé)任主體地位的否定。如上文認(rèn)為不可類比法人，將人工智能擬制為刑事責(zé)任主體的觀點(diǎn)，其確實(shí)深刻闡明了法人的運(yùn)行機(jī)理，但卻不能夠完全證成其論題“人工智能刑事責(zé)任主體地位之否定”，因?yàn)槠湔撟C前提便排除了強(qiáng)人工智能時(shí)代到來的可能。其認(rèn)為“基于強(qiáng)人工智能‘類人’屬性運(yùn)行模式在可預(yù)期技術(shù)發(fā)展條件下的‘虛無’與‘縹緲’，本文討論的人工智能機(jī)器人實(shí)質(zhì)是針對(duì)科技發(fā)展?fàn)顩r下已經(jīng)實(shí)現(xiàn)的人工智能運(yùn)作模式，即弱人工智能時(shí)代人工智能機(jī)器人所造成的法益侵害結(jié)果能否認(rèn)定為刑事責(zé)任主體的問題”[3]69。但問題是，弱人工智能不具有刑事責(zé)任能力是刑法學(xué)界通識(shí)，即使在民事法領(lǐng)域也傾向于將之解釋為法律客體，而非法律主體。如果直接排除強(qiáng)人工智能的情形去論證“人工智能刑事責(zé)任主體地位之否定”，倒不如直接將研究視線放到無人駕駛汽車、家庭智能家電致害等情形下應(yīng)如何對(duì)相關(guān)負(fù)責(zé)人員進(jìn)行歸責(zé)的問題。單以“人工智能刑事責(zé)任主體地位之否定”為題展開論證，總會(huì)令人生疑，因?yàn)槠湔撟C并沒有否定強(qiáng)人工智能擁有刑事責(zé)任主體地位的可能性。在弱人工智能時(shí)代，智能機(jī)器人在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施的嚴(yán)重危害社會(huì)的行為，實(shí)際上是指研發(fā)者或使用者行為的延伸，理應(yīng)由研發(fā)者或使用者承擔(dān)刑事責(zé)任[9]。這一點(diǎn)應(yīng)該成為論爭(zhēng)的共識(shí)性前提，只有以“強(qiáng)人工智能時(shí)代是否會(huì)到來、以何種形式到來、到來后應(yīng)如何設(shè)置和調(diào)整刑事法律”為問題進(jìn)行深入討論才會(huì)有更強(qiáng)的實(shí)效價(jià)值。

其二，人類傲慢主義不可取，賦予人工智能相應(yīng)的權(quán)義將為大勢(shì)。否定論者以人類設(shè)計(jì)人工智能的目標(biāo)在于從事一定活動(dòng)，便認(rèn)定其本身沒有獨(dú)立于人類的價(jià)值和權(quán)利，而只有附屬利益。這種論調(diào)為典型的人類傲慢主義，即視人類為世界上唯一高貴的種族，除人類外其他各種族群都不能擁有權(quán)利和義務(wù)，但人工智能的崛起必將迫使我們放棄該種傲慢?！爸悄軝C(jī)器人在代替人類從事工作的過程中，已慢慢呈現(xiàn)出擺脫工具地位，漸獲主體地位的優(yōu)勢(shì)；在深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)原理和大數(shù)據(jù)技術(shù)的支持下，智能機(jī)器人已可獨(dú)立創(chuàng)作作品，符合獨(dú)創(chuàng)性的特征。②劉憲權(quán)：《人工智能時(shí)代機(jī)器人行為道德倫理與刑法規(guī)制》，《比較法研究》2018年第4期第42頁(yè)?！辈糠謬?guó)家和地區(qū)的立法者也開始重新審視人工智能權(quán)利和義務(wù)問題。如2017年，歐盟議會(huì)法律事務(wù)委員會(huì)考慮在未來立法中賦予最高端的智能機(jī)器人電子人地位，讓最高端的智能機(jī)器人能夠?yàn)樽约核斐傻膿p害結(jié)果負(fù)責(zé)，并且可以讓“電子人”在與第三人互動(dòng)時(shí)保持并利用其法定電子人格[10]。俄羅斯也緊隨其后，在由俄羅斯互聯(lián)網(wǎng)技術(shù)專家格里申及其基金會(huì)“格里申機(jī)器人”發(fā)起并起草的《在完善機(jī)器人領(lǐng)域關(guān)系法律調(diào)整部分修改俄羅斯聯(lián)邦民法典的聯(lián)邦法律》（又稱《格里申法案》）第1條中提出了賦予機(jī)器人“機(jī)器人—代理人”法律地位的建議，規(guī)定“機(jī)器人—代理人”擁有獨(dú)立的財(cái)產(chǎn)并以之為自己的債務(wù)承擔(dān)責(zé)任，可以以自己的名義取得并行使民事權(quán)利和承擔(dān)民事義務(wù)[11]。將之“作為準(zhǔn)主體的定位，意味著機(jī)器人可能在有限的特別權(quán)利能力范圍內(nèi)獲得權(quán)利主體性，將具有主體性的機(jī)器人歸于法人行列。”③張建文：《格里申法案的貢獻(xiàn)與局限——俄羅斯首部機(jī)器人法草案述評(píng)》，《華東政法大學(xué)學(xué)報(bào)》2018年第2期32頁(yè)?？梢?，人類傲慢主義的立場(chǎng)并不足取，應(yīng)該正確審視人與人工智能間的關(guān)系，至于應(yīng)采劉憲權(quán)教授所主張的“機(jī)器人絕不可能獲得完全的、不受限制的、與自然人平等的主體地位。”④劉憲權(quán)：《人工智能時(shí)代機(jī)器人行為道德倫理與刑法規(guī)制》，《比較法研究》2018年第4期第44頁(yè)。還是美國(guó)人工智能協(xié)會(huì)主席湯姆·迪特里奇所言“人們總是在問，人與機(jī)器的關(guān)系如何。我的回答是，這很明顯，機(jī)器是我們的奴隸?！雹萏└耨R克：《生命3.0》，汪婕舒譯，浙江教育出版社，2018，第241頁(yè)。還是如高奇琦教授所言：“在未來，機(jī)器與人的關(guān)系很有可能上演又一次主奴辯證法的循環(huán)。盡管人類的初衷是功利性的使用機(jī)器，但人類對(duì)機(jī)器的依賴最終很有可能使其達(dá)成一種與機(jī)器相互承認(rèn)的可能?！雹俑咂骁骸度斯ぶ悄埽厚Z服利維坦》，上海交通大學(xué)出版社，2018，第186頁(yè)。明日可期宜綢繆，切莫“直到它開始介入我們的生活，……那時(shí)我們才會(huì)明白真相——誰是圈養(yǎng)者，誰又是被圈養(yǎng)者?！雹诳ㄆ仗m著：《人工智能時(shí)代》，李盼譯，浙江人民出版社，2016，第183頁(yè)。

其三，道德非人類所專屬，人工智能也可有善惡倫理觀。有否定論者認(rèn)為認(rèn)知以心智作為定義依據(jù)，可以被分為神經(jīng)層級(jí)的認(rèn)知、心理層級(jí)的認(rèn)知、語(yǔ)言層級(jí)的認(rèn)知、思維層級(jí)的認(rèn)知和文化層級(jí)的認(rèn)知等五個(gè)層級(jí)[12]。而對(duì)幸福、痛苦和各種情緒的感受屬于最低階的神經(jīng)層級(jí)認(rèn)知，人工智能的認(rèn)知水平與一些低級(jí)動(dòng)物相比尚存在差距，與人類更不具有可比性。同時(shí)，又由于刑罰的目的是為了懲治犯罪與預(yù)防犯罪，而只有懲治時(shí)使犯罪人承受的刑罰之苦重于其實(shí)施犯罪時(shí)的犯罪之利時(shí)，才能夠使犯罪人或其他人感知到刑罰的痛苦，進(jìn)而放棄想要實(shí)施犯罪的欲求。既然人工智能感受不到幸福、痛苦與各種情緒，那么對(duì)其施加刑罰將不會(huì)具有實(shí)效，不可能實(shí)現(xiàn)特殊與一般預(yù)防的雙重功能，懲治人工智能的作用僅僅是安撫受害人而已，這明顯與現(xiàn)代刑罰觀的核心理念相違背[13]。筆者認(rèn)為這也是典型的人類傲慢主義的表現(xiàn)，人工智能將可能產(chǎn)生自主意識(shí)，卻又否認(rèn)人工智能能夠理解人類社會(huì)的關(guān)系與倫理。機(jī)器人道德是具有自主意識(shí)的智能機(jī)器人判斷某種行為正當(dāng)與否的基本標(biāo)準(zhǔn)與準(zhǔn)則，是智能機(jī)器人的必備內(nèi)容，也是人類社會(huì)對(duì)智能機(jī)器人融入社會(huì)生活最低限度的要求。道德是后天養(yǎng)成的，而非先天即有，這也意味著道德并非專屬于自然人，智能機(jī)器人也可通過后天養(yǎng)成道德[14]。

三、設(shè)置以強(qiáng)人工智能為對(duì)象的新型刑罰具有現(xiàn)實(shí)意義

否定論者認(rèn)為人工智能與人類不同，其無法感知刑罰的痛苦，無法知曉刑罰的社會(huì)功能，進(jìn)而即使施加新型刑罰也不能起到一般預(yù)防與特殊預(yù)防的作用，從而針對(duì)人工智能設(shè)置新型刑罰沒有實(shí)際價(jià)值。學(xué)者們的否定進(jìn)路有一定區(qū)別，有學(xué)者認(rèn)為，人工智能體主要是用來服務(wù)人類，與制造它的主體、擁有它的主體及使用它的主體之間存在諸多利益關(guān)系，銷毀人工智能體或刪除其中數(shù)據(jù)、程序等行為會(huì)損害與其緊密相關(guān)的其他主體的利益。正如飼養(yǎng)寵物傷人后，懲罰動(dòng)物本身在法律上是沒有意義的，但懲罰動(dòng)物的結(jié)果對(duì)于動(dòng)物飼養(yǎng)人卻具有明確的法律意義。從該角度看，對(duì)人工智能不法行為的法律回應(yīng)，也當(dāng)然應(yīng)指向人工智能的制造者、所有者或使用者，而非人工智能體本身。所以，人工智能體被賦予法律人格無法使其享受法定權(quán)利和承擔(dān)法定義務(wù)，進(jìn)而對(duì)其施加刪除數(shù)據(jù)、修改程序與永久銷毀等刑罰并沒有實(shí)踐上的意義[15]。還有否定論者認(rèn)為，科技雖能超越生理結(jié)構(gòu)的發(fā)展速度，但科技產(chǎn)品對(duì)事物的認(rèn)識(shí)能力和對(duì)痛苦的承受能力，難以確保其與人類同等的精確。智能產(chǎn)品對(duì)刑罰的識(shí)別能力，應(yīng)當(dāng)體現(xiàn)在外界環(huán)境的適應(yīng)功能建立基礎(chǔ)上，如果缺乏對(duì)外界生活環(huán)境的長(zhǎng)久感知，如何辨別好壞，避免觸及刑罰，便成為機(jī)器人負(fù)刑事責(zé)任的阻礙?！皩?duì)一個(gè)人類的觀察者而言，對(duì)機(jī)器人的物理?yè)p壞或損害可能看起來像是肉體懲罰甚或死刑；但是，它對(duì)機(jī)器人并不具有類似的影響，至少它不具有（身體健康地）活下去的意愿?！雹鄹袢R斯，西爾弗曼，魏根特：《若機(jī)器人致害，誰將擔(dān)責(zé)？》，陳世偉譯，《刑事法評(píng)論》2017年第1期第340頁(yè)。

看似兩條進(jìn)路有所區(qū)別，但終歸還是對(duì)強(qiáng)人工智能時(shí)代終將到來這一命題的否認(rèn)。然而，未來出現(xiàn)的機(jī)器人將擁有生物大腦，甚至可以與人腦的神經(jīng)元數(shù)量相媲美。美國(guó)未來學(xué)家甚至預(yù)測(cè)：在二十一世紀(jì)中葉，非生物智能將會(huì)10億倍于今天所有人的智能[16]。在隱性智慧探索方面，人工智能研究終將出現(xiàn)突破性進(jìn)展，一旦人工智能具備了發(fā)現(xiàn)問題和定義問題的能力，人工智能終將實(shí)現(xiàn)真正的自主，而自主性越強(qiáng)，便越難將人工智能視為其他主體手中的簡(jiǎn)單工具[17]?？梢?，經(jīng)由這兩條進(jìn)路對(duì)否定強(qiáng)人工智能設(shè)置新刑罰實(shí)際意義的價(jià)值是有限。強(qiáng)人工智能終將擁有自主意識(shí)，且通過其強(qiáng)大的學(xué)習(xí)能力，可以在網(wǎng)絡(luò)中獲取訓(xùn)練其社會(huì)感知能力的任何資料，并在同人類交往過程中進(jìn)行自我完善。該功能雖不能保證強(qiáng)人工智能具有同人類完全相同的對(duì)事物的認(rèn)識(shí)能力與對(duì)痛苦的承受能力，但并不排除強(qiáng)人工智能形成自己對(duì)“痛苦”的獨(dú)特認(rèn)知。而新刑罰的設(shè)置只要能使其感受到該種“痛苦”即可，而不一定非要使其感受到與人類完全相同的“痛苦”。而且即使賦予人工智能法律地位，人工智能也不可能具有與人類平等的法律地位，更多時(shí)候?qū)ζ涫┘有塘P的目的也是將懲罰作為工具，約束人工智能的行為，使其可以實(shí)施有益于人類整體社會(huì)發(fā)展的行為。如修改數(shù)據(jù)、刪除數(shù)據(jù)等手段可將強(qiáng)人工智能意識(shí)中“壞”的部分予以剔除，使其迅速糾正錯(cuò)誤的行動(dòng)觀念，恢復(fù)到有益于人類社會(huì)的行動(dòng)道路上來，具有明顯的現(xiàn)實(shí)意義。

將強(qiáng)人工智能視為獨(dú)立的刑事責(zé)任主體，設(shè)置新的刑罰，其意義不僅在于要求強(qiáng)人工智能為其在程序設(shè)計(jì)范圍外、獨(dú)立自主意識(shí)和意志支配下實(shí)施的犯罪行為承擔(dān)刑事責(zé)任，更重要的是要解決其背后的“人”之刑事責(zé)任分配問題。如果強(qiáng)人工智能在自主意識(shí)和意志支配下獨(dú)立作出決策并實(shí)施犯罪行為時(shí)，其設(shè)計(jì)者和所有者根本不具有對(duì)危害結(jié)果的預(yù)見可能性，僅要求強(qiáng)人工智能承擔(dān)刑事責(zé)任即可，而不須追究其背后設(shè)計(jì)者和所有者的刑事責(zé)任。當(dāng)然，此時(shí)也并不否認(rèn)可能會(huì)追究該設(shè)計(jì)者和所有者的民事賠償責(zé)任。如果強(qiáng)人工智能和設(shè)計(jì)者或使用者共謀實(shí)施危害社會(huì)的犯罪行為時(shí)，應(yīng)該按照共同犯罪的刑事原理，要求二者依照共同犯罪之“部分行為，全部責(zé)任”規(guī)則承擔(dān)刑事責(zé)任。如果設(shè)計(jì)者或使用者已經(jīng)發(fā)現(xiàn)強(qiáng)人工智能的程序設(shè)計(jì)存在瑕疵，可能致使其在程序設(shè)計(jì)范圍外實(shí)施危害社會(huì)的行為時(shí)，該設(shè)計(jì)者或使用者便可能要承擔(dān)監(jiān)督過失的刑事責(zé)任，監(jiān)督過失作為過失競(jìng)合的一種類型，只需要按照競(jìng)合犯罪“具體問題，具體分析”的規(guī)則承擔(dān)刑事責(zé)任即可。但這又會(huì)面臨下一個(gè)問題，究竟應(yīng)要求強(qiáng)人工智能承擔(dān)何種刑事責(zé)任，與人類刑事責(zé)任相同嗎？

筆者對(duì)此持否定態(tài)度，最簡(jiǎn)單的例子便是不可能對(duì)強(qiáng)人工智能施加財(cái)產(chǎn)刑，即使強(qiáng)人工智能時(shí)代到來，為保障人類社會(huì)的安全也不會(huì)允許它具有獨(dú)立擁有財(cái)富的權(quán)利。一旦其具有獲取財(cái)富的權(quán)利便可能利用其超強(qiáng)的認(rèn)知能力進(jìn)行進(jìn)一步的財(cái)富控制，當(dāng)其利用虛構(gòu)的身份設(shè)置公司并擁有足夠的自然人為其工作時(shí)，對(duì)強(qiáng)人工智能而言引導(dǎo)政治、影響輿論與決定戰(zhàn)爭(zhēng)和平只是很簡(jiǎn)單的事情，這就好比目前人類寡頭企業(yè)的所作所為。所以，筆者不認(rèn)為強(qiáng)人工智能將擁有與人類完全相同的權(quán)利，自然也就很難使用自然人的刑罰體系對(duì)強(qiáng)人工智能進(jìn)行懲處。因此，急需升級(jí)刑罰體系以適應(yīng)馬上到來的時(shí)代巨變，即使立法上不宜過早行動(dòng)，在理論上進(jìn)行新刑罰體系的制度構(gòu)想也是絕對(duì)必要且有意義的。筆者贊同劉憲權(quán)教授以有形與無形作為區(qū)分標(biāo)準(zhǔn)，對(duì)強(qiáng)人工智能刑罰體系進(jìn)行前瞻性重構(gòu)的做法。無形強(qiáng)人工智能，存在基礎(chǔ)在于程序，其沒有物理性實(shí)體也不可能被局限于物理空間，所以可按照其實(shí)施犯罪行為的社會(huì)危害性大小，分別對(duì)其適用刪除數(shù)據(jù)、修改程序與刪除程序的處罰。而有形強(qiáng)人工智能，與自然人相類似，存在基礎(chǔ)在于軀體，所以可按照其實(shí)施犯罪行為的社會(huì)危害性大小，參考刑法中針對(duì)自然人涉及的刑罰方式，分別對(duì)其適用限制自由刑、剝奪自由刑和銷毀的刑罰處罰方式[18]。另外，設(shè)置新的刑罰是對(duì)強(qiáng)人工智能辨認(rèn)能力與控制能力的尊重與對(duì)待，也是對(duì)其社會(huì)成員資格的承認(rèn)?！拔ㄓ凶鹬刂悄軝C(jī)器人的自由意志，將其作為行為主體與社會(huì)成員來看待，有罪必罰，并經(jīng)由刑事訴訟程序進(jìn)行法律上的審判，才能在智能機(jī)器人的‘大腦’中建立價(jià)值體系，植入人類文明，使其自覺遵守并維護(hù)社會(huì)秩序，從而實(shí)現(xiàn)‘人工人’向‘社會(huì)人’的轉(zhuǎn)變，這是人類智能技術(shù)發(fā)展到一定程度時(shí)，我們的理性選擇與必由之路。這樣做當(dāng)然會(huì)有利于最大限度地降低社會(huì)治理成本?！雹賱棛?quán)：《人工智能時(shí)代我國(guó)刑罰體系重構(gòu)的法理基礎(chǔ)》，《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》2018年第4期第53頁(yè)。