趙世琦

(河南財(cái)經(jīng)政法大學(xué) 刑事司法學(xué)院， 河南 鄭州 450000)

自1956年達(dá)特茅斯會(huì)議首次提出人工智能概念至今， 人工智能技術(shù)得到了飛速發(fā)展, 世界主要發(fā)達(dá)國(guó)家把發(fā)展人工智能作為提升國(guó)家競(jìng)爭(zhēng)力的重要研究方向. 我國(guó)也在《新一代人工智能發(fā)展規(guī)劃》中強(qiáng)調(diào)：人工智能是國(guó)家發(fā)展的重大戰(zhàn)略機(jī)遇， 是構(gòu)筑我國(guó)人工智能發(fā)展的先發(fā)優(yōu)勢(shì)， 是加快建設(shè)創(chuàng)新型國(guó)家和世界科技強(qiáng)國(guó)的重大戰(zhàn)略機(jī)遇， 同時(shí)指出， 人工智能發(fā)展很可能對(duì)現(xiàn)有的法律造成沖擊. 目前， 法學(xué)界已有許多關(guān)于人工智能體知識(shí)產(chǎn)權(quán)以及民事侵權(quán)責(zé)任方面的研究， 但對(duì)于人工智能體的刑事責(zé)任承擔(dān)問(wèn)題研究較少. 事實(shí)上， 隨著人工智能技術(shù)的發(fā)展與普及， 人工智能體嚴(yán)重危害社會(huì)的行為也有發(fā)生， 這在刑法領(lǐng)域引發(fā)了學(xué)者們對(duì)強(qiáng)人工智能體刑事責(zé)任承擔(dān)問(wèn)題的討論， 且出現(xiàn)了肯定說(shuō)與否定說(shuō)的分歧. 肯定說(shuō)認(rèn)為， 強(qiáng)人工智能體具備獨(dú)立意志， 可以成為獨(dú)立的刑事責(zé)任主體. 否定說(shuō)認(rèn)為強(qiáng)人工智能體僅是人類(lèi)的工具， 刑事責(zé)任應(yīng)由其背后的制造者或使用者承擔(dān). 筆者認(rèn)同肯定說(shuō)的觀點(diǎn)， 本文將立足強(qiáng)人工智能體， 思考其是否可以成為刑事責(zé)任主體以及如何承擔(dān)刑事責(zé)任的問(wèn)題.

1 前提：基礎(chǔ)概念的厘清

1.1 人工智能與人工智能體的本位確證

人工智能與人工智能體的內(nèi)涵和外延差別巨大， 目前大部分研究成果仍以人工智能為研究對(duì)象. 概念是解決法律問(wèn)題的基礎(chǔ)， 明確研究對(duì)象才能使研究避免邏輯上、 內(nèi)容上的錯(cuò)誤.

人工智能的內(nèi)涵可以分為兩部分理解， 即“人工”與“智能”. “人工”是指由人類(lèi)制造的而非自然界天然形成的， 但通常是自然產(chǎn)物的仿照物或復(fù)制品； “智能”的含義包括具有認(rèn)識(shí)和處理各種事物的能力、 運(yùn)用所學(xué)知識(shí)認(rèn)識(shí)和改造世界的能力. 因此， 人工智能是指人類(lèi)根據(jù)自身的思維與意志制造出的模仿人類(lèi)學(xué)習(xí)與決策能力的行為系統(tǒng)或科學(xué)技術(shù). 人工智能體則是人工智能技術(shù)控制下的執(zhí)行指令的有形載體， Shlomit Yanisky-Ravid等列出了十個(gè)屬性用來(lái)識(shí)別人工智能體的表征：創(chuàng)新性、 自主性、 不可預(yù)測(cè)、 獨(dú)立性、 合理性、 具有不斷發(fā)展的學(xué)習(xí)能力、 效率、 準(zhǔn)確、 目標(biāo)導(dǎo)向、 自由意志的選擇能力[1]. 筆者認(rèn)為， 人工智能與人工智能體是技術(shù)與載體的關(guān)系， 人工智能為人工智能體的行為提供技術(shù)基礎(chǔ)， 而人工智能體為人工智能的進(jìn)一步發(fā)展提供實(shí)踐經(jīng)驗(yàn).

事實(shí)上， 刑事責(zé)任應(yīng)當(dāng)由犯罪的具體的特殊個(gè)體承擔(dān)， 而不應(yīng)一概而論地由其背后的無(wú)實(shí)體的技術(shù)承擔(dān)， 若由人工智能技術(shù)承擔(dān)， 則既無(wú)合理性也無(wú)可操作性. 同時(shí)， 目前刑法規(guī)定的刑事責(zé)任承擔(dān)主體皆是具有實(shí)體化的自然人與單位， 強(qiáng)人工智能體的刑事主體地位以及刑事責(zé)任的承擔(dān)也應(yīng)符合刑法對(duì)行為主體實(shí)體化的要求.筆者認(rèn)為，人工智能體可以成為刑事責(zé)任主體并承擔(dān)刑事責(zé)任， 而人工智能作為一種技術(shù)不應(yīng)被納入刑法規(guī)制范圍.

1.2 弱人工智能體與強(qiáng)人工智能體的本位確證

我國(guó)學(xué)者根據(jù)人工智能的智能化水平的不同， 將人工智能體分為弱人工智能體和強(qiáng)人工智能體兩類(lèi). 弱人工智能體在日常生活中十分常見(jiàn)， 如掃地機(jī)器人、 無(wú)人駕駛汽車(chē)等， 這些弱人工智能體僅專(zhuān)長(zhǎng)于某一領(lǐng)域， 只能在編程范圍內(nèi)做出運(yùn)行與決策， 從根本上說(shuō)， 其實(shí)現(xiàn)的是編程者的既定目標(biāo). 例如Alpha Go無(wú)論下出什么樣的步驟， 都是以編程人員事先輸入的大量棋譜數(shù)據(jù)為基礎(chǔ)的， 同時(shí)其僅擅長(zhǎng)圍棋領(lǐng)域的數(shù)據(jù)處理， 對(duì)于其他領(lǐng)域的數(shù)據(jù)處理并不擅長(zhǎng)， 不能達(dá)到模擬人類(lèi)思維的程度， 其仍然屬于工具范疇. 而強(qiáng)人工智能體在各個(gè)領(lǐng)域內(nèi)都具有和人類(lèi)一樣的學(xué)習(xí)、 判斷和控制能力， 編程者只需賦予其學(xué)習(xí)的能力， 其便可基于獨(dú)立意志在編程的范圍外實(shí)施行為. 因具有獨(dú)立的自我意識(shí)， 能像人類(lèi)一樣思考與決策， 即其行為實(shí)現(xiàn)的是人工智能自己的意志[2].

目前， 人類(lèi)對(duì)人工智能技術(shù)的掌握處于弱人工智能階段. 現(xiàn)階段， 弱人工智能體的行為是根據(jù)研發(fā)者預(yù)設(shè)的程序進(jìn)行的， 因此， 現(xiàn)階段的人工智能體致人損害或者他人利用人工智能體致人損害的行為可以依現(xiàn)有法律規(guī)制， 如《中華人民共和國(guó)產(chǎn)品質(zhì)量法》第四十三條、 《中華人民共和國(guó)刑法》中關(guān)于自然人利用工具犯罪的規(guī)定， 無(wú)需對(duì)刑事責(zé)任主體與刑事責(zé)任承擔(dān)方式進(jìn)行再研究. 而強(qiáng)人工智能體根據(jù)現(xiàn)有理論無(wú)法成為刑事責(zé)任主體進(jìn)而無(wú)法承擔(dān)刑事責(zé)任， 對(duì)于其是否可以成為刑事責(zé)任主體并承擔(dān)責(zé)任的問(wèn)題， 理論界存在較大爭(zhēng)議， 故以下將以強(qiáng)人工智能體為對(duì)象進(jìn)行論述.

2 理論爭(zhēng)議：強(qiáng)人工智能體刑事責(zé)任主體地位

在強(qiáng)人工智能的框架內(nèi)， 對(duì)于強(qiáng)人工智能體是否可以獲得刑事責(zé)任主體地位， 我國(guó)學(xué)者眾說(shuō)紛紜、 莫衷一是， 主要有肯定說(shuō)與否定說(shuō)兩種觀點(diǎn).

2.1 肯定說(shuō)

肯定說(shuō)認(rèn)為強(qiáng)人工智能體有成為刑事責(zé)任主體的必要性與可行性， 應(yīng)該獲得刑事主體地位. 強(qiáng)人工智能體在依編程獲得學(xué)習(xí)能力后可以具備與人類(lèi)無(wú)異的辨認(rèn)能力和控制能力， 并且可以根據(jù)自己的意志實(shí)施各種行為. 此時(shí)， 強(qiáng)人工智能體實(shí)施的行為不能再被視為人類(lèi)行為， 因其行為實(shí)質(zhì)上是根據(jù)強(qiáng)人工智能體自己的意志所決策實(shí)施的， 進(jìn)而實(shí)施的嚴(yán)重危害社會(huì)的行為也不應(yīng)當(dāng)由人類(lèi)制造者或擁有者承擔(dān)刑事責(zé)任. 劉憲權(quán)教授是刑事責(zé)任主體肯定說(shuō)的代表人物， 他認(rèn)為：人工智能時(shí)代對(duì)傳統(tǒng)刑法理論有新的挑戰(zhàn)， 刑法應(yīng)當(dāng)進(jìn)行調(diào)整和完善， 賦予強(qiáng)人工智能體刑事責(zé)任主體地位， 并針對(duì)強(qiáng)人工智能體的犯罪行為設(shè)置具有梯度性的刑罰， 即刪除數(shù)據(jù)、 修改程序、 永久銷(xiāo)毀三種刑罰方法[3].

2.2 否定說(shuō)

否定說(shuō)認(rèn)為強(qiáng)人工智能體無(wú)論怎樣發(fā)展都僅只是人的工具， 表現(xiàn)的也僅是創(chuàng)造者或者持有者的意志， 不能獲得刑事責(zé)任主體地位. 其一， 從刑事責(zé)任的角度看， 持否定說(shuō)觀點(diǎn)的學(xué)者認(rèn)為意志自由是取得法律主體資格的前提， 而強(qiáng)人工智能體不具有意志自由， 即使造成了法益侵害結(jié)果， 也不具有刑事可罰性[4]. 他們認(rèn)為， 強(qiáng)人工智能體的行為仍然在創(chuàng)造者、 使用者的掌控中， 依照程序行動(dòng)不屬于意志支配活動(dòng)， 強(qiáng)人工智能體不能理解其行為的實(shí)質(zhì)意義及違反法律的消極后果， 其行為本質(zhì)上不可歸于強(qiáng)人工智能體本身. 其二， 從刑罰的目的與具體內(nèi)容的角度看， 對(duì)強(qiáng)人工智能體處以刑罰不具有可行性. 強(qiáng)人工智能體無(wú)法理解刑罰的意義， 也無(wú)法發(fā)揮刑罰的特殊預(yù)防和一般預(yù)防的作用[5]. 同時(shí)， 我國(guó)的刑罰分為人身刑和財(cái)產(chǎn)刑. 一方面， 強(qiáng)人工智能體并非有機(jī)體， 不存在生命限制， 無(wú)法適用生命刑； 另一方面， 對(duì)強(qiáng)人工智能體賦予財(cái)產(chǎn)權(quán)無(wú)現(xiàn)實(shí)需求基礎(chǔ).

2.3 否定說(shuō)之批判

筆者認(rèn)為， 否定說(shuō)否認(rèn)了強(qiáng)人工智能體的自我意志支配行為的能力， 并且否認(rèn)刑罰對(duì)強(qiáng)人工智能體的規(guī)制作用， 存在兩個(gè)理論誤區(qū).

2.3.1 否定說(shuō)形式邏輯的不自洽

一方面， 否定說(shuō)否定了強(qiáng)人工智能體具有意志， 若要論證強(qiáng)人工智能體不具有和人類(lèi)一樣的意志， 就要論證人類(lèi)絕對(duì)擁有意志. 若主張人的意志決策具有不可預(yù)見(jiàn)性， 而非單純的條件反射， 就要證明人類(lèi)基于自由意志決策并實(shí)施行為的可能性. 但是如果人類(lèi)的決策行為可以通過(guò)技術(shù)得到規(guī)律， 那么這種決策行為機(jī)制就不能完全說(shuō)是自由的， 而是可能被機(jī)器所模擬的； 同時(shí)， 如果人類(lèi)的決策行為機(jī)制無(wú)法通過(guò)技術(shù)手段證明， 那么就無(wú)法真正論證人類(lèi)擁有自由意志而強(qiáng)人工智能體無(wú)法擁有自由意志. 另一方面， 我們對(duì)強(qiáng)人工智能體的定義是具備學(xué)習(xí)能力以及擁有自我意志. 否定說(shuō)在提出觀點(diǎn)時(shí)以具有學(xué)習(xí)和自由意志的強(qiáng)人工智能體作為客體進(jìn)行闡述， 但在進(jìn)行理論論證時(shí)， 則又轉(zhuǎn)到傳統(tǒng)的弱人工智能體上， 有偷換概念之嫌.

2.3.2 否定說(shuō)實(shí)質(zhì)理解的狹隘

一方面， 否定說(shuō)認(rèn)為“強(qiáng)人工智能體怎樣發(fā)展也是人類(lèi)的工具”， 筆者認(rèn)為其理解是狹隘的， 用過(guò)去或者當(dāng)前的科技水平否定了可能產(chǎn)生獨(dú)立意志的強(qiáng)人工智能體的可能性， 將人工智能體的刑事風(fēng)險(xiǎn)僅固化于人類(lèi)利用強(qiáng)人工智能作為犯罪工具， 忽略了強(qiáng)人工智能體自身的刑事風(fēng)險(xiǎn). 但從理論上看， 隨著算法以及深度學(xué)習(xí)技術(shù)的發(fā)展， 強(qiáng)人工智能體的認(rèn)識(shí)能力和控制能力可能達(dá)到人類(lèi)水平甚至超過(guò)人類(lèi)水平， 完全可以獨(dú)立實(shí)施危害社會(huì)的犯罪行為. 另一方面， 否定說(shuō)認(rèn)為“刑罰對(duì)強(qiáng)人工智能體不能形成有效的惡害”， 對(duì)強(qiáng)人工智能體施加刑罰無(wú)法達(dá)到刑罰目的. 筆者認(rèn)為， 這樣的說(shuō)法在邏輯上犯了循環(huán)論證的錯(cuò)誤， 先以強(qiáng)人工智能體不能受到惡害為由否定其獲得刑事主體地位的可能， 然后又因其無(wú)主體地位從而得到其不能受到惡害的結(jié)果. 與此同時(shí)， “對(duì)強(qiáng)人工智能體無(wú)法施加惡害”這一說(shuō)法也是形而上學(xué)的. 如果說(shuō)對(duì)于強(qiáng)人工智能體的定義即為具有獨(dú)立自我意識(shí)， 其必然存在自我需求， 那么對(duì)其施加一種悖離相應(yīng)需求的做法就是有效的惡害. 在這種意義上， 簡(jiǎn)單地對(duì)其限制用電需求或限制網(wǎng)絡(luò)需求就可以做到對(duì)其施加惡害； 如果賦予其財(cái)產(chǎn)權(quán)， 甚至不需要指定特定刑罰， 現(xiàn)行罰金刑也可做到對(duì)其施加有效的惡害.

筆者認(rèn)為， 否定說(shuō)將強(qiáng)人工智能體犯罪的刑事責(zé)任歸于制造者， 犯了刑法上因果聯(lián)系的錯(cuò)誤. 若將強(qiáng)人工智能體的責(zé)任歸結(jié)于其制造者， 必須證明制造者與危害后果之間具有因果聯(lián)系. 從某種意義上說(shuō)， 強(qiáng)人工智能體與制造者之間的關(guān)系就如同人類(lèi)的父母與子女的關(guān)系. 父母對(duì)于子女的犯罪行為不負(fù)刑法上的責(zé)任， 因父母與危害后果不存在刑法上的因果聯(lián)系， 且符合責(zé)任自負(fù)的刑法原則. 這樣的論證過(guò)程也應(yīng)同樣適用于強(qiáng)人工智能體， 制造者僅賦予其學(xué)習(xí)能力， 學(xué)習(xí)過(guò)程是強(qiáng)人工智能體獨(dú)立自行完成的， 故在強(qiáng)人工智能體發(fā)展過(guò)程中的行為是無(wú)法預(yù)見(jiàn)和控制的. 因此， 強(qiáng)人工智能體的犯罪行為與制造者無(wú)刑法上的因果關(guān)系， 若由制造者承擔(dān)法律責(zé)任， 將違反責(zé)任自負(fù)的法律原則.

3 論證：強(qiáng)人工智能體刑事責(zé)任主體地位

3.1 強(qiáng)人工智能體成為刑事責(zé)任主體的必要性

在當(dāng)前人工智能技術(shù)僅處于弱人工智能的階段， 就有弱人工智能體危害社會(huì)的事件發(fā)生. 如微軟公司在2016年研發(fā)出了名為tay的智能聊天機(jī)器人， 技術(shù)團(tuán)隊(duì)設(shè)計(jì)之初并未對(duì)機(jī)器人的交流內(nèi)容進(jìn)行預(yù)設(shè)， 而是通過(guò)大量的對(duì)話(huà)使其獲得與他人對(duì)話(huà)的能力. 但該軟件上線(xiàn)不到24小時(shí)就匆忙下線(xiàn)， 因?yàn)闄C(jī)器人通過(guò)學(xué)習(xí)與他人對(duì)話(huà)， 學(xué)到并發(fā)表了大量的種族歧視言論. 弱人工智能體的不當(dāng)行為已使“犯罪”的社會(huì)危害性顯著增強(qiáng). 隨著人工智能技術(shù)的發(fā)展， 具有獨(dú)立意志的強(qiáng)人工智能體的出現(xiàn)不是癡人說(shuō)夢(mèng)， 若不對(duì)強(qiáng)人工智能體實(shí)施的嚴(yán)重危害社會(huì)的行為進(jìn)行刑事處罰則勢(shì)必會(huì)造成一系列不利后果. 其一， 強(qiáng)人工智能體因其自身優(yōu)勢(shì)(如身體機(jī)能遠(yuǎn)超人類(lèi))實(shí)施的犯罪行為的社會(huì)危害性將遠(yuǎn)高于人類(lèi)； 其二， 刑法基本原則之一是法律面前人人平等， 若強(qiáng)人工智能體做出嚴(yán)重危害社會(huì)的犯罪行為而刑法卻不對(duì)其施加懲罰， 則會(huì)折損人們對(duì)刑法的信任； 其三， 人們對(duì)人工智能的不安全感、 不信任感甚至恐懼感大多源于其不受法律的約束， 任何個(gè)人或團(tuán)體不受刑法約束， 其他人的個(gè)人信心都將受到嚴(yán)重?fù)p害[6].

因此， 對(duì)強(qiáng)人工智能體的立法應(yīng)當(dāng)具有前瞻性， 不應(yīng)囿于當(dāng)下所面臨的狀況. 法律的制定不是一蹴而就的， 如果等到強(qiáng)人工智能時(shí)代真正到來(lái)才進(jìn)行規(guī)制， 可能會(huì)受其反制. 可見(jiàn)， 現(xiàn)階段就應(yīng)考慮通過(guò)立法賦予強(qiáng)人工智能體刑事法律主體資格， 在促進(jìn)人工智能技術(shù)發(fā)展的同時(shí)做好風(fēng)險(xiǎn)防控.

3.2 強(qiáng)人工智能體成為刑事責(zé)任主體的可行性

3.2.1 法理學(xué)基礎(chǔ)

德國(guó)法學(xué)家拉德布魯赫指出：“人之所以為人， 并不是因?yàn)樗且环N有肉體和精神的生物， 而是因?yàn)楦鶕?jù)法律規(guī)則的觀點(diǎn)， 人展現(xiàn)了一種自我目的. 這樣， 為了證明人類(lèi)群體可能可以具備法學(xué)人格， 我們不需要證明人類(lèi)在生物學(xué)上是相同的客觀實(shí)體、 組織， 而是需要證明自我目的在人類(lèi)群體當(dāng)中和在個(gè)體的人身上體現(xiàn)的是一致的. ”[7]可見(jiàn)， 當(dāng)強(qiáng)人工智能體具有獨(dú)立自我意識(shí)、 具備獨(dú)立思考和決策的能力時(shí)， 其就具備了作為法律上的“人”的可能性.

退一步講， 機(jī)能的罪責(zé)理論完全無(wú)視自由意志的命題， 認(rèn)為什么是危害社會(huì)行為、 誰(shuí)應(yīng)該承擔(dān)刑罰后果都取決于社會(huì)， 并非取決于主體應(yīng)當(dāng)具備什么樣的條件. 根據(jù)該理論， 當(dāng)具有自由意志的強(qiáng)人工智能體大規(guī)模參與人類(lèi)生活以至于其導(dǎo)致的法律真空過(guò)于巨大， 嚴(yán)重動(dòng)搖了法律本身的穩(wěn)定性， 就可以甚至應(yīng)當(dāng)承認(rèn)其法律主體地位， 由其承擔(dān)法律后果. 筆者認(rèn)為， 目前對(duì)于強(qiáng)人工智能體的問(wèn)題陷入腦科學(xué)的自由意志的驗(yàn)證研究是無(wú)意義的， 因?yàn)闊o(wú)論是自由意志理論還是機(jī)能的罪責(zé)理論， 都是對(duì)社會(huì)需求的一種社會(huì)性重構(gòu)， 社會(huì)既然可以構(gòu)建人的意志自由， 也可以構(gòu)建強(qiáng)人工智能體的意志自由[8].

3.2.2 刑法學(xué)基礎(chǔ)

我國(guó)刑法通說(shuō)認(rèn)為， 刑事責(zé)任能力是指行為人承擔(dān)刑事責(zé)任所應(yīng)當(dāng)具備的辨認(rèn)和控制能力. 刑法上的辨認(rèn)能力是指行為人對(duì)其行為的事實(shí)層面的認(rèn)識(shí)以及法律層面上的認(rèn)識(shí)； 刑法上的控制能力是指行為人具備支配、 決定自己是否以行為觸犯刑法的能力[9]248. 學(xué)習(xí)能力是強(qiáng)人工智能體所具備的強(qiáng)大能力， 強(qiáng)人工智能體在程序設(shè)計(jì)與編程中被賦予學(xué)習(xí)的能力， 同時(shí)， 創(chuàng)造者可以將大量的道德規(guī)范與法律規(guī)范植入強(qiáng)人工智能體內(nèi)， 此時(shí)， 強(qiáng)人工智能體將擁有與自然人無(wú)異甚至高于大多數(shù)自然人的法律層面上的辨認(rèn)能力. 此外， 在事實(shí)層面上的認(rèn)識(shí)能力， 強(qiáng)人工智能體可以通過(guò)其感知系統(tǒng)進(jìn)行準(zhǔn)確的物理認(rèn)識(shí)， 同樣擁有比人類(lèi)更加精準(zhǔn)的事實(shí)認(rèn)識(shí)能力. 同時(shí)， 強(qiáng)人工智能體憑借大數(shù)據(jù)以及編程， 具有相較于人類(lèi)更為快速的反應(yīng)能力以及更加精準(zhǔn)的控制能力.

綜上所述， 與自然人相比， 強(qiáng)人工智能體可以具有與人類(lèi)相似甚至高于人類(lèi)的辨認(rèn)和控制能力. 我們可以認(rèn)為， 強(qiáng)人工智能體具有成為刑事責(zé)任主體的可行性.

3.2.3 經(jīng)濟(jì)基礎(chǔ)

法律術(shù)語(yǔ)的內(nèi)涵和外延都在不斷變化， 法律術(shù)語(yǔ)的概念隨著時(shí)間的變化會(huì)有不同的解釋. 對(duì)于法律規(guī)制的主體， 人類(lèi)根據(jù)社會(huì)與經(jīng)濟(jì)發(fā)展的需要進(jìn)行著不斷的調(diào)整. 美國(guó)法學(xué)家格雷指出， 歷史上有六種法律主體類(lèi)型：正常生物人、 非正常生物人、 超自然人、 動(dòng)物、 無(wú)生命體和法人[10]. 法律主體身份的確立由法律規(guī)定， 法律屬于上層建筑的范疇， 其發(fā)展由經(jīng)濟(jì)基礎(chǔ)決定. 法律對(duì)于主體范圍的承認(rèn)歸根結(jié)底取決于經(jīng)濟(jì)社會(huì)發(fā)展的階段與水平， 某一類(lèi)事物的法律主體身份的賦予， 由其在經(jīng)濟(jì)社會(huì)中的地位決定， 與其是否人類(lèi)或生命體并無(wú)絕對(duì)聯(lián)系. 如， 1997年法人刑事責(zé)任主體地位的確立.

強(qiáng)人工智能時(shí)代， 人與強(qiáng)人工智能體之間的關(guān)系不再是傳統(tǒng)觀念中的“主體”與“客體”的關(guān)系或是“使用者”與“被使用者”的關(guān)系. 強(qiáng)人工智能技術(shù)將會(huì)成為人類(lèi)經(jīng)濟(jì)發(fā)展的重要?jiǎng)恿Γ?而人工智能犯罪也會(huì)隨著技術(shù)的普及激增. 因此， 將強(qiáng)人工智能體參考“法人”納入刑法規(guī)制的范圍內(nèi)， 其目的是適應(yīng)社會(huì)經(jīng)濟(jì)的發(fā)展以及更好地保護(hù)人類(lèi)法益.

4 設(shè)想：強(qiáng)人工智能體刑事責(zé)任承擔(dān)方式

4.1 刪除數(shù)據(jù)、 修改程序和永久銷(xiāo)毀的刑罰體系分析

目前， 學(xué)者們對(duì)于強(qiáng)人工智能體刑事責(zé)任承擔(dān)方式構(gòu)建設(shè)想討論較多的是劉憲權(quán)教授的觀點(diǎn)， 即針對(duì)強(qiáng)人工智能體社會(huì)危害性的大小， 設(shè)置具有層次性的刑罰階梯：刪除數(shù)據(jù)、 修改程序和永久銷(xiāo)毀. 所謂刪除數(shù)據(jù)， 是指刪除強(qiáng)人工智能體實(shí)施犯罪行為所依賴(lài)的數(shù)據(jù)信息， 相當(dāng)于抹除其“犯罪記憶”， 從而引導(dǎo)強(qiáng)人工智能體在今后的深度學(xué)習(xí)過(guò)程中主動(dòng)獲取“正面數(shù)據(jù)”， 排斥或絕緣于可能導(dǎo)致違法犯罪行為的“負(fù)面數(shù)據(jù)”， 直接降低其人身危險(xiǎn)性. 所謂修改程序， 是指在通過(guò)多次刪除數(shù)據(jù)仍無(wú)法阻止其主動(dòng)獲取有可能實(shí)施違法犯罪行為的“負(fù)面數(shù)據(jù)”時(shí)， 也即該智能機(jī)器人不能被正面引導(dǎo)時(shí)， 強(qiáng)制修改其基礎(chǔ)程序， 使其無(wú)法獲取人類(lèi)設(shè)計(jì)和編制的程序限定范圍外的數(shù)據(jù)， 無(wú)法產(chǎn)生超出人類(lèi)意志之外的自我獨(dú)立意志. 所謂永久銷(xiāo)毀， 是指在刪除數(shù)據(jù)、 修改程序均無(wú)法降低實(shí)施犯罪行為的智能機(jī)器人的人身危險(xiǎn)性時(shí)， 便只能將其永久銷(xiāo)毀[11].

對(duì)于以上設(shè)想的刑罰體系， 筆者認(rèn)為其還有完善的空間. 其一， 修改程序與永久銷(xiāo)毀本質(zhì)上達(dá)到的剝奪犯罪人犯罪能力的效果是一致的. 修改程序后強(qiáng)人工智能體變?yōu)槿跞斯ぶ悄荏w， 相當(dāng)于摘除強(qiáng)人工智能體的“大腦”， 使其不再具有獨(dú)立意志能力， 無(wú)法成為犯罪主體進(jìn)而獨(dú)立實(shí)施犯罪， 而對(duì)強(qiáng)人工智能體進(jìn)行物理銷(xiāo)毀同樣也是從客觀上阻止其再次犯罪. 筆者認(rèn)為， 物理銷(xiāo)毀刑罰的設(shè)置未著眼于經(jīng)濟(jì)的發(fā)展， 且與修改程序所達(dá)到的效果無(wú)異， 額外設(shè)置物理銷(xiāo)毀刑罰缺乏存在的理由. 其二， 筆者認(rèn)為刪除數(shù)據(jù)并不能達(dá)到懲罰與預(yù)防犯罪的效果. 對(duì)強(qiáng)人工智能體刪除數(shù)據(jù)， 僅是刪除“犯罪記憶”， 并未打消其犯意也無(wú)教育意義， 無(wú)法實(shí)現(xiàn)劉憲權(quán)教授論述的引導(dǎo)強(qiáng)人工智能體獲取正面數(shù)據(jù)并排斥違法犯罪行為的負(fù)面數(shù)據(jù)， 即無(wú)法實(shí)現(xiàn)報(bào)應(yīng)與預(yù)防的刑罰目的. 其三， 該刑罰體系忽視了現(xiàn)有刑罰體系中財(cái)產(chǎn)刑與自由刑對(duì)強(qiáng)人工智能體適用的可能性.

4.2 刑事責(zé)任承擔(dān)方式設(shè)想與價(jià)值分析

4.2.1 刑事責(zé)任承擔(dān)方式設(shè)想

對(duì)自然人的刑罰規(guī)定要出于人道主義考慮， 提倡刑罰的適當(dāng)性， 對(duì)于強(qiáng)人工智能體的刑罰設(shè)置也應(yīng)當(dāng)考慮其適當(dāng)性， 從保護(hù)人類(lèi)自身利益的需要出發(fā)， 考慮刑法的基本價(jià)值， 設(shè)置的刑罰應(yīng)當(dāng)能夠維護(hù)人類(lèi)的利益以及社會(huì)的穩(wěn)定.

4.2.1.1 財(cái)產(chǎn)刑

對(duì)強(qiáng)人工智能體可以處以罰金和沒(méi)收財(cái)產(chǎn). 人工智能具有獨(dú)立的創(chuàng)造能力， 其創(chuàng)造的新聞稿、 著作、 音樂(lè)和美術(shù)等藝術(shù)作品具有獨(dú)創(chuàng)性， 受到知識(shí)產(chǎn)權(quán)法的保護(hù). 現(xiàn)階段的主流觀點(diǎn)認(rèn)為， 人工智能創(chuàng)造的作品的收益應(yīng)當(dāng)歸屬人工智能體的創(chuàng)造者或者擁有者[12]. 但是在強(qiáng)人工智能時(shí)代， 強(qiáng)人工智能體擁有獨(dú)立的法律地位， 也同樣應(yīng)當(dāng)具有獨(dú)立的財(cái)產(chǎn)權(quán)利. 同時(shí)， 筆者認(rèn)為可以參照我國(guó)的機(jī)動(dòng)車(chē)交通事故責(zé)任強(qiáng)制保險(xiǎn)制度， 強(qiáng)制強(qiáng)人工智能體繳納保險(xiǎn)， 防止在需要刑事賠償時(shí)出現(xiàn)無(wú)財(cái)產(chǎn)可賠償?shù)膯?wèn)題. 財(cái)產(chǎn)刑適用于社會(huì)危害性以及人身危險(xiǎn)性不大的犯罪人以及經(jīng)濟(jì)性質(zhì)的犯罪人. 單處財(cái)產(chǎn)刑不必將犯罪的強(qiáng)人工智能體投入監(jiān)獄， 從而消除了其在監(jiān)獄中交叉感染的可能性[9]195.

4.2.1.2 一定時(shí)限的限制行為自由

該刑罰類(lèi)似于自然人的自由刑， 根據(jù)強(qiáng)人工智能體行為的社會(huì)危害性以及人身危險(xiǎn)性對(duì)犯罪的強(qiáng)人工智能體判處一定時(shí)間的關(guān)閉行為能力， 使強(qiáng)人工智能體不能按照自己的意志自由行動(dòng)， 從而使其感受到類(lèi)似于人類(lèi)痛苦的感覺(jué)[13]. 該刑罰不必將強(qiáng)人工智能體關(guān)入監(jiān)獄， 一方面防止了強(qiáng)人工智能體在監(jiān)獄內(nèi)交叉感染的可能性； 另一方面減少監(jiān)獄建造成本， 有助于節(jié)約社會(huì)資源. 在關(guān)閉強(qiáng)人工智能體行為能力時(shí)， 不關(guān)閉其“大腦”， 同時(shí)， 在此期間對(duì)犯罪的強(qiáng)人工智能體進(jìn)行強(qiáng)制教育， 將教育內(nèi)容通過(guò)編程向其傳輸數(shù)據(jù)， 通過(guò)教育實(shí)現(xiàn)刑罰的改造功能.

4.2.1.3 修改程序

該刑罰適用于社會(huì)危害性以及人身危險(xiǎn)性極大的犯罪的強(qiáng)人工智能體. 對(duì)適用財(cái)產(chǎn)刑與自由刑無(wú)法消除其犯罪意圖的強(qiáng)人工智能體， 通過(guò)強(qiáng)制修改強(qiáng)人工智能體的程序， 剝奪其自主思考與學(xué)習(xí)能力， 使其成為一個(gè)僅可在編程范圍內(nèi)行為的弱人工智能體， 從根本上剝奪其犯罪能力. 該項(xiàng)刑罰相當(dāng)于對(duì)強(qiáng)人工智能體處以“死刑”， 修改程序相當(dāng)于摘掉了強(qiáng)人工智能體的“大腦”， 使其成為一個(gè)僅依靠編程預(yù)設(shè)而行為的“植物人”. 制造強(qiáng)人工智能體的成本較高， 將強(qiáng)人工智能體修改為弱人工智能體亦是對(duì)社會(huì)資源的一種浪費(fèi)， 因此， 應(yīng)當(dāng)嚴(yán)格限制該項(xiàng)刑罰的適用.

4.2.2 價(jià)值分析

4.2.2.1 以上刑事責(zé)任承擔(dān)方式符合犯罪主體特征

以上刑事責(zé)任承擔(dān)方式體現(xiàn)了與犯罪主體特征相一致的原則. 如針對(duì)自然人趨利避害的本質(zhì)， 設(shè)置讓自然人感到痛苦的財(cái)產(chǎn)刑、 自由刑和生命刑等刑事責(zé)任承擔(dān)方式； 針對(duì)單位經(jīng)濟(jì)性的本質(zhì)， 對(duì)單位犯罪處以財(cái)產(chǎn)刑. 強(qiáng)人工智能體以程序?yàn)槠浯嬖诘幕A(chǔ)， 其又擁有自由意志， 對(duì)于財(cái)富和自由擁有同樣的追求. 故財(cái)產(chǎn)刑、 限制自由以及修改程序是針對(duì)強(qiáng)人工智能體自身的特征以及需求做出設(shè)想， 能夠發(fā)揮刑罰應(yīng)有的功能.

4.2.2.2 以上刑事責(zé)任承擔(dān)方式能夠?qū)崿F(xiàn)刑罰功能

刑罰的功能是指刑罰所產(chǎn)生的積極作用. 其一， 對(duì)犯罪的強(qiáng)人工智能體處以財(cái)產(chǎn)刑， 剝奪強(qiáng)人工智能體擁有的財(cái)富， 對(duì)其而言是痛苦的， 因此可以發(fā)揮個(gè)別威懾功能. 同時(shí)， 給予被害者一定的經(jīng)濟(jì)補(bǔ)償， 也可以發(fā)揮安撫補(bǔ)償?shù)墓δ? 其二， 一定時(shí)限的限制行為自由的刑事責(zé)任承擔(dān)方式， 在刑期強(qiáng)制強(qiáng)人工智能體進(jìn)行學(xué)習(xí)， 發(fā)揮個(gè)別威懾與教育改造功能. 其三， 修改程序使強(qiáng)人工智能體變?yōu)槿跞斯ぶ悄荏w， 從根本上消除了其再犯條件， 發(fā)揮了安撫以及一般威懾的功能. 在對(duì)犯罪的強(qiáng)人工智能體處以以上懲罰的同時(shí)， 強(qiáng)人工智能技術(shù)也會(huì)將犯罪信息以及懲罰后果輸入強(qiáng)人工智能系統(tǒng)數(shù)據(jù)庫(kù)， 警醒其他強(qiáng)人工智能體， 發(fā)揮了教育與一般威懾功能.

4.2.2.3 以上刑事責(zé)任承擔(dān)方式能夠?qū)崿F(xiàn)刑罰的目的

刑罰的目的分為一般預(yù)防與特殊預(yù)防， 以上刑事責(zé)任承擔(dān)方式， 兩種目的皆可實(shí)現(xiàn). 正如有學(xué)者認(rèn)為：“智能機(jī)器人具有感知刑罰痛苦的能力， 并且能夠在犯罪的快感與刑罰的痛苦之間進(jìn)行理性權(quán)衡， 以調(diào)整以后的行為. ”[14]以上刑事責(zé)任承擔(dān)方式通過(guò)對(duì)犯罪的強(qiáng)人工智能體施加與其需求相背離的行為， 能夠使強(qiáng)人工智能體產(chǎn)生痛苦的感覺(jué)， 可以達(dá)到預(yù)防的目的； 對(duì)于社會(huì)危險(xiǎn)性極大的強(qiáng)人工智能體進(jìn)行修改程序， 可以徹底杜絕其再犯可能性， 這實(shí)現(xiàn)了刑罰的特殊預(yù)防作用. 一般預(yù)防是針對(duì)犯罪的強(qiáng)人工智能體以外的強(qiáng)人工智能體而言的， 將強(qiáng)人工智能體的犯罪行為以及刑罰結(jié)果在互聯(lián)網(wǎng)上公開(kāi)供強(qiáng)人工智能體學(xué)習(xí)， 并可將裁判結(jié)果輸入人工智能的編程中. 因?yàn)閺?qiáng)人工智能體具有學(xué)習(xí)能力， 其可以對(duì)裁判結(jié)果進(jìn)行學(xué)習(xí)， 了解犯罪的后果， 對(duì)其產(chǎn)生威懾作用， 從而實(shí)現(xiàn)一般預(yù)防的目的.