(華東政法大學(xué)法律學(xué)院，上海 200042)

當(dāng)智能機(jī)器人成為一種由程序設(shè)計(jì)、編制而成并由此產(chǎn)生深度學(xué)習(xí)能力且能夠自主思維、自發(fā)行動(dòng)，因而具有辨認(rèn)能力和控制能力的物體時(shí)，智能機(jī)器人與同樣具有學(xué)習(xí)能力并能夠自主思維、自發(fā)行動(dòng)，且具有辨認(rèn)能力和控制能力的自然人之差異，就僅僅在于其不具有生命，與動(dòng)物的差異則在于其具有辨認(rèn)和控制能力，與普通機(jī)器人的差異在于其具有深度學(xué)習(xí)能力，可能超越人類設(shè)計(jì)和編制的程序在獨(dú)立的意識(shí)和意志支配下實(shí)施行為。就此而言，人們完全沒有理由排除智能機(jī)器人實(shí)施嚴(yán)重危害社會(huì)行為的可能性。在這種情況下，智能機(jī)器人是否需要承擔(dān)相應(yīng)的刑事責(zé)任？智能機(jī)器人的研發(fā)者或使用者是否需要承擔(dān)相應(yīng)的刑事責(zé)任？如果智能機(jī)器人需要承擔(dān)刑事責(zé)任，那么智能機(jī)器人和其研發(fā)者或使用者共同實(shí)施了犯罪行為，是否可能構(gòu)成共同犯罪，其刑事責(zé)任又應(yīng)該如何分擔(dān)？這些都是值得研究者深入思考的問(wèn)題。筆者認(rèn)為，在人工智能時(shí)代，有必要對(duì)刑事責(zé)任與刑罰體系進(jìn)行重構(gòu)。重構(gòu)的體系包括四個(gè)部分，即智能機(jī)器人的刑事責(zé)任、智能機(jī)器人研發(fā)者或使用者的刑事責(zé)任、智能機(jī)器人與自然人共同犯罪刑事責(zé)任的分擔(dān)和智能機(jī)器人犯罪刑罰體系。

一、智能機(jī)器人的刑事責(zé)任

理論界一般認(rèn)為，刑事責(zé)任能力是指，行為人認(rèn)識(shí)自己行為的性質(zhì)、意義、作用和后果，并能對(duì)自己的行為進(jìn)行解釋、控制以及對(duì)自己的行為承擔(dān)刑事責(zé)任的能力。刑事責(zé)任能力亦可稱為行為人辨認(rèn)和控制自己行為的能力。同時(shí)，理論界達(dá)成共識(shí)的是，刑事責(zé)任能力是否具備又是行為人能否成為刑事責(zé)任主體的必要條件，換言之，作為刑事責(zé)任主體必須具有辨認(rèn)能力和控制能力。我國(guó)刑法學(xué)界通常將刑事責(zé)任看作“犯罪的法律后果”，是犯罪與刑罰之間的“橋梁”。在判斷行為人的行為是否構(gòu)成犯罪時(shí)，一方面需要判斷行為主體是否具有刑事責(zé)任能力，另一方面需要判斷行為主體實(shí)施的行為是否具備嚴(yán)重的社會(huì)危害性，以及是否具備諸如罪過(guò)等其他構(gòu)成要件。

當(dāng)下，大多數(shù)人認(rèn)為，智能機(jī)器人和普通機(jī)器人沒有什么本質(zhì)的區(qū)別，如果智能機(jī)器人實(shí)施了嚴(yán)重危害社會(huì)的行為，那必然是受到智能機(jī)器人研發(fā)者或使用者的“操縱”，因而需要承擔(dān)刑事責(zé)任的應(yīng)當(dāng)是智能機(jī)器人的研發(fā)者或使用者。對(duì)此觀點(diǎn)，筆者不敢茍同。依筆者之見，這種觀點(diǎn)忽略了智能機(jī)器人與普通機(jī)器人之間的區(qū)別，從而將智能機(jī)器人完全等同于普通機(jī)器人。事實(shí)上，達(dá)到一定程度的智能機(jī)器人與普通機(jī)器人的最大區(qū)別就在于，前者擁有自己的辨認(rèn)能力和控制能力，并在獨(dú)立的意識(shí)和意志的支配下實(shí)施嚴(yán)重危害社會(huì)的行為。因?yàn)榧热恢悄軝C(jī)器人有了主體性也有了能力,其思想的天平就有可能倒向自己制定的規(guī)則和價(jià)值觀。*參見趙汀陽(yáng)：《終極問(wèn)題：智能的分叉》，《世界哲學(xué)》2016年第5期。換言之，當(dāng)智能機(jī)器人的“智能”達(dá)到一定程度時(shí)，其所實(shí)施的行為就完全可能不受研發(fā)者或使用者的控制，此時(shí)智能機(jī)器人具有自己的辨認(rèn)能力和控制能力，即擁有了行為的選擇權(quán)，可以選擇實(shí)施或不實(shí)施犯罪行為，此時(shí)若將智能機(jī)器人實(shí)施的嚴(yán)重危害社會(huì)的行為完全歸責(zé)于研發(fā)者或使用者，并不妥當(dāng)。在這種情況下，智能機(jī)器人與具有部分辨認(rèn)能力和控制能力的不完全刑事責(zé)任能力的自然人頗為相似。智能機(jī)器人在自己可以承擔(dān)刑事責(zé)任的范圍內(nèi)實(shí)施嚴(yán)重危害社會(huì)的犯罪行為，當(dāng)然需要自行承擔(dān)刑事責(zé)任而不能歸責(zé)于其監(jiān)護(hù)人。

鑒于達(dá)到一定程度的智能機(jī)器人與普通機(jī)器人的區(qū)別在于智能機(jī)器人可以深度學(xué)習(xí)，從而可能產(chǎn)生自主意識(shí)，具有辨認(rèn)能力和控制能力，有學(xué)者提出應(yīng)將人工智能定義為具有智慧工具性質(zhì)又可作出獨(dú)立意思表示的特殊主體。*袁曾：《人工智能有限法律人格審視》，《東方法學(xué)》2017年第5期。筆者認(rèn)為，這種觀點(diǎn)似乎也不妥當(dāng)。智能機(jī)器人是人工智能技術(shù)的結(jié)晶，人工智能技術(shù)的核心就是通過(guò)模擬人類的神經(jīng)網(wǎng)絡(luò)，利用算法和程序?qū)Υ髷?shù)據(jù)加以深度學(xué)習(xí)。然而，就目前的智能機(jī)器人的發(fā)展而言，智能機(jī)器人往往被應(yīng)用于一些特定的領(lǐng)域從事特定的事務(wù)。例如，外科手術(shù)機(jī)器人被用于協(xié)助手術(shù)操作，翻譯機(jī)器人被用于從事翻譯工作。一般而言，這些被用于特定領(lǐng)域的智能機(jī)器人所做出的行為都是在程序設(shè)計(jì)和編制的范圍之內(nèi)的。在這種情況下，雖然智能機(jī)器人具有學(xué)習(xí)能力，可以自行做出判斷，但其并不具有辨認(rèn)能力和控制能力，因?yàn)榇藭r(shí)智能機(jī)器人的行為仍然受制于設(shè)計(jì)和編制的程序。以外科手術(shù)機(jī)器人為例，外科手術(shù)機(jī)器人通過(guò)深度學(xué)習(xí)完全可能掌握高深的醫(yī)療技術(shù)，可以自主判斷病人的病情并作出相應(yīng)的處理。不過(guò)，由于外科手術(shù)機(jī)器人是受到程序的設(shè)計(jì)和編制控制的，研發(fā)者設(shè)計(jì)和編制程序的目的是讓外科手術(shù)機(jī)器人能夠順利完成手術(shù)，在能夠順利完成手術(shù)的程序設(shè)計(jì)和編制的范圍內(nèi)，外科手術(shù)機(jī)器人行為受到程序的限制，不能自主決定自己的行為。與此同時(shí)，不法分子完全可能出于不法目的研發(fā)或使用專門用于實(shí)施犯罪行為的智能機(jī)器人，例如智能殺手。智能殺手和其他智能機(jī)器人一樣擁有深度學(xué)習(xí)能力，并能對(duì)外界事物做出及時(shí)反應(yīng)和判斷，比如可以根據(jù)具體的情景選擇殺人的方式和時(shí)機(jī)等。然而，智能殺手從“出生”的那一刻起，其存在的意義就是為了殺人，其實(shí)施的行為所實(shí)現(xiàn)的是研發(fā)者或使用者通過(guò)程序設(shè)計(jì)和編制的殺人目的。在這種情況下，該智能機(jī)器人其實(shí)并不具有辨認(rèn)能力和控制能力。此時(shí)，智能殺手似乎只能看作研發(fā)者或使用者的實(shí)施殺人行為的“工具”，而不是特殊主體，其顯然不應(yīng)當(dāng)承擔(dān)刑事責(zé)任，而需要承擔(dān)刑事責(zé)任的當(dāng)然是智能殺手的研發(fā)者或使用者。

通過(guò)對(duì)上述分析，筆者認(rèn)為，智能機(jī)器人實(shí)施嚴(yán)重危害社會(huì)的行為可分為兩種，即在程序設(shè)計(jì)和編制范圍內(nèi)實(shí)施的行為與在程序設(shè)計(jì)和編制范圍外實(shí)施的行為。在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為時(shí)，智能機(jī)器人并不擁有辨認(rèn)能力和控制能力，不具有刑事責(zé)任能力，其實(shí)施的犯罪行為實(shí)現(xiàn)的是研發(fā)者或使用者的犯罪目的，因而不應(yīng)當(dāng)由其承擔(dān)刑事責(zé)任，例如智能殺手實(shí)施殺人的行為。在設(shè)計(jì)和編制的程序范圍外實(shí)施行為時(shí)，智能機(jī)器人和自然人一樣，具有辨認(rèn)能力和控制能力，具有刑事責(zé)任能力，可以成為刑事責(zé)任主體，其實(shí)施的犯罪行為實(shí)現(xiàn)的是自主意志，可能且應(yīng)當(dāng)承擔(dān)刑事責(zé)任，其包括兩種情形。一種情形是智能機(jī)器人受到其他自然人的教唆或其他自然人的幫助，產(chǎn)生了犯意，實(shí)施了嚴(yán)重危害社會(huì)的犯罪行為；抑或研發(fā)者在研發(fā)過(guò)程中并未將犯罪意圖融入程序的設(shè)計(jì)和編制中，但在智能機(jī)器人誕生后產(chǎn)生了犯意，利用智能機(jī)器人的學(xué)習(xí)能力，讓智能機(jī)器人幫助自己實(shí)施嚴(yán)重危害社會(huì)的犯罪行為。在這種情形下，智能機(jī)器人可能與教唆或者提供幫助的自然人構(gòu)成共同犯罪。關(guān)于智能機(jī)器人與自然人共同實(shí)施嚴(yán)重危害社會(huì)的犯罪行為，能否構(gòu)成共同犯罪且如何分擔(dān)刑事責(zé)任的問(wèn)題，筆者將在下文展開具體的討論。另一種情形是雖然設(shè)計(jì)和編制的程序并不具有不法意圖，但是智能機(jī)器人通過(guò)深度學(xué)習(xí)，產(chǎn)生了程序設(shè)計(jì)和編制范圍之外，且不受程序設(shè)計(jì)和編制范圍控制的自主意識(shí)和意志，在這種自主意識(shí)和意志的支配下智能機(jī)器人了實(shí)施了嚴(yán)重危害社會(huì)的行為。此種情形下，智能機(jī)器人擁有自己的辨認(rèn)能力和控制能力，能夠成為刑事責(zé)任主體，因而其需要對(duì)自己在自主意識(shí)和意志支配下實(shí)施的行為承擔(dān)相應(yīng)的刑事責(zé)任。當(dāng)然，在這種情形下，智能機(jī)器人的研發(fā)者或使用者在沒有罪責(zé)的前提下，就不應(yīng)承擔(dān)任何刑事責(zé)任。智能機(jī)器人的研發(fā)者或使用者如果違反有關(guān)法律規(guī)定沒有盡到應(yīng)盡的義務(wù)，則不能完全免責(zé)，可能需要承擔(dān)相應(yīng)的過(guò)失責(zé)任。對(duì)于智能機(jī)器人研發(fā)者或使用者的有關(guān)刑事責(zé)任，筆者在下文有相應(yīng)的論述。

綜上所述，在程序設(shè)計(jì)和編制范圍內(nèi)的智能機(jī)器人不具有辨認(rèn)能力和控制能力，因而不具有刑事責(zé)任能力，其實(shí)施犯罪行為是按照研發(fā)者或使用者的意識(shí)和意志做出的，應(yīng)當(dāng)將智能機(jī)器人看作研發(fā)者或使用者實(shí)施犯罪行為的“工具”，而發(fā)展到一定階段的智能機(jī)器人可能超越程序的設(shè)計(jì)和編制范圍，按照自主的意識(shí)和意志實(shí)施犯罪行為，此時(shí)的智能機(jī)器人具有辨認(rèn)能力和控制能力，因而完全可能成為行為主體承擔(dān)刑事責(zé)任。

二、智能機(jī)器人研發(fā)者或使用者的刑事責(zé)任

除了前述智能機(jī)器人的研發(fā)者設(shè)計(jì)和編制了具有犯罪意圖的程序而需要承擔(dān)刑事責(zé)任的情況外，智能機(jī)器人的研發(fā)者或使用者還有可能在其他情況下承擔(dān)刑事責(zé)任。責(zé)任與義務(wù)是緊密聯(lián)系的，可以將智能機(jī)器人的研發(fā)者或使用者的義務(wù)分為預(yù)見義務(wù)與監(jiān)督義務(wù)。如果智能機(jī)器人的研發(fā)者或使用者違反了預(yù)見義務(wù)，那么其可能承擔(dān)的是一般過(guò)失犯罪的刑事責(zé)任；如果智能機(jī)器人的研發(fā)者或使用者違反了監(jiān)督義務(wù)，那么其可能承擔(dān)的是監(jiān)督過(guò)失的刑事責(zé)任；如果智能機(jī)器人的研發(fā)者或使用者既不可能預(yù)見危害結(jié)果的產(chǎn)生，也確實(shí)履行了監(jiān)督義務(wù)，那么其可能不需要承擔(dān)刑事責(zé)任，此時(shí)，則為意外事件或由智能機(jī)器人獨(dú)立承擔(dān)刑事責(zé)任。

一般過(guò)失犯罪成立的前提以行為人“應(yīng)當(dāng)預(yù)見而沒有預(yù)見”或“已經(jīng)預(yù)見卻輕信能夠避免”危害結(jié)果的發(fā)生為構(gòu)成條件。如果智能機(jī)器人的研發(fā)者或使用者“已經(jīng)預(yù)見”危害結(jié)果的發(fā)生，只是輕信能夠避免這些危害結(jié)果的發(fā)生，那么其研發(fā)者或使用者成立有關(guān)過(guò)失犯罪。應(yīng)該強(qiáng)調(diào)的是，這種“已經(jīng)預(yù)見”危害結(jié)果不是一種抽象的“預(yù)見”，即認(rèn)為智能機(jī)器人在未來(lái)可能會(huì)危害到人類社會(huì)，而是“預(yù)見”到了具體內(nèi)容，即預(yù)見到自己研發(fā)或使用的智能機(jī)器人在投入使用后可能會(huì)實(shí)施嚴(yán)重危害社會(huì)的犯罪行為，那么可以成立相關(guān)過(guò)失犯罪，承擔(dān)刑事責(zé)任?！皯?yīng)當(dāng)預(yù)見而沒有預(yù)見”是指行為人負(fù)有預(yù)見到自己的行為可能致使危害結(jié)果的發(fā)生的義務(wù)，而由于疏忽大意而沒有預(yù)見的情況。那么智能機(jī)器人的研發(fā)者或使用者是否負(fù)有預(yù)見的義務(wù)呢？傳統(tǒng)觀點(diǎn)認(rèn)為，是否負(fù)有預(yù)見義務(wù)是以行為人有預(yù)見能力為前提，而判斷行為人預(yù)見能力的標(biāo)準(zhǔn)應(yīng)考慮行為人的能力和行為時(shí)的具體條件。筆者認(rèn)為，對(duì)于研發(fā)者或使用者而言，判斷其是否具有預(yù)見能力主要需要考慮人工智能技術(shù)的發(fā)展情況，根據(jù)人工智能技術(shù)的發(fā)展情況，可分為在研發(fā)或使用時(shí)人工智能技術(shù)可以避免危害結(jié)果的發(fā)生和在研發(fā)或使用時(shí)人工智能技術(shù)無(wú)法避免危害結(jié)果的發(fā)生兩種情況。

其一，在使用或研發(fā)智能機(jī)器人時(shí)人工智能技術(shù)可以避免危害結(jié)果的發(fā)生的情況下，智能機(jī)器人的研發(fā)者或使用者負(fù)有預(yù)見危害結(jié)果發(fā)生的義務(wù)，最終因未預(yù)見而導(dǎo)致危害結(jié)果的發(fā)生，智能機(jī)器人的研發(fā)者或使用者成立一般過(guò)失犯罪，需要承擔(dān)相關(guān)刑事責(zé)任。如果智能機(jī)器人在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施了嚴(yán)重危害社會(huì)的犯罪行為，則智能機(jī)器人不承擔(dān)刑事責(zé)任，智能機(jī)器人的研發(fā)者或使用者單獨(dú)承擔(dān)過(guò)失犯罪的刑事責(zé)任。應(yīng)當(dāng)看到，此時(shí)程序的研發(fā)或使用上的過(guò)失與最終導(dǎo)致的危害結(jié)果之間必然存在因果關(guān)系。理由是智能機(jī)器人的行為完全受到程序研發(fā)或使用的限制，與研發(fā)者的程序設(shè)計(jì)、編制和使用者的使用情況緊密相關(guān)，因此智能機(jī)器人的研發(fā)者或使用者的過(guò)失行為與危害結(jié)果的發(fā)生具有因果關(guān)系。如果因?yàn)槌绦虻穆┒词沟弥悄軝C(jī)器人在設(shè)計(jì)和編制的程序范圍外實(shí)施了嚴(yán)重危害社會(huì)的犯罪行為，仍應(yīng)認(rèn)為研發(fā)者或使用者的過(guò)失行為與最終導(dǎo)致的危害結(jié)果之間存在因果關(guān)系。眾所周知，刑法中因果關(guān)系的本質(zhì)是引起和被引起的關(guān)系。智能機(jī)器人即使能在自主意識(shí)和意志的支配下實(shí)施行為，這種自主意識(shí)和意志也是來(lái)源于程序的設(shè)計(jì)和編制，如果程序的研發(fā)或使用本身存在問(wèn)題，那么研發(fā)者或使用者的過(guò)失行為與最終導(dǎo)致的危害結(jié)果之間就必然存在引起和被引起的因果關(guān)系。在使用或研發(fā)時(shí)人工智能技術(shù)可以避免危害結(jié)果的發(fā)生的情況，智能機(jī)器人的研發(fā)者或使用者完全可以利用人工智能技術(shù)對(duì)智能機(jī)器人進(jìn)行檢測(cè)，從而“預(yù)見”智能機(jī)器人可能實(shí)施嚴(yán)重危害社會(huì)的犯罪行為。如果沒有利用人工智能技術(shù)對(duì)智能機(jī)器人進(jìn)行檢測(cè)，最終導(dǎo)致危害結(jié)果的發(fā)生，則完全符合“應(yīng)當(dāng)預(yù)見而沒有預(yù)見”的情況，屬于疏忽大意的過(guò)失。如果研發(fā)者或使用者利用人工智能技術(shù)檢測(cè)時(shí)發(fā)現(xiàn)智能機(jī)器人可能在未來(lái)實(shí)施犯罪行為并導(dǎo)致危害社會(huì)的結(jié)果，但輕信在現(xiàn)有的人工智能技術(shù)下這種危害結(jié)果是能夠避免的，那么則符合“已經(jīng)預(yù)見并輕信能夠避免”的情況，屬于過(guò)于自信的過(guò)失。

還需要指出的是，智能機(jī)器人的研發(fā)是個(gè)復(fù)雜精細(xì)的過(guò)程，對(duì)智能機(jī)器人設(shè)計(jì)和編制程序不可能由一個(gè)人完成，因此筆者提到的“研發(fā)者”在大多數(shù)情況下都是指研發(fā)團(tuán)隊(duì)。如果智能機(jī)器人的行為最終導(dǎo)致了危害結(jié)果，認(rèn)為此時(shí)研發(fā)者可能成立過(guò)失犯罪，就可能存在一種情況，即無(wú)法查明智能機(jī)器人的研發(fā)團(tuán)隊(duì)中究竟是誰(shuí)的過(guò)失行為直接導(dǎo)致了危害結(jié)果。若不將共同過(guò)失犯罪以共同犯罪論處，則在無(wú)法查明究竟是誰(shuí)的過(guò)失行為直接導(dǎo)致了危害結(jié)果的情況下，每個(gè)行為人都將作無(wú)罪處理。即便在極其罕見的場(chǎng)合能夠查明各行為人的過(guò)失行為分別在何種比例上作用于危害結(jié)果的發(fā)生，但若分別按照其作用追究責(zé)任，一則量刑很輕，二則也不利于促使各環(huán)節(jié)人員互相監(jiān)督、彼此協(xié)作，以共同防范過(guò)失行為。

在民事法律領(lǐng)域，目前為了克服證明不能的難題，嚴(yán)格責(zé)任與追償制度成為解決方案。嚴(yán)格責(zé)任既不考慮侵權(quán)人的過(guò)錯(cuò)，也不考慮受害人的過(guò)錯(cuò)，僅根據(jù)法律的直接規(guī)定，以因果關(guān)系確定侵權(quán)人所應(yīng)當(dāng)承擔(dān)的民事責(zé)任，我國(guó)《產(chǎn)品質(zhì)量法》對(duì)產(chǎn)品缺陷致人損害采取的正是嚴(yán)格責(zé)任。追償制度在一定程度上是為了解決侵權(quán)行為與損害結(jié)果之間因果關(guān)系的證明難題，如我國(guó)《產(chǎn)品質(zhì)量法》第43條規(guī)定：“因產(chǎn)品存在缺陷造成人身、他人財(cái)產(chǎn)損害的，受害人可以向產(chǎn)品的生產(chǎn)者要求賠償，也可以向產(chǎn)品的銷售者要求賠償。屬于產(chǎn)品的生產(chǎn)者的責(zé)任，產(chǎn)品的銷售者賠償?shù)?，產(chǎn)品的銷售者有權(quán)向產(chǎn)品的生產(chǎn)者追償。屬于產(chǎn)品的銷售者的責(zé)任，產(chǎn)品的生產(chǎn)者賠償?shù)?，產(chǎn)品的生產(chǎn)者有權(quán)向產(chǎn)品的銷售者追償?！痹撝贫仁菫榱俗畲笙薅鹊乇Ｗo(hù)消費(fèi)者的利益，至于已作出賠償?shù)纳a(chǎn)者或銷售者因不能證明另一方的責(zé)任而無(wú)法行使追償權(quán)，則是法律所無(wú)力關(guān)心的內(nèi)容。那么，是否可以認(rèn)為，在未來(lái)人工智能機(jī)器人將遍布于社會(huì)生活各個(gè)方面的場(chǎng)景下，為了最大程度地保護(hù)人類的利益，有必要在該領(lǐng)域引入類似于前述的責(zé)任追究方法嗎？換言之，人工智能機(jī)器人的研發(fā)者、使用者因違反監(jiān)督義務(wù)過(guò)失致人重傷、死亡卻無(wú)法查明究竟是哪一方的過(guò)失行為直接導(dǎo)致了危害結(jié)果時(shí)，是否有必要依據(jù)某種規(guī)則確定其中的一方或者多方承擔(dān)刑事責(zé)任。

我國(guó)司法實(shí)踐與司法解釋并未完全否認(rèn)共同過(guò)失犯罪的共同犯罪性質(zhì)，如2000年最高人民法院發(fā)布的《關(guān)于審理交通肇事刑事案件具體應(yīng)用法律若干問(wèn)題的解釋》第5條第2款規(guī)定：“交通肇事后，單位主管人員、機(jī)動(dòng)車輛所有人、承包人或者乘車人指使肇事人逃逸，致使被害人因得不到救助而死亡的，以交通肇事罪的共犯論處?！蔽鞣叫谭ɡ碚撝械倪^(guò)失犯罪理論也正隨著時(shí)代的變遷而不斷發(fā)展，以應(yīng)對(duì)社會(huì)分工日益精細(xì)、風(fēng)險(xiǎn)行業(yè)日漸增多的現(xiàn)實(shí)之需，尤其是在高速交通、機(jī)械、建筑、化學(xué)、醫(yī)藥、醫(yī)療等行業(yè)，一著不慎，其危害結(jié)果都是驚人的。*參見李希慧、廖梅：《共同過(guò)失犯罪若干問(wèn)題研究》，《浙江社會(huì)科學(xué)》2002年第5期。可以想見，在今后的這些高風(fēng)險(xiǎn)行業(yè)中將處處可見人工智能機(jī)器人的身影，如果不對(duì)智能機(jī)器人研發(fā)的過(guò)失行為進(jìn)行有效的規(guī)制，恐難回應(yīng)時(shí)代要求與現(xiàn)實(shí)需求。未來(lái)刑法是否需要考慮承認(rèn)在特殊行業(yè)中存在共同過(guò)失犯罪的問(wèn)題，值得探討。

其二，在研發(fā)或使用智能機(jī)器人時(shí)人工智能技術(shù)無(wú)法避免危害結(jié)果的發(fā)生的情況下，筆者認(rèn)為，智能機(jī)器人的研發(fā)者或使用者不負(fù)有預(yù)見義務(wù)，也就不構(gòu)成一般過(guò)失犯罪。然而，智能機(jī)器人的研發(fā)者或使用者是否可以成立監(jiān)督過(guò)失犯罪呢？監(jiān)督過(guò)失犯罪理論的意義在于，它解決了具有一定監(jiān)督義務(wù)的行為人對(duì)非因自己實(shí)際參與的行為造成了嚴(yán)重危害社會(huì)的結(jié)果時(shí)無(wú)法確定行為人的刑事責(zé)任問(wèn)題。比如發(fā)生了工廠生產(chǎn)爆炸事故或食品安全事件時(shí)，相關(guān)負(fù)責(zé)人因其具有監(jiān)督義務(wù)，就應(yīng)當(dāng)承擔(dān)相應(yīng)的刑事責(zé)任。如果對(duì)于這一類負(fù)有監(jiān)督義務(wù)的行為人不進(jìn)行一定的處罰顯然是有失公平的。一般來(lái)說(shuō)，在產(chǎn)品的生產(chǎn)過(guò)程中，企業(yè)的管理者、監(jiān)督者有義務(wù)監(jiān)督被管理者按照要求從事生產(chǎn)活動(dòng)，其具體內(nèi)容一般為事前的指示、提示、指揮，事中的監(jiān)督和事后的檢查等。如果沒有履行這種監(jiān)督義務(wù)，最終導(dǎo)致了危害結(jié)果的產(chǎn)生，企業(yè)的管理者、監(jiān)督者就需要承擔(dān)監(jiān)督過(guò)失責(zé)任，如果確實(shí)履行了這種監(jiān)督義務(wù)，則不需要承擔(dān)監(jiān)督過(guò)失責(zé)任。判斷智能機(jī)器人的研發(fā)者或使用者是否構(gòu)成監(jiān)督過(guò)失犯罪首先需要判斷智能機(jī)器人的研發(fā)者或使用者是否具有監(jiān)督義務(wù)。

鑒于人工智能技術(shù)并非發(fā)展得越快越好、越先進(jìn)越好，而是要在增進(jìn)社會(huì)福利與防范潛在風(fēng)險(xiǎn)之間找到一個(gè)平衡點(diǎn)，底線標(biāo)準(zhǔn)就是要確保人類對(duì)風(fēng)險(xiǎn)的控制力，不容許失控現(xiàn)象的發(fā)生。2017年6月，F(xiàn)acebook人工智能研究所發(fā)現(xiàn)其所研發(fā)的具有談判能力的智能機(jī)器人逐漸在對(duì)話中發(fā)明了人類無(wú)法理解的語(yǔ)言，F(xiàn)acebook研究院隨即宣布暫停并整改這一項(xiàng)目，有人猜測(cè)其原因可能是擔(dān)心對(duì)這些智能機(jī)器人失去控制。不論該叫停事件背后的真實(shí)原因是否源于人類對(duì)失控的擔(dān)憂，但對(duì)智能機(jī)器人時(shí)刻保持警惕不失為是一種理性而謹(jǐn)慎的做法?！叭斯ぶ悄艹饺祟愔悄艿目赡苄裕斯ぶ悄墚a(chǎn)生危害后果的嚴(yán)重性，以及人工智能技術(shù)本身內(nèi)在的不確定性，這些因素足以構(gòu)成法律以及其他規(guī)范防止風(fēng)險(xiǎn)的必要性”，*吳漢東：《人工智能時(shí)代的制度安排與法律規(guī)制》，《法律科學(xué)》2017年第5期。智能機(jī)器人一旦開始實(shí)施嚴(yán)重危害社會(huì)的犯罪行為，那么后果將是不可想象的。無(wú)論人工智能是否會(huì)超越人類智能，研究人工智能的安全問(wèn)題都是非常必要的。*杜嚴(yán)勇：《人工智能安全問(wèn)題及其解決進(jìn)路》，《哲學(xué)動(dòng)態(tài)》2016年第9期。因此，將安全作為人工智能時(shí)代的核心法價(jià)值，這種定位是比較合理的，人類不能等到風(fēng)險(xiǎn)發(fā)展為實(shí)害后才去防范風(fēng)險(xiǎn)，此時(shí)可能為時(shí)已晚，甚至可能出現(xiàn)難以控制的局面。為此，筆者認(rèn)為有必要對(duì)相關(guān)主體設(shè)定一定的監(jiān)督義務(wù)。

第一，對(duì)智能機(jī)器人的研發(fā)者規(guī)定風(fēng)險(xiǎn)防范與控制、監(jiān)督義務(wù)。

雖然目前智能機(jī)器人還是受控于研發(fā)者的，但令人擔(dān)憂的是，人們無(wú)法保證智能機(jī)器人能夠經(jīng)由其與人類身體的相似性而承載了人類所認(rèn)可的道德規(guī)范。*參見徐英瑾：《具身性、認(rèn)知語(yǔ)言學(xué)與人工智能倫理學(xué)》，《上海師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2017年第6期。一旦智能機(jī)器人的智能達(dá)到甚至超越人類智能，它就會(huì)在一定程度上結(jié)束“受控于人類”的循環(huán)，人們應(yīng)當(dāng)盡量避免這種情況的發(fā)生。換言之，當(dāng)下以及未來(lái)，智能機(jī)器人的研發(fā)者或使用者必須確保其所設(shè)計(jì)、編制、使用的智能機(jī)器人始終處于人類的監(jiān)督范圍之內(nèi)。需要指出的是，此處“監(jiān)督”的內(nèi)容不是指禁止智能機(jī)器人進(jìn)行深度學(xué)習(xí)，如前所述，智能機(jī)器人區(qū)別于普通機(jī)器人的根本價(jià)值就在于其可以深度學(xué)習(xí)并從事很多特定領(lǐng)域內(nèi)的業(yè)務(wù)。智能機(jī)器人的研發(fā)者或使用者對(duì)智能機(jī)器人的“監(jiān)督”應(yīng)當(dāng)是指，智能機(jī)器人的研發(fā)者或使用者能夠確保智能機(jī)器人不會(huì)實(shí)施傷害人類、危害社會(huì)的行為，即不具有攻擊性，或者當(dāng)智能機(jī)器人意外實(shí)施攻擊行為時(shí)，人類能夠做到瞬間阻止，如在機(jī)器人身上設(shè)置緊急按鈕或一鍵休眠等?？傊?，防范與控制風(fēng)險(xiǎn)的技術(shù)必須成為人工智能技術(shù)發(fā)展中的重要組成部分，不使人類喪失對(duì)智能機(jī)器人的控制，不發(fā)生系統(tǒng)性風(fēng)險(xiǎn)，是發(fā)展人工智能技術(shù)的底線要求。假如智能機(jī)器人的研發(fā)者或使用者違反相關(guān)監(jiān)督義務(wù)，最終會(huì)導(dǎo)致智能機(jī)器人實(shí)施嚴(yán)重危害社會(huì)的犯罪行為發(fā)生的危險(xiǎn)，完全可以通過(guò)刑法增設(shè)濫用人工智能技術(shù)罪等監(jiān)督過(guò)失類犯罪，對(duì)智能機(jī)器人的研發(fā)者或使用者的行為進(jìn)行規(guī)制。如果智能機(jī)器人的研發(fā)者或使用者既不可能預(yù)見危害結(jié)果的產(chǎn)生(即不違反預(yù)見義務(wù)，沒有預(yù)見能力)，也確實(shí)履行了監(jiān)督義務(wù)，那么其可能不需要承擔(dān)刑事責(zé)任。此類情況下如果智能機(jī)器人是在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施了嚴(yán)重危害社會(huì)的犯罪行為，那么最終導(dǎo)致危害結(jié)果的產(chǎn)生可以理解為發(fā)生了刑法意義上的意外事件。如果智能機(jī)器人是在設(shè)計(jì)和編制的程序范圍外實(shí)施了嚴(yán)重危害社會(huì)的犯罪行為，那么智能機(jī)器人對(duì)危害結(jié)果獨(dú)立承擔(dān)刑事責(zé)任，智能機(jī)器人的研發(fā)者或使用者同樣不需要承擔(dān)刑事責(zé)任。

第二，對(duì)涉案智能機(jī)器人的所有人或使用人規(guī)定制止義務(wù)。

對(duì)智能機(jī)器人的研發(fā)者規(guī)定風(fēng)險(xiǎn)防范與控制義務(wù)，是確保智能機(jī)器人不致危害社會(huì)的第一道刑法防線。假如第一道防線失守，如研發(fā)者基于故意或過(guò)失違反了風(fēng)險(xiǎn)防范與控制監(jiān)督義務(wù)，導(dǎo)致智能機(jī)器人主動(dòng)、自發(fā)脫離人類控制實(shí)施危害社會(huì)的舉動(dòng)的，就有必要立法設(shè)置防止危害結(jié)果蔓延的第二道刑法防線，即規(guī)定智能機(jī)器人的所有人或使用人負(fù)有制止其攻擊行為的義務(wù)。在無(wú)法通過(guò)斷電、遙控、一鍵休眠等方式制止智能機(jī)器人行為時(shí)，所有人或使用人應(yīng)當(dāng)將機(jī)器人銷毀(擊毀、炸毀等)。能夠銷毀而拒不銷毀導(dǎo)致嚴(yán)重后果的，所有人或使用人承擔(dān)相應(yīng)的不作為犯罪的刑事責(zé)任。使用人履行制止義務(wù)銷毀機(jī)器人的，無(wú)需對(duì)機(jī)器人的所有人承擔(dān)民事賠償責(zé)任，能夠證明該機(jī)器人不符合安全標(biāo)準(zhǔn)的，所有人可向機(jī)器人的生產(chǎn)者或銷售者主張賠償責(zé)任，能夠證明機(jī)器人符合安全標(biāo)準(zhǔn)也未發(fā)現(xiàn)有技術(shù)瑕疵的，對(duì)機(jī)器人的設(shè)計(jì)者、生產(chǎn)者而言屬于意外事件，其不負(fù)刑事責(zé)任，機(jī)器人之所有人的損失可通過(guò)購(gòu)買保險(xiǎn)的方法加以彌補(bǔ)。此處有必要討論的一種特殊情形是，假如機(jī)器人正在實(shí)施故意毀壞財(cái)物的行為，并且除毀損該機(jī)器人外別無(wú)其它制止方式，但機(jī)器人所毀損財(cái)物的價(jià)值遠(yuǎn)低于機(jī)器人本身的價(jià)值，此時(shí)負(fù)有制止義務(wù)的所有人、使用人是否可以主張不作為的緊急避險(xiǎn)，使不作為行為得以免責(zé)。筆者認(rèn)為，在這種情形下機(jī)器人的所有人或使用人不構(gòu)成緊急避險(xiǎn)。因?yàn)樵谒腥嘶蚴褂萌寺男兄浦箼C(jī)器人行為的作為義務(wù)之前，“正在發(fā)生的危險(xiǎn)”僅為機(jī)器人毀壞財(cái)物的危險(xiǎn)，只有為了使財(cái)物免受機(jī)器人的毀壞而不得已所采取的損害另一較小合法權(quán)益的行為方為緊急避險(xiǎn)行為。換言之，所有人或使用人不制止機(jī)器人，其所避免的并不是危險(xiǎn)，而是履行自身作為義務(wù)的成本，后者并非危險(xiǎn)的來(lái)源，不是緊急避險(xiǎn)的適用對(duì)象，這本質(zhì)上是一個(gè)行為人履行作為義務(wù)比不履行作為義務(wù)所導(dǎo)致的社會(huì)經(jīng)濟(jì)成本更大的問(wèn)題。值得指出的是，該情形也并不適用我國(guó)《刑法》第21條第3款“關(guān)于避免本人危險(xiǎn)的規(guī)定，不適用于職務(wù)、業(yè)務(wù)上負(fù)有特定責(zé)任的人”的規(guī)定。因?yàn)樵摽钏?guī)定的其實(shí)是職務(wù)、業(yè)務(wù)上負(fù)有特定責(zé)任的人本身遭遇危險(xiǎn)的情況，并非指職務(wù)、業(yè)務(wù)上負(fù)有特定責(zé)任的人本身未遭遇危險(xiǎn)但其履行作為義務(wù)之后會(huì)遭遇危險(xiǎn)的情形。既然當(dāng)行為人履行作為義務(wù)比不履行作為義務(wù)所導(dǎo)致的社會(huì)經(jīng)濟(jì)成本更大時(shí)不涉及緊急避險(xiǎn)問(wèn)題，那么應(yīng)當(dāng)如何處理呢？可行的方案是適用我國(guó)《刑法》第13條“情節(jié)顯著輕微危害不大的，不認(rèn)為是犯罪”的但書規(guī)定，對(duì)該行為作出罪處理，行為人應(yīng)當(dāng)賠償被害人的財(cái)產(chǎn)損失。

三、智能機(jī)器人與自然人共同犯罪刑事責(zé)任的分擔(dān)

如前所述，人工智能時(shí)代發(fā)展到一定階段，智能機(jī)器人完全可能超越程序的設(shè)計(jì)和編制范圍，按照自主的意識(shí)和意志實(shí)施犯罪行為，此時(shí)的智能機(jī)器人具有與普通自然人一樣的辨認(rèn)能力和控制能力，因而完全可能成為刑事責(zé)任主體而承擔(dān)刑事責(zé)任，即智能機(jī)器人應(yīng)當(dāng)具有刑事責(zé)任能力。那么，在這些復(fù)雜的情況下，是否可以認(rèn)為智能機(jī)器人和自然人共同參與實(shí)施了犯罪行為呢？是否可以認(rèn)為智能機(jī)器人和自然人需要共同承擔(dān)有關(guān)刑事責(zé)任呢？筆者認(rèn)為，在上述幾種情況下，完全可以認(rèn)為智能機(jī)器人與自然人成立共同犯罪，需要共同承擔(dān)有關(guān)刑事責(zé)任，理由如下。

首先，認(rèn)為智能機(jī)器人與自然人可以成立共同犯罪，符合刑法中共同犯罪客觀方面的要求。如前所述，智能機(jī)器人之所以可能承擔(dān)刑事責(zé)任，是因?yàn)槠浼热荒茉谠O(shè)計(jì)和編制的程序范圍外實(shí)施行為，那么其必然擁有屬于自己的辨認(rèn)能力和控制能力，同時(shí)可以擁有自主的意識(shí)和意志。既然承認(rèn)了這一點(diǎn)，就需要考慮到實(shí)際上智能機(jī)器人可能將自主的意識(shí)和意志與自然人的意識(shí)和意志相融合，共同而并非單獨(dú)實(shí)施嚴(yán)重危害社會(huì)的犯罪行為。從共同犯罪的客觀表現(xiàn)方式來(lái)看，二人以上在共同故意的支配下，共同實(shí)施了具有一定內(nèi)在聯(lián)系的犯罪行為，共同犯罪人都需要承擔(dān)刑事責(zé)任。各個(gè)共同犯罪人在參加共同犯罪時(shí)，不論他們的分工與參與程度，都成為了一個(gè)統(tǒng)一的犯罪活動(dòng)整體。*參見劉憲權(quán)主編：《刑法學(xué)》(第四版)，上海人民出版社2016年版，第216-217頁(yè)。智能機(jī)器人可能與自然人共同以積極的行為實(shí)施危害社會(huì)的犯罪行為，例如一起搶劫，一起行兇殺人。智能機(jī)器人也可能與自然人共同以消極的方式，即不履行某種義務(wù)，從而致使危害結(jié)果發(fā)生。例如，智能機(jī)器人護(hù)士和自然人護(hù)士共同負(fù)責(zé)看管病人，后共同決定要?dú)⒑@個(gè)病人，所以都不給病人服藥最后導(dǎo)致病人死亡，此時(shí)智能機(jī)器人護(hù)士和自然人護(hù)士完全可以成立不作為的共同犯罪。同時(shí)，智能機(jī)器人也可能和自然人形成一方作為、一方不作為的共同犯罪。再以智能機(jī)器人護(hù)士為例，自然人如果想殺害一個(gè)病人，讓智能機(jī)器人護(hù)士幫助，在進(jìn)入病房殺害病人時(shí)智能機(jī)器人護(hù)士假裝不知情，那么智能機(jī)器人護(hù)士構(gòu)成不履行特定義務(wù)的不作為，與該自然人積極的行為構(gòu)成共同犯罪。

其次，認(rèn)為智能機(jī)器人與自然人可以成立共同犯罪，符合共同犯罪的主體要求。眾所周知，如果是一個(gè)有刑事責(zé)任能力的人唆使一個(gè)沒有刑事責(zé)任能力的人一起實(shí)施危害社會(huì)的犯罪行為，或者一個(gè)單位利用一個(gè)沒有刑事責(zé)任能力的自然人一起實(shí)施危害社會(huì)的犯罪行為，均不成立共同犯罪。然而，如果一個(gè)具有完全刑事責(zé)任能力的行為人和一個(gè)具有限制刑事責(zé)任能力的行為人共同實(shí)施了危害社會(huì)的犯罪行為，就有可能成立共同犯罪。其理由是，如果他們實(shí)施的這種嚴(yán)重危害社會(huì)的犯罪行為在限制刑事責(zé)任能力的行為人可以承擔(dān)刑事責(zé)任的行為范圍內(nèi)(例如殺人、搶劫、強(qiáng)奸等)，那么他們就需要共同承擔(dān)相關(guān)刑事責(zé)任。限制刑事責(zé)任能力的行為人是按照行為類型來(lái)承擔(dān)刑事責(zé)任的，所以也在需要承擔(dān)刑事責(zé)任的這些行為類型的范圍內(nèi)和他人成立共同犯罪。雖然智能機(jī)器人和限制刑事責(zé)任能力的行為人不同，一旦智能機(jī)器人在設(shè)計(jì)和編制的程序范圍外按照自主的意識(shí)和意志實(shí)施嚴(yán)重危害社會(huì)的犯罪行為，它就需要對(duì)所有類型的犯罪行為承擔(dān)刑事責(zé)任，但是智能機(jī)器人和限制刑事責(zé)任能力的行為人相似的一點(diǎn)是，智能機(jī)器人即使實(shí)施了危害社會(huì)的行為，它也有可能不承擔(dān)刑事責(zé)任，即智能機(jī)器人在設(shè)計(jì)和編制的程序范圍內(nèi)按照研發(fā)者或使用者的意識(shí)和意志實(shí)施行為時(shí)，其不需要承擔(dān)刑事責(zé)任。所以筆者認(rèn)為，基于限制刑事責(zé)任能力行為人和智能機(jī)器人的相似點(diǎn)，有關(guān)限制刑事責(zé)任能力行為人的共犯原理完全可以適用于智能機(jī)器人。換言之，智能機(jī)器人與限制刑事責(zé)任能力的行為人都應(yīng)該在與他人共同實(shí)施自己需要承擔(dān)刑事責(zé)任的犯罪行為時(shí)，與其他共同實(shí)施犯罪的行為人成立共同犯罪，共同承擔(dān)刑事責(zé)任。以外科手術(shù)智能機(jī)器人為例，如果外科手術(shù)智能機(jī)器人在不法分子的教唆下產(chǎn)生了犯意，實(shí)施了故意傷害他人的行為，那么外科手術(shù)智能機(jī)器人就需要和該不法分子成立共同犯罪，需要共同承擔(dān)刑事責(zé)任。

最后，認(rèn)為智能機(jī)器人與自然人可以成立共同犯罪，有利于解決智能機(jī)器人與自然人的刑事責(zé)任分擔(dān)問(wèn)題。以目前的刑法體系為例，我國(guó)刑法以犯罪分子在共同犯罪中所起的作用為標(biāo)準(zhǔn)將共同犯罪人分為主犯、從犯、脅從犯和教唆犯，其主要目的就是為了確定各個(gè)共同犯罪人的刑事責(zé)任。同樣，在智能機(jī)器人和自然人共同實(shí)施嚴(yán)重危害社會(huì)的犯罪行為情況下，也可以根據(jù)實(shí)際情況來(lái)判斷智能機(jī)器人和自然人的作用和分工，從而進(jìn)一步地給智能機(jī)器人和自然人定罪量刑。我國(guó)《刑法》第27條第2款之所以規(guī)定“對(duì)于從犯，應(yīng)當(dāng)從輕、減輕處罰或者免除處罰”，是因?yàn)閺姆冈诠餐缸镏兄皇瞧鸫我蛘咻o助作用，而沒有起主要作用，與主犯相比，其行為的社會(huì)危害性較小，所以對(duì)其采用了“必減”的處罰原則。認(rèn)定智能機(jī)器人與自然人可以成立共同犯罪，有利于司法實(shí)務(wù)工作者合理分配智能機(jī)器人與自然人的刑事責(zé)任，實(shí)現(xiàn)區(qū)別對(duì)待，明確打擊重點(diǎn)，從而更加精準(zhǔn)地定罪量刑。

此外，需要指出的是，我國(guó)刑法要求共同犯罪的行為人必須有共同犯罪的故意，即二人以上對(duì)于共同實(shí)施的犯罪行為所造成的危害社會(huì)的結(jié)果都必須持有希望或者放任的心理態(tài)度。智能機(jī)器人的行為可以根據(jù)程序的運(yùn)行過(guò)程來(lái)判斷，所以，筆者認(rèn)為，可以在未來(lái)考慮從事后程序運(yùn)行與記錄等情況來(lái)判斷智能機(jī)器人的主觀心理狀態(tài)，進(jìn)而判斷智能機(jī)器人是否具有共同犯罪的故意。如果智能機(jī)器人實(shí)施危害社會(huì)的犯罪行為不僅是因?yàn)槭艿阶灾饕庾R(shí)和意志的支配，還因?yàn)檠邪l(fā)者在設(shè)計(jì)的過(guò)程中存在程序設(shè)計(jì)和編制的過(guò)失，那么智能機(jī)器人和研發(fā)者就不能成立共同犯罪，理由是缺乏共同犯罪的故意，此情形下需要根據(jù)具體情況在追究智能機(jī)器人的刑事責(zé)任的同時(shí)，按前所述規(guī)則追究該研發(fā)者過(guò)失行為的有關(guān)刑事責(zé)任。

四、智能機(jī)器人犯罪刑罰體系的建構(gòu)

應(yīng)該看到，刑事責(zé)任最主要的承擔(dān)方式就是刑罰。既然承認(rèn)了智能機(jī)器人在設(shè)計(jì)和編制的程序范圍外實(shí)施的嚴(yán)重危害社會(huì)的犯罪行為需要承擔(dān)刑事責(zé)任，那么對(duì)于構(gòu)成犯罪的智能機(jī)器人就涉及對(duì)智能機(jī)器人適用刑罰的問(wèn)題。對(duì)智能機(jī)器人適用刑罰，本質(zhì)是承認(rèn)智能機(jī)器人的社會(huì)成員地位，智能機(jī)器人群體“實(shí)力”的變化導(dǎo)致國(guó)家需要重視智能機(jī)器人的權(quán)利。一般而言，刑罰具有特殊預(yù)防和一般預(yù)防兩種功能。對(duì)于智能機(jī)器人而言，這兩種功能同樣適用。刑罰的特殊預(yù)防功能是針對(duì)犯罪主體的，具有剝奪或限制再犯能力、威懾、教育和改造等功能。智能機(jī)器人同樣可以被改造，很多情況下智能機(jī)器人的犯罪意識(shí)并非“天生”的，只要“回爐重造”，智能機(jī)器人本身還可以為人類社會(huì)所用甚至作出較大貢獻(xiàn)。刑罰的一般預(yù)防功能是針對(duì)犯罪主體以外的其他主體的，對(duì)于智能機(jī)器人犯罪而言，刑罰的一般預(yù)防對(duì)象既可以是智能機(jī)器人，也可以是普通自然人。對(duì)智能機(jī)器人處以刑罰不僅可以讓其他具有辨認(rèn)能力和控制能力的智能機(jī)器人和普通自然人目睹懲罰而停止犯罪行為，還可以明確犯罪行為的性質(zhì)，使不知法的智能機(jī)器人和普通自然人自覺控制自己的行為，防患于未然。

應(yīng)當(dāng)看到，智能機(jī)器人所適用的刑罰體系在一定程度上要有別于自然人和單位。我國(guó)刑法規(guī)定的刑種包括四種類型，即財(cái)產(chǎn)刑、資格刑、自由刑和生命刑。在可能適用的刑罰種類上，智能機(jī)器人異于自然人和單位之處表現(xiàn)在四個(gè)方面。其一，智能機(jī)器人不享有財(cái)產(chǎn)權(quán)，其也無(wú)需財(cái)產(chǎn)以維持其生存，罰金、沒收財(cái)產(chǎn)的刑罰無(wú)法施加于智能機(jī)器人。其二，智能機(jī)器人不享有參與政治生活的權(quán)利，剝奪政治權(quán)利的刑罰亦無(wú)法施加于智能機(jī)器人。其三，智能機(jī)器人由程序設(shè)計(jì)和編制而成，不存在“人身權(quán)”，因而也就不存在所謂的人身自由權(quán)，其無(wú)法被限制和剝奪人身自由，管制、拘役、有期徒刑和無(wú)期徒刑的刑罰同樣無(wú)法施加于智能機(jī)器人。其四，智能機(jī)器人不具有生命，更無(wú)生命權(quán)可言，剝奪自然人生命的死刑更不能施加于智能機(jī)器人。目前我國(guó)刑法所確立的刑罰體系僅以自然人和單位為適用對(duì)象而設(shè)計(jì)，我國(guó)刑法規(guī)定的主刑(管制、拘役、有期徒刑、無(wú)期徒刑、死刑)和附加刑(罰金、剝奪政治權(quán)利、沒收財(cái)產(chǎn))，不能滿足人工智能時(shí)代對(duì)智能機(jī)器人的特殊處罰需求，因而有必要加以重構(gòu)。

筆者認(rèn)為，設(shè)計(jì)智能機(jī)器人的刑罰體系時(shí)必須堅(jiān)持以下三個(gè)原則。第一，罪刑相適應(yīng)原則。應(yīng)使智能機(jī)器人所實(shí)施的犯罪與刑罰之間“保持實(shí)質(zhì)的對(duì)應(yīng)關(guān)系”，重罪重罰輕罪輕罰，建立層次分明的刑罰階梯。對(duì)智能機(jī)器人所施加的刑罰并非只有斷電、銷毀這么簡(jiǎn)單，而應(yīng)力圖避免單一化傾向，努力探索更符合智能機(jī)器人特點(diǎn)的多元化刑事處罰方法。第二，以刑罰目的為導(dǎo)向原則。刑罰的本質(zhì)是報(bào)應(yīng)，有罪必罰，故立法者將具有嚴(yán)重社會(huì)危害性的行為“劃入”犯罪圈，與此同時(shí)，立法者也應(yīng)考量科處刑罰對(duì)該行為是否無(wú)效果、太昂貴、可替代，即以是否能夠?qū)崿F(xiàn)刑罰的目的來(lái)決定是否將該行為“劃出”犯罪圈。犯罪圈的劃定需要以刑罰的目的為導(dǎo)向，刑罰種類的設(shè)計(jì)更應(yīng)該以刑罰的目的為導(dǎo)向。刑罰的目的是預(yù)防犯罪，不能實(shí)現(xiàn)此種目的的刑罰即是不合理、無(wú)必要的刑罰。譬如斷電能否成為施加于智能機(jī)器人的刑罰便取決于斷電能否收到一般預(yù)防與特殊預(yù)防的效果。假如智能機(jī)器人不可能從“被斷電”的經(jīng)歷中感知到刑罰的“痛苦”(斷電可能意味著智能機(jī)器人意識(shí)的中斷，但無(wú)法徹底抹去智能機(jī)器人的意識(shí))，從而不能被有效地威懾以決定其之后的行為，則“斷電”作為刑罰的意義便微乎其微。第三，刑罰節(jié)儉性原則。“只要刑罰的惡果大于犯罪所帶來(lái)的好處，刑罰就可以收到它的效果……除此之外的一切都是多余的，因而也就是暴虐的?！?[意]切薩雷·貝卡利亞：《論犯罪與刑罰》，黃風(fēng)譯，北京大學(xué)出版社2008年版，第63頁(yè)。節(jié)儉性是刑罰應(yīng)有的品格。如果說(shuō)在過(guò)去強(qiáng)調(diào)刑罰的節(jié)儉性是出于人道的考慮，那么在人工智能時(shí)代則更多地是出于經(jīng)濟(jì)的考慮。智能機(jī)器人本身即是經(jīng)濟(jì)發(fā)展的產(chǎn)物，承認(rèn)其具有刑事責(zé)任能力也是出于平衡經(jīng)濟(jì)發(fā)展與防范風(fēng)險(xiǎn)的需要，因而更應(yīng)當(dāng)格外強(qiáng)調(diào)刑罰的節(jié)儉性與經(jīng)濟(jì)性。因此，對(duì)智能機(jī)器人應(yīng)慎重判處永久銷毀的刑罰，能夠不銷毀而依然可以實(shí)現(xiàn)對(duì)智能機(jī)器人的改造目的的，便盡量不銷毀?？傊?，罪刑相適應(yīng)原則、以刑罰目的為導(dǎo)向原則以及刑罰節(jié)儉性原則是人工智能時(shí)代重構(gòu)刑罰體系必須堅(jiān)持的三大原則。

至于具體的刑罰體系設(shè)計(jì)，筆者作以下初步構(gòu)想。適用于智能機(jī)器人的刑罰可以有三種，即刪除數(shù)據(jù)、修改程序、永久銷毀。

所謂刪除數(shù)據(jù)，是指刪除智能機(jī)器人實(shí)施犯罪行為所依賴的數(shù)據(jù)信息，相當(dāng)于抹去智能機(jī)器人的“犯罪記憶”，使其恢復(fù)到實(shí)施犯罪行為之前的狀態(tài)，“犯罪記憶”將不會(huì)再成為該智能機(jī)器人成長(zhǎng)經(jīng)歷中的一部分，從而引導(dǎo)智能機(jī)器人在今后的深度學(xué)習(xí)過(guò)程中主動(dòng)獲取“正面數(shù)據(jù)”，排斥或絕緣于可能導(dǎo)致違法犯罪行為的“負(fù)面數(shù)據(jù)”，直接降低其人身危險(xiǎn)性。

所謂修改程序，是指在通過(guò)多次刪除數(shù)據(jù)仍然無(wú)法阻止機(jī)器人主動(dòng)獲取有可能實(shí)施違反犯罪行為的“負(fù)面數(shù)據(jù)”時(shí)，即該智能機(jī)器人不能被正面引導(dǎo)時(shí)，強(qiáng)制修改其基礎(chǔ)程序，將其獲取外界數(shù)據(jù)、深度學(xué)習(xí)的能力限制在程序所設(shè)定的特定范圍內(nèi)，從根本上剝奪其實(shí)施犯罪行為的可能性。這意味著該智能機(jī)器人的深度學(xué)習(xí)功能從此將是不全面的、受限制的，不再能獲取人類程序限定范圍外的數(shù)據(jù)，因而無(wú)法產(chǎn)生超出人類意志之外的自我獨(dú)立意志。

所謂永久銷毀，是指在刪除數(shù)據(jù)、修改程序均無(wú)法降低實(shí)施了犯罪行為的智能機(jī)器人的人身危險(xiǎn)性時(shí)，換言之，該智能機(jī)器人的深度學(xué)習(xí)歷程已經(jīng)十分漫長(zhǎng)，并在長(zhǎng)久的實(shí)踐與成長(zhǎng)中形成了程序上的“反刪除能力”“反修改能力”，除了將其永久銷毀外，人類已無(wú)法實(shí)現(xiàn)對(duì)其在數(shù)據(jù)、程序上的有效控制，便只能將其永久銷毀。

刪除數(shù)據(jù)、修改程序、永久銷毀構(gòu)成專門適用于智能機(jī)器人的刑罰階梯，體現(xiàn)了處罰的層次性，可以與智能機(jī)器人所實(shí)施行為的社會(huì)危害性和其自身的人身危險(xiǎn)性產(chǎn)生對(duì)應(yīng)關(guān)系。

五、余 論

人們直覺上認(rèn)為當(dāng)前的發(fā)展速度就是未來(lái)的發(fā)展速度，但其實(shí)發(fā)展的速度往往超乎人們的想象。*參見[美]Ray Kurzweil：《奇點(diǎn)臨近》，李慶誠(chéng)、董振華、田源譯，機(jī)械工業(yè)出版社2011年版，第2-4頁(yè)。隨著人工智能時(shí)代的來(lái)臨，人類必將迎來(lái)人工智能技術(shù)飛速發(fā)展的局面。對(duì)智能機(jī)器人的法律性質(zhì)與法律地位的討論也將在更廣泛的范圍(如民法、民事訴訟法、知識(shí)產(chǎn)權(quán)法領(lǐng)域等)內(nèi)展開。在民事領(lǐng)域內(nèi)承認(rèn)智能機(jī)器人具有民事權(quán)利能力的觀點(diǎn)目前得到不少學(xué)者的支持，在刑事領(lǐng)域同樣可以承認(rèn)智能機(jī)器人在一定范圍內(nèi)具有刑事責(zé)任能力。智能機(jī)器人由人類的程序設(shè)計(jì)和編制而成，但完全可以具有遠(yuǎn)超人類的辨認(rèn)能力與控制能力。在人類設(shè)計(jì)和編制的程序范圍內(nèi)，智能機(jī)器人實(shí)施的行為并不自愿，不應(yīng)承擔(dān)刑事責(zé)任。然而，人類設(shè)計(jì)和編制的程序又賦予了智能機(jī)器人學(xué)習(xí)的能力，通過(guò)學(xué)習(xí)，智能機(jī)器人完全可以擁有自主意識(shí)和意志，如果在人類設(shè)計(jì)和編制的程序范圍外，智能機(jī)器人按照自主意識(shí)和意志實(shí)施犯罪行為，應(yīng)該將其作為刑事責(zé)任的承擔(dān)主體看待。同時(shí)，應(yīng)當(dāng)看到，安全是人工智能時(shí)代法的核心價(jià)值，發(fā)展人工智能技術(shù)必須將防范風(fēng)險(xiǎn)擺在最核心和最首要的位置，其中刑法保障只是最后一道防線，其他部門法的努力可能更為緊迫和重要。例如應(yīng)盡快制定人工智能產(chǎn)品安全標(biāo)準(zhǔn)，研究人工智能產(chǎn)品強(qiáng)制保險(xiǎn)制度，完善人工智能產(chǎn)品致人損害的民事歸責(zé)體系，等等。只有這樣，才能確保人工智能技術(shù)更好地服務(wù)于人類社會(huì)。