高銘暄， 王 紅

“人工智能”(Artificial Intelligence，簡(jiǎn)稱(chēng)AI)這一概念創(chuàng)造可以分為兩個(gè)部分，即“人工”和“智能”，前者是指由人類(lèi)制造的機(jī)器或者開(kāi)發(fā)的程序系統(tǒng)，后者是指模擬人腦能動(dòng)性的思維和智慧，簡(jiǎn)言之，即“智慧機(jī)器”。人工智能旨在研究和開(kāi)發(fā)可以模擬人腦智慧的機(jī)器應(yīng)用或程序系統(tǒng)。人工智能雖然最初是從計(jì)算機(jī)學(xué)科的范疇中分支出來(lái)的，但是現(xiàn)在已經(jīng)成為一門(mén)廣泛包括信息論、控制論、仿生學(xué)、生物學(xué)、神經(jīng)科學(xué)、心理學(xué)、數(shù)學(xué)、邏輯學(xué)、經(jīng)濟(jì)學(xué)、語(yǔ)言學(xué)等多門(mén)學(xué)科在內(nèi)的前沿交叉科學(xué)，其范圍幾乎涵蓋了自然科學(xué)和社會(huì)科學(xué)的所有學(xué)科范疇，與基因工程、納米科學(xué)并稱(chēng)為“二十一世紀(jì)三大尖端技術(shù)”。

一、人工智能的刑法前沿問(wèn)題提出

(一)提出背景：互聯(lián)網(wǎng)+人工智能的全新時(shí)代

1.人工智能的第三次發(fā)展浪潮

在互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等的共同驅(qū)動(dòng)下，人工智能迎來(lái)了第三次發(fā)展浪潮。2016年Google公司的Deep Mind團(tuán)隊(duì)研發(fā)出的Alpha Go Tools在韓國(guó)首爾舉行的人機(jī)圍棋大戰(zhàn)中，以4∶1的絕對(duì)優(yōu)勢(shì)擊敗了世界圍棋第一人李世石九段，吸引了全世界的目光重新聚焦在人工智能這個(gè)熱門(mén)的前沿科技上。各國(guó)政府、高校、大型互聯(lián)網(wǎng)企業(yè)紛紛加大項(xiàng)目政策支持和資金人才投入，以搶占人工智能技術(shù)的全球制高點(diǎn)。在美國(guó)白宮2016年10月發(fā)布了《為人工智能的未來(lái)做好準(zhǔn)備》和《國(guó)家人工智能研究和發(fā)展策略規(guī)劃》兩份重要報(bào)告后，我國(guó)政府也于2017年7月印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，部署了我國(guó)人工智能?chē)?guó)家發(fā)展戰(zhàn)略。谷歌公司和蘋(píng)果公司競(jìng)相收購(gòu)最有潛力的人工智能初創(chuàng)企業(yè)，微軟宣布投資500萬(wàn)美元用于地球人工智能計(jì)劃，F(xiàn)acebook則成立了兩個(gè)獨(dú)立的人工智能研究實(shí)驗(yàn)室。中國(guó)的科技三巨頭阿里巴巴集團(tuán)、百度公司和騰訊科技則投以巨資分別在新加坡、美國(guó)建立人工智能應(yīng)用聯(lián)合研究機(jī)構(gòu)和實(shí)驗(yàn)室，以加快推進(jìn)中國(guó)的人工智能產(chǎn)業(yè)創(chuàng)新。

2.人工智能與互聯(lián)網(wǎng)的關(guān)系

網(wǎng)絡(luò)化、數(shù)字化和智能化是計(jì)算機(jī)互聯(lián)網(wǎng)發(fā)展的三個(gè)階段。從Web1.0時(shí)代的“人機(jī)互動(dòng)”到Web2.0時(shí)代的“人人互動(dòng)”再到Web3.0時(shí)代的“空間互動(dòng)”，可以說(shuō)互聯(lián)網(wǎng)的上半場(chǎng)首先解決了“網(wǎng)絡(luò)化”的問(wèn)題，計(jì)算機(jī)與人、計(jì)算機(jī)與計(jì)算機(jī)、人與人之間利用Internet技術(shù)建立了相互之間的有效聯(lián)系。隨著網(wǎng)絡(luò)用戶(hù)規(guī)模的急劇擴(kuò)張和互聯(lián)網(wǎng)的極速發(fā)展，在線(xiàn)數(shù)據(jù)呈指數(shù)性爆發(fā)增長(zhǎng)，大數(shù)據(jù)技術(shù)將在網(wǎng)絡(luò)交互過(guò)程中獲取的龐大數(shù)據(jù)信息依托云存儲(chǔ)和分布式數(shù)據(jù)庫(kù)進(jìn)行管理分析和深度挖掘，實(shí)現(xiàn)了互聯(lián)網(wǎng)的“數(shù)字化”?；ヂ?lián)網(wǎng)、大數(shù)據(jù)為人工智能技術(shù)的應(yīng)用奠定了在線(xiàn)平臺(tái)和數(shù)據(jù)源基礎(chǔ)，是人工智能再次崛起的三大基石之一。進(jìn)入到互聯(lián)網(wǎng)的下半場(chǎng)，人工智能作為主角即將登上時(shí)代的舞臺(tái)。人工智能不僅使計(jì)算機(jī)信息系統(tǒng)升級(jí)為人工智能系統(tǒng)，成為智能計(jì)算機(jī)，還憑借其三大技術(shù)支撐(大數(shù)據(jù)、新算法、超級(jí)計(jì)算能力)和六大主要應(yīng)用(自然語(yǔ)言處理、語(yǔ)音識(shí)別、計(jì)算機(jī)視覺(jué)、圖像識(shí)別、機(jī)器人、無(wú)人駕駛汽車(chē))將在傳統(tǒng)互聯(lián)網(wǎng)與工業(yè)物聯(lián)網(wǎng)之間架構(gòu)“類(lèi)互聯(lián)網(wǎng)大腦”模型。總之，人工智能技術(shù)在互聯(lián)網(wǎng)“網(wǎng)絡(luò)化”、“數(shù)字化”的滋養(yǎng)下逐漸走向成熟，反過(guò)來(lái)又反哺推動(dòng)著互聯(lián)網(wǎng)進(jìn)一步向“智能化”邁進(jìn)。

(二)問(wèn)題的提出

1.范圍的限定

人工智能根據(jù)智能水平的高低可以分為弱人工智能(Weak Artificial Intelligence)、強(qiáng)人工智能(Strong Artificial Intelligence)和超強(qiáng)人工智能(Super Artificial Intelligence)。弱人工智能是指具備了一定推理能力和解決特定問(wèn)題能力的智能機(jī)器或者系統(tǒng)，由于弱人工智能的技術(shù)發(fā)展水平尚沒(méi)有達(dá)到模擬人腦意識(shí)思維的程度，所以弱人工智能仍然屬于“工具”的范疇，與傳統(tǒng)的“產(chǎn)品”在本質(zhì)上并無(wú)區(qū)別。如果說(shuō)弱人工智能僅是“類(lèi)人”級(jí)別的人工智能，強(qiáng)人工智能則屬于真正意義上“人類(lèi)”級(jí)別的人工智能，即強(qiáng)人工智能能夠像人一樣獨(dú)立地進(jìn)行認(rèn)知、思考、推理、創(chuàng)造和解決問(wèn)題等，正如電影《人工智能》中的小男孩大衛(wèi)和《機(jī)械姬》里的艾娃。超強(qiáng)人工智能則是指人工智能已經(jīng)跨過(guò)“奇點(diǎn)”，打破了人腦受到的維度限制，其計(jì)算和思維能力遠(yuǎn)超人類(lèi)，在所有領(lǐng)域都比最聰明的人類(lèi)大腦更智能。

顯然，我們當(dāng)下正處于人工智能發(fā)展的初級(jí)階段，即弱人工智能的階段。中國(guó)人工智能學(xué)會(huì)理事、南京大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系副主任高陽(yáng)教授指出：“弱人工智能距離強(qiáng)人工智能還有相當(dāng)漫長(zhǎng)的一條路，我們距離圖靈刻畫(huà)的人工智能依然十分遙遠(yuǎn)。”因此本文僅在弱人工智能的范疇下討論人工智能可能涉及的刑事犯罪與刑事責(zé)任問(wèn)題，至于對(duì)可能產(chǎn)生自主意志、人格獨(dú)立的強(qiáng)人工智能甚至是超強(qiáng)人工智能則不予分析評(píng)價(jià)。法律，特別是作為最嚴(yán)厲的、最后手段的刑法，還是應(yīng)當(dāng)在前沿科技的狂熱中保持一些冷靜和克制。

2.人工智能可能涉及的刑事犯罪問(wèn)題

人工智能這一新技術(shù)革命在深刻地改變?nèi)祟?lèi)的生活方式和社會(huì)秩序的同時(shí)，也帶來(lái)了新的法律風(fēng)險(xiǎn)與挑戰(zhàn)。比如沙特在授予世界上首位“女性”機(jī)器人索菲亞“公民”身份后便引發(fā)了對(duì)人工智能有限法律電子人格與機(jī)器人權(quán)利的爭(zhēng)論。對(duì)于人工智能可能涉及的刑事犯罪問(wèn)題，目前刑法學(xué)界開(kāi)展的研究少之又少，作為前沿中的前沿問(wèn)題，僅華東政法大學(xué)法學(xué)院的劉憲權(quán)教授率先發(fā)表了《人工智能時(shí)代的“內(nèi)憂(yōu)”“外患”與刑事責(zé)任》和《人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)》兩篇新作，劉文大膽地設(shè)想了具有辨認(rèn)能力和控制能力的強(qiáng)人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍外進(jìn)行自主決策并實(shí)施犯罪的情形，提出了要從源頭防控人工智能產(chǎn)品在研發(fā)和使用過(guò)程中存在的多重刑事風(fēng)險(xiǎn)的規(guī)制建議。本文也嘗試著探索人工智能可能涉及的刑事犯罪與刑事責(zé)任問(wèn)題，但基于我們當(dāng)下所處于并將長(zhǎng)期處于的人弱人工智能的發(fā)展階段，認(rèn)為仍然作為“工具”和“產(chǎn)品”屬性的弱人工智能可能涉及的刑事犯罪主要存在以下兩種情形：

第一，行為人利用人工智能實(shí)施其他犯罪，造成了嚴(yán)重危害社會(huì)的結(jié)果。在這種情形下，由于第三方行為人才是實(shí)施犯罪行為的主導(dǎo)者，人工智能產(chǎn)品僅因作為犯罪工具才直接作用于被害人，因此本文稱(chēng)之為“工具利用型”犯罪類(lèi)型。第二，由于人工智能產(chǎn)品自身的缺陷，特別是智能系統(tǒng)的運(yùn)行故障，從而導(dǎo)致嚴(yán)重危害社會(huì)的結(jié)果發(fā)生。在“產(chǎn)品缺陷型”犯罪類(lèi)型下，雖然人工智能產(chǎn)品直接作用于被害人，但是由于人工智能產(chǎn)品作為“物”不能為此結(jié)果承擔(dān)責(zé)任，因此通常情況下我們會(huì)考慮認(rèn)定產(chǎn)品的設(shè)計(jì)者、生產(chǎn)者、 所有者、使用者或者管理者作為危害結(jié)果的責(zé)任承擔(dān)者。

二、人工智能的技術(shù)風(fēng)險(xiǎn)與刑事風(fēng)險(xiǎn)

(一)人工智能的技術(shù)風(fēng)險(xiǎn)

1.風(fēng)險(xiǎn)社會(huì)中的技術(shù)風(fēng)險(xiǎn)

自1986年德國(guó)社會(huì)學(xué)家烏爾里希·貝克(Ulrich Beck)在其著作《風(fēng)險(xiǎn)社會(huì)——通往另一種現(xiàn)代性》(

Risk

Society

：

Towards

a

New

Modernity

)中第一次使用“風(fēng)險(xiǎn)社會(huì)”這個(gè)表述后，“風(fēng)險(xiǎn)社會(huì)”這個(gè)詞便“火”了，基于風(fēng)險(xiǎn)社會(huì)理論建構(gòu)的現(xiàn)代社會(huì)結(jié)構(gòu)模型所產(chǎn)生的巨大影響力已經(jīng)遠(yuǎn)遠(yuǎn)超出了社會(huì)學(xué)的范疇，政治學(xué)、哲學(xué)、倫理學(xué)、心理學(xué)、法學(xué)等領(lǐng)域開(kāi)始廣泛討論這個(gè)概念。通過(guò)該書(shū)還原風(fēng)險(xiǎn)社會(huì)中的風(fēng)險(xiǎn)景觀有助于我們對(duì)風(fēng)險(xiǎn)進(jìn)行準(zhǔn)確的定位與解讀。人類(lèi)在早期農(nóng)耕社會(huì)面臨的風(fēng)險(xiǎn)主要來(lái)源于自然界，比如洪水、干旱、雷電、地震等。然而進(jìn)入工業(yè)革命以后的工業(yè)社會(huì)、后工業(yè)社會(huì)，科學(xué)技術(shù)徹底改變了人類(lèi)的生活方式和社會(huì)秩序。一方面，它們?yōu)槿藗兲峁┝藗鹘y(tǒng)社會(huì)所無(wú)法想象的物質(zhì)便利，將人類(lèi)從自然力的奴役狀態(tài)中解放出來(lái)；另一方面，它們也創(chuàng)造了眾多新生的危險(xiǎn)源，導(dǎo)致技術(shù)性風(fēng)險(xiǎn)日益擴(kuò)散。除技術(shù)性風(fēng)險(xiǎn)之外，政治、經(jīng)濟(jì)與社會(huì)風(fēng)險(xiǎn)等制度化風(fēng)險(xiǎn)也是人類(lèi)社會(huì)風(fēng)險(xiǎn)的重要組成部分，但是應(yīng)當(dāng)說(shuō)技術(shù)性風(fēng)險(xiǎn)仍然是首要的、基礎(chǔ)性的風(fēng)險(xiǎn)。從歷史唯物主義角度分析，技術(shù)革命作為新的生產(chǎn)力從舊的生產(chǎn)關(guān)系中發(fā)展而來(lái)，反過(guò)來(lái)又推動(dòng)著生產(chǎn)關(guān)系和上層建筑新的變革，因此所謂的政治、經(jīng)濟(jì)和社會(huì)風(fēng)險(xiǎn)等制度化風(fēng)險(xiǎn)其實(shí)可以視為技術(shù)性風(fēng)險(xiǎn)的泛化、延展和突變。

技術(shù)風(fēng)險(xiǎn)是以科學(xué)技術(shù)的發(fā)展為前提的，作為第一生產(chǎn)力的科學(xué)技術(shù)何以會(huì)引發(fā)未知性、復(fù)雜性、危害性甚至是全球性的風(fēng)險(xiǎn)呢？從人的存在這一阿基米德支點(diǎn)哲學(xué)考察科學(xué)技術(shù)與人類(lèi)社會(huì)的關(guān)系，追問(wèn)技術(shù)的本質(zhì)，或許可以揭開(kāi)技術(shù)風(fēng)險(xiǎn)的面紗。技術(shù)具有自然性和反自然性、人化和反人化、社會(huì)化和反社會(huì)化的本質(zhì)屬性，由此可以邏輯推演出技術(shù)風(fēng)險(xiǎn)的三大表現(xiàn)形式：第一，技術(shù)的反自然性與自然生態(tài)層面的技術(shù)風(fēng)險(xiǎn)。技術(shù)代天工以開(kāi)物，往往與自然生態(tài)的自我運(yùn)行相對(duì)立，例如水電站的修建阻斷了魚(yú)類(lèi)的洄游造成水生態(tài)的危機(jī)，采用核裂變技術(shù)發(fā)電的核電站發(fā)生核泄露造成環(huán)境污染和輻射危害。第二，技術(shù)的反人化與人本層面的技術(shù)風(fēng)險(xiǎn)。作為工具的科學(xué)技術(shù)通常情況下都極大地改善了人們的生活，但同時(shí)也存在著“傷害倍增”的效果，最典型的就是計(jì)算機(jī)互聯(lián)網(wǎng)的發(fā)展在增加生活便利性的同時(shí)也催生了日益猖獗的網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)傳播虛假信息、網(wǎng)絡(luò)侮辱誹謗、網(wǎng)絡(luò)恐怖主義等網(wǎng)絡(luò)犯罪。第三，技術(shù)的反社會(huì)化與社會(huì)層面的技術(shù)風(fēng)險(xiǎn)。這與泛化的制度性風(fēng)險(xiǎn)聯(lián)系，例如大規(guī)模殺傷性武器(核武器、化學(xué)武器、生物武器)的使用可能會(huì)加劇貧富分化、極權(quán)主義、民族種族仇恨和極端恐怖主義等問(wèn)題。由此看來(lái)，技術(shù)風(fēng)險(xiǎn)的成因除了科學(xué)技術(shù)自身的不確定性和復(fù)雜性外，最為關(guān)鍵的還是介入了人類(lèi)的因素，人類(lèi)的決策和行為作用于科學(xué)技術(shù)的運(yùn)用過(guò)程之中，這才帶來(lái)了技術(shù)衍生風(fēng)險(xiǎn)。從某種意義上說(shuō)，技術(shù)風(fēng)險(xiǎn)是“被制造出來(lái)的風(fēng)險(xiǎn)”，即被“自身”制造出來(lái)的風(fēng)險(xiǎn)和被“人為”制造出來(lái)的風(fēng)險(xiǎn)。

2.人工智能在發(fā)展、應(yīng)用過(guò)程中產(chǎn)生的技術(shù)風(fēng)險(xiǎn)

前不久剛剛?cè)ナ赖膫ゴ笪锢韺W(xué)家、宇宙學(xué)家史蒂芬·霍金在生前的最后幾年對(duì)人工智能十分關(guān)注，他曾表示：“人工智能的崛起是人類(lèi)歷史上最好的事情，憑借這場(chǎng)新的科技革命，我們或許可以挽回上一場(chǎng)工業(yè)革命給自然界和人類(lèi)社會(huì)帶來(lái)的破壞，然而人工智能在未來(lái)可能對(duì)人類(lèi)生存帶來(lái)毀滅性的威脅，除非我們學(xué)會(huì)如何規(guī)避、控制風(fēng)險(xiǎn)。”霍金的“人工智能威脅論”在目前的弱人工智能階段聽(tīng)起來(lái)似乎有些危言聳聽(tīng)了，但是警惕人工智能可能產(chǎn)生的風(fēng)險(xiǎn)是十分必要的。

人工智能自身的風(fēng)險(xiǎn)主要是技術(shù)不足風(fēng)險(xiǎn)，即受現(xiàn)有技術(shù)發(fā)展水平的制約，人工智能技術(shù)自身仍然具有許多不確定性和復(fù)雜性。谷歌旗下的公司W(wǎng)aymo最早從2009年開(kāi)始無(wú)人駕駛汽車(chē)項(xiàng)目的研究，為了測(cè)試無(wú)人駕駛系統(tǒng)的準(zhǔn)確性還專(zhuān)門(mén)建立了Castle結(jié)構(gòu)化測(cè)試區(qū)，通過(guò)柵欄分割設(shè)置了規(guī)模龐大的測(cè)試路口和交叉路口，然而結(jié)果證明無(wú)人駕駛汽車(chē)即便能完全掌握Castle模擬測(cè)試區(qū)所學(xué)的駕駛技能，在沒(méi)有司機(jī)的情況下，仍然無(wú)法通過(guò)安全路上測(cè)試，最主要的原因還是在于發(fā)揮人類(lèi)眼睛作用的多方傳感器系統(tǒng)仍然無(wú)法對(duì)復(fù)雜多變的路況環(huán)境進(jìn)行精準(zhǔn)的感知和定位，這可能給無(wú)人駕駛汽車(chē)路上行駛的安全性帶來(lái)致命性的打擊。人工智能自身的風(fēng)險(xiǎn)還表現(xiàn)在它的反自然性。按照器官投影學(xué)說(shuō)的觀點(diǎn)，技術(shù)是人體器官的延伸，人工智能不正是機(jī)器對(duì)人類(lèi)大腦的模擬嗎？然而進(jìn)化的同時(shí)也是退化的開(kāi)始，人工智能技術(shù)可能會(huì)封閉人類(lèi)的一些器官經(jīng)驗(yàn)，造成某種程度上人類(lèi)大腦或者其他器官的生物退化。

應(yīng)當(dāng)說(shuō)人工智能技術(shù)最大的生存威脅還是在于人為制造的風(fēng)險(xiǎn)，尤其是人工智能與互聯(lián)網(wǎng)、大數(shù)據(jù)的結(jié)合，促使人工智能的技術(shù)使用風(fēng)險(xiǎn)變得更為緊迫，由此帶來(lái)的嚴(yán)重危害后果也更加難以防控。浙江紹興破獲的全國(guó)首例利用人工智能打碼平臺(tái)侵犯公民個(gè)人信息案，就是先利用人工智能技術(shù)識(shí)別圖片驗(yàn)證碼再通過(guò)撞庫(kù)軟件非法獲取公民的個(gè)人信息。黑客楊某搭建的“快啊”打碼平臺(tái)運(yùn)用人工智能機(jī)器深度學(xué)習(xí)訓(xùn)練機(jī)器，可以快速有效地識(shí)別圖片驗(yàn)證碼，輕松繞過(guò)互聯(lián)網(wǎng)公司設(shè)置的賬戶(hù)安全登陸保護(hù)，給網(wǎng)絡(luò)詐騙等網(wǎng)絡(luò)黑產(chǎn)產(chǎn)業(yè)鏈提供了犯罪便利和犯罪工具。此外，霍金對(duì)人工智能的過(guò)度擔(dān)憂(yōu)還緣于人工智能技術(shù)向軍事領(lǐng)域的滲透，特別是美國(guó)、俄羅斯、韓國(guó)、烏克蘭、以色列等國(guó)家對(duì)“殺人機(jī)器人”的研發(fā)。大國(guó)之間展開(kāi)的人工智能軍備競(jìng)賽可能叩開(kāi)智能化戰(zhàn)爭(zhēng)的大門(mén)，給人類(lèi)帶來(lái)毀滅性的災(zāi)難。在2017年人工智能?chē)?guó)際會(huì)議上，上百名人工智能專(zhuān)家聯(lián)名上書(shū)聯(lián)合國(guó)，呼吁禁止在戰(zhàn)爭(zhēng)中使用致命的自主武器和殺人機(jī)器人，并抵制與任何國(guó)家合作研發(fā)人工智能武器的計(jì)劃。

(二)人工智能的刑事風(fēng)險(xiǎn)

1.風(fēng)險(xiǎn)與危害、危險(xiǎn)

風(fēng)險(xiǎn)社會(huì)中的風(fēng)險(xiǎn)區(qū)別于刑法規(guī)范中的危險(xiǎn)、危害，二者不可等同視之。“風(fēng)險(xiǎn)”一詞屬舶來(lái)品，考究其由來(lái)，有一種說(shuō)法是來(lái)源于遠(yuǎn)古時(shí)期漁民的捕魚(yú)活動(dòng)，海上的風(fēng)總是會(huì)給漁民帶來(lái)諸多不確定的偶然性的危險(xiǎn)，因此“風(fēng)”即意味著“險(xiǎn)”，于是漁民在每次捕魚(yú)之前都要祈禱神靈保佑出海風(fēng)平浪靜、滿(mǎn)載而歸。據(jù)能考證的詞源意大利語(yǔ)risque本身就包含reef(暗礁)或rock(礁石)的含義，是17世紀(jì)歐洲大陸的航海術(shù)語(yǔ)，特指在航海中遭遇雷電、颶風(fēng)等惡劣天氣或者船只觸礁沉沒(méi)等事故。風(fēng)險(xiǎn)即未來(lái)不確定的危險(xiǎn)，不可知、或然性是風(fēng)險(xiǎn)的特質(zhì)。

然而作為刑法規(guī)范意義上的危險(xiǎn)則是由傳統(tǒng)概念“社會(huì)危害性”展開(kāi)的，這種“危害性”包括兩種情況：第一，造成實(shí)際損害(危害)；第二，具有造成實(shí)際損害的現(xiàn)實(shí)可能性(危險(xiǎn))。刑法規(guī)范意義上危害必須是客觀的、現(xiàn)實(shí)的，即實(shí)實(shí)在在造成了損害結(jié)果，但是風(fēng)險(xiǎn)社會(huì)中的風(fēng)險(xiǎn)是建構(gòu)的、虛擬的。雖然貝克也強(qiáng)調(diào)風(fēng)險(xiǎn)的實(shí)在性，但是“它們的實(shí)在性是通過(guò)根植于前進(jìn)中的工業(yè)和科學(xué)生產(chǎn)與研究程序的‘沖突’而噴發(fā)出來(lái)的，社會(huì)感知和結(jié)構(gòu)使風(fēng)險(xiǎn)成為‘現(xiàn)實(shí)’”?！帮L(fēng)險(xiǎn)歸根結(jié)底不是具體的物，它們是看不見(jiàn)、感覺(jué)不到的東西，它們是一種社會(huì)構(gòu)想，只有當(dāng)人們相信它時(shí)，它才會(huì)因此而真實(shí)有效。”正如無(wú)人駕駛汽車(chē)可能在未來(lái)使得人們逐漸失去駕駛操控汽車(chē)的能力，或者阻礙人腦和其他器官的生物進(jìn)化，但是這些擔(dān)憂(yōu)其實(shí)都不是客觀的現(xiàn)實(shí)狀態(tài)，而僅僅是未來(lái)的一種或然性。

應(yīng)當(dāng)說(shuō)作為可能發(fā)生危害的“風(fēng)險(xiǎn)”含義更接近刑法規(guī)范中“危險(xiǎn)”的概念，二者都具有不確定性，即可能造成實(shí)害結(jié)果，也可能最后沒(méi)有造成實(shí)害結(jié)果。風(fēng)險(xiǎn)刑法論者在“拿來(lái)主義”的風(fēng)險(xiǎn)理論語(yǔ)境下企圖將傳統(tǒng)刑法轉(zhuǎn)向積極預(yù)防的安全軌道，這實(shí)際上是將刑法中具有規(guī)范限縮意義的危險(xiǎn)概念外延泛化為社會(huì)學(xué)意義上的風(fēng)險(xiǎn)表現(xiàn)出來(lái)的過(guò)度憂(yōu)慮。風(fēng)險(xiǎn)理論中所論及的技術(shù)風(fēng)險(xiǎn)，只有在滿(mǎn)足了“侵害的現(xiàn)實(shí)緊迫性”這一條件下才能實(shí)現(xiàn)從社會(huì)學(xué)意義的風(fēng)險(xiǎn)到刑法學(xué)意義的危險(xiǎn)的實(shí)質(zhì)性跨越?！扒趾Φ默F(xiàn)實(shí)性”指風(fēng)險(xiǎn)可能發(fā)生的危害必須是合乎必然性的存在，或許在未出現(xiàn)危害結(jié)果時(shí)還不是現(xiàn)實(shí)的，但是根據(jù)發(fā)展的客觀必然性或早或遲一定會(huì)變成現(xiàn)實(shí)。例如智能機(jī)器人脫離人類(lèi)控制殺死科學(xué)家毀滅人類(lèi)的場(chǎng)景只存在于科幻電影之中，事實(shí)上，智能機(jī)器人因?yàn)樯疃葘W(xué)習(xí)而產(chǎn)生意識(shí)思維并在自主意志的支配下實(shí)施不在人類(lèi)設(shè)計(jì)和編程范圍內(nèi)的犯罪行為，這種風(fēng)險(xiǎn)不具有現(xiàn)實(shí)性?！扒趾Φ木o迫性”是指風(fēng)險(xiǎn)可能發(fā)生侵害的危險(xiǎn)正在逼近、非常接近、迫在眉睫或者正在發(fā)生。例如器官移植技術(shù)可能會(huì)帶來(lái)非法買(mǎi)賣(mài)器官的風(fēng)險(xiǎn)，只有當(dāng)行為人組織他人出賣(mài)人體器官，或者未經(jīng)他人同意摘取其器官、摘取不滿(mǎn)十八周歲的人的器官，又或者強(qiáng)迫、欺騙他人捐贈(zèng)器官的，才形成對(duì)公民人身權(quán)利侵害的緊迫性危險(xiǎn)。

總而言之，風(fēng)險(xiǎn)不等于危險(xiǎn)，更不等于危害。在風(fēng)險(xiǎn)社會(huì)背景下分析人工智能的技術(shù)風(fēng)險(xiǎn)，最終還是為了回歸到刑法的視域下討論究竟哪些可能的風(fēng)險(xiǎn)才是具有刑法規(guī)范意義上的危險(xiǎn)和危害。當(dāng)且只有當(dāng)這些風(fēng)險(xiǎn)現(xiàn)實(shí)地造成了損害或者具有造成損害的現(xiàn)實(shí)緊迫性，人工智能的刑事風(fēng)險(xiǎn)才正式拉開(kāi)帷幕。

2.人工智能的刑事犯罪風(fēng)險(xiǎn)的展開(kāi)

“互聯(lián)網(wǎng)+人工智能”的全新時(shí)代，正如狄更斯所言：這是個(gè)最好的時(shí)代，也是個(gè)最壞的時(shí)代。人工智能的技術(shù)應(yīng)用范圍十分廣泛，包括工業(yè)生產(chǎn)、汽車(chē)制造、通訊運(yùn)輸、醫(yī)療臨床、教育培訓(xùn)、金融會(huì)計(jì)法律、個(gè)人家庭生活等各個(gè)領(lǐng)域。工業(yè)機(jī)器人替代流水線(xiàn)工人進(jìn)行全自動(dòng)化機(jī)械生產(chǎn)，無(wú)人駕駛汽車(chē)給谷歌的多個(gè)數(shù)據(jù)中心送貨，達(dá)芬奇手術(shù)機(jī)器人協(xié)助醫(yī)生開(kāi)展高難度、更精密的手術(shù)治療，智能律師Ross可以識(shí)別當(dāng)事人的自然語(yǔ)言、根據(jù)自身系統(tǒng)的法律知識(shí)儲(chǔ)備回答問(wèn)題、提出解決方案并記錄法律系統(tǒng)的變化，人臉識(shí)別技術(shù)應(yīng)用到銀行金融賬戶(hù)管理、鐵路機(jī)場(chǎng)安檢，甚至是大學(xué)上課簽到和宿舍管理……這些人工智能真正實(shí)現(xiàn)了“人工智能，讓生活更美好”的期許。

然凡世間物，皆有兩面性。就以無(wú)人駕駛汽車(chē)為例，一方面可以減少因駕駛者錯(cuò)誤操作或者長(zhǎng)途疲勞駕駛所帶來(lái)的交通事故，另一方面也有可能增加因自動(dòng)駕駛系統(tǒng)發(fā)生故障或者人為入侵破壞自動(dòng)駕駛系統(tǒng)而引發(fā)的交通事故。風(fēng)險(xiǎn)社會(huì)理論的一個(gè)重要意義是讓人們重視人為制造的風(fēng)險(xiǎn)，人為制造出來(lái)的風(fēng)險(xiǎn)也正是人工智能刑事風(fēng)險(xiǎn)的主要來(lái)源。具體而言，本文認(rèn)為涉及人工智能的刑事犯罪風(fēng)險(xiǎn)大致可以分為三類(lèi)：

第一，直接對(duì)人工智能的智能系統(tǒng)實(shí)施犯罪。這是對(duì)人工智能本身實(shí)施的犯罪。人工智能的智能系統(tǒng)是指能夠產(chǎn)生人類(lèi)智能行為的計(jì)算機(jī)系統(tǒng)，所謂的智能在現(xiàn)階段至少應(yīng)具備自動(dòng)獲取信息、自動(dòng)學(xué)習(xí)知識(shí)、邏輯推理演繹、應(yīng)用解決問(wèn)題等多方面的能力。人工智能的智能系統(tǒng)在本質(zhì)上屬于計(jì)算機(jī)信息系統(tǒng)的較高級(jí)別，對(duì)人工智能的智能系統(tǒng)實(shí)施犯罪實(shí)際上就是對(duì)計(jì)算機(jī)信息系統(tǒng)的犯罪。智能系統(tǒng)的運(yùn)作過(guò)程大致可以簡(jiǎn)單地看作是“輸入——輸出”的流水作業(yè)，輸入的是智能系統(tǒng)的處理對(duì)象，包括大數(shù)據(jù)和知識(shí)等，按照機(jī)器深度學(xué)習(xí)算法的方法論將存儲(chǔ)的數(shù)據(jù)和知識(shí)通過(guò)云計(jì)算平臺(tái)進(jìn)行計(jì)算分析，最后輸出處理結(jié)果、結(jié)論。不難發(fā)現(xiàn)，在人工智能的智能系統(tǒng)中存儲(chǔ)了大量的數(shù)據(jù)和信息，如果這些可能涉及身份隱私、財(cái)產(chǎn)安全，甚至是國(guó)防軍事利益的數(shù)據(jù)和信息被惡意入侵，并被破壞智能系統(tǒng)的犯罪分子非法獲取并利用，進(jìn)而實(shí)施侵犯公民個(gè)人信息、詐騙、竊取國(guó)家秘密或者其他犯罪，可能會(huì)發(fā)生嚴(yán)重的社會(huì)危害后果。對(duì)于行為人實(shí)施的直接針對(duì)人工智能的智能系統(tǒng)的犯罪，本文認(rèn)為可以考慮適用刑法第二百八十五條、第二百八十六條和第二百八十七條的相關(guān)規(guī)定進(jìn)行處理。

第二，利用人工智能技術(shù)實(shí)施傳統(tǒng)犯罪。隨著人工智能的飛速發(fā)展，犯罪技術(shù)也變得更高級(jí)起來(lái)，犯罪工具將與人工智能一同進(jìn)化。美國(guó)國(guó)家情報(bào)局局長(zhǎng)James R. Clapper就曾警告過(guò)關(guān)于人工智能技術(shù)的惡意使用問(wèn)題，人工智能在給人們生活帶來(lái)便捷的同時(shí)也擴(kuò)大了在線(xiàn)世界的漏洞，使得網(wǎng)絡(luò)和我們都變得更易受攻擊。2003年卡耐基·梅隆大學(xué)年僅22歲的研究生路易斯·馮·安設(shè)計(jì)出了“全自動(dòng)區(qū)分計(jì)算機(jī)和人類(lèi)的圖靈測(cè)試”方案，即我們熟知的驗(yàn)證碼技術(shù)，以此來(lái)阻止自動(dòng)程序盜取在線(xiàn)賬戶(hù)。然而除了人工智能的技術(shù)研發(fā)者，犯罪分子也一直在部署計(jì)算機(jī)視覺(jué)軟件以對(duì)抗驗(yàn)證碼技術(shù)，短短七年前黑客便顛覆了驗(yàn)證碼技術(shù)的安全保護(hù)功能?！叭绻銉赡隂](méi)改驗(yàn)證碼了，它就會(huì)被一些機(jī)器視覺(jué)算法操控?！泵绹?guó)加州大學(xué)圣迭戈分校的計(jì)算機(jī)安全員Stefan Savage表示說(shuō)。

人工智能技術(shù)作為高級(jí)犯罪工具給犯罪分子帶來(lái)了極大的犯罪便利。首先對(duì)于初次或者準(zhǔn)備進(jìn)入網(wǎng)絡(luò)犯罪但是沒(méi)有技術(shù)經(jīng)驗(yàn)的潛在犯罪分子來(lái)說(shuō)，可謂搭上了高科技的“順風(fēng)車(chē)”。曾經(jīng)火爆地下市場(chǎng)的Black shades程序軟件就被形象地稱(chēng)為“盒子里的刑事特權(quán)”，它能讓完全不懂技術(shù)的犯罪分子在計(jì)算機(jī)上輕松地部署一個(gè)勒索程序或者通過(guò)鼠標(biāo)點(diǎn)擊來(lái)進(jìn)行視頻或者音頻竊聽(tīng)。人工智能提供的這項(xiàng)技術(shù)便利可能會(huì)因此增加初次網(wǎng)絡(luò)犯罪的幾率。除此之外，人工智能技術(shù)還在一定程度上幫助消除了犯罪的障礙，降低了犯罪的難度，擴(kuò)大了傳統(tǒng)犯罪的社會(huì)危害性。例如在電信詐騙中，犯罪分子通常在?！安虏挛沂钦l(shuí)”的騙術(shù)中存在聲音被識(shí)別、騙局穿幫的風(fēng)險(xiǎn)。谷歌公司旗下的人工智能研究部Deep Mind團(tuán)隊(duì)開(kāi)發(fā)出的新程序可以模仿任何人的聲音，并且聽(tīng)起來(lái)比任何語(yǔ)音系統(tǒng)生成的聲音都要自然，極大地縮小了自然語(yǔ)言與人類(lèi)語(yǔ)言的差距。人工智能的這項(xiàng)語(yǔ)音偽裝技術(shù)在電話(huà)中就極易被犯罪分子用來(lái)偽裝身份實(shí)施詐騙，并且還有助于降低詐騙失敗的幾率。

第三，對(duì)人工智能產(chǎn)品未盡安全生產(chǎn)、管理義務(wù)的犯罪。人工智能產(chǎn)品發(fā)生致人死傷的嚴(yán)重危害后果多發(fā)生在工業(yè)機(jī)器人和無(wú)人駕駛汽車(chē)領(lǐng)域。根據(jù)美國(guó)職業(yè)安全健康管理局的統(tǒng)計(jì)數(shù)據(jù)顯示，在過(guò)去30年間大約發(fā)生了30多起與機(jī)器人相關(guān)的死亡事件。最近的一次是2015年的7月，在密歇根州的一家汽車(chē)零配件制造商廠(chǎng)內(nèi)，維修技師萬(wàn)達(dá)·霍爾布魯克在執(zhí)行日常保持機(jī)器人工作秩序的職責(zé)時(shí)，突然被裝配線(xiàn)上的機(jī)器人抓住，機(jī)器人像裝載拖車(chē)懸掛裝置組件一樣對(duì)被害人的頭部進(jìn)行操作，導(dǎo)致被害人頭骨被壓碎身亡。被害人的丈夫?qū)⑦@家工廠(chǎng)和為這家工廠(chǎng)提供機(jī)器人配件及安裝的5家機(jī)器人廠(chǎng)商一并訴至法庭，并在訴中表示：“機(jī)器人沒(méi)有被正確設(shè)計(jì)、制造或測(cè)試，才導(dǎo)致安全系統(tǒng)和設(shè)備突發(fā)故障(未盡安全生產(chǎn)的責(zé)任義務(wù))；并且130區(qū)域的機(jī)器人不應(yīng)當(dāng)進(jìn)入140區(qū)域，也不應(yīng)當(dāng)嘗試在已經(jīng)裝上掛接組件的夾具內(nèi)加載掛接組件(未盡安全管理的責(zé)任義務(wù))?！惫I(yè)機(jī)器人通常被用于執(zhí)行高危、高強(qiáng)、高重復(fù)性的任務(wù)，因此如果機(jī)器人廠(chǎng)商設(shè)計(jì)研發(fā)、生產(chǎn)制造出來(lái)的機(jī)器人不能符合保障人身、財(cái)產(chǎn)安全的國(guó)家、行業(yè)標(biāo)準(zhǔn)，機(jī)器人的所有者、使用者或管理者在超出安全操作、管理規(guī)范外使用機(jī)器人，就有很大可能造成嚴(yán)重的危害后果。

由于工業(yè)機(jī)器人、無(wú)人駕駛汽車(chē)在本質(zhì)上沒(méi)有超出“物”的范疇，不過(guò)是植入智能系統(tǒng)的“智能產(chǎn)品”罷了，因此這些“用于銷(xiāo)售”的工業(yè)機(jī)器人、無(wú)人駕駛汽車(chē)必須符合《產(chǎn)品質(zhì)量法》第十三條的規(guī)定，即“對(duì)可能危及人體健康和人身、財(cái)產(chǎn)安全的工業(yè)產(chǎn)品，必須符合保障人體健康和人身、財(cái)產(chǎn)安全的國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)；未制定國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)的，必須符合保障人體健康和人身、財(cái)產(chǎn)安全的要求。”特別是工業(yè)機(jī)器人、無(wú)人駕駛汽車(chē)的硬件設(shè)備均受整個(gè)智能系統(tǒng)的控制，因此確保智能系統(tǒng)的穩(wěn)定、安全是實(shí)現(xiàn)工業(yè)機(jī)器人、無(wú)人駕駛汽車(chē)整體安全性的關(guān)鍵因素。這是賦予人工智能產(chǎn)品的生產(chǎn)者安全生產(chǎn)義務(wù)的法律依據(jù)，如果生產(chǎn)者制造出來(lái)的機(jī)器人或者無(wú)人駕駛汽車(chē)不能符合保障人身、財(cái)產(chǎn)安全的國(guó)家標(biāo)準(zhǔn)或者行業(yè)標(biāo)準(zhǔn)，并且造成嚴(yán)重后果的，相關(guān)的責(zé)任人就可能觸犯刑法第一百四十六條規(guī)定的生產(chǎn)、銷(xiāo)售不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪。

人工智能產(chǎn)品除了在生產(chǎn)環(huán)節(jié)可能涉及產(chǎn)品生產(chǎn)安全帶來(lái)的一些刑事風(fēng)險(xiǎn)，進(jìn)入到流通使用環(huán)節(jié)，由于人工智能產(chǎn)品具有很多新技術(shù)的不確定性和復(fù)雜性，因此作為人工智能產(chǎn)品的所有者、使用者或者管理者可能還需要遵循一定的安全操作、管理規(guī)定或要求，例如工業(yè)機(jī)器人被投入到工廠(chǎng)的生產(chǎn)流水線(xiàn)上作業(yè)，對(duì)生產(chǎn)負(fù)有組織、指揮或者管理職責(zé)的負(fù)責(zé)人、管理人就必須按照機(jī)器人的安全操作、管理規(guī)定以保障機(jī)器人和普通工人的生產(chǎn)工作安全，如果未盡安全管理義務(wù)造成嚴(yán)重后果的，相關(guān)負(fù)責(zé)人還可能承擔(dān)其他過(guò)失責(zé)任。

三、人工智能的犯罪類(lèi)型之一：“工具利用型”

歷史上每一次技術(shù)革命都是工具的進(jìn)化史，從石器、鐵器到蒸汽機(jī)、電氣化，再到計(jì)算機(jī)、互聯(lián)網(wǎng)和人工智能，科技的發(fā)展從根本上改變了人們的生活方式。然而這種改變總是喜憂(yōu)參半的，以計(jì)算機(jī)與犯罪的關(guān)系為例，在以“聯(lián)”為主的Web1.0時(shí)期，計(jì)算機(jī)犯罪尚停留在將計(jì)算機(jī)信息系統(tǒng)作為犯罪對(duì)象的前期發(fā)展階段，進(jìn)入到以“互”為主的Web2.0時(shí)期，網(wǎng)絡(luò)的工具化使得傳統(tǒng)犯罪發(fā)生了網(wǎng)絡(luò)異化，到了Web3.0時(shí)期，網(wǎng)絡(luò)平臺(tái)思維和網(wǎng)絡(luò)犯罪空間的生成，帶來(lái)了犯罪的全面網(wǎng)絡(luò)化演變。人工智能與計(jì)算機(jī)、互聯(lián)網(wǎng)的關(guān)系就像魚(yú)與水的關(guān)系，一方面人工智能依托互聯(lián)網(wǎng)平臺(tái)和大數(shù)據(jù)技術(shù)興盛而發(fā)展，另一方面又推動(dòng)著傳統(tǒng)互聯(lián)網(wǎng)和工業(yè)物聯(lián)網(wǎng)進(jìn)一步向智能化邁進(jìn)。同計(jì)算機(jī)、互聯(lián)網(wǎng)的命運(yùn)一樣，人工智能也極有可能被犯罪分子工具化，所謂工具化即違背某物的用途或者違背某人的自身利益、意志，將其作為手段加以利用。人工智能的工具化是網(wǎng)絡(luò)工具化升級(jí)進(jìn)化的必然結(jié)果，由此可能會(huì)帶來(lái)犯罪全面“智能化”的危險(xiǎn)。

(一)利用人工智能的“智能”技術(shù)實(shí)施其他犯罪

2017年9月，浙江紹興警方破獲的全國(guó)首例利用人工智能侵犯公民個(gè)人信息一案便是行為人利用人工智能技術(shù)實(shí)施其他犯罪的最新適例。在該案中，非法入侵網(wǎng)站、利用人工智能技術(shù)識(shí)別圖片驗(yàn)證碼、制作撞庫(kù)軟件、非法買(mǎi)賣(mài)數(shù)據(jù)、實(shí)施網(wǎng)絡(luò)詐騙組成了一條完整的互聯(lián)網(wǎng)黑色產(chǎn)業(yè)鏈。黑客楊某搭建的“快啊”打碼平臺(tái)運(yùn)用人工智能機(jī)器深度學(xué)習(xí)方法訓(xùn)練機(jī)器，讓其可以自動(dòng)快速地識(shí)別圖片驗(yàn)證碼，從而輕松繞過(guò)網(wǎng)絡(luò)服務(wù)提供者設(shè)置的賬戶(hù)安全登陸保護(hù)。借助“快啊”打碼平臺(tái)提供的這項(xiàng)技術(shù)服務(wù)，以黃某為首的數(shù)據(jù)買(mǎi)賣(mài)團(tuán)伙利用網(wǎng)站漏洞順利侵入計(jì)算機(jī)信息系統(tǒng)，在非法獲取了網(wǎng)站后臺(tái)用戶(hù)的注冊(cè)信息后以10萬(wàn)組數(shù)據(jù)為一個(gè)單位賣(mài)給了制作撞庫(kù)軟件的團(tuán)伙。吳某、魏某等撞庫(kù)人員在獲取數(shù)據(jù)后直接與“快啊”打碼平臺(tái)對(duì)接進(jìn)行批量撞庫(kù)匹配，將各類(lèi)賬戶(hù)與密碼匹配成功的賬戶(hù)信息再打包賣(mài)給網(wǎng)絡(luò)詐騙團(tuán)伙。最后以鄭某為代表的詐騙團(tuán)伙利用非法獲取的個(gè)人信息實(shí)施各類(lèi)詐騙活動(dòng)。不難發(fā)現(xiàn)，黑客楊某利用人工智能的圖像識(shí)別技術(shù)所搭建的“快啊”打碼平臺(tái)，為非法侵入計(jì)算機(jī)信息系統(tǒng)、非法獲取系統(tǒng)數(shù)據(jù)的數(shù)據(jù)買(mǎi)賣(mài)團(tuán)伙突破驗(yàn)證碼的防護(hù)策略提供了犯罪工具，進(jìn)而為侵犯公民個(gè)人信息和實(shí)施網(wǎng)絡(luò)詐騙等犯罪活動(dòng)提供了極大的犯罪便利。

目前，人工智能技術(shù)比較成熟的應(yīng)用主要集中在語(yǔ)音識(shí)別、自然語(yǔ)言理解、圖像識(shí)別、人臉識(shí)別、手寫(xiě)識(shí)別、語(yǔ)音和文字的自動(dòng)轉(zhuǎn)化等，由于人的語(yǔ)言聲音、面部特征和文字筆跡均具有極強(qiáng)的身份性和一定的隱私性，因此如果這些技術(shù)一旦被犯罪分子與互聯(lián)網(wǎng)平臺(tái)、大數(shù)據(jù)技術(shù)相結(jié)合利用，就特別容易威脅計(jì)算機(jī)信息系統(tǒng)的安全，造成公民個(gè)人信息的泄露，加劇網(wǎng)絡(luò)詐騙的嚴(yán)峻態(tài)勢(shì)。應(yīng)當(dāng)說(shuō)，人工智能技術(shù)在計(jì)算機(jī)、網(wǎng)絡(luò)犯罪中的工具化不僅加快了整個(gè)互聯(lián)網(wǎng)黑色犯罪產(chǎn)業(yè)鏈的進(jìn)程，還催生了更大的社會(huì)危害后果。據(jù)辦案警方透露，在“快啊”打碼平臺(tái)被打掉的前三個(gè)月，就已經(jīng)提供驗(yàn)證碼識(shí)別服務(wù)259億次，被盜公民個(gè)人信息竟有10億余組，受騙金額多達(dá)2 000余萬(wàn)元。

行為人利用人工智能的智能技術(shù)實(shí)施犯罪是犯罪工具智能化的突出表現(xiàn)，這可能使得部分傳統(tǒng)犯罪的危害性發(fā)生“量變”。對(duì)于行為人利用人工智能技術(shù)實(shí)施的與計(jì)算機(jī)、網(wǎng)絡(luò)相關(guān)的犯罪，本文認(rèn)為可以考慮適用刑法第二百八十五條、第二百八十六條、第二百八十七條之一、第二百八十七條之二的規(guī)定定罪處罰；對(duì)于行為人利用人工智能的智能技術(shù)進(jìn)而實(shí)施詐騙、盜竊、竊取國(guó)家秘密或者其他犯罪的，可以考慮適用刑法第二百八十七條的規(guī)定定罪處罰。事實(shí)上，上述案例中的楊某即是以提供侵入計(jì)算機(jī)信息系統(tǒng)工具罪被浙江紹興警方予以逮捕的。

(二)故意“破壞”人工智能的智能系統(tǒng)實(shí)施其他犯罪

故意破壞人工智能的智能系統(tǒng)實(shí)施其他犯罪是指行為人首先通過(guò)遠(yuǎn)程侵入的手段對(duì)人工智能的智能系統(tǒng)進(jìn)行刪除、修改、干擾等破壞，然后再利用人工智能的不正常、不安全運(yùn)行達(dá)到實(shí)施其他犯罪的目的。例如，遠(yuǎn)程侵入從事高危高強(qiáng)工業(yè)生產(chǎn)的機(jī)器人的智能系統(tǒng)，故意刪除、修改機(jī)器人的安全生產(chǎn)范圍，結(jié)果導(dǎo)致工業(yè)機(jī)器人將原本在安全生產(chǎn)范圍之外的工人錯(cuò)誤當(dāng)作生產(chǎn)對(duì)象進(jìn)行操作；再如，遠(yuǎn)程侵入無(wú)人駕駛汽車(chē)的智能系統(tǒng)，干擾、破壞其車(chē)載傳感器系統(tǒng)，結(jié)果導(dǎo)致汽車(chē)在無(wú)人駕駛的行駛過(guò)程中因傳感器失靈無(wú)法精準(zhǔn)感知行人和障礙物信息進(jìn)而發(fā)生撞車(chē)、翻車(chē)等事故。在故意破壞人工智能的智能系統(tǒng)實(shí)施其他犯罪的復(fù)雜情形中，存在幾個(gè)疑難問(wèn)題予以厘清。

1.實(shí)行行為著手的認(rèn)定

所謂牽連犯，是指行為人為了實(shí)施某種犯罪(本罪)，其方法行為或者結(jié)果行為同時(shí)又觸犯其他罪名(他罪)的犯罪形態(tài)。根據(jù)這一定義，行為人遠(yuǎn)程侵入、破壞人工智能的智能系統(tǒng)與實(shí)施其他犯罪之間即存在手段與目的的牽連關(guān)系。對(duì)這類(lèi)手段行為與目的行為相結(jié)合的犯罪，著手的認(rèn)定需要著重解決的問(wèn)題就是按照哪個(gè)行為來(lái)確定。由于雙重行為同屬犯罪構(gòu)成所要求的實(shí)行行為，而著手是實(shí)行行為的起點(diǎn)，因此開(kāi)始實(shí)行第一行為即手段行為時(shí)就是犯罪的“著手”。當(dāng)然，手段行為本身也是包括一系列具有內(nèi)在聯(lián)系的動(dòng)作，而不只是一個(gè)動(dòng)作。例如，《刑法》第二百六十三條以暴力為手段行為的搶劫案中，就可以順序出現(xiàn)逼向被害人、追趕被害人、抓住被害人、毆打乃至傷害被害人等一系列動(dòng)作，這些動(dòng)作都是暴力手段行為的內(nèi)容。行為人實(shí)施其中最初的動(dòng)作即開(kāi)始實(shí)行手段行為，就應(yīng)認(rèn)定為搶劫罪的著手。據(jù)此，行為人在實(shí)施遠(yuǎn)程入侵、刪除、修改、干擾等破壞人工智能的智能系統(tǒng)的手段行為時(shí)即可認(rèn)為是實(shí)施其他犯罪的著手。

2.故意內(nèi)容的認(rèn)定

以無(wú)人駕駛汽車(chē)為例，A遠(yuǎn)程侵入、破壞了B無(wú)人駕駛汽車(chē)的智能系統(tǒng)，導(dǎo)致B汽車(chē)在行駛過(guò)程中因攝像頭傳感器故障撞上了C，造成B重傷和C死亡的嚴(yán)重后果。危害結(jié)果，從廣義上說(shuō)即行為在客觀上給某種社會(huì)關(guān)系造成危害或者可能造成危害的結(jié)果，既包括已經(jīng)發(fā)生的危害結(jié)果，也包括尚未發(fā)生但可能發(fā)生的危害結(jié)果，是一切犯罪故意的認(rèn)識(shí)內(nèi)容。B無(wú)人駕駛汽車(chē)的智能系統(tǒng)被破壞既有可能發(fā)生傷害的危害結(jié)果，也有可能發(fā)生死亡的危害結(jié)果，應(yīng)如何認(rèn)定A在實(shí)施侵入、破壞B汽車(chē)的智能系統(tǒng)時(shí)主觀故意的具體內(nèi)容呢？即A是基于傷害的故意還是基于殺人的故意去實(shí)施破壞B汽車(chē)的智能系統(tǒng)的行為呢？本文認(rèn)為：如果可以查明A是基于傷害的故意，卻發(fā)生重傷、死亡的危害結(jié)果，則成立故意傷害(致人重傷、致人死亡)罪(結(jié)果加重犯)；如果可以查明A是基于殺人的故意，卻發(fā)生重傷、傷害的危害結(jié)果，則成立故意殺人罪(未遂)；在無(wú)法查明的情況下，根據(jù)“存疑有利于被告人原則”，宜認(rèn)定A僅有基于傷害的故意。

行為人認(rèn)識(shí)到結(jié)果發(fā)生是確實(shí)的，但結(jié)果發(fā)生的行為對(duì)象不特定，即行為對(duì)象的個(gè)數(shù)以及哪個(gè)行為對(duì)象發(fā)生結(jié)果是不確定的，這是概括的故意。無(wú)人駕駛汽車(chē)作為私人交通工具進(jìn)入到公共道路交通領(lǐng)域，其自身的不正常、不安全運(yùn)行也會(huì)給不特定的其他人生命和財(cái)產(chǎn)安全構(gòu)成一定的威脅。因此A在實(shí)施侵入、破壞B汽車(chē)的智能系統(tǒng)時(shí)，是應(yīng)當(dāng)能夠預(yù)見(jiàn)到B汽車(chē)可能會(huì)發(fā)生翻車(chē)撞車(chē)事故，從而可能造成不特定第三人傷亡的危害結(jié)果的，因此A對(duì)任何第三人C所持的放任心態(tài)是基于概括的故意。此外，如果智能系統(tǒng)被破壞的無(wú)人駕駛汽車(chē)，其不正常、不安全的行駛狀態(tài)足以達(dá)到危害公共安全的程度，則還可能觸犯以危險(xiǎn)方法危害公共安全罪。

(三)利用人工智能的“不智能”實(shí)施其他犯罪

利用人工智能的智能技術(shù)實(shí)施其他犯罪是利用人工智能的“智能”去犯罪，故意破壞人工智能的智能系統(tǒng)實(shí)施其他犯罪是破壞人工智能的“智能”去犯罪。反其道而行之，所謂利用人工智能的“不智能”實(shí)施其他犯罪是指行為人首先采取手段行為使得人工智能機(jī)器或者系統(tǒng)陷入錯(cuò)誤的狀態(tài)，然后再利用人工智能的錯(cuò)誤運(yùn)行(即“不智能”)去實(shí)施目的行為。

關(guān)于“機(jī)器能否被騙”這一命題曾引發(fā)了不小的爭(zhēng)論，有的學(xué)者堅(jiān)持主張“機(jī)器不能被騙，欺騙必須作用于被害人的大腦”。修正的觀點(diǎn)則指出“機(jī)器本身并不能被騙，但是機(jī)器背后的人可能受騙，對(duì)計(jì)算機(jī)詐騙實(shí)質(zhì)上是使計(jì)算機(jī)背后的人受了騙”。還有的學(xué)者認(rèn)為“隨著科技的發(fā)展，通過(guò)電腦的作用，機(jī)器也可以接受人所傳遞給它的信息并作出預(yù)期的反應(yīng)，因缺乏人的靈活性，反而更容易成為欺騙的對(duì)象?！北疚恼J(rèn)為，“欺騙”所強(qiáng)調(diào)的是一種“陷入錯(cuò)誤”的狀態(tài)，理性自然人會(huì)因?yàn)槭茯_而陷入錯(cuò)誤的認(rèn)識(shí)狀態(tài)，機(jī)器即便不能被騙但也會(huì)因?yàn)槠渌蚨萑脲e(cuò)誤的運(yùn)行狀態(tài)。不可否認(rèn)，人尚且還會(huì)出錯(cuò)，機(jī)器當(dāng)然也會(huì)出錯(cuò)，機(jī)器出錯(cuò)即機(jī)器陷入了錯(cuò)誤的系統(tǒng)操作運(yùn)行狀態(tài)。承認(rèn)“機(jī)器會(huì)出錯(cuò)”或許可以為我們思考“機(jī)器能否被騙”這一命題提供新的方向和路徑。

事實(shí)上，人工智能并不是完美的，人臉識(shí)別系統(tǒng)就時(shí)常出錯(cuò)。倫敦警方在利用人臉識(shí)別系統(tǒng)搜尋犯罪嫌疑人時(shí)，大約發(fā)生了35次錯(cuò)誤的身份匹配，并導(dǎo)致其中一人被錯(cuò)誤地“逮捕”。一般地，換了發(fā)型、多了眼鏡、女生的彩妝、男生的胡子、面部整容、雙胞胎等因素都會(huì)影響系統(tǒng)的識(shí)別，根據(jù)美國(guó)麻省理工學(xué)院某項(xiàng)研究結(jié)果還顯示，膚色越暗，人臉識(shí)別系統(tǒng)發(fā)生的錯(cuò)誤率越高?，F(xiàn)在人臉識(shí)別這項(xiàng)人工智能技術(shù)被大規(guī)模應(yīng)用在以銀行、保險(xiǎn)為代表的金融領(lǐng)域，國(guó)內(nèi)多家銀行推出“身份驗(yàn)證”、“刷臉取款”、“刷臉支付”的試點(diǎn)，開(kāi)啟密碼與人臉同步驗(yàn)證，實(shí)現(xiàn)用戶(hù)無(wú)卡取款。應(yīng)當(dāng)說(shuō)，在人臉識(shí)別系統(tǒng)智能的情況下，通過(guò)客戶(hù)刷臉和銀行卡密碼雙重身份的核驗(yàn)可以幫助解決銀行卡被盜和密碼泄露帶來(lái)的財(cái)產(chǎn)安全風(fēng)險(xiǎn)，但是如果行為人采用人臉偽裝技術(shù)使得人臉識(shí)別系統(tǒng)陷入了錯(cuò)誤的狀態(tài)，并基于錯(cuò)誤的運(yùn)行“交付”了財(cái)產(chǎn)，造成了被害人的財(cái)產(chǎn)損失，即是利用人臉識(shí)別系統(tǒng)的“不智能”實(shí)施的犯罪。

四、人工智能的犯罪類(lèi)型之二：“產(chǎn)品缺陷型”

所謂“產(chǎn)品缺陷”，根據(jù)我國(guó)《產(chǎn)品質(zhì)量法》的規(guī)定，是指產(chǎn)品存在危及人身、他人財(cái)產(chǎn)安全的不合理的危險(xiǎn)，簡(jiǎn)言之，即產(chǎn)品具有不合理的欠缺安全性的狀態(tài)。比如無(wú)人駕駛汽車(chē)如果存在智能系統(tǒng)故障或者剎車(chē)離合器失靈等情況，即屬于產(chǎn)品缺陷。缺陷人工智能產(chǎn)品致人死傷最為典型的案例就是機(jī)器人“殺人”事件，1978年日本廣島一家工廠(chǎng)的切割機(jī)器人在切割鋼板時(shí)突發(fā)異常，將一名值班的工人當(dāng)作鋼板操作，這是世界上第一例機(jī)器人“殺人”案；1989年也是在日本的一家無(wú)人工廠(chǎng)里，機(jī)器人將一名維修工人強(qiáng)行拖入轉(zhuǎn)動(dòng)的機(jī)器中絞死。據(jù)粗略統(tǒng)計(jì)，日本已有10余名工人慘死于機(jī)器人的“手”下，致傷殘的多達(dá)7 000余人。

(一)產(chǎn)品的刑事責(zé)任

1.從產(chǎn)品的侵權(quán)責(zé)任到產(chǎn)品的刑事責(zé)任

各國(guó)的立法與實(shí)踐對(duì)缺陷產(chǎn)品致人死傷的責(zé)任追究都經(jīng)歷了從民事賠償?shù)叫淌轮撇玫倪^(guò)程。作為世界上產(chǎn)品責(zé)任法最完善、最發(fā)達(dá)的美國(guó)，基本上將缺陷產(chǎn)品致人死傷的案件作為民事侵權(quán)案件來(lái)處理，直至1980年的印第安納州訴福特汽車(chē)公司疏忽大意殺人案(State of Indiana v. Ford Motor Co.)才改變了這一固有的狀況。該案中三名被害人因其駕駛的福特汽車(chē)油箱漏油而被燒死，雖然最后法院仍將該起事故認(rèn)定為侵權(quán)，福特公司無(wú)罪，但是在此之后聯(lián)邦與各州有關(guān)產(chǎn)品缺陷刑事責(zé)任的立法逐漸增多起來(lái)。德國(guó)亦將其產(chǎn)品責(zé)任限定于民事侵權(quán)領(lǐng)域，刑法對(duì)于產(chǎn)品的生產(chǎn)者與銷(xiāo)售者所負(fù)的責(zé)任一直以來(lái)都沒(méi)有給予很高的關(guān)注，后來(lái)在毛拉赫(Maurach)與施羅德(Schroeder)撰寫(xiě)的第五版《德國(guó)刑法教科書(shū)》中才明確地提到了產(chǎn)品刑事責(zé)任的概念，并且在20世紀(jì)90年代發(fā)生的“皮革噴霧劑案”(BSHSt. 37，106)和“木材防腐劑案”(BSHSt. 41，206)中，德國(guó)最高聯(lián)邦法院最終判決生產(chǎn)企業(yè)的負(fù)責(zé)人成立過(guò)失傷害罪。日本對(duì)于缺陷產(chǎn)品的刑事責(zé)任追究則相對(duì)晚了許多，2000年之后發(fā)生的著名案例有三菱汽車(chē)公司隱瞞汽車(chē)質(zhì)量問(wèn)題致人死亡事件。當(dāng)時(shí)三菱汽車(chē)公司不僅沒(méi)有根據(jù)法律向國(guó)土交通省報(bào)告其生產(chǎn)的載重汽車(chē)離合器系統(tǒng)零部件質(zhì)量存在問(wèn)題，也沒(méi)有采取將問(wèn)題車(chē)輛召回檢修等必要措施，最終導(dǎo)致一名司機(jī)因卡車(chē)離合器系統(tǒng)質(zhì)量問(wèn)題發(fā)生重大交通事故而當(dāng)場(chǎng)死亡。事后日本警方以涉嫌“業(yè)務(wù)過(guò)失致死罪”逮捕了三菱汽車(chē)公司前總經(jīng)理何添克彥等6人。

2.建立產(chǎn)品刑事責(zé)任的必要性

缺陷產(chǎn)品致人死傷事件的法律定性從民事侵權(quán)發(fā)展為刑事犯罪最直接的原因是行為的違法性程度和社會(huì)危害性超越了刑法的容忍邊界。刑法作為保障法、補(bǔ)充法和事后法已經(jīng)成為共識(shí)，“所有部門(mén)法所保護(hù)和調(diào)整的社會(huì)關(guān)系，都會(huì)同時(shí)借助刑法的保護(hù)與調(diào)整，刑法是其他部門(mén)法的保障法，是其他部門(mén)法的保障和后盾，如果將其他部門(mén)法比作第一道防線(xiàn)，刑法則是第二道防線(xiàn)”。所以當(dāng)且只有當(dāng)“前置法對(duì)違法行為的管控?zé)o效或違法性程度已經(jīng)超出前置法的管轄，這類(lèi)行為才有交由刑法接管的資格”。在缺陷產(chǎn)品致人死傷的責(zé)任認(rèn)定中，由侵權(quán)責(zé)任向刑事責(zé)任的演變也正是行為的違法性程度和社會(huì)危害性不斷累積的結(jié)果。如果說(shuō)因福特汽車(chē)油箱漏油而導(dǎo)致三名受害人被燒死還勉強(qiáng)符合一般違法的程度，社會(huì)危害性較輕，法院判決福特公司承擔(dān)民事侵權(quán)責(zé)任也是恰當(dāng)?shù)摹Ｄ敲慈毡救夤驹诿髦渖a(chǎn)的載重汽車(chē)離合器系統(tǒng)零部件存在質(zhì)量問(wèn)題的情況下，仍然故意隱瞞汽車(chē)質(zhì)量問(wèn)題并且未采取任何召回、檢修等必要措施以防止危害結(jié)果的進(jìn)一步擴(kuò)大。事實(shí)上，早在1999年由于類(lèi)似質(zhì)量問(wèn)題就曾引發(fā)一起事故，最終導(dǎo)致司機(jī)發(fā)生交通事故身亡的嚴(yán)重社會(huì)危害后果，應(yīng)當(dāng)說(shuō)日本三菱公司的行為性質(zhì)更惡劣，給社會(huì)造成的危害后果更嚴(yán)重，已經(jīng)具有相當(dāng)程度的違法性和社會(huì)危害性。

另一方面，建立產(chǎn)品的刑事責(zé)任是民、刑不同責(zé)任功能互補(bǔ)的結(jié)果。法律責(zé)任的功能主要有三，即懲罰、救濟(jì)和預(yù)防，民事責(zé)任和刑事責(zé)任作為法律責(zé)任的具體表現(xiàn)形式必然都秉承著這三項(xiàng)功能，但二者各有側(cè)重。民事侵權(quán)責(zé)任關(guān)注已然受損的受害人，遵循“無(wú)損害則無(wú)賠償”的一般原則，側(cè)重對(duì)受害人損害、損失的補(bǔ)償和權(quán)利的恢復(fù)救濟(jì)，“損害賠償?shù)淖罡咧笇?dǎo)原則在于賠償受害人所受之損害，俾于賠償之結(jié)果，有如損害事故未曾發(fā)生者然”。刑事責(zé)任的主要特色則在于懲罰和預(yù)防功能。首先刑事責(zé)任突出的表現(xiàn)為對(duì)犯罪的懲罰，如果說(shuō)民事侵權(quán)責(zé)任是通過(guò)賠償來(lái)直接救濟(jì)受害人的利益，那么刑事責(zé)任則是通過(guò)對(duì)犯罪人的刑罰懲罰來(lái)間接地保護(hù)被害人的利益。此外，刑法不僅關(guān)注已然受損的特定被害人，更著眼于未來(lái)可能受損的一般人，應(yīng)當(dāng)明確，國(guó)家制定刑罰、適用刑罰和執(zhí)行刑法所追求的，乃是以刑法作為手段同犯罪作斗爭(zhēng)，從而最終實(shí)現(xiàn)一般預(yù)防犯罪的目的。建立產(chǎn)品的刑事責(zé)任可以彌補(bǔ)民事責(zé)任在懲罰、預(yù)防功能上的薄弱和不足，對(duì)于具有相當(dāng)違法性和嚴(yán)重社會(huì)危害性的侵權(quán)行為在定性上有必要升格為犯罪，并科以刑罰。此外，隨著民眾對(duì)食品、藥品、汽車(chē)等與日常生活密切相關(guān)的商(產(chǎn))品與日俱增的安全需要，刑法是控制風(fēng)險(xiǎn)、安撫民眾不安情緒較有力的預(yù)防與威懾手段。

(二)人工智能產(chǎn)品的責(zé)任形式

1.生產(chǎn)階段：研發(fā)生產(chǎn)者的保障產(chǎn)品安全義務(wù)與故意責(zé)任

(1)保障產(chǎn)品安全的義務(wù)

人工智能產(chǎn)品的設(shè)計(jì)者、生產(chǎn)者應(yīng)當(dāng)確保其設(shè)計(jì)、制造的產(chǎn)品安全、可靠，“安全性”不僅是社會(huì)公眾對(duì)技術(shù)尚未成熟的人工智能產(chǎn)品的首要關(guān)注，也是我國(guó)《產(chǎn)品質(zhì)量法》的法中之義。根據(jù)《產(chǎn)品質(zhì)量法》第二十六條第一項(xiàng)的規(guī)定：“生產(chǎn)者應(yīng)當(dāng)對(duì)其生產(chǎn)的產(chǎn)品質(zhì)量負(fù)責(zé)。產(chǎn)品質(zhì)量應(yīng)當(dāng)符合下列要求：(一)不存在危及人身、財(cái)產(chǎn)安全的不合理的危險(xiǎn)，有保障人體健康和人身、財(cái)產(chǎn)安全的國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)的，應(yīng)當(dāng)符合該標(biāo)準(zhǔn)?！庇纱丝梢?jiàn)，保證人工智能產(chǎn)品的質(zhì)量安全是生產(chǎn)者的一項(xiàng)法定義務(wù)，即“保障產(chǎn)品安全的義務(wù)”。

判斷產(chǎn)品是否安全存在兩個(gè)標(biāo)準(zhǔn)，即“不合理危險(xiǎn)”標(biāo)準(zhǔn)和國(guó)家、行業(yè)標(biāo)準(zhǔn)。由于目前人工智能產(chǎn)品制造業(yè)，比如在機(jī)器人、無(wú)人駕駛汽車(chē)等領(lǐng)域，均未正式制定統(tǒng)一的國(guó)家、行業(yè)標(biāo)準(zhǔn)，因此現(xiàn)階段用來(lái)判斷人工智能產(chǎn)品是否存在缺陷就只剩下“不合理危險(xiǎn)”標(biāo)準(zhǔn)了。所謂“不合理的危險(xiǎn)”，按照《美國(guó)第二次侵權(quán)法重述》第402A條的解釋?zhuān)侵府a(chǎn)品的危險(xiǎn)性超出了具有一般社會(huì)認(rèn)知水平的普通消費(fèi)者對(duì)產(chǎn)品安全性的合理預(yù)期。比如智能汽車(chē)主要是依靠攝像頭和雷達(dá)配合組成的多方位傳感器系統(tǒng)來(lái)感知車(chē)身的具體位置和外界的障礙物情況，從而實(shí)現(xiàn)無(wú)人駕駛的目的，如果智能汽車(chē)其中之一的攝像頭傳感器存在質(zhì)量問(wèn)題，即經(jīng)常發(fā)生故障或者失靈，則屬于不合理的危險(xiǎn)。

產(chǎn)品存在不合理的危險(xiǎn)或者不符合強(qiáng)制性的國(guó)家、行業(yè)標(biāo)準(zhǔn)即為“缺陷產(chǎn)品”。人工智能產(chǎn)品的缺陷主要體現(xiàn)在兩個(gè)方面：第一，設(shè)計(jì)上的缺陷。產(chǎn)品設(shè)計(jì)是產(chǎn)品制造的前置階段，任何產(chǎn)品都需要經(jīng)過(guò)設(shè)計(jì)才能投入生產(chǎn)、制造。人工智能產(chǎn)品的設(shè)計(jì)除了包含一般產(chǎn)品在外觀和硬件設(shè)備上的設(shè)計(jì)外，還包括最為關(guān)鍵的軟件程序的開(kāi)發(fā)和智能系統(tǒng)的設(shè)計(jì)。由于人工智能產(chǎn)品的硬件設(shè)備完全是被智能程序系統(tǒng)所操控的，因此人工智能產(chǎn)品的整體安全性在很大程度上取決于智能系統(tǒng)的安全性、可靠性。第二，制造上的缺陷。廣義的制造包括生產(chǎn)、加工、裝配、調(diào)試等環(huán)節(jié)，人工智能產(chǎn)品如果在生產(chǎn)、加工環(huán)節(jié)“與設(shè)計(jì)有所偏離”，即多了不該多的東西、少了不該少的東西、用了不該用的東西，即會(huì)被認(rèn)定為存在缺陷。特別是人工智能產(chǎn)品在安裝、調(diào)試等非常規(guī)操作過(guò)程中，應(yīng)當(dāng)特別注意由于智能系統(tǒng)的不穩(wěn)定性可能產(chǎn)生的危險(xiǎn)，事實(shí)上，機(jī)器人在安裝、調(diào)試階段就特別多發(fā)系統(tǒng)故障致人意外死傷事件。人工智能產(chǎn)品如果在測(cè)試、安裝階段被發(fā)現(xiàn)可能存在不合理危險(xiǎn)，應(yīng)當(dāng)立即停止產(chǎn)品的全面流通和使用并及時(shí)報(bào)告。

(2)生產(chǎn)不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪

人工智能與工業(yè)物聯(lián)網(wǎng)的結(jié)合開(kāi)啟了制造業(yè)全面智能化的時(shí)代，工業(yè)機(jī)器人不僅幫助實(shí)現(xiàn)了工廠(chǎng)的無(wú)人化生產(chǎn)，人工智能產(chǎn)品還越來(lái)越多地走進(jìn)了人們的家庭生活中，比如智能彩電、智能冰箱、智能空調(diào)、無(wú)人駕駛汽車(chē)等。目前人工智能產(chǎn)品正在如火如荼地進(jìn)行研發(fā)、設(shè)計(jì)、生產(chǎn)和測(cè)試，有鑒于這些人工智能產(chǎn)品與我們的人身權(quán)利和財(cái)產(chǎn)權(quán)利密切相關(guān)，本文建議應(yīng)當(dāng)加快推進(jìn)人工智能產(chǎn)品的國(guó)家、行業(yè)標(biāo)準(zhǔn)的制定與實(shí)施，一方面有助于保障人工智能產(chǎn)品的安全性，進(jìn)而保護(hù)公民的人身健康和財(cái)產(chǎn)利益，消除社會(huì)民眾對(duì)人工智能產(chǎn)品質(zhì)量的不安感；另一方面，制定國(guó)家、行業(yè)標(biāo)準(zhǔn)可以為違反“保障產(chǎn)品安全義務(wù)”、生產(chǎn)具有不合理危險(xiǎn)的人工智能產(chǎn)品成立“生產(chǎn)不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪”提供主觀上“明知”的依據(jù)。

我國(guó)的產(chǎn)品刑事責(zé)任集中規(guī)定在刑法分則第三章破壞社會(huì)主義市場(chǎng)經(jīng)濟(jì)秩序罪中的“生產(chǎn)、銷(xiāo)售偽劣商品罪”一節(jié)，共有9個(gè)罪名11個(gè)法律條文，其中就有7個(gè)罪名涉及對(duì)缺陷藥品、食品、醫(yī)用器材、農(nóng)藥、獸藥、化肥、種子、化妝品等特殊產(chǎn)品的規(guī)制，對(duì)一般產(chǎn)品的規(guī)制僅有第一百四十條生產(chǎn)、銷(xiāo)售偽劣產(chǎn)品罪和第一百四十六條生產(chǎn)、銷(xiāo)售不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪。生產(chǎn)、銷(xiāo)售不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪的主觀罪過(guò)形式是故意，即生產(chǎn)者在明知其生產(chǎn)的產(chǎn)品存在國(guó)家、行業(yè)標(biāo)準(zhǔn)的情況下還故意生產(chǎn)不符合保障人身、財(cái)產(chǎn)安全的、有違國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)的產(chǎn)品。制定人工智能產(chǎn)品的國(guó)家、行業(yè)標(biāo)準(zhǔn)，實(shí)際上是將設(shè)計(jì)者、生產(chǎn)者“保障產(chǎn)品安全的義務(wù)”具體化，為認(rèn)定設(shè)計(jì)者、生產(chǎn)者是否履行這一法定義務(wù)提供衡量尺度和判斷標(biāo)準(zhǔn)。如果人工智能產(chǎn)品的設(shè)計(jì)者、生產(chǎn)者設(shè)計(jì)、生產(chǎn)的人工智能產(chǎn)品不符合國(guó)家、行業(yè)標(biāo)準(zhǔn)，即違反了“保障產(chǎn)品安全的義務(wù)”，造成缺陷產(chǎn)品致人死傷等嚴(yán)重危害后果的，設(shè)計(jì)者、生產(chǎn)者即有可能觸犯生產(chǎn)不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪。

總之，人工智能產(chǎn)品的設(shè)計(jì)者、生產(chǎn)者應(yīng)當(dāng)在研發(fā)設(shè)計(jì)、生產(chǎn)制造人工智能產(chǎn)品的過(guò)程中履行法定的“保障產(chǎn)品安全的義務(wù)”，以保證人工智能產(chǎn)品在硬件設(shè)備和智能系統(tǒng)上的雙重安全性，人工智能產(chǎn)品的設(shè)計(jì)者尤其還應(yīng)當(dāng)注意其研發(fā)的智能系統(tǒng)的可行性、可靠性。為了全面促進(jìn)人工智能技術(shù)在智能制造業(yè)的長(zhǎng)足、良性發(fā)展，需要盡快制定人工智能產(chǎn)品的國(guó)家標(biāo)準(zhǔn)或行業(yè)標(biāo)準(zhǔn)。如果人工智能產(chǎn)品不符合保障人身、財(cái)產(chǎn)安全的國(guó)家、行業(yè)標(biāo)準(zhǔn)，并且造成嚴(yán)重后果的，設(shè)計(jì)者、生產(chǎn)者即有可能觸犯生產(chǎn)不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪。

2.流通階段：生產(chǎn)者的召回義務(wù)、所有者或使用者的安全管理義務(wù)與過(guò)失責(zé)任

(1)生產(chǎn)者的召回義務(wù)與過(guò)失責(zé)任

與我國(guó)刑法專(zhuān)章建立產(chǎn)品的刑事責(zé)任不同，德國(guó)和日本在其刑法典中沒(méi)有專(zhuān)門(mén)的法律條文來(lái)規(guī)定產(chǎn)品的刑事責(zé)任，一般是按照故意殺人罪、故意傷害罪來(lái)處理故意的刑事產(chǎn)品責(zé)任，以過(guò)失殺人罪、過(guò)失傷害罪來(lái)處理過(guò)失的刑事產(chǎn)品責(zé)任，并且以過(guò)失的刑事產(chǎn)品責(zé)任更為多見(jiàn)，正如前文所述，在德國(guó)的皮革噴霧劑案中企業(yè)的負(fù)責(zé)人即成立過(guò)失傷害罪，日本三菱公司的前總經(jīng)理等人也是成立業(yè)務(wù)過(guò)失致死罪。然而在我國(guó)并沒(méi)有過(guò)失的刑事產(chǎn)品責(zé)任，刑法分則第三章第一節(jié)規(guī)定的“生產(chǎn)、銷(xiāo)售偽劣商品罪”均為故意犯罪，司法實(shí)踐中對(duì)于此類(lèi)案件大多是作為民事侵權(quán)的案件來(lái)處理。因此下面不妨以德國(guó)著名的“皮革噴霧劑案”為例，深入討論產(chǎn)品投入流通使用后生產(chǎn)者的后續(xù)召回義務(wù)以及過(guò)失責(zé)任的承擔(dān)。

“皮革噴霧案”的基本案情如下：X有限責(zé)任公司是一家生產(chǎn)皮鞋及其他皮具護(hù)理用品的公司，其產(chǎn)品中包括一款作為護(hù)理劑和染料劑的皮革噴霧劑，由旗下的子公司E和S負(fù)責(zé)推銷(xiāo)。1980年秋該公司收到了用戶(hù)的投訴報(bào)告，稱(chēng)其在使用皮革噴霧劑后出現(xiàn)了咳嗽、寒顫、發(fā)熱、呼吸困難等嚴(yán)重的健康損害，部分甚至有生命危險(xiǎn)。公司對(duì)此進(jìn)行了內(nèi)部調(diào)查并改變了配方，但并未達(dá)到理想的效果。1981年5月12日，X公司主管人員就此召開(kāi)了特別會(huì)議，與會(huì)人員包括S、Sch博士、R、O及公司的首席化學(xué)家B博士。B博士提出根據(jù)現(xiàn)有的調(diào)查并沒(méi)有足夠的證據(jù)證明皮革噴霧劑中存在有毒物質(zhì)。據(jù)此公司的董事會(huì)做出決定，在日后的調(diào)查能夠確定產(chǎn)品確實(shí)存在缺陷、對(duì)消費(fèi)者產(chǎn)生危險(xiǎn)之前不召回產(chǎn)品也不停止銷(xiāo)售產(chǎn)品，也不采取警告行動(dòng)，而只是對(duì)產(chǎn)品外包裝上的提示進(jìn)行完善。E公司和S公司的負(fù)責(zé)人在各自的主管范圍內(nèi)執(zhí)行了董事會(huì)決議。之后，大量的消費(fèi)者在使用皮革噴霧劑之后仍然出現(xiàn)了身體損害的情況。最后，聯(lián)邦衛(wèi)生健康部介入并對(duì)產(chǎn)品進(jìn)行了召回。

一審法院直接從民法上產(chǎn)品的“安全確保義務(wù)”以及召回義務(wù)引申出刑法上的作為義務(wù)，認(rèn)為X公司既沒(méi)有生產(chǎn)安全的產(chǎn)品，也沒(méi)有在損害事件發(fā)生后采取召回等必要措施以回避危害結(jié)果的擴(kuò)大，因此X公司的兩名董事成立過(guò)失傷害罪(不作為)。一審法院的判決招致了一些批判，“將民事義務(wù)直接拿來(lái)作為刑事義務(wù)的根據(jù)并不充分，而且還有擴(kuò)大刑事責(zé)任的危險(xiǎn)。”許乃曼教授認(rèn)為生產(chǎn)者對(duì)于已經(jīng)進(jìn)入市場(chǎng)流通的產(chǎn)品不具有事實(shí)上、實(shí)質(zhì)性的支配權(quán)，不能對(duì)產(chǎn)品施加影響，從而否認(rèn)了生產(chǎn)者的保證人地位，生產(chǎn)者、銷(xiāo)售者對(duì)于已經(jīng)投入流通的產(chǎn)品都不具有召回的作為義務(wù)，由此引發(fā)的產(chǎn)品致人損害不承擔(dān)傷害罪(不作為)的刑事責(zé)任。聯(lián)邦最高法院則以“先行行為說(shuō)”肯定了生產(chǎn)者的召回義務(wù)，生產(chǎn)者將危險(xiǎn)產(chǎn)品置于流通領(lǐng)域的行為是一個(gè)危險(xiǎn)的先行行為，因此X公司負(fù)有召回已經(jīng)銷(xiāo)售出去的皮革噴霧劑的作為義務(wù)。本文贊成聯(lián)邦最高法院的最終判決意見(jiàn)，認(rèn)為如果生產(chǎn)者已經(jīng)知道或者應(yīng)當(dāng)知道其生產(chǎn)的產(chǎn)品可能因?yàn)槿毕莅l(fā)生致人損害的結(jié)果，應(yīng)當(dāng)采取必要的召回措施以防止損害結(jié)果的進(jìn)一步擴(kuò)大，從而保護(hù)其他社會(huì)民眾免受缺陷產(chǎn)品的再次或者繼續(xù)侵害；如果生產(chǎn)者未履行結(jié)果回避義務(wù)，造成擴(kuò)大的結(jié)果發(fā)生，生產(chǎn)者對(duì)擴(kuò)大的危害結(jié)果至少應(yīng)當(dāng)承擔(dān)過(guò)失責(zé)任。

人工智能產(chǎn)品相較于一般產(chǎn)品顯得更為復(fù)雜與特殊，由于人工智能技術(shù)自身的不成熟與不確定性，人工智能產(chǎn)品的智能系統(tǒng)并不是完全安全、可靠的。人工智能產(chǎn)品的設(shè)計(jì)者、生產(chǎn)者不僅要在生產(chǎn)階段履行保障產(chǎn)品安全的法定義務(wù)，在產(chǎn)品投入流通使用后，更是要對(duì)產(chǎn)品的智能系統(tǒng)進(jìn)行跳躍式的跟蹤觀察，如果一旦發(fā)現(xiàn)產(chǎn)品的智能系統(tǒng)存在異常、故障的情形，應(yīng)當(dāng)立即采取警示、召回等必要的措施，以避免缺陷產(chǎn)品致人死傷結(jié)果的發(fā)生。人工智能產(chǎn)品的生產(chǎn)者在知道(自己發(fā)現(xiàn))或應(yīng)當(dāng)知道(被告知)其生產(chǎn)的人工智能產(chǎn)品可能存在缺陷，仍未履行召回義務(wù)，造成危害結(jié)果的進(jìn)一步擴(kuò)大，對(duì)于擴(kuò)大的結(jié)果生產(chǎn)者至少應(yīng)當(dāng)承擔(dān)過(guò)失致人傷害、過(guò)失致人死亡的刑事責(zé)任。

(2)所有者、使用者的安全管理義務(wù)與過(guò)失責(zé)任

人工智能產(chǎn)品的所有者、使用者應(yīng)當(dāng)嚴(yán)格遵守人工智能產(chǎn)品的安全操作規(guī)范，以保障人工智能產(chǎn)品的安全、有序運(yùn)行。由于人工智能產(chǎn)品的智能系統(tǒng)是有嚴(yán)格的編制程序的，未遵循人工智能產(chǎn)品的安全操作規(guī)范很可能會(huì)導(dǎo)致人工智能產(chǎn)品出現(xiàn)異常的情形，比如在前文所述的案例中，工廠(chǎng)將原本應(yīng)當(dāng)在130區(qū)域工作的機(jī)器人放置在140區(qū)域，并且讓機(jī)器人嘗試在已經(jīng)裝上掛接組件的夾具內(nèi)加載掛接組件，不僅變更了機(jī)器人的安全工作區(qū)域，還變更了機(jī)器人的工作程序和工作任務(wù)，從而導(dǎo)致機(jī)器人突發(fā)異常，將保持機(jī)器人正常工作的工人錯(cuò)誤操作致其死亡。因此，人工智能產(chǎn)品的所有者、使用者應(yīng)當(dāng)特別注意遵循人工智能產(chǎn)品的安全操作規(guī)范，如因違反安全管理義務(wù)而發(fā)生嚴(yán)重的危害后果應(yīng)當(dāng)由所有者、使用者或者管理者承擔(dān)相應(yīng)的過(guò)失責(zé)任。

五、余 論

人工智能所帶來(lái)的新問(wèn)題并不高深，我們對(duì)待這些新問(wèn)題也不必心生畏懼，不敢觸碰。面對(duì)這一新技術(shù)對(duì)于傳統(tǒng)刑法所提出的種種挑戰(zhàn)，我們首要需要考慮的是人工智能與傳統(tǒng)刑法如何對(duì)接的問(wèn)題。在過(guò)去的30年里，我們?cè)谟龅叫虑闆r的時(shí)候，更多地傾向于通過(guò)立法來(lái)解決問(wèn)題，典型的在應(yīng)對(duì)網(wǎng)絡(luò)犯罪、恐怖主義的問(wèn)題上，通過(guò)大量增設(shè)新的罪名將預(yù)備行為正犯化、幫助行為正犯化，或者是擴(kuò)大犯罪構(gòu)成要件，降低犯罪門(mén)檻；再比如通過(guò)立法對(duì)生物醫(yī)療、基因科學(xué)等新技術(shù)、新情況予以規(guī)制。應(yīng)當(dāng)說(shuō)，我們的立法還是非常積極主動(dòng)的。但是，對(duì)于人工智能、自動(dòng)系統(tǒng)等帶來(lái)的新問(wèn)題，本文認(rèn)為可以通過(guò)舊的刑法教義學(xué)得以解決的，就不必要再通過(guò)增設(shè)新的罪名或者刑罰來(lái)應(yīng)對(duì)人工智能產(chǎn)生的新挑戰(zhàn)和安全威脅。任何問(wèn)題的討論都必須基于特定的時(shí)代背景，既不能太保守落后，也不必過(guò)于超前，牢牢把握當(dāng)下我們所處于并將長(zhǎng)期處于的弱人工智能的發(fā)展階段，才能打開(kāi)人工智能刑法的理性視域。