徐鳳珍 重慶大學法學院

隨著現(xiàn)代科技的日新月異，傳統(tǒng)犯罪逐漸向虛擬網絡空間發(fā)展。犯罪分子通過互聯(lián)網這一媒介，利用網站漏洞，釀成了許多電信詐騙悲劇。通過互聯(lián)網傳播淫穢物品以此牟利，深圳快播案便是典型例證。人工智能時代的到來，使人工智能犯罪這一新型犯罪現(xiàn)象隨之出現(xiàn)。既然面對互聯(lián)網技術的高速發(fā)展，對計算機犯罪做出了法律規(guī)制，增設了破壞計算機信息系統(tǒng)罪、非法侵入計算機系統(tǒng)罪等網絡犯罪罪名。那么，面對人工智能技術的飛速發(fā)展，做出預判性立法和創(chuàng)新型法律思考也是題中應有之義。

一、人工智能的概述

人工智能簡稱AI（Artificial Intellige nce），概念的首次提出是由麥卡錫和明斯基于1956年美國的達特茅斯會議。人工智能就是模仿人類學習以及其他方面類人智能的一門科學技術。人工智能的應用逐漸普及于醫(yī)療、教育、軍事和娛樂等社會的方方面面。人工智能的發(fā)展，按照智能化的程度分成三個階段：弱人工智能（AlphaGo類智能體，擅長單一領域內的技術和操作），強人工智能（具有類人智慧）以及超強人工智能階段（超越人類智慧，具有自主意識）。

人工智能技術控制下的人工智能體給人類生活帶來便捷和舒適，代替人類從事簡單重復累贅的工作，為人類提供解決環(huán)境污染、氣候變暖等問題的方案，攻克人類難以根治的疑難雜癥。但是，我們也不能忽略人工智能體給社會治理、倫理道德、傳統(tǒng)法律帶來的風險。 在“人工智能可能毀掉人類”之類的論斷拋出之后，人工智能威脅論也愈演愈烈。全球首例無人駕駛汽車致人死亡的交通事故發(fā)生于2018年3月19日的美國亞利桑那州，處于自動駕駛狀態(tài)的Uber無人駕駛汽車撞擊一名女子，致其不幸死亡。央視曾在2016年9月曝光了國內首起特斯拉疑因“自動駕駛”致死事故[1]。事故發(fā)生于2016年1月20日，一位23歲的年輕男性乘坐的特斯拉自動駕駛汽車，于京港澳高速河北邯鄲路段時撞上了前方的路道清掃車，年輕男性不幸身亡，特斯拉轎車嚴重損壞。世界上第一宗機器人殺人事件發(fā)生在1978年的日本。據(jù)相關資料顯示，日本廣島一家工廠在生產作業(yè)時，由于切割機器人突然發(fā)生異常，切割鋼板的機器人誤將一名值班工人當作鋼板進行程序操作，最后導致該名工人死亡。重慶大學圖書館引入了自助借還書機，其在一定意義上也屬于人工智能。自助借還書機器的引入使得圖書館逸夫樓人工借還書的職位得以裁剪，以小見大可知人工智能的廣泛運用勢必會導致大量中低端行業(yè)的人員失業(yè)。法律具有天然的滯后性，立法理論和司法實踐總是落后于科學技術的發(fā)展?，F(xiàn)行刑法沒有將人工智能體納入應當承擔刑事責任的主體范圍內，不能完全有效規(guī)制人工智能犯罪，因此對于人工智能引發(fā)的責任事故該如何進行責任分配成為一個新的難題。無人駕駛汽車致人死亡追究測試員的責任未免太過苛刻，讓汽車制造商承擔相關民，刑事責任又會阻礙科學技術的創(chuàng)新發(fā)展；罪刑法定原則下的現(xiàn)行刑法也不能將人工智能實體作為犯罪主體加以追責。法律為了保持其活力和前瞻性，對于人工智能給傳統(tǒng)刑法理論、刑法立法路徑提出的新挑戰(zhàn)應予以積極回應。

二、人工智能犯罪的刑法規(guī)制所面臨的困境

（一）主體地位不明確

弱人工智能階段的人工智能引發(fā)的侵害社會法益問題尚能通過《產品責任法》來進行一定的規(guī)制，但是隨著科學技術的快速發(fā)展，人工智能實體逐漸擁有自主意識，人工智能實體成為“犯罪嫌疑人”不是不可能的。要通過刑法有效規(guī)制人工智能體，人工智能體的主體難題是其刑法命題的根本所在[2]。傳統(tǒng)刑法理論將犯罪構成分為四要件：犯罪主體、犯罪主觀方面、犯罪客體、犯罪客觀方面。刑法將犯罪主體定義為實施危害社會行為，依法應當負刑事責任的自然人和單位。人工智能實體非自然人也非單位，當人工智能實體成為犯罪工具時，正如前述所舉例的全國首例利用人工智能進行犯罪，刑法完全可以對此犯罪行為進行有效規(guī)制。人工智能實體只是其進行犯罪的工具，只需對犯罪相關人進行歸責。當人工智能實體不再是人類的犯罪工具，其真正地成為形式意義上的“法律主體”。換言之，在超強人工智能階段出現(xiàn)風險時，刑事責任主體的認定和歸責不再像傳統(tǒng)責任認定那樣簡單。人工智能產品通過深度學習、自主學習擁有了一定的自主意識，實施了危害社會的危險行為時又該如何運用現(xiàn)行的法律法規(guī)進行規(guī)制，這又將涉及人工智能體是否應該成為刑法中的法律主體焦點問題。刑法對人工智能實體犯罪方面的立法回應不僅是體現(xiàn)出對社會法益的法律保護，也影響著人工智能科學這一技術的健康發(fā)展。一方面如果學界和立法專家將人工智能實體可能考量為法律主體作為一個偽命題而概括性地忽視，未來出現(xiàn)的可能不再是人類是否需要對人工智能體納入刑事責任主體的范圍，而是擁有自主意識的人工智能體開始駕馭人類并給人類設置一套精妙絕倫、毫無翻身余地的機器人法律。人類屆時的存在目的是服務人工智能實體甚至是可有可無的存在。但是另一方面如果不顧社會公眾的接受程度、社會發(fā)展進程、科學技術發(fā)展程度盲目草率將其納入法律主體又有點矯枉過正，浪費立法資源、破壞法律的穩(wěn)定性。保守的公眾會質疑人工智能實體的自主意識，認為科學技術的發(fā)展還沒有到達所謂的超強人工智能階段，純粹浪費立法所需的一切人力、物力、財力，不利于人工智能技術的向前發(fā)展，不符合我國創(chuàng)新發(fā)展戰(zhàn)略目標，也不是發(fā)展科技強國的應有之義。刑法應對人工智能體的犯罪的矛盾越是強烈，其所處的困境越是突顯。

（二）刑罰處置不科學

刑法應對人工智能犯罪表現(xiàn)出兩類處置難題。一方面，如若將人工智能與單位等量齊觀納入傳統(tǒng)刑法理論中的犯罪主體范圍之中，隨之而來面對的將是如何對該主體進行刑罰處置這一新的難題。人工智能實體不同于自然人擁有生命、自由、財產和資格等權利，生命刑（如死刑）、自由刑（有期徒刑，無期徒刑）、資格刑（剝奪選民資格，職業(yè)禁止）等不能生搬硬套用于機器人承擔刑事責任的方式；同時，人工智能實體也不同于單位。對單位犯罪有三種處罰方式：單罰制，雙罰制，代罰制。依照我國現(xiàn)行刑法規(guī)定對單位犯罪以雙罰制（對單位和單位直接人員處以刑法）為主，以單罰制（只處罰單位直接責任人員）為輔。而人工智能體的刑事責任承擔方式也應該具有其天然的特殊性，以區(qū)別于單位犯罪的懲罰方式。費爾巴哈的心理強制說認為人是具有趨利避害性的認知。為了防止犯罪，必須抑制行為人感性的沖動，科處作為犯罪的刑罰，讓人類預知犯罪的風險高于可獲利益，這樣達到抑制其心理上萌生犯罪的意念[3]。費爾巴哈的理論觀點同樣可以類推適用于人工智能實體。如果參照單位進行刑法歸責適用無限額判處罰金的規(guī)定，意義不明顯且不能達到刑法的目的，這是由人工智能實體不具有單位的經濟性、功利性、公共性等特點所決定的。從另一個角度樂觀地看待人工智能的發(fā)展，保守地認為人工智能體絕不會通過深度學習從而擁有自主意識，不能像自然人一樣具備意思能力和行為能力，也不具有類人智能甚至是超越人類智能的可能性。無需考慮將其擬制為法律主體，只需將其作為人類使用的客體和工具，對人工智能實體引發(fā)的犯罪適用于產品責任法，對人工智能實體的擁有者、制造者、銷售商進行歸責。但是深入思考也會發(fā)現(xiàn)其中的課罪難題，試想如果是人工智能實體自身的程序錯誤嚴重侵犯了公眾的生命權益和其他社會重大法益該如何進行歸責。對機器人的持有者進行歸責不符合傳統(tǒng)犯罪構成理論的主觀方面，讓制造商和銷售商承擔刑事責任未免太牽強，不符合罪責刑相適應原則。

三、關于人工智能犯罪的刑法規(guī)制的建議

（一）推進人工智能體“人格化”

弱人工智能階段的人工智能體大多數(shù)表現(xiàn)為按照設置編入的程序和深度學習進行操作運轉，目前尚在人類可控范圍之內。但科技是不斷向前發(fā)展的，強人工智能階段甚至是超強人工智能階段是可能性的未來。因此將人工智能體法律擬制為刑法上的法律主體，將其“人格化”是有理論實踐意義的。單位犯罪早在17世紀英國的《刑法》中就有所規(guī)定，我國首次提出單位犯罪是在1987年1月22日，1997年《刑法》首次將單位犯罪納入刑事法律主體規(guī)制中。沙特阿拉伯授予人形機器人公民身份，刑法理論探討人工智能實體的“人格化”和歷史不謀而合。基于人工智能體犯罪在法律主體上的限制，可以參考單位犯罪擬制為法律主體。單位犯罪和人工智能體都非自然人，刑法將單位犯罪納入法律主體地位，擬制人工智能實體為法律主體也是合理可推敲的。人工智能實體“人格化”之后，刑事，民事責任分擔問題不再那么棘手。需要強調的是，人工智能體應該獲得限制性主體地位[7]。雖然法律面前人人平等，但是在衡量自然人和人工智能體之間利益時，首先應該保護的是自然人的利益。同樣的事情同等對待，不同的事情要差別對待。對于法律面前人人平等的闡釋也是如此。法律主體資格的限制性需要依據(jù)人工智能體的智能化程度來擬定其相應的刑事責任，和民法意義上自然人民事責任年齡有共通之處[8]。因此對人工智能體的法律主體資格有必要承認與限制。

（二）明確相關責任人的歸責原則

人工智能實體引發(fā)犯罪時，有可能是作為人類的犯罪工具，也有可能是機器故障過失，也有可能基于人工智能實體的自主意識主動實施危害社會的危險行為。如果將其擬制為法律主體，其歸責模式也可以綜合參考適用我國單位犯罪的處罰模式（以雙罰制為主，單罰制為輔）以及國外對單位犯罪的處罰的代罰制制度。當人類故意利用人工智能實體實施違法犯罪時，嚴重侵害社會法益進入刑法規(guī)制范圍則適用雙罰制，即對人工智能實體及其所有者進行刑事處罰；如若人工智能產品出現(xiàn)故障，程序代碼發(fā)生錯誤嚴重危害社會法益時應適用代罰制，即人工智能產品制造商或者銷售商和所有者由于過失或者放縱導致人工智能體一錯再錯，需要代位承擔刑事責任。此外，人工智能實體經過科學技術的高速發(fā)展、深度學習、高度發(fā)達的神經網絡從而擁有了自主意識，為了人工智能實體類群的不法利益危害人類生命安全甚至要建立機器人王國則適用單罰制，即對人工智能實體這一限制法律主體進行嚴格刑法規(guī)制。而對于人工智能實體如何處罰，下面將展開必要的探討。通過明晰的責任歸責，一方面可以達到刑法的預防目的，另一方面可以實現(xiàn)刑法的保護機制，正如德國刑法學家馮·李斯特所指出：刑法既是善良人的大憲章，也是犯罪人的大憲章。嚴格透明的責任追究制度使得獎罰分明，實現(xiàn)公平公正。

（三）促使人工智能體的刑罰處置科學化

鑒于人工智能產品的特殊性，刑罰制度也具有特殊性。適用財產刑可以借鑒歐盟法律律師委員會提出的兩點責任規(guī)制建議中的強制保險和賠償基金。人工智能體應該適用于嚴格的登記制度，保證追責路徑。此外，人工智能實體的所有者也需要進行登記，類似于購買汽車一樣，簽訂合同、強制交付保險。當人工智能體引發(fā)犯罪時，啟動強制保險來減少被害人的損失這類做法一方面可以方便追責，另一方面防止偷稅漏稅，向人工智能實體征稅也是未來會發(fā)生的。賠償基金由社會人士、國家等主體進行創(chuàng)立維護，當強制保險和相關責任人都無法對受害人進行賠償?shù)那闆r下，可以啟動人工智能實體賠償基金，賠償基金也可以用于研發(fā)人工智能技術。在弱人工智能階段和強人工智能階段，對人工智能體財產刑之外的懲罰思考是“降能”：一旦人工智能實體嚴重危及社會法益，重新編寫其程序和算法，改變其原來的智能用途，設置一些無害、簡單的單一用途（重復拖地這一單類簡單操作）。例如美國的機器人醫(yī)生沃森一旦出現(xiàn)大面積重大醫(yī)療事故或者利用醫(yī)生身份進行其他犯罪，則需要改編編程，降低其智能長處，考慮其“降能”為一個人工智能洗碗機等等。這樣既有效達到了資源的可持續(xù)利用，又降低了“人工智能犯罪分子”的社會危害性。