王嬌嬌 胡思寧

一、人工智能時代的刑事風險

人工智能是利用數字計算機或者數字計算機控制的機器模擬、延伸和擴展人的智能，感知環(huán)境、獲取知識并使用知識獲得最佳結果的理論、方法、技術及其應用系統(tǒng)[1]。

科技的發(fā)展進步促進時代的變遷，人工智能技術的發(fā)展開啟了人工智能時代的大門，對于解放勞動力、推進經濟飛速發(fā)展具有重要意義。但是，技術具有兩面性，人工智能技術在推動社會發(fā)展進步的同時對法律和倫理等方面產生了新的威脅。

第一，利用人工智能技術實施傳統(tǒng)犯罪會使得傳統(tǒng)犯罪的社會危害性成倍增加。在傳統(tǒng)的犯罪模式中，由于犯罪主體依靠主要個人或者幾個人的力量，因而其所造成的社會危害的范圍和強度是有限的。人工智能技術的發(fā)展極大地解放了人們的雙手，提高了處理事務的效率，如果將其合理地應用于生產生活，將會給社會帶來前所未有的便捷和舒適感。反之，如果人工智能技術被犯罪分子不法利用，那么它給社會帶來的危害將會成倍增加，造成更加嚴重和不可控的后果。

第二，人工智能的具體應用過程將有可能面臨侵犯公民個人信息和隱私權的風險。人工智能技術的產生發(fā)展主要依靠智能算法對海量數據的分析與計算。因此，在收集分析數據的過程中，很有可能侵犯公民個人信息及隱私權。

第三，不法利用人工智能進行犯罪活動，很可能會催生新的犯罪形式。

人工智能時代的變革影響社會生活的方方面面，提供給社會便利的同時也沖擊了法律和社會倫理。我們在鼓勵和發(fā)展人工智能技術的同時，對人工智能技術帶來的風險也要予以高度重視。在刑法方面，無論是人工智能造成的哪一種刑事風險，損害了刑法所保護的法益就會涉及刑事責任的認定和分配問題，這也使得人工智能技術成為近年來理論界熱烈討論的話題之一。

二、相關學說介紹

目前，對于能否賦予人工智能產品刑事主體資格，應否讓其承擔刑事責任的問題，各學者看法不一，主要形成了三種觀點。

(1)有學者認為智能機器人不存在自我意識和感知力，在實施社會危害行為時，人工智能產品只是產品研發(fā)者和使用者的犯罪工具，是他們智力和體力的延伸，因而不是刑事責任主體，不能承擔刑事責任。

(2)有學者根據人工智能產品自我意識的強弱對人工智能產品的刑法規(guī)制進行了具體的分析和判斷：“在程序設計和編制范圍內智能機器人實施犯罪行為是按照人類的意識和意志，應當將智能機器人看作人類實施犯罪行為的‘工具’，而發(fā)展到一定階段的智能機器人可能超越程序的設計和編制范圍，按照自主的意識和意志實施犯罪行為，因而完全可能成為行為主體而承擔刑事責任?！盵2]

(3)有的學者將人工智能產品分為專用人工智能、通用人工智能和超級人工智能[3]，并根據人工智能產品的分類對人工智能產品的刑法規(guī)制進行了具體的分析判斷，但與第二種觀點不同的是，該種觀點認為：“就當前的技術水平而言，通用人工智能仍是一種較為遙遠的設想，在法律上賦予其刑事主體的資格將會面臨價值觀念、具體認定等方面的較大困難，刑法對此應持謹慎、理性的態(tài)度?！盵4]

不同于第一種學說“一刀切”的觀點，第二種學說和第三種學說都是根據人工智能的分類作的具體判斷。第二種觀點認為發(fā)展到一定階段的智能機器人擁有按照自主意識實施犯罪的能力而讓其成為行為主體并承擔刑事責任，而第三種觀點則認為，就當前通用人工智能技術發(fā)展水平而言，在是否賦予通用人工智能刑事主體資格并讓其承擔刑事責任的問題上應持理性、謹慎的態(tài)度。

三、對人工智能的刑法規(guī)制

(一)學說的分析與評價

第一種學說很理性地對人和人工智能產品作了本質區(qū)分，但卻難以做到具體問題具體分析。對于社會向前發(fā)展進步產生的新的復雜的問題，有僵化和保守主義傾向，不利于理論和實務的發(fā)展。第二種學說做到了具體問題具體分析，但太過超前，雖然通過新穎的方式從理論上架構了一種解決方法，但卻忽視了社會實際問題，不僅很難為社會倫理觀念所接受，而且在具體應用過程中也會產生一系列問題。

因此，筆者認同第三種學說，在對人工智能產品實施的社會危害行為進行刑法評價時，我們應該持謹慎理性的態(tài)度，不能貿然賦予人工智能產品刑事主體資格并讓其承擔刑事責任。我們不得不考慮賦予人工智能刑事主體資格在刑事責任的具體認定過程中將面臨很多難以解決的現實問題。

首先，如果認為發(fā)展到一定階段的智能機器人擁有按照自主意識實施犯罪的能力而讓其成為行為主體并承擔刑事責任，那么在司法實踐中該如何具體判斷人工智能在實施社會危害行為的過程中是否超越程序的設計和編程范圍？其次，賦予人工智能行為主體的資格并讓其承擔刑事責任就間接地承認了人工智能追求自在價值的自由意志，但現實的技術發(fā)展情況是，無論通用人工智能有多智能，它還是來源于人類的設計和編程程序，最終也難以完全擺脫人類的控制。那么，通用人工智能承擔刑事責任以后，它的研發(fā)者和設計者是否還有法律責任？他們的法律責任該如何評價？再次，賦予人工智能產品刑事主體資格并讓其承擔刑事責任這種將人工智能產品“類人”的處理方法是否符合社會民眾的期待，是否能為社會倫理所接受？最后，進行刑事處罰的最終目的在于防止犯罪行為再次發(fā)生，而事實上，人工智能依據設計和編程而產生并不具有道德倫理和情感，對其進行處罰之后它仍然會按照之前的行為模式運行，即使我們將它銷毀也還是會有下一個人工智能出現，這樣的刑事處罰對于預防犯罪是否還有意義？

(二)規(guī)制方法

雖然法律應對于社會上出現的新問題新現象予以及時回應，但是刑法作為最后一道防線應當保證其謙抑性，不應一到社會的變革創(chuàng)新就急于打破現有的法律框架。我們應秉持謹慎、理性的研究態(tài)度，在現有的刑法體系之內積極尋找解決的辦法。人工智能技術滲透社會生活的方方面面，當前正處于蓬勃發(fā)展的階段，且發(fā)展前景廣闊。但是，不得不承認的是，人工智能技術不斷發(fā)展創(chuàng)新的過程也是艱難的。就目前而言，作為一項新興技術，人工智能技術的發(fā)展程度尚不足以打破現有刑法體系。因此，我們可以在原有刑法體系的基礎上對人工智能的刑事風險進行防控。

第一，對人工智能從源頭治理進行全方位防控[5]。人工智能技術的發(fā)展給社會生活的方方面面帶來了日新月異的變化。法律作為上層建筑，應當對人工智能技術的發(fā)展進行有效的監(jiān)管，促進人工智能技術合理使用，保障人工智能技術健康發(fā)展。為此，要堅持從源頭治理，出臺相關法律和法規(guī)，確保人工智能技術發(fā)展和使用的各個環(huán)節(jié)都處于法律的有效監(jiān)管之下，規(guī)范人工智能技術研發(fā)和生產的各個環(huán)節(jié)，堅決懲處不法利用人工智能技術實施的危害社會的行為。

第二，設置人工智能命令禁區(qū)[6]。雖然人工智能技術目前處于不斷發(fā)展進步的階段，但是作為一種新興技術，其發(fā)展還是不夠成熟。這就需要法律對可能危及社會、國家乃至人類安全的智能技術予以禁止，從而保證人工智能技術健康有序發(fā)展，使其更好地造福于人類。

第三，完善或出臺相關司法解釋。雖然人工智能技術的發(fā)展尚不足以打破現有的法律體系，但是人工智能技術的發(fā)展壯大還是使得有人工智能參與的犯罪活動相較于傳統(tǒng)犯罪而言擁有了一定的特殊性，進而使得在司法實踐過程中出現了一系列難以認定的復雜問題。這就需要完善或者出臺相關的司法解釋予以釋明，從而更好地指導司法實務活動。

第四，建立更為嚴格的人工智能技術準入制度[7]。技術具有兩面性：一方面，人工智能技術的應用給社會帶來的影響是廣泛而深刻的；另一方面，人工智能技術的不合理使用甚至是不法使用對社會帶來的危害也是毀滅性的。這樣一種關乎人類福祉的高新技術有必要對其設立嚴格的技術準入制度，進行更加全面有力的監(jiān)管，不僅要嚴格限制人工智能技術的研究使用人員，而且對于人工智能技術的準入門檻和適用范圍也要進行嚴格的把控。

第五，鼓勵建立人工智能行業(yè)自律體系。人工智能技術的蓬勃發(fā)展吸引越來越多的人從事人工智能技術的研發(fā)與推廣，鼓勵建立人工智能行業(yè)自律體系以促進人工智能技術健康發(fā)展。此外，在發(fā)展人工智能的同時，要實現人工智能風險防范技術同步發(fā)展，使得人工智能技術的發(fā)展應用處在可控的范圍。