宋友艷

摘 要：隨著科學(xué)技術(shù)的迅猛發(fā)展和全球化的持續(xù)推進，人類社會發(fā)生了廣泛而深刻的變化，人工智能潛在的風(fēng)險是當(dāng)代風(fēng)險社會中新型風(fēng)險的重要表現(xiàn)形式。因此，刑法將面臨現(xiàn)實挑戰(zhàn)：犯罪危害性難以預(yù)測;可能產(chǎn)生新的犯罪形式;刑罰理念亟須轉(zhuǎn)變。我國刑法應(yīng)該重視潛在預(yù)防與風(fēng)險防控：增設(shè)新罪，嚴密法網(wǎng);確立智能機器人的刑事責(zé)任主體地位;完善刑罰體系。做到未雨綢繆，深度研究探索人工智能時代犯罪的刑法規(guī)制路徑。

關(guān)鍵詞：人工智能風(fēng)險;風(fēng)險社會;刑法應(yīng)對

中圖分類號：D924.3 ? ? ? ?文獻標(biāo)志碼：A ? ? ?文章編號：1673-291X（2020）22-0151-02

人工智能的迅猛發(fā)展是科技高度發(fā)達的必然結(jié)果，也為當(dāng)今社會提供了新的風(fēng)險誘因。人工智能潛在的風(fēng)險具有人為性和不確定性，特別人工智能的失控行為對于人類社會安全存在巨大的威脅。人工智能的發(fā)展會對我們的刑事司法，尤其是刑事責(zé)任認定、刑罰的適用和執(zhí)行等方面產(chǎn)生影響，需要制定現(xiàn)實性和前瞻性兼具的刑事治理對策，特別是相關(guān)刑法規(guī)范的規(guī)制。所以說，刑法對人工智能風(fēng)險的應(yīng)對具有必要性。筆者從風(fēng)險社會理論視角出發(fā)，通過剖析人工智能犯罪追究刑事責(zé)任的困境，試圖探究刑法應(yīng)對人工智能挑戰(zhàn)人類生存安全問題的路徑。

一、風(fēng)險社會的新課題：人工智能

20世紀(jì)80年代以來，隨著科學(xué)技術(shù)的迅猛發(fā)展和全球化的持續(xù)推進，人類社會發(fā)生了廣泛而深刻的變化，出現(xiàn)了一系列前所未有的令人惶恐不安的風(fēng)險景象，如恐怖主義犯罪、環(huán)境污染犯罪等。德國社會學(xué)家烏爾里希·貝克1986年發(fā)表其奠基之作《風(fēng)險社會》，首次提出風(fēng)險社會的概念，描述充滿人為的、不確定性風(fēng)險的后工業(yè)社會，揭示風(fēng)險的本質(zhì)。2004年我國學(xué)者引入“風(fēng)險社會”理論，進而衍生出我國刑法學(xué)界當(dāng)前比較普遍關(guān)注和廣泛研究的“風(fēng)險刑法”理論。依據(jù)貝克提出的風(fēng)險社會理論，人工智能所隱含的風(fēng)險其實是風(fēng)險社會中新型風(fēng)險的重要表現(xiàn)形式，可以適用刑法對風(fēng)險社會風(fēng)險的應(yīng)對策略，當(dāng)然其應(yīng)對策略也會有其自身的特殊性。

人工智能是人類社會最重要的科學(xué)進步，21世紀(jì)人工智能迎來新的發(fā)展高潮，在移動互聯(lián)網(wǎng)、大數(shù)據(jù)、超級計算和腦科學(xué)等高新科技的驅(qū)動下，人工智能已經(jīng)實實在在地進入了落地實踐階段。世界上第一個仿生人“雷克斯”在英國誕生;Waymo One——全球第一臺無人駕駛出租車正式商用;IBM研發(fā)的機器人醫(yī)生沃森10秒為患者確診并開出處方。人工智能已經(jīng)逐步進入我們生活的各個方面中。盡管人類社會對具備超人類邏輯演算能力的人工智能，是否可以認作具備“人”的屬性還存在很大爭議，2017年10月26日，沙特阿拉伯在“未來投資峰會”上授予Hanson Robotics公司研發(fā)的人形機器人“索菲婭”合法公民身份，這標(biāo)志著人工智能已經(jīng)獲得首個公民的主體身份。

一般認為，根據(jù)智能水平的高低，人工智能的發(fā)展有三個階段：第一階段弱人工智能階段，該階段的人工智能擅長單一領(lǐng)域的技術(shù)和操作;第二階段強人工智能階段，人工智能將會在各個方面與人一樣，特別是具有了獨立解決問題的能力;第三階段超人工智能階段，是指人工智能在認知通識、科學(xué)創(chuàng)造力和社交技能幾乎所有領(lǐng)域都超越人類大腦，即可以代替人類成為地球上的主導(dǎo)生命形式[1]。通行觀點認為，我們尚處于弱人工智能時代。目前我國刑法理論界對于人工智能刑事責(zé)任問題的研究眾說紛紜，沒有達成共識，如何應(yīng)對人工智能帶來的刑事責(zé)任認定，如何認定智能機器人與相關(guān)人類主體之間的刑事責(zé)任歸屬與承擔(dān)，都是最具爭議性的話題，同時也是亟待應(yīng)對的法律難題。

二、刑法面臨的現(xiàn)實挑戰(zhàn)

與人工智能的迅速發(fā)展相應(yīng)的是人工智能給社會帶來的犯罪風(fēng)險，對各國刑事法治發(fā)展提出了現(xiàn)實挑戰(zhàn)。

1.犯罪危害性難以預(yù)測。首先，一些傳統(tǒng)類型的犯罪數(shù)量會逐漸減少，如機器人伴侶的出現(xiàn)，會使人類社會中性犯罪的比例降低;智能機器人在老齡家庭和教育、看護等機構(gòu)的推廣使用，會降低虐待類犯罪的比例。但是，人工智能技術(shù)可以使產(chǎn)品全面智能化，也一樣會使犯罪工具和犯罪手段智能化，相應(yīng)的，犯罪行為造成的社會危害也會越來越大。不法分子利用人工智能技術(shù)全面實現(xiàn)犯罪計劃，一旦犯罪結(jié)果發(fā)生，很難得到修復(fù)。例如，人工智能一旦介入高流通、高風(fēng)險的金融領(lǐng)域，會導(dǎo)致隨時可能出現(xiàn)的雪崩似的災(zāi)難性后果[2]。如果人工智能的發(fā)展進入強人工智能、超人工智能時代，其犯罪危害性更大，甚至對整個人類社會產(chǎn)生威脅。

2.可能產(chǎn)生新的犯罪形式。人工智能開發(fā)的前提是建立龐大的數(shù)據(jù)庫，但數(shù)據(jù)的大量集中本身就是一種風(fēng)險，無論是對個人隱私還是國家安全。一旦不法分子攻擊數(shù)據(jù)庫，可以快速獲取機密數(shù)據(jù)，并借助數(shù)據(jù)實施人類現(xiàn)在難以預(yù)測的犯罪活動[3]。例如2017年9月，浙江紹興警方破獲的全國首例利用人工智能技術(shù)盜竊公民個人信息的案件，徹底摧毀43個犯罪團伙，抓獲犯罪嫌疑人193人，成功截留被盜的公民個人信息10億余組，繳獲贓款600余萬元。由于現(xiàn)階段人工智能犯罪還僅僅是行為人將人工智能視為作案手段和工具，尚未涉及智能機器人自主犯罪的情形，但是強人工智能超人工智能時代離我們并不遙遠，法律應(yīng)未雨綢繆，否則當(dāng)其真正來臨時人類或措手不及。

3.刑罰理念亟須轉(zhuǎn)變。人工智能帶來的影響還會改變相關(guān)犯罪的立法原意，使一些犯罪的構(gòu)成要件發(fā)生變化，并進而影響到刑罰的適用，例如交通肇事罪。在美國，智能汽車被劃分為五個等級，其中五級對應(yīng)的完全自動駕駛汽車就是無人駕駛汽車。完全自動駕駛汽車通過計算機智能車載傳感系統(tǒng)，感知道路環(huán)境，自主規(guī)劃行車路線，并到達預(yù)定目標(biāo)。由于各種不確定因素，無人駕駛汽車難免會發(fā)生交通事故，甚至在客觀方面產(chǎn)生交通肇事罪的后果。現(xiàn)行刑法所規(guī)定的犯罪主體僅限于自然人和單位，對人工智能機器人實施的違法行為，現(xiàn)行刑法中由于犯罪主體不適格，而不能對其規(guī)制。而且，未來通過修改刑法將智能機器人作為犯罪主體存在，刑事處罰也存在問題。由于智能機器人不同于自然人和單位，生命刑、自由刑和財產(chǎn)刑無法適用于智能機器人，現(xiàn)行刑法的刑罰種類設(shè)置在人工智能的環(huán)境下存在缺陷。

三、人工智能風(fēng)險的刑法應(yīng)對

為了防止未來出現(xiàn)人工智能脫離控制的風(fēng)險發(fā)生，我國刑法應(yīng)該重視潛在預(yù)防與風(fēng)險防控。

1.增設(shè)新罪，嚴密刑事法網(wǎng)。在人工智能產(chǎn)品的制造過程中，必須將人類社會中的法律，以及道德等規(guī)范和價值植入產(chǎn)品的系統(tǒng)中，并履行數(shù)據(jù)保護義務(wù)?；谶@一義務(wù)的存在，有必要增設(shè)新的罪名。首先，增設(shè)濫用人工智能罪。濫用人工智能的行為可能將人類置于十分危險的境地。刑法是最后一道屏障，立法者應(yīng)當(dāng)謹慎劃定犯罪權(quán)。人工智能的行為入刑，人工智能研發(fā)或使用過程必然變得更加謹慎，相應(yīng)的監(jiān)管過程也必然更加嚴密，人工智能的安全與風(fēng)險問題也會相對緩解。其次，增設(shè)人工智能事故罪。人工智能產(chǎn)品的生產(chǎn)者因為其特殊地位，對人工智能的產(chǎn)品的安全負有特殊義務(wù)，如果因為沒有履行這些義務(wù)，即使不存在主觀故意，但是人工智能產(chǎn)品造成了嚴重的危害結(jié)果，其生產(chǎn)者仍然負有一定的過失責(zé)任的。

2.確立智能機器人的刑事責(zé)任主體地位。當(dāng)下，人工智能產(chǎn)品致人損害構(gòu)成犯罪可以分為以下幾種情形：一是自然人故意利用人工智能產(chǎn)品實施犯罪行為;二是人工智能產(chǎn)品使用者過失操作和管理導(dǎo)致人工智能產(chǎn)品致人損害構(gòu)成犯罪的;三是人工智能產(chǎn)品質(zhì)量或者缺陷問題致人損害，構(gòu)成犯罪的。對于第一種和第二種情形，人工智能產(chǎn)品致人損害行為應(yīng)當(dāng)視為其背后相關(guān)自然人責(zé)任主體行為的組成部分，結(jié)合其背后相關(guān)自然人責(zé)任主體的主觀罪過予以分別處理。對于第三種情形的定罪歸責(zé)問題，事實上屬于產(chǎn)品質(zhì)量責(zé)任問題。對于產(chǎn)品質(zhì)量不合格引發(fā)的刑事責(zé)任問題，應(yīng)根據(jù)生產(chǎn)者和銷售者的主觀罪過予以分別認定。未來，隨著人工智能的高速發(fā)展，只要其通過深度學(xué)習(xí)產(chǎn)生了自主意識，并在自主意識的支配下脫離人類的控制，便有可能實施算法和設(shè)計之外的嚴重危害社會的犯罪行為。此時，智能機器人實現(xiàn)的是自己意志的行為，完全可能成為法律意義上的行為。

3.完善刑罰體系。我國刑法規(guī)定了四種刑罰種類：財產(chǎn)刑、資格刑、自由性和生命刑?，F(xiàn)有刑罰種類無法適用人工智能機器人的理由歸納為：第一，智能機器人不享有財產(chǎn)權(quán)，適用罰金、沒收財產(chǎn)于法無據(jù);第二，智能機器人不享有政治權(quán)利和自由，其適用剝奪政治權(quán)利毫無意義;第三，智能機器人不享有人身自由權(quán)，無法適用管制、拘役、有期徒刑和無期徒刑等自由刑。根據(jù)智能機器人的特點構(gòu)建。機器人犯罪的刑罰體系，包括三種刑罰措施：一是刪除數(shù)據(jù)，就是將智能機器人實施犯罪行為所依賴的數(shù)據(jù)信息刪除，使其恢復(fù)到實施犯罪行為之前的狀態(tài)，也就是相當(dāng)于抹去智能機器人的犯罪記憶;二是修改程序，就是刪除數(shù)據(jù)這一手段已經(jīng)無法阻止機器人主動獲取數(shù)據(jù)，并實施違法，因而將其獲取外界數(shù)據(jù)深度學(xué)習(xí)的能力，限制在程序所設(shè)定的范圍內(nèi);三是永久銷毀，就是在刪除數(shù)據(jù)修改程序仍無法降低實施了犯罪行為的智能機器人的人身危險性時，只能將其永遠銷毀。必須承認，以上人工智能犯罪的刑罰體系是對智能機器人刑法適用的有益探索[4]。

總之，面對人工智能技術(shù)的發(fā)展帶來的風(fēng)險，刑法學(xué)界既不應(yīng)過度反應(yīng)，將人工智能技術(shù)視為洪水猛獸，禁止或阻礙其發(fā)展，也不應(yīng)對人工智能可能給人類社會帶來的危害漠然置之，我們應(yīng)該做到未雨綢繆，深入研究，努力探索當(dāng)代人工智能犯罪的刑法規(guī)制路徑，防控人工智能時代的社會風(fēng)險，對社會秩序的穩(wěn)定尋求刑事對策，保證人工智能技術(shù)為社會帶來正面的價值。

參考文獻：

[1] ?劉憲權(quán)，胡荷佳.論人工智能時代智能機器人的刑事責(zé)任能力[J].法學(xué)，2018，（1）.

[2] ?周玲敏.關(guān)于人工智能及其法律問題的思考[J].法制博覽，2016，（17）.

[3] ?吳允鋒.人工智能時代侵財犯罪刑法適用的困境與出路[J].法學(xué)，2018，（5）.

[4] ?葉良芳，馬路瑤.風(fēng)險社會視閾下人工智能犯罪的刑法應(yīng)對[J].浙江學(xué)刊，2018，（6）.