孫浩

關(guān)鍵詞：人工智能;犯罪;原因;對(duì)策

中圖分類號(hào)：DF792.1 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1009 — 2234（2019）09 — 0118 — 03

人工智能技術(shù)的迅速發(fā)展，特別是人臉識(shí)別和語音識(shí)別的廣泛應(yīng)用，將人類社會(huì)推向了人工智能的新時(shí)代。人類社會(huì)的生活和工作方式發(fā)生了翻天覆地的變化，人工智能已經(jīng)成為人類生活和工作中不可或缺的工具。但是，正如埃利澤·尤德考斯基所言：“任何能帶來卓越人類智能的東西（可能采取人工智能、人腦-計(jì)算機(jī)接口和基于神經(jīng)科學(xué)的人類智能提升的形式）都將在改變世界的競賽中處于領(lǐng)先地位。再?zèng)]有什么能與此相提并論。”也正如英國尤因爵士所說的那樣：“工程師的才能被嚴(yán)重濫用，將來可能會(huì)被濫用。就某些人才而言，既有眼前的負(fù)擔(dān)，也有潛在的悲劇。人類在道德上對(duì)如此巨大的禮物毫無準(zhǔn)備。在道德緩慢發(fā)展的過程中，人類還不能適應(yīng)這份禮物帶來的巨大責(zé)任。在人類不知道如何主宰自己的時(shí)候，他們被賦予了主宰自然的權(quán)力”①。目前，對(duì)人工智能技術(shù)的濫用已成為受眾人關(guān)注的社會(huì)現(xiàn)象。

一、人工智能犯罪研究的必要性

2017年，浙江省紹興市警方成功破獲全國首例利用AI（人工智能）犯罪公安部督“2017.01.03”侵犯公民個(gè)人信息案②。首例人工智能犯罪引起了人們對(duì)人工智能安全的普遍關(guān)注。吳漢東教授指出，人工智能時(shí)代存在社會(huì)風(fēng)險(xiǎn)，其社會(huì)風(fēng)險(xiǎn)體現(xiàn)為風(fēng)險(xiǎn)共生、風(fēng)險(xiǎn)時(shí)代和全球風(fēng)險(xiǎn)③。然而，人工智能技術(shù)本身的發(fā)展存在倫理、法律、道德和刑事風(fēng)險(xiǎn)。其中，刑事風(fēng)險(xiǎn)中有三種表現(xiàn)形式：首先，它可能會(huì)導(dǎo)致一些傳統(tǒng)犯罪的危害性發(fā)生“數(shù)量變化”。第二，它可能導(dǎo)致新形式的犯罪。第三，人工智能產(chǎn)品可能由于各種原因而脫離人類控制，然后獨(dú)立進(jìn)行嚴(yán)重危害社會(huì)的犯罪行為④。人工智能犯罪顯然是刑事風(fēng)險(xiǎn)的第二種表現(xiàn)形式，是一種新的犯罪形式，從之前所講到的人工智能犯罪案例來看，人工智能犯罪也具有使部分傳統(tǒng)犯罪的危害性發(fā)生“量變”特點(diǎn)?？傊斯ぶ悄芊缸锏牟豢深A(yù)測性和危害嚴(yán)重性是其主要特征，如果不對(duì)人工智能犯罪加以理論分析，則會(huì)面臨理論與實(shí)踐脫節(jié)等問題，陷入極大的被動(dòng)。因此，對(duì)于人工智能犯罪的相關(guān)研究顯得尤為必要。

二、人工智能犯罪的原因分析

犯罪原因是一個(gè)非常復(fù)雜的系統(tǒng)。對(duì)犯罪原因的研究證明了犯罪規(guī)律，提高了控制犯罪的能力;完善社會(huì)機(jī)制，彌補(bǔ)社會(huì)組織的漏洞;指導(dǎo)國家立法和司法工作等重要意義。人工智能犯罪是指自然人直接或間接利用人工智能技術(shù)對(duì)數(shù)據(jù)安全、計(jì)算機(jī)系統(tǒng)、國家、團(tuán)體和個(gè)人造成危害的行為。是一種新型的犯罪，導(dǎo)致人工智能犯罪的原因可分為以下幾種。

經(jīng)濟(jì)因素。2016年2月，花旗銀行和牛津大學(xué)聯(lián)合發(fā)布了一份情報(bào)報(bào)告《工作中的技術(shù)2.0版》①（《TECHNOLOGY AT WORK v2.0》）。這份報(bào)告研究表明， 隨著智能化發(fā)展機(jī)器人在全球范圍內(nèi)將不同程度替代人類造成失業(yè)。智能化帶來的失業(yè)是一種結(jié)構(gòu)性失業(yè)，不符合高端人才的需求和中低端人才的供應(yīng)。在這樣的背景下，犯罪人數(shù)勢必增加。教育因素。許多學(xué)校將教育的主要精力投放在升學(xué)率上，而升學(xué)率并不能體現(xiàn)學(xué)生的德育教育、法治教育和心理教育等方面，這種教育模式是片面而非全面的。在這種教育模式下培養(yǎng)出的一部分人法律意識(shí)相對(duì)淡薄，容易游走于犯罪邊緣，危害社會(huì)。法律因素。造成人工智能犯罪和犯罪率上長的原因之一，就是法律的不完善，缺乏懲治人工智能犯罪的法律依據(jù)。人工智能犯罪與傳統(tǒng)犯罪有很大不同，無論是犯罪主體或犯罪客體，以及管轄問題乃至訴訟程序等，都體現(xiàn)出它的新特點(diǎn)。然而對(duì)于人工智能犯罪，我國刑法沒有明確規(guī)定，只是規(guī)定了計(jì)算機(jī)犯罪的相關(guān)內(nèi)容②，從刑法規(guī)定中我們不難發(fā)現(xiàn)，我國刑法對(duì)于人工智能犯罪的法律規(guī)范并不健全，法律制度并不完善。而除了刑法規(guī)定外，我國民法、商法、經(jīng)濟(jì)法等法律也未對(duì)人工智能犯罪進(jìn)行明確規(guī)定?？傊?，我國人工智能犯罪的法律空間的薄弱，將會(huì)是我國人工智能犯罪滋生蔓延的關(guān)鍵原因。

三、人工智能犯罪的對(duì)策

我們應(yīng)當(dāng)從技術(shù)角度、社會(huì)角度和法律角度三個(gè)維度研究人工智能犯罪的相應(yīng)對(duì)策。

（一）技術(shù)角度。

首先，從技術(shù)角度考慮人工智能犯罪的預(yù)防問題，應(yīng)采取“師夷長技以制夷”的方法，將人工智能技術(shù)運(yùn)用到犯罪預(yù)防上。人工智能技術(shù)可在監(jiān)控識(shí)別、情報(bào)挖掘、數(shù)據(jù)分析等方面幫助犯罪預(yù)防的實(shí)現(xiàn)。監(jiān)控識(shí)別上，可利用人工智能技術(shù)結(jié)合人臉識(shí)別、人像識(shí)別及語音識(shí)別等優(yōu)勢，與我國“天網(wǎng)”計(jì)劃相配合，并依靠其自身強(qiáng)大的識(shí)別能力、數(shù)據(jù)挖掘和分析、準(zhǔn)確定位等能力，從而實(shí)現(xiàn)虛擬空間中對(duì)于人工智能犯罪乃至其它犯罪的預(yù)防。監(jiān)控對(duì)于犯罪有著震懾和記錄作用，監(jiān)控安防是人工智能完美落地的天然場景，而人工智能將會(huì)推動(dòng)超級(jí)監(jiān)控的實(shí)現(xiàn)。未來人工智能+監(jiān)控將會(huì)通過目標(biāo)的細(xì)微表現(xiàn)來判斷其社會(huì)危害性，從而實(shí)現(xiàn)完美預(yù)防，這有利于阻隔人工智能犯罪與現(xiàn)實(shí)空間的“連接”。人工智能是網(wǎng)絡(luò)安全的福音，人工智能技術(shù)效率的倍增和IP定位能力有利于人工智能犯罪在虛擬空間中也無處遁形;情報(bào)挖掘上，人工智能技術(shù)有利于打破監(jiān)控識(shí)別中存在的數(shù)據(jù)孤島并分散的局面。在傳統(tǒng)的安防體系中，各個(gè)平臺(tái)系統(tǒng)數(shù)據(jù)開放性低，彼此之間共享度低，所以很難開展多維數(shù)據(jù)融合分析。而人工智能技術(shù)的數(shù)據(jù)整合能力可以令追蹤行動(dòng)一追到底，對(duì)于同一個(gè)目標(biāo)人物和目標(biāo)物體，人工智能技術(shù)可以鎖定該目標(biāo)并整合附近監(jiān)控設(shè)備尋找目標(biāo)的行蹤，并及時(shí)通知辦案機(jī)關(guān)，從而令辦案機(jī)關(guān)發(fā)現(xiàn)、預(yù)防、追蹤犯罪，避免犯罪的發(fā)生;數(shù)據(jù)分析上，人工智能技術(shù)的應(yīng)用可以通過分析數(shù)據(jù)得出科學(xué)準(zhǔn)確的結(jié)論和取得隱蔽的證據(jù)。無論是神證、人證、還是科學(xué)物證的時(shí)代，證據(jù)是打擊犯罪、預(yù)防犯罪的重要一環(huán)，往往一個(gè)證據(jù)就能決定一人的生死。證據(jù)中心主義要求人工智能技術(shù)通過數(shù)據(jù)分析找到人工智能犯罪的證據(jù)蹤跡，從而實(shí)現(xiàn)打擊和預(yù)防。

（二）社會(huì)角度

道德、法制和政府行政是社會(huì)宏觀預(yù)防的三種重要力量。道德對(duì)犯罪的預(yù)防表現(xiàn)為道德建設(shè)和道德教育，道德建設(shè)是對(duì)道德倫理體系的構(gòu)建，構(gòu)建一套完整的人工智能倫理體系是人工智能犯罪的重要基礎(chǔ)。道德教育是政治信念和道德倫理思想的灌輸，人工智能犯罪的預(yù)防需要堅(jiān)定的人文政治信念和道德倫理思想做支撐，因?yàn)槿斯ぶ悄芎腿祟惖闹匾獏^(qū)別恰恰在于道德的把握。運(yùn)用道德方式預(yù)防犯罪必須注意道德控制作用的有限性和道德控制的適度性，單憑道德是無法完滿地做到預(yù)防犯罪的，而是需要道德與法治的結(jié)合，而且還需要一定程度的政治力量的介入。道德控制的適度性表現(xiàn)為道德手段必須不能極端，歷史證明，極端緊張的道德控制和極端松懈的道德控制都是對(duì)犯罪不利的。法制對(duì)犯罪的預(yù)防體現(xiàn)為立法、執(zhí)法和法制宣傳上，立法上，法律應(yīng)適應(yīng)時(shí)代的發(fā)展，緊跟時(shí)代潮流，制定出一套完整的人工智能犯罪的法律、法規(guī)。執(zhí)法上，加強(qiáng)人工智能犯罪執(zhí)法隊(duì)伍建設(shè)，如有必要可設(shè)置人工智能執(zhí)法大隊(duì)和人工智能特警。統(tǒng)一執(zhí)法標(biāo)準(zhǔn)，結(jié)合人工智能發(fā)展?fàn)顩r，制定符合現(xiàn)實(shí)需要的執(zhí)法規(guī)定。法制宣傳上，要重視法律的威懾作用，震懾犯罪行為，令人工智能犯罪難以滋生。另外，也需要提高法制信用，監(jiān)督法制的實(shí)現(xiàn)，人人遵守法，不能出現(xiàn)“刑不上大夫”的情形。政府行政上，政府權(quán)力應(yīng)保持高度的權(quán)威性，進(jìn)行廉政建設(shè)，提高犯罪預(yù)防打擊部門的工作水平，保持犯罪預(yù)防打擊部門的強(qiáng)度。其次應(yīng)加強(qiáng)行政立法，建立人工智能負(fù)面清單，保持行政工作的高效率和精準(zhǔn)度。最后應(yīng)當(dāng)加強(qiáng)農(nóng)村鄉(xiāng)鎮(zhèn)和城市街道等的基層政權(quán)建設(shè)，充分發(fā)揮基層政權(quán)在發(fā)現(xiàn)人工智能犯罪和預(yù)防人工智能犯罪等方面的作用。綜上所述，道德、法制和權(quán)力（政府行政）等力量是對(duì)犯罪的預(yù)防和打擊的重要手段，我們應(yīng)依法統(tǒng)籌三種力量對(duì)人工智能犯罪預(yù)防的運(yùn)用，以確保社會(huì)的穩(wěn)定。

社會(huì)控制還要從微觀入手，主要包括環(huán)境設(shè)計(jì)、群體個(gè)人參與和心理預(yù)防三個(gè)方面。環(huán)境設(shè)計(jì)上，要?jiǎng)?chuàng)造不利于人工智能犯罪的實(shí)體空間和虛擬空間。預(yù)防人工智能犯罪的實(shí)體空間應(yīng)通過燈光照明或角落監(jiān)控等方式消除犯罪死角，還可以通過組建公公民眾監(jiān)督中心來實(shí)行社會(huì)監(jiān)督。預(yù)防人工智能犯罪的虛擬空間應(yīng)通過增強(qiáng)網(wǎng)監(jiān)力量或在虛擬網(wǎng)絡(luò)空間增設(shè)“電子眼”追蹤人工智能代碼異常情況來預(yù)防人工智能犯罪;群體個(gè)人參與是群體、個(gè)人對(duì)犯罪預(yù)防的參與，是預(yù)防犯罪國家行動(dòng)的重要補(bǔ)充。社區(qū)參與是社會(huì)控制的重要組成部分，社區(qū)的參與是我國鼓勵(lì)預(yù)防犯罪的重要實(shí)踐，也是我國預(yù)防犯罪的一個(gè)成功做法。群眾自治是群眾組織的有組織的自我管理和自我保護(hù)活動(dòng)，也是我國預(yù)防犯罪的一個(gè)重要實(shí)踐。因此，預(yù)防人工智能犯罪也可通過人工智能群體自治等手段實(shí)現(xiàn)。另外，人工智能技術(shù)人員可以通過自我約束和自我防衛(wèi)等手段與人工智能犯罪行為作斗爭，比如可以研制人工智能犯罪的“疫苗”;心理預(yù)防主要是指對(duì)自然人的相應(yīng)心理預(yù)防、治理行為，因?yàn)榻Y(jié)合目前的人工智能技術(shù)和當(dāng)今社會(huì)發(fā)展的需要，人工智能犯罪是指自然人直接或間接利用人工智能技術(shù)對(duì)數(shù)據(jù)安全、計(jì)算機(jī)系統(tǒng)、國家、團(tuán)體和個(gè)人造成危害的行為。在這里，人工智能犯罪的主體是自然人，只有將人工智能犯罪的主體確定為自然人才有研究的現(xiàn)實(shí)意義。綜上所述，社會(huì)微觀預(yù)防與社會(huì)宏觀預(yù)防的結(jié)合①是預(yù)防人工智能犯罪的重要手段，而對(duì)此兩種方式的完美配合和應(yīng)用則是科學(xué)預(yù)防的不二法門。

（三）法律角度

人工智能犯罪的犯罪人一定是自然人。這里的自然人是指具有生物意義的純正自然人。人的生物性和倫理性體現(xiàn)了人的主體性本質(zhì)，及其對(duì)權(quán)利的要求。生物意義上的人被確認(rèn)成法律意義上的"自然人"，是法律對(duì)人的"主體性"本質(zhì)的尊重，是主體法權(quán)要求的確認(rèn)。從當(dāng)前人工智能技術(shù)的發(fā)展情況來看，機(jī)器人目前還無法取代生物人。純正自然人犯罪是指法律規(guī)定的只有自然人才能構(gòu)成的犯罪。不純正自然人犯罪是指既可以由單位構(gòu)成也可以由自然人構(gòu)成的犯罪。故人工智能犯罪的刑罰對(duì)象仍限于自然人，不用得到較大調(diào)整。唯一需要調(diào)整的是人工智能產(chǎn)品可適用《侵權(quán)責(zé)任法》的相關(guān)規(guī)定，從而規(guī)制人工智能產(chǎn)品造成的侵權(quán)行為。

其次，制訂科技法。遵循科技發(fā)展規(guī)律，制訂嚴(yán)格有效的科技法，是規(guī)制人工智能犯罪的有效手段也是長遠(yuǎn)之策。這套完整的科技法體系需要科學(xué)技術(shù)領(lǐng)域的專業(yè)人才共同參與制定，以謀求科技發(fā)展與人類發(fā)展的動(dòng)態(tài)平衡。在科技法制定出臺(tái)之前，假如人工智能脫離人類控制，成為犯罪主體，且人工智能體依據(jù)智能化程度而具有刑事責(zé)任能力，那么刑罰就應(yīng)當(dāng)做出較大調(diào)整。在這種情況下，對(duì)相應(yīng)犯罪主體的刑罰應(yīng)擴(kuò)大范圍，增加種類。比如對(duì)人工智能體可進(jìn)行數(shù)據(jù)刪除、產(chǎn)品報(bào)銷等方式的處罰。如果人工智能體擁有國家承認(rèn)的政治權(quán)利，那么剝奪政治權(quán)利可成為處罰人工智能體的附加刑。另外，如果超人工智能時(shí)代到來，法律對(duì)于人工智能體束手無策時(shí)，需要及時(shí)跳轉(zhuǎn)思維，設(shè)立人機(jī)共存秩序，以維護(hù)社會(huì)的穩(wěn)定。

〔責(zé)任編輯：張 港〕