摘 要 人工智能在發(fā)展到一定程度時有脫離人類控制的風險。在給社會生活帶來改變的同時，人工智能也給社會治安帶來了新的挑戰(zhàn)。本文認為在人工智能時代真正來臨之前，應當先行規(guī)制人工智能產(chǎn)業(yè)，并根據(jù)不同的人工智能技術(shù)，對技術(shù)研發(fā)者以及技術(shù)運用者提出不同的要求和義務，并以此為基點擬制《人工智能法》，防范人工智能給社會治安等方面可能帶來的風險。

關(guān)鍵詞 人工智能 社會治安 防范 立法

作者簡介：余越洋，華東政法大學刑事司法學院。

中圖分類號：D920.4 文獻標識碼：A DOI：10.19387/j.cnki.1009-0592.2018.04.213

人工智能，即設(shè)備能夠識別所處環(huán)境，采取行動將實現(xiàn)目的的機會最大化的技術(shù)。簡而言之，人工智能就是使得計算機像人一樣思考與工作的科學技術(shù)。21世紀以來，世界掀起了人工智能研究與應用的浪潮，智能機器人已經(jīng)能夠通過自主學習、分析部分接收到的信息，進一步完成設(shè)計者交與的任務，如智能語音識別，設(shè)備在接收過音頻信息后，再次接收音頻信息便可以進行識別，以分辨聲音的歸屬，類似的運用還有電子郵件過濾系統(tǒng)、人臉識別系統(tǒng)等。

現(xiàn)如今，人工智能技術(shù)在某些領(lǐng)域上的表現(xiàn)已經(jīng)超過人類，如1997年IBM的超級電腦“深藍”擊敗國際象棋世界冠軍卡斯帕羅夫，2015年發(fā)展成熟的人工智能圖形識別、語言識別技術(shù)更是遠遠超過人類自身的能力，2016年谷歌公司的Alphago擊敗圍棋世界冠軍李世石，更是將人工智能技術(shù)推向了一個新的高潮。人工智能取得巨大成就的同時，我們也應當意識到人工智能改變社會、影響社會的巨大潛力，人類無法對其行為進行準確的預判與控制，這無疑給我們的社會生活增添了許多不確定的因素，在某種程度上加重了社會安全風險，這對于未來的社會治安管理而言將會是一場革命性的考驗。筆者分析人工智能技術(shù)對于社會治安的風險以及安全管理的困難所在，并以此分析明確《人工智能法》應當立足的關(guān)鍵問題，希望以確立《人工智能法》的形式，預先規(guī)范未來人工智能技術(shù)的發(fā)展，使人工智能技術(shù)給未來社會帶來的風險降至最低。

一、人工智能給社會治安帶來的挑戰(zhàn)

（一）人工智能易成為違法犯罪行為高發(fā)的新土壤

人工智能技術(shù)發(fā)展的初衷是代替人類進行生產(chǎn)作業(yè)活動，提高生產(chǎn)作業(yè)的效率。因此人工智能技術(shù)本身也具有高效性的特點，機器能夠不知倦怠地自主完成一系列工作任務。人工智能技術(shù)在未來社會普及之后，違法犯罪人員很有可能利用人工智能來提高違法犯罪的效率，降低犯罪成本，如利用人工智能進行電信詐騙，僅僅一個犯罪人員使用人工智能機器便可以進行詐騙行為，機器可以通過受害人的通話內(nèi)容，自主與受害人進行交流，進而達到非法占有財物的目的。并且由于人工智能能夠持續(xù)不間斷進行智能化工作，利用人工智能進行的違法犯罪將具有更為龐大的影響范圍，大大增加了公民與公共權(quán)益受到侵犯的可能性。因此，人工智能技術(shù)在未來很有可能會成為違法犯罪實施、發(fā)展的新土壤，人工智能時代的社會治安管理形勢將十分嚴峻。

（二）對利用人工智能違法犯罪行為的預防存在困難

人工智能技術(shù)本身具有智能性特點，機器能夠根據(jù)周遭環(huán)境以及接收到的信息進行邏輯推理，自主進行“行為”選擇，這就使人類對人工智能作出的行為無法進行準確預判，目前我國對人工智能行業(yè)暫無風險評估分級機制，無法準確評價各類別人工智能技術(shù)可能出現(xiàn)的風險，使得公安、質(zhì)量監(jiān)督等部門對人工智能的安全性管控存在困難，難以比照特種行業(yè)管理進行有針對性的管理行為。因此，對人工智能違法犯罪行為的預防存在一定困難。

（三）對人工智能產(chǎn)品侵害行為的追責存在責任主體認定的困難

人工智能技術(shù)具有智能性，它能夠自己進行分析與推理，因此人工智能產(chǎn)品的設(shè)計者在某種程度上也無法完全預知人工智能產(chǎn)品在生產(chǎn)作業(yè)的過程中會不會由于產(chǎn)品自身的智能化推理而作出侵害公共與公民利益的行為，智能化行為很大程度上不一定會反映人工智能技術(shù)設(shè)計者與使用者本身的意志。這使得產(chǎn)品設(shè)計者與使用者對于人工智能產(chǎn)品所作出的行為應該承擔的責任的界限，以及應該負責的內(nèi)容成為了需要解決的問題。另外，違法犯罪分子若是利用人工智能進行違法犯罪，很有可能憑借人工智能的智能化特點作為逃脫法律責任的理由。因此，對人工智能產(chǎn)品所作出的侵犯法益行為的進行責任認定是未來需要解決的難題，應當通過《人工智能法》的形式，明確、區(qū)分責任主體，實行設(shè)計問責和應用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，并通過此種監(jiān)管結(jié)構(gòu)的設(shè)立，根據(jù)不同類型的人工智能產(chǎn)品，對產(chǎn)品的設(shè)計者、使用者提出不同的責任內(nèi)容與擔責界限，以便于落實人工智能損害行為的追責問題。

二、《人工智能法》的立法思考

人工智能對未來社會治安的沖擊只是人工智能影響未來生活的縮影，人工智能結(jié)合各個領(lǐng)域的需求和相關(guān)知識，創(chuàng)制為各行各業(yè)的進步與發(fā)展所需要的各種智能系統(tǒng)，為各行各業(yè)的現(xiàn)代化發(fā)展提供智能化服務，其影響的領(lǐng)域有社會、經(jīng)濟、民生、健康等。從社會治安方面我們已經(jīng)能看到規(guī)制人工智能的緊迫性，我國急需對規(guī)制人工智能技術(shù)的專門性法律制度進行研究，制定專門規(guī)范人工智能行業(yè)的法律規(guī)范。在人工智能時代來臨之前，應當通過確立《人工智能法》來對未來人工智能技術(shù)的運用進行總領(lǐng)性的規(guī)制，從宏觀的角度出發(fā)，防范其可能出現(xiàn)的風險。在此之后，國家立法機關(guān)可以在《人工智能法》的基礎(chǔ)上，針對人工智能在各個行業(yè)應用的特點與實際情況進行進一步的細化立法。由此可見，對《人工智能法》進行立法思路的研究是我國的當務之急。

（一）《人工智能法》應當對人工智能產(chǎn)品研發(fā)與應用進行限制

人工智能技術(shù)給社會帶來風險的主要原因在于其智能性給社會生活增添了極大的不確定性。由于人工智能做出的判斷大多依賴于計算機算法，不包含道德倫理要求以及人類所擁有的情感，人工智能產(chǎn)品極有可能機械地根據(jù)計算機算法得出人類認為不符合道德倫理的結(jié)果，并根據(jù)這個結(jié)果選擇主動傷害或侵犯人類，而這是人類不希望看到的。為了減小這些不確定因素，應當要求設(shè)計者對智能技術(shù)作出限制，盡可能將人工智能帶來的不確定性降低。并且也應當考慮平衡人工智能的高效便捷特性，避免過分削弱人工智能技術(shù)應有的科技性或過度影響人工智能的正常使用，使得人工智能技術(shù)的使用失去意義。

具體而言，應當嚴格限制設(shè)計者開發(fā)人工智能產(chǎn)品的領(lǐng)域，對涉及國防安全、能源安全、交通安全等與公共安全密切相關(guān)的行業(yè)，可能造成重大人員傷亡風險的，應當慎用或是限制人工智能技術(shù)的開發(fā)，包括禁止在某些行業(yè)使用人工智能技術(shù)、對技術(shù)的智能化水平進行限制等，制約人工智能的學習與分析推理能力，不能使其任憑其接受的所有信息進行推理并作出自主行為。人工智能在這些特殊行業(yè)應當完全被人類所控制，作出的“行為”能夠被人類完全預見。通過這樣的規(guī)制，能夠?qū)⑷斯ぶ悄艿纳鐣ｋU性大大減小。同時，應當明確設(shè)計責任的追究機制，對于違反上述相關(guān)規(guī)定的技術(shù)開發(fā)者，可依照情節(jié)輕重，處以罰款、吊銷相關(guān)職業(yè)資格證等行政處罰，這也是法定義務的設(shè)立，設(shè)計者由于未履行法定義務造成嚴重后果構(gòu)成犯罪的，依照刑法規(guī)定定罪處罰，設(shè)計者違背義務可能構(gòu)成故意殺人罪、以危險方法危害公共安全罪、過失致人死亡罪、過失以危險方法危害公共安全罪等刑事犯罪。

另外，人工智能的功能也不應過于全面，對于人工智能產(chǎn)品應當采取相關(guān)措施進行能力制約，如為了限制高智能化的產(chǎn)品的能力，應當將其設(shè)計為固定式產(chǎn)品，不給其裝配動力裝置，對其智能化工作以外的能力進行削減，以保證人類對產(chǎn)品的控制。

（二）《人工智能法》應當對人工智能產(chǎn)品進行技術(shù)分級

為了明確責任主體的責任范圍，加強安全管理的針對性，應當對人工智能產(chǎn)品進行技術(shù)等級分級。技術(shù)分級的依據(jù)應當是產(chǎn)品的智能化水平與智能產(chǎn)品的工作性質(zhì)。根據(jù)《人工智能法》對智能產(chǎn)品的技術(shù)分級，國家標準化行政主管部門還可以進一步針對每一個技術(shù)分級制定國家標準與行業(yè)標準，此舉有利于明確產(chǎn)品設(shè)計者的產(chǎn)品研發(fā)方向與內(nèi)容，也能為行業(yè)準入標準的設(shè)立提供參考。筆者認為，人工智能技術(shù)應當大致分為三級，即完全智能化、一般智能化和相對智能化。

完全智能化，即智能產(chǎn)品具有完全的智能化特性，具有自主學習、認識外部世界并進行獨立自主行為的能力，這也是達特茅斯會議以來人工智能領(lǐng)域不斷奮斗的目標，是人工智能的最高水平，也是對社會治安威脅最大的智能產(chǎn)品。

一般智能化，即智能化產(chǎn)品能夠進行信息分析并作出反應，能夠處理較大范圍的信息，但不具備自主學習的能力，只能在一定的信息范圍內(nèi)作出判斷與選擇?，F(xiàn)如今的前沿人工智能技術(shù)則大多數(shù)處于這個水平，如圍棋機器人、語音對話機器人。

相對智能化，即相對于普通機器而言，智能化產(chǎn)品能夠通過處理外部信息作出反應行為，但其能夠進行處理的信息不具有廣泛性的特點。多數(shù)基礎(chǔ)性人工智能產(chǎn)品則符合此級別的特征，如語言識別系統(tǒng)、人臉識別系統(tǒng)等，對社會治安有較小威脅。

確立人工智能產(chǎn)品分級很大程度上能夠規(guī)范智能產(chǎn)品研發(fā)行為，更為重要的是能夠進一步明確產(chǎn)品使用者的責任與義務。為了有針對性地對人工智能的使用進行安全防范，應當對不同智能產(chǎn)品的使用者提出不同的責任義務要求，這也是使用責任監(jiān)督機制的重要基礎(chǔ)。

（三）《人工智能法》應當對使用者設(shè)立相對應的義務要求

在產(chǎn)品研發(fā)設(shè)計層面通過立法的形式進行了規(guī)制之后，立法在智能產(chǎn)品的使用者層面也不應該缺位。使用者是智能產(chǎn)品最為直接的管理者，從某種角度上看，即便在設(shè)計層面對智能產(chǎn)品研發(fā)進行了規(guī)定，如果使用者故意使用智能產(chǎn)品進行失范行為而侵害公民、社會權(quán)益，或是使用者沒有起到應有的管理作用，人工智能對于社會的威脅依舊不能得到有效的控制，因此，通過立法的形式對使用者設(shè)立義務在此顯得尤為重要。筆者認為，應當對不同等級的人工智能產(chǎn)品的使用者設(shè)立不同的義務，以便于充分落實使用者的責任。

完全智能化產(chǎn)品的使用者，由于此類人工智能產(chǎn)品具有高度的智能化特征，對于社會的潛在威脅也就越大，此類智能產(chǎn)品應當有嚴格的使用區(qū)域限制以及能源供給控制規(guī)定，使用者必須在規(guī)定區(qū)域內(nèi)使用該類智能產(chǎn)品，不得對其進行改裝，對于產(chǎn)品的能源應當有嚴格的控制，并且要能夠隨時控制智能產(chǎn)品的能源供給，不得超越規(guī)定用途使用完全智能化產(chǎn)品，不具備以上條件的使用者不得引進并使用完全智能化產(chǎn)品。

一般智能化產(chǎn)品的使用者，此類產(chǎn)品的自主學習與分析信息能力較為普通，因此無需像完全智能化產(chǎn)品一樣進行如此嚴格的限制，但仍然應當要求產(chǎn)品使用者不得超出用途范圍使用人工智能產(chǎn)品，在特殊的場合下不得使用人工智能產(chǎn)品，以防止人工智能行為失范。

相對智能化產(chǎn)品的使用者，此類產(chǎn)品對社會的潛在威脅較小，產(chǎn)品使用者只需將智能技術(shù)運用于合法領(lǐng)域即可，不可利用其進行違法犯罪等危害社會的活動。

最后，《人工智能法》也應在責任分級的基礎(chǔ)上建立使用監(jiān)督機制，將監(jiān)督責任落實到政府具體部門，對于完全智能化產(chǎn)品與一般智能化產(chǎn)品等智能化程度較高的人工智能產(chǎn)品，應當由公安部門、安全生產(chǎn)監(jiān)督管理部門等進行登記與檢查，參照特種行業(yè)管理制度與安全生產(chǎn)制度的規(guī)則進行相關(guān)制度的建設(shè)與管理，實現(xiàn)管理閉環(huán)，有責必究。

參考文獻：

[1] Hutter， Marcus. Universal Artificial Intelligence. Berlin：Springer. 2005.

[2]中國信息通信研究院. 美國國家人工智能研究和發(fā)展戰(zhàn)略計劃 . 美國國家科學技術(shù)委員會. 2016.

[3]國務院. 國務院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知. 2017.

[4]鐘義信. 人工智能： 概念·方法·機遇. 科學通報. 2017（22）.

[5]劉憲權(quán). 人工智能時代的刑事風險與刑法應對. 法商研究. 2018（1）.