孫 笛

（中南財經政法大學博士后流動站 湖北 武漢 430073）

2017年7月20日，國務院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，對人工智能時代的法律、倫理和社會問題研究提出了新的要求。由于學術界對人工智能還沒有統(tǒng)一的定義，因此，本文涉及的人工智能主要包括計算機視覺、自然語言理解與交流、認知與推理、機器人學、博弈與倫理、機器學習這6大領域[1]。犯罪防控可劃分為宏觀、中觀和微觀3個層面：社會越軌行為是廣義犯罪防控的對象，即在宏觀層面上，社會中所有“越軌”或“失范”行為都屬于犯罪防控的范疇，理論界所指“社會控制”及實踐中的社會治安防控、社會管理綜合治理正是其應有之意；中觀層面的犯罪防控特指對符合刑法犯罪構成的行為進行刑事追訴的過程，偵查機關、檢察機關、審判機關及法律服務等主體進行的與刑事追訴有關的活動均應納入其中；微觀層面的犯罪防控針對具體的犯罪行為及對行為實施后有關證據的收集和固定，現(xiàn)場勘驗、物證鑒定、犯罪地理畫像、測謊等都屬于此層面犯罪防控的對象。

1 人工智能的科技紅利：對犯罪現(xiàn)象的消解和犯罪行為的防控

1.1 社會治理的智能化

社會治理智能化既是人工智能發(fā)展的目標之一，也為完善我國立體化社會治安防控體系提供前提保障與技術支持。依據國務院對人工智能的發(fā)展規(guī)劃，社會治理智能化包括智能政務、智慧法庭、智慧城市、智能交通和智能環(huán)保5個方面。政務的智能化主要體現(xiàn)在以下幾個方面：首先，政務大廳安排集取號、查詢及初步指引功能于一體的實體機器人來減輕人力壓力并提高指引的準確度和政務效率；其次，基于人臉識別技術的應用可以使辦事驗證環(huán)節(jié)的驗證手段多樣化，避免大量不必要的證明材料及異地當事人遠程審批的實現(xiàn)，提升服務效率及群眾滿意度；最后，通過人工智能系統(tǒng)運行在線政務可以根據具體用戶偏好使內容推薦個性化，多種渠道平臺的在線客服能夠提供全天候的即時服務，信息處理系統(tǒng)可以有效識別審批流程的冗余或可替換環(huán)節(jié)，輔助決策系統(tǒng)數據篩選質量的提高能夠為決策者提供更加客觀和多樣的決策選擇[2]。

智慧法庭、智慧城市、智能交通和智能環(huán)保的目標同樣也是通過人工智能技術的介入提高工作效率及專業(yè)化服務水平。目前，我國在圖像識別、文字語音識別領域達到國際領先水平，自動指紋識別系統(tǒng)、視頻監(jiān)控已廣泛應用于城市治安防控體系，提高了犯罪線索搜集和篩選的效率。人臉識別系統(tǒng)基于區(qū)域特征分析算法，利用圖像識別技術實時提取人像特征點，通過生物統(tǒng)計學原理進行分析建模，應用于出入管理、辨識、監(jiān)視、認證和智能報警等多個方面，已在國內多個公安系統(tǒng)內及機場、火車站應用①長春機場使用人臉識別系統(tǒng)一個月內有效攔截4人違法使用證件；沈陽地鐵站人臉識別系統(tǒng)在11天內抓獲3名網上追逃人員；上海地鐵站啟用人臉識別系統(tǒng)一個月預警800余次，有效盤查652次，協(xié)助公安部門抓獲嫌疑人286名。。人工智能在教育、醫(yī)療、養(yǎng)老、環(huán)境保護、安防、公共服務等領域的廣泛應用均極大程度地提高了公共服務精準化及均等化水平，全面提升了人民生活品質。人工智能技術對基礎設施和社會安全運行等重大態(tài)勢的準確感知、預測、預警，對群體認知及心理變化及時把握和主動決策反應，將顯著提高社會治理的能力和水平，對有效維護社會穩(wěn)定具有不可替代的作用。社會穩(wěn)定程度越高，社會中的“越軌”或“失范”現(xiàn)象就越少，社會治安狀況就越好，社會控制的水平就越高。

1.2 刑事追訴過程的智能化

刑事追訴過程包括立案、偵查、審查起訴、審判和執(zhí)行5個階段。因此，刑事追訴過程的智能化涵蓋人工智能應用于偵查機關、檢察機關、審判機關及法律服務者所做出的一切與刑事追訴活動有關的行為。對偵查機關而言，人工智能的應用主要集中在智能化信息檢索技術和圖像識別系統(tǒng)、偵查專家系統(tǒng)和偵查智能機器人領域。同傳統(tǒng)信息檢索技術相比，智能化信息檢索技術在信息檢索速度、信息整合廣度、信息處理深度3個方面得到更進一步的優(yōu)化，它和圖像識別系統(tǒng)關聯(lián)能夠迅速準確的檢索到符合目標條件的犯罪嫌疑人。偵查專家系統(tǒng)的本質是機器學習，以包含專家級別廣度和深度的數據為基礎，利用專家的知識和方法進行推理判斷，模擬決策過程。偵查智能機器人特指具備獲取信息和證據功能的排爆或戰(zhàn)斗機器人[3]，應用在偵查活動中能夠降低人員傷亡、提高偵查效率。警用無人機、排爆機器人、警用平衡車、水下機器人等智能機器人已經在我國公安工作中得到應用。在打擊恐怖主義及嚴重犯罪活動中，排爆機器人、戰(zhàn)斗機器人和具備監(jiān)聽監(jiān)視功能的機器人將會發(fā)揮巨大的作用。

檢察智能化以高清卷宗數據自動抓取系統(tǒng)和精準量刑建議系統(tǒng)為代表，服務于公訴和批捕業(yè)務，能夠精準抓取定案關鍵信息，在最大程度上輔助辦案人員處理案件②浙江某檢察院自主研發(fā)的數據自動抓取系統(tǒng)和精準量刑建議系統(tǒng)上線3個月以來，通過辦案輔助功能輔助辦案204件，量刑建議準確率超過90%，一次性文書生成篇幅超過80%。。我國1996年人民法院開啟了與信息技術融合之路，2016年最高法提出“智慧法院”，體現(xiàn)了科技與司法體系的全面融合。智慧法院的智能化重點體現(xiàn)在兩個方面：法院應用系統(tǒng)的智能化和法院建設的智能化[4]。前者以案件信息在線查詢、法律文本檢索、在線立案、送達、繳費、執(zhí)行等系統(tǒng)為代表；后者包括遠程審判、語音識別代替庭審筆錄、自動化生成文書及區(qū)塊鏈留痕等智能系統(tǒng)的應用。智慧法院一方面將法官和書記員等主體從重復勞動中解放出來，大幅度提高工作效率，另一方面可以有效提高司法可得性與法律援助的效率。

在律師服務領域，人工智能在智能法律檢索、法律文件自動化、案件預測、咨詢服務等方面發(fā)揮積極的作用。智能化和自動化的法律檢索向律師呈現(xiàn)與檢索相關的最有價值的結果③世界首個機器人律師ROSS基于大數據平臺，通過自然語言處理和機器學習技術識別檢索結果并評估價值，最終形成專業(yè)的回答。類似的還有知識產權法律工作自動化領域的TrademarkNow。，而非所有的未經篩選的檢索結果。同樣，智能法律咨詢系統(tǒng)向咨詢者提供經過初步分析和判斷后最有價值的回答。法律文件自動化包括文件審閱（電子取證和合同分析）與文件生成兩部分，為法律服務提高效率、降低成本并改善流程?；诖髷祿蜋C器學習的案件預測技術④Lex Machina 公司的服務系統(tǒng)從大量案例的原始數據中自動分析法官的辦案趨勢、對家律師的訴訟策略、案子的時間進程等。不但可以節(jié)約當事人訴訟成本，而且能夠進行同案同判以實現(xiàn)司法公正。人工智能應用于刑事追訴過程的結果是追訴程序效率的提高、訴訟成本的降低、司法服務均等化水平的提升及律師行業(yè)市場透明度與消費者知情權的確保。對犯罪行為的有效追訴是犯罪防控在中觀層面的應有之意。

1.3 犯罪分析的智能化

一直以來，刑事科學技術在犯罪分析領域發(fā)揮重要作用①廣義的刑事科學技術包括案件在調查、偵查及刑事追訴過程中使用的一切科學技術手段和方法，狹義的刑事科學技術包括物證分析（現(xiàn)場勘查、痕跡分析、文件物證檢驗、毒品毒物檢驗等）、法醫(yī)鑒定（尸檢、臨床試驗）、犯罪心理分析（測謊、犯罪側寫）及精神病學鑒定等。本文取狹義概念。，人工智能為犯罪分析提供了更為強大的科學技術支持。

1.3.1 識別技術

我國已經研發(fā)出的人臉識別人工智能測謊儀，包括人臉識別、語音識別、語義識別、形態(tài)識別、生理探測、智能決策和控制6大模塊[5]。結合生物探測技術與語音識別技術，根據神經和生理的外在反應實現(xiàn)毫秒級微表情的捕捉、反推心理活動的發(fā)展變化，對個體情緒、內心傾向進行精準分析。與傳統(tǒng)測謊儀相比，人工智能測謊儀進行的檢測具有非接觸性，監(jiān)測手段的隱蔽可以有效降低被測個體的警惕性，為偵查訊問有效辨別謊言及訊問策略的制定提供了更為客觀和積極的輔助作用。

1.3.2 增強現(xiàn)實技術（AR）在犯罪分析中的應用

增強現(xiàn)實技術將虛擬信息和現(xiàn)實信息同時顯示（兩者互為補充和疊加），通過實時計算攝影機影像角度位置使顯示器中虛擬世界和現(xiàn)實世界的疊加呈現(xiàn)動態(tài)匹配與實時互動。在犯罪現(xiàn)場勘驗中使用AR技術，可以將對犯罪現(xiàn)場的掃描轉化為數字信息并進行檢索處理；裸眼畫面中投放數字信息可實現(xiàn)虛擬與現(xiàn)實的實時對接；AR技術可以即時將掃描獲取的指紋、槍彈痕、血跡、筆跡等痕跡與相應數據庫進行比對，并將比對結果呈現(xiàn)給技術人員[6]。在犯罪現(xiàn)場重建中，AR技術可以通過三維模型模擬犯罪過程與行為，從而進行推理分析，避免傳統(tǒng)通過文字、圖片和錄像為主的重建方法導致的結果與現(xiàn)實情況出現(xiàn)的偏差。

1.3.3 機器人在犯罪分析中的應用

機器人是由仿生元件組成并具備運動特性的機電設備，它具有操作物體及感知周圍環(huán)境的能力[7]。在試驗和安全監(jiān)控與自動控制方面，智能機器人一方面起到補充人力的作用，協(xié)助技術人員執(zhí)行危險任務，尤其在一些人力難以到達或危險的場所進行犯罪現(xiàn)場勘查和現(xiàn)場重建工作，另一方面能夠協(xié)助進行遠程司法鑒定[8]，降低鑒定成本，提高效率。

1.3.4 人工智能的應用使監(jiān)測某一類型犯罪行為成為可能

英特爾通過AML Advisor解釋數據中間的關聯(lián)性[9]，幫助分析師和調查者在保險公司和銀行的數據中了解新興趨勢，提升決策判斷能力。同時，透明度較高的智能系統(tǒng)符合監(jiān)管標準與要求，預警系統(tǒng)可以有效打擊金融犯罪。人工智能應用于犯罪信息分類、檢索、鑒別、利用，在具體案件分析（數據挖掘技術）、決策、代為實施偵查行為等方面為犯罪分析提供了強有力的科學技術保障。

2 人工智能的科技風險：對社會公平的影響和法治原則的沖突

2.1 人工智能或引發(fā)社會不公

第一，人工智能導致一定范圍內的大量失業(yè)。2016年物理學家史蒂芬·霍金認為“工廠的自動化已經讓眾多傳統(tǒng)制造業(yè)工人失業(yè)，人工智能的興起很有可能會讓失業(yè)潮波及中產階級，最后只給人類留下護理、創(chuàng)造和監(jiān)管等工作”[10]。有學者將人工智能的威脅分為近期威脅、中期威脅和遠期威脅3個層次，并認為大批失業(yè)是近期主要的威脅[11]。每次工業(yè)革命必將伴隨大量工作崗位的消失及一定時期內的失業(yè)大潮，科技革命雖然會造成既有工作崗位被取代，但也會制造出足夠多的新的就業(yè)機會，失業(yè)現(xiàn)象會逐漸得到消解。即使失業(yè)率會逐漸被消解，失業(yè)率在一定時期內、一定領域內還是會有所提高。失業(yè)率和犯罪率存在正相關關系，這意味著失業(yè)率的提高會導致犯罪率一定程度的提高，這是人工智能帶給犯罪研究的挑戰(zhàn)之一。

第二，人工智能引發(fā)的歧視現(xiàn)象不容忽視。人工智能決策中機器歧視屢見不鮮，機器歧視導致種族歧視、性別歧視、消費歧視等問題的出現(xiàn)。例如，有圖片識別軟件將黑人標記為大猩猩[12]；在某智能搜索服務中分別輸入黑人和白人的名字，前者更容易出現(xiàn)含有犯罪暗示的廣告；某犯罪風險評估軟件算法系統(tǒng)歧視黑人，導致黑人被賦予高犯罪風險幾率②非營利組織ProPublic研究發(fā)現(xiàn)，Northpointe公司開發(fā)的COMPAS犯罪風險評估算法帶有歧視黑人的風險。。性別歧視現(xiàn)象也存在于人工智能系統(tǒng)應用領域，如智能廣告服務中男性比女性更容易看到高薪招聘信息[13]。除此之外，智能購物推薦系統(tǒng)和比價服務亦會出現(xiàn)針對消費者的歧視現(xiàn)象。社會中歧視現(xiàn)象與犯罪率呈正相關關系，歧視現(xiàn)象增多導致犯罪率提高。

第三，人工智能使貧富分化差距進一步加大。人工智能需要大量資本投入，而資本的本質在于盈利，人工智能的研究和應用方向不可避免的會以加速度涌向利潤高的領域。“貧困不會產生犯罪，但是因貧困而不滿卻會產生犯罪，在富裕國家相對剝奪的人比在貧困的真正被剝奪的人更有可能因貧困而不滿?！盵14]相對貧困比絕對貧困更容易導致犯罪成為犯罪學的重要結論之一。理論上而言，“社會貧富分化差距越大，社會底層成員的相對剝奪感越強。相對剝奪感增強與感受者犯罪存在正相關關系”[15]。因此，人工智能一定程度上會加劇貧富分化的差距。貧富差距唯一的指標是國際公認的“基尼系數”，基尼系數與犯罪率呈正相關關系。近年來，我國基尼系數呈上升趨勢，人工智能的發(fā)展和應用加劇了貧富分化的差距，從犯罪控制的角度而言，控制貧富差距勢在必行。

失業(yè)、歧視、貧富分化現(xiàn)象屬于犯罪原因中社會因素的范疇，共同指向社會不公。社會不公是導致犯罪發(fā)生的社會致罪因素，不公平現(xiàn)象出現(xiàn)的越多，公民的社會公平感知度就越低。社會公平與犯罪率呈負相關關系，人工智能對社會公平的消極影響必然會導致宏觀層面上犯罪率的上升。

2.2 人工智能或導致犯罪機會增加

借助化學反應方程式，有學者將犯罪行為產生的原因和過程用動態(tài)形式表示為具有犯罪人格的犯罪主體和社會環(huán)境相互作用，在犯罪機會的催化下，產生犯罪行為[16]。對社會公平的影響屬于人工智能對社會環(huán)境產生的消極作用，人工智能對犯罪機會的影響體現(xiàn)在犯罪時空因素和制度因素兩部分。

時空因素指實施具體犯罪行為的時間和空間。和傳統(tǒng)犯罪相比，利用人工智能進行犯罪時，在時間和空間上受到的限制較少，表現(xiàn)為犯罪行為發(fā)生的隨機性、犯罪過程快、犯罪后果呈裂變式。犯罪的發(fā)生隨機性意味著判斷犯罪的行為和狀態(tài)是模糊的。從受害者角度而言，犯罪過程快降低了被害感知度，且無法進行及時止損。犯罪后果呈裂變式指利用人工智能進行的犯罪行為，其后果對法益的侵害呈指數級增長，危害范圍廣①惡意軟件Blackshades為犯罪分子提供的黑客技術使犯罪分子即使不懂任何黑客技術也可以在足不出戶的情況下，點擊鼠標實現(xiàn)攻擊，即讓目標計算機感染勒索軟件并對目標進行音頻及視頻的監(jiān)控。。在人工智能發(fā)展到擁有自我感知之前，已有犯罪種類基本能夠涵蓋社會法益受到侵害的所有領域。因此，現(xiàn)有某一類型犯罪現(xiàn)象的增多及新犯罪手段的出現(xiàn)是人工智能帶給犯罪行為的主要影響。

制度因素指規(guī)制犯罪行為的法律（包括憲法和各種具體法律）、法規(guī)、規(guī)章等由國家強制力保證實施的一系列規(guī)范的總稱。立法作為對社會活動的一種回應，具有天然的滯后性，人工智能的應用應當在智能系統(tǒng)安全標準及權責歸屬、監(jiān)管措施等一系列規(guī)范設立和完善的框架內運行。制度設立的欠缺易導致監(jiān)管不力，阻礙了問責機制的運行。犯罪行為發(fā)生的時間、空間限制度低，加上制度建設的滯后，都會降低犯罪成本從而加大犯罪機會②百度安全實驗室的一款人工智能系統(tǒng)“小灰灰”在十幾分鐘內破解了兒童智能手機網絡，這意味著兒童智能手機的作用從幫助家長轉變?yōu)閹椭缸锓肿?。目前，兒童智能手機網絡安全系數較低，這會降低犯罪成本，從而出現(xiàn)更多的犯罪機會。。

2.3 人工智能或與法治原則相悖

公平、公正、公開是最基本的法治原則。在犯罪追訴和犯罪分析中，人工智能的固有屬性和發(fā)展特征會導致其與基本的法治原則出現(xiàn)矛盾和沖突。

第一，數據缺陷和算法歧視與公平性原則的矛盾。一方面，人工智能系統(tǒng)的模型構建依賴大數據平臺，對數據的收集、篩選和選取至關重要。大數據特指2000年后由于信息交換、信息存儲、信息處理3方面能力大幅增長而產生的數據[17]。由于數據提供者的角色、動機、專業(yè)程度不同，信息噪音和對精準度的影響導致數據源具有不確定性。數據源的不確定性導致數據客觀性的偏離和價值密度的稀釋。另一方面，算法偏見是人工智能的固有屬性，“自我實現(xiàn)的歧視性反饋循環(huán)”會反復鞏固這種偏見[18]。數據偏離客觀性和算法偏見的共同作用最終會導致基于算法和數據做出的智能司法決策存在偏見。從審判意見到案情預測，司法偏見的直接后果是司法不公，這和法治原則的公平性相矛盾。

第二，算法和數據的封閉性（不公開）會造成“黑箱操作”。出于對利益的追求、知識產權的保護及數據公開引發(fā)的一系列社會問題，智能決策系統(tǒng)的所有者一般不公開決策所依據的數據和算法。當應用于刑事司法和犯罪分析的智能決策出現(xiàn)問題需要對其進行追溯分析時，算法和決策的所有者可以以商業(yè)機密為由拒絕公開。刑事追訴過程中，在審判機關適用案例規(guī)則的情況下，公開性是案例規(guī)則適用及轉化的必要條件，應用人工智能決策的“黑箱操作”具有使規(guī)則調整和轉化脫離審判機關控制的危險。此外，由于目前并不存在統(tǒng)一的涉及人工智能系統(tǒng)質量和安全的行業(yè)標準，行業(yè)自律和問責機制均缺乏制度保障，智能決策過程的不透明與法治原則的公開性產生沖突。

第三，對于犯罪追訴而言，法官對案件進行裁判所依據的除了現(xiàn)行法律外，還包括刑事政策、改革實驗、地方規(guī)范等非正式制度及“隱性經驗”。智能決策系統(tǒng)基于數據和算法進行的“模式識別”由于無法擁有人類的“隱性經驗”和對不同位階規(guī)范價值選擇的綜合判斷力，對案件進行裁判時無法識別案例如何適用以符合寬嚴相濟的刑事政策、檢控政策、改革試點和地域的差異，因此智能決策系統(tǒng)做出的司法決策必定有其片面性，嚴重者可能導致所做裁判不公。同時，由于人工智能各領域、各研究機構相對獨立，研發(fā)者各自擁有的數據和算法也處于相對獨立、各自保密狀態(tài)。大企業(yè)對信息一定程度的壟斷造成信息壁壘，加上算法偏見和數據，一旦智能決策出現(xiàn)問題，則很難通過其他途徑獲得算法和數據信息模擬決策的生成，無法對責任主體追究相應的責任。違背了罪責刑相適應原則，不符合法治原則公正性的要求。

理想狀態(tài)下，對犯罪的預防和控制需要法治化和科學化兼顧，兩者應當是辯證統(tǒng)一的關系。但人工智能自身固有的特征或發(fā)展中客觀存在的現(xiàn)象導致科學化和法治化產生沖突。對犯罪防控而言，同樣重要。

3 人工智能時代的犯罪防控應對

3.1 限制人工智能研發(fā)和應用的領域

為了預防人工智能不恰當的應用引發(fā)新的社會問題甚至犯罪，應為人工智能的研發(fā)和應用設置邊界。在社會治理層面，應當鼓勵發(fā)展提供基本服務的人工智能，限制發(fā)展增強型人工智能，禁止發(fā)展超級智能。政府和行業(yè)利益相關者應當決定哪些決策和操作是人工智能系統(tǒng)的禁區(qū)，并制定規(guī)則和標準來確保人類對這些決策的有效控制并為造成的損害分配法律責任。

基于司法大數據存在的局限、模式識別能力的有限性、司法活動的規(guī)律和司法判斷的特點，人工智能在犯罪追訴和分析領域的應用亦應有所限制。犯罪追訴和犯罪分析領域最終的決策主體還是人，人工智能作為輔助決策系統(tǒng)“在類型化案件中，有可能形成統(tǒng)一的智能化算法；在不那么規(guī)格化的案件中，至少可以做到法律依據提醒、政策比較和類案參考”[19]。具體而言，案例規(guī)則及調整和非正式制度（包括刑事政策、改革實驗、地方規(guī)范）應成為智能決策系統(tǒng)的禁區(qū)[20]。

3.2 消減人工智能系統(tǒng)的偏差

在數據方面，對數據的收集、篩選及研判水平的提高是消減人工智能系統(tǒng)偏差的基礎。大數據時代，數據具有體量大、速度快、種類多和價值密度低的特點，數據風險隨之增大。算法以系統(tǒng)輸入的數據為前提條件，數據收集的范圍、質量及價值密度影響算法的生成、運行和結果。因此，辨別不同數據源、篩選價值密度高的有效數據、剔除無用數據和舊數據是提高數據客觀水平路徑的選擇。在數據準備方面，應當立足各領域專業(yè)職能，經過數據挖掘、數據整合、數據分析等環(huán)節(jié)來實現(xiàn)專業(yè)數據準備，如政務智能決策系統(tǒng)的數據只能由相關政府部門提供，犯罪追訴和分析的數據只能由司法機關和行政機關提供來確保數據的精準性。在算法方面，算法技術的提升是人工智能客觀水平提高的關鍵，如犯罪追訴領域智能決策系統(tǒng)可以在投入實際應用前，通過訓練對規(guī)則的提煉和既有經驗的歸納來研發(fā)類型化案件裁判的最優(yōu)算法。

此外，打破信息壁壘，使算法和代碼的公開化能夠逐步改善人工智能系統(tǒng)。信息開放既可以保證數據的流動，又可以在社會各層面實現(xiàn)更大價值。

3.3 構建人工智能法律問責和監(jiān)管體系

3.3.1 構建人工智能問責機制

應當制定人工智能統(tǒng)一的質量標準或安全標準，制定人工智能產品研發(fā)設計人員的道德規(guī)范和行為守則，明確人工智能研發(fā)禁區(qū)。通過立法的形式建立與人工智能應用有關的民事和刑事責任的確認、信息安全利用等方面的追訴和問責制度。構建人工智能復雜場景下突發(fā)事件的解決方案，針對機器人異化和安全監(jiān)管等問題提出制度性解決方案。

3.3.2 通過構建立體化監(jiān)管模式使人工智能監(jiān)管體系公開透明

立體化監(jiān)管模式要求從智能產品的開發(fā)（包括數據使用和算法設計）到成果應用進行全方位監(jiān)管。智能系統(tǒng)中嵌入的規(guī)則和邏輯必須對監(jiān)管人員開放，并接受風險評估和嚴格測試。同時，系統(tǒng)應當將用于決策的事實和法律生成審計數據，服從第三方審核。此外，必須允許當事人、律師和法院可以合理地獲取政府和其他國家機關采用智能系統(tǒng)產生和使用的所有數據信息，公眾應當對制定或支持這類系統(tǒng)決策的投資主體有知情權。

3.4 犯罪防控與人工智能的深度融合

深度融合既包括在犯罪防控中借助人工智能系統(tǒng)實現(xiàn)研究的高效性和科學性，也包括在人工智能有可能引發(fā)或涉及犯罪行為時，犯罪研究者加入研發(fā)團隊，就專業(yè)問題與技術人員進行研判并共同進行決策。關于前者，犯罪研究人員在應用人工智能系統(tǒng)進行犯罪分析時，應當了解智能系統(tǒng)的數據來源范圍，算法的基本原理及對智能決策的自我判斷，一旦智能系統(tǒng)決策有所偏差，應當相應地對智能決策系統(tǒng)提出改進和完善的建議。

在社會治理層面，犯罪研究者主要介入和治安管理有關的領域，在犯罪追訴和犯罪分析層面，需要犯罪研究者的全面介入。這就對犯罪研究主體提出了更高的要求：必須擁有一定的人工智能理論知識?？鐚W科領域人才主要通過培訓、教育及有關配套措施制度完成。

人工智能時代已經到來，和實務界面對人工智能所表現(xiàn)出的實現(xiàn)人工智能與司法實務對接的熱情與速度相比，理論界秉持的是相對“審慎而樂觀”的態(tài)度。對于犯罪防控而言，從多維角度出發(fā)，對犯罪發(fā)生規(guī)律和犯罪防控方法進行深度分析，才能使犯罪防控擁有人工智能這一科技紅利并能更好地解決人工智能時代衍生的一系列社會風險。