文/熊秋紅

人類社會發(fā)展以科技創(chuàng)新為引擎，經(jīng)歷了從農(nóng)業(yè)社會、工業(yè)社會到信息社會的變遷，而信息社會以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等為主要特征。在刑事司法領域，由于人工智能可以在短時間內(nèi)分析及處理大量的資料信息，因而被運用于犯罪預測、犯罪偵查和犯罪預防；運用于預測個體是否會再次犯罪、是否會在開庭日出庭等的可能性，從而影響關于保釋和緩刑的決定；運用于分析量刑總體態(tài)勢，從而影響檢察官和法官關于量刑的決定；運用于評估罪犯的風險等級，從而影響關于假釋和矯正措施的決定?？梢灶A見，未來人工智能在刑事司法中的應用范圍將會逐漸擴大。刑事訴訟立法應當如何回應人工智能的運用，成為一個亟待研究的問題。

人工智能在刑事司法中的應用狀況

從世界范圍內(nèi)來看，目前刑事司法領域的人工智能應用，主要集中在偵查、保釋、暫緩起訴、量刑、假釋或監(jiān)獄內(nèi)的矯治及管理等領域。

（一）犯罪預測。相關研究表明，利用人工智能分析大量的既有信息，如犯罪記錄、報案資料、經(jīng)濟數(shù)據(jù)、地理資料等，可以進行以下四種類型的犯罪預測：（1）預測犯罪可能發(fā)生的地點及時間；（2）預測可能進行犯罪的人；（3）預測可能成為犯罪者的特征；（4）預測可能成為被害者之人。

（二）犯罪偵查。人工智能在刑事偵查中起著情報智能收集、情報數(shù)據(jù)智能研判、證據(jù)智能獲取、犯罪嫌疑人智能拘捕等作用，具有風險防控提前化、信息渠道多元化、數(shù)據(jù)采集精確化、刑事證明精細化等特點。

（三）輔助審前羈押與保釋。在刑事司法中，人工智能可以作為風險評估工具，用于輔助審前程序中關于羈押與保釋、附條件不起訴或暫緩起訴等決策。如在美國，許多州將人工智能作為保釋程序中的風險評估工具，包括對公共安全的風險和不出庭的可能性，而非被告人是否有能力繳納一定數(shù)量的保釋金。

（四）輔助量刑。量刑可以說是刑事審判程序中最為困難的工作，量刑偏差和量刑不均衡是長期存在的全球性問題。運用人工智能輔助量刑，越來越成為各國共同的趨勢。

（五）輔助假釋與矯正。在刑罰執(zhí)行方面，可以結合人工智能的數(shù)據(jù)預測，從服刑人、其家庭及社會等相關因素切入，探討再犯危險因子，預測其再犯可能性，通過建立再犯風險評估指標體系，綜合評估服刑人的表現(xiàn)、社會危險性、再社會化可能性等，避免僅憑司法工作人員的主觀經(jīng)驗進行是否予以假釋的判斷，并以此確定對罪犯采取的具體矯正措施。

（六）其他領域的應用。在我國，除了犯罪預測與偵查，輔助保釋、量刑、假釋和矯正之外，人工智能還應用于其他一些刑事司法領域，如證據(jù)審查判斷、文書生成、訴訟監(jiān)督等。

在刑事司法中應用人工智能引發(fā)的爭論

基于人工智能強大的數(shù)據(jù)搜集和分析能力，該技術對于刑事政策的制定者、對于計算機和數(shù)據(jù)科學家而言，無疑是一個具有吸引力的工具。從其他國家和地區(qū)的討論情況看，贊成者一般認為，人工智能的使用具有以下優(yōu)勢：其一，有助于減少案件積壓；其二，有助于限制人為的偏見；其三，人工智能具有科學性和專業(yè)性，操作起來也方便快捷，是一個有利于提高司法人員辦案質(zhì)效的科技手段。反對者則認為，人工智能技術介入和引導刑事司法可能因為使用了不可靠的數(shù)據(jù)，給刑事司法中的當事人造成傷害，人工智能的使用將會帶來以下問題：其一，準確性問題；其二，公平性問題；其三，透明度問題；其四，權利保障問題。

對于人工智能在刑事司法中的應用，我國理論界和實務界總體上持樂觀態(tài)度，主要原因在于在刑事司法中使用人工智能具有以下幾方面的優(yōu)勢：其一，有利于打擊犯罪；其二，有利于“同案同判”；其三，有利于提高訴訟效率。

部分學者對人工智能介入刑事司法持保留甚至反對立場，認為人工智能的介入會帶來以下弊端：其一，導致司法人員機械司法；其二，背離司法的親歷性原則；其三，造成冤假錯案，破壞司法公正；其四，侵犯公民的隱私權；其五，有勞民傷財之嫌；其六，模糊司法責任。

關于人工智能在刑事司法中的應用，存在著積極主義和消極主義兩種不同立場。持積極主義立場者更多地看到了使用人工智能帶來的增強打擊犯罪的能力、提高司法效率、貫徹客觀主義等好處。持消極主義立場者往往固守傳統(tǒng)的法律理念及其制度文化，對于刑事司法中的自動化決策抱有相當程度的憂慮：一方面擔心沖擊司法人員的主體地位，另一方面懷疑自動化決策的準確性、公正性以及研發(fā)成本與收益是否成正比的問題。對于政策制定者而言，前者產(chǎn)生了“鼓勵創(chuàng)新”模式，后者產(chǎn)生了“預警原則模式”。有學者試圖調(diào)和這兩種不同的立場，提出了“刑事司法人工智能的包容性規(guī)制”的主張。

人工智能對刑事司法制度帶來的沖擊和挑戰(zhàn)

國內(nèi)外學術界和實務界圍繞人工智能在刑事司法中的應用所引發(fā)的爭論，其原因在于人工智能應用對于社會的基本規(guī)范體系及其道德基礎帶來了極大的沖擊和挑戰(zhàn)。概而言之，人工智能對刑事司法制度帶來的沖擊和挑戰(zhàn)主要在于合法性、公正性、民主性、有效性、倫理性等五個方面的問題。

（一）合法性問題。法律發(fā)展滯后于技術發(fā)展導致司法實務中人工智能的應用面臨“合法性赤字”或者合法性質(zhì)疑。在許多國家和地區(qū)，現(xiàn)行刑事訴訟法尚未對人工智能的應用進行規(guī)制，而通過解釋既有法條容納人工智能應用容易產(chǎn)生合法性爭議。

（二）公正性問題。鑒于公正性是司法制度的本質(zhì)特征，因此公正性問題成為人工智能應用于刑事司法時的核心爭議。將人工智能技術用于犯罪預測和偵查，導致偵查模式從回應式偵查走向預防性偵查，警方對犯罪的應對主動化和長效化，警方在獲得犯罪預測結果后對“犯罪熱區(qū)”進行特別干預，部署警力定向打擊某類犯罪。一旦將某一區(qū)域劃為“犯罪熱區(qū)”，警察會更傾向于在該區(qū)域發(fā)動攔停、盤查，甚至采取逮捕等強制性措施，并且自覺或不自覺地降低證明標準，這樣居住在該區(qū)域的居民，其人身自由和隱私權等更易受到限制或者侵害。人工智能系統(tǒng)依靠大數(shù)據(jù)和算法運行所產(chǎn)生的結果，可能固化甚至放大不平等的風險。有研究指出：人工智能風險評估工具在刑事司法中運用時，往往不成比例地高估來自少數(shù)族群的個人犯罪再犯率。在未對公民進行事先告知并征得同意、其他正當程序機制保障欠缺的情況下，大數(shù)據(jù)偵查可能產(chǎn)生較大的侵害公民隱私權的風險。

（三）民主性問題。人工智能在刑事司法中的應用是否符合法治社會的民主性要求，主要在于其是否具有透明性與可問責性。人工智能應用中的“法律黑匣子”和“技術黑匣子”給刑事司法的透明性和可問責性帶來了巨大的挑戰(zhàn)。算法比司法人員自由裁量具有更為不透明的特性導致對于司法決策的監(jiān)督和審查變得更加困難。人工智能的自動化特征，通常使受其影響者難以覺察和知悉，人工智能系統(tǒng)決策的過程與方法，也往往缺乏詳細的說明，其決策過程和結果是否公平，難以進行監(jiān)督和審查。大數(shù)據(jù)偵查通過相關性原理進行分析和預測，難以對其中的因果關系進行具體說明。應用人工智能系統(tǒng)決策可能出錯，一旦出錯，算法的責任難以追查，人的責任難以歸咎。

（四）有效性問題。如果在刑事司法中通過人工智能作出的決定，可以避免司法人員的偏見，在公正性方面明顯優(yōu)于人類判斷的結果，那么，人工智能的使用無疑就具有可接受性。但是，對此問題尚無明確的答案。人工智能系統(tǒng)以實然面的統(tǒng)計資料為基礎，往往難以將應然面的社會期待納入其中。就量刑輔助系統(tǒng)而言，在保障量刑的一貫性和一致性方面具有助益，但在保障量刑適當性方面存在局限。如果在過去的司法實踐中存在量刑普遍偏低或普遍偏高的現(xiàn)象，人工智能系統(tǒng)提供給法官的量刑參考數(shù)據(jù)，可能背離國民的法律情感，從而誤導法官量刑。

（五）倫理性問題。將人工智能應用于刑事司法中，需要解決訴訟主體對于人工智能系統(tǒng)中的自主學習有多大的決定能力、對于人工智能系統(tǒng)產(chǎn)生的結果有多大的控制能力等問題。為了確保人類的情感與尊嚴，將刑事司法的決策權完全交給機器，這是不能接受的。目前多是將人工智能作為刑事司法中的輔助性工具加以使用，并未產(chǎn)生取代人類決策的危機?，F(xiàn)在的關鍵問題是要解決司法人員應當如何與機器進行合作的問題，即人機如何協(xié)同的問題。

刑事司法中應用人工智能的原則與基本要求

人工智能對于法治的影響可謂喜憂參半。一方面，人工智能帶來的可預見性、可度量性和高效率，有利于促進法治；另一方面，使用人工智能帶來了各種可測和不可測的風險。為了防范人工智能所帶來的風險，安全和以人為本成為兩項最為重要的倫理原則。2018年，歐盟成立了由52名專家組成的“歐盟人工智能高級專家組”，該專家組在2019年發(fā)布了關于《可信賴人工智能倫理準則》。其中根據(jù)尊重人類自主、避免危害、公平、可解釋性等倫理原則，提出了七項基本要求：人權機構和監(jiān)督，技術的穩(wěn)健性和安全性，隱私和資料管理，透明度，多樣性、非歧視性和公平性，社會和環(huán)境福祉，問責制。上述原則和基本要求理應適用于刑事司法中人工智能的應用場景。

我國采取發(fā)展優(yōu)先的立場積極推進人工智能在刑事司法中的應用，因此，出現(xiàn)了人工智能使用泛化的局面，但從司法實踐中的實際運用來看，在大數(shù)據(jù)偵查、輔助量刑等領域相對深入，在其他領域的運用尚處于淺表的層次。由于在刑事司法中使用人工智能尚未形成成熟的經(jīng)驗，相關研究也只是初步展開，目前對此進行專門立法、系統(tǒng)立法尚為時過早，更為緊迫的是對刑事司法中人工智能的應用提供方向性指導。

首先，應當認識到，在刑事司法這一特殊的領域，人工智能的應用具有較大的局限性。以量刑智能輔助系統(tǒng)為例，設計科學的量刑智能輔助系統(tǒng)存在不少困難：其一是案件信息數(shù)字化、結構化之困難，其二是案件信息數(shù)字化轉(zhuǎn)換存在技術障礙，其三是刑罰適用統(tǒng)一化與個別化的矛盾難以調(diào)和。

其次，對于刑事司法中人工智能應用的規(guī)制應當從數(shù)據(jù)治理、算法治理和應用系統(tǒng)治理三個基本層面展開。從數(shù)據(jù)治理的角度看，應當保障資料的全面性、準確性以及合法性；從算法治理的角度看，應當保障算法的科學性、透明性和公正性；從應用系統(tǒng)治理的角度看，應當保障應用系統(tǒng)的安全性、有效性和訴訟主體使用應用系統(tǒng)的平等性。

最后，應當堅守司法人員在刑事司法中的主導地位，實行規(guī)則指導與智能輔助相結合。人工智能的介入使得刑事司法在法治主義之上疊加了“技治主義”，無論是法治主義還是技治主義，都不應當動搖司法人員的主導地位。司法人員不能以人工智能的運用來推卸司法責任，人工智能只是輔助手段，真正在刑事司法中起主導作用以及決定案件最終處理結果的還應當是司法人員。每個案件、每個被追訴人均有差異，用過去的資料預測未來，僅能作為參考，不能直接決定案件處理的結果，犯罪嫌疑人、被告人的刑事責任最終仍然需要由警察、檢察官、法官綜合各種因素后審慎判斷。司法人員在規(guī)則指導與智能輔助下決策，要兼顧實然與應然，通過人工智能系統(tǒng)立足實然，通過規(guī)則指導糾正實然中的執(zhí)法偏差，并且回應社會公眾對合理執(zhí)法、公正司法的期待。

結語

人工智能在刑事司法中的應用已經(jīng)是不可逆轉(zhuǎn)的大趨勢，其正在經(jīng)歷由淺入深、由窄到寬的發(fā)展過程。在瞬息萬變的數(shù)字時代，刑事訴訟理念和制度發(fā)展應當與時俱進。刑事司法中所開發(fā)的人工智能應用系統(tǒng)基于系統(tǒng)論、控制論以及信息論的理論成果，采用數(shù)學模型的統(tǒng)計技巧和信息科技，集法律規(guī)定與專家經(jīng)驗、案例分析于一體，具有增進效能、避免錯誤、減少成本等益處，但也存在新的人權保障風險，在科技化與自動化、數(shù)字化與虛擬化的趨勢下，正當法律程序原則實質(zhì)轉(zhuǎn)化為“科技正當程序”。為此，應當創(chuàng)新治理方式，防止自動化決策的偏見和錯誤，建立新的人權保障標準，并對現(xiàn)有法律制度進行開創(chuàng)性的解釋和發(fā)展?；谌斯ぶ悄苓\用于刑事司法可能產(chǎn)生的風險以及人工智能介入刑事訴訟本身所具有的局限性，在使用人工智能時應當保障數(shù)據(jù)的全面性、準確性以及合法性，保障算法的科學性、透明性和公正性，保障應用系統(tǒng)的安全性、有效性和訴訟主體使用應用系統(tǒng)的平等性，并且堅守司法人員在刑事司法中的主導地位，做到人工智能介入有限、運用有度、輔助有力。

由于人工智能在刑事司法中的應用涉及法律問題和技術問題，因此，對其進行規(guī)則治理應當同時從法律和技術層面展開，人工智能應用系統(tǒng)的研發(fā)和有關的規(guī)則制定應當由法律專家和技術專家共同組成的專家咨詢委員會進行審查。人工智能的應用應當趨利避害、揚長避短，妥善處理安全與自由、公正與效率、實然與應然的關系，達致多元法律價值的平衡和兼顧。在研發(fā)和運用人工智能的過程中，應當注重對其公平性的全過程檢視，保障受人工智能決策影響的當事人可以適時更正不當或錯誤的自動決策結果；受到人工智能系統(tǒng)決策影響的當事人應當具有要求解釋的權利；在人工智能系統(tǒng)的有效性存疑的情況下，受到人工智能系統(tǒng)決策影響的當事人應當享有“退出的權利”，選擇只接受單純的人為決策。在我國，人工智能在刑事司法中的應用從粗放式發(fā)展走向精細化規(guī)制，將是數(shù)字時代刑事法治發(fā)展的必由之路。