張麗霞

（北京師范大學 北京 100875）

審前羈押是刑事訴訟程序中的重要環(huán)節(jié)，面對實踐中的高羈押率，是否羈押的判斷標準一直是學界和司法實踐中關注的重要問題。在我國刑事司法，審前羈押①集中表現(xiàn)在逮捕程序的設置上。我國2012年《刑事訴訟法》第79條明確規(guī)定了逮捕的條件②，學界將其歸納為逮捕適用的三要件：證據(jù)條件，即有證據(jù)證明有犯罪事實；罪責條件，即可能判處徒刑以上刑罰；社會危險性條件，即采取取保候審、監(jiān)視居住等不足以防止發(fā)生社會危險性[1]。其中前兩個要件是確定的，可以進行相對確定的分析和判斷，第三個社會危險性則是相對主觀的變量，這一變量通常由檢察官依靠經驗法則自由裁量，具有不確定性，導致在我國刑事司法實踐中，以證據(jù)條件和罪責條件為主的逮捕審查沖淡了社會危險性條件的審查，夠罪即捕、以捕代偵等現(xiàn)象使得我國的審前羈押率一直居高不下。實踐中負責批捕的檢察官對社會危險性的評估大多依靠個人經驗即直覺、本能和正義感，檢察官的自由裁量權過大，導致這種綜合評估的結果不穩(wěn)定，也比較模糊。有學者認為建構以社會危險性為核心的逮捕審查程序的關鍵是探索社會危險性的科學評估方法[2]。如何科學定量地評估社會危險性也一直是學界關注的重要問題，有學者建議參照西方國家采用科學定量的方法來對社會危險性進行評估[3]，以期改變以往檢察人員以個人經驗為主的“綜合估量”的模糊性和任意性。事實上在美國已經開始將算法應用于刑事訴訟中審前羈押的風險評估，用算法來預測犯罪嫌疑人是否會再次犯罪、是否會準時出庭等，美國實務界希望通過更精確的算法風險評估來優(yōu)化審前羈押體系，降低羈押措施的適用。

在科技時代的大背景下，我國也有學者開始關注使用人工智能來解決羈押社會危險性評估問題，有學者提出“人工智能檢察院”的設想，希望通過大數(shù)據(jù)和云計算實現(xiàn)對審前羈押的過程和結果進行分析和預測，通過算法風險評估對公安機關的偵查進行監(jiān)督[4]。上海高院研發(fā)的“推進以審判為中心的訴訟制度改革軟件”，即為代號“206”的“上海刑事案件智能輔助辦案系統(tǒng)”的項目中也包含了有關于社會危險性評估的模塊審查逮捕中社會危險性。在新的時代背景下，算法風險評估能否針對審前羈押風險給出一份符合期望的答案？本文試從算法風險評估的建構及其原理出發(fā)，探討在我國逮捕程序中引入算法風險評估的必要性和可能性，并結合逮捕審查的程序要求來探討引入算法風險評估給傳統(tǒng)刑事訴訟程序帶來的新挑戰(zhàn)以及可能的規(guī)制路徑。

一、算法風險評估的原理及建構

（一）算法風險評估的原理

風險評估最早應用于經濟和管理學領域，是指量化測評某一事件或事物帶來的影響或損失的可能程度。具體到刑事司法領域，風險評估是指利用犯罪嫌疑人的歷史數(shù)據(jù)比如是否曾經被逮捕、被定罪等，來預測其未來行為的可能性，是精算正義理念下司法裁量數(shù)字化智能化的體現(xiàn)。英美法系對罪犯風險評估技術發(fā)展比較成熟，評估工具已經從第一代臨床評估發(fā)展到第四代結構性專家評估，被廣泛的應用到犯罪預測、法庭審判、監(jiān)獄管理、國家安全防衛(wèi)等方面[5]。風險評估的本質是利用統(tǒng)計學原理將各項風險因素的相關性數(shù)字化，根據(jù)數(shù)字計算轉換成風險類別，例如，對影響未來行為的變量犯罪嫌疑人的年齡、籍貫、住所等進行回歸分析，確定其與再犯或者未能出庭的相關性，進而通過計算得出風險級別。算法風險評估是隨著現(xiàn)代科技的發(fā)展，計算機和風險評估技術的結合，具體是指將風險模型轉化為計算機語言，即算法。算法風險評估最大的特點是定量分析和循證為本（Evidence-based）。審前羈押程序中的風險評估，一方面，對是否羈押中涉及的因素進行量化分析，幫助刑事裁判者更加精準的把握是否羈押的條件，在保障訴訟程序順利進行的前提下，盡量減少羈押措施的使用，進而有效保障犯罪嫌疑人和被告人的權利。另一方面，在循證為本的理論指導下，經過不斷驗證，使得評估因素成為判斷羈押的“證據(jù)”以確保羈押有據(jù)可查，增加犯罪嫌疑人、被告人對羈押決定的接受度。嚴格的說，算法風險評估是數(shù)據(jù)驅動的人工智能與專家經驗結合的產物，不是簡單將法條轉化為計算機語言，它的建立需要依賴刑事裁判者的理性思維和邏輯判斷。以2017年上海高院研發(fā)的“上海刑事案件智能辦案輔助系統(tǒng)為例，據(jù)技術人員介紹人工智能的三個重要環(huán)節(jié)是專家經驗、模型算法和海量數(shù)據(jù)。首先由公檢法業(yè)務骨干對掃入系統(tǒng)的卷宗內容進行標注，建立數(shù)據(jù)庫，再在專家經驗的基礎上，指導機器建立模型進行學習[6]。

（二）算法風險評估的建構

算法風險評估的建構是指以“逃避訴訟可能性”“再犯可能性”等為評價基準，將涉及到的因素全部篩選出來，并依據(jù)各要素風險等級的大小將涉及到的風險因素及其影響量化，根據(jù)一定的規(guī)則建立綜合算法評估模型。建構算法風險評估的關鍵是如何篩選出影響社會危險性的風險因素，如何在這些風險因素之間建立關聯(lián)。比如美國的算法評估工具COMPAS和LSI-R主要涉及五個主要領域：犯罪情況、人際關系、個性、家庭還有社會排斥程序，此外還包括工作經歷、經濟狀況、家庭成員犯罪記錄、年齡、性別、婚姻、受教育情況等。美國安妮凱西基金會研發(fā)針對未成年人審前羈押的risk assessment instrument簡稱RAI)的主要風險因素分為四類：犯罪事實情況、以往的違法或者犯罪經歷、加重情節(jié)因素（消極因素）和減輕情節(jié)因素（積極因素）[7]。國內司法實踐中社會危險性算法風險評估主要集中在理論層面的探討，有學者建議參考美國司法部審前風險評估的模型從理論的角度將涉及到的風險因素進行分類，認為我國風險評估因素主要是三個方面，即認人身危險性因素，如有無前科，是否可能再犯等；社會危險性因素，如給社會造成不利后果；訴訟可控性因素，如是否可能妨礙訴訟，隱匿證據(jù)等，再運用SPSS軟件對這些因素進行Logistic回歸分析，確定每個因素跟最后是否逮捕或者羈押的相關程度，最后建立算法模型[8]。有學者根據(jù)長期的辦案經驗列出了是否可能被判處刑罰、是否是本地人、是否有固定住所、是否是累犯、是否曾逃跑、是否是學生等11項等可能影響社會危險性的因素，再以“有社會危險性”和“無社會危險性”進行模式化的組合，比如：可能判處徒刑以上刑罰＋外來人員是有社會危險性；可能判處徒刑以上刑罰＋本地人等構成“無社會危險性模式”[9]。筆者比較贊同以統(tǒng)計學原理對審前羈押的風險因素進行回歸值分析，再根據(jù)各個風險要素與最終評估結果的關聯(lián)度建立模型算法。但是納入哪些風險要素需要進行深入探討，現(xiàn)有的算法模型代表的是群體特征的因素，一些具有個性化的犯罪嫌疑人的情況有時候也對最終的結果產生影響。如前文提到的算法模式離不開刑事裁判者的主觀能動性，算法風險評估的建立也必須重視刑事裁判者的裁判邏輯，將其理性經驗納入算法模型。例如第四代的結構性專家評估，強調以其生存的特定社會環(huán)境、亞文化氛圍為背景，而非孤立地分析和解釋犯罪嫌疑人、被告人的行為特征[10]。

二、在審前羈押程序中建立算法風險評估的必要性和可行性

（一）建立算法風險評估的必要性分析

1.建立算法風險評估有助于提高審前羈押措施適用的精確性。正如“直覺的判斷被迫讓位于精準的數(shù)據(jù)分析”[11]，傳統(tǒng)的審前羈押風險評估的產生更多地基于辦案人員的個人經驗，以主觀判斷為主，但是以算法為核心的風險評估是建立在大量數(shù)據(jù)分析基礎上的量化風險評估。在我國司法實踐中，不管是針對未成年人還是成年人，審前羈押措施都有濫用之勢，在我國目前的法律框架下，對于逮捕社會危險性的審查主要根據(jù)現(xiàn)有掌握的材料和辦案的經驗進行主觀判斷。此外，是否羈押往往還受到社會輿論的影響，在社會公眾樸素的法律觀念中，觸犯重罪即需要逮捕，以輿論關注的少年涉嫌強奸少女后被取保候審一案為例，社會輿論認為一個犯了強奸罪的未成年人由羈押變更為取保候審不合理，在公眾的普遍觀念里，觸犯了強奸等重罪經應該逮捕，變更強制措施就是于法無據(jù)[12]。但是否逮捕不僅僅需要證據(jù)和刑罰條件，還要審查判斷犯罪嫌疑人的社會危險性。值得注意的是社會危險性的判斷是對未然的一個判斷，不能只靠主觀經驗，構建一種相對模式化、符合實踐需求的審查逮捕社會危險性評估量化模型是必要的，對于辦案人員準確把握逮捕條件，提高逮捕措施適用的準確性具有重要的參考價值。雖然，利用算法評估所得出的結論雖然不能做到百分之百的精準，但采用量化分析，可以為辦案人員在判斷逮捕必要性提供客觀定量的標準，為檢察官做出是否批準逮捕給出定量的數(shù)據(jù)參考。

2.建立算法風險評估有利于降低審前羈押率，貫徹羈押例外原則。根據(jù)刑事司法所秉持的無罪推定和國際通行的羈押例外原則，為保護犯罪嫌疑人的人權，審前非羈押應該是常態(tài)，對犯罪嫌疑人、被告人人身自由進行限制和剝奪應該是特殊情況下的例外選擇?！豆駲嗬c政治權利國際公約》第9條第3款明確規(guī)定“等候審判的人受監(jiān)禁不應作為一般規(guī)則，但可規(guī)定釋放時應保證在司法程序的任何其他階段出席審判，并在必要時報到聽候執(zhí)行判決?！痹趯徢俺绦蛳鄬ν晟频挠⒚绹易钕乳_始關注在審前釋放程序中引入以算法風險評估來預測犯罪嫌疑人是否會在開庭時順利出庭，是否會再次犯罪等的可能性。以未成年人刑事司法為例，自1992年起，美國安妮凱西基金會發(fā)起了“未成年人羈押替代倡議”，該倡議主張正確使用數(shù)據(jù)，系統(tǒng)地診斷和評估未成年人審前羈押的條件和標準，建立數(shù)據(jù)模型，以取代主觀標準，使得所有未成年人審前羈押的審查都有據(jù)可查，該倡議有效降低了審前羈押率，是美國少年司法改革最成功的舉措之一。

3.建立算法風險評估能有效抑制司法人員的主觀隨意性，提高司法效率。建立算法風險評估是對執(zhí)法者自由裁量權的一個限制。有自由就需要有限制，執(zhí)法者的自由裁量權過大且缺乏適當?shù)南拗埔彩窃斐赡壳八痉▽嵺`中羈押普遍適用的一個原因。不管是國外還是國內，逮捕的社會危險性集中體現(xiàn)在是否能保障訴訟程序的順利進行以及犯罪嫌疑人的再犯可能性的高低。美國全國經濟研究所一份最新研究報告顯示，人工智能軟件比法官更準確地預測犯罪嫌疑人釋放后的行為，他們預計算法風險評估可將被告人等候審判的時間縮25%左右[13]。此外，在我國人少案多的情況下，限制辦案人員的自由裁量權，可以減輕辦案人員的辦案壓力，減少工作中不必要因素的影響，在實現(xiàn)司法目的的同時，提高辦案效率。

（二）建立算法風險評估的可行性分析

1.海量數(shù)據(jù)的占有為計算機法律語料庫的建立奠定了基礎。我們身處在一個到處充斥著數(shù)據(jù)的時代，我們每天都在生產著數(shù)據(jù)，這些數(shù)據(jù)也源源不斷的出現(xiàn)在政府或者商業(yè)機構的數(shù)據(jù)庫里。隨著時代的發(fā)展，以大數(shù)據(jù)為基礎的算法介入司法，人類從以往的經驗判斷轉向算法判斷，逐漸成為人類利用已有的數(shù)據(jù)測量、記錄和分析現(xiàn)有制度的新方法。鑲嵌理論認為，單個分散的數(shù)據(jù)或者沒有很大的價值，但是利用科學統(tǒng)計原理，將分散的信息組合起來，則可能產生不可估量的整體價值[14]。我國司法新一輪司法改革基礎信息化建設提供了大量的數(shù)據(jù)樣本，通過專業(yè)人員對數(shù)據(jù)的分析和處理，建立算法模型，將法律規(guī)定、案例中的自然語言、法律概念以及推理規(guī)則翻譯成機器語言，標準化統(tǒng)一的海量數(shù)據(jù)使得開發(fā)人工智能風險評估工具成為了可能。

2.科技的發(fā)展為智能算法模擬法律裁判者的法律推理提供了必要的技術條件。人工智能AlphaGo戰(zhàn)勝圍棋高手開啟了新一輪技術革命，智能產品人臉識別、智能推送等開始滲透人類生活的方方面面。人工智能與法律結合的難點如何明確裁量因素、模擬裁判者的裁量過程建立專家算法模型，需要專業(yè)技術人員在司法人員以及其他學科人員的配合下對數(shù)據(jù)進行大規(guī)模的統(tǒng)計分析，使計算機深入學習這一過程。貝葉斯網(wǎng)絡、語義技術、向量空間模型、本體論、認知神經科學等科研成果的出現(xiàn)促進了計算機深度學習的發(fā)展，提高了法律人工智能產品的實用性和準確性，其中貝葉斯網(wǎng)絡用于證據(jù)審查人工智能產品研發(fā)，將不同情況證據(jù)關系、證據(jù)推定和證明力轉化為數(shù)值，提高審查結果的客觀性[15]。算法風險評估模型是模糊數(shù)學應用，其利用已有的變量信息來推斷其他的概率信息，根據(jù)所掌握的犯罪嫌疑人的信息對其社會危險性進行評估，并通過計算機深度學習不斷完善。

3.官方和市場的雙重驅動為算法風險評估的建構營造了良好的外部環(huán)境。官方層面，自2016年中辦國辦印發(fā)的《國家信息化發(fā)展戰(zhàn)略綱要》中，將“智慧法院”納入國家信息化發(fā)展戰(zhàn)略。2017年7月8日，國務院發(fā)布《新一代人工智能發(fā)展規(guī)劃》提出推動社會治理的智能化，促進人工智能司法裁判中的應用，實現(xiàn)司法裁判的智能化。全國司法系統(tǒng)自上而下開始司法智能化的探索，司法輔助系統(tǒng)的研發(fā)大大提高了公安、檢察官、法官等辦理案件的效率，對于推進以審判為中心的司法體制改革也有助力。此外，在市場利益的驅動下，公司、律師等也投入智能司法的研發(fā)中，例如，北京華宇元典信息服務有限公司，華宇元典致力于法律智能領域，研發(fā)智能輔助產品，依托數(shù)據(jù)智能，將法律與科技深度融合。

三、在審前羈押程序中建立算法風險評估的局限及其克服

（一）建立算法風險評估的局限

1.算法黑箱與刑事正當程序。刑事程序的正當性要求法律具有可預測性和確定性，具體是指人們對行使權利而產生的結果作為正當性的東西加以接受，質言之，人們接受一個裁判結果是因為其程序正當。但是“算法黑箱”的存在與刑事程序的正當性有著天然的沖突，算法風險評估具有預先編制、不對外開放、相對確定等特點，從輸入數(shù)據(jù)到產生模型，計算機基于對經驗數(shù)據(jù)的自動學習生成了高級的認知結果，這種機器學習的過程是不透明的，在公眾和在整個司法過程中也不透明，因此普通公眾不會了解算法的建構原理，自然也就不知其正當性何在。以美國魯米斯上訴最高法院一案為例，魯米斯認為初審法院的法官采納了州政府罪犯改造部門提交的量刑前調查報告（PSI），該報告中包含再犯風險評估內容COMPAS（Correctional Offender Management Profiling for Alternative Sanctions）它是根據(jù)對犯罪者的訪談和來自司法部門的信息來評估再犯的風險，侵犯了他的正當程序權利，COMPAS算法的提供者Northpointe公司以算法為商業(yè)秘密由，拒絕公開算法原理。雖然威斯康星州最高法院最終否定了魯米斯的正當程序和平等權主張，但是美國大法官也提醒法官警惕使用COMPAS算法所可能帶來的風險[16]。

算法偏見是我們不能回避的問題，算法風險評估的基礎是數(shù)據(jù)，數(shù)據(jù)的來源、數(shù)據(jù)的內容有可能會損害程序正義的價值。盡管數(shù)據(jù)無罪，但是不正當形式取得和表達不正當內容的數(shù)據(jù)則有可能會降低犯罪嫌疑人或者公眾對算法風險評估結果的接受。算法中涉及到性別、地域、疾病、職業(yè)等信息，在中國語境下都有可能會導致歧視。例如“無業(yè)、在本市無固定住所、外地人口”與“企圖自殺或逃跑”對應；“不和解、不賠償”與“可能對被害人實施打擊報復”對應；“有前科、由賭博、吸毒惡行、無生活來源”與“可能實施新的犯罪”對應。如前文提到了司法實踐中總結出的有無社會危險性的模式化組合“可能判處徒刑以上刑罰＋外來人員是有社會危險性”中就包含有對“農民工”等外來人員的隱形歧視，算法的研發(fā)者也可能把自身的某些歧視寫入算法之中，比如對艾滋病、甲肝乙肝等傳染病患者的歧視，或者對于福建莆田、浙江溫州人等地區(qū)歧視等。算法必要包含價值判斷，價值中立的平等算法是不存在的，我們需要時刻反省和重思其背后的倫理基礎，避免某些不正當?shù)乃惴ā?/p>

2.算法評估與證據(jù)裁判原則。據(jù)裁判原則是法治和理性對刑事裁判的必然要求。逮捕是一項涉及公民人身權利的重要措施，逮捕的條件理應符合證據(jù)裁判的要求，社會危險性的審查亦然。但是算法風險評估與證據(jù)裁判原則存在兩個隱含的矛盾：一是算法風險評估的因素本身的真實性和準確性有待驗證，作為風險因素的很多本身就是需要用證據(jù)加以證明的，比如犯罪嫌疑人以犯罪所得為主要生活來源或者犯罪嫌疑人有吸毒、賭博等惡習，需要公安機關提供相應的證據(jù)加以證明。在算法的建構過程中，如何建立證據(jù)鏈來證明風險因素的真實性和準確性是值得關注的問題，目前學界尚未對逮捕條件中社會危險性的證明模式形成統(tǒng)一定論，如何讓機器來深度學習這一裁量過程也是該技術發(fā)展的關鍵問題。二是風險評估結果的屬性不明確，有學者認為應該承認專業(yè)性風險評估的證據(jù)能力，彌補檢察機關、偵查機關以及律師等在社會危險性判斷的專業(yè)不足[17]。還有學者認為法律AI（算法風險評估）實質上是另一種形式的經驗法則，它可能包含犯罪嫌疑人個人信息、犯罪歷史、個人品格、生活經歷等，算法模型的建立主要是基于經驗法則，風險評估的結果應該視為一種“經驗證據(jù)”[18]。還有學者認為算法風險評估的結果可以作為品格證據(jù)運用到審前程序中，品格證據(jù)具備反映犯罪嫌疑人、被告人在涉案前的一貫表現(xiàn)的功能，會對其是否選擇逃避刑事追訴、干擾刑事訴訟進程和在等候審判期間再度犯罪產生基礎而深遠的影響。筆者認為，在逮捕審查訴訟化的過程中，算法風險評估的引入勢必需要對其法律屬性予以明確，并設置相應的程序保障其效果的實施。

3.算法判斷與執(zhí)法者的自由裁量權。算法風險評估的運用一方面可以對自由裁量權進行限縮，另一方面又有可能會限制使用者的自由裁量，隱含的是算法判斷與執(zhí)法者自由裁量權的界限問題。目前在司法領域應用的人工智能產品大多只是封閉的“專家系統(tǒng)”，而不是有自主學習能力的“人工智能”，事實上，關于犯罪嫌疑人是否有逃避訴訟、是否有再犯的可能性的評估是一個復雜的過程，不能完全放棄執(zhí)法者的自由裁量權。從英美法系風險評估的發(fā)展歷史來看，第一代的風險評估是一種非結構性的判斷，主要是基于專業(yè)人員的主觀判斷的臨床評估，“自由裁量”的范圍過大；第二代評估工具基于一系列個體評估條目的精算風險評估，但是涉及的風險因素多是靜態(tài)的、不變的，“自由裁量”范圍過于狹窄；第三代和第四代評估工具在兩者之間需求平衡，將靜態(tài)風險因素和動態(tài)風險因素結合，且第四代評估工具不僅關注危險評估、需要評估而且與個案管理相聯(lián)結，在評估基礎上向管理人員提供干預的結構性計劃。由此可以看出，算法風險評估不是單純的技術更迭，在介入刑事司法程序過程中，必然與執(zhí)法者的自由裁量權存在沖突，算法判斷和執(zhí)法人員綜合自由裁量兩者不可偏廢其一，在接受技術便捷的同時，還需重視自由裁量權的重要價值。

以英國早期探索為例，英格蘭少年司法委員會在最初推行風險評估工具Asset的過程中，有學者質疑評估工作無法滿足個性需求，會使得專業(yè)人員的自由裁量被計算機替代，將專業(yè)知識商品化。也有學者認為智能化工具對司法實踐的真正影響取決于其被運用的方式，建議將管理問責與裁量權相結合，在引入技術性工具的同時，建立高責任和高自由裁量的最佳實踐模式[19]，也就是重視執(zhí)法者的自由裁量權，建立執(zhí)法者的高度責任制。筆者認為，科技的高速發(fā)展帶來的技術變革與法律必然發(fā)生沖突，在運用科技技術服務法律的同時需要明確界限，算法風險評估誠然可以審查和預測犯罪嫌疑人的社會危險性，但如何根據(jù)評估結果作出準確的逮捕或者釋放決定以及制定個性化的釋放監(jiān)管方案才是最關鍵的問題，最終需要執(zhí)法者專業(yè)的自由裁量和判斷，否則再精確的風險評估工具也無法做到真正的解決我國審前羈押的問題。

（二）算法風險評估的可能規(guī)制路徑

1.明確算法風險評估的程序公開。公開算法是刑事程序公開原則的基本要求，關鍵在于加強對算法風險評估的數(shù)據(jù)來源的監(jiān)督審查。筆者認為，以立法方式，對算法的應用采取必要的法律監(jiān)管，是一種較為便捷的防范算法黑箱可能或潛在風險的措施。雖然數(shù)據(jù)無罪，但是帶有偏見的數(shù)據(jù)會導致非正義的發(fā)生，當人工智能技術高度發(fā)達，即高級智能技術、超級智能技術發(fā)展到可以生成新規(guī)則的階段，應當制定并實行有效的制度，對規(guī)則生成、經驗積累、技能傳承等方面的數(shù)據(jù)予以嚴格控制，確保數(shù)據(jù)源于司法官的判斷，而非純粹來自智能系統(tǒng)；確保算法涉及的數(shù)據(jù)來源、數(shù)據(jù)類型、數(shù)學建模等公開可供檢查。簡言之，凡是與裁量性判斷有關的數(shù)據(jù)，必須保持刑事執(zhí)法者的主體裁量地位，算法風險評估模型處于輔助地位且必須滿足相對性、可靠性、適度性和可控性的要求。

2.在算法風險評估中貫徹證據(jù)裁判原則，加強程序審查。雖然我國目前風險評估的軟件還處于嘗試階段，但是程序審查規(guī)范化對于保障算法風險評估使用的正當性和科學性至關重要。貫徹證據(jù)裁判原則，在算法風險評估的建構中，將社會危險性條件進行細化，堅持以證據(jù)為核心，且不能僅僅依靠偵查機關收集的證據(jù)，以防止風險評估的偏向性。建議參照西方國家采取中立第三方評估的方式提高評估的專業(yè)性，并設置專業(yè)的緩刑官對評估結果進行專業(yè)判斷，將技術與專業(yè)人員的自由裁量相結合。此外，加強算法風險評估程序審查，規(guī)范算法風險評估的研發(fā)流程和應用流程。為了使得算法模型更加科學，需要相關利益方，包括公安機關、檢察機關、法院以及技術部門等的通力合作。一方面可以在事前加強對研發(fā)過程中研發(fā)人員的倫理審查，確保確保該類人員具有從事相關行業(yè)的職業(yè)倫理底線；另一方面，事后對相關智能產品進行核查，以確保流通中的智能產品不存在任何倫理問題。比如，美國未成年人審前羈押風險評估工具的研發(fā)，從樣本選擇、關鍵字輸入到建立模型，不斷的實驗和修正，再到試點監(jiān)測評估，到最后的實地使用，有著流程化的風險評估的流程。

3.加強算法風險評估的程序救濟。在審前羈押程序，犯罪嫌疑人、被告人面對的是強大的國家機關，算法風險評估數(shù)據(jù)和算法本質上也是國家權力的另一種形式的延伸。為了保障犯罪嫌疑人、被告人的權利，我們必須明確其程序救濟的權利。雖然我國刑事訴訟法規(guī)定了羈押必要性審查制度，有學者認為不應以羈押必要性審查替代逮捕救濟的立法缺失[20]，因為羈押必要性審查也需要以社會危險性評估結果為依據(jù)，那對算法評估結果的救濟就不能僅僅依靠檢察監(jiān)管的偵查監(jiān)督，還需要給與訴訟當事人權利救濟的直接途徑。筆者認為如果算法風險評估引入審前羈押領域，對于算法的審查也應該納入羈押必要性審查的范圍，并給予犯罪嫌疑人在羈押必要性審查程序中提出異議的權利。此外，可以參照民事執(zhí)行領域對第三方評估報告異議時的做法，設立一個專門的審查委員會，犯罪嫌疑人或者被告人對算法或者算法風險評估的結果有異議的時候，可以向檢察院提出申請，檢察院由專門的審查委員會對算法或者算法風險評估的結果進行審查，從而起到救濟的作用。

四、結語

人工智能在刑事領域的應用可能給人類的司法帶來根本性變革，算法風險評估可以提高審前羈押審查的規(guī)范性和精確性，但是必須明確其輔助地位，人工智能在涉及權威性法律判斷的場合只能起輔助作用，不能取代人類作出自動化決策，在審前羈押中要達到犯罪控制和保障人權的平衡，不能僅僅依靠算法，關鍵還是司法者的自由裁量，如何界定算法和自由裁量的界限應該是我們今后制定程序規(guī)則需要關注的重點。人工智能可以打開我們的視野，提高司法效率，但是司法的終極價值，比如公平和正義，還是要由司法者來做最終決策。

[注釋]：

①我國《刑事訴訟法》規(guī)定的審前羈押制度其實包括拘留和逮捕，與國際通行的arrest和detention相區(qū)別不同，我國刑訴中逮捕既是抓捕也意味著羈押狀態(tài)。為保證論述的集中性，本文對我國審前羈押程序的論述主要圍繞逮捕制度展開。

②對有證據(jù)證明有犯罪事實，可能判處徒刑以上刑罰的犯罪嫌疑人、被告人，采取取保候審尚不足以防止發(fā)生下列社會危險性的，應當予以逮捕：（一）可能實施新的犯罪的；（二）有危害國家安全、公共安全或者社會秩序的現(xiàn)實危險的；（三）可能毀滅、偽造證據(jù)，干擾證人作證或者串供的；（四）可能對被害人、舉報人、控告人實施打擊報復的；（五）企圖自殺或者逃跑的。