衛(wèi)晨曙

(中國政法大學(xué) 證據(jù)科學(xué)研究院,北京 100088)

2017年初,一則南京中院決定引入智能機器人以提高審判質(zhì)量與審判效率的新聞刷爆朋友圈,一時間關(guān)于“法官是否會被機器人取代”“機器人審理案件”“案件審理的自動售賣機”等話語成為網(wǎng)絡(luò)中的高頻詞匯。這一話題的輿論關(guān)注度從側(cè)面顯示出了人工智能在刑事審判中應(yīng)處于何種地位、發(fā)揮何種功能的問題,牽動著整個社會的神經(jīng)。關(guān)于這一問題,無論是司法決策層還是學(xué)界,都將人工智能技術(shù)定位為輔助司法的工具。具體而言,這一觀點的論證思路,即司法案件的裁判并非簡單的三段論式推理,其中仍然蘊含著案件審理法官對案件事實的感官直覺、對法律條文的理解、邏輯思維的應(yīng)用以及聯(lián)想、頓悟等多種心理活動,而當前的人工智能技術(shù)尚不具備感性判斷的能力,因而刑事審判中人工智能、大數(shù)據(jù)技術(shù)的應(yīng)用應(yīng)當定位于輔助地位。然而,這種論證思路尚處于應(yīng)然層面的邏輯推演,忽視了辦案法官與智能系統(tǒng)交互過程中面對智能系統(tǒng)自動化決策的心理認知等實然因素,面對智能辦案系統(tǒng)的自主化、智能化不斷提升、人與智能辦案系統(tǒng)聯(lián)系愈加緊密的趨勢,智能辦案系統(tǒng)是否依然發(fā)揮的是以“工具主義”為核心的輔助功能,以及我們該如何審視與規(guī)制刑事審判中的智能辦案系統(tǒng)是本文所要討論的主要內(nèi)容。

一、刑事審判中人工智能的應(yīng)用現(xiàn)狀

當前,司法領(lǐng)域中的人工智能、大數(shù)據(jù)技術(shù)具體表現(xiàn)為智能辦案系統(tǒng),例如上海“刑事案件智能輔助辦案系統(tǒng)”、貴州“政法大數(shù)據(jù)系統(tǒng)”、北京“睿法官”系統(tǒng)等等。根據(jù)不同的功能指向,我國當前刑事審判中的人工智能主要應(yīng)用于以下三個領(lǐng)域:

(一)輔助證據(jù)審查判斷

上?！靶淌掳讣悄茌o助辦案系統(tǒng)”(206系統(tǒng))是這一功能的典型代表。這一系統(tǒng)主要包括證據(jù)標準、證據(jù)規(guī)則指引,單一證據(jù)校驗以及證據(jù)鏈和全案證據(jù)審查判斷三項功能。首先,就證據(jù)指引而言,主要分為證據(jù)標準的指引和證據(jù)規(guī)則的指引,其運行原理是根據(jù)不同案件類型,分門別類地對各類案件所應(yīng)收集的證據(jù)形式、證據(jù)內(nèi)容以及收集程序等注意事項進行歸納和總結(jié),形成諸如《上海刑事案件證據(jù)收集、固定、審查判斷規(guī)則》等文本規(guī)則,將其嵌入到智能系統(tǒng)中,在辦案人員的辦案過程中對其進行指引。其次,就證據(jù)校驗而言,主要是針對單一證據(jù)的審查,主要集中在書證領(lǐng)域,其運行原理是依托人工智能深度學(xué)習、智能識別技術(shù),對過往案件中被掃描進系統(tǒng)的相關(guān)證據(jù)種類進行自主學(xué)習,進而能夠定位、識別并提取出各種證據(jù)的簽名、印章、手印等,然后再根據(jù)相關(guān)的證據(jù)標準或證據(jù)規(guī)則校驗其證據(jù)的形式、收集是否規(guī)范。最后,就證據(jù)審查判斷而言,主要是綜合全案證據(jù)的審查判斷,其運行原理是智能識別技術(shù)定位并抓取證據(jù)中曾經(jīng)出現(xiàn)的相關(guān)人物、物品、時間以及地點等要素,在此基礎(chǔ)上分析這些要素之間的相互關(guān)系,理清人物關(guān)系、運動軌跡以及物品流動軌跡,從而形成關(guān)于某一具體案件的具體故事模型,憑此對各項證據(jù)之間是否有內(nèi)在聯(lián)系、是否相互印證以及是否有矛盾或疑問進行研判,最終將分析結(jié)果提供給司法人員。

(二)輔助精準量刑

輔助精準量刑的原理一般是通過“正則表達式、上下文無關(guān)文法、命名實體識別等方式提取法律文書的情節(jié)信息,之后對提取的信息進行結(jié)構(gòu)化,用數(shù)學(xué)模型來描述數(shù)據(jù)的特點和規(guī)律,算出與其最相符的數(shù)學(xué)模型或算法,人工智能通過模擬算法,根據(jù)情節(jié)推導(dǎo)量刑結(jié)果”[1]。以法律智能公司華宇元典公司研發(fā)的“元典量刑輔助系統(tǒng)”為例,通過整合人民法院的公報案例、指導(dǎo)案例以及裁判文書網(wǎng)收錄的刑事裁判文書,根據(jù)案由和影響量刑的案件要素,對當?shù)胤ㄔ旱纳袥Q進行過濾篩選,最終由系統(tǒng)給出所選取時期內(nèi)當?shù)胤ㄔ壕驮擃愋桶讣皖惏傅牧啃虆^(qū)間分布、集中量刑值、平均量刑值等,如類似情節(jié)案件的刑期的“眾數(shù)”、最低刑期、最高刑期及平均刑期。讓辦案人員根據(jù)具體案件通過界面勾選與自定義檢索相組合的方式進行操作,輔助量刑參考結(jié)果更為精確。

(三)類案推送與案件偏離預(yù)警

類案推薦、偏離預(yù)警是實現(xiàn)同案同判的重要保障。一方面,當前各地法院的智能系統(tǒng)中,類似案件推薦功能是最為常見的功能之一,北京、上海、江蘇等地法院均有使用。類案推薦功能實現(xiàn)的前提是構(gòu)建同類案件的知識庫(數(shù)據(jù)庫),一般通過搜集同類案件海量的裁判文書,提取其中最為相似的案件情節(jié)來完成。在此基礎(chǔ)上,類案數(shù)據(jù)庫根據(jù)法官所辦的具體案件,為其推送與之最為相似的歷史案件以供法官參考。另一方面,偏離預(yù)警是指人工智能依據(jù)算法推測的結(jié)果與法官裁判的結(jié)果進行比較,在上海、江蘇、浙江、貴州、云南等地的法院智能輔助系統(tǒng)中,都包含案件偏離預(yù)警的功能模塊。主要分為實體偏離預(yù)警與程序偏離預(yù)警。前者是智能系統(tǒng)對案件實體裁判,例如罪名認定是否正確、證據(jù)形式是否合法、證據(jù)鏈條是否完整以及量刑幅度是否合理等與案件實體判決相關(guān)的問題進行比對的偏離預(yù)警。后者是智能輔助系統(tǒng)對法官辦理案件的時限、步驟等程序性規(guī)定,與系統(tǒng)相似案件的程序性規(guī)定比對,對案件辦理的全流程進行預(yù)警。

總而言之,目前智能辦案系統(tǒng)是技術(shù)與司法深度融合的產(chǎn)物。一方面,智能辦案系統(tǒng)與系統(tǒng)操作者之間的關(guān)系更為緊密,二者呈現(xiàn)出相互依存、彼此塑造的交互關(guān)系。智能辦案系統(tǒng)的運行離不開系統(tǒng)操作者與系統(tǒng)之間的雙向問答,智能辦案系統(tǒng)根據(jù)操作者的勾選指令進行即時反饋,以滿足系統(tǒng)操作者的預(yù)期需求。另一方面,目前的刑事司法人工智能已經(jīng)擴展到證據(jù)審查判斷、類似案件推送、社會危險性審查以及案件辦理糾偏預(yù)警等領(lǐng)域,逐步深入到法官的心證及自由裁量的過程。面對人工智能在刑事司法領(lǐng)域高歌猛進的態(tài)勢,難免引發(fā)人們對智能辦案系統(tǒng)分割甚至架空司法裁判權(quán)的隱憂,“法庭正暗地里將做出裁判的權(quán)力托付給沒有政治合法性的外人。難道法庭名義上的助手成了它背后的主宰者嗎?”[2]210在權(quán)力理論的視角里,這一擔憂似乎正在成為可能。

二、刑事審判人工智能技術(shù)的權(quán)力演化

進入數(shù)據(jù)社會之后,數(shù)據(jù)逐漸成為資源、財產(chǎn)甚至社會的建構(gòu)力量,而處理海量數(shù)據(jù)所需要的計算能力已經(jīng)遠超人工計算水平,因而人類對這些數(shù)據(jù)資源的利用與分配逐漸讓位于智能算法,在這一過程中算法呈現(xiàn)出具有支配性力量的權(quán)力化趨勢。這種權(quán)力更傾向于福柯眼中的權(quán)力范式,身處權(quán)力場域中的人對這種權(quán)力難以察覺,這種網(wǎng)絡(luò)化、彌散化的權(quán)力猶如毛細血管一樣滲入到刑事審判場域的各個角落,通過對人進行監(jiān)控、規(guī)訓(xùn)以及控制的方式實現(xiàn)支配控制。

(一)人的“代具性”:人工智能技術(shù)權(quán)力演化的哲學(xué)根基

從技術(shù)哲學(xué)的角度而言,人對技術(shù)的依賴從哲學(xué)層面解釋了人工智能技術(shù)可能對人產(chǎn)生的支配關(guān)系。法國當代技術(shù)哲學(xué)家貝爾納·斯蒂格勒在論述人與技術(shù)的關(guān)系時提出了人的“代具性”概念,代具(prothèse)原意是指用于替代人肢體的器具(例如肢體殘疾的人所使用的假肢),斯蒂格勒借此概念來泛指用于補遺的、人身體之外的一切技術(shù)物。斯蒂格勒認為沒有屬性就是人的第一屬性,這種天生的、原始性的缺陷是人之所以為人的本質(zhì)屬性,這就要求人不得不發(fā)明和利用技術(shù)來補救、超越自身的天生缺陷,所以說超越這種缺陷是人之為人的首要條件[3]312,進而人也成為技術(shù)性的存在。因而,人與技術(shù)則形成一種既相連又相離的關(guān)聯(lián),離開技術(shù),人就不存在,因為人的生命的延續(xù)需要以生命之外的技術(shù)為前提。反之,離開人,技術(shù)也不存在,因為技術(shù)的存在,需要人的能力作為超前動力[4]?！叭说拇咝浴睘閷徱暡门姓吲c刑事審判智能系統(tǒng)的關(guān)系提供了新的視角,人對技術(shù)天生的依賴性使得裁判者在應(yīng)用智能系統(tǒng)時,它們之間所形成的并非是一種“法官—輔助工具”的二元關(guān)系,而是法官與刑事審判輔助系統(tǒng)協(xié)作互補的一體關(guān)系,智能系統(tǒng)所擁有的文書自動生成,類似案例推薦、證據(jù)形式審查、證據(jù)標準、規(guī)則指引等功能補救了法官作為個人在面對繁瑣海量復(fù)雜的審理業(yè)務(wù)時體力與腦力的不足與缺陷,同時這種智能辦案系統(tǒng)的功能在潛移默化中成為如同辦案法官手足的一部分。

(二)自動化偏差:人工智能技術(shù)權(quán)力演化的認知基礎(chǔ)

計算機技術(shù)、人工智能等一批具有自主性技術(shù)的普及與出現(xiàn),推動了傳統(tǒng)的認知科學(xué)、計算機科學(xué)以及工效學(xué)的交叉融合,以應(yīng)對自動化時代人機關(guān)系研究的需要,從而催生出了“認知工程學(xué)(Cognitive Engineering)”。認知工程學(xué)中的“自動化偏差”現(xiàn)象揭示了人對智能機器的偏信心理。具體而言,自動化偏差指的是人們一般傾向于將計算機生成(computer generated)的結(jié)論認定是正確的,并且不進一步探究或者直接忽視可能與計算機系統(tǒng)生成結(jié)論相異的其他信息[5]。在刑事司法領(lǐng)域,美國學(xué)者的一項實驗[6]也驗證了智能系統(tǒng)的“自動化偏差”心理對裁判者決策的影響(1)“再犯風險預(yù)測工具”(Recidivism Risk Prediction Instrument,RRPI)是美國刑事司法為保障量刑的準確性而采取的、對被告人的再犯風險進行預(yù)測的智能化工具。該工具根據(jù)被告人的職業(yè)背景、婚姻狀況以及教育程度等因素將被告人的再犯風險量化為低中高三種檔次,法官在量刑時根據(jù)具體的量化風險作為其量刑決策的參考。美國密歇根大學(xué)法學(xué)院斯塔爾教授為了考察RRPI對司法決策的影響,將83位法學(xué)院學(xué)生分為A、B兩組,其中A組43人,B組40人,并將智能系統(tǒng)與案件背景等相關(guān)情況對兩組學(xué)生進行了告知,唯一不同的是:A組在進行量刑決定時不會獲取RRPI的計算結(jié)果,B組在進行量刑決定時會參考RRPI的計算結(jié)果。斯塔爾教授提供了兩則案例,羅伯特與威廉分別是實驗中兩例案件的被告人,他們所犯刑事案件的案由相同,即盜竊價值十萬美元的珠寶。他們都被判處相同的罪名(重大盜竊罪),兩人皆無犯罪前科(只不過其中一人之前因未到法定飲酒年齡飲酒被判處過輕罪),兩人都是男性并且二者的種族并未告知被測試者。但是羅伯特與威廉兩人的個人情況差別極大:羅伯特,中年人,已婚,大學(xué)學(xué)歷,珠寶連鎖店主管,犯罪動機是為自己的女兒籌集大學(xué)學(xué)費,其犯罪經(jīng)過精心策劃,將珠寶首飾盜取后,又用贗品予以代替并售賣,掩飾其犯罪行為;威廉,21歲,單身未婚,無業(yè),酗酒,最近被父母趕出家門,在商場尋找零售工作時看到珠寶展示柜臺被打開,遂生歹意,因而當即決定盜取大量珠寶首飾。經(jīng)過RRPI的計算,羅伯特的再犯風險等級處于“低等”,威廉的再犯風險等級處于“中高等”。最終,在A組中,17人決定判處羅伯特更長的刑期,13人決定給予判處二人相同的刑期,13人決定判處威廉更長的刑期;在B組中,僅有8人決定判處羅伯特更長的刑期,9人決定判處二人相同的刑期,23人決定判處威廉更長的刑期。。

(三)國家權(quán)力:人工智能技術(shù)權(quán)力演化的權(quán)力基礎(chǔ)

一方面,國家權(quán)力為刑事審判人工智能的正當性提供話語保障。2016年7月,在由中共中央辦公廳、國務(wù)院辦公廳印發(fā)的《國家信息化發(fā)展戰(zhàn)略綱要》中,“智慧法院”成為國家信息化發(fā)展戰(zhàn)略的重要組成部分,“建設(shè)智慧法院,提高案件受理、審判、執(zhí)行、監(jiān)督等各環(huán)節(jié)信息化水平,推動執(zhí)法司法信息公開,促進司法公平正義”。2017年5月,周強在全國法院第四次信息化工作會議上指出:“建設(shè)智慧法院,是順應(yīng)新一輪科技革命浪潮的必然選擇,是提升司法公信力的重大舉措,是提升人民群眾獲得感的有效手段,是深化人民法院司法改革的重要支撐。”從政治系統(tǒng)到司法高層都為刑事審判中智能辦案系統(tǒng)的應(yīng)用提供了充分的話語準備,為其運行的合正當性與合法性提供了背書。

另一方面,國家權(quán)力為算法權(quán)力提供司法數(shù)據(jù)保障。算法的運行離不開數(shù)據(jù)的“喂養(yǎng)”。在萬物皆可數(shù)據(jù)化的時代,刑事司法大數(shù)據(jù)成為司法機關(guān)握有的特殊權(quán)力資源。司法領(lǐng)域內(nèi)形成的數(shù)據(jù)資源不同于以社會為背景的大數(shù)據(jù)資源。一是司法大數(shù)據(jù)的占有主體具有單一性,司法大數(shù)據(jù)的占有主體僅為司法機關(guān),辯護律師、訴訟當事人以及其他社會組織能夠通過裁判文書公開網(wǎng)等司法公開途徑獲取司法數(shù)據(jù),但是這樣獲取的司法數(shù)據(jù)是十分有限的,例如裁判文書公開網(wǎng)公開的僅僅是判決書與裁定書,而與案件相關(guān)的其他訴訟文書,如審判委員會的會議紀要、合議庭會議記錄以及法院的案件審結(jié)報告等文件則未予公開。二是司法數(shù)據(jù)與社會數(shù)據(jù)之間數(shù)據(jù)流動的單向性。為保障案件認定的準確性,司法大數(shù)據(jù)能夠主動吸納與犯罪嫌疑人、被告人有關(guān)的社會數(shù)據(jù),而司法數(shù)據(jù)因其特殊性并不會流向社會為公眾所知,例如刑事被追訴人的軌跡數(shù)據(jù)信息、賬單數(shù)據(jù)信息以及音視頻數(shù)據(jù)信息等會因刑事訴訟的進行而進入司法場域,成為案件辦理的重要數(shù)據(jù)資源,在此基礎(chǔ)上形成的數(shù)據(jù)信息則在圈存在司法場域內(nèi)。

(四)技術(shù)外包:人工智能技術(shù)權(quán)力演化的知識基礎(chǔ)

技術(shù)“外包”(outsource)是目前刑事司法領(lǐng)域智能系統(tǒng)所采取的普遍的研發(fā)模式。所謂技術(shù)“外包”是司法機關(guān)將審判智能系統(tǒng)研發(fā)所依賴的專業(yè)技術(shù)交由司法機關(guān)以外的數(shù)據(jù)服務(wù)商或者科技公司等主體,司法機關(guān)主要提供司法活動中產(chǎn)生的大數(shù)據(jù),同時向技術(shù)公司準確描述智能系統(tǒng)所應(yīng)具備的目標需求。當前各地法院智能辦案系統(tǒng)合作研發(fā)情況如表1所示。

表1 法院智能辦案系統(tǒng)合作研發(fā)情況

技術(shù)“外包”的研發(fā)模式是智能系統(tǒng)研發(fā)中公私主體的一次合作,但更為重要的是,這一過程中存在著法學(xué)專業(yè)知識與智能技術(shù)知識兩套知識體系的分野,這種專業(yè)精細的學(xué)科知識為刑事審判場域算法權(quán)力的產(chǎn)生提供了知識基礎(chǔ)。法國哲學(xué)家福柯認為權(quán)力與知識二者密不可分,相互勾連,知識造就權(quán)力,權(quán)力生產(chǎn)知識[7]20-25,可以說掌握專門知識的人就是掌握權(quán)力的人。

從目前刑事審判智能系統(tǒng)的研發(fā)實踐來看,科學(xué)技術(shù)知識與法學(xué)專業(yè)知識之間在一定程度上處于隔絕的狀態(tài)[8],法學(xué)專業(yè)知識與智能算法的契合度較低,這兩套知識體系的差異形成了智能算法技術(shù)對司法人員的支配和控制。辦案法官并不了解智能系統(tǒng)的運行原理,智能辦案系統(tǒng)在收集、篩選以及處理數(shù)據(jù)時因“黑箱原理”難以完整呈現(xiàn)其具體運算過程,加之前文提及的“自動化偏差”認知機制的影響,法官無法對智能系統(tǒng)生成的結(jié)論進行深刻的批判與質(zhì)疑,最終使得法官臣服于智能系統(tǒng)算法決策的結(jié)果。這種技術(shù)“外包”研發(fā)模式所導(dǎo)致的法學(xué)知識與智能算法知識之間的不平等性,推動了刑事審判場域中智能系統(tǒng)的權(quán)力化。

(五)系統(tǒng)架構(gòu):人工智能權(quán)力演化的現(xiàn)實動力

架構(gòu),又稱軟件架構(gòu)(software architecture),是計算機科學(xué)中的專業(yè)術(shù)語,架構(gòu)并非軟件,而是軟件設(shè)計的宏觀策略,為特定問題提供抽象解決方案。架構(gòu)的本質(zhì)是其所包含的解決特定問題的既定路徑或預(yù)設(shè)步驟所產(chǎn)生的剛性效力,核心在于對架構(gòu)內(nèi)行為主體的規(guī)制作用。人工智能時代,算法搭建了諸如淘寶、亞馬遜以及臉書等一系列電商平臺、社交媒體等系統(tǒng)架構(gòu),這些系統(tǒng)架構(gòu)規(guī)范著系統(tǒng)內(nèi)用戶的具體行為。以亞馬遜公司的“混沌存儲算法管理倉庫”為例,在此智能倉庫內(nèi),貨物先由算法根據(jù)其體積、種類以及貨架空間進行擺放、存儲,人工通過算法定位所需貨物,根據(jù)架構(gòu)指引進行取貨調(diào)貨,這一過程可以說是人的行為受到了系統(tǒng)架構(gòu)的支配[9]。

具體到刑事審判領(lǐng)域,以“上海刑事案件智能輔助系統(tǒng)”為例,這一系統(tǒng)也可以看作是一個系統(tǒng)架構(gòu),該系統(tǒng)為實現(xiàn)刑事證據(jù)標準的指引功能,預(yù)先設(shè)定了實現(xiàn)該功能的路徑與規(guī)則,例如先根據(jù)地方司法機關(guān)制定的類案證據(jù)標準構(gòu)建不同案件的證據(jù)模型,根據(jù)不同模型形成刑事案件證據(jù)指引的知識庫,在此基礎(chǔ)上根據(jù)刑事訴訟活動不同階段的不同證據(jù)標準,將知識庫嵌入系統(tǒng),對辦案人員的證據(jù)收集行為進行引導(dǎo)。在這一過程中,智能辦案系統(tǒng)產(chǎn)生了對辦案人員的約束力,這一系統(tǒng)會對辦案人員收集的證據(jù)進行校驗和審查,如果證據(jù)出現(xiàn)瑕疵,除非司法辦案人員能夠?qū)﹁Υ米C據(jù)進行補正或說明,那么該系統(tǒng)就會自動阻斷證據(jù)進入下一個階段。在司法實踐中可能出現(xiàn)辦案人員為了使證據(jù)標準能夠符合系統(tǒng)要求,不得不按照系統(tǒng)的要求再次進行證據(jù)收集與補正,在這一過程中,刑事審判智能系統(tǒng)憑借架構(gòu)優(yōu)勢所形成的規(guī)范效力,支配著辦案人員現(xiàn)實的證據(jù)審查行為。

三、刑事審判人工智能權(quán)力化的正當性風險

人工智能技術(shù)作為不同于刑事司法的社會系統(tǒng),其并不具備傳統(tǒng)刑事審判的中立、公開、準確等正當性品格,反而可能會對其造成侵蝕或不當干預(yù)。因而,有人將數(shù)據(jù)時代的人工智能算法稱為“數(shù)字殺傷性武器”,隨著人工智能技術(shù)與刑事司法的深度融合,其引發(fā)的正當性風險也將逐漸顯現(xiàn)。

(一)規(guī)訓(xùn)風險

人工智能技術(shù)權(quán)力作為一種彌散于刑事審判場域的權(quán)力范式,其與作用主體之間形成了“泛在”的權(quán)力關(guān)系,表現(xiàn)為對人或主體無處不在的引導(dǎo)或操縱,這種“無意識”的權(quán)力治理術(shù)規(guī)訓(xùn)著法官在裁判過程中的自主性。

一是智能辦案系統(tǒng)對法官裁判行為的引導(dǎo)作用。智能辦案系統(tǒng)的證據(jù)指引、量刑輔助以及類案推送功能通過構(gòu)建數(shù)據(jù)模型實現(xiàn)對法官辦案行為的導(dǎo)引,這種數(shù)據(jù)模型形塑了法官辦案的行為。法官在智能辦案系統(tǒng)中無外乎一個助推系統(tǒng)運行的“零件”,無論辦案法官自身有著怎樣的辦案慣習,在智能辦案系統(tǒng)整齊劃一的運行指令下,他們認知案件事實的步驟必須滿足智能辦案系統(tǒng)的要求,司法辦案人員的行為受到智能辦案系統(tǒng)的調(diào)控與約束,法官的主體性在這一過程中可能會遭受消解,導(dǎo)致機械司法的出現(xiàn)。

二是智能辦案系統(tǒng)對法官裁判行為的監(jiān)督作用。大數(shù)據(jù)技術(shù)能把法官在辦案過程中所生成的全部數(shù)據(jù)悉數(shù)保存,形式不僅局限于以往審結(jié)率、上訴率等以數(shù)字呈現(xiàn)的數(shù)據(jù),同時也包括如法官的庭審視頻、語音記錄以及電子卷宗等等,法官無異于置身巨量數(shù)據(jù)所形成的“數(shù)據(jù)牢籠”之中。仍以上海206系統(tǒng)的偏離預(yù)警功能為例,“在法官決定判決時,寫好判決書放入系統(tǒng)里,系統(tǒng)會自動提示跟本院以及上級法院有將近85%的類似情況下的判決是不一樣的,問法官是否堅持這樣做,若堅持該判決,那么系統(tǒng)將自動把判決推送給庭長以供討論?！?2)最高法司改辦何帆:中國法院正努力把人工智能引入辦案系統(tǒng)[EB/OL].(2017-07-29)[2021-01-24].http:∥finance.sina.com.cn/roll/2017-07-29/doc-ifyinryq7012174.shtml.這種智能辦案系統(tǒng)的監(jiān)測預(yù)警功能與辦案法官之間形成了微妙的控制關(guān)系,智能辦案系統(tǒng)通過對法官判決的監(jiān)測,可能成為規(guī)訓(xùn)法官裁判符合其預(yù)警標準的調(diào)控技術(shù)。

(二)排斥風險

隨著智能辦案系統(tǒng)逐漸深入刑事審判程序的關(guān)鍵領(lǐng)域,諸如刑事證據(jù)審查、輔助量刑等關(guān)切刑事被追訴人程序性權(quán)利與實體性權(quán)利的決策由智能系統(tǒng)作出,然而智能辦案系統(tǒng)排斥刑事被追訴人參與到司法決策的程序中。

一是算法黑箱限縮了刑事被追訴人行使程序性權(quán)利。智能辦案“算法黑箱”的封閉性加劇了刑事審判中控辯雙方信息不對稱的狀況,使本就處于弱勢地位的刑事被追訴人難以行使程序性權(quán)利。以質(zhì)證為例,最高人民法院《刑事訴訟法解釋》第七十一條規(guī)定:“證據(jù)未經(jīng)當庭出示、辨認、質(zhì)證等法庭調(diào)查程序查證屬實,不得作為定案的根據(jù)。”證據(jù)質(zhì)證是被追訴人程序參與,實現(xiàn)庭審實質(zhì)化的重要方式,被告人行使質(zhì)證權(quán)的前提是能夠提前獲知控方證據(jù)的具體信息,作為質(zhì)證意見的依據(jù)。但是,面對控方借由智能系統(tǒng)生成的指控證據(jù),由于算法黑箱的存在,被追訴人難以獲知智能系統(tǒng)生成結(jié)論依賴的海量數(shù)據(jù)及智能算法,即便能夠獲知這些信息,被追訴人也缺乏相關(guān)知識進行計算和理解。例如在一起涉稅案件中,整個案件涉及的資金流水數(shù)據(jù)達到上億條,賬戶數(shù)據(jù)上萬個,憑借人力難以進行梳理與分析,檢察機關(guān)通過搭建數(shù)據(jù)模型,利用數(shù)據(jù)挖掘等技術(shù)刻畫了資金來源和去向的案件網(wǎng)絡(luò)[10],面對這一案件中數(shù)據(jù)模型生成的關(guān)于資金網(wǎng)絡(luò)的證據(jù)材料,數(shù)據(jù)量巨大,數(shù)據(jù)關(guān)系復(fù)雜,被告人及辯護律師難以對其有效進行質(zhì)證。

二是智能系統(tǒng)的商業(yè)秘密特免權(quán)排斥刑事被追訴人獲知智能辦案系統(tǒng)的代碼信息,被追訴人難以參與到事關(guān)自身權(quán)益的決策程序中。這一現(xiàn)象在國內(nèi)并未引發(fā)爭議,在國外已經(jīng)成為智能辦案系統(tǒng)妨礙被追訴人正當程序權(quán)利的爭論焦點[11]。當受智能辦案系統(tǒng)決策影響的刑事被追訴人提出公開智能辦案系統(tǒng)源代碼(source code)的請求時,這些商業(yè)科技公司以這些代碼屬于本公司的商業(yè)秘密,應(yīng)享有商業(yè)秘密特免權(quán)(trade secret privilege)保護為由拒絕公開智能辦案系統(tǒng)的代碼信息,并且這一主張得到了法院的支持。今后,商業(yè)秘密特免權(quán)在我國很可能成為橫亙在智能辦案系統(tǒng)與刑事被追訴人之間的鴻溝。2014年以來,我國人工智能專利授權(quán)量增速較快,從人工智能專利的申請主體而言,2017年排名前20的中國申請人僅中國科學(xué)院為科研單位,其余均為企業(yè)申請人(3)國家知識產(chǎn)權(quán)局規(guī)劃發(fā)展司.2017年我國人工智能領(lǐng)域?qū)＠饕y(tǒng)計數(shù)據(jù)報告[EB/OL].(2018-10-18)[2021-01-24].https:∥www.cnipa.gov.cn/20181114100805476353.pdf.。同時,我國刑事訴訟法第五十四條第三款規(guī)定:“對涉及國家秘密、商業(yè)秘密個人隱私的證據(jù),應(yīng)當保密。”這種商業(yè)秘密特免權(quán)在今后可能成為被追訴人參與智慧司法決策的阻礙。

(三)誤判風險

科技系統(tǒng)與司法系統(tǒng)分屬兩個不同的社會子系統(tǒng),二者在目標利益與運行邏輯上差異較大,例如科技注重對效率的追求,司法更強調(diào)公平而兼顧效率,這在刑事司法領(lǐng)域可能導(dǎo)致誤判的風險。

一是智能辦案系統(tǒng)的轉(zhuǎn)譯模式導(dǎo)致的誤判風險。在刑事司法場域,為了保障智能算法能夠識別法律文本,需要對其進行代碼化轉(zhuǎn)譯。一方面,從法律文本的轉(zhuǎn)譯主體而言,智能系統(tǒng)的設(shè)計工程師和程序員將法律規(guī)范及相關(guān)司法解釋轉(zhuǎn)譯為能夠被算法識別運算的程序代碼。但是,程序員并非法定的立法主體和法律解釋主體,同時其也缺乏相關(guān)的法律知識,在轉(zhuǎn)譯的過程中程序員可能會曲解、簡化法律文本,存在著被程序員簡化或誤讀而改變立法原意的風險。例如,在美國,從2004年9月到2007年4月之間,程序員將900多條理解錯誤的法律規(guī)范編寫嵌入到科羅拉多州的公共福利系統(tǒng)(CMBS)中,這一失誤波及所有受該系統(tǒng)影響的人群,造成了成千上萬受該系統(tǒng)配給社會福利的人喪失了公共福利待遇[12]。另一方面,法律文本轉(zhuǎn)譯的遲滯性問題可能會帶來智能辦案系統(tǒng)的準確性降低。政策法規(guī)向計算機代碼的轉(zhuǎn)換之間具有一定的時間差,一些新近修訂的政策法規(guī)無法及時嵌入自動化決策系統(tǒng)從而導(dǎo)致系統(tǒng)決策準確性降低。

二是智能辦案系統(tǒng)的數(shù)據(jù)處理方式導(dǎo)致的誤判風險。一方面,在數(shù)據(jù)輸入層面,刑事司法人工智能離不開司法大數(shù)據(jù)的喂養(yǎng),在數(shù)據(jù)與智能的關(guān)系上,即“rubbish in,rubbish out”(垃圾進,垃圾出),司法大數(shù)據(jù)的質(zhì)量一定程度上決定了司法人工智能決策的質(zhì)量。我國目前司法大數(shù)據(jù)仍然存在著不充分、不真實、不客觀以及結(jié)構(gòu)化不足的特點[13],匱乏且低質(zhì)的數(shù)據(jù)輸入難以保障智能辦案系統(tǒng)的準確性。另一方面,在數(shù)據(jù)處理層面,如果說數(shù)據(jù)是人工智能運行的“燃料”,那么處理數(shù)據(jù)的算法即是人工智能的“引擎”。在智能時代,算法已經(jīng)逐漸脫離“技術(shù)中立”的價值立場,一些對性別、地域、種族等因素的預(yù)設(shè)觀念在進行算法設(shè)計的同時也被植入到智能辦案系統(tǒng)中,由此導(dǎo)致的“算法偏見”“算法歧視”問題也成為掣肘智能系統(tǒng)辦案準確性的重要因素。

四、刑事審判中人工智能技術(shù)的規(guī)制路徑

面對刑事審判場域中人工智能的權(quán)力化趨勢,人工智能規(guī)制更應(yīng)注重技術(shù)的權(quán)力傾向以及由此引發(fā)的對相關(guān)主體的引導(dǎo)與操控。因而,刑事審判場域中人工智能技術(shù)的規(guī)制應(yīng)主要從智能系統(tǒng)的操作主體——裁判者、智能系統(tǒng)的作用對象——辯護方以及智能系統(tǒng)自身三方面展開。

(一)裁判自主化的適用機制

首先,根據(jù)案件類型合理安排智能系統(tǒng)的適用。目前,我國刑事輔助辦案智能系統(tǒng)主要具備證據(jù)標準指引查驗、量刑輔助以及案件裁判偏離預(yù)警等功能,但是目前刑事智能系統(tǒng)的發(fā)展尚不完善,仍舊存在著案件情節(jié)提取準確度不足、類案識別準確率偏低以及模型訓(xùn)練的樣本瑕疵等問題。為了保障準確審判案件,保障被追訴人的合法權(quán)利不受智能系統(tǒng)決策的影響。一方面,根據(jù)案件的復(fù)雜程度以及量刑幅度決定是否適用智能系統(tǒng)輔助決策。倘若案件情節(jié)復(fù)雜、量刑可能偏高的案件應(yīng)當減少智能系統(tǒng)的使用。另一方面,根據(jù)案件中被告人及辯護人的認罪態(tài)度決定是否適用智能輔助系統(tǒng)。若被告人不認罪或者辯護人做無罪辯護的,法院不宜使用智能系統(tǒng),防止智能系統(tǒng)產(chǎn)生的決策在認知偏差的作用下使法官產(chǎn)生預(yù)判從而導(dǎo)致未判先決的情況發(fā)生[14]。

其次,根據(jù)智能辦案系統(tǒng)的功能合理選擇智能系統(tǒng)的適用。根據(jù)目前智能系統(tǒng)的功能,可以將其分為預(yù)警性功能與引導(dǎo)性功能,前者如案件審判偏離預(yù)警、量刑幅度預(yù)警,主要提醒裁判者案件審理的程序或?qū)嶓w性事項,注重防錯糾偏,這種功能往往集中于事后糾偏,對裁判自主性影響相對較小;后者如證據(jù)審查指引、量刑輔助以及類案指引等,這類功能傾向于事前引導(dǎo),可能會對裁判者產(chǎn)生心理錨定,影響司法權(quán)的自主運行。因此,對于預(yù)警性功能而言,裁判者要認真比對、核查人工決策與系統(tǒng)預(yù)警之間的差異,依據(jù)系統(tǒng)的預(yù)警提示作出的更改應(yīng)當標注留痕。對于引導(dǎo)性功能而言,可以借鑒美國法院使用COMPAS系統(tǒng)的經(jīng)驗,可以對裁判者提供辦案系統(tǒng)局限性的書面提示(written advisement of its limitation),告誡智能系統(tǒng)的操作者(法官)該系統(tǒng)的準確性、透明性尚不完備,系統(tǒng)決策僅具有參考意義,在參照決策時應(yīng)當審慎。

最后,裁判者應(yīng)提升自身的綜合素養(yǎng)。刑事智能系統(tǒng)對裁判者的控制支配源于裁判者的法學(xué)知識與算法的編碼知識之間的專業(yè)槽,這種專業(yè)之間的差距形成了算法對裁判者的相對權(quán)威,破解這種權(quán)力關(guān)系的途徑即是裁判者在自身的專業(yè)技能之外,能夠?qū)Υ髷?shù)據(jù)、智能算法以及辦案過程中應(yīng)用到的智能系統(tǒng)的工作原理有一定的了解,提高對刑事司法智能系統(tǒng)決策的認知水平,逐漸破除因知識權(quán)威而形成的對智能系統(tǒng)的神秘感與依賴感。

(二)辯方平等化的參與機制

首先,拓寬智能辦案系統(tǒng)的公開途徑。一是制作并公開刑事司法智能系統(tǒng)的操作指南。美國刑事司法領(lǐng)域中COMPAS系統(tǒng)的操作指南(Practitione’s Guide to COMPAS Core)即面向全社會公開,這份指南由Northpointe公司編寫,一共分為六部分,對COMPAS系統(tǒng)的歷史發(fā)展、系統(tǒng)構(gòu)成、主要功能、運行原理、系統(tǒng)估值含義以及系統(tǒng)決策的正確率與可靠性作了全面詳細的介紹與論證。我國的刑事司法智能系統(tǒng)目前尚未有公開的操作指南,可以根據(jù)智能系統(tǒng)的具體功能制作并公開完備的系統(tǒng)操作指南。二是設(shè)置智能系統(tǒng)的算法研發(fā)聽證程序?？梢栽O(shè)立刑事司法智能系統(tǒng)算法評估委員會,委員會里應(yīng)當有技術(shù)專家、法學(xué)專家、社會公眾代表等人員的參與,就數(shù)據(jù)來源、數(shù)據(jù)提取和刪除標準、數(shù)據(jù)賦權(quán)比重、算法種類選取、算法運行一般原理以及智能系統(tǒng)主要功能指向等問題展開介紹與討論,這樣可以在一定程度上增強智能系統(tǒng)的透明性,同時也使自身利益受智能算法影響的訴訟當事人更易接受智能辦案系統(tǒng)的決策結(jié)論。三是關(guān)于智能辦案系統(tǒng)代碼商業(yè)秘密保護的問題。根據(jù)我國《刑事訴訟法司法解釋》第八十一條規(guī)定:“公開審理案件時,公訴人、訴訟參與人提出涉及國家秘密、商業(yè)秘密或者個人隱私的證據(jù)的,法庭應(yīng)當制止;確與本案有關(guān)的,可以根據(jù)具體情況,決定將案件轉(zhuǎn)為不公開審理,或者對相關(guān)證據(jù)的法庭調(diào)查不公開進行?！边@一規(guī)定旨在通過不公開審理等程序性技術(shù)措施緩解因商業(yè)秘密保護帶來的訴訟困難,因此當刑事被追訴人提起公開智能辦案系統(tǒng)相關(guān)涉及商業(yè)秘密信息的請求時,可以通過不公開審理、不公開法庭調(diào)查等方式將商業(yè)秘密規(guī)制于庭審范圍內(nèi),保障智能辦案系統(tǒng)的核心算法信息僅在控辯之間公開。

其次,保障刑事被追訴人能夠有效參與智能系統(tǒng)的權(quán)利。從數(shù)據(jù)層面而言,被指控人的辯護律師可以請求查看、修改、更正以及解釋智能系統(tǒng)中與自身權(quán)益相關(guān)的數(shù)據(jù)。我國刑事訴訟法第四十條規(guī)定:“辯護律師自人民檢察院對案件審查起訴之日起,可以查閱、摘抄、復(fù)制本案的案卷材料。其他辯護人經(jīng)人民法院、人民檢察院許可,也可以查閱、摘抄、復(fù)制上述材料?！边@一規(guī)定賦予辯護律師的閱卷權(quán)可以作為刑事被追訴人要求獲知智能系統(tǒng)內(nèi)相關(guān)數(shù)據(jù)的依據(jù)。例如辯護律師可以對系統(tǒng)中所錄入的前科信息、戶籍信息、工作信息以及教育水平等信息進行核查與校正,保障數(shù)據(jù)的真實性與準確性。從算法層面而言,可以賦予被指控人算法解釋權(quán)。算法解釋權(quán)是誕生于民商事糾紛領(lǐng)域內(nèi)的請求性權(quán)利,其在自動化決策領(lǐng)域維護著雙方地位平等的法律價值,在刑事司法領(lǐng)域,由于智能系統(tǒng)導(dǎo)致控辯審在信息收集、分析能力上的不對稱的現(xiàn)象,司法機關(guān)應(yīng)當對智能系統(tǒng)的算法進行解釋。具體而言,解釋的主體包括智能系統(tǒng)的使用者和研發(fā)者;解釋的內(nèi)容應(yīng)當主要包括輸入的數(shù)據(jù)類型、算法的運行原理、智能辦案系統(tǒng)的主要功能、智能辦案系統(tǒng)的結(jié)論與現(xiàn)實決策之間的關(guān)聯(lián)性等;解釋的標準是以受系統(tǒng)決策影響的被指控人及其辯護律師能夠理解為限度,鑒于算法黑箱與技術(shù)專業(yè)性,解釋主體不必確切描繪系統(tǒng)運算的具體過程細節(jié);解釋的方式可以通過口頭解釋或者通過可視化的動畫演示。

最后,司法機關(guān)應(yīng)當履行告知義務(wù)。刑事被指控人應(yīng)對智能系統(tǒng)抗辯權(quán)的行使離不開司法機關(guān)的有效告知。司法機關(guān)在應(yīng)用刑事智能系統(tǒng)之前,尤其是在影響被指控人權(quán)利的領(lǐng)域,例如輔助量刑時,應(yīng)當告知犯罪嫌疑人、被告人其司法決策的決定過程摻入了智能系統(tǒng)的計算結(jié)論。例如公訴機關(guān)應(yīng)用智能系統(tǒng)量刑輔助功能制作量刑建議書時應(yīng)當告知犯罪嫌疑人,法官在應(yīng)用智能系統(tǒng)進行證據(jù)查驗、量刑輔助或者被告人的再犯可能性審查時,也應(yīng)當告知報告人。如果犯罪嫌疑人、被告人及其辯護律師明確表示不愿意適用智能系統(tǒng)的自動決策結(jié)論,應(yīng)當尊重其選擇,退出依靠智能系統(tǒng)輔助司法決策的決議過程,進行人工審查決策。

(三)決策可靠化的研發(fā)機制

首先,提高刑事司法智能系統(tǒng)的技術(shù)研發(fā)水平。一是提高司法大數(shù)據(jù)數(shù)量與質(zhì)量。目前我國刑事司法智能系統(tǒng)的可輸入運算的數(shù)據(jù)量仍較小,上海刑事案件智能輔助辦案系統(tǒng)僅學(xué)習了1.5萬份卷宗材料,這一問題應(yīng)當給予司法機關(guān)和技術(shù)部門一定的時間尋求技術(shù)上的突破,中國的司法數(shù)據(jù)是較為豐富的,我國法院系統(tǒng)也正在不斷地將過往裁判文件數(shù)據(jù)化。同時,應(yīng)當注意輸入系統(tǒng)內(nèi)的數(shù)據(jù)與案件事實的相關(guān)性、地域差異性等因素。二是保障法律文本向程序代碼轉(zhuǎn)譯的準確性。一方面,司法機關(guān)要主動對嵌入系統(tǒng)中的法律文本進行篩選,對已經(jīng)失效或修訂過的法律規(guī)范進行剔除與校正,對智能系統(tǒng)進行周期性評測,保障系統(tǒng)運算結(jié)果的準確性。另一方面,應(yīng)當促進法學(xué)知識與算法知識的融合,技術(shù)人員對法律文本進行代碼化的過程中,司法人員應(yīng)當介入并對相關(guān)專業(yè)術(shù)語作出解釋,將司法專業(yè)知識與司法實踐知識結(jié)合,將司法理論知識與計算機科學(xué)知識結(jié)合,確保辦案系統(tǒng)研發(fā)的專業(yè)性與準確性。

其次,對刑事司法領(lǐng)域中的智能系統(tǒng)進行第三方評估監(jiān)管。第三方監(jiān)管評測是國外規(guī)制刑事司法風險評估工具的常見舉措。例如,哈佛大學(xué)法學(xué)院開展了對美國若干州內(nèi)審前風險評估工具效能評估的項目,對美國若干州內(nèi)的公共安全評估(public safety assessment,PSA)系統(tǒng)的功效進行評測,目的是為了測試風險評估工具生成的審前羈押決策(pretrial incarceration decisions)的準確性和實效性。我國可以考慮將科研院所、高校以及非盈利機構(gòu)作為智能辦案系統(tǒng)評估的主體,將智能系統(tǒng)的數(shù)據(jù)采集、算法模型選取以及系統(tǒng)決策錯誤率作為評測的主要內(nèi)容,對國內(nèi)刑事智能辦案系統(tǒng)的可靠性進行評測。此外,應(yīng)當注意的是第三方評估的周期性,應(yīng)當定期開展系統(tǒng)評估,為司法機關(guān)與技術(shù)部門提供長效穩(wěn)定的評估報告。