劉 蓓 張雅楠

（長(zhǎng)春工業(yè)大學(xué),吉林 長(zhǎng)春 130000）

1 國內(nèi)外AI助力審判實(shí)踐歸結(jié)

近年來，各國法院普遍面臨訴訟激增、案多人少的難題。運(yùn)用AI輔助審判能夠減輕法官非審判性工作的負(fù)擔(dān)，因此各國紛紛著手構(gòu)建AI輔助審判的“智慧型法院”。

在我國，適用AI輔助審判的態(tài)度較為積極。例如，北京“睿法官”系統(tǒng)是為執(zhí)行最高院信息化戰(zhàn)略部署而研發(fā)的。該系統(tǒng)通過大數(shù)據(jù)和AI相融合沖破了傳統(tǒng)庭審方式，實(shí)現(xiàn)了智能化庭審的華麗轉(zhuǎn)型，“睿法官”實(shí)現(xiàn)了總結(jié)爭(zhēng)議焦點(diǎn)、類案推送、生成裁判文書的智能化，對(duì)于案情復(fù)雜、爭(zhēng)議較大的案件還能輔助法官校對(duì)案件事實(shí)，提取裁量因素進(jìn)行審判研判，統(tǒng)一裁判尺度。然而，該系統(tǒng)存在數(shù)據(jù)孤島、弱AI的低智等弊端。此外，上海為完成“推進(jìn)以審判為中心的訴訟制度改革軟件”的部署，研發(fā)出“上海刑事案件智能輔助辦案系統(tǒng)”（簡(jiǎn)稱“206系統(tǒng)”）。該系統(tǒng)既能審查逮捕條件、評(píng)估社會(huì)危險(xiǎn)性、進(jìn)行類案推送，也能自動(dòng)生成裁判文書、實(shí)現(xiàn)電子卷宗轉(zhuǎn)移，亦能夠輔助司法工作人員檢查證據(jù)收集是否合法、分析并判斷在案證據(jù)能否互相印證及證據(jù)之間是否存在矛盾、證據(jù)鏈?zhǔn)欠駷殚]合證據(jù)鏈等。在深化智慧法院建設(shè)的背景下，我國各地具有輔助審判功能的AI系統(tǒng)逐漸涌現(xiàn)，如河北法院“智審1.0”系統(tǒng)、智慧審判蘇州模式等。

在國外，也有豐富的AI輔助審判的實(shí)踐模板。首先，美國積極探索AI輔助審判，以COMPAS系統(tǒng)為例，法官辦案時(shí)會(huì)用該系統(tǒng)評(píng)估涉訴人羈押的必要性、社會(huì)危險(xiǎn)性及再犯危險(xiǎn)性，但該系統(tǒng)引起了公眾的質(zhì)疑和批判，原因如下：第一，COMPAS 所作的風(fēng)險(xiǎn)評(píng)估是根據(jù)群體數(shù)據(jù)得出的結(jié)果，而非針對(duì)涉訴人的個(gè)人特征得到的結(jié)論，有損涉訴人的個(gè)別化量刑的權(quán)利；第二，在評(píng)估涉訴人社會(huì)危險(xiǎn)性時(shí)，不恰當(dāng)?shù)乜紤]了涉訴人性別、種族等因素。此外美國也將PACER系統(tǒng)、CM/ECF系統(tǒng)應(yīng)用于輔助審判上。其次，2016年英國發(fā)布了一款可以智能識(shí)別案情并對(duì)案件裁判結(jié)果進(jìn)行預(yù)測(cè)的系統(tǒng)，通過對(duì)584起案件進(jìn)行預(yù)測(cè)發(fā)現(xiàn)，該系統(tǒng)預(yù)測(cè)準(zhǔn)確率高達(dá)79%。最后，日本在2004年將“在線監(jiān)控程序系統(tǒng)”應(yīng)用于民事訴訟中；在2009年將“審判員量刑檢索系統(tǒng)”應(yīng)用于刑事訴訟中，該系統(tǒng)能為法官提供案件定罪量刑參考，推進(jìn)類案類判的現(xiàn)實(shí)兌現(xiàn)，法官還可運(yùn)用“KRP”系統(tǒng)檢索法律法規(guī)；在2017年日本指出接下來重點(diǎn)要實(shí)現(xiàn)由“弱人工智能向強(qiáng)人工智能”轉(zhuǎn)化。歐洲很多國家都安裝了ERP案件管理系統(tǒng)等。

2 AI技術(shù)風(fēng)險(xiǎn)引發(fā)困局

AI輔助審判將最大化發(fā)揮提高辦案效率、優(yōu)化司法資源配置的優(yōu)勢(shì)，通過統(tǒng)一證據(jù)標(biāo)準(zhǔn)和裁判尺度，提升裁判精準(zhǔn)度和司法公信力，有助于將辦案工作的事后監(jiān)督轉(zhuǎn)變?yōu)槿^程實(shí)時(shí)、自動(dòng)監(jiān)督，避免出現(xiàn)因私人問題產(chǎn)生辦案隨意性，能夠預(yù)防司法腐敗的問題。然而，AI在輔助裁判中仍存在諸多技術(shù)難題，包括大數(shù)據(jù)技術(shù)、算法技術(shù)及弱人工智能技術(shù)的負(fù)面風(fēng)險(xiǎn)。

2.1 大數(shù)據(jù)技術(shù)風(fēng)險(xiǎn)

2.1.1 司法數(shù)據(jù)數(shù)量不敷

首先，裁判數(shù)據(jù)的專有云、開放云、涉密云是我國開發(fā)AI輔助審判系統(tǒng)的主要數(shù)據(jù)來源，該數(shù)據(jù)結(jié)構(gòu)會(huì)導(dǎo)致各層級(jí)法院數(shù)據(jù)庫的參差。例如各層級(jí)法院在“涉密司法數(shù)據(jù)庫”上就存在較大數(shù)據(jù)權(quán)限錯(cuò)落問題；再如各層級(jí)法院數(shù)據(jù)庫的規(guī)模和質(zhì)量與法院級(jí)別關(guān)聯(lián)，區(qū)法院數(shù)據(jù)庫中僅包含該區(qū)案件的“最大化”司法數(shù)據(jù)，省法院數(shù)據(jù)庫中則囊括全省范圍內(nèi)案件的“最大化”司法數(shù)據(jù)，此處的“最大化”指司法數(shù)據(jù)除了包括裁判文書，還包括其他司法過程性文件，如電子卷宗中的副卷內(nèi)容［審理報(bào)告、合議庭（評(píng)議）筆錄、審委會(huì)討論記錄、其他不公開的文件］等。以區(qū)級(jí)法院為例，其對(duì)省內(nèi)其他地區(qū)的全數(shù)據(jù)和省外的全數(shù)據(jù)處于片面運(yùn)用狀態(tài)，這使得對(duì)影響裁判結(jié)果的法官評(píng)議、法律選擇和價(jià)值博弈等關(guān)鍵性數(shù)據(jù)記載的缺失。各層級(jí)法院中只有全國最高法院的數(shù)據(jù)庫內(nèi)容比較接近于全數(shù)據(jù)狀態(tài)。因此，各法院基于自身專有數(shù)據(jù)庫進(jìn)行數(shù)據(jù)分析、建模會(huì)誘發(fā)裁判偏狹的可能性，基于有限的專有司法數(shù)據(jù)無法歸納出具有普遍性的類案類判結(jié)果。其次，最高法院的公報(bào)案例及各法院內(nèi)部的辦案指導(dǎo)大多未上傳至數(shù)據(jù)庫，亦會(huì)造成司法數(shù)據(jù)不全面、不充分問題。

2.1.2 司法數(shù)據(jù)失真

司法數(shù)據(jù)失真是指司法信息雖是公開，但公開信息是依照司法機(jī)關(guān)管理目標(biāo)“精細(xì)加工”出來的，并非公眾掌握的司法實(shí)踐中真實(shí)、充分的數(shù)據(jù)[1]。因此，公布信息與真實(shí)信息之間可能存在異步問題，這種差異將導(dǎo)致AI無法學(xué)習(xí)到法官的真實(shí)推理方式與過程，造成數(shù)據(jù)“垃圾進(jìn)、垃圾出”的境況。因此，在司法數(shù)據(jù)失真的羸弱地基上，AI難以建立起科學(xué)、穩(wěn)定的裁判“理想國”。

2.1.3 司法數(shù)據(jù)“孤島”

在“兩高一部”的激勵(lì)下司法數(shù)據(jù)受到公檢法系統(tǒng)的高度重視，公檢法系統(tǒng)都建立起各自的司法數(shù)據(jù)庫。由于相關(guān)政策的缺失及三機(jī)關(guān)協(xié)作機(jī)制的不完善，尚未構(gòu)建一個(gè)兼容性高且數(shù)據(jù)全面的系統(tǒng)?，F(xiàn)有的“政法協(xié)作平臺(tái)”中，公檢法系統(tǒng)之間的司法數(shù)據(jù)并非悉數(shù)，“數(shù)據(jù)孤島”困境對(duì)我國信息化司法產(chǎn)生羈絆，不利于提升司法AI預(yù)測(cè)的精準(zhǔn)度。

2.2 算法技術(shù)風(fēng)險(xiǎn)

2.2.1 算法黑箱

首先，算法黑箱引發(fā)技術(shù)不可知性。AI助力審判是通過程序員編制的算法和代碼而實(shí)現(xiàn)的[2]。但是，AI的運(yùn)作模型是非公開的，在算法設(shè)計(jì)者不公布源代碼時(shí)，僅能觀察到錄入系統(tǒng)的數(shù)據(jù)和系統(tǒng)產(chǎn)出的結(jié)果，而無法知曉AI運(yùn)行的深層邏輯，形成算法黑箱問題。此外，現(xiàn)有司法工作人員尚未掌握AI技術(shù)，導(dǎo)致司法機(jī)關(guān)難以獨(dú)立開發(fā)AI輔助審判系統(tǒng)。司法機(jī)關(guān)通常會(huì)與科技型企業(yè)進(jìn)行合作開發(fā)，或直接將開發(fā)任務(wù)外包給科技型企業(yè)，那么系統(tǒng)開發(fā)過程則涉及企業(yè)商業(yè)秘密，造成算法難以公開的黑箱問題。

其次，算法黑箱與程序公開齟齬。以刑事審判為例，審判公開是刑事訴訟的基本原則，量刑公開作為審判公開的核心環(huán)節(jié)，是減少司法隨意性、遏制司法腐敗、保障涉訴人合法權(quán)益的重要路徑。若想實(shí)現(xiàn)量刑公開，第一，需要向涉訴人及辯護(hù)律師公開對(duì)其所作的指控，如此涉訴人及辯護(hù)律師才能對(duì)癥下藥做出相應(yīng)抗辯；第二，需要公開與量刑有關(guān)的案件事實(shí)，包括對(duì)量刑起到?jīng)Q定性作用或產(chǎn)生影響的犯罪過程、涉案金額、犯罪方法等事實(shí)；第三，需要公開量刑的過程，即在庭審中公開調(diào)查與量刑有關(guān)的事實(shí)，公開進(jìn)行法庭辯論；第四，需要公開法官量刑決策的理由。這就要求司法機(jī)關(guān)向涉訴人及辯護(hù)律師公開算法運(yùn)行的邏輯，然而目前AI輔助裁判的處理方式是錄入-處理-得出結(jié)論，外界只能知曉AI系統(tǒng)得出的最終結(jié)論。因此，算法黑箱必然導(dǎo)致量刑部分過程的不透明，與程序公開出現(xiàn)沖突。

2.2.2 算法歧視

算法歧視會(huì)影響算法結(jié)論的平允性。由于AI輔助審判系統(tǒng)開發(fā)者會(huì)受到社會(huì)經(jīng)歷、主觀意識(shí)等因素的影響，且通常開發(fā)者會(huì)不自覺將自己的偏見帶入程序開發(fā)中，因此算法歧視通常是無意識(shí)、隱蔽性的歧視，且難以避免。盧米斯訴威斯康星州案是算法歧視的典型案例，法官參考了COMPAS系統(tǒng)對(duì)盧米斯所做的社會(huì)危險(xiǎn)性進(jìn)行評(píng)估結(jié)論，對(duì)盧米斯判處了長(zhǎng)期徒刑。但該系統(tǒng)評(píng)估涉訴人犯罪風(fēng)險(xiǎn)時(shí)存在種族歧視，易將白種人誤評(píng)為低犯罪風(fēng)險(xiǎn)，容易將黑種人誤評(píng)為高犯罪風(fēng)險(xiǎn)。該系統(tǒng)還可能存在再犯率偏高的歧視，通過對(duì)7 000多名涉訴人跟蹤調(diào)查后發(fā)現(xiàn)，該系統(tǒng)再犯風(fēng)險(xiǎn)結(jié)論并不準(zhǔn)確，被該系統(tǒng)評(píng)估為會(huì)再犯的涉訴人中，僅20%的人再次發(fā)生暴力犯罪。輔助審判系統(tǒng)設(shè)計(jì)者在開發(fā)算法過程中已將種族偏見嵌入其中，得出的結(jié)論也會(huì)帶有偏見，無疑將損害司法公正性。

2.2.3 算法霸權(quán)

算法雖身披技術(shù)中立的外衣，但由于算法不公開、不解釋、不受質(zhì)詢、難以救濟(jì)，可能會(huì)造成算法霸權(quán)的風(fēng)險(xiǎn)，而算法霸權(quán)將會(huì)阻礙司法事業(yè)的健康有序發(fā)展。

首先，壓縮法官自由裁量權(quán)。過去長(zhǎng)期一段時(shí)間內(nèi)，某些法外因素?zé)o法在審判過程中被“剔除”，存在“看人下菜碟”的問題，造成個(gè)別“人情案”“關(guān)系案”，導(dǎo)致出現(xiàn)案情相似的案件最終裁判結(jié)果卻相差較大的情況，與公眾對(duì)“同案同判”的期待相悖。由于AI具有天然客觀性，在輔助審判時(shí)不會(huì)夾雜對(duì)“人情世故”考量，受唯科技主義與科技效率雙重影響，法官更傾向依賴AI結(jié)論，無形中在壓縮法官自主裁量的空間，導(dǎo)致算法霸權(quán)。

其次，出現(xiàn)公眾接受度低難題。在傳統(tǒng)審判模式下涉訴人雖然是被迫接受審判結(jié)果，但已形成普遍的訴訟心理。然而AI卻顛覆了涉訴人對(duì)于審判結(jié)果的信任，原因之一在于法官親歷性被壓縮。親歷性要求法官親自參與審案的全過程，在雙方當(dāng)事人就同一事實(shí)有完全不同的說法時(shí)，法官需對(duì)當(dāng)事人的神情、語氣、身體動(dòng)作等進(jìn)行觀察，并結(jié)合對(duì)其他證據(jù)的親自感知，辨明其中的虛實(shí)真假，正確認(rèn)定案件事實(shí)并形成心證。由于算法霸權(quán)導(dǎo)致將AI用在輔助審判上有著“垂簾聽政”的嫌疑，如AI可以在未經(jīng)庭審的前提下即向法官推送類似案件并給出裁判指引，法官審案思維受到裁判指引影響，最終造成涉訴人對(duì)裁判結(jié)果不認(rèn)可。

2.3 弱AI技術(shù)風(fēng)險(xiǎn)

目前，我國應(yīng)用在司法領(lǐng)域的AI仍是一種收集整理型、材料檢索型、模擬型的弱人工智能。由于弱人工智能的學(xué)習(xí)能力弱，導(dǎo)致將其應(yīng)用在輔助審判上仍存在一定阻礙。

首先，弱人工智能融會(huì)自然語言能力有局限性。知識(shí)圖譜作為推動(dòng)AI發(fā)展的牽引力之一，數(shù)據(jù)與模型的顆?；潭扰e足輕重，數(shù)據(jù)和模型越精細(xì)，則知識(shí)圖譜的效果越好。然而，想搭建出顆粒化程度高的知識(shí)圖譜首先要解決的問題是，如何完成算法語言和自然語言之間的相互轉(zhuǎn)換。由于自然語言在表達(dá)方式上具有多樣化、多義性和模糊性等特征[3]，導(dǎo)致弱人工智能無法充分理解自然語言所要表達(dá)的含義。以語言表述的多樣性為例，在表達(dá)涉訴人認(rèn)罪認(rèn)罰時(shí)，除直接用“認(rèn)罪、認(rèn)罰”外，還可以用“如實(shí)供述”“同意量刑建議”“簽署具結(jié)書”等方式表述，但弱人工智能還無法自主將這些詞語相關(guān)聯(lián)，因此可能會(huì)在檢索案情時(shí)發(fā)生遺漏。再以語言表述的模糊性為例，在理解“情節(jié)惡劣”“顯著輕微”等詞語時(shí)缺乏統(tǒng)一標(biāo)準(zhǔn)，弱人工智能會(huì)難以確認(rèn)案件情況是否符合標(biāo)準(zhǔn)。

其次，弱人工智能或?qū)⑨劤裳永m(xù)性錯(cuò)案。弱人工智能之所以能夠輔助審判是基于對(duì)先前正確法律文書的學(xué)習(xí)，但是在法律文書庫中也會(huì)存在冤假錯(cuò)案。而弱人工智能僅能做出錄入-輸出的機(jī)械性工作，無法做出樣本法律文書是否正確的價(jià)值判斷。若弱人工智能對(duì)冤假錯(cuò)案的法律文書進(jìn)行挖掘，或?qū)ⅰ罢肇埉嫽ⅰ钡贸鲅永m(xù)性錯(cuò)誤結(jié)論。

3 AI助力審判的技術(shù)規(guī)訓(xùn)策略

3.1 完善大數(shù)據(jù)技術(shù)

鑒于我國司法數(shù)據(jù)仍存在數(shù)量不敷、失真及“孤島”問題，為提升裁判輔助AI技術(shù)發(fā)展的原料質(zhì)量，需要進(jìn)一步加強(qiáng)我國司法數(shù)據(jù)庫的建設(shè)，具體可從以下3方面著手。

3.1.1 補(bǔ)足司法數(shù)據(jù)

只有數(shù)據(jù)足夠充分的情況下才能深挖數(shù)據(jù)背后的價(jià)值，應(yīng)添補(bǔ)數(shù)據(jù)庫的儲(chǔ)備。首先，為擴(kuò)充司法數(shù)據(jù)的來源，需加強(qiáng)法官對(duì)司法數(shù)據(jù)的重視度，強(qiáng)化法官數(shù)據(jù)收集意識(shí)。其次，延展數(shù)據(jù)收集種類，在審理案件過程中會(huì)產(chǎn)生大量司法數(shù)據(jù)，除裁判文書等典型的司法數(shù)據(jù)在收集范圍內(nèi)，還需利用語音和文字識(shí)別等技術(shù)，將庭前會(huì)議記錄、法庭庭審筆錄、合議庭討論記錄、審委會(huì)記錄及其他相關(guān)政府文件等法律文書囊括在收集范圍內(nèi)。最后，為規(guī)避數(shù)據(jù)庫大小受法院級(jí)別的限制，在安保技術(shù)條件允許的情況下（如部分?jǐn)?shù)據(jù)庫設(shè)置為不可人為查詢，AI可通盤處理司法數(shù)據(jù)），構(gòu)筑法院系統(tǒng)內(nèi)部統(tǒng)一的數(shù)據(jù)平臺(tái)，提升各法院間的系統(tǒng)兼容性，促進(jìn)司法數(shù)據(jù)在各法院間互通，平衡各級(jí)法院數(shù)據(jù)庫規(guī)模。

3.1.2 保障司法數(shù)據(jù)真實(shí)性

數(shù)據(jù)失真會(huì)影響AI輔助審判所得結(jié)論的準(zhǔn)確性，因此需從源頭杜絕數(shù)據(jù)失真問題，在上傳數(shù)據(jù)時(shí)就應(yīng)注意其真實(shí)性。此后，還要定期對(duì)司法數(shù)據(jù)進(jìn)行校正，將保障司法數(shù)據(jù)的真實(shí)性作為維護(hù)司法數(shù)據(jù)庫的日常工作，對(duì)于司法數(shù)據(jù)庫中的過時(shí)、錯(cuò)誤數(shù)據(jù)要及時(shí)淘汰、更正，對(duì)于新收集到的司法數(shù)據(jù)要及時(shí)增補(bǔ)，做到司法數(shù)據(jù)的“汰舊迎新”。此外，還可通過社會(huì)調(diào)查等途徑，獲取法官在做決策時(shí)采用的真實(shí)信息，并將真實(shí)信息錄入裁判模型中，增強(qiáng)司法數(shù)據(jù)的真實(shí)性和有效性。

3.1.3 以數(shù)據(jù)集群克服數(shù)據(jù)壁壘

由于公檢法等司法機(jī)關(guān)之間未實(shí)現(xiàn)數(shù)據(jù)互通，造成了“數(shù)據(jù)孤島”的困境，不利于AI在輔助審判時(shí)發(fā)揮出“1+1 ＞ 2”的效果。為推進(jìn)立案、偵查、審判、執(zhí)行等全過程的智能化，在時(shí)機(jī)成熟時(shí)，可在公檢法系統(tǒng)間創(chuàng)建協(xié)同司法數(shù)據(jù)平臺(tái)，實(shí)現(xiàn)“全”司法數(shù)據(jù)在各司法機(jī)關(guān)之間的互通。建設(shè)統(tǒng)一的司法數(shù)據(jù)平臺(tái)需要中央出面牽頭，根據(jù)我國的實(shí)際情況，可由司法部、最高院、最高檢、公安部及國家監(jiān)察委等有關(guān)部門聯(lián)合負(fù)責(zé)，以實(shí)現(xiàn)司法共同體，了解最新的司法動(dòng)態(tài)并及時(shí)做出相應(yīng)調(diào)整，優(yōu)化司法資源配置，統(tǒng)一各司法機(jī)關(guān)司法數(shù)據(jù)標(biāo)準(zhǔn)并對(duì)標(biāo)維護(hù)該司法數(shù)據(jù)庫[4]。

3.2 優(yōu)化算法技術(shù)

3.2.1 增進(jìn)算法透明度

首先，公示算法邏輯。由于算法的不透明與程序公開齟齬，只有將司法行為透明化才能贏得公信力，因此可以從開發(fā)者公示算法邏輯義務(wù)的角度入手，規(guī)范開發(fā)者在算法開發(fā)過程中的行為。歐盟《通用數(shù)據(jù)保護(hù)條例》規(guī)定，凡利用算法作決策，須公示算法決策邏輯，接受公眾監(jiān)督。我國可借鑒該規(guī)定，向公眾、法律和AI領(lǐng)域?qū)＜夜舅惴ㄟ壿?。具體而言，第一，進(jìn)行全面公示，即與算法有關(guān)的事項(xiàng)均向公眾公示，確保算法邏輯透明；第二，進(jìn)行網(wǎng)絡(luò)公示，讓公眾可以通過互聯(lián)網(wǎng)等便利方式獲取公示信息；第三，進(jìn)行初始公示，即在司法機(jī)關(guān)開始使用該算法時(shí)就公示，而不應(yīng)在當(dāng)事人提出疑問后才公示[5]。

其次，創(chuàng)建算法監(jiān)督機(jī)制。第一，在司法機(jī)關(guān)內(nèi)部構(gòu)建監(jiān)督算法機(jī)制，因“自我監(jiān)督”難以完全避免司法不透明困局。第二，在司法機(jī)關(guān)外部成立專門的第三方監(jiān)督機(jī)構(gòu)，這種內(nèi)外兼修的監(jiān)督機(jī)制不僅要持續(xù)監(jiān)督算法數(shù)據(jù)庫，還要監(jiān)督算法運(yùn)行全過程。實(shí)踐中既懂法律又懂AI技術(shù)的人才能更好地完成算法檢驗(yàn)和監(jiān)督，而人工智能法學(xué)學(xué)科建設(shè)可以為監(jiān)督AI技術(shù)提供智力保障，因此還應(yīng)當(dāng)將改革法學(xué)教育提上日程，重視“法律+AI”復(fù)合型人才的培養(yǎng)工作[6]。

最后，賦予涉訴人算法知情權(quán)。司法工作人員需告知涉訴人，對(duì)其審判時(shí)會(huì)參考AI的處理結(jié)果，并告知涉訴人所應(yīng)用的算法類型、使用目的、參數(shù)范圍及將對(duì)涉訴人的審判結(jié)果產(chǎn)生何種影響。算法決策知情權(quán)指在自動(dòng)化決策對(duì)算法相對(duì)人產(chǎn)生影響時(shí)，算法相對(duì)人可要求算法使用人對(duì)自動(dòng)化決策做出相應(yīng)說明，并要求算法使用人更正錯(cuò)誤的權(quán)利。適當(dāng)“賦權(quán)”不僅能夠保障涉訴人得到一定的救濟(jì)，還能彌合算法開發(fā)者與涉訴人之間的信息鴻溝。

3.2.2 防衛(wèi)算法歧視

首先，以技術(shù)反制算法歧視。一方面，由于大數(shù)據(jù)的歧視會(huì)造成算法的繼發(fā)性歧視，所以治理算法歧視的核心在于糾正數(shù)據(jù)歧視。然而，要完成在龐大數(shù)據(jù)庫中辨別、修正帶有歧視的數(shù)據(jù)，任務(wù)量無疑是巨大的，單靠人力無法完成，最可靠的手段就是運(yùn)用技術(shù)來實(shí)現(xiàn)。另一方面，相較于傳統(tǒng)意義上的新技術(shù)而言，AI技術(shù)的風(fēng)險(xiǎn)指數(shù)更高，甚至出現(xiàn)權(quán)力異化的危險(xiǎn)。因此，針對(duì)算法歧視這種技術(shù)弊端需要樹立持續(xù)性監(jiān)管的理念，同樣僅依靠人力監(jiān)管難以做到持續(xù)性。相關(guān)工作人員可嘗試?yán)脵C(jī)器對(duì)算法進(jìn)行追蹤和實(shí)時(shí)記錄，分析、鑒別算法的異常變化和不連續(xù)性，利用技術(shù)對(duì)算法進(jìn)行安全測(cè)試和即時(shí)監(jiān)管是實(shí)踐中可靠的治理方式，以有效科學(xué)的技術(shù)手段反制技術(shù)，實(shí)現(xiàn)對(duì)算法歧視的持續(xù)、準(zhǔn)確、高效監(jiān)管[7]。

其次，賦予涉訴人拒絕權(quán)。若涉訴人認(rèn)為AI輔助審判系統(tǒng)在一審中所作的決策存在歧視并提起上訴，或檢察院認(rèn)為AI對(duì)涉訴人所作決策錯(cuò)誤提起抗訴而引起二審，若二審的過程中仍運(yùn)用AI輔助審判，并在該AI系統(tǒng)中輸入與一審相同的案件信息，容易得出與一審相同的審判結(jié)果，二審的功能與價(jià)值則變得薄弱。因此在二審階段，應(yīng)當(dāng)賦予涉訴人拒絕使用AI輔助裁判的權(quán)利，限制AI輔助審判系統(tǒng)的適用階段。

3.2.3 擊破算法霸權(quán)

首先，守衛(wèi)法官的自由裁量權(quán)。法官是審判工作中處于核心地位，算法霸權(quán)或?qū)ⅰ扒址浮狈ü僮杂刹昧繖?quán)，因?yàn)锳I可能會(huì)忽略個(gè)案差異損害個(gè)案正義。因此，應(yīng)明確AI僅是法官審判時(shí)的“助手”，其得出的結(jié)論僅為“參考答案”，而非“標(biāo)準(zhǔn)答案”，防止司法工作人員過度依賴AI系統(tǒng)。為此，可以在設(shè)計(jì)AI輔助審判系統(tǒng)時(shí)令其產(chǎn)出的結(jié)論具有一定幅度，而非確定數(shù)值，由法官依照案情實(shí)際情況做出最終裁決。此外，還需賦予法官采用AI得出結(jié)論時(shí)的說理義務(wù)。

其次，逐步舒緩AI輔助裁判公眾接受難問題。第一，限定AI的輔助性。公眾接受度低的原因之一是AI可能會(huì)“越俎代庖”。因此，應(yīng)當(dāng)確保法官在審理案件中親自聽取訴訟當(dāng)事人的陳述及抗辯、親自聽取證人證言、親自審查各類證據(jù)，切不可將各種類型證據(jù)審查權(quán)利全權(quán)交付于AI。此外，錄入AI輔助審判系統(tǒng)的數(shù)據(jù)信息仍要由法官親自輸入、核實(shí)，法官也需親自編輯裁判文書中的說理部分，增強(qiáng)法官說理義務(wù)，提高法官說理標(biāo)準(zhǔn)。第二，科普與社會(huì)宣傳。綜合利用報(bào)紙、公眾號(hào)、公益廣告、法治欄目、短視頻平臺(tái)等多渠道，加強(qiáng)對(duì)AI、智慧司法等新事物的科普與社會(huì)宣傳。在持續(xù)弘揚(yáng)公正審判、司法正義理念不動(dòng)搖的基礎(chǔ)上，深入剖析AI依靠精準(zhǔn)決策能力勝任輔助法官審判的任務(wù)，為利用AI輔助審判奠定基礎(chǔ)。

此外，如上文所述，當(dāng)涉訴人對(duì)AI自主化決策產(chǎn)生懷疑時(shí)，可以知情權(quán)減輕AI輔助審判的顧慮，以拒絕權(quán)保障程序救濟(jì)，提升接受度。

3.3 精進(jìn)AI輔助審判技術(shù)

我國司法領(lǐng)域目前使用的仍是弱人工智能，還存在“低智”藩籬。而司法審判的結(jié)果會(huì)直接關(guān)乎涉訴人的人身權(quán)、財(cái)產(chǎn)權(quán)及其他重要法益，故需攻克這一技術(shù)障礙。

首先，發(fā)展強(qiáng)人工智能技術(shù)。智能革命不會(huì)滯留于弱人工智能層級(jí)，而是起步于弱人工智能，經(jīng)由強(qiáng)人工智能，最終達(dá)致超人工智能的浩瀚歷程。強(qiáng)人工智能不再像弱人工智能僅能擔(dān)負(fù)特定類型智能任務(wù)，而是可以承擔(dān)通用型智能任務(wù)（類人的“機(jī)器學(xué)習(xí)”-推理-認(rèn)知-解決問題）。強(qiáng)人工智能技術(shù)的算力與分析能力更強(qiáng)，憑借深度強(qiáng)化學(xué)習(xí)技術(shù)（DQN）能夠更敏捷地收集、分析和處置司法數(shù)據(jù)，可以更精準(zhǔn)領(lǐng)悟其“見”到、“聽”到、收集到的法律信息，并自動(dòng)設(shè)計(jì)進(jìn)化規(guī)則，進(jìn)化后的司法AI輔助系統(tǒng)將變得更強(qiáng)。此外，通過嵌入多壘計(jì)算模型模塊形成司法人工智能的神經(jīng)決策網(wǎng)絡(luò)，強(qiáng)人工智能技術(shù)可以模擬人類自主意識(shí)、世界觀和價(jià)值觀，實(shí)現(xiàn)像法官一樣完成對(duì)案件的獨(dú)立分析、邏輯推理和價(jià)值判斷。但是創(chuàng)造強(qiáng)人工智能比創(chuàng)造弱人工智能難得多，目前還受困于技術(shù)天花板，需要技術(shù)專家共同的奮勉勠力。

其次，從弱向強(qiáng)人工智能迭代的過渡期，可以嘗試分割A(yù)I輔助審判的適用空間。由于未來一段時(shí)間內(nèi)，我國還將繼續(xù)使用弱人工智能，因此在“人機(jī)協(xié)作”的模式下，需要?jiǎng)澢錋I與人類法官的分工，以克服弱人工智能的技術(shù)風(fēng)險(xiǎn)。第一，對(duì)情感價(jià)值、法律價(jià)值分割。將需做價(jià)值判斷的情感問題交給法官，常規(guī)法律問題交給AI。第二，對(duì)案件認(rèn)定、法律適用分割。將認(rèn)定事實(shí)的工作交給法官，“主要”法律適用問題交給AI。第三，對(duì)新型案件、常見案件分割。將“主要”常規(guī)案件分配給AI，新型案件交給法官。