劉雁鵬

一、問(wèn)題的提出

中國(guó)智慧司法發(fā)展已經(jīng)走上了快車道，全國(guó)各級(jí)法院的智慧應(yīng)用不斷涌現(xiàn)，與此同時(shí)針對(duì)智慧法院的研究已經(jīng)成為新的學(xué)術(shù)熱點(diǎn)和富礦。但是學(xué)術(shù)界出現(xiàn)了一些悲觀論者，相當(dāng)一部分學(xué)者對(duì)于智慧法院建設(shè)產(chǎn)生了深深憂慮。

憂慮之一：大數(shù)據(jù)標(biāo)簽導(dǎo)致主觀偏見。智慧法院有能力集聚訴訟參與人的各類信息，既包括征信記錄、訴訟記錄、經(jīng)濟(jì)狀況，還包括社會(huì)地位等信息，經(jīng)過(guò)數(shù)據(jù)采集分析很容易對(duì)訴訟參與人進(jìn)行數(shù)字畫像，并且為其貼上一個(gè)個(gè)標(biāo)簽。例如有的屢次登上失信被執(zhí)行人，有的則屬于道德模范。這種行為極容易形成先入為主的偏見，尤其是刑事案件中，大數(shù)據(jù)將為法官提供是否有罪的傾向性意見，如果被告人曾經(jīng)留下了不良記錄，被定罪的可能性將大大增加。［1］

憂慮之二：裁決算法黑箱產(chǎn)生歧視。有的被告人的量刑會(huì)參照智能輔助系統(tǒng)構(gòu)建出風(fēng)險(xiǎn)評(píng)估報(bào)告，該報(bào)告僅僅提供與特定群體相關(guān)的數(shù)據(jù)，而系統(tǒng)如何做出該報(bào)告卻不得而知。①例如，美國(guó)威斯康星州訴盧米斯案中，爭(zhēng)議焦點(diǎn)之一便是法院使用COMPAS評(píng)估進(jìn)行判決，侵犯了其獲得“個(gè)殊化判決（individualized sentence）”的權(quán)利和基于準(zhǔn)確信息獲得判決的權(quán)利。參見：朱體正.人工智能輔助刑事裁判的不確定性風(fēng)險(xiǎn)及其防范——美國(guó)威斯康星州訴盧米斯案的啟示［J］.浙江社會(huì)科學(xué)，2018，（6）：77-79.裁決算法黑箱直接限制了當(dāng)事人的知情權(quán)和抗辯權(quán)，極容易造成司法不公。［2］此外，前案不公的裁判結(jié)果會(huì)作為將來(lái)算法進(jìn)行情景模型訓(xùn)練的基礎(chǔ)數(shù)據(jù)，使得原有的算法偏見得到進(jìn)一步強(qiáng)化，發(fā)展出一種自我實(shí)現(xiàn)的歧視性反饋循環(huán)，最終可能導(dǎo)致個(gè)案不公異化為類案不公。［3］

憂慮之三：人工智能替代法官思考甚至取代法官。人工智能自動(dòng)生成判決、根據(jù)大數(shù)據(jù)矯正法律決定等做法事實(shí)上導(dǎo)致程序員、軟件工程師、技術(shù)公司與法官共同作出決定的局面，［4］人工智能將逐步替代法官思考，甚至將來(lái)有一天取代法官。

二、對(duì)于憂慮的剖析

偏見、歧視、不公既是學(xué)界對(duì)智慧法院建設(shè)關(guān)注的焦點(diǎn)，同時(shí)也是對(duì)智慧法院建設(shè)的憂慮。從這些憂慮出發(fā)提出了各項(xiàng)建議舉措和應(yīng)對(duì)措施。例如，設(shè)置算法論證程序、嵌入案件糾補(bǔ)機(jī)制、確立算法解釋規(guī)則、構(gòu)建司法商談機(jī)制；［5］再如，制定專門的算法問(wèn)責(zé)監(jiān)管法，增強(qiáng)智能算法的透明性；［6］又如，建立算法審查委員會(huì)，對(duì)算法進(jìn)行倫理和法律審查，保證算法的合法性與公正性。［7］那么上述問(wèn)題真的存在嗎？智慧法院建設(shè)真的會(huì)帶來(lái)偏見、歧視以及不公嗎？

（一）貼標(biāo)簽可能產(chǎn)生偏見嗎？

對(duì)訴訟參與人貼標(biāo)簽如何能夠成功？這首先需要海量且真實(shí)數(shù)據(jù)。在消費(fèi)能力方面，需要獲得本人的銀行卡存款、住房信息、車輛保有信息、支付寶微信支付等第三方支付的記錄；在征信方面，需要來(lái)自政府的交稅記錄、罰款記錄、違法記錄；在社會(huì)層級(jí)方面，還需要掌握本人工作情況、親屬關(guān)系、資產(chǎn)配置、教育經(jīng)歷等；在應(yīng)訴能力方面，需要掌握與當(dāng)事人相關(guān)的報(bào)案、報(bào)警記錄、訴訟應(yīng)訴記錄、執(zhí)行情況等。唯有掌握如此龐大且復(fù)雜的信息，方才可能對(duì)當(dāng)事人進(jìn)行完整的數(shù)據(jù)畫像。這是在理論上的分析和探討，實(shí)踐中的情況要?dú)埧岬枚唷Ｒ环矫娣ㄔ簝?nèi)部數(shù)據(jù)不真實(shí)、不完整、不準(zhǔn)確的現(xiàn)象比比皆是，法院系統(tǒng)內(nèi)部信息孤島現(xiàn)象短期內(nèi)尚且無(wú)法解決，例如，法院比較成熟的電子檔案管理目前仍然無(wú)法完全實(shí)現(xiàn)四級(jí)法院無(wú)障礙互通。［8］另一方面，在法院、公安、檢察院、銀行、移動(dòng)支付等信息互通也難上加難，尤其是公安、檢察院以及監(jiān)獄管理局的信息，很難順利獲得。［9］此外，還有大量信息被淘寶、京東、支付寶、微信支付等企業(yè)掌握，法院要匯聚企業(yè)信息可能比政府更加復(fù)雜。即便隨著技術(shù)的進(jìn)步，信息共享制度的完善，法院可能在有限范圍內(nèi)掌握部分上述信息，但擁有這些信息一定會(huì)產(chǎn)生主觀偏見嗎？

法官在裁決案件過(guò)程中了解當(dāng)事人更多的個(gè)人信息，不僅不會(huì)產(chǎn)生偏見，反而有利于案件的審判執(zhí)行。在民商事領(lǐng)域，在執(zhí)行過(guò)程中法官常常為查人找物頭疼不已，浙江法院與阿里巴巴合作，通過(guò)大數(shù)據(jù)分析發(fā)現(xiàn)被執(zhí)行人網(wǎng)購(gòu)收件地址較為固定，則此地極有可能是被執(zhí)行人的經(jīng)常住所地。對(duì)于刑事案件而言，犯罪傾向性意見只能迷惑普通人，法官受過(guò)專業(yè)訓(xùn)練，認(rèn)定某人是否有罪僅僅能夠依靠足夠的證據(jù)，即便在過(guò)去幾年內(nèi)，某人若干年前招搖撞騙、尋釁滋事、吃喝嫖賭、惡語(yǔ)相加，只要與被指控犯罪無(wú)關(guān)，仍不能作為本次罪行的證據(jù)。以往過(guò)去的經(jīng)歷可能會(huì)成為當(dāng)下被告人定罪的證據(jù)只不過(guò)是部分人的想象，將道德評(píng)價(jià)納入定罪量刑也是沒(méi)有經(jīng)過(guò)系統(tǒng)訓(xùn)練的普通人的臆斷。對(duì)被告人進(jìn)行大數(shù)據(jù)分析并不會(huì)影響其定罪，但是可能會(huì)對(duì)量刑結(jié)果產(chǎn)生影響?！缎谭ā返?1條規(guī)定：“對(duì)于犯罪分子決定刑罰的時(shí)候，應(yīng)當(dāng)根據(jù)犯罪的事實(shí)、犯罪的性質(zhì)、情節(jié)和對(duì)社會(huì)的危害程度，依照本法的有關(guān)規(guī)定判處?！逼渲蟹缸锏奈：Τ潭扔袝r(shí)需要其他相關(guān)材料方能得到印證。例如，經(jīng)常聚眾鬧事、尋釁滋事、甚至屬于累犯，那么社會(huì)危害性可能更高，而沒(méi)有上述事實(shí)，且曾經(jīng)有見義勇為、優(yōu)秀標(biāo)兵、積極悔罪、挽回?fù)p失的記錄則可能社會(huì)危害性較低，在量刑上也應(yīng)當(dāng)有所區(qū)分。可見，對(duì)于刑事案件而言，大數(shù)據(jù)畫像、大數(shù)據(jù)貼標(biāo)簽可以幫助法官裁判更加精準(zhǔn)和科學(xué)。對(duì)于行政案件而言，大數(shù)據(jù)標(biāo)簽可能會(huì)分析出某人長(zhǎng)期以來(lái)專門從事政務(wù)公開申請(qǐng)工作，其目的不是為了獲取信息，而是通過(guò)訴訟向政府施壓，以達(dá)到其預(yù)想目的，那么這個(gè)數(shù)據(jù)分析結(jié)果就可以成為不予受理的法定理由。①《政府信息公開條例》第35條規(guī)定：“申請(qǐng)人申請(qǐng)公開政府信息的數(shù)量、頻次明顯超過(guò)合理范圍，行政機(jī)關(guān)可以要求申請(qǐng)人說(shuō)明理由。行政機(jī)關(guān)認(rèn)為申請(qǐng)理由不合理的，告知申請(qǐng)人不予處理?！倍掖髷?shù)據(jù)標(biāo)簽還能夠發(fā)現(xiàn)政府在依法行政過(guò)程中普遍存在的漏洞，為政府完善依法行政、提高執(zhí)法水平提供參考和借鑒。

但是大數(shù)據(jù)進(jìn)入司法確實(shí)讓學(xué)界產(chǎn)生了深深的憂慮，他們憂慮的真正內(nèi)容不是數(shù)據(jù)會(huì)給當(dāng)事人貼標(biāo)簽，而是大數(shù)據(jù)進(jìn)入司法后破壞了原有的審判模式。大數(shù)據(jù)時(shí)代到來(lái)之前，法官僅能通過(guò)案卷材料了解當(dāng)事人的相關(guān)情況，其他相關(guān)信息不清楚、不了解、不知道，這相當(dāng)于構(gòu)建了低配版的“無(wú)知之幕”，遮擋了法官多余的視線，讓法官將注意力焦點(diǎn)集中在案件事實(shí)，服從內(nèi)心的自由心證，而不是原被告的身份、地位、宗教信仰、受教育程度、工作經(jīng)歷等無(wú)關(guān)因素。為了保證法官不受外來(lái)消息的影響，各國(guó)司法制度都做出了相應(yīng)的安排，英國(guó)有媒體報(bào)道的約束制度和程序規(guī)范，［10］美國(guó)則有對(duì)律師及檢察官的緘口令制度，［11］中國(guó)通過(guò)干預(yù)案件記錄制度杜絕案件受到來(lái)自領(lǐng)導(dǎo)干部的干預(yù)和影響。②參見：《領(lǐng)導(dǎo)干部干預(yù)司法活動(dòng)、插手具體案件處理的記錄、通報(bào)和責(zé)任追究規(guī)定》。上述一切努力都是為了營(yíng)造一個(gè)相對(duì)封閉的環(huán)境，讓法官的自由心證不受來(lái)自媒體的、領(lǐng)導(dǎo)干部的、律師的、檢察官的影響，僅僅依據(jù)事實(shí)和法律得出結(jié)論。大數(shù)據(jù)的到來(lái)對(duì)現(xiàn)有的司法制度造成了一些波瀾，法官有可能在案件事實(shí)之外了解到原被告的其他信息，基于這些信息可以判斷當(dāng)事人的品格、訴訟目的、征信情況等等。這不僅破壞了原先由程序設(shè)計(jì)好的封閉環(huán)境，而且迫使蒙眼的正義女神睜開了雙眼，其破壞了法官僅僅依據(jù)案件事實(shí)和證據(jù)進(jìn)行裁判的原則，夾雜了來(lái)自大數(shù)據(jù)的信息和內(nèi)容。于是乎部分學(xué)者認(rèn)為信息系統(tǒng)給當(dāng)事人貼上了一個(gè)個(gè)標(biāo)簽，讓法官在裁判過(guò)程中產(chǎn)生了偏見。事實(shí)上，這種憂慮雜念不能停歇是因?yàn)橥鼌s了更為基本的原則。首先，法律僅僅能夠?qū)π袨樽鞒鲈u(píng)價(jià)，任何沒(méi)有行為依據(jù)的思想都不能成為評(píng)價(jià)依據(jù)。一個(gè)人內(nèi)心狂躁，想要?dú)缡澜纾灰麤](méi)有表達(dá)出來(lái)，沒(méi)有任何行為，沒(méi)有造成后果，就不能以任何罪名認(rèn)定其有罪。故僅憑大數(shù)據(jù)分析出來(lái)的想法或者可能性不能作為法律的評(píng)價(jià)依據(jù)。其次，除非法律規(guī)定，法律僅僅能夠?qū)Ξ?dāng)前行為作出評(píng)價(jià)，排除過(guò)往。這也是為什么不能對(duì)同一件事情評(píng)價(jià)兩次，一事不能二罰。即便某人過(guò)去屢屢犯錯(cuò)，常常在街邊盜竊他人錢包，也不能據(jù)此認(rèn)定此人此次不是撿到錢包而是盜竊錢包。故即便大數(shù)據(jù)記載了過(guò)去大量不良記錄，依舊不能對(duì)當(dāng)下行為定性。最后，除非法律規(guī)定，法律僅僅能夠?qū)σ呀?jīng)發(fā)生的行為作出評(píng)價(jià)，排除未來(lái)。即便某人過(guò)去是一個(gè)地痞、流氓、無(wú)賴、騙吃、騙喝、騙婚，依然不能否定未來(lái)能成為反抗暴秦的領(lǐng)袖，并建立一個(gè)被后世銘記的大漢王朝。故即便大數(shù)據(jù)記錄個(gè)人征信情況不佳、道德品質(zhì)不高，未來(lái)依舊可能成為一個(gè)萬(wàn)世表率。大數(shù)據(jù)進(jìn)入司法可能會(huì)對(duì)當(dāng)事人貼標(biāo)簽，但是標(biāo)簽并不會(huì)產(chǎn)生偏見，只會(huì)有利于法官審判執(zhí)行，所謂的偏見不在法官心中，而在社會(huì)民眾之中，在學(xué)界學(xué)者心里。

（二）智慧法院系統(tǒng)存在算法黑箱嗎？

算法黑箱意味著算法在輸入數(shù)據(jù)和輸出答案之間存在著無(wú)法洞悉的內(nèi)容，一般人無(wú)法理解。［12］算法黑箱廣泛地存在于搜索、網(wǎng)購(gòu)、閱讀等算法程序之中。當(dāng)人們?cè)谒阉鳈谀恐休斎腙P(guān)鍵詞，搜索引擎就能將與關(guān)鍵詞相關(guān)的內(nèi)容呈現(xiàn)出來(lái)；當(dāng)打開購(gòu)物APP或者網(wǎng)站時(shí)，總能出現(xiàn)想要購(gòu)買或近期急需的商品；當(dāng)打開今日頭條、網(wǎng)易新聞等軟件，總能推送喜歡的內(nèi)容。大部分人可能不了解構(gòu)成算法黑箱的爬蟲算法、索引算法、排序算法、鏈接分析算法、RSA算法、基于投票的個(gè)性化算法等內(nèi)容。但是不會(huì)質(zhì)疑這些算法給生活帶來(lái)的便捷，足不出戶就能夠購(gòu)買各種商品，搜索一下就能找到想要的知識(shí)，動(dòng)動(dòng)手指就能獲取自己想看的內(nèi)容。人們無(wú)需了解算法是如何運(yùn)作的，只需要獲取算法帶來(lái)的福利。算法黑箱廣泛存在于智能應(yīng)用之中，那么裁決過(guò)程中的算法黑箱存在嗎？這就要從算法介入到司法活動(dòng)的廣度和深度來(lái)分析了。從各地法院的創(chuàng)新實(shí)踐來(lái)看，算法參與到司法活動(dòng)主要有以下幾種類型（參見表1）：其一，整理案卷材料，生成庭審提綱。其二，提取電子卷宗，文書快速生成。其三，實(shí)現(xiàn)類案推送，提供量刑建議。

對(duì)于功能一和功能二而言，基本屬于抽取案卷材料，按照既定邏輯，生成法官需要的結(jié)果。至于系統(tǒng)是基于什么樣的指令將紙質(zhì)案卷掃描成電子卷宗，基于什么樣的算法將PDF或者圖片中的文字生成庭審提綱，法官并不知道，這個(gè)過(guò)程中存在黑箱，但是這并不影響案卷材料的完整性、電子卷宗的真實(shí)性以及庭審提綱的準(zhǔn)確性。就如人們通過(guò)搜索引擎得到的網(wǎng)上新聞和自己翻閱報(bào)紙得到的新聞在內(nèi)容上不存在差別，人們不會(huì)因?yàn)樾侣劔@取方式存在算法介入，就認(rèn)為新聞內(nèi)容有假、數(shù)據(jù)遭到篡改。新聞依然是那個(gè)新聞，數(shù)據(jù)依舊是那個(gè)數(shù)據(jù)，只不過(guò)經(jīng)過(guò)算法的加工，會(huì)調(diào)動(dòng)起讀者的積極性，喜歡什么樣的內(nèi)容就會(huì)推送什么內(nèi)容。而案件輔助系統(tǒng)不同，不會(huì)因?yàn)榉ü傧矚g看案件事實(shí)部分，就不推送證據(jù)部分，而是全方位的推送；更不會(huì)因?yàn)榉ü俨幌矚g看那部分的案卷材料，就不掃描那部分內(nèi)容?？梢娫谶@個(gè)階段的智能應(yīng)用，算法的作用僅僅是對(duì)繁瑣的人力工作進(jìn)行了替代，法官或者書記員不用再做簡(jiǎn)單重復(fù)的勞動(dòng)，而可以將主要精力集中在案件審判中。

對(duì)于功能三，是學(xué)界對(duì)于智慧司法應(yīng)用爭(zhēng)議的焦點(diǎn)，美國(guó)威斯康星州訴艾瑞克·盧米斯（Eric Loomis）就是因?yàn)樵摪覆捎昧啃讨悄茌o助工具對(duì)被告人判刑。［13］這里需要指出的是，量刑輔助系統(tǒng)所做的僅僅是類案推送，或者將大量的案件數(shù)據(jù)進(jìn)行類比分析后得出一個(gè)區(qū)域范圍值，即便如此，得出的結(jié)論都是描述性的而非規(guī)范性的，系統(tǒng)不會(huì)得出案件“應(yīng)當(dāng)”如何裁判，而是以技術(shù)優(yōu)勢(shì)給法官提供某個(gè)特定案件的平均裁判水平，以便法官能夠根據(jù)數(shù)據(jù)庫(kù)中的數(shù)值對(duì)自己手頭案件作出初步的評(píng)估。［14］范圍值的做出是哪一條代碼決定的，當(dāng)事人、律師、檢察官、法官都不得而知，但是基本原理是清楚的，通過(guò)關(guān)鍵詞歸納類案，對(duì)類案進(jìn)行分析后得出一個(gè)上限和下限?？梢哉f(shuō)，這個(gè)過(guò)程中存在黑箱，但是這個(gè)黑箱并不造成邏輯困擾，即便沒(méi)有這些算法加成，以正常人的經(jīng)驗(yàn)和判斷亦可以通過(guò)大量閱讀判例得出特定案件裁判的平均值，只不過(guò)這個(gè)工作可能要消耗人類太多的時(shí)間，而對(duì)于系統(tǒng)而言僅僅是幾分鐘而已。

（三）算法歧視存在于司法活動(dòng)中嗎？

大數(shù)據(jù)時(shí)代，是否存在算法歧視？答案是肯定的。一般在數(shù)據(jù)應(yīng)用過(guò)程中主要會(huì)產(chǎn)生以下幾種歧視：1.內(nèi)置性編碼造成的歧視。在程序員編纂程序過(guò)程中就將不同的對(duì)象區(qū)分為三六九等，將自身的主觀意識(shí)和偏見加入到算法之中。［15］例如，滴滴打車的蘋果手機(jī)用戶收費(fèi)比安卓用戶要高，這是程序員寫入算法中的，是程序所追求的結(jié)果。2.數(shù)據(jù)不完整造成的歧視。由于數(shù)據(jù)樣本代表性不足導(dǎo)致一些要素沒(méi)有被納入范圍，造成一些群體持續(xù)被忽視甚至歧視。例如，針對(duì)大學(xué)畢業(yè)生的就業(yè)情況進(jìn)行統(tǒng)計(jì)，若大量統(tǒng)計(jì)985、211等知名高校，忽視其他本科院校以及大專院校，則可能得出較高的就業(yè)率、較高的工資水平，那么對(duì)于那些出身普通高校，找不到合適工作或者工資水平較低的畢業(yè)生而言可能會(huì)產(chǎn)生歧視。3.數(shù)據(jù)關(guān)聯(lián)造成的歧視。這類歧視中，算法決策者雖然使用了客觀中立的基礎(chǔ)數(shù)據(jù)，但這些合法的客觀中立的數(shù)據(jù)組合在一起產(chǎn)生了歧視性的后果。［16］例如，將某種犯罪行為和地域相結(jié)合，容易造成××地的人都是電信詐騙犯，××地的人都是造假的等具有地域歧視的結(jié)論。4.特征選擇造成的歧視。這種歧視是將性別、體重、膚色、畢業(yè)院校、學(xué)歷、戶籍等敏感信息輸入，從而構(gòu)成歧視性看法。例如，劉某是一個(gè)來(lái)自某二本院校的180斤的胖子。這種歧視還可能會(huì)造成反饋循環(huán)，進(jìn)一步強(qiáng)化這種偏見。例如，搜索引擎會(huì)將矮矬窮胖和劉某自動(dòng)關(guān)聯(lián)，甚至輸入劉某進(jìn)行搜索時(shí)，自動(dòng)會(huì)跳出胖子、屌絲、矮子等字樣。上述幾種典型的算法歧視是否真的會(huì)在智慧法院中出現(xiàn)？

首先，智慧法院不會(huì)刻意將歧視設(shè)置在編碼中。對(duì)于內(nèi)置性編碼造成的歧視，其本身是由人對(duì)人的歧視，而不是算法造成的歧視，算法在這個(gè)過(guò)程中僅僅是一個(gè)運(yùn)算工具而已。這種算法歧視的本質(zhì)是將歧視從線下照搬到了線上，無(wú)論是滴滴蘋果客戶端收費(fèi)高于安卓客戶端，還是網(wǎng)購(gòu)平臺(tái)中的大數(shù)據(jù)殺熟，都是運(yùn)營(yíng)者主觀追求的結(jié)果。那么法院作為確定算法基本方向的甲方，會(huì)將不公平對(duì)待作為算法的要求之一嗎？這顯然是不可能的。因?yàn)樵谥贫壬?，法院?yīng)當(dāng)遵循法律面前人人平等原則，不因民族、種族、性別、職業(yè)、家庭出身、宗教信仰、教育程度、財(cái)產(chǎn)狀況的不同而有所區(qū)別。故在討論智慧司法中的歧視問(wèn)題時(shí)，應(yīng)當(dāng)將內(nèi)置性編碼造成的歧視排除在外。

其次，數(shù)據(jù)關(guān)聯(lián)的主要應(yīng)用不是產(chǎn)生歧視。智慧法院建設(shè)中的數(shù)據(jù)關(guān)聯(lián)可以便利審判管理，可以提高審判效率解決案多人少矛盾，可以為社會(huì)治理提供司法數(shù)據(jù)。例如，通過(guò)大數(shù)據(jù)分析，將地域、罪名等相關(guān)中立性的信息輸入，通過(guò)大數(shù)據(jù)運(yùn)算得出結(jié)論，××省××地區(qū)什么類別的犯罪居全國(guó)首位。這樣不會(huì)造成地域歧視，相反，相關(guān)結(jié)論可能會(huì)加強(qiáng)相關(guān)的預(yù)防和教育工作，減少相關(guān)的犯罪率，這對(duì)于改進(jìn)社會(huì)治安、對(duì)于地方法治建設(shè)具有重要意義。但是這種情況下是否會(huì)帶來(lái)算法歧視呢？法官在沒(méi)有審判之前就清楚地看到了相關(guān)的報(bào)告，某某省某某市某某縣電信詐騙較為猖獗，看到被告人正好是該地區(qū)的人，那么就不加審慎地認(rèn)定此人罪名成立？恐怕沒(méi)有經(jīng)過(guò)嚴(yán)格訓(xùn)練的法學(xué)本科生都不會(huì)做出這樣的結(jié)論，更不用說(shuō)久經(jīng)歷練的法官了。

最后，歧視反饋循環(huán)需要大量歧視案例。當(dāng)把大量案件的關(guān)鍵要素和審判結(jié)果錄入之后，想要出現(xiàn)歧視性反饋循環(huán)，這要求大量的生效判決案件都存在類似的歧視，例如，在Google算法歧視案中，當(dāng)搜索非洲裔美國(guó)人相關(guān)名稱時(shí)，往往會(huì)關(guān)聯(lián)到犯罪的相關(guān)信息，這是過(guò)去長(zhǎng)期搜索將非洲裔美國(guó)人與犯罪同時(shí)搜索造成的結(jié)果，其搜索過(guò)程本身就帶有歧視。［17］而智能審判系統(tǒng)出現(xiàn)歧視反饋循環(huán)則要求多個(gè)案件，甚至是每一個(gè)案件都存在歧視，這樣形成的算法數(shù)據(jù)庫(kù)才可能出現(xiàn)歧視反饋循環(huán)。若出現(xiàn)了大量歧視案件，此時(shí)應(yīng)該規(guī)制的不是算法，而是案件審判的法官。事實(shí)上，真正的歧視存在于人的心中，而非算法之中。即便算法無(wú)比強(qiáng)大能夠得出一些歧視性結(jié)論，只要法官恪守自由心證，嚴(yán)格依照法定事實(shí)和法律規(guī)定，則不會(huì)造成歧視性結(jié)果。反之，即便算法無(wú)法得出歧視性結(jié)論，只要審判者心中存有歧視，就會(huì)任由心中的偏見左右案件審判。

即便沒(méi)有大數(shù)據(jù)，沒(méi)有智慧法院，沒(méi)有算法的介入，審判工作也很難做到絕對(duì)的公平，絕對(duì)沒(méi)有任何歧視。有學(xué)者對(duì)中國(guó)1060份刑事判決進(jìn)行實(shí)證分析，發(fā)現(xiàn)當(dāng)事人的性別、學(xué)歷、職業(yè)、機(jī)關(guān)等確實(shí)會(huì)對(duì)量刑產(chǎn)生影響，并體現(xiàn)出被告人自致因素的影響力大于先賦因素，社會(huì)地位越高法度越寬等規(guī)律。［18］在美國(guó)量刑歧視不僅體現(xiàn)在司法輔助系統(tǒng)中，實(shí)際審判中種族、膚色、社會(huì)地位等因素對(duì)于量刑的影響遠(yuǎn)遠(yuǎn)超乎想象。當(dāng)一個(gè)黑人被認(rèn)定殺死一個(gè)白人，被判處死刑的概率要遠(yuǎn)大于白人殺死黑人。①黑人殺死白人相比白人殺死黑人被判處死刑的概率要高很多，在俄亥俄州是15倍，在佐治亞州是30倍，得克薩斯州是 90 倍。 參見：張訓(xùn).論量刑歧視［J］.浙江社會(huì)科學(xué)，2011，（2）：49-55.智慧司法系統(tǒng)應(yīng)用之前，可以說(shuō)歧視已經(jīng)存在，而大數(shù)據(jù)的出現(xiàn)能夠幫助法官將判決鎖定在合法的區(qū)間范圍內(nèi)，一旦案件超出了警戒值，系統(tǒng)會(huì)予以提醒防止結(jié)果畸輕畸重。［19］從這個(gè)角度而言，歧視并不是算法造成的，而是天然的存在于司法裁判之中，而智能審判系統(tǒng)中的算法能夠在一定程度上削弱歧視的程度。

（四）算法能夠替代法官思考嗎？

有的學(xué)者擔(dān)憂：“越來(lái)越多的司法機(jī)關(guān)建成強(qiáng)大的信息系統(tǒng)，開發(fā)出更加智能的軟件來(lái)代替?zhèn)鹘y(tǒng)的司法審理活動(dòng)，甚至做出裁判?！保?0］這里需要反思的問(wèn)題是，算法未來(lái)有能力替代法官思考嗎？算法替代法官有主客觀兩方面的要件：在客觀上，案件本身可以預(yù)測(cè)；在主觀上，法官思維方式可以模擬。

在客觀上，案件審判結(jié)果是否可以通過(guò)算法預(yù)測(cè)？裁判預(yù)測(cè)是基于過(guò)往案件信息與法律后果之間的因果關(guān)系的一種分析，對(duì)于案件結(jié)果的一種蓋然率的推測(cè)。［21］有學(xué)者通過(guò)32萬(wàn)份刑事判決為樣本，對(duì)其中有罪判決和無(wú)罪判決進(jìn)行量化研究比較。結(jié)果發(fā)現(xiàn)，無(wú)罪與有罪的司法決定不完全取決于案件基本事實(shí)是否符合實(shí)體定罪條件，還與刑事訴訟過(guò)程中的某種司法潛見有關(guān)。司法潛見來(lái)源于證據(jù)信息不對(duì)稱、實(shí)體性暗示、控辯力量對(duì)比懸殊、控方對(duì)案件的初選等背景信息。［22］例如，同樣的案件由不同的律師團(tuán)隊(duì)代理，不同的檢察官提起公訴，不同的法官審理，其結(jié)果不可能做到完全一致。無(wú)論是代理、辯護(hù)、公訴還是審判都是一門需要長(zhǎng)期積累的技藝，僅僅依靠系統(tǒng)預(yù)測(cè)或者計(jì)算，很難與最終結(jié)果相貼合，更何況這些內(nèi)容還很難放進(jìn)大數(shù)據(jù)分析的材料之中，更難成為分析的要素。此外，法律法規(guī)的變更，冤假錯(cuò)案的糾偏導(dǎo)致預(yù)測(cè)所依賴的數(shù)據(jù)庫(kù)背景需要及時(shí)的修正與更新，這些雜質(zhì)數(shù)據(jù)的存在也為案件預(yù)測(cè)增加了難度。有些相似案件出現(xiàn)了截然相反的判決，例如針對(duì)職業(yè)打假，前后數(shù)個(gè)法院作出不同的判決。①支持職業(yè)打假的判例參見：最高人民法院2014年1月26日發(fā)布的指導(dǎo)性案例之一《孫銀山訴南京歐尚超市有限公司江寧買賣合同糾紛案》，反對(duì)職業(yè)打假的判例有攜帶公證員購(gòu)買10箱茅臺(tái)索賠受阻，參見：楊琳.打假人買假茅臺(tái)索賠10倍被駁［N］.北京青年報(bào)，2018-01-07.預(yù)測(cè)系統(tǒng)的正確有效是基于對(duì)過(guò)去完整信息的掌握和分析，關(guān)鍵分析要素的缺失，雜質(zhì)數(shù)據(jù)的客觀存在直接導(dǎo)致裁判預(yù)測(cè)無(wú)法實(shí)現(xiàn)。

在主觀上，法官的思維方式算法是否可以模擬？法官通過(guò)大前提與小前提經(jīng)由涵攝導(dǎo)出結(jié)論，這個(gè)邏輯過(guò)程很容易抽象概括，但在實(shí)踐中卻困難重重，尤其是面對(duì)疑難案件和重大價(jià)值判斷，僅僅依靠邏輯推理很難做出正確裁決。因?yàn)榉傻纳辉谟谶壿嫳旧?，而在于?jīng)驗(yàn)，法官不是法條主義者，更不是自動(dòng)售貨機(jī)，許多司法決定都受到法官的政治偏好或者法律之外的其他因素的強(qiáng)烈影響，［23］而政治偏好或者法律之外的其他因素很難被算法所學(xué)習(xí)和掌握。對(duì)于政治偏好而言，即便是政治立場(chǎng)和意識(shí)形態(tài)明顯的美國(guó)法官，算法將上述因素納入考量范圍，其模擬實(shí)踐情況亦不是非常理想，無(wú)法完全模擬法官思維。②2017年，美國(guó)伊利諾伊立功大學(xué)教授丹尼爾·卡茨的團(tuán)隊(duì)利用美國(guó)最高法院數(shù)據(jù)庫(kù)中的歷史數(shù)據(jù)，為每個(gè)投票標(biāo)注若干個(gè)屬性標(biāo)簽，包括法官任期長(zhǎng)短、管轄法院、口頭辯論權(quán)利保障等，創(chuàng)建了一種“隨機(jī)森林”的機(jī)器監(jiān)督學(xué)習(xí)算法。“隨機(jī)森林”模型學(xué)習(xí)了1816年到2015年最高法院的案例。經(jīng)過(guò)測(cè)試，該模型對(duì)于28000項(xiàng)判決結(jié)果預(yù)測(cè)正確率為70.2%，對(duì)24萬(wàn)張法官投票預(yù)測(cè)的正確率為71.9%。參見：繆成.人工智能與大數(shù)據(jù)技術(shù)在司法領(lǐng)域的發(fā)展現(xiàn)狀［J］.法制博覽，2019，（7）：14-17.對(duì)于法律之外的其他因素，更是達(dá)到了目前算法所能處理的極限：其一，在語(yǔ)義分析方面，缺少背景知識(shí)可能使得人工智能無(wú)法正常分析問(wèn)題，例如，“我借了你5萬(wàn)元錢現(xiàn)在還沒(méi)有還”，單純從這一句話人工智能是區(qū)分不了誰(shuí)是債權(quán)人誰(shuí)是債務(wù)人的。再如，當(dāng)證人說(shuō)“那天我大姨媽來(lái)，特別需要人幫忙，但是姨媽有事沒(méi)有來(lái)，當(dāng)天我沒(méi)有和她在一起，不能作她不在場(chǎng)證明的證人”，從人工智能語(yǔ)義分析可能會(huì)產(chǎn)生疑惑，她姨媽來(lái)了沒(méi)有？其二，在邏輯處理中，缺少文化背景使得人工智能分析問(wèn)題淪為簡(jiǎn)單的邏輯推演，并可能導(dǎo)向錯(cuò)誤的判決。例如，對(duì)于山東辱母案、廣東許霆案按照邏輯推演可能會(huì)認(rèn)定無(wú)期徒刑符合法律規(guī)定，但最終因整體衡量社會(huì)公平正義，考量國(guó)法天理人情等諸多因素進(jìn)行了改判。社會(huì)公平正義以及天理人情等因素如何體現(xiàn)在算法之中成為目前人工智能所能處理的邊界和極限。其三，在法律適用上，缺少對(duì)整個(gè)中國(guó)法律體系的把控使得法律適用中步履維艱。例如，民法中的公序良俗何時(shí)適用？誠(chéng)信原則如何理解？規(guī)則與規(guī)則之間發(fā)生沖突如何協(xié)調(diào)？原則與規(guī)則之間發(fā)生沖突如何處理？上述這些問(wèn)題在理論上尚且有爭(zhēng)議，更不可能將解決思路形成代碼編寫入智能程序中。

人類理解事物的方式首先是通過(guò)外部感官（眼耳鼻舌身）獲取相關(guān)信息（光聲嗅味觸），而后對(duì)信息進(jìn)行整合、加工、改造、處理，將不同的信息內(nèi)容建立關(guān)聯(lián)并形成概念、經(jīng)驗(yàn)、判斷。人工智能理解外在事物的方式需要人類編寫代碼，規(guī)定各種要素、條件、要求，再經(jīng)由人類輸入外部信息，最后將信息按照代碼規(guī)定的邏輯得出結(jié)論。兩者區(qū)別在于人類擁有自由意志，人工智能是照章辦事；人類可以選擇接受或者屏蔽各類信息，人工智能只能被動(dòng)接受指令；人類可以多角度看待信息內(nèi)容，人工智能只能依照既定的模式處理信息；人類看待案件是全方位審視，人工智能是按照邏輯針對(duì)要素進(jìn)行匹配和比對(duì)；人類更能夠理解要素背后的社會(huì)意義和隱藏信息，而人工智能無(wú)法對(duì)細(xì)節(jié)背后的意義作出正確的判斷。當(dāng)前人工智能所欠缺的不是算力，在計(jì)算能力上人工智能早已超越了人類，即便是人類最后一處優(yōu)勢(shì)的圍棋，也被阿爾法狗打敗。但是人工智能缺少的是對(duì)文化的掌握以及常識(shí)的把控。一方面，人是社會(huì)關(guān)系的總和，討論案件預(yù)測(cè)和法官思維離不開其所處的社會(huì)，離不開社會(huì)中的文化和主流價(jià)值觀。文化和價(jià)值并不是人工智能擅長(zhǎng)的領(lǐng)域，強(qiáng)勁的算力不能解決文化之間的對(duì)話問(wèn)題，也不可能提出文明沖突的解決之道，一旦案件審理涉及文化背景和價(jià)值觀問(wèn)題，人工智能則無(wú)法介入。另一方面，人類在處理某些事務(wù)過(guò)程中依賴的不是邏輯而是常識(shí)，人工智能缺少人類擁有的常識(shí)，因此在判斷案件基本事實(shí)時(shí)可能出現(xiàn)偏差。例如，身中五刀斷頭斷腳系自殺，缺少生活常識(shí)的人工智能可能會(huì)認(rèn)定為真，但正常人都會(huì)認(rèn)為可能有假。常識(shí)的養(yǎng)成依賴于生活中的各種細(xì)節(jié)，且一旦形成就會(huì)嵌入潛意識(shí)當(dāng)中，而恰恰是因?yàn)檫@種潛意識(shí)，通常會(huì)被忽略掉，因此一般不會(huì)刻意錄入智能系統(tǒng)中。即便需要錄入也是無(wú)比龐大的數(shù)據(jù)任務(wù)，幾乎不可能完成。綜上，以目前的發(fā)展水平，人工智能不可能替代法官思考，更不可能完全預(yù)判案件的走向。

（五）算法可以替代法官判決嗎？

既然以目前的技術(shù)水平，算法沒(méi)有足夠的能力替代法官，那么是否隨著數(shù)據(jù)的健全、技術(shù)的提升、模型的優(yōu)化，有一天算法替代法官的場(chǎng)景可能出現(xiàn)？這一點(diǎn)是否定的。因?yàn)樗惴ㄌ娲ü俦旧砑炔环纤痉ǜ母锏姆较颍峙c憲法法律相違背，抱有這樣想法的嘗試和努力注定失敗。

首先，算法替代法官與當(dāng)前司法改革方向不同。2017年《最高人民法院關(guān)于加快建設(shè)智慧法院的意見》頒布實(shí)施，該意見提出，加快建設(shè)智慧法院是最高人民法院落實(shí)“四個(gè)全面”戰(zhàn)略布局和新發(fā)展理念的必然要求，是國(guó)家信息化發(fā)展戰(zhàn)略的重要內(nèi)容，是人民法院適應(yīng)信息化時(shí)代新趨勢(shì)、滿足人民群眾新期待的重要舉措。根據(jù)該意見的內(nèi)容，智慧法院主要的工作集中在以下幾個(gè)方面：1.審務(wù)信息實(shí)現(xiàn)從上墻公示到上網(wǎng)公開；2.裁判文書實(shí)現(xiàn)從送達(dá)當(dāng)事人到社會(huì)共享；3.流程信息實(shí)現(xiàn)從無(wú)處查詢到主動(dòng)推送；4.法庭審理實(shí)現(xiàn)從劇場(chǎng)公開到遠(yuǎn)程可視；5.執(zhí)行信息實(shí)現(xiàn)從局部曝光到全程透明。從上述內(nèi)容不難看出，陽(yáng)光法院、網(wǎng)絡(luò)法院、智能法院是構(gòu)成智慧法院的三個(gè)維度。［24］智慧法院所做的一切努力都是為了化繁為簡(jiǎn)，方便法官的同時(shí)讓更多人接近司法，而不是為了制造麻煩和困擾。司法改革的方向是將智慧法院建設(shè)成為司法的車之兩輪、鳥之兩翼，并非車本身、鳥本身。更不是車上的方向盤，也不是鳥的大腦，充其量只不過(guò)是輔助法官的工具。法官才是司法改革的中心，不可能通過(guò)本輪司法改革將法官剔除出審判主體，成為可有可無(wú)的存在。司法改革的方向是賦予法官更多的裁判自主權(quán)，而不是賦予機(jī)器或者人工智能裁判權(quán)。司法改革的方向決定了技術(shù)是否會(huì)朝向相關(guān)領(lǐng)域發(fā)展，學(xué)界所擔(dān)憂的人工智能裁判出現(xiàn)無(wú)疑會(huì)影響法官的裁判權(quán)，同時(shí)也會(huì)影響到整個(gè)司法權(quán)威，與司法改革方向背道而馳。

其二，算法替代法官違反憲法及法律的規(guī)定?！稇椃ā返?28條規(guī)定：“中華人民共和國(guó)人民法院是國(guó)家的審判機(jī)關(guān)。”《中華人民共和國(guó)人民法院組織法》第4條規(guī)定：“人民法院依照法律規(guī)定獨(dú)立行使審判權(quán)，不受行政機(jī)關(guān)、社會(huì)團(tuán)體和個(gè)人的干涉?！睂徟袡?quán)是人民通過(guò)憲法賦予法院的權(quán)能，不可能讓渡給政府、檢察院、監(jiān)察委行使審判職能，更不可能讓渡給軟件公司、計(jì)算機(jī)公司、算法工程師。即便未來(lái)技術(shù)的發(fā)展已經(jīng)能夠?qū)⑷f(wàn)物數(shù)據(jù)化，將人與人之間的關(guān)系用數(shù)據(jù)衡量，算法可以精確地判定價(jià)值觀，只要憲法沒(méi)有變動(dòng)，法律沒(méi)有修改，那么就不會(huì)出現(xiàn)所謂的算法替代法官進(jìn)行審判的實(shí)踐。從本質(zhì)上而言，算法替代法官裁決，軟件公司替代法院成為審判機(jī)構(gòu)，本質(zhì)上是一種違反憲法法律的行為。

其三，算法替代法官違背商業(yè)規(guī)律。算法替代法官的嘗試并非易事，需要算法工程師不停地試錯(cuò)和創(chuàng)新，甚至需要集合法官的智慧共同研發(fā)方能成功，這勢(shì)必需要資本與法院深入合作。在法院方面，自然不會(huì)令資本占據(jù)主動(dòng)地位，既掌握數(shù)據(jù)又左右司法審判。在資本投入方面，商業(yè)機(jī)構(gòu)在投資之前都會(huì)對(duì)相關(guān)政策風(fēng)險(xiǎn)、法律風(fēng)險(xiǎn)、社會(huì)風(fēng)險(xiǎn)以及道德風(fēng)險(xiǎn)進(jìn)行全方位的評(píng)估，如此違背政策要求以及法律規(guī)定的投資勢(shì)必會(huì)被商業(yè)機(jī)構(gòu)所否決，缺少資金來(lái)源的項(xiàng)目工程注定無(wú)法實(shí)現(xiàn)。

智慧司法能夠輔助到什么程度、可以輔助到什么程度、應(yīng)該輔助到什么程度是不同的問(wèn)題。智慧法院能夠輔助到什么程度取決于算法的能力和特點(diǎn)，截至目前，算法所能達(dá)到的都是基于數(shù)字和邏輯推理，而非人情世故，所以一旦案件涉及社會(huì)背景則無(wú)法得出結(jié)論。智慧法院可以輔助到什么程度取決于司法機(jī)關(guān)的選擇，司法機(jī)關(guān)的任何選擇不會(huì)有悖于司法改革的大方向。智慧法院應(yīng)當(dāng)輔助到什么程度取決于憲法法律的規(guī)定，任何超出憲法法律范圍的嘗試將會(huì)因缺少法律依據(jù)而流產(chǎn)，審判權(quán)是憲法賦予法院獨(dú)有的權(quán)力，不可讓渡給所謂的算法或者機(jī)器，更不可能由軟件公司操控，這是對(duì)中國(guó)法律制度的挑戰(zhàn)，是對(duì)現(xiàn)有政治制度的顛覆，不可能出現(xiàn)更不可能成功。

三、智慧司法的展望

以上否定了算法貼標(biāo)簽、算法替代法官思考、算法取代法官審判，分析了算法黑箱和算法歧視，認(rèn)為智慧法院中的算法即便存在黑箱，也不影響人們理解其中的邏輯；即便存在算法歧視，也明顯弱于法官本身帶有的歧視，算法甚至可以緩解審判歧視。智慧司法的所有焦慮和擔(dān)憂均來(lái)自于對(duì)陌生事物的恐懼，對(duì)于智慧司法建設(shè)關(guān)注焦點(diǎn)不應(yīng)當(dāng)是算法，而是算法給司法帶來(lái)的各項(xiàng)沖擊。

（一）對(duì)算法的憂慮來(lái)源于恐懼

人工智能對(duì)于大部分人而言是一個(gè)既熟悉又陌生的新鮮事物，而對(duì)新鮮事物的排斥和恐懼是人類的本能。當(dāng)出現(xiàn)月食人們認(rèn)為是天狗吃月，要敲打樂(lè)器驅(qū)趕天狗；當(dāng)出現(xiàn)社會(huì)動(dòng)亂或者瘟疫橫行時(shí)，中世紀(jì)歐洲不明就里地開始獵殺女巫；當(dāng)照相機(jī)出現(xiàn)時(shí)被認(rèn)為可能會(huì)攝人魂魄，進(jìn)而奪人性命；當(dāng)汽車出現(xiàn)時(shí)，美國(guó)媒體將其形容為惡魔的車，英國(guó)甚至出臺(tái)了“紅旗法”限制汽車車速；當(dāng)5G技術(shù)出現(xiàn)時(shí)，有人公開擔(dān)憂5G信號(hào)輻射嚴(yán)重。諸如此類的擔(dān)憂無(wú)一不是情景再現(xiàn)，面對(duì)無(wú)法理解的事物、現(xiàn)象以及技術(shù)，任何錯(cuò)誤的信息通過(guò)簡(jiǎn)單的邏輯推演，就能夠在群眾中廣泛傳播，最終形成一種牢不可破的執(zhí)念。對(duì)人工智能的憂慮和恐懼亦是如此，一方面這種恐懼體現(xiàn)在科幻小說(shuō)和科幻電影中，人類成為人工智能的奴隸，進(jìn)行著各種反抗活動(dòng)。例如，生化危機(jī)中的紅皇后，黑客帝國(guó)中的電子矩陣，漫威電影中的奧創(chuàng)。這些科幻小說(shuō)和電影受眾面較廣，潛移默化中輸入了人工智能將來(lái)會(huì)取代甚至奴役人類的錯(cuò)覺(jué)。另一方面新聞媒體在宣傳人工智能取得的重大成就時(shí)，采取夸大標(biāo)題吸引別人眼球。例如，阿爾法狗大殺四方的時(shí)候，新聞標(biāo)題大多是“新阿爾法狗橫空出世：人工智能反人類是什么結(jié)局？”［25］“人工智能阿爾法狗戰(zhàn)勝棋手，人類會(huì)被人工智能代替？”［26］盡管仔細(xì)品讀這些文章，發(fā)現(xiàn)內(nèi)容比較客觀中立，但是僅僅從標(biāo)題來(lái)看無(wú)疑加重了普通人群的恐慌和焦慮。此外，現(xiàn)實(shí)生活中技術(shù)的進(jìn)步，尤其是人工智能的發(fā)展，逐步造成了部分人員失業(yè)。例如，電話接線員、碼頭信號(hào)調(diào)度員、鐵路扳道工等已經(jīng)淡出人們視線。有些尚未失業(yè)的人員，隨著人工智能的進(jìn)一步應(yīng)用，也在逐漸減少甚至未來(lái)某一天徹底失業(yè)。例如，收費(fèi)站工作人員、速錄員、收銀員等可能逐漸減少甚至在未來(lái)消失。這樣的沖擊讓人們對(duì)新技術(shù)的發(fā)展產(chǎn)生反感、厭惡、排斥甚至是恐懼。針對(duì)智慧法院中的人工智能、算法應(yīng)用等內(nèi)容，潛意識(shí)中對(duì)人工智能的恐懼支配了正常的思考，一些夸張炒作成為研究的前提假設(shè)，諸如超強(qiáng)人工智能超越人類取代人類成為必然甚囂塵上。因此需要盡早研究算法取代人類法律的對(duì)策，研究人工智能引發(fā)的各類風(fēng)險(xiǎn)，防患于未然，［27］有的甚至主張刑法積極應(yīng)對(duì)和規(guī)制人工智能犯罪問(wèn)題。［28］這種未雨綢繆的精神讓人欽佩，但是所有焦慮以及恐懼均是來(lái)自于虛妄執(zhí)念，只不過(guò)是撫慰恐懼的內(nèi)心而已。［29］

（二）不應(yīng)當(dāng)過(guò)度關(guān)注智慧法院中的算法

關(guān)注算法本身的結(jié)果就是要求加強(qiáng)對(duì)智慧法院的算法進(jìn)行審查，要求法院公開算法。［30］但事實(shí)上，法院公開算法對(duì)于消除算法歧視收效甚微。首先，公開算法并不能保證沒(méi)有歧視。只要算法存在，就可能產(chǎn)生算法黑箱和算法歧視，即便程序員刻意避免歧視出現(xiàn)的前提下，在算法運(yùn)用過(guò)程中依然可能出現(xiàn)歧視性結(jié)果。［31］例如，在輸入法詞庫(kù)中沒(méi)有將肥宅和快樂(lè)水關(guān)聯(lián)在一起，但網(wǎng)友長(zhǎng)期將二者一起輸入，其結(jié)果是算法判定“肥宅快樂(lè)水”是一種新的詞語(yǔ)。其次，算法公開容易造成信息淹沒(méi)。公開算法后關(guān)注的焦點(diǎn)就成了算法本身是否存在歧視，是否會(huì)導(dǎo)致不公正的判決。而事實(shí)上相比于算法，法官對(duì)于訴訟參與人的歧視以及類案不同判更應(yīng)當(dāng)被關(guān)注，當(dāng)關(guān)注的焦點(diǎn)從案件本身轉(zhuǎn)移到了算法，那么案件裁判適用法律是否恰當(dāng)，案件結(jié)果是否合理等均可能被忽略。再次，算法公開可能存在技術(shù)鴻溝。即便是公開算法，無(wú)論是PHP，還是Python，抑或是java，對(duì)于普通人而言都是如同天書一般，根本無(wú)法根據(jù)算法所記載的內(nèi)容判斷算法是否存在歧視或者偏見。最后，算法公開存在安全隱患。由于算法內(nèi)容的專業(yè)性，無(wú)論是公開算法，還是審查算法，都不得不依賴由法官委員會(huì)、算法工程師、法學(xué)專家或者倫理專家共同組成的委員會(huì)，公開或者審查過(guò)程中增加了原始代碼泄露的危險(xiǎn)，一旦被黑客掌握其中的漏洞，則可能以此為踏板侵入法院內(nèi)部系統(tǒng)，造成關(guān)鍵數(shù)據(jù)被篡改、核心數(shù)據(jù)遭到泄露。

（三）應(yīng)當(dāng)關(guān)注算法給司法帶來(lái)的沖擊

盡管智慧法院建設(shè)過(guò)程中的算法問(wèn)題無(wú)須過(guò)度擔(dān)憂，但大數(shù)據(jù)應(yīng)用、算法革命對(duì)司法及審判工作的影響卻不止于此。有的通過(guò)深度挖掘裁判文書，對(duì)其進(jìn)行大數(shù)據(jù)分析形成報(bào)告，推動(dòng)相關(guān)領(lǐng)域的學(xué)術(shù)研究；有的基于以往判決對(duì)案件勝負(fù)概率進(jìn)行預(yù)測(cè)，提供訴訟建議；［32］有的則利用人工智能審查合同或者保密協(xié)議，其效率和準(zhǔn)確率甚至超過(guò)了經(jīng)驗(yàn)豐富的律師。①美國(guó)法律人工智能平臺(tái)LawGeex就四個(gè)小時(shí)審查五項(xiàng)保密協(xié)議與20位有經(jīng)驗(yàn)的律師展開競(jìng)爭(zhēng)，結(jié)果顯示，lawGeex以95%的準(zhǔn)確率完勝人類律師的85%的準(zhǔn)確率。在速度方面，法律人工智能完成任務(wù)僅需26秒，人類律師需要92分鐘。參見：左衛(wèi)民.熱與冷：中國(guó)法律人工智能的再思考［J］.環(huán)球法律評(píng)論，2019，（2）：53-62.這些看似無(wú)關(guān)的商業(yè)應(yīng)用，實(shí)質(zhì)可能會(huì)對(duì)審判工作產(chǎn)生巨大的影響。首先，大數(shù)據(jù)分析報(bào)告成為影響司法的工具。除了司法機(jī)關(guān)之外，大數(shù)據(jù)分析也可以由個(gè)人、公司、企業(yè)進(jìn)行，他們熱衷于利用爬蟲技術(shù)獲取裁判文書及其關(guān)鍵信息，有的是為了從事科研，有的則是為了分析審判規(guī)律并從中獲利。技術(shù)公司可能會(huì)在算法中設(shè)置偏見或歧視編碼，以期得到預(yù)想的分析結(jié)果，并以此為依據(jù)影響甚至左右法院的判決。其次，算法預(yù)測(cè)案件結(jié)果可能會(huì)對(duì)司法權(quán)威造成沖擊。前文已述，人工智能預(yù)測(cè)案件結(jié)果并不能做到100%，那么一旦法官最終判決結(jié)果與預(yù)測(cè)結(jié)果不同，那么個(gè)人、公司、企業(yè)的預(yù)測(cè)結(jié)果是否會(huì)成為公眾質(zhì)疑司法的依據(jù)？一旦非司法機(jī)構(gòu)能夠掌握司法審判規(guī)律，甚至可以對(duì)司法判決評(píng)頭論足，獲取公眾的普遍支持和信任，那么本就脆弱的司法權(quán)威是否會(huì)遭受毀滅性的打擊？最后，殘缺的樣本得出錯(cuò)誤的結(jié)論影響司法公信。事實(shí)上，法院對(duì)外公開的裁判文書并不全面，有大量文書因法定或者非法定原因未能公開。根據(jù)學(xué)者對(duì)河南法院裁判文書公開的研究，發(fā)現(xiàn)裁判文書公開的比例各不相同，有的公開比例高達(dá)83%，有的僅為15%，［33］個(gè)人、公司、企業(yè)根據(jù)不完整的樣本分析得出的結(jié)論可能存在偏差，甚至利用上述殘缺樣本得出一些明顯帶有歧視性的結(jié)論。而這些結(jié)論的得出來(lái)自于法院的各類信息，這無(wú)疑將司法機(jī)構(gòu)推向輿論的風(fēng)口浪尖，極大地影響了司法公信。

結(jié) 語(yǔ)

不知從何時(shí)開始，如何更好地批評(píng)和監(jiān)督公權(quán)力成為學(xué)術(shù)界的共識(shí)，而來(lái)自商業(yè)機(jī)構(gòu)的“隱形權(quán)力”卻往往被忽略，當(dāng)學(xué)術(shù)界在關(guān)注智慧法院建設(shè)過(guò)程中大數(shù)據(jù)、算法運(yùn)用、信息化建設(shè)可能對(duì)公民、企業(yè)、組織造成各類不平等和傷害時(shí)，卻忽略了同樣的內(nèi)容可以對(duì)司法機(jī)構(gòu)、公民、企業(yè)、組織造成影響。法院作為國(guó)家審判機(jī)構(gòu)不可能在編輯代碼之初就將歧視和偏見寫入，而滴滴、京東、淘寶等出現(xiàn)的大數(shù)據(jù)殺熟，算法歧視則比比皆是。與公權(quán)力相比，資本力量利用算法造成的傷害遠(yuǎn)超公權(quán)力機(jī)關(guān)，一旦讓其突破司法審判中的各類算法，極有可能既傷害與其對(duì)立的商業(yè)對(duì)手、法人、組織以及普通公民，還有可能影響、左右甚至架空司法機(jī)構(gòu)。故學(xué)術(shù)界應(yīng)當(dāng)從對(duì)智慧司法建設(shè)中的憂慮中走出，將注意力焦點(diǎn)集中在資本力量掌握的隱形權(quán)力上。