摘 要：近年來隨著人們法律意識的增強，出現(xiàn)了“案多人少”的司法治理窘境，而人工智能的快速發(fā)展為這一難題帶來了新的解決思路，大數(shù)據(jù)背景下司法智能化是一種必然的趨勢，人工智能的引入必會給司法審判活動帶來新的面貌和影響，成為司法治理的良好動力。但任何新事物都有兩面性，人工智能的引入在解決原有問題的基礎(chǔ)上，還會帶來新的挑戰(zhàn)和問題，因此將人工智能運用于司法審判必須審慎進行。

關(guān)鍵詞：人工智能;司法實踐;風(fēng)險;防范

中圖分類號：TP18 文獻標(biāo)識碼：A 文章編號：1004-9436（2020）06-00-05

人工智能，即Artificial Intelligence，從概念的提出到發(fā)展應(yīng)用，已經(jīng)有60多年的歷史。近年來隨著人工智能技術(shù)的飛速發(fā)展，其不僅在日常生活中有廣泛的應(yīng)用，更開始逐步應(yīng)用于司法實踐，比如域外如美國的人工智能律師ROSS、英國的人工智能審判預(yù)測程序等，而我國在最高人民法院的推動下，人工智能技術(shù)運用于司法實踐領(lǐng)域已經(jīng)取得了傲人的成果：北京的“睿法官”軟件和“檢立方”系統(tǒng)、江蘇的“案管機器人”等。司法智能化在帶來效率與便捷的同時，也帶來了一系列的風(fēng)險問題，例如個人信息和隱私權(quán)如何保護、人工智能導(dǎo)致的問題如何歸責(zé)等。因此我們必須正視司法人工智能帶來的司法審判風(fēng)險，完善應(yīng)對措施和制度。

1 人工智能介入司法審判的基本脈絡(luò)

1983 年龔祥瑞與李克強在《法學(xué)雜志》上發(fā)表了一篇名為《法律工作的計算化》的文章，這是我國最早關(guān)于計算機技術(shù)運用于法律實踐研究的文章。文章中提出了將計算機技術(shù)運用于司法實踐的構(gòu)想。[1]之后法學(xué)專家開始了對司法人工智能的系統(tǒng)性研究，例如1993年中山大學(xué)開發(fā)的LOA 律師辦公自動化系統(tǒng)，[2]以及武漢大學(xué)法學(xué)院研制的實用刑法專家系統(tǒng)等。

人工智能應(yīng)用于審判實踐的首次嘗試在 2006 年，2006年山東淄川區(qū)法院研制出了一套自主量刑軟件系統(tǒng)，該系統(tǒng)可以根據(jù)所輸入的案件情節(jié)以及相關(guān)法律條文，作出相應(yīng)量刑判斷。但由于當(dāng)時人工智能技術(shù)水平的限制以及輿論的爭議，該量刑軟件未能繼續(xù)使用發(fā)展下去。2006年以后，隨著人工智能的快速發(fā)展，在最高人民法院的推動下，各地都開展了關(guān)于人工智能應(yīng)用于司法審判的嘗試，自2013 年起，我國法院開始進入了以智能化為核心、建設(shè)智慧法院的發(fā)展時期。[3]例如2016年貴州省高級人民法院研發(fā)的“法院云”技術(shù)，2017年上海市高級人民法院與各部門聯(lián)合開發(fā)的“206”工程，以及2017年杭州互聯(lián)網(wǎng)法院的正式掛牌運營等。

從2016年開始，最高人民法院陸續(xù)出臺了《最高人民法院關(guān)于加快建設(shè)智慧法院的意見》《人民法院信息化標(biāo)準(zhǔn)制定工作管理辦法》《關(guān)于加快建設(shè)智慧法院的意見》等。[4]在最高人民法院的推動下，我國人民法院審判執(zhí)行方式的全局性變革不斷深化，智慧法院的建設(shè)不斷加快，有力地促進了審判體系和審判能力的智慧化。雖然我國人工智能在司法實踐領(lǐng)域應(yīng)用的時間較短，但是隨著人工智能技術(shù)的不斷發(fā)展完善，同時也是為了適應(yīng)司法改革與智慧法院的建設(shè)需要、適應(yīng)新時代的要求，未來我國人工智能在司法領(lǐng)域的實踐應(yīng)用將會得到進一步深化。

2 人工智能介入司法審判的風(fēng)險分析

德國社會學(xué)家烏爾里?！へ惪嗽赋觥叭魏涡屡d技術(shù)的誕生與運用在給人們帶來機遇與便利的同時，也可能產(chǎn)生風(fēng)險與制造挑戰(zhàn)”。[5]在將人工智能積極應(yīng)用于我國司法實踐，發(fā)揮其輔助審判的重要作用的同時，也必須正視其帶來的各種社會風(fēng)險。

2.1 侵犯個人信息和隱私權(quán)的風(fēng)險

在互聯(lián)網(wǎng)大數(shù)據(jù)時代，人們的行為時刻受到“監(jiān)視”，各種APP搜集了用戶大量的指紋信息、人臉識別信息，甚至有的智能產(chǎn)品能將我們的位置信息隨時隨地上傳至網(wǎng)絡(luò)云端。人工智能以大數(shù)據(jù)為基礎(chǔ)，在開發(fā)和使用的過程中必然會使用數(shù)據(jù)庫中海量的個人信息，不僅包括姓名、年齡、性別等個人基礎(chǔ)信息，甚至還包括一些敏感隱私信息，基于人工智能數(shù)據(jù)庫數(shù)據(jù)規(guī)模之大、范圍之廣、私密性之高，一旦數(shù)據(jù)庫中的這些數(shù)據(jù)遭到泄露、竊取或不當(dāng)使用，用戶的個人信息和隱私安全就會面臨極大的風(fēng)險。

利用人工智能輔助司法審判的過程，同時也是一個收集當(dāng)事人個人信息、生成新信息的過程，在這一過程中必須考慮個人信息以及隱私安全的問題。就大數(shù)據(jù)發(fā)展的現(xiàn)狀而言，企業(yè)依然是掌握用戶數(shù)據(jù)的主體。在大數(shù)據(jù)背景下，企業(yè)搜集大量用戶信息和數(shù)據(jù)已經(jīng)成為一種慣例，比如作為搜索引擎巨頭的百度，在其網(wǎng)站首頁就沒有相關(guān)隱私聲明的內(nèi)容，這可能會導(dǎo)致一種被隱藏在合理化外衣下的錯誤：即對公民個人相關(guān)信息的收集與處理似乎是其自愿接受的，人們無從得知自己的信息由誰搜集，不清楚自己的信息如何使用流轉(zhuǎn)，對最終的信息使用者更是無從得知。

個人信息和隱私的泄露不僅會對法院的公信力造成消極影響，更甚者還會威脅公民的人身和財產(chǎn)安全，因此在大力建設(shè)智慧法院，推行網(wǎng)上辦理業(yè)務(wù)、流程公開的同時，如何保護這些數(shù)據(jù)和信息是一個十分重要的問題。

2.2 人工智能的技術(shù)風(fēng)險

盡管人工智能技術(shù)相較于傳統(tǒng)的審判模式有一定的優(yōu)勢，但是我們必須認識到當(dāng)前我國司法智慧化建設(shè)尚處于起步階段，一些人工智能技術(shù)的應(yīng)用才剛剛開始，人工智能系統(tǒng)自身的技術(shù)風(fēng)險尚未得到控制。

一方面，與審判工作者的工作方式不同，審判人工智能需要龐大的法律數(shù)據(jù)作為支撐，如果法律數(shù)據(jù)自身的客觀性和真實性難以保證，那么審判人工智能所得出的裁判結(jié)果也會失去真實性和客觀性。另外，數(shù)據(jù)的全面性也會影響審判人工智能的裁判結(jié)果，人工智能系統(tǒng)在審判實踐中的運用依賴于大量優(yōu)質(zhì)法律數(shù)據(jù)的收集，然而現(xiàn)有法律數(shù)據(jù)數(shù)量有限，根據(jù)對中國裁判文書網(wǎng)上所公開的文書數(shù)據(jù)的統(tǒng)計，線上公開的裁判文書總量僅占線下已審結(jié)案件數(shù)總量的50%左右，這意味著有近一半的裁判文書未被錄人工智能系統(tǒng)，未得到有效利用。[6]并且法律數(shù)據(jù)的質(zhì)量也不容樂觀，就目前所公開的情況來看，各地法院上傳的裁判文書質(zhì)量不一。同時，數(shù)據(jù)分散在不同部門、不同層級、不同地域，數(shù)據(jù)整合存在壁壘，導(dǎo)致了一個個“信息孤島”的形成，無法發(fā)揮法律數(shù)據(jù)的真正價值。

另一方面，人工智能系統(tǒng)自身固有的機械性、滯后性難以克服。人工智能系統(tǒng)基于以大數(shù)據(jù)為驅(qū)動的特點，在運行中“重相關(guān)而輕因果”，審判人工智能依靠明確的法律規(guī)則和法律概念來完成對案件的分析處理，但其技術(shù)難以準(zhǔn)確理解自然語言在具體案件中的具體含義，僅能通過機器語言表達法律規(guī)則及案件事實，這一過程的基石是存儲在數(shù)據(jù)庫中的各類案件和數(shù)據(jù)，這些案件和數(shù)據(jù)在統(tǒng)計、整合和錄入時就具有了一定的滯后性，必然會導(dǎo)致審判人工智能系統(tǒng)分析處理結(jié)論的滯后性。

2.3 法官自由裁量缺失的風(fēng)險

正如霍姆斯所說：“法律的生命不在于邏輯而在于經(jīng)驗?！迸c審判人工智能相比，法官審理案件的過程并不僅僅是硬性地適用法律法規(guī)，而是通過裁判經(jīng)驗和思維方式發(fā)揮主觀能動性，選擇、適用法律和司法解釋對具體案件作出評價判斷，以人性來彌補法律剛性的不足，實現(xiàn)“情、理、法”三者有機統(tǒng)一。[7]然而，人工智能歸根結(jié)底是一種算法和程序，法官在具體審判實踐中所積累的判斷力和裁決力是人工智能無法比擬，其缺乏法官獨有的裁判經(jīng)驗、思維方式以及情感，也就無法考慮具體案件背后復(fù)雜的社會關(guān)系和政策因素。審判人工智能分析處理案件是一種機械化的過程，所得出的結(jié)果往往也是機械化的“標(biāo)準(zhǔn)答案”，帶有濃厚的剛性色彩。但是司法活動是一個綜合性的社會活動，其中可能會涉及對道德、習(xí)慣、民意等各種實質(zhì)性內(nèi)容的判斷和處理。而人工智能無法模擬法官的自由裁量、邏輯推理等思維方式，無法彌補立法者認識能力不足所導(dǎo)致的法律適用空缺，因此無法形成有溫度的公正的裁判。

2.4 人工智能責(zé)任認定風(fēng)險

隨著審判人工智能在司法領(lǐng)域的廣泛應(yīng)用，如果其在輔助司法審判的過程中出現(xiàn)了錯誤，責(zé)任應(yīng)該由誰承擔(dān)？能否向?qū)徟腥斯ぶ悄茏坟?zé)？這是司法機關(guān)在應(yīng)用人工智能的過程中必然會遇到的重要問題。

人工智能是一種科技產(chǎn)品，若按照一般的產(chǎn)品責(zé)任，則應(yīng)由產(chǎn)品的制造商負責(zé)，但是人工智能與傳統(tǒng)的產(chǎn)品又有本質(zhì)上的區(qū)別，它并不僅僅是一般的生活用產(chǎn)品，作為一種產(chǎn)品，其還具有與人交互的功能，如果人工智能在和人的交互過程中發(fā)生錯誤，應(yīng)該由誰來負責(zé)？在這一問題的解決上，一些國家和地區(qū)使用的方式值得參考，例如2016年歐洲議會向歐盟委員會提出的要求制定民事規(guī)范來限制機器人的生產(chǎn)和市場流通，2017年沙特阿拉伯通過授予機器人索菲亞公民身份來明確其法律地位。雖然有些國家對人工智能承擔(dān)法律責(zé)任問題態(tài)度明確，但是多數(shù)國家仍然采用保守的態(tài)度。[8]

我國目前沒有出臺專門針對人工智能責(zé)任承擔(dān)問題的法律或解釋，隨著審判人工智能在司法領(lǐng)域的廣泛應(yīng)用，必須盡快出臺法律或解釋來彌補人工智能責(zé)任承擔(dān)問題相關(guān)規(guī)定的缺失。

3 人工智能介入司法審判的風(fēng)險防范

基于審判人工智能在司法實踐中產(chǎn)生的積極作用與負面影響，為了使審判工智能在司法實踐中的應(yīng)用產(chǎn)生良性的效果，應(yīng)從以下幾個方面關(guān)注人工智能的發(fā)展與應(yīng)用：

3.1 加強對個人信息和隱私權(quán)的保護

首先，要明確法院收集信息的范圍，法院不能沒有限度、肆意地收集個人信息，應(yīng)當(dāng)基于案件審理的實際需要有限度地收集個人信息，并且保證對所收集信息的妥善保管，確保所收集信息的安全。其次，法院應(yīng)當(dāng)保證對所收集信息的合理使用，并保證當(dāng)事人知悉其信息的使用方式和范圍。個人信息和隱私的保護不僅需要法院引起重視，相關(guān)企業(yè)也必須重視對個人信息和隱私的保護。企業(yè)作為掌握個人信息和隱私數(shù)據(jù)的主體，必須承擔(dān)保護個人信息的重要責(zé)任，嚴(yán)格遵守國家法律法規(guī)，嚴(yán)禁利用企業(yè)科學(xué)技術(shù)優(yōu)勢侵害社會公眾的個人隱私和信息安全。

其次，要加強對人工智能系統(tǒng)數(shù)據(jù)使用程序和方式的監(jiān)管。隨著審判人工智能的應(yīng)用和普及，必須采取相應(yīng)的措施，對人工智能系統(tǒng)對數(shù)據(jù)信息的采集和應(yīng)用全過程及各個環(huán)節(jié)進行監(jiān)管，防止人工智能系統(tǒng)在應(yīng)用中出現(xiàn)紕漏、危害公民的個人信息和隱私安全。事前的監(jiān)管方面，可以通過設(shè)立專門的行政監(jiān)管機構(gòu)，在事前對人工智能企業(yè)所提供的數(shù)據(jù)服務(wù)實行準(zhǔn)入制，將一些“不良”企業(yè)排除在錄用門檻以外;事中，由專門的監(jiān)督機構(gòu)定期對企業(yè)進行監(jiān)督檢查，檢查記錄存檔封存以便隨時查驗;在事后監(jiān)管方面，行政監(jiān)管機構(gòu)對于發(fā)現(xiàn)的存在侵害個人信息和隱私權(quán)行為的企業(yè)，應(yīng)強制令其采取有效的補救措施，在對企業(yè)給予行政處罰的同時，政府部門要積極采取行動，加大對侵害個人信息及隱私的違法行為的打擊力度。

人工智能技術(shù)的發(fā)展和普及，必然會涉及公民個人信息和隱私安全保護的問題，我們要做的是在保證公民個人信息和隱私安全的前提下，更好地應(yīng)用人工智能技術(shù)、服務(wù)司法實踐。

3.2 完善人工智能技術(shù)的算法與數(shù)據(jù)

一方面，為了保證人工智能系統(tǒng)算法程序的公平正義，在算法程序編寫設(shè)計過程中就應(yīng)保證其公開性、透明性，明確人工智能系統(tǒng)使用了哪些算法、參數(shù)和數(shù)據(jù)，這些算法、參數(shù)和數(shù)據(jù)按照何種程序運行，程序的運行實現(xiàn)了什么目的，以避免基礎(chǔ)算法程序出現(xiàn)問題所導(dǎo)致的風(fēng)險。另一方面，打破技術(shù)人員對司法人工智能的壟斷，需要推動法學(xué)理論知識人才同人工智能科技人才的交流，法學(xué)理論人才在深度學(xué)習(xí)人工智能科技知識后，可以介入對算法程序的設(shè)計，與人工智能技術(shù)人員合作設(shè)計出符合司法實踐要求的人工智能法律系統(tǒng)。

“很多數(shù)據(jù)開始出現(xiàn)交叉，各個維度的數(shù)據(jù)從點和線漸漸連成了網(wǎng)，或者說，數(shù)據(jù)之間的關(guān)聯(lián)性極大地增強，在這樣的背景下，就出現(xiàn)了大數(shù)據(jù)?！盵9]完善的司法數(shù)據(jù)庫是防范人工智能審判應(yīng)用風(fēng)險的要求，基于此提出了新的要求：建設(shè)與傳統(tǒng)數(shù)據(jù)庫相區(qū)別的，能夠跨區(qū)域、跨部門的，統(tǒng)一的司法數(shù)據(jù)庫。統(tǒng)一司法數(shù)據(jù)庫的建設(shè)不僅能滿足我國司法機關(guān)人工智能發(fā)展的需要，還能及時、準(zhǔn)確、有效地向社會公眾公開司法運行情況、司法信息，跨部門、跨區(qū)域數(shù)據(jù)庫的建設(shè)也是解決司法機關(guān)數(shù)據(jù)庫信息數(shù)量不足問題的有效途徑之一。

在解決了數(shù)據(jù)庫信息數(shù)量的問題之后，就需要接著解決數(shù)據(jù)庫信息質(zhì)量的問題，數(shù)據(jù)的準(zhǔn)確性和代表性決定人工智能的智能化程度。維克托·邁爾·舍恩伯格認為：“數(shù)據(jù)量的大幅度增加會造成結(jié)果的不準(zhǔn)確，一些錯誤的數(shù)據(jù)可能會混進數(shù)據(jù)庫?！盵10]對此，可以通過對數(shù)據(jù)的分析，提取案件關(guān)鍵因素，可以刪除裁判文書網(wǎng)所公開的參考價值較低的文件、數(shù)據(jù)、信息;對司法領(lǐng)域的各類數(shù)據(jù)進行分析整合，努力提高司法數(shù)據(jù)庫中數(shù)據(jù)信息的準(zhǔn)確性和代表性。

3.3 明確司法實踐中人工智能的責(zé)任承擔(dān)

2017年國務(wù)院頒布的《新一代人工智能發(fā)展規(guī)劃》指出研究人工智能問責(zé)問題的必要性，從自動駕駛到機器人管家再到電腦量刑，人工智能已經(jīng)逐漸滲透到社會、經(jīng)濟的方方面面，但是對人工智能產(chǎn)生的責(zé)任問題仍然缺乏足夠的認識和研究，人工智能廣泛應(yīng)用的現(xiàn)狀亟須法律對這一問題作出明確的規(guī)定。

人工智能并不具有獨立的思維和意識，其行為只是按照人類預(yù)設(shè)的程序進行，在一般情況下不具有責(zé)任承擔(dān)能力，對此可以通過區(qū)分人工智能制造者和操作者在審判實踐中的不同應(yīng)用情況，來區(qū)分不同的責(zé)任承擔(dān)情況。一種情況是制造者或操作者故意導(dǎo)致的責(zé)任承擔(dān)問題，在這種情況下，制造者或操作者在主觀上故意利用人工智能不具有獨立的自我意識這一特性，使人工智能按照自己的想法進行某種特定的行為，人工智能在這一過程中扮演的是制造者或操作者的犯罪工具的角色，在這種情況下，應(yīng)由人工智能的制造者或操作者承擔(dān)相應(yīng)的損害賠償責(zé)任。另一種情況是制作者或操作者的過失導(dǎo)致的責(zé)任承擔(dān)問題，人工智能的制造者或操作者由于疏忽大意或者過于自信而未能預(yù)見損害的發(fā)生，則應(yīng)由制造者或操作者承擔(dān)過失責(zé)任。

綜上，人工智能在司法活動中出現(xiàn)工作失誤所導(dǎo)致的損害結(jié)果，司法工作人員如果不能在第一時間證明這一損害結(jié)果是由人工智能制造者或操作者造成的，就應(yīng)當(dāng)先對人工智能失誤造成的損害承擔(dān)責(zé)任，之后可根據(jù)實際情況，由司法機關(guān)向人工智能技術(shù)的制造者或?qū)嶋H操作者追償。

3.4 明確人工智能在審判中的輔助性地位

雖然人工智能系統(tǒng)能夠提高司法信息化和智能化水平，但是無論從技術(shù)水平層面還是從倫理道德層面，其只能是人的工具，在審判中處于輔助性地位。

從技術(shù)水平方面來看，目前人工智能技術(shù)的發(fā)展仍處于“弱人工智能”階段，其在司法審判實踐中發(fā)揮的主要是法律文書的審閱、法律問題的在線咨詢以及輔助司法審判工作人員辦案等基礎(chǔ)性功能，人工智能當(dāng)前的技術(shù)水平?jīng)Q定了其在審判實踐中的輔助地位。

從倫理道德層面看，法官的自由裁量權(quán)在案件審判中發(fā)揮著重要作用，人工智能系統(tǒng)只是一種機器產(chǎn)品，不具備人類的道德情感，無法與人類共情，在案件事實復(fù)雜，涉及人性、道德和情感等因素時，難以根據(jù)法律和常識作出分析判斷并進行妥善處理。

因此，即使人工智能系統(tǒng)如何智能化，其也只能作為人類認識和改造世界的輔助性工具，在法官辦案過程中，僅能提供輔助性的幫助而非實質(zhì)性的幫助。

4 結(jié)語

將人工智能技術(shù)應(yīng)用到實踐中是社會發(fā)展的必然趨勢，尤其是運用到司法審判實踐中。審判人工智能的應(yīng)用雖然存在顯著的優(yōu)勢，但是也會帶來一定的風(fēng)險和問題。對人工智能在司法實踐中的應(yīng)用，我們要辯證地看待，正視其存在的困境和風(fēng)險，及時發(fā)現(xiàn)司法人工智能建設(shè)中存在的問題，規(guī)避人工智能的弊端，充分發(fā)揮司法工作人員的主觀能動性，不斷改進、完善司法人工智能系統(tǒng)，研究設(shè)計符合司法實踐需要的審判人工智能。

參考文獻：

[1] 黃琪.司法實踐中人工智能應(yīng)用的現(xiàn)狀與定位思考[J].邊緣法學(xué)論壇，2019（02）：8-14.

[2] 楊建廣，駱梅芬.法治系統(tǒng)工程[M].中山大學(xué)出版社，1996：344-349.

[3] 王祿生.司法大數(shù)據(jù)與人工智能開發(fā)的技術(shù)障礙[J].中國法律評論，2018（02）：46-53.

[4] 高魯嘉.人工智能時代我國司法智慧化的機遇、挑戰(zhàn)及發(fā)展路徑[J].山東大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2019（03）：115-123.

[5] 烏爾里?！へ惪耍ǖ拢?風(fēng)險社會[M].何博聞，譯.南京：譯林出版社，2004：39.

[6] 左衛(wèi)民.關(guān)于法律人工智能在中國運用前景的若干思考[J].清華法學(xué)，2018，12（02）：108-124.

[7] 武樹臣.法律涵量、法官裁量和裁判自律，判例制度研究（下）[M].北京：人民出版社，2004：789.

[8] 潘庸魯.人工智能介入司法領(lǐng)域的價值與定位[J].探索與爭鳴，2017（10）：101-106.

[9] 吳軍.智能時代[M].北京：中信出版集團，2016：62.

[10] 維克托·邁爾·舍恩伯格（英）.大數(shù)據(jù)時代[M].盛楊燕，周濤，譯.浙江人民出版社，2012：132.

作者簡介：楊巧雨（1996—），女，江蘇淮安人，碩士研究生，通訊作者，研究方向：法學(xué)理論。