內(nèi)容提要：通用人工智能模型是一類人工智能模型及其功能的總稱，與傳統(tǒng)人工智能模型被設(shè)計完成特定任務(wù)的屬性不同，該類模型具有解決多種類型任務(wù)的通用能力，是完成各類復(fù)雜具體任務(wù)的基礎(chǔ)，因而也被稱為“基礎(chǔ)模型”。本文從傳統(tǒng)人工智能技術(shù)方法廣泛應(yīng)用于司法場景過程中暴露的一些技術(shù)瓶頸和問題出發(fā)，論述了通用人工智能模型在司法場景中的應(yīng)用優(yōu)勢，闡明了通用人工智能模型在司法場景下的四類典型應(yīng)用：輔助事實查明、輔助文書寫作、輔助法律檢索及輔助法律咨詢。同時，分析了通用人工智能模型在司法場景下的應(yīng)用風(fēng)險，從輸入和輸出兩個層面討論了通用人工智能模型在司法場景中的應(yīng)用規(guī)制。

關(guān)鍵詞：通用人工智能 基礎(chǔ)模型 智慧司法 合規(guī)安全

在我國，人工智能在司法場景中的應(yīng)用可以追溯到20世紀(jì)80年代中期，被用于以同案同判為設(shè)計初衷的量刑計算系統(tǒng)開發(fā)應(yīng)用。1986年國家社會科學(xué)基金“七五”研究課題《量刑綜合平衡與電腦輔助量刑專家系統(tǒng)研究》取得了盜竊罪量刑數(shù)據(jù)模型等成果。其技術(shù)面臨的首要難題是如何定義“類案”，即什么樣的案件才能稱為有統(tǒng)計參考價值的“相似案件”。之后隨著流程管理軟件的推廣應(yīng)用，如何通過機(jī)器閱讀、自動提取紙質(zhì)卷宗中的信息要素繼而減少法官在流程軟件中的填寫壓力并實現(xiàn)智能化繁簡分流等一系列判斷型應(yīng)用問題成了技術(shù)的主要挑戰(zhàn)任務(wù)。但智能化技術(shù)對司法的輔助停留在“管理”而非“辦理”層面。究其原因還是技術(shù)“智能化”程度的不足與司法場景下“適用性”的高要求之間的矛盾。雖然此前AlphaGo也帶來過對人工智能的廣泛討論，尤其是在人類智慧高強(qiáng)度體現(xiàn)的規(guī)則博弈領(lǐng)域（圍棋），機(jī)器戰(zhàn)勝人類刷新了普通大眾對人工智能技術(shù)的看法，但是其本身并不能廣泛應(yīng)用，僅局限于明確規(guī)則的有限博弈領(lǐng)域。目前通用人工智能模型在內(nèi)容創(chuàng)作、多輪對話等模糊性、創(chuàng)造性領(lǐng)域帶來了顛覆體驗，從人工智能發(fā)展角度看，其普適性意義要高于AlphaGo。因此，對于通用人工智能在司法場景中的應(yīng)用，也可以有更高的期待和更廣泛的想象空間。

一、通用人工智能模型在司法場景中的應(yīng)用優(yōu)勢

司法場景一直是國內(nèi)外人工智能技術(shù)研發(fā)和應(yīng)用重點關(guān)注和研究的領(lǐng)域之一，隨著社會信息化的發(fā)展和技術(shù)的進(jìn)步，自然語言處理、數(shù)據(jù)挖掘和智能推薦等人工智能技術(shù)已在訴訟服務(wù)、類案檢索、案件審判、司法管理等司法場景中廣泛應(yīng)用，切實提升了司法運行效率和質(zhì)量。根據(jù)最高人民法院2022年10月的數(shù)據(jù)統(tǒng)計，依托司法人工智能先進(jìn)技術(shù)，為法官審判辦案提供案件卷宗信息自動回填、法律知識服務(wù)、文書輔助制作、類案自動推送、庭審語音自動轉(zhuǎn)錄等智能輔助辦案工具，減輕30%以上法官事務(wù)性工作，庭審效率提升20%以上。參見劉婧：《以智慧法院建設(shè)推進(jìn)審判體系和審判能力現(xiàn)代化》，載《人民法院報》2022年10月14日，第2版。人工智能在司法場景中的深度應(yīng)用既是司法審判現(xiàn)代化的重要特征，也是司法審判現(xiàn)代化的必然選擇。

（一）傳統(tǒng)人工智能技術(shù)在司法場景中應(yīng)用的局限性

傳統(tǒng)人工智能技術(shù)被廣泛應(yīng)用于司法場景時，暴露出了一些瓶頸和問題。

首先是高度依賴標(biāo)注數(shù)據(jù)。在司法領(lǐng)域內(nèi)，人工智能與法律的研究重點之一是如何通過機(jī)器閱讀方法識別出“法律構(gòu)成要件”，基于法律邏輯、法律推理或論證進(jìn)行分析、評價及構(gòu)建，從而實現(xiàn)對立法效果、司法案例的解析。構(gòu)建法律知識圖譜除了需要抽取實體，還需要抽取實體關(guān)系，不同的評測方法可能得到不同類型的實體關(guān)系。參見魏斌：《論新一代法律智能系統(tǒng)的融合性道路》，載《法學(xué)論壇》2023年第3期。因此，法律邏輯研究水平和數(shù)據(jù)標(biāo)注覆蓋程度影響著人工智能的研發(fā)水平。在法律知識抽取過程中，目前尚沒有一部完善的法律詞典能夠全面囊括所有類型的法律命名實體。此外，根據(jù)上下文語境的不同，同一詞語可能會指代不同實體，因此簡單的文本匹配算法無法識別實體，需要專業(yè)人士來完成數(shù)據(jù)標(biāo)注等基礎(chǔ)構(gòu)建工作。而數(shù)據(jù)標(biāo)注的難點主要來源于兩個方面：速度與質(zhì)量。速度慢無法滿足模型訓(xùn)練的需求，而太快又會影響質(zhì)量，進(jìn)而影響模型的準(zhǔn)確性，因此就需要專門的技術(shù)輔助平臺來解決法律專業(yè)的標(biāo)注人員無法完全掌握和使用程序語言的問題。

其次是欠缺司法邏輯推理能力。傳統(tǒng)法律人工智能技術(shù)的基礎(chǔ)是關(guān)聯(lián)統(tǒng)計。比如，試圖分析人口密度、教育水平和犯罪率之間的因果關(guān)系，基于關(guān)聯(lián)統(tǒng)計，研究者會發(fā)現(xiàn)城市人口密度、教育水平和犯罪率之間都存在關(guān)聯(lián)關(guān)系。實際上，有價值的是在因果框架下，控制其中一個變量去分析剩余二者之間的關(guān)聯(lián)關(guān)系。比如，控制城市人口密度這個變量去發(fā)現(xiàn)教育水平與犯罪率之間的同比關(guān)系后，再通過加入人口密度去觀察教育水平與犯罪率之間的關(guān)聯(lián)關(guān)系是否被改變，繼而得出城市人口密度與犯罪率之間可能并無因果關(guān)系的結(jié)論。因傳統(tǒng)人工智能技術(shù)恰恰缺乏因果推斷能力，特別是缺乏對具有長程依賴關(guān)系的邏輯鏈和思維鏈的功能支持，使得人工智能始終無法在邏輯層面模擬和輔助法律人的思維。

最后是欠缺常識和知識理解能力。傳統(tǒng)人工智能技術(shù)將知識圖譜中的事實知識注入AI相關(guān)的應(yīng)用中，來實現(xiàn)對人類認(rèn)知和推理的模仿，但是這一路徑高度依賴行業(yè)專家標(biāo)注的知識圖譜，大量高性能算法都建立在龐大的標(biāo)注數(shù)據(jù)集基礎(chǔ)上。一方面，由于法律標(biāo)注專業(yè)難度大，結(jié)構(gòu)化的標(biāo)注本身是困難的，甚至經(jīng)常是帶有噪聲的，因此訓(xùn)練出的模型往往比較脆弱；另一方面，自然語言尤其是中文法律語言的多元復(fù)雜性，導(dǎo)致依靠傳統(tǒng)正則表達(dá)式等標(biāo)注方式訓(xùn)練的模型無法保證全局一致的信息提取。受制于上述兩方面問題，知識圖譜本身的質(zhì)量和傳統(tǒng)面向自然語言描述的實體鏈接（Entity Linking）實體鏈接（Entity Linking）就是把文本中的Mention（提及）鏈接到Knowledge Graph （知識圖譜）里的Entity（實體）的任務(wù)。Mention（提及），即自然文本中表達(dá)實體的語言片段。Knowledge Graph（知識圖譜），系一種語義網(wǎng)絡(luò)，旨在描述客觀世界的概念實體及其之間的關(guān)系，有時也稱為Knowledge Base（知識庫）。Entity（實體），即知識圖譜的基本單元，也是文本中承載信息的重要語言單位。技術(shù)準(zhǔn)確度有限，難以真實大規(guī)模應(yīng)用。

相較于這種傳統(tǒng)的借助“人類知識”構(gòu)建的“監(jiān)督信息”進(jìn)行監(jiān)督或者半監(jiān)督的知識圖譜，如果能夠通過無監(jiān)督的學(xué)習(xí)方法，從大規(guī)模的語料訓(xùn)練過程中自動獲取知識，將改變傳統(tǒng)人工智能模型欠缺常識和知識理解能力的現(xiàn)狀，而這也是通用人工智能模型具有巨大想象空間的原因。

（二）通用人工智能模型在司法場景中應(yīng)用的優(yōu)勢

通用人工智能模型是一類新型人工智能模型及其功能的總稱，與傳統(tǒng)人工智能模型被設(shè)計完成特定任務(wù)的屬性不同，該類模型具有解決多種類型任務(wù)的通用能力，具備完成各類復(fù)雜具體任務(wù)的基礎(chǔ)，因而也被稱為“基礎(chǔ)模型”（Foundation Model）Bommasani R， Hudson D A， Adeli E， et al. On the opportunities and risks of foundation models［J］. arXiv preprint arXiv：2108.07258， 2021.。大規(guī)模預(yù)訓(xùn)練語言模型就是一類典型的通用人工智能模型，通過對海量規(guī)模的無標(biāo)注自然語言數(shù)據(jù)的自監(jiān)督學(xué)習(xí)，使這種模型具備完成包括語義匹配、情感識別、內(nèi)容摘要、機(jī)器翻譯、問答交互等復(fù)雜自然語言處理任務(wù)的能力。

2017年6月，Google公司首次提出Transformer模型，這一模型成為之后基礎(chǔ)模型發(fā)展的基礎(chǔ)。該模型采用自注意力機(jī)制，按輸入數(shù)據(jù)各部分的重要性而分配相應(yīng)的權(quán)重，網(wǎng)絡(luò)結(jié)構(gòu)的進(jìn)化帶來了參數(shù)量和模型層數(shù)的提高，引起了生成式AI技術(shù)能力的質(zhì)變；以最早在計算機(jī)視覺領(lǐng)域提出的Attention機(jī)制為例。2014年，Google公司發(fā)表了《Recurrent Models of Visual Attention》使Attention機(jī)制流行起來；2017 年，Google 公司機(jī)器翻譯團(tuán)隊發(fā)表的《Attention is All You Need》中，完全拋棄了RNN和CNN等網(wǎng)絡(luò)結(jié)構(gòu)，而僅僅采用Attention機(jī)制來進(jìn)行機(jī)器翻譯任務(wù)，并且取得了很好的效果。并行化優(yōu)勢允許其在更大的數(shù)據(jù)集上進(jìn)行訓(xùn)練，這也促成了基礎(chǔ)模型的發(fā)展。2018年6月，OpenAI公司提出GPT模型（Generative Pre-Training）GPT（Generative Pre-Training）：采用預(yù)訓(xùn)練和下游微調(diào)方式處理NLP任務(wù)。，通過在大規(guī)模文本上訓(xùn)練多層次的神經(jīng)網(wǎng)絡(luò)模型，來獲取更豐富的語義信息，提升自然語言處理任務(wù)的效果。2020年6月，OpenAI公司發(fā)布GPT-3模型，實現(xiàn)了千億級別的基礎(chǔ)模型。GPT-3在語言生成、上下文學(xué)習(xí)和知識（常識）理解等方面展現(xiàn)出驚人能力。隨后在全球范圍內(nèi)掀起了一股基礎(chǔ)模型研究的熱潮，國外如Meta、微軟、谷歌等，國內(nèi)如清華大學(xué)、北京智源人工智能研究院、百度、華為、阿里等，都競相追趕。2023年3月，OpenAI公司又發(fā)布了GPT-4作為其語言模型的最新版本。GPT-4能夠生成比之前版本更加符合事實的準(zhǔn)確陳述，確保了更高的可靠性和可信度，同時還具有處理多模態(tài)信息的強(qiáng)大能力?；贕PT模型，OpenAI公司發(fā)布了ChatGPT系統(tǒng)作為基礎(chǔ)模型在對話場景下的經(jīng)典應(yīng)用。該系統(tǒng)使用“RLHF”技術(shù)RLHF（Instruction tuning with Reinforcement Learning from Human Feedback）：基于人類反饋的強(qiáng)化學(xué)習(xí)的指令微調(diào)技術(shù)。創(chuàng)新地融入了人類反饋，提升了模型的人機(jī)交互體驗，同時也能夠識別和拒絕用戶的不正當(dāng)問題或者超過其知識范圍的問題，極大地提升了用戶對應(yīng)答的滿意度和接受度。

通用人工智能模型具有的優(yōu)勢使其比傳統(tǒng)人工智能技術(shù)更適合在司法場景中加以應(yīng)用。例如，通過自監(jiān)督學(xué)習(xí)自監(jiān)督學(xué)習(xí)是指用于機(jī)器學(xué)習(xí)的標(biāo)注（Ground Truth）源于數(shù)據(jù)本身，而非來自人工標(biāo)注。，通用人工智能模型可以減少甚至擺脫對專家標(biāo)注數(shù)據(jù)的依賴。再如，通過對長程依賴關(guān)系的學(xué)習(xí)，通用人工智能模型具備了一定的邏輯推理能力。在司法場景中，法律推理的結(jié)論往往需要依靠大量的全局信息作為推理的前提，通用人工智能模型一方面能夠提升推理的準(zhǔn)確性，另一方面也能在完成任務(wù)的同時生成解釋。最后，通用人工智能模型通過對海量規(guī)模語言現(xiàn)象的學(xué)習(xí)，能夠具備一定的常識知識。相較于傳統(tǒng)人工智能技術(shù)，以Transformer為代表的自注意力機(jī)制取代了神經(jīng)網(wǎng)絡(luò)中的經(jīng)典合成函數(shù)，輔以采用大規(guī)模、廣泛來源的數(shù)據(jù)集進(jìn)行訓(xùn)練，模型能夠生成更大的參數(shù)規(guī)模、應(yīng)對復(fù)雜多變的任務(wù)情形。比如，其具有的世界知識來自約3000億個單詞的訓(xùn)練語料庫，同時還具有約1750億的參數(shù)用以存儲知識表示。

除了上述優(yōu)勢外，通用人工智能模型還具有了傳統(tǒng)人工智能技術(shù)不具備的新能力。比如，完成生成式任務(wù)的能力可用于生成新內(nèi)容，如文本、圖像和音樂，這些能力在大型數(shù)據(jù)集上進(jìn)行訓(xùn)練，并使用機(jī)器學(xué)習(xí)算法生成與訓(xùn)練數(shù)據(jù)相似的新內(nèi)容；又如，基于上下文示例學(xué)習(xí)的能力，模型根據(jù)上下文內(nèi)容可以覆蓋其之前的先驗語義，即對于一個預(yù)訓(xùn)練好的大語言模型遷移到新任務(wù)上的時候，只需要給模型輸入幾個示例（示例輸入和示例輸出對），模型就能為新輸入生成正確輸出；再如，調(diào)用其他模型共同完成任務(wù)的能力，能夠有效擴(kuò)大通用人工智能模型的適用范圍，通過擴(kuò)展來提升可完成任務(wù)的類型和數(shù)量，同時進(jìn)一步提升模型可解釋性；等等。

二、通用人工智能模型在司法場景的應(yīng)用

2023年4月28日，中共中央政治局召開會議指出，要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險。此前，最高人民法院已于2022年12月9日發(fā)布《關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見》，明確提出了“建成具有規(guī)則引領(lǐng)和應(yīng)用示范效應(yīng)的司法人工智能技術(shù)應(yīng)用和理論體系”的建設(shè)目標(biāo)。通用人工智能模型以其相較于傳統(tǒng)人工智能技術(shù)所具有的顯著能力及優(yōu)勢，尤其在事實調(diào)查、法律寫作、多元解紛、類案檢索與推薦等場景下，能夠全面支持提升司法人工智能的應(yīng)用水平和應(yīng)用成效。

（一）通用人工智能模型所具有的海量知識能夠有效提升法官事實查明的效率

對于司法審判的前沿性問題，尤其在知識產(chǎn)權(quán)、互聯(lián)網(wǎng)等新領(lǐng)域、新行業(yè)、新業(yè)態(tài)、新技術(shù)等場景中，法官在事實查明中受制于個人經(jīng)驗和成文法的滯后性，難以全面、客觀、高效地獲取司法認(rèn)定所需要的專業(yè)知識。

以知識產(chǎn)權(quán)審判為例，近年來此類案件數(shù)量持續(xù)增長，審判領(lǐng)域不斷拓寬，新類型糾紛日趨增多，案件審理難度加大。各地法院需要來自國內(nèi)教學(xué)科研機(jī)構(gòu)或相關(guān)專業(yè)技術(shù)領(lǐng)域的專家作為技術(shù)調(diào)查官，來解讀技術(shù)領(lǐng)域的專業(yè)問題。通過對技術(shù)進(jìn)行“翻譯”，法官能夠理解相關(guān)的技術(shù)理論，增強(qiáng)對技術(shù)類案件中技術(shù)事實的查明能力。近幾年的司法實踐證明，技術(shù)調(diào)查官能夠覆蓋審理的基本需求，使案件的審理效率和質(zhì)量得到明顯提升。參見卜紅星：《知識產(chǎn)權(quán)訴訟中技術(shù)調(diào)查官制度的若干問題研究——以技術(shù)調(diào)查意見為視角》，載《中國司法鑒定》2021年第2期。而基礎(chǔ)模型在訓(xùn)練過程中使用了大量的自然語言文本，如書籍、文章、新聞報道、社交媒體帖子等內(nèi)容，并直接應(yīng)用于具體案情的分析。通用人工智能模型所具有的海量知識既是對司法人員查明事實的有力補充，也彌補了傳統(tǒng)法律人工智能模型訓(xùn)練缺乏常識的短板。

傳統(tǒng)的法律人工智能訓(xùn)練語料以裁判文書為主。裁判文書固然代表了司法的最終意見，但同樣在抽象、提煉、總結(jié)的過程中抹去了大量的案件背景信息，單純以法言法語和法律信息為主?；貧w到現(xiàn)實和司法的本質(zhì)，這種“以終為始”的訓(xùn)練方式擺脫不了緣木求魚之嫌，而通用人工智能模型所具備的海量知識則可彌補這一缺陷。

（二）通用人工智能模型所具有的語言生成能力能夠提升法律文書基礎(chǔ)寫作的效率

時至今日，中國裁判文書網(wǎng)公開的判決文書數(shù)量已超過1.4億份，法律文書寫作是貫穿司法工作全流程的主要工作內(nèi)容。目前海外已經(jīng)有項目將ChatGPT應(yīng)用在法律文書寫作過程中，如“DoNotPay”維權(quán)服務(wù)已提供了基于GPT-4生成“一鍵式訴訟”的服務(wù)，如一鍵起訴機(jī)器人電話詐騙等。

司法場景下，應(yīng)用技術(shù)手段輔助法律文書的生成由來已久。最初的技術(shù)路徑是基于流程管理軟件內(nèi)錄入的結(jié)構(gòu)化數(shù)據(jù)，對法律文書的當(dāng)事人身份信息、審判組織信息等基本信息描述進(jìn)行自動生成。這種路徑一方面受制于錄入數(shù)據(jù)的限制，生成的法律文書內(nèi)容有限；另一方面對于法律文書尤其是裁判文書的事實認(rèn)定、釋法說理等核心內(nèi)容生成無法提供幫助。

隨著傳統(tǒng)的人工智能技術(shù)在法律文書寫作場景的應(yīng)用，目前已經(jīng)實現(xiàn)了基于法律文書的結(jié)構(gòu)拆解，輔助以預(yù)置的事實構(gòu)成要件（事實描述）和法律知識圖譜（構(gòu)成邏輯關(guān)系），通常是基于用戶對于案件構(gòu)成要件的認(rèn)定和選擇，將預(yù)置構(gòu)成要件的事實描述、基于知識圖譜的邏輯關(guān)系進(jìn)行組合的生成模式。這一模式相較于更早期的結(jié)構(gòu)化數(shù)據(jù)組合固然具有一定的先進(jìn)性，但通用人工智能模型所具有的自然語言交互、生成式任務(wù)等能力具有更顯著的先進(jìn)性和普適性。通用人工智能模型不但能夠和用戶進(jìn)行多模態(tài)的交互，更能夠通過設(shè)定背景信息和目標(biāo)，在多輪交互的過程中設(shè)定帶有邏輯性的遞進(jìn)式問題，生成適配不同案件、不同事實和不同法律適用的法律文書。

（三）通用人工智能模型基于常識訓(xùn)練的咨詢能力能夠提升多元解紛的質(zhì)效

盡管在陌生人社會中，法院的介入能夠保證糾紛解決機(jī)制的強(qiáng)制力，但這種框架是從普遍和宏大的層面作出的一般制度設(shè)計，對于特定群體當(dāng)中發(fā)生的糾紛而言，意思自治的自我約束力依舊發(fā)揮作用。參見劉曉紅：《論我國民商事糾紛多元化解決機(jī)制的現(xiàn)代化》，載《東方法學(xué)》2023年第2期。黨的二十大報告指出，在社會基層堅持和發(fā)展新時代“楓橋經(jīng)驗”，及時把矛盾糾紛化解在基層、化解在萌芽狀態(tài)。過去幾年來，在“把非訴訟糾紛解決機(jī)制挺在前面”的解紛理念指導(dǎo)下，各地不斷突破創(chuàng)新，推動以調(diào)解為核心的多元機(jī)制不斷完善，逐步建立起一套更為健全的社會化、市場化的糾紛解決機(jī)制。有學(xué)者認(rèn)為，“楓橋經(jīng)驗”蘊含著許多普適性法治規(guī)則和法治方式，具有新時代中國法治發(fā)展和法治創(chuàng)新的普遍性意義。參見高銘暄、傅躍建：《新時代“楓橋經(jīng)驗”與國家治理現(xiàn)代化：內(nèi)在邏輯與實現(xiàn)進(jìn)路》，載《上海政法學(xué)院學(xué)報（法治論叢）》2022年第4期。

在多元解紛場景中，強(qiáng)調(diào)釋法說理的公共法律咨詢能夠更多地讓群眾來參與、監(jiān)督和評判，使人民群眾更加理解、認(rèn)同和尊重司法。傳統(tǒng)公共法律咨詢的線下調(diào)解和專家法律咨詢模式主要受制于溝通效率和人工成本。相較于傳統(tǒng)智能對話系統(tǒng)，通用人工智能模型在對話過程中會記憶先前使用者的對話上下文以回答某些假設(shè)性的問題，實現(xiàn)連續(xù)對話并符合大部分人群的對話習(xí)慣，極大地提升了對話交互模式下的用戶體驗。基于我國目前較為發(fā)達(dá)的在線司法基礎(chǔ)設(shè)施，多元解紛場景已經(jīng)從線下更多地轉(zhuǎn)移到了線上，原告、被告和第三方調(diào)解機(jī)構(gòu)能夠通過多方在線的方式進(jìn)行調(diào)解，這為通用人工智能模型參與多元解紛提供了國際領(lǐng)先的數(shù)據(jù)資源和應(yīng)用環(huán)境。

（四）通用人工智能模型在類案檢索與推薦場景下將顯著提升法律信息獲取的效率

法律信息檢索體驗和效果，一方面依賴于法律數(shù)據(jù)庫的建設(shè)，另一方面受制于檢索系統(tǒng)的智能化程度。傳統(tǒng)的法律信息檢索主要基于關(guān)鍵詞和司法數(shù)據(jù)進(jìn)行匹配，需要用戶借助自身法律知識儲備，判斷搜索目標(biāo)信息涉及哪個部門法、有無上位法等檢索要素，繼而通過設(shè)定關(guān)鍵詞的方式篩選搜索結(jié)果，并對結(jié)果逐一閱讀以理解信息并判斷搜索的準(zhǔn)確性。用戶對法律語言的理解和運用能力都會對搜索效果產(chǎn)生很大影響。

通用人工智能模型有望顯著提升法律搜索的體驗和效果。對于復(fù)雜、模糊的搜索任務(wù)，如法律法規(guī)的適用選擇或者案例分析，通用人工智能模型通過對初步搜索得到的結(jié)果進(jìn)行總結(jié)分析，可以提取相關(guān)的信息并進(jìn)行分類。對于指向明確的搜索任務(wù)，如具體的法律法規(guī)或者某個具體經(jīng)典案例，模型通過對搜索意圖的理解，除了精準(zhǔn)提供搜索結(jié)果以外，還可以根據(jù)用戶的歷史行為數(shù)據(jù)進(jìn)行個性化推薦；進(jìn)一步，甚至可以利用搜索結(jié)果生成表格等多種數(shù)據(jù)展示形式，提高信息的可視化效果和可讀性，提升用戶的認(rèn)知效果。對于對話式搜索場景，通用人工智能模型能夠感知上下文，基于前序的搜索或者用戶交互改進(jìn)結(jié)果。如果搜索結(jié)果出現(xiàn)了錯誤，用戶也可以反饋模型令其自動糾正。這種全新的交互式聊天體驗，能夠使用戶借助更多細(xì)節(jié)詢問、清晰度改進(jìn)和想法反饋來優(yōu)化搜索，直到獲得完整答案并獲取可用鏈接，進(jìn)而根據(jù)搜索結(jié)果進(jìn)行決策。

三、通用人工智能模型在司法場景的應(yīng)用風(fēng)險

通用人工智能模型在司法場景中具有廣闊的應(yīng)用前景，但同時也存在不容忽視的風(fēng)險挑戰(zhàn)。一方面，由于訓(xùn)練數(shù)據(jù)的偏差性以及算法運行的黑箱性，可能導(dǎo)致司法的公開公平公正無法得到有效貫徹，造成司法的權(quán)威性受損；另一方面，通用人工智能模型因自身固有的機(jī)械性可能會導(dǎo)致個案正義難以實現(xiàn)。此外，在將通用人工智能模型應(yīng)用到司法領(lǐng)域時，還應(yīng)當(dāng)警惕其對司法獨立性的挑戰(zhàn)。

（一）通用人工智能模型可能會因數(shù)據(jù)偏差和算法黑箱造成司法歧視和司法不公的風(fēng)險

第一，數(shù)據(jù)偏差帶來的風(fēng)險。海量數(shù)據(jù)是通用人工智能模型的訓(xùn)練基礎(chǔ)，是維系模型運行的核心要素。目前通用人工智能模型主要從互聯(lián)網(wǎng)中獲取數(shù)據(jù)訓(xùn)練模型，相關(guān)資料顯示，GPT-3模型訓(xùn)練語料是通過公開數(shù)據(jù)、開源數(shù)據(jù)集、網(wǎng)頁爬取、私有數(shù)據(jù)集（如OpenAI公司自有的WebText數(shù)據(jù)集，收集了Reddit平臺上的800萬篇高贊文章，約150億個詞）等方式獲取。因此在數(shù)據(jù)輸入層面可能會存在惡意操縱的風(fēng)險，包括有毒輸入、偏見、意識形態(tài)攻擊、輿論操控、虛假信息、隱私泄露等，參見姚前：《ChatGPT類大模型訓(xùn)練數(shù)據(jù)的托管與治理》，載《中國金融》2023年第6期。都會對模型最終的輸出結(jié)果造成不良影響。美國司法系統(tǒng)運用了名為COMPAS的量刑系統(tǒng)，用于預(yù)測人們未來犯罪的可能性并給出具體的監(jiān)禁年限建議。一家名為ProPublica的媒體對該AI工具進(jìn)行了調(diào)查，發(fā)現(xiàn)該工具會偏見性地將黑人列為高風(fēng)險人群，而白人則為低風(fēng)險。該工具在分配白人被告人和黑人被告人分?jǐn)?shù)時存在嚴(yán)重不對等，黑人被告人比白人被告人的再犯罪率高出45%，且黑人被告人獲得高危險分?jǐn)?shù)的概率要比白人被告人高77.3%，相較之下，白人被告人更傾向于獲得低風(fēng)險評價。參見劉妍：《人工智能的司法應(yīng)用及其挑戰(zhàn)》，載《河南財經(jīng)政法大學(xué)學(xué)報》2022年第4期。

第二，算法黑箱帶來的風(fēng)險。通用人工智能模型通過海量數(shù)據(jù)自動學(xué)習(xí)并生成高級的認(rèn)知結(jié)果，在其輸入的數(shù)據(jù)和輸出的答案之間，存在著我們無法知悉的“黑箱”。這種算法運行的黑箱性來源于兩方面：一是算法本身的不可解釋性，算法結(jié)構(gòu)復(fù)雜，對其技術(shù)運行方式及技術(shù)要素進(jìn)行解釋難度極大；二是算法設(shè)計的不公開性，算法作為一種技術(shù)，屬于知識產(chǎn)權(quán)中商業(yè)秘密的保護(hù)范圍，因此其設(shè)計往往不公開。參見江蘇省高級人民法院課題組：《數(shù)字經(jīng)濟(jì)背景下人工智能的司法應(yīng)用》，載《法律適用》2023年第5期。實踐中，算法在這一黑箱中進(jìn)行自動化的數(shù)據(jù)處理、評估和行為分析，從而隨機(jī)應(yīng)變，根據(jù)不同情況作出不同的決策。參見高學(xué)強(qiáng)：《人工智能時代的算法裁判及其規(guī)制》，載《陜西師范大學(xué)學(xué)報（哲學(xué)社會科學(xué)版）》2019年第3期。但這種決策輸出的結(jié)果往往有限，可能僅僅輸出一個數(shù)字，如信用分?jǐn)?shù)或者犯罪風(fēng)險分?jǐn)?shù)，而未能完整提供作出這一決策的分析過程。傳統(tǒng)上，裁判者在作出判決之前，需要進(jìn)行充分的說理和論證，這些都是公眾可以審閱的，但是自動化決策系統(tǒng)并不如此運作，一般人根本無法理解其算法的原理和機(jī)制，不透明性問題由此產(chǎn)生。這種不透明性又極可能導(dǎo)致算法濫用，給司法公正帶來挑戰(zhàn)，繼而影響司法公信力。

司法是社會公平正義的最后一道防線，公正是司法重要的價值目標(biāo)，法律面前應(yīng)當(dāng)人人平等，司法審判過程應(yīng)當(dāng)具有公開性。但是，通用人工智能模型在訓(xùn)練過程中所用的數(shù)據(jù)樣本容易存在偏見和局限性，加上通用人工智能模型運轉(zhuǎn)的黑箱性，如果不加以規(guī)制，可能會造成司法不公和司法歧視的風(fēng)險。再加上通用人工智能模型的強(qiáng)自主學(xué)習(xí)的特性，不斷以過去包含著不當(dāng)裁決的數(shù)據(jù)作為學(xué)習(xí)樣本，這種歧視和不公存在被進(jìn)一步放大的風(fēng)險。

（二）通用人工智能模型因自身的機(jī)械性可能會造成個案正義難以實現(xiàn)的風(fēng)險

通用人工智能模型的機(jī)械性可能帶來個案不公的風(fēng)險。法律適用的過程中不僅包含著事實判斷，也包含著價值判斷。法律適用的前提是“被理解”，裁判者知道如何在不同語境中以靈活的方式執(zhí)行規(guī)范內(nèi)容。而人工智能的基礎(chǔ)是算法語言程序，其可以進(jìn)行高效的“邏輯關(guān)聯(lián)”，但無法脫離既有數(shù)據(jù)的束縛，難以在不同價值中進(jìn)行抉擇與思考。同注〔17〕。對于司法實踐中一些重大、復(fù)雜案件，法官很大程度上需要發(fā)揮主觀能動性，進(jìn)行靈活處理；而人工智能處理的結(jié)果往往是機(jī)械的、僵硬的。雖然目前的人工智能已經(jīng)取得技術(shù)上的突破，但算法的深度學(xué)習(xí)水平還未達(dá)到“強(qiáng)人工智能”程度，完全依靠人工智能的處理往往無法得到符合社會期待和社會價值觀的結(jié)果。人工智能的智能性無法排除自身的機(jī)械性、滯后性和不完善性。參見馬治國：《人工智能司法應(yīng)用的法理分析——價值、困境及路徑》，載《青海社會科學(xué)》2018年第5期。對于個案中出現(xiàn)的特殊情形，尤其涉及多種價值的衡量和選擇時，人工智能無法像人類一樣作出綜合判斷，更無法像裁判者一樣靈活運用自由裁量權(quán)，案件的特殊因素會被系統(tǒng)忽視，無法輸出個別化的結(jié)果，個案正義難以實現(xiàn)。

實際上，我們應(yīng)該時刻警惕過度依賴通用人工智能模型對司法獨立性的損害。隨著通用人工智能技術(shù)的不斷發(fā)展，通用人工智能模型在司法中的應(yīng)用場景也越來越豐富，尤其在事實調(diào)查、法律寫作、多元解紛、類案檢索與推薦等場景下能夠充分釋放潛能。但是我們必須認(rèn)清人工智能的“輔助定位”問題，不能使人工智能取代司法工作人員成為主導(dǎo)地位，否則司法作為一個系統(tǒng)的獨立存在的正當(dāng)性將不斷被侵蝕，司法毫無限度地向大數(shù)據(jù)與人工智能技術(shù)開放的直接結(jié)果，是極大地增加了司法被技術(shù)取代以及司法權(quán)淪為一般國家權(quán)力的潛在風(fēng)險。參見王祿生：《司法大數(shù)據(jù)與人工智能技術(shù)應(yīng)用的風(fēng)險及倫理規(guī)制》，載《法商研究》2019年第2期。

四、通用人工智能模型在司法場景的應(yīng)用規(guī)制

2023年4月11日，網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，在此前2023年1月實施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、2022年3月實施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的基礎(chǔ)上，形成了“算法治理—深度合成治理—人工智能治理”的規(guī)制路徑，同時采用“主體責(zé)任路徑”著眼于通過算法解釋要求開發(fā)機(jī)構(gòu)履行合規(guī)監(jiān)督義務(wù)。參見張欣：《生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管》，載《現(xiàn)代法學(xué)》2023年第3期。

根據(jù)《最高人民法院關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見》，我國人工智能在司法場景中的應(yīng)用應(yīng)當(dāng)遵循“安全合法”“公平公正”“輔助審判”“透明可信”“公序良俗”五個基本原則，而通用人工智能模型底層技術(shù)架構(gòu)的復(fù)雜性嚴(yán)重制約了模型的可解釋性，繼而導(dǎo)致其在司法場景應(yīng)用部署時可能會帶來一定的安全風(fēng)險。因此，在我國智慧司法如火如荼的建設(shè)中，如何結(jié)合通用人工智能模型的獨有優(yōu)勢和司法場景的特殊要求，抓住“輸入”“輸出”兩個“端到端”的角度進(jìn)行有效風(fēng)險管控，充分發(fā)揮技術(shù)優(yōu)勢“好用、有用”，避免算法歧視等“亂用、濫用”，已經(jīng)成為伴隨應(yīng)用建設(shè)的長期命題。

（一）通用人工智能模型在司法場景應(yīng)用過程中應(yīng)當(dāng)遵循訓(xùn)練數(shù)據(jù)“安全透明”、數(shù)據(jù)標(biāo)注“全面可信”、訓(xùn)練過程“價值邊界可控”的“輸入管理”原則

當(dāng)前，我國已經(jīng)建成世界上最大的司法審判信息資源庫。2022年10月13日，最高人民法院舉行新聞發(fā)布會，介紹人民法院智慧法院建設(shè)工作成效，宣布已經(jīng)建成了全世界最大，覆蓋審判執(zhí)行、司法人事、司法研究、司法政務(wù)、信息化管理和外部數(shù)據(jù)六大類數(shù)據(jù)的國家司法審判信息資源庫。全國法院所有案件信息實時、自動匯聚，每5分鐘自動更新，已累計匯聚案件信息超過2.8億件，數(shù)據(jù)可信度長期穩(wěn)定在99%以上，為開展精準(zhǔn)分析創(chuàng)造了條件。同時，裁判文書網(wǎng)公開文書超過1.4億份，網(wǎng)絡(luò)庭審直播觀眾已超過502億人次。

司法數(shù)據(jù)從單一模態(tài)文本信息逐漸轉(zhuǎn)變?yōu)槎嗄B(tài)復(fù)合信息，為通用人工智能模型訓(xùn)練提供了豐富的法律數(shù)據(jù)資源，但對數(shù)據(jù)的有偏采樣也引發(fā)了結(jié)果偏差、準(zhǔn)確性降低甚至結(jié)果錯誤的風(fēng)險。“偏見進(jìn)，偏見出”是造成人工智能模型存在固有偏見性的重要原因。因此，我們在投入模型訓(xùn)練之前，需要對訓(xùn)練數(shù)據(jù)進(jìn)行全面合理的采樣、甄別和清洗，形成可信的數(shù)據(jù)集，如可以成為學(xué)習(xí)樣本的案例庫、可以識別有效性的法律法規(guī)庫等，以避免數(shù)據(jù)中存在的偏差被錯誤地固化參見申衛(wèi)星、劉云：《探索可計算的法律發(fā)展道路》，載《浙江社會科學(xué)》2022年第6期?；蛘邤?shù)據(jù)源污染帶來的算法歧視風(fēng)險。

除了海量數(shù)據(jù)之外，通用人工智能模型也高度依賴預(yù)訓(xùn)練任務(wù)設(shè)置使之具備智能化的信息處理能力。司法應(yīng)用區(qū)別于其他行業(yè)場景，具有天然的公共管理屬性。在司法應(yīng)用預(yù)訓(xùn)練任務(wù)的設(shè)計過程中，我們應(yīng)當(dāng)注意“價值邊界”的設(shè)置，對不符合價值觀的訓(xùn)練問題要盡量避免，特定指令還需進(jìn)行屏蔽。此外，基于人類反饋的強(qiáng)化學(xué)習(xí)也需進(jìn)行規(guī)制，由正確的價值觀反饋來指導(dǎo)機(jī)器訓(xùn)練。比如，可以由人類對模型輸出的回答進(jìn)行排序，并給出一些關(guān)于此次模型輸出是否“有用/誠實/無害”的價值判斷類問題，人類再對這些價值問題進(jìn)行回答并反饋給模型進(jìn)行訓(xùn)練，且在訓(xùn)練過程中始終保持專業(yè)意見和傾向性的統(tǒng)一。

（二）通用人工智能模型在司法場景應(yīng)用過程中應(yīng)當(dāng)遵循“敏感信息合規(guī)”“事實糾偏準(zhǔn)確”“輔助定位清晰”的“輸出可控”原則

通用人工智能模型的訓(xùn)練、測試、驗證過程受到復(fù)雜因素影響，無偏算法在應(yīng)用有偏數(shù)據(jù)后產(chǎn)生偏見性、歧視性結(jié)果的風(fēng)險不容忽視。智能算法本身存在準(zhǔn)確性和公平性博弈。一方面，作出“偏向性”判定是智能算法發(fā)揮效用的基本機(jī)理，不可能完全消除；另一方面，造成“偏向性”結(jié)果的原因是多源的，包括數(shù)據(jù)有偏、算法有偏、用戶有偏等因素。

因此，在司法應(yīng)用這種嚴(yán)謹(jǐn)性要求較高的行業(yè)場景中，對人工智能算法結(jié)果輸出的控制就尤為重要。通用人工智能模型通過整理、解析、學(xué)習(xí)海量的法律數(shù)據(jù)，有可能解析研判出涉及國家經(jīng)濟(jì)社會發(fā)展、國家機(jī)關(guān)運行、社會和諧穩(wěn)定、司法政策實施等大量影響國家政治安全、經(jīng)濟(jì)安全的風(fēng)險結(jié)論。我們應(yīng)當(dāng)在模型訓(xùn)練和應(yīng)用過程中同步總結(jié)出一套算法先進(jìn)、模型完整、策略完備、人機(jī)結(jié)合的高效審核方案。依托人工梳理、總結(jié)的特征庫，通過智能策略匹配和模型定制，對合成結(jié)果進(jìn)行審核把控，達(dá)到“敏感信息合規(guī)”的標(biāo)準(zhǔn)方可在文書寫作、法律咨詢等場景中應(yīng)用輸出。其中某些負(fù)面內(nèi)容樣本的檢索通常很難，而漏檢則會帶來重復(fù)工作量。我們通?？梢钥紤]采取小樣本增廣方法。例如，依托法律文本中常見的敏感易錯表達(dá)或者違背正確價值觀的邏輯概念等，提取該樣本負(fù)面信息特征后，與無標(biāo)簽數(shù)據(jù)融合后反復(fù)訓(xùn)練，達(dá)到樣本增廣的目的。真實的審核場景下，負(fù)面及錯誤內(nèi)容概率可能并不高，在單個場景下，我們通過同時分析內(nèi)容特征、用戶行為和用戶關(guān)系，就能順利地分解出涉意識形態(tài)、涉價值觀等各種分類標(biāo)簽，大幅提升有效識別的準(zhǔn)確率，實現(xiàn)“事實糾偏準(zhǔn)確”的效果。

司法場景應(yīng)用過程中，我們還應(yīng)特別注意人工智能的“輔助定位”問題，即“無論技術(shù)發(fā)展到何種水平，人工智能都不代替法官裁判，人工智能輔助結(jié)果僅可作為審判工作或?qū)徟斜O(jiān)督管理的參考”《最高人民法院關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見》（法發(fā)〔2022〕33號）第5條規(guī)定：“輔助審判原則。堅持對審判工作的輔助性定位和用戶自主決策權(quán)，無論技術(shù)發(fā)展到何種水平，人工智能都不得代替法官裁判，人工智能輔助結(jié)果僅可作為審判工作或?qū)徟斜O(jiān)督管理的參考，確保司法裁判始終由審判人員作出，裁判職權(quán)始終由審判組織行使，司法責(zé)任最終由裁判者承擔(dān)。各類用戶有權(quán)選擇是否利用司法人工智能提供的輔助，有權(quán)隨時退出與人工智能產(chǎn)品和服務(wù)的交互?！?。有學(xué)者認(rèn)為，“在智慧司法體系中，司法決策逐漸成為人機(jī)共同作出的混合決策”，繼而提出“設(shè)置鼓勵人類參與的責(zé)任框架體系和合理的事后責(zé)任追究制度”。參見張凌寒：《智慧司法中技術(shù)依賴的隱憂及應(yīng)對》，載《法制與社會發(fā)展》2022年第4期。

（三）在司法場景應(yīng)用的過程中構(gòu)建通用人工智能模型專業(yè)性能的評估體系

隨著人工智能技術(shù)在司法場景中的應(yīng)用程度不斷加深，智能技術(shù)本身對司法過程和結(jié)果的融合也越來越明顯。傳統(tǒng)的司法信息化大多是業(yè)務(wù)部門提供需求、信息化部門負(fù)責(zé)采購，這種單向協(xié)同關(guān)系誕生于硬件采購時代，在流程軟件建設(shè)時代就已經(jīng)凸顯了一定的不適應(yīng)性。而在智能輔助時代，智能技術(shù)和司法應(yīng)用明顯進(jìn)入了“技術(shù)驅(qū)動制度創(chuàng)新，制度延伸技術(shù)能力”的正向循環(huán)過程，人與技術(shù)之間司法責(zé)任鏈條的設(shè)置，既需要全面考察通用人工智能模型的輸入輸出控制，也應(yīng)將技術(shù)應(yīng)用設(shè)計、技術(shù)使用規(guī)范、技術(shù)風(fēng)險評測等多元因素納入考量。在司法場景應(yīng)用過程中，構(gòu)建通用人工智能模型專業(yè)性能的評估體系具有相當(dāng)?shù)谋匾?。如前所述，通用人工智能模型通常不能保證其輸出的正確性和可解釋性，更無法對它的錯誤所帶來的相關(guān)后果負(fù)責(zé)。作為維護(hù)社會正常運轉(zhuǎn)的重要組成部分，司法系統(tǒng)及其相關(guān)應(yīng)用通常對專業(yè)性和準(zhǔn)確性有著極高的要求。若通用人工智能模型在司法應(yīng)用場景中生成低質(zhì)量的法律文本甚至是錯誤的司法建議，輕則給法律工作者帶來誤導(dǎo)和額外的工作負(fù)擔(dān)，重則威脅整個司法程序和判決的公正性，帶來極大的系統(tǒng)性風(fēng)險。因此，構(gòu)建通用人工智能模型專業(yè)性能的評估體系是一項十分迫切的需求，這種評估體系并非側(cè)重于模型在如百科類、常識類等非專業(yè)、弱專業(yè)文本上的能力，而是需要針對司法領(lǐng)域?qū)ｉT設(shè)計性能評估框架和評測數(shù)據(jù)，從法律認(rèn)知分類的角度出發(fā)，以法律工作者處理、思考和解決法律問題的視角為基準(zhǔn)，構(gòu)建一個全面的司法領(lǐng)域大模型評估框架路線。

未來，為快速追趕國際領(lǐng)先水平，需要深度融合產(chǎn)學(xué)研用，創(chuàng)新研發(fā)模式，自主可控地建設(shè)基于通用人工智能模型的智慧司法應(yīng)用，避免出現(xiàn)“卡脖子”問題；也更應(yīng)該統(tǒng)籌規(guī)劃協(xié)同學(xué)術(shù)界、產(chǎn)業(yè)界、技術(shù)界和司法界的多元資源和力量，通過開發(fā)場景、開源模型、開放數(shù)據(jù)、開放評測和評估等方式有力推動模型創(chuàng)新與應(yīng)用生態(tài)的建設(shè)。

Abstract：General AI Model is a general term for a type of artificial intelligence model and its functions. Different from the traditional artificial intelligence model designed to complete specific tasks， this type of model has the general ability to solve a variety of tasks. It is also called “foundation model” since it is the basis for completing various complex specific tasks. Starting from the technical bottlenecks and problems exposed in the application of traditional artificial intelligence technology in judicial scenarios， this paper discusses the advantages of General AI Model in judicial scenarios and elaborates on its four typical applications in judicial scenarios， i.e. assisting in fact finding， document writing， legal retrieval and legal consultation. Besides， this paper analyzes the risks of applying General AI Model in judicial scenarios and discusses the regulation of this model from the input and output aspects.

［責(zé)任編輯 榮圓夢］