楊佳樂 王俊豪 錢衛(wèi)寧 羅軼鳳

摘要： 提出了一種企業(yè)破產(chǎn)事件抽取框架， 該框架可以從法律裁定書等卷宗資料中檢測出相應(yīng)的法律事件， 并抽取出與事件相關(guān)的結(jié)構(gòu)化要素信息. 該框架結(jié)合從法院所獲得的裁定書等卷宗信息， 運用遠程監(jiān)督技術(shù)來構(gòu)建模型訓(xùn)練數(shù)據(jù); 再通過命名實體識別技術(shù)對句級別的文書進行序列標注; 最后結(jié)合自定義的事件觸發(fā)詞表與事件字典， 運用事件抽取技術(shù)對法律文書進行事件識別， 并給出對應(yīng)事件的結(jié)構(gòu)化信息.實驗結(jié)果表明本框架能夠取得較高的事件識別精度， 是一種有效的企業(yè)破產(chǎn)事件抽取框架.

關(guān)鍵詞： 企業(yè)破產(chǎn); 命名實體識別; 事件抽取

中圖分類號： TP399 文獻標志碼： A DOI： 10.3969/j.issn.1000-5641.201921015

0 引言

近年來， 我國“僵尸企業(yè)”破產(chǎn)案件每年的立案數(shù)量較往年同期均有大幅增長， 這給各級法院與破產(chǎn)庭帶來了較大的案件審判壓力. “僵尸企業(yè)”是經(jīng)濟轉(zhuǎn)型過程中的產(chǎn)物， 也是市場經(jīng)濟“劣淘汰”的必然. 中央經(jīng)濟工作會議指出， 加快處置“僵尸企業(yè)”， 旨在優(yōu)化資源配置， 規(guī)范經(jīng)濟秩序， 促進產(chǎn)業(yè)優(yōu)化重組， 對于助力深化供給側(cè)結(jié)構(gòu)性改革、提升國有企業(yè)核心競爭力、推動經(jīng)濟高質(zhì)量發(fā)展具有積極意義. 針對“僵尸企業(yè)”破產(chǎn)案件的輔助審判問題， 我們開展了“面向‘僵尸企業(yè)破產(chǎn)案件的企業(yè)識別認定和統(tǒng)一裁定技術(shù)研究”這一課題的研究工作， 以提升法官對破產(chǎn)案件的審判效率， 緩解“僵尸企業(yè)”破產(chǎn)案件數(shù)量激增帶來的壓力. 從破產(chǎn)申請受理材料中抽取出與企業(yè)破產(chǎn)相關(guān)的事件信息是一項輔助破產(chǎn)案件審判的重要工作， 既可以提升法官的判案效率， 又可以有效改善類案推薦效果.

事件抽取需要對文本進行處理和理解， 從各類受理文本材料中抽取出與企業(yè)破產(chǎn)相關(guān)事件的各個要素， 并實現(xiàn)信息的自動抽取工作. 通過與上海某法院的合作， 獲取了部分破產(chǎn)案件的卷宗信息， 卷宗內(nèi)包含的裁定文書與各種正卷資料是重要而寶貴的研究素材. 但是， 各種裁定書都屬于無結(jié)構(gòu)文本的范疇， 同一個卷宗下各個階段的裁定書又相互關(guān)聯(lián)， 如何對裁定文書進行系統(tǒng)地梳理， 從而得到結(jié)構(gòu)化的信息， 進而訓(xùn)練模型來對破產(chǎn)類目下的各種卷宗進行自動的要素識別， 這是一個非常有意義同時又亟待解決的研究課題.

從技術(shù)角度來看， 企業(yè)破產(chǎn)事件信息的抽取問題涵蓋兩方面的技術(shù)： ①實體抽?。‥ntity Extraction），也即命名實體識別（Named Entity Recognition， NER）， 在信息抽取中扮演重要的角色， 主要抽取文本中的原子信息元素， 如人名、組織/機構(gòu)名、地理位置、日期、時間和金融類數(shù)字等; ②事件抽?。‥vent Extraction）， 相當于一種多元關(guān)系的集合， 與關(guān)系抽取（Relation Extraction） 即通常說的（實體， 關(guān)系， 實體） 三元對相比， 事件抽取同樣需要從文本中抽取候選詞與對應(yīng)的元素， 但與關(guān)系抽取不同的是， 關(guān)系抽取的問題是二元的， 而且兩個元素通常都會出現(xiàn)在同一個句子中， 而事件抽取的難點在于， 有多個元素與候選詞， 且可能會分布在多個句子中. 因此依據(jù)案件卷宗資料進行信息抽取是一項具有較大難度的任務(wù).

在法律領(lǐng)域內(nèi)， 已有的一些研究主要是關(guān)注文本分類、情感分析、文本相似性與文本向量的表征等研究方向， 有極少數(shù)的工作對法律背景下的文本（判決書、裁定書等） 進行信息抽取. 去除領(lǐng)域概念，國內(nèi)外均有大量信息抽取相關(guān)的工作已經(jīng)開展， 有關(guān)的具體技術(shù)會在下一章相關(guān)工作中介紹. 本文針對破產(chǎn)案件較常出現(xiàn)的“勞務(wù)糾紛”和“借貸糾紛”事件開展研究， 實現(xiàn)對法律裁定書中相關(guān)事件信息的抽取. 需要說明的是， 破產(chǎn)案件包含的要素不止有“勞務(wù)糾紛”與“借貸糾紛”， 本文的研究方法適用于但不局限于“勞務(wù)糾紛”與“借貸糾紛”二類事件信息的抽取.

1 相關(guān)工作

要素識別的主要任務(wù)是從非結(jié)構(gòu)化的法律裁定書提取結(jié)構(gòu)化的信息， 從而對破產(chǎn)申請受理材料進行破產(chǎn)相關(guān)要素的識別， 進而實現(xiàn)信息的自動抽取. 要素識別主要涉及命名實體識別與事件抽取兩方面技術(shù)， 本文也就從這兩個方面來對目前的研究工作進展進行概述.

1.1 命名實體識別

命名實體識別主要是為了識別出文本中的時間、地點、人物、公司名稱等關(guān)鍵信息， 為后續(xù)的下游任務(wù)， 如信息抽取、指代消解、實體鏈接、問答等任務(wù)提供關(guān)鍵信息. 通常將命名實體識別問題定義成一個序列標注問題， 即將分詞后的短語序列標注成其對應(yīng)的類別. 在法律裁定文書的命名實體識別標注中， 將要預(yù)測的標簽有： 時間、地點、人名、組織名稱. 在面向法律的命名實體識別， 主要面臨著以下問題： ①法律裁定書通常具有較為復(fù)雜的語義結(jié)構(gòu)， 通用的命名實體模型在該數(shù)據(jù)集上， 不能達到較好的預(yù)測精度. ②國內(nèi)基于法律裁定書的命名實體識別研究較少， 導(dǎo)致了相關(guān)標注數(shù)據(jù)集的匱乏.由于缺少高質(zhì)量的法律領(lǐng)域數(shù)據(jù)集， 無法訓(xùn)練知識相關(guān)的特定模型.

命名實體領(lǐng)域的實現(xiàn)方法主要有三種. 基于知識庫或詞典的方法極度依賴知識庫的構(gòu)建， 并需要極強的語言學(xué)知識， 耗費大量人力物力， 代價過大. 基于傳統(tǒng)機器學(xué)習(xí)的命名實體識別方法主要包括隱馬爾科夫模型（Hidden Markov Mode， HMM）、最大熵馬爾可夫模型（Maximum Entropy MarkovModel， MEMM）[1] 和條件隨機場模型（Conditional Random Field， CRF）[2] 等方法. 由于序列標注問題中預(yù)測標簽之間存在相互依賴的關(guān)系， 而CRF 模型同時考慮預(yù)測標簽自身概率和預(yù)測標簽之間的轉(zhuǎn)移概率， 是傳統(tǒng)機器學(xué)習(xí)方法中效果最好且最常用的模型. 使用這類模型不像早期方法一樣， 需要耗費大量人力物力進行知識庫的構(gòu)建以及需要極強的語言學(xué)知識， 只需要人工標注一批數(shù)據(jù)進行訓(xùn)練，就可得到較好的結(jié)果. 但是這種方法極度依賴特征工程， 特征向量的好壞直接決定了模型的結(jié)果， 這也就導(dǎo)致了需要花費大量時間分析數(shù)據(jù)提取對任務(wù)有用的特征. 基于深度學(xué)習(xí)的方法與傳統(tǒng)機器學(xué)習(xí)方法不同， 不需要復(fù)雜的人工特征抽取， 僅需要搭建一個可以自動學(xué)習(xí)特征的網(wǎng)絡(luò)模型就能獲得很好的效果. 循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network， RNN） 由于其考慮上下文的序列信息， 在序列標注中具有較好的效果. Collobert[3] 在目標函數(shù)中借鑒CRF 模型， 添加狀態(tài)轉(zhuǎn)移得分（后被稱為CRF 層）， 使得命名實體識別效果顯著提高. 在后來的研究中， 一系列RNN 結(jié)合CRF 層的模型的出現(xiàn)， 使得命名實體識別的效果達到甚至超過了特征工程豐富的CRF 模型. 然而深度學(xué)習(xí)方法需要大量的標注語料進行訓(xùn)練學(xué)習(xí)， 才能讓模型更好地擬合任務(wù).

針對缺乏公開的法律裁判文書數(shù)據(jù)集的問題， 首先通過搭建一個簡單的數(shù)據(jù)標注輔助網(wǎng)站來減緩標注任務(wù)的工作量， 緊接著人工標注出一批高質(zhì)量的法律裁判文書數(shù)據(jù)用于模型的訓(xùn)練. 針對通用模型在專業(yè)領(lǐng)域上效果不佳的問題， 選取了雙向長短時記憶網(wǎng)絡(luò)（Bidirectional Long Short-TermMemory， Bi-LSTM） 加條件隨機場層（CRF） 的模型[4] 來進行命名實體識別任務(wù). 相較于普通的RNN模型， 長短時記憶網(wǎng)絡(luò)（Long Short-Term Memory， LSTM） 解決了長序依賴問題， 而Bi-LSTM 模型同時將上下文兩個方向的信息添加到特征中， 再加上CRF 層對于標簽之間的轉(zhuǎn)移的約束， 從而得到一個較為優(yōu)秀的預(yù)測效果.

1.2 事件抽取

在自然語言處理（Nature Language Processing， NLP） 領(lǐng)域， 事件抽取是一個極具挑戰(zhàn)的任務(wù). 目的是從文本中發(fā)現(xiàn)事件提及（Event Mention） 并且抽取出包含事件觸發(fā)詞（Event Trigger） 與事件元素（Event Argument） 的事件. 事件提及是包含一個或多個事件觸發(fā)詞與事件元素的句子. 然而， 在法律領(lǐng)域， 還沒有有效的事件抽取系統(tǒng)， 尤其是中文的事件抽取系統(tǒng)， 雖然在KMCNN[5] 中嘗試用構(gòu)建有效子樹的方式來抽取多對實體關(guān)系. 但是在涉及大量關(guān)系時， 樹結(jié)構(gòu)會變得異常龐大、冗雜. 本文主要面臨以下兩個方面的挑戰(zhàn).

（1） 數(shù)據(jù)缺失大多數(shù)的事件抽取方法往往采用監(jiān)督學(xué)習(xí)的模式， 這意味著需要一個高質(zhì)量的大規(guī)模數(shù)據(jù)集， 同時這也意味著大量的人力與時間成本. 但是在法律背景下， 還沒有各地區(qū)高院公開的關(guān)于破產(chǎn)案例的人工標注數(shù)據(jù)集.

（2） 裁定書數(shù)據(jù)結(jié)構(gòu)復(fù)雜首先， 裁定書是一種非結(jié)構(gòu)化數(shù)據(jù)， 這給事件抽取帶來了挑戰(zhàn); 其次， 同一個破產(chǎn)案件會由一系列的裁定書及卷宗的其他組成部分（如法院決定、法院通知、法院公告等） 構(gòu)成， 多個裁定書中會涉及破產(chǎn)案件中不同的事件要素， 同時一個事件也可能會在多個裁定書中循環(huán)發(fā)展， 比如破產(chǎn)程序可以具體分為三類（破產(chǎn)清算、破產(chǎn)重整與破產(chǎn)和解）， 而破產(chǎn)清算均可與破產(chǎn)重整和破產(chǎn)和解相互轉(zhuǎn)換. 一個破產(chǎn)的案例， 往往包含數(shù)年的時間線， 在這段時間線內(nèi)， 不同事件要素錯綜復(fù)雜的發(fā)展順序同樣也給我們對破產(chǎn)事件的抽取帶來了挑戰(zhàn).

事件抽取主要有以下研究方法.

（1） 監(jiān)督學(xué)習(xí) 監(jiān)督學(xué)習(xí)主要包括兩大類， 基于特征向量[6] 的學(xué)習(xí)方法和基于核函數(shù)[7] 的學(xué)習(xí)方法.這種方法將抽取任務(wù)看作一個分類的問題， 但是要想獲取好的效果， 首要前提就是需要人工標注的大規(guī)模高質(zhì)量的訓(xùn)練語料庫， 然后在已經(jīng)標注好的語料庫基礎(chǔ)上再進行特征抽取和選擇工作， 從而進行實體等關(guān)鍵信息的抽取工作. 但是正如前面提及的數(shù)據(jù)集缺失帶來的挑戰(zhàn)， 這種方法有明顯的缺點，大規(guī)模高質(zhì)量的標注訓(xùn)練集需要大量的人力與財力， 同時又具有只適合特定研究領(lǐng)域的局限性， 不適合本文的事件抽取任務(wù).

（2） 半監(jiān)督學(xué)習(xí) 半監(jiān)督學(xué)習(xí)又稱弱監(jiān)督的學(xué)習(xí)方法， 主要是基于種子的bootstrap[8] 方法， 這種方法首先需要預(yù)定義相應(yīng)的抽取模式， 然后人工構(gòu)造對應(yīng)的抽取實例作為種子去迭代地抽取相應(yīng)的事件. 但是這種抽取模型也具有明顯的缺點， 初始種子集和模式的精度與準確率會對后續(xù)的迭代抽取的效果產(chǎn)生決定性影響. 這種模式產(chǎn)生的結(jié)果往往會導(dǎo)致低準確率和語義漂移問題， 也不適合本文的事件抽取任務(wù).

（3） 無監(jiān)督學(xué)習(xí) 無監(jiān)督學(xué)習(xí)[9] 是一種自底向上的信息抽取策略， 它基于如下假設(shè)， 具有相同抽取關(guān)系的實體它們的上下文也應(yīng)該是相似的. 可以通過上下文信息對實體對進行聚類， 但是這種方法產(chǎn)生的聚類結(jié)果一般會十分寬泛， 并且很難將對應(yīng)的事件映射到合適的事件類別上去. 因為沒有標準的評測語料， 也無法對產(chǎn)生的結(jié)果進行質(zhì)量評測. 雖然無監(jiān)督學(xué)習(xí)可以給事件抽取任務(wù)快速產(chǎn)生大量的數(shù)據(jù)集， 但是由于無法保證數(shù)據(jù)集的質(zhì)量， 還可能引入大量雜項， 從而不適合本文的事件抽取任務(wù).

（4） 遠程監(jiān)督學(xué)習(xí) 遠程監(jiān)督[10] 學(xué)習(xí)兼具上述方法的優(yōu)點， 既能夠快速地為要素抽取任務(wù)打標簽，達到擴充數(shù)據(jù)集的目的， 同時又能加入一定的專家知識在數(shù)據(jù)集擴充過程中起到監(jiān)督效果. 因此， 我們采用了遠程監(jiān)督的模式， 遠程監(jiān)督由Mintz[11] 提出， 基于下述著名假設(shè)： 如果一個句子中含有一個關(guān)系涉及的實體對， 那么這個句子就可以表征這種關(guān)系. 他將這種不依賴人工標注的抽取模式用到了抽取模型上， 雖然這種模式可能會帶來噪聲和錯誤標簽的問題， 但是通過將指定真實關(guān)系的句子作為真實事件， 將實際上不表征對應(yīng)關(guān)系的句子作為NA， 其他的句子作為反例， 這樣就為構(gòu)建數(shù)據(jù)集提供了可能.

為了解決前文提及的兩個主要挑戰(zhàn)， 本文采用遠程監(jiān)督的方式為事件抽取自動生成大規(guī)模帶標簽的數(shù)據(jù)， 用序列標注模型去自動抽取句級別的事件， 最后用事件監(jiān)測模型來處理裁定書等篇章級別法律文檔， 從而實現(xiàn)在法律領(lǐng)域的關(guān)于破產(chǎn)案件的要素抽取工作.

2 框架系統(tǒng)詳解

本文提出的破產(chǎn)案件要素抽取整體框架圖如圖1 所示， 該框架將要素抽取分為數(shù)據(jù)生成、命名實體識別和事件抽取三大步驟.

2.1 數(shù)據(jù)生成

圖2 描述了基于遠程監(jiān)督模式的數(shù)據(jù)生成方式. 我們的數(shù)據(jù)有兩個主要來源： 由法院法官和司法大數(shù)據(jù)項目技術(shù)專員從法律卷宗等文獻來源總結(jié)出的破產(chǎn)案件的結(jié)構(gòu)化事件要素， 以及司法數(shù)據(jù)庫中的非結(jié)構(gòu)化案件裁定書. 由于總結(jié)結(jié)構(gòu)化事件要素需要翻閱大量卷宗， 由具有法律背景知識的專業(yè)人員抽象出事件的要素成分， 所以這是一個長期更新的過程. 現(xiàn)階段， 我們已有關(guān)于破產(chǎn)案件下勞務(wù)糾紛與借貸糾紛的結(jié)構(gòu)化標注數(shù)據(jù). 對應(yīng)的數(shù)據(jù)結(jié)構(gòu)主要包含組織（ORG）、時間（TIME）、人名（PER）、地點（LOC）; 同時還維護對應(yīng)事件的觸發(fā)詞表（TRI） 以及對應(yīng)事件的事件字典（DIC）. 非結(jié)構(gòu)化的數(shù)據(jù)主要來源于項目合作的法院卷宗庫， 由于案件裁定書所包含的信息更為符合項目需求， 因此對于卷宗的文書部分， 主要從非結(jié)構(gòu)化的裁定書中去提取結(jié)構(gòu)化的事件要素.

數(shù)據(jù)的生成方式： 通過由專業(yè)人員對卷宗等法律文件進行總結(jié)， 我們維護了一個預(yù)定義的事件觸發(fā)詞表. 數(shù)據(jù)的生成主要基于下述3 個假設(shè)： ①對于一篇法律裁定書， 如果它包含相應(yīng)的事件觸發(fā)詞，那么認為該裁定書有大概率是對應(yīng)的事件; ②根據(jù)在法律事件知識庫中存放的結(jié)構(gòu)化事件要素， 我們認為如果在該裁定書中， 一個句子中包含一個或多個相應(yīng)的事件要素， 那么該句子有大概率是一個事件提及; ③如果一個事件提及中包含事件觸發(fā)詞和事件元素， 那么這個事件提及就會被自動標注為正例， 其他的句子如果在下一階段命名實體識別中依然未識別出事件元素， 那么就會被自動標記為負例.

[ 參 考 文 獻]

[ 1 ]MCCALLUM A， FREITAG D， PEREIRA F. Maximum entropy markov models for information extraction and segmentation[C]//ICML， 2000， 17： 591-598.

[ 2 ]LAFFERTY J， MCCALLUM A， PEREIRA F. Conditional random fields： Probabilistic models for segmenting and labeling sequencedata [C]//Proc 18th International Conf on Machine Learning， New York： ACM， 2001： 282-289.

[ 3 ]COLLOBERT R， WESTON J， BOTTOU L， et al. Natural language processing （almost） from scratch [J]. Journal of Machine LearningResearch， 2011（12）： 2493-2537.

[ 4 ] HUANG Z， XU W， YU K. Bidirectional LSTM-CRF Models for sequence tagging [J]. Computer Science， 2015： 1508. 01991v1.

[ 5 ]高丹， 彭敦陸， 劉叢. 海量法律文書中基于CNN的實體關(guān)系抽取技術(shù) [J]. 小型微型計算機系統(tǒng)， 2018， 39（5）： 1021-1026. DOI： 10.3969/j.issn.1000-1220.2018.05.028.

[ 6 ]KOTSIANTIS S B， ZAHARAKIS I， PINTELAS P. Supervised machine learning： A review of classification techniques [J]. EmergingArtificial Intelligence Applications in Computer Engineering， 2007， 160： 3-24.

[ 7 ]BELAVAGI M C， MUNIYAL B. Performance evaluation of supervised machine learning algorithms for intrusion detection [J].Procedia Computer Science， 2016， 89： 117-123. DOI： 10.1016/j.procs.2016.06.016.

[ 8 ]CARLSON A， BETTERIDGE J， WANG R C， et al. Coupled semi-supervised learning for information extraction [C]//Proceedings ofthe Third ACM International Conference on Web Search and Data Mining. New York： ACM， 2010： 101-110.

[ 9 ]HAN J， NGAN K N， LI M， et al. Unsupervised extraction of visual attention objects in color images [J]. IEEE Transactions onCircuits and Systems for Video Technology， 2005， 16（1）： 141-145.

[10]ZENG D， LIU K， CHEN Y， et al. Distant supervision for relation extraction via piecewise convolutional neural networks[C]//Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing. New York： ACM， 2015： 1753-1762.

[11]MINTZ M， BILLS S， SNOW R， et al. Distant supervision for relation extraction without labeled data [C]//Proceedings of the JointConference of the 47th Annual Meeting of the ACL and the 4th International Joint Conference on Natural Language Processing of theAFNLP： Volume 2. Association for Computational Linguistics， 2009： 1003-1011.

[12] 王禮敏. 面向法律文書的中文命名實體識別方法研究 [D]. 江蘇 蘇州： 蘇州大學(xué)， 2018.

（責(zé)任編輯： 張 晶）