項 威，王 邦

(華中科技大學(xué) 電子信息與通信學(xué)院，湖北 武漢 430074)

0 引 言

事件(event)來源于認(rèn)知科學(xué)，在哲學(xué)、語言學(xué)、計算機(jī)科學(xué)等領(lǐng)域應(yīng)用廣泛。自動內(nèi)容抽取(automatic content extraction，ACE)國際評測會議將事件定義為：發(fā)生在某個特定時間點或時間段，某個特定地域范圍內(nèi)，由一個或者多個角色參與的一個或者多個動作組成的事情或者狀態(tài)的改變[1]。

事件抽取任務(wù)研究從非結(jié)構(gòu)化的自然語言文本中自動抽取用戶感興趣的事件信息并以結(jié)構(gòu)化的形式表示[2]，對人們認(rèn)知世界有著深遠(yuǎn)的意義，是信息檢索、知識圖譜構(gòu)建等實際應(yīng)用的基礎(chǔ)。事件抽取在相關(guān)公開測評和語料的推動下展開，按照任務(wù)定義分為框架表示事件抽取和實例表示事件抽取。早期的事件抽取任務(wù)采用基于模式匹配的方法，隨著機(jī)器學(xué)習(xí)的興起，采用特征工程和神經(jīng)網(wǎng)絡(luò)的方法進(jìn)行事件抽取受到越來越多的關(guān)注。中文事件抽取還存在中文語言特性方面的問題需要解決。

文中首先簡要介紹了事件抽取的研究意義，再從事件抽取的任務(wù)定義和技術(shù)方法兩個維度全面闡述事件抽取工作，最后展望事件抽取未來的發(fā)展趨勢。

1 事件抽取研究意義

現(xiàn)實世界中發(fā)生的事情都可以被看成事件，人們通過事件和事件之間的關(guān)系來認(rèn)知和了解世界。事件抽取對人們認(rèn)知世界有著深遠(yuǎn)意義和重大應(yīng)用價值，也是信息檢索、智能問答、知識圖譜構(gòu)建等實際應(yīng)用的基礎(chǔ)。

事件抽取任務(wù)主要研究從非結(jié)構(gòu)化的自然語言文本中抽取用戶感興趣的事件信息并以結(jié)構(gòu)化的形式表示[2]，如什么人，在什么時間，什么地方，做了什么事情。事件抽取首先得基于觸發(fā)詞識別出文本中的事件和事件類型，其次要從文本中識別出事件元素并判斷元素角色。所以事件抽取依賴于命名實體識別、關(guān)系抽取等底層自然語言處理任務(wù)的結(jié)果，同時還需要深層次地分析上下文語義才能完成。

2 事件抽取任務(wù)定義

事件抽取在相關(guān)公開測評和語料的推動下展開，不同的公開測評和語料關(guān)注的領(lǐng)域和事件粒度不同?？蚣鼙硎臼录槿∪蝿?wù)是參照公開測評事件抽取任務(wù)，預(yù)先定義結(jié)構(gòu)化的事件表示框架來進(jìn)行的事件抽取任務(wù)，也稱為限定域事件抽取。實例表示事件抽取是在沒有預(yù)先定義結(jié)構(gòu)化的事件表示框架下，通過事件實例的觸發(fā)詞和事件元素詞用無監(jiān)督方法聚類來進(jìn)行的事件抽取任務(wù)，也稱為開放域事件抽取。

2.1 公開評測事件抽取

ACE評測會議的事件抽取任務(wù)是國際上公認(rèn)最具影響力的事件抽取公開評測，由美國國家標(biāo)準(zhǔn)技術(shù)研究所(national institute of standards and technology，NIST)于2000年開始舉辦，2009年被并入文本分析會議(text analysis conference，TAC)，2005年起事件抽取任務(wù)被納入ACE[3]。美國國防高級研究計劃委員會DARPA的DEFT(deep exploration and filtering of text)計劃制定的ERE(entities，relations，events)標(biāo)準(zhǔn)[4]，被視為ACE標(biāo)注的簡化版本[3]。事件抽取同樣是消息理解會議(message understanding conference，MUC)和知識庫測評會議(knowledge base population，KBP)的重要任務(wù)。中文方面，上海大學(xué)語義智能實驗室構(gòu)建了中文突發(fā)事件語料庫(Chinese event corpus，CEC)，選取了地震、火災(zāi)、交通事故等5類事件的新聞報道進(jìn)行標(biāo)注。另外還有一些領(lǐng)域事件抽取公開評測，如生物醫(yī)學(xué)領(lǐng)域的事件抽取評測BioNLP等。文中主要介紹研究最為廣泛，影響最為深遠(yuǎn)的ACE事件抽取公開評測。

ACE認(rèn)為事件是事物狀態(tài)的改變或事情的發(fā)生，并將事件抽取任務(wù)定義為從非結(jié)構(gòu)化的文本中識別并抽取事件信息并結(jié)構(gòu)化表示，包括事件觸發(fā)詞、事件類型、事件元素、元素角色[1]。相關(guān)的術(shù)語說明如下：

實體(entity)：語義類別中的一個或一組對象，包括人名、地名、組織機(jī)構(gòu)、交通工具等。

事件提及(event mention)：描述事件的短語或句子，包括事件觸發(fā)詞和事件元素。

事件觸發(fā)詞(event trigger)：最清晰準(zhǔn)確表達(dá)事件發(fā)生的關(guān)鍵詞，通常是動詞或名詞。

事件元素(event arguments)：參與一個具體事件的元素提及，包括概念、實體、數(shù)值、時間等。

元素角色(argument roles)：事件元素與其參與事件的關(guān)系。

在例句1中，事件抽取任務(wù)需要檢測到一個生活(life)類型和出生(be-born)子類型的事件，事件觸發(fā)詞“出生”，事件元素“金庸”、“1924年”、“浙江嘉興”及其對應(yīng)的元素角色“任務(wù)”、“時間”、“地點”，如圖1所示。

圖1 事件抽取樣例

ACE事件抽取任務(wù)通常分為事件檢測和元素識別兩個子任務(wù)：(1)事件檢測，通過識別文本中的事件觸發(fā)詞檢測事件，并判斷事件類型。每種事件類型對應(yīng)唯一的事件表示框架，例如生活-出生類型事件表示框架為{人物，時間，地點}。(2)元素識別，根據(jù)事件表示框架判斷文本中的實體是否為事件元素，并確定元素角色。

ACE語料沒有指定具體的領(lǐng)域和場景，主要來自新聞?wù)Z料，包括新聞專線、廣播新聞等6個來源，同時包含英語、漢語、西班牙語三種語言，由美國賓夕法尼亞大學(xué)的語言數(shù)據(jù)聯(lián)盟(linguistic data consortium，LDC)標(biāo)注。ACE定義了8種類型和33種子類型事件及其對應(yīng)的表示框架。

事件抽取任務(wù)往往依賴于文本的命名實體識別、共指消解、關(guān)系抽取等自然語言處理任務(wù)結(jié)果，但其并不是事件抽取任務(wù)本身所關(guān)注的。ACE數(shù)據(jù)集同時對實體及其類型、關(guān)系、共指等內(nèi)容進(jìn)行了標(biāo)注，在ACE事件抽取任務(wù)中通常直接使用實體標(biāo)注內(nèi)容。ACE事件抽取任務(wù)通常采用以下標(biāo)準(zhǔn)評估正確性[5]：

·如果一個事件觸發(fā)詞的位置偏移和事件類型與標(biāo)注內(nèi)容匹配，則正確識別該事件觸發(fā)詞。

·如果一個事件元素詞的位置偏移和對應(yīng)事件與標(biāo)注內(nèi)容匹配，則正確識別該事件元素。

·如果一個事件元素詞的位置偏移、對應(yīng)事件及元素角色與標(biāo)注內(nèi)容匹配，則正確識別并分類該事件元素。

公開評測極大推動了事件抽取的研究和發(fā)展，但公開評測語料通常面向通用背景，沒有特定的領(lǐng)域背景，如ACE僅對新聞?wù)Z料中關(guān)注的33種常用事件類型進(jìn)行了標(biāo)注。雖然有少量的特定領(lǐng)域事件抽取語料，如BioNLP生物醫(yī)學(xué)領(lǐng)域語料等，但不能滿足豐富多樣的實際應(yīng)用需求。同時公開評測語料還存在數(shù)據(jù)量級小、事件類型稀疏和語料時效性差等問題，目前最優(yōu)性能也無法滿足知識圖譜構(gòu)建等應(yīng)用需求。

2.2 框架表示事件抽取

框架表示事件抽取通過自頂向下的方式，預(yù)先定義事件表示框架，包括事件類型、事件觸發(fā)詞、事件元素、元素角色等，然后制作相應(yīng)的標(biāo)注語料數(shù)據(jù)進(jìn)行事件抽取。Petroni等在2018年[5]提出一種從新聞報道和社交媒體中抽取突發(fā)事件的框架表示，用于公共安全預(yù)警、政府組織決策支持等。文章定義了“洪水”、“風(fēng)暴”、“火災(zāi)”等7種突發(fā)事件類型，并結(jié)合六何分析法(5W1H：Who，What，Where，When，Why，How)設(shè)計各類事件元素的表示框架。Yang等在2018年[6]提出一種從金融機(jī)構(gòu)的公告信息中抽取金融事件的框架表示方法，用于輔助決策和市場預(yù)測等。文章定義了“股權(quán)質(zhì)押”、“股權(quán)凍結(jié)”、“股權(quán)回購”等9種金融事件類型，和對應(yīng)的“股東名稱”、“日期”等事件元素的表示框架。劉振等在2018年[7]提出了常見科技政策領(lǐng)域內(nèi)的事件類型與對應(yīng)的事件表示框架，幫助獲取科研領(lǐng)域內(nèi)有價值的信息，把握學(xué)科發(fā)展趨勢。文章列出了“組織設(shè)立”、“會議”、“宣布事件”等6種科技事件類型，和對應(yīng)的“機(jī)構(gòu)”、“時間”、“地點”等事件元素的表示框架。

框架表示事件抽取任務(wù)按照不同的領(lǐng)域背景和應(yīng)用需求自由靈活地構(gòu)建事件框架表示，解決了公開評測語料的事件類型稀疏，數(shù)據(jù)量級小等問題?？蚣鼙硎镜氖录愋涂蓴U(kuò)展性強(qiáng)，結(jié)合遠(yuǎn)程監(jiān)督的方法可以自動生成大規(guī)模標(biāo)注數(shù)據(jù)，提高語料的時效性[8]。但事件的框架表示通常結(jié)構(gòu)復(fù)雜，通用性差，不同的領(lǐng)域背景和實際應(yīng)用需要不同的事件框架表示，這都需要耗費大量的人力勞動和時間，并且嚴(yán)重依賴領(lǐng)域?qū)＜蚁到y(tǒng)。所以框架表示事件的標(biāo)注語料雖然可以保證每種事件類型的數(shù)量，但大部分標(biāo)注語料規(guī)模仍然較小。

2.3 實例表示事件抽取

實例表示事件抽取可以面向不同領(lǐng)域背景和應(yīng)用需求的事件，也可以面向通用領(lǐng)域的事件語料。通過自底向上的方式，利用文本的上下文語境、句法依存結(jié)構(gòu)等信息，采用無監(jiān)督的方法聚類事件類型和事件元素，自動發(fā)現(xiàn)新的事件實例，不需要人工制作標(biāo)注數(shù)據(jù)。例如，如果事件觸發(fā)詞具有相似的上下文語境，那么它們可能屬于同類事件；如果事件元素與事件觸發(fā)詞具有類似的句法依存結(jié)構(gòu)，那么它們可能具有相同的事件元素角色。

Huang等在2016年[9]提出一種自由事件抽取模型，適用于所有語料輸入，利用符號特征和分布式語義自動生成輸入語料的事件表示，檢測事件并結(jié)構(gòu)化表示。Zhou等在2017年[10]從推特(Twitter)中用無監(jiān)督模型抽取有價值的新聞事件并結(jié)構(gòu)化表示，文章假設(shè)相同的事件擁有相似的實體和詞語，用無監(jiān)督的方法抽取結(jié)構(gòu)化事件信息。Yuan等在2018年[11]利用新聞?wù)Z料中的實體和實體類型建立槽值對(slot-value)來檢測事件，相似的實體槽值對句子屬于相同的事件類型，最后生成事件結(jié)構(gòu)化的表示框架。

由于語言的結(jié)構(gòu)復(fù)雜性,實例表示事件抽取很難準(zhǔn)確地獲得語義信息，并且難以用統(tǒng)一的結(jié)構(gòu)化標(biāo)準(zhǔn)表示，需要一定的人工方式加以輔助，其結(jié)果仍然很難應(yīng)用到其他自然語言處理任務(wù)中。

事件抽取任務(wù)對比如圖2所示。

3 中文事件抽取技術(shù)方法

事件抽取任務(wù)在方法上可以分為基于模式匹配的方法和基于機(jī)器學(xué)習(xí)的方法兩大類?；谀Ｊ狡ヅ涞姆椒ㄊ窃谝恍┠Ｊ降闹笇?dǎo)下進(jìn)行的某類事件的識別和抽取方法，在特定領(lǐng)域中表現(xiàn)出了良好的性能?；跈C(jī)器學(xué)習(xí)的方法將事件抽取建模成多分類任務(wù)，通過提取的特征進(jìn)行分類完成事件抽取。中文事件抽取中還需考慮語言特性的問題，主要通過建立勘誤表和序列標(biāo)注方法來解決。

3.1 基于模式匹配的方法

基于模式匹配事件抽取主要分為有監(jiān)督的模式匹配方法和弱監(jiān)督的模式匹配方法兩大類。

有監(jiān)督的模式匹配方法依賴于人工標(biāo)注語料進(jìn)行事件模式學(xué)習(xí)。Ellen等在1993年[12]通過建立觸發(fā)詞詞典和13種事件匹配模式進(jìn)行事件識別與抽取，事件匹配模式主要利用事件元素初始描述和事件元素上下文語義進(jìn)行構(gòu)建，并開發(fā)了AutoSlog模式匹配事件抽取系統(tǒng)，在MUC語料上性能優(yōu)異。Kim等在1995年[13]引入WordNet語義詞典，利用語義框架和短語結(jié)構(gòu)進(jìn)行事件抽取，并開發(fā)了PALKA模式匹配事件抽取系統(tǒng)。

圖2 事件抽取任務(wù)對比

弱監(jiān)督的模式匹配方法只需對語料進(jìn)行預(yù)分類或制定種子模式的少量人工標(biāo)注工作，然后自動進(jìn)行事件模式學(xué)習(xí)。Ellen等在1995年[14]在AutoSlog基礎(chǔ)上開發(fā)出AutoSlog-ST系統(tǒng)，不需要對語料中的所有事件元素進(jìn)行標(biāo)注，只需標(biāo)注事件類型，然后利用預(yù)分類語料自動學(xué)習(xí)事件模式。姜吉發(fā)在2005年[15]提出一種領(lǐng)域通用事件模式匹配方法IEPAM，將事件抽取模式分為語義模式、觸發(fā)模式、抽取模式，在MUC-7語料的飛行事故事件抽取中獲得優(yōu)異結(jié)果。

模式匹配事件抽取方法在領(lǐng)域事件抽取任務(wù)中性能優(yōu)異，但模板的制作需要耗費大量人力和時間，且模板局限于領(lǐng)域背景，很難在通用領(lǐng)域事件抽取任務(wù)中應(yīng)用。

3.2 基于機(jī)器學(xué)習(xí)的方法

基于機(jī)器學(xué)習(xí)的方法將事件抽取建模成分類任務(wù)，是目前的主流研究方向。尤其是深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)，已經(jīng)成為事件抽取的主要手段，全連接神經(jīng)網(wǎng)絡(luò)[16]、卷積神經(jīng)網(wǎng)絡(luò)[17-18]和循環(huán)神經(jīng)網(wǎng)絡(luò)[19-21]都已經(jīng)成功應(yīng)用到事件抽取任務(wù)中。此外，弱監(jiān)督的方法能夠自動生成標(biāo)注語料數(shù)據(jù)，緩解數(shù)據(jù)稀疏問題，也逐步應(yīng)用到事件抽取任務(wù)中。

(1)基于特征工程的方法。

傳統(tǒng)的機(jī)器學(xué)習(xí)方法將事件抽取任務(wù)建模為多分類問題，提取文本的語義特征，然后輸入分類器進(jìn)行事件抽取。Ahn等在2006年[2]率先將事件抽取分為4個階段的多分類子任務(wù)，包括：(1)事件觸發(fā)詞分類，判斷詞語是否為事件觸發(fā)詞和事件類型；(2)事件元素分類，判斷實體詞語是否為事件元素；(3)事件屬性分類，判斷事件屬性；(4)事件共指消解，判斷兩個事件實例是否屬于同一事件。Ahn等用Timbl和MegaM模型進(jìn)行分類，利用詞匯特征、字典特征、句法特征、實體特征完成觸發(fā)詞分類子任務(wù)，利用事件類型、觸發(fā)詞特征、實體特征、句法特征完成事件元素分類子任務(wù)。常用的機(jī)器學(xué)習(xí)分類模型還有最大熵模型、支持向量機(jī)模型、隱馬爾可夫模型等。

傳統(tǒng)的機(jī)器學(xué)習(xí)事件抽取多分類方法中，各個階段的子分類任務(wù)是相互獨立的，導(dǎo)致誤差從前面的環(huán)節(jié)向后面的環(huán)節(jié)傳遞，性能也因此逐級衰減，并且無法處理全局的依賴關(guān)系。Li等在2013年[21]和2014年[22]提出基于結(jié)構(gòu)預(yù)測的事件抽取聯(lián)合模型，從全局特征和整體結(jié)構(gòu)中同時抽取所有的事件信息，避免了誤差傳遞導(dǎo)致的性能下降。

(2)基于神經(jīng)網(wǎng)絡(luò)的方法。

事件抽取的機(jī)器學(xué)習(xí)傳統(tǒng)方法不僅需要人工設(shè)計特征，而且需要借助外部的NLP工具抽取特征，并且部分語言和領(lǐng)域缺少相關(guān)的NLP工具。在各種特征的抽取過程中會產(chǎn)生誤差，造成誤差的累積和傳播。神經(jīng)網(wǎng)絡(luò)的方法將事件抽取建模成端到端的系統(tǒng)，使用包含豐富語言特征的詞向量作為輸入自動提取特征，不需要或者極少的依賴外部的NLP工具，避免了人工設(shè)計特征的繁瑣工作。

Chen等在2015年[23]提出基于動態(tài)多池化卷積神經(jīng)網(wǎng)絡(luò)的事件抽取方法，利用動態(tài)多池化方法學(xué)習(xí)出一個句子中包含的多個事件。Feng等在2016年[18]提出用雙向長短期記憶網(wǎng)絡(luò)進(jìn)行事件檢測，但沒有探索事件元素的抽取方法。Nguyen等在2016年[19]利用雙向LSTM抽取句子中的語義特征，然后聯(lián)合句子結(jié)構(gòu)特征同時抽取事件觸發(fā)詞和事件元素。

(3)弱監(jiān)督的方法。

弱監(jiān)督的事件抽取方法希望通過結(jié)構(gòu)化知識庫或者少量人工標(biāo)注數(shù)據(jù)，自動生成大規(guī)模、高質(zhì)量的標(biāo)注數(shù)據(jù)。Chen等在2009年[24]提出利用少量人工標(biāo)注數(shù)據(jù)訓(xùn)練模型，在未標(biāo)注數(shù)據(jù)上反復(fù)迭代自動擴(kuò)充標(biāo)注數(shù)據(jù)。Liu等在2016年[16]提出利用ACE語料數(shù)據(jù)訓(xùn)練模型，再結(jié)合FrameNet知識庫擴(kuò)充標(biāo)注數(shù)據(jù)。Chen等在2017年[9]提出利用Freebase、Wikipedia、FrameNet等知識庫的遠(yuǎn)程監(jiān)督方法，自動生成大規(guī)模的標(biāo)注數(shù)據(jù)進(jìn)行事件抽取，并將其應(yīng)用到金融領(lǐng)域的事件抽取問題中[6]。

3.3 中文事件抽取的方法

中文事件抽取除了方法層面的問題外，還存在語言特性層面的問題。中文語言特性問題主要來自中文詞句意合特性，中文語言詞語間沒有顯式間隔，而分詞會帶來明顯的錯誤和誤差。Chen等在2009年[24]提出中文事件抽取觸發(fā)詞不一致問題，并將中文觸發(fā)詞分詞不一致問題分為跨詞語(cross-word)不一致和內(nèi)詞語(inside-word)不一致兩種類型，如表1所示。Zeng等在2016年[20]用不同的中文分詞工具對ACE中文語料進(jìn)行分詞，結(jié)果顯示至少有14%的觸發(fā)詞分詞結(jié)果與語料標(biāo)注不一致。

表1 中文觸發(fā)詞分詞不一致問題示例

Chen等在2009年[24]提出兩種方法解決觸發(fā)詞分詞不一致地問題：(1)基于詞語的觸發(fā)詞標(biāo)注，通過在訓(xùn)練集上建立觸發(fā)詞的全局勘誤表修正測試集中分詞不一致的觸發(fā)詞；(2)基于字符的觸發(fā)詞標(biāo)注，將觸發(fā)詞檢測轉(zhuǎn)化為序列標(biāo)注問題。Zeng等在2016年[20]在Chen等[24]的字符序列標(biāo)注方法地基礎(chǔ)上，使用雙向長短期記憶網(wǎng)絡(luò)和條件隨機(jī)場[25]抽取句子特征，并結(jié)合卷積神經(jīng)網(wǎng)絡(luò)抽取上下文語義特征完成中文事件抽取，進(jìn)一步提高了性能。Lin等[26]認(rèn)為序列標(biāo)注模型中的字符區(qū)別于詞語，無法準(zhǔn)確表達(dá)句子的語義，提出將每個字符與上下文的若干字符組合生成多個候選觸發(fā)詞塊，然后從候選觸發(fā)詞塊中檢測觸發(fā)詞。

另外，中文事件抽取還存在比英文更加嚴(yán)重的數(shù)據(jù)稀疏問題。中文語言的復(fù)雜性和靈活性使得相同語義的詞語有更多表達(dá)方式，即同一類型事件觸發(fā)詞可以用更多詞語表達(dá)。因此中文觸發(fā)詞數(shù)量要遠(yuǎn)多于英文，導(dǎo)致測試集中有更多在訓(xùn)練集中沒出現(xiàn)過的未知觸發(fā)詞。Li等在2012年[27]利用中文語言的組合語義和語言一致性識別未知觸發(fā)詞和分詞錯誤觸發(fā)詞，進(jìn)而提高系統(tǒng)性能。

4 結(jié)束語

中文事件抽取目前仍然面臨著巨大的挑戰(zhàn)。技術(shù)層面，由于事件復(fù)雜的內(nèi)部結(jié)構(gòu)，需要依靠專家系統(tǒng)設(shè)計事件框架，目前仍然沒有形成通用的事件框架體系。另外，依靠人工標(biāo)注語料數(shù)據(jù)不僅耗時費力而且成本高昂，導(dǎo)致現(xiàn)有的事件語料數(shù)據(jù)規(guī)模不大、類型較少?，F(xiàn)階段各個類型的事件抽取任務(wù)性能較低，不能滿足產(chǎn)業(yè)應(yīng)用的需要。語言層面，中文語言表述的靈活多樣給事件抽取任務(wù)帶來很大的挑戰(zhàn)，依賴的底層自然語言處理技術(shù)，如分詞、命名實體識別、句法分析等在中文語言上的性能都會影響到事件抽取的結(jié)果。

基于神經(jīng)網(wǎng)絡(luò)的事件抽取方法自動提取特征，避免了人工設(shè)計特征的繁瑣工作。事件抽取任務(wù)被構(gòu)建成端到端的系統(tǒng)，使用包含了豐富語言特征的詞向量作為輸入，減少了底層自然語言處理工具帶來的誤差。中文事件抽取工作目前還處于起步階段，雖然在中文詞語的形態(tài)結(jié)構(gòu)和組合語義的利用方面取得了一些進(jìn)展，但仍亟待開發(fā)更多的中文語言特性應(yīng)用到中文事件抽取中。