胡瑞娟，周會(huì)娟，劉海硯，李 健

戰(zhàn)略支援部隊(duì)信息工程大學(xué)，鄭州 450001

事件抽取主要研究從非結(jié)構(gòu)化文本中抽取出結(jié)構(gòu)化的事件信息，如何人、何時(shí)、在何地、做了何事。事件抽取是一項(xiàng)十分重要且具有挑戰(zhàn)性的課題，可以為知識(shí)圖譜構(gòu)建[1-2]、推薦系統(tǒng)[3-4]、智能問(wèn)答[5-6]以及其他任務(wù)[7-9]提供有效的結(jié)構(gòu)化信息。按照文本抽取的粒度，事件抽取可分為句子級(jí)事件抽取和篇章級(jí)事件抽取。目前研究較多的是從一個(gè)句子中提取事件信息的句子級(jí)事件抽取，然而，由于事件的異質(zhì)性和事件描述的多樣性，會(huì)存在事件信息（事件數(shù)量、類型、要素）提取不全面、不完整的情況，而篇章級(jí)事件抽取是從文檔級(jí)文本出發(fā)，側(cè)重更為全面、完整的事件信息提取，這有助于用戶從大量的信息中快速、準(zhǔn)確地捕獲感興趣的內(nèi)容。篇章級(jí)事件抽取在熱點(diǎn)追蹤、輿情監(jiān)控、軍事情報(bào)、金融投資等領(lǐng)域發(fā)揮著重要作用[10]。

根據(jù)文本抽取的領(lǐng)域范圍，事件抽取通常分為限定域事件抽取和開(kāi)放域事件抽取。限定域事件抽取是指在進(jìn)行抽取前，預(yù)先定義好目標(biāo)事件的類型及每種類型的事件元素，通常會(huì)給出一定量的標(biāo)注數(shù)據(jù)，不同的領(lǐng)域背景知識(shí)和應(yīng)用需求使得定義的事件類型和事件元素各不相同。開(kāi)放域事件抽取是指在進(jìn)行事件識(shí)別之前，可能的事件類型以及事件的結(jié)構(gòu)都是未知的，所以這項(xiàng)任務(wù)通常沒(méi)有標(biāo)注數(shù)據(jù)，主要是基于無(wú)監(jiān)督的方法和分布假設(shè)理論，如通過(guò)事件實(shí)例中的觸發(fā)詞事件元素進(jìn)行聚類等方式進(jìn)行抽取。由于開(kāi)放域事件抽取沒(méi)有預(yù)定義的事件類型和明確固定的場(chǎng)景，所用文本來(lái)自于類似社交媒體等大量復(fù)雜的語(yǔ)料，導(dǎo)致抽取難度大，且相關(guān)研究還不夠深入，目前學(xué)術(shù)界研究較多較深的是限定域事件抽取。下文重點(diǎn)對(duì)篇章級(jí)事件抽取的任務(wù)、挑戰(zhàn)、模型和方法等進(jìn)行闡述。

1 主要任務(wù)及挑戰(zhàn)

1.1 主要任務(wù)

事件抽取的主要任務(wù)包括事件檢測(cè)和論元識(shí)別，此外還包括事件關(guān)系抽取、事件消歧等外延任務(wù)，當(dāng)前針對(duì)于篇章級(jí)事件抽取，大部分研究聚焦于事件檢測(cè)和論元識(shí)別兩項(xiàng)主要任務(wù)。其中事件檢測(cè)包括觸發(fā)詞識(shí)別和事件類型發(fā)現(xiàn)兩個(gè)子任務(wù)，論元識(shí)別包括論元抽取和角色分配兩個(gè)子任務(wù)，根據(jù)自動(dòng)內(nèi)容抽取評(píng)測(cè)會(huì)議（automatic content extraction，ACE）定義的與事件相關(guān)的概念，結(jié)合篇章級(jí)事件抽取的實(shí)際問(wèn)題，梳理了幾個(gè)任務(wù)之間的關(guān)系如圖1所示。

圖1 篇章級(jí)事件抽取的主要任務(wù)Fig.1 Main tasks of document-level event extraction

觸發(fā)詞識(shí)別：識(shí)別事件的觸發(fā)詞，觸發(fā)詞是最能代表或觸發(fā)一個(gè)事件發(fā)生的詞，一般是動(dòng)詞或是名詞，事件觸發(fā)詞確定了事件類型。

事件類型發(fā)現(xiàn)：一個(gè)文檔中通常包含任意數(shù)量、多種類型的事件，發(fā)現(xiàn)文檔中的包含多少個(gè)事件（事件數(shù)量）并明確每個(gè)事件分別是屬于何種事件類型（事件種類）。通常一個(gè)事件類型由觸發(fā)詞觸發(fā)，能夠根據(jù)識(shí)別出的觸發(fā)詞確定事件類型，但也會(huì)存在描述事件的文檔中沒(méi)有觸發(fā)詞的情況，則可以根據(jù)文檔中描述事件的中心句來(lái)確定事件類型。

論元抽?。撼槿∈录恼撛撛甘录膮⑴c者，是組成事件的核心部分，它與事件觸發(fā)詞構(gòu)成了事件的整個(gè)框架。一個(gè)事件通常包含多個(gè)論元，這些論元可能分散在文檔的多個(gè)不同句子中，這種現(xiàn)象稱為“論元分散”，文檔中不同的事件類型或相同事件類型可能共享一個(gè)事件論元，這種現(xiàn)象稱為“論元重疊”，因此，篇章級(jí)論元抽取時(shí)會(huì)存在“論元分散”和“論元重疊”的問(wèn)題。

角色分配：明確事件論元與事件觸發(fā)詞之間的語(yǔ)義關(guān)系，即論元在相應(yīng)的事件中扮演什么角色。文檔中同一個(gè)論元可能會(huì)出現(xiàn)在不同事件中且擔(dān)任不同的角色，這種現(xiàn)象稱為“角色重疊”，因此，篇章級(jí)事件抽取中會(huì)存在“角色重疊”的問(wèn)題。

1.2 面臨的挑戰(zhàn)

目前很多測(cè)評(píng)和任務(wù)（如ACE）都為事件制定了事件類型[11]，每個(gè)類型下又定義類若干子類型并為每個(gè)事件子類別制定了模板，方便事件論元的抽取及角色的分配。然而，從上述對(duì)四個(gè)子任務(wù)的分析可以得出，篇章級(jí)事件抽取面臨的兩個(gè)重大挑戰(zhàn)：事件論元分散和多事件問(wèn)題。

（1）論元分散問(wèn)題，即指一個(gè)事件的論元分散在文檔中多個(gè)不同的句子中。假設(shè)一個(gè)文檔doc包含n個(gè)句子，用doc={S1,S2,…,Si,…,Sn}表示，如圖2所示，文檔中共有2個(gè)句子，包含一個(gè)捐贈(zèng)事件，論元分散在兩個(gè)句子中，其中S1中的“中國(guó)”“塞爾維亞”“15日”分別扮演捐贈(zèng)方、接收方、時(shí)間的角色，S2中“新冠病毒檢測(cè)試劑盒”“口罩”“呼吸機(jī)”“防護(hù)服”扮演著捐贈(zèng)物的角色。

圖2 文檔doc1（觸發(fā)詞：“捐贈(zèng)”）Fig.2 Document doc1（trigger word：donation）

（2）多事件問(wèn)題，即一個(gè)文檔中通常包含多種類型的事件或同一類型的多個(gè)事件，且存在論元重疊、角色重疊的問(wèn)題。如“在巴格達(dá)，當(dāng)一個(gè)美國(guó)坦克對(duì)著巴基斯坦酒店開(kāi)火時(shí)，一個(gè)攝影師死去了”，包含“死亡”和“攻擊”兩種事件類型，“攝影師”這一論元分別在兩個(gè)事件中擔(dān)任著“受害者”和“攻擊目標(biāo)”兩個(gè)不同的角色。很多情況下，論元分散和多事件問(wèn)題并不是兩個(gè)絕對(duì)獨(dú)立的問(wèn)題，二者同時(shí)存在于篇章級(jí)事件抽取任務(wù)中，如圖3所示，粗斜體是分散在不同句子中的事件論元，文檔中共有31個(gè)句子，包含兩個(gè)股權(quán)質(zhì)押事件，Event-1的論元分散在S12、S21和S22中，Event-2的論元分散在S18、S21和S22中，且Event-1和Event-2都 包含“塔城國(guó)際”這一論元。

圖3 文檔doc2（無(wú)觸發(fā)詞）Fig.3 Document doc2（no trigger words）

2 限定域事件抽取的模型和方法

目前研究較多的是句子級(jí)事件抽取，句子級(jí)事件抽取只使用句子內(nèi)部獲取的特征，傳統(tǒng)基于特征工程的方法手工設(shè)計(jì)特征[12]，無(wú)法適應(yīng)依賴復(fù)雜語(yǔ)義關(guān)系的任務(wù)，最近的事件抽取工作基于深度學(xué)習(xí)框架自動(dòng)學(xué)習(xí)特征，主要使用流水線（pipeline）模型[13-16]和聯(lián)合抽?。╦oint）模型[17-20]兩類?；诹魉€模型的方法，不管是用卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural networks，CNN）還是循環(huán)神經(jīng)網(wǎng)絡(luò)（recurrent neural network，RNN），均采用流水線的方式將抽取過(guò)程拆分為兩個(gè)獨(dú)立的過(guò)程，先抽取事件觸發(fā)詞、確定事件類型，根據(jù)事件類型和觸發(fā)詞的預(yù)測(cè)結(jié)果提取論元并分類論元角色。這種方法雖然能使論元識(shí)別部分充分利用事件觸發(fā)詞的語(yǔ)義信息，但也造成了誤差傳播的問(wèn)題，觸發(fā)詞的預(yù)測(cè)結(jié)果直接影響論元識(shí)別的結(jié)果。為了克服由事件檢測(cè)引起的錯(cuò)誤傳播，研究者提出了聯(lián)合抽取模型，針對(duì)事件觸發(fā)詞之間、事件論元之間、事件觸發(fā)詞和事件論元之間的全局特性，通過(guò)聯(lián)合訓(xùn)練事件檢測(cè)和論元識(shí)別任務(wù)來(lái)減少誤差的傳播[21-22]。

這些方法核心思路是從句子級(jí)出發(fā)，難以應(yīng)對(duì)“論元分散”和“多事件”等問(wèn)題。為了應(yīng)對(duì)“論元分散”和“多事件”的挑戰(zhàn)，篇章級(jí)事件抽取相關(guān)研究陸續(xù)展開(kāi)。

針對(duì)論元分散和多事件問(wèn)題，可以從以下幾個(gè)方面考慮：首先，從篇章全局感知上下文，通過(guò)獲取不同粒度的語(yǔ)義表示（詞語(yǔ)粒度、句子粒度、文檔粒度），擴(kuò)大感受野以更好地識(shí)別分散在多個(gè)句子中的觸發(fā)詞和事件論元；其次，文本序列中的句子結(jié)構(gòu)信息（句法解析樹(shù)）、語(yǔ)義信息（語(yǔ)義解析樹(shù)）可以用于增強(qiáng)原始序列數(shù)據(jù)的表示，通過(guò)建模圖結(jié)構(gòu)來(lái)學(xué)習(xí)、捕獲文檔數(shù)據(jù)的獨(dú)特特征，以獲取篇章內(nèi)事件的關(guān)聯(lián)；再次，將前兩類方法結(jié)合，融合不同層級(jí)的語(yǔ)義特征和不同粒度的結(jié)構(gòu)特征，獲取全面、完整的事件信息；最后，借鑒閱讀理解、智能問(wèn)答等自然語(yǔ)言處理任務(wù)或其他任務(wù)的有效解決方案，將事件抽取任務(wù)巧妙地轉(zhuǎn)化為其他任務(wù)來(lái)解決。

鑒于以上考慮，將現(xiàn)有的篇章級(jí)事件抽取方法歸納為四類：獲取不同粒度語(yǔ)義表示的方法、捕獲結(jié)構(gòu)特征的方法、融合語(yǔ)義和結(jié)構(gòu)特征的方法以及任務(wù)轉(zhuǎn)化的方法。

2.1 獲取不同粒度語(yǔ)義表示的事件抽取方法

將文本的語(yǔ)義信息表示為低維稠密向量，在固定長(zhǎng)度的稠密向量中編碼詞語(yǔ)、句子或文檔，在獲取詞語(yǔ)、句子或文檔的語(yǔ)義表示時(shí)，一篇文檔的語(yǔ)義由其各組成部分的語(yǔ)義，以及它們之間的組合方法所確定。因此，從獲取詞語(yǔ)、句子、文檔三種不同粒度的語(yǔ)義表示分析事件抽取典型模型和方法。

2.1.1 獲取詞語(yǔ)粒度語(yǔ)義表示

傳統(tǒng)詞袋模型表征文本，依靠統(tǒng)計(jì)每個(gè)詞在句子或文檔里的頻率，無(wú)法捕捉詞語(yǔ)之間順序和詞語(yǔ)之間的語(yǔ)義關(guān)系。通過(guò)神經(jīng)網(wǎng)絡(luò)將稀疏的離散詞向量表示為分布式的低維稠密向量，通過(guò)模型訓(xùn)練使向量包含語(yǔ)義信息，通過(guò)距離函數(shù)計(jì)算相似度來(lái)表示向量間的語(yǔ)義關(guān)系。2013年Google團(tuán)隊(duì)提出的word2vec[23]，映射每一個(gè)詞到一個(gè)固定的向量，包括通過(guò)上下文預(yù)測(cè)中心詞（continuous bag of words，CBOW）和通過(guò)中心詞預(yù)測(cè)上下文（Skip-gram）兩種方法，word2vec詞向量使相似的文本擁有相似的嵌入，可以較好地表達(dá)不同詞之間的相似和類比關(guān)系，但只考慮了詞的局部信息，且不能有效解決多義詞的問(wèn)題，Glove利用共現(xiàn)矩陣[24]，同時(shí)考慮了局部信息和全局信息，但屬于靜態(tài)詞向量，也不能表示一詞多義，于是產(chǎn)生了根據(jù)上下文隨時(shí)變化詞向量的ELMO模型[25]，該模型通過(guò)不同的語(yǔ)句對(duì)同一個(gè)詞語(yǔ)訓(xùn)練得到不同的詞向量，有效區(qū)分出同一個(gè)詞在不同語(yǔ)境下表示的不同含義，從而解決了多義詞的問(wèn)題，但實(shí)質(zhì)也沒(méi)有很好地利用上下文。BERT利用雙向transformer語(yǔ)言模型結(jié)合上下文語(yǔ)義采用mask方式訓(xùn)練從而得到語(yǔ)義更加豐富的詞向量[26]。

Zhu等從詞粒度出發(fā)設(shè)計(jì)高效的離散特征，包括特征詞中包含的所有信息的局部特征，以及將觸發(fā)詞與論元連接起來(lái)的全局特征[27]。羅明等針對(duì)中文自然語(yǔ)言的歧義性、多樣性等問(wèn)題，提出了基于有限狀態(tài)機(jī)驅(qū)動(dòng)的層次化詞匯-語(yǔ)義模式的金融事件抽取模型[28]。Liu等使用論元的局部特征來(lái)輔助角色分類，首次將實(shí)體識(shí)別和論元抽取作為聯(lián)合任務(wù)學(xué)習(xí)[29]。

2.1.2 獲取句子粒度語(yǔ)義表示

通過(guò)訓(xùn)練詞向量或設(shè)計(jì)詞語(yǔ)離散特征的方式可以獲取詞語(yǔ)的語(yǔ)義表示，這促進(jìn)了單一地觸發(fā)詞識(shí)別和論元抽取任務(wù)，但對(duì)于句子中論元與觸發(fā)詞之間的語(yǔ)義關(guān)聯(lián)、觸發(fā)詞與事件類型之間的語(yǔ)義關(guān)聯(lián)等，僅僅依賴詞語(yǔ)粒度的語(yǔ)義這種局部特征是遠(yuǎn)遠(yuǎn)不夠的，因此需要獲取句子粒度的上下文語(yǔ)義表示。

（1）通過(guò)CNN獲取句子語(yǔ)義表示

將事件抽取看做分類任務(wù)，使用CNN進(jìn)行事件分類（事件類型發(fā)現(xiàn)）和角色分類（論元角色分配）兩個(gè)相對(duì)獨(dú)立的任務(wù)是一種簡(jiǎn)單易實(shí)現(xiàn)的方式。CNN以ngram作為基本單位建立句子的表示，通過(guò)將多個(gè)卷積核的結(jié)果特征矩陣合并，再利用池化層對(duì)抽取的特征進(jìn)行特征壓縮（取最大或平均），減少模型參數(shù)，增強(qiáng)泛化能力。Nguyen等人使用CNN解決事件檢測(cè)任務(wù)[13]。Chen等提出了動(dòng)態(tài)多池化卷積神經(jīng)網(wǎng)絡(luò)模型（dynamic multi-pooling convolutional neural network，DMCNN）[14]，在捕獲詞語(yǔ)級(jí)有意義的語(yǔ)義規(guī)則基礎(chǔ)上，采用基于CNN的框架來(lái)學(xué)習(xí)句子級(jí)表示，并使用動(dòng)態(tài)多池化策略抽取觸發(fā)詞和事件論元，動(dòng)態(tài)多池化策略與普通最大池化機(jī)制相比，可以更好地保留有效的特征，有效應(yīng)對(duì)句子級(jí)“多事件”和“論元重疊”問(wèn)題，但卻存在事件分類階段的誤差會(huì)傳播至角色分類階段的問(wèn)題。

（2）通過(guò)RNN獲取句子語(yǔ)義表示

將事件抽取視為序列標(biāo)注任務(wù)，使用RNN對(duì)序列信息進(jìn)行建模，考慮上下文語(yǔ)義信息，為句子中每個(gè)字標(biāo)注對(duì)應(yīng)的標(biāo)簽，能夠同時(shí)區(qū)分觸發(fā)詞和事件論元，并且避免了CNN方式的誤差傳播問(wèn)題。但RNN存在梯度爆炸或梯度消失問(wèn)題，其改進(jìn)的長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)（long short term memory networks，LSTM）巧妙地使用遺忘門和記憶門存儲(chǔ)遠(yuǎn)距離信息有效解決了RNN的長(zhǎng)期依賴問(wèn)題，但沒(méi)有考慮上文信息，雙向BiLSTM能夠更好地依賴上下文獲取句子的有效表示。Nguyen等基于RNN構(gòu)建了局部特征和全局特征[18]，用于觸發(fā)詞識(shí)別和論元分類的聯(lián)合抽?。籉eng等采用了添加CNN的RNN模型[15]，分別獲取文本的詞語(yǔ)和序列特征，然后將詞語(yǔ)特征和序列特性合并作為最后的特征進(jìn)行事件抽取。游飛使用BiLSTM模型，融合詞向量、詞性、局部特征向量、句法分析結(jié)果和武器裝備實(shí)體等特征，實(shí)現(xiàn)了軍事領(lǐng)域事件抽取[30]。路揚(yáng)使用BiLSTM模擬上下文輸入，利用組合特征完成多任務(wù)的生物醫(yī)學(xué)事件抽取[31-32]。

（3）注意力機(jī)制獲取句子語(yǔ)義表示

CNN、RNN在建模句子語(yǔ)義表示時(shí)忽略了句子中不同部分關(guān)注程度的異同，而與事件類型、觸發(fā)詞密切相關(guān)論元分散、角色重疊等問(wèn)題需要給予句子不同部分不同的關(guān)注度才能更好地表示它們之間的語(yǔ)義關(guān)聯(lián)。注意力機(jī)制能夠?qū)Y(jié)構(gòu)化關(guān)系進(jìn)行建模，通過(guò)控制模型對(duì)句子中不同部分的關(guān)注程度，注意力機(jī)制引導(dǎo)模型對(duì)句子中和事件相關(guān)的重要部分賦予更高權(quán)重，而對(duì)不相關(guān)部分賦予較低權(quán)重。Liu等將識(shí)別出的論元的特征添加到觸發(fā)詞抽取模型中[33]。黃細(xì)鳳為了獲取更多的上下文序列之間的信息，在雙向RNN模型中增加了動(dòng)態(tài)掩蔽注意力機(jī)制（DyMAN）[34-35]，提升了抽取效果。針對(duì)句子級(jí)多事件，主要利用各種特征、保留更多的上下文特征、引入關(guān)系弧、引入篇章級(jí)的特征等，這些方法沒(méi)有考慮到事件之間的關(guān)系。聯(lián)合多事件抽取框架JMEE通過(guò)引入語(yǔ)法弧和注意力機(jī)制來(lái)實(shí)現(xiàn)詞語(yǔ)之間的信息流聯(lián)系，并利用上下文語(yǔ)法表示聯(lián)合抽取觸發(fā)詞和事件論元，特別保留了多個(gè)事件之間的聯(lián)系[36]。

Transformer使用注意力機(jī)制結(jié)構(gòu)代替了LSTM對(duì)序列進(jìn)行表示，摒棄了之前傳統(tǒng)的encoder-decoder模型必須結(jié)合CNN或RNN的固有模式，可以綜合考慮句子兩個(gè)方向的信息，在減少計(jì)算量和提高并行效率的同時(shí)取得了更好的效果。預(yù)訓(xùn)練語(yǔ)言模型BERT等采用Transformer進(jìn)行編碼的同時(shí)雙向綜合地考慮上下文特征。針對(duì)多事件中存在論元角色重疊問(wèn)題，采用預(yù)訓(xùn)練語(yǔ)言模建模句內(nèi)和句間上下文信息，從整體上提高了任務(wù)的準(zhǔn)確度[37]。DYGIE++是一個(gè)基于BERT的框架，它對(duì)文本跨度建模并學(xué)習(xí)句內(nèi)和句間上下文信息[38]。MLBiNET使用基于encoder-decoder模型的多層雙向網(wǎng)絡(luò)同時(shí)識(shí)別篇章內(nèi)的多個(gè)事件，該模型包括語(yǔ)義編碼器、雙向解碼器、信息集成層、多層雙向打標(biāo)器四個(gè)部分[39]。其中，語(yǔ)義編碼層由BiLSTM和自注意力機(jī)制構(gòu)成；雙向解碼層融合前向解碼和后向解碼來(lái)捕獲雙向事件依賴關(guān)系；信息集成層基于簡(jiǎn)單的LSTM結(jié)構(gòu)，將事件標(biāo)簽信息和語(yǔ)義信息集成到句子中；多層雙向打標(biāo)器逐層傳遞相鄰句子信息，最終捕獲較大鄰域中的語(yǔ)義和事件信息，從而實(shí)現(xiàn)跨句子事件的聯(lián)合抽取。

2.1.3 句子和文檔多粒度混合語(yǔ)義表示

從詞粒度、句子粒度出發(fā)獲取詞語(yǔ)、句子的有效特征進(jìn)行事件抽取，可以提升句子級(jí)事件抽取的效果，但不能有效解決論元分散和多事件問(wèn)題。如果將整篇文檔作為輸入，輸出事件元素，是否可以在一定程度上提升篇章級(jí)事件抽取的效果呢?Du等通過(guò)實(shí)驗(yàn)證明了這種方法效果并不好。隨著輸入長(zhǎng)度的增加，即一次輸入一個(gè)句子、k個(gè)句子（k取2，3，4，5）和整篇文檔，其準(zhǔn)確率先上升后下降，而召回率先下降后上升，最終F1值并沒(méi)有得到改善。這表明，篇章級(jí)事件抽取不僅要關(guān)注整個(gè)文檔，還要關(guān)注句子層面的語(yǔ)境[40]。因此，出現(xiàn)了使用句子和文檔多粒度混合的抽取方法。

思路一是從整體角度將篇章級(jí)事件抽取轉(zhuǎn)換為序列標(biāo)注任務(wù)，其輸入是句子級(jí)表示和文檔級(jí)表示的融合特征。如圖4所示，左半部分逐句將句子進(jìn)行編碼，并將其輸入至句子級(jí)BiLSTM，然后拼接產(chǎn)生的編碼以獲取這k個(gè)句子的句子級(jí)表示。右半部分將這k個(gè)句子編碼在一起，同時(shí)將它們輸入到文檔級(jí)BiLSTM，以獲得這k個(gè)句子的文檔級(jí)表示，然后通過(guò)門控機(jī)制將兩者融合。實(shí)驗(yàn)表明，與單獨(dú)輸入句子或單獨(dú)輸入文檔相比，使用門控機(jī)制動(dòng)態(tài)結(jié)合來(lái)自不同級(jí)別文檔的信息可以獲得更好的效果。

圖4 句子和文檔多粒度混合方法（思路一）Fig.4 Sentence and document multi-granularity hybrid approach（idea 1）

思路二是先將句子級(jí)抽取轉(zhuǎn)化為序列標(biāo)注，然后將句子級(jí)抽取的輸入與輸出拼接作為文檔級(jí)別抽取的輸入。一般來(lái)說(shuō)，一個(gè)事件在一個(gè)文本中通常會(huì)有一個(gè)最能表達(dá)該事件的句子，也就是事件的中心句，從語(yǔ)義層面看，該句子包含了該事件的最多的元素和信息，如觸發(fā)詞和較多的論元。如果能在句子識(shí)別的基礎(chǔ)上將論元補(bǔ)充完整，那么論元分散問(wèn)題就會(huì)得到解決?；凇笆录行木?論元補(bǔ)充”的方法構(gòu)建了一個(gè)DCFEE框架[17]，如圖5所示，將事件抽取過(guò)程分成了句子級(jí)抽取和文檔級(jí)抽取兩部分。句子級(jí)抽取采用BiLSTM-CRF序列標(biāo)注模型，將句子分割成字符輸入模型抽取觸發(fā)詞和論元。然后，將句子級(jí)抽取的輸入與得到的序列標(biāo)注結(jié)果拼接起來(lái)，作為文檔級(jí)抽取的輸入。對(duì)于輸入的句子，判斷其是否為事件的中心句，在中心句基礎(chǔ)上，獲取文檔中該句周圍句子中的論元，對(duì)事件進(jìn)行補(bǔ)充。

圖5 句子和文檔多粒度混合方法（思路二）Fig.5 Sentence and document multi-granularity hybrid approach（idea 2）

2.2 捕獲結(jié)構(gòu)特征的事件抽取方法

語(yǔ)義特征和結(jié)構(gòu)特征是文檔的兩種表示方式，2.1節(jié)從詞語(yǔ)、句子和文檔等不同粒度來(lái)獲取語(yǔ)義特征的方式，局限于從詞語(yǔ)本身、句子的語(yǔ)法關(guān)系、前后位置的序列關(guān)系等角度捕獲語(yǔ)義信息，對(duì)于任意位置、更深層次的語(yǔ)義關(guān)系卻無(wú)能為力。文檔中的句子結(jié)構(gòu)信息（如句法解析樹(shù)）可以增強(qiáng)原始文本序列數(shù)據(jù)的表示，同時(shí)，文本序列中的語(yǔ)義信息（如語(yǔ)義解析圖）也可以用來(lái)增強(qiáng)原始文本序列數(shù)據(jù)。這些圖結(jié)構(gòu)的數(shù)據(jù)能夠編碼事件元素之間的復(fù)雜關(guān)系，將文本表示成圖后，就不再局限于前后位置的序列關(guān)系，可以捕獲到任意兩個(gè)位置之間的關(guān)系，除了位置關(guān)系、語(yǔ)法關(guān)系，還可以捕獲更深層次的語(yǔ)義關(guān)系。因此，篇章級(jí)事件抽取可以從結(jié)構(gòu)特征考慮，用圖結(jié)構(gòu)捕捉文本元素之間更豐富的關(guān)系進(jìn)行最佳表達(dá)。

目前，捕獲結(jié)構(gòu)特征的事件抽取解決方法有三種：一是將原始文本的句法、語(yǔ)義等特征轉(zhuǎn)化為圖結(jié)構(gòu)的數(shù)據(jù)，以利用底層結(jié)構(gòu)信息使用圖神經(jīng)網(wǎng)絡(luò)（graph neural network，GNN）解決，如構(gòu)建句法依賴圖。圖神經(jīng)網(wǎng)絡(luò)是基于消息傳遞的學(xué)習(xí)框架，通過(guò)對(duì)節(jié)點(diǎn)、邊的特征進(jìn)行轉(zhuǎn)換、傳播和聚合，從而學(xué)習(xí)更好的圖表示，可以為任意的圖結(jié)構(gòu)數(shù)據(jù)建模。二是有效地建模復(fù)雜的篇章級(jí)文本序列數(shù)據(jù)，學(xué)習(xí)基于圖的輸入和高度結(jié)構(gòu)化的輸出數(shù)據(jù)之間的映射，如構(gòu)建篇章級(jí)事件連通圖。三是進(jìn)行恰當(dāng)?shù)膱D表示學(xué)習(xí)，利用專門設(shè)計(jì)的GNN來(lái)學(xué)習(xí)不同圖結(jié)構(gòu)數(shù)據(jù)的獨(dú)特特征，如無(wú)向、有向、多關(guān)系和異質(zhì)圖，如構(gòu)建句子和實(shí)體提及的異質(zhì)圖。

2.2.1 構(gòu)建句法與語(yǔ)義圖

句法表示為事件檢測(cè)提供了一種有效的機(jī)制，根據(jù)句法依存關(guān)系直接將詞語(yǔ)鏈接到上下文，句法依存關(guān)系可以捕捉句子的句法信息，更注重兩個(gè)詞之間的句法關(guān)系，用圖表示整個(gè)文檔，可以結(jié)合連續(xù)邊的信息來(lái)表示文檔中句子之間的前后關(guān)系，如圖6所示。語(yǔ)義角色圖（abstract meaning representation parsing，AMR）是有根、有標(biāo)注、有向、無(wú)環(huán)的圖，用于表示非結(jié)構(gòu)化的具體自然文本的抽象概念之間的高級(jí)語(yǔ)義關(guān)系，如圖7所示，AMR圖由AMR解析樹(shù)衍生出來(lái)，在語(yǔ)義上相似的不同句子可能共享相同的AMR解析結(jié)果。

圖6 句法依存關(guān)系Fig.6 Syntactic dependencies

圖7 語(yǔ)義依存關(guān)系Fig.7 Semantic dependencies

DBRNN通過(guò)橋接句法依存樹(shù)上相關(guān)聯(lián)的詞語(yǔ)來(lái)增強(qiáng)表示[41]，從依存分析樹(shù)中提取依賴關(guān)系，并將其轉(zhuǎn)換為依賴圖，使用GCN融合句法信息以提升模型性能，同時(shí)引入了句法依存邊來(lái)增強(qiáng)信息流并結(jié)合注意力機(jī)制和GCN以對(duì)圖進(jìn)行表示學(xué)習(xí)[42-43]。Cao等通過(guò)GCN融合句法信息從局部和全局視角更好地融合信息[20]，進(jìn)行多事件監(jiān)測(cè)。此外，Ahmad等提出了GATE框架[44]，將依賴關(guān)系嵌入到上下文表示中，引入自注意力機(jī)制學(xué)習(xí)不同句法依存距離的關(guān)系表示，該表示和語(yǔ)言無(wú)關(guān)，在跨語(yǔ)言場(chǎng)景下具有更好的效果。

2.2.2 構(gòu)造篇章級(jí)連通圖

將文檔有效建模為篇章級(jí)事件連通圖[45]，通過(guò)疊加句子級(jí)事件抽取結(jié)果來(lái)提取最能代表篇章核心內(nèi)容的事件（不一定是最頻繁發(fā)生的事件，但篇章中的所有事件都一定與核心事件有關(guān)聯(lián)），但由于一篇文章經(jīng)常描述多個(gè)事件，簡(jiǎn)單地疊加無(wú)法獲取核心事件。同一論元可以對(duì)應(yīng)多個(gè)事件，以論元為橋梁，構(gòu)建篇章事件連通圖，并使用計(jì)算網(wǎng)頁(yè)重要度的PageRank方法挖掘連通圖以獲取重要信息。

篇章級(jí)事件表示基于以句子級(jí)事件，首先利用句法樹(shù)結(jié)構(gòu)提取句子級(jí)觸發(fā)詞和事件論元，將其作為節(jié)點(diǎn)構(gòu)造句子級(jí)事件多邊形，然后根據(jù)節(jié)點(diǎn)的共現(xiàn)性和詞語(yǔ)的詞匯相似性或相關(guān)性連接事件多邊形，構(gòu)造篇章級(jí)事件連通圖，然后使用隨機(jī)游走計(jì)算節(jié)點(diǎn)權(quán)重，從而計(jì)算事件相關(guān)度。連通圖的作用僅限于提取權(quán)重較高的節(jié)點(diǎn)，而沒(méi)有充分利用到圖結(jié)構(gòu)信息來(lái)計(jì)算事件相關(guān)度。

2.2.3 建模事件異質(zhì)圖

與僅有一類節(jié)點(diǎn)與一類邊構(gòu)成的同質(zhì)圖不同，異質(zhì)圖是由多種節(jié)點(diǎn)和多種邊構(gòu)成的網(wǎng)絡(luò)如AMR圖、知識(shí)圖譜等。將事件抽取轉(zhuǎn)化為構(gòu)建基于實(shí)體的有向無(wú)環(huán)圖[46]，首先識(shí)別出文檔中所有的事件論元，然后通過(guò)文檔級(jí)信息融合解決句子級(jí)抽取造成的信息沒(méi)有跨句流通的問(wèn)題。然后根據(jù)設(shè)定的事件類型，判斷文檔中是否包含某一事件類型的事件，如果是，則逐步生成該事件類型的有向無(wú)環(huán)圖。有向無(wú)環(huán)圖的生成更類似于表格的填寫(xiě)，每個(gè)事件類型的論元都是根據(jù)設(shè)定好的一步步填寫(xiě)的。由于所有設(shè)定的事件類型都是逐個(gè)判斷的，理論上可以提取一個(gè)文檔中的多個(gè)事件，這就解決了單文檔多事件的問(wèn)題。

Doc2EDAG忽略了事件之間內(nèi)在關(guān)聯(lián)性，考慮將當(dāng)前篇章中抽取的事件記錄存儲(chǔ)下來(lái)，在預(yù)測(cè)時(shí)使用。GIT方法考慮構(gòu)建句子和實(shí)體提及的異質(zhì)圖[47]，將實(shí)體之間、句子之間、實(shí)體和句子之間的信息建模構(gòu)圖（節(jié)點(diǎn)：句子、候選實(shí)體提及；邊：句-句關(guān)系、句內(nèi)屬性之間關(guān)系、屬性-句關(guān)系、跨句同名屬性關(guān)系），使用GNN網(wǎng)絡(luò)進(jìn)行編碼，增強(qiáng)實(shí)體提及和句子向量表示。GIT方法基于異質(zhì)圖網(wǎng)絡(luò)完成篇章內(nèi)句子、實(shí)體提及之間的交互，并引入tracker跟蹤預(yù)測(cè)事件記錄。

2.3 融合語(yǔ)義和結(jié)構(gòu)特征的事件抽取方法

文檔中的語(yǔ)義特征和結(jié)構(gòu)特征并不是孤立地對(duì)事件抽取起作用的，通常會(huì)綜合考慮上下文語(yǔ)義信息和結(jié)構(gòu)特征兩個(gè)方面來(lái)共同應(yīng)對(duì)“論元分散”和“多事件”問(wèn)題[39，46-48]。

Doc2EDAG模型[46]使用命名實(shí)體識(shí)別模型將所有的事件論元識(shí)別出來(lái)，然后在添加位置編碼后，將句子編碼向量與事件論元編碼拼接一起輸入Transformer中，以促進(jìn)文檔級(jí)上下文信息的互通，并獲得文檔級(jí)跨句子信息，然后按照預(yù)定義的事件角色順序?yàn)橛|發(fā)的事件類型創(chuàng)建一個(gè)有向無(wú)環(huán)圖，最后轉(zhuǎn)化為事件抽取的二分類問(wèn)題，一定程度上解決了論元分散和多事件問(wèn)題。GIT[47]基于異質(zhì)圖網(wǎng)絡(luò)完成篇章內(nèi)句子、實(shí)體提及之間的交互，并引入tracker跟蹤預(yù)測(cè)事件記錄以及論元對(duì)應(yīng)抽取記錄；DE-PPN設(shè)計(jì)了基于編碼器/解碼器結(jié)構(gòu)的端到端模型[48]，其中文檔級(jí)編碼器用于獲取對(duì)整個(gè)文檔的感知表示，多粒度解碼器用于并行地生成事件。對(duì)每個(gè)句子分別進(jìn)行編碼，經(jīng)過(guò)池化（max-pooling）操作后拼接為文檔編碼，將事件抽取過(guò)程劃分為候選論元識(shí)別、事件預(yù)測(cè)、角色填充等多個(gè)步驟。面向新冠新聞的三階段篇章級(jí)事件抽取方法將抽取過(guò)程分為事件類型分類、事件句抽取和篇章級(jí)論元抽取三個(gè)階段。

2.4 任務(wù)轉(zhuǎn)化的事件抽取方法

一些研究人員試圖借鑒閱讀理解[49-54]、智能問(wèn)答[55-58]等其他任務(wù)的有效解決方案來(lái)應(yīng)對(duì)復(fù)雜的篇章級(jí)事件抽取問(wèn)題。

2.4.1 轉(zhuǎn)化為閱讀理解問(wèn)題

將論元抽取當(dāng)作機(jī)器閱讀理解任務(wù)[53]，把論元角色表述為自然語(yǔ)言描述的問(wèn)題，通過(guò)在上下文中回答這些問(wèn)題來(lái)抽取論元，更好地利用了論元角色類別的先驗(yàn)信息。模型主要包含四個(gè)部分：輸入層、編碼層、跨度預(yù)測(cè)層和論元分配層。其中，輸入層是按照機(jī)器閱讀理解的設(shè)置，利用語(yǔ)料中的事件模式信息生成具有論元表征的問(wèn)題和原句子作為初始輸入表示；編碼層通過(guò)BERT預(yù)訓(xùn)練模型編碼字級(jí)別特征，利用雙向GRU學(xué)習(xí)序列特征；跨度預(yù)測(cè)層根據(jù)編碼層的輸出，對(duì)每個(gè)字進(jìn)行二分類來(lái)確定答案的跨度；論元分配層利用實(shí)體提及過(guò)濾抽取結(jié)果，最后給實(shí)體提及分配論元角色。如，問(wèn)題模板見(jiàn)表1。

表1 問(wèn)題模板Table 1 Question template

Du和Cardie采用了模板方法[51]，表明構(gòu)建的問(wèn)題更自然，事件提取性能更好。然而，這些方法都沒(méi)有一種直接通過(guò)簡(jiǎn)化來(lái)解決長(zhǎng)期依賴問(wèn)題。針對(duì)長(zhǎng)距離依賴問(wèn)題，通過(guò)句子簡(jiǎn)化方法研究了基于閱讀理解的事件抽取[56]。

2.4.2 轉(zhuǎn)化為多輪問(wèn)答問(wèn)題

基于多輪問(wèn)答范式的事件抽取，充分利用觸發(fā)詞、事件類型和論元之間的交互信息，同時(shí)多輪的策略可以捕捉相同事件類型中不同論元角色之間的依賴。將事件抽取分成三輪遞進(jìn)式問(wèn)答：第一輪問(wèn)觸發(fā)詞是什么?第二輪基于觸發(fā)詞問(wèn)事件類型是什么?第三輪基于事件類型和觸發(fā)詞問(wèn)論元[58-59]。

2.4.3 轉(zhuǎn)化為其他任務(wù)

以前的一些方法試圖從圖像中轉(zhuǎn)移視覺(jué)知識(shí)以改進(jìn)純文本事件提取，或者從文本和圖像中聯(lián)合抽取多模態(tài)事件，圖像包含事件的快照，但可能無(wú)法在單個(gè)快照中捕獲事件的所有論元或參與者。因此，提出視頻多模體事件抽取，使用多模體Transformer結(jié)構(gòu)，利用特定的解碼器進(jìn)行聯(lián)合文本和視頻事件以及論元提取，同時(shí)構(gòu)造了一個(gè)新的數(shù)據(jù)集（包含事件類型、事件論元和角色、論元邊界、文本和視頻中事件的跨模態(tài)共指解析）。文獻(xiàn)[60]認(rèn)為寫(xiě)作風(fēng)格是文件內(nèi)容組織的一種特殊方式，在具有特殊領(lǐng)域的文件（如財(cái)務(wù)、醫(yī)療文件等）中相對(duì)固定，因此將文檔中的寫(xiě)作風(fēng)格建模為論元角色的分布，即角色-等級(jí)分布，由此提出了一種基于角色-等級(jí)分布的監(jiān)督機(jī)制的事件抽取模型。

3 開(kāi)放域事件抽取的模型和方法

在事件模式是未知的情況下，開(kāi)放域事件抽取不拘泥于精確地將事件具體要素全部抽取，其主要目的一般是從開(kāi)放的文本數(shù)據(jù)中分析、檢測(cè)出事件，其目標(biāo)事件類型和結(jié)構(gòu)不受限制，有更好的事件覆蓋率。大多數(shù)情況下，開(kāi)放域事件抽取沒(méi)有人工標(biāo)注數(shù)據(jù)，采用無(wú)監(jiān)督的方法，通常假設(shè)當(dāng)事件觸發(fā)詞和事件論元相似時(shí)，其表達(dá)的事件類型也相似。開(kāi)放域事件抽取一般流程是先通過(guò)關(guān)鍵詞識(shí)別進(jìn)行事件類型發(fā)現(xiàn)，關(guān)鍵詞進(jìn)一步分為觸發(fā)詞和事件論元，然后通過(guò)關(guān)鍵詞聚類相似的事件，最后進(jìn)行事件模式歸納，如圖8所示。

圖8 開(kāi)放域事件抽取一般流程Fig.8 General process of open domain event extration

按照特征提取方式，將開(kāi)放域事件抽取方法分為兩類：基于傳統(tǒng)聚類的方法和基于神經(jīng)網(wǎng)絡(luò)的方法。

3.1 基于傳統(tǒng)聚類的方法

基于傳統(tǒng)聚類方法的開(kāi)放域事件抽取[61-64]主要采用LDA（隱含狄利克雷分別）和基于單詞距離的層次聚類算法進(jìn)行聚類。Sha等采用歸一化割的聚類算法計(jì)算事件論元所屬角色的類別[61]，Huang等將觸發(fā)詞和論元的組合表示進(jìn)行譜聚類，同時(shí)發(fā)現(xiàn)事件類型并進(jìn)行事件模式歸納[62]，F(xiàn)erguson等采用半監(jiān)督的方法，首先將提及同一事件的文本聚類，然后給每個(gè)聚類中貼上一個(gè)標(biāo)簽，最后，將新示例與原始訓(xùn)練集一起重新訓(xùn)練事件抽取器[63]。這幾種方法都是先識(shí)別出觸發(fā)詞和論元，再為論元進(jìn)行角色分類，Ahn等則采用逆向思維，提出先利用表示學(xué)習(xí)進(jìn)行角色分類，再進(jìn)行事件類別聚類的方法[64]。

3.2 基于神經(jīng)網(wǎng)絡(luò)的方法

傳統(tǒng)聚類的方法依賴人工提取特征，且沒(méi)有充分利用文本語(yǔ)義信息，事件模式歸納的性能嚴(yán)重依賴依存句法分析、AMR語(yǔ)義分析等工具的性能，而神經(jīng)網(wǎng)絡(luò)及其增強(qiáng)的模型能夠有效利用上下文語(yǔ)義信息進(jìn)行自動(dòng)特征提取[65-70]。Liu等提出一種基于神經(jīng)網(wǎng)絡(luò)的深度隱變量模型，對(duì)開(kāi)放域新聞數(shù)據(jù)進(jìn)行聚類抽取[65]；Wang等提出生成對(duì)抗網(wǎng)絡(luò)的事件抽取模型，使用狄利克雷（Dirichlet）分布對(duì)事件建模，利用生成器網(wǎng)絡(luò)捕獲潛在事件模式，利用鑒別器區(qū)分原始文檔和從潛在事件中重建的文檔[66]；文獻(xiàn)[70]嘗試使用對(duì)抗域自適應(yīng)模型采用對(duì)抗訓(xùn)練的方法，按照表示學(xué)習(xí)、事件分類和領(lǐng)域預(yù)測(cè)三個(gè)步驟進(jìn)行觸發(fā)詞識(shí)別。最近的一些研究將零樣本學(xué)習(xí)（zero-shot learning）應(yīng)用于事件抽取[71-72]，將其視為分類問(wèn)題。把帶有標(biāo)簽事件提及的事件類型視為可見(jiàn)類型，將其他事件類型視為不可見(jiàn)類型，利用神經(jīng)網(wǎng)絡(luò)架構(gòu)通過(guò)最小化事件類型之間的距離來(lái)共同學(xué)習(xí)，并將二者的結(jié)構(gòu)表示映射到共享的語(yǔ)義空間中，以此完成事件抽取。隨著prompt技術(shù)的發(fā)展，信息抽取任務(wù)中命名實(shí)體識(shí)別、關(guān)系抽取等使用prompt learning達(dá)到了較好的效果[73-76]，同時(shí)也有些學(xué)者開(kāi)始研究利用prompt進(jìn)行事件抽取。

4 數(shù)據(jù)集和評(píng)價(jià)指標(biāo)

4.1 數(shù)據(jù)集

篇章級(jí)事件抽取常用數(shù)據(jù)集有以下幾種：

ACE2005數(shù)據(jù)集，包含599篇文檔，18 117個(gè)句子。

MUC-4數(shù)據(jù)集[77]是在第四次信息理解會(huì)議中提出的，定義了5種事件類型，包含1 700篇發(fā)生在拉丁美洲的恐怖襲擊的新聞報(bào)道。

Google數(shù)據(jù)集是GDELT[78]事件數(shù)據(jù)庫(kù)的一個(gè)子集，與事件相關(guān)的包含30種事件類型，11 909篇新聞文章。

Twitter數(shù)據(jù)集是從2010年12月發(fā)布的應(yīng)用Twitter流媒體API發(fā)布的推文中收集的，包括20種事件類型和1 000條推文。

NO.ANN，NO.POS，NO.NEG（DCFEE），在文獻(xiàn)[17]中定義了5種金融事件類型：股權(quán)凍結(jié)、股權(quán)質(zhì)押、股權(quán)回購(gòu)和股權(quán)增持。通過(guò)遠(yuǎn)程監(jiān)督的方法自動(dòng)標(biāo)注了2 976個(gè)公告（文檔）。NO.ANN表示每種事件類型標(biāo)記的公告數(shù)量，NO.POS表示正例數(shù)，NO.NEG表示負(fù)例數(shù)。其中91%的事件的論元均分散在多個(gè)句子中。

ChFinAnn（Doc2EDAG），中文金融領(lǐng)域數(shù)據(jù)集ChFinAnn，共包含32 040篇文檔，5種事件類型同DCFEE定義。

RAMS數(shù)據(jù)集。跨多個(gè)句子的角色（RAMS）由Ebner等人[79]發(fā)布，用于論元鏈接任務(wù)，包含139種事件類型，3 194個(gè)文檔和65個(gè)角色。

WIKIEVENTS，由Li等人作為文檔級(jí)基準(zhǔn)數(shù)據(jù)集發(fā)布[80]。該數(shù)據(jù)集收集自描述真實(shí)世界事件的英文維基百科文章。

DuEE是百度發(fā)布的金融領(lǐng)域數(shù)據(jù)集[81]，包含13種事件類型，11 700篇文檔。

CEC是由上海大學(xué)語(yǔ)義智能實(shí)驗(yàn)室構(gòu)建的中文突發(fā)事件數(shù)據(jù)集[82]。共332篇文檔，5類突發(fā)事件（地震、火災(zāi)、交通事故、恐怖襲擊和食物中毒）。

MAVEN是一個(gè)大規(guī)模通用領(lǐng)域事件檢測(cè)數(shù)據(jù)集[83]，包含168種事件類型，4 480篇文檔，49 873個(gè)句子。

表2列出了常用數(shù)據(jù)集的語(yǔ)種、文檔數(shù)量、句子數(shù)量和事件類型種類。

表2 篇章級(jí)事件抽取數(shù)據(jù)集Table 2 Datasets of document-level event extraction

4.2 評(píng)價(jià)指標(biāo)

事件抽取三個(gè)基本的評(píng)價(jià)指標(biāo)為準(zhǔn)確率P、召回率R和F1值。其中，準(zhǔn)確率是指抽取出的正確個(gè)數(shù)占抽取出總數(shù)的比例，用來(lái)衡量抽取的準(zhǔn)確程度；召回率是指正確抽取的個(gè)數(shù)占所有正確總數(shù)的比例，用來(lái)衡量抽取的全面程度；F1值是準(zhǔn)確率和召回率的加權(quán)平均值，用于系統(tǒng)性能的總體評(píng)估，F(xiàn)1值越大，模型性能越好。這三個(gè)評(píng)價(jià)指標(biāo)的具體公式如下：

其中，TP是正確抽取的正例數(shù)，F(xiàn)P是錯(cuò)誤抽取的正例數(shù)，F(xiàn)N則是錯(cuò)誤抽取負(fù)例數(shù)。

近年來(lái)事件抽取領(lǐng)域部分經(jīng)典模型的效果如表3所示，由于所使用數(shù)據(jù)集和方法的不同評(píng)估指標(biāo)不盡相同，有些只給出了觸發(fā)詞檢測(cè)結(jié)果（T），有些則給出了論元角色分配結(jié)果（Rl），表中P、R、F1均來(lái)自對(duì)應(yīng)方法的原文實(shí)驗(yàn)結(jié)果。

表3 在測(cè)試集上的準(zhǔn)確率(P)、召回率(R)和F1值Table 3 Overall event-level precision(P)，recall(R)and F1-score(F1)evaluated on test set

單事件與多事件評(píng)估結(jié)果見(jiàn)表4。其中S表示一個(gè)句子中只有一個(gè)事件，M代表多事件，S&M表示測(cè)試數(shù)據(jù)中既包含單事件也包含多事件。EF、ER、EU、EO、EP是ChFinAnn數(shù)據(jù)集的5種事件類型。

表4 所有事件類型在單事件(S.)和多事件(M.)的F1值Table 4 F1-score for all event types on single-event(S.)and multi-event(M.)set 單位：%

5 未來(lái)研究方向

篇章級(jí)事件抽取從文檔級(jí)文本出發(fā)進(jìn)行事件檢測(cè)和論元識(shí)別，主要面臨“論元分散”和“多事件”問(wèn)題，相關(guān)研究針對(duì)這兩個(gè)問(wèn)題陸續(xù)開(kāi)展。獲取不同粒度語(yǔ)義表示的方法限于從詞本身、語(yǔ)法關(guān)系、前后位置關(guān)系的角度捕獲語(yǔ)義特征，但對(duì)于任意位置、更深層次的語(yǔ)義關(guān)系顯得蒼白無(wú)力；通過(guò)建模句法語(yǔ)義圖、事件連通圖和異構(gòu)圖等圖模型，利用GCN等來(lái)捕獲文檔結(jié)構(gòu)特征的方法能夠有效捕捉文本元素之間更豐富更深層的關(guān)系；融合語(yǔ)義表示和結(jié)構(gòu)特征的方法將兩者有機(jī)結(jié)合進(jìn)行最佳表達(dá)來(lái)完成事件抽??；同時(shí)，也可以將抽取任務(wù)轉(zhuǎn)化為閱讀理解、智能問(wèn)答等其他任務(wù)來(lái)有效應(yīng)對(duì)。盡管這些方法一定程度上解決論元分散和多事件的問(wèn)題，但抽取效果還有很大的上升空間。因此，未來(lái)的研究工作可以關(guān)注以下幾個(gè)方面：

（1）改進(jìn)基于預(yù)訓(xùn)練語(yǔ)言模型的事件抽取。針對(duì)目前采用的預(yù)訓(xùn)練語(yǔ)言模型BERT作為編碼器進(jìn)行事件抽取的方法，由于事件抽取任務(wù)和BERT預(yù)訓(xùn)練階段的任務(wù)存在較大差距，且BERT編碼過(guò)程由于文本片段長(zhǎng)度的限制導(dǎo)致缺乏片段之間的交互，不能有效地感知篇章全局信息并建模事件間關(guān)系，因而模型學(xué)習(xí)到的特征表示在事件語(yǔ)義層面可能出現(xiàn)偏差。因此，研究如何使用基于transformer的長(zhǎng)文本編碼，如Reformer、Longformer等模型作為編碼器，充分利用文檔中事件之間的關(guān)系建模整個(gè)文檔的全局編碼，有利于更好地感知上下文信息有效應(yīng)對(duì)“論元分散”和“多事件”問(wèn)題。

（2）小樣本事件抽取。目前的事件抽取方法多是基于深度學(xué)習(xí)，需要大量地標(biāo)注數(shù)據(jù)，然而，由于標(biāo)注成本高、數(shù)據(jù)來(lái)源多樣等問(wèn)題，導(dǎo)致事件數(shù)據(jù)存在稀疏性問(wèn)題?，F(xiàn)有事件抽取數(shù)據(jù)集大多存在標(biāo)注數(shù)據(jù)少的問(wèn)題，如最主流的數(shù)據(jù)集ACE2005，只有33種事件類型，599篇文檔，其中有些事件類型的標(biāo)注數(shù)據(jù)少于10條，在深度學(xué)習(xí)時(shí)代，這么小規(guī)模的數(shù)據(jù)集是難以支持訓(xùn)練比較復(fù)雜的模型，測(cè)試結(jié)果也常常不穩(wěn)定。因此，一些學(xué)者開(kāi)始研究小樣本關(guān)系抽取、小樣本領(lǐng)域知識(shí)抽取等[84-86]，未來(lái)研究可以更加關(guān)注這項(xiàng)富有研究?jī)r(jià)值和高挑戰(zhàn)度的小樣本事件抽取。

（3）數(shù)據(jù)增強(qiáng)的事件抽取。為了解決事件抽取標(biāo)注數(shù)據(jù)規(guī)模有限的問(wèn)題，除了研究小樣本學(xué)習(xí)外，還可以從數(shù)據(jù)增強(qiáng)的角度來(lái)緩解，對(duì)于文本數(shù)據(jù)，常用的數(shù)據(jù)增強(qiáng)方法有回譯法、簡(jiǎn)單數(shù)據(jù)增強(qiáng)（easy data augmen‐tation，EDA）?；刈g法是將原來(lái)的句子翻譯為其他語(yǔ)言，然后再翻譯回原語(yǔ)言，可以進(jìn)行一到兩次的翻譯，這種方法能夠增加文本數(shù)據(jù)的多樣性，但產(chǎn)生的數(shù)據(jù)依賴于翻譯的質(zhì)量；EDA是通過(guò)同義詞替換、隨機(jī)插入、隨機(jī)交換和隨機(jī)刪除的方式產(chǎn)生新數(shù)據(jù)，這種方法操作過(guò)程中有可能改變句子原來(lái)的意思，導(dǎo)致模型性能的降低。2022年最新的研究提出了基于數(shù)據(jù)增強(qiáng)和弱監(jiān)督對(duì)抗訓(xùn)練的中文事件檢測(cè)[87]，但文中的數(shù)據(jù)增強(qiáng)采用的是回譯和Mix-Text等常用方法，因此，研究新的數(shù)據(jù)增強(qiáng)方法為模型提供充足的數(shù)據(jù)支撐是一項(xiàng)有意義的工作，基于此深入研究模型結(jié)構(gòu)、性能，比如能否將事件論元與現(xiàn)有知識(shí)圖譜中實(shí)體融合采用知識(shí)增強(qiáng)的方法、能否使用對(duì)比學(xué)習(xí)、多任務(wù)學(xué)習(xí)來(lái)訓(xùn)練模型，進(jìn)而提高模型的魯棒性。

（4）開(kāi)放域事件抽取。現(xiàn)有大多數(shù)事件抽取關(guān)注的是預(yù)定義好事件類型的限定域事件抽取，然而預(yù)定義的事件模式畢竟有限，事件類型覆蓋率較低，抽取模型泛化性不理想，不能推廣到新的領(lǐng)域。面對(duì)大數(shù)據(jù)時(shí)代積累并隨時(shí)產(chǎn)生的多源異構(gòu)數(shù)據(jù)和多域多元事件，開(kāi)放域事件抽取的研究勢(shì)在必行，如何從海量復(fù)雜的數(shù)據(jù)中發(fā)現(xiàn)豐富的事件類型和結(jié)構(gòu)，構(gòu)建高質(zhì)量的事件模式，并實(shí)現(xiàn)事件模式自動(dòng)歸納與學(xué)習(xí)，是值得進(jìn)一步思考和研究的內(nèi)容。