亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        聯(lián)合con?GRU與ATGAT模型的情感分析三元組方法

        2024-09-20 00:00:00畢曉杰李衛(wèi)疆
        現(xiàn)代電子技術(shù) 2024年8期
        關(guān)鍵詞:情感分析三元組特征提取

        摘" 要: 情感分析三元組任務(wù)是情感分析任務(wù)的研究熱點(diǎn),其目的在于將方面詞、情感詞與情感極性組成三元組。圖神經(jīng)網(wǎng)絡(luò)是提取句子特征的有效手段,但其無法關(guān)注節(jié)點(diǎn)與節(jié)點(diǎn)之間的關(guān)系,并且注意力權(quán)重賦予不合理。為此,提出一種聯(lián)合雙向?qū)笹RU與基于句法注意力機(jī)制的GAT模型。利用依存句法樹的句子向量和ATGAT模型提取句子情感詞,并將句子用syn?str更新向量表示;再融合句法結(jié)構(gòu)的向量,通過雙向?qū)笹RU提取特征進(jìn)行情感判斷。在三個(gè)公開英文數(shù)據(jù)集中開展實(shí)驗(yàn),結(jié)果表明,所提模型相對(duì)其他基線模型具有更優(yōu)異的性能。消融實(shí)驗(yàn)和對(duì)比實(shí)驗(yàn)也說明,所提出的各個(gè)網(wǎng)絡(luò)模型組件比其他組件能更有效地將句法信息與原句向量融合。

        關(guān)鍵詞: 情感分析; 三元組; 雙向?qū)笹RU; GAT模型; 句法注意力機(jī)制; 依存句法樹; 特征提取

        中圖分類號(hào): TN919?34; TP391" " " " " " " " " "文獻(xiàn)標(biāo)識(shí)碼: A" " " " " " " " " " " 文章編號(hào): 1004?373X(2024)08?0149?06

        A triple method for emotional analysis using con?GRU and ATGAT models

        BI Xiaojie1, 2, LI Weijiang1, 2

        (1. Faculty of Information Engineering and Automation, Kunming University of Science and Technology, Kunming 650500, China;

        2.Yunnan Key Laboratory of Artificial Intelligence, Kunming University of Science and Technology, Kunming 650500, China)

        Abstract: The emotional analysis triplet task is a hot research topic in emotional analysis tasks, with the aim of combining aspect words, emotional words, and emotional polarity into triplets. Graph neural networks are an effective means of extracting sentence features, but they cannot pay attention to the relationships between nodes during the process, and the allocation of attention weights is unreasonable. A GAT model joint bidirectional adversarial GRU and based on syntactic attention mechanism is proposed. The sentence vectors from dependency syntax trees and the ATGAT model are used to extract sentence sentiment words, and the sentences are represented by syn?str update vectors. The experimental results on three publicly available English datasets show that the proposed model has better performance compared with the other baseline models. The ablation and comparative experiments also demonstrate that the proposed network model components can more effectively fuse syntactic information with the original sentence vector than other components.

        Keywords: emotional analysis; triple; bidirectional adversarial GRU; GAT model; syntactic attention mechanism; dependency syntax tree; feature extraction

        0" 引" 言

        自然語言處理是一種專業(yè)分析如文本、圖像、視頻等多種人類語言的人工智能。自然語言處理分為情感分析[1]、關(guān)系抽取[2]等多種具體問題,本文主要研究情感分析問題。

        在日常生活中,人們更多關(guān)注的是某一個(gè)方面的具體情感,傳統(tǒng)的情感分析也僅僅是判斷出某一個(gè)方面的情感,并沒有指出文本的方面詞表示。Peng等人在2020年提出了三元組的概念[3],三元組是指將方面詞、情感詞以及情感極性作為一個(gè)組合共同輸出,是當(dāng)前情感分析的主要方向。三元組的示例如下:

        Sentence1:The environment here is poor,but the food is delicious.

        Sentence2:Overall,it's okay.

        Aspect term:environment,food,NULL

        Opinion term:poor,delicious,okay

        Sentimental Polarities: negative, positive, positive

        Opinion Triplets:(environment, poor, negative),(food,delicious,positive),(NULL,okay,positive)

        三元組示例中,句子2沒有指明方面詞,故在三元組中使用NULL代表方面詞。在三元組概念被提出后,研究者們對(duì)此進(jìn)行了深入的研究,如Cai等人基于三元組概念,構(gòu)建了四元組(方面詞、方面詞所屬類別、情感詞、情感極性),對(duì)目標(biāo)分析更具體,所述內(nèi)容更具體,并且解決了隱含信息提取的問題[4]。目前對(duì)于方面情感三元組提?。ˋSTE)的研究,更多的關(guān)注點(diǎn)在于語義信息的提取,或者使用多重神經(jīng)網(wǎng)絡(luò)模型,沒有將語義信息與語法信息進(jìn)行融合,這不利于情感詞的提取。對(duì)于ASTE任務(wù),大多研究者將情感詞提取與情感判斷分為兩個(gè)步驟,但更多關(guān)注情感詞的提取。然而,特征提取和情感判斷作為傳統(tǒng)的情感分析任務(wù),也是重要內(nèi)容,不可忽視。

        本文提出一種句法注意力機(jī)制,融合GAT卷積網(wǎng)絡(luò),利用句法信息計(jì)算部分注意力權(quán)重,精簡模型以提高運(yùn)算效率;其次,提出con?GRU模型對(duì)方面詞與情感詞進(jìn)行情感判斷,優(yōu)化損失函數(shù),實(shí)現(xiàn)雙向GRU對(duì)抗;最后,在三個(gè)公開的英文數(shù)據(jù)集中對(duì)本文模型進(jìn)行有效性驗(yàn)證。

        1" 相關(guān)工作

        傳統(tǒng)情感分析是根據(jù)字典及規(guī)則提取文本的情感[5],同時(shí)期研究者使用Boosting技術(shù)[1]整合“弱”支持向量機(jī)分類器,使文本情感分類更加準(zhǔn)確。Sun等人提出CDT模型,利用GCN操作依賴樹(語法信息)來對(duì)句子的語法信息進(jìn)行建模[6]。但以上研究都只是針對(duì)目標(biāo)情感,沒有關(guān)注到方面詞和情感詞的提取。

        Peng等人在2020年提出第一篇有關(guān)于構(gòu)建情感三元組的概念[3],所提出的模型將該任務(wù)分為兩個(gè)子任務(wù)串聯(lián)進(jìn)行[3]。隨后,Xu等人提出了使用基于span的方法來進(jìn)行方面情感三元組抽取[7];Wu等人提出一種新穎的網(wǎng)絡(luò)標(biāo)記方案(GTS)[8];Chen等人基于文獻(xiàn)[8]的研究,在GTS基礎(chǔ)上設(shè)計(jì)了一個(gè)句子的圖表示,集成了句法依賴性、語義關(guān)聯(lián)性和單詞之間的位置關(guān)系[9]。

        注意力機(jī)制在情感分析中應(yīng)用廣泛,其可賦予研究對(duì)象不同的權(quán)重。Wang等人將注意力機(jī)制加入到LSTM中進(jìn)行情感分析[10]。Zhang等人使用帶自注意的方面感知注意力機(jī)制獲得句子的注意力分?jǐn)?shù)矩陣[11]。目前對(duì)注意力機(jī)制的研究只關(guān)注到語義信息,并沒有融合語法信息,本文針對(duì)這個(gè)問題,提出句法注意力機(jī)制,將句法結(jié)構(gòu)信息與傳統(tǒng)注意力機(jī)制相融合。

        圖卷積神經(jīng)網(wǎng)絡(luò)(GCN)本質(zhì)上是一個(gè)特征提取器,只不過它的對(duì)象是圖數(shù)據(jù)。Zhang等人首次提出使用GCN模型來處理情感分析任務(wù)[12],Li等人提出雙GCN模型。圖卷積神經(jīng)網(wǎng)絡(luò)GCN被提出之后,GCN模型的局限性也逐漸顯現(xiàn)出來[13]。相對(duì)于GCN,GAT模型頂點(diǎn)特征之間的相關(guān)性被更好地融入到模型中。

        GRU(Gated Recurrent Unit)是循環(huán)神經(jīng)網(wǎng)絡(luò)中一種常用的門控循環(huán)單元結(jié)構(gòu)。GRU具有更少的參數(shù)數(shù)量,計(jì)算速度更快,表現(xiàn)效果更好,所以得到廣泛的應(yīng)用。本文借鑒對(duì)比學(xué)習(xí)中的對(duì)抗思想,提出雙向GRU的對(duì)抗訓(xùn)練,生成對(duì)抗網(wǎng)絡(luò),反復(fù)迭代相互對(duì)抗,最終得到模型輸出結(jié)果。本文模型結(jié)構(gòu)圖如圖1所示。

        2" 模型描述

        本文的核心目標(biāo)是:給定一個(gè)句子X和一個(gè)方面詞A,定義輸出為三元組(a,o,s),其中a為方面詞,o為情感詞,s為方面詞a的情感極性。首先將文本輸入BiLSTM中編碼,得到文本的向量表示。文本輸入時(shí),將句子的方面詞與文本并聯(lián)共同輸出,以方面詞為根節(jié)點(diǎn),通過依存句法樹得到文本的句法信息;再使用句法注意力機(jī)制與GAT模型的融合得到文本的情感詞,同時(shí)使用syn?str結(jié)構(gòu)更新文本向量表示,將新的向量表示輸入雙向?qū)笹RU中提取文本的特征表示;最后將雙通道的結(jié)果組合成為三元組并輸出。

        2.1" 詞嵌入

        在本文的數(shù)據(jù)集中,給定一個(gè)句子?方面詞對(duì)(s,a),其中a={a1,a2,…,am}是一個(gè)方面詞,同時(shí)s={w1,w2,…,wn}表示這個(gè)句子。詞嵌入是將每個(gè)單詞映射到一個(gè)高維向量空間,定義[L=Rdemb·V]為預(yù)訓(xùn)練GloVe的嵌入矩陣,其中:demb是詞向量的維度;[V]是詞向量的大小。然后將每一個(gè)單詞[wi?RV]映射到其對(duì)應(yīng)的嵌入向量。

        2.2" 編碼層

        BiLSTM的核心是利用記憶細(xì)胞來記憶長期的上下文關(guān)系。公式(1)描述了BiLSTM的具體計(jì)算公式,也可以得到方面詞的隱藏狀態(tài)hs。

        [hs=LSTM([w1,w2,…,wn])hs=LSTM([w1,w2,…,wn])hs=[hs,hs]]" "(1)

        根據(jù)BiLSTM操作之后,得到的句子表示為[H={h1,h2,…,hs,hs+1,hs+2,…,ht+s}]。

        2.3" 特征提取

        2.3.1" ATGAT模型

        本文首先通過依存句法樹的臨界矩陣來構(gòu)建圖結(jié)構(gòu),并且通過所提出的句法注意力機(jī)制優(yōu)化圖結(jié)構(gòu)中各個(gè)節(jié)點(diǎn)的表示。在構(gòu)建依存句法樹時(shí),本文將句子的方面詞作為樹的根節(jié)點(diǎn),以方面詞為中心構(gòu)建樹結(jié)構(gòu),如果有多個(gè)方面詞則依次構(gòu)建樹結(jié)構(gòu);如果文本沒有方面詞,則將方面詞定義為NULL,以規(guī)則的方式構(gòu)建文本樹結(jié)構(gòu)。圖2所示為依存句法樹轉(zhuǎn)換為圖結(jié)構(gòu)的示意圖。

        對(duì)于頂點(diǎn)i(即方面詞),首先逐個(gè)計(jì)算相鄰節(jié)點(diǎn)和頂點(diǎn)之間的相似系數(shù),公式如下:

        [eij=a([WhiWhj])," j?Ni]" " " " " (2)

        式中:[eij]表示頂點(diǎn)i與節(jié)點(diǎn)j的相似系數(shù);W是可學(xué)習(xí)的共享參數(shù),其是為了線性映射,對(duì)于頂點(diǎn)的特征進(jìn)行增強(qiáng);[··]表示將頂點(diǎn)i、j變換后的特征進(jìn)行拼接,最后使用[a(·)]前饋神經(jīng)網(wǎng)絡(luò)將拼接后的高維特征映射到一個(gè)實(shí)數(shù)上。由式(2)可知,頂點(diǎn)i、j之間的相關(guān)性是通過可學(xué)習(xí)的參數(shù)W與映射來實(shí)現(xiàn)的。

        隨后進(jìn)行注意力系數(shù)歸一化:

        [αij=exp(LeakyReLU(eij))k?Niexp(LeakyReLU(eik))]" " " "(3)

        公式(3)中使用的是[LeakyReLU]激活函數(shù)。將句法注意力系數(shù)與文本向量作為GAT模型的輸入,表示為:

        [hi′(K)=k=1Kσj?NiαkijWkhj]" " " " (4)

        式中[σ(·)]是激活函數(shù)。在GAT模型中,本文選擇使用多頭注意力機(jī)制,通過GAT模型卷積,選取特征值最大的向量作為方面詞a的情感詞。

        2.3.2" syn?str

        對(duì)于句子中的單詞q,如果單詞q與單詞m1、m2等有句法結(jié)構(gòu)關(guān)系,則將單詞m1、m2等的向量與單詞q的向量做內(nèi)積,得到該詞的權(quán)重p1、p2,公式如下:

        [pi=exp(mi?q)i=1mexp(mi?q)]" " " " " " " " "(5)

        式中:m代表與單詞q有句法結(jié)構(gòu)的單詞數(shù)。

        隨后將權(quán)重嵌入該詞向量中得到ri。對(duì)于兩兩節(jié)點(diǎn)相連接的節(jié)點(diǎn)都進(jìn)行上述操作,得到嵌入向量的加權(quán)平均,計(jì)算公式如下:

        [ri=i=1mpiq]" " " " " " " " (6)

        由式(6)得到句法結(jié)構(gòu)向量表示,平均向量更新該節(jié)點(diǎn)的向量表示。

        2.3.3" 雙向?qū)笹RU

        雙向GRU的主要結(jié)構(gòu)就是兩個(gè)單向GRU的結(jié)合,在輸出當(dāng)前節(jié)點(diǎn)時(shí),輸入會(huì)同時(shí)提供兩個(gè)方向相反的GRU,輸出則是由兩個(gè)方向GRU共同決定。本文提出在雙向GRU輸出時(shí),將雙向GRU的輸出結(jié)果進(jìn)行對(duì)抗訓(xùn)練。

        GRU網(wǎng)絡(luò)中有兩個(gè)門控單元:更新門zt和重置門rt。更新門作用在于捕捉時(shí)間序列當(dāng)中的長期依賴關(guān)系,公式為:

        [zt=σ(Wz?[ht-1,xt])=σ(Wzhht-1+Wzxxt)] (7)

        式中:[ht-1]代表t-1時(shí)刻的隱藏狀態(tài)輸出;Wz是更新門的權(quán)重矩陣。

        重置門作用在于捕捉時(shí)間序列里的短期依賴關(guān)系,表示為:

        [rt=σ(Wr?[ht-1,xt])=σ(Wrhht-1+Wrxxt)]" " "(8)

        式(9)為重置門是如何在GRU中使用的,新的記憶內(nèi)容將使用重置門存儲(chǔ)過去相關(guān)信息。

        [ht=tanh(Wh?[rt?ht-1])" " "=tanh(Whh(rt?ht-1)+Whxxt)] (9)

        式中:Wh、Whh和Whx是可訓(xùn)練的權(quán)重矩陣;重置門rt是一個(gè)由0~1的向量,會(huì)衡量門控開啟的大小,例如某個(gè)向量的門控值為0,則代表這個(gè)向量將被完全遺忘掉。

        式(10)為更新門是如何在GRU中使用的,控制當(dāng)前時(shí)間點(diǎn)的隱藏狀態(tài)應(yīng)該如何被當(dāng)前時(shí)間點(diǎn)的信息候選狀態(tài)[ht]所更新。

        [ht=ht-1?zt+ht?(1-zt)] (10)

        式中:[zt]與[ht-1]的Hadamard乘積表示前一時(shí)間點(diǎn)保留到最終記憶的信息。

        本文采用雙向GRU對(duì)文本進(jìn)行特征提取,雙向GRU的結(jié)構(gòu)圖如圖3所示,其中h1、h2、h3、h4代表文本通過正向GRU后的輸出,[h′1]、[h′2]、[h′3]、[h′4]代表文本通過逆向GRU后的輸出,將正反向GRU的輸出輸入到gan對(duì)抗網(wǎng)絡(luò)中,實(shí)現(xiàn)雙向?qū)笹RU。在訓(xùn)練的過程中,本文將正向GRU看作判別器,將逆向GRU看作生成器。對(duì)于每一輪的迭代訓(xùn)練,先進(jìn)行一輪正向GRU卷積,固定好正向GRU的參數(shù),并使用正向GRU的損失函數(shù)來優(yōu)化逆向GRU的卷積;然后進(jìn)行逆向GRU卷積,固定好逆向GRU的參數(shù),并使用逆向GRU的損失函數(shù)來優(yōu)化正向GRU。該過程一直迭代,直至達(dá)到預(yù)定的迭代次數(shù)或者損失函數(shù)收斂,這樣就形成了雙向GRU的對(duì)抗訓(xùn)練,兩個(gè)方向的GRU訓(xùn)練相輔相成。通過syn?str更新向量表示,并把新的向量通過雙向?qū)笹RU提取特征,最后將這些特征輸入Softmax中進(jìn)行情感判斷。本文模型最后一步是將通過ATGAT模型提取的情感詞以及syn?BGRU模型進(jìn)行的情感極性判斷與文本方面詞拼接,組成情感三元組(方面詞、情感詞、情感極性)。

        2.3.4" 損失函數(shù)

        本文使用交叉熵?fù)p失作為損失函數(shù),交叉熵?fù)p失LCE的計(jì)算公式如下:

        [LCE=-1Ni=1Nj=1Myijlog Q] (11)

        式中:N表示樣本數(shù)量;M表示類別數(shù)量;yij∈[0,1],表示樣本i是否屬于類別j;Q表示樣本i屬于類別j的預(yù)測概率。

        3" 實(shí)驗(yàn)分析

        從餐廳、便攜式計(jì)算機(jī)、Twitter數(shù)據(jù)庫三個(gè)公開標(biāo)準(zhǔn)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),所有數(shù)據(jù)集都有三種情緒極性:積極、消極和中性。三個(gè)數(shù)據(jù)集的統(tǒng)計(jì)數(shù)據(jù)如表1所示,其中,#s、#T、#-、#0、#+分別代表句子數(shù)、三元組個(gè)數(shù)、消極三元組數(shù)、中性三元組數(shù)和積極三元組數(shù)。

        在訓(xùn)練過程中,本文設(shè)置詞向量的維度大小為300,通過空格把每個(gè)句子分為一個(gè)個(gè)單詞,在去除停用詞后,句子長度設(shè)置為200,小于此長度的句子進(jìn)行補(bǔ)零。學(xué)習(xí)率取值為[0.1,0.02],為了防止過擬合現(xiàn)象,本文使用L2正則化和dropout機(jī)制,L2正則化參數(shù)為[0.000 1,0.000 01],dropout取值為[0.3,0.5],批處理大小為16。

        3.1" 評(píng)價(jià)指標(biāo)

        為評(píng)估本文實(shí)驗(yàn)的效果,采用準(zhǔn)確率P、召回率R、F1值(F1?measure)作為評(píng)價(jià)指標(biāo),公式如下:

        [P=TPTP+FP]" " " " " " " " " (12)

        [R=TPTP+FN]" " " " " " " " "(13)

        [F1=2PRP+R] (14)

        3.2" 對(duì)比實(shí)驗(yàn)

        為驗(yàn)證本文模型的有效性,選取近幾年的基線模型進(jìn)行對(duì)比?;€模型具體介紹如下:

        EMC?GCN:Chen等人在2022年提出一種EMC?GCN模型,用于處理情感三元組問題,提出使用多通道來編碼單詞之間的關(guān)系,包括詞性組合、句法依賴關(guān)系等[14]。

        Span?aste:Lu等人在2021年提出使用基于span的方法來進(jìn)行方面情感三元組抽取,使用span的好處是可以實(shí)現(xiàn)觀點(diǎn)詞和目標(biāo)詞的整體交互[7]。

        S3E2:Chen等人在2021年提出GTS模型,通過將句子中的語義和語法關(guān)系表示為圖,并使用GNNs編碼,能夠更加精確地捕捉到三元組元素之間的復(fù)雜關(guān)系[9]。

        TwoStage:Peng等人在2020年提出使用兩階段框架的解決方案,第一階段提取方面詞、情感詞以及判斷情感極性,第二階段將方面詞與情感詞進(jìn)行配對(duì)[3]。

        JET:Wan等人在2020年提出一種解決方案,用于捕捉情感對(duì)目標(biāo)和方面的雙重依賴,并處理隱性目標(biāo)[15]。

        Gen?ABSA:Xu等人在2020年提出使用position?aware標(biāo)記方案的end?to?end模型,聯(lián)合抽取三元組[16]。

        PASTE:Yan等人在2021年制定了7個(gè)子任務(wù),并且設(shè)計(jì)了一套范式,不需要為每個(gè)任務(wù)設(shè)置不同的decoder,可以讓統(tǒng)一的ABSA任務(wù)轉(zhuǎn)換在大語言模型上使用[17]。

        BMRC:R. Mukherjee等人為ASTE任務(wù)提供了一個(gè)端到端的無標(biāo)記方案,克服了以前基于標(biāo)記的方法的局限性[18]。

        Chen等人提出了雙向MRC框架,把ASTE任務(wù)作為三輪機(jī)器閱讀理解任務(wù),在一個(gè)統(tǒng)一的框架下標(biāo)識(shí)出句中的三元組[19]。

        不同模型對(duì)比實(shí)驗(yàn)結(jié)果如表2所示。

        將本文模型與其他基線模型的性能進(jìn)行對(duì)比,具體結(jié)果如下:

        EMC?GCN模型只單獨(dú)考慮各個(gè)關(guān)系,本文模型提出的句法注意力機(jī)制有效地將句子的語義信息與句法信息結(jié)合,有效提高了提取情感詞的準(zhǔn)確率。Span?aste模型忽略了句子中的語義等信息,本文模型相較于該模型更加關(guān)注句子中的語義等信息,并且優(yōu)化了情感判斷方法;S3E2模型對(duì)情感判斷方法并沒有改進(jìn);TwoStage模型使用大量的卷積網(wǎng)絡(luò)和小模型實(shí)現(xiàn)任務(wù);JET模型使用的標(biāo)記方案不具備普遍性;Gen?ABSA模型主要用于處理將所有的ABSA任務(wù)轉(zhuǎn)換為統(tǒng)一的框架,本文相較于該模型任務(wù)精簡,模型簡單且高效,對(duì)于三元組提取任務(wù)效果更好;PASTE模型重點(diǎn)在于利用方面詞與情感詞之間的相互依賴關(guān)系,本文模型同時(shí)也考慮了PASTE模型所關(guān)注的重點(diǎn),實(shí)驗(yàn)結(jié)果表明,本文方法比該模型的效果更好;BMRC模型將三元組抽取任務(wù)使用MRC方法來解決,而本文側(cè)重點(diǎn)在于使用語法、語義等關(guān)系,兩個(gè)模型使用不同的方法研究相同的內(nèi)容,從實(shí)驗(yàn)結(jié)果來看,本文方法比MRC方法取得的效果更好。

        3.3" 消融實(shí)驗(yàn)

        為驗(yàn)證本文模型的有效性,對(duì)本文模型的原有組件進(jìn)行刪除。消融實(shí)驗(yàn)評(píng)價(jià)指標(biāo)使用準(zhǔn)確率,結(jié)果如表3所示。

        消融實(shí)驗(yàn)結(jié)果表明:Bigru?gat w/o atgat實(shí)驗(yàn)中準(zhǔn)確率相較于原模型下降最多,說明本文提出的atgat網(wǎng)絡(luò)對(duì)三元組提取任務(wù)有重要作用,atgat模型能夠有效地提取到文本特征,對(duì)于提取情感詞有重要意義。Bigru?gat w/o gat模型相較于Bigru?gat w/o atgat準(zhǔn)確率有所提升,證明本文提出的句法注意力機(jī)制能夠提升傳統(tǒng)GAT模型的效率以及準(zhǔn)確率。Bigru?gat w/o bigru實(shí)驗(yàn)證明,雙向?qū)笹RU能夠充分提取情感特征并做出情感判斷,證明了雙向?qū)笹RU的有效性;Bigru?gat w/o syn?str對(duì)比原模型準(zhǔn)確率下降最少,本文提出的使用syn?str更新句子向量表示的方法能有效地將句法信息與原句向量融合。

        4" 結(jié)" 語

        本文提出一種聯(lián)合雙向?qū)笹RU與ATGAT的網(wǎng)絡(luò)模型,用于解決情感分析三元組問題。提出使用syn?str更新原句子向量,提出句法注意力機(jī)制并與傳統(tǒng)GAT模型融合,來解決傳統(tǒng)注意力機(jī)制權(quán)重賦予不合理問題。此外,在三個(gè)公開數(shù)據(jù)集中驗(yàn)證了模型及其組件的有效性。在情感分析三元組提取任務(wù)中,有效利用依存關(guān)系類型以及距離、語序等信息將是本文繼續(xù)研究的方向。

        注:本文通訊作者為李衛(wèi)疆。

        參考文獻(xiàn)

        [1] SHARMA A, DEY S. A boosted SVM based ensemble classifier for sentiment analysis of online reviews [J]. ACM sigapp applied computing review, 2013, 13(4): 43?52.

        [2] ZENG D, LIU K, LAI S, et al. Relation classification via convolutional deep neural network [C]// International Conference on Computational Linguistics. Dublin, Ireland: Dublin City University and Association for Computational Linguistics, 2014: 2335?2344.

        [3] PENG H, XU L, BING L, et al. Knowing what, how and why: a near complete solution for aspect?based sentiment analysis [J]. Proceedings of the AAAI conference on artificial intelligence, 2021, 34(5): 8600?8607.

        [4] CAI Hongjie," XIA Rui," YU Jianfei. Aspect?category?opinion?sentiment quadruple extraction with implicit aspects and opinions [C]// Proceedings of the ACL. [S.l.]: Association for Computational Linguistics," 2021: 340?350.

        [5] 趙妍妍,秦兵,石秋慧,等.大規(guī)模情感詞典的構(gòu)建及其在情感分類中的應(yīng)用[J].中文信息學(xué)報(bào),2017,31(2):187?193.

        [6] SUN K, ZHANG R C, MENSAH S, et al. Aspect?level sentiment analysis via convolution over dependency tree [C]// Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing. Hong Kong, China: ACL, 2019: 5679?5688.

        [7] XU L, CHIA Y K, BING L. Learning span?level interactions for aspect sentiment triplet extraction [EB/OL]. [2023?01?12]. https://arxiv.org/abs/2107.12214.

        [8] WU Z, YING C, ZHAO F, et al. Grid tagging scheme for aspect?oriented fine?grained opinion extraction [EB/OL]. [2023?12?11]. https://www.xueshufan.com/publication/3105293920.

        [9] CHEN Z, HUANG H, LIU B, et al. Semantic and syntactic enhanced aspect sentiment triplet extraction [EB/OL]. [2023?04?08]. https://www.xueshufan.com/publication/3168041866.

        [10] WANG Y, HUANG M, ZHU X, et al. Attention?based LSTM for aspect?level sentiment classification [C]// Attention?based LSTM for Aspect?level Sentiment Classification. Austin, Texas: ACM, 2016: 606?615.

        [11] ZHANG Zheng, ZHOU Zili, WANG Yanna. SSEGCN: syntactic and semantic enhanced graph convolutional network for aspect?based sentiment analysis [C]// Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. Seattle, United States: ACL, 2022: 4916?4925.

        [12] ZHANG C, LI Q, SONG D. Aspect?based sentiment classification with aspect?specific graph convolutional networks [EB/OL]. [2023?04?12]. https://www.xueshufan.com/publication/2971488408.

        [13] LI R, CHEN H, FENG F, et al. Dual graph convolutional networks for aspect?based sentiment analysis [EB/OL]. [2023?08?17]. https://aclanthology.org/2021.acl?long.494.pdf.

        [14] CHEN H, ZHAI Z, FENG F, et al. Enhanced multi?channel graphconvolutional network for aspect sentiment triplet extraction [C]// Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics. Dublin, Ireland: ACL, 2022: 2974?2985.

        [15] WAN H, YANG Y, DU J, et al. Target?aspect?sentiment joint detection for aspect?based sentiment analysis [J]. Proceedings of the AAAI conference on artificial intelligence, 2020, 34(5): 9122?9129.

        [16] XU L, LI H, LU W, et al. Position?aware tagging for aspect sentiment triplet extraction [EB/OL]. [2023?01?15]. https://www.xueshufan.com/publication/3092313831.

        [17] YAN H, DAI J, JI T, et al. A unified generative framework for aspect?based sentiment analysis [EB/OL]. [2022?08?14]. https://www.xueshufan.com/publication/3176038554.

        [18] MUKHERJEE R, NAYAK T, BUTALA Y, et al. PASTE: a tagging?free decoding framework using pointer networks for aspect sentiment triplet extraction [EB/OL]. [2022?06?19]. https://www.xueshufan.com/publication/3214720333.

        [19] CHEN S, WANG Y, LIU J, et al. Bidirectional machine reading comprehension for aspect sentiment triplet extraction [EB/OL]. [2023?08?14]. https://www.xueshufan.com/publication/3174945579.

        作者簡介:畢曉杰(1998—),男,山東菏澤人,碩士研究生,CCF學(xué)生會(huì)員,主要研究領(lǐng)域?yàn)樽匀徽Z言處理、情緒分析。

        李衛(wèi)疆(1969—),男,博士,教授,博士生導(dǎo)師,主要研究領(lǐng)域?yàn)樾畔z索、自然語言處理。

        猜你喜歡
        情感分析三元組特征提取
        基于語義增強(qiáng)雙編碼器的方面情感三元組提取
        軟件工程(2024年12期)2024-12-28 00:00:00
        基于帶噪聲數(shù)據(jù)集的強(qiáng)魯棒性隱含三元組質(zhì)檢算法*
        關(guān)于余撓三元組的periodic-模
        基于Daubechies(dbN)的飛行器音頻特征提取
        電子制作(2018年19期)2018-11-14 02:37:08
        Bagging RCSP腦電特征提取算法
        基于SVM的產(chǎn)品評(píng)論情感分析系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)
        基于詞典與機(jī)器學(xué)習(xí)的中文微博情感分析
        在線評(píng)論情感屬性的動(dòng)態(tài)變化
        預(yù)測(2016年5期)2016-12-26 17:16:57
        文本觀點(diǎn)挖掘和情感分析的研究
        基于MED和循環(huán)域解調(diào)的多故障特征提取
        久久无码字幕中文久久无码| 亚洲丁香五月激情综合| 亚洲第一区无码专区| 91久久国产露脸国语对白| 黄片视频免费观看蜜桃| 日韩精品一区二区三区中文| 精品一区二区三区在线观看| 亚洲色四在线视频观看| 亚洲精品中文字幕乱码| 久久88综合| 在线观看极品裸体淫片av| 亚州无吗一区二区三区| 无码熟妇人妻av在线影片最多 | 乱人妻中文字幕| 国产成人无码一二三区视频| 国产人成视频免费在线观看| 在线成人影院国产av| 久久国产加勒比精品无码| 免费无码成人av在线播| 亚洲美女国产精品久久久久久久久 | 极品美女扒开粉嫩小泬| 校花高潮一区日韩| 国产视频激情视频在线观看| 日本人妻免费一区二区三区| 国产精品永久久久久久久久久| 亚洲精品无码久久久久久| 精品国产免费久久久久久| 一区二区三区日本久久| 亚洲欧洲日产国码av系列天堂| 日本公妇在线观看中文版| 亚洲a∨无码一区二区| 中文字幕有码高清| 日本一区二区在线免费看| 免费视频成人片在线观看| 波多野结衣有码| 中文字幕av久久激情亚洲精品| 二区三区三区视频在线观看 | 无码一区二区三区老色鬼| 国产一级毛片AV不卡尤物| 久久深夜中文字幕高清中文| 亚洲国产精品久久久婷婷|