賀煜航，劉棪，陳剛

（1.武漢大學(xué) 空天信息安全與可信計(jì)算教育部重點(diǎn)實(shí)驗(yàn)室，武漢 430072；2.武漢大學(xué) 國家網(wǎng)絡(luò)安全學(xué)院，武漢 430072）

0 概述

根據(jù)世界衛(wèi)生組織2019 年的研究報(bào)告，心臟疾病已經(jīng)成為全球最主要的死亡原因之一［1］。心臟疾病泛指由高脂血癥、血液粘稠、動(dòng)脈粥樣硬化、高血壓等導(dǎo)致的心臟缺血性或出血性心臟病。心臟疾病發(fā)作之前，通常有明顯的心血管異常表現(xiàn)，如心悸、暈厥、胸痛、氣短等。如果能夠在這些疾病早期癥狀出現(xiàn)時(shí)，精確診斷所患疾病，并介入治療，將有助于控制疾病發(fā)展。

心電圖（Electrocardiogram，ECG）分析［2］是一種被廣泛應(yīng)用的重要心臟疾病診斷方法。傳統(tǒng)心電圖診斷需要醫(yī)生人工分析被測量者的心電圖，判斷被測量者的病情。但傳統(tǒng)心電圖分析嚴(yán)重依賴醫(yī)生的個(gè)人水平，由于心臟疾病種類多樣、隱匿性心臟病的存在等，易出現(xiàn)誤診、漏診現(xiàn)象，且效率較低。同時(shí)，已有研究表明，心電圖中的高頻信號對心臟的健康情況能進(jìn)行更全面的分析［3-4］。為了提高診斷準(zhǔn)確率和效率，如何進(jìn)行高效、準(zhǔn)確的心電圖自動(dòng)分類并更好地利用其中的高頻信息是一個(gè)亟需解決的問題。

在深度學(xué)習(xí)發(fā)展前，已有多種傳統(tǒng)機(jī)器學(xué)習(xí)方法被應(yīng)用于心電圖自動(dòng)分類問題。CEYLAN等［5］使用離散小波變換對心電圖RR 間期進(jìn)行特征提取，構(gòu)建前饋神經(jīng)網(wǎng)絡(luò)對心電圖進(jìn)行分類，取得較好成果。WANG等［6］將主成分分析（Principal Components Analysis，PCA）及主題模型方法應(yīng)用于心電圖特征提取，并構(gòu)建概率神經(jīng)網(wǎng)絡(luò)（Probabilistic Neural Network，PNN）分類器對心電圖進(jìn)行分類。ZIDELMAL等［7］使用小波變換對心電圖進(jìn)行去噪及特征提取，通過支持向量機(jī)對心電圖進(jìn)行分類。上述機(jī)器學(xué)習(xí)方法首先從心電圖中人工提取特征，然后將提取特征輸入到?jīng)Q策樹、支持向量機(jī)等判別模型中進(jìn)行分類預(yù)測，其表現(xiàn)依賴于人工提取特征和判別模型。而人工提取的特征存在一些不足：難以準(zhǔn)確表示心電圖信息，易導(dǎo)致錯(cuò)誤；需要大量專業(yè)醫(yī)學(xué)知識用于特征工程，這會(huì)降低整體效率。

近年來，深度學(xué)習(xí)成為人工智能領(lǐng)域的核心話題，并逐漸應(yīng)用于心電圖分類任務(wù)。深度學(xué)習(xí)通過網(wǎng)絡(luò)模型自動(dòng)提取特征，有效地解決了傳統(tǒng)方法中人工提取特征的局限性。其中，以卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）為基礎(chǔ)的模型被越來越多地應(yīng)用于心電圖分類任務(wù)并取得了一定的成果。CAI等［8］提出以殘差神經(jīng)網(wǎng)絡(luò)（Residual Neural Network，ResNet）為基礎(chǔ)，結(jié)合深度可分離卷積、通道域注意力（Squeeze and Excitation，SE）模塊構(gòu)建的Multi-ECGNet 模型，取得了較好的分類效果。WANG等［9］提出并構(gòu)建了基于非局部卷積注意模塊的卷積神經(jīng)網(wǎng)絡(luò)模型Automated-ECG，通過非局部注意力獲取心電圖數(shù)據(jù)空間、通道及時(shí)間上的信息，并結(jié)合學(xué)習(xí)矩陣進(jìn)行融合，學(xué)習(xí)矩陣在上述三類信息中挖掘關(guān)系信息并最終完成分類，該模型在多個(gè)數(shù)據(jù)集中取得了較好的結(jié)果。

上述CNN 模型在進(jìn)行分類時(shí)，均通過適當(dāng)?shù)姆椒ㄔ鰪?qiáng)模型的表征能力，以提取有效的心電圖特征，并用于心電圖分類。但一方面，單一的卷積神經(jīng)網(wǎng)絡(luò)由于受感受野的限制和權(quán)重共享的影響，不能很好地利用全局信息，對特征空間鄰域中其他樣本提供的信息利用不夠，影響了分類結(jié)果的準(zhǔn)確率。另一方面，在實(shí)際病例中，心臟疾病患者常同時(shí)出現(xiàn)多種癥狀，且部分癥狀是不獨(dú)立的，而目前的大部分網(wǎng)絡(luò)模型傾向于關(guān)注一種或幾種心臟疾病，并沒有對多標(biāo)簽進(jìn)行分析研究。

本文提出一種基于注意力機(jī)制與圖卷積網(wǎng)絡(luò)的心電圖多標(biāo)簽分類模型（Multi-Label Classification Model of Electrocardiogram Based on Attention Mechanism and Graph Convolutional Network，MLECG-AGCN），并結(jié)合損失函數(shù)和評價(jià)指標(biāo)從多標(biāo)簽角度考慮分類，以高效利用高頻信號及特征空間中的全局信息和鄰域信息。

1 相關(guān)研究

1.1 注意力機(jī)制

注意力機(jī)制最初被用于機(jī)器翻譯［10］，現(xiàn)已成為神經(jīng)網(wǎng)絡(luò)領(lǐng)域的一個(gè)重要概念。注意力機(jī)制的基本思想是使模型忽略無關(guān)信息而關(guān)注重點(diǎn)信息。一般而言，在神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中，模型參數(shù)越多則模型的表達(dá)能力越強(qiáng)，模型所存儲(chǔ)的信息量也越大，但這會(huì)帶來信息過載的問題。通過引入注意力機(jī)制，在眾多的輸入信息中聚焦于對當(dāng)前任務(wù)更關(guān)鍵的信息，降低對其他信息的關(guān)注度，甚至過濾掉無關(guān)信息，就可以解決信息過載問題，提高任務(wù)處理的效率和準(zhǔn)確性。

近年來，注意力機(jī)制被逐漸應(yīng)用于計(jì)算機(jī)視覺領(lǐng)域，并在圖像分類、圖像識別等任務(wù)中取得良好的效果。JADERBERG等［11］提出一種將注意力機(jī)制應(yīng)用于空間域進(jìn)行圖像分類的模型（Spatial Transformer Networks，STN），通過將基于注意力機(jī)制的空間轉(zhuǎn)換器模塊代替卷積神經(jīng)網(wǎng)絡(luò)中的池化層，將原始圖片的空間信息變換至另一空間并聚焦關(guān)鍵信息，提升圖像分類準(zhǔn)確率。HU等［12］提出一種顯示建模通道間相互依賴性的通道域注意力機(jī)制網(wǎng)絡(luò)（SE Networks，SENet），在所使用數(shù)據(jù)集上獲得高于基線網(wǎng)絡(luò)的效果。WANG等［13］提出一種殘差注意力網(wǎng)絡(luò)（Residual Attention Network），并設(shè)計(jì)一種注意力殘差學(xué)習(xí)訓(xùn)練方法訓(xùn)練此網(wǎng)絡(luò)模型，該網(wǎng)絡(luò)模型在CIFAR-10 和CIFAR-100 數(shù)據(jù)集上表現(xiàn)良好，對噪聲標(biāo)簽具有較強(qiáng)的魯棒性。CAI等［8］在其心電圖像分類模型中添加SE 模塊，為網(wǎng)絡(luò)引入注意力機(jī)制，提升了模型的分類性能。

本文針對心電圖特點(diǎn)，構(gòu)建基于拉普拉斯濾波器和SE 模塊的注意力機(jī)制模塊，將注意力機(jī)制應(yīng)用于心電圖特征提取，增強(qiáng)網(wǎng)絡(luò)關(guān)注心電圖高頻信號的能力，提取更有效的心電圖特征。

1.2 圖卷積網(wǎng)絡(luò)

圖卷積網(wǎng)絡(luò)（Graph Convolutional Network，GCN）最初被用于文本分類［14］，因其強(qiáng)大的結(jié)構(gòu)表示能力，近年來已在圖像［15-16］、文本［17］、非歐式數(shù)據(jù)［18］等領(lǐng)域中表現(xiàn)出優(yōu)越性能。GCN 的基本思想是通過在節(jié)點(diǎn)間傳遞信息來更新節(jié)點(diǎn)表示，與標(biāo)準(zhǔn)卷積不同，GCN 的目標(biāo)是學(xué)習(xí)圖g上的函數(shù)f(·，·)，g以特征描述Hl∈RN×d和矩陣A∈RN×N為輸入，更新節(jié)點(diǎn)特征為Hl+1∈RN×d′，每一個(gè)GCN 層都可以表示為一個(gè)非線性函數(shù)，如式（1）所示：

通過卷積運(yùn)算，f(·，·)可以表示為式（2）所示：

其中：Wl∈Rd×d′為學(xué)習(xí)變化矩陣為歸一化的相關(guān)矩陣A；h(·)為非線性運(yùn)算，GCN 以此對節(jié)點(diǎn)間復(fù)雜的相互關(guān)系進(jìn)行構(gòu)建和學(xué)習(xí)。由式（1）和式（2）可知，與CNN 不同，GCN 在得到節(jié)點(diǎn)表示時(shí)，關(guān)注圖中的全局信息和鄰域節(jié)點(diǎn)信息，GCN 通過對節(jié)點(diǎn)間關(guān)系進(jìn)行構(gòu)建、學(xué)習(xí)得到節(jié)點(diǎn)的輸出表示。

根據(jù)圖卷積的定義，GCN 可分為光譜法和空間法。基于光譜的GCN［19-21］一般指基于圖傅里葉變換（Graph Fourier Transform）的卷積，而基于空間的GCN［17，22］是直接對圖節(jié)點(diǎn)及其鄰域節(jié)點(diǎn)進(jìn)行人工定義的卷積。在應(yīng)用方面，GCN 可以同時(shí)處理轉(zhuǎn)換設(shè)置［20-21］和歸納設(shè)置［17，22］問題。在轉(zhuǎn)換設(shè)置中，訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)是同一固定圖中的節(jié)點(diǎn)，而在歸納設(shè)置中，模型需要跨不同的圖進(jìn)行推理。

本文將擁有強(qiáng)大結(jié)構(gòu)表示能力的GCN 與CNN網(wǎng)絡(luò)相結(jié)合，改善單一卷積神經(jīng)網(wǎng)絡(luò)受感受野的限制和權(quán)重共享的影響，解決無法充分利用全局信息的問題，有效利用特征空間中的全局信息和鄰域信息。

2 本文網(wǎng)絡(luò)結(jié)構(gòu)

心電圖數(shù)據(jù)首先經(jīng)過數(shù)據(jù)加載模塊，該模塊使用wfdb 庫讀取心電圖數(shù)據(jù)，得到預(yù)處理后的數(shù)據(jù)X∈RN×C×L，其中：N為訓(xùn)練集樣本總數(shù)；C為通道數(shù)；L為時(shí)序信號長度，將其作為MLECG-AGCN 的輸入。

MLECG-AGCN 由兩部分網(wǎng)絡(luò)組成：用于心電圖特征提取的基于注意力機(jī)制的CNN 網(wǎng)絡(luò)（以下簡稱注意力機(jī)制CNN）；用于多標(biāo)簽分類的自適應(yīng)GCN。MLECG-AGCN 網(wǎng)絡(luò)流程如圖1 所示。

圖1 MLECG-AGCN 網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 MLECG-AGCN network structure

圖1（b）為本文設(shè)計(jì)的注意力機(jī)制CNN 網(wǎng)絡(luò)，用來提取心電圖特征。該網(wǎng)絡(luò)結(jié)構(gòu)包含2 個(gè)分支，一個(gè)分支是心電圖基本特征提取模塊（圖1（b）左側(cè)分支），用于提取心電圖基本特征；另一個(gè)分支為注意力機(jī)制模塊（圖1（b）右側(cè)分支），用于增強(qiáng)心電圖高層特征。數(shù)據(jù)X經(jīng)過圖1（b）輸出信息增強(qiáng)的特征Xout∈，作為圖1（c）的輸入。

圖1（c）為自適應(yīng)GCN 網(wǎng)絡(luò)，用來構(gòu)建、提取樣本上下文信息特征并應(yīng)用于分類。其中的節(jié)點(diǎn)為每個(gè)心電圖樣本經(jīng)圖1（b）后提取的特征向量，圖的構(gòu)建使用轉(zhuǎn)換設(shè)置，即數(shù)據(jù)集中訓(xùn)練集、測試集樣本均構(gòu)建在同一圖Gin中，通過掩碼進(jìn)行劃分。圖Gin經(jīng)過自適應(yīng)GCN，輸出包含樣本上下文信息的特征Zout∈RN×D（D為類別總數(shù)），最后經(jīng)過Sigmoid 完成分類。

MLECG-AGCN 模型的總體設(shè)計(jì)思路是，首先通過基于拉普拉斯濾波器設(shè)計(jì)的注意力機(jī)制CNN，增強(qiáng)對心電圖高頻信號的利用率，提高網(wǎng)絡(luò)的表征能力。然后，自適應(yīng)圖卷積模塊采用圖的形式對樣本間的相互依賴關(guān)系進(jìn)行建模，這是一種在特征空間中捕獲拓?fù)浣Y(jié)構(gòu)的靈活方法。在模型結(jié)構(gòu)層面，MLECG-AGCN 模型將各心電圖樣本經(jīng)注意力機(jī)制CNN 提取的特征作為節(jié)點(diǎn)組織成圖，使用自適應(yīng)圖卷積顯式地建模樣本依賴關(guān)系，通過GCN 中自適應(yīng)更新的鄰接矩陣，吸收鄰域中相關(guān)節(jié)點(diǎn)的信息，并對節(jié)點(diǎn)特征進(jìn)行更新。自適應(yīng)圖卷積網(wǎng)絡(luò)經(jīng)過學(xué)習(xí)得到各樣本的分類器，這些分類器能更有效地利用全局信息和特征空間鄰域樣本信息，并可直接應(yīng)用于心電圖特征進(jìn)行分類，提高分類準(zhǔn)確率。

2.1 心電圖基本特征提取模塊

心電圖基本特征提取模塊的結(jié)構(gòu)如圖1 所示（圖1（b）左側(cè)分支），首先，輸入X經(jīng)過一維卷積、一維批量歸一化（Batch Normalization，BN），非線性激活函數(shù)激活和池化層池化輸出淺層特征X1∈后，X1經(jīng)過堆疊特別設(shè)計(jì)的殘差單元［23］，輸出高層特征X2∈，殘差單元結(jié)構(gòu)如圖2 所示，然后，在其中使用深度可分離卷積［24］代替常規(guī)卷積，降低參數(shù)量，并結(jié)合非線性激活函數(shù)層增強(qiáng)模型非線性表達(dá)能力。最后，X2經(jīng)維度展平操作得到輸出Xfeature∈。

圖2 殘差單元結(jié)構(gòu)Fig.2 Structure of residual unit

2.2 注意力機(jī)制模塊

在心電圖中，大多數(shù)疾病均能通過其中的高頻信號顯示。這部分波形相較于其余部分有著波形突變性強(qiáng)的特征，而拉普拉斯濾波器的特點(diǎn)是可以突出圖像中強(qiáng)度發(fā)生快速變化的區(qū)域。

基于上述特點(diǎn)，本文構(gòu)建如圖1 所示的注意力機(jī)制模塊（圖1（a）右側(cè)分支），網(wǎng)絡(luò)輸入為經(jīng)過預(yù)處理的心電圖X∈RN×C×L，第1層為拉普拉斯濾波器層，對X中波形突變性較強(qiáng)的部分進(jìn)行增強(qiáng)，得到更關(guān)注心電圖高頻信號的輸出特征Y∈RN×C×L。拉普拉斯濾波器層使用一維高斯拉普拉斯濾波器（Laplacian of Gaussian，LoG），先利用一維高斯平滑濾波對輸入降噪，再使用一維拉普拉斯算子的離散卷積核［1，-2，1］對降噪后的心電圖進(jìn)行濾波操作，得到輸出特征Y。Y經(jīng)過一維卷積層、一維BN 層、非線性激活函數(shù)層和池化層輸出淺層特征Y1∈。Y1經(jīng)過堆疊的注意力機(jī)制殘差單元得到更高層特征Y2∈，注意力機(jī)制殘差單元結(jié)構(gòu)如圖2（b）中RES Attention Module 所示，其中SE模塊通過學(xué)習(xí)的方式自動(dòng)獲取各通道重要程度，以此篩選網(wǎng)絡(luò)對通道的注意力。特征Y2經(jīng)池化層池化和維度展平后，得到注意力機(jī)制模塊的輸出Yatt∈RN×d′。Yatt與Xfeature拼接得到最終輸出特征Xout∈。

大多數(shù)心臟疾病與心電圖中高頻信號相關(guān)，而傳統(tǒng)CNN 對高頻信息利用不充分。因此，注意力機(jī)制模塊使用拉普拉斯濾波器，突出心電圖中強(qiáng)度發(fā)生快速變化的區(qū)域，得到增強(qiáng)心電圖高頻信號的特征，再通過堆疊特別設(shè)計(jì)的RES Attention Module 對其進(jìn)行高層特征提取，以此實(shí)現(xiàn)對心電圖高頻信號的注意力增強(qiáng)，并得到增強(qiáng)后的心電圖高層特征。注意力機(jī)制CNN 網(wǎng)絡(luò)通過級聯(lián)操作拼接增強(qiáng)心電圖高層特征和心電圖基本特征，全面保留了信息增強(qiáng)后的心電圖高層特征和心電圖提取的基本特征，并將拼接后特征作為后續(xù)模型的輸入，有效利用了先驗(yàn)信息，增加了提取特征的信息量。

2.3 自適應(yīng)GCN 網(wǎng)絡(luò)

自適應(yīng)GCN 網(wǎng)絡(luò)以圖Gin為輸入，其包含初始節(jié)點(diǎn)特征矩陣Xout∈RN×d（N為樣本總數(shù)，d為樣本特征向量的維度）和初始鄰接矩陣A∈RN×N，參數(shù)可更新。Gin的初始化流程如圖3 所示。首先計(jì)算并記錄節(jié)點(diǎn)特征向量間的歐式距離dist(X，Y)=，之后新建鄰接矩陣A∈RN×N，根據(jù)KNN 算法尋找各節(jié)點(diǎn)的鄰域節(jié)點(diǎn)（如圖3（b）所示），在矩陣A中進(jìn)行記錄，各節(jié)點(diǎn)對應(yīng)行中的鄰域節(jié)點(diǎn)位置設(shè)置值為1。最后遍歷各節(jié)點(diǎn)，完成圖Gin的初始化。

圖3 圖初始化流程Fig.3 Initialization procedure of graph

自適應(yīng)GCN 網(wǎng)絡(luò)結(jié)構(gòu)如圖1（c）所示，第1 層為圖卷積層，計(jì)算式如（3）所示：

其中：G=g(Xout，A)表示大小為N×N的聚合矩陣，每行之和為1，g(·)是Xout和A的一個(gè)函數(shù)；操作符“∥”表示沿著特征維度進(jìn)行拼接；W為權(quán)重矩陣，維度為2d×d1；σ(·)為非線性激活函數(shù)。

圖卷積層運(yùn)算主要包括兩步。第1 步為Xout與G相乘，對節(jié)點(diǎn)鄰域節(jié)點(diǎn)的信息進(jìn)行聚合；然后輸入節(jié)點(diǎn)特征Xout與鄰域聚合信息在特征維度上進(jìn)行拼接。第2 步為對融合特征通過一組線性濾波器進(jìn)行轉(zhuǎn)換，其參數(shù)為可學(xué)習(xí)的權(quán)重矩陣W。經(jīng)圖卷積層，輸出圖G1，包含變換后的節(jié)點(diǎn)特征矩陣Ζ1∈（d1為輸出特征維度）和鄰接矩陣A1∈。第2 層為非線性激活函數(shù)層，Z1經(jīng)激活輸出Z2∈。第3 層為圖卷積層，以G1為輸入，包含Z2和A1，經(jīng)圖卷積層，輸出節(jié)點(diǎn)高層特征矩陣Z3∈和更新后鄰接矩陣A2∈RN×N。Z3經(jīng)過ReLU 非線性函數(shù)激活層、線性等維映射層和PReLU非線性激活函數(shù)層，線性分類器層輸出Zout∈RN×D（D為類別總數(shù)），最后經(jīng)過Sigmoid 完成分類。

與標(biāo)準(zhǔn)GCN 不同，本文的自適應(yīng)GCN 模塊將鄰接矩陣A設(shè)置為參數(shù)自適應(yīng)更新，能夠自適應(yīng)地調(diào)整鄰域節(jié)點(diǎn)的權(quán)重，在多次迭代中效果較好。

自適應(yīng)GCN 模塊通過基于GCN 的映射函數(shù)從輸入Gin中學(xué)習(xí)相互依賴的對象分類器Zout∈RN×D，其中D表示類別總量；N表示樣本總數(shù)。基于GCN的映射函數(shù)在構(gòu)建中通過級聯(lián)操作拼接輸入節(jié)點(diǎn)特征信息和鄰域節(jié)點(diǎn)聚合信息，有效利用了節(jié)點(diǎn)特征空間的鄰域樣本信息，又不丟失節(jié)點(diǎn)自身信息。GCN 網(wǎng)絡(luò)通過每一個(gè)GCN 層更新節(jié)點(diǎn)狀態(tài)，每一個(gè)節(jié)點(diǎn)對應(yīng)一個(gè)樣本的分類器，經(jīng)過兩個(gè)堆疊的GCN層后，最終節(jié)點(diǎn)的特征向量長度達(dá)到總類別數(shù)D，再通過sigmoid 即可完成分類。

2.4 損失函數(shù)

本文采用加權(quán)的二元交叉熵函數(shù)作為損失函數(shù)，其表達(dá)式如下：

其中：x表示預(yù)測值；y為真實(shí)標(biāo)簽；σ(·)表示Sigmoid激活函數(shù)；c表示類別總數(shù)，此處設(shè)置為44；N表示每一個(gè)batch 樣本數(shù)；pc表示各類別的權(quán)重系數(shù)；w為各樣本權(quán)重，實(shí)驗(yàn)中設(shè)置為1。

pc的定義如式（6）所示：

其中：num（c）表示類別c的樣本總數(shù)，各類別對應(yīng)的權(quán)重系數(shù)與其數(shù)量成反比，以此提高小樣本類預(yù)測時(shí)對損失函數(shù)的影響，解決因數(shù)據(jù)集分布不均勻可能導(dǎo)致的分類偏差。

3 實(shí)驗(yàn)結(jié)果與分析

3.1 數(shù)據(jù)集與預(yù)處理

本文選用PTB-XL 數(shù)據(jù)集［25］進(jìn)行實(shí)驗(yàn)，PTB-XL數(shù)據(jù)集是一個(gè)大型心電圖數(shù)據(jù)集，包含來自18 885名患者長度為10 s 的21 837 個(gè)臨床12 導(dǎo)聯(lián)心電圖。PTB-XL 數(shù)據(jù)庫的采樣頻率為500 Hz。經(jīng)數(shù)據(jù)加載，得到形如X∈RN×C×L的原始心電圖數(shù)據(jù)，其中：N為心電圖數(shù)據(jù)集樣本總數(shù)；C為通道數(shù)；L為單個(gè)樣本單導(dǎo)聯(lián)的時(shí)序信號值長度。

PTB-XL 數(shù)據(jù)集針對診斷類標(biāo)簽給出了超類-子類-具體類的層次結(jié)構(gòu)，其中超類包含NORM（正常心電圖）、CD（傳導(dǎo)干擾）、MI（心肌梗塞）、HYP（肥大）、STTC（ST/T 段改變）。本文針對樣本的診斷類標(biāo)簽具體類別進(jìn)行多標(biāo)簽分類，將所研究問題轉(zhuǎn)化為一個(gè)44 類多標(biāo)簽分類問題，表1 給出了其中4 個(gè)樣例類的詳細(xì)說明，包括該類標(biāo)簽名、該類標(biāo)簽的詳細(xì)描述、其在數(shù)據(jù)集中的樣本數(shù)以及所屬超類。

表1 樣例類詳細(xì)說明Table 1 Sample class details

本文采用PTB-XL 數(shù)據(jù)集推薦的訓(xùn)練集和測試集進(jìn)行實(shí)驗(yàn)。其中訓(xùn)練集數(shù)據(jù)為19 267 條，測試集數(shù)據(jù)2 163 條，推薦的測試集數(shù)據(jù)擁有高質(zhì)量的標(biāo)簽且數(shù)據(jù)分布與訓(xùn)練集數(shù)據(jù)類似。

3.2 實(shí)驗(yàn)環(huán)境

設(shè)備：CPU 使用的 是4 核32 GB 內(nèi)存，GPU 使用Tesla-V100-SXM-32 GB×1。環(huán)境：Pytorch1.7.1+cuda10.0。

3.3 對比模型

本文分別基于下列基準(zhǔn)模型進(jìn)行實(shí)驗(yàn)對比：

1）ResNet18［23］：ReseNet18 是一個(gè)18 層的殘差結(jié)構(gòu)CNN，在本實(shí)驗(yàn)中使用一維卷積代替二維卷積，對ResNet18 進(jìn)行了微調(diào)。

2）ResNet101［23］：ResNet101 是一個(gè)101 層的殘差結(jié)構(gòu)深度CNN，對原網(wǎng)絡(luò)結(jié)構(gòu)使用一維卷積進(jìn)行微調(diào)。

3）Multi-ECGNet［8］：以殘差神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)，結(jié)合深度可分離卷積、SE 模塊構(gòu)建殘差塊的CNN 網(wǎng)絡(luò)。

4）XceptionNet［24］：XceptionNet 是以Inception V3為基礎(chǔ)，使用深度可分離卷積改進(jìn)的CNN，使用一維卷積對原網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行微調(diào)。

5）InceptionNet［26］：InceptionNet 是由多個(gè)大小卷積核提取圖像不同尺度信息并進(jìn)行融合的CNN。一維卷積進(jìn)行微調(diào)。

6）注意力機(jī)制CNN+線性分類層：使用本文設(shè)計(jì)的注意力機(jī)制CNN 網(wǎng)絡(luò)提取特征，并結(jié)合線性分類層完成分類的網(wǎng)絡(luò)。

7）注意力機(jī)制CNN+非自適應(yīng)GCN：使用本文設(shè)計(jì)的注意力機(jī)制CNN 網(wǎng)絡(luò)提取特征，并結(jié)合非自適應(yīng)GCN 完成分類的網(wǎng)絡(luò)。

3.4 評價(jià)指標(biāo)

本文所針對的分類任務(wù)為多標(biāo)簽分類任務(wù)，參考現(xiàn)有心電圖多標(biāo)簽分類研究所使用指標(biāo)［9，27］，本文選擇宏平均受試者工作特征線下面積值（Area Under the Receiver Operating Characteristic Curve，AUROC）作為主評價(jià)指標(biāo)。另外，使用3 種常見的多標(biāo)簽分類評價(jià)指標(biāo)［28-29］作為副評價(jià)指標(biāo)，包括標(biāo)簽集排序損失（Label Ranking Loss，RL）［30］，最大概率預(yù)測標(biāo)簽錯(cuò)誤率（OE）［31］，全覆蓋偏差（Coverage Error，Cov）［28］。其中AUROC 值越高代表模型該指標(biāo)越好，RL、OE、Cov 值越低代表模型該指標(biāo)越好。

3.5 實(shí)驗(yàn)結(jié)果

圖4所示為MLECG-AGCN模型各類別的AUROC值。如圖4 所示，MLECG-AGCN 模型在INJIL、3AVB等樣本數(shù)量較小的類別上均取得了大于0.99的AUROC值，在NORM、IMI 等樣本數(shù)量較大的類別上分別取得了0.946、0.935的AUROC值，這從側(cè)面驗(yàn)證了本文所用損失函數(shù)的合理性。本文模型在LAO/LAE、IVCD 等個(gè)別類上表現(xiàn)不佳，這可能是由于該類樣本數(shù)量過少，或其在高頻心電圖中與其他疾病相似度過高等原因?qū)е?，但總體來說，MLECG-AGCN 模型在絕大多數(shù)類別的分類中表現(xiàn)較好。

圖4 MLECG-AGCN 模型的各類別AUROC值Fig.4 AUROC value for each class of MLECG-AGCN model

自適應(yīng)圖卷積網(wǎng)絡(luò)測試集上的AUROC 值及其他評價(jià)指標(biāo)值，以及訓(xùn)練集及測試集損失隨訓(xùn)練輪數(shù)變化如表2 所示。不同于CNN 模型的訓(xùn)練方式，自適應(yīng)圖卷積網(wǎng)絡(luò)在訓(xùn)練時(shí)，需要構(gòu)建原始圖，以原始圖為輸入進(jìn)行訓(xùn)練。自適應(yīng)圖卷積網(wǎng)絡(luò)每一個(gè)epoch 只對模型進(jìn)行一次更新，因此需要更多的迭代輪數(shù)以使loss收斂。本文設(shè)置epoch 為4 000 輪，由表2 可知，MLECGAGCN 模型在數(shù)據(jù)訓(xùn)練開始后快速收斂，且并未欠擬合或過擬合。在初始20～50 輪迭代中，AUROC 值從0.661 快速提升至0.684；經(jīng)500 輪迭代后，AUROC 值提升至0.870，在500 輪迭代前模型尚未穩(wěn)定，AUROC 值的提升較快。經(jīng)2 000輪迭代后，AUROC值達(dá)到0.934，已經(jīng)接近ResNet101 基準(zhǔn)模型的最高值。經(jīng)過4 000 輪迭代后，AUROC 值為0.941，訓(xùn)練中測試集AUROC 值最高值達(dá)到0.943，在這部分的迭代中，模型逐漸穩(wěn)定，AUROC 值緩慢提升。

表2 自適應(yīng)圖卷積網(wǎng)絡(luò)的實(shí)驗(yàn)結(jié)果Table 2 Experimental results of adaptive graph convolutional network

表3 所示為不同模型在PTB-XL 數(shù)據(jù)集下，使用采樣頻率為500 Hz 心電圖數(shù)據(jù)進(jìn)行對比實(shí)驗(yàn)的結(jié)果，由表3 可知，ResNet101模型相較于ResNet18 模型的分類準(zhǔn)確率更高，AUROC 值提升了0.011。為了驗(yàn)證深度可分離卷積模型的有效性及其效果，將XceptionNet 與IncetionNet 模型進(jìn)行對比，發(fā)現(xiàn)前者的AUROC 值提高了0.053。此外，將本文設(shè)計(jì)的注意力機(jī)制CNN+線性分類層網(wǎng)絡(luò)與Multi-ECGNet 對比，結(jié)果發(fā)現(xiàn)，結(jié)合了本文注意力機(jī)制和深度可分離卷積的注意力機(jī)制CNN 網(wǎng)絡(luò)取得了更好的結(jié)果，AUROC 值達(dá)到0.941，這驗(yàn)證了本文設(shè)計(jì)的注意力機(jī)制CNN 在提高模型性能方面具有一定作用。MLECG-AGCN 模型與注意力機(jī)制CNN+非自適應(yīng)GCN 相比，使用自適應(yīng)GCN 的MLECG-AGCN 模型取得了更好的效果，這驗(yàn)證了鄰接矩陣參數(shù)自適應(yīng)更新在一定程度上能提高模型性能。MLECGAGCN 模型與注意力機(jī)制CNN+線性分類層相比，AUROC 值提高0.002，達(dá)到最高的0.943，這說明MLECG-AGCN 模型中自適應(yīng)GCN 模塊對提高模型性能具有重要作用。

表3 不同模型在PTB-XL 數(shù)據(jù)集（500 Hz）下的實(shí)驗(yàn)結(jié)果對比Table 3 Comparison of experimental results of different models in PTB-XL dataset（500 Hz）

為更全面地驗(yàn)證MLECG-AGCN模型對不同類型心電圖數(shù)據(jù)的多標(biāo)簽分類能力，本文還使用PTB-XL數(shù)據(jù)集中采樣頻率為100 Hz的心電圖數(shù)據(jù)對各模型進(jìn)行了對比實(shí)驗(yàn)，結(jié)果如表4 所示。由表4 可知，MLECGAGCN模型取得了最高的AUROC值0.930，同時(shí)其他指標(biāo)值也略高于對比模型。實(shí)驗(yàn)結(jié)果表明，MLECG-AGCN模型通過圖卷積網(wǎng)絡(luò)可以更有效地利用特征空間中的全局信息和鄰域信息，提高分類準(zhǔn)確率。

表4 不同模型在PTB-XL 數(shù)據(jù)集（100 Hz）下的實(shí)驗(yàn)結(jié)果對比Table 4 Comparison of experimental results of different models in PTB-XL dataset（100 Hz）

綜合上述實(shí)驗(yàn)結(jié)果，與Multi-ECGNet 模型［8］，以及以ResNet18、ResNet101、Xception 等為代表 的基準(zhǔn)模型相比，MLECG-AGCN 模型取得了最高的主評價(jià)指標(biāo)值，達(dá)0.943 639。同時(shí)，本文提出的注意力機(jī)制CNN 結(jié)合線性分類層在Cov 評價(jià)指標(biāo)上取得了最高值，其他指標(biāo)值略低于MLECG-AGCN 模型，驗(yàn)證了本文注意力機(jī)制的優(yōu)越性。

4 結(jié)束語

本文提出一種基于自適應(yīng)圖卷積網(wǎng)絡(luò)的心電圖多標(biāo)簽分類模型MLECG-AGCN，通過基于拉普拉斯濾波器設(shè)計(jì)的注意力機(jī)制CNN，增強(qiáng)對心電圖高頻信號的利用率，提高網(wǎng)絡(luò)的表征能力。使用自適應(yīng)圖卷積，有效利用全局信息和特征空間鄰域樣本信息進(jìn)行樣本分類，提高分類準(zhǔn)確率。此外，本文設(shè)計(jì)并使用適用于多標(biāo)簽分類的損失計(jì)算方法和評價(jià)指標(biāo)，從多標(biāo)簽角度考慮問題，從而高效利用高頻信號。實(shí)驗(yàn)結(jié)果表明，注意力機(jī)制CNN 與自適應(yīng)圖卷積網(wǎng)絡(luò)的結(jié)合有效提升了心電圖分類精度，MLECG-AGCN 模型能適用于心電圖分類工作。下一步將使自適應(yīng)圖卷積網(wǎng)絡(luò)與CNN 網(wǎng)絡(luò)進(jìn)行端到端結(jié)合，提高心電圖多標(biāo)簽分類準(zhǔn)確率。