摘要：2019冠狀病毒病（COVID-19）是近年來對(duì)世界經(jīng)濟(jì)發(fā)展影響最大的流行病。早期發(fā)現(xiàn)是治療COVID-19患者的關(guān)鍵，而胸片作為一種快速有效的輔助診斷方法被廣泛用于實(shí)際的醫(yī)療案例中?；谏疃葘W(xué)習(xí)的圖像識(shí)別方法能更快、更準(zhǔn)確地診斷CXR圖像，可以取得較好的效果。然而，常見的深度學(xué)習(xí)模型在對(duì)數(shù)據(jù)進(jìn)行特征提取時(shí)沒有針對(duì)性。對(duì)此，本文提出基于卷積注意力的新冠肺炎圖像識(shí)別網(wǎng)絡(luò)，提升對(duì)COVID-19陽性樣本的敏感性和特異性，并且增加的模型參數(shù)量和訓(xùn)練時(shí)間可以忽略不計(jì)。本文結(jié)合VGG16、MobileNet、InceptionV3、ResNet50等經(jīng)典深度學(xué)習(xí)網(wǎng)絡(luò)搭建了卷積注意力模型，并在COVIDRD公開數(shù)據(jù)庫上進(jìn)行了驗(yàn)證。實(shí)驗(yàn)結(jié)果表明本文提出的網(wǎng)絡(luò)架構(gòu)有效的提升了對(duì)新冠肺炎識(shí)別的準(zhǔn)確性、敏感性和特異性。

關(guān)鍵字：新冠肺炎；CXR圖像；深度學(xué)習(xí)；卷積注意力

中圖分類號(hào)：P315.69文獻(xiàn)標(biāo)志碼：A文章編號(hào)：1001-2443（2023）03-0217-05

引言

新型冠狀病毒?。–OVID-19）被世界衛(wèi)生組織命名為“2019冠狀病毒病”。2020年2月11日，世衛(wèi)組織總干事譚德賽在瑞士日內(nèi)瓦宣布了新型“冠肺炎COVID-19”冠狀病毒感染肺炎。3月11日，世衛(wèi)組織認(rèn)為，當(dāng)前爆發(fā)的COVID-19疫情可稱為全球大流行。截至2022年5月5日中歐夏季時(shí)間（中國標(biāo)準(zhǔn)時(shí)間2022年5月6日），全球共有確診病例513384685例，累計(jì)死亡病例6246828例。

防止COVID-19感染的傳播刻不容緩，并且需要對(duì)患者進(jìn)行有效的篩查和及時(shí)的醫(yī)療應(yīng)對(duì)。逆轉(zhuǎn)錄聚合酶鏈反應(yīng)（RT-PCR）是目前臨床篩查COVID-19患者最常見的方法，采用呼吸道標(biāo)本檢測(cè)［1］。RT-PCR作為檢測(cè)COVID-19患者的參考方法，但該技術(shù)是手工操作，并且復(fù)雜、費(fèi)力、耗時(shí)。此外，RT-PCR供應(yīng)容易出現(xiàn)短缺，這可能導(dǎo)致疾病預(yù)防工作的延誤［2］。X-Ray圖像也是診斷COVID-19的方法之一，X-Ray圖像可以幫助早期發(fā)現(xiàn)疑似病例［3-4］，但放射科醫(yī)生在醫(yī)院長時(shí)間工作之后可能導(dǎo)致誤診。因此，使用計(jì)算機(jī)輔助診斷（CAD）可以更快、更準(zhǔn)確地診斷CXR圖像，已有許多研究人員進(jìn)行應(yīng)用［5-10］。

國內(nèi)外很多人士都使用深度學(xué)習(xí)方法對(duì)識(shí)別新冠肺炎圖像進(jìn)行研究，Narin等人［11］采用預(yù)訓(xùn)練的ResNet50模型進(jìn)行了正常和COVID-19、正常和病毒性肺炎、正常和細(xì)菌性肺炎三種二元分類任務(wù)。Maghdid等人［12］已經(jīng)使用了一個(gè)改進(jìn)的預(yù)先訓(xùn)練的AlexNet模型來檢測(cè)COVID-19。Jaiswal等人［13］提出了一種經(jīng)過修剪的基于高效網(wǎng)絡(luò)的COVID-19檢測(cè)模型。Minaee等人［14］提出了使用深度遷移學(xué)習(xí)預(yù)測(cè)covid-covid-19。Heidari等人［15］對(duì)進(jìn)行了直方圖均衡化和雙邊低通濾波器作為預(yù)處理。然后，利用基于遷移學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)模型得到了分類結(jié)果。Hemdan等人［16］提出了一種使用改進(jìn)的VGG19模型的COVIDX-Net來檢測(cè)COVID-19。Afshar等人［17］實(shí)施了一個(gè)名為COVID-CAPS的框架，該框架基于COVID-19檢測(cè)的膠囊網(wǎng)絡(luò)。Chowdhury等人［18］利用深度學(xué)習(xí)中的TL方法，基于從公共數(shù)據(jù)庫獲得的數(shù)據(jù)集來區(qū)分COVID-19和病毒性肺炎。使用423例COVID-19、1458例病毒性肺炎和1579張正常胸片圖像，對(duì)胸部x線圖像進(jìn)行訓(xùn)練。Mahmud等人［19］利用深度CNN作為COVXNet，基于不同的擴(kuò)張率進(jìn)行修改，進(jìn)行特征提取、優(yōu)化、疊加算法和基于梯度的鑒別定位，對(duì)COVID-19和其他類型的肺炎進(jìn)行分類。王劍鋒等人［20］提出了一種基于DenseNet模型優(yōu)化的新冠肺炎CT圖像檢測(cè)算法。陳國祥等人［21］針對(duì)新冠肺炎識(shí)別與診斷這一課題，從新冠肺炎特征表征、肺部軟組織語義分割及新冠肺炎陽性患者病變位置定位三個(gè)層面進(jìn)行了研究，提出了基于深度學(xué)習(xí)的新冠肺炎X-ray圖像識(shí)別算法，并完成了新冠肺炎識(shí)別與診斷系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)。已完成的研究人員的工作，側(cè)重點(diǎn)在于區(qū)分新冠肺炎和普通肺炎之間的區(qū)別，忽略了新冠肺炎和病毒性肺炎部分特征之間的相似性，導(dǎo)致新冠肺炎的檢測(cè)精度達(dá)不到更高的標(biāo)準(zhǔn)，因此本文提出了基于注意力的新冠肺炎圖像識(shí)別方法。

1 方法

本文提出的模型結(jié)構(gòu)如圖1所示，主要由卷積神經(jīng)網(wǎng)絡(luò)、卷積注意力模塊（CBAM）［22］和分類層三個(gè)部分組成。

CBAM在特征圖的通道上注入兩個(gè)獨(dú)立的空間維度，以提高網(wǎng)絡(luò)的表征能力，關(guān)注重要特征，抑制不必要的特征。CBAM可以看作是串聯(lián)的通道注意模塊和空間注意模塊。通道注意模塊如圖2所示，計(jì)算過程可以描述如下。

我們使用深度學(xué)習(xí)網(wǎng)絡(luò)模型提取的特征圖（7×7×2048）作為輸入特征F，輸入特征F通過基于空間的全局最大池和全局平均池，分別輸出兩個(gè)維度為1×1×2048的特征圖。然后將它們分別發(fā)送到MLP（兩層神經(jīng)網(wǎng)絡(luò)）中，第一層神經(jīng)元的數(shù)量為C/r（C為通道，r為還原率），激活函數(shù)為relu，共享兩層神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)權(quán)值。然后，由MLP輸出的兩個(gè)特征映射進(jìn)行元素級(jí)加法操作，并經(jīng)過sigmoid激活函數(shù)生成通道注意特征 [MC]。最后， [MC]和輸入特征映射F進(jìn)行元素級(jí)乘法運(yùn)算，生成空間注意模塊所需的輸入特征 F，維度為7×7×2048。

空間注意模塊如圖3所示，計(jì)算過程可描述如下。

以通道注意力模塊輸出的特征圖F'作為本模塊的輸入特征圖。首先，特征圖F'通過基于信道的全局最大池化和全局平均池化，輸出兩個(gè)維度為7×7×1的特征圖，然后對(duì)這兩個(gè)特征圖進(jìn)行元素級(jí)乘積操作。然后，用大小為7×7的濾波器進(jìn)行卷積操作。將維數(shù)降為1個(gè)通道，經(jīng)過sigmoid激活函數(shù)生成空間注意力特征 [MS]。最后，將該模塊的特征 [MS]和輸入特征F'相乘，得到最終生成的特征F''。

2 實(shí)驗(yàn)

2.1 COVID-19數(shù)據(jù)集和評(píng)價(jià)指標(biāo)

為了驗(yàn)證本文提出的方法的有效性和可行性，我們使用了公開數(shù)據(jù)庫COVIDRD［23］。該數(shù)據(jù)集來自卡塔爾大學(xué)和孟加拉國達(dá)卡大學(xué)的一個(gè)研究人員團(tuán)隊(duì)，以及來自巴基斯坦和馬來西亞的合作者與醫(yī)生合作，創(chuàng)建了COVID-19陽性病例的胸部x光圖像以及正常和病毒性肺炎圖像數(shù)據(jù)庫。此數(shù)據(jù)庫包含1200張新冠狀動(dòng)脈肺炎、1341張正常和1345張病毒性肺炎胸片（CXR）圖像［24-25］，如圖4所示。

在這項(xiàng)工作中，為了進(jìn)行公平的比較，我們隨機(jī)選擇70%的圖像作為訓(xùn)練集，10%的圖像作為驗(yàn)證集，其余20%的圖像作為測(cè)試集。為了保證分類器的有效性，我們保證了用于構(gòu)建訓(xùn)練集和驗(yàn)證集的患者不會(huì)被用于測(cè)試集。本研究報(bào)告的分類結(jié)果中使用的評(píng)價(jià)方法是準(zhǔn)確性、敏感性和特異性，敏感性和特異性是可用于報(bào)告COVID-19分類模型性能的兩個(gè)適當(dāng)指標(biāo)。在本實(shí)驗(yàn)中，敏感性和特異性僅代表COVID-19類的指標(biāo)，敏感性越高，模型對(duì)COVID-19的區(qū)分能力越強(qiáng)，定義如下。

TP（真陽性）是正確分類的圖像的數(shù)量，F(xiàn)P（假陽性）是錯(cuò)誤的分類圖像的數(shù)量，F(xiàn)N（假陰性）是圖像的數(shù)量被檢測(cè)到一個(gè)類作為另一個(gè)類，和TN（真陰性）圖像的數(shù)量不屬于一個(gè)類，沒有被歸類為那個(gè)類。

2.2 實(shí)驗(yàn)結(jié)果

本文使用ImageNet上的預(yù)訓(xùn)練模型來加快模型的訓(xùn)練速度，并采用余弦退火的學(xué)習(xí)速率衰減策略來幫助模型更快地收斂到最優(yōu)解。所有實(shí)驗(yàn)均是在同一臺(tái)設(shè)備上進(jìn)行的，并使用特斯拉V100 GPU和CUDA 10.2和cuDNN v9進(jìn)行加速。

為證明卷積注意力可以提升模型對(duì)COVID-19的準(zhǔn)確性、敏感性，我們用原始的深度學(xué)習(xí)網(wǎng)絡(luò)和基于卷積注意力的網(wǎng)絡(luò)對(duì)COVIDRD進(jìn)行訓(xùn)練，訓(xùn)練中所有的配置、學(xué)習(xí)率、訓(xùn)練次數(shù)都保持一致。實(shí)驗(yàn)結(jié)果如表1和表2所示。表中對(duì)比了VGG、MobileNet、InceptionV3、InceptionResNetv2、ResNet等深度學(xué)習(xí)模型在無卷積注意力和有卷積注意力時(shí)對(duì)COVIDRD數(shù)據(jù)集的準(zhǔn)確率、敏感性和特異性。

從表中結(jié)果可以看出，在添加了卷積注意力之后，每個(gè)網(wǎng)絡(luò)的準(zhǔn)確率都有一定的提高，另外從敏感性的評(píng)估可以判別模型對(duì)COVID-19陽性樣本的識(shí)別性能，網(wǎng)絡(luò)層數(shù)較淺的VGG16和VGG19模型的敏感性提高了2.5%和1.67%，輕量化模型MobileNetV1和MobileNetV2的敏感性提高了1.25%和0.83%，殘差結(jié)構(gòu)的ResNet50模型和ResNet50V2模型達(dá)到最高準(zhǔn)確率，敏感性同樣提高了1.66%，包含Inception結(jié)構(gòu)和殘差結(jié)構(gòu)的InceptionResNetv2模型的敏感性提高了2.08%，實(shí)驗(yàn)證明了在注意力的幫助下，在不同結(jié)構(gòu)、不同深度、不同參數(shù)的模型中對(duì)COVID-19陽性樣本有很好的識(shí)別能力。

3 結(jié)語

由于新冠肺炎疫情近期的傳播趨勢(shì)，實(shí)施有效的新冠肺炎分類系統(tǒng)仍是一項(xiàng)具有挑戰(zhàn)性的任務(wù)。本研究提出了一種基于注意力的模型，利用卷積注意力模塊來提高模型的敏感性，考慮對(duì)COVID-19重要特征的關(guān)注，忽略不重要特征。并且在實(shí)驗(yàn)中結(jié)合VGGNet，MobileNet，Inception，InceptionResNetv2，ResNet等經(jīng)典深度學(xué)習(xí)網(wǎng)絡(luò)搭建卷積注意力模型，證明了在添加卷積注意力后，可以有效的提升對(duì)新冠肺炎的識(shí)別準(zhǔn)確性、敏感性和特異性。

參考文獻(xiàn)

［1］ WANG W ， XU Y， GAO R， et al. Detection of SARS-CoV-2 in different types of clinical specimens［J］. Jama， 2020，323（ 18）：1843–1844.

［2］ YANG T， WANG Y C，? SHEN C F， et al. Point-of-Care RNA based diagnostic device for COVID-19［J］. Multidisciplinary Digital Publishing Institute， 2020，10（3）：165.

［3］ WANG L， WONG， A.? Covid-net： A tailored deep convolutional neural network design for detection of covid-19 cases from chest x-ray images［J］. arXiv：2003：09871.

［4］ SHOEIBI A， KHODATARS M， ALIZADEHSANI R， et al. 2020 Automated detection and forecasting of covid-19 using deep learning techniques［J］. A arXiv abs/2007：10785.

［5］ 郭炳廷. 基于深度學(xué)習(xí)的醫(yī)療影像輔助檢測(cè)研究［D］.廈門：廈門理工學(xué)院，2022.

［6］ 沈昊鈞. 基于CT圖像的新冠肺炎檢測(cè)研究［D］.成都：電子科技大學(xué)，2022.

［7］ 費(fèi)宏運(yùn)，陳庚，遲兆瑞，等.基于AlexNet的新冠肺炎CT圖像識(shí)別的可行性分析［J］.信息與電腦（理論版），2021，33（4）：137-140.

［8］ 沈聰，郭佑民.人工智能技術(shù)在新型冠狀病毒肺炎患者應(yīng)用中需要注意的問題［J］.結(jié)核與肺部疾病雜志，2020，1（3）：106-108.

［9］ 翁羽潔，李忠賢，姬宇程，等.基于改進(jìn)閾值的VGG網(wǎng)絡(luò)的新冠肺炎CT圖像自動(dòng)診斷算法［J］.中國醫(yī)學(xué)物理學(xué)雜志，2022，39（6）：731-736.

［10］ RAHMAN T， KHANDAKAR A， QIBLAWEY Y， et al. 2020 exploring the effect of image enhancement techniques on COVID-19 detection using chest X-ray images［J］. Computers in Biology and Medicine，2021，132：104319.

［11］ NARIN A， KAYA C， PAMUK Z. Automatic detection of coronavirus disease （covid-19） using x-ray images and deep convolutional neural networks［J］. Pattern Anal Appl， 2021，24： 1207–1220.

［12］ AGAIAN S S， ASARI V K， DELMARCO S P.Multimodal image exploitation and learning 2021［J］.SPIE，2021，11734∶1173401-1.

［13］ JAISWAL A K， TIWARI P ， RATHI V K， et al. Covidpen： A novel covid-19 detection model using chest x-rays and ct scans［J］. Medrxiv，2020：20149161.

［14］ MINAEE S， KAFIEH R， SONKA M， et al. Deep-covid：Predicting covid-19 from chest x-ray images using deep transfer learning［J］. Med Image Anal ，2020，65：101794.

［15］ HEIDARI M， MIRNIAHARIKANDEHEI S， KHUZANI A Z， et al. Improving the performance of CNN to predict the likelihood of COVID-19 using chest x-ray images with preprocessing algorithms ［J］. Int J Med Inform， 2020，144：104284.

［16］ HEMDAN E D， SHOUMAN M A， KARAR M E. Covid X-net：A framework of deep learning classifiers to diagnose covid-19 in X-ray images［EB/OL］.［2023-02-10］ https：//arxiv.org/abs/2003.11055 ［2020-03-24］.

［17］ AFSHAR P， HEIDARIAN S， NADERKHANI F， et al. Covid-caps： A capsule network-based framework for identification of covid-19 cases from x-ray images ［J］. Pattern Recognit Lett 2020，138：638-643.

［18］ NAYAK S R， NAYAK D R， SINHA U， et al. Application of deep learning techniques for detection of COVID-19 cases using chest X-ray images： A comprehensive study［J］.Biomedical SignalProcessing and Control， 2021，64 ：102365.

［19］ MAHMUD T， RAHMAN M A， FATTAH S A. CovXNet： a multi-dila-tion convolutional neural network for automatic COVID-19 and other pneumonia detection from chest X-ray images with transferable multi-receptive feature optimization［J］. Comput? Biol? Med， 2020;1（122）：103869.

［20］ 王劍峰，王傳旭.基于DenseNet模型優(yōu)化的新冠肺炎CT圖像檢測(cè)算法［J］.青島科技大學(xué)學(xué)報(bào)（自然科學(xué)版），2022，43（3）：107-111+119.

［21］ 陳國祥. 基于深度學(xué)習(xí)的新冠肺炎X-ray圖像識(shí)別算法研究［D］.重慶：西南交通大學(xué)，2021.

［22］ WOO S， PARK J， LEE J Y， et al. Convolutional block attention module［M］. Cham：Springer，2010：3-19.

［23］ RAHMAN T，KHANDAKAR A，QIBLAWEY， et al. Exploring the effect of image enhancement techniques on COVID-19 detection using chest X-ray image［J］. Computers in Biology and Medicine，2021，132： 104319.

［24］ CHOWDHURY M E， RAHMAN T， KHANDAKAR A， et al. Can AI help in screening viral and COVID-19 pneumonia？［J］. IEEE Access，2020，8： 132665-132676.

［25］ HE K， ZHANG X， REN S，et al. Identity mappings in deep residual networks［M］.Cham： Springer，? 2016： 630-645.

Abstract： COVID-19 is the epidemic that has the greatest impact on the world economic development in recent years. Early detection is the key to the treatment of COVID-19 patients， and chest radiograph as a fast and effective auxiliary diagnostic method is widely used in practical medical cases. The image recognition method based on depth learning can diagnose CXR images faster and more accurately， and can achieve good results. However， common deep learning models are not targeted when extracting features from data. In this regard， this paper proposes a new coronal pneumonia image recognition network based on convolutional attention to improve the sensitivity and specificity of COVID-19 positive samples， and the increased model parameters and training time can be ignored. This paper builds a convolutional attention model based on VGG16， MobileNet， InceptionV3， ResNet50 and other classic deep learning networks， and verifies it on the COVIDRD public database. The experimental results show that the network architecture proposed in this paper effectively improves the accuracy， sensitivity and specificity of new coronal pneumonia recognition.

Key words： COVID-19; CXR images; deep learning; convolutional attention

（責(zé)任編輯：馬乃玉）