王美華 吳振鑫 周祖光

(1.華南農(nóng)業(yè)大學(xué)數(shù)學(xué)與信息學(xué)院， 廣州 510642； 2.暨南大學(xué)信息科學(xué)技術(shù)學(xué)院， 廣州 510632)

0 引言

農(nóng)作物病蟲(chóng)害是一種嚴(yán)重的自然災(zāi)害，需要對(duì)其進(jìn)行及時(shí)預(yù)測(cè)和監(jiān)控，以保證農(nóng)作物的產(chǎn)量[1]。病蟲(chóng)害的發(fā)生與種植制度、作物布局和氣候趨勢(shì)等因素息息相關(guān)，而普通農(nóng)戶(hù)的小規(guī)模種植使病蟲(chóng)害預(yù)測(cè)難度較大[2-3]。

傳統(tǒng)的機(jī)器學(xué)習(xí)方法一般經(jīng)過(guò)病斑提取、邊緣特征提取后進(jìn)行分類(lèi)[4]。魏超等[5]將農(nóng)作物病斑分割分為背景移除和病斑分割兩個(gè)階段，并由此進(jìn)一步提出了一種病斑袋模型，以提取出更高層抽象的特征。然而，這種傳統(tǒng)機(jī)器學(xué)習(xí)方法對(duì)圖像的預(yù)處理步驟較為復(fù)雜，并且只能應(yīng)用于個(gè)別植物的少量病蟲(chóng)害檢測(cè)，可遷移性差。隨著深度學(xué)習(xí)技術(shù)的發(fā)展，病蟲(chóng)害圖像數(shù)據(jù)日益充足，成功解決了傳統(tǒng)機(jī)器學(xué)習(xí)需要顯式提取病蟲(chóng)害特征和可遷移性差的問(wèn)題。利用深度學(xué)習(xí)技術(shù)泛化性強(qiáng)的特點(diǎn)，能夠同時(shí)對(duì)種類(lèi)繁多的病蟲(chóng)害進(jìn)行識(shí)別檢測(cè)，大大提高了防治效果。國(guó)內(nèi)外已有許多研究利用卷積神經(jīng)網(wǎng)絡(luò)對(duì)農(nóng)作物病蟲(chóng)害進(jìn)行識(shí)別[6-8]。通常來(lái)說(shuō)，數(shù)據(jù)質(zhì)量的優(yōu)劣往往決定了模型質(zhì)量的優(yōu)劣，一個(gè)大而全的數(shù)據(jù)集(例如ImageNet)往往能夠訓(xùn)練出效果較好的模型。然而，在病蟲(chóng)害識(shí)別領(lǐng)域常常面臨數(shù)據(jù)量不足的問(wèn)題，遷移學(xué)習(xí)技術(shù)[9]能夠利用已經(jīng)標(biāo)注好的數(shù)據(jù)提升模型精度，從而解決數(shù)據(jù)量不足的問(wèn)題。許多研究表明，采用遷移學(xué)習(xí)并對(duì)卷積神經(jīng)網(wǎng)絡(luò)模型的所有層進(jìn)行精調(diào)，能夠最大程度提升原模型的基礎(chǔ)識(shí)別率[10-12]。

在利用深度學(xué)習(xí)和遷移學(xué)習(xí)進(jìn)行圖像識(shí)別時(shí)，一般會(huì)在神經(jīng)網(wǎng)絡(luò)中通過(guò)添加注意力模塊來(lái)提高識(shí)別準(zhǔn)確率。然而，傳統(tǒng)的混合注意力模塊在細(xì)粒度多分類(lèi)識(shí)別任務(wù)中表現(xiàn)不穩(wěn)定，因此較難應(yīng)用于此類(lèi)任務(wù)中。

本文針對(duì)蘋(píng)果、番茄、辣椒等10種植物的細(xì)粒度識(shí)別進(jìn)行研究。首先，在卷積神經(jīng)網(wǎng)絡(luò)中采用全網(wǎng)絡(luò)層微調(diào)的遷移學(xué)習(xí)方法，以保證病蟲(chóng)害識(shí)別模型準(zhǔn)確率；針對(duì)傳統(tǒng)注意力模塊在細(xì)粒度多分類(lèi)的識(shí)別任務(wù)中表現(xiàn)不穩(wěn)定的問(wèn)題，在遷移學(xué)習(xí)的基礎(chǔ)上提出一種對(duì)卷積注意力模塊(Convolutional block attention module，CBAM)[13]進(jìn)行改進(jìn)的混合注意力模塊(Improved CBAM，I_CBAM)，以期在不同的卷積神經(jīng)網(wǎng)絡(luò)中具有良好的可移植性和泛化性。

1 實(shí)驗(yàn)數(shù)據(jù)

1.1 數(shù)據(jù)集來(lái)源

本文所用數(shù)據(jù)集為上海新客科技和創(chuàng)新工場(chǎng)聯(lián)合制作的農(nóng)作物病蟲(chóng)害圖像。數(shù)據(jù)集包含草莓、櫻桃和蘋(píng)果等10種作物的10種健康狀態(tài)和27種病蟲(chóng)害，其中24種病蟲(chóng)害又分為“一般”和“嚴(yán)重”狀態(tài)(例如：“蘋(píng)果黑星病一般”和“蘋(píng)果黑星病嚴(yán)重”)，共計(jì)61類(lèi)。本文所用數(shù)據(jù)集農(nóng)作物病蟲(chóng)害圖像共36 258幅，數(shù)據(jù)集部分圖像如圖1所示，其具體標(biāo)簽如表1所示。將數(shù)據(jù)集圖像劃分為訓(xùn)練集與測(cè)試集。其中，訓(xùn)練集包含31 718幅圖像，測(cè)試集包含4 540幅圖像。

1.2 數(shù)據(jù)集預(yù)處理

本文數(shù)據(jù)集大部分圖像尺寸300像素×400像素。為了滿(mǎn)足卷積神經(jīng)網(wǎng)絡(luò)輸入圖像尺寸要求，將圖像尺寸統(tǒng)一縮放為224像素×224像素，然后在此基本上進(jìn)行數(shù)據(jù)增強(qiáng)操作。

在通常條件下，用于訓(xùn)練的數(shù)據(jù)越多，模型的精度就越高，其魯棒性和泛化性也越強(qiáng)。數(shù)據(jù)增強(qiáng)是深度學(xué)習(xí)中常用的數(shù)據(jù)擴(kuò)充方法。本文在模型訓(xùn)練時(shí)使用雙線(xiàn)性插值法、最近鄰插值法、雙三次插值法和面積插值法對(duì)圖像進(jìn)行縮放操作，又將圖像隨機(jī)進(jìn)行水平和垂直翻轉(zhuǎn)，從而將訓(xùn)練數(shù)據(jù)集擴(kuò)充至507 488幅，最后將圖像進(jìn)行歸一化以提高模型學(xué)習(xí)速度。模型測(cè)試時(shí)，為了保證測(cè)試結(jié)果的穩(wěn)定，測(cè)試圖像僅進(jìn)行雙線(xiàn)性插值法縮放和歸一化操作。

2 病蟲(chóng)害識(shí)別模型與改進(jìn)CBAM

2.1 病蟲(chóng)害識(shí)別模型

卷積神經(jīng)網(wǎng)絡(luò)(Convolutional neural network，CNN)是深度學(xué)習(xí)在圖像領(lǐng)域應(yīng)用范圍最廣的一種神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。本文以CNN為基礎(chǔ)，搭建病蟲(chóng)害識(shí)別模型。首先，從病蟲(chóng)害數(shù)據(jù)集中批量選取訓(xùn)練圖像，隨后經(jīng)過(guò)CNN提取圖像特征。再經(jīng)過(guò)全連接層(類(lèi)似于多層感知機(jī)[14])與Softmax層，產(chǎn)生預(yù)測(cè)分類(lèi)。最后計(jì)算損失值，利用反向傳播調(diào)整網(wǎng)絡(luò)參數(shù)。本文利用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行病蟲(chóng)害分類(lèi)模型的訓(xùn)練流程如圖2所示。

近年來(lái)，我國(guó)經(jīng)濟(jì)一直呈現(xiàn)出一種增長(zhǎng)的趨勢(shì)，但在發(fā)展過(guò)程中仍舊面臨著多種難題。外部環(huán)境在不斷地更新變化，出現(xiàn)了經(jīng)濟(jì)新常態(tài)的環(huán)境特征，銀行業(yè)卻沒(méi)有隨之得以更新與調(diào)整，使得銀行業(yè)的發(fā)展遭遇到瓶頸?；诖?，銀行業(yè)需要順應(yīng)時(shí)代的變化，通過(guò)改革創(chuàng)新等措施來(lái)提升自身的服務(wù)質(zhì)量，實(shí)現(xiàn)供給側(cè)改革，加強(qiáng)服務(wù)實(shí)體經(jīng)濟(jì)的能力。

2.2 改進(jìn)混合注意力

由文獻(xiàn)[5]可知，“病害程度”分類(lèi)的錯(cuò)誤主要集中在“病害程度”的判斷上。因此，對(duì)卷積神經(jīng)網(wǎng)絡(luò)模型添加注意力，以提升對(duì)“病蟲(chóng)害程度”此類(lèi)細(xì)粒度任務(wù)的識(shí)別效果，從而提高模型的整體識(shí)別準(zhǔn)確率。

2.2.1卷積神經(jīng)網(wǎng)絡(luò)中的注意力機(jī)制

卷積神經(jīng)網(wǎng)絡(luò)中的注意力機(jī)制分為軟注意力和強(qiáng)注意力兩種。其中強(qiáng)注意力不可微，常常用于增強(qiáng)學(xué)習(xí)，不屬于本文討論的范疇。軟注意力可微分，即可以通過(guò)訓(xùn)練中的反向傳播進(jìn)行自主更新[15]。本文所關(guān)注和使用的是軟注意力，軟注意力又可以分為空間域、通道域和混合域。其中，空間域和通道域是軟注意力所關(guān)注的方面。

空間注意力(Spatial attention)[16]可使神經(jīng)網(wǎng)絡(luò)更加關(guān)注圖像中對(duì)分類(lèi)起決定作用的像素區(qū)域，而忽略無(wú)關(guān)區(qū)域。通道注意力(Channel attention)[17]是一種考慮特征圖通道之間關(guān)系的注意力機(jī)制。混合域則是將上述兩種不同注意力組合起來(lái)。CBAM就是將卷積模塊中的空間注意力和通道注意力進(jìn)行混合，實(shí)現(xiàn)從通道到空間的順序注意力結(jié)構(gòu)，能夠嵌入到卷積操作之后，容易移植。

2.2.2改進(jìn)CBAM

CBAM[13]模塊是先輸入特征圖F，經(jīng)過(guò)通道注意力加權(quán)結(jié)果為F1。再經(jīng)過(guò)空間注意力加權(quán)得到輸出特征圖F2，這是一種“串行(cascade)連接”的結(jié)構(gòu)，其過(guò)程公式為

(1)

式中MC(F)——F經(jīng)過(guò)通道注意力的輸出權(quán)值

MS(F1)——F1經(jīng)過(guò)空間注意力的輸出權(quán)值

?——特征圖加權(quán)乘法運(yùn)算符號(hào)

實(shí)際上，無(wú)論是先啟用通道注意力后啟用空間注意力(channel→spatial，即CBAM)，還是先啟用空間注意力后啟用通道注意力(spatial→channel,即reverse CBAM，簡(jiǎn)稱(chēng)R_CBAM)，排在后面的權(quán)值都是由排在前面的特征圖產(chǎn)生。而在這個(gè)過(guò)程中，認(rèn)為排在前面的注意力把原始輸入特征圖“修飾”了。即排在后面的注意力機(jī)制所學(xué)習(xí)到的是被“修飾”過(guò)的特征圖，在一定程度上影響排在后面的注意力模塊所學(xué)習(xí)到的特征。尤其在細(xì)粒度分類(lèi)任務(wù)中，這種由于“串行連接”而產(chǎn)生的干擾，會(huì)使注意力模塊的效果變得不穩(wěn)定，對(duì)于準(zhǔn)確率的提升也難以保證。

因此，為了解決這個(gè)問(wèn)題，本文對(duì)CBAM的串行注意力模塊進(jìn)行改進(jìn)，將原來(lái)的“串行(cascade)連接”改為“并行(parallel)連接”，使兩種注意力模塊都直接學(xué)習(xí)原始的輸入特征圖，從而無(wú)需關(guān)注空間注意力和通道注意力順序，由此得到改進(jìn)CBAM(I_CBAM)。I_CBAM先由輸入特征圖F分別經(jīng)過(guò)通道注意力和空間注意力得到相應(yīng)權(quán)值，最后將權(quán)值直接與原始輸入特征圖F加權(quán)得到輸出特征圖F2，其過(guò)程公式為

F2=MC(F)?MS(F)?F

(2)

式中MS(F)——F經(jīng)過(guò)空間注意力的輸出權(quán)值

I_CBAM的整體結(jié)構(gòu)如圖3所示。

3 實(shí)驗(yàn)與分析

3.1 實(shí)驗(yàn)環(huán)境

實(shí)驗(yàn)使用軟件為Python 3.5和深度學(xué)習(xí)框架Keras 2.3.1，以Tensorflow-gpu 2.0.0為后端，操作系統(tǒng)為Ubuntu 18.04.3 LTS。CPU為Intel Xeon E5-2678 v3@2.50 GHz，GPU為NVIDIA RTX 2080Ti，顯存11 GB。

3.2 實(shí)驗(yàn)設(shè)計(jì)

首先使用混合注意力模塊CBAM中的channel attention(壓縮比為2)、spatial attention、CBAM、R_CBAM和本文提出的I_CBAM，在農(nóng)作物病蟲(chóng)害數(shù)據(jù)集上利用不同的卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)準(zhǔn)確率對(duì)比，以證明I_CABM的有效性和泛化性。 在模型訓(xùn)練環(huán)節(jié)，隨機(jī)選取一個(gè)批次的圖像進(jìn)行訓(xùn)練，批尺寸為32。

本文采用Top-1準(zhǔn)確率、Top-5準(zhǔn)確率、作物品種(10類(lèi))準(zhǔn)確率(預(yù)測(cè)的品種是否正確)、病害種類(lèi)(27類(lèi))準(zhǔn)確率(預(yù)測(cè)的品種和病蟲(chóng)害種類(lèi)是否正確)、病害程度(健康/一般/嚴(yán)重)(3類(lèi))準(zhǔn)確率(預(yù)測(cè)的品種、病蟲(chóng)害種類(lèi)和相對(duì)應(yīng)的嚴(yán)重程度是否正確)、平均一幅圖像前向傳播時(shí)間、模型規(guī)模和參數(shù)數(shù)量作為模型的評(píng)判標(biāo)準(zhǔn)。

由文獻(xiàn)[5]可知，分類(lèi)錯(cuò)誤主要集中在對(duì)于“病害程度”的判斷上，因此提升對(duì)“病害程度”的識(shí)別效果是提升模型識(shí)別準(zhǔn)確率的關(guān)鍵。本文主要以Top-1準(zhǔn)確率和病害程度準(zhǔn)確率作為判斷模型效果的標(biāo)準(zhǔn)。

3.3 注意力模塊對(duì)比實(shí)驗(yàn)

首先在表現(xiàn)穩(wěn)定的InRes-v2[18]遷移學(xué)習(xí)模型(在包含1 000個(gè)類(lèi)別的120萬(wàn)幅圖像的ImageNet數(shù)據(jù)集中預(yù)訓(xùn)練)中加入各注意力模塊進(jìn)行對(duì)比實(shí)驗(yàn)。由于InRes-v2包含Inception[19]結(jié)構(gòu)和Resnet殘差連接結(jié)構(gòu)[20]，因此參考HU等[17]的嵌入方式，將注意力模塊放在Inception結(jié)構(gòu)的拼接操作之后，最后與殘差相加。其在Inception-Resnet結(jié)構(gòu)的具體嵌入方式如圖4所示。實(shí)驗(yàn)選用Adam優(yōu)化器，初始學(xué)習(xí)率為0.000 1，訓(xùn)練50次。最終Top-1準(zhǔn)確率如圖5所示，詳細(xì)指標(biāo)如表2所示。

從表2可以看出，無(wú)論是以作物品種還是病蟲(chóng)害種類(lèi)為劃分，各模型的Top-5準(zhǔn)確率均超過(guò)了99%，并且數(shù)值相當(dāng)接近。而Top-1分類(lèi)的錯(cuò)誤主要受到“病害程度”判斷的影響，因此添加注意力模塊的首要目的，就是提升對(duì)“病害程度”的識(shí)別準(zhǔn)確率。另外，從模型規(guī)模和參數(shù)數(shù)量的角度進(jìn)行分析，由于CBAM中的channel attention存在兩個(gè)全連接層，因此參數(shù)數(shù)量增長(zhǎng)明顯，模型規(guī)模翻倍。而spatial attention由于只需要保存一個(gè)7×7的卷積核，因此模型規(guī)模和參數(shù)數(shù)量都較小。

表2 InRes-v2嵌入各注意力模塊實(shí)驗(yàn)結(jié)果Tab.2 Results of attention module experiments in InRes-v2

CBAM注意力的Top-1準(zhǔn)確率并不理想，排序靠后的空間注意力學(xué)習(xí)到的是排序在前的通道注意力“修飾”過(guò)的特征圖，因此效果并不好。R_CBAM的Top-1準(zhǔn)確率略高一些，考慮到排序在前的空間注意力沒(méi)有全連接層，因此對(duì)于原始輸入特征圖的“修飾”程度并不大，因此準(zhǔn)確率有少許提升。但均未超過(guò)直接使用channel attention或spatial attention的模型，驗(yàn)證了串行連接注意力會(huì)導(dǎo)致學(xué)習(xí)效果不好的結(jié)論。而本文提出的并行混合注意力模塊I_CBAM表現(xiàn)較優(yōu)，其Top-1準(zhǔn)確率和病害程度準(zhǔn)確率達(dá)到了86.98%和89.15%，比CBAM提升了0.57、0.81個(gè)百分點(diǎn)。

雖然在大型自動(dòng)化場(chǎng)景下使用基于InRes-v2嵌入I_CBAM模型效果出色，但是在日常使用的移動(dòng)端應(yīng)用中，卻難以部署InRes-v2這樣較大體量的模型。因此在輕量級(jí)移動(dòng)端神經(jīng)網(wǎng)絡(luò)MobileNet-v2[21]中嵌入I_CBAM模塊，進(jìn)行對(duì)比實(shí)驗(yàn)，以驗(yàn)證I_CBAM在小型網(wǎng)絡(luò)上的效果。

MobileNet-v2是一個(gè)輕量級(jí)的模型，然而在實(shí)驗(yàn)中使用ImageNet預(yù)訓(xùn)練模型時(shí)，若在MobileNet-v2的每個(gè)inverted_res_block中都加入attention block，則會(huì)導(dǎo)致預(yù)訓(xùn)練模型中的初始參數(shù)在訓(xùn)練時(shí)被嚴(yán)重破壞，且模型的規(guī)模也變?yōu)樵瓉?lái)的數(shù)倍，失去了MobileNet_v2在移動(dòng)端的意義。因此，在MobileNet_v2的最后一個(gè)卷積后嵌入注意力模塊同時(shí)刪去此卷積后的批歸一化層(BN)層進(jìn)行對(duì)比實(shí)驗(yàn)，以減少參數(shù)的擾動(dòng)，保證訓(xùn)練時(shí)的魯棒性。對(duì)比實(shí)驗(yàn)選用Adam優(yōu)化器，初始學(xué)習(xí)率為0.000 01，訓(xùn)練40次。實(shí)驗(yàn)最終的Top-1準(zhǔn)確率如圖6所示，其它部分指標(biāo)如表3所示。

從表3可以看到，MobileNet-v2模型的參數(shù)數(shù)量?jī)H為2.34×106，比InRes-v2模型的5.443×107縮減了5.209×107，并且準(zhǔn)確率僅比InRes-v2低0.59個(gè)百分點(diǎn)，是移動(dòng)端病蟲(chóng)害識(shí)別的理想模型。在MobileNet-v2中添加各類(lèi)注意力模塊后準(zhǔn)確率有提升。其中，無(wú)論是Top-1準(zhǔn)確率還是病害嚴(yán)重程度的識(shí)別準(zhǔn)確率，添加了I_CBAM的模型均為最高，對(duì)于準(zhǔn)確率的提升十分穩(wěn)定，分別比MobileNet-v2模型提高了0.62、0.76個(gè)百分點(diǎn)，再次證明了I_CBAM的有效性和魯棒性。

表3 MobileNet-v2嵌入各注意力模塊實(shí)驗(yàn)結(jié)果Tab.3 Results of attention module experiments in MobileNet-v2

激活熱力圖[22](Grad-CAM)能夠?qū)δＰ偷姆诸?lèi)結(jié)果提供很好的可視化依據(jù)。因此，為進(jìn)一步分析識(shí)別準(zhǔn)確率差異的原因，本文提取了部分測(cè)試圖像在MobileNet-v2各注意力模塊對(duì)比實(shí)驗(yàn)中的激活熱力圖，如圖7所示。其中，P表示經(jīng)過(guò)Softmax函數(shù)分類(lèi)后模型對(duì)于類(lèi)別yi的判斷概率。可以觀察到，添加I_CBAM的模型比起其它模型能夠更準(zhǔn)確地定位和選中葉片的病蟲(chóng)害區(qū)域，對(duì)于正確分類(lèi)的判斷效果也更好。

從InRes-v2和MobileNet-v2的對(duì)比實(shí)驗(yàn)中可以觀察到，注意力模塊I_CBAM的參數(shù)主要來(lái)源于其中的Channel attention部分。例如InRes-v2模型參數(shù)數(shù)量為5.443×107，而添加Channel attention(壓縮比為2)后則達(dá)到了1.224 6×108，說(shuō)明Channel attention 是參數(shù)數(shù)量增長(zhǎng)的主要來(lái)源。在添加了Channel attention的注意力模塊(Channel attention/CBAM/R_CBAM/I_CBAM)中，本文在實(shí)驗(yàn)中設(shè)置Channel attention全連接層的壓縮比為2，以突出學(xué)習(xí)效果。為了進(jìn)一步縮減添加注意力模塊后的參數(shù)數(shù)量和模型規(guī)模，使模型更加輕量，在MobileNet-v2上對(duì)I_CBAM的Channel attention的壓縮比(2、4、8、16、32、64)進(jìn)行了調(diào)參實(shí)驗(yàn)，在盡可能地縮減模型規(guī)模的情況下保證識(shí)別準(zhǔn)確率，其實(shí)驗(yàn)結(jié)果如表4所示。

從表4中可以看到，當(dāng)壓縮比為32時(shí)，模型的準(zhǔn)確率與壓縮比為2時(shí)并沒(méi)有明顯的變化，且模型規(guī)模已縮減至28.3 MB，使得模型規(guī)模和準(zhǔn)確率之間達(dá)到了較好的平衡。因此，使用32作為I_CBAM中Channel attention全連接層的壓縮比是一個(gè)極佳的選擇。此外，對(duì)比添加了I_CBAM的InRes-v2模型，調(diào)整壓縮比為32，不僅模型規(guī)模大大縮減，且前向傳播(預(yù)測(cè))時(shí)間從13.4 ms減少至7.19 ms，大大提高了預(yù)測(cè)的響應(yīng)速度。

表4 MobileNet-v2嵌入I_CBAM使用不同壓縮比的 實(shí)驗(yàn)結(jié)果Tab.4 Results of using different reduction ratios for MobileNet-v2 embedded I_CBAM

除此之外，為了進(jìn)一步驗(yàn)證I_CBAM的泛化性和魯棒性，本文還在LeNet[23]、AlexNet[24]和改進(jìn)AlexNet[25]3類(lèi)卷積神經(jīng)網(wǎng)絡(luò)上，采用模型隨機(jī)初始化參數(shù)的訓(xùn)練模式，在每個(gè)卷積層后嵌入注意力模塊，再次進(jìn)行了各注意力模塊的對(duì)比實(shí)驗(yàn)。其中，LeNet對(duì)比實(shí)驗(yàn)選用SGD優(yōu)化器(初始學(xué)習(xí)率為0.01，衰減率為0.94)；AlexNet對(duì)比實(shí)驗(yàn)選用Adam優(yōu)化器(初始學(xué)習(xí)率為0.000 1)；改進(jìn)AlexNet對(duì)比實(shí)驗(yàn)選用Adam優(yōu)化器(初始學(xué)習(xí)率為0.000 5)；訓(xùn)練次數(shù)均為40，最終Top-1準(zhǔn)確率和病害程度準(zhǔn)確率如表5、6所示。

表5 3種模型的Top-1準(zhǔn)確率對(duì)比Tab.5 Top-1 accuracy comparison of three models %

表6 3種模型的病害程度準(zhǔn)確率對(duì)比Tab.6 Disease severity accuracy comparison of three models %

從表5可以看出，CBAM和R_CBAM在不同模型中的表現(xiàn)并不一致。例如在改進(jìn)AlexNet上添加CBAM與R_CBAM的模型準(zhǔn)確率高于不添加注意力模塊的改進(jìn)AlexNet，但在AlexNet添加注意力模塊后卻均低于不添加注意力模塊的AlexNet，而在LeNet上則呈現(xiàn)一高一低的情況。I_CBAM的模型表現(xiàn)則較穩(wěn)定，在3種淺層卷積神經(jīng)網(wǎng)絡(luò)上均取得了最高的準(zhǔn)確率，在LeNet、AlexNet、改進(jìn)AlexNet上添加I_CBAM后分別比不添加時(shí)的Top-1準(zhǔn)確率分別提高了1.74、0.53、0.55個(gè)百分點(diǎn)，病害程度準(zhǔn)確率分別提高了0.78、0.51、0.41個(gè)百分點(diǎn)。通過(guò)對(duì)3種淺層卷積神經(jīng)網(wǎng)絡(luò)的再次對(duì)比，證明了I_CBAM具有泛化性和魯棒性。

3.4 模型部署及可視化識(shí)別應(yīng)用

為了便于用戶(hù)更好地使用，采用小程序搭建了用戶(hù)圖形界面。如圖8a所示，圖中選用的模型為添加了I_CBAM(壓縮比為32)的MobileNet-v2模型。通過(guò)拍攝或相冊(cè)上傳一幅圖像，然后選擇模型提交到小程序進(jìn)行識(shí)別。小程序?qū)⑾嚓P(guān)信息發(fā)送給Python的Django框架搭建的系統(tǒng)后臺(tái)，系統(tǒng)后臺(tái)根據(jù)相關(guān)信息調(diào)用模型進(jìn)行識(shí)別，并將識(shí)別的結(jié)果返回給小程序。小程序收到系統(tǒng)后臺(tái)的識(shí)別結(jié)果后，展示系統(tǒng)后臺(tái)的識(shí)別信息。

識(shí)別結(jié)果如圖8b所示，對(duì)于健康玉米圖像識(shí)別，準(zhǔn)確率達(dá)到了99.99%。小程序?qū)㈩A(yù)測(cè)前5項(xiàng)概率的結(jié)果返回給用戶(hù)。如圖8c、8d所示，對(duì)于番茄斑枯病嚴(yán)重和馬鈴薯早疫病嚴(yán)重的識(shí)別準(zhǔn)確率分別達(dá)到了99.65%和99.86%，而對(duì)于番茄斑枯病一般和馬鈴薯早疫病一般的預(yù)測(cè)概率則僅有0.32%和0.07%，在病害程度的判斷上非常精確。結(jié)果表明添加了I_CBAM的模型在細(xì)粒度分類(lèi)任務(wù)上具有較好的應(yīng)用效果。

4 結(jié)論

(1)針對(duì)細(xì)粒度多分類(lèi)病蟲(chóng)害識(shí)別準(zhǔn)確率低的問(wèn)題，對(duì)串行連接混合注意力模塊CBAM進(jìn)行改進(jìn)，提出了一種并行連接的I_CBAM注意力模塊，解決了串行連接兩種注意力產(chǎn)生干擾的問(wèn)題。

(2)為了驗(yàn)證I_CBAM模塊的有效性和魯棒性，設(shè)計(jì)并對(duì)比了channel attention、spatial attention、CBAM、R_CBAM和I_CBAM在5種不同卷積神經(jīng)網(wǎng)絡(luò)中的識(shí)別效果。結(jié)果表明，添加了I_CBAM的InRes-v2、MobileNet-v2、LeNet、AlexNet、改進(jìn)AlexNet模型的Top-1(61類(lèi))識(shí)別準(zhǔn)確率分別為86.98%、86.50%、80.97%、84.47%和84.96%，比未添加注意力模塊的原模型分別高0.51、0.62、1.74、0.53、0.55個(gè)百分點(diǎn)。說(shuō)明I_CBAM在病蟲(chóng)害細(xì)粒度分類(lèi)上具有較優(yōu)的識(shí)別效果，且在不同卷積神經(jīng)網(wǎng)絡(luò)模型之間擁有良好的泛化性。

(3)對(duì)添加了I_CBAM的MobileNet-v2模型進(jìn)行不同壓縮比的調(diào)參比對(duì)實(shí)驗(yàn)，進(jìn)一步縮減模型規(guī)模至28.3 MB，且預(yù)測(cè)一幅圖像的平均用時(shí)僅為7.19 ms。將該模型部署到移動(dòng)端小程序上，具有良好的可視化應(yīng)用效果。