李曉振 徐巖 吳作宏 高照 劉林

摘要：基于注意力機(jī)制的卷積神經(jīng)網(wǎng)絡(luò)構(gòu)建了番茄葉部病害識(shí)別系統(tǒng)。依據(jù)注意力機(jī)制構(gòu)建并行注意力模塊以提升特征提取能力，并與殘差結(jié)構(gòu)相結(jié)合構(gòu)建PARNet模型。以分別患有早疫病、晚疫病、葉霉病、斑枯病和花葉病毒病這5類病害的葉片和健康葉片的葉部圖像為研究對(duì)象，將PARNet模型與VGG16、ResNet50、SeNet等模型相對(duì)比，結(jié)果顯示PARNet模型的識(shí)別率為96.91%，高出其他模型2.25%～11.58%。各類預(yù)測(cè)結(jié)果的精確率平均為96.84%。最后使用Flask完成WEB應(yīng)用程序的開發(fā)，實(shí)現(xiàn)了跨平臺(tái)的番茄葉部病害識(shí)別。

關(guān)鍵詞：番茄;葉部病害;注意力機(jī)制;并行池化;WEB界面

中圖分類號(hào)：TP391文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1000-4440（2020）03-0561-08

Recognition system of tomato leaf disease based on attentional neural network

LI Xiao-zhen，XU Yan，WU Zuo-hong，GAO Zhao，LIU Lin

（School of Electronic Information Engineering， Shandong University of Science & Technology， Qingdao 266590， China）

Abstract：The convolutional neural network based on attention mechanism was proposed to construct tomato leaf disease recognition system. According to the attention mechanism， a parallel attention module was constructed to improve the feature extraction ability， and combined with the residual structure to construct a PARNet model. The images of healthy leaves and leaves suffering from early blight， late blight， leaf mold， leaf blight and mosaic virus were used as research objects. Compared with other models such as VGG16， ResNet50 and SeNet the recognition rate of the PARNet model was increased by 2.25%-11.58%. The accuracy rate of various prediction results was 96.84% on average. Flask was used to complete the development of WEB application program， and the cross-platform tomato leaf disease recognition was realized.

Key words：tomato;leaf disease;attention mechanism;parallel pooling;WEB interface

江蘇農(nóng)業(yè)學(xué)報(bào)2020年第36卷第3期

李曉振等：基于注意力神經(jīng)網(wǎng)絡(luò)的番茄葉部病害識(shí)別系統(tǒng)

番茄果實(shí)營(yíng)養(yǎng)豐富，含有豐富的胡蘿卜素、維生素（主要為維生素C和B族維生素）、番茄紅素和礦物質(zhì)。除直接食用外，番茄還被廣泛用來(lái)加工成番茄醬、番茄汁等。然而在番茄的種植過(guò)程中，各種病害嚴(yán)重制約著番茄的生產(chǎn)[1]，常見的有晚疫病、早疫病、葉霉病、花葉病毒病和斑枯病等。

近年來(lái)，機(jī)器學(xué)習(xí)技術(shù)發(fā)展迅速，人們開始嘗試機(jī)器視覺技術(shù)在作物病害識(shí)別中的各種應(yīng)用。傳統(tǒng)機(jī)器視覺算法需要根據(jù)目標(biāo)任務(wù)和先驗(yàn)知識(shí)選擇合適的特征，這些特征通常包括圖像的顏色、形狀、紋理等，用來(lái)提取這些特征的特征提取器需要人為構(gòu)建，較為繁瑣和困難，而且由此設(shè)計(jì)出的特征提取器還缺乏泛化能力[2-4]。而卷積神經(jīng)網(wǎng)絡(luò)方法可以根據(jù)數(shù)據(jù)及其類別自行調(diào)整權(quán)值參數(shù)以構(gòu)建合適的特征提取器，相對(duì)高效便捷，構(gòu)建的特征提取器還具備更優(yōu)異的泛化能力，可以有效克服傳統(tǒng)方法的缺陷。LeNet[5]的出現(xiàn)奠定了現(xiàn)代卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)。而AlexNet的優(yōu)異性能引發(fā)了深度學(xué)習(xí)的研究熱潮，各種卷積神經(jīng)網(wǎng)絡(luò)模型不斷提出，如VGG模型、GoogleNet模型和ResNet模型等[6-8]。

注意力機(jī)制在自然語(yǔ)言處理[9]領(lǐng)域進(jìn)展迅速，但在圖像分類領(lǐng)域注意力機(jī)制仍處于探索階段。Fu等[10]將VGG模型與注意力機(jī)制相結(jié)合應(yīng)用到圖像分類任務(wù)中。Hu等將注意力機(jī)制與捷徑連接相結(jié)合構(gòu)建殘差注意力模型SeNet[11]，但該模型僅采用了單一池化操作，故僅能根據(jù)紋理特征區(qū)分特征圖重要度，而且注意力是作用于輸出特征圖與輸入特征圖的殘差上，不利于區(qū)分特征通道的重要度。

為實(shí)現(xiàn)對(duì)番茄健康葉片以及早疫病、晚疫病、葉霉病、斑枯病或花葉病毒病葉片的分類識(shí)別，本研究設(shè)計(jì)一種并行注意力模塊并與捷徑連接相結(jié)合構(gòu)建PARNet模型，再采用Flask開發(fā)WEB界面，實(shí)現(xiàn)多平臺(tái)下番茄葉部病害識(shí)別。

1數(shù)據(jù)與方法

1.1數(shù)據(jù)簡(jiǎn)介

番茄葉部病害圖像主要來(lái)自Plant Village Dataset [12]數(shù)據(jù)集和互聯(lián)網(wǎng)。在去除異常圖像后，番茄健康葉片和患有早疫病、晚疫病、葉霉病、斑枯病和花葉病毒病的葉片圖像數(shù)量分別為395、397、397、389、342、364張，共2 284張圖像。

番茄葉部圖像經(jīng)裁剪、旋轉(zhuǎn)等方式處理后，數(shù)量擴(kuò)增到9 136張，按照7∶2∶1的比例隨機(jī)劃分訓(xùn)練集、驗(yàn)證集和測(cè)試集。各類番茄葉部病害圖像如圖1所示。

1.2并行注意力模塊的構(gòu)建

圖像信息經(jīng)過(guò)卷積和池化操作得到的特征圖通常缺乏對(duì)各個(gè)通道重要性的區(qū)分，但實(shí)際上這些特征圖中各個(gè)通道的重要程度是不一致的，因此引入權(quán)值來(lái)表明各個(gè)特征通道的重要性，以提升和目標(biāo)相關(guān)的信息的表達(dá)，抑制其余無(wú)用信息的表達(dá)。

構(gòu)建并行池化的注意力卷積模塊（Parallel pooled attention convolution module，PPA）（圖2）。PPA模塊包括由2種全局池化層、1個(gè)多層感知器、1個(gè)激活函數(shù)和1個(gè)捷徑連接組成的注意力模塊。

采用捷徑連接后，設(shè)PPA模塊的輸入為x，其卷積輸出為F（x），最終輸出為結(jié)果為H（x）=F（x）+x。根據(jù)反向傳播的鏈?zhǔn)椒▌t可以得到：

梯度分為2個(gè)部分：不通過(guò)權(quán)重層傳遞的εxL和通過(guò)權(quán)重層傳遞的εxL（xl∑L-1i=1F）。其中εxL保證了梯度信號(hào)能夠直接傳回到任意淺層xL，避免了梯度消失帶來(lái)的退化問(wèn)題。

若在殘差結(jié)構(gòu)后執(zhí)行注意力機(jī)制，則先從輸入中提取特征，再判斷特征的重要性，且引入的激活函數(shù)會(huì)作用于不通過(guò)權(quán)重層傳遞的εxL，干擾捷徑連接通路的反向傳播，導(dǎo)致梯度不斷被縮小進(jìn)而發(fā)生退化問(wèn)題。

PPA模塊先根據(jù)注意力機(jī)制劃分輸入信息的重要度再提取特征，不但更符合視覺注意力機(jī)制的邏輯，還有利于減少參數(shù)量（卷積層輸出的特征圖數(shù)量比輸入的更多）。其次，PPA模塊同時(shí)采用2種池化結(jié)構(gòu)，可分別提升注意力模塊對(duì)特征圖的背景特征和目標(biāo)（病害）特征的識(shí)別，進(jìn)而更好地區(qū)分特征圖的重要度。相較于將2種池化操作的輸出通過(guò)同一個(gè)MLP后再求和（每個(gè)神經(jīng)元要先后根據(jù)2種特征值調(diào)整，容易顧此失彼且易傾向針對(duì)于后輸入的特征值進(jìn)行調(diào)整），PPA模塊先在通道維度上拼接2組池化值再經(jīng)過(guò)MLP得到通道重要度，可以有效提升MLP的訓(xùn)練效果。最后，簡(jiǎn)單堆疊注意力模塊，會(huì)在（0，1）范圍內(nèi)對(duì)特征值進(jìn)行重復(fù)加權(quán)，造成特征值的消減，而捷徑連接將注意力模塊的輸入作為輸出的初始值，可避免此問(wèn)題。而且捷徑連接可使注意力模塊學(xué)習(xí)為恒等映射，使得網(wǎng)絡(luò)在訓(xùn)練過(guò)程中，可自行“開關(guān)”注意力模塊，保障注意力模塊不會(huì)造成網(wǎng)絡(luò)精度的降低。

1.3模塊整體構(gòu)建

圖3中下采樣殘差卷積模塊（Downsampling residual convolution module，Down RCM，未采用注意力機(jī)制）用來(lái)將淺層特征組合為高層特征并降低特征圖大小。

采用PyTorch深度學(xué)習(xí)框架構(gòu)建PPA和RCM模塊并完成網(wǎng)絡(luò)模型PARNet的搭建（圖4），該模型由1個(gè)輸入層、1個(gè)7×7大小卷積層、4個(gè)RCM層、13個(gè)PPA層、1個(gè)全連接層和1個(gè)輸出層組合而成。

模型在讀取圖像數(shù)據(jù)后，會(huì)將圖像大小調(diào)整為224×224像素，然后進(jìn)行50%概率的翻轉(zhuǎn)，最后經(jīng)歸一化后輸入到卷積層進(jìn)行特征提取。采用Stochastic gradient descent （SGD）訓(xùn)練網(wǎng)絡(luò)參數(shù)并引入Momentum項(xiàng)抑制SGD的震蕩。在普通的SGD中，參數(shù)的迭代更新公式為：

而引入Momentum項(xiàng)后，參數(shù)的迭代更新公式為：

式中，α（學(xué)習(xí)率）和β為自行設(shè)置的超參數(shù)，β值決定上次的更新值對(duì)本次更新影響。引入Momentum項(xiàng)后，網(wǎng)絡(luò)參數(shù)的每次更新都會(huì)考慮上次的更新值，加強(qiáng)梯度方向與上次梯度方向相同的參數(shù)更新，削減當(dāng)前梯度方向與上一次梯度方向不同的參數(shù)更新。進(jìn)而增加穩(wěn)定性和提升學(xué)習(xí)速度，并且能在一定程度上擺脫局部最優(yōu)解[13]。

1.4遷移學(xué)習(xí)

遷移學(xué)習(xí)可以從以前的任務(wù)之中學(xué)習(xí)知識(shí)或經(jīng)驗(yàn)并將其應(yīng)用于新的任務(wù)之中[14-16]。深度學(xué)習(xí)是一個(gè)數(shù)據(jù)驅(qū)動(dòng)的學(xué)科[17]，普通的機(jī)器學(xué)習(xí)工作者通常難以獲得足夠多的數(shù)據(jù)和強(qiáng)大的算力，很難從零開始訓(xùn)練出足夠優(yōu)秀的CNN網(wǎng)絡(luò)，但已經(jīng)完成訓(xùn)練的模型通常能夠遷移到其他不同的數(shù)據(jù)集上使用[18]。因?yàn)楸M管各個(gè)數(shù)據(jù)集里的圖像不盡相同，但其基本特征大多是常見的，因此可以使用近似的提取方式。

因此，殘差結(jié)構(gòu)的參數(shù)使用ResNet50的預(yù)訓(xùn)練參數(shù)初始化，注意力模塊參數(shù)采用隨機(jī)初始化，對(duì)比試驗(yàn)的模型使用預(yù)訓(xùn)練參數(shù)初始化。以上預(yù)訓(xùn)練參數(shù)由深度學(xué)習(xí)框架Pytorch提供。

1.5試驗(yàn)超參數(shù)設(shè)置

根據(jù)GPU的顯存大小，在每次迭代中，分多個(gè)批次進(jìn)行訓(xùn)練，每個(gè)批次使用32張圖像（即Batch size為32）。訓(xùn)練的Epoch設(shè)為60（訓(xùn)練數(shù)據(jù)從頭到尾過(guò)一遍為1個(gè)Epoch）。初始學(xué)習(xí)率為0.01，采用指數(shù)衰減進(jìn)行調(diào)整，第30個(gè)Epoch時(shí)學(xué)習(xí)率衰減到0.001，第60個(gè)Epoch時(shí)學(xué)習(xí)率衰減到0.000 1。引入權(quán)重衰減，使得權(quán)重能夠衰減到更小的值，減輕模型的過(guò)擬合問(wèn)題，權(quán)重衰減的參數(shù)值為1×10-4。Momentum項(xiàng)的參數(shù)為0.9。

2結(jié)果與分析

2.1試驗(yàn)過(guò)程

試驗(yàn)在具有Tesla P4 GPU的深度學(xué)習(xí)服務(wù)器上進(jìn)行，其Linux系統(tǒng)的版本為4.19.104，Python的版本為3.6.9，Pytorch的版本為1.5.0。完成數(shù)據(jù)劃分和模型搭建后，通過(guò)使用同一套訓(xùn)練代碼調(diào)用不同模型完成相應(yīng)訓(xùn)練，以控制變量。模型PARNet使用Pytorch搭建實(shí)現(xiàn)，對(duì)比網(wǎng)絡(luò)模型由深度學(xué)習(xí)框架Pytorch提供。使用訓(xùn)練集和驗(yàn)證集訓(xùn)練和驗(yàn)證網(wǎng)絡(luò)模型，每個(gè)Epoch中，首先使用訓(xùn)練集訓(xùn)練模型的權(quán)值，然后使用驗(yàn)證集測(cè)試模型的識(shí)別率（此時(shí)不進(jìn)行反向傳播，即不改變模型的權(quán)值），最后保存模型的權(quán)值，并開始下一個(gè)Epoch訓(xùn)練，直至完成60個(gè)Epoch訓(xùn)練。完成訓(xùn)練后，根據(jù)訓(xùn)練過(guò)程中模型在驗(yàn)證集上的表現(xiàn)，選出最優(yōu)權(quán)值（識(shí)別率最高的權(quán)值），并保存為模型文件。測(cè)試時(shí)，加載保存的模型文件，經(jīng)前向傳播后，給出識(shí)別結(jié)果。

2.2PARNet模型的識(shí)別率

統(tǒng)計(jì)訓(xùn)練得到的各個(gè)模型在驗(yàn)證集上的識(shí)別率（表1），計(jì)算方法為：識(shí)別率=預(yù)測(cè)正確的樣本數(shù)/總樣本數(shù)。由表1可知，相比于其他模型，PARNet模型的識(shí)別率提高了2.25%～11.58%，達(dá)到了96.91%，這主要得益于PPA模塊。PARNet模型中PPA模塊能在訓(xùn)練中自學(xué)習(xí)特征圖的注意力信息，抑制與病害無(wú)關(guān)的特征圖的表達(dá)，加強(qiáng)與病害相關(guān)的特征圖的表達(dá)，而RCM模塊負(fù)責(zé)將低層特征圖組合為高層特征圖，通過(guò)兩者的組合提升病害相關(guān)信息在高層的表達(dá)，抑制背景等信息的表達(dá)，進(jìn)而提升模型識(shí)別效果。而將注意力模塊置于卷積之前，為先通過(guò)注意力機(jī)制對(duì)特征進(jìn)行約束增強(qiáng)再提取特征，更符合視覺注意力機(jī)制，還能有效控制參數(shù)量的增加。

使用Python中的THOP（PyTorch-OpCounter）庫(kù)計(jì)算參數(shù)量。除VGG16的參數(shù)量為138.36 M外，其余模型的參數(shù)量均在25 M至29 M之間，這主要得益于對(duì)1×1卷積的使用。而PARNet的注意力模塊通過(guò)并行的池化操作壓縮輸入特征圖，減少了注意力模塊的參數(shù)量，以實(shí)現(xiàn)在提高識(shí)別率的同時(shí)，盡可能減少增加的參數(shù)量。最終其參數(shù)量比ResNet50高出1.26 M，為26.82 M，低于其余模型。

2.3PARNet模型的預(yù)測(cè)結(jié)果

為進(jìn)一步觀察各模型在測(cè)試集（預(yù)測(cè)集）上的表現(xiàn)，通過(guò)混淆矩陣（表2）展示識(shí)別效果前三的ResNet50、SeNet 和PARNet模型在各類病害識(shí)別上的表現(xiàn)?；煜仃囀菣C(jī)器學(xué)習(xí)中總結(jié)分類模型預(yù)測(cè)結(jié)果的情形分析表，以矩陣形式將真實(shí)的類別（每一行為一類真實(shí)類別）與分類模型預(yù)測(cè)的類別（每一列為一類預(yù)測(cè)類別）進(jìn)行匯總。

由表2中的混淆矩陣可以得知ResNet50模型對(duì)番茄花葉病毒病的識(shí)別效果最好，對(duì)早疫病的識(shí)別效果最差，兩者的識(shí)別效果相差7個(gè)百分點(diǎn)左右，每類病害的預(yù)測(cè)結(jié)果中包含的錯(cuò)誤類別較多，共16類識(shí)別錯(cuò)誤。相比于ResNet50模型，SeNet模型識(shí)別效果得到一定提升，且每類病害預(yù)測(cè)出的錯(cuò)誤類別有所減少。而PARNet模型的識(shí)別效果最好，各類病害的識(shí)別效果均優(yōu)于Resnet50模型和SeNet模型，且每類病害預(yù)測(cè)出的錯(cuò)誤類別進(jìn)一步減少，只有11類識(shí)別錯(cuò)誤。

以混淆矩陣中的數(shù)據(jù)為基礎(chǔ)，計(jì)算精確率（表3）以進(jìn)一步分析識(shí)別效果。精確率針對(duì)的是預(yù)測(cè)結(jié)果，表示預(yù)測(cè)結(jié)果中被正確預(yù)測(cè)的比率。精確率計(jì)算公式為：精確率=（A類預(yù)測(cè)為A類）/（A類預(yù)測(cè)為A類+非A類預(yù)測(cè)為A類）。PARNet模型在5類病害上的精確率比ResNet50模型和SeNet模型高出0.09～6.74個(gè)百分點(diǎn)，這得益于依據(jù)注意力思想和殘差思想構(gòu)建的PPA模塊。網(wǎng)絡(luò)模型對(duì)病害的識(shí)別，依賴于對(duì)病害特征的提取，病害特征對(duì)分類決策的貢獻(xiàn)越大，越能取得更好的識(shí)別效果。而借助注意力思想，PPA模塊可通過(guò)對(duì)特征圖的約束增強(qiáng)，給予病害區(qū)域更多的注意力。即減少對(duì)非重要區(qū)域的學(xué)習(xí)，增強(qiáng)對(duì)病害區(qū)域的學(xué)習(xí)，進(jìn)而提高病害特征對(duì)分類決策的貢獻(xiàn)，提升識(shí)別效果。

網(wǎng)絡(luò)提取出的一些病害特征是不同病害共有的，病害之間相似特征越多，越容易出現(xiàn)識(shí)別錯(cuò)誤。更重要的是，病害是一個(gè)動(dòng)態(tài)的發(fā)展過(guò)程，圖像中病害的嚴(yán)重度不一致，若圖像中病害輕微，則不利于提取病害特征，容易導(dǎo)致網(wǎng)絡(luò)給出錯(cuò)誤的識(shí)別結(jié)果。

PARNet模型對(duì)早疫病的識(shí)別精確率最低，為93.07%;對(duì)晚疫病的識(shí)別精確率為95.96%，對(duì)葉霉病和斑枯病的識(shí)別精確率在97.00%左右;對(duì)花葉病毒病的識(shí)別精確率最高，為99.00%。PARNet模型預(yù)測(cè)結(jié)果的精確率平均為96.84%，精確率的最大差值為5.94%，故PARNet模型可為番茄葉部病害的識(shí)別提供參考。

2.4PARNet模型的穩(wěn)定性

圖5和圖6展示了ResNet50、SeNet和PARNet模型在60輪迭代中驗(yàn)證集上的損失函數(shù)值和準(zhǔn)確率的變化?？梢钥闯鲈谟?xùn)練過(guò)程中損失值和準(zhǔn)確率雖然存在一定波動(dòng)，但總體上趨于穩(wěn)定。PARNet模型的損失值和準(zhǔn)確率在訓(xùn)練過(guò)程中無(wú)明顯波動(dòng)， SeNet模型的損失值和準(zhǔn)確率存在少數(shù)大幅度波動(dòng)，ResNet50模型的損失值和準(zhǔn)確率存在較多大幅波動(dòng)。在第7輪迭代之后，PARNet模型的損失值小于ResNet50和SeNet模型，準(zhǔn)確率高于ResNet50和SeNet模型。盡管三者在訓(xùn)練過(guò)程中的變化均相對(duì)穩(wěn)定，但PPA模塊使PARNet模型在訓(xùn)練過(guò)程中盡可能地減少了對(duì)無(wú)關(guān)的特征學(xué)習(xí)，提升了病害特征對(duì)預(yù)測(cè)的貢獻(xiàn)度，避免了學(xué)習(xí)無(wú)用特征導(dǎo)致的損失值和準(zhǔn)確率的波動(dòng)，進(jìn)而取得了更高的穩(wěn)定性和更好的識(shí)別效果。綜上所述，PARNet模型可以為番茄早疫病、晚疫病、葉霉病、斑枯病和花葉病毒病的識(shí)別提供參考。

2.5番茄葉部病害可視化識(shí)別系統(tǒng)設(shè)計(jì)

將模型代碼中與預(yù)測(cè)無(wú)關(guān)的部分（如反向傳播、損失計(jì)算等）去除，僅保留必要的前向傳播部分。經(jīng)測(cè)試在主頻為2.20 GHz的單核CPU（支持超線程）上，如果每次識(shí)別1張圖像，連續(xù)識(shí)別100圖像需27.6 s，平均每張圖像0.276 s。而實(shí)際應(yīng)用中CPU通常在4核8線程以上，主頻也高于2.2 GHz，可通過(guò)并發(fā)或并行計(jì)算等技術(shù)降低識(shí)別所需時(shí)間。如果使用Tesla P4（Compute capability： 6.1）進(jìn)行識(shí)別，同樣每次僅識(shí)別1張圖像，連續(xù)識(shí)別100圖像僅需7.06 s，平均識(shí)別每張圖像僅需0.070 6 s。但是在CPU計(jì)算模式下加載模型需3.23 s，而在GPU計(jì)算模式下需12.87 s。因此模型的參數(shù)加載和調(diào)用接口必須位于全局部分，即在WEB應(yīng)用啟動(dòng)后便完成加載，進(jìn)行識(shí)別時(shí)可直接計(jì)算，不需要先加載參數(shù)再計(jì)算。

Flask是Python環(huán)境下的輕量級(jí) Web 應(yīng)用框架，本研究采用Flask開發(fā)WEB應(yīng)用，通過(guò)網(wǎng)頁(yè)將番茄葉部圖像上傳到識(shí)別服務(wù)器，服務(wù)器完成識(shí)別后，通過(guò)網(wǎng)頁(yè)將識(shí)別結(jié)果反饋給用戶，因而將識(shí)別系統(tǒng)分為用戶端（網(wǎng)頁(yè)界面）與服務(wù)器端。借助于網(wǎng)頁(yè)的便利性，實(shí)現(xiàn)在Linux、Windows、Android等系統(tǒng)下的番茄葉部病害識(shí)別。其交互過(guò)程如圖7所示，圖形界面的效果如圖8至圖11所示。

注冊(cè)時(shí)，用戶密碼經(jīng)MD5算法計(jì)算后和用戶名等信息儲(chǔ)存于數(shù)據(jù)庫(kù)。登錄時(shí)，將輸入密碼經(jīng)同樣的MD5算法計(jì)算后，與數(shù)據(jù)庫(kù)中對(duì)應(yīng)密文比對(duì)，實(shí)現(xiàn)密碼的驗(yàn)證。

完成登錄后方可進(jìn)入圖像上傳界面（圖10）。選擇圖像后，服務(wù)端先對(duì)圖像進(jìn)行預(yù)處理，然后通過(guò)模型得到識(shí)別結(jié)果，根據(jù)識(shí)別結(jié)果給出病害類別及各類病害的概率（圖11），點(diǎn)擊參考意見，會(huì)根據(jù)識(shí)別結(jié)果，跳轉(zhuǎn)到相應(yīng)網(wǎng)站。

3結(jié)論

本研究基于注意力機(jī)制構(gòu)建了PARNet模型對(duì)番茄葉部早疫病、晚疫病、葉霉病、斑枯病、花葉病毒病進(jìn)行識(shí)別，并與VGG16、InceptionV3、ResNet50、SeNet模型進(jìn)行了初步對(duì)比，然后與其中表現(xiàn)較好的ResNet50、SeNet模型進(jìn)行了深入對(duì)比，得出以下結(jié)論：1）PARNet模型的并行注意力機(jī)制能有效區(qū)分特征圖中的背景信息和目標(biāo)信息，將更多的網(wǎng)絡(luò)資源投入到與目標(biāo)相關(guān)特征圖中，更有效地提取病害相關(guān)特征，進(jìn)而具備較高的分類性能，其平均識(shí)別率達(dá)到96.91%，與其他模型相比高出2.25～11.58個(gè)百分點(diǎn)。2）PARNet模型注意力機(jī)制于卷積之前實(shí)現(xiàn)即先劃分輸入信息的重要度再進(jìn)行卷積，能更有效地利用卷積提取目標(biāo)信息，而且不會(huì)干擾捷徑連接通路的反向傳播，可以有效保證前層網(wǎng)絡(luò)的訓(xùn)練效果。3）PARNet模型的預(yù)測(cè)精確率平均為96.84%，精確率的最大差值為5.94%，能為番茄病害識(shí)別提供有效建議。4）訓(xùn)練過(guò)程中未發(fā)生過(guò)度抖動(dòng)，具備較高的穩(wěn)定性。

通過(guò)開發(fā)WEB界面，實(shí)現(xiàn)通過(guò)網(wǎng)頁(yè)完成識(shí)別并獲取識(shí)別結(jié)果，在使用GPU（Compute capability： 6.1）的條件下，平均識(shí)別每張圖像僅需0.070 6 s，能快速給出預(yù)測(cè)結(jié)果。但是模型對(duì)病害的識(shí)別較為單一，不能在同一葉片上對(duì)多種病害進(jìn)行識(shí)別，還依賴單一背景。不同類別病害圖像間病害嚴(yán)重度的分布不一致，對(duì)數(shù)據(jù)的均衡存在影響，影響網(wǎng)絡(luò)的訓(xùn)練。故番茄病害圖像數(shù)據(jù)需進(jìn)一步擴(kuò)充，在保證數(shù)據(jù)量的同時(shí)，保證數(shù)據(jù)的均衡，并進(jìn)一步實(shí)現(xiàn)多病害、多環(huán)境下的識(shí)別，提升實(shí)用性。

參考文獻(xiàn)：

[1]劉子記，杜公福，牛玉，等.番茄主要病害的發(fā)生與防治技術(shù)[J].長(zhǎng)江蔬菜，2019（19）：59-62.

[2]KEERTHI S S， SHECADE S K. SMO algorithm for least-squares SVM formulations[J]. Neural Computation， 2014， 15（2）：487-507.

[3]許偉棟，趙忠蓋. 基于卷積神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)算法的馬鈴薯表面缺陷檢測(cè)[J].江蘇農(nóng)業(yè)學(xué)報(bào)，2018，34（6）：1378-1385.

[4]徐巖，米強(qiáng)，劉斌，等. 基于字典學(xué)習(xí)的煤與矸石圖像特征識(shí)別方法[J].山東科技大學(xué)學(xué)報(bào)（自然科學(xué)版），2018，37（3）：66-72.

[5]LECUN Y， BENGIO Y， HINTON G. Deep learning [J].Nature， 2015， 521（7553）：436-444.

[6]SIMONYAN K， ZISSERMAN A. Very deep convolutional networks for large-scale image recognition[J]. Computer Science， 2014， 14（9）：1409-1556.

[7]SZEGEDY C， LIU W， JIA Y， et al. Going deeper with convolutions[C]// IEEE.2015 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. Boston： IEEE， 2015：1-9.

[8]HE K， ZHANG X， REN S， et al. Deep residual learning for image recognition[C]// IEEE. 2016 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. Boston： IEEE， 2016：770-778.

[9]LETARTE G， PARADIS F， GIGUERE P， et al. Import- ance of self-attention for sentiment analysis[C]// ACL. Proceed- ings of the 2018 EMNLP Workshop BlackboxNLP： Ana- lyzing and Interpreting Neural Networks for NLP. Brus- sels： Association for Computational Linguistics. Brussels： ACL，2018： 267-275.

[10]FU J， ZHENG H， MEI T. Look closer to see better： Recurrent attention convolutional neural network for fine- grained image recognition[C]//IEEE. IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. Honolulu： IEEE， 2017： 4476-4484.

[11]HU J， SHEN L， SUN G. Squeeze-and-excitation networks[C]// IEEE.The IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. Salt Lake City： IEEE，2018：7132-7141.

[12]MOHANTY S P， HUGHES D P， SALATHE M. Using deep learning for image-based plant disease detection[J]. Frontiers in Plant Science， 2016， 7：1419.

[13]RUDER S. An overview of gradient descent optimization algorithms[DB/OL]. （2016-09-15）[2017-6-15]. https：//arxiv.org/abs/1609.04747.

[14]劉嘉政. 基于深度遷移學(xué)習(xí)模型的花卉種類識(shí)別[J].江蘇農(nóng)業(yè)科學(xué)，2019，47（20）：231-236.

[15]莊福振. 遷移學(xué)習(xí)研究進(jìn)展[J]. 軟件學(xué)報(bào)， 2015， 26（1）：26-39.

[16]LONG J， SHELHAMER E， DARRELL T. Fully Convolutional networks for semantic segmentation[J]. IEEE Transactions on Pattern Analysis & Machine Intelligence， 2014， 39（4）：640-651.

[17]王秀美，牟少敏，鄒宗峰，等. 基于深度學(xué)習(xí)的小麥蚜蟲預(yù)測(cè)預(yù)警[J].江蘇農(nóng)業(yè)科學(xué)，2018，46（5）：183-187.

[18]HONG-WEI N， DUNG N， VASSILIOS V， et al. Deep learning for emotion recognition on small datasets using transfer learning[C]// ACM.Proceedings of the 2015 ACM on International Conference on Multimodal Interaction. Seattle： ACM，2015：443-449.

[19]SZEGEDY C， VANHOUCKE V， IOFFE S， et al. Rethinking the inception architecture for computer vision[C]// IEEE.2016 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. Boston： IEEE，2016：2818-2826.

（責(zé)任編輯：張震林）