王明英，王 嘉，裴志遠(yuǎn)，李宇豪，李榮榮

1.山西省大寧縣氣象局，山西大寧 042300；2.山西省吉縣氣象局，山西吉縣 042200；3.山西省曲沃縣氣象局，山西曲沃 043400

番茄是重要的蔬菜作物，全球年總產(chǎn)量達(dá)1.7億 t，在蔬菜作物中位居首位。然而，我國(guó)番茄的病害不少于30種，其中嚴(yán)重發(fā)生、流行地區(qū)日趨擴(kuò)大，且造成明顯減產(chǎn)的病害超過10種，這些病害成為番茄高產(chǎn)穩(wěn)產(chǎn)的一大阻礙[1]。因此，識(shí)別防治番茄葉部病害類型，能有效阻止病害傳播并降低其造成的經(jīng)濟(jì)損失[2]。

柴洋等[3]通過選取5種番茄葉片病害部位較明顯的特征，并根據(jù)該特征值采用貝葉斯分類器對(duì)番茄3種病害進(jìn)行識(shí)別，準(zhǔn)確率達(dá)到92%以上。郭小清等[4]根據(jù)番茄葉部病害的特點(diǎn)，對(duì)AlexNet采取多種尺度卷積、去除局部的歸一化層等操作，減少了網(wǎng)絡(luò)參數(shù)量，該模型的識(shí)別準(zhǔn)確率可達(dá)到92.7%。胡志偉等[5]提出一種網(wǎng)絡(luò)ARNet，在殘差網(wǎng)絡(luò)上引入注意力機(jī)制，提高了番茄病害識(shí)別的細(xì)粒度水平和魯棒性，識(shí)別準(zhǔn)確率可達(dá)到88.2%。

隨著深度學(xué)習(xí)模型的不斷發(fā)展，為適應(yīng)更復(fù)雜的環(huán)境，網(wǎng)絡(luò)層的設(shè)計(jì)都朝著深度化方向發(fā)展。然而，由于計(jì)算量大、存儲(chǔ)成本高、模型復(fù)雜、硬件要求高等特性，使得深度學(xué)習(xí)無(wú)法有效地應(yīng)用于輕量級(jí)移動(dòng)便攜設(shè)備[6-7]。因此，在保證模型識(shí)別準(zhǔn)確率的前提下，應(yīng)該盡量壓縮模型復(fù)雜度。本研究分析了ResNet18網(wǎng)絡(luò)的不足之處，并在其主體結(jié)構(gòu)的基礎(chǔ)上，采用了一種改進(jìn)型網(wǎng)絡(luò)—Multi-scale ResNet[8]。對(duì)該模型分別采用不同epoch進(jìn)行訓(xùn)練，以判斷模型的收斂情況和穩(wěn)定性。

1 番茄葉部病害識(shí)別方法研究

1.1 試驗(yàn)流程設(shè)計(jì)

采用深度學(xué)習(xí)的通用流程進(jìn)行試驗(yàn)，設(shè)置好訓(xùn)練參數(shù)后劃分?jǐn)?shù)據(jù)集，并對(duì)數(shù)據(jù)進(jìn)行預(yù)處理、數(shù)據(jù)增強(qiáng)操作，然后將數(shù)據(jù)讀入內(nèi)存；構(gòu)建網(wǎng)絡(luò)模型，定義損失函數(shù)和優(yōu)化器，然后使用該模型對(duì)讀入數(shù)據(jù)集進(jìn)行訓(xùn)練，將訓(xùn)練好的模型用于測(cè)試集，預(yù)測(cè)識(shí)別效果，對(duì)該模型的性能進(jìn)行評(píng)估。

1.2 試驗(yàn)參數(shù)設(shè)置

本試驗(yàn)采用的軟件環(huán)境為：Windows 64位系統(tǒng)，TensorFlow 2.4.0配合Cuda11.0進(jìn)行訓(xùn)練，Python編程語(yǔ)言（Python 3.8.5），使用Jupyter Notebook實(shí)現(xiàn)。

硬件環(huán)境：計(jì)算機(jī)內(nèi)存16 GB；處理器為AMD Ryzen 7 4800H with Radeon Graphics，2.90 GHz；GPU為NVIDIA GeForce RTX 2060，6 GB顯存。

部分參數(shù)設(shè)置：網(wǎng)絡(luò)批處理大小（batch-size）設(shè)置為32，樣本輸入尺寸采用224×224，所有網(wǎng)絡(luò)模型迭代次數(shù)（epoch）均為20輪。

1.3 數(shù)據(jù)準(zhǔn)備

1.3.1 數(shù)據(jù)集 本試驗(yàn)選取的數(shù)據(jù)集是來(lái)自PlantVillage的5種番茄葉片圖像，包含4種病害標(biāo)簽和1種健康樣本標(biāo)簽，圖像總數(shù)為7 551張。表1為數(shù)據(jù)集詳細(xì)信息，圖1為番茄數(shù)據(jù)集病害樣本示例。

圖1 番茄數(shù)據(jù)集病害樣本

表1 試驗(yàn)數(shù)據(jù)庫(kù) 張

1.3.2 數(shù)據(jù)預(yù)處理與增強(qiáng) 原始數(shù)據(jù)集文件夾下有5個(gè)番茄類別文件，每個(gè)類別下有若干張同種病害圖片，定義一個(gè)python文件用來(lái)劃分?jǐn)?shù)據(jù)集，通過隨機(jī)打亂操作將原始數(shù)據(jù)集按照6∶2∶2的比例劃分為訓(xùn)練集、驗(yàn)證集、測(cè)試集。

本研究中數(shù)據(jù)增強(qiáng)采用了7種方式：①隨機(jī)左右翻轉(zhuǎn)；②隨機(jī)裁剪；③剪切或填充圖像；④隨機(jī)調(diào)節(jié)亮度，最大變化范圍為原來(lái)的0.6；⑤隨機(jī)調(diào)節(jié)色度，最大變化范圍為原來(lái)的0.5；⑥隨機(jī)調(diào)節(jié)對(duì)比度，最低設(shè)置為0.2，最高設(shè)置為1.8；⑦隨機(jī)調(diào)節(jié)飽和度，最低設(shè)置為0.2，最高設(shè)置為1.8。

1.4 病害圖像識(shí)別模型

1.4.1 ResNet18介紹 ResNet18一共有18層，網(wǎng)絡(luò)輸入為224×224×3，經(jīng)過size=7×7、stride=2的大卷積核后圖像降維到112×112，輸出通道為64；經(jīng)過一個(gè)size=3×3，stride=2的最大池化層后圖像降維至56×56，輸出通道不改變；然后進(jìn)入殘差部分，每一個(gè)殘差塊由2個(gè)basic-block組成，而basic-block將輸入數(shù)據(jù)分為2條通道，一條通道將輸入直接傳到后邊短接，另一條通道經(jīng)過2個(gè)3×3卷積，2條通道進(jìn)行相加并由經(jīng)過Relu激活函數(shù)輸出，第一次殘差操作不使用下采樣，圖像尺寸為56×56，通道數(shù)仍為64，接下來(lái)每經(jīng)歷一次殘差操作后圖像降維至原先一半，通道數(shù)增加為原來(lái)2倍，經(jīng)歷3次殘差操作后圖像尺寸為7×7，通道數(shù)增加至512；最后連接池化層和全連接層。ResNet18通過殘差連接解決了梯度消失的問題，然而在資源受限的場(chǎng)景下，該模型仍存在參數(shù)多、特征提取尺寸單一等問題。

1.4.2 改進(jìn)型Multi-scale ResNet 本研究針對(duì)ResNet18的不足之處，采用了一種改進(jìn)版本的Multi-scale ResNet，網(wǎng)絡(luò)參數(shù)見表2。

表2 Multi-scale ResNet網(wǎng)絡(luò)參數(shù)

該網(wǎng)絡(luò)模型基于ResNet18的主體架構(gòu)，在以下4個(gè)方面做了改進(jìn)：

（1）殘差層連接方式。在ResNet18中，網(wǎng)絡(luò)只學(xué)習(xí)相鄰2個(gè)卷積層的殘差來(lái)更新參數(shù)，而改進(jìn)后的模型使用了2層殘差連接，在學(xué)習(xí)3個(gè)相鄰卷積層誤差的同時(shí)可以學(xué)習(xí)到相鄰2個(gè)網(wǎng)絡(luò)層的誤差。

（2）特征圖降維方式。ResNet18的降維卷積層放在殘差模塊里，然后將殘差模塊兩兩相連；改進(jìn)后的模型將殘差模塊之間的特征圖降維卷積層放置于2個(gè)殘差模塊之間，在學(xué)習(xí)層間誤差的同時(shí)可以學(xué)到輸出特征，有效地降低網(wǎng)絡(luò)復(fù)雜度。

（3）特征提取尺度。ResNet18通過單尺度卷積層的堆疊實(shí)現(xiàn)圖像特征提取，但現(xiàn)實(shí)中番茄葉片病害癥狀復(fù)雜，病斑部位、大小、顏色等均不相同，有些病害早晚期癥狀也不相同，因此改進(jìn)后的Multi-scale ResNet進(jìn)行多尺度特征提取來(lái)擴(kuò)大感受野的范圍。本網(wǎng)絡(luò)將殘差通道設(shè)置為雙通道，第一個(gè)通道為size=7×7的卷積層疊加size=3×3的卷積層，第二個(gè)通道為size=5×5的卷積層疊加size=3×3的卷積層，最后輸出時(shí)將2個(gè)通道相加，重復(fù)2次，構(gòu)成多尺度特征提取殘差模塊。

（4）卷積核。由于改進(jìn)后的Multiscale ResNet獲取多尺度特征的同時(shí)會(huì)導(dǎo)致網(wǎng)絡(luò)的參數(shù)增加，因此需要對(duì)大卷積核分解來(lái)壓縮模型的參數(shù)量。大卷積核拆分有2種方法：對(duì)稱拆分和非對(duì)稱拆分，2種方法都可以保證分解后的卷積核感受野不改變且參數(shù)下降，理論分析非對(duì)稱拆分參數(shù)量更少，效果更明顯。

1.5 損失函數(shù)和優(yōu)化器

損失函數(shù)也叫目標(biāo)函數(shù)，通過計(jì)算預(yù)測(cè)出的結(jié)果與真實(shí)結(jié)果之間的距離衡量當(dāng)前任務(wù)是否已經(jīng)完成。本試驗(yàn)中，讀取標(biāo)簽的方法是建立一個(gè)字典類型的數(shù)據(jù)結(jié)構(gòu)，將標(biāo)簽轉(zhuǎn)換為對(duì)應(yīng)的整型索引，由于標(biāo)簽是數(shù)字編碼，且屬于單標(biāo)簽多分類問題，因此采用的損失函數(shù)是SparseCategoricalCrossentropy()。

優(yōu)化器是將損失函數(shù)作為其第一個(gè)參數(shù)，決定采用什么樣的方式對(duì)網(wǎng)絡(luò)進(jìn)行更新，以降低損失值。在本試驗(yàn)中，優(yōu)化器使用的是SGD的一種變體形式——RMSprop。

1.6 模型訓(xùn)練

對(duì)模型進(jìn)行編譯后，將數(shù)據(jù)加載進(jìn)模型開始迭代訓(xùn)練，本試驗(yàn)中batch size=32，epoch=20。

1.7 模型評(píng)估與預(yù)測(cè)

完成訓(xùn)練循環(huán)后，保存模型的權(quán)重信息，將訓(xùn)練好的模型應(yīng)用于測(cè)試集數(shù)據(jù)，計(jì)算其準(zhǔn)確率，完成模型評(píng)估。本研究用到的模型量化指標(biāo)如下。

（1）準(zhǔn)確率。在測(cè)試集上得到正確的分類結(jié)果的樣本數(shù)所占參與測(cè)試的總樣本的比率。計(jì)算公式如下：

（2）模型參數(shù)和模型尺寸。隨著網(wǎng)絡(luò)模型的精度提高，模型尺寸隨之發(fā)生變化，過于復(fù)雜龐大的網(wǎng)絡(luò)模型需要大量的空間和運(yùn)算開銷，使得在硬件資源環(huán)境受限的情況下具有一定的局限性，因此模型尺寸的大小也是評(píng)估模型的一個(gè)重要指標(biāo)。

2 結(jié)論

表3為Multi-scale ResNet在番茄葉部病害數(shù)據(jù)集上的正確分類識(shí)別率，圖2為該模型單張圖片預(yù)測(cè)結(jié)果圖。

綜上可以得出，多尺度的殘差模塊與小卷積核的結(jié)合會(huì)產(chǎn)生意想不到的效果。本研究采用的改進(jìn)型的網(wǎng)絡(luò)模型可以使得識(shí)別準(zhǔn)確率與網(wǎng)絡(luò)復(fù)雜度之間達(dá)到較好的平衡，為番茄葉片病害識(shí)別系統(tǒng)提出了一種更好的模型，為硬件資源受限、對(duì)模型大小有限制要求的邊緣部署提供了新方法。