趙明巖，李一欣，徐 鵬，宋天月，李煥然

（1.中國(guó)計(jì)量大學(xué)機(jī)電工程學(xué)院，杭州 310018；2.中國(guó)計(jì)量大學(xué)理學(xué)院，杭州 310018）

0 引 言

黑皮雞樅菌（Oudemansiella raphanipes）作為一種高檔菌菇，富含蛋白質(zhì)、氨基酸等多種營(yíng)養(yǎng)物質(zhì)，在降血糖、降血脂、抗癌等方面具有獨(dú)特的生理功效[1]，具有較高的研究與開(kāi)發(fā)價(jià)值。近年來(lái)隨著消費(fèi)水平的提高，其市場(chǎng)規(guī)模逐年擴(kuò)大。雞樅菌各級(jí)別之間的價(jià)格可相差數(shù)倍，為使經(jīng)濟(jì)效益最大化，須將品相飽滿、外形勻稱(chēng)的雞樅菌與叢生菇、無(wú)傘菇區(qū)分開(kāi)來(lái)。然而傳統(tǒng)的人工分選方式存在效率低、一致性差等問(wèn)題。隨著云南、貴州等地的大面積種植和產(chǎn)量大幅提高，人工分選方式已經(jīng)不能滿足生產(chǎn)需求。

機(jī)器視覺(jué)技術(shù)[2-5]在特定的環(huán)境條件下可快速、高精度地檢測(cè)單一目標(biāo)，但當(dāng)外界因素如光照等發(fā)生變化時(shí)，檢測(cè)結(jié)果會(huì)出現(xiàn)一定偏差。而基于深度學(xué)習(xí)的圖像檢測(cè)系統(tǒng)可學(xué)習(xí)識(shí)別不同環(huán)境下的目標(biāo)，目前被廣泛用于谷物[6-7]、畜牧[8-10]、蔬果[11-13]等諸多領(lǐng)域。在搭建蘑菇數(shù)據(jù)集方面，袁培森等[14]在基于生成式對(duì)抗網(wǎng)絡(luò)（Generative Adversarial Networks, GAN）的基礎(chǔ)上使用Wasserstein距離和帶有梯度懲罰的損失函數(shù)構(gòu)建菌菇數(shù)據(jù)模型，為后期解決珍稀菌菇分類(lèi)數(shù)據(jù)非均衡的問(wèn)題提供了研究基礎(chǔ)。在蘑菇分級(jí)系統(tǒng)方面，Lin等[15]采用長(zhǎng)短期記憶網(wǎng)絡(luò)（Long Short-Term Memory，LSTM）對(duì)蘑菇進(jìn)行實(shí)時(shí)跟蹤分級(jí)，可準(zhǔn)確定位蘑菇，并能預(yù)測(cè)蘑菇在攝像機(jī)視野之外的位置，但分級(jí)時(shí)間長(zhǎng)，效率低。Lu等[16]采用基于計(jì)分懲罰算法（Score-Punishment algorithm）的YOLOv3進(jìn)行蘑菇的估計(jì)分級(jí)，對(duì)于不同時(shí)期采集的蘑菇圖像，該算法具有很強(qiáng)的魯棒性，能夠克服顏色偏差對(duì)估計(jì)精度的影響，但不適用于黑皮雞樅菌的品質(zhì)分選。

綜上，國(guó)內(nèi)外學(xué)者基于深度學(xué)習(xí)技術(shù)對(duì)農(nóng)產(chǎn)品的精選分級(jí)進(jìn)行了廣泛研究，但目前針對(duì)黑皮雞樅菌的研究以營(yíng)養(yǎng)方面[17-18]為主，圖像分級(jí)識(shí)別方面的研究未見(jiàn)述及。目前深度學(xué)習(xí)領(lǐng)域的研究主要分為兩類(lèi)[19]：第一類(lèi)模型參數(shù)量大，精度高，但單幅識(shí)別時(shí)間長(zhǎng)；第二類(lèi)模型參數(shù)量小，識(shí)別速度快，但精度低。由于黑皮雞樅菌分級(jí)特征不顯著，對(duì)深度學(xué)習(xí)模型要求高，而現(xiàn)有網(wǎng)絡(luò)模型適用性低，無(wú)法滿足雞樅菇分級(jí)需求。近年來(lái)知識(shí)蒸餾算法[20-23]在解決優(yōu)化模型效率的問(wèn)題中頗受青睞，該算法通過(guò)大參數(shù)模型去訓(xùn)練小參數(shù)模型，可在不提高資源占用的前提下，提升小參數(shù)模型精度。本文針對(duì)黑皮雞樅菌特征分級(jí)的實(shí)際需求，構(gòu)建Resnet18基礎(chǔ)網(wǎng)絡(luò)結(jié)構(gòu)，并通過(guò)復(fù)合知識(shí)蒸餾優(yōu)化模型，以實(shí)現(xiàn)雞樅菌自動(dòng)品質(zhì)分級(jí)，為雞樅菌分級(jí)生產(chǎn)線的應(yīng)用提供技術(shù)支持。

1 材料與圖像采集

選用由貴州省水城縣營(yíng)盤(pán)鄉(xiāng)雞樅養(yǎng)殖基地（26°8′～26°15′N(xiāo)，140°40′～140°47′E）提供的黑皮雞樅菌作為試驗(yàn)材料，其收獲時(shí)間為2020年11月1日。參考菇業(yè)標(biāo)準(zhǔn)[24]，按照菇柄、菇蓋、色澤等因素將雞樅菌分為4類(lèi)：一級(jí)菇、二級(jí)菇、無(wú)傘菇、叢生菇，如圖1所示。一級(jí)菇為菇柄飽滿且菌帽未開(kāi)張的雞樅菌；二級(jí)菇為菇柄細(xì)長(zhǎng)、菌帽平展的雞樅菌；而無(wú)傘菇及叢生菇均存在一定的缺陷，屬于次品菇。

采用工業(yè)相機(jī)（有效像素為2 592×1 944）垂直拍攝雞樅菌樣本，拍攝條件為室內(nèi)環(huán)形燈光照，將待分級(jí)雞樅菌隨機(jī)擺放，拍攝4個(gè)品類(lèi)（均為750根）雞樅共3 000幅圖像，圖像采集裝置如圖2所示。

使用Python語(yǔ)言對(duì)得到的雞樅圖像進(jìn)行預(yù)處理。首先計(jì)算圖像中每一根雞樅菌的最小外接矩的二維坐標(biāo)，從而在原始圖像中分割出每一個(gè)雞樅菌的RGB圖像。由于卷積神經(jīng)網(wǎng)絡(luò)的輸入圖像一般為正方形，因此將單根雞樅菌圖像擴(kuò)展為正方形。采用Retinex算法對(duì)雞樅菌圖像進(jìn)行色彩平衡、歸一化、增益及偏差線性加權(quán)處理。Retinex算法的目的是突出顯示選定的特征及弱化其他無(wú)關(guān)特征，通過(guò)對(duì)缺陷進(jìn)行補(bǔ)償，可改善低質(zhì)圖像，并能使其更清晰地被觀察到[25-26]。

式中x為像素點(diǎn)的行坐標(biāo)，y為像素點(diǎn)的列坐標(biāo)，F(xiàn)(x,y)為中心環(huán)繞函數(shù)，λ為尺度值，c為高斯環(huán)繞尺度，Ri(x,y)為反射圖像，Ii(x,y)為原始圖像，Li(x,y)為圖像亮度，ri(x,y)為輸出圖像。

隨后進(jìn)行數(shù)據(jù)增強(qiáng)操作，對(duì)樣本數(shù)據(jù)按任意順序隨機(jī)添加下列三種擴(kuò)充方法：旋轉(zhuǎn)、隨機(jī)裁剪、增加圖像高斯噪聲來(lái)豐富數(shù)據(jù)集，將3 000幅圖像擴(kuò)充為6 000幅，同時(shí)按照8:2的比例，將4 800幅雞樅菌圖像作為訓(xùn)練集，其余1 200幅圖像作為驗(yàn)證集。

2 卷積神經(jīng)網(wǎng)絡(luò)基本框架

2.1 ResNet神經(jīng)網(wǎng)絡(luò)基本框架

卷積神經(jīng)網(wǎng)絡(luò)模型與傳統(tǒng)網(wǎng)絡(luò)模型相比，一方面降低了訓(xùn)練的參數(shù)量，另一方面降低了模型的復(fù)雜度，且提取的圖像特征（如顏色、紋理、形狀及圖像的拓?fù)浣Y(jié)構(gòu)）具有更高的準(zhǔn)確性[27]。早期的卷積模型如LeNet5[28]、AlexNet[29]、VGGNet[30]等在網(wǎng)絡(luò)層數(shù)較低的情況下，可以有效對(duì)整個(gè)網(wǎng)絡(luò)的參數(shù)矩陣進(jìn)行不斷調(diào)整。但隨著網(wǎng)絡(luò)層數(shù)不斷加深，來(lái)自結(jié)果的誤差信號(hào)在傳播過(guò)程中會(huì)逐漸消失，模型準(zhǔn)確率反而下降。而Resnet引入了殘差網(wǎng)絡(luò)結(jié)構(gòu)（residual network），通過(guò)這種殘差網(wǎng)絡(luò)結(jié)構(gòu)，在加深網(wǎng)絡(luò)層的同時(shí)，最終的分類(lèi)精度也得到提升[31]。

殘差網(wǎng)絡(luò)的基本結(jié)構(gòu)如圖3所示，通過(guò)捷徑連接的方式將輸入x添加到輸出，即輸出結(jié)果為H(x)=F(x)+x。區(qū)別于早期神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，Resnet的學(xué)習(xí)目標(biāo)不再是單一的輸出，而是殘差塊F(x)，即H(x)和x的差值。當(dāng)進(jìn)行鏈?zhǔn)角髮?dǎo)來(lái)求得某個(gè)參數(shù)的偏導(dǎo)數(shù)時(shí)，傳統(tǒng)模型僅對(duì)一層網(wǎng)絡(luò)求偏導(dǎo)時(shí)的更新公式為

式中Loss為損失值，X為樣本，W為權(quán)值，b為偏置數(shù)。

當(dāng)網(wǎng)絡(luò)足夠深的時(shí)候，求偏導(dǎo)的結(jié)果趨近于0，使得前端網(wǎng)絡(luò)得不到有效更新：

式中Xi(i∈1…N)為第i層樣本值，Wi(i∈1…N)為第i層權(quán)值，bi(i∈1…N)為第i層偏置數(shù)，F(xiàn)i(i∈1…N)為第i層非線性映射殘差函數(shù)。

而當(dāng)增添殘差塊之后，偏導(dǎo)結(jié)果如下所示：

此時(shí)，參數(shù)反饋中的梯度彌散問(wèn)題得到解決，并且函數(shù)擬合F(x)=0會(huì)比F(x)=x更加容易，使得網(wǎng)絡(luò)結(jié)構(gòu)對(duì)參數(shù)的變化更加敏銳。

本文主干網(wǎng)絡(luò)是在Resnet18網(wǎng)絡(luò)結(jié)構(gòu)基礎(chǔ)上改進(jìn)而來(lái)，如圖4所示。網(wǎng)絡(luò)采用了殘差網(wǎng)絡(luò)結(jié)構(gòu)且在每2個(gè)卷積層接1個(gè)殘差鏈接，網(wǎng)絡(luò)共包括17個(gè)卷積層，1個(gè)池化層，1個(gè)全連接層。其中卷積核尺寸為3×3，池化層采用Avg Pool。

2.2 函數(shù)選取及網(wǎng)絡(luò)優(yōu)化

Adam優(yōu)化器來(lái)源于自適應(yīng)矩估計(jì)（Adaptive Moment Estimation），其迭代參數(shù)的學(xué)習(xí)率有一定的范圍，不會(huì)因梯度變化而大幅偏移設(shè)定值，參數(shù)值相對(duì)比較穩(wěn)定。

式中t為時(shí)間步數(shù)，θt為更新梯度，ft(θ)為關(guān)于θ的隨機(jī)目標(biāo)函數(shù)，?θ為對(duì)θ求偏導(dǎo)，gt為梯度值，β1，β2∈[0,1)為指數(shù)衰減率，mt為一階矩的估計(jì)值，?tm為經(jīng)過(guò)偏差修正的一階矩估計(jì)值，vt為二階矩的估計(jì)值，v?t為經(jīng)過(guò)偏差修正的二階矩估計(jì)值，α為步長(zhǎng)，ε為任意小的正數(shù)。

訓(xùn)練精度曲線可以檢測(cè)模型的運(yùn)行情況，優(yōu)化器分別選用Adam和Adadelata，其他參數(shù)保持初始狀態(tài)，對(duì)驗(yàn)證集進(jìn)行1 000次迭代訓(xùn)練后的精度變化曲線如圖5所示，預(yù)測(cè)精度為預(yù)測(cè)標(biāo)簽是正確標(biāo)簽的概率。可得Adam優(yōu)化器的訓(xùn)練速度以及精度明顯優(yōu)于Adadelata優(yōu)化器，可使神經(jīng)網(wǎng)絡(luò)模型收斂速度加快，縮短模型訓(xùn)練時(shí)間。

3 復(fù)合知識(shí)蒸餾算法

隨著Resnet卷積神經(jīng)網(wǎng)絡(luò)提出殘差網(wǎng)絡(luò)結(jié)構(gòu)，網(wǎng)絡(luò)深度不斷延伸，大網(wǎng)絡(luò)模型逐漸投入使用。雖然大網(wǎng)絡(luò)模型擁有較高的準(zhǔn)確性，但在部署階段需占用巨大的內(nèi)存資源，且運(yùn)行極其耗時(shí)。而農(nóng)業(yè)領(lǐng)域針對(duì)農(nóng)產(chǎn)品識(shí)別時(shí)，要求神經(jīng)網(wǎng)絡(luò)模型資源占用少、響應(yīng)速度快。為實(shí)現(xiàn)上述目的，需將大參數(shù)模型壓縮成小參數(shù)量模型，且保證模型準(zhǔn)確率。知識(shí)蒸餾算法的提出為解決上述問(wèn)題提供了一種新的思路。

3.1 知識(shí)蒸餾基本結(jié)構(gòu)

知識(shí)蒸餾方法用教師模型（大參數(shù)模型）去訓(xùn)練學(xué)生模型（小參數(shù)模型），提供學(xué)生模型在hard label（硬標(biāo)簽）上無(wú)法習(xí)得的soft label（軟標(biāo)簽）信息。相比于學(xué)習(xí)單一正確標(biāo)簽，通過(guò)知識(shí)蒸餾學(xué)生模型能學(xué)習(xí)到預(yù)測(cè)目標(biāo)的類(lèi)別權(quán)重，這些類(lèi)別權(quán)重是學(xué)生模型提取不到而教師模型可通過(guò)訓(xùn)練得到的，從而在不提高資源占用的情況下，使得學(xué)生模型精度得到提高，知識(shí)蒸餾基本結(jié)構(gòu)如圖6所示。

3.2 復(fù)合知識(shí)蒸餾算法提取模型

本研究數(shù)據(jù)測(cè)試選用ImageNet-1k訓(xùn)練集，通過(guò)對(duì)Resnet18、Resnet34、Resnet50 3個(gè)模型進(jìn)行訓(xùn)練得到各自模型信息如表1所示，F(xiàn)LOPS為每秒浮點(diǎn)運(yùn)算次數(shù)，Top1準(zhǔn)確率為預(yù)測(cè)標(biāo)簽中概率最大的標(biāo)簽是正確標(biāo)簽的概率，Top5準(zhǔn)確率為預(yù)測(cè)標(biāo)簽中概率排列前五的標(biāo)簽中出現(xiàn)正確標(biāo)簽的概率。已知教師模型采用更深的網(wǎng)絡(luò)層數(shù)，能使學(xué)生模型更加有效地提高其預(yù)測(cè)準(zhǔn)確率[20]，本文選用Resnet18為學(xué)生模型，即本文主體網(wǎng)絡(luò)；Resnet50為教師模型，負(fù)責(zé)優(yōu)化學(xué)生模型參數(shù)。

?

卷積操作可在降低圖片尺寸的前提下，提取雞樅菌形狀特征，減少卷積神經(jīng)網(wǎng)絡(luò)的運(yùn)算量。本文采用截留網(wǎng)絡(luò)輸入層傳輸至中間層的參數(shù)信息方法，觀察Resnet18第9層及Resnet50中第25層的圖像特征信息，所得結(jié)果如圖7所示。

通過(guò)對(duì)比第9次卷積操作和第25次卷積操作后提取的圖像特征，能夠發(fā)現(xiàn)隨著卷積層的加深，網(wǎng)絡(luò)模型更容易提取到雞樅的深層特征。目前知識(shí)蒸餾算法僅通過(guò)輸出的soft label信息更新整體學(xué)生模型，導(dǎo)致模型更新信息在傳遞過(guò)程中仍存在一定程度的失真現(xiàn)象。為更加充分利用特征信息，本文提出了一種基于復(fù)合知識(shí)蒸餾提取模型的黑皮雞樅菌分級(jí)檢測(cè)方法，同時(shí)在模型的不同位置使用知識(shí)蒸餾，其網(wǎng)絡(luò)結(jié)構(gòu)如圖8所示。

首先使用訓(xùn)練集對(duì)教師模型（Resnet50）進(jìn)行1 000次訓(xùn)練，直到其預(yù)測(cè)準(zhǔn)測(cè)率達(dá)到最大值，隨后截留Resnet50第25次卷積操作的輸出對(duì)學(xué)生模型（Resnet18）的前9層卷積模型進(jìn)行參數(shù)訓(xùn)練。學(xué)生模型能夠在訓(xùn)練過(guò)程中通過(guò)學(xué)習(xí)教師模型的輸出不斷地調(diào)整權(quán)重信息，使其獲得較優(yōu)結(jié)果。最后將經(jīng)過(guò)預(yù)訓(xùn)練的學(xué)生模型的前9層卷積模型與其后半部分進(jìn)行拼接，進(jìn)行整體模型的知識(shí)蒸餾。

4 試驗(yàn)與結(jié)果分析

4.1 試驗(yàn)平臺(tái)

對(duì)一級(jí)菇、二級(jí)菇、無(wú)傘菇、叢生菇等4種品質(zhì)進(jìn)行分級(jí)，測(cè)試硬件為Intel Core i7-9700F 3.00 GHz，內(nèi)存16GB，配備N(xiāo)VIDIA GeForce RTX 2060 GPU加速試驗(yàn)進(jìn)程，試驗(yàn)運(yùn)行環(huán)境為Windows 10(64位)操作系統(tǒng)，PyCharm2019版本，Python 3.7版本, Tensorflow 2.1版本。

4.2 試驗(yàn)參數(shù)設(shè)置

每次訓(xùn)練選取的樣本數(shù)量為4 800幅，迭代共1 000次，采用Adam優(yōu)化器，初始學(xué)習(xí)率為0.001。在每層之間添加BatchNormalization層[32]，BN層可以使得非線性變換函數(shù)的輸入值落入對(duì)輸入比較敏感的區(qū)域。同時(shí)在輸入層之后和全連接層之前分別添加Drop-out層，Drop-out雖會(huì)影響整個(gè)模型的訓(xùn)練速度，但可提升魯棒性，使最終準(zhǔn)確率得到提高。

4.3 結(jié)果分析

為驗(yàn)證復(fù)合蒸餾提取模型的有效性，將其與改進(jìn)前的Resnet18與Resnet50模型在訓(xùn)練集上進(jìn)行雞樅菇識(shí)別結(jié)果比較，具體定量識(shí)別結(jié)果如表2所示，其中準(zhǔn)確率為預(yù)測(cè)值與真值相符合的概率。由表2可知，經(jīng)過(guò)復(fù)合蒸餾的Resnet18識(shí)別準(zhǔn)確率為96.89%，識(shí)別單幅圖像所用時(shí)間為0.032 s。本文模型相比Resnet50識(shí)別單幅圖像所用時(shí)間縮短68.93%，同時(shí)相比于未經(jīng)過(guò)知識(shí)蒸餾以及經(jīng)過(guò)單次知識(shí)蒸餾的Resnet18模型，準(zhǔn)確率分別提升了0.97和0.52個(gè)百分點(diǎn)。準(zhǔn)確率改善的原因在于：傳統(tǒng)神經(jīng)網(wǎng)絡(luò)反向傳播參數(shù)更新時(shí)，每經(jīng)過(guò)一層卷積層就存在一定的失真現(xiàn)象。隨著網(wǎng)絡(luò)結(jié)構(gòu)的加深，模型前幾層往往得不到有效的更新信號(hào)，而本文Resnet網(wǎng)絡(luò)使結(jié)構(gòu)對(duì)參數(shù)的變化更加敏銳，且知識(shí)蒸餾技術(shù)可以給學(xué)生模型提供在hard label上學(xué)不到的soft label信息。本文提出的復(fù)合知識(shí)蒸餾技術(shù)讓學(xué)生模型的前半部分預(yù)先學(xué)習(xí)高階特征信息，然后再對(duì)模型整體進(jìn)行參數(shù)調(diào)整?？墒蛊涓映浞值匚战處熌Ｐ椭械闹R(shí)，改善反饋參數(shù)在傳遞過(guò)程中梯度彌散現(xiàn)象。因此，本文提出的基于復(fù)合蒸餾的Resnet18可在不增加硬件配置以及運(yùn)行時(shí)間的前提下，顯著提升雞樅菌識(shí)別及分級(jí)精度。

表2 訓(xùn)練集下模型使用復(fù)合知識(shí)蒸餾與未使用知識(shí)蒸餾的對(duì)比Table 2 Comparison between the training set model by compound knowledge distillation and that without knowledge distillation

混淆矩陣是用于評(píng)估深度學(xué)習(xí)分類(lèi)模型性能的矩陣，它將實(shí)際目標(biāo)值與深度學(xué)習(xí)模型預(yù)測(cè)的目標(biāo)值進(jìn)行比較，有助于分析分類(lèi)模型的性能情況。本文模型分類(lèi)的混淆矩陣如圖9所示，使用數(shù)據(jù)集為驗(yàn)證集，圖像總數(shù)為1 200幅，4類(lèi)雞樅菌數(shù)量均為300幅，通過(guò)混淆矩陣可以看出，模型對(duì)4類(lèi)雞樅菌的識(shí)別準(zhǔn)確率都處于較高水平，其平均準(zhǔn)確率為96.58%。其中無(wú)傘菇及叢生菇準(zhǔn)確率較高，分別為97.67%、99.00%，說(shuō)明形狀特征差異越顯著，越利于模型學(xué)習(xí)，而參數(shù)訓(xùn)練誤差產(chǎn)生了少數(shù)錯(cuò)誤預(yù)測(cè)樣本；一級(jí)菇及二級(jí)菇準(zhǔn)確率相對(duì)較低，分別為95.33%、94.33%，這是由于二者形狀特征重疊度高，不易于區(qū)分造成的。進(jìn)一步增強(qiáng)不同雞樅菇特征之間的可區(qū)分性是下一步研究重點(diǎn)。

Kappa系數(shù)是一致性檢驗(yàn)指標(biāo)，可用于衡量分類(lèi)效果，由混淆矩陣數(shù)據(jù)計(jì)算得出。

式中po表示模型準(zhǔn)確率，pe表示各自類(lèi)別的實(shí)際數(shù)量與其預(yù)測(cè)數(shù)量乘積的總和除以樣本總數(shù)的平方。

本研究中不同網(wǎng)絡(luò)模型的Kappa系數(shù)如表3所示，其中經(jīng)過(guò)雙蒸餾的學(xué)生模型的模型準(zhǔn)確率為0.968 9，各自類(lèi)別的實(shí)際數(shù)量與其預(yù)測(cè)數(shù)量乘積的總和除以樣本總數(shù)的平方為0.242 2，Kappa系數(shù)為0.959 0，優(yōu)于其他方法訓(xùn)練的學(xué)生網(wǎng)絡(luò)，僅次于教師網(wǎng)絡(luò)，可得模型預(yù)測(cè)結(jié)果和實(shí)際分類(lèi)結(jié)果近乎完全一致。

表3 不同網(wǎng)絡(luò)的Kappa系數(shù)對(duì)比Table 3 Comparison of Kappa coefficients of different networks

綜上可知，本文所提出的復(fù)合知識(shí)蒸餾算法對(duì)不同品質(zhì)雞樅菌的識(shí)別效率有顯著提升，能夠?qū)崿F(xiàn)雞樅菇形態(tài)的有效識(shí)別，符合智能分級(jí)需求。

5 結(jié) 論

本文提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)和復(fù)合知識(shí)蒸餾優(yōu)化算法的黑皮雞樅菌分級(jí)模型，一定程度上解決了農(nóng)產(chǎn)品領(lǐng)域要求神經(jīng)網(wǎng)絡(luò)識(shí)別精度高、模型部署規(guī)模小的需求。讓學(xué)生模型的前半部分預(yù)先學(xué)習(xí)特征信息，然后再對(duì)模型整體進(jìn)行參數(shù)調(diào)整，通過(guò)復(fù)合學(xué)習(xí)可使學(xué)生模型充分獲得高階特征。主要結(jié)論如下：

1）通過(guò)使用復(fù)合知識(shí)蒸餾算法優(yōu)化，模型在訓(xùn)練集中對(duì)雞樅菌的檢測(cè)準(zhǔn)確率為96.89%，較初始Resnet18模型提升0.97個(gè)百分點(diǎn)，同時(shí)較傳統(tǒng)知識(shí)蒸餾模型提高了0.52個(gè)百分點(diǎn)；單幅圖像檢測(cè)時(shí)間為0.032 s，較Resnet50模型縮短68.93%。

2）采用混淆矩陣校核本文模型在驗(yàn)證集中的分類(lèi)預(yù)測(cè)準(zhǔn)確率，得出模型對(duì)4類(lèi)雞樅菌的識(shí)別準(zhǔn)確率均較好，4類(lèi)平均準(zhǔn)確率為96.58%，尤其是對(duì)叢生菇的識(shí)別，準(zhǔn)確率達(dá)到了99.00%，證明本文所提出的方法能夠?qū)?類(lèi)雞樅菌圖像進(jìn)行準(zhǔn)確識(shí)別。

本文提出的復(fù)合知識(shí)蒸餾算法可在不增加運(yùn)行時(shí)間及額外硬件占用的前提下，使小模型的準(zhǔn)確率逼近大型網(wǎng)絡(luò)訓(xùn)練準(zhǔn)確率。研究結(jié)果可為實(shí)際雞樅菌分級(jí)生產(chǎn)線的應(yīng)用提供技術(shù)支持，進(jìn)一步推動(dòng)基于神經(jīng)網(wǎng)絡(luò)技術(shù)的農(nóng)產(chǎn)品視覺(jué)快速檢測(cè)與分選的發(fā)展。