秦 瑤,廉飛宇,潘 泉,張 元

(1.河南工業(yè)大學(xué)糧食信息處理與控制教育部重點(diǎn)實(shí)驗(yàn)室,河南鄭州 450001;2.河南工業(yè)大學(xué)信息科學(xué)與工程學(xué)院,河南鄭州 450001;3.西北工業(yè)大學(xué)自動(dòng)化學(xué)院,陜西西安 710000;4.信息融合技術(shù)教育部重點(diǎn)實(shí)驗(yàn)室,陜西西安 710000)

1 引言

糧食安全是國(guó)家安全的重要組成部分,其中糧食的儲(chǔ)藏安全是糧食安全的重要環(huán)節(jié).特別是近年來緊張的國(guó)際局勢(shì)和新冠肺炎疫情影響下,糧食作為重要戰(zhàn)略儲(chǔ)備物資,其保障國(guó)家穩(wěn)定的基石作用更加凸顯.然而,由于產(chǎn)后管理及儲(chǔ)藏不當(dāng),造成我國(guó)每年的糧食產(chǎn)后損失率高達(dá)7%～11%,其中霉變、生蟲造成的損失約占糧食損失總量的40.3%,因此必要的儲(chǔ)糧霉變檢測(cè)技術(shù)必不可少.

小麥?zhǔn)俏覈?guó)最主要的儲(chǔ)糧品種,其霉變檢測(cè)技術(shù)可分為3大類: 電子鼻技術(shù)、圖像處理技術(shù)和光譜技術(shù).1)電子鼻是使用最廣泛的小麥霉變檢測(cè)技術(shù).2004年,鄒小波等使用8只日本費(fèi)加羅公司生產(chǎn)的二氧化錫氣敏傳感器構(gòu)成陣列,采用主成分分析和RBF神經(jīng)網(wǎng)絡(luò)對(duì)小麥進(jìn)行霉變識(shí)別[1],證實(shí)了電子鼻在小麥霉變檢測(cè)中的可用性.此后,Paolesse等[2]、Perkowski等[3]用電子鼻檢測(cè)小麥中的真菌污染,也取得了一定的效果.但電子鼻檢測(cè)效果受氣體傳感器檢測(cè)類型的影響和制約,僅對(duì)小麥霉變時(shí)的部分揮發(fā)性物質(zhì)敏感,對(duì)霉變?cè)缙跈z測(cè)預(yù)警的準(zhǔn)確度不夠.2)圖像處理技術(shù)可通過對(duì)小麥外觀圖像的直接識(shí)別,進(jìn)行霉變位置預(yù)警[4–5].其優(yōu)勢(shì)是檢測(cè)速度快、智能化程度高,但卻存在檢測(cè)結(jié)果受光照、清晰度等圖像采集質(zhì)量影響較大,使得霉變識(shí)別率不穩(wěn)定,無法有效地指導(dǎo)倉(cāng)內(nèi)防霉干預(yù)作業(yè).3)光譜技術(shù)近年來在小麥品質(zhì)檢測(cè)上的應(yīng)用逐漸增多,特別是太赫茲光譜技術(shù)的成熟和應(yīng)用,為小麥霉變的早期檢測(cè)帶來契機(jī).葛宏義等[6]研究了太赫茲時(shí)域光譜系統(tǒng)在小麥品質(zhì)檢測(cè)中的應(yīng)用,選用AdaBoost 分類器和支持向量機(jī)(support vector machine,SVM)方法,建立了小麥品質(zhì)多項(xiàng)太赫茲光學(xué)指標(biāo)的分類融合模型,為小麥品質(zhì)的快速檢測(cè)提供了一種新方法.廉飛宇等[7]研究了利用太赫茲時(shí)域光譜技術(shù)檢測(cè)玉米中黃曲霉毒素的方法,建立了相關(guān)的主成份分析模型,證實(shí)了太赫茲光譜對(duì)真菌檢測(cè)的有效性.然而,光譜技術(shù)由于其還缺少相關(guān)的行業(yè)技術(shù)標(biāo)準(zhǔn),研究多停留在實(shí)驗(yàn)上,離實(shí)用化還有一定距離.

目前小麥霉變的各種檢測(cè)方法還不能滿足儲(chǔ)糧企業(yè)的實(shí)際需求,因此,研究開發(fā)檢測(cè)精度高、速度快,能夠有效實(shí)現(xiàn)小麥霉變?cè)缙跈z測(cè)預(yù)警的新方法十分必要.由于小麥在霉變初期,其揮發(fā)性有機(jī)物的成分會(huì)先于圖像、光譜等特征發(fā)生變化,因此,本文提出一種基于氣相色譜–離子遷移光譜(gas chromatographyion migration spectrum,GC-IMS)的小麥霉變檢測(cè)技術(shù).該方法是一種新的氣相分離檢測(cè)技術(shù)[8],結(jié)合了氣相色譜響應(yīng)快速和離子遷移譜靈敏度高的優(yōu)點(diǎn),特別適用于揮發(fā)性有機(jī)物的痕量檢測(cè),具有檢測(cè)速度快、精度高、操作簡(jiǎn)單的優(yōu)點(diǎn),為小麥霉變的檢測(cè)及分類提供了一種良好的潛在解決方案.

然而,高精度的預(yù)測(cè)離不開有效的識(shí)別方法.目前,對(duì)于商業(yè)化的GC-IMS系統(tǒng)所提供的樣品指紋圖譜的識(shí)別,常采用傳統(tǒng)的機(jī)器學(xué)習(xí)方法,如支持向量機(jī)[9],但此類方法提取的特征有限且需要人工設(shè)定,分類準(zhǔn)確率不能滿足應(yīng)用需求.雖然淺層神經(jīng)網(wǎng)絡(luò)也能應(yīng)對(duì)圖像識(shí)別的問題,但由于其學(xué)習(xí)能力差,難以提取到識(shí)別對(duì)象深層次的抽象特征,導(dǎo)致其識(shí)別精度低、泛化能力差且更容易欠擬合.近年來,深度學(xué)習(xí)技術(shù)在檢測(cè)與識(shí)別、圖像處理領(lǐng)域取得了重大突破.然而,深度學(xué)習(xí)網(wǎng)絡(luò)是一個(gè)多層神經(jīng)網(wǎng)絡(luò),需要更多的樣本,更復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)和更長(zhǎng)的訓(xùn)練時(shí)間才能達(dá)到預(yù)期的效果.如曹珍貫等[10]采用改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)對(duì)肺結(jié)節(jié)進(jìn)行識(shí)別,使用了4000張肺部圖像,擴(kuò)增到10000 張圖片后對(duì)模型進(jìn)行8000多次的迭代訓(xùn)練;歐巧鳳等[11]采用輕量級(jí)神經(jīng)網(wǎng)絡(luò)YOLOv3 對(duì)車檢圖像進(jìn)行檢測(cè)與識(shí)別,使用19125 幅車檢圖像對(duì)12 層的YOLOv3 網(wǎng)絡(luò)進(jìn)行訓(xùn)練;武文娟[12]等提出了一種輕量級(jí)的Emfacenet卷積神經(jīng)網(wǎng)絡(luò),采用10575個(gè)不同個(gè)體的494414張面部圖像進(jìn)行模型訓(xùn)練.模型采用的數(shù)據(jù)集都十分龐大.

對(duì)于小麥霉變的早期預(yù)警研究,從GC-IMS中獲得的指紋圖集是一個(gè)小樣本集,數(shù)據(jù)量遠(yuǎn)不能滿足深度學(xué)習(xí)的建模要求,會(huì)產(chǎn)生嚴(yán)重的過擬合而導(dǎo)致模型的泛化性極差,即所謂的小樣本困境[13].此類問題通常的解決辦法是數(shù)據(jù)擴(kuò)增,如圖像翻轉(zhuǎn)、截取、拉伸等[14],但GC-IMS指紋譜圖像本身具有一定對(duì)稱結(jié)構(gòu),也不適合使用以上的數(shù)據(jù)擴(kuò)增方法.

針對(duì)深度學(xué)習(xí)在小樣本條件下泛化性能差、網(wǎng)絡(luò)模型訓(xùn)練速度慢、消耗資源多的問題,文獻(xiàn)[15–16]在2017年提出了寬度學(xué)習(xí)網(wǎng)絡(luò)(broad learning network,BLN),隨后證明了它的通用逼近能力[17].BLN的結(jié)構(gòu)與深度神經(jīng)網(wǎng)絡(luò)有很大不同,相比于“深度”結(jié)構(gòu)來說,BLN更傾向于將網(wǎng)絡(luò)向“寬度”方向構(gòu)造,而在深度方向上仍保留傳統(tǒng)的輸入層、隱藏層和輸出層的3層結(jié)構(gòu),使得網(wǎng)絡(luò)結(jié)構(gòu)比起深度學(xué)習(xí)大大簡(jiǎn)化.

本文將寬度學(xué)習(xí)應(yīng)用于小麥霉變樣品的GC-IMS指紋圖譜識(shí)別,在寬度學(xué)習(xí)的隱藏層中引入了注意力機(jī)制,提出了一種基于空間注意力機(jī)制的寬度學(xué)習(xí)網(wǎng)絡(luò)模型(broad learning based on spatial attention mechanism,BLN-SAM).該模型克服了深度學(xué)習(xí)模型在小樣本下帶來的過擬合、泛化性差等缺陷,能夠在小樣本條件下達(dá)到甚至優(yōu)于深度模型的識(shí)別率.

2 方法

2.1 寬度學(xué)習(xí)網(wǎng)絡(luò)的基本結(jié)構(gòu)

寬度學(xué)習(xí)網(wǎng)絡(luò)(BLN)是在隨機(jī)向量函數(shù)鏈?zhǔn)缴窠?jīng)網(wǎng)絡(luò)(random vector functional-link neural network,RVFLNN)的基礎(chǔ)上產(chǎn)生的,其網(wǎng)絡(luò)結(jié)構(gòu)如圖1 所示.BLN 的結(jié)構(gòu)與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)相似,也是由輸入層、隱藏層和輸出層3層組成,不同的是其隱藏層通常由多組特征節(jié)點(diǎn)和增強(qiáng)節(jié)點(diǎn)組成.需要注意的是,輸入數(shù)據(jù)不是直接與特征節(jié)點(diǎn)相連,而是經(jīng)過某種映射后作為特征節(jié)點(diǎn)的值.

圖1 寬度學(xué)習(xí)模型的基本網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 The basic network model of broad learning

2.1.1 輸入層

在BLN的輸入層,神經(jīng)元個(gè)數(shù)等于輸入數(shù)據(jù)的屬性數(shù).如輸入數(shù)據(jù)有M個(gè)屬性,則第i個(gè)輸入數(shù)據(jù)可表示為向量xi=(xi1xi2···xiM)∈RM.如果一共有N條這樣的輸入數(shù)據(jù),則有N個(gè)M維的輸入向量,可用矩陣表示為X=(x1x2···xi···xN)T∈RN×M.BLN對(duì)輸入X進(jìn)行批量處理,送入特征節(jié)點(diǎn)進(jìn)行變換.由于輸入數(shù)據(jù)的各屬性具有不同的類型,為了處理方便,輸入的原始數(shù)據(jù)需要經(jīng)過歸一化處理.

2.1.2 隱藏層

由圖1的基本結(jié)構(gòu)可知,BLN的隱藏層是由特征節(jié)點(diǎn)層和增強(qiáng)節(jié)點(diǎn)層組成的.

1)特征節(jié)點(diǎn).假定BLN的特征節(jié)點(diǎn)層由n組節(jié)點(diǎn)Z1,Z2,···,Zn組成,且第Zi組節(jié)點(diǎn)又由q個(gè)神經(jīng)元組成,則輸入數(shù)據(jù)X經(jīng)過Zi的特征映射后可表示為

式中:φi是激活函數(shù),可以選用常見的Sigmoid函數(shù)、ReLU函數(shù)等,各組映射的激活函數(shù)可以不同;Wei ∈RM×q是網(wǎng)絡(luò)的權(quán)重矩陣,初始值可隨機(jī)產(chǎn)生;βei ∈RN×q是偏置矩陣,初始值也是隨機(jī)的,并且這兩個(gè)矩陣可通過稀疏自編碼器微調(diào)以提取輸入數(shù)據(jù)中更為稀疏的特征.

2)增強(qiáng)節(jié)點(diǎn).BLN 的增強(qiáng)節(jié)點(diǎn)層可表示為H1,H2,···,Hm,假設(shè)其中的第j組增強(qiáng)節(jié)Hj點(diǎn)包含了r個(gè)神經(jīng)元,則由來自特征節(jié)點(diǎn)層的矩陣Zn,經(jīng)增強(qiáng)節(jié)點(diǎn)層后可得

式中:ξj為激活函數(shù),可以選用Sigmoid函數(shù)、ReLU等函數(shù);Whj ∈Rnq×r為權(quán)重矩陣;βhj ∈RN×r為偏置矩陣,其初始值均為隨機(jī)值.

2.1.3 輸出層

BLN的輸出層既可以處理回歸問題也可以處理分類問題.對(duì)于分類問題,標(biāo)簽的編碼可采用獨(dú)熱碼.如輸入樣本xi的標(biāo)簽為yi=(yi1,yi2,···,yiQ)∈RQ,則獨(dú)熱碼[0 0 1··· 0]表示輸入樣本是第3類.所有的標(biāo)簽可表示為

式中:Q為類別數(shù),Y為標(biāo)簽矩陣.輸入樣本X經(jīng)過BLN后,得到如下的輸出矩陣:

2.2 寬度學(xué)習(xí)網(wǎng)絡(luò)的目標(biāo)函數(shù)與正則化

為了解決模型的過擬合,增強(qiáng)其泛化性,同深度學(xué)習(xí)類似,本文也采用了對(duì)損失函數(shù)正則化的方法.本文中,寬度學(xué)習(xí)模型的損失函數(shù)仍采用交叉熵?fù)p失,定義如下:

其中:n為樣本量,tik的取值為0或1(當(dāng)樣本i屬于第k個(gè)類別時(shí)為1,否則為0),yik表示樣本xi屬于第k個(gè)類別的概率.

正則化就是在損失函數(shù)中加入被稱為正則項(xiàng)的懲罰項(xiàng).即在模型訓(xùn)練時(shí)優(yōu)化的不再是損失函數(shù),而是損失函數(shù)加上正則項(xiàng),即

其中:Γ(f)為正則化項(xiàng),λ為正則化系數(shù).

正則化的目的是通過控制權(quán)重的大小,降低模型在訓(xùn)練過程中噪聲的影響,從而減輕過擬合.常用的正則化方法有L1范數(shù)和L2范數(shù).考慮到L1范數(shù)會(huì)讓參數(shù)變得更稀疏(更多的參數(shù)變?yōu)?),且計(jì)算偏導(dǎo)數(shù)時(shí)較復(fù)雜,本文使用了L2范數(shù).L2范數(shù)是指對(duì)向量中各元素的平方和求根后的結(jié)果,即

其中:W為權(quán)值參數(shù),‖W‖2為對(duì)權(quán)值參數(shù)W求L2范數(shù).

2.3 寬度學(xué)習(xí)網(wǎng)絡(luò)中的空間注意力模塊

為了增強(qiáng)BLN模型對(duì)重要特征的提取,壓縮模型對(duì)次要特征和無關(guān)特征的關(guān)注,本文在以上的寬度學(xué)習(xí)基本網(wǎng)絡(luò)模型的輸入層和隱藏層間引入了空間注意力機(jī)制(SAM),并把引入這種基于空間注意力機(jī)制的寬度學(xué)習(xí)網(wǎng)絡(luò)模型稱為BLN-SAM.

注意力機(jī)制是機(jī)器學(xué)習(xí)中的一種數(shù)據(jù)處理方法,它可以使網(wǎng)絡(luò)能夠自動(dòng)識(shí)別出圖片中需要注意的地方.從實(shí)現(xiàn)的方法上看,注意力機(jī)制通過神經(jīng)網(wǎng)絡(luò)的操作生成一個(gè)掩碼Mask,在Mask上給出一個(gè)評(píng)分(一般由Softmax層給出一個(gè)概率值),該評(píng)分說明了需要關(guān)注的程度.對(duì)空間進(jìn)行掩碼的生成并進(jìn)行評(píng)分,則稱為空間注意力機(jī)制.

注意力機(jī)制可以認(rèn)為是一種連接權(quán)重的分配機(jī)制,對(duì)于評(píng)分較高的區(qū)域給與更大的連接權(quán)重.圖2為本文SAM網(wǎng)絡(luò)的結(jié)構(gòu)圖.本文SAM將圖像視為圖的特殊形式,每個(gè)像素代表一個(gè)節(jié)點(diǎn).圖中結(jié)構(gòu)矩陣用于表達(dá)節(jié)點(diǎn)之間的結(jié)構(gòu),并且在計(jì)算注意力權(quán)重時(shí)同時(shí)使用了節(jié)點(diǎn)的特征信息和結(jié)構(gòu)信息,使得注意網(wǎng)絡(luò)能夠提取更多的且更重要的特征信息,提高了模型的預(yù)測(cè)性能.

圖2 BLN的SAM網(wǎng)絡(luò)模塊Fig.2 Network module of SAM of BLN

圖2中:S為n×dz的結(jié)構(gòu)矩陣,n為給定節(jié)點(diǎn)的鄰節(jié)點(diǎn)數(shù);Sj是結(jié)構(gòu)矩陣中的第j行,表示的是一個(gè)鄰節(jié)點(diǎn)的結(jié)構(gòu)向量;dz表示的是每個(gè)結(jié)構(gòu)向量的特征維度;xi表示的是輸入序列的第i個(gè)元素;W為權(quán)重矩陣;αij表示的是xi相對(duì)xj的注意力權(quán)重,其計(jì)算公式如式(8)所示.用來比較兩個(gè)輸入元素的縮放點(diǎn)積函數(shù),計(jì)算公式如式(9)所示.

根據(jù)輸入節(jié)點(diǎn)特征得到的特征計(jì)算公式如式(10)所示,Ni是節(jié)點(diǎn)vi的鄰節(jié)點(diǎn)集.

2.4 模型總體結(jié)構(gòu)

本文模型的總體結(jié)構(gòu)圖如圖3所示.輸入層輸入樣本的離子遷移指紋圖像,SAM模塊增強(qiáng)對(duì)圖像重要區(qū)域的特征提取,壓縮對(duì)次要區(qū)域和無關(guān)區(qū)域的關(guān)注;特征節(jié)點(diǎn)層和增強(qiáng)節(jié)點(diǎn)層構(gòu)成隱藏層完成特征的提取;全連接層和Softmax層構(gòu)成輸出層,全連接層實(shí)現(xiàn)分類,其中的每個(gè)神經(jīng)元采用ReLU作為激活函數(shù),可以看作是一個(gè)分類的Softmax層實(shí)現(xiàn)邏輯回歸,輸出各個(gè)類別的概率,其節(jié)點(diǎn)數(shù)與分類的類別數(shù)相同.

圖3 模型總體結(jié)構(gòu)圖Fig.3 Overall structure diagram of model

3 實(shí)驗(yàn)

3.1 儀器

GC-IMS分析儀是一種基于GC和IMS技術(shù)的儀器,工作原理如圖4所示.

圖4 GC-IMS工作原理圖Fig.4 Working diagram of GC-IMS

首先,儀器將待測(cè)物質(zhì)分子、離子引入線性電場(chǎng)中.在電場(chǎng)中,通過與反向漂移的氣體分子碰撞,以及電場(chǎng)力等一系列相互作用,得到一個(gè)恒定的速度,稱為遷移率.不同物質(zhì)的離子有不同的遷移率.IMS類似于質(zhì)譜,但質(zhì)譜是基于電荷–質(zhì)量比(m/z),而IMS是基于離子遷移率.因此在IMS中,只要遷移率不同,就可以分離出一些異構(gòu)體.實(shí)驗(yàn)采用了德國(guó)G.A.S.公司的FlavourSpec?食品風(fēng)味分析及質(zhì)量控制系統(tǒng).這是一款高端的GC-IMS分析儀器,配套的分析軟件包括LAV(labora-tory analytical viewer)、GalleryPlot插件、動(dòng)態(tài)主成分分析插件.LAV用于查看譜圖(2D俯視圖和3D視圖);GalleryPlot插件用于直觀、定性地比較不同樣品揮發(fā)性有機(jī)物的差異;動(dòng)態(tài)主成分分析插件用于樣本聚類分析和未知樣本的快速聚類.

3.2 樣品

采集6種小麥樣品: 正常小麥(Wheat-01)、蟲蝕小麥(Wheat-02)、陳化小麥(Wheat-03)、輕度霉變小麥(Wheat-04)、中度霉變小麥(Wheat-05)和重度霉變小麥(Wheat-06),見表1.所有樣品剔除雜質(zhì)并粉碎,每種樣品保留500 g粉末.每5 g粉末作為一個(gè)樣本,每種樣品含有100個(gè)樣本.在100個(gè)樣本中,70個(gè)用于訓(xùn)練模型,30個(gè)用于測(cè)試模型.因此,6種小麥樣品共產(chǎn)生600個(gè)樣本,其中420個(gè)樣本組成訓(xùn)練集,180個(gè)樣本組成測(cè)試集.

表1 實(shí)驗(yàn)使用的樣品類型Table 1 The types of samples used in experiments

3.3 測(cè)試條件

使用G.A.S公司的FlavourSpec?氣相–離子遷移譜儀進(jìn)行測(cè)試.在不對(duì)樣本做任何前處理的前提下,頂空進(jìn)樣后直接加熱,快速檢測(cè)待測(cè)樣本中的揮發(fā)性有機(jī)成分.利用配備的軟件給出樣本氣相–離子遷移譜、揮發(fā)性有機(jī)化合物指紋圖譜等,并以此直觀顯示各樣本揮發(fā)性成分之間的差異.本文對(duì)6種小麥樣品測(cè)試的儀器參數(shù)設(shè)置見表2.

表2 工作參數(shù)設(shè)置Table 2 Parameter settings for instrumental testing

4 結(jié)果和討論

4.1 樣品的氣相–離子遷移譜

將5 g 樣品置于20 ml 取樣瓶中,在90?C 下預(yù)熱15 min,然后使用氣相色譜–離子遷移譜儀Flavor-Spec?進(jìn)行測(cè)試.測(cè)試時(shí)直接對(duì)樣品進(jìn)行頂空取樣分析,無需復(fù)雜的樣品預(yù)處理,20 min后獲得樣品的揮發(fā)性成分信息.使用制造商提供的LAV軟件可以快速顯示和查看樣品的GC-IMS譜圖,如圖5所示.圖5是6種小麥樣品的GC-IMS的2D俯視圖譜.在圖5中,垂直坐標(biāo)是氣相的保留時(shí)間,水平坐標(biāo)是離子的漂移時(shí)間.整個(gè)圖的背景是藍(lán)色,左邊的紅色垂直線是RIP(即反應(yīng)離子峰,歸一化后漂移時(shí)間約為7.9 ms).圖中的每個(gè)點(diǎn)代表一種揮發(fā)性有機(jī)化合物,顏色表示其濃度,白色表示濃度較低,紅色表示濃度較高,顏色越深,濃度越高.

圖5 6種小麥樣品的氣相色譜–離子遷移譜Fig.5 Gas chromatographies-ion mobility spectra of the six type of wheat samples

4.2 人工定性分析

從圖5可以看出,不同霉變程度的6種小麥樣品揮發(fā)性成分存在顯著差異.普通小麥的揮發(fā)性物質(zhì)較少,而其他樣品的揮發(fā)性物質(zhì)較多.為了更直觀地表達(dá)不同樣品中揮發(fā)性物質(zhì)的變化規(guī)律及相對(duì)含量,本文利用G.A.S開發(fā)的LAV軟件的Gallery Plot插件,選擇圖5中所有需要分析的區(qū)域,自動(dòng)生成樣品的GC-IMS指紋圖譜,如圖6所示.

圖6 6種小麥樣品的揮發(fā)性有機(jī)物離子遷移指紋圖Fig.6 Ion migration fingerprint of volatile organic compounds from six type of wheat samples

從圖6可以看出,正常小麥(1號(hào))中揮發(fā)性成分較少,主要為γ–丁內(nèi)酯、丙醛、苯甲酸甲酯、乙酸、丙酸、2–乙基呋喃,綠框中的成分為霉變小麥產(chǎn)生的特殊揮發(fā)性物質(zhì).從圖6還可以看出,陳化小麥不會(huì)增加過量揮發(fā)性物質(zhì),主要產(chǎn)生乙酸丙酯、糠醛、戊醛等.小麥在霉變和蟲蝕過程中產(chǎn)生了大量的揮發(fā)性成分,如圖6紅、黃方框所示.在發(fā)霉過程中,一些揮發(fā)性物質(zhì)的濃度先下降后增加.在發(fā)霉后期,還會(huì)產(chǎn)生一些特殊的揮發(fā)性物質(zhì),如黑框所示,主要有2–甲基丙醇、2–甲基丁醇、3–甲基丁醇等.利用G.A.S開發(fā)的動(dòng)態(tài)主成分分析(principal component analysis,PCA)插件進(jìn)行分析,如圖7所示.PCA分析結(jié)果表明,不同的樣本是可以區(qū)分的,而平行樣本緊密聚集在一起,正常小麥和陳化小麥(3號(hào))的揮發(fā)性成分相似,而早期霉變小麥和蟲蝕小麥的區(qū)別非常明顯.主成分分析只提供了樣本之間的相似性,卻無法區(qū)分樣本的類型.

圖7 主成分分析結(jié)果Fig.7 Analysis result of PCA

4.3 寬度學(xué)習(xí)實(shí)驗(yàn)設(shè)置

本文由于可獲得的樣本數(shù)量偏少,深度學(xué)習(xí)模型訓(xùn)練不充分,易導(dǎo)致模型識(shí)別的過擬合而泛化性差.為此,正如前文所述的,為了克服深度學(xué)習(xí)的這一不足,獲得更佳的識(shí)別結(jié)果,本文研究開發(fā)了上述的基于寬度學(xué)習(xí)的方法.

為了驗(yàn)證本文提出的寬度學(xué)習(xí)網(wǎng)絡(luò)模型的有效性,筆者首先構(gòu)建了一個(gè)由不同性質(zhì)小麥樣品的GC-IMS譜組成的數(shù)據(jù)集.根據(jù)前面的描述,筆者測(cè)試了600個(gè)樣本的GC-IMS指紋圖譜,在每次測(cè)試中,筆者對(duì)每個(gè)樣本進(jìn)行2次平行測(cè)試,這樣,總共得到了1200行GCIMS指紋圖譜(如圖6顯示了其中的一次測(cè)試,每?jī)尚写硪粋€(gè)樣本).為了進(jìn)一步提高模型的訓(xùn)練水平,提升模型分類性能,根據(jù)文獻(xiàn)[18]的方法(注: 該文獻(xiàn)提出了一種使用生成式對(duì)抗網(wǎng)絡(luò)(generative adversarial network,GAN)擴(kuò)大GC-IMS數(shù)據(jù)集的方法),本文利用生成式對(duì)抗網(wǎng)絡(luò)又生成1200個(gè)模擬GC-IMS指紋樣本,因此,樣本總數(shù)達(dá)到2400行.筆者使用其中的1860個(gè)樣本作為訓(xùn)練集,剩余的720個(gè)樣本作為測(cè)試集.在本文的BLN訓(xùn)練中,根據(jù)圖像數(shù)據(jù)的大小(64×64),仿照文獻(xiàn)[19]的方法,將BLN的參數(shù)設(shè)置為100×10特征節(jié)點(diǎn)和1000個(gè)增強(qiáng)節(jié)點(diǎn).

實(shí)驗(yàn)環(huán)境如下: Intel Xeon E5 v3處理器,32 GB內(nèi)存,NVIDIA GeForce RTX 2080 Ti 11 GB顯卡.使用CUDA 10.0架構(gòu)、Pytorch深度學(xué)習(xí)框架和Python3.6編程語言.

4.4 實(shí)驗(yàn)結(jié)果與分析

4.4.1 多種寬度學(xué)習(xí)模型性能對(duì)比分析

實(shí)驗(yàn)對(duì)比了普通的BLN網(wǎng)絡(luò)模型[16]、融合局部感受野的寬度學(xué)習(xí)(broad learning based on local receptive field,BRL-LRF)網(wǎng)絡(luò)模型[19]和特征節(jié)點(diǎn)映射級(jí)聯(lián)的寬度學(xué)習(xí)(cascade of feature mapping nodes of broad learning,CFBRL)網(wǎng)絡(luò)模型[19].評(píng)估指標(biāo)采用了平均準(zhǔn)確率(mean average precision,mAP)、訓(xùn)練時(shí)間和測(cè)試時(shí)間.對(duì)比結(jié)果如表3所示.從4種寬度學(xué)習(xí)網(wǎng)絡(luò)的比較結(jié)果可以看出,BLN-SAM的平均準(zhǔn)確率最高,訓(xùn)練和測(cè)試的總時(shí)間稍長(zhǎng)于BRL-LRF網(wǎng)絡(luò),但比BLN,CFBRL 網(wǎng)絡(luò)要短得多.BLN 網(wǎng)絡(luò)模型的平均準(zhǔn)確率與BRL-LRF 相似,但總訓(xùn)練和測(cè)試時(shí)間是BRL-LRF的兩倍,CFBRL網(wǎng)絡(luò)模型的平均準(zhǔn)確率介于BLN-SAM和BRL-LRF之間,在訓(xùn)練和測(cè)試時(shí)間上長(zhǎng)于BLN-SAM.

表3 GC-IMS測(cè)試集分類準(zhǔn)確率比較Table 3 Comparison of classification accuracy of wheat GC-IMS test set

BLN-SAM算法不僅對(duì)上述非增量學(xué)習(xí)算法有效,而且對(duì)增量學(xué)習(xí)算法(incremental learning algorithm,ILA)更有效.為了證明BLN-SAM網(wǎng)絡(luò)在增量學(xué)習(xí)中的有效性,將BLN-SAM的增量學(xué)習(xí)算法與BLN的增量學(xué)習(xí)算法以及BRL-LRF的增量學(xué)習(xí)算法進(jìn)行比較.接下來,本文只討論動(dòng)態(tài)添加增強(qiáng)節(jié)點(diǎn)的情況.首先,將BLN的初始結(jié)構(gòu)設(shè)置為100×10特征節(jié)點(diǎn)和1000個(gè)增強(qiáng)節(jié)點(diǎn).更新增強(qiáng)節(jié)點(diǎn)6次,每次增加500個(gè)增強(qiáng)節(jié)點(diǎn).結(jié)果如表4所示.

表4 BLN增量學(xué)習(xí)算法的結(jié)果Table 4 Results of the ILA of BLN

將BRL-LRF的初始結(jié)構(gòu)設(shè)置為4×4感知域、特征映射和池大小為3,10×10特征節(jié)點(diǎn)和100個(gè)增強(qiáng)節(jié)點(diǎn),類似地,增強(qiáng)節(jié)點(diǎn)更新6次,但每次增加500個(gè)增強(qiáng)節(jié)點(diǎn),如表5所示.CFBRL與本文BLN-SAM的初始結(jié)構(gòu)和增強(qiáng)節(jié)點(diǎn)添加方式與BLN相同,結(jié)果如表6–7所示.

表5 BRL-LRF增量學(xué)習(xí)算法的結(jié)果Table 5 Results of the ILA of BRL-LRF

表6 CFBRL增量學(xué)習(xí)算法的結(jié)果Table 6 Results of the ILA of CFBRL

對(duì)比表4–6和表7可知,BLN-SAM每次動(dòng)態(tài)更新的準(zhǔn)確率高于BLN和BRL-LRF,且每次動(dòng)態(tài)更新所需的時(shí)間與BRL-LRF相當(dāng),但比BLN短2倍左右.可以看出與BLN、CFBRL和BRL-LRF相比,BLN-SAM對(duì)增量學(xué)習(xí)算法具有更好的增效作用.

表7 BLN-SAM增量學(xué)習(xí)算法的結(jié)果Table 7 Results of the ILA of BLN-SAM

4.4.2 本文模型與深度學(xué)習(xí)模型性能對(duì)比分析

為了更好地證明BLN-SAM的有效性,本文將該網(wǎng)絡(luò)模型與當(dāng)前的一些主流算法進(jìn)行比較.這些方法包括深度置信網(wǎng)絡(luò)(deep belief networks,DBN)、深度波爾茲曼機(jī)(deep Boltzmann machine,DBM)、多層感知(multilayer perception,MLP)[20]算法多結(jié)構(gòu)極限學(xué)習(xí)機(jī)(multi-layer extreme learning machine,MLELM)[21]和多感知極限學(xué)習(xí)機(jī)(multi-perception extreme learning machine,HELM)[22].利用MATLAB2016a 在上述平臺(tái)下對(duì)以上的小麥樣品GC-IMS指紋圖譜集進(jìn)行了分類識(shí)別,實(shí)驗(yàn)結(jié)果如表8所示.在測(cè)試集的識(shí)別準(zhǔn)確率方面,雖然提出的方法的準(zhǔn)確率(94.28%)不是最高的,但僅次于HELM的95.12%.但在訓(xùn)練時(shí)間上,本文方法的訓(xùn)練時(shí)間為16.11 s,是所有算法中最短的.但如果對(duì)BLN-SAM施加增量學(xué)習(xí),則識(shí)別準(zhǔn)確率則會(huì)超過HELM,見表7.對(duì)比結(jié)果充分表明本文方法識(shí)別準(zhǔn)確率優(yōu)于當(dāng)前的一些主流算法.

表8 BLN-SAM 與各種深度學(xué)習(xí)算法分類結(jié)果比較Table 8 Comparison of classification results between BLN-SAM and various Deep Learnings

4.4.3 小麥早期霉變鑒別實(shí)驗(yàn)

小麥早期霉變鑒別就是將早期霉變小麥與普通小麥區(qū)分開小麥霉變?cè)缙谝蚱渫庥^無明顯變化和異物,往往難以人工鑒別.從機(jī)器學(xué)習(xí)角度看,小麥早期霉變鑒別本質(zhì)上是一個(gè)二分類問題.將有早期霉變的小麥定義為陽性,將正常小麥定義為陰性,并使用以下指標(biāo)來衡量BLN-SAM模型的識(shí)別性能:

其中: TP和FP分別代表正確識(shí)別和錯(cuò)誤識(shí)別的真陽性樣本數(shù)量,TN和FN分別代表正確識(shí)別和錯(cuò)誤識(shí)別的真陰性樣本數(shù)量.由公式可知:P(Precision)為預(yù)測(cè)的準(zhǔn)確率,表示預(yù)測(cè)陽性樣本中有多少個(gè)真實(shí)陽性樣本;R(Recall)是召回率,表示樣本中有多少個(gè)正樣本被正確預(yù)測(cè);F1是基于Precision和Recall的調(diào)和平均值.顯然,F1值越大,識(shí)別效果越好.

以河南工業(yè)大學(xué)糧食信息處理與控制教育部重點(diǎn)實(shí)驗(yàn)室儲(chǔ)存的小麥為檢測(cè)對(duì)象.取200個(gè)正常樣品,放入恒溫恒濕培養(yǎng)箱中進(jìn)行霉菌初期培養(yǎng).將培養(yǎng)箱設(shè)為恒溫33?C,恒濕80%RH.3天后取出樣本,選取50個(gè)不易識(shí)別為霉變的樣本組成一個(gè)數(shù)據(jù)集,選取50個(gè)正常小麥樣本組成另一個(gè)數(shù)據(jù)集.將兩個(gè)數(shù)據(jù)集隨機(jī)分為一個(gè)訓(xùn)練數(shù)據(jù)集和一個(gè)測(cè)試數(shù)據(jù)集,分別包含70個(gè)訓(xùn)練樣本和30個(gè)測(cè)試樣本,每個(gè)數(shù)據(jù)集的陽性樣本和陰性樣本數(shù)量相同以消除樣本不平衡帶來的影響.利用該訓(xùn)練集對(duì)BLN-SAM模型進(jìn)行遷移訓(xùn)練,然后利用參數(shù)微調(diào)后的BLN-SAM模型在訓(xùn)練集和測(cè)試集中進(jìn)行分類預(yù)測(cè).選取電子鼻、當(dāng)前流行的深度學(xué)習(xí)模型Faster-RCNN(faster-regions with convolutional neural network features)[23]、單發(fā)多盒檢測(cè)器(single shot multiBox detector,SSD)[24]和YOLOv3(you only live once-v3)[25]作為比較,檢驗(yàn)?zāi)Ｐ偷淖R(shí)別性能.比較的深度學(xué)習(xí)模型采用在ImageNet預(yù)訓(xùn)練好的模型經(jīng)訓(xùn)練集遷移學(xué)習(xí)后得到.各模型預(yù)測(cè)結(jié)果如表9所示.

表9 BLN-SAM與流行的深度學(xué)習(xí)方法在小麥早期霉變預(yù)測(cè)上的比較結(jié)果Table 9 Comparative results of BLN-SAM and popular deep learning methods in predicting early mildew for wheat

由表9可以看出,BLN-SAM在3個(gè)指標(biāo)上的結(jié)果最好,其次是Faster-RCNN和SSD,Electronic Nose的準(zhǔn)確性和F1值最低.BLN-SAM的F1值達(dá)到0.933,比目前最好的YOLOv3網(wǎng)絡(luò)的F1值提高了6.6%.此外,由于BLN-SAM極大地簡(jiǎn)化了網(wǎng)絡(luò)模型的構(gòu)建和訓(xùn)練過程,因而大大減少了整個(gè)訓(xùn)練和預(yù)測(cè)過程的時(shí)間,其空間注意力機(jī)制的引入還進(jìn)一步提高了模型的預(yù)測(cè)性能.實(shí)踐表明,利用本文提出的寬度學(xué)習(xí)模型,小麥早期霉變的檢測(cè)效率比人工方法約提高了50%～70%.

為了進(jìn)一步驗(yàn)證本文的BLN-SAM模型對(duì)于早期霉變小麥的分類性能,筆者繪制了BLN-SAM和以上幾種深度學(xué)習(xí)方法的受試者工作特征曲線(receiver operating characteristic curve,ROC),并計(jì)算其曲線下面積(area under curve,AUC)值,如圖8所示.

圖8 ROC曲線圖Fig.8 ROC curves

本文根據(jù)模型的預(yù)測(cè)結(jié)果對(duì)樣例進(jìn)行排序,按此順序逐個(gè)把樣本作為陽性進(jìn)行預(yù)測(cè),每次計(jì)算出兩個(gè)最重要的值,分別以它們?yōu)闄M、縱坐標(biāo)作圖,就得到了“ROC曲線”.其縱、橫坐標(biāo)分別為“真陽性率”(TPR)和“假陽性率”(FPR),定義如下:

圖8中,對(duì)角線對(duì)應(yīng)于隨機(jī)猜測(cè)模型,由于測(cè)試樣例有限,所以曲線呈鋸齒狀.如圖8所示,本文模型的ROC曲線幾乎完全包住了其它模型的ROC曲線,說明本文模型的分類性能優(yōu)于其它模型.AUC定義為ROC曲線下的面積,AUC 越大則說明模型分類性能越好,各模型AUC值如表10所示.

表10 本文模型與對(duì)應(yīng)模型的AUC值Table 10 AUC values of this model and corresponding models

由表10可見,BLN-SAM具有最大的AUC值,表明其分類性能在比較的幾種模型中是最好的.同時(shí)AUC值的計(jì)算結(jié)果也表明各模型的分類性能與表9表示的一致.本文中,BLN-SAM之所以成為最佳的小麥早期霉變檢測(cè)模型,在于在小樣本條件下,由于采用了寬度學(xué)習(xí)的網(wǎng)絡(luò)結(jié)構(gòu),模型的泛化性能相比深度學(xué)習(xí)有了很大的提高.

4.4.4 本文模型在公開案例上的性能表現(xiàn)

為了進(jìn)一步評(píng)估算法的泛化性能,本文采用了德國(guó)G.A.S公司的一個(gè)公開的案例[26],對(duì)文獻(xiàn)中使用的識(shí)別GC-IMS圖像的方法進(jìn)行了性能對(duì)比.由于目前還缺少關(guān)于小麥的GC-IMS的公開數(shù)據(jù)集,本文選擇了G.A.S公司公開的泰國(guó)香米和五常大米GC-IMS數(shù)據(jù)集,以此對(duì)不同的方法區(qū)分這兩種大米的能力進(jìn)行對(duì)比,結(jié)果如表11所示.

表11 不同方法區(qū)分兩種大米的能力比較Table 11 Comparison of the ability of different methods to distinguish two kinds of rice

由表11可見,由于這兩種稻米所含有的揮發(fā)性物質(zhì)比較相近,文獻(xiàn)[27–29]的方法識(shí)別準(zhǔn)確率都較低,且遠(yuǎn)低于文獻(xiàn)[30]的方法和本文的方法.雖然文獻(xiàn)[30]的方法識(shí)別準(zhǔn)確率略高于本文方法,但其模型訓(xùn)練時(shí)間卻遠(yuǎn)長(zhǎng)于本文方法,處理速度遠(yuǎn)慢于本文方法.綜合來看,本文算法整體性能優(yōu)于現(xiàn)有文獻(xiàn)中識(shí)別糧食的GC-IMS圖像的方法.

5 結(jié)論

本文提出了一種氣相色譜–離子遷移譜結(jié)合寬度學(xué)習(xí)的貯藏小麥霉變檢測(cè)識(shí)別方法.由于不同霉變程度的小麥樣品具有不同的揮發(fā)性有機(jī)物,但部分揮發(fā)性物質(zhì)具有相同或相似的結(jié)構(gòu),使樣品的氣相色譜–離子遷移譜具有很大的相似性,給人工鑒別帶來了困難.本文提出的基于空間注意力機(jī)制的寬度學(xué)習(xí)方法對(duì)小麥樣品中的揮發(fā)性有機(jī)物進(jìn)行定性鑒別,克服了深度學(xué)習(xí)模型需要大量樣本訓(xùn)練的缺陷,同時(shí),提高了訓(xùn)練速度和識(shí)別性能.實(shí)驗(yàn)證明,在樣本較少的情況下,小麥早期霉變的檢測(cè)效率提高了50～70%,同時(shí),識(shí)別的平均準(zhǔn)確率(mAP)也得到了相應(yīng)提高.因此,本文提出的小麥霉變檢測(cè)方法,為貯藏小麥霉變?cè)缙谧R(shí)別預(yù)警提供了一種新的有效手段.同時(shí),也為其他種類糧食、農(nóng)作物的早期霉變檢測(cè)和預(yù)警,提供了一種新的智能分析途徑.