凌嘉欣 謝永華
(東北林業(yè)大學,哈爾濱,150040)
近年來,木材深加工技術實現(xiàn)了快速發(fā)展,木材表面缺陷檢測水平不斷提高,計算機視覺技術和模式識別技術為木材表面缺陷檢測提供了新的路徑與方法,在實踐應用中發(fā)揮出良好效用。但木材表面由于具有復雜的紋理,而且缺陷的種類繁多,根據(jù)國家標準木材缺陷分為木材構(gòu)造缺陷、樹干形狀缺陷、傷疤(損傷)、變色、裂紋、腐朽、蟲眼、木材加工缺陷、節(jié)子、變形10大類,通過機器視覺系統(tǒng)采集木材的圖像,利用傳統(tǒng)的圖像處理算法檢測木材的缺陷,會面對巨大的挑戰(zhàn)[1-2]。針對板材缺陷識別問題,有些傳統(tǒng)算法[3-7]能有效地進行木材表面缺陷自動識別,但在處理大樣本數(shù)據(jù)時,識別精度并不高。隨著卷積神經(jīng)網(wǎng)絡理論的完善,并在語音、圖像等方面的模式識別算法取得了一些成功[8-10],這些比較新穎的算法,雖然準確率達到80%以上,仍不能滿足工業(yè)產(chǎn)業(yè)化在線識別精度需求。因此,提高識別精度仍是業(yè)內(nèi)研究的重點。為此,本研究將超分辨率測試序列(VGG)網(wǎng)絡模型、谷歌網(wǎng)絡模型(GoogLeNet)、殘差神經(jīng)網(wǎng)絡模型(ResNet)應用于木質(zhì)板材表面缺陷分類檢測中,重點研究木材的活節(jié)、死節(jié)、蟲眼3類表面缺陷,并依據(jù)分類精度,遴選識別效果更好的板材缺陷分類方法,旨在為拓展診斷木材板材缺陷途徑和方法提供參考。
理論上,在進行樣本庫的制作時應含有多種樹種,每種樹種的缺陷圖像越多越好,實際上,尋求樣本的困難較大,也很難獲得每種缺陷的大量樣本。在現(xiàn)有的條件范圍內(nèi),本研究選取了包括國內(nèi)具有代表性的樹種24科36屬共50種,其中針葉材16種、闊葉材34種;采集到木材缺陷樣本2 630張,裁剪成512×512像素、256級灰度,用數(shù)據(jù)增強的辦法,對2 630張圖片進行旋轉(zhuǎn)、平移、尺度變換、灰度變換等方式處理,使樣本庫擴容到10 687張圖片,選擇其中的7 480張圖片作為訓練集、2 137張圖片作為驗證集、1 070張圖片作為測試集。板材缺陷部分樣本見圖1。
圖1 木材板材缺陷樣本
超分辨率測試序列(VGG)網(wǎng)絡模型是在亞歷克斯網(wǎng)絡模型(Alexnet)基礎上,去掉局部響應歸一化,去掉7×7的卷積核,使用卷積核和池化核的大小均為3×3,減少了參數(shù)量,得到了超分辨率測試序列網(wǎng)絡模型。其中,超分辨率測試序列網(wǎng)絡模型的16層結(jié)構(gòu)常用于分類,16層結(jié)構(gòu)由13層卷積層和3層全連接層組成,是分類性能較為優(yōu)秀的網(wǎng)絡模型[11]。應用超分辨率測試序列-16網(wǎng)絡模型對像素為224×224×3的木質(zhì)板材缺陷圖片分類(見圖2)。
圖2 超分辨率測試序列-16網(wǎng)絡模型的木質(zhì)板材缺陷分類過程
谷歌網(wǎng)絡模型(GoogLeNet),網(wǎng)絡共有22層,且包含了非常高效的模塊,它的目的是設計一種具有優(yōu)良局部拓撲結(jié)構(gòu)的網(wǎng)絡,即對輸入圖像并行地執(zhí)行多個卷積運算或池化操作,并將所有輸出結(jié)果拼接為一個多層網(wǎng)絡結(jié)構(gòu)的特征圖。谷歌網(wǎng)絡模型對木質(zhì)板材缺陷分類流程見圖3。
圖3 谷歌網(wǎng)絡模型的木質(zhì)板材缺陷分類過程
殘差神經(jīng)網(wǎng)絡(ResNet)是2015年He et al.[12]提出的,在普通的卷積模型中,加入串聯(lián)機制形成殘差卷積神經(jīng)網(wǎng)絡模型,模型既有效地降低了網(wǎng)絡參數(shù)的訓練難度,也不會造成精度下降。模型的2層基本塊見圖4;3層基本塊結(jié)構(gòu)是在2層結(jié)構(gòu)基礎上,在主支路上再加1層卷積層結(jié)構(gòu)。這些基本塊單元串聯(lián)形成殘差模塊,多個殘差模塊構(gòu)成殘差神經(jīng)網(wǎng)絡模型的最小單元[13]。
圖4 2層單元基本塊
殘差神經(jīng)網(wǎng)絡模型,因網(wǎng)絡層數(shù)不同,單元結(jié)構(gòu)也略有不同,有18層、34層、50層、101層4種模型結(jié)構(gòu),具體的網(wǎng)絡結(jié)構(gòu)配置見表1。
表1 殘差神經(jīng)網(wǎng)絡模型的4種模型的網(wǎng)絡結(jié)構(gòu)配置
本研究調(diào)整了殘差網(wǎng)絡單元結(jié)構(gòu),形成了新的殘差單元。即:將激活函數(shù)(ReLU)看做是權(quán)重層的“預激活”,而不是傳統(tǒng)的“激活”,使其產(chǎn)生了1個新的殘差單元。殘差神經(jīng)網(wǎng)絡改進前后的結(jié)構(gòu)流程對比見圖5。
圖5 改進前后的殘差網(wǎng)絡結(jié)構(gòu)
本研究將采集到的圖片進行處理,批量轉(zhuǎn)換為JPG格式,對圖片尺寸進行剪裁,通過尺度變換等一系列變換進行數(shù)據(jù)增強,將數(shù)據(jù)集從原始的2 630張圖片擴大到現(xiàn)在的10 687張,構(gòu)成圖像數(shù)據(jù)集。數(shù)據(jù)集通過數(shù)據(jù)增強后,能夠達到試驗的網(wǎng)絡模型需要的數(shù)據(jù)量,盡量防止網(wǎng)絡的過擬合現(xiàn)象的發(fā)生。本研究將超分辨率測試序列-16網(wǎng)絡模型、谷歌網(wǎng)絡模型、殘差神經(jīng)網(wǎng)絡模型3種網(wǎng)絡模型應用于木質(zhì)板材缺陷分類中,網(wǎng)絡模型初始參數(shù):網(wǎng)絡模型單次處理數(shù)據(jù)組的數(shù)量為16組數(shù)據(jù)、初始學習率為0.001、權(quán)值衰減因子為0.000 5、動量因子為0.9。
(1)超分辨率測試序列-16網(wǎng)絡模型損失函數(shù)值和識別缺陷的準確率見圖6,網(wǎng)絡模型在14次迭代時,測試集分類準確率達到最高值83.30%。
圖6 超分辨率測試序列-16網(wǎng)絡模型損失函數(shù)值和準確率曲線
(2)谷歌網(wǎng)絡模型損失函數(shù)值和識別缺陷的準確率見圖7,網(wǎng)絡模型在16次迭代時,測試集分類準確率達到最高值89.64%。
圖7 谷歌網(wǎng)絡模型模型損失函數(shù)值和準確率曲線
(3)殘差神經(jīng)網(wǎng)絡模型在18、34、50、101層時,測試集分類準確率見圖8。18層網(wǎng)絡結(jié)構(gòu)模型,在第70次迭代時,達到分類準確率最大值82.11%;34層網(wǎng)絡結(jié)構(gòu)模型,在第60次迭代時,達到分類準確率最大值87.75%;50層網(wǎng)絡結(jié)構(gòu)模型,在第70次迭代時,達到分類準確率最大值96.68%;101層網(wǎng)絡結(jié)構(gòu)模型,在第80次迭代時,達到分類準確率最大值96.81%。
圖8 殘差神經(jīng)網(wǎng)絡測試集準確率對比
(4)改進的殘差神經(jīng)網(wǎng)絡模型,在18、34、50、101層的測試集分類準確率見圖9。18層網(wǎng)絡結(jié)構(gòu),在80次迭代時,達到分類準確率最大值84.56%;34層網(wǎng)絡結(jié)構(gòu),在第80次迭代時,達到分類準確率最大值93.38%;50層網(wǎng)絡結(jié)構(gòu)模型,在第80次迭代時,達到分類準確率最大值98.63%;101層網(wǎng)絡結(jié)構(gòu)模型,在第60次迭代時,達到分類準確率最大值91.42%。
圖9 改進的殘差神經(jīng)網(wǎng)絡測試集準確率對比
改進的殘差神經(jīng)網(wǎng)絡模型,針對蟲眼、死節(jié)、活節(jié)3類木質(zhì)板材表面缺陷的分類準確率見表2,對比數(shù)據(jù)在50層結(jié)構(gòu)時分類精度達到最高。
表2 改進的殘差神經(jīng)網(wǎng)絡模型對木質(zhì)板材表面缺陷分類準確率
殘差神經(jīng)網(wǎng)絡模型改進前后測試集的分類準確率對比見表3。對比數(shù)據(jù),改進后的網(wǎng)絡模型分類準確率優(yōu)于原模型。
表3 殘差神經(jīng)網(wǎng)絡模型改進前后對木質(zhì)板材表面缺陷分類準確率
(5)將本研究選擇的4種網(wǎng)絡模型對木質(zhì)板材缺陷測試集中分類準確率進行對比,超分辨率測試序列-16網(wǎng)絡模型的準確率為83.30%、谷歌網(wǎng)絡模型的準確率為89.64%、50層的殘差神經(jīng)網(wǎng)絡模型的準確率為96.68%、50層的改進殘差神經(jīng)網(wǎng)絡模型準確率最高為98.63%。
木質(zhì)板材質(zhì)量受木材自身的缺陷影響很大,為了得到高質(zhì)量的單板板材,需要對板材表面缺陷進行檢測。本研究應用超分辨率測試序列-16網(wǎng)絡模型、谷歌網(wǎng)絡模型、殘差神經(jīng)網(wǎng)絡模型、改進的殘差神經(jīng)網(wǎng)絡模型對木質(zhì)板材樣本缺陷圖片進行分類檢測。結(jié)果表明:改進后的殘差神經(jīng)網(wǎng)絡模型,與超分辨率測試序列-16網(wǎng)絡模型、谷歌網(wǎng)絡模型模型相比,在網(wǎng)絡結(jié)構(gòu)層次增加時,由于自身增加了直連結(jié)構(gòu),會在網(wǎng)絡反傳時降低網(wǎng)絡彌散的概率,并且每一層都能更多地保留原始信息,可有效降低欠擬合現(xiàn)象的發(fā)生,測試集分類準確率高達98.63%,也更優(yōu)于未改進前自身模型分類準確率,具有較好的魯棒性和實用推廣性。