金守峰，侯一澤，焦 航，張 鵬，李宇濤

(1.西安工程大學(xué) 機(jī)電工程學(xué)院，陜西 西安 710600；2.西安工程大學(xué) 西安市現(xiàn)代智能紡織裝備重點(diǎn)實(shí)驗室，陜西 西安 710600)

在織物表面進(jìn)行抓毛工藝處理，抓毛后織物表面絨毛的長度和形態(tài)較為復(fù)雜。不合格抓毛織物的表面特征表現(xiàn)為絨毛厚度不致密且分布不均勻的特征，此種織物表面不能滿足外觀以及舒適性要求。由于抓毛織物表面的紋理特征、形態(tài)特征復(fù)雜，不同特征需要不同的算法提取，傳統(tǒng)人工特征提取算法計算復(fù)雜已不能滿足在光照不勻等影響因素下對抓毛織物的特征提取[1-2]。目前對抓毛織物絨毛質(zhì)量的檢測主要是通過有經(jīng)驗的工藝人員視覺判斷和觸覺判斷的方法實(shí)現(xiàn)的，大量的視覺檢測工作易導(dǎo)致疲勞、漏檢以及工作效率不高等問題[3-4]，因此，研究一種能夠有效提取特征的算法自動提取具有分辨力的抓毛織物特征，具有較高準(zhǔn)確率的分類模型顯得尤為重要，對于實(shí)現(xiàn)高效、準(zhǔn)確、無接觸的抓毛織物檢測具有重要意義。

傳統(tǒng)的織物檢測方法通過人工設(shè)計的織物特征提取方法來獲取織物特征,然后將提取到的織物特征經(jīng)過一系列的轉(zhuǎn)化分解，判定出織物的疵點(diǎn)，研究人員在優(yōu)秀特征的提取方法上取得了許多成果。汪亞明等[5]根據(jù)織物絨毛與織物不平整會引起不同的高低頻噪聲，通過Gabor濾波去除織物紋理噪聲，最后得到織物起球的分割圖。夏雨薇等[6]通過提取織物圖像的紋理特征以及局部目標(biāo)形狀特征,通過PCA數(shù)據(jù)降維得到織物特征，最后通過K-近鄰、決策樹等多分類方法，最終得到96.8%的分類結(jié)果。然而，上述人工提取到的織物特征計算量大，提取算法復(fù)雜，且無法獲得具有較高分辨力的優(yōu)秀特征，往往只適用于特定光照背景下的識別檢測，織物圖像在明暗不均情況下容易受到干擾影響檢測準(zhǔn)確率。

相對于傳統(tǒng)的機(jī)器學(xué)習(xí)方法，卷積神經(jīng)網(wǎng)絡(luò)方法在特征提取技術(shù)領(lǐng)域具有巨大的優(yōu)越性[7]。王理順等[8]基于GoogLeNet網(wǎng)絡(luò)架構(gòu)，利用人工標(biāo)注的不同種類織物圖片構(gòu)建織物缺陷數(shù)據(jù)庫，以卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行分類訓(xùn)練、測試，得到較高的檢測正確率。張家瑋[9]采用深度支持向量數(shù)據(jù)描述(deep support vector data description,Deep SVDD)對織物表面缺陷進(jìn)行分類檢測，以正常樣本數(shù)據(jù)集進(jìn)行訓(xùn)練，具有一定的分類精度和模型準(zhǔn)確率，但是模型訓(xùn)練時間較長、硬件配置高。金守峰等[10]采用Freeman鏈碼方法提取絨毛織物表面特征信息，并作為BP神經(jīng)網(wǎng)絡(luò)的輸入進(jìn)行模型訓(xùn)練，準(zhǔn)確率為93.02%，但是該方法在進(jìn)行Freeman鏈碼提取絨毛的特征時，對絨毛的細(xì)微信息提取誤差較大。

由于卷積神經(jīng)網(wǎng)絡(luò)需要大量的訓(xùn)練樣本學(xué)習(xí)提取圖像特征的能力[11-12]，遷移學(xué)習(xí)在ImageNet數(shù)據(jù)集上經(jīng)訓(xùn)練具有了較好的特征提取能力，可以減小網(wǎng)絡(luò)模型訓(xùn)練所需的樣本數(shù)量[13-14]。針對抓毛織物表面特征難以提取且識別準(zhǔn)確率低的問題，本文采用在ImageNet數(shù)據(jù)集上預(yù)訓(xùn)練的模型，對抓毛織物圖像進(jìn)行數(shù)據(jù)增強(qiáng)，在AlexNet模型的基礎(chǔ)上，設(shè)計全連接層模塊，采用SGDM、RMSProp和Adam 3種優(yōu)化算法進(jìn)行全新學(xué)習(xí)和遷移學(xué)習(xí)的訓(xùn)練，并利用卷積神經(jīng)網(wǎng)絡(luò)的不同深度池化層提取抓毛織物特征作為輸入，擬合SVM分類器對輸入的抓毛織物圖像進(jìn)行分類，實(shí)現(xiàn)對抓毛織物質(zhì)量檢測。

1 卷積神經(jīng)網(wǎng)絡(luò)構(gòu)建

1.1 抓毛織物圖像數(shù)據(jù)集

用幀率為45幀/s、焦距為10 mm的工業(yè)相機(jī)采集了如圖1所示的抓毛織物圖像數(shù)據(jù)。圖1(a) 為絨毛厚度分布均勻且致密的合格抓毛圖像1 000張，圖1(b)～(f)為5種不同顏色的不合格抓毛圖像各1 000張，其中表面存在絨毛分布不均勻、稀疏及長度不一等特征。實(shí)驗采集抓毛織物圖像樣本共計6 000張，將采集的圖像80%用于訓(xùn)練集，20%用于測試集。

圖1 抓毛圖像示例Fig.1 Example of scratching image.(a) Wool catching fabric A；(b) Wool catching fabric B；(c) Wool catching fabric C；(d) Wool catching fabric D；(e) Wool catching fabric E；(f) Wool catching fabric F

1.2 數(shù)據(jù)擴(kuò)充

由于原始采集的抓毛織物不合格數(shù)據(jù)集占比較小，為了擴(kuò)充不合格抓毛圖像，獲得更多的訓(xùn)練圖像，本文將訓(xùn)練圖像在[-90°,90°]范圍內(nèi)進(jìn)行隨機(jī)旋轉(zhuǎn)，在[1,2]范圍內(nèi)進(jìn)行隨機(jī)縮放以及加入噪聲等操作，得到了用于訓(xùn)練的抓毛圖像數(shù)據(jù)集共計 14 400 張。由于AlexNet網(wǎng)絡(luò)模型要求輸入固定維度，將抓毛圖像的尺寸統(tǒng)一轉(zhuǎn)化為227像素×227像素的樣本，數(shù)據(jù)擴(kuò)充如圖2所示。

圖2 數(shù)據(jù)擴(kuò)充Fig.2 Data expansion.(a) Original drawing；(b) Image scaling；(c) Noise image

1.3 模型構(gòu)建

本文使用改進(jìn)AlexNet模型進(jìn)行遷移學(xué)習(xí)，AlexNet包括輸入層、卷積層、池化層、全連接層和輸出層共25層，激活函數(shù)采用線性整流單元(rectified linear units,ReLU)位于每個卷積層與全連接層之后，其中有3層池化層采用最大池化以對神經(jīng)元壓縮來提高模型運(yùn)算效率，除池化層之外的所有參數(shù)信息如表1所示。

表1 AlexNet網(wǎng)絡(luò)參數(shù)表Tab. AlexNet network parameter table

由于本文采集了6類抓毛織物圖像，故將FCL8的神經(jīng)元個數(shù)修改為6，為了減少模型計算量與模型大小，同時在一定程度上提高模型的泛化能力，將全連接層FCL6神經(jīng)元個數(shù)修改為1 000，并將原始全連接層FCL7進(jìn)行刪除，最后將經(jīng)過擴(kuò)充的抓毛數(shù)據(jù)集進(jìn)行網(wǎng)絡(luò)訓(xùn)練，利用不同優(yōu)化算法完成CNN模型訓(xùn)練，結(jié)合的改進(jìn)模型(見圖3)與流程圖(見圖4)，在保持卷積層、池化層參數(shù)不變的情況下，將訓(xùn)練輸出的一維特征向量作為支持向量機(jī)(SVM)的輸入?yún)?shù)，用于6種抓毛織物的分類。

圖3 改進(jìn)模型示意圖Fig.3 Schematic diagram of improved model

圖4 遷移學(xué)習(xí)用于抓毛織物識別流程圖Fig.4 Flow chart of wool catching fabric recognition method

1.4 CNN織物特征提取

卷積神經(jīng)網(wǎng)絡(luò)是通過提取特征對圖像進(jìn)行分類，網(wǎng)絡(luò)在訓(xùn)練過程中自行學(xué)習(xí)這些特征，可以將學(xué)習(xí)的特征進(jìn)行可視化[15-17]。網(wǎng)絡(luò)的每一層卷積層輸出多個三維數(shù)組，將這些三維數(shù)組整體稱作為特征圖，而特征圖是由不同卷積核卷積運(yùn)算得到的二維數(shù)據(jù)堆疊在一起組成，每個數(shù)組對應(yīng)于輸入的過濾器，全連接層輸出的通道對應(yīng)于較淺層學(xué)習(xí)特征的高級組合。AlexNet網(wǎng)絡(luò)中有5個卷積層，隨著網(wǎng)絡(luò)卷積層數(shù)的增加，相應(yīng)的卷積層的感受野在不斷增大，從開始階段學(xué)習(xí)較小的低級特征，到終端的卷積層較大感受野時學(xué)習(xí)更高級的特征。將數(shù)據(jù)及可視化處理后的結(jié)果稱為激活映射圖，激活映射圖的計算公式為

(1)

(2)

全連接層FCL6神經(jīng)元個數(shù)修改為1 000，并將原始全連接層FCL7進(jìn)行刪除，最后將經(jīng)過擴(kuò)充的抓毛網(wǎng)絡(luò)提取不同類型的抓毛織物圖像，本文將輸入抓毛織物圖像進(jìn)行卷積層特征可視化處理，圖5示出卷積神經(jīng)網(wǎng)絡(luò)AlexNet的CL2層提取的6類抓毛織物圖像特征。由圖5可知卷積神經(jīng)網(wǎng)絡(luò)提取前后的致密均勻的抓毛織物表面特征與稀疏不均勻的抓毛織物表面特征有明顯區(qū)別。

注：樣品1#～5#為5類稀疏不均勻類型織物的原圖和特征圖。圖5 抓毛織物圖像在AlexNet網(wǎng)絡(luò)CL2層的特征圖Fig.5 Fleece fabric image outputs feature image in the CL2 layer of the AlexNet network.(a)Compact uniformity of original image；(b)Compact uniformity of feature image；(c)Sparse and uneven of original image；(d)Sparse and uneven of feature image

為進(jìn)一步探究卷積獲得抓毛織物的特征情況，選取致密均勻的抓毛織物進(jìn)行表面卷積層可視化處理，結(jié)果如圖6所示。可知從第1層到第5層的卷積過程，AlexNet模型學(xué)習(xí)的特征從整體到局部逐漸細(xì)化，網(wǎng)絡(luò)經(jīng)過一系列的特征提取和高度抽象化處理，將抓毛織物的熱點(diǎn)區(qū)域保留、圖像特征平滑清晰、對比度較大。提取的特征更加細(xì)微，而較淺層中的通道只能學(xué)習(xí)到抓毛織物的紋理、形狀等簡單特征。因此本文改進(jìn)AlexNet模型能夠提取到更為復(fù)雜的抓毛織物表面的絨毛細(xì)微圖像信息，進(jìn)行特征的描述。

圖6 卷積層特征可視化Fig.6 Visualization of convolution layer features

2 實(shí)驗分析

2.1 實(shí)驗環(huán)境及參數(shù)設(shè)定

由于深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練對硬件配置的要求更高，為了進(jìn)行有效的實(shí)驗，本文采用了GTX1060、6 G顯存的配置，MatLab語言搭建MatLab R2021a及CUDA環(huán)境，通過GPU進(jìn)行訓(xùn)練以加快數(shù)據(jù)的運(yùn)算,提高實(shí)驗效率。

綜合考慮硬件設(shè)備的性能以及訓(xùn)練效果，實(shí)驗設(shè)置MiniBatchSize為32(即每批次訓(xùn)練采用32張圖片)，動量參數(shù)設(shè)置為0.9，學(xué)習(xí)率作為影響模型的一個重要參數(shù)，設(shè)置過小會降低模型的收斂速度，使得模型的訓(xùn)練時間增加，設(shè)置過大的會引起損失函數(shù)值梯度爆炸，破壞遷移學(xué)習(xí)中預(yù)訓(xùn)練的權(quán)重信息，使得遷移學(xué)習(xí)失去意義，因此通過分別設(shè)置LearnRate為0.000 1與0.001進(jìn)一步實(shí)驗。

2.2 模型評價標(biāo)準(zhǔn)

本文通過使用預(yù)測準(zhǔn)確率、過擬合率以及模型訓(xùn)練時間綜合評判模型在抓毛織物上的分類能力和泛化能力[18-19]，預(yù)測準(zhǔn)確率P1用的公式為

(3)

式中：nT表示用于驗證模型的測試樣本集數(shù)量；mTA表示測試樣本集中分類準(zhǔn)確的樣本數(shù)量。

過擬合率O1可表示為

(4)

式中：T1為訓(xùn)練準(zhǔn)確率，%；T2為測試準(zhǔn)確率，%。

2.3 實(shí)驗結(jié)果及分析

為了驗證提出模型對抓毛織物檢測的有效性，本文在相同實(shí)驗條件下采用分類對比的實(shí)驗方法對網(wǎng)絡(luò)性能進(jìn)行評估，通過多次實(shí)驗測試發(fā)現(xiàn)，若訓(xùn)練收斂，則迭代訓(xùn)練700次后的訓(xùn)練準(zhǔn)確率變化范圍在1個百分點(diǎn)以內(nèi)，損失函數(shù)變化范圍在0.01以內(nèi)。因此將所有模型總訓(xùn)練迭代次數(shù)均設(shè)置為 800次，每迭代20次記錄一次訓(xùn)練集與測試集上的準(zhǔn)確率，對實(shí)驗數(shù)據(jù)進(jìn)行評估并保存如表2所示。

表2 不同模型檢測結(jié)果Tab.1 Recognition results by different models

為了比較卷積神經(jīng)網(wǎng)絡(luò)不同層提取的特征對分類效果的影響，抽取了遷移學(xué)習(xí)算法經(jīng)過SGDM訓(xùn)練的AlexNet模型的pool1、pool2、pool3、pool4、pool5層的特征，分別用于擬合SVM的分類，各層分類成功率的對比結(jié)果如圖7所示。

圖7 采用不同層特征的分類成功率對比Fig.7 Comparison of classification success rates using different layer features

由圖7可知，隨著卷積層的層數(shù)增高，抓毛織物表面特征越來越明顯，抽取的特征越抽象，用于分類檢測的效果越好。

2.3.1 優(yōu)化算法對模型的影響

不同的優(yōu)化算法對于模型訓(xùn)練中參數(shù)的更新有著重要影響，選擇合適的優(yōu)化算法可以使模型的輸出參數(shù)達(dá)到最優(yōu)。由表2可知，SGDM優(yōu)化算法較RMSProp、Adam優(yōu)化算法有著更高的預(yù)測準(zhǔn)確率和較快的收斂速度。SGDM優(yōu)化算法在每次選取部分抓毛織物樣本數(shù)據(jù)進(jìn)行訓(xùn)練的同時，引入了動量因子更新模型參數(shù)，因此在訓(xùn)練速度及預(yù)測準(zhǔn)確率上優(yōu)于RMSProp、Adam兩種算法，因此，本文模型以SGDM作為優(yōu)化算法更新模型。

2.3.2 數(shù)據(jù)增強(qiáng)對模型的影響

在其他參數(shù)和網(wǎng)絡(luò)結(jié)構(gòu)相同的實(shí)驗條件下，為了驗證原始數(shù)據(jù)集和擴(kuò)充后數(shù)據(jù)集對模型的影響，本文在基于SGDM優(yōu)化算法進(jìn)行遷移學(xué)習(xí)并采用相同的學(xué)習(xí)率0.000 1，對原始數(shù)據(jù)集和擴(kuò)充后數(shù)據(jù)集進(jìn)行訓(xùn)練，結(jié)果如圖8所示。由圖可知，擴(kuò)充后數(shù)據(jù)集的測試準(zhǔn)確率比未擴(kuò)充的原始數(shù)據(jù)集的測試準(zhǔn)確率高，表明數(shù)據(jù)擴(kuò)充能夠增加數(shù)據(jù)的多樣性，有效避免了訓(xùn)練過程中出現(xiàn)過擬合現(xiàn)象。此外，原始數(shù)據(jù)在訓(xùn)練過程中，訓(xùn)練準(zhǔn)確率很容易出現(xiàn)波動，造成訓(xùn)練曲線不穩(wěn)定；擴(kuò)充后數(shù)據(jù)在訓(xùn)練過程中的準(zhǔn)確率曲線比較平緩，波動小。由于訓(xùn)練數(shù)據(jù)的增加，學(xué)習(xí)抓毛織物表面特征類型更加詳細(xì)，使得訓(xùn)練準(zhǔn)確率更加穩(wěn)定、波動平緩，能夠有效提高模型的魯棒性。

圖8 數(shù)據(jù)增強(qiáng)對模型影響Fig.8 Impact of data enhancement on model

2.3.3 遷移學(xué)習(xí)對模型的影響

為研究遷移學(xué)習(xí)在抓毛織物圖像數(shù)據(jù)增強(qiáng)情況下的泛化能力，基于SGDM優(yōu)化算法，以學(xué)習(xí)率為0.000 1進(jìn)行訓(xùn)練，對比結(jié)果如表3所示，準(zhǔn)確率如圖9所示。由圖可知，數(shù)據(jù)集經(jīng)過圖像數(shù)據(jù)擴(kuò)充后，增加了數(shù)據(jù)的多樣性，全新學(xué)習(xí)與遷移學(xué)習(xí)的準(zhǔn)確率均有所提高。但是全新學(xué)習(xí)收斂速度最慢，且具有較大的波動在一定時間內(nèi)很難適應(yīng)數(shù)據(jù)擴(kuò)充帶來的數(shù)據(jù)多樣性；遷移學(xué)習(xí)的收斂速度比全新學(xué)習(xí)快，表明遷移學(xué)習(xí)縮短了網(wǎng)絡(luò)收斂時間。

表3 學(xué)習(xí)方式對比結(jié)果Tab.2 Comparison and recognition results of learning styles

圖9 不同學(xué)習(xí)方式對模型的影響Fig.9 Influence of different learning methods on model

3 結(jié) 論

本文以抓毛織物為研究對象，采用深度學(xué)習(xí)的方法對合格抓毛織物與5種不合格抓毛織物進(jìn)行質(zhì)量檢測，得到如下主要結(jié)論。

1)以卷積神經(jīng)網(wǎng)絡(luò)對抓毛織物進(jìn)行特征提取，能夠自動提取具有高分辨力的優(yōu)質(zhì)特征。

2)SGDM優(yōu)化算法在訓(xùn)練速度以及預(yù)測準(zhǔn)確率上較其他優(yōu)化算法而言有所優(yōu)勢，SGDM優(yōu)化算法更新網(wǎng)絡(luò)可以提高網(wǎng)絡(luò)的分類性能，擴(kuò)充后的抓毛織物圖像數(shù)據(jù)集可以提高模型的識別率，獲得性能良好的網(wǎng)絡(luò)模型，有效提高模型的魯棒性。

3)與AlexNet全新學(xué)習(xí)相比，本文采用遷移學(xué)習(xí)縮短網(wǎng)絡(luò)收斂時間，提升了模型的識別性能，在抓毛織物質(zhì)量檢測方面具有較高的準(zhǔn)確率。

4)基于改進(jìn)AlexNet模型的pool5層提取抓毛織物特征擬合SVM分類器，對織物的識別準(zhǔn)確率明顯提高。

FZXB