王萌萌,劉成霞,2
(1.浙江理工大學(xué) 服裝學(xué)院,浙江 杭州 310018;2.浙江理工大學(xué) 服裝數(shù)字化技術(shù)浙江省工程實(shí)驗(yàn)室, 浙江 杭州 310018)
織物縫紉平整度是紡織品外觀的重要量度標(biāo)準(zhǔn)[1],現(xiàn)有研究多采用標(biāo)樣對(duì)照、直接測(cè)量等方法對(duì)織物縫紉平整度等級(jí)進(jìn)行評(píng)定。近年來(lái),由于標(biāo)樣對(duì)照法易受觀察者自身主觀因素及環(huán)境條件的影響,測(cè)量誤差較大,相關(guān)學(xué)者開(kāi)始采用智能化評(píng)價(jià)、建立預(yù)測(cè)模型等方法對(duì)縫紉平整度進(jìn)行研究。在智能化評(píng)價(jià)方面,YoungjooNa等[2]使用圖像處理技術(shù)研究縫紉平整度等級(jí),Kang等[3]使用幾何分析法客觀評(píng)價(jià)了織物縫紉平整度,經(jīng)過(guò)與主觀評(píng)價(jià)的相關(guān)分析后發(fā)現(xiàn)該方法的準(zhǔn)確率較高;李艷梅[4]運(yùn)用小波分析及圖像處理技術(shù)建立了多元回歸模型和概率神經(jīng)網(wǎng)絡(luò)模型;蔣真真[5]利用BP神經(jīng)網(wǎng)絡(luò)建立了客觀評(píng)價(jià)縫紉平整度的模型。研究者們主要先用圖像處理技術(shù)提取織物縫紉平整度特征值,再利用人工智能技術(shù)評(píng)價(jià)織物縫紉平整度等級(jí),但上述方法中織物種類、色彩會(huì)在一定程度上影響織物縫紉平整度等級(jí)評(píng)價(jià)的準(zhǔn)確率。在建立預(yù)測(cè)模型方面,Tasaki等[6]日本學(xué)者致力于建立一個(gè)二元回歸方程來(lái)評(píng)價(jià)縫紉平整度等級(jí);劉侃[7]運(yùn)用數(shù)學(xué)方法建立了織物縫紉皺縮預(yù)測(cè)模型;范蕤[8]用模糊神經(jīng)網(wǎng)絡(luò)建立了縫紉平整度的預(yù)測(cè)模型。上述模型的預(yù)測(cè)準(zhǔn)確率雖達(dá)到了一定程度,但適用的織物種類范圍較少。
綜上,目前評(píng)價(jià)織物縫紉平整度方法的準(zhǔn)確率易受測(cè)量方式、拍攝光線及角度、織物顏色、種類乃至組織結(jié)構(gòu)的影響,且樣本圖片的獲取比較耗時(shí),不易推廣,達(dá)不到廣泛適用的效果[9]。因此,本文以織物縫紉平整度作為研究對(duì)象,試圖找到獲取樣本簡(jiǎn)便、快速實(shí)現(xiàn)縫紉平整度等級(jí)分類的方法,且該方法能降低樣本種類及其他因素對(duì)分類準(zhǔn)確率的影響。
由于卷積神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練需以大量數(shù)據(jù)為基礎(chǔ),因此本文制作了一個(gè)包含10種常用服裝織物共1 200個(gè)樣本的縫紉平整度數(shù)據(jù)集[10]??椢镆?guī)格參數(shù)如表1所示, 將每種織物裁剪成10 cm×10 cm的縫條,整燙后由同一車(chē)工統(tǒng)一在同一時(shí)間段沿經(jīng)向縫布條,使每塊布條線跡相同且清晰可見(jiàn)。然后人工控制5種抽褶量(沿縫紉線跡抽褶)0、0.5、1.0、1.5、2.0 cm以制作樣本縫條。同種織物不同抽褶量及產(chǎn)生的效果見(jiàn)圖1,可以看出抽褶量越大,織物表面越不平整。
表1 織物規(guī)格參數(shù)
圖1 同織物不同抽褶量及產(chǎn)生的效果
接下來(lái)使用佳能數(shù)碼相機(jī)按照控制變量的方法,分別變化光照條件(強(qiáng)光、中強(qiáng)光、弱光)、拍攝角度(水平和傾斜45°)中的一個(gè)參數(shù),對(duì)樣本圖像進(jìn)行采集。其中,光照強(qiáng)度由LED燈來(lái)控制,將樣本置于暗室的水平桌面上,固定LED燈,使其光線與被攝物體呈90°。調(diào)節(jié)LED燈的開(kāi)關(guān),強(qiáng)光為三檔,光照強(qiáng)度為50 mcd(毫坎德拉);中強(qiáng)光為二檔,光照強(qiáng)度為30 mcd;弱光為一檔,光照強(qiáng)度為10 mcd。再將佳能數(shù)碼相機(jī)固定于待測(cè)樣本正上方,采集水平角度的樣本圖像,然后將相機(jī)順時(shí)針旋轉(zhuǎn)45°固定,采集45°的樣本圖像。每種織物同一抽褶量分別裁剪出4個(gè) 10 cm×10 cm的縫條,變化光照條件及拍攝角度后,可獲取24個(gè)樣本圖像,10種面料共240個(gè)樣本圖像,5種抽褶量一共1 200個(gè)樣本。然后隨機(jī)截取樣本圖像的上半部分、中間部分或下半部分,替換原圖像,保持同一抽褶量樣本的總數(shù)不變,增加樣本多樣性。以往研究多需要專門(mén)的織物圖像采集設(shè)備,且針對(duì)某一類織物展開(kāi)研究,與之相比,本文在采集樣本圖像時(shí)使用的是普通相機(jī),沒(méi)有限制織物種類及拍攝條件,隨機(jī)選取了不同的織物,在3種不同光照條件(強(qiáng)光、中強(qiáng)光、弱光)下,拍攝了水平、傾斜45°的圖像,且選取了不同位置(上半部分、中間部分、下半部分)的圖像。這樣采集的織物縫紉樣本更加豐富,同時(shí)分類難度也有所增加。
訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)模型不僅要以大量樣本數(shù)據(jù)為基礎(chǔ),還需要對(duì)訓(xùn)練樣本進(jìn)行分類標(biāo)簽。因此先用主觀評(píng)價(jià)法對(duì)1 000個(gè)訓(xùn)練樣本進(jìn)行分類,根據(jù)GB/T 13771—2014《家庭洗滌后接縫平整度》標(biāo)樣規(guī)定:SS-5為第5級(jí),SS-4為第4級(jí),SS-3為第3級(jí),SS-2為第2級(jí),SS-1為第1級(jí),等級(jí)越高,織物表面越平整。請(qǐng)10位專業(yè)人士對(duì)照GB/T 13771—2014單針跡接縫評(píng)級(jí)對(duì)比樣照,對(duì)每個(gè)樣本圖片打分,0~20分為SS-5,21~40分為SS-4,41~60分為SS-3,61~80分為SS-2,81~100分為SS-1。對(duì)有爭(zhēng)議的樣本重新打分,直到得出比較合理的等級(jí)為止。
卷積神經(jīng)網(wǎng)絡(luò)早期用在識(shí)別圖像、文本、音視頻等方面,其識(shí)別步驟是先利用訓(xùn)練樣本建立模型,然后再對(duì)測(cè)試樣本進(jìn)行分類。本文中的訓(xùn)練樣本為確定好平整度等級(jí)(即帶標(biāo)簽)的織物縫紉試樣,測(cè)試樣本為待確認(rèn)平整度等級(jí)的織物縫紉樣本,需使用訓(xùn)練完成后的卷積神經(jīng)網(wǎng)絡(luò)模型來(lái)對(duì)其進(jìn)行等級(jí)評(píng)定。卷積神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)識(shí)別織物縫紉平整度等級(jí)的過(guò)程即為訓(xùn)練過(guò)程,它主要通過(guò)前向傳播來(lái)提取樣本圖片特征,再經(jīng)過(guò)反向傳播更新權(quán)重。輸出值由激活函數(shù)計(jì)算得到,激活函數(shù)見(jiàn)式(1)。
xl=f(Wlxl+bl)
(1)
式中:x為特征圖;f為激活函數(shù);l為層數(shù);W為權(quán)值;b為偏置值。
前向傳播中上一層的特征圖通過(guò)一個(gè)可學(xué)習(xí)的卷積核進(jìn)行卷積,再由激活函數(shù)來(lái)獲取新的特征圖。激活函數(shù)見(jiàn)式(2)。
(2)
在下采樣層中,樣本圖片的傾斜和旋轉(zhuǎn)產(chǎn)生的位置變化可忽略不計(jì),其優(yōu)點(diǎn)是對(duì)算法的性能和魯棒性有較大提高的同時(shí),對(duì)特征圖的維數(shù)也有一定的降低,還可以減少過(guò)度擬合出現(xiàn)的概率。下采樣層計(jì)算方式見(jiàn)式(3)。
(3)
式中:down()為下采樣函數(shù);β和b為輸出特征的偏置值。反向傳播可不斷更新權(quán)值達(dá)到降低分類誤差的目的,通常采用交叉熵?fù)p失函數(shù)運(yùn)算誤差損失。
目前,在圖像分類中最出色的卷積神經(jīng)網(wǎng)絡(luò)模型是ResNet模型[11]。ResNet模型成功地訓(xùn)練了152層超深卷積神經(jīng)網(wǎng)絡(luò),分類效果顯著,且適用性非常廣泛。
殘差結(jié)構(gòu)如圖2所示,可以看出,殘差卷積神經(jīng)網(wǎng)絡(luò)的基本殘差結(jié)構(gòu)特點(diǎn)是在高層和低層之間增加了一條短連接,輸入x,通過(guò)F(x)進(jìn)行一系列的乘和加操作之后輸出F(x)+x。假設(shè)最優(yōu)的擬合輸出為H(x)=F(x)+x,則最優(yōu)的F(x)就是H(x)和與x的殘差,擬合殘差可提高網(wǎng)絡(luò)效果。由圖2可以看出,殘差結(jié)構(gòu)的實(shí)現(xiàn)只是增加了1個(gè)短連接,并沒(méi)有多出額外的權(quán)重,且高層和低層之間的特征融合也只是簡(jiǎn)單的加運(yùn)算,所以具有殘差結(jié)構(gòu)的網(wǎng)絡(luò)在提高分類精度的同時(shí),并沒(méi)有給網(wǎng)絡(luò)帶來(lái)過(guò)多的負(fù)擔(dān)。不斷地疊加殘差結(jié)構(gòu)就可獲得1個(gè)較深的ResNet模型,最新的研究表明殘差結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)可以疊加至1 001層[12]。故殘差卷積神經(jīng)網(wǎng)絡(luò)有三大特征:一是既實(shí)現(xiàn)了訓(xùn)練極深網(wǎng)絡(luò)的目的,又能避免由于神經(jīng)網(wǎng)絡(luò)加深而導(dǎo)致的梯度丟失和梯度爆炸等現(xiàn)象;二是通過(guò)短連接形成殘差結(jié)構(gòu)操作簡(jiǎn)單,且模型易于訓(xùn)練;三是ResNet模型適用性很強(qiáng),易與其他網(wǎng)絡(luò)相結(jié)合。因此在對(duì)織物縫紉平整度圖像進(jìn)行分類時(shí),殘差結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)比其他結(jié)構(gòu)更有優(yōu)勢(shì)。
圖2 殘差結(jié)構(gòu)
基于ResNet模型的三大特性,結(jié)合縫紉平整度等級(jí)評(píng)價(jià)的研究現(xiàn)狀,本文設(shè)計(jì)了基于殘差卷積神經(jīng)網(wǎng)絡(luò)的織物縫紉平整度客觀評(píng)價(jià)模型如圖3所示,可以看出,該模型以殘差結(jié)構(gòu)為基本結(jié)構(gòu),輸入為織物縫紉樣本圖像,經(jīng)過(guò)5個(gè)殘差模塊的疊加,完成織物圖像的特征提取,輸出為織物縫紉平整度的5個(gè)等級(jí)。
圖3 基于殘差卷積神經(jīng)網(wǎng)絡(luò)的織物縫紉平整度客觀評(píng)價(jià)模型
與圖2不同的是,在本模型采用的殘差結(jié)構(gòu)中,短連接跨越了3層網(wǎng)絡(luò)層,分別是由2層1×1的卷積層和1層3×3的卷積層組成。其中1×1的卷積層主要用于特征圖的降維和升維,目的是減少模型的計(jì)算量,增加模型的運(yùn)行效率,而3×3的卷積層主要用于提取平整度圖像的特征。此外,虛線表示短連接,該連接將低層的特征直接和高層特征相融合,不僅能有效避免梯度彌散、爆炸,還能增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜程度,提高模型的魯棒性。
全連接層的作用是將平整度特征映射為一個(gè)行向量,最終通過(guò)Softmax函數(shù)輸出平整度的5個(gè)等級(jí)概率,Softmax函數(shù)的計(jì)算見(jiàn)式(4)。
(4)
式中:i為類別;j為類別的個(gè)數(shù);Ci為每個(gè)等級(jí)類別的概率。通過(guò)交叉熵?fù)p失函數(shù)反向傳播誤差,更新權(quán)重,交叉熵?fù)p失函數(shù)如下:
(5)
式中:yi為每個(gè)類別的標(biāo)簽。此外,激活函數(shù)為relu函數(shù)[13]:f(x)=max(0,x)
將1 200個(gè)實(shí)驗(yàn)樣本按照5∶1分成1 000個(gè)訓(xùn)練樣本與200個(gè)測(cè)試樣本。訓(xùn)練時(shí),為進(jìn)一步滿足卷積神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練時(shí)的大數(shù)據(jù)需求,通過(guò)對(duì)每張圖像加入隨機(jī)噪聲、隨機(jī)旋轉(zhuǎn),以及顏色抖動(dòng)等方式對(duì)訓(xùn)練集進(jìn)行擴(kuò)充。本模型的訓(xùn)練環(huán)境為:GPU NVIDIA tesla k80 24G,CPU E5 2680 V4,Cuda 9.0,Cudnn 7.1,Tensorflow 1.11。其中Tensorflow為谷歌出品的卷積神經(jīng)網(wǎng)絡(luò)框架,搭載GPU NVIDIA Tesla k80來(lái)進(jìn)行加速訓(xùn)練,Cuda與Cudnn為調(diào)用GPU加速的工具。訓(xùn)練的圖像批次(每次輸入的訓(xùn)練樣本個(gè)數(shù))大小為16個(gè),學(xué)習(xí)率為0.01%。
將訓(xùn)練好的模型在包含200個(gè)樣本的測(cè)試集上進(jìn)行結(jié)果運(yùn)行與驗(yàn)證,得到的Accr精度見(jiàn)圖4,其中橫坐標(biāo)是Nepoch迭代次數(shù),縱坐標(biāo)是模型對(duì)測(cè)試集進(jìn)行分類的準(zhǔn)確率。可以看出,隨著交叉熵?fù)p失函數(shù)不斷進(jìn)行誤差的反向傳播及網(wǎng)絡(luò)權(quán)重更新,織物縫紉平整度等級(jí)分類的準(zhǔn)確率也不斷提高。圖中的曲線有些微震蕩,是由于網(wǎng)絡(luò)在訓(xùn)練時(shí)不斷地更新權(quán)重,會(huì)短時(shí)間陷入局部最優(yōu)的情況,但隨著訓(xùn)練次數(shù)的增加,訓(xùn)練精度整體呈增長(zhǎng)趨勢(shì),最終穩(wěn)定在96%左右。
圖4 Accr精度圖
將卷積神經(jīng)網(wǎng)絡(luò)與模糊識(shí)別模型[14]、BP神經(jīng)網(wǎng)絡(luò)以及粗糙集-BP神經(jīng)網(wǎng)絡(luò)[15]這3種分類方法進(jìn)行比較,在樣本數(shù)量是其他方法10倍的情況下,卷積神經(jīng)網(wǎng)絡(luò)的精度比其他方法至少高出了3.25%。因此本文設(shè)計(jì)的卷積神經(jīng)網(wǎng)絡(luò)模型可快速地對(duì)常用服裝織物的縫紉平整度進(jìn)行等級(jí)分類,且分類結(jié)果客觀準(zhǔn)確。此外,利用卷積神經(jīng)網(wǎng)絡(luò)客觀評(píng)價(jià)織物縫紉平整度的方法還具有如下優(yōu)勢(shì):樣本種類沒(méi)有限制且適用范圍廣、樣本圖像采集時(shí)對(duì)拍攝條件和實(shí)驗(yàn)環(huán)境等要求低。
本文選取10種常見(jiàn)服裝織物,將其定量抽褶、制作成具有不同平整度外觀的1 200個(gè)縫紉樣本,將其中1 000個(gè)作為訓(xùn)練樣本,200個(gè)作為測(cè)試樣本,對(duì)構(gòu)建的殘差卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練和測(cè)試,經(jīng)過(guò)研究得到以下結(jié)論:
①該卷積神經(jīng)網(wǎng)絡(luò)模型可以有效地對(duì)縫紉平整度等級(jí)進(jìn)行分類,分類精度比其他方法高出約3%。
②卷積神經(jīng)網(wǎng)絡(luò)模型的適用范圍廣,其縫紉平整度等級(jí)分類結(jié)果不易受織物種類、組織結(jié)構(gòu)、花色等影響。
③設(shè)計(jì)的卷積神經(jīng)網(wǎng)絡(luò)模型樣本圖像采集流程簡(jiǎn)單,對(duì)拍攝條件、實(shí)驗(yàn)環(huán)境等要求低。
本文只采集了10種織物作為研究對(duì)象,市場(chǎng)上織物種類繁多,要提高卷積神經(jīng)網(wǎng)絡(luò)模型對(duì)織物縫紉樣本分類的普適性,還需要進(jìn)一步完善和優(yōu)化該模型。因此,如何優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)、提高織物樣本的分類精度等都是值得進(jìn)一步研究的問(wèn)題。