呂明珠

(1.遼寧裝備制造職業(yè)技術(shù)學(xué)院 自動(dòng)控制學(xué)院,沈陽(yáng) 110161; 2.遼寧開放大學(xué),沈陽(yáng) 110034)

預(yù)測(cè)和健康管理(Prognostics and Health Management,PHM)是實(shí)現(xiàn)機(jī)械設(shè)備智能運(yùn)維的重要環(huán)節(jié),剩余使用壽命(Remaining Useful Life, RUL)定義為相關(guān)設(shè)備在出現(xiàn)故障之前剩余的壽命長(zhǎng)度[1]。滾動(dòng)軸承作為各種旋轉(zhuǎn)機(jī)械的關(guān)鍵部件和易損件,若能準(zhǔn)確估計(jì)其剩余使用壽命,不僅能保證設(shè)備安全可靠的運(yùn)行,還能大大降低維護(hù)成本。

現(xiàn)有的剩余使用壽命預(yù)測(cè)方法主要包括基于模型和數(shù)據(jù)驅(qū)動(dòng)2種類型[2]:基于模型的方法主要借助退化的物理機(jī)制預(yù)測(cè)關(guān)鍵部件的剩余使用壽命,需要一定的先驗(yàn)知識(shí),很難準(zhǔn)確地建立復(fù)雜工況下的退化模型[3];數(shù)據(jù)驅(qū)動(dòng)方法將傳感器提供的數(shù)據(jù)轉(zhuǎn)換為參數(shù)或非參數(shù)相關(guān)模型,無(wú)需了解退化機(jī)理,但需獲得足夠的歷史數(shù)據(jù)[4],深度學(xué)習(xí)的發(fā)展使從大量數(shù)據(jù)中獲得退化特征成為可能,從而避免人工構(gòu)造特征的繁瑣。

實(shí)際應(yīng)用中,軸承往往在變工況下工作,工況條件一旦變化就需要重新訓(xùn)練模型,更新模型參數(shù)。為提高故障診斷模型的泛化能力,遷移學(xué)習(xí)算法近年來(lái)得到了越來(lái)越廣泛的關(guān)注[5]。由于變工況會(huì)導(dǎo)致特征分布發(fā)生變化,領(lǐng)域自適應(yīng)(Domain Adaptation,DA)成為影響遷移效果的關(guān)鍵因素。DA只需要利用新工況中少量的未標(biāo)記樣本即可提取域不變特征,同時(shí)在原工況中對(duì)標(biāo)記數(shù)據(jù)進(jìn)行有效的監(jiān)督,從而避免了在新工況下對(duì)標(biāo)記數(shù)據(jù)的需要[6]。

然而,目前的DA研究方法存在如下問(wèn)題:1)幾乎所有的遷移回歸模型都采用了一個(gè)無(wú)監(jiān)督的全局DA解決方案,只是全局對(duì)齊域而忽略了數(shù)據(jù)中的細(xì)粒度信息,容易出現(xiàn)遷移結(jié)果變差的問(wèn)題;2)大多數(shù)最初被提出的DA模型只用于故障分類,可能并不適用于剩余使用壽命預(yù)測(cè);3)已有的DA解決方案常使用對(duì)抗性模型,存在結(jié)構(gòu)復(fù)雜和收斂困難的問(wèn)題。

針對(duì)上述問(wèn)題,本文提出一種深度子域自適應(yīng)回歸網(wǎng)絡(luò)的變工況軸承剩余使用壽命預(yù)測(cè),基本思想是利用傳統(tǒng)的深度學(xué)習(xí)網(wǎng)絡(luò)建立一個(gè)特征提取器,加入輔助類別標(biāo)簽和子域分類器捕捉子域類別信息,通過(guò)局部最大均值偏差估計(jì)不同工況之間的特征分布差異,最后建立一個(gè)域不變回歸,完成剩余使用壽命預(yù)測(cè)。

1 理論基礎(chǔ)

1.1 全局領(lǐng)域自適應(yīng)

令Ds和Dt分別代表源域和目標(biāo)域,定義樣本空間Xs∈Ds,Xt∈Dt,則從源域和目標(biāo)域中提取的數(shù)據(jù)樣本分別為xs∈Xs,xt∈Xt。在實(shí)際應(yīng)用中,源域和目標(biāo)域的振動(dòng)數(shù)據(jù)通常來(lái)自于不同工況的軸承,存在嚴(yán)重的分布差異。假設(shè)來(lái)自源域和目標(biāo)域的數(shù)據(jù)樣本服從各自的邊緣概率分布P(Xs),P(Xt)以及條件概率分布Q(Ys|Xs),Q(Yt|Xt),且P(Xs)≠P(Xt),Q(Ys|Xs)≠Q(mào)(Yt|Xt)。

所謂領(lǐng)域自適應(yīng),就是解決源域與目標(biāo)域之間的特征空間和學(xué)習(xí)任務(wù)相同,但邊緣概率分布和條件概率分布不同的問(wèn)題[7]。領(lǐng)域自適應(yīng)遷移學(xué)習(xí)的目標(biāo)是學(xué)習(xí)一個(gè)特征變換,同時(shí)最小化邊緣分布和條件分布差異,即

minD(Ps(φ(Xs)),Pt(φ(Xt)),

(1)

minD(Qs(Ys|φ(Xs)),Qt(Yt|φ(Xt))),

(2)

式中:D為評(píng)估領(lǐng)域差異的函數(shù);φ為映射函數(shù)。

EXt～q[φ(Xt)]},

(3)

式中:D為用于評(píng)估領(lǐng)域偏差的距離;H為再生核希爾伯特空間;sup為輸入聚合的上確界;φ為X→H的非線性映射函數(shù);E為嵌入樣本的平均值。

在統(tǒng)計(jì)學(xué)中,這種表示被稱為整體概率度量。為計(jì)算這個(gè)差異,可以用最大均值差異的有偏估計(jì)替代,可表示為

(4)

2個(gè)分布差異的經(jīng)驗(yàn)估計(jì)可認(rèn)為是在再生核希爾伯特空間中的2個(gè)數(shù)據(jù)平均值的距離。當(dāng)最大均值差異接近于0時(shí),表示2個(gè)分布是對(duì)齊的。

1.2 子域領(lǐng)域自適應(yīng)

大量的深度自適應(yīng)方法試圖通過(guò)學(xué)習(xí)全局域移位來(lái)提取域不變表示。這只是對(duì)齊源域和目標(biāo)域的全局分布,而沒有考慮子域之間的關(guān)系(在分類任務(wù)中,相同的樣本通常被歸類為子域)。這種全局對(duì)齊會(huì)破壞域內(nèi)的分布結(jié)構(gòu),導(dǎo)致結(jié)果較差,如圖1所示。

圖1 全局與子域領(lǐng)域自適應(yīng)遷移學(xué)習(xí)結(jié)果對(duì)比

子域自適應(yīng)側(cè)重于將源域和目標(biāo)域中相同類型的子域?qū)R[9],但大多是基于對(duì)抗性的方法,意味著復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu),包含多個(gè)損失項(xiàng)的目標(biāo)函數(shù),困難的超參數(shù)選擇和收斂過(guò)程等, 而且將子域自適應(yīng)理論應(yīng)用于剩余使用壽命預(yù)測(cè)的相關(guān)文獻(xiàn)也很少。

1.3 局部最大均值偏差

為對(duì)齊相關(guān)的子域,本文引入局部最大均值偏差(Local MMD,LMMD),其在考慮不同樣本權(quán)重的情況下,測(cè)量源域和目標(biāo)域中相關(guān)子域經(jīng)驗(yàn)分布的核平均嵌入之間的Hilbert-Schmidt范數(shù)[10],其定義為

DH(xs,xt)?

(5)

LMMD可以測(cè)量局部分布差異的期望。假設(shè)每個(gè)樣本以權(quán)重ωc屬于每個(gè)類別,則存在的無(wú)偏估計(jì)為

(6)

對(duì)于任意一個(gè)樣本,其權(quán)重計(jì)算公式為

(7)

式中:zic為zi的第c個(gè)元素。

2 深度子域自適應(yīng)回歸網(wǎng)絡(luò)

2.1 網(wǎng)絡(luò)結(jié)構(gòu)

為適應(yīng)滾動(dòng)軸承剩余使用壽命預(yù)測(cè)的需要,本文利用子域間的細(xì)粒度監(jiān)督信息設(shè)計(jì)了一種新型遷移學(xué)習(xí)框架,稱為深度子域自適應(yīng)回歸網(wǎng)絡(luò)(Deep Subdomain Adaptive Regression Network, DSARN),其結(jié)構(gòu)如圖2所示。

圖2 深度子域自適應(yīng)回歸網(wǎng)絡(luò)結(jié)構(gòu)圖

與大多數(shù)端到端的剩余使用壽命預(yù)測(cè)結(jié)構(gòu)類似,DSARN中嵌入了一個(gè)特征提取器和一個(gè)回歸器。特征提取器將原始輸入信號(hào)xi通過(guò)隱藏層獲得高維特征hi,再通過(guò)回歸器得到高維特征hi與回歸預(yù)測(cè)yi之間的映射,這個(gè)映射的學(xué)習(xí)過(guò)程需要不斷最小化回歸誤差,并在網(wǎng)絡(luò)中嵌入子域自適應(yīng)解決最小化問(wèn)題,即

(8)

λ=2μ/(1+e-10τ/τm)-1,

式中:J為目標(biāo)輸出與預(yù)測(cè)輸出的損失函數(shù);dc為用來(lái)度量源域和目標(biāo)域之間所有對(duì)應(yīng)的子域差異;λ為時(shí)變權(quán)衡系數(shù);τ為當(dāng)前迭代次數(shù);τm為最大迭代次數(shù);μ為預(yù)先設(shè)定的遷移系數(shù)。

為在回歸模型中進(jìn)行子域劃分和子域自適應(yīng),本文在網(wǎng)絡(luò)結(jié)構(gòu)中加入輔助類別標(biāo)簽和子域分類器捕捉子域類別信息,再通過(guò)LMMD估計(jì)源域與目標(biāo)域之間的加權(quán)分布差,最后建立一個(gè)域不變回歸,形成DSARN學(xué)習(xí)算法。

2.2 基于DSARN的剩余使用壽命預(yù)測(cè)方法

為提高剩余使用壽命預(yù)測(cè)的跨域泛化性能,全面利用細(xì)粒度的子域信息,本文在DSARN算法基礎(chǔ)上提出了一種基于DSARN的多工況軸承剩余使用壽命預(yù)測(cè)方法,其框架如圖3所示,具體步驟為:

圖3 基于DSARN的剩余使用壽命預(yù)測(cè)方法流程圖

1)收集多種工況下滾動(dòng)軸承的故障振動(dòng)信號(hào)。

2)利用二階同步壓縮變換將源域已標(biāo)記的樣本和目標(biāo)域原始振動(dòng)信號(hào)轉(zhuǎn)換為時(shí)頻表示。

3)建立并初始化DSARN模型。

4)將來(lái)自源域的標(biāo)記樣本和來(lái)自目標(biāo)域的未標(biāo)記樣本用于DSARN訓(xùn)練,通過(guò)最小化相對(duì)子域之間的差異減小每個(gè)退化階段中源域與目標(biāo)域樣本之間的差異。

5)使用訓(xùn)練后的DSARN進(jìn)行測(cè)試樣本的預(yù)測(cè)。

6)輸出剩余使用壽命預(yù)測(cè)結(jié)果并評(píng)價(jià)該方法的性能。

3 試驗(yàn)分析

為驗(yàn)證DSARN在剩余使用壽命預(yù)測(cè)上的實(shí)用性,采用在多種工況下采樣軸承振動(dòng)信號(hào)的IEEE2012PHM軸承數(shù)據(jù)集[11]進(jìn)行分析,使用評(píng)分函數(shù)、均方根誤差(Root Mean Squared Error, RMSE)和平均絕對(duì)誤差(Mean Absolute Error, MAE)進(jìn)行性能評(píng)價(jià)。

評(píng)分函數(shù)的定義為

(9)

3.1 數(shù)據(jù)描述

IEEE2012PHM軸承數(shù)據(jù)集來(lái)自PRONOSTIA試驗(yàn)臺(tái),其通過(guò)加速退化試驗(yàn)收集滾動(dòng)軸承的全周期退化振動(dòng)數(shù)據(jù)。試驗(yàn)軸承為6804型深溝球軸承(內(nèi)徑20 mm,外徑32 mm,寬度7 mm),軸承外圈上安裝了2個(gè)加速度傳感器,采樣頻率為25.6 kHz。每次采樣持續(xù)0.1 s,每10 s采樣一次,當(dāng)軸承振動(dòng)幅值超過(guò)20g時(shí)試驗(yàn)終止[12]。該數(shù)據(jù)集在3種不同工況下測(cè)試了17套軸承(表1),本節(jié)的案例研究包含了6個(gè)遷移場(chǎng)景,具體的訓(xùn)練和測(cè)試數(shù)據(jù)見表2。

表1 IEEE2012PHM軸承數(shù)據(jù)集描述

表2 遷移預(yù)測(cè)的6種情況

3.2 數(shù)據(jù)預(yù)處理

深度網(wǎng)絡(luò)具有較強(qiáng)的特征提取能力,甚至可以直接從軸承振動(dòng)信號(hào)中提取特征;然而,考慮到振動(dòng)信號(hào)的非平穩(wěn)性,通過(guò)頻譜分析預(yù)處理的數(shù)據(jù)更有利于特征提取,使網(wǎng)絡(luò)獲得更快的收斂。因此,本文選用比傳統(tǒng)的傅里葉方法更利于處理波動(dòng)頻繁的軸承振動(dòng)數(shù)據(jù)的二階同步壓縮變換方法進(jìn)行時(shí)頻處理,以軸承1_1某一樣本為例,其預(yù)處理結(jié)果如圖4所示。

(a) 原始振動(dòng)信號(hào)

由于軸承在不同工況下的全壽命周期差異很大,使用絕對(duì)剩余使用壽命值難以獲得良好的跨域預(yù)測(cè)。為便于對(duì)比分析,本文對(duì)預(yù)測(cè)結(jié)果進(jìn)行規(guī)范化處理,即

(10)

式中:LRUL為軸承剩余使用壽命預(yù)測(cè)值;Ltotal為軸承全周期壽命。L越接近1表明軸承越健康,越接近0則表明軸承退化越嚴(yán)重。

3.3 模型訓(xùn)練

ResNet是卷積神經(jīng)網(wǎng)絡(luò)的一種變體[12],通過(guò)在網(wǎng)絡(luò)中添加殘余模塊解決梯度消失的問(wèn)題,比傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)具有更好的學(xué)習(xí)能力和泛化性能。本文使用沒有頂層分類器和預(yù)訓(xùn)練參數(shù)的ResNet50作為軸承信號(hào)的特征提取器。DSARN的網(wǎng)絡(luò)結(jié)構(gòu)見表3。通過(guò)網(wǎng)格搜索確定的DSARN超參數(shù)設(shè)置為:最大迭代次數(shù)200,批處理大小16,學(xué)習(xí)率0.000 05,遷移系數(shù)0.005,子域類別10。

表3 DSARN的網(wǎng)絡(luò)結(jié)構(gòu)

DSARN模型在訓(xùn)練過(guò)程中的誤差減少情況如圖5所示:回歸誤差(目標(biāo)輸出與預(yù)測(cè)輸出之間的均方根誤差)在早期對(duì)目標(biāo)函數(shù)的貢獻(xiàn)較大,因此,在早期訓(xùn)練過(guò)程應(yīng)注重提高回歸精度;經(jīng)過(guò)迭代后,回歸誤差的下降明顯減慢,LMMD的貢獻(xiàn)增加,此時(shí)應(yīng)注重提取域不變特征以減小子域差異;再經(jīng)過(guò)一段時(shí)間迭代后,總誤差趨于穩(wěn)定,表明網(wǎng)絡(luò)變得收斂。LMMD明顯下降,說(shuō)明子域差異在不斷減小。

圖5 DSARN的訓(xùn)練損失

3.4 剩余使用壽命預(yù)測(cè)結(jié)果

除DSARN外,本文引入了2個(gè)對(duì)比模型:模型1是沒有進(jìn)行領(lǐng)域自適應(yīng)的ResNet,從DSARN中刪除輔助類別標(biāo)簽和子域自適應(yīng),只使用源域訓(xùn)練;模型2是使用傳統(tǒng)全局領(lǐng)域自適應(yīng)的ResNet(簡(jiǎn)稱DAN),源域和目標(biāo)域在全域?qū)R而不考慮子域劃分,并使用MMD作為距離度量。利用上述方法對(duì)表2中的6種遷移場(chǎng)景進(jìn)行訓(xùn)練和測(cè)試,剩余使用壽命預(yù)測(cè)結(jié)果如圖6所示:非領(lǐng)域自適應(yīng)ResNet的預(yù)測(cè)在大部分時(shí)間下表現(xiàn)不佳,幾乎沒有單調(diào)的趨勢(shì),使用較少的源域樣本預(yù)測(cè)較大樣本量目標(biāo)域時(shí)的性能特別糟糕(圖6f);DAN的性能往往不如DSARN好,有時(shí)甚至比ResNet更差(圖6d,圖6e),這是由于DAN只會(huì)全局縮小源域和目標(biāo)域,導(dǎo)致內(nèi)部細(xì)粒度結(jié)構(gòu)信息被破壞,可能導(dǎo)致負(fù)遷移[15];除了圖6e的結(jié)果外,使用DSARN得到的結(jié)果有明顯的單調(diào)趨勢(shì),DSARN將相應(yīng)的子域?qū)R,可以得到每個(gè)退化階段更好的子域不變特征,DSARN在6種遷移場(chǎng)景中均取得了比DAN和ResNet更好的剩余使用壽命預(yù)測(cè)結(jié)果。

圖6 不同模型在6種遷移場(chǎng)景下的預(yù)測(cè)結(jié)果

3種性能指標(biāo)的計(jì)算結(jié)果見表4:與非領(lǐng)域自適應(yīng)ResNet相比,DAN提高了預(yù)測(cè)效果但有時(shí)會(huì)發(fā)生負(fù)遷移,DSARN方法則取得了最高的平均分?jǐn)?shù)以及最小的平均RMSE和MAE。結(jié)果表明子域自適應(yīng)能夠使網(wǎng)絡(luò)進(jìn)行跨條件的剩余使用壽命預(yù)測(cè)且不容易發(fā)生負(fù)遷移,DSARN通過(guò)子域自適應(yīng)保留和使用數(shù)據(jù)中的細(xì)粒度結(jié)構(gòu)信息,顯著提高了跨域泛化性能。

表4 遷移結(jié)果的性能指標(biāo)

為探究LMMD對(duì)隱藏特征提取的影響,進(jìn)行了源域樣本和目標(biāo)域樣本中提取特征的對(duì)比分析。以工況1→2為例,使用t-分布的隨機(jī)鄰域嵌入可視化隱藏表示的分布,結(jié)果如圖7所示:ResNet提取的隱藏特征顯示出較大的特征分布上的差異,準(zhǔn)確度也較差;DAN提取的特征服從MMD項(xiàng)的分布相對(duì)相似,但仍存在明顯的差異,而且樣本集太多時(shí)將難以區(qū)分特征;DSARN利用LMMD的子域自適應(yīng)函數(shù)很好地對(duì)齊源域和目標(biāo)域的特征,得到了最小的子域差異,從而更好地提取域不變特征并建立從特征到標(biāo)簽的有效映射。

圖7 不同模型從源域到目標(biāo)域的特征分布

4 結(jié)束語(yǔ)

本文提出了一種基于子域自適應(yīng)的DSARN模型,用于多工況下滾動(dòng)軸承的剩余使用壽命預(yù)測(cè)。利用二階同步壓縮變換對(duì)軸承振動(dòng)信號(hào)進(jìn)行預(yù)處理,將非平穩(wěn)的原始振動(dòng)信號(hào)轉(zhuǎn)換為更容易捕捉特征的頻譜信號(hào)并得到多通道信號(hào)作為輸入,與基于人工設(shè)計(jì)特征或統(tǒng)計(jì)特征的方法相比,可以保留更多的特征信息。使用ResNet50作為基礎(chǔ)網(wǎng)絡(luò)框架進(jìn)行特征提取并加入回歸器和子域分類器實(shí)現(xiàn)回歸模型上的子域自適應(yīng),采用一個(gè)新的包含LMMD項(xiàng)和時(shí)變權(quán)衡項(xiàng)的目標(biāo)函數(shù)來(lái)訓(xùn)練網(wǎng)絡(luò)并提取子域不變特征。在IEEE 2012 PHM軸承數(shù)據(jù)集上進(jìn)行6種場(chǎng)景的遷移預(yù)測(cè),DSARN模型在變工況軸承剩余使用壽命預(yù)測(cè)中可獲得更高的準(zhǔn)確性和更好的遷移性能,在工程實(shí)踐中有一定的推廣價(jià)值。

DSARN模型的局限性在于參數(shù)較多,收斂時(shí)間及復(fù)雜度較高,而且未從多維度綜合考慮時(shí)間退化信息,在今后的研究工作中將進(jìn)一步改進(jìn)模型參數(shù),提高收斂性能,加快收斂速度,合理利用時(shí)間相關(guān)信息,以期提供更穩(wěn)定的預(yù)測(cè)效果。