王煜偉，朱靜，史曜煒，鄧艾東

（1.國家能源集團 諫壁發(fā)電廠，江蘇 鎮(zhèn)江 212006；2.河南科技大學(xué) 車輛與交通工程學(xué)院，河南 洛陽 471000；3.東南大學(xué) 能源與環(huán)境學(xué)院，南京 210000）

旋轉(zhuǎn)機械在現(xiàn)代工業(yè)中扮演著重要的角色，其健康狀態(tài)對設(shè)備的穩(wěn)定運行具有十分重要的影響［1］。建立可靠的故障診斷方法對于早期預(yù)警和預(yù)測維修，保障機組安全運行，提高機組運行效率，避免事故發(fā)生具有重要的現(xiàn)實意義［2］。近些年涌現(xiàn)出的智能故障診斷方法中，以深度學(xué)習(xí)為代表的基于數(shù)據(jù)驅(qū)動的方法由于具有優(yōu)化簡單，對專家經(jīng)驗依賴少等優(yōu)點被廣泛關(guān)注。常見的有卷積神經(jīng)網(wǎng)絡(luò)（CNN）［3］、長短期記憶網(wǎng)絡(luò)［4］和自編碼網(wǎng)絡(luò)［5］等?；趥鹘y(tǒng)深度學(xué)習(xí)的診斷方法總是依賴于訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)服從相同分布的假設(shè)，即使數(shù)據(jù)是相似的，在一個領(lǐng)域數(shù)據(jù)（源域）上訓(xùn)練的模型也無法很好地應(yīng)用在其他領(lǐng)域數(shù)據(jù)（目標域），如滾動軸承不同運行工況（轉(zhuǎn)速、載荷）下的振動數(shù)據(jù)。

領(lǐng)域自適應(yīng)（Domain Adaptation，DA）是遷移學(xué)習(xí)的分支，其利用有監(jiān)督的源域數(shù)據(jù)和無監(jiān)督的目標域數(shù)據(jù)學(xué)習(xí)具有領(lǐng)域不變性的特征，使得在源域建立的診斷模型可以有效應(yīng)用于目標域的故障識別［6?9］。文獻［7］利用Wasserstein 距離構(gòu)造了深度對抗DA 網(wǎng)絡(luò)，將源域?qū)W習(xí)到的故障知識遷移到目標域進行診斷；文獻［8］提出了多源域分解網(wǎng)絡(luò)，從多個源域中學(xué)習(xí)更豐富的診斷知識，同時考慮了每個領(lǐng)域的私有特征對知識遷移的影響。

為降低領(lǐng)域之間的分布差異，現(xiàn)有方法開發(fā)了多種特征對齊策略，但其對特征學(xué)習(xí)過程的關(guān)注不夠，尤其是忽略了不同領(lǐng)域特征的尺度特性差異，學(xué)到的特征雖然具有較好的可遷移性，但攜帶的故障信息卻不全面，從而限制了模型性能的提升及其適用性。滾動軸承的振動信號通常表現(xiàn)出多尺度特性且在多個時間尺度上包含復(fù)雜的模式［10］，為此一些研究者提出了多尺度學(xué)習(xí)框架［11?12］，利用多個尺度并行提取特征并加以融合以獲取豐富的故障信息，如文獻［11］通過設(shè)置不同尺度的卷積核建立了并行的多尺度特征提取分支，試圖學(xué)習(xí)振動信號中故障特征多樣的表征模式。此外，還有一些研究從動態(tài)特征提取的層面展開［13?14］，通過構(gòu)造動態(tài)卷積網(wǎng)絡(luò)并根據(jù)不同的輸入數(shù)據(jù)自適應(yīng)地改變網(wǎng)絡(luò)參數(shù)以實現(xiàn)差異化的特征學(xué)習(xí)方式。然而，由于軸承的運行工況多變，跨工況下的故障特征尺度的特性差異不僅存在于每個領(lǐng)域內(nèi)，領(lǐng)域之間的差異同樣存在且更為復(fù)雜。

綜上，本文提出基于可遷移注意力的領(lǐng)域自適應(yīng)網(wǎng)絡(luò)（Transferable Attention Based Domain Adap?tation Network，TADAN），用于滾動軸承的跨工況故障診斷，通過學(xué)習(xí)包含豐富故障信息的領(lǐng)域不變特征，在無監(jiān)督目標域?qū)崿F(xiàn)高性能的故障診斷。

1 理論分析

1.1 領(lǐng)域自適應(yīng)

本文的研究目的是從有監(jiān)督的源域和無監(jiān)督的目標域中學(xué)習(xí)具有領(lǐng)域不變性和故障類別判別性的特征表示，從而識別目標數(shù)據(jù)的故障類型。

設(shè)DS=為有nS個樣本?標簽對的有監(jiān)督源域，DT={DT，train，DT，test}為目標域。分別為用于訓(xùn)練的無監(jiān)督目標數(shù)據(jù)和用于測試的有監(jiān)督目標數(shù)據(jù)。YS，PS分別為源域的標簽空間和數(shù)據(jù)分布；YT，PT分別為目標域的標簽空間和數(shù)據(jù)分布；它們具有相同的標簽空間但數(shù)據(jù)分布不同，即YS=YT，PS≠PT。則本文的目的是從DS和DT，train中學(xué)習(xí)一個共享的函數(shù)映射，使其能夠在DT，test上實現(xiàn)高性能的診斷。

1.2 領(lǐng)域?qū)褂?xùn)練

領(lǐng)域?qū)褂?xùn)練被廣泛地應(yīng)用在遷移學(xué)習(xí)中，用于消除不同領(lǐng)域數(shù)據(jù)間的分布差異［15］，其核心思想是在訓(xùn)練分類器C 識別來自源域特征對應(yīng)故障類別的同時，構(gòu)造一個領(lǐng)域判別器D 和特征提取器G 進行最小化?最大化對抗訓(xùn)練［16］，使G 可以從源域和目標域中提取領(lǐng)域不變的特征表示f。

令θG，θC和θD分別為子網(wǎng)絡(luò)G，C，D 的參數(shù)，則對抗訓(xùn)練的優(yōu)化目標為

式中：Lc，Ld分別為分類損失和領(lǐng)域判別損失；λ為折中系數(shù)，用于平衡2 個損失，λ＞0；yi，di分別為樣本xi的類別標簽和領(lǐng)域標簽。

基于（1）式，網(wǎng)絡(luò)的參數(shù)可優(yōu)化為

1.3 動態(tài)卷積

傳統(tǒng)的靜態(tài)網(wǎng)絡(luò)對所有輸入數(shù)據(jù)采用相同的網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)，面對多樣化的輸入時，其特征學(xué)習(xí)能力會受到削弱。動態(tài)卷積［17］在每次執(zhí)行卷積的過程中，隨機生成的卷積核不再單一，而是M個子卷積核的加權(quán)累加，因此可以根據(jù)不同的輸入數(shù)據(jù)自適應(yīng)地調(diào)整卷積核，針對性地提取有效特征，從而強化網(wǎng)絡(luò)學(xué)習(xí)能力。動態(tài)卷積的結(jié)構(gòu)如圖1所示，子卷積核（convm）享有相同的尺寸和輸入輸出維度，其權(quán)重系數(shù)（πm）由輸入數(shù)據(jù)動態(tài)決定，權(quán)重系數(shù)的生成采用squeeze?and?excitation方法。

圖1 動態(tài)卷積結(jié)構(gòu)示意圖Fig.1 Structure diagram of dynamic convolution

2 TADAN故障診斷方法

2.1 網(wǎng)絡(luò)架構(gòu)

基于可遷移注意力的領(lǐng)域自適應(yīng)網(wǎng)絡(luò)的架構(gòu)如圖2 所示，由包含K個尺度分支的特征提取器G ={Gk}K k=1，可遷移性計算模塊，領(lǐng)域判別器D 和分類器C 構(gòu)成。每個特征提取分支由多個卷積層構(gòu)成，可通過設(shè)置不同的卷積核感受野實現(xiàn)不同尺度特征的提取。為降低模型復(fù)雜度并減少訓(xùn)練參數(shù)，只在最后一個卷積層采用動態(tài)卷積。具體的數(shù)據(jù)流動為：來自源域和目標域的原始振動信號被送入網(wǎng)絡(luò)，經(jīng)多個尺度特征提取分支獲得不同尺度的特征表示；可遷移計算模塊對這些特征的可遷移性進行評估并分配權(quán)重，加權(quán)后的多尺度特征被進一步融合去冗，從而獲得高等級的抽象特征表示fh；一方面，來自源域和目標域的fh被送入D進行對抗訓(xùn)練，促使其領(lǐng)域不變；另一方面，來自源域的fh被送入C 并映射到故障類別，學(xué)習(xí)判別性的診斷信息。當網(wǎng)絡(luò)訓(xùn)練完備后，特征提取器最終獲取的特征表示fh應(yīng)當是攜帶大量故障識別信息且對分布差異不敏感，可以應(yīng)用于無監(jiān)督目標域的診斷任務(wù)。

圖2 TADAN網(wǎng)絡(luò)架構(gòu)Fig.2 Architecture of TADAN

2.2 可遷移計算模塊

可遷移計算模塊的作用是計算不同尺度特征在2個領(lǐng)域之間的可遷移性，從而給予可遷移性高的尺度特征以更高的關(guān)注度，促進知識的有效遷移。可遷移計算模塊中包含K個尺度領(lǐng)域判別器，分別對應(yīng)K個特征提取分支。判別器的輸出為該尺度特征屬于源域或目標域的概率，應(yīng)用熵函數(shù)H（p） =?∑pilogpi即可量化特征的可遷移性。特征越不容易被判別來源，越容易被混淆，則表示該特征越適合遷移?？蛇w移計算模塊最終輸出不同尺度特征的權(quán)重集合，可表示為

2.3 網(wǎng)絡(luò)訓(xùn)練

式中：ε為學(xué)習(xí)率。

2.4 故障診斷流程

具體的模型訓(xùn)練與診斷流程如下：

1）獲取數(shù)據(jù)。以工況A 下的有監(jiān)督數(shù)據(jù)作為源域，其他工況（如工況B）下的無監(jiān)督數(shù)據(jù)作為目標域。

2）將源域與目標域數(shù)據(jù)同時輸入TADAN 網(wǎng)絡(luò)中，經(jīng)過特征提取器G 得到分別屬于源域和目標域的多個尺度特征。

3）將源域和目標域的同尺度特征分別送入可遷移計算模塊，計算不同尺度特征的可遷移性以獲取尺度權(quán)重= 1。

4）利用尺度權(quán)重對多尺度特征進行加權(quán)融合，獲取高等級的抽象特征表示fh。

5）將特征表示fh送入領(lǐng)域判別器和分類器計算領(lǐng)域判別損失和分類損失。

6）將得到損失之和進行反向傳播，并更新模型參數(shù)。

7）重復(fù)上述步驟，直至損失值趨于穩(wěn)定，訓(xùn)練收斂，模型訓(xùn)練結(jié)束。

8）將工況B 下的數(shù)據(jù)輸入訓(xùn)練完成的診斷模型，輸出變工況下的故障類型識別結(jié)果。

3 試驗分析

3.1 數(shù)據(jù)集介紹

本文使用2 個公開的軸承數(shù)據(jù)集構(gòu)造試驗以驗證所提方法的有效性。

3.1.1 帕德伯恩大學(xué)滾動軸承數(shù)據(jù)集

帕德伯恩大學(xué)（Paderborn University，PB）滾動軸承公開數(shù)據(jù)集［18］的試驗軸承為6203型深溝球軸承，內(nèi)、外徑分別為24.0 ，33.1 mm，鋼球數(shù)量為8，球徑為6.75 mm。試驗數(shù)據(jù)包含6 種軸承狀態(tài)，分別是正常狀態(tài)N，3 種不同損傷程度的內(nèi)圈故障（IR1，IR2，IR3）以及2種不同損傷程度的外圈故障（OR1，OR2），其類別標簽依次被標記為0～5。軸承故障的具體描述見表1，損傷程度根據(jù)損傷表面在滾動方向上的長度進行分類，損傷等級1，2，3代表的損傷長度分別為0～2，2.0～4.5，4.5～13.5 mm。故障軸承振動信號的時域波形如圖3所示，除幅值略有區(qū)別外，很難通過肉眼分辨不同故障。

表1 PB數(shù)據(jù)集軸承故障描述Tab.1 Description of bearing faults in PB dataset

圖3 PB數(shù)據(jù)集中故障軸承振動信號時域波形Fig.3 Time domain waveform of faulty bearing vibration signals in PB dataset

振動數(shù)據(jù)收集自4 種運行工況，采樣頻率為64 kHz。根據(jù)工況將數(shù)據(jù)分割為4 個獨立域A，B，C，D，每個域的細節(jié)信息見表2。在原始振動信號上執(zhí)行滑動窗分割以獲取數(shù)據(jù)樣本，每個樣本包含2400個數(shù)據(jù)點。以某一個領(lǐng)域為源域，剩余3個領(lǐng)域為目標域，共建立了12 個跨域診斷任務(wù)（表3）。對于每個診斷任務(wù)，所有源域樣本（有監(jiān)督）和70%的目標域樣本（無監(jiān)督）用于訓(xùn)練，剩下的30%目標域樣本（有監(jiān)督）用于測試。

表2 PB數(shù)據(jù)集領(lǐng)域信息Tab.2 Domain information in PB dataset

表3 PB數(shù)據(jù)集診斷任務(wù)Tab.3 Diagnostic tasks in PB dataset

3.1.2 江南大學(xué)軸承數(shù)據(jù)集

江南大學(xué)軸承數(shù)據(jù)集［19］的軸承狀態(tài)包括正常（N）、外圈損傷（OR）、內(nèi)圈損傷（IR）和滾子損傷（RE）。損傷軸承通過線切割得到，內(nèi)、外圈損傷尺寸（寬×深）均為0.30 mm×0.25 mm，滾子損傷尺寸為0.50 mm×0.15 mm。內(nèi)圈損傷軸承型號為NU205，其他狀態(tài)軸承的型號為N205，N205 和NU205 型軸承的內(nèi)徑均為25 mm，外徑均為52 mm，滾子直徑均為7 mm，滾子數(shù)分別為10，11。

振動數(shù)據(jù)收集自600，800，1000 r/min 工況，采樣頻率為50 kHz。領(lǐng)域分割和數(shù)據(jù)集劃分方式與PB數(shù)據(jù)集相同，分為E，F(xiàn)，G三個域，共建立6個跨域診斷任務(wù)，見表4。

表4 江南大學(xué)數(shù)據(jù)集診斷任務(wù)Tab.4 Diagnostic tasks in Jiangnan University dataset

3.2 試驗設(shè)置

TADAN 的網(wǎng)絡(luò)結(jié)構(gòu)見表5，尺度分支K設(shè)置為3，卷積?池化的參數(shù)為（卷積核數(shù)量，卷積核尺寸）?（池化尺寸，池化步長），動態(tài)卷積均應(yīng)用在特征提取分支的最后一個卷積層，其子卷積核數(shù)M設(shè)置為4。此外，可遷移計算模塊中的K個尺度領(lǐng)域判別器與網(wǎng)絡(luò)最后的領(lǐng)域判別器結(jié)構(gòu)相同。

表5 TADAN的網(wǎng)絡(luò)拓撲與參數(shù)Tab.5 Topology and parameters of TADAN

網(wǎng)絡(luò)訓(xùn)練過程中，使用Kaiming 初始化方法初始化網(wǎng)絡(luò)參數(shù)，折中參數(shù)λ設(shè)置為0.1；采用隨機梯度下降優(yōu)化器，動量為0.9，學(xué)習(xí)率衰減為5×10?4；初始學(xué)習(xí)率為0.01；總訓(xùn)練次數(shù)為120次。每次試驗重復(fù)5次后記錄其平均值。

3.3 對比方法

為驗證所提方法的有效性和優(yōu)越性，構(gòu)建多個不同的模型用于對比分析：

1） SCNN。標準的單尺度卷積神經(jīng)網(wǎng)絡(luò)模型，其特征提取器采用TADAN 中的特征提取分支3。SCNN 不涉及領(lǐng)域自適應(yīng)（移除了領(lǐng)域判別器和可遷移計算模塊），僅采用傳統(tǒng)的有監(jiān)督學(xué)習(xí)方式，即訓(xùn)練樣本中不包含無監(jiān)督的目標域數(shù)據(jù)。此外，SCNN特征提取器不采用動態(tài)卷積。

2） MCNN。多尺度卷積神經(jīng)網(wǎng)絡(luò)模型，與TADAN 具有相同的網(wǎng)絡(luò)結(jié)構(gòu)（未使用動態(tài)卷積），訓(xùn)練方式與SCNN相同，為傳統(tǒng)的有監(jiān)督訓(xùn)練。

3） DAN。與MCNN 相比，DAN 方法增加了領(lǐng)域判別器，遵循標準的對抗訓(xùn)練方式。

4） TA?DC。TADAN不采用動態(tài)卷積的版本。

3.4 結(jié)果分析

2個試驗案例的測試結(jié)果見表6，以PB數(shù)據(jù)集為例進行說明：

表6 各模型對不同軸承數(shù)據(jù)集的測試準確率Tab.6 Test accuracy of each model for different bearing datasets%

1）SCNN 的診斷性能在所有對比方法中最差，平均準確率只有63.43%；MSCNN的診斷準確率在SCNN 的基礎(chǔ)上提高了4.61%，證明了多尺度學(xué)習(xí)策略能夠通過學(xué)習(xí)更豐富的故障特征提高模型診斷性能，但SCNN 和MSCNN 的準確率均低于70%，遠不能滿足高性能的診斷需求，這也是訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)之間的分布差異所導(dǎo)致的結(jié)果，在源域上訓(xùn)練的模型很難泛化到目標域的診斷任務(wù)中。

2）DAN方法對12個診斷任務(wù)的平均準確率達到了83.31%，比MCNN 高15.27%，而且在多個跨域診斷任務(wù)上的準確率超過95%，表明領(lǐng)域自適應(yīng)策略對于處理存在分布差異的診斷問題十分有效。

3）在DAN 的基礎(chǔ)上，TA?DC 和TADAN 又將平均準確率分別提高了2.48%和3.26%，在任務(wù)T2 和T7 上的測試準確率甚至超過99.5%，說明可遷移注意力策略和動態(tài)卷積的應(yīng)用對促進模型遷移，提高跨域診斷性能積極且有益。

4）TADAN 幾乎在所有診斷任務(wù)上均獲得了最好的診斷性能，在PB 數(shù)據(jù)集和江南大學(xué)數(shù)據(jù)集中的平均診斷準確率分別為86.57%和91.91%，具有較好的穩(wěn)定性。

為深入探究樣本誤分類和所提方法有效的原因，將所有模型在任務(wù)T9 上的一次測試結(jié)果以混淆矩陣的形式展現(xiàn)，結(jié)果如圖4 所示：SCNN 和MCNN 診斷準確率低的原因主要是無法準確識別IR2（標簽2）和OR2（標簽5），總將OR2 誤分類為OR1；相比之下，TADAN 對各類別樣本的識別準確率有大幅提升，除將少數(shù)OR2誤分類為OR1之外，在其他類型故障的分類上幾乎達到了100%的準確率，再一次證明了TADAN 優(yōu)秀的故障特征學(xué)習(xí)能力和知識遷移能力。

圖4 不同方法在任務(wù)T9上測試結(jié)果的混淆矩陣Fig.4 Confusion matrices of results tested by different methods on task T9

4 結(jié)論

為強化跨工況故障診斷模型的特征學(xué)習(xí)能力和領(lǐng)域適應(yīng)能力，本文提出了一種基于可遷移注意力和動態(tài)卷積的旋轉(zhuǎn)機械故障診斷方法TADAN，通過試驗對比可得出以下結(jié)論：

1）基于動態(tài)卷積的多尺度特征提取器可以提取更豐富的特征并提高模型的自適應(yīng)能力，使模型在面對不同數(shù)據(jù)集任務(wù)時更具魯棒性。

2）可遷移計算模塊可進一步量化多尺度特征的可遷移性并在特征制度層面強化其整體差異化，促進領(lǐng)域不變特征的學(xué)習(xí)，降低負遷移風(fēng)險。

3）TADAN 在2個跨域診斷任務(wù)案例上的平均測試準確率分別達到了86.57%和91.91%，高出傳統(tǒng)有監(jiān)督學(xué)習(xí)方法23.14%和9.28%，高出標準領(lǐng)域自適應(yīng)方法3.26%和2.94%，具有較好的穩(wěn)定性，適用于滾動軸承跨域診斷任務(wù)并具有較好的應(yīng)用前景。