趙一瑾

(云南交通職業(yè)技術(shù)學(xué)院 交通信息工程學(xué)院，昆明 655000)

0 引言

滾動軸承是旋轉(zhuǎn)機(jī)械中最重要的組件之一，在飛機(jī)，風(fēng)力渦輪機(jī)，鐵路軸和發(fā)電機(jī)等多個行業(yè)中具有廣泛的應(yīng)用[1-2]。由于高速，重載，極端工作溫度和污染等嚴(yán)酷操作，軸承很容易發(fā)生故障。意外的軸承故障會破壞整個機(jī)械系統(tǒng)，停機(jī)時間和維護(hù)成本會大大增加運(yùn)營成本。因此，檢測軸承故障至關(guān)重要，特別是在早期階段，可以提高系統(tǒng)的可靠性，也可以避免意外事故[3-4]。

當(dāng)滾動軸承中存在局部缺陷時，會產(chǎn)生周期性或準(zhǔn)周期性的脈沖，這意味著軸承故障能夠通過從非線性、非平穩(wěn)的振動信號中提取可識別脈沖頻率來進(jìn)行檢測[5]。早期的滾動軸承故障檢測方法主要使用小波變換[6]、經(jīng)驗(yàn)?zāi)B(tài)分解[7]、希爾伯特-黃變換[8]等數(shù)學(xué)工具提取故障特征，采用人工干預(yù)的方式判別軸承是否發(fā)生故障。這類方法雖然具有較優(yōu)的檢測性能，但是由于過度依賴故障診斷專家的知識經(jīng)驗(yàn)，已經(jīng)不能滿足當(dāng)前大規(guī)模工業(yè)生產(chǎn)的需求[9]。近年來，機(jī)器學(xué)習(xí)被廣泛應(yīng)用于故障檢測領(lǐng)域中，特別是具備自動特征提取和復(fù)雜任務(wù)處理優(yōu)勢的深度學(xué)習(xí)的引入，極大提高了故障診斷的效率和正確率。Liu等[10]利用遞歸神經(jīng)網(wǎng)絡(luò)在捕捉時間序列數(shù)據(jù)特征方面的突出能力，提出了基于門控循環(huán)單元的降噪自動編碼器方法用于檢測滾動軸承的異常情況并對故障類型進(jìn)行分類。Wang等[11]提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的隱馬爾可夫模型對機(jī)械系統(tǒng)的多故障進(jìn)行分類。Wang等[12]提出了一種多尺度CNN網(wǎng)絡(luò)的故障檢測方法，利用振動數(shù)據(jù)在1維卷積和2維卷積通道中的不同特征組合來對故障進(jìn)行高效分類。但是，上述方法對低噪聲環(huán)境中采集到的數(shù)據(jù)具有良好的診斷效果，但是當(dāng)信號中存在嚴(yán)重干擾時，檢測效果欠佳。Zhang等[13]提出了一種基于端對端的深度學(xué)習(xí)模型用于克服噪聲。為了提高檢測精度，楊平等[14]提出了一種基于卷積膠囊網(wǎng)絡(luò)的故障診斷方法，通過使用2個卷積層來提取原始時域信號的特征，然后利用膠囊網(wǎng)絡(luò)來進(jìn)行故障分類，經(jīng)過大量數(shù)據(jù)的訓(xùn)練后，該方法能夠在信號受到嚴(yán)重噪聲污染時，依然擁有良好的診斷性能。然而，在大多數(shù)應(yīng)用中，滾動軸承的異常數(shù)據(jù)是很難獲得的。考慮由于異常數(shù)據(jù)的缺少而引起故障識別率降低的問題，Plakias等[15]提出了基于生成性對抗網(wǎng)絡(luò)的故障檢測方案，該方案中的生成器只學(xué)習(xí)正常樣本中的特征，故障發(fā)生的檢測結(jié)果由判別器基于表觀損失和潛在損失函數(shù)計(jì)算的異常分?jǐn)?shù)給出。

針對上述存在的問題，本文提出了一種基于加權(quán)密集連接網(wǎng)絡(luò)和注意力機(jī)制的滾動軸承故障診斷的方法，用于解決復(fù)雜情況時檢測精度低和因訓(xùn)練數(shù)據(jù)較少引起的性能下降的問題。該方法首先使用加權(quán)密集連接網(wǎng)絡(luò)將屬于不同空間表示級別的特征組成在一起，從而增強(qiáng)了提取信息的多樣性。然后，引入注意力機(jī)制，將突出每個注意向量中具有重要信息的區(qū)域，同時通過估計(jì)每個特征映射的加權(quán)平均值來處理特征序列中的時間相關(guān)性。最后，將獲得的特征信息輸入到故障分類模型，輸出每種故障類型的診斷結(jié)果。通過實(shí)驗(yàn)證明，所提模型包含較少的學(xué)習(xí)參數(shù)，因此識別故障發(fā)生所需的訓(xùn)練數(shù)據(jù)較少。同時，模型考慮了數(shù)據(jù)樣本的時間相關(guān)性，在存在加性噪聲的情況下提高了故障診斷性能并具有良好的魯棒性。

1 基于加權(quán)密集網(wǎng)絡(luò)和注意力機(jī)制的故障診斷方法

所提模型分為特征提取模塊和故障分類模塊兩個部分，如圖1所示。為了能夠從原始信號中提取更多有用信息，特征提取模塊使用加權(quán)密集連接網(wǎng)絡(luò)對每個時間步長的原始信號進(jìn)行處理，用于捕獲空間相關(guān)性方面的故障特征；為了能夠準(zhǔn)確表征滾動軸承故障的特征，特征提取模塊引入注意力機(jī)制，通過對故障特征進(jìn)行適當(dāng)?shù)募訖?quán)平均，獲得特征序列之間的時間相關(guān)性。故障分類模塊由批處理層、密集全連接層和Softmax函數(shù)組成，為了防止過度擬合現(xiàn)象的發(fā)生，該模塊還引入了dropout技術(shù)。

圖1 所提模型的整體框架

1.1 加權(quán)密集連接網(wǎng)絡(luò)

對于每個時間步ti，密集連接網(wǎng)絡(luò)將原始振動傳感器信號作為輸入，提取特征狀態(tài)映射gi。圖2給出了加權(quán)密集連接網(wǎng)絡(luò)的架構(gòu)。

圖2 加權(quán)密集連接網(wǎng)絡(luò)架構(gòu)圖

密集連接網(wǎng)絡(luò)的核心是卷積層[16]，它通過在輸入端使用卷積運(yùn)算來模擬視覺皮層。為了實(shí)現(xiàn)該目標(biāo)，使用核濾波器來估計(jì)多維輸出的特征映射。每個核濾波器對應(yīng)于卷積層輸出中的一個特征狀態(tài)映射，用于實(shí)現(xiàn)權(quán)重共享。其數(shù)學(xué)定義為：

(1)

式中：gi和gi+1分別表示輸入和輸出，Kj表示卷積層中第j個核濾波器，bj表示偏置。如圖2所示，本文選擇3個密集塊組成，其中每一個密集塊中的卷積因針對不同的特征而設(shè)置了不一樣尺度，即卷積1、2和3的濾波器數(shù)分別為32、32和64，核尺寸為32、3和3。

為了能夠保證特征信息的多次利用，密集連接網(wǎng)絡(luò)在跨層連接時采用級聯(lián)方式，所有層均進(jìn)行兩兩連接，從而使得網(wǎng)絡(luò)中的每一層的輸入包含前面所有層的輸出。使用密集連接網(wǎng)絡(luò)目的是利用卷積塊輸出之間的短路徑連接方式來保存網(wǎng)絡(luò)模型上的中間信息，提高網(wǎng)絡(luò)層之間的信息流動。同時，卷積塊輸出之間的級聯(lián)連接有助于誤差向早期層的傳播，并增強(qiáng)訓(xùn)練過程中的梯度流。雖然密集連接網(wǎng)絡(luò)的跨層連接夠?qū)⒌蛯颖硎九c高層表示有效地結(jié)合，實(shí)現(xiàn)不同特征的提取，但是，也不可避免的造成了信息的冗余。而且每一個密集塊中的卷積操作的作用不同，提取的特征也各不相同，因此也需要區(qū)分特征的貢獻(xiàn)度。為了解決這一問題，本文對密集連接的跨層賦予不同的權(quán)重系數(shù)。由于高層特征信息對分類的影響明顯高于低層特征，因此，將高層特征賦予較大權(quán)重：

(2)

此外，密集連接網(wǎng)絡(luò)不同層之間直接連接的另一個優(yōu)點(diǎn)是減少了學(xué)習(xí)參數(shù)的總數(shù)。因此，密集卷積模型對過擬合具有很強(qiáng)的魯棒性，非常適合于訓(xùn)練樣本數(shù)較少的應(yīng)用。

1.2 注意力機(jī)制模型

由于加權(quán)密集連接網(wǎng)絡(luò)從傳感器輸入信號xi提取的特征映射gi對時間存在依賴性，因此，本文通過引入注意力機(jī)制來近似所產(chǎn)生的特征向量的時空相關(guān)性。最近幾年，注意力模型[17]被廣泛使用在自然語言處理、圖像識別等不同類型的深度學(xué)習(xí)任務(wù)中。對于軸承故障的檢測，采用注意力機(jī)制有助于網(wǎng)絡(luò)模型以人類智能的方式集中于特征向量圖的不同方面，從而導(dǎo)出最相關(guān)的信息。圖3給出了基于前饋神經(jīng)網(wǎng)絡(luò)的注意力機(jī)制模型。前饋神經(jīng)網(wǎng)絡(luò)參與每個特征映射，并輸出表示特征映射故障檢測能力的獎勵值vi。而后，將Softmax函數(shù)應(yīng)用于映射由值vi組成的向量，并將其歸一化為概率分布ai。假設(shè)用g表示第i個時間步注意機(jī)制的輸入向量(g=gi)，用v表示第i個時間步前饋神經(jīng)網(wǎng)絡(luò)的輸出(v=vi)，hj表示前饋神經(jīng)網(wǎng)絡(luò)隱藏層第j個神經(jīng)元的輸出，用p和q表示前饋神經(jīng)網(wǎng)絡(luò)輸入和隱藏層的神經(jīng)元數(shù)，用Wh和bh表示隱藏層的權(quán)值矩陣和偏差向量，WO和bO表示輸出層的權(quán)重向量和偏差，則等式(3)和(4)分別描述了前饋神經(jīng)網(wǎng)絡(luò)的前饋機(jī)制和Softmax層對獎勵值vi的操作：

圖3 基于前饋神經(jīng)網(wǎng)絡(luò)的注意力機(jī)制

(3)

(4)

注意機(jī)制的輸出ai與相應(yīng)特征向量gi在檢測任務(wù)中重要性的概率分布相對應(yīng)，并指示了從注意機(jī)制估計(jì)的相應(yīng)特征映射gi的重要性：

(5)

此外，考慮到每個特征映射gi的重要性，本文估計(jì)了注意力機(jī)制的特征向量ci：

ci=aigi

(6)

最后，通過注意力向量ci的加權(quán)和值獲得表征向量c：

(7)

式中,T表示時間步長總數(shù)，w1+w2+…+wT=1。由于每個權(quán)重wi對應(yīng)于特定的時間步長ti，因此實(shí)現(xiàn)了時間積分。權(quán)重wi是網(wǎng)絡(luò)的學(xué)習(xí)參數(shù)，通過訓(xùn)練網(wǎng)絡(luò)模型估算獲得。

2 實(shí)驗(yàn)與結(jié)果分析

為了驗(yàn)證所提算法的有效性，本文采用凱斯西儲大學(xué)(CWRU)實(shí)驗(yàn)性軸承故障檢測基準(zhǔn)數(shù)據(jù)集[18]和智能維護(hù)系統(tǒng)(IMS)軸承數(shù)據(jù)集[19]進(jìn)行測試，并將測試結(jié)果與基于門控遞歸單元的降噪自動編碼器(GRU-DAE)[10]、深度卷積神經(jīng)網(wǎng)絡(luò)的變模分解(VMD-DCNN)[20]等方法進(jìn)行了對比。所有實(shí)驗(yàn)的運(yùn)行時環(huán)境的Windows 10系統(tǒng)，CPU是Intel Xeon E5-2650 v2 @2.6 GHz，RAM為128 G。

所提模型的模擬代碼是用python3.5編寫，使用Keras人工神經(jīng)網(wǎng)絡(luò)庫并將Theano作為后端。本文選擇分類交叉熵作為損失函數(shù)，隨機(jī)梯度下降作為優(yōu)化器。采用Nesterov動量法對梯度下降問題進(jìn)行求解，將折扣因子和動量參數(shù)設(shè)置為0.9和0.01，學(xué)習(xí)速率設(shè)置為0.01。批量大小為200，每個模型都經(jīng)過100個周期的訓(xùn)練。為了避免神經(jīng)權(quán)值隨機(jī)初始化的影響，還將每個實(shí)驗(yàn)運(yùn)行20次。所提模型中加權(quán)密集連接網(wǎng)絡(luò)3個卷積層的核和濾波器尺寸分別為32、32、64和32、3、3。注意機(jī)制的前饋神經(jīng)網(wǎng)絡(luò)隱藏層在CWRU 和IMS 數(shù)據(jù)集時分別采用32個神經(jīng)元和8個神經(jīng)元。

2.1 數(shù)據(jù)集

凱斯韋斯特儲備大學(xué)(CWRU)軸承數(shù)據(jù)集提供了正常和故障情況下從試驗(yàn)臺積累的振動信號。其主要部件是2馬力的電動機(jī)、測功機(jī)和扭矩傳感器。振動信號來自安裝在驅(qū)動端、風(fēng)扇端和電機(jī)支撐底板外殼上的加速度計(jì)。在本研究中，使用驅(qū)動端軸承信號，以12 kHz的頻率采樣。此外，電動機(jī)的模式是在4個負(fù)載水平下，0～3馬力范圍內(nèi)運(yùn)行，導(dǎo)致電動機(jī)轉(zhuǎn)速在每分鐘1 792～1 730轉(zhuǎn)之間變化。在驅(qū)動端軸承上，會發(fā)生5種類型的故障：滾珠，內(nèi)圈和3種外圈故障。具體而言，外圈故障相對于軸承負(fù)載區(qū)域的安裝會顯著影響振動信號的形式。在軸承數(shù)據(jù)集中，有外圈故障直接位于負(fù)載區(qū)域(@ 6：00)，或者位于負(fù)載區(qū)域正交(@ 12：00)和相反(@ 3：00)位置。此外，每種故障類型都包含不同直徑的故障(0.007、0.014、0.021和0.028英寸)。在本文中，嘗試通過考慮故障的不同類型和不同直徑大小來訓(xùn)練模型，提高模型的識別率，進(jìn)而確定故障的類型及其嚴(yán)重程度。因此，最終得到16種類別，如表1所示。此外，每個輸入樣本的維數(shù)等于100，大約相當(dāng)于采樣周期的四分之一。在創(chuàng)建訓(xùn)練和測試數(shù)據(jù)集的過程中，原始傳感器數(shù)據(jù)被分為100點(diǎn)的段，兩個連續(xù)樣本之間的重疊為50點(diǎn)。

表1 CWRU數(shù)據(jù)集中類細(xì)節(jié)描述

IMS數(shù)據(jù)集由辛辛那提大學(xué)智能維護(hù)系統(tǒng)中心提供。在測試臺中，有4個Rexnord ZA2115型雙列軸承位于同一軸上。交流電動機(jī)通過摩擦帶固定在軸上，可將轉(zhuǎn)速保持恒定在2 000 rpm。采集數(shù)據(jù)的采樣頻率為20.48 kHz，彈簧機(jī)構(gòu)應(yīng)用于軸和軸承，提供6 000磅的負(fù)載?？偣灿?個加速度計(jì)，成對放置在每個軸承上。最后，為了獲取數(shù)據(jù)，將熱電偶傳感器放置在每個加速度計(jì)上。試驗(yàn)臺的軸承會出現(xiàn)內(nèi)圈缺陷故障、外圈缺陷故障和滾子缺陷故障。發(fā)生的3種故障類型和正常狀態(tài)是故障識別問題的4類，具體細(xì)節(jié)如表2所示。

表2 IMS數(shù)據(jù)集中類細(xì)節(jié)描述

為了探索所提出的模型的可行性，對CWRU和IMS數(shù)據(jù)集均使用3個不同的訓(xùn)練數(shù)據(jù)集(數(shù)據(jù)量各不相同)進(jìn)行測試，如表3所示，研究模型的性能并與其他診斷方法進(jìn)行了比較。從表中可以清楚的看到，訓(xùn)練數(shù)據(jù)集A中的樣本數(shù)最多，數(shù)據(jù)集C樣本數(shù)最少。本文使用3個數(shù)據(jù)集來測試不同樣本數(shù)量訓(xùn)練的模型對應(yīng)的精度變化趨勢。

表3 CWRU和IMS數(shù)據(jù)集中的數(shù)據(jù)子集

2.2 結(jié)果分析

首先，進(jìn)行第一個實(shí)驗(yàn)，通過應(yīng)用不同的時間步數(shù)來檢驗(yàn)?zāi)Ｐ蛯W(xué)習(xí)原始信號數(shù)據(jù)時間相干性的可行性，即使用了3、4和5個連續(xù)片段來考慮時間相關(guān)性。此外，還對比了使用不同數(shù)量訓(xùn)練樣本訓(xùn)練模型時的測試結(jié)果。圖4(a)和圖4(b)分別顯示了CWRU和IMS數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果，從圖中可以明顯看出，模型的診斷精度與訓(xùn)練樣本的數(shù)量和時間步長是有很多關(guān)系的，隨著訓(xùn)練集中樣本數(shù)量的增多以及采用更多的時間步數(shù)，模型的性能會有所提高。當(dāng)采用數(shù)據(jù)集A和時間步數(shù)為5訓(xùn)練模型時，其診斷的檢測率為99.61%，相比于使用樣本數(shù)量極少的訓(xùn)練數(shù)據(jù)集C和時間步數(shù)為3的情況，性能改善了2.51%。同時，還應(yīng)該注意到，即是在數(shù)據(jù)樣本很少時，時間步數(shù)為3的情況下，診斷檢測率也達(dá)到了97.1%。上述結(jié)果說明了模型在樣本診斷中的有效性，雖然診斷的檢測率受到訓(xùn)練樣本數(shù)量和時間步長的影響，但是，在最壞的情況下數(shù)據(jù)正確率依然取得較好的結(jié)果。

圖4 不同樣本數(shù)量和時間步長時的測試結(jié)果

此外，為了說明所提取的特征c的表征能力，進(jìn)行第二個實(shí)驗(yàn)。該實(shí)驗(yàn)通過t-分布隨機(jī)鄰居嵌入(t-Distributed stochastic neighbor embedding,t-SNE)對注意機(jī)制的輸出進(jìn)行可視化。t-SNE機(jī)器學(xué)習(xí)方法采用仿射變換將高維數(shù)據(jù)變?yōu)榈途S數(shù)據(jù)，實(shí)現(xiàn)非線性降維的目的，非常適合于高維數(shù)據(jù)的低維空間的可視化。利用訓(xùn)練數(shù)據(jù)集C和時間步數(shù)為5對模型進(jìn)行訓(xùn)練，得到所提取的注意特征。圖5給出了CWRU和IMS數(shù)據(jù)集的t-SNE結(jié)果，用于直觀地分析模型分類結(jié)果的優(yōu)劣。從特征提取可視化圖中清楚的看到，模型中基于注意力機(jī)制提取得到的特征在CWRU和IMS數(shù)據(jù)集中的不同類之間具有可分割性，從而有效地說明所提模型的分類機(jī)制更容易檢測和識別異常樣本。

圖5 t-SNE可視化提取的注意力特征

為了驗(yàn)證所提模型在噪聲環(huán)境中的故障診斷性能，進(jìn)行第三個實(shí)驗(yàn)。具體而言，本文使用原始數(shù)據(jù)訓(xùn)練模型，然后在數(shù)據(jù)信號中添加不同級別的白高斯噪聲，通過合成具有不同信噪比(signal to noise ratio,SNR)的噪聲信號來檢查其性能，并將結(jié)果與其他算法進(jìn)行比較。圖6給出了不同算法在不同噪聲環(huán)境下的診斷結(jié)果。從圖中可以看出，提出的方法在可變背景噪聲水平下具有最佳性能。盡管其他方法在低噪聲水平下表現(xiàn)良好，但是由于所提模型采用加權(quán)密集網(wǎng)絡(luò)和注意力機(jī)制從原始信號中提取更多的細(xì)節(jié)信息，使得本文方法能夠在噪聲污染比較嚴(yán)重的信號中保持良好的診斷準(zhǔn)確度，因而保證了模型對存在附加噪聲的振動信號具有魯棒性。

圖6 不同信噪比時的識別準(zhǔn)確率對比

3 結(jié)束語

本文提出了一種基于加權(quán)密集連接網(wǎng)絡(luò)和注意力機(jī)制的滾動軸承故障診斷的方法，用于解決噪聲污染嚴(yán)重時檢測精度低和因特征表征困難引起的性能下降的問題。首先，模型中的加權(quán)密集連接網(wǎng)絡(luò)利用連續(xù)層之間的短路徑從振動信號中提取不同空間級別的特征并組合在一起，以增強(qiáng)信息的多樣性；然后，基于前饋神經(jīng)網(wǎng)絡(luò)的注意力機(jī)制突出每個注意向量中具有重要信息的區(qū)域，并通過估計(jì)每個特征映射的權(quán)重來處理特征序列中的時間相關(guān)性；最后，將獲得的特征信息輸入到故障分類模型，輸出每種故障類型的診斷結(jié)果。實(shí)驗(yàn)結(jié)果表明，所提模型優(yōu)于其他對比方法，在加性噪聲干擾的情況下具有較高的故障診斷準(zhǔn)確率。