唐 賽，何荇兮，張家悅，尹愛軍

（重慶大學 機械傳動國家重點實驗室，重慶 400044）

隨著現(xiàn)代機械制造業(yè)的效率提高，在生產過程中，一旦機械設備發(fā)生故障就會帶來巨大的損失。因此，有效的機械設備故障檢測方法具有重大意義。滾動軸承是汽車工業(yè)中常用的部件，也是最容易損壞的零件之一，其性能直接影響著汽車的可靠性。楊宇等[1]針對汽車變速器軸承振動信號的非平穩(wěn)特征，提出了一種基于經驗模態(tài)分解和自回歸模型的滾動軸承故障診斷方法，可以有效識別變速器軸承的工作狀態(tài)。張紅兵等[2]針對汽車滾動軸承系統(tǒng)產生的非線性振動信號的特點，提出用關聯(lián)維數(shù)來描述軸承振動信號的工作狀態(tài)，進而對其進行故障診斷的方法。

除了傳統(tǒng)的軸承故障診斷方法，使用人工智能算法對軸承振動信號進行故障識別逐漸成為研究熱點。此類識別方法主要包括特征提取和故障分類兩個步驟。國內，賀巖松等[3]利用小波變換的自適應時頻局部化優(yōu)勢和奇異值分解，對時頻空間特征模式的提取功能提出用小波奇異熵和自組織特征映射神經網(wǎng)絡相結合的方法。徐濤等[4]利用諧波小波包分解的歸一化特征能量，設計了基于二叉樹的多類SVM模型，實現(xiàn)了滾動軸承的故障診斷。尹愛軍等[5]提取振動信號在時域、頻域、小波域上的38個原始特征，經過等距映射與深度置信網(wǎng)絡相結合的算法實現(xiàn)了滾動軸承的故障分類。湯寶平等[6]對故障信號進行經驗模態(tài)分解，再對表征故障調制特征的本征模態(tài)函數(shù)計算瞬時幅值歐式范數(shù)構成特征矢量，將特征矢量輸入到訓練好的Elman神經網(wǎng)絡中進行故障診斷。王麗華等[7]提出了基于短時傅里葉變換和卷積神經網(wǎng)絡的電機故障診斷方法。

湯芳等[8]提出了一種基于稀疏自編碼的深度神經網(wǎng)絡，實現(xiàn)非監(jiān)督學習自動提取滾動軸承振動信號的內在特征用于滾動軸承故障診斷。深度學習模型是一種擁有多個非線性映射層級的深度神經網(wǎng)絡模型，能夠對輸入信號逐層抽象并提取特征，挖掘出更深層次的潛在規(guī)律[9]。針對傳統(tǒng)軸承故障檢測存在的采樣數(shù)據(jù)量大、故障特征依賴主觀選取等問題，本文提出了一種基于長短期記憶網(wǎng)絡的軸承故障識別方法，無需人為提取故障特征向量，直接學習原始的振動信號，實現(xiàn)了故障識別的智能化。王鑫等[10]提出了一種基于長短期記憶循環(huán)神經網(wǎng)絡的故障時間序列預測方法，同樣無需提取預特征，驗證了該算法的可行性。

本文首先介紹長短期記憶網(wǎng)絡的結構，建立長短期記憶網(wǎng)絡的故障識別模型，通過試驗得到模型的預測精度，然后提取振動信號小波包能量特征并將該特征輸入長短期記憶網(wǎng)絡模型和支持向量機模型，試驗結果證明，直接運用長短期記憶網(wǎng)絡的模型預測正確率更高。

1 基于LSTM的軸承故障識別模型

1.1 LSTM理論

循環(huán)神經網(wǎng)絡（Recurrent Neural Networks，RNN）是專門用于處理序列數(shù)據(jù)的深度學習模型。在傳統(tǒng)人工神經網(wǎng)絡的基礎上加入了“記憶”的成分，對當前時刻狀態(tài)的計算不僅與當前的輸入有關，還依賴于上一時刻的計算結果。然而由于“循環(huán)”結構的存在，RNN在處理長序列模型時容易陷入梯度消失或梯度爆炸問題。為了解決RNN中的長期依賴問題，Schmidhuber等提出了長短期記憶網(wǎng)絡（Long Short Term Memory Networks， LSTM）。如圖 1所示，與普通RNN相比，LSTM引入了三個門控制器：輸入門（input gate）、遺忘門（forget gate）和輸出門（output gate）。門控制器描述了信息能夠通過的比例。對于標準循環(huán)神經網(wǎng)絡，每個時刻的隱層狀態(tài)由當前時刻的輸入與之前的隱層狀態(tài)相結合組成。但由于記憶單元的容量有限，早期的記憶會呈指數(shù)級衰減。為了解決這一問題，LSTM模型在原有的短期記憶單元ht的基礎上，增加一個記憶單元Ct來保持長期記憶。

圖 1 LSTM對于RNN的改進（多了三個門控制器和一個記憶單元Ct）

1.1.1 臨時記憶單元的產生

如式（1）所示，在新的記憶單元Ct產生之前，會先產生臨時的記憶單元c'，由這一時刻t的輸入層神經元、上一時刻t-1的隱層單元分別與各自權重矩陣的線性組合，跟隨非線性激活函數(shù)tanh()，得到這一時刻t的臨時記憶單元輸出c't。

1.1.2 輸入門

在產生記憶單元C之前有一個輸入門，其作用是判斷臨時記憶單元c'存儲的記憶信息的重要性。如式（2）所示，根據(jù)輸入層和上一個隱層單元共同判斷當前產生的臨時記憶單元是否保留，從而判斷它以何種程度參與生成最終記憶（或者說對新的記憶的約束）。

1.1.3 遺忘門

遺忘門與輸入門的數(shù)學形式相似，它決定了過去記憶單元對當前記憶單元的重要程度，同樣的，根據(jù)輸入神經元和過去的隱層單元來判斷過去的記憶單元是否保留。

1.1.4 最終記憶單元的產生

如式（4）所示，當前時刻t的最終記憶單元Ct的產生，依賴于通過遺忘門ft控制的過去時刻t-1的記憶單元Ct-1和通過輸入門it控制的臨時記憶單元c't，將這兩者的輸出結果相加，得到最終的記憶單元。

1.1.5 輸出門

輸出門的作用是區(qū)分記憶單元和隱層單元，在記憶單元Ct中，存儲了大量信息，不僅有臨時記憶單元中的短期記憶，還包括過去記憶單元中的長期記憶，大量的信息存在著冗余，記憶單元的信息全部流入隱層作為最后的輸出結果會影響模型的性能。輸出門的數(shù)學形式與輸入門、遺忘門類似，如式（5）所示，記憶單元通過一個非線性函數(shù)tanh()，再經過輸出門的信息篩選，用于隱層單元的迭代，如式（6）所示。

將待處理的訓練數(shù)據(jù)輸入到LSTM網(wǎng)絡，通過如上邏輯架構的前向計算，就得到LSTM網(wǎng)絡的輸出，即隱層單元h∈RDh，Dh表示隱層中神經元的數(shù)目。對于分類問題，可以映射到一個權重矩陣為W(s)的線性輸出層，再跟隨softmax函數(shù)，計算出分類類別的概率分布。然后按式（8）計算LSTM網(wǎng)絡的代價函數(shù)。

式中：v代表分類數(shù)量；yt,j表示在時刻t下屬于第j類的真實概率；y't,j表示時刻t下屬于第j類的訓練概率。

1.2 基于LSTM的軸承故障識別模型

如下描述建立基于LSTM的軸承故障識別模型。

1.2.1 訓練階段

a. 輸入層

訓練集x∈Rb×t，b表示每次用于訓練的小批量樣本的個數(shù)，t表示樣本上的數(shù)據(jù)維度。引入時間對網(wǎng)絡架構的影響，增加時間維度，將訓練數(shù)據(jù)轉化為三維矩陣，即Rb×s×i，s代表樣本上的時間維度，即序列長度；i代表每一時刻的輸入神經元維度。如式（9）所示，將x∈Rb×s×i映射到一個權重為W(i)、偏置為b(i)的線性輸入層，改變樣本每一時刻的數(shù)據(jù)維度i。

b. LSTM網(wǎng)絡層

圖2 計算流程圖

c. 輸出層

通過softmax輸出層，將LSTM網(wǎng)絡層的輸出維度與最后的分類數(shù)目相匹配。式中：W(o)∈Rd×n，n為分類數(shù)目。y′∈為網(wǎng)絡架構的輸出，y′ ∈Rb×n。

d. 代價函數(shù)

將訓練的輸出概率分布與真實的數(shù)據(jù)分布對比，計算預測輸出與實際輸出的交叉熵代價函數(shù)。

建立如上基于LSTM的網(wǎng)絡架構，初始化網(wǎng)絡參數(shù)，設定訓練次數(shù)T。每一次訓練中，經過前向計算得到當前訓練階段的代價函數(shù)，通過誤差反向傳播進行網(wǎng)絡參數(shù)的更新，直至達成T次訓練，代價函數(shù)收斂。

1.2.2 測試階段

在測試集上，根據(jù)訓練更新的網(wǎng)絡參數(shù)來計算預測的分類結果輸出，并與真實的類別作比較，計算測試集上的分類預測正確率。

2 試驗與分析

2.1 試驗數(shù)據(jù)

本文使用美國Case Western Reserve University電氣工程實驗室的滾動軸承故障模擬試驗臺的故障軸承試驗數(shù)據(jù)[14]。試驗裝置包括電機、轉矩傳感器、功率計和電子控制設備，如圖3所示。使用電火花技術分別在SKF6205軸承的內圈、外圈和滾動體表面加工出0.18 mm，0.36 mm，0.53 mm直徑的單點損傷故障。電機風扇端和驅動端故障軸承的振動信號以12 kHz和48 kHz兩種不同的采樣頻率采集得到。圖4為四種故障狀態(tài)振動信號的時域波形比較（采樣頻率48 kHz，損傷程度0.18 mm，均截取前0.25 s）。可知，內圈失效、外圈失效和正常情況的振動信號有明顯差別，滾動體失效與正常情況無明顯差別，為直接作用于時間序列振動信號的LSTM模型提供了理論依據(jù)。

圖 3 軸承故障試驗平臺裝置

圖 4 不同故障部位的時域波形比較

2.2 模型參數(shù)對效果的影響分析

嘗試先對驅動端軸承下的10個數(shù)據(jù)集進行分析，載荷為2.205 kW，信號采集頻率48 kHz。每個數(shù)據(jù)集的信號長度為480 000，每2 000個信號組成一個樣本，在10個數(shù)據(jù)集上產生2 400個樣本。為了便于訓練長短期記憶網(wǎng)絡，對每段樣本X做標準化處理，如式（12）所示，將樣本的向量空間按比例縮放在標準正態(tài)分布空間，同時不影響數(shù)據(jù)自身的分布性質。

對數(shù)據(jù)進行預處理后，將2 400個樣本按照1∶2的比例隨機劃分為測試集和訓練集。數(shù)據(jù)集描述見表1。數(shù)據(jù)集的分類標記基于不同的故障部位和故障尺寸。試驗目的是通過學習訓練集，尋找數(shù)據(jù)與分類標記的內在聯(lián)系，預測測試集上故障軸承的故障部位和故障尺寸。

表1 試驗數(shù)據(jù)集

根據(jù)建立的基于LSTM的軸承故障識別模型，對該數(shù)據(jù)進行建模。在訓練過程中，一些參數(shù)需要自行設定，經過不斷迭代，才能得到適合數(shù)據(jù)的值。對模型性能影響較大的參數(shù)有訓練次數(shù)T、學習率η，序列長度step。試驗中嘗試對這些參數(shù)進行調節(jié)。

圖5為訓練集上的正確率隨訓練次數(shù)T的變化曲線，當訓練到2 000次左右，正確率開始收斂，訓練到9 000次時，正確率趨勢表現(xiàn)為顯著下降，隨后迅速上升，達到16 800次左右，又小幅下降。預測正確率9 000次后，正確率顯著下降，是由于過多的訓練次數(shù)導致的梯度爆炸，使LSTM單元的神經元激活為0，訓練停滯，之后網(wǎng)絡重新訓練。所以，將訓練次數(shù)調整為8 000次，可以避免梯度爆炸的出現(xiàn)，并減少運行時間。

圖6為不同學習率下正確率隨訓練次數(shù)的變化曲線。學習率為0.001，0.003，0.006時，正確率在迭代次數(shù)小于5 000時大致相同，迭代次數(shù)為7 000且學習率為0.006時，正確率曲線出現(xiàn)了明顯下降。學習率決定了參數(shù)迭代到最優(yōu)值的速度快慢。越大的學習率每次訓練時梯度下降的步長越大，越容易跳過最優(yōu)解。

圖 5 訓練20 000次的正確率變化

圖 6 學習率評估

圖7為序列長度s為200和2 000時（學習率0.006，訓練8 000次）的正確率變化曲線。LSTM網(wǎng)絡中，樣本的序列越長，誤差向后傳播的梯度迭代次數(shù)就越多，計算量就越大，影響收斂速度和學習效率。由圖7可知，當序列長度為2 000，收斂速度慢，學習效率低，當序列長度為200，正確率則有顯著提高，并且也能提升收斂速度和學習效率。

圖 7 序列長度的評估

2.3 模型結果

經反復試驗和超參數(shù)對比，最終確定初始學習率η=0.006，小批量樣本大小b=80，序列長度s=200，每一時刻輸入神經元個數(shù)i=10，LSTM隱層單元的神經元個數(shù)d=100，訓練次數(shù)T=8 000。

該模型正確率最終收斂于98.125%，在10個不同的數(shù)據(jù)集中，健康狀態(tài)軸承的預測正確率為100%，其它故障分類的預測結果見表2。

表2 軸承故障分類正確率

2.4 模型對比

為驗證模型的正確性，模型結果將與振動信號提取故障特征之后分別使用LSTM模型和支持向量機模型的正確率進行對比。本文提取了小波包能量特征[15]作為模型的輸入。

對振動信號選用db10小波進行三層小波包分解，重構第三層8個頻帶的小波包分解系數(shù)，計算對應的歸一化的8維小波能量特征向量，并將此能量特征作為LSTM模型的輸入。通過試驗發(fā)現(xiàn)，由于數(shù)據(jù)規(guī)模的減小，運行時間大幅縮短，正確率保持在95.5%，兩種模型的正確率變化曲線如圖8所示，模型1直接應用LSTM模型，模型2是提取小波包能量特征的LSTM模型，二者比較可得出如下結論：

圖 8 LSTM模型與提取特征的LSTM模型的比較

（1）直接使用LSTM的每個樣本輸入維度為200×10，而在時域上提取特征后輸入維數(shù)降低，正確率也較低。

（2）LSTM主要解決在時序上長期依賴的問題，而相對小波包能量特征是在時序上進一步提取的特征，相互依賴性沒有原生數(shù)據(jù)強。

將小波包能量特征的8維向量作為支持向量機模型的輸入。試驗中，同樣如式（7）所示，先進行數(shù)據(jù)標準化，在相同的訓練集上，通過核函數(shù)將低維特征數(shù)據(jù)映射到高維空間，使用“one-vs-rest”的多分類支持向量機模型訓練，核函數(shù)選擇高斯核，核函數(shù)系數(shù)設置為0.1，懲罰系數(shù)C=1.0，最后相同的測試集得到77%的正確率，低于使用LSTM的分類正確率。

對比基于傳統(tǒng)人工提取特征的模型，本文中基于LSTM模型的軸承故障識別模型具有更高的預測準確率。除此之外，基于LSTM模型的方法，無需對特征進行提取和篩選，降低了訓練的難度，同時避免了特征選取不當導致的預測精度低下的問題。

3 結論

本文將深度學習中處理時序信號的LSTM模型應用于滾動軸承的故障識別。LSTM模型能夠自適應訓練特征，避免了人為選取故障特征的主觀性，并且能有效處理類似振動信號的時序問題。試驗證明了軸承故障識別LSTM模型比人為提取特征參數(shù)的模型具有更高的預測準確率。