裴 沛，李彩偉

（1.北京中油瑞飛信息技術(shù)有限責(zé)任公司，北京 100007；2.國家工業(yè)信息安全發(fā)展研究中心，北京 100040）

0 引言

大型機(jī)械設(shè)備具有體積大型化、結(jié)構(gòu)復(fù)雜化、零件多樣化等特點(diǎn)，一旦發(fā)生故障將會(huì)給個(gè)人、企業(yè)和國家?guī)砭薮蟮慕?jīng)濟(jì)損失。滾動(dòng)軸承作為大型旋轉(zhuǎn)機(jī)械設(shè)備中的關(guān)鍵零件，具有負(fù)載重、轉(zhuǎn)速快等特點(diǎn)，使其成為最易發(fā)生故障的工業(yè)零件之一。據(jù)統(tǒng)計(jì)，在旋轉(zhuǎn)機(jī)械的所有故障中，因軸承失效造成的故障約占30%[1，2]。因此，實(shí)現(xiàn)滾動(dòng)軸承的故障診斷與狀態(tài)監(jiān)測，對(duì)保證設(shè)備安全運(yùn)行、減少運(yùn)營維護(hù)成本十分重要。

早期的狀態(tài)監(jiān)測主要依據(jù)滾動(dòng)軸承的振動(dòng)機(jī)理，利用信號(hào)分析和數(shù)理統(tǒng)計(jì)知識(shí)提取振動(dòng)信號(hào)特征，如頻譜分析、包絡(luò)分析、時(shí)頻分析、經(jīng)驗(yàn)?zāi)Ｊ椒纸鈁3，4]等，然后根據(jù)專家的經(jīng)驗(yàn)知識(shí)對(duì)信號(hào)特征進(jìn)行分析，實(shí)現(xiàn)滾動(dòng)軸承的狀態(tài)監(jiān)測。此類方法過于依賴專家診斷經(jīng)驗(yàn)且診斷效率和準(zhǔn)確率較低。隨后，國內(nèi)外研究者提出采用支持向量機(jī)（SVM）[5]、決策樹[6]、淺層BP 神經(jīng)網(wǎng)絡(luò)[7]等機(jī)器學(xué)習(xí)方法對(duì)人工提取的特征進(jìn)行學(xué)習(xí)，實(shí)現(xiàn)軸承的狀態(tài)監(jiān)測，并在小樣本數(shù)據(jù)上獲得較好的診斷結(jié)果。然而，隨著機(jī)械設(shè)備的廣泛應(yīng)用，監(jiān)測系統(tǒng)采集的數(shù)據(jù)量越來越大，上述方法已不再適用。深度學(xué)習(xí)作為一種特殊的機(jī)器學(xué)習(xí)，由于其非線性，多層性，自適應(yīng)性等特點(diǎn)，被廣泛應(yīng)用于圖像識(shí)別、自然語言處理和狀態(tài)監(jiān)測等領(lǐng)域，并取得不錯(cuò)的結(jié)果。因此，越來越多的學(xué)者將深度學(xué)習(xí)應(yīng)用于滾動(dòng)軸承的故障診斷。研究表明：深度神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的特征提取能力，在處理大數(shù)據(jù)上具有顯著優(yōu)勢。文獻(xiàn)[8]利用小波包變換對(duì)振動(dòng)信號(hào)進(jìn)行特征提取，通過長短時(shí)記憶網(wǎng)絡(luò)診斷風(fēng)電機(jī)組滾動(dòng)軸承的常見故障。文獻(xiàn)[9]提出一種基于希爾伯特黃變換和稀疏自編碼器的軸承故障狀態(tài)識(shí)別方法，進(jìn)一步提高了驅(qū)動(dòng)端和風(fēng)扇端的軸承故障診斷準(zhǔn)確率。文獻(xiàn)[10]提出一種基于雙樹復(fù)小波包的自適應(yīng)深度置信網(wǎng)絡(luò)的方法，結(jié)果表明該方法可以有效識(shí)別滾動(dòng)軸承故障。文獻(xiàn)[11]采用卷積神經(jīng)網(wǎng)絡(luò)（CNN），解決了基于傳統(tǒng)方法很難診斷的旋轉(zhuǎn)機(jī)械中外圈滾道故障問題和潤滑性能退化問題。

綜上可知，傳統(tǒng)的狀態(tài)檢測方法將信號(hào)預(yù)處理、特征提取和狀態(tài)識(shí)別分為3 個(gè)獨(dú)立階段，破壞了各階段的耦合關(guān)系，也降低了診斷效率。尤其是特征提取過程過于依賴人工提取特征，無法滿足實(shí)際應(yīng)用中端對(duì)端的需求。因此，將數(shù)據(jù)預(yù)處理、特征提取和故障診斷組合到一個(gè)模型，進(jìn)而實(shí)現(xiàn)端對(duì)端的自動(dòng)狀態(tài)監(jiān)測模式是目前亟待解決的問題。

為解決上述問題，提出一種LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)模型，該模型能自動(dòng)提取振動(dòng)信號(hào)的特征并完成狀態(tài)分類，實(shí)現(xiàn)端到端的滾動(dòng)軸承故障的自動(dòng)診斷，在不同損傷程度的數(shù)據(jù)集上進(jìn)行驗(yàn)證。實(shí)驗(yàn)結(jié)果表明，該模型的泛化性能高，魯棒性好，有望在工程實(shí)際中得到應(yīng)用，對(duì)機(jī)械設(shè)備診斷技術(shù)的發(fā)展具有十分重要的理論意義和實(shí)際應(yīng)用價(jià)值。

1 人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)最早來源于人類神經(jīng)網(wǎng)絡(luò)的研究,是一種以網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)為基礎(chǔ)，模擬人腦神經(jīng)網(wǎng)絡(luò)對(duì)復(fù)雜信息處理機(jī)制的一種數(shù)學(xué)模型，也是一種基于數(shù)據(jù)驅(qū)動(dòng)的方法[12]。人工神經(jīng)網(wǎng)絡(luò)具有非線性映射功能，可以將原始空間的特征表示變換到一個(gè)新的特征空間，實(shí)現(xiàn)信號(hào)的空間變換與降維。本文主要研究BP 神經(jīng)網(wǎng)絡(luò)和LSTM 神經(jīng)網(wǎng)絡(luò)。LSTM 作為經(jīng)典的深度神經(jīng)網(wǎng)絡(luò)之一，其本身具有特征提取和特征空間映射的功能[13，14]。

1.1 BP 神經(jīng)網(wǎng)絡(luò)

BP 神經(jīng)網(wǎng)絡(luò)是一種按照誤差反向傳播算法進(jìn)行訓(xùn)練的多層前饋神經(jīng)網(wǎng)絡(luò)，由輸入層、隱藏層和輸出層組成，該網(wǎng)絡(luò)各層間的神經(jīng)元互不相連，相鄰層的神經(jīng)元?jiǎng)t相互連接，網(wǎng)絡(luò)結(jié)構(gòu)如圖1 所示。BP 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程就是輸入信息從輸入層經(jīng)隱藏層到輸出層的過程，包括前向傳播過程和后向傳播過程。前向傳播過程如下：

式中，xp={x1，x2，x3，...xn}，n 為樣本的維度，H1是隱藏層節(jié)點(diǎn)的輸出，Z={Z1，Z2，...Zm} 是輸出層節(jié)點(diǎn)的輸出，w1，b1分別為輸入層與隱藏層之間的權(quán)重矩陣和偏置向量，w2，b2分別為隱藏層與輸出層之間的權(quán)重矩陣和偏置向量，隱藏層的傳遞函數(shù)是f1(*)，輸出層的傳遞函數(shù)是f2(*)，一般是sigmoid 或tanh 函數(shù)。BP 的前向傳播過程完成了n 維空間向k 維空間的映射。BP 神經(jīng)網(wǎng)絡(luò)反向傳播過程如下：

假設(shè)有m 樣本集{（x1，y1），（x2，y2），...（xm，ym）}，其中。通常將平方誤差函數(shù)作為目標(biāo)函數(shù)，公式如下：

其中，J（W，b；xi，yi）是單個(gè)樣本的誤差，J（W，b）是m 個(gè)樣本的全局誤差。BP 神經(jīng)網(wǎng)絡(luò)的反響傳播過程就是利用隨機(jī)梯度下降法調(diào)整參數(shù)W，b，最小化全局誤差。實(shí)際上，網(wǎng)絡(luò)的訓(xùn)練過程就是診斷知識(shí)獲取的過程，網(wǎng)絡(luò)訓(xùn)練結(jié)束后神經(jīng)元之間的連接權(quán)值就是輸入數(shù)據(jù)的特有知識(shí)。

圖1 BP 神經(jīng)網(wǎng)絡(luò)

1.2 LSTM 神經(jīng)網(wǎng)絡(luò)

滾動(dòng)軸承的狀態(tài)監(jiān)測不僅要分析當(dāng)前時(shí)刻振動(dòng)信號(hào)的信息，還要結(jié)合前后時(shí)刻的振動(dòng)信號(hào)信息。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)只關(guān)注當(dāng)前時(shí)刻輸入的信息，忽略了樣本之間的信息傳遞，不具備處理時(shí)序序列的功能。循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Networks，RNN）可以將當(dāng)前單元學(xué)習(xí)的信息輸入下一個(gè)神經(jīng)元，具有記憶功能，適合處理時(shí)間序列數(shù)據(jù)。RNN 展開相當(dāng)于多層神經(jīng)網(wǎng)絡(luò)，隨著層數(shù)的增加會(huì)產(chǎn)生梯度消失、梯度爆炸和歷史信息損失等問題，LSTM 網(wǎng)絡(luò)通過對(duì)RNN 加入記憶單元結(jié)構(gòu)，有效解決了上述問題。其記憶單元結(jié)構(gòu)如圖2 所示。其中xt表示t 時(shí)刻的輸入，ht-1，ht分別表示t-1 時(shí)刻和t 的輸出；Ct-1，Ct分別表示t-1 和t 時(shí)刻記憶單元的狀態(tài)值，表示t 時(shí)刻記憶單元的候選值；it，ft，和ot分別表示輸入門、遺忘門和輸出門；Wf，Wt，Wc，Wo表示遺忘門，輸入門，輸出門和輸入狀態(tài)單元的權(quán)重矩陣；σ 為sigmoid 激活函數(shù)，tanh 為tanh 激活函數(shù)。

LSTM 網(wǎng)絡(luò)與BP 網(wǎng)絡(luò)相同包括前向傳播和誤差反向傳播兩部分，對(duì)于單個(gè)記憶單元結(jié)構(gòu)，前向傳播過程如下：

圖2 LSTM 記憶單元結(jié)構(gòu)

（1）通過讀取ht-1，xt信息。計(jì)算遺忘門、輸入門和輸出門，公式如下：

遺忘門用于控制前一時(shí)刻記憶單元狀態(tài)值對(duì)當(dāng)前記憶單元狀態(tài)值的影響；輸入門用來保存當(dāng)前時(shí)刻輸入的有用信息，控制對(duì)當(dāng)前記憶單元狀態(tài)值的影響；輸出門根據(jù)當(dāng)前記憶狀態(tài)單元值決定當(dāng)前時(shí)刻輸出。

（2）計(jì)算當(dāng)前記憶單元候選值，并根據(jù)輸入門和遺忘門計(jì)算當(dāng)前時(shí)刻記憶單元值。

（3）根據(jù)輸出門和當(dāng)前記憶單元值計(jì)算當(dāng)前時(shí)刻的輸出。

式（4）～（9）中,bf，bt，bo，bc分別表示遺忘門，輸入門，輸出門和t 時(shí)刻輸入狀態(tài)單元的偏置項(xiàng)，?表示按元素相乘。

LSTM 反向傳播與BP 神經(jīng)網(wǎng)絡(luò)類似，都是利用隨機(jī)梯度下降算法反向傳播誤差更新網(wǎng)絡(luò)參數(shù)，進(jìn)而優(yōu)化網(wǎng)絡(luò)模型。與BP神經(jīng)網(wǎng)絡(luò)不同的是，LSTM 反向傳播算法包括時(shí)間和網(wǎng)絡(luò)層級(jí)兩部分。

2 LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)

2.1 LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

利用LSTM 和BP 網(wǎng)絡(luò)特性，采用級(jí)聯(lián)的形式構(gòu)建LSTMBP 網(wǎng)絡(luò)模型。其中BP 神經(jīng)網(wǎng)絡(luò)包括3 層，2 個(gè)隱藏層1 個(gè)輸出層，輸出層的神經(jīng)元個(gè)數(shù)等于軸承狀態(tài)類別數(shù)。該模型可以自動(dòng)提取軸承信號(hào)特征并完成軸承狀態(tài)識(shí)別，簡化數(shù)據(jù)處理過程的同時(shí)保留原始數(shù)據(jù)豐富的細(xì)節(jié)，其模型結(jié)構(gòu)如圖3 所示。圖中，xi為輸入數(shù)據(jù)，其維度為n×1，T 為樣本的時(shí)間長度，H1是{H11，H12，...H1s}LSTM 隱藏層的輸出。

基于LSTM-BP 組合網(wǎng)絡(luò)的滾動(dòng)軸承狀態(tài)監(jiān)測原理：①將振動(dòng)信號(hào)輸入LSTM 神經(jīng)網(wǎng)絡(luò)，利用LSTM 的記憶結(jié)構(gòu)，提取信號(hào)時(shí)間維度特征；②將LSTM 神經(jīng)網(wǎng)絡(luò)隱藏層的輸出作為BP 神經(jīng)網(wǎng)絡(luò)的輸入，實(shí)現(xiàn)信息傳遞；③通過BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)完成信號(hào)的進(jìn)一步學(xué)習(xí)，并實(shí)現(xiàn)軸承狀態(tài)的分類識(shí)別。

LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)，每一層隱藏層都是數(shù)據(jù)的不同階表達(dá)，層數(shù)越高提取的特征越抽象，其訓(xùn)練過程就是模型不斷優(yōu)化的過程。

基于LSTM-BP 組合網(wǎng)絡(luò)的滾動(dòng)軸承狀態(tài)監(jiān)測過程分為以下3 步：

（1）樣本采集與預(yù)處理。將采集到的信號(hào)歸一化使其幅值范圍為[0,1]。按照6：1 的比例將數(shù)據(jù)分為訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)。

（2）模型訓(xùn)練。初始化LSTM-BP 神經(jīng)網(wǎng)絡(luò)（包括各層網(wǎng)絡(luò)的神經(jīng)元數(shù)，BP 網(wǎng)絡(luò)的隱藏層數(shù)，迭代次數(shù)，最小誤差等參數(shù)），將帶標(biāo)簽的訓(xùn)練數(shù)據(jù)輸入LSTM 網(wǎng)絡(luò)，得到隱藏層輸出H1，然后輸入BP 神經(jīng)網(wǎng)絡(luò)和Softmax 層，得到實(shí)際輸出值。將實(shí)際輸出值與理論值的交叉熵?fù)p失函數(shù)作為誤差計(jì)算公式，利用隨機(jī)梯度下降法調(diào)整LSTM 和BP 神經(jīng)網(wǎng)絡(luò)的權(quán)重和偏置，最小化誤差，進(jìn)而優(yōu)化網(wǎng)絡(luò)模型。

圖3 LSTM-BP 組合網(wǎng)絡(luò)

（3）模型驗(yàn)證。將測試數(shù)據(jù)直接輸入上述訓(xùn)練好的網(wǎng)絡(luò)模型中，網(wǎng)絡(luò)輸出對(duì)應(yīng)軸承狀態(tài)的概率，取最高概率作為狀態(tài)識(shí)別結(jié)果。

2.2 Softmax 回歸層

Softmax 回歸層本質(zhì)是一個(gè)全連接層，其功能是將BP 神經(jīng)網(wǎng)絡(luò)的多個(gè)神經(jīng)元輸出映射到（0，1）區(qū)間，計(jì)算每種分類的概率情況。其交叉熵?fù)p失函數(shù)如下：

式中，θ 為模型參數(shù)，N 為樣本數(shù)，zi是預(yù)測值，yi為實(shí)際值，k 為類別數(shù)。

2.3 Batch Normalization 方法

BP 神經(jīng)網(wǎng)絡(luò)存在收斂速度慢和陷入局部最優(yōu)的風(fēng)險(xiǎn)。為了加快訓(xùn)練速度、提高診斷精度、降低網(wǎng)絡(luò)陷入局部最優(yōu)的風(fēng)險(xiǎn)，本文采用Batch Normalization 方法對(duì)每個(gè)隱藏層的激活值做處理，公式如下：

式中，μ，σ 分別是每批次數(shù)據(jù)的滑動(dòng)平均值和方差，γ 和β分別是縮放和偏移系數(shù)。此外，Batch Normalization 加入了網(wǎng)絡(luò)噪聲，在一定程度上起到正則化的作用，有效防止網(wǎng)絡(luò)產(chǎn)生過擬合的現(xiàn)象。

3 實(shí)驗(yàn)驗(yàn)證

3.1 模型性能分析

實(shí)驗(yàn)數(shù)據(jù)來自美國凱斯西儲(chǔ)大學(xué)驅(qū)動(dòng)端軸承的振動(dòng)信號(hào)。振動(dòng)信號(hào)的詳細(xì)信息見表1。軸承數(shù)據(jù)做預(yù)處理后分為訓(xùn)練樣本和測試樣本，其中訓(xùn)練樣本6000 組，測試數(shù)據(jù)為1000 組，每組包含512 個(gè)采樣數(shù)據(jù)。

表1 西儲(chǔ)大學(xué)軸承振動(dòng)信號(hào)

在LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)中，將預(yù)處理后的數(shù)據(jù)以（batch_size，64，8）形式輸入LSTM 網(wǎng)絡(luò)，獲取LSTM 的隱藏層輸出，將其作為BP 神經(jīng)網(wǎng)絡(luò)的輸入。BP 神經(jīng)網(wǎng)絡(luò)包括2 個(gè)隱藏層和1 個(gè)輸出層。隱藏層神經(jīng)元數(shù)量對(duì)模型性能有重要影響，神經(jīng)元個(gè)數(shù)太少，學(xué)習(xí)能力差，導(dǎo)致狀態(tài)識(shí)別準(zhǔn)確率低；神經(jīng)元個(gè)數(shù)太多，訓(xùn)練時(shí)間長，容易導(dǎo)致模型過擬合。經(jīng)過前期實(shí)驗(yàn)，設(shè)置BP 隱藏層神經(jīng)個(gè)數(shù)分別為16 和8。其中，batch_size 為200，迭代次數(shù)為100，記錄每次迭代后訓(xùn)練樣本和測試樣本的損失值和準(zhǔn)確率，并繪制訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)的損失值變化曲線和準(zhǔn)確率變化曲線，見圖4、圖5。準(zhǔn)確率指每組數(shù)據(jù)中分類正確的樣本數(shù)與整組樣本數(shù)的比值。

由圖4、圖5 可知，模型經(jīng)過100 次迭代后，測試數(shù)據(jù)和訓(xùn)練數(shù)據(jù)的損失值趨于穩(wěn)定。訓(xùn)練數(shù)據(jù)準(zhǔn)確率幾乎達(dá)到100%，測試數(shù)據(jù)的準(zhǔn)確率約為99.20%，訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)的損失值和準(zhǔn)確率的曲線變化趨勢同步，未產(chǎn)生過擬合現(xiàn)象。實(shí)驗(yàn)結(jié)果表明，本文提出的方法可以從原始數(shù)據(jù)有效提取軸承信號(hào)的特征并實(shí)現(xiàn)軸承正常狀態(tài)、內(nèi)圈故障、外圈故障和滾珠故障的準(zhǔn)確分類。

圖4 損失值變化曲線

圖5 準(zhǔn)確率變化曲線

3.2 軸承狀態(tài)識(shí)別方法對(duì)比

為了驗(yàn)證基于LSTM-BP 網(wǎng)絡(luò)的故障診斷方法在故障診斷精度方面的優(yōu)越性，在相同數(shù)據(jù)集、同等條件下，訓(xùn)練SVM、淺層BP 網(wǎng)絡(luò)和LSTM 網(wǎng)絡(luò)，實(shí)驗(yàn)結(jié)果如表2 所示。結(jié)果表明，SVM、淺層BP 網(wǎng)絡(luò)以及LSTM 網(wǎng)絡(luò)雖然訓(xùn)練速度快，但診斷精度低。

表2 不同方法的診斷結(jié)果

3.3 模型泛化性能驗(yàn)證

模型的泛化能力是驗(yàn)證模型優(yōu)劣的重要指標(biāo)，而單個(gè)數(shù)據(jù)集很難檢驗(yàn)?zāi)Ｐ偷姆夯芰?。因此，引入西?chǔ)大學(xué)驅(qū)動(dòng)端軸承不同損傷程度的數(shù)據(jù)以及其隨機(jī)混合數(shù)據(jù)對(duì)其進(jìn)一步驗(yàn)證。振動(dòng)信號(hào)的詳細(xì)信息見表3。不同損傷程度的數(shù)據(jù)及其混合數(shù)據(jù)狀態(tài)識(shí)別準(zhǔn)確率趨勢如圖6～8 所示。

表3 西儲(chǔ)大學(xué)軸承振動(dòng)信號(hào)

圖6 數(shù)據(jù)集A 的狀態(tài)識(shí)別準(zhǔn)確率

圖7 數(shù)據(jù)集B 的狀態(tài)識(shí)別準(zhǔn)確率

圖8 混合數(shù)據(jù)集的狀態(tài)識(shí)別準(zhǔn)確率

由圖6～8 可知，模型經(jīng)過100 次迭代后收斂至穩(wěn)定，3 種不同數(shù)據(jù)集的測試集和訓(xùn)練集的準(zhǔn)確率曲線走勢相同，未產(chǎn)生過擬合現(xiàn)象。實(shí)驗(yàn)結(jié)果表明本文提出的方法可以實(shí)現(xiàn)對(duì)不同來源軸承信號(hào)的4 種狀況自動(dòng)診斷，且診斷準(zhǔn)確率達(dá)到99.50%。驗(yàn)證了基于LSTM-BP 網(wǎng)絡(luò)的滾動(dòng)軸承自動(dòng)診斷方法，在損傷程度、采樣頻率不同的軸承信號(hào)上，仍可以實(shí)現(xiàn)滾動(dòng)軸承故障的自動(dòng)識(shí)別，且診斷精度高、泛化性能高、具備同時(shí)診斷復(fù)雜混合數(shù)據(jù)的故障類型的能力。

4 結(jié)語

提出一種基于LSTM-BP 組合網(wǎng)絡(luò)的狀態(tài)識(shí)別方法，結(jié)合LSTM 網(wǎng)絡(luò)特征提取和特征空間映射的功能，實(shí)現(xiàn)滾動(dòng)軸承狀態(tài)的自動(dòng)識(shí)別，滿足實(shí)際應(yīng)用中端對(duì)端需求。實(shí)驗(yàn)結(jié)果表明：①該方法的狀態(tài)識(shí)別準(zhǔn)確率高達(dá)99.20%，遠(yuǎn)高于SVM、淺層BP網(wǎng)絡(luò)和LSTM 神經(jīng)網(wǎng)絡(luò)；②該方法可以同時(shí)對(duì)不同損傷程度、不同位置和不同來源的軸承信號(hào)進(jìn)行準(zhǔn)確識(shí)別；③該方法具有更高的泛化能力。