石靜雯，侯立群

基于雙向門控循環(huán)單元網絡的滾動軸承故障診斷

石靜雯，侯立群

（華北電力大學 自動化系，河北 保定 071003）

滾動軸承作為大多數(shù)旋轉機械的重要零部件，其工作狀態(tài)直接影響設備的工作壽命。針對傳統(tǒng)故障診斷方法自適應性差、特征提取過于依賴人工經驗的問題，提出一種基于雙向門控循環(huán)單元的軸承故障診斷方法。該方法直接將原始振動信號作為模型輸入，自動進行故障特征提取與故障診斷。結合軸承外圈故障、內圈故障及滾動體故障等9種故障狀況，對所提方法進行了驗證。實驗結果表明，其故障診斷準確率可達99.56%，診斷效果優(yōu)于門控循環(huán)單元、長短期記憶網絡等算法，且泛化能力好。

故障診斷；雙向門控循環(huán)單元；深度學習；滾動軸承

0 引言

滾動軸承作為大多數(shù)旋轉機械的重要零部件，其工作狀態(tài)直接決定了機器的工作壽命及工作人員的安全。對滾動軸承進行及時的狀態(tài)監(jiān)測和故障診斷能夠有效防止設備意外故障，提高設備運行效率[1-2]。

隨著人工智能技術的快速發(fā)展和大數(shù)據(jù)時代的到來，各個領域都形成了復雜的數(shù)據(jù)庫[3]，故障診斷領域也不例外。傳統(tǒng)的故障診斷方法在特征提取和處理方面依靠人工經驗，難以處理海量的數(shù)據(jù)。深度學習具有強大的數(shù)據(jù)處理能力，深度卷積神經網絡和循環(huán)卷積網絡也已成功應用于自動駕駛、圖像識別等領域。

長短期記憶（LSTM）模型以及門控循環(huán)單元（GRU）是循環(huán)神經網絡的變體，它們成功解決了RNN的梯度消失、梯度爆炸和長期記憶力不足等問題[4]。文獻[5]提出了基于優(yōu)化LSTM網絡的齒輪箱故障診斷方法。該方法將能量序列特征和小波能量熵作為模型輸入，解決了傳統(tǒng)LSTM網絡在復雜工況下辨別能力低的問題。文獻[6]提出了一種基于以增強型門控循環(huán)單元和復小波包能量矩熵相結合的故障診斷方法，增強了模型的預測能力，解決早期軸承故障的預測準度低的問題。文獻[7]提出利用多種小波變換和一維卷積循環(huán)網絡進行故障診斷，在復雜工況下其診斷準確率達95%以上。文獻[8]提出將最大能量算子、峭度卷積和長短期記憶網絡相結合的故障診斷算法，該方法可在強噪聲下提取故障特征。雖然上述方法在一定程度上提高了故障診斷準確度，但仍未改變故障特征提取依賴人工處理的問題。因此，文獻[9]提出了基于卷積長短期記憶遞歸神經網絡（CRNN）的故障診斷方法。該方法將振動數(shù)據(jù)直接輸入CRNN，其故障診斷準確率達99.77%。文獻[10]提出了基于遷移學習的故障診斷，通過在長短期記憶模型中引入L1正則化抑制模型過擬合，實現(xiàn)了在小樣本下的故障診斷。文獻[11]提出將CNN模型與GRU模型相結合，以原始數(shù)據(jù)作為輸入，進行故障診斷，其故障診斷準確度達到了99.8%。文獻[12]等提出了利用改進鯨魚算法優(yōu)化LSTM進行軸承故障診斷，以解決模型容易陷入最小化的問題。

以上文獻中的算法通過將原始數(shù)據(jù)直接輸入神經網絡，較大程度上擺脫了人工干預，但所提循環(huán)網絡模型均為單向模型，無法有效利用反向信息。針對該問題，本文提出一種直接輸入原始振動信號的雙向門控循環(huán)單元故障診斷方法。

1 理論背景

1.1 RNN理論

RNN是對序列數(shù)據(jù)進行分析處理的神經網絡，其主要特點是網絡的當前輸出與之前的信息相關。RNN的單個神經元結構如圖1所示。

圖1 RNN的神經元結構圖[13]

=(1,2,···,x)為輸入序列，=(1,2,···,h)，為隱單元序列，=(1,2,···,y)為輸出序列。將圖中左側的單元按時間序列展開圖可知，2的輸出結果y由前一時刻的1與當前時刻的2決定。以此類推，x時刻的輸出y由x–1和h決定。

1.2 GRU網絡

圖2 GRU結構圖

復位門的作用是決定上一時刻隱含層被遺忘信息的大小，輸入X與前一時刻H–1單元信息經過權重矩陣變換后相加，再通過Sigmoid函數(shù)生成輸出。將輸出乘以上一時刻H–1的狀態(tài)信息與

更新門的作用是衡量過去信息的重要程度，決定傳遞到當前隱含層H的信息大小。其運算過程與復位門類似。將輸入x與前一時刻H–1單元信息分別經過權重矩陣變換相加，再通過Sigmoid函數(shù)生成輸出。通過Z和（1–Z）相加，生成隱含狀態(tài)H。具體計算過程如下：

候選隱含狀態(tài)：

隱含狀態(tài)：

輸出：

式（1）中，、和b代表復位門的權重矩陣和偏置；式（2）中，、和b代表更新門的權重矩陣和偏置；式（3）～（5）中，、、和b、b代表循環(huán)連接的權重矩陣和偏置；tan為雙曲正切激活函數(shù)；代表sigmoid 激活函數(shù)。

2 軸承故障診斷模型

2.1 Bi-GRU模型結構圖

本文提出的模型由輸入層、Bi-GRU層、全連接層、softmax層和輸出層構成，具體如圖3所示。

圖3 模型圖

Bi-GRU算法包括特征提取和故障診斷兩部分。將原始振動信號直接輸入Bi-GRU層，Bi-GRU層利用其正向和反向上兩個獨立的隱藏層A和A′進行特征自動提取；然后，通過全連接層對特征進行加權處理；最后，經過Softmax層輸出預測結果。

2.2 模型診斷過程

本文將原始數(shù)據(jù)作為模型輸入，利用Bi-GRU模型自動進行特征提取和深層訓練,輸出故障類型，從而實現(xiàn)的軸承故障診斷。故障診斷過程如圖4所示。

圖4 故障診斷過程

故障診斷步驟如下：

（1）將振動信號分成若干個數(shù)據(jù)段，確定采樣點數(shù)目，劃分訓練樣本和測試樣本；

（2）將訓練樣本特征和故障類別標簽輸入所提的網絡中，通過實驗選擇合適的學習率，優(yōu)化器等參數(shù)，確定Bi-GRU網絡模型；

（3）將測試樣本數(shù)據(jù)輸入到診斷模型中，輸出分類結果。

3 實驗驗證

本文使用深度學習框架Keras2.3.1實現(xiàn)和訓練模型。電腦配置為Intel Core TM i5 CPU，16GB 雙通道內存，512GBPCIe 3.0高速固態(tài)。

3.1 實驗數(shù)據(jù)

選用凱斯西儲大學（CWRU）的軸承數(shù)據(jù)集對所提方法進行驗證[14]。CWRU的實驗裝置包括扭矩傳感器、功率測試儀、電機、電子控制器和記錄電機底座、驅動端和風扇端振動信號的3個加速度計。

實驗使用了驅動端振動信號，軸承轉速為1 797 r/min，電機負載為0 hp，振動信號采樣頻率為48 kHz，每個樣本包括1 600個采樣點。

實驗選用軸承正常運行及3種故障工況（外圈六點鐘故障、內圈故障和外圈故障）。故障點直徑取0.021英寸、0.014英寸和0.007英寸，共計10種工況。每種工況選取300個實驗樣本，共3 000個樣本。在每種工況的300個樣本中，隨機選取260個作為訓練集，40個作為測試集。實驗數(shù)據(jù)集的詳細描述見表1。部分正常、內圈故障、滾動體故障及外圈六點鐘故障的振動信號波形如圖5所示。

表1 實驗數(shù)據(jù)集

圖5 不同情況下時域波形圖

3.2 模型參數(shù)對實驗結果影響

在構建Bi-GRU網絡模型時，一些參數(shù)需要根據(jù)實際情況進行設定，需進行多次試驗，才能獲得滿意的參數(shù)值。下文通過實驗確定模型的學習率、優(yōu)化器以及迭代次數(shù)。

（1）迭代次數(shù)的影響

表2為不同迭代次數(shù)下的實驗結果。當?shù)螖?shù)為1 000時，模型準確率最高，損失率最低，分別為99.25%和5.06%；當?shù)螖?shù)增加到1 200次時，準確率開始下降，這是因為迭代次數(shù)過大引起了梯度爆炸，使模型訓練停止。由此可見模型的迭代次數(shù)與準確率并不是完全正相關。因此設置迭代次數(shù)為1 000。

表2 不同迭代次數(shù)實驗結果

（2）學習率的影響

學習率用來描述梯度更新步長的大小。過大的學習率會使權重更新過快，模型性能不穩(wěn)定；而過小的學習率會影響學習速度。當GRU單元個數(shù)設置為50和500時，不同學習率的實驗結果如表3、表4所示。實驗結果表明，在單元數(shù)不同的情況下，學習率為0.001時的準確率最高，損失率最低，且單元數(shù)為500時準確率達到99.75%。因此，將學習率設置為0.001。

表3 不同學習率在單元數(shù)50情況下實驗結果

表4 不同學習率在單元數(shù)500情況下實驗結果

（3）優(yōu)化器的影響

優(yōu)化器影響參數(shù)優(yōu)化和模型收斂速度。本文比較了Adadelta、RMSprop、Adam 3種優(yōu)化器的實驗結果，結果如圖6所示。由圖可見，當?shù)螖?shù)為1 000時，Adadelta優(yōu)化器的準確率未能達到穩(wěn)定，而Adam和RMSprop優(yōu)化器均能達到收斂狀態(tài)。Adam優(yōu)化器本質是添加了偏差校正和動量的RMSprop優(yōu)化器，隨著梯度變得越來越稀疏，Adam優(yōu)化器的優(yōu)化效果略優(yōu)于RMSprop優(yōu)化器。因此，本文選擇了Adam優(yōu)化器。

圖6 不同優(yōu)化器的實驗結果

3.3 實驗結果

通過反復實驗和超參數(shù)對比，最終確定：迭代次數(shù)1 000，學習率為0.001，模型優(yōu)化器為Adam優(yōu)化器，Bi-GRU隱含層神經單元個數(shù)為500。為了避免實驗結果的偶然性，進行了5次實驗，然后取平均值。5次實驗的結果如表5所示。實驗結果表明，在Bi-GRU模型下，最高準確率可達100%，平均準確率99.56%，最低損失率0.1%，平均損失率1.54%，說明所提模型具有較高的故障診斷準確率。

表5 實驗結果

圖7、圖8分別為第5次實驗的準確率和損失率迭代曲線。隨著迭代次數(shù)的不斷增加，診斷準確率逐漸提高，損失率不斷降低。當?shù)螖?shù)在400次左右時，模型診斷準確率和損失率逐漸開始穩(wěn)定，最后達到收斂狀態(tài)。

圖7 準確率迭代曲線

圖8 損失率迭代曲線

3.4 模型對比實驗

利用相同實驗數(shù)據(jù)集，將本文所提算法與GRU模型、Bi-LSTM模型，LSTM模型進行了比較。每種算法都進行5次實驗，然后計算平均值。實驗結果如表6所示。

表6 對比實驗結果

實驗結果表明，GRU和LSTM算法診斷準確率為97%，Bi-LSTM和Bi-GRU算法診斷準確率達到了99%。因為雙向模型能夠學習到更多特征信息，所以雙向模型故障診斷準確度高于單向模型。當Bi-GRU模型保持和Bi-LSTM模型相當?shù)谋磉_能力時，Bi-GRU模型的計算復雜度低，故障診斷準確率更高。因此，本文所提算法優(yōu)于其他算法。

3.5 模型泛化能力

為了評估該算法的泛化能力，本實驗利用1 hp負載下的驅動端振動信號，驗證了所提故障診斷方法的準確性。本實驗中故障診斷準確率仍取5次實驗的平均值。實驗結果表明，在1 hp負載條件下，所提方法的平均故障診斷精度為99%，說明所提Bi-GRU模型有良好的泛化能力。第一次實驗故障診斷結果的混淆矩陣如圖9所示。

圖9 混淆矩陣

可見，本方法對故障NOR、故障IR007、故障IR021、故障OR007、故障OR014、故障OR021、故障B014和故障B021的全部樣本分類正確，對故障IR014和故障B007出現(xiàn)了分類錯誤，其準確率均為97.5%。

4 結論

本文提出一種基于雙向門控循環(huán)單元的故障診斷方法。該方法直接將原始數(shù)據(jù)輸入Bi-GRU模型中，自動進行故障特征提取和故障分類，彌補了傳統(tǒng)故障診斷方法在特征提取上嚴重依賴人工的問題。利用美國凱斯西儲大學的CWRU數(shù)據(jù)集，對所提算法和其他常用故障算法的診斷效果進行了比較。結果顯示，所提算法具有較高診斷精度。利用不同負載下的振動數(shù)據(jù)對所提算法進行了測試，其診斷準確率達99%。

[1] 汪洋, 郭利進.一種新型DSCNN-GRU結構的減速機軸承故障診斷方法[J].機械科學與技術, 2020, 39(2): 258-266.

WANG YANG, GUO LIJIN.A new type of DSCNN-GRU structure for bearing fault diagnosis of reducer[J].Mechanical Science and Technology for Aerospace Engineering, 2020, 39(2): 258-266(in Chinese).

[2] 陳劍, 蔡坤奇, 陶善勇, 等.基于IITD模糊熵與隨機森林的滾動軸承故障診斷方法[J].計量學報, 2021, 42(6): 774-779.

CHEN JIAN, CAI KUNQI, TAO SHANYONG, et al.Fault diagnosis method of rolling bearing based on IITD fuzzy entropy and random forest[J].Acta Metrologica Sinica, 2021, 42(6): 774-779(in Chinese).

[3] 來風剛, 劉軍, 李濟偉, 等.基于Pytorch和神經網絡的云數(shù)據(jù)中心故障檢測[J].計算機系統(tǒng)應用, 2020, 29(11): 40-46.

LAI FENGGANG, LIU JUN, LI JIWEI, et al.Cloud data center fault detection based on Pytorch and neural network[J].Computer Systems & Applications, 2020, 29(11): 40-46(in Chinese).

[4] GRAVES A.Long short-tern memory[M].Berlin: Springer, 2012: 1735-1780.

[5] YIN A, YAN Y, ZHANG Z, et al.Fault diagnosis of wind turbine gearbox based on the optimized LSTM neural network with cosine loss[J].Sensors, 2020, 20(8): 2339.

[6] HAIDONG S, JUNSHENG C, HONGKAI J, et al.Enhanced deep gated recurrent unit and complex wavelet packet energy moment entropy for early fault prognosis of bearing[J].Knowledge-Based Systems, 2020, 188: 105022.

[7] 陳維興, 崔朝臣, 李小菁, 等.基于多種小波變換的一維卷積循環(huán)神經網絡的風電機組軸承故障診斷[J].計量學報, 2021, 42(5): 615-622.

CHEN WEIXING, CUI CHAOCHEN, LI XIAOJING, et al.Bearing fault diagnosis of wind turbine based on multi-wavelet-1 D convolutional LSTM[J].Acta Metrologica Sinica, 2021, 42(5): 615-622(in Chinese).

[8] 張氫, 江偉哲, 李恒.MCKD-Teager能量算子結合LSTM的滾動軸承故障診斷[J].哈爾濱工業(yè)大學學報, 2021, 53(7): 68-76.

ZHANG QING, JIANG WEIZHE, LI HENG.Combined MCKD-Teager energy operator with LSTM for rolling bearing fault diagnosis[J].Journal of Harbin Institute of Technology, 2021, 53(7): 68-76(in Chinese).

[9] KHORRAM A, KHALOOEI M, REZGHI M.End-to-end CNN+ LSTM deep learning approach for bearing fault diagnosis[J].Applied Intelligence, 2021, 51(2): 736-751.

[10] ZHU D, SONG X, YANG J, et al.A bearing fault diagnosis method based on L1 regularization transfer learning and LSTM deep learning[C]//2021 IEEE International Conference on Information Communication and Software Engineering (ICICSE).Chengdu, China: IEEE, 2021: 308-312.

[11] 張龍, 徐天鵬, 王朝兵, 等.基于卷積門控循環(huán)網絡的齒輪箱故障診斷[J/OL].吉林大學學報(工學版): 1-10[2021-07-16].https://doi.org/10.13229/j.cnki.jdxbg xb20200930.

ZHANG LONG, XU TIANPENG, WANG CHAOBING, et al.Gearbox fault diagnosis based on convolutional gated recurrent network[J].Journal of Jilin University (Engineering and Technology Edition): 1-10[2021-07-16].https://doi.org/10.13229/j.cnki.jdxbg xb20200930(in Chinese).

[12] 鄭直, 張華欽, 潘月.基于改進鯨魚算法優(yōu)化LSTM的滾動軸承故障診斷[J].振動與沖擊, 2021, 40(7): 274-280.

ZHENG ZHI, ZHANG HUAQIN, PAN YUE.Rolling bearing fault diagnosis based on IWOA-LSTM[J].Journal of Vibration and Shock, 2021, 40(7): 274-280(in Chinese).

[13] 黃理燦.深度學習原理與TensorFlow實踐[M].北京: 人民郵電出版社, 2019.

[14] 美國凱斯西儲大學電機滾動軸承振動信號數(shù)據(jù)集[EB/OL].[2021-07-16].https://csegroups.case.edu/bearing datacenter/ho-me.

Fault Diagnosis of Rolling Bearing Based on Bi-directional Gated Recurrent Unit Network

SHI Jingwen, HOU Liqun

(Department of Automation, North China Electric Power University, Baoding 071003, China)

Rolling bearing is the key part of rotating machinery, and its working state directly affects theworking life of rotating machinery.To solve the problems that the traditional fault diagnosis have poor adaptability and feature extraction depends too much on manual experience, a bearing fault diagnosis was proposed based on the bi-directional gated recurrent unit, which used the original vibration signal as the model input signal, extracted the bearing fault signal automatically and made fault diagnosis.The proposed model was used to identify nine fault states of bearing outer ring fault, inner ring fault and rolling element fault.The experimental results show that the fault diagnosis accuracy of this method can reach 99.56%, and its generalization ability are better than the results of the gated recurrent unit and long short-term memory algorithm.

fault diagnosis; bidirectional gated recurrent unit; deep learning; rolling bearing

10.3969/j.ISSN.1672-0792.2021.10.008

TH16

A

1672-0792(2021)10-0064-07

2021-07-16

河北省自然科學基金（F2016502104）

石靜雯（1996—），女，碩士研究生，研究方向為軸承故障診斷；

侯立群（1972—），男，副教授，主要研究方向為軸承故障診斷、無線傳感器網絡等。

侯立群