李俊卿，馬亞鵬，胡曉東，馬志鵬，王 羅，何玉靈，張承志

（1.華北電力大學(xué)電力工程系，河北保定 071000；2.太原重工股份有限公司，山西太原 030000；3.中國長江三峽集團(tuán)有限公司，湖北武漢 430010；4.華北電力大學(xué)機(jī)械工程系，河北保定 071000）

0 引言

作為旋轉(zhuǎn)設(shè)備最重要的部件之一，風(fēng)電機(jī)組軸承的運(yùn)行狀態(tài)決定著機(jī)組的運(yùn)行可靠性[1-3]。傳統(tǒng)軸承故障診斷利用傳感器在時(shí)域、頻域和時(shí)頻域收集的原始數(shù)據(jù)進(jìn)行處理和轉(zhuǎn)換，并提取代表性特征用于后續(xù)故障識別[4-5]。近年來，利用深度學(xué)習(xí)方法解決故障診斷問題逐漸成為趨勢[6-7]。文獻(xiàn)[8]通過小波變換將振動信號轉(zhuǎn)換為二維時(shí)頻圖，引入了LeNet-5 網(wǎng)絡(luò)并加以改進(jìn)。文獻(xiàn)[9]將去噪方法引入卷積神經(jīng)網(wǎng)絡(luò)，并基于齒輪箱的數(shù)據(jù)集進(jìn)行試驗(yàn)。文獻(xiàn)[10]結(jié)合了支持向量機(jī)和卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)勢，對軸承進(jìn)行故障診斷。文獻(xiàn)[11]利用一維卷積神經(jīng)網(wǎng)絡(luò)模型直接讀取振動信號進(jìn)行故障識別試驗(yàn)。文獻(xiàn)[12]將快速傅里葉變換（Fast Fourier Transform，F(xiàn)FT）和卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）相融合，輸入到ResNet-18 網(wǎng)絡(luò)中。這些文獻(xiàn)中的模型在診斷準(zhǔn)確率方面均有所提升。

由于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)存在結(jié)構(gòu)復(fù)雜，參數(shù)多等問題，近年來注意力機(jī)制由于能夠提取更關(guān)鍵的信息而在深度學(xué)習(xí)中得到廣泛應(yīng)用。文獻(xiàn)[13]將注意力機(jī)制引入到改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)模型中。文獻(xiàn)[14]提出一種自注意力機(jī)制條件殘差生成對抗網(wǎng)絡(luò)的故障診斷方法。文獻(xiàn)[15]提出一種基于改進(jìn)Inception-ResNet 的加密流量分類方法。文獻(xiàn)[16]構(gòu)建了基于改進(jìn)Inception 網(wǎng)絡(luò)的語音分類模型。文獻(xiàn)[17]構(gòu)建了基于通道注意力機(jī)制的一維卷積神經(jīng)網(wǎng)絡(luò)故障診斷模型。文獻(xiàn)[13-17]表明，將注意力機(jī)制和深度學(xué)習(xí)相結(jié)合，可獲得更高的識別精度。

現(xiàn)有方法大多是基于一維卷積神經(jīng)網(wǎng)絡(luò)（1 Dimension-Convolutional Neural Network，1D-CNN）和二維卷積神經(jīng)網(wǎng)絡(luò)（2 Dimension-Convolutional Neural Network，2D-CNN）的模型進(jìn)行改進(jìn)，此類方法的缺點(diǎn)是獲取的維度信息不夠充分，沒有將1DCNN 和2D-CNN 結(jié)合起來，以便同時(shí)獲取時(shí)頻域維度信息。文獻(xiàn)[18]利用了雙流CNN 思想，但準(zhǔn)確率和損失曲線波動很大，說明魯棒性不強(qiáng)。相比擠壓與 激 勵 模 塊（Squeeze-and-Excitation Networks，SENet）和高效通道注意力模塊（Efficient Channel Attention，ECA），卷積塊注意力模塊（Convolutional Block Attention Module，CBAM）能夠同時(shí)提取空間、通道雙重信息，故具有更好的特征提取效果。

因此，本文提出基于CBAM-InceptionV2-雙流CNN 模型的軸承故障診斷方法。對比實(shí)驗(yàn)表明所提方法具有很高的故障診斷準(zhǔn)確率。

1 模型原理

1.1 CBAM注意力機(jī)制及Inception V2模塊結(jié)構(gòu)

注意力機(jī)制的作用是使卷積神經(jīng)網(wǎng)絡(luò)關(guān)注于更需要關(guān)注的局部。常見的注意力機(jī)制實(shí)現(xiàn)方式有：SENet，ECA，CBAM[19-20]。SENet，ECA 只關(guān)注通道特征，CBAM 融合了空間和通道雙重信息，突出表現(xiàn)了特征圖中的關(guān)鍵信息，舍棄了無關(guān)特征。CBAM結(jié)構(gòu)圖如圖1 所示。

圖1 CBAM結(jié)構(gòu)圖Fig.1 CBAM structure diagram

Inception 塊的作用是用大小不等的核卷積提取多種尺度特征，開啟多個(gè)不同的“并行路線”，每個(gè)路線采用不同的方式進(jìn)行特征提取和學(xué)習(xí)，最終將多個(gè)輸出通道合并[21]。Inception V2 在Inception V1的基礎(chǔ)上，使用了批量歸一化（Batch Normalization，BN），其作用是防止梯度爆炸和梯度消失，也可將每一層的數(shù)據(jù)都轉(zhuǎn)換在均值為0、方差為1 的狀態(tài)，加快了收斂速度；同時(shí)使用2 個(gè)3×3 卷積級聯(lián)代替Inception V1 中5×5 的卷積。基于Inception 的結(jié)構(gòu)，在擴(kuò)展網(wǎng)絡(luò)寬度的同時(shí)，參數(shù)量保持相對不變。Inception V2 結(jié)構(gòu)如圖2 所示。

圖2 Inception V2結(jié)構(gòu)圖Fig.2 Inception V2 structure diagram

1.2 卷積神經(jīng)網(wǎng)絡(luò)模型

CNN 是一種含有卷積結(jié)構(gòu)的深層神經(jīng)網(wǎng)絡(luò)，廣泛應(yīng)用于圖像處理等眾多領(lǐng)域[22-23]。CNN 主要由輸入層、卷積層、池化層和全連接層組成[24-26]。卷積層是CNN 的核心單元，其作用是對圖像和濾波矩陣做內(nèi)積；池化層（Pooling）用來縮小圖片尺寸；全連接層將所有特征整合在一起，通過softmax 實(shí)現(xiàn)故障分類。

卷積核不斷“掃描”提取特征，然后通過激活函數(shù)來提高非線性，如式（1）所示：

式中：*為卷積計(jì)算；b為卷積層偏置量；l為卷積層數(shù)；Zl，Zl+1分別為第l層卷積的輸入和輸出；W為權(quán)重；σ（?）為ReLU 激活函數(shù)。

1.3 雙流CNN網(wǎng)絡(luò)結(jié)構(gòu)

傳統(tǒng)軸承故障診斷是采用各種特征提取方法對一維軸承振動信號進(jìn)行特征提取，如FFT 頻譜。文獻(xiàn)[27]提出小波變換后的圖片故障特征比短時(shí)傅立葉變換更明顯。FFT+小波時(shí)頻圖+CNN（簡稱雙流CNN）網(wǎng)絡(luò)融合了一維頻域特征和二維時(shí)頻域特征，采用雙通道網(wǎng)絡(luò)架構(gòu)。其中，1D-CNN 通道以軸承振動數(shù)據(jù)的FFT 頻譜信號為輸入，提取軸承振動數(shù)據(jù)的頻域特征；2D-CNN 通道以軸承振動數(shù)據(jù)的時(shí)頻圖為輸入，提取軸承振動數(shù)據(jù)的時(shí)頻域特征；然后將各自提取到的特征合并，送入?yún)R聚層、全連接層，最后進(jìn)行故障分類預(yù)測。

2 故障診斷模型及步驟

2.1 故障診斷模型

本文所提出的基于CBAM-InceptionV2-雙流CNN 的故障診斷模型如圖3 所示。其中，左側(cè)通道首先將軸承原始振動信號經(jīng)過連續(xù)小波變換，得到彩色二維時(shí)頻圖，然后送入CBAM 注意力機(jī)制，突出表現(xiàn)空間、通道雙重信息，接著送入Inception V2模塊，使用大小不同的卷積核提取各尺度特征并進(jìn)行融合，最后送入2D-CNN 提取特征；右側(cè)通道經(jīng)過FFT 得到頻譜圖，送入1D-CNN 提取特征；然后將2 個(gè)通道各自提取的特征進(jìn)行融合，送入?yún)R聚層，全連接層，最終在分類層完成故障分類預(yù)測。

圖3 故障診斷模型結(jié)構(gòu)Fig.3 Fault diagnosis model structure

2.2 故障診斷步驟

首先，將數(shù)據(jù)集劃分為訓(xùn)練集、驗(yàn)證集和測試集。其次，構(gòu)建基于CBAM-InceptionV2-雙流CNN模型，其中，1D-CNN 以FFT 頻譜信號為輸入，2DCNN 以小波時(shí)頻圖經(jīng)CBAM，Inception V2 輸入。分別進(jìn)行特征提取后，經(jīng)匯聚層、全連接層、分類層進(jìn)行故障診斷。最后，將測試集輸入到訓(xùn)練好的模型中，得到測試集診斷準(zhǔn)確率，具體故障診斷流程如圖4 所示。使用隨機(jī)梯度下降（Stochastic Gradient Descent，SGD）作為優(yōu)化器。每次迭代中，每個(gè)參數(shù)沿著梯度的反方向移動一小步，以期望最小化損失函數(shù)。

圖4 故障診斷流程Fig.4 Fault diagnosis process

3 故障診斷效果仿真驗(yàn)證

3.1 模型結(jié)構(gòu)和參數(shù)

本文使用文獻(xiàn)[28]中的軸承測試數(shù)據(jù)。數(shù)據(jù)集包括正常狀態(tài)、內(nèi)圈故障、外圈故障和滾動體故障4種故障類型。每種故障類型有3 種故障尺寸（0.007英寸，0.014 英寸，0.021 英寸），故有9 種故障狀態(tài)，加上正常狀態(tài)共有10 種工作狀態(tài)。分別用類別標(biāo)簽0—9 表示這10 種工作狀態(tài)，具體數(shù)據(jù)集劃分如表1 所示。

表1 實(shí)驗(yàn)數(shù)據(jù)集Table 1 Experimental data set 個(gè)

將1D-CNN 和經(jīng)CBAM-InceptionV2 的2DCNN 的特征向量，在匯聚層拼接得到1×3 456 的一維向量，然后經(jīng)Dropout，全連接層，最后分類得到1×10 的一維向量。模型參數(shù)如表2 和表3 所示。

表2 1D-CNN參數(shù)設(shè)計(jì)Table 2 Parameter design for 1D-CNN

表3 2D-CNN參數(shù)設(shè)計(jì)Table 3 Parameter design for 2D-CNN

網(wǎng)絡(luò)采用批處理樣本數(shù)為64 個(gè)，迭代次數(shù)為100 次，學(xué)習(xí)率為0.005。使用的準(zhǔn)確率函數(shù)表達(dá)式如式（2）所示，使用分類交叉熵L作為損失函數(shù)，其表達(dá)式如式（3）所示。

式中：M為類別數(shù)量；yic為樣本i屬于類別c的符號函數(shù)（0 或1），如果樣本i的真實(shí)類別等于類別c時(shí)取1，否則取0；pic為樣本i屬于類別c的預(yù)測概率。

3.2 實(shí)驗(yàn)結(jié)果分析

本文方法訓(xùn)練集、驗(yàn)證集的準(zhǔn)確率和損失變化曲線分別如圖5 和圖6 所示。

圖5 準(zhǔn)確率變化曲線Fig.5 Accuracy change curves

圖6 損失變化曲線Fig.6 Loss change curves

由圖5 可知，前25 輪迭代內(nèi)，訓(xùn)練集和驗(yàn)證集的準(zhǔn)確率急劇上升且波動很小，第25 輪迭代時(shí)，訓(xùn)練集和驗(yàn)證集準(zhǔn)確率分別達(dá)到99.29%和97.00%，在25 輪迭代以后準(zhǔn)確率有較小幅度的上升，到第50 輪訓(xùn)練集和驗(yàn)證集的準(zhǔn)確率已接近100%，之后保持穩(wěn)定，說明網(wǎng)絡(luò)模型已經(jīng)訓(xùn)練完畢。

由圖6 可知，在前25 輪迭代，訓(xùn)練集和驗(yàn)證集的損失急劇下降，到第50 輪時(shí)，訓(xùn)練集和驗(yàn)證集的損失已接近于0，之后保持相對穩(wěn)定。結(jié)果表明，僅需50 輪迭代模型會明顯收斂，說明本實(shí)驗(yàn)?zāi)Ｐ途哂懈玫脑\斷效果。

t-分布領(lǐng)域嵌入算法（t-Distributed Stochastic Neighbor Embedding，t-SNE）是目前效果較好的可視化工具。本文利用t-SNE 將輸入的高維數(shù)據(jù)降至二維，在第1 維度和第2 維度構(gòu)成的平面中展示聚類結(jié)果，原始數(shù)據(jù)和本模型提取后的特征數(shù)據(jù)降維后的聚類結(jié)果分別如圖7 和圖8 所示。其中，圖例中0—9 以不同顏色表示，分別對應(yīng)表1 中類別標(biāo)簽中0—9 的10 種工作狀態(tài)；刻度值表示橫、縱坐標(biāo)軸范圍設(shè)置為0.0～1.0。

圖7 原始數(shù)據(jù)可視化圖Fig.7 Visualization of raw data

圖8 特征數(shù)據(jù)可視化圖Fig.8 Visualization of feature data

3.3 與其他方法比較分析

為了進(jìn)一步驗(yàn)證本文模型具有更高的故障診斷精度，對比分析了所提方法與其它方法的測試結(jié)果。方法1 采用FFT+1D-CNN；方法2 采用小波時(shí)頻圖+2D-CNN；方法3 采用雙流CNN；方法4 采用CBAM+雙流CNN；方法5 采用InceptionV2＋雙流CNN；方法 6 為本文方法，結(jié)合了 CBAMInceptionV2-雙流CNN。

為了避免偶然誤差，對6 種方法在相同數(shù)據(jù)集上各進(jìn)行10 次實(shí)驗(yàn)，取準(zhǔn)確率的平均值作為平均診斷準(zhǔn)確率。實(shí)驗(yàn)結(jié)果如表4 所示。

表4 不同方法的平均診斷準(zhǔn)確率Table 4 Average diagnostic accuracy of different methods %

由表4 可知，本文方法的平均診斷準(zhǔn)確率最高達(dá)99.78%。與方法1、方法2、方法3、方法4、方法5 的平均診斷準(zhǔn)確率相比，分別提升了10.78%，6.48%，5.53%，0.28%，0.53%。因此，本文所提模型具有更高的準(zhǔn)確率。

4 結(jié)論

本文提出了一種基于CBAM-InceptionV2-雙流CNN 的軸承故障診斷模型，將CBAM 注意力機(jī)制，InceptionV2 與雙流CNN 結(jié)合起來，通過多通道、多特征、多維度的不斷融合訓(xùn)練模型。通過比較不同方法下的故障平均診斷準(zhǔn)確率，證明了本文方法具有更高的故障準(zhǔn)確率。具體結(jié)論如下：

1）將1D-CNN 和2D-CNN 的雙流CNN 模型相結(jié)合，利用FFT 和小波變換獲取時(shí)頻域兩個(gè)維度的信息，依靠CNN 強(qiáng)大的圖像處理能力，從大量數(shù)據(jù)中有效提取了故障特征。

2）針對雙流CNN 模型損失曲線波動很大且迭代次數(shù)較多（200 輪）的問題，對其加入CBAM 注意力機(jī)制，集合了空間、通道雙重信息，同時(shí)加入了InceptionV2，使用了BN 層，將每一層的輸出都規(guī)一化到均值為0，方差為1 的正態(tài)分布，有助于訓(xùn)練模型，同時(shí)減少了參數(shù)量。