董建偉,王衍學(xué)

(1.桂林電子科技大學(xué) 機(jī)電工程學(xué)院,廣西 桂林 541004;2.北京建筑大學(xué) 城市軌道交通車輛服役性能保障北京市重點(diǎn)實(shí)驗(yàn)室,北京 100044)

0 引 言

滾動(dòng)軸承作為旋轉(zhuǎn)機(jī)械的重要組成部件,由于其工作條件復(fù)雜,收集到的振動(dòng)信號(hào)也大多為非平穩(wěn)、非線性信號(hào)。

在傳統(tǒng)的滾動(dòng)軸承故障診斷方法中,對(duì)其振動(dòng)信號(hào)進(jìn)行分析是目前普遍采用的一種方法,其相關(guān)信號(hào)處理的方法也已經(jīng)成功應(yīng)用到對(duì)滾動(dòng)軸承的故障診斷中[1-5]。但是人工特征提取過程通常依賴于現(xiàn)有特征或評(píng)估標(biāo)準(zhǔn),這使得挖掘新的有用信號(hào)特征變得困難。因此,研究一種能夠直接從原始信號(hào)中提取特征,適應(yīng)機(jī)械系統(tǒng)變化的自動(dòng)特征提取方法很有必要。

近年來,深度學(xué)習(xí)技術(shù)越來越受到各個(gè)領(lǐng)域研究人員的關(guān)注。它具有學(xué)習(xí)高非線性樣本特征的能力,可以逐層處理從輸入數(shù)據(jù)中提取到的信息。從原始輸入開始,深度神經(jīng)網(wǎng)絡(luò)(deep neural networks,DNN)可以自動(dòng)發(fā)現(xiàn)大數(shù)據(jù)集中的復(fù)雜結(jié)構(gòu),并逐層學(xué)習(xí)有用的特征。隨著深度學(xué)習(xí)的發(fā)展,智能故障診斷技術(shù),如堆疊自編碼(stacked auto-encode,SAE)、深層信念網(wǎng)絡(luò)(deep belief network,DBNs)、卷積神經(jīng)網(wǎng)絡(luò)、長短期記憶神經(jīng)網(wǎng)絡(luò)(long short term memory networks,LSTMs)已被成功應(yīng)用在故障診斷領(lǐng)域[6,7]。

李巍華等人[8]利用稀疏自編碼器對(duì)不同傳感器的特征進(jìn)行了融合,并將融合的特征向量訓(xùn)練深度信念網(wǎng)絡(luò)作了進(jìn)一步的故障分類。陳雪峰等人[9]利用蟻群算法自動(dòng)確定了深度自編碼的模型參數(shù),提高了模型的性能。HOANG D T等人[10]將振動(dòng)信號(hào)轉(zhuǎn)換為二維形式輸入到卷積神經(jīng)網(wǎng)絡(luò)中,使得模型在不同的負(fù)載和噪聲條件下,都能取得較好的分類精度。李新宇等人[11]將原始信號(hào)轉(zhuǎn)換為灰度圖像,消除了因手工提取特征對(duì)診斷精度造成的影響,并對(duì)不同故障類型的圖像利用LeNet-5卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行了分類。黃如意等人[12]針對(duì)旋轉(zhuǎn)機(jī)械復(fù)合故障的識(shí)別和解耦問題設(shè)計(jì)了多棧膠囊作為解耦分類器,完成了對(duì)復(fù)合故障的準(zhǔn)確識(shí)別和解耦。謝佳琪等人[13]將原始振動(dòng)信號(hào)轉(zhuǎn)換為頻域信號(hào),利用改進(jìn)的卷積置信網(wǎng)絡(luò)對(duì)數(shù)據(jù)特征進(jìn)行了自動(dòng)學(xué)習(xí),同時(shí)利用多特征融合增加了模型的泛化性。

然而,深度信念網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)等深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練依賴于大量的樣本,在訓(xùn)練數(shù)據(jù)不足的情況下,模型會(huì)受到過擬合因素的影響。此外,卷積神經(jīng)網(wǎng)絡(luò)中的池化層會(huì)導(dǎo)致一些有價(jià)值的空間信息的丟失,如位置、尺寸等參數(shù),甚至造成輸入變化很大,但輸出變化很小情況的發(fā)生。對(duì)于時(shí)頻圖而言,在圖中一個(gè)很小的變化,既可能是故障類型的變化,也可能是故障尺寸大小的變化。

基于傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)的缺點(diǎn),HINTON G E和他的助手在2017年提出了膠囊網(wǎng)絡(luò)(capsule network)[14],它可以保留確切的位置、方向、大小等參數(shù),并且有輸入的微小變化也能使輸出帶來微小改變。膠囊網(wǎng)絡(luò)的結(jié)構(gòu)是由膠囊組成而不是神經(jīng)元,膠囊是一組神經(jīng)元,可以對(duì)區(qū)域內(nèi)的特定圖像輸出矢量,矢量的方向表示目標(biāo)的姿態(tài)參數(shù),矢量的長度表示該特征估計(jì)的概率大小,特征的矢量表示有效地提高了軸承故障診斷的準(zhǔn)確率[15-19]。

為了解決傳統(tǒng)方法需要手工提取特征,以及一些深度學(xué)習(xí)方法需要對(duì)原始信號(hào)進(jìn)行二維轉(zhuǎn)換等數(shù)據(jù)預(yù)處理,并且提取到的特征無法充分表達(dá)故障特征的問題,筆者提出一種端到端的滾動(dòng)軸承故障診斷模型,即以一維原始振動(dòng)信號(hào)為輸入,殘差網(wǎng)絡(luò)自適應(yīng)提取特征,并利用膠囊網(wǎng)絡(luò)充分表達(dá)故障信息,以提高分類精度的診斷模型。

1 基礎(chǔ)理論

1.1 殘差網(wǎng)絡(luò)

針對(duì)深度神經(jīng)網(wǎng)絡(luò)隨著網(wǎng)絡(luò)深度的增加出現(xiàn)的梯度消失和網(wǎng)絡(luò)性能退化的問題,何愷明等人[20]提出了一種名為殘差網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu),即在卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上引入了殘差學(xué)習(xí)的概念。

殘差塊結(jié)構(gòu)如圖1所示。

圖1 殘差塊結(jié)構(gòu)

圖1中,殘差單元以一種跳層連接的形式實(shí)現(xiàn),即將單元的輸入直接與單元輸出相加,然后再激活。當(dāng)殘差塊的輸入為Xl時(shí),右側(cè)為殘差函數(shù)F(Xl),左側(cè)為輸入Xl的恒等映射,這兩個(gè)分支的對(duì)應(yīng)元素經(jīng)過相加后,再經(jīng)過Relu非線性變換激活函數(shù),形成整個(gè)殘差塊的基本結(jié)構(gòu)。將多個(gè)殘差塊進(jìn)行堆疊而形成的網(wǎng)絡(luò)結(jié)構(gòu)被稱為殘差網(wǎng)絡(luò)。

1.2 膠囊網(wǎng)絡(luò)

在膠囊網(wǎng)絡(luò)中,網(wǎng)絡(luò)輸出以向量的形式存在,長度表示實(shí)體存在的概率,方向表示實(shí)體的性質(zhì)。膠囊網(wǎng)絡(luò)還將最大池化操作替換為動(dòng)態(tài)路由機(jī)制,通過動(dòng)態(tài)路由算法來計(jì)算一組路由系數(shù);這些路由系數(shù)連接網(wǎng)絡(luò)中相鄰層之間的低層和高層膠囊,每個(gè)路由系數(shù)表示一個(gè)單獨(dú)的低級(jí)別膠囊應(yīng)該分配給一個(gè)高級(jí)別膠囊的概率,根據(jù)低級(jí)別膠囊和高級(jí)別膠囊的相似性程度確定路由的系數(shù)。

高層膠囊vj的計(jì)算過程如圖2所示。

圖2 向量的計(jì)算過程

(1)

sj的計(jì)算方式如下:

(2)

式中:cij—耦合系數(shù)。

對(duì)于每一個(gè)低層膠囊ui而言,所有的耦合系數(shù)cij大于0,并且總和等于1,其計(jì)算方式如下:

(3)

式中:bij—膠囊i和膠囊j相結(jié)合的對(duì)數(shù)先驗(yàn)概率。

在動(dòng)態(tài)路由過程中所有的bij被初始化為0,通過下式迭代更新,即:

(4)

最后,筆者通過一個(gè)非線性激活函數(shù)Squash函數(shù)得到膠囊j的激活值vj,通過Squash函數(shù)確保每個(gè)高層膠囊的向量長度介于0和1之間,即向量的長度代表一個(gè)特定特征的存在概率。

Squash函數(shù)表示為:

(5)

1.3 改進(jìn)的動(dòng)態(tài)路由算法

由于動(dòng)態(tài)路由算法在數(shù)據(jù)形狀太復(fù)雜的數(shù)據(jù)集上不能達(dá)到很好的效果,筆者引入了一種適用性更好的模糊聚類的思想,對(duì)動(dòng)態(tài)路由過程進(jìn)行了改進(jìn);對(duì)每個(gè)對(duì)象和簇賦予一個(gè)權(quán)值,表明對(duì)象屬于該簇的程度。

模糊聚類算法就是一個(gè)不斷迭代計(jì)算隸屬度wij和聚類中心vj的過程,直到它們達(dá)到最優(yōu)解。

計(jì)算隸屬度矩陣wij:

(6)

式中:ui—第i個(gè)樣本,具有d維特征;vj—第j個(gè)簇的聚類中心,具有d維特征;l—聚類中心個(gè)數(shù);wij—樣本ui屬于j類的隸屬度矩陣;m—模糊程度;‖*‖—?dú)W式距離度量。

計(jì)算聚類中心vj為:

(7)

由于模糊聚類算法是基于加權(quán)的歐式距離,其中最顯著的一個(gè)特點(diǎn)就是聚類中心向量是類內(nèi)向量的加權(quán)平均,不能像原動(dòng)態(tài)路由過程使用向量的模長來表示特征的顯著程度。通過增加一個(gè)標(biāo)量aj衡量第j個(gè)膠囊的顯著性,這個(gè)標(biāo)量稱為激活值,因此可以用不確定性來描述這個(gè)激活值,類內(nèi)分布越分散,不確定性越大,類內(nèi)分布越集中,不確定性越小。

不確定性可以用信息熵來度量,信息熵如下:

(8)

式中:Rij—通過貝葉斯公式求得的聚類中心的選取概率。

Rij的表達(dá)式為:

(9)

因?yàn)殪卦叫?特征越顯著,筆者采用-Sj來衡量特征的顯著程度,并且在做一些尺度變換后使用Sigmoid激活函數(shù)將結(jié)果壓縮在0和1之間[21],即:

(10)

aj=sigmoid(λ(βa-costj))

(11)

其中:λ采用退火策略,隨著訓(xùn)練過程慢慢增大;βa,βu通過反向傳播進(jìn)行優(yōu)化。

于是可以得到改進(jìn)后的動(dòng)態(tài)路由算法:

step1:初始化wij,初始化aj(0

step2:迭代3次;

step8:aj=sigmoid(λ(βa-costj));

2 基于殘差膠囊網(wǎng)絡(luò)的軸承診斷方法

2.1 模型結(jié)構(gòu)

為了從原始振動(dòng)信號(hào)中提取更加豐富的深層特征信息,防止因網(wǎng)絡(luò)層數(shù)的增加產(chǎn)生梯度消失現(xiàn)象,筆者將殘差模塊和改進(jìn)后的膠囊網(wǎng)絡(luò)相結(jié)合,形成用于滾動(dòng)軸承故障診斷的殘差膠囊網(wǎng)絡(luò)。

殘差膠囊網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。

圖3 殘差膠囊網(wǎng)絡(luò)結(jié)構(gòu)

圖3中,網(wǎng)絡(luò)結(jié)構(gòu)主要由1個(gè)大卷積核卷積層、2個(gè)殘差模塊和1個(gè)膠囊層組成;該網(wǎng)絡(luò)模型以一維原始振動(dòng)信號(hào)作為輸入,說明不需要任何人工預(yù)處理,采用大卷積核即可提取全局信息,并且減少了背景噪聲的干擾;2個(gè)殘差模塊用于提取滾動(dòng)軸承故障信號(hào)的深層特征信息,在主膠囊層構(gòu)建膠囊單元。

為了減少參數(shù)數(shù)量,提升模型的泛化性能,筆者在數(shù)字膠囊層采用一種權(quán)值共享版姿勢矩陣,如圖4所示。

圖4 權(quán)值共享姿勢矩陣

圖4中,整個(gè)網(wǎng)絡(luò)模型以原始信號(hào)作為輸入。首先使用卷積核為70×1,步長為15的1維卷積提取振動(dòng)信號(hào)的全局信息;在第一個(gè)殘差模塊中,使用3×3的卷積核,步長為1用來提取低層特征,為了避免池化操作丟失信息,使用大小3×3,步長為2的卷積核增大感受野;第二個(gè)殘差模塊中使用堆疊兩層大小為3×3,步長為1的卷積層;在主膠囊層采用8組9×9大小的卷積核構(gòu)建膠囊單元。

2.2 模型損失函數(shù)

筆者在提出的殘差膠囊網(wǎng)絡(luò)中使用邊際損失作為損失函數(shù),即:

Lk=Tkmax(0,m+-‖vk‖)2+
λ(1-Tk)max(0,‖vk‖-m-)2

(12)

式中:k—分類類別;Tk—指標(biāo)函數(shù);m+—上邊界;m-—下邊界;λ—比例系數(shù)。

其中:若k類存在則Tk為1,否則為0,設(shè)m+=0.9,m-=0.1,比例系數(shù)取值為0.5。

3 實(shí)驗(yàn)及結(jié)果分析

3.1 數(shù)據(jù)獲取

為了驗(yàn)證殘差膠囊網(wǎng)絡(luò)的故障診斷性能,本文選用了美國SpectraQuest公司的MFS-Magnum試驗(yàn)臺(tái)的試驗(yàn)數(shù)據(jù)。

該軸承故障檢測裝置如圖5所示。

圖5 軸承故障檢測試驗(yàn)平臺(tái)

該裝置主要包括:轉(zhuǎn)速顯示器、加速度傳感器、手動(dòng)調(diào)速器(變頻)、試驗(yàn)軸承、電機(jī)、轉(zhuǎn)軸、離合器等。試驗(yàn)軸承采樣頻率為25.6 kHz,軸承分別處于外圈故障、內(nèi)圈故障和滾動(dòng)體故障,每種故障狀態(tài)下又分別處在9.9 Hz、19.88 Hz、29.87 Hz的轉(zhuǎn)頻下,加上正常狀態(tài)下的軸承,共計(jì)需要識(shí)別10類不同狀態(tài)的軸承。

為了防止模型產(chǎn)生過擬合現(xiàn)象,提高模型的泛化能力,筆者采用一種重疊信號(hào)分割的方式擴(kuò)充數(shù)據(jù)集。

獲取數(shù)據(jù)樣本如圖6所示。

圖6 獲取數(shù)據(jù)樣本

圖6中,從原始振動(dòng)信號(hào)的起始點(diǎn)開始采集,每次采樣1 024個(gè)點(diǎn),采集完成之后向后移動(dòng)200個(gè)數(shù)據(jù)點(diǎn)繼續(xù)采集,直至所有樣本采集完畢。

筆者將采集到的數(shù)據(jù)樣本按照6:1的比例劃分為訓(xùn)練樣本和測試樣本,其中每個(gè)類別的訓(xùn)練集樣本數(shù)為6 000,測試集樣本數(shù)為1 000。

3.2 方法對(duì)比

為了客觀地評(píng)價(jià)所提方法的性能,本文通過與其他深度學(xué)習(xí)模型進(jìn)行比較,以驗(yàn)證殘差膠囊網(wǎng)絡(luò)的準(zhǔn)確性和泛化性。

此處筆者選用準(zhǔn)確率作為評(píng)價(jià)指標(biāo),對(duì)比方法包括:傳統(tǒng)深度神經(jīng)網(wǎng)絡(luò)(artificial neural network,ANN)、卷積神經(jīng)網(wǎng)絡(luò)、殘差神經(jīng)網(wǎng)絡(luò)(residual networks ,ResNet)、Inception1模型。其中,ANN采用6層全連接網(wǎng)絡(luò),CNN采用3個(gè)卷積層和2個(gè)池化層,一層全連接層;ResNet堆疊3個(gè)殘差模塊和一個(gè)全連接層,Inception1網(wǎng)絡(luò)使用3個(gè)inception1模塊。

在訓(xùn)練過程中,筆者使用Adam優(yōu)化算法,學(xué)習(xí)率設(shè)置為0.001,迭代次數(shù)為30次。

3.3 結(jié)果分析

多個(gè)深度學(xué)習(xí)模型的收斂曲線如圖7所示。

圖7 模型收斂曲線

由圖7可知:在網(wǎng)絡(luò)性能方面,殘差膠囊網(wǎng)絡(luò)可以很快地達(dá)到平緩的收斂狀態(tài),并且具有很高的診斷準(zhǔn)確率,說明筆者所提方法相比于其他深度網(wǎng)絡(luò)模型具有較強(qiáng)的魯棒性和泛化性。

本文以滾動(dòng)軸承的原始振動(dòng)信號(hào)為輸入,通過診斷其故障類別驗(yàn)證所提方法的有效性。為了減少隨機(jī)因素的影響,驗(yàn)證所提方法的穩(wěn)定性,筆者將該方法和對(duì)比方法重復(fù)試驗(yàn)3次;同時(shí),為了定量對(duì)比5種診斷方法的診斷精度,筆者列出每次試驗(yàn)診斷精度及平均診斷精度。

3次實(shí)驗(yàn)的結(jié)果如表1所示(為了量化診斷性能,試驗(yàn)結(jié)果采取平均診斷精度作為衡量指標(biāo))。

表1 3次實(shí)驗(yàn)結(jié)果

從表1結(jié)果可以看出:本文所提出的網(wǎng)絡(luò)模型取得了很好的效果,其平均預(yù)測精度達(dá)到了99.95%,明顯優(yōu)于其他方法;ANN,CNN,Incept1,ResNet分別達(dá)到了67.62%,98.54%,98.74%和98.65%,都低于本文方法,顯示了本文所提方法的顯著性能。

作為一種將故障分類結(jié)果可視化的工具,多類混淆矩陣可以反映故障分類的準(zhǔn)確率和誤分類率。其中,混淆矩陣的橫軸表示樣本的預(yù)測標(biāo)簽,縱軸表示樣本的真實(shí)標(biāo)簽,顏色條表示值和顏色之間的對(duì)應(yīng)關(guān)系;以混淆矩陣的形式給出了更詳細(xì)的結(jié)果。

試驗(yàn)結(jié)果混淆矩陣如圖8所示。

圖8 試驗(yàn)結(jié)果混淆矩陣

從圖8可以看出:ANN把第1類誤分成了第0類,CNN對(duì)第0、4和6類中的某些樣本不能很好地識(shí)別,Incept1對(duì)第0類和第3類有分類錯(cuò)誤,ResNet對(duì)第0類和第6類有分類錯(cuò)誤。

該結(jié)果顯示,本文所提的方法對(duì)所有類都能很好地進(jìn)行識(shí)別。

為了驗(yàn)證所提方法自適應(yīng)挖掘高層特征的能力,筆者利用t-SNE(t-distributed stochastic neighbor embedding)技術(shù),對(duì)高層特征進(jìn)行可視化,并從聚類性能的角度對(duì)其可分性進(jìn)行評(píng)價(jià)。

筆者對(duì)各個(gè)網(wǎng)絡(luò)最后一層的特征進(jìn)行t-SNE處理。為了將聚類結(jié)果可視化,將所有特征表示在二維特征圖上。

基于t-SNE的可視化結(jié)果如圖9所示。

圖9 基于t-SNE的可視化結(jié)果

由圖9可知:ANN中大部分?jǐn)?shù)據(jù)點(diǎn)是混合的,說明網(wǎng)絡(luò)不能很好地區(qū)分每一個(gè)類別;CNN、Incept1和ResNet中數(shù)據(jù)點(diǎn)聚類較好,但也有部分重疊,說明雖然能夠區(qū)分開不同的類,但有些類之間的特征相似,不具有很好的魯棒性;本文所提出的方法可以很好地表征相同故障狀況的特征進(jìn)行聚類,所有的類都可以被清晰地分離。

本文所提網(wǎng)絡(luò)結(jié)構(gòu)的主要思想是先提取原始信號(hào)的低層特征,通過聚類的思想轉(zhuǎn)化為更抽象的特征,在聚類方面也做到了同類的類內(nèi)間距小、不同類的類間間距大,說明了本文所提方法可以很好地對(duì)區(qū)分滾動(dòng)軸承故障類別的基本特征進(jìn)行提取,在特征提取方面具有智能性和有效性。

4 結(jié)束語

本研究提出了一種基于殘差網(wǎng)絡(luò)和膠囊網(wǎng)絡(luò)相結(jié)合的滾動(dòng)軸承故障診斷模型,實(shí)現(xiàn)了以故障軸承的時(shí)域信號(hào)作為輸入,無需手工提取特征的滾動(dòng)軸承故障診斷。筆者將所提出的模型在故障軸承數(shù)據(jù)集進(jìn)行了試驗(yàn)驗(yàn)證,并與其他深度學(xué)習(xí)模型進(jìn)行了對(duì)比。

試驗(yàn)和研究結(jié)果表明:

(1)殘差膠囊網(wǎng)絡(luò)的分類精度和收斂速度都優(yōu)于其他網(wǎng)絡(luò)模型,證明了該網(wǎng)絡(luò)模型具有良好的診斷故障類型的能力;

(2)通過t-SNE的可視化分析表明,殘差膠囊網(wǎng)絡(luò)具有較好的自適應(yīng)挖掘高層特征的能力和全面表達(dá)滾動(dòng)軸承故障信息的能力。

在后續(xù)的研究過程中,筆者將進(jìn)一步優(yōu)化模型,以解決滾動(dòng)軸承故障診斷在噪聲污染和復(fù)雜工況環(huán)境下診斷準(zhǔn)確率不高的問題。