史永勝，衡慧娟

（中國民航大學(xué)航空工程學(xué)院，天津 300300）

傳統(tǒng)的數(shù)學(xué)建模方式對復(fù)雜系統(tǒng)的故障識別較困難。杜瑋等[1]提出基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的復(fù)雜系統(tǒng)故障識別方法，利用變學(xué)習(xí)速率法與共軛梯度法相結(jié)合的BP網(wǎng)絡(luò)性能改進(jìn)算法，將其用于復(fù)雜系統(tǒng)的故障識別。賈文其等[2]基于棧式降噪自編碼神經(jīng)網(wǎng)絡(luò)對車牌字符進(jìn)行識別，在復(fù)雜環(huán)境下低質(zhì)量的車牌字符圖像識別具有較好的魯棒性。丁平等[3]采用徑向基函數(shù)（RBF）神經(jīng)網(wǎng)絡(luò)建立發(fā)動機(jī)的故障識別模型，論述了徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、學(xué)習(xí)和運行，并通過該模型對發(fā)動機(jī)參數(shù)進(jìn)行辨識，具有較高的故障識別率。Cho[4]提出簡單稀疏化方法，從而增強(qiáng)稀疏去噪自編碼網(wǎng)絡(luò)去除圖像噪聲的高效性，且實驗驗證了稀疏性有助于小圖像碎片和含較多碎片的較大圖像的去噪。袁靜等[5]提出融合梯度差信息的稀疏去噪自編碼網(wǎng)絡(luò)在異常行為檢測中的應(yīng)用，在稀疏去噪自編碼的基礎(chǔ)上，增加梯度差的約束條件，改進(jìn)了自編碼網(wǎng)絡(luò)的解碼效果。

復(fù)雜系統(tǒng)的故障種類多樣，成因錯綜復(fù)雜，針對已有基于稀疏去噪編碼網(wǎng)絡(luò)（SDAE,sparse denoising autoencoder）算法在復(fù)雜系統(tǒng)故障識別中的故障識別率低、重構(gòu)誤差較明顯、算法參數(shù)過多及訓(xùn)練過程緩慢等問題，在傳統(tǒng)的SDAE算法中引入數(shù)據(jù)量化和故障碼匹配的概念，使改進(jìn)后的SDAE算法具有故障識別效率高和噪聲樣本數(shù)據(jù)魯棒性強(qiáng)等優(yōu)點。

1 稀疏去噪自編碼網(wǎng)絡(luò)

自編碼網(wǎng)絡(luò)（AE，autoencoder）自Hinton等學(xué)者在2006年首次提出后，引起學(xué)術(shù)界的廣泛關(guān)注。AE是一種無監(jiān)督的特征學(xué)習(xí)網(wǎng)絡(luò)，可充分利用未標(biāo)簽數(shù)據(jù)通過逐層的預(yù)訓(xùn)練得到各層網(wǎng)絡(luò)初始化的權(quán)值，從而使網(wǎng)絡(luò)能更有效地提取數(shù)據(jù)特征。

AE由三層網(wǎng)絡(luò)組成，分別是輸入層、隱含層和輸出層。AE要經(jīng)過編碼、解碼階段，編碼階段是從輸入層到隱含層的壓縮低維表達(dá)過程，解碼階段是從隱含層的壓縮特征映射還原出輸出層的近似原始數(shù)據(jù)的過程。

當(dāng)原始的輸入數(shù)據(jù)包含噪聲時，自編碼網(wǎng)絡(luò)的性能將會降低，為避免這一現(xiàn)象的發(fā)生，Vicent等提出去噪自編碼網(wǎng)絡(luò)（DAE,denoising autoencoder）的概念。先對原始的輸入數(shù)據(jù)添加隨機(jī)噪聲，然后對加噪后的數(shù)據(jù)進(jìn)行編碼、解碼操作，最終的輸出數(shù)據(jù)能夠近似等于原始的輸入數(shù)據(jù)[6]。

如果將稀疏性引入到自編碼網(wǎng)絡(luò)中可得到另一種稀疏自編碼網(wǎng)絡(luò)（SDAE），該網(wǎng)絡(luò)限制每次獲得的編碼盡量稀疏，從而模擬人腦中神經(jīng)元刺激和抑制的規(guī)律，稀疏自編碼網(wǎng)絡(luò)的優(yōu)化模型如下

其中：h=WTX為編碼后的信號；X為輸入數(shù)據(jù)；W為層間的連接權(quán)值矩陣；hj為第j次編碼后的信號；l為其權(quán)重系數(shù)；L（X，W）為稀疏自編碼網(wǎng)絡(luò)的優(yōu)化函數(shù)。通過式（1）中的第2項可約束編碼信號足夠稀疏，獲得對原始信號更加緊湊簡潔的表示。

對DAE的隱含層增加稀疏約束條件[7]，當(dāng)隱含層神經(jīng)元數(shù)大于輸入數(shù)據(jù)時，自編碼網(wǎng)絡(luò)能發(fā)現(xiàn)輸入數(shù)據(jù)的結(jié)構(gòu)特征。

設(shè)X為神經(jīng)網(wǎng)絡(luò)的輸入，加入稀疏約束ρ（可根據(jù)實驗經(jīng)驗設(shè)為0.2），并在優(yōu)化目標(biāo)函數(shù)中增加額外的懲罰因子，即

其中：j為神經(jīng)網(wǎng)絡(luò)中的隱含層神經(jīng)單元號；n為隱含層的層數(shù)；j為第 j個隱含層的平均激活值el為第j層神經(jīng)網(wǎng)絡(luò)的第l個響應(yīng)值；k為第j個隱含層的神經(jīng)元的個數(shù)，則損失函數(shù)為

其中：β為控制稀疏性懲罰因子的權(quán)重；b為神經(jīng)元Bias值向量。式（3）中第2項稱為稀疏正則項，可使訓(xùn)練時隱含層輸出趨于0，從而得到具有稀疏表示的檢測特征。

2 改進(jìn)稀疏去噪自編碼網(wǎng)絡(luò)

2.1 核心思想

在傳統(tǒng)SDAE算法的基礎(chǔ)上，引入數(shù)據(jù)量化和故障碼匹配的思想。改進(jìn)SDAE算法的核心思想是在隱含層添加稀疏性限制后，提取輸入數(shù)據(jù)的相關(guān)特征參數(shù)向量，在此基礎(chǔ)上對相關(guān)參數(shù)數(shù)據(jù)進(jìn)行量化，經(jīng)過細(xì)化后再用故障碼匹配法進(jìn)行匹配，然后再次輸出。傳統(tǒng)SDAE算法是學(xué)習(xí)一個恒等函數(shù)，最終的輸出數(shù)據(jù)和輸入數(shù)據(jù)基本相近；改進(jìn)SDAE算法在此基礎(chǔ)上最終是以0和1的形式輸出，能更好地提高復(fù)雜系統(tǒng)故障識別度。

2.2 結(jié)構(gòu)表示

改進(jìn)的 SDAE 結(jié)構(gòu)如圖 3 所示，其中：X=（x1，x2，…，xn）為輸入的原始數(shù)據(jù)；Y=（y1，y2，…，ym）為加入稀疏限制得到的特征參數(shù)數(shù)據(jù)；Z=（z1，z2，…，zn）為輸出數(shù)據(jù)。

圖1 改進(jìn)SDAE結(jié)構(gòu)圖Fig.1 Improved SDAE structure

在原始輸入數(shù)據(jù)X中加入隨機(jī)噪聲，經(jīng)過去噪處理獲得較純凈的輸入數(shù)據(jù)；經(jīng)過大量訓(xùn)練后得到比較適合的稀疏性參數(shù)ρ，在隱含層上加入適合的稀疏性限制，從而獲取輸入數(shù)據(jù)的特征參數(shù)數(shù)據(jù)；特征參數(shù)數(shù)據(jù)經(jīng)過特殊的0-1數(shù)據(jù)量化后與樣本進(jìn)行比較，根據(jù)比較結(jié)果再利用故障碼匹配方法進(jìn)行匹配，從而輸出0-1編碼結(jié)果。在數(shù)據(jù)的重構(gòu)方面都會存在一定的誤差，其中，數(shù)據(jù)重構(gòu)誤差平方和作為一個很重要的量化指標(biāo)，其表達(dá)式為

其中：xi為第i個輸入數(shù)據(jù)，zi為第i個輸出數(shù)據(jù)。

2.3 引入思想

2.3.1 特征參數(shù)數(shù)據(jù)量化

該方法是將原始數(shù)據(jù)經(jīng)過自編碼網(wǎng)絡(luò)一系列的處理后，得到去噪后數(shù)據(jù)的特征參數(shù)Y，然后和故障樣本數(shù)據(jù)的特征參數(shù) L 進(jìn)行比較，L=（l1，l2，…，lm），li為第i個故障樣本數(shù)據(jù)的特征參數(shù)數(shù)據(jù)。yi與li不同時為0，相同時為1。最終輸出與輸入神經(jīng)元數(shù)量相等，可以更小的誤差來重構(gòu)輸出層，輸出層由0-1編碼的形式輸出。

令 P=（p1，p2，…，pm），pi=yi⊙li，P 為量化后的數(shù)據(jù)，由一系列0-1編碼表示。

特殊情況下，即輸出全為0的情況下，為了進(jìn)一步精確，需要進(jìn)行二次量化。令Δpi=yi-li，Δpi為輸入數(shù)據(jù)經(jīng)處理后的第i個特征參數(shù)和故障樣本數(shù)據(jù)集中第 i個特征參數(shù)之間的誤差值。如果 yi＞li，Δpi∈的情況下，則有故障，如果yi＜li，也存在故障，量化結(jié)果均顯示為1；其他量化結(jié)果顯示為0。

2.3.2 輸出層故障碼匹配

將輸出層Z的0-1編碼與故障樣本的編碼數(shù)據(jù)以映射的方式1-1對應(yīng)進(jìn)行匹配，若匹配成功則有故障，反之無故障。

令故障樣本數(shù)據(jù)的編碼數(shù)據(jù) M=（m1，m2，…，mn）。

如果zi⊙mi=0，表示輸出數(shù)據(jù)編碼與故障樣本數(shù)據(jù)編碼不同，則原始輸入數(shù)據(jù)沒問題，無故障發(fā)生；如果zi⊙mi=1，表示輸出數(shù)據(jù)編碼與故障樣本數(shù)據(jù)編碼相同，則原始輸入數(shù)據(jù)有問題，有故障發(fā)生。

根據(jù)以上規(guī)則，且經(jīng)過反復(fù)推算驗證可得出

其中：n一般取小于14的正整數(shù)；t為編碼數(shù)值范圍。根據(jù)已有樣本數(shù)據(jù)，t∈[0，10 000]，表示和故障碼匹配結(jié)果可行，在正常情況下，此式比較適用，正確率很高，但式（5）有一定缺陷，依賴于樣本數(shù)據(jù)，對于新型的故障樣本數(shù)據(jù)，缺乏一定的準(zhǔn)確率。

2.4 計算過程

第1步首先向原始輸入數(shù)據(jù)中加入隨機(jī)噪聲（使原始的輸入數(shù)據(jù)在某些維度上值為0）；然后將加入噪聲的數(shù)據(jù)輸入網(wǎng)絡(luò)，經(jīng)過編碼，如果隱含層神經(jīng)元數(shù)量大于輸入層神經(jīng)元數(shù)量，在隱含層加入稀疏性限制，發(fā)現(xiàn)輸入數(shù)據(jù)的相關(guān)結(jié)構(gòu)特征，從而得到輸入數(shù)據(jù)的特征參數(shù)數(shù)據(jù)。

第2步采用數(shù)據(jù)量化方法對輸入數(shù)據(jù)的特征參數(shù)進(jìn)行0-1量化，從而得到P，然后重構(gòu)出輸出層Z。如果輸入輸出的誤差函數(shù)值過大，則重復(fù)第1步和第2步，使誤差值控制在一個可接受的范圍內(nèi)。

第3步用故障碼匹配方法把輸出層Z的編碼序列與故障樣本數(shù)據(jù)的編碼序列進(jìn)行智能化匹配，從而找出哪些數(shù)據(jù)中存在故障現(xiàn)象。

3 結(jié)果分析

為說明該方法的有效性，選擇某型航空發(fā)動機(jī)軸承系統(tǒng)作為研究對象，同時選取兩個案例進(jìn)行分析。

案例1數(shù)據(jù)取自文獻(xiàn)[8-9]中的航空發(fā)動機(jī)軸承故障數(shù)據(jù)。根據(jù)2.3.1節(jié)方法，數(shù)據(jù)量化結(jié)果以編碼形式輸出，根據(jù)數(shù)據(jù)量化條件設(shè)置參數(shù)ρ=0.05，從兩組數(shù)據(jù)編碼結(jié)果中各選取10個量化結(jié)果，如表1所示。

表1 數(shù)據(jù)量化結(jié)果Tab.1 Quantified data

用Matlab對兩組數(shù)據(jù)進(jìn)行仿真，主要從重構(gòu)誤差和故障識別率兩個方面進(jìn)行分析。由圖2可看出，改進(jìn)SDAE算法的重構(gòu)誤差比傳統(tǒng)SDAE算法小。由表2可看出，改進(jìn)算法的重構(gòu)誤差平均降低1.5%。

圖2 傳統(tǒng)與改進(jìn)SDAE算法重構(gòu)誤差Fig.2 Reconstruction error comparison between traditional and improved SDAE algorithms

表2 傳統(tǒng)與改進(jìn)SDAE算法的重構(gòu)誤差Tab.2 Reconstruction error comparison between traditional and improved SDAE algorithms

圖3為SDAE算法故障識別率隨樣本數(shù)的變化。開始時故障識別率隨著樣本數(shù)的增加而增大，樣本數(shù)大概達(dá)到7×104時，識別率達(dá)到最大，之后隨著樣本數(shù)的增大，識別率趨于平穩(wěn)。傳統(tǒng)SDAE算法故障識別率大致變化規(guī)律和改進(jìn)SDAE相同，但整體處在實線的下方，因此，改進(jìn)SDAE算法的故障識別率更高。兩組數(shù)據(jù)驗證結(jié)果表明，改進(jìn)SDAE算法的故障識別率平均提高9%。

圖3 傳統(tǒng)與改進(jìn)SDAE算法故障識別率Fig.3 Failure recognition rate comparison between traditional and improved SDAE algorithms

案例2 數(shù)據(jù)引自文獻(xiàn)[10]，此案例主要分析去噪自編碼網(wǎng)絡(luò)、深度降噪自編碼（DDAE）、傳統(tǒng)SDAE算法、改進(jìn)SDAE算法的重構(gòu)效果。本案例對這幾種自編碼網(wǎng)絡(luò)采用5層的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行分析，把重構(gòu)誤差平方和作為數(shù)據(jù)重構(gòu)的定量評價指標(biāo)。

DAE、DDAE、傳統(tǒng) SDAE、改進(jìn) SDAE 4種自編碼網(wǎng)絡(luò)的重構(gòu)誤差平方和，如表3所示。

表3 各種自編碼網(wǎng)絡(luò)重構(gòu)誤差平方和Tab.3 Reconstruction error quadratic sum of various self-coded networks

經(jīng)過對比發(fā)現(xiàn)，在以上幾種自編碼網(wǎng)絡(luò)算法中，改進(jìn)SDAE在訓(xùn)練集和測試集上的重構(gòu)誤差平方和均取得最小值，說明改進(jìn)SDAE的隱含層特征提取效果最好。

4 結(jié)語

在傳統(tǒng)SDAE算法的基礎(chǔ)上，引入了數(shù)據(jù)量化和故障碼匹配的思想，有效降低了輸入輸出的誤差函數(shù)值，提高了復(fù)雜系統(tǒng)故障識別精度。不足之處是該方法過于依賴故障樣本數(shù)據(jù)，對一些新型的故障類型難以做到及時識別，因此該方法的應(yīng)用范圍受到一定的限制，但同時也是進(jìn)一步的研究方向。