史永勝，衡慧娟

（中國民航大學(xué)航空工程學(xué)院，天津 300300）

傳統(tǒng)的數(shù)學(xué)建模方式對復(fù)雜系統(tǒng)的故障識別較困難。杜瑋等[1]提出基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的復(fù)雜系統(tǒng)故障識別方法，利用變學(xué)習(xí)速率法與共軛梯度法相結(jié)合的BP網(wǎng)絡(luò)性能改進(jìn)算法，將其用于復(fù)雜系統(tǒng)的故障識別。賈文其等[2]基于棧式降噪自編碼神經(jīng)網(wǎng)絡(luò)對車牌字符進(jìn)行識別，在復(fù)雜環(huán)境下低質(zhì)量的車牌字符圖像識別具有較好的魯棒性。丁平等[3]采用徑向基函數(shù)（RBF）神經(jīng)網(wǎng)絡(luò)建立發(fā)動(dòng)機(jī)的故障識別模型，論述了徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、學(xué)習(xí)和運(yùn)行，并通過該模型對發(fā)動(dòng)機(jī)參數(shù)進(jìn)行辨識，具有較高的故障識別率。Cho[4]提出簡單稀疏化方法，從而增強(qiáng)稀疏去噪自編碼網(wǎng)絡(luò)去除圖像噪聲的高效性，且實(shí)驗(yàn)驗(yàn)證了稀疏性有助于小圖像碎片和含較多碎片的較大圖像的去噪。袁靜等[5]提出融合梯度差信息的稀疏去噪自編碼網(wǎng)絡(luò)在異常行為檢測中的應(yīng)用，在稀疏去噪自編碼的基礎(chǔ)上，增加梯度差的約束條件，改進(jìn)了自編碼網(wǎng)絡(luò)的解碼效果。

復(fù)雜系統(tǒng)的故障種類多樣，成因錯(cuò)綜復(fù)雜，針對已有基于稀疏去噪編碼網(wǎng)絡(luò)（SDAE,sparse denoising autoencoder）算法在復(fù)雜系統(tǒng)故障識別中的故障識別率低、重構(gòu)誤差較明顯、算法參數(shù)過多及訓(xùn)練過程緩慢等問題，在傳統(tǒng)的SDAE算法中引入數(shù)據(jù)量化和故障碼匹配的概念，使改進(jìn)后的SDAE算法具有故障識別效率高和噪聲樣本數(shù)據(jù)魯棒性強(qiáng)等優(yōu)點(diǎn)。

1 稀疏去噪自編碼網(wǎng)絡(luò)

自編碼網(wǎng)絡(luò)（AE，autoencoder）自Hinton等學(xué)者在2006年首次提出后，引起學(xué)術(shù)界的廣泛關(guān)注。AE是一種無監(jiān)督的特征學(xué)習(xí)網(wǎng)絡(luò)，可充分利用未標(biāo)簽數(shù)據(jù)通過逐層的預(yù)訓(xùn)練得到各層網(wǎng)絡(luò)初始化的權(quán)值，從而使網(wǎng)絡(luò)能更有效地提取數(shù)據(jù)特征。

AE由三層網(wǎng)絡(luò)組成，分別是輸入層、隱含層和輸出層。AE要經(jīng)過編碼、解碼階段，編碼階段是從輸入層到隱含層的壓縮低維表達(dá)過程，解碼階段是從隱含層的壓縮特征映射還原出輸出層的近似原始數(shù)據(jù)的過程。

當(dāng)原始的輸入數(shù)據(jù)包含噪聲時(shí)，自編碼網(wǎng)絡(luò)的性能將會(huì)降低，為避免這一現(xiàn)象的發(fā)生，Vicent等提出去噪自編碼網(wǎng)絡(luò)（DAE,denoising autoencoder）的概念。先對原始的輸入數(shù)據(jù)添加隨機(jī)噪聲，然后對加噪后的數(shù)據(jù)進(jìn)行編碼、解碼操作，最終的輸出數(shù)據(jù)能夠近似等于原始的輸入數(shù)據(jù)[6]。

如果將稀疏性引入到自編碼網(wǎng)絡(luò)中可得到另一種稀疏自編碼網(wǎng)絡(luò)（SDAE），該網(wǎng)絡(luò)限制每次獲得的編碼盡量稀疏，從而模擬人腦中神經(jīng)元刺激和抑制的規(guī)律，稀疏自編碼網(wǎng)絡(luò)的優(yōu)化模型如下

其中：h=WTX為編碼后的信號；X為輸入數(shù)據(jù)；W為層間的連接權(quán)值矩陣；hj為第j次編碼后的信號；l為其權(quán)重系數(shù)；L（X，W）為稀疏自編碼網(wǎng)絡(luò)的優(yōu)化函數(shù)。通過式（1）中的第2項(xiàng)可約束編碼信號足夠稀疏，獲得對原始信號更加緊湊簡潔的表示。

對DAE的隱含層增加稀疏約束條件[7]，當(dāng)隱含層神經(jīng)元數(shù)大于輸入數(shù)據(jù)時(shí)，自編碼網(wǎng)絡(luò)能發(fā)現(xiàn)輸入數(shù)據(jù)的結(jié)構(gòu)特征。

設(shè)X為神經(jīng)網(wǎng)絡(luò)的輸入，加入稀疏約束ρ（可根據(jù)實(shí)驗(yàn)經(jīng)驗(yàn)設(shè)為0.2），并在優(yōu)化目標(biāo)函數(shù)中增加額外的懲罰因子，即

其中：j為神經(jīng)網(wǎng)絡(luò)中的隱含層神經(jīng)單元號；n為隱含層的層數(shù)；j為第 j個(gè)隱含層的平均激活值el為第j層神經(jīng)網(wǎng)絡(luò)的第l個(gè)響應(yīng)值；k為第j個(gè)隱含層的神經(jīng)元的個(gè)數(shù)，則損失函數(shù)為

其中：β為控制稀疏性懲罰因子的權(quán)重；b為神經(jīng)元Bias值向量。式（3）中第2項(xiàng)稱為稀疏正則項(xiàng)，可使訓(xùn)練時(shí)隱含層輸出趨于0，從而得到具有稀疏表示的檢測特征。

2 改進(jìn)稀疏去噪自編碼網(wǎng)絡(luò)

2.1 核心思想

在傳統(tǒng)SDAE算法的基礎(chǔ)上，引入數(shù)據(jù)量化和故障碼匹配的思想。改進(jìn)SDAE算法的核心思想是在隱含層添加稀疏性限制后，提取輸入數(shù)據(jù)的相關(guān)特征參數(shù)向量，在此基礎(chǔ)上對相關(guān)參數(shù)數(shù)據(jù)進(jìn)行量化，經(jīng)過細(xì)化后再用故障碼匹配法進(jìn)行匹配，然后再次輸出。傳統(tǒng)SDAE算法是學(xué)習(xí)一個(gè)恒等函數(shù)，最終的輸出數(shù)據(jù)和輸入數(shù)據(jù)基本相近；改進(jìn)SDAE算法在此基礎(chǔ)上最終是以0和1的形式輸出，能更好地提高復(fù)雜系統(tǒng)故障識別度。

2.2 結(jié)構(gòu)表示

改進(jìn)的 SDAE 結(jié)構(gòu)如圖 3 所示，其中：X=（x1，x2，…，xn）為輸入的原始數(shù)據(jù)；Y=（y1，y2，…，ym）為加入稀疏限制得到的特征參數(shù)數(shù)據(jù)；Z=（z1，z2，…，zn）為輸出數(shù)據(jù)。

圖1 改進(jìn)SDAE結(jié)構(gòu)圖Fig.1 Improved SDAE structure

在原始輸入數(shù)據(jù)X中加入隨機(jī)噪聲，經(jīng)過去噪處理獲得較純凈的輸入數(shù)據(jù)；經(jīng)過大量訓(xùn)練后得到比較適合的稀疏性參數(shù)ρ，在隱含層上加入適合的稀疏性限制，從而獲取輸入數(shù)據(jù)的特征參數(shù)數(shù)據(jù)；特征參數(shù)數(shù)據(jù)經(jīng)過特殊的0-1數(shù)據(jù)量化后與樣本進(jìn)行比較，根據(jù)比較結(jié)果再利用故障碼匹配方法進(jìn)行匹配，從而輸出0-1編碼結(jié)果。在數(shù)據(jù)的重構(gòu)方面都會(huì)存在一定的誤差，其中，數(shù)據(jù)重構(gòu)誤差平方和作為一個(gè)很重要的量化指標(biāo)，其表達(dá)式為

其中：xi為第i個(gè)輸入數(shù)據(jù)，zi為第i個(gè)輸出數(shù)據(jù)。

2.3 引入思想

2.3.1 特征參數(shù)數(shù)據(jù)量化

該方法是將原始數(shù)據(jù)經(jīng)過自編碼網(wǎng)絡(luò)一系列的處理后，得到去噪后數(shù)據(jù)的特征參數(shù)Y，然后和故障樣本數(shù)據(jù)的特征參數(shù) L 進(jìn)行比較，L=（l1，l2，…，lm），li為第i個(gè)故障樣本數(shù)據(jù)的特征參數(shù)數(shù)據(jù)。yi與li不同時(shí)為0，相同時(shí)為1。最終輸出與輸入神經(jīng)元數(shù)量相等，可以更小的誤差來重構(gòu)輸出層，輸出層由0-1編碼的形式輸出。

令 P=（p1，p2，…，pm），pi=yi⊙li，P 為量化后的數(shù)據(jù)，由一系列0-1編碼表示。

特殊情況下，即輸出全為0的情況下，為了進(jìn)一步精確，需要進(jìn)行二次量化。令Δpi=yi-li，Δpi為輸入數(shù)據(jù)經(jīng)處理后的第i個(gè)特征參數(shù)和故障樣本數(shù)據(jù)集中第 i個(gè)特征參數(shù)之間的誤差值。如果 yi＞li，Δpi∈的情況下，則有故障，如果yi＜li，也存在故障，量化結(jié)果均顯示為1；其他量化結(jié)果顯示為0。

2.3.2 輸出層故障碼匹配

將輸出層Z的0-1編碼與故障樣本的編碼數(shù)據(jù)以映射的方式1-1對應(yīng)進(jìn)行匹配，若匹配成功則有故障，反之無故障。

令故障樣本數(shù)據(jù)的編碼數(shù)據(jù) M=（m1，m2，…，mn）。

如果zi⊙mi=0，表示輸出數(shù)據(jù)編碼與故障樣本數(shù)據(jù)編碼不同，則原始輸入數(shù)據(jù)沒問題，無故障發(fā)生；如果zi⊙mi=1，表示輸出數(shù)據(jù)編碼與故障樣本數(shù)據(jù)編碼相同，則原始輸入數(shù)據(jù)有問題，有故障發(fā)生。

根據(jù)以上規(guī)則，且經(jīng)過反復(fù)推算驗(yàn)證可得出

其中：n一般取小于14的正整數(shù)；t為編碼數(shù)值范圍。根據(jù)已有樣本數(shù)據(jù)，t∈[0，10 000]，表示和故障碼匹配結(jié)果可行，在正常情況下，此式比較適用，正確率很高，但式（5）有一定缺陷，依賴于樣本數(shù)據(jù)，對于新型的故障樣本數(shù)據(jù)，缺乏一定的準(zhǔn)確率。

2.4 計(jì)算過程

第1步首先向原始輸入數(shù)據(jù)中加入隨機(jī)噪聲（使原始的輸入數(shù)據(jù)在某些維度上值為0）；然后將加入噪聲的數(shù)據(jù)輸入網(wǎng)絡(luò)，經(jīng)過編碼，如果隱含層神經(jīng)元數(shù)量大于輸入層神經(jīng)元數(shù)量，在隱含層加入稀疏性限制，發(fā)現(xiàn)輸入數(shù)據(jù)的相關(guān)結(jié)構(gòu)特征，從而得到輸入數(shù)據(jù)的特征參數(shù)數(shù)據(jù)。

第2步采用數(shù)據(jù)量化方法對輸入數(shù)據(jù)的特征參數(shù)進(jìn)行0-1量化，從而得到P，然后重構(gòu)出輸出層Z。如果輸入輸出的誤差函數(shù)值過大，則重復(fù)第1步和第2步，使誤差值控制在一個(gè)可接受的范圍內(nèi)。

第3步用故障碼匹配方法把輸出層Z的編碼序列與故障樣本數(shù)據(jù)的編碼序列進(jìn)行智能化匹配，從而找出哪些數(shù)據(jù)中存在故障現(xiàn)象。

3 結(jié)果分析

為說明該方法的有效性，選擇某型航空發(fā)動(dòng)機(jī)軸承系統(tǒng)作為研究對象，同時(shí)選取兩個(gè)案例進(jìn)行分析。

案例1數(shù)據(jù)取自文獻(xiàn)[8-9]中的航空發(fā)動(dòng)機(jī)軸承故障數(shù)據(jù)。根據(jù)2.3.1節(jié)方法，數(shù)據(jù)量化結(jié)果以編碼形式輸出，根據(jù)數(shù)據(jù)量化條件設(shè)置參數(shù)ρ=0.05，從兩組數(shù)據(jù)編碼結(jié)果中各選取10個(gè)量化結(jié)果，如表1所示。

表1 數(shù)據(jù)量化結(jié)果Tab.1 Quantified data

用Matlab對兩組數(shù)據(jù)進(jìn)行仿真，主要從重構(gòu)誤差和故障識別率兩個(gè)方面進(jìn)行分析。由圖2可看出，改進(jìn)SDAE算法的重構(gòu)誤差比傳統(tǒng)SDAE算法小。由表2可看出，改進(jìn)算法的重構(gòu)誤差平均降低1.5%。

圖2 傳統(tǒng)與改進(jìn)SDAE算法重構(gòu)誤差Fig.2 Reconstruction error comparison between traditional and improved SDAE algorithms

表2 傳統(tǒng)與改進(jìn)SDAE算法的重構(gòu)誤差Tab.2 Reconstruction error comparison between traditional and improved SDAE algorithms

圖3為SDAE算法故障識別率隨樣本數(shù)的變化。開始時(shí)故障識別率隨著樣本數(shù)的增加而增大，樣本數(shù)大概達(dá)到7×104時(shí)，識別率達(dá)到最大，之后隨著樣本數(shù)的增大，識別率趨于平穩(wěn)。傳統(tǒng)SDAE算法故障識別率大致變化規(guī)律和改進(jìn)SDAE相同，但整體處在實(shí)線的下方，因此，改進(jìn)SDAE算法的故障識別率更高。兩組數(shù)據(jù)驗(yàn)證結(jié)果表明，改進(jìn)SDAE算法的故障識別率平均提高9%。

圖3 傳統(tǒng)與改進(jìn)SDAE算法故障識別率Fig.3 Failure recognition rate comparison between traditional and improved SDAE algorithms

案例2 數(shù)據(jù)引自文獻(xiàn)[10]，此案例主要分析去噪自編碼網(wǎng)絡(luò)、深度降噪自編碼（DDAE）、傳統(tǒng)SDAE算法、改進(jìn)SDAE算法的重構(gòu)效果。本案例對這幾種自編碼網(wǎng)絡(luò)采用5層的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行分析，把重構(gòu)誤差平方和作為數(shù)據(jù)重構(gòu)的定量評價(jià)指標(biāo)。

DAE、DDAE、傳統(tǒng) SDAE、改進(jìn) SDAE 4種自編碼網(wǎng)絡(luò)的重構(gòu)誤差平方和，如表3所示。

表3 各種自編碼網(wǎng)絡(luò)重構(gòu)誤差平方和Tab.3 Reconstruction error quadratic sum of various self-coded networks

經(jīng)過對比發(fā)現(xiàn)，在以上幾種自編碼網(wǎng)絡(luò)算法中，改進(jìn)SDAE在訓(xùn)練集和測試集上的重構(gòu)誤差平方和均取得最小值，說明改進(jìn)SDAE的隱含層特征提取效果最好。

4 結(jié)語

在傳統(tǒng)SDAE算法的基礎(chǔ)上，引入了數(shù)據(jù)量化和故障碼匹配的思想，有效降低了輸入輸出的誤差函數(shù)值，提高了復(fù)雜系統(tǒng)故障識別精度。不足之處是該方法過于依賴故障樣本數(shù)據(jù)，對一些新型的故障類型難以做到及時(shí)識別，因此該方法的應(yīng)用范圍受到一定的限制，但同時(shí)也是進(jìn)一步的研究方向。