王亞朝 趙 偉 徐海洋 劉建業(yè)

全源導(dǎo)航系統(tǒng)中傳感器種類(lèi)和數(shù)量繁多,在進(jìn)行導(dǎo)航時(shí)要使用多個(gè)傳感器的數(shù)據(jù)來(lái)進(jìn)行組合導(dǎo)航.如果傳感器發(fā)生故障,那么將會(huì)引起導(dǎo)航解算錯(cuò)誤.因此,在進(jìn)行導(dǎo)航解算前,必須先對(duì)傳感器進(jìn)行故障檢測(cè).

故障檢測(cè)方向一直有許多學(xué)者研究,主要分為兩種方法.一種方法是建立對(duì)應(yīng)的數(shù)學(xué)模型,根據(jù)系統(tǒng)狀態(tài)量之間的關(guān)系來(lái)判斷傳感器是否發(fā)生故障.如張紹杰等[1]、Avram 等[2]、湯文濤等[3]、Sadeghzadeh-Nokhod beriz 等[4]都是先建立系統(tǒng)的數(shù)學(xué)模型,然后對(duì)系統(tǒng)的誤差特性進(jìn)行分析,進(jìn)而實(shí)現(xiàn)故障診斷.該方法比較復(fù)雜,需要了解系統(tǒng)的工作原理,但實(shí)際中許多系統(tǒng)難以抽象出數(shù)學(xué)模型,因此應(yīng)用范圍比較小.

另一種方法是基于人工智能方法,其采用特征工程與機(jī)器學(xué)習(xí)方法或深度學(xué)習(xí)進(jìn)行故障診斷.Yan 等[5]、Swischuk 等[6]和鄭曉飛等[7]先采用特征工程進(jìn)行信息提取,然后采用機(jī)器學(xué)習(xí)方法進(jìn)行識(shí)別;Jing 等[8]和Guo 等[9]采用深度學(xué)習(xí)的方法對(duì)原始數(shù)據(jù)進(jìn)行故障檢測(cè).一方面特征工程比較復(fù)雜;另一方面這些方法都側(cè)重于對(duì)單個(gè)傳感器數(shù)據(jù)的故障診斷,且難以準(zhǔn)確識(shí)別出間歇性故障和漸變性故障.

針對(duì)以上研究中出現(xiàn)的問(wèn)題,本文基于導(dǎo)航數(shù)據(jù)預(yù)處理平臺(tái)[10],提出了一種基于多階段注意力機(jī)制的編碼器-解碼器(Encoder-decoder)模型算法,該算法可以利用多類(lèi)傳感器數(shù)據(jù)之間的關(guān)系進(jìn)行傳感器的狀態(tài)互檢測(cè),不僅可以準(zhǔn)確檢測(cè)出故障傳感器,并且可以檢測(cè)出其故障類(lèi)型.

1 問(wèn)題研究

1.1 問(wèn)題分析

全源導(dǎo)航系統(tǒng)中有多類(lèi)型、多數(shù)量的傳感器,如光纖陀螺、加速度計(jì)、GPS 接收機(jī)、高度計(jì)、磁力羅盤(pán)、相機(jī)和激光雷達(dá)等,每個(gè)傳感器都會(huì)產(chǎn)生出大量的數(shù)據(jù),如加速度、相對(duì)速度、絕對(duì)速度、角速率、位移、經(jīng)緯度和高度等.

在載體坐標(biāo)系下,載體的加速度、相對(duì)速度、絕對(duì)速度、位移、經(jīng)度、緯度和高度存在著一定的關(guān)系.根據(jù)組合導(dǎo)航基本原理[11],多數(shù)導(dǎo)航系統(tǒng)都是以慣性導(dǎo)航傳感器為主,與其余類(lèi)型傳感器組合進(jìn)行導(dǎo)航.因此,當(dāng)一個(gè)傳感器出現(xiàn)故障時(shí),可以利用其余的傳感器數(shù)據(jù)來(lái)進(jìn)行輔助判斷.本文的研究目的是根據(jù)多個(gè)傳感器數(shù)據(jù)的輸入進(jìn)行故障互檢測(cè),不僅要檢測(cè)出故障傳感器,也要識(shí)別出其故障類(lèi)型.

1.2 數(shù)據(jù)說(shuō)明

對(duì)于目標(biāo)傳感器數(shù)據(jù)的狀態(tài),本文利用其余傳感器數(shù)據(jù)來(lái)判斷其數(shù)據(jù)是否出錯(cuò).即對(duì)于輸入x,要判斷這組輸入數(shù)據(jù)的狀態(tài):

其中,f(·)是要學(xué)習(xí)的非線(xiàn)性關(guān)系.

傳感器數(shù)據(jù)是時(shí)間序列數(shù)據(jù),在時(shí)間維度上存在相互依賴(lài)性,而循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent neural network,RNN)具有記憶性,可以高效地捕捉序列數(shù)據(jù)在時(shí)間上的相互依賴(lài)性,進(jìn)而對(duì)序列數(shù)據(jù)的非線(xiàn)性特征進(jìn)行學(xué)習(xí),因此采用循環(huán)神經(jīng)網(wǎng)絡(luò)來(lái)擬合其非線(xiàn)性關(guān)系.

2 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的故障診斷分析

循環(huán)神經(jīng)網(wǎng)絡(luò)是一類(lèi)以序列數(shù)據(jù)為輸入,在序列的演進(jìn)方向進(jìn)行遞歸且所有循環(huán)單元按鏈?zhǔn)竭B接的遞歸神經(jīng)網(wǎng)絡(luò).循環(huán)神經(jīng)網(wǎng)絡(luò)具有記憶性,且可以參數(shù)共享和圖靈完備,因此能以很高的效率對(duì)序列的非線(xiàn)性特征進(jìn)行學(xué)習(xí).

傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡(luò)具有長(zhǎng)期依賴(lài)問(wèn)題,無(wú)法捕捉長(zhǎng)時(shí)間跨度的非線(xiàn)性關(guān)系.長(zhǎng)短期記憶網(wǎng)絡(luò)(Long-short-term memory,LSTM)[12]增加了3 個(gè)控制單元來(lái)對(duì)輸入數(shù)據(jù)進(jìn)行非線(xiàn)性變換,解決了傳統(tǒng)循環(huán)神經(jīng)網(wǎng)絡(luò)單元會(huì)出現(xiàn)的長(zhǎng)期依賴(lài)問(wèn)題.

針對(duì)本文的多傳感器故障診斷任務(wù),其故障類(lèi)型有間歇型、漸變型和階躍型三種故障類(lèi)型.其中間歇型故障沒(méi)有明確的模式和頻率,隨機(jī)地出現(xiàn)和消失;漸變型故障對(duì)數(shù)據(jù)的影響隨著時(shí)間推移而增大,在故障早期難以發(fā)現(xiàn).LSTM 單元雖然可以準(zhǔn)確地捕捉傳感器數(shù)據(jù)在時(shí)間上的相互依賴(lài)性,從而判斷出數(shù)據(jù)狀態(tài);但由于間歇型和漸變型故障的復(fù)雜性,僅僅使用LSTM 單元會(huì)造成一定程度的誤判.為了解決該問(wèn)題,本文采用基于注意力機(jī)制[13]的編碼器-解碼器(Encoder-decoder)[14]結(jié)構(gòu).

一方面,采用注意力機(jī)制可以捕捉到輸入數(shù)據(jù)在空間維度和時(shí)間維度上的內(nèi)在關(guān)系,從而對(duì)輸入進(jìn)行重構(gòu),使模型可以更好地學(xué)習(xí)輸入數(shù)據(jù)之間的相互關(guān)系;另一方面,編碼器-解碼器結(jié)構(gòu)中編碼器將輸入數(shù)據(jù)編碼成狀態(tài)向量,解碼器將狀態(tài)向量解碼后傳輸給多層感知機(jī)[15]進(jìn)行分類(lèi)處理,該結(jié)構(gòu)在產(chǎn)生每一個(gè)輸出的時(shí)候,能夠充分利用輸入序列攜帶的信息,可以降低過(guò)擬合現(xiàn)象,提高模型的整體性能.

綜上分析,對(duì)于多傳感器故障診斷任務(wù),本文采用基于注意力機(jī)制的編碼器-解碼器結(jié)構(gòu)來(lái)實(shí)現(xiàn),該結(jié)構(gòu)以L(fǎng)STM 為基本單元,采用多階段的注意力機(jī)制來(lái)構(gòu)建數(shù)據(jù)之間的相互關(guān)系,其輸出經(jīng)過(guò)多層感知機(jī)進(jìn)行分類(lèi),進(jìn)而判斷出傳感器的數(shù)據(jù)狀態(tài).

3 多階段注意力機(jī)制研究

對(duì)于多傳感器故障診斷任務(wù),本文從傳感器的空間維度和時(shí)間維度來(lái)研究.在傳感器的空間維度上,每種類(lèi)型的傳感器數(shù)據(jù)在同一時(shí)刻具有相互依賴(lài)性;在時(shí)間維度上,每一類(lèi)的傳感器數(shù)據(jù)在不同時(shí)間段的數(shù)據(jù)對(duì)其余時(shí)間段的數(shù)據(jù)的狀態(tài)貢獻(xiàn)程度不一樣;因此可以從這兩個(gè)角度來(lái)判斷傳感器的數(shù)據(jù)狀態(tài).本文設(shè)計(jì)的基于多階段注意力的編碼器-解碼器結(jié)構(gòu)如圖1 所示.首先,將多傳感器的數(shù)據(jù)傳送給局部注意力和全局注意力機(jī)制,用于捕捉傳感器數(shù)據(jù)在空間和時(shí)間維度上的相互依賴(lài)性;然后將數(shù)據(jù)傳輸給帶有時(shí)間注意力機(jī)制的編碼器-解碼器模型,其中編碼器-解碼器用于對(duì)數(shù)據(jù)進(jìn)行狀態(tài)編碼和狀態(tài)解碼,時(shí)間注意力機(jī)制是為了防止編碼器-解碼器模型的性能會(huì)隨著輸入數(shù)據(jù)的長(zhǎng)度而急劇衰減;將解碼后的狀態(tài)信息傳輸給多層感知機(jī)進(jìn)行分類(lèi),根據(jù)分類(lèi)結(jié)果就可以確定出故障傳感器和故障類(lèi)別.

圖1 多階段注意力結(jié)構(gòu)圖Fig.1 Multi-stage attention structure

3.1 局部注意力研究

對(duì)于所有的傳感器數(shù)據(jù),每個(gè)傳感器數(shù)據(jù)在t時(shí)刻的數(shù)據(jù)不僅與其在 [t,t+T] 時(shí)間段的數(shù)據(jù)具有相關(guān)性,且與其余傳感器數(shù)據(jù)在t時(shí)刻的數(shù)據(jù)存在空間相關(guān)性.例如t時(shí)刻的位移數(shù)據(jù)與其在[t,t+T]時(shí)間段內(nèi)的數(shù)據(jù)具有相互依賴(lài)性,且與t時(shí)刻的速度和加速度數(shù)據(jù)具有一定的關(guān)系.根據(jù)該特性,本節(jié)從空間維度上出發(fā),通過(guò)引入編碼器模塊中LSTM 單元對(duì)應(yīng)輸入的前一個(gè)時(shí)刻的隱藏態(tài)ht-1和細(xì)胞態(tài)st-1,構(gòu)建局部注意力機(jī)制來(lái)捕捉傳感器數(shù)據(jù)序列之間的空間相關(guān)性.局部注意力機(jī)制的結(jié)構(gòu)如圖2 所示.

圖2 局部注意力機(jī)制Fig.2 Local attention mechanism

如圖2 所示,其中和的計(jì)算式為

其中,ve∈RT,we∈RT×2H,ue∈RT×T,be∈RT都是待訓(xùn)練的參數(shù),其中H表示LSTM 中的隱藏單元數(shù),ve,we,ue表示對(duì)狀態(tài)量和輸入做線(xiàn)性變換,be表示載體對(duì)傳感器數(shù)據(jù)狀態(tài)造成的影響.表示第k個(gè)輸入特征在t時(shí)刻的特征權(quán)重,其經(jīng)過(guò)softmax 函數(shù)歸一化后成為,即所有傳感器數(shù)據(jù)在同一時(shí)刻內(nèi)的權(quán)重之和為1.因此,局部注意力機(jī)制構(gòu)建出的新的輸入為

3.2 全局注意力研究

當(dāng)對(duì)傳感器的數(shù)據(jù)狀態(tài)進(jìn)行判斷時(shí),不同時(shí)間段內(nèi)的傳感器數(shù)據(jù)對(duì)整體的數(shù)據(jù)狀態(tài)貢獻(xiàn)是不一樣的.例如當(dāng)判斷 [t+3T/4,t+T] 時(shí)間段內(nèi)的數(shù)據(jù)是否正常時(shí),[t+2T/4,t+3T/4] 時(shí)間段內(nèi)的數(shù)據(jù)對(duì)其貢獻(xiàn)程度比較大,而 [t,t+T/4] 之內(nèi)的數(shù)據(jù)狀態(tài)對(duì)其貢獻(xiàn)相對(duì)較小,即每個(gè)時(shí)間段內(nèi)的數(shù)據(jù)對(duì)其余時(shí)間段內(nèi)數(shù)據(jù)狀態(tài)的貢獻(xiàn)程不一樣.根據(jù)該特性,本節(jié)從時(shí)間維度出發(fā),通過(guò)引入上一個(gè)時(shí)刻編碼器模塊中LSTM 單元對(duì)應(yīng)輸入的的隱藏態(tài)ht-1和細(xì)胞態(tài)st-1來(lái)為每一時(shí)刻的輸入分配權(quán)重.全局注意力機(jī)制的結(jié)構(gòu)如圖3 所示.

如圖3 所示,其中g(shù)t和βt的計(jì)算式為

圖3 全局注意力機(jī)制Fig.3 Global attention mechanism

其中,vg∈Rn,wg∈Rn×2H,ug∈R1+T,bg∈Rn×T都是待訓(xùn)練的參數(shù),其中vg,wg,ug表示對(duì)狀態(tài)量和輸入做線(xiàn)性變換,bg表示每類(lèi)傳感器數(shù)據(jù)的誤差特性對(duì)數(shù)據(jù)狀態(tài)的影響.gt表示t時(shí)刻輸入數(shù)據(jù)的特征權(quán)重,即xt的特征權(quán)重,其經(jīng)過(guò)softmax 函數(shù)歸一化后成為,即所有傳感器數(shù)據(jù)在T時(shí)刻內(nèi)的權(quán)重之和為1.因此,全局注意力機(jī)制構(gòu)建出的輸入為

對(duì)于編碼器模塊,本文將局部注意力機(jī)制和全局注意力機(jī)制構(gòu)建出的輸入進(jìn)行維度拼接后做為其新的輸入,即

3.3 時(shí)間注意力機(jī)制

為了判斷傳感器數(shù)據(jù)在T時(shí)間段內(nèi)的數(shù)據(jù)狀態(tài),本文采用解碼器模塊解碼來(lái)自編碼器模塊的編碼信息.由于編碼器-解碼器模型的性能會(huì)隨著輸入數(shù)據(jù)的長(zhǎng)度而急劇衰減,因此需要在解碼器模型前引入時(shí)間注意力機(jī)制[16],使其可以動(dòng)態(tài)地選擇編碼器模塊的相關(guān)輸出序列并賦予不同的權(quán)重,從而對(duì)其進(jìn)行準(zhǔn)確的解碼.本文的時(shí)間注意力機(jī)制如圖4 所示.

圖4 時(shí)間注意力機(jī)制Fig.4 Time attention mechanism

如圖4 所示,和的計(jì)算式為

其中,vd∈RH,wd∈RH×2H,ud∈RH×2T都是待訓(xùn)練的參數(shù),是解碼器模塊的t-1 時(shí)刻的隱藏態(tài)和細(xì)胞態(tài),是編碼器模塊在t時(shí)刻的輸出,為t時(shí)刻第i個(gè)隱藏態(tài)其對(duì)應(yīng)的權(quán)重.

解碼器模型的輸入為

當(dāng)采用解碼器模型進(jìn)行解碼后,將其輸出傳送給多層感知機(jī),對(duì)其進(jìn)行非線(xiàn)性變化,再采用softmax 函數(shù)進(jìn)行分類(lèi),根據(jù)softmax 輸出則可以判斷出傳感器的數(shù)據(jù)狀態(tài).

4 實(shí)驗(yàn)設(shè)計(jì)

4.1 實(shí)驗(yàn)數(shù)據(jù)

在導(dǎo)航系統(tǒng)中,無(wú)論載體是飛機(jī)、汽車(chē)或者輪船,其傳感器數(shù)據(jù)都具有空間相關(guān)性和時(shí)間相關(guān)性,只是載體運(yùn)動(dòng)規(guī)律不同,其故障診斷的方法幾乎都是一樣的.因此,為了驗(yàn)證本文設(shè)計(jì)的基于多階段注意力機(jī)制的故障診斷算法,實(shí)驗(yàn)數(shù)據(jù)采用對(duì)MIT 的開(kāi)源車(chē)載數(shù)據(jù)[17]進(jìn)行預(yù)處理之后的數(shù)據(jù),即對(duì)其開(kāi)源車(chē)載數(shù)據(jù)注入故障.該開(kāi)源數(shù)據(jù)由一輛裝配多種導(dǎo)航傳感器的汽車(chē)在城市進(jìn)行采集的,并且已經(jīng)進(jìn)行了傳感器的數(shù)據(jù)對(duì)準(zhǔn).本文選取其中四個(gè)傳感器的數(shù)據(jù),即陀螺儀、加速度計(jì)、GPS 接收機(jī)和相機(jī),其對(duì)應(yīng)的導(dǎo)航量為三軸角速率、三軸加速度、經(jīng)度、緯度、高度、速度和雙軸光流速度,共12 類(lèi)傳感器數(shù)據(jù),且每類(lèi)傳感器的數(shù)據(jù)個(gè)數(shù)為221 280.

當(dāng)傳感器發(fā)生故障時(shí),一般是由于其溫度、工作環(huán)境和元器件老化等多種原因造成的,且該故障對(duì)傳感器數(shù)據(jù)造成的影響很難用具體的數(shù)學(xué)模型來(lái)描述.與工業(yè)系統(tǒng)相似,許多研究學(xué)者將其故障模型抽象和理想化為階躍響應(yīng)、斜坡響應(yīng)和加速度響應(yīng)等數(shù)學(xué)模型.因此,對(duì)于本文研究的3 種傳感器故障,即間歇型故障、漸變型故障和階躍型故障,采用理想化的數(shù)學(xué)模型,如式(12)～(14)所示.

考慮到各種故障類(lèi)型的特性,模型中參數(shù)的取值如下:其中 0＜k1＜k2＜T,0＜k3＜T,k1和k3取每類(lèi)傳感器數(shù)據(jù)在一個(gè)時(shí)間段T內(nèi)的均值的0.1 倍,k2取0.1,t1取T/4,t2取T/2,t3取 3T/4.

為了模擬故障的傳感器數(shù)據(jù),一方面需要對(duì)正常的傳感器進(jìn)行數(shù)據(jù)預(yù)處理;另一方面需要列出所有可能的傳感器故障組合.首先,從同一時(shí)間段內(nèi)傳感器故障數(shù)量的角度上將傳感器的故障類(lèi)型分為兩大類(lèi),即單故障和多故障.單故障是指同一時(shí)間段內(nèi)只有一個(gè)傳感器數(shù)據(jù)發(fā)生故障,多故障是指同一時(shí)間段內(nèi)有多個(gè)傳感器數(shù)據(jù)發(fā)生故障.

對(duì)于單故障類(lèi)型的數(shù)據(jù),對(duì)每類(lèi)傳感器數(shù)據(jù)在不同時(shí)刻分別添加這3 種故障,即在一個(gè)時(shí)間段內(nèi),只有一個(gè)傳感器發(fā)生故障,且為3 種故障中的一種,則預(yù)處理的傳感器數(shù)據(jù)如圖5 所示.

對(duì)于多故障數(shù)據(jù),由于傳感器的故障類(lèi)型有3 種,傳感器數(shù)據(jù)有12 種,若使多個(gè)傳感器發(fā)生不同類(lèi)型的故障,對(duì)其進(jìn)行一一列舉,則整體傳感器的數(shù)據(jù)狀態(tài)會(huì)達(dá)到上百種,會(huì)對(duì)訓(xùn)練網(wǎng)絡(luò)帶來(lái)一定的難度,主要體現(xiàn)在實(shí)驗(yàn)平臺(tái)的計(jì)算力上.因此,為了避免過(guò)多的傳感器數(shù)據(jù)狀態(tài)對(duì)訓(xùn)練網(wǎng)絡(luò)帶來(lái)的困難,本文設(shè)多故障數(shù)據(jù)中傳感器的故障數(shù)量為3,其故障類(lèi)型為間歇性、漸變性和階躍性故障,則多故障數(shù)據(jù)如圖6 所示.

如圖5 和圖6 所示,輸入x=(x1,x2,···,xn)T=(x1,x2,···,xT)∈Rn×T共有47 種數(shù)據(jù)狀態(tài),即46種故障狀態(tài)和1 種正常狀態(tài).本文根據(jù)時(shí)間窗口T的大小,將預(yù)處理的數(shù)據(jù)集按照8 :1 :1 分為訓(xùn)練集、驗(yàn)證集和測(cè)試集,每個(gè)數(shù)據(jù)集中每種狀態(tài)的數(shù)據(jù)個(gè)數(shù)應(yīng)基本相等,其中訓(xùn)練集和驗(yàn)證集用來(lái)訓(xùn)練和驗(yàn)證模型,測(cè)試集用來(lái)評(píng)估最終的模型性能.

圖5 傳感器數(shù)據(jù)狀態(tài)圖Fig.5 Status of sensor data

圖6 傳感器數(shù)據(jù)狀態(tài)圖Fig.6 Status of sensor data

4.2 參數(shù)確定

本文中有多個(gè)參數(shù)需要確定.對(duì)于數(shù)據(jù)集的時(shí)間窗口T,設(shè)其區(qū)間設(shè)置為T(mén)={64,96,128,144,168,196};對(duì)于編碼器和解碼器模塊中的LSTM 單元,設(shè)其數(shù)目相同且將其范圍設(shè)置為H={64,96,128,192,256};對(duì)于多層感知機(jī),設(shè)其每層隱藏單元數(shù)相等且設(shè)范圍為h={3,5,7,9}.此外,采用多層LSTM 單元來(lái)增強(qiáng)模型的性能,設(shè)其層數(shù)為q.最后,經(jīng)過(guò)網(wǎng)格搜索調(diào)參,本文選取T=144,H=128,h=7,q=2.

對(duì)模型進(jìn)行訓(xùn)練時(shí),本文采用Adam 優(yōu)化器,初始學(xué)習(xí)率為0.001,每訓(xùn)練1 200 步學(xué)習(xí)率減小為原來(lái)的0.8,Dropout 取0.7,批大小選擇128,訓(xùn)練20 個(gè)Epochs,采用交叉熵作為損失函數(shù).

4.3 實(shí)驗(yàn)對(duì)比

此處將本文設(shè)計(jì)出來(lái)的多階段注意力機(jī)制故障診斷算法稱(chēng)為FDRNN (Fault diagnosis recurrent neural network).為了驗(yàn)證多階段注意力機(jī)制對(duì)故障識(shí)別準(zhǔn)確率的提升,本文對(duì)FDRNN 的子模型進(jìn)行如下定義:

FDRNN-N1:表示無(wú)局部注意力機(jī)制的網(wǎng)絡(luò);

FDRNN-N2:表示無(wú)全局注意力機(jī)制的網(wǎng)絡(luò);

FDRNN-N3:表示無(wú)時(shí)間注意力機(jī)制的網(wǎng)絡(luò).

對(duì)FDRNN 及三個(gè)子模型、深度置信網(wǎng)絡(luò)(Deep belief network,DBN)[7]和深度卷積神經(jīng)網(wǎng)絡(luò)(Deep convolutional neural network,DCNN)[8]進(jìn)行對(duì)比實(shí)驗(yàn),結(jié)果如表1 所示.

表1 不同模型的實(shí)驗(yàn)對(duì)比Table 1 Comparison of experimental results of different models

如表1 所示,FDRNN 的準(zhǔn)確率可以達(dá)到97.5%,召回率可以達(dá)到96.6%.當(dāng)沒(méi)有局部注意力機(jī)制時(shí),其準(zhǔn)確率和召回率會(huì)出現(xiàn)下降,其主要原因是未將同一時(shí)刻不同傳感器數(shù)據(jù)之間的空間相關(guān)性結(jié)合起來(lái),僅僅依靠單個(gè)傳感器的數(shù)據(jù)對(duì)其數(shù)據(jù)狀態(tài)做出判斷,因此準(zhǔn)確率比較低.當(dāng)沒(méi)有全局注意力機(jī)制時(shí),其準(zhǔn)確率和召回率也會(huì)降低,其原因在進(jìn)行數(shù)據(jù)的狀態(tài)判斷時(shí)未考慮數(shù)據(jù)在時(shí)間維度上的前后相關(guān)性.而當(dāng)沒(méi)有時(shí)間注意力時(shí),其準(zhǔn)確率和召回率也會(huì)出現(xiàn)較大程度的下降,關(guān)鍵原因是隨著時(shí)間步的增長(zhǎng),編碼器的特征向量的語(yǔ)義信息會(huì)降低且解碼器無(wú)法動(dòng)態(tài)地從編碼器模塊中提取有用信息,從而會(huì)降低模型的性能.對(duì)于DBN 而言,其采用DBN 網(wǎng)絡(luò)對(duì)傳感器數(shù)據(jù)進(jìn)行在線(xiàn)估計(jì),根據(jù)估計(jì)值與真實(shí)值之間的殘差來(lái)判斷是否故障,其結(jié)果很大程度上受殘差閾值的影響,且對(duì)多傳感器故障的在線(xiàn)估計(jì)比較差,因此僅有80.5%的準(zhǔn)確率和78.9%的召回率.對(duì)于DCNN而言,其準(zhǔn)確率可達(dá)84.7%,召回率可以達(dá)到83.6%,其原因是卷積網(wǎng)絡(luò)中的卷積層和池化層一定程度上可以捕捉到多傳感器數(shù)據(jù)之間的空間相關(guān)性和時(shí)間相關(guān)性,但是其捕捉是基于隨機(jī)搜索,缺乏指導(dǎo)性,所以其故障識(shí)別率相對(duì)于有多重注意力機(jī)制的編碼器-解碼器模型較低.因此,針對(duì)多傳感器故障診斷任務(wù),FDRNN可以準(zhǔn)確地識(shí)別出故障傳感器數(shù)據(jù)和故障類(lèi)型.

本文構(gòu)建出的FDRNN 通過(guò)引入多階段注意力機(jī)制將多個(gè)傳感器數(shù)據(jù)在空間維度和時(shí)間維度之間的相互依賴(lài)性聯(lián)系起來(lái),采用編碼器-解碼器結(jié)構(gòu)對(duì)多傳感器數(shù)據(jù)進(jìn)行編碼和解碼,再采用多層感知機(jī)進(jìn)行分類(lèi).該結(jié)構(gòu)不僅可以準(zhǔn)確識(shí)別出故障傳感器,并且可以識(shí)別出故障類(lèi)型.

5 結(jié)束語(yǔ)

本文提出的基于多階段注意力機(jī)制的編碼器-解碼器模型在空間維度和時(shí)間維度上采用編碼器來(lái)提取多傳感器數(shù)據(jù)之間的空間相關(guān)性和時(shí)間相關(guān)性,采用帶有時(shí)間注意力機(jī)制的解碼器來(lái)解碼來(lái)自編碼器的輸出,并采用多層感知機(jī)來(lái)判斷時(shí)間窗口內(nèi)數(shù)據(jù)的狀態(tài)信息.該方法通過(guò)多階段注意力機(jī)制來(lái)捕捉多類(lèi)傳感器數(shù)據(jù)之間的關(guān)系,采用多個(gè)傳感器數(shù)據(jù)來(lái)輔助判斷目標(biāo)傳感器,形成多傳感器之間的故障互檢測(cè),不僅可以準(zhǔn)確地檢測(cè)出故障的傳感器數(shù)據(jù),并且可以識(shí)別出其故障類(lèi)型.對(duì)比實(shí)驗(yàn)證明,每階段注意力機(jī)制都對(duì)判斷數(shù)據(jù)的狀態(tài)信息都具有非常重要的作用.因此,針對(duì)本文的多傳感器故障診斷任務(wù),FDRNN 可以準(zhǔn)確地進(jìn)行故障檢測(cè).