姜 婕,楊 威,馮俊濤,姜 帥

(1.北京交通大學(xué) 機(jī)械與電子控制工程學(xué)院，北京 100044; 2.北京航天自動(dòng)控制研究所，北京 100854; 3.北京航天航空大學(xué) 軟件學(xué)院，北京 100191)

0 引言

復(fù)雜系統(tǒng)在運(yùn)行過程中，各傳感器隨時(shí)間及工況將產(chǎn)生不同的數(shù)字信號(hào)及模擬信號(hào)，根據(jù)信號(hào)時(shí)序特征及閾值，可以反映系統(tǒng)的運(yùn)行狀態(tài)，在系統(tǒng)運(yùn)行異常時(shí)及時(shí)對其進(jìn)行干預(yù)。傳統(tǒng)的信號(hào)處理及數(shù)據(jù)分析方法往往基于規(guī)則及案例，并不適用于復(fù)雜系統(tǒng)。機(jī)器學(xué)習(xí)領(lǐng)域的發(fā)展推動(dòng)特征識(shí)別領(lǐng)域的發(fā)展，使用機(jī)器學(xué)習(xí)解決此類問題成為可能[1]。

根據(jù)復(fù)雜系統(tǒng)(本文以飛行器為例)運(yùn)行過程中產(chǎn)生的數(shù)據(jù)特點(diǎn)，模型需要著重對數(shù)據(jù)的時(shí)序特征進(jìn)行識(shí)別。RNN及其衍生模型雖然可以對時(shí)序數(shù)據(jù)進(jìn)行專業(yè)的處理，但是仍然存在計(jì)算量大處理效率低且數(shù)據(jù)量大時(shí)存在梯度彌散或梯度爆炸的可能，對于復(fù)雜系統(tǒng)實(shí)時(shí)性要求高且運(yùn)行時(shí)間長、數(shù)據(jù)量大的情況存在難以彌補(bǔ)的缺陷。

本方法通過將時(shí)序特征映射至圖像，使用CNN對時(shí)序特征圖進(jìn)行分類識(shí)別實(shí)現(xiàn)對時(shí)序數(shù)據(jù)的處理，處理速度快，且在復(fù)雜系統(tǒng)長時(shí)間運(yùn)行產(chǎn)生的大量數(shù)據(jù)進(jìn)行時(shí)序處理時(shí)效果依然穩(wěn)定。

圖1 研究路線圖

本文第一章對目前常用的識(shí)別模型進(jìn)行了概述與對比，結(jié)合需求特點(diǎn)最終確定復(fù)雜系統(tǒng)在時(shí)序特征識(shí)別時(shí)所用模型的類型。

第二章使用ECharts將飛行器運(yùn)行時(shí)的二進(jìn)制流數(shù)據(jù)進(jìn)行可視化處理實(shí)現(xiàn)了時(shí)序特征的映射。

第三章結(jié)合前兩章的飛行器數(shù)據(jù)流的時(shí)序特征提取方法，補(bǔ)充了圖像預(yù)處理方法及TFRecord數(shù)據(jù)集的制作方法，將大量的飛行器歷史測試數(shù)據(jù)制作成飛行器運(yùn)行過程中各信號(hào)時(shí)序變化的時(shí)序特征數(shù)據(jù)集。

第四章構(gòu)建Sample模型、修改Inception模型的同時(shí)，使用第三章制作的數(shù)據(jù)集在Tensorflow環(huán)境下進(jìn)行模型的訓(xùn)練及調(diào)參，完成CNN模型的構(gòu)建。

第五章使用第三章制作的數(shù)據(jù)集，對第四章構(gòu)建的CNN模型進(jìn)行了驗(yàn)證及分析，最終在第六章通過總結(jié)與概括得出結(jié)論。本文的研究路線如圖1所示。

1 模型方案選擇

在對飛行器各系統(tǒng)數(shù)據(jù)進(jìn)行處理及分析時(shí)，主要考慮其時(shí)序變化特征及故障數(shù)據(jù)分類的準(zhǔn)確性?，F(xiàn)在常用的時(shí)序識(shí)別方法主要集中在語義識(shí)別、語音識(shí)別及預(yù)測等方面。與此相關(guān)的神經(jīng)網(wǎng)絡(luò)主要有具有記憶功能的循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN,recurrent neural network)，解決RNN長期依賴問題的長短期記憶網(wǎng)絡(luò)(LSTM,long short-term memory)及其它衍生網(wǎng)絡(luò)[2]。CNN對于一對一映射關(guān)系規(guī)則嚴(yán)謹(jǐn)，尤其對于圖像的識(shí)別及分類有良好的效果，因此從RNN、LSTM及CNN三種神經(jīng)網(wǎng)絡(luò)進(jìn)行對比研究。

文獻(xiàn)[3]優(yōu)化了一種RNN方法，用來預(yù)測短時(shí)間內(nèi)特定海洋的區(qū)域碰撞風(fēng)險(xiǎn)，該方法的預(yù)測精度較高且效果良好。

文獻(xiàn)[4]使用LTSM作為準(zhǔn)確估算鋰離子電池SOC的方法，其估計(jì)誤差小且均方根誤差低于1%，驗(yàn)證方法可行。

文獻(xiàn)[5]融合了兩個(gè)二維的CNN神經(jīng)網(wǎng)絡(luò)，對超聲波心動(dòng)圖進(jìn)行了時(shí)域特征及空域特征，實(shí)現(xiàn)了對超聲波心動(dòng)圖的視點(diǎn)分類，在心臟病診斷方面輔助優(yōu)勢明顯。

文獻(xiàn)[6]使用改進(jìn)后的Inception-v3模型進(jìn)行乳腺病理圖像的二分類及多分類，取得了良好的識(shí)別精度，提高了識(shí)別效率。

根據(jù)RNN、LSTM及CNN的特點(diǎn)，結(jié)合復(fù)雜系統(tǒng)運(yùn)行過程中關(guān)鍵信號(hào)的識(shí)別需求分析如下：

1)RNN對于時(shí)序處理效果較好，但是在模型訓(xùn)練時(shí)易出現(xiàn)由于共享參數(shù)導(dǎo)致的梯度彌散或梯度爆炸。

2)LSTM解決了RNN的梯度問題，但是計(jì)算費(fèi)時(shí)，且對于量級較大的長序列表現(xiàn)不佳。由于飛行器數(shù)據(jù)變化幅度一般較小，且飛行時(shí)間長、數(shù)據(jù)量大，使用LSTM存在明顯的限制約束。

3)CNN的輸入輸出長度固定，便于實(shí)現(xiàn)確定的映射到確定的輸出，且識(shí)別性能普遍良好。

基于上述考慮，采用CNN作為復(fù)雜系統(tǒng)信號(hào)時(shí)序特征的識(shí)別的基本模型。選擇使用可視化技術(shù)將信號(hào)的時(shí)序特征映射至圖像，通過CNN對時(shí)序特征圖像的識(shí)別實(shí)現(xiàn)復(fù)雜系統(tǒng)信號(hào)時(shí)序特征的識(shí)別的方法進(jìn)行時(shí)序特征識(shí)別。

2 時(shí)序特征映射

在系統(tǒng)運(yùn)行過程中，采集不同時(shí)序狀態(tài)下的特征信號(hào)(電壓、電流、角度變化、速度變化及位移等)，按照產(chǎn)生的時(shí)間順序存儲(chǔ)至數(shù)據(jù)庫中。使用數(shù)據(jù)可視化工具，將信號(hào)數(shù)據(jù)按照時(shí)序(以時(shí)間為橫坐標(biāo))進(jìn)行二維圖像化處理，實(shí)現(xiàn)信號(hào)時(shí)序特征的圖像映射，可以更直觀地反映其時(shí)序變化趨勢及特征。

如圖2所示，表示轉(zhuǎn)臺(tái)轉(zhuǎn)動(dòng)角度隨時(shí)間變化的部分可視化圖像。因?yàn)楸疚牡哪康臑閷π盘?hào)圖像時(shí)序特征的處理，所以在可視化時(shí)對其進(jìn)行去單位化的處理，統(tǒng)一橫、縱坐標(biāo)尺度，只保留其時(shí)序特征曲線形狀的有效性。

圖2 部分轉(zhuǎn)動(dòng)角度信號(hào)的可視化圖像

使用echarts可以將時(shí)序數(shù)據(jù)可視化為二維圖表，通過對圖表進(jìn)行分析歸納其時(shí)序特征。由于神經(jīng)網(wǎng)絡(luò)構(gòu)建使用Python語言，因此使用Pyecharts將時(shí)序特征映射至圖像[7]。

時(shí)序數(shù)據(jù)圖表繪制的代碼邏輯如表1所示，以時(shí)間(timestamp)為橫坐標(biāo)，信號(hào)數(shù)據(jù)(data)為縱坐標(biāo)進(jìn)行曲線繪制。

表1 Pyecharts曲線繪制代碼

3 圖像預(yù)處理及數(shù)據(jù)集

可視化處理后的數(shù)據(jù)圖像按照故障源進(jìn)行分類，為了加快處理速度，提高模型的識(shí)別及訓(xùn)練效率，對圖像進(jìn)行以下操作：

1)統(tǒng)一圖像尺寸及分辨率。由于模型識(shí)別主要針對曲線的時(shí)序趨勢特征進(jìn)行研究與識(shí)別，并不在意從圖像的度量單位及時(shí)間單位，因此在圖像預(yù)處理時(shí)對曲線坐標(biāo)進(jìn)行模糊處理。且為加快圖像處理速度，降低圖像分辨率，只保留曲線特征像素。

2)按照類別進(jìn)行編號(hào)。按照圖像的分類對圖像文件進(jìn)行分類編號(hào)。

以如圖3所示的六種時(shí)序特征為例進(jìn)行時(shí)序特征識(shí)別說明，預(yù)處理前信號(hào)時(shí)序特征圖像及其分類如3所示，預(yù)處理后信號(hào)時(shí)序特征圖像及其分類如4所示。因本文的目的為對信號(hào)圖像時(shí)序特征的處理，因此在可視化時(shí)對其進(jìn)行去單位化的處理，統(tǒng)一橫、縱坐標(biāo)尺度，只保留其時(shí)序特征曲線形狀的有效性。

圖3 可視化后信號(hào)時(shí)序特征圖

圖4 預(yù)處理后的信號(hào)時(shí)序特征圖

圖像預(yù)處理后，需要將其制作成數(shù)據(jù)集，以便后續(xù)進(jìn)行模型訓(xùn)練測試及驗(yàn)證。在此采用TFRecord作為數(shù)據(jù)集文件生成的方法及格式。

4 CNN模型構(gòu)建

在構(gòu)建模型時(shí)，為了體現(xiàn)模型對時(shí)序特征的識(shí)別效果，使用了兩種模型：構(gòu)建了Sample模型作為基礎(chǔ)識(shí)別模型，運(yùn)用遷移學(xué)習(xí)思想，使用Inception-v3模型及其預(yù)訓(xùn)練參數(shù)。

4.1 Sample模型構(gòu)建

由于示例的時(shí)序特征及數(shù)據(jù)集較簡單，構(gòu)建一個(gè)八層的CNN網(wǎng)絡(luò)的以利用數(shù)據(jù)集進(jìn)行訓(xùn)練。CNN網(wǎng)絡(luò)結(jié)構(gòu)包含兩個(gè)卷積層，兩個(gè)池化層，兩個(gè)全連接層，一個(gè)分類層，使用ReLU作為激活函數(shù)。大致過程為：“初始化權(quán)值參數(shù)—>計(jì)算損失值—>調(diào)制權(quán)值參數(shù)”過程的循環(huán)。

在對Sample模型完成結(jié)構(gòu)設(shè)計(jì)及修改后，在tensorflow環(huán)境下使用根據(jù)歷史試驗(yàn)數(shù)據(jù)制作好的飛行器時(shí)序特征數(shù)據(jù)集進(jìn)行模型訓(xùn)練及調(diào)參，完成Sample模型的訓(xùn)練。其訓(xùn)練的最終參數(shù)如表2所示。

由于Sample模型簡單，層級較淺且參數(shù)較少，數(shù)據(jù)集的數(shù)據(jù)量不大且時(shí)序特征少，因此設(shè)定訓(xùn)練次數(shù)為500此即可獲得收斂度較高的模型，其訓(xùn)練過程中的準(zhǔn)確率曲線如圖5所示，損失曲線如圖6所示。

圖5 Sample模型準(zhǔn)確率曲線

圖6 Sample模型損失曲線

分析訓(xùn)練過程中的準(zhǔn)確率曲線，在迭代150次以后準(zhǔn)確率在99.5%左右收斂穩(wěn)定。

分析訓(xùn)練過程中的誤差損失曲線，在150次左右時(shí)誤差損失穩(wěn)定在0.1以下，且仍具有收斂趨勢，在迭代200次左右時(shí)基本收斂穩(wěn)定。

4.2 Inception-v3模型構(gòu)建

Google Inception Net在大量數(shù)據(jù)的處理，尤其是內(nèi)存或計(jì)算資源有限制的場合具有計(jì)算效率高且分類準(zhǔn)確的特點(diǎn)，采用全局平均池化層取代全連接層，一般稱之為Inception-v1。后續(xù)優(yōu)化的Inception-v2中加快了收斂速度[10-11]。在Inception-v3中為了降低參數(shù)量，減輕過擬合，將二維卷積層拆分成兩個(gè)一維卷積層[12]。

為充分利用訓(xùn)練好的Inception-v3模型結(jié)構(gòu)及預(yù)訓(xùn)練參數(shù)，僅對Inception-v3模型瓶頸層的輸出來訓(xùn)練一個(gè)新的全連接層，以處理時(shí)序特征圖像的分類問題，完成模型的適配。

在對Inception-v3Sample模型完成結(jié)構(gòu)設(shè)計(jì)及修改后，在tensorflow環(huán)境下使用根據(jù)歷史試驗(yàn)數(shù)據(jù)制作好的飛行器時(shí)序特征數(shù)據(jù)集進(jìn)行模型訓(xùn)練及調(diào)參，完成Inception-v3模型的訓(xùn)練其訓(xùn)練的最終參數(shù)如表3所示。

表3 Inception-v3模型訓(xùn)練參數(shù)表

由于Inception-v3模型較為復(fù)雜，層級較深參數(shù)較多，因此設(shè)定訓(xùn)練次數(shù)為1 000次可獲得收斂度較高的模型，其訓(xùn)練過程中的準(zhǔn)確率曲線如圖7所示，損失曲線如圖8所示。

圖7 Inception-v3模型準(zhǔn)確率曲線

圖8 Inception-v3模型損失曲線

分析訓(xùn)練過程中的準(zhǔn)確率曲線，在迭代100次以內(nèi)時(shí)雖然波動(dòng)較大但是收斂迅速，900次以后基本穩(wěn)定在97%以上，收斂效果較好。

分析訓(xùn)練過程中的誤差損失曲線，在100次之前收斂速度較快，100次以后收斂速度變緩但收斂趨勢良好，在迭代900次以后基本收斂至0.1以下。

5 試驗(yàn)驗(yàn)證與分析

模型訓(xùn)練結(jié)束后，需要對模型的識(shí)別率、準(zhǔn)確率進(jìn)行驗(yàn)證分析。使用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)在驗(yàn)證集中隨機(jī)讀取一張圖像進(jìn)行識(shí)別，將讀取圖像及其識(shí)別結(jié)果進(jìn)行打印輸出。步驟如下所述。

Step1:讀取一張圖片，對圖片進(jìn)行預(yù)處理操作。

Step2:應(yīng)用API中的結(jié)構(gòu)構(gòu)建新的網(wǎng)絡(luò)結(jié)構(gòu)。

Step3:載入模型，對模型結(jié)構(gòu)的輸出結(jié)果進(jìn)行softmax，即為預(yù)測值。

Step4:圖像讀取與識(shí)別，打印準(zhǔn)確率及識(shí)別的圖像。

識(shí)別結(jié)果示例如圖9所示；對六種時(shí)序特征波形，使用Sample模型及Inception-v3模型分別進(jìn)行識(shí)別測試100次，統(tǒng)計(jì)測試結(jié)果如表4所示。

圖9 識(shí)別結(jié)果打印示意圖

表4 Sample模型及Inception-v3模型識(shí)別結(jié)果測試統(tǒng)計(jì)表

根據(jù)以上測試識(shí)別結(jié)果，Sample模型的識(shí)別準(zhǔn)確率為99.667%，識(shí)別效果要優(yōu)于識(shí)別準(zhǔn)確率為98.167%的Inception-v3模型，但是經(jīng)過實(shí)際的訓(xùn)練與識(shí)別，Inception-v3的識(shí)別速度普遍比Sample模型快。

從識(shí)別分類來看，正常數(shù)據(jù)階梯波形的識(shí)別概率為100%，但是異常數(shù)據(jù)階梯波形的識(shí)別概率僅為98.5%，由于正常數(shù)據(jù)及異常數(shù)據(jù)的階梯波形相似、Sample模型及Inception-v3模型識(shí)別結(jié)果的統(tǒng)一性說明識(shí)別差距的原因可定位為正常數(shù)據(jù)及異常數(shù)據(jù)階梯波形數(shù)據(jù)集的差距不大，兩類階梯波形數(shù)據(jù)采集的樣本問題導(dǎo)致Sample模型及Inception-v3模型對階梯波形正常、異常的識(shí)別結(jié)果存在誤差。

6 結(jié)束語

本文提供了一種基于數(shù)據(jù)可視化的復(fù)雜系統(tǒng)信號(hào)時(shí)序特征識(shí)別的方法。不需要深入了解復(fù)雜系統(tǒng)的運(yùn)行及控制原理，即可對時(shí)序特征進(jìn)行識(shí)別。通過采集信號(hào)數(shù)據(jù)進(jìn)行可視化處理，將信號(hào)時(shí)序特征映射至圖像生成數(shù)據(jù)集；構(gòu)建、訓(xùn)練、測試和驗(yàn)證模型，形成最終的時(shí)序特征識(shí)別模型，然后通過此模型以模型預(yù)測的形式對信號(hào)數(shù)據(jù)的可視化時(shí)序特征進(jìn)行識(shí)別。

文中選取了復(fù)雜系統(tǒng)中特征參數(shù)隨時(shí)間變化的周期波形、階梯波形、一次函數(shù)波形三種典型波形在正常及異常情況下的時(shí)序特征進(jìn)行了研究及驗(yàn)證，證實(shí)本文所述方法對單一特征波形的故障有良好的識(shí)別效果。下一步可以針對復(fù)雜特征波形及多特征融合波形的識(shí)別進(jìn)行研究及改進(jìn)，增強(qiáng)本文所述模型識(shí)別方法的適用性及實(shí)用性。

本文研究基于數(shù)據(jù)可視化的復(fù)雜系統(tǒng)信號(hào)時(shí)序特征識(shí)別的方法對大型復(fù)雜系統(tǒng)的信號(hào)時(shí)序特征識(shí)別具有一定的適用性，不僅可以應(yīng)用在飛行器在飛行過程中的故障診斷，還可以應(yīng)用于態(tài)勢感知與態(tài)勢評估、智能指揮決策等等方向。