張少康，王 超，田德艷，張小川

(1.海軍潛艇學(xué)院，山東 青島 266000；2.海洋科學(xué)與技術(shù)國(guó)家實(shí)驗(yàn)室，山東 青島 266000)

0 引 言

特征向量提取方法一直以來(lái)都是水下目標(biāo)輻射噪聲識(shí)別問(wèn)題的研究重點(diǎn)。文獻(xiàn)[1 - 4]就艦船螺旋槳空化噪聲調(diào)制線譜特征提取方法及建模進(jìn)行了相關(guān)研究，文獻(xiàn)[5 - 8]就艦船輻射噪聲的低頻線譜特征的提取進(jìn)行了研究，文獻(xiàn)[9 - 11]開(kāi)展了艦船輻射噪聲功率譜相關(guān)分析研究，文獻(xiàn)[12 - 14]則就艦船輻射噪聲的時(shí)域及非線性特征提取方法進(jìn)行了研究。但是，傳統(tǒng)水聲目標(biāo)特征提取方法大都需要通過(guò)人工分析手段提取時(shí)頻譜特征或其他類型的特征，目標(biāo)識(shí)別過(guò)程具有較強(qiáng)的人機(jī)交互特性，需要研究人員具備較強(qiáng)的數(shù)據(jù)分析能力、先驗(yàn)知識(shí)及專業(yè)素養(yǎng)。

近幾年，隨著浮標(biāo)潛標(biāo)、水下滑翔機(jī)、AUV、UUV 等水下無(wú)人潛航器的發(fā)展，基于水下無(wú)人平臺(tái)的聲學(xué)探測(cè)體系正在不斷建立完善，未來(lái)水下無(wú)人平臺(tái)水聲目標(biāo)探測(cè)系統(tǒng)要求平臺(tái)自身具備目標(biāo)探測(cè)、跟蹤及自動(dòng)識(shí)別能力，傳統(tǒng)水下目標(biāo)識(shí)別方法已無(wú)法滿足此需求，因此，智能識(shí)別方法將成為今后水下目標(biāo)識(shí)別領(lǐng)域的研究重點(diǎn)之一。目前，已有學(xué)者開(kāi)展了相關(guān)方面的研究工作。文獻(xiàn)[15] 針對(duì)水聲目標(biāo)小樣本識(shí)別問(wèn)題，提出了基于混合正則化深度置信網(wǎng)絡(luò)的水聲目標(biāo)深度特征學(xué)習(xí)及識(shí)別方法；文獻(xiàn)[16]通過(guò)建立SDAE 堆棧式自編碼模型，對(duì)水下目標(biāo)輻射噪聲譜數(shù)據(jù)進(jìn)行逐層降維特征提取；文獻(xiàn)[17]使用卷積神經(jīng)網(wǎng)絡(luò)（CNN）與深度置信網(wǎng)絡(luò)（DBN），對(duì)3 類水下目標(biāo)進(jìn)行了識(shí)別；文獻(xiàn)[18] 采用聽(tīng)覺(jué)感知和卷積神經(jīng)網(wǎng)絡(luò)模擬人類聽(tīng)覺(jué)系統(tǒng)的聽(tīng)音判型過(guò)程對(duì)艦船輻射噪聲進(jìn)行分類識(shí)別，通過(guò)一個(gè)5 層卷積神經(jīng)網(wǎng)絡(luò)對(duì)艦船目標(biāo)信號(hào)的二維聽(tīng)覺(jué)圖譜進(jìn)行了特征提取。

在眾多深度學(xué)習(xí)網(wǎng)絡(luò)模型中，循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）[19]是專門用于處理時(shí)序序列的神經(jīng)網(wǎng)絡(luò)，其變體模型長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)（Long Short-Term Memory,LSTM）[20-21]由于有效彌補(bǔ)了RNN 梯度消失和梯度爆炸、長(zhǎng)期記憶不足等問(wèn)題，使得循環(huán)神經(jīng)網(wǎng)絡(luò)能夠真正有效應(yīng)用于長(zhǎng)時(shí)時(shí)序問(wèn)題。目前，LSTM 模型已成功應(yīng)用于語(yǔ)音識(shí)別[22]、故障時(shí)間預(yù)測(cè)[23]等領(lǐng)域。然而，在水聲探測(cè)領(lǐng)域其應(yīng)用相當(dāng)有限，特別是對(duì)于水下目標(biāo)識(shí)別問(wèn)題，目前還未發(fā)現(xiàn)相關(guān)研究。

本文針對(duì)水下目標(biāo)輻射噪聲智能化識(shí)別這一問(wèn)題，提出一種基于LSTM 長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的識(shí)別方法，給出了詳細(xì)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)方案，并針對(duì)實(shí)際應(yīng)用中存在的有偏估計(jì)、數(shù)據(jù)分布不平衡等問(wèn)題提供了一定的解決方案。在此基礎(chǔ)上，分別以水下目標(biāo)輻射噪聲時(shí)域時(shí)間序列數(shù)據(jù)、頻譜數(shù)據(jù)、MFCC 特征數(shù)據(jù)為網(wǎng)絡(luò)輸入向量，進(jìn)行深層次特征提取和分類識(shí)別研究，并采用實(shí)際水聲信號(hào)對(duì)該方法進(jìn)行驗(yàn)證，證明了將LSTM長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)應(yīng)用于水下目標(biāo)識(shí)別的有效性。

1 LSTM 長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)識(shí)別模型

1.1 LSTM 長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)模型

長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)（Long Short Term Memory Networks，LSTM）是循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）的改進(jìn)形式，其基本單元被稱為記憶塊，由一個(gè)中心節(jié)點(diǎn)和3 個(gè)門控單元組成。中心節(jié)點(diǎn)通常被稱為記憶細(xì)胞，用以存儲(chǔ)當(dāng)前網(wǎng)絡(luò)狀態(tài)，3 個(gè)門控單元分別通常被稱作輸入門、輸出門和遺忘門，用以控制記憶塊內(nèi)信息流動(dòng)。在前向傳播過(guò)程中，輸入門用以控制輸入到記憶細(xì)胞的信息流，輸出門用以控制記憶細(xì)胞到網(wǎng)絡(luò)其他結(jié)構(gòu)單元的信息流；在反向傳播過(guò)程中，輸入門用以控制迭代誤差流出記憶細(xì)胞，輸出門用以控制迭代誤差流入記憶細(xì)胞。而遺忘門則用以控制記憶細(xì)胞內(nèi)部的循環(huán)狀態(tài)，決定信息的取舍或遺忘。通過(guò)這種門控機(jī)制，LSTM 網(wǎng)絡(luò)得以控制單元內(nèi)信息流動(dòng)，使其具備保存長(zhǎng)時(shí)間信息的能力，即“記憶”能力，在訓(xùn)練過(guò)程中能夠防止內(nèi)部梯度受外部干擾，避免了梯度彌散和梯度爆炸問(wèn)題。

圖 1 LSTM 基本結(jié)構(gòu)單元[24]Fig.1 Basic structure unit of LSTM

設(shè)單個(gè)LSTM 記憶塊的輸入向量為 xt，輸出向量為 yt，前向傳播公式可表述為[25]：

1）長(zhǎng)期記憶單元Ct更新過(guò)程

其中： ft代表遺忘門； it代表輸入門。在每一個(gè)時(shí)刻，遺忘門會(huì)控制上一時(shí)刻記憶的遺忘程度，而輸入門則控制新記憶寫入長(zhǎng)期記憶的程度。 ft， it，都是與上一時(shí)刻的短期記憶 ht-1和 當(dāng)前時(shí)刻輸入 xt相關(guān)的函數(shù)，其中， σ是sigmoid 函數(shù)，取值范圍[0, 1]，tanh 函數(shù)取值范圍[-1, 1]。

2）短期記憶單元 ht更新過(guò)程

其中， ot表示輸出門，控制著短期記憶如何受長(zhǎng)期記憶影響。

單個(gè)LSTM 細(xì)胞的輸出 Ct， ht循環(huán)作為層內(nèi)細(xì)胞的輸入輸出，即第t-1 時(shí)刻細(xì)胞單元輸出 Ct-1， ht-1為下一時(shí)刻LSTM 細(xì)胞的輸入值，此為層內(nèi)循環(huán)。層內(nèi)各時(shí)刻LSTM 細(xì)胞共用相同權(quán)重參數(shù) Wlstm及偏置系數(shù)blstm，因此，單層LSTM 網(wǎng)絡(luò)可看做單個(gè)LSTM 細(xì)胞輸入輸出值的循環(huán)計(jì)算。此外，細(xì)胞單元輸出 ht還作為下一層LSTM 網(wǎng)絡(luò)對(duì)應(yīng)細(xì)胞單元的輸入 xt參與到該層循環(huán)計(jì)算中，此為層間循環(huán)。LSTM 網(wǎng)絡(luò)采用BPTT 算法[26]進(jìn)行訓(xùn)練，其主要步驟為：1）按式（1）～式（6）前向計(jì)算LSTM 網(wǎng)絡(luò)輸出值；2）反向計(jì)算每個(gè)LSTM 細(xì)胞單元誤差項(xiàng)；3）根據(jù)誤差項(xiàng)，計(jì)算相應(yīng)權(quán)重參數(shù)梯度；4）通過(guò)相關(guān)優(yōu)化算法更新權(quán)重；5）重新按步驟1 進(jìn)行前向計(jì)算，依此循環(huán)。

在深度學(xué)習(xí)模型優(yōu)化方面，目前已有眾多成熟算法，如基本的隨機(jī)梯度下降（SGD）、動(dòng)量、Nesterov 動(dòng)量算法及自適應(yīng)學(xué)習(xí)率算法，如AdaGrad，RMSProp，Adam 等算法，本文使用優(yōu)化算法為Adam 算法。在模型正則化策略方面，選取目前最為流行的dropout 算法[27]，以提高模型的泛化能力。相關(guān)研究表明，dropout 算法能夠有效抑制模型的過(guò)擬合現(xiàn)象，提高模型的魯棒性。

1.2 LSTM 識(shí)別模型

結(jié)合LSTM 網(wǎng)絡(luò)模型相關(guān)理論及水下目標(biāo)輻射噪聲數(shù)據(jù)特點(diǎn)，本節(jié)給出基于LSTM 的水下目標(biāo)輻射噪聲識(shí)別方法，相關(guān)識(shí)別框圖如圖2 所示。按網(wǎng)絡(luò)結(jié)構(gòu)，可將該模型分為輸入層、LSTM 特征學(xué)習(xí)層、特征分類層3 部分；按功能，可將該模型分為數(shù)據(jù)預(yù)處理、模型訓(xùn)練與識(shí)別分類3 個(gè)模塊。

輸入層主要進(jìn)行數(shù)據(jù)預(yù)處理工作，包括對(duì)目標(biāo)噪聲信號(hào)進(jìn)行分析、獲取時(shí)域、頻譜或其他類型數(shù)據(jù)信息，模型輸入數(shù)據(jù)標(biāo)準(zhǔn)化操作，以及輸入層到LSTM層數(shù)據(jù)非線性變換等工作。設(shè)歸一化后輸入數(shù)據(jù)向量為 Xin={x1,x2,······,xm}，LSTM 層每層塊循環(huán)次數(shù)為T，則將輸入 Xin按T 進(jìn)行分割，后按時(shí)序順序經(jīng)非線性變換，輸出作為L(zhǎng)STM 層輸入向量 Xlstm。整個(gè)過(guò)程按公式可描述為：

圖 2 LSTM 識(shí)別框圖Fig.2 Recognition diagram of LSTM

其中，Win， bin為 輸入層權(quán)重參數(shù)和偏置系數(shù)， n= m/T，為正整數(shù)。

LSTM 層主要對(duì)輸入數(shù)據(jù)進(jìn)行非線性特征提取，深度學(xué)習(xí)模型具有從大量數(shù)據(jù)中自主學(xué)習(xí)特征的能力，LSTM 層輸出即為網(wǎng)絡(luò)模型自主學(xué)習(xí)到的特征數(shù)據(jù)。 Xlstm作為該層輸入向量，按照式（1）～式（6）逐層進(jìn)行前向計(jì)算，由最后一層各LSTM 塊輸出 ht共同組成LSTM 層輸出向量 Xout，即

分類層或輸出層主要以softmax 分類器構(gòu)成，以LSTM 層輸出向量作為分類器輸入，通過(guò)計(jì)算信號(hào)所屬各類別概率給出識(shí)別結(jié)果。

2 模型驗(yàn)證

對(duì)于未來(lái)基于水下無(wú)人平臺(tái)的聲學(xué)探測(cè)設(shè)備，主要對(duì)水下目標(biāo)進(jìn)行警戒探測(cè)，因此判定本文所提出模型有效性的標(biāo)準(zhǔn)就是能否正確區(qū)分水面、水下兩類目標(biāo)，基于此判定標(biāo)準(zhǔn)，進(jìn)行如下驗(yàn)證：

模型訓(xùn)練數(shù)據(jù)庫(kù)包含各種已知類別的艦船輻射噪聲數(shù)據(jù)近1 600 條，按1s 時(shí)長(zhǎng)進(jìn)行處理，分別獲取噪聲信號(hào)的時(shí)域時(shí)間序列數(shù)據(jù)、頻譜數(shù)據(jù)及MFCC 梅爾倒譜特征數(shù)據(jù)作為L(zhǎng)STM 識(shí)別模型的樣本庫(kù)數(shù)據(jù)，其中樣本總數(shù)為65 284，其中水面目標(biāo)樣本數(shù)42 375，水下目標(biāo)樣本數(shù)22 909，3 種輸入數(shù)據(jù)條件下LSTM網(wǎng)絡(luò)參數(shù)如表1 所示。

同時(shí)，為保證驗(yàn)證結(jié)果有效性，按照4/5 比例從樣本庫(kù)中隨機(jī)抽取數(shù)據(jù)組成多組訓(xùn)練樣本，剩余1/5 作為測(cè)試樣本，各組測(cè)試結(jié)果如表2 所示。

第1 組條件下LSTM 智能識(shí)別模型對(duì)時(shí)域數(shù)據(jù)、頻譜數(shù)據(jù)及MFCC 數(shù)據(jù)訓(xùn)練效果如圖3 所示。

以上幾組測(cè)試數(shù)據(jù)表明，在以時(shí)域時(shí)間序列數(shù)據(jù)、頻域頻譜數(shù)據(jù)和MFCC 特征數(shù)據(jù)作為輸入向量的情況下，采用LSTM 模型對(duì)水下目標(biāo)噪聲進(jìn)行識(shí)別分類是可行的。另外，在上述4 組訓(xùn)練模型條件下，輸入向量為時(shí)域數(shù)據(jù)時(shí)，對(duì)水面目標(biāo)分類正確率大于80%，對(duì)水下目標(biāo)分類正確率大于71%；輸入向量為頻譜數(shù)據(jù)時(shí)，對(duì)水面目標(biāo)分類正確率大于80%，對(duì)水下目標(biāo)分類正確率大于71%；輸入向量為MFCC 數(shù)據(jù)時(shí)，對(duì)水面目標(biāo)分類正確率大于84%，對(duì)水下目標(biāo)分類正確率大于74%。

表 1 LSTM 網(wǎng)絡(luò)參數(shù)Tab.1 Parameters of the LSTM

表 2 測(cè)試結(jié)果Tab.2 Test results

圖 3 訓(xùn)練效果圖Fig.3 Classification of Training data

3 結(jié) 語(yǔ)

本文提出一種基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的水下目標(biāo)智能識(shí)別方法。該方法首次將深度學(xué)習(xí)中的LSTM 長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)應(yīng)用于水下目標(biāo)噪聲識(shí)別，分別以噪聲信號(hào)的時(shí)域時(shí)間序列數(shù)據(jù)、頻域頻譜數(shù)據(jù)、MFCC 數(shù)據(jù)作為模型的輸入向量，有監(jiān)督預(yù)訓(xùn)練LSTM 模型，并對(duì)未知類別的水下目標(biāo)噪聲數(shù)據(jù)進(jìn)行了識(shí)別分類。識(shí)別結(jié)果表明，在上述3 種輸入數(shù)據(jù)條件下，該方法能夠有效區(qū)分水面、水下兩類目標(biāo)。從整個(gè)識(shí)別分類過(guò)程來(lái)看，區(qū)別于傳統(tǒng)水下目標(biāo)噪聲識(shí)別方法，該方法能夠在不依賴人工提取噪聲信號(hào)特征向量的基礎(chǔ)上對(duì)水下目標(biāo)進(jìn)行識(shí)別，滿足未來(lái)水下無(wú)人移動(dòng)聲學(xué)探測(cè)平臺(tái)智能化識(shí)別水下目標(biāo)的需求。