黃穎坤, 金煒東, 余志斌, 吳昀璞

(西南交通大學電氣工程學院, 四川 成都 610031)

0 引 言

雷達輻射源信號(radar emitter signal,RES)識別是雷達對抗信息處理的重要內(nèi)容,它是在分選的基礎上,提取信號中雷達的工作參數(shù)和特征參數(shù),然后利用這些參數(shù)獲取該雷達目標的體制、用途和型號、載體平臺等信息,進而對戰(zhàn)場態(tài)勢、威脅等級、活動規(guī)律、戰(zhàn)術意圖等進行推理,為己方?jīng)Q策提供重要情報支持[1]。作為一個典型的模式識別過程,RES識別的性能依賴于有效的分類特征。然而,面對當前廣泛應用的新型復雜體制雷達,基于常規(guī)五參數(shù)的RES識別方式已難以勝任現(xiàn)代戰(zhàn)場復雜的電磁環(huán)境。為彌補五參數(shù)對RES識別能力的不足,國內(nèi)外學者從時域[2-4]、頻域[5-7]、時頻域[8-14]等多角度進行分析,研究提出了多種新的RES特征,并取得了較好的識別效果。但是,截獲的雷達信號分布往往是未知的,而有效特征組合的選擇通常要依賴于專家的經(jīng)驗,識別的準確率難以保證。因此,尋求一種基于數(shù)據(jù)的自主特征學習方法對提升RES識別性能具有重要的意義。隨著近幾年人工智能技術的快速發(fā)展,雷達對抗信號處理朝智能化發(fā)展已成共識。其中,深度學習及其應用是人工智能領域的一個研究熱點。

當前,深度學習已經(jīng)在一些模式識別領域得到了很好的效果[15-19],諸如語音識別、圖像分類、自然語言處理等。同時,國內(nèi)外學者致力于將深度學習引入到RES識別上來[20-24]。如文獻[21]實現(xiàn)棧式編碼器(stacked auto encoder, SAE)對RES時頻圖像的特征提取,并通過仿真實驗驗證方法的有效性;文獻[22]提出了基于深度信念網(wǎng)絡(deep belief network, DBN)限制玻爾茲曼機的RES識別;文獻[23-24]首先對RES進行時頻分析,提取信號的時頻特征作為卷積神經(jīng)網(wǎng)絡(convolutional neural network,CNN)的輸入,訓練CNN進行RES識別。SAE、DBN和CNN都是一種較為常見的深度神經(jīng)網(wǎng)絡(deep neural networks,DNN)模型,它能對底層特征進行非線性組合,形成更為抽象、有效的特征。因此,本文采用文獻[25]提出的棧式降噪自編碼(stacked denoising autoencoders,SDAE)模型來學習RES的特征。同時,考慮到利用集成學習的思想能構建一個有效的組合分類器模型,可以用來替代大多數(shù)深度學習應用中采用的Softmax分類器?；诖?本文提出了一種結合深度學習和集成學習的RES識別方法,該模型的具體流程如圖1所示。首先,在預處理階段對信號進行去噪。由于瞬時頻率攜帶著大量表征RES調制特征的有效信息,且抗干擾性強。因此,利用Morlet小波變換來獲得RES的時頻圖像。然后,創(chuàng)建一個含有多個隱含層的DNN模型提取時頻圖像的深度特征。最后,在分類器設計階段,構造一個多SVM線性組合分類器(multi-SVM linear Combination Classifier,MSVMLC)進行分類識別。

圖1 基于深度學習和集成學習的RES識別流程圖Fig.1 Flow chart of RES recognition based on deep learning and ensemble learning

1 降噪自編碼

自編碼器(autoencoder,AE)通過編碼和解碼兩個過程實現(xiàn)對輸入的復現(xiàn),這個過程是一個自主特征學習的過程。自編碼器可以看成是含有一個3層的神經(jīng)網(wǎng)絡,包括一個輸入層、隱含層和輸出層。隱含層的輸出就是編碼器學習到的特征,是輸入不同層面的描述。AE的學習過程如圖2所示。

圖2 AE模型Fig.2 Model of AE

隱含層和輸出層通常選用Sigmoid作為激活函數(shù),通過梯度下降法最小化輸入和輸出的損失函數(shù),一般選擇交叉熵作為其損失函數(shù)WE:

該訓練過程沒有用到輸入的標簽,是一個無監(jiān)督的過程。在經(jīng)典AE的基礎上,一些“增強”的模型相繼提出,如降噪自編碼器(denoising AE, DAE)、卷積自編碼器(convolutional AE, CAE)[26]等。其中,DAE的思想是通過隨機的“擦除”輸入的某些特征,迫使模型學習這些“破損”的輸入數(shù)據(jù)進而獲得更具泛化能力的模型。

圖3是文獻[25]中關于DAE模型的原理圖。為了學習出一個更具魯棒性的識別模型,本文選用“堆疊”多個DAE的SDAE模型對雷達信號進行自主特征學習。該DNN模型通過將前一層的DAE輸出作為下一層DAE的輸入,依次訓練各DAE直到最后一層結束,則可以在頂層學習到輸入的更抽象表示。

圖3 DAE模型結構Fig.3 Model of DAE

2 多SVM分類器組合算法

SVM是一種基于統(tǒng)計學習理論的分類算法,它在許多模式識別和數(shù)據(jù)挖掘任務中被廣泛應用。SVM分類器不僅具有較強的泛化能力,并且,對于線性不可分數(shù)據(jù),可以通過核函數(shù)將數(shù)據(jù)映射到高維空間進行分類。常用的核函數(shù)有,線性核函數(shù)、高斯核函數(shù)、多項式核函數(shù)等等。目前,對于一個給定的分類任務,SVM核函數(shù)的選擇仍然是一個研究的難點,而多SVM組合是解決這個問題的一個有效方法。因此,本文采用組合SVM分類器具有如下的優(yōu)點:

(1) 根據(jù)上面的分析,組合SVM分類器可以避免核函數(shù)選擇的問題;

(2) 基于不同核函數(shù)的SVM在相同的訓練集上具有不同的性能,對它們的輸出結果進行組合可以提高分類的性能。

2.1 分類器線性組合算法

多分類器組合算法是一種模型融合方法,它的基本思想是假設不同的分類器能為結果提供不同側面的信息,通過融合這些信息就可以對最終的決策提供更好的支持。文獻[27]提出了一種深度模型的線性集成的方法,該方法通過組合不同DNN模型的輸出來訓練一個HMM分類器,以此來獲得比單一DNN模型更好的結果。本文在文獻[27]的基礎上,構造了一種基于后驗概率的多分類器線性組合模型,具體描述如下。

考慮一個模式分類任務z,其中z可以被分配到c個模式類別中的一個,則待分類對象有c個模式類別{ω1,…,ωj,…,ωc}。令P=[p(x1),…,p(xi),…,p(xN)]T∈RN×c為N個樣本的真實后驗概率,p(xi)∈R1×c表示樣本xi的真實后驗概率為

p(xi)=[p(ω1|xi),…,p(ωc|xi)]

顯然,xi屬于某一類別的后驗概率為“1”,反之為“0”。假設有M個分類器,可以用Pk=[pk(x1),…,pk(xi),…,pk(xN)]T∈RN×c來表示第k個分類器對N個樣本的后驗概率。其中,pk(xi)∈R1×c表示分類器k對樣本xi的后驗概率輸出為

pk(xi)=[pk(ω1|xi),…,pk(ωc|xi)]

多分類器線性組合策略的基本思想是:組合模型判定樣本屬于某一模式類別的決策值是由多個分類器的輸出決策值進行線性組合來獲取的,可以形式化的描述為

p(ωj|xi)≈α1p1(ωj|xi)+…+αMpM(ωj|xi)+bi

進一步,多分類器的線性組合模型就可以描述為

(1)

式中,Wk∈Rc×c表示分類器的權值矩陣;bT∈Rc×1為偏置向量。對式(1)的參數(shù)進行估計使組合模型的輸出值與真實值之間的差異最小,這個差異可以采用最小平方誤差來衡量,即

∑i‖pcom(xi)-p(xi)T‖2

(2)

在參數(shù)估計問題中,為了避免模型過擬合,通常在其損失函數(shù)中加入正則化項[28]。考慮到模型參數(shù)的便于求解,為損失函數(shù)增加L2-正則化項,所以式(2)改寫為

∑i‖pcom(xi)-p(xi)T‖2+

(3)

式中,γk是正則化參數(shù),可以使用交叉驗證的方法進行選擇。式(3)是一個多元函數(shù)求極值問題,可以用最小二乘法進行求解。首先,通過求解W、bT的偏導數(shù),即

則

解方程組可以解得:[WbT]=BA-1。其中,A和B的值分別為

A3=[∑ip1(xi),…,∑ipM(xi)]

B=[PTP1,…,PTPM,∑ipT(xi)]

本文選擇4種不同的SVM模型,分別是基于線性核的SVM(記為SVM_LK)、基于多項式核的SVM(記為SVM_PK),基于高斯核的SVM(記為SVM_GK),基于Sigmoid核的SVM(記為SVM_SK)。從效果上看,組合多SVM分類器可以在一定程度上避免了SVM核函數(shù)選擇的問題。但是,標準SVM無法給出樣本的后驗概率輸出,為了使用本文的線性組合算法,需要尋求一種SVM后驗概率輸出的方法。

2.2 SVM的后驗概率輸出

對于模式分類而言,標準SVM可以得到樣本屬于某一類別的決策值,卻無法給出其相應的后驗概率。但是,決策值和后驗概率之間存在一定的關聯(lián)性,樣本的決策值絕對值越大表明其屬于某一類別可信度越高,因此可以考慮用決策值獲取樣本的后驗概率。可以采用Platt[29]提出的方法獲得SVM的后驗概率。該方法的本質是通過訓練數(shù)據(jù)擬合出一個Sigmoid模型,該模型可以實現(xiàn)SVM的決策值到后驗概率的映射。Sigmoid模型可以表示為

式中,f是SVM輸出的決策值;參數(shù)A、B可以通過訓練得出。應當注意的是,該方法只適用于二分類問題,對于多分類問題可以將其劃為多個二分類問題,分別求出相應的后驗概率后進行歸一化處理[30]。

3 仿真實驗和結論分析

通過仿真8種常見的RES信號來驗證本文方法的有效性,包括具有恒定頻率的常規(guī)信號、線性調頻信號(linear frequency modulation, LFM)、非線性調頻信號(nonlinear frequency modulation, NLFM)、二相編碼信號(binary phase shift keying, BPSK)、二進制頻率編碼信號(binary frequency-shift keying, BFSK)、Chirp子脈沖步進頻率信號(CSF)、多相編碼信號(multiple phase shift keying, MPSK)和Costas編碼信號。信號載頻為100 MHz,采樣頻率為500 MHz,脈寬為1.8 μs。其中,BPSK和BFSK采用13位Barker碼;CSF的步進頻率10 MHz;MPSK采用16位Frank碼;NLFM采用正弦波調制;Costas編碼信號包含10個子碼;BFSK的兩個頻率分別是100 MHz和20 MHz。在20～30dB的信噪比范圍內(nèi),每種信號樣式每隔5 dB產(chǎn)生10個脈沖信號,總計160個脈沖信號作為SDAE模型的訓練樣本。同時,分別在-5 dB、-2 dB、0 dB、2 dB、5 dB信噪比下各仿真800個脈沖信號作為測試樣本,每一信號樣式各100個脈沖。本次實驗都是在MatlabR2015a+LibSVM 3.12平臺下完成的,同時使用DeepLearnToolbox工具箱搭建所需的SDAE模型。選擇LibSVM工具箱除了便于SVM模型的搭建外,并且該工具箱采用文獻[29]提出的方法獲得SVM的后驗概率輸出。

實驗1為了驗證SDAE特征學習的有效性,本文選用幾種傳統(tǒng)的人工提取的特征進行比較。如文獻[3-4]提取了RES頻域的復雜度特征,包括盒維數(shù)(box dimension, BD)、范數(shù)熵(norm entropy, NoEn)和稀疏度(sparseness factor, SF);文獻[8]提取了RES的小波脊頻級聯(lián)特征(wavelet ridge-frequency cascade-feature, WRFCCF),該特征向量由小波脊頻上的7維統(tǒng)計特征組成的。對于復雜度特征和WRFCCF,分別選擇基于線性核函數(shù)的SVM和基于高斯核函數(shù)的SVM來獲得最佳的識別效果。然后,構造含有3層隱含層的SDAE模型(784-100-100-100-8),模型的參數(shù)設置采用DeepLearnToolbox工具箱默認值,最后使用Softmax分類器進行分類。其中,SDAE模型的輸入特征是RES的時頻圖像。各方法的分類平均正確率如表1所示。

表1的結果可以看出,基于SDAE模型提取的特征在較低SNR下表現(xiàn)出良好的性能,并比基于文獻[3-4,8]提出的特征獲得更高的正確率,其中在SNR=-2 dB條件下仍有大于83%的準確率;基于復雜度參數(shù)的方法效果較差,主要原因是復雜度參數(shù)刻畫信號波形的信息,在較低SNR下波形失真較為嚴重;同樣的,基于WRFCCF特征的方法在SNR=5 dB也只有69%左右的準確率,表現(xiàn)出對噪聲的敏感性。

實驗2為了驗證多SVM組合模型能有效提升RES識別正確率,本文提取實驗1中SDAE模型的最后一個隱含層的輸出值作為各對比分類器(SVM_LK、SVM_PK、SVM_GK、SVM_SK)的輸入特征(參數(shù)設置采用LibSVM工具箱默認值)。同時,依據(jù)第2節(jié)描述的算法,組合這4種不同SVM進行對比,實驗結果如表2所示。

表2 不同SVM的分類正確率比較

從表1和表2可以看出,基于線性核函數(shù)的SVM相較于傳統(tǒng)的Softmax分類器在分類正確率上均有一定程度地提升(除了SNR=-2 dB的情況),而本文提出的組合模型能獲得了比其他4種SVM分類器具有更好的效果。圖4是不同分類模型在不同信噪比下對8種雷達信號的分類正確率曲線,容易看出SVM_PK、SVM_PK、SVM_LK和SVM_SK這4個不同的SVM分類器在分類性能上非常相近,其中,SVM_LK的分類性能最好。同時,通過對比圖4中的性能曲線可以看出,組合這4種SVM的集成模型獲得了更好的分類正確率。

圖4 不同SNR下8種RES的識別率Fig.4 Recognition result of 8 types of RES in different SNR

最后,為了進一步對各分類模型的性能進行對比,構造一個測試集進行測試,包含上述實驗中信噪比在-5～5 dB的所有信號。表3是6種不同分類模型對測試集的分類正確率,從表中可以看出,相較于SDAE+Softmax模型,本文的組合模型可以提高2個百分點的分類正確率。并且,該組合模型也能獲得比單獨使用SVM進行分類更好的性能。

表3 分類正確率比較

4 結 論

本文提出了一種基于深度學習和集成學習的融合模型,并應用于RES的分類識別,并通過仿真8種常見RES信號進行驗證。實驗1的結果表明了相較于文獻[3-4,8]提取的傳統(tǒng)人工特征,本文基于SDAE模型提取的RES特征獲得更高的正確率。根據(jù)實驗2的結果可以得出:MSVMLC模型能進一步提升RES識別性能。另外,值得注意的是,基于DNN模型提取的特征參數(shù)難以解釋其物理意義,并且DNN模型的訓練通常需要大量的有標簽數(shù)據(jù),因此需要完備的RES數(shù)據(jù)作為支持。