李 霜,董 瑋,董會(huì)旭,凌云飛,張歆東
(1.吉林大學(xué)電子科學(xué)與工程學(xué)院,長(zhǎng)春,130012; 2.空軍航空大學(xué)航空作戰(zhàn)勤務(wù)學(xué)院,長(zhǎng)春,130022)
輻射源信號(hào)識(shí)別是電子對(duì)抗偵察的關(guān)鍵部分[1-2],識(shí)別敵方雷達(dá)信號(hào),獲取戰(zhàn)場(chǎng)信息,為戰(zhàn)役指揮決策提供了關(guān)鍵的判斷依據(jù)。早期戰(zhàn)場(chǎng)電磁環(huán)境相對(duì)簡(jiǎn)單,人工提取特征后通過(guò)與雷達(dá)數(shù)據(jù)庫(kù)比對(duì),能夠較為準(zhǔn)確地識(shí)別雷達(dá)信號(hào)。文獻(xiàn)[3]提出了一種融合先驗(yàn)信息的輻射源信號(hào)識(shí)別方法;文獻(xiàn)[4]提出了基于小波網(wǎng)絡(luò)對(duì)不同脈沖重復(fù)間隔模式的輻射源信號(hào)識(shí)別方法。這些方法在并不復(fù)雜的電磁環(huán)境下具有較好的識(shí)別能力,但是在電磁環(huán)境日益復(fù)雜的背景下,這類(lèi)方法的識(shí)別速度和識(shí)別精度不能滿(mǎn)足識(shí)別要求。如何在復(fù)雜的電磁環(huán)境[5-7]中準(zhǔn)確地識(shí)別信號(hào)成為亟待解決的問(wèn)題。
深度學(xué)習(xí)(deep learning,DL)作為機(jī)器學(xué)習(xí)中的分支,近年來(lái)廣泛應(yīng)用在計(jì)算機(jī)視覺(jué)[8]、智能控制[9]、自然語(yǔ)言處理[10-11]等領(lǐng)域,在輻射源信號(hào)識(shí)別中也具有優(yōu)異的性能。文獻(xiàn)[12]對(duì)雷達(dá)信號(hào)的偽WVD和CWD時(shí)頻圖像提取特征,并用多層感知機(jī)、徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)、概率神經(jīng)網(wǎng)絡(luò)3種分類(lèi)器對(duì)信號(hào)進(jìn)行識(shí)別,但是在低信噪比條件下,部分信號(hào)的識(shí)別精度較低;文獻(xiàn)[13]利用AlexNet 網(wǎng)絡(luò)模型對(duì)信號(hào)的時(shí)頻圖進(jìn)行分類(lèi)識(shí)別,將信號(hào)轉(zhuǎn)化為二維圖像進(jìn)行識(shí)別,提高了識(shí)別精度,但大幅度增加了計(jì)算量,耗時(shí)較長(zhǎng),樣本量較大時(shí)并不適用。
為解決上述問(wèn)題,本文引入U(xiǎn)Net3+[14]網(wǎng)絡(luò)對(duì)輻射源信號(hào)進(jìn)行識(shí)別。UNet3+網(wǎng)絡(luò)能處理序列數(shù)據(jù),相較于處理時(shí)頻圖像的方法,計(jì)算量較小,可以適應(yīng)樣本量較大的情況。UNet3+網(wǎng)絡(luò)能自主進(jìn)行信號(hào)特征提取,無(wú)需人為選擇特征,相較于人工提取特征的方法,能較為全面地提取特征,適應(yīng)多數(shù)類(lèi)型信號(hào)的識(shí)別。該網(wǎng)絡(luò)通過(guò)全尺度跳過(guò)連接將數(shù)據(jù)的深層特征和淺層特征進(jìn)行融合[15-17],充分提取了數(shù)據(jù)特征,進(jìn)而擁有較高的識(shí)別準(zhǔn)確率。本文在UNet3+的基礎(chǔ)上,將5層級(jí)的UNet3+網(wǎng)絡(luò)刪減為3層級(jí),保留其特征融合能力的同時(shí)降低了網(wǎng)絡(luò)的復(fù)雜度,并引入注意力機(jī)制,優(yōu)化了模型性能,在低信噪比的條件下也擁有較好的識(shí)別能力。
圖1 UNet3+網(wǎng)絡(luò)的結(jié)構(gòu)圖
注意力機(jī)制[21-24]是從人類(lèi)視覺(jué)的注意力機(jī)制得到啟發(fā):人類(lèi)在觀察事物時(shí),先全面觀察,再經(jīng)過(guò)大腦處理,挑選出需要重點(diǎn)關(guān)注的位置仔細(xì)觀察,得到關(guān)鍵信息。
特征提取是信號(hào)識(shí)別的關(guān)鍵。注意力機(jī)制能篩選出重要信息,其具體表現(xiàn)形式為會(huì)根據(jù)信息的重要程度分配不同的概率權(quán)重,網(wǎng)絡(luò)會(huì)更加注重權(quán)重系數(shù)較大的信息,忽略一些無(wú)需關(guān)注的信息,突出關(guān)鍵信息的影響,增強(qiáng)模型判斷的準(zhǔn)確性,提升識(shí)別速度。
注意力機(jī)制的具體實(shí)現(xiàn)流程如圖2所示。
圖2 注意力機(jī)制實(shí)現(xiàn)流程
如圖2所示,[x1,x2,…,xt-1,xt]表示輸入的輻射源信號(hào)信息,計(jì)算注意力主要分為以下3步:
步驟 1計(jì)算權(quán)重:
et=utanh(ωkt+b)
(1)
式中:b是偏置系數(shù);u和ω是權(quán)重系數(shù)。
步驟 2對(duì)上一步得到的權(quán)重et歸一化,得到的at為注意力機(jī)制對(duì)神經(jīng)網(wǎng)絡(luò)隱藏層輸出的注意力概率權(quán)重:
(2)
步驟 3將注意力概率權(quán)重和輻射源信號(hào)中各元素進(jìn)行加權(quán)求和得到注意力輻射源信號(hào):
(3)
神經(jīng)網(wǎng)絡(luò)是通過(guò)提取到的特征進(jìn)行判斷識(shí)別,提取到較好的特征有助于提高識(shí)別能力。UNet3+網(wǎng)絡(luò)通過(guò)全尺度跳過(guò)連接進(jìn)行特征融合,淺層特征和深層特征互相補(bǔ)充,更好地描述了信號(hào)特征,避免特征丟失,網(wǎng)絡(luò)能通過(guò)更多的特征去判斷識(shí)別信號(hào),識(shí)別能力較好。未改進(jìn)的UNet3+網(wǎng)絡(luò)模型雖然能充分地提取信號(hào)特征,但也具有一定的局限性:由UNet3+網(wǎng)絡(luò)的結(jié)構(gòu)圖可知,每增加一個(gè)網(wǎng)絡(luò)層級(jí),就要進(jìn)行更多的特征融合,即使充分提取信號(hào)特征,但模型結(jié)構(gòu)過(guò)于復(fù)雜,需要進(jìn)行更多的運(yùn)算,大幅度增加網(wǎng)絡(luò)的訓(xùn)練時(shí)間。針對(duì)上述問(wèn)題,本文將5層級(jí)的UNet3+網(wǎng)絡(luò)刪減為3層級(jí),降低網(wǎng)絡(luò)的復(fù)雜度,避免進(jìn)行過(guò)多的特征融合,減少了網(wǎng)絡(luò)的運(yùn)算量,提高網(wǎng)絡(luò)的訓(xùn)練速度。網(wǎng)絡(luò)雖然提取到了詳細(xì)的數(shù)據(jù)特征,但在判斷識(shí)別信號(hào)時(shí),并不是提取到的所有的特征都有助于判斷識(shí)別信號(hào),有些特征是多余的,故在此基礎(chǔ)上,引入注意力機(jī)制,注意力機(jī)制通過(guò)分配不同的概率權(quán)重,使網(wǎng)絡(luò)能關(guān)注重要的特征,忽略無(wú)關(guān)的特征,將多余的特征無(wú)效化,這樣就能突出提取到的所有的特征中較為關(guān)鍵的特征的影響,進(jìn)一步提高網(wǎng)絡(luò)的訓(xùn)練速度和識(shí)別準(zhǔn)確率。
改進(jìn)UNet3+網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。
圖3 本文模型的網(wǎng)絡(luò)結(jié)構(gòu)
圖3中黃色虛線框中的是3個(gè)一維卷積池化層,通過(guò)32個(gè)長(zhǎng)度為5的卷積核處理數(shù)據(jù),最大池化層的大小都為2,在每個(gè)卷積池化層后接正則化層,防止過(guò)擬合現(xiàn)象,3個(gè)正則化層的系數(shù)分別為0.2、0.1、0.1。網(wǎng)絡(luò)通過(guò)這些結(jié)構(gòu)進(jìn)行特征提取。再經(jīng)過(guò)卷積層4、5、6處理數(shù)據(jù),他們通過(guò)8個(gè)長(zhǎng)度為5的卷積核處理數(shù)據(jù),再通過(guò)全尺度跳過(guò)連接的方式進(jìn)行特征融合,如藍(lán)色虛框所示,其中卷積層7、8是通過(guò)8個(gè)長(zhǎng)度為7的卷積核處理數(shù)據(jù),卷積池化層9是通過(guò)8個(gè)長(zhǎng)度為7的卷積核處理數(shù)據(jù),最大池化層的大小為2,在特征融合層2后接綠色虛線框內(nèi)的注意力層。批量歸一化(batch normalization,BN)層2后接的正則化層系數(shù)為0.4,最后在正則化層后接平鋪層和全連接層。
步驟 1數(shù)據(jù)輸入。將輻射源數(shù)據(jù)和對(duì)應(yīng)的標(biāo)簽輸入到網(wǎng)絡(luò)模型中。
步驟 2數(shù)據(jù)預(yù)處理。將標(biāo)簽轉(zhuǎn)換成獨(dú)熱碼。
步驟 3建立數(shù)據(jù)集。以0.47∶0.23∶0.3的比例將樣本劃分為訓(xùn)練集、驗(yàn)證集、測(cè)試集,并使用隨機(jī)種子將其打亂。
步驟 4設(shè)置早停機(jī)制。當(dāng)驗(yàn)證集損失不再減小,再經(jīng)過(guò)5輪訓(xùn)練后損失仍沒(méi)有低于最小值,則終止訓(xùn)練。
步驟 5編譯網(wǎng)絡(luò)。選擇Adam作為網(wǎng)絡(luò)的優(yōu)化器,使用categorical_crossentropy計(jì)算損失。
步驟 6設(shè)置學(xué)習(xí)率動(dòng)態(tài)調(diào)整機(jī)制。最初將學(xué)習(xí)率為設(shè)置0.000 1,網(wǎng)絡(luò)訓(xùn)練時(shí),當(dāng)驗(yàn)證集損失增大,學(xué)習(xí)率將會(huì)衰減為原來(lái)的一半,設(shè)置學(xué)習(xí)率最多衰減為0.000 012 5。
步驟 7模型訓(xùn)練。設(shè)置一次訓(xùn)練所選取的樣本數(shù)為512、最大訓(xùn)練輪數(shù)為50輪進(jìn)行訓(xùn)練。
本文使用MATLAB仿真不同調(diào)制類(lèi)型的信號(hào)的序列數(shù)據(jù)驗(yàn)證模型性能,仿真的8種信號(hào)為:BPSK、Costas、FMCW、Frank、P1、P2、P3和P4,是未經(jīng)時(shí)頻分析處理的脈內(nèi)數(shù)據(jù),將脈內(nèi)數(shù)據(jù)采樣,對(duì)采樣后的結(jié)果截取成長(zhǎng)度為1 024×1的數(shù)據(jù),直接輸入到網(wǎng)絡(luò)中,載頻為1~1.2 kHz,信噪比為-20~10 dB,為全頻段功率信噪比[25],信噪比的間隔為2 dB,共16種信噪比,在每種信噪比條件下,8種信號(hào)共產(chǎn)生2 000個(gè)長(zhǎng)度為1 024的樣本,所以數(shù)據(jù)集的樣本總數(shù)為256 000個(gè):訓(xùn)練集的樣本總數(shù)為120 063,驗(yàn)證集的樣本總數(shù)為59 127,測(cè)試集的樣本總數(shù)為76 800,所有樣本隨機(jī)打亂進(jìn)行訓(xùn)練。信號(hào)的具體參數(shù)見(jiàn)表1。計(jì)算機(jī)配置見(jiàn)表2。
表1 8種信號(hào)的主要參數(shù)
表2 計(jì)算機(jī)配置
為了探究刪減網(wǎng)絡(luò)層級(jí)對(duì)網(wǎng)絡(luò)的影響,對(duì)5層級(jí)的UNet3+模型和3層級(jí)的UNet3+模型做對(duì)比試驗(yàn),其他參數(shù)保持不變,評(píng)價(jià)標(biāo)準(zhǔn)為測(cè)試集的準(zhǔn)確率,訓(xùn)練集的訓(xùn)練時(shí)間。實(shí)驗(yàn)結(jié)果見(jiàn)表3。
表3 刪減網(wǎng)絡(luò)層級(jí)對(duì)網(wǎng)絡(luò)的影響
由表3可知,3層級(jí)UNet3+的訓(xùn)練時(shí)間比5層級(jí)UNet3+的訓(xùn)練時(shí)間少522 s,準(zhǔn)確率沒(méi)有太大改變,說(shuō)明刪減后的3層級(jí)UNet3+網(wǎng)絡(luò)在不降低網(wǎng)絡(luò)識(shí)別準(zhǔn)確率的同時(shí)提升了識(shí)別速度,減低了網(wǎng)絡(luò)模型的復(fù)雜度,提升了模型的泛化能力。
為了探究全尺度跳過(guò)連接的特征融合對(duì)網(wǎng)絡(luò)識(shí)別能力的影響,以是否進(jìn)行全尺度跳過(guò)連接的特征融合作為自變量,分別訓(xùn)練無(wú)特征融合的UNet3+模型和有特征融合的UNet3+模型做對(duì)比試驗(yàn)(二者都是5層級(jí)的網(wǎng)絡(luò)模型),其他參數(shù)保持不變,評(píng)價(jià)標(biāo)準(zhǔn)為測(cè)試集的準(zhǔn)確率和損失、訓(xùn)練集的訓(xùn)練時(shí)間。實(shí)驗(yàn)結(jié)果如表4所示。
表4 特征融合對(duì)網(wǎng)絡(luò)識(shí)別能力的影響
由表4可知,進(jìn)行特征融合的UNet3+模型訓(xùn)練時(shí)間較長(zhǎng),因?yàn)樘卣魅诤虾笮枰幚淼臄?shù)據(jù)變多,導(dǎo)致訓(xùn)練時(shí)間變長(zhǎng);在準(zhǔn)確率、損失上效果更好,說(shuō)明UNet3+模型通過(guò)特征融合保留了更多的細(xì)節(jié)信息,充分利用了原始數(shù)據(jù)集,可以通過(guò)更多的特征進(jìn)行識(shí)別,進(jìn)而提高識(shí)別能力。
為了探究引入注意力機(jī)制帶來(lái)的影響,將是否引入注意力機(jī)制作為自變量進(jìn)行對(duì)比試驗(yàn),評(píng)價(jià)標(biāo)準(zhǔn)為測(cè)試集的準(zhǔn)確率、訓(xùn)練集的訓(xùn)練輪數(shù)和訓(xùn)練時(shí)間,實(shí)驗(yàn)結(jié)果如表5所示。
表5 注意力機(jī)制實(shí)驗(yàn)結(jié)果
由表5可知,有注意力機(jī)制的UNet3+網(wǎng)絡(luò)訓(xùn)練時(shí)間更短、訓(xùn)練輪數(shù)更少,網(wǎng)絡(luò)的識(shí)別能力約提高了0.9%,可以看出注意力機(jī)制小幅度提升了識(shí)別準(zhǔn)確率,大幅度提高了識(shí)別速度,這是因?yàn)樽⒁饬C(jī)制對(duì)需要關(guān)注的特征分配了更多的注意力資源,忽略一些無(wú)需關(guān)注的特征,進(jìn)而提高網(wǎng)絡(luò)對(duì)輻射源信號(hào)的識(shí)別能力。
為進(jìn)一步探究注意力機(jī)制提升網(wǎng)絡(luò)識(shí)別準(zhǔn)確率和訓(xùn)練速度的原因,實(shí)驗(yàn)將注意力層的概率權(quán)重?cái)?shù)值畫(huà)出圖像,實(shí)驗(yàn)分為以下3步:
步驟 1隨機(jī)從P3信號(hào)中抽取一個(gè)長(zhǎng)度為1024的數(shù)據(jù),直接輸入到訓(xùn)練好的有注意力機(jī)制的UNet3+模型中。
步驟 2通過(guò)get_layer函數(shù)獲得注意力層的概率權(quán)重。因?yàn)榫W(wǎng)絡(luò)模型結(jié)構(gòu)的原因,獲得的數(shù)據(jù)長(zhǎng)度為(1×1 536×8)。
步驟 3將步驟2中獲得的三維張量展平,長(zhǎng)度為(1×12 288)畫(huà)出圖像,注意力層概率權(quán)重如圖4所示。
圖4 注意力層的概率權(quán)重
概率權(quán)重是由輻射源信號(hào)和輻射源信號(hào)中各元素權(quán)值的相似度計(jì)算得出的,從圖4可以清楚地看出得到的是一組長(zhǎng)短明顯的針狀圖,說(shuō)明有的輻射源信號(hào)元素分配了較小的概率權(quán)重,即注意力機(jī)制抑制了不重要特征,有的輻射源信號(hào)元素分配了較大的概率權(quán)重,說(shuō)明注意力機(jī)制保留了關(guān)鍵信息,最終突出了關(guān)鍵信息的影響,進(jìn)而提升網(wǎng)絡(luò)的識(shí)別能力。
實(shí)驗(yàn)4分為3個(gè)小實(shí)驗(yàn)進(jìn)一步探究模型的識(shí)別能力。
1)小實(shí)驗(yàn)1:為了探究本文模型對(duì)比常見(jiàn)深度學(xué)習(xí)模型的優(yōu)勢(shì)。用本文模型與CLDNN[26]模型、GRU[27]模型、VGG16[28]、AlexNet[29]4種常用的經(jīng)典網(wǎng)絡(luò)模型以及未改進(jìn)UNet3+模型進(jìn)行對(duì)比試驗(yàn)。在不同信噪比下的識(shí)別準(zhǔn)確率如圖5所示。
圖5 不同深度學(xué)習(xí)模型在不同信噪比下的識(shí)別準(zhǔn)確率
從圖5中可以看出,本文模型曲線全程在最上方,說(shuō)明本文模型的識(shí)別精度最高,尤其是在信噪比最低的-20 dB的條件下,本文模型的準(zhǔn)確率高于80%,遠(yuǎn)高于大部分經(jīng)典模型。
2)小實(shí)驗(yàn)2:為了探究本文模型在復(fù)雜電磁環(huán)境下的識(shí)別能力,使用訓(xùn)練完成的模型對(duì)不同信噪比下的8類(lèi)信號(hào)的測(cè)試集進(jìn)行識(shí)別,實(shí)驗(yàn)結(jié)果如圖6所示。
圖6 8類(lèi)信號(hào)識(shí)別準(zhǔn)確率
由圖6中可以看出,在噪聲較嚴(yán)重的-16 dB的信噪比條件下,8類(lèi)信號(hào)的識(shí)別準(zhǔn)確率皆能達(dá)到90%,在噪聲最嚴(yán)重的-20 dB信噪比條件下,8類(lèi)信號(hào)均有高于70%的識(shí)別準(zhǔn)確率,其中FMCW信號(hào)識(shí)別準(zhǔn)確率最低為72%,說(shuō)明在低信噪比環(huán)境下FMCW信號(hào)最難識(shí)別。綜上所述,本文模型是基本能夠滿(mǎn)足低信噪比條件下識(shí)別要求的。
3)小實(shí)驗(yàn)3:圖7為8類(lèi)信號(hào)的混淆矩陣。圖中深藍(lán)色對(duì)角線為正確識(shí)別出8類(lèi)信號(hào)的概率,對(duì)角線外的區(qū)域是錯(cuò)誤分類(lèi)識(shí)別信號(hào)的概率。由圖7可知,8類(lèi)信號(hào)的識(shí)別準(zhǔn)確率均能達(dá)到94%以上,其中Costas與BPSK、Costas與FMCW、FMCW與BPSK錯(cuò)誤率比較高,說(shuō)明分類(lèi)識(shí)別他們的能力較低。其他錯(cuò)誤區(qū)域錯(cuò)誤率全部低于1%,說(shuō)明本文網(wǎng)絡(luò)識(shí)別能力較好,基本能夠滿(mǎn)足輻射源信號(hào)的識(shí)別要求。
圖7 8類(lèi)信號(hào)混淆矩陣
本文在UNet3+模型的基礎(chǔ)上進(jìn)行改進(jìn),在減少網(wǎng)絡(luò)層級(jí)的同時(shí),保留了UNet3+網(wǎng)絡(luò)的特征融合能力,并引入了注意力機(jī)制,進(jìn)一步優(yōu)化了模型性能。實(shí)驗(yàn)表明,本文提出的網(wǎng)絡(luò)能夠較為準(zhǔn)確地識(shí)別8種輻射源信號(hào),尤其是在信噪比較低時(shí),相較于經(jīng)典網(wǎng)絡(luò)模型,能夠更加準(zhǔn)確地識(shí)別信號(hào)。綜上所述,本文提出的模型在低信噪比條件下能較好地識(shí)別雷達(dá)信號(hào),更加適應(yīng)戰(zhàn)場(chǎng)上復(fù)雜的電磁環(huán)境。