姚君宇，許小東

(中國(guó)科學(xué)技術(shù)大學(xué) 電子工程與信息科學(xué)系，安徽 合肥 230031)

0 引言

SEI能通過(guò)接收信號(hào)中的細(xì)微特征識(shí)別不同的無(wú)線電發(fā)射機(jī)[1]，在不同領(lǐng)域擁有廣泛應(yīng)用，例如軍事情報(bào)偵察、電子對(duì)抗以及設(shè)備故障診斷等。傳統(tǒng)的SEI方法將SEI問(wèn)題看作一種模式識(shí)別問(wèn)題[2]，首先從信號(hào)中人工提取RFF特征，然后將其通過(guò)分類器來(lái)完成識(shí)別任務(wù)。在RFF特征中，雙譜特征[3-4]由于其良好的抗噪性能和較穩(wěn)定的分離性而被廣泛使用。然而由于其主要通過(guò)信號(hào)的相頻特性來(lái)對(duì)輻射源進(jìn)行識(shí)別，難以提取輻射源的其他內(nèi)在細(xì)微特征[3]。在非協(xié)作通信情況下，無(wú)法取得完整的輻射源先驗(yàn)信息，僅使用雙譜特征難以對(duì)輻射源進(jìn)行準(zhǔn)確識(shí)別[4]。

近年來(lái)，深度學(xué)習(xí)方法在SEI的應(yīng)用中取得了進(jìn)展。通過(guò)神經(jīng)網(wǎng)絡(luò)來(lái)直接學(xué)習(xí)信號(hào)中的深層隱性特征[5-6]使得深度學(xué)習(xí)方法相較于特征提取方法獲得了更高的識(shí)別率，并且降低了對(duì)信號(hào)先驗(yàn)信息的需求[7]。在非協(xié)作通信中，通常只能得到大量無(wú)標(biāo)簽數(shù)據(jù)和少量有標(biāo)簽數(shù)據(jù)。為了應(yīng)對(duì)這種標(biāo)簽數(shù)據(jù)集缺失的情況，遷移學(xué)習(xí)[8]、數(shù)據(jù)增強(qiáng)[9-10]都是可行方法，然而這些方法需要數(shù)據(jù)的先驗(yàn)信息或是龐大的初始樣本數(shù)據(jù)庫(kù)。相比之下，貝葉斯神經(jīng)網(wǎng)絡(luò)[11]不需要任何先驗(yàn)信息和初始樣本，具有較好的通用性。貝葉斯神經(jīng)網(wǎng)絡(luò)通過(guò)提升網(wǎng)絡(luò)的泛化能力，來(lái)克服訓(xùn)練集稀少時(shí)遇到的過(guò)擬合問(wèn)題。在圖像[12]以及文本識(shí)別[13]等領(lǐng)域，貝葉斯神經(jīng)網(wǎng)絡(luò)已經(jīng)被證明可以在標(biāo)簽訓(xùn)練集更少的情況下達(dá)到和傳統(tǒng)深度學(xué)習(xí)方法相同的識(shí)別率，并且通過(guò)半監(jiān)督學(xué)習(xí)[14]可以更好地利用大量的無(wú)標(biāo)簽數(shù)據(jù)。

為了克服非協(xié)作通信中的問(wèn)題，在神經(jīng)網(wǎng)絡(luò)框架下，使用雙譜灰度直方圖特征和貝葉斯CNN相結(jié)合，通過(guò)回歸擬合射頻指紋特征來(lái)指導(dǎo)CNN訓(xùn)練，并且結(jié)合了基于模糊度的半監(jiān)督學(xué)習(xí)方式，在有限的標(biāo)簽數(shù)據(jù)下，進(jìn)一步提高輻射源的識(shí)別率。在模擬數(shù)據(jù)集和真實(shí)數(shù)據(jù)集中，對(duì)提出的方法和其他SEI方法進(jìn)行了性能比較。

1 問(wèn)題描述與相關(guān)知識(shí)

1.1 問(wèn)題模型

SEI是從接收信號(hào)中提取出輻射源的本質(zhì)差異信息，以此分辨不同輻射源，從而識(shí)別輻射源個(gè)體。一個(gè)典型的SEI系統(tǒng)如圖1所示。

圖1 SEI基本過(guò)程

考慮只有一個(gè)接收器截獲來(lái)自某個(gè)感興趣區(qū)域的可能無(wú)線信號(hào)。假設(shè)可以單獨(dú)捕獲每一個(gè)發(fā)射機(jī)的信號(hào)，不存在盲分離的問(wèn)題。每個(gè)發(fā)射機(jī)的發(fā)射信號(hào)為：

si(t)=gi(mi(t),qi),i=1,2,…,N，

(1)

式中，si(t)包含了需要傳送的調(diào)制信息mi(t)和設(shè)備指紋信息qi；gi為輻射源發(fā)射機(jī)模型，包括功放、相噪和濾波器等多種器件的非線性因素的影響，這些器件的相互影響正是指紋特征p的來(lái)源。接收信號(hào)可以表示為：

yi(t)=si(t)?hi(t)+ni(t),i=1,2,…,N，

(2)

式中，hi(t)表示發(fā)射機(jī)與接收機(jī)之間的信道；ni(t)表示零均值的加性高斯白噪聲；?表示卷積運(yùn)算。

接收機(jī)接收的信號(hào)經(jīng)變頻、A/D變換等處理也會(huì)受接收機(jī)器件非線性影響，輸出信號(hào)為：

(3)

1.2 貝葉斯CNN

與傳統(tǒng)CNN不同，貝葉斯CNN(BCNN)[15]所訓(xùn)練出的網(wǎng)絡(luò)模型參數(shù)不是固定值，而是各個(gè)參數(shù)的分布，如圖2所示。

圖2 BCNN和傳統(tǒng)CNN的區(qū)別

對(duì)于BCNN來(lái)說(shuō)，需要求的是權(quán)重矩陣W在訓(xùn)練數(shù)據(jù)X和標(biāo)簽Y下的后驗(yàn)分布p(W|X,Y)。一般來(lái)說(shuō)，這種后驗(yàn)分布是不易計(jì)算的，使用變分推理來(lái)近似它[15]，即通過(guò)最小化權(quán)重近似分布和完全后驗(yàn)之間的KL散度：KL(q(W)||p(W|X,Y))來(lái)學(xué)習(xí)網(wǎng)絡(luò)權(quán)重q(W)的分布，而最小化KL散度等價(jià)于最大化對(duì)數(shù)似然下界(Log Evidence Lower Bound，ELBO)，即：

(4)

式中，F(xiàn)為關(guān)于Y和X的函數(shù)。

本文中用于實(shí)現(xiàn)構(gòu)建BCNN的方法是dropout[16]，通過(guò)在每個(gè)卷積層間使用dropout來(lái)使得第i層的權(quán)重分布q(Wi)為：

(5)

式中，zi,j為具有概率pi的伯努利分布隨機(jī)變量；而Mi為需要優(yōu)化的變分參數(shù)。diag(?)運(yùn)算符將向量映射成對(duì)角矩陣。

對(duì)于伯努利近似分布，式(4)中的積分是難以計(jì)算的。于是可以通過(guò)蒙特卡洛積分來(lái)近似計(jì)算得到LVI的無(wú)偏估計(jì)：

(6)

式中，E(·,·)為softmax損失函數(shù)。通過(guò)蒙特卡洛積分近似的關(guān)于新的輸入x*的模型預(yù)測(cè)結(jié)果y*可以表示為：

(7)

2 嵌入射頻指紋的BCNN SEI算法

2.1 基于雙譜的灰度直方圖特征

提出一種新型的射頻指紋，利用信號(hào)的雙譜來(lái)設(shè)計(jì)特征向量。雙譜可用于描述信號(hào)的不對(duì)稱程度和非線性，并測(cè)量信號(hào)偏離高斯分布的程度。為了提取指紋特征，采用雙譜統(tǒng)計(jì)量來(lái)表示接收信號(hào)的交叉頻率依賴性。一般來(lái)說(shuō)，雙譜Bx(ω1,ω2)可以表示為：

(8)

式中，c3x(τ1,τ2)表示τ1，τ2為時(shí)延的信號(hào)x(n)的三階累量，即：

c3x(τ1,τ2)=E{x*(n)x(n+τ1)x(n+τ2)}，

(9)

其中，E{?}為期望；上標(biāo)*為共軛。

為了構(gòu)造特征向量ht，首先將(ω1,ω2)分割成若干個(gè)分辨率為Δω的頻率區(qū)間。然后將雙譜Bx(ω1,ω2)的實(shí)部和虛部分開(kāi)轉(zhuǎn)換為一個(gè)新矩陣：

(10)

式中，Re，Im分別為實(shí)部與虛部，再將R轉(zhuǎn)化為λ比特的灰度圖[17]：

(11)

式中，Gm,n為灰度圖的第(m,n)個(gè)值；Rm,n為雙譜圖的第(m,n)個(gè)值。

最終在灰度圖上通過(guò)統(tǒng)計(jì)得到一個(gè)k比特的灰度直方圖特征向量ht：

(12)

式中，ni為灰度值在第i個(gè)區(qū)間的像素個(gè)數(shù)；MN為圖中像素總數(shù)。

2.2 算法結(jié)構(gòu)與步驟

將雙譜直方圖特征提取用CNN回歸代替后與BCNN與相結(jié)合的網(wǎng)絡(luò)結(jié)構(gòu)RFF-BCNN如圖3所示。

圖3 SEI網(wǎng)絡(luò)結(jié)構(gòu)

圖3中，左側(cè)所示的子網(wǎng)絡(luò)即回歸擬合直方圖特征的CNN網(wǎng)絡(luò)，是數(shù)層1D卷積層和數(shù)層全連接層組成的1D-CNN，右側(cè)的子網(wǎng)絡(luò)完成SEI，為數(shù)層貝葉斯卷積層和數(shù)層全連接層組成的BCNN。將卷積層視為特征提取器，作用是將原始數(shù)據(jù)映射到一個(gè)新的高維特征空間，全連接層的作用則是將學(xué)到的高維分布式特征映射到樣本標(biāo)記空間?？梢钥闯鲎髠?cè)子網(wǎng)絡(luò)的全連接層對(duì)于SEI任務(wù)來(lái)說(shuō)是冗余的，因?yàn)槠渚矸e層輸出可以看成雙譜直方圖特征的高維近似表示，而右側(cè)子網(wǎng)絡(luò)的全連接層則將2組隱含特征映射到輻射源類別。需要指出的是，左側(cè)子網(wǎng)絡(luò)的參數(shù)是通過(guò)預(yù)訓(xùn)練設(shè)置的，作為雙譜直方圖的特征提取器，不再參與右側(cè)SEI的子網(wǎng)絡(luò)訓(xùn)練過(guò)程中。

在此基礎(chǔ)上，再使用基于模糊度的半監(jiān)督學(xué)習(xí)方法[18]，用給無(wú)標(biāo)簽數(shù)據(jù)打上偽標(biāo)簽的方式擴(kuò)大可用訓(xùn)練數(shù)據(jù)集，以達(dá)到更好的識(shí)別率。通過(guò)將無(wú)標(biāo)簽數(shù)據(jù)輸入已訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型，對(duì)輸出結(jié)果的模糊度進(jìn)行計(jì)算，從中篩選出低模糊度數(shù)據(jù)對(duì)其打上偽標(biāo)簽并加入訓(xùn)練數(shù)據(jù)的方式來(lái)增加標(biāo)簽訓(xùn)練集的大小。模糊度的計(jì)算式如下：

(13)

式中，μ為輸入的無(wú)標(biāo)簽樣本；μi為神經(jīng)網(wǎng)絡(luò)輸出的μ關(guān)于第i個(gè)類的隸屬度；N為總類別數(shù)。

半監(jiān)督學(xué)習(xí)的分布訓(xùn)練步驟如圖4所示，其中的神經(jīng)網(wǎng)絡(luò)模型即為圖3所示網(wǎng)絡(luò)。

圖4 半監(jiān)督學(xué)習(xí)訓(xùn)練過(guò)程

步驟1：以訓(xùn)練數(shù)據(jù)XT和對(duì)應(yīng)的標(biāo)簽YT訓(xùn)練圖4中的神經(jīng)網(wǎng)絡(luò)N；

步驟3：以門(mén)限ξ將XS分為低模糊度數(shù)據(jù)集XLOW和高模糊度數(shù)據(jù)集XHIGH；

步驟5：重新訓(xùn)練神經(jīng)網(wǎng)絡(luò)N。

3 實(shí)驗(yàn)分析

3.1 實(shí)驗(yàn)數(shù)據(jù)及參數(shù)配置

下面評(píng)估提出的網(wǎng)絡(luò)結(jié)構(gòu)的性能，并通過(guò)與其他SEI算法進(jìn)行比較來(lái)展示其性能優(yōu)勢(shì)。實(shí)驗(yàn)中，基于Python 3.6的Tensorflow搭建了圖3中的網(wǎng)絡(luò)。2個(gè)子網(wǎng)絡(luò)均采用Adam優(yōu)化器，在一塊NVIDIA GTX1080TI的GPU上對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。

實(shí)驗(yàn)主要在2個(gè)數(shù)據(jù)集上進(jìn)行：

① 模擬數(shù)據(jù)：使用Matlab程序生成數(shù)據(jù)集。基于泰勒功率放大器(PA)模型、BPSK調(diào)制、瑞利衰落信道，生成5類信號(hào)通過(guò)5個(gè)具有不同SNR的PA，每個(gè)類別由每個(gè)SNR的10 000個(gè)訓(xùn)練樣本組成。

② 采集數(shù)據(jù)：在實(shí)驗(yàn)中使用的無(wú)線電時(shí)域信號(hào)樣本取自零中間的實(shí)際采樣頻率IQ正交數(shù)據(jù)。信號(hào)來(lái)自同一制造商、相同型號(hào)和相同工作模式的5個(gè)不同的短波電臺(tái)和5個(gè)不同的超短波電臺(tái)。電臺(tái)輸入源為3組不同的音頻數(shù)據(jù)。采集參數(shù)如表1所示，采集環(huán)境為戶外，常溫，發(fā)射機(jī)與接收機(jī)間距200 m。

表1 采集信號(hào)參數(shù)

發(fā)射機(jī)類型短波超短波帶寬/MHz0.10.15調(diào)制AMFM采樣率/MHz0.320.48采樣點(diǎn)3.84e75.76e7

需要補(bǔ)充的是用來(lái)回歸擬合的CNN子網(wǎng)絡(luò)使用模擬數(shù)據(jù)和真實(shí)數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練，在RFF-BCNN的訓(xùn)練過(guò)程中這部分網(wǎng)絡(luò)參數(shù)不再參與訓(xùn)練。

3.2 實(shí)驗(yàn)結(jié)果與分析

3.2.1 識(shí)別性能與信噪比的關(guān)系。

信噪比是影響分類準(zhǔn)確性最常見(jiàn)的因素，在實(shí)驗(yàn)1中，對(duì)于模擬數(shù)據(jù)集，本文比較了不同方法在不同信噪比下的識(shí)別性能。圖5比較了模擬數(shù)據(jù)集在0～20 dB信噪比下的識(shí)別性能，網(wǎng)絡(luò)訓(xùn)練配置如表2所示，在本次實(shí)驗(yàn)中各個(gè)方法均有足夠的訓(xùn)練樣本。包括：① 本文所提模型RFF-BCNN，② 1D-CNN模型[10]，③ 對(duì)雙譜直方圖特征進(jìn)行分類，使用SVM分類器，④ 對(duì)希爾伯特-黃譜特征[18]進(jìn)行分類，使用SVM分類器，⑤ 使用精確的雙譜直方圖特征代替回歸子網(wǎng)絡(luò)的方法的識(shí)別性能。從圖5中可以看出，深度學(xué)習(xí)方法相對(duì)于特征提取方法在信噪比降低時(shí)的性能衰減更小，并且在各個(gè)信噪比下深度學(xué)習(xí)方法都表現(xiàn)出了更高的識(shí)別率。而由于使用射頻指紋特征輔助網(wǎng)絡(luò)訓(xùn)練，RFF-BCNN相對(duì)于1D-CNN[10]有2%～5%的性能提升。通過(guò)①和⑤的對(duì)比可以看到，回歸子網(wǎng)絡(luò)在對(duì)性能幾乎沒(méi)有影響的情況下，將特征提取和分類網(wǎng)絡(luò)并行，提高了計(jì)算效率。

圖5 不同信噪比下的SEI性能

表2 網(wǎng)絡(luò)訓(xùn)練配置

網(wǎng)絡(luò)配置真實(shí)數(shù)據(jù)模擬數(shù)據(jù)類別數(shù)55數(shù)據(jù)集大小5000050000訓(xùn)練集大小500～450025000batchsize100200模糊度門(mén)限ξ1/6-學(xué)習(xí)率0.0050.005迭代步長(zhǎng)100100

3.2.2 不同訓(xùn)練集大小下的識(shí)別性能

在實(shí)驗(yàn)2中，使用了真實(shí)采集的數(shù)據(jù)來(lái)展示RFF-BCNN在少量標(biāo)簽訓(xùn)練樣本下的識(shí)別性能，網(wǎng)絡(luò)訓(xùn)練配置如表2所示。

在短波數(shù)據(jù)集以及超短波數(shù)據(jù)集下，比較了①本文所提出的RFF-CNN算法、②僅使用真實(shí)標(biāo)簽的RFF-CNN算法、③1D-CNN方法和④基線BCNN方法，實(shí)驗(yàn)結(jié)果如圖6所示。

(a)超短波數(shù)據(jù)集

(b)短波數(shù)據(jù)集圖6 不同訓(xùn)練集規(guī)模下的識(shí)別性能

圖6中橫坐標(biāo)表示初始訓(xùn)練集規(guī)模，縱坐標(biāo)表示識(shí)別準(zhǔn)確率。從圖中可以明顯看出，不論是在超短波還是短波數(shù)據(jù)集上，各個(gè)算法的識(shí)別性能隨著訓(xùn)練集規(guī)模的變化表現(xiàn)出基本相同的變化趨勢(shì)，即隨著訓(xùn)練集規(guī)模的增大識(shí)別率也在逐漸升高。由于BCNN優(yōu)秀的泛化性能，其在小規(guī)模訓(xùn)練集下的識(shí)別率性能要優(yōu)于1D-CNN。而對(duì)于僅使用真實(shí)標(biāo)簽的RFF-BCNN，由于有著射頻指紋特征作為網(wǎng)絡(luò)訓(xùn)練的輔助，并且回歸擬合指紋特征的子網(wǎng)絡(luò)不受訓(xùn)練集規(guī)模影響，其達(dá)到性能閾值所需要的訓(xùn)練集規(guī)模遠(yuǎn)小于普通的深度學(xué)習(xí)方法。而在具有相同的初始訓(xùn)練集規(guī)模的情況下，半監(jiān)督學(xué)習(xí)相當(dāng)于提升了訓(xùn)練集的規(guī)模，所以在初始訓(xùn)練集規(guī)模很小的情況下，RFF-BCNN表現(xiàn)出遠(yuǎn)優(yōu)于其他方法的識(shí)別性能。

4 結(jié)束語(yǔ)

提出了一種新型的用于SEI的半監(jiān)督深度學(xué)習(xí)算法(RFF-BCNN)。基于BCNN模型，結(jié)合傳統(tǒng)特征提取方法以及半監(jiān)督的優(yōu)點(diǎn)，將射頻指紋特征提取融入到深度學(xué)習(xí)框架中，并且通過(guò)基于模糊度的半監(jiān)督學(xué)習(xí)方法利用了無(wú)標(biāo)簽樣本。在模擬和真實(shí)數(shù)據(jù)集上的實(shí)驗(yàn)表明，在有標(biāo)簽訓(xùn)練樣本集規(guī)模較小時(shí)，RFF-BCNN相較于1D-CNN模型有著5%～20%的性能提升。