張 軍 符杰林* 林基明

1(桂林電子科技大學(xué)認(rèn)知無線電與信息處理教育部重點(diǎn)實(shí)驗(yàn)室 廣西 桂林 541004) 2(廣西高校衛(wèi)星導(dǎo)航與位置感知重點(diǎn)實(shí)驗(yàn)室 廣西 桂林 541004)

0 引 言

在無線通信領(lǐng)域，通信調(diào)制信號(hào)的識(shí)別技術(shù)一直以來都是各國(guó)研究的熱點(diǎn)，它在軍事及民用領(lǐng)域有很高的使用價(jià)值。目前，調(diào)制識(shí)別技術(shù)有兩大類方法：基于決策論的調(diào)制識(shí)別和基于特征工程的調(diào)制識(shí)別。前者具有完備的理論基礎(chǔ)，但算法的理論推導(dǎo)復(fù)雜，且需要充分的先驗(yàn)知識(shí)，信號(hào)識(shí)別率不高；后者是對(duì)信號(hào)進(jìn)行關(guān)鍵特征提取，如信號(hào)的高階累積量[1]、循環(huán)譜特征[2]、譜特征等，然后針對(duì)不同調(diào)制信號(hào)的特征使用分類器進(jìn)行分類識(shí)別。上述兩類方法都需要人工參與提取特征，并且針對(duì)不同的信號(hào)通常只能提取表層的特征。因此，需要尋找一種方法，能從原始信號(hào)源中提取有利于信號(hào)識(shí)別的深層特征，而深度學(xué)習(xí)為此提供了一個(gè)強(qiáng)有力的框架。

文獻(xiàn)[3-5]率先將深度學(xué)習(xí)應(yīng)用至調(diào)制信號(hào)識(shí)別領(lǐng)域。為了使研究人員更好地研究與比較，文獻(xiàn)[6]用GNU Radio生成具有同相和正交信息的不同調(diào)制信號(hào)的開源數(shù)據(jù)集。O’Shea等利用基帶IQ信號(hào)訓(xùn)練不同的神經(jīng)網(wǎng)絡(luò)，合適的網(wǎng)絡(luò)模型具有較高的識(shí)別率。文獻(xiàn)[7]將原始IQ數(shù)據(jù)和計(jì)算所得的高階累積量組合在一起表示調(diào)制信號(hào)，并用三層卷積層和一層長(zhǎng)短期記憶層網(wǎng)絡(luò)進(jìn)行訓(xùn)練分類，但需要預(yù)先計(jì)算每個(gè)信號(hào)的高階累積量。Li等[8]利用信號(hào)的循環(huán)譜和深度自編碼器，完成了對(duì)FSK、PSK、ASK、MSK和QAM五類調(diào)制信號(hào)的識(shí)別，但需要預(yù)處理獲得每個(gè)信號(hào)的循環(huán)譜信息。文獻(xiàn)[9]利用眼圖和卷積神經(jīng)網(wǎng)絡(luò)對(duì)4PAM等信號(hào)進(jìn)行識(shí)別。文獻(xiàn)[10]將信號(hào)的星座圖轉(zhuǎn)換為彩色圖，并結(jié)合卷積神經(jīng)網(wǎng)絡(luò)對(duì)ASK、PSK和QAM等信號(hào)進(jìn)行識(shí)別，但都需要對(duì)信號(hào)進(jìn)行預(yù)處理成圖片。文獻(xiàn)[11]不需要預(yù)處理，利用LSTM網(wǎng)絡(luò)，當(dāng)信噪比為-2 dB時(shí)，針對(duì)八類數(shù)字調(diào)制信號(hào)和三類模擬調(diào)制信號(hào)的識(shí)別率能達(dá)到92%，但是信號(hào)在經(jīng)過卷積層后會(huì)丟失部分時(shí)序信息，并且在低信噪比下識(shí)別率不高。文獻(xiàn)[12]提出的CLDNN(Convolutional,Long Short-Term Memory,Fully Connected Deep Neural Networks)將CNN、LSTM和DNN 3種網(wǎng)絡(luò)融合在一起，被廣泛用于解決語音識(shí)別問題，實(shí)驗(yàn)證明該網(wǎng)絡(luò)可以獲得比單一的CNN、LSTM和DNN網(wǎng)絡(luò)有更好的效果。

對(duì)此，本文利用CNN擅長(zhǎng)減小頻域變化，LSTM能夠提供長(zhǎng)時(shí)記憶，擅長(zhǎng)對(duì)時(shí)域信息進(jìn)行建模，DNN適合將特征映射到獨(dú)立空間的特點(diǎn)[12]，設(shè)計(jì)了一個(gè)適用于調(diào)制信號(hào)識(shí)別的CLDNN網(wǎng)絡(luò)。該方法充分利用了深度學(xué)習(xí)端到端處理的優(yōu)勢(shì)，能夠提取信號(hào)分類的關(guān)鍵信息，并對(duì)11種常見的調(diào)制方式進(jìn)行分類，與已有的方法進(jìn)行比較，識(shí)別精度有所提升。

1 適用于調(diào)制信號(hào)識(shí)別的CLDNN網(wǎng)絡(luò)建模

CLDNN首先在語音識(shí)別領(lǐng)域中有廣泛的應(yīng)用，該網(wǎng)絡(luò)通用結(jié)構(gòu)是輸入層與時(shí)域相關(guān)的特征，連接幾層CNN來減小頻域變化，將CNN的輸出輸入至幾層LSTM來減小時(shí)域變化，LSTM最后一層的輸出輸入至DNN，目的是將特征空間映射到更容易分類的輸出層。對(duì)此，為實(shí)現(xiàn)調(diào)制信號(hào)的識(shí)別，本文建立了適用于調(diào)制信號(hào)識(shí)別的CLDNN網(wǎng)絡(luò)模型，如圖1所示，由三部分組成：1) 三層卷積層；2) 一層長(zhǎng)短期記憶網(wǎng)絡(luò)；3) 兩層全連接層和分類器。

圖1 CLDNN網(wǎng)絡(luò)模型

本文網(wǎng)絡(luò)的輸入層為IQ兩路時(shí)域信號(hào)的原始數(shù)據(jù)，2×128代表了每個(gè)樣本的數(shù)據(jù)矩陣，128為同相正交分量的采樣點(diǎn)個(gè)數(shù)。首先將原始數(shù)據(jù)輸入至CNN網(wǎng)絡(luò)，第一層卷積層由50個(gè)大小為2×7的卷積核與輸入進(jìn)行卷積，輸出為一維的特征數(shù)據(jù)，將該層的特征輸出與后面兩層卷積層短連接，加強(qiáng)了特征的傳遞和重用。卷積層均使用ReLU函數(shù)作為激活函數(shù)。將第一部分中每層卷積層的輸出進(jìn)行級(jí)聯(lián)，輸入至第二部分LSTM層，目的是為了充分提取信號(hào)的時(shí)序特征。

LSTM的記憶功能主要由三個(gè)控制單元組成，分別是遺忘門ft、輸入門it、輸出門ot,如圖2所示。

圖2中，Ct表示當(dāng)前LSTM單元的細(xì)胞狀態(tài)，保留了歷史信息；xt和ht分別表示當(dāng)前單元的輸入信息和輸出信息。具體計(jì)算過程如下：

ft=σ(Wf·[ht-1,xt]+bf)

(1)

式中：ft遺忘門用來計(jì)算t時(shí)刻之前的狀態(tài)對(duì)當(dāng)前狀態(tài)的影響，若ft為1，則保留全部歷史信息，若為0，則不參考之前的信息[13]；σ為sigmoid函數(shù)；Wf為輸入和遺忘門之間的權(quán)重矩陣；bf為連接的偏置。

it=σ(Wi·[ht-1,xt]+bi)

(2)

(3)

(4)

ot=δ(Wo·[ht-1,xt]+bo)

(5)

ht=ot×tanh(Ct)

(6)

式中：ot輸出門與Ct用來更新t時(shí)刻當(dāng)前單元的輸出ht；Wo為輸入和輸出門間的權(quán)值矩陣，bo為偏置。

第三部分，將LSTM層輸出至全連接層和softmax層，主要用來對(duì)輸入進(jìn)行降維分類，第一層全連接層節(jié)點(diǎn)大小設(shè)置為128，后一層節(jié)點(diǎn)大小設(shè)置為11，以11維的概率向量形式輸出，以最大概率值的索引作為分類結(jié)果。同時(shí)輸出層定義一個(gè)交叉熵?fù)p失函數(shù)，以降低損失函數(shù)為目標(biāo)進(jìn)行網(wǎng)絡(luò)模型的訓(xùn)練。此外，為防止過擬合，訓(xùn)練時(shí)采用Dropout正則化技術(shù)，每隱藏層神經(jīng)元均以0.5概率的數(shù)量保持原有的狀態(tài)，即這些神經(jīng)元不參與前向傳播和反向傳播計(jì)算。

2 仿真分析及性能對(duì)比

為驗(yàn)證模型的有效性，本文采用RML2016.04c及RML2016.10a[14]兩個(gè)開放數(shù)據(jù)集進(jìn)行研究，并且這兩個(gè)數(shù)據(jù)集的數(shù)量及類型適合本文的工作。數(shù)據(jù)集中包含了11類不同調(diào)制信號(hào)的樣本集，分別是8類數(shù)字調(diào)(BPSK,8PSK,CPFSK,GFSK,PAM4,QAM16,QAM64,QPSK)和3類模擬調(diào)制(AM-DSB,AM-SSB,WBFM)，信號(hào)在信噪比-20～18 dB范圍分布，間隔為2 dB。在不同SNR條件下，每個(gè)樣本信號(hào)均由IQ兩路組成，采樣點(diǎn)數(shù)為128個(gè)。此外，兩個(gè)數(shù)據(jù)集為模擬真實(shí)環(huán)境，在模擬信道中考慮了中心頻移、多徑、衰落和加性高斯白噪聲等影響因素。

實(shí)驗(yàn)首先對(duì)CLDNN網(wǎng)絡(luò)的性能及部分參數(shù)進(jìn)行分析，采用RML2016.10a數(shù)據(jù)集共220 000個(gè)樣本，將其中的70%作為訓(xùn)練集，30%作為測(cè)試集，從卷積層的數(shù)量、卷積核的數(shù)量及卷積核的大小考慮，確定一個(gè)網(wǎng)絡(luò)性能最優(yōu)的卷積狀態(tài)，然后分析不同LSTM層的數(shù)量對(duì)網(wǎng)絡(luò)性能的影響。最后在兩個(gè)數(shù)據(jù)集上，將本文網(wǎng)絡(luò)模型與文獻(xiàn)[1]和文獻(xiàn)[11]中的方法進(jìn)行識(shí)別性能比對(duì)。本文所有網(wǎng)絡(luò)模型均采用Tensorflow作為后端的Keras框架搭建，實(shí)驗(yàn)硬件采用PC，配有六核酷睿i7- 8750CPU，8 GB內(nèi)存，搭載Nvidia GTX1050Ti 4G顯存顯卡。

2.1 卷積層數(shù)對(duì)識(shí)別性能的影響

若卷積層數(shù)少將提取不出深層的特征信息；過多則提升了模型的復(fù)雜度，需要訓(xùn)練更多的實(shí)驗(yàn)參數(shù)，容易出現(xiàn)過擬合的情況。因此本實(shí)驗(yàn)需要討論卷積層數(shù)對(duì)識(shí)別性能的影響。固定圖1 CLDNN網(wǎng)絡(luò)的卷積核數(shù)量為50，大小為×7，保持LSTM層和全連接層結(jié)構(gòu)不變，從2層卷積層網(wǎng)絡(luò)開始實(shí)驗(yàn)，并逐次增加卷積層數(shù)，增加的卷積核數(shù)量和大小均固定為50、1×7，在實(shí)驗(yàn)環(huán)境相同的條件下進(jìn)行模型的訓(xùn)練及測(cè)試集的分類。記錄訓(xùn)練好的不同網(wǎng)絡(luò)模型對(duì)測(cè)試集的分類時(shí)間，并且當(dāng)信噪比大于-2 dB，計(jì)算不同卷積層數(shù)下的正確識(shí)別率如表1所示。由表1可知，當(dāng)采用3層卷積層數(shù)時(shí)網(wǎng)絡(luò)具有最高的識(shí)別率和較短的分類時(shí)間；隨著卷積層數(shù)的增加，網(wǎng)絡(luò)的性能下降，說明當(dāng)網(wǎng)絡(luò)采用3層卷積時(shí)，卷積層提取的深層特征能夠充分反映不同調(diào)制信號(hào)，繼續(xù)增加卷積層數(shù)會(huì)提取一些冗余特征，同時(shí)提升模型的復(fù)雜度。故下文仿真中卷積層數(shù)選取3層。

表1 不同卷積層數(shù)對(duì)識(shí)別率、分類時(shí)長(zhǎng)的影響

2.2 卷積核對(duì)識(shí)別性能的影響

為了分析卷積核數(shù)量對(duì)調(diào)制性能識(shí)別的影響，固定由2.1實(shí)驗(yàn)得出的最佳卷積層數(shù)3層，同時(shí)固定其他網(wǎng)絡(luò)結(jié)構(gòu)不變，在30～70間更改卷積核數(shù)量，尋找一個(gè)核數(shù)使識(shí)別性能最優(yōu)，實(shí)驗(yàn)得到不同卷積核數(shù)對(duì)識(shí)別率的影響如圖3所示。由圖3可知，從低信噪比0 dB開始，識(shí)別率趨于平穩(wěn)，不同核數(shù)量的識(shí)別率近似，最終平穩(wěn)在82%～85%之間，且當(dāng)核數(shù)為50時(shí)具有較高的識(shí)別性能。

此外，卷積核尺寸的不同能提取不同程度上的信號(hào)特征，尺寸過大會(huì)忽略一些空間信息，過小又不能提取關(guān)鍵的特征。因此，固定先前實(shí)驗(yàn)中的參數(shù)，將第一層卷積設(shè)定為2×，后面兩層設(shè)定為1×，本實(shí)驗(yàn)考慮×3至×8間的不同卷積核尺寸對(duì)識(shí)別性能的影響如圖4所示。由圖4可以看出，從0 dB開始，不同卷積核尺寸的識(shí)別性能趨于穩(wěn)定，并且當(dāng)尺寸大小為×7時(shí)有相對(duì)較好的識(shí)別率，在高信噪比時(shí)，相對(duì)于×4的核尺寸高了近3%。

2.3 LSTM層數(shù)對(duì)識(shí)別性能的影響

LSTM層能夠提取信號(hào)的時(shí)序特征，LSTM層數(shù)過少可能導(dǎo)致時(shí)序特征提取不完全，過多則增加了網(wǎng)絡(luò)的復(fù)雜度，可能導(dǎo)致識(shí)別性能的降低。本實(shí)驗(yàn)需要考慮不同LSTM層數(shù)對(duì)網(wǎng)絡(luò)識(shí)別性能的影響。固定之前實(shí)驗(yàn)的網(wǎng)絡(luò)結(jié)構(gòu)，將第一層的LSTM輸出大小為250，后續(xù)增加層數(shù)時(shí)LSTM輸出大小設(shè)定為128。記錄不同網(wǎng)絡(luò)模型對(duì)測(cè)試集的分類時(shí)間，并且當(dāng)信噪比大于-2 dB，計(jì)算不同LSTM層數(shù)下的正確識(shí)別率如表2所示。由表2可知，增加LSTM層數(shù)，使網(wǎng)絡(luò)需要訓(xùn)練的參數(shù)個(gè)數(shù)大量增加，相應(yīng)地通過網(wǎng)絡(luò)對(duì)測(cè)試集的分類時(shí)間也持續(xù)遞增，但對(duì)信號(hào)的正確識(shí)別率成遞減趨勢(shì)，表明一層LSTM的識(shí)別性能高于多層，可由一層LSTM充分提取信號(hào)的時(shí)序特征。

表2 不同LSTM層數(shù)對(duì)識(shí)別率、分類時(shí)長(zhǎng)的影響

2.4 不同網(wǎng)絡(luò)性能分析

實(shí)驗(yàn)分析比較本文CLDNN網(wǎng)絡(luò)、文獻(xiàn)[1]的CNN網(wǎng)絡(luò)和文獻(xiàn)[9]的CNN_LSTM網(wǎng)絡(luò)。CNN網(wǎng)絡(luò)主要由兩層卷積層組成，第一層為64個(gè)大小為1×3的核，第二層為16個(gè)2×3的核；CNN_LSTM在CNN網(wǎng)絡(luò)基礎(chǔ)上添加了LSTM層，并對(duì)核數(shù)進(jìn)行了修改。3個(gè)網(wǎng)絡(luò)模型在兩個(gè)數(shù)據(jù)上的識(shí)別率如圖5和圖6所示，可知本文CLDNN網(wǎng)絡(luò)的識(shí)別性能最好，其次是CNN_LSTM，CNN網(wǎng)絡(luò)性能相對(duì)較差些。從信噪比-6 dB開始，本文網(wǎng)絡(luò)的識(shí)別性能始終高于CNN_LSTM和CNN網(wǎng)絡(luò)。由圖5所示，當(dāng)SNR為-2 dB時(shí)，CLDNN、CNN_LSTM和CNN的識(shí)別率分別達(dá)到95.13%、92.21%、89.42%，但隨著SNR的增大，識(shí)別精度出現(xiàn)抖動(dòng)現(xiàn)象，這是由于RML2016.04c數(shù)據(jù)集中樣本數(shù)量不足，且每類調(diào)制信號(hào)數(shù)量不等導(dǎo)致的。由圖6可知，在RML2016.10a中，當(dāng)數(shù)據(jù)量充足且每類調(diào)制信號(hào)數(shù)量相等時(shí)，網(wǎng)絡(luò)總體趨勢(shì)比較平穩(wěn)，最終三類模型分別穩(wěn)定在84.84%、82.88%和75.64%。

當(dāng)信噪比大于-4 dB時(shí)，計(jì)算三類網(wǎng)絡(luò)模型的平均識(shí)別率如表3所示；三類網(wǎng)絡(luò)所需訓(xùn)練的參數(shù)個(gè)數(shù)及對(duì)1 000個(gè)信號(hào)的分類時(shí)間如表4所示。從表3可以看出，CLDNN在兩個(gè)測(cè)試集的識(shí)別率最高，CNN的識(shí)別性能最差。在兩個(gè)數(shù)據(jù)集中，CLDNN比CNN_LSTM識(shí)別率分別高了2.01%和2.6%，這是由于不同信號(hào)具有不同的幅度及相位信息，三層卷積層能充分提取信號(hào)的深層特征；并且為保留原始信號(hào)的時(shí)序特征，將每層卷積的輸出級(jí)聯(lián)后輸入LSTM層，LSTM能提供長(zhǎng)時(shí)間的記憶，減小時(shí)域變化；最后再輸出至全連接層和softmax層，將特征空間映射到更能分類的輸出層。由表4可知，CLDNN需要訓(xùn)練的參數(shù)個(gè)數(shù)高于后兩者，針對(duì)1 000個(gè)信號(hào)的分類時(shí)間也相應(yīng)的增加，這是由于網(wǎng)絡(luò)的加深，需要計(jì)算的參數(shù)量加大導(dǎo)致的，CLDNN對(duì)每個(gè)信號(hào)的分類時(shí)間比CNN_LSTM多約38 μs。因此，本文設(shè)計(jì)的網(wǎng)絡(luò)模型將復(fù)雜度的提高作為代價(jià)，換來了識(shí)別精度上的提升。

2.5 CLDNN網(wǎng)絡(luò)識(shí)別性能分析

當(dāng)SNR為-4 dB至12 dB時(shí)，CLDNN對(duì)各類調(diào)制信號(hào)識(shí)別結(jié)果如表5所示。為更直觀地說明模型對(duì)每種調(diào)制信號(hào)的分類性能，圖7是在信噪比為0 dB下的混淆矩陣圖。當(dāng)信噪比大于0 dB，該模型對(duì)各類信號(hào)的識(shí)別率趨向平穩(wěn)，對(duì)AM-DSB、BPSK、CPFSK、PAM4和QPSK的識(shí)別率接近100%，對(duì)8PSK、GFSK和AM-SSB的識(shí)別率在95%左右。由圖7可知，CLDNN網(wǎng)絡(luò)將WBFM錯(cuò)誤地識(shí)別成AM-DSB，將部分QAM64識(shí)別成QAM16，從而導(dǎo)致了對(duì)QAM64、WBFM和QAM16三種信號(hào)的識(shí)別率低。如何利用深度學(xué)習(xí)進(jìn)一步提升識(shí)別率是后期需要改進(jìn)的方向。

圖7 SNR=0 dB上的混淆矩陣圖

3 結(jié) 語

本文對(duì)多類數(shù)字、模擬調(diào)制信號(hào)的自動(dòng)調(diào)制識(shí)別進(jìn)行了研究。利用了CNN減小頻域變化、LSTM提取時(shí)序特征的能力及DNN提取助于分類特征的能力，設(shè)計(jì)了適用于調(diào)制信號(hào)識(shí)別的CLDNN端到端網(wǎng)絡(luò)模型。本文方法降低了人工參與度，訓(xùn)練好的網(wǎng)絡(luò)能有效排除噪聲的干擾，并且在低信噪比下提高了信號(hào)的識(shí)別率。實(shí)驗(yàn)結(jié)果驗(yàn)證了方法的可行性，具有實(shí)際的應(yīng)用價(jià)值。