費(fèi)順超張成璞

(沈陽(yáng)理工大學(xué) 信息科學(xué)與工程學(xué)院，沈陽(yáng) 110159)

信號(hào)調(diào)制方式識(shí)別是通信偵察及軟件無(wú)線電領(lǐng)域的一個(gè)重要研究方向。 調(diào)制方式是區(qū)別不同調(diào)制信號(hào)的主要特征之一，識(shí)別調(diào)制方式可為后續(xù)的信號(hào)解調(diào)、實(shí)施電子干擾等非合作通信任務(wù)提供必要的信息[1]。 傳統(tǒng)的信號(hào)調(diào)制方式識(shí)別算法主要分為兩類:一類是基于決策理論的最大似然假設(shè)檢驗(yàn)方法[2－3]；另一類是基于特征提取的識(shí)別方法[4－5]。 前者是對(duì)不同調(diào)制方式做出不同的假設(shè)，得到不同假設(shè)下調(diào)制信號(hào)的似然函數(shù)，然后將其值與預(yù)定義的閾值進(jìn)行比較，實(shí)現(xiàn)調(diào)制信號(hào)的分類，該方法計(jì)算復(fù)雜度高且需要充分的先驗(yàn)知識(shí)，信號(hào)識(shí)別率不高；后者是通過(guò)小波變換[6]、循環(huán)譜[7]、高階累積量[8]等方法提取目標(biāo)信號(hào)的特征，然后針對(duì)不同的信號(hào)特征通過(guò)分類器實(shí)現(xiàn)調(diào)制信號(hào)的分類，該方法需要人工提取信號(hào)特征，適用場(chǎng)景受限。

近年來(lái)，深度學(xué)習(xí)在計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別等領(lǐng)域取得了顯著的進(jìn)展，受到研究人員的廣泛關(guān)注。 與傳統(tǒng)方法相比，深度學(xué)習(xí)可以自動(dòng)學(xué)習(xí)復(fù)雜數(shù)據(jù)的特征，無(wú)需人工提取。 文獻(xiàn)[9]在RML2016.10a 數(shù)據(jù)集中使用卷積神經(jīng)網(wǎng)絡(luò)(CNN)成功識(shí)別出11 種調(diào)制信號(hào)，但最大平均識(shí)別準(zhǔn)確率不足75%；文獻(xiàn)[10]使用殘差網(wǎng)絡(luò)(ResNet)識(shí)別11 種不同的調(diào)制信號(hào)，識(shí)別準(zhǔn)確率相較于CNN 提升不大，但模型復(fù)雜度卻大大提高。 文獻(xiàn)[11]引入長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)(LSTM)，構(gòu)建了一個(gè)CNN-LSTM 級(jí)聯(lián)的神經(jīng)網(wǎng)絡(luò)，其分類準(zhǔn)確率比單一網(wǎng)絡(luò)稍高；文獻(xiàn)[12]提出雙通道的CNN-LSTM 網(wǎng)絡(luò)，當(dāng)信噪比為0 dB 時(shí)，平均識(shí)別準(zhǔn)確率可達(dá)到87%；文獻(xiàn)[13]將自動(dòng)編碼器與CNN 相結(jié)合，不僅降低了訓(xùn)練時(shí)間，而且識(shí)別準(zhǔn)確率比CNN 提高了1.2%；文獻(xiàn)[14]引入CNN、LSTM 與深度神經(jīng)網(wǎng)絡(luò)(DNN)組合的多模型神經(jīng)網(wǎng)絡(luò)(CNN-LSTM-DNN，CLDNN)用于調(diào)制方式識(shí)別，并與CNN、CNN-LSTM 等模型進(jìn)行了對(duì)比，結(jié)果表明，該網(wǎng)絡(luò)針對(duì)不同數(shù)據(jù)集的識(shí)別準(zhǔn)確率均最高，可達(dá)到85%左右。 文獻(xiàn)[11 －14]均使用混合網(wǎng)絡(luò)模型實(shí)現(xiàn)信號(hào)調(diào)制方式識(shí)別，但識(shí)別準(zhǔn)確率仍有待提升。

為進(jìn)一步提高調(diào)制方式識(shí)別方法的準(zhǔn)確率，本文將CNN、LSTM、ResNet 及DNN 進(jìn)行組合，提出一種基于雙通道混合網(wǎng)絡(luò)模型的調(diào)制方式識(shí)別方法，并通過(guò)仿真實(shí)驗(yàn)分析該方法的性能。

1 傳統(tǒng)網(wǎng)絡(luò)模型

1.1 ResNet 網(wǎng)絡(luò)

ResNet[15]是一系列殘差塊堆疊而成的深層神經(jīng)網(wǎng)絡(luò)，殘差塊中包含兩個(gè)卷積層，同時(shí)將輸入與卷積層輸出以跳層連接的方式進(jìn)行相加。 Res-Net 網(wǎng)絡(luò)結(jié)構(gòu)如圖1 所示。 圖中:Conv 表示卷積層；ReLU 表示激活函數(shù)；x表示輸入；f(x)表示卷積層輸出；F(x)表示殘差網(wǎng)絡(luò)輸出。

圖1 ResNet 網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 ResNet network structure

對(duì)于深層神經(jīng)網(wǎng)絡(luò)，不引入殘差的情況下，網(wǎng)絡(luò)的輸出為f(x) ＝x；引入殘差后網(wǎng)絡(luò)的輸出為F(x) ＝f(x) ＋x，移項(xiàng)后得到f(x) ＝F(x) －x，只要f(x)→0，就可以得到恒等映射F(x)→x，大大降低了網(wǎng)絡(luò)擬合的難度。

1.2 LSTM 網(wǎng)絡(luò)

LSTM 是深度學(xué)習(xí)中處理序列問(wèn)題最常用的模型，該網(wǎng)絡(luò)由遺忘門Ft、輸入門It和輸出門Ot組成，其結(jié)構(gòu)如圖2 所示。 圖中:ht－1為網(wǎng)絡(luò)前一時(shí)刻的隱藏狀態(tài)；Ct－1為前一時(shí)刻的記憶單元；xt為當(dāng)前時(shí)刻的輸入；σ表示激活函數(shù)；表示候選記憶單元；ht表示當(dāng)前時(shí)刻的隱藏狀態(tài)；Ct表示當(dāng)前時(shí)刻的記憶單元。

圖2 LSTM 網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 LSTM network structure

遺忘門Ft、輸入門It、輸出門Ot的計(jì)算式分別為

式中:Wxf、Wxi、Wxo、Wxc和Whf、Whi、Who、Whc分別表示不同的權(quán)重參數(shù)；bf、bi、bo、bc分別表示不同的偏置參數(shù)。

1.3 混合網(wǎng)絡(luò)模型

典型的混合網(wǎng)絡(luò)模型有CNN-LSTM 和CLDNN，兩種混合網(wǎng)絡(luò)結(jié)構(gòu)如圖3 所示，圖中FC表示全連接層。

圖3 兩種混合網(wǎng)絡(luò)結(jié)構(gòu)Fig.3 Two hybrid network structures

由圖3(a)可見(jiàn)，CNN-LSTM 在CNN 后級(jí)聯(lián)LSTM，再連接到FC，完成信號(hào)的分類；由圖3(b)可見(jiàn)，CLDNN 是由CNN、LSTM、DNN 組成的混合網(wǎng)絡(luò)模型，CNN 與LSTM 模塊均對(duì)輸入和輸出進(jìn)行了拼接，最后連接到DNN，完成信號(hào)的分類。

2 CLRD 網(wǎng)絡(luò)模型

鑒于傳統(tǒng)網(wǎng)絡(luò)模型存在調(diào)制方式識(shí)別率不高的問(wèn)題，本文將CNN、LSTM、ResNet 和DNN 模型進(jìn)行組合，提出一種雙通道混合網(wǎng)絡(luò)(CNNLSTM-ResNet-DNN，CLRD)模型。

信號(hào)數(shù)據(jù)的空間特征一般使用CNN 提取，但隨著網(wǎng)絡(luò)層數(shù)加深，不可避免地出現(xiàn)梯度消失或梯度爆炸，導(dǎo)致網(wǎng)絡(luò)性能下降，但ResNet 可以很好地解決該問(wèn)題。 對(duì)于N個(gè)殘差塊組成的殘差網(wǎng)絡(luò)，其輸出a[N]可以表示為殘差塊所有輸出的累加與第k層網(wǎng)絡(luò)輸入a[k]的和，表達(dá)式為

式中:a[i]表示第i層網(wǎng)絡(luò)的輸入；w[i]表示第i層網(wǎng)絡(luò)中所對(duì)應(yīng)的權(quán)重參數(shù)；f(?)表示圖1 虛線框內(nèi)的兩層卷積運(yùn)算。

針對(duì)式(5)進(jìn)行反向傳播運(yùn)算，設(shè)損失函數(shù)為l，運(yùn)算后可得

信號(hào)數(shù)據(jù)的時(shí)序特征使用LSTM 提取，LSTM 具備長(zhǎng)時(shí)記憶功能，是提取時(shí)間序列特征的最佳選擇。 LSTM 中的記憶單元由Ft和It控制，F(xiàn)t控制上一時(shí)刻記憶單元Ct－1的保留程度，It控制當(dāng)前時(shí)刻候選記憶單元的保留程度，當(dāng)前時(shí)刻記憶單元Ct的計(jì)算如式(7)所示。 當(dāng)前時(shí)刻的隱藏狀態(tài)ht由輸出門進(jìn)行控制，其計(jì)算如式(8)所示。

綜上，使用本文提出的CLRD 模型，可以充分提取信號(hào)的空間和時(shí)序特征，以此提高信號(hào)調(diào)制方式識(shí)別的準(zhǔn)確率。 CLRD 網(wǎng)絡(luò)結(jié)構(gòu)如圖4 所示。 圖中:Concatenate 表示特征融合；Dense 表示密集層；Batch Norm 表示批量歸一化。

圖4 CLRD 網(wǎng)絡(luò)結(jié)構(gòu)Fig.4 CLRD network structure

由圖4 可見(jiàn)，CLRD 模型由兩層卷積層、上支路兩層LSTM 網(wǎng)絡(luò)、下支路6 個(gè)殘差塊組成的殘差網(wǎng)絡(luò)以及兩層全連接層共四個(gè)部分組成。

首先將信號(hào)數(shù)據(jù)輸入到兩層卷積層中:第一層的卷積核為(1，7)，填充為(0，6)，步長(zhǎng)為1，得到的輸出數(shù)據(jù)維度保持不變，僅通道數(shù)變?yōu)?28；第二層的卷積核為(2，7)，填充和步長(zhǎng)不變，得到的輸出數(shù)據(jù)寬度減半且通道數(shù)變?yōu)?4。

然后將CNN 模塊的輸出輸入到并聯(lián)支路(由上支路兩層LSTM 網(wǎng)絡(luò)和下支路6 個(gè)殘差塊共同組成):上支路兩層LSTM 網(wǎng)絡(luò)的隱藏單元個(gè)數(shù)為100；下支路6 個(gè)殘差塊中的卷積核為(1，7)，通道數(shù)同樣保持64 不變，并使用Batch Norm 技術(shù)提升收斂速度。 將兩條支路的輸出進(jìn)行拼接，完成特征融合。

最后將并聯(lián)支路的輸出輸入到DNN 網(wǎng)絡(luò)(由兩層全連接層和分類器組成)，用來(lái)對(duì)數(shù)據(jù)進(jìn)行降維和分類。 其中，兩層全連接層的隱藏單元分別為256 和11，最后一層采用Softmax 作為激活函數(shù)，輸出11 維的概率向量，通過(guò)概率值最大的索引得到分類結(jié)果。

3 仿真實(shí)驗(yàn)及模型性能分析

本文采用RML2016.10a 公開(kāi)數(shù)據(jù)集進(jìn)行仿真驗(yàn)證，該數(shù)據(jù)集模擬真實(shí)信道環(huán)境，加入多徑衰落、高斯白噪聲等影響因素。 其中包含了11 種調(diào)制類型:8 種數(shù)字調(diào)制(CPFSK，GFSK，BPSK，QPSK，8PSK，PAM4，QAM16，QAM64)和3 種模擬調(diào)制(WBFM，AM-DSB，AM-SSB)。 信噪比的范圍為－20 ~18 dB，間隔為2 dB。 相同信噪比下每種調(diào)制方式的樣本數(shù)為1 000，故總樣本數(shù)為220 000。 每個(gè)樣本包含I 路和Q 路分量，采樣點(diǎn)長(zhǎng)度為128，即單一信號(hào)的樣本格式為2 ×128。

3.1 仿真實(shí)驗(yàn)

實(shí)驗(yàn)使用Pytorch 深度學(xué)習(xí)框架完成所有網(wǎng)絡(luò)模型的搭建和測(cè)試。 對(duì)信號(hào)數(shù)據(jù)集采用分層抽樣的方式，在同一信噪比下將相同調(diào)制方式數(shù)據(jù)量的70% 作為訓(xùn)練集(抽取3% 作為驗(yàn)證集)，30%作為測(cè)試集，確保訓(xùn)練的公平性。 在所有網(wǎng)絡(luò)結(jié)構(gòu)中均使用Adam 優(yōu)化器，訓(xùn)練模型時(shí)的批量大小為512，損失函數(shù)使用交叉熵，學(xué)習(xí)率設(shè)置為5 ×10－4，其余參數(shù)保持默認(rèn)值。

將上述處理完成的信號(hào)數(shù)據(jù)集直接送入CLRD 網(wǎng)絡(luò)模型，參數(shù)保持一致，仿真得到損失值隨訓(xùn)練次數(shù)變化的曲線，如圖5 所示。

圖5 CLRD 網(wǎng)絡(luò)損失函數(shù)曲線Fig.5 Loss function curve of CLRD network structure

由圖5 可見(jiàn)，訓(xùn)練次數(shù)在45 左右時(shí)，損失值趨于穩(wěn)定，表明網(wǎng)絡(luò)在此刻的擬合效果最好。

使用LSTM 網(wǎng)絡(luò)提取信號(hào)的時(shí)序特征時(shí)，層數(shù)過(guò)少可能導(dǎo)致提取特征不充分，層數(shù)過(guò)多則加大訓(xùn)練成本，最終都會(huì)影響信號(hào)的識(shí)別準(zhǔn)確率，因此實(shí)際應(yīng)用中LSTM 的層數(shù)一般不超過(guò)3 層。 固定其余參數(shù)，設(shè)置LSTM 網(wǎng)絡(luò)中隱藏單元個(gè)數(shù)為100，在不同的網(wǎng)絡(luò)層數(shù)下，得到信噪比大于－2 dB時(shí)的識(shí)別準(zhǔn)確率，如表1 所示。由表1 可知，兩層LSTM 網(wǎng)絡(luò)可以更好地提取信號(hào)特征，識(shí)別準(zhǔn)確率更高。

表1 LSTM 層數(shù)對(duì)準(zhǔn)確率的影響Table 1 Effect of the layer numbers of LSTM on accuracy

3.2 不同網(wǎng)絡(luò)模型對(duì)比

仿真測(cè)試中，分別選取了CNN、ResNet、LSTM、CNN-LSTM、CLDNN 模型與CLRD 模型進(jìn)行比較。 CNN 模型第一層采用256 個(gè)1 ×7 的卷積核，第二層采用80 個(gè)2 ×7 的卷積核；CNNLSTM 模型在CNN 基礎(chǔ)上級(jí)聯(lián)LSTM 網(wǎng)絡(luò)，隱藏單元個(gè)數(shù)設(shè)置為100；CLDNN 模型采用文獻(xiàn)[14]的網(wǎng)絡(luò)結(jié)構(gòu)。 測(cè)試得到6 種網(wǎng)絡(luò)模型的識(shí)別準(zhǔn)確率曲線如圖6 所示，各網(wǎng)絡(luò)在信噪比大于－4 dB時(shí)的平均識(shí)別準(zhǔn)確率如表2 所示。

表2 不同網(wǎng)絡(luò)模型的平均識(shí)別準(zhǔn)確率對(duì)比Table 2 Comparisons of average recognition accuracy of different network structures

圖6 不同網(wǎng)絡(luò)模型的識(shí)別準(zhǔn)確率對(duì)比Fig.6 Comparisons of recognition accuracy of different network structures

由圖6 和表2 可見(jiàn)，當(dāng)信噪比大于－4 dB 時(shí)，CLRD 模型的平均識(shí)別準(zhǔn)確率明顯高于其余5 種模型，可達(dá)到90.69%。 用于對(duì)比的5 種模型中，CLDNN 模型表現(xiàn)最好，LSTM 模型表現(xiàn)最差。CLRD 模型的識(shí)別準(zhǔn)確率比CLDNN、 CNNLSTM、ResNet、CNN、LSTM分別提高了7.87%、9.36%、12.69%、14.74% 和25.06%。 相較于CLDNN 模型，本文提出的CLRD 模型引入了深度殘差網(wǎng)絡(luò)，避免了因增加網(wǎng)絡(luò)深度而造成網(wǎng)絡(luò)退化，從而提高了信號(hào)識(shí)別準(zhǔn)確率。

3.3 CLRD 模型性能分析

為進(jìn)一步分析CLRD 模型性能，圖7 給出了該模型對(duì)11 種信號(hào)的識(shí)別準(zhǔn)確率，圖8 給出了信噪比為2 dB 時(shí)的混淆矩陣圖，圖中SNR 表示信噪比。

圖7 各類信號(hào)的識(shí)別準(zhǔn)確率對(duì)比Fig.7 Comparisons of recognition accuracy of various signals

圖8 混淆矩陣圖(信噪比為2 dB)Fig.8 Confusion matrix diagram (SNR is 2 dB)

由圖7 可知:當(dāng)信噪比小于－12 dB 時(shí)，各類信號(hào)識(shí)別效果均很差；隨著信噪比增加，識(shí)別準(zhǔn)確率開(kāi)始穩(wěn)步提高，當(dāng)信噪比達(dá)到2 dB 時(shí)，大多數(shù)信號(hào)的識(shí)別準(zhǔn)確率開(kāi)始趨于穩(wěn)定，只有WBFM、QAM64 兩種信號(hào)的識(shí)別效果較差。

由圖8 可知，CLRD 模型對(duì)CPFSK、BPSK、QPSK、PAM4、GFSK、AM-DSB、AM-SSB、8PSK信號(hào)的識(shí)別準(zhǔn)確率接近100%，對(duì)QAM16 信號(hào)的識(shí)別準(zhǔn)確率為92%，對(duì)QAM64 信號(hào)的識(shí)別準(zhǔn)確率為85%，對(duì)WBFM 信號(hào)的識(shí)別準(zhǔn)確率僅有40%。

4 結(jié)論

針對(duì)傳統(tǒng)調(diào)制方式識(shí)別方法存在識(shí)別率不高的問(wèn)題，提出了一種可以直接處理原始I-Q 信號(hào)的雙通道混合網(wǎng)絡(luò)( CLRD) 模型。 基于RML2016.10a 數(shù)據(jù)集對(duì)該模型進(jìn)行了仿真驗(yàn)證，結(jié)果表明，本文提出的方法可完成對(duì)11 種調(diào)制信號(hào)的有效識(shí)別，且在信噪比大于－4 dB 時(shí)，平均識(shí)別準(zhǔn)確率達(dá)到90.69%，比CLDNN、CNNLSTM、ResNet、CNN、LSTM 分別提高了7.87%、9.36%、12.69%、14.74%和25.06%。 本文提出的方法在調(diào)制方式識(shí)別領(lǐng)域具有一定的實(shí)用價(jià)值。