徐亞軍,郭恩豪,陳 林,司成可
(1.中國(guó)民用航空飛行學(xué)院航空工程學(xué)院,四川 廣漢 618307; 2.同方電子科技有限公司,江西 九江 332000)
隨著軟件無(wú)線電技術(shù)快速進(jìn)步,各類(lèi)用頻設(shè)備數(shù)量不斷增多,電磁環(huán)境中的信號(hào)調(diào)制種類(lèi)日益復(fù)雜,能否在實(shí)際電磁環(huán)境中快速、準(zhǔn)確地識(shí)別出信號(hào)調(diào)制類(lèi)型,對(duì)于提升頻譜利用效率以及信號(hào)深度分析均具有重要意義,關(guān)于對(duì)信號(hào)調(diào)制類(lèi)型識(shí)別的各種技術(shù)已在認(rèn)知無(wú)線通信[1-2]、電子對(duì)抗[3-4]、信號(hào)偵察[5-6]等領(lǐng)域受到廣泛關(guān)注。
目前,針對(duì)無(wú)線電信號(hào)的調(diào)制識(shí)別方法大致分為基于特征的(Feature Based, FB)信號(hào)調(diào)制類(lèi)型識(shí)別法和基于數(shù)據(jù)驅(qū)動(dòng)的深度調(diào)制識(shí)別法2類(lèi)。在基于特征的調(diào)制識(shí)別技術(shù)中,首先對(duì)原始I、Q數(shù)據(jù)通過(guò)某種變換(例如:高階累積量計(jì)算[7]、多尺度熵[8]、WVD變換[9]、HHT變換[10]、STFT[11]等)提取信號(hào)特征,隨后通過(guò)各種分類(lèi)器(例如:SVM[12]、決策樹(shù)[13]、KNN[14]以及全連接神經(jīng)網(wǎng)絡(luò)[15]等)對(duì)信號(hào)特征作進(jìn)一步分類(lèi),最終實(shí)現(xiàn)信號(hào)調(diào)制類(lèi)型識(shí)別。然而,基于信號(hào)特征的調(diào)制識(shí)別方法對(duì)于信噪比高、且信號(hào)類(lèi)型種類(lèi)少時(shí)(典型值信噪比不小于8 dB且信號(hào)種類(lèi)在10種以?xún)?nèi)),其識(shí)別性能較好。當(dāng)信號(hào)自身調(diào)制類(lèi)型復(fù)雜,信號(hào)識(shí)別種類(lèi)多,尤其在低信噪比場(chǎng)景下對(duì)信號(hào)特征提取不充分時(shí),其調(diào)制識(shí)別性能急劇下降。截止目前,絕大多數(shù)研究如文獻(xiàn)[15-19]中所研究的信號(hào)調(diào)制類(lèi)型種類(lèi)均不超過(guò)20種,對(duì)于調(diào)制類(lèi)型相似、調(diào)制樣式復(fù)雜且調(diào)制樣式同時(shí)超過(guò)20種的信號(hào)調(diào)制類(lèi)型識(shí)別研究公開(kāi)報(bào)道較少,鑒于此,本文不對(duì)其進(jìn)行專(zhuān)門(mén)研究。與基于信號(hào)特征的調(diào)制識(shí)別類(lèi)方法不同,基于數(shù)據(jù)驅(qū)動(dòng)的信號(hào)調(diào)制識(shí)別方法實(shí)現(xiàn)了從原始I、Q數(shù)據(jù)直接識(shí)別出信號(hào)調(diào)制類(lèi)型,既簡(jiǎn)化識(shí)別流程的同時(shí)又提高了調(diào)制識(shí)別性能[16-19]。具體上講,O’Shea等人[16]最先利用信號(hào)I、Q數(shù)據(jù)訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)(CNN),并對(duì)不同調(diào)制類(lèi)型信號(hào)進(jìn)行識(shí)別,研究結(jié)果證實(shí)了CNN網(wǎng)絡(luò)能夠?qū)Σ煌{(diào)制類(lèi)型信號(hào)進(jìn)行分類(lèi)識(shí)別。接著,Meng等人[17]采用經(jīng)過(guò)專(zhuān)門(mén)設(shè)計(jì)的CNN網(wǎng)絡(luò)對(duì)匹配濾波器輸出的調(diào)制信號(hào)進(jìn)行分類(lèi)識(shí)別,對(duì)比之前的CNN網(wǎng)絡(luò),該網(wǎng)絡(luò)的識(shí)別性能獲得進(jìn)一步提升。與此同時(shí),文獻(xiàn)[18]中還提出了一種基于端到端的調(diào)制類(lèi)型識(shí)別神經(jīng)網(wǎng)絡(luò),研究結(jié)果表明所提網(wǎng)絡(luò)對(duì)信號(hào)調(diào)制類(lèi)型的識(shí)別能力超過(guò)了基于特征類(lèi)的識(shí)別方法。除此之外,Zhang等人[19]采用組合特征作為信號(hào)識(shí)別網(wǎng)絡(luò)的輸入,研究不同類(lèi)型的神經(jīng)網(wǎng)絡(luò)對(duì)組合特征的識(shí)別性能,由于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)(LSTM)進(jìn)一步考慮了信號(hào)的時(shí)間相關(guān)性,其識(shí)別性能更好。然而,上述報(bào)道的研究?jī)?nèi)容仍存在幾點(diǎn)不足:1)信號(hào)調(diào)制樣式種類(lèi)不豐富。上述所介紹的信號(hào)調(diào)制類(lèi)型數(shù)量大多在20種以?xún)?nèi),面對(duì)更多種類(lèi)的調(diào)制類(lèi)型時(shí),網(wǎng)絡(luò)識(shí)別性能下降。2)大都照搬現(xiàn)有的圖像識(shí)別領(lǐng)域的神經(jīng)網(wǎng)絡(luò)進(jìn)行信號(hào)調(diào)制類(lèi)型識(shí)別,未充分考慮無(wú)線電信號(hào)數(shù)據(jù)自身特性,導(dǎo)致網(wǎng)絡(luò)結(jié)構(gòu)過(guò)于復(fù)雜且識(shí)別性能不高。3)現(xiàn)有深度調(diào)制識(shí)別方法對(duì)信號(hào)調(diào)制識(shí)別的環(huán)境適應(yīng)能力不足,當(dāng)環(huán)境發(fā)生變化時(shí),網(wǎng)絡(luò)需要大量樣本數(shù)據(jù)重新訓(xùn)練網(wǎng)絡(luò)參數(shù),即便采用遷移學(xué)習(xí)提升現(xiàn)有網(wǎng)絡(luò)在新信道環(huán)境下適應(yīng)能力,其識(shí)別性能仍然不佳。
鑒于此,本文通過(guò)實(shí)驗(yàn)室桌面仿真和外場(chǎng)實(shí)測(cè)數(shù)據(jù)采集相結(jié)合的方式,構(gòu)建24種不同調(diào)制類(lèi)型信號(hào)數(shù)據(jù)集;同時(shí)針對(duì)無(wú)線電信號(hào)自身特征,在繼承殘差神經(jīng)網(wǎng)絡(luò)(ResNet)結(jié)構(gòu)基礎(chǔ)上,研究網(wǎng)絡(luò)層數(shù)、卷積層步長(zhǎng)、卷積核大小以及訓(xùn)練集大小對(duì)神經(jīng)網(wǎng)絡(luò)識(shí)別性能的影響,針對(duì)性地設(shè)計(jì)出一款具有緊致殘差結(jié)構(gòu)的信號(hào)調(diào)制類(lèi)型識(shí)別神經(jīng)網(wǎng)絡(luò),實(shí)現(xiàn)在有效降低網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜度的同時(shí)保證網(wǎng)絡(luò)識(shí)別性能;不僅如此,利用遷移學(xué)習(xí)研究環(huán)境信道變化場(chǎng)合下的遷移學(xué)習(xí)策略,避免因信道環(huán)境變化而重新訓(xùn)練網(wǎng)絡(luò),加快網(wǎng)絡(luò)收斂速度,提升神經(jīng)網(wǎng)絡(luò)對(duì)環(huán)境的適應(yīng)能力。
一方面,在上位機(jī)上采用MATLAB軟件開(kāi)發(fā)了22種不同調(diào)制類(lèi)型的基帶波形(各種波形的最大符號(hào)速率設(shè)為1 MSPS),每種基帶調(diào)制類(lèi)型信號(hào)波形的I、Q數(shù)據(jù)長(zhǎng)度設(shè)為100萬(wàn)點(diǎn)。將開(kāi)發(fā)的基帶波形通過(guò)矢量信號(hào)發(fā)生器(VSG)完成調(diào)制,并上變頻至載波頻率為666 MHz形成已調(diào)信號(hào),后經(jīng)放大輸出(輸出功率為0 dBm)。接收端,通過(guò)有線連接至RF信號(hào)采集板卡進(jìn)行0中頻采樣(采集卡工作頻段范圍為70 MHz至700 MHz,采集卡AD采樣率設(shè)為200 MHz),AD量化位數(shù)為16 bit量化,通過(guò)采集板卡將接收信號(hào)進(jìn)行下變頻至0中頻并經(jīng)25倍抽取后以8 MSPS的基帶I、Q速率輸出。每類(lèi)調(diào)制類(lèi)型輸出信號(hào)的采集時(shí)長(zhǎng)為10 s,依次生成22種不同調(diào)制類(lèi)型的基帶I、Q數(shù)據(jù);另一方面,利用智能頻譜傳感器(由同方電子科技有限公司提供)作為I、Q數(shù)據(jù)采集設(shè)備,對(duì)廣漢機(jī)場(chǎng)專(zhuān)用的2個(gè)VHF通信頻點(diǎn)分別進(jìn)行數(shù)據(jù)采集,最終構(gòu)造出24種不同調(diào)制類(lèi)型信號(hào)集。具體包括256-QAM、128-QAM、64-QAM、32-QAM、16-QAM、32-PSK、16-PSK、4-ASK;2-ASK、8-PAM、2-PAM、8-PSK、QPSK、OQPSK、MSK、DQPSK、D8PSK、DBPSK、AM、FM、GFSK、GMSK、廣漢-VHF1、廣漢-VHF2。在此基礎(chǔ)上,進(jìn)一步對(duì)調(diào)制類(lèi)型數(shù)據(jù)集手動(dòng)添加不同強(qiáng)度的噪聲(SNR=-4 dB~12 dB)生成新的不同噪聲強(qiáng)度下的信號(hào)集。隨后再對(duì)含噪信號(hào)集樣本進(jìn)行分段切片處理,形成固定長(zhǎng)度的數(shù)據(jù)集。完整的數(shù)據(jù)集生成流程如圖1所示。
圖1 數(shù)據(jù)集生成流程圖
鑒于CNN網(wǎng)絡(luò)出色的識(shí)別性能,本文將其作為信號(hào)調(diào)制識(shí)別性能的對(duì)比網(wǎng)絡(luò)。該網(wǎng)絡(luò)包括2個(gè)卷積層和3個(gè)全連接層,網(wǎng)絡(luò)輸入樣本為1024點(diǎn)長(zhǎng)度的原始I、Q數(shù)據(jù)。卷積層主要對(duì)輸入數(shù)據(jù)進(jìn)行特征提取,通過(guò)卷積操作生成特征圖[20]。每個(gè)卷積層中包含多個(gè)卷積核,卷積步幅設(shè)為1。網(wǎng)絡(luò)中的激活函數(shù)采用ReLU函數(shù),其函數(shù)表達(dá)式如式(1)所示。網(wǎng)絡(luò)中的池化窗口大小設(shè)為1×2,采用最大池化方式,池化步長(zhǎng)設(shè)為1,沿著同一維度對(duì)特征平面進(jìn)行降維。對(duì)比網(wǎng)絡(luò)的具體結(jié)構(gòu)如表1所示。
f(z)=max(0,z)
(1)
其中z為激活函數(shù)的輸入特征。
表1 CNN神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
借鑒計(jì)算機(jī)視覺(jué)和圖像識(shí)別領(lǐng)域已獲得廣泛應(yīng)用的殘差神經(jīng)網(wǎng)絡(luò)(ResNet)結(jié)構(gòu)[21],在CNN網(wǎng)絡(luò)基礎(chǔ)上增加恒等映射,采用類(lèi)似并聯(lián)(而非級(jí)聯(lián))的形式調(diào)整優(yōu)化網(wǎng)絡(luò)參數(shù),有效避免了CNN網(wǎng)絡(luò)隨網(wǎng)絡(luò)層數(shù)加深、迭代次數(shù)過(guò)多所導(dǎo)致的梯度爆炸和梯度消失等問(wèn)題[22]。然而,當(dāng)前殘差神經(jīng)網(wǎng)絡(luò)的典型網(wǎng)絡(luò)層數(shù)大多設(shè)置為18、50、101層等類(lèi)型,若在信號(hào)調(diào)制識(shí)別中照搬殘差網(wǎng)絡(luò)的深度層數(shù),將直接導(dǎo)致網(wǎng)絡(luò)結(jié)構(gòu)過(guò)于復(fù)雜、網(wǎng)絡(luò)參數(shù)大、所需訓(xùn)練樣本數(shù)量多、消耗硬件資源等問(wèn)題。同時(shí),由于未充分考慮無(wú)線電信號(hào)I、Q數(shù)據(jù)特性,直接照搬圖像識(shí)別領(lǐng)域成熟的殘差神經(jīng)網(wǎng)絡(luò)進(jìn)行信號(hào)調(diào)制類(lèi)型識(shí)別,將導(dǎo)致網(wǎng)絡(luò)的識(shí)別性能不佳,這在基于CNN網(wǎng)絡(luò)的信號(hào)調(diào)制識(shí)別研究中已得到證實(shí)。
因此,文中結(jié)合無(wú)線電信號(hào)的I、Q數(shù)據(jù)特征,利用基本卷積層、殘差單元、殘差塊以及全連接層搭建信號(hào)調(diào)制識(shí)別神經(jīng)網(wǎng)絡(luò),所構(gòu)建的網(wǎng)絡(luò)架構(gòu)如圖2所示,根據(jù)不同的網(wǎng)絡(luò)結(jié)構(gòu)及網(wǎng)絡(luò)超參數(shù)條件所表現(xiàn)出的識(shí)別性能確定網(wǎng)絡(luò)最終結(jié)構(gòu)。
圖2 所提的DeepResNet-RF網(wǎng)絡(luò)基本架構(gòu)
在網(wǎng)絡(luò)訓(xùn)練階段,網(wǎng)絡(luò)全連接層的丟棄率設(shè)為0.3,使用Adam優(yōu)化器作為網(wǎng)絡(luò)優(yōu)化器,超參數(shù)學(xué)習(xí)率設(shè)為0.001,模糊因子設(shè)為10-8,每次更新后學(xué)習(xí)率的衰減值為0,每輪訓(xùn)練數(shù)據(jù)均隨機(jī)洗牌,數(shù)據(jù)集總樣本數(shù)為26萬(wàn)個(gè),選取數(shù)據(jù)集中的80%作為訓(xùn)練數(shù)據(jù),20%作為測(cè)試數(shù)據(jù),每批次樣本數(shù)為1000。采用多類(lèi)別交叉熵作為損失函數(shù)。
(2)
(3)
其中?yj/?wj=bj,根據(jù)f(yj)′=f(yj)(1-f(yj)),f為每層網(wǎng)絡(luò)的激活函數(shù),最后一層采用softmax(.)函數(shù),各神經(jīng)元的權(quán)值梯度為:
(4)
因此,最后一層網(wǎng)絡(luò)的權(quán)值梯度向量表示如下:
?Θ=[?w0,?w1,…,?wj]
(5)
進(jìn)一步,采用梯度下降法更新網(wǎng)絡(luò)權(quán)值。
Θ=Θ1-α·?Θ
(6)
其中,?Θ表示每層網(wǎng)絡(luò)權(quán)值的梯度,α為學(xué)習(xí)率,Θ為待更新的網(wǎng)絡(luò)權(quán)值,Θ1為上一次迭代更新的網(wǎng)絡(luò)權(quán)值。最后反向依次完成每層網(wǎng)絡(luò)權(quán)值更新。
1)網(wǎng)絡(luò)輸入樣本長(zhǎng)度。
首先,啟發(fā)式給定網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)。其中殘差塊數(shù)設(shè)為6,每個(gè)殘差塊中卷積層數(shù)為5,卷積核大小設(shè)為4×2。在此基礎(chǔ)上,采用不同長(zhǎng)度的數(shù)據(jù)樣本對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練與測(cè)試,以此確定網(wǎng)絡(luò)的最佳輸入樣本長(zhǎng)度。分別計(jì)算了樣本長(zhǎng)度為128、256、512和1024幾種情況下的網(wǎng)絡(luò)識(shí)別性能,測(cè)試結(jié)果如圖3所示。結(jié)果表明,當(dāng)輸入數(shù)據(jù)維度為2×1024×1(I、Q這2路)時(shí),網(wǎng)絡(luò)在-4 dB信噪比條件下的識(shí)別性能超過(guò)75%。信噪比超過(guò)4 dB時(shí),其識(shí)別性能趨于100%。進(jìn)一步增加數(shù)據(jù)維度至2×2048×1,網(wǎng)絡(luò)識(shí)別性能沒(méi)有顯著提升,但訓(xùn)練網(wǎng)絡(luò)所需的時(shí)間成本卻成倍增加。折中考慮,網(wǎng)絡(luò)輸入樣本長(zhǎng)度設(shè)置為1024合理,故網(wǎng)絡(luò)輸入數(shù)據(jù)維度為2×1024×1。
圖3 不同樣本長(zhǎng)度下識(shí)別性能隨信噪比變化曲線
2)殘差塊個(gè)數(shù)。
給定網(wǎng)絡(luò)輸入數(shù)據(jù)維度為2×1024×1條件下,進(jìn)一步測(cè)試網(wǎng)絡(luò)中包含不同殘差塊個(gè)數(shù)對(duì)應(yīng)的網(wǎng)絡(luò)識(shí)別性能。結(jié)果表明,針對(duì)文中所采集的數(shù)據(jù)樣本而言,不同數(shù)量的殘差塊對(duì)網(wǎng)絡(luò)識(shí)別性能影響不明顯,當(dāng)網(wǎng)絡(luò)中使用的殘差塊數(shù)為5時(shí),網(wǎng)絡(luò)在-4 dB信噪比條件下的識(shí)別準(zhǔn)確性達(dá)到74%,6 dB信噪比條件下趨近100%,若繼續(xù)增加網(wǎng)絡(luò)的殘差塊數(shù),其識(shí)別精度并沒(méi)有顯著提升。鑒于此,當(dāng)深度殘差調(diào)制識(shí)別網(wǎng)絡(luò)的殘差塊數(shù)設(shè)為5時(shí),網(wǎng)絡(luò)能達(dá)到最佳的調(diào)制識(shí)別性能。
3)殘差塊內(nèi)包含的卷積層數(shù)。
在確定數(shù)據(jù)樣本維度(2×1024×1)和殘差塊數(shù)(5個(gè))后,進(jìn)一步對(duì)殘差塊中包含的卷積層數(shù)進(jìn)行研究,分析了殘差塊中卷積層從1層逐次遞增至6層時(shí)的網(wǎng)絡(luò)識(shí)別性能,測(cè)試結(jié)果如圖4所示。當(dāng)卷積層數(shù)設(shè)為4時(shí),網(wǎng)絡(luò)在-4 dB信噪比條件下的識(shí)別精度達(dá)到73%,超過(guò)8 dB信噪比時(shí)的識(shí)別精度趨于100%。若繼續(xù)增加殘差塊中的卷積層數(shù),其網(wǎng)絡(luò)識(shí)別性能無(wú)明顯提升。故深度殘差調(diào)制識(shí)別網(wǎng)絡(luò)的殘差塊中的卷積層數(shù)設(shè)為4是合理的。
圖4 殘差塊內(nèi)包含不同卷積層數(shù)的網(wǎng)絡(luò)識(shí)別性能
4)網(wǎng)絡(luò)卷積核大小。
在確定了網(wǎng)絡(luò)輸入樣本數(shù)據(jù)維度、殘差塊數(shù)(5個(gè))以及卷積層數(shù)(4層)等網(wǎng)絡(luò)超參數(shù)條件下,進(jìn)一步對(duì)卷積層中不同卷積核尺寸進(jìn)行研究,分析了卷積核尺寸從2層逐次遞增至6層時(shí)的網(wǎng)絡(luò)識(shí)別性能,測(cè)試結(jié)果如圖5所示。當(dāng)卷積核長(zhǎng)度設(shè)為5時(shí),相較于其他數(shù)據(jù)長(zhǎng)度而言,網(wǎng)絡(luò)在-4 dB信噪比條件下的識(shí)別性能達(dá)到78%,在4 dB信噪比下接近100%,進(jìn)一步增加卷積核尺寸反而導(dǎo)致網(wǎng)絡(luò)識(shí)別性能下降。因此,折中考慮網(wǎng)絡(luò)識(shí)別性能以及網(wǎng)絡(luò)復(fù)雜度等因素,將網(wǎng)絡(luò)卷積核尺寸設(shè)為5。
最終,在以上各網(wǎng)絡(luò)超參數(shù)選取基礎(chǔ)上,直接確定出最終的信號(hào)調(diào)制識(shí)別網(wǎng)絡(luò)結(jié)構(gòu),所提的緊致DeepResNet-RF網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)如表2所示。
圖5 不同卷積核大小的網(wǎng)絡(luò)識(shí)別性能
表2 所提的DeepResNet-RF網(wǎng)絡(luò)結(jié)構(gòu)
所謂緊致,主要體現(xiàn)在3個(gè)方面。①傳統(tǒng)的ResNet在下采樣過(guò)程中,通道數(shù)是不斷翻倍的,而本文中的通道數(shù)固定為32,避免了網(wǎng)絡(luò)因通道數(shù)的增加而導(dǎo)致網(wǎng)絡(luò)的計(jì)算復(fù)雜度急劇上升;②本文使用的網(wǎng)絡(luò)層數(shù)為24層,相較于ResNet50以及ResNet101等傳統(tǒng)殘差網(wǎng)絡(luò)而言,所設(shè)計(jì)網(wǎng)絡(luò)在保證識(shí)別精度的同時(shí)大大減少了網(wǎng)絡(luò)總層數(shù),降低了網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜度;③本文所采用的的數(shù)據(jù)維度為2×1024×1。對(duì)此,通過(guò)反復(fù)的實(shí)驗(yàn)比對(duì)發(fā)現(xiàn),選用卷積核大小為5×2,相較于傳統(tǒng)卷積核大小為3×3而言,在加快網(wǎng)絡(luò)運(yùn)行速度的同時(shí),也能保證網(wǎng)絡(luò)的識(shí)別準(zhǔn)確性。
在移動(dòng)場(chǎng)景中,信號(hào)源到接收機(jī)間的信道環(huán)境通常會(huì)發(fā)生變化,因此,需要驗(yàn)證所提網(wǎng)絡(luò)在時(shí)變信道環(huán)境下的適應(yīng)能力。接下來(lái),在采集的原始數(shù)據(jù)集基礎(chǔ)上,對(duì)原始數(shù)據(jù)集樣本仿真加入瑞利衰落效應(yīng)模擬信道環(huán)境發(fā)生變化后的數(shù)據(jù)集,利用原數(shù)據(jù)集訓(xùn)練的網(wǎng)絡(luò)對(duì)加入瑞利衰落效應(yīng)的新數(shù)據(jù)集進(jìn)行調(diào)制類(lèi)型識(shí)別性能測(cè)試,不同信噪比下的識(shí)別性能測(cè)試結(jié)果如表3所示。結(jié)果表明:網(wǎng)絡(luò)在原信道數(shù)據(jù)集上的測(cè)試具有極高的識(shí)別性能(整體上超過(guò)90%),但采用經(jīng)瑞利衰落效應(yīng)后的新數(shù)據(jù)對(duì)網(wǎng)絡(luò)進(jìn)行測(cè)試時(shí),其識(shí)別性能最高僅達(dá)41%,所提網(wǎng)絡(luò)對(duì)時(shí)變系統(tǒng)的識(shí)別效果性能極差。因此,對(duì)新信道環(huán)境下的信號(hào)進(jìn)行調(diào)制識(shí)別時(shí),需要使用新信道環(huán)境下的訓(xùn)練數(shù)據(jù)對(duì)網(wǎng)絡(luò)進(jìn)行重新訓(xùn)練以更新網(wǎng)絡(luò)參數(shù)。然而,如果完全重新訓(xùn)練網(wǎng)絡(luò),不僅需要的數(shù)據(jù)量龐大而且時(shí)間成本會(huì)急劇上升,不能滿(mǎn)足實(shí)時(shí)性要求較高的場(chǎng)合。鑒于此,采用遷移學(xué)習(xí)技術(shù),采用新環(huán)境下的訓(xùn)練數(shù)據(jù)對(duì)網(wǎng)絡(luò)參數(shù)進(jìn)行微調(diào),利用部分調(diào)整后的神經(jīng)網(wǎng)絡(luò)進(jìn)行調(diào)制識(shí)別[23]。
表3 信道變化條件下的網(wǎng)絡(luò)識(shí)別性能對(duì)比
遷移學(xué)習(xí)理論是對(duì)源域與目標(biāo)域兩者之間的數(shù)據(jù)相關(guān)性進(jìn)行研究。本文中,結(jié)合神經(jīng)網(wǎng)絡(luò)的深度遷移學(xué)習(xí)使用源域即原始信道的數(shù)據(jù)對(duì)所搭建的網(wǎng)絡(luò)進(jìn)行訓(xùn)練、測(cè)試,當(dāng)所在域發(fā)生變化時(shí),原先已訓(xùn)練好的網(wǎng)絡(luò)對(duì)于目標(biāo)域即在新信道下的分類(lèi)識(shí)別效果極差。這時(shí),利用少量目標(biāo)域中的樣本數(shù)據(jù)對(duì)源域中已訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行網(wǎng)絡(luò)微調(diào),以此完成神經(jīng)網(wǎng)絡(luò)的遷移學(xué)習(xí)。在這里,源域和目標(biāo)域兩者之間的相似性主要體現(xiàn)在信號(hào)數(shù)據(jù)的無(wú)線電特性、數(shù)據(jù)分布是保持一致的。這也是為什么遷移學(xué)習(xí)能夠解決信道環(huán)境改變時(shí)的網(wǎng)絡(luò)性能惡化問(wèn)題。本文針對(duì)基于神經(jīng)網(wǎng)絡(luò)的深度遷移學(xué)習(xí)提出3種遷移學(xué)習(xí)方式:1)微調(diào)網(wǎng)絡(luò)所有層權(quán)值;2)網(wǎng)絡(luò)全連接層權(quán)值不變、微調(diào)卷積層權(quán)值;3)網(wǎng)絡(luò)卷積層權(quán)值不變、微調(diào)全連接層權(quán)值。
1)網(wǎng)絡(luò)微調(diào)的數(shù)據(jù)集規(guī)模。
文中在不同訓(xùn)練數(shù)據(jù)集樣本規(guī)模下分別測(cè)試網(wǎng)絡(luò)識(shí)別性能,據(jù)此確定遷移學(xué)習(xí)所需的最少樣本數(shù)。具體上,分別利用4000(1.5%)、6000(2.3%)、13000(5%)、26000(10%)、52000(20%)、86000(33%)、260000(100%)規(guī)模的訓(xùn)練數(shù)據(jù)進(jìn)行網(wǎng)絡(luò)訓(xùn)練后的識(shí)別性能如圖6所示。結(jié)果表明,當(dāng)采用86000個(gè)樣本構(gòu)成的微調(diào)數(shù)據(jù)集時(shí),網(wǎng)絡(luò)的平均識(shí)別性能超過(guò)90%,與采用全部數(shù)據(jù)集(260000個(gè)樣本)對(duì)網(wǎng)絡(luò)進(jìn)行重新訓(xùn)練后的網(wǎng)絡(luò)平均識(shí)別性能相當(dāng),但重新訓(xùn)練網(wǎng)絡(luò)所需要的運(yùn)算時(shí)間卻增加了將近4倍,為此,在后續(xù)遷移學(xué)習(xí)策略選取中,微調(diào)數(shù)據(jù)集樣本數(shù)為86000個(gè)。
圖6 不同大小的微調(diào)數(shù)據(jù)集下網(wǎng)絡(luò)的識(shí)別精度
2)不同遷移學(xué)習(xí)方式下的識(shí)別性能。
基于上述3種遷移學(xué)習(xí)方式,進(jìn)一步利用微調(diào)數(shù)據(jù)集對(duì)DeepResNet-RF網(wǎng)絡(luò)進(jìn)行遷移學(xué)習(xí),獲得的識(shí)別性能結(jié)果如圖7所示。結(jié)果表明,采用網(wǎng)絡(luò)全連接層固定,對(duì)卷積層的權(quán)值偏置進(jìn)行微調(diào)的遷移學(xué)習(xí)方法,其對(duì)于不同場(chǎng)景下的新數(shù)據(jù)識(shí)別效果最好。導(dǎo)致這一現(xiàn)象的原因是因?yàn)榫W(wǎng)絡(luò)卷積層所需訓(xùn)練的參數(shù)量較少,采用較小的訓(xùn)練集能滿(mǎn)足卷積層參數(shù)進(jìn)行微調(diào)的要求,而全連接層所需要訓(xùn)練的參數(shù)眾多,僅采用少量數(shù)據(jù)集對(duì)其進(jìn)行調(diào)整,不足以完成網(wǎng)絡(luò)的權(quán)值微調(diào)。另外,DeepResNet-RF網(wǎng)絡(luò)特征提取主要由卷積層所決定,若僅對(duì)全連接層進(jìn)行權(quán)值更新則無(wú)法達(dá)到網(wǎng)絡(luò)的微調(diào)效果,故第2種遷移學(xué)習(xí)方法優(yōu)于其他2種遷移學(xué)習(xí)方法。
圖7 不同遷移學(xué)習(xí)方式的識(shí)別性能
為證實(shí)所提DeepResNet-RF網(wǎng)絡(luò)的識(shí)別性能,本文采取表2中的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行訓(xùn)練。DeepResNet-RF網(wǎng)絡(luò)的損失值隨迭代輪次變化的曲線如圖8所示,從圖中可以發(fā)現(xiàn),網(wǎng)絡(luò)迭代次數(shù)在接近30次時(shí),認(rèn)定網(wǎng)絡(luò)已訓(xùn)練好。雖然網(wǎng)絡(luò)的損失值處于震蕩的形式,但其數(shù)值總體上呈現(xiàn)下降的趨勢(shì),這表明網(wǎng)絡(luò)的學(xué)習(xí)性能良好,魯棒性高。
圖8 網(wǎng)絡(luò)損失值隨迭代輪次的變化曲線
本文分別對(duì)邊界信噪比(SNR=-4 dB和SNR=12 dB)條件測(cè)試了所提網(wǎng)絡(luò)的識(shí)別性能。測(cè)試結(jié)果表明,所提的DeepResNet-RF網(wǎng)絡(luò)在-4 dB信噪比場(chǎng)景下對(duì)不同調(diào)制類(lèi)型信號(hào)的識(shí)別效果存在一定的差異,整體識(shí)別性能約為90%。當(dāng)信噪比逐漸增加時(shí),網(wǎng)絡(luò)的識(shí)別性能不斷提升,當(dāng)信噪比達(dá)到12 dB時(shí),DeepResNet-RF網(wǎng)絡(luò)在訓(xùn)練數(shù)據(jù)集上的識(shí)別精度達(dá)到100%,從而證實(shí)本文所設(shè)計(jì)網(wǎng)絡(luò)的有效性。
為進(jìn)一步驗(yàn)證網(wǎng)絡(luò)識(shí)別泛化能力,在相同信道響應(yīng)條件下,采用未參予網(wǎng)絡(luò)訓(xùn)練的新數(shù)據(jù)對(duì)已訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行測(cè)試,分析不同信噪比下所設(shè)計(jì)網(wǎng)絡(luò)的整體識(shí)別性能與每種調(diào)制信號(hào)的識(shí)別準(zhǔn)確度,測(cè)試結(jié)果如表4所示。研究結(jié)果表明:所提網(wǎng)絡(luò)在低信噪比(-4 dB)場(chǎng)景下對(duì)于特定的幾種調(diào)制信號(hào)的識(shí)別效果不佳(如DQPSK、16QAM等),但整體識(shí)別性能達(dá)到94%。隨著信噪比逐漸增加,網(wǎng)絡(luò)的識(shí)別性能不斷提升,當(dāng)信噪比達(dá)到12 dB時(shí),網(wǎng)絡(luò)的識(shí)別精度達(dá)到100%,網(wǎng)絡(luò)在測(cè)試數(shù)據(jù)集與訓(xùn)練驗(yàn)證集上的網(wǎng)絡(luò)識(shí)別性能相當(dāng),證實(shí)了本文所設(shè)計(jì)的信號(hào)調(diào)制識(shí)別網(wǎng)絡(luò)具有良好的泛化能力。
表4 信號(hào)調(diào)制類(lèi)型識(shí)別性能
在信號(hào)調(diào)制識(shí)別性能對(duì)比實(shí)驗(yàn)中,基線對(duì)比網(wǎng)絡(luò)結(jié)構(gòu)如表1所示,DeepResNet-RF網(wǎng)絡(luò)結(jié)構(gòu)如表2所示。在網(wǎng)絡(luò)訓(xùn)練過(guò)程中,CNN網(wǎng)絡(luò)訓(xùn)練參數(shù)與DeepResNet-RF網(wǎng)絡(luò)訓(xùn)練過(guò)程中的損失函數(shù)、優(yōu)化器、學(xué)習(xí)率、模糊因子、訓(xùn)練數(shù)據(jù)樣本數(shù)和測(cè)試數(shù)據(jù)樣本數(shù)完全相同。CNN網(wǎng)絡(luò)和DeepResNet-RF網(wǎng)絡(luò)的批量樣本數(shù)目分別設(shè)為500和1000。
1)網(wǎng)絡(luò)識(shí)別性能對(duì)比。
在完成上述2種網(wǎng)絡(luò)的訓(xùn)練后,采用測(cè)試數(shù)據(jù)集對(duì)網(wǎng)絡(luò)的識(shí)別性能進(jìn)行測(cè)試,在訓(xùn)練數(shù)據(jù)集上的網(wǎng)絡(luò)識(shí)別性能與迭代輪次的性能曲線以及網(wǎng)絡(luò)在不同信噪比下的識(shí)別性能分別如圖9和表5所示。當(dāng)網(wǎng)絡(luò)訓(xùn)練的迭代次數(shù)達(dá)到30輪時(shí),CNN網(wǎng)絡(luò)與所提網(wǎng)絡(luò)在訓(xùn)練集上的識(shí)別性能均超過(guò)95%,但隨著迭代次數(shù)增多,所提網(wǎng)絡(luò)識(shí)別性能優(yōu)于CNN網(wǎng)絡(luò)的識(shí)別性能。
圖9 網(wǎng)絡(luò)識(shí)別性能與迭代輪次的性能曲線
表5 網(wǎng)絡(luò)在不同信噪比下的識(shí)別性能
根據(jù)表5可知,所提網(wǎng)絡(luò)在-4 dB信噪比下的識(shí)別精度達(dá)到76.4%,而CNN網(wǎng)絡(luò)的識(shí)別精度僅為64%。本文所提網(wǎng)絡(luò)在4 dB信噪比下的識(shí)別精度接近于100%,而CNN網(wǎng)絡(luò)的識(shí)別精度最高也僅達(dá)到80%,因此,無(wú)論在低信噪比還是在高信噪比場(chǎng)景下,本文所提網(wǎng)絡(luò)的識(shí)別性能都要優(yōu)于CNN網(wǎng)絡(luò)的識(shí)別性能。
2)基于遷移學(xué)習(xí)的網(wǎng)絡(luò)識(shí)別性能。
基于瑞利衰落數(shù)據(jù)對(duì)已完成遷移學(xué)習(xí)的網(wǎng)絡(luò)進(jìn)行測(cè)試,仍然以邊界信噪比為例進(jìn)行“包線”測(cè)試,結(jié)果如圖10所示,在-4 dB信噪比條件下,網(wǎng)絡(luò)的識(shí)別精度整體約為78%左右,而在12 dB信噪比條件下,網(wǎng)絡(luò)的識(shí)別精度接近于100%,與重新訓(xùn)練網(wǎng)絡(luò)所達(dá)到的識(shí)別精度近乎一致。
(a) SNR=-4 dB
本文針對(duì)無(wú)線電信號(hào)數(shù)據(jù)特點(diǎn)設(shè)計(jì)了一種適用于無(wú)線電信號(hào)調(diào)制識(shí)別且結(jié)構(gòu)緊致的輕量級(jí)神經(jīng)網(wǎng)絡(luò),實(shí)現(xiàn)了從原始基帶I、Q數(shù)據(jù)到信號(hào)調(diào)制類(lèi)型輸出的端到端識(shí)別。在此基礎(chǔ)上,利用遷移學(xué)習(xí)技術(shù)降低了網(wǎng)絡(luò)訓(xùn)練所需的樣本數(shù)目,增強(qiáng)了所提網(wǎng)絡(luò)在無(wú)線信道響應(yīng)發(fā)生變化時(shí)的環(huán)境適應(yīng)能力,減少了訓(xùn)練所需的硬件資源需求和訓(xùn)練數(shù)據(jù)集規(guī)模。在所構(gòu)建的信號(hào)調(diào)制類(lèi)型數(shù)據(jù)集上的識(shí)別性能測(cè)試表明:信道響應(yīng)改變時(shí),所提信號(hào)調(diào)制識(shí)別神經(jīng)網(wǎng)絡(luò)在信噪比為12 dB條件下的識(shí)別性能達(dá)到了95%,通過(guò)對(duì)比實(shí)驗(yàn)證實(shí)了所設(shè)計(jì)網(wǎng)絡(luò)的識(shí)別性能優(yōu)勢(shì)。下一步的主要工作是構(gòu)建全部外場(chǎng)實(shí)測(cè)數(shù)據(jù)集,進(jìn)一步驗(yàn)證和改善網(wǎng)絡(luò)在實(shí)測(cè)場(chǎng)景下的穩(wěn)健性。