王安義，孟琦峰，王明博

(西安科技大學(xué) 通信與信息工程學(xué)院，陜西 西安 710054)

0 引言

在全球信息技術(shù)和經(jīng)濟(jì)發(fā)展中,頻譜資源已經(jīng)成為各國建立新的競爭優(yōu)勢的關(guān)鍵戰(zhàn)略資源,制約5G網(wǎng)絡(luò)高速大容量的重要因素之一頻譜資源的稀缺[1]。無線應(yīng)用增長迅速,但固定頻譜分配策略導(dǎo)致資源利用不充分,需探索新的頻譜分配方法以高效利用頻譜資源[2-3]。為了解決頻譜資源短缺的問題,認(rèn)知無線電(Cognitive Radio,CR)作為一種潛在的方法被提出[4],它允許次用戶(Secondary User,SU)在主用戶(Primary User,PU)不使用時(shí)訪問PU,進(jìn)而使得PU的傳輸不會受到其他因素影響。

傳統(tǒng)的頻譜感知方法主要包括能量檢測(Energy Detection,ED)[5]、匹配濾波器檢測[6]和環(huán)平穩(wěn)特征檢測[7-8]。傳統(tǒng)的頻譜感知方法在低信噪比(Signal to Noise Ratio,SNR)和復(fù)雜電磁環(huán)境下缺乏實(shí)時(shí)性和適應(yīng)性,導(dǎo)致檢測準(zhǔn)確率較低。例如,能量探測器在衛(wèi)星頻譜傳感場景中有著廣泛應(yīng)用,但在SNR下降到很低時(shí),ED的表現(xiàn)依舊很差,甚至不能良好地工作。

深度學(xué)習(xí)(Deep Learning,DL)作為一種有效提取目標(biāo)特征的方法,近年來已經(jīng)被證明對許多復(fù)雜任務(wù)都是有效的,例如計(jì)算機(jī)視覺和自然語言處理等任務(wù)[9]。近年來,DL技術(shù)也開始廣泛應(yīng)用于頻譜感知。文獻(xiàn)[10]將深度神經(jīng)網(wǎng)絡(luò)與礦井下的頻譜感知相結(jié)合,雖然這種方法檢測概率有所提高,但是信號強(qiáng)度在礦井下嚴(yán)重衰落,導(dǎo)致在低SNR下該方法的檢測概率依然很低。文獻(xiàn)[11-12]提出利用信號協(xié)方差矩陣的頻譜感知方法,將協(xié)方差矩陣灰度圖像作為數(shù)據(jù)輸入到卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)模型中,完成頻譜感知。文 獻(xiàn)[13-14]提出將信號的灰度圖像送入CNN中進(jìn)行分類,從而確定PU是否存在。但是CNN模型在提取特征方面存在一定限制,而且隨著網(wǎng)絡(luò)層數(shù)的增加,容易出現(xiàn)梯度消失的問題,導(dǎo)致頻譜感知的準(zhǔn)確度仍然相對較低。文獻(xiàn)[15]把殘差神經(jīng)網(wǎng)絡(luò)應(yīng)用到頻譜感知中,殘差網(wǎng)絡(luò)可以隨著網(wǎng)絡(luò)層數(shù)的增加而保持網(wǎng)絡(luò)模型的性能,進(jìn)而減緩模型性能退化的情況發(fā)生。為了提高CNN特征提取的能力,從而有效捕捉到特征圖中更顯著的特征,文獻(xiàn)[16]引入了注意力機(jī)制,通過該機(jī)制可以增加目標(biāo)重要特征的權(quán)重并抑制不重要信息的權(quán)重來提高模型的性能。

綜上,本文提出了一種基于殘差網(wǎng)絡(luò)和注意力機(jī)制相結(jié)合的正交頻分復(fù)用(Orthogonal Frequency Division Multiplexing,OFDM) 頻譜感知方法,該方法利用對OFDM信號的循環(huán)自相關(guān)性進(jìn)行分析,將頻譜感知問題轉(zhuǎn)換為圖像處理問題。首先將信號循環(huán)自相關(guān)歸一化后進(jìn)行灰度處理,得到灰度圖像,并將灰度圖像分為訓(xùn)練集和測試集。然后將訓(xùn)練集輸入到神經(jīng)網(wǎng)絡(luò)模型中訓(xùn)練提取信號的深層次特征。最后,使用訓(xùn)練好的模型對測試集進(jìn)行頻譜感知。

1 OFDM信號的循環(huán)自相關(guān)和系統(tǒng)模型分析

1.1 OFDM信號的循環(huán)自相關(guān)分析

OFDM的等效基帶信號為:

(1)

式中:G表示OFDM信號的總長度,P(t)表示矩形脈沖,Tc表示碼片時(shí)間,Ts表示符號有效周期時(shí)間,Ck,l表示插入CP中的第k個(gè)OFDM符號的第l個(gè)采樣點(diǎn)。

時(shí)域的表達(dá)式為:

(2)

式中:N表示有效長度,D表示插入CP的長度,l=0,1,…,G-1,ak,n表示第k個(gè)OFDM信號的第n個(gè)子載波上的調(diào)制數(shù)據(jù),n=0,1,…,N-1。

OFDM信號中傳輸數(shù)據(jù)與其復(fù)制源之間的相關(guān)性為:

非對稱自相關(guān)函數(shù)表示為:

式中:τ=nτTc。插入CP引入了相關(guān)特性,從式中可以看出,OFDM信號有2個(gè)周期,大周期為Ts,小周期為Tc,所以有:

(5)

式中:τN=|τ|-NTc。

以上證明了OFDM信號具有循環(huán)自相關(guān)特征,并且Rx(t,τ)具有周期性。進(jìn)一步對Rx(t,τ)進(jìn)行傅里葉變換,該表達(dá)式可以表示為:

(6)

式中:α表示循環(huán)頻率。

1.2 OFDM信號的系統(tǒng)模型分析

頻譜感知是通過SU感知PU是否存在于一個(gè)特定的通道中。由此,頻譜感知可以建模為經(jīng)典的二元假設(shè)檢驗(yàn)問題,分別對應(yīng)于PU的存在和不存在,該問題可以表示為:

(7)

式中:H1表示信道中有授權(quán)用戶,即存在OFDM信號;H0表示信道中無授權(quán)用戶。因此,頻譜感知問題可以被視為一個(gè)二元分類問題,其中H0表示僅存在噪聲,而H1表示存在PU信號和噪聲。此外,本文將通過檢測概率Pd和虛警概率Pfa這2個(gè)性能指標(biāo)來評估頻譜感知模型的性能,Pd和Pfa的計(jì)算如下:

Pd=P{{H1|H1}},

(8)

Pfa=P{{H1|H0}}。

(9)

根據(jù)1.1節(jié)的說明,OFDM信號的循環(huán)自相關(guān)特征與噪聲信號有所不同。通過對三維循環(huán)譜圖進(jìn)行歸一化處理,使用灰度值來表示循環(huán)譜圖中自相關(guān)值的大小(較深的顏色表示較大的值)。這一過程生成了H0和H1情況下的循環(huán)自相關(guān)灰度圖。其中,H0和H1情況下的三維循環(huán)自相關(guān)及其相應(yīng)的灰度圖分別如圖1和圖2所示。

(a)H1時(shí)OFDM的循環(huán)自相關(guān)三維圖

(a)H0時(shí)OFDM的循環(huán)自相關(guān)三維圖

(b)H0時(shí)OFDM循環(huán)自相關(guān)灰度圖像

2 基于ResNet-CBAM的OFDM頻譜感知模型

2.1 頻譜感知系統(tǒng)框架

傳統(tǒng)的CNN頻譜感知模型通常采用LeNet-5網(wǎng)絡(luò)結(jié)構(gòu),由于其網(wǎng)絡(luò)層數(shù)較少,會造成特征提取的不充分。此外,隨著網(wǎng)絡(luò)層數(shù)的增加,網(wǎng)絡(luò)梯度消失的問題也會更加明顯,進(jìn)而影響模型的感知性能。

針對上述問題,提出了具備更強(qiáng)的特征提取能力的ResNet-CBAM頻譜感知模型。該模型在傳統(tǒng)的CNN頻譜感知模型中加入殘差結(jié)構(gòu)以緩解模型梯度消失的問題,同時(shí)使用注意力機(jī)制捕捉到特征圖中更顯著的特征。頻譜感知系統(tǒng)框架如圖3所示。首先采集OFDM信號,然后將其進(jìn)行特征提取后映射轉(zhuǎn)化為灰度圖像,分為訓(xùn)練集和測試集。然后使用訓(xùn)練集訓(xùn)練ResNet-CBAM頻譜感知模型,對數(shù)據(jù)進(jìn)行深層次的特征提取并完成模型的訓(xùn)練。最后將測試集輸入到模型中完成頻譜感知。

圖3 頻譜感知系統(tǒng)框架Fig.3 Framework of spectrum sensing system

2.2 ResNet-CBAM頻譜感知模型

傳統(tǒng)的CNN頻譜感知模型隨著網(wǎng)絡(luò)層數(shù)的增加,會導(dǎo)致模型梯度的消失,從而降低模型的準(zhǔn)確率。為了解決這一問題,使用了殘差神經(jīng)網(wǎng)絡(luò)ResNet作為頻譜感知的基準(zhǔn)模型,如圖4所示,其中ResNet頻譜感知模型由輸入層、淺層特征提取Conv層、多個(gè)級聯(lián)的ResNetblock層、Fc層和分類標(biāo)簽層組成。

圖4 ResNet頻譜感知模型Fig.4 ResNet spectrum sensing model

為了在網(wǎng)絡(luò)模型計(jì)算能力有限的情況下進(jìn)一步提高模型的精度,提出了ResNet-CBAM頻譜感知模型,如圖5所示。該模型把卷積注意力機(jī)制 (Con-volutional Block Attention Module,CBAM) 整合到ResNet網(wǎng)絡(luò)中,即把圖4中級聯(lián)的Resblock替換為Resblock-CBAM。其中CBAM可以利用其空間注意力機(jī)制(Spatial Attention)和通道注意力機(jī)制(Channel Attention),將更多的計(jì)算資源分配到更重要的特征上并抑制對不重要特征的關(guān)注,進(jìn)一步增強(qiáng)對圖像特征的提取,從而更好地學(xué)習(xí)信號特征,避免資源浪費(fèi)。由于CBAM屬于輕量級模塊,在保留圖像信息并提升模型準(zhǔn)確率的同時(shí),不會增加過多的模型參數(shù)。在ResNet-CBAM模型中,淺層特征提取Conv層卷積核的大小為 1 × 1,卷積核數(shù)為 2,Resblock-CBAM卷積核大小為3× 3,卷積核數(shù)為16。

圖5 ResNet-CBAM頻譜感知模型Fig.5 ResNet-CBAM spectrum sensing model

Resblock-CBAM結(jié)構(gòu)如圖6所示,由此可得ResNet-CBAM模型的殘差函數(shù)為:

圖6 Resblock-CBAM結(jié)構(gòu)Fig.6 Resblock-CBAM structure

F(x)=f(x)+x+C(x),

(10)

式中:x為殘差塊輸入值,f(x)為Resblock的觀測值,C(x)為CBAM的觀測值,F(x)為Resblock-CBAM的輸出。

CBAM示意如圖7所示。

圖7 CBAM示意Fig.7 CBAM schematic

通道注意力機(jī)制為:

Mc(F)=σ{MLP[avgpool(F)]+MLP[maxPool(F)]}=

(11)

空間注意力機(jī)制為:

Ms(F)=σ(f7×7{[avgPool(F);maxPool(F)]})=

(12)

2.3 ResNet-CBAM模型的訓(xùn)練

在ResNet-CBAM模型中,使用前n對數(shù)據(jù){(x(1),y(1)),(x(2),y(2)),…,(x(n),y(n))}作為訓(xùn)練集,后m對數(shù)據(jù){(x(n+1),y(n+1)),(x(n+2),y(n+2)),…,(x(n+m),y(n+m))}作為測試集,其中x(·)表示灰度圖像,y(·)表示灰度圖像的標(biāo)簽值。在該模型的前向傳播過程中從輸入到輸出映射關(guān)系為:

(13)

(14)

3 實(shí)驗(yàn)分析

3.1 實(shí)驗(yàn)條件

為了驗(yàn)證ResNet-CBAM頻譜感知模型的性能,進(jìn)行了以下的仿真實(shí)驗(yàn),并標(biāo)明了實(shí)驗(yàn)中使用到的參數(shù)配置。在實(shí)驗(yàn)中,CPU采用Intel Core i7,GPU采用NVIDIA GeForce 3060。使用Matlab 2020a生成OFDM信號,該信號的載波頻率fc為10 MHz,采樣頻率fs為40 MHz,選取SNR為-20～0 dB的OFDM信號作為實(shí)驗(yàn)數(shù)據(jù)。選取的OFDM信號經(jīng)過瑞利信道和高斯白噪聲信道后,按照1.2節(jié)的方法對信號進(jìn)行循環(huán)自相關(guān)歸一化處理,再將處理后的信號轉(zhuǎn)化成灰度圖像。在轉(zhuǎn)化灰度圖像的過程中,設(shè)置采樣點(diǎn)N=900,使得構(gòu)建的灰度圖像長、寬為30。OFDM信號的詳細(xì)參數(shù)如表1所示。模型訓(xùn)練的損失函數(shù)采用交叉熵?fù)p失函數(shù),訓(xùn)練過程中使用自適應(yīng)矩估計(jì)(Adam)[17]優(yōu)化算法 ,Batch設(shè)為32,學(xué)習(xí)率為0.001。

表1 OFDM參數(shù)Tab.1 OFDM parameters

3.2 實(shí)驗(yàn)1 模型的網(wǎng)絡(luò)層數(shù)對模型準(zhǔn)確率的影響

在本實(shí)驗(yàn)中,OFDM信號的SNR在-20～0 dB,以2 dB為間隔變化,每種SNR下取相同數(shù)量的OFDM信號數(shù)據(jù)和噪聲數(shù)據(jù),每種SNR選取100組數(shù)據(jù),形成1 100組信號數(shù)據(jù)和1 100組噪聲數(shù)據(jù)。為了創(chuàng)建訓(xùn)練數(shù)據(jù)集,選擇了990組信號數(shù)據(jù)和990組噪聲數(shù)據(jù),而110組信號數(shù)據(jù)和110組噪聲數(shù)據(jù)則保留為測試數(shù)據(jù)集。在實(shí)驗(yàn)設(shè)置中,ResNet-CBAM和CNN均采用相同數(shù)量的卷積層。圖8顯示了隨著網(wǎng)絡(luò)深度增加,頻譜感知方法(ResNet-CBAM和CNN)的分類準(zhǔn)確率變化情況。

圖8 ResNet-CBAM、CNN的準(zhǔn)確率隨網(wǎng)絡(luò)層數(shù)的變化Fig.8 Changes of ResNet-CBAM,CNN accuracy with the number of network layers

ResNet-CBAM、CNN的準(zhǔn)確率隨網(wǎng)絡(luò)層數(shù)的變化如圖8所示,當(dāng)網(wǎng)絡(luò)層數(shù)小于23時(shí),ResNet-CBAM的準(zhǔn)確率持續(xù)上升,并在23層時(shí)達(dá)到最高,CNN準(zhǔn)確率持續(xù)下降至50%,而ResNet-CBAM的準(zhǔn)確率始終比CNN高。隨著層數(shù)的逐步增加,ResNet-CBAM的準(zhǔn)確率緩慢下降至85%左右,而CNN的準(zhǔn)確率一直維持在50%。網(wǎng)絡(luò)層數(shù)的增加導(dǎo)致CNN梯度的消失,從而使得模型的準(zhǔn)確率下降。然而深度ResNet-CBAM由于可以有效提取更多的圖像特征,從而提高模型的準(zhǔn)確率。過深的網(wǎng)絡(luò)層數(shù)也會使ResNet-CBAM的性能下降,因?yàn)檫^深層數(shù)的ResNet-CBAM在訓(xùn)練時(shí)會出現(xiàn)過擬合現(xiàn)象。由于ResNet-CBAM在網(wǎng)絡(luò)層為23時(shí)準(zhǔn)確率最高,所以本文中ResNet-CBAM模型的網(wǎng)絡(luò)層數(shù)選取為23。

3.3 實(shí)驗(yàn)2 殘差結(jié)構(gòu)對模型損失的影響

本實(shí)驗(yàn)中ResNet-CBAM和CNN的網(wǎng)絡(luò)層數(shù)均為23,數(shù)據(jù)集選取方式與實(shí)驗(yàn)1相同。ResNet-CBAM、CNN的損失隨迭代次數(shù)的變化如圖9所示,隨著迭代次數(shù)的增加,ResNet-CBAM的損失最終穩(wěn)定在0.1左右,而CNN的損失下降幅度小,很難收斂,最終維持在0.66左右,并且ResNet-CBAM的損失始終低于CNN的損失。ResNet-CBAM、CNN的準(zhǔn)確率隨迭代次數(shù)的變化如圖10所示,隨著迭代次數(shù)增加,ResNet-CBAM的準(zhǔn)確率穩(wěn)定在0.96左右,CNN的準(zhǔn)確率穩(wěn)定在0.52左右,而且ResNet-CBAM的準(zhǔn)確率始終遠(yuǎn)高于CNN的準(zhǔn)確率。說明ResNet-CBAM的優(yōu)勢在于具有殘差結(jié)構(gòu),能夠防止梯度消失發(fā)生,降低了損失并且提高了準(zhǔn)確率,在CNN中加入殘差結(jié)構(gòu)可以有效防止梯度消失問題。

圖10 ResNet-CBAM、CNN的準(zhǔn)確率隨迭代次數(shù)的變化Fig.10 Changes of ResNet-CBAM,CNN accuracy with the number of iterations

3.4 實(shí)驗(yàn)3 訓(xùn)練數(shù)據(jù)規(guī)模對ResNet-CBAM性能的影響

為了對比不同規(guī)模的訓(xùn)練樣本對23層的ResNet-CBAM檢測概率的影響,選取了SNR在 -20～0 dB間隔為2 dB的訓(xùn)練數(shù)據(jù),其中每種SNR下取相同數(shù)量的OFDM信號數(shù)據(jù)和噪聲數(shù)據(jù),取 4個(gè)不同大小的訓(xùn)練集(H),分別為4 400、8 800、 17 600、22 000。測試集由1 100組信號數(shù)據(jù)和 1 100組噪聲數(shù)據(jù)組成。訓(xùn)練數(shù)據(jù)規(guī)模對算法檢測概率影響如圖11所示,在訓(xùn)練樣本較小時(shí),ResNet-CBAM在不同SNR下檢測概率波動(dòng)很大。隨著樣本規(guī)模的增大,ResNet-CBAM在不同SNR下檢測概率逐漸增加。

圖11 訓(xùn)練數(shù)據(jù)規(guī)模對算法檢測概率影響Fig.11 Influence of training data size on algorithm detection probability

3.5 實(shí)驗(yàn)4 不同模型的頻譜感知檢測概率比較

ResNet-CBAM、CNN、SVM、ED和自相關(guān)檢測(Autocorrelation Detection,AD)[18]在不同SNR下的檢測概率如圖12所示。

圖12 ResNet-CBAM、CNN、SVM、ED和AD在不同SNR下的檢測概率Fig.12 Detection probabilities of ResNet-CBAM,CNN,SVM,ED and AD under different SNR

比較了ResNet-CBAM、CNN、SVM、ED和AD頻譜感知方法SNR在-20～0 dB下的檢測概率。本實(shí)驗(yàn)中,實(shí)驗(yàn)數(shù)據(jù)選取實(shí)驗(yàn)3中樣本規(guī)模H=22 000的數(shù)據(jù)集作為訓(xùn)練集,由1 100組信號數(shù)據(jù)和1 100組噪聲數(shù)據(jù)組成測試集。由于傳統(tǒng)算法不需要訓(xùn)練,樣本為接收端處理后的數(shù)據(jù)。可以看出,在SNR低于-10 dB時(shí)ResNet-CBAM頻譜感知方法的檢測概率始終高于CNN、SVM、ED和AD頻譜感知檢測概率。這是因?yàn)镽esNet-CBAM具有注意力模塊,能夠提取更多有用的特征并抑制無用的特征,從而有效提高模型的檢測能力。

除了檢測概率,虛警概率也是評估頻譜感知算法性能的重要度量之一。為了全面驗(yàn)證所提出的ResNet-CBAM頻譜感知方法的有效性,進(jìn)行了一組實(shí)驗(yàn),其中SNR=-14 dB。通過多次實(shí)驗(yàn)系統(tǒng)記錄虛警概率及其對應(yīng)的檢測概率,獲得了ResNet-CBAM、CNN、SVM、ED和AD頻譜感知方法的Receiver Operating Characteristic(ROC)曲線,如圖13所示。

由圖13可以看出,ResNet-CBAM頻譜感知方法具有更優(yōu)的檢測性能。在虛警概率Pfa=0.05時(shí),ResNet-CBAM、CNN、SVM、ED和AD五種方法的檢測概率分別為0.98、0.87、0.70、0.36和0.30。在給定虛警概率的情況下,ResNet-CBAM的檢測概率優(yōu)于其余4種方法,說明ResNet-CBAM通過殘差結(jié)構(gòu)和注意力機(jī)制可以有效提高特征提取能力,從而提高檢測概率。

4 結(jié)束語

針對傳統(tǒng)CNN模型在頻譜感知中存在的梯度消失和特征提取不足等問題,通過結(jié)合殘差神經(jīng)網(wǎng)絡(luò)和注意力機(jī)制,提出了ResNet-CBAM頻譜感知方法。通過利用OFDM信號的循環(huán)自相關(guān)性來獲取其灰度圖像,并將這些圖像作為模型的數(shù)據(jù)集,將頻譜感知問題轉(zhuǎn)化為圖像處理問題。仿真結(jié)果表明,在低SNR條件下,這一方法不僅在性能上超越了常規(guī)的CNN頻譜感知方法、避免了梯度消失等問題,還在相同的虛警概率下,相較于傳統(tǒng)的SVM、ED等頻譜感知方法,表現(xiàn)出更高的檢測概率。