李 軍,辛同亮,李文鑫,何 波,高 鶴

1.齊魯工業(yè)大學(xué)(山東省科學(xué)院)電氣工程與自動(dòng)化學(xué)院,山東 濟(jì)南 250353； 2.山東大學(xué) 信息科學(xué)與工程學(xué)院,山東 青島 266237； 3.山東正晨科技股份有限公司,山東 濟(jì)南 250101

無(wú)論對(duì)于單載波還是多載波傳輸方案,接收端采用相干解調(diào)恢復(fù)數(shù)據(jù)信息時(shí),都需要較為準(zhǔn)確的信道狀態(tài)信息(channel statistic information,CSI)作為數(shù)據(jù)處理的必要參數(shù)。所以,信道估計(jì)技術(shù)對(duì)于無(wú)線通信有著重要的作用[1]。信道估計(jì)技術(shù)是從接收信號(hào)中估計(jì)出移動(dòng)信道的特性,可以估計(jì)信道的沖激響應(yīng),也可以估計(jì)出其頻率特性。通常對(duì)信道估計(jì)技術(shù)的評(píng)價(jià)有三方面:對(duì)數(shù)據(jù)傳輸效率的影響、計(jì)算的復(fù)雜度以及估計(jì)的準(zhǔn)確程度。一般對(duì)于信道估計(jì)技術(shù),我們希望其能在低復(fù)雜度的同時(shí)盡量提高系統(tǒng)估計(jì)的準(zhǔn)確度。

OFDM技術(shù)是一種特殊的多載波傳輸方案[2],它可以被看作一種調(diào)制技術(shù),是一種當(dāng)前應(yīng)用廣泛的多載波技術(shù)。對(duì)于OFDM系統(tǒng)的信號(hào)恢復(fù),需要較為準(zhǔn)確的CSI作為依照,例如LS算法以及MMSE算法等傳統(tǒng)的信道估計(jì)算法。其中,LS方法使測(cè)量值和模型之間的加權(quán)誤差最小,對(duì)于慢衰落信道,CSI在幾個(gè)符號(hào)時(shí)間內(nèi)不會(huì)發(fā)生改變,可以直接采用LS法求得[3]。而對(duì)于其他衰落信道,可通過采用梳狀導(dǎo)頻方式進(jìn)行信道估計(jì),導(dǎo)頻處的CSI采用LS法求得,數(shù)據(jù)處的CSI通過內(nèi)插得到,但LS方法容易受到高斯噪聲和載波間干擾的影響。MMSE方法在相同的均方誤差下,與LS法相比,有10～15 dB的信噪比增益,由于涉及到大規(guī)模的矩陣求逆,復(fù)雜度隨觀察采樣數(shù)目呈指數(shù)增長(zhǎng),雖然可以通過對(duì)發(fā)射數(shù)據(jù)取平均來減少?gòu)?fù)雜度,但復(fù)雜度較高還是限制了該方法的大規(guī)模應(yīng)用[4]。此外還有基于DFT的信道估計(jì)技術(shù),該技術(shù)通過消除最大時(shí)延外的噪聲,改善了傳統(tǒng)LS或MMSE技術(shù)的性能[5]。

近些年,人工智能技術(shù)在自然語(yǔ)言處理、語(yǔ)音識(shí)別等方面獲得了巨大成功[6],同時(shí)近些年也應(yīng)用在軍事、社會(huì)生活方面[7-9]。經(jīng)典的網(wǎng)絡(luò)有深度神經(jīng)網(wǎng)絡(luò)(deep neural network,DNN)、循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)、生成對(duì)抗神經(jīng)網(wǎng)絡(luò)(generative adversarial network,GAN)和CNN[10]等。近些年,研究逐漸將信號(hào)處理與神經(jīng)網(wǎng)絡(luò)結(jié)合,其中分為兩類,一類為數(shù)據(jù)驅(qū)動(dòng),另外一類為模型驅(qū)動(dòng)。文獻(xiàn)[11]采用五層DNN網(wǎng)絡(luò)DNet以端到端方式處理無(wú)線OFDM信號(hào),將接收信號(hào)作為輸入,原始信號(hào)作為標(biāo)簽輸入神經(jīng)網(wǎng)絡(luò),使網(wǎng)絡(luò)學(xué)習(xí)到信號(hào)之間的映射關(guān)系,但輸出信號(hào)準(zhǔn)確性會(huì)隨著輸出個(gè)數(shù)增加而降低,且需要8個(gè)相同結(jié)構(gòu)的網(wǎng)絡(luò)才能得到完整信號(hào),復(fù)雜度較高。但是作為較早地將信號(hào)處理與神經(jīng)網(wǎng)絡(luò)結(jié)合起來的成果,它仍然對(duì)我們的工作有著較大的啟發(fā)。首先,我們通過對(duì)其成果進(jìn)行復(fù)現(xiàn),了解了設(shè)計(jì)背后的邏輯,啟發(fā)了我們?cè)O(shè)計(jì)性能更加優(yōu)越、結(jié)構(gòu)更加完善、使用范圍更廣的網(wǎng)絡(luò)。其次,通過使用結(jié)構(gòu)更加復(fù)雜的網(wǎng)絡(luò),例如長(zhǎng)短期記憶網(wǎng)絡(luò),設(shè)計(jì)能夠更好更快地完成信號(hào)處理各項(xiàng)任務(wù)。文獻(xiàn)[12]通過利用DNNs完成通信中編碼、解碼、調(diào)制和均衡功能,利用GAN得到信道CSI。文獻(xiàn)[13]采用CNNs和FC層完成OFDM系統(tǒng)FFT、解調(diào)、信道估計(jì)的功能模塊。文獻(xiàn)[14]采用模型驅(qū)動(dòng)與數(shù)據(jù)驅(qū)動(dòng)的方法,設(shè)計(jì)ComNet接收機(jī)網(wǎng)絡(luò)結(jié)構(gòu),即傳統(tǒng)LS估計(jì)、ZF均衡算法與神經(jīng)網(wǎng)絡(luò)相結(jié)合的方法,提高了算法的準(zhǔn)確性。顯然,結(jié)合發(fā)展成熟的傳統(tǒng)算法,憑借神經(jīng)網(wǎng)絡(luò)的優(yōu)越的數(shù)據(jù)處理能力,設(shè)計(jì)可以取得優(yōu)越的性能。所述研究證明了近些年將深度學(xué)習(xí)與無(wú)線通信具體問題相結(jié)合的熱潮,通過大量的仿真實(shí)驗(yàn),證明了研究方向的可行性。因此,在啟發(fā)下,提出了基于二維圖片處理工具,即卷積神經(jīng)網(wǎng)絡(luò)的信道解碼網(wǎng)絡(luò)。

設(shè)計(jì)采用數(shù)據(jù)驅(qū)動(dòng)網(wǎng)絡(luò)結(jié)構(gòu),進(jìn)行原始信號(hào)的檢測(cè),通過設(shè)計(jì)的硬判決器進(jìn)行信號(hào)判決,考慮到梯度消失導(dǎo)致性能較差的現(xiàn)象,引入了殘差網(wǎng)絡(luò)(residual network,RN)的殘差連接(skip connected,SC)方式。通過實(shí)驗(yàn)仿真,該設(shè)計(jì)在計(jì)算與系統(tǒng)復(fù)雜度上有著較大的優(yōu)勢(shì),為信號(hào)處理技術(shù)的發(fā)展與革新提供參考。

1 OFDM系統(tǒng)結(jié)構(gòu)

圖1是多徑和AWGN影響下的傳統(tǒng)OFDM收發(fā)機(jī)系統(tǒng)結(jié)構(gòu)圖,采用傳統(tǒng)通信環(huán)境進(jìn)行設(shè)計(jì)可行性的驗(yàn)證。采用的具體參數(shù)見表1。

圖2為仿真信號(hào)結(jié)構(gòu)圖,一幀包含一個(gè)OFDM符號(hào),即信道在一個(gè)OFDM信號(hào)內(nèi)是不變的,其中數(shù)據(jù)子載波數(shù)目為64。設(shè)計(jì)思想是在線下訓(xùn)練時(shí)發(fā)送數(shù)幀的訓(xùn)練序列,訓(xùn)練網(wǎng)絡(luò)學(xué)習(xí)到信號(hào)之間的映射方式。

表1 系統(tǒng)主要參數(shù)

圖1 OFDM通信系統(tǒng)

對(duì)于在線估計(jì)階段,包含了64個(gè)數(shù)據(jù)子載波的OFDM符號(hào),由于不包含導(dǎo)頻開銷,從而提高了傳輸效率。

圖2 OFDM幀結(jié)構(gòu)

多徑信道的沖激響應(yīng)用hi,j(τk,t)來描述,公式為

fi,j,k,l=fd,maxsin(2πui,j,k,l)。 (2)

式(1)中θi,j,k,l=2πui,j,k,l為離散多普勒相位；ui,j,k,l為獨(dú)立隨機(jī)變量；L為多徑信道的徑數(shù)；M為調(diào)和系數(shù)。式(2)中,fi,j,k,l為離散多普勒頻移；fd,max為最大多普勒頻移。

待傳輸?shù)谋忍匦畔⒔?jīng)過QPSK調(diào)制后串并變換,利用快速傅里葉逆變換(invert fast fourier transform,IFFT)實(shí)現(xiàn)發(fā)送端信號(hào)上變頻,然后插入循環(huán)前綴(cyclic prefix,CP),目的是消除符號(hào)間干擾(inter symbol interference,ISI),此時(shí)待發(fā)送信號(hào)可以表示為

式(3)中di為分配給每個(gè)子信道的數(shù)據(jù)符號(hào)；ts為一個(gè)OFDM符號(hào)的時(shí)間起點(diǎn)；T為OFDM符號(hào)周期；N為子載波數(shù)。

發(fā)送信號(hào)經(jīng)過信道,接收信號(hào)表示為

Y(k)=X(k)·H(k)+N(k)。 (4)

式(4)中Y(k)為第k個(gè)子載波接收信號(hào)；X(k)為頻域發(fā)送信號(hào)；H(k)為信道頻域響應(yīng)；N(k)為子載波的高斯噪聲。

2 基于數(shù)據(jù)驅(qū)動(dòng)的信道解碼

本節(jié)主要設(shè)計(jì)了一種基于深度學(xué)習(xí)的信道解碼方法(decoding net,DCNet),將接收信號(hào)看作一維數(shù)組,利用CNNs進(jìn)行特征提取,降低了信號(hào)操作的復(fù)雜度,相較于DNet,減少了神經(jīng)網(wǎng)絡(luò)訓(xùn)練參數(shù),優(yōu)化了結(jié)構(gòu)性能,避免了文獻(xiàn)11中的性能臨界的缺點(diǎn),接著設(shè)計(jì)了兩層FC層分類、輸出。設(shè)計(jì)提出的信道解碼的方法,通過大規(guī)模的數(shù)據(jù)訓(xùn)練,可以實(shí)時(shí)追蹤信號(hào)的變化,相較于其他方法,訓(xùn)練時(shí)間短,性能有提升。

2.1 DCNet結(jié)構(gòu)

設(shè)計(jì)采用的信道解碼結(jié)構(gòu)分為線下訓(xùn)練與在線估計(jì)兩部分,線下訓(xùn)練完成后可代替原OFDM系統(tǒng)的若干功能模塊,結(jié)構(gòu)圖如圖3所示。

圖3 信道估計(jì)與均衡部分

由圖3可知,結(jié)構(gòu)分為兩部分,即線下訓(xùn)練與線上估計(jì)。在線下訓(xùn)練階段,利用發(fā)射機(jī)發(fā)送數(shù)幀先驗(yàn)信號(hào)訓(xùn)練神經(jīng)網(wǎng)絡(luò),以經(jīng)過信道,去除CP的接收信號(hào)作為神經(jīng)網(wǎng)絡(luò)的輸入,原始信號(hào)(hard bits,HB)作為標(biāo)簽訓(xùn)練神經(jīng)網(wǎng)絡(luò)。DCNet網(wǎng)絡(luò)由CNN和DNN組成,其中包含三層CNN網(wǎng)絡(luò),用于接收信號(hào)的特征提取,其中每一層包括卷積操作,批次歸一化(batch normalization,BN)和激活操作,FC層包含一層隱藏層,個(gè)數(shù)為512,激活函數(shù)為線性整流函數(shù)(rectified linear unit,ReLU),最后一層為輸出層,個(gè)數(shù)為128,激活函數(shù)為邏輯函數(shù)(sigmoid),網(wǎng)絡(luò)結(jié)構(gòu)見圖4。

圖4 DCNet結(jié)構(gòu)

同時(shí)為了解決可能出現(xiàn)的梯度消失的現(xiàn)象,采用了RN網(wǎng)絡(luò)的SC方式,輸出為數(shù)個(gè)狀態(tài)的疊加,一般結(jié)構(gòu)見圖5。

圖5 殘差連接的一般形式

由圖5可知,輸出可以表示為輸入和輸入的數(shù)個(gè)非線性變換的線性疊加,它解決了深層網(wǎng)絡(luò)的訓(xùn)練問題。

假設(shè)前向傳播過程為

f′=f(x,w), (5)

g′=g(f′), (6)

y′=k(g′), (7)

loss=MSE(y,y′)。 (8)

式(5)中f為卷積操作；式(6)中g(shù)為激活函數(shù)；式(7)中k為分類器；式(8)中MSE為均方誤差操作,公式為

式(9)中o(m)為預(yù)測(cè)值；y為真實(shí)值。反向傳播過程公式為

?loss/?w=(?loss/?y′)(?y′/?g′)(?g′/?f′)(?f′/?w)。 (10)

由式(10)可得,一旦其中某個(gè)參數(shù)很小,多次連乘后梯度會(huì)越來越小,影響性能,使用殘差連接后,反向傳播過程變?yōu)?/p>

(?h/?x)=((?f+x)/?x)=(?f/?x)+1。 (11)

式(11)相當(dāng)于每一個(gè)導(dǎo)數(shù)加1,此時(shí)梯度便不會(huì)出現(xiàn)消失的現(xiàn)象。

圖6為簡(jiǎn)化的系統(tǒng)解碼過程,是一種端到端的信號(hào)處理方式,將接收信號(hào)作為網(wǎng)絡(luò)輸入,通過卷積網(wǎng)絡(luò)進(jìn)行特征提取,通過FC層分類,輸出SB信號(hào),最后通過設(shè)計(jì)的判決方式進(jìn)行信號(hào)判決,得到原始信號(hào)。

圖6 系統(tǒng)解碼過程

由上圖可知,對(duì)于二分類層輸出的離散信號(hào),作為一種概率類信號(hào),在做判決時(shí)需要通過測(cè)量歐式距離來確定輸出的原始比特信號(hào)。

2.2 模型訓(xùn)練

由于實(shí)際的CSI難以得到,設(shè)計(jì)數(shù)據(jù)由仿真模擬生成,其中神經(jīng)網(wǎng)絡(luò)的搭建與訓(xùn)練采用TensorFlow庫(kù),網(wǎng)絡(luò)參數(shù)見表2。

表2 DCNet參數(shù)

由表2可知,網(wǎng)絡(luò)輸入為一組OFDM符號(hào)的形式,經(jīng)過數(shù)個(gè)卷積和BN過程后,通過FC層輸出一個(gè)OFDM符號(hào)的SB信號(hào),完成信道估計(jì)過程,再經(jīng)過接收端的信號(hào)處理,消除信號(hào)的失真,還原原始信號(hào)。

2.3 訓(xùn)練過程

與DNet相比,設(shè)計(jì)在訓(xùn)練過程中采用了一些方法優(yōu)化訓(xùn)練過程,采用了BN操作,消除過擬合現(xiàn)象,該方法首次由Google在2015年提出,按照一般的神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程,通常是在每層網(wǎng)絡(luò)激活后進(jìn)行歸一化操作,但在文獻(xiàn)[15]中,提出了在激活之前進(jìn)行歸一化操作,因?yàn)樵谟?xùn)練初期,分界面變化劇烈,計(jì)算的參數(shù)不穩(wěn)定,而且初始的權(quán)重是在標(biāo)準(zhǔn)高斯分布中采樣得到的,數(shù)值較大,因此在激活之前進(jìn)行BN操作可以得到更穩(wěn)定的結(jié)果,對(duì)于每一個(gè)輸入 ,進(jìn)行以下變換

BN操作基于小批量梯度下降算法,式(13)是為了保證非線性的獲得,參數(shù)γ和β通過訓(xùn)練獲得。

訓(xùn)練網(wǎng)絡(luò)的學(xué)習(xí)率問題對(duì)于網(wǎng)絡(luò)訓(xùn)練效率有著至關(guān)重要的影響,設(shè)計(jì)采用反時(shí)限學(xué)習(xí)率衰減算法,自動(dòng)更新學(xué)習(xí)率,公式為

L=Li/(1+Dr*s)。 (14)

公式(14)中L為當(dāng)前學(xué)習(xí)率；Li為初始學(xué)習(xí)率；Dr為學(xué)習(xí)率衰減率；s為衰減頻率。設(shè)計(jì)初始學(xué)習(xí)率為0.01,衰減頻率為200,學(xué)習(xí)率衰減率為0.9。

2.4 判決

由于設(shè)計(jì)采用的是等概率的單極性不歸零碼,每個(gè)碼元時(shí)間的中間點(diǎn)是采樣點(diǎn),最佳判決門限公式

γ=-ln 3/2A。 (15)

在式(15)中A為信號(hào)的幅值,發(fā)送端信號(hào)集為H{0,1},信道噪聲為均值為0,方差為σ2的高斯噪聲,則接收端信號(hào)Z(t)分別為兩個(gè)高斯分布的信號(hào),均值分別為A和0,方差為σ2。

3 仿真結(jié)果

設(shè)計(jì)仿真環(huán)境為126G內(nèi)存,Intel Core i9-9820X CPU,GeForce RTX 2080 Ti圖形處理器,編程環(huán)境為python3.7,tensorflow1.13.0,numpy1.18.5,一次喂入1 000組接收信號(hào),Batch size為10 000,訓(xùn)練過程總耗時(shí)10 min。

圖7顯示了DCNet、DNet中基于FC的神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)LS、MMSE算法的系統(tǒng)誤碼率(bit error rate,BER)曲線。通過對(duì)比,證明了CNNs應(yīng)用到通信系統(tǒng)信道解碼技術(shù)的可行性,性能在特定情形下有著一定的優(yōu)越性。它展示了DCNet網(wǎng)絡(luò)相較于FC網(wǎng)絡(luò)在相同情況下有著至少2 dB性能的提升。以信噪比為14 dB時(shí)為例,DCNet設(shè)計(jì)的BER已經(jīng)達(dá)到0.01,相較于傳統(tǒng)MMSE算法,性能提升了4 dB,而對(duì)于LS法,則提升巨大。

圖8顯示了不同SNR情形下的誤差下降率(mean error rate,MER)曲線,在低信噪比的情況下,DCNet網(wǎng)絡(luò)能夠大幅度降低MER,這也同樣顯示了在固定信噪比訓(xùn)練下的影響。

表3為DCNet與LS、MMSE方法的復(fù)雜度分析。由表可知,MMSE算法復(fù)雜度會(huì)隨著數(shù)據(jù)量出現(xiàn)二次增長(zhǎng),LS與DCNet算法復(fù)雜度會(huì)隨著輸入數(shù)據(jù)量的增長(zhǎng)而線性增長(zhǎng),其中LS法復(fù)雜度最低,DCNet次之,這證明了該方法具有一定的可行性。

然而,隨著信噪比的增大,傳統(tǒng)方法的性能提升速度加快,DNet與DCNet等基于深度學(xué)習(xí)的設(shè)計(jì)則提升緩慢,這一方面是由于傳統(tǒng)方法在干擾少的通信環(huán)境下的出色性能,另一方面是設(shè)計(jì)訓(xùn)練基于固定信噪比,即訓(xùn)練集范圍小,因此設(shè)計(jì)的泛化性能較差。

表3 復(fù)雜度分析

4 結(jié) 論

本文提出了一種基于殘差連接CNN的OFDM系統(tǒng)信道解碼技術(shù),通過利用高性能計(jì)算機(jī),構(gòu)建數(shù)層的神經(jīng)網(wǎng)絡(luò),采用先進(jìn)算法,避免了梯度消失、耗時(shí)長(zhǎng)等問題。實(shí)驗(yàn)結(jié)果表明,訓(xùn)練得到的神經(jīng)網(wǎng)絡(luò)與采用了FC連接的論文方法相比有著一定的優(yōu)越性,與傳統(tǒng)方法相比則性能提升較大,具有一定的應(yīng)用價(jià)值。但對(duì)于在高信噪比環(huán)境下的性能表現(xiàn)有著一定的不足,這從側(cè)面證明了數(shù)據(jù)集大小對(duì)于設(shè)計(jì)的影響。因此,如何高效地收集準(zhǔn)確數(shù)據(jù)并標(biāo)記,設(shè)計(jì)適用范圍更廣的網(wǎng)絡(luò)將是我們下一步的工作。