劉恒燕, 張立民, 閆文君, 鐘兆根, 凌 青, 梁曉軍

(1. 海軍航空大學(xué)航空作戰(zhàn)勤務(wù)學(xué)院, 山東 煙臺(tái) 264001; 2. 中國人民解放軍第91951部隊(duì), 山東 威海 264400)

0 引 言

在現(xiàn)代通信系統(tǒng)中,合適的編譯碼技術(shù)能夠大大提升通信質(zhì)量,在碼長足夠長時(shí),低密度奇偶校驗(yàn)(low density parity check,LDPC)碼經(jīng)過適當(dāng)?shù)木幾g碼結(jié)構(gòu)能夠在加性高斯白噪聲(additive white Gaussian noise,AWGN)信道中達(dá)到接近香農(nóng)容量的性能,置信傳播(belief propagation,BP)譯碼算法作為LDPC碼比較常用的經(jīng)典譯碼算法,在提升LDPC碼譯碼性能的研究中功不可沒。然而,在實(shí)際的通信系統(tǒng)中,受過采樣、設(shè)備噪聲等因素的影響,信道噪聲表現(xiàn)出一定的相關(guān)性,導(dǎo)致LDPC碼性能下降。如果直接引入矩陣乘法對噪聲進(jìn)行白化處理,在碼長較長時(shí)復(fù)雜度較高。對于估計(jì)的聯(lián)合分布來說,其復(fù)雜度隨噪聲相關(guān)性的增加而增加,用以優(yōu)化BP譯碼器的代價(jià)過高。因此,要解決相關(guān)噪聲條件下LDPC碼譯碼性能降低的問題,需要避開完全依賴信道模型的傳統(tǒng)算法,另辟蹊徑。

文獻(xiàn)[8]研究發(fā)現(xiàn),通過深度學(xué)習(xí)訓(xùn)練獲得Tanner圖中傳遞消息的權(quán)重,可以補(bǔ)償Tanner圖中環(huán)的影響,因此可以在獲得優(yōu)于傳統(tǒng)BP譯碼器譯碼性能的同時(shí)降低獲得該性能所需的迭代次數(shù)。文獻(xiàn)[10]將遞歸神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)引入BP譯碼,結(jié)合改進(jìn)的隨機(jī)冗余(modified random redundant,MRR)迭代算法,提升了譯碼性能?？紤]到BP譯碼包含許多乘法,文獻(xiàn)[12]提出了神經(jīng)偏移最小和譯碼算法,該算法無需乘法運(yùn)算且易于硬件實(shí)現(xiàn)。文獻(xiàn)[13]對比了多層感知機(jī)(multi-layer perception, MLP)、卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network,CNN)、RNN應(yīng)用于譯碼的性能,發(fā)現(xiàn)基于CNN的譯碼器能夠在參數(shù)更少的情況下得到更佳的譯碼性能。但是,這些工作都沒有實(shí)現(xiàn)相關(guān)信道噪聲LDPC碼的有效譯碼。

為解決相關(guān)噪聲條件下LDPC碼采用BP譯碼時(shí)誤碼率上升的問題,在BP譯碼中引入CNN進(jìn)行降噪,但實(shí)驗(yàn)過程中發(fā)現(xiàn)個(gè)別信噪比(signal to noise ratio,SNR)為0的數(shù)據(jù)點(diǎn)性能下降,該問題出現(xiàn)的原因是BP譯碼在碼字臨界處的誤碼率上升,為解決該問題,引入加權(quán)比特翻轉(zhuǎn)(weighted bit-flipping,WBF)算法對BP算法部分進(jìn)行改進(jìn),生成加權(quán)BP (weighted BP,WBP)結(jié)構(gòu),該結(jié)構(gòu)不同于BP算法的迭代結(jié)構(gòu),可以僅執(zhí)行單次譯碼。待譯碼信號首先進(jìn)行一次WBP譯碼后通過CNN進(jìn)行降噪處理,最后執(zhí)行剩余的WBP迭代譯碼以達(dá)到更佳譯碼性能。

1 算法提出

1.1 BP譯碼

BP譯碼是一個(gè)迭代處理過程,消息在Tanner圖中的變量節(jié)點(diǎn)和校驗(yàn)節(jié)點(diǎn)之間傳遞。用表示某一個(gè)變量節(jié)點(diǎn),用表示校驗(yàn)節(jié)點(diǎn)集合。表示從集合中的某一個(gè)節(jié)點(diǎn)傳遞到集合某一個(gè)節(jié)點(diǎn)的消息,反之。初始值為接收信號的對數(shù)似然比(log likelihood ratio,LLR),其表達(dá)式如下所示：

(1)

式中:代表對數(shù)似然比;,分別表示第個(gè)二進(jìn)制相移鍵控(binary phase shift keying,BPSK)符號和相應(yīng)的接收符號;2為信道噪聲功率;Pr表示概率。變量節(jié)點(diǎn)和校驗(yàn)節(jié)點(diǎn)之間信息傳遞過程如下所示:

(2)

式中:()(())表示變量節(jié)點(diǎn)(校驗(yàn)節(jié)點(diǎn))的相鄰校驗(yàn)(變量)節(jié)點(diǎn)除了()以外的集合。經(jīng)過幾次迭代后,變量節(jié)點(diǎn)的對數(shù)似然比,計(jì)算為

(3)

與變量節(jié)點(diǎn)相對應(yīng)的比特值計(jì)算如下所示:

(4)

BP譯碼在AWGN信道中譯碼效果較好,但是相關(guān)噪聲條件下,對噪聲聯(lián)合分布進(jìn)行BP譯碼具有較高的復(fù)雜度。

1.2 WBP 算法

文獻(xiàn)[8]仿真BP算法時(shí)發(fā)現(xiàn)其譯碼結(jié)果在譯碼接收序列幅值越接近0時(shí),錯(cuò)誤概率越高,WBF算法將變量節(jié)點(diǎn)對應(yīng)信道輸出碼字的幅度最小值作為加權(quán)因子,對翻轉(zhuǎn)判據(jù)加權(quán)后取最小判據(jù)對應(yīng)的比特進(jìn)行翻轉(zhuǎn),解決了幅值越小,碼字發(fā)生錯(cuò)誤的概率越高的問題,恰好能夠彌補(bǔ)BP算法的不足。

BP算法的核心在于校驗(yàn)節(jié)點(diǎn)與變量節(jié)點(diǎn)間軟信息的傳遞,而WBF算法處理的核心是判據(jù)加權(quán),兩者結(jié)合時(shí)采用WBF算法的框架,數(shù)據(jù)內(nèi)部采用BP算法譯碼,然后對譯碼結(jié)束后未得到正確結(jié)果的信息進(jìn)行WBP,該方法稱為WBP算法,其流程圖如圖1所示。

圖1 WBP 算法流程圖Fig.1 Flow chart of WBP algorithm

2 譯碼器設(shè)計(jì)

從理論層面上講,WBP算法將在AWGN中獲得比BP算法更優(yōu)的譯碼性能,但其在相關(guān)噪聲中的譯碼性能則會(huì)像BP算法一樣下降。根據(jù)引言中的討論,考慮使用CNN網(wǎng)絡(luò)進(jìn)行信號相關(guān)噪聲降噪,WBP算法與CNN網(wǎng)絡(luò)的結(jié)合稱為WBP-CNN譯碼算法。

2.1 譯碼結(jié)構(gòu)設(shè)計(jì)

WBP-CNN譯碼系統(tǒng)框架如圖2所示,信道編碼選用LDPC碼,在發(fā)射機(jī)處,長度為的均勻分布的比特信號通過LDPC編碼及BPSK調(diào)制將比特信號調(diào)制映射為長度為的向量,將該向量發(fā)送到加性高斯噪聲信道。假設(shè)信道噪聲向量為具有自相關(guān)矩陣的高斯隨機(jī)矢量,長度為。接收端的接收信號向量表達(dá)式如下:

=+

(5)

式中：SNR定義為

=10lg()

(6)

式中:為平均發(fā)射功率，=E[];為復(fù)噪聲信號的功率。由于采用了BPSK調(diào)制,有效噪聲功率為2,即假設(shè)信道噪聲是功率為2的高斯分布,傳輸符號的LLR表達(dá)式如下所示:

(7)

(8)

圖2 WBP-CNN譯碼結(jié)構(gòu)Fig.2 WBP-CNN decoding structure

(9)

(10)

(11)

(12)

2.2 CNN參數(shù)設(shè)置與數(shù)據(jù)訓(xùn)練

CNN網(wǎng)絡(luò)仿真需要明確網(wǎng)絡(luò)結(jié)構(gòu)、損失函數(shù)、訓(xùn)練數(shù)據(jù)及測試數(shù)據(jù)、初始化方法等其他參數(shù)。

2.2.1 CNN參數(shù)的設(shè)置

(13)

式中：等號右邊第一項(xiàng)為殘留噪聲功率,為是碼長；第二項(xiàng)為Jarque-Bera檢驗(yàn),用以確定數(shù)據(jù)高斯分布的程度；為加權(quán)因子,和在統(tǒng)計(jì)中分別稱為偏度和峰度,定義如下:

(14)

222 仿真數(shù)據(jù)的生成與訓(xùn)練

訓(xùn)練CNN網(wǎng)絡(luò),需要生成訓(xùn)練數(shù)據(jù)集與驗(yàn)證數(shù)據(jù)集。接收端噪聲相關(guān)函數(shù)的信道模型已知時(shí),即可仿真生成足夠的信道噪聲樣本來訓(xùn)練網(wǎng)絡(luò)。選用文獻(xiàn)[28]中的相關(guān)模型,相關(guān)矩陣定義如下所示:

(15)

式中:, 是的第行第列個(gè)元素;是相關(guān)系數(shù),絕對值小于1,則信道噪聲樣本可生成為

=12

(16)

式中:是獨(dú)立同分布的標(biāo)準(zhǔn)高斯隨機(jī)變量的向量。SNR的設(shè)置將影響WBP譯碼結(jié)果,即影響CNN的輸入。為了防止噪聲特征被信號或錯(cuò)誤掩蓋,保證CNN順利學(xué)習(xí)信道噪聲的魯棒特性,訓(xùn)練數(shù)據(jù)生成SNR范圍為0～3 dB,間隔0.5 dB。每個(gè)SNR的數(shù)據(jù)生成200萬條訓(xùn)練數(shù)據(jù),10萬條驗(yàn)證數(shù)據(jù)。采用小批量梯度下降法訓(xùn)練網(wǎng)絡(luò)。每個(gè)小型批處理包含1 400個(gè)數(shù)據(jù)塊,每個(gè)SNR的數(shù)據(jù)在一個(gè)小型批處理中占據(jù)相同的比例。在每次迭代中,隨機(jī)選擇一定數(shù)量的訓(xùn)練樣本(即小批量)來計(jì)算梯度。使用Adam優(yōu)化方法搜索最優(yōu)網(wǎng)絡(luò)參數(shù)。在訓(xùn)練過程中,每500次迭代檢查一次驗(yàn)證集上的損失值。訓(xùn)練一直進(jìn)行到損失連續(xù)一段時(shí)間都沒有下降為止。

3 仿真實(shí)驗(yàn)

3.1 參數(shù)設(shè)置

在所有仿真中,使用碼率為3/4的規(guī)則LDPC碼,碼塊長度為576,奇偶校驗(yàn)矩陣來自文獻(xiàn)[30],使用隨機(jī)碼字進(jìn)行仿真,仿真使用的筆記本配置條件如下。

GPU0: Intel(R) UHD Graphics 630,GPU1: NVIDIA GeForce GTX 1660 Ti,tensorflow-gpu 1.14.0,內(nèi)存16G,9代i7處理器。

3.2 仿真結(jié)果

按照第3.1節(jié)及第2.2節(jié)參數(shù)設(shè)置,分別在背景噪聲相關(guān)性為0,0.1,0.5的情況下對BP譯碼算法、WBP-CNN譯碼算法進(jìn)行仿真,每個(gè)算法BP部分迭代次數(shù)均為5次、10次、20次、30次、40次及50次,仿真結(jié)果如圖3～圖5所示。橫坐標(biāo)為SNR,定義見式(6),縱坐標(biāo)為誤比特率,BP部分迭代次數(shù)為5的BP譯碼算法曲線在圖中的標(biāo)注為5置信傳播,代次數(shù)為5的WBP-CNN譯碼算法曲線在圖中的標(biāo)注為5加權(quán)置信網(wǎng)絡(luò),其他迭代次數(shù)標(biāo)注方法以此類推,損失函數(shù)中取=10。

圖3 噪聲相關(guān)性為0時(shí)譯碼器性能曲線Fig.3 Decoder performance curve when noise correlation is 0

圖4 噪聲相關(guān)性為0.1時(shí)譯碼器性能曲線Fig.4 Decoder performance curve when noise correlation is 0.1

圖5 噪聲相關(guān)性為0.5時(shí)譯碼器性能曲線Fig.5 Decoder performance curve when noise correlation is 0.5

WBP-CNN算法的執(zhí)行順序?yàn)?次WBP譯碼、CNN降噪、剩余迭代WBP譯碼,例如5加權(quán)置信網(wǎng)絡(luò)算法執(zhí)行順序?yàn)?次WBP譯碼、CNN降噪、4次WBP譯碼,其他迭代次數(shù)以此類推。由于引入CNN涉及到模塊調(diào)用無法準(zhǔn)確判斷算法計(jì)算量,計(jì)算復(fù)雜度通過運(yùn)行時(shí)間來衡量。經(jīng)過多次實(shí)驗(yàn)記錄,在上述實(shí)驗(yàn)條件下,WBP-CNN譯碼算法對比相同迭代次數(shù)的BP算法,增加的復(fù)雜度約為2.5次BP迭代。

圖3為噪聲相關(guān)性為0時(shí),即在白噪聲背景下的仿真結(jié)果,SNR為0～2.1 dB時(shí),誤比特率最低,即仿真性能最好的曲線為50 BP算法；SNR為2.1～2.7 dB時(shí),仿真性能最好的曲線是50加權(quán)置信網(wǎng)絡(luò)；SNR為2.7～3 dB時(shí),仿真性能最好的曲線是40加權(quán)置信網(wǎng)絡(luò)算法。從3 dB點(diǎn)來看誤比特率,譯碼性能由優(yōu)到差依次為:40加權(quán)置信網(wǎng)絡(luò)、50加權(quán)置信網(wǎng)絡(luò)、30加權(quán)置信網(wǎng)絡(luò)、50 BP、20加權(quán)置信網(wǎng)絡(luò)、40 BP、30 BP、20 BP、10加權(quán)置信網(wǎng)絡(luò)、10 BP、5加權(quán)置信網(wǎng)絡(luò)、5 BP,最低誤比特率為4.5×10。

在誤比特率為10時(shí),50加權(quán)置信網(wǎng)絡(luò)所需的SNR較50 BP低0.048 dB,40加權(quán)置信網(wǎng)絡(luò)所需的SNR較40 BP算法低0.075 dB。

圖4為噪聲相關(guān)性為0.1時(shí)的譯碼仿真結(jié)果,SNR為0～1.6 dB仿真性能最好的曲線是50 BP; SNR為1.6～3 dB仿真性能最好的曲線是50加權(quán)置信網(wǎng)絡(luò)。從3 dB點(diǎn)的誤比特率來看,性能由優(yōu)到差依次為:50加權(quán)置信網(wǎng)絡(luò)、50 BP、40加權(quán)置信網(wǎng)絡(luò)、30加權(quán)置信網(wǎng)絡(luò)、40 BP、20加權(quán)置信網(wǎng)絡(luò)、30 BP、20 BP、10加權(quán)置信網(wǎng)絡(luò)、10 BP、5加權(quán)置信網(wǎng)絡(luò)、5 BP,最低誤比特率為2.4×10。

在誤比特率為10時(shí),50加權(quán)置信網(wǎng)絡(luò)所需的SNR較50 BP低0.034 dB, 40加權(quán)置信網(wǎng)絡(luò)所需的SNR較40 BP算法低0.055 dB。

圖5為噪聲相關(guān)性為0.5時(shí)的譯碼仿真結(jié)果,SNR為0～0.6 dB及2.2～2.65 dB時(shí),仿真性能最好的曲線為30加權(quán)置信網(wǎng)絡(luò);SNR為0.6～2.2 dB時(shí),仿真性能最好的曲線是40加權(quán)置信網(wǎng)絡(luò);SNR為2.65～3 dB時(shí),仿真性能最好的曲線是50加權(quán)置信網(wǎng)絡(luò)。從3 dB點(diǎn)的誤比特率來看,性能由優(yōu)到差依次為:50加權(quán)置信網(wǎng)絡(luò)、40加權(quán)置信網(wǎng)絡(luò)、20加權(quán)置信網(wǎng)絡(luò)、10加權(quán)置信網(wǎng)絡(luò)、30加權(quán)置信網(wǎng)絡(luò)、5加權(quán)置信網(wǎng)絡(luò)、50 BP、40 BP、30 BP、20 BP、10 BP、5 BP,最低誤比特率為9×10。

在誤比特率為10時(shí),50加權(quán)置信網(wǎng)絡(luò)所需的SNR較50 BP低0.355 dB, 40加權(quán)置信網(wǎng)絡(luò)所需的SNR較40 BP算法低0.399 dB。

4 結(jié) 論

本文提出了一種基于WBP-CNN的LDPC碼譯碼算法,WBP結(jié)構(gòu)是BP算法與WBF算法的結(jié)合,用以解決BP算法在碼字臨界處性能降低的問題。該結(jié)構(gòu)在保證軟判決算法譯碼性能的同時(shí),引入硬判決思想提高譯碼性能。待譯碼信號經(jīng)過一次WBP譯碼后通過CNN網(wǎng)絡(luò)降低相關(guān)噪聲,最后再次進(jìn)入WBP結(jié)構(gòu)執(zhí)行剩余譯碼工作。實(shí)驗(yàn)表明,對比BP譯碼算法,WBP-CNN譯碼算法以約2.5次BP迭代的復(fù)雜度增加為代價(jià)帶來了譯碼性能提升。在本文參數(shù)設(shè)置中,WBP-CNN算法在噪聲相關(guān)性越強(qiáng)時(shí)譯碼性能越好,說明噪聲相關(guān)性范圍在0～0.5時(shí),噪聲相關(guān)性越強(qiáng)越利于CNN網(wǎng)絡(luò)降噪。