摘 要:近年來(lái),深度學(xué)習(xí)(Deep Learning,DL) 在調(diào)制識(shí)別算法上的研究表明了其較傳統(tǒng)方法的優(yōu)越性。通過(guò)提取信號(hào)的空間或時(shí)間特征進(jìn)行分類通常具有較高準(zhǔn)確率,然而針對(duì)高階調(diào)制的分類精度卻存在一定偏差。為此,研究并實(shí)現(xiàn)了一種基于時(shí)空聯(lián)合特征注意力機(jī)制的調(diào)制識(shí)別算法。該算法在提取信號(hào)時(shí)空聯(lián)合特征的基礎(chǔ)上加入了一種自注意力機(jī)制,有效提升了高階調(diào)制的識(shí)別準(zhǔn)確率,具有很高的分類精度。同時(shí),基于GNU Radio 開發(fā)框架實(shí)現(xiàn),該算法能夠部署于各類軟件無(wú)線電嵌入式平臺(tái),具有通用性和實(shí)用性。利用GNU Radio Out of Tree (OOT) 模塊與開放神經(jīng)網(wǎng)絡(luò)交換(OpenNeural Network Exchange,ONNX),將模型部署在嵌入式設(shè)備中進(jìn)行DL 推理。測(cè)試表明該算法在軟件定義無(wú)線電(SoftwareDefined Radio,SDR) 平臺(tái)下?lián)碛休^高識(shí)別準(zhǔn)確率和推理速度,對(duì)高階調(diào)制信號(hào)的分類精度高,同時(shí)在嵌入式環(huán)境下的推理與訓(xùn)練過(guò)程具有一致性。
關(guān)鍵詞:時(shí)空聯(lián)合;軟件無(wú)線電;自注意力機(jī)制;高階調(diào)制
中圖分類號(hào):TN911. 7 文獻(xiàn)標(biāo)志碼:A
文章編號(hào):1003-3106(2024)12-2913-10
0 引言
深度學(xué)習(xí)(Deep Learning,DL)作為機(jī)器學(xué)習(xí)(Machine Learning,ML)的一個(gè)分支,已經(jīng)成功用于解決不同領(lǐng)域的復(fù)雜問(wèn)題,如圖像處理[1]、自然語(yǔ)言處理[2]和語(yǔ)音識(shí)別[3]。近年來(lái),DL 技術(shù)也被應(yīng)用于無(wú)線通信和頻譜感知[4-5],表明它們?cè)谧詣?dòng)調(diào)制分類等任務(wù)中優(yōu)于經(jīng)典算法[6],并且取得了很好的效果[7-8]。
自動(dòng)調(diào)制分類是一種在不知道接收信號(hào)調(diào)制類型的情況下,自動(dòng)對(duì)信號(hào)調(diào)制類型進(jìn)行分類的過(guò)程。過(guò)去無(wú)線信號(hào)的分類和調(diào)制識(shí)別一直是通過(guò)為特定的信號(hào)類型和特征手動(dòng)制作專門特征提取器來(lái)完成的,通過(guò)在低維特征空間中使用解析導(dǎo)出的決策邊界或統(tǒng)計(jì)學(xué)的邊界從中得到嚴(yán)格的決策邊界[6]。近年則涌現(xiàn)了許多基于DL 的調(diào)制識(shí)別算法,這些算法本質(zhì)上是多分類的模式識(shí)別問(wèn)題[9-12]。文獻(xiàn)[13]的研究表明,DL 算法可以應(yīng)用于無(wú)線電信號(hào)的時(shí)間序列數(shù)據(jù)樣本,并且以優(yōu)異的性能對(duì)調(diào)制信號(hào)類型進(jìn)行分類,獲得的等效精度比使用基于高階矩特征分類器的現(xiàn)有最佳算法靈敏幾倍。文獻(xiàn)[14-15]通過(guò)提取信號(hào)的星座圖特征,并結(jié)合經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)對(duì)調(diào)制信號(hào)分類識(shí)別,準(zhǔn)確率超過(guò)90% 。文獻(xiàn)[16]提取調(diào)制信號(hào)的相位和幅度信息,根據(jù)特征將雙向長(zhǎng)短時(shí)記憶(Bidirectional Long Short TermMemory,BiLSTM)層串聯(lián),構(gòu)建了BiLSTM 識(shí)別模型,識(shí)別準(zhǔn)確率接近92% 。這些研究均表明,在信號(hào)調(diào)制類型識(shí)別任務(wù)上,DL 算法具有靈活的自適應(yīng)能力、遷移擴(kuò)展能力及較高的準(zhǔn)確率,相較傳統(tǒng)算法具有優(yōu)越性。
DL 算法大多通過(guò)提取圖像的空間特征或序列的時(shí)間特征對(duì)調(diào)制信號(hào)進(jìn)行分類[17]。然而,提取單一特征的算法對(duì)某些調(diào)制信號(hào)如QPSK、8PSK,在低信噪比條件下的分類精度不足,或是在分類時(shí)容易將高階調(diào)制信號(hào)如16QAM、64QAM 混淆[13-15]。文獻(xiàn)[18 - 19]使用了CNN 并聯(lián)LSTM (CNN ParallelLSTM,CPL)分別提取信號(hào)的空間特征與時(shí)間特征,再進(jìn)行特征融合、分類。這種提取聯(lián)合特征的方法有效提升了分類精度,10 dB 條件下能夠達(dá)到95% ,但仍然存在高階調(diào)制分類精度不足的問(wèn)題。
為了提高高階調(diào)制信號(hào)的識(shí)別準(zhǔn)確率,提升模型分類精度,本文提出并實(shí)現(xiàn)了一種CNN 并聯(lián)帶注意力機(jī)制的LSTM 網(wǎng)絡(luò)(CPL with Attention,CPLA)。CPL 網(wǎng)絡(luò)提取信號(hào)的時(shí)間、空間聯(lián)合特征,并在LSTM 前加入了多頭注意力機(jī)制,增強(qiáng)模型的全局特征提取能力,擴(kuò)大全局視野。模型的性能測(cè)試結(jié)果表明,相比CPL 模型,本文提出的CPLA 對(duì)16QAM 與64QAM 兩種高階調(diào)制信號(hào)的分類精度提升了20% ;針對(duì)RML2016. 10A 數(shù)據(jù)集中所有高階調(diào)制信號(hào)的分類精度提升了10% ;10 dB 信噪比下的識(shí)別準(zhǔn)確率提升了5% 。
同時(shí),通過(guò)通用軟件定義無(wú)線電(SoftwareDefined Radio,SDR)技術(shù),實(shí)現(xiàn)了該算法在嵌入式平臺(tái)的部署與推理。射頻前端采集信號(hào)并在嵌入式板卡上進(jìn)行數(shù)據(jù)的識(shí)別、分類,很大程度上提升了算法的通用性,并且能為認(rèn)知無(wú)線電和信號(hào)分類等應(yīng)用領(lǐng)域帶來(lái)新的場(chǎng)景。
下文,第1 節(jié)詳細(xì)討論CPLA 模型的結(jié)構(gòu)、每層的輸出特征維度,進(jìn)行對(duì)比分析。并對(duì)4 種模型的性能進(jìn)行測(cè)試與驗(yàn)證。第2 節(jié)針對(duì)模型的部署和推理,闡述了開放神經(jīng)網(wǎng)絡(luò)交換(Open Neural NetworkExchange,ONNX)和Out Of Tree (OOT)模塊的工作原理以及如何配置,隨后解釋了在該調(diào)制識(shí)別算法的流圖中,如何配合自定義的塊來(lái)部署經(jīng)過(guò)訓(xùn)練的網(wǎng)絡(luò)模型[8]進(jìn)行推理。第3 節(jié)對(duì)部署在嵌入式平臺(tái)上的CPLA 模型進(jìn)行驗(yàn)證。對(duì)CPLA 的輸出進(jìn)行了可視化分析,表明嵌入式環(huán)境下的推理結(jié)果與訓(xùn)練過(guò)程中的一致性。
1 模型訓(xùn)練過(guò)程
1. 1 模型結(jié)構(gòu)
CNN 是一種專門用來(lái)處理具有類似網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)———圖像數(shù)據(jù)可以看作二維的像素網(wǎng)格[20],因此常用于提取圖片的空間特征以進(jìn)行圖像分類。
CNN 通過(guò)多層卷積層自動(dòng)學(xué)習(xí)圖像在各個(gè)層次上的特征,利用淺層的簡(jiǎn)單表示逐層構(gòu)建高層次、抽象的特征,并以此進(jìn)行分類識(shí)別。LSTM 主要用于需要對(duì)序列數(shù)據(jù)進(jìn)行處理的任務(wù),是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN),能夠提取信號(hào)序列的時(shí)間特征。
聯(lián)合CNN 與LSTM 的網(wǎng)絡(luò)模型在進(jìn)行分類時(shí),能夠有效提升分類精度,但對(duì)高階調(diào)制信號(hào)的分類依舊容易混淆[18-19]。因此本文提出了一種在聯(lián)合時(shí)間、空間特征的基礎(chǔ)上,加入了針對(duì)時(shí)間序列的QKV 多頭自注意力機(jī)制的網(wǎng)絡(luò)模型,即CPLA 模型。加入多頭注意力機(jī)制能夠提升模型的全局視野感知與特征提取能力,從而提升CPLA 對(duì)高階調(diào)制信號(hào)的分類精度和總體的分類精度。CPLA 模型結(jié)構(gòu)如圖1 所示。
圖1 中,CPLA 模型的輸入為二通道I / Q 信號(hào)。4 層二維卷積層對(duì)I / Q 信號(hào)進(jìn)行二維卷積,并經(jīng)過(guò)池化層降采樣得到空間特征;2 層LSTM 層提?。?/ Q信號(hào)的時(shí)間特征;QKV 多頭注意力層能夠增強(qiáng)模型的全局視野感知能力,提取全局信息。最后將時(shí)間、空間特征相融合,根據(jù)時(shí)空特性進(jìn)行信號(hào)分類。相較于CPL 模型,加入了注意力層的CPLA 模型對(duì)高階調(diào)制信號(hào)的分類精度明顯提高。