黃 駿，唐 慧，柴 利

(武漢科技大學(xué)冶金自動(dòng)化與檢測(cè)技術(shù)教育部工程研究中心，湖北 武漢，430081)

隨著互聯(lián)網(wǎng)和物聯(lián)網(wǎng)應(yīng)用的飛速發(fā)展，智能手機(jī)、車載終端及其他智能設(shè)備的數(shù)量急劇增加，5G移動(dòng)通信系統(tǒng)已成為無線通信領(lǐng)域的研究熱點(diǎn)。信道模型是評(píng)估通信系統(tǒng)性能的重要依據(jù)，對(duì)5G場(chǎng)景下的信道建模進(jìn)行充分研究十分必要[1]。傳統(tǒng)的信道建模方法包括確定性建模、半確定性建模和隨機(jī)性建模等。J?rvel?inen等[2]研究了基于點(diǎn)云模型的確定性建模方法，提出一種陰影衰落檢測(cè)方法。Gentile等[3]進(jìn)行了60 GHz的信道測(cè)量，采用的是基于Q-D模型的半確定性建模方法。Huang等[4]提出了一種基于GBSM的三維寬帶幾何隨機(jī)信道模型，該模型描述了時(shí)延擴(kuò)展和角度擴(kuò)展等信道參數(shù)。然而，隨機(jī)信道建模方法的精確度相對(duì)較低，確定性信道建模又有復(fù)雜度高的缺點(diǎn)。同時(shí)，5G無線通信的毫米波波長(zhǎng)短且頻段高，存在路徑損耗和大氣損耗嚴(yán)重、繞射能力下降等問題，這些特性使得5G信道建模更加困難。

深度學(xué)習(xí)方法具有強(qiáng)大的特征提取能力，已有研究者將其應(yīng)用到信道建模領(lǐng)域。Zhao等[5]采用基于徑向基神經(jīng)網(wǎng)絡(luò)的信道建模方法來預(yù)測(cè)信道參數(shù)，克服了采用基于幾何的隨機(jī)建模方法預(yù)測(cè)時(shí)變信道無法與實(shí)際環(huán)境相匹配的缺點(diǎn)。Huang等[6]提出了一種將大規(guī)模多輸入多輸出技術(shù)與深度學(xué)習(xí)相結(jié)合預(yù)測(cè)信道參數(shù)的新框架，其采用深度神經(jīng)網(wǎng)絡(luò)進(jìn)行信道建模。Navabi等[7]采用神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)傳播路徑的到達(dá)角和離開角等信道參數(shù)。Huang等[8]提出一種基于前向神經(jīng)網(wǎng)絡(luò)與徑向基神經(jīng)網(wǎng)絡(luò)的無線通信信道參數(shù)預(yù)測(cè)模型，用于路徑損耗、到達(dá)角與離開角等信道參數(shù)的預(yù)測(cè)。Bai等[9]提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks,CNN)的毫米波室內(nèi)場(chǎng)景信道特性預(yù)測(cè)模型，預(yù)測(cè)了包括路徑損耗、時(shí)延擴(kuò)展和俯仰離開角均值等11個(gè)信道參數(shù)。

與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)相比，卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)共享機(jī)制可減少網(wǎng)絡(luò)參數(shù)的數(shù)量，提高網(wǎng)絡(luò)訓(xùn)練性能，而CNN在信道建模中的應(yīng)用還有待拓展。同時(shí)，上述研究在網(wǎng)絡(luò)訓(xùn)練過程中大多采用手動(dòng)調(diào)整超參數(shù)的方法，通過手動(dòng)調(diào)參一般難以得到最優(yōu)模型，且計(jì)算代價(jià)大[10]。另外，室外場(chǎng)景是5G未來應(yīng)用發(fā)展的重要方向，而現(xiàn)有文獻(xiàn)對(duì)室外5G無線通信場(chǎng)景信道特性的研究還相對(duì)較少。

針對(duì)以上問題，本文提出一種基于貝葉斯優(yōu)化的CNN信道建模方法。首先利用Wireless InSite軟件構(gòu)建5G無線通信室外場(chǎng)景的數(shù)據(jù)集，然后設(shè)計(jì)基于CNN的5G無線信道參數(shù)學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu)，并通過貝葉斯優(yōu)化方法自動(dòng)尋找網(wǎng)絡(luò)模型的最優(yōu)超參數(shù)，最后通過實(shí)驗(yàn)來驗(yàn)證所提方法的有效性。

1 5G毫米波無線通信數(shù)據(jù)集的構(gòu)建

無線信道參數(shù)通?？煞譃閮纱箢悾捍蟪叨人ヂ涮匦院托〕叨人ヂ涮匦?。大尺度衰落特性描述了長(zhǎng)距離(數(shù)百或數(shù)千米)范圍內(nèi)信號(hào)場(chǎng)強(qiáng)的變化，典型參數(shù)有路徑損耗和陰影衰落；小尺度衰落特性描述短距離(數(shù)個(gè)或數(shù)十個(gè)波長(zhǎng))內(nèi)信號(hào)場(chǎng)強(qiáng)的快速變化情況，典型參數(shù)有時(shí)延擴(kuò)展、頻域擴(kuò)展和角度擴(kuò)展[11]。本文重點(diǎn)關(guān)注6個(gè)無線信道參數(shù)，分別為路徑損耗ρ、接收功率p、水平離開角均值θT、俯仰離開角均值φT、水平到達(dá)角均值θR和俯仰到達(dá)角均值φR，它們組成了學(xué)習(xí)網(wǎng)絡(luò)的輸出標(biāo)簽數(shù)據(jù)集。輸入特征數(shù)據(jù)集由發(fā)送天線的三維坐標(biāo)(xT，yT，zT)和接收天線的三維坐標(biāo)(xR，yR，zR)組成。

Wireless InSite是一款基于射線跟蹤法進(jìn)行復(fù)雜電磁環(huán)境建模和信道參數(shù)預(yù)測(cè)的仿真軟件[12]，其中信道參數(shù)包括路徑損耗、到達(dá)時(shí)間、到達(dá)角、離開角以及接收功率等，軟件提供的頻率范圍為100 MHz～100 GHz。本文利用Wireless InSite軟件模擬以公園為原型的三維室外無線通信場(chǎng)景(見圖1)，其由人工湖、樹木、草地、人行道和建筑物等構(gòu)成，面積為1.6×105m2。通信場(chǎng)景仿真頻率為100 GHz，帶寬為2.5 GHz，天線類型為半波雙極化天線，天線位置隨機(jī)部署且避開水域。

圖1 通信場(chǎng)景平面圖Fig.1 Planar graph of communication scenario

2 基于卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)學(xué)習(xí)方法

本文方法的基本流程如圖2所示。首先通過Wireless InSite軟件建立通信場(chǎng)景并獲取5G無線信道數(shù)據(jù)集，采用Min-Max標(biāo)準(zhǔn)化對(duì)輸入特征數(shù)據(jù)集進(jìn)行預(yù)處理，然后按照6∶2∶2的比例將5G無線信道數(shù)據(jù)集隨機(jī)分成訓(xùn)練集、交叉驗(yàn)證集和測(cè)試集。訓(xùn)練集用來訓(xùn)練基于卷積神經(jīng)網(wǎng)絡(luò)的5G無線信道模型，卷積神經(jīng)網(wǎng)絡(luò)的超參數(shù)采用貝葉斯優(yōu)化框架自動(dòng)尋優(yōu)。交叉驗(yàn)證集用來計(jì)算卷積神經(jīng)網(wǎng)絡(luò)的性能指標(biāo)，如果達(dá)到貝葉斯優(yōu)化循環(huán)次數(shù)則進(jìn)入下一步，否則繼續(xù)調(diào)整超參數(shù)訓(xùn)練網(wǎng)絡(luò)。達(dá)到貝葉斯優(yōu)化循環(huán)次數(shù)后，使用測(cè)試集預(yù)測(cè)5G無線信道參數(shù)。卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)化采用自適應(yīng)矩估計(jì)算法，它是一種被廣泛使用的隨機(jī)梯度下降優(yōu)化算法，利用梯度的一階矩估計(jì)和二階矩估計(jì)動(dòng)態(tài)調(diào)整每個(gè)參數(shù)的學(xué)習(xí)率[13]。

圖2 5G無線信道參數(shù)學(xué)習(xí)流程Fig.2 Learning process of 5G wireless channel parameters

2.1 數(shù)據(jù)預(yù)處理

在獲取的原始數(shù)據(jù)集中，輸入特征的量綱一般不相同，并且輸入特征數(shù)值之間相差較大。這兩點(diǎn)會(huì)影響模型的精確度和優(yōu)化算法的收斂速度，所以需要對(duì)原始輸入特征數(shù)據(jù)集進(jìn)行預(yù)處理。本文采用Min-Max標(biāo)準(zhǔn)化將輸入特征值縮放到[0,1]區(qū)間內(nèi)。

2.2 卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計(jì)

卷積神經(jīng)網(wǎng)絡(luò)主要由數(shù)據(jù)輸入層、卷積層、池化層、全連接層和數(shù)據(jù)輸出層組成，并可以加入批歸一化層優(yōu)化網(wǎng)絡(luò)性能[14]。本文為所關(guān)注的6個(gè)信道參數(shù)分別設(shè)計(jì)學(xué)習(xí)網(wǎng)絡(luò)，以路徑損耗ρ為例，所設(shè)計(jì)的CNN網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。數(shù)據(jù)輸入層的神經(jīng)元個(gè)數(shù)由輸入數(shù)據(jù)的特征數(shù)量決定，輸入特征包括發(fā)送天線的三維坐標(biāo)(xT，yT，zT)和接收天線的三維坐標(biāo)(xR，yR，zR)，因此數(shù)據(jù)輸入層的神經(jīng)元個(gè)數(shù)為6；卷積層由一組卷積核構(gòu)成，卷積核的權(quán)值經(jīng)過反向傳播后更新，卷積層是卷積神經(jīng)網(wǎng)絡(luò)的核心層，它可以減少卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)量，所設(shè)計(jì)的卷積層有3層；全連接層通常連接在卷積神經(jīng)網(wǎng)絡(luò)尾部，全連接層中的每個(gè)神經(jīng)元與其前一層的所有神經(jīng)元進(jìn)行連接，全連接層可以整合卷積層或者池化層中的局部信息，這里設(shè)計(jì)的全連接層有3層；數(shù)據(jù)輸出層的神經(jīng)元個(gè)數(shù)主要由標(biāo)簽數(shù)量決定，所設(shè)計(jì)的數(shù)據(jù)輸出層神經(jīng)元個(gè)數(shù)為1個(gè)，表示路徑損耗數(shù)據(jù)；卷積神經(jīng)網(wǎng)絡(luò)其余的超參數(shù)均由貝葉斯優(yōu)化算法自動(dòng)尋優(yōu)得到。

圖3 用于路徑損耗參數(shù)學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.3 CNN structure for learning path loss parameter

卷積神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)準(zhǔn)則為均方誤差損失函數(shù)，如式(1)所示。

(1)

2.3 基于貝葉斯優(yōu)化的超參數(shù)尋優(yōu)

貝葉斯優(yōu)化方法是一種自動(dòng)搜索超參數(shù)的全局優(yōu)化算法，能夠有效利用過去的評(píng)估信息來提高搜索效率，該方法可表示為[15]：

θ*=argminθ∈ΘL

(2)

式中：θ為超參數(shù)；Θ為超參數(shù)搜索空間；θ*為找到的最優(yōu)超參數(shù)；L為模型的損失函數(shù)。

貝葉斯優(yōu)化算法有兩個(gè)主要的組成部分：概率代理模型和采集函數(shù)。因?yàn)闊o法得知超參數(shù)與模型性能之間的顯式關(guān)系，所以需要概率代理模型來代替超參數(shù)與模型性能之間的函數(shù)關(guān)系；采集函數(shù)利用概率代理模型的后驗(yàn)信息構(gòu)造選擇策略，從而確定下一組超參數(shù)組合，選擇策略有基于提升的策略、置信邊界策略和基于信息的策略。以下給出本文方法中的貝葉斯優(yōu)化算法偽代碼:

算法:貝葉斯優(yōu)化輸入:模型的損失函數(shù)L、超參數(shù)搜索空間Θ、采集函數(shù)S、概率代理模型M,初始化數(shù)據(jù)集D←(L,θ)fori=1,2,3,…,T: 1.最大化采集函數(shù)S,得到下一個(gè)評(píng)估點(diǎn):xi=argmaxθ∈ΘS(θ|D1:i-1) 2.評(píng)估損失函數(shù):Li 3.整合數(shù)據(jù):Di=Di-1∪{θi,Li},更新代理模型Mendfor

3 實(shí)驗(yàn)與結(jié)果分析

3.1 實(shí)驗(yàn)設(shè)置

在模擬場(chǎng)景中分別設(shè)置300個(gè)發(fā)送天線和300個(gè)接收天線，所構(gòu)建的5G無線通信室外場(chǎng)景數(shù)據(jù)集(包括輸入特征數(shù)據(jù)集和輸出標(biāo)簽數(shù)據(jù)集)一共有90 000組數(shù)據(jù)。中央處理器和顯卡分別采用AMD 2600和Nvidia1660，卷積神經(jīng)網(wǎng)絡(luò)運(yùn)行環(huán)境為TensorFlow 2.3，貝葉斯優(yōu)化框架采用Scikit-Optimize庫搭建。本文采用自適應(yīng)矩估計(jì)算法作為5G無線信道模型的優(yōu)化算法，算法中第一矩估計(jì)的指數(shù)衰減率設(shè)為0.9，第二矩估計(jì)的指數(shù)衰減率設(shè)為0.999。為了防止模型過擬合，優(yōu)化算法采取提前停止訓(xùn)練的策略，即如果損失函數(shù)在100次迭代后沒有得到提升，則提前終止模型訓(xùn)練。貝葉斯優(yōu)化算法的概率代理模型采用高斯過程，循環(huán)次數(shù)為50；采集函數(shù)采用基于提升的策略中的EI(expected improvement)函數(shù)。自動(dòng)尋優(yōu)的超參數(shù)有學(xué)習(xí)率、激活函數(shù)、每個(gè)卷積層的卷積核數(shù)量、每個(gè)全連接層的神經(jīng)元數(shù)量和批處理大小。以路徑損耗ρ為例，表1給出了經(jīng)過貝葉斯優(yōu)化后路徑損耗學(xué)習(xí)網(wǎng)絡(luò)的超參數(shù)。

表1 ρ學(xué)習(xí)網(wǎng)絡(luò)的超參數(shù)Table 1 Hyperparameters of ρ learning network

3.2 評(píng)價(jià)指標(biāo)

利用均方根誤差RMSE和決定系數(shù)R2作為學(xué)習(xí)模型的評(píng)價(jià)指標(biāo)。RMSE指標(biāo)常用來衡量真實(shí)值和預(yù)測(cè)值之間的絕對(duì)誤差，在深度學(xué)習(xí)中應(yīng)用較為廣泛。決定系數(shù)也是反映模型擬合性能的一個(gè)統(tǒng)計(jì)指標(biāo)，取值范圍為[0,1],決定系數(shù)越接近1則模型的擬合效果越好。

3.3 結(jié)果分析

圖4給出了每個(gè)信道參數(shù)的預(yù)測(cè)值和標(biāo)簽值的對(duì)比。由圖4可見，除了少數(shù)標(biāo)簽值過小或過大的數(shù)據(jù)點(diǎn)之外，這6個(gè)信道參數(shù)的絕大部分標(biāo)簽數(shù)據(jù)和5G無線信道參數(shù)學(xué)習(xí)模型的預(yù)測(cè)數(shù)據(jù)均擬合良好。

表2為采用貝葉斯優(yōu)化自動(dòng)調(diào)參方法在交叉驗(yàn)證集上的實(shí)驗(yàn)結(jié)果，表3為5G無線信道參數(shù)學(xué)習(xí)模型手動(dòng)調(diào)參和貝葉斯優(yōu)化自動(dòng)調(diào)參在測(cè)試集上的實(shí)驗(yàn)結(jié)果對(duì)比。由表3可見，與手動(dòng)調(diào)參相比，自動(dòng)調(diào)參時(shí)路徑損耗ρ、接收功率p、水平離開角均值θT、俯仰離開角均值φT、水平到達(dá)角均值θR和俯仰到達(dá)角均值φR對(duì)應(yīng)的均方根誤差分別減少了6.7547、6.1428、7.9213、1.2459、5.1333和0.8659，決定系數(shù)分別提高了0.1886、0.1716、0.0472、0.1162、0.0314和0.0542，即貝葉斯優(yōu)化自動(dòng)調(diào)參的實(shí)驗(yàn)結(jié)果優(yōu)于手動(dòng)調(diào)參的實(shí)驗(yàn)結(jié)果。以上數(shù)據(jù)表明，通過基于貝葉斯優(yōu)化自動(dòng)調(diào)參的卷積神經(jīng)網(wǎng)絡(luò)，5G無線信道參數(shù)學(xué)習(xí)能達(dá)到良好的效果。

(a)路徑損耗 (b)接收功率

表2 在交叉驗(yàn)證集上的實(shí)驗(yàn)結(jié)果Table 2 Experimental results of cross-validation set

表3 采用不同調(diào)參方法的實(shí)驗(yàn)結(jié)果對(duì)比Table 3 Comparison of experimental results by different parameter tuning methods

4 結(jié)語

針對(duì)5G室外無線通信場(chǎng)景的信道建模問題，本文提出了一種基于CNN的信道參數(shù)學(xué)習(xí)方法。為不同的信道參數(shù)設(shè)計(jì)了相應(yīng)的學(xué)習(xí)網(wǎng)絡(luò)，同時(shí)采用貝葉斯方法優(yōu)化超參數(shù)以提高學(xué)習(xí)網(wǎng)絡(luò)的性能。利用Wireless InSite軟件構(gòu)建室外5G無線通信信道參數(shù)數(shù)據(jù)集，給出了不同信道參數(shù)的學(xué)習(xí)結(jié)果，并驗(yàn)證了所提方法的有效性。與手動(dòng)調(diào)參方法相比，對(duì)CNN超參數(shù)的貝葉斯自動(dòng)尋優(yōu)使本文方法在均方根誤差和決定系數(shù)這兩個(gè)信道模型評(píng)價(jià)指標(biāo)上具有顯著優(yōu)勢(shì)。