張智強(qiáng)
【摘? 要】在下行鏈路傳輸場(chǎng)景中,發(fā)射機(jī)處的功率分配和波束賦形設(shè)計(jì)至關(guān)重要。考慮一個(gè)多用戶Massive MIMO系統(tǒng)中總功率約束下最大化加權(quán)和速率問題,經(jīng)典的WMMSE算法可以獲取次優(yōu)解,但計(jì)算復(fù)雜度過高。為了降低計(jì)算復(fù)雜度,提出了一種基于深度學(xué)習(xí)的快速波束賦形設(shè)計(jì)方法,該方法可以離線訓(xùn)練深度神經(jīng)網(wǎng)絡(luò),利用訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)求解最優(yōu)波束賦形解,只需要簡(jiǎn)單的線性和非線性操作即可完成。實(shí)驗(yàn)結(jié)果顯示,該方法可以逼近WMMSE算法精度的90%以上,同時(shí)計(jì)算復(fù)雜度和時(shí)延也大大降低。
【關(guān)鍵詞】Massive MIMO;預(yù)編碼;WMMSE;深度學(xué)習(xí)
In a downlink transmission scenario, the design of power allocation and beam assignment at the transmitter is critical. This paper considers a problem of maximizing the weighting rate under the total power constraint in a multi-user massive MIMO system, where the classical weighted minimum mean square error (WMMSE) algorithm can obtain suboptimal solutions with high computational complexity. In order to reduce the computational complexity, this paper proposes a fast beamforming design method based on deep learning, which can train a deep neural network offline and use the trained neural network to solve the optimal beamforming with simple linear and nonlinear operations. Experimental results show that the method can approximate more than 90% accuracy of the WMMSE algorithm, while the computational complexity and delay are greatly reduced.
Massive MIMO; precoding; WMMSE; deep learning
0? ?引言
Massive MIMO是第五代移動(dòng)通信(5G)的核心技術(shù)之一,在提高系統(tǒng)容量和頻譜利用率方面起著至關(guān)重要的作用[1-2]。在Massive MIMO系統(tǒng)中,設(shè)計(jì)實(shí)時(shí)性強(qiáng)、效率高的資源分配算法是一個(gè)非常重要的研究方向,特別是在下行傳輸鏈路的預(yù)編碼問題中。傳統(tǒng)的基于優(yōu)化和迭代的預(yù)編碼算法收斂速度較慢,計(jì)算復(fù)雜度高[3],無法滿足5G及以上系統(tǒng)實(shí)時(shí)應(yīng)用的需求,如自動(dòng)駕駛車輛和關(guān)鍵任務(wù)通信等。即使在毫秒級(jí)變化的小范圍衰落非實(shí)時(shí)應(yīng)用程序中,迭代過程引入的延遲也會(huì)使波束賦形解決方案難以滿足通信需求。
近年來深度學(xué)習(xí)(DL, Deep Learning)在無線通信領(lǐng)域的廣泛應(yīng)用,使得在實(shí)時(shí)學(xué)習(xí)最優(yōu)波束賦行時(shí)同時(shí)考慮性能和計(jì)算延遲成為可能[4-5]。國(guó)內(nèi)外學(xué)者在這方面都做出了很多研究,文獻(xiàn)[6]基于WMMSE算法提出了一種無監(jiān)督學(xué)習(xí)的MIMO快速波速賦形方法,該方法相比WMMSE(Weighted Minimum Mean Squared Error,最小化加權(quán)均方誤差)算法計(jì)算復(fù)雜度有所降低,并且訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)性能接近WMMSE算法性能。但是由于采用無監(jiān)督學(xué)習(xí)的方案,網(wǎng)絡(luò)訓(xùn)練的難度較大。文獻(xiàn)[7]提出一種通用的DL框架,并且創(chuàng)造性地使用了監(jiān)督學(xué)習(xí)與非監(jiān)督學(xué)習(xí)相結(jié)合的混合學(xué)習(xí)方法來提高學(xué)習(xí)性能并且同時(shí)加快收斂速度,在實(shí)驗(yàn)結(jié)果上不僅實(shí)現(xiàn)了近似最優(yōu)的波束賦形矩陣,而且與迭代方法相比,計(jì)算復(fù)雜度也大大降低。遺憾的是該文獻(xiàn)針對(duì)的是MISO信道,沒有擴(kuò)展到更復(fù)雜的MIMO信道中。文獻(xiàn)[8]提出的基于神經(jīng)網(wǎng)絡(luò)的魯棒分散聯(lián)合預(yù)編碼方法,針對(duì)MIMO系統(tǒng)的波束賦形,并且增加了算法的魯棒性,根據(jù)CSI的估計(jì)值并利用DNN進(jìn)行分布式預(yù)編碼,但是該方法需要訓(xùn)練多個(gè)學(xué)習(xí)器,并且也只能達(dá)到ZF(Zero-Forcing)算法的性能。
綜合上述問題,基于經(jīng)典的WMMSE波束賦形方案[9],本文應(yīng)用深度學(xué)習(xí)技術(shù)到Massive MIMO系統(tǒng)波速賦形設(shè)計(jì)中,采用監(jiān)督學(xué)習(xí)的方案,并且嘗試不同的網(wǎng)絡(luò)的結(jié)構(gòu),通過優(yōu)化設(shè)計(jì)網(wǎng)絡(luò)的輸入輸出結(jié)構(gòu),從而降低神經(jīng)網(wǎng)絡(luò)的輸出維度,減小模型的訓(xùn)練難度。仿真結(jié)果顯示,本文提出的方法可以達(dá)到WMMSE算法性能的92%以上,并且所采用的MLP網(wǎng)絡(luò)和CNN網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)單,非常容易訓(xùn)練。
1? ?問題描述和系統(tǒng)模型
如圖1所示,考慮一個(gè)單小區(qū)多用戶的Massive MIMO系統(tǒng),其中基站配備有NT根發(fā)射天線,每個(gè)小區(qū)有K個(gè)用戶,每個(gè)用戶配有NR根接收天線。Sk表示用戶k的符號(hào)向量,表示用戶k的預(yù)編碼矩陣?;景l(fā)出的信號(hào)可以表示為:
其中矩陣表示從基站到用戶k之間的信道矩陣,表示分布為的高斯加性白噪聲。假設(shè)不同用戶的符號(hào)向量彼此獨(dú)立,所有符號(hào)向量和噪聲也獨(dú)立。在本問題中,將多用戶干擾作為噪聲處理,接收端采用線性接收波束賦形。
我們感興趣的一個(gè)基本問題是找到預(yù)編碼矩陣{Vk},能夠使得系統(tǒng)的加權(quán)和速率在基站總功率約束下最大化,其中總功率約束是由基站發(fā)射功率限制。數(shù)學(xué)上,可以寫成如下問題:
2? ?神經(jīng)網(wǎng)絡(luò)的輸入輸出設(shè)計(jì)
在多用戶Massive MIMO系統(tǒng)中,發(fā)射天線的數(shù)目NT比較大,且通常情況下發(fā)射天線數(shù)遠(yuǎn)遠(yuǎn)大于用戶數(shù)(NT>>NR),由公式(6)不難看出,預(yù)編碼矩陣Vk的維度與NT直接相關(guān)[10],如果直接使用信道矩陣H作為系統(tǒng)的輸入,將預(yù)編碼矩陣Vk作為系統(tǒng)的輸出,則神經(jīng)網(wǎng)絡(luò)的輸出維度將變得很高,導(dǎo)致網(wǎng)絡(luò)的訓(xùn)練變得非常困難。在WMMSE算法迭代的過程中發(fā)現(xiàn),Vk由{Uk ,Wk}唯一決定,而{Uk ,Wk}的維度與發(fā)射天線的數(shù)目NT無關(guān),所以,考慮使用{Uk ,Wk}作為神經(jīng)網(wǎng)絡(luò)的輸出,從而大大降低了網(wǎng)絡(luò)輸出的維度。
3? ?低復(fù)雜度預(yù)編碼學(xué)習(xí)模型
為降低傳統(tǒng)優(yōu)化迭代算法進(jìn)行預(yù)編碼的復(fù)雜度,嘗試了基于深度學(xué)習(xí)的預(yù)編碼方法,采用監(jiān)督學(xué)習(xí)的方法進(jìn)行網(wǎng)絡(luò)訓(xùn)練[11]。監(jiān)督學(xué)習(xí)是訓(xùn)練波束賦形神經(jīng)網(wǎng)絡(luò)最直接的方法。在監(jiān)督學(xué)習(xí)中采用較簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)模型(MLP和CNN)。訓(xùn)練樣本通過WMMSE算法直接產(chǎn)生。
對(duì)于MLP網(wǎng)絡(luò)來說,由于網(wǎng)絡(luò)的輸入H是一個(gè)高維的復(fù)數(shù)矩陣,考慮把高維矩陣?yán)斐梢痪S的張量來處理,考慮到原輸入是一個(gè)復(fù)數(shù)矩陣,同時(shí)也把復(fù)數(shù)的實(shí)部和虛部也拼接成一維張量。在MLP網(wǎng)絡(luò)中選擇Adam和MSE分別作為優(yōu)化器和損失函數(shù)。網(wǎng)絡(luò)模型示意圖如圖2所示:
同樣地,對(duì)于CNN網(wǎng)絡(luò)來說,也采取類似的操作,把復(fù)數(shù)矩陣擴(kuò)張成一個(gè)張量,類似于一張RGB圖像,但是在這里只有兩個(gè)通道,一個(gè)代表實(shí)部,另一個(gè)代表虛部。但是,與傳統(tǒng)的具有卷積和池化層的圖像處理不同,不會(huì)使用池化層,因?yàn)樗赡軙?huì)導(dǎo)致信息丟失,從而影響學(xué)習(xí)效果。在CNN網(wǎng)絡(luò)中同樣選擇Adam和MSE分別作為優(yōu)化器和損失函數(shù)。網(wǎng)絡(luò)模型如圖3所示:
4? ?仿真結(jié)果與實(shí)驗(yàn)分析
所采用的深度學(xué)習(xí)框架是Keras,基于python3.60,服務(wù)器系統(tǒng)為ubuntu16.04。硬件平臺(tái)是所在實(shí)驗(yàn)室的服務(wù)器,配備了兩顆Intel Xeon Gold 6148處理器,384 G內(nèi)存,四塊NVIDIA Geforce RTX2080Ti顯卡。在訓(xùn)練過程步長(zhǎng)設(shè)置為0.001,batch_size=512,將整個(gè)數(shù)據(jù)集迭代了500輪。
4.1? 實(shí)驗(yàn)數(shù)據(jù)產(chǎn)生
信道矩陣H是由大尺度衰落和小尺度衰落組成,大尺度衰落中的路徑損耗參照公式:128+37.6lg(ω)[dB],其中ω是用戶和基站之間的距離(范圍在0.1~0.3 km)。噪聲功率對(duì)每個(gè)用戶均相同,可以由計(jì)算得到,在此信噪比SNR設(shè)置為20 dB,假定每個(gè)用戶的優(yōu)先級(jí)和發(fā)送的流數(shù)均相同,即αk=1且dk =NR =2。
訓(xùn)練樣本集由MATLAB產(chǎn)生,基于經(jīng)典的WMMSE算法,一共包含50 000條樣本數(shù)據(jù),其中訓(xùn)練集45 000條,測(cè)試集5 000條。在監(jiān)督學(xué)習(xí)仿真實(shí)驗(yàn)主要基于表2的測(cè)試場(chǎng)景:
在圖4和圖5中,可以看到,在神經(jīng)網(wǎng)絡(luò)輸入為H,輸出為V時(shí),算法的預(yù)測(cè)精度可以達(dá)到文獻(xiàn)[9]中WMMSE算法的90%以上,且在三種不同的測(cè)試場(chǎng)景下,隨著用戶數(shù)和天線數(shù)的增多,性能只是略有下降。把神經(jīng)網(wǎng)絡(luò)的輸出改為U、W,由于神經(jīng)網(wǎng)絡(luò)的輸出維度大大降低,網(wǎng)絡(luò)更易訓(xùn)練,最終得到的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度比輸出為V時(shí)有明顯提升。同時(shí)在兩圖中也可以看出,CNN網(wǎng)絡(luò),比簡(jiǎn)單的MLP網(wǎng)絡(luò)把信道矩陣實(shí)虛部分開張成一維矩陣的預(yù)測(cè)性能更好一些。
從圖6可以看出,在三種不同的測(cè)試場(chǎng)景下,MLP網(wǎng)絡(luò)和CNN網(wǎng)絡(luò)比傳統(tǒng)的WMMSE算法所需更少的算法執(zhí)行時(shí)間。而且,隨著基站天線數(shù)NT和用戶數(shù)K的增加,MLP網(wǎng)絡(luò)和CNN網(wǎng)絡(luò)所消耗的時(shí)間變化不大,但是WMMSE算法的計(jì)算復(fù)雜度與NT的三次方成正比,故其所消耗的時(shí)間大大增加。
5? ?結(jié)束語(yǔ)
為了解決多用戶Massive MIMO系統(tǒng)中傳統(tǒng)基于優(yōu)化和迭代的預(yù)編碼方法收斂速度慢、計(jì)算復(fù)雜度高的問題,結(jié)合當(dāng)下比較熱門的深度學(xué)習(xí)技術(shù),提出了一種利用神經(jīng)網(wǎng)絡(luò)快速逼近經(jīng)典的WMMSE算法的方法,并且經(jīng)過重新設(shè)計(jì)網(wǎng)絡(luò)的輸入輸出結(jié)構(gòu),大大降低了神經(jīng)網(wǎng)絡(luò)訓(xùn)練的難度。經(jīng)過多種網(wǎng)絡(luò)結(jié)構(gòu)的不斷嘗試,最終的網(wǎng)絡(luò)模型不僅可以達(dá)到經(jīng)典的WMMSE算法精度的90%以上,而且在速度和計(jì)算復(fù)雜度上也大大優(yōu)于傳統(tǒng)的WMMSE算法。在后面的研究中,可以嘗試復(fù)數(shù)域的神經(jīng)網(wǎng)絡(luò)模型,另外,除了黑盒神經(jīng)網(wǎng)絡(luò)模型,也可以考慮基于WMMSE算法結(jié)構(gòu)構(gòu)建白盒神經(jīng)網(wǎng)絡(luò),以進(jìn)一步提高模型的預(yù)測(cè)精度。
參考文獻(xiàn):
[1]? ? T L Marzetta, E G Larsson, Y Hong, et al. Fundamentals of massive MIMO[C]//IEEE International Workshop on Signal Processing Advances in Wireless Communications. IEEE, 2016.
[2]? ? 尤肖虎,潘志文,高西奇,等. 5G移動(dòng)通信發(fā)展趨勢(shì)與若干關(guān)鍵技術(shù)[J]. 中國(guó)科學(xué):信息科學(xué), 2014,44(5): 551-563.
[3]? ?劉斌,任歡,李立欣. 基于機(jī)器學(xué)習(xí)的毫米波大規(guī)模MIMO混合預(yù)編碼技術(shù)[J]. 移動(dòng)通信, 2019,43(8): 8-13.
[4]? ?李國(guó)權(quán),楊鵬,林金朝,等. 基于深度學(xué)習(xí)的MIMO系統(tǒng)聯(lián)合優(yōu)化[J]. 重慶郵電大學(xué)學(xué)報(bào):自然科學(xué)版, 2019,31(3): 293-298.
[5]? ?E G Larsson, O Edfors, F Tufvesson, et al. Massive MIMO for next generation wireless systems[J]. IEEE communications magazine, 2014,52(2): 186-195.
[6]? ? ?H H, W C, J X, et al. Unsupervised Learning-Based Fast Beamforming Design for Downlink MIMO[J]. IEEE Access, 2018.
[7]? ? X W, Z G, Z Y, et al. A Deep Learning Framework for Optimization of MISO Downlink Beamforming[J]. IEEE Transactions on Communications, 2019.
[8]? ? P D Kerret, D Gesbert. Robust Decentralized Joint Precoding using Team Deep Neural Network[C]//2018 15th International Symposium on Wireless Communication Systems (ISWCS). 2018.
[9]? ? Q Shi, M Razaviyayn, Z Luo, et al. An iteratively weighted MMSE approach to distributed sum-utility maximization for a MIMO interfering broadcast channel[J]. IEEE Trans. Signal Process, 2011,59(9): 4331–4340.
[10]? S, H, C, et al. Learning to Optimize: Training Deep Neural Networks for Interference Management[J]. IEEE Transactions on Signal Processing: A publication of the IEEE Signal Processing Society, 2018.
[11]? W M A, B F A, A S, et al. Supervised Deep Learning in Fingerprint Recognition[M]. Advances in Deep Learning, 2020. ★