馮湘云，周小平，王培培，汪 洋

（上海師范大學(xué)信息與機(jī)電工程學(xué)院，上海201418）

0 引 言

大規(guī)模天線系統(tǒng)是5G 移動(dòng)通信系統(tǒng)物理層的關(guān)鍵技術(shù)之一.在多用戶大規(guī)模天線系統(tǒng)中，基站端配置幾十甚至上百根天線，同一時(shí)頻的資源服務(wù)多個(gè)用戶.在基站側(cè)對發(fā)射信號進(jìn)行預(yù)編碼處理，可以有效降低各用戶之間以及每個(gè)用戶天線間的干擾［1］.雖然傳統(tǒng)的全數(shù)字預(yù)編碼方法具有優(yōu)良的性能，但是每根天線都需要一個(gè)專門的射頻鏈支持運(yùn)作，在大規(guī)模多輸入多輸出（MIMO）系統(tǒng)中有大量的天線陣列，成本較高［2］.

為了解決全數(shù)字預(yù)編碼方案中射頻鏈路過多導(dǎo)致的硬件實(shí)現(xiàn)復(fù)雜度以及成本較高的問題，有學(xué)者提出了將數(shù)字預(yù)編碼與模擬預(yù)編碼相結(jié)合的混合預(yù)編碼方法［3］.YU 等［4］針對兩種不同結(jié)構(gòu)的混合預(yù)編碼方法，分別提出了不同的交替最小化算法，并推廣到正交頻分復(fù)用調(diào)制的寬帶系統(tǒng)中；MAJIDZADEH等［5］針對部分連接結(jié)構(gòu)混合預(yù)編碼方法，提出了速率最大化算法，將速率最大化問題表示為一個(gè)加權(quán)均方誤差最小化問題；MAJIDZADEH 等［6］提出了3種混合預(yù)編碼算法——奇異值分解匹配算法、迭代正交化算法和收發(fā)迫零算法.然而，文獻(xiàn)［4-6］的方案只考慮了單用戶MIMO系統(tǒng)，沒有考慮多用戶的場景.

格拉斯曼流形是一種特殊黎曼流形，它在最優(yōu)化算法、不變子空間計(jì)算等方面有著重要的應(yīng)用［7］.ZHANG 等［8］和KIM 等［9］將流形應(yīng)用于干擾對齊預(yù)編碼中，利用流形上的最陡下降算法獲得優(yōu)化的發(fā)射預(yù)編碼矩陣.針對多用戶大規(guī)模MIMO系統(tǒng)，本文作者提出了一種基于格拉斯曼流形的兩級混合預(yù)編碼算法，預(yù)編碼處理以用戶接收端信號與基站發(fā)射端信號之間的最小化均方誤差為準(zhǔn)則，設(shè)計(jì)目標(biāo)函數(shù)，并且將預(yù)編碼矩陣在格拉斯曼流形上進(jìn)行建模，利用格拉斯曼流形上的共軛梯度算法對目標(biāo)函數(shù)求解，可以將復(fù)歐氏空間有約束的最優(yōu)化問題轉(zhuǎn)化為流形上的無約束最優(yōu)化問題，從而有效降低計(jì)算維度，提高收斂速度.仿真結(jié)果表明：所提混合預(yù)編碼算法的頻譜效率非常接近全數(shù)字的正則化迫零（RZF）預(yù)編碼算法，同時(shí)使用的射頻數(shù)量大幅降低.

1 系統(tǒng)模型

考慮一個(gè)平坦窄帶塊衰落的單小區(qū)多用戶大規(guī)模MIMO 系統(tǒng)，如圖1所示，在基站側(cè)部署均勻分布的大規(guī)模天線陣列，Nt根天線服務(wù)于K 個(gè)單天線用戶，天線通過數(shù)模轉(zhuǎn)換器（DAC）與nt個(gè)射頻鏈相連接，并且滿足nt=K.將所有K個(gè)用戶按照空間相關(guān)性劃分為S個(gè)用戶簇，那么第i個(gè)簇(0≤i ≤S)中第k個(gè)用戶的接收信號可表示為：

其中，(·)H表示矩陣的共軛轉(zhuǎn)置；hi'k表示第i個(gè)用戶簇中第k個(gè)用戶的信道矩陣；ni'k表示服從復(fù)高斯分布的加性高斯白噪聲；x ∈CNt表示基站經(jīng)過混合預(yù)編碼處理的發(fā)射信號，有

其中，xξi表示第i個(gè)用戶簇的發(fā)射信號；Bξi表示第i個(gè)用戶簇的混合預(yù)編碼矩陣.

圖1 系統(tǒng)模型圖

2 基于格拉斯曼流形的混合預(yù)編碼

2.1 基于MMSE的兩級混合預(yù)編碼

采用一種模擬和數(shù)字相結(jié)合的兩級混合預(yù)編碼方案.在第一級預(yù)編碼中，將預(yù)編碼分為模擬射頻部分和數(shù)字基帶部分，表示為

由于RZF 預(yù)編碼在大規(guī)模MIMO 系統(tǒng)中性能較好，本研究的混合預(yù)編碼算法中的數(shù)字基帶部分采用RZF預(yù)編碼，因此數(shù)字預(yù)編碼矩陣

在第二級預(yù)編碼中，為降低用戶簇間干擾，以用戶接收端信號與基站發(fā)射端信號之間的最小化均方誤差為準(zhǔn)則，設(shè)計(jì)的目標(biāo)函數(shù)接收端的信號估計(jì)

其中，β-1是接收端的標(biāo)量均衡因子.那么接收端與發(fā)射端之間的最小均方誤差

假設(shè)s與n無關(guān)，那么所有s與n相乘的期望值都等于0，即

其中'tr(·)表示內(nèi)積.所有用戶簇的最小均方誤差的期望為兩級混合預(yù)編碼的解，將式（6）帶入式（10）可得

令χ(F)表示所求的目標(biāo)函數(shù)，式（11）可以轉(zhuǎn)化為：

由式（12）可知：對目標(biāo)函數(shù)的求解實(shí)質(zhì)上是求出一個(gè)射頻預(yù)編碼矩陣，使得目標(biāo)函數(shù)取得極大值的問題.在格拉斯曼流形上建模的極大極小值問題可以等價(jià)為一個(gè)無約束的最優(yōu)化問題，利用流形上的最優(yōu)化算法可以對該類問題進(jìn)行求解［11］.

2.2 目標(biāo)函數(shù)求解

流形是一個(gè)嵌入在高維歐氏空間中的光滑的曲面，格拉斯曼流形Gn'p是n維復(fù)歐式空間中的一系列p維線性子空間的集合.根據(jù)流形的定義可知，射頻預(yù)編碼矩陣F滿足格拉斯曼流形的約束條件，在格拉斯曼流形上進(jìn)行建模，表示為：

采用流形上的共軛梯度法對預(yù)編碼矩陣進(jìn)行迭代求解.共軛梯度法是解決大規(guī)模無約束最優(yōu)化問題的一種重要全局優(yōu)化方法，迭代公式如下：

其中，αi為每次迭代的線性搜索步長；di為F 在第i 次迭代時(shí)的搜索方向.在流形空間中，di由F 在第i 點(diǎn)的切向量表示，那么點(diǎn)Fi到點(diǎn)Fi+1的搜索方向?yàn)?/p>

其中，R(·)表示取復(fù)數(shù)的實(shí)部；⊙表示Hadamard乘積；(·)*表示矩陣的共軛.

在基于格拉斯曼流形的共軛梯度算法的迭代中，初始點(diǎn)的搜索方向是初始點(diǎn)的負(fù)梯度方向，但后面的迭代方向是Fi+1的切向量與第i+1點(diǎn)的負(fù)梯度Gi+1進(jìn)行合并的方向，即

其中，參數(shù)r由Polak-Ribiere公式給出；流形上的梯度

其中，grad(χ(F))為目標(biāo)函數(shù)在歐式空間的梯度.

3 仿真設(shè)置及結(jié)果

仿真設(shè)置為：基站端的天線Nt=256根，單天線用戶數(shù)K=8，在多用戶簇的情況下，把所有的用戶分為S=3簇'使用Armijo回溯線搜索步長.

圖2 為在Nt=256，K=8 的情況下，瑞利衰落信道中不同預(yù)編碼對應(yīng)的頻譜效率隨信噪比的變化曲線，將傳統(tǒng)的全數(shù)字RZF預(yù)編碼與本方案量化前后進(jìn)行對比.圖3分別仿真了全數(shù)字RZF預(yù)編碼與本方案在Nt=256，信噪比分別為-10 dB，-5 dB 和0 dB 時(shí)的頻譜效率隨著用戶數(shù)量變化的曲線.由圖2，3 可知：本方案在性能上與全數(shù)字RZF 預(yù)編碼方案接近，但是由于本方案使用的射頻鏈數(shù)量與用戶數(shù)量相等，遠(yuǎn)小于發(fā)射天線數(shù)量.

圖2 頻譜效率隨信噪比的變化曲線

圖3 頻譜效率隨用戶數(shù)量變化曲線

4 結(jié) 論

針對多用戶大規(guī)模MIMO 系統(tǒng)，使用傳統(tǒng)的全數(shù)字預(yù)編碼方案而導(dǎo)致硬件實(shí)現(xiàn)復(fù)雜度較高和實(shí)現(xiàn)成本昂貴的問題，提出一種基于格拉斯曼流形的兩級混合預(yù)編碼方案.第一級預(yù)編碼中，將模擬射頻預(yù)編碼和低維的RZF 數(shù)字預(yù)編碼相結(jié)合；第二級預(yù)編碼以最小化均方誤差為準(zhǔn)則，設(shè)計(jì)目標(biāo)函數(shù)，并且將預(yù)編碼矩陣在格拉斯曼流形上建模，利用流形上的共軛梯度算法對目標(biāo)函數(shù)求解.仿真結(jié)果表明：本算法的頻譜效率非常接近全數(shù)字的RZF預(yù)編碼算法，同時(shí)使用的射頻數(shù)量大幅降低.