基于全卷積網絡的FDD大規模MIMO系統CSI反饋

楊媛媛,丁建軍

(1.西安郵電大學 通信與信息工程學院,陜西 西安 710121; 2.陜西省信息通信網絡及安全重點實驗室,陜西 西安 710121; 3.中興通訊股份有限公司,廣東 深圳 518057)

0 引 言

大規模多輸入多輸出(multiple-input multiple-output,MIMO)技術作為5G關鍵技術之一,可以提高系統容量和頻譜利用率[1],這得益于基站(base station,BS)處獲得的準確信道狀態信息(channel state information,CSI)。但隨著天線數增加,反饋開銷急劇增加,如何減少反饋開銷成為研究熱點,但傳統方法有很多缺點,例如基于向量量化的方法需要占用太多上行頻譜資源[2]。基于碼本的方法反饋完整CSI需要過多反饋比特數。許多基于壓縮感知的方法,例如LASSO-solver,TVAL3[3]和BM3D-AMP[4]等,需假設CSI是稀疏的,且重構算法大多是迭代算法,復雜度高。

深度學習(deep learning,DL)作為當今最流行的研究趨勢之一,應用廣泛,已有工作將DL算法引入大規模MIMO反饋方案中,為解決傳統CSI反饋難題提供新思路。其中,文獻[5]提出一種基于DL的網絡CsiNet,通過編碼器對CSI進行壓縮,解碼器進行重構；文獻[6]提出CsiNet-LSTM,在相干時間內用長短期記憶(long short term memory,LSTM)提取信道的時間相關性,進一步提高信道恢復的質量；文獻[7]提出RecCsiNet,用卷積網來提取/恢復信道特征,將全連接層和LSTM并聯作為壓縮/解壓縮模塊,其中LSTM學習殘差特征,為了減少參數量又提出了PR-RecCsiNet。但這些模型只處理固定維數的CSI,且都包含全連接層,參數量大,訓練復雜度高。

本文提出了一種新的信道反饋網絡,命名為多卷積多轉置卷積網絡(multiple-convolutional multiple-transposed-convolutional network,MCMTNet)。MCMTNet由卷積神經網絡、轉置卷積神經網絡和精細密集連接網絡組成。仿真結果表明,提出的MCMTNet性能優于傳統壓縮感知方法和CsiNet[5],尤其是在高壓縮比情況下。

1 系統模型與CSI反饋

本文考慮一個單小區頻分雙工(frequency division duplex,FDD)大規模MIMO正交頻分復用(orthogonal frequency division multiplexing,OFDM)系統,假設BS配置了Nt個發射天線,用戶設備(user equipment,UE)配置1根接收天線,且OFDM系統在Nc個正交子載波上傳輸信息,第i個子載波上的接收信號表示為

(1)

為了減少反饋開銷,通過二維離散傅里葉變換(discrete Fourier transformation,DFT)將H變換到角度延遲域以增加稀疏性

(2)

式中Fd和Fa分別為Nc×Nt,Nt×Nt的DFT矩陣,由于時延擴展的有限性,稀疏矩陣H′只有前N(N?Nc)行有非零值,其余行元素幾乎為零。因此,保留H′的前N行為矩陣H″,此時反饋參數量減少至N×Nt。

雖然參數量減少了,但N×Nt仍是一個很大的數字,需要設計合理的反饋方案進一步壓縮信息。由于傳統方法性能不佳,因此考慮DL算法,整體反饋流程如圖1所示。首先,H做2D-DFT變換為H′,截斷后為H″,再根據壓縮比,將H″通過壓縮模塊變成特征向量s,UE將s反饋給BS。BS再根據壓縮比,將s通過重構模塊恢復出″,再補零為′,最后′再經過離散傅里葉逆變換(inverse discrete Fourier transformation,IDFT)變換為。本文的目標是設計和訓練MCMTNet,使經過壓縮重構后的″與H″之間差異最小化。

圖1 下行CSI反饋工作流程框圖

2 MCMTNet的設計

2.1 總體結構

CsiNet采用全連接層進行壓縮/解壓縮,其維數與信道維數有關,參數量巨大,提出的MCMTNet解決了這個問題,MCMTNet結構如圖2所示,由卷積神經網絡、轉置卷積神經網絡和精細密集連接網絡構成。

圖2 MCMTNet結構

2.2 卷積神經網絡

網絡的壓縮模塊由多層卷積神經網絡構成,層數由壓縮比決定,構成通用壓縮模塊,用C(x)表示具有l層卷積神經網絡的輸出

C(x)=ωl(ωl-1(…(ω2(ω1x+b1)+b2)…)+bl-1)+bl

=ω1ωl-1…ω2ω1x+ωlωl-1…ω2b1+…+ωlbl-1+bl

(3)

式中x,ωl,bl分別為網絡的輸入、權重矩陣和偏置向量,通過ω1ωl-1…ω2ω1對輸入進行壓縮,壓縮后的特征向量為s,即s=C(H″)。壓縮模塊第一層的卷積核大小為3×3,步長為1,填充為1,輸入經過第一層維數不變,之后每一層的卷積核大小為4×4,步長為2,填充為1,此時維數按比例縮小為原來的50 %,因此,該壓縮模塊可以處理任何維數的輸入。

2.3 轉置卷積神經網絡

轉置卷積在圖像語義分割領域主要用來將特征圖放大回原來的尺寸,與原有的卷積操作類似,區別在于轉置卷積是卷積的反向過程[8]。本文通過多層轉置卷積網絡對s初始重構,層數由壓縮比確定,其結構與壓縮模塊對稱,構成通用重構模塊。假設D(x)為轉置卷積神經網絡的輸出,將s反饋給BS后,BS通過多層轉置卷積神經網絡對s進行初始重構,通過最小化均方誤差(mean squared error,MSE)從多層轉置卷積神經網絡中得到初始重構

(4)

式中θCom為壓縮模塊參數,θD為多層轉置卷積神經網絡參數,‖·‖2為歐幾里德范數,T為訓練集總樣本數。

2.4 精細密集連接網絡

過深網絡會產生退化問題,為解決該問題,密集卷積網絡提出了密集連接機制,即互相連接所有的層,以實現特征重用[9]。受RefineNet[6]和密集連接機制[9]啟發,設計了精細密集連接網絡,如圖3所示,由4個卷積塊、密集連接以及卷積網構成,其中每一層的卷積核大小為3×3,輸入輸出通道數不同,其他參數一致。

圖3 精細密集連接網絡

通過密集連接將特征連接到所有卷積塊,以提高信道重構的性能,令人R(x)表示精細密集連接網絡的輸出,通過最小化MSE從精細密集連接網絡中得出最終重構

L(θCom,θRec)=L(θCom,θD,θR)

(5)

式中θRec為整個重構模塊參數,包括轉置卷積神經網絡參數θD和精細密集連接網絡參數θR。

3 實驗仿真

3.1 實驗參數

本文與LASSOl1-solver[3],TVAL3[4],BM3D-AMP[5]和CsiNet[6]進行對比,使用CsiNet[6]的數據集,該數據集由COST 2100模型[10]產生,考慮工作頻率為5.3 GHz的室內場景。BS采用Nt=32根發射天線,UE配置1根接收天線,OFDM的子載波數Nc=32,令N=Nt=32,則H″的維數為32×32。訓練集、驗證集、測試集數據量分別為100 000, 30 000, 20 000,批處理大小為200,迭代次數為1 000。網絡的部署和訓練采用PyTorch框架,并采用GPU進行加速。使用Xavier[11]初始化網絡的權值參數,使用Adam優化器和帶預熱的余弦退火動態學習率調整方案,并采用Mish激活函數,其表達式為

f(x)=x×tanh(softplus(x))

(6)

3.2 實驗結果

為評價模型的性能,用歸一化均方誤差(normalized mean squared error,NMSE)表示原始信道數據H″和重構后的信道數據″的差異,其公式為

(7)

(8)

MCMTNet與其他方法在NMSE和ρ的對比結果如表1所示,由表1可得,當壓縮比大于1/4時,MCMTNet性能均優于其他方法。當壓縮比大于1/4時,傳統壓縮感知方法已不能滿足要求,此時便體現出DL方法的優勢,且MCMTNet的NMSE比CsiNet平均改善了1.78 dB,在ρ上改善了3 %。

表1 不同壓縮比下NMSE(dB)和ρ對比

本文還對比了MCMTNet和CsiNet參數量,如表2所示。由表2可知,MCMTNet的參數量遠少于CsiNet,這是因為CsiNet包含全連接層,其參數量與該層的輸入、輸出維數有關,而卷積層的參數量與其卷積核大小、輸入通道數有關,而與輸入、輸出維數無關,所以，相同壓縮比條件下卷積層的參數量遠小于全連接層。

表2 不同壓縮比下網絡參數量對比

此外,還對比了不同激活函數的NMSE,結果如表3所示。由表3可知,Mish激活函數的NMSE低于Sigmod,ReLU激活函數,說明Mish激活函數相比這兩種激活函數增加了模型的非線性能力,增強了網絡的表達能力。同時,隨著壓縮比不斷增大,即網絡層數不斷增加,Mish激活函數改善了梯度消失問題。

表3 不同壓縮比下各激活函數的NMSE(dB)對比

最后,通過繪制模型的損失曲線來驗證模型的收斂性,選取壓縮比為1/32的模型,MSE損失曲線如圖4所示。根據圖4可知MCMTNet的訓練損失曲線平滑且收斂速度快,測試損失曲線以訓練損失曲線為下界上下波動,說明網絡訓練輕微過擬合,但最終與訓練損失曲線趨于一致,共同收斂,這得益于DL網絡強大的特征提取和壓縮能力。

圖4 均方誤差損失變化曲線

4 結束語

針對單小區FDD大規模MIMO系統,提出了一種可以處理任意維數CSI的信道反饋網絡MCMTNet,其性能優于CsiNet和傳統壓縮感知方法。在訓練中采用了Mish激活函數,并與Sigmoid,ReLU激活函數進行對比,結果表明:Mish激活函數顯著提高了網絡的性能。此外,MCMTNet采用卷積/轉置卷積層對CSI進行壓縮/解壓縮,每一層網絡的尺寸與輸入、輸出數據的維數無關,因此,MCMTNet可以處理任意維數信道數據,并降低了網絡參數量。