毫米波MIMO的DNN混合預編碼梯度優化方法

王 勇，王喜媛，任澤洋

(1.西安電子科技大學 網絡與信息安全學院，陜西 西安 710071；2.西安電子科技大學 信息科學研究中心，陜西 西安 710071；3.北京郵電大學 國際學院，北京 100876)

在超高頻段(如毫米波)中如何使用大量未充分利用的頻譜，最近引起了研究界的極大興趣。毫米波系統的頻譜效率的最大化可近似歸結為全數字預編碼器和混合預編碼器之間歐氏距離的最小化問題。AYACH等[1]將其轉化為稀疏重建問題，并通過正交匹配追蹤(OMP)算法加以解決。然而，這種對可行模擬預編碼求解方案空間的限制導致了頻譜效率的降低。YU等[2]提出了另一種交替最小化算法(AlgMin)，該算法基于流形優化技術，將模擬預編碼器上的單位模成分嵌入復平面上多個圓的乘積中。盡管該算法提供了接近最優的頻譜效率，但由于其在數字基帶預編碼器和模擬預編碼器之間存在嵌套環路結構，不僅會減慢程序的收斂速度，而且由于克羅內克乘積，處理大型矩陣的復雜性極高。在文獻[3]中，提出了一種基于連續干擾消除的混合預編碼方法，該方法能夠以較低的復雜度實現優異的性能，其中將具有非凸約束的和速率優化問題分解為若干個子速率優化問題。此后，ALKHATEEB[4]通過配置混合預編碼器設計了一種用于多用戶毫米波系統的低復雜度混合模擬/數字預編碼。然而，由于過去提出的混合模擬/數字預編碼方案是基于奇異值分解(SVD)的，因此在先前的工作中提出的這些預編碼方案具有較高的計算復雜度，并且需要復雜的比特分配策略，得到用戶的各子信道的等效信道增益差異化被放大，導致不同數據流的信噪比不同。此外，新提出的基于幾何平均分解(GMD)的方案可以避免比特分配問題，但它在解決模擬預編碼器的非凸約束和利用毫米波大規模多輸入多輸出系統的結構特性方面仍然帶來了巨大的挑戰。

盡管已經有大量的研究致力于提高混合預編碼頻譜效率，但仍然存在許多問題，例如基于幾何平均分解的方案[5]，基于矩陣分解的混合預編碼平均值方法[6]，基于射頻的預編碼方法以及基帶信號處理和混合空間處理架構輔助預編碼方法[7-8]等。此外，為了實現高頻譜效率和低復雜度，提出了一種交替最小化方案，用于有效地設計混合預編碼器[2]，并利用壓縮感知檢測器處理低維波束空間信道狀態信息。由于傳統方法沒有充分利用毫米波多輸入多輸出系統的結構特征和稀疏統計特性，因此傳統方法實現低復雜度的代價是降低系統的混合預編碼性能。以往的工作未能從根本上解決這些問題，迫切需要提出新的方法來提高毫米波大規模多輸入多輸出的混合預編碼性能。

最近幾年，被稱為深度學習[9]的新興解決方案是一種處理海量數據和解決復雜非線性問題的優秀技術。事實證明，深度學習是處理復雜非凸問題和高計算量問題的優秀工具，其卓越的識別和表示能力決定了深度學習的優越性。將深度學習融入通信的一些前期工作，主要包括波束選擇、非正交多址(NOMA)、大規模多輸入多輸出和異構網絡[10-13]。文獻[14]還研究了太赫茲通信中的混合預編碼，其中部署了超大規模天線以克服巨大的傳播損耗。隨后，提出了一種動態子陣混合預編碼方案，以平衡頻譜效率和功耗。

針對上述問題，筆者引入了深度神經網絡(DNN)的訓練來選擇混合預編碼器。結合基于塊對角化的幾何平均分解，采用改進的梯度計算算法和單循環迭代結構，將預編碼器的優化選擇視為深度神經網絡中的映射，以優化大規模多輸入多輸出的混合預編碼過程。實驗結果表明，與其他方案相比，筆者提出的混合預編碼優化方案，當頻譜效率為50 bit/(s·Hz)時，可節省信噪比 3 dB。若不同方案達到相同誤碼率，則可節省信噪比 5 dB以上，并具有更好的穩健性。

1 系統模型

x=VAVDs=Vs，

(1)

(2)

2 基于深度學習的GMD混合預編碼優化設計

2.1 基于塊對角化的幾何均值分解

前期的研究發現，ZF預編碼算法和BD預編碼算法是將多輸入多輸出信道分解為平行的子信道，用戶的各子信道的等效信道增益并不相同，導致不同數據流的信噪比不同，從而引起誤碼率的不同。而系統總誤碼率是由最差子信道來決定的。為了消除這種子信道之間信噪比差異導致部分子信道誤碼率較高進而影響整體誤碼率的情況，筆者使用基于塊對角化的幾何均值分解(GMD)[15]。

由于毫米波大規模多輸入多輸出信道中的有限散射，H具有低秩特性，可以利用有限數量的射頻鏈路實現接近最佳吞吐量。頻譜效率的最大化問題近似歸結為全數字預編碼器和混合預編碼器之間的歐氏距離的最小化問題，該問題可進一步表述為全數字預編碼器的矩陣分解問題，即優化數字基帶預編碼器矩陣和模擬射頻預編碼器矩陣的乘積。

H的塊對角化幾何均值分解可表示為

(3)

其中，W1∈CNr×Ns，為半酉矩陣，表示發射預編碼矩陣；V1∈CNt×Ns，為半酉矩陣，表示接收合成矩陣。另外，Q1∈CNs×Ns，是對角線元素相等的上三角矩陣，對角線元素表示H特征值的幾何均值，因此可獲得增益相等的子信道。接收機獲得的接收信號可表示為

(4)

優化目標可以直觀地理解為：最優混合預編碼器將無限逼近于無約束最優全數字預編碼器。用Vopt表示最優全數字預編碼器矩陣，因此優化目標可表示為

(5)

(6)

(7)

(8)

2.2 深度神經網絡優化學習

深度神經網絡是深度學習框架中最普遍的結構，可以看成是多層感知器。具體而言，與傳統的神經網絡相比，深度神經網絡中任何存在的隱藏層都以增強其學習和映射能力為目標。在深度神經網絡中，許多單元部署在各個隱藏層中，并且基于這些單元的輸出借助激活函數生成最終的輸出。在本文中，非線性運算中使用了校正線性單元(ReLU)函數。

為了實現混合預編碼，筆者構建了一個兩階段深度神經網絡框架，如圖1所示。在輸入層中，每個訓練序列的長度由其維度決定，是一個具有128個單元的完全連接層，用于捕獲輸入數據的特征。用于處理編碼操作的兩個隱藏層也是完全連接層，分別包含400個單元和256個單元。接下來，為了用AWGN噪聲加擾，需要一個由200個單元組成的噪聲層，用于混合失真。隨后，為了實現解碼，筆者設計了另外兩個隱藏層，分別具有128個單元和64個單元。最后，部署輸出層以生成網絡的預期輸出信號ReLU函數，作為輸入層和隱藏層的激活函數引入深度神經網絡。

圖1 兩階段深度神經網絡框架

根據式(8)可知，x處的黎曼梯度通過將?f(x)向切空間TxOB(m，C)投影獲得，即

f(x)=Px?f(x)=ξ，

(9)

其中，Px表示向TxOB(m，C)空間的投影算子；ξ∈TxOB(m，C)，表示f(x)的梯度下降方向。最終第k次迭代數據更新為

xk+1=Rxk(-αkξk) ，

(10)

基于深度神經網絡的學習過程如下。

目標：獲取最優預編碼器Vopt。

① 初始化：迭代次數k=0，誤差門限τ=10-7，任意選取初始x0；

② 產生訓練數據集；

植物園中的盆栽桂花、銀邊翠、時令蔬菜，質量分數為4.2%的碳酸氫鈉溶液、質量分數為25%的氫氧化鈉溶液、質量分數為0.1%的碘液。

③ 構建緊度神經網絡

④ while( error ≥τ)

⑥ 根據式(8)計算歐氏梯度?f(xk)；

⑦ 根據式(9)計算黎曼梯度ξk；

⑧ 根據式(10)更新xk+1；

⑨ 從網絡的輸出層獲取xk+1和xk的偏差；

從上述整個迭代過程，可以得到

(11)

2.3 計算復雜度分析

表1 不同預編碼方案計算復雜度對比

3 算法仿真與分析

圖2展示了基于深度神經網絡的混合預編碼方案、交替最小化算法[9]和奇異值分解方案[11]相對于信噪比的頻譜效率。從圖2中可以看到，所有方案中頻譜效率隨著信噪比的增加而提高。此外，從圖2還可以看出，所提出的混合預編碼方案優于其他策略，其通過深度學習的映射和學習能力實現了更好的混合預編碼性能。此外，隨著信噪比不斷增加，基于深度學習方案的性能優勢相對于其他算法愈加明顯，更趨近于最優的全數字預編碼，這進一步證明了所提出的混合預編碼方案的有效性。

圖2 不同方案下頻譜效率對比

圖3 不同方案下均方誤差對比

圖4 不同方案下誤碼率性能對比

為了研究混合預編碼方法的魯棒性和穩定性，引入均方誤差(MSE)，即EMSE=E‖Vopt-VAVD‖2，探索基于深度學習策略與不同混合預編碼方案之間的關系。如圖3所示，所提出的基于深度學習的方案的均方誤差性能優于其他方案，可知筆者提出的基于深度學習的方法與其他方案相比，在混合預編碼精度方面性能優異。

如圖4所示，因為幾何平均分解方案對反饋誤差較為敏感，當信噪比較低時，分層檢測有誤差傳播效應。但是，當信噪比足夠好時，奇異值分解算法得到用戶的各子信道的等效信道增益差異化被放大，而基于塊對角化的幾何平均分解方案的誤碼率性能優于其他方案。基于深度學習策略與傳統方法相比，由深度學習的優化能力導致性能改善更為明顯。此外，由于深度神經網絡利用了結構化信息，可以逼近混合預編碼算法的每次迭代，驗證了所提出的混合預編碼策略優于基于AlgMin和奇異值分解的方案，這意味著可以借助深度學習解決混合預編碼中存在的非凸優化問題。

4 結束語

筆者提出了一種基于毫米波系統混合預編碼器設計的快速優化算法，可以顯著地降低計算復雜度，并充分利用毫米波大規模多輸入多輸出場景中大型天線系統的空間統計特性。通過設計基于深度學習的混合預編碼方法，分析和驗證了基于深度神經網絡方法的性能。利用實驗仿真和現有方案比較可知，筆者提出的深度神經網絡下快速優化算法具有很強的識別和映射能力，有利于混合預編碼的快速收斂和性能提升。