MIMO-GFDM系統中低復雜度動態禁忌搜索檢測算法的改進

周圍 向丹蕾 郭夢雨

摘 要：針對多輸入多輸出的廣義頻分復用（MIMO-GFDM）系統的等效信道矩陣維度極大，傳統的MIMO檢測算法復雜度高且性能不佳的問題，將大規模MIMO系統中的動態禁忌搜索（RTS）檢測算法運用到MIMO-GFDM系統中，并解決了RTS算法初始值的求解復雜度高的問題。首先利用最小均方誤差（MMSE）檢測算法所用到矩陣的正定對稱性將矩陣Cholesky分解，并結合Sherman-Morrison公式迭代計算初始值，降低了初始值求逆的高復雜度;然后以改進的MMSE檢測結果作為RTS算法的初始值，從初始值逐步全局搜索最優解;最后通過仿真，對不同算法的迭代次數和誤碼率（BER）性能進行了研究。理論分析與仿真結果表明：在MIMO-GFDM中， 所提改進RTS信號檢測算法誤碼率遠低于傳統信號檢測算法。在4QAM時，RTS算法大約有低于MMSE檢測6dB的信噪比性能增益（誤碼率在10-3時）;在16QAM時，RTS算法大約有低于MMSE檢測4dB的信噪比性能增益（誤碼率在10-2時）。與傳統RTS算法性相比，所提改進算法在不影響誤碼率性能的同時降低了算法復雜度。

關鍵詞：?廣義頻分復用;多輸入多輸出;動態禁忌搜索;信號檢測;Cholesky分解;Sherman-Morrison公式

中圖分類號：TN929.5

文獻標志碼：A

文章編號：1001-9081（2019）04-1133-05

0?引言

多輸入多輸出（Multiple-Input Multiple-Output， MIMO）技術可以提高數據傳輸速率和頻譜效率。而在MIMO中使用正交頻分復用（Orthogonal Frequency Division Multiplexing， OFDM）能夠抵抗多徑衰落，因此，MIMO和OFDM技術的聯合是必要的。隨著無線通信技術從4G到5G的躍遷，OFDM的一些缺點會阻礙它在5G中的使用，例如高帶外（Out Of Band， OOB）泄漏、對時間和頻率同步的敏感性以及高峰均功率比（Peak-to-Average Power Ratio， PAPR）。在文獻[1]中對幾種5G的新型多載波傳輸技術：濾波器組多載波（Filter Bank Multicarrier， FBMC）、通用濾波多載波（Universal Filtered Multicarrier， UFMC） 和廣義頻分復用（Generalized Frequency Division Multiplexing， GFDM）進行了比較，實驗結果表明，GFDM是較具潛力的5G新技術之一。與OFDM相比，GFDM的幀結構較為靈活，OOB泄漏更低，循環前綴（Cyclic Prefix， CP）使用更高效。但是，由于GFDM子載波的非正交性，使得系統的自干擾難以消除。

在MIMO-GFDM系統中，除了載波間干擾（Inter-Carrier Interference， ICI）和符號間干擾（Inter-Symbol Interference， ISI）之外還產生天線間干擾（Inter-Antenna Interference， IAI），這使得信號檢測的難度增加，傳統的線性檢測算法性能不佳。MIMO-GFDM系統的等效信道矩陣維度很大，可以理解為一個大規模的MIMO系統，MIMO技術中傳統的非線性檢測算法復雜度大幅增加。在文獻[2]中，將球形譯碼與干擾消除相結合能夠降低算法復雜度，但是還需繼續降低。文獻[3]在文獻[2]的基礎上引入軟串行干擾消除（Soft Serial Interference Cancellation， Soft-SIC）和K-Best檢測來減少誤差傳播。

文獻[4-5]都是通過在結合最小均方誤差的并行干擾消除（Minimum Mean Squared Error with Parallel Interference Cancellation， MMSE-PIC）解映射器和信道解碼器之間迭代地交換對數似然比（Log Likelihood Ratio， LLR）來去除干擾。

本文考慮將大規模MIMO系統中信號檢測使用的動態禁忌搜索（Reactive Tabu Search， RTS）運用到MIMO-GFDM系統中。文獻[6]指出RTS算法性能主要取決于鄰域函數定義和初始值的選擇。傳統線性檢測算法中最小均方誤差（Minimum Mean Square Error， MMSE）性能最好，但是MIMO-GFDM的等效信道矩陣維度很大，直接求逆的復雜度很高。針對這一問題，本文應用Cholesky分解和Sherman-Morrison公式來迭代處理求逆運算，降低初始值求解的復雜度，從而降低MIMO-GFDM系統中RTS信號檢測算法復雜度。

1?系統模型

1.1?GFDM原理

通過合適的信號檢測算法從中恢復出信號的估計^，再得出vec（D）的估計，最后從QAM解調器中解調出二進制數據。

2?RTS算法

根據第1章的分析可以發現，MIMO-GFDM的等效信道矩陣Heq維度較大，很多傳統MIMO信號檢測算法不再適用于此系統。因此，考慮大規模MIMO系統中的檢測算法，RTS算法在大規模MIMO系統中能獲得不錯的性能，且復雜度相對較低。本文將RTS算法運用到MIMO-GFDM系統，并對初始值的計算進行改進，降低算法的復雜度。

2.1?傳統RTS算法

RTS算法是一種將搜索結果從局部最優向全局最優轉移的方法，在捜索最佳解向量過程中會將訪問到的解向量加入禁忌列表中，使得訪問過的解向量在自己的禁忌周期沒有結束之前不會被再次訪問到，以此來避免在檢測過中陷入鄰域的迂回捜索問題。RTS算法流程如圖2所示，整個過程可以總結為：1）計算已知檢測器的輸出作為初始向量或者隨機生成初始解向量，根據鄰域的定義尋找初始解向量的鄰域，并計算所有鄰居的最大似然（Maximum Likelihood， ML）代價函數值。2）找出ML代價函數值最小的鄰居，稱之為最優鄰居，將最優鄰居作為待轉移方向，此時有三種情況：①若該鄰居向量的ML代價函數值小于當前解向量，則將該鄰居更新為當前向量，即執行本次移動;②若該鄰居向量的ML代價函數不小于當前解向量但沒有被禁忌，仍執行本次移動;③若上面兩條均不滿足，則將次優鄰居作為新的待轉移方向，繼續重復前面的條件判斷。3）直到找到最終解或者滿足條件后結束整個搜索過程[8]。在本文使用了最簡單的迭代終止條件，即是當迭代次數大于設定的最大迭代次數時終止搜索過程，輸出最終解向量。

2.2?改進算法

初始解向量直接影響RTS算法的誤碼率（Bit Error Rate， BER）性能和復雜度，可用取隨機向量作為初始解，但是性能不佳，且需要更多的迭代次數才能到達穩定的性能。線性檢測算法中，MMSE檢測性能最優。

解決好W的求逆后，得到RTS算法的初始值，開始RTS算法。

3?復雜度分析

本文對RTS算法的改進點是初始值的計算，利用Cholesky分解和Sherman-Morrison公式對MMSE初始值求解過程中的求逆進行簡化，于是改進的RTS算法和傳統的RTS算法復雜度的對比就是MMSE初始值中矩陣W的求逆復雜度對比。改進算法的求逆包括兩部分：下三角矩陣L的求逆和（L-1）H與L-1的相乘。

對于RTS算法的迭代搜索部分，其復雜度由搜索迭代次數決定，而搜索迭代次數由終止條件決定。根據文獻[11]的終止條件，RTS算法的整體復雜度為O（η3），對比傳統非線性檢測串行干擾消除（Serial Interference Cancellation，SIC）O（η4）的復雜度，RTS算法復雜度低一個次方，對比傳統線性檢測算法MMSE檢測和ZF檢測O（η3）的復雜度，RTS算法沒有增加算法復雜度階數。

4?仿真結果與分析

本文仿真MIMO-GFDM系統與RTS算法的仿真條件如表1所示。考慮信道長度為17的瑞利衰落信道，接收端已知全部的信道狀態信息。

圖3是信噪比在10dB時，MIMO-GFDM使用4QAM調制，初始值分別為隨機矢量和MMSE檢測算法矢量的RTS算法在不同迭代次數下的誤碼率性能。可以看出，RTS檢測算法最終會獲得趨于一個穩定的誤碼率。當初始值為隨機向量時，搜索迭代次數達到200后趨于穩定;當初始值為MMSE檢測結果時，經過30次搜索迭代后達到穩定性能，說明好的初始解向量能夠使最終性能更佳且到達穩定性能的搜索迭代次數更少。

圖4（a）是MIMO-GFDM系統使用ZF檢測、MMSE檢測、改進MMSE檢測、MMSE-SIC檢測、MMSE-RTS檢測在4QAM調制下的性能，從中可看出改進的MMSE檢測與原MMSE檢測性能完全相同。由于MMSE檢測平衡了噪聲干擾，所以性能優于ZF檢測，但是MIMO-GFDM系統中還存在ICI、ISI且對性能的影響，使得線性檢測算法的性能不佳，在20dB時，MMSE檢測也只有10-3左右的性能。非線性檢測算法MMSE-SIC性能優于兩種線性檢測，在BER為10-2時，大約有優于MMSE檢測2dB的性能增益。性能最好的是MMSE-RTS檢測算法，誤碼率遠低于對比算法。

圖4（b）是MIMO-GFDM系統在16QAM調制下，五種信號檢測算法的誤碼率性能。五種算法的性能優劣順序和4QAM調制時相同，但是差距縮小。其中MMSE檢測和MMSE-SIC檢測差距明顯縮小，RTS性能下降最多。RTS算法性能下降很快的原因是高階調制中局部極小值增多，如果解向量空間中存在大量局部極小值點，并且這些局部極值點周期性地出現，它們會在搜索過程中相互跳轉，降低了搜索的效率。

5?結語

本文分析了MIMO-GFDM系統的等效信道矩陣，發現其矩陣維度很高，導致傳統的信號檢測算法性能不好且復雜度很高，所以考慮將大規模MIMO系統中的RTS信號檢測算法運用到MIMO-GFDM系統，以降低系統的誤碼率。本文還利用MMSE檢測中的正定對稱矩陣，使用Cholesky分解和Sherman-Morrison公式降低RTS算法初始值求解的復雜度，且不影響RTS算法最終的誤碼率性能。最后，仿真驗證初始值對RTS算法搜索迭代次數和最終穩定性能的影響，也比較了傳統信號檢測算法和本文改進RTS算法在MIMO-GFDM系統的性能，驗證了改進RTS算法在性能和復雜度上的優勢。

參考文獻（References）

[1] 李寧， 周圍. 面向5G的新型多載波傳輸技術比較[J]. 通信技術， 2016， 49（5）： 519-523. （LI N， ZHOU W. Comparison of new multi-carrier transmission technology for 5G[J]. Communications Technology， 2016， 49（5）： 519-523.）

[2] MATTHE M， GASPAR I， ZHANG D. et al. Near-ML detection for MIMO-GFDM[C]// Proceedings of the 2015 IEEE 82nd Vehicular Technology Conference. Piscataway， NJ： IEEE， 2015： 1-2.

[3] MATTHE M， ZHANG D， FETTWEIS G. Sphere-decoding aided SIC for MIMO-GFDM： coded performance analysis[C]// Proceedings of the 2016 International Symposium on Wireless Communication Systems. Piscataway， NJ： IEEE， 2016： 165-169.

[4] MATTHE M， ZHANG D， FETTWEIS G. Iterative detection using MMSE-PIC demapping for MIMO-GFDM systems[C]// Proceedings of the 2016 22th European Wireless Conference. Piscataway， NJ： IEEE， 2016： 473-479.

[5] MATTHE M， ZHANG D， FETTWEIS G. Low-complexity iterative MMSE-PIC detection for MIMO-GFDM[J]. IEEE Transactions on Communications， 2018， 66（4）： 1467-1480.

[6] CHOCKALINGAM A， RAJAN B S. Large MIMO Systems[M]. Cambridge： Cambridge University Press， 2014： 92.

[7] MICHAILOW N， MATTHE M， GASPAR I. Generalized frequency division multiplexing for 5th generation cellular networks[J]. IEEE Transactions on Communications， 2014， 62（9）： 3045-3061.

[8] 王天航. Massive MIMO中基于RTS的檢測算法研究[D]. 合肥： 安徽大學， 2017： 16-18. （WANG T H. Research on RTS-based detection algorithm in Massive MIMO [D]. Hefei： Anhui University， 2017： 16-18.）

[9] 魏嬋娟， 張春水， 劉健. 一種基于Cholesky分解的快速矩陣求逆方法設計[J]. 電子設計工程， 2014， 22（1）： 159-161. （WEI C J， ZHANG C S， LIU J. Design of a fast matrix inversion method based on Cholesky decomposition[J]. Electronic Design Engineering， 2014， 22（1）： 159-161.）

[10] XU Y， ZOU W， DU L. A fast and low-complexity matrix inversion scheme based on CSM method for massive MIMO systems[J]. EURASIP Journal on Wireless Communications & Networking， 2016， 2016（1）： 251.

[11] 鄧愷. 大規模MIMO中低復雜度檢測算法設計[D]. 南京： 南京郵電大學， 2016： 51-52. （DENG K. Design of low complexity detection algorithm for massive MIMO [D]. Nanjing： Nanjing University of Posts and Telecommunications， 2016： 51-52.）