一種用于大規(guī)模MIMO的改進信號檢測算法

楊 奕

（重慶金美通信有限責任公司，重慶400030）

一種用于大規(guī)模MIMO的改進信號檢測算法

楊 奕

（重慶金美通信有限責任公司，重慶400030）

針對大規(guī)模MIMO系統(tǒng)信號檢測在高階調制模式性能較差的問題，論文提出了一種基于等效信道維度自適應變化的改進分層RTS算法。該算法在分層RTS算法基礎上，根據(jù)等效信道矩陣維度變化自適應的改變最大搜索步數(shù)。在等效信道矩陣維度較小時，用較小的最大搜索步數(shù)避免迂回搜索；在等效信道矩陣維度較大時，用較大的最大搜索步數(shù)讓搜索的范圍更廣，增強搜索能力，提高檢測性能。仿真結果表明，算法在低復雜度的情況下提高了信號檢測能力，提升了系統(tǒng)的可靠性。

多輸出多輸入系統(tǒng)；信號檢測；主動禁忌搜索；誤碼率性能；等效信道；高階調制

1 引言

大規(guī)模MIMO[1]在基站側使用天線陣列對多個移動終端提供數(shù)據(jù)傳輸服務，能夠極大的提高系統(tǒng)容量、頻譜效率和能量效率[2]，因此成為5G的核心技術之一[3]。另一方面，無線通信中存在各種干擾，為增強大規(guī)模MIMO系統(tǒng)通信可靠性，需要低復雜度、高性能的信號檢測算法對接收信號進行處理。目前大規(guī)模MIMO檢測算法主要有似然上升搜索（Ascending search）算法、禁忌搜索（taboo search）算法和馬爾科夫鏈-蒙特卡羅（Markov chain Monte-Carlo,MCMC）算法。其中LAS方案[4-5]復雜度較低但易陷入局部極小，文獻[6-8]解決了這一問題，提高了LAS算法在4-QAM調制方式下的性能。但由于改善有限，在高階調制下性能很差。MCMC方案在高信噪比時檢測性能不穩(wěn)定。而禁忌搜索[9]通過對搜索過程加入禁忌元素，突破了局部極小的限制，同時在高信噪比時檢測性能穩(wěn)定。其中主動禁忌算法[10-11]根據(jù)解重復周期主動的改變禁忌表中元素的周期，在4QAM的時候性能接近最佳，然而在高階調制的時候性能較差。分層禁忌算法[12]和重新檢測R3TS算法[13]都提高了高階調制的算法性能，但是由于都沒有考慮信道矩陣維度的變化，使信號檢測性能的提升非常有限。為進一步提高高階調制模式信號檢測能力，本文提出一種基于等效信道矩陣維度的分層RTS算法。

圖1 大規(guī)模MIMO系統(tǒng)結構圖

2 大規(guī)模MIMO系統(tǒng)模型

考慮的大規(guī)模MIMO系統(tǒng)包含有Nt用戶和一個基站。每個用戶有一根發(fā)送天線，基站有Nr根接收天線[14]，其中Nr≥Nt。發(fā)送端發(fā)送的復信號向量為Xc∈CNt×1，接收復信號向量為 Yc∈CNr×1，信道增益矩陣為Hc∈CNr×Nt)，hp,q代表第q用戶到基站第p根天線的復數(shù)信道增益，Hc中的元素服從均值為0，方差為1的復高斯分布，nc為接收信號的噪聲向量，且其中元素服從均值為0，方差為σ2=Nt×Es/γ的高斯分布，Es為發(fā)送端發(fā)送符號的平均能量，γ為接收端的每根天線的平均接收符號信噪比。圖1所描述的整個傳輸過程可用式（1）表示：

為方便討論，將復MIMO系統(tǒng)轉化成與之對應的實MIMO系統(tǒng)。對每個信號進行I、Q分解，Yc，xc，Hc，nc的實部分別為 yI，xI，HI，nI，虛部分別為 yQ，xQ,HQ，nQ，因此有如下關系：

式（2）可化簡為實數(shù)結構式（3）：

其中 H∈R2Nr×2Nt，y∈R2Nr×1，x∈R2Nt×1，n∈R2Nr×1。

若發(fā)端的調制階數(shù)為M，則檢測同一個時刻的信號需要遍歷MNt次，最大似然檢測的復雜度隨Nt呈指數(shù)型增長，實際應用中難以實現(xiàn)。

3 大規(guī)模MIMO信號檢測算法

3.1 RTS算法

禁忌搜索[9]是一種亞啟發(fā)式搜索算法，在處理大規(guī)模復雜組合優(yōu)化問題時呈現(xiàn)出很好的性能，因此被引入到大規(guī)模MIMO信號檢測中。RTS基本思想是：給定一個初始解為當前最優(yōu)解，給定一個狀態(tài)“歷史最優(yōu)”為全局最優(yōu)解。給定初始解的一個鄰域，并在此初始解的鄰域中確定若干解作為算法的候選解；利用適配值函數(shù)評價這些候選解，選出最佳候選解；若最佳候選解所對應的目標值優(yōu)于“歷史最優(yōu)”狀態(tài)，則忽視它的禁忌特性，并且利用這個最佳候選解替代當前解和“歷史最優(yōu)”狀態(tài)，將相應解加入到禁忌表中，同時修改禁忌表中各個解的周期；若候選解達不到以上條件，則在候選解里面選擇非禁忌的最佳狀態(tài)作為新的當前解，且不管它與當前解的優(yōu)劣，將相應的解加入到禁忌表中，同時修改禁忌表中各對象的周期；最后，重復上述搜素過程，直到滿足停止準則。文獻[15]對禁忌搜素當中涉及的適值函數(shù)、鄰域、禁忌矩陣、停止準則給出了詳細的介紹。RTS算法的復雜度會受到初始解、最大迭代次數(shù)、禁忌次數(shù)及停止準則參數(shù)的影響，每個符號檢測的平均復雜度為O(NrNt)，與非線性信號檢測OSIC的復雜度O(N2rN2t)相比復雜度大大降低。

圖2 基于等效信道維度的分層RTS方案流程圖

3.2 基于等效信道維度的分層RTS方案

在高階調制中，隨著映射點的增加，對應解向量的個數(shù)增大。而在高階調制高信噪比之下局部極小值增多，如果解向量空間中存在著大量的局部極小值點，并且這些局部極值點周期性的出現(xiàn)，它們會在搜索過程中相互的跳轉，會導致周期性的進行搜索從而降低搜索效率。為了改善信號檢測在高階調制模式下的性能，本文提出了基于等效信道維度的分層RTS算法，算法流程圖如圖2所示，具體步驟如下：

（1）將信道進行QR分解，H=LU，其中L為酉矩陣LLH=E，U為上三角矩陣。由U于為上三角矩陣，因此從2Nt層開始進行檢測k=2Nt，此時沒有其他層的干擾；

（2）為提高信號檢測準確性，進行第k層檢測時消除k+1到2Nt層的干擾，得到第k層檢測的結果為其中的第k個元素為已檢測得到的向量為的第l個元素；

（3）找到符號集A中與rk歐氏距離最短的星座點記為aq；

（5）判斷rk與aq相減的絕對值是否大于等于σdmin，如果是，則進入步驟（6），否則，進入步驟（7）；其中為最短的歐式距離，4QAM、16QAM、64QAM的dmin都為2，σ為設置的一個門限，若門限σ設置的越大，則執(zhí)行步驟（6）的概率越小，算法的性能就越差，反之，則算法的性能越好，但算法的復雜度越高。因此σ需要取一個合適的值，在幾種QAM調制模式當中都取σ為0.25。

表1 RTS仿真參數(shù)

（7）判斷檢測層數(shù)k是否等于1，即判斷是否檢測達到最后一層。如果是，則進入步驟（9），否則，進入步驟（8）；

（8）更新檢測層k=k-1，執(zhí)行下一層檢測；

4 仿真分析

用MATLAB軟件對本文提出的基于等效信道維度的分層RTS方案進行仿真。仿真中采用基于V-BLAST結構的MIMO系統(tǒng)、獨立同分布平坦衰落信道、16QAM及64QAM調制方式。收端信道估計為無誤差估計方式。

圖3、圖4分別為16QAM、64QAM調制方式下天線數(shù)目32時，不同信號檢測算法的誤碼性能對比。從圖中結果看出LTS算法利用QR分解將信道的特性分離出來，減小數(shù)據(jù)流各層間的干擾，對某些層執(zhí)行RTS算法，從而在RTS算法的基礎之上改善了算法的性能。而R3TS算法從多個隨機初值出發(fā)執(zhí)行RTS算法，避免周期性重復搜索，也提高了RTS算法的性能。而本文提出的基于等效信道維度的改進分層RTS算法，在分層RTS的基礎之上，根據(jù)等效信道維度的變化設置一個自適應變化的最大搜索次數(shù)，進一步提高了信號檢測能力。

圖4 不同信號檢測算法誤碼率性能(64QAM)

圖5 不同信號檢測算法復雜度(16QAM)

圖6 不同信號檢測算法復雜度(64QAM)

由于算法執(zhí)行過程是一個隨機搜素的過程，不能定量的計算系統(tǒng)的復雜度。所以采用Matlab中的Lightspeed Matlab工具箱對檢測過程中執(zhí)行的實數(shù)浮點運算次數(shù)進行統(tǒng)計來表征信號檢測的復雜度。圖5、圖6分別為16QAM、64QAM調制下天線數(shù)目等于32時，不同算法所需要的每符號平均實數(shù)浮點運算次數(shù)。R3TS算法每次重新搜索都是重新從一個新的隨機初值出發(fā)，沒有利用之前搜索的結果，因此在任何信噪比之下，所需要的復雜度都最高。而LTS和本文提出的改進算法復雜度較低，因為它們都采用QR分解將對信道進行分層減少其他層的干擾同時有選擇性的對某些層執(zhí)行RTS算法，從而減少了復雜度。同時信噪比越大，每層進行檢測時受到噪聲的干擾就越小，檢測的正確性就越高，所需執(zhí)行RTS算法的次數(shù)就對應較少了。因此隨著信噪比的增大，LTS算法和本文提出的算法所需復雜度越小。在16QAM和64QAM兩種高階調制模式下，本文提出的算法所需復雜度都較小，易于實現(xiàn)。

5 結束語

針對大規(guī)模MIMO信號檢測算法在高階調制檢測性能較差的問題，本文提出一種基于等效信道維度自適應變化的改進分層RTS算法。該算法在分層RTS算法基礎上，利用QR分解分離信道矩陣特性消除其他層的干擾，同時根據(jù)等效信道矩陣維度變化自適應的改變最大搜索步數(shù)，用較小的最大搜索步數(shù)避免迂回搜索，用較大的最大搜索步數(shù)讓搜索的有效范圍更廣，提高檢測性能。本文算法在低復雜度的情況下提高了信號檢測能力，增強了系統(tǒng)的可靠性。下一步研究如何提高存在信道估計誤差算法的性能。

[1] Marzetta T L.Noncooperative Cellular Wireless with Unlimited Numbers of Base Station Antennas[J].IEEE Transactions on Wireless Communications,2010，9(11)：3590-3600.

[2] Zhong shan Zhang，Xing Wang，Cheng Yong Wang.Massive MIMO Key technology and Application[J].Chinese Science：information science，2015，45(9)：1095-1110.

[3] Marzetta T L.Massive MIMO：An introduction[J].Bell Labs Technical Journal，2015，20：11-22.

[4] Vardhan K，Mohammed S K，Chockalingam A，et al.A low-complexity detector for large MIMO systems and multicarrier CDMA systems[J].IEEE Journal on Selected Areas in Communications，2008，26(3)：473-485.

[5] Mohammed S K，Chockalingam A，Sundar Rajan B.A Low-complexity near-ML performance achieving algorithm for large MIMO detection [C].Proceedings of IEEE International Symposium on Information Theory.Toronto，ON:IEEE，2008：2012-2016.

[6] Li P，Murch R D.Multiple output selection-LAS algorithm in large MIMO systems[J].Communications Letters，IEEE，2010，14(5):399-401.

[7] Pereira A A A J，Sampaio-Neto R.A Random-List Based LAS Algorithm for Near-Optimal Detection in Large-Scale Uplink Multiuser MIMO Systems [J].Eprint Arxiv，2015：1-5.

[8] Aravindan I，Antony K R，Kumar K A，et al.A performance study of MIMO detectors in the presence of channel estimation errors[C].Proceedings of International Conference on Communication，Information&Computing Technology(ICCICT).Mumbai：IEEE，2015:1-5.

[9] Glover F，Marti R.Tabu Search [J].General Information，1998，106(2):221-225.

[10] Srinidhi N,Mohammed S K,Chockalingam A,et al.Neal-ML Signal Detection in Large-Dimension Linear Vector Channels Using Reactive Tabu Search [J].IEEE Globalcom,2009,19(2):148-156.

[11] Srinidhi N，Mohammed S K，Chockalingam A，et al.Low-Complexity Near-ML Decoding of Large Non-Orthogonal STBCs using Reactive Tabu Search[C].Proceedings of IEEE International Symposium on Information Theory.Seoul:IEEE，2009：1993-1997.

[12] Srinidhi N，Datta T，Chockalingam A，et al.Layered tabu search algorithm for large-MIMO detection and a lower bound on ML performance[J].IEEE Transactions on Communications，2011，59(11)：2955-2963.

[13] Datta T，Srinidhi N，Chockalingam A，et al.Random-Restart Reactive Tabu Search Algorithm for Detection in Large-MIMO Systems[J].IEEE Communications Letters，2010，14(12)：1107-1109.

[14] Dong Ming Wang，Yu Zhang，Hao Wei.Theory and technology of large scale antenna transmission for 5G[J].Chinese Science：information science，2016，46(1)：3-21.

[15] Shu Yin Yang，Hua Zhang.Pattern recognition and Intelligent Computing MATLAB Technology(Third Edition)[M].Beijing：Electronic Industry Press，2015：299-307.

Improved Detection Scheme in Massive MIMO Systems

Yang Yi
（Chongqing Jinmei Communication Co.，Ltd.，Chongqing 400030,China）

This paper presents an improved layered reactive taboo search(RTS)algorithm with adaptability based on the equivalent channel degrees，to tackle the poor performance of conventional detection methods in massive MIMO with high order modulation schemes.Building upon the layered RTS，this algorithm changes the maximum search steps adaptively according to the degree of equivalent channel matrix.With lower degrees of equivalent channel matrix，smaller maximum search steps are chosen to avoid redundant search；while larger maximum search steps are selected in the case of higher degrees of equivalent channel matrix to improve the detection performance.Simulation results show that the proposed algorithm can improve the detection performance and system reliability.

Multiple-input Multiple-output;Signal detection；Reactive taboo search；Bit error rate performance； Equivalent channel； High order modulation

10.3969/j.issn.1002-2279.2017.03.010

TN911.72

A

1002-2279-（2017）03-0042-04

楊奕（1982-），男，重慶人，工程師，碩士研究生，主研方向：無線電通信。

2017-02-22