基于AI的信道估計的泛化性能提升方法

孫布勒，楊 昂，孫 鵬，姜大潔

(維沃移動通信有限公司，北京 100015)

0 引言

隨著計算處理能力和數據處理技術的快速發展，人工智能(Artificial Intelligence,AI)正在開啟人類科技史上的新紀元[1]。以機器學習為代表的人工智能技術已經在圖像識別[2-3]、語音識別[4]和自然語言處理[5-6]等方面取得了顯著的突破。最近，人工智能在生活中的各個領域得到了越來越多的關注。與此同時，無線通信系統也在不斷快速發展。根據全球移動供應商協會(Global Mobile Suppliers Association,GSA)的最新數據，截至目前，共有73個國家/地區的182家運營商推出了至少一項符合第三代合作伙伴計劃(3rd Generation Partnership Project,3GPP)的第五代(5th Generation,5G)移動通信服務[7]。未來的無線通信系統將不可避免地朝著更高吞吐量、更低延遲、更高可靠性、更多連接、更高頻譜效率和更高能量效率的方向發展。現有研究表明，人工智能在環境建模、信號檢測、信道估計、波束形成、定位、移動性管理、無線資源分配、流量預測，以及網絡狀態跟蹤和智能調度等復雜的通信任務中擁有特殊的潛力和優勢[8-10]。因此，有理由期待，無線通信和人工智能的結合將改變未來通信系統的模式。

在無線通信系統中，信道估計是一個不可避免的模塊，因為它描述了無線信道對傳輸信號的影響。為了在正交頻分復用(Orthogonal Frequency Division Multiplexing,OFDM)系統中獲得信道的信息，需要在特定的時間頻率資源粒子(Resource Element,RE)上傳輸導頻信號進行信道估計。使用導頻信號，傳統的信道估計可以分兩步進行：對導頻RE的信道估計和對非導頻RE的信道估計。在實際系統中，一般先使用線性算法獲得導頻RE的信道估計，再對其進行濾波或插值獲得非導頻RE的信道估計。然而，信號經歷信道的方式并非是純線性的，且導頻RE和非導頻RE之間的相關性也包含大量的非線性因素。所以傳統的信道估計算法的準確性相對有限，尤其是在低信噪比(Signal to Noise Ratio,SNR)區域。最新研究表明，與傳統方法相比，基于AI的信道估計方法在提高估計精度方面具有巨大潛力[11-15]。在文獻[11]中，作者首先提出將信道矩陣視作二維圖像，并將信道估計問題轉換為圖像處理問題。基于該思想，文獻[12]將信道矩陣視為二維圖像，提出基于學習的去噪近似消息傳遞算法(Learned Denoising-based Approximate Message Passing,LDAMP)來實現信道估計。文獻[13]提出了稱為ChannelNet的神經網絡，通過去噪卷積神經網絡(Denoising Convolutional Neural Network,DnCNN)[14]對導頻RE處的信道估計結果進行去噪，通過超分辨率卷積神經網絡(Super Resolution Convolution Neural Networks,SRCNN))實現導頻RE處的信道估計到全部RE的維度擴展。文獻[15]中提出ChanEstNet神經網絡，通過使用卷積神經網絡(Convolutional Neural Network,CNN)和遞歸神經網絡(Recurrent Neural Network,RNN)的組合來實現快速時變和非平穩信道的信道估計。對于ChanEstNet，CNN用于提取信道特征信息，而RNN用于信道的時域相關信息。

上述基于AI的信道估計方法雖然可以提高信道估計的精度，但其有效性對數據的依賴性非常高。當實際使用環境和AI模型的訓練環境有差別時，基于AI的信道估計方法的性能將會大打折扣。這是基于AI方案的通病，即泛化性能較差。在無線通信的很多場景下，很難獲取大量的帶標簽數據。其次，無線通信場景變化較快，離線訓練的模型會很快產生漂移和失效。因此，想用實際使用環境采集的大量數據做訓練變得不現實，探索基于小數據、小樣本的魯棒模型已成為不可避免的問題。遷移學習(Transfer Learning)[16]、聯合訓練(Joint Training)[17]、元學習(Meta Learning)[18]等方法可以在不同程度上緩解泛化能力不足的問題，且可以在小樣本數據下提升模型的性能。其中遷移學習一般是將一個場景中離線訓練好的網絡用到另一個場景中，將該收斂的網絡作為初始網絡，并用新場景中的數據進行微調(可能會凍結某些層)得到適用于新場景的網絡；聯合訓練一般是用多種環境的數據組成聯合數據集，用聯合數據集進行訓練得到收斂的網絡，并將其直接或間接(微調)用于新場景中；本文中的元學習特指面向初始化參數優化的元學習，比如模型無關的元學習(Model-Agnostic Meta-Learning,MAML)、Reptile等方案。這類元學習通過多個任務訓練出一個最優的初始化參數，在新的場景下基于該初始化參數進行微調，可以實現快速收斂。

對此，基于3GPP典型仿真場景，本文提出將遷移學習、聯合訓練、MAML等方案應用于基于AI的信道估計，提高模型的泛化能力。實驗結果也表明，相比于直接在新場景中使用離線訓練的模型，上述三種方案均可以有效提高信道估計的性能。但是，上述三種方案也有明顯區別。聯合訓練方案可以獲得最好的初始性能，但如果不做微調的話，其性能會比其他做微調的方案差很多。此外，基于聯合訓練得到的模型進行微調，其收斂速度比遷移學習要好。原因在于聯合訓練方案在離線訓練時數據集中包含的信息更多，因此最終訓練出來的網絡(即微調時的初始網絡)泛化性能更好一些。MAML的初始性能較差，原因是MAML的訓練目的是獲得一個在多種場景下都可以快速收斂的初始值，該初始值并不對應一個性能較好的網絡。MAML的優勢在于其快速收斂特性，即使用少量的迭代性能就可以達到與最終的收斂值很接近的水平。

1 系統模型

考慮OFDM系統中一個端口的信道估計問題，載頻為3.5 GHz，頻域有4個資源塊(Resource Block， RB)。基于AI的信道估計過程如圖1所示，首先將OFDM RE中的導頻RE提取出來，計算出導頻RE的初始信道估計結果。其次，將導頻RE的初始信道估計結果輸入神經網絡，實現去噪和升維，獲得全部RE上的最終信道估計結果。導頻的位置考慮了5G NR規定的type I方案，即導頻RE配置在一個時隙的第4和第12個OFDM符號的奇數子載波[19]。

圖1 基于AI的OFDM信道估計

神經網絡采用全連接網絡，以歸一化均方誤差作為優化目標。神經網絡的輸入維度為96(對應2個OFDM符號，4個RB，每RB的6個子載波上配置有導頻，初始信道估計的實部和虛部分別作為輸入)，輸出維度為1 344(即14個OFDM符號，4個RB，每RB的12個子載波上最終信道估計的實部和虛部)，有1層隱藏層，神經元數為2 000。為了驗證遷移學習、聯合訓練和MAML的泛化以及遷移能力，本文使用3GPP采用的五類時間延遲線(Time Delay Line,TDL)信道模型[20]，即TDL-A、TDL-B、TDL-C、TDL-D、TDL-E五類信道的數據用以訓練和驗證。

2 訓練方案

2.1 遷移學習

遷移學習是一種經典的小樣本學習方法。遷移學習將源域(即舊任務或場景的數據集)上訓練好的模型作為目標域(即新任務或場景的數據集)模型的初始神經網絡，再基于目標域的少量數據進行微調，獲得適配于目標域的神經網絡。遷移學習可以在目標域中快速收斂是因為源域和目標域的數據具有一定的相似性，源域訓練出來的模型在目標域也可以提取特征。針對本文涉及的信道估計問題，遷移學習方案描述如下：

① 在TDL-A信道下訓練神經網絡得到收斂的神經網絡。

② 以上述收斂的神經網絡作為初始神經網絡，用TDL-C和TDL-E信道的少量數據進行微調，并在TDL-C和TDL-E信道中進行驗證測試。

2.2 聯合訓練

聯合訓練可以認為是一種多任務學習方法。聯合訓練將多種任務或場景的數據匯聚成一個聯合數據集，使用該聯合數據集訓練出一個公用模型，再將該公用模型用于推理。在進行推理之前也可以進行微調。針對本文涉及的信道估計問題，聯合訓練方案描述如下：

① 在TDL-A、TDL-B、TDL-D信道組成的聯合數據集下訓練神經網絡得到收斂的神經網絡(即公用模型)。

② 收斂的神經網絡(即公用模型)直接用于TDL-C和TDL-E信道進行驗證測試。

③ 以上述收斂的神經網絡(即公用模型)作為初始神經網絡，用TDL-C和TDL-E信道的少量數據進行微調，并在信道中進行驗證測試。

2.3 MAML

MAML是一種模型無關的元學習方法。MAML的核心思想是尋找一個優秀的初始化參數，使用該初始化參數，模型可以在任意新的場景中使用較少的迭代次數和訓練數據實現收斂。如圖2所示，MAML算法包括兩個迭代：內迭代和外迭代。

圖2 MAML訓練過程

內迭代中，每個任務在其支持集上使用初始化參數進行梯度下降并更新參數。外迭代中，每個任務在其查詢集上計算損失，再基于所有查詢集上的損失總和對初始化參數進行梯度下降，更新初始化參數。通過多次內外迭代的更新，最終獲得使查詢集損失總和最小的模型，完成收斂。在新的任務上，使用收斂的模型作為初始化參數進行微調。

針對本文涉及的信道估計問題，MAML方案描述如下：

① 基于TDL-A、TDL-B、TDL-D三個信道上的數據構造任務集合(包含多個任務)，基于該任務集合以MAML方案訓練獲得最優的初始化參數。

② 以獲得的最優初始化參數作為新網絡的初始化參數，用TDL-C和TDL-E信道的少量數據進行微調,并在信道中進行驗證測試。

3 實驗結果

3.1 仿真假設

訓練和推理驗證均在信噪比為10 dB的條件下進行。在TDL-A、TDL-B、TDL-D每種信道下以時延為{30，300} ns，移動速度為{3，30} km/h各產生4組數據作為不同的任務，共12個任務，每個任務采集20 000個樣本。在元學習的訓練中，從總共12個任務集合中隨機選取5個任務進行內迭代。TDL-C和TDL-E下各采集500個樣本用來做微調，各采集10 000個樣本來做測試。元學習的內迭代使用單次梯度下降完成參數更新，微調時采取多次梯度下降的參數更新來驗證收斂性能，每次迭代中使用的批大小為100個樣本。

3.2 評估結果

圖3和圖4分別給出新場景是TDL-C和TDL-E信道時的微調性能。

圖3 在TDL-C信道中進行微調后的推理性能

圖4 在TDL-E信道中進行微調后的推理性能

橫軸表示微調階段的更新次數，縱軸表示使用所有RE(即14個OFDM符號，4個RB，每RB的12個子載波)計算的信道估計歸一化均方誤差(Normalized Mean Square Error,NMSE)。

兩種情況均可獲得如下結論：

① 相比于不做任何處理，將源域訓練好的神經網絡直接推理于目標域，遷移學習、聯合訓練和MAML均可以提高信道估計性能，且隨著微調次數的增加，性能增益也會變大。

② 聯合訓練方案可以獲得最好的初始性能，但如果不做微調的話，其性能會比其他做微調的方案差很多。

③ 基于聯合訓練得到的模型進行微調，其收斂速度比遷移學習要好。原因在于聯合訓練方案在離線訓練時使用的數據集包含的信息更多，因此最終訓練出來的網絡(即微調時的初始網絡)泛化性能更好一些。

④ MAML的初始網絡的性能(對應圖3和圖4中橫軸是0的點)較差。原因是MAML的訓練目的是獲得一個在多種場景下都可以快速收斂的初始值，該初始值并不對應一個性能較好的網絡。

⑤ MAML在第一個迭代的微調后，NMSE就快速下降到與最終的收斂值很接近的水平。在第5個迭代的微調后基本上完成收斂。

4 結論

本文對基于AI的信道估計方案在泛化方面的表現，在3GPP典型仿真場景下進行了評估，并驗證了遷移學習、聯合訓練和MAML在提升泛化能力方面的表現。結果表明，基于MAML的信道估計方案可以通過很少的迭代更新，就可以逼近收斂時的性能，且其最終性能也比其他幾種方案優秀。因此，基于MAML的方案可以更好、更快地在新場景中完成適配。無線通信中存在非常多的源域與目標域不匹配的問題，對此，基于MAML的方案可以作為一種潛在的解決方案。