遷移學習及其在通信輻射源個體識別中的應用*

王天池，俞 璐

（陸軍工程大學，江蘇 南京 210001）

0 引言

在現代戰場通信對抗中，作為“千里眼、順風耳”的通信偵察技術早已是各國爭相進行研究與攻關的關鍵領域。輻射源個體識別（Specific Emitter Identification）作為通信偵察的一種技術手段，在現代戰場上發揮著至關重要的作用。

輻射源個體識別技術能夠提高戰備防御能力，在識別敵方設備、分析敵方目標個體、分析戰場電磁態勢、獲取有價值的情報等方面，均有著十分重要的應用。輻射源個體識別是將輻射源電磁特征與輻射源個體相匹配的技術。不同輻射源個體之間，制造工藝、電子元件非線性的差異及信號調制方式的不同，導致了同一輻射源所發射信號的內在特征的不同。輻射源個體識別是通過提取通信輻射源發送信號中的細微特征，來識別不同的通信輻射源個體的方法[1,2]。

由于通信輻射源數據采集和標注成本高，構建通信輻射源數據集非常困難，而且數據量過小易導致訓練時發生過擬合，造成模型識別精度較低。遷移學習[3]（Transfer Learning）不要求源域與目標域數據同分布，大大減輕了傳統模型對數據量和數據分布的敏感性，可以一定程度上解決通信輻射源數據集不全面、不充足等問題。

1 基于遷移學習的通信輻射源個體識別原理

傳統機器學習從訓練數據中學習知識產生模型，模型對測試數據進行識別，因此基于傳統機器學習的通信輻射源個體識別方法要求訓練數據和測試數據要在相同的特征空間，并具有相同的分布。在缺少同特征空間、同分布的訓練數據時，遷移學習從不同的特征空間及數據分布的源域中學習知識向目標任務遷移[3]，可以有效解決目標域數據集構建困難造成的訓練問題。基于遷移學習的通信輻射源個體識別基本原理如圖1 所示。圖1 中“○”表示一個數據集，“■”和“▲”表示采集到的帶標簽數據，“◇”為采集到的不帶標簽的數據。

圖1 基于遷移學習的通信輻射源個體識別基本原理

基于遷移學習的通信輻射源個體識別的基本思想是，由于通信輻射源信號采集環境復雜，不同環境采集難度不一，通過在較易環境中采集大量數據，構建標簽，建立數據集作為源域，將不帶標簽的待測信號數據作為目標域。對于通信輻射源個體識別問題來說，這里的源域和目標域屬于同特征空間、不同分布數據，符合遷移學習的基本設定。遷移學習將從源域中學到的知識遷移到目標域訓練任務中去，從而提升模型的魯棒性。在基于遷移學習的通信輻射源個體識別任務中，遷移學習就是將從不同信道采集到的數據中學到的知識遷移到待測信號訓練任務中去。

從通信輻射源個體識別問題本身出發，對于同一通信輻射源而言，即使發送的信號經歷了不同的環境，其所帶的“指紋特征（Fingerprint Feature）”是不變的。因此，對于同一輻射源在不同信道環境下發射的信號，即使信號數據的特征空間及邊緣分布有所偏差，但是在低維上仍是“相近的”，這進一步證明了遷移學習在通信輻射源個體識別任務上的可行性。

2 遷移學習方法研究現狀

機器學習技術在分類、回歸和聚類等眾多領域得到了廣泛的應用，并取得了顯著的成果。在分類領域，對數據進行分類時，首先需要對分類器進行訓練。對于傳統機器學習方法或經典深度學習算法，訓練集和測試集應具有相同的特征空間并服從相同的分布。對于已訓練好的分類器，如果新數據不滿足與訓練集同分布這個條件，那么需要對新數據進行重新標注，用于分類器的重新訓練。在很多領域，標注新數據的成本往往很高，這在實際項目中難以實現。在這種情況下，為了降低標注新數據的成本，遷移學習作為一種新的機器學習范式逐漸受到了人們重視。Pan 等人[3]系統地研究了遷移學習的發展情況，并歸納總結了遷移學習的類型和應用場景。他們從3 個維度將遷移學習進行了分類：根據源域與目標域的特征空間和標記空間的一致性，將遷移學習分為同構遷移學習與異構遷移學習；根據遷移的領域屬性，將其分為歸納式遷移學習、直推式遷移學習、無監督遷移學習，總結如表1 所示；根據遷移學習的實現方法，將其細分為基于實例、基于特征表示、基于參數以及基于關系知識的遷移學習。基于實例和特征表示的遷移學習方法在歸納式、直推式、無監督遷移學習中均有應用，基于參數和關系的知識遷移學習方法只在直推式遷移學習中研究過。

表1 遷移學習不同方法的聯系及相關領域

本文主要基于遷移學習的實現方法對國內外遷移學習具有代表性的研究成果進行分類討論。

2.1 基于實例的遷移學習

基于實例的遷移學習方法主要應用于源域和目標域不完全相同分布而不能直接重用于目標域訓練任務的場景，該方法通過重采樣或改變樣本存在形式等方式來減少源域和目標域的差異。

Jiang 等人[4]提出了利用源域和目標域兩者的條件概率P(ys|xs)和P(yt|xt)的差異，來去除源域訓練樣本中影響目標域“正確”訓練的“錯誤”樣本，然后利用新的源域樣本訓練分類器，并對目標域中的數據添加標簽。最后，結合新源域與目標域作為訓練集來共同訓練分類器。

Dai 等人[5]提出了一種稱為TrAdaBoost的遷移學習算法，是AdaBoost算法的拓展。TrAdaBoost 旨在解決當源域與目標域中存在不同分布的數據時，AdaBoost算法對分類器產生負面影響的問題，屬于歸納式遷移學習范疇。該算法通過給同分布樣本增加訓練權重，不同分布的“負作用”樣本降低權重的方式，最大化減輕因不同分布的數據樣本對分類器造成的負面影響。具體算法如下：

Cheng 等人[6]基于TrAdaBoost算法提出了一種加權多源的遷移學習算法。該算法首先利用源域和目標域組成的多個訓練樣本集來訓練多個弱分類器，并根據訓練效果給每個弱分類器分配權重，將多個弱分類器的加權和作為候選分類器；其次根據候選分類器的分類損失，更新源域和目標域的樣本權重；最后，多個弱分類器根據新的樣本權重重新訓練，并形成新的弱分類器權重，以上步驟迭代進行。

Antunes 等人[7]基于文獻[6]中加權多源TrAda Boost算法，提出了一種改進的遷移學習方法。該方法引入每個數據點重要性的權重，考慮了目標數據和源數據之間的平衡，同時比較了目標域和源域數據量不同比重對算法效果的影響，在目標域數據比重較大時取得比基礎算法更好的效果。

Ren 等人[8]提出了一種基于模糊近鄰密度聚類與重采樣的遷移學習算法，該方法區別于其他遷移學習方法，不是直接估計不同的分布，而是通過聚類分析探索數據結構，然后利用獲得的結構信息生成新的訓練集，用于重采樣策略下的目標學習。基于聚類分析和重采樣的遷移學習過程如圖2 所示，圖中有兩類樣本“○”和“□”，“○”采樣后標記為“●”，“□”采樣后標記為“■”。該算法首先通過對整個數據集進行聚類分析，找到數據結構信息，如圖2（b）；其次從每個子類中，按照相同的比例，通過一定的重采樣策略，生成一組新的與目標域數據分布偏差較小的訓練樣本，用于目標域學習，如圖2（c）。如圖2（d）所示，該算法性能較對數據直接估計分布的方法有了很大的提升。

Sharma 等人[9]首先證明了不同源域樣本對目標模型遷移學習效果不同的假設，其次提出了一種基于實例的無監督遷移學習算法，用于改善源域到目標域的遷移過程中，由于訓練樣本導致的模型衰弱的問題。算法通過提取源域和目標域中相似和不同的樣本，利用多樣本對比損失來驅動領域對齊，并結合類別之間的類內聚類和類間分離，從而減少噪聲分類器邊界，提高可遷移性和準確性。

2.2 基于特征表示的遷移學習

基于特征表示的遷移學習方法的主要思想是通過尋找“域不變”的特征表示去最小化域間差異以及分類或回歸模型誤差。此類遷移學習方法也稱作域適應方法，這類方法通常結合對抗學習、度量學習等方法來獲取“域不變”特征。

Pan 等人[10]提出了一種稱為遷移成分分析（Transfer Component Analysis，TCA）的遷移學習算法。該算法針對源域與目標域數據處于不同數據分布的情況，先將兩個領域的數據一起映射到一個高維的再生核希爾伯特空間，達到降維的效果，接著利用最大均值差異（Maximum Mean Discrepancy，MMD）最小化源域和目標域的數據分布距離，最大程度地保留源域和目標域的共同屬性，即“域不變”特征表示。該算法中將源域和目標域數據降維映射到再生希爾伯特空間生成MMD 距離的公式為：

式中：n1為源域數據數量；n2為目標域數據數 量；為第i個源域數據；為 第i個 目標數據；?表示假設存在的一個特征映射使得P(?(xsrc))≈P(?(xtar))；H 表示再生希爾伯特空間條件。

Long等人[11]在文獻[10]中TCA算法的基礎上，提出了聯合分布自適應（Joint Distribution Adaptation，JDA）遷移學習算法，證明了域之間的差異來自邊緣分布和條件分布。JDA算法在TCA算法的基礎上同時最小化邊緣分布和條件分布的差異，最終生成對分類有效的“域不變”特征表示。

Wang 等人[12]在文獻[11]中JDA算法的基礎上，進一步改進并提出了平衡分布自適應（Balanced Distribution Adaptation，BDA）算法，證明了JDA算法中提到的邊緣分布和條件分布兩種分布并不是同等重要的假設。BDA算法可以自適應地衡量邊緣分布和條件分布對目標任務的重要性，并分配權重，從而更加合理地進行域之間特征的對齊。此外，基于BDA 方法提出了加權平衡分布自適應（Weighted Balanced Distribution Adaptation，W-BDA）算法來進一步解決遷移學習中的類不平衡問題。

Wang 等人[13]進一步對邊緣分布和條件分布適配對遷移任務的重要性展開了研究，提出了動態分布適應（Dynamic Distribution Adaptation，DDA）遷移學習方法，該方法能夠定量評估兩個分布的相對重要性。此外，基于DDA 方法提出了兩種新的遷移學習算法：用于傳統遷移學習的流形動態分布自適應（Manifold Dynamic Distribution Adaptation，MDDA）算法，基于深度遷移學習的動態分布自適應網 絡（Dynamic Distribution Adaptation Network，DDAN）算法。

Ghifary 等人[14]提出了一種域自適應神經網絡（Domain adaptive Neural Networks，DaNN）模型，該模型只有特征提取層和MMD 適配層。通過特征提取層提取的特征，結合MMD 進行數據分布距離的計算，將其與源域數據的分類損失相結合作為網絡損失進行訓練，從而保證在提高訓練精度的同時，使網絡能夠學到更多“域不變”的特征表示。

Tzeng 等人[15]則基于DaNN的思想將MMD 適配層引入AlexNet 網絡，并將其添加到最后一個全連接層之前，即特征提取層之后。與DaNN 一樣通過將MMD 距離引入網絡損失中，減少特征提取層提取源域與目標域特征的差異，也就是更多地提取“域不變”特征。此外，該模型利用AlexNet 網絡更高的表征能力進一步提升了神經網絡解決遷移學習問題的能力。

Long 等人[16]首先證明了不同的特征提取層提取的特征分布適配對目標任務的影響，其次在特定的特征提取層引入多核最大均值差異（Multi-kernel MMD，MK-MMD），用于抵消不同核對數據分布衡量準確性的誤差，并提出了一種基于深度自適應網絡（Deep Adaptation Networks，DAN）的神經網絡模型，網絡模型結構圖如圖3 所示。

圖3 基于AlexNet的DAN 模型[16]

Ganin 等人[17]首先證明了在域適應過程中，若由提取的特征無法分辨是源域樣本還是目標域樣本，那么該特征更能體現類別特征而不是域特征，即“域不變”特征的假設；其次提出了一種基于對抗的深度遷移網絡（Domain Adversarial Neural Networks，DANN）模型。該模型通過利用源域樣本有監督地訓練特征提取器，之后域分類器判斷經過特征提取的源域和目標域樣本特征到底是來自源域還是目標域，并計算損失Ldomain，再引入梯度反轉使得Ldomain向相反方向傳播，達到混淆域分類器的目的，同時設置類別分類器對源域進行測試，計算分類損失Llabel。該模型的訓練目標就是最大化域分類損失Ldomain和最小化類別分類損失Llabel。模型總體損失函數為：

式中：參數γ為可人為調整控制訓練的傾向性；參數ρ為當前訓練輪數與訓練總輪數的比值。設置參數λ的目的是讓DANN 在訓練初期將更多的注意力放到學習源域特征上，使模型更好地收斂。DANN網絡模型結構如圖4 所示。

圖4 基于對抗的深度遷移網絡（DANN）模型[17]

Tzeng 等[18]人基于文獻[17]中的DANN 和生成對抗網絡（Generative Adversarial Networks，GAN）的思想提出了一種對抗鑒別域適應（Adversarial Discriminative Domain Adaptation，ADDA）遷移學習域適應模型。由于他們先證明了DAAN 中源域和目標域特征提取器參數共享會導致模型在目標域上性能的下降的假設，因此ADDA 采取了部分參數與源域共享的方式，并在鑒別器損失設計上，ADDA 區別于DANN。ADDA 鼓勵域鑒別器能夠準確分開源域和目標域樣本，同時又鼓勵目標域特征提取器提取的特征能夠混淆域鑒別器識為源域，以實現對抗思想。該模型在域偏移較大任務上取得了較好的效果。

Yu 等人[19]基于文獻[17]中的DANN 模型，提出了動態對抗自適應網絡（Dynamic Adversarial Adaptation Network，DAAN）遷移學習域適應模型。該模型結合文獻[13]中提出的邊緣分布和條件分布適配在域適應過程中有著不同重要性的基本假設，為對抗遷移模型同時引入全局域鑒別器和局部域鑒別器兩個鑒別器，目的就是在域適應的過程中同時適配源域和目標域的邊緣分布和條件分布。模型總損失包括類別分類損失Llabel，全局域鑒別器分類損失Lglobal和局部域鑒別器域鑒別損失Llocal，模型總體損失函數為：

式中：參數γ為可人為調整控制訓練的傾向性；參數ρ為當前訓練輪數與訓練總輪數的比值，參數λ為動態權重因子，目的是在模型訓練初期更加注重放到學習源域特征上；參數ω為動態可學習參數，目的是動態評估邊緣分布和條件分布的相對重要性，在訓練過程中發揮了平衡兩個分布對源域和目標域之間的域適應的作用，使模型更加具有魯棒性。DAAN 網絡模型結構如圖5 所示。

圖5 動態對抗自適應網絡（DAAN）[19]

2.3 基于參數的遷移學習

基于參數的遷移學習假設源任務和目標任務之間共享模型的部分參數，通過源域任務的先驗知識總結，幫助完成目標任務。

Evgeniou 等人[20]提出了一種在正則化框架下的支持向量機參數的遷移學習方法。該方法把支持向量機（Support Vector Machines，SVM）中的參數w針對每個任務分為共同項和特殊項，然后對SVM的學習目標進行擴展，得到參數w實現遷移學習。

Bonilla 等人[21]提出了一種用帶高斯過程的層次貝葉斯模型解決多任務學習問題的方法，該模型在任務上用自由形式的協方差矩陣使相互依賴的內部任務模型化，通過共享協方差函數實現參數共享，從而實現任務間的知識遷移。

Karbalayghareh 等人[22]提出了一種貝葉斯遷移學習算法，該算法通過模型參數的聯合先驗密度將源域和目標域相關聯，為源域和目標域中的高斯特征標簽分布的精度矩陣定義了一個聯合Wishart 分布，以充當傳遞源域有用信息的橋梁，并通過改進目標后驗來幫助目標域中的分類。此外，利用多元統計將矩陣參數的超幾何函數以封閉形式導出后驗和后驗預測密度，從而得到最優貝葉斯遷移學習（Optimal Bayesian Transfer Learning，OBTL）分類器。

2.4 基于關系知識的遷移學習

基于關系知識（Relational Knowledge）的遷移學習方法的基本假設是源域和目標域中某些數據之間關系是相似的。這類方法不要求各領域的數據是獨立同分布的，而是將數據間的關系從源域遷移到目標域，也就是在關系領域上解決遷移學習問題。

Mihalkova 等人[23]提出用馬爾科夫邏輯網絡（Markov Logic Network，MLN）在關系領域上遷移關系知識，該方法基于相關的兩個領域存在一種從源域到目標域的實體之間的關系映射。該算法構造了一個基于加權對數似然度的從源域到目標域的映射，在目標域上進行修正，修改后的MLN 可以直接用作目標域的關系模型來使用，實現基于關系知識的遷移。

Wang 等人[24]提出了基于圖的知識遷移方法。該方法將所有數據建立為一個混合圖，然后利用相似矩陣對類標的相似性進行傳播，最后通過構造圖的不同部分的相似矩陣實現關系知識的遷移。

3 基于遷移學習的通信輻射源識別方法研究現狀

基于遷移學習的通信輻射源識別問題逐漸受到了人們的關注，但是實際上，將應用在其他領域的遷移學習方法應用在通信輻射源識別任務上時，往往得不到較好的效果，這和遷移學習本身的能力與通信輻射源數據的特點有很大的關系，為此一些學者通過結合通信輻射源數據的特點，來改進合適的遷移學習方法，并在識別任務上取得了一定的成果。

陸鑫偉[25]設計了一種基于遷移成分分析（Transfer Component Analysis，TCA）的徑向基函數（Radial Basis Function，RBF）深度遷移學習模型。該作者借鑒了參考文獻[26]和文獻[27]的思路，研究了集成學習理論以及在遷移學習框架下的TrAdaBoost算法，設計了一種基于文獻[10]和文獻[28]的改進Boosting 遷移學習算法，實驗結果表明該算法對通信輻射源識別任務準確率有所提升。最后，該作者研究了Boosting算法中的基分類器訓練樣本分布修正函數對分類正確率的影響。

秦嘉[29]結合文獻[14]中將MMD 度量作為監督學習中的正則化項，以減少潛在空間中源域和目標域之間的分布不匹配的問題，設計了一種深度遷移學習模型，用于解決因信道噪聲干擾，待識別（目標域）信號與訓練（源域）信號的分布產生偏差，從而導致識別率低的問題，并且分析了由高信噪比信號訓練的深度學習模型，在識別低信噪比信號時識別精度不高的原因。此外，在研究了深度學習模型如何提取通信輻射源特征并識別的基礎上，分析了不同網絡層和分布距離度量函數對通信輻射源信號分類效果的影響，并在不同噪聲條件下進行遷移比較，實驗結果表明選取合適的網絡層和分布距離度量函數能夠明顯提升識別準確率。

茍嫣[30]考慮到通信輻射源源域樣本遷移到目標域的過程中，不同的信號樣本實例訓練模型的成效有較為明顯的差別，也就是對遷移學習效果有不同的影響，因此提出對不同的源域實例賦予不同的權重值，該權重值表示訓練樣本在目標模型中的重要性[31]，并結合極限學習機（Extreme Learning Machine，ELM）思想[32]，提出了一種加權的遷移極限學習機算法。該算法在小樣本條件下，有效提升了通信輻射源個體識別的精度，且比傳統算法均有所提升，證實了該算法的有效性。

劉劍鋒等人[33]受文獻[34]工作的啟發，首先做出域內可聚類性、類間緊密性兩種假設；其次結合領域自適應和無監督聚類算法[35]的思想，定義目標域聚類約束和類間緊密性約束，聯合建立優化模型，提出了一種基于遷移學習和無監督學習的輻射源個體識別算法。該算法將不同信噪比下信號的特征對齊，使在特定信噪比下訓練的神經網絡學習到與信道噪聲無關的射頻指紋特征，從而實現對其他信噪比情況下的信號的高準確率識別。

4 存在問題及發展方向

經過充分的文獻閱讀與數據分析，可以看出在特定條件下，基于遷移學習的通信輻射源識別方法的相關研究取得了一些成績，但是該方向仍然存在很多值得進一步探索和研究的問題，主要有以下幾個方面：

（1）目前，國內外對本課題的研究幾乎都是在實驗室仿真條件下進行實驗，很難保證在復雜的戰場電磁環境下，能夠取得較好的識別效果。在戰場復雜多變的信道環境下，輻射源指紋受擾動影響大，加大了知識遷移的難度，從而導致遷移學習系統魯棒性不強，因此如何結合遷移學習進行各維度特征提取是一個重要的課題。

（2）遷移學習方法在通信輻射源個體識別的應用上仍然存在著問題和方法結合不夠深入的狀況，相關研究更多的是針對特定樣本進行算法分析與設計，因此如何通過樣本驅動的方式結合遷移學習進行通信輻射源識別，成為該領域的一個新的研究思路。

（3）遷移學習研究目前與深度學習緊密相關，神經網絡的可解釋性現在作為研究熱點受到廣大學者關注，如何針對通信輻射源識別的領域特點，在深度遷移學習可解釋性上找到解決問題的關鍵點，是非常值得關注的一個方向。

5 結語

本文對遷移學習和基于遷移學習的通信輻射源識別方法進行了介紹，對一些具有代表性的成果進行了闡述，并探討了相關方法的算法性能和優缺點，總結了基于遷移學習的通信輻射源識別技術優勢和難點，最后為該領域下一步的研究提供了思路和參考。