注意力機制和CNN結合的雷達輻射源個體識別

楊海宇,郭文普,康 凱,何婧媛,2,邊 強

(1.火箭軍工程大學 作戰(zhàn)保障學院, 西安 710025;2.延安大學 數學與計算機科學學院, 陜西 延安 716000)

0 引言

輻射源個體識別(special emitter identification,SEI)是一項重要的電子情報活動,目的是利用與之相關聯(lián)的脈沖無意調制(unintentional modulation on pulse,UMOP)識別雷達輻射源個體[1]。這一目的是通過精確測量雷達發(fā)射機硬件制造差異對雷達個體影響來實現的。不同輻射源之間的特征可用于識別雷達個體,并區(qū)分同一類型同一批次的雷達輻射源個體,稱為雷達輻射源個體識別[2]。

在文獻[3]中,孫德剛等人使用輻射源的瞬態(tài)信號進行特征提取,他們認為瞬態(tài)信號對SEI通常有特殊的射頻指紋,因為當發(fā)射機打開或關閉過程中,信號被瞬時狀態(tài)影響,如功率放大器的非線性特性導致UMOP。雖然這種方法是可行的,但準確地檢測其瞬態(tài)信號是困難的,特別是在非合作通信中,瞬態(tài)特性很容易受到非理想和復雜信道條件的影響,難以捕獲[4]。此外,瞬態(tài)信號對具有相同型號和同一批次的發(fā)射機識別性能較差[5]。文獻[6]提出基于時域瞬態(tài)信號的雷達輻射源識別方法,引入了多層雷達輻射源識別概念,包括雷達功能識別、模型識別和特定輻射源識別,達到了較好的識別效果,但是建模的計算成本較大。然而,與瞬態(tài)信號相比,穩(wěn)態(tài)信號的使用提供了更穩(wěn)定的射頻指紋特性。文獻[7-10]提供另外一種研究思路,將穩(wěn)態(tài)信號轉換到其他信號域,如利用小波變換、希爾伯特-黃變換和雙譜分析等方法提取出獨特且穩(wěn)定的指紋特征進行個體識別。然而,基于小波變換的識別算法難度在于小波函數的選取,基于雙譜和希爾伯特-黃變換的個體識別方法均存在高維特征問題,徐書華[7]提出了基于局部積分雙譜的個體識別技術,張靜雯[9]提出了基于希爾伯特-黃變換的個體識別技術,但只是解決了從高維到低維特征的問題,缺乏對信號指紋特征提取。文獻[11]提出了一種環(huán)線積分雙譜(surrounding-line integral bispectrum,SIB)方法提取無意相位調制特征的方法。文獻[12]提出了一種新的雷達SEI方法,該方法對采集到的雷達脈沖進行精確的時間對準和相干積分,以提高信噪比,從而有效地識別信號上的UMOP,使用基于變分模態(tài)分解技術提取與UMOP相關的特征。所提出的技術在真實雷達數據集上得到了較好的驗證,但計算復雜度較高,所需時間較長。

近些年,深度學習在輻射源個體識別方面起到顯著效果。文獻[13]使用原始同相/正交(in-phase/quadrature,I/Q)數據作為卷積神經網絡(convolutional neural network,CNN)輸入,提出的方法省去預處理過程,較為高效。文獻[14]提出了一種識別發(fā)射器的方法,使用CNN來估計每個發(fā)射器的I/Q不平衡參數。潘祎偉[15]構建了一個深度殘差網絡來學習希爾伯特譜圖像中反映的視覺差異,有效地解決了退化問題,提高了效率和泛化能力。龔佳亮等[16]提出了一種基于信息最大化生成對抗算法,解決了未標記數據集的監(jiān)督和半監(jiān)督方法不兼容問題。文獻[17]提出了一種基于壓縮雙譜和CNN(compressed bispectrum CNN,CB-CNN)的特定輻射源識別算法,利用壓縮雙譜法預處理原始信號,識別結果具有更高的精度。劉高輝等[18]利用深度置信網絡識別分類通信輻射源個體,識別率僅達到80%。文獻[19]使用一維時間序列信號訓練3層長短期記憶(long short-term memory,LSTM)網絡,簡化了預處理過程。曲凌志等[20]提出一種結合雙層注意力機制(attention mechanism,AM)和殘差網絡的通信輻射源個體識別方法,和殘差神經網絡相比,效果明顯提升。文獻[21]提出了一種使用雙譜-拉東變換和混合深度模型(bispectrum-radon transform hybrid deep model,BRT-HDM)的方法,所提出的BRT特征在表示UMOP方面優(yōu)于傳統(tǒng)特征。文獻[22]提出了一種基于脈沖圖像和CNN(pulse waveform images CNN,PWI-CNN)的方法,PWI實現了將時域波形轉換為二維圖像,該方法在識別截獲雷達脈沖信號中調制樣式不確定的雷達個體方面優(yōu)于現有方法?？偟膩碚f,現有方法在解決雷達輻射源個體識別問題上,抗噪性能、識別準確率和識別速度有待提高。

為解決雷達輻射源個體識別準確率低、抗噪性能差、訓練時間長的問題,本文提出一種注意力機制和卷積神經網絡(attention mechanism convolutional neural network,AM-CNN)結合的雷達輻射源個體識別算法,將自我注意力機制模塊引入CNN網絡,雖然AM-CNN算法在其他領域有著廣泛應用,但是該算法在雷達輻射源個體識別領域相比于其他算法有著更為顯著的效果,AM-CNN算法既能保留CNN網絡的深層特征提取性能,又能檢測與個體識別關聯(lián)性更強的特征,可以有效解決雷達輻射源個體識別問題。

1 基本理論

1.1 系統(tǒng)模型

雷達發(fā)射機的任務是為雷達系統(tǒng)提供一種滿足特定要求的大功率射率發(fā)射信號,經過饋線和收發(fā)開關并由天線輻射到空間。通常分為脈沖調制發(fā)射機和連續(xù)波發(fā)射機。這里主要圍繞常用的主振放大式發(fā)射機展開分析。主振放大式發(fā)射機的組成如圖1所示,主要由射頻放大鏈、脈沖調制器、固態(tài)頻率源及高壓電源等組成。對于脈沖雷達而言,在定時脈沖的作用下,各級功率放大器受對應的脈沖調制器控制,將頻率源送來的發(fā)射激勵信號進行放大,最后輸出大功率的射頻脈沖信號[23]。

圖1 主振放大式發(fā)射機的組成Fig.1 Composition of main vibration amplification transmitter

功率放大器是發(fā)射器主要硬件之一,其非線性系統(tǒng)響應特性是發(fā)射器特定屬性的主要原因之一,也稱為指紋信息。一般采用泰勒多項式信號模型表示每個發(fā)射器的獨特非線性特征。對于發(fā)射器k,功率放大器的輸出信號表示為:

(1)

sn=xnej2πnfT

(2)

圖2展示了具有k個發(fā)射器的雷達輻射源個體識別系統(tǒng),該系統(tǒng)根據不同的泰勒多項式系數提取雷達輻射源信號所攜帶的個體指紋信息來區(qū)分不同的個體。

圖2 雷達輻射源個體識別系統(tǒng)Fig.2 Radar emitter individual identification system

1.2 雙譜估計

雙譜是處理非平穩(wěn)、非線性雷達輻射源信號的有力工具。設xm是一個真實的非平穩(wěn)信號。基于高階譜分析(higher-order spectral analysis,HOSA)理論,雙譜分析是三階累積量的二維傅里葉變換。在高階譜中,雙譜的階數最低,計算量最少。本文中使用雙譜估計間接法[24],計算步驟如下。

步驟1將原始數據集xm分為k段,每段含M個點。

步驟2設x(k)(0),x(k)(1),…,x(k)(M-1)為第k段數據,計算各段的三階累積量的估計值:

(3)

式(3)中:k=1,…,K,M1=max{0,-i,-j};M2=min{M-1,M-1-i,M-1-j}。

步驟3取所有段的三階累積量的平均值作為整個觀測數據組的三階累積量估計,即:

(4)

步驟4計算雙譜估計:

(5)

式(5)中:L

圖3展示了一個使用Matlab HOSA工具箱雙譜函數生成分辨率為256×256的雷達信號雙譜圖示例,它是一個雷達輻射源的雙譜圖。使用此類雙譜圖作為AM-CNN網絡模型的輸入。

圖3 雙譜圖Fig.3 Bispectrum image

1.3 注意力機制

近年來,注意力機制不斷應用在深度學習中的圖像識別領域,從本質上講,深度學習中注意力機制和人類選擇性視覺的注意力機制相似,從當前所有信息中選擇更關鍵的信息[26]。在深度學習網絡模型中輸入雷達輻射源個體的雙譜圖時,當圖像數量越多,網絡訓練會出現過擬合現象,注意力機制可以有效解決這個問題。

注意力機制的本質思想就是將雷達信號雙譜圖中的元素構成一系列(“鍵”“值”)對,然后給定識別結果中某一元素的“詢問”,通過計算此“詢問”和不同“鍵”之間的相關性,得出每個“鍵”所對應“值”的權重系數,然后對其加權求和,最終得到注意力數值。從而實現輸入信息與識別結果快速、高效地匹配。注意力機制原理如圖4所示。

圖4 注意力機制原理Fig.4 Principle of attention mechanism

注意力機制原理可以歸納為以下3步計算過程。

步驟1計算各元素權值的相似度得到權重,即:

yi=X(Q,Ki)

(6)

步驟2使用Softmax函數對步驟1結果歸一化,并突出重要元素的權重,即:

(7)

步驟3最后將上一步得到的關注元素權重與加權后各元素的權值進行加權求和得到注意力權重,即:

(8)

2 AM-CNN模型

2.1 CNN模型優(yōu)化

雷達輻射源個體識別不同于傳統(tǒng)的個體識別任務,它對識別精度和時間要求較高,為了提升CNN網絡對雷達輻射源個體的識別準確率,減少識別時間,本文中從卷積層數、卷積核數量、卷積核大小、卷積核步長和引入自我注意力機制等5個方面對網絡進行優(yōu)化,以達到更好的識別效果。

卷積層數是影響深度學習模型性能的重要原因之一。通常情況下,卷積層越多,網絡提取特征越明顯,個體識別性能越好。但是,雷達信號數據特征的抽象水平較低,網絡的層數沒有必要過多,加之,深度網絡具有復雜度高、訓練效率低的特點,在一定程度上會影響模型參數更新的速度。因此,需要對卷積層數進行優(yōu)化。

卷積核可以提取特定數據的特征,多個卷積核可以提取多種特征,從而提高識別精度。但是,雷達信號特征相對較少,卷積核數過多會導致網絡冗余,影響到整個網絡訓練的結果。小卷積核的參數少,計算量小,但小卷積核無法完全提取雷達輻射源信號的雙譜特征。卷積核通常以一定步長移動,為防止特征信息丟失,步長一般小于卷積核大小。較小的卷積核步長可以充分提取指紋特征,但會出現擬合現象,減少模型泛華能力。

將注意力機制模塊引入現有的網絡模型中,在保持原有網絡模型的基礎上,減少網絡的識別時間,提高識別準確率。

2.2 AM-CNN模型及參數設置

AM-CNN網絡采用簡單有效的網絡結構,包含4個二維卷積層、1個注意力機制層、1個全連接層。具體網絡模型如圖5所示。

圖5 AM-CNN模型Fig.5 AM-CNN model

二維卷積層包括卷積層、批歸一化(batch normalization,BN)層、激活函數層和池化層。在卷積層中,卷積核大小為5×5,卷積核數量為12,步長為2。在網絡中引入BN層,可以加速網絡的收斂速度,同時,允許使用較大的學習率,讓網絡訓練變得更加容易。激活函數層使用LeakyReLU函數,目的增加非線性度。池化層選擇最大池化層,大小為3,步長為1。在全連接層之前加入自我注意力機制模塊。用注意力單元檢測CNN輸出特性,將更大限度地提高分類識別效果。最后通過Softmax層輸出分類結果。損失函數采用categorical_crossentropy,優(yōu)化器采用Adam,學習率初始設置為0.001,batch_size大小為64,訓練輪數為100輪,設置EarlyStopping,防止在測試集上測試誤差上升,避免繼續(xù)訓練導致過擬合問題。

2.3 算法流程

具體算法流程如下:

步驟1將原始信號分解為k段,每段含M個點。

步驟5利用雙譜特征圖作為AM-CNN模型輸入進行訓練,得出最優(yōu)的網絡權值并保存模型。

步驟6同步驟1～步驟4計算測試集的雙譜特征圖。

步驟7利用訓練好的AM-CNN模型識別測試集。

3 實驗與結果分析

3.1 實驗數據

本文中所使用的數據集參照2.1節(jié)系統(tǒng)模型生成7個雷達輻射源個體,泰勒多項式的階數為3,具體系數見表1[17],雷達輻射源信號的調制樣式為線性頻率調制,載波頻率為20 MHz,采樣頻率為10 MHz,帶寬為10 MHz,脈沖重復周期1 ms,脈沖寬度為200 μs。通過添加高斯白噪聲改變信噪比,采用Matlab仿真生成實驗數據,信噪比由0～20 dB間隔2 dB,共11種信噪比,各信噪比下不同雷達輻射源的樣本數量為2 000個。對于7個輻射源使用標簽E1,E2,…,E7。將數據集按7∶3的比例劃分,1 400個樣本用于訓練數據,600個樣本用于測試數據。

表1 不同雷達輻射源個體的泰勒多項式系數Table 1 Taylor polynomial coefficients of different radar emitters

實驗采用的測試平臺為Intel Core i9-9900,NVIDIA GTX2080Ti。本文中神經網絡模型是在TensorFlow 2.4.0平臺上搭建的,學習框架采用Keras 2.3.1,編譯器為PyCharm2021.3.1 x64,編程語言為python 3.6。

3.2 實驗對比與分析

圖6展示了卷積層數、卷積核數量、卷積核大小、卷積核步長對識別率的影響。在圖6(a)中,卷積核大小設置為3×3,步長分別設置為1和2,在圖6(b)中,卷積核大小設置為5×5,步長分別設置為2和3,訓練具有不同卷積層數和不同卷積核數的CNN網絡,訓練后的最優(yōu)模型用于識別測試集。

圖6 不同卷積核分析Fig.6 Different convolutional kernel analysis

根據圖6可以得出以下結論:

1) 不同的參數對識別性能有顯著影響。當卷積核步長為1時,模型重復計算數據中的噪聲,使得泛化能力較差。因此,總體識別率較低,且隨卷積核數的變化而波動。當卷積核步長為2時,可以在一定程度上避免噪聲的影響,可以有效地提取信號指紋特征。

2) 當卷積核大小、步長和卷積層數固定時,識別率隨著卷積核數增加而增加,提取信號指紋特征越充分,當增加到一定數量后,識別率趨于平穩(wěn),不會再繼續(xù)提高。

3) 從實驗結果可以得出,卷積層數為4,步長為2時,對卷積核數變化的魯棒性最強,識別性能最好。當卷積層數和步長繼續(xù)增加,會導致特征維數減少,提取特征不充分,從而影響識別率。

4) 當卷積層數為4,步長為2時,卷積核為5×5的網絡識別性能優(yōu)于卷積核為3×3的網絡,其中,當卷積核大小為5×5,卷積核數為12時,其識別率最高,達到89.35%。

綜上所述,卷積層數、卷積核數量、卷積核大小、卷積核步長對識別結果均有影響,通過實驗結果得出最優(yōu)的CNN參數:卷積核大小為5×5,卷積核的步長為2,卷積層的數量為4,卷積核的數量為12。

在優(yōu)化后的CNN網絡模型基礎上,探究注意力機制是否能進一步提升CNN網絡對雷達輻射源個體的識別速度和準確率,實驗結果如表2所示。

表2 注意力機制對網絡分類能力的影響Table 2 The effect of attention mechanism on network identification ability

由表2可知,在優(yōu)化的CNN網絡模型基礎上,引入注意力機制的AM-CNN模型與原CNN模型相比,訓練輪數減少18輪,損失函數較低0.12,訓練時間減少一半,識別準確率提升5%。

3.3 性能評估

為了檢驗AM-CNN算法對雷達輻射源個體的識別能力,本小節(jié)采用混淆矩陣對7個模擬雷達輻射源個體的識別準確率進行具體分析。

由圖7可知,對7個模擬雷達輻射源個體進行實驗,輻射源E4的識別效果最好,輻射源E1和E7的錯分概率較高,這是由于泰勒多項式系數的差異對輻射源個體識別的影響?？梢缘贸?不同階數的系數對輻射源個體的影響是不同的,階數越高對識別效果影響越小,反之,階數越低,影響越大。整體來說,識別準確率在92.84%～99.13%,達到較好的識別水平。

圖7 混淆矩陣Fig.7 Confusion matrix

3.4 對比分析

為了進一步驗證該方法的有效性,將AM-CNN方法與現有4種方法進行比較,包括文獻[12]中SIB方法、文獻[16]中CB-CNN方法、文獻[20]中BRT-HDM方法和文獻[21]中PWI-CNN方法。具體實驗結果如圖8所示。

圖8 5種方法的不同信噪比識別準確率圖Fig.8 Identification accuracy of five methods with different signal to noise ratio

由圖8可知,就識別率而言,隨著信噪比增大,AM-CNN算法的識別性能隨之提高,相較于其他4種算法,AM-CNN算法有較好的表現。在6 dB以上時,識別率超過80%,在20 dB,識別率達到了94.47%。結果表明,AM-CNN算法可以利用雷達發(fā)射機輸出的穩(wěn)態(tài)信號識別輻射源個體,這主要是AM-CNN模型有效地提取了雷達輻射源信號的雙譜特征,更好地抑制了高斯噪聲,并且具備強大的自學習能力以及對雷達輻射源信號指紋特征地充分提取,因此具有較高的識別率,但在實測數據集的性能方面需要進一步提高。

4 結論

在CNN的基礎上,結合注意力機制,通過調節(jié)卷積核的大小、步長、數量和卷積層的數量等參數優(yōu)化網絡模型。實驗結果證明,本文中提出的AM-CNN算法相較于CNN算法,識別準確率提高了5%,訓練時間縮短一半。在不同信噪比條件下能夠有效識別7種雷達輻射源個體,與現有方法對比,AM-CNN算法具有抗噪性能好、識別準確率高的特點,有效提升了對雷達輻射源個體的識別能力。