基于注意力機(jī)制的通信輻射源個體識別方法*

張宸嘉，朱 磊，陳 璞，俞 璐

（陸軍工程大學(xué)，江蘇 南京 210007）

0 引 言

輻射源個體識別，又稱為輻射源指紋識別或特定輻射源識別（Specific Emitter Identification，SEI），是電子偵察識別最重要的非合作識別手段之一，在戰(zhàn)場目標(biāo)識別中發(fā)揮著不可替代的作用[1]。最早從二戰(zhàn)開始，輻射源個體識別已經(jīng)成為戰(zhàn)場的重要需求之一。電子偵察識別領(lǐng)域中，為了進(jìn)一步掌握電磁態(tài)勢，往往通過測量輻射源各項(xiàng)指標(biāo)與參數(shù)，經(jīng)過一定處理后用來對輻射源個體的型號、工作方式等屬性進(jìn)行識別。然而，隨著電磁環(huán)境的日益復(fù)雜與通信技術(shù)的迅猛發(fā)展，各種通信設(shè)備層出不窮，使得輻射源的信號樣式變得越來越復(fù)雜。各種不同種類的輻射源信號混雜在一起增加了識別難度，導(dǎo)致基于傳統(tǒng)的提取輻射源參數(shù)和指標(biāo)來進(jìn)行識別的方法變得愈加困難，收益也越來越差[2]。此外，要想獲取關(guān)鍵電臺所發(fā)出的電磁信息，不僅需要對型號等參數(shù)的識別，還需要對區(qū)別細(xì)微的同型號輻射源個體進(jìn)行識別。因此，輻射源個體識別技術(shù)應(yīng)運(yùn)而生，能夠準(zhǔn)確提供有關(guān)目標(biāo)輻射源配置、部署情況以及關(guān)鍵節(jié)點(diǎn)信號等重要的信息，具有廣泛的應(yīng)用前景與意義。

輻射源個體識別是提升通信網(wǎng)絡(luò)安全的重要手段。通過輻射源個體識別，可以在非協(xié)同的條件下實(shí)現(xiàn)對通信信號的合理分析，從而提供輻射源設(shè)備的有效信息，為后續(xù)的網(wǎng)絡(luò)通聯(lián)關(guān)系分析、網(wǎng)絡(luò)關(guān)鍵節(jié)點(diǎn)分析等打下堅(jiān)實(shí)的基礎(chǔ)。在電磁環(huán)境日益復(fù)雜的今天，如何在通信中及早確認(rèn)關(guān)鍵電臺所發(fā)出的信息顯得尤為重要。因此，研究輻射源個體識別具有重要意義和價值。

深度學(xué)習(xí)方法在計(jì)算機(jī)視覺、語音識別和數(shù)據(jù)分類等領(lǐng)域都發(fā)揮著顯著作用，成為眾多分類方法的佼佼者[3]。鑒于輻射源信息的復(fù)雜性與傳輸過程中的許多干擾，輻射源的傳統(tǒng)特征如積分雙譜等無法全面表達(dá)輻射源信號的特征。深度網(wǎng)絡(luò)模型通過不斷訓(xùn)練提取數(shù)據(jù)樣本特征，可以表達(dá)復(fù)雜的非線性函數(shù)關(guān)系，得到數(shù)據(jù)豐富的本質(zhì)信息，在輻射源個體識別領(lǐng)域有著更好的識別效果[4]。

近兩年，注意力模型（Attention Model）在圖像分割、NLP、圖像識別、語音識別及計(jì)算機(jī)視覺等領(lǐng)域受到了大量關(guān)注，也獲得了廣泛應(yīng)用，如SANet[5]、VSG-Net[6]等，是深度學(xué)習(xí)領(lǐng)域中值得關(guān)注與探索研究的方法[7]。

視覺注意力機(jī)制是人類視覺所特有的大腦信號處理機(jī)制[8]。視覺注意力機(jī)制的思想借鑒了人類在關(guān)注圖像信息時的行為。人類關(guān)注圖像信息時，會下意識地關(guān)注整個圖像的總體，并將更多的注意力與關(guān)注的重心放于擁有更多可用有利信息上，也就是注意力焦點(diǎn)。注意力焦點(diǎn)即注意力機(jī)制思想中需要重點(diǎn)關(guān)注的目標(biāo)區(qū)域。因?yàn)槿说淖⒁饬κ怯邢薜?，通過將更多的注意力資源投入到注意力焦點(diǎn)上，可以獲得更加豐富的目標(biāo)信息，同時進(jìn)一步提升獲取目標(biāo)信息的效率與速度，有利于各種任務(wù)資源投入的合理化。注意力機(jī)制是人類利用有限的注意力資源從大量信息中快速篩選出高價值信息的手段，是人類在長期進(jìn)化中形成的一種生存機(jī)制。人類視覺注意力機(jī)制極大地提高了視覺信息處理的效率與準(zhǔn)確性[9]。

圖1為人類在看到一副圖像時如何將有限的注意力資源進(jìn)行合理且高效分配的實(shí)例。當(dāng)人類注視目標(biāo)時，投入更多注意力資源的區(qū)域標(biāo)為深色?？梢?，當(dāng)面對圖1時，人們往往會把注意力更多投入到人的臉部、文本的標(biāo)題以及文章首句等關(guān)鍵并具有更多可用信息的位置。

深度學(xué)習(xí)中的注意力機(jī)制從思想上借鑒了人類的選擇性視覺注意力機(jī)制，利用人類視覺的特點(diǎn)，從眾多冗余信息中選擇出對當(dāng)前任務(wù)目標(biāo)更關(guān)鍵、效用更高的信息[10]。

本文著眼于電臺輻射源個體識別任務(wù)，以殘差網(wǎng)絡(luò)[11]為基礎(chǔ)，結(jié)合注意力機(jī)制的思想，將雙注意力機(jī)制引入預(yù)處理層與特征提取層，實(shí)現(xiàn)對神經(jīng)網(wǎng)絡(luò)的優(yōu)化。針對5臺同型號電臺進(jìn)行個體識別，對比傳統(tǒng)特征提取與深度神經(jīng)網(wǎng)絡(luò)方法，在參數(shù)量小幅上漲的代價下，大幅提升了輻射源個體分類識別的效果。

1 注意力機(jī)制設(shè)計(jì)與使用

1.1 軟閾值化中的注意力機(jī)制

為了降低信號傳播過程中的噪聲對輻射源個體識別的干擾，本文方法在識別任務(wù)前運(yùn)用軟閾值化操作對輻射源數(shù)據(jù)進(jìn)行降噪處理，同時運(yùn)用注意力機(jī)制的思想，自適應(yīng)地修改閾值，進(jìn)一步提升了輻射源數(shù)據(jù)的識別效果。

區(qū)別于傳統(tǒng)的固定閾值的方法，本文提出的軟閾值化方法中閾值設(shè)定借鑒SE-Net[12]中所采用的實(shí)現(xiàn)注意力機(jī)制的經(jīng)典方法[13]，即擠壓激勵操作（Squeeze and Excitation），結(jié)構(gòu)如圖2所示。

每張?zhí)卣鲌D通過全局平均池化操作進(jìn)行擠壓成一個實(shí)數(shù)（見式（1）），這個實(shí)數(shù)具有特征圖上的全局信息，每張?zhí)卣鲌D的擠壓結(jié)果組合成一個向量作為每個特征圖的權(quán)重，其中H和W分別為特征圖的高和寬，zc為卷積后的結(jié)果，將此向量通過全連接層與激活函數(shù)（見式（2）），訓(xùn)練結(jié)果用來放大對于識別任務(wù)更加重要特征圖的權(quán)重，縮小不重要特征圖的權(quán)重，其中σ為relu激活函數(shù)，δ為sigmoid激活函數(shù)，W1與W2代表過兩個不同的全連接層。此向量s通過式（3）激勵原特征圖，指導(dǎo)特征圖不斷向著有利于識別任務(wù)的方向更新。

本文同時借鑒ECA-Net的思想，通過一維卷積層匯總跨信道信息的方法對其進(jìn)行改進(jìn)構(gòu)建了通道注意力模塊[14]，其結(jié)構(gòu)如圖3所示。

本文首次在軟閾值化操作中引入雙路注意力的思想，匯總通道與空間兩方面的注意力信息作為閾值，并在每次訓(xùn)練時自適應(yīng)地修改閾值，提升了軟閾值化的效果。此時的閾值并不是一個確切的值，而是一個動態(tài)生成的與特征圖同尺寸的矩陣。通過將原特征圖與閾值進(jìn)行對比，保留特征圖中注意力較高的部分，可達(dá)到提升網(wǎng)絡(luò)效果的作用。獲取閾值的過程，如圖4所示。

其中：CA模塊為通道注意力模塊（Channel Attention Module），結(jié)構(gòu)如圖5所示；SA模塊為空間注意力模塊（Spatial Attention Module），結(jié)構(gòu)如圖6所示。這兩個模塊分別從通道與空間兩個方向提取特征圖中的注意力信息，提取不同通道與空間中不同位置的權(quán)重信息，自適應(yīng)更新特征圖。

1.2 深度神經(jīng)網(wǎng)絡(luò)中的注意力機(jī)制

本文在針對輻射源個體識別任務(wù)的深度網(wǎng)絡(luò)中首次嵌入圖像分割領(lǐng)域的雙注意力模塊，從通道與空間兩個分支構(gòu)建特征圖的相關(guān)性矩陣，用此矩陣引導(dǎo)對特征圖的更新，增大關(guān)鍵特征的權(quán)重，使得將更多的注意力放在更易于進(jìn)行區(qū)分的優(yōu)秀特征上[15]。雙注意力模塊結(jié)構(gòu)如圖7所示。

PAM是空間分支，結(jié)構(gòu)如圖8所示。CAM是通道分支[16]，結(jié)構(gòu)如圖9所示。這兩個分支通過對特征圖的處理，分別構(gòu)建了關(guān)于特征圖通道與空間位置的相關(guān)性矩陣X與S，并以此矩陣來引導(dǎo)特征圖不同通道與空間位置權(quán)重的更新方向，以使得更多的資源投入到更容易對目標(biāo)進(jìn)行區(qū)分的地方。

2 深度神經(jīng)網(wǎng)絡(luò)模型搭建

由于主要目的是對電臺輻射源信息進(jìn)行分類任務(wù)，因此本文深度神經(jīng)網(wǎng)絡(luò)模型以卷積神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)模型，通過軟閾值化模塊對輸入的電臺輻射源信息進(jìn)行降噪處理，然后在軟閾值化過程和神經(jīng)網(wǎng)絡(luò)模型中分別嵌入不同的多路注意力模塊，以實(shí)現(xiàn)融合輻射源信號的多維度特征[17]，合理調(diào)整參數(shù)，提升模型效果。本文使用的深度神經(jīng)網(wǎng)絡(luò)模型，如圖10所示。本文在軟閾值化與雙注意力網(wǎng)絡(luò)中使用了兩種不同方式的雙注意力機(jī)制。相對于使用同一種注意力機(jī)制而言，使用兩種方式可以利用不同注意力提取方式的差異性，更全面和精準(zhǔn)地提取輻射源信號的關(guān)鍵信息，獲得更優(yōu)秀、利于識別任務(wù)的特征，從而進(jìn)一步提升整個識別任務(wù)的效果。

3 仿真實(shí)驗(yàn)和分析

3.1 輻射源數(shù)據(jù)采集

在實(shí)驗(yàn)室環(huán)境中，利用6臺同型號USRP設(shè)備，其中5臺作為發(fā)送設(shè)備，1臺作為接收設(shè)備。5臺輻射源設(shè)備同時發(fā)送主頻為1 GHz的輻射源信號，將所接收到的5臺輻射源設(shè)備的信號通過LabView進(jìn)行數(shù)據(jù)處理。接收端接收的信號如圖11所示。

將經(jīng)過處理后的5類輻射源信號作為數(shù)據(jù)集，分別以傳統(tǒng)手動特征提取方法、普通深度神經(jīng)網(wǎng)絡(luò)方法和本文提出的深度注意力神經(jīng)網(wǎng)絡(luò)方法進(jìn)行輻射源個體識別實(shí)驗(yàn)。輸入網(wǎng)絡(luò)中數(shù)據(jù)的尺寸為2×128，樣本數(shù)為100 000，其中90%作為訓(xùn)練集，10%作為測試集。網(wǎng)絡(luò)的batch size為128，訓(xùn)練100輪次，損失函數(shù)為交叉熵函數(shù)，使用Adam算法來優(yōu)化網(wǎng)絡(luò)。

3.2 實(shí)驗(yàn)結(jié)果與分析

本文將傳統(tǒng)提取SIB特征、以支持向量機(jī)（Support Vector Machine，SVM）作為分類器的方法、普通神經(jīng)網(wǎng)絡(luò)方法與本文提出的方法，分別針對采集到的數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果如圖12所示。

由實(shí)驗(yàn)結(jié)果可見，對比傳統(tǒng)手動特征提取方法，兩種基于深度神經(jīng)網(wǎng)絡(luò)的方法都有較高的識別率與較快的收斂速度，說明深度神經(jīng)網(wǎng)絡(luò)在輻射源個體識別領(lǐng)域有著更好的表現(xiàn)，提升了識別效果。將提出的方法所用到的技術(shù)進(jìn)行拆分運(yùn)用于普通神經(jīng)網(wǎng)絡(luò)，以驗(yàn)證其在輻射源個體識別方向上的提升效果，實(shí)驗(yàn)結(jié)果如圖13所示。

實(shí)驗(yàn)顯示，本文所使用的軟閾值化技術(shù)與雙注意力模塊，都會在一定程度上提升對輻射源數(shù)據(jù)的識別效果，但是提升效果有限。對比普通神經(jīng)網(wǎng)絡(luò)，雙注意力模塊提升了1.82%的效果，而軟閾值化技術(shù)提升了5.53%的效果。但是，如果將兩種技術(shù)進(jìn)行結(jié)合，在輸入雙注意力網(wǎng)絡(luò)之前用軟閾值化技術(shù)對數(shù)據(jù)自適應(yīng)的生成注意力閾值，保留更加鮮明的易于識別的特征，那么特征圖輸入雙注意力網(wǎng)絡(luò)后所產(chǎn)生的相關(guān)性矩陣將更加具有針對性與更優(yōu)的指導(dǎo)作用，從而進(jìn)一步提升輻射源數(shù)據(jù)的識別效果。實(shí)驗(yàn)證明，本文所提出的輻射源個體識別方法識別率達(dá)到了87.52%，對比普通神經(jīng)網(wǎng)絡(luò)方法提升了11.17%，對比傳統(tǒng)特征提取方法提升了27.38%的識別效果。

4 結(jié) 語

本文借鑒注意力機(jī)制思想對神經(jīng)網(wǎng)絡(luò)模型進(jìn)行改進(jìn)與優(yōu)化，同時加入帶有雙注意力的軟閾值化操作對數(shù)據(jù)進(jìn)行處理。實(shí)驗(yàn)證明，對比傳統(tǒng)的手動特征提取方法和普通深度神經(jīng)網(wǎng)絡(luò)方法，本文提出的輻射源個體識別方法顯著提升了識別效果。本文使用的注意力模塊為即插即用的輕量級模塊，顯著提升識別效果的代價僅為參數(shù)量的略微增加，同時訓(xùn)練速度也和普通神經(jīng)網(wǎng)絡(luò)基本一致。本文所提出的模型整體上在輻射源個體識別任務(wù)上對比其他方法有著更優(yōu)效果，由于輻射源個體識別任務(wù)針對同型號輻射源設(shè)備的特殊性，不同設(shè)備的輻射源信號的差異性較小。若將計(jì)算資源平均地投入所有的特征上，勢必會造成資源的大量浪費(fèi)。注意力機(jī)制思想將會提取其中具有差異性的關(guān)鍵特征，將資源投入到關(guān)鍵特征中，會明顯提升對于同型號輻射源設(shè)備的分類效果。同時，本文驗(yàn)證了注意力機(jī)制思想在輻射源個體識別領(lǐng)域的可行性，為未來輻射源個體識別方向的研究提供了一條可行的思路。