一種嵌入射頻指紋的半監(jiān)督輻射源識別方法

姚君宇，許小東

(中國科學(xué)技術(shù)大學(xué) 電子工程與信息科學(xué)系，安徽 合肥 230031)

0 引言

SEI能通過接收信號中的細(xì)微特征識別不同的無線電發(fā)射機(jī)[1]，在不同領(lǐng)域擁有廣泛應(yīng)用，例如軍事情報偵察、電子對抗以及設(shè)備故障診斷等。傳統(tǒng)的SEI方法將SEI問題看作一種模式識別問題[2]，首先從信號中人工提取RFF特征，然后將其通過分類器來完成識別任務(wù)。在RFF特征中，雙譜特征[3-4]由于其良好的抗噪性能和較穩(wěn)定的分離性而被廣泛使用。然而由于其主要通過信號的相頻特性來對輻射源進(jìn)行識別，難以提取輻射源的其他內(nèi)在細(xì)微特征[3]。在非協(xié)作通信情況下，無法取得完整的輻射源先驗信息，僅使用雙譜特征難以對輻射源進(jìn)行準(zhǔn)確識別[4]。

近年來，深度學(xué)習(xí)方法在SEI的應(yīng)用中取得了進(jìn)展。通過神經(jīng)網(wǎng)絡(luò)來直接學(xué)習(xí)信號中的深層隱性特征[5-6]使得深度學(xué)習(xí)方法相較于特征提取方法獲得了更高的識別率，并且降低了對信號先驗信息的需求[7]。在非協(xié)作通信中，通常只能得到大量無標(biāo)簽數(shù)據(jù)和少量有標(biāo)簽數(shù)據(jù)。為了應(yīng)對這種標(biāo)簽數(shù)據(jù)集缺失的情況，遷移學(xué)習(xí)[8]、數(shù)據(jù)增強(qiáng)[9-10]都是可行方法，然而這些方法需要數(shù)據(jù)的先驗信息或是龐大的初始樣本數(shù)據(jù)庫。相比之下，貝葉斯神經(jīng)網(wǎng)絡(luò)[11]不需要任何先驗信息和初始樣本，具有較好的通用性。貝葉斯神經(jīng)網(wǎng)絡(luò)通過提升網(wǎng)絡(luò)的泛化能力，來克服訓(xùn)練集稀少時遇到的過擬合問題。在圖像[12]以及文本識別[13]等領(lǐng)域，貝葉斯神經(jīng)網(wǎng)絡(luò)已經(jīng)被證明可以在標(biāo)簽訓(xùn)練集更少的情況下達(dá)到和傳統(tǒng)深度學(xué)習(xí)方法相同的識別率，并且通過半監(jiān)督學(xué)習(xí)[14]可以更好地利用大量的無標(biāo)簽數(shù)據(jù)。

為了克服非協(xié)作通信中的問題，在神經(jīng)網(wǎng)絡(luò)框架下，使用雙譜灰度直方圖特征和貝葉斯CNN相結(jié)合，通過回歸擬合射頻指紋特征來指導(dǎo)CNN訓(xùn)練，并且結(jié)合了基于模糊度的半監(jiān)督學(xué)習(xí)方式，在有限的標(biāo)簽數(shù)據(jù)下，進(jìn)一步提高輻射源的識別率。在模擬數(shù)據(jù)集和真實數(shù)據(jù)集中，對提出的方法和其他SEI方法進(jìn)行了性能比較。

1 問題描述與相關(guān)知識

1.1 問題模型

SEI是從接收信號中提取出輻射源的本質(zhì)差異信息，以此分辨不同輻射源，從而識別輻射源個體。一個典型的SEI系統(tǒng)如圖1所示。

圖1 SEI基本過程

考慮只有一個接收器截獲來自某個感興趣區(qū)域的可能無線信號。假設(shè)可以單獨捕獲每一個發(fā)射機(jī)的信號，不存在盲分離的問題。每個發(fā)射機(jī)的發(fā)射信號為：

si(t)=gi(mi(t),qi),i=1,2,…,N，

(1)

式中，si(t)包含了需要傳送的調(diào)制信息mi(t)和設(shè)備指紋信息qi；gi為輻射源發(fā)射機(jī)模型，包括功放、相噪和濾波器等多種器件的非線性因素的影響，這些器件的相互影響正是指紋特征p的來源。接收信號可以表示為：

yi(t)=si(t)?hi(t)+ni(t),i=1,2,…,N，

(2)

式中，hi(t)表示發(fā)射機(jī)與接收機(jī)之間的信道；ni(t)表示零均值的加性高斯白噪聲；?表示卷積運(yùn)算。

接收機(jī)接收的信號經(jīng)變頻、A/D變換等處理也會受接收機(jī)器件非線性影響，輸出信號為：

(3)

1.2 貝葉斯CNN

與傳統(tǒng)CNN不同，貝葉斯CNN(BCNN)[15]所訓(xùn)練出的網(wǎng)絡(luò)模型參數(shù)不是固定值，而是各個參數(shù)的分布，如圖2所示。

圖2 BCNN和傳統(tǒng)CNN的區(qū)別

對于BCNN來說，需要求的是權(quán)重矩陣W在訓(xùn)練數(shù)據(jù)X和標(biāo)簽Y下的后驗分布p(W|X,Y)。一般來說，這種后驗分布是不易計算的，使用變分推理來近似它[15]，即通過最小化權(quán)重近似分布和完全后驗之間的KL散度：KL(q(W)||p(W|X,Y))來學(xué)習(xí)網(wǎng)絡(luò)權(quán)重q(W)的分布，而最小化KL散度等價于最大化對數(shù)似然下界(Log Evidence Lower Bound，ELBO)，即：

(4)

式中，F(xiàn)為關(guān)于Y和X的函數(shù)。

本文中用于實現(xiàn)構(gòu)建BCNN的方法是dropout[16]，通過在每個卷積層間使用dropout來使得第i層的權(quán)重分布q(Wi)為：

(5)

式中，zi,j為具有概率pi的伯努利分布隨機(jī)變量；而Mi為需要優(yōu)化的變分參數(shù)。diag(?)運(yùn)算符將向量映射成對角矩陣。

對于伯努利近似分布，式(4)中的積分是難以計算的。于是可以通過蒙特卡洛積分來近似計算得到LVI的無偏估計：

(6)

式中，E(·,·)為softmax損失函數(shù)。通過蒙特卡洛積分近似的關(guān)于新的輸入x*的模型預(yù)測結(jié)果y*可以表示為：

(7)

2 嵌入射頻指紋的BCNN SEI算法

2.1 基于雙譜的灰度直方圖特征

提出一種新型的射頻指紋，利用信號的雙譜來設(shè)計特征向量。雙譜可用于描述信號的不對稱程度和非線性，并測量信號偏離高斯分布的程度。為了提取指紋特征，采用雙譜統(tǒng)計量來表示接收信號的交叉頻率依賴性。一般來說，雙譜Bx(ω1,ω2)可以表示為：

(8)

式中，c3x(τ1,τ2)表示τ1，τ2為時延的信號x(n)的三階累量，即：

c3x(τ1,τ2)=E{x*(n)x(n+τ1)x(n+τ2)}，

(9)

其中，E{?}為期望；上標(biāo)*為共軛。

為了構(gòu)造特征向量ht，首先將(ω1,ω2)分割成若干個分辨率為Δω的頻率區(qū)間。然后將雙譜Bx(ω1,ω2)的實部和虛部分開轉(zhuǎn)換為一個新矩陣：

(10)

式中，Re，Im分別為實部與虛部，再將R轉(zhuǎn)化為λ比特的灰度圖[17]：

(11)

式中，Gm,n為灰度圖的第(m,n)個值；Rm,n為雙譜圖的第(m,n)個值。

最終在灰度圖上通過統(tǒng)計得到一個k比特的灰度直方圖特征向量ht：

(12)

式中，ni為灰度值在第i個區(qū)間的像素個數(shù)；MN為圖中像素總數(shù)。

2.2 算法結(jié)構(gòu)與步驟

將雙譜直方圖特征提取用CNN回歸代替后與BCNN與相結(jié)合的網(wǎng)絡(luò)結(jié)構(gòu)RFF-BCNN如圖3所示。

圖3 SEI網(wǎng)絡(luò)結(jié)構(gòu)

圖3中，左側(cè)所示的子網(wǎng)絡(luò)即回歸擬合直方圖特征的CNN網(wǎng)絡(luò)，是數(shù)層1D卷積層和數(shù)層全連接層組成的1D-CNN，右側(cè)的子網(wǎng)絡(luò)完成SEI，為數(shù)層貝葉斯卷積層和數(shù)層全連接層組成的BCNN。將卷積層視為特征提取器，作用是將原始數(shù)據(jù)映射到一個新的高維特征空間，全連接層的作用則是將學(xué)到的高維分布式特征映射到樣本標(biāo)記空間。可以看出左側(cè)子網(wǎng)絡(luò)的全連接層對于SEI任務(wù)來說是冗余的，因為其卷積層輸出可以看成雙譜直方圖特征的高維近似表示，而右側(cè)子網(wǎng)絡(luò)的全連接層則將2組隱含特征映射到輻射源類別。需要指出的是，左側(cè)子網(wǎng)絡(luò)的參數(shù)是通過預(yù)訓(xùn)練設(shè)置的，作為雙譜直方圖的特征提取器，不再參與右側(cè)SEI的子網(wǎng)絡(luò)訓(xùn)練過程中。

在此基礎(chǔ)上，再使用基于模糊度的半監(jiān)督學(xué)習(xí)方法[18]，用給無標(biāo)簽數(shù)據(jù)打上偽標(biāo)簽的方式擴(kuò)大可用訓(xùn)練數(shù)據(jù)集，以達(dá)到更好的識別率。通過將無標(biāo)簽數(shù)據(jù)輸入已訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型，對輸出結(jié)果的模糊度進(jìn)行計算，從中篩選出低模糊度數(shù)據(jù)對其打上偽標(biāo)簽并加入訓(xùn)練數(shù)據(jù)的方式來增加標(biāo)簽訓(xùn)練集的大小。模糊度的計算式如下：

(13)

式中，μ為輸入的無標(biāo)簽樣本；μi為神經(jīng)網(wǎng)絡(luò)輸出的μ關(guān)于第i個類的隸屬度；N為總類別數(shù)。

半監(jiān)督學(xué)習(xí)的分布訓(xùn)練步驟如圖4所示，其中的神經(jīng)網(wǎng)絡(luò)模型即為圖3所示網(wǎng)絡(luò)。

圖4 半監(jiān)督學(xué)習(xí)訓(xùn)練過程

步驟1：以訓(xùn)練數(shù)據(jù)XT和對應(yīng)的標(biāo)簽YT訓(xùn)練圖4中的神經(jīng)網(wǎng)絡(luò)N；

步驟3：以門限ξ將XS分為低模糊度數(shù)據(jù)集XLOW和高模糊度數(shù)據(jù)集XHIGH；

步驟5：重新訓(xùn)練神經(jīng)網(wǎng)絡(luò)N。

3 實驗分析

3.1 實驗數(shù)據(jù)及參數(shù)配置

下面評估提出的網(wǎng)絡(luò)結(jié)構(gòu)的性能，并通過與其他SEI算法進(jìn)行比較來展示其性能優(yōu)勢。實驗中，基于Python 3.6的Tensorflow搭建了圖3中的網(wǎng)絡(luò)。2個子網(wǎng)絡(luò)均采用Adam優(yōu)化器，在一塊NVIDIA GTX1080TI的GPU上對網(wǎng)絡(luò)進(jìn)行訓(xùn)練。

實驗主要在2個數(shù)據(jù)集上進(jìn)行：

① 模擬數(shù)據(jù)：使用Matlab程序生成數(shù)據(jù)集。基于泰勒功率放大器(PA)模型、BPSK調(diào)制、瑞利衰落信道，生成5類信號通過5個具有不同SNR的PA，每個類別由每個SNR的10 000個訓(xùn)練樣本組成。

② 采集數(shù)據(jù)：在實驗中使用的無線電時域信號樣本取自零中間的實際采樣頻率IQ正交數(shù)據(jù)。信號來自同一制造商、相同型號和相同工作模式的5個不同的短波電臺和5個不同的超短波電臺。電臺輸入源為3組不同的音頻數(shù)據(jù)。采集參數(shù)如表1所示，采集環(huán)境為戶外，常溫，發(fā)射機(jī)與接收機(jī)間距200 m。

表1 采集信號參數(shù)

發(fā)射機(jī)類型短波超短波帶寬/MHz0.10.15調(diào)制AMFM采樣率/MHz0.320.48采樣點3.84e75.76e7

需要補(bǔ)充的是用來回歸擬合的CNN子網(wǎng)絡(luò)使用模擬數(shù)據(jù)和真實數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練，在RFF-BCNN的訓(xùn)練過程中這部分網(wǎng)絡(luò)參數(shù)不再參與訓(xùn)練。

3.2 實驗結(jié)果與分析

3.2.1 識別性能與信噪比的關(guān)系。

信噪比是影響分類準(zhǔn)確性最常見的因素，在實驗1中，對于模擬數(shù)據(jù)集，本文比較了不同方法在不同信噪比下的識別性能。圖5比較了模擬數(shù)據(jù)集在0～20 dB信噪比下的識別性能，網(wǎng)絡(luò)訓(xùn)練配置如表2所示，在本次實驗中各個方法均有足夠的訓(xùn)練樣本。包括：① 本文所提模型RFF-BCNN，② 1D-CNN模型[10]，③ 對雙譜直方圖特征進(jìn)行分類，使用SVM分類器，④ 對希爾伯特-黃譜特征[18]進(jìn)行分類，使用SVM分類器，⑤ 使用精確的雙譜直方圖特征代替回歸子網(wǎng)絡(luò)的方法的識別性能。從圖5中可以看出，深度學(xué)習(xí)方法相對于特征提取方法在信噪比降低時的性能衰減更小，并且在各個信噪比下深度學(xué)習(xí)方法都表現(xiàn)出了更高的識別率。而由于使用射頻指紋特征輔助網(wǎng)絡(luò)訓(xùn)練，RFF-BCNN相對于1D-CNN[10]有2%～5%的性能提升。通過①和⑤的對比可以看到，回歸子網(wǎng)絡(luò)在對性能幾乎沒有影響的情況下，將特征提取和分類網(wǎng)絡(luò)并行，提高了計算效率。

圖5 不同信噪比下的SEI性能

表2 網(wǎng)絡(luò)訓(xùn)練配置

網(wǎng)絡(luò)配置真實數(shù)據(jù)模擬數(shù)據(jù)類別數(shù)55數(shù)據(jù)集大小5000050000訓(xùn)練集大小500～450025000batchsize100200模糊度門限ξ1/6-學(xué)習(xí)率0.0050.005迭代步長100100

3.2.2 不同訓(xùn)練集大小下的識別性能

在實驗2中，使用了真實采集的數(shù)據(jù)來展示RFF-BCNN在少量標(biāo)簽訓(xùn)練樣本下的識別性能，網(wǎng)絡(luò)訓(xùn)練配置如表2所示。

在短波數(shù)據(jù)集以及超短波數(shù)據(jù)集下，比較了①本文所提出的RFF-CNN算法、②僅使用真實標(biāo)簽的RFF-CNN算法、③1D-CNN方法和④基線BCNN方法，實驗結(jié)果如圖6所示。

(a)超短波數(shù)據(jù)集

(b)短波數(shù)據(jù)集圖6 不同訓(xùn)練集規(guī)模下的識別性能

圖6中橫坐標(biāo)表示初始訓(xùn)練集規(guī)模，縱坐標(biāo)表示識別準(zhǔn)確率。從圖中可以明顯看出，不論是在超短波還是短波數(shù)據(jù)集上，各個算法的識別性能隨著訓(xùn)練集規(guī)模的變化表現(xiàn)出基本相同的變化趨勢，即隨著訓(xùn)練集規(guī)模的增大識別率也在逐漸升高。由于BCNN優(yōu)秀的泛化性能，其在小規(guī)模訓(xùn)練集下的識別率性能要優(yōu)于1D-CNN。而對于僅使用真實標(biāo)簽的RFF-BCNN，由于有著射頻指紋特征作為網(wǎng)絡(luò)訓(xùn)練的輔助，并且回歸擬合指紋特征的子網(wǎng)絡(luò)不受訓(xùn)練集規(guī)模影響，其達(dá)到性能閾值所需要的訓(xùn)練集規(guī)模遠(yuǎn)小于普通的深度學(xué)習(xí)方法。而在具有相同的初始訓(xùn)練集規(guī)模的情況下，半監(jiān)督學(xué)習(xí)相當(dāng)于提升了訓(xùn)練集的規(guī)模，所以在初始訓(xùn)練集規(guī)模很小的情況下，RFF-BCNN表現(xiàn)出遠(yuǎn)優(yōu)于其他方法的識別性能。

4 結(jié)束語

提出了一種新型的用于SEI的半監(jiān)督深度學(xué)習(xí)算法(RFF-BCNN)。基于BCNN模型，結(jié)合傳統(tǒng)特征提取方法以及半監(jiān)督的優(yōu)點，將射頻指紋特征提取融入到深度學(xué)習(xí)框架中，并且通過基于模糊度的半監(jiān)督學(xué)習(xí)方法利用了無標(biāo)簽樣本。在模擬和真實數(shù)據(jù)集上的實驗表明，在有標(biāo)簽訓(xùn)練樣本集規(guī)模較小時，RFF-BCNN相較于1D-CNN模型有著5%～20%的性能提升。