基于深度神經網絡的短波特定信號識別研究*

王 鵬，黃偉強

（廣州海格通信集團股份有限公司，廣東 廣州 510663）

0 引言

短波天波通信是典型時變色散信道，不僅具有多徑延時、衰落、多普勒頻移等特性，其接收信號的信噪比等參數(shù)也是實時變化的。此外短波信號種類繁多，各信號間有一定的相似性，這都對短波特定信號的識別造成了較大影響。

短波特定信號識別實質上是典型的模式識別問題，即首先通過對信號樣本進行預處理實現(xiàn)信號特征提取，其次通過特征統(tǒng)計和比對實現(xiàn)特定信號識別。特定信號的識別方法大致可以分為時域匹配法[1]、頻域匹配法[2]和時頻域匹配法[3]3 類。目前，已有很多研究結合時頻分布圖像，利用圖像增強、圖像分割、形態(tài)學去噪等圖像處理方法對信號進行檢測和識別[4-9]，但在低信噪比和信道強干擾情況下效果欠佳，提取的特征不能很好地表征受信道強干擾的信號。近年有研究利用獨立卷積神經網絡（Convolutional Neural Networks，CNN）、雙向長短時記憶（Bi-directional Long Short Term Memory，Bi-LSTM）網絡[10-11]和深度神經融合網絡[12-13]將同相正交（In-phase/Quadrature，I/Q）信號作為序列處理來識別調制種類，在I/Q 信號序列較長時識別概率較高。還有研究利用I/Q 信號序列同時識別調制方式和信道編碼類型的方式來識別信號種類，這種方法在信號質量較好時取得了良好效果[14]。

本文基于短波信號本身的幀特征，使用CNN、LSTM 和注意力機制搭建深度神經融合網絡模型對短波基帶信號直接進行檢測識別。

1 短波波形識別建模

根據(jù)短波天波傳播特性可知，其信號幀結構中都含有同步幀和發(fā)射電平起控幀，如圖1 所示。同步幀（也稱為報頭幀）是指在信號發(fā)送的幀結構數(shù)據(jù)中一段具有特定規(guī)律的數(shù)據(jù)碼，一般在數(shù)據(jù)幀的前面部分，起到幀同步、符號同步、載波同步等作用。發(fā)射電平起控幀用來抵消功放功率上升時間，以保證同步幀可以滿功率輸出。

圖1 短波信號幀結構

不同種類的短波信號的同步幀也不同。相同同步幀在不同調制方式下的特征圖呈現(xiàn)出不同的特性，然而即使在相同調制方式下，相同同步幀若具有不同的數(shù)據(jù)幀結構也會產生不同的特性。因此，本文提出一種基于同步幀注意力機制的卷積神經網絡結構，用于特定信號類型的識別。

1.1 一維卷積神經網絡

相比于傳統(tǒng)的二維基帶I/Q 波形，利用一維基帶信號進行特征處理的運算量更低。因此本節(jié)構造了尺寸相對較小的一維卷積模塊對一維波形的短波信號結構信息進行提取，以降低計算成本，并在堆疊后實現(xiàn)了高效的特征提取。

設接收的短波信號波形序列為{X(n):n=1,…,N}。在第一個卷積層中，構造的K個尺寸為M的一維卷積核可表示為{Wkm:m=1,…,M,k=1,…,K}，則該層有N個輸入節(jié)點和K個輸出特征序列，其中，Wkm為第m個輸入節(jié)點和第k個輸出特征序列之間的連接權值，又設bk為第k個輸出特征序列對應的偏置值，那么，第k個輸出特征序列是輸入序列的一維非線性卷積變換，可表示為：

式中：f()為非線性激活函數(shù)，一般選用ReLU 函數(shù)。類似于二維卷積，一維卷積在計算同一個輸出特征序列時采用相同的連接權值來減少參數(shù)數(shù)量，且每次卷積僅取部分輸入節(jié)點進行運算，即通過局部連接和參數(shù)共享來提高特征提取的效率和質量。經過第一個一維卷積層后，輸出的K個特征序列集合為[S1=S1l,…,Skl]，[Sk=Skl,…,SkN]，k=1,…,K。之 后，利用尺寸為1×q的一維最大值池化對每個特征序列進行降維操作，得到新的特征映射矩陣。最后，再將多個卷積層堆疊形成級聯(lián)結構，構建深度卷積網絡對輸入的結構特征進行層次化變換提取。

1.2 雙向長短記憶網絡

LSTM 對時間序列的預測只與前向時間段的信息相關，而在實際的短波信號時序數(shù)據(jù)集中，對一時段的信號數(shù)據(jù)預測不僅受到前一時刻序列的影響，而且后向時段的數(shù)據(jù)特征變化也同樣能夠影響當前時段的模型輸出。雙向連通的Bi-LSTM 網絡是由兩個上下反向疊加的單向LSTM 連接組成，模型輸入包含預測時間之前和之后的時間序列，因此能夠同時處理正向和反向的時間序列數(shù)據(jù)。Bi-LSTM網絡結構如圖2 所示。圖中，ht和ht'分別指代t時刻的向前和向后向量，yt為輸出序列。W1～W6為各層網絡之間信息連接的權重矩陣。

圖2 雙向Bi-LSTM 網絡結構

1.3 基于殘差網絡的注意力模塊

為了學習更加具有判別性的局部同步幀特征，在殘差網絡的基礎上引入卷積塊注意力模塊，即在每個殘差block 中插入注意力機制，具體做法如圖3 所示，在原來輸出的特征圖之后，分別插入通道注意力模塊，然后插入空間注意力模塊。

圖3 基于注意力機制的殘差網絡

基于同步幀注意力機制的卷積神經網絡結構依次使用通道注意力模塊和空間注意力模塊得到特征圖，因此模型可以分別在通道和空間上學到幀同步頭的位置及特征。

注意力機制特征優(yōu)化原理如圖4 所示，將樣本標簽表示為Yi，將故障特征表示為Ki，Ki={Ki1,Ki2,…,Kij}，其中，i表示不同的樣本，Kij(j=1,2,…,n)為j個不同特征。通過全連接神經網絡計算由每個特征Kij所得到的特征權重參數(shù)Wij，用來表示由Kij所得的目標值Yij與Yi的相關性，并經過Softmax 歸一化處理，得到所有特征權重和為1 的概率分布，并對原始特征Kij進行加權，得到優(yōu)化后的特征矩陣。

圖4 注意力機制特征優(yōu)化原理

1.4 短波特定信號識別模型

在模型設計上，基于CNN、LSTM 和注意力機制搭建深度神經網絡模型。使用該模型，經過3 層全連接層后的輸出結果是對輸入的短波數(shù)據(jù)的信號種類的最終預測，如圖5 所示。

圖5 結合CNN、LSTM 與注意力機制結構

首先，將短波信號進行預處理之后輸入卷積層得到的每幀的高級表征拼接成時間序列數(shù)據(jù)，并交給LSTM 來處理。

其次，使用注意力池化層，根據(jù)LSTM 的輸出（Hidden State）來計算權重并歸一化，將權重系數(shù)與LSTM 的輸出矩陣相乘作為全連接層的輸入信息，通過加權求和的方式，就能很好地抓住與上下文相關的部分。而從接收的實際信號看，信號中TLC 部分由于功放的起控時間慢不能全部發(fā)出來，即接收到的信號起始符號不完全一致，因此嘗試把LSTM替換成雙向的（Bidirectional）LSTM，它可以被看作是兩層LSTM，一層從信號起始點開始輸入，一層從信號末端開始輸入，在t時刻分別保存兩個狀態(tài)值At和，最終該時刻的輸出（hidden state）由兩個狀態(tài)值共同決定，這樣就聯(lián)系了信號的上下文信息。

再次，在注意力層其實是引入了一個外部的權重得分，對LSTM 或Bi-LSTM 中每個時刻的輸出做了一個重要度評分。由于這里LSTM 和Bi-LSTM 的本質還是對時間序列數(shù)據(jù)提取出高級特征表示，而不是實現(xiàn)所有的幀級別（frame-level）的特征對信號種類識別都有同樣的貢獻，因此注意力機制是幫助尋找哪些時刻的輸出（hidden state）是強特征，從而得出一個高層的具有判別性的表征，使得模型專注于重要的部分。

最后，把這些高級表征傳入一個含有512 個節(jié)點的全連接層，通過幾層全連接層來進行最終的決策識別。

2 識別實驗結果及分析

2.1 實驗數(shù)據(jù)集

選擇Codan 16 音[15]（C16）、XK852[16]（X5）、Mil-Std-188-110A[17]（MS110A）、Link11A Clew[18]（LC）、Link11A Slew[18]（LS）這5 種典型信號的真實樣本，進行信號種類的識別。

（1）MS110A、XK852、Link11A Slew。這3 種信號屬于串行單音，其載波頻率均為1 800 Hz，調制方式同為8PSK，符號率為2 400。XK852 與Link11A Slew 的發(fā)射電平起控幀（TLC）和同步幀相同，MS110A 的發(fā)射電平起控幀（TLC）和同步幀與XK852、Link11A Slew 不同。這3 種信號的空口接收后的時頻圖如圖6、圖7 和圖8 所示。

圖6 Link11A Slew實際信號時頻圖

圖7 XK852實際信號時頻圖

圖8 MS110A 實際信號時頻圖

（2）Codan 16 音和Link11A Clew。Codan 16 音是并行多音信號，其兩個相鄰的子載波間隔為112.5 Hz，共16 個子載波。Link11A CLEW 也是并行多音信號，14 個相鄰的子載波間隔為110 Hz、605 Hz 和2 915 Hz，共16 個子載波。這3 種信號的空口接收后的時頻圖如圖9、圖10 所示。

圖9 Codan 16 音實際信號時頻圖

圖10 Link11A Clew 實際信號時頻圖

采集整理并標記這5 類實際信號樣本，樣本數(shù)量如表1 所示。

表1 5 類信號樣本的數(shù)量

實際信號被采集后，其數(shù)值范圍分布差異很大。為了更好地適應深度學習網絡模型的計算，需要對信號進行預處理，主要包含：

（1）約束輸入長度處理：實際信號的采樣率為9 600 波特，為與同步幀長相匹配，模型輸入長度設定為2 000 個樣點。

（2）信號歸一化：本文選取了0 均值標準化，輸入Xin與輸出Xout之間的關系為：

式中：μ為輸入序列的均值；σ為輸入序列的標準差。

2.2 訓練結果分析

首先為了對比融合網絡的效果，設置了5 個對照實驗：第1 個是去除注意力層和LSTM 層，僅使用CNN 神經網絡模型，將CNN 提取的特征經過一個全局平局池化層之后輸入3 層全連接層中；第2個是去除了卷積層和注意力層，僅使用LSTM 的神經網絡模型，將LSTM 的最后時刻的狀態(tài)向量輸入3 層全連接層中；第3 個是去除了注意力層，僅使用CNN+LSTM 的神經網絡模型，將LSTM 的最后時刻的狀態(tài)向量輸入到3 層全連接層中；第4 個和第5 個都是使用結合了CNN、LSTM 和注意力機制的網絡，第4 個使用的是LSTM 網絡，第5 個使用的是Bi-LSTM 網絡。

實驗使用了Dropout、Early Stopping 等手段防止模型過擬合，并使用均方誤差作為損失函數(shù)。此外，在實驗中為了避免隨機性影響結論的穩(wěn)定性，每次模型測試都進行了10 次交叉驗證。

采用不同的網絡結構對信號種類數(shù)據(jù)集進行訓練，得到了不同網絡結構訓練和驗證的損失值曲線，如圖11 和圖12 所示。圖中橫軸表示訓練的周期數(shù)，縱軸表示損失值的大小。從圖中可以看出，不管是訓練集還是測試集，結合CNN、LSTM 和注意力機制網絡的擬合效果都是最好的，主要表現(xiàn)為更小的損失值。而僅使用LSTM 網絡的擬合效果最差。

圖11 不同網絡的訓練損失函數(shù)對比

圖12 不同網絡的驗證損失函數(shù)對比

不同網絡的訓練準確率如圖13 和圖14 所示。可以明顯看出，CNN+LSTM 結合注意力機制的模型在各個評價指標上都比僅使用CNN 或LSTM 的模型表現(xiàn)好很多。最終的訓練結果是CNN+Bi-LSTM 結合注意力機制的模型對5 種信號達到了99%的識別準確率。

圖13 不同網絡的訓練準確率對比

圖14 不同網絡的驗證準確率對比

2.3 測試結果分析

圖15 顯示了5 種不同的模型對測試樣本的識別準確率的混淆矩陣。圖中橫軸表示模型的預測類別，縱軸表示輸入信號的真實類別，對角線代表每個信號種類對測試集的平均識別準確率。

圖15 不同網絡模型的測試準確率對比

從圖中可以看出，5 種模型對Link11A Clew 的識別準確率都很高，基本沒有和其他類型混淆，這是因為Link11A Clew 的信號結構與其他信號種類的差別很大。除了CNN+Bi-LSTM+注意力模型，其他模型對Link11A Slew、MS110A 和XK852 的識別效果都相對較差，且錯誤識別的樣本都存在相互混淆，這是因為串行單音PSK 調制信號區(qū)分沒有并行信號之間那么明顯，且由于Link11A SLEW 與XK852 的同步幀相同，僅后面數(shù)據(jù)部分有差異，因此采用Bi-LSTM 的模型識別效果更好。5種模型對5 種信號（未參加訓練）的識別準確率如表2所示。

表2 不同模型的平均識別準確率

從表2 可以看出，CNN+Bi-LSTM+注意力模型對5 種信號種類的平均識別準確率達到了0.984，高出單一模型2%～6%。

3 結語

本文探索了基于深度神經網絡的短波特定信號識別技術，設計了適用于處理基帶信號的結合CNN、LSTM 和注意力機制的神經融合網絡模型。最后，采用實際信號的訓練樣本和測試樣本，對不同的融合網絡進行訓練，并用不同地理位置上的短波信號測試集進行測試驗證，訓練好的模型達到了預期的目標。本文所提技術相較于傳統(tǒng)短波信號種類識別算法，不需要人為提取信號的特征，計算復雜度相對較低，魯棒性相對更高。