王愛麗 張佳煒 姜開元 吳海濱 巖崛祐之




摘要:隨著人工智能技術的快速發展,卷積神經網絡越來越多地應用到通信信號調制識別領域。針對數字信號在低信噪比的識別準確率較低的問題,采用InceptionResNetV2網絡與遷移適配相結合的方法,研究了一種調制識別模型,稱之為InceptionResnetV2-TA,對MPSK信號的調制方式進行識別。結果表明,信噪比為3 dB 9t,1nceptionResnetV2-TA對BPSK的識別率達到99.33%,比次優模型InceptionResNetV2高出3%,,對QPSK的識別率達到95.33%,比InceptionResNetV2高出2%。對8PSK的識別率達到86.33%,比InceptionResNetV2高出5%。綜上,結合3遷移適配的In-ceptionResnetV2-TA,對BPSK、QPSK和8PSK在低信噪比的識別準確率高于其他對比方法。同時驗證了這種調制識別模型的有效性。
關鍵詞:調制識別;卷積神經網絡;遷移適配InceptionResNetV2
DOI:10.15938/j.jhust.2021.05.013
中圖分類號:TP391.4 文獻標志碼:A 文章編號:1007-2683(2021)05-0097-07
0 引言
無線通信技術的發展,經歷了由模擬到數字、由單一到多元的多個階段,針對不同的應用場景,隨之衍生出多種不同類型的信號調制方式。如今無線通信手段日趨多樣化,電磁環境日漸復雜。在協作通信條件下,確定信號的調制方式是獲取通信信號內容的基礎;在非協作環境中,調制識別作為信號檢測與信號解調之間的一項技術,其主要目的是確定待檢信號的調制方式,也是后續估計待檢信號參數(如載波頻率、碼元速率等)的決定性前提。調制識別在民用與軍事領域有著廣泛的應用。
近年來,深度學習被引入到數字信號調制識別的研究中。牛國慶等[1]提出了一種將反向傳播神經網絡和決策樹相結合的調制識別技術,該技術具有較高的平均識別率。黃媛媛等[2]通過構建深度置信網絡,實現了對通信信號的調制識別。侯濤等[3]提出了一種基于深度學習的通信信號調制識別方法。該方法通過設計深層神經網絡模型解決了端到端信號識別問題,從而簡化了人工特征提取的繁瑣過程。Peng等[4]提出以網格拓撲的形式表示數據,并與卷積神經網絡結合以完成調制信號的分類。Wang等[5]提出了一種基于星座圖的卷積神經網絡識別算法來識別不同信號的調制方式。彭超然等[6]提出了一種基于深度神經網絡的調制識別方法。該方法對接收到的信號進行預處理,生成星座圖,并使用星座圖的形狀作為深度卷積神經網絡的輸入。利用訓練后的網絡,模型可以對調制信號進行分類和識別。
另外,Yang等[7]使用聚類算法提取和優化信號的特征參數,通過分層算法訓練支持向量機,提高了收斂速度和低信噪比時的識別性能,從而實現了信號調制識別。Li等[8]提出了一種使用聚類算法提取信號的特征參數,并通過可變梯度校正算法訓練神經網絡,以實現信號的調制識別。Xu等[9]提出了一種基于星座圖的模糊分類算法,該算法以星座圖為輸入,通過模糊邏輯分析和處理系統對其進行處理,實現對各種數字信號的調制識別。
上述算法的共同問題是在低信噪比下識別率低。因此,本文在InceptionResNetV2網絡中引入了遷移適配的思想,稱為InceptionResnetV2-TA,該網絡通過深層和并行網絡結構充分提取輸入特征,以識別MPSK信號的調制方式,并提高在低SNR環境中信號的識別精度。
現有方法中多數是利用數學公式推導求得特征參數,再將特征參數送入分類器中進而對信號的調制方式進行識別,計算復雜度較高,且識別結果會因為特征參數的選取而受到影響,特征參數選擇不合理會對結果帶來偏差。因此這類方法在識別性能方面不穩定,沒有用來作為對比方法。而本文選取的對比方法主要為深度學習的方法。這幾種方法具備自主學習機制,能夠自動提取數據集樣本中攜帶的特征向量并進行充分學習,在識別性能方面要優于現有方法。因此選取這幾種方法進行對比會更有價值,也更能突顯本文設計的方法的優勢。
1 算法概述
InceptionResnetV2-TA算法包括3個步驟:預處理,特征提取和識別。InceptionResnetV2-TA算法的框圖如圖1所示。
在預處理操作中,通過正交解調待檢測的信號來獲得信號星座圖。在特征提取操作中,采用遷移適配的思想,從ImageNet數據集中隨機選擇12類圖像樣本,將其發送到InceptionResNetV2網絡完成訓練,再保存訓練權重。最后,將星座圖送入存儲權重的網絡中進行進一步訓練,以用于獲取星座中的幅度和相位特征。在識別操作中,將網絡學習到的有效特征送到分類器,從而完成對數字信號調制方式的識別。
2 數字信號預處理
通過采樣,量化和編碼3個過程,將發送端的模擬信號轉換為基帶信號,然后通過頻帶發送到達接收端。由于該信號在傳輸過程中攜帶噪聲,因此在接收端獲得的信號是一個有噪聲的信號,其寫法如下:式中;Am為第m個符號的幅度值;Ts為符號間隔;ejθm為星座點;fc為信號的載波頻率;θi為載波相位差且g(t)是矩形脈沖函數;N為觀察時間T中的符號數;n(t)為噪聲。
在數字通信中,星座圖是觀察信號幅度和相位的最直接方法。通過正交解調接收信號獲得。接收器接收到信號s(t)后,將信號分成兩個通道,并與兩個相位差為it/2的載波相乘,然后通過低通濾波器對高頻分量進行濾波。最后,獲得兩個相對獨立的分量:同相(1)分量和正交(Q)分量。這兩個分量彼此正交并且是不相關的。這兩個分量通常以復數形式表示為a+jb,與復數平面上的一個點相對應,這就是一個星座點。此外,每種類型的振幅相位調制信號具有用于表示這種調制方法的對應點集,并且這些點集形成表示該信號的星座圖。模量表示信號的振幅變化,而相位表示信號的相位變化。將星座圖做歸一化處理,再送入InceptionResNetV2網絡以完成特征提取操作。
3 Inception ResNetV2網絡
傳統的神經網絡結構都通過增加網絡深度來提高訓練效果,但是增加層數會導致過度擬合,梯度消失,梯度爆炸等問題。解決方案是將完整連接更改為稀疏連接,但是硬件會優化密集矩陣,因此對最優局部稀疏結構計算密集局部矩陣結構,得到其初始結構。InceptionResNetV2網絡來自GoogLeNet,其中的Inception模塊可以更有效地利用計算資源,并且可以在相同計算量下提取更多特征,從而提高訓練效果。通過級聯操作,可以聚合具有不同內核比例的特征圖,以提高網絡對比例和網絡寬度的適應性,并提高資源利用率。由于所有卷積核都采用前一層作為輸入,5×5卷積核的計算量太大,因此前一層的輸出將合并到網絡套網絡的方法中。
Inception模塊使用1×1卷積有兩個目的:一是在相同大小的感受野上疊加更多的卷積,提取星座圖中更豐富的特征;另一個目的是減少維數和計算復雜度。在進行3×3和5×5卷積之前,使用網絡中的1×1卷積進行降維。其次,對多個大小的卷積執行聚合操作,通過將稀疏矩陣分解為稠密矩陣來提高算法的收斂速度。
在傳統的卷積層中,輸入與某一尺度的卷積核進行卷積(如3×3),輸出數據為固定維數(如256個特征),特征均勻分布在3×3的卷積核中。In-ception模塊提取星座圖中的幅度和相位特征在多個不同的尺度上映射,不再均勻分布。相反,具有高相關度的特征被組合到一起,低相關度或不相關的特征被弱化,使得輸出特征冗余相對較小,收斂速度較快。同時,網絡還增加了批處理規范化(BN)層。當BN層作用于神經網絡的某一層時,可以對每個小批量星座圖進行歸一化處理,避免梯度消失[16]。
x=Norm(x,χ)(5)
另外,網絡在原始基礎上添加了殘差結構。也就是說,將直連通道添加到網絡,使星座圖中的原始輸入信息可以直接傳輸到下一層,從而加快訓練速度,防止梯度分散,降低網絡復雜性并確保網絡深度,從而不會降低性能[17]。ReLU被用作激活函數,并且網絡模型最后的全連接層用softmax完成分類。InceptionResNetV2網絡架構如圖2所示。
4 結合遷移適配的MPSK信號調制識別
遷移學習是機器學習的重要分支,其目的是利用數據、任務或模型之間的相似性,將從源項目學到的知識遷移到目標項目。與機器學習相比,遷移學習的優點是:在數據分布中,可以服從不同的分布;在數據標注中,不需要大量的數據標注;在模型中,從訓練模型獲得的特征和權重可用于訓練新模型和完成新任務[10-12]。
遷移學習主要分為四類:基于樣本的、基于特征的、基于模型的和基于關系的遷移學習[13-15]。本文將InceptionResNetV2網絡與基于特征的遷移學習相結合,即從ImageNet數據集和星座圖中共享權重矩陣來進行微調,并將遷移適配方法應用于網絡。
基于特征的傳遞自適應方法進一步分為邊緣分布自適應和條件分布自適應。在邊緣分布自適應中,為了減小邊緣分布Pα(xα)和Pβ(xβ)之間的差異,利用經驗最大平差(MMD)衡量不同概率分布的適應程度。最小化Pα(xα)和Pβ(xβ)之間的距離以進行調整。MMD定義如下:
φ:X→Ω是核空間中的無窮大非線性特征圖。根據泰勒定理,可以將φ擴展為無窮級多項式級數,從而適應不同概率分布下的各階統計量。
在條件分布自適應中,最小化條件分布Qα(yα|xα)和Qβ(yβ|xβ)之間的差異對于分布自適應的穩定性非常重要。直接標注學習用于獲得星座圖中的預標記,然后獲得條件分布距離。當分類器未知時,類后驗概率Qα(yα|xα)和Qβ(yβ|xβ)難以擬合。然后,類條件分布Qα(yα|xα)和Qβ(yβ|xβ)匹配。利用星座圖中預先標記的dB值和ImageNet數據集中的實際標簽,星座圖γ∈{1,…,12}中的每一類可以用來獲得類條件分布Qα(xα|yα=γ)和Qβ(xβ|yβ=γ)。其中Qα(xα|yα=γ)和Qβ(xβ|yβ=γ)的距離可以使用式(3)得到。式中:Dα(γ)=}xi|xi∈Mα∧y(xi)=γ}為ImageNet中屬于γ類別的圖像集合;y(xi)為圖像xi的實際標簽;Dβ(γ)={xj;xj∈Mβ∧y(xj)=γ|為星座圖中屬于γ類別的圖像集合,而y(xj)是星座圖xj的dB值。合并式(2)和(3),可以得到自適應正則項:
通過最小化正則項,這兩種分布的任意階矩估計都可以適用于無窮階非線性特征映射。給定已標記的ImageNet數據集Dα={(x1,y1),…,(xn,yn)}和未標記的星座圖數據集Dβ={xn+1,yn+1},滿足Fα=Fβ,Hα=Hβ,P(xα)≠P(xβ),Q(yα|xα)≠P(yβ|xβ)。由于星座圖中有12類圖像,因此在ImageNet數據集中隨機選擇12類圖像,將其送入Inception-ResNetV2網絡以完成訓練任務。根據遷移適配原理,將通過訓練獲得的權重矩陣應用于星座圖中。
InceptionResNetV2網絡在學習特征F或分類模型f的同時,將邊緣分布P(xα)和P(xβ)最小化,并使條件分布Q(yα|xα)與P(yβ|xβ)之間的差異最小化。利用ImageNet數據集Dβ訓練Inception-ResNetV2網絡,再將訓練之后的網絡應用到星座圖Dα之中。與直接使用ImageNet數據集訓練網絡相比,本文在ImageNet數據集中選擇了與星座圖中類別數相同的圖像來完成訓練任務。然后,將所得的權重矩陣用于訓練星座圖。最后,利用星座圖的正確分類來提高MPSK信號調制方式的識別精度。
本文利用了這種卷積神經網絡去識別PSK信號的調制方式。因為卷積神經網絡具有自學習機制,能夠對數據集樣本中的特征向量進行自主學習并提取。本文所設計的InceptionResNetV2-TA方法,是在InceptionResNetV2方法基礎上加入了遷移適配,根據遷移識配原則先對網絡模型進行預訓練,以此獲得網絡權重優化之后的訓練模型。再利用該模型對PSK信號樣本進行訓練,自主學習樣本中攜帶的特征向量,進而對PSK信號的調制方式進行識別。
本文提出的這種方法相比于沒有結合遷移適配原則的InceptionResNetV2方法而言,優勢在于,通過預訓練可以獲得權重矩陣得到優化的網絡模型。而利用InceptionResNetV2方法直接訓練PSK信號時,網絡模型的初始權重是隨機生成的,沒有得到優化,因此會影響最終的識別結果。
傳統方法,如基于高階累積量的方法,需要通過專家先推導復雜的數學公式得到特征參數,再對特征參數進行設定閾值,根據閾值對PSK信號的調制方式進行分類。而閾值是依靠經驗來設定的,因此會對識別結果帶來影響。
5 實驗結果和分析
為了驗證本文所提算法的有效性,利用Matlab仿真得到相移鍵控信號,以獲得BPSK,QPSK和8PSK在6種信噪比(范圍為1至6dB)下的星座圖。圖3至圖5是SNR為4dB時三種信號的星座圖。同時,搭建了Tensorflow-1.8.0+Keras-2.2.4框架來訓陳InceptionResNetV2-TA網絡。實驗所需的數據集包括訓練集和測試集。通過訓練網絡,可以對不同信噪比下的三種信號的星座圖進行分類,從而正確識別出MPSK信號的調制方式。本節采用InceptionResNetV2-TA算法識別MPSK信號的調制方式。同時,將InceptionResNetV2[18],Incep-tionV3[19],ResNet50[20],DenseNet121[21]和準混和似然比(QHLRT-UB)[22]作為對比算法,評價指標是對低信噪比下三種信號的星座圖的識別率。
這幾種方法在其他領域的分類問題中被廣泛使用并且有很好的表現。其中,InceptionResNetV2這種深度卷積神經網絡模型,對圖像分類表現優異,通過數據增強方法對數據集BreaKHis進行實驗,識別率基本達到80%以上,比大部分已有研究成果效果更優。
InceptionV3這種網絡能夠對6種球類圖像進行分類。通過與其他分類器進行比較后發現,這種網絡在六個類別上成功地達到了96.64%的平均分類準確率,高于其他幾種分類器。
表1顯示了通過6種算法獲得的3種信號的識別準確率的結果。從表中可以看出,Inception-ResNetV2-TA算法對3種信號的星座圖的識別率最高,識別效果明顯優于其他幾種方法。在表1中,當SNR為3dB時,BPSK、QPSK、8PSK的識別率達到99.33%、95.33%和86.33%,比InceptionResNetV2算法分別提高了2.67%、2.00%和5.00%。
6 結論
本文提出了InceptionResNetV2-TA算法,通過將遷移適配與InceptionResNetV2相結合,提高了MPSK信號的識別準確率。實驗表明,該算法在相移鍵控信號調制方式的識別中具有良好的識別性能。特別是在低SNR下,對BPSK、QPSK和8PSK三種信號調制方式的識別率高于其他對比算法。今后的工作重點是在低SNR下識別更多類型的數字信號。
參考文獻:
[1]牛國慶,姚秀娟,閆毅,等.基于神經網絡的數模混合信號調制識別算法[J].計算機工程,2016,42(4):101.
[2]黃媛媛,張劍,周興建,等.應用深度學習的信號解調[d].電訊技術,2017,57(7):741.
[3]侯濤,鄭郁正.基于深度學習的通信信號調制方式識別[J].無線電工程,2019,49(9):796.
[4]PENG Shengliang,JIANG Hanyu,WANG Huaxia.ModulationClassification Based on Signal Constellation Diagrams and DeepLearning[J].IEEE Transactions on Neural Networks and Leam-ing Systems,2019,30(3):718.
[5]WANG Yu,LIU Miao,YANG Jie,et al.Data-Driven DeepLearning for Automatic Modulation Recognition in Cognitive Ra-dios[J].IEEE Transactions on Vehicular Technology,2019,68(4):4074.
[6]彭超然,刁偉鶴,杜振宇.基于深度卷積神經網絡的數字調制方式識別[J].計算機測量與控制,2018,26(8):222.
[7]YANG Faquan,YANG Ling,WANG Dong,et al.Method ofModulation Recognition Based on Combination Algorithm of K-means Clustering and Grading Training SVM[J].IEEE Transac-tions on China Communications,2018,15(12):55.
[8]LI Zan,YANG Faquan,LI Hongyan,et al.Method of NeuralNetwork Modulation Recognition Based on Clustering and Polak-Ribiere Algorithm[J].IEEE Transactions on Journal of SystemsEngineering and Electronics,2014,25(5):742.
[9]崔旭,熊剛.一種基于星座圖模糊分析的數字調制識別方法[J]·通信技術,2016,49(9):1155.
[10]PAI-HENG H,FENG-JU C,YEN-YU L.Learning Discrimina-tively Reconstructed Source Data for Object Recognition with FewExamples[J].IEEE Transactions on Image Processing,2016,25(8):3518.
[11]SHAG Ling,ZHU Fan,LI Xuelong.Transfer Learning for VisualCategorization:A Survey[J].IEEE Transactions on Neural Net-works and Learning Systems,2015,26(5):1019.
[12]YANG Liu,JINGLiping,YU Jian,et al.Learning TransferredWeights From Co-Occurrence Data for Heterogeneous TransferLearning[J].IEEE Transactions on Neural Networks and Learn-ing Systems,2016,27(11):2187.
[13]LONG Mingsheng,WANG Jianmin,CAO Yue,et al.DeepLearning of Transferable Representation for Scalable Domain Ad-aptation[J].IEEE Transactions on Knowledge and Data Engi-neering,2016,28(8):2027.
[14]SHAO Kun,ZHU Yuanheng,ZHAO Dongbin.StarCraft Mi-cromanagement with Reinforcement Learning and CurriculumTransfer Learning[J].IEEE Transactions on Emerging Topics inComputational Intelligence,2019,3(1):73.
[15]LONG Mingsheng,WANG Jianmin,SUN Jiaguang,et al.DomainInvariant Transfer Kernel Learning[J].IEEE Transactions onKnowledge and Data Engineering,2015,27(6):1519.
[16]IOFFE S,SZEGEDY C.Batch Normalization:Accelerating DeepNetwork Training by Reducing Internal Covariate Shift[C]//Pro-ceedings of the 32nd International Conference on Machine Learn-ing.2015,37:448.
[17]HE Kaiming,ZHANG Xiangyu,BEN Shaoqing,et al.Deep Be-sidual Learning for Image Recognition[C]// IEEE Transactions onCVPR,2016:770,
[18]劉靖雯;黃理燦.基于Inception-ResNet-V2的乳腺癌病理圖像識別研究[J].軟件導刊,2020,19(5):225.
[19]Ketan Joshi,Vikas Tripathi,Chitransh Bose,et al.Robust SportsImage Classification Using InceptionV3 and Neural Networks[J].Computer Science.2020,167:2374.
[20]王恒,李霞,劉曉芳,等.基于ResNe150網絡的乳腺癌病理圖像分類研究[J].中國計量大學學報,2019,30(1):78.
[21]蔣斌,涂文軒,楊超,等.基于DenseNet的復雜交通場景語義分割方法[J].模式識別與人工智能,2019,32(5):472.
[22]HAMEED F,DOBRE 0,POPESCU D.On the Likelihood-basedApproach to Modulation Classification[J].IEEE Transactions onWireless Communications,2009,8(12):5884.
(編樣:溫澤宇)
收稿日期:2020-09-20
基金項目:國家自然科學基金(61671190).
作者簡介:王愛麗(1979-),女,副教授,碩士研究生導師;張佳煒(1995-),男,碩士研究生.
通信作者:吳海濱(1977-),男,教授,博士研究生導師,E-mail:woo@hrbust.edu.cn.