基于時空聯(lián)合與注意力機制的調(diào)制識別研究與實現(xiàn)

摘 要：近年來，深度學習（Ｄｅｅｐ Ｌｅａｒｎｉｎｇ，ＤＬ） 在調(diào)制識別算法上的研究表明了其較傳統(tǒng)方法的優(yōu)越性。通過提取信號的空間或時間特征進行分類通常具有較高準確率，然而針對高階調(diào)制的分類精度卻存在一定偏差。為此，研究并實現(xiàn)了一種基于時空聯(lián)合特征注意力機制的調(diào)制識別算法。該算法在提取信號時空聯(lián)合特征的基礎(chǔ)上加入了一種自注意力機制，有效提升了高階調(diào)制的識別準確率，具有很高的分類精度。同時，基于ＧＮＵ Ｒａｄｉｏ 開發(fā)框架實現(xiàn)，該算法能夠部署于各類軟件無線電嵌入式平臺，具有通用性和實用性。利用ＧＮＵ Ｒａｄｉｏ Ｏｕｔ ｏｆ Ｔｒｅｅ （ＯＯＴ） 模塊與開放神經(jīng)網(wǎng)絡(luò)交換（ＯｐｅｎＮｅｕｒａｌ Ｎｅｔｗｏｒｋ Ｅｘｃｈａｎｇｅ，ＯＮＮＸ），將模型部署在嵌入式設(shè)備中進行ＤＬ 推理。測試表明該算法在軟件定義無線電（ＳｏｆｔｗａｒｅＤｅｆｉｎｅｄ Ｒａｄｉｏ，ＳＤＲ） 平臺下?lián)碛休^高識別準確率和推理速度，對高階調(diào)制信號的分類精度高，同時在嵌入式環(huán)境下的推理與訓練過程具有一致性。

關(guān)鍵詞：時空聯(lián)合；軟件無線電；自注意力機制；高階調(diào)制

中圖分類號：ＴＮ９１１． ７ 文獻標志碼：Ａ

文章編號：１００３－３１０６（２０２４）１２－２９１３－１０

０ 引言

深度學習（Ｄｅｅｐ Ｌｅａｒｎｉｎｇ，ＤＬ）作為機器學習（Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ，ＭＬ）的一個分支，已經(jīng)成功用于解決不同領(lǐng)域的復(fù)雜問題，如圖像處理［１］、自然語言處理［２］和語音識別［３］。近年來，ＤＬ 技術(shù)也被應(yīng)用于無線通信和頻譜感知［４－５］，表明它們在自動調(diào)制分類等任務(wù)中優(yōu)于經(jīng)典算法［６］，并且取得了很好的效果［７－８］。

自動調(diào)制分類是一種在不知道接收信號調(diào)制類型的情況下，自動對信號調(diào)制類型進行分類的過程。過去無線信號的分類和調(diào)制識別一直是通過為特定的信號類型和特征手動制作專門特征提取器來完成的，通過在低維特征空間中使用解析導(dǎo)出的決策邊界或統(tǒng)計學的邊界從中得到嚴格的決策邊界［６］。近年則涌現(xiàn)了許多基于ＤＬ 的調(diào)制識別算法，這些算法本質(zhì)上是多分類的模式識別問題［９－１２］。文獻［１３］的研究表明，ＤＬ 算法可以應(yīng)用于無線電信號的時間序列數(shù)據(jù)樣本，并且以優(yōu)異的性能對調(diào)制信號類型進行分類，獲得的等效精度比使用基于高階矩特征分類器的現(xiàn)有最佳算法靈敏幾倍。文獻［１４－１５］通過提取信號的星座圖特征，并結(jié)合經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)（Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ，ＣＮＮ）對調(diào)制信號分類識別，準確率超過９０％ 。文獻［１６］提取調(diào)制信號的相位和幅度信息，根據(jù)特征將雙向長短時記憶（Ｂｉｄｉｒｅｃｔｉｏｎａｌ Ｌｏｎｇ Ｓｈｏｒｔ ＴｅｒｍＭｅｍｏｒｙ，ＢｉＬＳＴＭ）層串聯(lián)，構(gòu)建了ＢｉＬＳＴＭ 識別模型，識別準確率接近９２％ 。這些研究均表明，在信號調(diào)制類型識別任務(wù)上，ＤＬ 算法具有靈活的自適應(yīng)能力、遷移擴展能力及較高的準確率，相較傳統(tǒng)算法具有優(yōu)越性。

ＤＬ 算法大多通過提取圖像的空間特征或序列的時間特征對調(diào)制信號進行分類［１７］。然而，提取單一特征的算法對某些調(diào)制信號如ＱＰＳＫ、８ＰＳＫ，在低信噪比條件下的分類精度不足，或是在分類時容易將高階調(diào)制信號如１６ＱＡＭ、６４ＱＡＭ 混淆［１３－１５］。文獻［１８ － １９］使用了ＣＮＮ 并聯(lián)ＬＳＴＭ （ＣＮＮ ＰａｒａｌｌｅｌＬＳＴＭ，ＣＰＬ）分別提取信號的空間特征與時間特征，再進行特征融合、分類。這種提取聯(lián)合特征的方法有效提升了分類精度，１０ ｄＢ 條件下能夠達到９５％ ，但仍然存在高階調(diào)制分類精度不足的問題。

為了提高高階調(diào)制信號的識別準確率，提升模型分類精度，本文提出并實現(xiàn)了一種ＣＮＮ 并聯(lián)帶注意力機制的ＬＳＴＭ 網(wǎng)絡(luò)（ＣＰＬ ｗｉｔｈ Ａｔｔｅｎｔｉｏｎ，ＣＰＬＡ）。ＣＰＬ 網(wǎng)絡(luò)提取信號的時間、空間聯(lián)合特征，并在ＬＳＴＭ 前加入了多頭注意力機制，增強模型的全局特征提取能力，擴大全局視野。模型的性能測試結(jié)果表明，相比ＣＰＬ 模型，本文提出的ＣＰＬＡ 對１６ＱＡＭ 與６４ＱＡＭ 兩種高階調(diào)制信號的分類精度提升了２０％ ；針對ＲＭＬ２０１６． １０Ａ 數(shù)據(jù)集中所有高階調(diào)制信號的分類精度提升了１０％ ；１０ ｄＢ 信噪比下的識別準確率提升了５％ 。

同時，通過通用軟件定義無線電（ＳｏｆｔｗａｒｅＤｅｆｉｎｅｄ Ｒａｄｉｏ，ＳＤＲ）技術(shù)，實現(xiàn)了該算法在嵌入式平臺的部署與推理。射頻前端采集信號并在嵌入式板卡上進行數(shù)據(jù)的識別、分類，很大程度上提升了算法的通用性，并且能為認知無線電和信號分類等應(yīng)用領(lǐng)域帶來新的場景。

下文，第１ 節(jié)詳細討論ＣＰＬＡ 模型的結(jié)構(gòu)、每層的輸出特征維度，進行對比分析。并對４ 種模型的性能進行測試與驗證。第２ 節(jié)針對模型的部署和推理，闡述了開放神經(jīng)網(wǎng)絡(luò)交換（Ｏｐｅｎ Ｎｅｕｒａｌ ＮｅｔｗｏｒｋＥｘｃｈａｎｇｅ，ＯＮＮＸ）和Ｏｕｔ Ｏｆ Ｔｒｅｅ （ＯＯＴ）模塊的工作原理以及如何配置，隨后解釋了在該調(diào)制識別算法的流圖中，如何配合自定義的塊來部署經(jīng)過訓練的網(wǎng)絡(luò)模型［８］進行推理。第３ 節(jié)對部署在嵌入式平臺上的ＣＰＬＡ 模型進行驗證。對ＣＰＬＡ 的輸出進行了可視化分析，表明嵌入式環(huán)境下的推理結(jié)果與訓練過程中的一致性。

１ 模型訓練過程

１． １ 模型結(jié)構(gòu)

ＣＮＮ 是一種專門用來處理具有類似網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)———圖像數(shù)據(jù)可以看作二維的像素網(wǎng)格［２０］，因此常用于提取圖片的空間特征以進行圖像分類。

ＣＮＮ 通過多層卷積層自動學習圖像在各個層次上的特征，利用淺層的簡單表示逐層構(gòu)建高層次、抽象的特征，并以此進行分類識別。ＬＳＴＭ 主要用于需要對序列數(shù)據(jù)進行處理的任務(wù)，是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)（Ｒｅｃｕｒｒｅｎｔ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ，ＲＮＮ），能夠提取信號序列的時間特征。

聯(lián)合ＣＮＮ 與ＬＳＴＭ 的網(wǎng)絡(luò)模型在進行分類時，能夠有效提升分類精度，但對高階調(diào)制信號的分類依舊容易混淆［１８－１９］。因此本文提出了一種在聯(lián)合時間、空間特征的基礎(chǔ)上，加入了針對時間序列的ＱＫＶ 多頭自注意力機制的網(wǎng)絡(luò)模型，即ＣＰＬＡ 模型。加入多頭注意力機制能夠提升模型的全局視野感知與特征提取能力，從而提升ＣＰＬＡ 對高階調(diào)制信號的分類精度和總體的分類精度。ＣＰＬＡ 模型結(jié)構(gòu)如圖１ 所示。

圖１ 中，ＣＰＬＡ 模型的輸入為二通道Ｉ ／ Ｑ 信號。４ 層二維卷積層對Ｉ ／ Ｑ 信號進行二維卷積，并經(jīng)過池化層降采樣得到空間特征；２ 層ＬＳＴＭ 層提?。?／ Ｑ信號的時間特征；ＱＫＶ 多頭注意力層能夠增強模型的全局視野感知能力，提取全局信息。最后將時間、空間特征相融合，根據(jù)時空特性進行信號分類。相較于ＣＰＬ 模型，加入了注意力層的ＣＰＬＡ 模型對高階調(diào)制信號的分類精度明顯提高。