一種TensorFlow平臺(tái)上目標(biāo)意圖識(shí)別模型設(shè)計(jì)與實(shí)現(xiàn)?

李寧安 張 劍 周 倜

（武漢數(shù)字工程研究所 武漢 430205）

1 引言

戰(zhàn)場(chǎng)目標(biāo)作戰(zhàn)意圖識(shí)別一直以來(lái)都是各級(jí)指揮員關(guān)注的重點(diǎn)，是決定下一步作戰(zhàn)行動(dòng)的基本依據(jù)，但近年來(lái)隨著戰(zhàn)場(chǎng)態(tài)勢(shì)演變速度加快，導(dǎo)致信息化技術(shù)的發(fā)展信息量大、環(huán)境比較復(fù)雜，使得指揮員在短時(shí)間識(shí)別目標(biāo)作戰(zhàn)意圖非常困難，因此需求智能化的作戰(zhàn)指揮系統(tǒng)輔助指揮員進(jìn)行下一步行動(dòng)決策［1～2］。目前研究作戰(zhàn)意圖識(shí)別的方法主要有基于模板匹配［3］、專家系統(tǒng)［4］、貝葉斯網(wǎng)絡(luò)［5］、神經(jīng)網(wǎng)絡(luò)［6］等傳統(tǒng)的方法以及最近幾年興起的深度學(xué)習(xí)的方法。傳統(tǒng)的方法一般有以下幾個(gè)缺點(diǎn)，實(shí)現(xiàn)繁瑣且難度很大，實(shí)時(shí)性、容錯(cuò)能力和學(xué)習(xí)能力較差，計(jì)算精度低以及泛化能力較弱。另外不易處理連續(xù)的屬性特征數(shù)據(jù)。

短記憶型神經(jīng)網(wǎng)絡(luò)［7］（Long Short-term Memory）是一種 RNN（Recurrent Neural Network）特殊的類型［8］，是常用的用于處理時(shí)序?qū)傩詳?shù)據(jù)的神經(jīng)網(wǎng)絡(luò)模型。本文主要針對(duì)問(wèn)題時(shí)序的特點(diǎn)以及上述幾種方法的缺點(diǎn)，使用LSTM構(gòu)建深層的網(wǎng)絡(luò)結(jié)構(gòu)，克服了實(shí)時(shí)性差、實(shí)現(xiàn)難度大以及學(xué)習(xí)能力弱的缺點(diǎn)。

2 目標(biāo)作戰(zhàn)意圖識(shí)別模型設(shè)計(jì)

2.1 目標(biāo)意圖識(shí)別問(wèn)題概述

目標(biāo)意圖的識(shí)別是一個(gè)通過(guò)在環(huán)境比較復(fù)雜、信息比較多的戰(zhàn)場(chǎng)上收集目標(biāo)信息進(jìn)行分類的一種問(wèn)題。在作戰(zhàn)中目標(biāo)往往會(huì)隱蔽自己的作戰(zhàn)意圖，使得我方指揮人員識(shí)別時(shí)增加一定的難度，可能有一些誤判的行為，另外，偵查目標(biāo)的某一時(shí)刻的狀態(tài)屬性信息也不能得到有效的識(shí)別，因此作戰(zhàn)意圖識(shí)別會(huì)經(jīng)常偵查目標(biāo)的連續(xù)幾秒的狀態(tài)行為來(lái)進(jìn)行判斷它們的意圖［9～10］，這有利于提高意圖識(shí)別的正確率。處理連續(xù)的屬性特征，LSTM網(wǎng)絡(luò)是一種目前比較流行的方法，其他模型相比容易實(shí)現(xiàn)，效果相對(duì)較好。

2.2 LSTM基本模型理論

基于LSTM神經(jīng)網(wǎng)絡(luò)模型實(shí)現(xiàn)空中目標(biāo)作戰(zhàn)意圖的識(shí)別屬于分類問(wèn)題。在先驗(yàn)知識(shí)不充足和沒(méi)有領(lǐng)域?qū)＜抑R(shí)的條件下，僅通過(guò)Tensorflow平臺(tái)構(gòu)建深層的LSTM神經(jīng)網(wǎng)絡(luò)，并且訓(xùn)練學(xué)習(xí)空中作戰(zhàn)目標(biāo)的時(shí)序特征和意圖的對(duì)應(yīng)關(guān)系，然后用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型對(duì)實(shí)時(shí)作戰(zhàn)目標(biāo)意圖進(jìn)行識(shí)別。LSTM網(wǎng)絡(luò)是一種具有記憶的神經(jīng)網(wǎng)絡(luò)模型，使得處理時(shí)序的屬性數(shù)據(jù)具有很好的效果。標(biāo)準(zhǔn)LSTM網(wǎng)絡(luò)架構(gòu)中的核心單元。主要通過(guò)輸入門(mén)，遺忘門(mén)以及輸出門(mén)這3個(gè)門(mén)達(dá)到了對(duì)網(wǎng)絡(luò)具有記憶效果。基本的LSTM網(wǎng)絡(luò)模型以及核心單元如下［7］。

圖1 展開(kāi)標(biāo)準(zhǔn)的LSTM網(wǎng)絡(luò)模型

圖2 標(biāo)準(zhǔn)的LSTM的網(wǎng)絡(luò)架構(gòu)的核心單元（cell）

x0～xt表示時(shí)序的向量特征數(shù)據(jù)，x0表示0時(shí)刻的向量特征數(shù)據(jù)，x1表示下一時(shí)刻的向量特征數(shù)據(jù)。對(duì)應(yīng)的H0～Ht表示對(duì)應(yīng)的隱藏狀態(tài)輸出，Ct-1表示細(xì)胞狀態(tài)，*表示矩陣的相乘，+表示矩陣的相加。圖2即為圖1中的A的部分，即標(biāo)準(zhǔn)LSTM的網(wǎng)絡(luò)架構(gòu)的核心單元。

LSTM的輸入數(shù)據(jù)，一般分為兩部分:時(shí)刻t的Xt輸入數(shù)據(jù)以及t-1時(shí)刻的Ct-1細(xì)胞狀態(tài)數(shù)據(jù)，作為時(shí)刻t的輸入數(shù)據(jù)。對(duì)輸入數(shù)據(jù)進(jìn)行處理使得滿足網(wǎng)絡(luò)以及得到更好的效果。σ為Sigmoid層，輸出0～1之間的數(shù)值，通過(guò)這個(gè)值進(jìn)而決定目前t時(shí)刻信息和t-1時(shí)刻信息的記憶量。

Zf表示遺忘門(mén)對(duì)t-1時(shí)刻細(xì)胞信息記憶的概率，即選擇Ct-1細(xì)胞信息有多少可以被記憶，有多少被遺忘，Zi表示輸入門(mén)對(duì)t時(shí)刻輸入信息的選擇的概率。t-1時(shí)刻細(xì)胞狀態(tài)信息與t時(shí)刻的輸入信息共同做出決定更新的細(xì)胞狀態(tài)。式（4）表示對(duì)細(xì)胞狀態(tài)信息狀態(tài)進(jìn)行更新，作為t+1時(shí)刻的輸入。

Zo表示輸出門(mén)對(duì)t時(shí)刻信息輸出的選擇的概率，Ht作為輸出由t時(shí)刻的細(xì)胞狀態(tài)信息和輸出門(mén)確定，yt通過(guò)Sigmoid層表示最終的輸出。Wf、Wo、W 表示對(duì)應(yīng)的權(quán)重值。

上述是對(duì)LSTM網(wǎng)絡(luò)模型的基本理論的描述，它是通過(guò)舊細(xì)胞信息與當(dāng)前輸入的新信息做出決定更新的當(dāng)前的細(xì)胞狀態(tài)。

2.3 目標(biāo)特征提取與樣本預(yù)處理

2.3.1 目標(biāo)特征提取

目標(biāo)作戰(zhàn)意圖主要體現(xiàn)在戰(zhàn)場(chǎng)上敵方目標(biāo)的當(dāng)前的狀態(tài)特征中，通過(guò)觀察目標(biāo)的屬性的改變，可以實(shí)現(xiàn)對(duì)目標(biāo)的作戰(zhàn)意圖的識(shí)別，本文依據(jù)領(lǐng)域?qū)＜抑R(shí)選取了與目標(biāo)作戰(zhàn)意圖關(guān)系緊密的特征［11］，如飛行速度、高度、航向角、方位角、距離、飛行加速度、對(duì)空雷達(dá)頻段、對(duì)海雷達(dá)頻段、通信頻段、飛機(jī)類型共10維主要特征。空中目標(biāo)作戰(zhàn)意圖本文主要考慮以下常見(jiàn)的8種意圖［12］:偵查、預(yù)警探測(cè)、佯動(dòng)、突防、攻擊、電子干擾、誘敵和撤退。

2.3.2 樣本預(yù)處理

本文應(yīng)用的樣本預(yù)處理技術(shù)為歸一化、數(shù)值化、one-hot編碼，這些基本的預(yù)處理技術(shù)在神經(jīng)網(wǎng)絡(luò)中都能使得網(wǎng)絡(luò)訓(xùn)練更加準(zhǔn)確和快速以及增加網(wǎng)絡(luò)的穩(wěn)定性。由于LSTM神經(jīng)網(wǎng)絡(luò)模型只能處理數(shù)值數(shù)據(jù)，戰(zhàn)場(chǎng)上傳感器獲取的飛行速度、高度、距離、飛行加速度、航向角、方位角為數(shù)值數(shù)據(jù)，但由于不同類別數(shù)據(jù)間量級(jí)差別較大，需要進(jìn)行歸一化到0～1范圍之間。對(duì)于對(duì)海雷達(dá)頻段、對(duì)空雷達(dá)頻段、通信頻段為范圍數(shù)據(jù)，飛機(jī)類型為類別數(shù)據(jù)，均需要進(jìn)行數(shù)值化處理。對(duì)樣本數(shù)據(jù)和意圖標(biāo)簽進(jìn)行預(yù)處理，目的是滿足模型對(duì)數(shù)據(jù)的要求，消除量綱影響，從而增加網(wǎng)絡(luò)模型的健壯性。

2.4 構(gòu)建深度LSTM網(wǎng)絡(luò)模型理論

LSTM神經(jīng)網(wǎng)絡(luò)模型輸入和輸出有很多種情況，一般是不同的情況組合對(duì)應(yīng)不同的場(chǎng)景，比如一對(duì)一，一對(duì)多，多對(duì)一，多對(duì)多等情況來(lái)針對(duì)不同的應(yīng)用［13］。本文研究的問(wèn)題本質(zhì)上屬于分類問(wèn)題，設(shè)計(jì)的輸入-輸出模型為多對(duì)一組合以及設(shè)計(jì)深層次的LSTM網(wǎng)絡(luò)模型。

圖3 深度LSTM網(wǎng)絡(luò)模型

在神經(jīng)網(wǎng)絡(luò)模型中，隱層數(shù)和節(jié)點(diǎn)數(shù)這2個(gè)參數(shù)非常重要，可以降低網(wǎng)絡(luò)誤差，提高精度，但不合理的設(shè)計(jì)可能使網(wǎng)絡(luò)復(fù)雜化、增加了網(wǎng)絡(luò)的訓(xùn)練時(shí)間和出現(xiàn)過(guò)擬合。因此選擇隱藏層的層次和節(jié)點(diǎn)的個(gè)數(shù)設(shè)計(jì)就很重要，這種參數(shù)設(shè)計(jì)只能在基本的理論和大量的實(shí)驗(yàn)中確定。圖3是深度LSTM網(wǎng)絡(luò)模型，A表示核心單元，Yt+s-1表示通過(guò)SoftMax歸一化分類函數(shù)輸出結(jié)果，從而實(shí)現(xiàn)目標(biāo)意圖的識(shí)別。

2.5 在Tensorflow平臺(tái)上模型的實(shí)現(xiàn)

2.5.1 Tensorflow平臺(tái)介紹

Tensorflow是谷歌在2015年開(kāi)源的主流的深度學(xué)習(xí)框架，有很多比較好的優(yōu)秀的特點(diǎn)［14］。如下:

1）高度的靈活性。

2）強(qiáng)大的可移植性，支持CPU、GPU、IOS、安卓等多種計(jì)算平臺(tái)。

3）不需要通過(guò)反向傳播求解梯度，Tensorflow支持自動(dòng)求導(dǎo)。

4）數(shù)據(jù)流式圖支持自由的算法表達(dá)，可實(shí)現(xiàn)深度學(xué)習(xí)以外的機(jī)器學(xué)習(xí)算法。

5）多語(yǔ)言支持Python/c++。

6）性能最優(yōu)化，Tensorflow給予了線程、隊(duì)列、異步操作等以最佳的支持。

2.5.2 使用Tensorflow平臺(tái)構(gòu)建LSTM網(wǎng)絡(luò)模型

使用Tensorflow構(gòu)建2.4節(jié)中的深層的LSTM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。在TensorFlow中提供了BasicLSTMCell函數(shù)來(lái)搭建基本的LSTM模型。BasicLSTMCel提供了輸入層、隱藏層、輸出層的數(shù)據(jù)的輸入，在其內(nèi)部封裝了LSTM隱藏層包含的遺忘門(mén)、輸入門(mén)和輸出門(mén)等結(jié)構(gòu)，同時(shí)還可根據(jù)研究需要設(shè)置隱藏層結(jié)點(diǎn)個(gè)數(shù)。MultiRNNCell函數(shù)提供了多層的LSTM模型的搭建，MultiRNNCell中的內(nèi)容是其按時(shí)間展開(kāi)圖，隱藏層用LSTMCell實(shí)現(xiàn)，其中可以包含多個(gè)隱藏層。可以根據(jù)自己研究問(wèn)題進(jìn)行自定義網(wǎng)絡(luò)架構(gòu)如圖5。最后輸出的Yt+s-1通過(guò)SoftMax層的激活函數(shù)，并用損失函數(shù)計(jì)算輸出與真實(shí)的標(biāo)簽的誤差。計(jì)算損失值后，使用Tensorflow提供的訓(xùn)練操作可以自動(dòng)求Cost關(guān)于每個(gè)參數(shù)的微分導(dǎo)數(shù)并用梯度下降法對(duì)模型進(jìn)行訓(xùn)練。

3 仿真實(shí)驗(yàn)和結(jié)論

3.1 樣本數(shù)據(jù)

實(shí)驗(yàn)采用空中目標(biāo)作戰(zhàn)意圖數(shù)據(jù)集，數(shù)據(jù)集為空中目標(biāo)連續(xù)10s對(duì)應(yīng)的屬性特征仿真值，包括飛行速度、高度、航向角、方位角、距離、飛行加速度、對(duì)空雷達(dá)頻段、對(duì)海雷達(dá)頻段、通信頻段、飛機(jī)類型數(shù)據(jù)，以及對(duì)應(yīng)的標(biāo)簽，偵查、預(yù)警探測(cè)、佯動(dòng)、突防、攻擊、電子干擾、誘敵和撤退。數(shù)據(jù)集規(guī)模大小為100000，各個(gè)意圖類型對(duì)應(yīng)的比例為1/8，取80%作為訓(xùn)練集，20%作為測(cè)試集，訓(xùn)練模型。

3.2 模型設(shè)計(jì)實(shí)現(xiàn)

表1 LSTM網(wǎng)絡(luò)模型參數(shù)設(shè)置

由2.4節(jié)可以知道神經(jīng)網(wǎng)絡(luò)的層次和節(jié)點(diǎn)不同會(huì)有不同的識(shí)別效果，因此需確定深度LSTM神經(jīng)網(wǎng)絡(luò)模型隱藏層層數(shù)和節(jié)點(diǎn)數(shù)量。學(xué)習(xí)率的選擇也對(duì)網(wǎng)絡(luò)的模型有影響，如果學(xué)習(xí)率設(shè)置過(guò)大，可能跳過(guò)最優(yōu)解得到不理想的效果，如果學(xué)習(xí)率設(shè)置過(guò)小，會(huì)使得訓(xùn)練的速度比較慢。調(diào)整和確定網(wǎng)絡(luò)架構(gòu)是用訓(xùn)練集確定的，不能用測(cè)試集，測(cè)試集是用來(lái)評(píng)判網(wǎng)絡(luò)的效果。本文使用Tensorflow平臺(tái)從仿真的訓(xùn)練集中抽出隨機(jī)順序的批次進(jìn)行訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型并且用來(lái)調(diào)整模型結(jié)構(gòu)。最終確定網(wǎng)絡(luò)模型的參數(shù)如表1。

3.3 實(shí)驗(yàn)結(jié)果

在實(shí)驗(yàn)過(guò)程中，把生成的10000的樣本數(shù)據(jù)隨機(jī)打亂，分為80%的訓(xùn)練集和20%的測(cè)試集。圖4和圖5是LSTM網(wǎng)絡(luò)模型的實(shí)驗(yàn)結(jié)果，圖4為損失函數(shù)值，圖5為測(cè)試集的正確率。從圖4中可以看出損失函數(shù)值隨著迭代的次數(shù)而下降，而目標(biāo)意圖的準(zhǔn)確率隨著迭代的次數(shù)而上升，最終兩者的變化都將趨于平穩(wěn)，這也符合神經(jīng)網(wǎng)絡(luò)模型的一般訓(xùn)練過(guò)程。從圖中可以得知，標(biāo)準(zhǔn)的LSTM網(wǎng)絡(luò)模型得到了比較好的準(zhǔn)確率。

圖4 （左側(cè)）LSTM網(wǎng)絡(luò)模型訓(xùn)練集和測(cè)試集損失函數(shù)值隨迭代次數(shù)的變化

圖5 （右側(cè)）LSTM網(wǎng)絡(luò)模型訓(xùn)練集和測(cè)試集準(zhǔn)確率隨迭代次數(shù)的變化

4 結(jié)語(yǔ)

空中目標(biāo)意圖識(shí)別是軍事研究中重要的問(wèn)題之一，由于空中目標(biāo)的屬性特征具有隱蔽性和欺騙性，根據(jù)單一時(shí)刻目標(biāo)特征識(shí)別目標(biāo)意圖比較難，因此采取根據(jù)一系列時(shí)刻的目標(biāo)特征識(shí)別意圖，目標(biāo)的屬性是有序列特征的，使得問(wèn)題解決更加復(fù)雜。結(jié)合這些問(wèn)題特征，本文基于LSTM神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)，構(gòu)造深層次和合適的節(jié)點(diǎn)個(gè)數(shù)使得更加適合研究的問(wèn)題，通過(guò)在復(fù)雜的作戰(zhàn)環(huán)境中采集10s內(nèi)連續(xù)的屬性特征，輸入到深層次的LSTM模型中進(jìn)行訓(xùn)練，實(shí)驗(yàn)結(jié)果表明，驗(yàn)證了LSTM神經(jīng)網(wǎng)絡(luò)模型取得比較好的效果。