基于多層卷積神經網絡的SAR圖像分類方法

李 倩,裴炳南,常芳芳

(大連大學信息工程學院,遼寧 大連 116622)

0 引言

卷積神經網絡(Convolutional Neural Network，CNN)興起于20世紀90年代，但直到2012年，由于Krizhevsky 等人的工作才使CNN引人注目[1]。近年來，CNN已經成功應用于圖像分類[ 1-3 ]、目標檢測和車輛檢測[4-5]等多種模式識別任務。對于圖像分類，CNN與LeCun提出的兩級架構基本相同[6]，差異在于它們的配置、深度、單位數量和非線性函數的形式。在深度學習結構中卷積層作為特征提取器，使用卷積運算通過學習獲得分層特征[2]，最后形成多層感知分類器。Szegedy 等人[2]引入了22層CNN進行分類; 同時，Simonyan 等[3]設計了16層和19層CNN，成功用于圖像識別。所有這些成功的案例都展示了CNN在特征提取或表征學習中相對于傳統方法的優勢和特色。

在對圖像分類方面，CNN優于其他方法[7]，它具有以下優點：1)具有類腦功能，將特征提取和識別過程融合在一起；2)局部感受域獲取的特征與特征的平移、縮放和旋轉無關；3)權值共享結構降低了網絡模型的復雜度；4)下采樣利用局部相關性原理，在有效減少數據處理量的同時保留了結構信息[8]。

最近，卷積神經網絡(CNN)作為一種新方法用于雷達目標識別[9-10]。如J．Lunden 等人，采用了兩層卷積神經網絡結構，并應用于多基地雷達目標探測系統，實現了高分辨一維距離像的目標識別[7]。2016年，Sizhe Chen等人[11]提出用深度卷積網絡對SAR圖像進行目標分類的方法，該文通過采用稀疏連接的卷積網絡，說明了利用少量訓練數據集也能夠避免過擬合，并得出很高的準確率。但卷積神經網絡在訓練的過程中卷積層數越多，訓練越復雜，訓練的時間越長，最終目標的分類識別率并沒有很大的提高；同時，當卷積核參數設置的不同，實驗結果也不同。為了更好的對SAR圖像進行分類優化，本文利用卷積神經網絡的拓撲結構，提出含歸一化的多層卷積神經網絡，直接對SAR圖像源進行分類識別。

1 卷積神經網絡的特征提取與分類方法

基本的CNN是由多層線性、非線性操作單元組合而成的一類深層網絡，特點是層內神經元無連接，而層間神經元有連接，具有良好的結構化特性。如圖1所示，CNN可分為卷積層(C)、下采樣層(S)、全連接層、分類層。其中的卷積層和下采樣層對應于傳統模式識別中的特征提取。

1.1 卷積層

卷積層是卷積神經網絡的核心組成部分。該層由一系列通過特定卷積規則獲得的卷積核組成，不同的卷積核對應不同的目標特征。

在卷積層只有一個二維平面輸入的情況下，卷積層的前向傳播如下：

(1)

與一般的二維線性卷積不同。在CNN中，卷積運算規則為：對于—個大小為m×n的特征圖，用大小為k×k的卷積核對其進行卷積操作，得到的輸出特征圖的大小為(m-k+1)×(n-k+1)[12]。圖2示例這種情況：一個大小為5×5的卷積核與輸入特征圖8×8進行二維離散卷積操作，得到一個4×4的特征圖。

為了使神經網絡具有非線性的擬合性能，須要將得到的結果輸入一個非線性的激活函數，通過該函數映射后最終得到卷積層的輸出特征圖。本文的非線性激活函數采用修正線性單元(Rectified Linear Units, ReLU)，數學表達式為y=max(0,x)。它具有單側抑制、較快的網絡訓練速度、稀疏性、有效緩解梯度消失等優點[13]。

1.2 下采樣層

下采樣層的作用是對卷積層輸出的特征圖進行采樣，如圖3示，采樣層是以采樣區域的大小為步長來進行掃描采樣。下釆樣操作是在二維方向(水平和豎直方向)圖示以步長為s對特征圖中的所有w×w大小的連續子區域進行特征映射，其中，1sw。一般情況下，s=w映射的過程通常為最大值映射或者是平均值映射，即在w×w的子區域中，選取最大值或者計算子區域中的平均值作為映射值。一個大小為m×n的輸入特征圖，經過w×h的尺度進行釆樣之后，得到大小為(m/w)×(n/h)的輸出特征圖。通過子采樣，減少了神經元的數目，簡化了后續網絡的復雜度，并且使得神經網絡對輸入的局部變化有一定的不變性，有效地模擬了靈長類動物視皮層復雜細胞[14]。本文采用最大池化(Max Pooling)方法進行下采樣操作，操作簡單、易于實現。

最大池化的表達式如下[15]：

(2)

式(2)中,sj表示第j塊池化區域Rj的池化值，池化區元素值ai就是特征值經過激活函數送入池化區域的激活值，i是池化區每個激活值的編號。

1.3 分類器PHam

分類規則利用貝葉斯后驗概率最大化。經過卷積神經網絡逐層提取得到的特征可以輸入任何對于權值可微的分類器。這樣使得整個卷積神經網絡可以采用梯度下降法等基于梯度的算法進行全局訓練。本文采用softmax分類器。因其可以直接對多類目標進行分類，且分類效果較好[16]。

softmax輸出分類結果同時可以根據輸出結果轉換為分類概率值，非常適合處理多分類問題。softmax對于 k 類分類問題的系統方程為：

(3)

softmax代價函數數學表達式為：

(4)

式(4)中,1{.}表示指示性函數，當括號里的值為真時，函數的結果為 1，當括號里的只為假時，函數的結果為 0。

1.4 測試過程識別率

訓練結束之后形成訓練模板，對測試集進行分類識別，識別率η表示為：

(5)

式(5)中,y表示測試集總數，x表示算法正確識別的數據個數。

2 改進方法及實驗方案

2.1 局部響應歸一化層

(6)

2.2 實驗數據

實驗采用美國國防部預研計劃署和空軍研究實驗室聯合資助的運動和靜止目標獲取與識別(MSTAR)計劃錄取的實測SAR地面靜止目標數據。MSTAR數據由 X 波段、HH 極化方式、0.3 m×0.3 m 高分辨率聚束式 SAR 對地面目標采集而得。目標方位角覆蓋 1°～360°，間隔 1°，該數據庫通用是 SAR ATR 研究領域的一個標準數據庫。本實驗選取其中的BMP2(步兵戰車)(SN_9563)、BTR70(裝甲運輸車)、T72(主戰坦克)(SN_132)、ZSU23/4(自行高炮)、ZIL131(貨運卡車)五類目標數據做實驗，目標示例如圖4示。

實驗仿真采用Matlab 2017b平臺里的Neural Network Toolbox工具箱，CPU主頻2.6 GHz，內存8 GB。本文方法預處理要求將輸入圖像統一中心裁剪為128×128像素，具體型號與樣本個數如表1所示，可直接實現從輸入像素和輸出類別的端到端處理。

2.3 實驗模型

本文提出了基于卷積神經網絡的 SAR目標識別方法，采用的卷積神經網絡結構如圖1所示，但在除最后一次卷積外，每一次卷積層后都有一個歸一化層。數據流程圖如圖5所示。該分類模型是一個結構化的卷積層( convolution) 、局部響應歸一化層( normaliztion) 、池化層( pooling) 等的多層單元，這些層可視為一系列線性和非線性操作的特征提取過程，而全連接層、softmax層和分類層可視為一個基于回歸的多類分類器。

針對五類目標識別問題，借鑒了文獻[17]的數據設置，具體網絡結構圖如圖6所示。第1個卷積層采用28個尺寸為 29×29卷積核，第2個卷積層采用32個7×7 的卷積核，第3個卷積層采用56個5×5的卷積核。ReLU函數被應用于每一個卷積層作為神經元的激活函數。且每兩層卷積層之間用尺寸為2×2，步長為2最大池化層連接。

表1 實驗所用數據型號和數量

Tab.1 The data model and quantity of the experiment

數據個數BMP2BRT70T72ZIL131ZSU23/4總數訓練數據個數(俯仰角17°)2322322322322321 160測試數據個數(俯仰角15°)195196196195195977

3 實驗結果與分析

3.1 訓練過程

在進行訓練時設置學習率為0.001，局部響應歸一化層的窗口通道尺寸為4。

圖6是經二層卷積層后獲得的BMP2的特征圖。

圖7是圖6特征圖經過局部歸一化后的特征圖。從圖6到圖7可以看出特征圖里的特征片減少，達到降維的作用。

圖8為圖7經過最大池化后的特征圖。圖9為分別訓練每一類目標所獲得的訓練模板。圖中(a),(b),(c),(d),(e)分別是經過第三個卷積層提取的BMP2、BTR70、T72、ZIL131、ZSU_23_4的特征模板。

經過十六次仿真訓練所得到的迭代次數與平均正確率之間的關系如圖10示，迭代次數為256次。圖11為十六次試驗求均方誤差所得關系圖，從圖中可以看出隨著迭代過程均方誤差逐漸減少，最后穩定在一個很小值范圍內。

3.2 測試過程

圖12為采用CNN 對五類目標的分類混淆矩陣，其中對角元素為正確分類的目標個數，非對角元素為錯分的目標個數。由圖12可知: 1) 該方法達到 98.26%精度，且在T72上每次測試都取得了100% 的分類精度; 2)該方法對 BMP2錯分為T72、ZIL131錯分為ZSU_23_4的個數最多。從外形上來說，坦克和步戰車都有炮口，以至于出現錯分多，但坦克有大口徑炮，步戰車只有小口徑炮，所以出現錯分目標可能由這幾類目標的幾何外形差異引起的。

實驗如上步驟進行訓練測試操作十六次,所得的分類正確率在區間[97.34%，98.26% ]范圍內。表2為進行訓練測試操作十六次求平均所得，由表2可知: 該方法平均正確率達到 97.77%精度，同時求得95%的置信區間為[97.60%, 97.93%]。

表2 五類目標測試十六次平均分類混淆矩陣

Tab.2 The five kinds of targets test the 16-time average classification confusion matrix

目標類型BMP2BRT70T72ZIL131ZSU23/4平均正確率/(%)BMP2182.6250.12512.250093.65BRT700.937 5194.8130.250099.39T720019600100ZIL131000189.255.7596.57ZSU23/4001.937 50.562 5192.598.72總計-----97.77

4 結論

本文提出了基于多層卷積神經網絡的SAR圖像分類方法。該方法采用多層卷積運算和下采樣技術以及神經元的非線性功能，逐層萃取分類特征，同時利用局部響應歸一化進行特征的降維，以softmax作為分類器。實現了基于多層卷積濾波的目標特征自主選擇，并最終實現了 SAR目標的自動分類識別。實驗方法用MSTAR數據庫的五類目標數據進行仿真實驗，經過仿真實驗表明，本文的方法是有效的通過，統計平均識別率達到了97.77%。有關與其他方法的比較將另文討論。

參考文獻:

[1]Krizhevsky A, Sutskever I, Hinton G. ImageNet classification with deep convolutional neural networks[J].

International Conference on Neural Information Processing,2012,60(2):1097-1105.

[2]Szegedy C, Liu W, Jia Y Q, et al. Going deeper with convolutions[J]. IEEE Transactions on Information Theory, 2006, 52(4):1289-1306.

[3]Simonyan K，Zisserman A. Very deep convolutional networks for large-scale image recognition[J]. Computer Science, 2014.

[4]Girshick R, Donahue J, Darrell T, et al. Rich feature hierarchiesfor accurate object detection and semantic segmentation[J]. IEEE Computer Society, 2014:580-587.

[5]Chen X Y, Xiang S M, Liu C L,et al. Vehicle detection in satellite images by hybrid deep convolutional neural networks[J]. IEEE Geoscience and Remote Sensing Letters, 2014, 11(10): 1797-1801.

[6]LeCun Y, Bottou L, Bengio Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11):2278-2324.

[7]Lund J, Koivunen V．Deep learning for HRRP based target recognition in multistatic radar systems[C]// IEEE Radar Conference ,2016: 1-6．

[8]尹寶才, 王文通, 王立春. 深度學習研究綜述[J]. 北京工業大學學報, 2015, 41(1): 48-59.

[9]Morgan D A E. Deep convolutional neural networks for ATR from SAR imagery[J]. Algorithms for Synthetic Aperture Radar Imagery XXII, 2015.

[10]Profeta A, Rodriguez A, Clouse H S. Convolutional neural networks for synthetic aperture radarclassification[J]. Spie Defense Security, 2016.

[11]Chen S Z , Wang H P , Xu F ,et al. Target classification using the deep convolutional networks for SAR images[J]. IEEE Transactions on Geoscience and Remote Sensing, 2016, 54(8):4806-4817 .

[12]LeCun Y , Kavukcuoglu K, Farabet C. Convolutional networks and applications in vision[J]. IEEE International Symposium on Circuits & Systems, 2010,14(5):253-256.

[13]Nair V. Hinton G E. Rectified linear units improve restricted boltzmann machines[J]. International Conference on International Conference Machine Learning, 2010:807-814.

[14]Hubel D H，Wiesel T N. Receptive fields, binocular interaction and functional architecture in the cat’s visual cortex[J]. The Journal of Physiology,1962,160(1)：106-154.

[15]Goodfellow I, Bengio Y, Courville A. Deep Learning[M]. USA: The MIT Press, 2016.

[16]何鵬程. 改進的卷積神經網絡模型及其應用研究[D]. 大連：大連理工大學, 2015.

[17]張慧，肖蒙，崔宗勇. 基于卷積神經網絡的SAR目標多維度特征提取[J]. 機械制造與自動化,2017,46(1):111-115.