基于CNN的多光譜遙感圖像地物覆蓋分類*

李玉峰，林 輝

（沈陽航空航天大學電子信息工程學院，沈陽110136）

1 引 言

衛星遙感圖像處理技術一直以來都是各國研究的重點。遙感圖像分類，是把在圖像中的每個像元[1]劃分為若干類別中的一種，通過分析各種類地物的光譜信息和空間信息，提取有效特征[2]，分析并從中選擇適合的特征參數，將特征空間劃分為多個互不交割的子空間，再將影像內各個像元劃分到這些空間中去[3]。衛星遙感圖像的處理對于自然資源的保護、民用設備的技術支持以及軍方偵察的技術支撐起到了至關重要的作用[4]。

傳統的衛星遙感圖像分類方法一般為監督分類、非監督分類、半監督分類，以及更加古老的目視解譯[5]。目視法耗時長，并對解譯人員要求極高。較為常用的監督分類方法有支持向量機（Support Vector Machine, SVM）、最小距離分類（Minimum Distance Classification，MDC）、最大似然分類（Maximum Likelihood Classification，MLC）等；而無監督分類有迭代自組織數據分析技術A（Iterative Self-organizing Data Analysis Techniques A, ISODATA）分類、K 均值聚類算法分類等。其中，最小距離分類、最大似然分類、K均值聚類算法分類算法在處理高分辨率衛星圖時出現精度達不到預期的問題[6]。上述分類算法皆為淺層學習算法。由于只經過了較少層的線性與非線性處理，對于輸入的信號，淺層學習網絡無法效地表達復雜函數，無法適應較為復雜的樣本。在這個數據爆炸的時代，衛星遙感圖像樣本的復雜度已遠遠超出過去的水準，這樣的淺層模型也終將會逐漸被一些新興的方法取代。

深度學習的概念自從被加拿大多倫多大學教授Hinton 等人[7]在2006 年于頂尖學術刊物《科學》上被提出后，廣泛引起了各行業人員的高度重視。Hithon 采用一種類似人腦多層的機構模型，對信息進行降維和分類。這種深度學習方法已經在圖像、語音識別等領域取得了重大成果[8]。而Lecun 等人提出的卷積神經網絡（CNN）則為一種多層神經網絡結構，具有極好的訓練性能[9],在遙感圖像處理中有良好的運用[10]。但是，國內將深度學習應用到高分辨率衛星遙感圖像解譯的研究工作相對較少。故此，提出一種對傳統卷積神經網絡結構進行優化的高分辨率遙感影像地物分類方法。本方法基于卷積神經網絡對高分辨率多光譜遙感圖像進行的自動分類，將傳統CNN 框架進行優化，并加入了Inception 結構，橫向比對其與支持向量機算法分類效果之間的差異。

2 傳統分類法及其原理

2.1 支持向量機分類方法

支持向量機是由Vapnik 在1995 年所提出[11]，它基于統計學習理論和結構最小風險原理，針對小樣本進行訓練和分類。SVM 致力于建立一個最優決策超平面，從而使平面兩側的距離該平面最近的兩類樣本之間的距離最大，這樣則使其對分類問題產生較好的泛化功能[12]。SVM 學習效率高，泛化性強，使得其在空間信息分析領域有良好的表現，在衛星遙感圖像的處理上，如遙感圖像土地覆蓋分類、遙感影像融合、高光譜圖像處理等，表現更為優異，尤其在解決Hughes 現象的問題上有至關重要的作用。對其技術原理的詳細討論如下：

對于最優超平面，考慮K 個線性可分樣本｛(X1,d1),(X2,d2),...,(Xk,dk),...,(XK,dK) ｝，任意樣本Xk，期望的輸出為dk＝±1（代表兩類的類別表述）。用于分類超平面的方程為：

其中，X 為輸入向量，M 為權值向量，c 為偏置，則有：

針對多維的樣本數據集，隨機產生一個分類超平面并不斷地進行移動，來對樣本進行分類，直到樣本中不屬于同類別的樣本點全都落于該分類超平面的兩側。可能有多個超頻面滿足這個條件，但同時要保證分類的精度，也要找到一個可以使兩側的空白區達到最大的超平面，從而達到最優的分類效果。

SVM 可以對樣本數據進行學習、分類和預測，其分類流程圖如圖1 所示。

圖1 SVM分類流程圖

2.2 徑向基函數分類方法

徑向基函數（Radial Basis Function, RBF）神經網絡的主要優勢在于逼近能力、分類能力和學習速度等方面。在這幾個方面RBF 神經網絡皆比BP 神經網絡能力強。徑向基函數神經網絡的結構相對簡單，訓練的方式也較簡潔。由于其參數的并非隨機初始化，故其學習的收斂速度很快，可以無限接近任意的非線性函數，且能夠克服局部極小值的問題。

徑向基函數神經網絡是具有單隱層的三層前向網絡[13]。第一層是輸入層，包括信號源的節點。第二層是隱藏層，該層的節點數量視所要解決問題的需要而定，隱藏層中的神經元變換函數便是徑向基函數，它是一個對于中心點的徑向對稱且不斷衰減的非負線性函數。其與之前的前向網絡中的全局響應的變換函數不同，為局部響應函數，這種差異具體體現在可見層到隱藏層之間的變換方式。第三層是輸出層，它是對輸入所得到的響應。輸入層的作用是傳輸信號，輸入層和隱含層之間則是完全連接，即連接權值為1。隱含層的作用是將低維度的模式輸入數據變換到高維空間中去，以便于輸出層的識別與分類。而隱含層和輸入層需要實現的功能目標是相異的，所以二者所采用的學習策略也不盡相同。

輸出層需要針對線性權做調整，其使用方法是線性優化，故學習速度比較快。而對于隱含層來說，則需要對激活函數（Activation Function, AF）的參數來做調整，其使用的方法是非線性優化，所以學習速度相對較慢。本研究的激活函數采用高斯函數：

式中：Ch為基函數的中心，而ρ 則為寬度。

徑向基函數神經網絡分類器的結構如圖2 所示。

圖2 徑向基函數神經網絡分類器結構

2.3 基于CNN的分類方法

卷積神經網絡是深度學習的一種典型模型。傳統卷積神經網絡示意圖如圖3 所示。通常，卷積神經網絡模型由不同結構層來表示，包括卷積層、池化層（下采樣層）、一個或多個完全連接層，以及輸出層。卷積層用于使用指定的過濾器卷積輸入圖像，并通常與池化層交替出現。

圖3 傳統卷積神經網絡示意圖

在普通的神經網絡當中，一個神經元連接到下一層中的所有神經元。在卷積神經網絡CNN 中，神經元之間稀疏地連接，通常只在每個指定神經元的自定義感受范圍內連接。另外，在一層中相互連接的一些神經元具有相同的權重和偏差。它們在很大程度上可以幫助減少參數。池化層是特征提取層[14]，將上一層卷積得到的特征圖中的連續范圍作為作用區域，并且只對由重復的隱藏單元所產生的特征進行池化，這些池化單元便具有了平移不變性（Translation invariant），進而整個卷積神經網絡也獲得了這一平移不變性。即使輸入圖像經過一個小的平移之后，依舊會產生相同的特征。

3 改進的CNN分類方法

在改進的CNN 分類方法中，卷積神經網絡中的輸入層用于接收圖像，卷積層用來提取圖像中的各種特征并減小噪聲對分類的影響[15]。用于分類的卷積神經網絡如圖4 所示。

圖4 用于分類的卷積神經網絡

假定原始的輸入圖像為X，Yi表示第i 層的特征圖，所以Y0＝X，則：

式中，Ki表示第i 卷積層核的權重；運算符*表示Ki與第i-1 層的特征圖進行卷積操作；bi表示第i 層的偏置向量；f 為激活函數，一般采用ReLU 函數。ReLU 的表達式為：

池化層一般緊跟在卷積層后，基于圖像的局部相關性對上一池化層輸出的特征圖進行采樣，并保持其尺度不變。池化層的作用方式一般分為兩種，最大池化（Max pooling）與平均池化（Mean pooling）。

在此采用AlexNet 網絡模型。該網絡模型是由Alex Krizhevsky 在2012 年發表的一種卷積神經網絡模型。Alex 在2012 屆ImageNet 圖像分類挑戰上提出的這種網絡結構模型獲得了ImageNet 大規模視覺識別挑戰賽的冠軍[16]。由于AlexNet 網絡模型層數沒有過于深，而且有較好的分類能力，故此選用它作為基本框架，為遙感圖像分類做出優化。另外，對池化層采用最大池化方法，使用非重疊采樣的方式來進行，其原理是選取圖像區域的最大值來作為該區域采樣后的值。

卷積層和池化層是交替進行連接的。完全連接層綜合成先前提取的特征，將圖像特征信息從二維減小到一維。最后的輸出層根據完全連接層獲得的特征向量來產生樣本對應的標簽。

基于卷積神經網絡分類過程的核心在于整個網絡的訓練與人類大腦的學習過程相似。過程分為兩個階段。第一個階段是前向傳播，使得樣本圖像經過輸入層最后到達輸出層的特征被學習[17]。第二個階段則是反向傳播，依據損失函數來計算實際輸出值與期望輸出值之間的誤差（又被稱為“殘差”），并根據梯度下降法調整網絡參數。采用CNN 在使用上最為廣泛的交叉熵（Cross Entropy，CE）損失函數。交叉熵被用于評價模型訓練得到的實際輸出與期望輸出的差異，減小交叉熵損失可提高模型的預測準確率。此函數據的離散形式為：

式中，p(x)是期望輸出，q(x)是通過計算得到的實際輸出。對卷積神經網絡進行訓練的目標即是通過梯度下降法來不斷減小網絡的損失函數。

多層神經網絡模型有兩個缺點，一是費時，二是容易過擬合。故此采用加入Dropout 的方式[18]，來解決這兩個缺點帶來的問題。過擬合和費時幾乎成了深度學習的通病，對此，加入Dropout 可有很好的解決。每次經過Dropout，相當于從原有網絡得到一個更精巧的網絡。某神經網絡A 的結構圖如圖5 所示，經過Dropout 后神經網絡A 的網絡結構圖如圖6 所示。

圖5 神經網絡A結構圖

圖6 Dropout處理后的神經網絡A結構圖

使用這樣的方式便可以將深度神經網絡從費時的問題中解脫出來。

一般傳統改進CNN 的方法大多是加深網絡的層數從而提高整個網絡的特征提取能力。如果用來訓練的數據集有限，但是參數過多，則容易產生過擬合。而且網絡越大，計算量和計算的復雜度也在不斷增長，導致網絡延滯，難以實際應用。而網絡越深，越容易產生梯度彌散現象，導致難以優化模型的情況發生。故此，在傳統的CNN 分類模型中加入結合了Network in Network 思想的Inception 結構。該模塊先聚合輸入特征，然后利用其非線性變換能力對特征進行再加工和濾波處理，以此實現多尺度特征的利用。Inception 結構通過并聯不同尺度卷積核來增加網絡寬度，獲取遙感圖像中多種尺度特征，從而提高網絡特征提取能力。添加的Inception 結構如圖7 所示。此Inception 結構所在的層數越高且通道數越多，該方法的效率就越高。

圖7 添加的Inception結構

卷積神經網絡的輸出層一般采用一個分類器，而輸出層中神經元節點的數目則要依據不同的分類任務決定。此處采用的是Softmax 分類器。Softmax 分類器以多項式分布為模型來建立，通過它，還可以得到不同分類可能的概率。所以Softmax 分類器對多種互不重疊的種類進行分類表現更優。Softmax 分類器對于n 類分類的系統方程如下：

4 實驗及結果分析

實驗采用TensorFlow1.1.0 開源框架，搭建環境為PC，操作系統為Ubuntu 16.04，處理器為Intel(R)Core (TM)i5-7400 CPU@3.50GHz，顯卡為NVIDIA GTX1070 8G 顯存版本，運行內存為16G，CUDA 版本為8.0。

實驗中受測試的圖像為美國某農場遙感圖像，如圖8。圖像來源于美國國家海洋和大氣管理局(National Oceanic and Atmospheric Administration,NOAA)的公開衛星數據。

圖8 NOAA公開的美國某農田遙感圖像

改進CNN 對衛星遙感圖像的分類效果與SVM及RBF 的對比情況如圖9～圖11 所示。可見，改進后的分類方法在分類效果上有顯著提升。

最后，為證明該CNN 分類方法的優勢，選取了數等因子對兩種分類方法進行評價。評價結果如表1 所示。

圖9 基于支持向量機的分類結果

圖10 基于徑向基的分類結果

圖11 改進CNN分類結果

表1 兩種分類方法精度評價對比

5 結束語

采用改進型卷積神經網絡，AlexNet 網絡模型，并加入Inception 結構，使網絡分類效果得到了提升。而Softmax 分類器也對本方法的分類精度提升起到了極大的作用。相較于SVM 分類，本研究的改進CNN 模型對于高分辨率多光譜遙感圖像分類總體精度提升10.47%，實現了更高的精度和更好的分類效果，具有良好的實用價值和應用前景。