基于Densenet-SVM的遙感圖像場景分類網絡研究

周 易

（綿陽職業技術學院，四川 綿陽 621000）

采用衛星遙感技術可以獲得大量的遙感場景圖像[1]。為了更好使用這類圖像，需要對圖像進行分類處理[2]。實際上，分類是處理遙感圖像的一個必要過程，該過程可以通過機器學習和深度學習技術實現。此外，特征提取一直是利用遙感圖像提供信息的有效方法，在許多重要應用中不可或缺。

Li等人[3]采用深度特征提取和采樣特征融合來減輕細節丟失和模糊邊緣的影響，并提出一種多級特征聚合網絡，用于土地覆蓋的語義分割。胡威[4]將遙感場景圖像區域的場景特征定義為局部特征，并提出一種基于模式挖掘的特征疊加型卷積方法，從而有效發掘其中的視覺元素。Algarni[5]等人提出一種利用CNN轉移學習進行特征提取和利用深度森林方法進行分類的HRRS（High-Resolution Remote Sensing，HRRS）場景分類方法，此方法從最后一個卷積層中提取深層特征，并通過集成學習訓練深層森林模型。汪西莉[6]等人提出一種增強的特征金字塔網絡，以提取多尺度和多層次的特征，所采用的一個兩分支深度特征融合的神經網絡，可在多個級別上有效地聚合特征，雖然該方法在遙感場景中都表現良好，但在具體的遙感場景分類上，還存在一些不足，如所采用的二階池化方法不能對參數進行排序并自動學習。然而，這些工作僅側重于利用單個層的特征進行分類。對于使用多個層進行特征提取，Akila[7]等人引入一個遠程場景理解框架，預訓練的VGG-Net模型被提出作為深層特征提取器，該方法選擇全連接層作為單獨的特征描述符，然后將它們組合起來構建最終表示。為了提取更具代表性的特征，汪西莉[8]等人采用加權空間金字塔匹配協作表示分類方法。在另一項研究中，Zhang[9]等人預訓練卷積網絡的多層特征。然而上述特征描述符是由單個網絡獲得的，與多個網絡相比，單個網絡的特征提取能力有限，而且這些特征是從不同的網絡層中提取的，導致信息冗余。

DenseNet使用頂部分類器通過特征連接監督所有層，增強每層特征和梯度，該方法的每個隱藏層特征的有效性得到增強或驗證。由此，本文提出一種基于Densenet-SVM的遙感圖像場景分類網絡，能夠對遙感圖像場景實現有效的分類。

1 研究基礎

1.1 基礎網絡結構

DenseNet是ResNet的進一步創新[10-11]，這兩個神經網絡都基于類似的思想，即建立不同層之間的“橋梁”。然而DenseNet的結構更簡單、更有效，參數更少。與ResNet相比，ResNet中的每個層只連接到前一個層，而DenseNet中每個層直接連接到所有前面的層，并且每個層都可以從損失函數中獲取梯度；這種操作可以優化整個網絡的信息流和梯度，易于訓練，在小數據集上表現更好，DenseNet的結構可以實現更好的特征重用并減少參數數量。此外，DenseNet層比其他深度學習網絡（如CNN和ResNet）的網絡層更窄，通過使用較少的特征映射進行學習可以減少冗余。

1.2 自監督學習模型

遙感圖像與傳統光學圖像不同，直接使用ImageNet預訓練網絡作為遙感圖像的特征提取器不合適，從頭開始訓練一個表現良好的深度網絡通常需要大量標記樣本，在遙感圖像中通常很難獲得這些樣本。此外，如何從海量無標簽樣本中挖掘有價值的信息是值得研究的，自監督學習模型[12]旨在在沒有監督的情況下從數據本身中學習有效的表示，它非常適合將遙感圖像轉換為更富有表現力的遙感圖像嵌入空間，而不需要任何標簽。

2 改進方法

2.1 特征提取

DenseNet是ResNet的一種變體，可以更好地解決梯度消失問題，與ResNet相比，DenseNet加強了特征的傳播，并充分利用了每個塊中不同級別的特征；同時，與ResNet相比，它可以顯著減少相同層數的參數數量，這個骨干網可以用來提取多種不同尺度的特征，而且這種密集連接的結構進一步跨越這些不同尺度的特征進行交叉鏈接，在遙感場景圖像中表示多尺度對象的復雜語義關系方面，表現優于傳統的CNN[13]。CNN已經顯示出對于場景分類的顯著特征表示能力。然而，遙感場景數據集具有很少的圖像數量，而且一些傳統的CNN方法具有大量的參數和淺層網絡層，一方面，由于訓練數據很小，常常存在過度擬合[14]；另一方面，淺層網絡層導致高級信息的提取受限。此外，深層網絡通過獲取更高級別的特征映射產生更具魯棒性和區分能力的特征，從而更容易識別潛在和固有特征。然而深層網絡容易出現梯度消失等問題，部分抵消了網絡深度的效果，許多研究者通過共享一個關鍵特征來解決這些問題：從前面的層次到后面的層次創建短路徑。DenseNet構建更深層次的密集連接網絡并解決上述問題，最重要的架構——密集塊層，被設計用于確保網絡各層之間的最大信息流動，在這種結構中，每個層使用所有先前層的輸入，并將其對應的特征映射傳遞到所有后續層中。

2.2 特征映射

在DenseNet的構建過程中，每個層的特征圖大小應保持一致，以實現不同層之間的連接，因此，采用“DenseBlock+Transition”結構將網絡分成幾個密集連接單元，每個單元中的卷積操作使特征圖保持一致，然后通過下采樣操作將其連接到下一個單元。本文中的DenseNet結構包含41層，并可調整DenseBlock結構和其他參數。具體來說，首先使用Conv2D（24,3×3）——批歸一化——ReLU提取滑坡的高維特征。將DenseBlock和Transition模塊添加到DenseNet中可以進一步減少特征圖和網絡參數的數量。每當處理完一個DenseBlock時，會輸出k個特征圖，稱為增長率，通常將k設置為一個小值。然而，隨著層數的增加，輸入到下一層的特征圖通常很大，這會導致訓練效率低下和內存溢出等問題，因此，在本文中向DenseBlock中添加1×1 Conv2D以進一步壓縮特征并提高學習效率。本文中使用了三個DenseBlock，其中包含六個稠密連接層與兩個Transition結構交替，此外，為了提取滑坡因素的深度特征，從淺到深，將每個密集塊的膨脹率設置為5、2和1。最后采用全局池化和稠密層，所構建的框架通過學習較少的訓練參數來增強特征重用，從而能夠學習到更完整的高維滑坡特征。DenseNet的數據輸入形式與CNN相同，是一個19×19的補丁，如圖1所示。

2.3 樣本分類

接下來的步驟是基于支持向量網絡（Suppor t Vector Machines，SVM）方法完成分類，訓練分類器對通過DenseNet處理后的特征和σ°值進行分類。SVM使用核技巧進行非線性分類，核函數可以將數據轉換成更高維度的空間，以使得當類別標簽與屬性之間的關系為非線性時，可以進行非線性的分離。常見的選擇是高斯核函數，在本文的研究中，使用徑向基函數核（RBF核），發現它在各種應用中都能很好地工作。本文中使用scikit-learn開源實現SVM分類方法，scikit-learn中的SVM模型可實現基于SVM的遙感圖像場景分類；基本上，SVM使用低級方法訓練模型，只能解決二分類問題，在多類別分類的情況下，LIBSVM通過逐個擬合所有二進制子分類器并通過投票機制找到正確的類別，實現“一對一”技術。

3 實驗與分析

3.1 實驗數據集

AID（Aerial Image Data set，AID）是一個廣泛使用的基準數據集，用于測試場景分類方法的有效性，這是第一個從可用高分辨率遙感影像中生成的地面真實數據集，所有這些影像都是從航空正射影像中提取的，包含16個典型的土地利用類別，即密集住宅、高速公路、港口、飛機場、中密宅區、森林、海灘、稀疏住宅、棒球內場、儲罐、河流、跑道、移動房屋、停車場、十字路口、高爾夫球場。對于每個類別，有100張256×256的圖像，分辨率為30厘米，包含三個RGB通道。在AID中對不同類別進行分類是一項具有挑戰性的任務，由于每個類別的圖像數量有限，并且存在一些類別之間非常相似，如中等和住宅密集區域、稀疏住宅和松球場容易導致錯誤分類。將每個類別80%的圖像用于訓練，其余的圖像用于測試。

3.2 實驗設置

為了準確評估所提出的方法，本文中保持與以前實驗相同的訓練-測試比例。對于AID，訓練-測試比例分別為20%和50%，考慮用每個數據集的兩種不同的訓練-測試比例來全面評估基于Densenet-SVM的遙感圖像場景分類網絡，在這項工作中，使用Pytorch框架實現所提出的方法，網絡參數和設置如下：將所有圖像調整為288×288像素作為輸入，然后將批次大小設置為16，并使用具有動態學習率功能的隨機梯度下降法作為優化算法，訓練輪數的數目持續到網絡收斂；實驗在一臺計算機上執行，配備有雙路Intel Xeon E5-2620 v4處理器、兩個1080Ti GPU和128 GB內存。

3.3 準確性評估

使用總體精度（Overall Accuracy，OA）和混淆矩陣評估基于Densenet-SVM的遙感圖像場景分類網絡的性能，OA被定義為正確分類的圖像總數除以測試集中的圖像數量，這表明在預測實際圖像方面的分類性能。在混淆矩陣中，每列代表預測實例，每行代表類別數據的實際屬性，因此，混淆矩陣可以直接顯示每個類別的分布，并可用于簡單分析不同類別之間的誤分類。為了減少隨機性的影響以獲得可靠結果，本文中通過隨機劃分數據集進行十次實驗，對十次重復的整體精度進行均值和標準偏差作為最終性能。表1為AID下的部分常見的采用本文中方法與文獻[5]中方法的分類結果準確率對比。

表1 AID下的部分常見的采用本文中方法與文獻[5]方法的分類結果準確率對比

3.4 混淆矩陣

圖2是基于Densenet-SVM的遙感圖像場景分類網絡在20%訓練數據集的條件下，表現最佳混淆矩陣的結果。其中，有10個類別的分類準確度大于98%，其中“中密宅區”和“海灘”的分類準確性相對較低，分別為96.8%和97.1%，這是由于這兩類場景易與其他場景混淆；本文中提出的模型可以很好地區分每個類別，因此，說明了方法的有效性和穩定性。

圖2 混淆矩陣的結果

4 結束語

遙感圖像場景分類為環境預測、災難搶險和地表地貌分類提供了理論基礎，本文首先分析了基礎網絡結構和自監督學習模型，基本的卷積神經網絡模型包含5個層次：輸入層、卷積層、池化層、全連接層和輸出層；自監督學習模型旨在在沒有監督的情況下從數據本身中學習有效的表示，它非常適合將遙感圖像轉換為更富有表現力的遙感圖像嵌入空間，而不需要任何標簽。

基于此，本文給出了基于Densenet-SVM的遙感圖像場景分類網絡，其特征提取模塊采用DenseNet結構，該結構加強了特征的傳播，并充分利用了每個塊中不同級別的特征。同時，與ResNet相比，它可以顯著減少相同層數的參數數量。在這種結構中，每個層使用所有先前層的輸入，并將其對應的特征映射傳遞到所有后續層中，在特征映射模塊中。本文使用了三個DenseBlock，其中包含6個稠密連接層與兩個Transition結構交替。最后，訓練支持向量網絡分類器，對通過DenseNet處理后的特征和σ°值完成樣本分類。

將所有圖像調整為288×288像素作為輸入，然后將批次大小設置為16，并使用具有動態學習率功能的隨機梯度下降法作為優化算法，在AID數據集中完成實驗與分析。為了減少隨機性帶來的影響以獲得可靠結果，本研究通過隨機劃分數據集進行十次實驗，對十次重復的整體精度進行均值和標準偏差作為最終性能。此外，通過混淆矩陣可說明，本文提出的模型可以很好地區分每個類別，實驗結果論證了基于Densenet-SVM的遙感圖像場景分類網絡的有效性和穩定性。