基于改進的擴散平滑和RBM的高光譜圖像分類

歐陽寧，高　鑫，袁　華

(桂林電子科技大學 認知無線電與信息處理省部共建教育部重點實驗室，廣西 桂林 541004)

?

基于改進的擴散平滑和RBM的高光譜圖像分類

歐陽寧，高鑫，袁華

(桂林電子科技大學 認知無線電與信息處理省部共建教育部重點實驗室，廣西 桂林 541004)

為了改善傳統分類方法在高光譜遙感圖像去噪和特征提取方面的不足，提出了一種基于改進的擴散平滑算法和RBM的方法。該方法使用自適應擴散系數，對相應的區域進行不同程度的擴散平滑，實現了對高光譜遙感圖像的快速去噪；然后利用多層限制玻爾茲曼機構建DBN網絡，實現對高光譜遙感圖像的分類。實驗表明，與傳統的分類方法和DBN相比，該方法在高光譜圖像地物分類精度上有所改善。

擴散平滑；限制玻爾茲曼機；高光譜；遙感；神經網絡

近年來，隨著成像光譜儀技術的突破，遙感圖像由多光譜成像發展到高光譜，成像的波段由幾個增加到幾十個甚至幾百個。高光譜遙感技術的發展為地球遙感和相關應用的開發創造了新的機遇。土地覆蓋調查、森林地物分類、材料識別以及現代農業等幾個領域都利用了大量遙感影像來獲取信息[1-2]。

目前，主要運用如ANN[3-4](人工神經網絡)，SVM[5-6](支持向量機)這一類的非參數化方法[7]進行高光譜圖像的分類工作。但是，SVM方法需要較多的有標簽樣本，BP神經網絡存在容易收斂到局部最小值的問題。2006年，Hinton及其學生Salakhutdinov在《Science》上發表了一篇文章[8]，正式提出深度信念網絡DBN。在該算法中，一個DBN模型被視為由若干個RBM堆疊形成，訓練時由低到高逐層訓練，每次只需訓練單層的網絡。在預訓練后，DBN可以通過帶標簽數據用BP算法對判別性能做出調整，網絡的性能比單純的BP算法訓練的網絡要好。自此，深度學習作為機器學習的一個新興研究方向，受到了學術界的極大關注。

雖然DBN在高光譜圖像的分類上取得了不錯的效果，但該方法側重于限制玻爾茲曼機的特征提取方面，對高光譜數據的去噪處理還停留在簡單去除噪聲波段[9]這一層面，沒有很好的方法對已經去除噪聲波段的數據再進一步進行去噪處理。針對這一問題，本文引入一種改進的擴散平滑算法對高光譜圖像進行去噪，利用RBM構建網絡進行特征提取，再連接BP或SP進行地物分類。實驗表明，本文提出的方法在主觀視覺效果和客觀評價參數都優于相比較的幾種算法。

1　基于改進的擴散平滑和限制玻爾茲曼機的特征提取及分類

采用了一種改進的各項異性擴散平滑方法。通過改進PM模型的擴散系數，設置一個梯度閾值，每個梯度范圍對應一種擴散系數，在不同的梯度區域采用相對應的擴散系數進行處理：在梯度較小的區域采用較大程度的擴散，處理后圖像中亮度值相近的像素點會連成一片，形成尺度空間范圍內的同質區域，增加了同質區域噪聲的差別；在梯度較大的區域采用PM模型進行處理，最大程度保留細節和邊緣信息。

經過擴散平滑處理后，高光譜圖像的噪點基本被去除。將得到的數據中每個波段的圖像依次拉伸為一列，再將每列數據等分，按順序存儲起來，便于分批處理。最后利用多層限制玻爾茲曼機網絡對數據進行訓練，提取特征，輸出的權值向量作為BP神經網絡或SP(子空間追蹤)算法的輸入，完成對地物的分類。系統框圖如圖1所示。

圖1　系統框圖

2　特征提取及數據處理

2.1基于改進的擴散平滑的高光譜圖像去噪

高光譜數據在獲取和傳輸過程中容易受傳感器、外界環境等因素的影響，存在很多噪聲。為了減小噪聲對特征提取的影響，除了剔除噪聲波段和吸水波段，還需要對數據進一步去噪。由于高光譜數據包含上百個波段的光譜信息，如果采用中值濾波或者小波變換等方法，計算量非常大，耗時太久。本文引入一種改進的各向異性擴散(PM)模型對高光譜圖像進行去噪。

PM模型是改進的熱傳導微分方程

(1)

擴散系數為

(2)

式中：k是閾值參數，用來控制特征尺度。

新方法通過改進PM模型的擴散系數，針對不同的梯度范圍采用不同程度的擴散。

(3)

(4)

(5)

式中：α和β是連貫系數，它們保證擴散系數函數c2的連續性。

圖2所示為去噪前后的對比。在梯度較小的區域采用較大程度的擴散后，圖像中亮度值相近的像素點連成一片，形成同質區域，增加了區域噪聲的差別；在梯度較大的區域采用PM模型進行處理，細節和邊緣信息都得到很好的保留。對比圖2a和圖2b后發現，圓圈標注的兩個區域經過該方法處理后，噪點基本都被去除，邊緣和細節信息也得到很好的保留。

圖2　去噪前后的對比

2.2數據重組及分批

為了得到較好的分類效果以及提高系統效率，本文將經過去噪后的數據進行重組和分批：先把a幅大小為m×m的圖片拉伸為a列m2×1大小的矩陣存儲起來，再將每一列平均分為c份，每份含有b個元素。這樣處理過的數據就便于批量訓練和制作標簽。圖3所示為數據重組和分批的具體流程。

圖3　數據重組和分批

2.3限制玻爾茲曼機

限制玻爾茲曼機(RestrictedBoltzmannMachine，RBM)是一種生成式隨機神經網絡，該網絡由若干可見單元構成的可見層和一些隱藏單元構成的隱藏層組成[10]。神經元之間的連接具有層內無連接、層間全連接的特點。可見層單元用來描述輸入樣本數據的某個方面或某個特征，隱藏層單元一般用來獲取可見層單元對應變量之間的依賴關系，也被稱為特征提取層。圖4所示為RBM的網絡結構。

圖4　RBM網絡結構

n表示可見層中神經元的個數，m表示隱藏層中神經元的個數，v=(v1,v2,…,vn)表示可見層的狀態向量，h=(h1,h2,…,hm)表示隱藏層的狀態向量，a=(a1,a2,…,an)表示可見層的偏置向量，b=(b1,b2,…,bm)表示隱藏層的偏置向量，W=(wi,j)∈Rn×m表示可見層和隱藏層之間的權值矩陣。

隱藏單元和可見單元的的激活概率分別為

(6)

(7)

式中：σ(x)=1/(1+e-x)為sigmoid激活函數；∑表示累加求和；hi是h中的一個元素；vj是v中的一個元素；aj是a中的一個元素；bi是b中的一個元素。

將可見單元的狀態設置為一個訓練樣本，v(0)=v，執行k步Gibbs采樣，利用式(6)計算所有隱藏單元的二值狀態，在所有隱藏單元狀態確定后，根據式(7)來確定第i個可見單元vi取值為1的概率，進而產生可見層的一個重構。然后利用采樣得到的v(k)來近似估計

(8)

(9)

(10)

各參數按下式更新

(11)

(12)

(13)

得到各層參數的更新公式

(14)

(15)

(16)

式中：η>0為學習率。

2.4方法具體流程

1)將經過幾何校正和大氣校正的高光譜數據中的噪聲波段和吸水波段剔除，再進行擴散平滑去噪處理。

2)將每個波段的圖片拉伸為一列，每列進行分塊，將數據分批。

3)按批次將數據輸入第一層RBM，輸出的權值和偏置作為第二層RBM的輸入，以此類推，經過N層訓練，得到權值向量以及隱藏層和可見層的偏置向量。

4)將最后一層RBM網絡輸出的權值向量作為BP神經網絡的輸入，通過BP后進行分類。

圖5所示為基于DBN的特征提取和分類方法流程圖。

圖5　基于DBN的特征提取和分類方法流程圖

3　實驗仿真及結果分析

3.1實驗數據和評估指標

實驗環境：在CPU為Intel至強E3-1230V3，內存為8GbyteDDR3，顯卡為GTX660 2GHz的PC機上，利用MATLABR2012a進行實驗仿真。

實驗采用的數據是美國國家航空航天局噴氣推進實驗室用AVIRIS系統在1992年拍攝的印第安納州西北部松樹場景高光譜遙感圖像。該數據光譜分辨率為10nm，空間分辨率為20m×20m，包含224個波段的光譜信息，每個波段的分辨率為144×144，圖6所示為某一個波段的地物分布情況。圖7為對應的地物標識。

圖6　單波段地物場景

圖7　地物標識

該高光譜數據對應的地物有16種，分別為Corn-Notill，Grass/Pasture，Grass/Trees，Hay-Windrowed，Soybeans-Notill，Soybeans-Mintill，Soybeans-Clean，Woods，Alfalfa，Corn-Mintill，Corn，Grass/Pasture-moved，Oats，Wheat，Bldng-Trass-Trees，Stone-Steel-Tower。表1為16種地物的樣本數目。

選取16種地物中的Corn-Notill，Grass/Pasture，Grass/Trees，Hay-Windrowed，Soybeans-Notill，Soybeans-Mintill，Soybeans-Clean和Woods這8類地物，共計8 511個樣本進行分類實驗。8類地物的具體分布如圖8～9所示。

表116種地物樣本數目

地物種類AlfalfaCorn-NotillCorn-MimtillBldng-Grass-TreesGrass/PastureGrass/TreesGrass/Pasture-movedHay-Windrowed樣本數目54143483423449774726489地物種類OatsSoybeans-NotillSoybeans-MintillSoybeans-CleanWheatWoodsCornStone-Steel-Tower樣本數目209682468614212129438095

圖8　8類地物標識1

圖9　8類地物標識2

利用混淆矩陣來反映分類結果與地物真實情況的相關信息，通過分析混淆矩陣，采用總體分類精度(OverallAccuracy，OA)、平均分類精度(AverageAccuracy，AA)和Kappa系數作為實驗的參考參數，用來判斷算法的性能。

對于混淆矩陣A，假設矩陣大小為m×m，樣本種類即為m個。aii表示正確分類到第i類的樣本數目，aij表示錯分的樣本數目。

測試樣本總數為

(17)

第i行元素之和為

(18)

第i列元素之和為

(19)

Kappa系數為

(20)

總體分類精度為

(21)

平均分類精度為

(22)

3.2參數設置實驗

實驗首先從RBM的參數設定進行。通過查閱文獻[11]，經過多次試驗，將RBM的參數設置為：epsilonw=0.1，epsilonvb=0.1，epsilonhb=0.1，weightcose=0.000 2，initialmomentum=0.5，finalmomentum=0.9。

由于神經網絡的抽象性，迭代的次數對實驗結果有很大影響。若迭代次數過小，則數據不能夠很好地描述較抽象的特征；若迭代次數過大，則實驗所花費的時間將大大增加。通過實驗發現，迭代20次以后，分類效果已經穩定，繼續增加迭代次數分類效果提升不明顯。

文獻[12]指出，隱藏層的節點數對特征提取有一定影響。當隱藏層節點數目過多時，會導致過擬合；同樣，當隱藏層節點數過小時，兩層神經元之間的鏈接過少，層與層之間的權值向量不能很好地表示相關信息。通過多次實驗，發現其他參數不變，當隱藏層節點個數為60的時候，分類結果最好。圖10所示為不同迭代次數下的分類結果，圖11所示為隱藏層個數對分類結果的影響。

圖10　不同迭代次數下的分類效果

圖11　隱藏層個數對分類結果的影響

3.3實驗結果分析

圖12所示為各方法的分類效果圖，表2所示為各類方法的參數對比。由圖12a的分類結果示意圖可以看出，SVM算法能夠將8類地物都比較好地分類出來，特別是對Woods的分類準確度達到了97.89%。但是由于高光譜圖像存在“同物異譜，同譜異物”的現象，造成該算法在某些地物的分類上容易發生誤分和漏分的現象。從圖12a中的標注可以看出，該方法對Corn-Notill這類地物的分類效果很差，大部分都被錯分為地物Soybeans-Mintill，Soybeans-Clean這類地物也有一部分被錯分為Soybeans-Mintill。表2的實驗數據反映該方法對地物Corn-Notill的分類精度只有58.67%，這也進一步印證了該算法的缺陷。

圖12　各方法的分類效果圖

基于RBM的兩種方法由于采用了多層RBM訓練網絡對數據進行處理，能夠深度挖掘很抽象的特征，在一定程度上改善了誤分的現象。圖12a中SVM分類方法將很大一部分的Hay-Windrowed誤分為Grass/Pasture，

表2各種方法的分類效果

地物種類SVMRBM+SPRBM+BP擴散平滑+RBM+BPCorn-Notill0.58670.70730.74020.7421Grass/Pasture0.73780.88410.86750.8850Grass/Trees0.96750.94110.97530.9696Hay-Windrowed0.63820.92470.90380.9251Soybeans-Notill0.66760.76340.80760.7966Soybeans-Mintill0.77520.80530.79190.8045Soybeans-Clean0.61920.60030.63740.6233Woods0.97890.92810.95180.9637OA0.76710.82240.84070.8476AA0.74640.81930.83440.8387Kappa0.71900.76850.77010.7727

在圖12b和圖12d中可以看出該現象均得到了很好的改善。雖然對Woods的分類效果較SVM方法略有下降，但是對Corn-Notill，Grass/Trees，Grass/Pasture，Hay-Windrowed，Soybeans-Notill和Soybeans-Mintill這幾類地物的分類效果都有所提升。特別是DBN網絡，由于BP神經網絡的反向傳播特性，能夠對系統進行微調，使得該網絡的分類效果進一步提升。表2的數據也顯示它的幾項參數均比其他兩種方法有顯著提升。

從圖12c和圖12d可以看出，經過擴散平滑去噪處理后，分類效果得到改善。圖13所示為去噪前后的參數對比。由圖13和表2也可看出，去噪后的分類效果在Kappa系數、平均精度和總體精度上均有提高。實驗驗證本文方法改善了DBN系統在去噪方面的不足，對遙感圖像地物分類的效果顯著，證明該方法可行。

圖13　去噪前后評估參數對比

4　總結

針對DBN在去噪方面的不足，提出了一種基于改進的擴散平滑和限制玻爾茲曼機的高光譜圖像特征提取及分類方法。該方法利用一種改進的擴散平滑算法，對高光譜圖像不同的梯度區域采取不同程度的擴散平滑，有效去除噪聲；然后利用RBM網絡，采用級聯的網絡結構，充分挖掘數據的深層抽象特征；最后將提取的特征作為BP(SP)的輸入，對各類地物進行分類。實驗結果表明，本文提出的算法在各類地物分類效果以及總體分類準確率上，相比其他算法，都取得一定程度的提高。本文方法在去噪方面仍有改進的空間，可以結合PCA和字典學習的優點進行更好的去噪處理。該方法優化后將在城市規劃、農業生產和森林植被調查等領域有很好的應用前景。

[1]GURRAMP.Algorithmsformultispectralandhyperspectralimageanalysis[J].Journalofelectrical&computerengineering，2013(2)：11-16.

[2]AHMADM，LEES，HAQIU，etal.Hyperspectralremotesensing：dimensionalreductionandendmemberextraction[J].Internationaljournalofsoftcomputing&engineering，2012，2(2)：25-29.

[3]都業軍，周肅，方吉宙.人工神經網絡在遙感影像分類中的應用與對比研究[J].測繪科學，2015(增刊1)：53-123.

[4]HAYKINS.Neuralnetworksandlearningmachines[M]. 3rded.NewJersey：PearsonEducation，2009.

[5]譚琨，杜培軍. 基于支持向量機的高光譜遙感圖像分類[J].紅外與毫米波學報， 2008， 27(2)： 123-128.

[6]NIUX，BANYF.AnovelcontextualclassificationalgorithmformultitemporalpolarimetricSARdata[J].IEEEgeoscienceandremotesensingletters，2014，11(3)：681-685.

[7]呂啟，竇勇，牛新，等.基于DBN模型的遙感圖像分類[J].計算機研究與發展，2014，51(9)：1911-1918.

[8]HINTONGE，SALAKHUTDINOVRR.Reducingthedimensionalityofdatawithneuralnetworks[J].Science，2006(13)：504-507.

[9]MIDHUNME，NAIRSR，PRABHAKARVTN，etal.Deepmodelforclassificationofhyperspectralimageusingrestrictedboltzmannmachine[C]//ICONIAAC′14.[S.l.]：IEEE，2014：1-7.

[10]張春霞，姬楠楠，王冠偉.受限波爾茲曼機[J].工程數學學報，2015，32(2)：159-173.

[11]LUOX，ZHAOC，PANJ，etal.Remotesensingimageintelligentclassificationanditsapplication[J].Publishinghouseofelectronicsindustry，2011(8)：19-27.[12]LAROCHELLE H，BENGIO Y，LOURADOUR J，et al. Exploring strategies for training deep neural networks[J]. The journal of machine learning research，2009(10)：1-40.

歐陽寧(1972— )，教授，主要研究領域為智能圖像處理、智能信息處理、數據融合、計算機應用等；

高鑫(1988— )，碩士生，主研高光譜圖像去噪和分類；

袁華(1975— )，碩士，講師，主研圖像處理、智能圖像處理。

責任編輯：時雯

Feature extraction and classification of hyperspectral image based on improved diffusion smoothing and RBM

OUYANG Ning，GAO Xin，YUAN Hua

(KeyLaboratoryofCognitiveRadioandInformationProcessing，GuilinUniversityofElectronicTechnology，GuangxiGuilin541004，China)

In order to improve the shortcomings of traditional classification methods in hyperspectral remote sensing image denoising and feature extraction， a new method based on improved diffusion smoothing algorithm and RBM model is proposed. The method uses the adaptive diffusion coefficient to the high spectral image denoising. To the corresponding regions， different degree of diffusion smoothing is adopted to realize the fast denoising of hyperspectral remote sensing image.Then， restricted Boltzmann machine is used to build DBN network to classify hyperspectral remote sensing images. The experimental results show that， compared with the traditional classification method and DBN， the proposed method obviously improve the classification accuracy of the remote sensing image.

diffusion smoothing； restricted Boltzmann machine； hyperspectral； remote sensing； neural network

TN911.73

ADOI：10.16280/j.videoe.2016.010.005

國家自然科學基金項目(61362021)；廣西自然科學基金項目(2013GXNSFDA019030；2013GXNSFAA019331；2014GXNSFDA118035)；廣西科技開發項目(桂科攻1348020-6；桂科能1298025-7)；桂林電子科技大學研究生科研創新項目(YJCXS201531)

2016-02-05

文獻引用格式：歐陽寧，高鑫，袁華.基于改進的擴散平滑和RBM的高光譜圖像分類[J].電視技術，2016，40(10)：22-27.

OUYANG N，GAO X，YUAN H.Feature extraction and classification of hyperspectral image based on improved diffusion smoothing and RBM[J].Video engineering，2016,40(10)：22-27.