面向高光譜分類的局部幾何稀疏保持嵌入

黃鴻 唐玉梟 段宇樂

2018 年我國發(fā)射的高分五號和“珠海一號”高光譜衛(wèi)星推動著高光譜遙感行業(yè)發(fā)展,為農(nóng)業(yè)監(jiān)測、資源勘查、環(huán)境管理和國防建設(shè)等領(lǐng)域提供數(shù)據(jù)支持[1?2].高光譜遙感圖像的光譜分辨率高,包含幾十乃至幾百個光譜波段,具有 “圖譜合一”特征,這種獨特的優(yōu)勢為地物精細分類提供應(yīng)用基礎(chǔ)[3?4].但同時高光譜圖像也存在光譜數(shù)據(jù)量大、波段數(shù)多、相關(guān)性強等特點[5],傳統(tǒng)地物分類方法易導(dǎo)致 “維數(shù)災(zāi)難”問題[6?7].因此,如何去除冗余、減少光譜波段數(shù)、降低計算復(fù)雜度,提取出高光譜圖像中更有鑒別力的特征是實現(xiàn)地物精細分類的關(guān)鍵[8?9].

目前,學(xué)者們提出了一系列維數(shù)約簡(Dimensionality reduction,DR)方法,以實現(xiàn)將高維數(shù)據(jù)投影到低維嵌入空間中,提取出低維鑒別特征,改善地物分類性能.主成分分析(Principal component analysis,PCA)[10]和線性鑒別分析(Linear discriminant analysis,LDA)[11]等經(jīng)典維數(shù)約簡方法的目的在于將數(shù)據(jù)投影到線性子空間中,但忽略了高維數(shù)據(jù)中可能存在的低維流形結(jié)構(gòu).學(xué)者們提出LE (Laplacian eigenmaps)[12]、LLE (Locally linear embedding)[13]和ISOMAP (Isometric feature mapping)[14]等流形學(xué)習(xí)方法,以揭示高維觀測數(shù)據(jù)中的流形結(jié)構(gòu).但上述流形學(xué)習(xí)方法為非線性方法,沒有直接的投影矩陣,存在樣本外學(xué)習(xí)問題.為此,學(xué)者提出了鄰域保持嵌入(Neighborhood preserving embedding,NPE)[15]和局部保持投影(Locality preserving projection,LPP)[16]等線性方法,但由于其無監(jiān)督學(xué)習(xí)特性,限制了所提取低維特征的鑒別力.而后,Yan等[17]提出了一種圖嵌入(Graph embedding,GE)框架,將上述PCA、LDA、LE、LLE和ISOMAP 等方法統(tǒng)一到該框架下.在此框架下,學(xué)者通過引入訓(xùn)練樣本的先驗知識提出Supervised NPE (SNPE)[18]、Supervised LPP[19]、局部Fisher 判別分析(Local Fisher discriminant analysis,LFDA)[20]和局部幾何結(jié)構(gòu)Fisher 分析(Local geametric structure feature analysis,LGSFA)[21]等方法,來挖掘高維數(shù)據(jù)中的鑒別特征,以提高分類性能.

上述圖嵌入方法均通過k近鄰法或ε半徑球法選擇近鄰樣本來構(gòu)建圖,通過近鄰點進行構(gòu)圖存在參數(shù)選擇困難問題,且提取性能易受到高光譜數(shù)據(jù)中 “同物異譜”或 “異物同譜”現(xiàn)象影響.為此,學(xué)者結(jié)合稀疏表示(Sparsity representation,SR)方法提出稀疏保持投影(Sparsity preserving projection,SPP)[22]和基于稀疏表示投影的鑒別學(xué)習(xí)(Discriminative learning by SR projections,DLSP)[23]以自適應(yīng)地保持數(shù)據(jù)間的稀疏特性,解決構(gòu)圖過程中參數(shù)選擇等問題.而后,學(xué)者為增強稀疏表示的鑒別性,將樣本的標記信息同稀疏表示和流形散度矩陣結(jié)合提出稀疏鑒別學(xué)習(xí)(Sparse discriminant learning,SDL)[24],雖然流形結(jié)構(gòu)也是幾何結(jié)構(gòu)的一種,但直接計算流形散度矩陣對數(shù)據(jù)的結(jié)構(gòu)描述不夠細致,忽略了數(shù)據(jù)間更多的相似特性,有學(xué)者提出的鑒別稀疏保持嵌入(Discriminant sparse preserving embedding,DSPE)[25],直接將流形中的稀疏點用于構(gòu)圖也存在相似問題.學(xué)者提出多結(jié)構(gòu)流形嵌入(Multi-structure manifold embedding,MSME)[26]方法,在保持稀疏圖與稀疏超圖結(jié)構(gòu)的同時,保持數(shù)據(jù)間的局部線性結(jié)構(gòu),說明局部空間內(nèi)的數(shù)據(jù)能更好地表征數(shù)據(jù)的本質(zhì)結(jié)構(gòu).Huang 等基于稀疏流形編碼(Sparse manifold coding,SMC)[27]模型對數(shù)據(jù)進行稀疏表征,提出一種稀疏鑒別流形嵌入(Sparse discriminant manifold embedding,SDME)[28]方法,該方法通過稀疏系數(shù)獲得同類數(shù)據(jù)間的相似性,增強了同類數(shù)據(jù)在局部流形空間的表達性能.

針對上述問題,為進一步加強同類數(shù)據(jù)在局部空間的相似關(guān)系,本文提出一種面向高光譜圖像特征提取的局部幾何稀疏保持嵌入(Local geometry and sparsity preserving embedding,LGSPE)方法.該方法通過各同類樣本的鄰域點線性重構(gòu)每個樣本,保持數(shù)據(jù)鄰域內(nèi)的幾何近鄰結(jié)構(gòu),并通過SMC 模型計算各樣本的局部稀疏流形結(jié)構(gòu),并獲得局部稀疏系數(shù),通過圖嵌入框架保持數(shù)據(jù)的稀疏關(guān)系的同時保持局部幾何近鄰結(jié)構(gòu),在嵌入空間使同類樣本盡可能聚集,提取出具有鑒別力的低維特征,從而提升分類精度.本文在Indian Pines和PaviaU高光譜數(shù)據(jù)集上進行實驗以驗證提出LGSPE 方法的有效性.

1 本文算法

本文假設(shè)高光譜圖像數(shù)據(jù)集表示為X=[x1,x2,···,xn]∈RD×n,其中D為樣本波段數(shù),n為樣本個數(shù),其中xi對應(yīng)的標簽為L=[l1,l2,···,lc],li∈{1,2,···,c},c為類別數(shù).X的低維嵌入特征可表示為Y=PTX∈Rd×n,d(d ?D) 為嵌入維數(shù),P∈RD×d為投影矩陣.

1.1 圖嵌入學(xué)習(xí)

為更好地解釋維數(shù)約簡算法在特征提取過程中的含義,學(xué)者們提出圖嵌入學(xué)習(xí)以描述數(shù)據(jù)間的結(jié)構(gòu)關(guān)系,目前圖嵌入學(xué)習(xí)已廣泛應(yīng)用于高維數(shù)據(jù)的維數(shù)約簡過程.圖嵌入的主要思想是,通過構(gòu)建本征圖G={X,W}來表示同類數(shù)據(jù)間的幾何或統(tǒng)計特性或懲罰圖GP={X,WP}來描述非同類數(shù)據(jù)間的幾何或統(tǒng)計特性,其中X為圖中的頂點,W和WP為權(quán)值矩陣,通過權(quán)值可表征數(shù)據(jù)在低維嵌入空間中的相似關(guān)系.

圖嵌入的主要目的在于,在低維投影空間中保持頂點間的相似性或抑制點間關(guān)系.根據(jù)圖嵌入原理,其優(yōu)化目標函數(shù)可定義為

1.2 稀疏流形編碼

在圖嵌入框架下,構(gòu)建圖時首先要選擇與目標點相關(guān)的數(shù)據(jù)連接成邊,k-近鄰和ε-近鄰是目前最常用的邊連接方法,但參數(shù)近鄰數(shù)k和球半徑ε易受噪聲的影響難以確定最佳值.為此,采用SMC優(yōu)化模型來選擇具有相似結(jié)構(gòu)的點,該方法假設(shè)每個點xi的鄰域內(nèi)存在一個流形結(jié)構(gòu),通過構(gòu)建一個稀疏優(yōu)化問題來自適應(yīng)選取同一流形上的稀疏點,從而揭示高維數(shù)據(jù)的流形結(jié)構(gòu).其優(yōu)化目標函數(shù)為

綜上,相比于采用傳統(tǒng)的近鄰選擇k-近鄰法和ε-近鄰法,SMC 通過稀疏表示探索數(shù)據(jù)間的稀疏特性揭示數(shù)據(jù)鄰域內(nèi)的流形結(jié)構(gòu).

1.3 局部幾何稀疏保持嵌入

為充分利用樣本的局部幾何近鄰結(jié)構(gòu)和稀疏特性,本文提出一種局部幾何稀疏保持嵌入(LGSPE)方法,以提取高維數(shù)據(jù)的低維鑒別特征.該方法利用鄰域樣本進行局部線性重構(gòu),保持同類數(shù)據(jù)間的局部幾何結(jié)構(gòu)并削減噪聲所帶來的影響,通過稀疏流形編碼模型求出稀疏系數(shù),以保持樣本鄰域內(nèi)存在于同一流形上的稀疏關(guān)系,在圖嵌入過程中保持幾何近鄰結(jié)構(gòu)和稀疏關(guān)系,實現(xiàn)在低維嵌入空間中類內(nèi)樣本盡可能聚集,有效提升地物的分類性能.LGSPE 方法的流程圖如圖1 所示.

圖1 局部幾何稀疏保持嵌入(LGSPE)方法流程圖Fig.1 Flowchart of the LGSPE method

由于高光譜圖像光譜分辨率較高,一些波段易受噪聲影響,并且距離相近的樣本一般保持相似的結(jié)構(gòu)關(guān)系.通過對各樣本點周圍的同類近鄰樣本進行線性重構(gòu)可減少噪聲所帶來的影響,同時能保持同類數(shù)據(jù)間的局部線性結(jié)構(gòu),每個點xi可由其周圍的k近鄰?fù)愢徲?? (xi) 點重構(gòu)表示,可以通過計算最小化重構(gòu)誤差得到局部重構(gòu)權(quán)重

其中,cij為樣本xi和xj之間的權(quán)重,如果xi和xj為同類樣本則cij0; 否則cij=0.進一步簡化式(5),有

通過式(8) 得出的局部重構(gòu)權(quán)重ci=[ci1,ci2,···,cik]T,重構(gòu)后的點可線性表示為xi ≈Xci.

為探索數(shù)據(jù)的局部子流形結(jié)構(gòu),采用SMC 模型自適應(yīng)選擇來自同一切空間的近鄰點.首先通過l1范數(shù)尋找目標點xi的歐氏近鄰點來探索基本的幾何關(guān)系,同時通過求解稀疏優(yōu)化問題以尋找xi鄰域內(nèi)來自同一流形的像元.求解目標問題可表示為

式中,α(α>0) 為稀疏解與表示誤差間的權(quán)值.式(9)通過交叉乘子法(Alternating direction method of multipliers,ADMM)計算局部稀疏優(yōu)化問題,可求出每個樣本的稀疏近鄰關(guān)系.

通過計算每個樣本的局部稀疏系數(shù)和幾何距離,并構(gòu)建一個稀疏類內(nèi)相似圖Gw={X,Ww}來表征數(shù)據(jù)的判別嵌入結(jié)構(gòu).為減少鄰域范圍內(nèi)來自同一流形點間的差異性,并保持相似圖的局部幾何信息和稀疏關(guān)系,設(shè)計一個相似權(quán)值系數(shù)

式中,和分別為歐氏距離di和稀疏系數(shù)si的均值,為增加相似圖的判別性,只連接具有相同類別標簽的點,以構(gòu)建一個類內(nèi)相似圖.

由式(7) 計算得到的局部重構(gòu)權(quán)重ci,式(9)得到的稀疏系數(shù)si,式(10) 的相似權(quán)值系數(shù)Ww,可通過一個維數(shù)約簡算法來學(xué)習(xí)最優(yōu)投影矩陣P,將測試樣本投影到低維空間,提取出更有鑒別力的特征.在此低維嵌入空間中,同類數(shù)據(jù)可保持其原有的幾何近鄰結(jié)構(gòu)和稀疏關(guān)系,同時再通過局部線性重構(gòu)和類內(nèi)稀疏圖嵌入使類內(nèi)樣本更加靠近,其構(gòu)建目標函數(shù)可表示為

式中,β為平衡參數(shù),用于調(diào)節(jié)局部線性重構(gòu)和稀疏重構(gòu)的重要性.經(jīng)數(shù)學(xué)推導(dǎo)后,式(11)可進一步簡化為

通過拉格朗日乘子法,式(13)的優(yōu)化解可表示為

求解式(14)的廣義特征值和其對應(yīng)的特征向量,并將特征值按升序排序,取前d個特征值對應(yīng)的特征向量可得到投影矩陣P=[p1,p2,···,pd],投影后的數(shù)據(jù)可表示為Y=PTX∈Rd×n.

LGSPE 算法的主要步驟如下.

算法 1.LGSPE 算法

輸入.高光譜數(shù)據(jù)集X∈RD×n,類別標簽集L,嵌入維度d(d ?D),平衡參數(shù)β,局部線性嵌入近鄰數(shù)Cn,局部稀疏近鄰數(shù)Sn,稀疏度λ.

輸出.低維投影矩陣P,嵌入特征Y=PTX.

1) 將高光譜數(shù)據(jù)X進行歸一化預(yù)處理,根據(jù)標簽信息,在每類中按比例隨機選取一定數(shù)量的樣本進行訓(xùn)練,其余用于測試;

2)選取訓(xùn)練樣本的同類Cn近鄰,根據(jù)式(7)計算各個訓(xùn)練樣本的局部重構(gòu)權(quán)重ci;

3)根據(jù)式(10)計算局部稀疏系數(shù)si和局部幾何關(guān)系di;

5)計算局部線性重構(gòu)和稀疏重構(gòu)的拉普拉斯矩陣Lc,Ls;

6)求解式(14)中的廣義特征值問題,選取前d個特征值對應(yīng)的特征向量構(gòu)成低維投影矩陣P=[p1,p2,···,pd];

7) 將測試樣本嵌入低維投影空間,得到低維鑒別特征Y=PTX.

2 實驗結(jié)果與分析

2.1 實驗數(shù)據(jù)集

1) Indian Pines 數(shù)據(jù)集由美國宇航局采用AVIRIS (Airborne visible infrared imaging spetrometer)傳感器獲取位于美國印第安納州西北部的高光譜圖像,該數(shù)據(jù)集大小為145×145 像素,包含220 個光譜波段,空間分辨率為20 m,去除受噪聲影響的20 個波段后,剩余200 個波段用于實驗,地物主要包含農(nóng)作物、草地、房屋等16 類.圖2 為該數(shù)據(jù)集的假彩色圖、地物分布圖和每類地物對應(yīng)的樣本數(shù)量.

圖2 Indian Pines 高光譜圖像Fig.2 Indian Pines hyperspectral image

2) PaviaU 數(shù)據(jù)集由ROSIS (Reflective optics system imaging spectrometer)傳感器獲取位于意大利北部帕維亞大學(xué)北部的高光譜圖像,該數(shù)據(jù)集大小為610×340 像素,共115 個光譜波段,空間分辨率為1.3 m,剔除易受水氣影響的12 個波段后,余下103 個波段用于實驗研究,主要包括裸土、草地、磚塊等9 類地物.圖3 為該數(shù)據(jù)集的假彩色圖、地物分布圖和每類地物對應(yīng)的樣本數(shù)量.

圖3 PaviaU 高光譜圖像Fig.3 PaviaU hyperspectral image

2.2 實驗設(shè)置

在實驗中,每次選取一定數(shù)量的標記樣本用于訓(xùn)練,其余用于測試,通過各維數(shù)約簡算法對訓(xùn)練樣本進行學(xué)習(xí),得到低維投影矩陣,進而將測試樣本嵌入到低維投影空間,最后采用最近鄰分類器(1-NN)對嵌入的低維樣本進行分類.實驗結(jié)果使用總分類精度(Overall accuracy,OA)、平均分類精度(Average accuracy,AA)和K appa 系數(shù)作為評價指標,并進行顯著性差異分析.

為驗證本文算法的有效性,選取RAW、PCA[10]、LDA[11]、LFDA[20]、SNPE[18]、SPP[22]、DLSP[23]、SDL[24]、DSPE[25]、MSME[26]、LGSFA[21]和SDME[28]與本文維數(shù)約簡算法進行對比,RAW 為不降維直接進行分類的結(jié)果.實驗中采用交叉驗證方法獲取各個算法的最優(yōu)參數(shù),對于近鄰數(shù),LFDA、SNPE 分別設(shè)為9和5,LGSFA 類內(nèi)為9,類間為20;對于稀疏誤差閾值,SDL、DSPE、SDME設(shè)置為0.1,DLSP 設(shè)置為0.9,SPP 設(shè)置為5,MSME 設(shè)置為100;SDME 的加權(quán)參數(shù)設(shè)為50,MSME 的權(quán)衡系數(shù)α和β分別設(shè)置為0.8和0.5.LDA 算法的嵌入維數(shù)設(shè)置為c ?1,c為類別數(shù),其余算法嵌入維數(shù)設(shè)置為30.每種算法的實驗均重復(fù)10 次,取均值及方差作為實驗結(jié)果.

為分析本文方法中稀疏誤差閾值λ和平衡參數(shù)β對分類精度的影響,從Indian Pines 數(shù)據(jù)集中每類隨機選取10%的樣本、從PaviaU 數(shù)據(jù)集中選取1%的樣本進行訓(xùn)練,其余用于分類測試.實驗中,λ和β的調(diào)試范圍分別為[0.001,0.01,0.1,1,5,10,20,50,100]和[ 0,0.1,0.2,···,0.9,1],參數(shù)Cn、Sn設(shè)置為Cn=Sn=30.圖4 為LGSPE 在兩個數(shù)據(jù)集上測試λ、β兩個參數(shù)的總體分類精度.

由圖4 可知,分類精度隨稀疏誤差閾值λ的增加先增大后減小,這是由于λ設(shè)置越小,得到的點越稀疏,不足以表征數(shù)據(jù)結(jié)構(gòu),而當λ太大時,又得到太多的冗余點,導(dǎo)致分類精度降低,因此λ在某一合適區(qū)域內(nèi),能夠得到較好的分類效果.分類精度隨權(quán)值系數(shù)β的增大先增大后趨于平滑,可知局部線性重構(gòu)在整個特征提取過程中有較大的比重,能夠較好地保持數(shù)據(jù)的本質(zhì)屬性.基于上述結(jié)果,在Indian Pines 數(shù)據(jù)集上取λ=1,β=0.9,在PaviaU數(shù)據(jù)集上取λ=5,β=0.8.

圖4 不同參數(shù)λ和β 在兩個數(shù)據(jù)集上的總體分類精度Fig.4 OAs with different parametersλ andβ on two datasets

同時,為探索局部線性嵌入近鄰數(shù)Cn和局部稀疏近鄰數(shù)Sn對分類精度的影響,兩參數(shù)范圍均設(shè)置為 [ 20,40,···,200],在Indian Pines 上固定λ=1,β=0.9,在PaviaU 上固定λ=5,β=0.8.圖5 為LGSPE 在兩個數(shù)據(jù)集上測試Cn和Sn兩個參數(shù)的總體分類精度.

由圖5 可知,分類精度在Sn較小時獲得較高精度,隨著Sn的增加出現(xiàn)下降趨勢,這說明流形結(jié)構(gòu)存在于樣本點周圍較小的空間上,在此鄰域內(nèi)以獲得數(shù)據(jù)間具有較好鑒別性的稀疏流形結(jié)構(gòu);分類精度在Indian Pines 數(shù)據(jù)集上隨Cn先增大后減小,在PaviaU 數(shù)據(jù)集上隨Cn的增大呈較小趨勢.這是由于兩個數(shù)據(jù)集在數(shù)據(jù)分布上不同需要的局部重構(gòu)點數(shù)也會有較大差異,根據(jù)上述分析,在Indian Pines數(shù)據(jù)集上取Sn=40,Cn=120,在PaviaU 數(shù)據(jù)集上取Sn=40,Cn=50.

圖5 不同參數(shù)Sn和Cn 在兩個數(shù)據(jù)集上的總體分類精度Fig.5 OAs with different parametersSn andCn on two datasets

2.3 Indian Pines 數(shù)據(jù)集實驗

為分析訓(xùn)練樣本數(shù)對各算法特征提取效果的影響,從Indian Pines 數(shù)據(jù)集每類地物中隨機選取2%,4%,6%,8%,10%的樣本進行訓(xùn)練,由于該數(shù)據(jù)集每類地物的數(shù)量差距較大,每類包含20 到2 455 不等樣本,當某類訓(xùn)練樣本數(shù)量小于10 時,固定該類訓(xùn)練樣本為10,剩余樣本用于測試.實驗采用各特征提取算法訓(xùn)練得到低維特征后,用1-NN 分類器進行分類,每次實驗重復(fù)10 次,實驗結(jié)果采用雙側(cè)T 檢驗計算對比各個算法與本文算法LGSPE 的顯著性差異,T 檢驗的顯著性水準取0.05,若p值小于0.05 則假設(shè)檢驗結(jié)果h=1,表示該對比算法與LGSPE 的實驗結(jié)果顯著性差異性較大.表1 為不同訓(xùn)練樣本數(shù)量下各算法的總體分類精度、標準差和p,h值.

由表1 的實驗結(jié)果可知,隨訓(xùn)練樣本數(shù)量的增加,各特征提取算法的分類精度都不斷提高,因為訓(xùn)練樣本越多,所得到的有用信息也越豐富,有利于發(fā)現(xiàn)數(shù)據(jù)的本征結(jié)構(gòu),進而改善分類精度.LDA、SNPE、SDL 等監(jiān)督方法總體要優(yōu)于PCA、SPP、DLSP 等非監(jiān)督方法,這是由于監(jiān)督方法利用了數(shù)據(jù)的類別信息,增強低維特征的鑒別力,但在訓(xùn)練樣本較少時分類精度受限,LDA、SNPE、SPP、MSME 等方法存在過擬合現(xiàn)象.但同樣在樣本量較少時DSPE、LGSFA、SDME、LGSPE 的分類精度要明顯優(yōu)于其他對比方法,這是由于它們通過監(jiān)督訓(xùn)練局部子空間內(nèi)的數(shù)據(jù)能發(fā)現(xiàn)更具有鑒別性的結(jié)構(gòu),且隨著樣本量的增加LGSPE 的精度一直優(yōu)于其他算法,說明LGSPE 能更好地保持數(shù)據(jù)在局部空間的本質(zhì)結(jié)構(gòu),進而改善分類精度.

表1 不同算法在Indian Pines 數(shù)據(jù)集上的分類結(jié)果(總體分類精度±標準差(%) (p,h))Table 1 Classification results with different methods on Indian Pines dataset (OA ± Std (%) (p,h))

其中LFDA、SNPE 僅通過k近鄰法表征高維數(shù)據(jù)的局部結(jié)構(gòu),提取出的鑒別特征受到限制,無監(jiān)督SPP和監(jiān)督DLSP 利用稀疏表示直接對數(shù)據(jù)結(jié)構(gòu)進行表征同樣不能揭示數(shù)據(jù)的內(nèi)部結(jié)構(gòu),然而基于局部幾何結(jié)構(gòu)進行構(gòu)圖的LGSFA 能較好地揭示數(shù)據(jù)的局部幾何特性,同樣以稀疏表示自適應(yīng)選擇存在于同一流形上的點進行圖嵌入的方法SDL、SDME、LGSPE 能很好地發(fā)現(xiàn)數(shù)據(jù)內(nèi)具有鑒別力的流形結(jié)構(gòu).且在大部分條件下,本文方法LGSPE能獲得最佳分類精度,這是由于LGSPE 能同時保持數(shù)據(jù)的局部幾何近鄰結(jié)構(gòu)和稀疏特性,增強了數(shù)據(jù)的表達能力,更利于提升分類精度.

將各個算法的實驗結(jié)果與本文方法LGSPE 的結(jié)果計算出雙側(cè)T 檢驗的p值和h值可知,除了極少數(shù)情況下,各個對比算法與本文算法的顯著性差異較大,且隨著訓(xùn)練樣本量的增加,顯著性差異基本呈增長趨勢.本文方法LGSPE 在大多數(shù)訓(xùn)練條件下分類精度均高于其他算法,這是由于LGSPE構(gòu)建的圖能在低維嵌入時保持高維空間中的局部幾何線性結(jié)構(gòu)與稀疏流形結(jié)構(gòu),增強了不同類別數(shù)據(jù)間的可分性,提取出有利于分類的特征.

為分析各算法對各類地物的特征提取效果,在每類地物中隨機選取15%的樣本作為訓(xùn)練樣本,其余作為測試樣本.表2 通過每類分類精度、總體分類精度、平均分類精度、K appa 系數(shù)及維數(shù)簡約(DR)所用的時間來對比各算法的優(yōu)劣,圖6 為各算法在Indian Pines 數(shù)據(jù)集上對應(yīng)表2 的分類結(jié)果圖.

由表2 可看到,LGSPE 的大多數(shù)類別分類精度要優(yōu)于其他方法,且根據(jù)圖6 中可觀察到對應(yīng)的2,5,6,11 類具有較好的分類效果,錯分點相對較少,并在圖6 中做出標記,以便對應(yīng)觀察,對應(yīng)的地物為 “Notill”、“Grass/Psature”、“Grass/Tress”、“Soybeans-min”.同時,大多數(shù)稀疏表示方法的降維時間明顯要高于k近鄰法,因為稀疏表示的實質(zhì)是一個優(yōu)化問題 通常采用迭代求解,稀疏閾值設(shè)置的越小,迭代次數(shù)越多,計算出的相關(guān)點越少,所花費的時間越長.通過表2 可觀察到本文方法LGSPE 相較于SDME 分類精度更高的同時訓(xùn)練時間也要少許多,這是由于本文的稀疏點是從一個鄰域內(nèi)尋找的,因此計算量相對較低,獲得了不錯的訓(xùn)練速度.

2.4 PaviaU 數(shù)據(jù)集實驗

進一步采用PaviaU 數(shù)據(jù)集驗證算法的有效性和泛化性,從每類地物中隨機選取0.4%,0.8%,1.2%,1.6%,2%的訓(xùn)練樣本作為訓(xùn)練集,其余作為測試集,由于該數(shù)據(jù)集的總樣本量較大且類別數(shù)少,為保證在兩數(shù)據(jù)集上每類的訓(xùn)練數(shù)量差別不大,因此訓(xùn)練樣本比例均小于Indian Pines 數(shù)據(jù)集.表3為不同訓(xùn)練樣本比例下各算法的分類結(jié)果.

根據(jù)表3 可知,隨著訓(xùn)練樣本數(shù)量的增多,算法的分類精度增長速度減緩,這是由于訓(xùn)練樣本充足時,特征提取算法訓(xùn)練出較為完備的投影空間,充分發(fā)揮算法的提取性能.不管是基于局部幾何近鄰結(jié)構(gòu)的LFDA、SNPE、LGSFA、LGSPE,還是基于稀疏流形學(xué)習(xí)的SDL、DSPE、MSME、SDME、LGSPE 等方法都旨在探索高維數(shù)據(jù)的局部結(jié)構(gòu),以發(fā)掘數(shù)據(jù)中具有鑒別力的特征.由p和h值可知,各對比算法與本文算法的總體分類精度均具有較大差異,且相較于Indian Pines 數(shù)據(jù)集,本文方法的分類精度要明顯優(yōu)于其他對比方法,這是由于PaviaU 數(shù)據(jù)集相較于Indian Pines 類別更少并且樣本數(shù)量更多,兩數(shù)據(jù)集的數(shù)據(jù)結(jié)構(gòu)、復(fù)雜度和可分性存在差異.且可觀察出SDL、MSME 等方法相比于其他算法在某一個數(shù)據(jù)集上能獲得較佳效果,而在另一個數(shù)據(jù)集上效果不明顯,這就體現(xiàn)了算法在不同數(shù)據(jù)集上的泛化能力.本文提出的算法LGSPE 在各種條件下均具有最佳分類效果且具有較好的泛化性,這是由于通過局部線性重構(gòu)減弱噪聲的影響并減小類內(nèi)數(shù)據(jù)的差異性,通過局部幾何稀疏度量的方法保持數(shù)據(jù)的局部幾何近鄰結(jié)構(gòu)和稀疏關(guān)系,同時嵌入圖框架能較好地保持同類數(shù)據(jù)的本質(zhì)結(jié)構(gòu)提高異類數(shù)據(jù)的可分性,從而獲得最佳分類精度.

表3 不同算法在PaviaU 數(shù)據(jù)集上的分類結(jié)果(總體分類精度±標準差(%) (p,h))Table 3 Classification results with different methods on PaviaU dataset (OA ± Std (%) (p,h))

為充分探索各算法對各類地物的分類效果,在每類地物中隨機選取5%的樣本作為訓(xùn)練樣本,其余作為測試樣本.表4 為分類結(jié)果,圖7 為對應(yīng)各地物的分類可視化圖.從表4 可知,LGSPE 在諸多地物類別中均獲得較好的分類效果,且根據(jù)圖7 觀察可知在第2,6,7,8 類對應(yīng)的 “Meadows”、“Soil”、“Bitumen”、“Bricks”等地物中獲得較高分類精度,已在圖7 中相應(yīng)圈出,以便對比觀察.由圖7 可知,對比于其他維數(shù)約簡算法,本文算法LGSPE 的分類結(jié)果圖的錯分點較少,更接近真實場景,表明LGSPE 能較好地保持數(shù)據(jù)的局部幾何近鄰結(jié)構(gòu)和稀疏特性,探索高維數(shù)據(jù)的低維本質(zhì)結(jié)構(gòu).

圖7 PaviaU 數(shù)據(jù)集上各算法的分類結(jié)果圖Fig.7 Classification maps of different method on PaviaU dataset

表4 不同算法在PaviaU 數(shù)據(jù)集上各類地物的分類結(jié)果Table 4 Classification results of each class samples via different methods on PaviaU dataset

2.5 空間濾波實驗

本文方法為基于光譜的特征提取方法,為進一步驗證其有效性,在此進行濾波對比實驗,并與RAW、空?譜協(xié)同正則化稀疏超圖嵌入(Spatialspectral regularized sparse hypergraph embedding,SSRSHE)[29]算法進行對比.在實驗中采用加權(quán)中值濾波(Weighted median filter,WMF)對高光譜影像進行濾波,分布采用方法對濾波前后數(shù)據(jù)進行實驗.具體參數(shù)設(shè)置為: WMF 濾波空間窗口設(shè)置為3,SSRSHE 參數(shù)與文獻[26]一致,分別從Indian Pines和PiavaU 數(shù)據(jù)集中每類隨機選取5,10,20,40,60 個樣本作為訓(xùn)練集,其余作為測試集,每次實驗重復(fù)10 次,實驗結(jié)果如表5所示.

表5 不同算法在 Indian Pines和PaviaU 數(shù)據(jù)集上的分類結(jié)果(總體分類精度±標準差(%) (Kappa))Table 5 Classification results with different methods on PaviaU and Indian Pines dataset (OA ± Std (%) (Kappa))

由表5 實驗結(jié)果可知,在各種訓(xùn)練條件,各種算法在進行濾波后分類性能都有明顯的提升,這說明濾波后可有效降低噪聲的影響.本文提出的LGSPE算法盡管在提取特征時沒有利用空間信息,但是其分類結(jié)果都要優(yōu)于空譜方法SSRSHE,主要原因是通過類內(nèi)重構(gòu)的方式可有效利用同類樣本的信息,使同類樣本更具相似性,并且通過保持局部鄰域的幾何結(jié)構(gòu)和稀疏特性,使嵌入特征更具有鑒別性,提升分類性能.

3 結(jié)束語

高光譜圖像數(shù)據(jù)在高維空間中存在復(fù)雜的結(jié)構(gòu)關(guān)系,針對傳統(tǒng)維數(shù)約簡方法未能充分利用標簽信息進行特征學(xué)習(xí),以及簡單圖嵌入方法難以充分利用局部信息發(fā)掘數(shù)據(jù)的內(nèi)蘊關(guān)系等問題,本文提出一種局部幾何稀疏保持嵌入算法,以進行特征提取.局部線性重構(gòu)每個訓(xùn)練樣本可增加同類樣本的聚集性,通過稀疏流形編碼模型能自適應(yīng)地選取來自同一流形的稀疏數(shù)據(jù),以圖嵌入方式保持數(shù)據(jù)在鄰域內(nèi)的幾何近鄰結(jié)構(gòu)和稀疏關(guān)系.在特征投影空間中使同類數(shù)據(jù)盡可能聚集,提取出更具鑒別性的特征.在Indian Pines和PaviaU 數(shù)據(jù)集上驗證本文算法的有效性與泛化性,實驗結(jié)果表明,相較于其他算法,LGSPE 在使用較少的訓(xùn)練時間下,能獲得最好的地物分類性能.由于本文方法僅利用光譜信息,下一步計劃將考慮加入空間信息,進一步提升算法分類性能.