基于小樣本分類的光譜圖像關(guān)聯(lián)特征降維挖掘

于春霞,車銀超

(1. 黃河科技學院信息工程學院,河南 鄭州 450046;2. 河南農(nóng)業(yè)大學信息與管理科學學院,河南 鄭州 450046)

1 引言

高光譜圖像[1-2]憑借其自身豐富的空間-光譜信息在地學、環(huán)境保護、國防軍事等領(lǐng)域具有重要參考價值。近年來,隨著成像光譜技術(shù)的發(fā)展以及圖像處理技術(shù)、模式識別技術(shù)領(lǐng)域的深入研究,使光譜圖像處理技術(shù)得到了有效進步,顯著提升了高光譜圖像的光譜分辨率以及空間分辨率,圖像中地物辨別信息的增加,突出了光譜圖像波段多、數(shù)據(jù)維度高等問題。

因此對光譜圖像的關(guān)聯(lián)特征挖掘已經(jīng)成為現(xiàn)階段圖像處理領(lǐng)域亟待解決的問題之一。韓彥嶺等人[3]提出一種基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法。利用主成分分析方法提取光譜圖像中主成分,結(jié)合殘差網(wǎng)絡(luò)抽取圖像中的地物空間譜特征;利用卷積反向算法對抽取的特征圖像完成擴充處理,通過處理結(jié)果將不同維度的圖像特征進行特征融合,充分挖掘光譜圖像的深度特征信息,實現(xiàn)光譜圖像關(guān)聯(lián)特征的準確挖掘。劉嘉敏等人[4]提出一種基于特征重構(gòu)融合的高光譜圖像分類方法。對光譜圖像像素點完成LBP提取,獲取圖像的LBP特征值;基于標簽信息法去除像素點鄰域空間塊的背景像素,獲取新的領(lǐng)域空間塊,計算像素權(quán)重構(gòu)建特征值;將提取的LBP特征與重構(gòu)特征融合處理,結(jié)合最近鄰分類器完成特征分類,完成圖像的關(guān)聯(lián)特征挖掘。張因國[5]提出一種基于特征重要性的高光譜圖像分類方法。建立隨機森林模型并通過貝葉斯對其展開優(yōu)化訓練,通過優(yōu)化結(jié)果進行圖像特征重要性評估;再根據(jù)評估結(jié)果選取適量數(shù)目的圖像波段作為訓練樣本;通過三維的卷積神經(jīng)網(wǎng)絡(luò)對波段樣本完成提取分類,實現(xiàn)光譜圖像的關(guān)聯(lián)特征挖掘。

由于上述已有方法未能在特征挖掘前對圖像實現(xiàn)降維,無法實現(xiàn)光譜圖像相鄰波段的強相關(guān)性,圖像高維特征冗余問題仍較為顯著。為進一步解決該問題,本研究提出基于小樣本分類的光譜圖像關(guān)聯(lián)特征挖掘方法。

2 預處理

2.1 降維

采用蒙特卡羅算法[6,7]對光譜圖像完成降維處理,建立的概率模型,根據(jù)模擬估計獲取統(tǒng)計規(guī)律,并將統(tǒng)計概率作為衡量參數(shù),從而實現(xiàn)圖像降維。

(1)

式中,α為概率模型特征波段參數(shù),第i個訓練樣本的波段特征為αi。

利用概率模型特征波段參數(shù),隨機選取樣本編碼,并結(jié)合剩余未選取樣本建立樣本的編碼向量(Bj),重新計算光譜圖像樣本特征波段參數(shù),過程如下式所示

(2)

蒙特卡羅算法統(tǒng)計量的可靠性主要依據(jù)于實驗結(jié)果,因此統(tǒng)計獨立隨機數(shù)是評定算法效果的關(guān)鍵,利用Logistic方程,獲取大量不重復分布的隨機數(shù),對光譜圖像數(shù)據(jù)信息樣本完成排序,從而保證訓練樣本處于均勻分布狀態(tài),過程如下式所示

(3)

2.2 圖像去噪

圖像完成降維后,通過稀疏與低秩矩陣分解方法實現(xiàn)光譜圖像的去噪[8,9]。

建立光譜圖像的二維矩陣Ψ∈Rm×n,且該矩陣能夠分解成稀疏矩陣C以及低秩矩陣D,矩陣分解公式為

(4)

利用稀疏與低秩矩陣分解方法對圖像去噪時,通過增廣拉格朗日乘子對上述展開收斂,從而獲取問題的最優(yōu)解。

將上述矩陣分解流程作為光譜圖像的最優(yōu)化問題,建立增廣拉格朗日函數(shù)如下

(5)

式中,懲罰系數(shù)表述為φ形式,拉格朗日乘子標定為γ,矩陣內(nèi)積值描述成(γ,g(x)),懲罰函數(shù)表述為g(x),f(x)表示目標優(yōu)化函數(shù),增廣拉格朗日函數(shù)描述為L(x,γ,φ)。

(6)

式中,L(D,C,γ,φ)表示重建的增廣拉格朗日函數(shù)。在計算上述時,優(yōu)先對函數(shù)內(nèi)C、γ、φ參數(shù)完成固定處理,計算函數(shù)中的最小D值,再固定C、γ、φ參數(shù),計算稀疏矩陣值,并對上述流程反復迭代直至算法收斂,完成光譜圖像的去噪。

計算C、D時,采用軟閾值方法[10]完成求解

(7)

3 關(guān)聯(lián)特征挖掘

3.1 灰度共生矩陣

灰度共生矩陣[11,12]能夠直觀反映出光譜圖像的中像素灰度的方向、相鄰間隔以及變化等綜合信息,是分析光譜圖像局部模式、排列規(guī)則的基礎(chǔ)。設(shè)定光譜圖像的二維表現(xiàn)圖像為f(m,n),大小為p×q,灰度級標定為Hg,以此建立光譜圖像灰度共生矩陣G(i,j)

(8)

式中,像素集合m中的元素數(shù)量標記為#(m)形式,圖像的灰度共生矩陣標記為G(i,j),矩陣元素用i,j表述。

根據(jù)建立的灰度共生矩陣,將光譜圖像像素(m1,n1)與(m2,n2)之間距離設(shè)定成l,坐標夾角為λ,以此獲取光譜圖像像素間距以及角度的灰度共生矩陣為:

(9)

式中,G(i,j,l,λ)為光譜圖像像素間距以及角度的灰度共生矩陣。

3.2 基于小樣本多次分類的特征挖掘

灰度共生矩陣建立完成后,通過該矩陣獲取光譜圖像角二階矩、相關(guān)性、對比度、熵、相異性以及逆差矩6大光譜關(guān)聯(lián)特征[13],過程如下式所示。

1)角二階矩獲取

光譜圖像中角二階矩能夠反映圖像的灰度分布以及圖像紋理顆粒的粗細,獲取的光譜圖像角二階矩越大,說明光譜圖像紋理分布越均勻,獲取流程如下式所示

(10)

式中,獲取的光譜圖像角二階矩值標定為?ASM,灰度共生矩陣表述為g(i,j)。

2)獲取圖像相關(guān)性

光譜圖像中,圖像相關(guān)度主要反映像素的灰度相關(guān),即為灰度共生矩陣內(nèi)列向量與行向量相似程度如下式所示

(11)

式中,光譜圖像的像素相似性標記為?Correlation,均值描述成ηi形式,像素方差為εi、εj。

3)光譜圖像對比度獲取

光譜圖像中,對比度主要為圖像清晰度以及紋理深度,在灰度共生矩陣中,圖像灰度相差大的像素點越多,圖像對比度越大,清晰度越好,光譜圖像對比度獲取流程如下式所示

(12)

式中,光譜圖像對比度特征表述為?Contract。

4)熵、相異性以及逆差矩的獲取

光譜圖像內(nèi)的熵可反映圖像紋理復雜程度,相異性與對比度類似,逆差矩放映圖像不同區(qū)域之間相異性,差距越大,圖像紋理變化越小,像素分布越均勻,獲取流程如下式所示

(13)

式中,灰度矩陣激活函數(shù)描述為lgg(i,j),獲取的光譜圖像熵表述為?Entropy,相異性值標記為?Dissimilarity,?Homogeneity表示逆差矩標定。

設(shè)定光譜圖像降維后的主成分最大波段為U,圖像像元為ui,將提取的光譜圖像特征整合成Si=(?ASM,?Correlation,…,?Homogeneity),以此完成整體光譜圖像的紋理-光譜關(guān)聯(lián)特征的提取,表述成ιi=[ti,Sj]形式。

光譜圖像完成關(guān)聯(lián)特征提取后,需要使用支持向量機分類器[14,15]對特征完成小樣本分類,通過分類結(jié)果,完成光譜圖像關(guān)聯(lián)特征的挖掘。

利用支持向量機開展圖像特征小樣本分類時,可通過支持向量機基本思想,將圖像特征分類問題轉(zhuǎn)化成二次的方程求解問題。將圖像關(guān)聯(lián)特征分類問題的數(shù)學表述形式,建立目標函數(shù)以及相關(guān)約束條件,結(jié)果如下式所示

(14)

式中,yi(w·xi+b)代表圖像關(guān)聯(lián)特征的分類函數(shù),權(quán)值描述為w形式,特征值描述為x,偏置項描述為b,κi為常數(shù),ρ表示懲罰函數(shù),目標函數(shù)表述為?(w,κ),0≤υ≤ρ表示約束條件,分類系數(shù)表述為υi。

通過建立的目標函數(shù)以及約束條件,尋找支持向量機最佳分類面,實現(xiàn)光譜圖像關(guān)聯(lián)特征的分類,結(jié)果如下式所示

(15)

式中,核函數(shù)表述成K(xi×xj),關(guān)聯(lián)特征分類結(jié)果描述為z(υ)。

最后,通過上述光譜圖像關(guān)聯(lián)特征的迭代分類,實現(xiàn)光譜圖像的關(guān)聯(lián)特征挖掘。

4 研究方法應用性能的驗證

分別采用基于小樣本分類的光譜圖像關(guān)聯(lián)特征挖掘方法(所提方法)、基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法(文獻[3]方法)、基于特征重構(gòu)融合的高光譜圖像分類方法(文獻[4]方法)測試;

利用傳感器獲取光譜圖像并根據(jù)上述3種光譜圖像特征挖掘方法挖掘圖像關(guān)聯(lián)特征,通過挖掘結(jié)果,比較3種方法的特征挖掘性能。測試過程中,根據(jù)光譜圖像數(shù)據(jù)對圖像中存在的地物類型完成樣本分類,建立訓練集以及測試集;設(shè)定原始圖像中有224個光譜波段,分辨率大約在10nm,為特征挖掘方法性能測試做好基礎(chǔ)工作。

1)挖掘錯誤率測試

采用所提方法、基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法以及基于特征重構(gòu)融合的高光譜圖像分類方法挖掘光譜圖像特征時,測試上述3種方法應用下特征分類錯誤率,以及檢測特征挖掘方法的分類識別能力,測試結(jié)果如圖1所示。

圖1 不同方法的錯誤率對比

分析圖1可知,3種方法在提取光譜圖像關(guān)聯(lián)特征時,由于圖像光譜信息的壓縮程度不同,測試出的挖掘錯誤率也不相同。其中,基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法雖然最大程度的壓縮了光譜信息,但是由于未能實現(xiàn)圖像降維,導致該方法提取的特征錯誤率高于所提方法測試結(jié)果,而所提方法不僅能夠最大程度的壓縮圖像內(nèi)的光譜信息,還能夠有效對光譜圖像完成降維處理,所提該方法在圖像特征挖掘時,挖掘錯誤率低于其它兩種特征挖掘方法,基于特征重構(gòu)融合的高光譜圖像分類方法未能對光譜信息進行壓縮,所以測試結(jié)果較不理想。

2)挖掘特征聚類成團效果

基于上述測試結(jié)果,利用不同方法挖掘光譜圖像特征時,測試目標特征成團效果,測試結(jié)果如圖2所示。

圖2 不同方法的特征成團效果對比

分析圖2可知,在挖掘光譜圖像特征后,所提方法挖掘的圖像特征同類之間互相聚類成團,且異類之間彼此分離,特征挖掘效果較為優(yōu)越。基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法挖掘的圖像特征之間雖然能夠保證異類特征相互分離,但是同類特征之間并未聚類成團,而是呈現(xiàn)多個聚類分組情況;而基于特征重構(gòu)融合的高光譜圖像分類方法挖掘出的關(guān)聯(lián)特征彼此混雜在一起,挖掘效果較差。

3)去噪效果測試

基于上述實驗結(jié)果,測試上述3種方法的圖像去噪效果,結(jié)果如圖3所示。

圖3 不同方法的去噪效果對比

分析圖3可知,利用不同反方提取光譜圖像特征后時,研究方法的去噪效果優(yōu)于文獻方法,光譜圖像的細節(jié)得以顯著增強,小目標特征的清晰度也明顯優(yōu)化。

5 結(jié)束語

針對光譜圖像同物異譜間影響明顯、相鄰波段相關(guān)性強導致的圖像噪聲較高、特征維度偏高的問題,提出基于小樣本分類的光譜圖像關(guān)聯(lián)特征挖掘方法。基于光譜圖像降維去噪結(jié)果,利用建立的灰度共生矩陣提取圖像關(guān)聯(lián)特征值,最后通過支持向量機完成特征值的分類,實現(xiàn)光譜圖像的關(guān)聯(lián)特征挖掘。