基于主成分判別分析的高光譜遙感影像分類方法

陳 慶，黃 蕾，李雪梅

（1.湖北省測繪工程院，湖北 武漢 430074；2.湖北省基礎(chǔ)地理信息中心，湖北 武漢 430074；3.湖北省航測遙感院，湖北 武漢 430074）

基于主成分判別分析的高光譜遙感影像分類方法

陳 慶1，黃 蕾2，李雪梅3

（1.湖北省測繪工程院，湖北 武漢 430074；2.湖北省基礎(chǔ)地理信息中心，湖北 武漢 430074；3.湖北省航測遙感院，湖北 武漢 430074）

提出了一種基于主成分判別分析的高光譜遙感影像分類方法。針對高光譜遙感影像數(shù)據(jù)量大、冗余信息多的特點，使用改進的線性判別分析方法對高光譜遙感數(shù)據(jù)進行線性維數(shù)減少。該方法將主成分分析加入到線性判別分析的算法框架中，能夠克服常規(guī)的線性判別分析方法在訓練樣本數(shù)量較少時遭遇到的小樣本問題。通過實驗，證明基于主成分判別分析的遙感影像分類方法能夠利用少量的訓練樣本實現(xiàn)更優(yōu)的分類精度。

主成分分析；線性判別分析；高光譜；分類

現(xiàn)代化觀測技術(shù)的快速發(fā)展，對遙感信息處理速度和質(zhì)量提出了更高要求[1]。高光譜遙感能夠在紫外到紅外波長區(qū)的范圍內(nèi)提供細致豐富的地物光譜特征描述，提高了遙感影像對地物的分類識別能力[2,3]。然而，隨著實際應(yīng)用中對遙感影像自動化處理程度要求的提高，高光譜遙感影像在提供多波段、高量化級數(shù)的遙感影像同時，也給計算機自動數(shù)據(jù)處理帶來了新的挑戰(zhàn)[4,5]。為了充分利用高光譜的信息同時減少因數(shù)據(jù)冗余帶來的復(fù)雜計算，必須首先對高光譜數(shù)據(jù)進行維數(shù)減少，以更加有效的低維空間來表達原始高維特征空間中的樣本分布，降低數(shù)據(jù)量的同時提高分類的精度[6]。

國際上針對減少高光譜遙感影像的數(shù)據(jù)維數(shù)已經(jīng)進行了一系列的研究。例如以主成分分析（PCA）[7]為代表的非監(jiān)督特征提取方法采用線性變換的方法，將原始高維特征空間中的主成分信息組合到新的特征空間中，該類方法計算簡單，不需要先驗知識，因此被廣泛應(yīng)用于高光譜遙感影像降維[8]。此外，線性判別分析（LDA）[9]作為一種監(jiān)督的判別分析方法，能夠充分考慮訓練樣本的判別信息以提高樣本在輸出低維特征空間中的可分性，已經(jīng)被證明是一種更有效的特征提取方法。然而，該方法在訓練樣本數(shù)量較少時會遭遇小樣本問題[10,11]，無法找到最優(yōu)的低維特征子空間，在大多數(shù)遙感影像分類問題中不能保證足夠的分類精度，限制了線性判別分析方法在遙感影像智能化處理中的應(yīng)用。本文致力于解決上述問題，引入改進的線性判別分析方法對高光譜遙感數(shù)據(jù)進行線性維數(shù)減少。

1 主成分判別分析

本文提出的基于主成分判別分析的高光譜遙感影像分類方法主要步驟如下：為解決小樣本問題，主成分判別分析對原始輸入的數(shù)據(jù)進行兩次線性投影變換。首先采用主成分分析降低輸入特征的維數(shù)，將原始光譜特征空間轉(zhuǎn)化為最佳的特征描述空間，然后采用線性判別分析方法進一步降低特征維數(shù)，將特征從前一步最佳的特征描述空間轉(zhuǎn)化為最佳的特征判別空間。然后在特征判別空間中，采用最簡單的最小距離分類器對遙感影像中的每個像素類別進行分類。

i是原始光譜特征維數(shù)；N為訓練樣本數(shù)目。訓練樣本的協(xié)方差矩陣Φ表示為：

求解特征方程：

最大的M個非零特征值λ1≥λ2≥…≥λM所對應(yīng)的特征向量集組成了原始訓練樣本集的最佳的特征描述空間，即

最佳的特征描述空間的維數(shù)M的選取原則除了與特征方程的特征值數(shù)量有關(guān)，還與線性判別分析中的訓練樣本的類別數(shù)及其類間散布矩陣的秩有關(guān)。

其中，μ'i和μ'分別是第i類的訓練樣本和全部訓練樣本在最佳特征描述空間中的均值向量。為了使樣本在最終的特征判別空間中同類的樣本盡可能集中分布，不同類的樣本盡可能分散分布，最佳的特征判別空ULDA應(yīng)該滿足如下準則：

式（6）是矩陣分析中著名的Rayleigh商[12,13]，使得式（6）達到最大值的ULDA是廣義特征值問題式（7）中對應(yīng)D個最大特征值的特征向量集：

對于式（7），如果Sw非奇異，則可以轉(zhuǎn)化為一般特征值問題：

在常規(guī)的線性判別分析算法中，根據(jù)類內(nèi)散布矩陣的定義有Rank（Sw）≤N-C，而類內(nèi)散布矩陣的維數(shù)Dim（Sw）=L。當Rank（Sw）＜Dim（Sw）時，矩陣Sw是奇異矩陣，廣義特征值問題不可解，這就是機器學習方法中常見的小樣本問題。在高光譜遙感影像分類問題中，由于訓練樣本數(shù)量常常遠小于光譜特征維數(shù)，因此，直接使用常規(guī)的線性判別分析算法必然會遭遇到上述小樣本問題。采用本文提出的主成分判別分析算法后，通過在主成分分析中對特征描述空間的維數(shù)M的設(shè)置，約束該特征空間的維數(shù)使其不大于Rank（Sw），可以滿足在該特征空間中的矩陣Sw是滿秩矩陣，即可克服常規(guī)的線性判別分析方法在訓練樣本數(shù)量較少時遭遇到的小樣本問題。此外，還需保證該子空間的維數(shù)不小于類別數(shù)C。主成分分析中對特征描述空間的維數(shù)M的設(shè)置條件如下：

分別得到主成分判別分析的兩次線性投影變換矩陣UPCA和ULDA以后，原始光譜特征空間轉(zhuǎn)化為最佳的特征判別空間的線性投影矩陣為：

2 實驗與分析

為了驗證本文提出的方法的有效性，采用華盛頓DC地區(qū)的HYDICE高光譜影像數(shù)據(jù)子集進行分類實驗[14,15]。該影像由普度大學提供，影像大小為307×1 280像素，本文實驗中選取其中307×250大小的子區(qū)域。該影像數(shù)據(jù)在光譜范圍0．4～2．4 μm的可見光和近紅外區(qū)域內(nèi)收集了210個波段的高光譜數(shù)據(jù)，去除了吸水性的波段后，剩余的191個波段的影像數(shù)據(jù)用于實驗。實驗影像如圖1a所示，影像中包含的主要地物類型是水體、房屋、道路、小路、草地、樹木和陰影。該高光譜影像數(shù)據(jù)分類的主要難點在于其地物類別的復(fù)雜性和主要地物類型光譜的相似性[16]。

圖1 HYDICE高光譜影像數(shù)據(jù)及其參考數(shù)據(jù)

實驗分別選用原始光譜特征、主成分分析的特征、線性判別分析的特征和本文提出的主成分判別分析的特征作為輸入特征，采用最簡單的最小距離分類器對遙感影像中的每個像素類別進行分類。其中參考數(shù)據(jù)如圖1b所示，實驗中訓練樣本從參考數(shù)據(jù)中隨機產(chǎn)生，數(shù)量為每類地物20像素，用于統(tǒng)計分類精度的測試樣本即為全部參考數(shù)據(jù)。對于3種特征維數(shù)減少方法，首先將輸出的特征維數(shù)固定為10。

分類結(jié)果如圖2所示，從分類結(jié)果可知，主成分判別分析方法效果最優(yōu)。原始光譜特征分類和主成分分析的分類結(jié)果非常接近，這是由于主成分分析的特征提取方法將原始特征投影到方差最大的低維子空間，因此使用最小距離分類器會得到與原始特征相近的分類結(jié)果。通過這兩種特征的分類結(jié)果圖可以看出，影像左上方的屋頂被大量錯分為小路，此外，在分類結(jié)果圖的道路中出現(xiàn)了錯分的水體，本文提出的主成分判別分析方法完全避免了這些誤分類的情況。進一步比較圖2c和d可知，雖然在維數(shù)減少的過程中，常規(guī)的線性判別分析方法同樣使用了訓練樣本的判別信息，但是該方法效果并不理想，原因是在線性判別分析中輸入的訓練樣本數(shù)量（20×7=140）小于原始光譜特征維數(shù)（191），線性判別分析方法出現(xiàn)了小樣本問題，特征提取過程中出現(xiàn)了較大的誤差，導致分類過程出現(xiàn)錯誤。

圖2 HYDICE高光譜影像數(shù)據(jù)分類結(jié)果圖

圖3為3種方法的提取特征維數(shù)與分類精度的關(guān)系圖，分別表示分類總體精度和分類Kappa系數(shù)隨著特征維數(shù)的增加而變化的情況。從圖3可以看出，當特征維數(shù)小于5時，3種維數(shù)減少方法的分類精度隨特征維數(shù)的增加呈明顯上升趨勢；當特征維數(shù)接近7時，3種方法的分類精度都達到頂點；當特征維數(shù)進一步增大時，分類精度變化十分緩慢，略微下降后基本接近平緩，保持不變。最優(yōu)的特征維數(shù)是接近影像中的地物類別數(shù)C，在本實驗中，C=7。本文提出的方法在分類精度曲線上始終明顯地處于最優(yōu)的位置，此外，分類總體精度和分類Kappa系數(shù)隨數(shù)據(jù)特征維數(shù)增加的變化趨勢基本一致。

圖3 HYDICE高光譜影像數(shù)據(jù)特征維數(shù)與分類精度的關(guān)系

本文提出的方法與3種對比方法對HYDICE高光譜影像數(shù)據(jù)分類精度定量統(tǒng)計結(jié)果如表1所示。從表1可以看出，本文提出的方法在各種地物的單類分類精度和分類總體精度都取得了最優(yōu)效果，其中對于該影像中的難點，房屋、道路和小路的分類均取得了非常好的效果，而對比方法在道路的分類結(jié)果上均出現(xiàn)了較大的誤分類，使得道路的分類精度較低。由于訓練樣本數(shù)量不足，常規(guī)的線性判別分析方法的分類精度低于直接使用原始光譜特征的分類精度，而本文提出的方法能夠在少量訓練樣本的情況下將高光譜遙感影像的分類精度從80．26%提高到95．92%。

表1 HYDICE高光譜影像數(shù)據(jù)分類精度定量統(tǒng)計/%

3 結(jié) 語

本文提出了一種基于主成分判別分析的高光譜遙感影像分類方法。針對常規(guī)的線性判別分析方法直接用于對高光譜遙感數(shù)據(jù)進行線性維數(shù)減少時出現(xiàn)的小樣本問題，將主成分分析加入到線性判別分析的算法框架中，通過兩次線性投影變換的策略，在主成分分析得到的最佳特征描述空間進行線性判別分析進一步降低特征維數(shù)，將特征從最佳特征描述空間轉(zhuǎn)化為最佳特征判別空間。由于對最佳特征描述空間的維數(shù)進行了約束，該特征空間的維數(shù)不大于類內(nèi)散布矩陣的秩，可以滿足在該特征空間中進行線性判別分析的類內(nèi)散布矩陣是滿秩矩陣，克服了常規(guī)的線性判別分析方法在訓練樣本數(shù)量較少時遭遇到的小樣本問題。通過與原始光譜特征、主成分分析的特征、線性判別分析的特征對比，基于主成分判別分析的遙感影像分類方法能夠利用少量訓練樣本實現(xiàn)更優(yōu)的分類精度。

[1] Plaza A,Plaza J,Paz A,et al．Parallel Hyperspectral Image and Signal Processing[J]．IEEE Signal Processing Magazine,2011(28)∶119-126

[2] 張樂飛．遙感影像的張量表達與流形學習方法研究[J]．測繪學報,2013(5)∶790

[3] Landgrebe D．Signal Theory Methods in Multispectral Remote Sensing[M]．New Jersey∶Wiley,2003

[4] 陶超,鄒崢嶸,丁曉利,等．利用角點進行高分辨率遙感影像居民地檢測方法[J]．測繪學報,2014(2)∶164-169

[5] Kwon H,Nasrabadi N M．Kernel Matched Subspace Detectors for Hyperspectral Target Detection[J]．IEEE Transactions on Pattern Analysis and Machine Intelligence, 2006(28)∶178-194

[6] Jimenez L O,Landgrebe D A．Hyperspectral Data Analysis and Supervised Feature Reduction Via Projection Pursuit[J]．IEEE Transactions on Geoscience and Remote Sensing,1999(37)∶2 653-2 667

[7] Jolliffe I T． Principal Component Analysis[M]．New York∶Springer,2002

[8] Michael J, Farrell D,Mersereau R M．On the Impact of PCA Dimension Reduction for Hyperspectral Detection of Difficult Targets[J]．IEEE Geoscience and Remote Sensing Letters,2005(2)∶192-195

[9] 徐盡．基于線性判別分析的數(shù)據(jù)集可分性判定算法[J]．科技通報,2013,29(4)∶31-32

[10] Neumaier A．Solving Ill-conditioned and Singular Linear Systems∶a Tutorial on Regularization[J]．SIAM Review,1998(40)∶636-666

[11] 趙越,徐鑫,喬利強,等．張量線性判別分析算法研究[J]．計算機技術(shù)與發(fā)展,2014(1)∶73-76

[12] Bhatia R． Matrix Analysis[M]．New York∶ Springer-Verlag,1997

[13] Boyd S, Vandenberghe L． Convex Optimization∶ Cambridge Univ[M]．Cambridge∶Cambridge Univ．Press,2004

[14] Landgrebe D．Hyperspectral Image Data Analysis[J]． IEEE Signal Processing Magazine,2002(19)∶17-28

[15] Benediktsson J A,Palmason J A,Sveinsson J R．Classification of Hyperspectral Data from Urban Areas Based on Extended Morphological Profiles[J]． IEEE Transactions on Geoscience and Remote Sensing,2005(43)∶480-491

[16] Huang X,Zhang L．An Adaptive Mean-Shift Analysis Approach for Object Extraction and Classification from Urban Hyperspectra l Imagery[J]．IEEE Transactions on Geoscience and Remote Sensing, 2008(46)∶4 173-4 185

P237

B

1672-4623（2016）01-0076-03

10.3969/j.issn.1672-4623.2016.01.022

陳慶，碩士，工程師，主要研究方向為3S技術(shù)應(yīng)用。

2014-11-04。

項目來源：國家自然科學基金資助項目（91338202）。