基于多分類器組合的高光譜圖像波段選擇方法

李士進，常純，余宇峰，王亞明

(河海大學計算機與信息學院，江蘇南京210098)

隨著遙感技術和成像光譜儀的發展，高光譜圖像的分辨率不斷提高，應用需求越來越廣泛，但其波段數多、數據量龐大等特點給高光譜圖像的分類、識別等帶來了很大的困難。利用全部波段數據進行分類等處理不但處理困難，而且由于大量冗余信息的存在和部分噪音波段或信噪比很低的波段數據的影響還會降低分類或識別精度[1]。因此，在保證地物識別率的情況下，進一步挖掘發現具有鑒別信息的波段，減少數據量、節省計算資源的降維處理非常必要。特征提取和特征選擇是高光譜圖像的2種主要降維方法。由于高光譜圖像的每一個波段都對應著一幅相應波段的圖像，通過線性或非線性變換，將高維特征空間映射到低維空間的特征提取的方法會使提取出來的特征失去原有的物理意義，所以特征提取的方法并不適用于高光譜圖像的降維。而波段選擇是從高光譜圖像所有波段中選擇最具鑒別力的波段子集，既能大大降低高光譜圖像的數據維數，又能比較完整地保留分類鑒別信息，是目前高光譜降維處理的主流方法[2，3－11]。

針對高光譜波段選擇問題，研究人員提出了各種方法。Serpico等提出了一種局部極值約束的離散二進制空間搜索方法用于高光譜波段選擇[2]。后來，Serpico等繼續開展了研究[12]，提出了針對分類正確率最優化的連續波段選擇方法，他們把若干相鄰波段進行平均，提出了s－bands的概念。該方法取得了較高的分類正確率，但這是一種特征提取和波段選擇的混合算法，涉及的波段數遠大于一般方法所選擇的波段。Bazi等提出了基于遺傳算法和支持向量機的高光譜波段選擇方法[4]，在搜索最佳鑒別波段過程中，同時對SVM參數進行了優化。Sotoca等提出了基于確定性去火的隨機搜索方法用于波段選擇[5]，在搜索過程中，他們盡可能地考慮了波段之間的無關性。Guo等[6]發現特征選擇時只保留與類別信息最相關的波段存在一定的問題，特別是特征之間相關性較大時更加嚴重。他們提出了一種快速的貪心優化策略進行波段選擇，但從最終的分類結果看不是很理想。戴宏亮與戴道清[7]提出了智能遺傳算法同時優化全間隔自適應模糊支持向量機參數集和波段選擇中的大量參數，構成一種智能分類器，進行高光譜遙感圖像分類。吳昊等[8]將分組的概念引入波段選擇中，利用條件互信息將波段分成若干組，再使用支持向量機和遺傳算法相結合的搜索算法(GA－SVM)搜索出相對最優的波段組合。Yang等提出了最小估計豐度協方差(MEAC)的波段選擇方法[9]，在選擇過程中估計候選波段與已經選擇波段的豐度協方差矩陣的跡。葛亮等為使無監督的波段選擇能夠更好地保留高光譜圖像的鑒別信息，提出一種基于波段聚類的高光譜圖像波段選擇方法[10]。王立國與魏芳潔提出一種結合遺傳算法和蟻群算法的高光譜圖像波段選擇方法[11]。該算法首先利用遺傳算法以較快的尋優能力獲得幾組較優解，以此來初始化蟻群算法的初始信息素列表，然后用蟻群算法以較高的求精解能力獲得最優波段組合。Li等[12]將時間序列模式匹配的思想運用到高光譜波段選擇中，先通過提取光譜曲線中重要點作為候選波段集，然后再利用分支定界法搜索最優波段子集。

雖然目前高光譜波段選擇的方法很多，但由于原始波段數目一般高達數百個，以往基于搜索算法的波段選擇方法往往只保留一組最佳波段組合，而其余未選中的波段則被拋棄。這對于最后的分類任務意味著較多的鑒別信息損失，因而波段選擇后的分類正確率還有較大提升空間。

本文從提高圖像分類正確率角度出發，提出一種新的波段選擇方法，將多分類器組合的思想運用于高光譜波段選擇中。本文重新定義的高光譜波段選擇問題為:給定待選擇的最大波段數目N，如何選擇k組波段子集，使組合后的分類正確率更高，每組波段子集的波段數為n，這k組波段子集中包含的不同波段總數不超過N。以往的波段選擇研究都是從選擇一組最優波段子集角度出發，最大化該組被選中波段的分類正確率。本文則基于初步選擇出的多個不同較優波段子集，構成多個特征子空間進行多分類器組合，從分類器互補性及多樣性角度重新選擇出滿足最大波段數約束的最佳波段組合，進一步提高分類正確率。

具體地，首先多次采用基于遺傳算法的波段選擇算法獲得若干組相對較優的波段子集，再基于這些波段子集分別訓練支持向量機得到若干個基分類器，然后通過多分類器組合方法對這些基分類器進行組合。在組合之前，根據最大波段數目約束條件進行了多分類器選擇，從而實現最后的波段選擇。具體采用基于差異性度量的帶有波段數目約束的分類器選擇算法選出部分較優分類器組合，得到一組互補性及錯誤多樣性較好的分類器。最后采用基于局部分類精度的動態分類器選擇組合方法，根據每個分類器對測試樣本鄰域中若干訓練樣本的分類正確率從多個分類器中選出最優的一個分類器作為決策判斷分類器，獲得最終分類結果。

本文提出的波段選擇方法有兩輪搜索選擇過程，第1輪采用常規搜索方法獲得多個較優波段子集，在第2輪則采用多分類器組合思想，選擇若干具有較強互補性與多樣性的波段子集，使更多的具有鑒別力的波段能在第2輪組合選擇中獲得被選中的機會。較之傳統一次(最優)選擇方法，本文方法在有效地規避了高光譜數據高維特征問題的同時，保留了更多的鑒別信息，明顯提高了分類精度。

1 多分類器組合方法

波段選擇優劣的評判標準除了選擇的波段數外，往往是通過最終的分類正確率來衡量，針對高光譜數據波段間相關性高的特點，本文將多分類器組合的思想引入高光譜波段選擇中。多分類器組合是根據各個分類器的整體性能將每個分類器的輸出按某種方式“組合”到一起，并達到“共識”[13]。同時，多分類器系統的性能很大程度上取決于成員分類器的差異性，為了選出具有較強錯誤差異性的分類器組合，本文研究了聚類選擇法以及基于局部分類精度的動態分類器選擇兩種組合方法。另外，多分類器組合方法可以根據單個分類器輸出類型分為抽象級、排序級和度量級3類，本文選擇基于抽象級的幾種分類器組合方法，如多數投票法、行為知識空間法對基于不同特征子空間訓練的分類器進行組合。

1.1 多數投票法(majority voting)

投票法是最常用的抽象級分類器組合方法，其遵循的原則是“少數服從多數”。多數投票規則[13]將最多數分類器一致分類的類別作為待分類樣本的類別。當出現多個類別獲得的投票數目相同時，一般隨機選擇其中一個類別作為最終的結果。此外，考慮到不同分類器的分類正確率，也可以對各個結果按照分類器不同表現設置不同的權重，進行加權投票。

1.2 行為知識空間法(behavior－knowledge space，BKS)

很多分類器組合方法都需要假設分類器之間相互獨立。在無法滿足該假設的情況下，可以考慮從知識空間獲得信息，它能同步記錄所有分類器對每個訓練樣本的決策。由于知識空間記錄了所有分類器的行為，所以也被稱為“行為知識空間”，簡稱BKS[14]。使用該方法時，訓練集中的樣本被劃分成不同的模式，這些模式是根據所有分量分類器分類結果的不同組合來定義的。當一個未知樣本需要進行分類時，所有分量分類器對分類結果的組合都是已知的，由此確定對應的模式。然后根據該模式中的樣本實際類別，把未知樣本歸入出現次數最多的類別。

1.3 聚類 － 選擇法(clustering－selection)

聚類－選擇算法訓練過程如下:

1)利用訓練數據集Z訓練L個基分類器C1，C2，…，CL，初始化聚類數 K;

2)通過K－均值方法將Z聚成K類(不考慮樣本集的真實類別)，通過計算每個簇中的樣本均值得到聚類中心 V1，V2，…，VK;

對于該算法，如何選擇一個合適的K值是很重要的問題，本文實驗對參數K做了大范圍的搜索，詳見實驗分析。

1.4 局部精度估計的動態分類器選擇(DCS－LA)

DCS－LA方法[16]的主要特點是對于待分類樣本X*，從已有的基分類器C1，C2，…，CL中動態挑選合適的一個或多個對其進行分類，或者樣本所在鄰域內最優的分類器來對其進行分類，它是一種特殊的分類器集成方法，其主要步驟為:

1)如果所有的分類器Cj返回X*相同的類別ω，則該測試樣本被賦予類別ω，算法結束，否則轉2);

2)計算每個基分類器的局部分類精度LAj，kX(*)，j=1，2，…，N，k為X*鄰域內訓練樣本數;

3)確定局部分類精度最高的基分類器Cj，使，并將Cj的輸出作為X*的類別，算法結束。

從以上步驟可以看出DCS－LA的分類正確率主要取決于局部分類精度估計，本文采用基于先驗知識的局部精度。該方法將局部分類精度的局部鄰域RkX(*)內被正確分類的訓練樣本比例。假設Rk(X*)內有k個訓練樣本，其中有kT個樣本被Cj正確分類，則分類器Cj對X*的局部分類精度為

由于在選擇分類器時沒有考慮分類器Cj對測試樣本X*的分類結果，所以一般稱之為先驗局部精度估計。

2 多分類器組合的高光譜波段選擇方法

傳統的波段選擇需要在整個原始波段空間進行搜索，本文針對高光譜圖像波段多且相關性高等特點，提出將多分類器組合的思想運用于高光譜波段選擇中，通過遺傳算法搜索得到K組較優波段組合，使用這K組波段組合分別訓練K個基分類器，然后從這K個分類器中選出部分差異性較大的分類器進行組合，實現波段選擇的目標。最后分類測試時采用基于局部分類精度的動態分類器選擇方法(DCS_LA)得到最后的分類結果。

上述過程中，存在兩次多分類器組合過程。在第1次分類器選擇時，采用基于錯誤多樣性度量的帶波段數目約束的多分類器選擇方法。在多分類器組合研究中，研究人員[17－18]已經發現從基分類器中去除一些作用不大和性能不好的分類器，剩下的少量分類器能夠獲得更好的預測效果。因此本文在高光譜波段選擇多分類器組合過程中，也進行了分類器選擇。由于本文的目的是通過多分類器組合實現波段選擇，因此希望選擇的分類器數目較少，這樣最終的波段總數才能更加符合用戶要求。

以往的多分類器選擇研究中，主要考慮分類器之間的互補性和多樣性，特別是錯誤多樣性(error diversity，亦稱為差異性)。Aksela 和 Laaksonen[19]分析比較了各種錯誤多樣性指標，發現同誤多樣性指標(same－fault measure)具有不俗的表現。該指標考慮2個分類器如果犯相同錯誤的概率較小，則組合后獲得正確分類結果的可能性更大。由于高光譜波段選擇多分類器組合過程中不但需要獲得更高的分類正確率，而且希望組合后參與分類的波段總數盡可能少，因此在最小化相同錯誤概率的同時，還要最大化同時正確的概率。因此，提出如下錯誤多樣性指標:

在選擇分類器過程中，分別考察候選分類器與各個已經選擇分類器之間的錯誤多樣性，選擇與已經選擇分類器錯誤多樣性指標之和最小的分類器。算法1 帶波段數目約束的多分類器選擇算法輸入:給定選擇波段總數上限total，K組波段數目為 n 的分類器集合

輸出:分類器集合S。

1)初始化S為空集;

2)根據每個分類器在訓練集上的分類精度選取分類精度最高的第一個分類器，記為Ci，將Ci加入S，S=S∪ { Ci}，同時從U中減去 Ci，U=U{ Ci};

3)根據式(2)計算U中每個分類器Cp和S中已經選取的各個分類器Cq的多樣性SFp，q;

4)對于 U中每個分類器 Cp，P=1，2，… ，為集合U中分類器數目，計算其與S中已經選取的各個分類器的錯誤多樣性之和:

式中:SFp，q為分類器Cp、Cq之間的錯誤多樣性度量值，Cq為S中已經被選取的各個分類器，表示已選分類器集合中分類器數目;

5)挑選Scorep最小的分類器，記為Cj，計算Cj和S中各分類器對應波段的并集Sall，如果Sall的波段總數|Sall|＜ =total，則將Cj加入S，S=S∪{Cj}，從U中減去Cj，U=U{ Cj} ，轉(2)，否則轉6)

6)算法結束，返回S。

在對測試樣本進行分類時，由于前面選擇得到了若干分類器，可以采用多分類器組合的方法確定其最終類別。通過比較分析各種常見分類器組合方法(具體見實驗部分)，最終采用基于局部分類精度的動態分類器選擇(DCS－LA)方法進行組合。根據文獻[16]中的基于局部分類精度估計的方法，對于每個測試樣本，利用1.4節中基于先驗知識的局部精度估計方法計算S中各分類器在該樣本鄰域的局部精度(local accuracy，LA)，選出LA最高的分類器作為其最終的決策分類器。分類過程如下。

算法2 基于局部分類精度的動態分類器選擇的分類算法

輸出:測試樣本x的類標簽y

1)針對測試樣本x，基于不同特征空間(對應組合分類器S中不同的成員分類器)尋找它的k個最近鄰訓練樣本點，通過每一個分類器對k個最近鄰樣本點進行分類;

2)選擇出S中局部分類精度最高的分類器Cj，作為該樣本的最終分類器;

3)利用Cj對x進行分類，得到的類別標簽y即為最終分類結果。

3 實驗結果與分析

本文采用的高光譜圖像測試數據集為Indian Pine數據集[1]。原始Indian Pine數據集包含220個連續的波段，其中18個波段由于受大氣影響而被丟棄，因此剩下202個有效波段。該圖像數據包含玉米區、樹林、黃豆以及牧場等9種類別的樣本，測試樣本與訓練樣本不是隨機分配，而是對每類分別定義空間不相交的測試區與訓練區，以盡可能減少它們的相關性，最終實驗數據包括訓練樣本5 012個，測試樣本3 728 個[3]。

3.1 對比實驗1

為了比較出對高光譜數據波段選擇具有最優效果的多分類器組合方法，本文實現了四組多分類器組合方法，分別是多數投票法、行為知識空間法、K均值聚類選擇法以及基于局部分類精度估計的動態分類器選擇法。在進行多分類器組合之前，首先通過文獻[8]中方法，即利用條件互信息將202個有效波段分成12組，再使用GA－SVM的方法搜索出相對較優的波段子集，多次利用該方法獲取10組波段子集后，將這些相對較優的波段子集訓練成10個基分類器(10組分類器含有波段總數為47，每個子集12個波段)，然后使用上述4種多分類器組合方法對這10個基分類器進行組合。

表1 4種不同分類器組合方法的分類精度Table 1 The classification accuracy based on classifiers combination methods of four different

表1給出了4種多分類器組合方法的分類精度比較。4組實驗都選取所有10個基分類器，共47個波段。從表1中可以看出，行為知識空間法，即BKS方法比多數投票法效果稍差，這主要是因為對于高光譜數據具有“同譜異物”的特點，分類時測試樣本輸出模式與訓練樣本的輸出模式匹配時，相同模式有很多是同樣被錯誤分類的，即相同錯誤的分類器的差異性不夠明顯，直接導致了分類結果趨向錯誤分類的那一部分。本文實驗中采用的K－均值聚類對參數K做了(10，500)范圍的搜索，最后當K為200時，取得85.3%最佳的效果。聚類選擇方法作為無監督學習方法，沒有考慮訓練樣本的類別分布，所以在分類中很難占有優勢。顯然，DCS－LA的分類精度最高，說明通過該算法對多分類器進行組合比較有效。在分類器選擇過程中，還可以調整選擇的分類器數目，即對應選擇的波段數目，詳見對比實驗2。

3.2 對比實驗2

為了進一步驗證多分類器組合算法對波段選擇的有效性，本文進行了5組實驗，分別選擇不同波段總數限制的多個分類器，然后進行基于DCS－LA組合方法的分類測試，表2給出了這幾種情況的詳細分類精度。從表2中可以看出，通過確定分類器組合總體多樣性，即對應波段總數上限total，選擇的分類器組合數目也不相同，選取的波段數目也各不相同。當波段總數為50時，即對全部10個基分類器進行組合時，分類結果最好，正確率達到了88.71%。而選擇波段不超過30個時，只選擇了4個分類器，此時分類正確率為88.39%，明顯高于利用所有202個波段進行分類的精度83.2%;而與10個分類器全部參與組合的正確率也很接近，表明在本文研究的高光譜波段選擇中，動態選擇參與組合的分類器確實比較有效，既減少了參與組合的分類器，也達到了波段選擇的目的。

表2 基于不同波段數目約束的動態分類器選擇的分類精度Table 2 The classification accuracy of dynamic classifier selection based on different numbers of bands

3.3 對比實驗3

為了證明本文算法較之傳統搜索算法的優點，使用另外2種常用的全局波段空間搜索的高光譜波段選擇方法與本文算法進行比較這兩種方法分別是遺傳算法的波段選擇方法和文獻[12]中的自適應分支定界法搜索的波段選擇方法。在此，采用兩種方法同樣分別搜索12、20、30、40、50 個波段進行最后的分類，由于遺傳算法的隨機性，對每一組波段分別搜索3次，取3次分類結果進行平均得到平均分類精度，如表3。

表3 遺傳算法、分支定界法以及本文算法的平均分類精度Table 3 The average classification accuracy of GA，BB and the proposed algorithm

從表3可以看出，當波段數目分別為12、20、30、40、50時，本文算法在分類正確率上具有明顯的優勢，其中，遺傳算法在波段數目為40時達到最高分類正確率84.34%，自適應分支定界法在波段數目為30時達到最高分類正確率85.20%，而本文算法使用局部分類精度的動態分類器選擇，在對應波段數目為30時，達到了88.39%的分類正確率，明顯高于其他2種直接搜索一組最優波段子集的方法，因此本文方法具有較強的競爭力。

3.4 討論

多分類器組合在遙感圖像分類，特別是高光譜圖像分類中得到了廣泛關注[20]。Skurichina and Duin[21]研究了基于多次特征選擇的多分類器組合方法，他們采用多次序貫選擇特征子集的方法獲得多個基分類器，每次從前一次選擇余下的特征中選擇次優的特征子集，最后將所有基分類器進行組合集成。該方法與本文方法的不同有2點:1)所有特征參與了最后的分類決策，每個特征都被分配到一個基分類器;2)所有分類器都參與了決策融合。文獻[22]研究了多支持向量機集成的高光譜圖像分類方法。該方法通過波段間相關性將波段分組，然后構建多個支持向量機分類器;最后的分類結果是以多個支持向量機的輸出再輸入另一個支持向量機后得到的輸出。該方法也是所有波段都參與了分類決策。Du等[23]研究了基于證據融合的多分類器組合方法及其在高光譜圖像分類中的應用。該文采用的基分類器有馬氏距離分類器、多層前向神經網絡、徑向基神經網絡、支持向量機以及決策樹。同樣，該文關注的是多分類器集成在高光譜圖像分類中的適應性，并未考慮波段選擇問題。

4 結束語

本文提出了一種基于多分類器組合的高光譜波段選擇方法，通過多次采用遺傳算法搜索出相對較優的若干組波段組合，然后分別將這些波段組合訓練成若干基分類器，再使用基于錯誤多樣性度量的分類器選擇算法選擇出其中符合最大波段數約束的部分分類器，達到波段選擇的目的。在此基礎上，采用DCS－LA動態分類器選擇方法，選取具有最高LA的分類器的輸出作為最后分類結果，通過實驗驗證了多分類器組合的波段選擇方法的有效性。

多分類器組合研究是當前模式識別領域的研究熱點之一，本文提出了基于多分類器組合方法來應對高光譜數據高維度且波段相關性高的問題。多分類器組合的作用主要在于降低高維波段搜索問題及提升分類性能，而真正有效地提高分類準確率還依賴于成員分類器的整體差異性的增大。差異性的研究是多分類器組合系統研究的關鍵問題之一，目前還沒有被廣泛接受的理論與方法。定義新的差異性度量并以此來構造和訓練多分類器組合系統，更好地提高多分類器組合的有效性是下一步需要研究的方向。

[1]LANDGREBE D A.Signal theory methods in multispectral remote sensing[M].John Wiley ＆ Sons，2005:5－12.

[2]SERPICO S B，BRUZZONE L.A new search algorithm for feature selection in hyperspectral remote sensing images[J].IEEE Transactions on Geoscience and Remote Sensing，2001，39(7):1360－1367.

[3]BAZI Y，MELGANI F.Toward an optimal SVM classification system for hyperspectral remote sensing images[J].IEEE Transactions on Geoscience and Remote Sensing，2006，44(11):3374－3385.

[4]SOTOCA J M，PLA F.Hyperspectral data selection from mutual information between image bands[M].Berlin:Springer，2006:853－861.

[5]GUO B，DAMPER R I，GUNN S R，et al.A fast separability－based feature－selection method for high－dimensional remotely sensed image classification[J].Pattern Recognition，2008，41(5):1653－1662.

[6]戴宏亮，戴道清.基于ETAFSVM的高光譜遙感圖像自動波段選擇和分類[J].計算機科學，2009，36(4):268－272.DAI Hongliang，DAI Daoqing.Automatic band selection and classification of hyperspectral remote sensing images based on ETAFSVM[J].Computer Science，2009，36(4):268－272.

[7]吳昊，李士進，林林，等.多策略結合的高光譜圖像波段選擇新方法[J].計算機科學與探索，2010，4(5):464－472.WU Hao，LI Shijin，LIN Lin，et al.Multiple－strategy combination based approach to band selection for hyper－spectral image classification[J].Journal of Frontiers of Computer Science and Technology，2010，4(5):464－472.

[8]YANG He，DU Qian，SU Hongjun，et al.An efficient method for supervised hyperspectral band selection[J].IEEE Geosci Remote Sensing Lett，2011，8(1):138－142.

[9]葛亮，王斌，張立明.基于波段聚類的高光譜圖像波段選擇[J].計算機輔助設計與圖形學學報，2012，24(11):1447－1454.GE Liang，WANG Bing，ZHANG Liming.Band selection based on band clustering for hyperspectral imagery[J].Journal of Computer－Aided Design ＆ Computer Graphics，2012，24(11):1447－1454.

[10]王立國，魏芳潔.結合遺傳算法和蟻群算法的高光譜圖像波段選擇[J].中國圖象圖形學報，2013，18(2):235－242.WANG Liguo，WEI Fangjie.Band selection for hyperspectral imagery based on combination of genetic algorithm and ant colony algorithm[J].Journal of Image and Graphics，2013，18(2):235－242.

[11]LI Shijin，ZHU Yuelong，WAN Dingsheng，et al.Spectral similarity－preserving hyperspectral band selection[J].Remote Sensing Letters，2013，4(10):969－978.

[12]SERPICO S B，MOSER G.Extraction of spectral channels from hyperspectral images for classification purposes[J].IEEE Transactions on Geoscience and Remote Sensing，2007，45(2):484－495.

[13]ZHOU Z H.Ensemble Methods:Foundations and algorithms[M].Boca Raton:CRC Press，2012.

[14]KUNCHEVA L I.Switching between selection and fusion in combining classifiers:an experiment[J].IEEE Transactions on Systems，Man，and Cybernetics，Part B:Cybernetics，2002，32(2):146－156.

[15]KUNCHEVA L I，WHITAKER C J.Measures of diversity in classifier ensembles and their relationship with the ensemble accuracy[J].Machine Learning，2003，51(2):181－207.

[16]WOODS K，KEGELMEYER JR W P，BOWYER K.Combination of multiple classifiers using local accuracy estimates[J].IEEE Transactions on Pattern Analysis and Machine Intelligence，1997，19(4):405－410.

[17]ZHOU Z H，WU J X，TANG W.Ensembling neural networks:many could be better than all[J].Artificial Intelligence，2002，137(1/2):239－263.

[18]張春霞，張講社.選擇性集成學習算法綜述[J].計算機學報，2011，34(8):1399－1410.ZHANG Chunxia，ZHANG Jiangshe.A survey of selective ensemble learning algorithms[J].Chinese Journal of Computers，2011，34(8):1399－1410.

[19]AKSELA M，LAAKSONEN J.Using diversity of errors for selecting members of a committee classifier[J].Pattern Recognition，2006，39(4):608－623.

[20]BENEDIKTSSON J A，CHANUSSOT J，FAUVEL M.Multiple classifier systems in remote sensing:from basics to recent developments[C]//Proceedings of the 7th International Conference on Multiple Classifier Systems.:Berlin:Springer－Verlag，2007:501－512.

[21]MARINA S，ROBERT P W.Combining feature subsets in feature selection[C]//Proceedings of the 5th International Conference on Multiple Classifier Systems.Berlin，2005:165－175.

[22]XAVIER C，BJ?RN W，JON A B，et al.Ensemble strategies for classifying hyperspectral remote sensing data[C]//Proceedings of the 9th International Conference on Multiple Classifier Systems，Berlin:Springer－Verlag，2009:62－71.

[23]DU Peijun，ZHANG Wei，SUN Hao.Multiple classifier combination for hyperspectral remote sensing image classification[C]//Proceedings of the 9th International Conference on Multiple Classifier Systems，Berlin，2009:52－61.