基于蜂群算法優(yōu)化的支持向量機(jī)植被提取研究

唐昊

(重慶數(shù)字城市科技有限公司，重慶 401121)

1 引 言

近年來(lái)，隨著國(guó)家對(duì)資源環(huán)境和生態(tài)文明建設(shè)的日益重視，植被尤其是城市植被高效精確的提取對(duì)國(guó)家和政府及時(shí)了解和掌握植被覆蓋變化趨勢(shì)，促進(jìn)資源環(huán)境的協(xié)調(diào)發(fā)展與城市規(guī)劃建設(shè)具有戰(zhàn)略性意義。支持向量機(jī)(Support Vector Machine，SVM)是Vapnik于1995年提出的一種監(jiān)督分類方法，是以統(tǒng)計(jì)學(xué)習(xí)為基礎(chǔ)，對(duì)有限樣本進(jìn)行模式學(xué)習(xí)的方法，能有效解決小樣本、高維數(shù)、非線性等問(wèn)題，進(jìn)而越來(lái)越多地被應(yīng)用到遙感影像處理中[1]。

在利用支持向量機(jī)進(jìn)行分類的過(guò)程中，模型參數(shù)(懲罰因子C和核函數(shù)寬度g)對(duì)分類精度影響顯著，如何合理選擇模型參數(shù)進(jìn)而達(dá)到最好的分類效果成為近年來(lái)研究的熱點(diǎn)。目前常用的SVM參數(shù)優(yōu)化方法有遺傳算法(Genetic Algorithm，GA)、魚群算法(Artificial Fish Swarm Algorithm，AFSA)、粒子群算法(Particle Swarm Optimization，PSO)、蟻群算法(Ant Colony Optimization，ACO)等，能一定程度上提高分類精度，但這些優(yōu)化算法存在一個(gè)致命的缺陷就是會(huì)在不同程度上陷入局部最優(yōu)解而無(wú)法尋找到全局最優(yōu)解，達(dá)不到最優(yōu)分類效果。Karaboga于2005年提出了人工蜂群(Artificial Bee Colony，ABC)這一群智能優(yōu)化算法，該算法通過(guò)不同工種蜜蜂之間的合作，模仿蜜蜂采蜜行為，在很大程度上避免了陷入局部最優(yōu)解問(wèn)題，具備比傳統(tǒng)優(yōu)化方法更好的優(yōu)化性能[2，3]。本文以RBF核函數(shù)的支持向量機(jī)為模型，利用人工蜂群算法對(duì)模型參數(shù)(懲罰因子C和核函數(shù)寬度g)進(jìn)行優(yōu)化。通過(guò)對(duì)重慶市某城鄉(xiāng)ZY-3遙感影像植被提取的實(shí)驗(yàn)證明：與遺傳算法和粒子群算法優(yōu)化SVM相比，蜂群算法能更好地克服局部最優(yōu)解問(wèn)題，獲得更好的分類結(jié)果，植被提取效果更好。

2 蜂群算法優(yōu)化SVM

受蜜蜂采蜜行為啟發(fā)而產(chǎn)生的人工蜂群算法是一種新穎的元啟發(fā)式優(yōu)化算法，人工蜂群算法模擬蜜蜂采蜜行為來(lái)處理參數(shù)尋優(yōu)問(wèn)題，人工蜂群分為三類：采蜜蜂，觀察蜂和偵查蜂。采蜜蜂和觀察蜂各占蜜蜂總體數(shù)量的50%，也就是說(shuō)食物源的數(shù)量和采蜜蜂的數(shù)量相等。如果某個(gè)食物源被采蜜蜂和觀察蜂放棄，則該食物源對(duì)應(yīng)的采蜜蜂變?yōu)閭刹榉鋄3]。

按照ABC算法搜索過(guò)程，對(duì)支持向量機(jī)模型參數(shù)(懲罰因子C和核函數(shù)寬度g)進(jìn)行優(yōu)化，優(yōu)化流程如下：

(1)初始化參數(shù)。設(shè)置終止迭代次數(shù)max-cycle，蜜源的最大搜索次數(shù)limit。由于優(yōu)化支持向量機(jī)的目的是為了提高分類的精確度，這里我們選擇的適應(yīng)度函數(shù)為：

(1)

其中v是分類正確率。

(2)按照式(3)確定食物源數(shù)量SN，并與采蜜蜂數(shù)量對(duì)應(yīng)；每個(gè)蜜源所在位置為優(yōu)化問(wèn)題的一個(gè)可能解Xi(i=1，2，…，SN)，Xi為由SVM中參數(shù)C和g組成的2維向量。式中，Xij為第i個(gè)蜜蜂第j維對(duì)應(yīng)的搜索后的位置，Xmax和Xmin分別為第j維變量的上界和下界。

(3)采蜜蜂根據(jù)式(2)做臨近搜索產(chǎn)生新解Vij。

(4)計(jì)算蜂群中每一個(gè)個(gè)體的適應(yīng)度值，并在當(dāng)前蜜源和新蜜源之間進(jìn)行貪婪選擇，如果搜索后的蜜源優(yōu)于搜索前，則代替之前蜜源。

(5)根據(jù)式(1)計(jì)算每個(gè)蜜源被選擇的概率值Pi，跟隨蜂以輪盤賭機(jī)制選擇要跟隨的蜜源進(jìn)行采蜜，成為引領(lǐng)蜂，并在其附近按式(2)搜索新蜜源。

(6)搜索次數(shù)search=search+1，如果search

(7)判別是否存在要放棄的蜜源。如果某些蜜源經(jīng)limit次循環(huán)不變，則放棄該蜜源，且被放棄蜜源對(duì)應(yīng)的引領(lǐng)蜂成為偵查蜂，按式(3)隨機(jī)產(chǎn)生新蜜源。

(8)迭代次數(shù)cycle=cycle+1，若滿足條件cycle

(9)輸出最佳適應(yīng)度對(duì)應(yīng)的SVM參數(shù)C和g，代入SVM模型對(duì)樣本進(jìn)行預(yù)測(cè)。

具體的流程如圖1所示：

圖1 蜂群算法流程圖

3 蜂群算法優(yōu)化SVM的植被提取

3.1 遙感影像的特征

遙感影像的特征主要有光譜特征、紋理特征和空間形狀特征[6]。隨著遙感影像分辨率越來(lái)越高，在高分辨率遙感影像中“同物異譜”與“同譜異物”現(xiàn)象普遍存在，單一的采用基于光譜特征的分類方法其分類精度往往較低，達(dá)不到理想效果。基于這一原因，本文聯(lián)合使用光譜-紋理特征對(duì)影像進(jìn)行分類。

3.2 特征提取

本文面向像元對(duì)高分辨率遙感影像進(jìn)行植被提取，也就是對(duì)影像進(jìn)行二分類。通過(guò)原始波段的光譜信息，提取相關(guān)的特征信息，包括光譜特征、紋理特征。光譜特征是提取R、G、B三個(gè)波段的光譜特征值，紋理特征則提取灰度共生矩陣(GLCM)，并將這些提取的特征進(jìn)行歸一化處理。其中灰度共生矩陣是一種圖像紋理特征提取的標(biāo)準(zhǔn)化方法，通過(guò)分析能夠過(guò)得對(duì)比度(Contrast，Con)、相關(guān)性(Correlation，Cor)、同質(zhì)度(Homogeneity，Hom)、熵(Entropy，Ent)等指標(biāo)[7]。下圖圖2為試驗(yàn)區(qū)原始圖像，圖3為對(duì)應(yīng)指標(biāo)獲得的圖像：(a)為對(duì)比度；(b)為相關(guān)性；(c)為同質(zhì)度；(d)為熵。具體的計(jì)算算法如下：

(1)計(jì)算R、G、B遙感影像的強(qiáng)度分量影像，計(jì)算公式：I=(R+B+G)/3；

(2)對(duì)灰度圖像進(jìn)行量化處理，這里將256級(jí)灰度級(jí)降為8，量化后的圖像雖有一定的失真，但其紋理特征可較好的保留[8]；

(3)用3×3的矩陣作為滑動(dòng)窗口，計(jì)算窗口中0°，45°，90°，135°四個(gè)方向的灰度共生矩陣，計(jì)算每個(gè)方向上的紋理特征，對(duì)每個(gè)像素四個(gè)方向上的紋理信息取平均值，得到該像素點(diǎn)的紋理信息；

(4)用滑動(dòng)窗口遍歷整個(gè)影像，得到整幅圖的灰度共生矩陣，滑動(dòng)窗口的移動(dòng)步長(zhǎng)為一個(gè)像元；

圖2 原始圖像

圖3 灰度共生矩陣相關(guān)指標(biāo)圖

4 實(shí)驗(yàn)結(jié)果及分析

實(shí)驗(yàn)影像數(shù)據(jù)采用拍攝于重慶市某地區(qū)的資源三號(hào)(ZY-3)衛(wèi)星影像，選用臺(tái)灣大學(xué)林智仁博士等設(shè)計(jì)的通用軟件包LIBSVM進(jìn)行仿真實(shí)驗(yàn)；實(shí)驗(yàn)選擇配置為酷睿i3中央處理器(主頻 2.4 GHZ)，內(nèi)存為4G的電腦為硬件平臺(tái)，在Windows 7操作系統(tǒng)下利用Matlab2012a進(jìn)行實(shí)驗(yàn)。人工蜂群算法食物源數(shù)量設(shè)為20，食物源最大循環(huán)次數(shù)limit設(shè)為50，實(shí)驗(yàn)最大迭代次數(shù)max-cycle為500，SVM參數(shù)搜索范圍設(shè)為[0.01，500]。實(shí)驗(yàn)結(jié)果如下：圖4為GA算法優(yōu)化SVM植被提取圖；圖5為PSO算法優(yōu)化SVM植被提取圖；圖6為蜂群算法優(yōu)化后SVM植被提取圖。圖中綠色部分為植被區(qū)。

圖4 GA-SVM植被提取

圖5 PSO-SVM植被提取

圖6 ABC-SVM植被提取

支持向量機(jī)參數(shù)選擇比較 表1

5 評(píng)價(jià)

5.1 主觀評(píng)價(jià)

通過(guò)主觀目視效果，經(jīng)過(guò)人工蜂群算法優(yōu)化的SVM提取植被效果相對(duì)于遺傳算法和粒子群算法優(yōu)化的SVM提取植被效果而言，其分類精度有了一定的提高，植被提取效果有一定程度的增強(qiáng)。

5.2 客觀評(píng)價(jià)

所謂客觀評(píng)價(jià)，就是將分類結(jié)果與真實(shí)的地物地面數(shù)據(jù)進(jìn)行比較，通過(guò)建立誤差矩陣并進(jìn)行相關(guān)的運(yùn)算得到所分地物的分類精度。這里我們選用總體精度和Kappa系數(shù)[8]來(lái)對(duì)植被提取效果進(jìn)行客觀評(píng)價(jià)。

為定量進(jìn)行分類精度的評(píng)價(jià)，驗(yàn)證本文所提方法的有效性，本文在原圖像中隨機(jī)選取1 000個(gè)測(cè)試樣本點(diǎn)，并對(duì)植被和非植被樣本點(diǎn)進(jìn)行個(gè)數(shù)統(tǒng)計(jì)。圖7為測(cè)試樣本點(diǎn)的分布圖：

圖7 測(cè)試樣本點(diǎn)分布圖

GA及PSO算法優(yōu)化的SVM提取植被的評(píng)價(jià)結(jié)果如表2和表3所示；ABC優(yōu)化的SVM植被提取結(jié)果如表4所示；綜合評(píng)價(jià)結(jié)果如表5所示：

GA-SVM植被提取結(jié)果 表2

PSO-SVM植被提取結(jié)果 表3

ABC-SVM植被提取結(jié)果 表4

植被提取綜合評(píng)價(jià)結(jié)果 表5

分析上表數(shù)據(jù)可知：通過(guò)上述算法優(yōu)化SVM的參數(shù)后，其分類結(jié)果都一定程度上有了提高，其中GA-SVM總體分類精度達(dá)到了79.2%，Kappa系數(shù)為0.580 6；PSO-SVM總體分類精度達(dá)到了80.63%，Kappa系數(shù)為 0.608 1；但經(jīng)過(guò)蜂群算法對(duì)其懲罰因子C和核函數(shù)寬度g進(jìn)行優(yōu)化后的SVM植被提取效果其總體精度達(dá)到了82.7%，Kappa系數(shù)為 0.652 6，相比于前面兩種方法，改進(jìn)效果更加明顯。本文為以后的支持向量機(jī)優(yōu)化提供了較好的思路。

6 結(jié) 論

本文針對(duì)支持向量機(jī)的懲罰因子C與核函數(shù)寬度g對(duì)其有顯著影響的問(wèn)題，提出了選用人工蜂群算法對(duì)其參數(shù)進(jìn)行優(yōu)化，獲得最優(yōu)參數(shù)，實(shí)現(xiàn)了遙感影像植被提取。通過(guò)實(shí)驗(yàn)證明蜂群算法優(yōu)化后的SVM能在很大程度上克服局部最優(yōu)解，對(duì)綠色植被具有較好的提取效果，相對(duì)于遺傳算法和粒子群算法，分類精度有了一定程度的提高。

[1] Vladimir N. Vapnik. The Nature of Statistical Learning Theory[M]. Springer，2012：988～999.

[2] 江銘炎，袁東風(fēng). 人工蜂群算法及其應(yīng)用[M]. 科學(xué)出版社，2014.

[3] Karaboga D. An Idea Based on Honey Bee Swarm for Numerical Optimization，Technical Report-TR06[J]. 2005.

[4] 劉路，王太勇. 基于人工蜂群算法的支持向量機(jī)優(yōu)化[J]. 天津大學(xué)學(xué)報(bào)：自然科學(xué)與工程技術(shù)版，2011，44(9)：803～809.

[5] 李璟民，郭敏. 人工蜂群算法優(yōu)化支持向量機(jī)的分類研究[J]. 計(jì)算機(jī)工程與應(yīng)用，2015，51(2)：151～155.

[6] 趙英時(shí). 遙感應(yīng)用分析原理與方法[M]. 科學(xué)出版社，2003.

[8] 薄華，馬縛龍，焦李成. 圖像紋理的灰度共生矩陣計(jì)算問(wèn)題的分析[J]. 電子學(xué)報(bào)，2006，34(1)：155～158.

[9] 白雪冰，王克奇，王輝. 基于灰度共生矩陣的木材紋理分類方法的研究[J]. 哈爾濱工業(yè)大學(xué)學(xué)報(bào)，2005，37(12)：1667～1670.

[10] 丁世飛 ，齊丙娟 ，譚紅艷. 支持向量機(jī)理論與算法研究綜述[J]. 電子科技大學(xué)學(xué)報(bào)，2011，40(1)：2～10.

[11] D Karaboga ，B Akay. A comparative study of Artificial Bee Colony algorithm[J]. Applied Mathematics & Computation，2009，214(1) ：108～132.

[12] 李璟民 ，郭敏. 人工蜂群算法優(yōu)化支持向量機(jī)的分類研究[J]. 計(jì)算機(jī)工程與應(yīng)用，2015，51(2)：151～155.

[13] 黃慧萍，吳炳方. 地物提取的多尺度特征遙感應(yīng)用分析[J]. 遙感技術(shù)與應(yīng)用 ，2003，18(5)：276～281.