基于改進遺傳算法的支持向量機特征選擇

張子寧 單甘霖 段修生

摘要：針對支持向量機在分類過程中的特征選擇問題，提出了一種改進的遺傳算法。在演化進程中運用Meteopolis準則通過合理選群來防止進化陷入局部極值區域。最后針對ucI數據庫中的數據，通過將該算法與其他幾種方法進行了比較，證明了本文算法具有較優的特征選擇效果，并已成功應用在基于支持向量機的數字電路板故障診斷中。

關鍵詞：支持向量機；互敏感度信息量；獨立敏感度信息量；自適應變異率；Meteopolis準則

引言

支持向量機是一種在統計學習理論的基礎上發展而來的機器學習方法，通過學習類別之間分界面附近的精確信息，可以自動尋找那些對分類有較好區分能力的支持向量，由此構造出的分類器可以使類與類之間的間隔最大化，因而有較好的泛化性能和較高的分類準確率。由于支持向量機具有小樣本、非線性、高維數、避免局部最小點以及過學習現象等優點，所以被廣泛運用于故障診斷、圖像識別、回歸預測等領域。但是如果缺少了對樣本進行有效地特征選擇，支持向量機在分類時往往會出現訓練時間過長以及較低的分類準確率，這恰恰是由于支持向量機無法利用混亂的樣本分類信息而引起的，因此特征選擇是分類問題中的一個重要環節。特征選擇的任務是從原始的特征集合中去除對分類無用的冗余特征以及那些具有相似分類信息的重復特征，因而可以有效降低特征維數，縮短訓練時間，提高分類準確率。

目前特征選擇的方法主要有主成分分析法、最大熵原理、粗糙集理論等。然而由于這些方法主要依據繁復的數學理論，在計算過程中可能存在求導和函數連續性等客觀限定條件，在必要時還需要設定用來指導尋優搜索方向的搜索規則。遺傳算法作為一種魯棒性極強的智能識別方法，直接對尋優對象進行操作，不存在特定數學條件的限定，具有極好的全局尋優能力和并行性；而由于遺傳算法采用概率化的尋優方法，所以在自動搜索的過程中可以自主獲取與尋優有關的線索，并在加以學習之后可以自適應地調整搜索方向，不需要確定搜索的規則。因此遺傳算法被廣泛應用在知識發現、組合優化、機器學習、信號處理、自適應控制和人工生命等領域。

基于改進遺傳算法的特征選擇

遺傳算法是一種新近發展起來的搜索最優化算法。遺傳算法從任意一個的初始生物種群開始，通過隨機的選擇、交叉和變異操作，產生一群擁有更適應自然界的新個體的新一代種群，使得種群的進化趨勢向著最，優的方向發展。圖1中所示的是標準的遺傳算法的流程框圖。

傳統的遺傳算法存在早熟收斂、非全局收斂以及后期收斂速度慢的缺點，為此本文提出了一種能夠在進化過程中自適應調節變異率，以及利用模擬退火防止早熟的改進遺傳算法，同時該算法利用敏感度信息可以有效地控制遺傳操作。圖2是改進遺傳算法的流程框圖。

染色體編碼和適應度函數

所謂編碼是指將問題的解空間轉換成遺傳算法所能處理的搜索空間。在特征選擇問題中，常常使用二進制的編碼形式，使得每個二進制就是一個染色體，其位數長度等于特征的個數。每一位代表一個特征，每位上的1表示選中該特征，0則表示不選中。每一代種群都由若干個染色體組成。

適應度函數是整個遺傳算法中極為重要的部分，好的適應度函數能使染色體進化到最優個體，它決定了在整個尋優過程中是否能夠合理地協調好過早收斂和過慢結束這對矛盾。由于本文針對的是支持向量機的特征選擇問題，所以考慮以分類正確率和未選擇的特征個數這兩個參數作為函數的自變量。將分類正確率作為主要衡量標準，未選擇的特征個數為次要標準。由此建立以下的適應度函數：式中c為分類正確率。為未選擇的特征個數，a是調節系數，用來平衡分類正確率和未選擇的特征個數對適應度函數的影響程度，同時該系數也體現了用最少的特征得到較大分類正確率的原則，在本文中a取0.00077。由上式可知，分類正確率越高，未選的特征個數越多，染色體的適應度就越大。

選擇操作

選擇操作需要按照一定的規則從原有的種群中選擇部分優秀個體用來交叉和變異。選擇原則建立在對個體適應度進行評價的基礎上，目的是避免基因損失，提高全局收斂性和計算效率。本文首先將整個種群中最優的前40％的個體保留下來，以確保有足夠的優良個體進入下一代，對剩下的60％的個體采用輪盤算法進行選擇，這樣做可以彌補保留前40％個體而帶來的局部最優解不易被淘汰的不利影響，有利于保持種群的多樣性。

基于敏感度信息量的交叉、變異操作

獨立敏感度信息量Q(i)指的是對在所有特征都被選中時計算所得到的適應度值Allfitness以及只有特征i未被選中時計算得到的適應度值Wfitness(i)按式(2)進行計算得到的數值。獨立敏感度信息量刻畫了適應度對特征是否被選擇的敏感程度。

互敏感度信息量R(i，j)由(3)式可得，互敏感度信息量體現了特征與特征之間對適應度的近似影響程度。

交叉操作的作用是通過交換兩個染色體之間的若干位從而生成含有部分原始優良基因的新個體。由式(3)可知互敏感度信息量可作為不同特征之間含有相似分類信息的一種度量，所以可以將互敏感度信息量代入式(4)計算出染色體在第一位發生交叉的幾率β(j)，在式(4)中i和j分別代表特征和特征j，是染色體的長度。β(i)是特征，相對于其他所有特征在互敏感度信息量上的歸一量，反映了特征與其余特征在相似信息量上的總和。由此對應到染色體上，β(i)就可以認為是染色體的第i位與整個染色體在基因信息上的相關性，β(i)越小則說明相關性越大，第i位與整個染色體所含的基因信息越接近，此位為分裂點的幾率越小。由于β(i)是歸一化量，故可采用輪盤算法來選擇一個交叉點。

變異操作是引入新物種的重要手段，可以有效地增加種群個體的多樣性。本文中的變異率Pm采用相鄰兩代之間的最優適應度增幅比作為自變量進行自適應調節，如式(5)所示。當適應度增幅比正向增大時，較小的增幅比可以使變異率維持在中等水平，并且變異率隨著增幅比的增大而緩慢降低，這樣既能夠擁有一定數量的新個體也可以抑制過多不良染色體的產生，保證優秀染色體的進化足夠穩定；而當適應度增幅比反向增大時，由較小增幅比則可以獲得較高的變異率。并且變異率也伴隨增幅比同比緩慢升高，確保有足夠的染色體發生變異，穩定地加快進化速度。式中dis指新生種群的最優適應度相對于原種群的最優適應度的增幅比，尚k均是區間(0，1)上的調節系數。文中的j與k分別取0.65和0.055。

獨立敏感度信息量在一定程度上體現了單個特征所含有的分類信息量，如果獨立敏感度信息量小，則說

明該特征所含信息大部分對分類沒有幫助，即該基因位發生突變后對整個染色體的優異性影響不大，突變的概率也就相應減小。因此將獨立敏感度信息量歸一化后所得到的q(i)作為特征i被選為變異點的概率。變異點的具體選擇方法為：針對一個染色體按照染色體的位數進行循環遍歷，在該循環中由變異率Pm判定是否產生變異位。若需要產生變異位，則依據q(i)按照輪盤算法進行選擇。

模擬退火選群

在每一輪進化完成后都需要決定進入下一輪進化的種群。如果過多地將較優種群作為父代，就會使算法過早收斂或搜索緩慢。文獻中指出模擬退火算法能夠以一定的概率接受劣解從而跳出局部極值區域并最終趨于全局最優解。因此可以將上文提到的最優適應度增幅比作為能量函數，運用模擬退火的Meteopolis準則來選擇待進化的種群。為了使每個種群得到充分地進化，預防最優解的丟失，這里采用設置退火步長的策略來實現模擬退火選群。該策略具體為：使退火步長對同一種群作為父代的次數進行計數，一旦產生更優種群則退火步長就置零并重新計數。若退火步長累計超過一定的閾值時，就進入模擬退火選群階段。退火步長累計到一定數量意味著原有種群的進化已經停滯，需要用模擬退火算法擺脫這種停滯狀態。如果增幅比大于零，則說明新生種群優于原有種群。這時完全接受新種群進入下一輪進化：否則新生種群劣于原有種群，并以一定的概率p接受較劣的新生種群進入下一輪進化。接受概率lp由式(6)和式(7)共同決定，其中dis為增幅比，T(s)指溫度參數，To和s分別是初始溫度和迭代次數。

以上兩式的參數要滿足進化對接受概率的要求。即增幅比負增長越大，接受概率降低越迅速，但接受概率隨迭代次數的增加應緩慢下降。這樣做能夠保證在有限的迭代次數內有一個適應度較優的新生種群進入下一輪進化，以達到減少計算量和優選待進化種群的目的。在本文中To=0.2，A=0.9，m=0.5。

實例的驗證與分析

UCI數據庫常用來比較各種方法的分類效果，因此可以用其驗證本算法對支持向量機作用后的分類效果。文獻㈨采用了UCI數據庫中的German、Ionosphere和Sonar三種數據作為實驗對象，為了便于與文獻中所用的幾種方法進行對比，本文也采用這三種數據進行實驗，并按照文獻中所述的比例將各類數據分成相應的訓練樣本和測試樣本。

在種群規模為30，交叉率為0.8、起始變異率為0.1的條件下使用支持向量機作為分類器(懲罰參數為13.7，徑向基核函數參數為10.6)對所選數據進行分類，表1中顯示了本文算法與文獻中幾種算法在分類效果上的對比，表2給出了三種數據的最終選擇結果。表1中共出現了四種方法：方法1：使用本文算法：方法2：使用NGA／PCA方法；方法3：使用PCA方法；方法4：使用簡單遺傳算法。

由于本文算法旨在用最少的特征個數最大化分類正確率，因此從表1中可以看出本文算法在特征選擇個數和分類正確率上均比其他三種方法更具優勢。由于NGA／PCA算法是針對簡單遺傳算法和主成分分析法的不足而做的改進，其性能優于簡單遺傳算法和主成分分析法，所以本文算法的分類效果優于NGA／PcA算法這一事實更能說明該算法可以較好地解決支持向基機的特征選擇問題。

結語

通過與其他方法的比較，本文算法的分類效果得到了充分的驗證，也說明了該算法具有極好的泛化能力以及在敏感度信息量地指導下遺傳操作的有效性。

適應度函數的設計至關重要，它直接影響到最終結果的優劣以及算法的收斂性，所以在適應度函數的設計應考慮所解決問題的側重點。

分類正確率的高低不僅取決于合理的特征選擇，而且與支持向量機的參數優化有關。只有在合理的特征選擇和參數優化的前提下，支持向量機分類器才能發揮出最佳的分類效果。

由于算法能夠較好地解決支持向量機的特征選擇問題，因此已被應用在基于支持向量機的數字電路板故障診斷當中，并取得了良好的效果。