基于粒子群算法優化最小二乘支持向量機的電路故障診斷方法

程思嘉,張昌宏

(海軍工程大學 信息安全系，武漢　430033)

?

基于粒子群算法優化最小二乘支持向量機的電路故障診斷方法

程思嘉,張昌宏

(海軍工程大學 信息安全系，武漢430033)

摘要：針對數/模混合電路故障的特點，采用將粒子群算法與最小二乘支持向量機相結合的故障診斷方法，在保證診斷過程準確率的基礎上，實現多類故障的快速診斷。在診斷過程中，支持向量機的參數尋優過程存在隨意性、盲目性和效率低等問題，采用改進的粒子群算法優化支持向量機的參數，建立基于支持向量機的故障分類模型。實驗結果表明，與其他方法相比，該方法提高了故障診斷的精度，具有明顯的實用價值。

關鍵詞：故障診斷；粒子群算法；最小二乘支持向量機

Citation format:CHENG Si-jia，ZHANG Chang-hong.Fault Diagnosis Method of Circuit Using LS-SVM and Improved PSO[J].Journal of Ordnance Equipment Engineering,2016(3):98-101.

近年來，數/模混合電路在信息安全設備中得到了廣泛應用。電路的工作狀態直接影響了設備的穩定性。因此，研究混合電路的故障診斷技術，提高設備的運行維護水平，具有重要的現實意義。由于混合電路的非線性特征、元器件的參數容差性、故障類型的多樣性，使故障字典法、參數識別法、故障驗證法等傳統檢測方法因其自身局限性已經不再適用。神經網絡相比于傳統方法，具有較強的非線性擬合能力和自學習能力，在診斷中具有良好的實時性和魯棒性，但是也暴露了網絡收斂速度慢，效果依賴樣本選擇等問題[1]。

支持向量機(Support Vector Machine，SVM)是建立VC維理論和結構風險最小化原理基礎上的機器學習方法。它克服了神經網絡的不足，而且在小樣本、非線性及高維模式識別問題中具有結構簡單、全局最優、泛化能力強等優勢[2]。相對于SVM，最小二乘支持向量機(least squares support vector machine,LS-SVM)利用等式約束條件代替不等式約束條件，進一步簡化了計算的復雜度，提高了運行效率[3,4]。本文首先研究LS-SVM的原理，使用改進的粒子群算法對LS-SVM的參數進行優化，然后根據電路故障診斷特點建立診斷LS-SVM模型，最后結合數/模混合電路故障的實例分析，驗證了本文方法的可行性。

1LS-SVM算法

假設訓練集D中共包括N個樣本，并表示為D={(xi,yi)|i=1,2,…,N}，其中xi∈RN，yi∈{+1,-1}。利用非線性函數φ(x)將輸入樣本映射到高維特征空間中，這樣就將原樣本的線性不可分的問題轉化為高維特征空間的線性可分的問題

其中:ω為權重;β是偏置項。

此分類問題可根據結構風險最小化原理表示為等式約束的優化問題。求解標準最小二乘支持向量機的最優化問題的目標函數為

其中:ω為權向量;εi≥0為誤差向量;C為控制對超出誤差的樣本懲罰程度;β為偏置項;φ(xi)為核特征空間映射函數。

為求解上述優化問題，引入Lagrange乘子，構建方程

式中αi為Lagrange乘子。分別對ω,β,εi求偏導數，根據KKT條件，可以得到

消去εi和ω，可以得到最后的矩陣形式

其中ZT=[φ(x1),…,φ(xN)]。ZZT內積運算可以用滿足Mercer條件的核函數K(xi,yi)替代，則最小二乘支持向量機分類決策函數為

核函數是LS-SVM重要部分，采用不同核函數，性能上會存在很大差異，大量實驗結果表明，采用高斯徑向基核函數可以獲得良好的性能推廣性[5-6]。因此本文LS-SVM采用高斯徑向基核函數。由于徑向基核函數中有一個參數σ，在表達式中有參數C，這兩個參數的變化對運行結果有很大的影響，因此尋找到最優參數對于提高性能至關重要。

2基于粒子群算法的LS-SVM電路故障診斷技術

近年來，很多學者對SVM中的參數優化方法做了大量工作，如將粒子群算法、模擬退火和遺傳算法應用到優化中[7-9]。針對數/模混合電路的特點，本節設計基于粒子群優化算法優化SVM建模。首先針對粒子群算法自身缺點進行改進，提高了粒子群算法準確性；其次利用改進后算法對LS-SVM的參數進行優化，提高其學習和泛化性能；最后結合二值分類器故障診斷策略，設計故障診斷方案。

2.1粒子群算法理論

粒子群算法(particle swarm optimization,PSO)與遺傳算法等其他算法相同，都是基于種群的搜索算法，可以數學表達為：在一個D維空間內，S個粒子構成一個種群X=(x1,…,xr,…xS)，各粒子分別是一個潛在的解，對應D維空間上的某點，通過迭代運算尋找最優解。其中第i個粒子的位置為Xi=(xi1,xi2,…,xid)T，速度為Vi=(vi1,vi2,…,vid)T：第i個粒子所找的最優點為Pi=(pi1,pi2,…,pid)T,鄰域內粒子所搜到最優點為Pg=(pg1,pg2,…,pgd)T，粒子根據下面兩個公式更新速度與位置：

vid(t+1)=vid(t)+c1r1(t)pid(t)-xid(t))+

c2r2(t)(pid(t)-xid(t))

xid(t+1)=xid(t)+vid(t+1)

公司要注重提升對大數據的開發技能，不僅要處理好會計系統的財務信息，而且要注重對會計管理的規劃，要全面提高管理人員對信息數據的采集分析能力，并且做出合理有效的預測。在專業的技術問題上，要積極需求專業公司的幫助，合理科學地加強對信息的整合，要根據實際情況從本質上將大數據的價值發揮出來，優化資源配置避免浪費。

學習粒子c1和c2為非負常數，r1(t) 和r2(t)在[0,1]內隨機取值，體現出了算法的隨機性。由于標準PSO算法具有快速收斂性，實際應用中易陷入局部最大，使得尋優停滯。為避免過早收斂和提高運算效率，J.Riget提出了一種保證種群多樣性粒子群算法(Attractive and Repulsive Particle Swarm Optimizer,ARPSO)[10]。算法提出“吸引”和“擴散”兩個概念，動態調整求解過程，公式如下：

vid(t+1)=vid(t)+Dir[c1r1(t)]pid(t)-xid(t))+

c2r2(t)(pid(t)-xid(t))

xid(t+1)=xid(t)+vid(t+1)

式中：|L|為搜索空間的最長半徑，|S|為種群所含微粒個數。在算法運行過程中，Diversity(s)Dhigh時，Dir=1，從而種群中的粒子開始向整體最優位置靠攏，執行吸引操作。通過對速度的動態調節，在達到一定精度后，繼續尋找最優解，確保最后結果最優。

2.2基于ARPSO優化LS-SVM的故障診斷模型

利用上文所提到的改進算法對LS-SVM參數σ和懲罰系數C進行優化。假設每個粒子Xi可用參數集合(C,σ)表示。在二維目標搜索空間中，N個粒子構成的集合進行尋優，按照調整公式調整自己位置與速度，完成迭代次數，輸出最佳(C,σ)，流程如圖1所示。

圖1　算法優化LS-SVM參數流程

2.3基于ARPSO優化LS-SVM的二值分類診斷方法

本節進一步解決適用于數/模混合電路故障診斷的二值分類器的設計問題。為了確保電路正常運行，這就要求不僅要診斷出整個電路有無故障，同時還要診斷出電路中的故障信息，這就構成了多值分類問題。多值分類問題是目前SVM研究領域的一個重要方向,源于二類分類問題，通常采用多個兩類SVM串聯進行組合分類[11-14]。

根據上一部分LS-SVM構造方法，構建一個N類故障分類器。當構建第i個分類器時，屬于該類LS-SVM的故障訓練樣本作為一類，類別標號由原來的i改為1，將其他故障的所有訓練樣本作為一類，標記為-1。診斷策略如圖2所示。

圖2　多故障分類流程

根據所設計的多故障分類算法，結合建模方法，采用ARPSO優化LS-SVM的數/模混合電路故障診斷方法，步驟如下：

步驟1：對樣本數據進行小波變換，提取特征參數，構建特征樣本；

步驟3：按照上文建模方法，建立數/模混合電路故障診斷模型，為每一種故障類型建立分類器；

步驟4：裝訂LS-SVM的相關參數；

步驟5：輸入未知故障的特征參數，根據輸出判斷故障所屬類型。

3故障診斷實例

如圖3所示的正弦波信號發生器電路，設電路中電阻和電容的容差分別為其標值的5% 和10% 。用PSPICE 軟件對其進行仿真，通過靈敏度分析，發現元件R1， R2， C1， C2 的變化對電路輸出響應的影響最大。

圖3　正弦波信號發生器

設置待測電路共有12種故障狀態，其中硬故障8種，軟故障4種，以及電路的正常工作狀態Normal(故障代碼F0)，則電路共有13種狀態模式，如表1所示。其中符號“↑”表示元件參數值偏離標值的20%。

表1　故障模式設定

分別對每種模式下的電路進行200次蒙特卡洛分析，提取電路響應信號，隨機抽取50次作為訓練樣本，其余作為測試樣本。使用改進的粒子群算法對LS-SVM進行參數尋優，種群規模設為20，C，σ的初始范圍設定為(10-3，10+3)，(10-4，10+2)，最大進化迭代數為30，定義Dlow=5×10-3,Dhigh=0.25。本文將神經網絡方法、標準PSO優化LS-SVM方法與本文算法演算得到的故障診斷率進行比較說明，其中標準PSO方法所用參數與本文方法相同。

通過表2可以得知，采用本文方法與PSO優化方法計算得到的故障診斷率要明顯高于采用神經網絡計算得到的故障診斷率，這說明在訓練樣本有限的條件下，支持向量機方法具有更強的泛化能力，體現出更好的分類性能。將粒子群算法應用到LS-SVM的兩個參數優化中，通過實驗發現標準粒子群算法與本文提出的改進粒子群算法都能較快的收斂，并達到較高的分類正確率，并且本文所采用的改進方法取得了更好的效果。

表2　故障診斷率比較　%

4結論

本文根據數/模混合電路的特點，研究基于LS-SVM的電路故障診斷方法。首先使用ARPSO對其參數進行優化,然后串聯組合多個兩類LS-SVM進行分類診斷。實驗表明，在小樣本情況下，支持向量機方法要優于神經網絡方法，應用改進的粒子群算法進行參數優化，提高了故障診斷正確率。下一步的工作將是對故障特征的提取方法進行研究，提高對故障狀態的分辨率。

參考文獻：

[1]AMINIAN F,AMINIAN M.Analog fault diagnosis of actual circuits using neural networks[J].IEEE Transaction on Instrumentation and Measurement,2002,51(3):544-550.

[2]張學工.關于統計理論與支持向量機[J].自動化學報,2000,26(1)：32-41.

[3]焦鵬,王新政,謝鵬.基于SVM的模擬電路故障診斷及參數優化方法[J].計算機測量與控制,2013,21(8)：2039-2043.

[4]CORTES,VAPNIK V.Support Vector Network[J].Machine Learning,1995(20):273-297.

[5]HSU C W,LIN C J.A comparison of methods for multiclass support vector machines[J].IEEE Transactions on Neural Networks,2002,13(2):415-425.

[6]KEERTHI S S,LIN C J.Asymptotic behaviors of support vector machines Gaussian kernel[J].Neural Computation,2003,15(10):1722-1731.

[7]劉愛軍,楊育，李斐,等.混沌模擬退火粒子群優化算法研究及應用[J].浙江大學學報,2013,47(10):1722-1731.

[8]秦慶強,張曉安,李艾華.基于GA-SVM的數模混合電路故障診斷研究[J].計算機工程與設計,2012,33(10):3984-3990.

[9]陳濤,洪增林,鄧方安.基于優化的鄰域粗糙集的混合基因選擇算法[J].計算機科學,2014,41(10):291-294.

[10]KENNEDY J,EBERHART R C.Particle swarm optimization[C]//IEEE International Conference on Neural Networks.Perth,Australia:IEEE,1995:1942-1948.

[11]王浩天,單甘霖,段修生.基于多模型的模擬電路軟故障診斷[J].火力與指揮控制,2014,39(11):119-123.

[12]郭陽明,冉從寶,姬崎禹.基于組合優化BP神經網絡的模擬故障診斷[J].西北工業大學學報,2013,31(1):44-48.

[13]王旭婧,陳長興,王明芳,等.基于支持向量機的模擬電路故障診斷[J].計算機工程與設計,2014,35(10):3584-3588.

[14]WANG T H,THOMAS J B.Volterra mapping based be-havioral modeling of nonlinear circuits and systems for high frequencies[J].IEEE Transactions on Microwave Theory and Techniques,2012,51(5):1433-1440.

(責任編輯楊繼森)

Fault Diagnosis Method of Circuit Using LS-SVM and Improved PSO

CHENG Si-jia，ZHANG Chang-hong

(Department of Information Security, Navy University of Engineering, Wuhan 430033, China)

Abstract:In allusion to the features of hybrid circuit fault, this text adopted a diagnostic method combined least squares support vector machine with particle swarm optimization. The method completes the diagnostic test frequently on the base of accuracy rate. Support vector machine’s parameters overcomes the randomness, blindness and inefficiency of the searching process by using modified particle swam optimization. The fault classification model based on support vector machine was established. Experimental results show the method raises the accuracy rate of fault diagnosis compared to other methods and has excellent practical value.

Key words:fault diagnosis; particle swarm; least square support vector machine

文章編號：1006-0707(2016)03-0098-04

中圖分類號：TP309.2

文獻標識碼：A

doi:10.11809/scbgxb2016.03.024

作者簡介：程思嘉(1992—)，男，碩士，主要從事密碼裝備保障研究。

基金項目：全軍軍事類研究生課題(2013JY430)

收稿日期：2015-08-31；修回日期：2015-09-15

本文引用格式：程思嘉,張昌宏.基于粒子群算法優化最小二乘支持向量機的電路故障診斷方法[J].兵器裝備工程學報，2016(3):98-101.

【信息科學與控制工程】