Forecasting of MEMS Gyroscope’s Random Drifts Based on LSSVM Optimized by Modified PSO

SUN Tianchuan，LIU Jieyu*，KANG Li，YANG Haotian（.Dept of Control Engineering，The Second Artillery Engineering University，Xi’an 7005，China；.The Second Research Institute of CASIC，Beijing 00039，China）

?

Forecasting of MEMS Gyroscope’s Random Drifts Based on LSSVM Optimized by Modified PSO

SUN Tianchuan1，LIU Jieyu1*，KANG Li2，YANG Haotian1
（1.Dept of Control Engineering，The Second Artillery Engineering University，Xi’an 710025，China；2.The Second Research Institute of CASIC，Beijing 100039，China）

The predictive-modeling method for the random drift of MEMS gyroscope is proposed，which is based on the least squares support vector machine optimized by modified particle swarm algorithm.Firstly，a forecasting mod?el of the random drift of MEMS gyroscope is built with least squares support vector machine，and then，the modified particle swarm algorithm is put forward to optimize the model.Finally，the optimized LSSVM model is used to pre?dict the random drift of MEMS gyroscope.The modeling method solves SVM’s disadvantage of slow training speed and requesting more resources.What’s more，the modified PSO have better fitness in capability of global searching or local searching.The experimental result also shows that the new modeling method can effectively predict MEMS gyroscope’s random drifts，and it has better effect than LSSVM optimized by PSO.

mems gyroscope；least squares support vector machine；modified particle swarm algorithm；random drift

MEMS陀螺儀具有成本低、體積小、功耗低、抗沖擊能力強等優點，近年來得到了快速的發展［1］，然而由于存在較大的漂移，尤其是具有隨機性、非線性、非平穩性和弱時變性的隨機漂移，限制了它在很多領域的應用［2-3］。因而，對MEMS陀螺的隨機漂移進行預測和補償一直是研究的重要方向［4］。

最小二乘支持向量機（LS-SVM）是最早是由Suykens J.A.K.在1999年提出的，是標準支持向量機的一種擴展，它把優化問題轉化成解線性方程問題而非二次規劃問題，這使得它在需要較少的計算資源的同時，還能較快的求解。文獻［5］將LSSVM用于加速度計溫度建模和補償，取得了較好的效果，文獻［6］將LSSVM和小波結合并用于陀螺儀隨機漂移建模中，為隨機漂移處理提供了一個新的思路。

然而LSSVM的參數γ和σ2會較大地影響到它的預測精度［7］，通常采用參數空間窮盡搜索法對LSSVM的參數進行優化［8］，但使用這種優化方法，參數范圍很難確定。因此，本文采用一種基于改進慣性權值非線性遞減策略的粒子群算法優化LSSVM的參數，提高了LSSVM的預測精度，實驗結果也表明，該算法預測效果優于基本PSO優化下的LSSVM。

1　最小二乘支持向量機（LSSVM）

LSSVM是標準支持向量機的一種擴展。其選擇誤差變量ei的二范數為損失函數，并把優化問題轉化成解線性方程問題而非二次規劃問題，約束條件也變為等式約束而非不等式約束。因為采取了求解線性方程的方式，所以當數據量較大時，需要的計算資源較少，且求解和收斂的速度比較快［9］。LSSVM的算法如下：

①假設已知訓練集

其中，xi∈X=Rn，yi∈R為訓練樣本輸出；

②選擇適當的參數和適當的核函數；核函數是支持向量機的重要組成部分，具有不同核函數和參數的支持向量機的性能存在很大差異。所以如何根據數據集來構造核函數，通過構造該函數來提高支持向量機的分類能力，這是目前支持向量機技術發展的一個重要研究方向。

根據泛函的相關理論只要滿足Mercer條件的函數都可以作為支持向量機的核函數，這里選用徑向基核函數：

主要考慮到采用徑向基核函數的LS-SVM只需要確定參數γ和σ。

③根據統計學習理論，為了使得訓練集中的任意數據點向量離超平面最短距離最大的最優超平面，構造函數擬合問題，LS-SVM算法的目標優化函數為：

約束條件為：

其中，φ（）：Rn→Rnh為核空間映射函數，ω∈Rnh為權向量，e=（e1，…，el）T為誤差變量，b為偏差量，J1為損失函數，μ和ζ為可調參數。

為了求解目標優化函數的最小值，將（3）和（4）變換到對偶空間，并構造相應的拉格朗日函數：

式中，αi∈R為拉格朗日乘子，分別求上式對ei，αi，ω，b的偏導，

再消去ei，ω，得到方程：

構造LS-SVM模型的預測函數：

即為超平面判別函數，其中K（x，xi）=?（x）T?（xi）就是核函數部分。

由以上推導過程可以看出，這種把求解的優化問題轉化成線性方程的方式，將算法的復雜性大大地降低了。

2　基于改進粒子群優化的的最小二乘支持向量機

在LSSVM的回歸模型中，懲罰參數γ和核參數σ2對其性能影響最大。使用粒子群優化算法對這兩個參數進行選擇可以有效提高最小二乘支持向量機的預測性能［10］，而PSO算法由于采用線性遞減權重策略，在局部搜索和全局搜索的側重上存在缺陷；所以本文提出一種基于新的非線性慣性權值的自適應粒子群算法對這兩個參數進行優化，從而提高文中模型的預測精度。

2.1粒子群優化算法及其改進

粒子群算法是一種從鳥類捕食行為衍生出來的群智能尋優算法，它通過對一群隨機粒子的初始化和迭代來尋找最優解。Pi是第i個粒子經歷過的最優位置，Pg是群體經歷的最優位置，在每一次的迭代中，粒子通過尋找個體極值Pi和全局極值Pg來更新自己的速度和位置；假設在d維搜索空間中，有m個粒子組成一個群體，第i個粒子在d維空間中的位置表示為Xˉi=（xi1，xi2，…，xid），i=1，2，…，m，第i個粒子經歷過的最好位置（有最好適應度）記為Pˉi=（pi1，pi2，…，pid），i=1，2，…，m，每個粒子的飛行速度為Vˉi=（vi1，vi2，…，vid），i=1，2，…，m。在整個群體中，所有粒子經歷過的最好位置為Pˉg=（pg1，pg2，…，pgd），每一代粒子根據下面公式更新自己的速度和位置：

其中，w為慣性權重；c1，c2為學習因子，一般取值為2；r1，r2是［0，1］之間的隨機數。

參數w是其中最為重要的一個參數，因此選擇合適的w可以使算法搜索行為和性能更好。w較大則算法具有較強的全局收斂能力，有利于跳出局部極小點，而w較小，算法則具有較強的局部收斂能力，有利于算法的收斂。所以慣性權重應該隨著迭代次數的增加不斷減小來使PSO在初期全局收斂能力較強，而晚期局部收斂能力較強［11］。目前主要采用的權值調整策略是線性遞減權重（linearly decreasing weight）策略，隨著迭代的進行，w的值會線性減少，這種遞減策略描述如下：

其中，Tmax是最大允許迭代次數，wini為是初始的慣性權重，而wend則是進化到最大迭代次數時的慣性權重，通常取wini=0.9，wend=0.4［12］。

為了使得算法在迭代初期探索能力更強，在可能最優解周圍實施更加精細的搜索。本文提出一種新的非線性遞減慣性權值策略。w（t）如下所示：

式中，t為當前迭代次數，Tmax為最大允許迭代次數。此種方法和傳統方法的慣性權重變化曲線如圖1所示（假設Tmax=1 000）。

圖1　不同策略慣性權重變化曲線

如圖1中所示，點劃線描述的曲線為線性遞減權重，藍色實線為本文使用的非線性慣性權重遞減變化曲線。這里通過采用本文提出的慣性權重非線性遞減策略與線性遞減策略對比的方式，可以發現本文的遞減策略使得算法在迭代初期具有更強的全局搜索能力來不斷搜索新的區域，迭代后期則具有更強的開發能力也就是局部搜索能力，使之在可能最優解周圍實施更加精細的搜索。

2.2改進的粒子群算法優化LSSVM過程

通過上述基本知識的描述，改進的粒子群算法優化最小二乘支持向量機的一般步驟如下：

①粒子群算法參數的初始化

首先確定最小二乘支持向量機的懲罰參數γ和核參數σ2范圍，文中設定γ∈［0，1 000］，σ2∈［0，100］；其次確定改進粒子群算法的相關參數，這些參數包括：粒子數目40，學習因子c1=c2=2，最大迭代次數tm=1 000。然后在最小二乘支持向量機的懲罰參數γ和核參數σ2范圍內隨機初始化粒子群。

②根據式（12）計算自適應權重。

③以回歸誤差平方和最小為適應度，計算并比較適應度。記錄各粒子的最佳位置和全局最佳位置。

④根據式（9）、式（10）更新粒子的速度和位置。

⑤判斷終止條件，滿足條件則輸出結果，否則轉向步驟②。

3　實驗驗證

3.1數據來源

采集一組MEMS陀螺儀ADXRS300的靜態數據，并經過確定性誤差補償和小波閾值去噪，得到陀螺儀隨機漂移的時間序列。取該時間序列中長度為3 600的一段序列作為實驗數據，原始隨機漂移變化曲線如圖2所示。取前2 500個樣本點作為訓練集訓練模型，選擇參數。取后500個樣本點做測試驗證模型預測性能。

圖2　原始隨機漂移序列

3.2模型評價指標

為了比較本文預測方法的預測性能，我們采用基本粒子群算法優化LSSVM對數據進行預測，并將它的預測結果和本文方法作為對比。模型評價指標則選擇均方根誤差（RMSE）和平均絕對百分誤差（MAPE）。

3.3模型參數的確定

基于10折交叉驗證的最小預測誤差準則，采用基本粒子群算法和改進的自適應粒子群算法對LSSVM的參數（γ，σ2）進行優化，參數的具體值如表1所示。

表1　各模型的參數

3.4結果與分析

①擬合性能對比采用表1中的LSSVM參數建立相應的MEMS陀螺隨機漂移預測模型，各模型擬合結果及擬合誤差如圖3、圖4所示。計算這兩個模型擬合結果的RMSE和MAPE值，結果見表2所示，從表2可知，相對于PSO-LSSVM，本文的基于改進PSO算法優化的LSSVM可以獲得更高的擬合精度，擬合誤差更小。

圖3　PSO-LSSVM訓練擬合效果圖

圖4　改進PSO-LSSVM訓練擬合效果圖

表2　各模型擬合性能比較

對比結果表明，改進PSO算法可以找到更優的LSSVM參數，建立了整體性能更優的MEMS陀螺隨機漂移預測模型，獲得更好的擬合效果。

②預測能力對比

模型的預測結果與預測誤差變化曲線如圖5和圖6所示。預測結果的RMSE和MAPE見表3所示。對結果進行分析，可以得到如下結論：相對于基本PSO-LSSVM，本文的改進PSO優化LSSVM對MEMS陀螺隨機漂移的預測結果更加理想，這是由于基本PSO算法優化LSSVM參數時，易陷入局部最優，未能搜索到使模型整體性能最優的參數，而改進的PSO算法由于采用改進的非線性慣性權重遞減策略，可以獲得更優的模型參數，使隨機漂移預測模型的預測能力更強，可以更加準確反映MEMS陀螺隨機漂移的變化趨勢。

圖5　PSO-LSSVM預測效果圖

圖6　改進PSO-LSSVM預測效果圖

表3　各模型預測性能比較

4　結束語

針對LSSVM參數優化問題，提出一種基于改進PSO優化的LSSVM的MEMS陀螺隨機漂移預測模型。該模型通過采用改進的慣性權重非線性遞減策略，相較于線性遞減策略，算法在迭代初期w較大，全局搜索能力較強，可以不斷搜索新的區域，迭代后期w較小，局部搜索能力較強，使得算法在可能最優解周圍可以實施更加精細的搜索從而選擇更合理的模型參數提高模型預測性能。通過對比基本PSO優化LSSVM的預測效果，可以發現此方法預測能力更強。

［1］Barbour N，Connelly J，Gilmore J，et al.Micromechanical Silicon Instrument and System DevelopmentatDraperLaboratory［C］//AIAA Guidance Navigation and Control Conference.San Di?ego：AIAA，1996：1-7.

［2］陳旭光，楊平，陳意.MEMS陀螺儀零位誤差分析與處理［J］.傳感技術學報，2012，25（5）：628-632.

［3］王新龍，李娜.MEMS陀螺儀隨機誤差的建模與分析［J］.北京航空航天大學學報，2012，38（2）：170-172.

［4］李澤民，段鳳陽，馬佳智.基于支持向量機的MEMS陀螺儀隨機漂移補償［J］.傳感技術學報，2012，25（8）：1085-1087.

［5］于湘濤，張蘭.基于小波最小二乘支持向量機的加速度計溫度建模和補償［J］.中國慣性技術學報，2011，19（1）：95-98.

［6］Yang P X，Qin Y Y.Temperature Compensation for RLG Based on Neural Network［C］//Sixth International Symposium on Preci?sion Engineering Measurements and Instrumentation，2010，7544：（4J-1-7）.

［7］黃翀鵬，熊偉麗.PSO算法中慣性權值的非線性遞減策略研究［C］//中國控制與決策學術年會論文集：481-484.

［8］陳貴敏，賈建援，韓琪.粒子群優化算法的慣性權值遞減策略研究［J］.西安交通大學學報，2006，1（40）：53-56.

［9］安鳳栓，常俊林.基于改進粒子群優化算法的PID控制器參數優化［J］.工礦自動化，2010（5）：54-57.

［10］Silva C G.Time Series forecasting with a Nonlinear Model and the Scatter Search Meta-Heuristic［J］.Information Sciences，2008，178（16）：3288-3299.

［11］He Jieyue，Hu Haejin，Robert Harrison，et al.Rule Generation for Protein SecondaryStructurePredication withSVMand De?cision Tree［J］.IEEE Transactions on Nanobioscience，2006，5（1）：46-53.

［12］田東平，趙天緒.基于Sigmoid慣性權值的自適應粒子群優化算法［J］.計算機應用，2008，28（12）：3058-3060.

孫田川（1993-），男，漢族，湖北人，碩士研究生，儀器科學與技術專業，主要研究方向為MEMS陀螺儀誤差補償技術研究，405528554@qq.com；

劉潔瑜（1970-），女，漢族，陜西西安人，博士學位，教授，碩士生導師，主要研究方向為慣性儀表及導航技術，主持并參與了多項軍內重要科研項目，多次獲得各級軍隊科技進步獎，jieyu.liu@gmail.com。

EEACC：2575；722010.3969/j.issn.1004-1699.2016.06.011

基于改進PSO優化LSSVM的MEMS陀螺隨機漂移預測

孫田川1，劉潔瑜1*，康莉2，楊浩天1
（1.第二炮兵工程大學控制工程系，西安710025；2.二炮駐699廠軍代室，北京100039）

提出一種基于改進粒子群算法（PSO）優化最小二乘支持向量機（LSSVM）的MEMS陀螺隨機漂移的預測模型建立方法。該方法首先應用最小二乘支持向量機對MEMS陀螺隨機漂移建立預測模型，然后應用改進粒子群算法對該模型進行優化，最后應用參數優化后的LSSVM預測模型對隨機漂移進行預測。該方法不僅解決了支持向量機訓練速度慢和所需計算資源多的問題，而且文中提出的改進的慣性權值遞減策略使PSO算法在全局或局部搜索能力上的側重具有更好的適應度。實驗結果表明，該預測模型可以有效地進行陀螺隨機漂移的預測，且預測效果優于基本PSO優化的最小二乘支持向量機。

微機械陀螺儀；最小二乘支持向量機；改進粒子群優化算法；隨機漂移

V241.5

A

1004-1699（2016）06-0854-05

2015-12-08修改日期：2016-02-27