摘 要:將微粒群算法引入到最小二乘支持向量機(L-VM)時間序列預測,建立預測模型。思路來自微粒群算法可以在超平面空間中實現優化搜索,因此,將微粒群算法中的微粒運動公式進行修正,從而實現對L-VM 的訓練。然后用訓練過的L-VM進行預測,即得到最終結果。將此方法應用于銷售量預測,結果表明,此模型有更高的預測精度,而且在不同的L-VM學習參數下模型的誤差相對穩定。
關鍵詞:支持向量機;微粒群算法;時間序列預測;超平面空間
ime eries Forecasting via Least quares upport Vector Machine
[JZ]Based on Particle warm Optimization
LIN Qing,BAI Zhenxing
(Engineering College,Air Force Engineering University,Xi′an,710038,China)
Abstract:he Particle warm Opimization(PO) are introduced to the time series forecasting method based on Least quares upport Vector Machine (L-VM),then the forecasting model is establishedhe feature that PO can optimize the procedure of searching in hyperplane space inspires the mindBy modifying the velocity equation of particle in original PO,the training of L-VM is realizedhen forecasting result is obtained by using L-VM which is trained by POhis method is applied in the sales volume predictionhe result indicates that the forecasting model has higher forecasting accuracy and steadier forecasting error at different L-VM parameters
Keywords:support vector machine;particle swarm optimization;time series forecasting;hyperplane space
20世紀90年代由Vapnik[1]提出的支持向量機技術,是基于學習統計理論的數據挖掘的一項新技術,是人工智能發展的新分支,近年來其理論研究和算法實現方面都有突破性進展,開始成為克服“維數災難”和“過學習”等傳統困難的有利手段。
微粒群算法(Particle warm Optimization,PO)是由James Kenndy博士和Russell Eberhart博士于199年提出的一種演化計算技術[2]。該算法中將鳥群運動模型中的棲息地類比于所求問題解空間中可能解的位置,通過個體間的信息傳遞,導引整個群體向可能解的方向移動,在求解過程中逐步增加發現較好解的可能性。
訓練支持向量機需要求解一線性約束二次最優問題。微粒群算法是來自群體智能的直觀而易于實現的算法,而且被認為是一種新型的訓練支持向量機的方法[3]。該方法無需復雜的數學計算。在支持向量機的優化問題中,線性微粒群優化算法是一種較好的可選方法。
1最小二乘支持向量機
JAKuykens[4]在1999年首次提出L-VM支持向量機(Least quares upport Vector Machines,L-VM)用于解決分類和函數估計問題。這種方法采用最小二乘線性系統作為損失函數,代替傳統的支持向量機采用二次規劃方法,這種方法的優點是能夠解決大尺度問題,并且具有較好的推廣性和很強的魯棒性,但是卻是以支持向量機解的稀疏性損失為代價的。回歸L-VM支持向量機算法