基于支持向量機在線訓練算法的研究

摘 要：支持向量回歸機算法運用于在線訓練環境下效率很高，因為，當每次訓練集改變后，它不需要從頭開始對樣本進行重新學習。本文研究的一種增量與減量式的支持向量回歸機在線訓練算法，當在訓練集中添加或刪除樣本時，該算法就可以有效更新回歸函數，并通過逐步改變樣本的系數，運用拉格朗日乘子法，從而進行迭代，最終訓練完整個樣本集。仿真結果表明該算法具有較高的訓練效率。

關鍵詞：支持向量機；在線訓練；增量式訓練；減量式訓練

1 緒論

支持向量機（SVM）不僅有著統計學習理論[1]（Statistical Theory Learning，STL）的堅實理論基礎作為基墊，而且具有十分直觀的幾何解釋和接近完美的數學形式，并且適合在小樣本條件下進行運用。

本文主要是研究一種增量與減量式[2]支持向量回歸機在線訓練算法，目的為解決傳統算法在極端情況下每次新樣本添加后，需要全部開始從頭重新訓練整個樣本集的問題。該算法依據Lagrange乘數法和Karush-Kuhn-Tucker（KKT）條件，[3-4]通過在有限次數迭代[5]下從而改變樣本的系數，并保持原先的樣本在執行每一步時，依然滿足KKT條件，以至于最后得出訓練結果。

仿真結果表明，支持向量回歸機在線訓練算法具有較高的訓練效率。

5 結語

當在訓練集中添加或刪除樣本時，支持向量回歸機在線訓練算法就可以有效更新回歸函數，并通過逐步改變樣本的系數，運用拉格朗日乘子法，從而進行迭代，最終訓練完整個樣本集。且仿真結果表明該算法具有較高的訓練效率。

參考文獻：

[1]張一凡，馮愛民，張正林.支持向量回歸增量學習[J].計算機科學，2014，41（6）：166-170.

[2]顧斌，鄭關勝，王建東增.量和減量式標準支持向量機的分析[J].軟件學報，2013，24（7）：1601-1613.

[3]張文興，樊捷杰.基于KKT和超球結構的增量SVM算法的云架構入侵檢測系統[J].計算機應用，2015，35（10）：2886-2890.

[4]王建，陳穎，黃少偉.基于KKT條件分解的互聯電網分布式狀態估計算法[J].電力系統自動化，2010，34（19）：32-36.

[5]易校石，劉念.基于支持向量機中分離超平面求取的算法[J].重慶工商大學學報（自然科學版），2018，35（3）：66-69.

作者簡介：劉曉舟（1994-），女，漢族，碩士，主要研究領域為無線傳感器網絡，信息處理。