不同點位噪聲對SVM與RVM的分類性能影響研究

謝世勛

摘? 要：模式識別算法往往對訓練集樣本的數量和質量有較高的要求，噪聲的產生會影響數據集的分布特征，從而對算法的學習過程產生一定干擾。因此，研究模式識別算法在小樣本訓練集的不同點位產生噪聲后的分類性能和判界是否會發生改變具有重大的理論意義。該文比較了SVM和RVM在3種典型點位的噪聲下，研究其分類性能指標的優劣以及決策邊界的變化，發現RVM的抗噪聲能力優于SVM。

關鍵詞：關聯向量機? 支持向量機? 小樣本分類? 噪聲數據

中圖分類號：TP391.41?????????????????????? 文獻標識碼：A?????????????????? 文章編號：1672-3791（2021）01（a）-0020-03

Study on the Effect of Different Point Noise on the Classification Performance of SVM and RVM

XIE Shixun*

（School of Economics and Management， Xi'an Technological University， Xi'an， Shaanxi Province， 710000 China）

Abstract：Pattern recognition algorithms tend to have high demands on the quantity and quality of the training set samples， and noise generation can affect the distribution characteristics of the data set and thus causes some interference to the learning process of the algorithm. Therefore， it is investigated whether the classification performance and adjudication boundaries of the pattern recognition algorithm change after generating noise at different points of the small sample training set of great theoretical significance. This paper compares SVM and RVM under the noise of three typical points to investigate the merits of their classification performance metrics and the decision boundaries of the variation， RVM was found to be more resistant to noise than SVM.

Key Words：Relevance vector machine（RVM）; Support vector machine（SVM）; Small sample classification; Noise data

模式識別算法在社會各領域中得到了廣泛應用，但傳統模式識別算法對訓練集樣本的數量和質量有較高的要求。然而現實世界中的很多分類問題，實際上不一定具備充足且高質量的訓練樣本，比如小規模訓練樣本中出現了一個新的噪聲樣本點，模式識別算法對具有噪聲的訓練樣本進行學習很容易被其干擾，使得無法獲得充分的學習，導致分類效果不佳。因此，研究模式識別算法在小樣本訓練集的不同點位產生噪聲后對分類性能和邊界的影響具有重大的意義。

1? 國內外研究現狀

關聯向量機（Relevance Vector Machine，RVM）和支持向量機（Support Vector Machine，SVM）都是當前流行模式識別算法，大量的研究表明它們已經成為機器學習領域的熱門話題。

2017年，袁海滿利用粒子群優化算法對關聯向量機基函數參數進行優化，從而提高變壓器的故障診斷精度。實例對比分析表明，與SVM、RVM方法相比，粒子群關聯向量機方法具有更高的診斷精度[1]。

劉志青等人在2017年將SVM和RVM應用到點云數據分類任務，比較了分類正確率、訓練速度和測試速度等性能指標，總結出RVM在此任務中更具有應用潛力[2]。

王薇蓉等人2018年通過對基于SVM模型、RVM模型的EEG情感識別進行仿真、比較，結果表明RVM可以有效地彌補SVM的不足之處[3]。

Reza等人于2018年證明RVM對地震變化數據進行分類的有效性，將RVM技術與其他傳統方法（SVM和概率神經網絡（PNN））進行比較，發掘了RVM在識別異常地震反射信號中的潛力[4]。

陳龍舟在2019年將SVM和RVM方法用于航空瞬變電磁信號去噪實驗和處理，取得了良好的效果，證明了將其用于去噪的可行性和有效性[5]。

劉鴻斌等人在2019年提出一種基于RVM的軟測量模型，PLS-RVM模型的預測效果較PLS-LSSVM模型有顯著提升[6]。