RBF 與BP 網絡在模式分類領域內的對比研究

丁 碩，常曉恒，巫慶輝

（渤海大學工學院，遼寧錦州，121013）

反向傳播神經網絡（Back Propagation Neural Networks, BPNN）存在收斂速度慢、訓練時間長、目標函數易陷入局部最小值等缺點。徑向基函數神經網絡（Radial Basis Function Neural Networks, RBFNN) 是一種局部逼近的神經網絡，由于RBFNN 的激活函數采用徑向對稱的核函數，當輸入樣本傳輸到隱含層單元空間時，這組核函數構成了輸入樣本的一組基，當輸入信號靠近核函數的中央范圍時，隱含層節點將產生較大的輸出，所以RBFNN 具有學習速度快、逼近精度高的優點，能較好地克服標準BPNN 的訓練時間長及計算復雜度高等缺點。本文基于RBFNN 和標準BPNN 的分別構建了分類模型，通過仿真實驗，對2 個模型的分類性能進行對比。仿真結果表明，在對二維數據進行模式分類時，基于RBFNN 的分類模型更具優勢，更適合于解決模式分類問題。

1 RBFNN 的結構與算法

RBFNN 由輸入層、隱含層和輸出層組成的三層前向網絡。輸入層由信號源節點組成；隱含層神經元采用徑向基函數作為變換函數，徑向基函數常用高斯函數，設Xp為輸入樣本，為歐式范數，c 為高斯函數的中心， 為高斯函數的方差，則網絡的輸出如式(1)所示，其中wij為隱含層到輸出層的連接權值，h 為隱含層神經元數目，yj為與輸入樣本對應的第j個輸出神經元的實際輸出。基函數的方差如式(2)所示，其中d 為樣本的期望輸出值。

2 BPNN 的結構與算法

BPNN 是一種單向傳播的多層前向網絡，BPNN 通過對輸入節點與隱層節點間的網絡權值wij、隱層節點與輸出節點間的網絡權值Tli及閾值 的調整，使誤差函數沿梯度方向下降。設BPNN 的輸入節點為xj、隱層節點為yi、輸出節點為Ol、輸出節點的期望輸出為tl,則BPNN 隱層節點的輸出計算方法如式(3)所示，輸出節點的計算方法如式(4)所示。

3 仿真實驗

3.1 RBFNN 與BPNN 分類模型的建立

利用RBFNN 和標準BPNN 分類模型對圖1 所示的30 個樣本二維向量的模式進行分類。在對樣本二維向量的模式進行分類實驗時，首先對向量的模式進行編碼，即網絡的輸出分別用一組二進制代碼來表示對應向量的模式，本文分別用(0 0 0 0 1)表示第1 類模式；(0 0 0 1 0)表示第2 類模式；(0 0 1 0 0)表示第3 類模式；(0 1 0 0 0)表示第4 類模式；(1 0 0 0 0)表示第5 類模式。本文選用高斯函數作為RBFNN 隱含層神經元的徑向基函數；RBFNN 的中心在輸入樣本中隨機選取，參數C 由相鄰樣本數據的最大距離確定，經過反復實驗，最終確定當C=0.035 時，網絡分類性能最好。對于標準BPNN而言，可以確定網絡輸入層為30 個神經元，輸出層有5 個神經元；訓練函數采用traingd；隱含層神經元數為25 時，可以滿足分類要求，學習率為0.1；最大訓練次數設為30000；目標精度設為0.001。

3.2 RBFNN 與標準BPNN 分類模型對訓練樣本的分類結果

圖1 樣本向量與測試向量分布

在目標精度設置為0.001、訓練樣本數目相等的條件下，標準BPNN 分類模型需要23507 步才能達到目標精度，均方誤差為0.000999971，勉強達到目標精度要求；RBFNN分類模型只需要28 步就可以達到目標精度，均方誤差僅為0.000515480，遠遠高于目標精度要求。可以得出結論，對于訓練樣本集而言，只要訓練步數設置足夠大，2 種分類模型都能在預設的訓練步數范圍內完成對訓練樣本的模式分類任務，但相比之下，RBFNN 的收斂時間明顯比標準BPNN 少，均方誤差也遠小于標準BPNN，即RBFNN 分類模型對于訓練樣本分類的準確性和分類精度更高，收斂速度更快。

3.3 RBFNN 與標準BPNN 分類模型的泛化能力測試

利用2 種分類模型對5 個不同類別向量作為測試向量進行分類。如圖1 所示，(5.18,6.00) 屬于第1 類，(5.14,5.69) 屬于第2 類，(5.37,5.75) 屬于第3 類，(5.56,5.96) 屬于第4 類，(5.36,6.02)屬于第5 類。RBFNN 和標準BPNN 對測試樣本的分類結果如表1 所示，可以看出，標準BPNN 分類模型的最大絕對誤差為-0.3427，RBFNN 分類模型的最大絕對誤差僅為-0.0968。可以得出結論，對于測試樣本集而言，RBFNN的分類結果更為精確，分類性能更優；標準BPNN 的分類結果誤差較大，分類性能較差。

4 結論

本文分別構建了RBFNN 與標準BPNN 分類模型，并對輸入的二維向量模式進行分類實驗。仿真結果表明：只要訓練步數設置足夠大，RBFNN 和標準BPNN 都能對訓練樣本和測試樣本實現正確分類,但標準BPNN 訓練時間較長，并且要經過多次訓練才能得到較好結果，而RBFNN 訓練時間很短，分類精度也明顯高于標準BPNN, 分類性能明顯優于標準BPNN。

表1 RBFNN 和標準BPNN 對測試樣本的分類結果對比

[1] 余妹蘭，匡芳君.BP 神經網絡學習算法的改進及應用[J]. 沈陽農業大學學報,2011,42 (3) :382-384.

[2] 丁碩，巫慶輝.基于改進BP 神經網絡的函數逼近性能對比研究[J].計算機與現代化， 2012，(11)：10-13

[3] 丁碩，常曉恒，巫慶輝.基于Gaussian 型RBF 神經網絡的一元函數逼近性能研究[J].渤海大學學報(自然科學版)， 2013，34(3)：300-304

[4] 劉永，張立毅.BP 和RBF 神經網絡的實現及其性能比較[J]. 電子測量技術，2007，30（4）：77-80

[5] DING Shuo,CHANG Xiao-heng,WU Qing-hui.Fault Diagnosis of Induction Motors Based on RBF Neural Network [J].Applied Mechanics and Materials,2014. (462-463):85-88

[6] 劉天舒.BP 神經網絡的改進研究及應用[D].哈爾濱：東北林業大學, 2011.