基于BP網絡的函數逼近研究

賀麗媛　孔睿

摘要：BP網絡及其變化形式是當下最流行的人工神經網絡模型，也是前向網絡的核心部分。本文立足于BP網絡的一個應用分支——函數逼近，以一組輸入向量和輸出向量作為訓練樣本，選擇tansig和purelin作為網絡各層神經元的激活函數，分別采用traingdx函數和trainbr函數對網絡進行訓練和仿真。結果表明，前者對訓練樣本能夠實現高度擬合，但曲線平滑度欠佳;而后者的樣本擬合程度雖有遜色，但曲線較光滑，逼近效果更為可觀。

[關鍵詞]BP神經網絡函數逼近機器學習

1引言

移動互聯網的爆發和大數據技術的迅猛發展為人工智能的研究提供了基礎支撐，得益于計算機技術在數據采集、存儲、計算等環節的突破，“機器學習”逐漸步入公眾的視野。人工神經網絡作為機器學習的一種新型算法，其構筑理念受生物學神經網絡運作啟示，即為一種在掌握了人腦結構和響應外界刺激機制后，以網絡拓撲知識為理論基礎，對人類神經系統處理復雜信息進行模擬的數學模型，可實現函數逼近、模式識別與分類及數據壓縮等功能。人工神經元模型如圖1所示。

2BP神經網絡概述

神經元作為神經網絡的基本構成元素，其輸入連接和輸出連接模擬人腦突觸的行為，而連接上的權值則模擬生物神經元間神經遞質的數目。每個神經元可以有多個輸入，將它們經過加權求和后的結果傳遞給激活函數，其作用是將神經元的輸入映射至輸出端，故網絡的輸出取決于連接方式、權重以及激活函數。

BP網絡正是基于這種仿生學建模，其信息處理方式具有以下特點：

（1）信息以連接權值的形式分布存儲于整個網絡;

（2）具有并行信息處理功能;

（3）網絡的高度連接允許少量誤差存在;（4）具有自學習、自組織、自適應能力。

3BP神經網絡實現

函數逼近作為BP神經網絡的應用分支，旨在用輸入向量和期望的輸出向量進行訓練以逼近一個函數。基于該原理，本文借助MATLAB創建和訓練一個隱含層節點數為15的單輸入和單輸出兩層BP網絡，而后進行仿真以實現對一組數據的擬合，訓練集如表1所示。

網絡對應層的激活函數選擇雙極S形函數和純線性函數，擬定目標誤差為0.001，顯示中間結果的周期為10，學習率為0.05，分別采用梯度下降自適應學習率算法和貝葉斯正則化算法對網絡進行最大迭代次數為2500次的訓練。由圖2可看出，當訓練次數達到204次時，BP網絡的訓練誤差為0.000969，即滿足要求。由網絡仿真結果可看出traingdx訓練的網絡可對部分訓練樣本實現高度擬合，但存在“過適配”現象，這樣的擬合曲線僅在訓練集上表現良好，對未知測試樣例的預測結果將不準確，降低了其實用價值，如圖3所示;而trainbr訓練的網絡對于樣本點的擬合程度欠佳，但呈現曲線較平滑，函數逼近效果較前者更為可觀，如圖4所示。

4網絡性能分析

網絡參數的設置對其性能的影響主要表現于以下三個方面：

（1）隱含層節點數目的確定：其數目對識別率的影響雖不大，但如若設置過多將會增大運算量，延長網絡的訓練過程;

（2）激活函數的選擇：無論是識別率還是網絡收斂速度，激活函數都起著決定性作用，因而在進行高次函數逼近時，非線性函數將比線性函數表現出更高的精度，但也增加了運算量;

（3）學習率的選取：關系到BP網絡收斂的速度，以及網絡能否收斂。如果選取過小，雖能保證網絡收斂，但訓練過程較緩慢;反之，如果選取過大，則可能導致系統的不穩定，進而影響識別效果。

5結語

針對給定訓練集，本文所設計的BP網絡在進行204次訓練后達到允許誤差要求，即表明基于BP算法的前饋神經網絡能夠呈現較好的曲線擬合效果，進而實現對非線性函數的逼近。工程實踐中，對于一些期望產生的非線性輸入輸出曲線，借助人工神經網絡進行函數逼近將比用傳統工具解決問題更為方便高效，具有廣闊的應用前景。

參考文獻

[1]陳達權，基于深度學習的非線性函數逼近有效性探析[J].電腦知識與技術，2019（05）：169-170+175.

[2]馮長敏，張炳江，基于BP神經網絡的分段函數連續優化處理[J].北京信息科技大學學報（自然科學版），2019，34（01）：18-22.