基于BP神經網絡算法機理及應用探究

王芳芳

摘 ? 要：BP神經網絡結構簡單，操作性強，被廣泛應用到各個領域。本文介紹了BP神經網絡的算法機理，根據實際經驗總結了訓練過程、Matlab程序實現及注意事項，總結BP神經網絡在應用中的局限及改進方法，對后續研究有一定的指導意義。

關鍵詞：BP神經網絡 ?算法 ?原理 ?應用 ?局限性

中圖分類號：TP39 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 文獻標識碼：A ? ? ? ? ? ? ? ? ? ? ? 文章編號：1674-098X（2020）05（a）-0150-02

神經網絡（ANN）通過建立數學模型，模擬人腦神經，對數據及相關信息進行處理。此網絡具有較強的容錯性、融合非線性函數等優點，可解決許多非線性問題。神經網絡包含多個神經元，利用簡單網絡組合在一起，基于以上優點，BP神經網絡被廣泛應用于各個行業領域。筆者參閱相關文獻，從BP神經網絡的基本原理、結構、算法機理、實現過程及局限性等方面系統進行分析，有效指導實踐。

1 ?BP神經網絡（BPNN）理論

1.1 BP神經網絡概述

BP神經網絡是一種多層前饋神經網路，最早由 Romelhart和Mc2clelland兩位學者提出，通過對函數權值進行優化，將相應誤差進行傳播，形成三層網絡，操作過程簡單、方便，應用廣泛，在函數逼近等方面中得到應用[1-2]。

1.2 操作過程

（1）信號傳送（正向）;（2）誤差傳送（反向）;（3）反復訓練、修正;（4）檢查收斂性。

BP神經網絡信息傳播是雙向的，結構之間的聯系是單向的。對于給定的訓練樣本，經過信號順向傳播、誤差反向傳播、訓練記憶，最終達到期望收斂值。

1.3 網絡結構

BP網絡包括輸入層、隱含層和輸出層，神經元為基本元素，采用全互連方式將各層連接，單層應用廣泛[3]。神經元傳播結構見圖1。

1.4 運算機理

假定BP 神經網絡輸入層節點：M個，隱含層節點：Q 個，輸出層節點：L個，令wij：輸入層與隱含層神經元之間的權值，wjk：隱含層與輸出層之間的權值;其中，隱含層和輸出層傳送函數分別：f（x）、g（x）。

（1）輸入層數學表示（輸出）：

（2）隱含層數學表示（輸入）：;（輸出）：

（3）輸出層數學表示（輸入）：;（輸出）：

（4）通過對網絡權值的調整，性能指標函數表示為：期望輸出dk與實際輸出ok之差的平方和

其中：E為函數誤差數學表示。

2 ?BP神經網絡訓練步驟及程序過程

2.1 訓練步驟

（1）歸一化處理：重點對網絡權值及神經元閾值進行歸一化處理;

（2）前向傳播處理：按照隱含層及輸出層的傳遞函數進行計算，得出各層之間的誤差;

（3）后向傳播處理：根據誤差調整權值和閾值，滿足條件后訓練結束。

以上步驟訓練后的BP神經網絡，具備了識別能力，預測樣本數據中的非隱含線性關系，訓練結束后的網絡，用來進行結果預測。

注意事項：

（1）在學習前，需要對訓練樣本進行歸一化處理，確保輸入、輸出值在[-1，1]或[0，1]范圍內。常見處理方法有：Matlab數學軟件、使用Premnmx（）函數等。

（2）隱含層節點數選取。

關于隱含層節點數的確定，沒有固定方法，通常使用經驗公式法及試驗法，找出符合條件的隱含層節點數[4]。

常見公式有：;;;

其中：k，m，n-分別為隱含層、輸入層、輸出層節點數， -參數，一般取1-10之間，N-樣本總量。

2.2 編程方法

BP神經網絡在Matlab程序中的函數格式為：

其中：P，T-分別代表輸入、輸出值;Si-代表神經元個數數目;TFi-代表傳遞函數類型。隱含層一般選用tansig函數，輸出層一般選用purelin函數。

3 ?BP神經網絡局限性分析及改進方法

3.1 局限性分析

傳統方法缺點表現為以下幾方面：收斂速度不快，不容易達到預測目標，網絡結構不好確定，收斂時間不確定，神經網絡容易出現訓練癱瘓。

3.2 改進方法

針對BP神經網絡出現的問題，國內外相關學者分別從收斂速度、優化網絡結構等方面提出了改進方法，主要分為以下幾方面。

（1）算法優化。

隨著網絡的發展，部分學者將BP神經網絡與進化計算[5]、人工免疫算法[4]等新的智能算法相結合，提出一些混合智能算法，設計出較好的BP網絡。同時還有將BP算法與模糊數學、小波理論、混沌理論等結合，提出模糊神經網絡、小波神經網絡、混沌神經網絡等，以上算法均在一定程度上提升了收斂速度。

（2）結構優化。

傳統網絡結構隱含層節點確定沒有固定方法，多是根據經驗公式進行確定，對網絡的收斂性產生一定影響。國內外多數研究，根據環境要求，調整網絡結構，動態找到合適的神經網絡模型。

4 ?結語

（1）本文對BP神經網絡基本原理、學習過程及Matlab程序實現等方面進行系統的綜述，同時對BP算法存在局限性和改進方法進行探討。

（2）由于BP神經網絡和算法存在缺陷比較突出，還可以從多個角度對其進行改進，對于如何選擇初始值、隱含層節點數、泛化能力的提高及容錯性的提高等方面，值得深入研究，不斷提高算法精度及收斂速度。

參考文獻

[1] 呂硯山，趙正琦.BP神經網絡的優化及應用研究[J]. 北京化工大學學報：自然科學版，2001，28（1）：67-69.

[2] 孫娓娓.BP神經網絡的算法改進及應用研究[D].重慶大學，2009.

[3] 史春朝.BP神經網絡算法的改進及其在PID控制中的應用研究[D].天津大學，2006.

[4] 黃宏運，朱家明，李詩爭.基于遺傳算法優化的BP神經網絡在股指預測中的應用研究[J].云南大學學報：自然科學版，2017，39（3）：350-355.

[5] 羅俊松.基于神經網絡的BP算法研究及在網絡入侵檢測中的應用[J].現代電子技術，2017， 40（11）：91-94.