BP算法收斂性分析及改進(jìn)

摘要：在標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練中，將誤差函數(shù)作為權(quán)值調(diào)整的依據(jù)，使用固定學(xué)習(xí)率計算權(quán)值，這樣的結(jié)果往往使網(wǎng)絡(luò)的學(xué)習(xí)速度過慢甚至無法收斂。對此，從網(wǎng)絡(luò)收斂的穩(wěn)定性和速度的角度出發(fā)，分析了誤差函數(shù)和權(quán)值修改函數(shù)，對算法中學(xué)習(xí)率的作用進(jìn)行了具體的討論，提出了一種根據(jù)誤差變化對學(xué)習(xí)率進(jìn)行動態(tài)調(diào)整的方法。該方法簡單實用，能有效防止網(wǎng)絡(luò)訓(xùn)練時出現(xiàn)發(fā)散，提高網(wǎng)絡(luò)的收斂速度和穩(wěn)定性。

關(guān)鍵詞：BP算法；誤差變化率；學(xué)習(xí)率；收斂速度