改進量子粒子群BP神經網絡參數優化及應用

賈偉 趙雪芬

摘要：針對現有BP神經網絡選取權值和閾值不精確問題，采用改進量子粒子群優化算法優化BP神經網絡權值和閾值.首先在改進的量子粒子群優化算法中，采用雙層多種群優化策略提高整個種群的尋優能力，然后在每個子群中使用混沌反向學習和Levy飛行增強子群尋優能力，最后利用改進的量子粒子群優化BP神經網絡權值和閾值。實驗結果表明，改進的量子粒子群優化算法能有效提高BP神經網絡的全局尋優能力和收斂性，對數控高速銑削加工的銑削力進行準確預測。

關鍵詞：量子粒子群優化;BP神經網絡;多種群;混沌反向學習;Levy飛行

DOI：10.11907/rjdk.191011開放科學（資源服務）標識碼（OSID）：

中圖分類號：TP301文獻標識碼：A 文章編號：1672-7800（2019）010-0030-06

0引言

BP神經網絡是一種多層前饋神經網絡，它以預測誤差平方和最小作為目標，通過不斷調整網絡的權值和閾值逼近期望值。BP神經網絡具有較好的自學能力、泛化能力和非線性映射能力，廣泛應用于模式分類、農業、信息監測和圖像識別等領域。但是，BP神經網絡選取初始權值和閾值具有一定的隨機性，可能產生非最優的權值和閾值，導致BP神經網絡的全局搜索能力較差，易陷入局部最優解，而且收斂速度較慢，這些不足影響了其應用效果。

為解決BP神經網絡存在的問題，采用智能優化算法優化BP神經網絡的權值和閾值的方法被提出，如Li等提出的量子粒子群優化（Quantum-behaved Particle Swarm Opti-mization，QPSO）算法優化BP神經網絡（QPSO-BP），張明等提出的改進的螢火蟲算法優化BP神經網絡（IEM-FA-BP），冷昕等提出采用改進的人工蜂群算法優化BP神經網絡（IABC-BP）。但這些智能優化算法在尋優能力方面還存在不足，導致對BP神經網絡權值和閾值的優化結果不夠理想。

OPSO算法是根據量子力學理論提出的一種具有量子行為的粒子群優化算法。與其它智能優化算法相比，OP-SO算法具有收斂速度快和參數設置較少的優點，但是存在易早熟收斂和局部尋優能力較差的缺陷。為解決該問題，本文提出一種雙層多種群的OPSO（DQPSO）算法，采用DQPSO算法優化BP神經網絡（DQPSO-BP），通過優化權值和閾值，提高BP神經網絡全局搜索能力和收斂速度。

期望值與網絡訓練后的實際輸出值之間誤差由下式得到：

其中，O_k是樣本在第k個輸出節點的期望值。

如果期望值與網絡訓練后的實際輸出值之間誤差較大，則進行反向傳播，對各層的權值和閾值進行調整。重復多次正向和反向傳播，直到網絡輸出的誤差減小到一定程度或達到最大訓練次數為止。反向傳播過程中，根據學習速率η，隱含層的權值和閾值更新分別為：

為了選取最優權值和閾值，本文采用改進的量子粒子群優化BP神經網絡初始權值和閾值，優化步驟如下：

輸入：輸入層節點數A，隱含層節點數B，隱含層數，輸出節點數Q，學習速率η，DQPSO算法的最大迭代次數E_max，單種群的最大迭代次數R_max，子群大小W，混沌反向學習最大迭代次數T_max

輸出：最優權值和閾值

4實驗與分析

為驗證提出的BP神經網絡DQPSO-BP在實際應用中的有效性，本文將DQPSO-BP與現有的BP神經網絡應用于數控高速銑削加工的銑削力預測中，并對預測結果進行分析和比較。現有BP神經網絡包括QPSO-BP、IEMFA-BP和IABC-BP，本文利用改進的QPSO算法DMQPSO和GQPSO分別優化BP神經網絡權值和閾值，并將得到的BP神經網絡DMQPSO-BP和GQPSO-BP應用到數控高速銑削加工的銑削力預測中。

4.1實驗數據

樣本數據來自數控機床DMG HSC 75Linear的銑削加工，將主軸轉速、每齒進給量、徑向切削深度和軸向切削深度作為實驗設計變量，主軸轉速取值分別為7000、8000、9000、10000、11000、12000、13000、14000，每齒進給量取值分別為0.05、0.06、0.1、0.15、0.2、0.25、0.3、0.35，徑向切削深度取值分別為5、6、7、7.5、9、10、11、12，軸向切削深度取值分別為0.1、0.13、0.15、0.2、0.22、0.3、0.31、0.4。在4因素8水平情況下，通過正交實驗設計得到2000組實驗數據。

4.2實驗參數

在實驗中，BP神經網絡涉及到的參數設置如下：A=4，Q=3，η=0.01，E_max=500，R_max=300，W=30，T_max=200。

通常情況下，為了避免隱含層節點數過多而出現過擬合問題，一些學者采用以下公式確定隱含層節點數：

其中，輸入層的節點數為A，隱含層的節點數為B，輸出層的節點數為Q，α是1-10之間的常數。

根據銑削力預測模型，本文使用式（21）得到隱含層節點數B的取值范圍在4-14之間。分別選取10%、20%、30%、40%、50%、60%、70%、80%和90%的數據作為訓練樣本，采用均方根誤差（Root Mean Square Error，RMSE）作為衡量預測銑削合力的指標，選取最佳隱含層節點數，RMSE公式為：

采用不同比例訓練數據得到的RMSE與隱含層節點數的關系如圖4所示，每種比例的訓練數據獨立運行20次。當隱含層的節點數為10時，不同比例的訓練數據的RMSE都能取得最小值。因此，本文選取10作為最佳隱含層節點數。

5結語

在BP神經網絡中，權值和閾值的初始值對尋優能力及收斂性有著重要影響。為提高BP神經網絡的優化效果，本文提出一種使用雙層多種群策略的QPSO算法DQPSO，通過混沌反向學習和Levy飛行進一步提高單個種群的尋優能力。在對數控高速銑削加工的銑削力預測中，利用DOP-SO算法獲取BP神經網絡的初始權值和閾值，實驗結果表明，本文提出的DOPSO算法能夠提高BP神經網絡的全局尋優能力和收斂性。后續工作會將本文提出的DQPSO-BP應用于更多的實際問題中，進一步提高DQPSO-BP的尋優能力和收斂速度。