一種新的基于灰色關聯分析的BP神經網絡剪枝算法

摘 要：利用灰色關聯分析方法，為BP神經網絡結構約簡提出了一種新的剪枝算法，該算法通過剪枝和并枝兩個階段實現BP網絡結構的優化，提高了網絡的數值效能。最后，通過數值實驗驗證了該算法的合理性和有效性。

關鍵詞：神經網絡；網絡結構優化；灰色關聯度分析；剪枝算法

4 實例建模

4.1 分類實例——XOR問題

XOR問題就是如何用神經網絡實現異或邏輯關系，即Y=A·XOR·B。對于這個問題用單個神經元模型無法解決，因為該問題是線性不可分的，對于兩維輸入空間，神經元的作用可以理解為對輸入空間進行一條直線劃分。

多層神經網絡可以解決這個問題，因為多層網絡引入了中間隱含層，每個隱含神經元可以按不同的方法來劃分輸入空間抽取輸入空間中包含的某些特征，從而形成更為復雜的分類區域。理論上已經證明三層神經網絡足以解決任意復雜分類問題。

我們考慮用BP神經網絡實現XOR問題，初步建立一個隱含層為30個神經元的網絡結構，再運用前文灰色關聯度分析的方法進行網絡剪枝，以實現最簡網絡的XOR問題。

XOR問題的樣本有四個，即他們的輸入為x=■；對應的輸出為：y=[0101]；輸入是2維向量，用2個神經元作為輸入層，網絡輸出是1維向量，用1個神經元作為輸出層，對于這個問題，在BP神經網絡隱含層節點個數未知的情況下，先取30個節點，經過簡單的訓練后得到網絡結構，再利用灰色關聯分析優化網絡結構。

初始結構：2-30-1，神經元的傳遞函數取tin sig函數，BP網絡的訓練函數取tan sig；……