基于快速收斂神經網絡算法的預測模型設計

朱巍

摘 要：本文將預測分析理論引入網絡運行管理中，在運用多種數學模型和專家經驗分析對網絡運行指標數據進行分析、預測和適應性評價的基礎上，本文提供了一個新的預測模型—收斂神經網絡算法，該模型和傳統預測模型相比具有更好的準確性和實效性。

關鍵詞：網絡管理；預測；神經網絡

1 引言

預測是對事物的發展趨勢及其影響做出估計和判斷。在機械工業中，預測技術多用于市場需求預測和采用新技術的發展預測。傳統的預測方法和手段比較簡單。20世紀60年代以來，科學技術的進步為預測提供了比較可靠的科學方法和手段。預測技術應用的步驟是：確定預測目標；收集和處理有關的信息和情報資料；建立預測模型；分析評價；修正預測值等。在通信網管理中應用預測分析技術，能夠全面分析網絡運行狀態，幫助決策者從宏觀上掌握網絡運行的基本情況和變化趨勢，有效的了解通信網系的運行質量和保障能力，從而為通信管理部門科學調整通信網絡組織、合理運用網絡資源提供依據，進一步促進通信網保障能力的提高。

2 預測方法的相關技術研究

為使網絡運行指標預測取得良好的效果，在預測前應反復認真地分析和研究所收集的各種有關資料，對不完整和不適用的資料進行必要的補充、推算和調整，以保證資料的完整性和可靠性。預測中應密切注意定性分析和定量計算相結合，專家經驗和數學模型相結合，長期規劃和中、近期目標相結合。同一指標需經多種預測方法相互驗證，進行修正。調整后，選擇比較接近實際的合理結果。

目前，預測技術和方法多種多樣，各種方法都是出自不同角度考慮問題，故有一定的優點和缺陷。預測時，遵照決策者的指導思想，根據實際情況選擇恰當的模型和計算方法。根據軍事通信網絡運行質量的實際情況，采用時間序列模型、增長曲線模型、指數平滑模型、灰色系統模型和多元回歸分析模型等多種模型進行預測。

3 基于快速收斂神經網絡算法的預測模型設計

3.1 神經網絡算法

BP（Back Propagation）神經網絡又稱為多層前饋神經網絡，其結構如圖1所示。這種網絡不僅有輸入層結點，輸出層結點，而且有一層或多層隱含結點。對于輸入信息，要先向前傳播到隱含層結點上，經過各單元的特性為Sigmoid型的激活函數運算后，把隱含結點的輸出信息傳播到輸出結點，最后給出輸出結果。網絡的學習過程由正向和反向傳播兩部分組成。在正向傳播過程中，每一層神經元的狀態只影響下一層神經元網絡。如果輸出層不能得到期望輸出，就是實際輸出值與期望輸出值之間有誤差，那么轉入反向傳播過程，將誤差信號沿原來的傳播通路返回，通過修改各層神經元的權值，逐次地向輸入層傳播去進行計算，再經過正向傳播過程，這兩個過程的反復運用，使得誤差信號最小。實際上，誤差達到人們所希望的要求時，網絡的學習過程就結束[1]。

綜上所述，BP神經網絡的主要特點是，各層神經元僅與相鄰層神經元之間有連接，各層內神經元之間無任何連接，各層神經元之間無反饋連接，其輸入與輸出關系是一個高度非線性映射關系，如果輸入結點數為，輸出結點數為，則BP網絡是從 維歐氏空間到 維歐氏空間的映射。因此，我們可以將用于軍事通信網運行質量評估的各指標屬性值進行歸一化處理后作為BP網絡模型的輸入向量，將評估結果作為BP網絡模型的輸出，用足夠多的樣本訓練這個網絡，使其獲取評估專家的經驗、知識、主觀判斷及其對指標重要性的傾向，這樣BP網絡模型所具有的那組權系數值便是網絡經過自適應學習所得到的正確知識內部表示，訓練好的BP網絡模型根據待評估的軍事通信網運行質量各指標的屬性值，就可得到對軍事通信網運行質量的評估結果，再現專家的經驗、知識、主觀判斷及其對指標重要性的傾向，實現定性與定量的有效結合，保證評估的客觀性和一致性。

BP算法雖然在運行質量預測分析方面有很好的優勢，但是由于其算法的收斂速度太慢，一方面不滿足實際工程的需求；另一方面也很難滿足我軍通信管理實時性的要求。為此，本文提出了改進后的預測算法——快速收斂神經網絡算法（Fast Convergence Back Propagation，FCBP）進一步提高了收斂速度。

3.2 快速收斂神經網絡算法的實現

快速收斂神經網絡算法（Fast Convergence Back Propagation，FCBP）是在BP神經網絡的基礎上，結合通信網運行質量預測分析的實際需求所設計的，它的設計不僅提高了預測分析的精度，而且便于實現。

設L為網絡層數，Nk為第k層神經元數（k=1，2，…，L），N0為輸入端數目，λ為遺忘因子， 為第k層第i個神經元輸出， 為第k層第i個神經元輸入且取值如下：

⑴當 時， ；

⑵當 時， ；

⑶當 時， 。

為第k層第i個神經元期望輸出， 為第k層第i個神經元誤差。FCBP算法是從多層前向網絡推導而來，在最小平方的遞歸執行中，引入一個誤差性能測度 。

推導后可以得到改進的FCBP算法：

式中 為單位矩陣，

其中， 或任意隨機數。

改進的FCBP算法由直接推導得到，存在顯式解，且不存在近似誤差，理論上該算法能收斂到零，因此說明改進的算法比經典BP算法預測精度高。

[參考文獻]

[1]http：//www.ietf.org.

[2]http：//www.iso.org.

[3]http：//www.omg.org.

[4]Jia Lianxing，Zhu Wei，Zhai Chenggong.Research on an Integrated Network Management System[C].Eighth ACIS International Conference on Software Engineering， Artificial Intelligence，Networking，and Parallel/Distributed Computing， Qidao，China，July 2007.

[5]Zhu Wei，Liu Ningning，Shan Weifeng.Design of the Next Generation Military Network Management System based on NETCONF[C].Fifth International Conference on Information Technology：New Generations，Las Vegas，American，April，2008.endprint

摘 要：本文將預測分析理論引入網絡運行管理中，在運用多種數學模型和專家經驗分析對網絡運行指標數據進行分析、預測和適應性評價的基礎上，本文提供了一個新的預測模型—收斂神經網絡算法，該模型和傳統預測模型相比具有更好的準確性和實效性。

關鍵詞：網絡管理；預測；神經網絡

1 引言

預測是對事物的發展趨勢及其影響做出估計和判斷。在機械工業中，預測技術多用于市場需求預測和采用新技術的發展預測。傳統的預測方法和手段比較簡單。20世紀60年代以來，科學技術的進步為預測提供了比較可靠的科學方法和手段。預測技術應用的步驟是：確定預測目標；收集和處理有關的信息和情報資料；建立預測模型；分析評價；修正預測值等。在通信網管理中應用預測分析技術，能夠全面分析網絡運行狀態，幫助決策者從宏觀上掌握網絡運行的基本情況和變化趨勢，有效的了解通信網系的運行質量和保障能力，從而為通信管理部門科學調整通信網絡組織、合理運用網絡資源提供依據，進一步促進通信網保障能力的提高。

2 預測方法的相關技術研究

為使網絡運行指標預測取得良好的效果，在預測前應反復認真地分析和研究所收集的各種有關資料，對不完整和不適用的資料進行必要的補充、推算和調整，以保證資料的完整性和可靠性。預測中應密切注意定性分析和定量計算相結合，專家經驗和數學模型相結合，長期規劃和中、近期目標相結合。同一指標需經多種預測方法相互驗證，進行修正。調整后，選擇比較接近實際的合理結果。

目前，預測技術和方法多種多樣，各種方法都是出自不同角度考慮問題，故有一定的優點和缺陷。預測時，遵照決策者的指導思想，根據實際情況選擇恰當的模型和計算方法。根據軍事通信網絡運行質量的實際情況，采用時間序列模型、增長曲線模型、指數平滑模型、灰色系統模型和多元回歸分析模型等多種模型進行預測。

3 基于快速收斂神經網絡算法的預測模型設計

3.1 神經網絡算法

BP（Back Propagation）神經網絡又稱為多層前饋神經網絡，其結構如圖1所示。這種網絡不僅有輸入層結點，輸出層結點，而且有一層或多層隱含結點。對于輸入信息，要先向前傳播到隱含層結點上，經過各單元的特性為Sigmoid型的激活函數運算后，把隱含結點的輸出信息傳播到輸出結點，最后給出輸出結果。網絡的學習過程由正向和反向傳播兩部分組成。在正向傳播過程中，每一層神經元的狀態只影響下一層神經元網絡。如果輸出層不能得到期望輸出，就是實際輸出值與期望輸出值之間有誤差，那么轉入反向傳播過程，將誤差信號沿原來的傳播通路返回，通過修改各層神經元的權值，逐次地向輸入層傳播去進行計算，再經過正向傳播過程，這兩個過程的反復運用，使得誤差信號最小。實際上，誤差達到人們所希望的要求時，網絡的學習過程就結束[1]。

綜上所述，BP神經網絡的主要特點是，各層神經元僅與相鄰層神經元之間有連接，各層內神經元之間無任何連接，各層神經元之間無反饋連接，其輸入與輸出關系是一個高度非線性映射關系，如果輸入結點數為，輸出結點數為，則BP網絡是從 維歐氏空間到 維歐氏空間的映射。因此，我們可以將用于軍事通信網運行質量評估的各指標屬性值進行歸一化處理后作為BP網絡模型的輸入向量，將評估結果作為BP網絡模型的輸出，用足夠多的樣本訓練這個網絡，使其獲取評估專家的經驗、知識、主觀判斷及其對指標重要性的傾向，這樣BP網絡模型所具有的那組權系數值便是網絡經過自適應學習所得到的正確知識內部表示，訓練好的BP網絡模型根據待評估的軍事通信網運行質量各指標的屬性值，就可得到對軍事通信網運行質量的評估結果，再現專家的經驗、知識、主觀判斷及其對指標重要性的傾向，實現定性與定量的有效結合，保證評估的客觀性和一致性。

BP算法雖然在運行質量預測分析方面有很好的優勢，但是由于其算法的收斂速度太慢，一方面不滿足實際工程的需求；另一方面也很難滿足我軍通信管理實時性的要求。為此，本文提出了改進后的預測算法——快速收斂神經網絡算法（Fast Convergence Back Propagation，FCBP）進一步提高了收斂速度。

3.2 快速收斂神經網絡算法的實現

快速收斂神經網絡算法（Fast Convergence Back Propagation，FCBP）是在BP神經網絡的基礎上，結合通信網運行質量預測分析的實際需求所設計的，它的設計不僅提高了預測分析的精度，而且便于實現。

設L為網絡層數，Nk為第k層神經元數（k=1，2，…，L），N0為輸入端數目，λ為遺忘因子， 為第k層第i個神經元輸出， 為第k層第i個神經元輸入且取值如下：

⑴當 時， ；

⑵當 時， ；

⑶當 時， 。

為第k層第i個神經元期望輸出， 為第k層第i個神經元誤差。FCBP算法是從多層前向網絡推導而來，在最小平方的遞歸執行中，引入一個誤差性能測度 。

推導后可以得到改進的FCBP算法：

式中 為單位矩陣，

其中， 或任意隨機數。

改進的FCBP算法由直接推導得到，存在顯式解，且不存在近似誤差，理論上該算法能收斂到零，因此說明改進的算法比經典BP算法預測精度高。

[參考文獻]

[1]http：//www.ietf.org.

[2]http：//www.iso.org.

[3]http：//www.omg.org.

[4]Jia Lianxing，Zhu Wei，Zhai Chenggong.Research on an Integrated Network Management System[C].Eighth ACIS International Conference on Software Engineering， Artificial Intelligence，Networking，and Parallel/Distributed Computing， Qidao，China，July 2007.

[5]Zhu Wei，Liu Ningning，Shan Weifeng.Design of the Next Generation Military Network Management System based on NETCONF[C].Fifth International Conference on Information Technology：New Generations，Las Vegas，American，April，2008.endprint

摘 要：本文將預測分析理論引入網絡運行管理中，在運用多種數學模型和專家經驗分析對網絡運行指標數據進行分析、預測和適應性評價的基礎上，本文提供了一個新的預測模型—收斂神經網絡算法，該模型和傳統預測模型相比具有更好的準確性和實效性。

關鍵詞：網絡管理；預測；神經網絡

1 引言

預測是對事物的發展趨勢及其影響做出估計和判斷。在機械工業中，預測技術多用于市場需求預測和采用新技術的發展預測。傳統的預測方法和手段比較簡單。20世紀60年代以來，科學技術的進步為預測提供了比較可靠的科學方法和手段。預測技術應用的步驟是：確定預測目標；收集和處理有關的信息和情報資料；建立預測模型；分析評價；修正預測值等。在通信網管理中應用預測分析技術，能夠全面分析網絡運行狀態，幫助決策者從宏觀上掌握網絡運行的基本情況和變化趨勢，有效的了解通信網系的運行質量和保障能力，從而為通信管理部門科學調整通信網絡組織、合理運用網絡資源提供依據，進一步促進通信網保障能力的提高。

2 預測方法的相關技術研究

為使網絡運行指標預測取得良好的效果，在預測前應反復認真地分析和研究所收集的各種有關資料，對不完整和不適用的資料進行必要的補充、推算和調整，以保證資料的完整性和可靠性。預測中應密切注意定性分析和定量計算相結合，專家經驗和數學模型相結合，長期規劃和中、近期目標相結合。同一指標需經多種預測方法相互驗證，進行修正。調整后，選擇比較接近實際的合理結果。

目前，預測技術和方法多種多樣，各種方法都是出自不同角度考慮問題，故有一定的優點和缺陷。預測時，遵照決策者的指導思想，根據實際情況選擇恰當的模型和計算方法。根據軍事通信網絡運行質量的實際情況，采用時間序列模型、增長曲線模型、指數平滑模型、灰色系統模型和多元回歸分析模型等多種模型進行預測。

3 基于快速收斂神經網絡算法的預測模型設計

3.1 神經網絡算法

BP（Back Propagation）神經網絡又稱為多層前饋神經網絡，其結構如圖1所示。這種網絡不僅有輸入層結點，輸出層結點，而且有一層或多層隱含結點。對于輸入信息，要先向前傳播到隱含層結點上，經過各單元的特性為Sigmoid型的激活函數運算后，把隱含結點的輸出信息傳播到輸出結點，最后給出輸出結果。網絡的學習過程由正向和反向傳播兩部分組成。在正向傳播過程中，每一層神經元的狀態只影響下一層神經元網絡。如果輸出層不能得到期望輸出，就是實際輸出值與期望輸出值之間有誤差，那么轉入反向傳播過程，將誤差信號沿原來的傳播通路返回，通過修改各層神經元的權值，逐次地向輸入層傳播去進行計算，再經過正向傳播過程，這兩個過程的反復運用，使得誤差信號最小。實際上，誤差達到人們所希望的要求時，網絡的學習過程就結束[1]。

綜上所述，BP神經網絡的主要特點是，各層神經元僅與相鄰層神經元之間有連接，各層內神經元之間無任何連接，各層神經元之間無反饋連接，其輸入與輸出關系是一個高度非線性映射關系，如果輸入結點數為，輸出結點數為，則BP網絡是從 維歐氏空間到 維歐氏空間的映射。因此，我們可以將用于軍事通信網運行質量評估的各指標屬性值進行歸一化處理后作為BP網絡模型的輸入向量，將評估結果作為BP網絡模型的輸出，用足夠多的樣本訓練這個網絡，使其獲取評估專家的經驗、知識、主觀判斷及其對指標重要性的傾向，這樣BP網絡模型所具有的那組權系數值便是網絡經過自適應學習所得到的正確知識內部表示，訓練好的BP網絡模型根據待評估的軍事通信網運行質量各指標的屬性值，就可得到對軍事通信網運行質量的評估結果，再現專家的經驗、知識、主觀判斷及其對指標重要性的傾向，實現定性與定量的有效結合，保證評估的客觀性和一致性。

BP算法雖然在運行質量預測分析方面有很好的優勢，但是由于其算法的收斂速度太慢，一方面不滿足實際工程的需求；另一方面也很難滿足我軍通信管理實時性的要求。為此，本文提出了改進后的預測算法——快速收斂神經網絡算法（Fast Convergence Back Propagation，FCBP）進一步提高了收斂速度。

3.2 快速收斂神經網絡算法的實現

快速收斂神經網絡算法（Fast Convergence Back Propagation，FCBP）是在BP神經網絡的基礎上，結合通信網運行質量預測分析的實際需求所設計的，它的設計不僅提高了預測分析的精度，而且便于實現。

設L為網絡層數，Nk為第k層神經元數（k=1，2，…，L），N0為輸入端數目，λ為遺忘因子， 為第k層第i個神經元輸出， 為第k層第i個神經元輸入且取值如下：

⑴當 時， ；

⑵當 時， ；

⑶當 時， 。

為第k層第i個神經元期望輸出， 為第k層第i個神經元誤差。FCBP算法是從多層前向網絡推導而來，在最小平方的遞歸執行中，引入一個誤差性能測度 。

推導后可以得到改進的FCBP算法：

式中 為單位矩陣，

其中， 或任意隨機數。

改進的FCBP算法由直接推導得到，存在顯式解，且不存在近似誤差，理論上該算法能收斂到零，因此說明改進的算法比經典BP算法預測精度高。

[參考文獻]

[1]http：//www.ietf.org.

[2]http：//www.iso.org.

[3]http：//www.omg.org.

[4]Jia Lianxing，Zhu Wei，Zhai Chenggong.Research on an Integrated Network Management System[C].Eighth ACIS International Conference on Software Engineering， Artificial Intelligence，Networking，and Parallel/Distributed Computing， Qidao，China，July 2007.

[5]Zhu Wei，Liu Ningning，Shan Weifeng.Design of the Next Generation Military Network Management System based on NETCONF[C].Fifth International Conference on Information Technology：New Generations，Las Vegas，American，April，2008.endprint