基于人工神經網絡的負荷算法的優化

張嘉嘉

（中國石化工程建設公司，北京 100101）

電力系統負荷預測是根據電力負荷、經濟、社會、氣象等的歷史數據，探索電力負荷歷史數據變化規律對未來負荷的影響，尋求電力負荷與相關因素之間的內在聯系，從而對未來的電力負荷進行科學的預測[1]，為電力系統規劃和運行提供可靠的依據[2]。

論文介紹了人工神經網絡預測方法，并對日負荷數據進行程序仿真。在此基礎上，論文對人工神經網絡中BP 算法進行了改進，建立了組合預測神經網絡模型，使用了Matlab 中的cftool 工具箱對日負荷數據進行仿真，結果表明改進的組合預測神經網絡模型具有更好的精度和應用價值。

1 人工神經網絡結構

人工神經網絡中一個重要部分就是單元聯接形式，也就是網絡的結構形式。神經網絡的命名往往根據他的結構特點，或者根據采用的學習方法（簡稱算法）。目前常用的網絡結構形式如下。

1）分層網絡（又稱前向多層網絡，前饋網絡等）

分層網絡是指網絡中具有相同拓撲結構地位的神經元構成的一個子集；它是作為有向圖的人工神經網絡圖中處于同一列或同一行上的節點；它們是運算處理程序進行過程中的同一個段面；它所屬的每一神經元的權向量參與構成一個獨立的權矩陣。如果網絡中有多個這樣的人工神經元子集，就構成了一種多層網絡。多層網絡信息的前向傳遞處理過程是一個輸入特征向量從高維空間逐次映射的過程，是一個輸入向量按特征聚類的過程；是與生物系統的由感覺器官對外部世界事務特征的攝取知道認知完成這樣一個高度抽象的過程的過程完全類似的，是一件具有深邃含義事物的模型和數學的表征。

前饋網絡的基本要素是能用一個前向無環路有向圖表示，如圖1所示。

圖1 前向多層網絡示意

就是說，必須不存在前層神經元輸出y 向后層傳遞的支路；更不允許一個神經元的輸出向其自身輸入端傳送的支路，否則嚴重違反生物神經元單向傳遞特性；嚴格的講存在同一層神經元輸出向本層其他神經元的輸入端傳遞支路的網絡，也不應屬于前向多層網絡。

2）互聯網絡（或稱反饋網絡）

典型的反饋型網絡如圖2所示。

圖2 互聯網絡模型

圖3 BP 神經網絡

圖2中每個節點都表示一個計算單元，同時接受外加輸入和其他各節點的反饋輸入，每個節點也都直接向外部輸出。Hopfield 網絡即屬于此種類型。在某些反饋網絡中，各神經元除接受外加輸入與其他各節點反饋輸入之外，還包括自環反饋。

3）BP 網絡結構

圖3是具有一個隱含層的BP（Back-Propagation）神經網絡模型結構圖（圖中輸入節點j=1，2，…，r；隱含節點i=1，2，…，s1；輸出節點k=1，2，…，s2），其輸入層神經元數為r，隱含層神經元數為s1，輸出層神經元數為s2，隱含層神經元的激活函數為，輸出層神經元的激活函數為F2，輸入為P，輸出為A。如果不計輸入層，就可稱其為兩層神經網絡。

2 改進的神經網絡負荷預測方法

盡管BP 算法在實際工程中得到了廣泛應用，但也存在著自身的局限和不足，主要表現在收斂速度慢、局部極小值、訓練癱瘓等問題。針對BP 算法的缺點，提出以下幾種改進方法。

1）動量法

該方法是在反向傳播法的基礎上，對每一個全職的變化再加上一項正比于前次權值變化量的值，并根據反向傳播法產生新的權值變化。帶有動量因子的權值調節公式為

式中，k為訓練次數；mc 為動量因子，一般取0.95左右。

2）自適應調整學習速率算法

對于一個特定的問題要選擇適當的學習速率不是一件容易的事。學習速率選的太小，收斂太慢；選的太大，特有可能修正過頭，導致振蕩甚至發散。為了解決這一問題，可以再訓練過程中自動調整學習速率。學習速率η的自適應調整公式為

式中，SSE 為誤差平方和。

3）動量-自適應調整學習速率算法

當采用動量法時，BP 算法可以找到更優的解；而采用自適應調整學習速率法時，BP 算法可以縮短訓練時間。綜合采用以上兩種算法，不僅可以避免網絡陷入局部極小值，而且還能加速網絡收斂。

4）利用Levenberg-Marquardt 學習規則

更新權值參數的L-M（Levenberg -Marquardt）學習規則為

式中，e為誤差矢量；J為網絡誤差對權值導數的雅可比（Jacobian）矩陣；I為單位矩陣；μ為一個標量，其大小決定了算法是根據牛頓法還是梯度法完成。

Levenberg-Marquardt 優化算法比前述幾種使用梯度下降法的BP 算法快很多，但它需要更多的內存。

5）電力負荷組合預測[3]

組合預測方法是對同一個預測問題，將多個不同的預測模型有機地組合在一起，綜合各模型的優點，以期有效地改善模型的擬合能力，提高預測精度。加權處理是一種常見的處理手段，基本思想是：在某一預測問題中，在某一時段的實際值為yt(t= 1,2,···,n)。對該問題有m種預測方法，其中利用第i種方法對t時段的預測值為f it(i= 1,2,···,m)。如果各種預測方法 的權重為W= [w1,w2,···,wm]T，滿足組合預 測模型可表示為

式中，w因子可用拉格朗日乘數法或其他數學規劃方法確定。

上述組合預測方法，只對權重進行線性組合，要求參加組合預測方法的誤差能保持穩定，但電力系統負荷預測結果的誤差往往是非均勻性的，因而這種組合校正可就存在不足。考慮到人工神經網絡對復雜線性的擬合能力，構造了基于人工神經網絡的組合預測模型。

采用人工神經網絡進行組合預測的模型如圖4所示。

圖4 組合預測神經網絡模型

其中模型1、模型2，…，模型m為不同的單個預測模型。輸入層神經元個數m為不同的單個預測模型數，輸入層為一個神經元，即得到一個組合輸出，隱層個數可經試驗確定。

選擇與預測量最近的n個已知值作為樣本，即把最近的n個已知值作為輸出，采用不同的單個預測模型對這n個已知值分別進行預測，其預測值即為神經網絡的輸入，由此對神經網絡進行訓練。對于訓練好的神經那個網絡，當輸入端為不同的單個模型預測值時，其輸出即為用神經網絡組合后的預測值。

3 Matlab 算例仿真

對文獻[4]某城市的2004年7月10-7月20日的整點有功負荷值進行仿真計算。數據見表1和表2。

表1 某城市7月10-20日的整點有功負荷值

表2 某城市7月10-20日的氣象因子數值

1）梯度下降BP 算法函數算例結果

采用梯度下降BP 算法對表1和表2的數據進行仿真，結果如圖5和表3所示。

預測結果輸出見表3。

圖5 梯度下降BP 算法訓練結果

圖6 梯度下降動量BP 算法訓練結果

2）基于梯度下降動量BP 算法

改進算法1 是基于動量-自適應調整學習速率算法進行訓練的人工神經網絡模型。其中網絡結構為3 層BP 網絡，輸入層神經元的個數為15，輸出層神經元的個數為12，隱含層神經元個數取為31，隱含層神經元的傳遞函數采用tansig，輸出層神經元的傳遞函數采用 purelin。網絡訓練函數采用traingdm，相應的學習函數為learngdm 具體訓練參數是：動量因子為0.98，學習速率為0.2，訓練指標誤差為0.0001，最大訓練步數為5000，每25 步顯示一次。計算結果如圖6和表4所示。

3）基于L-M 學習規則進行訓練的人工神經網絡模型的仿真

基于L-M 學習規則進行網絡訓練，其中訓練函數函數選用TRAΙNLM。具體的訓練參數為：網絡訓練函數采用trainlm，相應的學習函數為learndm，學習速率為0.1，訓練指標誤差為0，最大訓練步數為1000，每25 步顯示一次。其結果與實際值比較如圖7所示。經計算，利用此方法預測數據的均方差達到6.2814e-004。

4）3 種算法預測結果比較

以下對上述3 種人工神經網絡預測方法進行對比。3 種方法的預測結果如圖8所示，誤差見表5。

圖7 利用L-M 方法輸出的結果與實際值比較 (X 為實際值，Out 為預測值)

圖8 神經網絡3 種方法預測值曲線圖比較

表3 梯度下降BP 法輸出值與實際值誤差比較

表4 梯度下降動量BP 法輸出值與實際值誤差比較

表5 梯度下降BP 算法與兩種改進方法應用于日負荷預測的誤差值比較

由圖8可以表明，改進的算法進行預測的結果優于沒有改進的方法，且在日負荷預測中，人工神經網絡具有很明顯的優勢。

4 結論

對于變化快時間短的日負荷預測，人工神經網絡方法能夠依靠其人工神經網絡的訓練得到更加適合的算法。在神經網絡的方法中，通過選取不同的訓練函數，可以實現不同模型組合的非線性擬合，同時也提高了電力負荷預測的精度。利用Matlab 神經網絡工具箱編程，使網絡訓練程序比用其他語言編制的效率更高，訓練時間更短。算例結果表明基于Matlab 神經網絡工具箱的電力負荷組合預測模型簡潔、實用，并且具有較高精度。

[1] 康重慶,夏清,劉梅.電力系統負荷預測[M].北京:中國電力出版社,2007:4-22.

[2] 程浩忠.電力系統規劃[M].北京:中國電力出版社,2008:13-16.

[3] 劉雙,楊麗徙,王志剛,等.基于Matlab 神經網絡工具箱的電力負荷組合預測模型[J].電力自動化設備,2003,23(3):59-61.

[4] 張德豐.Matlab 神經網絡應用設計[M].北京:機械工業出版社.2009:215-217.