結合前饋神經(jīng)網(wǎng)絡和裝袋算法的電力日負荷預測

肖琦敏， 陳銳， 陳爽

(國網(wǎng)福建省電力有限公司 信息通信分公司， 福建 福州 350001)

0 引言

隨著電力市場的日益發(fā)展，電力負荷的低估或高估都會給電力系統(tǒng)帶來巨大挑戰(zhàn)，影響電力系統(tǒng)運行的穩(wěn)定性和可靠性，所以精準負荷預測能夠有利于電網(wǎng)的決策調度，具有重要的現(xiàn)實意義。

隨著現(xiàn)代智能用電技術的不斷進步，負荷預測理論和技術得到快速發(fā)展，研究方法及手段也越來越多樣。如果以預測時區(qū)作為分類依據(jù)，可以將負荷預測分為超短期、短期、中期、長期四類[1]，研究中多側重于短期負荷預測[2]。但目前已有的算法仍存在局限性。神經(jīng)網(wǎng)絡算法存在著網(wǎng)絡構建問題、過度擬合問題和訓練樣本數(shù)據(jù)量大問題，這些問題使得神經(jīng)網(wǎng)絡算法難以實現(xiàn)短期負荷的精準預測。回歸分析方法是在統(tǒng)計平均意義下定量描述所觀察變量間的關系，往往對數(shù)據(jù)量有所限制。

在以上文獻的研究基礎上，從研究96點日負荷序列出發(fā)，提出一種結合前饋神經(jīng)網(wǎng)絡和裝袋混合算法的日負荷預測模型。利用前饋神經(jīng)網(wǎng)絡計算成本函數(shù)及誤差，并基于梯度下降法更新權重及偏差，最后將日負荷序列預測結果疊加得出最終預測值。

1 前饋神經(jīng)網(wǎng)絡

前饋神經(jīng)網(wǎng)絡(Feedforward neural networks)是一種從信息處理的角度將神經(jīng)元進行相互聯(lián)接的人工智能運算模型，是人工神經(jīng)網(wǎng)絡的一類。神經(jīng)網(wǎng)絡由輸入層、隱藏層和輸出層三部分組成，隱藏層選擇考慮權重和偏差的Sigmoid激活函數(shù),如式(1)。

(1)

定義特征向量輸入層為x，第l層(總計L層)第i個神經(jīng)元的輸出函數(shù),如式(2)。

(2)

wlj,k為權重矩陣Wl的矩陣元素，權重矩陣,如式(3)。

(3)

第L層第j個神經(jīng)元的輸出函數(shù),如式(4)。

(4)

式中，f′(x)為關于x的線性函數(shù)。

輸出函數(shù)plj構成的行向量,如式(5)。

(5)

偏差函數(shù)qlj構成的行向量,如式(6)。

(6)

神經(jīng)網(wǎng)絡由三層組成，其中輸入層神經(jīng)元選擇Sigmoid函數(shù)，輸出層神經(jīng)元節(jié)點選擇線性函數(shù)，這樣就能夠解決訓練那些有限數(shù)量但不連續(xù)的樣本函數(shù)。

利用最小化樣本函數(shù)來確定偏差和權重，如式(7)。

(7)

式中，yt為t時刻所需要求得的負荷向量，pLt為L層t時刻輸出函數(shù)向量。

采用隨機梯度下降算法對代價函數(shù)進行最小化，權重矩陣更新函數(shù),如式(8)。

(8)

偏差矩陣更新函數(shù),如式(9)。

(9)

2 裝袋算法

裝袋算法是一種將多個弱學習器集成為一種強集合學習器的提高機器性能的學習算法[3]，可以提高弱學習算法的準確率。裝袋算法的思想是通過多輪訓練數(shù)據(jù)樣本，每輪訓練過程中通過自助(Boot strap)方式提取N個訓練樣本，得到新的預測函數(shù)序列，每次完成D次訓練得到D個預測函數(shù)，通過得到的預測函數(shù)序列對預測樣本進行預測[4]。文獻[5]采用等權重平均值法來獲取預測結果，并表明該算法類似于求解預測樣本的平均值，可以有效地減少過度擬合。若當訓練樣本之間存在差異時，裝袋算法就顯得更有效，因為如果每個樣本的輸出極度相似，那么對平均值的影響就非常小[6]。其具體算法流程,如圖1所示。

設定初始樣本數(shù)據(jù)集,如式(10)。

(10)

確定訓練樣本的神經(jīng)網(wǎng)絡模型數(shù)量D，同時確定每個神

圖1 裝袋算法流程圖

經(jīng)網(wǎng)絡的子訓練樣本集合數(shù)n。

針對每個神經(jīng)網(wǎng)絡通過bootstrap自助方式重新抽取n個子訓練樣本集,如式(11)。

(11)

設定樣本測試數(shù)據(jù)集,如式(12)。

(12)

最小化代價函數(shù),如式(13)。

(13)

預測估計值,如式(14)。

(14)

那么，式(13)可變形，如式(15)。

(15)

3 結合前饋神經(jīng)網(wǎng)絡和裝袋算法的模型預測

通過裝袋算法進行訓練初始負荷樣本，則需要大量的自助引導時間。僅通過前饋神經(jīng)網(wǎng)絡算法進行預測也存在著參數(shù)選擇困難、變量選擇不明顯和過擬合問題[7]。其具體過程如下：

(1) 定義迭代總次數(shù)=不同神經(jīng)網(wǎng)絡總模型數(shù)量=引導帶的樣本數(shù)量H。

(2) 在迭代n次時，構造一個自助樣本

根據(jù)訓練樣本的經(jīng)驗分布，隨機抽樣并替換為

(3) 通過計算求出引導預測估計值

(4) 定義神經(jīng)網(wǎng)絡的總層數(shù)L，第一層的輸入函數(shù)定義為

對于接下來的第l=2，3，…，L層，按下式計算

zxl=Wlpx(l-1)+ql

式中，px(l-1)為f(zx(l-1))。

(5) 計算成本函數(shù)

?pCx=pl-y

(6) 計算輸出誤差向量

δxL=?pCx⊙f′(zxL)

(7) 從L層開始逐層反向傳輸計算誤差

δxL=((Wl+1)δx(l+1))⊙f′(zxl)

式中，l=L-1，L-2，…，2。

采用梯度下降法，對(6)中的l層利用權重更新公式進行計算

偏差更新式

(8) 若訓練停止，則神經(jīng)網(wǎng)絡的預測輸出值為

(9) 經(jīng)過上述步驟1～8，所提混合算法最終的預測日負荷值為

對于自助引導迭代次數(shù)n∈1，2，…，D。D選擇通常在50范圍上下浮動，具體數(shù)值與所預測的樣本大小和計算成本具有直接關系[5-7]，預測值定義，如式(16)。

(16)

4 實驗結果分析

實驗數(shù)據(jù)來自中國東部某地區(qū)2015年8月份共31天的負荷信息。為衡量預測模型的準確程度，引入平均絕對百分比誤差指標進行分析。

相對誤差百分比,如式(17)。

(17)

平均絕對百分比誤差,如式(18)。

(18)

實驗一：樣本數(shù)量與迭代次數(shù)的關系

以該地區(qū)歷史負荷數(shù)據(jù)為基礎，其不同算法的MAPE對比結果,如圖2所示。

圖2 樣本數(shù)量與迭代次數(shù)性能對比圖

由圖可知，隨著迭代次數(shù)的增大，系統(tǒng)的MAPE值有逐漸減少的趨勢，系統(tǒng)的性能通常會提高。從整體可以看出，若保證系統(tǒng)更高的性能，樣本容量越小，就需要更多的迭代次數(shù)，然而迭代值和樣本值的具體關系還是不明確的，存在著種種特殊性。但是當?shù)螖?shù)在50次以上時，MAPE的結果隨著樣本數(shù)量的增加呈遞減趨勢。

實驗二：不同算法間的預測精度

以該月份15日的日負荷數(shù)據(jù)為例進行不同算法間的預測，各算法的日負荷預測分布圖，如圖3所示。

圖3 日負荷預測分布圖

為明確研究各算法的精確程度，下面通過誤差指標式(17)的e來衡量。不同算法的相對百分比誤差分布關系圖及誤差棒，如圖4所示。

圖4 相對誤差百分比對照圖

從圖4中可知，所提出的FNN-Bagging算法的e最低，誤差線最短，整體預測數(shù)據(jù)準確性更高、變異程度更低。從當日96點負荷的最低e出現(xiàn)的次數(shù)來看，F(xiàn)NN-Bagging算法占總數(shù)的61.45%。就整體日負荷分布情況來看，負荷曲線呈現(xiàn)中間低，兩頭更低的趨勢，用電峰值集中在上午44點、傍晚68點、晚上80點負荷附近，初步可以判斷該負荷為居民用電負荷，判斷依據(jù)是用電峰值多集中在居民用餐時間前夕，家用電器設備的大量使用是負荷增加的主要原因。在48點到52點之間出現(xiàn)短暫的負荷下降，有可能是一部分居民在午間休息。在88點到96點及0點到6點日負荷值均相對較低，該時間段為大部分居民的睡眠時間。

實驗三：不同時間段的預測精度

日負荷在不同時間段的特性能夠反映該地區(qū)的用電特征，現(xiàn)以表格的方式進行分類，如表1所示。

表1 時間段的日負荷分類表

各算法的MAPE對照圖，如圖5所示。

由圖5可知，上午的綜合MAPE值最高，預測效果最不理想，下午和傍晚的綜合MAPE值較低，預測效果較好。FNN-Bagging算法每個時間段的MAPE值均低于0.8%，而SVM算法的MAPE平均值為1.73%，其他算法的值就更高了，明顯看出，F(xiàn)NN-Bagging算法具有更好的預測效果。

圖5 不同算法間MAPE對照圖

為分析算法間MAPE的準確性，各算法MAPE的誤差棒分布，如圖6所示。

圖6 算法間的MAPE誤差棒對照圖

由圖6可以看出，F(xiàn)NN算法在下午的MAPE值最低，下午和傍晚的誤差線較短。PSO算法在晚上的MAPE值和誤差線均最小。SVM在凌晨和早上具有更好的預測精度。FNN-Bagging在晚上的MAPE值和誤差線最低，整體的均值標準差為0.221 7%，且均低于同一時間段的其他算法。

5 總結

本研究利用裝袋算法可以將弱預測模型通過自助方式訓練成強預測模型序列，F(xiàn)NN-Bagging算法可以在訓練樣本過程中并行計算，能夠有效地減少訓練樣本和運行過程所需的時間。迭代次數(shù)在50次以上時，樣本數(shù)量越高,系統(tǒng)預測性能越好。其中FNN-Bagging模型算法的MAPE誤差指標值在不同時間段均較小，具有更好的預測精度。