基于變分模態分解和深度學習的短期電力負荷預測模型

陽曾，丁施尹，葉萌，李晶，薛書倩，吳昊天

(1.廣東電網有限責任公司廣州供電局電力調度控制中心，廣州 510000； 2.北京清軟創新科技股份有限公司，北京 100085； 3.華北電力大學，北京 102206)

0 引 言

負荷預測是制定電力供應計劃和電網電量供需平衡的關鍵挑戰之一，它是電力市場運營的基礎工作和電力規劃中不可或缺的組成部分[1]。電力系統負荷預測可根據預測的時間長短分為超短期、短期、中期和長期預測[2]。其中，短期負荷預測是電力日常調度工作中重要的一項內容，同時是能量管理系統的重要組成部分。提高短期負荷預測的準確性，有助于提高電力設備的利用率，降低能耗，緩解能源的供應端和需求端兩者之間的不平衡[3-4]。

現階段，圍繞負荷序的時序性和非線性特點，短期負荷預測方法層出不窮，有多元線性回歸法[5]，其優點在于結構形式簡單，預測速度快，但描述較復雜的問題時，精度較低；卡爾曼濾波法[6]，該算法能很好的解決數據中的噪聲問題，但這樣也會造成變化較大的負荷也被篩選出去,對預測結果造成一定的影響；灰色理論法[7]，該方法所需數據量少，計算方便，但未考慮到相關因素之間的聯系，故誤差偏大；支持向量機[8]，其泛化能力好，預測精度較高，預測但運算時間太長，難以預測大規模數據；隨機森林法[9]，可以處理高維數據，其泛化誤差小，但對于噪聲較大的數據，易出現過擬合現象；以及應用較為廣泛的神經網絡法[10-11]等。隨著深度學習的興起與發展，多種深度學習神經網絡逐漸應用于負荷預測領域。文[11]利用LSTM網絡預測負荷功率, 在淺神經網絡中，只能改變單隱層神經元的數量，而在LSTM網絡中，寬度和深度都可以改變，它通過預訓練方式緩解了傳統網絡局部最優點問題。

對于隨機性、波動性較強負荷序列而言，單一預測方法難以得到理想的預測精度。目前，各種組合預測方法廣泛應用在短期負荷預測領域，以EMD[12]為主的分解方法能有效的實現原始負荷序列的分解，實現平穩序列和非平穩序列互相分離的目的，然后再結合預測方法對各個IMF分別進行預測。但是，EMD分解方法難以避免模態混疊現象產生，得到的虛假IMF，會對預測精度產生不利影響。文[13]采用VMD將負荷數據分解為特征互異的模態函數，避免了模態混疊現象發生，提升了信號的分析效果。

基于以上研究工作，文中以某地區負荷數據為研究對象，對負荷序列進行VMD分解，獲得多個特征互異的子序列，并分別結合LSTM網絡進行預測，將多個預測結果疊加后得到最終的預測結果。與單一LSTM和EMD-LSTM方法預測結果相比，驗證了所提方法可有效挖掘負荷序列潛在特征，從而提升預測精度。

1 VMD算法原理

2014年Konstantin Dragomiretskiy提出一種新型的VMD估計方法，用于非平穩信號的自適應分解，可將復雜的信號分解成K個調頻調幅的子信號[14]。它本質上是一個自適應維納濾波器組，可以有效地將測試信號分解成一組有限帶寬的中心頻率。不同于EMD和EEMD方法，VMD方法采用了非遞歸及變分模態求解模式處理原始信號，具有較好的抗噪聲性能和非平穩性能信號處理效果。

VMD的目的是將多分量信號分解為帶寬上具有特定稀疏性的有限帶寬模式的集合；相反，這些分解的模式也能夠重構輸入信號。求解約束變分優化問題：

(1)

式中uk(t)為輸入信號的模態函數；{uk}表示模態集合{u1,u2, ……,uk}；wk是對應于輸入信號的第k階模態的中心頻率；{wk}表示分解后的模態對應的一組中心頻率{w1,w2, ……,wk}；f(t)是輸入信號；δ(t)是單位脈沖函數。

將拉格朗日乘子λ和二次懲罰因子α引入，可以將式(1)改寫為：

(2)

使用乘法算法的交替方向法求解(2)，獲得一組模態分量及其各自的中心頻率。每個模態可由頻域中的解估算出來，表示為：

(3)

在式(3)中具有維納濾波結構的特點，它直接更新了傅立葉域中的模態。此外，還可以通過提取濾波分析信號傅里葉逆變換的實部，在時域內得到這些模態。

(4)

2 LSTM神經網絡結構

傳統的神經網絡在處理分類以及回歸問題時難以避免會陷入局部最優點，而深度學習神經網絡通過預訓練方式緩解了這個問題[15]。LSTM網絡源自于循環神經網絡的一種，而后者在每個時刻都對應著一個輸出，同時結合其當前時刻的狀態得到對應的輸出。當前的狀態是根據上一時刻的狀態以及此刻的輸入共同作用來決定的，通過這種結構比較適合解決與時間序列有關的問題。但是，如果時間序列過長會導致當前時刻節點對歷史時刻節點的感知能力不足，從而出現梯度消失的問題。而且當前時刻預測和當前時刻所需信的息之間的跨度長短不一致，這種長期依賴的問題是傳統的循環神經網絡所不能解決的。

LSTM網絡對經典循環神經網絡做了改進，通過引入“遺忘門”，讓信息有選擇性地影響RNN中每個時刻的狀態。計算節點由輸入門、輸出門、遺忘門和cell組成[16]，LSTM的計算節點圖見圖1。

圖1 LSTM模型結構Fig.1 LSTM model structure

在圖1中，cell為計算節點的核心，記錄著當前時刻的狀態；控制信息的輸入和輸出則分別由輸入門、輸出門操控；而遺忘門則控制著細胞歷史時刻狀態信息的儲存。遺忘門的輸出值始終保持在[0, 1]之間，這得益于門利用的sigmoid激活函數，輸出值為0，將上一狀態的信息全部丟棄，輸出值為1，上一狀態的信息則全部保存。如式(5)所示：

ft=σ(Wf·[ht-1,xt]+bf)

(5)

式中Wf是遺忘門的權重矩陣；bf是偏置項；[ht-1,xt]是遺忘門的輸入向量；σ是sigmoid函數。

“輸入門”負責新狀態的補充，根據xt，ht-1來判斷ct-1狀態中的哪些部分應當寫入當前時刻狀態ct中去，如下：

it=σ(Wi·[ht-1,xt]+bi)

(6)

式中Wi是輸入門的權重矩陣；bi是輸入門的偏置項。

同時，新狀態的候選值c*t由tanh函數產生，c*t可能會加入到新狀態中，如下：

(7)

那么當前時刻的狀態ct就是由上一時刻的狀態ct-1乘以遺忘門ft，再用新狀態候選值c*t乘以輸入門it，再將兩個乘積求和，有：

(8)

類似地，輸出門表示如式(9)所示：

ot=σ(Wo·[ht-1,xt]+bo)

(9)

式中Wo是輸入門的權重矩陣；bo是輸入門的偏置項。而LSTM最終的輸出ht是由輸出門與單元狀態共同決定的。

ht=ot·tanh(ct)

(10)

在網絡傳播的過程中，ot并不是唯一起作用的，ht才是LSTM網絡的特殊之處，它是根據三個門新增加的，有效解決了梯度消失的問題。

3 VMD-LSTM模型的短期負荷預測

電力負荷基于用戶習慣性消費信息，受人類活動、氣象條件、社會經濟和政治因素等不同程度的影響表現出一定的波動性、隨機性的特點。然而，人類生活生產活動有一定的規律性，因此，負荷也具有較強的周期特性。負荷序列本質上具有不穩性，為精細研究分析負荷序列特點，采用VMD方法對原始負荷序列進行分解，得到一系列有利于預測的負荷分量。由于深度學習算法具有多層次內部結構和重復學習特征的訓練方式的特點，所以能更好地應對負荷預測問題，所以將各個負荷分量結合LSTM網絡進行訓練預測，疊加每個分量預測結果，進而得到了VMD-LSTM模型的最終預測結果，模型框圖如圖2所示。

圖2 負荷預測模型Fig.2 Load forecasting model

圖2中給出了VMD的參數設置[14]：通過反復實驗測試，模態函數個數K=5；二次懲罰因子α=1 000；收斂判據r=10-6。起始中心頻率w=0。LSTM網絡參數調試，通過調節LSTM網絡中的堆疊層數、隱含層神經元個數、Dropout參數以及每批處理樣本數量來提升網絡的預測的性能。

(1)堆疊層數(Sk)和隱含層神經元個數(Hd)

堆疊層數及隱含層神經元個數的選取對負荷預測精度有著顯著的影響，以日周期分量數據為測試對象，計算了當堆疊層數分別為1層～3層，隱含層神經元個數分別為5、20、50、100個時訓練集和測試集的MAPE，結果見表1所示。

表1 訓練集及測試集的測試結果Tab.1 Test results of training set and test set

從表1中，可以看出當網絡堆疊層數為2，隱含層神經元個數為50時訓練集和測試集的MAPE最小，故以此網絡參數進行后續的短期負荷預測仿真實驗。

(2)dropout參數

dropout參數的設置可以有效抑制神經網絡訓練的過擬合。dropout的原理是在模型訓練時，以一定的概率讓某個神經元失活。目前學術界對dropout的取值方法并無定論，具體到本文模型，采用遍歷的方法，通過計算平均準確度(mean Accuracy, mAcc)選取最優值，如式(11)所示:

(11)

本文嘗試了10種不同的dropout比例，實驗結果如圖3所示，當dropout參數從0.5增大至0.95，mAcc呈現了先增加后減小的變化趨勢，在dropout取0.65時mAcc獲得最大值95.83%。

圖3 不同dropout參數下負荷預測mAccFig.3 mAcc of load forecasting with different dropout parameters

(3)每批處理樣本數量(batch)

在LSTM網絡中每批處理樣本數量如果值太小，則很容易不收斂；如果取值過大，容易陷入局部最優解。本文選取的方法是以128為分界線，向上乘2，向下乘0.5，訓練后比較測試結果，測試結果顯示向下更好，向下繼續乘0.5，直到結果不再提升為止，最終測試結果該參數值取16。

4 實驗分析

實驗采用某地區2019-06-16至2019-06-30之間的負荷數據，采樣間隔15 min，共計采樣點1 440個，以前面12天的數據作為訓練樣本，后面3天的數據作為測試樣本。原始數據集分別由EMD和VMD方法進行分解，原始負荷序列及分解結果分別見圖4～圖6。

圖4 原始負荷序列Fig.4 Original load sequence

圖5 EMD分解結果Fig.5 EMD decomposition results

圖6 VMD分解結果Fig.6 VMD decomposition results

從圖4中可以看出，原始負荷序列的波動性較強，從圖5和圖6的分解結果可以看出，由EMD分解方法的模態分量多達8個，而VMD分解出來的模態分量只有5個，這大大減少了預測的計算規模；高頻分量不以利于預測，可以看出VMD分解出來的高頻分量幅值占比更少，有利于減少預測誤差；中低頻部分VMD分解的分量的規律性則明顯比EMD分解的分量規律性要強；兩者分解出來的低頻部分都較為平緩，可以看出VMD分解出的低頻分量更接近原始負荷序列的波動趨勢。因此，從兩者分解結果來看VMD方法更有利于后續建模預測。

接著根據上一節LSTM網絡測試的參數，利用LSTM網絡分別對原始負荷數據、EMD及VMD分解的分量序列進行預測，并分別疊加后兩種方法的預測結果，得到EMD-LSTM方法和VMD-LSTM方法的最終預測結果。圖7中給出了三種方法的預測結果曲線。

圖7 三種方法的預測結果比較Fig.7 Comparison of prediction results of the three methods

科學和全面的指標在對各種負荷預測模型的篩選和糾正中發揮著重要作用。目前評價負荷預測結果的指標眾多，通常是采用平均絕對百分誤差(Mean Absolute Percentage Error, MAPE)來評估模型優劣，采用均方根誤差(Root Mean Square Error, RMSE)來反映預測的精密度，兩者數值越小，模型的預測效果越好[17-19]。三種方法的誤差統計結果見表2。

(12)

(13)

式中各符號的意義同式(11)。

圖7中的放大區域中可以看出單一采用LSTM方法在負荷峰谷值部分預測誤差很大，而VMD-LSTM方法略優于EMD-LSTM方法，預測結果比較理想。在表2中，從預測日的平均值角度分析，VMD-LSTM方法的具有最好的預測精度，MAPE為0.62%，RMSE為7.91 MW，驗證了該方法具有較好的預測性能。

表2 三種方法的誤差統計結果Tab.2 Error statistics results of the three methods

5 結束語

文章提出了一種基于VMD-LSTM的短期負荷預測方法。實驗驗證，在波動性較強的負荷序列中，VMD可有效提取其內在具有緊支撐傅里葉頻譜特性的負荷分量。對比EMD方法，VMD方法具有可手動調節模態分量個數的優勢，進而可減少預測的計算規模。同時，考慮到LSTM具有預訓練方式的特點，可有效緩解傳統神經網絡易陷入局部最優點問題，可為高精度預測結果提供強力保障。對比LSTM和EMD-LSTM方法，突顯了本文方法優越的預測性能，為研究短期負荷預測提供一定的參考意義。

在后續的研究中，可以考慮在輸入數據中加入影響負荷變化的特征，比如氣象條件、經濟因素等；可考慮結合優化算法，對LSTM的權值和閾值進行逐層優化，以達到提升預測精度的目的。