計及誤差修正的變分模態分解-長短期記憶神經網絡短期負荷預測

伍駿杰， 張倩， 陳凡， 李國麗

(1.安徽大學電氣工程及自動化學院， 合肥 230601； 2.安徽大學工業節電與電能質量控制協同創新中心， 合肥 230601;3.安徽大學教育部電能質量工程研究中心， 合肥 230601； 4.國網安徽省電力有限公司科學研究院， 合肥 230601；5.安徽大學工業節電與用電安全安徽省重點實驗室， 合肥 230601)

隨著各省負荷需求升高，電網公司負荷相應地增長，負荷增加的同時伴隨著電力負荷波動變大。精確地對負荷的變化趨勢進行預測，對電力系統規劃和制定發電計劃具有不可替代的作用，保障電力系統安全、穩定、可靠地運行[1-2]。

傳統的短期負荷預測方法通常分為數學統計法和基于機器學習的方法[3]。經典的數學統計法包括多元線性回歸法[4]、自回歸移動模型法[5]和指數平滑法[6]等。由于負荷序列的隨機性和非線性較強，而基于機器學習的人工智能算法學習能力強，如支持向量機(support vector machine，SVM)[7]、長短期記憶神經網絡(long short-term memory，LSTM)[8]和隨機森林(random forest，RF)[9]等在處理非線性數據上具有明顯優勢。然而，采用單一神經網絡所得預測結果的精度仍需提高，研究人員在此基礎上將多種神經網絡進行組合使用，結合不同神經網絡各自的特點最大程度發揮其優勢。文獻[10]采用LSTM和輕梯度提升機的組合預測模型。文獻[11]采用XGBoost(extreme gradient boosting)和LSTM的組合預測模型。結果均證明，相對單一算法有更好的預測性能。

隨著智能電網的持續發展，僅靠神經網絡算法的預測精度已經不滿足負荷預測的要求。負荷序列具有隨機性和周期性，兩者的消長是影響負荷預測精度的重要成因，為最大程度挖掘其中的聯系，研究人員傾向于對其先進行頻域分解來降低其非平穩性，主要方法包括小波變換(wavelet transform，WT)、變分模態分解(variational mode decomposition,VMD)和經驗模態分解(empirical mode decomposition，EMD)等[12-14]。通過先分解后預測的處理，能夠有效增強模型的預測性能。文獻[15-16]采用VMD算法先分解負荷序列，再使用神經網絡模型進行負荷預測，實驗結果證明VMD算法能有效降低負荷的非線性，增加模型的預測準確率。前期針對負荷序列分解后的各分量特征，選擇不同模型進行預測，將各分量預測結果疊加得到最終結果，實現了負荷預測精度提升[17]。

負荷中始終存在隨機因素，因此無法規避模型的預測結果存在誤差。通過分析模型的預測值和真實值之間的殘差，對殘差序列進行建模預測來修正負荷預測值是一種有效手段。在氣溫、風速、風電和光伏功率等多類預測領域內已證明其有效性[18-20]。文獻[21]利用SVR模型對歷史光伏功率殘差建模，通過預測殘差值來修正ARIMA的預測值。文獻[22]在使用隨機森林算法對電力負荷預測后，利用粗糙集理論克服預測結果峰值附近的誤差，有效減少預測值的誤差。

基于此，以安徽省某地區負荷為研究對象，基于“分解-預測-誤差修正”的思想構建短期負荷預測模型，以不同預測模型作為對比，為研究精確的短期負荷預測提供科學依據。

1 算法理論

1.1 VMD算法定理

VMD信號處理算法由Dragomireskiy等[23]于2014年首次提出。該算法可類比為維納濾波器組，具有自適應分解功能，可將非平穩的信號分解為多個具有中心頻率的有限帶寬的模態分量，有效降低了信號的非平穩性。

VMD的具體步驟即構造和求解變分問題。首先將負荷序列分解為多個模態分量，確保模態分量為具有中心頻率的有限帶寬分量，并且估計帶寬之和最小，所有模態分量之和等于初始信號，可表示為

(1)

式(1)中:{uk}={u1,u2,…,uK}為k個模態分量的集合；{ωk}={ω1,ω2,…,ωK}為各個模態對應的中心頻率；?t為解析信號的梯度；δ(t)為狄拉克函數；t為采樣時刻；f(t)為初始信號；e-jωkt為中心頻率ωk所對應指數項。

根據式(1)，同時使用二次懲罰項α和拉格朗日乘子λ，將約束問題非約束化，更新的拉格朗日函數表達式為

L({uk},{ωk},λ)=

(2)

式(2)采用乘數交替方向法進行求解，更新后的uk和ωk相應的表達式分別為

(3)

(4)

1.2 長短期記憶神經網絡

LSTM屬于循環神經網絡(recurrent neural network，RNN)的一種變體。相較傳統RNN的長期依賴問題，LSTM在RNN基礎上在每個細胞狀態中加入門來控制信息是否保留，改進了RNN無法長序列的問題。目前，LSTM在長序列的處理中得到普及。

LSTM的每個細胞共有遺忘門、輸入門和輸出門三部分，分別決定信息的過濾、保存和生成，完整結構如圖1所示。

Qt為LSTM結構單元的輸出門；yt為當前節點輸出圖1 LSTM結構單元Fig.1 Structure unit of LSTM

LSTM的工作步驟如下。

步驟1通過遺忘門確定分解后的各本征模態函數(intrinsic mode function，IMF)中需要濾除的信息部分。將當前輸入xt和上一時刻輸入ht-1通過sigmoid函數σ確定是否過濾。

ft=σ[Wf(ht-1,xt)+bf]

(5)

it=σ[Wi(ht-1,xt)+bi]

(6)

(7)

(8)

步驟3首先由sigmoid函數確定單元輸出部分，再將單元狀態 通過tanh和sigmoid門輸出部分相乘得到模型的預測值點。

(9)

ht=ottanhCt

(10)

1.3 支持向量回歸

SVR是一種求解回歸問題的高效機器學習算法，其本質為尋找最優超平面進行建模。對給定的預測誤差集(xn,yn)，使其所有樣本點與回歸曲線的“總偏差”最小。其中，xn為輸入負荷誤差值，yn為預測負荷誤差值。因此，SVR問題轉化為

(11)

對應約束條件為

式(12)中：ε為回歸偏差。

到底為什么會有屋面曲線的設計？因為歷史上沒有文字記載，大家都在議論與猜測，如果你有更科學的解釋，請記得告訴我呀！

2 組合預測模型

2.1 基于VMD-LSTM和SVR的短期負荷預測模型

所設計預測方法的流程圖如圖2所示。預測方法按照“分解-預測-修正”的思路，具體步驟如下。

步驟1選用VMD算法分解負荷歷史序列，獲得多條較平穩的子序列。

步驟2將各分量數據進行歸一化。歸一化后的數據輸入LSTM經過訓練和測試，得到各分量的預測分量。

步驟3合并各預測分量，重構為初始負荷預測值。

步驟4由實際值和初始負荷預測值得到殘差值，輸入SVR得到預測殘差值。

步驟5將預測殘差值補償至初始負荷預測值以進一步修正預測結果，獲得所需負荷預測值。

圖2 VMD-LSTM-SVR流程圖Fig.2 Flowchart of VMD-LSTM-SVR

2.2 模型性能評價指標

通過數據能夠直觀反映模型的性能。采用平均絕對百分比誤差(mean absolute percentage error，MAPE)，平均絕對誤差(mean absolute error，MAE)，均方根誤差(root mean squared error，RMSE)和模型擬合系數R2來評價。其中，MAE值，MAPE值越小和RMSE值越小，表示模型越完美，得到的預測值更趨近真實值；R2值越趨近1表示預測結果的擬合度越趨近真實值。其計算公式為

(13)

(14)

(15)

(16)

3 算例分析

3.1 負荷數據集

實驗選用安徽省某地區2020年3月1日—2020年3月8日的負荷樣本，采樣時間間隔為15 min，共計768個采樣點，前6 d為訓練集，后2 d為測試集。初始負荷數據集如圖3所示，可以看出每日負荷具有類似的變化趨勢，呈現一定的規律。

圖3 原始負荷序列Fig.3 Original load sequence

3.2 基于VMD-LSTM組合預測

選擇VMD算法對初始負荷分解，將其轉化為非平穩性的子序列，提高LSTM模型的預測準確率。VMD的模態分量個數K設置為5，初始中心頻率ω′=0，收斂準則容忍度γ=10-6，懲罰因子α=2 000。負荷序列分解結果如圖4所示。

根據上文的流程，對分解后的序列進行預測，分量預測結果之和即為初始預測值。在預測前，對分解后的負荷分量進行歸一化處理，加快神經網絡模型梯度下降法求解最優解的速度和防止訓練發散，歸一化方法可表示為

(17)

式(17)中：y*為歸一化后的值；yi為負荷的實際值；ymax和ymin分別為最大和最小負荷值點。

歸一化后的數據劃分為訓練集和測試集來構建LSTM負荷預測模型。LSTM的隱藏層數目影響模型的預測精度。隱藏層數多時，預測效果越好；層數少時，訓練時間相應較短。經過實驗證明，設置隱層數目為3層時，可保證訓練用時少的同時有較好的準確率。網絡訓練算法選擇ADMA算法，訓練輪數為150次，初始學習率設置為0.005，經過100次訓練后學習率通過乘以衰減因子0.2來降低。輸出層使用全連接層，輸出值反歸一化得到預測結果，如圖5所示。

圖4 經過VMD分解后各分量Fig.4 Components after VMD decomposition

由圖5可以看出，經過該模型預測后的結果有較好的擬合效果，而在清晨時段負荷持續上升和夜晚時段負荷持續下降階段處存在一定誤差，結果如表1所示。如圖6所示，VMD-LSTM所得預測結果與實際值的誤差序列含有較強的非線性。因此，考慮使用SVR模型預測誤差值來補償初始預測值。其中，SVR的核函數選擇能較好處理非線性序列的徑向基函數(radial basis function，RBF)，懲罰參數C取100。

圖5 VMD-LSTM預測結果Fig.5 Prediction results of VMD-LSTM

表1 負荷上升和下降處預測誤差Table 1 Prediction error at load rise and fall

圖6 VMD-LSTM的誤差值Fig.6 Error value of VMD-LSTM

3.3 基于SVR的誤差修正

誤差修正通常需要建立從屬預測器來預測誤差序列。將預測后的殘差序列與初始預測結果疊加，獲得修正后的預測結果。修正前后的負荷誤差絕對值針狀圖如圖7所示，可以看出，經過修正后，有約90%的負荷點的誤差絕對值減小，這表明SVR的誤差修正模型能夠提升整體負荷預測精度。

圖7 修正前后誤差絕對值Fig.7 Error value before and after correction

3.4 結果分析

為檢驗所提模型的實際效果，對相同的負荷數據分別采用反向傳播(back propagation，BP)神經網絡模型、LSTM神經網絡模型、VMD-LSTM模型進行對比。預測結果對比和預測評價指標分別如圖8、表2所示。

圖8 不同模型預測效果比較Fig.8 Comparison of prediction effects of different models

表2 不同模型的預測評價指標Table 2 Predictive evaluation indicators of different models

圖9 不同模型誤差指標比較Fig.9 Comparison of error indicators for different models

結合表2和圖9看出，BP神經網絡因其存在局部極小化問題，且網格結構選擇不一，預測結果對比LSTM神經網絡具有明顯的不足；同時，將序列進行分解-預測-重構操作后，預測結果的準確率有顯著提升，VMD-LSTM對比單一LSTM，RMSE值，MAPE值和MAE值分別降低了10%，11.51%和9.80%，數據擬合程度R2提高至98.30%，證明了變分模態分解能夠有效降低負荷序列的不穩定性，從歷史數據中提取信息，使LSTM模型有更好的負荷預測能力；本文方法在此基礎上加入誤差修正，數據顯示該方法能夠進一步增加預測準確率。其中，RMSE值，MAPE值和MAE值分別降低了29.1%、50%和49.5%，數據擬合程度R2提高至99.15%，證明了所設計模型在短期負荷預測中具有有效性。

4 結論

(1)VMD方法可以提取出隱藏在負荷序列中的周期性和規律性，有效提高下一步神經網絡的預測準確性。基于SVR的誤差修正部分可以進一步提高VMD-LSTM模型的預測準確性。

(2)通過安徽省某地區負荷作為實際案例進行計算，實驗結果證明，本文模型有效提高了預測效果。后續工作可著重于負荷分解后分量的特征進行研究，針對分量的特點選擇更適宜的深度學習模型，最大程度發揮頻域分解的作用。