VMD-LSTM算法在短期負荷預測中的應用

胡欣球， 馬立新

(上海理工大學 光電信息與計算機工程學院，上海 200093)

0 引言

短期電力負荷預測是在考慮節假日、溫度、濕度、歷史負荷等因素的基礎上預測未來一周之內的用電負荷。考慮到電能難以大量儲存以及發電機組啟停成本，為保持發電和用電之間的動態平衡，因此有必要進一步提高電力負荷預測的精度，并在此基礎上制定最優化的發電計劃,保證電力系統的經濟、可靠運行。

常用的電力系統負荷預測技術有回歸分析法，專家系統，極限學習機(Extreme Learning Machine,ELM)以及支持向量機(Support Vector Machines,SVM)等。回歸分析法用于具有明顯趨勢的負荷預測。文獻[1]結合自組織映射(Self-Organizing Maps,SOM)和ELM算法建立短期負荷預測模型，消除了負荷數據中的冗余特征。文獻[2]首先分析影響預測結果的特征，并建立了SVM模型，并通過實際算例驗證了該模型具有更好的泛化能力，但SVM在負荷數據量很大時，將耗費大量的內存空間和計算時間。文獻[3]使用粒子群(Particle Swarm Optimization,PSO)進行相似日提取，提出了一種組合預測方法[4-5]。

為分離負荷數據中的信號和噪聲，提高預測模型的精度，本文首先采用變分模態分解[6]技術將歷史負荷數據分解成若干個本征模態分量，使其頻率帶寬之和最小化。然后利用深度學習神經網絡LSTM分別對分解出的模態分量建模，LSTM神經網絡由于具有記憶單元，相比于傳統的循環神經網絡(Recurrent Neural Networks，RNN)可以提取出更長的時間尺度上數據之間的關聯性，解決了RNN所存在的梯度消失的問題，在處理時間序列預測問題上能獲得更高的精度。因此本文基于VMD-LSTM算法建立了短期負荷預測模型，并通過算例驗證了本文模型的有效性。

1 VMD基本原理

VMD是一種受經驗模態分解(Empirical Mode Decomposition, EMD)啟發的非平穩信號分解方法，可以從時間序列信號中提取出信號固有的幾種模態分量。

平穩信號指的是信號的均值、方差隨著時間的推移波動較小，從已有的信號中可以推測出未來的信號均值、方差與已有的樣本均值方差相同。EMD方法可以將任意類型的時序信號自適應分解成多個頻率不同的模態函數(Intrinsic Mode Function，IMF)，若對負荷信號進行分解可以得到日常生活中不同時間的用電習慣。

與EMD不同的是，VMD使用變分模型確定相關頻帶并提取出相應的模態分量，具有更好的抗噪聲能力和理論基礎[7-9]。若原始信號為非平穩信號，變分模型從中提取出k個模態分量，使其頻率帶寬之和最小化，約束是使得每個模態分量之和等于給定信號。目標函數如下所示：

(1)

式中：{μk}={μ1,μ2,…,μk}為分解之后的各個模態分量；{ωk}={ω1,ω2,…，ωk}是分解得到的各個模態函數對應的中心頻率；δ(t)是沖擊函數；約束中的f是原始信號。

為了在上述約束條件下尋找目標函數全局最優解，首先采用二階范數懲罰因子α和拉格朗日乘子λ(t)來構造出增廣拉格朗日函數，然后使用交替方向乘子法迭代尋找全局最優解。增廣拉格朗日函數如下所示：

L({μk},{ωk},λ)=

(2)

(3)

根據傅里葉變換可得到每種模態分量的極小值：

(4)

采用相同的方法，解得中心頻率的極小值：

(5)

2 長短時記憶神經網絡

循環神經網絡(Recurrent Neural Networks,RNNs)是一種深度學習神經網絡，不同于傳統的FNNs(Feed-forward Neural Networks，前向反饋神經網絡)，RNNs結構中引入定向循環，能夠提取序列數據中的關聯信息，并且由于處理序列數據的優越性而廣泛應用于自然語言處理等領域，但是如果樣本之間存在長期依賴，會出現梯度消失問題，LSTM是針對此問題的一種改進型神經網絡。LSTM 神經網絡由Hochreiter 等[10]提出，并由Graves 進行改進[11]。LSTM神經元結構中有3個門，分別是輸入門(input gate),輸出門(output gate)和遺忘門(fotget gate)，用于從歷史數據中篩選出有用的信息，神經元內部結構如圖1所示。

圖1 LSTM神經元結構

在圖1所示LSTM神經元結構中，令x=[x1,x2,x3,…,xT]為輸入時序信號，xt為t時刻神經元的輸入。令y=[y1,y2,y3,…,yT]為對應的輸出目標，yt為t時刻的輸出。令c=[c1,c2,c3,…,cT]表示神經元的狀態信息，ct為t時刻神經元的狀態矩陣。則LSTM記憶單元計算過程可表示如下：

it=sig(wi·[yt-1,ct-1,xt]+bi)

(6)

ft=sig(wf·[yt-1,ct-1,xt]+bf)

(7)

ot=sig(wo·[yt-1,ct-1,xt]+bo)

(8)

μt=sig(wμ·[yt-1,ct-1,xt]+bμ)

(9)

式中：wi，wf，wo和wμ分別表示神經元結構中的輸入門，遺忘門，輸出門和神經元狀態矩陣；bi，bf，bo和bμ表示對應的偏置常量；sig表示sigmoid函數。

根據以上公式可得神經元狀態ct和輸出yt的表達式如下：

ct=ft?ct-1+it?μt

(10)

yt=ot?tanh(ct)

(11)

其中?表示矩陣點乘。

3 仿真實驗

3.1 VMD-LSTM模型流程圖

VMD-LSTM模型結構如圖2所示。

圖2 VMD-LSTM流程圖

(1) 利用VMD技術將輸入負荷分解成4個不同頻率的本征模態分量。

(2) 對分解出的每個模態的負荷數據進行歸一化處理。

(3) 針對每個模態分量分別建立LSTM模型，以當前時間之前168 h負荷序列為模型輸入，預測未來24 h的負荷值。

(4) 結合每個模型的輸出，重構預測結果。

3.2 VMD分解結果

本文采用某電網2014年實際負荷數據作為樣本，負荷數據采樣相隔為1 h。利用VMD分解的4個模態分量部分結果如圖3所示。

觀察圖3可以發現，模態分量U1、U2、U3的平均周期分別為6.02 h，12.00 h，24.07 h。分別代表人們生活中不同的用電習慣，U4模態分量反映負荷以周為單位的變化趨勢。

圖3 VMD分解結果

3.3 數據預處理

由于影響負荷的各個特征具有不同的量綱，若直接將各個特征值直接輸入模型進行訓練，會造成較大的誤差，因此需要去除各個特征之間的量綱。常見的作法是歸一化處理，即把輸入數據歸一化到(0，1)范圍內。歸一化方法如下：

(12)

式中：x′為歸一化之后的數據；x為樣本數據；xmax和xmin分別是該特征的最大值和最小值。

3.4 算例分析

本文以某電網2014年1月1日1時到12月7日24時實際負荷為樣本，分別建立SVM，LSTM以及VMD-LSTM預測模型，對2014年12月8日1時到2014年12月14日24時的負荷做出提前預測。評價指標采用平均絕對百分比誤差(Mean Absolute Percentage Error, MAPE)，計算公式如下：

(13)

訓練集誤差如圖4所示。

圖4 各模態分量預測誤差曲線

圖4中U1、U2、U3、U4分別代表VMD分解所得的4個模態分量，分別建立LSTM預測模型在訓練集上的誤差。

12月8日預測結果如圖5所示。

圖5 不同模型預測曲線

12月8日至12月14日預測結果如表1所示。

為驗證模型的有效性，以12月8日至12月14日一周的負荷為樣本，對其進行提前24 h預測，3種模型的預測結果如表1所示。其中SVM預測模型的平均預測精度為96.90%，LSTM的平均預測精度為97.54%，而VMD-LSTM模型平均精度為98.62%，最大誤差為1.63%。結果表明，LSTM神經網絡相比于SVM預測精度提高了1.72%，相比于LSTM模型精度提高了1.08%。因此LSTM能從歷史負荷序列中提取更多的有效信息，再經過VMD分解并分別對每個模態進行建模，預測精度進一步提高。

表1 負荷預測誤差對比

4 結論

為進一步提高負荷預測精度，本文基于LSTM神經網絡的短期負荷預測模型，并且結合VMD技術對負荷序列進行分解得到不同的用電模式，更細致地分析日常生活中的用電周期性。同時將預測結果與未結合VMD分解的模型以及SVM預測模型相比，具有更高的預測精度。仿真結果表明，該預測模型具有顯著的理論意義與實際價值。

參考文獻：

[1]馬立新,尹晶晶,鄭曉棟.SOM特征提取與ELM在電力負荷預測中的應用[J].電力科學與工程,2015,31(5):1-5.

[2]謝宏,魏江平,劉鶴立.短期負荷預測中支持向量機模型的參數選取和優化方法[J].中國電機工程學報,2006,26(22):17-22.

[3]羅勇,鄭金,寧美鳳.基于相似日搜索的PSO-WNN組合模型在短期電力負荷預測中的應用[J].信息與控制,2013,42(3):371-376.

[4]李野，康重慶，陳新宇．綜合預測模型及其單一預測方法的聯合參數自適應優化[J]．電力系統自動化，2010，34(22)：36-40．

[5]牛東曉，魏亞楠．基于FHNN 相似日聚類自適應權重的短期電力負荷組合預測[J]．電力系統自動化，2013，37(3)：54-57．

[6]DRAGOMIRETSKIY K, ZOSSO D. Variational mode decomposition[M]. IEEE, 2014.

[7]唐衍,顧潔,張宇俊,等.基于EMD理論的短期負荷預測[J].電力需求側管理,2011,13(1):15-19.

[8]湯慶峰,劉念,張建華,等.基于EMD-KELM-EKF與參數優選的用戶側微電網短期負荷預測方法[J].電網技術,2014,38(10):2691-2699.

[9]DRAGOMIRETSKIY K, ZOSSO D. Variational mode decomposition[J]．IEEE Transactions on Signal Processing，2013，62(3)：531-544．

[10]湯慶峰, 劉念, 張建華,等. 基于EMD-KELM-EKF與參數優選的用戶側微電網短期負荷預測方法[J]. 電網技術, 2014, 38(10):2691-2699.

[11]陳艷平, 毛弋, 陳萍,等. 基于EEMD-樣本熵和Elman神經網絡的短期電力負荷預測[J]. 電力系統及其自動化學報, 2016, 28(3):59-64.