短期電力負荷預測算法中LSTM網絡改進與優化探究

摘 要： 在短期電力負荷預測算法中，對LSTM網絡加以改進和優化，基于已有的LSTM神經網絡，利用強化學習理念，借助簡單化的Inception網絡結構，搭建起隱藏狀態矩陣，從而達到LSTM網絡的優化與改進，對應搭建起短期電力負荷預測模型，經過數據對比得出，經過優化的LSTM網絡模型能更高效地獲取依賴信息，可以確保短期負荷預測的精準。

關鍵詞：短期電力負荷;預測算法;LSTM網絡;改進;優化

0 前言

電力負荷預測應開發高質量的負荷預測數據模型，借助此模型能充分地輔助各種網絡系統，隨著現代信息科技的發展，負荷預測已經從傳統的單一預測法轉向灰色預測、人工神經網絡以及LSTM模糊預測方向發展，此研究則以組合預測法為參照，以強化學習的方式來優化、改進LSTM算法，深入剖析了LSTM改進方式以及成效。

1 LSTM網絡內涵與特征

LSTM為建立在RNN基礎上的優化模型，憑借引進門與單元的理念來化解遠距離傳輸的問題，此網絡有著超強的環境適應能力，可以妥善地適應各種條件、各種環境，其單元結構圖如下圖1所示。

各個神經單元內部都包括：遺忘門、輸入門、輸出門幾個門控結構，用來控制數據的出入，不同的門控結構發揮不同的功能，遺忘門主要肩負著丟棄、保留前一刻的有效數據于CtCt內，輸入門則負責把目前每一刻的有效數據存儲于Ct中，輸出門決定了神經單元輸出中Ct的信息。

不同于傳統的神經網絡算法，LSTM網絡實際運用中體現出超強的自適應學習能力，針對于一些復雜的樣本數據，此網絡也體現出超強的擬合效果。此網絡借助門控結構能高效地控制因為時間增加所造成的梯度消失的問題。同時，因為選擇了三個輸入值、兩個輸入值的當前時刻的記憶模塊，使得這一模型實際運用中體現出超強的泛化能力。

然而，事實證明，LSTM網絡現實的運用中體現出多種問題和不足，最顯著的問題為：LSTM網絡主要依賴于梯度下降法來實現權重更新，從而使得模型的收斂速度偏慢，進而導致梯度發散的現象，從而導致系統更可能走向局部極小值，同時，沒有更為合適的辦法來確定模型的隱含層節點的各項參數，例如：節點數目、學習率以及迭代系數等。

2 預測模型的設計與優化

建立在強化學習的LSTM模型結構采取如下圖2所示的設計圖。

第一層：輸入層。主要把歷史負荷數據，從x1，x2---xt都全盤輸入網絡模型，來加以訓練。

第二層：此層為LSTM層，參照強化學習，搭建隱藏狀態矩陣H，動態學習網絡輸入負荷數據中的長期依賴。

第三層：Inception網絡層，采取層次性的并行的一維卷積分支，對所傳輸的負荷數據加以剖析、處理，而且還能將所分析、處理的數據結果加以合并，最終形成張量。

第四層：全連接輸出層。因為預測結果會傳出個數相匹配的神經元結構，所傳出的結果：電力負荷預測結果輸出矩陣L。

在以強化學習為基礎的LSTM網絡模型內，主要依托于動態跳躍LSTM在語言處理層面所展現出的序列數據處理的優勢，以強化學習來擇選最優依賴，對應深入剖析電力負荷的周期性性質、特征，經過優化升級的LSTM模型結構如下圖3所示。

上圖中所展示的經過優化升級后的LSTM模型，可以看到：在t-1時的隱藏狀態出現一定的浮動和調整，細胞候選狀態Ct-k和Ct-1內，隱藏狀態ht-k和ht-1間，參照預測效果來擇取最優依賴。同樣，選擇經改進的LSTM模型充當Inception節點輸入模塊的短期電力負荷預測模型。此模型的核心為：策略梯度代理，時間步長t中，代理和環境st交互則勢必會從整體上決定LSTM的單元動作。基于目前所選的模型性能可以充當更新代理參數的獎勵，其中代理環境、動作與獎勵這幾個關鍵點的具體特點為：

第一，環境。主要包括來自于輸入xt和前狀態ht-1構建起環境，一般用如下公式來表示：

第二，動作。參照環境St來確定對后方LSTM單元影響最佳的狀態，構建一個保留最近K狀態，也就是形成一個狀態集合Sk，具體公式如下：

上式中，softmax（）用戶能轉換向量，使其變成：概率分布P，MLP（）則屬于多層感知器能轉換數據，使得St轉換為K維度的向量。

第二，獎勵。獎勵函數擇取多種最佳跳過動作，開展預測模型的學習、訓練，擇取最佳跳過的方式來實現對短期電力負荷預測模型性能的優化與提升的目標，整個算法內的獎勵函數采用以下公式設計：

被優化升級的LSTM模型的短期電力負荷預測模型主要依托于被簡單設計的Inception網絡結構，借助時間步長向量，打造出隱藏性的狀態矩陣，打造出一組優化特征。所以，即便目前的狀態屬于不正確的隱藏狀態向量，經1-D初始模塊，以及級聯濾波器來隱藏狀態向量后，也能獲得一個鎖定將來的短時內的預測數據。

3 預測模型的實驗

3.1 實驗數據

此實驗選擇了江門地區10年時間內，以h為時間計量的電網總負荷數據，試驗程序的底層選擇高級框架結構，以鏈接庫為基礎，試驗數據結果主要選擇平均絕對百分比誤差來作為試驗效果的評價參照。

3.2 實驗的實施與結果剖析

此實驗根據特定比例，以隨機的方式來劃分數據，具體為：模型訓練集、模型測試集，前者的數據多數用在短期負荷預測模型的學習、訓練，后者的數據則承擔著短期負荷預測模型的測試、驗證，經反復實驗最后獲得了模型結構參數，將此參數與此研究所對應的LSTM網絡模型相比，發現LSTM網絡模型更具優勢，能高效地捕捉長效信息，而且能發揮超強的預測功能。

4 結語

借助深度學習神經網絡系統，深層次地剖析、挖掘電力負荷的相關數據，從而搭建起一個短期的電力負荷預測模型，對未來某一時期的電力負荷加以預測，能夠妥善提高預測性能，也能提升負荷的預測精度，從而更好地輔助電力系統來高效地開展各項工作。

參考文獻：

[1] 熊和金，徐華中編著.灰色控制[M].國防工業出版社，2005

[2] 牛東曉等.電力負荷預測技術及其應用[M].中國電力出版社，2009

[3] 康重慶.電力系統負荷預測[M].中國電力出版社，2016

[4] 王婷.基于LSTM深度網絡的電力負荷預測[D].山西大學，2020

作者簡介：陳林（1982—），男，工程師，技師，長期從事電網調度運行及管理工作。