基于LSTM及縱向?qū)Ρ鹊碾娏ο到y(tǒng)負(fù)荷評(píng)價(jià)

河北大學(xué)國際學(xué)院 黃澤壯 張澤宇 范涵笑

基于需求，我國電力系統(tǒng)工業(yè)規(guī)模不斷擴(kuò)大，但與此同時(shí)電力工業(yè)的發(fā)展需要投入大量的社會(huì)和自然資源，對(duì)于財(cái)力物力消耗也較大，因此電力系統(tǒng)預(yù)測能夠帶來更高的經(jīng)濟(jì)收益，反之則會(huì)產(chǎn)生較大浪費(fèi)。所以，本文對(duì)于電力規(guī)劃進(jìn)行分析研究，致力于獲得最大效益，其先行條件便是做好電力負(fù)荷預(yù)測，以保證電力系統(tǒng)的安全穩(wěn)定運(yùn)行，提高電力系統(tǒng)的運(yùn)營效益[1]。

1 概念模型建立

如上文所述，電力系統(tǒng)負(fù)荷預(yù)測具有重要意義，為了做到準(zhǔn)確預(yù)測需要結(jié)合現(xiàn)代預(yù)測方法盡可能消除不穩(wěn)定自然因素、社會(huì)因素的相關(guān)影響。首先，從普遍意義上分析如何進(jìn)行負(fù)荷預(yù)測。為進(jìn)行準(zhǔn)確的負(fù)荷預(yù)測，滿足以下五個(gè)原則是必要的，即延續(xù)性原則、類推原則、相關(guān)原則、 概率推斷原則以及反饋原則[2]。

神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)預(yù)測模式是當(dāng)下較為先進(jìn)并且精確的數(shù)據(jù)預(yù)測模式。使用神經(jīng)網(wǎng)絡(luò)預(yù)測，可以通過對(duì)已有的數(shù)據(jù)訓(xùn)練、對(duì)于未來數(shù)據(jù)進(jìn)行檢驗(yàn)以及重復(fù)訓(xùn)練的循環(huán)構(gòu)建模式來形成規(guī)避損失的預(yù)測圖線以及數(shù)據(jù)成果。但很明顯，使用傳統(tǒng)的RNN 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模式難以對(duì)于不同隱藏層（即不同時(shí)期輸入數(shù)據(jù)）進(jìn)行綜合考慮預(yù)測，因此無法取得隨時(shí)間規(guī)律性變化的電力系統(tǒng)負(fù)荷曲線的有效擬合方案，本文嘗試使用一種更高級(jí)的數(shù)據(jù)預(yù)測方式——LSTM 神經(jīng)網(wǎng)絡(luò)。

使用這種更為優(yōu)化的神經(jīng)網(wǎng)絡(luò)，可以通過一條聯(lián)系不同時(shí)間數(shù)據(jù)的“主線”，通過對(duì)相關(guān)數(shù)據(jù)的抓取以及合理舍棄得到更加精確的、具有時(shí)間累積性的數(shù)據(jù)圖像，同時(shí)為盡可能規(guī)避不確定性因素帶來的困擾，還需嘗試依據(jù)類推原則得出一定的規(guī)律性模型，從而對(duì)于數(shù)據(jù)的相關(guān)性原則以及反饋原則進(jìn)行闡釋。可以在使用LSTM神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測存在較大誤差的某些點(diǎn)處使用縱向比對(duì)，獲取規(guī)律性預(yù)測結(jié)果，通過比較驗(yàn)證來確定精度為兩種算法加權(quán)取得當(dāng)前時(shí)刻或者當(dāng)日的負(fù)荷數(shù)據(jù)，從而削減突發(fā)因素造成的不穩(wěn)定性影響，獲得較為符合實(shí)際的預(yù)測曲線。

基于上文構(gòu)想，筆者嘗試使用兩種算法進(jìn)行預(yù)測。借助一個(gè)對(duì)比決策模型來對(duì)于某節(jié)點(diǎn)如何取用兩種算法計(jì)算出的數(shù)據(jù)結(jié)果，如何分配權(quán)重的問題進(jìn)行考慮決策。從而在保證一般的預(yù)測規(guī)律的同時(shí)，實(shí)現(xiàn)對(duì)于突發(fā)因素的考慮，提升模型的穩(wěn)定性。

2 預(yù)測模型的基本原理

2.1 LSTM模型基本概述

長短期記憶網(wǎng)絡(luò)是一種具有“二輸入”特點(diǎn)的預(yù)測神經(jīng)網(wǎng)絡(luò)，其主要特征是以時(shí)間為基本鏈進(jìn)行循環(huán)，屬于一種RNN神經(jīng)網(wǎng)絡(luò)。與普通RNN神經(jīng)網(wǎng)絡(luò)相比，LSTM神經(jīng)網(wǎng)絡(luò)在一定程度上克服了RNN神經(jīng)網(wǎng)絡(luò)對(duì)于時(shí)間的長期依賴性。

LSTM是一種特殊的RNN，相較于普通的RNN神經(jīng)網(wǎng)絡(luò)，LSTM 神經(jīng)網(wǎng)絡(luò)通過遺忘運(yùn)算來盡可能消除數(shù)據(jù)對(duì)于神經(jīng)網(wǎng)絡(luò)時(shí)間脈絡(luò)的長期依賴特性。將以往的每個(gè)神經(jīng)元作為節(jié)點(diǎn)串聯(lián)在主線結(jié)構(gòu)上，使用一條線性結(jié)構(gòu)“記錄”每個(gè)神經(jīng)元的發(fā)生時(shí)刻，這樣在需要使用到過去的神經(jīng)元時(shí)，只需要通過主線結(jié)構(gòu)對(duì)于過去的內(nèi)容進(jìn)行索引即可獲得相關(guān)的數(shù)據(jù)，而不需要通過神經(jīng)元的鏈接進(jìn)行逐個(gè)遞推，進(jìn)而大大減少神經(jīng)網(wǎng)絡(luò)對(duì)于時(shí)間數(shù)據(jù)的依賴特性，提升預(yù)測精度。

LSTM的關(guān)鍵即為上文提到的主線結(jié)構(gòu)。所需要處理的信息往往按著主線結(jié)構(gòu)進(jìn)行時(shí)間順序的相關(guān)處理，當(dāng)使用LSTM神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測時(shí)，信息便開始從最初的神經(jīng)元接收函數(shù)處理并且沿著主線結(jié)構(gòu)向下一級(jí)進(jìn)行傳遞。經(jīng)過多級(jí)傳遞之后，便可以得到較為精確的預(yù)測結(jié)果。實(shí)際上，數(shù)據(jù)在通過主線流通神經(jīng)元的過程中，每通過一級(jí)神經(jīng)元總要經(jīng)歷一個(gè)選擇結(jié)構(gòu)，這個(gè)結(jié)構(gòu)就像一個(gè)門一樣，選擇使完全符合條件的數(shù)據(jù)通過該門，而完全不符合條件的數(shù)據(jù)結(jié)構(gòu)被遺忘。門結(jié)構(gòu)主要由sigmoid 神經(jīng)網(wǎng)絡(luò)層以及計(jì)算的逐點(diǎn)相乘形成，其中神經(jīng)網(wǎng)絡(luò)層主要輸出的為0到1之間的數(shù)據(jù)，表示對(duì)于數(shù)據(jù)的認(rèn)可程度，0為最低認(rèn)可度，不予以輸出；為最高認(rèn)可度，可以將數(shù)據(jù)完全輸出。

在LSTM神經(jīng)網(wǎng)絡(luò)之中主要存在三種門結(jié)構(gòu)，其主要功能特點(diǎn)如下：輸入門。決定當(dāng)前時(shí)刻網(wǎng)絡(luò)的輸入數(shù)據(jù)有多少需要保存到單元狀態(tài)。遺忘門。決定上一時(shí)刻的單元狀態(tài)有多少需要保留到當(dāng)前時(shí)刻。輸出門。控制當(dāng)前單元狀態(tài)有多少需要輸出到當(dāng)前的輸出值。

2.2 縱向比對(duì)模型基本概述

使用LTSM神經(jīng)網(wǎng)絡(luò)對(duì)于一定時(shí)序下的數(shù)學(xué)模型能夠產(chǎn)生較為完美的擬合關(guān)系，使用這種數(shù)學(xué)模型可以較好地貼合對(duì)于電力系統(tǒng)負(fù)荷的時(shí)序分析。通過對(duì)于數(shù)據(jù)的時(shí)序記憶產(chǎn)生遞歸分析，從而生成所需要的擬合預(yù)測曲線。

但是使用預(yù)測方法對(duì)于現(xiàn)實(shí)社會(huì)進(jìn)行指導(dǎo)的同時(shí)，需要考慮到現(xiàn)實(shí)社會(huì)中產(chǎn)生的不確定因素對(duì)于該模型的影響，其中電力系統(tǒng)負(fù)荷往往與風(fēng)力、溫度、天氣等方面的影響存在著較大聯(lián)系。對(duì)于其產(chǎn)生的影響，通過數(shù)學(xué)模型可以形象地得到。因此，在處理這些數(shù)據(jù)的時(shí)候不得不引入新的運(yùn)算模式。對(duì)于這樣的問題本文跳出橫向預(yù)測的結(jié)果，并且使用縱向比對(duì)的方式來 給以更加準(zhǔn)確的數(shù)據(jù)模式。

經(jīng)過前期對(duì)于數(shù)據(jù)的分析易知，電力系統(tǒng)的負(fù)荷從年度角度來看具有極高的周期性規(guī)律。使用縱向?qū)Ρ鹊姆绞娇梢宰畲笙薅葴p弱使用LSTM預(yù)測模型時(shí)，訓(xùn)練集中天氣因素帶來的不確定性，同時(shí)對(duì)于特殊節(jié)假日帶來的非常規(guī)用電數(shù)據(jù)做出了有效解釋，其具體原理如下：

首先，使用兩年的已知數(shù)據(jù)進(jìn)行數(shù)據(jù)運(yùn)算。然后，對(duì)于已知兩年的數(shù)據(jù)取其相關(guān)特征數(shù)據(jù)，利用AM特征進(jìn)行分析。假設(shè)取日期為自變量，若某日具有特殊性意義或者存在較大溫度變化，對(duì)于該時(shí)刻的電力系統(tǒng)負(fù)荷直接進(jìn)行負(fù)荷預(yù)測有可能得到較大的誤差。可以通過AM特性對(duì)于數(shù)據(jù)的極端性進(jìn)行平衡或者對(duì)于具有特殊意義的規(guī)律性日期進(jìn)行數(shù)據(jù)的合理推移，求得：

同時(shí)，還可以計(jì)算預(yù)測誤差程度：

至此，可以構(gòu)建一條基于前兩年一般性數(shù)據(jù)的推導(dǎo)模型并且擬合出新的預(yù)測曲線。

2.3 動(dòng)態(tài)綜合模型的基本概述

目前，本文通過綜合分析得到了兩種不同側(cè)重角度下的模型——LSTM長短期預(yù)測模型以及基于規(guī)律性因素所得到的縱向比對(duì)模型。使用這兩種模型，可以較為全面地考慮到負(fù)荷預(yù)測的五項(xiàng)原則——使用LSTM模型，利用天氣因素作為訓(xùn)練集要素，考慮時(shí)間序列下的電力負(fù)荷歷史數(shù)據(jù)從而產(chǎn)生預(yù)測圖線；同時(shí)使用縱向比對(duì)模型，考慮到特別節(jié)假日、極端天氣等問題產(chǎn)生的突發(fā)性要素，模糊突發(fā)性因素的影響，從而獲得規(guī)律化曲線。本文在關(guān)鍵節(jié)點(diǎn)可以加入一個(gè)動(dòng)態(tài)擬合兩種模型的新模型——?jiǎng)討B(tài)綜合模型，從而將兩種算法相結(jié)合，優(yōu)化原有模型并且生成一個(gè)具有高精度、高穩(wěn)定性的優(yōu)秀模型。

本文嘗試構(gòu)建的動(dòng)態(tài)綜合模型將具有兩種不同特征的算法納入考慮范圍之內(nèi)，在已有研究的基礎(chǔ)之上嘗試探尋一種風(fēng)險(xiǎn)性更低、精度更高、穩(wěn)定度更好的動(dòng)態(tài)綜合模型，嘗試考慮兩種算法在某一時(shí)間點(diǎn)給出的數(shù)據(jù)的可靠度，并且以此為依據(jù)為兩種算法得到的數(shù)據(jù)集分配權(quán)重，從而獲得一條更加成熟的擬合曲線用以解決實(shí)際問題。

本文在實(shí)現(xiàn)綜合動(dòng)態(tài)預(yù)測的時(shí)候使用以下步驟進(jìn)行預(yù)測：①首先使用前兩年的數(shù)據(jù)，應(yīng)用預(yù)測值與實(shí)際值差值單一評(píng)價(jià)各個(gè)模型從而得到每一個(gè)模型預(yù)測結(jié)果的優(yōu)劣程度，進(jìn)而獲取其分權(quán)。②構(gòu)造權(quán)重概率分布函數(shù)，從而依據(jù)函數(shù)期望獲取優(yōu)越方法集合。③應(yīng)用綜合預(yù)測算法，優(yōu)化步驟②中的組合函數(shù)，獲得預(yù)測結(jié)果。通過該模型，可以最終獲得一條精度更高的預(yù)測數(shù)據(jù)擬合曲線。

3 實(shí)際問題求解

3.1 LSTM模型應(yīng)用

首先建立基于LSTM的模型：

其中，ft表示遺忘門，遺忘門的意義在于它可以選擇ct-1中的哪些特征能夠被用于計(jì)算ct。其中，ft是一個(gè)向量，ft的每一個(gè)值均位于[0,1]區(qū)間內(nèi)。選擇sigmoid函數(shù)作為激活函數(shù)， sigmoid函數(shù)的輸出是一個(gè)介于[0,1]區(qū)間內(nèi)的值。其中是LSTM最重要的門機(jī)制，表示ft和ct-1之間的單位乘的關(guān)系。

具體函數(shù)表達(dá)式如下所示：

it用于控制的哪些特征用于更新ct，使用方式和ft相同。

然后，為了計(jì)算預(yù)測值和生成下個(gè)時(shí)間片完整地輸入，應(yīng)計(jì)算隱節(jié)點(diǎn)的輸出ht。ht由輸出門ot和單元狀態(tài)ct得到，其中ot的計(jì)算方式和ft以及it相同。

在迭代過程中ct與ht相互更新形成了LSTM神經(jīng)網(wǎng)絡(luò)。

最后，使用基于python開發(fā)的動(dòng)態(tài)綜合算法進(jìn)行數(shù)據(jù)修正。在LSTM時(shí)間序列得到的預(yù)測數(shù)據(jù)完全是深度學(xué)習(xí)的結(jié)果，沒有對(duì)節(jié)假日、天氣等因素進(jìn)行考慮，基于python開發(fā)的動(dòng)態(tài)綜合算法可對(duì)其進(jìn)行修正。

3.2 求解結(jié)果分析

本文選取使用某地三年的電力系統(tǒng)負(fù)荷數(shù)據(jù)，以及氣候因素作為數(shù)據(jù)集進(jìn)行模型求解以及模擬。

首先選取兩個(gè)月的數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)，劃分訓(xùn)練集與測試集并進(jìn)行分析。之后將這兩個(gè)月中90%的數(shù)據(jù)均用于訓(xùn)練對(duì)未來進(jìn)行預(yù)測，10%的數(shù)據(jù)用于驗(yàn)證。為了獲得較好的擬合并防止訓(xùn)練發(fā)散，將訓(xùn)練數(shù)據(jù)標(biāo)準(zhǔn)化使其具有零均值和單位方差。在預(yù)測時(shí)，使用與訓(xùn)練數(shù)據(jù)相同的參數(shù)來標(biāo)準(zhǔn)化測試數(shù)據(jù)。

其次定義LSTM網(wǎng)絡(luò)架構(gòu)，創(chuàng)建LSTM回歸網(wǎng)絡(luò)。指定LSTM層有200個(gè)隱含單元。先確定訓(xùn)練選項(xiàng)參數(shù)：將求解器設(shè)置為adam并進(jìn)行800輪訓(xùn)練。為了防止梯度爆炸，將梯度閾值設(shè)置為1。指定初始學(xué)習(xí)率0.005，在800輪訓(xùn)練后通過乘以因子0.2來降低學(xué)習(xí)率。

最后訓(xùn)練神經(jīng)網(wǎng)絡(luò)。預(yù)測時(shí)，使用predict And Update State函數(shù)一次預(yù)測一個(gè)時(shí)間步，并在每次預(yù)測時(shí)更新網(wǎng)絡(luò)狀態(tài)。每次預(yù)測，使用前一次預(yù)測作為函數(shù)的輸入，并使用與訓(xùn)練數(shù)據(jù)相同的參數(shù)來標(biāo)準(zhǔn)化測試數(shù)據(jù)。在進(jìn)行標(biāo)準(zhǔn)化、算均方根誤差、訓(xùn)練、繪圖后，得到結(jié)果，并且將預(yù)測數(shù)據(jù)與觀測值數(shù)據(jù)集進(jìn)行對(duì)比，對(duì)于預(yù)測結(jié)果進(jìn)行檢驗(yàn)如圖1所示。

圖1

可見預(yù)測結(jié)果較為良好，同時(shí)使用基于python開發(fā)的動(dòng)態(tài)綜合算法對(duì)數(shù)據(jù)進(jìn)行校準(zhǔn)后預(yù)測結(jié)果可以得到進(jìn)一步改善。

在電力系統(tǒng)負(fù)荷預(yù)測的過程中，特殊節(jié)假日以及某些溫度節(jié)點(diǎn)處的預(yù)測結(jié)果常常存在較大誤差，這是由于在進(jìn)行預(yù)測的過程中，突發(fā)性因素的影響不可避免，預(yù)測精度難以保證。因此，本文嘗試使用多方案的動(dòng)態(tài)綜合模型給出解決方法，綜合比對(duì)直接預(yù)測結(jié)果以及縱向預(yù)測結(jié)果對(duì)于擬合曲線進(jìn)行改善校準(zhǔn)。最后，使用該動(dòng)態(tài)綜合模型，對(duì)于示例數(shù)據(jù)求出了較為可靠的預(yù)測數(shù)據(jù)結(jié)果。