基于LSTM深度網(wǎng)絡(luò)的售電量預(yù)測研究

齊正超

（國網(wǎng)黑龍江省電力有限公司賓縣供電分公司，黑龍江 哈爾濱 150400）

在我國國民經(jīng)濟的各產(chǎn)業(yè)門類中，電力行業(yè)作為其他產(chǎn)業(yè)最重要的能源供給，具有十分重要的地位。由于電力供給部門屬性的特殊性，因此其行業(yè)競爭壓力比較小。在這種情況下，電力行業(yè)尤其是電能銷售都被認(rèn)為是簡單的。對于售電量的估計不足，常會導(dǎo)致電力行業(yè)利潤的整體虧損。一方面，由國家統(tǒng)一管控電價，不能通過價格波動來調(diào)整電力行業(yè)的收益。另一方面，電能的實際需求存在波動，電能一旦產(chǎn)出且不能被有效使用，就會導(dǎo)致浪費。因此準(zhǔn)確地估計售電量直接決定了電能產(chǎn)出規(guī)模的準(zhǔn)確性，也是盡可能地減少電能浪費的最有效途徑。目前估計售電量都是基于人為的經(jīng)驗進(jìn)行判斷，缺少有力的量化模型，估計結(jié)果有時會嚴(yán)重偏離實際情況，從而導(dǎo)致估計誤差過大。深度學(xué)習(xí)技術(shù)興起后，其強大的學(xué)習(xí)能力和準(zhǔn)確預(yù)測能力提高了數(shù)據(jù)估計的準(zhǔn)確性[1]。LSTM 網(wǎng)絡(luò)是一種針對時間序列數(shù)據(jù)進(jìn)行學(xué)習(xí)的深度網(wǎng)絡(luò)，在估計售電量方面具有非常好的針對性。因此，該文建立一種基于LSTM網(wǎng)絡(luò)的售電量預(yù)測方法，并通過試驗加以驗證。

1 基于LSTM 網(wǎng)絡(luò)的售電量預(yù)測模型

1.1 基于LSTM 網(wǎng)絡(luò)的售電量預(yù)測結(jié)構(gòu)設(shè)計

預(yù)測電力部門的售電量，要充分依托已經(jīng)完成的歷史數(shù)據(jù)、正在進(jìn)行的當(dāng)前數(shù)據(jù)和各數(shù)據(jù)之間的關(guān)聯(lián)性[2]。因此，售電量的準(zhǔn)確預(yù)測結(jié)果與這些數(shù)據(jù)之間的關(guān)聯(lián)性密切相關(guān)。該文為準(zhǔn)確預(yù)測售電量，以LSTM 網(wǎng)絡(luò)為核心，設(shè)計了基于深度學(xué)習(xí)的預(yù)測框架，期間包括輸入的處理、注意力機制，最終得到的售電量預(yù)測深度模型如圖1 所示。

圖1 售電量預(yù)測的深度學(xué)習(xí)模型結(jié)構(gòu)

如圖1 所示，售電量的歷史數(shù)據(jù)、售電量的當(dāng)前數(shù)據(jù)、數(shù)據(jù)之間的關(guān)聯(lián)性同時作為輸入，在引入整個深度學(xué)習(xí)模型中，經(jīng)過數(shù)據(jù)輸入模塊處理，形成時間分支數(shù)據(jù)、關(guān)聯(lián)分支數(shù)據(jù)，進(jìn)一步通過注意力模塊削減無效數(shù)據(jù)，最終送入LSTM 網(wǎng)絡(luò)進(jìn)行深度訓(xùn)練和學(xué)習(xí)，從而形成售電量未來的預(yù)測結(jié)果。

1.2 注意力機制部分的相應(yīng)處理

根據(jù)圖1 可知，在售電量預(yù)測的過程中，分別使用售電量的歷史數(shù)據(jù)、售電量的當(dāng)前數(shù)據(jù)以及數(shù)據(jù)之間的關(guān)聯(lián)性這3 類數(shù)據(jù)。可以用一個矩陣來表達(dá)這些數(shù)據(jù)，如公式（1）所示。

式中：H1為第一組售電量的歷史數(shù)據(jù)信息；H2為第二組售電量的歷史數(shù)據(jù)信息；Hn為第n組售電量的歷史數(shù)據(jù)信息；D1為第一組售電量的當(dāng)前數(shù)據(jù)信息；D2為第二組售電量的當(dāng)前數(shù)據(jù)信息，Dn為第n組售電量的當(dāng)前數(shù)據(jù)信息；R1為第一組售電量的歷史數(shù)據(jù)信息和第一組售電量的當(dāng)前數(shù)據(jù)信息的關(guān)聯(lián)性；R2為第二組售電量的歷史數(shù)據(jù)信息和第二組售電量的當(dāng)前數(shù)據(jù)信息的關(guān)聯(lián)性；Rn為第n組售電量的歷史數(shù)據(jù)信息和第n組售電量的當(dāng)前數(shù)據(jù)信息的關(guān)聯(lián)性。

對售電量的歷史數(shù)據(jù)、售電量的當(dāng)前數(shù)據(jù)和數(shù)據(jù)之間的關(guān)聯(lián)性這3 類數(shù)據(jù)都進(jìn)行分支處理，分別形成時間分支和關(guān)聯(lián)性分支，再送給注意力機制部分進(jìn)行處理。注意力機制處理部分根據(jù)自身處理建立不同數(shù)據(jù)和預(yù)測結(jié)果之間的權(quán)重矩陣，其處理過程如圖2 所示。

圖2 售電量預(yù)測的注意力機制處理

對售電量預(yù)測過程的時間分支數(shù)據(jù)來說，采用注意力機制處理后可以得到對應(yīng)的權(quán)重，如公式（2）所示。

式中：xi為第i個售電量的時間分支數(shù)據(jù)；xj為第j個售電量的時間分支數(shù)據(jù)；αi為第i個售電量的時間分支數(shù)據(jù)的權(quán)重；softmax（）為注意力機制處理的函數(shù)。

售電量的時間分支數(shù)據(jù)進(jìn)行權(quán)重融合后，得到時間分支數(shù)據(jù)權(quán)重矩陣，如公式（3）所示。

式中：A為售電量的時間分支數(shù)據(jù)的權(quán)重矩陣；αit為第i個售電量的時間分支數(shù)據(jù)在t時刻的權(quán)重；αnt為第n個售電量的時間分支數(shù)據(jù)在t時刻的權(quán)重。

對售電量預(yù)測過程的關(guān)聯(lián)分支數(shù)據(jù)來說，采用注意力機制處理后可以得到對應(yīng)的權(quán)重，如公式（4）所示。

式中：fi為第i個售電量的關(guān)聯(lián)分支數(shù)據(jù)；fj為第j個售電量的關(guān)聯(lián)分支數(shù)據(jù)；βi為第i個售電量的關(guān)聯(lián)分支數(shù)據(jù)的權(quán)重；softmax（）為注意力機制處理的函數(shù)。

對售電量的關(guān)聯(lián)分支數(shù)據(jù)進(jìn)行權(quán)重融合后，得到時間分支數(shù)據(jù)權(quán)重矩陣，如公式（5）所示。

式中：B為售電量的關(guān)聯(lián)分支數(shù)據(jù)的權(quán)重矩陣；βit為第i個售電量的關(guān)聯(lián)分支數(shù)據(jù)在t時刻的權(quán)重；βnt為第n個售電量的時間分支數(shù)據(jù)在t時刻的權(quán)重。

1.3 基于LSTM 的售電量預(yù)測

售電量預(yù)測的序列數(shù)據(jù)體現(xiàn)為時間分支上連續(xù)并且具有關(guān)聯(lián)屬性的數(shù)據(jù)[3]。因此，采用LSTM 網(wǎng)絡(luò)進(jìn)行最終的學(xué)習(xí)和預(yù)測，具有最佳的針對性。在該文中，LSTM 環(huán)節(jié)的預(yù)測結(jié)構(gòu)如圖3 所示。

圖3 售電量預(yù)測模型中LSTM 環(huán)節(jié)的預(yù)測結(jié)構(gòu)

如圖3 所示，LSTM 學(xué)習(xí)的過程是根據(jù)售電量沿著時間軸線的起伏變化，并且售電量歷史數(shù)據(jù)和未來數(shù)據(jù)間存在密切的關(guān)聯(lián)性。隨著LSTM 網(wǎng)絡(luò)不斷擴張，對售電量曲線波動變化的學(xué)習(xí)能力會不斷增強，其進(jìn)一步的預(yù)測結(jié)果也更接近未來可能發(fā)生的真實情況。雖然LSTM 網(wǎng)絡(luò)規(guī)模擴大，但占用的硬件資源增幅卻非常微弱，顯示了非常高的深度學(xué)習(xí)效率。在該文的LSTM 網(wǎng)絡(luò)中，對售電量序列數(shù)據(jù)的學(xué)習(xí)處理如公式（6）所示。

式中：X={x1，x2，…，xt}為售電量的時間分支數(shù)據(jù)；K={k1，k2，…，kn}為LSTM 網(wǎng)絡(luò)的時間卷積核函數(shù)；n為時間卷積核的總量；d為LSTM 網(wǎng)絡(luò)的擴張率。

2 售電量預(yù)測試驗結(jié)果與分析

在前面的研究工作中，對售電量預(yù)測的背景、現(xiàn)狀進(jìn)行分析，進(jìn)而結(jié)合數(shù)據(jù)預(yù)測的深度學(xué)習(xí)理念，構(gòu)建基于LSTM 網(wǎng)絡(luò)的售電量預(yù)測模型。在這個模型中，綜合考慮售電量的歷史數(shù)據(jù)、售電量的當(dāng)前數(shù)據(jù)以及數(shù)據(jù)之間的關(guān)聯(lián)性，設(shè)計了注意力機制模塊和四層次的LSTM 結(jié)構(gòu)。在這部分工作中，為驗證該文提出的基于LSTM 深度網(wǎng)絡(luò)的售電量預(yù)測方法的有效性，將分別選擇SVM 方法、CNN 方法以及RNN 方法作為比較方法，以10 000 個售電量數(shù)據(jù)為試驗對象，該文將其中9 000 個作為訓(xùn)練數(shù)據(jù)，將1 000 個數(shù)據(jù)作為預(yù)測數(shù)據(jù)的參考真值，去觀察該文方法的有效性。首先，觀察4 種方法預(yù)測結(jié)果的平均絕對誤差EMAE和均方根誤差ERMSE，如果預(yù)測結(jié)果越接近真實值，那么這2 個指標(biāo)都會越小。4 種方法預(yù)測結(jié)果對比如圖4 所示。

圖4 4 種方法售電量預(yù)測結(jié)果的對比

4 種方法的柱狀圖對比如下：從售電量預(yù)測結(jié)果的評價指標(biāo)來看，無論是EMAE還是ERMSE指標(biāo)，所提出的方法都明顯低于其他3種方法，從而證實了方法對售電量預(yù)測，可以達(dá)到更好的效果。在方法執(zhí)行深度學(xué)習(xí)過程中，其售電量預(yù)測過程的損失函數(shù)變化，結(jié)果如圖5 所示。

圖5 售電量預(yù)測過程中的損失函數(shù)變化

從圖中的曲線變化情況可知，在方法執(zhí)行深度學(xué)習(xí)和訓(xùn)練的過程中，損失函數(shù)值一直處于比較低的水平。隨著迭代過程繼續(xù)，損失函數(shù)值迅速減少，當(dāng)?shù)?0 次時，損失函數(shù)值已經(jīng)降至0.01。隨著迭代過程進(jìn)一步延續(xù)，損失函數(shù)值持續(xù)降低，當(dāng)?shù)?00 次時，損失函數(shù)值已經(jīng)趨近于0。

3 結(jié)論

準(zhǔn)確預(yù)測售電量有利于平衡電能供給和電能需求間的關(guān)系，最大限度地減少電網(wǎng)供應(yīng)中的電能浪費。該文對售電量預(yù)測的背景、現(xiàn)狀進(jìn)行分析，結(jié)合數(shù)據(jù)預(yù)測的深度學(xué)習(xí)理念，構(gòu)建基于LSTM 網(wǎng)絡(luò)的售電量預(yù)測模型。在該模型中，綜合考慮了售電量的歷史數(shù)據(jù)、售電量的當(dāng)前數(shù)據(jù)和數(shù)據(jù)間的關(guān)聯(lián)性這3 類數(shù)據(jù)，設(shè)計注意力機制模塊和四層次的LSTM結(jié)構(gòu)。分別選取SVM 方法、RNN 方法以及CNN 方法作為參照方法，以10000 個數(shù)據(jù)為訓(xùn)練數(shù)據(jù)和真值參照數(shù)據(jù)進(jìn)行預(yù)測試驗，預(yù)測結(jié)果顯示：LSTM 方法預(yù)測結(jié)果更接近真值，平均絕對誤差、均方根誤差兩類指標(biāo)在4 種方法中都是最小的。進(jìn)一步對方法的深度學(xué)習(xí)效率進(jìn)行測試，結(jié)果顯示，當(dāng)?shù)鷮W(xué)習(xí)為200 次時，LSTM 方法的損失函數(shù)已經(jīng)趨近于0，學(xué)習(xí)效率非常高。