基于QWDAE 和HWMHGRU 融合的電力系統短期負荷預測模型

李文升，孫東磊，鄭志杰，梁 榮，王凇瑤，張智晟

（1.國網山東省電力公司經濟技術研究院，濟南 250021；2.青島大學電氣工程學院，青島 266071）

精準的短期負荷預測是系統安全可靠運行的前提和基礎。在構建以新能源為主體的新型電力系統進程中，系統供給側和需求側不確定性因素的來源逐漸多樣化，不確定程度不斷增加，電力負荷的準確預測可以為系統優化調度、需求側管理及系統安全穩定運行提供重要參考和決策依據，具有重要的現實意義和經濟價值[1]。

電力系統短期負荷預測領域已有大量研究成果。近年來，人工智能技術日漸興起，電力負荷預測的研究成果主要集中在基于機器學習理論的人工智能方法上[2]。深度學習理論在電力系統短期負荷預測領域獲得了研究和應用[3-4]，其中具有門結構的長短期記憶LSTM（long short-term memory）神經網絡[5]和門控循環單元GRU（gated recurrent unit）神經網絡[6]模型在負荷預測中取得了較為滿意的預測效果。但上述模型在性能上仍有一定的提升空間，學者們在改進模型結構方面已取得了諸多進展。文獻[7]提出了簡單循環單元SRU（simple recurrent unit）模型，該模型門結構計算時不需要等待前一時刻隱藏層計算完全結束，提高了計算效率；文獻[8]將LSTM的3個門結構整合成1個門結構，減少了模型參數，提高了計算速度。上述研究對模型的改進提高了計算速度，但未考慮深入提取和利用輸入序列中的有效信息，從而提高模型信息處理能力。文獻[9]在LSTM模型中加入循環跳過層來捕捉電力負荷序列中的長期依賴關系。文獻[10]改進了GRU的門結構，提出了多層級GRU，并采用量子加權神經元QWN（quantum weighted neuron）構建其結構，提高了網絡對輸入信息的處理能力。文獻[11]在LSTM神經網絡中采用兩級門結構對信息進行兩次篩選，增強了網絡的信息處理能力。文獻[12]將高速通道網絡添加到LSTM 內部隱藏層狀態中，使模型能夠更好地處理輸入序列中的長期依賴關系，提高了LSTM 的收斂速度，獲得了較好效果。高速通道網絡通過門結構來控制網絡內部信息流動，可以在不增加網絡層數的前提下增加訓練深度，提高網絡的收斂速度[13]。

在負荷預測時，往往會通過降維、分解、提取新特征等方法對選出的特征進行處理。文獻[14]利用卷積神經網絡對輸入數據進行特征提取，降低了輸入維度。文獻[15]采用變分模態分解將輸入特征進行分解，使輸入模型的各個分量更加平穩，降低預測難度。文獻[16]采用LSTM網絡構建自編碼器，提取出高維特征向量作為新的輸入特征，提高了負荷預測精度。

本文在現有研究成果的基礎上，提出一種基于量子加權降噪自編碼器QWDAE（quantum weighted denoising autoencoder）和高速通道多層級門控循環單元HWMHGRU（highway multi-hierarchy gated recurrent unit）神經網絡融合的短期負荷預測模型。該模型首先利用QWDAE 提取負荷序列中的高維特征向量作為輸入特征；然后利用HWMHGRU 的高速通道結構不改變隱藏層數目的特點，使得該模型可以增加網絡的訓練深度，提高網絡的收斂速度和處理時間序列的能力。仿真結果表明，基于QWDAE 和HWMHGRU 融合的預測模型具有較好的預測精度和預測穩定性。

1 HWMHGRU 模型

HWMHGRU 模型結構如圖1 所示，其中ht-1為前一時刻隱藏層信息，ht為當前時刻隱藏層信息。

圖1 HWMHGRU 模型結構Fig.1 Structure of HWMHGRU model

HWMHGRU 模型擁有一級重置門和二級重置門兩級重置門，以及一級更新門和二級更新門兩級更新門，兩級門結構可以對信息進行兩次篩選，增強了網絡的信息處理能力[11]。兩個一級門控進行哈達瑪積運算得到ut后，兩級門構成合成重置門rt和合成更新門zt。在計算得到臨時隱藏層信息h′t后，信息進入高速通道網絡。在高速通道網絡中，同樣存在門控結構，分別為轉換門gT和進位門gC。

HWMHGRU網絡門結構可以表示為

式中：xt為當前時刻輸入；σ為Sigmoid 函數；relu為Relu函數；⊙為兩矩陣的哈達瑪積；、為的權值矩陣；、為的權值矩陣；、為的權值矩陣；、為的權值矩陣。

在門結構計算結束后，可進一步計算得到候選隱藏層信息和臨時隱藏層信息，即

式中：W′、U′為隱藏層權重矩陣；tanh 為雙曲正切函數。

在計算得到h′t后，信息進入高速通道網絡，并得到最終的當前時刻隱藏層信息ht。計算過程可表示為

式中：WT、bT分別為轉換門的權重矩陣和偏置向量；WC、bC分別為進位門的權重矩陣和偏置向量；為中間過渡狀態；W、b分別為權重矩陣和偏置向量。為簡化計算，可令gC=1-gT[12]。

2 基于QWDAE 和HWMHGRU 融合的電力系統短期負荷預測模型

2.1 量子加權降噪自編碼器

自動編碼器是一種基于神經網絡的深度學習算法，其將輸入數據進行編碼，得到輸入數據的一種編碼表示，然后將得到的編碼表示進行重構（即解碼）[17]。降噪自動編碼器DAE（denoising autoencoder）是對典型自動編碼器進行改進，其能夠利用部分損壞的輸入數據產生和未損壞的輸入數據幾乎相同的輸出[18]。首先DAE 將輸入數據進行一定概率的置0，然后用輸出和未損壞的輸入數據來做誤差計算和迭代，這樣編碼器就學習了未損壞的輸入數據中的特征。因為對輸入數據進行一定比例的隨機置0，輸入數據中噪聲會有一定程度的降低，同時對輸入數據的隨機置0 也縮小了訓練數據和測試數據的差異，使模型的泛化能力得到增強。

本文采用QWN 構建DAE，即QWDAE，其結構如圖2 所示。QWDAE 的整體結構與DAE 相同，只是在組成時采用QWN。

圖2 量子加權降噪自編碼器Fig.2 Quantum weighted denoising autoencoder

QWDAE 作為一種自動編碼器模型，在訓練優化過程中，QWDAE的權值和活性值都會參與進來，提高了網絡的信息處理能力，可以有效地實現輸入數據重構，并將輸入序列中的潛在信息提取出來。輸入為m維、隱藏層為s維、輸出為m維的QWDAE計算公式為

式中：W為權值矩陣；U為隱藏層權值矩陣；j=1，2，…，s；k=1，2，…，m；x為m維輸入向量；cj為編碼向量c中第j個元素；yk為輸出向量y中第k個元 素 ；；αij、θlk分別為的相位；βj、ξk分別為編碼向量c的活性值和y的活性值的相位；L(x,y)為損失函數。

2.3 QWDAE 和HWMHGRU 融合的預測模型

QWDAE 和HWMHGRU 融合的預測模型結構如圖3 所示。將待預測時刻t的前3 個時刻的歷史負荷(v1)輸入到QWDAE 模型中，在最小化損失條件下得到的高維編碼向量作為新的輸入特征(v2)和歷史負荷數據(v3)一起輸入到HWMHGRU模型中，以實現短期負荷預測。

圖3 QWDAE 和HWMHGRU 融合的預測模型Fig.3 Forecasting mode based on fusion of QWDAE and HWMHGRU

3 算例分析

3.1 數據處理和參數設置

使用某地區歷史負荷數據集，數據集包括全年的歷史負荷、日類型和天氣因素，其中天氣因素包括溫度、太陽輻射和濕度。將待預測日前22 天的歷史數據作為訓練集，數據在輸入模型前進行歸一化處理。輸入特征量如表1所示。

表1 輸入特征量Tab.1 Input features

神經網絡模型隱藏層為1層，HWMHGRU模型隱藏層神經元設置為40，QWDAE 模型隱藏層神經元設置為6；損失函數為均方差；dropout 值設置為0.25；優化器選擇Adam算法，學習率為0.004。模型通過Python3.8和Pytorch平臺搭建。

3.2 仿真結果分析

為驗證所提QWDAE 和HWMHGRU 融合的預測模型的有效性，用本文所提模型對夏季工作日和休息日的負荷進行預測，將該模型記為QWDAEHWMHGRU 模型，并選取不含高速通道結構的QWDAE-MHGRU模型、不含QWDAE模塊的HWMHGRU 模型、不含QWDAE 模塊和高速通道結構的MHGRU 模型進行對比分析。圖4 和圖5 分別為夏季工作日和休息日的預測曲線。

圖4 夏季工作日預測曲線Fig.4 Prediction curves on workday in summer

圖5 夏季休息日預測曲線Fig.5 Prediction curves on rest day in summer

從圖4 和圖5 可以看出，QWDAE-HWMHGRU模型在夏季工作日和休息日的負荷預測曲線與真實值曲線的擬合程度好于其他3種預測模型。

為更直觀地驗證模型的預測效果，表2 給出了夏季工作日和休息日的負荷預測效果，并增加了常用的GRU模型作對比。

表2 夏季預測效果對比Tab.2 Comparison of prediction effect in summer

以平均絕對百分比誤差MAPE（mean absolute percentage error）和均方根誤差RMSE（root mean square error）作為評價指標，其計算公式分別為

式中：k=1，2，…，24；Zk為預測點k的真實負荷值；zk為預測點k的預測負荷值；n為預測點個數。

從表2 可以看出，QWDAE-HWMHGRU 模型在夏季的預測效果均好于其他模型，其中QWDAEHWMHGRU模型的MAPE在夏季工作日比其他4個模型分別降低了0.43%、0.32%、0.49%、0.90%，RMSE比其他4 個模型分別降低了0.09 MW、0.46 MW、0.85 MW、0.68 MW；QWDAE-HWMHGRU 模型的MAPE 在夏季休息日比其他4 個模型分別降低了0.67%、0.55%、1.09%、1.33%，RMSE 比其他4 個模型分別降低了0.36 MW、0.23 MW、0.35 MW、0.40 MW。

為了進一步分析QWDAE和高速通道網絡對負荷預測精度的影響，用上述5種短期負荷預測模型對冬季工作日和冬季休息日進行預測，結果如圖6所示。

圖6 各模型冬季預測效果Fig.6 Prediction effect of each model in winter

從圖6可以看出，冬季QWDAE-HWMHGRU 模型的精度高于QWDAE-MHGRU 模型，HWMHGRU模型的精度高于MHGRU 模型，說明高速通道結構有利于提高訓練深度，進而提高短期負荷預測精度；同時QWDAE-HWMHGRU 模型的精度高于HWMHGRU 模型，QWDAE-MHGRU 模型的精度好于MHGRU 模型，說明QWDAE 能夠充分提取負荷數據的有效信息，將其提取出的高維特征向量作為輸入能夠提升短期負荷預測精度。

為驗證本文所提模型的穩定性，將所提模型在夏季進行連續7 天的負荷預測，結果如表3 所示。可以看出，QWDAE-MHGRU 模型的MAPE 的平均值為2.65%，MAPE 最大值和最小值之差為0.36%，說明所提模型有著良好的短期負荷預測精度和穩定性。

表3 夏季連續7 天預測效果Tab.3 Prediction effect on 7 consecutive days in summer

4 結 論

本文針對短期電力負荷預測問題提出了一種基于QWDAE 和HWMHGRU 神經網絡融合的短期負荷預測模型。經過算例仿真，得出如下結論。

（1）高速通道網絡能夠在不增加網絡層數的前提下增加訓練深度，進而提升模型的短期負荷預測精度。

（2）QWDAE 能夠充分提取出歷史負荷中的有效信息，將其提取出的高維特征向量作為輸入有利于降低模型的短期負荷預測誤差。

在構建以新能源為主體的新型電力系統的大背景下，影響系統運行方式和負荷需求的因素必將更加多樣，下一步研究要探尋更好的預測方法，對影響系統運行和負荷需求的各種因素進行更深入的分析，以提高短期負荷預測精度。