基于量子加權GRU神經網絡的電力系統短期負荷預測

王凇瑤，張智晟

（青島大學電氣工程學院，青島 266071）

電力系統負荷預測是通過對歷史數據的分析研究，同時考慮氣象、經濟、社會等因素，對負荷的發展做出預估[1]。負荷預測是電力系統規劃設計運行調度的基礎，科學、準確地預測是電力系統安全穩定運行的前提[2]。電力負荷預測有多種分類方式，從時間尺度上來劃分有長期、中期、短期和超短期負荷預測。其中，短期負荷預測可以為供電公司合理計劃分配發電量提供依據，因此對短期負荷預測的研究具有重要意義[3]。

在電力負荷預測的發展進程中，負荷預測的方法主要可以分為基于概率論和數理統計的傳統方法與人工智能方法。傳統方法主要有時間序列法和回歸預測法[4]，這些方法成熟、原理簡單，但預測精度相對較低；人工智能方法有支持向量機[5]、人工神經網絡等，其中，人工神經網絡以其強大的多元映射能力，較好的預測精度，在非線性系統預測中廣泛應用。在神經網絡中，反向傳播BP（back propaga?tion）神經網絡是一種使用較多的多層前饋神經網絡，已被應用于負荷預測，但BP神經網絡存在算法收斂速度慢和局部極小點問題[6]，且不能考慮數據的時序特征；文獻[7]提出了基于長短期記憶LSTM（long short term memory）的短期預測模型，對平穩的時間序列效果較好，但未考慮天氣、氣溫等因素的影響；文獻[8]提出了一種基于卷積神經網絡CNN（convolutional neural network）和門控循環單元GRU（gated recurrent unit）相結合的短期預測模型，可以兼顧數據的有效性和時序性，但CNN池化層可能會丟失有效信息，影響預測結果；文獻[9]采用雙向LSTM進行負荷預測，將未來的信息考慮在內以提高預測精度，但運算量進一步加大。

量子計算是建立在量子力學基礎上的一種新型計算模式，被認為是改進神經網絡的有效途徑[10]。量子神經網絡具有比經典神經網絡更強的信息處理能力[11]，目前，量子神經網絡根據其神經元模型不同，分為基于通用量子門演化的量子神經網絡、基于量子加權的量子神經網絡、基于量子門線路的量子神經網絡等形式。文獻[12]提出一種基于受控旋轉門的量子神經網絡模型，收斂性和魯棒性較好，但該神經網絡模型需將實數轉化為量子態后再進行輸入，而將實數轉化為量子態的公式選擇尚需討論；文獻[13]提出量子門Elman神經網絡，相較于傳統Elman網絡效果較好，但仍相對較難實現全局最優；文獻[14]構建了量子加權LSTM神經網絡用于旋轉機械狀態退化趨勢預測，獲得較好的預測效果。

為了提高電力系統短期負荷預測的精度和穩定性，利用量子并行計算能力和相對于經典計算更為強大的數據處理能力，同時結合GRU神經網絡的優點，本文提出粒子群優化量子加權門控循環單元神經網絡模型QWGRU-PSO（particle swarm opti?mized quantum weighted gated recurrent unit）。該模型將量子加權神經元融入到GRU神經網絡模型的構造中，并用改進粒子群算法對量子神經網絡參數進行優選，構建網絡最優權重矩陣進行負荷預測。仿真結果表明，該模型的預測準確性和穩定性較好。

1 量子加權GRU神經網絡模型

1.1 GRU神經網絡

循環神經網絡RNN（recurrent neural network）最大的特點是神經元某一時刻的輸出可作為另一時刻的輸入，從而保持數據中的依賴關系，非常適用于時間序列數據[15]，其結構模型如圖1所示。

圖1 RNN展開Fig.1 Expansion of RNN

圖中：xt為t時刻網絡輸入；ht為t時刻網絡隱藏層狀態；yt為t時刻網絡輸出；W為輸入到隱藏層的權重矩陣；Wy為隱藏層到輸出的權重矩陣。

簡單RNN網絡不能解決長期依賴問題，因為其處理數據的結構非常簡單，例如，只進行1個sig?moid函數的處理，使網絡很難記憶長時間信息，同時網絡也無法判斷某一信息需要保留還是舍棄。為了解決長期依賴問題，LSTM和GRU相繼出現。GRU是LSTM的改進體，它包含2個門即重置門和更新門。更新門對是否保留前一時刻的狀態及保留多少進行控制；重置門可以決定是否要把當前狀態與之前信息進行結合[16]。相比LSTM模型，GRU模型參數較少，訓練和運行速度更快。GRU結構如圖2所示，其前向傳播公式可表示為

圖2 GRU結構Fig.2 Structure of GRU

式中：rt為重置門；zt為更新門；ht為隱藏層的輸出；Wr、Ur為重置門權重矩陣；Wz、Uz為更新門權重矩陣；U為隱藏層權重矩陣；tanh為雙曲正切函數；⊙為兩矩陣的Hadamard積；σ為sigmoid函數。

1.2 量子加權神經元

在量子計算體系中，一個量子態可表示為[17-18]

圖3 量子加權神經元模型Fig.3 Model of quantum weighted neuron

由式（9）可知，權值矩陣W的更新可以通過權值量子態相位αij和活性值量子態相位βj的更新來實現。

1.3 QWGRU神經網絡模型

根據式（1）～（5）和式（8），可以推導出QWGRU的前向傳播公式為

式中：為t時刻重置門向量中第j個元素，j=1，2，…，s；為t時刻更新門向量中第j個元素；為t時刻候選隱藏層向量中第j個元素；為t時刻輸出向量中第k個元素，k=1，2，…，q；φwr、φwr分別為構成重置門權值矩陣Wr的權值和活性值量子態；αwr、βwr分別為φwr和φwr的相位。φur、φur分別為構成重置門權值矩陣Ur的權值和活性值量子態；αur、βur分別為φur和φur的相位；φwz、φwz分別為構成更新門權值矩陣Wz的權值和活性值量子態；αwz、βwz分別為φwz和φwz的相位。φuz、φuz分別為構成更新門權值矩陣Uz的權值和活性值量子態；αuz、βuz分別為φuz和φuz的相位；φw、φw分別為構成隱藏層權值矩陣W的權值和活性值量子態；αw、βw分別為φw和φw的相位；φu、φu分別為構成隱藏層權值矩陣U的權值和活性值量子態；αu、βu分別為φu和φu的相位；φwy、φwy分別為構成輸出權值矩陣Wy的權值和活性值量子態；αwy、βwy分別為φwy和φwy的相位。

QWGRU神經網絡模型如圖4所示。t時刻模型輸入xt，經過量子加權重置門rt和量子加權更新門zt處理后得到隱藏層狀態ht，ht經過加權、聚合、活化、激勵后得到網絡輸出yt。

圖4 QWGRU模型Fig.4 QWGRU model

2 PSO算法優化QWGRU預測模型

2.1 PSO優化算法

粒子群優化PSO（particle swarm optimization）算法是從鳥類捕食行為中得到啟示而發展起來的算法。在算法的迭代過程中，粒子通過更新個體最優和全局最優這2個極值來實現全局尋優[20]。粒子群算法的基本公式[21]可表示為

式中：為第k次迭代時粒子i的速度；c1、c2為學習因子；、為第k次迭代時的隨機數，取值范圍為0～1之間；為第k次迭代時粒子i的位置；為第k次迭代時粒子i的歷史最優位置；為第k次迭代時全局最優位置；w為慣性系數。

本文采用線性遞減策略慣性系數[22]為

式中：wmax為慣性系數的最大值；wmin為慣性系數的最小值；N為當前迭代次數，Nmax為最大迭代次數。

慣性權重的變化對粒子群算法的全局和局部搜索能力有不同的影響。如果慣性權重增大，粒子群算法的局部搜索能力會減弱而全局搜索能力會增強；如果慣性權重減小，局部搜索能力增強而全局搜索能力減弱。線性遞減慣性系數可以平衡二者，使尋優能力和收斂性得到提升[22]。

2.2 預測模型損失函數

本文的模型以均方差為損失函數，計算公式為

式中：Yk為預測點k的真實負荷值，k=1，2，…，n，n為預測點個數；yk為預測點k的預測負荷值。

2.3 PSO算法優化QWGRU預測模型的流程

①首先對輸入數據進行歸一化處理，形成訓練集矩陣，然后初始化各權值量子態相位α和活性值量子態相位β，形成各初始權重矩陣進行前向計算；②由式（9）可知，QWGRU網絡的權值更新要通過更新權值量子態相位α和活性值量子態相位β來實現，所以將相角αwr、αur、αwz、αuz、αw、αu、αwy、βwr、βur、βwz、βuz、βw、βu、βwy歸結為同一個粒子的屬性；③通過不間斷地尋優來更新最優粒子，把損失函數作為目標函數，把損失最小時的粒子值賦給各相角，從而構建損失函數最小時的神經網絡權值進行預測；④將預測結果反歸一化，得到最終預測值。

用PSO算法優化QWGRU神經網絡的電力系統短期負荷預測模型流程如圖5所示。由圖5可知，預測流程的第2步即開始進入量子神經計算，在迭代過程中，量子加權GRU權值量子態和活性值量子態的同時更新使本文提出的模型預測效果從根本上獲得提升。

圖5 預測流程Fig.5 Flow chart of forecasting

3 仿真結果分析

為了驗證所提模型的預測效果，運用提出的QWGRU-PSO模型對山東某地區電網的負荷進行預測。

3.1 數據處理

輸入數據包括歷史負荷、氣溫、天氣、日類型數據，在輸入模型前需將數據統一進行預處理。

（1）歷史負荷數據。1天平均取96個點，即每15 min 1個點，并進行歸一化處理，其公式為

式中：x′為歸一化后的數據值；x為歸一化前的數據值；xmin為歸一化前訓練集負荷數據最小值；xmax為歸一化前訓練集負荷數據最大值。

（2）氣溫數據。包括最高溫度、最低溫度、平均溫度，與歷史負荷數據一樣進行歸一化處理。

（3）天氣數據。晴天數據取值為1，多云天氣取值為0.5，雨雪天氣取值為0。

（4）日類型數據。工作日取值為1，休息日取值為0.5。

將預測日前10天數據作為訓練集，輸入矩陣為15維，其中，歷史負荷數據9維，分別為待預測日待預測時刻t前3天的t-1、t、t+1時刻的數據，其余6維數據為預測日的氣溫數據、天氣數據、日類型數據；輸出矩陣為1維，即預測日t時刻負荷預測值。

3.2 預測結果對比分析

引入平均絕對百分比誤差Emape、最大相對誤差Emax和均方根誤差ERMSE來描述負荷預測準確度。Emape和ERMSE計算公式可表示為

（1）分析本文提出的QWGRU-PSO預測模型的收斂性。圖6給出了收斂曲線，由圖6可知，損失在迭代100次后趨于穩定，模型是收斂的。

圖6 QWGRU-PSO收斂曲線Fig.6 Convergence curve of QWGRU-PSO

（2）將本文提出的輸入考慮影響因素的QW?GRU-PSO模型（QWGRU-PSO-1）與采用隨機梯度下降算法的GRU神經網絡預測模型（GRU）、PSO優化GRU模型（GRU-PSO）和輸入不考慮影響因素的QWGRU-PSO模型（QWGRU-PSO-2）進行對比，前3種預測模型均采用15-10-1的結構，QWGRU-PSO-2輸入變成9維。其中，2種QWGRU-PSO模型和GRU-PSO模型的PSO算法的粒子數均為50，最大迭代次數取250，學習因子為1.496 2，速度范圍為[-0.4，0.4]，慣性權重范圍為[0.4，0.95]。GRU模型學習率為0.25，迭代次數為9 000。

對地區電網秋季典型工作日10月22日的負荷進行預測，圖7給出了4種模型的預測曲線，圖8為圖7虛線框部分局部放大圖，表1給出了4種模型的預測誤差對比。

圖7 4種模型預測曲線對比Fig.7 Comparisonamongpredictioncurvesoffourmodels

圖8 局部放大圖Fig.8 Partially enlarged drawing

由圖7可知，QWGRU-PSO-1模型預測的負荷曲線與實際負荷曲線更為貼近。由表1可知，QW?GRO-PSO-1模型的預測精度更高，可達98.78%，與其他2個模型相比，Emape分別降低了1.07%和1.06%；Emax分別降低了3.05%和2.23%；ERMSE分別降低22.03 MW和23.23 MW，說明本文提出的模型預測精度更高。但輸入不考慮影響因素時，預測精度會下降。

表1 4種預測模型的誤差Tab.1 Errors of four prediction models

為了驗證本文提出模型的穩定性，對該地區電網秋季10月20日—10月26日連續7天的負荷進行預測，并與采用隨機梯度下降算法的GRU模型進行對比，預測結果如表2所示。由表2可以得出，在連續一周的負荷預測中，QWGRU-PSO-1模型的平均預測精度可達98.31%，比采用隨機梯度下降算法的GRU預測模型高出0.72%，最大相對誤差降低了1.75%，ERMSE平均降低了13.72 MW。由此說明，本文提出的QWGRU-PSO-1負荷預測模型預測精度更高且穩定性較好。

表2 兩種模型7天預測誤差Tab.2 Seven-day prediction errors of two models

4 結語

本文利用量子神經網絡良好的非線性逼近能力和泛化性能，針對電力系統短期負荷預測構建了一種PSO的量子加權GRU神經網絡預測模型。該模型將量子信息處理機制引入GRU模型中，利用改進PSO算法對參數進行優選進而完成負荷預測。仿真結果表明，本文提出的預測模型具有較好的預測精度和模型穩定性。未來需要探尋更好的量子神經網絡結構，并尋找更優秀的優化算法以提高模型訓練的精度和速度。