基于GWO優化BiLSTM模型的地區短期風功率的預測

王帥黨,程 鵬

(華北水利水電大學數學與統計學院,鄭州 450046)

0 引言

受眾多因素的影響,提高短期風功率預測的準確性難度較大,如果選取的輸入特征過多,會導致預測模型出現過擬合現象,從而增加計算的復雜程度,降低模型性能。但選取的輸入特征過少,又會導致預測模型因挖掘信息不充分而精度下降。

近年來,利用機器學習算法構建風電功率預測模型屢見不鮮,如:在風電功率預測中使用時間序列法,采用自回歸滑動平均(ARMA)模型對其進行優化[1-2];采用粒子群優化算法開展短期風電輸出功率預測[3];結合電場的風速及功率數據,運用支持向量機構建機器學習模型[4-5];有人提出基于能量差優化變分模態分解及布谷鳥優化組合神經網絡的短期風功率預測模型[6];建立集合經驗模態分解(EEMD)與雙向長短期記憶(BiLSTM)相結合的風功率并行組合預測模型[7]。我國學者的研究集中于風電功率的超短期預測上,大多采用時間序列法[8-10]、神經網絡法[6]、支持向量機[4]等構建風電功率預測模型。

基于以上分析,運用主成分分析(PCA)算法對維數較高、沒有線性可循的數據進行處理,利用灰狼優化算法(GWO)對雙向長短期記憶(BiLSTM)模型進行參數尋優,即提出PCA-GWO-BiLSTM模型(下稱PG-BiLSTM模型),得到一種預測地區短期風功率的并行機器學習方法。經驗證對比,該模型擁有較好的預測能力、魯棒性及有效性。

1 算法原理

1.1 主成分分析(PCA)

主成分分析法(Principal Component Analysis,PCA)是一種使用廣泛的數據降維算法。主要思想是將n維特征映射到k維上,這k維是全新的正交特征,也被稱為主成分,是在原有n維特征的基礎上重新構造出來的k維特征。

PCA的基本原理如下:令R1是從原始數據中取出的首個線性組合組成的主成分,可得關系式:

R1=a11Q1+a12Q2+…+a1pQp

(1)

其中,aij(i,j=1,2…)為R1的系數,Qi(i=1,2…)為原始數據中其他線性組合。由上式可知,當Var(R1)越大,R1中含有的原始數據信息越多。

由R1作為該組原始數據下的第一主成分,從后面所有的線性組合Q1,Q1,…,Qp里Qi(i=1,2…)中選出方差最大的作為第二主成分R2。為了保證數據分析的可靠性,Cov(R1,R2)=0,在原本線性組合Q1,Q1,…,Qp中除去R1的數據信息后,剩下的線性組合中方差極大值的組可以成為其次主成分,由此可得R1,R1,…,Rp為原始數據變量集中的第1個、第2個、……第p個主成分,關系式如下:

(2)

1.2 灰狼優化算法(GWO)

灰狼優化算法(Grey Wolf Optimizer,GWO)是一種群智能優化算法,簡單易實現,搜索性能較好,近年來被廣泛研究。

集體狩獵是灰狼的一種社會行為,社會等級在集體狩獵過程中發揮著重要的作用。灰狼群一般分為4個等級,即α,β,δ,ω(權利從大到小)。

捕食過程在α的帶領下完成,主要包括3個步驟:①跟蹤和接近獵物。②騷擾、追捕及包圍獵物,直到其停止移動。③攻擊獵物。

灰狼與獵物間的距離公式與位置更新公式:

(3)

系數向量:

【子棱生氣地扯下胸前的大紅綢，一屁股坐在椅子上，心煩意亂地拿起茶幾上的書，卻看不下去，索性把腳翹在扶手上，身子后仰，將書蓋在臉上。

A=2a·r1-a

(4)

C=2·r2

(5)

其中,t為迭代次數,D是個體與獵間的距離向量,‘·’ 不是點積,是乘法,Xp是獵物位置向量,X為灰狼位置向量,a是收斂因子(隨迭代次數從2線性減小到0),r1和r2是隨機向量,模取[0,1]之間的隨機數。

當灰狼識別出獵物的位置后,在α、β、δ的帶領下指導狼群包圍獵物。灰狼個體跟蹤獵物位置的數學模型描述如下:

(6)

其中,Dα,Dβ、Dδ分別表示α、β及δ與其他個體間的距離。Xα、Xβ、Xδ分別代表α、β及δ當前的位置。C1、C2、C3是隨機向量,X是當前灰狼的位置。

(7)

(8)

式(7)分別定義了狼群中ω個體朝向α、β及δ前進的步長與方向,式 (8) 定義了ω的最終位置。

在迭代過程中,a的值從2線性下降到0,對應的A值在區間[-a,a]內變化。C是[0,2]之間的隨機向量,表示狼所在的位置對獵物影響的隨機權重。

1.3 雙向長短期記憶(BiLSTM)

雙向長短期記憶是傳統長短期記憶(LSTM)的擴展,在輸入序列的所有時間步長可用問題中,BiLSTM在輸入序列上訓練兩個LSTM。雙向循環神經網絡在隱藏層中的信息傳遞有兩種方式,即正向傳遞與反向傳遞相結合。在t時刻,正向傳遞的RNN單元與反向傳遞的RNN單元在BRNN的基礎上修改隱藏層神經單元為LSTM單元,即得到BiLSTM,故前向 LSTM與后向LSTM組合得到BiLSTM模型結構。BiLSTM 結合了BRNN與LSTM的優勢,具有長期記憶能力,能夠同時存儲過去與未來的數據特征,保持輸入特征之間的依賴關系。

2 組合預測模型的構建

2.1 模型步驟

將原始數據進行預處理后,利用主成分分析算法對輸入變量進行降維處置,利用灰狼優化算法對雙向長短期時間記憶模型進行參數尋優,將得到處理后的數據與最優超參數帶入到預測模型中,即得到PG-BiLSTM模型,具體步驟如下:

利用灰狼算法優化BiLSTM模型,對于每個灰狼個體,使用適應度函數評估其在訓練數據上的性能,灰狼位置更新達到最大迭代次數或適應度值收斂,選擇具有最佳適應度值的灰狼個體作為最優解。

測試和應用。使用得到的最優解(最佳超參數配置的雙向LSTM模型)在測試數據上進行驗證,并應用于實際場景中的序列數據分析任務,算法流程如圖1。

圖1 算法流程

圖2 各模型收斂曲線對比圖

2.2 評估指標

使用絕百分比誤差MAE(預測值與觀測值之間絕對誤差的平均值)、均方誤差MSE(真實值與預測值的誤差的平方和的均值)及均方根誤差RMSE(預測值與觀測值之間殘差的樣本標準差)作為預測評估指標[式(9～11)],誤差指標值越小預測越準確,模型性能越高。R2[式(12)]表示回歸直線對觀測數據的擬合程度,在[0,1]范圍內越接近1,說明擬合程度越好,反之就說明越差。

(9)

(10)

(11)

(12)

3 算例結果與分析

選取某地區風電場的風功率數據作為數據組,數據選取時段為2015年2月1日00:00時至2 月28日23:50時及3月1日00:00時至3月31日23:50時,風功率采集間隔為10 min。以二月份為例,共4031行樣本數據,其中前3225行為訓練數據集,后806行為測試數據集,時間步為10,即用前22 d的風功率訓練模型對后6 d的風功率數據進行超短期預測擬合。

在實驗仿真過程中分別建立LSTM、BiLSTM及GWO-BiLSTM 3種模型。

通過訓練集的損失收斂曲線與測試集的損失收斂曲線對比線可以看出,3種模型都有著不錯的預測能力,在模型損失方面,LSTM模型的損失高于BiLSTM模型、GWO-BiLSTM模型,GWO-BiLSTM模型的損失收斂速度更快。

LSTM、BiLSTM及GWO-BiLSTM仿真結果與相對誤差如圖3所示。

圖3 LSTM/BiLSTM/GWO-BiLSTM預測對比

預測結束后,將預測相對誤差分布進行提取。提取另外4種誤差系數,繪制表格對比分析,見表1。

由表1數據可知,GWO-BiLSTM構建的模型相比傳統時間記憶網絡構建的模型平均絕對誤差(MAE)、均方誤差(MSE)及均方根誤差(RMSE)都低于其他模型,決定系數(R2)高于其他模型。

表2是PG-BiLSTM模型在進化代數、尋值步數及迭代次數一致的情況下,灰狼種群規模在4、10、20、30時不同評價指標下預測的詳細誤差數據及模型擬合優度R2的值,可以看到不同灰狼種群的數量尋優出的不同參數對預測模型的損失所產生的影響呈現負相關,即在一定范圍內種群數量越大,模型損失越低,預測越準確。

進化代數:灰狼優化算法尋找最優值的代數。尋值次數:狼群縮小包圍圈所需要的步數。迭代次數:預測模型進行預測的代數。

灰狼優化算法的進化代數即尋優代數在本實驗中控制為10次。圖4是表2的對照實驗中灰狼算法尋優的收斂曲線,可見種群數量對收斂的速度并無太大影響,但其收斂精度有所提升。

圖4 各種群GWO尋優收斂曲線

在本組實驗仿真過程中未結合PCA的GWO-BiLSTM模型與結合PCA的GWO-BiLSTM模型進行對比。

通過圖2訓練集的損失收斂曲線與測試集的損失收斂曲線的對比線可以看出,兩種模型都有著不錯的預測能力。在模型損失方面,GWO-BiLSTM模型的損失高于PG-BiLSTM模型,PG-BiLSTM模型的損失收斂速度也更快。仿真結果與相對誤差分布如圖5所示。

圖5 GWO-BiLSTM/PG-BiLSTM預測對比

預測結束后,將預測相對誤差分布圖進行提取。提取另外4種誤差系數,繪制表格對比分析,見表3。

表3 GWO-BiLSTM/PG-BiLSTM各迭代次數結果

由表3數據可知兩種優化模型在不同迭代次數下的評價指標對照,兩種模型在誤差指標上均呈現良好的收斂趨勢,迭代在30次或更少的迭代次數時,GWO-BiLSTM模型的擬合優度更高;迭代50次及以上時,PG-BiLSTM模型預測的平均絕對誤差(MAE)、均方誤差(MSE)及均方根誤差(RMSE)都低于未使用PCA模型的模型,擬合優度更高;迭代在70次時,擬合優度指標R2已經達到了0.99以上。

4 結論

為提高超短期風功率預測的準確性,提出一種基于灰狼優化算法及主成分分析改進雙向長短期記憶的地區短期風功率預測模型,對模型的性能及準確率進行了驗證,得出結論如下:

GWO-BiLSTM模型預測精度要顯著高于LSTM模型與BiLSTM模型,經灰狼優化算法優化的雙向長短期記憶神經網絡模型具有更好的預測精度及模型擬合優度,可為風電功率預測提供新的研究途徑。

PG-BiLSTM模型的預測精度在GWO-BiLSTM模型的基礎上再度提升,在面對風力這種完全沒有線性可循的數據及數據維數較高的情況下,此模型具有最好的預測精度,能夠有效解決維度災難問題,為其他領域數據使用時遇到維度災難問題提供了有效的解決思路。

在研究預測問題的基礎上對灰狼算法進行了初步的研究及應用,可以看到,灰狼算法及早進行了收斂,但模型的相關系數R2的數值也并非次次理想,故改進灰狼算法使其貼合預測模型以達到更好的精度將是一個很好的研究方向。