基于SSA-BiLSTM-AT的短期風電功率預測

［摘 要］ 針對短期風電功率的復雜性與多樣性，提出一種含注意力機制的雙向長短期記憶網絡（BiLSTM）神經網絡和麻雀算法（SSA）調參的短期風電功率預測模型，SSA-BiLSTM-AT。首先對輸入數據進行異常值處理和歸一化，采用Pearson相關系數法分析風電功率和各特征之間的關系，剔除數據中的相關度較低的特征，以提高模型的預測精度；針對BiLSTM超參數選擇困難的問題，利用麻雀算法對BiLSTM中學習率、迭代次數、第1和第2隱含層節點數4個重要參數進行智能迭代優化，得到最優參數后利用BiLSTM進行預測；最后引入注意力機制，通過注意力權重突出關鍵因素的影響，挖掘風電數據的內部規律。以新疆某風電站的歷史數據作為實際算例，驗證了所提模型線性回歸擬合能力的穩定性和提升預測精度的有效性。

［關鍵詞］ 短期風電功率預測； BiLSTM算法； 注意力機制； 麻雀算法

［中圖分類號］ TM614" ［文獻標識碼］ A

準確的風電功率預測有助于電力部門制定合理的發電計劃，保證電力系統運行的穩定性與運行效率［1-2］。目前，風電功率短期預測方法主要有神經網絡、支持向量機、隨機森林等［3-6］。深度學習的快速發展為風電功率預測開辟了一條新的道路，長短期記憶神經網絡（LSTM）是其中的代表算法，其緩解了循環神經網絡（RNN）算法存在的梯度爆炸、梯度消失的問題，因此得到了廣泛的應用。Wang等［7］利用K均值聚類算法選擇對預測結果影響較大的天氣數據作為深度信念網絡（DBN）的輸入，獲得了較好的預測效果。朱喬木等［8］將LSTM算法應用于風電功率預測取得了較好的效果，但其超參數僅憑經驗設定，隨機性較大。HUANG等［9］采用卷積神經網絡（CNN）結合批標準化（BN）和最小二乘法處理數據并構建預測模型，較大地提升了預測精度，但無效數據剔除效果不理想。SHAHID F等［10］提出了一個由遺傳算法（GA）和LSTM結合的風電功率預測模型。此方法沒有考慮到不同因素的貢獻程度不同，模型有待進一步提高。

為進一步提高風電功率預測的精度，本文提出了一種基于SSA-BiLSTM-AT的短期風電功率預測模型。該模型使用Pearson相關系數法篩選出與風力發電功率相關度較高的因素作為輸入特征。利用雙向長短期記憶網絡對風電數據進行建模學習，并引入注意力機制通過映射加權和學習參數矩陣賦予BiLSTM隱含狀態不同的權重，減少歷史信息的丟失并加強重要信息的影響，針對該模型超參數選擇困難的問題，提出利用SSA算法實現該模型超參數的優化選擇。最后通過算例分析證明本文模型提高了預測精度。

1 相關理論和方法

1.1 Pearson相關系數

Pearson相關系數用于衡量兩個變量之間線性相關度的大小，數值介于-1與1之間，系數值大于0則表示正相關，反之表示負相關，其絕對值越大，相關度越高。Pearson相關系數計算公式為：

sim（X，Y）=∑ni=1（Xi－）（Yi－）∑ni=1（Xi－）2∑ni=1（Yi－）2

式中，sim（X，Y）表示X、Y兩個變量的相似度數值，n為樣本總數，i表示樣本的編號。

1.2 BiLSTM原理

RNN常應用于諸多領域的時間序列預測，但傳統RNN在實踐過程中存在梯度消失、梯度爆炸等問題。LSTM作為一種改進循環神經網絡［11］，通過加入自適應遺忘門來控制信息的積累速度，使其能夠處理短期和長期時間序列內的相關性，較好解決了RNN存在的梯度消失、梯度爆炸和信息持久力不強等問題，提高了神經網絡的泛化性能［12］。但LSTM也存在不足之處，其僅能處理正向時間序列，在預測波動數據的過程可能會出現相位滯后的問題。

風電功率數據具有典型的正反向規律性，同時考慮歷史功率和未來功率有助于提升功率預測的精度。相比于LSTM只能處理一個方向上的時間序列，BiLSTM通過前向傳播和后向傳播進一步捕捉了風電功率數據中過去數據和未來數據之間的關聯，最大程度挖掘了風電功率時間序列的內在信息［13］。

1.3 注意力機制

注意力機制是一種為解決信息超載問題而存在的資源合理分配機制［14］，其模擬了人類大腦的注意力分配機制，人腦在特定時刻會將注意力集中于需要重點觀察的區域，同時減少對其他區域的關注，以獲取更多重點區域的細節信息，抑制無用信息。本文對BiLSTM網絡進行改進，將注意力機制引入其中，能在長時保留信息的基礎上，自主挖掘對于分類起到關鍵作用的特征值，并生成權重向量，從而提高輸出質量和預測精度。

注意力機制的主要公式如下：

et=utanh（wht+b）， "αt=exp（et）∑tj=1ej

式中，et為t時刻的注意力分布值，ht為BiLSTM層的輸出，b為偏置，u、w表示權重，αt表示BiLSTM層輸出各特征對目標時間序列的影響權重值。

在BiLSTM-AT結構中，首先通過輸入層將樣本數據輸入到模型中，然后通過嵌入層將樣本數據映射到低維空間。搭建BiLSTM層對輸入的特征值進行充分學習，然后輸出向量輸入注意力機制層，根據權重分配原則不斷更新迭代出較優的權重參數矩陣，最后通過輸出層將特征向量輸出。

2 基于SSA參數優化的BiLSTM-AT的短期風電功率預測方法

2.1 SSA算法

SSA算法是一種受麻雀群體捕食行為啟發而提出的新的智能優化算法［15］。麻雀覓食過程可抽象成發現者、加入者以及偵察預警機制間的動態影響與變速運作。發現者可進行搜索行動并為整個種群提供捕食范圍及覓食方向，而加入者則跟隨發現者去尋找食物。

由n只麻雀組成種群公式：

X=x1，1x1，2…x1，dx2，1x2，2…x2，dxn，1xn，2…xn，ditermax

式中：n為麻雀數量；d為待優化問題變量的維度。

所有麻雀的適應度值為：

F（x）=f（［x1，1x1，2…x1，d］）f（［x2，1x2，2…x2，d］）f（［xn，1xn，2…xn，d］）

式中，f為適應度值。

每次迭代更新后，發現者位置更新為：

Xt+1i，j=Xti，j·exp（－iα·itermax），R2lt;STXti，j+Q·L，R2≥ST

式中：Xti，j為第i只麻雀在j維中的位置；t為當前迭代次數；α為隨機數且α∈（0，1］；為最大迭代次數；ST、R2分別為種群安全值和種群預警值；Q為服從正態分布的隨機數；L為所有元素為1的1×d矩陣。

群體中加入者位置更新：

Xt+1i，j=Q·exp（Xworst－Xti，ji2），ilt;n/2Xt+1p+Xti，j－Xt+1p·A+·L，i≤n/2

式中，Xworst為當前全局最差位置；Xp為當前發現者所占據的最優位置；A為1×d維矩陣，其每個元素隨機分配1或-1，并且滿足A+=AT（AAT）－1。

能感知到危險的麻雀被稱為警戒者，這一部分麻雀占到總體的10%～20%，且位置在種群中隨機產生。其表達式如：

Xt+1i，j=Xtbest+β·Xti，j+Xtbest，figt;fgXti，j+K·（Xti，j－Xtworstfi－fw+ε），fi=fg

式中，Xtbest表示全局最優位置；β是用于步長控制的均值為0方差為1且服從正態分布的隨機數；fi為當前麻雀適應度值；fg，fw分別為當前全局最優、最差適應度值；K為［-1，1］的隨機數；ε為最小常數。本文設置警戒者占種群比例10%，發現者占20%，其余為加入者；最大迭代次數itermax=100；預警值ST設為0.8。

2.2 基于SSA的BiLSTM參數尋優

針對BiLSTM的參數憑經驗選取，導致數值隨機性較大，預測的快速性和穩定性受影響的問題，本文選用SSA算法優化學習率、迭代次數、第一隱含層節點數和第二隱含層節點數四個參數。SSA參數尋優簡易流程如下：

1）設置SSA算法初始參數，設置迭代次數、種群參數、種群數、發現者占比等;

2）初始化，設置學習率、迭代次數、雙向LSTM層隱藏節點數的取值范圍，進行隨機賦值初始化;

3）計算適應度值，以麻雀所在位置對應的BiLSTM模型均方根誤差作為適應度函數，計算麻雀種群個體的適應度值;

4）根據適應度函數對麻雀進行排序，找到最佳適應度值對應的麻雀信息;

5）將本次最優值與原來最優適應度值進行比較，若有提升則更新全局最優參數;

6）判斷是否達到迭代次數的要求，若是，則結束優化，輸出最優麻雀個體位置，即本次最優參數；若否，則開始下一次優化。

2.3 基于SSA-BiLSTM-AT模型的風電功率預測實現過程

基于SSA-BiLSTM-AT的風電功率預測過程分為數據處理、BiLSTM-AT和SSA三個部分，具體模型架構如圖1所示。

在數據處理部分，對數據執行Pearson特征篩選，剔除其中相關度較低的特征。然后，對輸入數據進行異常值處理，并將數據歸一化至［0，1］中。BiLSTM-AT部分根據SSA的傳入參數獲得學習率、迭代次數和各隱含層節點數，并通過數據部分輸入的訓練集訓練網絡模型，最后對測試集數據進行預測，利用預測結果與實際值的誤差均方差作為適應度值輸送到SSA部分。SSA部分根據輸入的適應度值進行加入者、發現者和警戒者的移動操作，從而實現了種群與全局最優解的自適應尋優。最后將優化后的最優參數組ηbest代入BiLSTM-AT中對風電功率數據進行訓練和預測并輸出最終結果。

3 算例分析

3.1 數據預處理

本文實驗數據選取新疆某預測值風電站的實測數據，數據集中包含的特征有氣壓、溫度、濕度、測風塔10、30、50、70 m風速、輪轂高度風速、測風塔10、30、50、70 m風向和歷史實際發電功率。數據采集時間為2019年1月1日到2019年12月31日，采樣間隔為15 min，每天共有96組觀測值。數據集共有35 040組數據，采用插值法對數據集中的異常數據進行剔除、對空缺數據進行填補，選取前80%的數據劃分為訓練集，最后的20%作為測試集。

為方便模型網絡的訓練，本文采用min-max標準化方法對原始數據進行歸一化處理，計算公式為：

xn=x－xmeanxmax－xmin

式中：x為原始風電數據；xmax、xmin和xmean分別是樣本數據的最大值、最小值和平均值；xn是歸一化處理后的數據。

3.2 評價指標

為了評估預測模型的性能，本文采用平均絕對誤差（EMAE）、均方根誤差（ERMSE）以及決定系數（R2）對實驗結果進行評估，其中EMAE、ERMSE越小，R2越大表示模型預測結果越準確，3種誤差定義式如下：

EMAE=1N∑Ni=1yi－i

ERMSE=1N∑Ni=1（yi－i）2

R2=∑Ni=1（yi－i）2∑Ni=1（yi－i）2

式中：N表示樣本數量；i為i時刻實際風電功率值；yi為i時刻風電功率預測值。

3.3 相關性分析及特征選取

Pearson相關系數法從統計學和數學層面對影響風力發電的環境變量進行精確的計量，此舉對風電功率的預測有很重要的意義。利用Pearson系數對所有變量進行相關度分析，通常情況下以特征的絕對值大小來判斷變量的相關程度，系數值絕對值小于0.3則認為其相關度不高，具體數值如表1所示。

根據相關度絕對值的大小可得：氣壓，濕度，溫度，測風塔10 m風向、30 m風向、50 m風向和風電功率相關度較低，表示該6種變量與風電功率數值沒有直接或者必要的聯系。為了避免特征太多從而導致模型計算時間增加，且無關變量影響預測精確度，從數據集中將這幾種變量剔除。為了驗證Pearson相關系數法剔除無關變量對實驗結果的影響，選取BiLSTM模型作為對比模型進行實驗，其比較結果如表2所示，可見剔除無關變量后預測精度有了較為明顯的提升。

3.4 參數選擇

本文采用SSA算法對BiLSTM模型最重要的超參數：迭代次數、學習率、第一隱含層節點數和第二隱含層節點數進行自適應迭代尋優，將最優適應度值對應的超參數賦值給網絡。選擇均方差作為適應度函數，具體公式如下：

Loss=1N∑Ni=1（yi－i）2

式中：N為樣本數量；i為實際風電功率值；yi為風電功率預測值。

其優化過程如圖2所示。a、b、c、d分別代表適應度、學習率、第一隱含層數和第二隱含層節點數跟隨算法優化而變化的曲線。圖2a顯示了適應度數值隨著迭代次數逐漸減小，最后在x軸的迭代次數等于5時穩定在0.000313；從圖2b可見，學習率曲線迭代之后穩定在0.0045；從圖2c和d可見第一、第二隱含層節點數穩定在96，最優參數組確定為ηbest{5，0.0045，96，96}。

3.5 仿真實驗及結果分析

3.5.1 基準模型對比

選取BP、SVR、XGBoost模型作為基準模型與本文模型相比較，以證明本文所提出模型預測性能和泛化能力的優異性。各模型預測值與風電功率實際值的橫向對比結果如圖3所示，各模型的絕對誤差如圖4所示，各模型的評價指標值如表3所示。

圖3記錄了基準模型及本文模型的預測結果和真實值曲線，可見本文模型相較于其他基準模型更能捕捉到風電功率變化的規律，曲線擬合度最高，預測效果更好。

圖4直觀展現了各模型預測結果前100點的預測誤差絕對值。由圖可見，本文模型誤差絕對值顯著低于基準模型。由表3可知，本文模型相較于其他基準模型擁有較高的預測精度，其中R2相比其他三種方法分別提高了12.10%、2.59%和1.43%，RMSE分別降低了72.37%、48.24%、33.94%。本文方法在R2上有較大提升，RMSE指標明顯下降，表明本文模型具有更優的模型性能和預測精度。

3.5.2 消融實驗

消融實驗是通過將模型分解，來驗證模型各個部分對結果的影響。本文將主模型預測結果與LSTM，BiLSTM，BiLSTM-AT比較，以驗證模型各部分改進對預測結果提升的有效性。各模型的預測結果與風電功率實際值橫向對比結果如圖5和表4所示，各模型絕對誤差值如圖6所示。

由圖5、圖6可見，BiLSTM模型在曲線擬合度和誤差絕對值上的表現均優于LSTM模型，這表明BiLSTM模型能更好的挖掘風電功率數據的正反向規律，具有更高的預測精度。BiLSTM模型在加入注意力機制和SSA調參后模型誤差絕對值有一定程度的降低，曲線擬合度優于未改進模型。

由表4可知，本文模型相較于LSTM、BiLSTM及BiLSTM-AT模型R2分別提升了2.9%、0.7%和0.4%，RMSE分別降低了51.3%、24.9%和14.2%。由以上數據可以看出，本文方法相較于熔斷實驗其他模型預測精度更高且誤差波動較小；BiLSTM和BiLSTM-AT相比LSTM的預測精度也有了顯著提升。由此可以看出，基于SSA調參將注意力機制和BiLSTM相結合更能準確預估不同時期的風電功率變化趨勢，有更優的預測性能。

4 結束語

本文在BiLSTM預測模型的基礎上，加入麻雀算法和注意力機制，分別用于智能迭代優化模型超參數和數據間的關聯性，并對輸入數據進行特征重要度分析，篩除關聯度較低的特征。結合實驗分析，得出以下結論：

1）通過采用Pearson相關系數法計算分析歷史數據，能夠篩除相關度較低的特征，縮短了計算時間，降低了模型復雜度;

2）在BiLSTM模型中引入注意力機制，挖掘數據之間的關聯度，并對特征權重進行更改，突出了對功率預測影響更大的特征，提高了風電功率預測的精度;

3）針對BiLSTM-AT模型參數選擇困難的問題，使用SSA算法進行優化調參，相比于BiLSTM模型和BiLSTM-AT模型的預測精度均有顯著提升。

近年來，風電裝機規模迅速增加，智能化程度不斷提升，風力電站所采集的數據也出現了指數級增長。未來可以進一步改進數據處理算法，消除冗余數據，在降低時間復雜度的同時提高預測準確率。

［ 參 考 文 獻 ］

［1］ 孫榮富，張濤，和青，等. 風電功率預測關鍵技術及應用綜述［J］. 高電壓技術，2021，47（04）：1129-1143.

［2］ 薛禹勝，郁琛，趙俊華，等. 關于短期及超短期風電功率預測的評述［J］. 電力系統自動化，2015，39（06）：141-151.

［3］ LAHOUAR A， SLAMA J B H. Hour-ahead wind power forecast based on random forests［J］. Renewable energy， 2017， 109（01）： 529-541.

［4］ 謝波，高建宇，張惠娟，等. 短期風電功率預測中的IOFA-SVM算法實現［J］. 電子測量技術，2021，44（12）：63-69.

［5］ 范靜儀，施建強，惠子軒. 基于BP神經網絡的風電功率預測研究［J］. 電工技術，2020（11）：23-25.

［6］ LIU G， YU W. The BP neural network modeling on worsted spinning with grey superior theory and correlation analysis［C］.2008 Fourth International Conference on Natural Computation， 2008： 374-378.

［7］ WANG K， QI X， LIU H， et al. Deep belief network based k-means cluster approach for short-term wind power forecasting［J］.Energy， 2018， 165（01）：840-852.

［8］ 朱喬木，李弘毅，王子琪，等. 基于長短期記憶網絡的風電場發電功率超短期預測［J］. 電網技術，2017，41（12）：3797-3802.

［9］ HUANG L， LI L， WEI X， et al. Short-term prediction of wind power based on BiLSTM-CNN-WGAN-GP［J］. Soft Computing， 2022，26（01）： 10607-10621.

［10］ SHAHID F， ZAMEER A， MUNEEB M. A novel genetic LSTM model for wind power forecast［J］. Energy， 2021， 223（01）： 120069-120079.

［11］ HOCHREITER S， SCHMIDHUBER J. Long short-term memory［J］. Neural computation， 1997， 9（08）： 1735-1780.

［12］ 余聰聰，熊才權，徐仕強，等. 基于改進SARIMA-LSTM的海上風速預測方法［J］. 湖北工業大學學報，2022，37（01）：24-28.

［13］ SCHUSTER M， PALIWAL K K. Bidirectional recurrent neural networks［J］. IEEE transactions on Signal Processing， 1997， 45（11）： 2673-2681.

［14］ KOSIOREK A. 神經網絡中的注意力機制［J］. 機器人產業，2017（06）：12-17.

［15］ XUE J， SHEN B. A novel swarm intelligence optimization approach： sparrow search algorithm［J］. Systems Science amp; Control Engineering， 2020， 8（01）： 22-34.

Short-term Wind Power Prediction Based on SSA-BiLSTM-AT Model

WANG Shanshan 1， 2， WU Ni1， 2，" HE Jiawen1， 2，" ZHU Wei1， 2， YANG Yuchen1， 2

（1 School of Electrical and Electronic Engin.， Hubei Univ. of Tech.， Wuhan 430068，China;

2 Hubei Key Laboratory for High-efficiency Utilization of Solar Energy and

Operation Control of Energy Storage System， Wuhan 430068，China）

Abstract： To address the complexity and diversity of short-term wind power， a Bi-directional Long Short-Term Memory （BiLSTM） neural network containing AttentionMechanism and Sparrow Algorithm （SSA） tuned to the short-term wind power prediction model， SSA-BiLSTM-AT， is proposed. Firstly， the input data are processed and normalized with outliers， and the relationship between wind power and each feature is analyzed by the Pearson correlation coefficient method to analyze the relationship between wind power and each feature， and eliminate the features with low correlation in the data， so as to improve the prediction accuracy of the model; Aiming at the problem of BiLSTM hyperparameter selection difficulty， the four important parameters of learning rate， adaptation degree， and the number of nodes in the 1st and 2nd implicit layers in BiLSTM are optimized intelligently and iteratively by the sparrow algorithm， and the optimal parameters are obtained and then the BiLSTM is used for prediction; finally the attention mechanism is introduced， and the attention weights are used to highlighting the influence of key factors and mining the internal laws of wind power data. The stability and effectiveness of the proposed model's linear regression fitting ability are verified by using the historical data of a wind power station in Xinjiang as a practical calculation example.

Keywords： short-term wind power forecast；Bi-directional Long Short-Term Memory；Attention mechanism；sparrow search algorithm

［責任編校： 閆 品］

［收稿日期］ 2022-11-21

［基金項目］ 湖北省重點研發計劃項目（2020BAB114）；湖北省教育廳科學研究計劃重點項目（D20211402）

［第一作者］ 王珊珊（1982-），女，湖北鐘祥人，工學博士，湖北工業大學副教授，研究方向為機器學習與深度學習、圖像處理。

［文章編號］ 1003-4684（2024）05-0025-06