基于BiLSTM-LightGBM混合模型的風速預測方法

國電電力廣西風電開發有限公司 楊旺春 莫浩鳴

風電作為一種清潔、可再生的能源，在全球范圍內受到廣泛關注和應用。然而，風速和風向的不確定性是風電場運行穩定和發電效率提高的重要挑戰。一方面風的隨機性和波動性限制了機組的發電穩定性，這對電力上網調頻和調度產生了較大的影響；另一方面，對風速的準確感知和把握是風電機組最大化利用風能的關鍵。準確預測風速對于提高風力發電行業的可靠性、安全性和經濟性具有至關重要的意義。

隨著氣象學、統計學和機器學習等領域的快速發展，風速預測技術得到了顯著提高。目前，在風速預測領域已經有較多成熟技術，從預測的時間尺寸來看，可以分為超短期、短期預測、中期預測以及長期預測等，主要使用包括物理方法、統計方法、神經網絡方法以及混合方法[1]。其中，物理方法主要通過建立準確的數值氣候預報模型（Numerical Weather Prediction，NWP），需要考慮到風電場風機的位置分布、氣象等物理因素，對計算性能要求較高，且難以短時間輸出結果，不利于預測短期風能變化。而基于統計方法的預測則，需要大量的時序數據來保障模型擬合的準確性，對短期序列預測效果較好，但風數據的非線性、非平穩性常導致建立的統計模型準確性不高。

近年來，基于深度學習的預測方法成為風速預測的研究熱點，通過構建多層神經網絡來自動學習輸入數據之間的復雜非線性關系，能夠更好地處理非線性和非平穩的時空信號，也被廣泛地運用到風速序列的各個時間尺寸和區間上的預測[2]，取得了較好的效果。考慮到風速數據的在時間上具有長期依賴關系，為進一步提高預測精度，本文建立一種BiLSTM-LightGBM混合預測模型，應用BiLSTM神經網絡深入挖掘兩個指標間的關聯，提取時間序列特征，再使用LightGBM進行預測輸出，并結合風場實測數據驗證模型的有效性。

1 研究方法

1.1 BiLSTM網絡

LSTM（Long short memory）作為RNN網絡的一種變體，通過增加遺忘門、記憶門等結構，使模型能有效避免因序列過長導致的梯度消失或梯度爆炸，自主學習長序列在時間上的依賴。LSTM層前向傳播的過程如下[3]。

首先通過輸入門控制輸入信息的添加：it=σ（WxiXt+Whiht-1+bi），其中：it表示當前時刻的輸入門值，Wxi、Whi和bi分別表示輸入層到輸入門、隱藏層到輸入門的權重和偏置，Xt表示當前時刻的輸入特征，ht-1表示上一個時刻的隱藏狀態。再由遺忘門決定哪些信息需要從細胞狀態中保留或遺忘：ft=σ（WxfXt+Whfht-1+bf），經由更新門的輸入來更新細胞狀態：得到最終細胞狀態（Cell State）更新：，其中，表示元素級別的乘法操作，Ct表示當前時刻的細胞狀態。輸出門（Output Gate）輸出：ot=σ（Wx0Xt+Wh0ht-1+b0），隱藏狀態(Hidden State）更新：根據細胞狀態和輸出門進行更新，得到新的隱藏狀態用于下一時刻的計算：其中，ht表示當前時刻的隱藏狀態。

通過這些門控單元的組合和更新，LSTM模型可以更好地處理長期依賴關系，并具有較強的記憶能力。但單向的LSTM往往只能考慮到前文序列數據對現有數據的影響，對后文的學習卻無法反饋到前文進行判斷，即無法做到聯系上下文進行綜合學習。為此，研究者基于LSTM進行改進，在前向LSTM層的基礎上，增加一層后向傳播LSTM層，構建雙向長短期記憶神經網絡（Bi-direction Long short memory，BiLSTM），使模型可以同時考慮上下文信息。如圖1所示，網絡能實現對序列x1,x2,…,xn通過同時考慮數據的前向和反向信息來進行序列建模，在xi處將返回對該節點處兩層LSTM隱藏層更新狀態進行拼接[hi,h`n-1]，用于后續預測結果的輸出。

圖1 BiLSTM網絡訓練圖

圖2 BiLSTM-LightGBM模型流程

1.2 LightGBM

LightGBM是一種為優化模型訓練時效性和擴展性而開發的梯度提升決策樹算法（Gradient Boosting Decision Tree，GBDT）。其與XGBoost模型類似，都具有高效的并行運算性能，且因面對大量樣本數據具有更快的訓練速度、更低的內存使用等特點，頻繁出現在各類賽事與科研活動中。而其優異的表現主要來自兩種策略.

基于梯度的單邊采樣（GOSS）。LightGBM采用對小梯度樣本的單邊采樣策略（Gradient-based One-Side Sampling，GOSS)，能通過計算梯度對樣本篩選。通過節點分裂保留具有更大增益效果的大梯度樣本，并篩選掉容易犯錯誤的小梯度樣本，降低低質量樣本的比重，提高模型訓練速度與訓練質量；互斥特征捆綁（EFB）。LightGBM利用稀疏性對特征進行無損合并，通過貪婪算法不斷迭代組合特征，選出最佳特征組合。使用互斥特征捆綁（Exclusive Feature Bundling，EFB）策略，將高度相關的特征進行合并，有效地降低了原始特征的維度，保留最具有區分度的特征組合，幫助模型提高泛化能力與可解釋性。

2 風速預測模型

2.1 BiLSTM-LightGBM混合風速預測模型

風速數據通常具有非線性、非平穩性和隨機性。對于小型風場而言，顧及復雜的氣象系統、地形和地理條件，各種氣象數據的采集和精準物理模型的建立不僅困難，計算成本也高昂。本文通過挖掘風速數據在時間跨度上的相互聯系，基于數據驅動的深度學習方法建立一種BiLSTM-LightGBM風速混合預測模型。

模型主要由一個三層BiLSTM神經網絡特征提取模塊和LightGBM預測模塊組成，模型訓練的步驟如下。數據預處理。受風場環境惡劣、系統故障等因素影響，系統采集到的數據中可能出現部分缺失。針對這部分缺失數據，選擇對間隔不超過10min的數據進行前后均值填充，以在一定程度上保持數據的趨勢和變化；對超過10min間隔的數據進行分割處理，劃分為不同時間段，以保證數據的完整性和連續性。對處理后的數據歸一化后，用于下一步模型的構建和研究。

BiLSTM模型訓練。將處理好的數據帶入BiLSTM模型中。數據首先經過一個帶有8個隱藏單元的雙向LSTM層，再通過堆疊的兩個帶有16個隱藏單元的雙向LSTM層，用于捕捉輸入序列中的正向和反向信息。然后將前述層中正向和反向信息沿特征軸使用Concatenate層進行連接組合，輸入一個具有64個隱藏單元的雙向LSTM層，進一步捕獲前后序列信息。此時得到的輸出即可作為提取風速數據前后序列的深層特征，再依次通過Flatten層，全連接層、Dropout層輸出該模型的預測結果。通過迭代訓練得到擬合效果最優模型。

特征提取。對BiLSTM的預測結果進行分析，發現模型的擬合表現較好，但仍有部分時間預測值與實際值相比波動較大，可能是受數據中噪聲或者風速本身波動過大的影響。為解決該問題，考慮將BiLSTM模型提取的風速序列深層特征，送入噪聲魯棒性高的LightGBM模型進行最終預測。通過評價表現最優的BiLSTM模型提取深層特征，用于下一步Light-GBM模型訓練。

LightGBM模型訓練與預測。將BiLSTM模型提取的深層特征輸入LightGBM模型進行訓練，通過調整學習率、樹的深度等參數配置，選擇效果最優的模型進行預測。在整個模型中，BiLSTM層能夠有效地捕捉長距離依賴關系以對序列數據進行建模，使用兩層LSTM網絡進行雙向連接，可以訪問過去和未來的信息。而LightGBM能夠很好地降低噪聲數據或者數據波動過大的影響。通過這種組合策略，極大地改善了模型的預測準確性和穩定性。

2.2 評估指標

使用均方誤差（MSE），平均絕對誤差（MAE），平均絕對百分比誤差（MAPE）三個指標對模型預測效果進行評價，公式如下：其中：n表示樣本數量，yi表示真實值，表示預測值。

3 案例分析

本文試驗使用從山東某風場SCADA系統中提取的w001號風機的裝載測風儀實測數據集。該數據集包含了風機所在位置從2022年6月到2023年7月期間的風速分鐘級采樣數據。本文使用Windows 11操作系統，CPU采用Intel Core i7-12700H處理器，顯卡為NVIDIA RTX 3060，顯卡驅動版本為NVIDIA-SMI 528.33，內存大小為DDR3 64 GB，開發環境使用TensorFlow 2.10.0，并使用PyCharm作為開發工具。

3.1 BiLSTM模型預測

將預處理好的數據帶入BiLSTM網絡模型進行訓練。初步設置模型學習率為0.0001，選擇MSE（Mean Squre Error）作為損失函數，采用Adam優化器對模型訓練參數優化。并結合模型檢查點（ModelCheckpoint），提前停止（Early Stopping），學習率衰減（ReduceLROnPlateau）等回調函數，對驗證集得分最高的模型權重進行保存，設置訓練在驗證集上連續15次損失沒有改善，或者連續5個epoch的損失未降低，則學習率減半，以控制模型的自主優化，減少模型訓練時長。初步設置總時間滑動窗口大小為1000，滑動步長可選擇為50，10，進行單步預測。最終保存最優的模型權重，預測效果如圖3所示。

圖3 BiLSTM 50，10步長預測效果

從預測效果來看，受到數據缺失和風速數據本身非平穩性、隨機性的影響，BiLSTM模型對部分數據的擬合仍存在較大的波動，模型擬合精度有待進一步提升。但從總體效果來看，滑動步長為50的預測結果波動相對較小，效果更優，所以選擇50步長的模型來提取風速的深層特征。

3.2 BiLSTM-LightGBM預測

將BiLSTM模型提取得到的特征數據帶入LightGBM模型中進行訓練，訓練結果如圖4所示，可以直觀地觀察到，利用BiLSTM提取的深層特征進行訓練后，LightGBM模型可以精準地預測風速變化趨勢，說明LightGBM充分地學習了深層特征中包含的風速序列信息。

圖4 BiLSTM-LightGBM混合預測效果

同時對比原模型在MAE、MAPE、MSE這些指標上的結果，由表1發現，LightGBM作為單模型訓練時誤差要高于BiLSTM，而且通過繪制BiLSTM預測效果圖，也發現預測數據值離風速實際值差異較大。但結合BiLSTM進行混合預測后，三項指標均有大幅度的優化，MSE指標降低了約81.9%，MAE下降了約59.8%，MAPE下降了約52.4%，說明通過BiLSTM模型能有效提取出風速數據中深層特征所包含的豐富信息，而LightGBM模型則能夠克服風速本身的非平穩性、隨機性，表現出了對噪聲和隨機性的高魯棒性能，最終呈現出對風速數據的精準預測，驗證了混合模型的有效性。

表1 訓練模型效果對比

綜上所述，針對風速數據具有非線性、隨機性強、時間長期依賴性復雜等特征，本文提出一種基于BiLSTM-LightGBM的混合預測模型，使用BiLSTM模型進行深層特征提取，挖掘高維的風速序列信息，再利用具有強魯棒性的LightGBM進行預測，建立穩健性更強、預測速度更快的預測模型。且經過試驗驗證有效性，組合預測模型具有更好的魯棒性和實用性，為實際風速預測任務提供了可靠的解決方案。