基于GBDT回歸的光伏電站出力人工智能預(yù)測(cè)算法研究

朱祺，楊鵬

(中國(guó)電力工程顧問集團(tuán)華東電力設(shè)計(jì)院有限公司，上海 200001)

隨著3060碳中和目標(biāo)的提出，光伏發(fā)電作為典型的綠色電源形式，其裝機(jī)容量占整個(gè)電力系統(tǒng)總裝機(jī)容量的比重越來越大，在電力系統(tǒng)中所起的作用也愈發(fā)重要。準(zhǔn)確的光伏發(fā)電出力預(yù)測(cè)對(duì)于保障高比例光伏接入后系統(tǒng)的安全穩(wěn)定與經(jīng)濟(jì)運(yùn)行具有重要意義[1]。

在光伏發(fā)電預(yù)測(cè)方面，最初的數(shù)據(jù)挖掘方法比較原始，如靜態(tài)知識(shí)和單源挖掘方法，它們不適用于包含大量異構(gòu)和流數(shù)據(jù)的智能電網(wǎng)場(chǎng)景，針對(duì)這一問題，學(xué)者們提出了多源挖掘機(jī)制和動(dòng)態(tài)數(shù)據(jù)挖掘方法。如文獻(xiàn)[2]將馬薩諸塞州東南部分為15個(gè)片區(qū)，通過分析歷史開源氣象數(shù)據(jù)及光伏電站歷史出力數(shù)據(jù)并構(gòu)建氣象參數(shù)-輸出功率的轉(zhuǎn)化模型，最終實(shí)現(xiàn)了預(yù)測(cè)時(shí)間分辨率為1小時(shí)的區(qū)域日前出力預(yù)測(cè)。文獻(xiàn)[3]依據(jù)多維參量，包含氣象參數(shù)、經(jīng)緯度以及光伏陣列安裝傾斜角等，對(duì)整個(gè)歐洲地區(qū)進(jìn)行了片區(qū)劃分并建立了不同片區(qū)的區(qū)域光伏發(fā)電模型，對(duì)整個(gè)歐洲地區(qū)的光伏出力實(shí)現(xiàn)了時(shí)間分辨率為1小時(shí)的預(yù)測(cè)。

相較于低效率、高成本傳統(tǒng)集中式數(shù)據(jù)處理的分析方法，分布式計(jì)算更加高效，已被廣泛應(yīng)用于地質(zhì)、氣候和環(huán)境分析、人類基因組計(jì)劃、暗能量測(cè)量計(jì)劃等領(lǐng)域[4]。隨著計(jì)算能力的大幅提高和硬件成本的降低，一些新的信息提取方法被提出，機(jī)器學(xué)習(xí)就是其中之一。本文即是通過基于GBDT回歸的光伏電站出力人工智能預(yù)測(cè)算法對(duì)于光伏電站的出力進(jìn)行預(yù)測(cè)，通過準(zhǔn)確度較高的預(yù)測(cè)結(jié)果提前預(yù)知光伏電站的未來超短期和短期的出力情況，保證電網(wǎng)的運(yùn)行安全。同時(shí)，各類氣象元素與光伏電站出力之間的相關(guān)性數(shù)據(jù)也能為光伏電站的選址提供參考，為光伏電站的選址決策提供數(shù)據(jù)支持。

1 GBDT算法原理

針對(duì)預(yù)測(cè)場(chǎng)景的算法有很多種，較為常見的有線性回歸、Bayes、LDA、KNN等。這些算法有的適用于回歸場(chǎng)景，有的適用于分類場(chǎng)景，部分能夠同時(shí)被應(yīng)用在兩大類場(chǎng)景中。如文獻(xiàn)[5-8]采用混合k-聚類和主成分分析相結(jié)合的方法，進(jìn)行數(shù)據(jù)降維和估計(jì)映射。文獻(xiàn)[9]基3639個(gè)用戶電表數(shù)據(jù)，利用回歸分析的方法進(jìn)行用戶負(fù)荷分類。

GBDT算法全稱為梯度提升迭代決策樹算法，是機(jī)器學(xué)習(xí)算法中對(duì)真實(shí)分布擬合的最好的幾種算法之一，其典型特點(diǎn)為既可以用于分類也可以用于回歸。

算法的原理如下[10]：

梯度提升迭代決策樹預(yù)測(cè)函數(shù)的表達(dá)式為：

(1)

式中：x為輸入樣本；ht為第t棵回歸樹；ωt為回歸樹參數(shù)；ρt為第t棵回歸樹的權(quán)重。

對(duì)于N個(gè)樣本，預(yù)測(cè)函數(shù)的最優(yōu)值為：

(2)

式中：L為損失函數(shù)。

梯度提升迭代決策樹算法的迭代過程如下：

(1)定義

(3)

式中：fi為弱學(xué)習(xí)器。

(2)構(gòu)造基于回歸樹的訓(xùn)練樣本、目標(biāo)函數(shù)分別為：

(4)

L(yi,F(xi))=(yi-F(xi))2

(5)

式中：(yi,xi)∈R×RN。

(3)基于梯度下降方向訓(xùn)練決策樹得到的擬合數(shù)據(jù)為：

(6)

其最佳擬合數(shù)據(jù)為：

(7)

(4)求得梯度下降方向的最佳步長(zhǎng)為：

(8)

式中:ρt0為第t棵回歸樹的初始權(quán)重。

(5)求得第t棵回歸樹的弱學(xué)習(xí)器為：

ft=ρ*ht(xi,ω*)

(9)

(6)迭代后的預(yù)測(cè)函數(shù)為：

Ft(x)=Ft-1(x)+ft

(10)

若損失函數(shù)滿足誤差收斂條件或得到的回歸樹的t值達(dá)到預(yù)設(shè)值,則迭代終止；若不滿足，則繼續(xù)迭代。

2 光伏電站出力預(yù)測(cè)算法

2.1 數(shù)據(jù)集情況

本文所采用的數(shù)據(jù)集為某光伏電站的氣象及出力實(shí)測(cè)數(shù)據(jù)，時(shí)間跨度為3年(其中包含1個(gè)完整年)，數(shù)據(jù)的采樣周期為5分鐘。數(shù)據(jù)的總數(shù)為42969條，特征構(gòu)成如下表所示：

按照人工智能訓(xùn)練、調(diào)節(jié)參數(shù)和測(cè)試的習(xí)慣，整個(gè)數(shù)據(jù)集需要按照比例進(jìn)行拆分，分別用于訓(xùn)練模型、調(diào)節(jié)模型參數(shù)和測(cè)試模型預(yù)測(cè)效果。如文獻(xiàn)[11]提到了采用LSTM模型來預(yù)測(cè)電力系統(tǒng)負(fù)荷的方法，數(shù)據(jù)集的拆分比例為81%的數(shù)據(jù)用于訓(xùn)練模型，19%的數(shù)據(jù)用于測(cè)試模型預(yù)測(cè)效果。文獻(xiàn)[12]采用了XGBoost極限梯度提升模型、隨機(jī)森林模型和LSTM模型三種模型融合的方式來進(jìn)行電能表需求預(yù)測(cè)，使用最大約之前75%的數(shù)據(jù)預(yù)測(cè)約之后25%的結(jié)果。本文采用Holdout交叉驗(yàn)證[13]方法，將整個(gè)數(shù)據(jù)集按照60%、20%和20%進(jìn)行拆分，分別用于訓(xùn)練模型、調(diào)節(jié)模型參數(shù)和測(cè)試模型預(yù)測(cè)效果，如下表所示：

Holdout交叉驗(yàn)證方法能夠避免訓(xùn)練完成的模型出現(xiàn)過擬合情況，防止出現(xiàn)模型對(duì)訓(xùn)練數(shù)據(jù)擬合較好但是卻沒有辦法對(duì)于測(cè)試數(shù)據(jù)做出精確預(yù)測(cè)的情況。在以上數(shù)據(jù)集拆分基礎(chǔ)上進(jìn)行光伏電站出力預(yù)測(cè)算法模型的設(shè)計(jì)及后續(xù)的訓(xùn)練、調(diào)節(jié)和測(cè)試驗(yàn)證工作。最終成果為形成光伏電站出力預(yù)測(cè)算法模型。

2.2 光伏電站特征維度和出力間的相關(guān)性分析

光伏發(fā)電的輸出功率曲線在時(shí)域范圍呈現(xiàn)不穩(wěn)定性和波動(dòng)性，外界的干擾極易造成輸出功率的突變[14]。光伏出力與輻照度及轉(zhuǎn)換率有很強(qiáng)的關(guān)系，影響光伏出力的根本因素只有兩個(gè)，包括太陽(yáng)能電池實(shí)際接受的輻照度和電池板面溫度，天氣、濕度、氣溫等都是通過影響上述兩個(gè)根本因素，進(jìn)而對(duì)光伏出力產(chǎn)生影響的[15]。由于12個(gè)特征維度未必每個(gè)都會(huì)影響光伏電站最終出力，因此在光伏設(shè)備不變的情況下，光伏發(fā)電量主要受到客觀物理因素的影響，可選擇其中關(guān)聯(lián)性較強(qiáng)的因素作為特征進(jìn)行預(yù)測(cè)學(xué)習(xí)建模。先計(jì)算訓(xùn)練集中每個(gè)特征與光伏出力之間的相關(guān)系數(shù)，以確保用于GBDT回歸模型訓(xùn)練的特征最符合光伏電站運(yùn)行的實(shí)際情況。相關(guān)性分析是對(duì)兩個(gè)或多個(gè)具備相關(guān)性的變量進(jìn)行分析，衡量變量間的密切程度[16]。相關(guān)性一般分為：正相關(guān)、負(fù)相關(guān)和無相關(guān)。Pearson相關(guān)系數(shù)能較好地表示變量的相關(guān)性，當(dāng)Pearson 相關(guān)系數(shù)r 的平方，即相關(guān)判定系數(shù)r2 大于0.3 時(shí)，可認(rèn)為兩變量具有強(qiáng)相關(guān)性，支持使用回歸模型進(jìn)行預(yù)測(cè)[17]。計(jì)算結(jié)果如圖1所示：

圖1 光伏電站特征與出力相關(guān)性分析圖Fig.1 Correlation analysis diagram between characteristics and output of photovoltaic power station

圖中，紅色的代表特征與光伏電站出力之間為正相關(guān)性，綠色的代表特征與光伏電站出力之間為負(fù)相關(guān)性，白色的代表特征與光伏電站出力之前幾乎沒有相關(guān)性，顏色越深則相關(guān)性就越強(qiáng)。根據(jù)相關(guān)性分析的結(jié)果，確定將以下六個(gè)特征作為GBDT算法模型的輸入特征：

表3 GBDT算法模型輸入特征表Tab.3 GBDT algorithm model input characteristic table

2.3 GBDT回歸算法流程設(shè)計(jì)

按照數(shù)據(jù)科學(xué)的標(biāo)準(zhǔn)運(yùn)作流程進(jìn)行預(yù)測(cè)算法流程設(shè)計(jì)，明確訓(xùn)練數(shù)據(jù)集、交叉驗(yàn)證數(shù)據(jù)和測(cè)試數(shù)據(jù)集的數(shù)據(jù)流向，完整地反映從數(shù)據(jù)輸入到模型訓(xùn)練、參數(shù)調(diào)節(jié)、預(yù)測(cè)結(jié)果輸出直至預(yù)測(cè)結(jié)果驗(yàn)證的流程，為通過代碼構(gòu)建算法提供基礎(chǔ)性輸入資料。

本文所采用的數(shù)據(jù)集為多模態(tài)數(shù)據(jù)集[18]。在數(shù)據(jù)層面理解，多模態(tài)數(shù)據(jù)則可被看作多種數(shù)據(jù)類型的組合，如圖片、數(shù)值、文本、符號(hào)、音頻、時(shí)間序列，或者集合、樹、圖等不同數(shù)據(jù)結(jié)構(gòu)所組成的復(fù)合數(shù)據(jù)形式，乃至來自不同數(shù)據(jù)庫(kù)、不同知識(shí)庫(kù)的各種信息資源的組合[19]。因此，本文在多種氣象數(shù)據(jù)基礎(chǔ)上設(shè)計(jì)的機(jī)器學(xué)習(xí)方法應(yīng)該歸類為多模態(tài)機(jī)器學(xué)習(xí)算法。按照多模態(tài)機(jī)器學(xué)習(xí)算法設(shè)計(jì)模式進(jìn)行算法流程設(shè)計(jì)。

所完成的預(yù)測(cè)算法流程圖如下圖所示：

圖2 GBDT回歸算法流程圖Fig.2 GBDT regression algorithm flow chart

3 算法實(shí)施及結(jié)果驗(yàn)證

采用Python語(yǔ)言按照算法流程圖的設(shè)計(jì)進(jìn)行代碼構(gòu)建。將訓(xùn)練集中根據(jù)之前相關(guān)性分析選定的六個(gè)特征輸入GBDT算法模型，采用交叉驗(yàn)證數(shù)據(jù)集對(duì)于訓(xùn)練完成的模型進(jìn)行驗(yàn)證和參數(shù)調(diào)節(jié)[20]，運(yùn)用交叉驗(yàn)證思想的算法求解出來的屬性子集不僅進(jìn)一步降低了訓(xùn)練集合的總決策代價(jià)，而且更加有效地降低了測(cè)試集合的決策總代價(jià)[21]。參數(shù)調(diào)節(jié)過程中通過經(jīng)驗(yàn)法則防止出現(xiàn)而不會(huì)出現(xiàn)梯度消失[22]和梯度爆炸的問題。常用的參數(shù)調(diào)節(jié)方法有手動(dòng)調(diào)參和自動(dòng)調(diào)參兩種，手動(dòng)調(diào)參的方法是通過手動(dòng)調(diào)整超參數(shù)，直到找到一組很好的超參數(shù)值組合，這個(gè)過程需要通過手工調(diào)節(jié)進(jìn)行反復(fù)嘗試，從效率角度相對(duì)較低，但對(duì)于有足夠調(diào)參經(jīng)驗(yàn)的技術(shù)人員也是經(jīng)常被采用的調(diào)參方法。本文采用網(wǎng)格自動(dòng)調(diào)參方法，在算法實(shí)施過程中設(shè)置所需要調(diào)節(jié)的模型的超參數(shù)和需要嘗試的值的范圍，在算法實(shí)施過程中算法將會(huì)使用交叉驗(yàn)證來評(píng)估超參數(shù)值的所有可能組合，根據(jù)交叉驗(yàn)證的結(jié)果選擇使模型預(yù)測(cè)效果最為精準(zhǔn)的超參數(shù)組合。

最終，當(dāng)GBDT算法的參數(shù)調(diào)節(jié)至如下表所示時(shí)，模型的預(yù)測(cè)結(jié)果有較好的表現(xiàn)，如下表所示：

表4 GBDT算法參數(shù)表Tab.4 GBDT algorithm parameter table

其中，弱學(xué)習(xí)器的最大迭代次數(shù)太小，模型容易欠擬合，而太大又容易過擬合，一般與學(xué)習(xí)速率結(jié)合考慮，本文中經(jīng)過參數(shù)調(diào)節(jié)，當(dāng)弱學(xué)習(xí)器的最大迭代次數(shù)為100并且學(xué)習(xí)速率為0.3的時(shí)候，模型的表現(xiàn)最為良好。最大深度一般來說，數(shù)據(jù)少或者特征少的時(shí)候可以不管這個(gè)值，但是結(jié)合本文的數(shù)據(jù)多特征特點(diǎn)，需要限制最大深度防止過擬合，經(jīng)過參數(shù)調(diào)節(jié)，當(dāng)最大深度為3的時(shí)候，模型的表現(xiàn)最為良好。每個(gè)拆分的最小樣本數(shù)限制了模型子樹繼續(xù)劃分的條件，如果某節(jié)點(diǎn)的樣本數(shù)少于這個(gè)值，則不會(huì)繼續(xù)再嘗試選擇最優(yōu)特征來進(jìn)行劃分。 本文的數(shù)據(jù)樣本總量并不大，因此設(shè)置為2時(shí)模型的表現(xiàn)最為良好。葉節(jié)點(diǎn)處所需的最小樣本數(shù)限制了葉子節(jié)點(diǎn)最少的樣本數(shù)，如果某葉子節(jié)點(diǎn)數(shù)目小于樣本數(shù)，則會(huì)和兄弟節(jié)點(diǎn)一起被剪枝，同樣因?yàn)楸疚牡臄?shù)據(jù)樣本量不大，采用默認(rèn)的值1會(huì)使模型表現(xiàn)較為良好。

采用測(cè)試數(shù)據(jù)集對(duì)于參數(shù)調(diào)節(jié)完畢并已經(jīng)訓(xùn)練完成的模型進(jìn)行預(yù)測(cè)及結(jié)果驗(yàn)證。在驗(yàn)證指標(biāo)的選擇方面，由于決定預(yù)測(cè)模型精確性的評(píng)價(jià)指標(biāo)較多，采取單一的評(píng)價(jià)指標(biāo)容易受到計(jì)算誤差的影響[23]，因此本文采用的驗(yàn)證指標(biāo)為均方誤差(MSE)[24]及R方值，均方誤差(MSE)能夠判斷參數(shù)估計(jì)值與參數(shù)值之差平方的期望值，是衡量平均誤差的一種較方便的方法，通常用來評(píng)價(jià)數(shù)據(jù)的變化程度，MSE的值越小，說明預(yù)測(cè)模型描述實(shí)驗(yàn)數(shù)據(jù)具有更好的精確度。R方值能夠反映因變量的全部變異能通過回歸關(guān)系被自變量解釋的比例，其使用均值作為誤差基準(zhǔn)，計(jì)算預(yù)測(cè)誤差是否大于或者小于均值基準(zhǔn)誤差，R方值為1時(shí)代表樣本中預(yù)測(cè)值和真實(shí)值完全相等，沒有任何誤差，為0時(shí)代表樣本的每項(xiàng)預(yù)測(cè)值都等于均值，為負(fù)時(shí)代表模型的預(yù)測(cè)表現(xiàn)不如隨機(jī)采取，處于失效狀態(tài)[25]。

驗(yàn)證指標(biāo)的輸出結(jié)果及說明如下表所示：

表5 驗(yàn)證指標(biāo)輸出結(jié)果及說明Tab.5 Verification index output results and description

驗(yàn)證指標(biāo)顯示模型對(duì)于光伏電站出力有較好的預(yù)測(cè)效果。采用可視化工具進(jìn)一步驗(yàn)證模型的預(yù)測(cè)效果，選取測(cè)試數(shù)據(jù)集中的前100條數(shù)據(jù)及前500條數(shù)據(jù)，疊加繪制真實(shí)值及預(yù)測(cè)值，直觀顯示兩者之間的差異，如下圖所示：

圖3 測(cè)試集前100條數(shù)據(jù)預(yù)測(cè)值真實(shí)值對(duì)比曲線圖(藍(lán)色為預(yù)測(cè)值，黃色為真實(shí)值)Fig.3 Comparison curve of predicted value and real value of the first 100 data in the test set (blue is the predicted value and yellow is the real value)

圖4 測(cè)試集前500條數(shù)據(jù)預(yù)測(cè)值真實(shí)值對(duì)比曲線圖(藍(lán)色為預(yù)測(cè)值，黃色為真實(shí)值)Fig.4 Comparison curve of predicted value and real value of the first 500 data in the test set (blue is the predicted value and yellow is the real value)

兩幅預(yù)測(cè)值真實(shí)值對(duì)比曲線圖驗(yàn)證指標(biāo)同樣顯示模型對(duì)于光伏電站出力有較好的預(yù)測(cè)效果。

GBDT算法進(jìn)行訓(xùn)練模型時(shí),不能使用類似于mini-batch的方法，而是需要對(duì)樣本進(jìn)行無數(shù)次的遍歷。如果想要提高訓(xùn)練的速度，就必須提前把樣本數(shù)據(jù)加載到內(nèi)存中；但這樣會(huì)造成可以輸入的樣本數(shù)據(jù)受限于內(nèi)存的大小。然而在I/O數(shù)量眾多的情況下，算法運(yùn)行速度仍相對(duì)較慢。為了使GBDT能夠更加高效地使用更多的樣本，學(xué)者開始考慮引入分布式GBDT。但是相對(duì)于分布式GBDT，LightGBM更具優(yōu)越性。本文算法實(shí)施過程中所采用的LightGBM是一個(gè)實(shí)現(xiàn)GBDT的快速、分布式、高性能框架，它的特點(diǎn)是訓(xùn)練時(shí)保留所有梯度較大的樣本，而對(duì)梯度較小的樣本隨機(jī)采樣，并引入常量系數(shù)，抵消采樣對(duì)數(shù)據(jù)分布的影響。

其他能源電力行業(yè)在實(shí)施GBDT算法時(shí)LightGBM框架也是最常用的GBDT框架之一，如文獻(xiàn)[26]提出了基于LightGBM和深度神經(jīng)網(wǎng)絡(luò)(DNN)的配電網(wǎng)在線拓?fù)浔孀R(shí)方法。該方法借助LightGBM實(shí)現(xiàn)特征選擇，篩選出對(duì)配電網(wǎng)拓?fù)浔孀R(shí)最有效的少量量測(cè)。文獻(xiàn)[27]在基于卷積神經(jīng)網(wǎng)絡(luò)與LightGBM的短期風(fēng)電功率預(yù)測(cè)方法時(shí)考慮到單一卷積模型在預(yù)測(cè)風(fēng)電時(shí)的局限性，將LightGBM分類算法集成到模型中,從而提高預(yù)測(cè)的準(zhǔn)確性和魯棒性。

4 結(jié)論

(1)GBDT算法對(duì)于多維度特征的光伏出力預(yù)測(cè)有較好的預(yù)測(cè)效果，適用于光伏電站出力預(yù)測(cè)場(chǎng)景。由于光伏電站的數(shù)據(jù)各個(gè)特征維度之間的測(cè)量單位不同，各維度的單位之間存在數(shù)量級(jí)差異，與其他基于樹的模型類似，GBDT算法不需要對(duì)數(shù)據(jù)進(jìn)行縮放，能夠避免各維度的單位之間存在的數(shù)量級(jí)差異對(duì)模型的預(yù)測(cè)效果產(chǎn)生影響。

(2)通過相關(guān)性分析能夠準(zhǔn)確判斷對(duì)光伏電站出力影響較大的特征，從原始數(shù)據(jù)中找出具有物理意義的特征。從而剔除不相關(guān)或者冗余的特征，減少有效特征的個(gè)數(shù)，減少模型訓(xùn)練的時(shí)間，提高模型的精確度。

(3)本文所采用的交叉驗(yàn)證方法為Holdout交叉驗(yàn)證法，能夠避免模型訓(xùn)練過擬合[28]的情況。將整個(gè)數(shù)據(jù)集以60%、20%和20%的比例分別拆分成訓(xùn)練數(shù)據(jù)集、交叉驗(yàn)證數(shù)據(jù)集和測(cè)試數(shù)據(jù)集是較符合常規(guī)的做法，三個(gè)數(shù)據(jù)集之間需要確保完全獨(dú)立沒有重復(fù)。

(4)預(yù)測(cè)效果驗(yàn)證采用指標(biāo)驗(yàn)證和可視化驗(yàn)證結(jié)合的方式是較為理想的多角度驗(yàn)證手段。本文所采用的兩個(gè)驗(yàn)證指標(biāo)包括均方誤差(MSE)及R方值指標(biāo)適用于光伏電站出力預(yù)測(cè)場(chǎng)景。

(5)GBDT算法實(shí)施過程中，本文所采用的LightGBM是一個(gè)實(shí)現(xiàn)GBDT算法的快速、分布式、高性能框架，適用于光伏電站出力預(yù)測(cè)場(chǎng)景。

(6)本文在GBDT模型超參數(shù)調(diào)節(jié)過程中采用了網(wǎng)格自動(dòng)調(diào)參方法，在算法實(shí)施過程中算法將會(huì)使用交叉驗(yàn)證來評(píng)估超參數(shù)值的所有可能組合，根據(jù)交叉驗(yàn)證的結(jié)果選擇使模型預(yù)測(cè)效果最為精準(zhǔn)的超參數(shù)組合。避免了手工調(diào)節(jié)參數(shù)的片面性。

(7)光伏電站出力預(yù)測(cè)有超短期、短期，根據(jù)時(shí)間周期的不同可以采用不同的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)或者時(shí)序預(yù)測(cè)算法，可以考慮采用包含本文的GBDT模型在內(nèi)的多種預(yù)測(cè)模型融合的方案來適應(yīng)不同的時(shí)間周期預(yù)測(cè)。