基于優(yōu)化后的內(nèi)核極限學(xué)習(xí)機(jī)的短期風(fēng)力發(fā)電功率預(yù)測

宣 暢

(浙江工商大學(xué)薩塞克斯人工智能學(xué)院，浙江 杭州 310018)

xuan_chang@qq.com

1 引言(Introduction)

在現(xiàn)代化發(fā)展中，越來越需要一個穩(wěn)定、節(jié)能、經(jīng)濟(jì)的電力來源，因此利用可再生能源進(jìn)行發(fā)電的技術(shù)越來越被廣泛關(guān)注。在各種綠色可再生能源中，風(fēng)能是一種非常常見的綠色能源。近些年，我國各個地區(qū)也在大修風(fēng)電場來進(jìn)行風(fēng)力發(fā)電。但是，風(fēng)能是一種十分不穩(wěn)定且隨機(jī)性很強(qiáng)的資源，且這個特性會造成風(fēng)電場發(fā)電不穩(wěn)定。因此，需要通過一定的技術(shù)手段對風(fēng)力發(fā)電功率進(jìn)行預(yù)測，這也有利于風(fēng)電場的建設(shè)與維護(hù)，減輕風(fēng)能不穩(wěn)定的特性對電網(wǎng)造成的沖擊。

針對目前階段如何保證電力系統(tǒng)在得到最大化受益的同時，減少風(fēng)力發(fā)電帶來的沖擊，相關(guān)領(lǐng)域的研究學(xué)者提出了許多方法，如基于小波變換和BP神經(jīng)網(wǎng)絡(luò)預(yù)測法、支持向量機(jī)(Support Vector Machine,SVM)、人工蜂群算法優(yōu)化神經(jīng)網(wǎng)絡(luò)預(yù)測法、深淺層神經(jīng)網(wǎng)絡(luò)等預(yù)測方法，但效果并非最佳，因此本文建立了一個新型預(yù)測模型。

2 算法介紹(Introduction to the algorithm)

2.1 內(nèi)核極限學(xué)習(xí)機(jī)(KELM)

極限學(xué)習(xí)機(jī)(Extreme Learning Machine，ELM)雖然學(xué)習(xí)效率高，但基于經(jīng)驗(yàn)風(fēng)險最小化原理進(jìn)行學(xué)習(xí)，容易出現(xiàn)過擬合現(xiàn)象，為此HUANG提出了KELM算法，以提高其泛化能力。其數(shù)學(xué)模型推算如下：

根據(jù)KKT(Karush-Kuhn-Tucker)解式(1)可以轉(zhuǎn)換為如下等式：

將式(2)、式(3)和式(4)代入式(1)，則KELM模型的實(shí)際輸出可以寫成緊湊形式：

從上述一系列推導(dǎo)過程來看，與ELM人工調(diào)節(jié)參數(shù)的要求以及容易陷入局部最優(yōu)的缺點(diǎn)不同，KELM解決了ELM中的隨機(jī)初始化問題。同時，KELM具有較少的可調(diào)參數(shù)、更快的收斂速度和更好的泛化性能。由式(5)可以看出，KELM算法的性能主要和懲罰參數(shù)及核參數(shù)這兩個值有直接關(guān)系。這兩個值的變化也會影響模型預(yù)測的精度，所以需要用其他算法來優(yōu)化。

2.2 多元宇宙優(yōu)化算法(MVO)

多元宇宙優(yōu)化算法(MVO)是由MIRJALILI等根據(jù)白洞、黑洞、蟲洞這三個主要概念提出來的。白洞擁有很強(qiáng)的斥力；黑洞則有極高的引力；蟲洞是連接不同宇宙和傳輸物體的軌道。

MVO算法的優(yōu)化執(zhí)行過程分為兩個階段，即探測和開采。白洞和黑洞作用于探測階段，而蟲洞則作用于開采階段，其數(shù)學(xué)模型如下：

首先是初始化一個隨機(jī)宇宙種群：

接下來進(jìn)行的是選擇過程。由于每個宇宙?zhèn)€體的膨脹速度不同，宇宙?zhèn)€體中的物體會通過連接白洞和黑洞的隧道傳遞。膨脹率越高，物體通過隧道的概率越低。這個過程遵循輪盤賭機(jī)制，如式(7)所示:

有了上述機(jī)制，兩個宇宙在沒有攝動的情況下繼續(xù)交換物體。為了維持多元宇宙給每個宇宙提供局部的變化的多樣性和進(jìn)行開發(fā)，默認(rèn)每個宇宙是存在蟲洞的，且蟲洞可以隨機(jī)地在空間中傳輸物體，從而建立了一個機(jī)制，這個機(jī)制的構(gòu)想如下：

式(8)中，X表示到目前為止搜索到的最優(yōu)宇宙的第個參數(shù)，ub和lb分別為第個變量的上界和下界，、、為[0,1]范圍內(nèi)的隨機(jī)數(shù)。和分別為移動距離速率和蟲洞存在概率。用來定義蟲洞在宇宙中存在的概率，需要在迭代過程中線性增長，以強(qiáng)調(diào)作為優(yōu)化過程進(jìn)展的開發(fā)。定義一個物體在迄今為止獲得的最佳宇宙中被蟲洞傳送的距離變化率的一個因素。與相反，會隨著迭代次數(shù)的增加而增加，以便在獲得的最佳宇宙周圍進(jìn)行更精確的開發(fā)或搜索。兩個系數(shù)的自適應(yīng)公式如下：

式(9)中，min 和max 分別為最小值和最大值，均為手動設(shè)置；為當(dāng)前迭代次數(shù)；為最大迭代次數(shù)。

式(10)中，為迭代過程中的開發(fā)精度。

2.3 鯨魚優(yōu)化算法(WOA)

鯨魚優(yōu)化算法(WOA)是一種基于鯨魚捕獵行為而提出的優(yōu)化算法，主要過程分為：

(1)包圍獵物

鯨魚能夠搜尋獵物并將其包圍。鯨魚算法的初始位置是隨機(jī)賦予的，也就是說一開始鯨魚的位置為默認(rèn)的最佳位置，在經(jīng)過一輪搜尋后，算法會更新得到一個新的鯨魚位置。將適應(yīng)度作為對比條件將兩個位置進(jìn)行對比，如果新位置的適應(yīng)度較好則更新最佳位置，否則保留原位置。其公式如下：

(2)泡泡網(wǎng)螺旋更新

算法通過縮小環(huán)繞機(jī)制和螺旋更新位置機(jī)制對座頭鯨的泡泡網(wǎng)行為進(jìn)行數(shù)學(xué)建模，其數(shù)學(xué)模型如下：

為了模擬上述兩個同時發(fā)生的行為，建立了一個存在如下邏輯關(guān)系的數(shù)學(xué)模型：

式(16)中，是[0,1]中的隨機(jī)數(shù)。

(3)搜索階段

加強(qiáng)對WOA的探索，同樣地，基于向量→變化的方法也可以用于搜索過程。鯨魚將使用從當(dāng)前搜索代理中隨機(jī)選擇的位置來隨機(jī)搜索獵物，以相應(yīng)地更新它們的位置。其數(shù)學(xué)模型如下：

3 基于WOA-MVO 優(yōu)化的 KELM 風(fēng)電場發(fā)電量預(yù)測(Power generation prediction of KELM wind farm based on WOA-MVO optimization)

3.1 數(shù)據(jù)收集與處理

本文所使用的數(shù)據(jù)集是通過Renewables這個開源的天氣網(wǎng)站獲取的。該網(wǎng)站通過NASA MERRA全球再分析模型和CM-SAF's SARAH衛(wèi)星觀測獲取天氣數(shù)據(jù)來工作。本文選擇2019 年全年杭州的歷史天氣數(shù)據(jù)作為數(shù)據(jù)集的原始數(shù)據(jù)，其中包含風(fēng)電場的發(fā)電量和其他九個特征。

在最初的數(shù)據(jù)集中有許多天氣元素，由于風(fēng)電場的周圍環(huán)境、空氣的熱對流或渦流均能引起風(fēng)速變化，導(dǎo)致風(fēng)能具有強(qiáng)烈的隨機(jī)性、波動性和不確定性。但也并不是所有因素都會影響風(fēng)電場的發(fā)電量，所以為了使得預(yù)測模型達(dá)到更好的預(yù)測效果，本文還對此數(shù)據(jù)集進(jìn)行了優(yōu)化。

本文采用皮爾遜相關(guān)系數(shù)法對數(shù)據(jù)的特征值進(jìn)行了相關(guān)性分析，結(jié)果如圖1和圖2所示。

圖1 皮爾遜相關(guān)系數(shù)法Fig.1 Pearson correlation coefficient method

圖2 風(fēng)速與發(fā)電量的變化規(guī)律Fig.2 Variation law of wind speed and power generation

圖1表示的是各個天氣因素與通過風(fēng)電場發(fā)電量計算得到的皮爾遜系數(shù)的值，皮爾遜系數(shù)大于0.1且其值越大，相關(guān)性就越高。圖2表示的是單個因素與發(fā)電量的變化規(guī)律。可以看出，風(fēng)電場發(fā)電量與風(fēng)速是密切相關(guān)的，其次就是溫度、云層覆蓋量和空氣密度。

3.2 數(shù)據(jù)集的構(gòu)建

經(jīng)過上述分析，本文選取風(fēng)速、溫度、空氣密度和云層覆蓋量四個特征點(diǎn)，將它們與每天每小時持續(xù)365 天所測得的真實(shí)發(fā)電量組合構(gòu)建一個8760×5的數(shù)據(jù)集，部分?jǐn)?shù)據(jù)集展示如表1所示。

表1 部分?jǐn)?shù)據(jù)集Tab.1 Partial data sets

3.3 建立WOA-MVO-KELM預(yù)測模型

雖然KELM具有較少的可調(diào)參數(shù)、更快的收斂速度和更好的泛化性能，但仍有不足之處，即懲罰參數(shù)和核參數(shù)是隨機(jī)產(chǎn)生的，且這兩個值的不同對結(jié)果也有著很大的影響。目前還沒有公認(rèn)統(tǒng)一的最佳方法來對KELM進(jìn)行優(yōu)化。通常是用網(wǎng)格搜索方法來優(yōu)化參數(shù)，但是該方法在設(shè)置參數(shù)范圍方面會遇到困難，并且容易陷入局部最優(yōu)。

本文先利用WOA算法進(jìn)行一個初始化種群的工作，通過多次運(yùn)算WOA算法，每次得到一個最優(yōu)位置向量并保存在一個矩陣?yán)铮詈髮⑦@個矩陣作為MVO算法的初始宇宙種群得到一個優(yōu)化后的WOA-MVO混合優(yōu)化算法。然后利用WOAMVO混合優(yōu)化算法對KELM模型里的兩個參數(shù)進(jìn)行進(jìn)一步的尋優(yōu)，利用黑洞、白洞和蟲洞的開發(fā)與搜索獲得一個最優(yōu)的懲罰參數(shù)和核參數(shù)的組合，并將此組合賦予KELM模型。最后，本文提出了基于鯨魚算法改進(jìn)的多元宇宙算法優(yōu)化的KELM，即WOA-MVO-KELM，該方法的總體框架如圖3所示。

圖3 WOA-MVO-KELM預(yù)測模型流程圖Fig.3 Flow chart of WOA-MVO-KELM prediction model

在圖3中，預(yù)測模型主要由兩個程序組成，包括參數(shù)優(yōu)化和預(yù)測屬性評估。左半部分為改進(jìn)的MVO優(yōu)化算法搜尋最優(yōu)參數(shù)組合的過程，當(dāng)內(nèi)部參數(shù)優(yōu)化過程終止時，將最優(yōu)參數(shù)對輸入KELM預(yù)測模型進(jìn)行10折交叉驗(yàn)證，然后進(jìn)行預(yù)測工作。最后通過計算得出均方差(MSE)、均方根誤差(RMSE)和真實(shí)值與預(yù)測值的平均誤差進(jìn)行預(yù)測效果評估。MSE和RMSE的數(shù)學(xué)表達(dá)式如下：

3.4 內(nèi)核極限學(xué)習(xí)機(jī)(KELM)參數(shù)研究

KELM的可設(shè)參數(shù)其實(shí)只有兩個，分別是懲罰參數(shù)和核參數(shù)，相較于ELM，它無須設(shè)置隱藏節(jié)點(diǎn)的數(shù)目，因?yàn)樗鼘⑦@些煩瑣的步驟都用一個內(nèi)核函數(shù)所替代。而本文將通過對這兩個參數(shù)的動態(tài)分析確定一個相對較好的參數(shù)組合，以便于后續(xù)對其他算法的研究對比。選取總數(shù)據(jù)集的四分之一即1,464 個樣本作為訓(xùn)練和測試的樣本數(shù)據(jù)，分別設(shè)定懲罰參數(shù)為1，核參數(shù)取值為：0.1、5、10、15、20、25、30、35、40、45、50；再設(shè)定核參數(shù)為1，懲罰參數(shù)取值為：0.1、5、10、15、20、25、30、35、40、45、50。繪制出的平均均方根誤差變化圖如圖4和圖5所示。

圖4 c=1平均均方根誤差變化圖Fig.4 When c=1,variation diagram of average RMSE

圖5 g=1平均均方根誤差變化圖Fig.5 When g=1,variation diagram of average RMSE

上述兩幅圖所示的為和在(0,50]區(qū)間內(nèi)的變化范圍，為了實(shí)驗(yàn)的嚴(yán)謹(jǐn)性，現(xiàn)在分別補(bǔ)充設(shè)定=100(取100、200、300、400、500、600)和=100(取100、200、300、400、500、600)，繪制平均均方根誤差變化圖，如圖6和圖7所示。

圖6 c=100平均均方根誤差變化圖Fig.6 When c=100,variation diagram of average RMSE

圖7 g=100平均均方根誤差變化圖Fig.7 When g=100,variation diagram of average RMSE

最后，再將四次實(shí)驗(yàn)的懲罰參數(shù)和核參數(shù)的值混合起來，繪制三維直觀圖，可以清晰地分析出懲罰參數(shù)相較于核參數(shù)對預(yù)測的精準(zhǔn)度影響更大，如圖8和圖9所示。

圖8 c、g各取[1,50]Fig.8 c,g in [1,50]

圖9 c、g各取[100,600]Fig.9 c,g in [100,600]

3.5 多元宇宙算法(MVO)參數(shù)研究

為了研究WOA-MVO-KELM中MVO的標(biāo)準(zhǔn)參數(shù)的影響，在KELM所選核函數(shù)為徑向基核函數(shù)的條件下，選取總數(shù)據(jù)集的四分之一即1,464 個樣本作為訓(xùn)練和測試的樣本數(shù)據(jù)。通過對MVO的研究可以發(fā)現(xiàn)，在算法中存在三個重要參數(shù)，一個為開發(fā)精度，如式(21)所示：

另外兩個參數(shù)分別為宇宙種群數(shù)量和最大迭代次數(shù)。因此本文進(jìn)行了三組不同開發(fā)精度的對比實(shí)驗(yàn)，分別取=2、=4和=6，每組實(shí)驗(yàn)的變量分別為不同組合的種群數(shù)量和最大迭代次數(shù)。為確保實(shí)驗(yàn)的準(zhǔn)確性，三組實(shí)驗(yàn)的橫縱坐標(biāo)取值范圍相同，種群數(shù)取10、20、30、40、50這五個不同的值，最大迭代次數(shù)取10、20、30、40、50、60、70、80這八個不同的值。然后對樣本進(jìn)行預(yù)測，獲得平均均方根誤差，結(jié)果如圖10至圖12所示。

圖10 p=2時，最大迭代次數(shù)與種群數(shù)目組合下平均均方根誤差變化圖Fig.10 When p=2,variation diagram of average RMSE under the combination of maximum iteration times and population number

圖11 p=4時，最大迭代次數(shù)與種群數(shù)目組合下平均均方根誤差變化圖Fig.11 When p=4,variation diagram of average RMSE under the combination of maximum iteration times and population number

圖12 p=6時，最大迭代次數(shù)與種群數(shù)目組合下平均均方根誤差變化圖Fig.12 When p=6,variation diagram of average RMSE under the combination of maximum iteration times and population number

通過對比分析圖10、圖11、圖12，可以得到開發(fā)精度=6時，算法的預(yù)測準(zhǔn)確度最高且較為穩(wěn)定，區(qū)間內(nèi)算法的平均準(zhǔn)確率相對較為穩(wěn)定。如圖13至圖15所示為不同種群數(shù)與迭代次數(shù)組合下的氣泡圖，每一個氣泡的半徑為在此組合下的平均均方根誤差值。通過分析和對比可以得出，迭代次數(shù)越高，模型預(yù)測的精度越高且種群數(shù)為50、迭代次數(shù)為80時效果最好。但迭代次數(shù)過高的話會導(dǎo)致運(yùn)行時間過長從而降低算法的運(yùn)算效率，所以本文最終選取開發(fā)精度為6、種群數(shù)為50、最大迭代次數(shù)為30作為實(shí)驗(yàn)所用參數(shù)。

圖13 p=2時，最大迭代次數(shù)與種群數(shù)目組合下的氣泡圖Fig.13 When p=2,bubble graph under the combination of maximum iteration times and population number

圖14 p=4時，最大迭代次數(shù)與種群數(shù)目組合下的氣泡圖Fig.14 When p=4,bubble graph under the combination of maximum iteration times and population number

圖15 p=6時，最大迭代次數(shù)與種群數(shù)目組合下的氣泡圖Fig.15 When p=6,bubble graph under the combination of maximum iteration times and population number

3.6 發(fā)電功率預(yù)測實(shí)驗(yàn)結(jié)果與對比分析

(1)預(yù)測實(shí)驗(yàn)結(jié)果

設(shè)定好主預(yù)測模型WOA-MVO-KELM的參數(shù)后，本文同時選取了10 組其他對比試驗(yàn)，以便更好地體現(xiàn)主模型的預(yù)測效果。10 組對比實(shí)驗(yàn)分別有：KELM模型、MVOKELM模型、WOA-KELM模型、MFO-KELM模型、PSOKELM模型、GOA-KELM模型、ELM模型、BP神經(jīng)網(wǎng)絡(luò)模型、SVR模型、OSELM模型。本文所有實(shí)驗(yàn)是在MATLAB-R2021編譯環(huán)境下實(shí)現(xiàn)的。由于所研究的模型為WOA-MVO-KELM，其可變的參數(shù)僅有MVO中的種群數(shù)目和最大迭代次數(shù)，因此本文選取這兩個參數(shù)進(jìn)行預(yù)測實(shí)驗(yàn)。將以上10 種模型分別運(yùn)行10 次，記錄下每次的數(shù)據(jù)。實(shí)驗(yàn)結(jié)果將通過以下四個指標(biāo)進(jìn)行算法性能評估，分別為：均方根誤差(RMSE)、平均預(yù)測誤差(Avg_error)、最好預(yù)測誤差值(Best_error)和最壞預(yù)測誤差值(Worst_error)。對上述四個值的10 次數(shù)據(jù)取平均值并記錄在表2和表3中。其中WOAMVO-KELM模型為性能最好的模型。

表2 WOA-MVO-KELM與KELM相關(guān)的算法進(jìn)行比較Tab.2 Comparison between WOA-MVO-KELM and KELM related algorithms

表3 WOA-MVO-KELM與其他算法進(jìn)行比較Tab.3 Comparison between WOA-MVO-KELM and other algorithms

圖16至圖23為與KELM相關(guān)的預(yù)測模型的部分樣本真實(shí)值與預(yù)測值的結(jié)果展示圖和真實(shí)值及預(yù)測值的誤差與0值的對比圖。從對比實(shí)驗(yàn)結(jié)果圖可以看出，本文所搭建的預(yù)測模型預(yù)測精確度最高，且誤差幾乎為與0線擬合，并且通過優(yōu)化得到的最佳KELM參數(shù)組合為=476.008，=29.2314。

圖16 WOA-MVO-KELM預(yù)測結(jié)果圖Fig.16 Prediction results diagram of WOA-MVO-KELM

圖17 WOA-MVO-KELM誤差圖Fig.17 WOA-MVO-KELM error diagram

圖18 MVO-KELM預(yù)測結(jié)果圖Fig.18 Prediction results diagram of MVO-KELM

圖19 MVO-KELM誤差圖Fig.19 MVO-KELM error diagram

圖20 PSO-KELM預(yù)測結(jié)果圖Fig.20 Prediction results diagram of PSO-KELM

圖21 PSO-KELM誤差圖Fig.21 PSO-KELM error diagram

圖22 KELM預(yù)測結(jié)果圖Fig.22 Prediction results diagram of KELM

圖23 KELM誤差圖Fig.23 KELM error diagram

(2)穩(wěn)定性分析

本文通過使用箱型圖來分析算法的穩(wěn)定性，箱形圖最大的優(yōu)點(diǎn)就是不受異常值的影響，能夠準(zhǔn)確穩(wěn)定地描繪出數(shù)據(jù)的離散分布情況。每種算法經(jīng)過10 次運(yùn)行，將每一次運(yùn)算得到的均方根誤差記錄下來，最后將每個模型的10 次結(jié)果繪制成兩張箱型圖，一張是WOA-MVO-KELM模型與其他KELM相關(guān)預(yù)測模型的對比，如圖24所示；另一張是WOAMVO-KELM模型與其他預(yù)測模型的對比，如圖25所示。圖24和圖25中的箱型代表實(shí)驗(yàn)結(jié)果的分布，在箱子內(nèi)的值以中間那條中位線為界限分成上四分位數(shù)和下四分位數(shù)，箱子外上下兩根線表示的是上限和下限，“+”代表的是該數(shù)據(jù)中的異常值。由這兩張圖可以看出，本文所組建的預(yù)測模型穩(wěn)定性最強(qiáng)，因?yàn)槠渖舷滤姆治粩?shù)值的間距極小且非常對稱緊湊，也沒有異常值，而其他算法的穩(wěn)定性則參差不齊。本文還分析了WOA-MVO-KELM與其他算法的收斂曲線，如圖26所示。

圖24 均方根誤差分布圖(與其他KELM相關(guān)預(yù)測模型對比)Fig.24 RMSE distribution diagram (Compared with other KELM related prediction models)

圖25 均方根誤差分布圖(與其他預(yù)測模型對比)Fig.25 RMSE distribution diagram (Compared with other prediction models)

圖26 WOA-MVO-KELM與其他算法的收斂曲線Fig.26 Convergence curve of WOA-MVO-KELM and other algorithms

到目前為止的平均值表示在10 次運(yùn)行的每次迭代中獲得的最佳解決方案的平均值。從圖26可以看出，MVO優(yōu)化算法的模型經(jīng)過五次左右迭代后才收斂到最優(yōu)，這可能是由于MOV在避免局部最優(yōu)時，在迭代的初始步驟中沒有找到一個好的解決方案進(jìn)行利用，所以該算法一直在搜索空間中搜索，尋找好的解決方案收斂于它們，但是通過WOA算法對其初始種群的優(yōu)化，發(fā)現(xiàn)WOA-MVO-KELM模型收斂次數(shù)在10 次以下并且收斂到的結(jié)果最優(yōu)，其他算法收斂速度慢或收斂結(jié)果差。通過對這些數(shù)據(jù)的分析，可以看到WOA-MVOKELM算法可以快速收斂且收斂的結(jié)果最好。

4 結(jié)論(Conclusion)

本文針對目前短期風(fēng)力發(fā)電預(yù)測的精確度不理想、效率低等一系列問題，設(shè)計了一個基于WOA-MVO混合優(yōu)化算法的KELM預(yù)測模型。首先為解決KELM模型的隨機(jī)參數(shù)問題，本文選用了MVO算法進(jìn)行最優(yōu)參數(shù)組合搜尋，在搜索之前先使用WOA算法對MVO算法的初始群數(shù)進(jìn)行優(yōu)化，得到一個較為優(yōu)秀的種群代入WOA算法中。然后將最優(yōu)參數(shù)組合放回KELM模型里進(jìn)行訓(xùn)練，最終成功構(gòu)建了一個新型預(yù)測模型。通過對真實(shí)風(fēng)電場歷史數(shù)據(jù)實(shí)驗(yàn)結(jié)果的分析，本文采用的WOA-MVO-KELM預(yù)測模型相較于ELM、BP神經(jīng)網(wǎng)絡(luò)、SVR等其他現(xiàn)存的預(yù)測模型具有更高的精度和良好的泛化能力。