考慮特征提取和優化LSSVM的短期光伏功率預測

岳有軍, 劉金林, 趙 輝, 王紅君

(天津理工大學 電氣工程與自動化學院 天津市復雜系統控制理論及應用重點實驗室, 天津 300384)

0 引言

光伏發電作為重要的清潔可再生能源,近年來得到迅速發展,世界范圍內制定了許多法規和激勵措施來提高光伏發電量[1].由于光伏發電受到天氣因素的影響,其輸出功率具有隨機性、波動性和間歇性的特點,大規模并網會對電網的穩定性造成很大的沖擊[2,3].因此,準確而有效的光伏發電功率預測信息能夠為電網安全穩定的調度提供保障[4].

光伏發電功率預測方法可分為物理法和統計法兩類[5,7].物理法根據光伏電站的地理位置,綜合分析光伏電池板、逆變器等多種設備的特性,得到光伏發電輸出功率與數值天氣預報的物理關系,對光伏發電輸出功率進行預測.物理法雖然不需要歷史數據的支持,但其對光伏電站地理信息以及氣象數據可靠性要求較高,且易受外界條件的影響,抗干擾能力差,因此應用較少[8].統計法主要包括時間序列法[9]、支持向量機[10]、人工神經網絡[11]、組合預測法[12]等.針對光伏數據隨機性、波動性較強的特點,為提高預測的準確性,許多學者會對原始數據進行特征提取.文獻[13]通過一個一維CNN網絡對多個關鍵氣象變量進行特性轉換,然后構造雙向LSTM進行預測.文獻[14]使用兩個并行的CNN網絡進行特征提取,然后將提取的特征融合后送入LSTM中進行光伏功率預測,實驗結果表明進行特征提取可以有效提高預測精度.

支持向量機(Support Vector Machines,SVM)是一種基于監督學習的用于數據二元分類的廣義線性分類器,可以有效地解決傳統神經網絡結果容易陷入局部極小值以及過擬合等問題.最小二乘支持向量機是在SVM基礎上的改進,降低了求解難度,提高了運行速度.文獻[15]使用改進蝙蝠算法優化LSSVM,有效的提高了預測精度,但沒有考慮輸入特征對預測效果的影響.文獻[16]采用集合經驗模態分解(Ensemble Empirical Mode Decomposition,EEMD)將歷史功率序列分解,然后將不同頻率的分量放入LSSVM進行預測,采用集合經驗模態分解可以有效降低光伏功率序列的非平穩性,但沒有對LSSVM的參數進行尋優,會影響預測的精度.文獻[17]采用互補式集合模態分解將負荷序列分解,然后采用SSA算法對LSSVM模型參數進行尋優,實驗結果表明可以有效提高負荷預測的精度,但SSA算法迭代后期容易陷入局部最優,影響尋優的效果.

綜合上述分析,本文提出一種基于CNN-LSTM-ISSA-LSSVM短期功率預測的組合模型.首先,為更好的提取數據中的隱藏特征和長期依賴性特征,結合了CNN和LSTM的優點構成CNN-LSTM特征提取模型;然后將提取出的特征向量輸入到LSSVM模型中進行預測;對SSA算法的不足進行了改進,并采用ISSA算法對LSSVM的參數進行尋優;最后通過與CNN、LSTM、CNN-LSTM、SSA-LSSVM、CNN-LSTM-LSSVM、CNN-LSTM-SSA-LSSVM模型的預測結果進行對比,驗證了CNN-LSTM-ISSA-LSSVM模型的有效性和優越性.

1 CNN-LSTM特征提取

1.1 卷積神經網絡

CNN主要由輸入層、卷積層、池化層、全連接層和輸出層組成,被廣泛應用于圖像處理、視頻處理等領域.其中輸入層主要對輸入的數據進行預處理,包括去均值、歸一化等.卷積層是CNN中最重要的一層,包括局部感知、參數共享機制、窗口滑動、卷積計算等.池化層主要對數據進行壓縮,可以降低維度,在一定程度上防止過擬合的發生.全連接層對前面的輸出進行重新組合.由于CNN使用局部感知和參數共享機制,所以它對較大的數據集處理能力較高,對高維的數據處理也沒有壓力.其結構如圖1所示.

圖1 CNN結構

1.2 長短期記憶網絡

LSTM在RNN的基礎上加入了門控結構,解決了RNN容易出現梯度消失和梯度爆炸的缺點,可以適用于長期依賴性問題,并廣泛應用于股票預測、功率預測等場景.LSTM單個細胞結構如圖2所示,主要由遺忘門ft、輸入門it和輸出門ot組成[18].遺忘門決定上一時刻單元狀態的遺忘程度,輸入門決定讓多少新信息加入到細胞狀態中,輸出門將基于細胞狀態確定輸出值.LSTM的主要計算公式如下所示:

ft=σ(Wf·[ht-1,xf]+bf)

(1)

it=σ(Wi·[ht-1,xt]+bi)

(2)

(3)

(4)

ot=σ(Wo·[ht-1,xt]+bo)

(5)

ht=ot·tanh(ct)

(6)

式(1)～(6)中:Wf、Wt、Wo分別為ft、it、ot的權重矩陣;bf、bi、bo分別為ft、it、ot的偏置;σ為sigmoid激活函數.

圖2 LSTM細胞結構

1.3 CNN-LSTM特征提取模型

CNN雖在數據特征提取方面具有明顯的優勢,但在處理具有長期依賴性數據時具有不足,而LSTM擅長處理長期依賴性數據,因此本文將結合CNN與LSTM的優點構成CNN-LSTM特征提取模型,然后將提取出來的特征向量輸入到LSSVM模型中進行訓練與預測,不僅能提升訓練速度,而且能提高預測精度.CNN-LSTM特征提取模型如圖3所示.輸入數據首先經過兩個CNN層提取隱藏特征,其次經過展平層對數據進行展平化處理,然后經過兩層LSTM層提取數據中的長期依賴性特征,最后經過全連接層輸出預測結果.將LSTM第二層輸出的向量作為CNN-LSTM模型提取出的具有隱藏特征和長期依賴性特征的特征向量.

圖3 CNN-LSTM特征提取模型

2 改進麻雀搜索算法優化最小二乘支持向量機

2.1 最小二乘支持向量機

LSSVM采用最小二乘線性系統作為損失函數,用等式約束代替了SVM的不等式約束,將原問題轉變為解線性方程組問題,降低了求解難度,提高了運行速度[19].LSSVM的優化問題可以轉變為:

(7)

式(7)中:ω為權向量;C為懲罰因子;ξi為松弛變量;b為偏置.

引入拉格朗日函數將上述優化問題轉化為對參數α求極值問題:

(8)

對式(8)中的ω,b,ξ,a求偏導,并令四個偏導數等于0,消除ω和ξi,可以得到:

(9)

式(9)中:E=[1,1,…,1]T;Ω為核映射矩陣,Ωij=φ(xi)Tφ(xj);I為單位矩陣;y=[y1,y2,…,yn]T.

最終得到LSSVM分類函數為:

(10)

LSSVM的回歸性能受到核函數類型及其參數的影響,本文選擇徑向基核函數(radial basis function,RBF),其表達式為:

(11)

式(11)中:σ為RBF核函數參數.從LSSVM建模過程可知,懲罰因子C和核函數參數σ對預測結果有較大的影響,因此本文選擇用ISSA搜索算法對兩個參數進行優化.

2.2 麻雀搜索算法及其改進

2.2.1 麻雀搜索算法

SSA是一種新提出的群體智能算法,相較于傳統的粒子群等優化算法,該算法的收斂速度更快,尋優精度更高.SSA算法受到麻雀捕食與反捕食過程的啟發,將麻雀個體分為發現者、加入者和警戒者.

設麻雀初始種群位置為Xij=(xi1,xi2,…,xiD),其中D表示D維搜索空間,Xij表示第i只麻雀在第j維的位置.

SSA算法將容易找到食物的個體稱為發現者,其本身具有較高的適應度值,主要負責確定覓食方向.發現者的位置關系可以表示為:

(12)

式(12)中:t為當前迭代次數;Tmax為最大迭代次數;α∈[0,1]為一個隨機數;Q為一個服從高斯分布的隨機數;L為元素均為1的1×d的矩陣;R2和ST分別為麻雀種群的預警值和安全值;當R2

SSA算法中加入者主要跟隨發現者進行覓食,從而不斷提高自身的適應度.當加入者監視發現者找到食物時,他們會離開當前位置去爭奪食物.加入者的位置更新可以表示為:

(13)

麻雀種群中存在一定比例的警戒者,當意識到危險時將做出反捕行為.警戒者的位置更新可以表示為:

(14)

式(14)中:Xbest為麻雀種群最佳位置,β為服從正態分布的隨機數,用于步長控制;K∈[-1,1]的一個隨機數;ε為避免分母為0的最小常數;fi為當前麻雀適應度值;fb和fw分別為當前最佳和最差的適應度值.當fi>fb時,表示麻雀個體處于種群的邊緣位置,極易受到捕食者的捕食;當fi=fb時,表示麻雀中的個體感知到了危險的存在,需要靠近其他麻雀來提高自身的安全性.

2.2.2 麻雀搜索算法的改進

(1)Circle混沌初始化策略

基礎麻雀算法采用隨機生成的方式對種群進行初始化,這種方式會導致種群分布不均勻,影響后期的迭代尋優.而Circle映射具有隨機性和遍歷性的特點,可以用于提高種群的多樣性.Circle映射表達式如下:

(15)

式(15)中:i為維度.

(2)樽海鞘群優化策略

基礎麻雀算法中,由發現者位置更新公式可知,當R2≤ST時,個體以向零點靠近的方式收斂于最優解,在每次迭代后個體的位置都在變小,而在零點附近有較強的局部搜索能力.這樣就導致麻雀算法在前期搜索能力不足,全局搜索能力下降.為解決上述問題,可以借鑒樽海鞘群算法的領導者位置更新策略.樽海鞘群算法的領導者位置更新策略如下:

(16)

將樽海鞘群算法中的領導者位置更新策略引入到麻雀算法的發現者位置更新策略中,可以提高麻雀算法迭代前期的搜索范圍和全局搜索能力,同時也可以提高迭代后期的收斂速度和局部開發的能力.改進后的發現者位置更新策略可以表示為:

(17)

(3)柯西-高斯變異策略

在基礎麻雀算法的迭代后期,麻雀種群的多樣性降低,容易出現局部最優的情況.為解決上述問題,引入柯西-高斯變異策略,選擇當前適應度最好的個體進行變異,然后比較變異前后的位置,選擇較優的位置代入下一次迭代.柯西-高斯變異策略可以表示為:

(18)

(19)

2.3 改進麻雀搜索算法優化最小二乘支持向量機

LSSVM中的懲罰因子C和核函數參數σ對模型的預測結果有決定性的作用,因此用ISSA算法對其參數進行尋優.流程圖如圖4所示,具體步驟如下:

圖4 ISSA-LSSVM流程

(1)初始化參數.包括種群數量、最大迭代次數、發現者和警戒者比例等;

(2)利用Circle混沌映射初始化種群;

(3)計算麻雀種群的初始適應度值并排序,并根據適應度值選取出最優個體和其對應的位置以及最差個體和其對應的位置;

(4)按照發現者比例選取適應度值高的個體作為發現者,根據式(17)更新位置;

(5)剩余個體作為加入者,根據式(13)更新位置;

(6)按照警戒者比例隨機選擇警戒者,根據式(14)更新位置;

(7)計算更新后麻雀種群的適應度值,并選取最優個體對其進行柯西-高斯變異;

(8)判斷變異個體是否優于原個體,若是則用變異個體替代原個體,否則保持原個體不變;

(9)判斷是否達到最大迭代次數,若是則輸出最優參數,否則返回(3);

(10)將最優參數輸入到LSSVM.

3 基于CNN-LSTM-ISSA-LSSVM的光伏功率短期預測模型

綜合上述分析,本文提出了一種基于CNN-LSTM-ISSA-LSSVM的光伏功率短期預測方法,其模型如圖5所示.本文模型的預測步驟如下:

(1)數據預處理.對收集到的原始數據進行異常值檢測與修正,同時劃分訓練集與測試集.

(2)對功率歷史數據與天氣因素進行Pearson相關性分析,確定天氣輸入特征.

(3)將訓練集輸入到CNN-LSTM網絡進行訓練并提取特征向量.

(4)將提取出的特征向量輸入到經過ISSA優化的LSSVM模型中進行訓練.

(5)將測試集輸入到訓練好的模型中進行預測,得到最終預測結果.

(6)采用平均絕對誤差(Mean Absolute Error,MAE)和均方根誤差(Root Mean Square Error,RMSE)來評價預測模型的準確性.

圖5 CNN-LSTM-ISSA-LSSVM預測流程

4 算例分析

采用澳大利亞愛麗絲泉光伏研究中心2017年6、7、8月份的光伏歷史發電功率和氣象數據.數據采樣間隔為15 min,每天采樣96組數據.分為兩組進行訓練與預測,第一組采用6月1日～8月29日的光伏發電功率和氣象數據作為訓練集,對8月30日的光伏發電功率進行預測;第二組采用8月1日～8月25日的光伏發電功率和氣象數據作為訓練集,對8月26日～8月30日的光伏發電功率進行預測.

4.1 相關性分析

本文采用Pearson相關系數來衡量各影響因素與光伏發電輸出功率之間的相關性大小.其表達式為:

(20)

表1 光伏發電功率與氣象因素相關性系數

由表1可知,光伏發電功率與輻照度呈極強相關性,與溫度、相對濕度呈中等相關性,與風速呈弱相關性,與風向呈極弱相關性.因此選擇輻照度、溫度、相對濕度、風速4種天氣因素作為天氣輸入特征.

4.2 數據預處理

歸一化可以將有量綱的數值轉化為無量綱的數值,通常將數據轉換到[0,1]區間內,可以加快模型訓練速度.其表達式為:

(21)

式(21)中:xnorm為歸一化后的數據;x為原始數據;xmax和xmin分別為數據中的最大值和最小值.

4.3 誤差評價指標

為了更好的評價模型的預測精度,本文選取了平均絕對誤差(MAE)和均方根誤差(RMSE)作為預測模型的評價指標.它們的計算公式為:

(22)

(23)

4.4 仿真實驗

在MATLAB平臺上進行仿真實驗,由于光伏出力具有間歇性,因此選取6:30-18:30的預測結果進行展示.為驗證本文提出的基于CNN-LSTM-ISSA-LSSVM光伏功率預測模型的優越性以及使用CNN-LSTM進行特征向量提取的必要性和ISSA優化LSSVM的有用性,從而說明本文所提出的光伏功率預測模型的準確性有顯著的提升,分別采用SSA-LSSVM、CNN-LSTM-LSSVM、CNN-LSTM-SSA-LSSVM和CNN-LSTM-ISSA-LSSVM模型進行預測,同時與單一的CNN和LSTM模型以及CNN-LSTM組合模型的預測結果進行比較.

經過多次實驗,CNN-LSTM模型參數設置如下:第一個CNN層的卷積核大小為3×1,數量為8,第二個CNN層的卷積核大小為2×1,數量為16;LSTM第一層隱含層節點數為50,第二層隱含層節點數為10.SSA和ISSA中最大迭代次數Tmax=50,種群數量N=30.第一組中CNN、LSTM、CNN-LSTM的迭代損失曲線對比如圖6所示,損失值即為模型的預測值與真實值之間的差值,損失值越低,模型性能越好.CNN-LSTM-SSA-LSSVM中的SSA迭代收斂曲線和CNN-LSTM-ISSA-LSSVM中的ISSA的迭代收斂曲線對比如圖7所示,以訓練集預測值與真實值誤差的絕對值之和作為適應度函數值,適應度值越低,說明預測模型精度越高.第一組7種模型的預測結果如圖8所示.第二組7種模型的預測結果對比如圖9所示.

由圖6三種模型的迭代損失曲線對比圖可知,CNN-LSTM模型的損失值最低,其損失值為0.001 1,說明CNN-LSTM模型的效果最好.

圖6 迭代損失曲線

由圖7兩種算法的迭代收斂曲線可知,SSA算法迭代到第7次達到最優解,而改進后的ISSA算法迭代到第2次就達到最優解,并且ISSA算法的最優適應度值低于SSA算法,說明對SSA算法的改進具有很好的效果.

圖7 迭代收斂曲線

由圖8可知,CNN-LSTM相較于單一的CNN、LSTM模型預測精度有所提升,說明組合模型相較于單一的模型具有優勢.進行特征提取的CNN-LSTM-SSA-LSSVM模型預測效果比不進行特征提取的SSA-LSTM模型預測效果有所提升,而且在模型訓練時,CNN-LSTM-SSA-LSSVM模型的訓練速度要明顯快于SSA-LSTM模型,說明進行特征提取不僅能提高預測的精度,而且能加快模型的訓練速度.利用SSA算法進行優化的CNN-LSTM-SSA-LSSVM模型以及利用ISSA算法進行優化的CNN-LSTM-ISSA-LSSVM模型的預測精度要高于CNN-LSTM-LSSVM模型,說明進行參數尋優可以有效提高模型的性能.

圖8 第一組不同模型預測結果對比

由圖9可知,減少訓練集的數量,增加測試集的數量后,雖然各模型也能較好的預測出光伏功率輸出,但是相較于第一組各模型的預測精度均有所下降.

圖9 第二組不同模型預測結果對比

為進一步驗證本文所提模型的優越性,將本文模型與其他模型的評價指標和建模時間進行對比,如表2所示.

表2 不同模型評價指標與建模時間對比

由表2可知,第一組和第二組中本文模型的MAE和RMSE均低于其他模型,說明本文模型具有較高的預測精度.但相比之下,第二組各模型的MAE、RMSE均高于第一組模型,建模時間有所減少,說明減少訓練集的數量,增加測試集的數量后,雖然可以減少建模的時間,但是預測精度也會有所下降.第一組和第二組中組合模型的MAE和RMSE均低于單一模型,說明組合模型可以有效提升預測精度.CNN-LSTM-SSA-LSSVM模型相較于SSA-LSSVM模型在第一組中和第二組中MAE分別下降了32.55%、32.30%,RMSE分別下降了33.36%、37.66%,建模時間分別下降了905.45 s、74.94 s.說明進行特征提取不僅可以獲得更好的預測性能而且可以減少建模的時間.CNN-LSTM-SSA-LSSVM模型相較于CNN-LSTM-LSSVM模型在第一組中和第二組中MAE分別下降了16.29%、20.41%,RMSE分別下降了8.22%、27.62%,說明經過特征提取后,利用SSA優化的LSSVM模型預測精度更高.而CNN-LSTM-ISSA-LSSVM模型相較于CNN-LSTM-SSA-LSSVM模型在第一組中和第二組中MAE分別下降了6.48%、9.64%,RMSE分別下降了5.16%、8.86%,建模時間分別下降了1 380.09 s、69 358 s,說明ISSA相較于SSA具有更強的尋優能力以及更快的尋優速度,能夠更有效的提高LSSVM的預測性能,也說明本文提出模型具有更高的預測精度.

5 結論

為提高光伏功率預測的精度,本文提出一種基于CNN-LSTM-ISSA-LSSVM的短期光伏功率預測模型,得到以下結論:

(1)針對傳統光伏功率預測因特征提取不足導致預測精度不高的問題,提出了一種CNN-LSTM特征提取方法,該方法結合了CNN和LSTM的優點,可以有效的提取數據中的隱藏特征和長期依賴性特征.

(2)針對LSSVM模型因參數選擇不當而導致預測精度不高的問題,對SSA算法進行了改進,并利用ISSA對LSSVM模型參數進行尋優.結果表明,ISSA算法相較于SSA算法具有更強的尋優能力,能為LSSVM模型尋得更優的參數,且能有效的提高模型的預測性能.

(3)實驗結果表明,CNN-LSTM-ISSA-LSSVM模型能有效的預測光伏發電短期功率,且模型預測精度以及評價指標均優于其他對比模型.