利用ARIMA-SSA-LSTM組合模型的碳排放交易價(jià)格預(yù)測(cè)

炊婉冰,呂學(xué)斌

(南京工業(yè)大學(xué) 數(shù)理科學(xué)學(xué)院,江蘇 南京 211816)

0 引 言

隨著世界經(jīng)濟(jì)的快速增長(zhǎng),溫室氣體排放量急劇增加,對(duì)氣候和環(huán)境構(gòu)成了前所未有的威脅。為維護(hù)世界經(jīng)濟(jì)社會(huì)的可持續(xù)發(fā)展,世界上各經(jīng)濟(jì)體逐步推行設(shè)立國(guó)際碳排放權(quán)交易的計(jì)劃。每年有大量的碳排放商品在市場(chǎng)上交易,在碳交易市場(chǎng)中,碳排放交易價(jià)格可以說(shuō)是最重要的部分,價(jià)格的波動(dòng)影響這個(gè)市場(chǎng)的變化。因此對(duì)碳排放交易價(jià)格的合理分析與預(yù)測(cè)能更好地指導(dǎo)碳市場(chǎng)參與者的行為與決策,推動(dòng)碳金融市場(chǎng)的理性發(fā)展[1]。

關(guān)于碳排放交易價(jià)格預(yù)測(cè),國(guó)內(nèi)外許多學(xué)者已經(jīng)提出了許多預(yù)測(cè)模型,包括統(tǒng)計(jì)模型、機(jī)器學(xué)習(xí)模型、組合模型等。吳孟操利用ARIMA模型對(duì)上海市試點(diǎn)碳交易價(jià)格進(jìn)行建模預(yù)測(cè)分析,得出ARIMA模型能夠很好地模擬上海市碳交易權(quán)價(jià)格趨勢(shì)[2];ZHAO等研究發(fā)現(xiàn)以歐洲斯托克50指數(shù)為解釋變量構(gòu)造的回歸模型可以明顯提高碳排放交易價(jià)格的預(yù)測(cè)精度[3];高仲芳提出利用GARCH族模型進(jìn)行碳排放交易價(jià)格波動(dòng)的預(yù)測(cè),并比較多種GARCH模型,針對(duì)不同碳市場(chǎng)選擇最合適有效的GARCH預(yù)測(cè)模型[4];CHEVALLIER采用非參數(shù)模型對(duì)歐洲環(huán)境交易所碳現(xiàn)貨價(jià)格和歐洲氣候交易所碳期貨價(jià)格進(jìn)行了預(yù)測(cè)[5],發(fā)現(xiàn)非參數(shù)模型的預(yù)測(cè)精度高于自回歸模型;劉家鈺選擇支持向量機(jī)和隨機(jī)森林兩種模型進(jìn)行碳排放交易價(jià)格建模、預(yù)測(cè)并從宏觀和微觀的角度提出相關(guān)建議[6];郭蜀航建立BP神經(jīng)網(wǎng)絡(luò)模型對(duì)碳排放交易價(jià)格進(jìn)行定量研究,并與傳統(tǒng)多元模型進(jìn)行比較,驗(yàn)證了BP神經(jīng)網(wǎng)絡(luò)模型在碳排放交易價(jià)格預(yù)測(cè)更好的預(yù)測(cè)效果[7]。除了上述模型,統(tǒng)計(jì)模型還有多元回歸模型[8]、隨機(jī)波動(dòng)模型[9]等;機(jī)器學(xué)習(xí)模型還有灰色預(yù)測(cè)模型[10]、多層感知器神經(jīng)網(wǎng)絡(luò)模型[11]等。碳排放交易價(jià)格數(shù)據(jù)是不穩(wěn)定的非線性數(shù)據(jù),傳統(tǒng)的統(tǒng)計(jì)模型在平穩(wěn)序列中具有預(yù)測(cè)優(yōu)勢(shì),不能有效地解決非線性數(shù)據(jù)。機(jī)器學(xué)習(xí)模型對(duì)非線性數(shù)據(jù)有較好的適應(yīng)性,但可理解性較差。為了打破單一模型的局限性,整合不同模型的優(yōu)勢(shì)[12],部分學(xué)者開(kāi)始考慮組合模型進(jìn)行預(yù)測(cè)。大部分組合模型以“分解-預(yù)測(cè)-集成”的思想為主,姚奕等利用經(jīng)驗(yàn)?zāi)B(tài)分解(EMD)將湖北碳排放交易價(jià)格分解并重構(gòu)為高頻分量、低頻分量和趨勢(shì)分量,結(jié)合支持向量機(jī)對(duì)各分量進(jìn)行預(yù)測(cè),提高了預(yù)測(cè)精度[13];全從新采用變分模態(tài)分解方法(VMD)將歐盟碳排放配額現(xiàn)貨價(jià)格分解為不同頻率的模態(tài)分量,使用極限學(xué)習(xí)機(jī)對(duì)各分量進(jìn)行預(yù)測(cè),相比與EMD分解,預(yù)測(cè)精度得到提高[14]。也有學(xué)者從最優(yōu)權(quán)重角度構(gòu)建組合模型,謝旭升等從最優(yōu)權(quán)重角度建立了ARMA-BP加權(quán)組合碳排放交易價(jià)格預(yù)測(cè)模型,并將其與單一模型的預(yù)測(cè)結(jié)果進(jìn)行比較[15],發(fā)現(xiàn)ARMA-BP最優(yōu)權(quán)重組合模型具有更高的預(yù)測(cè)精度。近些年來(lái)智能優(yōu)化算法發(fā)展迅速,在很多領(lǐng)域都得到了應(yīng)用。部分研究學(xué)者借鑒智能算法在其他領(lǐng)域的應(yīng)用,將智能算法引入碳排放交易價(jià)格預(yù)測(cè)領(lǐng)域,進(jìn)一步提高了組合模型的預(yù)測(cè)效果。趙鑫等提出利用鯨魚優(yōu)化算法優(yōu)化LSTM模型再將其引入組合預(yù)測(cè)模型,可以有效地提高碳排放交易價(jià)格的預(yù)測(cè)準(zhǔn)確率[16];江丹丹提出利用多目標(biāo)灰狼優(yōu)化算法(IMOGWO)優(yōu)化極限學(xué)習(xí)機(jī)(ELM),然后將其引入分解集成模型來(lái)預(yù)測(cè)碳排放交易價(jià)格,不僅預(yù)測(cè)精度高,而且具有較好的穩(wěn)定性[17]。

基于上述研究現(xiàn)狀發(fā)現(xiàn)目前對(duì)碳排放交易價(jià)格預(yù)測(cè)的研究并不成熟,因此從多角度、多方法進(jìn)行分析碳排放交易價(jià)格仍然是眾多學(xué)者追求的目標(biāo)。選擇傳統(tǒng)統(tǒng)計(jì)學(xué)方法中的 ARIMA模型和機(jī)器學(xué)習(xí)方法中的LSTM模型建立加權(quán)組合模型進(jìn)行預(yù)測(cè)。為了提高LSTM模型的預(yù)測(cè)精度,使用麻雀搜索算法對(duì)LSTM模型中的超參數(shù)進(jìn)行參數(shù)尋優(yōu)。通過(guò)引入非線性規(guī)劃遺傳算法分配單一模型權(quán)重,獲得最優(yōu)權(quán)重,這種權(quán)重分配方式融合了非線性規(guī)劃分配權(quán)重時(shí)有較強(qiáng)的局部搜索能力的優(yōu)點(diǎn)和遺傳算法分配權(quán)重時(shí)有很好的全局搜索能力的優(yōu)點(diǎn)[18],最后加權(quán)得到更精確的碳排放交易價(jià)格組合預(yù)測(cè)值。中國(guó)目前存在七個(gè)碳交易試點(diǎn)基地,選取交易頻繁、數(shù)據(jù)量充足的湖北省和廣東省碳交易市場(chǎng)碳排放交易價(jià)格數(shù)據(jù)做實(shí)證分析。

1 單一模型

1.1 ARIMA模型

差分整合移動(dòng)平均自回歸模型(ARIMA)作為時(shí)間序列預(yù)測(cè)中一種常用且有效的預(yù)測(cè)模型,它不像一般回歸模型那樣用Z個(gè)外生變量x1,x2,…,xZ去解釋變量yt,而是用變量yt自身的滯后項(xiàng)以及隨機(jī)誤差項(xiàng)εt來(lái)解釋該變量yt本身[19],其模型如下

(1)

1.2 LSTM模型

長(zhǎng)短時(shí)記憶(LSTM)是一種特殊的RNN模型。與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)相比,它可以解決長(zhǎng)期依賴、梯度消失和梯度爆炸等問(wèn)題[20]。此外,LSTM模型在固定分量較多的不穩(wěn)定時(shí)間序列中表現(xiàn)更好[21]。模型流程如圖1所示。

圖1 LSTM模型流程Fig.1 Flow chart of LSTM model

長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)運(yùn)行主要依靠3種門控單元來(lái)維持?jǐn)?shù)據(jù)的更新和控制。這3種門控單元主要包含遺忘門、輸入門、輸出門。

遺忘門主要負(fù)責(zé)信息的保留和舍棄,公式為

ft=σ(Wf·[ht-1,xt]+bf)

(2)

輸入門主要負(fù)責(zé)信息的存放,其公式為

it=σ(Wi·[ht-1,xt]+bi)

(3)

(4)

輸出門主要負(fù)責(zé)信息的更新,其公式為

Ot=σ(Wo·[ht-1,xt]+bo)

(5)

ht=Ot·tanh(Ct)

(6)

1.3 SSA-LSTM模型

為了提高LSTM模型的預(yù)測(cè)準(zhǔn)確率,嘗試使用麻雀搜索算法對(duì)LSTM中的進(jìn)行超參數(shù)尋優(yōu),構(gòu)建SSA-LSTM模型。

麻雀搜索算法(Sparrow Search Algorithm,SSA)是薛建凱等在2019年提出一種模擬生物系統(tǒng)中群體生活習(xí)慣的群體智能優(yōu)化算法,此算法通過(guò)模擬麻雀的覓食和反捕食過(guò)程,將個(gè)體分為發(fā)現(xiàn)者、跟隨者和警戒者,一個(gè)個(gè)體位置對(duì)應(yīng)一個(gè)解,三者位置不斷更新,以獲得最優(yōu)解[22]。與傳統(tǒng)智能優(yōu)化算法相比,麻雀搜索算法具有結(jié)構(gòu)簡(jiǎn)單、容易實(shí)現(xiàn)、控制參數(shù)不多、局部搜索能力強(qiáng)的優(yōu)點(diǎn)。該算法在單峰、多峰等基準(zhǔn)函數(shù)上的表現(xiàn)優(yōu)于粒子群算法、蟻群算法等傳統(tǒng)算法[23]。

基于麻雀搜索算法強(qiáng)大的搜索能力和易于操作的優(yōu)點(diǎn),在LSTM模型進(jìn)行預(yù)測(cè)之前先利用麻雀算法搜索LSTM模型的最優(yōu)超參數(shù),使得LSTM模型的預(yù)測(cè)效果得到提升,進(jìn)而得到更優(yōu)的預(yù)測(cè)值。通過(guò)麻雀搜索算法優(yōu)化的LSTM模型超參數(shù)為 LSTM網(wǎng)路包含的隱藏單元數(shù)目、最大訓(xùn)練周期、分塊尺寸、初始學(xué)習(xí)率、L2參數(shù)。搜索過(guò)程中,訓(xùn)練LSTM模型時(shí),適應(yīng)度函數(shù)為L(zhǎng)STM對(duì)訓(xùn)練集和測(cè)試集的預(yù)測(cè)錯(cuò)誤率,其錯(cuò)誤率越低越好。其本質(zhì)為L(zhǎng)STM模型訓(xùn)練后的均方誤差(MSE),均方誤差越小,表明預(yù)測(cè)的數(shù)據(jù)與原始數(shù)據(jù)重合度越高。

適應(yīng)度函數(shù)設(shè)計(jì)為

finess=arg min(MSE[predict(training)]+MSE[predict(test)]

(7)

式中 arg min函數(shù)為目標(biāo)函數(shù)最小值時(shí)的變量值。

2 ARIMA-SSA-LSTM組合模型構(gòu)建

2.1 組合模型構(gòu)建

考慮到單一算法預(yù)測(cè)的結(jié)果可能在真實(shí)值附近波動(dòng)較大的情況,文中提出運(yùn)用非線性規(guī)劃遺傳算法分配ARIMA模型和SSA-LSTM模型權(quán)重的組合模型來(lái)進(jìn)行碳排放交易價(jià)格預(yù)測(cè)。

假定關(guān)于同一碳排放交易價(jià)格預(yù)測(cè)問(wèn)題,有k(k≥2)種預(yù)測(cè)方法,記第t期實(shí)際觀測(cè)值為yt,第t期第i種方法的預(yù)測(cè)值為fit=(i=1,2,…,k),第t期組合預(yù)測(cè)方法的預(yù)測(cè)值為

(8)

(9)

式中t期時(shí)第i種方法的預(yù)測(cè)誤差為eit。然后可以計(jì)算組合預(yù)測(cè)方法的預(yù)測(cè)誤差平方和為

(10)

(11)

求解式(11)最優(yōu)組合權(quán)重w是一個(gè)典型的非線性規(guī)劃問(wèn)題。經(jīng)典的非線性規(guī)劃算法大多數(shù)采用梯度下降法求解,雖然該方法局部搜索能力強(qiáng),但全局搜索能力不足,容易陷入局部極值點(diǎn),難以求得全局最優(yōu)解。

目前,以遺傳算法為代表的一類全局優(yōu)化能力強(qiáng)的方法在求解復(fù)雜優(yōu)化問(wèn)題上表現(xiàn)出巨大潛力,遺傳算法更適用于處理傳統(tǒng)搜索算法難以解決的非線性優(yōu)化的問(wèn)題。遺傳算法的優(yōu)點(diǎn)是進(jìn)行優(yōu)化前先將問(wèn)題參數(shù)編碼成染色體,從而不針對(duì)參數(shù)自身,不受函數(shù)約束條件的限制。遺傳算法在優(yōu)化計(jì)算時(shí)不依賴于梯度信息,不要求目標(biāo)函數(shù)連續(xù)且可導(dǎo),使其適于求解傳統(tǒng)搜索方法難以解決的大規(guī)模、非線性組合優(yōu)化問(wèn)題。即使如此遺傳算法依然存在著容易過(guò)早收斂和局部搜索能力差的問(wèn)題。這些問(wèn)題在求解非線性、非凸的有約束非線性規(guī)劃問(wèn)題時(shí)會(huì)更加突出。

因此,文中在這里使用非線性規(guī)劃遺傳算法來(lái)求解式(11)的優(yōu)化問(wèn)題,一方面遺傳算法用于全局搜索,另一方面非線性規(guī)劃算法用于局部搜索,以獲得優(yōu)化問(wèn)題的全局最優(yōu)解[25]。在使用非線性規(guī)劃遺傳算法時(shí),個(gè)體對(duì)應(yīng)式(11)的解,根據(jù)求解問(wèn)題式(11)初始化種群模塊,產(chǎn)生滿足一定條件的個(gè)體的種群,根據(jù)適應(yīng)度計(jì)算選取的最佳染色體。采用輪盤賭法從種群中選擇適應(yīng)度好的個(gè)體組成新種群,然后采用單點(diǎn)交叉算子對(duì)個(gè)體的染色體進(jìn)行重組,對(duì)個(gè)體進(jìn)行變異。每進(jìn)行一次適應(yīng)度計(jì)算、選擇、交叉、變異等于完成一次進(jìn)化。當(dāng)進(jìn)化次數(shù)為固定值N的倍數(shù)時(shí),將當(dāng)前所有進(jìn)化的個(gè)體結(jié)果作為非線性規(guī)劃的起始點(diǎn)進(jìn)行優(yōu)化,求得進(jìn)一步的優(yōu)解。其中非線性規(guī)劃尋優(yōu)利用當(dāng)前染色體值采用Fmincon函數(shù)尋找問(wèn)題的局部最優(yōu)值[26]。

非線性規(guī)劃遺傳算法的終止條件為平均解與最優(yōu)解重合。進(jìn)行終止條件判斷前,計(jì)算當(dāng)前所有個(gè)體的適應(yīng)度并記錄最優(yōu)個(gè)體適應(yīng)度,適應(yīng)度最優(yōu)的個(gè)體為最優(yōu)解,所有個(gè)體的平均值為平均解,當(dāng)平均解與最優(yōu)解重合時(shí)說(shuō)明當(dāng)前種群中大多均為最優(yōu)解,在一定程度代表當(dāng)前種群已經(jīng)較為穩(wěn)定。滿足終止條件的最優(yōu)解即為所求。非線性規(guī)劃遺傳算法求解問(wèn)題過(guò)程如圖2所示。

圖2 非線性規(guī)劃遺傳算法流程Fig.2 Flow chart of nonlinear programming genetic algorithm

當(dāng)序列趨勢(shì)明顯時(shí),統(tǒng)計(jì)方法往往能得到更準(zhǔn)確的結(jié)果,而機(jī)器學(xué)習(xí)方法在具有更多固定成分的不穩(wěn)定時(shí)間序列中表現(xiàn)更好。文中結(jié)合ARIMA模型和SSA-LSTM模型構(gòu)建ARIMA-SSA- LSTM權(quán)重分配組合模型。ARIMA-SSA-LSTM組合模型流程如圖3所示。

圖3 ARIMA-SSA-LSTM組合模型流程Fig.3 Flow of ARIMA-SSA-LSTM combination model

2.2 模型評(píng)價(jià)指標(biāo)

采用3種常見(jiàn)的預(yù)測(cè)精度評(píng)價(jià)指標(biāo):均方根誤差(RMSE)、平均絕對(duì)誤差(MAE)和平均絕對(duì)百分比誤差(MAPE)來(lái)評(píng)價(jià)預(yù)測(cè)模型的預(yù)測(cè)精度。同時(shí)采用趨勢(shì)性指標(biāo)平均方向精度(MDA)來(lái)評(píng)價(jià)模型的趨勢(shì)預(yù)測(cè)效果。當(dāng)均方根誤差(RMSE)、平均絕對(duì)誤差(MAE)和平均絕對(duì)百分比誤差(MAPE)值越小,模型效果越好;當(dāng)趨勢(shì)性指標(biāo)平均方向精度(MDA)值越大,模型的趨勢(shì)預(yù)測(cè)效果越好。這些指標(biāo)定義如下

(12)

(13)

(14)

(15)

式中 第t期實(shí)際觀測(cè)值為yt;t期時(shí)的預(yù)測(cè)值為ft,N為預(yù)測(cè)長(zhǎng)度。

3 實(shí)證分析

3.1 數(shù)據(jù)選取與處理

選取湖北省碳交易市場(chǎng)和廣東省碳交易市場(chǎng)2021年3月1日至2022年3月31日碳排放權(quán)交易收盤價(jià)格(單位:元/噸)進(jìn)行實(shí)證分析,數(shù)據(jù)均來(lái)自于國(guó)泰安數(shù)據(jù)庫(kù)。由于碳排放交易價(jià)格通常波動(dòng)較大,或者當(dāng)天碳市場(chǎng)沒(méi)有交易,因此原始數(shù)據(jù)中往往存在異常值和缺失值。對(duì)于原始數(shù)據(jù)中的缺失值和異常值,使用前一天的價(jià)格值或前后兩天的平均值替換缺失值和異常值,填補(bǔ)后的數(shù)據(jù)趨勢(shì)如圖4和圖5所示。

圖4 湖北省碳市場(chǎng)碳價(jià)格趨勢(shì)Fig.4 Carbon price trend of Hubei Province

圖5 廣東省碳市場(chǎng)碳價(jià)格趨勢(shì)Fig.5 Carbon price trend of Guangdong Province

從圖4可以看出,湖北省碳排放交易價(jià)格有明顯的波動(dòng)趨勢(shì),對(duì)其進(jìn)行平穩(wěn)性檢驗(yàn),發(fā)現(xiàn)其不平穩(wěn),對(duì)數(shù)據(jù)進(jìn)行一階差分,以獲得平穩(wěn)序列,然后對(duì)原始序列進(jìn)行白噪聲檢驗(yàn)發(fā)現(xiàn)該序列不是純隨機(jī)序列,可以建立模型。同理根據(jù)趨勢(shì)圖5,以及廣東省碳排放交易價(jià)格數(shù)據(jù)的平穩(wěn)性檢驗(yàn)和白噪聲檢驗(yàn),可以得到廣東省碳排放交易價(jià)格數(shù)據(jù)也不是純隨機(jī)序列,可以建立模型。

3.2 短期預(yù)測(cè)

利用湖北省碳市場(chǎng)和廣東省碳市場(chǎng)2021年3月1日至2022年2月28日對(duì)2022年3月1日至2022年3月10日的碳排放交易價(jià)格進(jìn)行短期預(yù)測(cè)。

先對(duì)湖北省試點(diǎn)的數(shù)據(jù)進(jìn)行分析,首先進(jìn)行單一模型的預(yù)測(cè)。針對(duì)不同碳市場(chǎng)數(shù)據(jù),ARIMA模型得到數(shù)據(jù)擬合結(jié)果不一樣,利用湖北省試點(diǎn)數(shù)據(jù)擬合得到ARIMA(2,1,3)模型,即差分階數(shù)為1階,自回歸階數(shù)為2階,移動(dòng)平均階數(shù)為3階的ARIMA模型,具體形式如下

(1-0.535 1B-0.684 9B2)1xi=(1+0.464 5B+0.570 2B2-0.161 7B3)εi

(16)

然后利用ARIMA(2,1,3)模型進(jìn)行十天預(yù)測(cè),得到湖北省碳排放交易價(jià)格的十天預(yù)測(cè)值。

當(dāng)使用麻雀搜索算法對(duì)LSTM模型優(yōu)化時(shí),針對(duì)不同碳市場(chǎng)數(shù)據(jù),得到優(yōu)化結(jié)果不一樣。其中,設(shè)置麻雀搜索算法預(yù)警值為0.6,發(fā)現(xiàn)者比例為0.7,種群數(shù)量為10,最大迭代次數(shù)為10。對(duì)于湖北省碳市場(chǎng)的數(shù)據(jù),通過(guò)麻雀搜索算法優(yōu)化LSTM得到的超參數(shù)值見(jiàn)表1,并與原始超參數(shù)做比較。根據(jù)初始的超參數(shù)表與優(yōu)化過(guò)后的超參數(shù)表,分別得到LSTM模型的預(yù)測(cè)值與SSA-LSTM模型的預(yù)測(cè)值。

表1 湖北省碳市場(chǎng)LSTM超參數(shù)優(yōu)化

基于單一模型預(yù)測(cè)結(jié)果,進(jìn)一步求解組合模型。首先根據(jù)ARIMA模型預(yù)測(cè)值和SSA-LSTM模型預(yù)測(cè)值求得權(quán)重分配模型所需的預(yù)測(cè)誤差信息矩陣,然后通過(guò)非線性規(guī)劃遺傳算法來(lái)分配ARIMA模型和SSA-LSTM模型的權(quán)重。其中,遺傳算法將進(jìn)化代數(shù)設(shè)置為30,種群規(guī)模設(shè)置為100,交叉概率設(shè)置為0.6,變異概率設(shè)置為0.01。最終ARIMA模型權(quán)重為0.038 4,SSA-LSTM模型權(quán)重為0.961 6。依據(jù)權(quán)重分配的結(jié)果,計(jì)算加權(quán)后的組合模型預(yù)測(cè)值。

將ARIMA-SSA-LSTM組合模型的預(yù)測(cè)效果與單一ARIMA模型,LSTM模型,SSA-LSTM模型進(jìn)行對(duì)比。預(yù)測(cè)效果評(píng)價(jià)指標(biāo)見(jiàn)表2。預(yù)測(cè)對(duì)比如圖6所示。

表2 湖北省碳市場(chǎng)4種方法預(yù)測(cè)效果對(duì)比

圖6 湖北省碳市場(chǎng)預(yù)測(cè)對(duì)比(預(yù)測(cè)長(zhǎng)度為10 d)Fig.6 Comparison of carbon price prediction(prediction length is 10 days)for Hubei Province carbon market

同理,對(duì)廣東省碳市場(chǎng)2021年3月1日至2022年2月28日的碳排放交易價(jià)格數(shù)據(jù)進(jìn)行短期預(yù)測(cè),得到ARIMA模型預(yù)測(cè)值,LSTM模型預(yù)測(cè)值,SSA-LSTM模型預(yù)測(cè)值。其中ARIMA模型為ARIMA(0,1,0)模型,具體形式如式(17),SSA算法優(yōu)化LSTM后得到的超參數(shù)值見(jiàn)表3。

表3 廣東省碳市場(chǎng)LSTM超參數(shù)優(yōu)化

1xi=εi

(17)

同樣運(yùn)用非線性規(guī)劃遺傳算法對(duì)廣東碳市場(chǎng)單一模型預(yù)測(cè)值進(jìn)行權(quán)重分配,發(fā)現(xiàn)ARIMA模型權(quán)重占比 0,SSA-LSTM模型權(quán)重占比1。ARIMA-SSA-LSTM組合模型與單一模型的預(yù)測(cè)效果評(píng)價(jià)指標(biāo)見(jiàn)表4。預(yù)測(cè)對(duì)比如圖7所示。

表4 廣東省碳市場(chǎng)4種方法預(yù)測(cè)效果對(duì)比

圖7 廣東省碳市場(chǎng)預(yù)測(cè)對(duì)比(預(yù)測(cè)長(zhǎng)度為10 d)Fig.7 Comparison of carbon price prediction(prediction length is 10 days,Guangdong Province carbon market)

由表2可知,對(duì)于湖北省碳市場(chǎng),使用ARIMA-SSA-LSTM組合模型預(yù)測(cè)碳排放交易價(jià)格時(shí),評(píng)價(jià)指標(biāo)RMSE、MAE和MAPE最小,表明該模型的預(yù)測(cè)精度優(yōu)于其他單一模型方法。對(duì)于單一模型,機(jī)器學(xué)習(xí)中的LSTM模型預(yù)測(cè)效果明顯優(yōu)于統(tǒng)計(jì)學(xué)ARIMA模型,并且在智能算法優(yōu)化過(guò)后預(yù)測(cè)效果更加優(yōu)異。但是進(jìn)行權(quán)重分配時(shí)統(tǒng)計(jì)學(xué)模型的權(quán)重并不為0,說(shuō)明統(tǒng)計(jì)學(xué)模型并不是完全無(wú)用。依然可以對(duì)SSA-LSTM模型得到的預(yù)測(cè)結(jié)果進(jìn)行修正。對(duì)于短期預(yù)測(cè),趨勢(shì)預(yù)測(cè)的差距似乎并不明顯。廣東省碳市場(chǎng),使用非線性規(guī)劃遺傳算法分配權(quán)重時(shí),ARIMA模型權(quán)重占比0,SSA-LSTM模型權(quán)重占比1。并不能說(shuō)明模型失效,說(shuō)明此時(shí)兩種單一模型最好的權(quán)重分配結(jié)果就是ARIMA模型權(quán)重占比 0,SSA-LSTM模型權(quán)重占比1。ARIMA-SSA-LSTM組合模型評(píng)價(jià)指標(biāo)RMSE、MAE和MAPE與SSA-LSTM模型一樣為最小,預(yù)測(cè)精度優(yōu)于LSTM模型和ARIMA模型。從圖6與圖7可以看出ARIMA-SSA-LSTM組合預(yù)測(cè)值與真實(shí)值更加貼近。

3.3 長(zhǎng)期預(yù)測(cè)

進(jìn)一步地,改變預(yù)測(cè)長(zhǎng)度,用湖北省碳市場(chǎng)和廣東省碳市場(chǎng)2021年3月1日至2022年2月28日的碳排放交易價(jià)格數(shù)據(jù)預(yù)測(cè)2022年3月1日至2022年3月31日一個(gè)月的碳排放交易價(jià)格。湖北省碳市場(chǎng)最終ARIMA模型權(quán)重占比0.006 3,SSA-LSTM模型權(quán)重占比0.993 7。廣東省碳市場(chǎng)最終ARIMA模型權(quán)重占比0.036 1,SSA-LSTM模型權(quán)重占比0.963 9。分配權(quán)重后加權(quán)計(jì)算組合模型的預(yù)測(cè)值,ARIMA-SSA-LSTM組合模型和三種單一模型一個(gè)月的預(yù)測(cè)效果評(píng)價(jià)指標(biāo)見(jiàn)表5和表6。預(yù)測(cè)對(duì)比如圖8和圖9所示。

表5 湖北省碳市場(chǎng)4種方法預(yù)測(cè)效果對(duì)比

表6 廣東省碳市場(chǎng)4種方法預(yù)測(cè)效果對(duì)比

圖8 湖北省碳市場(chǎng)預(yù)測(cè)對(duì)比(預(yù)測(cè)長(zhǎng)度為一個(gè)月)Fig.8 Comparison of carbon price prediction(prediction length is one month,Hubei Province carbon market)

圖9 廣東省碳市場(chǎng)預(yù)測(cè)對(duì)比(預(yù)測(cè)長(zhǎng)度為一個(gè)月)Fig.9 Comparison of carbon price prediction(prediction length is one month,Guangdong Province carbon market)

由表5可知,在新的預(yù)測(cè)長(zhǎng)度下,當(dāng)ARIMA-SSA-LSTM組合模型預(yù)測(cè)湖北碳排放交易價(jià)格時(shí),評(píng)價(jià)指標(biāo)RMSE、MAE和MAPE依然最小,表明ARIMA-SSA-LSTM組合模型的預(yù)測(cè)效果仍然優(yōu)于其他單一模型。同理對(duì)于表6,使用ARIMA-SSA-LSTM組合模型預(yù)測(cè)廣東省碳排放交易價(jià)格時(shí),評(píng)價(jià)指標(biāo)RMSE、MAE和MAPE也是最小,更可以表明ARIMA-SSA-LSTM組合模型預(yù)測(cè)效果優(yōu)于單一模型。在新的預(yù)測(cè)長(zhǎng)度下的3種單一模型,機(jī)器學(xué)習(xí)LSTM模型依然明顯優(yōu)于統(tǒng)計(jì)學(xué)ARIMA模型,仍然在進(jìn)行權(quán)重分配時(shí)統(tǒng)計(jì)學(xué)模型的權(quán)重并不為0,同樣也說(shuō)明統(tǒng)計(jì)學(xué)模型并不完全無(wú)用,可以對(duì)機(jī)器學(xué)習(xí)模型得到的預(yù)測(cè)結(jié)果進(jìn)行修正。根據(jù)趨勢(shì)性指標(biāo)MDA的值,發(fā)現(xiàn)LSTM模型的趨勢(shì)預(yù)測(cè)要明顯優(yōu)于統(tǒng)計(jì)學(xué)模型。MDA值也驗(yàn)證了機(jī)器學(xué)習(xí)模型在不平穩(wěn)數(shù)據(jù)上的表現(xiàn)要比統(tǒng)計(jì)學(xué)模型要優(yōu)異,能夠更好地預(yù)測(cè)趨勢(shì)變動(dòng)。組合模型在長(zhǎng)期預(yù)測(cè)下,趨勢(shì)預(yù)測(cè)也有明顯優(yōu)勢(shì)。根據(jù)圖8與圖9發(fā)現(xiàn)ARIMA-SSA-LSTM組合預(yù)測(cè)值與真實(shí)值更加接近,機(jī)器學(xué)習(xí)模型明顯比統(tǒng)計(jì)學(xué)模型更好的預(yù)測(cè)出數(shù)據(jù)的波動(dòng)。

注:預(yù)測(cè)長(zhǎng)度為一個(gè)月。

3.4 總結(jié)

綜合對(duì)比表2、表4～6與圖6～9,ARIMA-SSA-LSTM組合模型的預(yù)測(cè)效果在2個(gè)預(yù)測(cè)長(zhǎng)度下預(yù)測(cè)精度均得到最優(yōu)的預(yù)測(cè)結(jié)果。對(duì)比所采取的3種單一模型,機(jī)器學(xué)習(xí)模型LSTM模型明顯優(yōu)于統(tǒng)計(jì)學(xué)ARIMA模型,說(shuō)明機(jī)器學(xué)習(xí)模型充分處理了碳排放交易數(shù)據(jù)的不平穩(wěn)性。通過(guò)智能算法優(yōu)化過(guò)后的機(jī)器學(xué)習(xí)模型預(yù)測(cè)精度得到了進(jìn)一步提升。在長(zhǎng)期預(yù)測(cè)下,根據(jù)MDA指標(biāo)可以明顯看出機(jī)器學(xué)習(xí)LSTM模型能夠更好的預(yù)測(cè)數(shù)據(jù)的變動(dòng)趨勢(shì)。對(duì)比選取的2個(gè)預(yù)測(cè)長(zhǎng)度,可以明顯發(fā)現(xiàn)所選取的3種單一模型和ARIMA-SSA-LSTM組合模型短期預(yù)測(cè)精度都優(yōu)于長(zhǎng)期預(yù)測(cè)精度。基于所得到的結(jié)果,可以認(rèn)定構(gòu)建的ARIMA-SSA-LSTM組合模型能夠得到更準(zhǔn)確的碳排放交易價(jià)格預(yù)測(cè)值。

4 結(jié) 論

1)使用非線性規(guī)劃遺傳算法分配ARIMA模型和SSA-LSTM模型的權(quán)重來(lái)構(gòu)造ARIMA-SSA-LSTM組合模型進(jìn)行碳排放交易價(jià)格預(yù)測(cè),此方法的主要步驟是:①通過(guò)單一模型預(yù)測(cè)得到預(yù)測(cè)值并構(gòu)建權(quán)重分配模型;②使用非線性規(guī)劃遺傳算法分配權(quán)重;③根據(jù)非線性規(guī)劃遺傳算法權(quán)重分配結(jié)果進(jìn)行組合得到最終的預(yù)測(cè)值。

2)通過(guò)對(duì)湖北省和廣東省碳排放交易價(jià)格數(shù)據(jù)的實(shí)證分析發(fā)現(xiàn)ARIMA-SSA-LSTM組合模型對(duì)碳排放交易價(jià)格預(yù)測(cè)的精度有明顯的提高,預(yù)測(cè)結(jié)果更加靠近真實(shí)值。并且在選取的碳排放交易數(shù)據(jù)下,機(jī)器學(xué)習(xí)LSTM模型的預(yù)測(cè)效果明顯優(yōu)于傳統(tǒng)的統(tǒng)計(jì)學(xué)ARIMA模型。同時(shí)在通過(guò)智能算法的尋優(yōu)后LSTM模型得到了最優(yōu)超參數(shù),模型預(yù)測(cè)效果得到提升。

3)所構(gòu)建的模型在湖北省和廣東省碳市場(chǎng)的應(yīng)用,提高了預(yù)測(cè)精度,在不同碳市場(chǎng)的數(shù)據(jù)下,模型可以根據(jù)數(shù)據(jù)情況得到不同參數(shù)、不同權(quán)重,說(shuō)明模型可以靈活運(yùn)用于不同的碳市場(chǎng),因此可以將其拓展到其他碳試點(diǎn),提高其他碳試點(diǎn)的預(yù)測(cè)結(jié)果。

4)在單一模型優(yōu)化與模型權(quán)重分配中都引入智能優(yōu)化算法,證實(shí)了智能優(yōu)化算法在碳排放交易價(jià)格預(yù)測(cè)領(lǐng)域的應(yīng)用的有效性,在未來(lái)的研究中可以多加注重智能算法在碳金融領(lǐng)域的應(yīng)用。

5)模型雖在碳排放權(quán)交易價(jià)格預(yù)測(cè)已經(jīng)有很高的精度,依然存在著改進(jìn)空間,遺傳算法和麻雀算法的部分參數(shù)是根據(jù)經(jīng)驗(yàn)設(shè)定的,是否可以運(yùn)用某種法找到這些參數(shù)的最優(yōu)值值得進(jìn)一步思考。