基于分解-集合的TCN日平均氣溫預(yù)測

蔣松諭，何貞銘，周再文

(長江大學(xué)地球科學(xué)學(xué)院，湖北 武漢 430100)

0 引言

隨著人類活動的加劇和社會的不斷發(fā)展，氣候變化帶來的影響越來越明顯，海平面不斷上升、颶風(fēng)及干旱等直接或間接地影響著人類的生活，對人類健康、糧食安全和經(jīng)濟(jì)穩(wěn)定構(gòu)成重大風(fēng)險。如果能對氣溫做出準(zhǔn)確預(yù)測，就可為農(nóng)業(yè)、交通、能源、公共衛(wèi)生及應(yīng)急管理等領(lǐng)域帶來極大的便利。因此，挖掘氣溫變化的潛在規(guī)律，對于科學(xué)準(zhǔn)確地預(yù)測氣溫變化具有重要意義。

如今，計(jì)算機(jī)技術(shù)的飛速發(fā)展和海量氣象數(shù)據(jù)的積累給氣溫預(yù)測帶來了新的可能，其中，較為廣泛使用的機(jī)器學(xué)習(xí)方法主要包括支持向量機(jī)(SVM)[1]、反向傳播神經(jīng)網(wǎng)絡(luò)(BPNN)[2]、徑向基函數(shù)(RBF)[3]等，但這些方法在擬合非平穩(wěn)、非線性的數(shù)據(jù)時表現(xiàn)欠佳。近些年，深度學(xué)習(xí)的方法快速進(jìn)入時間序列預(yù)測領(lǐng)域，例如循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)、長短期記憶神經(jīng)網(wǎng)絡(luò)(LSTM)[4]和卷積神經(jīng)網(wǎng)絡(luò)(CNN)等，但隨著對預(yù)測精度要求的不斷提高，單個模型逐漸無法滿足挖掘數(shù)據(jù)隱藏特征的需求，因此為了綜合各個模型的優(yōu)點(diǎn)，越來越多的混合模型開始出現(xiàn)。例如，馬棟林等人[5]提出一種基于圖卷積網(wǎng)絡(luò)和門控循環(huán)單元的氣溫預(yù)測模型(GCN-GRU)，更好地提取了氣溫變化的時空特征并獲得了較高的精度。陶曄等人[6]將隨機(jī)森林(RF)和LSTM 進(jìn)行結(jié)合，在獲得較高精度的同時也獲得了較強(qiáng)的泛化性。陳嵐等人[7]將灰色關(guān)聯(lián)、卷積長短期記憶網(wǎng)絡(luò)和雙向長短期記憶網(wǎng)絡(luò)相結(jié)合，極大的增強(qiáng)了時空特征提取能力。雖然這些方法取得了越來越高的預(yù)測精度，但模型的復(fù)雜度和計(jì)算量也越來越龐大。氣溫作為一種隨時間明顯變化的天氣現(xiàn)象，具有非常強(qiáng)的時間相關(guān)性，尋找更好的方法提取其潛在的時間變化特征也是提高預(yù)測精度的關(guān)鍵。因此，該文結(jié)合信號處理領(lǐng)域的分析方法CEEMDAN 和更為先進(jìn)的時間序列預(yù)測模型TCN，采用分解-集合的思想，選取氣象站點(diǎn)的日平均氣溫作為分析數(shù)據(jù)，以實(shí)現(xiàn)模型訓(xùn)練和其短期預(yù)測。

1 相關(guān)方法

1.1 自適應(yīng)噪聲完備集合經(jīng)驗(yàn)?zāi)B(tài)分解（CEEMDAN）

自適應(yīng)噪聲完備集合經(jīng)驗(yàn)?zāi)B(tài)分解（CEEMDAN）是一種基于經(jīng)驗(yàn)?zāi)B(tài)分解（EMD）改進(jìn)的分解方法，可以將復(fù)雜的信號分解為多個具有不同尺度特征的本征模態(tài)（IMF），更容易提取數(shù)據(jù)中的潛在特征，其主要過程如下：

⑴將不同幅度的高斯白噪聲加到待分解信號得到新信號，對新信號EMD分解并平均得到第一個本征模態(tài)分量；

⑵計(jì)算去除第一個模態(tài)分量后的殘差，在殘差中加入正負(fù)成對高斯白噪聲得到新信號，以新信號為載體進(jìn)行EMD分解，由此得到第二個本征模態(tài)分量；

⑶計(jì)算去除第二個模態(tài)分量后的殘差，重復(fù)上述步驟直至獲得殘差信號為單調(diào)函數(shù)，算法結(jié)束。

1.2 時序卷積網(wǎng)絡(luò)（TCN）

TCN 是一種新型的時間序列預(yù)測算法，其主要結(jié)構(gòu)包含膨脹因果卷積和殘差模塊。TCN 的特點(diǎn)是可以并行計(jì)算，相較于LSTM 等模型具有訓(xùn)練內(nèi)存要求底和訓(xùn)練速度更快等優(yōu)點(diǎn)。當(dāng)輸入一維序列x∈Rn，卷積核f:{0,…,k-1} →R,對該序列元素s經(jīng)過膨脹因果卷積F的計(jì)算為：

其中，d為膨脹系數(shù)；k為卷積核大小；“*d”代表卷積運(yùn)算。

TCN 中另一個核心模塊是殘差塊，可以有效解決網(wǎng)絡(luò)較深產(chǎn)生的梯度消失問題。假設(shè)x是殘差塊的輸入，殘差塊的輸出計(jì)算為：

其中，Activation()為激活函數(shù)，F(xiàn)(x)為殘差。

1.3 鯨魚優(yōu)化算法（WOA）

鯨魚優(yōu)化算法是一種模仿座頭鯨捕獵方式的元啟發(fā)式優(yōu)化算法。其迭代公式為：

其中，Xt是鯨魚位置向量，Xrand由當(dāng)前鯨魚位置決定，隨著迭代，向量a從2 到0 線性減小，向量r在0 到1之間隨機(jī)變動，C為由向量r確定的系數(shù)矩陣，A是由a決定的系數(shù)矩陣。

開始迭代時，由于a向量值較大，|A|值將大于1，從而保證尋求最優(yōu)解的可靠范圍；當(dāng) |A|值小于1 時，包圍獵物的過程開始，此時的計(jì)算公式為：

其中，為當(dāng)前最佳位置，b為常數(shù)，用來確定鯨魚捕獵的螺旋路徑，L為螺旋系數(shù)；p是0到1之間的隨機(jī)數(shù)。

1.4 提議模型（CEEMDAN-WOA-TCN）

該文構(gòu)建了一種用于氣溫預(yù)測的分解-集合模型CEEMDAN-WOA-TCN，圖1 顯示了模型的流程圖。首先對原始的氣溫數(shù)據(jù)進(jìn)行分析和預(yù)處理，然后采用CEEMDAN 方法將數(shù)據(jù)分解為多個本征模態(tài)，對每個本征模態(tài)以均方誤差（MSE）作為適應(yīng)度函數(shù)，采用WOA-TCN 進(jìn)行訓(xùn)練。隨著參數(shù)不斷更新，適應(yīng)度函數(shù)的值也越來越小，由此得到最優(yōu)的TCN 模型參數(shù)，使用最優(yōu)模型參數(shù)進(jìn)行預(yù)測即可得到每個IMF 的最優(yōu)預(yù)測值，最后將所有預(yù)測值線性集合得到最終的預(yù)測結(jié)果。

2 氣溫預(yù)測

2.1 數(shù)據(jù)描述及預(yù)處理

本文選取了北京54511、上海58362 和廣州59287三個氣象觀測站點(diǎn)2001 年1 月1 日至2020 年12 月31日的日平均氣溫作為分析對象，數(shù)據(jù)均來自中國地面國際交換站氣候資料日值數(shù)據(jù)集(V3.0)。選取這三個氣象站點(diǎn)的原因在于它們都是我國的一線城市，在經(jīng)濟(jì)發(fā)展與應(yīng)對氣候變化方面具有引領(lǐng)作用，而且他們分別地處我國北部、中部和南部，在空間上具代表性，三個站點(diǎn)的基本信息和描述性統(tǒng)計(jì)如表1 所示。從表1可以看出，隨著維度的不斷升高，氣溫的最小值和均值也在逐漸上升，氣溫變化的標(biāo)準(zhǔn)差也越來越小。下面該文以北京54511 站點(diǎn)的氣溫數(shù)據(jù)為例，說明模型預(yù)測的基本過程。

為了更好地模擬氣溫變化的波動，保證數(shù)據(jù)的連續(xù)性，首先刪除數(shù)據(jù)中的極值，因?yàn)檫@些極值通常由觀測錯誤或儀器故障導(dǎo)致，然后再用插值重采樣的方式將數(shù)據(jù)缺失位置進(jìn)行填充。由于氣溫不僅會隨著季節(jié)變化和早晚變化有明顯的周期性，還會受到重大事件或相關(guān)政策等的影響，所以接下來就要提取數(shù)據(jù)中不同尺度下的潛在信息，以此達(dá)到提高預(yù)測精度的目的。

2.2 CEEMDAN分解

CEEMDAN 作為一種分析復(fù)雜、非平穩(wěn)和非線性數(shù)據(jù)的強(qiáng)大工具，具有自適應(yīng)降噪和使用靈活等諸多優(yōu)點(diǎn)。如圖2 所示，北京站點(diǎn)數(shù)據(jù)經(jīng)過CEEMDAN 分解后，原始數(shù)據(jù)被分解為10 個本征模態(tài)。其中IMF-0到IMF-4 體現(xiàn)了氣溫在小尺度上的復(fù)雜變化，雖然不產(chǎn)生長期影響，但是伴隨著劇烈的波動，表現(xiàn)出高頻低幅的特征；IMF-5 到IMF-8 則反映了氣溫的季節(jié)性變化或外部環(huán)境、重大事件、相關(guān)政策影響產(chǎn)生的中長期變化；IMF-9作為趨勢項(xiàng)，描述了氣溫變化的整體性趨勢。經(jīng)CEEMDAN 分解后，每個模態(tài)的數(shù)據(jù)閾值也隨著分解而變小，尤其是較難預(yù)測的高頻數(shù)據(jù)，這在一定程度上降低了較大誤差產(chǎn)生的可能。

2.3 WOA-TCN預(yù)測

針對分解后的10 個模態(tài)，本文采用帶有WOA 優(yōu)化器的TCN 模型對其進(jìn)行訓(xùn)練和預(yù)測，選取TCN 中卷積層過濾器的數(shù)量、卷積核大小、殘差塊的堆棧數(shù)、兩個全連接層的神經(jīng)元個數(shù)以及訓(xùn)練次數(shù)六個參數(shù)進(jìn)行優(yōu)化。為了判別優(yōu)化程度，選取MSE 作為整個優(yōu)化過程的適應(yīng)度函數(shù)。最后，由于電腦計(jì)算性能限制，設(shè)置鯨魚種群數(shù)量為5，最大迭代次數(shù)為10，通過不斷更新策略改變鯨魚的位置，得到TCN 的最優(yōu)模型參數(shù)和結(jié)果。以其中一個模態(tài)數(shù)據(jù)為例，圖3 展示了IMF-5 在進(jìn)行WOA 尋優(yōu)過程中的適應(yīng)度曲線變化。隨著迭代次數(shù)的增加，適應(yīng)度函數(shù)值越來越小，對TCN 參數(shù)起到了很好的尋優(yōu)效果。在進(jìn)行TCN 模型訓(xùn)練和預(yù)測過程中，為了防止梯度爆炸、梯度消失和過擬合現(xiàn)象的發(fā)生，在使用Adam 優(yōu)化的同時，還引入學(xué)習(xí)率動態(tài)調(diào)整和早停機(jī)制，進(jìn)一步提高模型訓(xùn)練的效率。

圖3 北京站點(diǎn)IMF-5的WOA優(yōu)化適應(yīng)度曲線

2.4 線性集合

經(jīng)過上面的預(yù)測后，均已得到各個模態(tài)的預(yù)測結(jié)果，而由于CEEMDAN 是一種完全分解，分解后不存在殘差，所以將所有模態(tài)的結(jié)果線性集合即為最終的日平均氣溫預(yù)測結(jié)果。圖4展示了北京站點(diǎn)測試集單步預(yù)測下最終的預(yù)測效果。

圖4 北京站點(diǎn)測試集單步預(yù)測最終結(jié)果

3 實(shí)驗(yàn)結(jié)果分析與討論

3.1 評價指標(biāo)

為了評估模型的預(yù)測效果，本文采用了一些度量函數(shù)對結(jié)果進(jìn)行評價，其中包括確定系數(shù)(R2)，平均絕對誤差(MAE)，均方根誤差(RMSE)，它們的數(shù)學(xué)表達(dá)式如式⑺至⑼，其中，表示預(yù)測值，yi表示原始真實(shí)值，n是預(yù)測的總數(shù)，是原始值的平均值。

3.2 結(jié)果分析

為了驗(yàn)證所提出模型的可靠性，本文又建立了在時間序列預(yù)測中常用的LSTM 模型作為對比模型，并對CEEMDAN-WOA-TCN 進(jìn)行消融實(shí)驗(yàn)，分析每個模塊在預(yù)測模型中的重要作用，最終在三個氣象站點(diǎn)t+1 步、t+2 步和t+3 步上進(jìn)行預(yù)測，并使用R2、MAE、RMSE作為評價指標(biāo)，表2顯示了北京54511站點(diǎn)的評價結(jié)果，上海58362 站點(diǎn)和廣州59287 站點(diǎn)的評價結(jié)果如圖5和圖6的雷達(dá)圖所示。

圖5 上海站點(diǎn)相關(guān)模型精度評價雷達(dá)圖

圖6 廣州站點(diǎn)相關(guān)模型精度評價雷達(dá)圖

通過不同模型對各站點(diǎn)測試集的預(yù)測結(jié)果可以發(fā)現(xiàn)：①隨著預(yù)測步長逐漸增大，預(yù)測精度呈下降趨勢，這是由于時間序列步長越長，越不易捕捉之前時刻數(shù)據(jù)的相關(guān)性；②雖然LSTM 和TCN 兩種單個模型在預(yù)測精度上非常相近，但在實(shí)驗(yàn)中TCN 的訓(xùn)練時間會比LSTM 更短，效率更高，這與TCN 模型的并行運(yùn)算有很大關(guān)系；③引入WOA 優(yōu)化算法對TCN 模型參數(shù)優(yōu)化后，其預(yù)測精度比未優(yōu)化的單個模型有了一定程度的提高，表明WOA 優(yōu)化算法的有效性；④采用CEEMDAN 分解方法，引入分解-集合的思想后，預(yù)測精度有了最為明顯的提升，表明分解-集合思想下CEEMDAN 在時間序列預(yù)測中具可靠性，是處理非平穩(wěn)、非線性復(fù)雜數(shù)據(jù)的有力工具。

4 結(jié)束語

自從全世界齊心協(xié)力應(yīng)對氣候變化問題以來，雖然當(dāng)前氣候已經(jīng)發(fā)生了一些積極的變化，但這依然是一個長期的問題，未來仍有可能面臨更大的挑戰(zhàn)。如果能對氣溫變化進(jìn)行較為準(zhǔn)確的預(yù)測，將對各個領(lǐng)域產(chǎn)生很大的影響，作為重要的輔助決策依據(jù)。本文采用Python3.6 及各個模塊，提出了一種CEEMDANWOA-TCN 氣溫預(yù)測模型，通過CEEMDAN 對原始數(shù)據(jù)的有效分解和TCN 模型的高效預(yù)測，獲得了相比單個模型更小的預(yù)測誤差。本文在預(yù)測過程中只考慮了單個站點(diǎn)和日平均氣溫單個變量，在接下來的工作中，將考慮多個站點(diǎn)之間的空間位置關(guān)系和其他氣象要素對氣溫的影響，進(jìn)一步提高預(yù)測的準(zhǔn)確性。