基于門控循環(huán)單元的家庭熱水用量預(yù)測(cè)模型研究

孫穎楷 陳慶明 鐘益明

（1.廣東萬和新電氣股份有限公司 佛山 528000；2.中山火炬職業(yè)技術(shù)學(xué)院 中山 528400）

前言

隨著人們生活水平的提高，居住面積的增大，對(duì)家用熱水裝置以及熱水系統(tǒng)的舒適性要求也越來越高，如何確保家庭熱水使用及時(shí)性和舒適性的同時(shí)，制定有效的能源管理策略，降低家庭生活熱水、采暖熱水等方面的能源消耗，對(duì)家庭熱水量進(jìn)行預(yù)測(cè)研究就具有了一定的實(shí)用價(jià)值。

研究者一直致力于尋找能夠減少能源浪費(fèi)的策略，主要應(yīng)用的方法包括基于統(tǒng)計(jì)學(xué)的方法和基于機(jī)器學(xué)習(xí)的方法，通過對(duì)家庭熱水等使用數(shù)據(jù)的分析，可以得到使用時(shí)的規(guī)律、周期、趨勢(shì)等信息，同時(shí)，還可以通過聚類、關(guān)聯(lián)規(guī)則挖掘等技術(shù)，發(fā)現(xiàn)使用時(shí)的行為模式和相應(yīng)的影響因素等，從而為制定組合能源管理策略提供參考。基于統(tǒng)計(jì)學(xué)的方法中，ARIMA 模型和季節(jié)性分解法是比較常用的兩種方法，王平等使用ARIMA 模型來對(duì)能源生產(chǎn)和使用進(jìn)行預(yù)測(cè)[1]，海文龍等則提出了一種基于ARIMA 與卷積長(zhǎng)短時(shí)神經(jīng)網(wǎng)絡(luò)聯(lián)合使用的燃?xì)庳?fù)荷預(yù)測(cè)模型[2]。

由于家庭用能使用習(xí)慣通常具有周期性和季節(jié)性的特征，相比傳統(tǒng)方法，機(jī)器學(xué)習(xí)方法具有端到端學(xué)習(xí)能力，可以處理非線性關(guān)系，以及處理包括多個(gè)傳感器、多個(gè)變量在內(nèi)的多維數(shù)據(jù)，能更好地挖掘其中的信息。在基于機(jī)器學(xué)習(xí)的方法中，主要包括神經(jīng)網(wǎng)絡(luò)、支持向量回歸、隨機(jī)森林等算法。支持向量回歸（SVR）模型可以用于建模用能數(shù)據(jù)的非線性關(guān)系[3]；隨機(jī)森林（RF）模型可以通過對(duì)歷史數(shù)據(jù)進(jìn)行特征選擇和集成學(xué)習(xí)來提高預(yù)測(cè)準(zhǔn)確性。

近年來，循環(huán)神經(jīng)網(wǎng)絡(luò)（RNNs）在家庭用能方面的研究逐漸增多[4,5]，它的主要思想是在網(wǎng)絡(luò)的內(nèi)部維護(hù)一種稱為“狀態(tài)”的信息，使網(wǎng)絡(luò)能夠記憶過去的輸入，進(jìn)而影響后續(xù)的輸出。由此，RNN 可以在處理用能等時(shí)間序列數(shù)據(jù)時(shí)保留更多的歷史信息，從而在此類預(yù)測(cè)任務(wù)中具有一定的優(yōu)勢(shì)。其中，最常見的RNN 是長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)（Long Short-Term Memory，LSTM）[6]。這種網(wǎng)絡(luò)結(jié)構(gòu)通過引入門控機(jī)制，可以有效地控制歷史信息的保留和遺忘，那幸儀等基于小波和LSTM 開展城市天然氣負(fù)荷方面的研究，結(jié)果表明該模型有較高的準(zhǔn)確性[7]。

相比于LSTM 模型，門控循環(huán)單元（Gated Recurrent Unit ,GRU）模型是一種更簡(jiǎn)單的RNN 模型[8]，只包含重置門和更新門兩個(gè)門。GRU 模型在保持長(zhǎng)期依賴能力的同時(shí)，減少了模型參數(shù)，提高了模型的訓(xùn)練速度。因此，本文引入GRU 模型來開展研究，提高家庭熱水量預(yù)測(cè)方面的準(zhǔn)確性，希望提升能源利用效率同時(shí)，能夠?yàn)榧彝ビ脩籼峁└又悄芎褪孢m的生活熱水使用方式。

1 家庭熱水用量分析

家庭熱水用量有一定的短、中、長(zhǎng)期規(guī)律性。一般來說，熱水使用在一天之中會(huì)呈現(xiàn)出早晚高峰的態(tài)勢(shì)。例如，早晨人們起床洗漱和晚上洗澡時(shí)段的熱水需求較高。熱水用量在四季之間等長(zhǎng)期趨勢(shì)上也會(huì)呈現(xiàn)明顯的差異，如冬季氣溫較低時(shí)，熱水使用量會(huì)增加等。雖然家庭熱水用量也會(huì)具有波動(dòng)，如家庭成員可能會(huì)因?yàn)槎燃佟⒊霾罨騾⒓泳蹠?huì)等情況可能導(dǎo)致熱水用量的增加或減少，這給預(yù)測(cè)帶來了相應(yīng)的難度。考慮到家庭成員的生活有一定的習(xí)慣性，因此本文以家庭成員的熱水用量，并將環(huán)境溫度也作為影響熱水用量預(yù)測(cè)的主要參數(shù)，在此基礎(chǔ)上建立用水趨勢(shì)的預(yù)測(cè)模型。

熱水用量的大小，與用戶使用的時(shí)長(zhǎng)，冷水端溫度，出水溫度等有關(guān)，本質(zhì)上是熱量消耗問題，因此就可以將家庭熱水用量轉(zhuǎn)化為熱量值來進(jìn)行表征[9]。一般家庭用熱水量主要會(huì)集中在某幾個(gè)時(shí)間段，其余時(shí)間零星用水，本文以儲(chǔ)水式熱水器為研究對(duì)象，綜合考慮熱水器加熱功率，選取2 h 為時(shí)間間隔進(jìn)行數(shù)據(jù)聚合，在保持?jǐn)?shù)據(jù)的整體結(jié)構(gòu)同時(shí)，降低計(jì)算量，以此建立起時(shí)序預(yù)測(cè)模型。

2 門控循環(huán)單元

門控循環(huán)單元GRU 是一種改進(jìn)的RNN 結(jié)構(gòu)，其在處理序列數(shù)據(jù)時(shí)，可以將前面的輸入與當(dāng)前的輸入進(jìn)行聯(lián)合處理，并將上一個(gè)時(shí)間步的輸出作為下一個(gè)時(shí)間步的輸入。通過引入門內(nèi)部機(jī)制來調(diào)節(jié)信息流，從而使模型能更加穩(wěn)定且能捕捉長(zhǎng)期依賴，提高模型的學(xué)習(xí)效果。

2.1 GRU 模型結(jié)構(gòu)

GRU 主要包括兩個(gè)門控單元，更新門（Update Gate）和重置門（Reset Gate）。相較于LSTM，GRU 的張量操作較少，因此，訓(xùn)練速度要比LSTM 快一些。

2.2 更新門（Update Gate）

更新門負(fù)責(zé)控制隱藏狀態(tài)的更新程度，通過更新門，GRU 可以學(xué)習(xí)在不同時(shí)間步?jīng)Q定保留或丟棄哪些信息。更新門的計(jì)算公式如下：

式中：

zt—更新門的激活值；

σ—Sigmoid 激活函數(shù)，取值范圍為 [0, 1]；

Wz、Uz—權(quán)值矩陣；

xt—輸入序列的當(dāng)前時(shí)間步的輸入；

ht-1—上一個(gè)時(shí)間步的隱藏狀態(tài)。

當(dāng)zt接近0 時(shí)，表示保留過去的隱藏狀態(tài)；當(dāng)zt接近1 時(shí)，表示更新當(dāng)前的隱藏狀態(tài)。

2.3 重置門（Reset Gate）

重置門負(fù)責(zé)控制過去隱藏狀態(tài)對(duì)當(dāng)前隱藏狀態(tài)的影響。通過重置門，GRU 可以在更新隱藏狀態(tài)時(shí)，選擇性地保留或丟棄之前的信息。重置門的計(jì)算公式如下：

式中：

rt—重置門的激活值；

σ—Sigmoid 激活函數(shù)，取值范圍為 [0, 1]；

Wr、Ur—權(quán)值矩陣；

xt—輸入序列的當(dāng)前時(shí)間步的輸入；

ht-1—上一個(gè)時(shí)間步的隱藏狀態(tài)。

當(dāng)rt接近0 時(shí)，表示忽略過去的隱藏狀態(tài)；當(dāng)rt接近1 時(shí)，表示保留過去的隱藏狀態(tài)。

2.4 候選隱藏狀態(tài)（Candidate Hidden State）

式中：

tanh—激活函數(shù)，取值范圍為[-1, 1]；

xt—當(dāng)前輸入；

rt—重置門激活值，用來控制需要保留多少之前的記憶，如果 為0，那么只包含當(dāng)前的信息；

ht-1—上一個(gè)時(shí)間步的隱藏狀態(tài)。

2.5 隱藏狀態(tài)更新（Hidden State Update）

最后，GRU 通過結(jié)合更新門激活值、過去隱藏狀態(tài)和候選隱藏狀態(tài)，計(jì)算得到當(dāng)前時(shí)間步輸出的隱藏層信息 。計(jì)算公式如下：

式中：

ht—當(dāng)前時(shí)間步的隱藏狀態(tài)；

zt—門控制量；

ht-1—上一個(gè)時(shí)間步的隱藏狀態(tài)；

通過這種方式，GRU 可以根據(jù)序列中的不同信息，靈活地保留或丟棄過去的隱藏狀態(tài)，從而在時(shí)間序列預(yù)測(cè)任務(wù)中取得更好的效果。

3 基于GRU 的家庭熱水用量預(yù)測(cè)模型

3.1 GRU 模型建立

模型的建立，首先需對(duì)獲得的熱水用量數(shù)據(jù)進(jìn)行預(yù)處理，為了消除指標(biāo)的量綱影響，需對(duì)數(shù)據(jù)在歸一化/標(biāo)準(zhǔn)化處理的基礎(chǔ)上搭建模型，將預(yù)測(cè)問題轉(zhuǎn)化為監(jiān)督學(xué)習(xí)問題，將數(shù)據(jù)集輸入模型進(jìn)行訓(xùn)練；最后對(duì)模型進(jìn)行評(píng)估，并在評(píng)估基礎(chǔ)上對(duì)模型參數(shù)進(jìn)行調(diào)優(yōu)，綜合考慮后固化形成最終預(yù)測(cè)模型。流程如圖2 所示。

圖1 門控循環(huán)網(wǎng)絡(luò)模型及單元結(jié)構(gòu)

圖2 GRU 預(yù)測(cè)模型流程

1）數(shù)據(jù)預(yù)處理

首先，需要收集家庭用能數(shù)據(jù)，為了提高模型的預(yù)測(cè)能力，需對(duì)數(shù)據(jù)進(jìn)行清洗和異常值處理等操作，并對(duì)數(shù)據(jù)集的結(jié)構(gòu)和相關(guān)性進(jìn)行分析，在觀察數(shù)據(jù)的相關(guān)性及平穩(wěn)性的基礎(chǔ)上，選擇采樣頻率。然后，可以進(jìn)行數(shù)據(jù)歸一化處理，以便于模型訓(xùn)練。

2）模型輸入

將預(yù)處理后的數(shù)據(jù)劃分為訓(xùn)練集和測(cè)試集。訓(xùn)練集用于訓(xùn)練GRU 模型，測(cè)試集用于評(píng)估模型的預(yù)測(cè)結(jié)果。對(duì)于預(yù)測(cè)模型，需要將數(shù)據(jù)轉(zhuǎn)換為適合模型輸入的格式，即將時(shí)間序列數(shù)據(jù)轉(zhuǎn)化為樣本序列和目標(biāo)序列。可以通過設(shè)置滑動(dòng)窗口，將時(shí)間序列數(shù)據(jù)分割成多個(gè)樣本和目標(biāo)序列。

3）模型建立

為了訓(xùn)練數(shù)據(jù)，首先需定義GRU 模型。

輸入層：用于接收時(shí)間序列數(shù)據(jù)，通常包括若干時(shí)間步的變量值，本文中將前24 h 的用能數(shù)據(jù)作為輸入層樣本，加上環(huán)境溫度，共計(jì)13 個(gè)輸入量；

GRU 層：用于提取時(shí)間序列數(shù)據(jù)的特征，GRU 層中的門控單元可以有效地處理用能數(shù)據(jù)的依賴關(guān)系，可以通過增加層數(shù)和神經(jīng)元數(shù)來增加模型的復(fù)雜度和預(yù)測(cè)能力；

輸出層：用于輸出模型的預(yù)測(cè)結(jié)果，本文為預(yù)測(cè)下一個(gè)時(shí)間節(jié)點(diǎn)的熱水用量。

4）模型訓(xùn)練

在模型建立后，用訓(xùn)練集數(shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練，在訓(xùn)練過程中，需對(duì)模型參數(shù)進(jìn)行調(diào)整，包括訓(xùn)練步長(zhǎng)、損失函數(shù)等，通過最小化損失函數(shù)來優(yōu)化模型的權(quán)重參數(shù)。可以通過監(jiān)控模型在訓(xùn)練集和測(cè)試集上的損失函數(shù)值和預(yù)測(cè)準(zhǔn)確度來評(píng)估模型的訓(xùn)練效果，同時(shí)可以通過調(diào)整模型參數(shù)和超參數(shù)來進(jìn)一步提高模型的預(yù)測(cè)能力，直到訓(xùn)練數(shù)據(jù)與模型預(yù)測(cè)數(shù)據(jù)誤差滿足預(yù)設(shè)要求。

5）數(shù)據(jù)輸出

使用訓(xùn)練好的GRU 模型對(duì)測(cè)試集進(jìn)行預(yù)測(cè)，并將預(yù)測(cè)結(jié)果與實(shí)際用能數(shù)據(jù)進(jìn)行比較，以評(píng)估模型的預(yù)測(cè)能力。可以使用常見的誤差指標(biāo)，本文采用均方根誤差（RMSE）、平均絕對(duì)誤差（MAE）和相關(guān)系數(shù)R 來評(píng)估模型的預(yù)測(cè)性能。如果預(yù)測(cè)誤差較小，則表明模型能夠有效地預(yù)測(cè)熱水用量等家庭用能數(shù)據(jù)。

在完成模型的訓(xùn)練和調(diào)優(yōu)后，可以將其進(jìn)行壓縮或裁剪后部署到生產(chǎn)環(huán)境中進(jìn)行使用。

3.2 預(yù)測(cè)結(jié)果及分析

為驗(yàn)證GRU 模型的準(zhǔn)確性，以額定功率3 300 W 的萬和某型號(hào)智能儲(chǔ)水式電熱水器的連續(xù)183 天的熱水用水研究數(shù)據(jù)，聚合為每天12 個(gè)時(shí)間序列點(diǎn)，共計(jì)2 196個(gè)時(shí)間序列點(diǎn)作為研究樣本，將前面169 天的熱水量數(shù)據(jù)劃分為訓(xùn)練集，后面14 天數(shù)據(jù)作為測(cè)試集，預(yù)測(cè)最新2 周（168 個(gè)時(shí)序點(diǎn)）的熱水用量。

GRU 網(wǎng)絡(luò)訓(xùn)練中，每個(gè)時(shí)序點(diǎn)的預(yù)測(cè)都是通過前12個(gè)時(shí)間序列點(diǎn)和溫度數(shù)值預(yù)測(cè)出后1 個(gè)時(shí)間序列點(diǎn)的熱水量值，即GRU 模型的輸入長(zhǎng)度為13、輸出長(zhǎng)度為1，設(shè)置網(wǎng)絡(luò)迭代2 000 次，隱含層為1 層，其中神經(jīng)元數(shù)量為100。

作為GRU 效果對(duì)比，LSTM 網(wǎng)絡(luò)訓(xùn)練與GRU 網(wǎng)絡(luò)訓(xùn)練的參數(shù)設(shè)置完全一樣；而BP 神經(jīng)網(wǎng)絡(luò)構(gòu)建中，兼顧訓(xùn)練時(shí)間和效果，設(shè)置隱含層1 層、神經(jīng)元數(shù)為80，最大迭代次數(shù)為2 000。經(jīng)過測(cè)試，將GRU 模型預(yù)測(cè)結(jié)果與BP、LSTM 算法模型的預(yù)測(cè)結(jié)果進(jìn)行對(duì)比，如圖3 所示。

圖3 不同算法預(yù)測(cè)熱水量比對(duì)

為進(jìn)一步比較算法的優(yōu)劣，將3 種預(yù)測(cè)模型（BP、LSTM、GRU）預(yù)測(cè)的RMSE、MAE、R 值、訓(xùn)練耗時(shí)對(duì)比如表1 所示。

表1 不同算法預(yù)測(cè)性能結(jié)果

從圖3 中和表1 中可以看出，三種算法BP、LSTM、GRU 都能較好預(yù)測(cè)儲(chǔ)水式電熱水器用戶的熱水用量，在性能方面，基于GRU 模型預(yù)測(cè)結(jié)果的均方根誤差RMSE和平均絕對(duì)誤差MAE 更小，相關(guān)系數(shù)R 則更高，所需訓(xùn)練時(shí)間對(duì)比起來也更短。結(jié)果表明，GRU 預(yù)測(cè)模型能更好地滿足熱水供應(yīng)等用能方面的預(yù)測(cè)需求。

4 結(jié)語

需要指出的是，由于家庭能源使用習(xí)慣的復(fù)雜性，當(dāng)前的研究還面臨著一些挑戰(zhàn)。基于機(jī)器學(xué)習(xí)的預(yù)測(cè)模型需要充分考慮家庭能源使用的復(fù)雜性和不確定性，在多模態(tài)數(shù)據(jù)融合方面，家庭用能數(shù)據(jù)不僅包括電能、燃?xì)饽艿饶茉吹氖褂脭?shù)據(jù)，還包括溫度、濕度、氣壓等環(huán)境參數(shù)數(shù)據(jù)，這些數(shù)據(jù)的融合可以更好地提高預(yù)測(cè)的準(zhǔn)確性，因此，需要在未來的研究中進(jìn)一步探索和完善相應(yīng)的技術(shù)和方法，以及如何對(duì)模型進(jìn)行評(píng)估、優(yōu)化及裁剪等。另外，也可以通過對(duì)時(shí)間序列進(jìn)行多因素分解處理，并將預(yù)處理后的數(shù)據(jù)輸入到深度學(xué)習(xí)模型中進(jìn)行進(jìn)一步的學(xué)習(xí)和預(yù)測(cè)，更好地捕捉序列的特征來提高預(yù)測(cè)性能。