基于內核時變回歸模型的電能預測分析與研究

田 野， 王大鵬， 劉榮權， 鐘佳晨

（1.國電南瑞南京控制系統有限公司， 江蘇 南京 211106；2.國網內蒙古東部電力有限公司供電服務監管與支持中心， 內蒙古 通遼 028000；3.南京農業大學 人工智能學院， 江蘇 南京 210095）

0 引 言

隨著 “雙碳”發展目標的提出，新型電力系統以新能源為主體，在降低碳排放領域有著明顯特征和優勢。但由于源荷不確定性以及低碳訴求，電網結構和運行模式也面臨新的問題[1-2]。以電力系統消費側為例，能源設備的電能配置容量由用能比例、用戶需求等因素決定，如不能對其精細化預測和控制，很可能出現電力資源浪費、用戶體驗下降等問題，最終影響系統業務的營銷增長[2]。因此，對電能負荷預測進行研究分析對于優化電力負荷調度、改進電網結構進而實現“雙碳”目標具有重要意義。

數據驅動技術在能源負荷預測問題中應用廣泛[3-4]，從技術角度可以分為兩類，即傳統方法和現代方法。其中，傳統方法包括回歸分析法[5]、時間序列法[6]和灰色模型法[7-8]。在相關研究中，蘇振宇等提出了一種結合季節調節和Holt-Winters 方法的月度負荷預測方法，實現了較高的預測精度[9]。李震等提出了一種基于數據驅動線性聚類和自回歸積分滑動平均法進行長期電力負荷預測的方法，解決了負荷波動大導致的長期負荷預測精度低的問題[10]。

現有方法包括人工神經網絡[11-14]、模糊控制、支持向量機[15]和組合模型。J.Munkhammar 等使用馬爾科夫鏈混合分配模型（MCM）對澳大利亞住宅用電量進行超短期預測，取得了很好的效果[16]。徐先峰等提出了一種多層Bi-LSTM 的Seq2seq 深度學習模型（BL-Seq2seq），實現了短期用電負荷預測[17]。但是，這些方法的局限性在于無法應用于數據周期較長的場景中。為此，魏明奎等采用BFGS-FA 優化的分數階灰色預測模型對中長期負荷進行預測。該方法利用BFGS-FA 尋優算法對分數階灰色預測模型進行優化，最后得到最優階數的分數階灰色預測模型[18]。

綜上，從現有的應用場景來看，絕大多數對于電力負荷的預測方法都是應用于短期內的電力變化數據，通常為某一地區在幾個月內的負荷數據。這樣的數據通常周期性較短且變化的幅度較小，在使用現有方法進行擬合時往往能夠獲得不錯的效果。但是如果電力數據的周期變長，同時其中峰值低估的變化幅度也變大，則現有的許多方法效果會有所下降。

現有的大多數方法中使用的核函數往往是預先設定好的，這樣的設計依賴于較強的先驗知識以及較大的數據量，單一的核函數無法很好地匹配多變的應用情況，導致只有與該核函數預設參數較為匹配的數據能夠被很好的擬合。此外，這些方法的可解釋性與操作性門檻較高，進一步限制了其大范圍的推廣和使用。

對于周期長、變化幅度大的電能數據，需要所使用的方法能夠對使用的核函數進行自適應選擇，使其能夠根據應用場景的數據特點來進行匹配。因此，本文采用基于內核時變回歸模型（Kernel-based Time-varying Regression Model, KTR）[19]，該模型將時間序列視為局部趨勢、季節性和附加回歸量的加法組合，這三個分量的系數都隨時間變化。其使用核回歸產生時變系數，用貝葉斯框架合并實驗結果，從而擬合用電數據曲線。實驗結果與對比分析證明了本文方法在電能負荷預測上的可行性以及準確性方面的明顯優勢。

1 電能預測相關原理

1.1 KTR 預測原理

傳統的線性回歸方法通常擬合出一維直線，核回歸則可以將低維的數據上升到高維，利用核函數作為權重函數來建立非線性回歸模型。而內核時變回歸模型（Kernel-based Time-varying Regression Model, KTR）[19]則是在核回歸的基礎上，將時間序列作為自變量參數從而更好地獲取因變量隨時間變化的關系。本文將貝葉斯建模和核回歸的思想結合在一起，目的是更好地結合試驗結果對因變量與時間自變量之間的關系加以解釋。

基礎的回歸函數會將預測值表現為與自變量參數相關的收益遞減函數形式。現有的方法中較為常見的是用公式（1）來描述電能負荷預測：

式中：xt,p是回歸變量，在本文的研究中指不同的測量日期；y^t是電能負荷的測量值；g是一個表現時間序列的過程；f指變化趨勢函數；P是回歸變量的個數；T是時間點的個數。本文在擬合的過程中需要對函數f進行選擇，使得y^t的可解釋性增強，同時可以分解為不同的驅動因素。為使公式更加直觀，可將其描述為如下形式：

式中：elt是非周期上的變化趨勢；而est則是周期性的變化趨勢；βt,p是特定節點的時間變化系數。

但是，傳統的方法在應對時間周期過長的數據時，因為計算過于冗雜導致效率不高，計算開銷較大。為此，本文使用KTR 模型對電能進行預測。

KTR 模型是在貝葉斯框架下基于內核的時變回歸模型，其核心在于：將回歸系數表示為局部潛在變量的加權和，使用潛在變量來定義模型系數的平滑時變表示，而這些平滑表示形式是核平滑[19]。與典型的動態線性模型相比，KTR 模型有著更少的參數，因此有著更快的計算速度。

KTR 模型將公式兩邊取對數，可以將其表示為：

1.2 時變系數回歸

以回歸項為例，KTR 模型定義了一個潛在變量bjp作為第p個回歸量在時間tj時的回歸系數，p= 1,2,…,P,j= 1,2,…,J,tj∈{ }1,2,…,T。對于每個回歸量，共有J個潛在變量，可以將bjp視為第p個回歸量分布在tj處的一個節點。因此，第p個回歸量的回歸系數就可以表示為J個局部潛在變量的加權和，第p個回歸量的回歸系數為：

其次，KTR 模型使用基于時間的權重函數，本文中使用t和tj距離的加權函數可以更好地獲取t和tj時間點上數據的關系，公式如下：

式中k(·，·)為核函數，分母為標準化節點的權值。

根據實際數據集中的不同，數據特征選擇的核函數不同。對于趨勢和周期性變化，本文所選用的核函數為：

式中ρ是scale 參數。

將方程改寫成矩陣形式，即：

式中：B為T×p的系數矩陣(元素為βt,j)；K是T×J的內核矩陣(元素為wj(t)）；b是J×P的節點矩陣(元素為bjp)。

因此，回歸項的公式為：

式中：Bt=(βt,1,βt,2,…,βt,p)和Xt是回歸或協變量矩陣的第t行。

同時，在KTR 模型中，局部趨勢、周期性和回歸項的區別不大，因此都有類似的表達形式。則對于趨勢部分，有：

對于周期性成分，有：

式中：Xt,seas表示由傅里葉級數導出的季節協變量矩陣第t行。

1.3 貝葉斯框架

除了時變系數回歸之外，KTR 模型同樣使用貝葉斯框架和可設置的后驗進行后驗采樣，估計局部節點參數(b、blev和bseas)，目的是對擬合結果的可能性加以數量化的評價，使得在長期數據中進行預測更加精準，避免過擬合的情況發生。對于趨勢和周期性成分，使用拉普拉斯先驗（Laplace Prior）對相鄰節點建模，即：

式中：初始值b0,lev和bseas可以從均值為0 的拉普拉斯分布中采樣。

而對于回歸，KTR 模型設計了一個兩層的層次結果來獲得更穩健的采樣，即：

式中：上標“+”表示折疊的正態分布(系數符號的正限制)。

模型訓練過程中，先對潛在變量先驗進行采樣獲得潛在變量采樣，然后使用隨機變分推斷（Stochastic Variational Inference, SVI）[20]估計潛在變量后驗，之后繼續上述的采樣估計得到節點系數后驗，最后利用公式（6）～式（8）得到時變系數lt、st、rt的估計值，并最終在測試集上進行檢驗。

2 處理流程設計

基于內核時變回歸模型的電能預測主要分為實驗預處理、超參數選擇、模型訓練三部分，處理步驟如圖1所示。為了避免原始數據中的缺失或異常值影響模型訓練的精度，首先需要對數據進行預處理，該過程包括異常值處理、填充缺失值和對數化。本文的預處理步驟為：

圖1 基于KTR 的用電數據預測處理流程

1） 原始數據存在因為記錄誤差導致的錯誤數據，會影響整體數據趨勢的變化，所以需要將出錯的數據刪除或置0，防止實驗結果被錯誤的極端數據所影響。

2） 由于設備故障等原因導致的數據缺失也會影響模型的擬合，在填充缺失數據的過程中，本文選擇后項數據填充的方法，將數據的后一個應用于前列則更能體現數據的連續性。

3） 少數時間段的數據變化幅度會高于平均變化幅度，使得整體趨勢的預測受到影響。為了減少該影響，本文對現有的數據進行對數化，縮小數據的絕對數值，將后續復雜的乘法運算轉變為加法運算，降低了運算的難度。

在獲取經過預處理的完整數據集后，需要進行超參數選擇實驗，確定在模型訓練中所使用的最優參數。由于本實驗數據只有電能負荷數據，沒有其他回歸量，因此需要考慮的參數只有分段數（level segments）和迭代次數（steps）。

為了確保獲取參數的可靠性，本研究使用回溯測試，遞增每次的訓練集數量，同時測試集數量保持不變。本文設定起始窗口天數為380，每次擴展天數為120，預測天數為20。從完整的數據集中隨機選擇一名用戶的用電量數據作為實驗數據，在實驗的過程中，每一代分別計算SMAPE，并且判斷該值是否為當前最優，最終選定獲取最優SMAPE 的參數作為正式模型訓練時的參數。確定超參數之后便獲得了正式訓練所需要的分段數以及迭代次數，將該參數輸入KTR 模型中，同時從所有完整數據集中隨機選取10 個用戶的用電量數據分別進行訓練。對每個用戶數據訓練所得到的模型進行測試，最終對10 個用戶的測試SMAPE 值求平均作為預測結果。

3 實驗結果與分析

3.1 實驗環境與評價指標

本 文 的 實 驗 硬 件 環 境 為 Intel Core i9 -12900K ， 4 900 MHz；內 存 為32 GB； NVIDIA GeForce RTX 3060 Ti （8 GB）。軟件環境為Windows 10操作系統，編程語言為Python 3.7。

本文使用對稱平均絕對百分比誤差（Symmetric Mean Absolute Percentage Error, SMAPE）作為指標來衡量模型預測的準確度，SMAPE 的計算公式如下：

式中：y^i是樣本預測值；yi是樣本真實值；n是樣本數量。SMAPE 越小表示預測得越準確。

3.2 數據預處理

本文用于實驗測試的數據來源于電網，包含42 372個用戶的用電量數據，電能負荷數據按天統計，范圍從2014 年1 月1 日—2016 年9 月9 日，共1 036 天。數 據集 按 照8∶2 劃 分，即80% 作 為 訓 練 集， 20% 作 為 測試集。

數據存在缺失值過多的情況，圖2 為樣本缺失數據示例。由于數據具有時序性，因此本文使用后向填充，使用缺失值后面的第1 個觀測值進行填補。同時，為了避免填充數據過多而影響預測效果，最終選擇以10 為界限，刪除連續的缺失值數大于10 的樣本。

為了縮小數據的絕對數值同時避免偽回歸，消除異方差，讓數據更加符合正態分布，本實驗對數據進行對數處理，處理前后效果分別如圖3 和圖4 所示。觀察可知，取對數后的數據波動變小，樣本的異方差程度顯著降低。

圖3 處理前的電能時間序列圖

圖4 處理后的電能時間序列圖

3.3 超參數選擇

由于存在時間先后的問題，時間序列數據不能簡單地使用交叉驗證，會出現一些時序特征交叉的情況，如用未來的數據去預測過去的數據。因此，本文使用基于時間的交叉驗證進行超參數優化選擇。基于時間序列的交叉驗證有擴展和滾動兩種窗口，本文選擇擴展窗口，即訓練開始日期固定，結束日期向前擴展。對于其他參數，本文設定起始窗口為380（以天為單位），每次擴展120，預測20，基于回溯的超參數最優化選擇如圖5 所示。

圖5 基于回溯的超參數最優化結果

由于本實驗數據只有電能負荷數據，沒有其他回歸量，因此本文的KTR 模型的參數在分段數（level segments）和迭代次數（steps）上考慮優化。其中，分段數選擇10、20、30、40，迭代次數選擇301、601、901、1 201。然后使用回溯測試進行超參數選擇，結果如表1 所示，表中黑色加粗處為最優參數行。

表1 超參數選擇結果

由表1 結果可以看出，最佳參數為（30，1 201），此時的預測SMAPE 值為10.29%。

3.4 模型結果與評估

使用超參數優化得到的最佳參數（30，1 201）構建KTR 模型；然后使用與上文相同的回溯測試參數（擴展窗口，起始窗口380，每次擴展120，預測20）對時間序列進行交叉驗證。本文給出最后一個模型的擬合效果，如圖6 所示，其中黑點表示原始的電能負荷數據，灰色的線是使用KTR 模型擬合得到的曲線，灰色的區域是置信區間，表示預測的上下界，豎著的虛線將數據集劃分為訓練集和測試集，左側為訓練集，右側為測試集。經實驗計算可得，總體的電能量數據預測值和原始值的SMAPE 值為8.46%，模型擬合效果較好。

圖6 KTR 模型預測整體擬合效果

本文將KTR 模型與業內常用的Prophet[21]和SARIMA 模型進行了對比。Prophet 是Facebook 開源的基于STL 分解思想的時序預測模型，具有速度快、可解釋性強等優點。

SARIMA 模型全稱為季節性差分自回歸滑動平均模型，通過對時間序列進行變換和擬合來建模，對數據的平穩性有著很高的要求。

實驗使用SMAPE 作為評價標準，隨機選取10 組樣本，取10 組平均值作為最終的SMAPE。對于每組樣本，訓練集和測試集的劃分比例為3∶2，即預測步長h為100，每個模型的參數設置基本一致。不同模型平均SMAPE 比較結果如表2 所示。從表2 結果可以看出，本文模型的預測精度優于其他兩種模型。

表2 模型平均SMAPE 比較 %

4 結 語

本文基于KTR 模型實現了對電能負荷時間序列的預測，并驗證了該模型在電能負荷預測的可行性和準確性。通過基于時間的交叉驗證，本文得到了模型在數據集上的最佳參數；然后使用該最佳參數建立模型，對電能負荷時序數據進行擬合預測，最終的模型SMAPE 值達到8.46%，具有較高的預測精度。此外。將本文模型與Prophet 和SARIMA 模型進行對比分析，結果證明本文模型的預測精度更佳。最后，通過真實電能負荷時序數據的擬合預測結果，驗證了本文方法在優化電力負荷調度工作、提升電力服務質量方面是切實可行的。