基于主成分分析和正則化神經網絡的電力負荷預測方法

徐 江，馮 雪，付兆慶，馬寶明，苗耀庭

（1.內蒙古電力（集團）有限責任公司，呼和浩特 010010；2.巴彥淖爾電業局，內蒙古 巴彥淖爾 015000；3.內蒙古華電卓資發電有限公司，內蒙古 烏蘭察布 012000）

0 引言

隨著我國電力改革的深化，售電側市場逐步放開，售電公司已逐漸參與電力市場交易。截至2019年，內蒙古電網電力市場交易電量超過了1400億kWh，占全社會用電量的49.8%，超過全國平均水平17個百分點。傳統的售電公司靠賺取差價盈利，這在供大于需的時期或地區比較合適，但2019年以來蒙西地區電力供需形勢已發生轉變，呈現出整體緊平衡、局部供需緊張的狀態。

電力負荷預測是能量管理系統（EMS）的一個重要組成部分，是電力現代化管理不可或缺的技術手段。用電企業用電行為受行業性質、環境變化、交易電價等因素影響，售電公司增強其代理用戶用電行為的分析和負荷預測，對制訂合理的交易計劃和規避違約考核風險具有重要意義[1]。

近年來，關于負荷預測的研究成果眾多，各種預測方法（包括神經網絡法、時間序列法、回歸分析法、支持向量機法、模糊預測法等）各具特點，但由于影響負荷變化的因素較多，且各因素之間存在較強的相關性，造成傳統預測方法的準確性和普適性較差[2-5]。本文提出一種基于主成分分析（PCA）和正則化人工神經網絡負荷預測模型，能夠適應售電公司中短期電力負荷預測的最新需求[2]。

1 主成分分析法介紹

1.1 主成分分析基本原理

海量的變量樣本數據中蘊含了豐富的信息，但各變量之間存在信息重疊情況，增加了數據挖掘的工作量和分析研究的復雜性。為了在減少變量樣本的同時，盡量保留原變量包含的信息，需對樣本數據進行降維處理。數據降維算法有很多，比如獨立成分分析、因子分析、自組織特征映射、主成分分析（PCA）等。其中主成分分析是統計學中一種常見的降維算法，通過正交變換將一組可能存在相關性的變量轉換為一組線性不相關變量，可以很好地解決因變量太多造成計算復雜、計算量增大的弊端。

PCA的基本思想是將n維的特征變量映射到k維上（k

1.2 PCA數學模型

假設一個樣本庫X觀測n個樣品，m個變量X1，X2，…，Xm的數據矩陣為：

PCA首先將m個觀測變量通過線性組合獲得m個新的綜合變量，即

其中，F1的Var( F1)最大，為第一主成分，F2的Var( F2)次之，為第二主成分，依此類推。A稱為主成分系數矩陣，a ij（i=1，2，3，…，m；j=1，2，3，…，m）為主成分系數。求解主成分系數就是提取主成分所要解決的問題[4]。

1.3 PCA步驟

PCA的基本流程如圖1所示，主要過程如下。

圖1 PCA流程圖

（1）數據標準化處理：主要包括數據中心化和數據歸一化處理，目的是消除量綱、數據自身變異及數據量級差異對變量分析的影響。

（2）計算協方差矩陣，將各個特征的方差和不同特征之間的協方差表示出來。

（3）求解協方差矩陣的特征值及對應的特征向量。

（4）將特征向量按照對應特征值由大到小排序，組成變換矩陣，計算主成分矩陣。

（5）用特征值計算方差累計貢獻率，取累計貢獻率超過80%的前i個主成分，作為新的主成分變量。

2 正則化神經網絡模型

2.1 BP神經網絡

人工神經網絡是一種信息響應網狀拓撲結構，具有較快的處理速度和較強的容錯能力[6-8]。BP神經網絡是通過計算輸出層與期望值之間的誤差來調整網絡參數，從而使誤差變小。BP神經網絡包括輸入層、隱含層和輸出層。相鄰各層神經元之間由權重系數相互連接，輸入信號經過傳遞函數的作用由輸入層傳播到隱含層，再由隱含層傳播到輸出層，最后得到輸出結果，完成一次訓練。以3層BP神經網絡為例，結構如圖2所示[5]。

在訓練過程中，定義第n次迭代后所有輸入數據的期望輸出和實際輸出之間誤差的平方和為目標函數E(n)：

式中：ti為第i個神經元的期望輸出；Zi為第i個神經元的實際輸出；p為輸出層神經元個數。當E(n)滿足目標值時，實際輸出和期望輸出達到一致，網絡訓練結束，BP神經網絡的訓練過程如圖3所示[6]。

圖3 BP神經網絡的訓練流程圖

2.2 神經網絡正則化

在傳統BP神經網絡訓練過程中，受網絡結構、節點數目以及訓練數據質量的影響，有可能出現過擬合情況，導致訓練好的網絡泛化能力差。一般的神經網絡工具箱會將樣本數據集分成訓練樣本、驗證樣本及測試樣本3個部分，使用訓練樣本得到多個模型，利用驗證樣本計算各模型的誤差，選取誤差最小的模型計算測試樣本的泛化誤差，評價模型的泛化能力。為進一步解決過擬合問題，利用神經網絡正則化，在原目標函數E（n）的基礎上加入約束項，避免網絡模型一味追求誤差最小而導致網絡結構過于復雜，過度擬合訓練樣本中的噪聲特征而影響模型訓練結果，以達到更好的推廣能力，目標函數變為：

通過增加約束項E(ω)和調整α，β的大小，在保證網絡訓練誤差減小的同時使網絡連接權重盡可能少，相當于減小網絡規模，提高泛化能力。

3 基于PCA與BP神經網絡的負荷預測模型

以某售電公司所代理用戶典型年度3月13日至4月20日的每日負荷值及當天最高溫度、最低溫度、平均溫度、日期類型作為數據樣本，以前7天的負荷值及預測當天的最高溫度、最低溫度、平均溫度為協變量，日期類型為分類變量（工作日定為1，節假日定為0）作為BP網絡的輸入，預測當天的負荷值作為輸出，創建32個樣本集進行訓練[7]。

3.1 主成分提取

首先將樣本數據進行標準化處理，經過處理的數據符合標準正態分布，即均值為0，標準差為1，消除不同數據類型對結果的影響。由標準化處理后的樣本數據可得到特征值和方差貢獻率（見表1）。由于前4個分量的累計貢獻率已超過80%，包含了絕大部分的數據信息量，因此選擇前4個主成分，主成分系數見表2。

表1 特征值和方差貢獻率

表2 主成分系數

3.2 BP神經網絡訓練

BP神經網絡具有尋優能力強的特點，但容易陷入局部最優的陷阱，造成網絡模型過擬合，算法魯棒性差[9-11]。利用貝葉斯正則化方法自適應調整α，β的大小，優化BP神經網絡的權值和閾值，既可壓縮網絡模型，又能避免網絡陷入局部最小的問題，提高模型泛化能力。具體步驟如下：

（1）選取前4個主成分進行建模，預測輸出為當日負荷值，所以確定BP神經網絡輸入層為4，輸出層為1，通過經驗及試湊法，選擇1個隱含層，傳遞函數選用log-sigmoid型函數。

（2）將32個樣本中的20個作為訓練集，6個作為驗證集，6個作為測試集，用來訓練神經網絡并驗證測試網絡模型的性能。

（3）確定網絡結構及樣本集后，利用神經網絡工具箱對樣本進行訓練，訓練結果如圖4所示。

圖4 神經網絡訓練結果散點圖

圖4給出樣本集訓練后的數據擬合情況，可以看出樣本訓練情況較好，實際輸出和期望輸出之間誤差在允許范圍內，達到了網絡訓練的要求。利用神經網絡訓練得到的網絡模型對樣本集的電力負荷進行預測，結果如圖5所示，預測值與實際值的相對誤差如圖6所示，誤差范圍為[-0.03，0.01]。

圖5 PCA-BP神經網絡負荷預測結果

圖6 PCA-BP神經網絡負荷預測相對誤差

3.3 結果對比分析

利用時間序列預測法以及不含主成分提取的原始數據及正則化約束的BP網絡模型對樣本數據進行訓練預測，與本文訓練方法的結果進行對比分析，結果見表3。

表3 時間序列、BP神經網絡以及PCA-BP神經網絡預測結果對比

由表3可見，時間序列預測法得到的結果與實際值偏差較大，主要原因為時間序列預測法只利用歷史負荷數據的趨勢進行統計分析，未考慮溫度以及日期類型對用電負荷的影響[12]。而基于BP神經網絡的預測值與實際值較為接近，但因為樣本集之間關聯性較強且輸入樣本較多，造成網絡模型復雜，存在過擬合現象[13-16]，導致有些時間的預測值偏離實際值較大；基于主成分分析和正則化約束的BP神經網絡模型簡捷有效，對訓練集外的樣本預測準確率較高。

4 結語

本文利用主成分分析法對影響負荷變化的變量進行降維，消除各變量間重疊的信息，同時簡化了網絡模型，然后利用增加正則化約束項的BP神經網絡對樣本集進行訓練，避免模型過擬合，得到負荷預測網絡模型。通過與未采用主成分分析及添加正則化項的BP神經網絡模型和時間序列法預測的結果進行對比，驗證了該方法的正確性和優勢，研究方法可供電力用戶、售電公司以及其他電力市場參與者參考。