基于層疊泛化策略的母線負荷預測模型

黃帥棟，衛志農，丁恰，沈茂亞，孫國強，孫永輝

（1.河海大學能源與電氣學院，南京 210098；2.國電南瑞科技股份有限公司，南京 210061）

基于層疊泛化策略的母線負荷預測模型

黃帥棟1，衛志農1，丁恰2，沈茂亞2，孫國強1，孫永輝1

（1.河海大學能源與電氣學院，南京 210098；2.國電南瑞科技股份有限公司，南京 210061）

基于層疊泛化策略SG（stacked generalization）提出一種新的母線負荷預測方法。該方法包含兩級學習層，第1層針對原始母線負荷樣本空間，對一組支持向量機SVM（support vector machine）進行交互驗證式訓練，訓練完成后得到新的特征空間，該特征空間由這些支持向量機的輸出和對應的真實值組成；第2層對輸出進行線性組合，將新特征空間中的輸出序列作為觀測，對應的輸出權值作為狀態，使用卡爾曼濾波對權值進行遞推估計。實例仿真證明，采用所提方法模型的泛化能力得到改善，從而提高母線負荷的預測精度。關鍵詞：層疊泛化算法；支持向量機；卡爾曼濾波；母線負荷預測

母線負荷預測的準確性是電網安全預警及智能調度技術研究的重要內容，其預測精度直接影響到電網安全預計分析、電網輸送能力計算、運行計劃安排等。支持向量機、人工神經網絡等學習算法具有較好的泛化性能和預測精度，已經在系統短期負荷預測中取得了良好的效果[1，2]。

母線負荷的預測方法主要有兩類：一類是基于系統負荷分配的預測方法[3，4]，另一類是采用母線負荷的歷史數據、負荷特性以及相應的影響因素直接進行母線負荷預測[5～7]。目前的研究主要集中于第2類預測方法，通過系統負荷預測方法的改進和各種優化組合來提高預測能力。文獻[5]提出基于事例推理模糊神經網絡對母線負荷進行預測，該神經網絡使用混合（有監督/無監督）學習算法，具備良好的泛化能力。文獻[6]提出基于粒子群算法PSO（particle swarms optimization）優化的誤差反傳人工神經網絡BP（back propagation）母線負荷預測方法（PSO-BP），通過PSO優化BP網絡的權值和閾值，提高母線負荷預測精度。文獻[7]將最小二乘支持向量機應用于母線負荷預測，提出一種廣義網格搜索算法對最小二乘支持向量機的參數進行優化，并使用馬爾可夫鏈方法對預測結果進行修正，收到了較好的效果。

事實上，在采用智能算法進行母線負荷預測的過程中，神經網絡預測方法存在學習不足或過擬合的固有缺陷，支持向量機對于平穩的數據有較強的泛化能力，但是對于非平穩數據，效果卻不是很理想[8]，而母線數據在大多數情況下都是非平穩的。針對這種情況，綜合利用各種方法所提供的信息，將比單個模型更系統、更全面。因此，可以考慮使用組合預測模型來提高母線負荷的預測能力。

層疊泛化方法[9]是一種組合預測的訓練方法，與一般組合方法不同的是，它通過對一組學習算法的交叉訓練來得到預測結果的相對完備性，達到一個總結預測經驗的效果，從而提高模型的泛化性能。該策略包含兩級學習層，第1級對學習算法進行交互驗證式訓練，獲得多組預測值，第2級可以選取相對自由的方法給各個預測值賦權值，從而得到最終的結果。

本文使用支持向量機作為層疊泛化方法第1層的學習算法，通過預測值的完備性來增強預測模型的泛化能力。在第2層中使用卡爾曼濾波進行預測權值的遞推估計。實例分析驗證，此方法增強了模型的泛化能力，提高了預測精度。

1 支持向量機

支持向量機是一種基于結構風險最小化原理的機器學習技術，具有較好的泛化能力[10，11]。該運用于分類問題和回歸問題，都取得了良好的效果[12]。對于回歸預測問題，給定訓練樣本集（{xi，y）i}，其中xi為輸入向量，yi為輸出值，N為樣本數量，采用的回歸函數為

式中：ω為權值向量；b為偏差；φ（x）將x映射到高維特征空間。ω和b通過最小化風險泛函得到，即

式中：C為懲罰系數；Lε為不敏感損失函數。

式中，ε為不敏感損失系數。

由于特征空間的維數很高且目標函數不可微，為方便求解，引入核函數K（xi，xj），可以將問題轉化為下面的對偶問題，并采用二次規劃進行求解。

目前，常用的核函數有徑向基函數、多項式核函數、B-樣條核函數和傅里葉核函數等[13]。在負荷預測問題中，使用徑向基核函數較為普遍，且參數選擇簡單，因此本文采用徑向基函數為核函數，即

式中，σ為核寬度。

需要特別指出的是，采用徑向基核函數的支持向量機用于回歸問題時，訓練中需要尋優的參數為徑向基核寬度σ、懲罰系數C和不敏感損失系數ε。

2 卡爾曼濾波

設離散線性系統為

對于狀態方程（8），xk為k時刻狀態變量，Φk，k-1為從k-1時刻到k時刻的狀態轉移矩陣；Γk，k-1為從k-1時刻到k時刻的輸入噪聲轉移矩陣，ωk-1為k-1時刻的輸入噪聲。

對于量測方程（9），zk為k時刻量測量，Hk為量測矩陣，vk為測量噪聲。

其中動態噪聲{ωk}和量測噪聲{vk}是互不相關的零均值白噪聲序列，即對所有的k和j，其基本統計性質為

3 層疊泛化方法

3.1 層疊泛化方法原理

層疊泛化是一種將多個學習算法組合訓練的方法，它通常由兩級學習網絡構成，第1級由M個不同的映射，即

式中，f1m表示第1級中第m個映射。對所有映射進行交互驗證式訓練，對同一樣本反復抽取訓練集和測試集來得到一組由預測值組成的新樣本空間，這些預測值包含了預測結果的多種情形，保留了各個學習算法預測空間的信息；第2級由一個映射f2構成，將由第1級得到的新樣本空間作為映射f2的輸入進行計算，得到最終的結果，其中f2的選擇相對自由。

3.2 使用SVM建立第1層模型

使用支持向量機算法構建第1級映射，顧及訓練時間，將數量確定為3個，即

選擇不同的不敏感損失系數ε，支持向量機將有不同的預測效果。這里將ε直接設定，在訓練過程中對各個算法的懲罰系數C和核寬度δ進行尋優，這樣既避免對ε尋優造成的訓練時間過長，同時又顧及到各個不敏感損失系數ε下支持向量機的預測能力。

采用支持向量機的層疊泛化方法的第1層網絡建模過程如圖1所示。

圖1 層疊泛化方法第1層網絡訓練過程Fig.1Training process of level-1 of stacked generalization

引入訓練樣本

步驟4重復步驟2～步驟3，得到所有訓練輸入對應的新樣本，組成新的樣本空間為

步驟5使用全部訓練樣本對f1各個支持向量機再進行訓練，得到用于預測的第1級學習網絡L1。

3.3 使用卡爾曼濾波建立第2層網絡

第2級映射f2的輸入由第1級的預測值組成，可將問題等效為多個預測值的加權組合問題，即

其中權值矩陣Ai=[ai1，ai2，ai3]。

本文使用卡爾曼濾波算法對權值進行估計，將樣本各日同一時刻看做一個時間序列，將權值序列作為狀態量，預測序列作為觀測量，對每組序列分別建立卡爾曼濾波的狀態方程和量測方程，對權值進行遞推估計。

每一組序列的狀態方程和量測方程為

式中：t=1，2，…，96；Ak（t）為t時刻狀態矩陣；由于是同一時刻，負荷變化幅度較小，因此可以令狀態轉移矩陣Φk，k-1（t）=I。

遞推過程如下：

步驟1設定初始條件；

步驟2對以權值矩陣為狀態變量的模型運用式（11）～式（15）進行遞推，求出需要預測時刻的狀態變量k（t），最后得到預測方程為

步驟3重復步驟2，對96組序列分別進行卡爾曼濾波計算遞推權值。

4 實例仿真

為驗證本文方法的預測效果，對一條220 kV母線進行96點預測，以2010年12月1日至12月10日的數據為訓練樣本，12月11日為測試樣本。分別采用平均日準確率和相對誤差進行評價。

式中：Ak為k時段的區域統計誤差；M為區域內可考核的母線負荷總數；N為日預報總時段數；Ei，k為母線i負荷k時段的引用誤差，其表達式為

對于第1級3個支持向量機中的不敏感損失系數采用枚舉的方式，取值分別為ε11=0.01，ε12= 0.05，ε13=0.10。

卡爾曼濾波需要知道確切的輸入噪聲協方差Q和測量噪聲協方差R，且噪聲協方差的精確度與濾波效果的好壞息息相關。但在實際負荷預測中，根據已知信息很難準確獲得先驗的Q和R的值，本文不對其取值進行討論，取為

使用本文方法建模，并將預測結果與組成層疊泛化策略的3個支持向量機的預測效果進行對比，結果如表1所示。

由表1可知，單個支持向量機模型的預測效果都不是很理想，其中最低的相對平均誤差為8.57%，而使用層疊泛化策略，將誤差降低了3.84%，最大相對誤差和準確率在所有模型中也達到最優，最小相對誤差雖然未能降低，但也維持在一個比較低的水平。通過對4個模型96個時刻相對誤差進行對比發現，如圖2所示，使用本文方法后共有67個點的預測效果得到了提高，占所有預測點的69.79%，其中提高的預測時刻主要集中在1～29、50～72和84～96點。

表14 個模型的預測效果Tab.1Comparison of forecasting error among four models

圖24 種模型的相對誤差比較Fig.2Comparison of relative error by four models

圖3為分別使用3個支持向量機模型和層疊泛化策略進行預測后的實際值和預測值的對比，其中12月10日為訓練集中的最后一天，12月11日為預測日。從圖中可以看到，訓練集12月10日3個支持向量機模型在1～29和50～96點時刻的預測值均高于真實值，11日負荷曲線的1～29和84～96點的負荷與10日相同時刻相比均呈現下降趨勢，其他時刻負荷基本相似。單獨使用支持向量機模型預測11日的負荷，與10日的預測效果相似，其預測值相比真實值仍然是偏大，特別是在1～29點和85～96點時刻，誤差更加明顯，而使用層疊泛化策略后，在3個支持向量機預測值的基礎上再進行降低，在一定程度上跟蹤了負荷的下降趨勢。

圖34 種模型的預測曲線Fig.3Forecasting curves of load by four models

由上述結果可以看出，使用基于層疊泛化策略的預測模型比單個學習算法預測模型的預測精度更高。為進一步驗證本文所提方法的有效性，分別使用BP神經網絡方法[15]和基于粒子群算法優化的BP神經網絡方法[6]與本文方法進行比較。使用同樣的訓練樣本和測試樣本，對隨機選取的10條220kV條母線負荷進行預測，比較結果如表2所示。

由表2可知，單獨使用BP神經網絡模型的預測效果一般，個別母線比如母線5和母線8的預測準確率較低，而采用PSO優化之后，預測效果得到了提高，特別是母線5和母線8。采用本文方法以后，預測效果得到進一步的改善，除母線7以外，其余母線的預測準確率均高于其余兩種預測方法。

表2 BP、PSO-BP與SG模型的預測效果比較Tab.2Comparison of forecasting error among BP，PSOBP and SG models%

5 結語

本文將層疊泛化的訓練策略引入到母線負荷預測中。在第1層中通過反復抽取訓練集和測試集來對3組支持支持向量機進行建模，并進行預測，這些預測值包含了預測結果的多種情形，保留了各個支持向量機預測空間的信息；在第2層中針對新的預測值空間建立狀態方程和觀測方程，并使用卡爾曼濾波算法對權值進行估計。最后，實例仿真結果表明，本文方法提高了模型的泛化能力，提高了母線負荷的預測精度。

[1]衛志農，王丹，孫國強，等（Wei Zhinong，Wang Dan，Sun Guoqiang，et al）.基于級聯神經網絡的短期負荷概率預測新方法（A novel method of short time load probability forecasting based on cascaded neural network）[J].電工技術學報（Transactions of China Electrotechnical Society），2005，20（1）：95-98．

[2]李林川，夏道止，楊振平，等（Li Linchuan，Xia Daozhi，Yang Zhenping，et al）.應用人工神經網絡進行短期負荷預測（Short-term load forecasting using artificial neural network）[J].電力系統及其自動化學報（Proceedings of the CSU-EPSA），1994，6（3）：33-41．

[3]汪峰，于爾鏗，周京陽（Wang Feng，Yu Erkeng，Zhou Jingyang）.能量管理系統（EMS）第4講電力系統負荷預報（Energy management system（EMS）part four：electric power load forecasting）[J].電力系統自動化（Automation of Electric Power Systems），1997，21（4）：66-69．

[4]韓力，韓學山，贠志皓，等（Han Li，Han Xueshan，Yun Zhihao，et al）.多節點超短期負荷預測方法（Method for ultra-short term multi-node load forecasting）[J].電力系統自動化（Automation of Electric Power Systems），2007，31（21）：30-34．[5]余貽鑫，吳建中（Yu Yixin，Wu Jianzhong）.基于事例推理模糊神經網絡的中壓配電網短期節點負荷預測（CBRFNN-based short-term nodal load forecasting for middle voltage distribution networks）[J].中國電機工程學報（Proceedings of the CSEE），2005，25（12）：18-23．

[6]彭信淞，賀輝，姚建剛，等（Peng Xinsong，He Hui，Yao Jiangang，et al）.用PSO優化BP神經網絡的母線負荷預測方法（Method of bus-load forecasting using BP neural network optimized by PSO）[J].電力系統及其自動化學報（Proceedings of the CSU-EPSA），2010，22（5）：146-151．

[7]李光珍，劉文穎（Li Guangzhen，Liu Wenying）.基于LSSVM和馬爾可夫鏈的母線負荷短期預測（Bus load short-term forecast based on LSSVM and Markov chain）[J].電力系統保護與控制（Power System Protection and Control），2010，38（11）：55-59，66．

[8]韓中合，朱霄珣（Han Zhonghe，Zhu Xiaoxun）.基于信息熵的支持向量回歸機訓練樣本長度選擇（Selection of training sample length in support vector regression based on information entropy）[J].中國電機工程學報（Proceedings of the CSEE），2010，30（20）：112-116．

[9]Wolpert D H.Stacked generalization[J].Neural Networks，1992，5（2）：241-259．

[10]Vapnik V N.The Nature of Statistical Learning Theory[M]. New York：Springer，1995．

[11]Vapnik V N.An overview of statistical learning theory[J]. IEEE Trans on Neural Network，1999，10（5）：988-999．

[12]Burges C J C.A tutorial on support vector machines for pattern recognition[J].Data Ming and Knowledge Discovery，1998，2（2）：121-167．

[13]鄧乃揚，田英杰.數據挖掘中的新方法-支持向量機[M].北京：科學出版社，2004．

[14]鄧自立.卡爾曼濾波與維納濾波-現代時間序列分析方法[M].哈爾濱：哈爾濱工業大學出版社，2001．

[15]辛麗虹（Xin Lihong）.電力系統母線負荷預測研究（Research for Power System Bus Load Forecasting）[D].成都：四川大學電氣信息學院（Chengdu：School of Electrical Engineering and Information of Sichuan University），2000．

Bus Load Forecasting Model Based on Stacked Generalization

HUANG Shuai-dong1，WEI Zhi-nong1，DING Qia2，SHEN Mao-ya2，SUN Guo-qiang1，SUN Yong-hui1
（1.College of Energy and Electrical，Hohai University，Nanjing 210098，China；
2.NARI Technology Development Co.Ltd.，Nanjing 210061，China）

A novel method for bus load forecasting was proposed based on stacked generalization.The proposed approach includes two learning level spaces.The first one is for the original bus load data space，after the cross-validation training and testing on a set of SVMs，a new space，composing of the output of the SVMs and the corresponding original data，is obtained and named as“level 1 space”.Then，in the“level 2 space”，the original output series and corresponding output weights are taken as the observations and states of Kalman filter，respectively.Finally，simulation results demonstrate that higher generalization accuracy can be obtained by using the proposed hybrid method，thus the forecasting accuracy can be improved greatly.

stacked generalization；support vector machine（SVM）；Kalman filter；bus load forecasting

TM714

A

1003-8930（2013）03-0008-05

黃帥棟（1988—），男，碩士研究生，研究方向為電力系統負

荷預測。Email：hsd_1436@163.com

衛志農（1962—），男，教授，博士生導師，研究方向為電力系統運行分析與控制、輸配電系統自動化等。Email：wzn_nj@263.net

丁?。?974—），男，碩士，工程師，研究方向為電力系統調度自動化及其應用軟件。Email：dingq@narithech.cn

2012-03-30；

2012-06-21

國家自然科學基金項目（50877024，51107032，61104045）