基于最小二乘向量機結(jié)合雙向時序長短期記憶的臺區(qū)用電特征提取*

程昱舒，謝振剛，陳安琪

(1.國網(wǎng)山西省電力公司營銷服務(wù)中心，山西 太原 030002；2.國網(wǎng)山西省電力公司，山西 太原 030021)

隨著智能電網(wǎng)、能源互聯(lián)網(wǎng)和泛在電力物聯(lián)網(wǎng)建設(shè)的發(fā)展，風(fēng)、光、水、核等可再生能源大量、不斷地并入電網(wǎng)的各個角落，使電網(wǎng)的調(diào)度、控制難度越來越大，因此精細化地掌握用戶用電的特征和趨勢就顯得越來越重要，已經(jīng)成為電力系統(tǒng)研究的熱點問題之一，引起國內(nèi)外專家學(xué)者的廣泛重視[1-3]。

泛在電力物聯(lián)網(wǎng)建設(shè)的重要一環(huán)就是高級量測系統(tǒng)的形成，并能夠采集電力系統(tǒng)發(fā)、輸、配、用各個環(huán)節(jié)數(shù)據(jù)，尤其是智能電表的安裝，可以獲得配電網(wǎng)用戶側(cè)各個時段的用電信息，從而為用電特征的提取提供了重要基礎(chǔ)[4-5]。

基于電力系統(tǒng)高級量測體系，目前對于電力系統(tǒng)臺區(qū)用電特征的研究有如下的代表性成果，如文獻[6]基于高級量測體系形成的多元大數(shù)據(jù)平臺，建立了配電網(wǎng)用電行為特征的分析構(gòu)架；文獻[7-9]針對赤峰市、廈門市、湖南省等多用戶農(nóng)村住宅實際年、月生活用電量，分別從年、月、日、小時等尺度分析了農(nóng)村住宅用電量規(guī)律；文獻[10-13]基于聚類思路，分別采用K-Mean 方法、云平臺計算方式獲得用戶用電行為特征；文獻[14-16]從構(gòu)架方面，給出了用戶畫像的不同技術(shù)框架下的關(guān)鍵實現(xiàn)技術(shù)和應(yīng)用。

對于電力系統(tǒng)大數(shù)據(jù)的分析和應(yīng)用是用戶用電特征分析和提取的有力保證，然而目前的研究成果在提取用電特征時，仍以傳統(tǒng)方法為主，沒有使用人工智能領(lǐng)域的相關(guān)新成果。本文以此為切入點，以深度學(xué)習(xí)理論中的雙向時序長短期記憶網(wǎng)絡(luò)(Bidirectional Long Short-Term Memory，BLSTM)為手段，以最小二乘支持向量機回歸模型為前提，綜合考慮天氣環(huán)境信息、人文活動信息、經(jīng)濟社會信息，提出了臺區(qū)用戶用電特征提取方法。

1 臺區(qū)用電特征提取

用電行為特征提取的核心是獲得用戶用電的特征，即通過真實的量測數(shù)據(jù)進行聚類分析:

式中:SSE 表示傳統(tǒng)的誤差平方和計算方法；k表示該劃分中的個體數(shù)量；ci表示第i個劃分；x表示ci中的個體；mi表示樣本均值。

式(1)描述了樣本分類過程中的計算準則，然后使用K-Means 聚類算法能夠獲得具有多個特征的聚類。

在傳統(tǒng)K-Means 聚類算法的基礎(chǔ)上，進一步采用最大熵原理來進行特征精細化過濾，隨機變量x的計算熵為:

式中:Ω為隨機變量x取值集合；p(x)為隨機變量x的概率。

在傳統(tǒng)K-Means 聚類分類d中，所有用戶特性的熵為:

式中:Nd表示分類總數(shù)；Mi表示第i個分類的總樣本。

獲得用戶特性熵后，可以計算特征ti與用戶類別之間的最大相關(guān)信息熵D(s，d):

式中:Muv表示特征ti在分類v中的總樣本；I(ti，d)表示S中的特征ti與分類d之間的信息相關(guān)度；S表示經(jīng)過篩選后的最優(yōu)特征集；NS表示該集合中的特征數(shù)量。

獲得式(4)后可以辨別特征與分類之間的信息相關(guān)度，進而定義相關(guān)系數(shù)ρ(ti，tj):

式中:cov(ti，tj)表示特征ti和tj的協(xié)方差；和分別為特征ti和tj的標準差。

相關(guān)系數(shù)表示的是特征之間的關(guān)系，還要從最優(yōu)的角度進行去除分類內(nèi)的冗余，因此需要設(shè)置冗余指標:

結(jié)合式(4)～式(6)，可以獲得最優(yōu)特征分類:

利用機器學(xué)習(xí)方法求解式(7)后即可得到用戶用電特征的最優(yōu)分類，從而形成用戶用電特征提取。

要想求解式(7)，可以采用機器學(xué)習(xí)中的相關(guān)方法，在電力系統(tǒng)量測大數(shù)據(jù)環(huán)境下，基于人工智能的方式可以獲得精度較高的特征解。

為了獲得精度高的特征解，下面首先給出最小二乘支持向量機的回歸模型，然后以此為基本解，采用深度學(xué)習(xí)中的雙向時序長短期記憶網(wǎng)絡(luò)方法對基本集進行學(xué)習(xí)，從而獲得精度更高的解。

2 最小二乘支持向量機回歸模型

根據(jù)第1 部分的內(nèi)容可知，用戶用電特征提取的本質(zhì)就是對用戶用電進行分類，即依據(jù)電力系統(tǒng)量測的歷史大數(shù)據(jù)，對其中具有相似特征的進行分類，形成若干類。每一類具有相似的用電特征。而分類的方法可以使用模式識別中的支持相量機(Support Vector Machine，SVM)方法。傳統(tǒng)SVM 具有收斂速度慢、容易陷入局部極值的問題，為了克服這些問題，本文采用最小二乘支持向量機回歸模型。

最小二乘支持向量機(Least Square Support Vector Machine，LSSVM) 是對傳統(tǒng)支持向量機(Support Vector Machine，SVM)的改進，是一種遵循結(jié)構(gòu)風(fēng)險最小化(Structural Risk Minimization，SRM)原則的核函數(shù)學(xué)習(xí)機器，其算法是最小二乘法，其原理是結(jié)構(gòu)風(fēng)險最小化，克服了傳統(tǒng)經(jīng)驗風(fēng)險最小準則泛化能力差、求解速度低的缺陷。已經(jīng)在電力系統(tǒng)負荷預(yù)測、風(fēng)電預(yù)測等方面得到廣泛應(yīng)用[17-18]。

設(shè)存在電力系統(tǒng)潮流量測大數(shù)據(jù)，選擇時間窗為n的時間斷面量測，使用這n個時間斷面量測歷史數(shù)據(jù)作為訓(xùn)練樣本，設(shè)為訓(xùn)練樣本對(xi，yi)(i＝1，2，…，n)，其中xi表示輸入樣本，yi表示輸出樣本。

根據(jù)SVM 原理，可以將該樣本對在非線性映射函數(shù)φ(x)的作用下，映射到高維特征空間中:

在式(8)所示的特征空間中，建立如式(9)的線性回歸函數(shù):

式中:w表示權(quán)相量，wT為其轉(zhuǎn)置；b為偏移量。

根據(jù)SRM 原理求解式(9)，等效為如下的計算:

式中:γ為一系數(shù)，當其為無窮大時，所得到的解為最小二乘優(yōu)化解；Remp為SRM 函數(shù)，可以表示為Remp表示第i個時間斷面中訓(xùn)練過程中的誤差。

為了求出式(9)中的參數(shù)w和b，在式(10)的基礎(chǔ)上，可以建立如下的優(yōu)化模型:

一般來說，式(11)可以通過建立拉格朗日函數(shù)來求解:

式中:λ＝[λ1λ2…λn]T表示拉格朗日乘子。

依據(jù)拉格朗日乘子法中的最佳解條件，即KKT(Karush Kuhn Tucker)條件，可以求解式(13)得到:

展開式(13)可得:

求解式(14)中的w和εi，可以轉(zhuǎn)換為如下的線性方程組的形式:

在計算式(15)的方程過程中，需要給定核函數(shù)才能進行計算。設(shè)滿足Mercer 定理的核函數(shù)為K(xi，xj)＝[φ(xi)，φ(xj)]，那么求解式(14)就可以等效為求解如下的回歸函數(shù):

由于徑向基函數(shù)具有較強的泛化能力，因此在計算式(16)時，通常選擇徑向基函數(shù)作為核函數(shù)，即:

式中:σ表示徑向基函數(shù)的尺度參數(shù)。

將式(17)代入方程組(15)中，利用最小二乘法原理就可以得到參數(shù)的估計值:

將式(18)估計結(jié)果代入式(14)中，可得:

根據(jù)式(8)～式(19)的計算，可以獲得臺區(qū)用戶用電特征分類，該分類是通過對臺區(qū)歷史量測的大數(shù)據(jù)進行統(tǒng)計分析獲得的，但是還存在一定的誤差。

為了獲得精確度更高的特征分類，將誤差以及式(8)～式(19)獲得的解進一步采用雙向時序長短期記憶網(wǎng)絡(luò)的方式進行學(xué)習(xí)，從而獲得精度更高的特征分類。

3 雙向時序長短期記憶網(wǎng)絡(luò)用戶用電特征提取

3.1 基本原理

雙向長短時記憶網(wǎng)絡(luò)(Bidirectional Long Short-Term Memory，BLSTM)是由前向、后向兩個LSTM 構(gòu)成，其基本單元如圖1 所示，包含輸入層、前向LSTM、后 向 LSTM、輸出層，具體計算步驟如下[19-20]。

圖1 BLSTM 結(jié)構(gòu)圖

第一步，中間處理單元的計算:

其中，式(20)是對輸入層的計算；式(21)對遺忘層的計算；式(21)是對中間層的計算；式(22)是對輸出門的計算；式(23)是對記憶融合階段的計算；式(24)是最后的輸出計算。Wxi，Whi，Wci，Wxf，Whf，Wcf，Wxg，Whg，Wxo和Who，Wco為學(xué)習(xí)訓(xùn)練的權(quán)系數(shù)；bi，bf，bg，bo為偏置項。

3.2 用戶用電特征提取

為了實現(xiàn)準確的用戶用電特征分類和提取，在通過電力系統(tǒng)量測的大數(shù)據(jù)基礎(chǔ)上，通過第2 部分的計算，可以選擇N個滾動的時間窗口，每個時間窗口包含n個第2 部分的量測斷面，從而可以獲得N個第2 部分計算的數(shù)據(jù)樣本，標記為:

式中:Δwt表示第2 部分估計的的誤差；同理，Δbt表示第2 部分估計的的誤差；Δft(x)表示由Δwt和Δbt獲得的分類函數(shù)的誤差值；Pi表示臺區(qū)歷史負荷值，包含了N個時間窗口內(nèi)、每個窗口內(nèi)的n個值；Wi表示臺區(qū)天氣環(huán)境信息；Ai表示人文活動信息；Oi表示經(jīng)濟社會狀態(tài)。

將式(26)中的數(shù)據(jù)樣本作為BLSTM 的輸入數(shù)據(jù)，同時選擇式(20)、式(21)、式(23)中的過濾函數(shù)為sigmoid 函數(shù)，設(shè)置BLSTM 相應(yīng)的層數(shù)和LSTM個數(shù)，從而可以進行學(xué)習(xí)BLSTM 的權(quán)系數(shù)。

4 算例分析

采用如圖2 所示的山西電網(wǎng)某地區(qū)實際電網(wǎng)為例，對本文方法予以驗證。該地區(qū)電網(wǎng)中共包含5臺發(fā)電機、11 個用電負荷，電網(wǎng)參數(shù)如表1 所示，采集負荷13 某天的有功功率，如表2 所示。

表1 圖2 所示電網(wǎng)結(jié)構(gòu)參數(shù)(標幺值)

表2 某天24 h 負荷13 的有功功率 單位:MW

圖2 某地區(qū)實際電網(wǎng)

采用某年1 月至6 月共6 個月，每個月按照30 d 計算，每天24 h、每小時以15 min 采集系統(tǒng)潮流，共獲得17 280 個時間斷面的潮流結(jié)果，某天潮流結(jié)果如表3 所示。

表3 某天24 h 發(fā)電機有功潮流結(jié)果 單位:MW

在Windows 環(huán)境下，采用MATLAB 結(jié)合Python對本文算法進行程序設(shè)計，文中涉及的數(shù)據(jù)保存在SQL 數(shù)據(jù)庫中，與Python 和MATLAB 進行配合，編寫程序進行計算和分析。

基于上述基本信息和潮流數(shù)據(jù)，根據(jù)本文第1、2、3 部分的方法，進行用電特征分類，可得到如圖3所示的分類結(jié)果。

由圖3 中的4 類分類結(jié)果可見，每一類的差別很明顯，即可以明確地獲得分類結(jié)果。從曲線的走勢上就可以直觀地看到，而每一類中的負荷數(shù)據(jù)大小和趨勢也基本一致。

圖3 聚類后4 類用戶用電特征曲線

5 結(jié)論

針對電力系統(tǒng)精細化管理的要求，準確地獲得需求側(cè)用電特征十分必要，因此首先對傳統(tǒng)K-Mean典型聚類方法進行改進，獲得用戶用電特征，并形成學(xué)習(xí)的歷史數(shù)據(jù)；在此基礎(chǔ)上，通過使用最小二乘支持向量機回歸模型獲得具有較高準確度的用電特征，并獲得誤差，將其作為后續(xù)人工智能學(xué)習(xí)方法的輸入；最后，通過雙向時序長短期記憶網(wǎng)絡(luò)進行深度學(xué)習(xí)而進行分類。通過實際電網(wǎng)的仿真驗證表明了本文所提出的方法能夠準確地獲得臺區(qū)用戶用電特征。