運用PCA改進BP神經網絡的用電異常行為檢測

田 野,張 程,毛昕儒,劉 驥

(1.重慶大學 計算機學院， 重慶 400044； 2.國網重慶永川電力公司， 重慶 402160)

運用PCA改進BP神經網絡的用電異常行為檢測

田 野1,張 程1,毛昕儒2,劉 驥1

(1.重慶大學 計算機學院， 重慶 400044； 2.國網重慶永川電力公司， 重慶 402160)

針對目前用戶用電行為和異常檢測的傳統方式所遇到的資源耗費、效率低下、檢測困難等問題，結合數據挖掘技術設計實現了適用于大規模用電數據挖掘的算法，并建立了有效的異常特征提取模型。通過使用基于統計的特征提取方式確定異常指標，并使用主成分分析方法對特征數據降維，進行異常用電信息的分析、辨識和處理，之后對處理后的用電數據建立BP神經網絡完成用電異常行為檢測。檢測結果表明：該方法可以有效地提取出用電行為特征，并且能有效用于用電異常檢測。

用電行為；異常檢測；特征提取；主成分分析；神經網絡

隨著電網系統信息化程度的不斷提高和用戶用電數據量的迅速增長，各類電網裝置及系統都有大量的數據要處理，數據規模龐大，蘊含的事件信息種類繁多。然而，從大量價值密度較低的數據中挖掘出有價值的信息仍是電力企業面臨的重要問題[1]。同時，由于通信、設備故障、電網波動以及用戶異常用電行為等原因，出現了大量數據異常的現象，這些異常數據影響了電能數據的準確性。因此，本文針對上述問題研究適用于大數據的用戶用電行為分析方法，并建立一個有效的異常發現模型。

早期對于設備故障產生的用電異常多采用的是現場檢測方法，即技術人員到用電現場進行排查。這種處理方式極其耗費人力、物力資源，效率低、效果差，而且很難獲取計量設備的電壓、電流、功率等瞬時量數據[2]。同時，這種方式還存在極大的人為因素，不利于電力行業的管理。近年來，國內外專家學者提出了一些基于數據挖掘技術和智能優化算法的用電異常檢測方法，其中人工神經網絡是人工智能領域興起的研究熱點。

本文以用戶日常用電行為檢測為主，以提取數據有用特征和提高分類精度為主要目的，結合數據挖掘的方法解決時序數據分類的問題，實現用電異常檢測的概率預警。該方法降低了電網公司檢測分析的時間及成本，提高了異常檢測精確度及工作效率，具有重大的經濟效益。

1 研究現狀

1.1 智能電網的發展

一般的用電異常指標分為線損異常和瞬時量異常兩類。早期的用電異常檢測辦法是確定各個用電異常指標以及每個異常指標的閾值，并其賦予不同的權重分值，累加后計算每個用戶的竊電嫌疑系數[3]。即根據這些異常指標設計竊電識別模型，通過計算嫌疑系數來識別竊電用戶。然而這類異常數據大多由設備故障產生，需要到現場檢測排查，導致效率太低且不利于統計管理。

近年來，隨著智能電網的高速發展建設，智能電表的快速普及，使得電網能夠更方便、更準確地獲取并查詢用戶的用電信息。它利用現代網絡通信技術進行信息海量交互，實現電網設備間的信息交換，并自動完成信息采集、測量和檢測等基本功能，有利于現代化管理，并方便用于數據挖掘分析。

1.2 用電行為分析

國內外許多專家學者對用戶用電行為特征進行了大量研究。近年來，一些基于數據挖掘技術和智能優化算法的異常檢測方法相繼提出，包括決策樹、模糊C均值、人工神經網絡、負荷模式、SVM、OPF分類以及極限學習機等。

1.2.1 異常檢測算法相關研究

謝濤等[4]針對非法用電行為構建線性方程組數學模型，提出了基于智能電表的分布式檢測方法。簡富俊等[5]使用單類SVM無監督機器學習架構對電力用戶負荷異常進行檢測，在小樣本及樣本分類不均衡環境下提高檢測的準確性。馮曉蒲等[6]使用模糊C均值算法對其進行聚類分析，得到負荷簇和負荷代表曲線，分析了屬于各行業和電價類的用戶負荷聚類結果。林嘉暉[7]構建了適用于電網企業的用戶行為分析系統并實現了部分數據挖掘算法，能夠對大量用戶數據進行分析。

Cabral等[8]提出了一種基于粗糙集的異常用電檢測統計方法。Nagi等[9]提出一種基于改進SVM的異常檢測模型，并使用包含知識和專家意見的模糊推理系統。Ramos等[10]提出一種基于和聲搜索算法和OPF分類的混合特征選擇算法，并成功應用到電力系統。Pereira等[11]提出一種利用電場算法訓練多層感知機的人工神經網絡方法。

1.2.2 特征提取方法研究現狀

現有的時間序列特征提取的方法有分別基于統計方法、模型、變換和分形維數的特征提取。 基于統計特征的提取就是提取數據波形的均值、方差等統計特征來代表原有的時序數據作為特征矢量；而基于變換的特征提取方法包括SVD、主成分分析(PCA)和線性判別式分析等。其中，利用PCA方法的變換可以在信息損失最小的前提下，用較少的分量來代替原來的高維數據，達到降維的效果[12]。

楊光[13]使用BP神經網絡算法建立異常用電檢測模型，然而該模型缺乏數據特征提取過程，不能用于本實驗含有大量噪聲和隨機性的時序數據。胡殿剛等[14]在訓練數據前做了基于CFS方法的特征選擇過程，但由于數據類型的差異，在本實驗中不能取得很好的效果，所以需要針對本實驗數據集提出更合適的特征提取方法。

1.3 BP神經網絡技術

人工神經網絡是人工智能領域興起的研究熱點。近幾年，BP神經網絡的研究工作不斷深入，在許多實際應用領域中取得了很大的進展，成功地解決了許多現代計算機難以解決的實際問題，表現出了良好的智能特性。目前，在手寫字體的識別、語音識別、文本—語言轉換、圖像識別以及生物醫學信號處理方面已有實際的應用[15]。

BP神經網絡的一般結構如圖1所示。

圖1 BP神經網絡結構

BP網絡具有很強的非線性映射能力，而且網絡的中間層數、各層神經元個數及網絡的學習系數等參數可以根據實際情況設定，有很大的靈活性，經過學習能夠把樣本隱含的特征和規則分布在神經網絡的連接權上。

2 數據預處理

隨著電力系統升級、智能電力設備的普及，國家電網公司可以實時收集海量的用戶用電行為數據。如圖2所示，為國家電網搜集到的2015年全年近10 000個用戶的每日用電量數據表。其中，用戶日用電量表記錄了所有用戶每日用電量千瓦時、當天及前一天的總用電量表示值，每個用戶擁有一組維度為334的時序數據。用戶清單確定了用戶標識信息，提供了對應編號用戶是否為用電異常用戶的標識。

圖2 用戶部分用電數據實例

2.1 特征提取方法

本文結合已獲取的用戶用電時序數據，使用基于統計特征和基于PCA變換的提取方法，對用電數據建立特征提取模型。首先對用戶用電數據中的噪聲干擾進行清洗處理；然后確定出各類統計特征指標；最后采用PCA方法對用電數據特征降維。

2.2 數據清洗

數據清洗過程用于發現并糾正數據集中可識別的錯誤，包括檢查數據一致性、處理無效值和缺失值等。不符合要求的數據主要分為殘缺數據、錯誤數據、重復數據3類。

首先，對本實驗所用的數據集做歸一化處理后計算所有用戶同一天用電量的均值，并得出一年用電量的平均走勢圖，如圖3所示。圖4為每個用戶一年的用電量走勢。從圖中可以看出：數據集中用戶在10月份的用電量數據均有大部分缺失，故在數據處理時去除10月份的時序片段。

圖3 所有用戶全年平均用電走勢

圖4 所有用戶全年用電量時序

然后，在對原始數據集的觀察中得知：有部分用戶全年的日用電量數據大部分為0或者缺失，如圖5所示。這類用戶數據信息殘缺嚴重，在對數據特征提取階段會造成一定干擾，所以需要去除這類殘缺用戶的數據。本實驗定義當單個用戶的日用電數值為0或缺失的天數占全年時間的60%以上時認為該用戶為殘缺用戶。

對于數據缺失量低于60%的用戶，通過計算缺失位置前后兩天的均值來做填充補全處理。

圖5 部分用戶的大量缺失數據

2.3 建立統計特征

參考用戶用電行為相關研究并結合實際用電數據分析，本文首先對用電行為特征在時間上以年、季度、月份為單位劃分，并計算每個用戶的單位時間均值、標準差和離散系數序列；然后在用電走勢上大致分為變動趨勢、波動趨勢、升降趨勢3種趨勢類型。基于統計方法提取的特征如表1所示。

表1 統計特征指標

假設本實驗所用到的數據集為X={xn,n=1,…,N}，數據集中包含N個日常用電用戶，每個用戶劃分為D天、M個月、Q個季度的用電數據，則：

每個用戶的日用電量序列：

xn={xnd,d=1,…,D}

月用電量序列：

季度用電量序列：

2.3.1 波動趨勢

在統計中標準差被用來評估序列可能的變化或波動程度，標準差越大，數值波動的范圍就越大。所以，這里計算用電量標準差std來表示用電數據的波動特征。同時，計算用電離散系數cv來衡量用戶用電的離散程度。令某一時間段用電平均值為μ，則用電量標準差：

(1)

用電離散系數：

cv=std/μ

(2)

2.3.2 變動趨勢

變動性特征是指用戶用電量的前后差異性度量，即由某一時間段與前一相鄰時間段的平均用電量比較，其差值和比值來反映用電量變動的快慢程度。定義計算方式如下：

相鄰k月或k季度用電均值的差值：

(3)

相鄰k月或k季度用電均值的比值：

(4)

2.3.3 升降趨勢

上升下降趨勢特征是指通過根據用戶連續幾日的用電量做出下一次用電量的預測，并與下一次實際用電量比較，得出上升或下降的可能性。這里使用簡單移動平均法來確定升降趨勢的特征向量。簡單移動平均法根據時間序列逐項推移，依次計算固定項數的一組平均值，并作為下一次的預測值。令k為移動項數，t時刻實際值為xnt，則升降特征的計算方法得

t時刻預測值：

Ft=(xn(t-1)+xn(t-2)+…+xn(t-k)/k

(5)

t時刻升降趨勢：

tr=xnt-Ft

(6)

若tr<0，則表明用電趨勢下降；若tr>0，則用電趨勢上升。

2.4 主成分分析

在進行時序數據的特征提取的過程中，提取的特征維數太多會導致特征在匹配時過于復雜，消耗系統資源，因此需要對數據進行特征降維，將高緯度的特征經過某種函數映射至低緯度作為新的特征。

主成分分析(PCA，principal component analysis)就是一種常用的數據降維方法。PCA算法通過提取數據的主要特征分量，將高維數據投影到較低維空間，將原始數據變換為一組各維度線性無關的表示，使得處理數據的時間和費用大大降低。另一方面，由于各主成分是相互垂直的，所以增大了類間距，減小了類內差異,可提高分類精度。

對于n維向量的m個樣本值，形成一個m×n的矩陣X。將X的每一列減去對應該列的均值得X′，再計算它的協方差矩陣C。然后求出協方差矩陣C的特征值λ及對應的特征向量V：

CV=λV

(7)

將特征值由大到小排列：λ=[λ1,λ2, …,λn]，并取前k個特征值對應的特征向量，得到一個n×k的矩陣A。計算：Ym×k=Xm×nAn×k，Y即為降維到k維后的新特征數據。

在PCA算法中，對于新的特征維度k值的確定，需要進一步分析每個主成分對信息的貢獻。如果取的k值小，則數據的維數低，便于分析，同時也降低了噪聲，但可能丟失一些有用的信息。所以定義主成分貢獻率r作為k的取值標準。貢獻率是指主成分對應的特征值在整個數據中承擔的比重，當取前k個主成分來代替原始數據特征時，累計貢獻率的大小反映了新特征的可靠性，累計貢獻率越大，則可靠性越大。本實驗要求選取的新特征的累計貢獻率達95%以上，即：

(8)

3 模型建立

3.1 異常檢測模型

本文的模型設計流程大致分為數據采集、數據清洗、特征提取、神經網絡設計、模型建立、實驗分析這6個部分。基于PCA改進BP神經網絡的用戶用電異常行為檢測模型的總體結構如圖6所示。

圖6 用戶用電異常檢測模型結構

3.2 BP神經網絡

本實驗將特征提取步驟中對原始數據樣本提取的6個特征維度作為輸入因素，最后輸出用電異常和用電正常2種可能結果，分別以0和1表示，即網絡模型為多輸入單輸出二類分類模型，如圖7所示。相對于一般的BP神經網絡，本文針對用電時序數據樣本量較大和維度較高的特征，在BP神經網絡的結構設計上采用雙隱含層，使數據處理精度得到保證。

圖7 本文所用BP神經網絡結構

為保證在實際訓練時網絡具有較高的收斂速度，同時減少變化的幅度以便降低調整權重的難度，對輸入數據進行歸一化的處理。樣本數據歸一化區間限于[0,1]。隱含層的激活函數分別選擇tansig和logsig兩種Sigmoid型激活函數，其表達式和誤差函數分別為：

(9)

其中：Ti為期望輸出；Oi為實際輸出。輸出層函數選擇purelin線性激活函數。訓練函數選擇收斂速度較快的LM優化算法trainlm。

4 實驗分析

4.1 數據測試

本實驗選取的原始數據集來自重慶某地電網9 956個用戶從2015-01-01—2015-12-31共一年的日用電量數據，具體實驗過程如下：

1) 對原始數據做數據清理。本實驗中經清理后得到334天可供分析的有效數據維度和8 146個數據有效的用戶訓練集。其中包含6 977個正常用戶和1 169個異常用戶，異常用戶比例為14.35%。

2) 對清理后的數據集建立統計特征。根據表1對實驗數據提取49個維度的統計特征。

4) 對PCA降維處理后的新特征數據集做相關性分析，得到的相關系數矩陣如表3所示。

從表3中可以看出各個特征之間的線性相關程度，其中cor表示相關系數。|cor|越接近1，表示這兩個特征間線性關系越密切；|cor|越接近于0，則這兩個特征的線性相關越弱。可見，經PCA處理后得到的新特征幾乎相互獨立，消除了信息重疊。

表2 總貢獻率高于0.95的特征值

表3 基于新特征的相關系數

圖8 d1與d2維度的空間分布

6) 根據已提取的6個新的特征數據，構建用于BP神經網絡的6個輸入向量及1個輸出向量，并進行歸一化處理。然后根據構建的模型，利用Matlab建立含有2個隱含層的BP神經網絡，如圖11所示。設置2個隱含層的激活函數分別為 tansig和logsig，輸出層激活函數為線性函數purelin，訓練函數為trainlm，訓練次數為5 000次、目標精度為1e-5。

圖9 d1與d3維度的空間分布

圖10 d2與d3維度的空間分布

圖11 利用Matlab建立BP神經網絡

4.2 實驗結果

經過本實驗建立的用電行為異常檢測模型分析得出的結果如表4所示，其中輸出異常檢測值res在[0,1]之間。若res<0.5，則判斷用戶無異常用電行為；若res≥0.5，則用戶存在用電異常嫌疑。

本實驗分別使用了傳統BP神經網絡算法和改進的BP神經網絡算法對樣本數據集進行異常嫌疑判斷，統計了兩種檢測方式的分類準確率。

從以上實驗結果(表5)可以看出：基于PCA的特征提取方法提高了分類的準確率。同時，本實驗提出的基于PCA的改進BP神經網絡的整體分類準確率達88.58%，高于傳統的BP神經網絡算法。在基于PCA的各項分類上，傳統BP神經網絡和改進的BP神經網絡之間正常用戶的分類準確率相差只有0.25%，都達到了很高的分類精度。但本實驗的改進方法在異常檢測的分類上比傳統方法高4.45%，說明本實驗所建立的基于改進BP神經網絡的用電異常檢測模型在性能上更加有效，檢測效果更好。

表4 部分異常檢測實驗結果

表5 檢測算法的分類準確率對比

4.3 結論分析

本實驗首先對用原始用電時序數據集進行了基于統計和主成分分析的特征提取處理，處理后的數據特征集之間線性不相關，基本消除了原始數據中的信息重疊。同時，主成分的選擇將高維度特征映射到更低的維度，使得模型訓練收斂速度更快，顯著提升計算效率，也提高了分類精度。

結合特征提取后的數據對改進的BP神經網絡做訓練，異常檢測準確率相比傳統網絡更高，說明兩層隱含層的設計明顯提高了用電異常檢測的精度。但是，從兩類用電用戶分類效果比較可以看出異常用戶分類誤差較大。實驗分析得出的原因有：原始數據集本身不均衡，異常用戶所占的比重較少；時間序列數據本身軌跡不規則，在特征提取分析上還有待進一步研究。

5 結束語

傳統的用電異常檢測技術效率低、效果差，為此本文研究了時序數據特征提取方法和機器學習分類算法，提出了基于PCA的改進BP神經網絡的異常用電檢測模型，模型包括統計特征提取、主成分分析、BP神經網絡改進這幾個部分。在理論研究的基礎上，通過電網公司的真實時序數據實例驗證用電異常分析效果，發現基于數據挖掘技術的異常檢測模型具有較高的科學性。本文方法為用電異常檢測提供了一種新的可行思路，避免傳統檢測工作的資源浪費，有著廣闊的應用前景。

后續的研究將針對時序數據特征分析和樣本類型分布不均衡問題，結合混沌時序分析和單類分類，進一步提高異常用電檢測的準確率和檢測效率。

[1] 中國電機工程學會電力信息化專業委員會.中國電力大數據發展白皮書[M].北京:中國電力出版社,2013.

[2] 姚偉智,林幕群,紀素娜,等.基于用電行為分析的低壓用戶竊電在線監測分析方法研究[J].中國新通信,2015,17(2):97-99.

[3] 譚致遠.基于用電行為分析的在線用電異常及風險監測系統的設計與實現[D].廣州:華南理工大學,2015.

[4] 謝濤,靳丹,馬志程,等.基于智能電網的分布式非法用電行為檢測方法[J].微型電腦應用,2015,31(2):54-57.

[5] 簡富俊,曹敏,王磊,等.基于SVM的AMI環境下用電異常檢測研究[J].電測與儀表,2014,(6):64-69.

[6] 馮曉蒲,張鐵峰.基于實際負荷曲線的電力用戶分類技術研究[J].電力科學與工程,2010,26(9):18-22.

[7] 林嘉暉.基于數據挖掘的電網用戶行為分析系統的設計與實現[D].廣州:中山大學,2013.

[8] CABRAL J E,PINTO J O P,GONTIJO E M,et al.Fraud detection in electrical energy consumers using rough sets[C]//IEEE Int Conf.Systems,Man and Cybernetics.USA:[s.n.],2004:3625-3629.

[9] NAGI J,YAP K S,TIONG S K,et al.Improving SVM-based nontechnical loss detection in power utility using the fuzzy inference system[J].IEEE Transactions on power delivery,2011,26(2):1284-1285.

[10]RAMOS C C,SOUZA A N,CHIACHIA G,et al.A novel algorithm for feature selection using Harmony Search and its application for non-technical losses detection[J].Computers and Electrical Engineering,2011(37):886-894.

[11]PEREIRA L A M,AFONSO L C S,PAPA J P,et al.Multilayer perceptron neural networks training through charged system search and its application for non-technical losses detection[C]//IEEE Innovative Smart Grid Technologies Latin America(ISGT LA),USA:[s.n.],2013:1-6.

[12]林珠,邢延.數據挖掘中適用于分類的時序數據特征提取方法[J].計算機系統應用,2012,21(10):224-229.

[13]楊光.基于神經網絡的異常用電檢測算法模型研究[J].供用電,2016(10):56-59.

[14]胡殿剛,李韶瑜,樓俏,等.ELM 算法在用戶用電行為分析中的應用[J].計算機系統應用,2016,25(8):155-161.

[15]毛健,趙紅東,姚婧婧.人工神經網絡的發展及應用[J].電子設計工程,2011,19(24):62-65.

(責任編輯 陳 艷)

Research on Abnormal Behavior of Power Consumption Based on BP Neural Network with PCA

TIAN Ye1, ZHANG Cheng1, MAO Xinru2, LIU Ji1

(1.College of Computer Science, Chongqing University, Chongqing 400044, China; 2.State Grid Corporation, Chongqing 402160, China)

According to the problems of resource wasting, low efficiency and difficult detection encountered in the traditional way of detecting user’s abnormal power consumption, the algorithm for large-scale data mining was designed and realized combined with data mining technology, and an effective anomaly feature extraction model was established. It determines the abnormal indicators using the statistic-based feature extraction method, and reduces the dimension of the characteristic data using the principal component analysis method to achieve the analysis, identification and processing for abnormal power consumption. Then, the back-propagation neural network was established to detect the abnormal behavior from the power consumption information. The test result shows that this method can effectively extract the characteristics of power consumption behavior, and can be effectively used in the detection of electricity-using anomaly.

power consumption behavior; anomaly detection; feature extraction; principal component analysis; neural network

2017-03-24 基金項目：國家自然科學基金資助項目(61502060)

田野(1992—),男,重慶人,碩士,主要從事數據挖掘、機器學習研究，E-mail:403521937@qq.com。

田野,張程,毛昕儒，等.運用PCA改進BP神經網絡的用電異常行為檢測[J].重慶理工大學學報(自然科學)，2017(8):125-133.

format：TIAN Ye, ZHANG Cheng, MAO Xinru,et al.Research on Abnormal Behavior of Power Consumption Based on BP Neural Network with PCA[J].Journal of Chongqing University of Technology(Natural Science)，2017(8):125-133.

10.3969/j.issn.1674-8425(z).2017.08.021

TP302.7

A

1674-8425(2017)08-0125-09