基于并行回火受限玻爾茲曼機算法的電力IEC61850數據預測

尹根 徐曦

【摘 要】為提高現有電力系統中IEC61850數據模型構建的智能化，對電力系統IEC61850數據預測可以有效地提高效率，減少出錯率。提出一種基于受限玻爾茲曼機算法的IEC61850數據預測模型，并結合并行回火的算法，通過采樣和交換的方式，提高預測精度。仿真結果表明，該方法可以很好地反映不同廠家數據的概率分布。

【關鍵詞】深度學習;受限玻爾茲曼機;并行回火;電力IEC61850;模型預測

中圖分類號： TN915.853文獻標識碼： A文章編號： 2095-2457（2019）04-0095-002

DOI：10.19694/j.cnki.issn2095-2457.2019.04.036

Data Prediction of Power IEC61850 Based on Parallel Tempering Restricted Boltzmann Machine Algorithm

YIN Gen XU Xi

（1.School of Computer，Hunan University of Technology， Zhuzhou Hunan 412007 China;

2.Key Laboratory of Intelligent Information on Perception and Processing Techonology（Hunan Province）， Zhuzhou Hunan 412007， China）

【Abstract】To improve the intelligence of the IEC61850 data model in the existing power system， the prediction of the power system IEC61850 data can effectively improve efficiency and reduce the error rate. An IEC61850 data prediction model based on the restricted Boltzmann machine algorithm is proposed. Combined with the parallel tempering algorithm， the prediction accuracy is improved by sampling and exchange. The simulation results show that the method can reflect the probability distribution of data from different manufacturers.

【Key words】Deep learning; Restricted Boltzmann machine; Parallel tempering; Power IEC61850; Model prediction

0 引言

傳統的IEC61850在變電站的數據輸入方式采用人工手動配置的方式，該方式效率低，速度慢，出錯率高，同時給技術人員帶來較高的技術門檻。隨著人工智能在電力領域的廣泛應用，自動化數據輸入技術以神經網絡為發展趨勢，將神經網絡模型應用到電力行業中，大大提高了電力領域的智能化，提高了效率，節省了成本，給電網帶來了巨大的效益。

深度置信網絡是Hinton等自2006年提出來的，深度學習經過十多年的發展，現在已經成為機器學習的一個熱點。

本文在深度學習的基礎上，通過分析不同廠家的IEC61850數據模型，采用受限玻爾茲曼機（RBM）學習算法，以不同廠家的IEC61850數據為輸入，通過受限玻爾茲曼模型對數據進行學習，分析其誤差，實現預測模型，最終可以根據預測結果達到自動構建廠家數據的目的，通過仿真驗證該模型有效性，達到預測效果。

1 受限玻爾茲曼機

受限玻爾茲曼機是一個馬爾科夫隨機神經網絡模型，無自反饋且對稱連接。它具有兩層結構，由可視層和隱藏層組成，層內無連接，層間全連接，即隱藏層與隱藏層節點之間，可視層與可視層節點之間，沒有連接，隱藏層與可視層節點之間滿足條件獨立?？梢晫?，包含m個輸入單元vi，用來表示數據的輸入，每個輸入單元包含一個偏置量ai，隱藏層，包含n個隱藏層單元hj，受限玻爾茲曼機在隱藏層進行輸入數據的特征提取。

受限玻爾茲曼機的數據模型[1]構建過程即在當可視層的輸入為v時，通過條件概率計算隱藏層的輸出向量h，再通過隱藏層的輸出向量h以及條件概率計算得出可視層的向量v，再與原始可視層輸入的向量v進行對比，不斷進行修正，最終達到計算得出可視層的輸出向量v與原始可視層輸入的向量v不斷接近，最后達到誤差要求。

受限玻爾茲曼機是一種基于能量的模型，根據給定的可視變量v和隱藏變量h可定義能量函數的數學表達式為：

其中，θ={wij，ai，bj}，wij為可視層節點i與隱藏層的節點j之間的連接權重。ai為可視層單元i的偏置，bj為隱藏層單元j的偏置。根據能量函數可以得出v和h的聯合概率分布函數，其數學表達式為：

其中，Zθ為配分函數，其數學表達式為：

根據能量函數計算隱藏層第j個節點取值為1時的輸入概率，其數學表達式為：

根據能量函數計算可視層第i個節點取值為1時的輸入概率，其數學表達式為：

2 并行回火蒙特卡羅算法

并行回火采樣對受限玻爾茲曼機模型訓練是一種極其有效率的方法。在訓練過程中，每個溫度都對應一條gibbs鏈，不同的溫度采用不同的gibbs鏈使用并行回火方法進行采樣。N個不同的溫度ti滿足1=t1

受限玻爾茲曼機模型的并行回火蒙特卡羅算法包括兩個階段[2]：

（1）Metropolis-Hastings采樣階段：根據已有的采樣值計算當前溫度的下一個采樣點，基本采樣計算公式數學表達式為：

其中，Metropolis-Hastings表示采樣函數，N0，表示均值為0，方差為的正態分布函數。tk表示溫度，xi+1表示第i+1個采樣點，xi表示第i個采樣點。

（2）交換階段：采樣完成以后計算溫度集內兩個相鄰溫度下的可視層節點以及隱藏層節點是否滿足交換的條件，并行回火受限玻爾茲曼機模型的交換條件，數學表達式為：

其中，tr和tr-1表示兩個相鄰的溫度，E（vr，hr）表示可視層變量vr和隱藏層變量hr配置的能量函數，E（vr-1，hr-1）表示可視層變量vr-1和隱藏層變量hr-1配置的能量函數。如果滿足該條件，則把相鄰溫度鏈下采樣點進行交換，否則不進行交換。經過很多次的循環采樣和交換，最后將t1=1溫度下的采樣值用于受限玻爾茲曼機訓練模型參數θ。通過并行回火蒙特卡羅算法[3]獲取的采樣值，可使得受限玻爾茲曼機訓練獲得較好的效果。并行回火蒙特卡羅算法與受限玻爾茲曼機結合的模型主要是將θ={w，a，b}的權值（w）乘以溫度，而偏置權值a和b不發生變化。

3 實驗結果與分析

本文實驗平臺采用的是MATLAB R2016b， 經過對受限玻爾茲曼機進行訓練，分析其均方誤差是否能達到目標誤差值，選取的樣本包含訓練樣本和測試樣本兩類，分別為不同廠家的訓練樣本500個，測試樣本100個，將選取的訓練樣本輸入到并行回火受限玻爾茲曼機模型，訓練次數最大為6000次，目標誤差值為10-6。為了驗證本模型的準確性，經過631次訓練之后，并行回火受限玻爾茲曼機模型的均方誤差達到目標誤差值。

為了檢驗本模型的效率，將選取的訓練樣本輸入到受限玻爾茲曼機模型，訓練次數最大為6000次，目標誤差值為10-6，經過750次訓練之后，受限玻爾茲曼機模型的均方誤差接近目標誤差值。

4 結論

本文充分利用了受限玻爾茲曼機結合并行回火算法的優勢，通過受限玻爾茲曼機模型結合并行回火算法訓練之后，大大提高了深度學習對數據預測的準確性和效率，打破了傳統IEC61850人工配置的方式，實現智能化，同時彌補了傳統受限玻爾茲曼機在數據預測方面的不足，是其訓練速度更快，針對性更強，誤差越小，模型識別率就越高，效率就越高。該方法為深度學習在電力IEC61850的應用奠定了基礎。

【參考文獻】

[1]Ugo Fiore，Francesco Palmieri，Aniello Castiglione， et al.Network anomaly detection with the restricted Boltzmann machine[J].Neurocomputing，2013，122（Dec.25）：13-23.

[2]E. Guerrero，D. Fernández-Reyes，A. Ya？ez， et al.Evaluation of high-quality image reconstruction techniques applied to high-resolution Z-contrast imaging[J].Ultramicroscopy，2017，182：283-291.

[3]Armstrong， Matthew J.，Beris， Antony N.，Wagner， Norman J..An adaptive parallel tempering method for the dynamic data-driven parameter estimation of nonlinear models[J].AIChE Journal，2017，63（6）：1937-1958.