基于深度神經網絡-近似線性網絡混合模型的 電力系統狀態估計方法

宋雨露， 樊艷芳， 劉雨佳， 劉牧陽， 白雪巖

(新疆大學電氣工程學院， 烏魯木齊 830017)

狀態估計是能量管理系統的重要組成部分，它根據量測冗余度來降低量測誤差，以期得到電網在該時刻的運行狀態[1]。提高狀態估計時效性和準確性有利于準確了解系統當前狀態及其狀態變化趨勢、保證電力系統的安全性和經濟性，可以預防停電事故。2020年，中國提出“2030年前實現碳達峰、2060年前實現碳中和”，構建以新能源為主體的新型電力系統，推動實現碳達峰、碳中和[2]。在電力系統升級改造的過程中，存在潮流分布的不確定性劇增、電網電壓波動頻發等問題，這些問題使得實時大規模電力系統狀態估計(power system state estimation, PSSE)顯得越來越重要。從其他方面來看，隨著電網建設不斷提速，智能化程度不斷提高，數據采集系統的終端采集頻率提高、數據誤差減少，為狀態估計提供了海量優質的數據集，為利用深度學習算法提供了數據基礎[3]。

加權最小二乘(weighted least square, WLS)狀態估計法和最小絕對值(weighted least absolute value, WLAV)狀態估計法[4]是目前最常用的狀態估計法。WLS狀態估計法是線性估計，受異常值擾動影響大，且在求解過程中存在時效性差、精確性差、復雜度高等問題。利用神經網絡強大的函數逼近能力，將傳統高斯-牛頓(Gauss-Newton, G-N)算法中的迭代過程轉化為神經網絡的計算，提高了速度和精度[5]。文獻[6-7]提出了利用前饋神經網絡(feedforward neural network, FNN) 實現電力系統的狀態估計的方法，即使用歷史數據和模擬樣本數據對模型進行離線訓練，完成訓練的FNN模型就可以實現電力系統的實時狀態估計，訓練過程中系統參數向量矩陣只需要進行有限次的運算，就可以得到比較理想的結果；但是該方法沒有考慮數據精度不高和數據缺失的影響，也沒有針對模型隱藏層數的增加問題進行探討。Mestav等[8]提出了一種貝葉斯狀態估計器，將貝葉斯準則與深度神經網絡相結合，并實現了實時的網絡狀態的最小平均平方誤差估計；但該估計器的魯棒性較差。Haday等[9]提出了一種聯合卷積神經網絡(convolutional neural network, CNN)和循環神經網絡(recurrent neural network, RNN)混合模型的電力系統狀態估計方法。該方法利用 CNN估計電壓幅值，利用RNN估計電壓相角；但由于RNN是根據時間序列進行分析的，CNN則沒有這個預設條件，故兩者分別產生估計結果的統一化是一個新的問題。

綜上，基于神經網絡的電力系統狀態估計方法還有很大的發展空間。為提高電力系統實時狀態估計的精度和計算效率，實現從傳統的物理建模方式向“物理建模+數據驅動”方式的轉變，現提出一種基于深度神經網絡-近似線性網絡(deep neural network-proline network, DNN-PN)模型的電力系統狀態估計方法。該方法首先利用數據采集與監控系統(supervisory control and data acquisition，SCADA)系統和相量量測單元(phase measurement unit, PMU)生成混合歷史量測數據；然后將數據通過粒子濾波算法，利用序列重要性重采樣，生成總的樣本集，其中80%作為訓練樣本用以離線訓練DNN-PN混合網絡模型；最后將另外20%作為測試樣本輸入已建立的模型中，通過前向傳播和反向計算獲得系統狀態估計的結果，并通過仿真實驗驗證在實時狀態估計的精度和計算效率。

1 基本狀態估計模型

對于每個時刻t，狀態估計的任務是從含有噪聲的系統向量Zt得到系統狀態向量xt。具體而言，系統測量值滿足模型[10]，即

Zt=f(xt)+ξt

(1)

式(1)中：Zt為n維實時量測向量；xt為m維狀態向量；f(·)為量測函數；ξt為量測噪聲，其中還包括建模誤差。狀態估計的首要問題是對f(·)進行建模。

傳統電力系統狀態估計算法通常先進行物理建模，然后將原始量測量數據帶入潮流計算，獲得電力系統當前的最優估計值。此時式(1)中的Zt包括支路功率量測、節點注入功率量測、節點電壓幅值量測，xt包括節點電壓幅值和相角。WLS狀態估計法以殘差的加權平方和的最小值作為約束條件，且受初始值和異常值擾動影響大，在求解過程中存在時效性差、精確性差、復雜度高等問題。

2 算法模型原理

2.1 神經網絡DNN

DNN由輸入層、輸出層以及多個隱含層全連接構成，其數學原理包括前向傳播和反向傳播，兩部分交替進行。前向傳播階段：隱含層將前一層的輸出作為后一層的輸入；反向傳播階段：通過隨機梯度下降把結果迭代優化，使得損失函數取到極小值，從而求得網絡的最佳參數，包括線性傳遞系數ω和偏置常數d。損失函數通常根據目標進行選擇，采用對異常值敏感，且具有很好魯棒性的均方根誤差(root mean square error, RMSE)作為目標函數進行優化[11]，表達式為

(2)

(3)

η為步長，一般取大于0的值；Ai(i∈[0，N])為由量測向量生成的 內部輸入；Sη(x)為軟閾值算子，也稱激活函數，一般采用ReLU函 數，可以匹配相關特征和更好地實現數據擬合，具體形式見式(4)； 對第i次外循環中的第k次內循環而言，為此時的線性傳播系數圖1 DNN網絡的結構Fig.1 Structure of DNN network

其余參數設置規則如下。

(4)

(5)

(6)

式中：μi和Bi分別為第i次外循環的控制系數和偽量測；I為外部循環的總次數；i和k的取值范圍分別為[0,I]和[1,3]。但是對于單一的DNN模型來說隨著神經網絡層數的增多，優化函數越來越容易陷入局部最優解的陷阱中，并且梯度消失現象更加嚴重。

2.2 近似線性網絡

(7)

(8)

經過推導可以將式(7)化簡為套索問題，解決此類問題可以用快速迭代收縮閾值算法(fast iterative shrinkage-thresholding algorithm，FISTA)[15]。逐次在正值區間內取k值進行遞歸計算，式(7)就可以轉化為式(9)。

(9)

在上述圖1所提的模型中，通過設置適當的參數μi和步長η解出收斂于式(8)的電壓序列{Vi}。在實際應用中，圖1所示的模型往往需要進行k次內迭代來逼近式(7)中的最優解。此外，每次外環迭代都需要計算偽量測Bi，這些都限制了它的大規模實時應用。通過輸入參數與中間層的跳躍連接，設置超參數、激活函數，利用神經網絡的前向計算和反向傳播等方式來解決上述不足。

3 DNN-PN混合網絡模型

神經網絡擁有容錯性低、可以并行處理海量數據、自適應性強等優點，保證了它可以高效地處理非凸函數，以得到滿足最小正則化和松弛成本的取值[16]。將傳統的電力系統狀態估計與神經網絡融合到一起，為大數據時代新型電力系統的發展做出有力支撐。分步驟建立深度神經網絡DNN和近似線性網絡PN的混合模型，首先構造電力系統狀態估計的模型，然后根據確定性線性近端技術設計近似線性網絡模型，最后結合深度神經網絡技術構建DNN-PN混合網絡模型。

3.1 電力系統狀態估計模型的基本參數

(10)

可以通過設置具體指示性參數來標記相應總線和線路的位置。

3.2 量測數據融合

現有的電力系統狀態估計常根據SCADA系統數據，檢索未知的系統狀態。由于SCADA的采樣周期一般為秒級，且不同量測點的量測裝置一般不同步[17]。因此僅基于SCADA的監控數據已經不能滿足當今新型電力系統對數據的要求。而電源管理單元(power management unit，PMU)的數據采樣周期一般為毫秒級，可實現對信號采樣的同步處理，但是由于成本和兼容性等問題PMU沒有實現全域范圍內的覆蓋[18]。

進行量測數據的混合先是進行量測斷面時間的對齊；其次，將刷新頻率低的SCADA量測數據轉換成與刷新頻率高的PMU量測數據同步的偽量測；再次，通過賦予兩者不同的權重來解決PMU和SCADA數據精度差異的問題；過程中將賦予高精度的PMU數據高權重，相對應地賦予SCADA數據低權重。最后通過量測變換的方法，建立融合量測系統。在現有數據的基礎上，通過這種形式增加系統的冗余度，從而提高電力系統狀態估計的精度。

3.3 粒子濾波

對比傳統的高斯-牛頓法存在的對初值的依賴和梯度爆炸等問題，基于貝葉斯模型的粒子濾波狀態估計是用樣本均值代替求導運算，進而獲得系統狀態的最小方差估計，盡可能地實現最優估計[19]。針對電力系統條件不確定情況下的狀態估計，可采用基于粒子濾波的序列重要性采樣(sequential important sampling，SIS)的方法，并對之進行重采樣。

重采樣的思路是：在保持粒子數目不變的前提下，為了保障估計性能，舍棄權重小的粒子，用一些新的粒子來取代它們[20]。方法是將權重大的粒子進行復制，在權重大的粒子里面根據權重所占的比例進行分配。

(11)

(12)

將序列重要性采樣的結果經過重采樣，設置粒子的權重，得出的式(13)所示的狀態后驗分布更符合電力系統狀態估計的實際需要。

(13)

3.4 DNN-PN的狀態估計

為了充分利用神經網絡和原始近似線性網絡各自的優勢，因此搭建的網絡模型是一種將神經網絡與傳統物理模型相結合的混合算法模型。DNN-PN模型采用基于物理方程的迭代方式保證模型能進行海量數據訓練和測試、加快處理速度、避免過擬合，彌補了以往僅僅用大量數值迭代計算來解決優化問題的不足。經過適當訓練，模型中即使DNN網絡隱藏層數很少，也能達到更好的效果。利用圖2構建DNN-PN模型實現狀態估計的具體流程。

圖2 DNN-PN混合模型的結構Fig.2 Structure of DNN-PN hybrid model

是由真實值代入生成的外部輸入，表達式為

(14)

(15)

(1)直接將輸入Z連接到中間層/輸出層實現跳躍連接。

(2)每層具有的隱藏神經元是一致的。

通過比較分析，這些跳躍連接能夠有效地訓練DNN網絡。此外這些跳躍連接也是隱藏層數固定的DNN網絡具有近似線性能力的關鍵。

在DNN-PN混合網絡中，需要調整的超參數包括I、k和y，同樣也是近似線性網絡PN模型所需要調整的參數。為了分辨不同的網絡如何影響性能，默認使用ReLU為激活函數，以達到控制變量的目的。

圖3是DNN-PN混合網絡用于電力系統狀態估計兩種模式的運行流程圖。離線訓練階段：利用SCADA和PMU的歷史融合數據，分析系統注入復功率的概率分布；再通過貝葉斯估計中的粒子濾波算法，利用序列重要性重采樣，生成注入復功率的樣本數據集，進而產生離線訓練階段的DNN-PN混合網絡的訓練樣本，訓練深度學習網絡。在線狀態估計階段：根據從離線訓練階段獲得的網絡結構參數建立網絡；再將實時PMU數據通過在線的DNN-PN混合網絡實現狀態估計。由深度學習的數學原理進行分析，DNN-PN混合網絡利用反向傳播算法訓練生成網絡架構，然后使用訓練好的DNN-PN混合網絡通過前向傳播計算實現電力系統狀態估計。

圖3 DNN-PN狀態估計方法的結構Fig.3 Structure of DNN-PN state estimation method

4 算例分析

4.1 數據集設置

為驗證本文方法的準確性和時效性，進行仿真驗證，數據集由2012年的負荷數據來生成。將負荷數據標準化來匹配系統中的功率需求，MATLAB中的MATPOWER工具箱可以將標準化的負荷數據作為輸入，代入交流功率方程中，求解出真實電壓Vt，并得到測量值Zt。

電力系統狀態估計中，涉及的量測量眾多，數值和量綱也有較大的差異。為了減少上述因素對近似線性網絡輸出的影響，提高估計結果的精度，需要對網絡的輸入輸出數據進行歸一化處理。統一將所得數據集的80%作為訓練集，剩下的20%作為測試集。

4.2 實驗設置

所有的算法都是在Ubuntu18.04系統上進行訓練的，處理器為Intel? CoreTMi5，內存為16 GB，顯卡為NVIDIA GeFeorce MX350 2G。 在系統上搭建了基于Anaconda的Python的編譯環境，同時安裝了Pycharm作為編譯軟件進行調試，軟件框架結構為基于Keras深度學習工具的Tensorflow-gpu框架。Cuda和Cudnn利用GPU的并行處理的算力優勢可以加速深度學習的進程。

實驗所用的神經網絡用tensor進行訓練，算法的權重由基于反向傳播的優化算法Adam，配置參數設置如表1所示。

表1 Adam參數設置Table 1 Adam parameter settings

表1中， 學習速率或稱為步長的設置通常需要多次調試，才能得到比較理想的結果；β1和β2分別為第一次和第二次估計的指數衰減率；容許誤差值需要選取極小的常數，取值會影響迭代次數。并設置了丟棄法(dropout)和早停機制來防止過擬合。訓練時每200個epoch為一個循環周期，epoch表示所有數據送入網絡模型完成一次前向計算及反向傳播的過程。為了減少因為訓練算法引入權重所造成的隨機性，所有的網絡獨立地訓練和測試20次。在訓練和測試階段，設置近似線性網絡的初始值為，k=3進行模擬。利用控制變量法，選擇DNN-PN混合網絡， 6層FNN算法，高斯-牛頓算法和LSTM算法具有相同的深度。所有神經網絡中，每層隱藏單元的數量需要等于輸入的維數，如此IEEE118節點系統的維數為118×2=236。

4.3 結果分析

實驗使用IEEE118節點系統構成測試算法估計性能的測試系統，利用負荷數據進行仿真得到多維度潮流數據作為真實值，在多維度潮流數據中加入量測噪聲來模擬實際量測值。這樣共計生成了18 528個電壓量(包括幅值、相角)，其中14 822個用于對模型進行離線訓練，其余3 706個用以測試其性能。所得到的DNN-PN混合網絡與其他算法的估計結果對比如圖4所示。

在節點500～550處，數據截面50和數據截面100的電壓真實值以及由DNN-PN混合網絡、高斯-牛頓法、6層FNN和LSTM獲得的估計值見圖4(a)和圖4(b)。在同一節點時DNN-PN混合網絡相對于高斯-牛頓法，對狀態估計模型精度和魯棒性都有所提升，且在電壓幅值方面提升比較明顯。對圖4(c)和圖4(d)進行分析可知，在數據截面500上，節點1～節點50處DNN-PN混合網絡的估計值相對于高斯-牛頓法的估計值提升比在數據截面550上節點50～100處的大，這是由于隨著訓練的進行，高斯-牛頓法也能比較好地擬合真實值；但是隨著規模的擴大，DNN-PN混合網絡在時間成本上的優勢會越明顯。故將從誤差分析和時間成本分析兩方面進行定量分析，進一步說明了DNN-PN混合網絡的優越性。

圖4 IEEE118節點系統狀態估計結果對比Fig.4 Comparison of status estimation results of IEEE118 bus system

4.3.1 誤差分析

對于t時刻，開發的PSSE方案接收測量向量Zt的狀態向量Vt∈R2N。然而，當Zt中存在數據缺失時，其性能就很受影響，這在SCADA和PMU融合的數據系統中很常見，比如出現儀表或通信故障等問題。為了模擬這其中的一些情況，本實驗所有節點的測量值Zt都添加高斯白噪聲，其中設定功率和電壓的標準偏差分別為0.02和0.01。DNN-PN混合網絡、高斯-牛頓法、6層FNN和LSTM等幾種算法經過3 706個測試數據的測試，其50次測試平均后電壓幅值和相角的平均絕對誤差(mean absolute error, MAE)和均方根誤差(RMSE)如表2所示。

表2 IEEE118節點系統狀態估計結果Table 2 IEEE118 bus system state estimation result

在預設條件下由表2易知，DNN-PN混合網絡在于其他算法的比較時，均呈現出很好的性能。在該測試系統增加高斯白噪聲的情況下，本文方法在電壓幅值和電壓相角上的估計誤差較高斯-牛頓法分別降低了17.4倍和9.1倍。高斯-牛頓法應用的最小二乘法先要設置初始值，而初始值的設置影響迭代的次數，在其進行多次迭代以后，常常不能收斂到真實電壓值，還會由于目標函數的非凸性，往往存在多個最優解。在添加高斯白噪聲的測試系統進行的仿真實驗中，本文方法依然精度較高，證明了在實際系統中其具有很好的魯棒性。

4.3.2 時間成本分析

表3給出了不同狀態估計算法進行50次狀態估計的平均估計時間和訓練時間。

表3 各種算法狀態估計的測試時間Table 3 Test time of state estimation of algorithms

由表3可以很明顯地看出，傳統的高斯-牛頓法很難滿足目前狀態估計在線應用的實時性要求；而所提出的DNN-PN混合網絡模型的狀態估計方法利用神經網路的前向傳播和反向傳播計算代替了傳統的迭代計算，基于GPU的并行計算取代了串行計算，所需要的時間很短，估計效率在此種規模的電力系統中具有很大優勢。在仿真測試中，本文方法的計算效率和訓練效率相比于高斯-牛頓法分別提升了55.7倍和36.5倍，隨著系統規模的增大，優勢越來越明顯。LSTM算法由于存在輸入門、遺忘門和輸出門，使得計算參數變多，這些導致其計算速度較慢。

5 結語

提出了一種基于DNN-PN混合網絡模型的電力系統狀態估計方法。通過理論推導與仿真分析，可以得出下結論。

(1)DNN的結構里引入PN使得下層神經元與上層神經元建立起直接的通信，保證能充分利用數據，不陷入局部最優解的問題；激活函數ReLU的運用使得梯度消失得到了解決，且對非線性問題有很好的性能。

(2)整個電力系統狀態估計分為離線訓練階段和在線狀態估計階段，在線階段將融合數據進行預處理之后，將數據送入離線階段訓練好的神經網絡結構和權重建立的網絡，利用神經網絡可以高效地處理非凸函數，獲得最小正則化和松弛成本的取值。

(3)相較于傳統的高斯-牛頓法，DNN-PN混合網絡在降低電壓幅值與電壓相角估計的均方根誤差和減少時間成本等方面有了很大的進步；相對于其他的神經網絡算法，計算的準確性和魯棒性等方面也有一定的競爭力，有望在真實場景下進行應用。