基于雙向長短時記憶網絡和卷積神經網絡的電力系統暫態穩定評估

李向偉, 劉思言, 高昆侖*

(1.華北電力大學電氣與電子工程學院，北京 102206； 2.全球能源互聯網研究院，北京 102209)

隨著電力系統的復雜度日益提升，給系統安全帶來嚴峻考驗，也對電網在線暫態穩定評估(transient stability assessment, TSA)的快速性和精確性提出了更高要求[1-3]。傳統的時域仿真法[4]和直接法[5-7]分別受限于其計算速度慢和建模困難，使得兩種方法不能同時滿足快速性和精確性要求。近年來，廣域測量系統和機器學習方法的快速發展為問題的解決提供了新思路[8-13]。

機器學習方法不需要建立復雜的物理模型，而是通過合適的輸入輸出量，即可建立一個對應的非線性映射，自學習能力強；對于訓練完成的模型，將測試樣本輸入即可立即進行分類，評估速度快，因此成為暫態穩定評估的熱點方法[8-13]。

以往研究取得了較好的評估效果，但同時也有很大局限。一是所選特征的構造多以所有發電機的功角、轉速等電氣量數據為基礎，而這些特征的計算難度相對較大或采集所需時間較長[14]，同時，還因現有條件下相量測量單溫(PMU)不能全面覆蓋而使得特征量的構造更加困難；二是傳統研究均在純凈數據條件下進行評估，而機器學習模型由于其非線表達能力有限，在處理復雜問題時數據挖掘能力不強[15]，進而限制了其在復雜條件下的評估準確性。

近年來，機器學習中的深度學習方法發展迅猛，它通過靈活多變的結構、多樣的訓練策略及不同的權值共享方式使其相對于機器學習模型能夠提取到更有用的特征，進而挖掘數據的潛在規律[16]，在圖像、自然語言處理等領域取得較大成功[17]。

為了克服傳統方法的缺點，進一步提高模型評估的準確性，本文考慮到暫態過程的時間變化特點以及深度學習在處理復雜問題上的優勢，將深度學習中常用來處理時間序列問題的雙向長短時記憶網絡[18](bidirectional long short term memory network, BiLSTM)引入并和利用輕量梯度提升機[19](light gradient boosting machine, LGBM)改進的卷積神經網絡(improved convolutional neural networks, ICNN)在TSA問題中進行模型融合。此外在考慮了PMU不能全面覆蓋以及數據傳輸量不宜過大的場景上，提出在PMU最優布點上進行特征構建的方法，在此基礎上構建了“全階段”時間序列特征，所選數據易于計算采集，同時又能在應用較少輸入量的條件下保證模型評估的準確率。

1 基于BiLSTM-ICNN的暫態穩定評估模型設計

1.1 雙向長短時記憶網絡

雙向長短時記憶網絡由連接著一個輸出層的前后兩向LSTM構成，如圖1所示，其總輸出為前后向輸出之和。

圖1 雙向長短時記憶網絡模型結構示意圖Fig.1 The model structure diagram of bidirectional long short term memory network

BiLSTM能綜合時間序列兩個方向的信息，主要用于多變量時間序列分類任務。每向LSTM計算方法相同，均由輸入層、輸出層和隱藏層構成，隱藏層每一個記憶單元都擁有圖2所示結構。

圖2 記憶單元結構示意圖Fig.2 The structure diagram of memory cell

記憶單元的3個門接收當前狀態xt、上一時刻的輸出ht-1以及歷史狀態信息ct-1作為輸入，隨后，每一個門通過對不同來源的輸入進行運算來決定對歷史信息和當前信息的記憶程度。具體過程如下：首先，輸入門和遺忘門通過非線性函數對數據進行變換，分別輸出it和ft，具體公式如下所示：

ft=σ(Wxfxt+Whfht-1+Wcfct-1+bf)

(1)

it=σ(Wxixt+Whiht-1+Wcict-1+bi)

(2)

隨后，將ft與歷史狀態信息ct-1相乘，并和與經控制激活函數相乘后的遺忘門的輸出疊加構成當前單元的狀態ct：

ct=ftct-1+itσ1(Wxcxt+Whcht-1+bc)

(3)

最后，再將當前狀態信息ct與輸出門的控制激活值相乘構成本單元的輸出：

ot=σ(Wxoxt+Whoht-1+Wcoct-1+bo)

(4)

ht=otσ1(ct)

(5)

式中：Wxc、Wxi、Wxf、Wxo為連接輸入信號xt的權重矩陣；Whc、Wih、Whf、Who為連接隱含層輸出信號ht的權重矩陣；Wci、Wcf、Wco為連接神經元輸出矢量ct和門函數的對角矩陣；bi、bc、bf、bo為偏置向量；σ和σ1為sigmoid和tanh函數；ft和it分別為遺忘門和輸入門的輸出；xt、ht-1及ct-1分別為歷史狀態信息、上一時刻的輸出和歷史狀態信息。

1.2 改進的卷積神經網絡

卷積神經網絡通過卷積和池化操作能夠自動提取到使模型易于分類的高階特征，隨后送入全連接層進行分類。然而由于全連接層表達能力有限，因此其往往并不能作為最優分類器來執行任務。針對此問題首次提出利用LGBM對其進行替換。LGBM是微軟在2017年提出的改進的梯度提升決策樹[20](gradient boosting decision tree, GBDT)模型，和GBDT一樣是一種集成分類器模型，每個子分類器為分類回歸樹。LGBM在GBDT的基礎上除了吸收了集成模型具有較高準確率的優點，又通過改進直方圖算法[19]極大地加快了分類速度，降低了內存的使用率，提高了模型的泛化性能。

1.3 BiLSTM-ICNN模型結構設計

設計了一種基于BiLSTM-ICNN的模型，結構如圖3所示。考慮到TSA問題的時間序列數據較長，首先利用能夠存儲長期記憶并能綜合前后兩個方向信息的雙向長短時記憶網絡對初始化處理后的電網的時間序列數據進行特征抽象，數據抽象后的電氣量維度變換為k，時間序列維度不變；隨后，利用一維卷積神經網絡對BiLSTM抽象后的數據進行進一步的特征提取。一維卷積神經網絡一方面能通過窗口大于1的卷積核的卷積操作進一步抽取特征的前后時間序列信息，另一方面，相比傳統神經網絡，CNN能夠通過權值共享方式加速模型的訓練以及通過最大池化操作保留最重要的特征；卷積神經網絡的最后一次池化操作后，將特征數據變換成為一維向量，考慮到集成模型在分類能力上優于單一模型，因此將最后一次池化后的一維特征數據輸入到輕量梯度提升機中來進行分類任務。

圖3 本文TSA模型結構示意圖Fig.3 The TSA model structure diagram of this paper

為了防止深度學習出現過擬合，通過正則化方法來增強模型的泛化性和穩定性。利用L2-范數對各層的權值矩陣進行約束[21]，使模型學習到更小的權值，降低模型復雜度，讓數據擬合方式更恰當。此外，采用批歸一化技術[22](batch normalization)以及Dropout[23]策略進一步防止過擬合現象。Dropout策略是對網絡訓練期間的優化，體現在網絡訓練時按一定概率隨機丟棄部分神經網絡單元，即每次均訓練不同的網絡，因而使得網絡不依賴于某些局部特征而去學習更加魯棒的特征，同時文獻[24]指出Dropout具有數據增強功能；批歸一化技術于2015年由谷歌提出，設計在激活函數之前，主要操作是將神經元的輸出進行類似歸一化的操作，減小輸出數據分布的變化，進而充分利用激活函數[22]。

2 暫態穩定評估過程

2.1 在最優PMU配置基礎上的時間序列特征

電力系統在擾動發生后各電氣量將會隨時間的變化而變化，構造能反映系統暫態動態過程的特征是暫態穩定能夠進行有效評估的前提。

傳統TSA問題的特征構建往往是在PMU全面覆蓋的基礎上進行的，主要包括基于“三段式”特征[8-10, 13]及基于受擾后軌跡特征[11-12]的構建方法。從PMU配置的實際出發，吸收兩種方法的優點，并克服其缺點，構建了在最優PMU配置基礎上的“全階段”時間序列特征。

由于對系統進行狀態監測為PMU主要功能之一[25]，因此以系統的可監測性為前提，采用0～1整數規劃方法進行PMU最優布點。在此最優布點基礎上，根據所用數據易于計算采集且能充分反映系統動態變化的原則進行初始電氣量選擇。由于PMU可直接量測其布點的母線電壓和與布點母線相連的線路的電流，進而量測PMU布點所連線路的功率，而與發電機母線直接相連線路的有功功率能反映發電機出力變化，對暫態穩定具有重要意義，因此選擇該類線路有功功率作為特征；除此之外，電壓作為電力系統里最基本的電氣量，一方面能夠通過PMU直接進行采集計算，另一方面，由于電壓軌跡是系統故障后的直接時域響應，可作為系統受擾程度和穩定性質的重要表征，因此再選取布點母線的電壓幅值和相角作為特征。最終選取了最優節點的上述三類特征從故障發生前2周波至故障切除后3周波的全時間序列作為輸入數據。

2.2 構造穩定判據

基于深度學習的暫態穩定評估最終要給出系統在擾動下穩定與否，因此是一個二分類問題，根據暫態穩定指標(transient stability index, TSI)對樣本穩定與否進行標注。TSI的計算如下：

(6)

式(6)中：Δδmax為發生擾動后4 s末任意兩臺發電機功角差最大值。對于每個樣本，如果TSI為正，則系統是穩定的，樣本標簽標注為1；如果TSI為負，系統是不穩定的，樣本標簽標注為0。

2.3 建立評估指標

由于電力系統對于穩定樣本判定為失穩和失穩樣本判定為穩定的代價不同，前者將失穩樣本錯判為穩定，導致運行人員在系統即將失穩前不采取任何控制措施，將給系統造成嚴重破壞，而后者將穩定樣本誤判為失穩，帶來的影響要小得多，因此為了檢驗模型的綜合評價性能除采用準確率(accuracy, Acc)外，還引入召回率(recall, Rec)作為評估指標，以更好地評估模型的實用性。召回率計算公式如下：

(7)

式(7)中：Tus表示失穩樣本被正確分類的樣本數；Fs表示“失穩樣本誤判為穩定”的樣本數。

2.4 離線訓練和在線評估

基于BiLSTM-ICNN的評估方法可在離線階段通過離線數據對模型進行訓練，保存一個具有較好泛化性能的模型，以便在發生故障時進行快速在線評估。可通過對典型運行方式下的測試系統設置故障，得到各種典型工況和典型故障下的時域仿真樣本集，并通過訓練得到能夠適應不同場景和工況下的評估模型。在擾動發生時，即可通過PMU獲取實時量測數據并利用訓練好的TSA模型進行在線穩定評估。

3 實例驗證分析

3.1 樣本生成及初始數據采集

采用TSA問題中眾多專家學者[8-13]常用的系統頻率為60 Hz的新英格蘭10機39節點系統對所提方法進行驗證(圖4)。應用PSS/E仿真軟件，發電機模型采用六階模型，負荷為恒阻抗模型。分別設置了80%～120%的五種負荷水平，在不同線路的10%、35%、50%、65%、90%處設置永久性三相短路故障，保護裝置動作時間為故障發生后0.2～0.6 s，數據采樣間隔為0.008 3 s。仿真共得到樣本10 200條，其中穩定樣本7 714條，失穩樣本2 486條，穩定/失穩樣本比例為3∶1。PMU最優布點采用整數規劃方法，最終布點結果為母線：2、6、9、10、13、14、17、19、22、23、25、29、34。

圖4 IEEE39節點系統Fig.4 IEEE39 node system

由于故障切除時間不是一個固定常數，因此按2.1節所選的序列長度會因不同的故障切除時間而不同。由于基于深度學習的模型能夠識別出不對特征做出貢獻的0值序列，因此以最長故障切除時刻為基準對不足序列進行補零，使得最終數據的特征矩陣大小相等。考慮到實際采樣條件下由于數據采集過程中會產生噪聲和異常值，因此對干凈數據集添加10 dB的高斯噪聲和1%的異常值(用0值表示)，此類數據以下簡稱噪聲數據。

3.2 模型在不同條件下的評估性能

將樣本集隨機按8∶1∶1比例劃分為訓練集/驗證集/測試集，BiLSTM-ICNN模型的超參數根據問題實際及參數尋優確定，BiLSTM神經元個數為64；CNN卷積層共有2層，每一個卷積層均設計具有64個窗口大小為3的卷積核；LGBM葉子數為50，最大樹深度限制為6；采用Adam[26]優化算法對學習率進行自適應調整，初始學習率0.001。將所提模型與傳統機器學習算法人工神經網絡(artificial neural network, ANN)、決策樹(decision tree, DT)及支持向量機(support vector machine, SVM)和傳統深度學習算法CNN、LSTM進行對比。其中ANN和CNN的激活函數、正則化策略和優化算法與所提模型保持一致，6種模型的結構及參數均進行尋優，最終確定ANN結構為[500，200，50，1]；CNN采用四次卷積加池化操作，4層卷積核分別為[32，32，64，64]，CNN利用全連接層進行分類；LSTM結構同本文模型的BiLSTM中的前向長短時記憶網絡，并利用全連接層進行分類；4種神經網絡模型的迭代次數均設計為50。DT采用CART樹，SVM選用線性核函數。

3.2.1 模型在干凈數據條件下的評估性能

將不考慮噪聲和異常值條件下的數據分別輸入6種模型中進行暫態穩定評估，結果如表1所示。

表1 干凈數據條件下的評估結果Table 1 Assessment results of clean data

由表1可知，干凈數據集下本文模型具有最高的評估性能，準確率和召回率分別達到98.54%和97.19%，對比另外兩種深度學習模型，體現了融合模型能夠利用各自優勢對時間序列進行更好地處理。對比三種深度學習模型與三種機器學習模型可知，機器學習模型的準確率雖然都處于90%以上，但從召回率指標可以看出三種機器學習模型在樣本比例不均的情況下更傾向于分類為比例較高樣本；ANN相較于另外兩種模型而言性能較高，但因其結構不能較好地利用時間序列數據，因此其準確率和召回率仍不如三種深度學習模型。

3.2.2 模型在噪聲條件下的評估性能

在干凈數據集中添加1%的異常值和10 dB的高斯噪聲數據以驗證模型的抗噪性能。將數據分別輸入6種模型，結果如表2所示。

表2 噪聲條件下的暫態穩定評估結果Table 2 Assessment results of noisy data

由表2可知本文所提算法的評估性能依然較其他算法有著很大優勢，具有較好的穩定性，同時另外兩種深度學習模型在含有異常值和10 dB噪聲數據下也保持著較機器學習更優越的抗噪性能。這是由于深度學習在有著強大的自動特征提取能力外還通過Dropout、批歸一化操作保持了較高的泛化性能，因此不易陷入過擬合和局部最優，同時本文模型的LGBM結構所采用的改進直方圖算法也在一定程度上提高了模型的泛化性。ANN也采用了和深度學習一樣的正則化方法，因而其評估性能好于另外兩種機器學習方法，但相對于深度學習模型，表現依然不盡如人意。

3.2.3 模型在PMU不同布點下的評估性能

為了測試在不同布點條件下的模型評估性能，將最優配置方案與方案a(在所有發電機母線以及部分重要母線進行布點)和方案b(隨機布點)在噪聲集上進行對比，兩種方案PMU布點數與3.1節一致，選用布點如表3所示。

三種不同布點方案下的模型評估結果如表4所示。

表3 方案a、b的PMU布點位置Table 3 The PMU placement of plan a and b

表4 三種布點方案下的評估結果Table 4 The assessment results of three different plans

結果表明相較于基于PMU最優配置方案，在方案a、方案b下各模型準確率和召回率均有所下降，且隨機方案普遍下降較大，這是因為PMU最優布點方案滿足系統可觀測要求，具有較高的代表性，所選布點大多為所連線路較多的重要母線，因此具有更高的優越性。同時，三種深度學習模型在另外兩種布點上仍然具有相對較高的準確率和召回率，機器學習模型依舊傾向于分類為高比例樣本，因此體現了深度學習模型具有較高的魯棒性，且本文方法同樣保持著最優越的評估性能。

3.2.4 模型在PMU全布點下的評估性能

采用所有母線的電壓幅值、相角和所有與發電機母線直連線路的有功功率三類電氣量的時間序列數據作為輸入，在噪聲集中評估結果如表5所示。

表5 PMU全布點方案下的評估結果Table 5 The assessment results of PMU full placement

PMU全布點下的性能指標普遍有所上升，但由于現有條件下一方面PMU價格昂貴無法全面覆蓋，另一方面由于數據傳輸量巨大也會造成通信延時，因此使得其應用受限。雖然本文模型在最優PMU配置條件下，準確率和召回率分別降低了0.39%和1.20%，但仍然保持在一個較高的水平，且將數據量壓縮到了近1/3，因此具有較好的實用性。

4 結論

首次在電力系統暫態穩定問題中提出一種基于BiLSTM-ICNN的評估方法，并在PMU最優布點基礎上構建了全階段時序特征以適應其不能全面覆蓋的現實場景，通過在新英格蘭10機39節點系統上進行實驗，得到如下結論。

(1)相比傳統機器學習和傳統深度學習方法，所提模型能夠有效利用暫態過程的時序特征，評估準確率及召回率較高。

(2)對于現實場景中存在噪聲以及PMU不能全面覆蓋的限制，模型依然具有較好的評估性能，體現了方法的穩定性和魯棒性。

(3)方法利用故障發生前2周波至故障切除后3周波的數據即可迅速對系統進行判穩，滿足快速性的要求。

深度學習方法在電力系統暫態穩定問題中具有較好的應用前景，未來可研究所提方法在加入單相故障、兩相故障以及復故障的場景下如何進行應用，同時利用深度學習方法進行暫態穩定控制也是未來的研究方向。