基于孿生分支網絡的非侵入式沖擊負荷辨識方法

宋磊，徐永進，刁瑞朋，李亦龍，陸春光，王思奎

(1.國網浙江省電力有限公司營銷服務中心，杭州311121； 2.青島鼎信通訊股份有限公司，山東 青島 266000)

0 引 言

沖擊負荷是較大功率設備在啟動或者工作過程中功率峰值變化為正常運行時幾倍甚至幾十倍的負荷，具有非線性、動態時變性、波動頻繁性等特點。沖擊負荷對電力系統的影響不容忽視，它不僅會引起電力系統頻率的連續震蕩，威脅電網安全運行，而且會破壞電力設備的穩定性。在邊緣測對大型用電企業不同沖擊負荷設備的啟停規律進行研究、識別與統計，結合大數據技術，可以為電力負荷預測、電力系統運行分析、電網規劃和檢修計劃安排提供定量化的理論依據。

目前許多學者對沖擊負荷的特性加以研究分析，并提出了多種沖擊負荷建模方法，旨在推動對沖擊負荷的檢測識別及其功率特性的分析和掌握。文獻[1]提出使用最小二乘支持向量機對沖擊負荷進行建模分析，并使用粒子群優化算法進行模型參數辨識。文獻[2]提出使用區域控制偏差濾波的方法對沖擊負荷進行建模與識別。文獻[3]基于小波能量熵和自組織競爭性神經網絡沖擊負荷的特征提取和分類訓練，實現了沖擊負荷電壓暫降源的識別。

以上方法主要對沖擊負荷的特性進行了研究與建模，但鑒于沖擊負荷的產生具有隨機性，產生時刻和強度的大小無法實現準確識別，給模型的應用帶來了困難。而且傳統的沖擊負荷監測需要在每個負載上面加裝監測裝置，在設備投切的時候通過人工等方式將信息發送到控制中心。此方式雖然簡單方便，但在大量負載上都加裝監測裝置需要巨大的人力與物力，并不現實。

非侵入負荷監測是最新的智能電網高級量測技術，此類方法只采樣用戶總進線處的電壓和電流，通過智能算法來分解辨識電器的工作序列，具有不需要入戶施工、建設和維護成本低等顯著優點。該技術的核心是非侵入式識別算法。文獻[4]提出應用最優方法求取一組合理的權重系數，使負荷估計電流與負荷真實電流最為接近，從而確定電力負荷中不同類型用電設備的功率消耗比例。文獻[5]提出了通過微分進化算法求解不相容線性代數方程組形式的估計方程與相應的目標函數，以非侵入式的方式對電力負荷分解與監測，但這兩種方法一般針對家用電器識別，并沒有針對沖擊負荷進行識別研究。文獻[6]通過加權CUSUM雙邊變點檢測算法和基于S變換提取特征量的SVM自動分類算法結合進行沖擊負荷的監測識別，但識別率不高且無法實現有效的負荷功率分解。

上述所提算法均為在電腦端進行仿真，沒有實際部署與測試。針對以上問題，文章引入人工神經網絡理論，提出了一種基于孿生分支網絡的非侵入式沖擊負荷辨識方法。首先通過提取不同類別設備的沖擊負荷數據的V-I軌跡特征和定制化的對角高斯諧波特征進行網絡預訓練；其次設計一種基于孿生分支結構的卷積神經網絡模型，同時引入功率先驗信息進行網絡訓練；最后使用非侵入式的方式，在嵌入式平臺上對模型進行了部署，并對不同沖擊負荷設備辨識準確度進行了對比驗證。

1 沖擊負荷及其辨識

1.1 典型沖擊負荷設備

沖擊負荷設備按規模可以分為三類，分別為大型、中型和單一型[7]。大型非線性負荷包括高鐵、鐵路牽引變電站和光伏發電廠等；中型包括電動汽車充電站、軋鋼機、電弧爐和中頻爐等；單一型包括礦熱機、CT機和強流試驗站等[8]。

文章從三類沖擊負荷設備中選取常見的四種作為典型負荷進行研究，使用錄波設備在現場采集變比后的高頻數據，分析其功率、電壓、電流變化，在此基礎上提取其高級特征并輸入到所設計的卷積神經網絡中進行離線訓練，最后在嵌入式端進行部署和測試識別效果。

以中頻爐為例，中頻爐是一種中頻無芯感應爐，其將三相工頻交流電進行整流，再通過逆變電路輸出為單相的中頻交流電作為電源，由于整流設備的影響，中頻爐啟動運行時會產生大量諧波，電壓電流和功率顯示出沖擊特性，常見的軋鋼機在變壓器低壓側電壓一般為0.4 kV ～0.9 kV，主要設備采用直流電機拖動，由三相交流整流后供電，整流后的直流電同樣存在脈動并在交流測產生諧波。電弧爐是一個非線性隨機負載，電弧爐精煉期工作時，電弧工作狀態相對比較穩定，其諧波主要以奇次諧波為主[9]。CT機是典型的大功率醫用設備，當對醫院病人使用大型CT機X射線掃描穿透時，設備投切產生大功率突變電流。以上設備的運行電流波形變化特點和諧波特性如圖1所示。

圖1 典型沖擊負荷波形特性

1.2 沖擊負荷辨識流程

基于V-I軌跡特征和電流頻譜特征的孿生分支網絡整體負荷辨識流程示意圖如圖2所示。

圖2 基于孿生分支網絡的沖擊負荷辨識流程

典型設備的沖擊負荷特性分為沖擊特性和負荷特性。沖擊特性為設備啟動后短時間達到峰值功率的過程，負荷特性為設備從沖擊時刻達到穩定運行的電壓電流特性。文中所提算法可在檢測到沖擊特性發生后對總線電流特性進行辨識，其實現流程按如下步驟：

(1)對電網用戶側總線處的電壓和電流采樣，并進行降噪和去直流等預處理；

(2)提取電壓和電流產生突變前后時段的特征，同時根據文獻[9]所提方法進行功率求解并制作目標標簽；

(3)將提取到的特征輸入到所設計的孿生分支神經網絡中，借助卷積神經網絡強大的學習能力進行沖擊負荷設備特征離線訓練和學習；

(4)以非侵入式的方式，將訓練模型在智能物聯網電能表外接模組上部署，通過孿生分支網絡實時分析高頻ADC采樣數據，獲取設備辨識結果并對沖擊功率進行回歸。

2 基于孿生分支神經網絡的沖擊負荷辨識

2.1 沖擊負荷特征工程

卷積神經網絡屬于半監督學習，因此盡可能提供更多的先驗信息是必要的，先驗信息通過特征的方式輸入到網絡進行訓練與學習，特征的好壞很大程序上決定了網絡的辨識效果，在嵌入式設備部署網絡模型時，受限于硬件資源，可設計的網絡層級十分有限。因此選擇或設計合適的特征有利于節約資源，最大程度發揮卷積神經網絡的辨識能力。

2.1.1 V-I軌跡特征

在非介入式辨識方面，設計特征的本質即采樣數據重塑。二維電壓電流(V-I)軌跡特征是文獻[10]提出的一種簡潔高效的特征表征方法，該方法抽象了負載之間電壓電流軌跡的相似性，并將該軌跡映射到二值單元特征矩陣中，其計算方法如下所述。

對于設備的每個采樣周期，有電壓Vk(V1,V2, … ,Vk)和電流Ik(I1,I2, … ,Ik)共2k個采樣點的序列，其中Vk和Ik代表每個點的采樣值，首先對采樣序列去直流：

(1)

然后對電壓電流采樣值標幺化并填充至N×N大小的波形軌跡坐標空間：

(2)

其中「?代表向上取整，對于每一個標幺化后的電壓電流采樣序列對，映射到坐標空間的值為1，其他值為0，由此生成N*N的V-I軌跡圖像，以CT機為例，其V-I軌跡特征如圖3所示：

2.1.2 對角高斯諧波矩陣特征

由于工作原理不同，大多數電器設備之間的V-I軌跡差異十分明顯，有利于沖擊性負荷的辨識。但由于V-I 軌跡是由歸一化的電壓與電流值繪制，無法反映設備的功率大小，不能有效區分部分V-I軌跡相似但功率差異較大的設備[11]。

文章定義一種基于電流的對角高斯諧波矩陣(Gaussian Diagonal Harmonic Matrices，Gauss-DHM)特征，該特征具有明顯的幅值特性，能彌補V-I軌跡特征的缺點以實現更好的辨識效果，并且可以直接送入神經網絡訓練。對角高斯諧波矩陣通過離散傅里葉變換得到，對于周期電流采樣序列Ik(I1,I2, … ,Ik)，計算其離散傅里葉變換ID(n)：

(3)

根據歐拉公式展開可得：

(4)

得到n次諧波序列ID(n)后，將其映射到二維坐標空間，中心處為基波幅值，諧波次數依次沿著對角線延伸由高到低分布，諧波幅值分別填充到對應位置，即組成二維高斯諧波特征矩陣，其示意圖如圖4所示。

2.2 基于孿生分支神經網絡的設計與訓練

2.2.1 網絡結構設計

現有的非侵入式卷積神經網絡負荷辨識思路只進行了設備的類別的分類，沒有考慮功率的回歸[12]。文章設計了兩種輕量級卷積神經網絡框架，訓練時融合V-I軌跡特征和Gauss-DHM特征，在實現沖擊負荷設備類別辨識的同時進行了功率回歸，模型含有兩種前向模式，均可以在硬件資源不超過1 MB的RAM和ROM上部署。

模式一為輸入兩通道、骨干網絡單分支前向通道以及輸出雙分支的結構，如圖5所示。輸入層對雙通道樣本的特征直接進行融合計算，稱為Single-Arch模式，該模式包含三個卷積塊和雙分支輸出的全連接層，其中輸入特征大小為24×24×2，最后一層全連接層的輸出類別根據識別種類的需要進行設置，兩個分支分別輸出類別和功率預測結果。

模式二為輸入雙通道、骨干網絡孿生(Siamese)[13]雙前向通道以及輸出雙分支的結構[14]，如圖6所示，即前向推理時以雙通道的方式提取輸入樣本特征、輸出雙分支的Siamese Dual-Arch模式。兩個分支輸入特征大小均為24×24×1，分別對應V-I軌跡特征和Gauss-DHM特征，兩種特征經過卷積層進行深度特征提取，在全連接層之前進行特征融合，卷積塊數和全連接層結構與Single-Arch模式保持一致。

圖6 模式II網絡結構示意圖

對于輸入的電壓電流波形，首先進行V-I軌跡特征和Gauss-DHM特征提取，然后根據網絡模型結構的不同，將特征送入不同的通道進行深度特征提取，網絡前向推理時，由三個卷積塊組成骨干網絡，每個卷積塊包含卷積層、激活層、池化層和Dropout層，該前向推理過程可表示為：

Refc(F)=fConcatenate[ζMaxpool(δReLu(Conv(F))),

ζMaxpool(δReLu(Conv(F)))]

(5)

其中Conv代表卷積操作，ReLu[15]為防止梯度爆炸或消失的激活層函數，Maxpool[16]對卷積輸出進行降維壓縮來加快運算速度，Dropout[17]減少網絡對局部神經元依賴以防止模型過擬合，Concatenate操作將不同輸出通道的特征拼接，用于全連接層的判別，兩種模式的參數設計見表1和表2。

表1 模式I網絡結構與參數列表

表2 模式II網絡結構與參數列表

上述所設計的兩種網絡模型，模式一使用兩種特征直接融合訓練，輸入通道共享網絡權重，可減少網絡參數；模式二設計了一種孿生分支結構，用于兩輸入通道數據分別提取特征經骨干網絡前向推理后融合，兩種模式輸出時，模型能夠同時進行邏輯分類和功率回歸。

2.2.2 孿生分支多標簽分類與功率回歸設計原理

在卷積神經網絡訓練時，模型通過對比最后一層全連接層的輸出與訓練集預設標簽的差值定義損失，即輸出誤差，并通過梯度下降法迭代尋優。在進行分類任務時，使用交叉熵(Cross Entropy)[18]表示預測的結果和真實的結果的差異：

(6)

式中p(x)代表真實標簽；q(x)代表網絡最后一層的激活輸出，x代表網絡輸出的維度數；q(x)通過Sigmoid激活函數獲取：

(7)

式中z為激活層的前一層輸出，文章所設計的孿生分支神經網絡實現多標簽多分類與回歸的關鍵在于訓練時和前向推理時使用的損失函數，其中多分類多標簽損失函數使用二分類交叉熵損失函數(Binary Cross-Entropy Loss，BCE Loss)，該損失函數使得每個類別的輸出獨立且不相互排斥，最后一層全連接層后通過多個Sigmoid輸出實現預測結果的多標簽的多分類。其形式和誤差反向傳播時的導數如下：

(8)

式中C代表可識別的沖擊負荷設備類別數；真實標簽p(x)的值為0或1；網絡Sigmoid激活層的輸出q(x)∈(0,1)，在進行誤差反向傳播時，其形式簡單，有利于網絡訓練加速，故分類任務選擇該激活函數，在實現功率回歸時，選擇最小平方誤差(Minimum Squared-Error，MSE)損失函數為：

(9)

2.2.3 沖擊負荷訓練數據采集

由于沖擊負荷類的公開數據比較少，文章所用訓練和測試數據通過專業設備獲取。其中數據采集使用MR1200系列波形監測記錄儀，采集了煙臺市、哈爾濱市某大型工業企業及青島市李滄區某醫院改裝臺區總線側經變比后的中頻爐、電弧爐、軋鋼機、CT機等設備單獨工作和部分設備混合工作的場景。訓練數據分為15組，包括單一沖擊設備場景和混合沖擊設備使用的場景，每組800個數據。測試集3組，每組1 000個數據，涵蓋了常見的沖擊負荷設備場景。

2.2.4 沖擊負荷訓練標簽制作

訓練卷積神經網絡模型，需要提供大量帶有預設標簽的樣本，文章所設計的孿生分支網絡算法除了可進行沖擊設備類別識別外，還可以對其功率進行回歸。制作功率信息的訓練標簽時，沖擊負荷有功功率的計算通過電壓電流單個周波離散采樣點乘積積分的平均值確定：

(10)

式中k為單周波采樣點數；i為單個周波第i個采樣點，Vi和Ii分別為該點電壓電流值。

3 基于孿生網絡的非侵入式算法部署與算例分析

3.1 非侵入式孿生網絡訓練

文章所提孿生網絡使用Python3與Keras深度學習框架進行設計和訓練，硬件為:CPU為Intel i5-8300H，RAM為8GB；GPU為Nvidia GTX 1060Ti，顯存為6GB，網絡計算機端離線訓練參數按表3進行配置。

表3 網絡模型訓練參數設置

其中，Validation Split[19]為訓練數據中的驗證集比例，Pooling Stride為池化步長，Weight of Branches為網絡最后一層輸出計算損失函數時不同分支的損失權重，Adam為訓練時隨機梯度下降法的動量優化方法[20]。訓練過程中的損失變化曲線如圖7所示。

圖7 訓練精度與損失變化曲線

由圖7中曲線，訓練過程分類和回歸損失逐漸變小，可見訓練是收斂的。

3.2 非侵入式平臺部署與測試

基于ARM Cortex-M4的嵌入式平臺的MCU主頻為120 MHz，RAM為1 MB，Flash存儲器為1 MB，計算機端離線訓練，其完成后，模型導出為“h5”格式文件，由于硬件資源有限，需要對其進行固定位寬定點量化后導出到嵌入式設備上部署，當網絡調用時，進行參數加載，參數量與資源占用如表4所示。

表4 網絡模型參數與計算量占用

其中Param代表網絡模型的參數所占用的字節數，為網絡的權重和偏置信息，FLOPs[21]表示浮點運算次數，用來衡量模型的計算復雜度。Period代表模型部署時單個樣本在周期任務中運行的耗時。由表格可知，Single-Arch模式的參數量更少，運算速度更快, Siamese Dual-Arch將輸入特征分開學習，參數量大，運算速度略慢于前者。

在嵌入式設備上運行時，首先對采樣數據緩存，時域上分析電壓幅值的突變點也即系統發生暫態時間的時刻，并判斷是否為沖擊負荷投切暫態事件，在監測到時域事件發生后，緩存一段時間的數據，在非周期中斷任務中進行后臺分析，判斷是否為沖擊負荷并判斷沖擊負荷的種類、功率，模型分析速度可達到毫秒級，沖擊發生時，可在1 s內完成所有沖擊數據分析。表5為兩種網絡模式對典型測試場景下沖擊負荷功率的分解結果(變比1∶800)，與真實測試標簽(Ground Truth)對比可知，模型實現了功率分解并達到了一定的準確度。

表5 功率預測結果對比

圖8為所設計的網絡加入功率信息訓練前后在實測沖擊負荷錄波數據組成的測試集中的表現。

圖8 高斯諧波特征引入前后網絡負荷設備投切辨識測試結果

其中橫軸代表沖擊設備類別的真實標簽，縱軸為算法實際預測沖擊設備的類別，因此當辨識結果分布在對角線上時，識別類別越好[22]。由圖8測試結果可知，加入高斯諧波特征后，模型學習了與沖擊負荷設備幅值和頻域相關特性，對于波形易混淆的中頻爐和電弧爐有了更好的辨識效果，整體識別準確度由86.25%提升到97.81%。

3.3 算法識別率橫向對比測試

為驗證算法整體識別性能，對比測試其他文獻中的負荷辨識算法。選取文獻[23-25]中算法仿真沖擊負荷辨識，對辨識準確率性能進行橫向測評，各算法參數使用文獻[23-25]所用到的實驗參數，測試數據為現場錄波數據。其中文獻[23]通過卷積神經網絡提取V-I軌跡深層特征來直接辨識用電設備；文獻[24]利用K近鄰(K-NN)算法和Fisher判別相結合的算法對用電設備分類；文獻[25]使用CNN訓練V-I軌跡特征，單獨使用多層感知機(MLP)提取諧波特征向量，融合兩組特征進行識別。各類算法總體辨識準確度結果如表6所示。

表6 錄波數據分項辨識準確度

由表6辨識結果可知，文獻[23]算法直接使用卷積神經網絡對V-I軌跡特征進行進一步特征提取和判別，由于中頻爐和電弧爐的V-I軌跡特征相近，產生了較多的誤判。文獻[24]算法使用KNN進行判別，對誤判風險大的樣本通過核Fisher進行判別，使得對特征相近的樣本識別取得了一定效果，但整體識別率不高。文獻[25]算法引入諧波特征組成諧波向量，但使用感知機訓練獲取的有效信息較少，精度仍有提升的空間。融合了V-I軌跡特征和高斯諧波特征的Single-Arch CNN比單一特征的CNN具有更好的表現，而基于孿生分支的Dual-Arch CNN網絡識別精度最高，其對沖擊負荷波形特征和幅值特性的學習更為深刻，泛化能力更強，使得該算法辨識效果要好于傳統的機器學習方法與單通道、單分支網絡等模型。

4 結束語

典型沖擊負荷對電力系統穩定有較大的影響，為了識別和掌握這種動態負荷的波動，文章提出了一種基于孿生分支網絡結構的非侵入式沖擊負荷辨識方法。首先對于電網高頻采樣數據，設計了一種對角高斯諧波特征，使用該特征與V-I軌跡特征相配合進行沖擊負荷辨識，能夠有效彌補V-I軌跡特征無法表征幅值信息的不足。同時設計了一種孿生分支結構的神經網絡，分為單輸入通道和孿生輸入通道兩種模式，其中單通道模式運算速度快，孿生輸入通道模式精度高。該網絡結構不僅能融合訓練V-I軌跡和對角高斯諧波特征，而且可以同時輸出類別預測和功率分解結果。算法能夠在算力較低的嵌入式邊緣設備部署且運算速度達到ms級。實測數據表明，文章設計的網絡模型和特征組合方式能夠有效地提升沖擊負荷的辨識效果。

文章以四種典型設備為例展開，結合了沖擊負荷監測現實需求、孿生分支網絡強大的學習能力以及非侵入式負荷監測理論優勢。文中所提算法可根據實際應用場景的需要，學習并擴展至更多大中型沖擊負荷類設備。同樣地，模型經過訓練學習可用于家用電器投切識別等多種場景。

值得一提的是，大型負荷的數據資料較少，基于人工智能的智慧電網建設依賴于數據驅動，往往需要電網公司和企業合作去采集大量的負荷樣本數據，分類建設并不斷完善相關的數據庫，運用基于人工智能的算法，對重點地區和企業實行定點監測，統計數據后進行云端匯總，利用大數據技術分析沖擊負荷總體運行規律，進而推動智能電力調度和電能質量優化，降低沖擊負荷對電網的影響。