基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障診斷

黃磊 王輝

（上海電力大學(xué)）

0 引言

隨著我國(guó)經(jīng)濟(jì)快速的發(fā)展，電力系統(tǒng)網(wǎng)架結(jié)構(gòu)的規(guī)模在飛速地?cái)U(kuò)大，越來越多的人對(duì)電網(wǎng)電力的需求不斷增加，同時(shí)對(duì)電能質(zhì)量的要求也不斷地提高，而如何保障電網(wǎng)設(shè)備穩(wěn)定及安全可靠的運(yùn)行是電力員工們目前最重要的事情。但是，由于目前的電力需求越來越旺盛，尤其是在迎峰度夏期間，電力系統(tǒng)經(jīng)常處于滿負(fù)荷，甚至過負(fù)荷狀態(tài)。電力設(shè)備日常運(yùn)行中，受自身以及外界的影響，偶爾會(huì)出現(xiàn)一定的故障，一旦發(fā)生故障，就會(huì)給電網(wǎng)運(yùn)行帶來不可挽回的損失[1]。為了保證變壓器的健康穩(wěn)定運(yùn)行，變壓器在線監(jiān)測(cè)技術(shù)日益得以運(yùn)用，能夠及時(shí)發(fā)現(xiàn)設(shè)備的異常情況，對(duì)變壓器實(shí)時(shí)監(jiān)測(cè)數(shù)據(jù)，形成一系列各式各樣的數(shù)據(jù)庫(kù)，這對(duì)于評(píng)價(jià)變壓器運(yùn)行狀態(tài)提供了強(qiáng)有力的支撐。

變壓器油色譜[2]在線監(jiān)測(cè)技術(shù)可以有效地測(cè)定變壓器油中溶解氣體濃度，并且是變壓器在線監(jiān)測(cè)技術(shù)中非常重要的一項(xiàng)，通過選擇變壓器油中溶解氣體分析（DGA）數(shù)據(jù)中特征氣體含量，搭建卷積神經(jīng)網(wǎng)絡(luò)[3]變壓器油中溶解氣體濃度故障診斷模型，對(duì)變壓器進(jìn)行故障診斷。從而掌握變壓器的運(yùn)行狀態(tài)，以及變壓器運(yùn)行風(fēng)險(xiǎn)的評(píng)估。

1 卷積神經(jīng)網(wǎng)絡(luò)基本原理

卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)中的一種，是一種包含有卷積計(jì)算，并且含有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)。一個(gè)完整的卷積神經(jīng)網(wǎng)絡(luò)包含有輸入層、卷積層、池化層、全連接層、輸出層[4]。它的核心部分為卷積層、池化層、輸出層。卷積神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的特征提取能力，而且局部感受區(qū)和權(quán)值共享可在很大程度上減少訓(xùn)練參數(shù)，使模型適應(yīng)性更強(qiáng)、收斂更快。

1.1 卷積層

卷積層是卷積神經(jīng)網(wǎng)絡(luò)中最主要的部分，該層利用卷積核對(duì)輸入層的數(shù)據(jù)進(jìn)行收集、運(yùn)算，然后提取特有信息。一個(gè)卷積核只能收集一種特征，卷積層擁有兩個(gè)最重要的特點(diǎn)，分別是稀疏連接[5]以及權(quán)值共享，通過這兩個(gè)特點(diǎn)，使得卷積神經(jīng)網(wǎng)絡(luò)與一般的神經(jīng)網(wǎng)絡(luò)算法顯示出本質(zhì)上的不同。數(shù)據(jù)在不斷地學(xué)習(xí)，收集特征的時(shí)候，每一個(gè)卷積核會(huì)吸取一個(gè)特征。卷積神經(jīng)網(wǎng)絡(luò)中的稀疏連接以及全連接的不同的地方，是因?yàn)榫矸e層當(dāng)中的神經(jīng)元，只需要和上一層中的部分神經(jīng)元互相聯(lián)系，它使得模型參數(shù)會(huì)更加簡(jiǎn)單，這樣可以使得訓(xùn)練工作量能夠大大地降低，并且卷積層可以同時(shí)輸出不同的特征，在特征提取的過程中，還可以不需要考慮局部特征所處的不同位置，并且大大地降低卷積層網(wǎng)絡(luò)參數(shù)的數(shù)量，同時(shí)降低過擬合的概率[6]。

1.2 池化層

池化層是卷積神經(jīng)網(wǎng)絡(luò)中最經(jīng)常使用組件之一，池化層是通過模仿人的視覺系統(tǒng)，然后把數(shù)據(jù)進(jìn)行降維處理，接著使用更高一層次的特征來進(jìn)行表達(dá)，同時(shí)它可以降低網(wǎng)絡(luò)參數(shù)的數(shù)量。

池化的作用：①減少信息冗余度；② 提高模型的尺度不變性以及旋轉(zhuǎn)不變性的特點(diǎn)；③降低過擬合概率的發(fā)生[7]。

1.3 輸出層

輸出層中本文使用邏輯函數(shù)或歸一化指數(shù)（Softmax Function）[8]輸出分類。假如訓(xùn)練集{(x(1)，y(1))，(x(2)，y(2))，…，(x(m)，y(m))}，其中x(i)∈Rn+1，y(i)∈{1，2，3，4，5， 6，…，k}，當(dāng)輸入樣本為x的時(shí)候，可以通過激勵(lì)函數(shù)gθ(x)計(jì)算出樣本屬于任何類別之時(shí)的概率p(y=j|x)。激勵(lì)函數(shù)如下所示[9]：

其中，

式中，θ1，θ2，θk∈Rn+1屬于模型參數(shù)，項(xiàng)是把任何分類的概率分布通過標(biāo)準(zhǔn)歸一化處理后，最后得到概率和為1。

本文中θ可以使用一個(gè)k×(n+1)的矩陣進(jìn)行表達(dá)。

于是，將會(huì)對(duì)softmax回歸代價(jià)函數(shù)進(jìn)行分析。代價(jià)函數(shù)為D(θ)，在式（3）中I{·}為指示性函數(shù)，計(jì)算法則為I{表達(dá)式為真時(shí)}=1，I{表達(dá)式為假時(shí)}=0。

j類概率表達(dá)公式如下：

衰減項(xiàng)增加后，代價(jià)函數(shù)則優(yōu)化成為凸函數(shù)，為了讓代價(jià)函數(shù)獲得最優(yōu)解，則需要對(duì)代價(jià)函數(shù)進(jìn)行求偏導(dǎo)數(shù)，于是得到式（6），再通過式（7）進(jìn)行參數(shù)更新：

2 基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障診斷模型搭建

2.1 收集油色譜數(shù)據(jù)

通過《變壓器油中溶解氣體分析和判斷導(dǎo)則》可以得到，一臺(tái)變壓器有問題之時(shí)會(huì)產(chǎn)生二氧化碳（CO2）、一氧化碳（CO）、甲烷（CH4）、乙烷（C2H6）、乙烯（C2H4）、乙炔（C2H2）、氫氣（H2）等氣體，通過三比值法中故障特征氣體演變規(guī)律，CH4→C2H6→C2H4→C2H2的順序推移，選擇當(dāng)中的五種氣體（H2、CH4、C2H6、C2H4、C2H2）作為變壓器油中溶解氣體濃度故障診斷模型搭建的輸入向量。

2.2 變壓器油中溶解氣體濃度狀態(tài)類型編碼

變壓器油中溶解氣體濃度狀態(tài)類型編碼如表1所示。

表1 變壓器油中溶解氣體濃度狀態(tài)類型編碼

2.3 基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障診斷模型結(jié)構(gòu)圖

構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障診斷模型結(jié)構(gòu)圖，如圖1所示。

圖1 基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障診斷模型結(jié)構(gòu)圖

卷積神經(jīng)網(wǎng)絡(luò)處理的數(shù)據(jù)一般是m×n的二維格式，但是本文用于診斷變壓器故障的數(shù)據(jù)是1×n的一維格式，所以采用一維卷積神經(jīng)網(wǎng)絡(luò)搭建診斷模型。由圖1可知輸入層的大小為1×5，因此卷積層C1有10個(gè)大小為3×1的卷積核，可提取到10個(gè)大小為1×5的特征圖；卷積層 C2有20個(gè)大小為3×1的卷積核，可提取到20個(gè)大小為2×1的特征圖；卷積層 C3有40個(gè)大小為3×1的卷積核，可提取到40個(gè)大小為1×1的特征圖。全連接層1神經(jīng)元個(gè)數(shù)為120，全連接層2神經(jīng)元個(gè)數(shù)為84。池化層 P1為2×1，可得到10個(gè)大小為2×1的特征圖；池化層 P2為2×1，可得到20個(gè)大小為1×1的特征圖。展開層可得到大小為1×40的特征圖。最后，在輸出層使用 Softmax 函數(shù)實(shí)現(xiàn)對(duì)變壓器故障的分類。

2.4 基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障診斷步驟

1）對(duì)變壓器油中溶解氣體濃度數(shù)據(jù)進(jìn)行編碼，并將這些數(shù)據(jù)分成為訓(xùn)練部分與測(cè)試的部分。

2）將變壓器油中溶解氣體濃度數(shù)據(jù)中的五種氣體（H2、CH4、C2H6、C2H4、C2H2）的含量輸成大小為 1×5的向量，作為CNN卷積神經(jīng)網(wǎng)絡(luò)的輸入層。

3）構(gòu)建基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障模型，并針對(duì)卷積核數(shù)量及卷積核大小、迭代次數(shù)參數(shù)來進(jìn)行測(cè)試。

4）卷積層和池化層在通過對(duì)輸入數(shù)據(jù)向量按照提取特征數(shù)據(jù)、降低維度以及重新構(gòu)造新的特征情況的流程后，然后再將重新構(gòu)造的特征情況壓縮成一維數(shù)組的數(shù)據(jù)，于是再輸入全連接網(wǎng)絡(luò)，再輸出判定結(jié)果。最終把剛剛得到判定結(jié)果和實(shí)際的結(jié)果值比較并得到殘差，最后通過反向傳播算出全連接層與卷積層之間的偏置與權(quán)重情況。

5）使用測(cè)試的數(shù)據(jù)來評(píng)判本次搭建模型的性能，如果本次搭建的模型與實(shí)際情況比較吻合，于是就將該模型進(jìn)行保存， 如果該模型與實(shí)際情況得到的結(jié)果較差，那就繼續(xù)按照第3步與第 4步的內(nèi)容繼續(xù)訓(xùn)練到滿足要求為止。

3 實(shí)證分析

本次實(shí)證分析基于操作系統(tǒng)Windows7旗艦版（64位），anaconda3、python3.7、pytorch1.7.0的語言環(huán)境上完成。

3.1 油中溶解氣體濃度數(shù)據(jù)的選擇

本文實(shí)證分析收集了某220kV變電站某臺(tái)變壓器油中溶解氣體濃度數(shù)據(jù)來進(jìn)行實(shí)驗(yàn)。將數(shù)據(jù)按照比例8:2來劃分為訓(xùn)練樣本數(shù)與測(cè)試樣本數(shù)。它的分布情況如表2所示。

表2 訓(xùn)練樣本數(shù)與測(cè)試樣本數(shù)的分布情況

3.2 考慮卷積核的大小對(duì)本次測(cè)試模型的影響

本次實(shí)驗(yàn)采用的是控制變量法，卷積神經(jīng)網(wǎng)絡(luò)的卷積核的數(shù)量、全單元數(shù)目以及學(xué)習(xí)率等設(shè)置為一致。本次實(shí)驗(yàn)設(shè)置卷積核數(shù)量為10，卷積核大小的設(shè)置為1×1、3×1、4×1，從準(zhǔn)確率以及快速收斂率來比較卷積核大小對(duì)模型的影響，見圖2~圖4。

圖2 卷積核大小1×1的模型準(zhǔn)確率與迭代次數(shù)圖

圖3 卷積核大小3×1的模型準(zhǔn)確率與迭代次數(shù)圖

圖4 卷積核大小4×1的模型準(zhǔn)確率與迭代次數(shù)圖

圖2~圖4中的train_acc指的是訓(xùn)練樣本的準(zhǔn)確率、text_acc指的是測(cè)試樣本準(zhǔn)確率，橫軸epoch指的是迭代次數(shù)，縱軸acc指的是準(zhǔn)確率。從圖中可以得出結(jié)論，當(dāng)卷積核大小為3×1，隨著迭代次數(shù)的增加，準(zhǔn)確率越能接近1，同時(shí)越容易收斂，不容易波動(dòng)。因此為了提高準(zhǔn)確率，減少波動(dòng)，卷積核大小設(shè)置為3×1較為合適。

3.3 考慮卷積核的數(shù)目對(duì)本次測(cè)試模型的影響

本次實(shí)驗(yàn)設(shè)置卷積核大小為3×1，卷積核數(shù)目的設(shè)置為10、15、20，從準(zhǔn)確率以及快速收斂率來比較卷積核數(shù)目對(duì)模型的影響，見圖5~圖7。

圖5 卷積核數(shù)目為10的模型準(zhǔn)確率與迭代次數(shù)圖

圖6 卷積核數(shù)目為15的模型準(zhǔn)確率與迭代次數(shù)圖

圖7 卷積核數(shù)目為20的模型準(zhǔn)確率與迭代次數(shù)圖

從圖5~圖7中可以得出結(jié)論，當(dāng)卷積核數(shù)目為10，隨著迭代次數(shù)的增加，準(zhǔn)確率越能接近1，同時(shí)越容易收斂，不容易波動(dòng)。因此為了提高準(zhǔn)確率，減少波動(dòng)，卷積核數(shù)目設(shè)置為10較為合適。

3.4 實(shí)驗(yàn)結(jié)論

當(dāng)卷積核大小為3×1、卷積核數(shù)目為10，隨著迭代次數(shù)的增加，準(zhǔn)確率越能接近1，同時(shí)越容易收斂，不容易波動(dòng)。

4 結(jié)束語

在變壓器油中溶解氣體濃度故障診斷領(lǐng)域中，有傳統(tǒng)的專家系統(tǒng)診斷方法和人工智能診斷方法，人工智能法有神經(jīng)網(wǎng)絡(luò)模型法、基于模糊理論的診斷法、基于灰色理論的診斷法。這些方法都有著十分好的診斷結(jié)果，但同時(shí)也存在著收斂遲緩、易陷入局部最優(yōu)的特點(diǎn)。卷積神經(jīng)網(wǎng)絡(luò)通過卷積層與池化層的交替疊加運(yùn)算，擁有強(qiáng)大的特征識(shí)別能力，而且局部感受區(qū)和權(quán)值共享可在很大程度上減少訓(xùn)練參數(shù)，使模型適應(yīng)性更強(qiáng)、收斂更快。因此開展基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解濃度故障診斷研究可以對(duì)變壓器進(jìn)行快速準(zhǔn)確的狀態(tài)評(píng)估，并及時(shí)做出故障預(yù)警，這對(duì)于增強(qiáng)新時(shí)代堅(jiān)強(qiáng)電網(wǎng)安全穩(wěn)定運(yùn)行，保障人民群眾對(duì)更高的電能質(zhì)量需求具有十分重要的意義。

實(shí)驗(yàn)結(jié)果表明，卷積神經(jīng)網(wǎng)絡(luò)診斷模型中卷積核的數(shù)量不是說很多就很好，卷積核的大小也不是說很小就很好，而卷積神經(jīng)網(wǎng)絡(luò)在進(jìn)行對(duì)壓器油中溶解氣體濃度故障診斷時(shí)，卷積核的大小、數(shù)量需要由數(shù)據(jù)的真實(shí)情況來選出，從而才能達(dá)到最好的結(jié)果。