基于改進YOLO和Resnet的變電設備熱缺陷識別及診斷方法

鄭文杰,楊 祎,喬 木,呂俊濤,張峰達,洪欣媛

(1.國網山東省電力公司電力科學研究院, 濟南 250003;2.國網山東省電力公司, 濟南 250001;3.重慶大學 輸配電裝備及系統安全與新技術國家重點實驗室, 重慶 400044)

0 引言

在電氣設備的長期使用過程中,其內部器件可能發生老化和喪失絕緣,引起設備局部溫升或過熱,甚至造成嚴重事故[1]。據電網運行分析發現,在常見的早期故障類型中,由電流互感器、隔離開關、套管等設備過熱引發的故障占關鍵變電設備早期故障的半數以上[2-3]。為了保障電網的安全運行,利用紅外診斷技術對變電設備進行監測能夠在不停運的情況下有效識別設備內部和外部缺陷[4-5]。然而,紅外技術在電氣領域的應用仍存在很多問題,一是對設備的故障診斷大多依賴人工進行,容易受主觀性的影響且效率低下;二是現有的機器視覺識別技術受限較大,不僅難以對復雜且種類繁多的電氣設備實現精準分類,還因紅外圖像存在各種背景噪聲干擾而難以實現設備過熱關鍵區域的特征提取[6]。

針對變電設備紅外圖像目標檢測和識別的研究主要分為圖像處理法和深度學習法兩大類。圖像處理法通過圖像分割、對比和增強等方法識別故障處的關鍵信息,采用Roberts、K-means聚類等多種邊緣檢測算法提取圖像邊緣[7-8],依據熱像特征、紋理特征等完成分割后紅外圖像的熱缺陷識別[9-10]。這些方法雖然在背景噪聲或干擾較小的紅外圖像中識別率較高,但難以完成復雜場景下多類型設備的缺陷診斷,診斷效率低下。

基于深度學習的目標檢測法能夠減輕對檢測人員經驗程度的依賴,在識別的正確率和實時性方面表現良好,能夠實現電氣設備熱缺陷故障診斷的自動化[10]。目前,在設備特征提取及熱缺陷故障識別算法中,代表性的有基于候選框的R-CNN系列算法和基于回歸的YOLO系列網絡[11-12]。前者根據目標特征提取預選框,在此基礎上對提取的每個區域進行分類和位置回歸,具有較高的準確率,但其結構較為復雜,難以滿足實際應用需求。后者檢測速度快,滿足實時性要求,能保持較高的定位準確度和特征識別率。然而,現有電氣領域研究在采用YOLO系列算法獲取圖像先驗框及特征時,所涉及的對象多數為以輸電線路為代表的可見光圖像[13-14],以高壓開關設備為代表的紅外圖像[15-17]。這兩類圖像背景干擾較小,所提取特征與圖像雜散元素區分明顯,采用常規的YOLO系列算法便可以得到高質量的預測框。而電流互感器、隔離開關、套管等設備具有不同的型號和結構,其紅外圖像背景干擾大,設備的過熱區域、正常區域和環境背景區域彼此重疊,難以區分,因此需要對YOLO算法加以改進。

YOLOv4算法在YOLOv3算法的基礎上融合了更好的方案,如其主干特征提取網絡由DarkNet53改進成CSPDarkNet53,提升了目標的檢測效果[18]。YOLOv4-Tiny網絡是YOLOv4網絡的簡化,其模型結構更加簡潔,每秒傳輸幀數約為YOLOv4的8倍,能夠高效處理海量數據。為此,本文提出一種基于改進YOLO的變電設備熱缺陷識別及診斷方法。首先對多種變電設備紅外圖像進行標注,建立不同類型設備及熱缺陷數據庫;其次,采用改進的YOLOv4算法對發生故障的設備進行識別,并提取該設備所在區域的局部紅外熱圖;然后,基于聚集性連接思想,對分類所用網絡Resnet基礎結構進行改進,提高設備故障類型的分類準確度;最后,基于貝葉斯優化算法改進模型超參數,自動獲取學習率、卷積核個數、正則化因子等的最佳組合,在提升準確率的同時節省大量計算量。該方法能夠克服變電設備紅外圖像熱缺陷識別精度不高、特征提取困難等難題,滿足變電設備紅外檢測實際應用場景的需求。

1 基于改進YOLO的熱缺陷識別方法

1.1 變電設備紅外熱像數據集構建

變電設備出現熱缺陷時,通常表現為設備局部溫度上升或溫度分布異常,使得故障下的紅外熱像與正常熱像特征差距較為明顯。利用機器學習向診斷網絡中輸入不同類型設備在不同故障下的紅外圖像進行訓練,然后輸入待檢測目標圖像,即可實現該圖像中設備特征提取及故障類型診斷。由于目前公開的數據集中并未包含變電設備紅外圖像,因此需要構建一個包含多種設備、多類型缺陷的數據庫用于訓練。

采用的數據集來自于某省多座變電站近5年以來的運行數據,包含電流互感器、隔離開關、套管、避雷器、斷路器等多種設備的紅外熱圖。選擇電流互感器、隔離開關、套管3種設備作為研究對象,這3類設備可作為相似設備的代表,提升模型的普適性。此外,該數據集還包含了不同的設備類型和型號,以及缺陷類型和缺陷部位,部分圖像具有較強的背景干擾,能夠反映變電設備紅外應用場景的真實狀況。數據集紅外圖像示例如圖1所示,詳細信息如表1所示,圖像數據分辨率范圍為(240×319)～(800×600)。

表1 訓練數據集介紹

圖1 數據集中部分樣本圖

1.2 基于改進YOLOv4的紅外熱圖局部熱像提取模型

YOLOv4-Tiny作為YOLOv4的壓縮版本,使得網絡結構更加簡單,訓練速度更快。但是紅外數據集中部分圖像具有嚴重的背景干擾,直接采用YOLOv4-Tiny網絡進行設備局部提取時效果不佳。針對這一難題,從卷積核分解、網絡模塊化分解、多尺度特征融合及激活函數重選取這幾個方面對YOLOv4-Tiny網絡進行改進,主要包括：① 采用Gelu激活函數替換主干網絡中的LeakyRelu函數;② 設計并使用2個Conv_DBNGelu模塊提升對網絡淺層特征的利用;③ 采用卷積核分解技術提升網絡的計算能力。改進YOLO模型結構如圖2所示。

圖2 改進YOLO模型結構

1) 對原YOLOv4-Tiny網絡中激活函數的改進

卷積神經網絡中的激活函數可以使網絡增加非線性因素,提升模型傳遞不同尺度參數的能力。YOLOv4-Tiny原網絡使用LeakyRelu作為激活函數,但該函數存在輸出結果不一致、無法為正負輸入值提供一致的關系預測等問題。且在訓練過程中,訓練參數α值難以選取,因此本文中使用Gelu激活函數替換主干網絡中的LeakyRelu函數,Gelu函數的近似式為：

式中：x為輸入。與LeakyRelu函數相比,Gelu函數可以看作Dropout與Relu的結合,其在激活中加入了隨機正則的思想,使得模型在訓練過程中能夠具有更高的泛化能力。

2) 對原YOLOv4-Tiny網絡泛化能力的改進

改進思想來源于使用初始YOLOv4-Tiny網絡進行訓練時出現的嚴重過擬合現象。由于紅外數據集具備不同的背景干擾,測試集里紅外圖像的背景噪聲可能不同于測試集圖像的背景噪聲,因此需要從提升網絡模型模糊度的方面加以改進。采用網絡模塊化分解方法減少網絡的層數;采用多尺度特征融合方法提取圖像的淺層特征;采用卷積核分解提升改進后網絡的計算能力,目的是在網絡“深度”已經足夠的情況下提升網絡的“寬度”,提升模型的泛化能力。

將網絡各部分進行分解,得到YOLOv4-Tiny主干網絡中便于分離的3個Resblock_body模塊,每個模塊的深度為16層。將淺層特征進行多次加操作,依照排列組合原理進行測試后,網絡在add_1處與add_2處實現加操作效果更優。

紅外數據集中部分圖像熱缺陷部位較小,在深度卷積后可能丟失該局部圖像的數據特征[19]。因此,采用多尺度特征融合方法,設置2個捷徑模塊提取Resblock_body_1層前的淺層特征。捷徑模塊及其連接方式如圖2中Conv_DBNGelu所示,其輸出分別在add_1與add_2處實現降維加操作,各模塊輸入與輸出的關系為：

(2)

式中：x為U1、U2處的特征;f1i為第i個Resblock_body模塊的函數表達式;f2為Conv_DBNGelu模塊主網絡的表達式;f3為降維模塊的表達式,代表步幅為3的卷積過程;f4為ConvBNGelu模塊的表達式。

3) 對原YOLOv4-Tiny網絡計算速度的改進

為了避免增加網絡導致的進一步過擬合現象,盡可能地減少運算過程中的計算量,采用卷積核分解技術減少參數量,卷積核的分解過程為：

(2N+1)×(2N+1)→(3×3)×N

(3)

式中：N×N表示卷積核尺寸。對于3×3卷積核,可以分解為3×1和1×3的2個連續卷積核提升網絡的訓練速度,降低過擬合的風險,最后使用1×1卷積核進行特征聚合并降維輸出。

2 基于改進Resnet的局部熱像診斷模型

2.1 Resnet_18基礎結構改進

殘差網絡(residual network,Resnet)是經典的神經網絡之一,采用殘差網絡對提取的紅外圖像進行分類識別可以有效解決在網絡深度不斷增加的情況下難以訓練的問題,能得到較好的效果。但是,部分變電設備外形相似,故障特征存在故障面積小、易在深層網絡中丟失信息等特點,直接采用原始網絡對其訓練準確度不高。因此,需要對原始網絡進行改進。

Densenet網絡基于多層密集連接的思想,在網絡層數極深的情況下仍能兼顧圖像的淺層特征,對圖像中小目標和微特征的識別度較好[20-21]。將該網絡密集連接的特點應用于模塊化分解的Resnet_18網絡中,可以提高設備缺陷狀態識別的識別準確率。Densenet的連接方式及改進后的Res_DNet網絡結構如圖3所示。

圖3 改進Res_DNet模型結構

改進思路為：在Resnet_18原網絡中,含有8個Res_Branch子模塊,淺層特征難以在高層網絡中得到應用,因此,令第i個模塊前輸出的Outij特征作為第j個模塊增加的輸入特征Inij,讓網絡具有更強的梯度流動性并保存低維度的特征。同時,使用過多Res_Branch子模塊可能造成模型過擬合。考慮自身的數據集特點,假設最終采用的子模塊數量為L,則需設計0.5L(L-1)條支路進行多層語義特征傳遞。由于紅外圖像的局部特征主要體現在淺層語義中,考慮對稱式結構的設計,所使用的網絡最終采用6個Res_Branch子模塊。值得注意的是,在設置密集性連接時,網絡可能因卷積核的數量不同而無法直接采取加操作,此時可設置多個大小為1×1的卷積核進行聚合。

2.2 基于貝葉斯的超參數優化方法

超參數(hyper-parameter)是機器學習算法的參數,學習率、卷積核數量、正則化項系數等超參數的設置會影響模型分類的準確率。不同模型會有不同的最優超參數組合,根據經驗或隨機的方法來嘗試會浪費大量時間和計算資源。特別地,本文采用2個網絡逐層遞進的方式提高最終檢測的準確度,每個網絡的超參數設置都需要配合改進。因此,采用貝葉斯算法可以實現超參數的自動獲取與最優選擇。

貝葉斯優化的原理可表示為：

λ*=arg maxλf(λ,Dtrain,Dvalid)

(4)

式中：λ為機器學習模型超參數配置,λ*為最優機器學習模型配置;D為給定數據集;f為待求的目標優化函數。利用貝葉斯算法進行超參數優化的流程如下：

1) 確定待優化的超參數組合、超參數調節方式和尋優取值范圍,各類超參數優化設置如表2所示。

表2 超參數優化設置

2) 隨機進行n次訓練,記錄分類準確率,根據采集函數的極大值確定下一個采樣點。

3) 設置最大優化時間為8 h,時間結束后輸出超參數組合。

3 實驗

3.1 實驗環境及過程

同一幅圖像中可能同時具有正常工況的設備和異常工況的設備。首先,采用改進后的YOLOv4-tiny算法對待訓練圖像中電氣設備的缺陷部位進行定位,并提取出該設備先驗框;然后,將先驗框內的局部圖像作為改進Resnet網絡的輸入層進行訓練,并通過貝葉斯算法優化訓練模型的超參數;最后,驗證本文模型,并與目前流行的其余診斷模型進行對比,實驗整體流程如圖4所示。

圖4 實驗整體流程

將樣本按照7∶3劃分為訓練集和測試集,模型輸入尺度為224×224×3。運行環境為Windows 10操作系統,NVIDIA GeForce RTX 3080 Ti顯卡。CPU為AMD Ryzen 9 5950X 16-Core,在Matlab 2022b環境下運行實驗。實驗參數設置如表3所示。

表3 實驗參數設置

表4 改進模型與其他模型的實驗結果

3.2 評價標準

針對紅外巡檢任務的特殊性,使用改進YOLO算法提取局部圖像部分,使用召回率Rec(recall)、精確度Pre(precision)、每類目標的平均精度AP(average precision)、平均精度均值mAP(mean average precision)和每秒傳輸幀數FPS(frames per second) 來評估模型的性能。使用改進Resnet進行診斷部分,主要采用準確度Pac(accuracy)和FPS來評估改進網絡的性能。部分計算表達式如下：

(5)

(6)

式中：R為召回率;C為分類的總數。網絡模型的交并比IOU取值為0.5。

3.3 基于改進YOLO的紅外熱像局部提取結果分析

圖5展示了改進模型在訓練不同設備過程中70輪損失值的變化情況。隨著訓練輪數的增加,損失值逐漸下降,在60輪以后損失值趨于平穩。

圖5 損失值變化曲線

為了驗證改進算法的先進性,在紅外熱像局部提取任務中與目前主流的算法進行對比,表3給出了本文模型與Fast-RCNN、YOLOv3、YOLOv4以及YOLOv4-Tiny的實驗結果。在訓練尺度為224×224×3時,改進算法的平均檢測精度為91.25%,mAP相比于原算法提升了5.3%。同時,改進算法在檢測速度上與原算法相比(抽取總樣本10%作為檢驗對象)雖然下降了7 FPS,但在精度上有了很大的提升。故綜上可發現,改進后的算法對變電設備局部提取的綜合性能最好。

圖6與圖7更為直觀地展示了YOLOv4-Tiny原網絡和改進網絡對變電設備紅外圖像熱缺陷局部提取的結果。可以看出,改進模型在電流互感器、隔離開關、套管這幾類變電設備上的提取精度均高于原始模型。

圖6 YOLOv4_Tiny提取平均精度均值

圖7 改進模型提取平均精度均值

采用改進算法對數據集中隔離開關、套管、電流互感器3類設備進行檢測,并提取出設備所在的局部區域,提取結果如圖8所示。可以看出,改進算法具有較高的置信度,能夠在具有復雜背景干擾的情況下準確提取出目標設備。

圖8 紅外熱像局部提取結果

3.4 基于改進Resnet的檢測模型結果分析

基于改進YOLOv4-Tiny算法進行圖像局部提取后,將其輸入到已訓練的分類模型中,得到模型預測的準確度。同時,采用貝葉斯優化算法對模型超參數組合進行優化,效果如圖9所示,表明以分類準確率作為最終期望時,超參數組合更偏向于選擇較低的正則化系數與較多的卷積核個數。

圖9 貝葉斯優化超參數組合效果

圖10展示了本文模型與Alexnet、Resnet、Googlenet、Vgg16等模型在100次迭代訓練過程中的分類準確率。模型識別準確度隨迭代次數增加均不斷提升并趨于穩定,最終檢測效果如表5所示。

表5 不同模型組合的分類準確率

圖10 不同模型組合識別準確度

由表5可知,在進行圖像局部提取之后,經典網絡對各設備類型和缺陷的識別度均較高。在未進行提取時,即使是識別度最高的Googlenet也僅有85.56%的準確率,進行提取操作這一前步驟可以為最終的分類結果貢獻約5%的精度。同時,與其他模型相比,本文模型對各類設備熱缺陷狀態的識別準確率達到96.67%,比Googlenet等經典網絡的準確率至少高出4.6%。圖11展示了紅外熱像經提取、并將數據完全打亂后隨機抽取部分圖像進行訓練的結果,表明本文模型能夠有效識別設備的熱缺陷狀態。

圖11 本文模型檢測效果

使用Grad-CAM對Res_DNet網絡與其余網絡的識別效果進行對比,結果如圖12所示。不同的顏色代表著該區域對預測結果的貢獻度,紅色區域表明該處的貢獻度最高。網絡順序從上至下為：Alexnet、Resnet_18、Googlenet、Vgg16、Res_DNet(本文模型)。

圖12 改進模型狀態識別結果可視化圖像

從圖12中可以看出,本文診斷模型對設備熱缺陷狀態進行識別時,將重點放在設備產生高熱量的熱缺陷部位,能夠合理判斷設備的運行狀態,并識別出設備的故障位置。

4 結論

針對變電設備紅外圖像背景干擾大、熱缺陷故障種類繁多、現有故障診斷方法效率低、難以滿足實際巡檢應用需求的問題,通過卷積核分解及多特征融合方法提出一種改進的YOLOv4-Tiny模型,用以提取設備的局部特征,構建了融合密集連接思想的殘差網絡模型,提升了對設備熱缺陷的識別準確率。實驗結果表明,改進后的YOLOv4-Tiny算法相較于原算法提升了5.3%的準確率,改進后的Res_DNet算法相比于經典算法提升了4.6%以上的準確率,2種算法組合后表現出輕量化和高精確度的特點,能在電氣設備紅外巡檢的真實環境中運用。

下一步將從提升某一類特定設備熱缺陷識別準確度的方向開展工作。如本文針對隔離開關的識別效果并未達到預期,這與隔離開關原紅外數據集中故障數據與正常數據過于相似有關。因此,針對易于混淆的設備故障狀態,可對提取圖像進一步增強處理,如HSI、HSV等,從輸入的角度改進和提升檢測模型的準確率。