改進全卷積網絡優化絕緣子缺陷檢測

楊永嬌，唐亮亮，鄭 勇

（1.廣東電力信息科技有限公司，廣東 廣州 510000；2 廣州大學機械與電氣工程學院，廣東 廣州 510000）

1 引言

電網絕緣子由于環境惡劣及不可避免的人為破壞而經常自爆破損。而絕緣子故障在很大程度上會造成供電中斷，嚴重威脅電網的運行和使用安全，甚至造成巨額經濟損失[1]，因而對電網絕緣子經常性巡檢，并準確檢測故障件以適時保護控制變得異常重要。

傳統人工巡檢存在視野盲區，效率低，且需要電塔攀爬等，耗時耗力，存在安全隱患。無人機航拍圖像分析輔助高壓線路的巡檢和維護等技術已相對成熟，提高了故障分析和修復的工作效率，但海量航拍圖像數據的人工主觀判讀，仍存在大量的誤判或漏判[2]，因此基于航拍圖像的絕緣子缺陷自動檢測成為保障電力系統安全運行的熱點問題。文獻[3]提取電網絕緣子圖像的尺度可變的二進制特征，然后采用改進的SVM 分類器對提取的特征進行分類，但所提算法的復雜度較高，實際應用受限。文獻[4]對無人機獲取的航拍絕緣子圖像進行正交變換，然后提取變換后圖像的S 變換特征，通過SVM 分類器進行絕緣子缺陷的自動識別與定位，但S 變換特征與分類器參數整定較為困難，需要大量訓練數據。文獻[5]基于無人機航拍電網圖像，通過RGB 空間變換減少環境光線對特征提取的影響，然后通過改進的OTSU 和形態學變換提取純凈的絕緣子串特征，最后通過像素數識別并定位自爆破損的絕緣子，算法對自然環境下的絕緣子仍具有較好的缺陷檢魯棒性；文獻[6]使用改進的自適應閾值方法對航拍電網圖像進行分割處理，并檢測預處理后的絕緣子邊緣，通過提取絕緣子串的相鄰絕緣子間距對串中絕緣子的破損情況進行識別，但算法對圖像分割和邊緣檢測算法的依賴性較強，當圖像分割受到噪聲干擾時，算法的檢測效果不理想。已有方法大多基于特征提取和SVM 等分類器，但算法依賴于特征提取的效果，而受噪聲干擾，特征提取的效果往往存在很大的不確定性，從而導致缺陷識別結果的魯棒性不好。深度學習[7]可以根據航拍圖像自動提取絕緣子缺陷特征并完成特征的學習和自動分類識別，文獻[8]利用卷積神經網絡檢測細微裂紋，將全連接層作為輸入以提高網絡的有效連接和遲滯，從而提高算法的分類能力，但識別結果中含有較多的非裂紋；文獻[9]根據深度學習的多視角自動匹配特性，對不同視角的射線投影圖像進行相同缺陷的自動匹配，實現微小缺陷的多視角圖像自動檢測與定位；文獻[10]采用深度置信網絡優化參數的初始設置，有效避免初始值不合適造成的局部最優和無法收斂問題。

深度學習全卷積網絡（fully convolutional networks，FCN）[10]具有圖像尺寸無限制、尺度旋轉不變性及像素級分類等特性，基于此，文中提出基于改進FCN 網絡模型的航拍電網絕緣子缺陷自動檢測算法，算法通過優化網絡結構、取消全連接層Dropout、增加多尺度池化與孔洞卷積以及采用雙目標優化函數，實現FCN模型的有效改進，實驗結果驗證了改進模型的有效性和魯棒性。

2 改進FCN 絕緣子缺陷檢測

2.1 傳統FCN 模型

傳統FCN 模型基于經典的CNN 模型，電網航拍絕緣子圖像輸入CNN 網絡后，經卷積、池化及激活函數后，其信號形式可以表示為：

式中：xij、yij—在相應層的（i，j）位置處的數據和在下一層該位置的輸出；k—卷積核尺寸；s—降采樣因子；fks—與相應層類型相關的操作。

對于FCN 網絡，圖像進入其全連接層后，輸出圖像尺寸變化會造成原圖像的目標位置與輸出圖像相應像素不對應問題，為此，以卷積層替換全連接層，這樣模型以任意尺寸的絕緣子航拍圖像作為其輸入時，其輸出端輸出結果直接為期望得到的像素類別，從而實現端對端的模型訓練。卷積和池化兩網絡層操作會使得輸入圖像的前兩維數據維數顯著減少，為此，采用多尺度池化層對輸入特征進行優化，基從而將映射維度調整為原始維度，采用孔洞卷積消除模型的過擬合，并保留精細的卷積濾波。

文中提出的改進FCN 模型，提高了絕緣子圖像中缺陷目標的檢測分辨率，并添加多尺度池化層和孔洞卷積運算，以擴展模型對缺陷局部精細細節的描述能力，并改善模型的過擬合問題；采用雙目標收斂函數，以優化模型低層次參數的設置，采用指數衰減法調節參數以使參數快速達到全局最優解，從而增加網絡特征的遞進傳遞性能和目標檢測能力。

2.2 改進FCN 模型構建

文中改進FCN 網絡模型的結構，如圖1 所示。圖中深色箭頭為卷積運算、一色箭頭為池化運算、另一色箭頭為反卷積運算、一色箭頭為Skip 跳躍、另一色箭頭表示累加；模型中深紅色長方形為輸入層，緊接著為6 個長方形表示的CONV 卷積層、3 個黑色長方形表示的FC7：FC9全卷積層及4 個DECONV1～DECONV4 反卷積層。其中，卷積層包含3 個單元，相鄰層間包含一次池化操作，全連接層的輸出在DECONV1 層經2 倍的反卷積后，其結果再與第四池化層的Skip 結果完成第一次累加；對于輸出的累加結果，在DECONV1 層再次進行2 倍的反卷積后，其輸出結果與第三池化層的Skip 結果完成第二次累加，依次進行，每次累加輸出結果完成反卷積層采樣后，與上一池化層Skip 結果進行累加，直到輸出最終檢測結果。

圖1 改進FCN 方法的流程圖Fig.1 Flow Chart for Proposed Improved FCN Method

2.3 多尺度池化改進

傳統FCN 網絡通常以提取有效特征為目標進行圖像的語義分割，并沒有充分考慮語義上下文建模，從而造成對航拍絕緣子圖像進行缺陷特征提取時存在關系匹配錯誤問題，為提取圖像的多尺度特征以準確描述缺陷，需要對傳統FC 池化層進行上下文關系強化和建模，文中采用多尺度金字塔池化方法，在輸入特征圖基礎上構建圖像金字塔，提取不同尺度特征，并根據其對池化層的上下文關系進行訓練和學習，具體模型改進設計，如圖2 所示。

圖2 多尺度池化層優化模型Fig.2 Multi-Scale Pooling Layer Improvement Model

圖中將三個尺度用于池化層改進，每個尺度對應池化層不同級別的功能圖，在時行FCN 缺陷檢測時，輸入的所有特征圖都與池化層的三個尺度時行卷積操作，3×3 尺度層獲得與傳統FCN網絡池化層相似的輸出，而另外兩個尺度用以擴展圖像像素的上下文關系信息，因而其輸出需要進行平均以確保不丟失圖像特征相關信息。池化均值加權還進一步消除多尺度結構的相鄰層之間的重疊性，并較好的保留圖像的上下文語義。

多尺度池化改進有利于輸入圖像的特征提取，但隨網絡層數的加深，特征的抽象提取會導致過擬合等負面影響，為此，采用空洞卷積方法，如圖3 所示。非零濾波器中加入孔洞進行卷積層上采樣最初被應用于小波變換計算[7]，后來被學者引入FCN 網絡以在提取的特征中融入上下文信息，為此，將上采樣因子設置為2，由于加入孔洞只對非零濾波器進行操作，因而卷積核是不變的。模型前一層的輸出數據進行一次正常卷積核的卷積運算以及四次卷積率分別為r=2，3，4，5 的空洞卷積，如圖3 所示。獲得的輸出圖像通過通道疊加進行融合，再通過一個3×3 卷積核后輸出多通道的特征圖像。

圖3 多尺度空洞卷積操作流程Fig.3 Multi-Scale Hole Convolution Operation Flow

可以看出，通過將傳統模型池層的密集采樣與多尺度優化池化模塊輸出的有效融合，改進FCN 模型可以很好的將圖像的上下文關系融合到模型提取的精細絕緣子缺陷特征，有利于缺陷的準確檢測與定位。

2.4 雙目標函數收斂優化

FCN 模型網絡深度達32 層，傳統FCN 模型會優先更新高層參數，而消減低層參數更新幅度，為使更新均衡，采取雙目標收斂策略，首先在第5 池化層后增加中間層目標函數，將其輸出的特征圖分辨率調整為原圖像的1/32，再與標簽圖通過交叉熵損失建立項層目標函數，從而構建雙目標函數收斂結構，其交叉熵損失函數J（x）計算為：

式中：xj、yj—輸入圖像中第j個像素的特征與類別；R（x）—像素輸出。改進模型的最終目標函數Jz（x），由增加的中間層和頂層目標函數平均加權組成，當模型認底層參數優化不足時，其中間層目標函數將偏大，導致整體目標函數增大，此時需繼續模型訓練，直到整體目標函數最優。

在更新過程中，采用指數衰減法調節參數以使參數快速達到全局最優解，降低后期波動，相應學習率dlr0定義為：

式中：lr0—模型的初始學習率；dr、ds—衰減系數及衰減速度；gs—訓練過程中迭代次；［］—向上取整數。為防止過擬合情況，在整體目標函數中增加L2正則項：

式中：R（ω）—描述的模型的復雜度；λ—正則項系數；ω—網絡參數。

在改進FCN 航拍電網絕緣子缺陷檢測過程中，航拍圖像作為初始輸入，在卷積神經網絡提取特征，高斯混合模型通過判斷當前像素的歸屬概率的負對數來描述當前像素為缺陷目標的懲罰大小，其計算式為：

式中：a=｛0，1｝—描述當前像素歸屬目標或背景；π（·）—混合加權系數；u—高斯均值向量；Σ—協方差矩陣。邊界描述項通過兩個像素間的歐氏距離描述了相鄰像素的不連續性，其計算式為：

式中：γ、β—融合因子，γ+β=1。

3 缺陷檢測實驗分析

為驗證文中改進FCN 模型的有效性及檢測性能，以實驗室采集的各種實際背景下的絕緣子圖像作為實驗數據。實驗環境為Intel（R）Core（TM）i7-7820H CPU@2.20 GHz，16 GB 內存。采用常用的召回率、準確率和平均絕對誤差作為評價指標。

為驗證改進模型的結構性能，以原始FCN-8s 為基礎模型，構建FCN-4L 模型和FCN-10L 模型，FCN-4L 模型關閉Dropout技術并加入卷積單元，FCN-10L 模型加入多尺度池化層，將四種網絡模型進行訓練和實驗性能比較，模型參數分別為：batchSize=4、numSubbatches=2、learningRate=0.0001。四種模型對測試圖像的得平均ROC 曲線，如圖4 所示。

圖4 各模型測試實驗平均ROC 曲線Fig.4 Experiment Average ROC Curve of Each Model

從實驗結果可以看出，傳統FCN 模型的假目標較多，主要因為其細節描述能力差，且連接層跨越維度較大，FCN-4L 模型的細節描述能力有所提高，但檢測效果仍不；FCN-10L 模型通過多尺度池化層和孔洞卷積運算，有效提高對缺陷等細節特征的描述能力，增強算法的檢測能力；文中改進FCN 模型在FCN-10L 模型基礎上進一步增加雙目標函數，進一步優化參數設置，凸顯缺陷信息并增強檢測像素連通性，從而提高對假缺陷目標的識別能力和對背景干擾的魯棒性，文中提出的改進FCN 模型對絕緣子缺陷檢測的效果圖，如圖5 所示。驗證改進模型的檢測有效性和魯棒性。

圖5 Proposed FCN 模型缺陷檢測結果Fig.5 Defect Detection Results of the Proposed FCN Model

4 結語

電網絕緣檢測缺陷的準確檢測是電網運行狀態有效監測及故障診斷前提，基于無人機航拍電網絕緣子圖像，為解決深度學習缺陷檢測存在的誤檢測和局部信息丟失問題，提出基于改進深度學習全卷積網絡的缺陷自動檢測算法，算法通過改進FCN 的VGG 結構、擴展濾波器尺寸、取消全連接層Dropout 及模型深度，實現FCN 模型在絕緣子缺陷檢測方面的有效改進，實驗結果表示，改進模型在較少運行時間增加基礎上，有效提高了對絕緣子缺陷檢測的性能和對背影的魯棒性，取得了比已有算法更有優的檢測結果。