基于深度學習的架空線路關鍵部件典型缺陷識別研究

陳劍波, 唐 銳, 姚 平, 張賽飛, 廖 林, 楊春萍

(1.國網新疆電力有限公司巴州供電公司,新疆 庫爾勒 841000; 2.華北電力大學 電氣學院,北京 102206)

架空線路是輸送電力的重要紐帶,確保架空線路安全對于電力系統(tǒng)安全穩(wěn)定運行意義重大。絕緣子、懸垂線夾和均壓環(huán)等金具是架空線路中常見的部件,由于長期暴露于外部自然環(huán)境下,這些部件難免會出現缺陷從而產生隱患,威脅電力系統(tǒng)安全穩(wěn)定運行,因而需要定期巡檢來確保電能持續(xù)供應和架空線路安全運行。

現有巡檢方式主要包括人工巡檢、直升機巡檢[1]、機器人巡檢[2]、無人機巡檢[3-4]等。目前國內架空線路巡檢模式主要為無人機巡檢結合人工輔助巡檢方式,通過給無人機設定航線對架空線路進行巡檢,對無人機回傳的圖像進行人工甄別,或者將無人機取得的影像數據上傳服務器,服務器再采取深度學習方法對架空線路影像數據進行甄別,在人力物力上投入較大。

當前基于深度學習的目標檢測方法大致可以分為基于候選區(qū)域的兩階段目標檢測方法和基于回歸的單階段目標檢測方法。基于候選區(qū)域的兩階段檢測方法有R-CNN[5]、Faster-R-CNN[6]、Mask R-CNN[7]等,這類檢測方法精度較高;基于回歸的單階段檢測方法有YOLO[8-10]、SSD[11]等,這類檢測方法具有更快的處理速度。在滿足檢測精度要求下,由于基于回歸的單階段檢測方法檢測速度更快,因此其在實際應用中使用更加廣泛,適用于實時性要求高、需要快速檢測的場景。基于深度學習方法,國內外許多學者對架空線路關鍵部件檢測進行了研究,文獻[12]提出了一種改進的單級多框檢測器模型對架空線路部件進行檢測,在SSD模型中使用改進的斥力損失函數,對于小目標和密集目標取得了較好的檢測效果。文獻[13]通過引入注意力機制和空間金字塔結構,改進了特征提取網絡,提出了一種基于YOLOv3改進的絕緣子缺陷檢測算法,提升了模型的特征表達能力。文獻[14]以YOLOv3為框架,提出了基于最小凸集的損失函數,同時以基于最小凸集的預測框選擇代替非極大值抑制處理,能有效檢測識別架空線路中多種典型的缺陷和故障。文獻[15]以 VGG-16 作為骨干網絡,在倒數第二個全連接層 FC7 提取金具的深度特征向量后利用主成分分析(Principal Component Analysis,PCA)實現降維,基于全局混雜平衡原理進行特征和標簽的匹配學習完成分類,進一步提升了金具缺陷識別精度。

考慮到架空線路中關鍵部件缺陷的多樣性,并針對檢測精度不高的問題,本文提出了一種改進YOLOv3的架空線路常見缺陷檢測方法。

1 YOLOv3檢測原理

YOLOv3整體設計采用編碼器-解碼器架構來進行特征提取,Darknet-53網絡結構設計借鑒了殘差結構的思想,在網絡加深的同時避免了梯度爆炸和梯度消失等問題[16],Darknet-53共有53層, 其結構如圖1所示[8]。

圖1 Darknet-53網絡結構

YOLOv3在COCO開源數據集上取得了較好的效果,但是在架空線路關鍵部件檢測問題上,需要進行相應的改進。為解決上述問題,本文在YOLOv3基礎上進行優(yōu)化,提出了一種基于YOLOv3的架空線路關鍵部件識別算法,通過實驗和測試,驗證了改進算法的有效性。

2 改進模型網絡Rep-YOLOv3

主要改進思路如下:① 對YOLOv3的骨干網絡進行改進,融合RepVGG網絡,節(jié)省內存;② 采用SIoU邊界框回歸損失函數,有效降低回歸的自由度,加快網絡收斂;③ 采用更加簡潔高效的解耦頭,維持精度并加快解耦速度。

2.1 骨干網絡改進

YOLO3網絡有著更高的精度,但由于使用較多的分支結構,會明顯增加內存消耗,降低推理速度,不利于模型推理。VGG網絡屬于直筒型結構,由于只使用3×3卷積核,且沒有分支結構,運算并行度更高。丁霄漢等[17]提出的RepVGG網絡結構,通過結構重參數化,實現了在訓練階段的網絡多分支訓練,以強化模型特征提取能力;以及在推理階段進行網絡分支合并,以加快模型推理速度。用SiLU激活函數代替原RepVGG網絡中的ReLU激活函數,收斂更快。RepVGG網絡訓練和推理模型如圖2所示。網絡的訓練模型如圖3(a)所示,通過3×3卷積核、1×1卷積核分支及Identity殘差連接構成多分支結構,能有效緩解梯度消失等問題,讓模型更快收斂。網絡的推理模型如圖3(b)所示,通過多個3×3卷積和多次SiLU激活函數堆疊,形成直筒型結構,加快了模型推理速度。通過結構重參數化方法實現訓練模型到推理模型的轉化:① 將卷積層和批歸一化層進行融合;② 通過填充等效方式將卷積核轉化為3×3卷積核,從而將卷積層都變?yōu)?×3大小的卷積核;③ 合并所有3×3大小的卷積核,即將分支的權重和偏置疊加到一個3×3卷積核之中,并由此卷積核進行模型推理。

圖2 RepVGG網絡訓練和推理模型

圖3 改進后網絡結構圖

為滿足實際需求,本文引入改進后的RepVGG網絡作為骨干網絡,加強特征提取能力,減少信息損失,同時加快推理速度,便于部署到無人機上。改進后的網絡整體結構如圖3所示。

2.2 SIoU函數改進

CIoU[18]、DioU[18]、GIoU[19]等都沒有考慮到所需要的真實框與預測框之間的不匹配的方向,導致收斂速度慢且訓練效率低,為此SIoU[20]被提出,其考慮了回歸之間的向量角度,重新定義了懲罰指標。SIoU損失函數由4個成本函數構成。

第1部分是角度成本函數,其計算方法如圖4所示。

圖4 角度成本函數計算方法

圖4左下角為預測框,右上角為真實框。角度成本函數計算公式如下:

(1)

第2部分是距離成本函數,定義如下:

(2)

式中:ch和cw為預測框和真實框最小外接框的高度和寬度。當預測框和真實框之間的角度α趨近于零時,距離成本函數的貢獻大大降低;相反,α越接近π/4,距離成本函數貢獻越大。ρ為衡量預測框與真實框之間距離接近程度的參數,γ為被賦予時間優(yōu)先的距離值。當α趨近于零時,距離成本函數趨近于一個常數。

第3部分是形狀成本函數,其計算公式如下:

(3)

式中:wgt和hgt為真實框的寬和高;w和h為預測框的寬和高。θ的值決定了形狀成本函數的大小,根據數據集不同,其取值也不同。θ的值是形狀成本函數中非常重要的一項,它控制著對形狀成本函數的關注程度。如果θ的值設置為 1,它將立即優(yōu)化一個邊框,從而損害邊框的自由移動。此處參考文獻[20]的作者建議,設置為2到6之間的一個值。

第4部分是交并比(Intersection over Union,IoU)成本函數,其計算公式如下:

(4)

式中:I為IoU。和傳統(tǒng)IoU函數類似,B為預測框大小;BGT為真實框大小。

最終得到邊框回歸損失表達式如下:

(5)

2.3 檢測頭改進

檢測頭的設計已經在目標檢測和目標分類的網絡中被驗證有效。檢測有著分類任務和定位任務2個分支,而采用不同的分支進行運算,有利于效果的提升。原始YOLOv3采用的解耦頭是同時計算分類任務和定位任務, 在分類和定位任務之間共享參數,而YOLOX中的檢測頭將兩個分支解耦,在每個分支中引入了額外的2個 3×3 卷積層以提高精度,但是降低了速度。為避免2個3×3卷積帶來的額外開銷,此處只用了一個3×3卷積,降低時延。改進后的檢測頭結構如圖5所示。

圖5 改進后的檢測頭結構

3 實驗方法與結果

為了驗證提出的改進模型網絡Rep-YOLOv3方法的性能,本文選取架空線路常見的3種缺陷進行檢測實驗。本文原始數據共446幅圖片,來自國網某檢修公司無人機巡檢作業(yè)時拍攝的標準化照片,鑒于數據集樣本較小,直接用于訓練難以滿足實際需求,本文利用Imgaug數據增強庫進行數據擴充,提升訓練模型的魯棒性。本文通過添加噪聲、翻轉、銳化、調整對比度等方法對圖片進行數據增強,無人機航拍圖片經數據增強后如圖6所示。

在對原始數據集進行數據增強后,篩選并剔除不能用于訓練的數據,共得到5352幅原始數據加增強數據圖片,將圖片按照7∶3的比例劃分為測試集和驗證集。再利用Labelimg進行手動標注:部件及部件缺陷檢測主要包括絕緣子、懸垂線夾和均壓環(huán)。訓練集用于模型訓練,驗證集用于在訓練過程中對訓練結果進行評估防止過擬合。數據樣本情況如表1所示。

3.1 實驗結果

在實驗平臺為GTX2080TI,深度學習框架為Pytorch,加速庫CUDA版本為11.3的環(huán)境下訓練,設置訓練epoch為300,batchsize設置為16,初始學習率設置為1×10-4。由于數據集內圖片大小不一,需要通過預處理將它們轉換為416像素×416像素大小的圖像,并作為網絡輸入。采用余弦退火策略調整學習率,同時利用動量為0.937的隨機梯度下降優(yōu)化器來調整網絡參數,權重衰減設定為0.000 5防止模型訓練過擬合,非極大值抑制閾值設置為0.5。評價指標選擇精確度P(Precision)和召回率R(Recall),精確度表示模型預測正確的結果占所有預測為正類的比率,召回率表示模型預測正確的結果占所有樣本的比率。計算公式如下:

(6)

式中:TP表示預測結果與真實標注結果一致都為正樣本;FP表示預測結果為正樣本且與實際標注相反;FN表示預測為負樣本且與真實標注相反。改進算法召回率與精確度之間的對比如表2所示,由表2可知改進模型網絡Rep-YOLOv3的精確度與召回率相比于YOLOv3、Faster R-CNN和SSD都有不同程度的提升,其中改進模型網絡相比于YOLOv3,召回率增加了2.8%,精確度增加了3.4%,表明Rep-YOLOv3網絡對于架空線路關鍵部件檢測精確率提升明顯。在表2的結果中,SSD和Faster R-CNN的檢測精度差距在3%以內,SSD模型的結果最差,主要是因為SSD模型的特征提取能力不如Faster R-CNN和YOLOv3。改進模型網絡通過引入SIoU函數,讓預測框能夠更快地靠近最近的軸,提升了預測框和真實框的匹配度。

表2 改進算法召回率與精確度對比

3.2 檢測結果對比

從未標注的圖像數據中選取3幅具有代表性的圖像用來測試算法對不同目標的檢測結果,可以直觀看出不同模型對關鍵部件及缺陷識別的優(yōu)劣,圖7為Rep-YOLOv3和YOLOv3的檢測結果對比圖,在對部件定位的矩形框上展示目標類別及置信度。在懸垂線夾傾斜缺陷及絕緣子大傘裙破損缺陷上,YOLOv3可以正確識別,但是置信度低于改進模型網絡;在均壓環(huán)識別上,YOLOv3及Rep-YOLOv3都存在漏檢情況;而YOLOv3檢測絕緣子時出現漏檢情況,改進模型網絡則正常識別出絕緣子。

圖7 Rep-YOLOv3和YOLOv3檢測效果對比圖

各模型的訓練時間和單張圖片推理耗時如表3所示,由表3可以看出,經過改進的模型網絡無論是訓練速度還是單幅圖片推理耗時,都比原始模型快,這是由于改進了骨干網絡,模型復雜度降低,計算量下降使得模型訓練和推理速度極大地加快,因而更加符合實際架空線路無人機巡檢應用的需求。

表3 模型訓練時間和單幅圖片推理耗時

4 結束語

針對架空線路無人機巡檢提出了一種基于YOLOv3的改進模型網絡,通過對骨干網絡和檢測頭進行改進,同時引入SIoU損失函數,在提升檢測精度的同時也提升了檢測速度。通過實驗證明,使用改進模型網絡識別精度達到89.1%,單幅圖片推理耗時僅為42 ms,與其他方法對比可知,改進后的模型效果更好,具有一定的實際參考價值。下一階段,對于復雜背景下和拍攝模糊的關鍵部件檢測仍需要進行進一步研究。