基于卷積神經網絡的管道漏磁內檢測焊縫識別方法

沈陽工業大學信息科學與工程學院 岳明星 楊理踐 石 萌

1 引言

目前，管道焊縫和缺陷的識別方式主要通過管道漏磁內檢測數據中的漏磁場徑向和軸向分量進行數據圖像可視化，根據漏磁曲線特征進行判定。在國內，對于焊縫缺陷的智能識別領域，主要應用的神經網絡方法有支持向量機[1]、BP神經網絡[2]、RBF神經網絡等[3]；國外對于焊接缺陷數據進行訓練和識別主要應用的方法為多層感知器神經網絡[4]。基本都是采用人工的圖像分割到目標的特征提取，然后采用統計方法或淺層神經網絡方法來實現目標的分類識別[5]。近年來，基于深度卷積神經網絡算法的圖像分類識別方法已經廣泛的應用于各種工程檢測領域。本文提出一種改進的卷積神經網絡方法對于管道漏磁圖像進行訓練和識別，并在管道漏磁曲線圖像數據集上驗證識別率。

2 卷積神經網絡

卷積神經網絡采用卷積核運算對于輸入圖像進行特征提取。該運算方法在結構設計上選擇局部連接，該設計類似生物神經網絡的稀疏連接的特性。一個卷積層中通常包含多個具有不同權值向量的特征圖，使得能夠在同一個位置獲得多種不同的特征圖[6]。完成對于圖像數據的特征深度提取和組合。

選取64*64像素的管道漏磁圖像，該尺寸能夠包含完整的焊縫特征并且有效減小冗余數據量。基于LeNet5卷積神經網絡的5個隱含層加入了兩層局部歸一化響應層，在輸出層中加入Softmax分類器層，改進后的卷積神經網絡結構模型如圖1所示。

圖1 改進的卷積神經網絡結構

改進的卷積神經網絡模型結構中，C1層為卷積層，是通過6個3*3的卷積核與輸入圖像進行卷積運算，得到6個60*60的特征圖，每個神經元與輸入圖像中的3*3的鄰域相連。對于該層的訓練參數為W1和b1。該卷積層數學表達式為：

其中，l表示輸入的圖像的數量，其中l=6，輸入層經過第一層3*3卷積核的卷積運算之后輸出的圖像數據的映射圖大小為62*62像素。φ1表示第一層的激活函數。在每一個卷積層運算結束后都要進行激活操作，目的是抑制非特征區域，輸出映射特征圖。

S2層為池化層，采用最大池化操作（Maxpolling），池化半徑為2，主要完成對于卷積層的特征聚合提取。每個神經元通過與C1層相對應的2*2區域相連接，采樣輸出的特征圖大小為31*31像素，為C1層大小的1/4。該層無訓練參數。數學表達式為：

L3和L6層為局部響應歸一化層（Local Response Normalization）。加入該層的目的為完成對于數據歸一化。當神經網絡每批次訓練數據的分布各不相同時，則卷積神經網絡在每次迭代時都要去學習適應不同的分布，訓練速度將會降低[7]。當對于數據進行歸一化處理后，即使網絡在訓練開始的階段出現數據的分布各異性，歸一化后的數據分布也能降低訓練誤差，提高訓練速度。對于該層沒有訓練參數。

C4層同樣為卷積層，該層增加10個卷積核對于S2層輸出圖像進行卷積運算，該層的輸出可得到16個28*28大小的特征圖，訓練參數為W2和b2。數學表達式為：

S5層與S2層完成同樣的池化操作，即池化半徑為2，該網絡的層的輸出可到16個14*14的特征圖。對于該池化層的數學表達式為：

公式（4）中r5表示第5層的池化半徑，與S2層中的池化操作相同，即對于C4層做最大池化操作。經過S5層的池化操作后輸出的特征圖大小為14*14像素。

F7層為全連接層，分為全連接1層和全連接2層，主要完成的功能即為把卷積核二維矩陣運算的稀疏連接變為一維數據向量的全連接方式。全連接層的數學表達式為：

對于分類器（Softmax）的設計為：

公式（6）中，θ為管道漏磁數據集中目標類別，對于最后分類器的最后輸出類標為：

分類器輸出分類目標的依據即為對于待分類目標求得最大的概率，由公式7可知對于分類概率求反運算即可得分類結果，最后將待分類中概率最大的一類輸出。

3 實驗結果及分析

首先對于管道漏磁曲線圖像數據進行判別分析。管道漏磁內檢測數據通過高精度管道漏磁在線檢測系統形成管道漏磁曲線圖像[8]。對于無焊縫特征處的管道壁，漏磁曲線呈現出平滑的波線，對于管道的焊縫處則形成明顯的焊縫特征，如圖2所示。

圖2 管道焊縫曲線特征

如圖2中所示的管道漏磁圖像，建立基于卷積神經網絡的管道漏磁曲線圖像數據集，該數據集分為兩個部分，即訓練數據集和測試數據集；數據集中的圖像一共包括3個分類，管道無缺陷的漏磁曲線圖、環焊縫漏磁曲線和螺旋焊縫的漏磁曲線。每個類的曲線圖分別為200張，大小為64*64像素。其中管道螺旋焊縫包含兩種特征曲線，因此本文所建立的漏磁曲線圖像訓練數據集中一共包含600張圖像數據，分為3個標簽。測試數據集中一共包含300張，其中每個類別100張圖像。

基于深度學習平臺中實現改進的卷積神經網絡模型的運算，對于管道漏磁曲線圖像數據集進行訓練。如圖3所示為不同神經網絡層級中的圖像訓練結果。

圖3 不同卷積層中圖像訓練結果

選取Φ720管徑的管道漏磁焊縫原始灰度圖作為卷積神經網絡不同層級訓練結果的實驗觀測對象，從圖3中b圖可以看出第一個卷積層6個3*3的卷積核對于原始圖像中的特征圖之外的部分有明顯的濾波效果。在C4層中增加了10個卷積核后對于管道焊縫特征的深度提取效果較為明顯。在S5層中，經過了2個卷積層和2個池化層后對于圖像中的非特征區域實現了完全濾波的效果。可以對于管道漏磁圖像數據集執行圖像的批量化訓練過程。如圖4為不同參數情況下利用損失函數觀測到的訓練過程。

圖4 不同參數下的損失函數收斂結果

深度學習平臺中損失函數的定義為神經網絡的訓練結果與期望之間的誤差，在改進的卷積神經網絡模型中加入歸一化層之后，損失函數表達為損失率，作為神經網絡訓練結果的監測標準。其中，lr為神經網絡的學習速率，batch為每一批次訓練所讀取的圖像數量，通過每一批次的訓練，卷積神經網絡模型通過不斷對于批次的讀取和訓練完成對于權值連接矩陣和偏置矩陣的不斷更新。

由圖4中a所示，當學習率為0.01，batch=16時神經網絡未完全訓練，圖b中將神經網絡的學習率改為0.001后，損失率降低10%左右，c圖中，將圖像訓練批次增加一倍，同時將學習速率減小為0.0001，相比b中，損失率下降了5%左右；在d圖中，通過將最大迭代步數設置為2000步時，神經網絡損失率收斂在[1800,2000]步的區間之內，神經網絡的損失函數值收斂在[0.02,0.08]區間內，滿足訓練誤差。

當損失率滿足誤差標準時，認為神經網絡訓練達到最優化。將訓練好的卷積神經網絡模型保存，然后在300張測試數據集上驗證識別正確率，如表1所示為測試圖像集在訓練好的卷積神經網絡模型上的驗證的正確率。

表1 測試數據集的平均識別正確率

由表中的識別正確率可知，該模型對于平滑漏磁曲線和特征較為明顯的管道螺旋焊縫的識別率高于環焊縫的93.25%平均識別率。驗證了卷積神經網絡對于管道焊縫圖像批量化訓練結果能夠應用管道焊縫識別。較傳統的分類的神經網絡具有批量識別的優勢。

4 結論

通過對于改進的卷積神經網絡的理論分析計算，基于深度學習平臺對于模型訓練階段進行觀測，驗證了改進的卷積神經網絡在加入了歸一化層之后，能夠防止訓練參數分布的各異性，有效的降低訓練誤差。最終在測試數據集上實現了平均測試率為93%以上。驗證了該卷積神經網絡在處理批量訓練數據上的優勢，證明了該方法相對于傳統的機器學習方法有著廣闊的應用前景。

[1]申清明,高建民,李成.焊縫缺陷類型識別方法的研究[J].西安交通大學學報,2010,44(7):100-103.

[2]金濤,闕沛文,陳天璐.基于改進BP神經網絡算法的管道缺陷漏磁信號識別[J].上海交通大學學報,2005(07):1140-1144.

[3]朱紅秀,劉歡,李宏遠.基于優化RBF神經網絡的管道缺陷量化分析方法[J].儀表技術與傳感器,2016(02):83-86.

[4]Limty,Ratnam,Khalidma.Automatic classification of weld defects using simulated data and an MLP neural network[J].Insight,2007,49(3):154-159.

[5]余永維,殷國富,殷鷹.基于深度學習網絡的射線圖像缺陷識別方法[J].儀器儀表學報,2014,39(9):135-143.

[6]Christian Szegedy,Wei Liu,Yangqing Jia.Going deeper with convolutions[J].arXiv:1409.4842v1 17 Sep 2014.

[7]Karen Simonyan,Andrew Zisserman,Very Deep Convolutional Networks for Large-Scale Image Recognition[J].arXiv:1409.1556v6[cs.CV]10 Apr 2015.

[8]楊理踐,邢燕好,高松巍.高精度管道漏磁在線檢測系統的研究[J].無損探傷,2005(01):20-22+41.