基于改進卷積神經網絡的鐵軌傷損圖像識別

(安徽理工大學 電氣與信息工程學院，安徽 淮南 232000)

鐵軌的傷損檢測在鐵路安全運營中意義重大，國內由于鐵路客貨混跑、行車密度大、客運提速等因素，導致鐵軌表面易造成傷損，如果發現不及時，會使缺陷進一步加大，從而引起嚴重的交通安全事故[1]。截至2016年，通過分析統計的全球鐵路里程數據，國內鐵路總里程數據排名世界第二，其中高速鐵路總里程數據排名世界第一。若對提速后的火車線路完全依靠人工巡檢，不僅耗費巨大的人力物力，而且增加鐵路巡檢工作的危險性。在鐵軌傷損方面研制快速自動檢測技術對鐵軌安全運行變得極為重要。目前，在鐵軌表面傷損檢測中，大多都是運用機器視覺方法對鐵軌樣本圖像進行判別[2-4]，如西南交通大學官鑫的學習向量量化神經網絡算法、江南大學茅正沖的圖像增強與分割的算法等。但這些算法前期都要對樣圖進行煩瑣的圖像預處理或特征提取工作，且鐵軌樣本圖像的分類精度嚴重依賴預處理和特征提取的合適與否。

深度學習中在探究模式識別時引用卷積神經網絡，且應用卷積網絡的效果明顯，因此學術界對于卷積網絡很關注[5]。卷積神經網絡識別圖像在前期可省略復雜的特征提取工作，再對圖片進行識別。卷積網絡具有網絡學習特點，經學習后得到的圖片特征相對于人工方法提取的特征，更能反映樣本背后的規律，對于復雜度高的圖像也能實現高精度分類[6-8]。

卷積神經網絡的網絡訓練過程和BP神經網絡的訓練過程類同[9]，其中相關參數的計算為參數的前向過程傳遞和誤差的反向過程回饋。卷積神經網絡訓練在每次迭代過程中包含對多層卷積層計算過程與池化層池化計算過程，這極為耗費時間。因此提出一種改進卷積神經網絡模型，用于鐵軌傷損與非傷損樣本圖像的識別。改進算法在保證識別準確率下減少了卷積神經網絡的網絡訓練時間，在鐵軌探傷方面提高了檢測速度。

1 相關算法介紹

1.1 卷積神經網絡

20世紀60年代，Hubel和Wiesel在研究神經網絡時針對貓腦皮層的局部敏感和方向選擇的神經元，得出卷積網絡具有獨特的網絡結構，可以有效降低網絡反饋方面存在的復雜性問題。在構建好的卷積神經網絡中直接輸入圖像，網絡訓練過程對參數進行前向傳遞并對誤差進行反向傳播回饋，不斷重復計算、修正參數使輸出值達到期望值。卷積神經網絡結構如圖1所示。

圖1 卷積神經網絡結構簡圖

在圖1中，卷積網絡結構包含輸入層、一層卷積層、一層池化層和一層全連接層。建立的卷積神經網絡中輸入60像素×60像素的圖片，實現卷積計算作用的卷積層選擇卷積核的大小為5×5，卷積計算過程中采取的步長為1，卷積層中卷積計算使用的激活函數類型有Sigmoid、Relu函數，選擇Relu函數時不需要再進行引入稀疏性工作；池化作用的池化層選擇池化核的大小為2×2，池化計算的步長為2，采用最大池化法計算后得到的值作為池化層輸出值，能減少采樣過擬合問題。最后一層全連接層可以將圖片樣本學習后得到的分布式特征與建立的樣本標記空間通過映射建立關系。

卷積神經網絡在網絡結構上可以建立多卷積層，卷積層在功能上實現特征提取，數學表達式為

(1)

式中，αj-1+l,k+m為卷積神經網絡卷積計算中第j個卷積層所在的第k個神經元相對應的輸入表示；αj,k為卷積神經網絡卷積計算中第j個卷積層所在的第k個神經元的輸出表示；f為卷積神經網絡卷積計算中卷積層使用的激活函數；ω為在卷積神經網絡卷積計算中卷積層使用卷積核5×5大小的共享矩陣；b為共享偏置。

池化層在降低過擬合問題時利用局部平均計算和子抽樣計算來實現，通過降低樣本的輸出來簡化輸出特征量的大小。池化作用可獲得有映射關系的樣本特征，特征通過平移形式或者其他形式變形后，特征敏感度能夠降低，數學表達式為

αj+1=β·Pool(αj)

(2)

式中，β為下采樣層的權重系數；Pool為池化作用的函數，有max-pooling函數。

1.2 BP神經網絡

BP神經網絡在結構上有進行數據學習的輸入層、包含多個隱含節點的隱含層與輸出網絡學習結果的輸出層，其中隱含層學習可以由多層結構構成。BP神經網絡在學習訓練過程中使用的是一種多層網絡學習算法，計算內容包括對參數進行前向傳遞和對誤差進行反向傳播回饋。對于實際輸出量的計算，計算方向是從輸入到輸出的方向。其中隱含層和輸出層包含的神經元節點相關的輸入輸出計算數學表達式[10]如下：

隱含層第m個節點的輸入

(3)

隱含層第m個節點的輸出

(4)

輸出層第k個節點的輸入

(5)

輸出層第k個節點的輸出

(6)

式中，Wmn為在BP網絡學習計算中該隱含層所在的第m個隱含神經元節點與到相鄰輸入層包含的第n個神經元節點連接的權值參數；Wkm為在網絡學習計算中該輸出層所在的第k個輸出神經元節點與到相鄰輸入層所包含的第m個節點連接的權值參數；xn為在BP網絡學習計算中該輸入層所在的第n個神經元節點的輸入；θm為在網絡學習計算中該隱含層第m個神經元節點的閾值參數；αk為在BP網絡學習計算中該輸出層第k個神經元節點的閾值參數；φ為在網絡學習計算中該隱含層選擇的激勵函數。訓練網絡的權值與閾值通過梯度下降反向調整誤差，從輸出到輸入反轉修正隱含層，其中權值的誤差函數為[10]

(7)

訓練學習過程中由選擇的訓練樣本構成一個訓練集，訓練集的樣本數量為T個。式中，Tk為輸出層第k個神經元節點要求的期望輸出，Ok為輸出層包含的第k個神經元節點的實際輸出。通過相關誤差公式計算，反向調整相應權值和閾值，使用的計算數學表達式[10]為

(8)

通過式(7)與式(8)式來計算期望輸出與實際輸出的誤差量，使用誤差梯度下降法反饋調整該輸出層包含的各層神經元的權值與閾值大小，重復訓練直到期望輸出與設定期望值接近。

2 鐵軌傷損識別算法

2.1 改進卷積算法

構建了卷積、BP網絡進行圖像識別，結果分析得出：卷積網絡的識別準確率高但訓練時間過長，BP網絡的識別效果不理想但訓練時間短。設計一種改進的鐵軌傷損圖片識別算法用于鐵軌傷損與非傷損圖片的分類識別。改進后的算法結構如圖2所示。

圖2 改進算法的結構簡圖

2.2 改進算法訓練網絡

改進算法在網絡模型上由卷積神經網絡與BP神經網絡組成，其中設計的卷積神經網絡結構是用于初步提取鐵軌圖像的特征，設計的BP神經網絡結構是用于訓練卷積提取后的低維度鐵軌圖像特征。

改進算法中，對用于特征提取的卷積網絡設計了3層卷積-池化層。每層卷積-池化層中，進行卷積計算的卷積核大小為5×5，卷積的計算步長為1，實現該卷積層卷積功能的激活函數選擇Sigmoid激活函數；池化層通過池化計算來簡化特征量，采用的池化核大小為2×2，池化作用的計算步長為2，池化函數類型選擇max-pooling；最后一層是全連接層，它的作用是將經卷積-池化學習得到的4像素×4像素的圖片轉變為一維向量形式的16個特征。

改進算法中，BP網絡的輸入層節點數為16，是經過卷積神經網絡一次前向運算得到的低維度鐵軌特征圖的特征數。改進算法中BP網絡結構包含的隱含層神經元節點數目選擇，第一層隱含層神經元節點數目為24，第二層隱含層神經元節點數目為8。輸出層的神經元節點數目是2(二分類問題，識別傷損與非傷損圖片)。

3 實驗與結果分析

3.1 實驗對象

鐵軌在其使用過程中，會發生鐵軌面壓潰、壓裂等傷損現象，這會影響和限制著鐵軌的使用性能，即鐵軌的傷損。實驗中鐵軌表面圖片是利用超聲波獲取鐵軌表面狀態信息，經專用軟件處理后而獲得的。經軟件處理后獲取的鐵軌表面圖片包括傷損點、焊接點和磨損點，如圖3所示。

圖3 鐵軌超聲波探測圖

圖片中出現的“X、Y、V、W、八”形狀是傷損部位，需要被識別出來，磨損點和焊接點視為正常部位，不需檢測出來。實驗中，改進卷積神經網絡的輸入鐵軌表面圖片是從圖3中獲取的60像素×60像素的圖片，包括傷損點圖片、焊接點圖片、磨損點圖片如圖4所示。

圖4 鐵軌超聲波探測局部圖

鐵軌表面傷損與否在超聲波圖片里表現為不同的形狀，與色彩無關，為減少圖片里的冗余信息，將其轉換成灰度圖片作為改進算法的輸入數據。其中，傷損圖片組和非傷損圖片組各200張，從兩組中隨機各選取320張圖片用于算法的模型訓練，樣本剩余的80張傷損圖與非傷損圖用于測試已訓練好的模型、分析識別性能。

3.2 改進算法傷損識別分析

由改進算法構建的網絡模型訓練學習中，得到的鐵軌傷損與非傷損圖片識別的訓練誤差曲線和誤差變化率曲線(即error(i+1)-error(i))如圖5所示。實驗中，改進算法的網絡訓練迭代次數為4000次，圖中只畫出網絡訓練初期迭代前3000次的誤差和誤差變化曲線。

由圖5可知，改進算法在鐵軌表面樣圖識別的模型訓練階段，誤差變化大約在第600次迭代時達到最大后慢慢減小。經歷1000次迭代，網絡誤差就已小于0.05，網絡誤差的收斂速度效果好，且網絡的誤差變化較平滑。改進算法測試結果如表1所示。

表1中訓練誤差是指在訓練過程中每次迭代計算得到的期望值與實際值的差值；測試精度是指測試分類效果時正確識別圖片數量與總體數量的百分比。由表1可知改進算法在迭代4000次后訓練誤差達到0.0049，訓練好的模型用于待測數據測試結果精度達到95%，可以達到較好的識別效果。鐵軌傷損圖片識別實驗結果表明，改進卷積神經網絡用于鐵軌探傷圖像的特征提取識別具有可行性，能應用于鐵軌探傷檢測作業。

3.3 改進算法訓練性能比較

用改進算法、BP算法與卷積神經網絡算法在相同學習因子等參數下對320張圖片進行模型訓練。實驗中，BP神經網絡算法建模采用三層網絡結構，第一層由數目為3600個神經元構成的輸入層(像素大小60×60=3600)；第二層由數目為96個神經元構成的隱含層；最后一層由數目為2個神經元構成的輸出層(二分類問題，傷損與非傷損圖片)。卷積網絡在建模中設計三層卷積-池化結構，每個卷積層后連接一個池化層，三層卷積-池化層由相應的卷積層、池化層連接。三層卷積-池化層具有的卷積層的卷積核大小都為5×5，卷積計算步長為1，在每層卷積層后連接實現壓縮簡化特征作用的池化層的池化核大小都為2×2，池化作用計算的步長為1。其中關于卷積層、全連接層中神經元數具體數目選擇，對于第一層卷積層的神經元數目為6，第二、三層卷積層的神經元數目為12，在卷積網絡算法中設計的網絡結構所包含全連接層神經元數目為192，網絡的輸出層神經元數目為2(二分類，傷損與非傷損圖片)。改進算法、BP算法與卷積神經網絡三種神經網絡算法等同學習條件下的的網絡訓練誤差曲線如圖6所示。

圖6 3種算法誤差曲線比較圖

在圖6中包含了3種算法在進行4000次迭代計算后得到的網絡訓練誤差曲線。分析3種神經網絡算法誤差曲線可知，在大概200次迭代前BP網絡訓練變化誤差下降最快；在200～700次迭代中，卷積神經網絡誤差下降最快；大約在經歷750次迭代后，改進算法的訓練誤差先達到最小。3種算法中CNN、BP訓練誤差曲線收斂效果不太理想，改進算法的誤差曲線收斂效果較好，誤差變化較平滑。采用改進算法、BP算法與卷積神經網絡算法在相同學習因子等參數下對相同鐵軌樣本圖片進行訓練與測試，實驗結果如表2所示。

由表2可知，改進算法在圖片識別實驗中測試精度最高，為95.00%，BP算法的測試精度最低，為76.25%，CNN算法居中，為93.75%；改進算法的訓練時間最少，為22.46 s，CNN的訓練時間最多，為1012.87 s，BP算法居中，為307.16 s。此外，BP神經網絡的訓練誤差約為0.0499，而測試精度只有

76.25%，表明BP網絡訓練已過擬合。綜合鐵軌圖片在3種算法下的識別實驗數據分析，可得改進的卷積神經網絡結合BP神經網絡新算法在鐵軌傷損圖片識別中性能最好。

表2 三種算法實驗數據結果

4 結束語

鐵軌表面傷損的快速識別，在鐵路安全運營中意義重大。本文設計的改進卷積神經網絡識別傷損圖像，不僅減少了傳統模式識別中存在的預處理和特征處理工作量，而且提高了卷積神經網絡對鐵軌表面傷損圖片的識別性能。并將該算法與BP算法、卷積算法進行性能比較，通過對訓練時間、測試誤差與測試精度3個方面的比較，得出改進算法在鐵軌探傷識別性能上有較高的識別速率與識別精度。實驗結果表明，基于改進卷積神經網絡算法在鐵軌傷損檢測識別上具有很好的應用前景。