基于改進卷積神經網絡的柴油機故障診斷方法研究

張俊紅， 孫詩躍， 朱小龍， 周啟迪， 戴胡偉， 林杰威

(1. 天津大學 內燃機燃燒學國家重點實驗室，天津 300072；2. 天津大學 仁愛學院，天津 301636)

柴油機作為工業、農業、核電及其他領域的主要動力源，由于其內部結構復雜，工作環境惡劣，容易誘發故障[1]，而振動分析法因其適用范圍廣，信號檢測便捷而被大量應用于柴油機故障診斷當中。傳統基于振動分析的柴油機故障診斷方法主要包含信號處理、特征提取、模式識別3個過程。文獻[2]提出了自適應參數選取的改進集合經驗模態分解信號分解方法并進行了柴油機氣缸磨損診斷。文獻[3]采用自適應可調品質因子小波變換濾波器進行了微弱故障的特征提取。文獻[4]提出了基于人工神經網絡、信念規則推理以及證據推理的集成模式識別算法。傳統故障診斷方法需要對振動信號進行大量前處理，且難以表征被測信號與故障之間的復雜映射關系[5]，特征提取與模式識別部分并不連貫，不利于實現柴油機的在線故障診斷。

近年來，為了解決傳統故障診斷提取的特征對故障敏感性低、模塊不連貫的問題，卷積神經網絡 (convolutional neural network，CNN)因其自適應特征提取能力被廣泛應用于柴油機故障診斷。文獻[6]研究了基于加窗與CNN的柴油機拉缸故障診斷方法。文獻[7]提出了基于一維卷積長短期記憶網絡的柴油機工況識別方法，識別精度達到了99.08%。文獻[8]針對柴油機失火故障提出了基于隨機丟棄與批標準化的深度CNN，取得了較高的準確率。CNN優異的機械故障分類能力是建立在海量訓練樣本基礎之上的，工程實際中可用的故障樣本往往十分有限，此時CNN的訓練常常伴隨著參數量過大、過擬合、收斂速度較慢的問題。

基于此，本文提出了一種基于小批量訓練與全局平均池化的CNN(mini-batch training and global average pooling based convolutional neural network，MGCNN)作為柴油機故障診斷方法，該方法直接將一維振動信號作為輸入，利用兩個卷積模塊自適應提取故障特征，采用全局平均池化(global average pooling，GAP)層進行特征整合，采用指數線性單元(exponential linear units，ELU)作為激活函數及小批量訓練方法加速模型收斂，實現了“端到端”的故障診斷。以柴油機典型故障試驗為例，與未改進的CNN算法、傳統的時頻特征提取方法以及Jiang等和張康等的深度學習模型進行對比，驗證了所提方法的有效性。

1 MGCNN理論

1.1 CNN理論

CNN一般由卷積層、池化層(也稱降采樣)、全連接層以及輸出層構成[9]，其中，卷積層與池化層一般會視具體問題而取若干個來提取樣本的局部特征，激活函數使模型能夠提取非線性特征，這些特征隨著卷積層與池化層的堆疊而從低級轉向高級，之后由全連接層整合這些局部特征，輸出層根據這些特征判定樣本的類別[10]。

1.1.1 卷積層

卷積層由多個特征面組成，特征面由多個神經元組成，而神經元通過卷積核與上一層的輸出相連，其中卷積核等同于一個權值矩陣，一維CNN卷積過程示意圖，如圖1所示。

圖1 一維CNN卷積過程

圖1左側為單個卷積核的卷積過程，卷積核大小為3×1，卷積步長為1。卷積及激活運算過程可以用式(1)表示。

xout,nk=fcov(xin,1h×w1(h)n(k)+xin,1(h+1)×w1(h+1)n(k)+xin,1(h+2)×w1(h+2)n(k)+…+bn)

(1)

式中：xout,nk為卷積層中輸出特征面n第k個神經元的輸出值；xin,mh為其輸入特征面m第h個神經元的輸出值；bn為輸出特征面n的偏置值；fcov(·)為激活函數。

1.1.2 池化層

卷積層的輸出即為池化層的輸入。池化層旨在降低特征的分辨率來獲得具有空間不變性的特征。常見的池化方法有最大池化、平均池化，最大池化是指取局部接受域中值最大的點；平均池化，即取局部接受域中所有值的均值。池化運算過程可以用式(2)表示。

tout,nl=fsub[tin,nq,tin,n(q+1)]

(2)

式中：tout,nl為池化層中第n個輸出特征面第l個神經元的輸出值；tin,nq為池化層中第n個輸入特征面第q個神經元輸入值；fsub(·)為取最大值或者取均值操作。

1.1.3 全連接層與輸出層

在卷積模塊之后，往往會添加一層或多層全連接層，全連接層之后會添加一層輸出層，全連接層和輸出層的每個神經元都與前一層的所有神經元進行全連接，二者的區別在于采用的激活函數以及神經元個數的不同，輸出層的激活函數一般為Softmax，其作用是將分類概率進一步放大，輸出層的神經元個數一般為預測的類別數量。全連接層的神經元個數以及激活函數則需依據具體問題類型人為設定。

1.2 MGCNN介紹

盡管CNN訓練時有批標準化、隨機丟棄等技巧來提高網絡訓練速度，但在處理小規模數據集時依然存在收斂速度較慢、容易過擬合等問題。針對這一問題，提出了基于小批量訓練與全局平均池化的卷積神經網絡MGCNN。

MGCNN的基本結構，如圖2所示。其由兩層卷積模塊組成，每一個卷積模塊又由卷積層、激活層以及最大池化層構成。其輸入為原始一維振動信號，第一個卷積層設置規格為64×1的卷積核，設置卷積步長為4以降低模型對高頻噪聲的敏感性；第二個卷積層設置3×1的卷積核，卷積步長為1以提取更細微的局部特征[11]。全局平均池化層將卷積模塊提取的特征整合。最后由Softmax分類器完成分類。

圖2 MGCNN結構

工程實際中采集到的柴油機故障數據量往往有限，不利于深度學習模型的訓練。因此MGCNN在結構以及訓練方法上均作了改進。

1.2.1 數據增強

根據柴油機工作特點，一個工作循環長度的信號即可反映其工作狀況，所以可在測得的一段振動信號中截取一個工作循環長度的信號作為一個樣本。據此，本文采取了如圖3所示的數據增強方式。

圖3 數據增強方式

通過一個發動機工作循環長度的窗口從信號的一端以一定的步長滑動到另一端，窗口所經過的地方即為篩選出來的樣本。這種增強方式可以增加訓練樣本的數量，使得模型訓練更加穩定，同時又能符合柴油機工作特點，使得模型具有更強的魯棒性。

1.2.2 小批次訓練

在深度學習模型的訓練中，訓練批次大小是一個很重要的超參數，因為批次的統計信息決定了梯度下降的方向，進而決定了模型的收斂速度。小批次訓練可以降低計算機的內存占用，又能使批統計值波動范圍更大，給訓練過程增加隨機性，進而增強模型的泛化性能。訓練批次大小的選擇往往取決于數據規模以及計算機性能。

1.2.3 ELU激活函數

激活操作旨在將卷積的結果進行一次非線性變換從而提高模型的非線性擬合能力。MGCNN所采用的激活函數為ELU[12]，相比線性激活單元(rectified linear unit，ReLU)，ELU存在負值，對輸入變化或噪聲更具魯棒性，可以將激活函數的輸出均值向0推進，起到批標準化效果的同時具有更低的計算復雜程度，從而使模型快速收斂。ELU的定義為

(3)

1.2.4 全局平均池化

常見的全局池化方式有兩種：全局最大池化(global max pooling，GMP)以及全局平均池化(global average pooling，GAP)。本文用到的GAP操作指的是取卷積模塊后每一個特征面的平均值。GAP等于在整個網絡架構上做正則化進而防止全連接層的參數過多導致的過擬合同時又避免了隨機丟棄等正則化方法的超參數引入，通過加強特征面與類別間對應關系賦予每個特征面具體意義[13]。

綜上所述，針對柴油機故障數據集特點，MGCNN采用淺層的網絡提取信號故障特征；采用ELU代替傳統CNN中的激活函數ReLU，起到激活與批標準化的雙重作用同時不用引入多余可訓練參數；采用全局平均池化代替全連接層將可訓練參數個數進一步從40 630降低到2 806；此外，MGCNN采用的小批量訓練方式使其在處理柴油機振動信號這種小樣本數據集時，能擁有較快的收斂速度且進一步提升模型的準確率與穩定性。

2 柴油機故障試驗

試驗對象為某六缸柴油機，通過PCB 356A26型三向加速度傳感器采集缸蓋和缸體振動信號，采用光電轉速傳感器測量上止點信號以對振動信號進行時間定位[14]。為了降低高轉速下噴油量、燃燒爆壓和轉速波動對故障試驗的影響，本次測試在怠速950 r/min下進行。采樣頻率為25 kHz，試驗系統如圖4所示。三向加速度傳感器“1”和加速度傳感器“2”安裝在第六缸缸蓋和缸體上；反光標簽粘貼在飛輪盤與第六缸上止點對應位置，利用光電傳感器“3”檢測柴油機上止點信號。

圖4 試驗裝置及傳感器布置

本試驗模擬的燃油系統故障包括：供油提前角偏大、偏小，失火故障和燃燒不良故障，其中失火故障通過切斷供油實現。配氣機構故障包括：進氣門間隙異常和排氣門間隙異常，氣門間隙異常通過塞卡尺調節氣門螺栓實現，氣門間隙調整方式如圖5所示，正常的進、排氣門間隙為0.25 mm、0.5 mm，其中氣門間隙偏大故障是指比正常間隙大0.1 mm。

圖5 氣門間隙調整方案

試驗還模擬了進氣濾清器阻塞和排氣管阻塞等故障，其中進氣濾清器堵塞通過硬紙板遮擋進氣口實現。故障設置具體如表1所示。實測振動信號的時域波形如圖6所示。

表1 故障類型設置

圖6 部分工況時域波形

3 基于MGCNN的柴油機故障診斷

3.1 MGCNN診斷流程

基于MGCNN的故障診斷流程如圖7所示。主要包括以下3個步驟。

圖7 MGCNN故障診斷流程

步驟1獲取柴油機的原始振動信號，將采集的故障數據以一定的數據增強方式劃分為訓練集、驗證集與測試集。

步驟2用訓練集對MGCNN進行訓練，反復調整模型參數。用驗證集驗證訓練后的模型性能，直到符合停止準則，保存此時訓練好的模型。

步驟3用測試集測試訓練好的模型，得到最終診斷結果。

停止準則指的是達到了一定的訓練代數或者在連續兩代訓練時模型在訓練集上的準確率提升不超過0.001。本文所有診斷結果均為20次試驗測試準確率的平均值。

3.2 數據集劃分

選擇3.1節中的發動機6種工況為診斷對象，最終每種工況下測得長度為94 560的振動信號，選擇窗口規格為3 160×1，滑動步長為500截取試驗樣本，按照8∶1∶1的比例劃分訓練集，驗證集以及測試集，具體情況如表2所示。

表2 數據集劃分

3.3 MGCNN訓練批次選擇

為了驗證訓練批次大小對網絡性能的影響，考慮數據集的規模，選取了從4～128 6種不同批次的訓練方式進行對比，6種模型除了訓練批次設置不同之外，其余參數均相同。試驗平臺為i5-4570，8 GB內存，試驗環境為python3.7.4，后端為tensorflow2.0，取30代訓練后模型在測試集上的表現，最終結果如圖8所示。

圖8 不同訓練批次模型性能表現

當訓練批次過小時，樣本之間的差異性導致批次的統計特征變化范圍很大，使得梯度下降的方向不穩定，所以診斷準確率波動幅度也很大，又因為過小的訓練批次會增加計算機運算次數，其訓練時間相對較長。相反，當訓練批次過大時，由于訓練集規模的限制，其梯度下降次數過少，不容易找到全局最優解，而且此時考慮的是大規模樣本的統計特征，并不能準確地代表訓練集的梯度更新方向。當訓練批次大小為8時，模型訓練時間相對較長，但其準確率與穩定性均最高，故MGCNN模型最終確定的訓練批次大小為8。

3.4 MGCNN先進性驗證

為了驗證所提方法的先進性，用多列卷積神經網絡(multi-column convolutional neural network，MCNN)(全連接層代替全局平均池化層)以及MGCNN(ReLU)算法(ReLU作為激活函數替代ELU)作為對照，兩種方法的其余參數均保持一致。亦用Jiang等研究中的1D-CLSTM(one-dimensionalconvolutional long short-term network)以及張康等研究中的DBDCNN模型作為對比，取30代訓練后模型在測試集上的準確率。各算法的表現如圖9所示。

圖9 不同模型的平均性能對比

5種深度學習模型中，MCNN全連接層的每個神經元都與前一層的所有神經元相連接，增大了模型參數量進而產生了過擬合現象。DBDCNN的模型復雜度過高，雖然采用了隨機丟棄與批歸一化方法來降低過擬合，但其5層卷積網絡以及3層全連接層的總可訓練參數量達到了將近10萬，降低了收斂速度，模型穩定性也有所下降。1D-CLSTM方法增加了長短期記憶網絡單元(long short-term memory， LSTM)來提取信號的時序相關性特征，相比前兩種方法這些特征對柴油機故障敏感性更高，但LSTM的缺陷在于其參數量過大，訓練時間過長，收斂速度慢，而且準確率波動也較大。用ReLU替代ELU作為激活函數時，算法的準確率與運算時間均稍有下降。MGCNN模型的可訓練參數僅為2 806個，模型體積最小，在保證良好的擬合性能的同時極大地縮短了訓練時長，模型穩定性也最高，對硬件算力的要求更低，因此也更適用于柴油機在線故障診斷系統的研發開發。

3.5 MGCNN學習過程可視化

為了更加清晰地展示MGCNN的訓練過程，導出1～200代訓練時MGCNN模型在驗證集上的準確率并用MGCNN(ReLU)、DBDCNN、1D-CLSTM算法作為對照，4種方法的具體準確率波動如圖10所示。其中MGCNN方法可以快速收斂，前30代訓練在驗證集上的準確率已經達到了100%且穩定性最高；MGCNN(ReLU)也能做到快速收斂，但訓練過程中其準確率波動較大；而DBDCNN與1D-CLSTM方法收斂速度均較慢且更加不穩定。

圖10 前200代訓練模型在驗證集的準確率

為了更加直觀地展示MGCNN特征提取到最終模式識別的過程，用T-SNE算法將訓練好的MGCNN模型特定層的數據維度降至二維。MGCNN的特征提取及分類過程如圖11所示。

圖11 MGCNN特征提取及分類過程

可以發現，數據通過第一個卷積模塊的最大池化層后，由起始的雜亂無章的排列到有了小規模的聚類。通過第二層卷積以及池化，相同工況的數據開始了更大規模的聚集，網絡開始學習到各種模式特有的內蘊流形分布。全局平均池化層綜合32個特征圖的信息，基本完成各種故障模式分類，此時各工況樣本已無交疊。最后由多分類函數進一步放大分類效果，通過擴大不同模式數據的空間距離完成最終識別。

3.6 不同特征提取方法對比

為了檢驗所提出方法自適應特征提取的有效性，選用11種時域特征(time domain features，T_features)，12種頻域特征(frequency domain features，F_features)，以及總共23種特征(ALL_features)作為對比[15]，幾種算法僅特征提取部分存在區別。不同方法平均診斷性能的對比，如圖12所示。

頻域特征組診斷準確率最低。單獨提取時域特征做診斷能達到將近90%的準確率，準確率的波動也較F_features組下降很多。ALL_features組診斷準確率只有81.525%，這說明這些人工提取的時域、頻域特征之間存在著一定量的信息冗余，進而導致準確率以及穩定性下降。最后本文所提出的MGCNN模型在20次試驗中有10次在測試集的準確率達到了100%，20次診斷的平均準確率達到了99.18%，其自適應提取的特征故障敏感性更高且準確率波動最小。

MGCNN方法與T_F方法對所有樣本分類的具體情況，如圖13、圖14所示。A1～A6分別代表正常、進氣門間隙偏大、排氣門間隙偏大、進氣濾清器堵塞、第五缸失火、第六缸失火。

圖13 T_features的預測混淆矩陣

圖14 MGCNN的預測混淆矩陣

從具體分類情況看，時域特征對失火故障以及正常工況敏感性較強，但不足以準確區分配氣機構故障。而MGCNN模型能夠更加精確地識別6種發動機工況，其診斷準確率均保持在97%以上。

3.7 不同規模數據集模型適用性對比

為了檢驗所提方法對小樣本數據集的識別效果，減小數據增強程度，以500為單位長度增大滑動步長，分別取6種不同規模的數據集，各增強方式及所得樣本數量如表3所示。各算法在不同規模數據集上的測試結果，如圖15所示。

表3 不同數據增強方式及樣本量

圖15 各模型在不同規模數據集上診斷效果

隨著樣本數量的減小，各種方法精確度均出現不同程度的下降，說明各模型尤其深度學習方法的訓練需要大量樣本的支持。其中MCNN方法診斷精度最低且受數據規模影響最大，全連接層不能有效地整合卷積層特征而產生過擬合現象，在處理小規模數據集時此弊端更加明顯；1D-CLSTM與DBDCNN算法亦均存在過擬合現象且其收斂速度均過慢，不適合作為柴油機診斷系統的內置算法；而T_features模型則存在欠擬合現象，由于人為設定的特征故障敏感性較差且具有一定程度的信息冗余，其在訓練集、驗證集上的準確率均較低；MGCNN(ReLU)算法適用于小樣本故障診斷，但其精度與穩定性較MGCNN均有降低；隨著樣本量減少，MGCNN算法的準確率最穩定，當訓練集樣本量僅為150時，其在測試集上仍能取得大于94%的診斷精度，因此也更適用于實際工程應用中的柴油機故障診斷系統開發。

4 結 論

針對傳統方法提取的柴油機故障特征敏感性差、現有基于CNN的故障診斷算法收斂速度慢且易于過擬合、不適用于小樣本數據集等問題，本文提出了一種 “端到端”的柴油機故障診斷方法MGCNN。

(1) 模型采用小批量訓練及ELU激活函數提高了擬合效果，加快了收斂速度，采用全局平均池化代替全連接層減少了模型參數，避免了過擬合現象。MGCNN的平均診斷精度達到了99.18%。

(2) 與時/頻域特征的對比證明了提出的MGCNN具備自適應特征提取能力；在縮減數據集規模后，與未改進算法、時域特征算法、DBDCNN以及1D-CLSTM模型進行對比，證明了MGCNN處理小樣本數據集的優勢。

(3) MGCNN具有模型體積小、收斂速度快、診斷精度與穩定性高、可處理小樣本數據集等優點，對實現深度學習在柴油機狀態監測上的工程應用，提升工業裝備可靠性與安全性有重要意義。