基于多重注意力卷積神經網絡雙向門控循環單元的機械故障診斷方法研究

程建剛，畢鳳榮，張立鵬，李 鑫，楊 曉，湯代杰

(1.天津大學 內燃機燃燒學國家重點實驗室,天津 300072；2.天津內燃機研究所，天津 300072)

0 概述

基于振動信號分析的機械故障診斷方法由于測量簡單、維修方便、成本低廉等特點成為了研究熱點。傳統基于信號處理的故障診斷方法通常包括振動信號獲取、人工特征提取和模式識別3步。其中人工特征提取過程需要借鑒豐富的專家經驗知識，受人為因素干擾大，導致診斷結果不確定性高[1-3]。因此，不少學者將注意力轉到基于深度學習的端到端的故障診斷研究。端到端的故障診斷方法期望以原始時域數據作為模型輸入，通過對歷史數據進行學習便可建立輸入-輸出映射關系，盡量降低人工干預程度。

基于振動信號處理的故障診斷技術的研究對象為一維時域信號，對于故障特征提取較為困難。近年來，卷積神經網絡(convolutional neural networks, CNN)在圖像識別[4-6]、自然語言處理[7-8]、醫學[9]等領域取得了巨大成功。CNN采用多層卷積的方式提取特征，其成功經典模型如LeNet-5[10]、AlexNet[11]、GoogleNet[12]和ResNet[13]等，證明其在挖掘數據的深層特征表示方面具有獨特優勢。振動信號為前后關聯的序列數據，其序列順序信息是重要的數據特征，但是CNN并未考慮輸入序列的順序信息。循環神經網絡(recurrent neural networks, RNN)采用循環連接的方式，可以挖掘序列數據前后位置間聯系，但是原始RNN存在梯度消失問題。門控循環單元(gated recurrent unit, GRU)是RNN的一種變體，其采用“門”結構的形式可以在一定程度上解決RNN的梯度消失問題。但是，隨著輸入數據鏈的不斷加長，模型的應用效果也將逐漸下降。

注意力機制在圖像識別、自然語言處理等任務中應用廣泛。如文獻[14]中通過在CNN的空間維度和通道維度建立聯系，提出了應用于CNN的卷積注意力模塊(convolutional block attention module, CBAM)，并且在圖像處理任務中驗證了該方法的有效性。針對序列學習任務，文獻[8]中在雙向LSTM的隱藏狀態輸出向量中分配注意力權值來提取關鍵信息，完成了關系分類任務。文獻[15]中在著名的Transformer模型中采用層層疊加的自注意力機制完成了文本表示。上述研究表明，注意力機制的引入可以加強模型對于重要信息的提取能力。

傳統故障診斷方法需要人工提取特征，導致識別結果不確定性高。面對機械故障診斷任務，CNN無法高效利用時序振動信號數據中的序列順序信息，RNN及其變體對于過長序列數據處理極為困難。為解決上述問題，本文中設計了一套基于多重注意力-卷積神經網絡-雙向門控循環單元(multiple attention-convolutional neural networks-bidirection-al gated recurrent unit, MA-CNN-BiGRU)的端到端的故障診斷系統。其采用CNN與雙向門控循環單元(bidirectional gated recurrent unit, BiGRU)聯合網絡，有效地解決了BiGRU處理過長序列數據困難的問題。同時，在CNN網絡部分引入CBAM，在BiGRU網絡引入序列注意力模塊[8](sequence attention module, SAM)，多重注意力機制的引入提高了模型對于關鍵信息的提取能力。整個系統實現了端到端的故障診斷，有效地解決了傳統故障診斷方法識別結果不確定性高的問題。

1 基本原理

1.1 卷積神經網絡

卷積神經網絡是在計算機視覺領域應用最廣泛的深度學習算法之一，主要由輸入層、卷積層、池化層、全連接層和輸出層組成。卷積層和池化層交替堆疊出現，分別實現特征提取和特征降維功能[10]。

為充分學習輸入信息特征，卷積層中一般有多個卷積核，每個卷積核與上一層網絡間采用局部連接的方式遍歷整個特征圖，每個卷積核在卷積過程中共享一組權值。卷積的具體過程如式(1)所示。

(1)

本文模型采用ReLU函數[16]，其表達式如式(2)所示。

f(x)=max(0,x)

(2)

式中，x為激活函數輸入。

為了降低模型處理的數據量，常在卷積層后使用池化層進行二次特征提取，通常有平均池化和最大池化兩種方式。為充分捕捉振動信號中沖擊信息特征，濾除部分噪聲，本文中采用最大池化操作，表達式如式(3)所示。

(3)

1.2 門控循環單元

GRU將LSTM中的輸入門和遺忘門合并成一個更新門，同時還混合了細胞狀態和隱藏狀態。GRU主要包括重置門rt和更新門zt(t表示當前時刻)。rt和zt均接受當前時刻輸入xt和上一時刻隱藏層狀態ht-1作為輸入，對應的權值分別為Wr和Wz，其完整結構如式(4)～式(7)所示。

rt=σ[Wr(ht-1,xt)]

(4)

zt=σ[Wz(ht-1,xt)]

(5)

(6)

(7)

1.3 注意力機制

1.3.1 CBAM原理

CBAM包括通道注意力模塊和空間注意力模塊。其中，通道注意力捕捉特征圖F(F∈RC×H×W,C、H、W分別為特征圖的通道數、特征圖的高和特征圖的寬)各通道之間的聯系，空間注意力則捕捉特征圖上各空間區域之間的聯系。如圖1所示，特征圖1為卷積輸出，特征圖2為添加通道注意力后輸出結果，各通道不同顏色表示分配不同通道注意力權值。特征圖3為添加空間注意力模塊后輸出結果，特征圖上不同顏色色塊表示分配不同空間注意力權值，具體過程如式(8)和式(9)所示。

圖1 CBAM結構

F′=MC(F)?F

(8)

F″=MS(F′)?F′

(9)

式中，?表示矩陣點乘運算；MC(·)為通道注意力模塊，MC(·)∈RC×1×1；MS(·)為空間注意力模塊，MS(·)∈R1×H×W；F′為通道注意力模塊輸出結果；F″為CBAM輸出結果。

(10)

(11)

式中，Conv為核尺寸為7×1的卷積操作。

1.3.2 SAM原理

GRU處理序列數據的過程與人類大腦閱讀信息過程相似。GRU通過更新門會選擇遺忘部分過去信息，該過程可以保留輸入數據的部分關鍵信息。但是，研究表明輸入序列越長，模型對于前半部分輸入信息便遺忘的越多。應對過長序列數據學習任務，GRU將難以保留全部關鍵信息[17]。因此，本文在BiGRU中加入SAM，對各個時間步的隱藏輸出分配一個權重系數S=[s1,s2,s3…sL](L為序列長度)，使最終的輸出結果不再單純依賴最后隱藏狀態輸出hL，而是根據權重系數，有效地利用每一個節點的輸出H=[h1,h2,h3,…,hL]，作為最終的輸出結果。SAM模塊的引入，有效地解決了BiGRU無法保留全部關鍵信息的問題。SAM原理如式(12)～式(14)所示。

H′=tanh(H)

(12)

S=softmax(αTH′)

(13)

y=tanh(HST)

(14)

式中，softmax(·)為歸一化指數函數；α為可學習參數，采用隨機初始化方式給點初始值，通過反向梯度下降算法計算；y為最終輸出結果。

2 基于MA-CNN-BiGRU的故障診斷方法

在基于原始時域振動信號的機械故障診斷問題中，由于樣本序列長度過長的原因，導致無法采用循環神經網絡直接處理。為解決該問題，本文中采用CNN和BiGRU聯合網絡進行處理。圖2為基于MA-CNN-BiGRU的故障診斷模型，原始時域振動數據經CNN的卷積操作之后得到通道數為d的特征圖1，然后將特征圖1輸入CBAM后得到d通道特征圖2。為了盡可能保留原始序列信息，將CNN輸出結果做重組處理，將各通道特征圖中位置i處結果整合成BiGRU第i個時間節點輸入向量Yi。

圖2 基于MA-CNN-BiGRU的故障診斷模型

Yi=[yi,1,yi,2…yi,d-1,yi,d],yi,d∈R1×d

(15)

式中，d為卷積輸出特征通道數。

通過改變卷積核的數目d便可以改變輸入BiGRU模型數據的維度。同時，通過設置CNN中的卷積步長及池化步長便可以控制輸出序列的長度，實現在不丟失數據重要信息的前提下控制輸入BiGRU序列的長度。

進一步地，在聯合模型中的CNN網絡部分中引入CBAM，通過對多通道輸入數據之間分配通道注意力權值，可以更好地考慮各通道之間的差異。對各空間區域分配注意力空間注意力權值，建立各空間區域之間的聯系，提升CNN提取關鍵信息的能力。在BiGRU中引入SAM，使BiGRU的最終結果綜合各個時間節點的輸出，更好地保留了長序列數據的全局信息。

(16)

3 模型訓練與試驗驗證

3.1 美國凱斯西儲大學軸承數據集驗證

3.1.1 數據準備

美國凱斯西儲大學軸承數據集是機械故障診斷領域常用的數據集。該試驗在電機驅動端，風扇端處的軸承的內圈，滾動球及外圈(3點鐘、6點鐘、12點鐘方向)位置，采用電火花加工的方式布置單點故障，故障損傷直徑分別為0.018、0.036、0.054和0.072 cm。分別在電機驅動端、風扇端和軸承座位置采集數據，采樣頻率為12 kHz。其中驅動端處軸承故障還包含采樣頻率為48 kHz的數據。試驗工況包括1 797、1 772、1 750、1 730 r/min這4種轉速。

文獻[18]中研究表明：美國凱斯西儲大學軸承數據集中部分類別數據之間的特征差異過于明顯，即使采用最簡單的方法也能識別其故障類型，不適用于新算法的測試。本文中依據文獻[18]中的研究結論，挑選診斷難度更大的7類數據對本文提出的模型進行測試。表1為軸承數據集的具體參數，分析時，選取采樣頻率為48 kHz、負載1.47 kW的電機驅動端軸承故障數據。對于訓練數據，采用重疊采樣的方法進行數據增強，重疊率為50%，測試數據采用無重疊的方式截取。分析數據工況對應轉速為1 750 r/min，采樣頻率為48 kHz，軸承每轉一圈采樣點數為1 646。將樣本長度設為1 680，保證每個樣本都包含一個完整的周期。最終，每類數據包括376個訓練樣本和100個測試樣本。

表1 軸承數據集

3.1.2 CNN模型分析

本文模型中CNN部分主要完成樣本長度約減和初步特征提取工作。BiGRU中時間節點數量與樣本長度約減比例和卷積層數直接相關，因此樣本長度約減比例和卷積層數的確定對于最終模型的診斷精度及運算速度至關重要。

將時域信號直接輸入圖2所示模型，以交叉損失熵為目標函數，通過反向傳播訓練每一層網絡參數，每次訓練輸入256個樣本。設置約減比例分別為1/2、1/4、1/8和1/16，各約減比例和卷積層數對應的最終測試準確率及測試100個樣本用時對比如表2所示。本文中模型建立在基于Python的PyTorch深度學習庫中，訓練和測試的硬件環境為Intel i7-9750H。

表2 約減比例及卷積層數對比分析

由表2可以看出，當樣本長度約減比例為1/16時，采用3層卷積網絡和4層卷積網絡都無法完成診斷任務。這是樣本長度約減比例過大導致丟失了大量重要信息，另外卷積層數過多導致原始時序信息被多次提取后丟失嚴重造成的。當樣本約減比例為1/8，卷積層數為3時，模型依舊無法完成診斷任務，這依然是由于卷積層數過多導致樣本序列信息丟失嚴重導致的。當長度約減比例設置為1/8，使用兩層卷積網絡時(第一層卷積步長為1，池化步長為2；第二層卷積步長為2，池化步長為2)，模型測試準確率達到97.57%，測試100個樣本用時11.45 s。當樣本長度約減比例為1/4和1/2時，雖然模型測試準確率高于97.57%，但是對應的測試100個樣本用時分別約為22 s和45 s(方案5、6、7中模型無法完成診斷任務，故不計算測試用時)。

由表2數據也可以看出，模型運行速度主要與輸入BiGRU數據長度有關，模型的計算時間與BiGRU時間節點數呈正相關關系。這也是循環神經網絡對于過長序列數據處理困難的主要原因。綜合考慮測試準確率和測試用時兩個指標，本文中選用兩層卷積網絡結構，將樣本約減比例設置為1/8，MA-CNN-BiGRU結構與參數如表3所示。

表3 MA-CNN-BiGRU模型參數

3.1.3 注意力機制驗證分析

為證明本文方法中注意力機制引入的優越性，將上述軸承故障診斷任務用于由CNN與BiGRU組合的CNN-BiGRU、在CNN-BiGRU中CNN部分添加CBAM的CNN(CBAM)-BiGRU、在CNN-BiGRU中BiGRU部分添加SAM的CNN-BiGRU(SAM)，對比各模型測試準確率及測試100個樣本用時，如表4所示。

表4 注意力機制驗證分析

從表4可知，單獨引入卷積注意力機制和序列注意力機制以后，CNN(CBAM)-BiGRU和CNN-BiGRU(SAM)測試準確率分別提高了6.43%和7.28%，而100個樣本測試用時只增加了0.13 s和0.23 s。本文中提出的模型，即在CNN-BiGRU模型上同時加上CBAM和SAM，達到了最高的測試準確率(97.57%)，在準確率提高8.71%的情況下，100個樣本測試用時增加0.33 s是可以接受的。

本文模型測試準確率的大幅提高主要得益于卷積注意力機制及序列注意力機制的引入。其中CBAM通過在CNN中各通道和各空間區域分配注意力權值，對于輸入信號中諸如脈沖信號特征等重要信息給予重點關注，同時卷積注意力權值的引入通過自學習分配更小的注意力權值也能忽略信號中低頻噪聲等無關信息帶來的影響。本文模型中，雖然原始時域信號長度經過CNN后得到大幅縮減，但是BiGRU依舊需要很長的時間節點來接受數據輸入。在模型訓練過程中，BiGRU對于越早輸入的信息遺忘越多，導致最終識別精度不高。但本文模型引入SAM以后，通過對各個時間節點輸出分配不同的權值，便可以有效地解決長數據樣本處理困難的問題，進一步提升診斷準確率。CNN-BiGRU聯合模型的采用及注意力機制的引入，使得本文模型可以很好地處理機械故障診斷任務中過長序列信號，同時實現端到端的故障診斷。

最終試驗結果表明，通過在CNN-BiGRU中引入了注意力機制之后，可以大幅提升模型的診斷精度，同時增加的計算成本也是可接受的。

3.2 柴油機故障數據集驗證

3.2.1 柴油機故障模擬試驗及數據準備

為進一步驗證本文提出方法的有效性，采用實測柴油機振動信號進行分析。柴油機故障模擬試驗在一臺某型直列6缸柴油機上進行，采集柴油機的缸蓋振動加速度信號，傳感器布置在1缸～6缸的缸蓋上，試驗柴油機及其臺架現場如圖3所示。

圖3 試驗用柴油機

試驗主要模擬氣門間隙異常、噴油軌壓異常及供油量不足3種故障類型，并且對其中每一類故障發生的不同程度進行了模擬，得到8分類故障數據集，對應樣本標簽0～7，柴油機故障數據集介紹如表5所示。

表5 模擬故障表

采樣頻率為25.6 kHz，分析數據對應柴油機轉速為2 000 r/min，柴油機每個工作周期采樣點數為1 536，于是本文中將樣本長度設為1 600，保證每個樣本內包含一個完整工作周期。同樣按照前文中數據截取方法進行數據處理，獲得各狀態數據520個訓練樣本和120個測試樣本。

3.2.2 模型訓練驗證及可視化分析

針對3種故障類型多種故障程度的柴油機故障診斷問題，本模型訓練過程如圖4所示，圖中交叉損失熵值越小，表明模型診斷效果越好。訓練次數達到200次后，模型收斂，此時訓練準確率為99.96%，測試準確率達到96.63%。

圖4 模型訓練過程

為進一步驗證模型對于原始時域信號的特征提取能力，本文中采用t-SNE算法進行降維可視化分析。將原始數據及模型輸出數據降維到2維，分別用t-SNE1和t-SNE2表示，結果如圖5和圖6所示。

圖5 原始數據特征分布可視化

圖6 模型輸出數據特征分布可視化

從圖5可以看出，原始數據中各類數據混疊在一起，可分性非常差。從圖6中可以發現，經過模型自適應學習、處理之后，模型輸出數據的聚類程度已經非常明顯，足以用于區分故障類型。可視化分析結果表明，本文模型可以基于原始時域信號，通過自適應學習提取出具有明顯差異的信號特征。

3.2.3 對比驗證

為進一步證明本文模型的優越性，將本文模型與一維CNN、變分模態分解(variational mode decomposition，VMD)[19]-核模糊C-均值聚類算法(kernel fuzzy C-means clustering, KFCM)及VMD-反向傳播神經網絡(back propagation neural network, BPNN)進行對比。經過試驗確定CNN采用4層卷積層和4層池化層交替堆疊的結構。

VMD算法具有較快的計算效率、良好的去噪效果及對于傳統算法的模態混疊問題有較大的改善等優點，被廣泛用于信號處理領域。在VMD-KFCM和VMD-BPNN模型中，將采用VMD算法對原始時域信號進行分解處理并提取特征。選取VMD分解層數K=6，計算6個分量奇異值及脈沖因子，選取最大的3個奇異值特征及3個脈沖特征、6個分量迭代收斂的中心頻率共12維特征，采用KFCM和4層BP神經網絡進行分類。分別就供油量不足、軌壓異常、氣門間隙異常多類故障的不同故障程度進行診斷，最終各模型測試準確率對比如表6所示。

表6 各模型測試準確率對比

在VMD-KFCM和VMD-BPNN的故障診斷方法中，均需要人工提取特征，過程較為繁瑣，且測試準確率嚴重依賴提取特征質量，導致最終準確率并不高。可以發現，應對3種類型多種程度的故障共8分類診斷任務時，傳統故障診斷方法分類準確率會大幅下降，這是由于不同數據特征對不同類型故障的敏感程度不同，導致其對多類型多程度的復雜故障診斷任務識別率較低。

一維CNN雖然實現了端到端的故障診斷，但是由于CNN無法充分考慮振動信號的序列信息，導致其最終測試準確率也較低。本文中提出的基于MA-CNN-BiGRU方法，應對3種類型不同程度的復雜故障診斷任務時依舊能達到96.63%的測試準確率。該方法通過模型自學習提取特征并識別，實現端到端的故障診斷，有效地解決傳統故障診斷方法依賴豐富的專家經驗選取特征、過程繁瑣及對復雜診斷任務識別準確率較低等問題。

4 結論

(1)確定了MA-CNN-BiGRU的最佳卷積網絡層數為2，最佳樣本長度約減比例為1/8，實現了在不丟失序列數據關鍵信息的前提下，可自由控制輸入BiGRU序列的長度。

(2)通過引入注意力機制，面對8分類柴油機故障能夠達到96.63%的識別準確率。