軸承變工況故障的深度學習網絡診斷研究

陳月鳳

（山東職業學院，山東 濟南 250104）

1 引言

隨著旋轉機械的集成度和復雜度越來越高，滾動軸承作為基礎部件，其運行狀態受到了極大挑戰和關注。在復雜多變的運行狀態下，軸承極易發生損壞，輕則影響生產進程，重則引起裝備損壞、人員傷亡等災難性事故[1]，因此研究軸承故障監測技術具有現實意義和工程價值。

隨著監測設備數量增加和采樣頻率提高，軸承故障狀態監測進入“大數據”時代，監測數據與人工智能相結合的故障診斷技術成為研究熱點。仔細劃分，故障智能診斷技術可分為傳統智能方法和深度學習智能方法。傳統智能診斷方法分為信息采集、特征提取、識別分類等3個經典步奏[2]，開始出現的故障特征為時域信號和頻域信號，但是在變工況條件下時域特征和頻域特征不具有穩定性，此時出現了模態分解[3]、小波分解[4]等時頻域特征分析方法。智能識別過程本質上是模式識別，包括隨機森林[5]、支持向量機[6]、隱形馬爾科夫模型[7]等。傳統智能診斷方法將特征提取與模式識別完全割裂開，且故障特征提取過于依賴先驗知識和專家經驗，因此出現了深度學習智能診斷方法。深度學習可以從多模態數據中自動提取潛在故障特征，傳統時域、頻域、時頻域特征量均具有明確的物理含義，而深度學習提取的特征量一般沒有具有的物理含義，是更加泛化意義的特征量。而且深度學習將故障提取與模式識別融合為一體，實現輸入信號到故障診斷一體化、融合性診斷。文獻[8]對DBN算法進行了兩點改進，一是使用梯度下降法微調權重參數，二是使用粒子群算法對DBN結構進行優化，提高了故障識別正確率和魯棒性。文獻[9]將去噪編碼融入到深度神經網絡中，實現了非監督的特征提取，該方法分類效果好，且魯棒性較強。總的來講，深度學習智能診斷技術研究還不夠深入，面臨解決的問題較多，比如深度學習網絡的優化、大量樣本要求、無監督樣本情況下診斷等。

研究了軸承變工況下的故障診斷問題，將注意力機制融入到卷積神經網絡中，幫助卷積神經網絡挖掘隱藏在輸入信息中的深層敏感特征，達到提高變工況下軸承故障診斷準確率的目的。

2 卷積神經網絡模型

2.1 卷積神經網絡

卷積神經網絡的自適應拓撲結構允許輸入任意維度的數據，實現了端到端自動學習，無需專家經驗和先驗知識提取特征，能夠深度挖掘隱藏在原始數據中的故障特征。卷積神經網絡由卷積層、激活層、批量歸一化層、池化層和全連接層組成[10]。

2.1.1 卷積層

2.1.2 激活層

激活層的作用是獲得輸入信號的非線性表達，增強信號的表達能力和學習特征的可分性。常用的激活函數包括sigmoid 函數、tanh函數、線性整流ReLU函數，其中sigmoid函數和tanh函數在反向傳播時存在梯度消失問題、正向傳播時存在冪函數運算問題，因此使用線性整流ReLU函數作為激活函數，其表達式為：

式中：y(k)—批量歸一化層的輸出特征

2.1.4 池化層

池化層是為了提取重要的特征信息，達到降低特征維度的目的。常見池化方式分為平均池化和最大池化，使用最大池化方式，最大池化方式可以獲得與位置無關的特征，對于軸承周期性振動信號極為適用。

2.1.5 全連接層

全連接層一般與softmax 函數結合作為分類器或識別器使用。分為三個步驟執行：（1）將最后一級池化層的輸出平鋪，作為全連接層輸入；（2）輸入與輸出之間使用多層隱含層連接，隱含層神經元使用ReLU作為激勵函數；（3）使用softmax函數將隱含層輸出進行概率歸一化，作為輸出層輸出。

將平鋪得到的特征向量輸入到全連接層，得到輸出為：

式中：H—全連接層輸出數據數量。

使用卷積層、激活層、批量歸一化層、池化層和全連接層組成卷積神經網絡，一維卷積神經網絡框架，如圖1所示。

圖1 一維卷積神經網絡框架Fig.1 Frame of One?Dimensional Convolutional Neural Network

2.2 基于Adam的參數優化

進行參數優化，首先要建立損失函數。交叉熵可以描述兩個概率分布之間的距離，距離越大表明概率分布相差越大，距離越小表明概率分布差別越小。選擇交叉熵作為損失函數，用于描述實際輸出與期望輸出間的差異性，為：

式中：M—小批量（mini?batch）的規模；j—序列編號；ym(j)—實際輸出；y′m(j)—期望輸出。

損失函數對各層參數的反向求導過程繁瑣，可參考文獻［11］推導過程，這里不再贅述。深度卷積神經網絡的參數和超參數較

式中：ε—學習步長，δ=10?8—數值穩定常數。

其他層的參數優化方法與全連接層完全一致，按照從最后層逐次向前一層優化的順序，直至損失函數滿足要求，完成參數優化。

3 融合注意力機制的卷積神經網絡

注意力機制通過注意力權值的方式，使卷積神經網絡更加專注于與輸出有關的有用信息，從眾多特征中選擇對當前任務更敏感的深層特征。

3.1 注意力機制

注意力機制（Attention Mechanism，ATTM）的實現方式為：根據卷積層學習到的特征映射Zj重要性計算其注意力權值aj，使用注意力權值aj對Zj加權后得到加權特征Zj′，將Zj′作為卷積神經網絡下一層輸入。注意力機制分為特征聚合、權重生成、權重分配三個步驟實現。

3.1.1 特征聚合

特征映射是指對卷積層學習到的特征映射進行聚合，將一個特征映射聚合為一個特征量，所有特征映射聚合為一個特征向量，此特征向量具有全局感受野，聚合方法為：

式中：K1—第一層全連接層權值向量；K2—第二層全連接層權值向量；c?j—第一層全連接層輸出；aj—權值向量。

3.1.3 權重分配

權重分配是指將注意力權值aj與各自特征映射Zj匹配相乘，得到加權新特征Zj′，如此實現了對特征的“主次之分”，即：

總的來講，注意力機制通過不同特征通道重要程度為其賦不同權值，使神經網絡更加關注重要特征而抑制次要特征。這是一種特征重標定方法，而不是將其映射至其他空間。根據以上3個步驟，得到注意力機制的結構示意圖，如同2所示。

圖2 注意力機制結構示意圖Fig.2 Structure of Attention Mechanism

3.2 融合注意力機制的卷積神經網絡結構

將注意力機制融合到卷積神經網絡中，幫助卷積神經網絡提取隱含的高敏感特征信息。融合注意力機制的卷積神經網絡結構，如圖3所示。

圖3 融合注意力機制的卷積神經網絡Fig.3 Convolutional Neutral Network Incorporating Attention Mechanism

由圖3 可以看出，設計的融合注意力機制的卷積神經網絡（Convolutional Neutral Network Incorporating Attention Mecha?nism，ATTM?CNN）由若干個特征提取層和全連接層組成，特征提取層之間是空間映射和特征提取不斷深化的過程，信息在特征提取層之間傳遞是不斷挖掘隱藏高敏感特征的過程。全連接層為故障識別與分類層，輸出屬于各類故障的概率。注意力機制鑲嵌在特征提取層內，使神經網絡更加關注敏感特征和有用信息，減少對無用信息的注意力，達到提取隱藏在輸入信息中高敏感特征的目的。

在此需要強調的是，注意力機制中包含的參數K1、K2也參與反向優化過程，優化方法與優化過程同前文一致。

3.3 基于ATTM-CNN的診斷流程

針對滾動軸承故障診斷問題，提出了融合注意力機制的卷積神經網絡診斷方法，此方法具有以下3點突破和改進：（1）突破了傳統智能診斷方法對故障特征提取和模式識別分別設計的思路，實現了信號輸入到故障識別端到端的診斷方法；（2）突破了傳統的時域、頻域、時頻域特征，從輸入信息中挖掘不具有物理意義的多樣性特征，使故障特征更加具有普遍意義、更加多樣性；（3）將注意力機制與卷積神經網絡相結合，使神經網絡更加關注敏感特征和有用信息。基于ATTM?CNN的滾動軸承故障診斷方法包括數據獲取、訓練階段和診斷階段三個部分。數據獲取：根據實驗目的設計試驗方案，獲取軸承不同狀態下的振動信號，對振動信號進行增強獲得樣本數據。訓練階段：訓練階段的主要任務是使用Adam 算法獲得最優網絡參數。首先初始化卷積神經網絡參數，使用信息的前向傳遞逐層進行計算，獲得輸出值。依據損失函數計算期望輸出與實際輸出距離，通過誤差反向傳遞使用Ad?am算法對網絡權值進行優化，直至滿足誤差要求。測試階段：使用訓練完畢的ATTM?CNN算法對測試樣本進行故障診斷，測試ATTM?CNN算法的診斷準確率和泛化能力。

4 軸承變工況故障診斷

4.1 數據獲取及數據增強

以美國凱斯西儲大學提供的軸承試驗數據為研究對象，在軸承試驗中對兩種軸承SKF6205 和SKF6203 進行了試驗，分別安裝在驅動端和風扇端本文以SKF6205型號軸承數據為研究對象，采樣頻率為48kHz，負載分為0、1hp、2hp、3hp等4種負載。根據故障位置和故障尺寸軸承狀態區分為10 類，分別為健康狀態（N）、內環7mils故障（IR07）、內環14mils故障（IR14）、內環21mils故障（IR21）、外環7mils故障（OR07）、外環14mils故障（OR14）、外環21mils故障（OR21）、滾動體7mils故障（B07）、滾動體14mils故障（B14）、滾動體21mils 故障（B21）。不同載荷下的相同故障類型和尺寸視為一類狀態。

數據增強是指從有限的試驗數據中通過變換獲得新數據的過程，對于一維采樣數據，通過數據重疊分割的方法實現數據增強。記采集的原始數據長度為L1，分割的單個樣本長度為L2，分割步長為D，則分割獲得的樣本數量為：

式中：N—分割得到的樣本數量。具體操作方法，如圖4所示。

圖4 數據增強Fig.4 Data Augmentation

按照圖4所示的數據增強方法獲得在4種負載下、10種故障狀態下各2000組數據，如表1所示。

表1 樣本數據量Tab.1 Sample Data Quantity

4.2 實驗方案及ATTM-CNN網絡結構

根據前文的采集數據，按照負載大小區分可以分為4 個工況。為了研究ATTM?CNN算法在軸承變工況下的診斷準確率，設計兩組實驗，第一組從負載為（1～3）hp中任意一種工況為訓練集，另一工況為測試集，共進行6組測試。為進一步驗證ATTM?CNN算法的泛化能力，第二組實驗從4種工況中任意選擇2種作為測試樣本，其余兩種作為測試樣本，共進行6組測試，兩組實驗方案，如表2所示。

表2 實驗方案Tab.2 Experiment Scheme

設計的ATTM?CNN網絡包含1層輸入層、4層特征提取層、1層全連接層、1層輸出層，各層的卷積核尺寸、數量、輸出尺寸，如表3所示。

表3 網絡結構Tab.3 Network Structure

4.3 實驗結果及分析

分別使用卷積神經網絡（CNN）、融合注意力機制的卷積神經網絡（ATTM?CNN）對兩組實驗進行變工況故障診斷，為了防止隨機性對實驗結果產生影響，兩種方法均進行10組實驗，取平均值作為實驗結果。為了展示ATTM?CNN網絡的訓練過程，以第一組實驗的編號1數據為例，在迭代過程中訓練樣本和測試樣本的損失函數及準確率變化情況，如圖5所示。

從圖5（a）可以看出，在迭代12次后訓練集損失函數值接近0，但是由于訓練次數較少出現了過擬合現象，使得測試樣本損失函數值較大，而且出現了振蕩現象。當訓練迭代次數足夠大時，模型擬合能力逐漸增強，迭代至120次以后測試樣本損失函數值不再振蕩。分析圖5（b）可知，迭代至12次左右時，訓練樣本故障診斷準確率達到100%，由于過擬合問題導致測試樣本準確率波動較大，直至充分訓練至120次時，測試樣本故障識別準確率穩定在較高水平。綜合圖5可知，損失函數與識別準確率具有一定相關性，當損失函數穩定在較低值時，故障識別準確率穩定在較高水平。

圖5 訓練迭代過程Fig.5 Training Iteration Process

使用訓練完畢的ATTM?CNN網絡對第一組實驗的測試樣本進行故障診斷結果，如圖6、表4所示。

圖6 變工況下診斷結果Fig.6 Testing Result Under Variable Condition

表4 變工況下診斷結果Tab.4 Testing Result Under Variable Condition

由圖6和表4可知，卷積神經網絡的故障識別平均準確率為94.45%，融合注意力機制的卷積神經網絡故障識別平均準確率為97.39%，比卷積神經網絡提高了2.94%。尤其是負載1hp 和2hp工況相互轉化時，故障識別準確率均在99%以上，是因為兩個工況較為接近，所有在變工況下故障識別準確率極高。按照以上過程，得到第二組實驗診斷結果，如表5所示。

由表5可知，在兩工況組合的變工況下，ATTM?CNN網絡的故障識別準確率為96.57%，比CNN網絡提高了3.42%。結合表4和表5，在單工況和兩工況的變工況下，ATTM?CNN 網絡均比CNN網絡的故障識別準確率高3%左右，這是因為在卷積神經網絡中加入注意力機制，能夠使卷積神經網絡更加關注有用信息，挖掘隱藏輸入數據中的高敏感特征，從而提高了故障識別準確率。

表5 第二組實驗診斷結果Tab.5 Testing Result of the Second Experiment

5 結論

研究了滾動軸承在變工況下的故障診斷問題，將注意力機制融入到卷積神經網絡中，提出了基于ATTM?CNN網絡的診斷方法。經驗證可以得出以下結論；（1）注意力機制可以使卷積神經網絡關注有用信息和關鍵特征，提取輸入信息中的敏感深層特征；（2）與CNN網絡相比，ATTM?CNN網絡在變工況下的診斷準確率提高了3%左右。