多尺度卷積神經網絡小樣本軸承故障辨識方法?

邢自揚，趙榮珍，吳耀春，何天經

（蘭州理工大學機電工程學院 蘭州，730050）

引言

旋轉機械在現代工業中發揮著重要作用，而滾動軸承作為其中關鍵支撐零部件，一旦發生故障將會導致災難性事故。因此，對滾動軸承進行故障辨識研究具有重要的現實意義［1］。

目前，智能故障辨識方法主要分為傳統算法與深度學習算法。傳統算法包含特征提取、特征選擇及模式識別等過程，存在效率較低、最終結果受特征質量影響較大等不足［2］。深度學習克服了傳統方法的缺點，能夠自動挖掘數據中的抽象敏感特征信息［3］。卷積神經網絡（convolutional neural network，簡稱CNN）作為深度學習中極具代表性的算法，由于其出色的特征自學習能力，已經成功應用于故障辨識領域［4］。

振動信號中通常耦合不同的分量，包含多個固有振動模態，因此表現出多尺度特性，在不同的時間尺度上包含復雜的模式。傳統的CNN 沒有考慮數據中內在的多尺度特性，一些學者從多尺度角度出發提取數據中的特征，準確地完成故障診斷［5］。以上方法在實際應用中存在以下問題：①現場故障數據難以獲取且代價昂貴，少量訓練樣本難以實現高精度故障辨識；②設備的環境噪聲對于故障辨識準確率影響較大［6］。如何解決這些問題成為有效利用人工智能完成實際生產應用中的關鍵，是當前工業人工智能研究的熱點問題之一［7］。

針對小樣本問題，常用的方法有擴充目標樣本數量與遷移學習［8］。前者通常采用生成模型來擴充樣本的數量［9］，然而該方法難以衡量生成樣本的準確性與多樣性；后者通過遷移學習的方式，將從大型數據集中學習得到的知識應用于小樣本的目標域，從而實現小樣本故障辨識［10］，但是源域和目標域之間的分布差異難以衡量，存在負遷移的現象。

針對模型的抗噪性，一些學者從數據和算法兩方面提出了具有抗噪能力的深度學習故障診斷模型，但是其性能仍有進一步挖掘的潛力［6］。

不論是小樣本還是模型的抗噪性問題，都可以歸因于訓練樣本與測試樣本特征的分布存在差異［11］。文獻［12］指出，批標準化技術（batch normalization，簡稱BN）可以減小訓練樣本與測試樣本特征之間的分布差異，但BN 的計算結果受訓練批次大小的影響，且BN 在測試階段仍采用訓練樣本的均值與方差，因此在訓練樣本與測試樣本的分布存在差異的情況下，BN 不能很好地滿足要求。針對這些不足，Ulyanov 等［13］提出IN，僅針對單個樣本的單個特征通道進行歸一化，克服了BN 的缺點。

綜合以上分析，筆者提出一種采用多尺度卷積神經網絡的故障辨識方法。首先，設計多尺度卷積提取頻域數據中的多粒度信息；其次，采用IN 對多尺度特征進行歸一化并在深度方向進行特征拼接；然后，構造注意力機制對拼接后的特征圖進行自適應加權，減小信息冗余，再進一步使用卷積提取深層抽象特征；最后，利用全連接層對特征進行信息整合與分類，完成智能故障辨識任務。通過實驗數據將本研究方法與其他智能故障辨識方法進行對比與分析，驗證其有效性與泛化性。

1 基本概念簡介

1.1 實例歸一化

文獻［13］在圖片風格遷移任務中提出IN，將特征圖的對比度進行歸一化以減少特征圖之間的風格差異性，解決了BN 應用過程中的不足。IN 的數學形式可以描述為

其中：Xl(c)為第l層通道c 的輸入特征圖；為標準化后的特征圖；zl(c)為通道c 的輸出；μc為通道c 輸入特征圖數據的均值；σc為通道c 輸入特征圖數據的標準差；ε為防止分母出現零值的小常數；γl(c)與βl(c)分別為標準化后特征圖中通道c 的縮放因子與平移因子。

式（1）中均值與標準差可以計算為

其中：W為通道c 特征的寬度。

1.2 注意力機制

注意力機制能夠模擬人類視覺注意力機制，對包含敏感特征信息部分投入更多關注度，從大量特征信息中篩選出對當前任務有用的關鍵信息，以提高網絡的識別能力［14］。

2 多尺度卷積神經網絡模型的構造

筆者提出一種多尺度卷積神經網絡結構，如圖1 所示，包括多尺度卷積模塊、注意力加權模塊、深層卷積模塊與全連接模塊。

圖1 多尺度卷積神經網絡結構Fig.1 Structure of NMS-CNN

2.1 多尺度卷積模塊

圖1 中的多尺度卷積模塊，使用3 個卷積層提取輸入數據的特征，然后將其拼接。其中，3 個卷積層的卷積核尺寸參數互不相等，以此實現多尺度特征提取。因為小樣本與噪聲干擾的情況下訓練樣本與測試樣本特征之間存在分布差異，因此在每個卷積層中引入IN 減小這種分布差異，以提高模型的泛化性。

卷積操作的數學形式可以表示為

其中：I0與I1分別為輸入與輸出特征圖；Kl與bl分別為第l個卷積核的權重與偏置；*表示卷積運算；p為卷積區域。

對得到的特征進行降采樣以降低特征圖的維數與網絡參數，加快計算速度并且防止網絡過擬合，其數學形式為

其中：A為池化操作后輸出的特征圖；P(.)表示池化操作；r為池化區域；X為輸入特征圖。

按照式（1）對特征圖進行歸一化操作，減小訓練樣本與測試樣本特征的分布差異，增加網絡的泛化能力，再將歸一化后的特征圖進行非線性映射以增強特征的表示能力與可分性。選擇整流線性單元（rectified linear unit，簡稱ReLU）作為激活函數，其數學形式為

將3 種不同尺度卷積提取到的特征圖，分別表示為X1，X2與X3，并且在深度方向使用張量拼接方法將其堆疊，實現特征融合。經過拼接后的特征圖可以表示為

其中：concat 表示張量的拼接操作。

2.2 注意力加權模塊

由于多尺度卷積模塊直接將不同尺度卷積層學習的特征進行堆疊，因此存在信息冗余，需要對拼接完成的特征圖使用注意力機制對其自適應加權，使模型更加關注對當前分類任務有用的信息。

注意力機制結構如圖2 所示，主要包含擠壓、激勵及重標定［15］等3 個步驟。

圖2 注意力機制結構Fig.2 Structure of attention mechanism

1）特征壓縮：通過全局均值池化將全局特征壓縮進一維向量中獲取每個通道的統計信息，即

其中：zc為通道c 壓縮后的統計值；Xc為通道c 的特征圖；L與T分別為特征圖的長度與高度。

2）特征激勵：經過擠壓操作后得到具有c個元素的一維向量表示特征圖中每個通道的統計信息，然后連接2 個全連接層學習通道的權重參數。2 個全連接層神經元的數目均設置為特征圖通道數，第2 個全連接層使用softmax 激活函數生成不同通道的權重，其數學表達式為

其中：δ為ReLU 激活函數；W1與W2分別為2 個全連接層的權重；σ(.)為softmax 激活函數。

3）特征重標定：把特征激勵操作后softmax 輸出的一維向量作為通道的權重，然后將通道權重與原特征圖逐通道相乘完成特征重標定。整個過程數學形式為

2.3 深層卷積模塊

通過注意力加權后繼續使用一個卷積模塊來進一步提取深層抽象特征信息，該卷積模塊包括卷積層、池化層、IN 以及激活函數。

2.4 全連接模塊

全連接模塊主要對前1 層輸出的特征圖進行信息整合與分類。包含1 個全連接層與1 個輸出層。其中，全連接層使用ReLU 激活函數，而輸出層使用softmax 激活函數。softmax 函數的公式為

其中：pj為網絡輸出屬于第j類的概率；zj為第j個輸出神經元的邏輯值；k為輸出神經元的數量。

2.5 模型訓練

本研究使用softmax 分類器輸出的概率分布與真實的概率分布之間的交叉熵作為損失函數，用于衡量模型預測類別與真實類別分布之間的差異，其公式為

在誤差反向傳播階段使用Adam 算法［16］優化并更新模型參數，使模型參數取得最優解。模型訓練過程中將算法的學習率設為0.001，網絡最大訓練輪數設為20，當累計3 輪訓練誤差未下降時將學習率調整為原來的50%。

3 設計的NMS-CNN 故障辨識方法

筆者提出一種采用NMS-CNN 的智能故障辨識方法，其故障診斷流程見圖3，具體步驟如下。

1）預處理：①通過安裝在軸承座上的加速度傳感器采集軸承的振動信號；②使用數據增強技術［6］對振動信號進行重疊采樣；③對采樣完成的數據進行FFT，構造數據集并將其劃分為訓練集與測試集。

2）模型訓練：①構建網絡，對網絡權重進行初始化；②使用訓練數據集對網絡進行訓練，輸出網絡模型。

3）模型測試：將測試數據集輸入已經訓練好的網絡中進行測試。

4 算法驗證結果與分析

采用美國凱斯西儲大學軸承數據中心（CWRU）公開數據［17］驗證第3 節方法的有效性。

4.1 CWRU 數據集驗證

4.1.1 數據集描述

軸承實驗臺如圖4 所示，由1.5 kW 的三相感應電動機、測力器、扭矩傳感器及電子控制器等組成。使用電火花加工方式分別在軸承的內圈、外圈及滾動體引入單點缺陷，故障尺寸分別為0.177 8，0.355 6及0.533 4 mm。2 個加速度傳感器通過磁力吸座安裝在電機的驅動端和風扇端采集軸承在不同狀態下的振動信號，采樣頻率為12 kHz。

圖4 軸承實驗臺Fig.4 The test rig in the CWRU

筆者使用0.745 7 kW 負載下軸承風扇端的振動信號，采用重疊采樣方法構造軸承故障數據集。采樣長度設置為2 048，數據集中共包含9 種故障狀態以及1 種正常狀態的樣本。凱斯西儲大學軸承故障數據集如表1 所示。

表1 凱斯西儲大學軸承故障數據集Tab.1 The dataset of fault bearing sample from CWRU

4.1.2 網絡參數設置

通過多次實驗得到NMS-CNN 的主要結構參數如表2 所示。其中：CN 為卷積核數量；kernels 為卷積核尺寸；p為池化區域寬度，units 與activation 分別為密集連接層中神經元的數量與激活函數；rate為Dropout 層的比率。

表2 NMS-CNN 主要結構參數Tab.2 Main structural parameters of NMS-CNN

4.1.3 不同樣本數量下的性能分析

機械在運行期間長期處于正常狀態，故障樣本難以獲取。為了驗證不同的訓練樣本數量對本研究方法識別準確率的影響，分別設置訓練集中每類樣本的數量為10，20，30，50，100 以及200，測試集中每類樣本的數量為100。由于神經網絡的權值以及偏置是隨機生成的，因此每個實驗重復進行20 次以驗證模型的穩定性。不同訓練樣本數量對于識別準確率的影響如表3 所示。

表3 不同訓練樣本數量對于識別準確率的影響Tab.3 Diagnosis result using different number of training samples

由表3 可以看出：當訓練集中每個類別樣本的數量只有10 個時，本研究方法就已經達到99.79%的分類準確率，說明其能夠在較小的訓練樣本下完成故障辨識任務；隨著訓練樣本數量的增加，所提方法的識別準確率與穩定性也逐漸上升；當訓練集中每個類別樣本的數量超過50 個時，20 次實驗均能實現100%的識別準確率。根據以上實驗結果，本研究實驗訓練集中每類樣本的數量均設為50，測試集中每類樣本的數量設為100。

4.1.4 模型在噪聲環境下的性能分析

由于工業現場環境復雜，采集到的信號受噪聲干擾嚴重，因此模型能否在噪聲環境下達到較高的識別準確率成為其在工業應用中的一個關鍵問題。評價信號中噪聲強弱的標準是信噪比，其定義為

其中：Psignal與Pnoise分別為信號與噪聲的功率。

為了討論本研究方法的抗噪性，使用原始信號進行訓練，然后對其注入高斯白噪聲進行測試。將本研究方法與目前主流的支持向量機（support vector machine，簡稱SVM）、K-近鄰算法（k-nearest neighbors algorithm，簡稱KNN）、多層感知機（multilayer perceptron，簡稱MLP）、基于快速傅里葉變換的深度神經網絡（fast Fourier transformation-deep neural networks，簡稱FFT-DNN）［4］及WDCNN［6］等進行對比實驗分析。其中，FFT-DNN 包含3 個隱含層，每層神經元的數量為500，200 及100。傳統故障辨識方法通常需要對振動信號手動提取特征值，再將其輸入到算法中完成故障分類。首先，使用文獻［2］的方法提取特征值并進行歸一化預處理；其次，分別輸入SVM，KNN 以及MLP 中進行故障辨識。其中：SVM 的核函數為徑向基核函數，懲罰因子c=10；KNN 算法的鄰近點數K設置為5；MLP隱含層包含50 個神經元，激活函數為ReLU。每個實驗均重復進行20 次，不同噪聲下的對比結果如圖5 所示。

圖5 不同噪聲下的對比結果Fig.5 The comparison result under different noisy environment

由圖5 可以看出，SVM，KNN 及MLP 等基于機器學習的故障辨識方法在數據受到噪聲干擾的情況下識別準確率快速下降，說明由于自身淺層算法的限制，很難在測試數據受到噪聲干擾的情況下取得較高的識別準確率。當信噪比為10 dB 時，FFT-DNN 與WCDNN 的識別準確率分別為95.58% 與95.89%，但是仍然低于本研究方法的99.97%。隨著信噪比逐漸下降，FFT-DNN 與WDCNN 的識別準確率也開始下降，結合文獻［6］中的實驗結果，說明訓練數據過少而出現了過擬合現象；相比之下本研究方法在信噪比為-4 dB 時仍然能夠取得93.73%的識別準確率，沒有出現過擬合現象，證明本方法具有較強的魯棒性，在強噪聲干擾下仍然能夠準確實現故障分類。

4.1.5 IN 的有效性驗證

為了驗證卷積神經網絡中IN 的抗噪效果，以筆者提出的NMS-CNN 作為主干網絡，對于使用IN（本研究方法）、使用BN 以及不使用任何歸一化方法3 種情況進行對比實驗。結果如圖6 所示。

圖6 3 種歸一化方法的結果對比Fig.6 The comparison result of three methods

由圖6 可以看出：如果不使用歸一化方法，模型很難取得較高的識別準確率，當信噪比為10 dB 時其測試準確率只有76.55%，隨著信噪比逐漸下降，模型的識別準確率也在迅速下降，最終在信噪比為-4 dB 時準確率降至10%；當使用BN 作為歸一化方法之后，模型的識別準確率與穩定性得到極大提升，但仍低于本研究方法；當信噪比大于4 dB 時，IN與BN 均能夠達到99%以上的識別準確率；隨著信噪比逐漸下降，模型的測試準確率與穩定性均開始下降，在信噪比達到-4 dB 時，IN 相比于BN 測試準確率提升了23%，標準誤差下降了83%。以上結果說明IN 能夠提升模型的抗噪性與穩定性。

4.1.6 變負載情況下的性能分析

機械的負載發生變化時轉速也會隨之變化，測得的信號也有所不同。該數據集中共包含3 種不同的負載，分別為0.745 7，1.491 4 及2.237 1 kW，將其記作L1，L2及L3。分別使用L1，L2及L3下的信號作為訓練數據，然后使用其他2 個負載下的振動信號作為測試數據。例如使用L1下的數據進行訓練，再使用L2下的數據進行測試，將實驗結果表示為L1->L2。每個實驗重復進行20 次，不同方法在變負載下的實驗結果如圖7 所示。

圖7 不同方法在變負載下的實驗結果Fig.7 The comparison result under 6 domain shifts

SVM，KNN，MLP，FFT-DNN，WDCNN 與本研究方法在6 種變負載情況下測試的平均準確率分別為93%，92.78%，92.24%，73.3%，89.97% 與97.13%。可以發現，本研究方法在負載發生變化時能夠取得最好的效果。由圖7 可知，FFT-DNN 準確率下降至75%左右，說明其適用性受到了限制。本研究方法在L3->L1的情況下準確率相比SVM，KNN 及MLP 等方法優勢不突出。為了進一步分析其原因，將4 種方法在L3->L1下的識別結果繪制為混淆矩陣，如圖8 所示。

圖8 4 種方法在L3->L1下的識別結果Fig.8 Identification results of 4 methods at L3->L1

由圖8 可知：本研究方法將第3 類樣本全部錯分為第1 類，不能很好地區分0.177 8 與0.533 4 mm 內圈故障樣本，導致識別結果相對其他方法優勢不明顯；本研究方法中其他類別的樣本全部分類正確，相對于其他方法具有一定的優勢。

結合4.1.4 節中的實驗結果發現：SVM，KNN，MLP 及WDCNN 等方法抗噪性差，但是變負載效果較好，因而難以適應機械復雜的工作環境；而本研究方法在小樣本的情況下兼具良好的抗噪性與變負載性能，表明NMS-CNN 能夠從頻域數據中學習到魯棒性更好的特征。

4.1.7 特征可視化分析

為了從直觀上了解網絡的注意力機制對數據變換的效果，以滾動體-0.355 6 mm 故障樣本作為神經網絡的輸入，將數據通過注意力加權模塊前后的神經元激活進行可視化表達［6］，結果如圖9 所示。其中：水平方向表示特征的通道，垂直方向表示特征的長度。

圖9 滾動體-0.355 6 mm 數據通過注意力加權模塊神經元激活可視化Fig.9 Visualization of the activation from attention module for ball-0.355 6 mm

圖9 中不同顏色表示神經元被激活的程度：藍色表示神經元沒有被激活；紅色表示神經元被最大激活。由圖可知：通過注意力機制前大多數通道的神經元都存在激活狀態，參與最終的分類計算；通過注意力機制進行加權后，大多數的通道都變為藍色，僅有少數幾個通道的神經元存在最大激活，表明注意力機制能夠抑制冗余信息，更加關注對分類任務有用的特征通道。

4.2 本實驗室軸承數據驗證

4.2.1 本實驗室數據集描述

為了進一步檢驗NMS-CNN 在其他數據上的效果，使用本實驗室軸承數據構造數據集。轉子實驗臺如圖10 所示。

圖10 轉子實驗臺Fig.10 Experiment of rotor vibration

該實驗臺運行轉速為2 600 r/min，共模擬正常、滾動體故障、保持架故障、內圈故障以及外圈故障5 種運行狀態。使用加速度傳感器采集軸承座的振動信號，采樣頻率設為20 kHz。實驗室軸承故障數據集如表4 所示。

表4 實驗室軸承故障數據集Tab.4 The dataset of fault bearing sample from laboratory data

4.2.2 本數據集不同樣本數量下的性能分析

同樣設置訓練集中每類樣本的數量為10，20，30，50，100 及200，測試本研究方法使用不同數量的訓練樣本取得的效果，測試集中每類樣本的數量為100。每個實驗重復進行20 次，實驗室數據不同訓練樣本數量對于識別準確率的影響如表5 所示。

表5 實驗室數據不同訓練樣本數量對于識別準確率的影響Tab.5 Diagnosis result using different number of training samples from laboratory data

由表5 可知：使用實驗室數據集，每類訓練樣本僅有10 個時，NMS-CNN 已經能夠取得99.94%的平均準確率；每類訓練樣本數量超過20 個時，所有實驗全部識別準確，說明本研究方法在小樣本的情況下能夠準確地完成故障辨識。

4.2.3 本數據集模型在噪聲環境下的性能分析

在測試數據中加入不同信噪比的高斯白噪聲，驗證模型在受不同強度噪聲影響下識別準確率的變化情況，對比結果如圖11 所示。

圖11 不同噪聲下的對比結果Fig.11 The comparison result under different noisy environment

由圖11 可知，當測試樣本受噪聲污染嚴重時，傳統的機器學習方法在本實驗室數據集上取得的平均準確率在40%左右，可以認為該模型不具有通用性；隨著信噪比上升，FFT-DNN 與WDCNN 的平均準確率逐漸上升；NMS-CNN 在-4dB 噪聲下仍然能夠取得98.16%的平均準確率。實驗結果表明，本研究方法在不需要額外降噪算法的情況下仍具有較好的抗噪性能。

5 結束語

針對基于深度學習的故障辨識方法效果受制于訓練樣本數量與質量這一問題，提出一種采用多尺度卷積神經網絡故障辨識方法，在訓練樣本數量較小時能夠從頻域數據中學習到魯棒性的特征，實現了對滾動軸承健康狀態的有效識別。實驗結果表明，本研究方法能夠在小樣本的情況下完成故障辨識任務，并且其泛化性與穩定性高于其他智能故障辨識算法。