基于動態(tài)加權的多尺度殘差網(wǎng)絡旋轉機械故障診斷算法

史紅梅， 鄭暢暢， 司 瑾， 陳晶城

(北京交通大學 機械與電子控制工程學院，北京 100044)

旋轉機械被廣泛應用于風力發(fā)電機、直升機、汽車、高速動車組和其他機械設備中[1]。滾動軸承和齒輪箱作為旋轉機械設備中的重要零部件，一旦發(fā)生故障輕則造成嚴重的經(jīng)濟損失，重則甚至造成人員傷亡[2]。因此，進行旋轉機械故障診斷算法的研究對于機械設備的安全運行和維修維護具有重要意義。

幾十年來有大量學者研究齒輪箱、滾動軸承等旋轉機械的故障診斷方法，其中大部分研究是采用信號分析的方法，利用信號處理技術對機械的振動、溫度、聲信號等進行時域、頻域或時頻域分析，取得了大量研究成果[3]。Hu等[4]采用小波包變換和集成固有時間尺度分解算法，提取齒輪箱故障特征。Xu等[5]提出了一種基于雙樹復小波變換和形態(tài)成分分析的去噪方法，將該方法用于提取齒輪在強噪聲下的故障特征頻率。Li等[6]使用小波變換處理聲發(fā)射信號，以定位行星齒輪箱中的齒輪故障。周小龍等[7]提出一種改進希爾伯特黃變換方法能夠較好地抑制模態(tài)混疊問題并有效剔除同故障無相關的虛假模態(tài)分量，實現(xiàn)對旋轉機械故障的有效診斷。但信號處理技術高度依賴特定領域的專業(yè)知識，診斷結果易受到人的主觀因素影響。

隨著人工智能和深度學習的快速發(fā)展，機械智能故障診斷取得了巨大進步，近年已經(jīng)提出大量基于深度學習的故障診斷方法，并且達到了較好的診斷效果[8]，例如自編碼器、卷積神經(jīng)網(wǎng)絡、循環(huán)神經(jīng)網(wǎng)絡等[9]。Wen等[10]提出了一種基于LeNet-5的卷積神經(jīng)網(wǎng)絡模型進行故障診斷，該方法在三個數(shù)據(jù)集進行測試都取得了良好的效果。Han等[11]提出了一種具有擴大感受野的增強卷積神經(jīng)網(wǎng)絡，將此模型用于行星齒輪箱故障診斷。趙光權等[12]提出一種基于深度置信網(wǎng)絡的診斷方法，并在仿真信號數(shù)據(jù)和軸承數(shù)據(jù)集上進行了試驗驗證。Jiang等[13]提出了一種新的多尺度卷積神經(jīng)網(wǎng)絡架構用于行星齒輪箱故障診斷。Peng等[14]提出了一種新的一維殘差網(wǎng)絡，在高鐵輪對軸承實驗臺上進行試驗，取得了良好的試驗效果。

旋轉機械設備往往結構復雜，工作環(huán)境惡劣，因此采集到的振動信號包含大量噪聲。另外，齒輪箱的振動信號成分更為復雜，包括轉頻及其高次諧波、齒輪嚙合頻率及其高次諧波、由于調(diào)制現(xiàn)象產(chǎn)生的邊頻帶等[15]。目前大多數(shù)深度學習網(wǎng)絡對樣本中的所有信息利用率基本相同，而采集的振動信號中只有部分信息對故障診斷任務有利，因此需要將注意力更多的集中在與故障相關的信息中。

本文針對上述問題，提出一種基于動態(tài)加權多尺度殘差網(wǎng)絡(multi-scale residual network based on dynamic weighting, DWMR-Net)的端到端模型。針對人工從振動信號中提取故障特征困難問題，該模型以原始信號作為輸入，考慮到振動信號固有的多尺度特征，結合多尺度學習的思想，分別從三個尺度進行特征提取，以獲取互補的故障信息，其中，網(wǎng)絡的基礎結構為殘差塊結構。接著設計動態(tài)加權層，通過學習的方式來自動獲取每個特征通道的重要程度系數(shù)，依據(jù)該系數(shù)對特征通道進行重標定，提高對故障診斷有利信息的注意力，減小或者抑制冗余信息對故障診斷結果的影響。

1 基于動態(tài)加權的多尺度殘差網(wǎng)絡模型設計

1.1 殘差網(wǎng)絡

隨著網(wǎng)絡深度的增加，深度學習模型可能會出現(xiàn)性能退化問題，即訓練的準確率趨于平緩，訓練誤差增大，為解決這個問題殘差網(wǎng)絡[16]被提出，殘差網(wǎng)絡一般由殘差塊堆疊而成，如圖1所示為一種簡單的殘差塊結構，其通過加入恒等映射解決深層網(wǎng)絡的退化問題，并且可以防止出現(xiàn)梯度消失，計算過程以如下公式表示

y=f(F(x)+x)

(1)

式中:f(·)表示激活函數(shù)；x為輸入；F(x)為卷積層的輸出；y為殘差塊的輸出。

殘差塊中一般包括卷積層、激活層、池化層等結構。DWMR-Net模型以一維信號作為輸入，下面以一維卷積層為例，假設第l層的卷積核寬度為K，第l-1層輸出M個特征向量，用xl(i,j)表示第l層輸出的第i個特征向量的第j個特征值，卷積層的計算過程可描述為下式

(2)

y=ReLU(x)=max{0,x}

(3)

1.2 基于動態(tài)加權的多尺度殘差網(wǎng)絡模型設計

DWMR-Net模型的結構如圖2所示，以1×l的一維振動信號作為網(wǎng)絡的輸入，其中l(wèi)是樣本中的數(shù)據(jù)點個數(shù)，也稱樣本長度。首先輸入信號經(jīng)過具有寬卷積核的寬卷積模塊進行初步的信息融合，將所輸出的特征圖作為后續(xù)多尺度結構的輸入，以擴大DWMR-Net模型的感受野。其次從三個不同的尺度提取信號中的深層故障特征，并且設計動態(tài)加權層引入網(wǎng)絡的注意力機制使網(wǎng)絡具有更好的性能。

圖2 DWMR-Net模型結構

多尺度集成方案已經(jīng)在計算機視覺領域得到了廣泛的應用，其中Inception網(wǎng)絡中的并行多分支結構較為常見。本文所設計的DWMR-Net模型結合了多尺度學習的思想，為網(wǎng)絡設計了三個并行分支，用三個不同寬度的卷積核分別從三個尺度提取故障特征。如圖3所示，每個分支網(wǎng)絡都是由三個不同的殘差結構堆疊而成。每個殘差塊均由卷積層、批歸一化層和激活層組成。其中批處理歸一化層[18](batch normalization, BN)一般在激活層前面，可以改善深層網(wǎng)絡的過擬合問題，降低內(nèi)部協(xié)變量偏移帶來的影響，提高深層網(wǎng)絡的收斂速度，本文所設計的模型也采用這種方式。BN層的計算過程如下式

(4)

(5)

圖3 分支網(wǎng)絡結構

如圖2所示，三個并行分支網(wǎng)絡提取出三個特征圖后，繼續(xù)經(jīng)過動態(tài)加權層的處理，對每個特征圖的特征通道進行重標定。Hu等[19]提出了對卷積神經(jīng)網(wǎng)絡進行改進的SEnet(squeeze-and-excitation networks，SEnet)關注的是特征通道之間的關系。結合SEnet的思想，在DWMR-Net模型結構中引入動態(tài)加權層，動態(tài)加權層的結構如圖4所示，首先特征圖經(jīng)過全局平均池化的處理，完成特征壓縮，將每個通道的特征壓縮成一個實數(shù)，得到維度與輸入的特征通道數(shù)一致的一維向量；然后利用一維卷積層將特征維度降到輸入的1/16，經(jīng)過ReLU激活，再利用一維卷積層將向量升回原來的維度，經(jīng)過先降維再升維的步驟，可以具有更多的非線性，更好的擬合特征通道之間的復雜相關性；接著通過Sigmoid激活函數(shù)獲得(0,1)之間的歸一化系數(shù)[19]，計算過程如式(6)；最后將系數(shù)向量加權到輸入的特征圖上，就完成了對輸入特征圖的特征通道重標定操作。

(6)

圖4 動態(tài)加權層結構

接下來將三個特征圖經(jīng)過全局平均池化處理獲得全局信息，進一步經(jīng)過特征融合輸入到全連接層以及分類器中輸出分類結果。DWMR-Net模型采用Softmax[20]分類器，Softmax分類器的每個節(jié)點輸出一個(0,1)之間的值，分別對應輸入樣本屬于每一個類別的概率，所有節(jié)點的輸出值加起來等于1。Softmax分類器的計算過程可描述為下式

(7)

式中：yi代表輸出層第i個節(jié)點的輸出值；c代表分類數(shù)。

2 基于動態(tài)加權的多尺度殘差網(wǎng)絡旋轉機械故障診斷方法

2.1 數(shù)據(jù)準備

本文所提出的DWMR-Net模型以旋轉機械的一維原始振動信號作為網(wǎng)絡輸入。如圖5所示為構建樣本庫示意圖，用長度為l的窗口截取數(shù)據(jù)段作為一個樣本，窗口滑動步長為l，截取下一個數(shù)據(jù)段，以保證每個樣本之間的數(shù)據(jù)不重疊。最后將截取到的數(shù)據(jù)段隨機劃分為訓練集和測試集。

圖5 構建樣本庫

2.2 模型訓練

表1展示了性能較好的網(wǎng)絡參數(shù)設置。其中輸入樣本大小為1×2 048，三個尺度的卷積核寬度分別為11、13、15，@32表示有32個特征通道，s表示卷積核的移動步長，num_class是分類數(shù)。訓練時采用Adam[21]優(yōu)化算法，設置初始學習率為0.005，訓練過程中加入學習率衰減策略，經(jīng)多次試驗最終選擇每30個循環(huán)學習率衰減一次，衰減系數(shù)設為0.1。采用交叉熵損失函數(shù)，交叉熵可以用來衡量同一隨機變量X的兩個概率分布P(X)和Q(X)之間的差異。交叉熵損失計算公式如下式所示，其中xk∈X

(8)

表1 DWMR-Net網(wǎng)絡參數(shù)設置

3 試驗結果及分析

3.1 轉子齒輪綜合故障模擬實驗臺數(shù)據(jù)集試驗

在HD-FD-H-03X轉子齒輪綜合故障模擬試驗平臺上進行了齒輪和滾動軸承復合故障模擬試驗。該試驗臺結構簡單、操作方便、性能穩(wěn)定。如圖6所示，該試驗系統(tǒng)由原動力三相變頻電機、轉矩轉速儀、單跨轉子軸系、滾動軸承座、軸系負載盤、徑向加載裝置、平衡軸一級減速齒輪箱、制動加載器、聯(lián)軸器、系統(tǒng)控制柜、故障套件等組成。齒輪箱是由一個太陽輪三個行星輪組成的行星齒輪箱，在行星齒輪箱上方安裝一個三軸加速度傳感器，采集振動加速度信號。

圖6 轉子齒輪綜合故障模擬實驗臺

齒輪箱故障失效形式主要包括齒輪失效、軸承失效、箱體疲勞裂紋、潤滑失效等。滾動軸承故障主要包括內(nèi)圈故障、外圈故障、滾動體故障和保持架斷裂。試驗中主要采集了6種齒輪單故障、6種齒輪和滾動軸承復合故障的故障樣本。表2中列出了故障類型，采樣頻率為20 kHz，轉速分別為750 r/min、1 000 r/min、1 250 r/min、1 500 r/min、1 750 r/min、2 000 r/min、2 250 r/min、2 500 r/min、2 750 r/min、3 000 r/min，每種工況采集時間為10 s。

表2 故障類型設置

如圖7所示為試驗中人工模擬的幾種故障齒輪和故障軸承。在模型驗證試驗中選用垂直方向振動加速度信號作為網(wǎng)絡模型輸入，樣本中包括10種工況的數(shù)據(jù)，總共分為13類。

將在轉速2 500 r/min下采集的振動信號進行可視化，結果如圖8所示，圖(a)是采集的原始信號，圖(b)是對原始信號進行快速傅里葉變換得到的頻譜圖。從圖中可以看出設備無故障時振動信號噪聲較小，可以看出信號的周期性。而有故障的振動信號噪聲較大，周期性不明顯，頻譜圖中包含多種頻率成分以及高頻噪聲，難以直接提取故障特征。

利用該試驗臺數(shù)據(jù)集對DWMR-Net進行試驗驗證。訓練集包括10 296個樣本，測試集包括2 574個樣本。DWMR-Net模型訓練過程中訓練集和測試集的準確率和損失曲線如圖9所示。訓練前期準確率曲線振動較為頻繁，幅度較大，但準確率仍是逐漸上升的趨勢，隨著訓練次數(shù)的不斷增加，加之采用了學習率衰減策略，訓練曲線最終趨于穩(wěn)定。訓練次數(shù)為20次時，分類準確率已經(jīng)超過80%，訓練30次之后準確率基本穩(wěn)定，最終的準確率基本達到99%。從損失曲線也可看出，訓練30次之前，雖然訓練集損失逐漸下降并趨于平穩(wěn)，但是測試集損失曲線出現(xiàn)的波動較多，訓練30次之后測試集損失也基本降到最小，并且不再出現(xiàn)大的波動。DWMR-Net模型故障診斷的測試集混淆矩陣如圖10所示，測試集的每類樣本基本都能被正確識別。

圖9 準確率曲線與損失曲線

圖10 測試集混淆矩陣

深度學習中的優(yōu)化器可以優(yōu)化損失函數(shù)，優(yōu)化器通過優(yōu)化策略更新模型中可學習參數(shù)的值。常見的優(yōu)化器包括隨機梯度下降(stochastic gradient descent，SGD)、Adagrad、RMSprop、Adam等。下面對使用不同優(yōu)化器對訓練過程的影響進行了試驗，如圖11所示。圖11可視化了使用不同優(yōu)化器時訓練集損失函數(shù)曲線，從圖中可以看到使用Adam優(yōu)化器損失曲線下降最快，訓練過程中損失曲線波動較小，收斂快。Adam使用梯度的指數(shù)加權平均和梯度平方的指數(shù)加權平均來動態(tài)地調(diào)整每個參數(shù)的學習率，在試驗中也表現(xiàn)出了優(yōu)良的性能，因此在整個試驗中均使用Adam優(yōu)化器進行訓練。

圖11 不同優(yōu)化器的訓練損失曲線

為驗證DWMR-Net模型中多尺度學習和殘差結構的有效性，進行消融試驗。將所提出的DWMR-Net模型與一維卷積神經(jīng)網(wǎng)絡(one-dimensional convolutional neural network, 1D-CNN)、多尺度卷積神經(jīng)網(wǎng)絡(multi-scale convolution neural network, MCNN)和一維殘差網(wǎng)絡(one-dimensional ResNet, 1D-ResNet)進行對比。四種深度學習模型的測試集準確率曲線如圖12所示，DWMR-Net模型和1D-ResNet模型效果較好，訓練30次之后準確率曲線基本穩(wěn)定不再波動，而MCNN和1D-CNN在準確率上升到一定程度后還是有些許波動，這說明殘差結構一定程度上可以提高深度學習模型的穩(wěn)定性。從試驗結果可以看出多尺度學習和殘差結構在一定程度上都可以提高模型的診斷性能，DWMR-Net模型結合了多尺度學習和殘差結構，在各種試驗條件下均表現(xiàn)出了相對更好、更穩(wěn)定的診斷效果。

圖12 不同深度學習模型測試集準確率曲線

在原始數(shù)據(jù)集上四種深度學習模型的診斷效果較好，為更好的模擬旋轉機械實際工作環(huán)境，通過對原始數(shù)據(jù)集疊加隨機噪聲進行加噪處理，構建具有不同信噪比的噪聲信號。信號的信噪比(SNR)計算過程如下

(9)

式中，P是功率，對于離散信號，功率計算過程如下

(10)

四種深度學習模型在原始數(shù)據(jù)集和加噪數(shù)據(jù)集上的試驗結果如表3所示，在原始數(shù)據(jù)集上四種模型的故障診斷性能差別不明顯，但是在加噪數(shù)據(jù)的試驗中加入了多尺度學習和殘差結構的網(wǎng)絡表現(xiàn)出了更好的性能，其中殘差結構對網(wǎng)絡性能的提升具有更大的貢獻，本文提出的DWMR-Net模型相比于其他三種深度學習模型具有更強的抗噪能力，但是總體來說該數(shù)據(jù)集故障類別較多，工況更為復雜，對噪聲較為敏感，當噪聲加到-2 dB時準確率已經(jīng)降到90%以下。

表3 消融試驗結果

接下來分別對有動態(tài)加權層和無動態(tài)加權層的模型進行試驗，試驗結果如圖13所示，在原始數(shù)據(jù)和信噪比分別為4 dB，2 dB，0，-2 dB的數(shù)據(jù)上有動態(tài)加權層的模型比沒有動態(tài)加權層的模型診斷平均準確率分別提高了0.42%，0.40%，0.48%，0.46%和0.70%。

圖13 有無動態(tài)加權層對比試驗結果

動態(tài)加權層必然會帶來一定的參數(shù)量和訓練時間的增加，具體情況見表4。有動態(tài)加權層的網(wǎng)絡相比于無動態(tài)加權層的網(wǎng)絡參數(shù)量只增加了0.48%，在轉子齒輪綜合故障模擬實驗臺數(shù)據(jù)集上的訓練時長增加了1分14秒，動態(tài)加權層僅引起了少量訓練成本的增加。試驗結果說明動態(tài)加權層對于模型性能的提升有一定作用，這是由于動態(tài)加權層在以增加少量訓練參數(shù)為代價的情況下，可以使模型自適應的選取對故障診斷更有利的信息。

表4 網(wǎng)絡的參數(shù)量和訓練時間

為進一步理解所提出的DWMR-Net模型，分別對測試集樣本、DWMR-Net模型從訓練集和測試集樣本中抽象出的故障特征向量、三個并行分支網(wǎng)絡從三個尺度提取出的特征向量進行t-SNE[22]降維可視化，為方便觀察，選取其中6類樣本進行可視化，結果如圖14所示。圖14(a)是原始數(shù)據(jù)，原始數(shù)據(jù)堆疊在一起無法區(qū)分。圖14(b)～(d)是從三個不同尺度提取出的特征向量，已經(jīng)基本分離，但仍有部分混疊在一起。圖14(e)、(f)是對訓練集和測試集的特征向量進行可視化，從圖中可以看出經(jīng)過訓練好的DWMR-Net模型提取出的特征向量已經(jīng)明顯區(qū)分開。通過特征可視化試驗證明了多尺度學習的必要性以及進一步證實了所提出的模型具有強大的特征提取能力。

3.2 2009PHM齒輪箱數(shù)據(jù)集試驗

2009PHM齒輪箱數(shù)據(jù)集是一種典型的通用工業(yè)齒輪箱數(shù)據(jù)集，數(shù)據(jù)集中包含正齒輪和斜齒輪數(shù)據(jù)集。試驗中使用正齒輪數(shù)據(jù)，如表5所示總共包括8種健康狀態(tài)。轉速有1 800 r/min、2 100 r/min、2 400 r/min、2 700 r/min、3 000 r/min，負載有高負載和低負載，組合后共10種工況，將所有工況的樣本放在一起訓練，提高模型的泛化能力。

表5 2009PHM齒輪箱數(shù)據(jù)集故障類型

DWMR-Net、1D-CNN、MCNN和1D-ResNet四種模型在原始數(shù)據(jù)和加噪數(shù)據(jù)上的試驗結果如表6所示，在加噪0的信號上，DWMR-Net模型的準確率仍在98%以上，其他三種深度學習模型準確率已經(jīng)降到97%甚至更低，通過齒輪箱公共數(shù)據(jù)集進一步驗證了DWMR-Net模型在旋轉機械故障診斷上的有效性和優(yōu)越性。進一步在該公開數(shù)據(jù)集上進行了相關試驗，試驗結果如表7所示，驗證了動態(tài)加權層對模型診斷性能的提升具有普適性影響。

表6 2009PHM齒輪箱數(shù)據(jù)集試驗結果

表7 動態(tài)加權層試驗驗證

3.3 高速動車組軸承數(shù)據(jù)集試驗

本節(jié)試驗采用高速動車組牽引電機軸承實驗臺數(shù)據(jù)集進行，所用軸承型號為NU214，采樣頻率為10 kHz，包括正常、內(nèi)圈故障、外圈故障和滾子故障四類，故障通過線切割機人工引入，故障深度為0.15 mm，故障寬度為0.2 mm，如圖15所示。該數(shù)據(jù)集工況包含三種轉速，分別對應于高速動車組運行于150 km/h、200 km/h和250 km/h，包括三種徑向負載分別為2 800 N、2 600 N和2 400 N，如表8所示總共三種工況。

表8 高速動車組牽引電機軸承實驗臺數(shù)據(jù)集工況

在該軸承數(shù)據(jù)集上的試驗結果如圖16所示，由于工況和故障類別較少，DWMR-Net在該數(shù)據(jù)集上準確率能達到100%，在加-4 dB信噪比的噪聲數(shù)據(jù)上準確率仍能達到96.47%，取得了良好的診斷效果。

圖16 高速動車組軸承數(shù)據(jù)集試驗結果

同樣在該高速動車組軸承數(shù)據(jù)集進行了有無動態(tài)加權層對診斷結果的影響的試驗，試驗結果如表9所示，在該數(shù)據(jù)集上有動態(tài)加權層的模型表現(xiàn)出了相對更好的診斷性能，進一步驗證了動態(tài)加權層以較少的代價提升了網(wǎng)絡的性能。

表9 動態(tài)加權層試驗驗證

4 結 論

針對旋轉機械設備結構復雜、工作環(huán)境惡劣導致振動信號的故障特征提取困難問題，提出了一種端到端的DWMR-Net故障診斷模型。DWMR-Net模型以殘差塊結構為基礎結合了多尺度學習的思想，利用并行分支網(wǎng)絡結構分別從三個尺度進行數(shù)據(jù)挖掘，提取互補的故障信息。通過加入動態(tài)加權層學習特征通道之間的相互關系，引入特征通道的注意力機制，使模型自適應的選擇更有利于故障診斷的信息，提高模型對故障信息的敏感性。分別在轉子齒輪箱綜合故障實驗臺數(shù)據(jù)集、齒輪箱公共數(shù)據(jù)集和高速動車組軸承數(shù)據(jù)集上進行了試驗驗證，證明了所提方法在旋轉機械故障診斷任務中具有相對較高的準確率、較強的抗噪性和泛化性。