深度可分離卷積神經網絡軸承剩余壽命預測

步偉順，姚 磊，唐苑壽，劉國威

（濟南重工集團有限公司，山東 濟南 250000）

1 引言

工業互聯網技術廣泛應用于機械設備的健康檢測與管理。在設備運行的過程中，傳感器采集到海量數據對機械設備剩余壽命的預測帶來了新的機遇與巨大挑戰。隨著機械系統復雜程度不斷提高，建立精確的數學或物理預測模型已經不太可能。準確地建立相應的RUL預測模型，越來越成為研究的現實需要。

傳統的數據驅動RUL 預測包括四個主要過程：（1）數據獲??；（2）特征提取和選擇；（3）退化行為學習；（4）RUL估計。利用傳感器監測獲取數據并進行特征提取，提取的特征有些對退化特征不敏感，甚至不能為RUL提供有用信息。如，文獻[1]對輪齒裂縫的退化狀態采用均方根等信息，文獻[2]用卷積神經網絡自適應構建HI。文獻[3]分析利用混沌原理進行故障特征重構；文獻[4]智能方法故障診斷，文獻[5]利用CNN和BP神經網絡自適應構建模型。這些方法主要缺點如下：（1）人工構造特征不穩定；（2）模型復雜度較高；（3）與卷積神經網絡為代表的深度學習方法學習能力方面存在差距。

綜合研究分析，擬提出一種新的深度可分卷積神經網絡（DSCNN軸承剩余壽命預測方法。引入可分離卷積層、壓縮激勵（SE）單元，創立可分離卷積構建塊?；诙鄠€可分離的卷積構建塊疊加，從原始輸入數據中自動學習高維表示。通過將學習到的表示輸入最后一個完全連接層來估計RUL?？煞蛛x卷積引入機械系統預測中，不僅有效地模擬了不同傳感器數據之間的相互關系，而且大大減小了預測網絡的寬度與深度，提高了預測網絡模型預測的精確性與準確性。

2 神經網絡介紹

2.1 可分卷積神經網絡

標準卷積在卷積的過程中，存在在卷積的深度過程中參數量無限的放大，增加計算量與時間。深度可分離卷積卷積神經網絡提出了一種新的思路：對于不同的輸入通道采取不同的卷積核進行卷積，卷積過程分成兩個過程：深度卷積（Depthwise）過程和點卷積過程（Pointwise）；卷積過程，如圖1所示。深度卷積，如圖1（a）所示。逐點卷積，兩者合起來就是深度可分離卷積，如圖1（b）所示。深度卷積負責濾波，特征信息為（A，A，1）；輸入通道特征映射。逐點卷積轉換通道，特征信息為（1，1，D），深度卷積的輸出特征映射。深度卷積參數量為（A×A×1）×D，逐點卷積參數量為（1×1×D）×F，即深度可分離卷積參數量為：A×A×D+D×F；深度可分離卷積參數與標準卷積參數之比為：

圖1 標準卷積和深度卷積Fig.1 Standard and Deep Convolutions

（A×A×D+D×F）∕（A×A×D×F）=1∕F+1∕A2

深度網絡一般迭代次數較多，1∕E數值較小，深度可分離卷積參數縮小比例取決于卷積核信息量的大小。經過推算可知，卷積核3×3×1具有較好的效果。

2.2 信息特征響應自動調節

可分離卷積網絡特征信息，映射過程中包含不同權重的價值信息。為了突出權重價值信息較大的映射，過濾掉權重價值信息無用映射?？煞蛛x卷積層后面設計壓縮激勵單元，該壓縮激勵單元能通過評估每個通道的映射權重自動調節響應。信息特征響應調節過程包括壓縮和激勵兩個步驟如下：

（1）壓縮操作將可分離卷積層的所有輸出信道的全局信息通過使用全局平均池化來縮小卷積輸出嵌入到信道描述符中，信息過程描述為下式計算：

整個響應調節架構通過研究設計如下：一個全局池化層、兩個全連接層、一個通道乘法層組成。全連接層包括D∕t個神經元的縮減層和具有C個神經元的維度增加層對自動響應機制進行參數化。最后，通過將可分離卷積的特征映射與相應的信道權值進行信道相乘，得到信息特征校準的映射。

3 深度可分卷積網絡架構

整個網絡架構分離為學習子網和壽命估計子網。網絡架構如圖2所示。學習子網利用可分離卷積層卷積不同傳感器輸入數據尺寸H×1×D，信道卷積核大小設

圖2 可分卷積網絡架構Fig.2 Dividable Convolutional Network Karchitecture

置為A×1，點卷積核的數量即輸出信道數量設置為D。采用平均池化層進行參數采樣，池大小p等于步長s，學習到的低層映射輸出給可分離卷積設計單元獲得更高的映射特征，兩個可分離卷積層的參數設置一致，即每個信道級卷積核尺寸A×1大小，并且每個可分離卷積層中包含總共2dN個點卷積核。平均池化采用非重疊窗口，設計成p=s，并且兼顧模型預測精度與計算效率，SE單元中的維數減少率T設置為16。

剩余壽命估計子網利用全局平均池化層從表示學習子網接收高維表示，最后第D個可分離卷積設計單元的2DN個輸入特征映射轉換為2DN大小的向量。通過全局平均池化實現降維與減少參數總數。通過利用全連接層作為DSCN 的輸出層來實現RUL估計。

4 實例驗證

4.1 數據來源

實驗數據為滾動軸承加速壽命臺架試驗采集的振動加速度數據，它來源于IEEE 2012年的PHM數據挑戰賽[6]。數據集包含3種工況條件，17個滾動軸承的全生命周期振動數據。使用加速度傳感器采集垂直和水平方向的振動加速度。數據采樣間隔為10s，采樣率為25.6kHz，持續時間為0.1s；因此，每條采集數據包含2560數據點，共2803條采集數據。描繪了工況一條件下的水平振動信號信息，如圖3所示。工況一與工況二各有8和6個數據集，4和2個數據集作為訓練數據集；工況三有3個數據集，都作為測試數據集。采集水平和垂直振動信號作為DSCNN的輸入。

圖3 原始振動信號Fig.3 Original Vibration Signal

在DSCNN網絡模型中，首先設計超參數包括信道卷積核大小A×1、點卷積核數目D、池化大小p、SE單元的降維比例t和可分離卷積設計單元數目N。為了得到可靠穩定模型與預測精度，通過對訓練數據集進行10折交叉驗證來設計參數。設計時間單元長度為6，處理歸一化振動信號。時間信息單元將連續采樣時間點處獲得的振動信號映射成高維向量，然后將該向量作為映射輸入DSCN中，包含7175680個數據點，輸入量大小為43054080×1×2。模型訓練過程中損失函數采用均方誤差（MSE），利用優化器迭代更新網絡權值和偏差，使MSE損失函數最小化。

4.2 結果驗證

時間單元大小的增加使得RUL預測更加準確，同時減少了RUL估計值的波動，網絡模型深度和寬度設置平衡了精度和計算時間。標準卷積、可分卷積預測網絡具有與DSCNN相同的架構和超參數設置。與標準卷積相比，可分離卷積減小了82%模型參數，從而降低了計算成本；與可分離卷積相比，壓縮激勵單元的引入只增加了5%的參數具體，如表1所示?？煞志矸e與深度可分卷積預測網絡模型的性能估計結果，如圖4、圖5所示。通過充分分離時間相關性和跨通道相關性，DSCNN在精度和計算復雜度方面優勢非常明顯。

表1 模型參數對比Tab.1 Comparison of Model Parameters

圖4 可分卷積模型預測結果Fig.4 Separable Convolution Model Prediction Results

圖5 深度可分卷積模型預測結果Fig.5 Prediction Results of Deep Separable Convolution Model

4.3 結果分析

分析四種現有常用預測方法用來預測所測試軸承的剩余使用壽命。五種模型的剩余壽命預測，如圖6 所示。分析結果可知。深度學習模型DBN、CNN、LSTM和DSCN明顯優于傳統的機器模型支持向量機SVM，深度學習網絡模型對軸承退化特征信息表征能力較強，能夠更好地挖掘有價值的軸承退化信息，建立更準確的RUL預測模型。此外，設計的DSCNN在所有深度預測模型中獲得較高的預測精度，這表明DSCNN能提供最準確的RUL估計結果。因此，提出的DSCNN方法在軸承剩余壽命預測方面優于其他四種預測方法。所提出的DSCNN 具有較高的RUL 預測精度，優于傳統的數據驅動方法和典型的深度學習模型。

圖6 模型預測對比Fig.6 Comparison of Model Predictions

5 結論

（1）DSCNN 與傳統的方法對比，DSCNN 直接利用原始多傳感器數據作為輸入，避免了人工特征提取所需的先驗知識和專業知識，減少了人工參與環節，提高了壽命預測精度。（2）改進DSCNN結構充分分離時間相關性和跨通道相關性，捕捉不同傳感器數據故障在不同部件之間的傳播和相互作用，減少了訓練模型數據，提高精度。（3）引入信息特征響應自動調節單元，對數據映射所需超參數減少，減少計算機利用空間，提高計算效率。