正交約束域適應的跨工況滾動軸承剩余使用壽命預測方法

韓 延 林志超 黃慶卿* 向 敏 文 瑞 張 焱

①(重慶郵電大學自動化學院 重慶 400065)

②(重慶郵電大學工業互聯網研究院 重慶 401122)

1 引言

滾動軸承是機械設備中易受損部件之一，其健康狀況直接影響到整個設備的運轉狀態。因此，對軸承的剩余使用壽命進行有效預測將有利于避免嚴重威脅生命和財產安全的事故發生[1-3]。

基于深度學習的軸承剩余使用壽命預測方法在近幾年取得快速發展。如：Wang等人[4]結合卷積神經網絡和長短期記憶神經網絡，提取軸承的時序特征和空間特征，對滾動軸承進行壽命預測；Yang等人[5]將振動信號分解為固有尺度分量，并選擇有效的分量重構信號并建立特征集，然后利用灰色回歸模型修復通過融合改進的獨立分量和馬氏距離計算的退化指標得到健康指標并訓練模型實現軸承的剩余使用壽命預測；Ding等人[6]利用C均值聚類將軸承的全壽命數據分為正常運行、輕微退化、嚴重退化3階段，并用粒子群算法優化網絡，實現剩余使用壽命預測。上述方法能夠對同一種工況下軸承的剩余使用壽命進行有效的預測，然而在實際應用中，大多數軸承在不同的工況下運行，跨工況條件下數據分布的差異導致剩余使用壽命(Remain Useful Life, RUL)預測模型的預測性能急劇下降[7]。

在跨工況條件下，可通過挖掘源域特征和目標域特征之間的相似性關系，將源域的知識應用于目標域，提高目標域軸承RUL預測精度[8,9]。如：Hu等人[10]通過多個自編碼器提取源域和目標域軸承的私有特征和公共特征，并將公共特征進行領域適應實現RUL預測；Cheng等人[11]通過可轉移特征注意力和可轉移實體注意力對目標域特征進行加權，提高了目標域軸承RUL預測精度；Zou等人[12]通過重建的退化指標提取具有顯著特征的退化樣本，并輸入到多域對抗網絡以實現特征轉移，最后通過雙向長短期記憶網絡(Bi-directional Long Short-Term Memory, Bi-LSTM)實現RUL預測。上述方法在跨工況條件下的軸承剩余使用壽命預測取得了一定的結果，但是上述方法在對齊源域和目標域數據時，只是通過距離度量拉近兩個域的數據分布，未考慮決策邊界模糊的問題，導致邊界周圍的樣本依然難以實現有效預測；并且目標域軸承樣本沒有對應的標簽，目標域樣本的特征不能實現與真實RUL之間的映射，不同樣本可能會被提取出相同或相近的特征，從而導致不同樣本預測出相同的RUL。

為解決上述問題，本文提出一種正交約束的最大分類器差異方法 (Maximum Classifier Discrepancy network with Orthogonal Constraints,MCD_OC)。針對現有域適應方法的模型決策邊界模糊的問題，使用最大分類器差異方法對源域和目標域特征進行領域適應。針對目標域軸承無標簽導致難以提取反映軸承退化趨勢的特征，在訓練時對每個mini-batch的目標域特征正交約束，以增強不同剩余壽命狀態下樣本特征的可辨識性。最后，基于PHM2012數據集構建多個跨工況軸承剩余使用壽命預測實驗，論證所提模型的有效性與穩定性。

2 域適應描述

遷移學習是一種能夠將現有知識應用于相關領域的方法。在遷移學習中被遷移的領域稱為源域(Source domain)，待學習的領域稱為目標域(Target domain)。源域獲取的數據集 {,}中，共有Ns個樣本，是樣本對應的標簽。源域中的樣本來自樣本空間χs，標簽來自空間ys，即∈χs,∈ys，數據分布服從P(χs)。目標域獲取的數據{}中，包含Nt個樣本，樣本來自于樣本空間χt，數據分布服從Q(χy)，并且Q≠P。

域適應是遷移學習的分支，能夠充分利用源域和目標域與數據，從而解決兩個域特征分布不一致的問題。通過源域的帶標簽數據訓練模型，建立樣本空間χs到 源域樣本標簽ys的 非線性映射關系f:χs→ys，在源域上學習知識。為減小源域和目標域的數據分布存在的差異，適配源域與目標域的數據分布，使模型在源域學習到的知識應用于目標域。

3 MCD_OC的軸承剩余壽命預測方法

目前大部分領域適應方法都是通過不同的度量方法度量兩個分布的距離，或通過混淆域判別器將兩域的特征對齊。然而對齊的結果只是拉近兩個域的特征分布，沒有考慮模糊的決策邊界對預測造成的影響，處于邊界周圍的樣本依然難以預測。此外，軸承不同退化程度的樣本的特征存在差異，而目標域上存在的某些相似的樣本特征可辨識性低，模型難以識別。

為解決上述問題，本文提出MCD_OC方法，通過最大分類器差異將源域和目標域的特征進行領域適應，同時為保證提取出能夠反映目標域軸承退化的特征，求取點積作為損失優化網絡參數，使目標域軸承特征保持正交。

3.1 最大分類器差異

如圖1所示，普通域適應方法為減小源域和目標域的差異，只是將兩個域的特征拉到相同的分布下，但是兩個域的分布可能不能夠準確對齊，會出現決策邊界模糊的問題。由于模型已充分學習源域上的知識，因此能夠準確預測源域上的樣本，然而對目標域的樣本預測時，模糊的決策邊界導致分類器難以準確預測其RUL。為減小模糊的決策邊界對RUL預測造成的影響，本文引入最大分類器差異[13]。通過兩個不同的分類器預測的目標域樣本RUL，得到分類器差異損失 Lossdisc，再使用 Lossdisc交替訓練特征提取器和分類器，不斷優化模型的特征提取能力和決策邊界，拉近源域和目標域之間的距離。優化方法分為以下3步：

圖1 普通的域適應方法和最大分類器差異

首先在源域數據上對軸承剩余壽命預測模型訓練，構建對軸承剩余壽命的預測能力，以向目標域提供可遷移的預測知識

其中，Ns是源域樣本的個數，為源域上第i個樣本，F(·) 為模型的特征提取器，C1(·)和C2(·)為模型的兩個分類器，通過特征提取器和分類器得出兩個RUL預測結果C1(F())和C2(F()，并與真實RUL標簽計算損失 Lossreg1和 Lossreg2，優化整個網絡。

然后，在保證模型的預測精度的同時，引入分類器差異損失L ossdisc增大兩個分類器的差異，即最大化L ossdisc優 化分類器。分類器差異損失 Lossdisc表示為

最后，為提高特征提取器的特征提取能力，最小化 Lossdisc并優化特征提取器。通過 Lossdisc優化特征提取器，使特征提取器能夠提取出表達能力更強的特征，以減小兩個不同分類器對難預測樣本預測的分歧。

3.2 正交約束

使用源域有標簽數據訓練模型，模型學習到源域數據的特征，然后分類器通過建立特征和標簽之間的映射關系，能夠準確預測源域上軸承的RUL。然而目標域軸承的樣本沒有剩余壽命標簽，模型不能直接構建特征與RUL之間的映射，因此經過無監督訓練后模型的特征提取器依然可能難以提取能夠反映目標域軸承的退化特征。軸承的壽命預測中，不同的樣本對應不同的剩余使用壽命，因此將不同的樣本表示為不同的類。如圖2所示，對目標域特征施加正交約束，在一定程度上強制特征之間保持正交，能夠增大類間的距離[14]，從而增大樣本之間的差異，確保不同樣本的可辨識性。分類器根據存在差異的不同樣本的特征，能夠避免混淆不同樣本。

圖2 對目標域特征正交約束增大特征差異

通過特征提取器能夠提取軸承的深層特征，并沿batch維度將每個mini-batch中目標域深層特征z等分為兩組樣本特征集(z′和z′′)，進而基于劃分的兩組樣本特征集，進行樣本特征間的點積運算求得正交約束損失Lossoc

其中，nz′和nz′′為z′和z′′中各自的樣本特征數量。是z′中第i個樣本特征，是z′′中第j個樣本特征。將z′和z′′的所有樣本間的點積均值作為 Lossoc。通過最小化 Lossoc，優化特征提取器參數，對提取的特征正交約束，增大特征之間的差異。

3.3 壽命預測模型

網絡結構如圖3所示，主要由特征提取器F(·)、分類器C1(·) 和分類器C2(·)組成。其中，特征提取器F(·)由卷積神經網絡 (Convolutional Neural Networks, CNN)和門控循環單元(Gate Recurrent Unit, GRU)構成，通過CNN提取輸入軸承的空間特征，連續的空間特征堆疊成時間序列，將提取的源域和目標域特征領域適應，同時在訓練時對目標域特征正交約束，增大不同樣本特征間的可辨識性。

圖3 MCD_OC 網絡結構

用θF,θC1,θC2表示特征提取器、分類器C1、分類器C2的參數，ε,δ,η為學習率。

首先用大量源域數據訓練模型，提高模型在源域上的RUL預測精度，此時，模型的總損失Lossall1為

此時的優化目標

然后最大化分類器之間的差異，α為 Lossdisc的系數。模型的總損失 Lossall2為

此時優化目標為

最后，為保證特征提取器能夠提取出表達能力更強的特征，減小分類器預測結果的差異，最小化Lossdisc。同時，為了增大目標域特征的差異，最小化L ossoc，優化特征提取器。其中β為 Lossdisc的系數，γ為 Lossoc的系數。模型總損失 Lossall3為

優化目標為

4 MCD_OC跨工況軸承RUL預測流程

MCD_OC方法預測流程如圖4所示，分為3個步驟：振動信號采集與數據預處理；模型的建立與訓練；軸承RUL預測性能驗證。

圖4 正交約束域適應的跨工況滾動軸承剩余使用壽命預測方法流程

(1) 振動信號采集與數據預處理：采集振動信號，對源域上采集的軸承振動信號標記剩余使用壽命標簽，提取源域和目標域軸承振動信號的頻域特征。

(2) 模型的建立與訓練：建立模型，用帶標簽的源域樣本和無標簽的目標域樣本訓練模型。將源域和目標域軸承的特征領域適應，使模型具有目標域樣本壽命預測能力。

(3) 軸承RUL預測性能驗證：用經訓練的模型測試目標域測試集，將兩個分類器得出的預測結果求取平均值，作為模型預測結果，分析所提方法的性能并與對比方法進行對比，證明模型的有效性和穩定性。

5 實驗驗證

5.1 實驗數據集介紹

本文采用PHM2012挑戰數據集[15]驗證所提模型的性能，該數據集由PRONOSTIA實驗臺提供，包含加速度傳感器采集的17組軸承的全壽命周期振動信號。信號的采樣頻率為25.6 kHz，采樣間隔10 s，每次采樣時間0.1 s，當振動信號的幅值超過20 g時設定軸承失效，停止采樣。用軸承剩余壽命占全壽命的比值作為樣本的標簽，如式(11)所示

其中，yi為第i時刻的剩余使用壽命，T為軸承從開始運行到直到失效所用時間。

實驗數據集包括3種不同的工況，各軸承的運行情況如表1所示。數據集劃分如表2所示，通過6個預測任務評估模型性能，分別為工況1分別域適應學習工況2 、工況3；工況 2分別域適應學習工況1、工況3；工況3分別域適應學習工況1、工況2。6個預測任務的訓練集包含源域的有標簽數據和目標域的無標簽數據，測試數據集包含目標域未標記數據。

表1 軸承運行的3種不同工況

表2 MCD_OC試驗數據集

5.2 數據預處理

采集軸承原始振動信號后，利用快速傅里葉變換將時域信號轉換為頻域信號作為模型的輸入，此時每個時刻的頻域信號包含128 0維特征。軸承時域信號和歸一化后的頻域信號如圖5所示。為充分利用數據之間潛在的時序信息，將連續n個時刻振動信號的頻域特征作為模型的輸入，xi表示第i時刻信號的頻域特征，此時模型每個樣本Xi=(xi,xi+1,...,xi+n) ， 表示第i時 刻到第i+n時刻信號的頻域特征。數據集經重新排列后為

圖5 軸承2-1的時域信號和歸一化后的頻域信號

5.3 模型參數設置

本文所提模型參數如表3所示。特征提取器F(·)由3層1維卷積層、3層池化層和1層GRU組成，分類器C1(·),C2(·)都由3層全連接層組成，并且結構相同。由Adam優化器對網絡的參數更新，學習率為0.000 2，訓練批次大小為50，重復訓練網絡次數40次。為了減小隨機性對實驗結果的影響，本節中所有實驗均獨立重復3次。

表3 模型參數

5.4 實驗結果與對比分析

為驗證本文所提方法對于軸承壽命預測的有效性和穩定性，將模型與深度域混淆網絡(Deep Domain Confusion, DDC)[16]、域對抗遷移網絡(Domain Adaptive Neural Network, DANN)[17]、最大分類器差異網絡(Maximum Classifier Discrepancy for Unsupervised Domain Adaptation, MCD_DA)[13]、相關對齊網絡(Correlation Alignment for Deep Domain Adaptation, CORAL)[18]、正交約束深度域混淆網絡(Deep Domain Confusion with Orthogonal Constraint, DDC_OC)方法進行對比，DDC_OC通過最大均值差異將源域和目標域的特征對齊的同時，對目標域特征正交約束。每個模型涉及相同模塊的參數結構相同，6組實驗結果如圖6所示，圖中橫坐標為時間，縱坐標為剩余壽命量化指標。

圖6 不同方法在不同任務下的軸承壽命預測結果對比

為了定量分析本文提出MCD_OC方法的有效性和穩定性，本文采用平均絕對誤差(Mean Absolute Error, MAE)、均方根誤差(Root Mean Squared Error, RMSE)衡量3組實驗的RUL預測結果。MAE和RMSE的計算公式如式(13)、式(14)所示

其中，yi表示RUL標簽，y?i表示模型的RUL預測結果，N為測試集樣本數量。

不同方法在不同任務中的MAE和RMSE的結果統計如表4所示。在部分任務中，DDC和DANN取得了一定的預測效果，但是在某些工況下的預測誤差大，預測精度仍然需要進一步提高。CORAL通過將2階統計量對齊，對比DDC和DANN，在C13任務中取得了最優結果，然而在C32任務中，預測誤差在所有的方法中最大。通過對目標域特征進行正交約束，對比DDC， DDC_OC在5組實驗中取得更優的MAE和RMSE結果，在C13, C21,C23實驗中，MAE分別降低了0.038, 0.04, 0.017，RMSE分別降低了0.02, 0.035, 0.027，模型的預測能力明顯上升。DDC,DANN,CORAL方法由于沒有考慮到決策邊界模糊的問題，因此平均MAE和RMSE均劣于MCD_DA。本文結合正交約束和最大分類器差異方法，在對目標域特征正交約束的條件下，增大了不同樣本特征之間的可辨識度，同時解決了決策邊界模糊的問題，在多組任務下取得了較優的結果。在不同的任務中，源域和目標域的數據分布存在差異，導致域適應任務存在差異性和不確定性，難以確保所有的任務都能取得最優的結果。雖然本文所提方法在C13中未取得最優結果，綜合所有任務的MAE和RMSE，能夠反映出本文方法具有更強的穩定性和有效性，對跨工況軸承剩余使用壽命具有一定預測能力。

表4 MCD_OC和對比模型的預測結果

6 結束語

針對跨工況條件下分類器決策邊界模糊、目標域特征難以區分，導致跨工況條件下軸承剩余使用壽命預測精度低的問題，本文提出了一種正交約束域適應的跨工況滾動軸承剩余使用壽命預測方法。利用最大分類器差異將源域和目標域的特征分布對齊，解決了分類器決策邊界模糊的問題，同時，通過正交約束增大特征之間的差異，加強特征的可辨識度，提高了目標域軸承的預測精度。最后，基于軸承壽命數據集開展了跨工況軸承壽命預測對比實驗，本文所提正交約束域適應方法取得了最佳的平均MAE和RMSE結果，論證了本文所提方法在綜合性能上具有更強的泛化性和穩定性。

本文所討論的各跨工況滾動軸承剩余使用壽命預測方法均假設目標域軸承數據集為全壽命數據集，在實際應用場景，獲取某些工況下軸承的全壽命數據集十分困難，因此，在后續的工作中擬開展在不具備全壽命數據集條件下的跨工況滾動軸承剩余使用壽命預測方法研究。