基于分層特征注意力解耦的農機軸承故障診斷

摘要：鑒于農機設備實際運行中的工況具有時變性，提出一種基于分層特征注意力解耦的農機軸承故障診斷算法。利用長短時記憶神經網絡改進的Transformer網絡作為主干網絡，并按照Transformer的Multi-head機制構造農機軸承故障數據的分層特征集；利用交叉注意力機制挖掘不同層特征間的關聯關系，強化農機軸承故障特征的表達能力；借助農機軸承故障診斷多標簽將混合特征解耦為多個獨立的軸承故障特征集，并利用解耦后的特征預測對應的標簽，實現待測農機軸承故障類型的診斷。結果表明，所提出的模型可以實現平均96.58%的識別精度，并且可以細粒度地對多種軸承故障進行診斷。

關鍵詞：農機軸承；故障診斷；分層特征；交叉注意力；特征解耦

中圖分類號：TP391

文獻標識碼：A

文章編號：2095-5553 （2024） 05-0140-07

收稿日期：2023年7月22日" 修回日期：2023年8月19日*基金項目：國家自然科學基金（51575498）

第一作者、通訊作者：邢清桂，女，1982年生，河北唐山人，碩士，高級講師；研究方向為農業機械工程、智慧農業。E-mail： xingqgui@sina.com

Fault diagnosis of agricultural machinery bearing based on hierarchical

feature attention decoupling

Xing Qinggui1， Wu Kai2， Zhou Hongbin3

（1. Hebei Locomotive Technician College， Tangshan， 064000， China; 2. Hebei Light Structural Equipment

Design and Manufacturing Technology Innovation Center， Qinhuangdao， 066004， China;

3. School of Mechanical and Power Engineering， Zhengzhou University， Zhengzhou， 450001， China）

Abstract：

In view of the time-varying working conditions in the actual operation for agricultural machinery equipment， a fault diagnosis algorithm of agricultural" machinery bearing based on hierarchical feature attention decoupling was proposed. Firstly， a Transformer network improved by Long Short-Term Memory （LSTM） neural network was used as the backbone network， and a hierarchical feature set of agricultural machinery bearing fault data was constructed according to the Multi-head mechanism of Transformer. Then， a cross-attention mechanism was employed to explore the correlations between different layers of features， and enhance the expression ability of agricultural machinery bearing fault features. Finally， by employing the multi-label diagnosis of agricultural" machinery bearing faults， the mixed features were decoupled into multiple independent sets of bearing fault features. The decoupled features were used to predict corresponding labels， and achieve the diagnosis of various types of agricultural machinery bearing faults. The experimental results showed that the proposed model can achieve an average recognition accuracy of 96.58% and can diagnose multiple types of bearing faults in a fine-grained manner.

Keywords：

agricultural machinery bearings; fault diagnosis; hierarchical feature; cross-attention; feature decoupling

0 引言

農業機械作為現代農業的重要支撐裝備，運行可靠性和穩定性對整個農業生產具有至關重要的意義。農機設備故障診斷技術成為農機維修和保養的重要環節，而農機軸承故障是導致農機設備損壞的主要原因之一［1， 2］。近年來，隨著人工智能技術的快速發展，利用人工智能技術實現農機軸承故障的自動診斷得到廣泛關注［3， 4］。然而，農機設備在實際運行中的工況有時變性，傳統使用混合特征難以精確識別出每一種故障，使得現有的農機軸承故障診斷算法面臨很大的挑戰。因此，利用人工智能技術實現農機軸承故障的自動診斷對推動農業信息化建設、智慧農業發展具有重要的研究意義與實際應用價值。

傳統的農機軸承故障診斷主要借助專家經驗，通過聽音、觀察和檢查等方式進行故障診斷［5， 6］。然而，該類方法具有很大的局限性，不僅容易誤判和漏判，而且專家維修費用高昂，且難以推廣應用。近年來，隨著深度學習相關理論與技術的快速發展，利用深度學習相關技術解決農機軸承故障成為智慧農業領域新的研究熱點。如劉振華等［7］針對信息利用不充分的問題，提出了一種結合不同尺度的滾動軸承故障診斷新方法，通過提取軸承振動信號的全局和局部特征建立決策模型，在開源的多個數據集上進行測試，試驗結果也驗證了所設計模型的有效性。趙小強等［8］針對傳統卷積神經網絡提取的特征魯棒性不強問題，提出了一種多特征融合的機械軸承故障診斷方法，主要借助Swin Transformer提取了軸承在局部空間中的特征。類似地，徐碩等［9］從特征提取角度改善現有機械軸承故障診斷效果不佳的問題。蘇樹智等［10］借助全局和局部特征來增大不同類之間的距離，縮小類間距離，有效提高了特征表達的魯棒性，通過在開源數據集上進行測試，試驗結果也驗證了所設計模型的有效性。Bian等［11］借助熵理論提出了一種基于度量學習的農機軸承振動信號復雜性和隨機性方法，通過緩解振動信號的噪聲干擾，有效增強了特征的魯棒性，通過在多個數據集上進行測試，驗證了所設計模型的高效性，并且該方法在軸承故障診斷中得到了廣泛應用。

雖然，上述模型可以有效檢測出農機軸承的故障，并輔助人工進行故障類型的診斷；然而，該類基于深度神經網絡的故障診斷模型主要利用混合特征集建立診斷模型，并且僅對故障與健康狀態進行二分類，極易導致故障漏報或誤報。

為此，本文針對上述混合特征噪聲干擾大導致的診斷精度不佳問題，提出一種基于分層特征注意力解耦的農機軸承故障診斷新方法。首先，利用長短時記憶神經網絡改進的Transformer網絡為主干網絡，將農機軸承故障數據映射到深度特征空間；然后，利用Transformer的Multi-head機制建立分層特征集，并采用注意力機制強化特征的表達的魯棒性；最后，根據農機軸承故障診斷多標簽將混合特征進行解耦，并利用解耦特征預測對應的農機軸承故障類型。

1 農機軸承故障診斷方法

本文提出基于分層特征注意力解耦的農機軸承故障診斷模型主要包括特征提取、關聯特征挖掘、特征解耦合故障診斷模塊。其中，在特征提取階段采用長短時記憶神經網絡（Long Short-Term Memory， LSTM）改進的Transformer網絡作為主干網絡，并借助Multi-head機制構造分層特征集；關聯特征挖掘模塊利用注意力機制挖掘分層特征的上下文語義關聯，強化特征表達的魯棒性；特征解耦模塊借助農機軸承故障診斷多標簽將混合特征分離為多個單一特征，并利用單一特征預測對應的標簽；故障診斷模塊利用softmax函數輸出對應故障的概率，并利用交叉熵損失函數優化網絡模型。

1.1 特征提取

1.1.1 Transformer

Transformer是一種可以直接處理時間序列的神經網絡結構，較好地緩解了長距離依賴編碼的問題［12］，在機器翻譯、情感分析和問答、長短期交通流預測等任務中取得了顯著的成效。受Transformer網絡在處理時序數據中的成功啟發，此處采用Transformer作為主干網絡，并借助Multi-head機制［13］構造分層特征集，網絡結構如圖1所示。

Transformer網絡由多個編碼塊堆疊而成，每個編碼快包含多頭注意力機制（Multi-head）。此處，利用每個編碼塊的單頭注意力機制的輸出特征構造分層特征集，具體計算如式（1）和式（2）所示。

zl=pos+En（el）

（1）

Fol=FFN（LN（zl））

（2）

式中：

pos——位置編碼；

En（·）——編碼塊；

el——農機軸承故障信號映射特征。

1.1.2 LSTM

得益于輸入門、輸出門和遺忘門的設計，長短時記憶神經網絡LSTM在時序信號處理方面具有顯著的優勢［14， 15］，圖2給出了長短時記憶神經網絡LSTM的內部結構。

2.2 試驗環境

所有試驗均在11th Gen Intel（R） Core（TM） i7-11700 @ 2.50GHz Windows 10操作系統上進行，編程語言采用Python，編輯器采用Pycharm，顯卡為NVIDIA RTX 3090 Ti 24GB。模型基于Pytorch深度學習框架，初始學習率為0.001，每迭代訓練50次學習率下降0.000 5，優化器采用Adam。

此外，為了分析不同Batch、Multi-head頭數、迭代次數對模型整體性能的影響，進行了對比試驗如圖6、圖7所示。可以看出，當Batch為12、head數為8、迭代次數為400時，模型的綜合診斷精度最佳，為此，后續所有試驗均設定Batch為12、head數為8、迭代次為600。

2.3 結果與分析

2.3.1 二分類結果

為驗證所提出模型的有效性，在相同的數據集和評價指標下與當前主流的基于時間序列的農機軸承故障診斷模型進行對比試驗，詳細結果如表2所示。

由表2可知，所提出模型相較于當前主流的基于時間序列的農機軸承故障診斷模型，在精準率Precision、召回率Recall和F1值方面，綜合優勢明顯。具體地，在Precision方面，相比Transformer模型，提升了3.47%；在Recall方面，提升了4.08%；在F1方面提升了2.86%。究其原因是：（1）所提出模型不僅集成了Transformer網絡在位置編碼階段的優勢，而且采用長短時記憶神經網絡LSTM改進了Transformer，進一步強化了模型在時間序列屬性上的特征捕獲能力，這有助于強化模型捕獲農機軸承振動信號的上下文時序特征；（2）所提出模型分別提取了每個注意力頭的特征，這有助于豐富軸承故障特征的表達；（3）采用特征解耦的方式緩解了混合特征噪聲大導致的誤報和漏報問題。

2.3.2 故障多分類結果

為了進一步驗證所設計模型在多種農機軸承故障數據集上的診斷效果，分別選擇當前經典的時間序列軸承故障診斷模型LSTM、GRU、RNN、BiLSTM、CNN和Transformer網絡進行對比試驗，詳細結果如表3～表5所示。

可以看出，所提出模型對外圈損壞（W）、保持架損壞（B）、滾動體損壞（G）、內圈損壞（N）和正常狀態（Z）的診斷精度均保持在95.00%以上，尤其是對于正常狀態的診斷效果最佳。主要原因是正常狀態的噪聲信息對模型的干擾較小，并且正常狀態的特征與故障特征的類間差異性較大。

此外，為了直觀展示所提出模型對于5種農機軸承狀態的診斷效果，給出圖8所示的混淆矩陣。

2.4 消融試驗

為分析不同組件在所提出的農機軸承故障診斷模型綜合性提升中扮演的角色，設計表6所示的消融試驗。此處，將僅利用LSTM網絡并利用Softmax函數組建的模型作為基線模型，所有試驗均基于正常與故障二分類數據集。

1） 在序號1-2、3-4、5-6、7-8和9-10組對比試驗中可以看出，特征解耦模塊對模型整體識別性能的提升效果顯著，主要原因是原始混合特征噪聲干擾較大，導致提取的混合特征魯棒性和泛化性能不強；解耦后的每維特征代指故障和正常狀態明確，有效緩解了噪聲的干擾。

2） 雖然使用單一LSTM或Transformer網絡可以診斷出部分農機軸承的故障，但僅考慮軸承振動信號的上下文時序或位置信息不足以充分表示軸承當前狀態信息，進而影響軸承診斷的性能。

3） 相比單頭注意力，多頭注意力更進一步地考慮不同Patch塊編碼特征間的上下文關聯，這有助于建立更魯邦和泛化的特征表示，增強模型細粒度地捕獲農機軸承的故障信號特征。

3 結論

本文探究基于時間序列機制的LSTM改進Transformer網絡對農機軸承故障特征的提取能力，并分析混合特征解耦對農機軸承故障診斷性能的影響，旨在緩解傳統農機軸承故障診斷模型提取的特征噪聲干擾大，導致診斷效果不佳的問題。通過在經典的滾動軸承6205-2RS數據集上進行測試。

1） 在經典的滾動軸承6205-2RS數據集上，所提出模型在二分類任務上可以實現97.58%的診斷精度；在軸承故障多分類任務上可以實現95.59%以上的診斷精度。

2） 所提出模型利用LSTM改進Transformer網絡，在保留農機軸承振動信號相鄰位置編碼的同時，強化模型對時序信號長距離建模的能力。

3） 雖然混合特征可以實現農機軸承故障與正常狀態的分類，但混合特征解耦的細粒度特征有助于提升模型對多種故障類型的診斷精度。

在未來工作中，將嘗試改進Transformer網絡，構造輕量級的主干網絡；利用因果卷積提取農機軸承故障在空間維度的時序特征，并利用時序特征和空間時序特征構造多尺度特征，進一步增強特征表達的魯棒性。

參 考 文 獻

［1］ Sadoughi M， Hu Chao. Physics-based convolutional neural network for fault diagnosis of rolling element bearings ［J］. IEEE Sensors Journal， 2019， 19（11）： 4181-4192.

［2］ Choudhary A， Mian T， Fatima S. Convolutional neural network based bearing fault diagnosis of rotating machine using thermal images ［J］. Measurement， 2021， 176： 109196.

［3］ Iunusova E， Gonzalez M K， Szipka K， et al. Early fault diagnosis in rolling element bearings： Comparative analysis of a knowledge-based and a data-driven approach ［J］. Journal of Intelligent Manufacturing， 2023， 4（2）： 1-21.

［4］ 張志宇， 章翔峰， 姜宏. 基于MCKD-NMD的滾動軸承故障診斷［J］. 組合機床與自動化加工技術， 2023， 592（6）： 93-96， 101.

Zhang Zhiyu， Zhang Xiangfeng， Jiang Hong. Research on fault diagnosis method of rolling bearing based on MCKD-NMD ［J］. Modular Machine Tool amp; Automatic Manufacturing Technique， 2023， 592（6）： 93-96， 101.

［5］ 李夢男， 李琨， 吳聰. 基于IWAE的不平衡數據集下軸承故障診斷研究［J］. 機械強度， 2023， 45（3）： 569-575.

Li Mengnan， Li Kun， Wu Cong. Research on bearing fault diagnosis under unbalanced data set based on IWAE ［J］. Journal of Mechanical Strength， 2023， 45（3）： 569-575.

［6］ Jun Zhu， Nan Chen， Changqing， et al. A new deep transfer learning method for bearing fault diagnosis under different working conditions ［J］. IEEE Sensors Journal， 2019， 20（15）： 8394-8402.

［7］ 劉振華， 吳磊， 張康生. 基于多尺度特征交叉融合注意力的滾動軸承故障診斷方法［J/OL］.軸承： 1-8［2024-05-11］. http：//kns.cnki.net/kcms/detail/41.1148.th.20230526.1718.002.html.

［8］ 趙小強， 郭海科. 多特征融合的滾動軸承故障診斷［J］. 農業工程學報， 2023， 39（13）： 80-88.

Zhao Xiaoqiang， Guo Haike. Fault diagnosis of rolling bearing using multi-feature fusion ［J］. Transactions of the Chinese Society of Agricultural Engineering， 2023， 39（13）： 80-88.

［9］ 徐碩， 鄧艾東， 楊宏強， 等. 基于改進殘差網絡的旋轉機械故障診斷 ［J］. 太陽能學報， 2023， 44（7）： 409-418.

Xu Shuo， Deng Aidong， Yang Hongqiang， et al. Rotating machinery fault diagnosis method based on improved residual networks ［J］. ACTA Energiae Solaris Sinica， 2023， 44（7）： 409-418.

［10］ 蘇樹智， 張茂巖， 方賢進， 等. 基于全局—局部歐拉彈性判別投影的旋轉機械故障診斷方法［J］. 振動與沖擊， 2023， 42（11）： 65-74.

Su Shuzhi， Zhang Maoyan， Fang Xianjin， et al. Fault diagnosis method of rotating machinery based on global-local Euler elastic discriminant projection ［J］. Journal of Vibration and Shock， 2023， 42（11）： 65-74.

［11］ Bian Jun， Jing Laixing， Liu Yanqiu. Application and optimization of entropy in diagnosis for agricultural machinery bearing fault ［C］. International Conference on Agri-Photonics and Smart Agricultural Sensing Technologies （ICASAST 2022）. SPIE， 2022， 12349： 112-119.

［12］ Liu Wenkai， Zhang Zhigang， Zhang Jiarui， et al. A novel fault diagnosis method of rolling bearings combining convolutional neural network and transformer ［J］. Electronics， 2023， 12（8）： 1838.

［13］ 王譽翔， 鐘智偉， 夏鵬程， 等. 基于改進Transformer的復合故障解耦診斷方法［J］. 浙江大學學報（工學版）， 2023， 57（5）： 855-864.

Wang Yuxiang， Zhong Zhiwei， Xia Pengcheng， et al. Compound fault decoupling diagnosis method based on improved Transformer ［J］. Journal of Zhejiang University （Engineering Science）， 2023， 57（5）：855-864.

［14］ Wang Yuxiang， Zhong Zhiwei， Xia Pengcheng， et al. Compound fault decoupling diagnosis method based on improved transformer ［J］. Journal of Zhejiang University （Engineering Science）， 2023， 57（5）：855-864.

［15］ Jin Guoqiang， Zhu Tianyi， Akram M W， et al. An adaptive anti-noise neural network for bearing fault diagnosis under noise and varying load conditions ［J］. IEEE Access， 2020， 8： 74793-74807.

［16］

Sun Haibin， Fan Yueguang. Fault diagnosis of rolling bearings based on CNN and LSTM networks under mixed load and noise ［J］. Multimedia Tools and Applications， 2023，