基于Stacking的雷達伺服系統故障診斷

王智 吳俊盼 魏海坤

摘 要：為了提高南京某所某型雷達伺服系統故障診斷準確率，考慮到傳統故障診斷算法的局限性，提出一種基于Stacking集成算法的雷達伺服系統故障診斷方法。針對某所某型雷達伺服系統的歷史監測數據，首先采用孤立森林算法識別異常樣本;然后基于原始數據構造出新的特征，使用卡方檢驗進行特征選擇，并使用SMOTE算法解決樣本不平衡問題;最后，通過建立一種新穎、準確的基于XGBoost、隨機森林和BP神經網絡的Stacking集成模型進行故障診斷。實驗結果表明，該方法在測試集上的診斷準確率達到了96.2%，比傳統方法診斷準確率提高了1.8%，證明該方法能夠很好地完成雷達伺服系統故障診斷任務。

關鍵詞：雷達伺服系統;故障診斷;異常檢測;特征工程;Stacking

DOI：10. 11907/rjdk. 192683 開放科學（資源服務）標識碼（OSID）：

中圖分類號：TP303文獻標識碼：A 文章編號：1672-7800（2020）008-0006-04

Abstract： In order to improve the accuracy of fault diagnosis for a certain type of radar servo system in a research institute in Nanjing， with the consideration of the limitations of traditional fault diagnosis algorithms， a fault diagnosis method of radar servo system based on Stacking integrated algorithm is proposed. Aiming at the historical monitoring data of a certain type of radar servo system， we first use the isolated forest algorithm to identify abnormal samples. Then， new features are constructed based on the original data， feature selection is performed bt using Chi-square test， and sample imbalance is solved by using SMOTE algorithm. Finally， a novel and accurate Stacking integrated model based on XGBoost， random forest and BP neural network is established for fault diagnosis. The experimental results show that the diagnostic accuracy of the traditional method on the test set is up to 94.4%， and the diagnostic accuracy of the method proposed in this paper reaches 96.2%， which is 1.8% higher than the traditional method. The method proposed in this paper can well complete the fault diagnosis task of radar servo system.

Key Words： radar servo system;fault diagnosis;abnormal detection;feature engineering;Stacking

0 引言

隨著國防科技的飛速發展和社會需求的不斷增長，雷達系統在我國國防建設和國民經濟中發揮著越來越重要的作用。伴隨著雷達技術的日益進步，雷達系統的復雜程度越來越高，雷達系統的穩定性和可靠性也越發重要，快速且準確地實現雷達系統的故障診斷成為亟待解決的問題[1]。雷達伺服系統作為雷達系統的一個重要子系統，其故障診斷研究十分重要。目前，傳統故障診斷算法診斷速度較慢、診斷準確率不高，難以應對越來越復雜的雷達系統。因此，設計一套高效且準確率高的故障診斷算法尤為必要。

近年來，人工智能技術飛速發展，其在故障診斷領域的應用不斷深入。文獻[2]采用IRN神經網絡模型進行雷達天線伺服系統故障診斷，解決了雷達天線伺服系統故障診斷準確率不高的問題，但是該方法對樣本數據質量要求較高且診斷準確率提升不夠明顯;文獻[3]采用異常檢測算法和SVM算法進行故障診斷，解決了對樣本數據質量要求過高的問題，但是該方法故障診斷的準確率存在瓶頸，診斷結果不能達到預期;文獻[4]采用Adaboost-SVM的方法進行故障診斷，一定程度上解決了故障診斷準確率存在瓶頸的問題，但是該方法沒有進行針對性的特征工程處理，并且在集成模型選擇和優化方面做得不夠深入，故障診斷準確率還有一定提升空間;文獻[5]采用隨機森林模型進行故障診斷，模型預測準確率較高，但缺少模型融合研究;文獻[6]采用隨機森林模型和XGBoost模型進行故障診斷，通過模型融合進一步提升了故障診斷準確率，但是該方法模型間融合較為簡單，模型集成研究不夠深入。

以上方法都未在特征工程和模型集成上進行深度優化，本文通過針對性的特征工程處理和Stacking集成算法，對特征工程和模型集成兩個方面進行深度優化，并結合異常檢測算法，提出一套新穎、高效的雷達伺服系統故障診斷方法。該方法彌補了故障數據特征表述單一和對故障數據質量要求過高的問題，優化了雷達伺服系統故障診斷模型，改進了雷達伺服系統故障診斷準確率。

1 數據預處理

雷達伺服系統的歷史監測數據會由于設備老化、操作失誤和傳感器故障等原因，造成數據異常。因此，在進行特征工程之前需要對數據進行異常值檢測[7]。孤立森林模型（Isolation Forest，IF）是一種適用于連續型數據的無監督異常檢測算法，該算法通過判斷樣本點的孤立性檢測異常值[8]，具有較好的魯棒性。本文采用該算法對雷達伺服系統的歷史監測數據進行異常值檢測。

2 特征工程

目前，常見故障診斷算法往往都忽視特征工程的重要性，通常將原始特征直接注入模型中。本文基于原始特征構造出一些新的特征，使得數據對故障的描述更加完備。

根據雷達伺服系統歷史監測數據，能夠基于時間維度挖掘出一些新的特征，主要包括兩個方面：歷史值和歷史變化率。某所某型雷達伺服系統的運行監測數據共有53項狀態參數，每隔5分鐘記錄1次。在歷史值方面，將本次監測數據、5分鐘前的監測數據和10分鐘前的監測數據加入原始數據作為新的特征。在歷史變化率方面，將本次監測數據與5分鐘前監測數據的差值以及5分鐘前監測數據與10分鐘前監測數據的差值作為新的特征加入原始數據。經過處理，得到數據特征維度為265維。加入這兩類特征使得故障數據本身具備一定的時間序列特性，可描述故障產生的過程，使得數據對故障的描述更加完備。

3 算法模型

目前，雷達系統故障診斷方法是支持向量機算法[12]，但其存在3點不足：處理多分類問題較為困難、在大規模樣本上訓練困難、對參數和核函數的選擇十分敏感。同時，單分類器的預測精度往往存在瓶頸，很難達到令人滿意的準確率。針對如上問題，本文在雷達伺服系統故障診斷領域中提出一種新模型：結合XGBoost、隨機森林和BP神經網絡的Stacking模型。該模型充分吸收了3種模型的優點，通過集成算法將這3種模型相結合，預測精度得到了大幅提升。

3.1 基分類器

極限梯度提升樹（eXtreme Gradient Boosting， Xgboost）、隨機森林（Random Forest，RF）和人工神經網絡（Artificial Neural Network，ANN）都是十分優秀的機器學習模型，在工程實踐中獲得了廣泛應用。本文將這3種模型作為最終基分類器。

XGBoost算法是梯度提升樹算法（Gradient Boosting Decision Tree，GBDT）的一種高效實現，是Boosting算法的一種，其基學習器通常為分類回歸樹（Classification and Regression Tree，CART），基本思想是將多個CART樹的預測結果相加作為最終預測結果。該算法支持并行計算，模型預測準確率高[13-14]。

隨機森林算法是一種常用的Bagging模型。該算法采用自助采樣方法從原始數據中抽取多個Bootstrap樣本，然后分別對每個Bootstrap樣本構建決策樹，最終預測結果為各決策樹的預測均值。該算法不需要特征選擇、訓練速度快、可實現并行計算、泛化性能好[15-16]。

BP神經網絡[17]是一種多層前饋神經網絡，一般由輸入層、隱含層、輸出層構成，其基本原理是通過梯度搜索技術使得模型預測值和實際值誤差最小。該算法非線性映射能力強，具有高度的自學習和自適應能力[17]。

3.2 模型集成

集成算法是一種非常強大的機器學習方法，該方法將幾種機器學習算法組合成一個元算法以獲得縮小方差、降低偏差或改進預測的效果。集成算法主要分為3類：Boosting、Bagging和Stacking。考慮到Stacking方法在改進預測準確率方面表現優異[18]，本文采用該方法進行算法集成。該算法共有兩層，第一層將故障樣本訓練數據分成5份，使用每一種基模型對數據集進行5折交叉驗證，第二層利用第一層的預測結果作為訓練數據，繼續進行訓練，得到最終結果。

以XGBoost模型為例，將雷達伺服系統歷史故障檢測數據中的訓練集切分為5份，分別選擇1份作為測試集，其余4份作為訓練集，共得到5份訓練數據和測試數據。對于這5份數據，訓練5個不同的XGBoost模型，使用5個同類模型分別預測對應的測試集并得到對應的預測結果，再將這5份預測結果合并在一起得到訓練集完整的預測結果。在測試集上，分別使用5個已經訓練好的XGBoost模型進行預測，通過投票選出最終預測結果。同理，隨機森林和神經網絡兩種基模型也使用同樣的步驟訓練模型。最終將3種模型的預測結果合并，將最終合并結果作為第二層模型的特征。集成模型如圖1所示。

對于第二層輸入而言，其輸入特征發生了變化，不再是原始數據特征，而是第一層3種模型預測結果的合并數據。考慮到邏輯回歸模型（Logistics Regression，LR）具有計算代價小和魯棒性好等優點[19]，本文在Stacking算法的第二層采用邏輯回歸模型繼續進行訓練。當Stacking集成模型的兩層模型都訓練完畢時，可得到最終預測模型。

4 實例分析

基于2016年5月-2019年7月某所某型雷達伺服系統歷史監測數據中的故障數據，采用本文提出的故障診斷算法進行處理。其中，XGBoost模型使用Python的機器學習庫XGBoost[20]加以實現，隨機森林模型、BP神經網絡模型和邏輯回歸模型都是通過TensorFlow實現[21]。故障診斷具體流程如圖2所示。

某所某型雷達伺服系統共計有53個監測點，記錄間隔為5分鐘。某型雷達的測試點分布在4個區域，分別為天線控制單元、雷達驅動單元、時序控制單元和軸角編碼器。其中，天線控制單元有14個測試點，天線驅動單元有11個測試點，時序控制單元有19個測試點，軸角編碼器有9個測試點。故障類別如表1所示。

首先使用孤立森林算法對原始數據進行異常點檢測并去除異常值，然后將該故障數據前5分鐘和前10分鐘53個測點的數據及其對應的歷史差值和原始數據合并，初步構造出265個特征。使用卡方檢驗進行特征選擇，選擇出相關性較高的200個測點數據構成最終特征輸入。由于本次樣本數據中F6和F10的故障數據相對較少，因而使用SMOTE算法對這兩類樣本進行數據擴充。最后，使用集成模型進行訓練。模型最終準確率對比如表2所示。

通過比較可以得出本文方法準確率最高，在測試集上的預測準確率達到了96.2%，能夠很好地完成雷達伺服系統故障診斷任務。

5 結語

本文利用雷達伺服系統的歷史監測數據進行故障診斷方法研究，對比了不同算法模型的表現，提出了基于XGBoost、隨機森林和BP神經網絡這3種基學習器的Stacking模型。該模型充分吸收了3個基學習器的優點，準確率高于其它主流算法模型。同時，本文在數據預處理方面提出了一種新穎有效的方法，將數據歷史值和歷史差值作為新的特征加入數據集中，給數據加入了時序特性，改善了故障數據特征表述單一和對故障數據質量要求過高的問題。實驗結果表明，本文故障診斷方法診斷準確率達到了96.2%，高于其它主流模型，具備很好的應用價值。下一步將通過增加基學習器種類和集成模型層數，驗證能否得到更好的診斷結果。

參考文獻：

[1] 聶成，蔡宏，李力. CINRAD/SA天氣雷達伺服系統工作原理與典型故障及處理方法[J]. 氣象水文海洋儀器，2018，35（1）：76-79.

[2] 薛松，劉濤. 基于IRN神經網絡的雷達天線伺服系統故障診斷[J]. 電子機械工程，2018，34（6）：55-59.

[3] 徐頌捷，何建新，黎志波，等. 基于天氣雷達標準輸出控制器的故障診斷方法研究[J]. 成都信息工程大學學報，2019，34（3）：257-262.

[4] 劉洋，華璧辰，張侃健，等. 基于優化AdaBoost-SVM的模擬電路故障診斷[J]. 軟件導刊，2019，18（10）：130-134，139.

[5] CERRADA M，ZURITA G，CABRERA D，et al. Fault diagnosis in spur gears based on genetic algorithm and random forest[J]. Mechanical Systems and Signal Processing， 2016，70： 87-103.

[6] 錢力揚. 基于隨機森林和XGBoost的大型風力機故障診斷方法研究[D]. 杭州：浙江大學，2018.

[7] 祝永晉，馬吉科，季聰. 基于多判據融合的用電信息采集系統異常數據甄別模型[J]. 廣東電力，2019，32（9）：184-192.

[8] SCHERMAN M，BüLOW J.Insider threat detection using isolation forest[Z]. 2018.

[9] LI J，CHENG K，WANG S，et al. Feature selection： a data perspective[J]. ACM Computing Surveys （CSUR），2018，50（6）： 94.

[10] SHARPE D. Your chi-square test is statistically significant： now what？[J]. ?Practical Assessment， Research & Evaluation，2015，20：10.

[11] FERNáNDEZ A，GARCIA S，HERRERA F，et al. SMOTE for learning from imbalanced data： progress and challenges， marking the 15-year anniversary[J]. Journal of Artificial Intelligence Research， 2018， 61： 863-905.

[12] YIN Z，HOU J. Recent advances on SVM based fault diagnosis and process monitoring in complicated industrial processes[J]. Neurocomputing，2016，174： 643-650.

[13] 孫琛，田曉聲. 基于XGBOOST算法的變壓器故障診斷[J]. 佳木斯大學學報（自然科學版），2019，37（3）：378-380.

[14] LEI Y F， JIANG W L， JIANG A Q，et al. Fault diagnosis method for hydraulic directional valves integrating PCA and XGBoost[J]. Processes， 2019，7（9）： 589.

[15] 王子蘭，楊瑞. 基于隨機森林算法的旋轉機械齒輪組故障診斷[J]. 山東科技大學學報（自然科學版），2019，38（5）：104-112.

[16] LI C，SANCHEZ R V，ZURITA G，et al. Gearbox fault diagnosis based on deep random forest fusion of acoustic and vibratory signals[J]. Mechanical Systems and Signal Processing，2016，76：283-293.

[17] 顧彬，汪柯穎，沈東，等. 基于BP神經網絡的模擬電路診斷[J]. 科技創新與應用，2019（31）：57-58.

[18] 包志強，胡嘯天，趙媛媛，等. 基于熵權法的Stacking算法[J]. 計算機工程與設計，2019，40（10）：2885-2890.

[19] YALCIN A， REIS S， AYDINOGLU A C，et al. A GIS-based comparative study of frequency ratio， analytical hierarchy process， bivariate statistics and logistics regression methods for landslide susceptibility mapping in Trabzon， NE Turkey[J]. Catena，2011，85（3）： 274-287.

[20] CHEN T，GUESTRIN C. Xgboost： A scalable tree boosting system[C]. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. ACM，2016：785-794.

[21] ABADI M，AGARWAL A，BARHAM P，et al. Tensorflow： large-scale machine learning on heterogeneous distributed systems[DB/OL]. https：//arxiv.org/pdf/1603.04467v1.pdf.

（責任編輯：孫 娟）