基于多深度置信網絡融合的航空電子設備故障預測*

梁天辰

(中國西南電子技術研究所，成都 610036)

0 引 言

隨著航空電子設備在各類飛機平臺的大量部署，設備對整機的重要性和運行安全性影響不斷提高[1]。由于航空環境應力對失效退化影響復雜多變，電子設備內部器件間不斷交聯影響，導致其故障往往具有明顯的隨機性和關聯性[2]。針對航空電子設備故障的隨機關聯問題，故障預測方法通過預置傳感器獲取到易損關鍵器件的歷史數據，根據具體方法對器件歷史數據進行挖掘建模，結合飛行中設備內器件的實時數據預測設備的整體退化降級狀態。推進故障預測方法在航空電子設備的應用，將退化趨勢與維修決策的制定相結合，可有效降低設備維修成本，提高設備運行安全，避免維修決策失誤帶來的災難性后果。

目前，故障預測方法主要包括基于失效模型的預測方法和基于數據驅動的方法[3]。基于失效模型的預測方法是根據專家經驗，對元件故障機理、材料性質和外部負載等要素進行研究分析，以此建立準確的數學模型表征失效趨勢。申海東[4]基于熱網絡轉換方法，設計建立了熱阻與溫度之間的數學模型，反應晶體管的性能退化。Tang等人[5]使用截斷正態分布建模方法來估計退化狀態，并考慮測量不確定度和估計漂移參數的分布，以獲得精確且封閉形式的鋰離子電池剩余壽命分布。雖然以上方法通過實驗驗證了故障預測的準確性，但在實際應用中存在以下問題：一是預測模型的建立非常依賴于建模工程師的專業知識和工程經驗，建模過程需要消耗大量人力且通用性較差；二是當預測對象失效特性復雜，實時負載環境與歷史環境存在明顯差異，準確的失效模型難以建立。

深度學習作為人工智能的重要分支已經在機械、醫學和圖像識別等領域取得突破性進展。多深度置信網絡(Multi-deep Belief Network，DBN)是一種基于數據驅動的無監督深度學習模型，通過多級受限玻爾茲曼機(Restricted Boltzmann Machine,RBM)自動捕獲原始數據中高質量的特征，實現性能降級趨勢的高非線性擬合。DBN模型的優勢在于可忽略設備內部器件的機理差異和數據分布差異，基于各器件的輸出數據直接完成預測模型構建，特征提取能力相較于淺層學習模型有明顯優勢。但傳統的深度置信網絡構建只考慮歷史數據的內在特性，且單一DBN的特征提取能力不足以修正實際場景與歷史場景間數據分布差異帶來的預測偏差。

針對航空電子設備的復雜工況和現有方法性能的不足，本文提出了基于多深度置信網絡模型融合的智能預測方法。該方法首先采用遷移學習策略和Dropout機制對設備的關鍵器件數據進學習，構建多個符合實際場景的深度置信網絡，提升多個模型特征提取的差異性；然后根據改進的遺傳算法確認融合權重，將DBN模型組集成為完整的預測框架，避免傳統深度置信網絡構建對歷史數據的過學習和特征提取能力不足問題；最后根據完整預測框架得到各易損器件的故障預測結果，結合預設的故障門限得出各器件的剩余壽命，取最小剩余壽命作為設備的剩余壽命預計值。

1 深度置信網絡遷移訓練

在航空電子設備的預測任務中，實時監測獲取的數據量有限且符合目標域的概率分布，而其他工況下的歷史數據符合源域的概率分布，與實時監測數據分布不同卻存在內在聯系，因此本文對DBN模型進行Dropout策略和跨域遷移訓練，實現模型在應用場景的適應性修正。

1.1 受限玻爾茲曼機

如圖1所示，受限玻爾茲曼機是DBN模型的組成單元，通過輸入輸出數據的差值最小化實現RBM的特征學習。

圖1 RBM結構圖

圖1中，vm、am表示可見層m節點的狀態和偏置，hn、bn表示隱含層n節點的狀態和偏置，(v,h)對應的能量函數定義如下式：

(1)

式中:θ={wij,ai,bj}，wij表示節點間的連接權重。

由式(1)可以定義(v,h)的聯合概率分布和似然函數為

(2)

(3)

當可見層狀態v確定時，隱含層節點j的激活概率為

(4)

當隱含層狀態h確定時，隱含層節點i的激活概率為

(5)

(6)

為了使RBM能最大程度地擬合可見層輸入的數據，需要以對數似然函數的最大值為目標，對RBM模型的參數θ={wij,ai,bj}進行求解。對數似然函數偏導數如下：

(7)

(8)

(9)

式中：V表示可見層的確定輸入，v表示可見層節點的狀態。

在給定可見層狀態v后，先根據公式(4)計算出P(h|v)確定隱含層狀態h,再根據式(5)計算出P(v|h)確定可見層狀態v′，當v′和v值誤差小于預期，則認為隱含層已經捕獲原始數據中的信息映射結構；若誤差大于預期，則根據對比散度算法[6]修正對應參數。對比散度算法對結構參數的修正量如下：

(10)

(11)

(12)

式中：η表示模型學習率，v(0)表示可見層初始狀態，v(k)表示可見層k步吉布斯抽樣后的狀態。

1.2 深度置信網絡

深度置信網絡是由一系列特征提取結構(受限玻爾茲曼機或自動編碼器)堆疊而成的概率生成模型，通過調節每相鄰兩層神經元節點間的連接權值，學習輸入層和隱藏層間的聯合概率分布，擬合對應數據間蘊含的特征信息。圖2定義了一個具有l層隱藏層深度置信網絡，虛線為Dropout策略下失效的神經元，輸入數據x為有時序關系的數據值。網絡的構造流程主要分為無監督權值初始化和有監督全局精調兩部分。

圖2 深度置信網絡結構圖

傳統DBN有監督全局精調是在初始化權值的基礎上，根據反向傳播算法對DBN中每一個神經元權重進行修正。在有限樣本下，該策略構造的DBN模型泛化性和魯棒性不足，模型間的差異性較小，不利于多模型的融合，因此本文將Dropout機制引入DBN構造。在誤差計算之前，DBN模型中的隱藏神經元按Dropout率隨機置為失效，有效神經元前饋鏈接成新的網絡。根據梯度下降算法將新網絡的前饋誤差傳遞到新網絡的每一個有效神經元，修改層間的連接權重。由于每次訓練過程的新網絡中有效神經元上下層連接關系都不相同，訓練后的神經元不再依賴固定的連接關系，促使網絡變得更獨立和隨機。

1.3 跨域遷移訓練

DBN模型的遷移訓練流程如下：

Step1 從數據庫中調出預測目標的歷史數據進行歸一化操作并構建訓練樣本集，對實時監測數據進行歸一化操作并構建遷移樣本集。

Step2 根據模型結構參數和超參數完成DBN模型的構建設置。

Step3 DBN模型使用訓練樣本集進行無監督權值初始化，得到RBM的連接參數并替換DBN的結構權重。

Step4 DBN模型使用訓練樣本集進行含Dropout的全局精調，循環迭代新的DBN網絡直到誤差收斂。

Step5 采用遷移樣本集對訓練后的DBN模型進行Dropout策略的全局精調，直到達到預設均方誤差值，完成模型遷移訓練。

2 多模型融合的預測框架

考慮到機載場景的復雜應力環境和單一DBN模型特征學習能力不足間的矛盾，本文提出一種多模型融合的預測框架，如圖3所示。

圖3 預測框架圖

2.1 模型融合算法

模型融合算法是通過對適應函數全局最優解的搜索，整合差異性預測模型間的特征挖掘優勢，消除由環境負載差異帶來的預測結果偏差并完成模型修正，實現故障預測精度的提升。本文采用一種改進遺傳算法確定多個深度置信網絡預測的融合權重，算法的運行流程圖如圖4所示。

圖4 改進遺傳算法流程圖

(1)優化目標

模型融合算法以多模型融合預測結果與實時數據的誤差最小為優化目標，衡量每輪迭代后的融合效果。其適應度函數的數學表達式如下：

ε=minfitness，

(13)

(14)

式中：t表示第t個樣本，datareal表示標簽值，dataprel表示模型1的預測值，w1表示模型1的融合權重。

(2)精英保留操作

在遺傳操作開始時將父代中適應度計算結果最優的染色體中的一段基因直接遺傳到子代的染色體中，這段基因占總基因數的比例為P，選取的基因個數為P×N,N代表一個染色體中基因總數。該操作可以有效避免融合權重的優秀表征在遺傳操作中喪失。

(3)自適應交叉操作

自適應交叉在傳統交叉的基礎上依據不同染色的適應度大小對交叉概率進行調整，適應度小的染色體交叉概率小，適應度大的染色體采用大的交叉概率。自適應交叉的計算公式如下：

Pc=k(fmax-f′)/(fmax-fave) 。

(15)

式中：k表示初始交叉概率，fmax表示適應度最大值，fave表示適應度平均值，f′表示當前染色體適應度。

2.2 多模型融合流程

為了兼顧多個模型學習的特征信息，所提方法的整體流程如下：

Step1 對目標預測庫的歷史數據進行歸一化處理，按照每個樣本為預測步長N+1構造模型訓練樣本集；對實時監測數據進行同樣的歸一化處理，按照1∶1的數據比例構造遷移訓練樣本集和模型融合樣本集。

Step2 根據模型訓練樣本集、遷移訓練樣本集和遷移訓練算法構建遷移后的DBN模型組。

Step3 遷移后的DBN模型組以遷移訓練樣本集的最后一個樣本為基礎對未來的退化趨勢進行預測，得到遷移預測結果。

Step4 根據模型融合算法、遷移預測結果和模型融合樣本集，對融合權重進行全局尋優，確定模型組的融合權重，集成得到完整的預測模型。

Step5 將模型融合樣本集的最后一個樣本輸入完整的預測模型，不斷迭代直到預測值超過原定閾值，輸出預測目標的故障預測結果。

3 實驗驗證

鋰離子電池系統作為飛機的啟動電源和備用電源已經部署于波音和空客等多個航空公司的諸多機型[7]，因此本文以鋰離子電池作為電源模塊的關鍵性器件驗證所提方法。實驗數據采用美國航空航天局的4組鋰離子電池數據[8]，電池額定容量為2 A·h，實驗溫度為25 ℃。4組鋰離子電池先以1.5 A的充電電流充電，直到電壓達到4.2 V；然后前三組以2 A的放電電流放電，直到電池電壓分別降至2.7 V、2.5 V和2.2 V，第四組和第二組的操作相同；通過重復充放電循環操作加速電池老化直到電池故障，實驗數據展示如圖5所示。

圖5 實驗數據展示圖

實驗以前三組電池數據作為歷史數據，以第四組數據中第1～33個循環數據作為遷移訓練數據，第34～66個循環數據作為模型融合數據，第67～132個循環數據作為預測分析數據。預測采用三步預測，即根據最初數據組{x1,x2,x3}預測x4，再根據預測到的x4組成新的數據組{x2,x3,x4}預測x5，隨后依次預測直到故障閾值。

為了驗證本文方法融合策略對預測性能提升，以及深度學習模型與淺層模型特征提取能力的差異，實驗設置三種對比方法：

(1)本文方法：DBN模型隱藏層設置為[50 50 50]、[75 75 75]、[100 100 100]，最大學習周期數為300，遷移學習迭代次數200,動量系數0.95，學習率0.05，Dropout率為0.5，初始交叉概率為0.7，保留概率為0.3。

(2)單一DBN模型，結構參數和超參數與本文方法一致。

(3)支持向量回歸[8](Support Vector Regression,SVR)，核函數采用徑向基函數，懲罰系數為1，核函數參數gamma為0.7。

三種方法的預測結果如圖6～8所示。

圖6 本文方法預測結果

圖7 單一深度置信網絡預測結果

圖8 支持向量回歸預測結果

表1給出了三種方法預測結果的統計分析，其中均方根誤差、最大相對誤差和平均相對誤差是對預測誤差的直觀分析數據，相關度則是預測曲線和實際曲線的互相關計算結果，代表兩者的一致性程度。工業中普遍采用30%額定容量作為故障門限，故障門限值為1.4 A·h，本文方法得出的電源模塊剩余壽命為32循環周期，真實剩余壽命為31循環周期，設備剩余壽命預測誤差為3.23%。

表1 預測結果統計分析表

比較分析實驗結果可以得出以下結論：

(1)本文提出的多模型融合預測框架通過融合多個具有差異性模型將特征提取效果最大化，相比單一DBN模型擁有更好的預測性能，預測精度提高了一個數量級。

(2)基于深度置信網絡的遷移學習方法解決了原始域和目標域的差異問題，且作為深度學習模型相較于淺層學習模型有著更好的學習捕獲特征的能力。

4 結束語

本文分析了航空電子設備故障預測的工程需求，針對數據偏差和退化特征提取能力不足問題提出了結合Dropout策略和遷移訓練的DBN模型構建方法，修正了外部環境差異帶來的數據分布偏差，并通過改進遺傳算法實現了DBN模型組預測性能的集成。實驗表明本文方法對航空電子設備的故障演化有更準確的預測效果，剩余壽命預測誤差在4%以內，可以為相關設備視情維修的維修決策制定提供參考依據。未來將進一步研究深度學習模型在小樣本變工況場景下的特征提取策略。