基于CRBMs-RVR的渦軸發動機輸出功率衰退預測

童志偉，魯峰，黃金泉

（南京航空航天大學能源與動力學院，南京 210016）

0 引言

性能參數反映著航空發動機性能狀態，隨著發動機服役時間的累積，各部件受到自然磨損、腐蝕、積垢等影響發生性能退化，導致整機性能參數實際值與基線值之間產生相應的偏差。通過發動機傳感器數據對性能參數進行預測，可掌握發動機性能衰退趨勢，制定最佳維修策略，降低維修成本，提高設備運行的可靠性。

目前，針對航空發動機性能參數預測技術的研究主要有基于模型和基于數據2種。Takahisa等基于發動機機載模型設計了卡爾曼濾波器，實時估計表征氣路部件性能狀態的健康參數，并將其用于機載模型實現對發動機性能參數的預測，這種基于模型的方法很大程度上依賴于機載模型的精度。基于數據的預測方法以發動機傳感器數據為基礎，利用算法本身強大的非線性映射能力，直接建立發動機傳感器參數與發動機性能參數之間的映射關系。譚巍等采用支持向量回歸算法建立了航空發動機性能衰退綜合指標的預測模型，對性能衰退趨勢進行預測；在此基礎上，曹惠玲等基于滑動時窗策略實時更新訓練樣本并自適應優化支持向量機建模參數，實現了對發動機性能參數的在線預測；丁剛等基于過程神經網絡算法，對航空發動機性能衰退過程排氣溫度裕度進行預測。然而，航空發動機是復雜的強非線性、非平穩系統，且傳感器測量結果通常含噪聲，傳統的基于模型和基于數據的預測方法無法提供預測結果的概率分布，忽略了由樣本數據的不確定性而導致的預測結果不確定的問題。由Tipping提出的一種基于貝葉斯框架的稀疏概率模型——相關向量機（Relevance Vector Machines，RVM），模型結構相較于神經網絡模型、支持向量機（Support Vector Machines，SVM）模型結構簡單且泛化能力強，具有很強的噪聲處理能力和概率式輸出的獨特優勢，然而和諸多智能算法一樣，在實際應用中容易受到數據特征選擇的影響。對于航空發動機而言，傳統的特征提取法如主成分分析法（Principal Component Analysis，PCA）等線性變換算法很大程度上破壞了數據的非線性結構，從而影響學習算法的學習效果。

因此，本文針對航空渦軸發動機時間序列模型因輸入維度高而導致計算負荷大、因輸入參數冗余而導致模型學習效率低等問題，引入了1類非線性特征提取方法——連續限制玻爾茲曼機（Continuous Restricted Boltzmann Machines，CRBM），通過堆疊多個CRBM組建CRBMs深度網絡，提高對高維數據深層特征的提取能力。將CRBMs深度網絡與相關向量回歸（Relevance Vector Regression，RVR）算法相結合，構建基于CRBMs-RVR的渦軸發動機輸出功率衰退預測模型，并給出預測結果的概率分布。

1 CRBMs-RVR預測算法

CRBMs-RVR預測算法由CRBMs深度網絡與RVR回歸模型結合構成，其結構如圖1所示。從圖中可見，網絡由可視層單元={v,=1,2,…,}、隱含層單元={h,=1,2,…,}和層間權值向量={w}連接而成。其中、和的上標分別表示當前可視層和隱含層層號，3層隱含層單元數分別為、、。首先利用CRBMs深度網絡對高維數據進行特征提取，挖掘數據深層信息并消除信息冗余；然后利用RVR回歸算法進行建模，獲得新特征數據與期望輸出之間的映射關系。

圖1 CRBMs-RVR預測算法結構

1.1 連續受限玻爾茲曼機

受限玻爾茲曼機（Restricted Boltzmann Machines，RBM）是一種隨機遞歸的神經網絡，由于其具有表示力強、易于推理等優點，在分類、降維、特征學習等任務執行中應用廣泛。然而，傳統的RBM網絡由二值可見層和隱層單元組成，在處理連續數據時表現不佳。針對表現為連續形式的航空發動機傳感器數據，引入Hinton等提出的CRBM，通過在激活函數sigmoid單元的輸入端對樣本增加零均值的高斯單元噪聲，用連續形式的隨機單元替換傳統RBM中的二進制隨機單元。CRBM網絡結構如圖2所示。從圖中可見，可視層為網絡的輸入端，接收原始數據，單元個數與原始數據維度相同；隱含層是經CRBM網絡提取的新特征，其單元個數即為新特征的維度。

圖2 CRBM網絡結構

在訓練過程中，采用最小化對比散度權重更新算法（Minimizing Contrastive Divergence，MCD）迭代更新隱含層單元和可視層單元狀態。在迭代計算的第步，隱含層單元狀態表示為

式中：N(0,1)為以0為均值、1為標準差的標準正態分布函數，系數σ與函數N(0,1)相乘則產生1個均值為0、方差為σ的高斯噪聲；為sigmoid函數

式中：、分別為sigmoid函數的上、下漸近線，通常取=0、=1；為控制sigmoid函數斜率的參數。

根據MCD算法，權值系數w以及參數的更新公式為

1.2 CRBMs-RVR

由于單個CRBM特征提取能力有限，為了提高對數據深層特征的提取能力，堆疊多個CRBM構建CRBMs深度網絡。在CRBMs-RVR預測算法結構（圖1）中，CRBMs深度網絡由3個CRBM堆疊而成。在深度網絡中，前一個CRBM的輸出作為當前CRBM的輸入，每個CRBM內部單獨訓練層間權值矩陣，并將變換后的向量作為當前CRBM的輸出，整個訓練過程以完全無監督方式進行。對于包含組維原始樣本集V{ }v,=1,2,...,,=1,2,...,，利用CRBMs深度網絡逐層提取特征，最終獲得包含組、維數為的特征數據集，表示為{ }h,=1,2,...,,=1,2,...,。需要說明的是，提取的特征數據僅為原始樣本的特征表達，無任何物理意義。

首先初定CRBMs的隱含層層數，計算重構誤差，判斷重構誤差是否小于設定的閾值。如果重構誤差小于閾值，則確定深度網絡結構為；否則，向深度網絡末端堆疊1個CRBM，增加網絡深度。

利用建立訓練好的CRBMs深度網絡對原始數據集進行特征提取，將輸出的特征數據集合作為RVR模型的輸入，=(,,…,t)，為所對應的期望輸出。假設訓練樣本{(,t)}相互獨立，二者之間的非線性關系為

式中：=(,,…,w)為權值向量；(h,h)為核函數，=1,2,…,，=1,2,…,；ε為零均值、方差為的高斯噪聲，則有

對于組訓練樣本(,)={(h,t)}，似然函數為

式中：表示維度為×(+1)的結構矩陣，=[,,…，?]，?=[1,(h,),…,(h,h)]。

當已知似然函數和先驗分布后，依據貝葉斯公式可以得到權值向量的后驗概率分布

由于(|,)與(|)均滿足高斯分布，則權值向量的后驗概率仍然滿足高斯分布

式中：Σ=(+)，為后驗協方差；=ΣΦt，為均值；矩陣=diag(,…，α)。

為求解權值向量的最大后驗分布，通過最大化邊緣似然函數(|,)計算超參數的估計值，并對其進行優化。邊緣似然函數的計算公式為

對邊緣似然函數的超參數和求偏導，并令導數式為0，得到

(1)地形地貌：高山出名茶的有利條件是多雨、溫差大，從海拔高度來看，高海拔(>1 000 m)區氣溫過冷，日照時間偏長，不利于茶葉生長；低海拔(<200 m)區因氣溫偏高，茶樹根部透水性差，也不利于茶樹生長。

式中：γ=1-αΣ，Σ表示后驗協方差矩陣的第個對角元素；為樣本總數。

在預測過程中，對于新的輸入向量，相應預測分布為

2 渦軸發動機輸出功率衰退預測模型

2.1 數據預處理

針對某型含氣路部件健康因子的雙轉子渦軸發動機部件級模型，模擬發動機氣路部件性能衰退，獲取傳感器數據與輸出功率數據集。根據工程實際情況，渦軸發動機可用氣路傳感器測量參數選擇包括：動力渦輪轉速n、燃氣渦輪轉速n、壓氣機出口壓力和溫度、動力渦輪進口壓力和溫度、燃油流量W以及旋翼負載總距角。氣路部件健康因子選取壓氣機、燃氣渦輪和動力渦輪流量變化系數ΔS、ΔS、ΔS，以及效率變化系數ΔS、ΔS、ΔS，表示為Δ=[ ΔS,ΔS,ΔS,ΔS,ΔS,ΔS]。

將發動機歷史狀態作為附加因素考慮到預測模型中，以體現時間序列的狀態演化關系。依據前個步長的發動機氣路部件傳感器信息，完成對個步長后輸出功率N的預測，預測模型為

式中：=[,,,,,,,]；為非線性函數，表示預測模型輸入與輸出之間的映射關系。

渦軸發動機各參數的數量級不同，因此對數據進行歸一化處理，防止在模型訓練過程中出現梯度消失問題，并使網絡快速收斂。根據式（22），將樣本數據歸一化至[0,1]。

式中：、分別為原始數據和歸一化后的標準數據；、分別為原始數據的最大值和最小值。

2.2 渦軸發動機輸出功率衰退預測模型

基于CRBMs-RVR算法建立渦軸發動機輸出功率預測模型。利用CRBMs深度網絡對維的原始數據提取維非線性深層特征，并將特征信息作為RVR回歸模型的輸入，建立與期望輸出功率之間的映射關系。引入均方根誤差、平均絕對誤差來評價預測模型的性能

核函數的選取以及核參數的設置很大程度上決定了RVR模型的學習效果。選擇應用最為廣泛的高斯核函數，并利用粒子群算法（Particle Swarm Optimization，PSO）對高斯核函數參數進行自動尋優，目標函數為RVR模型訓練過程預測結果的平均絕對誤差。高斯核函數計算公式為

式中：、分別為數據空間內的樣本點，為高斯核函數的核參數。

基于CRBMs-RVR的渦軸發動機輸出功率預測模型的構建主要步驟如下：

（1）獲取渦軸發動機運行數據。

（2）構建訓練樣本矩陣和預測樣本矩陣。確定預測模型的嵌入步長與預測步長，將預處理后的重構矩陣作為預測模型的訓練樣本矩陣和預測樣本矩陣。

（3）構建CRBMs深度網絡結構。確定CRBMs深度網絡層數和層間節點數，并自下而上逐層訓練。

（4）利用CRBMs深度網絡對原始樣本矩陣進行逐層特征提取并降維，將新特征數據輸入RVR預測模型。

（5）構建RVR預測模型。以訓練樣本預測結果的平均誤差為目標函數，利用PSO算法對核函數參數進行尋優。

（6）輸入預測樣本矩陣，檢測模型精度，若未滿足誤差要求，則返回第（3）步。

（7）得到基于CRBMs-RVR的渦軸發動機輸出功率預測模型。

3 仿真結果與分析

驗證基于CRBMs-RVR的渦軸發動機輸出功率預測模型的性能。計算機的配置為AMD Ryzen 5 3500U，內存為8G。算法驗證仿真平臺為Matlab 2016b。

3.1 試驗說明

參照NASA基于MAPSS仿真平臺對渦扇發動機發生氣路部件性能退化的統計結果，在地面設計點處模擬渦軸發動機5000個飛行循環內氣路部件性能衰退，獲得傳感器參數與輸出功率的時間序列數據。5000個飛行循環內氣路部件健康因子退化曲線如圖3所示。

圖3 氣路部件健康因子退化曲線

3.2 渦軸發動機輸出功率衰退預測結果

為了說明CRBMs深度網絡在特征提取方面的優越性，分別建立傳統的RVR預測模型、基于PCARVR算法的預測模型與本文提出的CRBMs-RVR預測模型進行對比，預測結果對比如圖4所示。每個模型在10倍交叉驗證的基礎上進行完善，以保證可靠性。

從圖中可見，隨著渦軸發動機部件性能的衰退，輸出功率呈衰退趨勢。在3種模型預測結果中，基于CRBMs-RVR的預測模型預測值與實際值的貼合度最高；基于PCA-RVR的預測模型預測值在實際值曲線附近上下波動，表現出較差的穩定性；基于傳統RVR的預測模型預測精度最低，預測值逐漸偏離實際值。

圖4 3種模型預測結果對比

3種模型的預測結果分析見表1。從表中可見，基于PCA-RVR算法的模型預測結果的均方根誤差為0.0264、絕對誤差為0.0235，與基于傳統RVR的預測模型相比分別減小38.4%和40.8%；基于CRBMs-RVR算法的模型預測結果的均方根誤差僅為0.0152、絕對誤差僅為0.0148，與基于傳統RVR的預測模型相比分別減小64.6%和62.7%。這主要是因為RVR模型對輸入數據結構敏感，采用特征提取算法對高維數據進行特征提取并降維，有效地消除了數據的冗余信息，有利于RVR模型的學習；簡化模型結構，降低了模型訓練時間。在測試過程中，RVR模型結構稀疏且僅為簡單矩陣運算，因此包含PCA以及CRBMs特征提取算法的預測模型計算負荷小幅增加，但計算耗時仍處于非常低的水平。

表1 3種模型預測結果分析

對比基于CRBMs深度網絡以及PCA對原始數據集進行特征提取的2種預測模型，可以看出基于CRBMs-RVR算法模型的預測結果比基于PCA-RVR算法模型的更優。這主要是因為PCA是一類線性變換法，在面對表現為強非線性關系的渦軸發動機數據時，信息特征提取能力受限，從而影響了學習機的學習效果。而CRBMs深度網絡對發動機傳感器數據進行逐層特征提取，能夠對原始樣本數據深層的非線性關系做出更加本質的刻畫，因此基于CRBMs-RVR算法的預測模型預測效果最佳。

3.3 預測結果概率式輸出

基于CRBMs-RVR算法的預測模型可以量化樣本數據本身的不確定性以及建模的不確定性，獲得預測結果的概率式輸出。在95%的置信區間內，渦軸發動機預測結果概率式輸出如圖5所示。

圖5 預測結果概率式輸出

從圖中可見，預測結果95%的置信區間覆蓋了所有時間序列點處的渦軸發動機輸出功率的實際值，預測精度非常高。為渦軸發動機輸出功率衰退預測提供概率式輸出，避免了因不確定性導致的預測風險，這也是基于RVR算法建立預測模型的獨特優勢。

4 結論

（1）RVR模型對輸入數據結構敏感，對高維冗余的數據進行特征提取并降維，可有效簡化模型結構、提高模型預測精度。

（2）與未進行特征提取的傳統RVR預測模型和基于主成分分析法的PCA-RVR模型相比，本文提出的基于CRBMs-RVR的預測模型預測結果的均方根誤差分別減小64.6%和42.4%，驗證了CRBMs深度網絡對于呈強非線性特征的航空發動機數據具有較高的特征提取能力。

（3）本文提出的基于CRBMs-RVR的預測算法，實現了對渦軸發動機輸出功率衰退的預測，模型結構簡單且預測精度高，并提供預測結果的概率分布，避免了因不確定性而導致的預測風險。同時本方法可以應用到航空發動機故障診斷等領域，有廣泛的應用前景。