基于極限學(xué)習(xí)機(jī)的航空發(fā)動機(jī)傳感器故障診斷*

孫毅剛， 劉靜雅， 趙 珍

(中國民航大學(xué) 航空自動化學(xué)院，天津300300)

基于極限學(xué)習(xí)機(jī)的航空發(fā)動機(jī)傳感器故障診斷*

孫毅剛， 劉靜雅， 趙 珍

(中國民航大學(xué) 航空自動化學(xué)院，天津300300)

針對當(dāng)前應(yīng)用于航空發(fā)動機(jī)傳感器故障診斷中的基于梯度的傳統(tǒng)學(xué)習(xí)算法多存在參數(shù)選擇困難、容易陷入局部最小化、過擬合等問題，提出了基于極限學(xué)習(xí)機(jī)(ELM)的航空發(fā)動機(jī)傳感器故障診斷方法。算法只需設(shè)置隱含層神經(jīng)元的個(gè)數(shù)，能夠較好地避免上述問題，縮短故障診斷時(shí)間、提升診斷精度。通過仿真試驗(yàn)表明：基于ELM算法所建的航空發(fā)動機(jī)傳感器故障診斷模型要比基于BP神經(jīng)網(wǎng)絡(luò)算法所建的模型耗時(shí)短且精度高。

極限學(xué)習(xí)機(jī)； 航空發(fā)動機(jī)； 傳感器； 故障診斷

0 引 言

航空發(fā)動機(jī)故障是導(dǎo)致飛行事故的重要原因之一，嚴(yán)重影響著飛行安全[1],因此，亟需有效地提高航空發(fā)動機(jī)故障診斷的精度與效率，而航空發(fā)動機(jī)的診斷是建立在準(zhǔn)確的傳感器輸出基礎(chǔ)上的，所以，研究高效的航空發(fā)動機(jī)傳感器故障診斷算法也是不容忽視的。近年來，BP神經(jīng)網(wǎng)絡(luò)與支持向量機(jī)(support vector machine, SVM)等多種方法被應(yīng)用于航空發(fā)動機(jī)傳感器故障診斷中，并且取得了一定成果[2～5]。但是BP神經(jīng)網(wǎng)絡(luò)在應(yīng)用過程中需要對權(quán)重、閾值等大量參數(shù)進(jìn)行設(shè)置，并且存在訓(xùn)練速度慢、易陷入局部極值、過擬合等問題。支持向量機(jī)盡管較BP神經(jīng)網(wǎng)絡(luò)運(yùn)算時(shí)間短、精度高，但是其同樣需要進(jìn)行多參數(shù)的選擇，如，核函數(shù)、懲罰系數(shù)、誤差控制等。極限學(xué)習(xí)機(jī)(extreme learning machine,ELM)[6]是一種由單隱含層前饋神經(jīng)網(wǎng)絡(luò)(single hidden layer feedforward neural networks,SLFNs) 發(fā)展而來的新算法，該算法隨機(jī)給定輸入層與隱含層間的權(quán)值和隱含層神經(jīng)元的閾值，只需對隱含層神經(jīng)元的個(gè)數(shù)進(jìn)行設(shè)置即可獲得唯一最優(yōu)解。該算法只包含簡單的數(shù)學(xué)算法，學(xué)習(xí)速率較快，而且與傳統(tǒng)的基于梯度的學(xué)習(xí)算法相比不易陷入局部最小化、過擬合等問題[6]。由于ELM算法有諸多優(yōu)勢，本文將ELM算法應(yīng)用于航空發(fā)動機(jī)傳感器的故障診斷中，并與基于BP神經(jīng)網(wǎng)絡(luò)算法得到的仿真結(jié)果做比較。

1 ELM算法機(jī)理

ELM是一種基于單隱層前饋神經(jīng)網(wǎng)絡(luò)的高效學(xué)習(xí)算法。與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)相比，ELM算法隨機(jī)產(chǎn)生輸入權(quán)值和隱含層神經(jīng)元的閾值，并且在整個(gè)訓(xùn)練過程中無需調(diào)整，只需設(shè)置隱含層神經(jīng)元的個(gè)數(shù)，就可以獲得唯一的最優(yōu)解[7]，其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 ELM結(jié)構(gòu)圖Fig 1 ELM structure

圖中wij表示輸入層的第j個(gè)神經(jīng)元與隱含層的第i個(gè)神經(jīng)元之間的連接權(quán)值，βik表示隱含層的第i個(gè)神經(jīng)元與輸出層的第k個(gè)神經(jīng)元間的連接權(quán)值，bi為第i個(gè)隱含層神經(jīng)元的閾值，其具體形式如公式(1)

(1)

設(shè)給定任意N個(gè)不同的獨(dú)立樣本(xi,yi)，其中,xi=[xi1,xi2,…,xiN]T∈RN是一個(gè)N×1維向量，yi=[yi1,yi2,…yiM]T∈RM是一個(gè)M×1維的目標(biāo)向量。對于具有L個(gè)隱含層神經(jīng)元，激活函數(shù)為g(x)的前饋神經(jīng)網(wǎng)絡(luò)，其輸出模型如式(2)

(2)

(3)

式(3)可簡化為Hβ=Y，H為該神經(jīng)網(wǎng)絡(luò)隱含層的輸出矩陣，其具體形式如式(4)所示

H(w1,…,wL,b1,…,bL,x1,…,xN)=

(4)

(5)

式中H+為隱含層輸出矩陣H的廣義摩爾逆(generalized Moore-Penrose inverse)。

由以上的分析可知，ELM在訓(xùn)練過程中隨機(jī)給定輸入權(quán)值w及隱含層神經(jīng)元閾值b，通過計(jì)算求出β，其過程主要包括以下3個(gè)步驟：

1)確定隱含層神經(jīng)元的個(gè)數(shù)，輸入權(quán)值w和隱含層神經(jīng)元的閾值b由系統(tǒng)隨機(jī)產(chǎn)生。

2)選取一個(gè)無限可微的函數(shù)作為隱含層神經(jīng)元的激活函數(shù)，求出隱含層的輸出矩陣H。

3)計(jì)算輸出權(quán)值β。

ELM在訓(xùn)練時(shí)無需調(diào)整過多的參數(shù)，只需設(shè)置隱含層神經(jīng)元個(gè)數(shù)，根據(jù)相應(yīng)算法來調(diào)整輸出權(quán)值，在有限的時(shí)間內(nèi)即可獲得全局最優(yōu)解。

2 航空發(fā)動機(jī)傳感器故障診斷

本文提出的航空發(fā)動機(jī)傳感器的故障診斷主要有離線建模和模型測試2個(gè)階段，其原理圖如圖2所示。

圖2 傳感器故障診斷原理圖Fig 2 Principle diagram of sensor fault diagnosis

在離線建模階段，需完成訓(xùn)練數(shù)據(jù)的預(yù)處理、訓(xùn)練ELM網(wǎng)絡(luò)得出故障診斷模型2項(xiàng)工作。傳感器直接的輸出數(shù)據(jù)含有大量的噪聲成分，需首先對數(shù)據(jù)進(jìn)行小波去噪處理得到比較平滑的曲線，然后再將數(shù)據(jù)進(jìn)行歸一化處理，以提高建模的精度。數(shù)據(jù)歸一化可采用最小—最大標(biāo)準(zhǔn)化的方法把數(shù)據(jù)變成[0,1]之間的小數(shù)，其公式為

新數(shù)據(jù)=(原數(shù)據(jù)-極小值)/(極大值-極小值).

(6)

在ELM的訓(xùn)練階段可輸入多組傳感器數(shù)據(jù)訓(xùn)練得到網(wǎng)絡(luò)的隱含層輸出矩陣，進(jìn)而通過式(5)得到輸出權(quán)值，實(shí)現(xiàn)對單一的一組傳感器數(shù)據(jù)的曲線擬合，擬合精度越高則代表建模精度越高。例如:可以應(yīng)用溫度、壓力傳感器的輸出信號實(shí)現(xiàn)對轉(zhuǎn)速信號的模型建立。

在模型測試階段輸入的是與訓(xùn)練數(shù)據(jù)不同的另一組測試數(shù)據(jù)，首先也需完成對測試數(shù)據(jù)的預(yù)處理，本文采用與訓(xùn)練數(shù)據(jù)相同的預(yù)處理方式，確保兩類數(shù)據(jù)的處理精度是相同的。處理完后將數(shù)據(jù)輸入已訓(xùn)練好模型，此時(shí)輸入的測試數(shù)據(jù)要與相應(yīng)訓(xùn)練過程中輸入的不同傳感器輸出數(shù)據(jù)種類相一致，即訓(xùn)練時(shí)使用的哪幾種傳感器輸出數(shù)據(jù)實(shí)現(xiàn)的對某一種單一傳感器數(shù)據(jù)擬合，這里也要使用哪種傳感器輸出數(shù)據(jù)實(shí)現(xiàn)相應(yīng)的輸出。輸入數(shù)據(jù)選擇正確后，根據(jù)已有模型的輸出權(quán)值實(shí)現(xiàn)對單一傳感器測試數(shù)據(jù)的擬合工作，其模型輸出值與此傳感器的實(shí)際輸出值是存在殘差的，再根據(jù)殘差值判斷ELM模型的準(zhǔn)確度并做進(jìn)一步的故障檢測，進(jìn)而實(shí)現(xiàn)故障的分離與定位等后續(xù)故障處理等。

3 仿真試驗(yàn)

我國民航大型客機(jī)上都安裝了快速飛行數(shù)據(jù)記錄器(QAR)，QAR完整記錄了發(fā)動機(jī)在飛行過程中的工作數(shù)據(jù)。本文采用了某架民航客機(jī)實(shí)際運(yùn)行時(shí)記錄的發(fā)動機(jī)數(shù)據(jù)，應(yīng)用飛行高度(ALT)、油門桿角度(TLA)、發(fā)動機(jī)排氣溫度(EGT)、燃油流量(FF)信號對低壓轉(zhuǎn)子轉(zhuǎn)速(N1)傳感器信號進(jìn)行仿真。

3.1 ELM激活函數(shù)的選擇

激活函數(shù)影響著ELM算法的準(zhǔn)確率，所以,選擇合適的激活函數(shù)是很有必要的。算法的準(zhǔn)確率采用網(wǎng)絡(luò)的均方誤差形式表示，即該輸出值越小則準(zhǔn)確率越高。本文分別選取了Sigmoid函數(shù)、硬限值函數(shù)(hardlim)、正弦函數(shù)(sin)、三角基傳遞函數(shù)(tribas)、高斯函數(shù)(radbas)5種比較常用的ELM激活函數(shù)，其對比圖如圖3、圖4所示。

圖3 不同激活函數(shù)訓(xùn)練精度對比圖Fig 3 Training precision comparison chart of different activation function

圖4 不同激活函數(shù)測試精度對比圖Fig 4 Testing precision comparison chart of different activation function

圖3、圖4中，初始隱含層神經(jīng)元個(gè)數(shù)均設(shè)置為10，之后以10為周期逐漸增加神經(jīng)元個(gè)數(shù)。圖3、圖4均表明：Hardlim 函數(shù)極不適合應(yīng)用于處理本數(shù)據(jù)，其輸出值較其他激活函數(shù)大，即準(zhǔn)確率低、誤差大。圖3中sig函數(shù)、sin函數(shù)、radbas函數(shù)精度曲線基本上為同一條曲線，可見這3種激活函數(shù)對算法的訓(xùn)練精度影響相近，且算法準(zhǔn)確率較高。而圖4中這3種激活函數(shù)對測試精度的影響則呈現(xiàn)了不同的狀態(tài)，radbas函數(shù)隨著隱含層神經(jīng)元的增加輸出值越來越大，準(zhǔn)確率變低，而sin函數(shù)的輸出也呈現(xiàn)了波動狀態(tài)，相對來說，sig函數(shù)輸出平穩(wěn)，且輸出值較小，準(zhǔn)確率高，所以，本文選用sig函數(shù)作為ELM的激活函數(shù)。

3.2 ELM隱含層個(gè)數(shù)的選擇

確定sig函數(shù)作為ELM算法的激活函數(shù)后，還要確定合適的隱含層神經(jīng)元個(gè)數(shù)以使算法精度更高。初始隱含層神經(jīng)元個(gè)數(shù)設(shè)置為20，之后以5為周期逐漸增加神經(jīng)元個(gè)數(shù)，其結(jié)果如圖5所示。由圖5可知，隨著隱含層神經(jīng)元個(gè)數(shù)的增加，算法的訓(xùn)練精度值逐漸減小；而測試精度值則隨之先減小后增加。因此，綜合考慮訓(xùn)練精度、測試精度和訓(xùn)練時(shí)間，最終選定隱層神經(jīng)元個(gè)數(shù)為80。

圖5 隱含層個(gè)數(shù)對ELM精度的影響Fig 5 Effect of numbers of hidden layers on precision of ELM

3.3 本文算法與基于BP神經(jīng)網(wǎng)絡(luò)的方法比較

BP神經(jīng)網(wǎng)絡(luò)廣泛用于傳感器的故障診斷中，本文將其訓(xùn)練結(jié)果與ELM的訓(xùn)練結(jié)果相比較，突出ELM算法的優(yōu)勢。其訓(xùn)練效果對比如圖6所示。

圖6 基于ELM的算法與基于BP的算法訓(xùn)練效果對比圖(數(shù)據(jù)1)Fig 6 Comparison diagram of training effect of ELM-based and BP-based algorithms(data 1)

圖6(a)圖為設(shè)置80個(gè)隱含層神經(jīng)元個(gè)數(shù)時(shí)ELM算法實(shí)現(xiàn)的對數(shù)據(jù)的擬合，可見該算法誤差值較小，能很好地?cái)M合曲線。本文取原數(shù)據(jù)輸出值的10 %做閾值，誤差基本處于閾值范圍內(nèi)。圖6(b)為在默認(rèn)的BP神經(jīng)網(wǎng)絡(luò)下，設(shè)置隱含層神經(jīng)元個(gè)數(shù)為4，用trainrp法對生成的網(wǎng)絡(luò)訓(xùn)練10 000次后的訓(xùn)練結(jié)果，由圖可知，此時(shí)BP神經(jīng)網(wǎng)絡(luò)已經(jīng)達(dá)到一個(gè)較好的訓(xùn)練結(jié)果。這2種算法的訓(xùn)練時(shí)間和精度如表1，為比較直觀，將精度采用百分?jǐn)?shù)形式表示。

表1 基于ELM的算法與基于BP的算法訓(xùn)練結(jié)果對比(數(shù)據(jù)1)Tab 1 Comparison of training results of ELM-based and BP-based algorithms(data 1)

由表1可知，ELM算法不僅比BP神經(jīng)網(wǎng)絡(luò)算法精度高，而且速度較之要快幾百倍，用ELM算法得到的模型能夠更準(zhǔn)確地用于故障診斷。由于飛機(jī)處于2個(gè)不同的飛行階段變化時(shí)，如從巡航階段過渡到下降階段，或者同時(shí)伴有各種人為操作和環(huán)境對傳感器性能的影響，使得傳感器的輸出值跳躍有時(shí)會比較大，因此，在這些階段或者時(shí)間點(diǎn)上誤差值相對較大，但是相對于傳感器的輸出值，其誤差還是在可允許范圍之內(nèi)的。

本文針對訓(xùn)練出的模型，采用另一組數(shù)據(jù)進(jìn)行了測試，其測試效果如圖7所示。

圖7 基于ELM的算法與基于BP的算法測試效果對比圖(數(shù)據(jù)2)Fig 7 Comparison diagram of test effect of ELM-based and BP-based algorithms(data 2)

由圖7可知，基于ELM的算法與基于BP的算法相比，在測試的初始階段存在過擬合問題，但是后面的測試效果是比BP算法理想的。其測試時(shí)間與精度如表2所示。

表2 基于ELM的算法與基于BP的算法測試結(jié)果對比(數(shù)據(jù)2)Tab 2 Comparison of test results of ELM-based and BP-based algorithms(data 2)

從表2可以看出：基于ELM的航空發(fā)動機(jī)傳感器故障診斷方法的測試精度比基于BP神經(jīng)網(wǎng)絡(luò)航空發(fā)動機(jī)傳感器故障診斷方法的測試精度更高，但由于ELM算法還需進(jìn)行一些簡單的運(yùn)算，所以，其測試時(shí)間稍微長些。

4 結(jié)束語

本文提出了基于ELM的航空發(fā)動機(jī)傳感器故障診斷方法。相比于BP神經(jīng)網(wǎng)絡(luò)的診斷方法，該方法只需設(shè)置隱層神經(jīng)元的個(gè)數(shù)，不存在多參數(shù)選擇困難，大大地縮短了航空發(fā)動機(jī)傳感器故障診斷模型訓(xùn)練時(shí)間，且訓(xùn)練精度也有所提高。不過對測試數(shù)據(jù)初始階段的擬合有待提高，可采用其他算法對ELM算法做進(jìn)一步的優(yōu)化。

[1] Tang G,Yates C L,Zhang J,et al.A practical intelligent system for condition monitoring and fault diagnosis of jet engines[C]∥35th AIAA/ASME/SAE/ASEE Joint Propulsion Conference and Exhibit,Los Angeles,1999：1-7.

[2] 何擁軍,曾文英,曾文權(quán).信息熵支持向量機(jī)算法傳感器故障診斷研究[J].計(jì)算機(jī)仿真,2012,28(10):184-186.

[3] 神顯豪.基于支持向量回歸機(jī)的傳感器故障診斷方法研究[J].機(jī)床與液壓,2010,38(21):134-136.

[4] 郝 濤,唐永哲,任玉清.BP神經(jīng)網(wǎng)絡(luò)在飛控系統(tǒng)傳感器故障診斷中的應(yīng)用[J].計(jì)算機(jī)測量與控制,2008,16(5):613-615.

[5] 魏慕恒,賈秋玲.飛控系統(tǒng)傳感器故障診斷的神經(jīng)網(wǎng)絡(luò)方法研究[J].自動化測試，2010,18(1):14-16.

[6] Huang G B,Zhu Q Y,Siew C K.Extreme learning machine:Theory and applications[J].Neurocomputing,2006,70(1-3):489-501.

[7] 史 峰,王 輝,郁 磊，等.智能算法[M].北京：北京航空航天大學(xué)出版社,2011.

[8] 陳立軍,孫 凱,候媛媛,等.基于極限學(xué)習(xí)機(jī)的汽輪機(jī)故障診斷[J].化工自動化及儀表,2013,40(4):435-438.

Aircraft engine sensor fault diagnosis based on extreme learning machine*

SUN Yi-gang, LIU Jing-ya， ZHAO Zhen

(College of Aeronautical Automation,Civil Aviation University of China,Tianjin 300300,China)

Aiming at problems of traditional gradient-based learning algorithm used for aircraft engine sensor fault diagnosis always have currently,such as difficulties with multi-parameter selection, easy to fall into local minimum,over-fitting,and so on,propose fault diagnosis method for aircraft engine sensor based on extreme learning machine(ELM).ELM algorithm can avoid above problems,and further reduce fault diagnostic time and improve diagnostic precision,since it only need to set a parameter,i.e.the number of hidden layer.Simulation test shows that aircraft engine sensor fault diagnosis model based on ELM algorithm has higher precision and shorter time than that based on BP neural network algorithm.

extreme learning machine(ELM); aircraft engine; sensor; fault diagnosis

10.13873/J.1000—9787(2014)08—0023—04

2014—01—10

國家自然科學(xué)基金委員會和中國民用航空局聯(lián)合研究基金重點(diǎn)資助項(xiàng)目(U1233201)；天津市科技支撐計(jì)劃重點(diǎn)資助項(xiàng)目(11ZCKFGX04000)；中央高?；究蒲谢鹳Y助項(xiàng)目(ZXH2012B002，3122013P005)

V 233.7

A

1000—9787(2014)08—0023—04

孫毅剛(1963-)，男，山東汶上人，博士，教授，研究方向?yàn)橹悄芸刂?、傳感器故障診斷。