一種基于非線性流形學(xué)習(xí)的故障特征提取模型

蔣全勝，李華榮，黃 鵬

(1.巢湖學(xué)院 電子工程與電氣自動化學(xué)院，巢湖 238000;2.東南大學(xué) 機械工程學(xué)院，南京 211189)

目前，大型機械設(shè)備的結(jié)構(gòu)與工作狀況的復(fù)雜性及其非線性特性日益突出，設(shè)備運行監(jiān)測數(shù)據(jù)蘊含了機械設(shè)備在整個運行歷程中的所有信息，如何從這些數(shù)據(jù)中提取有效特征信息，判定設(shè)備的運行狀態(tài)并對所發(fā)生的故障進行準(zhǔn)確診斷，對于現(xiàn)有的故障診斷方法提出了新的考驗[1]。

特征提取是機械故障診斷的核心問題，也是進行故障模式識別的基礎(chǔ)。如何選擇和提取最有效的故障特征，不僅可以節(jié)省測試成本，還直接影響故障診斷的精度。隨著現(xiàn)代信號處理方法的不斷發(fā)展，一些新的特征提取方法相繼被提出。魏中青等[2]采用基于MLE閾值規(guī)則的小波特征提取技術(shù)對氣閥早期故障弱沖擊變化信號進行特征提取，實現(xiàn)了氣閥故障的早期預(yù)警。夏天等[3]對柴油發(fā)動機曲軸軸承采用基于高階累積量的故障特征提取方法，能夠有效地抑制噪聲的干擾，較好地反映曲軸軸承的技術(shù)狀態(tài)。潘宏俠等[4]針對齒輪傳動箱故障特征選擇問題，提出了基于粒子群優(yōu)化算法的特征提取方法，進一步提高了診斷精度。栗茂林等[5]采用局部切空間排列算法對最優(yōu)小波系數(shù)矩陣進行非線性約簡，提出了一種基于連續(xù)小波系數(shù)非線性流形學(xué)習(xí)的沖擊故障特征提取方法，有效提取出機械設(shè)備故障引發(fā)的沖擊成分。

當(dāng)前，雖然故障診斷理論和方法的研究取得了較大的進步，但對于不確定的、非線性的復(fù)雜故障診斷問題，采用基于統(tǒng)計或信號處理的特征提取方法，其診斷效果十分有限[1]。2000年在Science上發(fā)表的三篇關(guān)于流形學(xué)習(xí)的研究成果[6－8]，極大地推動了流形學(xué)習(xí)的發(fā)展。流形學(xué)習(xí)作為一種非線性的數(shù)據(jù)維數(shù)約簡方法，能有效地揭示高維數(shù)據(jù)中蘊含的非線性結(jié)構(gòu)，充分挖掘數(shù)據(jù)中的內(nèi)在幾何特征，具有良好的非線性復(fù)雜信息處理能力，從而為復(fù)雜機械設(shè)備的故障特征提取提供了新的思路。

本文采用非線性流形學(xué)習(xí)方法進行機械故障特征的提取與診斷，通過構(gòu)建基于流形學(xué)習(xí)的故障特征提取模型，準(zhǔn)確提取故障數(shù)據(jù)內(nèi)在的非線性結(jié)構(gòu)信息，以提高故障診斷的精度。

1 流形學(xué)習(xí)原理及方法

1.1 流形學(xué)習(xí)定義

流形是現(xiàn)代數(shù)學(xué)的概念，它以微分幾何學(xué)為基礎(chǔ)，本質(zhì)上是局部可坐標(biāo)化的拓?fù)淇臻g，可以看作是歐氏空間的非線性推廣。流形學(xué)習(xí)的數(shù)學(xué)描述如下[9]:

假設(shè)M為嵌入在D維歐氏空間中的d維參數(shù)化流形，d?D，f∶M?Rd→RD，M 為 Rd上的緊致連接開子集。對于給定的高維觀測數(shù)據(jù)集X={x1，x2，…，xn}，i=1，2，…，n，其中 Xi=f(yi)?RD，服從某種潛在分布p。這里，Y={y1，y2，…，yn}?Rd是包含在 Rd歐式空間的d維域。流形學(xué)習(xí)的任務(wù)即從觀測數(shù)據(jù)集中重構(gòu)映射 f和 Y。

由流形學(xué)習(xí)的定義可知，流形學(xué)習(xí)去除了更多的先驗假設(shè)，比如觀測變量之間相互獨立、分布近似滿足正態(tài)分布等，是一種一般意義上數(shù)據(jù)集的本質(zhì)屬性。流形學(xué)習(xí)具有在不依賴這些先驗假設(shè)的情況下，發(fā)現(xiàn)并學(xué)習(xí)高維數(shù)據(jù)集的內(nèi)在規(guī)律與性質(zhì)的能力，這為故障特征提取提供了一個新的思路。

1.2 流形學(xué)習(xí)算法

典型的流形學(xué)習(xí)方法有局部線性嵌入算法(Local Linear Embedding，LLE)[7]、等距映射算法(Isometric Mapping，ISOMAP)[8]、拉普拉斯特征映射算法(Laplacian Eigenmaps)[10]、局部切空間排列算法(Local Tangent Space Alignment，LTSA)[11]等。 其 中 Laplacian Eigenmaps算法的基本思想是利用圖拉普拉斯算子的譜性質(zhì)進行求解，尋找在某種意義上最優(yōu)地保持局部鄰域信息的低維表述。

Laplacian Eigenmaps作為一種典型的流形學(xué)習(xí)方法，以保持局部幾何結(jié)構(gòu)信息不變?yōu)槟繕?biāo)，能挖掘嵌入在高維故障數(shù)據(jù)中的內(nèi)在幾何分布特性，具有良好的學(xué)習(xí)非線性復(fù)雜數(shù)據(jù)的內(nèi)在幾何結(jié)構(gòu)能力，可用于故障的特征學(xué)習(xí)和提取。Laplacian Eigenmaps算法具體步驟如下[10]:

(1)構(gòu)造近鄰圖。給定鄰域k，用k近鄰或ε鄰域的方法計算每個樣本點xi的鄰域Γ(i)，1≤i≤n。

(2)使用熱核方式給每條邊賦予權(quán)值Wij，構(gòu)建鄰接權(quán)值矩陣W;

其中參數(shù)t為熱核寬度，其取值與鄰域k相適應(yīng)。

(3)特征映射，計算圖拉普拉斯算子的廣義特征向量，求得低維嵌入。求解廣義特征值問題，Lf=λDf。其中D為對角矩陣，且Dii=ΣjWji，得到L的第2個到第d+1個特征值對應(yīng)的特征向量，即為樣本集的低維嵌入坐標(biāo)。

圖1 基于流形學(xué)習(xí)的故障特征提取模型Fig.1 Fault feature extraction model based on manifold learning

2 基于流形學(xué)習(xí)的故障特征提取模型

在機械故障診斷過程中，特征提取是其中最重要而又最困難的環(huán)節(jié)，好的特征提取手段能夠給出設(shè)備運行狀態(tài)的準(zhǔn)確描述，獲得更好的故障診斷精度和速度。因此，尋求合適的特征提取方法成為提高機械故障診斷精度的關(guān)鍵。

本文基于流形學(xué)習(xí)方法，提出一種新的機械故障特征提取模型，該模型利用流形學(xué)習(xí)的非線性結(jié)構(gòu)學(xué)習(xí)能力，對故障樣本進行特征提取，將提取到的的低維流形特征作為分類特征，用于解決復(fù)雜機械系統(tǒng)的故障模式識別問題。所構(gòu)建的基于流形學(xué)習(xí)的故障特征提取模型如圖1所示。

與傳統(tǒng)的故障特征提取方式不同，該模型充分利用了流形學(xué)習(xí)挖掘數(shù)據(jù)非線性特性的優(yōu)勢，從故障樣本的內(nèi)在幾何分布角度進行故障的特征提取和識別，可有效解決高度非線性、非結(jié)構(gòu)化、高維度樣本的故障診斷問題，為解決復(fù)雜的故障診斷問題提供了一條新的途徑。

在基于流形學(xué)習(xí)的故障特征提取模型中，重點關(guān)注于如何獲取有效的特征信息，解決故障分類問題。該模型主要針對以下三種不同的應(yīng)用場合:無標(biāo)簽故障樣本的特征提取問題、故障樣本不斷更新情況下的特征提取問題以及含有標(biāo)簽故障數(shù)據(jù)的監(jiān)督學(xué)習(xí)問題，采用不同的流形學(xué)習(xí)方法，進行故障樣本的特征提取和模式分類。

2.1 基于Laplacian Eigenmaps的特征提取

針對采集到的無標(biāo)簽故障樣本的特征提取問題，采用基于Laplacian Eigenmaps的特征提取方法，獲得故障樣本的低維幾何分布特征，以利于故障分類和識別。基于Laplacian Eigenmaps算法的故障特征提取過程包含以下步驟:

(1)將監(jiān)測設(shè)備采集到的各種模式樣本數(shù)據(jù)經(jīng)信號預(yù)處理得到原始觀測樣本集，構(gòu)成觀測樣本的模式空間;

(2)用Laplacian Eigenmaps算法對觀測樣本進行學(xué)習(xí)，獲取其內(nèi)在的幾何分布特征，從而將樣本從復(fù)雜高維的模式空間轉(zhuǎn)化為低維的特征空間;

(3)根據(jù)學(xué)習(xí)到的故障流形特征，將特征空間樣本進行模式分類構(gòu)成類別空間，并構(gòu)造分類器;

(4)對于未知故障樣本，與原樣本一同投影到故障類別空間，依據(jù)構(gòu)造的分類器進行類別判別及分類。

Laplacian Eigenmaps算法從數(shù)據(jù)集的幾何性質(zhì)出發(fā)，能夠挖掘數(shù)據(jù)的內(nèi)在結(jié)構(gòu)信息及其蘊含的整體幾何特征，可以將提取到的流形特征應(yīng)用于機械的故障特征識別，為故障分類提供客觀依據(jù)。

2.2 基于增量Laplacian Eigenmaps的特征提取

針對故障樣本不斷更新情況下的特征提取問題，采用增量流形學(xué)習(xí)方法，以提高流形特征提取的自學(xué)習(xí)能力。

一般流形學(xué)習(xí)算法采用批處理方法學(xué)習(xí)樣本特征，不具有增量處理能力，需要解決增量流形學(xué)習(xí)問題。本文采用增量Laplacian Eigenmaps算法進行故障樣本的特征提取。增量Laplacian Eigenmaps算法的實現(xiàn)步驟如下:

(1)首先用Laplacian Eigenmaps算法對原始樣本集X進行學(xué)習(xí)，得到對應(yīng)的低維嵌入坐標(biāo)Y。

(2)對于任一新增樣本xN+1，XN+1∈XNew，在原始樣本中尋找xN+1的k個近鄰點。其近鄰點在低維空間相應(yīng)的鄰域為

(3)假定鄰域內(nèi)每個樣本的映射關(guān)系不變，計算xN+1與其k個近鄰點間的權(quán)值矩陣W，采用如下熱核形式計算:

(4)對新增樣本xN+1，保持其鄰域局部映射關(guān)系不變，可計算其在低維空間的坐標(biāo)yN+1為:

該算法較好的保持了新增樣本的鄰域局部映射關(guān)系，以鄰域內(nèi)樣本的權(quán)值矩陣求得新樣本對應(yīng)低維空間的位置坐標(biāo)。當(dāng)數(shù)據(jù)集實時更新的情況下，可保證提取的特征信息能夠隨新數(shù)據(jù)的增加而動態(tài)更新，從而有利于更新故障樣本的診斷分析。

2.3 基于監(jiān)督Laplacian Eigenmaps的特征提取

如果采集到的故障樣本是有標(biāo)簽的，可以充分利用樣本的類別標(biāo)簽信息，進行基于監(jiān)督流形學(xué)習(xí)的特征提取，進一步提高分類性能。故可對 Laplacian Eigenmaps算法進行監(jiān)督式擴展，采用監(jiān)督Laplacian Eigenmaps算法完成有標(biāo)簽故障樣本的特征提取和故障分類。

采用的監(jiān)督Laplacian Eigenmaps算法描述見文獻[12]，該算法充分利用數(shù)據(jù)的局部幾何信息和類別信息，將原始故障樣本映射到新的特征空間，該空間在保持類內(nèi)樣本局部幾何結(jié)構(gòu)的同時，使得不同類樣本在映射后的特征空間中具有可分離性，從而更有利于不同故障模式的分類處理。

阿里又使勁點點頭。阿東又說：“羅爹爹去東湖練拳，走不動了。我們阿里每天早上用爸爸的輪椅推羅爹爹去，好不好？”

基于監(jiān)督Laplacian Eigenmaps算法的特征分類方法實現(xiàn)如下:首先采用監(jiān)督Laplacian Eigenmaps算法將訓(xùn)練樣本集映射至一個低維特征空間，并采用最近鄰分類器構(gòu)建故障分類器，再用GRNN網(wǎng)絡(luò)對訓(xùn)練集的低維映射過程進行估計，以獲得未知測試樣本的低維坐標(biāo)，從而實現(xiàn)對測試樣本的分類決策。監(jiān)督流形學(xué)習(xí)算法充分利用了數(shù)據(jù)的類別信息，能提取有效的判別特征，獲得更好的分類性能。

3 工程應(yīng)用實例分析

選取某公司動力廠現(xiàn)場運行的一離心空氣壓縮機組作為實例應(yīng)用對象。該對象是一個多因素、強耦合、強非線性和難以建模的復(fù)雜系統(tǒng)。從運行的壓縮機組采集到故障振動信號作為樣本實例集，包含了三種類別故障:機械松動、油膜渦動及轉(zhuǎn)子不平衡。數(shù)據(jù)集樣本總數(shù)N=210，每類故障樣本各70個，以1 024個采樣點作為樣本維數(shù)。數(shù)據(jù)集的點數(shù)少，維數(shù)高，呈現(xiàn)了較強的非線性特征。

3.1 應(yīng)用實驗

通過建立的故障特征提取模型進行了如下三種情形的實驗分析和應(yīng)用:

(1)無監(jiān)督特征學(xué)習(xí)情況:分別用PCA及Laplacian Eigenmap算法對數(shù)據(jù)集進行特征提取，獲取嵌入流形特征以進行模式識別分析。設(shè)定算法參數(shù)鄰域因子k=6，嵌入維數(shù)d=2。實驗結(jié)果如圖2所示。

(2)樣本不斷更新情況下的增量式學(xué)習(xí)情況:采用增量Laplacian Eigenmaps算法對實例集進行特征提取和故障分類，將實例集的210個樣本點分成兩個子集，隨機選取各類的80%作為原始數(shù)據(jù)集進行訓(xùn)練，剩下的20%作為新增樣本集進行測試。算法參數(shù)設(shè)定為:鄰域因子k=6，嵌入維數(shù)d=2。實驗結(jié)果如圖3所示。

(3)有標(biāo)簽故障樣本的監(jiān)督特征學(xué)習(xí)情況:采用監(jiān)督Laplacian Eigenmaps、PCA及LDA方法對實例集進行特征提取和分類，隨機選取各類的80%作為有標(biāo)簽訓(xùn)練集進行學(xué)習(xí)，剩下的20%作為測試集進行識別分類。算法參數(shù)設(shè)定為:鄰域因子k=10，嵌入維數(shù)d=2。實驗結(jié)果如圖4所示。

圖2 流形特征提取情況Fig.2 Feature extraction using manifold method

圖3 增量流形特征提取情況Fig.3 Feature extraction using incremental manifold method

3.2 診斷結(jié)果

對原始故障樣本經(jīng)過三種不同應(yīng)用場合的流形特征提取，將各方法特征提取后的特征樣本均采用最近鄰分類器進行故障分類，結(jié)果如表1所示。

圖4 監(jiān)督流形特征提取情況Fig.4 Feature extraction using supervision manifold method

在圖3提取的2維特征分布中，PCA提取到的2維分布特征中三類樣本有較大混疊，用最近鄰分類器分類的正確率為51.36%;增量Laplacian Eigenmaps算法提取的特征類別可分性較好，其中僅有少量樣本被錯分，其分類正確率為90.58%，在新增樣本情形下也表現(xiàn)出良好的分類性能。

從圖4和表1可以看出，PCA和LDA中有三類樣本存在較大混疊，其類別可分性較差，各分類正確率分別為 59.92%、71.55%;而監(jiān)督 Laplacian Eigenmaps算法的類別可分性得到明顯改善，其分類正確率達到98.62%，表現(xiàn)出更佳的分類能力。

表1 用最近鄰分類器對各特征提取算法的分類正確率Tab.1 Classification accuracy of feature extractionmethods using nearest neighbor classifier

通過前面的實驗可以看出，采用基于Laplacian Eigenmaps、增量 Laplacian Eigenmaps和監(jiān)督 Laplacian Eigenmaps三種流形學(xué)習(xí)算法的故障特征提取方法，通過對高維故障樣本進行學(xué)習(xí)，能夠較好的獲取數(shù)據(jù)內(nèi)在的整體幾何結(jié)構(gòu)信息，對獲取的結(jié)構(gòu)特征易于進行故障分類器的構(gòu)造與模式識別，表現(xiàn)出了較好的分類性能，實現(xiàn)了故障分類識別與診斷，其識別效果明顯好于PCA方法。

基于流形學(xué)習(xí)的故障特征提取模型在處理高維復(fù)雜故障樣本時，經(jīng)流形學(xué)習(xí)算法特征提取之后，極大地保存了原始的整體幾何特征信息，更有效地反映出特征與故障之間的關(guān)系，使得故障診斷精度高于其它方法，實驗證明是一種有效的故障特征提取方法。

4 結(jié)論

針對機械故障診斷中高維度、非線性數(shù)據(jù)難以有效處理的問題，將流形學(xué)習(xí)方法應(yīng)用于故障樣本的特征提取，提出了一種基于非線性流形學(xué)習(xí)的故障特征提取模型。該模型針對三種不同的應(yīng)用場合，分別采用不同的流形學(xué)習(xí)方法，對于不斷更新的故障樣本采用增量算法，對于有標(biāo)簽故障樣本采用監(jiān)督算法，進行故障樣本的特征提取和分類，具有良好的學(xué)習(xí)非線性數(shù)據(jù)內(nèi)在幾何結(jié)構(gòu)能力。將該模型應(yīng)用于空氣壓縮機故障振動信號的診斷分析，能夠有效地進行故障信號的特征提取和診斷，提高了故障診斷的有效性和診斷精度。

在應(yīng)用的三種流形特征提取方法中，其提取特征的效果一定程度上受到鄰域因子和嵌入維數(shù)等參數(shù)選取的影響，如何選取合適的算法參數(shù)，將是下一步研究工作的重點。

[1]鐘秉林，黃 仁，賈民平，等.機械故障診斷學(xué)(第3版)[M].北京:機械工業(yè)出版社，2007.

[2]魏中青，馬 波，竇 遠(yuǎn)，等.基于MLE閾值規(guī)則的小波特征提取技術(shù)在氣閥故障診斷中的應(yīng)用[J].振動與沖擊，2011，30(1):237 －241.WEI Zhong-qing，MA Bo，DOU Yuan，et al.Wavelet feature extracting technique based on maximum likelihood estimation threshold rule and its application in fault diagnosis of a gas valve[J].Journal of Vibration and Shock，2011，30(1):237－241.

[3]夏 天，王新晴，趙慧敏，等.基于高階累積量的柴油發(fā)動機曲軸軸承故障特征提取[J].振動與沖擊，2011，30(1):77－81.XIA Tian，WANG Xin-qing， ZHAO Hui-min， etal.Extracting fault features of a Diesel engine s crankshaft bearing based on high-order cumulation[J].Journal of Vibration and Shock，2011，30(1):77－81.

[4]潘宏俠，黃晉英，毛鴻偉，等.基于粒子群優(yōu)化的故障特征提取技術(shù)研究[J].振動與沖擊，2008，27(10):144－147.PAN Hong-xia，HUANG Jin-ying，MAO Hong-wei，et al.Fault-characteristic extracting technology based on particle swarm optimization[J].Journal of Vibration and Shock，2008，27(10):144－147.

[5]栗茂林，梁 霖，王孫安，等.基于連續(xù)小波系數(shù)非線性流形學(xué)習(xí)的沖擊特征提取方法[J].振動與沖擊，2012，31(1):106－111.LI Mao-lin，LIANG Lin，WANG Sun-an，et al.Mechanical impact feature extraction method based on nonlinear manifold learning of continuous wavelet coefficients[J].Journal of Vibration and Shock，2012，31(1):106 －111.

[6]Seung H S，Daniel D L.The manifold ways of perception[J].Science，2000(12):2268 －2269.

[7]Roweis S，Saul L.Nonlinear dimensionality reduction by locally linear embedding[J].Science，2000，290(5500):2323－2326.

[8]Tenenbaum J B，de Silva V，Langford J C.A global geometric framework for nonlinear dimensionality reduction[J].Science，2000，290:2319 －2323.

[9]Silva V D，Tenenbaum J B.Global versus local methods in nonlinear dimensionality reduction[J].In:Advances in Neural Information Processing Systems，2003:705 －712.

[10]Belkin M，Niyogi P.Laplacian eigenmaps for dimensionality reduction and data representation[J].Neural Computation，2003，15(6):1373－1396.

[11]Zhang Z Y，Zha H Y.Principal manifolds and nonlinear dimensionality reduction via tangent space alignment[J].Journal of Scientific Computing，2005，26(1):313－318.

[12]Jiang Q S，Jia M P，Hu J Z，et al.Machinery fault diagnosis using supervised manifold learning[J].Mechanical Systems and Signal Processing，2009，23(7):2301－2311.