近鄰概率距離在旋轉機械故障集分類中的應用方法

李霽蒲， 趙榮珍(蘭州理工大學 機電工程學院，蘭州 730050)

旋轉機械故障診斷本質上是故障的模式辨識的過程。該項技術的當前發展中，隨著數據獲取和數據存儲技術的長足發展，導致描述故障狀態的特征維度不斷增加，同時也增加了大量的冗余信息，這為后續的模式識別帶來了極大的難度，為此，關于高維數據的降維成為了一項重要任務。對此，在計算機科學研究中，關于降維問題已取得一系列的研究進展，典型的如主成分分析方法(Principal Component Analysis, PCA)[1]、線性Fisher判別(Linear Fisher Discriminant，LFD)[2]、局部保持投影(Locality Preserving Projection，LPP)[3]、局部線性嵌入(Locally Linear Embedding，LLE)[4]、拉普拉斯特征映射(Laplacian Eigenmap, LE)[5]、等距映射法(Isometric Mapping，ISOMAP)[6]、隨機近鄰嵌入(Stochastic Neighbor Embedding，SNE)[7]等。其中，PCA是一種尋找最小均方意義下原始數據的最優低維表示的線性投影方法。LFD為通過數據間的類別信息，使數據間類內散度最小、類間散度最大。LPP為非線性方法拉普拉斯特征映射LE的線性近似，它既解決了PCA等傳統線性方法難以保持數據非線性流行的缺點，還能夠解決非線性難以獲得新樣本投影的缺點[8]。已在圖像識別領域取得了一定的研究進展。

在機器學習中，度量學習(Metric Learning)已成為了非常重要的基礎性命題。距離度量函數可評價不同樣本之間的相似性，因此，距離函數顯著地影響著大部分機器學習算法的性能。其中，歐式距離是眾多機器學習中應用最為廣泛的距離函數。歐式距離表示數據點間的直線距離，假定數據點的特征同等重要且互不相關。但是在一些實際情況下，如文獻[9]中所述，歐式距離不能很好揭示樣本之間的相似程度。SNE算法將高維數據間的歐式距離轉化為概率表達形式，故受SNE算法的啟發，本文提出近鄰概率距離(Nearby Probability Distance)這一新的度量函數。

LPP作為局部保持的流形學習算法，局部鄰域與權重的構建通常是基于歐式距離。K近鄰(KNN)分類器作為一種簡單、高精度的智能分類器，它在選擇近鄰點時也是基于歐式距離。但是，歐式距離有時并不能反映真實的數據空間結構，同類數據的距離甚至大過異類數據的距離。針對這一問題，本文把新提出的近鄰概率距離應用到LPP與KNN分類器中，提出基于近鄰概率距離的LPP(Nearby Probability Distance Locality Preserving Projection，NPDLPP)和基于近鄰概率距離的KNN(Nearby Probability Distance K-Nearest Neighbor，NPDKNN)分類器，通過實驗證明了它們的有效性，擬為典型多通道的轉子試驗臺上的故障診斷發展提供一些參考依據。

1 局部保持投影算法

LPP算法的基本思想[10]是：在保持數據局部結構特征不變的條件下，對于高維空間數據集中相距較近的兩個點，尋找一個投影矩陣，使得高維空間相距較近的兩個點在低維空間上的投影坐標也較近。

設定高維數據集為n個d維向量X={x1,x2,…,xn},低維嵌入空間的敏感特征集為n個r維向量Y={y1,y2,…,yn},(r<

LPP通常用兩種方法構建相鄰無向圖[11]：①ε近鄰方式：若兩點間的距離小于常數ε時，將兩點相連。② K近鄰方式：若一點在另一點最近的k個點中，則兩點相連。

由于常數ε的選擇通常需要大量實驗才能取得最佳效果，且當數據分布不均勻時ε近鄰方式并不適用，故絕大多數的研究采用K近鄰方式。本文也只與K近鄰方式進行比較。

從上可知yi=ATxi，其中投影矩陣A可通過最小化式(1)所示的目標函數得到，即

(1)

式中：Sij為權值矩陣S的一個元素。

(2)

式中：σ為熱核寬度，σ>0。

利用式(3)計算投影矩陣A

arg min(ATXLXTA)

(3)

定義Lagrange函數為

g(a,λ)=aTXLXTa+λ(1-aTXDXTa)

(4)

ATXDXTA=I

(5)

從而LPP算法變為一個求解特征值問題，即

XLXTA=λXDXTA

(6)

那么上式的前r個最小非零特征值對應的特征向量就構成投影矩陣A=[a1,a2,a3,…,ar]。

2 提出一種新型的度量函數近鄰概率距離

由數學知識可知，一個定義在向量空間X函數D：X×X→R0，若D對于任意xi,xj,xk均滿足下列性質，那么D稱為一個度量函數(metric)：

1) (xi,xj)+D(xj,xk)>D(xi,xk) (三角不等式)

2)D(xi,xj)≥0 (非負性)

3)D(xi,xj)=D(xj,xi) (對稱性)

4)D(xi,xj)=0?xi=xj(可區分性)

嚴格的說，如果一個度量函數滿足前三個性質卻不滿足第四個，則稱該度量函數為一個偽度量。

SNE算法的提出，為高維數據數據降維提供了新的思路，它與傳統的數據降維方法不同，將高維數據間的歐式距離轉化為概率表達形式，是一種基于數據間相似度的降維方法。在SNE中，數據xi選擇xj作為近鄰的概率為Pij

(7)

式中：Pij為xi選取xj作為近鄰的概率。參數λ為相應高斯函數的方差參數，它的確定與最終確定的近鄰數量有關系。Pij=0且數據間的相似度概率和為1。考慮到以xi為中心點的高斯分布，若xj越靠近xi，則Pij越大。反之，則Pij極小。

在高維空間中，歐式距離并不能真實地度量數據間的分布情況，同類故障樣本點間的歐式距離可能比非同類數據點間的歐式距離更大，導致近鄰選擇不準確。基于此，在引入近鄰選擇概率的基礎上，本研究提出一種新的度量距離，即近鄰概率距離(Nearby Probability Distance，NPD)，定義如下

(8)

3 近鄰概率距離在故障診斷上的應用

3.1 基于近鄰概率距離的局部保持投影算法

由節1可知，LPP算法采用K近鄰方式構建相鄰無向圖。而K近鄰方式在選擇k個近鄰點時采用的是歐式距離度量方式。但是歐式距離有時并不能反映真實的數據分布狀態，因此把近鄰概率距離引入LPP當中?；谛碌木嚯x度量，尋找近鄰點。NPDLPP算法具體步驟如下：

步驟1采用式(8)為距離度量構建相鄰無向圖，確定k個近鄰。

步驟2構建權值矩陣。在相鄰無向圖中，作為近鄰的點與點用邊相連，權值的大小用來表示兩點的相近程度。如果能夠在定義權值時也考慮兩點作為近鄰的概率問題，將會使相近的兩點權值更大，因此重新定義權值矩陣為

(9)

式中：α為用戶設定的參數。

步驟3計算投影矩陣。根據式(9)代替Sij求解式(3)，得到的r個最小非零特征值對應的特征向量就構成投影矩陣A=[a1,a2,a3,…,ar]。

3.2 基于近鄰概率距離的KNN分類器

傳統KNN分類器其分類原理是：通過計算測試樣本與各個訓練樣本之間的歐式距離，然后根據距離測量選擇距離最近的k個樣本，即為測試樣本的k個近鄰點。在k個近鄰點中，哪一種類型擁有的點多，測試樣本就屬于這一類型。由此可見，傳統KNN分類器賦予近鄰樣本特征相同的貢獻，距離度量函數很大程度上影響著分類的效果。

隨著維數的升高，點與點之間的歐式距離將變得越來越不明顯，點到最近鄰點及其最遠鄰點的距離幾乎是相等的，非同類點的歐式距離可能比同類點的歐式距離更為接近，這將導致在選擇近鄰點時存在誤差。近鄰概率距離在選擇近鄰時，如果兩點成為近鄰的概率越大，則兩點的距離將會被描述的更為貼近；反之，則兩點的距離將會被描述的更遠。這更利于近鄰點的選擇，因此將近鄰概率距離引入KNN分類器中，提出基于近鄰概率距離的KNN分類器(Nearby Probability Distance K-Nearest Neighbor,NPDKNN)。

NPDKNN分類器的基本思想是：計算未知類別測試樣本與已知類別訓練樣本之間的概率距離，然后根據概率距離的大小選擇k個近鄰樣本點，k個近鄰樣本點中數量最多的類別即為測試樣本類別。設樣本數為c，分別為L1,L2,L3,…,Ls類，s是類別數，k1,k2,k3,…,ks分別是k個近鄰中屬于L1,L2,L3,…,Ls類的樣本個數。尋找k個近鄰點使用的距離度量為式(8)，定義判別函數為

gj(xi)=max{ki|i=1,2,3,…,s}

(10)

決定規則為，如果gj(xi)=ki，則決策x屬于Lj類(1≤j≤s)。

4 故障診斷上的應用方法設計

本文方法在一個典型轉子實驗臺上實施的故障診斷的流程，如圖1所示。該方法主要分為以下幾個步驟。

圖1 NPDLPP與NPDKNN相結合的故障分類方法流程圖Fig.1 The flow char of the fault classification method of NPDLPP combined with NPDKNN

步驟1對采集信號使用文獻[12]中的中值濾波與小波消噪算法集成的混合濾波方法進行消噪處理，對消噪后的振動信號集進行時域、頻域的特征提取，得到原始高維數據特征集P。

步驟2將原始數據集P利用提出的NPDLPP進行降維得到低維敏感特征集Y。

步驟3將得到的低維敏感特征集Y輸入到基NPDKNN分類器進行辨識，得到測試樣本的故障類型。

輸入：數據集X={x1,x2,…,xn},鄰域數值k，熱核參數σ；

輸出：投影矩陣A。

5 實驗結果與討論

5.1 實驗數據

本研究工作的實驗對象為參考文獻[13]圖2所示的雙跨度轉子試驗臺。設備安裝共有13個電渦流傳感器。其中，12個傳感器布置在6個截面處的相互垂直方位，采集不同方位的振動信號，第13個傳感器布置在電機端，用于采集轉速信號。在該設備上進行升降速實驗，分別模擬轉子不對中、質量不平衡、軸承松動、動靜碰磨及正常轉動5種狀態實驗。設置采樣頻率為5 000 Hz，轉速為3 200 r/min，采集各種狀態類型數據樣本80組，其中50組作為訓練樣本，30 組作為測試樣本。針對樣本集每一個通道(共12個通道)構造時域頻域特征集，共16×12=192個特征。確定的特征參數，如表1所示。各個參數的計算公式參考文獻[14]。

表1 確定的特征參數情況Tab.1 Determine the characteristic parameters

5.2 參數設定

本文需要設定的參數有：維數約簡的目標維數d、NPDLPP中近鄰參數k1、NPDLPP中權值矩陣參數α及NPDKNN中近鄰參數k2。

其中，維數約簡的目標維數d用極大似然估計方法計算為5維。不同的k1與α組合得到的降維效果在NPDKNN(固定參數k2=8)的識別率不同，設置k1的范圍為6～20，間隔為1，α的范圍為0.1～1，間隔為0.1，對所有的k1和α進行計算，結果如圖2所示。

圖2 整體識別率隨k1與α的變化Fig.2 The overall recognition rate change with k1 and α

從圖2可知，當k1=8時，整體識別率明顯具有優勢，當k1=8，α=0.5時，整體識別率達到最大值96%。采用固定單一分量α=0.5和k1=8的方法，見圖3進一步說明最大值參數選擇情況。

(a)當α=0.5時整體識別率隨k1變化曲線

(b)當k1=8時整體識別率變化曲線圖3 k1,α參數選擇曲線圖Fig.3 k1,α parameter selection curve

當確定k1和α的取值后，把降維后的低維敏感特征集輸入到NPDKNN中，并設置k2的范圍為6～20，其整體識別率隨k2變化如圖4所示。

圖4 整體識別率隨k2變化曲線圖Fig.4 The overall recognition rate change with k2

通過上述分析可以看出，當參數k1=8，α=0.5，k2=8時，NPDLPP與NPDKNN整體識別率能達較為理想的效果，因此本文在試驗分析中采用這些取值。

5.3 評估方法

為更好的說明NPDLPP降維后數據的分布情況，本文采用文獻[15]中的評價指標Je來定量描述降維后的類間散度及類內散度。Je越大，則說明類內離散度越小，類間離散度越大，降維效果越好。Je計算公式如下

(11)

(12)

(13)

5.4 實驗分析

為了使實驗更具有說服力，本文分別利用PCA、ISOMAP、LLE、LPP等方法進行降維，并對比各個算法的降維效果。前三個主元的低維嵌入效果如圖5所示(其中，“+”、“○”、“*”“◆”“□”分別代表轉子不對中、質量不平衡、軸承松動、動靜碰磨及正常各個狀態)，表2從數據角度反映各算法的降維效果。

從圖5、表2中可知：圖5(a)的降維效果最差，這是由于全局保持的線性降維方法并不能很好的顯示低維流形特征。圖5(b)作為非線性全局保持降維方法比5(a)降維效果好。圖5(c)、圖5(d)、圖5(e)作為局部保持的降維算法能較好的反映低維嵌入流形特征。其中圖5(e)的降維效果最好，明顯使類內聚集在一起，類間分離開來。用評價指標Je評價圖5中各個算法的降維效果，如表3所示。

從表3可知，PCA降維后的效果最差，類間距離并沒有很好的分開，類內之間也沒有很好的聚集。NPDLPP相對于其他算法具有明顯的優勢，評價指標Je達到了9.048 6，遠遠大于其他算法，因此NPDLPP具有一定優勢。

為了證明本文提出的NPDKNN分類器的穩定性，本文選用了KNN分類器做比較。兩類分類器分別在原始高維數據集添加隨機噪聲a=0.0、0.2、0.4、0.6的情況下(本文采用文獻[16]中所述的方法)，把經過NPDLPP降維后的低維敏感特征集輸入到KNN與NPDKNN中，如表4所示。

(a) PCA

(b) ISOMAP

(c) LLE

(d) LPP

(e) NPDLPP圖5 測試樣本基于不同算法的降維效果Fig.5 Test sample based on different dimension reduction method results

表2 降維算法及其NPDKNN辨識準確率Tab.2 Classification identification method andthe NPDKNN recognition accuracy

表3 各個算法降維后的類間類內評價指標Tab.3 Each dimension reduction algorithm using theevaluation index in between the classes

從表4可知：①NPDKNN分類器的識別率大于KNN分類器，這是由于兩個選擇近鄰點的方式不同，NPDKNN分類器選擇近鄰點的方式能更準確度量近鄰點；②隨著噪聲干擾系數的增加，KNN分類與NPDKNN分類器識別率下降較多，但是NPDKNN分類器的識別率比KNN分類器普遍要高些，因此可以看出NPDKNN分類器擁有較為理想的抗干擾能力。

表4 KNN與NPDKNN受不同干擾程度噪聲的影響Tab.4 The influence of KNN and NPDKNN under theinterference noise of different degree

6 結 論

針對高維空間特征集中各個故障類型的特征值存在一定“混淆”，從而導致故障類型難以辨別的問題展開研究，提出一種考慮了兩點之間成為近鄰的概率距離，即近鄰概率距離(NPD)，并把它應用于局部保持投影算法(LPP)和K-近鄰(KNN)分類器中。在多域、多通道的典型轉子試驗臺進行實驗：首先將振動信號轉化為多域、多通道的高維特征集；然后利用NPDLPP對高維特征集進行降維，得到低維敏感特征集；最后將低維敏感特征集輸入到NPDKNN分類器中進行辨別。實驗證明：NPDLPP對比LPP使類內距離更加靠近，聚類效果有了極大的提升，同時類間距離也進一步拉開，更有利于故障類型的判別；NPDKNN分類器能更精確、穩定的實現類型判別。因此，本文提出的NPDLPP與NPDKNN故障診斷方法具有較好的分類效果和較高的故障識別率，為轉子故障診斷提供了一種新的解決思路。

參 考 文 獻

[1] TURK M,PENTLAND A. Eigenfaces for recognition[J]. Journal of Cognitive Neuroscience,1991,3(1):71-86.

[2] BELHUMEUR P N,HESPANHA J P,KRIEGMAN D J. Eigenfaces vs. Fisherfaces: recognition using class specific linear projection[J]. IEEE Transaction on Pattern Analysis and Machine Intelligence,1997,19(7):711-720.

[3] HE X,PARTHA N.Locality preserving projections[C]//Proceedings of the 17thAnnual Conference on Neural Information Processing Systems.Vancouver,2003:153-160.

[4] SAM T R,LAWRENCE K S. Nonlinear dimensionality reduction by locally linear embedding[J].Science,2000,290(5500):2323-2326.

[5] BELKIN M,NIYOGI P. Laplacian eigenmaps for dimensionality reduction and data representation[J].Neural Computation, 2003,15(6):1373-1396.

[6] TENENBAUM J B,SILVA V, LANGFORD J C.A global geometric framework for nonlinear dimensionality reduction[J].Science,2000,290(5500):2319-2323.

[7] HINTON G,ROWEIS S.Stochastic neighbor embedding[J].Advances in Neural Information Processing Systems,2003,15(3):833-840.

[8] 王雪冬，趙榮珍，鄧林鋒.基于KSLPP與RWKNN的旋轉機械故障診斷[J].振動與沖擊，2016，35(8)：219-223.

WANG Xuedong，ZHAO Rongzhen，DENG Linfeng.Rotating machinery fault diagnosis based on KSLPP and RWKNN[J].Journal of Vibration and Shock,2016,35(8):219-223.

[9] 王微.融合全局和局部信息的度量學習方法研究[D].北京：中國科學技術大學，2014.

[10] 楊望燦，張培林，張云強.基于鄰域自適應局部保持投影的軸承故障診斷模型[J].振動與沖擊，2014,33(1):39-44.

YANG Wangcan，ZHANG Peilin，ZHANG Yunqiang.Bearing fault diagnosis model based on neighborhood adaptive locality preserving projections[J].Journal of Vibration and Shock, 2014,33(1):39-44.

[11] 楊慶，陳桂明，何慶飛， 等.局部切空間排列算法用于軸承早期故障診斷[J].診斷、測試與診斷，2012，32(5)：831-835.

YANG Qing，CHEN Guiming，HE Qingfei，et al.Vibration suppression of pipe system with tuned mass damper[J].Journal of Vibration, Measurement & Diagnosis,2012,32(5):831-835.

[12] 趙榮珍，李超，張優云.中值與小波消噪集成的轉子振動信號濾波方法研究[J].振動與沖擊，2005,24(4):74-77.

ZHAO Rongzhen，LI Chao，ZHANG Youyun.Filter design synthesizing median filtering and wavelet algorithm to de-nose vibration signal polluted by violent pulse noises[J].Journal of Vibration and Shock, 2005,24(4):74-77.

[13] 王雪冬，趙榮珍，鄧林鋒.基于PCA-KLFDA的小樣本故障數據集降維方法[J].華中科技大學學報(自然科學版),2015,43(12)：12-16.

WANG Xuedong，ZHAO Rongzhen，DENG Linfeng.Small sample size fault feature data recognition based on the PCA-KLFDA[J].Journal of Huazhong University of Science and Technology(Natural Science Edition),2015,43(12):12-16.

[14] 馬婧華.基于流形學習的旋轉機械早期故障融合診斷方法研究[D].重慶：重慶大學，2015.

[15] 吳劍.基于特征選擇的無監督入侵檢測方法[J].計算機工程與應用，2011,47(26)：79-82.

WU Jian.Unsupervised intrusion detection based on feature selection[J]. Computer Engineerng and Applications, 2011,47(26)：79-82.

[16] CHEN F, TANG B, CHEN R. A novel fault diagnosis model for gearbox based on wavelet support vector machine with immune genetic algorithm[J]. Measurement, 2013, 46(1): 220-232.