自適應局部獨立分量分析

余成義，肖 涵，劉安中，李友榮

(武漢科技大學 冶金裝備及其控制教育部重點實驗室，武漢 430081)

混沌動力系統的降噪是20世紀90年代混沌時間序列分析的主要研究內容之一。由于混沌信號具有“寬頻”性和“偽隨機”性，如果用傳統的基于頻譜分析的降噪算法，會將有用信號當成噪聲去掉。因此在處理混沌信號時，必須用非線性的降噪算法取代傳統的線性降噪算法。

目前，Shin等［1－2］提出了基于奇異譜的降噪算法，并將該算法用于軸承、齒輪信號的降噪中，克服了傳統線性降噪方法無法處理非線性數據的缺點。徐金梧等［3］將局部投影降噪用于微弱特征信號的檢測中，提取設備的早期故障信號。文獻［4］提出了加權相空間重構投影降噪算法，該算法采用漢寧加權窗，減少了重構誤差，提高算法的效率。但上述算法主要通過主分量分析去獲取數據集內總方差最大方向，與主分量分析(PCA)相比，獨立分量分析(ICA)應用了數據高階統計量，且ICA能恢復數據集內在變量的各自主要方向。為了克服全局線性ICA不適合處理非線性數據的局限性和非線性ICA需要不同約束條件的復雜性，Karhunen等［5－6］提出了局部線性ICA方法，其基本思想是先對數據進行聚類，聚類目的就是找數據的局部投影區間，再對每一個聚類進行線性 ICA。Gruber等［7］結合相空間重構給出了局部獨立分量分析(本文中稱其為傳統局部獨立分量分析)的基本模型框架。文獻［8］指出該降噪算法的一些缺點:聚類中心個數人為給定和初始聚類中心隨機選取導致算法的不穩定性，從而大大限制了該降噪算法的使用范圍。本文在克服傳統局部獨立分量分析的不足的基礎上提出了自適應獨立分量分析降噪算法，該算法用聚集模糊K均值聚類和聚類評價函數求取高維數據集的聚類個數和聚類中心位置，具有自適應性和穩定性。

1 聚集模糊K均值聚類算法

聚集模糊K均值聚類算法［9］在傳統模糊K均值聚類算法的基礎上引入懲罰項，使得該算法得到的聚類結果對初始聚類中心不敏感。該算法和聚類評價函數一起使用能夠確定數據集的聚類個數和聚類中心位置。

某一維信號經相空間重構后為:

X={X1，X2，…，Xn}T

其中相點 Xi=［Xi，1，Xi，2，…，Xi，m］，m 為嵌入維數或代表每個相點屬性個數。用聚集模糊K均值聚類算法將數據集X聚成k類，實質求下面目標函數的最小值:

其中λ為懲罰因子，其大小決定式(1)中哪項起主要作用。

約束條件為:

式中:U為n×k的隸屬度矩陣，ui，j表示第i個相點隸屬于第j個聚類中心的程度。Z為包含k個聚類中心矩陣。Di，j用歐氏距離的平方來度量第i個相點與第j個聚類中心的不相似程度:

1.1 目標函數優化

可以看出式(1)是帶約束的非線性優化問題。通常采用如下方法求該目標函數的最小值:先固定U，更新Z使得目標函數P最小;再固定Z，更新U使得目標函數P最小。

固定U，更新的Z由下式求得:

其中1≤j≤k，1≤l≤m，式(3)與懲罰因子 λ 無關。

固定Z，用拉格朗日乘數法將式(1)變為無約束的優化問題。更新的U由下式求得:

1.2 聚集模糊K均值聚類算法

先設置懲罰因子λ，隨機選取初始聚類中心，通過交替更新Z和U，使得P(U，Z)不再變化，此時的U和Z為所求結果。由(1)式可知，優化該算法中的第一項是使數據集聚類數目增加，然而優化該算法中的第二項是使數據集聚類數目減少。算法中懲罰因子λ決定哪一項起主要作用，隨著λ增加，聚類過程向著減少聚類個數方向進行，當λ增大到一定程度時，該算法就將數據集聚成了一類。λ取值合適時，聚集模糊K均值聚類算法才能準確得到真實聚類個數和聚類中心位置。下面介紹如何求取合適的懲罰因子λ。

2 聚類評價函數

文獻［10］提出聚類評價函數，該算法同時考慮了各聚類內部的致密度(下式中第一項)和各聚類之間的距離(下式中第二項)。評價函數值越小，聚類效果越好。該評價函數如下:

求取數據集聚類個數和聚類中心位置的算法流程如下:

該算法中包含兩個循環，第一個循環是找出最小的懲罰因子λmin;第二個循環是計算最優懲罰因子值。

第一個循環的算法流程:

(1)輸入初始聚類個數k，要求初始聚類個數大于真實聚類個數。

(2)設置λmin初始值為相點最大距離的0.01倍，并令t=1。

(3)運行聚集模糊K均值聚類算法，使位置相同的聚類中心聚集為一個聚類中心kt=k－kshare

(4)如果kt=k，則執行第二個循環，否則令λmin=λmin－0.1λmin，跳轉到步驟(3)。

第二個循環的算法流程:

(2)如果kt=1，則該算法執行完畢，否則跳轉到步驟(1)。

上述第二個循環中最小評價函數值所對應的懲罰因子即為最優懲罰因子，將其代入聚類模糊K均值聚類算法中可以得出真實的聚類個數和聚類中心位置。在有無重疊數據集上，該算法都能準確得到真實聚類個數和精確的聚類中心位置。

3 自適應局部獨立分量分析算法

本文提出的改進算法主要思想是在進行傳統的K均值聚類前，先使用聚集模糊K均值聚類和聚類評價函數，求出數據集的真實聚類個數和聚類中心位置，從而減少傳統局部獨立分量分析的參數輸入，消除初始聚類中心的隨機選取對該降噪算法穩定性的影響，同時提高了降噪的效果。

自適應局部獨立分量分析算法流程:

(1)對一維含噪信號進行相空間重構得到軌跡矩陣X。

(2)對相空間重構后的數據去均值處理:X'=XX。對X'用聚集模糊K均值聚類和評價函數求出其真實的聚類個數k和聚類中心。

(3)對X'運用傳統的K均值聚類得到k個聚類Yi。其中聚類個數和初始聚類中心為步驟(2)中求得的聚類個數和聚類中心。

(4)對每一個聚類 Yi去均值處理:Y'i=Yi－i。對每一個聚類Y'i進行獨立分量分析，并由高維空間向低維空間投影，達到信噪分離的目的。其中投影階數由最小描述長度準則來確定，得到低維數據為Li。

(5)將所得的低維數據加上第(4)步中去除的均值Y'i，并按數據原來的順序將這k個聚類排列成完整的數據L'。

(6)將第(5)步所得到的數據L'加上第(2)步中去除的均值重構成一維數據，即為降噪后的數據。

如果噪聲較大，可以重復步驟(1)～(6)，直到達到理想的效果為止。

4 仿真信號實驗

Lorenz系統是典型的非線性動力系統，Lorenz信號由下式產生:

圖1 降噪前信噪比為5.76 dB的Lorenz信號Fig.1 Noisy Lorenz signal waveform before noise reduction(SNR 5.76 dB)

圖2 降噪后信噪比為17.01 dB的Lorenz信號Fig.2 Noisy Lorenz signal waveform after noise reduction(SNR 5.76 dB)

在Lorenz信號中添加不同水平的白噪聲，比較本文提出的降噪算法與傳統局部獨立分量分析(LICA)和全局投影(GP)降噪算法的降噪效果，如表1所示。從表1可以看出:在高信噪比的情況下，全局投影降噪的降噪效果優于LICA和本文提出的降噪算法;當信噪比較低時，LICA和本文提出的改進降噪算法的降噪效果優于GP，并且本文提出的降噪算法的降噪效果要優于LICA，同時改進算法的每次降噪效果都不變，具有很好的穩定性。

表1 幾種不同的降噪算法對不同噪聲水平的Lorenz信號降噪效果比較Tab.1 Comparison among the effects of several methods on Lorenz signal of different noisy level

5 自適應局部獨立分量分析在齒輪箱故障診斷中的應用

試驗在傳動系統故障試驗臺上進行，減速箱為一級減速。主動齒輪為20齒，從動齒輪為37齒，輸入轉速為14.23 Hz，采樣頻率為2 000 Hz，取1 024 個數據點。主動齒輪有一個齒斷裂，則主動齒輪產生的振動沖擊時間間隔約為0.07 s。

圖3 原始信號及降噪信號Fig.3 The original signal and the signal after noise reduction

圖3(a)為減速箱振動信號的時域波形，從時域圖中很難看出周期性的沖擊信號;圖3(b)為采用本文降噪算法處理后的信號。從降噪后的信號時域圖中，可以明顯的看出周期沖擊，且沖擊間隔為0.07 s。說明本文提出的降噪算法能有效地提取斷齒故障信號中沖擊成分。

6 結論

(1)與傳統的局部獨立分量分析相比，本文提出自適應局部獨立分量分析降噪算法，減少了輸入參數(聚類中心數目)，克服了由于傳統K均值聚類導致的降噪效果的不穩定性。將該算法應用到含噪Lorenz信號和含有噪聲的齒輪沖擊信號中，都能得到比較好的降噪效果。

(2)噪聲較大時，可以采取多次循環的方法來逐步消除噪聲，在剛開始循環中，嵌入維數應取大一些，噪聲變小時，嵌入維數取小些，但必須滿足嵌入定理。

［1］Shin K，Hammond J K，White P R.Iterative SVD method for noise reduction of low-dime-nsional chaotic time series［J］.Mechanical Sys-tem and Signal processing，1999，13(1):115－124.

［2］呂志民，張武軍，徐金梧.基于奇異譜的降噪方法及其在故障診斷技術中的應用［J］.機械工程學報，1999，35(3):95－99.

［3］徐金梧，呂 勇，王海峰.局部投影降噪算法及其在非線性時間序列分析中的應用［J］.機械工程學報，2003，39(9):146－150.

［4］呂 勇，李友榮，肖 涵，等.基于加權相空間重構降噪及樣本熵的齒輪故障分類［J］.振動工程學報，2009，22(5):462－466.

［5］Karhunen J， Malaroiu S. Locally linearind-ependent component analysis［C］.Proceedin-gs of the International Joint Conference on Neural Networks，1999，2:882－887.

［6］Karhunen J， Malaroiu S. Local linear inde-pendent component analysis using clustering［J］.Int.Journal of Neural Systems，2000，10(6):439 －451.

［7］Gruber P，Stadlthanner K.Denoising using local projective subspace methods［J］.Neuroc-omputing，2006，69(13 －15):1485－1501.

［8］肖 涵.基于高斯混合模型與子空間技術的故障識別研究［D］.武漢:武漢科技大學，2007.

［9］Li M J，Ng M K.Agglomerative fuzzy K-mea-ns clustering algorithm with selection of number of clusters［J］.IEEE Transactions on Knowledge and Data Engineering，2008，20(11):1519－1534.

［10］Sun H，Wang S.FCM-based model selection algorithms for determining the number of clusters［J］.Pattern Recognition，2004，37(10):2027－2037.