基于故障判別增強KECA算法的故障檢測

韓宇，李俊芳，高強，田宇，禹國剛

（1 天津理工大學電氣電子工程學院，天津300380； 2 天津市復雜系統控制理論及應用重點實驗室，天津300384；3天津理工大學工程訓練中心，天津300384）

引 言

隨著工業化程度的不斷提升，復雜工業過程對生產質量、系統性能和安全生產提出了新的要求。與此同時，復雜工業過程在向著一體化和復雜化逐漸發展。復雜工業過程控制系統的大規?；l展導致系統變量間相互關聯、相互耦合。一旦發生故障，將造成巨大的經濟損失和安全隱患。因此，復雜工業過程的故障診斷技術逐漸受到越來越多的關注。隨著計算機控制系統在現代工業中的廣泛使用，豐富的過程數據被收集并存儲。因此，數據驅動的故障診斷方法受到越來越多專家學者的關注[1-5]。

目前常見的數據驅動方法，主要包括主成分分析(principal component analysis, PCA)、偏最小二乘(partial least squares, PLS) 和獨立主元分析(independent principal component analysis，ICA)等。2010 年Jenssen[6]在KPCA 的基礎上提出了KECA（kernel entropy component analysis,KECA）算法。該算法由于不需要滿足高斯分布假設，因此在非線性特征提取表現出優越性。常鵬等[7]將KECA 方法引入工業過程監測取得良好的效果。齊詠生等[8]提出多尺度主成分分析（multi-scale principal component analysis, MSPCA）和KECA 相結合的算法，提高了KECA 算法的分類效果。但現有的基于KECA 的故障檢測方法，僅利用正常工況下數據進行統計建模。忽略了先前故障數據，這些故障數據實際上可以提供故障判別信息用來幫助在線故障診斷。

為了提取先驗故障數據中的故障判別信息，通常使用判別分析技術。Fisher 判別分析（Fisher discriminant analysis, FDA）是故障分類最廣泛使用的判別分析方法。為了提高分類性能，許多改進了FDA 方法已經衍生出來，包括半監督的FDA[9]和核Fisher 判別分析(kernel Fisher discriminant analysis,KFDA)[10-11]。Feng 等[12-14]基于本地數據結構分析，已經開發出局部的FDA 方法。Yu 等[15-17]通過利用非局部結構信息，開發了局部和非局部保留判別分析（local and nonlocal preserving projection, LNPP）方法來改進基于FDA 的故障鑒別。然而本文與上述方法不同的是，通過將LNPP 映射到高維空間中，提取少量的先前故障數據中故障判別信息來輔助基于KECA算法的故障檢測。

綜上所述，本文提出了一種故障判別增強KECA（FDKECA）算法，該方法通過改進LNPP 對先前故障數據中故障信息進行提取，同時監測KEC 和FDC 兩類數據特征。而后構建基于概率加權的總體監測統計量，實現故障在線檢測。通過數值仿真和田納西伊斯曼（Tennessee Eastman, TE）過程仿真實驗，證明和傳統KECA 相比，FDKECA 算法能夠有效利用故障數據提高故障檢測率。

1 KECA算法

KECA 算法作為一種非線性數據降維的方法，相比于核主成分分析（kernel principal component analysis, KPCA）算法，其主要特點在于在降維特征選取時考慮到信息熵的大小，并通過此確定主元投影的方向。

對于N 維樣本x，p(x)為概率密度函數。則樣本瑞利熵（Renyi）[18]表示為:

由于對數函數單調性已知，因此可以將式(1)化簡為：

通過對V(p)估計來實現對Renyi 估計，引入Parzen窗，表示如下：

式中，Kσ(x,xi)為Parzen 窗，Kσ(x,xi)必須是滿足Mercer 空間的一個核函數，將式（3）代入式（2）通過對樣本均值估計得到：

式中，K 是N × N 的核矩陣，I 為元素都為1 的N × 1 維向量。式（4）得到了Renyi 熵的核矩陣表達。通過特征分解核矩陣得到Renyi 熵的估值，表示為：

式中，D 為特征值矩陣D = diag(λ1,λ2,…,λn)，E為特征向量矩陣E =(e1,e2,…,en)，化簡后得到：

式（6）表明，特征值大并不能表明信息熵的貢獻值也大，因此依據ξi=值才能保證樣本降維前后信息熵損失最小。通過將ξi大小進行降序排序，選取對Renyi熵貢獻值較大的前d項特征值和特征向量。

對于測試集Xt其投影表達式為：

其KECA 監控統計量T2和Q 統計，記為和Q(0)f,其對應表達式為:

式中，Λ 是訓練數據集協方差矩陣,本文將KECA 通過核密度估計法(kernel density estimation,KDE)得到T2和Q 置信限記為和，KECA 算法具體流程參見文獻[19]。

2 FDKECA算法

如圖1 所示，FDKECA 采用無監督和監督建模方法來構建KECA 和KLNPDA 兩個子模型。對于KECA 子模型采用無監督建模方法，用正常工況下數據來構建KECA 子模型以提取KEC。對于KLNPDA 子模型采用監督建模方法，用先前故障數據和正常工況下數據來構建KLNPDA 子模型以獲得FDC。最后利用貝葉斯推理將KECA 和KLNPDA提供的監控統計量轉換為故障概率，并通過對兩個子模型的故障檢測結果轉化為故障概率，目的是構建基于概率加權的總體監測統計量，從而提供更有效的在線故障檢測能力。

2.1 KLNPDA

LNPDA 算法源于LNPP，它結合了LNPP 的思想[20-21]。LNPDA 能夠發現數據矩陣的低維投影，使得局部鄰域點的距離盡可能小，而非局部鄰域點的距離盡可能大。由于工業過程非線性嚴重，因此將LNPDA 映射到高維空間中，使用KLNPDA 能夠更好地獲得FDC。

為了構建KLNPDA 模型，構造Xnf=[Xn,Xf]T=[xnf(1),xnf(2),…,xnf(Nf)]T作 為 訓 練 集 , 其 中Xn∈RN×M表示N×M 維正常工況下運行的數據集，已知一類先前故障數據集Xf∈Rf×M表示其中f×M維故障數據集。Nf表示訓練集樣本總數Nf= N + f。

首先將構建的訓練集xnf(i) ∈RM映射到高維特征空間Φ(xnf(i)) ∈F,在高維特征空間尋找線性變換向量q ∈F，尋求投影y(i) =(Φ(xnf(i)))Tq，其中1 ≤i ≤Nf。其目的是保持投影前后同一類的點盡可能保持接近，而非同類的點盡可能地分開。前者是局部投影優化問題，而后者則是非局部投影優化問題。

首先，將局部優化投影加權參數wl和非局部投影加權參數wnl定義為：

設置加權參數是為了更好地分離正常工況和先前故障樣本，有效地提取FDC。因此，在局部優化投影時，對于來自同一數據集樣本賦予較高的加權參數，不同數據集樣本賦予較低的加權參數。在非局部優化投影時，與局部優化投影加權參數相反。

圖1 FDKECA算法結構Fig.1 Fault discriminant enhanced kernel entropy component analysis algorithmic structure

局部投影優化可以表示為[20]:

式（11）的約束條件為qTq = 1，其中Dl是Nf× Nf對角陣，其對角線元素wl(i,i)為wl矩陣第i列元素之和。wl是Nf× Nf矩陣其(i,j)上元素為wl(i,j)。Ll為局部投影Laplacian矩陣。

非局部投影優化可以表示為[21]:

式（12）約束條件為qTq = 1，式中Dnl是Nf× Nf對角矩陣，其對角線元素wnl(i,i)為wnl矩陣第i 列元素之和。wnl是Nf× Nf矩陣其(i,j)上元素為wnl(i,j)。Lnl為非局部投影Laplacian矩陣。

通過式（11）、式（12）組合，將局部和非局部投影優化問題重新表述為：

式（13）約束條件為qTq = 1。投影矢量q由訓練集張成子空間表示，其表示如下：

式（14）中β =[ β1,β2,…,βNf]T，將式（15）代入式（14）化簡為：

通 過 運 用 核 技 巧 Knf(i,j) =(Φ(xnf(i)))T(Φ(xnf(j)))避免Φ(Xnf)難以求取的問題。優化問題表述為：

其約束條件為βTKnfβ = 1,目的是為了確保有唯一的非零解。為了求解式（17），將廣義特征值分解引入，表示為：

對于測試集Xt,其判別成分可以表示為：

對于故障檢測，兩個故障判別統計數據構建為：

其 中 [y1,y2,…,yKf]T包 含 主 要 FDC，[yKf+1,yKf+2,…,y-Nf]T包含次要FDC。Γ 是主要FDC 的協方差矩陣,Ω 是次要協方差矩陣，兩者都是根據訓練集進行計算。

2.2 基于貝葉斯故障檢測統計量的構建

在正常工況下，所有監測統計數據應小于它們各自的置信限即T2(c)f,lim和Q(c)f,lim。但在現有研究中，都用統計分布計算數據的置信限[22-23]。然而，工業數據具有高度復雜的特征，并且它們可能不遵守這些假定的分布。因此，本文使用KDE 的數據驅動置信限計算方法[24-26]。具體地，首先將正常工況下數據投影到統計模型上，并計算監視統計量T2(c)f和Q(c)f。然后通過KDE 方法估計每個統計量的密度函數。最后，利用給定的顯著性水平δ，通過找到占據估計的密度函數的1-δ區域的點來確定每個統計量的置信限。在本文中，顯著性水平設置為δ=5%，因此對統計量均采用95%置信限。

由于FDKECA 模型提供了KEC 和FDC 兩類數據特征，因此采用貝葉斯推理將每個監測統計量轉化為故障概率。然后所有概率值組合起來構建基于概率加權的監測統計量，并采用加權策略來提高故障檢測性能。根據貝葉斯推理，將統計量T2(c)f和轉化為后驗概率和，其公式為：

兩個基于概率的監測統計數據PT和PQ通過加權所有子模型的后驗故障概率來構造，表示為：

加權因子應確保FDKECA 子模型始終能夠正常運行，而故障判別子模型可提供有用的故障信息以提高監控性能。對于KECA 子模型,其加權因子設計如下：

其中sat代表飽和函數[27]，表示為

Zmax需要根據研究對象不同來通過仿真實驗確定加權因子，加權因子作用是使得微小的故障信息有效地凸顯。本文通過50 組仿真實驗，最終確定Zmax=150，使得加權因子能夠有效地凸顯微小故障信息。

由于故障判別統計量能夠在故障發生時提供更多信息，因此設置適當的加權因子，使得故障信息更容易在統計量中凸顯。對于1 ≤c ≤C 加權因子和表示為：

兩個基于概率的監測統計數據構造用于故障檢測。與傳統監控不同統計，它們表明故障發生概率。如果PT2＜δ且PQ ＜δ,則表明該過程處于正常工況狀態。反之，則表示該過程處于故障狀態。

2.3 FDKECA故障檢測步驟

基于FDKECA 的過程監控涉及兩個階段：離線建模和在線檢測。在離線建模中，訓練數據集包括正常工況下的數據和一類先前的故障數據用于構建FDKECA 模型。在線故障檢測階段，新數據被投射到FDKECA 模型上，計算基于概率的監測統計PT 和PQ 以判斷過程操作狀態。更具體方法如下。

離線建模階段：

(1)收集正常工況下的數據，將它們劃分為訓練數據集XN和驗證數據集XV，并對兩個數據集進行標準化。

(2)收集現有的故障數據集{X(c)f,c = 1,2,…, }C 并使用訓練集的均值和方差對其進行歸一化。

(4)將驗證數據Xv投影到FDKECA 模型上，并計算其監控統計量和，c = 0,1,2,…,C。

(5)將KDE 應用于步驟（4）中獲得的監控統計數據估計置信限和，c = 0,1,2,…,C。

在線檢測階段：

(1)在線獲取新的數據集Xt，并且用訓練集的均值和方差對其進行歸一化。

(2)將數據集Xt投影到FDKECA 模型上，并計算出相應的監測統計量。

(3)通過貝葉斯推理，用式（21）計算后驗概率。

(4)用式（29）計算基于概率的監測統計PT和PQ。

(5)通過將監測統計與顯著性水平進行比較來確定是否發生故障。

3 仿真實驗

3.1 數值仿真驗證

為了證明FDKECA 算法的有效性，采用文獻

[22]中給出的數值仿真示例，測量變量M=3，對其故障程度進行簡要修改，其具體結構表示如下：

其 中，獨 立 噪 聲 變 量ei,1≤i≤3ei∈N(0,0.01)，t ∈[0.01,2]。基于以上數值仿真，取600 個正常工況下的樣本點。其中300 個作為訓練集，另外300作為測試集，計算正常工況狀態下的置信限。針對該系統設置兩個故障（表1），對于兩種故障采集300個故障樣本點作為先前故障數據集，在采集300 個作為測試集進行在線檢測，在101 個樣本點處引入故障。數值仿真分為如下三個情況：

情況1：故障D1 先前故障數據集用于訓練FDKECA模型。

情況2：故障D2 先前故障數據集用于訓練FDKECA模型。

情況3：故障D1 和故障2 兩類先前故障數據集用于訓練FDKECA建模型。

表1 數值仿真故障設置Table 1 Numerical simulation fault setting

在情況1 訓練下，FDKECA 模型包括先前D1 故障訓練的一個KLNPDA 模型。圖2 和圖3 分別顯示了KECA 和FDKECA 兩個模型故障監控的性能。從圖2 中可以看出，KECA 無法有效檢測到該故障，因為其監測統計T2和Q 遠低于相應的閾值，在故障D1發生后沒有明顯變化?；贙ECA 的T2和Q 統計的故障檢測率分別為15%和5.5%。相比之下，FDKECA 可以快速檢測到故障變化，其故障檢測率高達84%。但是PQ 沒有明顯改變，其故障檢測率為7.5%。

圖2 KECA故障D1監控結果Fig.2 Fault D1 monitoring results of KECA

圖3 情況1訓練下，FDKECA故障D1監控結果Fig.3 FDKECA fault D1 monitoring results of case 1 training

為了進一步研究FDKECA 算法，給出了故障D1測試集在KECA 和FDKECA 的投影效果圖如圖4 所示（圖中藍色表示正常工況的數據黃色表示故障數據）從圖中可以清楚地看出，KECA 算法不能有效分離測試集，但是FDKECA 算法可以有效分離測試集，表明FDKECA 算法對故障具有良好的特征提取效果，并能有效提取故障數據中的故障信息。這解釋了在這種情況下FDKECA 能夠提供更好地故障檢測性能，同時還繪制出KLNPDA模型對故障D1監控性能（圖5），其T2和Q 統計的故障檢測率分別為80%和2%。

圖4 故障D1測試集投影Fig.4 Fault D1 test projection

為了更好地研究FDKECA 算法的故障檢測性能，給出KECA 子模型和KLNPDA 子模型的基于概率加權總體檢測量的加權策略如圖6所示。從圖中可以看出，在正常工況下，故障判別子模型應當被停用。圖中故障判別子模型的加權因子為0，KECA 模型加權因子為1。當檢測到故障發生，故障判別子模型被激活，變為非零值且絕大多數接近最大值1，表明故障表判別子模型能夠有效地對故障進行加權，而雖然變小但仍保證大部分非零值，表明KECA 模型也能對故障提供有效的信息。由此證明了加權設計策略的有效性。由于故障判別子模型中很少涉及故障信息因此對于大部分故障樣本值接近于0。

當檢測到與情況1下訓練FDKECA 模型使用的先前故障數據無關的未知故障時，FDKECA 的故障檢測性能要優于KECA 檢測性能。圖7 和圖8 分別給出了兩種算法在情況1 下對故障D2 監測性能。KECA 的T2統計量的故障檢測率為41%，Q 統計的故障檢測率為11%。而FDKECA 對故障檢測性能實現了一些改進，其PT統計量達到51.5%的故障檢測率，其PQ 統計量與KECA 的Q 統計量達到8.5%。

表3 列出了三種情況下FDKECA 算法的檢測率。該結果表明，FDKECA 結合先前故障信息能夠有效提高故障檢測率。此外，與KECA 模型相比，證明使用一類先前故障數據訓練的FDKECA 模型能夠改善另一類未知故障的故障檢測能。

圖6 情況1下故障D1故障概率加權因子Fig.6 Weighting factor of fault D1 for fault probability in case 1

圖7 KECA故障D2監控結果Fig.7 Fault D2 monitoring results of KECA

圖8 情況1下FDKECA對故障D2監控結果Fig.8 FDKECA fault D1 monitoring results of case 1 training

3.2 TE仿真驗證

為了進一步研究FDKECA 算法故障檢測性能，通過TE 仿真平臺進行仿真驗證。TE 過程是根據工廠實際生產的過程為對象建立的控制仿真模型。該平臺被廣泛應用于故障檢測及診斷算法評價過程。TE過程總共涉及12個可控變量和41個可供測量的變量除去攪拌速度，TE 過程共含有52 個過程變量。TE 過程包含了21 種預先設置的故障，尤其故障類型為3,9,15 故障對過程影響微乎其微，其故障檢測相對困難[28-30]。對TE 過程的具體描述參考文獻[31-32]。

表2 三種情況下的檢測率Table 2 Fault detection rate in three cases/%

表3 TE過程故障檢測率測試結果Table 3 Test results of TE process fault detection rate/%

圖9 故障3監控結果Fig.9 Monitoring results of fault 3

仿真實驗中，采集正常工況和不同故障類型數據各480 組作為訓練集。采集960 組數據作為測試集，測試集從161 個樣本點開始引入故障。為了驗證FDKECA 故障檢測性能，以故障3為例進行實驗，由于故障3 對過程影響較小，因此較難檢測到。如圖9 所示，KECA 算法對故障3 不能做出有效的指導，T2統計量的檢測率為6.4%，SPE統計量的檢測率為12.6%，且SPE 統計量誤報較高。相比于KECA，FDKECA對故障檢測效果得到了提升。其T2統計量檢測率為65.2%,其SPE 統計量檢測率為61.8，且誤報率較低。通過對比可以得到，FDKECA 能夠有效利用先前故障數據提升故障檢測能力。

表3 給出了四種算法對TE 過程檢測的結果。其中KPCA 故障檢測結果來自于文獻[33]，其余結果均由仿真實驗得出。從表3 看出,大多數情況下KECA 故障檢測率要優于KPCA 且KLNPDA 能夠對故障數據中包含的故障信息進行有效的提取。FDKECA 能夠有效結合KECA 和KLNPDA 兩類檢測數據，提升故障檢測能力。對于KECA、KPCA 難以檢測到的故障3、9 和15，FDKECA 能夠有效改善故障檢測能力?？偟膩碚fFDKECA 故障檢測性能要優于KECA、KPCA兩種方法。

4 結 論

本文針對工業監控系統的數據庫中忽略的先前故障數據的缺點，結合了核熵成分分析和局部和非局部保持投影的優點，提出FDKECA 故障檢測算法。該方法能夠對先前故障數據中包含的故障信息進行有效的利用。通過設計適當的加權策略和構建基于概率加權的總體監測統計量進行故障檢測。通過仿真實驗證明，加權策略設計合理。與傳統的KPCA、KECA 相比，FDKECA 算法通過有效地挖掘先前故障數據中包含的故障信息來提高故障檢測性能。先前故障數據中故障信息的有效利用，提高復雜工業過程故障檢測的性能，是未來進一步研究的內容。