基于UD矩陣分解的模糊建模算法及收斂性分析

王 佳, 王宏偉, 顧 宏

(大連理工大學控制科學與工程學院,遼寧大連 116024)

0 引 言

實際過程中存在的大量非線性系統,有時可以用線性模型描述,但這僅僅是一種近似或者只限于在某一范圍內成立.一般來說,在整個操作域中用非線性模型才能對非線性過程給予適當的描述.基于模糊集合的模糊模型,利用模糊推理規則描述復雜、病態、非線性系統是一種有效方法.模糊聚類是常用的模糊模型結構確定方法,其中心思想是設定合理的聚類指標,根據該指標所確定的聚類中心可使模糊輸入空間達到優化.模糊聚類法主要有模糊C均值方法及各種改進的模糊C均值方法[1～3].對于各種模糊聚類算法而言,需要解決以下幾個問題:(1)聚類規則數一般是預先給定的,不能說明規則數多少對于描述系統是最優的;(2)聚類過程計算量較大,不適合于在線建模與控制;(3)聚類結果往往受初值等參數影響較大,容易陷入局部極小值點;(4)在基于模糊模型的建模過程中,如果聚類效果不好,則使各類之間存在線性相關性;(5)在工程實際應用中,噪聲和干擾的存在,以及變量之間的耦合,使輸入變量之間存在線性相關性[4、5].如何找到這些規則,化簡規則,壓縮模糊模型的輸入空間是模糊建模的關鍵問題.

本文提出一種可用于非線性系統模糊建模中結構確定和參數估計的新方法.首先,通過GK模糊聚類確定模型結構.然后,通過目標函數與參數估計一起進行遞推計算,進而實現對模糊模型結構簡化,刪除冗余規則,同時進行模型參數的估計,并證明提出算法的收斂性.最后,將M ackey-Glass混沌時間序列預測作為仿真實例,分別將本文的方法與其他文獻中提出的方法進行比較,以證明本文方法的有效性.

1 模糊模型結構的確定

一個多輸入多輸出(M IMO)系統P(U,Y),U∈RM,Y∈Rq,可以分解成q個多輸入單輸出(MISO)系統.這里僅討論M ISO系統,形式如下:

其中 Ri表示第i條規則;Z是輸入向量,Z=(x1x2 …xM)TRM;Zi是第i條規則的中心向量,是第i條規則的隸屬度函數,μi(k)表示第k個樣本在第i條規則里的隸屬度,滿足為總規則數;θi是后件參數.

模型(1)的整體輸出為

式中 :H=(φ1 φ2 … φc),φi=(μi(1)μi(2) … μi(N))T,i=1,2…,c,簡記為H=(μi(k))N×c, Ψ=(θ1 θ2 … θc)T.

根據最小二乘法有

其中y(k)表示第k次實際輸出,Y=(y(1)y(2) …y(k) …y(N))T.

2 模糊模型的簡化和數據壓縮

2.1 問題的提出

若用最小二乘法解式(3)超定方程求解模型的參數,需要解決以下幾個問題:

(1)在工程實際應用中,噪聲和干擾的存在以及變量之間的耦合,使輸入變量之間存在線性相關性;

(2)在基于模糊模型的建模過程中,往往采用聚類的方法,但是如果聚類效果不好,易使各類之間存在線性相關性;

(3)為了提高建模精度而增加變量數量時,Ψ、H、Y的維數也相應增加,將涉及到如何降低在求解線性方程組時由于計算機有限字長而引起的計算誤差.計算誤差在建模中會引起建模精度下降.理論上收斂的算法在實際應用中可能會發散.

對于(1)、(2)兩個問題,會使HTH形成奇異矩陣,即使不是奇異矩陣,但由于HTH存在著近似為零的特征值, Ψ的估計變得不可信,因此必須對模糊模型進行簡化.對模糊模型(1)來說,它的參數向量總含有一些對建模貢獻非常小的元素,可以近似地認為其值為零.如果在辨識參數向量之前,確定出這些元素所在的位置,并將它們刪除,然后重構模型(1),這樣既降低了式(1)的維數,又有利于降低計算量和提高辨識精度,同樣也就解決了問題(3).

2.2 基于目標函數的模型結構和參數確定

對于模糊模型(1)而言,如何確定規則數,保留重要規則和刪除對建模貢獻小的規則,成為模糊建模的關鍵問題.為了解決這個問題,首先分別設定不同的規則數m(m

如果Jm小,表示擬合得好,設定的規則數比較合適;如果Jm大,說明擬合得不好,設定的規則數不符合待辨識系統.一般地,目標函數的值總是隨階次的增大而減小,不過當設定的階等于或大于系統的真實階后,目標函數的值隨階次的增大而明顯下降,這就是所謂的“過擬合”.下面介紹基于目標函數的模型結構與參數一體化確定方法.

對于模型(1),假設 φ1,φ2,…,φm已通過分析方法選入模型,現在考慮 φm+1,φm+2,…,φc的選入與剔除問題.

根據目標函數式(4),有

若將φm+1選入模型,則有

式中: θm+1(l+1)為待估計的參數;φm+1=(μm+1(1) μm+1(2) … μm+1(N))T;l為模型的優化次數.

對矩陣HTmHm進行UD矩陣分解,則有

從而得出

另外,還有

由式(6)和(11)可得

此時目標函數為

上式可簡化為

對于事先選定的Jm in,若ΔJ≥Jm in則選入φm+1,否則剔除.

2.3 結構和參數一體化在線辨識算法

將2.2的公式推導過程整理,得到遞推辨識方法如下:

Step 1 首先,采用GK模糊聚類算法確定μi(k)(i=1,2,…,c;k=1,2,…,N),則所有待選變量為 φi(i=1,2,…,c),φi=(μi(1) μi(2)… μi(N))T.

Step 2 在φi(i=1,2,…,c)中,根據經驗選取其中某一個φi作為初始變量,并對模型中的有關參數進行辨識,當辨識步數足夠時,再進行模型辨識.

Step 3 利用式(12)分別求得 θm+1、 Ψm(l+1),由式(15)計算 ΔJ1.若 ΔJ1

Step 5 利用式(12)分別求得 θm+2(l+2)、Ψm+2(l+2),由式(15)計算 ΔJ2.若 ΔJ2

依此下去,若連續c次剔除所選量,則停止選擇,即可得到系統模型.

3 算法收斂性分析

定理1 對于模型(1)的辨識遞推算法,式(12)給出的參數估計值 Ψ是一致收斂的.

證明 若將 φm+1選入模型,考慮 Ψm(l+1)對真值的收斂性問題.

根據式(7)和(9)可得

另外,根據式(6),可得

這樣得到

根據式(12),可得

根據式(16)和(18),上式變為

令 Ψm為結構中前m個參數的真值,那么真值 Ψm與參數估計值 Ψm的誤差為 Ψm(l)=Ψm-Ψm(l), Ψm(l+1)= Ψm- Ψm(l+1),這樣就有

假設系統的實際結構為m+L,模型的真實參數為θi(i=1,2,…,m+L),這樣系統可以表示為

那么,式(20)變為

式(23)經過整理有

其中m(l+1)為對于誤差 Ψm(l)的無關項.

下面討論差分方程(25)形如x(k+1)=A(k)x(k)的穩定性問題.設矩陣特征值為λ,則下式成立:

其中X是非零的特征向量,進一步可得

易知Pm、Qm都是正定陣.

對于式(12)左邊是正定的,dm+1必須滿足dm+1>0,對所有非零向量X,式(27)兩邊的λ、1-λ必須同號,即可見矩陣的特征值λ一定是0<λ<1的,這意味著式(25)一定是穩定的,即收斂性得證 .

4 仿真實例

本文將M ackey-Glass混沌時間序列預測作為仿真實例,以證明所提出方法的有效性.混沌時間序列可由時滯微分方程得到

Mackey-G lass系統預測的目的是根據t時刻以前的一組數據x(·),去預測x(t+Δt),其中 Δt為預測時間步幅.預測方法是令Δt為時滯參數,取D個點 ,即{x(t-(D-1)Δt),…,x(t-Δt),x(t)}去預測將來時刻x(t+Δt).若n為整數,仿真研究的任務是利用模糊模型構造函數.取τ=17,Δt=6,選1000對樣本數據,即其中,前4個變量數據作為輸入,最后一個變量數據作為輸出.前500對數據當作訓練數據,其余500對數據作為測試數據以驗證辨識模型的有效性.取30條模糊規則作為初始規則數,針對上述已建立的含有30條模糊規則的系統,取 ΔJ=0.1,最后經過優化后得到的規則數為16.

經過規則優化后,得到的模糊模型輸出和實際樣本的均方差為0.0052,圖1～4給出了仿真曲線.

文獻[6～10]針對上述混沌系統進行了建模研究,將本文方法與它們進行比較,可看出本文方法優于文獻提出的方法,見表1.

(1)文獻[7]結果均方差為0.0016,小于本文方法的0.0052.但是,其方法參數為104個,遠大于本文方法中的16個.另外,文獻[7]運行計算時間需要20 min,而本文方法只需3m in.

(2)文獻[8～10]也分別提出了不同建模方法,但是在輸入變量個數、規則數和參數的數量綜合指標方面,本文方法明顯好于文獻[8～10]中的方法.

圖1 訓練數據的模糊模型輸出與實際輸出Fig.1 The fuzzy mode l output and the actua l output for training data

圖2 訓練數據誤差曲線Fig.2 The error curve of the training data

圖3 測試數據的模糊模型輸出與預測輸出Fig.3 The fuzzy model output and the forecast output for test data

圖4 測試數據誤差曲線Fig.4 Theerror curve o f the test data

表1 本文模型與其他模型的比較Tab.1 The comparison of the model in this paper and othermodels

5 結 語

針對模糊模型的結構辨識和參數估計問題,提出了基于目標函數的建立非線性系統的模糊模型的方法.通過目標函數與參數估計一起進行遞推計算,實現了對模糊模型結構簡化,刪除冗余規則,得到模型結構的同時進行了模型參數的估計.結構確定過程中采用了UD矩陣分解方法,大大降低了計算量.

[1]HAN M in,SUN Yan-nan,FAN Ying-nan.An imp roved fuzzy neural netw ork based on T-S model[J].Expert Systemswith App lications,2008,34(4):2905-2920

[2]DU H ai-ping,ZHANG Nong.Application of evo lving Takagi-Sugeno fuzzy model to non linear system identification[J].App lied Soft Com puting,2008,8(1):676-686

[3]潘天紅,李少遠.基于模糊聚類的PWA系統的模糊辨識[J].自動化學報,2007,33(3):327-330

[4]劉士榮.神經模糊系統的若干問題研究[D].上海:華東理工大學,2000

[5]孫富春,劉華平,孫增圻.非線性系統神經模糊自適應控制的問題與策略[J].清華大學學報(自然科學版),2003,43(4):470-474

[6]SCHURTER K C,ROSCHKE P N.Fuzzy modeling of amagnetorheological damper using ANFIS[C]//IEEE International Con ference on Fuzzy Systems.Piscataw ay:IEEE,2000:122-127

[7]K IM D,KIM C.Forecasting time series with genetic fuzzy p redictor ensemble[J].IEEE Transactions on Fuzzy Systems,1997,5(4):523-535

[8]KUKOLJD.Design of adap tive Takagi-Sugeno-Kang fuzzy models[J].App lied Soft Computing,2002,2(2):89-103

[9]DE SOUZA F J,VELLASCO M M R,PACHECO M A C.H ierachical neuro-fuzzy quad tree models[J].Fuzzy Sets and System s,2002,130(2):189-205

[10]WANG L X,M ENDEL JM.Generating fuzzy rules by learning from examp les[J].IEEE Transactions on System s,Man,and Cybernetics,1992,22(6):1414-1427