基于指數加權-核在線序列極限學習機的混沌系統(tǒng)動態(tài)重構研究*

李軍 后新燕

(蘭州交通大學自動化與電氣工程學院,蘭州 730070)

1 引 言

對于許多非線性系統(tǒng),尤其是混沌動力系統(tǒng)而言,通常在一定程度上需要建立精確、完美的數學模型,但模型的求解卻十分困難,需要對混沌系統(tǒng)的復雜結構和隱含特征參數進行分析和研究[1].因此,在控制混沌等復雜非線性動力系統(tǒng)之前,進行系統(tǒng)辨識也是重要甚至必要的步驟之一,這可以體現在對混沌系統(tǒng)的動態(tài)重構[2-6]研究上,即混沌動力系統(tǒng)的吸引子可以通過其狀態(tài)空間中的狀態(tài)變量演化而得到.當未知混沌動力系統(tǒng)中的每個狀態(tài)變量的演化過程均可獲得,就可以利用全局狀態(tài)變量的觀測值逼近該混沌系統(tǒng),這種混沌系統(tǒng)的全局建模和逼近方法構成一個多維輸入、多維輸出的復雜非線性系統(tǒng)辨識問題.然而,描述混沌動力系統(tǒng)狀態(tài)演化的所有狀態(tài)變量往往未知,對實際觀測而言,有時僅可獲得系統(tǒng)狀態(tài)變量之一的輸出,即往往得到一組含有噪聲的時間序列,表示系統(tǒng)的某個狀態(tài)變量隨時間演化的過程.此時,從可獲得的一組含有噪聲的時間序列值中,利用Takens 的延遲-嵌入定理,則可構造出一個非線性映射,即時間序列預測模型,去逼近未知的多維非線性混沌系統(tǒng).

混沌動力學系統(tǒng)建模目前面臨著一些挑戰(zhàn),即克服所建立的高維非線性系統(tǒng)模型的“過擬合”問題,模型的穩(wěn)定性、魯棒性問題以及學習過程的復雜性等.很多已存在的復雜非線性動力系統(tǒng)很難用傳統(tǒng)的嚴格數學模型描述,為了解決上述困難,包括神經網絡[7-10]、模糊邏輯[11]、支持向量機[6,12]以及小波分析[13,14]、非線性濾波器[15,16]等算法,常常被用于混沌動力學系統(tǒng)的動態(tài)重構研究中,作為混沌序列預測或混沌動態(tài)重構的辨識模型表示,已取得了成功應用.

雖然混沌行為在本質上是穩(wěn)定的,但是由于混沌系統(tǒng)展示出對初始條件及其敏感的特性,漸近行為局限在分形集、奇異吸引子上,兩個或多個初始相近的軌跡也會偏離或不相關,這限制了對混沌系統(tǒng)進行長期預測的能力,也使得衡量辨識模型與原系統(tǒng)在測試條件下是否等價很困難.目前大多文獻僅側重于對混沌系統(tǒng)重構吸引子的“函數逼近”研究,以建模誤差為指標簡單比較時間序列預測模型或辨識模型的質量,缺乏對混沌動力學系統(tǒng)的內在動態(tài)行為的分析,即從“系統(tǒng)逼近”的角度評價辨識模型與混沌系統(tǒng)是否“動態(tài)等價”,即模型校驗應涉及到計算動態(tài)不變量指標,以作為基于誤差的統(tǒng)計校驗性指標的補充.因此,混沌動態(tài)重構的研究應當從動態(tài)建模及“動態(tài)等價”方面進行,從而使得辨識模型可看作是對未知混沌動力系統(tǒng)的“系統(tǒng)逼近”,而不僅僅是“函數逼近”.如文獻[14]給出了一種多分辨率的離散小波算法,應用于混沌動力學系統(tǒng)辨識中,從描述系統(tǒng)動態(tài)不變性的定性與定量指標方面的比較,驗證了該算法的有效性.文獻[17]給出了一種小波核偏最小二乘回歸算法,成功應用于混沌系統(tǒng)建模中,但僅體現出辨識模型與原系統(tǒng)之間的“函數逼近”關系,未能從混沌系統(tǒng)內在的動態(tài)不變性指標方面表明辨識模型與原系統(tǒng)之間的“系統(tǒng)逼近”關系.

極限學習機(extreme learning machine,ELM)[18]是一種基于單隱層前饋神經網絡(singlehidden layer feedforward neural networks,SLFNs)的快速學習算法,由于其網絡結構由隱含層節(jié)點數隨機確定,網絡輸入權值及隱含層節(jié)點參數也是隨機給定.訓練時采用正則化最小二乘算法僅需考慮調節(jié)網絡的輸出權值,從而極快地提高網絡訓練速度.在ELM基礎上,文獻[19]提出了在線序列極限學習機(online sequential extreme learning machine,OS-ELM)算法,該算法的在線順序學習能力使得它能夠及時地適應環(huán)境的動態(tài)變化,增強了模型的適應能力.由于ELM類的精度與其隱含節(jié)點的關系較為敏感,為避免該問題,核極限學習機(kernel extreme learning machine,KELM)算法僅以核函數表示未知的隱含層非線性特征映射,無需選擇隱含層的節(jié)點數目,通過正則化最小二乘算法計算網絡的輸出權值.文獻[20]將核遞歸最小二乘(kernel recursive least squares,KRLS)算法延伸至OS-ELM框架中,給出了一種KOS-ELM算法,并已成功應用于基準分類與回歸數據集中,包括混沌時間序列預測.隨著數據集的增大,核矩陣的計算也會變得較為困難,為解決該問題,一些稀疏化準則如近似線性依賴(approximate linear dependence,ALD)準則等被提出并應用于核在線學習算法中,基于固定預算技術,文獻[21]還提出了一種FB-KRLS算法,在保持一定建模精度的基礎上,通過限制矩陣大小,有效地解決了矩陣計算困難的問題.

鑒于文獻[14]使用多分辨率小波分析算法在混沌動力學系統(tǒng)辨識中的成功應用,考慮到KOSELM,FB-KRLS等算法在回歸與在線建模中的優(yōu)勢,進一步考慮到通過引入遺忘因子,削弱舊數據對算法性能的影響,以提高模型的精度[22],本文提出一種FB-EW-KOSELM算法,將其應用于混沌系統(tǒng)的動態(tài)重構中,預測混沌動力學系統(tǒng)動態(tài)行為的定性變化,并從結構穩(wěn)定性方面分析辨識模型與混沌系統(tǒng)的“動態(tài)等價”.具體包括將FB-EWKOSELM算法用于周期驅動力作用下的Duffing-Ueda振子混沌系統(tǒng)動態(tài)重構中,定性與定量地分析重構吸引子與原模型的內在特性,從龐加萊映射、李雅普諾夫指數、關聯(lián)維數、分岔圖等多方面衡量二者之間的“動態(tài)等價”特性；將該算法應用于產生蔡氏電路雙渦卷及螺旋渦卷吸引子的實測數據實例中,通過對辨識模型重構吸引子與原系統(tǒng)吸引子的比較分析,以驗證本文算法的有效性；此外還將該算法應用于混沌電路的實測數據實例中,通過對比辨識模型重構吸引子與原系統(tǒng)的吸引子,以及混沌電路所產生的電壓值時間序列與辨識模型重構的電壓值時間序列,進一步驗證該算法的有效性.

2 FB-EW-KOSELM算法

2.1 核極限學習機與在線極限學習機的算法構造

給定N組訓練樣本數據集其中uj是輸入向量,yj是相應的標量輸出.對于節(jié)點激活函數為h(u),隱含層節(jié)點數為L,具有單輸出的標準單層前饋神經網絡(SLFN),其網絡節(jié)點的輸出為

式中?i是連接輸入層與第i個隱含層節(jié)點之間的權值向量；θ為連接輸出層與第i個隱含層節(jié)點之間的權值向量,即θ=[θ1,...,θL]T；bi是第i個隱含層節(jié)點的閾值.記h(u;?i,bi)為hi(u),則h(u)=[h1(u),...,hL(u)]T∈RL×N為ELM的特征向量.

不同于常規(guī)的SLFN,在訓練期間ELM的隱含層初始參數設置可以通過均勻分布的隨機數產生,即其激活函數的參數選取通常是固定的,這使得其訓練學習轉換為求取最優(yōu)權值向量θ的估計問題.考慮到l2范數的正則化問題求解,即有

式中H=[h(u1),...,h(uN)],η是正則化參數,輸出向量y=[y1,...,yN]T∈RN×1,單位陣IN大小為N×N.

當隱含層特征映射h(u)未知時,定義核矩陣：

其中,Ωij=k(ui,uj).

由(1)式和(2)式,并考慮到

h(uj)HT=KELM的輸出函數為

其中,kN(u)=[k(u,u1),...,k(u,uN)]T,α=(ηIN+Ω)ˉ1y.

為了完成(2)式中逆矩陣的在線計算,文獻[19]提出了一種OS-ELM算法.假定數據集S由n個最小批次連續(xù)的Si組成的,即并用Hi,yi分別表示第i批最小批次數據所對應的隱含層節(jié)點矩陣及輸出向量,則權值向量θ的初始化設置應為

當第i+1 批數據到來時,權值的更新為

由(6)式看出該算法等價于將遞歸最小二乘(recursive least squares,RLS)算法直接應用于ELM的特征向量h(u),因此與RLS算法具有同樣的收斂性.

2.2 EW-KOSELM在線學習算法的設計與實現

RLS算法是線性自適應濾波算法中最常見的算法之一,這種算法以最小二乘準則為依據,其主要優(yōu)點是收斂速度快,將其擴展至非線性特征空間,可形成KRLS算法,其優(yōu)點是算法的收斂速度比核最小均方算法(kernel least mean square,KLMS)通常快一個數量級.將KRLS算法直接用于(4)式所示的KELM算法的在線學習中,則可形成在線核序列極限學習機(online sequential extreme learning machine with kernel,KOSELM)算法.為削弱舊數據對模型性能的影響,還可通過引入遺忘因子提高模型的預測能力,從而形成指數加權在線核序列極限學習機(exponential weighted online sequential extreme learning machine with kernel,EW-KOSELM)算法.由指數加權遞歸最小二乘(exponentially weighted recursive least squares,EW-RLS)算法可知,在每次迭代過程中,權值向量θt應滿足目標函數J(θt)的極小值：

其中,β為遺忘因子,Bt=yt=[y1,y2,...,yt]T,Φt=[φ(u1)φ(u2)...φ(ut)] .由(7)式獲得θt的最優(yōu)解為

權值向量θt可以表示為輸入數據的線性組合,即αt可以看作系數向量.由(8)式可知

(9)式中Qt的遞推計算同樣可以基于“核技巧”.參考KRLS算法的實現[23],對于序列數據(ut,yt),t=1,...,N,EW-KOSELM算法的實現步驟為：

Step 1 給定正則化參數η、核參數σ、遺忘因子β；

Step 2 初始化,令t=1,計算Q1=[ηβ+k(u1,u1)]ˉ1以及系數向量α1=Q1y1；

Step 3t=t+1,計算ktˉ1(ut)=[k(u1,ut),k(u2,ut),...,k(utˉ1,ut)]T；

Step 4 計算zt=Qtˉ1ktˉ1(ut),rt=λβt+

Step 5 更新計算

Step 7 返回Step 3,直至所有數據依次完成訓練.

由于EW-KOSELM算法通過序列數據的迭代訓練,依次更新(9)式中的αt,但隨著數據的不斷增加,矩陣也會無限增長.可以通過限制數據“字典”的大小,基于ALD準則,“滑動窗口”,“固定預算”等技術,有效減少αt的運算量.假設在獲取t時刻之前的訓練數據后,由訓練數據的子集可構成字典若φ(·)為特征映射,將輸入j映射至高維特征空間F中,字典集合相應為由ALD稀疏化準則保證其元素的近似線性獨立[23].“固定預算”技術則采用主動學習策略構建“字典”,僅考慮“固定內存”中所存儲的M個數據,算法在每次時間更新時,并不“修剪”最舊的數據,而是旨在“修剪”最無用的數據,從而抑制核矩陣的不斷增長,使用固定預算技術的一種FB-KRLS算法實現可參見文獻[21].將“固定預算”應用于EW-KOSELM算法中,可形成FBEW-KOSELM算法.

為了在再生核希爾伯特空間(RKHS)中推導FB-EW-KOSELM算法,對于序列數據(ut,yt),t=1,...,N,算法在第t次迭代時,定義Φt=[φ(u1)φ(u2)...φ(ut)],令核矩陣Ωt=ΦtTΦt及具有指數加權的正則化核矩陣若將新數據 (ut,yt)添加至內存中,即對Ktˉ1增加一行及一列,可得到擴充矩陣相應地可給出逆矩陣以及

另外,當t的取值大于M時,需對存儲在內存中的M個數據考慮誤差丟棄準則,也就是能夠對矩陣能夠進行刪除任意一行及一列的操作.為完成此操作,需要矩陣置換操作,定義置換矩陣Pi,Hi分別為：

其中,Ij為維數為j的單位陣,0 為相應維度的零矩陣,且有Piˉ1=Pi,Hiˉ1=HiT.

可得到

因此,FB-EW-KOSELM算法的具體實現步驟如下.

Step 1 給定固定內存大小M,正則化參數η,遺忘因子β,核參數σ；

Step 2 初始化,令t=1,計算K1=[ηβ+k(u1,u1)],

Step 3t=t+1,獲取新數據 (ut,yt),由(10)式對Ktˉ1進行擴充操作,以得到

Step 4 當t＞M時,由誤差丟棄準則[24]舍棄最無意義的數據,即

其中αi為向量αt的第i個元素,表示矩陣對角線的第i個元素；

由(13)式,計算d(ui,yi),并記錄d(ui,yi)最小的數據的索引號J,從內存中削減uJ,yJ,由式(12)可獲取

Step 6 重復Step 3—Step 5,直至所有訓練數據依次完成.

3 混沌動力學系統(tǒng)的辨識實驗及模型校驗

本節(jié)實例中,將FB-EW-KOSELM算法應用于Duffing-Ueda振子的混沌系統(tǒng)動態(tài)重構及實測蔡氏電路數據的吸引子重構實驗中.核函數采用如下的高斯核函數形式,即

其中σ為核參數.

3.1 Duffing-Ueda振子的數值仿真及模型校驗

以Duffing-Ueda振子的非自治動力系統(tǒng)為例,該系統(tǒng)由如下微分方程描述[25]：

其中θ為阻尼系數,u(t)為系統(tǒng)輸入.

令x1=y,x2=dy/dt,則(15)式的狀態(tài)方程為

其中θ=0.1,周期輸入u(t)=Fcos(Ωt),其中F=11,Ω=1 .此時為混沌動力學系統(tǒng),系統(tǒng)周期T=2π.對(16)式用龍格-庫塔算法求解,取積分間隔 dt=π/3000 .為使仿真獲(取的數)據更接近實際,利用信噪比SNR=公式,其中σy為信號y(k)的標準差,σn為噪聲n(k)的標準差,在最終輸出中加入標準差σe=0.017,SNR約為40 dB的高斯白噪聲信號[26].按采樣周期Ts=π/50s對輸出數據采樣,產生1504個數據用于辨識實驗.

為評價基于FB-EW-KOSELM算法的混沌動力學系統(tǒng)辨識性能,需要考慮混沌系統(tǒng)的動態(tài)不變性指標.對于自治非線性系統(tǒng)而言,需要比較原系統(tǒng)與辨識模型的龐加萊映射、李雅普諾夫指數、相關維等定性與定量指標即可.對于非自治的非線性系統(tǒng)而言,相對于龐加萊映射等其他局部不變性指標而言,混沌系統(tǒng)的分岔圖對其結構及參數更為敏感,因此還需要考慮比較原系統(tǒng)與辨識模型的分岔圖進行模型的定性分析校驗.

所采用的NARX辨識模型結構為

其中f(·)為FB-EW-KOSELM模型,辨識模型的輸出為(k),輸入向量為

[y(k-1),y(k-2),y(k-3),u(k-1)]T,其中k=504到 2003,丟棄前500個數據,目的是消除系統(tǒng)起始瞬態(tài)的影響,即選取 1500 組數據作為訓練數據集.

實驗中,設置FB-EW-KOSELM算法的核參數σ=32,固定內存大小M=100,遺忘因子β=0.995,正則化參數η=10ˉ3.圖1給出了在訓練過程中算法的均方誤差收斂曲線,可以看出,隨著訓練數據的增加,算法的收斂速度較快,可以達到滿意的精度.

圖1 算法的均方誤差收斂曲線Fig.1.Convergence curve of MSE for FB-EW-KOSELM algorithm.

基于(17)式的FB-EW-KOSELM辨識模型進行訓練,圖2(a)給出了原模型在未加噪聲情形下的吸引子軌跡圖,圖2(b)給出了辨識模型所對應的重構吸引子軌跡圖,重構吸引子是辨識模型的輸出所獲取.從圖2可看出,顯然,在偽相平面上重構吸引子顯現出的幾何特征,如整體形狀、位置等與無噪聲的原系統(tǒng)吸引子非常相像,對比結果也初步表明了辨識模型的質量較好.

由于龐加萊映射能清晰地揭示混沌吸引子的分形結構,為了進一步定性分析辨識模型的混沌動力學動態(tài)性能,為實現對混沌吸引子進行更好地對比,可通過在一段固定時間內采樣系統(tǒng)的軌跡,計算辨識模型與原系統(tǒng)相應的龐加萊映射.令系統(tǒng)軌跡為 Φ(x(t),t0),它依賴于初始條件x(t0)=x0,系統(tǒng)的振蕩周期為T,周期性記錄的軌跡位置可表示為：

由(18)式可以看出PN上的一個固定點相應于系統(tǒng)流形上T=2π/Ω的一個周期軌跡,類似地,PN上的k個固定點體現了k×2π/Ω個諧波周期.因此,龐加萊映射揭示出的動態(tài)特性能被用于非線性模型的校驗,它能顯示出關于系統(tǒng)局部動態(tài)變化和過渡到混沌狀態(tài)的詳細信息,由龐加萊映射可以很容易地識別系統(tǒng)的準周期與混沌區(qū)域.圖3給出了原混沌系統(tǒng)及辨識模型的龐加萊映射對比,由圖3可知,辨識模型與原系統(tǒng)的龐加萊映射非常相像,顯示出相同的分形結構,這也進一步表明辨識模型已經抓住了原混沌系統(tǒng)的局部動態(tài)不變性.

圖2 Duffing吸引子(F = 11)(a)原模型；(b)辨識模型Fig.2.Duffing attractor for F = 11 plotted using：(a)The original noise-free data；(b)the model predicted output.

圖3 龐加萊映射(F = 11)(a)原模型；(b)辨識模型Fig.3.The Poincare map(F = 11)for (a)the original system,(b)the identification model.

盡管以上實驗已經表明辨識模型具有較好的重構性能,但是在許多情形下,由于擾動使得模型的動態(tài)特性會隨之變化,在參數可能發(fā)生變化時,對系統(tǒng)結構穩(wěn)定性的分析也是非常關鍵的.

利用FB-EW-KOSELM辨識模型應當能展現出由(15)式所描述的實際系統(tǒng)對于控制參數的變化,即驅動力幅值F的變化所引起的結構穩(wěn)定性變化.因此,實驗中取F在區(qū)間 [4.5,12] 之間變化,步長δF=0.01,進一步給出原系統(tǒng)與辨識模型的分岔圖,通過比較判斷系統(tǒng)的結構穩(wěn)定.分岔圖能被看作是一系列壓縮的龐加萊映射,對于分岔圖上的點r可定義為

其中I為在區(qū)間范圍變化的實數集,0≤t0≤2π/Ω,Kss為常數.點r的選擇以確保仿真時能消除系統(tǒng)的暫態(tài)影響.實際中,對于參數F的每個取值,在ti時刻將獲取nb個點用以繪制分岔圖,即ti的取值為

圖4給出了原系統(tǒng)與辨識模型在Kss=400,nb=15時的分岔圖比較,由圖4看出,系統(tǒng)顯現出非常豐富的動力學行為變化,F∈[4.5,4.9] 及F∈[11.6,12]時,Duffing-Ueda振子處于單周期運動狀態(tài),F∈[4.9,5.5] 時,Duffing-Ueda振子處于2倍周期運動狀態(tài),F∈[5.5,5.8] 及F∈[9.9,11.6]時,Duffing-Ueda振子則處于混沌狀態(tài).可以看出,辨識模型與原系統(tǒng)的分岔圖非常相像,已經抓住了系統(tǒng)所有的主要全局不變量.對于非自治系統(tǒng)而言,分岔圖與刻劃系統(tǒng)局部不變量的龐加萊映射等相比,對結構和參數的變化更敏感,因此,分岔圖可更好地適用于模型校驗,這也進一步驗證了FBEW-KOSELM辨識模型的有效性.

圖4 Duffing-Ueda振子的分岔圖 (a)原模型；(b)辨識模型Fig.4.Bifurcation diagram 4.5 ≤ F ≤ 12：(a)Original system；(b)identification model.

圖5 F = 8.5時Duffing-Ueda振子的極限環(huán) (a)原模型；(b)辨識模型Fig.5.Limit cycle for F = 8.5：(a)Original system；(b)identification model.

作為比較動力學系統(tǒng)性能的手段,分岔圖的重要性還可由系統(tǒng)在穩(wěn)定狀態(tài)時的軌跡圖體現.由圖4看出F= 8.5時,辨識模型與原系統(tǒng)均處于穩(wěn)定的極限環(huán)狀態(tài).因此,圖5進一步給出了二者的極限環(huán)比較,可以看出辨識模型與原系統(tǒng)的極限環(huán)軌跡幾乎匹配,與分岔圖所推斷出的結果一致.可見,應用分岔圖分析模型的優(yōu)點在于對于不同的控制參數取值,它對于研究系統(tǒng)的結構穩(wěn)定性提供了唯一信息,以更為便捷的方式抓住極限環(huán)的幾何特征.

另一方面,通過揭示系統(tǒng)內在特性的動態(tài)不變性指標來定量衡量逼近誤差,可度量辨識模型與原系統(tǒng)之間的接近程度.因此,為計算辨識模型與原系統(tǒng)的最大正李雅普諾夫指數及關聯(lián)維數等指標[25,27],在F= 11時,取用于實驗的1500個實際數據及辨識模型的輸出數據1500個,分別計算出原系統(tǒng)的最大正李雅普諾夫指數λ+=0.1757,關聯(lián)維數Dc=2.0339,辨識模型的λ+=0.1754,Dc=2.0330,可見二者的動態(tài)不變性定量指標基本一致.

由實驗的定性與定量分析結果表明,所提出的基于FB-EW-KOSELM的辨識模型與原系統(tǒng)在動態(tài)性能上是等價的.

3.2 蔡氏電路實測吸引子的動態(tài)重構實驗及模型校驗

考慮到蔡氏電路在混沌動態(tài)行為中的復雜性,已有較多文獻[28,29]涉及該系統(tǒng)的非線性系統(tǒng)辨識研究,并取得了較好的實驗結果,但數據的獲取通常由系統(tǒng)的非線性解析模型數值仿真得到.本節(jié)則通過產生雙渦卷或螺旋渦卷吸引子的蔡氏電路實測數據[30]對混沌動態(tài)行為進行辨識實驗,以進一步驗證FB-EW-KOSELM算法的有效性.蔡氏電路中非線性元件為雙端分段線性的電阻所構成的“蔡氏二極管”,它可由文獻[31]所提出的雙運算放大器配置方法進行構建.蔡氏電路如圖6(a)和圖6(b)所示,描述其動態(tài)特性的微分方程如下：

其中vi為通過電容Ci的電壓,iL為通過電感的電流,id(v1)為通過“蔡氏二極管”的電流,其大小為

圖6 (a)蔡氏電路；(b)蔡氏二極管(非線性電阻的配置)Fig.6.(a)Chua’s circuit ；(b)Chua’s diode (nonlinear resistor implementation).

圖7 蔡氏二極管的伏安特性曲線Fig.7.Volt-ampere characteristic curve of Chua’s diode.

其中Bp為分段點；m0,m1分別為各段的斜率,對應的伏安特性曲線如圖7所示.

圖6中的電容、電感元件取值分別為C1=(10±0.5)nF,C2=(90±5)nF,L=21± 2%mH,滑動變阻器R的最大阻值為 2kΩ,其中,蔡氏二極管的實測參數m0=(-0.37±0.04)mS,m1=(-0.37±0.04)mS,Bp=(1.1±0.2)V .取R≈1800Ω或R≈1900Ω 時,電路會產生雙渦卷狀吸引子或螺旋狀吸引子,實測數據最終由數字示波器收集獲取.因此,采樣時間、分辨率及數據的總量個數受限于儀器設備的特性,采樣時間的選擇還基于相關函數而確定,本文實驗與文獻[30]一致,辨識實驗分別針對這兩種情形進行.

圖8給出了基于實測數據,對原系統(tǒng)進行重構的雙渦卷吸引子及螺旋吸引子圖,其縱坐標的重構延遲參數與文獻[30]一致,選擇采樣間隔為4個數據.在雙渦卷狀吸引子情形下,采樣時間Ts= 4 μs,分辨率8 bits時,記錄了電感電流iL共計15000個數據點,重構吸引子如圖8(a)所示.在Ts= 12 μs,分辨率13 bits時,記錄了電容電壓v1共計5000個數據點,重構吸引子如圖8(b)所示.在螺旋狀吸引子的情形下,采樣時間Ts= 4 μs 分辨率8 bits時,記錄了電容電壓v1共計15000個數據點,其重構吸引子如圖8(c)所示.

對于圖8(a)—(c)所示的原始信號,其信噪比估計值分別為47.5,72.3和49.3 dB[30].圖8(a)中測量數據的低信噪比是由于測量電流信號時的霍爾效應所引起的,圖8(c)中測量數據的較低信噪比則是由于低的數據采樣分辨率引起.實驗中,首先需進行提高實測數據信噪比的預處理,對圖8(a)及圖8(c)的信號采用Daubechies小波基函數進行4次分解,進行降噪處理.其次,以250 kHz的頻率預處理后的數據進行采樣,以獲取辨識用數據,三種情形下均選擇了其中的1500—2000個數據點.辨識模型結構為

圖8 基于實測數據的蔡氏電路吸引子Fig.8.Measured data on the attractor of Chua’s circuit：(a)Projection of the double scroll attractor,measures of iL ；(b)measures of v1 ；(c)projection of the spiral attractor,measures of v1 .

其中非線性映射f(·)為FB-EW-KOSELM模型,y(k)信號可以為v1,v2或iL,ny為模型階次.

采用(14)式形式的高斯核函數,辨識階次ny=5,給定固定內存M=100,遺忘因子β=0.995,核參數σ=16 .對于圖8(a)中電感電流信號,選取正則化參數η=10ˉ6,使用 (23)式進行辨識,輸出為y(k)的估計值y?(k),輸入向量為[y(k-1),y(k-2),...,y(k-5)]T,其中k=1000-2500,即選取1500組數據作為訓練數據集.對于圖8(b)中的電容電壓信號,選取η=10ˉ3,同樣使用(23)式進行辨識,其中k=3000-5000,即選取2000組數據作為訓練數據集.對于圖8(c)中的電容電壓信號,選取η=10ˉ3,使用(23)式進行辨識,其中k=1000-2500,選取1500組數據作為訓練數據集.

圖9 基于模型預測輸出的蔡氏電路重構吸引子 (a)雙渦卷吸引子iL；(b)雙渦卷吸引子v1；(c)螺旋吸引子v1Fig.9.Chua's attractor reconstructed from the model predicted output：(a)iLon the double scroll attractor；(b)v1on the double scroll attractor；(c)v1on the spiral attractor.

不同情形下的辨識模型的吸引子重構結果分別如圖9(a)—(c)所示.比較圖9與圖8相對應的重構吸引子可明顯看出,若實測數據的信噪比低,需進行降噪預處理,由FB-EW-KOSELM辨識模型所得到的重構吸引子能較好體現出與基于實測數據重構的原系統(tǒng)吸引子相吻合的幾何特征,實現了混沌動態(tài)重構.

3.3 非線性硬件電路實測數據的動態(tài)重構實驗及模型校驗

為了進一步驗證FB-EW-KOSELM算法的有效性,本節(jié)物理實例的數據取自混沌狀態(tài)下的電路[32]如圖10所示,圖10包含一個將電壓輸入v(t)轉換為輸出αf(v(t))的非線性放大器,L=145mH,r=347Ω,C=343nF,C1=225nF,R的最大值為 3.38KΩ .定義τ=C/C1,描述該電路動態(tài)特性的微分方程如下：

其中,v(t)為電容C兩端的電壓,iL(t)=i(t)為通過電感L的電流,v1(t)為電容C1兩端的電壓.非線性映射f(v)為

實驗與文獻[32]一致,取(24)式中的參數α= 15.6,γ= 0.294,τ= 1.52,δ= 0.534,采樣周期Ts= 40 μs,實測時間序列數據為v的輸出,共計8192個數據點.圖11(a)給出了基于實測時間序列數據所重構的雙渦卷吸引子,若選擇辨識模型結構為

圖10 混沌電路的構成Fig.10.Block diagram of the chaotic circuit.

圖11 重構吸引子 (a)原模型；(b)辨識模型Fig.11.Reconstructed attractor：(a)The original noise-free data；(b)the model predicted output.

圖12 (a)辨識模型輸出與實測時間序列值輸出結果；(b)辨識誤差Fig.12.(a)Identify model outputs and measured time series values；(b)the error between the model output and the measured value.

其中f(·)為FB-EW-KOSELM模型,y(k)為電容電壓v,辨識模型的輸出為y?(k),輸入向量為[y(k-1),y(k-2),...,y(k-5)]T,其中k=1000-4000,即選取3000組數據作為訓練數據集.

采用(14)式形式的高斯核函數,固定內存M=100,遺忘因子β=0.995,核參數σ=32,正則化參數η=10ˉ6.基于辨識模型的重構吸引子如圖11(b)所示,比較圖11(a)與 圖11(b)可明顯看出,由辨識模型得到的重構吸引子能很好體現出與原系統(tǒng)吸引子相吻合的幾何特征,實現了混沌動態(tài)重構.進一步,圖12(a)給出了前500個數據點的辨識模型輸出與實測時間序列值的對比,圖12(b)給出了二者之間的誤差,可以看出模型的辨識結果優(yōu)于文獻[31]的結果.

4 結 論

鑒于FB-EW-KOSELM算法的非線性建模優(yōu)點,本文開展了基于FB-EW-KOSELM算法的混沌動力學系統(tǒng)辨識與重構研究,將其分別應用于Duffing-Ueda振子的混沌動力學系統(tǒng)數值仿真、產生雙渦卷及螺旋渦卷吸引子的蔡氏電路實測數據及混沌電路實測數據的物理實例中,得到如下結論.

1)FB-EW-KOSELM算法通過“核技巧”將數據映射至高維特征空間,通過在線的方式對描述變量矩陣和響應變量矩陣進行建模,保留了OS-ELM的算法框架,并在此基礎上進一步增加了遺忘因子.因此,FB-EW-KOSELM與常規(guī)的KELM等核學習算法相比,減小了運算量.由于遺忘因子的引入,削弱了舊數據對模型的影響,使得算法的精度進一步提高.

2)對辨識模型及原混沌系統(tǒng)內在的動態(tài)特性進行了定性與定量分析對比,以衡量辨識模型與原系統(tǒng)在動態(tài)性能上的逼近程度.在對Duffing-Ueda振子系統(tǒng)的數值仿真中,通過比較辨識模型與原系統(tǒng)的內在動態(tài)不變性指標,具體包括重構吸引子、龐加萊映射、李雅普諾夫指數、關聯(lián)維數,表明所使用的辨識模型具有好的動態(tài)重構性能.另一方面,隨著控制參數的變化,還能夠由辨識模型的分岔圖及極限環(huán)定性展現出與原系統(tǒng)相近的動態(tài)行為.本文的算法屬于基于數據驅動的“黑箱”辨識法,因此同樣適用于其他類型的混沌系統(tǒng)的動態(tài)重構以及具有非周期驅動力的確定性非線性系統(tǒng)的辨識.

3)針對蔡氏電路物理實例,需要對低信噪比的實測電感電流、電容電壓數據進行小波降噪預處理,在此基礎上對比分析辨識模型與原系統(tǒng)的吸引子,結果進一步表明了FB-EW-KOSELM辨識模型的有效性.

4)針對混沌非線性電路物理實例,與文獻[32]的參數與非參數建模相比,結果進一步表明了FBEW-KOSELM辨識模型的有效性.

本文的實驗結果分析表明,基于FB-EWKOSELM的動態(tài)重構算法在本質上能夠抓住混沌系統(tǒng)的動態(tài)特性,與原系統(tǒng)是“系統(tǒng)逼近”或“動態(tài)等價”的,具有很好的應用潛力.下一步的工作將集中于研究其他核學習算法在混沌動力學系統(tǒng)動態(tài)重構中的應用.

感謝Aguirre L A提供的蔡氏電路電感電流、電容電壓實測時間序列數據.