一類混雜系統的模型辨識

趙丹丹，謝春利，王培昌

(大連民族學院a.計算機科學與工程學院;b.機電信息工程學院;c.信息與通信工程學院，遼寧大連116605)

混雜系統是指在同一系統中同時包含連續動態部分與離散(邏輯)動態部分，以及它們之間相互影響，相互作用的一類系統。切換系統是混雜系統中極其重要的一種類型。該系統的連續動態由若干個子系統來描述，而離散動態決定某時刻系統的連續動態由哪個子系統來刻畫，即子系統間是如何切換的。因此，離散動態通常稱為切換律。輸電系統、多控制器系統、服務器切換系統以及繼電器系統等都是典型的切換系統，說明了切換系統具有廣泛的實際工程背景。目前，國際控制界關于混雜系統的研究內容主要包括混雜系統的模型描述、性能分析、控制與優化和應用等。其中，關于混雜系統的建模方法受到了廣泛的關注，并取得了大量的研究成果。主要的建模方法有代數幾何方法［1］、混合整數規劃方法［2］，有界誤差方法［3］、基于貝葉斯學習方法［4］以及基于聚類的方法［5］。盡管如此，切換系統的建模過程中，仍然面臨許多問題，如降低計算的復雜度、對建模方法的優化和收斂性分析等。

考慮到切換系統與多模型系統具有相似性［6-7］，因此，對樣本數據聚類，采用多模型建模方法是解決這一問題的有效途徑。文獻［8］提出了基于條件正定核函數的核模糊C均值聚類算法，文獻［9］提出了基于減法聚類的多模型辨識方法，文獻［10］提出了基于粒子群優化的聚類算法。但這些聚類算法普遍存在聚類數據須事先給定，精度依賴數據分布和收斂速度慢等問題。多模型建模中常用的神經網絡方法也存在過學習、局部極小等缺點，影響了模型的泛化能力。針對上述不足，本文提出一種基于仿射傳播(AP)聚類的切換系統建模方法。利用AP聚類將樣本數據聚類，對聚類后得到的子類進行最小二乘支持向量機建模，將各子模型組合形成最終切換系統模型。通過對一個切換系統的仿真研究，驗證了所提出方法的有效性和可行性。

1 問題描述

本文考慮一類采用ARX形式描述的切換動態系統其中，xt為回歸向量，即:xt=［ut-l-1…ut-l-nb，yt-1…yt-na，yt-1…yt-na］，xt∈Rn，n=na+nbnu。nb，na為模型階次;l為系統時延;，yt∈R，ut∈Rnu和 et∈R分別為系統的輸出、輸入和白噪聲;λt∈{1，…，m}為離散的狀態，即切換律;fλt為未知的線性或非線性光滑函數。

在假定切換系統模型結構已知的條件下(即:nb和na已知)，則切換系統的模型辨識即為對fλt和λt的估計。

2 基于仿射傳播聚類的切換系統建模

基于仿射傳播聚類的切換系統建模算法如圖1所示。首先采用仿射傳播聚類對系統樣本數據進行聚類，得到切換系統各連續子模型的數據樣本，然后用最小二乘支持向量機對各連續子模型分別訓練建模，得到各子模型。

2.1 仿射傳播聚類算法

仿射傳播聚類是一種新型的聚類算法［11］，該算法無需預先給定聚類數目，聚類結果不會受初始聚類中心選擇失當的影響，可快速有效地對大批量數據聚類。

AP聚類通過吸引度r(i，k)和歸屬度a(i，k)的計算，不斷地從數據中選出合適的聚類中心。其中，r(i，k)表示數據點xk作為數據點xi聚類中心的適合度，a(i，k)表示數據點xi選擇數據點xk作為聚類中心的適合度，r(i，k)和 a(i，k)越大，點xk成為最終聚類中心的可能性越大。s(i，k)表示任意樣本點xi和xk之間的相似度。

依據文獻［11］計算吸引度r和歸屬度a，有

其中p偏向參數表示數據點xk被選作聚類中心的傾向性［12］。每一次循環迭代中，ri(i，k)和 ai(i，k)與前一迭代過程 ri-1(i，k)和 ai-1(i，k)加權更新，即

其中λ為阻尼因子。

對于數據點 xi使得{a(i，k)+r(i，k)}最大的數據點xk即為一個聚類中心。算法的收斂條件為聚類中心10次迭代不發生變化，或達到規定的最大迭代次數。迭代過程結束后，輸出m個聚類中心及聚類。

2.2 最小二乘支持向量機

Suykens［13］提出的LS-SVM是通過將最小二乘線性系統引入支持向量機，代替傳統的支持向量采用二次規劃方法解決分類和函數估計問題。用于函數估計的LS-SVM算法推導如下:

設樣本為n維向量，則N個樣本組成的樣本集表示為 D={(Xk，Yk)|k=1，2，…，N}，X∈Rn，Yk∈R。其中:Xk為輸入數據，Yk為輸出數據。在權w空間中的函數估計問題描述如下:

其中，φ(·):Rn→Rnh為核空間映射函數，w∈Rnh為權矢量，ek∈R為不敏感損失函數的松弛因子，b∈R為偏移量，γ∈R為正則化參數。根據式(7)，可定義拉格朗日函數

其中拉格朗日乘子αk∈R.通過L對w，b，ek和αk求偏導等于零，對式(8)進行優化，消除變量w和e，可得優化問題的解析解為

LS-SVM的函數估計為

其中α和b由式(9)求解。

選擇不同形式的核函數可以構建不同的支持向量機，較為常見的核函數有以下幾種:

(1)線性核函數

K(Xi·X)=Xi·X

(2)多項式核函數

K(Xi·X)=(Xi·X+1)d

(3)高斯核函數

2.3 建模步驟

在n維空間定義兩點之間的歐氏距離

則本文提出的基于仿射傳播聚類和LS-SVM切換系統建模方法的具體步驟為:

步驟1 采用AP聚類算法將訓練樣本聚類。初始化AP聚類算法的p和λ，λ的值可以根據對象大小在0.5～0.9之間設置，偏向參數p取相似度矩陣的中值。

步驟2 根據各樣本點和聚類中心的歐式距離確定各子模型的數據樣本。

步驟3 各子模型采用LS-SVM訓練建模并確定其模型參數。

3 仿真驗證

考慮文獻［14］中所描述的單輸入單輸出的切換系統

其中，e為均值0、標準差0.5的高斯噪聲。離散狀態λt與輸入變量x無關，其值決定了系統的輸出模型。令x在［-5，1］區間取值，對系統輸出y1和y2分別采樣30個數據。除了采樣的這60對數據之外，只知道系統有一個模型是線性的，另一個模型是非線性的。仿真研究的目標就是能正確的對兩個模型的數據進行分類，同時，對每個子模型進行建模。

用仿射傳播聚類的方法訓練樣本聚類，采用歐式距離作為樣本點之間的相似度測度，偏向參數p取為相似度矩陣中元素的中值，阻尼因子λ取0.5，通過聚類得到兩子類數據。對兩子類數據分別采用線性核函數和高斯核函數的最小二乘支持向量機建模，仿真結果曲線如圖2。其中，線性核函數參數γ=200，高斯核函數參數γ=1 000，σ=3。線性子模型的參數估計為=2.0 098=-0.9 804，整個建模數據的均方誤差為MSE=(其中為最小二乘支持向量機的估計值)。

圖2 切換系統建模曲線

4 結語

針對具有切換結構的混雜系統，本文提出一種基于仿射傳播聚類和最小二乘支持向量機的辨識方法。該方法將切換系統看作是多模型的非線性系統，通過仿射傳播聚類對系統的輸出樣本數據進行聚類，得到切換系統的各連續子模型的數據聚類中心，利用歐氏距離確定每個子模型的樣本數據?；谧钚《酥С窒蛄繖C對子模型進行建模。最后通過文獻中的典型切換系統模型驗證本算法的有效性。

［1］ MA Y，VIDAL R.Identification of deterministic switched ARX systems via identification of algebraic varieties.In:Morari［J］.M，2005，3414:449-465.

［2］ ROLL J，BEMPORAD A，LJUNG L.Identification of piecewise affine systems via mixed-integer programming［J］.Automatica，2004，40:37-50.

［3］ BEMPORAD A，GARULLI A，PAOLETTI S，et al.A bounded-error approach to piecewise affine system identification［J］.IEEE Trans.On Automatic Control，2005，50(10):1567-1580.

［4］ JULOSKI A L，WEILAND S，HEEMELS W.A bayesian approach to identification of hybrid systems［J］.IEEE Trans.on Automatic Control，2005，50(10):1520-1533.

［5］ FERRARI-TRECATE G，MUSELLI M，LIBERARI D，et al.A clustering technique for the identification of piecewise affine systems［J］.Automatica 2003，39:205-217.

［6］ PETRIDIS V，KEHAGIAS A.Identification of switched dynamical systems using multiple models［C］∥Proceedings of the 37th IEEE Conference on Decision＆Control Tampa，1998:199-204.

［7］ VERRIEST E I，MOOR B D.Multi-mode system identification［Z］.New York:In Proceedings of the European Control Conference(ECC＇99)，1999.

［8］ 李衛，楊煜普，王娜.基于核模糊聚類的多模型LSSVM 回歸建模［J］.控制與決策，2008，23(5):560-562，566.

［9］ 潘天紅，薛振框，李少遠.基于減法聚類的多模型在線辨［J］.自動化學報，2009，35(2):220-224.

［10］徐海霞，劉國海，周大為，等.基于改進核模糊聚類算法的軟測量建模研究［J］.儀器儀表學報，2009，30(10):2226-2231.

［11］FREY B J，DUECK D.Clustering by passing message between data points［J］.Science，2007，315(5814):972-976.

［12］王開軍，張軍英，李丹，等.自適應仿射傳播聚類［J］.自動化學報，2007，33(12):1242-1246.

［13］SUYKENS J K，VANDEWALLE J.Least squares support vector machine classifiers［J］.Neural Network Letters，1999，9(3):293-300.

［14］FABIEN L，GéRARD B.Switched and piecewise nonlinear hybrid system identification［C］∥HSCC＇08 Proceedings of the 11th international workshop on Hybrid Systems:Computation and Control，2008:330-343.