基于穩定Hammerstein模型的在線軟測量建模方法及應用

叢秋梅,苑明哲,王宏,4

（1 遼寧石油化工大學信息與控制工程學院，遼寧 撫順 113001；2 中國科學院沈陽自動化研究所信息服務與智能控制技術 研究室，遼寧 沈陽 110016；3 中國科學院院重點實驗室網絡化控制系統重點實驗室，遼寧 沈陽 110016；4 沈陽中科博微自動化有限公司，遼寧 沈陽 110179）

引 言

復雜工業過程尤其是化工過程的部分關鍵過程變量在線不可測或測量滯后非常大，嚴重限制了簡單、有效控制器的應用，使閉環控制難以實現，尤其是當進料特性、外界環境等生產邊界條件發生變化時，僅僅依靠人的經驗及傳統技術難以滿足越來越高的運行目標要求[1]。同時，由于存在未建模動態和不確定干擾，采用常規的神經網絡、模糊模型等建模方法易出現不穩定的情況，且實時性能較差[2]，因此導致過程的關鍵變量軟測量精度下降[3-5]。Hammerstein 模型(簡稱H 模型)是化工過程的常用模型之一，由無記憶非線性增益和有記憶線性系統串聯構成，線性子系統描述對象動態特性，非線性增益用于校正線性系統模型[6]。文獻[7-8]以多項式描述H 模型非線性增益，僅能代表弱非線性過程，對于具有中等或強非線性的過程，精度和適用性將有所下降。文獻[9]采用基函數的線性組合作為H 模型的非線性環節，這種方法對于多變量的非線性函數，需要大量的參數和很高的階次，不利于在線辨識。文獻[10]對H 模型的非線性環節和線性環節的參數辨識方法分別進行了總結，認為以神經網絡、模糊系統、神經模糊系統、支持向量機等基于數據的非線性環節來進行辨識，是目前的研究熱點。文獻[11]采用模糊神經系統建立Hammerstein-Wiener模型的非線性增益部分模型，適用于非線性環節難以參數化的情況，為H模型的辨識提供了借鑒作用。此外，H 模型的非線性環節模型應具有良好的非線性擬合能力和自適應能力。文獻[12-13]指出當神經網絡隱含層節點數足夠多時，將以任意精度逼近非線性系統，但不能保證非線性動態系統建模誤差的穩定性。文獻[14]指出與固定學習速率的梯度下降法相比，時變學習率具有更快的收斂性，可以保證誤差的穩定性和自適應能力。本研究采用帶有時變穩定學習算法的小波神經網絡作為H模型的非線性增益，采用基于遞推最小二乘的ARX 模型作為線性系統部分，其中小波神經網絡使H 模型具有表征強非線性的能力；與固定學習速率的梯度下降法相比，基于文獻[15]的ISS（輸入到狀態穩定性，input-to-state stability）-Lyapunov 函數推導得出的穩定時變學習算法具有更快的收斂性，可以保證誤差的穩定性和模型的自適應能力；以非線性系統和實際污水處理過程為例進行了仿真實驗，并對實驗結果進行了分析。

1 基于穩定H模型的在線軟測量模型結構

以無記憶非線性增益部分和有記憶線性部分進行內聯的H模型是以非機理形式表征非線性系統的有效模型，其結構簡單又能有效地描述弱非線性動態特性，已經逐漸成為建立非線性系統模型的重要方法之一。許多非線性系統都可以用H 模型來實現系統的模型化[16]，普遍用于建立如蒸餾塔和熱交換系統、聚合反應器、pH 中和、艦艇推動器、大規模模擬電路宏模塊結構和發動機振動系統等過程的模型，H 模型非線性增益部分的辨識無需系統的歷史輸入、輸出信息，具有較易辨識、計算量少的特點[16]。文獻[17]采用神經動力學來辨識H 模型的參數，H 模型用于建立實際過程模型與機理模型之間的偏差模型，所提方法雖可實現在線校正，但校正算法計算復雜，運算成本高。

本研究采用具有良好非線性擬合能力的小波神經網絡來表示H 模型的非線性增益。基于H 模型的軟測量模型結構如圖1所示。圖中，x1表示過程輸入變量，x2表示過程中間變量，y表示難以在線檢測的過程輸出變量，表示輸出變量的軟測量值，e表示基于H 模型的軟測量誤差。

圖1 軟測量模型結構Fig.1 Structure of soft sensor

自適應學習算法由兩部分組成：H 模型非線性增益部分小波神經網絡的穩定學習算法；動態線性系統部分ARX 模型的遞推最小二乘算法。

2 帶有穩定學習算法的H 模型

2.1 H 模型結構

H 模型結構如圖2所示。

小波神經網絡一般采用單隱層結構，但并不影響其逼近能力[18]，因此非線性增益部分的小波神經網絡模型可寫為

圖2 H 模型結構Fig.2 Structure of H model

ARX 模型的輸出可寫為

將式(1)代入式(2)，可寫為

其中，x(k) ∈RI表示H 模型的輸入向量，x(k)=[x1(k),x2(k)]；表示非線性增益部分小波神經網絡的輸出；表示H 模型輸出，即過程不可測輸出變量的軟測量值；ai(k)(i=1,2,…,na)和bj(k)(j=0,1,… ,nb)表示ARX 模型參數，na和nb表示模型階次；φ=[φi]∈RH表示小波神經網絡隱含層節點的激勵函數向量，表示小波母函數，其中S=[si(k)]∈RH，si(k)表示第i個隱含層節點小波基函數的伸縮參數；D=[di(k)]∈RH，di(k)表示第i個隱含層節點小波基函數的平移參數；V(k)=[vij(k)]∈RH×I表示隱含層權值矩陣，W(k)=[wi(k)]∈R1×H表示輸出層權值向量；H表示隱含層節點個數，I表示輸入層節點個數，i=1,2,… ,H；j=1,2,… ,I。

2.2 H 模型的自適應學習算法

2.2.1 小波神經網絡的穩定學習算法 文獻[19]指出若實現化工過程實時在線優化，必須研究被控變量的在線建模方法。本文提出的穩定學習算法是一類在線建模方法。

定理1 為消除過程的有界未建模動態和不確定干擾對軟測量精度的影響，H 模型非線性增益部分的小波神經網絡參數采用如下的穩定時變學習算法時

其中，穩定學習率η(k) 為

其中

則可保證H 模型的平均建模誤差指標有界，并滿足

證明：采用梯度下降算法學習H 模型中的小波神經網絡參數V(k)、W(k)、si(k)、di(k)。定義誤差性能指標E為

為了最小化誤差性能指標E，根據誤差反傳算法的鏈式規則，小波神經網絡權值和小波尺度參數在E的負梯度下降方向進行訓練，各參數的修正量為

其中，η(k)表示小波神經網絡的學習率；en(k)表示小波神經網絡的建模誤差，定義為en(k)=-u(k)；u?(k)表示小波神經網絡的輸出；u(k)表示小波神經網絡的假定理想輸出，由于u(k)無法精確測量，因此en(k)是虛擬誤差指標，i=1,2,… ,H；j=1,2,… ,I。

en(k)與e(k)之間的關系式可由下列鏈式規則推導

當直接以 en(k) 校正模型參數時，式(15)成立

根據式(14)和式(15)，可得 e(k) 和 en(k) 之間具有如下關系

將式(16)代入式(10)～式(13)，即可得參數V、W、si和di的在線更新算法式(4)～式(7)。

使用Taylor 級數展開分析建模誤差 e(k) 的動態。以具有兩個獨立變量的光滑函數f為例，在平衡點附近的Taylor 級數具有如下形式

其中，εt為Taylor 級數的高階項。

基于H 模型的軟測量模型輸出可寫為

其中，W*和V*、S*和D*分別表示使辨識誤差 μ(k) 最小時小波神經網絡的最優權值矩陣和最優小波參數向量，分別表示為

建模誤差 e(k) 可寫為

其中，δ(k)表示過程的未建模動態，δ(k)=μ(k) +ε(k)，ε(k)為Taylor 級數高階項，μ(k)表示小波神經網絡的辨識誤差。

因此小波神經網絡的虛擬建模誤差en(k)可寫為

式(20)寫成矩陣形式為

其中，

定義一個正定函數L為

由式(4)～式(7)和式(20)可得

其中，

因為

證畢。

2.2.2 ARX 模型參數的RLS 算法 定義ARX 模型參數向量θ和數據向量φ為

ARX 模型的階次an和bn采用赤池信息量準則（akaike information criterion，AIC）確定。

參數向量θ采用帶有遺忘因子的遞推最小二乘法進行辨識，辨識算法為

其中，遺忘因子=0.9。

當H模型的非線性增益和線性系統分別采用式(4)～式(7)和式(27)～式(29)所示的自適應學習算法，可以保證基于H 模型的軟測量方法在過程存在未建模動態和不確定干擾的情況下，軟測量模型的誤差是有界的。

2.2.3 建模算法小結 基于穩定H模型的在線軟測量建模算法的步驟可總結如下：

（1）在[0,1]上隨機選擇小波神經網絡的初始參數向量W0、V0、S0、D0；

（2）利用訓練數據集，根據式(4)～式(7)學習H 模型中小波神經網絡的權值W、V和小波尺度參數S、D；再根據式(27)～式(29)學習ARX 模型參數θ，作為H 模型的初始模型參數；

（3）采集新數據樣本，由式(4)～式(7)在線學習H 模型中的小波神經網絡的權值矩陣 (1)k+W、V(k+1)和小波尺度參數S(k+1)、D(k+1)，以式(27)～式(29)在線學習ARX 模型參數θ(k+1)；

（4）由式(3)計算H 模型的輸出，返回步驟(3)，重復上述步驟計算下一時刻H 模型的輸出值。

3 仿真實驗及結果分析

3.1 非線性系統

以Narendra 等[21]提出的如下非線性系統為例

式中，x1(k) 與x2(k) 為系統狀態；k(y)、u(k)和 ε(k) 分別為系統的輸出、輸入和白噪聲。仿真建模的目的是通過輸入、狀態信息來估計系統當前輸出 y(k)。選擇輸入信息向量為

以u(k) ∈[ -2 .5,2.5]的隨機信號與ε(k)∈N(0,0.1)的白噪聲作用于非線性系統，構成5000組時間序列訓練樣本。以測試信號

作用于系統，產生200 組測試樣本，來檢驗本文的算法。

根據輸入信息向量，小波神經網絡的輸入層節點個數選為I=4，隱含層節點個數為H=10；ARX模型的階次na=nb=2；初始學習率η0=0.9。

將本研究算法與采用不帶有穩定學習算法的小波神經網絡作為非線性增益的H 模型進行比較，仿真結果如圖3所示。

圖3 基于帶有和不帶有穩定學習的H 模型時 非線性系統建模結果比較Fig.3 Comparison of nonlinear system modeling based on H model with and without stable learning

可以看出，帶有穩定學習算法的H 模型的平均建模誤差指標低于不帶有穩定學習算法的H 模型，表明帶有穩定學習算法時模型與非線性系統真實輸出的擬合程度較高。

圖4為小波神經網絡輸出層節點權值w2的在線學習過程曲線。圖5為ARX 模型參數a2的在線學習過程曲線。可以看出，H 模型中的各參數是在線 更新的，可以保證模型的實時性。

圖4 權值w2 的在線學習過程曲線Fig.4 Learning curve of weight w2 in wavelet neural network

圖5 ARX 參數a2 的在線學習過程曲線Fig.5 Learning curve of parameter a2 in ARX

3.2 污水處理過程出水COD 軟測量仿真實驗

以實際A/O 污水處理過程為背景，選擇與出水COD 相關的入水指標：進水流量x1、進水懸浮固體濃度x2、氨態氮濃度x3，以及中間過程變量：缺氧池內的氧化還原電位x4、好氧池內的溶解氧濃度x5作為出水COD 軟測量模型的輸入變量。選擇輸入信息向量為

采用沈陽某污水處理廠A/O工藝過程的實際運行數據，共250 組輸入/輸出數據對，其中前150 組數據模型訓練，后100 組數據進行出水COD 在線軟測量的實驗研究。

根據輸入信息向量，小波神經網絡的輸入層節點個數選為I=5，隱含層節點個數為H=15；ARX模型的階次na=nb=2；初始學習率η0=0.9。將帶有與不帶有穩定學習算法的H 模型進行比較，仿真結果如圖6和圖7所示。

圖6 基于帶有和不帶有穩定學習的H 模型時COD 軟測量結果比較Fig.6 Comparison of COD soft sensor based on H model with and without stable learning

圖7 平均建模誤差指標比較Fig.7 Comparison of average modeling error

圖8 穩定學習率 η(k)Fig.8 Stable learning rate η(k)

由圖6可以看出，帶有穩定學習算法時軟測量 模型的輸出與真實COD 值比較接近，在工況出現異常的初期（第70～80 個樣本），不帶有穩定學習時的擬合精度略高，這是由于穩定學習算法是一步尋優算法，雖具有較高的運算速度，相比較常規誤差反傳的多步迭代算法，在工況急劇變化時仍需要適當的調整時間；圖7表明，隨著異常工況的持續，本文所提出基于穩定學習算法的H模型的平均建模誤差指標逐漸下降，并明顯低于采用常規誤差反傳的非穩定學習算法的模型。

圖8為H 模型的穩定學習率曲線。可以看出，H 模型的學習率 η(k) 是時變的，取值與小波神經網絡輸入向量、權值和尺度參數、激勵函數等有關，大于常規誤差反傳算法學習率η0的值（η0一般認為可在0～1 之間取值，當η0＞0.2 時，權值修正量大可能導致振蕩或發散；當η0＜0.2 時，可迭代多步學習神經網絡參數，η0多在0.05～0.1 之間取值，η0越小則收斂速度越慢）；穩定學習算法是一步尋優算法，并且不存在學習速率大引起的振蕩或發散現象。

定義平均相對誤差絕對值為

帶有與不帶有穩定學習算法的H模型的平均相對誤差絕對值比較如表1所示。

表1 平均相對誤差絕對值比較Table 1 Comparison of average absolute relative error

可以看出，由于帶有穩定學習的H 模型可自適應地調整穩定學習率，在外界不確定干擾的情況下，具有相對好的軟測量性能。

4 結 論

本研究為了解決由于存在未建模動態和不確定干擾，導致復雜工業過程關鍵變量的軟測量精度下降的問題，采用H 模型來建立不可測變量的軟測量模型。①基于ISS-Lyapunov 函數推導得出的穩定時變學習算法在存在有界未建模動態和不確定干擾的情況下，建模誤差是穩定的；②以非線性系統和污水出水COD 軟測量仿真實驗表明，基于穩定學習算法的H 模型具有較高的軟測量精度；③由于穩定學習率與輸入向量、權值和尺度參數、激勵函數等有關，應確定最優參數初始值以進一步提高精度；④本文所提方法可適用于建立其他復雜工業過程的軟測量模型。

[1]Chai Tianyou (柴天佑).Operational optimization and feedback control for complex industrial processes [J].Acta Automatics Sinica(自動化學報),2013,39 (11):1744-1757

[2]Cao Pengfei (曹鵬飛),Luo Xionglin (羅雄麟).Modeling of soft sensor for chemical process[J].CIESC Journal(化工學報),2013,64 (3):788-800

[3]Yu W,Li X.Discrete-time neuro identification without robust modification [J].IEE Proceedings -Control Theory and Applications,2003,150 (3):311-316

[4]Zhang N M.An online gradient method with momentum for two-layer feedforward neural networks [J].Applied Mathematics and Computation,2009,212 (2):488-498

[5]Chen Y J,Huang T C,Hwang R C.An effective learning of neural network by using RFBP learning algorithm [J].Information Sciences,2004,167 (1):77-86

[6]Narendra K S,Gallman P G.An iterative method for the identification of nonlinear systems using a Hammerstein model [J].IEEE Transactions on Automatic Control,1966,11 (3):546-550

[7]Lakshminarayanan S,Shah S L,Nandakumar K.Modeling and control of multivariable processes:dynamic PLS approach [J].AIChE Journal,1997,43 (9):2307-2322

[8]Wlodzimierz G.Stochastic approximation in nonparametric identification of Hammerstein systems [J].IEEE Transactions on Automatic Control,2002,47 (11):1800-1811

[9]Zhao W X.Parametric identification of Hammerstein systems with consistency results using stochastic inputs [J].IEEE Transactions on Automatic Control,2010,55 (2):474-480

[10]Jia Li (賈立),Li Xunlong (李訓龍).Identification of Hammerstein model:review and prospect [J].Control Theory & Applications(控制理論與應用),2014,31 (1):1-10

[11]Jia L,Yang A H,Chiu M S.Special input signals based neurofuzzy Hammerstein-Wiener model and its application [J].International Journal of System Control and Information Processing,2012,1 (2):199-218

[12]Hunt K J,Sbarbaro D,Zbikowski R,Gawthrop P J.Neural networks for control systems—a survey [J].Automatica,1992,28 (6):1083-1112

[13]Chen Senfa (陳森發).Theory and Method of Complex System Modeling (復雜系統建模理論與方法) [M].Nanjing:Southeast University Press,2005

[14]Yu W.Nonlinear system identification using discrete-time recurrent neural networks with stable learning algorithms [J].Information Sciences,2004,158 (1):131-147

[15]Sontag,E D,Wang Y.On characterizations of the input-to-state stability property [J].Systems and Control Letters,1995,24 (5):351-359

[16]Feng Peidi (馮培悌).System Identification (系統辨識) [M].Hangzhou:Zhejiang University Press,1999

[17]Wang Shuangjian (王雙劍),Chu Jizheng (楚紀正).Hammerstein model identification method based on the new improved neural dynamics and its application to hybrid modeling [J].Information and Control(信息與控制),2012,41 (3):384-390

[18]Kreinovich V S O,Cabmn S.Wavelet neural networks are asymptotically optimal approximators for function of one variable// Proceeding of IEEE ICNN [C].Florida,USA,1994:299-304

[19]Ye Lingjian (葉凌箭),Ma Xiushui (馬修水),Song Zhihuan (宋執環).Real-time optimization for chemical processes based on on-line modeling of controlled variables [J].CIESC Journal(化工學報),2013,64 (8):2918-2923

[20]Sontag E D.Input to state stability:basic concepts and results [J].Lecture Notes in Mathematics,2008,1932:163-200

[21]Narendra K S,Li S M.Neural networks in control systems// Smolensky P,Mozer M C,Rumelhart D E,Mathematical Perspectives on Neural Networks [M].New Jersey:Lawrence Erlbaum Associates,1996:347-394