王珠 劉志輝 肖既磊



摘 要 基于Wiener模型和Wiener-Hammerstein模型提出Wiener結構神經網絡(WienerNN)模型和Wiener-Hammerstein結構神經網絡(WHNN)模型,推導了Wiener模型和Wiener-Hammerstein模型的泛化能力,并給出了模型神經網絡化的全過程。將所推導出的WienerNN模型和WHNN模型用于單變量和多變量非線性動態過程建模,驗證了模型的有效性。
關鍵詞 非線性動態系統 神經網絡 Wiener模型 Wiener-Hammerstein模型
中圖分類號 TP271? ?文獻標志碼 A? ?文章編號 1000-3932(2023)05-0652-08
非線性動態系統辨識是目前系統辨識領域研究的難點和焦點問題[1~3],其主要難點在于缺乏描述一般非線性系統的統一的數學模型。為此,研究學者們提出了多種類型的系統模型,如支持向量機模型[4]、小波網絡[5]、神經網絡模型[6~8]及Volterra級數[9,10]等。雖然這些非線性動態建模方法具體實現的方式不同,但都存在相同的問題:動態與非線性之間的相互融合關系限制了模型的泛化能力和估計精度[11]。
為此,筆者基于分離性建模方法Wiener模型[12,13]和Wiener-Hammerstein模型[14]設計了Wiener結構神經網絡(Wiener Structured Neural Network,WienerNN)模型和Wiener-Hammerstein結構神經網絡(Wiener-Hammerstein Structured Neural Network,WHNN)模型。同時,考慮到神經網絡模型權重參數初始值的設置對模型的預測精度和收斂速度具有一定影響,因此在模型訓練過程中,首先采用粒子群算法進行初步全局尋優,目的是得到較優的參數初始值,進而使用基于時間的反向傳播算法(Back-Propagation Through Time,BPTT)進行參數優化。最后,將所推導出的WienerNN模型和WHNN模型用于非線性動態過程建模,并與基線模型GRU和RNN進行結果對比,以驗證筆者所提模型的有效性。
1 分離性模塊化建模的使用范圍與可行性分析
1.1 模塊化非線性系統結構
傳統模塊化非線性系統,也稱為簡單模塊化非線性系統,由線性動態模塊和非線性靜態模塊按照不同的形式級聯而成,圖1所示的4種非線性系統均屬于這類系統。這類系統也是目前研究最多的一類模塊化非線性系統,它們為解決許多實際非線性問題提供了一種非常有效的結構形式。
采用分離性建模方法描述系統時需先滿足以下兩個假設條件:
a. 過程中的動態特性能夠被輸入動態與輸出動態充分表達;
b. 從系統中分離出的非線性能夠盡可能充分地表達過程中的非線性。
1.2 Wiener模型
Wiener模型由一個線性動態模塊后接一個非線性靜態模塊組成,能夠表征大量的非線性系統。單變量Wiener模型的一般形式如下:
5 結束語
基于Wiener模型和Wiener-Hammerstein模型建立了新型神經網絡模型WienerNN和WHNN,推導了Wiener模型和Wiener-Hammerstein模型的泛化能力,并給出了模型神經網絡化的全過程,同時介紹了WHNN模型的訓練原理、算法和流程。仿真實驗結果表明,與GRU和RNN相比,對于一類Wiener過程,即輸出非線性過程,WienerNN模型具有更高的預測精度;對于一類Wiener-Hammerstein過程,WHNN模型具有更高的預測精度;對于非線性與動態特性很難分離的一類系統,WienerNN和WHNN模型均能夠很好地跟蹤系統輸出,但WienerNN模型更為合適。
后續工作中筆者將收集實際現場數據,利用更加高效的訓練算法對WienerNN和WHNN模型進行訓練,以進一步驗證模型的有效性。
參 考 文 獻
[1]? ?KOUKOULAS P,KALOUPTSIDIS N.Nonlinear system identification using Gaussian inputs[J].IEEE Transactions on Signal Processing:A Publication of the IEEE Signal Processing Society,1995,43(8):1831-1841.
[2]? ?馮培悌.系統辨識[M].2版.杭州:浙江大學出版社,2004.
[3]? ?SI H N,SHAO X L,ZHANG W D.Fuzzy rule-based neural appointed-time control for uncertain nonlinear systems with aperiodic samplings[J].Expert Systems with Applications,2021,170.DOI:10.1016/j.eswa.2020.
114504.
[4]? ?田中大,高憲文,石彤.用于混沌時間序列預測的組合核函數最小二乘支持向量機[J].物理學報,2014,63(16):70-80.
[5]? ?宋彤,李菡.基于小波回聲狀態網絡的混沌時間序列預測[J].物理學報,2012,61(8):90-96.
[6]? ?NARENDRA K S,PARTHASARATHY K.Identificat-ion and control of dynamical systems using neural networks[J].IEEE Transactions on Neural Networks,1990,1(1):4-27.
[7]? ?LEVIN A U,NARENDRA K S.Control of nonlinear dynamical systems using neural networks.Ⅱ.Observab-ility,identification,and control[J].IEEE Transactions on Neural Networks,1996,7(1):30-42.
[8]? ?趙小國,劉丁,景坤雷.融合改進蟻獅算法和T-S模糊模型的噪聲非線性系統辨識[J].控制與決策,2019,34(4):759-766.
[9]? ?彭志科,程長明.Volterra級數理論研究進展與展望[J].科學通報,2015,60(20):1874-1888.
[10]? JANJANAM L,SAHA S K,KAR R,et al.Global Gravitational Search Algorithm-Aided Kalman Filter Design for Volterra-Based Nonlinear System Identifi-cation[J].Circuits,Systems,and Signal Processing,2021,40(5):2302-2334.
[11]? ?TOTTERMAN S,TOIVONEN H T.Support vector me-thod for identification of Wiener models[J].Journal of Process Control,2009,19(7):1174-1181.
[12]? ?曹鵬飛,羅雄麟.基于Wiener結構的軟測量模型及辨識算法[J].自動化學報,2014,40(10):2179-2192.
[13]? ?WANG Z, ZHAO L K,LUO X L. Wiener structure based adaptive control for dynamic processes with approximate monotonic nonlinearities[J].Journal of the Franklin Institute,2020,357(18):13534-13551.
[14]? ?JANJANAM L, SAHA S K, KAR R,et al.Optimal design of cascaded Wiener-Hammerstein system using a heuristically supervised discrete Kalman filter with application on benchmark problems[J].Expert Systems with Applications,2022,200.DOI:10.1016/j.eswa.2022.117065.
[15]? ?KUMARI R,EKBAL A.AMFB:Attention based mult-imodal Factorized Bilinear Pooling for multimodal Fake News Detection[J].Expert Systems with Appli-cation,2021,184:115412.1-115412.12.
[16]? ?賈立,李訓龍.Hammerstein模型辨識的回顧及展望[J].控制理論與應用,2014,31(1):1-10.
[17]? ?HOU J,LIU T,WAHLBERG B,et al.Subspace Ham-merstein Model Identification under Periodic Distur-bance[J].IFAC-PapersOnLine,2018,51(15):335-340.
(收稿日期:2022-11-25,修回日期:2023-07-25)
A Complete Modeling Method for Nonlinear Dynamic Processes
Based on Wiener Structured Neural Network and Wiener-
Hammerstein Structured Neural Network
WANG Zhu, LIU Zhi-hui, XIAO Ji-lei
(College of Information Science and Engineering, China University of Petroleum(Beijing))
Abstract? ?Having Wiener model and Wiener-Hammerstein model based to propose Wiener structured neural network(WienerNN) model and Wiener-Hammerstein structured neural network(WHNN) model was implemented, including the derivation of generalization ability of the Wiener model and the Wiener-Hammerstein model, as well as the presentation of the whole process of model neural network. Applying both WienerNN model and WHNN model derived to model univariate and multivariable nonlinear dynamic processes can verify both feasibility and effectiveness of the model proposed.
Key words? ?nonlinear dynamic system, neural network, Wiener model, Wiener-Hammerstein model
基金項目:國家自然科學基金項目(61703434)。
作者簡介:王珠(1989-),副教授,從事過程動態建模與辨識、智能控制與故障預警以及機器學習與神經網絡等的研究。
通訊作者:劉志輝(1998-),碩士研究生,從事過程動態建模與辨識、神經網絡等的研究,15750490146@163.com。
引用本文:王珠,劉志輝,肖既磊.基于Wiener模型和Wiener-Hammerstein模型的非線性動態過程完整建模方法[J].化工自動化及儀表,2023,50(5):652-659.