摘要:針對BP神經網絡學習過程收斂速度慢及易陷入局部極小值的缺陷,研究了阻尼最小二乘算法(即LM算法),為解決LM算法中學習速率的選擇和逆矩陣的求解這兩個嚴重影響訓練時間和收斂精度的問題,采用LU分解法對LM算法進行改進和優化,并通過MATLAB語言編程實現,將得到的LMBP神經網絡PID控制器應用于暖通空調冷凍水循環的控制回路中,將其控制效果與PID控制算法、BP神經網絡PID控制算法進行仿真對比研究。研究結果表明,采用LMBP神經網絡PID控制器在減少超調量、加快收斂速度、減少穩態誤差等方面的性能都得到了明顯地改善和提高。
關鍵詞:最小二乘算法;反向傳播;神經網絡;比例積分微分控制;暖通空調系統
中圖分類號:TP273.2 文獻標識碼:A
Study on Application of LMBP Neural Network PID Controller in HVAC System
WANG Yan1,2,LIU Hong-li1#8224;,YANG Ke2
(1College of Electrical and Information Engineering, Hunan Univ, Changsha Hunan 410082, China ;
2 College of Electrical Engineering, Nanhua Univ, Hengyang, Hunan 421001, China)
Abstract: In allusion to the defects of the slowly converging and easily immerging in partial minimum in the learning process of Back Propagation (BP) Neural Network (NN), a Levenberg-Marquardt (LM) algorithm is presented. In order to solve the two problems which seriously affect on both training time and converging accuracy in terms of the choice of learning rate and the inverse matrix solving in LM algorithm, the paper proposed LU decomposition to improve the LM algorithm simulated by MATLAB. The LMBP Neural Network PID controller is applied in cooling water cycle of heating ventilating and air conditioning (HVAC) system. The results of LMBP neural network PID controller, PID controller, and BP neural network PID controller are simulated and compared on the paper.The performance indicates obviously that the BP Neural Network PID controller optimized by improved LM algorithm is better than other algorithms in terms of reducing the overshoot, speeding up the convergence rate, and reducing the steady-state error.
Key words: Levenberg-Marquardt algorithm; back propagation; neural network; PID control; HVAC
誤差反向傳播神經網絡(簡稱BP網絡),所具有的任意非線性表達能力,可以通過對系統性能的學習來實現具有最佳參數組合的PID控制[1]。
雖然BP神經網絡的理論依據堅實,推導過程嚴謹,通用性強,但是由于其算法是基于最陡梯度下降算法、以誤差平方和為目標函數的,所以其不可避免地存在一些問題,極大地影響了BP網絡的進一步發展和應用[2]。
為此,本文通過改進的阻尼最小二乘算法(即LM算法),對BP網絡的兩個主要缺點進行改進,并應用在神經網絡PID控制器中,進行仿真試驗,力求達到理想的控制效果。并進一步將LMBP神經網絡PID控制器應用于空調冷凍水循環的控制回路中。通過仿真對比,驗證了采用LMBP神經網絡PID控制器在減少超調量、加快收斂速度、減少穩態誤差等方面性能都得到明顯的改善 [3]。
1 算法理論分析
1.1 BP算法分析
BP網絡不僅具有輸入層節點和輸出層節點,而且有一層或多層隱含層節點。其學習算法系統地解決了多層網絡中隱含單元連接權的學習問題[4]。學習算法分為正向傳遞過程和反向傳遞過程。BP算法流程框圖如圖1所示。
圖1BP算法流程框圖
Fig.1Flow chart of the BP algorithm
BP算法存在兩個主要缺陷:1)BP算法按照均方誤差的梯度下降方向收斂,但均方誤差的梯度曲線存在不少局部和全局最小點,這就使得神經網絡易陷入局部極小。2)BP學習算法的收斂速度很慢。針對這些問題,需要對BP基本算法做必要的改進,以加快收斂速度,達到最優化控制。
1.2 LM算法
LM算法是非線性最小二乘無約束優化的主要算法,是一種利用標準的數值優化技術的快速算法。其本質上是牛頓法的變形,具有二階收斂速度,所需要的迭代次數很少,既有牛頓法的局部收斂特性,又有梯度下降算法的全局特性[5],而且它不需要計算Hessian矩陣,對參數數目不太大的網絡模型,該方法是一種快速有效的訓練算法。而BP算法實際上就是要求導師信號與網絡輸出信號的誤差平方和達到最小,因此把LM算法應用到BP算法中是一種很有效的改進途徑。下面對LM算法進行簡要說明。
取神經網絡的誤差指標函數為:
.(1)
式中: 為期望的網絡輸出向量; 為實際的網絡輸出向量; 為誤差。
設 ,w(k)為第k次迭代的網絡權值向量,維數為M,新的權值向量w(k+1)根據以下規則求得:
,(2), (3). (4)
其中,J是雅可比矩陣,定義為:
.(5)
. (6)
當靠近誤差指標函數的最小值時,矩陣S的元素變得很小,則
.(7)
在式(7)中,H需要求逆。因此取:
. (8)
其中,比例系數μ>0,是一個很小的數,I為單位矩陣。代入上式可得更新權值的LM算法:
.(9)
其具體算法流程如圖2所示。
圖2LM算法流程圖
Fig.2Flow chart of the LM algorithm
1.3LU分解法改進LM算法
詳細分析上述LM算法,發現求解 的逆矩陣是LMBP算法中最耗時的因素。當神經網絡中節點較多時,逆矩陣的計算會大大影響訓練的速度。求 的逆矩陣,相當于對線性方程
求解,LU分解法是一種快速有效的解法。
若系數矩陣A非奇異,則A可以分解為一個下三角矩陣L和一個上三角矩陣U的乘積,其中L的主對角線為1,U的對角線元素非零。即:A =LU。
由Doolittle分解,三角矩陣L和U的元素計算如下:
, (10) , (11)
, (12)
.(13)
由擴展高斯消去過程,求解一般線性方程組AX =B,則存在一個置換矩陣P,使得PA可分解為一個下三角矩陣L和一個上三角矩陣U:PA =LU 而且可以構造L的主對角元素為1,U的主對角線元素非零。可用如下4步求X:
1)構造矩陣L,U和P:使用命令([L,U,P]=LU(A))
2)計算列向量PB;
3)用前向替換法對方程組LY =PB求解Y;
4)用回代法對方程組UX =Y求解X。
如此可以采用LU分解法進一步改進LM算法,節省其在逆矩陣求解上所耗費的時間,使其收斂速度得到進一步提高。
1.4 函數逼近仿真分析
下面以函數逼近進行仿真[6],來比較標準BP算法,LM算法以及LU分解法改進的LM算法。選取y =sin(1/2πx)+ sin(πx)為函數對象,仿真結果如圖3~圖5所示。
圖3BP算法逼近仿真與誤差曲線
Fig.3Simulation and error curve of the BP algorithm
圖4LM算法逼近仿真與誤差曲線
Fig.4Simulation and error curve of the LM algorithm
圖5 改進LM算法逼近仿真與誤差曲線
Fig.5Simulation and error curve of the improved LM algorithm
常規BP算法訓練3 000次仍未達到精度要求,誤差值遠高于精度要求;而LM算法在訓練64次后就達到精度要求;而進一步改進的LM算法只需要35次,由以上仿真結果可以看出,優化的算法較傳統基本算法相比起來,在逼近效果和收斂速度方面優勢明顯。
2 神經網絡PID控制器在HVAC系統中的應用研究
2.1 冷凍水循環控制系統
我們將LMBP神經網絡PID控制器應用于冷凍水循環系統,冷凍水系統控制原理框圖[7]如圖6所示。
圖6冷凍水循環系統控制原理框圖
Fig.6Control block diagram of the frozen water circular system
通過溫度傳感器,將冷凍機的回水溫度和出水溫度送入溫差控制模塊,并計算出溫差值,然后通過溫度A/D轉換器進行A/D模數轉換成控制信號傳送到PID,由PID來控制變頻器的輸出頻率,從而控制冷凍泵電機轉速,調節出水的流量,控制熱交換的速度。溫差大,說明室內溫度高,系統負荷大,應提高冷凍水泵的轉速,加快冷凍水的循環速度和流量,加快熱交換的速度;反之溫差小,則說明室內溫度低,系統負荷小,可降低冷凍水泵的轉速,減緩冷凍水的循環速度和流量,減緩熱交換的速度以節約電能。
2.2冷凍水循環系統Matlab建模
對空調房間采用一階大慣性加純滯后來建模,溫度傳感器采用一階線性函數表示,冷凍水泵(傳動電機)采用一階大慣性加純滯后。為簡化執行器件采用一純比例環節。這樣就可得到一個簡化的空調房間冷凍水循環系統溫度控制模型。如圖7所示。
圖7冷凍水循環系統溫度控制模型
Fig.7 Simulation model of the frozen water temperature control
對建立的空調系統模型分別用常規PID控制、BP神經網絡PID、LMBP神經網絡PID控制器進行對比仿真研究[8]。同時為了研究控制系統對干擾的抑制性能,分別做了加擾動、不加擾動的對比研究。仿真結果如圖8~圖10所示,其中左圖是未加擾動的輸出響應,右圖是加擾動后的輸出響應。
圖8PID控制仿真圖
Fig.8 Simulation diagram of the PID controller
圖9BP神經網絡PID控制仿真圖
Fig.9 Simulation diagram of the BP Neural Network PID controller
圖10LMBP神經網絡PID控制仿真圖
Fig.9 Simulation diagram of the LMBP neural network PID controller
由圖8可以看出常規PID控制其超調量為1.52,調節時間為132.25 s, 其穩定后存在微小的穩態誤差。BP神經網絡PID控制器超調量為1.21,調節時間為38.65 s。LMBP神經網絡PID控制器超調量很小,僅為1.04,調節時間為4.6 s。從各仿真圖可看到加擾動與未加擾動的仿真結果沒有明顯差別,說明PID控制具有良好的抗干擾特性。
3 結論
通過以上理論分析和仿真研究,可以很明顯地看出,BP神經網絡PID控制器在控制精度、調節時間等方面都優于常規PID控制器,而且超調量更小。LMBP神經網絡PID控制器在調節時間、超調量等性能指標上比BP神經網絡PID控制器更優。采用LMBP神經網絡PID控制器得到了預期的改進效果。
參考文獻
[1]ZAHEER M , TUDOROIU N. Neuro-PID tracking control of a discharge air temperature system[J].Energy Conversion and Management ,2004,45 (3): 2405–2415.
[2]YI J Q, WANG Q, ZHAO D B. BP neural network prediction-based variable-period sampling approach for networked control systems[J]. Applied Mathematics and Computation, 2007,185 (2): 976–988.
[3]鞠儒生,王學寧,劉寶宏,等. 一種改進型神經網絡算法NN-LMBP[J].系統仿真學報, 2007,19(11):4857-4863.
JU Ru-sheng, WANG Xue-ning, LIU Bao-hong, et al. Improved neural network algorithm NN-LMBP[J]. Journal of System Simulation, 2007, 19(11):4857-4863. ( In Chinese)
[4]趙衛華.基于神經網絡參數優化的PID控制器的研究[D].中北大學,2008.
ZHAO Wei-hua. Study on the parameters optimized PID control based on neural network[D].North University of China, 2008. ( In Chinese)
[5]常炳國.基于RBF神經網絡的混合氣體智能檢測系統研究[J].湖南大學學報:自然科學版, 2009, 36(7):82-84.
CHANG Bing-guo. Study on the intelligent measurement system of mix gases based on RBFNN[J]. Journal of Hunan University: Natural Sciences,2009,36(7):82-84. ( In Chinese)
[6]ZHENG Z, LIANG J, NIU B, et al. Simulation study on neural PID control of variable-frequency air conditioning systems[J]. Heating Ventilating and Air Conditioning, 2004, 34(12): 93-95.
[7]ALBER T P. A neural-network-based identifier controller for modern HVAC control[J].ASHRAE Trans, 1995, 101(1): 14-31.
[8]ERGEZINGER S, THOMSEN E. An accelerated learning algorithm for multilayer perceptions: optimization layer by layer[J].IEEE Transactions on Neural Networks, 1995, 6(1):31-42.