基于模擬退火-粒子群算法優化支持向量機參數的連鑄漏鋼預報

方一鳴 鄭賀軍 劉 樂 胡春洋.燕山大學工業計算機控制工程河北省重點實驗室，秦皇島，0660042.國家冷軋板帶裝備及工藝工程技術研究中心，秦皇島，066004中船航?？萍加邢挢熑喂?，北京，00044

?

基于模擬退火-粒子群算法優化支持向量機參數的連鑄漏鋼預報

方一鳴1,2鄭賀軍1劉 樂1胡春洋3
1.燕山大學工業計算機控制工程河北省重點實驗室，秦皇島，0660042.國家冷軋板帶裝備及工藝工程技術研究中心，秦皇島，0660043中船航?？萍加邢挢熑喂?，北京，100044

針對連鑄漏鋼預報神經網絡模型在小樣本訓練數據情況下難以獲得較高預報準確率的問題，提出了一種基于模擬退火-粒子群(SA-PSO)算法優化支持向量機(SVM)參數的連鑄漏鋼預報算法。將粒子群優化算法引入支持向量機的訓練過程中，利用其調整參數少、尋優速度快的優點，有效地提高了漏鋼預報模型的尋優速度；利用模擬退火算法對粒子群算法迭代更新后粒子的新位置加以評價，來決定新位置是否被接受，避免了粒子群算法在迭代尋優過程中陷入局部極值的問題。結合某鋼廠連鑄現場歷史數據對提出的連鑄漏鋼預報算法進行了測試，測試結果表明，所提算法的連鑄漏鋼預報準確率可達98.8%。

連鑄漏鋼預報；支持向量機；粒子群算法；模擬退火算法

0 引言

在鋼鐵生產過程中，連鑄漏鋼是最嚴重的事故之一，危及企業正常生產、人身安全及設備的壽命[1]。為了能夠及時地避免漏鋼事故的發生，減少企業的經濟損失，很多大型鋼鐵企業在連鑄生產中采用漏鋼預報系統作出預警和處理。另一方面，在漏鋼事故中黏結性漏鋼事故占80%以上，因此，黏結性漏鋼是連鑄漏鋼預報系統的主要研究對象[2]。

目前，國內外學者在漏鋼預報模型方面的研究以神經網絡預報模型為主[3-4]。文獻[3]提出的采用變步長并加入動量項、防振蕩項等方法加快神經網絡收斂速度的BP神經網絡漏鋼預報模型，提高了神經網絡訓練過程中的收斂速度；文獻[4]提出的基于LM(Levenberg-Marquardt)算法的BP神經網絡的連鑄漏鋼預報算法，使神經網絡在訓練過程中能夠跳出局部極小。文獻[3]和文獻[4]所提方法在一定程度上能夠提高漏鋼預報的準確率，但它們的網絡規模大、計算比較復雜，沒有解決神經網絡在模型訓練初期需要大量數據和泛化能力差的問題。

由于漏鋼事故發生的頻率小，獲取到大量的訓練數據是比較困難的。與神經網絡相比較，支持向量機(support vector machine，SVM)在解決小樣本、非線性模式識別問題中具有獨特優勢，可將漏鋼預報問題轉化成一個二次型尋優問題[5]。文獻[6]提出了基于主動學習GA-SVM分類器的連鑄漏鋼預報方法，在訓練樣本有限的情況下，能夠獲得比較好的預測效果，避免了神經網絡泛化能力差的問題。但遺傳算法的交叉、變異操作復雜，需要多次迭代才能獲得比較好的分類模型，尋優速度較慢。

基于上述分析，本文提出了一種基于模擬退火-粒子群算法優化SVM參數的連鑄漏鋼預報算法。首先，在文獻[6]的基礎上，建立基于SVM的連鑄漏鋼預報模型。然后，利用模擬退火(simulated annealing，SA)算法對粒子群優化(particle swarm optimization，PSO)算法進行改進，進而得到模擬退火-粒子群(SA-PSO)算法；該算法通過模擬退火算法對更新后粒子的適應度進行評價，進而來決定新位置是否被接受，從而避免粒子群算法的盲目調節[7-8]。與文獻[6]中的遺傳算法相比，SA-PSO算法在SVM的訓練過程中，可避免復雜的交叉、變異操作，能夠提高迭代尋優的速度[9-10]。最后，利用某鋼廠連鑄結晶器生產線上現場采集的數據，應用SA-PSO算法對SVM的參數進行優化并測試。

1 SVM連鑄漏鋼預報模型

1.1 黏結性漏鋼預報原理

黏結性漏鋼是造成連鑄漏鋼的主要原因，一般情況下，黏結性漏鋼發生在彎月面處，由結晶器液面的波動或者其他某種原因導致鋼水與結晶器銅板直接接觸造成[11]。正常澆注情況下，坯殼沿結晶器壁向下生長，上排熱電偶的溫度高于下排熱電偶的溫度，且熱電偶的溫度只會在較小的范圍內波動。當鑄坯和結晶器壁發生黏結時，上排熱電偶的溫度會急劇升高，在拉坯力的作用下，黏結裂口會隨著結晶器的振動向下移動。同時，在冷卻作用下，上排熱電偶的溫度因坯殼的重新凝固彌合而下降，下排熱電偶的溫度開始升高，如圖1所示。當上排熱電偶和下排熱電偶相繼出現符合黏結性漏鋼溫度曲線時，發出預警。

圖1 黏結性漏鋼熱電偶溫度變化曲線示意圖Fig. 1 Schematic diagram of thermocouple temperature change curve for bonding steel leakage

通過上文的分析可以發現：當發生黏結性漏鋼時，熱電偶的溫度變化曲線都是先上升后下降的，所以利用熱電偶測溫法對連鑄生產過程中可能發生的黏結性漏鋼事故進行預報，主要的依據是對熱電偶所檢測的疑似黏結性漏鋼的溫度變化模式做出正確的判斷，即動態波形的模式識別問題。

1.2 SVM的連鑄漏鋼預報模型的建立

SVM是建立在統計學習理論和結構風險最小化基礎上的一種模式識別方法[12]。SVM的機理就是尋找一個滿足分類要求的最優分類超平面，在保證分類精度的同時，使SVM能夠實現對線性可分數據的最優分類。

假設訓練樣本輸入為x=xi，i=1,2,…,m，對應的期望輸出為y=yi∈{1,-1}，yi為向量xi的類別標識。

設分類超平面H方程為

wx+b=0

(1)

式中，w為分類超平面H的法向量；b為偏置值。

為了使分類面能夠對所有樣本正確分類并且具備分類間隔，要求它滿足如下約束：

yi(wxi+b)-1≥0

(2)

由于數據中的噪聲是不可避免的，所以通過引入非負的松弛變量ξi(ξi≥0)來放松約束條件，如下式所示：

yi(wxi+b)≥1-ξi

(3)

為了解決約束最優化問題，構造Lagrange函數：

(4)

分別對w、b、ξ求偏微分，并令其等于0，可得

(5)

(6)

(7)

將式(5)～式(7)代入式(4)中得

(8)

進一步，可將式(8)的極值問題轉化為

(9)

(10)

根據KKT(Karush Kuhn Tucker)條件[13]，最優解應當滿足：

ai[yi(wxi+b)-1+ξi]=0

(11)

(12)

其中,x為待分類樣本；b*為分類閾值，可以由任意一對支持向量取中值求得，即

(13)

對于連鑄漏鋼預報系統，大部分的輸入樣本在輸入空間是線性不可分的，支持向量機為了解決非線性問題以及克服維數災難問題，常使用核函數K(xi,xj)代替最優分類函數中的內積運算。因此，為了提高支持向量機算法的分類能力，本文選取RBF(radial basis function)核函數，RBF核函數對各種類型的數據具有良好的分類效果，其函數表達式為

(14)

式中,g為核函數系數。

因此，式(9)的極值問題可以轉化為

(15)

同時，最優分類函數為

(16)

根據黏結性漏鋼溫度變化曲線，將熱電偶的溫度采樣值歸一化處理后作為SVM的輸入。通過最優分類函數將輸入的漏鋼樣本和正常樣本進行識別，輸出不同的結果，達到分類的目的。分析某鋼廠連鑄現場提供的漏鋼數據，熱電偶相鄰的15個溫度值可體現一次板坯的漏鋼溫度變化曲線，因此，選取相鄰的15個溫度值作為SVM的輸入向量xi，xi∈R15×1；下一組相鄰的15個溫度值作為輸入向量xi+1。為了消除不同數量級的數據對SVM的影響，需要對有效數據進行歸一化處理，處理方式如下：

(17)

2 基于SA-PSO算法對SVM參數的優化

粒子群算法采用實數求解，需要調整的參數少、易于實現，能在較少的迭代次數內找到最優解[14]。

(18)

(19)

式中，r1、r2為均勻分布在(0,1)區間的隨機數；c1、c2為學習因子，其取值范圍為區間(1,2)。

一般將式(18)和式(19)稱為標準粒子群算法。標準粒子群算法在尋優過程中存在易陷入局部極值的缺點。在粒子群迭代更新過程中引入模擬退火算法，利用其在尋優過程中的突跳能力對粒子群算法進行改進，可提高算法的全局尋優能力。

模擬退火算法是一種隨機性組合優化算法，在初始溫度足夠高、溫度下降足夠慢的條件下，能夠以概率1收斂到全局最優值，廣泛應用于組合優化問題中。模擬退火算法以某種概率接受較差點，可以有效地避免在尋優過程陷入局部極值。

初始溫度是模擬退火算法全局尋優性能的重要參數，本文采用基于適應度和接受概率的方法，初始溫度T1由下式決定：

(20)

將訓練樣本等分為10組，其中9組樣本代入式(15)所示的SVM分類器模型，求出每個訓練樣本對應的ai，其中非零的ai對應的訓練樣本為支持向量，并將所得支持向量代入式(16)所示的分類函數對第10組樣本數據進行預測和驗證，將預測結果與所標標簽進行對比，取對比結果的準確率作為適應度值。然后，選取另外9組中任意一組作為預測和驗證數據，其余9組作為訓練數據重復上述過程，計算出每次的適應度值，取10次適應度值的平均值作為該10組平均適應度值。

在式(15)中，目標函數和約束條件中訓練樣本為已知數據，只有核參數g和懲罰因子C需要選擇，并且二者對SVM模型的分類性能有顯著的影響，因此需要對C和g進行尋優。本文采用SA-PSO算法對核參數g和懲罰因子C進行優化，算法的具體步驟如下：

(1)讀取訓練樣本數據，給定慣性權重w、學習因子c1和c2，隨機產生一組{C,g}作為粒子的初始位置；

(2)初始化粒子的適應度、接受概率pr，將粒子的適應度值作為個體最優極值pbest，在個體極值中選擇最優值作為群體極值gbest，計算初始退火溫度T1，設定最大迭代次數為100代；

(3)計算粒子的適應度fi(k)和平均適應度favgi(k)。若粒子的適應度值優于原有個體極值pbest，則將當前適應度值設置為pbest，選擇最優的個體極值作為群體極值gbest；

(4)判斷算法是否達到設定的最大迭代次數？若是，則輸出結果；否則，進行k從1到K的循環部分，其中K為設定的最大迭代次數；

(5)根據式(18)、式(19)更新各粒子的飛行位置和速度；

(6)計算新粒子的適應度fi(k+1)、平均適應度favgi(k+1)和適應度的變化量Δf=fi(k+1)-fi(k)。若Δf<0或exp(-Δf/Tk)>rand，則接受新位置；否則，保留舊位置；

(7)退火操作：Tk+1=θTk，其中θ∈(0,1)，本文取θ=0.7，轉步驟(3)。

3 基于SA-PSO優化SVM參數的連鑄漏

鋼預報模型的訓練與測試

通過對某鋼廠現場采集的歷史數據進行分析，挑選出60組樣本作為SVM連鑄漏鋼預報模型的訓練樣本，其中包含30組正常樣本和30組黏結性漏鋼樣本。進一步，為了測試SVM連鑄漏鋼預報模型的泛化能力，測試樣本和訓練樣本應避免重復和交叉，從現場采集的歷史數據中篩選出195組測試樣本(其中包括85組黏結性漏鋼樣本、100組正常樣本和10組偽黏結漏鋼樣本)，用來對SVM連鑄漏鋼預報模型進行測試。

選取參數c1=1.5、c2=1.7。基于SA-PSO算法的SVM模型經過訓練后，懲罰因子C為0.01，核函數參數的值為51.9916。

網絡模型的測試性能指標為：預報準確率ηp和報出率ηr,它們的表達式為

(21)

(22)

式中，nr為正確報警次數；nf為錯誤報警次數；no為漏報次數。

利用訓練好的標準PSO-SVM模型和SA-PSO-SVM模型分別對195組測試樣本進行分類，分類效果如圖2和圖3所示。標準PSO-SVM模型有5次誤報，SA-PSO-SVM模型僅有1次誤報。

圖2 標準PSO-SVM模型分類效果圖Fig.2 Classification diagram of standard PSO-SVM model

圖3 SA-PSO-SVM模型分類效果圖Fig.3 Classification diagram of SA-PSO-SVM model

將本文方法與文獻[6]的GA-SVM方法進行對比，漏鋼樣本的漏報次數、誤報次數和搜索到全局最優值的迭代次數及根據式(21)和式(22)計算出三種模型的預報準確率和報出率如表1所示。

表1 模型的預報性能

從表1中可以看出：GA-SVM模型、標準PSO-SVM模型和SA-PSO-SVM模型對黏結性漏鋼樣本全部報出，可以達到100%的漏鋼報出率。在相同訓練樣本和測試樣本條件下，三種模型對漏鋼樣本和正常樣本分類正確，但對離分類面比較近的偽黏結性漏鋼樣本進行分類時，標準PSO-SVM模型誤報次數為5次，GA-SVM模型誤報次數為2次，SA-PSO-SVM模型將誤報次數降低為1次，SA-PSO-SVM模型對偽黏結性漏鋼樣本具有更好的識別能力。此外，鋼鐵企業采用連鑄漏鋼預報系統的目的是避免漏鋼事故的發生，因此，連鑄漏鋼預報模型的預報速度是一項重要指標。SA-PSO-SVM算法在迭代過程尋找全局最優值方面，比GA-SVM算法耗時短，縮短了尋優所需要的時間，提高了漏鋼預報模型對漏鋼事故的預報速度，能夠及時地避免漏鋼事故的發生。

4 結論

本文提出的基于模擬退火-粒子群算法優化SVM參數的連鑄漏鋼預報方法，采用在解決小樣本、非線性模式識別中具有優勢的支持向量機作為連鑄漏鋼預報的模型，解決了神經網絡訓練初期需要大量漏鋼數據進行訓練的缺點及泛化能力差的問題。粒子群算法對SVM的參數進行優化時，調整的參數少，尋優速度快，提高了模型的預報速度。將模擬退火算法引入到粒子群算法尋優過程中，借助模擬退火算法對更新后的粒子的新位置進行評價，來決定新位置是否被接受，避免了粒子群算法在尋優過程中陷入局部極值。根據仿真結果可知，基于SA-PSO算法優化SVM參數的連鑄漏鋼預報系統的預報準確率達到98.8%，對偽黏結性漏鋼樣本具有較高的識別能力，降低了連鑄漏鋼預報模型的誤報率。

[1] 王唯一, 榮亦誠, 龔幼民, 等. 連鑄漏鋼診斷預報技術的研究[J]. 機電一體化, 2000,6(4):60-65. WANG Weiyi, RONG Yicheng, GONG Youmin, et al. Techniques for Breakout Diagnostic Prediction in Continuous Casting Process[J]. Mechatronics,2000,6(4):60-65.

[2] 劉永貞, 王旭東, 賈啟忠, 等. 結晶器內黏結漏鋼及其傳播行為的研究[J]. 煉鋼, 2009,25(3):45-48. LIU Yongzhen, WANG Xudong, JIA Qizhong, et al. Investigation in the Behavior of Sticking Breakout and Its Propagation in Slab Continuous Casting Mould[J]. Steelmaking,2009,25(3):45-48.

[3] 厲英, 王正, 敖志廣, 等. BP神經網絡漏鋼預測系統優化[J]. 控制與決策,2010,25(3):453-456. LI Ying, WANG Zheng, AO Zhiguang, et al. Optimization for Breakout Prediction System of BP Neural Network[J]. Control and Decision,2010,25(3):453-456.

[4] 張本國, 李強, 王葛, 等. 基于改進BP神經網絡的連鑄漏鋼預報[J]. 中國機械工程,2012,23(2):204-207. ZHANG Benguo, LI Qiang, WANG Ge, et al. Breakout Prediction Based on Improved BP Neural Network in Continuous Casting Process[J]. China Mechanical Engineering,2012,23(2):204-207.

[5] DSA V. Advanced Support Vector Machines and Kernel Methods[J]. Neurocomputing,2003, 55(1/2):5-20.

[6] 方一鳴, 胡春洋, 劉樂, 等. 基于主動學習GA-SVM分類器的連鑄漏鋼預報[J]. 中國機械工程,2016,27(12):1609-1614. FANG Yiming, HU Chunyang, LIU Le, et al. Breakout Prediction Classifier for Continuous Casting based on Active Learning GA-SVM[J]. China Mechanical Engineering,2016,27(12):1609-1614.

[7] 高鷹, 謝勝利. 基于模擬退火的粒子群優化算法[J]. 計算機工程與應用,2004,40(1):47-50. GAO Ying, XIE Shengli. Particle Swarm Optimization Algorithms Based on Simulated Annealing[J]. Computer Engineering and Applications,2004,40(1):47-50.

[8] 劉愛軍, 楊育, 李斐,等. 混沌模擬退火粒子群優化算法研究及應用[J]. 浙江大學學報: 工學版,2013,47(10):1722-1730. LIU Aijun, YANG Yu, LI Fei, et al. Chaotic Simulated Annealing Particle Swarm Optimization Algorithm Research and its Application[J]. Journal of Zhejiang University(Engineering Science),2013,47(10):1722-1730.

[9] EBERHART R, KENNEDY J. A New Optimizer Using Particle Swarm Theory[C]// Proceedings of the 6th International Symposium on Micro Machine and Human Science. NewYork:IEEE,1995:39-43.

[10] 邵信光, 楊慧中, 陳剛. 基于粒子群優化算法的支持向量機參數選擇及其應用[J]. 控制理論與應用,2006,23(5):740-743. SHAO Xinguang, YANG Huizhong, CHEN Gang. Parameters Selection and Application of Support Vector Machines Based on Particle Swarm Optimization Algorithm[J]. Control Theory and Applications,2006,23(5):740-743.

[11] 李同彬, 姚若華, 陳波. 幾種常用漏鋼預報系統模型的比較[J]. 冶金自動化,2009,33(4):1-4. LI Tongbin, YAO Ruohua, CHEN Bo. Comparison of Useful Breakout Prediction System Models[J]. Metallurgical Industry Automation,2009,33(4):1-4.

[12] SMOLA A J, SCH?LKOPF B. A Tutorial on Support Vector Regression[J]. Statistics & Computing, 2004,14(3):199-222.

[13] 曹建, 孫世宇, 段修生, 等. 基于KKT條件的SVM增量學習算法[J].火力與指揮控制, 2014, 39(7): 139-143. CAO Jian, SUN Shiyu, DUAN Xiusheng, et al. SVM Incremental Learning Algorithm Based on KKT Conditions[J]. Fire Control & Command Control,2014,39(7):139-143.

[14] KENNEDY J, EBERHART R. Particle Swarm Optimization[C]// IEEE International Conference on Neural Networks, 1995. New York: IEEE, 1995:1942-1948.

(編輯 王艷麗)

Breakout Prediction for Continuous Casting Based on SA-PSO to Optimize Parameters of SVM

FANG Yiming1,2ZHENG Hejun1LIU Le1HU Chunyang3

1.Key Labof Industrial Computer Control Engineering of Hebei Province,Yanshan University, Qinhuangdao,Hebei,066004 2.National Engineering Research Center for Equipment and Technology of Cold Strip Rolling,Qinhuangdao,Hebei,066004 3.CSSC Marine Technology Co.,Ltd.,Beijing,100044

In order to overcome the problems that the neural network model was difficult to obtain a high accurate breakout prediction for continuous casting under the conditions of small sample training data, a breakout prediction for continuous casting was proposed based on SA-PSO algorithm to optimize the parameters of SVM. Firstly, the PSO algorithm was introduced into the training processes of SVM, increasing the optimization speeds of breakout prediction model by using the advantages of less parameters and fast optimization speeds. Secondly, SA algorithm was used to evaluate the new positions of updated particles, and to determine whether the new positions were accepted, which could avoid the PSO algorithm steped into the local extremum in optimization processes. Finally, the breakout prediction for continuous casting was tested by the history data of continuous casting. The results show that the proposed algorithm may make the breakout prediction accuracy reach 98.8%.

breakout prediction for continuous casting; support vector machine (SVM); particle swarm optimization(PSO) algorithm; simulated annealing(SA) algorithm.

2016-07-27

國家自然科學基金委員會與寶鋼集團有限公司聯合資助項目(U1260203)；國家自然科學基金資助項目(61403332)；河北省高等學校科學技術研究青年基金資助項目(QN2016122)；河北省高等學校創新團隊領軍人才培育計劃資助項目(LJRC013)

TF345

10.3969/j.issn.1004-132X.2017.12.012

方一鳴，男，1965年生。燕山大學電氣工程學院教授、博士研究生導師。主要研究方向為冶金自動化系統，系統集成和計算機控制，復雜系統建模仿真和控制，自適應、魯棒控制理論與應用。獲國家科技進步二等獎2項。發表論文170余篇。E-mail:fyming@ysu.edu.com。鄭賀軍，男，1989年生。燕山大學電氣工程學院碩士研究生。劉 樂，男，1985年生。燕山大學電氣工程學院講師。胡春洋，男，1988年生。中船航海科技有限責任公司系統集成設計工程師。