KPCA-LSSVM在磨煤機一次風量預測中的應用

Application of KPCA-LSSVM in Prediction of the Primary Air Flow of Pulverizer

金秀章　韓　超

(華北電力大學控制與計算機工程學院，河北 保定　071003)

KPCA-LSSVM在磨煤機一次風量預測中的應用

Application of KPCA-LSSVM in Prediction of the Primary Air Flow of Pulverizer

金秀章韓超

(華北電力大學控制與計算機工程學院，河北 保定071003)

摘要：針對建立熱電廠磨煤機一次風量軟測量模型訓練樣本多、樣本特征維數大等特點，考慮到現場測量所需的實時性和準確性，提出了基于樣本優化、核主成分分析(KPCA)和最小二乘支持向量機(LSSVM)相結合的方法進行建模。運用某電廠歷史運行數據對模型進行仿真驗證，結果表明：基于樣本優化的KPCA-LSSVM軟測量模型在精確性、跟蹤能力和運行速度上均要優于LSSVM、BP和KPCA-BP模型，這為現場磨煤機一次風量的準確、實時測量提供了一定的理論依據。

關鍵詞：軟測量樣本優化核主成分分析最小二乘支持向量機BP神經網絡

Abstract：In accordance with the features of establishing soft sensing model for primary air (PA) flow of pulverizers in cogeneration power plant, e.g., more training samples and sample characteristics with large dimension, and considering the requirements of real time performance and precision in field measurement, the method of establishing model based on the combination of sample optimization, kernel principal component analysis(KPCA), and least square support vector machine (LSSVM) is proposed. The simulation verification of the model is conducted using historical operating data of certain power plant; the results indicate that the method based on sample optimization KPCA-LSSVM soft sensing model is better than LSSVM, BP or KPCA-BP model in accuracy, tracking capability and operating speed, this provides certain theoretical basis for real time and accurate measurement of PA air flow of the pulverizers.

Keywords：Soft sensingSample optimizationKernel principal component analysis(KPCA)Least square support vector machine(LSSVM)

BP neural network

0引言

針對硬件測量儀表對磨煤機一次風量的測量效果差、經常性堵塞等問題，應用軟測量技術對磨煤機一次風量進行測量不失為一種好的方法。軟測量技術利用一些與被測變量關系密切且易于實時測量的變量，通過在線運算來估計難以測量或不可測量的變量[1]。考慮到熱工過程的復雜性，采用機理建立軟測量模型難度較大，進而改為采用黑箱建模。基于人工神經網絡的磨煤機一次風量預測雖有成功的案例[2]，但在模型訓練中存在過擬合、訓練時間長、易于陷入局部最小和網絡結構不確定等問題。最小二乘支持向量機(least square support vector machine,LSSVM)是一種基于統計學習理論的機器學習方法，具備堅實的統計理論和出色的學習能力，已成功運用到工業軟測量技術當中。其將標準支持向量機目標函數進行變形，使其由二次尋優轉變為求解線性方程組，加快了求解速度，得到了廣泛應用[3-4]。

1核主成分分析

磨煤機一次風量軟測量模型輸入樣本特征維數高，各特征之間存在強耦合、非線性等特點，使得模型復雜性增高、精度降低、泛化和學習能力減弱。將統計學理論上的數據驅動方法應用到多相關的樣本特征中，將其壓縮為少數獨立的特征，使得這些相互獨立的特征保留絕大部分原特征的信息，從而去除數據樣本特征之間的相關性，消除噪聲，降低特征維數。核主成分分析可將原始樣本特征由非線性變換映射到高維特征空間，再在高維空間中進行主成分分析 (principal component analysis,PCA)[5]。

(1)

它符合特征方程:

Cv=λv

(2)

根據再生核理論，存在αi(i=1,2,…,l)使得:

(3)

引入核函數Kij：

(4)

(5)

將式(1)、式(3)代入式(5)，經簡化可得下式：

Kα=lλα

(6)

(7)

核主成分個數的選擇根據下式：

(8)

式中：η通常大于0.85。

(9)

式中：1l×l為系數為1/l的l×l階全1矩陣。

對于測試樣本同樣需要進行核矩陣的變換，變換如下：

(10)

2基于相似度的樣本優化

熱電廠運行工況多，其一次風量軟測量模型的訓練樣本集規模要大。針對大規模數據集的KPCA問題，為了提高運算的效率，核Hebbin算法、分塊核主成分、對數據集進行分割的方法均有應用[6]。上述方法原理復雜，實現起來不是十分方便。 本文運用樣本優選的方法優化大規模的訓練樣本集，從而大幅度減少訓練樣本的個數，簡化模型，適合LSSVM應用小樣本學習的特點，提高運算的精確性與實時性[4-7]。

采用一種基于相似度函數的方法，其思想和模式識別中的最小距離法相似，若兩樣本點之間的歐式距離過小，則認為這兩個樣本是重復的，重復的樣本增加了模型的復雜度，可舍去其一。以此對訓練樣本進行優化，剩下合理的能代表絕大部分工況的樣本點。

選擇相似度函數：

(11)

式中：xi∈Rn,i=1,2,3,…l，n為樣本的特征維數，l為樣本的個數；‖·‖2為向量二范數；Fij為第i個樣本點和第j個樣本點之間的相似度值。

針對樣本數據信息，并考慮到減小數據采集和分析的誤差，選擇整體的歸一化參數δ，計算公式如下：

(12)

式中：Ci為樣本第i個特征的值；n為樣本特征的維數。

若兩個樣本值越接近，則經過相似度函數計算后，其相似度值就越接近于1。這樣可認為這兩個樣本含有相同數據信息量較大，若同時作為模型的訓練樣本，將會造成數據量的冗余，增加計算量，此時去除其一[8]。

3最小二乘支持向量機

支持向量機(supportvectormachine,SVM)[9]是Vapnik等人根據統計學理論提出的一種新的通用學習方法， 它是建立在統計學理論的機構風險最小原理和VC維理論基礎上的，能夠對小樣本、非線性、高維數和局部極小點等實際問題進行較好的處理。

(13)

(14)

式中：ωT為置信空間，對模型的復雜度進行控制；c>0為誤差懲罰函數，表示函數的允許誤差大于ε的數值和平滑度之間的折中；Remp為經驗風險，即不敏感損失函數。

損失函數不同，構造的支持向量機也不同。最小二乘支持向量機將誤差ξi的二次項作為損失函數，其優化問題為：

(15)

通過上式的對偶形式可以求其最優解，對偶形式可以根據目標函數和約束條件建立拉格朗日函數：

(16)

根據優化條件：

可得：

(17)

(18)

最后得到最小二乘支持向量機的估計輸出函數:

(19)

核函數不同,構造的支持向量機也不同，常用的核函數有：

① 多項式核函數：

(20)

② 徑向基核函數：

(21)

③ 感知器核函數：

(22)

④ B樣條函數：

(23)

4軟測量模型建立

軟測量技術主要由輔助變量的選擇、數據采集與處理、軟測量模型幾部分組成。軟測量建模是軟測量的核心。

4.1　輔助變量的選取及預處理

選取輔助變量在軟測量模型建立過程中至關重要，包括輔助變量的類型、數目以及測點的位置。從某電廠獲取一天的歷史運行數據，由于每臺磨的條件相差不大，所以只對一臺磨進行軟測量模型的建立(假如為A磨)，其他磨的一次風量均可利用此模型。根據系統設備流程，結合流量的測量原理和影響流量測量的因素，列出了以下輔助變量，如表1所示。

表1　輔助變量

由于數據在DCS的SAMA圖中已進行了濾波處理，在進行模型訓練時不需要再進行此環節。但需要用3σ法則將不合理的樣本數據剔除。

去除和一次風量相關系數小于0.1的輔助變量，剩下30個一次風量的輔助變量，用這30個輔助變量作為樣本的特征。由于還要對數據進行核主成分分析，用核主成分分析對樣本數據特征進行去噪，消除數據特征之間的相關性，所以此處應該盡可能保留大部分輔助變量。

4.2　模型的建立

一次風量預測模型如圖1所示。經過預處理的輔助變量作為樣本的特征，將獲取的訓練樣本經過樣本優化，得到優化樣本集；再對優化后的樣本集進行核主成分分析降維，得到降維后的新特征，將其作為最小二乘支持向量機的輸入進行軟測量模型的訓練、建立，建模流程具體如下。

圖1　基于樣本優化的KPCA-LSSVM一次風量預測模型

4.2.1相似度函數閾值ε的選擇

經過數據預處理，優化處理全部訓練樣本，剩余樣本數隨閾值ε的不同而不同。閾值ε的確定要經過所建立的KPCA-LSSVM模型驗證，同時兼顧模型的學習能力和泛化能力，得到合理的閾值ε的范圍。不同閾值和剩余樣本的關系曲線如圖2所示。

從圖2可以看出，隨著相似度函數閾值ε的增大，剩余樣本的數量逐漸增多。在區間(0.98,1)之內，剩余樣本的變化率較大，說明在此區間內樣本的簡化效率較高， 同時綜合考慮所建立的模型，最終將相似度函數的閾值ε設為0.988，此時剩余的訓練樣本數為306個。

圖2　剩余樣本數量和相似度函數閾值關系圖

4.2.2樣本數據的核主成分分析

對訓練樣本進行優選后，再對訓練樣本進行核主成分分析。由4.2.1章節可知，訓練樣本集最終取優選后的306個樣本組成，則會產生306×306維的核矩陣。采用徑向基核函數進行核主成分分析，隨著σ2增大，核函數矩陣前幾個特征值之和占全部特征值和的比重越來越大。當σ2增大到一定程度后，核矩陣的特征值變化得很小，同時可以保證一個很好的特征提取貢獻率，則將核函數參數σ2設為1 800。取前5個主成分時，其特征值貢獻率已達90.36%。取前7個主成分時，其特征值貢獻率已達94.10%。

取核矩陣最大的7個特征值對應的特征向量作為投影向量集。將306×306維核矩陣在投影向量集上投影，得到了經過降維和非線性提取后的306×7維數據(即訓練樣本集，306為樣本個數，7為樣本特征維數)，樣本特征維數由原來的29降為7。測試樣本在進行模型的測試驗證時，根據章節1求出測試樣本的核矩陣，在投影向量集上進行投影，得到了經過降維和非線性提取的測試樣本集。KPCA提取主成分的值及累計貢獻率如表2所示。

表2　核主成分分析結果

5仿真結果與分析

選擇某電廠一天的運行數據，共等間隔采集了5 760組樣本，并從中優選出模型的訓練樣本，同時隨機選擇60組樣本進行模型的測試。LSSVM、KPCA-LSSVM、BP和KPCA-BP模型的訓練樣本均使用優化后的樣本，NOP-BP(未經樣本優化的BP模型)的訓練樣本為全部樣本。

本文采用徑向基核函數，誤差懲罰參數c和徑向基核函數參數σ2的取值對LSSVM軟測量模型的性能有著重要影響，c用來控制樣本偏差和機器泛化能力之間的關系。σ2太大或太小會對樣本數據造成過學習或欠學習[10]。本文通過網格十折交叉驗證的方法對參數c和σ2進行尋優，直到找到最佳的參數對，使得模型精度最高，最終選取c=18.65，σ2=11.88。

不同軟測量預測模型下磨煤機一次風量的測試曲線對比如圖3~圖7所示。

圖3　LSSVM模型測試曲線

圖4　KPCA-LSSVM模型測試曲線

圖5　NOP-BP模型測試曲線

圖6　BP模型測試曲線

圖7　KPCA-BP模型測試曲線

為了評價軟測量預測模型的精度，分別使用最大絕對值誤差、均方根誤差(RMSE)、相對均方根誤差(RRMSE)、平均誤差(AE)，對模型的預測準確性和跟蹤變化能力進行了分析[11]，計算結果如表3所示。

表3　不同模型預測結果分析

最大絕對值誤差：

(24)

均方根誤差(RMSE)：

(25)

相對均方根誤差(RRMSE)：

(26)

平均誤差：

(27)

對于模型的運行速度則用模型測試60組樣本所用的運行時間T60作為參考，以毫秒為計量單位。

從表3結果分析可知，KPCA-LSSVM所建立的軟測量模型的預測結果在各個評價指標中都是最好的，證明了其在預測準確性和跟蹤能力上都要優于其他的軟測量模型。

通過對比可知，經過樣本優化和核主成分分析后的模型更優。

6結束語

本文共建立了五個軟測量模型對磨煤機一次風量進行預測。結合運行數據，進行數據仿真。仿真結果表明：用KPCA和LSSVM相結合的軟測量模型在精確性、跟蹤能力和運行速度上均要優于LSSVM、BP、KPCA-BP等模型，這為現場磨煤機一次風量的有效測量提供了一定的理論依據，有一定的實用價值。

參考文獻

[1] 韓璞，喬弘，翟永杰，等.火電廠熱工參數軟測量技術的發展和現狀[J].儀器儀表學報，2007，28(6)：1139-1146.

[2] Yang Yaoquan,Zhao Kai,Zhang Qin.Soft sensor for coal mill primary air flow based on nerual network[C]∥Proceedings of the 3rdInternational Conference on Computational Intelligence and Industrial Application,2010：53-56.

[3] 王強，田學民.基于KPCA-LSSVM的軟測量建模方法[J].化工學報，2011,62(10):2813-2817.

[4] 田大中，高憲文，李琨.基于KPCA與LSSVM的網絡控制系統時延預測方法[J].系統工程與電子技術，2013,35(6):1281-1285.

[5] 趙歡，王培紅，陸璐.電站鍋爐熱效率與NOX排放響應特性建模方法[J].中國電機工程學報，2008,28(32):96-100.

[6] 史衛亞，郭躍飛，薛向陽.一種解決大規模數據集問題的核主成分分析算法[J].軟件學報，2009,20(8):2153-2159.

[7] 許巧玲，林偉豪，趙超，等.基于KPCA-LSS-VM的工業鍋爐煙氣含氧量預測[J].計算機與應用化學，2012,29(7):121-125.

[8] 張傳標，倪建軍，劉明華，等.樣本優化核主元分析及其在水質監測中的應用[J].中國環境監測，2012,28(2):92-96.

[9] Vapnik V N.Statistical learning thoery [M].New York:Addision Wiley,1998.

[10]談愛玲，畢衛紅.基于KPCA和LSSVM的蜂蜜近紅外光譜鑒別分析[J].激光與紅外，2011,41(12):1331-1335.

[11]唐春霞，楊春華，桂衛華，等.基于KPCA-LSSVM的硅錳合金熔煉過程爐渣堿度預測研究[J].儀器儀表學報，2010,31(3):689-693.------------------------------------------------------------------------------------------------

中圖分類號：TP181

文獻標志碼：A

DOI:10.16086/j.cnki.issn1000-0380.201503017

修改稿收到日期：2014-08-26。

第一作者金秀章(1969-)，男，2006年獲華北電力大學控制理論與工程專業，獲博士學位，副教授；主要從事先進控制策略在大型電力機組的控制研究。