VPRS和LSSVM的聯合建模對于金屬粉末性能的測定

王 莉 周新東

（1.湖南商學院 計算機與電子工程學院，湖南 長沙 410205；2.湖南長遠鋰科有限公司，湖南 長沙 410205）

0 引言

霧化合金粉末是當今粉末冶金領域中品種最多、產量最大、應用最廣的合金粉，在制造高溫合金材料、磁性材料和熱噴涂層上都有廣泛應用，合金粉末的質量直接影響到后續產品的質量和二次開發。但是在實際制粉生產過程中產生了大量的數據，這些數據中有的非常重要卻往往被忽視或者無法記錄，還有一些指標無法預測和控制，因此獲取的信息非常不完整，提供給現場的信息也非常有限，甚至不準確。如何從大量數據中獲取有用的知識，以幫助決策者及時發現問題、分析問題和解決問題，提高生產管理的科學性和先進性，優化制粉工藝和生產，成為迫在眉睫的問題。

粗糙集理論(Rough Set)不僅能夠找出與類別密切相關的不可約簡屬性集合，而且還使用上下近似對樣本所屬類別的確定程度進行刻畫[1]，它能充分考慮數據的不精確、不確定性，符合人類對事物的認識程度，可與神經網絡、支持向量機、模糊系統等數據挖掘方法相結合[4-10]，用于提高挖掘模型的泛化、學習能力以及處理不確定性的能力。

支持向量機（SVM）是建立在統計學習理論基礎上的一種新型的機器學習方法[2-3,11-16]，由于具有良好的泛化能力，目前已經在許多領域得到了成功的應用。它是對結構風險最小化的近似，較好地解決了小樣本、非線性、高維數、局部極小等問題。最小二乘支持向量機(LS_SVM)是SVM的一種改進算法，它是SVM在二次損失函數下的一種形式，用二次損失函數取代SVM中的不敏感損失函數，通過構造損失函數將原SVM中算法的二次尋優變為求解線性方程，降低了計算的復雜性。國內已有不少文獻對粗糙集和SVM的聯合建模進行了闡述，現在已運用于材料[4,16]、中醫藥[5]、故障診斷[6]、冶金工業[8]等。

本文引入基于集對容差關系的變精度粗糙集算法，利用閾值α，使得允許一定程度上錯誤分類的存在，通過對α的調節和控制，提高容差類劃分的準確性和靈活性。同時運用貪心算法進行屬性約簡，最后結合LS_SVM對制粉工業的不完備信息系統進行建模，提高模型的預測精度和泛化能力。

1 基于集對容差關系的VPRS理論

定義1：設不完備信息系統S＝(U,AT,V,f)，其中U是一個對象的非空有限集合，AT是非空有限的屬性集合；對于?a∈AT，有a∶U→Va，其中Va是屬性a的值域。屬性值域集合V=∪a∈ATVa；f為信息函數，對于?a∈AT,?x∈U，有 f(x,a)∈Va。

定義2：設(U,A)是一個不完備信息系統，其中U是對象集，A是屬性集，?x,y∈U，B?A，0.5≤α≤1，定義集對勢容差關系為：

這里，a、b、c分別是X和Y的同一度、差異度和對立度；uB(x,y)稱為X和Y的聯系度；Ix={(x,x)｜x∈U}是U上的恒等關系。由文獻[5]可知，由同一趨勢的無窮大勢所滿足的條件可推出同一度閾值0.5≤α≤1。

2 LS_SVM模型

設樣本集為S=[(xi,yi)](i=1,2,…l)，xi為輸入矢量，yi為目標輸出矢量，l為樣本數。根據支持向量機建模原理，構造最優線性決策函數：

式中，ξ為誤差，c＞0為懲罰系數，c越大表示對超出誤差的樣本的懲罰越大。這個優化問題的解由如下的Lagrange函數的鞍點給出：

其中 αi＞0 為 Lagrange 系數。 求 L(ω,b,ξ,α)對 ω，b，ξ，αi的偏導數，并令其等于零，消除變量ω和ξ，得到線性方程為：

式中，Y=[y1,y2,…yl]T，I=[1,1,…1]T，α=[α1,α2,…αl]，Ω=φ(xi)Tφ(xj)=K(xi,xj)，為核函數。求出αi和b，并代入式（9）中，得到預測模型為：

3 基于VPRS和LS_SVM的預測模型的建立

3.1 屬性約簡與知識獲取

屬性約簡的主要目的是為了解決高維數據計算的復雜性和準確性問題，消除冗余和不相關屬性對計算過程和最終結果造成的影響。其方法有很多，如PCA主成分分析法、啟發式約簡算法、基于可辨識矩陣的約簡算法、基于遺傳算法的約簡算法等。文獻[5]中提到，可辨識矩陣約簡算法的時間復雜度和空間復雜度比較高，一般不適合在實際工程中應用。而PCA主成分分析是把高維空間的問題轉換到低維空間來處理，但是該算法對極端值及缺失值非常地敏感，而極端值與缺失數據會帶來殘缺或錯誤的分析結果。本文采用一種啟發式約簡算法，即貪心算法，將各屬性按照重要性從大到小加入到約簡屬性集中，直到滿足約簡條件為止。

定義3：設S=(U,A)是一個不完備信息系統，其中A=C∪D,C∩D=φ，C為條件屬性，D為決策屬性。屬性子集P?A，定義屬性集P的不可區分關系IND(P)為：用U/IND(P)表示U中的一個劃分，簡記為U/P。

定義4：屬性子集P?C，屬性P相對于D的β的近似依賴度定義為：

定義5：RED(C,D,β)是條件屬性C相對于決策屬性D的β近似約簡，有 RED(C,D,β)?C，且滿足：（1）γ(P,D,β)=γ(RED(C,D,β),D,β)；（2）去掉RED(C,D,β)中的任意一個屬性都會使（1）不成立。

3.2 LS_SVM參數辨識與優化

高斯核函數由于存在局部性，因此核函數學習能力很強，但是泛化性能較弱，而多項核函數是一種全局核函數，泛化性能強，因此考慮把這兩類核函數混合起來應用于LS_SVM算法中。混合核函數的表達式為：

式中，a和b是決定兩者組合比例的系數，有0≤a,b≤1，且a+b=1。

3.3 基于VPRS和LS_SVM的預測模型的框圖

圖1 基于VPRS和LS_SVM的建模示意圖Fig.1 Structure of the model based on VPRS and LS_SVM

4 系統實現

4.1 樣本數據的VPRS處理

為檢驗預測模型的有效性和優越性，本文以某鎳基水霧化合金粉末生產過程為例進行仿真測試。過程工藝參數由熔液的出料溫度(a1)、熔液液流直徑(a2)、熔液霧化速度(a3)、高壓水壓(a4)、熔液流量(a5)表示，鎳基合金粉末指標由流動性(d1)、壓縮性(d2)、松裝密度(d3)表示。取20組數據作為模型輸入樣本，其初始決策表如表1所示。

表1 初始決策表Tab.1 Initial decision table

表中，屬性有三種特征值，分別為：低（L）、正常（N）、高（H）。

運用貪心算法對初始決策表進行約簡，最終獲得屬性約簡結果{a1，a3，a4}，把該結果作為LS-SVM的輸入進行訓練和分類，可以看出輸入量由原來8個變為3個，大大降低了訓練模型的復雜度。

4.2 LS_SVM預測模型

選擇松裝密度(d3)為預測對象，設定LS_SVM的混合核函數的各項參數為：a取0.9左右，b取0.06，高斯核半徑σ取1.44，懲罰系數C取160，多項式核函數q取1，選定40個點，預測值和相對誤差曲線如圖2所示。經計算，預測的最大相對誤差為1.40%，平均相對誤差為0.92%，這表明所建立的模型具有很好的預測能力和泛化能力，它能夠根據過程工藝參數有效預測松裝密度，可以滿足實際應用的要求。

4.3 實驗結果的分析與比較

為了評價VPRS+LS_SVM模型，用同樣的數據對基于人工神經網絡（BPNN）的LS_SVM進行建模、訓練和測試，結果如圖 3。從以上兩圖可以看出，VPRS+LS_SVM的預測性能明顯優于BPNN+LS_SVM方法。

圖2 VPRS+LS_SVM仿真結果Fig.2 VPRS+LS_SVM simulation results

圖3 BPNN+LS_SVM仿真結果Fig.3 BPNN+LS_SVM simulation results

為進一步評價兩種方法的性能，對鎳基合金粉末的流動性和壓縮性進行了預測，結果如表2所示。表中采用最大相對誤差（Emax）和相對均方根誤差（RMSE）作為評價指標。

式中，yi和分別是第i個樣本的實際值和預測值。

表2 兩種LS_SVM核算法預測性能比較Tab.2 Forecast performance comparison of two kernel algorithms

由表2可以看出，對鎳基合金粉末的流動性和壓縮性進行VPRS+LS_SVM和BPNN+LS_SVM兩種算法比較后，前者算法的相對誤差和均方根誤差都比后者的要小，同樣說明了VPRS+LS_SVM模型的較好的預測性能。

5 結論

針對制粉生產過程參數和指標的不完整性和不確定性，本文提出了基于VPRS和LS_SVM的預測模型的建模方法，該模型首先通過VPRS屬性分類和貪心算法的屬性約簡構造出精簡的訓練樣本集，然后將其樣本集輸入LS_SVM模型中用于訓練，實現關鍵參數的實時預測。

將建立的模型用于鎳基合金粉末生產過程的返料組份預測，結果表明該模型消除了不相關變量的干擾，提高了訓練的泛化能力，具有預測精度高、實時性好等優點，在制粉工藝優化和控制領域有巨大的應用潛力。

［1］王文輝,周東華.基于遺傳算法的一種粗糙集知識約簡算法[J].系統仿真學報,2001,13(8):91-96.

［2］王雪松,田西蘭,程玉虎,易建強.基于協同最小二乘支持向量機的Q學習[J].自動化學報,2009,35(2):214-219.

［3］梁偉鋒,汪曉東,梁萍兒.基于最小二乘支持向量機的壓力傳感器溫度補償[J].儀器儀表學報,2007,28(12):2235-2238.

［4］蔡從中,溫玉鋒,朱星鍵,等.基于工藝參數的7005鋁合金力學性能的支持向量回歸預測[J].中國有色金屬學報,2010,20(2):323-328.

［5］顏志國.基于粗糙集和支持向量機的表面肌電特征約簡和分類研究[D].上海:上海交通大學,2008.

［6］曾志強.支持向量分類機的訓練與簡化算法研究[D].杭州:浙江大學,2007.

［7］蔣少華,桂衛華,等.基于RS與LS-SVM多分類法的故障診斷方法及其應用[J].中南大學學報:自然科學版,2009,40(2):447-451.

［8］王新華,桂衛華,王雅琳,等.混合核函數支持向量機的磨礦粒度預測模型[J].計算機工程與應用,2010,46(12):207-209.

［9］段丹青,陳松喬,楊衛平,王加陽.使用粗糙集和支持向量機檢測入侵[J].小型微型計算機系統,2008,29(4):627-630.

［10］王泳,胡包鋼.應用統計方法綜合評估核函數分類能力的研究[J].計算機學報,2008,31(6):942-952.

［11］Cristianini N,Shawe-Taylor J.支持向量機導論[M].李國正,王猛,增華軍,譯.北京:電子工業出版社,2005.

［12］Cortes C,Vapnic V.Support vector networks[J].Machine Learning,1995,20(1):1-25.

［13］Burges C J C.A tutorial on support vector machines for pattern recognition[J].Data Mining and Knowledge Discovery,1998,2(2):1-48.

［14］Vapnik V.Statistical learning theory[M].New York:Willey,1998.

［15］YUAN Sheng-fa,CHU Fu-lei.Support vector machines-based fault diagnosis for turbo-pump rotor[J].Mechanical Systems and Signal Processing,2006,20(4):939-952.

［16］JIANG Shao-hua,GUI Wei-hua,YANG Chun-hua,et al.Fault diagnosis of lead-zinc smelting furnace based on multi-class support vector machines[C]//Proceedings of the Sixth IEEE International Conference on Control and Automation.Guangzhou,2007:1643-1648.