基于PLS 特征提取的WNN 裝備保障性評估

魏燕明，甘旭升，孫靜娟，孟祥偉，王 寧

（1.西京學院，西安 710123；2.空軍工程大學空管領航學院，西安 710051；3.中國兵器科學研究院，北京 100081）

0 引言

裝備保障性評估是對裝備系統在其壽命周期內，為達到經濟而有效地保障所考慮的必需的各種保障組合，是否滿足規定的定性和定量的保障性指標要求的評價。它可以幫助部隊提高裝備保障能力和裝備作戰使用效能，并使其壽命周期費用達到最低。對裝備保障性進行準確評估是武器裝備系統盡快形成保障能力和部隊戰斗力的重要手段。

裝備保障性評估涉及的影響因素眾多，且交互復雜，本質上是一個非線性評估問題。傳統的裝備保障性評估，多采用Delphi 法和層次分析法，僅能實現線性評估，無法進行非線性評估。文獻［1-3］的研究都取得了一定成果，但都存在著主觀性強和過于依賴專家經驗等問題。神經網絡技術的出現，為裝備保障性評估提供一種全新的評估模式［4］，它無需明確系統的內在關系，具有逼近任意非線性函數的能力，在解決非線性問題上具有廣泛應用。然而，應用中其也存在精度不高、易陷入局部極小等問題，限制了其技術的推廣。小波神經網絡（Wavelet Neural Network，WNN）是一種基于小波理論的神經網絡［5］，但性能比傳統神經網絡有了本質提高，為公認的神經網絡替代方法。當然，任何一種方法都不是萬能的，WNN 也存在局限，其特征是建模過程無法提取樣本。而本文研究的裝備保障性評估指標較多，有些指標數據中攜帶的冗余信息，會對所構建模型的評估性能產生負面影響，有必要深入研究裝備保障性評估WNN 建模前的特征提取問題。基于此，提出將偏最小二乘（Partial Least Square，PLS）特征提取技術和WNN 建模方法有機結合，提出一種組合的裝備保障性評估方法。并通過實例驗證其有效性和可行性。

1 裝備保障性評估指標體系構建

影響裝備保障性的因素眾多，而且這些影響因素與保障性評估結果之間存在著復雜的非線性關系。在設計裝備保障性評估指標體系時，應該從分析這些影響因素入手，根據裝備保障問題特點，參照相關研究成果，征求專家的意見，選擇具有代表性的評估指標，并兼顧指標測量問題，以客觀地對裝備的保障性進行科學評估［6］。通過對影響裝備保障性因素的分析，在遵循指標體系設計原則基礎上，按照科學、系統的指標體系構建步驟和流程，從諸多影響因素中篩選出裝備保障性評估指標，通過專家問卷調査，對初選指標進行刪減和補充，最終確定如圖1 所示裝備保障性評估指標體系［7］。

2 偏最小二乘分析

PLS 屬于第二代多元統計分析技術。它既能夠進行主元分析，又可以用于特征提取過程。使用PLS不僅能夠篩選出數據中主要特征，而且還能夠濾除其中的噪聲、消除變量間的多重相關性［8-9］。

設自變量為x1，x2，…，xp，因變量為y1，y2，…，yq，其中，p 表示自變量個數，q 表示因變量個數。對于n個樣本來說，可得到數據塊X=［x1，x2，…，xp］n×p和Y =［y1，y2，…，yq］n×q。PLS 算法分別從X 和Y 中提取主元t1和u1（t1為x1，x2，…，xp的線性組合，u1為y1，y2，…，yq的線性組合）時，必須遵循：

1）t1和u1應該盡量包含X 和Y 中的變化信息，可表示為var（t1）→max，var（u1）→max，其中，var（·）表示方差算子；

圖1 裝備保障性評估指標體系

2）t1和u1的相關程度能達到最大，可表示為r（t1，u1）→max，其中，r（·）表示相關系數算子，其計算公式為

式中，n 為數據個數，t1，u1分別為t1，u1的均值。

上述兩條準則可轉化為如下約束優化問題

式中，E0和F0分別為X 和Y 的標準化矩陣，w1和c1分別為X 和Y 的第一主軸。通過PLS 獲取第一主元t1和u1后，t1應該能夠盡可能刻畫X，同時，又能最好地解釋Y。

完成提取t1和u1后，就可以在t1解釋后X 和Y的殘余信息基礎上，提取第二主元t2。如此往復，直到滿意精度為止。而將PLS 用于特征提取時，只要提取到所需主元個數m （m＜A，A = rank（X），rank（·）表示矩陣求秩算子），即終止運算。PLS 特征提取流程如圖2 所示。

圖2 PLS特征提取流程

通過以上流程，可提取m 個主元T=［t1，t2，…，tm］，并得到W =［w1，w2，…，wm］和S =［s1，s2，…，sm］。標準化矩陣E0的特征向量由下式得出

假設測試樣本所形成的數據塊為Xt，而其標準化矩陣為E0t，則由下式計算其主元投影矩陣

3 小波神經網絡

WNN 是從小波分析理論基礎上發展起來的一種新型神經網絡，較好地融合了小波的時頻局域特性和神經網絡的自學習能力。較之于其他類型神經網絡，WNN 在處理復雜非線性、不確定、未確知系統等問題上性能更為出色［6，10］。

對于多輸入多輸出情形，可得到圖3 所示的WNN 結構。

則網絡輸出

圖3 多輸入多輸出WNN

為提高建模效率，WNN 參數初始化可采用經驗公式完成。

首先，針對連接權值wji，在［-1，1］區間隨機產生均勻分布的初始值w'ji，然后，繼續通過以下經驗公式完成wji初始化

式中，d=（Xmax-Xmin）/2 表示數據中心值；Xmax=max（X）和Xmin=min（X）。

對于僅包含輸入層、隱含層和輸出層的三層WNN 結構來說，確定網絡結構就是指選取網絡的隱含層節點個數。隱含層節點個數的選取，對網絡整體性能影響很大。若選取太少，網絡能夠正確映射出的信息太少，以致“匹配不足”，很難辨識樣本；若選取太多，所需訓練時間會過長，尤其在訓練后期，學習樣本中的誤差會影響訓練收斂方向，造成偏離全局最優，致使泛化能力降低，甚至出現過擬合。目前，選擇隱含層節點個數尚缺少理想的解析式，往往通過多次實驗以及人員經驗來確定。采用文獻［11］中的經驗公式計算最佳隱含層節點個數：

4 裝備保障性PLS-WNN 評估模型

裝備系統內部組件間的耦合交互，使之呈現較強的非線性特征。盡管構建裝備保障性評估指標體系過程中，遵循了科學的設計原則與構建流程，但仍難以保證各評估指標之間彼此獨立，因此，構建WNN 模型前，需要消除各評估指標間存在的多重相關性。另外，由于數據采集和處理原因，指標數據中可能包含一定的噪聲成份，對模型性能都可能造成不良影響。為解決上述問題，將PLS 特征提取與WNN 有機結合，構建PLS-WNN 模型用于評估裝備保障性水平，其評估流程如圖4 所示。也就是通過PLS 的特征提取功能，預先處理指標數據中存在的多重相關性和噪聲、降低的輸入維數，以期改善WNN 模型的評估效果，進而對裝備保障性水平作出正確反映。該流程大致分為模型建立和模型測試兩部分。模型建立部分是在訓練樣本基礎上，提取主元特征，利用參數初始化和網絡結構確定過程，構建裝備保障性的WNN 評估模型；模型測試部分將測試樣本輸入數據在訓練樣本主元上的投影，輸入所構建的WNN 評估模型進行測試，如果測試結果分析合理，輸出結果；否則，轉入模型建立部分，重新建立評估模型。

圖4 裝備保障性PLS-WNN 評估流程

PLS-WNN 本質上是一種組合回歸機。它先利用PLS 對原始樣本進行特征提取預處理，建立新的訓練樣本集，然后再使用這些樣本集建立WNN 回歸模型，完成回歸預測任務。實際上，PLS 在該組合回歸機中的主要作用包括：1）降低輸入維數；2）消除噪聲對數據的污染；3）解決自變量多重相關性對建模的影響。這樣處理的好處是既降低了WNN 的建模難度，又提高了模型質量。該組合回歸機的實現步驟可描述為：

4.1 主元提取

1）分別標準化X 和Y，得到E0和F0；

2）計算主元矩陣T 和矩陣E0的特征矩陣V；

3）利用式（4）計算測試樣本的投影矩陣，建立新的測試樣本集Ttest。

4.2 訓練模型

以T 為訓練輸入，F0為訓練輸出，確定最優參數建立WNN 模型。

4.3 測試驗證

以Ttest為測試輸入，驗證所建立的WNN 模型，標準化還原，輸出測試結果和評價精度。

為消除量綱的影響，或者是為了突出某些指標的作用，輸入數據必須作標準化處理。本文采用了最小-最大標準化法。假定amin和amax分別為屬性A的最小和最大值，則最小-最大標準化通過下式，將屬性A 的值a 映射到區間（L，H）中的a'

設定標準化區間并沒有嚴格的標準和要求，標準化區間的上限和下限（L，H）取值對模型性能沒有實質性影響，通常區間取為［0，1］、［-1，1］或（-0.5，0.5），本文對WNN 輸入和輸出數據進行標準化時，選取（-0.5，0.5）。

5 案例分析

為便于驗證PLS-WNN 性能，算法實現環境：i5四核處理器，CPU 2.6 GHz，內存4 GB，操作系統Windows 7，程序編寫編譯Matlab2009，評估指標采用均方根誤差（MSE），其計算公式為

式中，y 表示實際值，f 表示網絡預測值，n 為樣本數。

5.1 最優主元數的確定

表1 裝備保障性評估樣本

通過訓練與測試，可得到采用不同主元數p 構建WNN 模型的測試MSE，則p 對MSE 的影響曲線如圖5 所示。從給出的結果可以看出，PLS-WNN 的測試MSE 最小值，出現在主元數p 為12 時，之后，主元數變大，MSE 值也隨之變大，并漸趨平穩。

圖5 主元數p 對WNN 模型測試MSE 的影響

5.2 裝備保障性評估

基于PLS-WNN 的裝備保障性評估，就是通過PLS 特征提取，從19 個評估指標數據中提取12 主元，將其作為輸入訓練WNN 模型，進而實現裝備保障性的正確評估。

表2 給出50 次重復訓練得到的WNN 與PLS-WNN 模型的測試結果對比，其中，TE 表示通過50 次訓練得到模型的平均測試輸出；LT 表示50次測試輸出與真實評價值的差小于真實評價值10%的次數。圖6 對比了兩個模型訓練過程的收斂曲線，其中，MSE 表示均方根誤差；Iter 表示訓練次數；━代表PLS-WNN 模型，┉代表WNN 模型。

可以看出，對于測試樣本，PLS-WNN 模型的平均相對誤差為0.009 6，而單純WNN 模型的平均相對誤差為0.046 4，說明PLS-WNN 模型的評估值與真實評估值非常接近，也與裝備保障性的實際水平相一致，更為重要的是，采用PLS 預先提取特征后建立的WNN 裝備保障性評估模型，不僅簡化了網絡結構，降低了運算復雜性，從而驗證了PLS-WNN用于裝備保障性評估的可行性。

表2 裝備保障性評估的測試結果對比

圖6 兩種模型訓練的收斂曲線對比

需要指出的是，PLS-WNN 模型對編號11 和12樣本得出的正確評估結果，是先由PLS 提取的最能反映裝備的實際保障性水平的12 個主元實現的，這說明對于裝備保障性評估問題，PLS 可對整個體系的指標進行有效優化，很大程度上消除了指標數據多重相關性，以及所含噪聲的干擾，同時，也降低了WNN 輸入維數，得到符合實際的評估結果。

6 結論

針對裝備保障性評估問題，提出一種基于PLS特征提取與WNN 的集成評估方法，并結合實例，對裝備保障性評估的適用性進行驗證。仿真分析表明：將PLS 與WNN 有機結合，使所建模型保留WNN 模型的優點，同時，也使模型兼有了特征提取能力，評估性能比未經PLS 處理的WNN 有明顯提高。將其用于裝備保障性評估是可行有效的，從而為裝備保障性評估貢獻了一種新的手段和方法。