神經網絡和SVM多傳感器融合的隧道CO體積分數研究*

王 芹，王曉東，吳建德，黃國勇，范玉剛

(1.昆明理工大學信息工程與自動化學院，云南昆明650500;2.云南省礦物管道輸送工程技術研究中心，云南昆明650500)

0 引言

目前，國內外公路隧道通風控制系統中的傳感器布設單一、類型較少、可靠性低，一旦傳感器損壞就會對隧道的安全運營造成危害［1］。CO體積分數是隧道環境運行狀態的一項重要指標，如果隧道一斷面的CO傳感器失效，能通過該斷面其他相關傳感器的數據融合出隧道CO體積分數，對于提高車輛通過隧道安全性能有重要意義［2，3］。多源信息融合技術對多傳感器獲得信息進行協調、組合、互補來提高系統有效性，比單一傳感器更精確、可靠［4］。

神經網絡記憶性和強大的非線性映射能力，在信息融合中引起廣泛的重視。神經網絡信息融合主要成果有:Melgani F等人設計多層前饋神經網絡將遙感圖像空間信息、時間信息和光譜信息融合;Cao Jin利用BP神經網絡設計了多源信息融合機器人導航系統等［5］。但神經網絡信息融合存在不足，基于經驗的風險最小化，泛化能力低、易陷入局部極值、訓練學習速度較慢、對小樣本數據分析能力低。而支持向量機(SVM)信息融合基于結構風險最小化原則，泛化能力強，具有全局最優性，是小樣本統計學習理論［6，7］。本文分別比較了 BP，RBP 神經網絡、SVM 融合隧道CO體積分數模型效果和不同組合的最優加權融合模型CO體積分數效果，結果表明最優加權融合避免了單一融合模型的信息缺陷，實現優勢互補，提高融合CO體積分數的精度。

1 多源信息融合系統結構

1.1 輸入數據選取

輸入數據選取要與隧道CO體積分數變化相關因素，一般隧道CO主要是隧道內的行駛車輛所排放出來的，因此，主要與車速、車流量關系比較大，同時還與隧道能見度(如發生火災)、風速等因素有關系，所以，選取車速(v)、車流量(TV)、能見度(VI)、風速(w)為融合系統的輸入量。

1.2 神經網絡融合系統

目前有多種不同的神經網絡模型被應用信息融合，如BP神經網絡、徑向基函數RBF神經網絡等。

神經網絡模型具有高度非線性映射能力，通過輸入前向傳播實現由輸入到輸出的非線性映射，這就正好滿足信息融合隧道CO體積分數的要求［8］。

1.2.1 BP神經網絡融合算法

BP神經網絡理論上證明具有三層網絡能實現任意非線性逼近映射。本文BP網絡融合三層網絡，輸入層神經元為4，隱含層神經元為10，輸出層神經元為1，隱含層采用S型正切傳遞函數，輸出層采用線性傳遞函數。本文采用BP網絡的誤差反向傳播算法，思想是將網絡輸出與期望輸出間的誤差歸結為權值和閾值的“過錯”，調整權值和閾值使誤差沿著下降最快的方向變化。

1.2.2 RBF神經網絡融合算法

RBF網絡基本思想:用徑向基函數作為隱含層節點的“基”構成隱含層空間，將低維的輸入數據映射到高維空間內;然后通過線性函數將隱含層節點輸出數據映射到輸出層節點。為使計算方便隱含層采用RBF高斯激活函數，隱含層到輸出層使用線性傳遞函數［9］。由此可得信息融合輸入與輸出表達式為

其中，wi，θ分別是隱含層到輸出層的權值和閾值;y為隧道CO體積分數融合輸出值。RBF網絡的學習過程分為2個階段。第一階段，根據輸入樣本確定中心向量，標準化常量。第二階段，根據最小二乘法求權值和閾值，進一步提高進度。

1.3 SVM信息融合系統

SVM應用于信息融合基本思想是尋找一個最優分類面使得訓練樣本離該最優分類面誤差最小，設有l訓練樣本對為{(xi，yi)，i=1，2，…，l}，其中，xi是第 i只傳感器數據作為訓練樣本的輸入列向量，yi為對應的融合輸出。在高維特征空間中建立最優的線性回歸函數為

其中，φ(x)為非線性映射函數。現在的問題成為，根據已知的l個樣本，確定向量w和標量b。對于這樣一個回歸問題，基于SVM的最優回歸函數是指滿足結構風險最小化原理，其最小化表示為

其中，Nnsv為支持向量個數，K(xi，x)為核函數 SVM 的核函數有多種形式有多項式核、RBF核函數等。本文使用的核函數為

于是基于SVM的信息融合的輸入與輸出的關系式為

其中，只有部分參數(ai-a*i)不為零，其對應的樣本為支持向量。可以看出與神經網絡不同，SVM的拓撲結構是由SVM決定，避免了神經網絡反復試湊確定網絡結構問題。SVM利用非線性變換將原始輸入變量映射到高維特種空間，在高維空間中進行信息融合，還保證了融合具有良好的泛化能力［10］。SVM的訓練算法最終可以轉化為QP規劃問題，當訓練樣本少時可以用牛頓法、共軛梯度法，當訓練樣本大時可以使用分塊算法理論、Osuna算法、SMO序列最先優化算法等［11］。

1.4 均方誤差最優加權信息融合

多源信息融合技術中加權融合是一種經典的信息融合方法被受重視。本文用最優均方誤差加權融合算法，該方法是對BP，RBP神經網絡和SVM融合結果進行再次加權組合融合，其融合精度高于單一融合。理論證明最優均方誤差加權融合能使融合后輸出值均方誤差最小，且小于參與單一模型融合的均方誤差［12］。設有m種融合系統的最優均方誤差可以表示

其中，xit為第i個融合系統在第t個樣本輸出值記，^yt為第t個樣本加權融合值，ki為第i只傳感器的權系數，且滿足，設yt為第t個樣本的真實值，加權融合輸出的第t個樣本的誤差為

式中 Eij為第i個融合系統和第j個融合系統的均方誤差，E(m)為融合輸出誤差信息方陣。尋找權系數向量K*，使組合預測方法的預測均方誤差J達到極小值Jmin，則稱為最優均方誤差加權融合，由此可以轉化為下列最優化問題

根據Lagrage求條件極值可求出K*，Jmin，可得最優加權系數為

1.5 冗余度的最優加權融合有效性分析

最優加權融合是對不同單一融合模型信息進行選擇利用的過程。如何選擇參與加權的單一融合模型，才能充分發揮各單一融合模型互補信息，使最優加權融合精度大幅提高。對不同單一融合模型是通過不同結構融合CO體積分數信息，因此，單一融合模型輸出可看作是同一目標發出的信息源，這就可用信息論方法進行分析，設2種單一融合模型輸出為 Y1，Y2，Y1所含的隧道 CO體積分數信息熵H(Y1)可分為兩部分，第一部分Y1，Y2所共有的CO體積分數信息熵R既冗余信息，第二部分HY2(Y1)為Y1所特有的CO體積分數信息熵，因此，可得2種單一融合模型輸出Y1，Y2之間冗余度R為

其中，HY2(Y1)=為兩單一融合輸出相關性分布。通過分析冗余度與最優加權融合效果可找到之間的規律。用該規律對參與加權融合的單一融合模型進行篩選，找到提高最優加權融合精度明顯的組合。

2 仿真實驗與結果分析

為了驗證信息融合模型的有效性。本文采用某公路隧道監控系統中同一斷面的車速、車流量、能見度、風速為融合系統輸入量，隧道CO體積分數為融合系統輸出量。為不失一般性，每次實驗用計算機對100組樣本隨機的抽取80組樣本作為神經網絡和SVM的訓練集，余下的20個樣本作為對模型的測試集。

2.1 信息融合模型性能評價指標

為了評價不同融合模型的融合精度，本文選用均方誤差(MSE)和相關系數P對融合模型性能進行評價。計算公式如下

MSE越小說明模型性能好，相關系數在［0，1］內，接近1表明模型性能好;相反，則差，一般大于0.8，說明模型具有融合能力，大于0.9說明模型具有較好的融合效果。

2.2 單一融合系統結果分析

BP，RBF神經網絡及SVM 3種單一融合模型融合結果比較如表1和圖1所示。3種融合模型P都大于0.8表明都能對隧道CO體積分數進行融合。BP網絡融合精度最差，P最小，MSE值最大;RBF網絡融合精度一般，P一般，MSE值比BP網絡降低30%;SVM在單一融合模型中融合精度最好P高于0.9，MSE值最小，分別比BP網絡和RBF網絡降低了48%和25%，可見SVM具有全局最優性。

表1 單一融合模型性能指標比較Tab 1 Performance index comparison of single fusion model

圖1 單一融合模型融合效果對比Fig 1 Fusion effect comparison of single fusion model

2.3 最優加權融合結果分析

本文將BP網絡、RBF網絡與SVM兩兩加權融合和3種全部加權融合進行比較研究。比較結果如表2和圖2所示。

圖2 不同組合最優加權融合效果對比Fig 2 Optimal weighting fusion results comparison of different combinations

表2 不同組合最優加權融合模型性能指標比較Tab 2 Optimal weighted fusion model performance comparision of different combinations

對比表1和表2可以看出:加權融合精度比單一融合精度都有不同程度提高，表明加權融合對不同單一融合信息進行選擇利用，P值都在0.95以上具有較好的融合效果。BP網絡與SVM加權融合精度最高，P值為0.998，MSE值比單一BP網絡和SVM分別降低81%和63%，精度有大幅提高;雖然單一的RBF網絡和SVM融合精度高，但是RBF網絡與SVM加權融合精度不是最高，P值為0.985，MSE值比單一RBF網絡和SVM分別降低63%和50%，精度提高很明顯;BP網絡與RBF網絡加權融合精度最低，P值為0.952，MSE值比單一BP網絡和RBF網絡分別降低61%和25%，精度有提高;3種全部加權融合僅比BP網絡與RBF網絡加權融合P值僅提高0.007，MSE值僅降低3%精度提高不明顯。由圖3可以看出:BP網絡與SVM的加權融合預測曲線和真值曲線接近重合，在曲線變化快的區域精度改善明顯。

2.4 最優加權融合冗余度分析

由式(12)可計算出單一融合BP、RBF網絡，SVM模型兩兩之間輸出CO體積分數的冗余度結果如表3所示，如果某2個單一融合模型之間的冗余度較大，則說明該模型輸出信息的關聯性大，冗余信息量大。

由表3看出:BP網絡與SVM冗余度最低小于5;RBF網絡與SVM冗余度其次高于5，BP與RBF網絡冗余度最大高于10。根據以上分析，可得如果單一融合模型之間冗余度較低，則加權融合精度提高明顯，如SVM分別與BP，RBF網絡，雖然單一RBF網絡和SVM融合精度高，但是它們之間冗余度大于5，而BP網絡與SVM冗余度小于5，所以，RBF網絡與SVM加權融合精度提高不是最大;如果單一融合模型之間冗余度較高，則加權融合精度提高不明顯，如BP與RBF網絡，SVM 3種全部融合。由于神經網絡與SVM融合結構不同，輸出CO體積分數冗余信息相對少，加權融合綜合了神經網絡和SVM的各自優點，實現優勢互補，因此，加權融合精度提高明顯;BP與RBF神經網絡融合結構近似，輸出CO體積分數冗余信息相對大，因此，加權融合精度提高不明顯。3種全部加權融合的精度沒有明顯提高，是因為RBF網絡分別與BP網絡和SVM的冗余度比較大，所以，RBF網絡的權值小且為負值-0.1811，說明對提高精度影響非常小，它只提供冗余信息，應該將它刪除。

表3 單一融合模型輸出之間冗余度Tab 3 Redundancy between single fusion the model output

3 結束語

本文將BP，RBF神經網絡，SVM融合及最優加權融合模型應用于公路隧道CO體積分數。研究表明3種單一融合模型的有效性，在單一模型中SVM融合精度最高;對3種單一融合模型進行組合最優加權融合，發現BP網絡與SVM加權融合精度最高，說明加權融合充分發揮了神經網絡非線性逼近能力、記憶能力和SVM全局最優性，彌補了單一神經網絡融合易陷入局部極值的不足;不同單一組合加權融合對融合精度影響大。冗余度小時加權融合才能實現信息互補，達到提高融合精度的目的。

［1］李家龍.公路隧道通風節能技術研究［D］.重慶:重慶交通大學，2007.

［2］夏永旭.我國長大公路隧道通風中的幾個問題［J］.公路，2003(5):147-149.

［3］楊兆升.基礎交通信息融合方法綜述［J］.公路交通科技，2006，23(3):111-116.

［4］王耀南.多傳感器信息融合及其應用綜述［J］.控制與決策，2001，16(5):518-522.

［5］周嗚爭，汪 軍.基于SVM的多傳感器信息融合算法［J］.儀器儀表學報，2005，26(4):407-410.

［6］Capparuccia R，Leone R D，Marchitto E.Integrating support vector machine and neural network［J］Neural Networks，2007，20(5):590-597.

［7］韓崇昭，朱紅艷，段戰勝.多源信息融合［M］.北京:清華大學出版社，2010.

［8］Inguva R，Johnson J L，Scham SM P.Multi-feature fusion using pulse coupled neural networks［J］.SPIE，1999，3719:342-351.

［9］Leonard JA.RBF network for classifying process faults［J］.Control Systems，1991，23(4):31-38.

［10］Pouteau R，Stoll B，Chabrier S.Multi-source SVM fusion for environmental monitoring in Marquesas archipelago［J］.Geoscience and Remote Sensing Symposium，2010，26(6):2719-2722.

［11］白 鵬，張喜斌，張 斌，等.支持向量機理論及工程應用實例［M］.西安:西安電子科技大學出版社，2008:13-73.

［12］李 偉，何鵬舉，高社生.多傳感器加權信息融合算法研究［J］.西北工業大學學報，2010，28(5):674-679.