基于支持向量回歸機的公路貨運量預(yù)測模型

摘要:為了提高公路貨運量預(yù)測的能力，應(yīng)用基于結(jié)構(gòu)風(fēng)險最小化準(zhǔn)則的標(biāo)準(zhǔn)支持向量回歸機方法來研究公路貨運量預(yù)測問題。在選擇適當(dāng)?shù)膮?shù)和核函數(shù)的基礎(chǔ)上，通過對成都公路貨運量時間序列進(jìn)行預(yù)測，并與人工神經(jīng)網(wǎng)絡(luò)#65380;線性回歸分析等方法進(jìn)行了對比，發(fā)現(xiàn)該方法能獲得最小的訓(xùn)練相對誤差和測試相對誤差。

關(guān)鍵詞:公路貨運量;支持向量回歸機;人工神經(jīng)網(wǎng)絡(luò);預(yù)測

中圖分類號:U492.313; TP391文獻(xiàn)標(biāo)志碼:A

文章編號:1001－3695(2008)02－0632－02

公路貨運量預(yù)測是反映公路貨物運輸需求的一項重要指標(biāo)，它的研究和分析具有較強的實際和理論意義。正確預(yù)測公路貨運量對國家的交通發(fā)展和資源配置優(yōu)化，以及各物流企業(yè)的投資#65380;經(jīng)營管理有重要作用。傳統(tǒng)公路貨運量預(yù)測方法(如線性回歸分析#65380;貨運強度法#65380;彈性系數(shù)法#65380;灰色GM(1，1)模型[1]#65380;組合預(yù)測法等)可以預(yù)測一段時間內(nèi)貨運量變化的大致趨勢，但在處理大規(guī)模#65380;高維度#65380;含有非線性關(guān)系#65380;非正態(tài)分布的貨運量時間序列數(shù)據(jù)時，其效果不理想，且其指標(biāo)的主觀隨意性較大，而且需要事先知道各種參數(shù)， 以及參數(shù)在什么情況下應(yīng)如何修正。近十來年，人們用人工神經(jīng)網(wǎng)絡(luò)方法[2，3]來預(yù)測貨運量。但是，ANN主要依靠的是經(jīng)驗風(fēng)險最小化原則，容易導(dǎo)致泛化能力的下降且模型結(jié)構(gòu)難以確定。在學(xué)習(xí)樣本數(shù)量有限時，學(xué)習(xí)過程誤差易收斂于局部極小點，學(xué)習(xí)精度難以保證;學(xué)習(xí)樣本數(shù)量很多時，又陷入維數(shù)災(zāi)難，泛化性能不高。支持向量回歸機[4]則很好地解決了上述方法面臨的問題，并在實際應(yīng)用中有很好的性能。

筆者利用以結(jié)構(gòu)風(fēng)險最小化原理為基礎(chǔ)的標(biāo)準(zhǔn)支持向量回歸機，通過在回歸機中定義損失函數(shù)，以成都公路貨運量為例，建立了時間序列預(yù)測模型。引入了不敏感系數(shù)ε;采用折交叉驗證的方法優(yōu)化選擇參數(shù)和核函數(shù)。本文選擇的是多項式核函數(shù)進(jìn)行仿真實驗。

1支持向量回歸機

以統(tǒng)計學(xué)習(xí)理論為基礎(chǔ)的支持向量機(support vector machine，SVM)由Vapnik等人提出，在20世紀(jì)90年

代中后期得到了全面深入的發(fā)展，現(xiàn)已經(jīng)成為機器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域的主要工具[5]。下面介紹解決回歸問題的支持向量回歸機。

3仿真結(jié)果及分析

針對上述的公路貨運量時間序列SVR預(yù)測模型， 在MATLAB 6.5環(huán)境下進(jìn)行訓(xùn)練與測試的仿真實驗。SVR的核函數(shù)和參數(shù)采用折交叉驗證方法進(jìn)行優(yōu)化選擇，為K(xi，xj)=[(xi·xj)+1]4，ε=0.001，C=35。對于標(biāo)準(zhǔn)BPANN，采用三層神經(jīng)網(wǎng)絡(luò)，以連續(xù)三年的數(shù)據(jù)來預(yù)測第四年的數(shù)據(jù)，用快速BP算法訓(xùn)練前向網(wǎng)絡(luò)，輸入層神經(jīng)元為3個，隱含層神經(jīng)元為4個，輸出層神經(jīng)元1個，最大訓(xùn)練次數(shù)1 500，期望誤差為0.001，初始學(xué)習(xí)率為0.01;最后用線性回歸方法對成都市公路貨運量進(jìn)行了時間序列預(yù)測。它們的仿真結(jié)果如表3所示。

由表3可以看出，總體上說，在三種方法對公路貨運量預(yù)測中，對訓(xùn)練樣本的預(yù)測比對測試樣本的預(yù)測精度高，所獲得的預(yù)測相對誤差在一定程度上均能反映公路貨運量的時間序列預(yù)測。用線性回歸方法得出的結(jié)果比其他兩種方法得出的結(jié)果更差，說明公路貨運量預(yù)測問題是一個非線性問題。不論是訓(xùn)練相對誤差方面還是測試相對誤差方面，基于SVR的方法又明顯比BPANN小，說明了SVR有更強的泛化性能。

4結(jié)束語

本文將SVR方法應(yīng)用于公路貨運量時間序列預(yù)測研究，采用ε－insensitive損失函數(shù)，選用多項式核函數(shù)建立了SVR網(wǎng)絡(luò)，其實際結(jié)果有相當(dāng)理想的精度，能滿足預(yù)測要求。與標(biāo)準(zhǔn)的BPANN和線性回歸方法比較表明，SVR對公路貨運量數(shù)據(jù)有更好的預(yù)測效果，有很強的學(xué)習(xí)性#65380;自適應(yīng)性，且收斂快#65380;準(zhǔn)確性高，說明SVR預(yù)測模型是可信的。但是，核函數(shù)#65380;參數(shù)和損失函數(shù)的選取沒有確定的方法，主要靠使用者的經(jīng)驗，難以找到全局最優(yōu)解，只能找到滿意解，對此問題還需要進(jìn)一步研究;另外，由于訓(xùn)練樣本的重要性是相對測試樣本而言的，每次對新的測試樣本進(jìn)行回歸估計時，就需要重新計算各訓(xùn)練樣本的重要性指標(biāo)，并重新進(jìn)行訓(xùn)練，使得該方法一般應(yīng)用于對實時性要求不是很高的場合。

參考文獻(xiàn):

[1]蓋春英，裴玉龍.公路貨運量灰色模型—馬爾可夫鏈預(yù)測方法研究[J].中國公路學(xué)報，2003，16(3):113－116.

[2]張擁軍，葉懷珍，任民.神經(jīng)網(wǎng)絡(luò)模型預(yù)測運輸貨運量[J].西南交通大學(xué)學(xué)報，1999，34(5):602－605.

[3]趙闖，劉凱，李電生.基于廣義回歸神經(jīng)網(wǎng)絡(luò)的貨運量預(yù)測[J].鐵道學(xué)報，2004，26(1):12－15.

[4]VAPNIK V.An overview of statistical learning theory[J].IEEE Trans on NN，1999，10(3):988－999.

[5]CRISTIANINI N，SHAWE－TAYLOR J.支持向量機導(dǎo)論[M].李國正，王猛，曾華軍，譯.北京:電子工業(yè)出版社，2004.

[6]成都市統(tǒng)計年鑒[K].2005.

[7]夏國恩，曾紹華，金煒東.支持向量回歸機在鐵路客運量時間序列預(yù)測中的應(yīng)用[J].計算機應(yīng)用研究，2006，23(10):180－182.

[8]趙闖， 劉凱，李電生.支持向量機在貨運量預(yù)測中的應(yīng)用研究[J].鐵道學(xué)報，2004，26(4):10－14.

[9]ITO K，NAKANO R.Optimizing support vector regression hyperpara－meters based on cross－validation[C]//Proc of International Joint Conference on Neural Networks.2003:2077－2082.

[10]VAPNIK V N.The nature of statistical learning theory[M].New York:SpringerVerlag，1995.

[11]LIN Chun－fa，WANG Sheng－de.Fuzzy support vector machines[J].IEEE Trans on Neural Networks， 2002，13(2):464－471.

[12]TOY F E H，CAO L J.Descending support vector machines for financial time series forecasting[J].Neural Processing Letters，2002，15(2):179－195.

[13]TOY F E H，CAO L J.Modified support vector machines in financial time series forecasting[J].Neuro Computing，2002(48):847－861.

[14]GUNN R G.Support vector machines for classification and regression[R].Southampton:University of Southampton，1998.

“本文中所涉及到的圖表、注解、公式等內(nèi)容請以PDF格式閱讀原文”