基于相關(guān)向量機(jī)的城市貨運(yùn)量時(shí)間序列預(yù)測(cè)模型*

韋凌翔 董建軍 陳志龍 王 姝

(鹽城工學(xué)院材料科學(xué)與工程學(xué)院1) 鹽城 224051) (南京工業(yè)大學(xué)土木工程學(xué)院2) 南京 211800)(中國(guó)陸軍工程大學(xué)國(guó)防工程學(xué)院3) 南京 210007)

0 引 言

貨運(yùn)量對(duì)于物流需求的確定及其相關(guān)基礎(chǔ)設(shè)施建設(shè)、各項(xiàng)相關(guān)政策的制定都具有重要意義，因此對(duì)貨運(yùn)量的研究就成為了發(fā)展物流及其相關(guān)產(chǎn)業(yè)的重要依據(jù)[1-3].城市貨運(yùn)量預(yù)測(cè)對(duì)該城市的物流園區(qū)規(guī)劃與建設(shè)、港口碼頭設(shè)計(jì)與建設(shè)、道路交通規(guī)劃與布局、城市投資引導(dǎo)等都具有重要作用[4-5].

城市貨運(yùn)量時(shí)間序列預(yù)測(cè)模型是在統(tǒng)計(jì)、分析和挖掘貨運(yùn)量資料的基礎(chǔ)上，研究貨運(yùn)量變化規(guī)律，預(yù)測(cè)貨運(yùn)量時(shí)間序列數(shù)據(jù)趨勢(shì)的一種模型[6-7].因此，開(kāi)展這方面研究是城市貨運(yùn)需求預(yù)測(cè)和城市物流規(guī)劃的基礎(chǔ)性工作，同時(shí)也為分析城市貨運(yùn)量變化規(guī)律、提高預(yù)測(cè)精度提供理論依據(jù).

國(guó)內(nèi)外學(xué)者已針對(duì)城市貨運(yùn)量時(shí)間序列預(yù)測(cè)開(kāi)展了多方面研究，城市貨運(yùn)量預(yù)測(cè)模型主要分為定性預(yù)測(cè)和定量預(yù)測(cè)兩大類.其中定性預(yù)測(cè)方法常采用物流貨運(yùn)市場(chǎng)調(diào)查法、德?tīng)柗欠ǖ龋款A(yù)測(cè)包括線性模型和非線性模型等.線性模型主要運(yùn)用時(shí)間序列法、回歸分析法以及灰色預(yù)測(cè)模型等，非線性模型主要運(yùn)用人工神經(jīng)網(wǎng)絡(luò)(artificial neural network，ANN)、最小二乘支持向量機(jī)、馬爾科夫模型等.具體典型研究分析如下：文獻(xiàn)[8-10]分別驗(yàn)證了逐步多元線性回歸模型、灰色馬爾可夫預(yù)測(cè)模型、時(shí)間序列模型等方法對(duì)城市貨運(yùn)量時(shí)間序列預(yù)測(cè)的有效性；文獻(xiàn)[11-12]等認(rèn)為傳統(tǒng)的回歸模型無(wú)法較好地顯示城市貨運(yùn)量時(shí)間序列數(shù)據(jù)的內(nèi)在相關(guān)性，證實(shí)參數(shù)之間存在非線性關(guān)系；文獻(xiàn)[13-15]等分別構(gòu)建了支持向量機(jī)(SVM)、自組織神經(jīng)網(wǎng)絡(luò)模型、改進(jìn)BP神經(jīng)網(wǎng)絡(luò)模型的貨流預(yù)測(cè)方法，進(jìn)一步證明了城市貨運(yùn)量時(shí)間序列的變化呈現(xiàn)出某種隨機(jī)波動(dòng)的特征.

綜上所述，城市貨運(yùn)量時(shí)間序列具有一定的可預(yù)測(cè)性，其產(chǎn)生和變化機(jī)理受到各種客觀因素影響，造成其趨勢(shì)特征不全屬于隨機(jī)性質(zhì)，數(shù)據(jù)噪聲中既包含線性關(guān)系，又包含非線性關(guān)系.因此，文中擬運(yùn)用非線性關(guān)系的學(xué)習(xí)理論——相關(guān)向量機(jī)(relevance vector machine，RVM)[16-18]模型，構(gòu)建城市貨運(yùn)量時(shí)間序列預(yù)測(cè)方法，有效地提高城市貨運(yùn)量時(shí)間序列預(yù)測(cè)精度.

1 城市貨運(yùn)量時(shí)序預(yù)測(cè)模型構(gòu)建

1.1 城市貨運(yùn)量時(shí)間序列RVM預(yù)測(cè)模型數(shù)學(xué)描述

城市貨運(yùn)量時(shí)序預(yù)測(cè)模型監(jiān)督學(xué)習(xí)的目的是應(yīng)用訓(xùn)練數(shù)據(jù)和先驗(yàn)知識(shí)建立一個(gè)預(yù)測(cè)系統(tǒng)，輸入新的時(shí)刻序列xn，輸出城市貨運(yùn)量時(shí)間序列預(yù)測(cè)值qn.實(shí)際采集到的城市貨運(yùn)量序列設(shè)為tn，tn可看作未知函數(shù)q(xn,w)被方差為σ2的高斯噪聲污染所至.具體函數(shù)關(guān)系為

(1)

式中：w為權(quán)參數(shù)向量，w=(w0,w1,…,wN);εn是一個(gè)相對(duì)獨(dú)立且具備相同分布的高斯白噪聲，并且均值為0，其方差為σ2;另外，設(shè)φi(x)≡K(x,xi)，其中，φi(x)為非線性基函數(shù)，K(x,xi)為核函數(shù).因此，實(shí)際采集到的城市貨運(yùn)量序列數(shù)據(jù)tn的分布函數(shù)可設(shè)為p(tn|x)=N(tn|q(xn),δ2)，其中，q(xn)為城市貨運(yùn)量序列數(shù)據(jù)的平均值，σ2為城市貨運(yùn)量序列數(shù)據(jù)的方差，也相當(dāng)于實(shí)際數(shù)據(jù)tn與其城市貨運(yùn)量序列數(shù)據(jù)q(xn)的算術(shù)平均值離差平方和的平均數(shù).方差是用于檢測(cè)運(yùn)算數(shù)據(jù)是否比變異及變異程度高低的最首要、最普遍的指標(biāo).鑒于假設(shè)實(shí)際數(shù)據(jù)tn是彼此獨(dú)立存在的，不具有依賴性，從而關(guān)于城市貨運(yùn)量預(yù)測(cè)的時(shí)間序列集的最大似然估計(jì)可寫為

(2)

式中：t=(t1,t2,…,tN)T;Φ為N×(N+1)矩陣，Φ=(Φ1,Φ2,…,ΦN)T,Φ(xn)=(1,K(xn,x1),K2(xn,x2),…,k(xn,xN)T.

1.2 城市貨運(yùn)量時(shí)間序列預(yù)測(cè)模型參數(shù)確定

由于構(gòu)建預(yù)測(cè)模型中存在較多參數(shù)，采用最大似然估計(jì)由式(2)得到的w和σ2易于導(dǎo)致過(guò)擬合，因此，依據(jù)RVM模型參數(shù)確定思路，采用稀疏貝葉斯原理對(duì)w賦予0均值高斯先驗(yàn)分布得：

(3)

式中：α為N+1維的超參數(shù)向量.這樣，每一個(gè)權(quán)重就單獨(dú)地對(duì)應(yīng)一個(gè)超參數(shù)，從而控制先驗(yàn)分布對(duì)各參數(shù)的影響，以確保RVM模型的稀疏性.

在定義先驗(yàn)概率分布與似然分布后，根據(jù)貝葉斯原理，可求得所有未知參數(shù)的后驗(yàn)概率分布為

(4)

后驗(yàn)協(xié)方差矩陣與均值分別為

∑=[δ-2ΦTΦ+A]-1

(5)

μ=δ-2∑ΦTt

(6)

式中:A=diag(α0,α1,…,αN).

關(guān)于α對(duì)數(shù)邊緣似然：

L(α)=lnp(t|α,δ2)=

(7)

基于最大期望超參數(shù)估計(jì)，α和σ2的值可以通過(guò)迭代算法求得，在迭代學(xué)習(xí)過(guò)程中，通過(guò)式(4)～(6)可得所對(duì)應(yīng)的權(quán)值w趨于0，其與預(yù)測(cè)值無(wú)關(guān)，這樣就只有很少的樣本點(diǎn)在起到作用，那些非0權(quán)值w對(duì)應(yīng)的數(shù)據(jù)點(diǎn)被稱作相關(guān)向量，體現(xiàn)了數(shù)據(jù)中最核心的特.

1.3 相關(guān)向量機(jī)RVM內(nèi)核函數(shù)的確定

從理論上說(shuō)，關(guān)于城市貨運(yùn)量的預(yù)測(cè)本文中可以使用任意核函數(shù)進(jìn)行預(yù)測(cè)，相關(guān)向量機(jī)的內(nèi)核函數(shù)選擇具有隨意性，可以不受任何Mercer條件約束的限制[19].但現(xiàn)實(shí)運(yùn)用的條件下，不得不選擇常用的核函數(shù)來(lái)進(jìn)行計(jì)算，由于其具有普遍性，從而得到的結(jié)果也會(huì)更具有代表性.例如：線性核函數(shù)(linear kernel，LK)、多項(xiàng)式核函數(shù)(polynomial kernel，PK)、高斯徑向基核函數(shù)(gaussian kernel，GK)等即是幾種常見(jiàn)的內(nèi)核函數(shù).文中將構(gòu)建由LK，PK，GK 此3種內(nèi)核函數(shù)組成的RVM內(nèi)核函數(shù)集合.

1.4 貨運(yùn)量時(shí)間序列預(yù)測(cè)函數(shù)的建立

如果將x*設(shè)為已知的新的輸入時(shí)間序列，t*為與之相對(duì)應(yīng)的城市貨運(yùn)量時(shí)間序列預(yù)測(cè)目標(biāo)，那么相應(yīng)的城市貨運(yùn)量預(yù)測(cè)輸出的概率分布的預(yù)測(cè)函數(shù)為

(8)

另外，連續(xù)的輸入時(shí)間序列x，并且按照式q=μTΦ(x)進(jìn)行計(jì)算，則可得到輸出的城市貨運(yùn)量時(shí)間序列的預(yù)測(cè)值.

2 貨運(yùn)量時(shí)間序列預(yù)測(cè)模型流程與評(píng)價(jià)

2.1 貨運(yùn)量時(shí)間序列預(yù)測(cè)模型的流程設(shè)計(jì)

將城市貨運(yùn)量融入基于RVM的時(shí)間序列預(yù)測(cè)模型中，設(shè)計(jì)城市貨運(yùn)量預(yù)測(cè)的流程圖，見(jiàn)圖1.

圖1 城市貨運(yùn)量預(yù)測(cè)的流程圖

2.2 時(shí)間序列預(yù)測(cè)模型評(píng)價(jià)指標(biāo)的確定

鑒于均方根誤差(root mean square error，RMSE)是相對(duì)于原始數(shù)據(jù)的平均值而展開(kāi)的，因此其能夠有效的反映出預(yù)測(cè)模型誤差的水平.因此，文中將選取RMSE作為評(píng)價(jià)城市貨運(yùn)量的時(shí)間序列預(yù)測(cè)模型精確度指標(biāo).此外，為驗(yàn)證模型靈敏情況選擇預(yù)測(cè)模型訓(xùn)練時(shí)間作為指標(biāo).具體計(jì)算公式為

(9)

式中：R為RMSE.

3 實(shí)例驗(yàn)證

3.1 城市貨運(yùn)量時(shí)間序列集確定

以南京市貨運(yùn)總量、公路貨運(yùn)總量、鐵路貨物量為研究對(duì)象，構(gòu)建城市貨運(yùn)量時(shí)間序列集，見(jiàn)圖2.

圖2 南京市城市貨運(yùn)量數(shù)數(shù)據(jù)

3.2 城市貨運(yùn)量預(yù)測(cè)數(shù)據(jù)的歸一化處理

數(shù)據(jù)歸一化處理能有效減少函數(shù)預(yù)測(cè)中由于某數(shù)據(jù)或某數(shù)據(jù)值過(guò)大或存在量綱而導(dǎo)致的誤差影響.因此，采用式(10)將城市貨運(yùn)量數(shù)據(jù)分別歸一化到[0，1]區(qū)間，從而削弱RVM預(yù)測(cè)訓(xùn)練中帶來(lái)的誤差影響.

(10)

3.3 城市貨運(yùn)量時(shí)間序列模型的預(yù)測(cè)結(jié)果

利用Matlab，設(shè)置迭代次數(shù)的最大值為R=1 500；由于GK學(xué)習(xí)能力較強(qiáng)，并被廣泛用于高、低維、小樣本等多種情況[19]，因此可將其作為對(duì)貨運(yùn)量時(shí)間序列模型的預(yù)測(cè)訓(xùn)練，采用核函數(shù)參數(shù)?=3.0的GK對(duì)該模型進(jìn)行預(yù)測(cè)訓(xùn)練.然而，由于常用預(yù)測(cè)模型的種類具有多樣性，為了體現(xiàn)基于RVM的城市貨運(yùn)量時(shí)序序列預(yù)測(cè)模型的獨(dú)特性，另外選擇了灰色預(yù)測(cè)模型、自回歸移動(dòng)平均模型(時(shí)間系列模型)、支持向量機(jī)模型(support vector machine，SVM)等3種不同類型的預(yù)測(cè)模型，對(duì)同一組城市貨運(yùn)量數(shù)據(jù)分別進(jìn)行預(yù)測(cè)分析，得到了4組不同的RMSE數(shù)據(jù)值，對(duì)比情況見(jiàn)圖3.

圖3 4種不同模型的RMSE值對(duì)比示意圖

由圖3可知，對(duì)比不同城市貨運(yùn)量預(yù)測(cè)模型的RMSE值，基于RVM的城市貨運(yùn)量時(shí)序序列預(yù)測(cè)模型的RMSE值均低于其他3種模型，說(shuō)明了本文提出的預(yù)測(cè)模型具有較高的預(yù)測(cè)精度及成效，能夠有效的預(yù)測(cè)城市貨運(yùn)量的發(fā)展情況.因此，利用上述的初始參數(shù)，結(jié)合本文所研究的RVM預(yù)測(cè)模型，利用南京市貨運(yùn)總量、公路貨運(yùn)總量、鐵路貨物量3個(gè)指標(biāo)進(jìn)行訓(xùn)練，以預(yù)測(cè)年之前數(shù)據(jù)為訓(xùn)練數(shù)據(jù)、預(yù)測(cè)年的實(shí)際數(shù)據(jù)為驗(yàn)證數(shù)據(jù)，得到歸一化后的城市貨運(yùn)量預(yù)測(cè)曲線圖，具體見(jiàn)圖4.輸出的均方根誤差值、向量機(jī)個(gè)數(shù)等預(yù)測(cè)參數(shù)值，見(jiàn)表1.

圖4 城市貨運(yùn)量預(yù)測(cè)曲線

表1 本文構(gòu)建模型的城市貨運(yùn)量預(yù)測(cè)輸出相關(guān)參數(shù)

由圖4和表1可知：①整體上看，該預(yù)測(cè)模型對(duì)預(yù)測(cè)城市貨運(yùn)量的適用性較好，對(duì)比其他3種模型，本文所研究模型對(duì)3個(gè)預(yù)測(cè)指標(biāo)的RMSE值都相對(duì)較小，且試驗(yàn)表明該模型的訓(xùn)練時(shí)間較短,由此得出，城市貨運(yùn)量時(shí)間序列預(yù)測(cè)模型具有耗時(shí)短、精確度高、學(xué)習(xí)能力強(qiáng)等優(yōu)勢(shì);②在不同城市貨運(yùn)量預(yù)測(cè)指標(biāo)參數(shù)下，對(duì)比其向量機(jī)個(gè)數(shù)與樣本數(shù)目有顯著的差異性：樣本數(shù)目明顯大于向量機(jī)個(gè)數(shù)，而向量機(jī)的數(shù)量則表示預(yù)測(cè)曲線中有效的采樣點(diǎn).從而，該結(jié)論反映出通過(guò)少量向量機(jī)個(gè)數(shù)的變化可以分析體現(xiàn)出整體數(shù)據(jù)的變化趨勢(shì)，進(jìn)一步驗(yàn)證了城市貨運(yùn)量時(shí)間序列預(yù)測(cè)模型具有較好的稀疏性，能夠有效預(yù)測(cè)城市貨運(yùn)量.

4 結(jié) 論

1) 本文構(gòu)建的模型具有良好的預(yù)測(cè)效果，可避免由于調(diào)查數(shù)據(jù)缺失造成的預(yù)測(cè)精度降低等問(wèn)題，可作為交通事故預(yù)測(cè)參考模型，為實(shí)現(xiàn)更為精準(zhǔn)的城市貨運(yùn)量預(yù)測(cè)提供了新的理論方法.

2) 城市貨運(yùn)量時(shí)間序列變化趨勢(shì)不僅與自身變化趨勢(shì)相關(guān)，還受到城市國(guó)內(nèi)經(jīng)濟(jì)生產(chǎn)總值、城市就業(yè)人數(shù)與崗位數(shù)等指標(biāo)影響，因此，綜合考慮影響城市貨運(yùn)量時(shí)間序列因素的預(yù)測(cè)模型還有待進(jìn)一步研究.