自適應粒子群神經網絡交通流預測模型

許榕,周東,蔣士正,陳啟美

(南京大學電子科學與工程學院, 210023, 南京)

?

自適應粒子群神經網絡交通流預測模型

許榕,周東,蔣士正,陳啟美

(南京大學電子科學與工程學院, 210023, 南京)

針對傳統神經網絡預測模型預測結果準確性低且存在大量無效迭代的問題,提出了自適應權重粒子群神經網絡交通流預測(PSOA-NN)模型。首先根據待預測點的上下游觀測點數和歷史數據,隨機初始化若干組模型參數并計算每組參數對應粒子的適應度;然后采用改進的sigmoid函數替代原有模型中的固定慣性權重,并根據其中適應度變好的粒子更新粒子速度和位置,一直迭代到粒子適應度小于預設值為止;最后將滿足條件粒子對應的模型參數應用到神經網絡模型,根據實時交通流數據預測出15 min后的數據。仿真結果表明,使用PSOA-NN模型,可使得在同等預測誤差范圍內收斂速度提升0.6～1.7倍。

交通流;預測;粒子群優化;神經網絡

當前,在智能交通系統(ITS)領域中,短時交通流預測已處于核心地位,它能夠提供實時有效的信息,有助于出行者進行路徑選擇,節約出行時間,也有助于交通管理者采取合適的交通誘導措施,提高路網的運行效率和安全性,變被動應對為主動管理[1]。

目前,常見的交通流預測模型有基于時間序列的ARIMA模型、卡爾曼濾波模型、支持向量回歸模型以及神經網絡模型等。ARIMA模型和卡爾曼濾波模型都屬于線性模型,而交通流是動態的、非線性的、不確定的系統,因此該模型往往達不到令人滿意的效果[2-3]。支持向量回歸模型適合小樣本的快速預測,對核函數比較敏感[4],而神經網絡憑借其良好的處理非線性問題能力,已經廣泛應用到工程之中[5-7],其中以反向傳播(BP)算法訓練神經網絡模型最為流行。然而,BP神經網絡卻存在著一些固有的缺陷[8],如收斂速度慢、容易陷入局部最優、針對已知問題選擇網絡規模困難等。粒子群優化(PSO)算法是一種基于群體智能的優化算法,憑借其全局尋優、參數配置簡單等優點大量使用在模型優化之中[9]。使用PSO算法優化神經網絡模型,可加快模型收斂速度尋找全局最優。PSO優化算法在神經網絡預測模型中運用已十分廣泛[10-12],如PSO優化雙層RBF神經網絡模型[13]、PSO優化混沌BP神經網絡[14]等,它們往往只是針對傳統PSO算法的簡單應用,而改進主要體現在對神經網絡模型的優化之上,并未對PSO算法本身進行優化。傳統的PSO算法雖然可以加快原有神經網絡的收斂速度,但其訓練過程中仍存在許多無效的迭代。

針對上述問題,本文通過分析BP神經網絡模型和傳統PSO算法,根據每個粒子的歷史狀態和迭代次數,改變PSO算法中的慣性權重因子,降低無效慣性分量帶來的影響,從而提高神經網絡的收斂速度和模型精度。

1 神經網絡和粒子群算法

1.1 BP神經網絡模型

神經網絡由多個神經元構成,多個神經元可以組成一層進行并行學習,然后在層與層之間進行信息的傳遞。BP神經網絡,主要是用于解決3層神經網絡結構中的隱層單元無法直接計算誤差的問題,它將傳輸層誤差以從后向前的方式逐層傳遞,最終間接的計算出隱層的誤差。整個算法分為2個階段:正向過程和反向過程。其中,正向過程完成將輸入信息從輸入層經隱層向后逐層傳遞并計算各單元的輸出值,反向過程將輸出誤差逐層向前傳遞從而計算出隱層各單元的誤差并用此誤差修正前層權值。

基于神經網絡模型的預測原理為:用一部分數據訓練模型,即確定網絡結構(包括隱含層數、各層節點數、各層連接權值、各層神經元的傳遞函數),網路結構確定以后,再用實時數據進行預測。與卡爾曼濾波不同,神經網絡可以離線訓練,這樣就減少了在線預測的計算量[15]。

一個簡單的基于神經網絡的預測模型如圖1所示,Xs(t)為路段某一斷面s上t時刻的交通流向量?？紤]到路段的長度和交通流的特性,采用當前時間段和前m個時間段的交通流量對未來時間段的交通流量進行預測,將Xs(t),Xs(t-1),…,Xs(t-m)作為輸入樣本,Xs(t+1)作為輸出值。然而,單點交通流預測僅考慮了該點的歷史交通流數據,并沒有考慮上下游觀測點交通流所提供的相關信息,而實際上,在整個交通網絡中,上下游的交通流是相互影響的。因此,現有改進的神經網絡預測模型是將{Xs(t),Xs(t-1),…,Xs(t-m)},{Xs+1(t),Xs+1(t-1),…,Xs+1(t-m)},…,{Xs+n(t),Xs+n(t-1),…,Xs+n(t-m)}作為輸入樣本,Xs(t+1)作為輸出值。Nin、Nmid、Nout分別表示輸入層、隱藏層和輸出層結點數目,那么神經網絡共有Ntotal個模型參數需要通過粒子群優化算法確定

(1)

神經網絡權重和閾值均是需要在神經網絡訓練時確定的,而這些參數可以通過粒子群優化算法獲得。

圖1 基于神經網絡的簡單預測模型

1.2 標準PSO優化神經網絡

PSO算法是以鳥群捕食行為為原型建立的一種快速搜索模型。

假設第i個粒子為Xi=[xi1,xi2,…,xiS]T,表示粒子i在S維空間里的位置(方程潛在的解),則n個粒子組成的種群可表示為X=(X1,X2,…,Xn)。粒子的適應度值是由目標函數根據粒子所處位置計算得出。第i個粒子的速度記為Vi=[Vi1,Vi2,…,ViS]T,則其個體歷史最優值記為Pi=[Pi1,Pi2,…,PiS]T,全局歷史最優值記為Pg=[Pg1,Pg2,…,PgS]T。每個粒子根據個體最優值和全局最優值更新它們的速度和位置,速度更新方程(慣性分量、自我學習分量和社會學習分量之和)和位置更新方程分別為

(2)

(3)

式中:wI為慣性權重;d=1,2,…,S;i=1,2,…,n;k為迭代次數;Vid為粒子的速度;c1和c2為加速因子;rand為隨機函數。

使用PSO算法可以實現對神經網絡模型結構和模型參數的優化。理論上,3層模型能以任意精度逼近一個連續函數,而PSO優化主要是針對模型參數的優化。神經網絡模型需要優化的參數包括:輸入層第i個結點到隱藏層第j個結點的權重wij,隱藏層第j個結點到輸出層第h個結點的權重wjh,輸入層所有結點到隱藏層第j個結點經加權求和后的閾值bj,以及隱藏層所有結點到輸出層第h個結點經加權求和后的閾值bh。其中,輸入層到隱藏層的權值有NinNmid個,隱藏層到輸出層的權值有NmidNout個,輸入層到隱藏層的閾值有Nmid個,隱藏層到輸出層間的閾值有Nout個,共計Ntotal個,如式(1)所示。在PSO算法中,粒子的每一維空間與Ntotal個需要優化的參數一一對應,即S=Ntotal。

2 改進的PSO算法及預測流程

2.1 自適應權重粒子群算法

標準的PSO算法中,使用大量粒子參與迭代以盡快找到最優解。所有粒子使用相同的慣性權重,必將導致部分粒子為了使其他粒子達到最優值,朝著不利于自身的方向運動。而如果每次迭代的慣性分量各個粒子均根據上一次迭代結果進行調整,這將會加快PSO算法收斂速度。自適應權重粒子群(PSOA)的權重改進如下

(4)

式中:f(·)為適應度函數;Δf(Wi,k)=f(Wi,k)-f(Wi,k);wB為基礎權重。

以二維空間中粒子運動為例,自適應權重PSO算法如圖2所示。將搜索空間中粒子分為兩類,vt1和vt2分別表示適應度值變大(差)和適應度值變小(好)的慣性分量,α為學習分量。如果粒子上一次適應度變差,說明其慣性分量應該舍棄,最終的速度應等于學習分量a(wI=0);否則慣性權重和其他粒子一樣最終速度為wIvt2+a。

圖2 自適應權重PSO算法示意圖

傳統的PSO算法,速度更新函數中慣性分量的權重wI為一固定值(通常為1)。如果權重設定過大,往往會導致優化后模型的參數不準確;反之,則會導致迭代次數變多,增加訓練時耗。為了解決這一矛盾,通常會將wI設定為一個隨迭代次數線性減小的變量。

為了更好地兼顧PSO算法的速度和精度,在迭代的前期應使用較大的權重以保證收斂速度;而后期應使用細粒度的權重來提高收斂精度。因而,本文提出的自適應權重粒子群優化(PSOA)算法,使用改進的sigmoid函數(簡稱sigmoid_a函數)替代原有的線性遞減函數作為基礎權重wB,計算如下

(5)

式中:ksmooth為平緩度,本文取ksmooth=0.1;λ為權重最大值/權重初始值,本文取λ=1.5;i和imax分別為當前迭代次數和最大迭代次數。

2.2PSOA-NN模型

本文使用PSOA算法優化神經網絡的交通流預測(PSOA-NN)模型流程如圖3所示。流程共分為兩部分:①使用PSOA算法對神經網絡進行離線訓練;②使用離線訓練得到的模型參數對實時數據進行預測。PSOA-NN模型流程如下:

(1)根據預先定義的神經網絡規模隨機初始化M個Ntotal維粒子,每一維度均代表神經網絡模型的一個參數;

(2)使用神經網絡預測函數nn_predict返回值的平方和誤差(error sum of squares,SSE)作為適應度函數,計算所有粒子的適應度;

(3)根據粒子的自身歷史(和其他粒子)的適應度,更新個體最優(和全局最優);

(4)按照式(4)和式(5)制定的自適應權重更新規則計算每個粒子對應的wB值;

(5)依據計算出的wB值,重新計算粒子的速度,并更新粒子的位置;

(6)判斷迭代是否達到終止條件:粒子的適應度函數值<ε或者迭代次數達到預定的最大迭代次數,若未達到條件返回步驟(2)繼續下一次迭代,否則將全局最優的粒子作為神經網絡模型的參數;

(7)輸入實時交通流數據,使用步驟1～步驟6獲得的模型參數進行預測,得到預測結果。

圖3 PSOA-NN模型流程圖

3 性能測試

3.1PSOA-NN預測交通流

MATLAB實驗數據來自于美國加利福利亞州公路局PeMS系統[16],選取洛杉磯市附近的高速公路82個檢測器,時間從2013年3月4日至2013年3月17日,如圖4所示。實時數據由間隔30 s的環形線圈檢測得到,并經過PeMS系統整合為間隔5 min數據,每個采集點共4 032條數據記錄,包含車流高峰與空閑時刻的均速、流量等。實驗使用這兩周工作日的數據,包括每天的早高峰、晚高峰以及空閑時刻的交通數據,第一周工作日數據用來訓練,第二周工作日數據用來預測。實驗采用平均絕對百分誤差(mean absolute percentage error,MAPE)衡量預測的準確率,如下式

(6)

模型的預測過程分為兩部分:離線模型訓練和在線實時預測。在預測速度和流量的實驗中,文中提到的優化算法均能提高模型的收斂速度和精度。為能簡明突出算法的改進,本文采用5 min內經過車輛的平均速度作為預測自變量。任取一點(樁號:VDS 718421)速度的預測結果進行展示,如圖5所示。

圖4 數據檢測點對應圖

模型的輸入為當前時刻前15 min的3組歷史數據,預測15 min后的均速。圖5分別展示了一天的預測結果和預測誤差,其中實線為實際值,虛線為預測值。通過觀察可以發現:預測15 min后的車速誤差大部分在10 m/h內,而在200點附近出現了劇烈的振蕩。車速的急劇變化是由于晚高峰導致,而神經網絡模型本身不能適應快速變化的交通預測。此外,晚高峰車速較低也是導致相對誤差變大的原因。

圖5 PSOA-NN模型預測結果

3.2 模型性能分析

神經網絡的訓練方法有兩大類:①根據神經網絡原理訓練,例如BP神經網絡(簡稱BP-NN);②使用生物學方法訓練,例如PSO優化神經網絡、遺傳算法優化神經網絡(簡稱GA-NN)等。PSO算法依據權重變化分為固定權重(簡稱PSOC)、sigmoid_a權重(簡稱PSOS)、自適應權重(簡稱PSOA),對應的優化神經網絡模型分別記為PSOC-NN和PSOA-NN。

PSO算法和GA算法均屬于經典的智能優化算法。GA和PSO具有類似的運算過程:首先,隨機初始化種群;然后,計算種群里面每個個體的適應度,適應度反映了最優解的距離;最后,種群根據適應度進行演繹,一直到滿足條件位置。兩者的區別主要體現在種群的演繹過程,GA算法的演繹過程(遺傳操作)包括選擇、交叉和變異,而PSO算法的演繹則是根據自我學習分量和全局學習分量。GA算法根據上一代進行優化,用染色體實現信息共享,因而整個種群呈現相對均勻的速度移向最優解。在PSO算法中使用全局學習分量更新粒子的狀態(速度和方向),所有粒子會更快地收斂于最優解。

圖6為3種PSO算法優化神經網絡模型、BP神經網絡模型、遺傳算法優化神經網絡預測σMAPE隨迭代次數的變化圖。從圖中可以看出:隨著迭代次數的增加,模型預測σMAPE均呈現下降的趨勢。雖然,BP神經網絡模型受限于算法本身,經過100次迭代并未使σMAPE降低到理想狀態。遺傳算法對應的預測σMAPE呈現勻速下降過程,經過49次迭代后基本穩定在11%,而PSO算法優化神經網絡模型的σMAPE在不到20次的迭代后,已經達到了一個相對較小值。與遺傳算法相比,PSO算法的整個搜索更新取決于全局最優解,因而粒子會更快地收斂于最優解。由此可見,PSO優化算法可以提高BP神經網絡模型的精度。

圖6 4種預測模型MAPE隨迭代次數的變化

在100次迭代后,PSOS和PSOA算法比PSOC算法獲得了更低的σMAPE?？梢?使用sigmoid_a函數可以獲得更高的精度。在第10次迭代之后,PSOA算法的σMAPE已經下降到9.6%,而另外兩種優化算法到第52次迭代之后才降到此值?？梢?PSOA算法比PSOC和PSOS算法有更快的收斂速度。此外需要說明的是:因為適應度函數SSE和誤差σMAPE不同,導致PSOA在迭代25次時σMAPE存在小幅上升。

實驗采用交通流速度作為預測變量。由于速度大部分集中在一定范圍之內,而流量則分布在更大的范圍之內,所以,出現神經網絡預測比流量預測σMAPE高一些。傳統的神經網絡使用的是固定步長接近最優解,固然不能達到更低的σMAPE。文中提出的PSOA優化算法,將標準的PSO算法中的慣性權重wI使用改進的sigmoid函數來代替,使用該方法能夠很好地降低預測σMAPE。

平均迭代次數是表示算法成功收斂的平均迭代次數,反映了算法的收斂速度。表1為GA和PSO算法優化模型的預測MAPE分別達到85%和90%所需的平均迭代次數。從表1中可以看出:σMAPE從85%提高到90%需要增加1倍以上的迭代次數,GA算法的平均迭代次數和未改進的PSO算法相近,而PSOA算法在達到相同的精度情況下所需迭代次數均遠少于其他同類算法,收斂速度提升0.6～1.7倍;PSOC算法中粒子移動會受到適應度值變差慣性分量的影響,因而導致其平均迭代次數略高于GA算法;PSOA算法舍去了適應度值變差慣性分量的影響,從而加快了收斂速度。

表1 4種算法的平均迭代次數比較

選定路網中82個觀測點預測結果的誤差棒如圖7所示,“工”型的中點代表平均σMAPE,“工”型上下端則表示σMAPE標準差(為了方便展示,實際上是標準差的0.05倍)。GA算法優化的神經網絡模型預測誤差均值在9%附近,而PSO及其改進算法優化的神經網絡模型預測誤差則在6%附近?？梢?PSO算法的優化效果明顯高于GA算法。對于PSO算法,由于PSOA和PSOS算法引入了改進的sigmoid函數,其平均σMAPE小于PSOC算法。

圖7 平均預測誤差圖

由此可見,采用sigmoid_a函數對慣性權重優化可以提高其精度。PSOA算法采用了sigmoid_a函數對慣性權重優化,并對其進行了自適應改進,不僅提高了神經網絡模型的精度,而且加快了模型的收斂速度。

4 結 論

仿真測試結果表明,以sigmoid_a函數作為基礎慣性權重,可以提高神經網絡模型的精度;使用自適應粒子群算法優化神經網絡模型,可以加快收斂速度。

由此可見,使用PSOA算法優化神經網絡模型,提高了神經網絡模型的精度和收斂速度。

[1] 王進, 史其信. 短時交通流預測模型綜述 [J]. 中國公共安全: 學術版, 2005, 1(6): 92-98. WANG Jin, SHI Qixin. Short term traffic flow forecasting model review [J]. China Public Security: Academy Edition, 2005, 1(6): 92-98.

[2] 賀國光, 李宇, 馬壽峰. 基于數學模型的短時交通流預測方法探討 [J]. 系統工程理論與實踐, 2000(12): 51-56. HE Guoguang, LI Yu, MA Shoufeng. Discussion on short-term traffic flow forecasting methods based on mathematical models [J]. Systems Engineering: Theory & Practice, 2000(12): 51-56.

[3] 許巖巖, 翟希, 孔慶杰, 等. 高速路交通流短時預測方法 [J]. 交通運輸工程學報, 2013, 13(2): 114-119. XU Yanyan, ZHAi Xi, KONG Qingjie, et al. Short-term prediction method of freeway traffic flow [J]. Journal of Traffic and Transportation Engineering, 2013, 13(2): 114-119.

[4] The Transportation Research Boards. Highway capacity manual [M]. Washington, DC, USA: National Research Council, 2000: 26-27

[5] HASEGAWA M, WU G, MIZUNI M. Applications of nonlinear prediction methods to the internet traffic [C]∥The 2001 IEEE International Symposium on Circuits and Systems. Piscataway, NJ, USA: IEEE, 2001: 169-172.

[6] 林軍, 倪宏, 孫鵬, 等. 一種采用神經網絡PID控制的自適應資源分配方法 [J]. 西安交通大學學報, 2013, 47(4): 112-117, 136. LIN Jun, NI Hong, SUN Peng, et al. Adaptive resource allocation based on neural network PID control [J]. Journal of Xi’an Jiaotong University, 2013, 47(4): 112-117, 136.

[7] 高瑞鵬, 尚春陽, 江航. 遺傳算法結合小波神經網絡的列車車輪扁疤故障檢測方法 [J]. 西安交通大學學報, 2013, 47(9): 88-91, 111. GAO Ruipeng, SHANG Chunyang, JIANG Hang. A fault detection strategy for wheel flat scars with wavelet neural network and genetic algorithm [J]. Journal of Xi’an Jiaotong University, 2013, 47(9): 88-91, 111.

[8] VENAYAGAMOORTHY G K. Online design of an echo state network based wide area monitor for a multimachine power system [J]. Neural Networks, 2007, 20(3): 404-413.

[9] 趙建華, 張陵, 孫清. 利用粒子群算法的傳感器優化布置及結構損傷識別研究 [J]. 西安交通大學學報, 2015, 49(1): 79-85. ZHAO Jianhua, ZHANG Ling, SUN Qing. Optimal placement of sensors for structural damage identification using improved particle swarm optimization [J]. Journal of Xi’an Jiaotong University, 2015, 49(1): 79-85.

[10]ZHU Y, ZHANG G, QIU J. Network traffic prediction based on particle swarm BP neural network [J]. Journal of Networks, 2013, 8(11): 2685-2691.

[11]ZHANG H, ZHAO G, CHEN L, et al. Short-term prediction of wind power based on an improved PSO neural network [J]. TELKOMNIKA Indonesian Journal of Electrical Engineering, 2014, 12(7): 4973-4980.

[12]ZHANG K, LIANG L, HUANG Y. A network traffic prediction model based on quantum inspired PSO and neural network [C]∥2013 Sixth International Symposium on Computational Intelligence and Design. Piscataway, NJ, USA: IEEE, 2013: 219-222.

[13]ZHAO J, JIA L, CHEN Y, et al. Urban traffic flow forecasting model of double RBF neural network based on PSO [C]∥Sixth International Conference on Intelligent Systems Design and Applications, 2006. Piscataway, NJ, USA: IEEE, 2006: 892-896.

[14]LI S, WANG L, LIU B. Prediction of short-term traffic flow based on PSO-optimized chaotic BP neural network [C]∥2013 International Conference on Computer Sciences and Applications. Piscataway, NJ, USA: IEEE, 2013: 292-295.

[15]李松, 劉力軍, 解永樂. 遺傳算法優化BP神經網絡的短時交通流混沌預測 [J]. 控制與決策, 2011, 26(10): 1581-1585. LI Song, LIU Lijun, XIE Yongle. Chaotic prediction for short-term traffic flow of optimized BP neural network based on genetic algorithm [J]. Control and Decision, 2011, 26(10): 1581-1585.

[16]California Department of Transportation. Caltrans PeMS[EB/OL]. [2014-02-18]. http: ∥pems.dot.ca.gov/?dnode=search&content=cnt_search&view=e.

(編輯 劉楊)

A Traffic Forecasting Model Using Adaptive Particle Swarm Optimization Trained Neural Network

XU Rong,ZHOU Dong,JIANG Shizheng,CHEN Qimei

(School of Electronic Science and Engineering, Nanjing University, Nanjing 210023, China)

A novel traffic forecasting model using particle swarm optimized neural network with adaptive weights (PSOA-NN) is proposed to address the issue of low accuracy prediction of traditional neural network forecasting model with a lot of invalid iterations in prediction process. Several groups of model parameters are initialized casually according to the observing point numbers of up and down streams and historical data in a neighbourhood of the forecast location, and the particle fitness of corresponding parameters in each group is calculated. Then, an improved sigmoid function is used to replace the fixed inertia weights in original model, speeds and locations are updated for the particles with improved fitness, and the iteration continues until the fitnesses of particles are less than a preset value. Finally, the model parameters that satisfies particle requirement are applied to the neural network model, and the traffic data 15 min later is predicted according to real time traffic flow data. Simulation results show that the convergent speed of the PSOA-NN model increases by about 0.6 to 1.7 times within the identical deviation range.

traffic flow; forecasting; particle swarm optimization; neural networks

2015-02-20。

許榕(1991—),男,碩士生;陳啟美(通信作者),男,教授,博士生導師。

國家自然科學基金資助項目(61105015);國家科技重大專項課題資助項目(2012ZX03005-004-003)。

時間:2015-07-23

10.7652/xjtuxb201510017

TP183

A

0253-987X(2015)10-0103-06

網絡出版地址:http://www.cnki.net/kcms/detail/61.1069.T.20150723.0922.004.html