基于深度學習算法的道路旅行時間預測

張盛濤,方紀村

(1.江蘇自動化研究所，江蘇 連云港 222061;2.連云港杰瑞電子有限公司,江蘇 連云港 222061)

隨著生活水平不斷提高,國內汽車保有量正在大幅度攀升。截止2018年6月底,我國機動車保有量已達3.19億輛[1],車輛增加伴隨交通擁堵、交通事故頻發,如何解決大車流量下的交通擁堵系列問題成為智能交通亟待解決的核心問題。通過研究道路旅行時間,對改善交通擁堵的問題有幫助。道路旅行時間是指車輛通過一定距離的所用時間,作為智能交通的重要參數,它能很好地反映交通的流暢程度。準確的旅行時間預測可以給城市規劃提供意見,還能減少居民出行時間,給居民出行帶來便利。

基于旅行時間預測的必要性,國內外涌現出較多旅行時間預測的方法。預測效果較好的方法和模型包括:SVM模型、ARIMA模型、kNN模型、BP神經網絡模型算法以及深度學習算法。SVM[2]模型預測中,通過把路段進行合理分段,在考慮交通量的基礎上建立模型,對于小樣本和高維數據集結果較好；ARIMA及其衍生模型[3]使用行程時間的歷史序列擬合時序模型,然后使用該模型逐步預測未來的行程時間；kNN算法[4]首先找出與當天最相似的k天,然后將這k天的旅行時間平均值作為當前時刻的旅行時間；BP神經網絡模型[5]通過訓練樣本數據,修正該模型兩個重要參數(網絡權值和網絡閾值),從而使得誤差函數沿著負梯度的方向下降,最終使得結果和期望值越來越接近；卡爾曼濾波算法[6]估計并預測旅行時間,一旦有新的觀測值便更新預測結果。

近年來人工智能的蓬勃發展,深度學習逐漸出現在人們的視線之中。深度學習的概念最早是由Hinton等人于2006年提出,Hinton基于深度置信網絡(DBN)改進優化,提出非監督貪心逐層訓練算法,解決了當時對深層結構難優化、難處理的問題[7]。深度學習神經網絡來源于傳統神經網絡,又高于傳統人工神經網絡,遠遠多于傳統人工神經網絡的層數讓深度學習更接近人類的大腦結構,學習能力較強,尤其是處理時間序列相關的數據結構。

基于深度學習算法在處理深層結構相關的難題上所體現出的優勢,國內外均有較多的研究人員參與此方向研究。C Siripanpornchana 等[8]基于深度置信網絡(DBN),通過對DBN的優化,提出旅行時間預測模型:使用一組受限玻爾茲曼機(RBM)來以非監督方式從數據中自動獲取一般的交通特征,然后用Sigmoid這一邏輯回歸函數以監督方式預測旅行時間,實驗結果表明其提出的置信網絡在預測精度方面表現優異；Zhang等[9]提出一種適用于高速公路的棧式自編碼器模型,該模型的主要過程是:通過高速路口的收費站獲取車輛通過的時間差,以此得到單小時的平均速度,然后用歷史數據訓練該棧式自編碼器模型,最后用前3個小時的旅行時間數據預測下1個小時的旅行時間,實驗結果表明，和傳統BP神經網絡相比,該方法均方根誤差降低了13.6%；鑒于當前交通相關研究未將時空特性很好的應用到速度預測上來,Wang等[10]提出一種誤差反饋遞歸神經網絡結構(ErCNN),通過整合相鄰路段的時空交通速度作為輸入,利用相鄰路段之間的隱式相關性,以提高預測精度。通過進一步將單獨的誤差反饋神經元引入遞歸層,ErCNN從誤差中學習,以解決早高峰和交通事故等突發事件所帶來的問題；Duan等[11]利用Highways England所提供的旅行時間數據,構造了66組LSTM神經網絡,用于數據集中的66個環節,通過模型訓練和驗證,得到每個鏈路在設定范圍內的最優結構,然后在測試集上進行預測,實驗結果表明平均相對誤差較小,考慮序列關系的神經網絡模型在交通預測中具有廣泛的應用前景。

綜上所述,綜合深度神經網絡在處理復雜函數的高效、超強的計算能力以及最接近人類大腦結構的特點，它能給城市道路旅行時間的預測帶來新的發展方向。本文基于深度學習神經網絡結構,提出改進的時間型LSTM(長短期記憶神經網絡),并把它應用于實際的旅行時間預測中,取得了較好的預測效果。

1 改進T-LSTM預測模型

1.1 LSTM(長短期記憶神經網絡)模型

LSTM的出現是為了解決RNN(Recurrent Neural Network)的長期依賴問題,簡而言之,就是RNN在處理時間序列較長的情形下,容易出現梯度消失的問題。所以,LSTM廣泛地用于處理和預測時間序列延遲相對較長的情況。基于這一特點,將LSTM應用于對歷史數據要求較高的交通領域是很有必要的。

LSTM模型的鏈式結構如圖1所示,和多數循環神經網絡一樣,均由重復的模塊組成(圖中A代表一個模塊)。

圖1 LSTM鏈式結構

LSTM的模塊主要由三個門控制組成,由左至右主要由輸入門、遺忘門和輸出門。輸入門決定加入哪些新信息it、遺忘門決定舍棄哪些信息ft、輸出門決定輸出ht。

1.2 旅行時間預測模型

本文針對交通旅行時間的特點提出改進的T-LSTM預測模型,改進內容主要包括以下兩方面:

1)將一天96個時間段作為數據和旅行時間作為二維數組輸入(充分利用時間在交通中的重要作用,在不同天的同一時刻的交通流情況具有相似性,以此來提高預測精度);

改進T-LSTM的訓練算法超參數:隱藏層個數:100輸入層維數:2輸出層維數:1學習率:0.0006輸入:訓練集Xtraining={x1,x2,…,xt} 和測試集Xtesting={xt+1,xt+2,…,xn}輸出:訓練完成的T-LSTM模型主要步驟: 步驟1:分割數據集1. 定義輸入層、輸出層的權重、偏置2. 對X按列進行MinMax縮放3. 訓練集X和Y初定義4. 分割數據集后得到返回值train-x,train-y,test-x,test-y以及bach-index 步驟2:LSTM層5. 設置bach-size、time-step、輸入權重和偏置6. tensor轉為2維進行計算,結果作為隱藏層輸入;tensor轉為3維,作為cell輸入,cell定義7. 使用訓練集Xtraining={x1,x2,…,xt}利用LSTM公式進行前向遞推計算,更新網絡狀態,同時計算得到預測值8. 得到輸出層權重、偏置 步驟3:訓練模型9. 定義損失函數loss10. 重復訓練30 000次,每百次輸出一次損失值,同時保存模型11. 得到預測結果test-predict, 以及誤差rmse,acc等值

2 實驗及結果

2.1 數據來源

本文采用的實驗數據來源于Highways England[12]。Highways England綜合多個數據源,包括車牌自動識別攝像機、車載GPS以及道路中的感應線圈,并使用臨近時刻或其他天同一時刻的旅行時間補全缺失的旅行時間。最終,Highways England提供各個路段在各個時刻的旅行時間數據。數據中一個時刻指的是15分鐘,所以每個路段每天有96個時刻的旅行時間數據。每個路段每個時刻的旅行時間數據實際值指的是該時刻內從該路段起點出發的所有車輛完成路段所需時間的平均值。本文使用的是2015年道路AL1000(A38位于A513和A5127中間的部分)路段的旅行時間數據。

本文以29:1的比例劃分訓練集以及測試集,即將數據集的前29天用來訓練,后1天用來測試。

2.2 評價指標

預測的評價指標主要包括平均相對誤差(MRE)、平均絕對誤差(MAE)、均方根誤差(RMSE)以及平均絕對百分誤差(MAPE)。鑒于MAPE不僅考慮測量值和真實值之間的誤差,最后還以誤差占真實值的百分比形式展現,能很好地反映預測的誤差。故本文選擇平均絕對百分誤差(Mean Absolute Percentage Error,MAPE)指標來評估路段旅行時間預測方法的性能,其計算公式如式(1)所示。

(1)

2.3 模型說明

本文采用時間相關LSTM模型,基于Highways England的數據集,將一天分為96個時刻,即將時刻數據和旅行時間數據兩組數據同時作為輸入,預測結果作為輸出。同時,模型是在Google的第二代分布式機器學習系統Tensorflow[13]上運行的,TensorFlow在設計神經網絡結構的簡潔度,分布式深度學習算法的執行效率以及部署的便利性等方面均有優勢。

2.4 效果評價

首先固定訓練次數,通過調節LSTM隱藏層的節點數來得到最優模型,比較MAPE值來選取最優的隱藏層節點數。其比較結果如圖2所示：最優的節點數為100。

圖2 不同節點數條件下MAPE值對比

時間型LSTM模型與支持向量機模型、時間序列ARIMA模型、kNN(k-Nearest Neighbor)模型、以及傳統BP神經網絡模型的旅行時間預測精度對比如圖3所示：LSTM預測方法優于其他四種模型。雖然改進T-LSTM較T-LSTM只提高了1%,但運行速率更快(由35分鐘縮短到15分鐘),說明改進時間型LSTM模型在道路旅行時間預測方面有較大的優勢和發展前景。

圖3 LSTM模型與其他模型MAPE對比

最后將每四個時刻的值合并,得到單小時的預測值,畫出相應的曲線對比圖4所示。erf函數的引入使得收斂時間更短,且erf函數值更集中,從而達到減少訓練時間和提高預測精度的目的。

從圖4中可以看出,改進T-LSTM模型的預測趨勢和真實值的趨勢很接近,有較好的預測效果。

圖4 改進T-LSTM模型與真實值對比

3 結束語

本文在介紹了深度學習中的長短期記憶神經網絡(LSTM)的概念和工作原理的基礎上,考慮改進時間相關LSTM神經網絡架構,對深度學習在城市交通旅行時間的預測方向進行了研究和探索。首先,固定模型訓練的次數,測試不同的隱藏層節點數的預測性能,其次將改進的T-LSTM模型與T-LSTM模型,支持向量機模型、時間序列ARIMA模型、kNN(k-Nearest Neighbor)模型、以及傳統BP神經網絡模型進行了對比分析。實驗結果表明,相比于支持向量機模型、時間序列ARIMA模型、kNN(k-Nearest Neighbor)模型，以及傳統BP神經網絡模型,改進的時間型LSTM模型在訓練效率以及預測精度上都有較大的優勢。

基于深度學習的旅行時間預測方法減少了人為因素的干預,且具有自動融合復雜因素的潛力,適合應用在大規模路網中路段旅行時間預測。在人工智能(AI)的大背景下,深度學習在交通方面的應用將會越來越多,研究成果對于我們生活工作的影響也會越顯著。