基于改進時空殘差卷積神經網絡的城市路網短時交通流預測

包銀鑫，曹 陽，2，施 佺，2*

（1.南通大學信息科學技術學院，江蘇南通 226019；2.南通大學交通與土木工程學院，江蘇南通 226019）

0 引言

隨著我國城市化進程的加快，交通基礎設施得到極大的改善。然而，汽車數量的日益增長，導致城市交通擁堵問題越發嚴重。實時準確地獲取城市交通流信息，對出行者和交通管理部門具有重要意義［1］。近些年來，研究人員嘗試了多種方法來提高交通流的預測精度。這些方法大體分為兩類：模型驅動方法和數據驅動方法［2-3］。

模型驅動方法也稱為參數方法，該方法根據數學理論假設預先確定模型，用少量數據去擬合模型，實現交通流預測目的。這種方法存在模型結構固化、假設情況與實際交通狀態不符等問題，導致預測模型在實際應用中預測精度不高。常用的有時間序列模型［4］、卡爾曼濾波模型［5］等。與模型驅動方法不同，數據驅動方法可以很好反映交通數據的不確定性，數據驅動方法分為傳統機器學習方法和基于深度學習的方法。傳統機器學習方法中的支持向量機（Support Vector Machine，SVM）［6］、貝葉斯模型［7］、K最近鄰（K-Nearest Neighbor，KNN）［8］等都被用于交通流預測。盡管傳統機器學習相比模型驅動方法可以從交通數據中學習統計規律，但處理高維度復雜數據時預測精度會大打折扣［9］。

隨著深度學習的興起，具有高維數據處理和非線性數據特征挖掘能力的深度神經網絡模型受到越來越多研究人員的青睞。Lv 等［10］在實驗中證明了基于深度學習架構的神經網絡對高維數據的處理能力。Polson 等［11］證明深度神經網絡比單隱藏層的神經網絡更能捕捉交通狀態的非線性。此外，深度置信網絡（Deep Belief Network，DBN）［12］、時滯神經網絡（Time Delay Neural Network，TDNN）［13］也被用于交通流預測。城市路網每一個區域的交通流會受到相鄰區域和上一個時間段的交通流影響，上述模型每次只能提取部分區域的交通流信息，僅依靠部分區域的信息來預測交通流遠遠不夠。

計算機視覺和圖像識別領域的發展，推動了深度卷積神經網絡的發展，卷積神經網絡（Convolutional Neural Network，CNN）可以通過卷積算子實現對圖像空間特征的捕獲［14］，這一特性啟發研究人員考慮使用卷積算子挖掘交通流的空間特性，Ma 等［15］將交通網絡利用灰度算子轉化為灰度圖像，將圖像轉化為二維時空矩陣來預測交通速度，該模型雖有效捕獲了交通流空間特征，但忽視了交通流的時間特性。循環神經網絡（Recurrent Neural Network，RNN）被廣泛用于處理交通流時間特性，王祥雪等［16］使用RNN 對交通流情況進行預測，但RNN 容易受到梯度消失的影響，難以捕獲長期時間特性。因此，RNN 的改進模型長短期記憶（Long Short-Term Memory，LSTM）網絡［17］和門控遞歸單元（Gated Recurrent Unit，GRU）網絡［18］常被用于交通流預測。RNN 及RNN 改進模型有效捕獲了交通流的時間特性，但無法捕獲交通流的空間特性。為充分挖掘交通流的時間和空間特性，考慮交通流時間和空間信息的時空混合模型ConvLSTM（Convolutional LSTM）［19］被提出來，相較于僅考慮單一特性的預測模型提高了交通流的預測精度。由于混合模型結構的復雜性，模型的訓練會隨著網絡層數的增加而變得困難，He 等［20］針對網絡深度增加而模型訓練精度下降的問題，在深度網絡結構中引入殘差單元提高模型的訓練精度。Zhang 等［21］在交通流預測中引入時空殘差網絡（Spatio-Temporal Residual Network，ST-ResNet），該方法將城市劃分為時空柵格矩陣，利用卷積操作和殘差搭建ST-ResNet 模型，提高模型的時空間依賴性。Guo 等［22］在ST-ResNet 網絡的基礎上引入兩種時間模式，提高了模型對時空特性的自動捕獲能力。Guo 等［23］在兩種時間模式的基礎上，引入天氣、節假日等外部因素，實現了交通流動態特征的捕獲。趙建立等［24］和Zheng 等［25］分別通過改進殘差網絡的模型結構，實現了交通流預測效果的提升。

如何有效挖掘交通流的時間和空間相關性是交通流的重點研究方向之一。為了充分挖掘交通流的時間相關性和空間相關性，針對傳統時空殘差模型缺乏對交通流數據進行相關性分析、捕獲微小變化容易忽略長期時間特征等問題，本文提出一種基于改進時空殘差卷積神經網絡的城市路網短時交通流預測方法，實現對周期序列和鄰近序列長期時間特征的捕獲，從而降低訓練誤差，提高城市路網短時交通流預測的精度。

1 問題描述

城市路網交通流預測是一個典型的時空序列預測問題，如圖1 所示，將城市路網轉化成I×J的交通柵格網絡，每一個柵格代表一個區域的交通狀態，這種狀態可以表示當前區域的車流量或者擁擠情況，將柵格網絡記作X={xi，j}。將處理后的車輛定位數據按照固定時間間隔統計到每個柵格中，對于每一個位置(i，j)∈R 表示在時間間隔ΔT時，位置(i，j)中的交通狀態，將所有I×J位置的觀測值都表示成張量Xt∈RI×J。因此，城市網絡的交通流預測問題可以轉化為交通柵格數據預測問題，給定歷史交通柵格數據{Xt|t=0，1，2，…，k}，目標是預測時間間隔k+1 時刻的交通柵格數據Xt+Δk，其中t是給定的最后一條歷史數據，Δk是所要預測的時間節點和給定的最后一條歷史數據所在時間節點的時間差。

圖1 交通柵格數據轉化Fig.1 Traffic grid data transformation

2 時空殘差模型

城市路網交通流不僅受到相鄰時間段交通流的影響，還受到鄰接路口的影響，因此城市路網交通流波動具有一定的時間和空間相關性。為了充分挖掘城市路網的時空相關性，本文以傳統的時空殘差模型作為改進時空殘差卷積模型的基本框架。傳統時空殘差模型主要是由2D 卷積和殘差單元構成，其基本結構如圖2 所示。利用2D 卷積挖掘路網的空間特征，將2D 卷積與殘差單元結合挖掘路網的時間特征，得到時空殘差輸出Xt，最后通過激活函數得到最終預測值。

圖2 傳統時空殘差模型結構Fig.2 Structure of traditional spatio-temporal residual model

2.1 2D卷積

交通柵格數據中每個網格的數據都受到鄰近網格的影響，不同網格之間具有復雜的空間相關性。使用2D 卷積對空間特征進行挖掘，卷積操作來源于圖像處理中的CNN，對圖像做卷積操作的目的在于從簡單特征中提取復雜特征。將交通柵格數據看作一張二維圖片，對其進行卷積操作可以挖掘局部空間特征。其中，2D 卷積特指對二維矩陣進行卷積操作，一般將公式定義為：

其中：Xl-1為第l層卷積層的輸入，Wl為第l層卷積層的卷積核參數，Xl為第l層卷積層的輸出，bl為第l層卷積層的偏置項，L為總共需要卷積的層數。圖3 為2D 卷積示意圖，低層特征維度為4× 4，卷積核維度為3× 3，移動步長設置為1，最后輸出維度為2× 2。

圖3 2D卷積示意圖Fig.3 Schematic diagram of 2D convolution

2.2 殘差單元

堆疊多個2D 卷積可以實現對路網空間特征和時間特征的提取，但隨著卷積層深度的增加，模型的訓練和精度都會隨之下降［21］，因此引入殘差單元來提高模型的訓練精度。殘差單元主要用來突出微小的變化，與2D 卷積結合可以更好地發現時間特征，殘差模塊結構如圖4 所示，殘差單元公式定義為：

圖4 殘差模塊結構Fig.4 Structure of residual module

其中：Zl-1為第l層殘差單元的輸入，Zl為第l層殘差單元的輸出，θl為第l層殘差單元中所有可學習的參數集合，F為殘差映射，L為總共需要殘差操作的層數。

3 改進時空殘差卷積神經網絡

針對傳統時空殘差模型處理城市路網交通流時缺乏對交通流數據進行相關性分析、捕獲微小變化容易忽略長期時間特征等問題，提出改進時空殘差卷積神經網絡。首先，對時間序列引入皮爾遜相關系數的分析，確定相關性高的周期序列和鄰近序列；同時，建立周期序列模型和鄰近序列模型，引入LSTM 網絡作為混合模型提取時間特征，捕獲周期序列和鄰近序列的長期時間特征；最后，輸出加權融合為Xf，通過激活函數得到模型預測值，其改進時空殘差卷積神經網絡模型結構如圖5 所示。

圖5 改進時空殘差卷積神經網絡結構Fig.5 Structure of improved spatio-temporal residual convolutional neural network

3.1 相關性分析

已知一組交通柵格數據序列{Xt|t=0，1，2，…，k}，k是最后一個時間節點。采用皮爾遜相關系數對交通柵格數據進行周期序列和鄰近序列的相關性分析，規定周期序列與預測節點Xt的間隔大于1 d，鄰近序列與預測節點Xt的間隔小于等于1 d。皮爾遜相關系數公式為：

其中：xi為目標交通柵格數據，yi為待比較的交通柵格數據，σx為目標交通柵格數據的樣本總體標準差，σy為待比較交通柵格數據的樣本總體標準差。根據皮爾遜相關系數可以將原始交通柵格數據序列劃分成周期序列輸入Xt-w={Xt-w+1，Xt-w+2，…，Xt-w}，鄰近序 列輸入Xt-c={Xt-c+1，Xt-c+2，…，Xt-c}。

3.2 混合模型

為了避免殘差網絡操作后丟失交通柵格數據長期特征，在周期序列模型和鄰近序列模型中引入LSTM 網絡，LSTM 可以解決RNN 對長期信息依賴的缺失，避免梯度消失和梯度爆炸現象。LSTM 網絡結構如圖6 所示，通過遺忘門、輸入門和輸出門實現對數據的輸出。其中，遺忘門決定從前邊時間狀態中丟棄多少信息。輸入門決定采取多少新信息輸入當前時間狀態。輸出門決定輸出的值。LSTM隱藏單元計算公式為：

圖6 LSTM網絡結構Fig.6 Structure of LSTM network

其中：x（t）為當前時刻的輸入，h（t）為當前時刻的單元輸出，h(t-1)為上一時刻的單元輸出，s(t)為當前時刻的單元狀態，s(t-1)為上一時刻的單元狀態，g(t)為用于描述當前輸入的單元狀態，f(t)為遺忘門，i（t）為輸入門，o(t)為輸出門，Wix、Wfx、Wox、Wgx分別為三個門和單元狀態的輸入層權重，Wih、Wfh、Woh、Wgh分別為三個門和單元狀態的隱藏層權重，bi、bf、bo、bg分別為三個門和單元狀態的偏置項，σ為Sigmoid激活函 數，σ(x)=1/(1+e-x)，“*”為哈達瑪積（Hadamard product）。

3.3 周期序列模型

由于交通流具有明顯的周期性，如圖7 所示，隨著季節的變化，交通流也會呈現出某種趨勢變化。為解決上述問題，建立周期序列模型，周期序列模型由兩個組件構成，包括2D 卷積和混合模型LSTM，用來學習交通流的周期性特征和趨勢，將周期序列模型2D 卷積操作定義為：

圖7 交通流周期性變化Fig.7 Periodic changes in traffic flow

其中：為周期序列模型第l層卷積層的周期序列輸入，為周期序列模型第l層卷積層的卷積核參數，為周期序列模型第l層卷積層的周期序列輸出，為周期序列模型第l層卷積層的偏置項，Lw為周期序列模型總共需要卷積的層數。

將經過多層2D 卷積操作的輸出，輸入混合模型LSTM提取長期時間特征，操作定義為：

其中：Xw為周期序列模型的最終輸出，LSTMw為周期序列模型的LSTM 操作。

3.4 鄰近序列模型

交通流在時間相關性上受到周期性和鄰近性的影響，并且鄰近性的影響一般更為明顯，比如在某個路口發生堵塞，那這個堵塞勢必會對一段時間后的交通流產生影響。為解決上述問題，引入鄰近序列模型，鄰近序列模型由三個組件構成，包括2D 卷積、殘差單元和混合模型LSTM，用來學習交通流的鄰近性特征，鄰近序列模型的2D 卷積操作定義為：

其中：為鄰近序列模型第l層卷積層的輸入，為鄰近序列模型第l層卷積層的卷積核參數為鄰近序列模型第l層卷積層的輸出為鄰近序列模型第l層卷積層的偏置項，Lc為鄰近序列模型總共需要卷積的層數。

鄰近序列經過2D 卷積操作后，輸入到殘差單元，殘差單元操作為：

其中：為鄰近序列模型第l層殘差單元的輸入，為鄰近序列模型第l層殘差單元的輸出，為鄰近序列模型第l層殘差單元中所有可學習的參數集合，F為鄰近序列模型的殘差映射，Lrc為鄰近序列模型總共需要進行殘差操作的層數。

為了提高對長期特征的捕獲能力，鄰近序列經過殘差單元輸出后，輸入到混合模型LSTM 提取長期時間特征，操作定義為：

其中：Xc為鄰近序列模型最終的輸出，LSTMc為鄰近序列模型的LSTM 操作。

3.5 融合

周期序列模型和鄰近序列模型的輸出分別為Xw和Xc，兩種模式在城市交通流中分別具有一定權重，兩種模式的權重會隨著交通環境的變化而具有不同的比重。在某些環境中，周期序列模型所占的比重較大；而在其他環境中，鄰近序列模型所占的比重較大，因此，將兩種輸出進行加權融合。從歷史數據中學習權重值，權重融合后連接激活函數進行輸出：

其中：Ww和Wc分別代表周期序列模型和鄰近序列模型所占比重，f為激活函數，設置激活函數為Sigmoid 函數。

4 實驗與結果分析

4.1 數據集及評價指標

4.1.1 數據來源

數據來源于2014 年8 月3 日到2014 年8 月30 日的成都市出租車經緯度數據，數據全部采集于真實道路，數據獲取于百度網盤［26］。該實驗數據記錄了成都市早上6 點到晚上12 點的出租車運行情況。以成都市繞城公路為邊界將成都市城市路網轉化為交通柵格網絡，進行數據預處理后，將數據映射到柵格網絡中，以5 min 為采樣間隔，共計生成6 048個交通柵格數據記錄，每條記錄代表一個時刻的城市路網擁擠狀態，一天共有216 個交通柵格數據，共計28 d。在本文中，每個網格狀態代表當前區域的擁擠程度，將當前網絡中出租車的數量作為擁擠程度的度量。將柵格網絡劃分為24×24 維度以直觀分析區域擁擠情況，具體參數如表1。實驗中將前三周的數據作為訓練集，最后一周的數據作為測試集。原始數據映射到交通柵格網絡的判別函數如下：

表1 數據集參數Tab.1 Dataset parameters

其中：Min（lon（xi，j））代表交通柵格網絡xi，j位置的經度最小值；Max（lon（xi，j））代表交通柵格網絡xi，j位置的經度最大值；Dlon（n）代表原始數據的經度；Min（lat（xi，j））代表交通柵格數據網絡xi，j位置的緯度最小值；Max（lat（xi，j））代表交通柵格數據網絡xi，j位置的緯度最大值；Dlat（n）代表原始數據的緯度。式（16）用來判別第n條記錄的原始數據記錄的車輛定位是否在xi，j網格中。

4.1.2 相關性分析

交通柵格數據生成后，以柵格數據x7，3為例，利用式（3）對其進行相關性分析，得到相關性曲線如圖8 所示，圖8（a）中得到與預測時間節點相鄰14 天的相關性變化趨勢，其中相鄰一天的相關性最高，因此將相鄰一天的交通柵格數據作為周期序列模型的輸入。圖8（b）中得到與預測時間節點相鄰一天內的相關性變化情況，與其相鄰的時間節點相關性較高，因此將相鄰的3 個時間間隔作為鄰近序列模型的輸入。

圖8 交通柵格數據的相關性分析Fig.8 Correlation analysis of traffic grid data

4.1.3 評價指標

使用均方根誤差（Root Mean Square Error，RMSE）和平均絕對誤差（Mean Absolute Error，MAE）來測試模型訓練效果，兩者公式為：

其中：yi為交通流數據真實值，為模型預測的交通流數據，m為樣本數量。

4.2 模型參數設置

實驗基于深度學習框架Pytorch-GPU 開發，使用Adam 優化器對模型進行優化，設置訓練步長為0.000 01，BATCH_SIZE為每次訓練樣本數，設置為20，迭代次數設置為800，模型結構其他參數如表2 所示。

表2 改進時空殘差卷積神經網絡模型結構參數Tab.2 Structural parameters of improved spatio-temporal residual convolutional neural network model

4.3 結果分析

4.3.1 預測結果可視化

模型參數設置完成后，利用訓練集對模型進行訓練，將數據輸入模型前，需要對數據進行標準化處理，降低不同量綱的影響，采用式（19）進行計算：

其中：xreal為交通柵格數據中一個時間段數據，μ(X)為交通柵格全體數據的平均值，σ(X)為交通柵格總體數據的標準差。

將標準化后的數據輸入模型進行訓練，利用測試集對模型進行訓練，圖9 展示了柵格網絡x7，3在2014 年8 月26 日中的交通流真實值和預測值對比，可以看到，該模型能較好地挖掘交通流的時間特性。圖10（a）展示了成都市在某一時刻的整體車流量情況，圖10（b）為預測出的交通柵格圖，模型能較好地挖掘城市網絡的空間特性。

圖9 2014年8月26日x7，3 路口車流量真實值與預測值對比Fig.9 Comparison of real and predicted traffic flow values at intersection x7，3 on August 26，2014

圖10 城市路網車流量真實值與預測值Fig.10 Real value and predicted value of traffic flow in urban road network

4.3.2 性能對比

為驗證模型的優越性，選取LSTM、CNN、ST-ResNet 作為基準模型進行模型對比。每個基準模型參數設置都與本文模型參數設置對標。為了測試每個模型的性能，使用基準模型和本文改進的模型對路網的數據進行預測，使用測試集7 d 的路網數據作為模型輸入，利用均方根誤差（RMSE）和平均絕對誤差（MAE）比較模型輸出結果，得到模型平均測試結果如表3 所示。

表3 模型性能比較結果Tab.3 Model performance comparison results

根據表3 實驗結果發現，本文模型綜合預測性能最優；LSTM 是基于時間序列的預測模型，對于交通流時空特性中的空間特性捕獲能力較弱；CNN 作為傳統的挖掘空間特性的預測模型，難以捕捉交通流中的時間特性；傳統殘差模型在處理城市路網交通流時，沒有對時間序列進行篩選，容易捕獲相關度低的時間序列，并且殘差方法在捕獲變化微小特征時，容易忽略長期時間特征等問題。

圖11 給出了不同模型對測試集中一天路口交通流數據的擬合情況。

圖11 模型預測數據擬合對比Fig.11 Comparison of model prediction data fitting

圖12 為傳統殘差模型和本文模型針對城市路網的預測對比圖，可以發現傳統的時空殘差模型在面對復雜交通網絡時，可以較好地捕捉空間特征，但是時間特征捕獲能力相對較差。

圖12 本文模型與傳統殘差模型預測效果對比Fig.12 Prediction effect comparison between the proposed model and traditional residual model

圖13 給出了改進時空殘差卷積模型測試集7 d 的RMSE和MAE 比較結果。綜合實驗結果可知，本文模型在預測城市路網數據中相比其他模型具有較高的準確性。

圖13 測試集上RMSE和MAE比較結果Fig.13 RMSE and MAE comparison results on test set

5 結語

針對城市路網交通流預測受到時空相關性的影響問題，本文提出一種基于改進時空殘差卷積神經網絡的城市路網短時交通流預測模型，對交通柵格數據進行皮爾遜相關系數分析，確定相關性高的周期序列和鄰近序列，提高了模型輸入數據的關聯性；建立周期序列模型和鄰近序列模型分別對兩種序列數據進行處理，引入LSTM 神經網絡作為混合模型提取時間特征，實現了對周期性和鄰近性的長期時間特征的捕獲。采用成都市出租車數據驗證模型預測效果，結果顯示該模型預測精度優于其他基準模型，表明考慮交通流相關性的時空混合模型對城市路網交通流預測是一個較好的嘗試。下一步將重點對模型結構固化問題進行研究，使模型在復雜城市路網下具有較強的適應能力。