基于變分自編碼器的交通流預測算法
2025-11-15 00:00:00崔文源滕飛賀百勝胡曉鵬仇戈
鄭州大學學報(理學版) 2025年4期
中圖分類號： TP399 文獻標志碼： ADOI： 10. 13705 / j. issn. 1671-6841. 2023166
文章編號： 1671-6841（2025）04-0040-07
Abstract： In order to solve the problem that the existing traffic flow prediction models could not fully mine the spatio-temporal dependence of complex and dynamic traffic flow data， a traffic flow prediction model based on variational autoencoder （ AST-VAE） was proposed. Firstly， the variational inference and residual decomposition mechanism were used to separate the traffic flow signal into hidden diffusion signal， intrinsic signal and random signal. The temporal and spatial correlations in the three signals were then extracted using different learning modules. Finally， the three multi-dimensional features were fused to capture the global spatio-temporal dependence. With two real traffic datasets， the effectiveness and feasibility of the specific modules of the model were analyzed， and the experimental results showed that AST-VAE was always better than the existing models in the traffic flow prediction task， and the error was low， and it had good prediction performance.
Key words： traffic flow prediction; variational autoencoder; spatio-temporal dependence
0 引言
我國城市化進程的加快帶來了交通擁堵等問題，準確的交通流預測可以為城市的交通管控與車輛調度提供有價值的建議，減少交通事故發生[ 1]目前交通流預測方法可以大致分為統計學方法、機器學習方法和深度學習方法。
統計學方法通過大量數據來搭建時間序列數學模型，例如歷史平均法（ HA）、自回歸積分移動平均模型（ARIMA）等。 研究者們根據 ARIMA 模型又進行了 改 進， Van Der Voort 等[ 2] 提 出 了 KARIMA 模型，提升了預測的準確性與健壯性。 楊高飛等[ 3] 結合 ARMA 模型和卡爾曼濾波模型來預測交通流量，解決了 ARMA 模型在復雜道路情況下預測精度不高的問題。 Williams 等[ 4] 使用 SARIMA 模型進行了交通流量預測，實驗結果表明，相較于其他時間序列模型，SARIMA 模型的預測結果更為穩定。
機器學習預測方法可以對歷史交通流數據進行特征提取。 SVR、SVM 借助支持向量與核函數對交通數據分別處理，在小樣本和高維度上取得了不錯的效果[ 5-6] 。 楊兆升等[ 7] 提出了一種基于 SVM 的短時交通流預測。 SVM 和 SVR 通過將非線性數據映射到高維空間來實現預測。 Lippi 等[ 8] 提出了兩個基于季節性核的支持向量回歸模型，提高了交通流預測的準確性，但是需要消耗較高的計算資源。
深度學習以其優秀的性能而被廣泛應用[9]Zhao 等[10] 提出 T-GCN 用于短時交通預測，這是一種將 GCN 和 GRU 相結合的模型。 Graph WaveNet[11] 是一種基于圖卷積和空洞卷積相結合的模型，采用節點嵌入的方式，學習自適應依賴性矩陣，從而精確地捕獲數據中隱藏的空間依賴關系。 Pan 等[12] 考慮了節點和道路的元信息，學習交通流預測中的時空相關。Guo 等[13] 將切比雪夫圖卷積和一維卷積結合起來進行交通流量預測，設計了注意力模塊，能夠動態地調節時空序列在時間和空間維度上的相關性強度。 Bai等[14] 提出了時間卷積網絡（TCN），TCN 通過多層堆疊和膨脹卷積來擴大它的感受域，以此來捕獲序列之間的長期相關性，然而多層的 TCN 堆疊會導致模型學習能力下降[15] 。 Zheng 等[16] 提出一種圖多注意力模型，集合了空間注意力、時間注意力和變換注意力。STSGCN[17] 是一種時空同步圖卷積網絡模型，它構造多個局部時空圖來同步捕獲時空依賴關系，但是它學習的參數是靜態的，無法建模交通流數據的動態性與異質性。
目前工作都集中在提升準確度上，鮮有研究從交通序列中去分析交通流數據產生的根本來源，因此本文從數據的角度出發，提出了一種基于變分自編碼器的交通流預測模型（ AST-VAE）。 本文的主要貢獻包括以下 3 個方面。
1） 提出一種基于變分自編碼器的交通流序列分離模型，通過變分推斷和殘差降解來分離交通流信號中隱藏的擴散信號、固有信號和隨機信號，對不同來源的隱藏信號分別進行有效建模。
2） 基于分離模型設計三種不同信號學習模塊捕獲不同信號的時間相關性和空間相關性。
3） 基于兩個真實的交通數據集對模型進行有效性與可行性分析，結果表明 AST-VAE 始終優于現有模型。
1 問題定義
本文基于給定的路網傳感器拓撲結構 G 和歷史交通流特征矩陣 X ， 使用模型 f（?） 預測未來 J 時間步的交通流量信息，表示為[Xt+1，Xt+2，…，Xt+J]=f（（Xt-n，Xt-n+1，…，Xt），G） ，其中： n 代表歷史序列長度; J 表示預測序列長度。
2 模型實現
AST-VAE 的模型框架如圖 1 所示，模型由多個時空分離學習層和全局時空依賴模塊組成，時空分離學習層包括分離模塊和三個學習模塊。
圖 1 AST-VAE 模型框架
Figure 1 The structure of AST-VAE
2. 1 分離模塊
2. 1. 1 概率編碼器和序列生成器 變分自編碼器通過概率編碼器和序列生成器學習所有傳感器在每個時間步 χt 的觀測值 xt 的擴散信號參數化分布。 編碼器處理輸入的信息序列推斷后驗分布 Pθ（z|x） ，生成器通過門控采樣機制和 LSTM 解碼編碼狀態，匯總輸入的信息序列，生成交通信號擴散部分的概率分布。
變分自編碼器的生成目標是在生成模型 Pθ（xt′）= 
下最大化觀測值 xt 的概率，其中： Pθ（xt′∣zt） 指生成模型; Pθ（zt） 是隱變量的概率分布。 隱變量概率分布與輸入數據無關，所以變分自編 碼 器 的 核 心 是 求 解 z 的 近 似 后 驗 分 布qφ（z∣x） ， 推斷該分布的均值 μ 和方差 ε 。 該分布捕捉傳感器探測到的交通流量 xt 的變化，其中 φ 表示要推斷的參數。
本節采用 LSTM 對交通流信號進行編碼，獲取傳感器節點的上下文信息。 解碼器模型 Pθ（x′∣z） 建模概率分布 p（x′∣z） ， 即解碼隱變量輸出重構數據 分 布， 數 據 的 條 件 分 布 生 成 過 程 為Pθ（z）Pθ（x′∣z） 。 為了方便計算，將目標優化函數轉 化 為 最 大 化 證 據 下 界 ELBO （ evidence lowerbound） ，計算公式為
其中： 
表示向量拼接。
2. 1. 2 門控采樣機制 現實世界的交通數據具有全局周期性和局部周期性，因此本文設計了基于時間的周周期性張量和日周期性張量，引入兩個時間嵌入矩陣 AD∈RN×C×d ， 
， 其中： A? 中的N 為一天中傳感器的采樣頻次; C 為特征維度，表示當前的門值需要過去 d 天相同時間段的 χt 個交通圖信號; A?ψ 中 N 表示一周的 7 天; C 為特征維度，表示當前門值需要前 d 周內有相同星期屬性的 χt 個交通圖序列數據。 在時間位置編碼時，引入一個時間位置嵌入矩陣 T∈RM×Q×D ， M 表示路網節點個數， Q 和 D 表示節點在時間上的相對位置。 在空間位置編碼時，設計一個節點嵌入矩陣 E∈R?N×C ， 表示每一個節點空間位置設置一個向量表示，其中 N 為節點個數， C 為特征維度。 T 和 E 為輸入前預先定義好的時間位置信息與空間位置信息，輸入模型后將表示時間周期性的矩陣 A? 和 A?ψ 作為參考，將這些特征拼接在一起通過兩個全連接層產生對應的閾值，采樣機制可以表示為
Xout=ε?z，
其中： W1，W2 是可學習參數; ‖ 表示向量拼接;sigmoid、ReLU 為非線性激活函數; ? 為向隱向量空
間中的隱變量逐元素乘積。
2. 2 殘差降解機制
本文設計了殘差降解機制，以信息重構方式去除已經分離出來的交通流信號。 通過分離時空層中每個模塊的回退分支重新構造學習知識，回退分支的信號輸出返回到原始輸入信號中，通過一個殘差連接將估計后的信號從原始信號中刪除，保留還未充分分解的信號，實現信號的逐步分解。 在第一個交通擴散信號的分離后，經過殘差降解，得到了交通固有信號的輸入，
Xinh=Xori-Xbdiff=Xori-σ（PdiffW），
其中： Xori 是原始信號的輸入; Xinh 表示固有信號;Xbdiff 表示分支回退的未充分分解的信號，代表輸出的交通流擴散信號; W 為可學習參數，采用非線性的多層感知機制去除第一次已分離出來的擴散信號。 同理，按照此方法，利用回退分支的殘差連接，可以繼續分離信號中的交通流固有序列，得到信號中的隨機和不確定序列，分別計算為
Xran=Xinh-Xbinh=Xinh-σ（PinhW），
Xres=Xran-Xbran=Xran-σ（PranW），
其中： Xran 為交通流的隨機序列，最后隨機序列殘差降解后剩余的序列為 Xres ， 則會進入下一個時空分離層。
2. 3 局部時空依賴模塊
本節設計了一種并行的局部時空學習模塊，由空間注意力模塊和時間注意力模塊構成。
2. 3. 1 空間注意力模塊 任意時刻自適應子圖學習模塊可以在不同時刻根據道路交通信息生成不同的鄰接子圖，從而刻畫 χt 時刻節點的時空關聯關系的動態強度。
本文 將 自 適 應 學 習 機 制 與 圖 注 意 力 網 絡（GAT）相結合構成空間注意力模塊 AGAT，用于提取交通道路的空間相關性。 GAT 的輸入為節點特征矩陣 Xt 與自適應鄰接矩陣 At ， 在 χt 時間步長內觀察到的交通流屬性為 
，在經過一次圖卷積運算后輸出維度為 F′ 的新特征向量 xti′∈RF′ 。 在任意時刻，GAT 利用節點自適應學習機制產生的節點相關信息，計算其相鄰節點的注意力系數，最終聚合了 χt 時刻圖上鄰居節點的空間依賴關系。 同時采用多頭注意力機制對鄰居節點計算，從而得到不同注意力系數 aikq 。 k 組相互獨立的注意力機制被調用，結合新的線性變換，即可得到最終的輸出 xti′ 。
2. 3. 2 時間注意力模塊 本文使用帶有注意力機制的 LSTM 網絡來學習局部時空的依賴性，具體來說，任意時刻 χt 的 LSTM 層輸出數據都將被送入時間注意力部分得到輸出值。
對于交通流固有信號和隨機信號，采用帶注意力機制的 LSTM 進行時間相關性捕獲，經過多層時間捕獲模塊堆疊，數據輸出為 Xt∈Rn×F′′×T 。 對于交通流擴散信號，采用帶注意力機制的自適應圖卷積層代替 LSTM 中的三個門控的線性操作，即分別控制信息的輸入、輸出和遺忘，結構見圖 2。
圖 2 AGAT 嵌入 LSTM
2. 4 全局時空依賴模塊
全局時空依賴模塊并行處理輸出序列，通過時間卷積形式和殘差連接，獲取了比 LSTM 更強大的長期時間相關性，結構如圖 3 所示。 在此之前，融合層將不同類別的時空特征進行一次融合操作， 計算為
時間序列卷積的計算為
其中： d 為空洞系數; k 為卷積核大小; s-d?i 代表時間過去的方向， d=0 時，卷積為普通一維卷積，最后經過殘差連接輸出，
圖 3 全局時間依賴
Figure 3 Global temporal dependency
3 實驗結果與分析
3. 1 實驗參數設置
本實驗 基 于 Pytorch 實 現， 處 理 器 為 Intel （ R）Core（ TM） i7-10700。 在模型的超參數設計中，模型通過 Adam 進行優化，迭代輪次為 300，批量大小為64，學習率設置為 0. 001，分離時空層層數為 3，節點和時間的嵌入維度 C 為 12，特征通道的數量 d 為32，卷積核大小 k 為 2，GAT 的注意力頭數 h 為 8，時間注意力層的頭數 h 為 6。
3. 2 數據集介紹
本文采用 PEMSD4 數據集和 PEMSD8 數據集來進行交通流預測模型的實驗驗證，兩個數據集所有數據均由 Caltrans 性能測量系統（ PeMS） 收集得到的美國加利福尼亞州的高速公路交通數據集，數據集內容見表 1。
表 1 數據集描述
Table 1 Dataset description
3. 3 衡量評估指標
本文使用平均絕對誤差（ MAE） ，均方根誤差（RMSE）和平均絕對百分比誤差（ MAPE） 對模型進行評估，3 個指標的值越低，模型的預測精度越高。 每個實驗進行 5 次，然后計算平均值作為測試結果。
3. 4 基準模型預測性能比較
本節將模型 AST-VAE 與近期效果較好的 6 個交通流量預測模型進行比較。
1） Graph WaveNet：結合 GCN 提出一種自適應鄰接矩陣學習節點的動態相關性。
2） STSGCN：時空同步圖卷積網絡模型，它構造多個局部時空圖來同步捕獲時空依賴關系。
3） DCRNN[ 18] ：擴散卷積遞歸神經網絡模型，使用擴散卷積替代 GRU 中的完全連接層，形成新的擴散卷積門控遞歸單元。
4） STGCN[ 19] ：時空圖卷積網絡結合譜域上的GCN 和一維卷積來捕獲時間和空間相關性。
5） ASTGNN[ 20] ：基于注意力的時空圖神經網絡模型，是一種將時間趨勢自注意力機制與動態圖卷積相結合的自注意力交通預測模型。
6） STG-NCDE[ 21] ：該模型設計了兩個獨立的神經控制微分方程來建模空間和時間相關性。
表 2 顯示了 AST-VAE 在未來一小時（ 12 個時間步）兩個高速公路數據集上的預測結果，并進行 χt 檢驗，結果具有統計學意義（ Plt;0.005， ）。 根據實驗結果顯示，AST-VAE 在兩個數據集的表現始終優于其他所有模型，均取得了最小的誤差，證明了本文所提出的方法在交通流預測方面的有效性。
同時可以發現隨著預測時間步的增加，所有模型的性能將會變得更差，這是由于未來不確定性和極端情況的出現影響了模型，圖 4 展示了各模型隨時間變化的結果。
表 2 各個模型在兩個高速公路數據集的預測結果Table 2 Prediction results of each model on two
圖 4 AST-VAE 與基準模型在兩個高速公路數據集上預測結果隨時間變化情況
Figure 4 The prediction results of AST-VAE and baseline models on two highway datasets over ti
3. 5 消融分析
為了研究不同模塊在 AST-VAE 模型中的有效性，對 AST-VAE 及其變體在 PEMSD8 上進行了消融實驗，設計了以下幾個變體。
1） AST-VAE-SP：去除模型的變分自編碼器，不考慮交通序列中的隱藏序列。
2） AST-VAE-AG：去除模型中的自適應子圖學習，采用靜態拓撲建模空間相關性。3） AST-VAE-STA：去除模型中的時間注意力和空間注意力。4） AST-VAE-TCN：去除模型中的全局時空依賴模塊，將各序列直接經過預測層輸出。
除了上述差異外，所有變體模型的設置都與AST-VAE 相同，圖 5 展示了不同變體之間的比較結果。 比較 AST-VAE-SP 與 AST-VAE 實驗結果可以看到模型對于序列的推斷生成是非常重要的，對于交通序列中的不同成分分別建模有效提升了模型預測的準確性，解決了圖卷積不能應用于傳感器固有序列與隨機序列的問題。 AST-VAE-AG 在采用預定義圖情況下，效果要比 AST-VAE 差很多，這證明了空間相關性的學習是一個強動態連接的過程，通過自適應子圖的學習對于流量預測的性能增益有積極的貢獻。
圖 5 PEMSD8 數據集消融分析實驗結果
AST-VAE-STA 證明了空間學習模塊和時間學習模塊的多頭注意力是另一個可以提高預測性能的重要因素，動態調整空間傳感器之間以及時間步之間的相關強度是非常重要的。 最后發現 AST-VAE-STA 在長期預測方面落后于 AST-VAE-TCN，這證明了注意力機制優于時間卷積，AST-VAE 優于 AST-VAE-TCN，并且性能的差異隨著時間的增大而變大，這證明了本文的全局時空依賴模塊有效捕捉了數據的長期依賴性。
3. 6 實驗結果可視化
在兩個數據集中分別選擇同一時間兩個不同位置的探測器節點，圖 6（ a） 、（ c） 是商業區，圖 6（ b） 、（d） 是居住區，并繪制真實監測值與 AST-VAE 的預測值對比圖，如圖 6 所示。
AST-VAE 考慮了傳感器節點固有的交通序列和不確定的隨機序列，對時空數據的時間隨機性與空間異質性進行了建模，可以捕獲不同空間位置所具有的特定模式，圖 6（ a） 節點與（ b） 學習的固有模式不同，（a）中節點由于處于商業聚集地，會在中午達到高峰，而（b）中節點由于居住區上下班的關系，會在早晚達到高峰。 同時 AST-VAE 避免了過擬合，當道路交通出現突發事件時，本文的模型不會刻意擬合這些噪聲，而是根據交通流中各種隱藏的信號充分利用模型中所學習的潛在交通相互作用，快速糾正極端情況下的探測值并正確預測。 如圖 6（ d）第 160 個時間步左右，當出現了傳感器損壞導致探測結果與當時交通狀況不符的特殊情況，本文的模型做出了正確的流量預測。
4 結語
本文考慮了交通流信號隱藏的時空相關性與隨機性，提出了一種基于變分自編碼器的交通流預測模型。 該模型通過變分自編碼器將交通流信號分解為隱藏的擴散信號、固有信號以及隨機信號，隨后對不同的信號進行混合建模，解決了隱藏序列建模不可靠的問題。 通過多個時間步的自適應子圖結合空間注意力捕獲擴散信號的空間相關性，門控圖卷積的長短型記憶網絡則學習擴散信號的時間相關性。接著時間注意力模塊提取固有信號以及隨機信號的時間特征。 最后使用全局時空依賴模塊，增強了模型長期預測的能力。 本文對 AST-VAE 模型的核心框架設計原理進行了詳細分析和論述，并在公開的數據集上進行模型評估和對比實驗，結果顯示本文的模型優于現有模型，可以更好地探索交通流數據中的時空依賴性和非線性關系。
參考文獻：
[1] DIAO Z L， WANG X， ZHANG D F， et al. Dynamic spatial-temporal graph convolutional neural networks for traffic forecasting[ C] ∥Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto： AAAI Press， 2019： 890-897.
[2] VAN DER VOORT M， DOUGHERTY M， WATSON S. Combining Kohonen maps with ARIMA time series models to forecast traffic flow [ J ] . Transportation research part C： emerging technologies， 1996， 4（5） ： 307-318.
[3] 楊高飛， 徐睿， 秦鳴， 等. 基于 ARMA 和卡爾曼濾波 的短時交通預測[J]. 鄭州大學學報（工學版）， 2017， 38（2） ： 36-40. YANG G F， XU R， QIN M， et al. Short-term traffic volume forecasting based on ARMA and Kalman filter [ J] . Journal of Zhengzhou university （ engineering science ） ， 2017， 38（2） ： 36-40.
[4] WILLIAMS B M， HOEL L A. Modeling and forecasting vehicular traffic flow as a seasonal ARIMA process： theoretical basis and empirical results [ J ] . Journal of transportation engineering， 2003， 129（6） ： 664-672.
[5] CASTRO-NETO M， JEONG Y S， JEONG M K， et al.Online-SVR for short-term traffic flow prediction undertypical and atypical traffic conditions[ J] . Expert systems with applications， 2009， 36（3） ： 6164-6173.
[ 6] ZHANG M H， ZHEN Y B， HUI G L， et al. Accurate multisteps traffic flow prediction based on SVM[ J] . Mathematical problems in engineering， 2013， 2013： 418303.
[7] 楊兆升， 王媛， 管青. 基于支持向量機方法的短時交 通流量預測方法[J]. 吉林大學學報（工學版）， 2006， 36（6） ： 881-884. YANG Z S， WANG Y， GUAN Q. Short-term traffic flow prediction method based on SVM [ J ] . Journal of Jilin university （ engineering and technology edition ） ， 2006， 36（6） ： 881-884.
[8] LIPPI M， BERTINI M， FRASCONI P. Short-term traffic flow forecasting： an experimental comparison of time-series analysis and supervised learning[ J] . IEEE transactions on intelligent transportation systems， 2013， 14（ 2） ： 871-882.
[9] ALIMI O A， OUAHADA K， ABU-MAHFOUZ A M. A review of machine learning approaches to power system security and stability [ J ] . IEEE access， 2020， 8： 113512-113531.
[10] ZHAO L， SONG Y J， ZHANG C， et al. T-GCN： a temporal graph convolutional network for traffic prediction [ J] . IEEE transactions on intelligent transportation systems， 2020， 21（9） ： 3848-3858.
[ 11] WU Z H， PAN S R， LONG G D， et al. Graph WaveNet for deep spatial-temporal graph modeling[ EB / OL]. （ 2019-05- 31）[2023-05-23]. http：∥arxiv. org / abs / 1906. 00121.
[12] PAN Z Y， LIANG Y X， WANG W F， et al. Urban traffic prediction from spatio-temporal data using deep meta learning [ C ] ∥ P roceedings of the 25 th ACM SIGKDD International Conference on Knowledge Discovery amp; Data Mining. New York： ACM P ress， 2019 ： 1720 - 1730.
[ 13] GUO S N， LIN Y F， FENG N， et al. Attention based spatial-temporal graph convolutional networks for traffic flow forecasting[ C]∥Proceedings of the AAAI conference on artificial intelligence. Palo Alto： AAAI Press， 2019： 922-929.
[14] BAI S J， KOLTER J Z， KOLTUN V. An empirical evaluation of generic convolutional and recurrent networks for sequence modeling [ EB / OL ] . （ 2018-04-19 ） [ 2023-05- 23] . https：∥arxiv. org / abs∥1803. 01271.
[15] VASWANI A， SHAZEER N， PARMAR N， et al. Attention is all you need[ C]∥Proceedings of the 31st International Conference on Neural Information Processing Systems. New York： ACM Press， 2017： 6000-6010.
[16] ZHENG C P， FAN X L， WANG C， et al. GMAN： a graph multi-attention network for traffic prediction [ C] ∥ Proceedings of the AAAI conference on Artificial IntelliGence. Palo Alto： AAAI Press， 2020： 1234-1241.
[17] SONG C， LIN Y F， GUO S N， et al. Spatial-temporal synchronous graph convolutional networks： a new framework for spatial-temporal network data forecasting [ C ] ∥ Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto： AAAI Press， 2020： 914-921.
[18] LI Y G， YU R， SHAHABI C， et al. Diffusion convolutional recurrent neural network： data-driven traffic forecasting[ EB / OL] . （ 2018-02-22） [ 2023-05-23] . http：∥arxiv. org / abs / 1707. 01926.
[19] YU B， YIN H T， ZHU Z X. Spatio-temporal graph convolutional networks： a deep learning framework for traffic forecasting [ EB / OL ] . （ 2017-09-17 ） [ 2023-05-23 ] . http：∥arxiv. org / abs / 1709. 04875.
[20] GUO S N， LIN Y F， WAN H Y， et al. Learning dynamics and heterogeneity of spatial-temporal graph data for traffic forecasting [ J ] . IEEE transactions on knowledge and data engineering， 2022， 34（11） ： 5415-5428.
[21] CHOI J， CHOI H， HWANG J， et al. Graph neural controlled differential equations for traffic forecasting [ C ] ∥ Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto： AAAI Press， 2022： 6367-6374.
