基于隨機非平穩和長短時記憶網絡的泊位混合預測①

向 榮， 房祥彥

(桂林電子科技大學，桂林 541004)

1 引言

隨著經濟的發展，人民生活水平普遍提高，城市居民機動車保有量急劇增長，停車問題已逐漸成為城市交通的難題，特別是大中型城市的熱點區域尤為突出.為了緩解機動車停車泊位供需矛盾，指揮交通系統引入了停車誘導系統，它以提高停車場以及相鄰道路的利用率為目的，多途徑地向駕駛員提供停車場位置、有效停車位數量和道路交通狀況等信息，從而引導駕駛員快速有效地定位目標停車場. 停車誘導的核心是通過實現部署的分級誘導屏實時顯示數據中心發送的停車場空余泊位數，但是由于停車信息是時刻變動的，當駕駛員看到誘導信息時的有效泊位數與車輛到達相應停車場后的實際有效泊位數往往有較大出入，這會造成城市擁堵、駕駛員重新尋找停車場、能源浪費等等問題. 而高效率地利用停車場可以大大緩解城市交通壓力、方便人們出行規劃和節約能源，因此能否相對準確預測停車場有效停車位成為交通信息管理和停車誘導系統的熱點研究問題之一.

現如今，主流的預測方法大多依賴于停車位實時數據的支撐，下一時刻預測的精準度同剛過去的幾個連續時間步的數據關聯性很高. 因為交通監測數據的采集、匯聚都能保持實時性，所以這些技術在交通流預測方面得到了很好的應用. 但是由于停車場產權分散，不同停車場間的設備難以互聯，缺乏統一的城市級泊位監測平臺. 如果沒有巨大的經濟和時間投入，停車誘導系統實際上很難搜集到整個城市級所有停車場的實時停車數據. 早期的停車誘導系統部署中有這樣一個合理的假設[1]，如圖1所示.

假設中，可以發現能夠獲得停車位實時數據的停車場只是極少數，大量的停車場實時數據難以獲得. 對不能直接獲得實時數據，僅能夠提供歷史數據的停車場，由于歷史數據一般距離當前有一定的時間，因此往往不能直接使用ARIMA，WNN(Wavelet Neural Network)、RNN(Recurrent Neural Network)等短時預測技術進行直接預測，需要基于該停車場的歷史數據進行分析，結合中長期預測技術來進行.

圖1 城市級停車誘導系統停車場數據假設

因為中長期預測過程中包含強烈的混沌特性，所以長期預測技術很少被深入研究，這也導致了很難達到較遠時間的準確預測. 然而，對于僅僅能夠提供歷史數據的停車場而言，長期預測技術是一個非常重要預測手段. 同時，比起短期預測，更長期限的預測能夠為用戶提供更加豐富的信息幫助用戶做長期規劃. 因此本文針對這些具有歷史數據的停車場類型做有效停車位中長期預測的研究. 首先通過分析相同時間片內的停車位歷史數據的分布特性建立隨機概率模型來進行多步預測. 接著，基于預處理過的停車場歷史數據，訓練LSTM來做精確的單步預測. 最后建立混合模型SAL對停車位作長期預測. SAL是一個基于差分正態分布的多步預測模型和長短時記憶網絡模型組合起來的線性混合模型，混合模型中的兩個參數可以通過最小二乘法求解確定.

2 相關工作

對停車場未來有效泊位的預測，類似于交通流量預測，本質上是一個基于時間序列的預測問題.

針對有效停車位的預測問題，文獻[2]提出了影響因素分析法，但是由于影響有效停車位的因素較多，如停車場的類型(地面停車場和地下停車場)、停車場位置、停車費用、停車場周圍道路交通情況、天氣情況、以及從出發點到停車場的距離等等，這些因素的多樣性，使得該方法很難對未來停車位進行準確地分析預測. Yang等人[3]建立神經網絡模型對停車位進行預測，將交通流、天氣信息、活動等等因素變量作為網絡模型的輸入取得了不錯的預測效果. Rajabioun[4]等和Klappenecker[5]等通過數學方法對停車泊位進行預測. 雖然該方法簡便快捷，但是魯棒性及容錯性較差，預測結果也不理想. 因為基于線性統計的傳統方法對于非線性時間序列的擬合效果并不是很好，Beheshti[6]等設計一個基于馬爾可夫鏈(MCMC)的混合模型方法. 目前，基于神經網絡的改進算法成為停車位預測的主流方法[7-10]，其中WNN[11]、RNN[12]、LSTM[13]能夠很好地擬合非線性復雜系統的動態特性，預測效果也相對得到了提高. 后來，混沌理論的發展又讓人們對混沌時間序列產生了新的預測思路：最大Lyapunov指數法[14]和一階加權局域預測模型[15].

以上大多數研究局限在短時預測或者依賴實時數據的更新. 當預測步數較小的時候，預測結果和真實值相當吻合，隨著步數的逐漸增加，預測誤差隨之呈現指數增長，甚至失去了預測意義. 而混沌時間序列預測模型雖然在多步長期預測方面取得了不錯的進展，但是預測步數依然有限，并且嚴重依賴相空間的重構，計算復雜度非常之高. 本文針對以上模型的各自缺陷和不足，提出一種基于隨機非平穩過程和長短時記憶網絡的混合預測思路.

3 模型方法

3.1 隨機概率模型

圖2是某個停車場以天為單位歸集的一段時間停車位數據. 每條曲線代表該停車場一天的停車位變化情況. 橫軸是時間軸，縱軸是被占用停車位的數量. 每十五分鐘對停車位數量作一個采樣點，因此一天總共有96個采樣點.

圖2 停車位數量變化圖

很明顯，作為一個隨機變量，xi表示在時間片Δti上的泊位數量，而已知的停車位歷史數據在Δti上的取值就是該隨機變量的采樣數據. 泊位的占用與否取決于車輛的到達率和駛離率，車輛的到達一般被認為是服從泊松分布的，因此同一時間片內的泊位數量，從長期看實際上就是泊松分布的極限，也就是正態分布. 可以假設每一個時間片的泊位數量xi有：

我們此時可以采用最大似然法(MLE)對待定的分布參數 μi和進行求解. 首先從xi中抽取n個樣本{m1,m2,···,mn}，則似然函數為：

根據求得的分布參數，可以相對應地生成符合該正態分布的隨機序列Si. 于是可以定義對時刻ti的預測函數g(ti)是從Si中隨機選取一個數作為預測值：

顯然隨著Δti的不同，不同xi的分布參數是不相同的，因此在時間軸上，泊位的變化情況是一個非平穩的高斯過程. 由于xi+1與xi被視為了兩個獨立同正態分布的變量：

兩個相鄰時間片Δti，Δti+1之間，泊位數量的變化Δxi=xi+1-xi，將fxi(xi)和fxi+1(xi+1)代入到fΔxi(Δxi)中可以證明得到Δxi也服從正態分布：

根據以上xi和Δxi的分布參數分析，可以生成隨機序列 Sn={Sn|n=1,2,···,n}和差分隨機序列ΔSn={ΔSn|n=1,2,···,n}. 接下來，我們可以得到另一個基于該分布的中長期預測函數：

在上述公式中，tj是函數期望預測的時刻，ti是tj之前的某一個時刻. Δsi是從隨機差分序列ΔSi中隨機選取的一個數值. 上式在g(ti)的基礎上提出了一個更加平穩的長期預測函數，這個模型通過隨機差分序列來控制預測的趨勢幅度，使得最終基于非平穩高斯過程的預測結果更加平滑準確.

3.2 混合預測模型SAL

基于非平穩高斯過程的預測在計算開銷上非常小，但是在預測上往往容易出現預測值跳變較大的情況，而LSTM在這方面表現就好很多，能夠很好地擬合非線性復雜系統; 另一方面，基于非平穩高斯過程的預測在極大程度上能抑制預測值的大幅偏離，而這正是LSTM在中長期預測中的最大缺陷，因此本文結合兩者的優點進行混合預測，模型結構如圖3所示. 模型具體的流程如下：

圖3 模型結構圖

(1) 首先分別根據公式g(tj)和g(ti,tj)得到tj和{tj-q|q=1,2,···}時刻的停車位預測值，其中q值依賴于LSTM輸入神經元的個數.

(2) 將第一步得到的{tj-q|q=1,2,···}這幾個相鄰時刻的預測值作為LSTM網絡的輸入，進一步預測得到tj時刻的值.

(3) 最后將公式(1)和LSTM網絡f(·)預測得到的tj時刻的值分別以權重a和b線性加權，從而得到對tj時刻停車位的最終預測.

因為LSTM輸入層引入了隨機分布因素，因此模型最終預測得到的結果既有一定的隨機性，又不會出現較大的偏離，模型定義為如下公式：

其中，g(tj)和g(ti,tj)是基于正態分布的隨機差分預測模型，f(·)是LSTM單步預測網絡模型.

作為一種特殊的循環神經網絡，非常適合應用于時間序列的預測，它能夠克服傳統RNN在反向傳播中遇到的梯度爆炸和衰減的缺點，通過在隱藏層加入記憶單元，將時間序列的短長期相互關聯起來，控制有關信息的刪除與存儲，以此構成記憶網絡. 神經元結構如圖4所示，其中LSTM每個神經單元都包含輸入門、輸出門和遺忘門，存儲單元在整個神經元的中心，主要負責不同時刻神經元狀態值的傳遞和輸出.

圖4 LSTM神經元結構

本文中，首先將停車場歷史數據經過Min-Max Normalization處理歸一化，然后定義損失函數為mean squared error，使用Adam優化器來迭代計算優化整個神經網絡的權重參數. 最后式(8)中的兩個待定系數a和b通過最小二乘法求解.

4 實驗結果與分析

4.1 正態分布檢驗

混合預測模型第一步是建立隨機差分預測. 基于停車位過去兩個月的真實數據樣本，部分數據如圖2所示，每隔15分鐘取一個樣本點，一天共計96個樣本，記為{mij|i=1,2,···,60;j=1,2,···,96}. 統計并構建兩個月同一時刻和相鄰時刻的停車位差分序列樣本分別記為{Xn|Xn=min,i=1,2,···,60,n=1,2,···,96}、{ΔXn|ΔXn=mi(n+1)-min,i=1,2,···,60,n=1,2,···,96}.

隨機差分模型預測的關鍵在于序列樣本Xn和ΔXn的分布規律的識別，分析序列樣本數據，繪制正態概率值檢驗圖并進行Lilliefors檢驗，判斷其是否符合正態分布. 實驗利用Matlab程序中的normplot函數繪制樣本數據的正態概率值檢驗圖，如圖5所示.

由圖5可以看出，序列樣本數據各點的位置近似的在一條直線附近，因而所構建的停車位序列樣本和相鄰時刻停車位差分序列樣本數據符合正態分布特性.但是由于本文數據并不充分，為避免判斷失誤，進一步采用適合小樣本條件的Lilliefors檢驗法進行驗證. 利用Matlab程序中的lillietest函數，顯著性水平設置為0.05，檢驗函數返回的決策參數的值為0，即該樣本數據符合正態分布，Lilliefors檢驗結果如表1所示.

圖5 正態性檢驗

表1 Lilliefors正態性檢測

因為樣本數據量小以及噪聲的影響，依然存在小比例樣本序列不滿足正態性檢驗，但是根據極限分布定理，本文依然接受同一時刻停車位序列和相鄰時刻停車位差分序列滿足正態性分布的假設.

正態性檢驗之后，正態分布擬合函數normfit求解可得分布參數μ和σ. 根據獲得的分布參數生成符合該分布規律的隨機序列，因此我們能夠得到96個時刻的隨機序列Sn={Sn|n=1，2，…，96}和相鄰時刻的96個差分序列ΔSn={ΔSn|n=1,2,···,96}. 這樣我們就可以根據這些隨機序列預測未來某個時刻的停車位，并通過差分序列控制時序的趨勢，實現利用概率統計分布規律對未來停車位的隨機差分預測，隨機概率模型預測未來三天的結果如圖6所示.

圖6 隨機概率模型未來三天預測

4.2 SAL預測結果分析

混合預測模型第二步是建立LSTM的單步預測.實驗設定輸入神經元的個數為6，隱含層神經元的個數為12，輸出神經元的個數為1. 網絡訓練次數設定為100次，當超過訓練次數則終止訓練. 利用某住宅停車場近兩個月的停車位數據訓練LSTM，然后將訓練好的LSTM模型保存. 然后結合之前得到的隨機差分預測模型，利用最小二乘法求解參數a和b分別為0.57和0.43，最終實現對未來停車位時序進行多步混合預測.

實驗利用本文提出的混合預測模型SAL、LSTM以及Lyapunov指數預測法對停車場未來三天的停車占有率進行預測，預測結果對比如圖7所示.

圖7 不同模型預測結果

從上圖對比可以發現，LSTM的多步預測存在誤差累積的致命缺陷，隨著預測步數的增長，在沒有實時數據支撐的情況下，誤差很快累積到失去預測的意義，而本文的SAL和Lyapunov指數法則不存在這樣的問題. 接下來實驗進一步對比Lyapunov指數法和SAL的均方根誤差，如圖8所示.

圖8 Lyapunov和SAL均方根誤差

結合預測結果對比圖和均方根誤差圖可以發現，SAL和Lyapunov指數法對未來兩天內的預測都比較準確，但是由于Lyapunov指數法在一定程度內依然存在誤差累積的問題，在230步之后的預測準確性明顯降低，圖8中顯示隨著時間期限的增長，均方根誤差呈現陡增的現象. 而本文提出的混合預測模型在第三天的預測誤差并不會顯著降低，依然能夠相對準確平穩地預測真實的情況. 這是因為隨著預測時間的增長，SAL模型依然能夠保證預測結果符合歷史真實的概率分布，不會偏差得離譜.

4.3 SAL計算復雜度分析

接下來實驗對SAL、LSTM以及Lyapunov三個方法的計算代價進行簡要的分析，以程序訓練的時間和預測的時間作為對比. SAL和LSTM模型的訓練時間分別為15.93 s和15.69 s，而Lyapunov的相空間重構和Lyapunov指數計算就消耗了近17.52 s. 預測過程中，SAL、Lyapunov指數法平均每預測一步消耗0.0028 s和0.0097 s，但是Lyapunov指數法預測第n步所需要的時間是前n-1步所需時間和，具體的計算代價如圖9所示，因此在保證預測準確度的前提下，本文提出的SAL具有更好的計算性能優勢.

圖9 計算復雜度對比

5 結論與展望

本文針對具有周期特性的非平穩時間序列，提出了一種隨機差分預測模型和長短時記憶網絡相結合的混合預測模型SAL. 首先根據中心極限定理和大數定理對停車位概率分布進行分析并提出隨機差分多步預測模型; 然后對LSTM的工作原理進行分析，提出高精度的單步預測長短時記憶網絡; 接下來結合隨機差分預測模型和LSTM模型的各自優勢，提出多步混合預測的思想. 該模型完全基于歷史數據，并不依賴實時數據，相對準確地實現對非平穩停車位時序的多步長期預測. 與目前國內外其他混沌時序預測模型相比，計算復雜度更低，預測誤差更平穩精確. 雖然SAL模型非常適合周期特性強的停車時序預測，但現實生活中很多社會因素會對停車位時序產生突變影響，而SAL目前對于這種突變的抖動很難很好地擬合，因此未來會針對突變因素作更深入的研究.