基于擴張因果卷積模型的冷庫商品銷售量預測

王天潤 蔣洪偉

摘? 要：疫情環境下，供應鏈受到不良影響，庫存及市場投入量關乎著社會以及民生的穩定。但是供給與需求無法達到完全一致的現象普遍存在，這使存儲管理上面臨兩方面難題：要么庫存過剩增加成本，要么庫存不足造成供給短缺。在這種情況下，對商品銷售量預測進行深入的研究是一件非常重要的事情。傳統的一維卷積神經網絡（CNN）在銷售量預測上存在信息泄露的問題，且其結構難以獲取較長的記憶。文中提出擴張因果卷積神經網絡（Dilated Causal Convolution）來優化模型解決問題，其中擴張卷積可以增加卷積模型的感受野大小，獲取序列的長時記憶;同時引入因果卷積來解決信息泄露問題。實驗結果表明文中提出的擴張因果卷積在銷售量預測方面有著較好的預測效果。

關鍵詞：銷售量預測;空洞卷積模型;因果卷積模型;深度學習

中圖分類號：F253? ? 文獻標志碼：A? ? DOI：10.13714/j.cnki.1002-3100.2023.15.017

Abstract： Under the epidemic situation， the supply chain is adversely affected. Inventory and market input are related to the stability of society and people's livelihood. However， the phenomenon that supply and demand cannot be completely consistent is widespread， which makes storage management face two problems： Either excess inventory increases costs， or insufficient inventory causes supply shortage. In this case， it is very important to make an in-depth study on the forecast of commodity sales. The traditional one-dimensional convolutional neural network（CNN）has the problem of information leakage in sales forecasting， and its structure is difficult to obtain a long memory. In this paper， a modified causal convolution neural network is proposed to optimize the model to solve the problem. The expanded convolution can increase the receptive field size of the convolution model and obtain the long-term memory of the sequence; at the same time， causal convolution is introduced to solve the problem of information leakage. The experimental results show that the extended causal convolution proposed in this paper has a good prediction effect in sales volume prediction.

Key words： sales volume forecast; void convolution model; causal convolution model; deep learning

0? 引? 言

疫情以來，我國各地相繼采取隔離措施，與此同時，居民的吃飯問題成為了民生保障的重中之重。其中不少副食品常溫不易保存，但是冷庫倉儲空間有限。目前國內企業在運營中很多時候是根據平日的經驗和簡單輔助工具來進行銷售量預測[1]，根據專家經驗的預測會造成部分商品缺貨的同時部分商品存在積壓等問題。所以建立有效準確的銷售量預測模型能夠有效維持冷庫貨品的出入庫平衡，增加存儲空間利用率。因此，銷售量預測作為冷庫供應鏈管理的一個環節顯得格外重要。

銷售量預測作為物流領域一個非?；A的研究方向，很多學者都進行了相關研究。從時間維度來看，銷售量預測問題就是經典的時間序列預測問題，時間序列預測問題的重點是從過去的信息中挖掘尋找出隨時間不斷變化的一種趨勢，從而對未來的數據進行預測。近幾十年來學者對時間序列預測算法進行了大量研究，在許多方面取得良好成績。目前主要的研究方法分類有兩種，一種是基于統計學的方法，一種是基于機器學習的方法。

傳統時間序列預測模型，通常指用于時間序列分析/預測的統計學模型，比如常用的有均值回歸、ARIMA、指數平滑預測法等，優點是復雜度低、計算速度快，但是有其局限性。通過實驗，發現由于真實應用場景的復雜多樣性（現實世界的時間序列往往受到各種不同因素的限制與影響，而難以預測），比如受到營銷計劃、自然災害等影響，傳統的單一統計學模型的準確率相對來說會比機器學習差，而機器學習模型相對更復雜，其集成模型會有更好的效果。

在機器學習的預測方法中，相對于傳統的樹模型需要人工構建相關模型特征，神經網絡模型通常需要輸入大量的數據來進行訓練，因此如果同類時序的數據量夠多（有夠多的彼此間相關性較強的時序），那么訓練一個通用型的端對端的神經網絡預測會有不錯的效果。

深度學習是機器學習的一個分支，它利用深層體系學習數據的特征[2-3]，非常善于發現高維數據中的復雜結構[4-5]，它的興起以及預測模型的組合帶來了許多新的預測思路。

例如Aburto、Weber結合神經網絡和SARIMA模型組合來預測食品銷售[6];Zhang在研究中認為，當數據的時間序列被反季節性和反趨勢化時，神經網絡的預測性能有了大幅提高[7]。Kou等人嘗試將遺傳算法與神經網絡模型相結合，來預測某次某便利店的奶制品銷量，發現將不同的模型組合優化后的模型在預測上的表現優于傳統統計方法以及單一的神經網絡預測模型[8]。

近年來，研究人員對銷售量預測模型進行了更深入的研究，為了解決人工提取特征時主觀性強且既費時又費力的問題，嘗試用卷積神經網絡讓模型自動提取特征，并驗證了該方法是可行的[9]。

因果卷積（Causal Convolution）是一種重要的卷積網絡，早在1989年該結構便已經出現[10]。近來，這一模型在聲音處理、自然語言處理、機器視覺等領域都有了比較好的應用。因果卷積結構能夠保證計算時僅涉及之前時刻的信息，非常適于解決預測問題[11]。

1? 擴張因果卷積模型

1.1? 因果卷積。信息泄露是指針對帶有時間序列信息的數據處理時的問題，需要確保模型可以按順序使用數據，即在模型預測t時刻時，不會用到t+1，t+2等未來時刻數據。而傳統的CNN模型中，每層神經元的連接是全連接（fully connected）的形式，不難發現，全連接恰恰違背了時間先后的基本約束，因為輸出的靠前的（前一時刻）神經元與輸入靠后的（后一時刻）神經元相互產生了連接，這應該是不被允許的，因此做銷售量預測需要使用因果卷積模型。因果卷積解決的是時序預測中的信息泄露（leakage）問題，因果卷積的原理如圖1所示[12]。

從上面結構可以看出，與傳統的CNN相比，因果卷積只能使用過去的數據，而不會使用到未來的數據，所以很好地解決了信息泄露問題。一維因果卷積在pytorch中一般通過Padding實現，序列前端填充相應位數的零，而序列末端不進行填充。因為因果卷積是單向結構的，所以它不能看到未來的數據，也就是只能從前面的數據來預測后面的數據，是一種嚴格的時間約束模型。模型在t時刻輸出的預測不會依賴任何一個未來時刻的數據，只依賴于下一層t時刻及其之前的值。

但是由于每一層的輸出都是由前一層對應位置的輸入及其前一個位置的輸入共同得到，并且如果輸出層和輸入層之前有很多的隱藏層，那么一個輸出對應的所有輸入就越多，如果每層的卷積核大小一定，空洞率一定，那么為了提高感受野，就要大幅增加網絡的深度。這樣會增加卷積的層數，而卷積層數的增加就帶來諸如梯度消失，訓練復雜，模型過擬合等問題。

1.2? 擴張卷積。針對商品銷售量預測等序列任務，需要對之前一段時間內的商品銷售量數據進行統計建模，不能僅僅依靠前一天的商品銷售量來預測第二天的出貨量。而傳統全連接神經網絡的連接結構丟棄了數據的時間序列、時間的先后關系等基于順序的信息。卷積神經網絡可以通過卷積計算獲取數據序列關系，形成“記憶”，感受野的大小反映了使用多少數據生成“記憶”。在時間序列預測任務上使用卷積神經網絡最大的問題是如何有效的提取長時間的記憶信息。

在卷積神經網絡中，感受野指的是每一層輸出的特征圖（Feature Map）上的節點在原始輸入圖片上映射區域的大小。為了更好地獲取長時記憶，關鍵就是擴大感受野。當卷積層數為l，每層卷積核大小為k時，感受野大小為k-1×l+1。卷積神經網絡的感受野大小與卷積核大小、卷積層數呈線性關系。因此，增加卷積層或者增大卷積核均能擴大感受野。但更深的卷積層數以及更大的卷積核，將會使網絡過于龐大，難以完成訓練[13]。

在卷積神經網絡中，較大的卷積核對運算的算力要求增加而且模型訓練變慢，這是由于卷積核每增大一點，網絡的參數都會急劇增加。所以通常使用小的卷積核。另外一種較好的獲取長時記憶的方法就是使用擴張卷積，與傳統的卷積相比，擴張卷積除了卷積核大小外，還有一個參數是用來表示擴張大小的擴張系數（Dilation Rate）。

擴張卷積（Dilated Convolution）也被稱為空洞卷積或者膨脹卷積，是在標準的卷積核中注入空洞，以此來增加模型的感受野（Reception Field）。相比原來的正常卷積操作，擴張卷積多了一個參數：Dilation Rate，指的是卷積核的點的間隔數量。擴張卷積主要作用是可以指數倍擴大視野，通過在每一層乘法來實現層深和感受野大小間的指數關系?？梢钥吹诫S著擴展系數（Dilated）擴大，視野距也在擴大，其原理如圖2所示。

對于一維輸入的X， X∈R，濾波器f：0，…，k-1→R擴張卷積的計算F定義公式為：

Fs=X*dfs=∑fiX? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? （1）

式中：d表示擴張系數，k表示卷積核大小，s-d*i表示上一層的感受野。當d為1 時，擴張卷積退化為普通卷積，通過控制d的大小，可以在計算量不變的前提下拓寬感受野。

一般的擴張卷積，隨著網絡深度的增加，擴張系數呈指數增大，這樣可以保證越深的卷積核能獲取到的歷史信息越長。

1.3? 擴張因果卷積。將因果卷積與擴張卷積思想結合，得到擴張因果卷積（Dilated Causal Convolution），原理如圖3所示。擴張因果卷積的擴張系數分別為1、2、4。擴張系數呈指數增長，使得感受野大小也呈指數增長，這樣在卷積層數不高的情況下，也能獲得很好的感受野，同時少的卷積層數還保證了模型的計算效率。

1.4? 擴張因果卷積模型結構。本文模型由一組殘差單元構成，如圖4所示。每個殘差單元是一個具有殘差連接的小型神經網絡，通過殘差連接可以加快深層網絡反饋以及收斂，解決因為網絡層次的增加而造成的模型退化。

每一個殘差單元包括兩個卷積單元和一個1*1cov。卷積單元通過擴張系數的調整來實現更大的感受野，從而讓網絡能夠記憶足夠長的信息，且只對需要預測時刻t前的輸入數據進行卷積得到t時刻的輸出，確保不會發生信息泄露;然后對權重進行歸一化處理，使用ReLU函數為激活函數;最后用Dropout操作來隨即丟棄一些神經元，來加速模型訓練并防止過擬合。1*1cov的作用是在殘差單元的輸入和輸出具有不同的維度時，對高維數據進行降維。

2? 實驗與結果分析

2.1? 環境設置。為了驗證本文所提擴張因果卷積模型的性能，利用Pytorch軟件進行算法編譯，仿真環境為處理器i7-10875H CPU 4.5GHz RAM16GB Win10操作系統的筆記本電腦。

2.2? 數據的選取與劃分。本文選用了某企業2020年7月1日到2021年1月31日共6個月的每日冷庫貨品銷售量作為實驗數據集，選取其中畜肉類商品，計算出每日銷售量作為實驗數據，部分數據如表1所示。

訓練數據從2020年7月1日到2021年1月31日六個月數據，預處理后共131 112條完整樣本。其中20%作為驗證集，驗證集大小為26 222，測試集從2021年1月1日到2021年1月31日，總樣本量為21 452。

2.3? 實驗設計

（1）首先將冷庫產品銷售量數據進行處理，去除掉個別差錯數據，然后將每天的銷售量計算出來，以時間步為16天來對數據進行滑窗化處理，以便根據每一天的產品銷售量來預測下一天的產品銷售量;（2）數據進行預處理并劃分訓練集與測試集;（3）將訓練集輸入擴張因果卷積模型進行訓練，模型輸入序列長度為16，卷積層數為4;（4）利用訓練好的模型預測測試集冷庫出貨量并計算誤差。

本文使用模型進行了兩種情況的預測實驗。

為了檢驗擴張因果卷積對銷售量預測準確度，本文采用了平均絕對百分比誤差MAPE為指標來評價模型的擬合精度。MAPE的計算公式如公式（2）所示：

MAPE=∑×100%? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? （2）

式中：xk為預測值，k為實際值;ek=xk-k， k=1，2，3，…，n。

MAPE的評價標準如表2所示。

實驗一：使用32天的數據，對接下來一天的銷售量進行預測，得到結果后與實際銷售量進行對比并計算MAPE。

實驗二：使用32天數據，對接下來七天的銷售量進行預測，

由于預測接下來一天的銷售量時輸入數據將模型訓練之后進行預測，網絡輸出的最后一個數字就是對接下來一天的銷售量預測，所以在連續預測多天時，可以首先按照預測一天的流程預測，將得到的結果拼接到輸入數據中并在輸入數據中去掉第一位來預測接下來一天。如此循環至預測滿需要預測的七天這個時間段。

2.4? 實驗結果及分析

2.4.1? 實驗一。本文應用的擴張因果卷積模型，隨機抽取日期，根據過去32天的銷售量預測未來一天的貨品銷售量，實驗結果如表3所示。

2.4.2? 實驗二。應用擴張因果卷積。抽取了2021.01.09日為起始日期，以之前32天的銷售量來預測接下來一周的銷售量，得到數據如表4所示。

從表3中數據可以看出利用擴張因果卷積模型得到的銷售量預測模型的MAPE值為4.03，說明其精度更高。

從表4中數據可看出利用擴張因果卷積模型通過過去30天來預測，接下來七天得到的冷庫畜肉出貨量預測MAPE為5.01%，說明其預測精準度依然較高。根據表2中評價標準及對比實驗一可知，擴張因果卷積模型在預測未來七天的銷售量數據時，雖然精確度沒有預測未來一天的時候高，但其擬合精度仍為優。

3? 結? 論

本文針對銷售量的預測有天然時空依賴性，構建擴張因果卷積模型，使用擴張卷積來增加感受野大小，從而獲取序列的長時記憶;同時引入因果卷積來確保數據的時序性解決信息泄露問題。設計了預測一天和預測七天兩個實驗。通過對比MAPE指標，驗證了模型具有良好的精確性。

過去十幾年，神經網絡在圖像識別、順序處理等方面都展現了良好的性能，在預測方向，神經網絡模型也得到了更多的應用，相信隨著研究的深入，基于卷積的神經網絡模型也可以推動冷庫商品銷售量預測的進一步發展。

參考文獻：

[1] 蔣文武. 基于WaveNet-LSTM網絡的商品銷量預測研究[D]. 廣州：廣東工業大學，2019.

[2]? CHEN X W， LIN X. Big data deep learning： Challenges and perspectives[J]. Quality Control Transactions， 2014，2（2）：514-525.

[3]? GUO Y， LIU Y， OERLEMANS A， et al. Deep learning for visual understanding： A review[J]. Neurocomputing， 2016，187（26）：27-48.

[4]? LECUN Y， BENGIO Y， HINTON G. Deep learning[J]. Nature， 2015，521：436-444.

[5]? LITJENS G， KOOI T， BEJNORDI B E， et al. A survey on deep learning in medical image analysis[J]. Medical Image Analysis， 2017，42（9）：60-88.

[6]? ABURTO L， WEBER R. Improved supply chain management based on hybrid demand forecasts[J]. Applied Soft Computing， 2007，7（1）：136-144.

[7]? ZHANG G P， QI M. Neural netw ork forecasting for seasonal and trend time series[J]. European Journal of Operational Research， 2005，160（2）：501-514.

[8]? KUO R J. A sales forecasting system based on fuzzy neural network with initial weights generated by genetic algorithm[J]. European Joumal of Operational Research， 2001，129（3）：496-517.

[9] 釗魁. 基于卷積神經網絡的電商數據深度挖掘[D]. 杭州：浙江大學，，2017.

[10]? WAIBEL A， HANAZAWA T， HINTON G， et al. Phoneme recognition using time-delay neural networks[J]. IEEE Transactions on Acoustics， Speech， and Signal Processing， 1989，37（3）：328-339.

[11] 劉宇杰. 基于因果卷積的預測算法研究[D]. 哈爾濱：哈爾濱工程大學，2020.

[12] 翟劍鋒. 基于TCN的時序數據研究[J]. 電子技術與軟件工程，2021（2）：196-198.

[13] 袁華，陳澤濠. 基于時間卷積神經網絡的短時交通流預測算法[J]. 華南理工大學學報（自然科學版），2020，48（11）：107-113，122.

收稿日期：2022-11-23

作者簡介：王天潤（1998—），男，遼寧沈陽人，北京信息科技大學信息管理學院碩士研究生，研究方向：大數據與智慧物流;蔣洪偉（1972—），本文通信作者，男，遼寧沈陽人，北京信息科技大學信息管理學院，副教授，研究方向：數據分析與數據挖掘。

引文格式：王天潤，蔣洪偉. 基于擴張因果卷積模型的冷庫商品銷售量預測[J]. 物流科技，2023，46（15）：72-75.