神經網絡在上證綜指預測中的應用

摘要：本文首先確定了反映股票交易數據的特征指標，構建BP神經網絡模型和LSTM神經網絡模型，并將它們應用于上證綜指狀態的分類預測。實驗通過對兩種模型應用結果的比較，驗證了LSTM模型在時序數據的預測分析上較BP神經網絡有十分顯著的優勢。BP神經網絡的預測準確率為66.98%，而LSTM的準確率達到了87.4%，充分驗證了所設計模型的有效性。

關鍵詞：股票預測;神經網絡;LSTM;分類預測

1.引言

股票市場對商品市場有著十分重要的影響，它的走勢一定程度上也能反應國家經濟狀況。上證綜指反應了整個上海證券市場的股票價格總趨勢及漲跌幅度，如果能夠較好地對其漲跌進行預測，對投資者進行投資的風險控制和收益最大化來說有著巨大的實際應用價值。

BP神經網絡是當前使用最廣泛的神經網絡模型之一。它能夠在不知道具體映射關系的情況下，通過學習輸入數據，依靠所確定的目標函數，使網絡結構誤差最小化，完成模型訓練。誤差逆向傳播的原理是利用網絡輸出和真實標簽之間的誤差進行反向傳播逐層更新并縮小每一層誤差。

近年來關于長短期記憶神經網絡的應用開始逐漸出現，它是一種特殊的循環神經網絡。國內外在股票市場預測領域使用較廣泛的都是BP神經網絡及其各種優化算法。而LSTM神經網絡主要被用在自然語言處理方面，在金融預測領域使用較少。2016年Luca Di Persio等人使用了MLP、CNN、RNN等多種模型來對S&P500的日交易數據進行預測，說明了RNN在股票趨勢預測方面有著自己的優勢。

本文主要將日線交易數據進行特征提取，通過建立神經網絡模型，實現對未來T+1天上證綜指的漲、跌、持平三種狀態的預測。本文對BP神經網絡和LSTM神經網絡這兩種模型進行比較，利用歸一化、dropout等工具優化模型，最終應用到上證綜指狀態預測中，比較兩者模型的實驗結果，證明模型的適用性和準確性以及模型的泛化能力。

2.樣本數據預處理

考慮到2008年金融危機股市波動較大，故本文采用2009年1月1日至2019年4月1日10年余的共2490條上證綜指的日交易數據。數據來源于網易財經。

根據分析，本文選取收盤價、最高價、最低價、開盤價、成交量、10日ROC、14日RSI、14日CMO、10日MA、20日EMA、MACD、9日KDJ、調整的OBV差值等17個特征指標作為反應上證綜指交易信息、指數走勢等的特征進行實驗，特征提取使用python中的Talib庫。

由于數據中幾個特征的維度不一致，因此本文將對各個輸入變量特征數據進行歸一化處理。歸一化處理能夠把數據的量級范圍控制在0到1之間，使得各個變量特征在誤差逆向傳播過程中，更新步長與數據的數量級一致，可以提升模型的收斂速度和預測精度。歸一化函數計算公式如下：

本文將T+1天上證綜指的狀態分為三類，分別為：上漲、持平、下跌。T+1天上證綜指狀態持平的閾值設為0.5%，即上漲幅度大于0.5%即認為上漲，下跌亦然，這樣選擇閾值的原因是為了保證樣本在三種狀態下分布大致均勻。

3.模型與實驗

3.1BP神經網絡模型

BP神經網絡一般分為三個層，輸入層、隱藏層和輸出層。每一層上都有許多神經元節點，層與層之間的神經元節點相互連接，完全連接的神經元層稱為全連接層。每一層的神經元節點都有一個權值參數稱為連接的權重，后一層的輸入為前一層的輸出乘以前一層的權重加上一個偏置（bias）并經過一個激活函數。

BP神經網絡的向前傳播公式如下：

其中，X是輸入的數據特征向量，維度是17;b1是第一層的偏置向量，維度等于隱藏層單元的個數n;W1是第一層的權值參數矩陣n×17，維度是;b2是第二層的偏置向量，維度等于3;W2是第二層的權值參數矩陣，維度是3×n;? ?是輸出的估計值，該估計值的每個維度的數表示屬于各個類別的概率值。

BP神經網絡的隱藏層激活函數全部選擇Sigmoid函數，這也是一般BP神經網絡最普遍運用的一個激活函數，它能將任意范圍的數映射到0到1之間。由于本文研究的是三分類問題，因此輸出層激活函數將采用Softmax函數，相應的損失函數選擇多分類交叉熵函數，反向傳播的優化算法選擇Adam算法。

對于BP神經網絡來說，隱藏層的節點個數合適與否將是模型效果好壞的關鍵。本文將不同數量隱藏層節點個數的模型進行準確性比較，由此得到最適合的節點個數。

3.2長短時記憶模型

長短時記憶模型是一種特定形式的循環神經網絡，但LSTM單元比RNN單元性能更好，收斂更快，能夠感知數據的長時依賴。

LSTM單元內部傳播由三個門進行控制，遺忘門和更新門負責對時序數據的特征進行篩選控制，提取隱藏的信息進行長時記憶，輸出門則負責向后一個單元進行數據輸入，或者進行結果輸出。

本文使用的LSTM模型預測方式為利用前14個交易日的交易數據及各個指標特征實現對T+1天指數狀態的預測。因此，模型設計為14個連接的LSTM單元，各個LSTM單元的權值參數共享，設置α[t]隱藏層的神經元個數為30個。

3.3實證分析

模型訓練所使用的數據按8：2的比例劃分為訓練集和測試集，在用訓練集訓練模型的時候又將訓練集按9：1的比例劃分出驗證集。

本為分別設置三層BP神經網絡的隱藏層神經元個數為20、30、40，分別在30和40個神經元的網絡隱藏層后面都加入了Dropout層以防止模型發生過擬合。Dropout層的參數設置為0.2，表示隨機丟掉20%的神經元個數。迭代次數根據模型擬合需要分別選有700次和800次。

表1是BP網絡（模型1-5）和LSTM網絡（模型6、7）訓練模型的準確率結果表。

由準確率結果表可以看出，BP網絡模型隱藏層神經元個數為20、30、40的三個模型的準確率相差并不是很大，準確率均在65%到66%之間。三個模型在訓練過程階段的擬合效果均不錯，但在測試集上的準確率明顯低于模型訓練時的準確率，由此可以看出模型的泛化能力有待提高，都存在較輕較重的過擬合現象。分別在隱藏層神經元個數為30、40的模型隱藏層之后添加一層Dropout層之后，能夠明顯改善模型的過擬合現象，提高模型的泛化能力，并且模型在測試集中應用的準確率也略有提高，這說明Dropout工具能夠顯著改善模型的適用性和準確性以及模型的泛化能力。

從準確率來看，五個模型在測試集上的準確率均在65%到67%之間，五個模型的準確性相去不大。而從模型訓練效果和泛化能力來講，模型3要略優于另外四個模型，在三個數據集上的準確率十分穩定，均在66%到67%之間。

LSTM單元隱藏層節點設置為30個，由于LSTM層較深，易產生過擬合現象，因此本文在LSTM層之后又添加了一個Dropout層，Dropout層參數設置為0.4。模型迭代次數為120次。

LSTM模型6在訓練集上的準確率達到了91.46%，在驗證集上為87.24%，而在測試集上較低，為86.83%?？梢钥闯鯨STM網絡模型過擬合現象較BP網絡模型要更為嚴重，在訓練模型的時候就已經出現了過擬合。添加了Dropout層的模型7的準確率在三個數據集上十分相近，顯著提高了模型的泛化能力。從測試集上的準確率來看，模型7較模型6略有提高，這說明模型的適用性和準確性略有提升。

LSTM模型在預測能力上要顯著高于BP網絡模型。在相同的數據集上，BP網絡模型的最優準確率在66.98%左右，而LSTM網絡模型的最優準確率高達87.4%，提升了20%有余。

4.總結

本文實驗的研究對象是上證綜指。實驗所采用的股票數據是日線交易數據，并對這些數據進行特征提取，得到了ROC、RSI、CMO、MACD等17個指標特征。

實驗結果證明了LSTM模型在對諸如股票這類時序數據的預測中較傳統的BP網絡有非常明顯的優勢，模型最終的準確率達到了87.4%。并且Dropout工具能夠顯著改善模型的適用性和準確性以及模型的泛化能力。

神經網絡模型的好壞也很大程度上依賴于輸入特征的選擇，有關于分類對象更完善的特征對分類的準確性提高有很大的幫助，以后研究除了從優化模型結構、改變優化算法亦可以從完善特征工程入手。

參考文獻：

[1]吳凌云.BP神經網絡學習算法的改進及其應用[J].信息技術，2003，27（7）：42-44.

[2]Luca Di Persio，Ole Ksandr Honchar.Artificial neural networks approach to forecast of stock market price movements[J].International Journal of Economics and Management Systems， Vol.1， 2016： 158-162.

[3]張翔.量化投資與Python語言[M].北京：清華大學出版社，2018.

作者簡介：謝君杰（1997.2-），男，漢族，浙江紹興人，上海大學經濟學院，2019級研究生。