基于DBN的金融時序數據建模與決策

曾志平，蕭海東，張新鵬

(1.上海大學 通信與信息工程學院，上海 200072；2.中國科學院 上海高等研究院 智慧城市研究中心，上海 201210)

基于DBN的金融時序數據建模與決策

曾志平1,2，蕭海東2，張新鵬1

(1.上海大學 通信與信息工程學院，上海 200072；2.中國科學院 上海高等研究院 智慧城市研究中心，上海 201210)

在金融時序數據的分析中經常會遇到一些復雜的非線性系統(tǒng)，利用數學方法很難對這些復雜的系統(tǒng)狀態(tài)方程準確建模。針對目前金融時序的數據分析復雜性和不確定性等問題，將對復雜非線性系統(tǒng)的模擬轉化為對金融時序數據曲線的模式識別，確定了金融時序數據上升、下降以及無規(guī)則的各種模式。利用深度學習對非結構化數據處理的優(yōu)勢，提出了一種改進的基于深度信念網絡(DBN)決策算法的金融時序數據建模與分析方法。將時序數據轉化為非結構化數據，以這些非結構化數據作為深度學習網絡的輸入層訓練DBN金融時序數據模型，應用訓練好的模型于金融時序數據樣本的預測選取和交易。實驗結果表明，利用DBN模型選擇的金融數據樣本在金融時序數據量化的決策分析中的準確率可達到90.544 2%。

深度信念網絡；受限玻爾茲曼機；深度學習；金融時序數據；預測與決策

0 引 言

目前對于金融時序數據分析的方法主要有兩類：基本面分析和技術面分析[1]。基本面分析是研究影響證券市場供給和需求的各種因素；技術面分析是研究市場過去和現在的行為對金融市場未來走勢的影響。許多利用計算機的模型如遺傳算法、人工神經網絡、支持向量機等金融數據分析的方法屬于技術分析方法[2]。現今大多數金融數據分析方法都是基于技術面分析的方法。技術面分析主要分析市場數據的特征和社會輿情對市場的影響。其中文獻[3]利用微博采集個人數據中個人的情感傾向分析研究經濟市場走向，但利用情感數據分析市場包含太多主觀因素，使得分析結果帶有很大的模糊性，不利于定量化分析。文獻[4]討論了利用小波分析對股指期貨市場收盤價的研究并進行了有效驗證，但沒有提出行之有效的對整個金融市場中金融樣本進行分析的方法。文獻[5]分析了布林指標、移動平均線等指標的協(xié)同作用，確定有效的各種金融市場模式，但是沒有提供定量的決策分析。

深度學習的概念由Hinton等于2006年提出[6]，利用深度信念網絡(Deep Belief Networks,DBN)實現數據的降維及分類。深度學習可通過學習一種深層非線性網絡結構，實現復雜函數逼近[7]。深度學習目前在很多領域都優(yōu)于過去的方法，因此在語音識別[8]、人臉識別[9]、交通標志分類[10]、醫(yī)學圖像處理[11]等領域都有所應用。深度學習帶來了機器學習的一個新浪潮，導致了“大數據+深度模型”時代的來臨[12]，并且金融大數據由于數據量正在不斷變大，因此深度學習將在提供金融大數據分析解決方案中發(fā)揮關鍵作用[13]。已經有很多學者利用深度學習技術來實現對時序數據的分析，目前文獻[14]利用三層DBN網絡對混沌時間序列進行預測，文獻[15]對交通流量的時序序列進行預測，都實現比傳統(tǒng)方法更好的效果；在金融時序數據分析中，文獻[16]利用改進的DBN網絡實現比傳統(tǒng)方法更好的外匯匯率預測。

針對目前金融時序數據分析的復雜性和不確定性等問題，在技術面層次分析金融時序數據的原始特征，通過分析金融市場中海量各種原始時序數據的特點，結合DBN模型分析金融市場中的時序數據。采集海量原始的金融時序數據，為了挖掘出原始數據中所隱含的信息，把原始結構化時序數據轉化為非結構化數據作為DBN深度學習模型的輸入，建立DBN深度學習金融時序數據分析模型，同時為金融時序數據提供定量化分析決策。

1 DBN算法

深度學習的整體框架都是根據人腦神經網絡的機制來進行學習的，因此其核心訓練思路主要有以下三個步驟：

(1)無監(jiān)督學習用于每一層網絡的pre-train(預訓練)；

(2)每次用無監(jiān)督學習訓練一層，然后將其訓練結果作為其高一層的輸入；

(3)用自頂而下的監(jiān)督算法去調整所有層(參數微調)。

DBN作為一種深度學習的模型受到廣泛關注。從結構上看，DBN由多層無監(jiān)督受限玻爾茲曼機(Restricted Boltzmann Machine，RBM)和有監(jiān)督的反向傳播(Back Propagation，BP)網絡組成[6]。深度神經網絡的整體結構如圖1所示，輸入層-隱藏層之間利用高斯伯努利RBM，隱藏層-隱藏層之間利用高斯伯努利RBM，隱藏層-隱藏層的層級設計可以有N層，然后輸出層作為無監(jiān)督分類的結果。

圖1 RBM組成的DBN

RBM在給定模型參數條件下的聯(lián)合分布為：

p(v,h;θ)=exp(-E(v,h;θ))/Z

(1)

模型賦予可視變量v的邊際概率為：

(2)

對伯努利—伯努利RBM能量函數定義為：

(3)

其中，wij為可視單元和隱單元連接權值；bi和aj為偏置量；i和j為可視單元和隱單元的數目。

條件概率計算如下：

(4)

(5)

這里δ(x)=1/(1+exp(x))。相似的，對應高斯—伯努利RBM能量函數為：

(6)

對應條件概率為：

(7)

(8)

其中，N(·)為高斯分布。

然后對RBM微調，即利用對數似然概率log(p(v;θ))梯度可推導出RBM的權值更新準則為：

Δwij(t+1)=cΔwij(t)+α(data-model)

(9)

其中，α為學習率；c為動量系數；<·>為期望。

這樣由RBM組成的DBN深度學習算法就組成了，主要是對RBM結構進行微調和設置適合的層數使之適應數據的訓練，獲得最高精度。

2 改進的DBN金融分析模型

2.1 實證分析

在金融時序數據的分析中經常會遇到一些復雜的非線性系統(tǒng)，利用數學方法很難對這些復雜的系統(tǒng)狀態(tài)方程準確建模[17]，直接利用金融時序數據輸入模型中容易造成DBN算法的發(fā)散，不能找出原始數據中的整體規(guī)律。

而目前DBN深度學習模型應用比較成功的就是在圖像的識別中。因此嘗試利用改進的DBN模型，把原始金融數據轉化為相應的非結構化數據，對這些非結構化數據抽取特征對不同趨勢的時序數據曲線進行分類，把建立復雜的數學模型轉化為相應的圖像識別模型，從而提升DBN模型的精確度。

首先，使用DBN模型對短期內金融市場的漲跌進行預測。利用t天內的收盤價及成交量等信息對應t+1天內的收盤價的價格變化構建相應的DBN模型。一般地，預測時間間隔越小，DBN模型的預測能力就越強，研究選用以天為單位作為預測模型輸入，并選取了過去一段時間所有金融交易數據作為DBN模型訓練的樣本。

由于金融時序數據的復雜性，需要對金融時序數據樣本進行歸一化處理，公式為：

(10)

其中，I為輸出數據；α為偏移參數，一般默認為2；x為原始數據。

通過歸一化轉換有利于DBN模型的訓練。

當DBN深度學習模型訓練好之后，預測的目標是價格變動方向(漲還是跌)和變動幅度大小。根據預測模型的輸出判斷未來的漲跌做出買入決策。根據漲跌給定一個閾值，只有達到或超過閾值才會觸發(fā)賣出信號。相應的賣出信號如下：

(11)

其中，buyprice為模型預測選取的買入價；sellprice是賣出價；s為買入價的倍數；T為一個賣出的時間段。Signal為1時賣出，交易成功，獲得收益；Signal為0時，進入下一個交易日；Signal為-1時，強行賣出，交易失敗，有虧損的風險。

2.2 金融時序數據采集

為了驗證DBN金融分析模型，選取當前國內最大的金融市場——滬深股市作為金融時序數據樣本，采集2012年10月20日之前100工作日深滬股市所有股票的收盤價作為模型訓練的樣本集，把樣本集分為三類，根據股票樣本特征采集轉化為有明顯上升趨勢(a)、有明顯下降趨勢(b)和無明顯趨勢(c)三種不同非結構化數據樣本并歸類，如圖2所示。并根據每五個工作日的收盤價曲線把三種不同樣本轉化為50×50像素的非結構化圖片，利用這些非結構化數據作為訓練DBN模型的原始預訓練數據。同樣驗證數據和檢測數據也利用同樣的方式獲得。分別生成樣本集訓練的樣本：預訓練數據5 000個、驗證數據3 000個和測試數據2 000個。當DBN深度學習模型訓練好之后，對2000-2014年兩年間的所有金融市場樣本每個交易日數據進行滑窗預測并驗證模型的有效性。

圖2 金融數據樣本示例

2.3 DBN網絡訓練

采用三層RBM組成的DBN深度學習網絡，網絡的輸入層有50×50個節(jié)點，第一個、第二個隱含層有3 000個節(jié)點，輸出層有3個輸出節(jié)點(上漲、下跌或者無明顯趨勢狀態(tài))。首先通過逐層訓練的方式，數據被依次映射到隱含層h1,h2,…,hn中。為了加快訓練過程，一般采用GPU對訓練模型進行加速。然后利用驗證數據和檢測數據在模型建立好后對整個模型進行微調測試，提升準確度。提升精確度實現模型的分類，需要在DBN模型的最后加入一個分類器，把不同類型的數據集與數據集對應的標簽利用有監(jiān)督的學習方法微調整個網絡。詳細的DBN網絡訓練流程如圖1所示，這里各層網絡節(jié)點數為[2 500,3 000,3 000,3]，把非結構化數據圖像像素點轉化為輸入的2 500個節(jié)點，再經過兩層隱含層的訓練最后輸出3個分類節(jié)點。

2.4 金融時序數據決策

對已經訓練好的模型進行模型預測，利用2000-2014年兩年間的金融市場每日數據——開盤價、收盤價、最高價、最低價、成交量和輸入的歷史時序數據提供買賣的決策。首先，利用訓練好的模型選出t+1天可以買入的樣本；然后在符合金融市場的規(guī)律下在接下來T個工作日內根據Signal信號確定賣出信號；最后統(tǒng)計出Signal=1信號成功的樣本個數，驗證模型的效果。圖3為金融時序數據決策分析流程。選取歷史的金融數據作為模型訓練的原始數據，把這些數據轉化為三種類型的非結構化數據，利用訓練好的DBN深度學習模型預測并驗證這些數據，把選取好的樣本輸出到決策分析，然后再利用接下來T個工作日的金融時序數據得出賣出信號Signal。

圖3 金融時序數據決策分析流程圖

3 實 驗

3.1 實驗環(huán)境

對金融時序數據分析采用的處理器為國產兆芯X86處理器，內存容量16 GB。為了加速DBN算法處理金融大數據的能力，利用NVIDIA顯卡的GPU提升算法性能，整個算法的軟件環(huán)境是在Python2.7下搭建可以利用GPU的Theano環(huán)境。

3.2 實驗結果及分析

利用DBN建立好的模型對2000年-2014年間的金融市場每日數據驗證模型的有效性。假設T為40天，s=1.01即在40天內買賣樣本，并且樣本買賣的收益為1%。詳細如表1所示。

表1 2000～2014每月統(tǒng)計金融時序數據樣本

統(tǒng)計分析15年間交易成功和交易失敗的數據樣本，對表1數據的分析如圖4所示。總體上交易成功的樣本遠遠大于交易失敗的樣本，對所有統(tǒng)計數據分析在兩年間樣本成功率為80.753 4%。

對交易成功的樣本，進一步分析在T時間內能達到成功交易s的指標下所需要交易的時間。對成功交易的金融樣本的分析如圖5所示。成功交易的金融樣本五天內能交易的占了成功交易的80.753 4%，一個交易日內就能賣出的占了55.433 3%。短時間內模型選擇的樣本驗證成功效果明顯。因此，前面假設T=40天是合理的，當t=40時成功賣出的樣本個數只有5個，占成功賣出樣本的0.116 4%，樣本數已經足夠小。

圖4 2000-2014年間成功和失敗樣本數

圖5 2000-2014年間t時間內 成功賣出的金融樣本數

從以上兩個結果顯示，利用DBN模型選擇的金融大數據樣本呈上升趨勢的預測準確率達到了90.544 2%，能有效提供決策的樣本篩選；同時，對篩選后的樣本成功賣出的時間趨勢進行分析，五天內交易占80.753 4%。

4 結束語

針對目前金融時序數據分析的復雜性和不確定性等問題，通過分析海量金融數據確定了金融大數據非結構化的各種模式，提出了復雜的金融大數據趨勢轉化為對金融趨勢曲線非結構化數據的識別分類。利用DBN深度學習方法對金融大數據進行了建模分析，得到不同時刻金融大數據走勢并進行了金融數據走勢定量分析，為實際預測與決策提供了寶貴的參考和重要的依據。驗證實例表明，利用DBN模型選擇的金融數據樣本決策的準確率達到了90.544 2%。

[1] 楊用斌,楊唯實.基本面分析和技術分析流派市場價格博弈—基于方法相關性下的研究[J].經濟問題,2013(11):78-81.

[2]MabuS,ObayashiM,KuremotoT.Ensemblelearningofrule-basedevolutionaryalgorithmusingmultilayerperceptronforstocktradingmodels[C]//7thinternationalconferenceonsoftcomputingandintelligentsystemsand15thinternationalsymposiumonadvancedintelligentsystems.[s.l.]:[s.n.],2014:624-629.

[3] 龐 磊,李壽山,張 慧,等.基于微博的股票投資者未來情感傾向識別研究[J].計算機科學,2012,39(6A):249-252.

[4] 劉向麗,王旭朋.基于小波分析的股指期貨高頻預測研究[J].系統(tǒng)工程理論與實踐,2015,35(6):1425-1432.

[5] 胡曉彤,王子銀.基于模糊模式識別的金融數據分析[J].制造業(yè)自動化,2011,33(4):208-211.

[6]HintonGE,OsinderoS,TehYW.Afastlearningalgorithmfordeepbeliefnets[J].NeuralComputation,2006,18(7):1527-1554.

[7]SunZJ,XueL,XuYM,etal.Overviewofdeeplearning[J].ApplicationResearchofComputers,2012,29(8):2806-2810.

[8]ZhangXL,WuJ.Denoisingdeepneuralnetworksbasedvoiceactivitydetection[C]//2013IEEEinternationalconferenceonacoustics,speechandsignalprocessing.[s.l.]:IEEE,2013:853-857.

[9]StuhlsatzA,LippelJ,ZielkeT.Featureextractionwithdeepneuralnetworksbyageneralizeddiscriminantanalysis[J].IEEETransactionsonNeuralNetworksandLearningSystems,2012,23(4):596-608.

[10]CiresanD,MeierU,MasciJ,etal.Multi-columndeepneuralnetworkfortrafficsignclassification[J].NeuralNetworks,2012,32:333-338.

[11]CarneiroG,NascimentoJC.Combiningmultipledynamicmodelsanddeeplearningarchitecturesfortrackingtheleftventricleendocardiuminultrasounddata[J].IEEETransactionsonPatternAnalysisandMachineIntelligence,2013,35(11):2592-2607.

[12] 余 凱,賈 磊,陳雨強,等.深度學習的昨天、今天和明天[J].計算機研究與發(fā)展,2013,50(9):1799-1804.

[13]ChenXW,LinX.Bigdatadeeplearning:challengesandperspectives[J].IEEEAccess,2014,2:514-525.

[14]KuremotoT,KimuraS,KobayashiK,etal.TimeseriesforecastingusingadeepbeliefnetworkwithrestrictedBoltzmannmachines[J].Neurocomputing,2014,137(15):47-56.

[15]HuangW,HongH,SongG,etal.Deepprocessneuralnetworkfortemporaldeeplearning[C]//2014internationaljointconferenceonneuralnetworks.[s.l.]:[s.n.],2014:465-472.

[16]ShenF,ChaoJ,ZhaoJ.Forecastingexchangerateusingdeepbeliefnetworksandconjugategradientmethod[J].Neurocomputing,2015,167:243-253.

[17] 孫小軍,張銀利.股票-債券投資組合問題的數學模型及算法[J].系統(tǒng)工程理論與實踐,2015,35(6):1433-1439.

Modeling and Decision-making of Financial Time Series Data with DBN

ZENG Zhi-ping1,2,XIAO Hai-dong2,ZHANG Xin-peng1

(1.School of Communication and Information Engineering,Shanghai University,Shanghai 200072,China；2.Research Center of Smart City,Shanghai Advanced Research Institute,Chinese Academy of Sciences,Shanghai 201210,China)

In analysis of the financial time series data,some complex nonlinear systems are often encountered.It is difficult to accurately model the state equation of these complex systems with mathematical methods.Faced with the current problem of complexity and uncertainty of financial time series analysis,simulations of complex nonlinear systems has been translated into pattern recognition of financial time series data and various patterns of financial time series curves,such as ascending,declining and random,have been determined.By taking use of the advantages of deep learning in unstructured data processing,an improved financial time series modeling and analysis method with improved Deep Belief Network (DBN) decision-making algorithm has been proposed,by which time series data have been transformed into unstructured data to be taken as input of input layer training model for in-depth learning network and to use trained model to predict the financial transaction data sample selection.Experimental results show that the accuracy rate acquired by improved deep belief network method has been achieved by 90.544 2 percent in quantitative analysis of final samples.

deep belief network;Restricted Boltzmann Machine (RBM);deep learning;financial time series data;forecasting and decision

2016-06-22

2016-09-28

時間：2017-03-07

國家自然科學基金資助項目(61271349)；中國科學院科技服務網絡計劃(STS計劃)項目(KFJ-EW-STS-140);中科院先導項目(XDA06010800);上海市科學技術委員會資助課題(14DZ1119100)

曾志平(1989-)，男，碩士生，研究方向為大數據分析；蕭海東，副研究員，研究方向為大數據分析、信息安全、智能數據融合、物聯(lián)網；張新鵬，教授，研究方向為圖像處理、多媒體信息安全。

http://kns.cnki.net/kcms/detail/61.1450.TP.20170307.0922.094.html

TP391.41;F830.59

A

1673-629X(2017)04-0001-05

10.3969/j.issn.1673-629X.2017.04.001