曾志平，蕭海東，張新鵬

(1.上海大學 通信與信息工程學院，上海 200072；2.中國科學院 上海高等研究院 智慧城市研究中心，上海 201210)

基于DBN的金融時序數(shù)據(jù)建模與決策

曾志平1,2，蕭海東2，張新鵬1

(1.上海大學 通信與信息工程學院，上海 200072；2.中國科學院 上海高等研究院 智慧城市研究中心，上海 201210)

在金融時序數(shù)據(jù)的分析中經(jīng)常會遇到一些復(fù)雜的非線性系統(tǒng)，利用數(shù)學方法很難對這些復(fù)雜的系統(tǒng)狀態(tài)方程準確建模。針對目前金融時序的數(shù)據(jù)分析復(fù)雜性和不確定性等問題，將對復(fù)雜非線性系統(tǒng)的模擬轉(zhuǎn)化為對金融時序數(shù)據(jù)曲線的模式識別，確定了金融時序數(shù)據(jù)上升、下降以及無規(guī)則的各種模式。利用深度學習對非結(jié)構(gòu)化數(shù)據(jù)處理的優(yōu)勢，提出了一種改進的基于深度信念網(wǎng)絡(luò)(DBN)決策算法的金融時序數(shù)據(jù)建模與分析方法。將時序數(shù)據(jù)轉(zhuǎn)化為非結(jié)構(gòu)化數(shù)據(jù)，以這些非結(jié)構(gòu)化數(shù)據(jù)作為深度學習網(wǎng)絡(luò)的輸入層訓練DBN金融時序數(shù)據(jù)模型，應(yīng)用訓練好的模型于金融時序數(shù)據(jù)樣本的預(yù)測選取和交易。實驗結(jié)果表明，利用DBN模型選擇的金融數(shù)據(jù)樣本在金融時序數(shù)據(jù)量化的決策分析中的準確率可達到90.544 2%。

深度信念網(wǎng)絡(luò)；受限玻爾茲曼機；深度學習；金融時序數(shù)據(jù)；預(yù)測與決策

0 引 言

目前對于金融時序數(shù)據(jù)分析的方法主要有兩類：基本面分析和技術(shù)面分析[1]。基本面分析是研究影響證券市場供給和需求的各種因素；技術(shù)面分析是研究市場過去和現(xiàn)在的行為對金融市場未來走勢的影響。許多利用計算機的模型如遺傳算法、人工神經(jīng)網(wǎng)絡(luò)、支持向量機等金融數(shù)據(jù)分析的方法屬于技術(shù)分析方法[2]?，F(xiàn)今大多數(shù)金融數(shù)據(jù)分析方法都是基于技術(shù)面分析的方法。技術(shù)面分析主要分析市場數(shù)據(jù)的特征和社會輿情對市場的影響。其中文獻[3]利用微博采集個人數(shù)據(jù)中個人的情感傾向分析研究經(jīng)濟市場走向，但利用情感數(shù)據(jù)分析市場包含太多主觀因素，使得分析結(jié)果帶有很大的模糊性，不利于定量化分析。文獻[4]討論了利用小波分析對股指期貨市場收盤價的研究并進行了有效驗證，但沒有提出行之有效的對整個金融市場中金融樣本進行分析的方法。文獻[5]分析了布林指標、移動平均線等指標的協(xié)同作用，確定有效的各種金融市場模式，但是沒有提供定量的決策分析。

深度學習的概念由Hinton等于2006年提出[6]，利用深度信念網(wǎng)絡(luò)(Deep Belief Networks,DBN)實現(xiàn)數(shù)據(jù)的降維及分類。深度學習可通過學習一種深層非線性網(wǎng)絡(luò)結(jié)構(gòu)，實現(xiàn)復(fù)雜函數(shù)逼近[7]。深度學習目前在很多領(lǐng)域都優(yōu)于過去的方法，因此在語音識別[8]、人臉識別[9]、交通標志分類[10]、醫(yī)學圖像處理[11]等領(lǐng)域都有所應(yīng)用。深度學習帶來了機器學習的一個新浪潮，導致了“大數(shù)據(jù)+深度模型”時代的來臨[12]，并且金融大數(shù)據(jù)由于數(shù)據(jù)量正在不斷變大，因此深度學習將在提供金融大數(shù)據(jù)分析解決方案中發(fā)揮關(guān)鍵作用[13]。已經(jīng)有很多學者利用深度學習技術(shù)來實現(xiàn)對時序數(shù)據(jù)的分析，目前文獻[14]利用三層DBN網(wǎng)絡(luò)對混沌時間序列進行預(yù)測，文獻[15]對交通流量的時序序列進行預(yù)測，都實現(xiàn)比傳統(tǒng)方法更好的效果；在金融時序數(shù)據(jù)分析中，文獻[16]利用改進的DBN網(wǎng)絡(luò)實現(xiàn)比傳統(tǒng)方法更好的外匯匯率預(yù)測。

針對目前金融時序數(shù)據(jù)分析的復(fù)雜性和不確定性等問題，在技術(shù)面層次分析金融時序數(shù)據(jù)的原始特征，通過分析金融市場中海量各種原始時序數(shù)據(jù)的特點，結(jié)合DBN模型分析金融市場中的時序數(shù)據(jù)。采集海量原始的金融時序數(shù)據(jù)，為了挖掘出原始數(shù)據(jù)中所隱含的信息，把原始結(jié)構(gòu)化時序數(shù)據(jù)轉(zhuǎn)化為非結(jié)構(gòu)化數(shù)據(jù)作為DBN深度學習模型的輸入，建立DBN深度學習金融時序數(shù)據(jù)分析模型，同時為金融時序數(shù)據(jù)提供定量化分析決策。

1 DBN算法

深度學習的整體框架都是根據(jù)人腦神經(jīng)網(wǎng)絡(luò)的機制來進行學習的，因此其核心訓練思路主要有以下三個步驟：

(1)無監(jiān)督學習用于每一層網(wǎng)絡(luò)的pre-train(預(yù)訓練)；

(2)每次用無監(jiān)督學習訓練一層，然后將其訓練結(jié)果作為其高一層的輸入；

(3)用自頂而下的監(jiān)督算法去調(diào)整所有層(參數(shù)微調(diào))。

DBN作為一種深度學習的模型受到廣泛關(guān)注。從結(jié)構(gòu)上看，DBN由多層無監(jiān)督受限玻爾茲曼機(Restricted Boltzmann Machine，RBM)和有監(jiān)督的反向傳播(Back Propagation，BP)網(wǎng)絡(luò)組成[6]。深度神經(jīng)網(wǎng)絡(luò)的整體結(jié)構(gòu)如圖1所示，輸入層-隱藏層之間利用高斯伯努利RBM，隱藏層-隱藏層之間利用高斯伯努利RBM，隱藏層-隱藏層的層級設(shè)計可以有N層，然后輸出層作為無監(jiān)督分類的結(jié)果。

圖1 RBM組成的DBN

RBM在給定模型參數(shù)條件下的聯(lián)合分布為：

p(v,h;θ)=exp(-E(v,h;θ))/Z

(1)

模型賦予可視變量v的邊際概率為：

(2)

對伯努利—伯努利RBM能量函數(shù)定義為：

(3)

其中，wij為可視單元和隱單元連接權(quán)值；bi和aj為偏置量；i和j為可視單元和隱單元的數(shù)目。

條件概率計算如下：

(4)

(5)

這里δ(x)=1/(1+exp(x))。相似的，對應(yīng)高斯—伯努利RBM能量函數(shù)為：

(6)

對應(yīng)條件概率為：

(7)

(8)

其中，N(·)為高斯分布。

然后對RBM微調(diào)，即利用對數(shù)似然概率log(p(v;θ))梯度可推導出RBM的權(quán)值更新準則為：

Δwij(t+1)=cΔwij(t)+α(data-model)

(9)

其中，α為學習率；c為動量系數(shù)；<·>為期望。

這樣由RBM組成的DBN深度學習算法就組成了，主要是對RBM結(jié)構(gòu)進行微調(diào)和設(shè)置適合的層數(shù)使之適應(yīng)數(shù)據(jù)的訓練，獲得最高精度。

2 改進的DBN金融分析模型

2.1 實證分析

在金融時序數(shù)據(jù)的分析中經(jīng)常會遇到一些復(fù)雜的非線性系統(tǒng)，利用數(shù)學方法很難對這些復(fù)雜的系統(tǒng)狀態(tài)方程準確建模[17]，直接利用金融時序數(shù)據(jù)輸入模型中容易造成DBN算法的發(fā)散，不能找出原始數(shù)據(jù)中的整體規(guī)律。

而目前DBN深度學習模型應(yīng)用比較成功的就是在圖像的識別中。因此嘗試利用改進的DBN模型，把原始金融數(shù)據(jù)轉(zhuǎn)化為相應(yīng)的非結(jié)構(gòu)化數(shù)據(jù)，對這些非結(jié)構(gòu)化數(shù)據(jù)抽取特征對不同趨勢的時序數(shù)據(jù)曲線進行分類，把建立復(fù)雜的數(shù)學模型轉(zhuǎn)化為相應(yīng)的圖像識別模型，從而提升DBN模型的精確度。

首先，使用DBN模型對短期內(nèi)金融市場的漲跌進行預(yù)測。利用t天內(nèi)的收盤價及成交量等信息對應(yīng)t+1天內(nèi)的收盤價的價格變化構(gòu)建相應(yīng)的DBN模型。一般地，預(yù)測時間間隔越小，DBN模型的預(yù)測能力就越強，研究選用以天為單位作為預(yù)測模型輸入，并選取了過去一段時間所有金融交易數(shù)據(jù)作為DBN模型訓練的樣本。

由于金融時序數(shù)據(jù)的復(fù)雜性，需要對金融時序數(shù)據(jù)樣本進行歸一化處理，公式為：

(10)

其中，I為輸出數(shù)據(jù)；α為偏移參數(shù)，一般默認為2；x為原始數(shù)據(jù)。

通過歸一化轉(zhuǎn)換有利于DBN模型的訓練。

當DBN深度學習模型訓練好之后，預(yù)測的目標是價格變動方向(漲還是跌)和變動幅度大小。根據(jù)預(yù)測模型的輸出判斷未來的漲跌做出買入決策。根據(jù)漲跌給定一個閾值，只有達到或超過閾值才會觸發(fā)賣出信號。相應(yīng)的賣出信號如下：

(11)

其中，buyprice為模型預(yù)測選取的買入價；sellprice是賣出價；s為買入價的倍數(shù)；T為一個賣出的時間段。Signal為1時賣出，交易成功，獲得收益；Signal為0時，進入下一個交易日；Signal為-1時，強行賣出，交易失敗，有虧損的風險。

2.2 金融時序數(shù)據(jù)采集

為了驗證DBN金融分析模型，選取當前國內(nèi)最大的金融市場——滬深股市作為金融時序數(shù)據(jù)樣本，采集2012年10月20日之前100工作日深滬股市所有股票的收盤價作為模型訓練的樣本集，把樣本集分為三類，根據(jù)股票樣本特征采集轉(zhuǎn)化為有明顯上升趨勢(a)、有明顯下降趨勢(b)和無明顯趨勢(c)三種不同非結(jié)構(gòu)化數(shù)據(jù)樣本并歸類，如圖2所示。并根據(jù)每五個工作日的收盤價曲線把三種不同樣本轉(zhuǎn)化為50×50像素的非結(jié)構(gòu)化圖片，利用這些非結(jié)構(gòu)化數(shù)據(jù)作為訓練DBN模型的原始預(yù)訓練數(shù)據(jù)。同樣驗證數(shù)據(jù)和檢測數(shù)據(jù)也利用同樣的方式獲得。分別生成樣本集訓練的樣本：預(yù)訓練數(shù)據(jù)5 000個、驗證數(shù)據(jù)3 000個和測試數(shù)據(jù)2 000個。當DBN深度學習模型訓練好之后，對2000-2014年兩年間的所有金融市場樣本每個交易日數(shù)據(jù)進行滑窗預(yù)測并驗證模型的有效性。

圖2 金融數(shù)據(jù)樣本示例

2.3 DBN網(wǎng)絡(luò)訓練

采用三層RBM組成的DBN深度學習網(wǎng)絡(luò)，網(wǎng)絡(luò)的輸入層有50×50個節(jié)點，第一個、第二個隱含層有3 000個節(jié)點，輸出層有3個輸出節(jié)點(上漲、下跌或者無明顯趨勢狀態(tài))。首先通過逐層訓練的方式，數(shù)據(jù)被依次映射到隱含層h1,h2,…,hn中。為了加快訓練過程，一般采用GPU對訓練模型進行加速。然后利用驗證數(shù)據(jù)和檢測數(shù)據(jù)在模型建立好后對整個模型進行微調(diào)測試，提升準確度。提升精確度實現(xiàn)模型的分類，需要在DBN模型的最后加入一個分類器，把不同類型的數(shù)據(jù)集與數(shù)據(jù)集對應(yīng)的標簽利用有監(jiān)督的學習方法微調(diào)整個網(wǎng)絡(luò)。詳細的DBN網(wǎng)絡(luò)訓練流程如圖1所示，這里各層網(wǎng)絡(luò)節(jié)點數(shù)為[2 500,3 000,3 000,3]，把非結(jié)構(gòu)化數(shù)據(jù)圖像像素點轉(zhuǎn)化為輸入的2 500個節(jié)點，再經(jīng)過兩層隱含層的訓練最后輸出3個分類節(jié)點。

2.4 金融時序數(shù)據(jù)決策

對已經(jīng)訓練好的模型進行模型預(yù)測，利用2000-2014年兩年間的金融市場每日數(shù)據(jù)——開盤價、收盤價、最高價、最低價、成交量和輸入的歷史時序數(shù)據(jù)提供買賣的決策。首先，利用訓練好的模型選出t+1天可以買入的樣本；然后在符合金融市場的規(guī)律下在接下來T個工作日內(nèi)根據(jù)Signal信號確定賣出信號；最后統(tǒng)計出Signal=1信號成功的樣本個數(shù)，驗證模型的效果。圖3為金融時序數(shù)據(jù)決策分析流程。選取歷史的金融數(shù)據(jù)作為模型訓練的原始數(shù)據(jù)，把這些數(shù)據(jù)轉(zhuǎn)化為三種類型的非結(jié)構(gòu)化數(shù)據(jù)，利用訓練好的DBN深度學習模型預(yù)測并驗證這些數(shù)據(jù)，把選取好的樣本輸出到?jīng)Q策分析，然后再利用接下來T個工作日的金融時序數(shù)據(jù)得出賣出信號Signal。

圖3 金融時序數(shù)據(jù)決策分析流程圖

3 實 驗

3.1 實驗環(huán)境

對金融時序數(shù)據(jù)分析采用的處理器為國產(chǎn)兆芯X86處理器，內(nèi)存容量16 GB。為了加速DBN算法處理金融大數(shù)據(jù)的能力，利用NVIDIA顯卡的GPU提升算法性能，整個算法的軟件環(huán)境是在Python2.7下搭建可以利用GPU的Theano環(huán)境。

3.2 實驗結(jié)果及分析

利用DBN建立好的模型對2000年-2014年間的金融市場每日數(shù)據(jù)驗證模型的有效性。假設(shè)T為40天，s=1.01即在40天內(nèi)買賣樣本，并且樣本買賣的收益為1%。詳細如表1所示。

表1 2000～2014每月統(tǒng)計金融時序數(shù)據(jù)樣本

統(tǒng)計分析15年間交易成功和交易失敗的數(shù)據(jù)樣本，對表1數(shù)據(jù)的分析如圖4所示?？傮w上交易成功的樣本遠遠大于交易失敗的樣本，對所有統(tǒng)計數(shù)據(jù)分析在兩年間樣本成功率為80.753 4%。

對交易成功的樣本，進一步分析在T時間內(nèi)能達到成功交易s的指標下所需要交易的時間。對成功交易的金融樣本的分析如圖5所示。成功交易的金融樣本五天內(nèi)能交易的占了成功交易的80.753 4%，一個交易日內(nèi)就能賣出的占了55.433 3%。短時間內(nèi)模型選擇的樣本驗證成功效果明顯。因此，前面假設(shè)T=40天是合理的，當t=40時成功賣出的樣本個數(shù)只有5個，占成功賣出樣本的0.116 4%，樣本數(shù)已經(jīng)足夠小。

圖4 2000-2014年間成功和失敗樣本數(shù)

圖5 2000-2014年間t時間內(nèi) 成功賣出的金融樣本數(shù)

從以上兩個結(jié)果顯示，利用DBN模型選擇的金融大數(shù)據(jù)樣本呈上升趨勢的預(yù)測準確率達到了90.544 2%，能有效提供決策的樣本篩選；同時，對篩選后的樣本成功賣出的時間趨勢進行分析，五天內(nèi)交易占80.753 4%。

4 結(jié)束語

針對目前金融時序數(shù)據(jù)分析的復(fù)雜性和不確定性等問題，通過分析海量金融數(shù)據(jù)確定了金融大數(shù)據(jù)非結(jié)構(gòu)化的各種模式，提出了復(fù)雜的金融大數(shù)據(jù)趨勢轉(zhuǎn)化為對金融趨勢曲線非結(jié)構(gòu)化數(shù)據(jù)的識別分類。利用DBN深度學習方法對金融大數(shù)據(jù)進行了建模分析，得到不同時刻金融大數(shù)據(jù)走勢并進行了金融數(shù)據(jù)走勢定量分析，為實際預(yù)測與決策提供了寶貴的參考和重要的依據(jù)。驗證實例表明，利用DBN模型選擇的金融數(shù)據(jù)樣本決策的準確率達到了90.544 2%。

[1] 楊用斌,楊唯實.基本面分析和技術(shù)分析流派市場價格博弈—基于方法相關(guān)性下的研究[J].經(jīng)濟問題,2013(11):78-81.

[2]MabuS,ObayashiM,KuremotoT.Ensemblelearningofrule-basedevolutionaryalgorithmusingmultilayerperceptronforstocktradingmodels[C]//7thinternationalconferenceonsoftcomputingandintelligentsystemsand15thinternationalsymposiumonadvancedintelligentsystems.[s.l.]:[s.n.],2014:624-629.

[3] 龐 磊,李壽山,張 慧,等.基于微博的股票投資者未來情感傾向識別研究[J].計算機科學,2012,39(6A):249-252.

[4] 劉向麗,王旭朋.基于小波分析的股指期貨高頻預(yù)測研究[J].系統(tǒng)工程理論與實踐,2015,35(6):1425-1432.

[5] 胡曉彤,王子銀.基于模糊模式識別的金融數(shù)據(jù)分析[J].制造業(yè)自動化,2011,33(4):208-211.

[6]HintonGE,OsinderoS,TehYW.Afastlearningalgorithmfordeepbeliefnets[J].NeuralComputation,2006,18(7):1527-1554.

[7]SunZJ,XueL,XuYM,etal.Overviewofdeeplearning[J].ApplicationResearchofComputers,2012,29(8):2806-2810.

[8]ZhangXL,WuJ.Denoisingdeepneuralnetworksbasedvoiceactivitydetection[C]//2013IEEEinternationalconferenceonacoustics,speechandsignalprocessing.[s.l.]:IEEE,2013:853-857.

[9]StuhlsatzA,LippelJ,ZielkeT.Featureextractionwithdeepneuralnetworksbyageneralizeddiscriminantanalysis[J].IEEETransactionsonNeuralNetworksandLearningSystems,2012,23(4):596-608.

[10]CiresanD,MeierU,MasciJ,etal.Multi-columndeepneuralnetworkfortrafficsignclassification[J].NeuralNetworks,2012,32:333-338.

[11]CarneiroG,NascimentoJC.Combiningmultipledynamicmodelsanddeeplearningarchitecturesfortrackingtheleftventricleendocardiuminultrasounddata[J].IEEETransactionsonPatternAnalysisandMachineIntelligence,2013,35(11):2592-2607.

[12] 余 凱,賈 磊,陳雨強,等.深度學習的昨天、今天和明天[J].計算機研究與發(fā)展,2013,50(9):1799-1804.

[13]ChenXW,LinX.Bigdatadeeplearning:challengesandperspectives[J].IEEEAccess,2014,2:514-525.

[14]KuremotoT,KimuraS,KobayashiK,etal.TimeseriesforecastingusingadeepbeliefnetworkwithrestrictedBoltzmannmachines[J].Neurocomputing,2014,137(15):47-56.

[15]HuangW,HongH,SongG,etal.Deepprocessneuralnetworkfortemporaldeeplearning[C]//2014internationaljointconferenceonneuralnetworks.[s.l.]:[s.n.],2014:465-472.

[16]ShenF,ChaoJ,ZhaoJ.Forecastingexchangerateusingdeepbeliefnetworksandconjugategradientmethod[J].Neurocomputing,2015,167:243-253.

[17] 孫小軍,張銀利.股票-債券投資組合問題的數(shù)學模型及算法[J].系統(tǒng)工程理論與實踐,2015,35(6):1433-1439.

Modeling and Decision-making of Financial Time Series Data with DBN

ZENG Zhi-ping1,2,XIAO Hai-dong2,ZHANG Xin-peng1

(1.School of Communication and Information Engineering,Shanghai University,Shanghai 200072,China；2.Research Center of Smart City,Shanghai Advanced Research Institute,Chinese Academy of Sciences,Shanghai 201210,China)

In analysis of the financial time series data,some complex nonlinear systems are often encountered.It is difficult to accurately model the state equation of these complex systems with mathematical methods.Faced with the current problem of complexity and uncertainty of financial time series analysis,simulations of complex nonlinear systems has been translated into pattern recognition of financial time series data and various patterns of financial time series curves,such as ascending,declining and random,have been determined.By taking use of the advantages of deep learning in unstructured data processing,an improved financial time series modeling and analysis method with improved Deep Belief Network (DBN) decision-making algorithm has been proposed,by which time series data have been transformed into unstructured data to be taken as input of input layer training model for in-depth learning network and to use trained model to predict the financial transaction data sample selection.Experimental results show that the accuracy rate acquired by improved deep belief network method has been achieved by 90.544 2 percent in quantitative analysis of final samples.

deep belief network;Restricted Boltzmann Machine (RBM);deep learning;financial time series data;forecasting and decision

2016-06-22

2016-09-28

時間：2017-03-07

國家自然科學基金資助項目(61271349)；中國科學院科技服務(wù)網(wǎng)絡(luò)計劃(STS計劃)項目(KFJ-EW-STS-140);中科院先導項目(XDA06010800);上海市科學技術(shù)委員會資助課題(14DZ1119100)

曾志平(1989-)，男，碩士生，研究方向為大數(shù)據(jù)分析；蕭海東，副研究員，研究方向為大數(shù)據(jù)分析、信息安全、智能數(shù)據(jù)融合、物聯(lián)網(wǎng)；張新鵬，教授，研究方向為圖像處理、多媒體信息安全。

http://kns.cnki.net/kcms/detail/61.1450.TP.20170307.0922.094.html

TP391.41;F830.59

A

1673-629X(2017)04-0001-05

10.3969/j.issn.1673-629X.2017.04.001