曹玉貴,謝夢醒

(華北水利水電大學(xué) 數(shù)學(xué)與統(tǒng)計學(xué)院,河南 鄭州 450046)

股票市場作為金融領(lǐng)域重要的組成部分,其價格波動的不穩(wěn)定性不僅會給投資者帶來經(jīng)濟損失,還會對國家的經(jīng)濟發(fā)展產(chǎn)生影響。由于股價受到宏觀因素、產(chǎn)業(yè)和區(qū)域因素以及新聞輿論等多方面的影響,因此,從本質(zhì)上來說,股市是一個動態(tài)的、非線性的、非平穩(wěn)的且含有大量噪聲的系統(tǒng),傳統(tǒng)的預(yù)測方法很難揭示股票價格的變動規(guī)律[1]。

目前,國內(nèi)外對股票價格預(yù)測所采用的模型方法主要集中在兩大類:傳統(tǒng)時間序列算法與機器學(xué)習(xí)算法。機器學(xué)習(xí)的出現(xiàn)與發(fā)展很好地克服了傳統(tǒng)時間序列方法的缺陷,在預(yù)測精度上也有了更大的優(yōu)勢。同時,隨著機器學(xué)習(xí)算法理論的不斷完善以及計算機網(wǎng)絡(luò)的不斷進步,深度機器學(xué)習(xí)的理論與技術(shù)也迎來了飛速發(fā)展。其中,循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)與卷積神經(jīng)網(wǎng)絡(luò)(CNN)是深度學(xué)習(xí)領(lǐng)域中的基礎(chǔ)模型,也是深度學(xué)習(xí)發(fā)展的重要研究成果,但RNN 存在梯度爆炸和梯度消失等問題,在實際應(yīng)用中對長時間序列學(xué)習(xí)效果較差[2]。1997 年,Hochreiter 等以RNN 結(jié)構(gòu)為基礎(chǔ)提出了長短期人工神經(jīng)網(wǎng)絡(luò)(LSTM)模型,成為RNN 最為經(jīng)典的變體之一[3]。目前,LSTM網(wǎng)絡(luò)模型在機器翻譯、文本分類、語音識別等領(lǐng)域發(fā)揮出了巨大的作用,在金融市場預(yù)測方面也得到了國內(nèi)外學(xué)者的青睞[4-5]。隨著LSTM 模型實證研究在金融領(lǐng)域的不斷深入,人們發(fā)現(xiàn)該模型仍然具有一定的局限性,比如,其存在特征提取能力不足等問題。為了提高預(yù)測精度,LSTM模型多與其他模型相結(jié)合。Kim 等將各種GARCH 模型與LSTM 模型相結(jié)合,構(gòu)建混合模型對股價進行預(yù)測[6]。李輝等利用隨機森林(RF)選擇最優(yōu)特征集,將其作為輸入并利用LSTM 模型對股票價格進行預(yù)測,結(jié)果表明,與單一模型相比RF-LSTM 組合模型準(zhǔn)確度更高[7]。CNN 模型目前已被廣泛應(yīng)用于計算機視覺、自然語言處理等領(lǐng)域,因其擁有強大的學(xué)習(xí)能力,能夠有效地提取圖像數(shù)據(jù)特征,近年來,越來越多的學(xué)者利用這些特點將CNN 模型應(yīng)用于金融市場研究中[8-9]。此外,在對股票價格進行預(yù)測時,股市系統(tǒng)信噪比高、非線性、非平穩(wěn)的特點通常會對預(yù)測結(jié)果產(chǎn)生影響,應(yīng)用傳統(tǒng)去噪方法處理股票數(shù)據(jù)時往往存在不足[10],小波分析在時域和頻域方面均具有良好的局部化特性,非常適合應(yīng)用在非線性、非平穩(wěn)的信號上,因此,可以用來處理復(fù)雜的金融時間序列[11-12]。

考慮金融市場股票價格預(yù)測的準(zhǔn)確性,本研究融合卷積神經(jīng)網(wǎng)絡(luò)、LSTM 模型以及小波去噪,構(gòu)建WD-CNN-LSTM 模型對股票價格進行預(yù)測。該模型首先對收集到的股票數(shù)據(jù)進行小波閾值去噪,去除干擾信號以利于后續(xù)的實驗分析,其次利用卷積神經(jīng)網(wǎng)絡(luò)將去噪后的數(shù)據(jù)進行特征提取,消除傳統(tǒng)預(yù)測方法對股票數(shù)據(jù)有效特征提取的不確定性,最后通過LSTM 模型對股票價格進行預(yù)測。在此基礎(chǔ)上,對10 個基本行業(yè)中的10 只股票、3 種股票指數(shù)以及它們不同的時間周期進行分析預(yù)測實驗,并將得到的預(yù)測結(jié)果與其他模型進行對比。實證結(jié)果表明:與其他模型相比,WD-CNN-LSTM 模型對不同類型的股票和股指價格具有更好的預(yù)測效果,即便在不同的時間周期,該模型依然具有較好的預(yù)測性能。

一、模型構(gòu)建

(一)小波閾值去噪(WD)

對于股票數(shù)據(jù)而言,信息是連續(xù)不斷的,而數(shù)據(jù)卻是在離散化的基礎(chǔ)上進行采集的,這在一定程度上會導(dǎo)致干擾信號增多,影響數(shù)據(jù)進一步的分析處理。傳統(tǒng)的去噪方法屬于全局頻域上的濾波,容易產(chǎn)生高頻信號,并與噪聲一起被過濾,低頻信號受噪聲影響,產(chǎn)生濾波不足的現(xiàn)象,導(dǎo)致其無法做到高低頻同時兼顧。1992 年,Donoho 首先提出了小波閾值去噪,該去噪方法屬于小波去噪的一種,具有多分辨分析的特點,可以根據(jù)信號自適應(yīng)地調(diào)節(jié)時頻分辨率,這使其更適合處理非平穩(wěn)的股票數(shù)據(jù)[13]。

小波閾值去噪流程如圖1 所示。首先,選取合適的小波基函數(shù)、分解層次等,對含噪聲的信號進行小波尺度分解。其次,對小波尺度分解出的高頻系數(shù)進行閾值處理。最后,對閾值處理后的系數(shù)進行小波逆變換以重構(gòu)信號,并得到去噪后的信號。

圖1 小波閾值去噪流程圖

小波閾值去噪中的閾值處理需要進行閾值設(shè)置方式與閾值函數(shù)的選取,閾值設(shè)置方式選取原則主要有無偏似然估計原則、固定閾值原則等。其中,固定閾值的計算公式為:

式中N表示信號長度。

經(jīng)典閾值函數(shù)包括硬閾值與軟閾值,硬閾值函數(shù)在閾值處不連續(xù),信號重構(gòu)時可能產(chǎn)生震蕩,因此選用軟閾值函數(shù),其數(shù)學(xué)表達式為:

式中ωj,k、j,k分別表示去噪前、后的小波系數(shù)。

(二)卷積神經(jīng)網(wǎng)絡(luò)(CNN)

盡管LSTM 在股票數(shù)據(jù)分析中表現(xiàn)優(yōu)異,但其對特征提取的能力比較弱,當(dāng)特征量相對復(fù)雜時,其性能反而會下降,而股票價格預(yù)測模型的特征集合往往比較大,因此,特征的提取和選擇顯得尤為重要。傳統(tǒng)的特征提取模型需要人工提取特征,導(dǎo)致工作量大且包含眾多不確定因素。而CNN 模型基本結(jié)構(gòu)中的卷積層和池化層能自動對輸入特征進行提取和降維,減少了傳統(tǒng)模型的不利影響,更適合對股票數(shù)據(jù)特征進行提取。

卷積層通過卷積核提取輸入股票價格序列的一些局部特征,相當(dāng)于特征提取器。卷積的計算公式為:

式中:Ci和Ci-1分別表示第i層、第i-1 層的特征輸出;Wi表示權(quán)值向量;*表示卷積運算;bi表示第i層的偏置量。

池化層對卷積層提取出的局部特征進行池化操作,即對股票價格序列進行降維和二次特征提取,從而進一步提升模型的泛化能力。選取CNN 結(jié)構(gòu)中的卷積層和池化層對小波閾值去噪后的股票數(shù)據(jù)進行處理。

(三)長短期人工神經(jīng)網(wǎng)絡(luò)(LSTM)

LSTM 模型擁有較強的長序列數(shù)據(jù)處理能力,在股票數(shù)據(jù)分析中表現(xiàn)優(yōu)異,彭燕等利用LSTM 模型對蘋果公司股票價格進行預(yù)測,驗證了LSTM 模型能夠?qū)r格趨勢進行合理預(yù)測[14];王東等建立LSTM 模型對平安銀行股價進行預(yù)測,實驗結(jié)果表明該模型具有應(yīng)用價值[15]。因此,采用LSTM 模型對股票價格進行預(yù)測。LSTM模型是在RNN 基礎(chǔ)上改進的神經(jīng)網(wǎng)絡(luò)模型,具有更強的泛化能力,解決了RNN 存在的梯度爆炸和梯度消失等問題。與RNN 相比,LSTM 模型增加了遺忘門、輸入門和輸出門,這些門單元對數(shù)據(jù)信息進行去除或增添,使其盡可能保留重要的信息,去除干擾信息。

在這些門單元中,首先,遺忘門負責(zé)遺忘無用的歷史股票信息,接著,輸入門則根據(jù)輸入的股票數(shù)據(jù)和歷史信息更新單元狀態(tài):

最后,輸出門根據(jù)單元狀態(tài),輸出當(dāng)前股票信息:

式中:f、i、O分別表示遺忘門、輸入門和輸出門;σ、tanh表示激活函數(shù)(其中σ通常為Sigmoid 函數(shù));W表示權(quán)重;ht-1表示前一時刻的狀態(tài)矩陣;xt表示t時刻的輸入向量;b表示常參數(shù)矩陣;C表示單元狀態(tài)。

(四)WD-CNN-LSTM 模型構(gòu)建

根據(jù)股票價格變化特征,在基于卷積神經(jīng)網(wǎng)絡(luò)的LSTM 神經(jīng)網(wǎng)絡(luò)模型的基礎(chǔ)上融合小波去噪,構(gòu)建WD-CNN-LSTM 模型,其基本原理是:將股票數(shù)據(jù)進行小波閾值去噪,提取濾波后的低頻數(shù)據(jù)并將其進行歸一化處理。針對CNN 模型對股票數(shù)據(jù)序列特征提取的優(yōu)勢,在LSTM 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的基礎(chǔ)上加入CNN 模型結(jié)構(gòu)。CNN 將小波閾值去噪后的數(shù)據(jù)進行特征提取,并將特征提取后的向量以序列的形式作為輸入,利用LSTM 模型進行預(yù)測。在原有LSTM 結(jié)構(gòu)中加入的卷積層與池化層可以捕捉到更為深層的隱藏信息,以此來提高模型的預(yù)測精度。本研究提出的WD-CNN-LSTM 股票價格預(yù)測模型流程,如圖2 所示。

圖2 WD-CNN-LSTM 預(yù)測模型流程圖

第一,獲取股票數(shù)據(jù)的開盤價、最高價、最低價、收盤價和成交量,將股票數(shù)據(jù)進行小波閾值去噪,得到低頻股票數(shù)據(jù),并將去噪后的數(shù)據(jù)進行歸一化處理。

第二,利用滑動窗口將歸一化的數(shù)據(jù)進行窗口化,并劃分其為訓(xùn)練集或測試集。訓(xùn)練集中的數(shù)據(jù)對WD-CNN-LSTM 模型進行訓(xùn)練,訓(xùn)練完成后實現(xiàn)模型的建立。

第三,將測試集中的數(shù)據(jù)輸入訓(xùn)練好的模型中,輸出預(yù)測股票價格,并對預(yù)測結(jié)果進行反歸一化,匯總得到最終的預(yù)測結(jié)果。

二、實證分析

為說明WD-CNN-LSTM 模型的有效性與穩(wěn)定性,實證選取10 個基本行業(yè)中的10 只股票和3 種股票指數(shù),運用WD-CNN-LSTM 模型和其他模型對股票收盤價進行預(yù)測,并對預(yù)測結(jié)果的準(zhǔn)確性與適用性進行對比分析。

(一)實驗環(huán)境與評價標(biāo)準(zhǔn)

本實驗通過Keras 框架對模型進行搭建?？紤]到ReLU 函數(shù)計算量小,收斂速度快,還可以避免梯度消失等問題,故將激活函數(shù)設(shè)置為ReLU。優(yōu)化算法采用Adam 算法,Adam 優(yōu)化算法由Kingma 等于2014 年提出,該算法與其他算法相比收斂速度更快,計算更高效[16]。模型迭代次數(shù)超150 次時,損失函數(shù)收斂,故將迭代次數(shù)設(shè)置為150。本研究所有實驗?zāi)Ｐ偷牟介L均設(shè)置為7[7]。

為全面驗證模型的準(zhǔn)確性,選取平均絕對誤差(MAE)、均方誤差(MSE)、均方根誤差(RMSE)和決定系數(shù)(R2)4 個評價指標(biāo)[17],作為模型預(yù)測效果的評價標(biāo)準(zhǔn)。由于MSE 的收斂速度通常更快,因此,將該模型的目標(biāo)優(yōu)化函數(shù)設(shè)置為MSE。其中,MAE、MSE、RMSE 的數(shù)值表示預(yù)測值與真實值之間的偏差,值越小,模型的預(yù)測效果越好;R2的取值在0 到1 之間,取值越接近1,表明模型的擬合效果越好。

本研究中的其他對比模型包括CNN-LSTM、LSTM 和GRU 模型,其中,GRU 是LSTM 網(wǎng)絡(luò)非常流行的一種變體,網(wǎng)絡(luò)結(jié)構(gòu)較LSTM 簡單,訓(xùn)練速度更快,效率也更高[18]。

(二)實驗數(shù)據(jù)

數(shù)據(jù)來源于AkShare 財經(jīng)數(shù)據(jù)接口庫,該數(shù)據(jù)庫可以實現(xiàn)對股票等金融數(shù)據(jù)從數(shù)據(jù)采集、數(shù)據(jù)清洗到數(shù)據(jù)存儲的過程。實驗選取A 股市場10 只股票、3 種股票指數(shù)2008 年1 月1 日到2022年12 月31 日每1 天以及每3 天的基本行情數(shù)據(jù),高頻數(shù)據(jù)為2022 年3 月1 日到2022 年12 月31 日每5 分鐘的基本行情數(shù)據(jù),其中基本行情包括開盤價、最高價、最低價、收盤價和成交量,選取的股票基本信息如表1 所示。本實驗用前7 次的開盤價、最高價、最低價、收盤價以及成交量數(shù)據(jù)來預(yù)測第8 次的收盤價數(shù)據(jù)。由于數(shù)據(jù)歸一化不僅可以消除量綱對后續(xù)預(yù)測結(jié)果產(chǎn)生的影響,還可以提高模型性能,減少神經(jīng)網(wǎng)絡(luò)的運行時間,因此,對小波閾值去噪后的股票數(shù)據(jù)進行歸一化處理[19]:

表1 股票基本信息

式中:ai表示數(shù)據(jù)的第i個特征;amin、amax分別表示該特征的最小值、最大值。

(三)實驗結(jié)果與分析

1.小波閾值去噪

結(jié)合此前的相關(guān)研究[10,20-21],經(jīng)過多次實驗對比,選取具有正交性、近似對稱性的symN(Symlets 系列小波)小波基函數(shù)對原始信號進行分解,并將消失矩設(shè)置為4。在閾值選取方面采用固定閾值準(zhǔn)則,對分解得到的小波系數(shù)采用軟閾值法進行優(yōu)化。對于分解層次而言,分解層次越高,去噪效果越明顯,但是相應(yīng)重構(gòu)信號的失真也會越大[22]。基于選取的股票數(shù)據(jù),將分解層次設(shè)置為3。股票數(shù)據(jù)去噪前后的部分結(jié)果如圖3 所示。

圖3 小波閾值去噪前、后中國平安(上)與中體產(chǎn)業(yè)(下)股票數(shù)據(jù)的成交量

圖3 從左至右分別為小波閾值去噪前、后中國平安與中體產(chǎn)業(yè)每1 天成交量的波形結(jié)果。從圖中可以看到去噪前股票數(shù)據(jù)存在較多噪聲,嚴(yán)重影響進一步的分析處理。去噪后原始信號的小幅度波動大多數(shù)被去除,數(shù)據(jù)噪聲減少,整體更為平滑,且波形結(jié)果保留了原始信號的主要特征,去噪效果表現(xiàn)較好。

2.股票價格預(yù)測結(jié)果分析

為驗證WD-CNN-LSTM 模型的有效性和穩(wěn)定性,利用該模型對10 只股票不同時間周期的股票價格進行預(yù)測。此外,為進一步說明WDCNN-LSTM 模型的優(yōu)越性,將WD-CNN-LSTM模型與CNN-LSTM、LSTM、GRU 模型的預(yù)測結(jié)果進行對比。

針對不同模型的擬合效果,截取了中國平安與中體產(chǎn)業(yè)每1 天股票數(shù)據(jù)WD-CNN-LSTM 和CNN-LSTM 模型的實驗結(jié)果對比圖,如圖4 所示。其中,縱軸表示股票收盤價,橫軸表示天數(shù)。圖4 結(jié)果顯示,WD-CNN-LSTM 模型的預(yù)測測試集與真實測試集具有一致的趨勢,預(yù)測測試集曲線非常接近真實測試集曲線,滯后性不明顯,即便是在股票價格漲跌波動比較劇烈的地方,該模型的預(yù)測結(jié)果仍然比較精確,數(shù)據(jù)較為平滑,擬合程度比較好。而CNN-LSTM 模型的預(yù)測測試集曲線與真實測試集曲線存在一定的偏差,與WD-CNN-LSTM 模型相比預(yù)測效果不理想,在股票價格漲跌拐點處的效果更差,對于股票上漲或下跌趨勢的預(yù)測存在一定的滯后性。

圖4 中國平安(上)、中體產(chǎn)業(yè)(下)WD-CNN-LSTM(左)與CNN-LSTM(右)模型預(yù)測對比圖

為深一步探究WD-CNN-LSTM 模型對不同時間周期股票數(shù)據(jù)預(yù)測的有效性,實驗用上述模型對這10 只股票每5 分鐘、每3 天的數(shù)據(jù)進行預(yù)測分析,并對不同模型的評價指標(biāo)進行了計算,以進一步檢驗該模型的預(yù)測性能,最后取10 只股票評價指標(biāo)的平均值,模型計算結(jié)果見表2。在LSTM 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中加入CNN 模型結(jié)構(gòu),有效避免了數(shù)據(jù)特征量相對復(fù)雜時LSTM 特征提取能力弱、性能下降的問題,因此,從表2 中可以看到:CNN-LSTM 模型的預(yù)測精度比單一LSTM 模型更高,測試誤差MAE、MSE、RMSE 更小,R2更接近于1;GRU 模型的預(yù)測結(jié)果與CNN-LSTM 模型相比也同樣不夠優(yōu)越,測試誤差相對較大。而通過對股票數(shù)據(jù)進行小波閾值去噪處理,WDCNN-LSTM 模型的預(yù)測效果在3 種不同的時間周期中均比CNN-LSTM 模型好,擬合度以及精確度都更為優(yōu)越。從表2 可知,每1 天的股價預(yù)測中,WD-CNN-LSTM 模型的測試誤差與CNNLSTM 相比,MAE、MSE、RMSE 分別降低了42.27%、71.65%、49.78%,R2提升了4.02%;同樣在每5分鐘以及每3 天的股價預(yù)測結(jié)果中,測試誤差MAE、MSE、RMSE 均得到了顯著降低,R2的值也更加接近1。顯然,小波閾值去噪能夠提高CNNLSTM 模型的預(yù)測精度,也進一步驗證了小波閾值去噪在模型預(yù)測中的有效性。此外,LSTM、GRU 模型在不同時間周期的預(yù)測結(jié)果與WDCNN-LSTM 模型相比都比較差,尤其在每3 天的時間周期中,由于股票數(shù)據(jù)量的減少,預(yù)測效果更不理想。綜合以上實驗結(jié)果表明:對于不同時間周期、不同類型的股票數(shù)據(jù),對比其他模型,WD-CNN-LSTM 模型的測試誤差比較小,預(yù)測結(jié)果更有效,模型穩(wěn)定性也更好。

3.股指價格預(yù)測結(jié)果分析

上文驗證了WD-CNN-LSTM 模型對不同行業(yè)單只股票價格的預(yù)測具有更強的有效性與穩(wěn)定性,為進一步探究該模型能否準(zhǔn)確預(yù)測總體股票市場價格變動趨勢,分別利用WD-CNNLSTM、CNN-LSTM、LSTM 和GRU 模型對滬深300、中證500、深證綜指3 種股指價格進行預(yù)測,并將結(jié)果進行對比分析,同樣取這3 種股指評價指標(biāo)的平均值,不同預(yù)測模型的評價指標(biāo)平均值見表3。

表3 不同預(yù)測模型股指評價指標(biāo)平均值

從表3 可明顯看出,在不同時間周期的股指價格預(yù)測中,CNN-LSTM 模型的測試誤差與LSTM、GRU 模型相比較小,但與WD-CNN-LSTM模型相比較大。與次優(yōu)模型CNN-LSTM 相比,在每1 天的股指價格預(yù)測結(jié)果中,WD-CNN-LSTM模型的測試誤差MAE、MSE、RMSE 分別降低了38.14%、49.49%、37.91%,R2提升了2.04%;對于每5 分鐘和每3 天的預(yù)測結(jié)果,測試誤差和R2也分別得到了降低和提升。對比結(jié)果說明:相較于CNN-LSTM、LSTM 和GRU 模型,WD-CNNLSTM 模型在股指價格中的預(yù)測效果依然更為優(yōu)越,穩(wěn)定性也更強。

三、結(jié)語

針對股票數(shù)據(jù)往往存在大量干擾信號以及傳統(tǒng)預(yù)測方法對股票數(shù)據(jù)的有效特征提取具有不確定性的問題,本研究提出WD-CNN-LSTM模型對股票價格進行預(yù)測分析。首先,對10 個基本行業(yè)中的10 只股票不同時間周期上的股票數(shù)據(jù)進行小波閾值去噪,得到更為平滑的數(shù)據(jù),再將這些處理過的數(shù)據(jù)通過CNN 進行特征提取。其次,通過LSTM 模型對提取出的特征信息進行時序建模預(yù)測,并將預(yù)測結(jié)果與其他模型進行對比。最后,運用WD-CNN-LSTM 模型以及其他模型對3 種股指價格進行預(yù)測對比分析。綜合實驗結(jié)果表明:與CNN-LSTM、LSTM、GRU 模型相比,本研究提出的WD-CNN-LSTM 模型在股價預(yù)測方面具有更好的有效性與穩(wěn)定性,增強了股票投資者風(fēng)險防范的能力,給投資者提供了參考。雖然該模型的預(yù)測效果比較好,但是由于影響股票價格波動的因素眾多,在實際運用該模型時可以考慮嘗試加入這些因素,模型的預(yù)測精度可能會進一步提高,泛化能力也會更強。