(西安科技大學(xué)管理學(xué)院 陜西 西安 710054)

一、緒論

(一)選題背景及意義

相比于最常用的傳統(tǒng)數(shù)理統(tǒng)計(jì)學(xué)以及計(jì)量經(jīng)濟(jì)學(xué)預(yù)測方法，近年來隨著人工智能的高速發(fā)展，深度學(xué)習(xí)和機(jī)器學(xué)習(xí)的相關(guān)預(yù)測方案要更勝一籌。以RNN為代表，該類模型能夠?qū)崿F(xiàn)以時(shí)間序列作為載體，進(jìn)行多個(gè)輸入的同時(shí)實(shí)現(xiàn)多個(gè)輸出，且隱含層之間的自連接展開后的網(wǎng)絡(luò)結(jié)構(gòu)，可以看做是相互作用、影響的時(shí)間序列。但是RNN作為神經(jīng)網(wǎng)絡(luò)的子類也存在著和神經(jīng)網(wǎng)絡(luò)的同樣問題，比如嚴(yán)重的梯度下降不穩(wěn)定、難以收斂到最優(yōu)解和局部最優(yōu)等問題。但是近年來隨著人工智能研究人員的不斷驗(yàn)證和實(shí)踐，LSTM 神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)使以上這些問題有了進(jìn)一步的緩解。但是將LSTM等循環(huán)神經(jīng)網(wǎng)絡(luò)模型用于煤炭價(jià)格的分析和預(yù)測上是有效，正是本文作者研究的核心所在。

(二)國內(nèi)外研究綜述

目前應(yīng)用廣泛的煤炭價(jià)格預(yù)測算法分為兩大類：一類是基于簡單時(shí)間序列的價(jià)格預(yù)測算法，另一類是基于人工智能的價(jià)格預(yù)測算法。

1.基于計(jì)量經(jīng)濟(jì)學(xué)的價(jià)格預(yù)測方法

時(shí)間序列數(shù)據(jù)根據(jù)其數(shù)據(jù)分布分為線性與非線性兩種，鄭榮[1](2015年)在并聯(lián)式組合預(yù)測的思想影響下，建立了ARIMA 與SVM的混合預(yù)測模型，擬合得到的混合模型的MAPE為1.36，遠(yuǎn)遠(yuǎn)小于其任意單一模型的MAPE值，說明該混合模型對(duì)數(shù)據(jù)源中的信息提取較為充分合理，進(jìn)一步驗(yàn)證了混合預(yù)測模型的可行性和有效性；郭建利，程蕾等[2](2016年)構(gòu)建出ARIMA-SVM的組合式煤炭價(jià)格預(yù)測模型，在充分考慮了煤炭價(jià)格時(shí)間序列自身數(shù)據(jù)特性和對(duì)煤炭價(jià)格的多種影響因素之外，在最后模型輸出部分采用平均加權(quán)的方式將ARIMA和SVM的預(yù)測結(jié)果進(jìn)行組合拼接，通過此種模型組合的方式使得模型最終得精度較高、誤差水平低。同時(shí)利用該組合模型對(duì)環(huán)渤海動(dòng)力煤價(jià)格進(jìn)行了預(yù)測；朱美峰，張華明[3](2016年)參考前人研究將灰度理論應(yīng)用在煤炭得長期預(yù)測中，結(jié)合歷史數(shù)據(jù)構(gòu)建了煤炭價(jià)格長期預(yù)測的灰度預(yù)測模型，預(yù)測未來八個(gè)季度得煤炭價(jià)格，并對(duì)最終結(jié)果進(jìn)行誤差分析；符佳[4](2018年)通過二次指數(shù)平滑法建立了價(jià)格變化的預(yù)測模型，并對(duì)2018年6-8月動(dòng)力煤價(jià)格進(jìn)行了預(yù)測。最終分析得到：以秦皇島港口動(dòng)力煤價(jià)格為輸入數(shù)據(jù)，采用二次指數(shù)平滑預(yù)測法對(duì)其進(jìn)行預(yù)測分析是非常有效和準(zhǔn)確得，在其論文中構(gòu)建得三套預(yù)測模型精度都在90%以上，經(jīng)過實(shí)證檢驗(yàn)也證明了其模型具有較高的魯棒性和精度。

2.基于人工智能模型的價(jià)格預(yù)測方法

駱雙駿[5](2017年)應(yīng)用LSTM模型和門限循環(huán)單元模型這兩種具有“記憶力”和選擇性記憶的深度學(xué)習(xí)模型來預(yù)測 COMEX 黃金期貨價(jià)格，最終實(shí)證效果較好；鄧鳳欣和王洪良[6](2018年)選取美港市場個(gè)股數(shù)據(jù)為研究對(duì)象，分析 LSTM 神經(jīng)網(wǎng)絡(luò)對(duì)股票時(shí)間序列預(yù)測的有效性；韓山杰和談世哲[7](2018年)使用TensorFlow深度學(xué)習(xí)框架，構(gòu)建多層感知器 MLP(Multi-layer Perceptron)神經(jīng)網(wǎng)絡(luò)模型，用于預(yù)測每日收盤股價(jià)；王章章[8](2018年)通過對(duì)已有得Light GBM算法模型和基礎(chǔ)得卷積神經(jīng)網(wǎng)絡(luò)(CNN)等神經(jīng)網(wǎng)絡(luò)算法進(jìn)行深入研究的基礎(chǔ)上，針對(duì)時(shí)間序列價(jià)格這一特定得預(yù)測問題，提出了一種 CNN-Light GBM 組合的價(jià)格預(yù)測算法；

二、LSTM神經(jīng)網(wǎng)絡(luò)應(yīng)用分析

LSTM作為傳統(tǒng)RNN神經(jīng)網(wǎng)絡(luò)的升級(jí)版，目的在于解決RNN訓(xùn)練過程中的梯度隨著傳導(dǎo)過程而逐漸減小，同時(shí)因?yàn)檎归_的循環(huán)神經(jīng)網(wǎng)絡(luò)層數(shù)較多所以在傳遞過程計(jì)算出來的梯度隨著傳導(dǎo)的進(jìn)行而慢慢消失，這也就是神經(jīng)網(wǎng)絡(luò)難以完全從本質(zhì)上解決的梯度消失問題，梯度消失會(huì)導(dǎo)致模型在訓(xùn)練過程中陷入局部最優(yōu)解。LSTM模型在結(jié)構(gòu)上一定程度上緩解了循環(huán)神經(jīng)網(wǎng)絡(luò)梯度消失的問題，通過增加門限機(jī)制來限制誤差傳導(dǎo)，每次誤差進(jìn)入神經(jīng)元時(shí)當(dāng)前神經(jīng)元不再作用于誤差，這樣做的好處在于誤差不會(huì)在傳遞過程中有損失，從而解決梯度消失的現(xiàn)象，因此LSTM模型的收斂性通常情況下是較好的。

LSTM的結(jié)構(gòu)是基于RNN的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行優(yōu)化改進(jìn)的，在應(yīng)用中將神經(jīng)網(wǎng)絡(luò)的每層每個(gè)神經(jīng)元中均設(shè)置輸入門、輸出門和忘記門，針對(duì)序列數(shù)據(jù)而言，LSTM的優(yōu)勢在于一方面可以提高模型的收斂速度，其次因?yàn)殚T限機(jī)制可以促使模型逃脫局部最優(yōu)超正確的方向進(jìn)行收斂。但是神經(jīng)網(wǎng)絡(luò)因?yàn)槠湔w結(jié)構(gòu)上的原因，無論怎么進(jìn)行優(yōu)化和改進(jìn)，在某些場景下的訓(xùn)練結(jié)果還是會(huì)或多或少的出現(xiàn)局部最優(yōu)的情況，基于這個(gè)缺陷，本文將從數(shù)據(jù)層和結(jié)構(gòu)層進(jìn)行LSTM優(yōu)化。

三、模型建立

(一)實(shí)驗(yàn)樣本說明

基于前文關(guān)于煤炭價(jià)格這一研究對(duì)象的相關(guān)分析，同時(shí)考慮數(shù)據(jù)的可得性和分析的有效性，從Wind數(shù)據(jù)庫中選取我國2007年7月至2019年9月秦皇島港口動(dòng)力煤(Q5500,山西產(chǎn))，每周市場價(jià)的平均值作為本周價(jià)格，個(gè)別缺失數(shù)據(jù)使用前一個(gè)歷史數(shù)據(jù)代替，該時(shí)間序列則是本文用到的數(shù)據(jù)源。

(二)相關(guān)模型參數(shù)說明

據(jù)相關(guān)研究證明出現(xiàn)局部最優(yōu)的情況和隱含層單元數(shù)的設(shè)定也有關(guān)系，隱藏層中的節(jié)點(diǎn)個(gè)數(shù)對(duì)整個(gè)LSTM模型的預(yù)測性能的重要性不言而喻，關(guān)于隱藏層的節(jié)點(diǎn)個(gè)數(shù)我們將通過對(duì)比試驗(yàn)的方式進(jìn)行確定。根據(jù)經(jīng)驗(yàn)法則神經(jīng)元過少導(dǎo)致網(wǎng)絡(luò)會(huì)欠擬合；若數(shù)目過多，不僅增加神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時(shí)間，更重要的是降低神經(jīng)網(wǎng)絡(luò)的泛化能力，即過擬合，因此模型最終的擬合效果也取決于隱藏層選擇的神經(jīng)元個(gè)數(shù)是否恰到好處，本文使用Keras作為基礎(chǔ)框架，使用一個(gè)隱藏層，單元數(shù)為32。

(三)模型預(yù)測結(jié)果

表3.2 模型預(yù)測結(jié)果

基于以上結(jié)果，LSTM系列模型在煤炭價(jià)格數(shù)據(jù)上的擬合效果較好，預(yù)測精度較高，誤差遠(yuǎn)遠(yuǎn)小于1%，同時(shí)也證明了LSTM系列模型應(yīng)用于煤炭價(jià)格時(shí)間序列數(shù)據(jù)是有效且優(yōu)秀的預(yù)測模型。

四、結(jié)論

本文利用秦皇島動(dòng)力煤周市場價(jià)格數(shù)據(jù)作為研究對(duì)象，提出了基于 LSTM 神經(jīng)網(wǎng)絡(luò)的煤炭價(jià)格時(shí)間序列預(yù)測模型，驗(yàn)證了LSTM處理非線性數(shù)據(jù)的優(yōu)勢，充分發(fā)揮了其利用歷史數(shù)據(jù)進(jìn)行記憶的特點(diǎn)，本文基于煤炭價(jià)格數(shù)據(jù)使用LSTM及其優(yōu)化模型對(duì)數(shù)據(jù)源進(jìn)行擬合和訓(xùn)練，最終模型的預(yù)測效果無論是精準(zhǔn)度還是趨勢性都符合煤炭價(jià)格原始序列，說明了運(yùn)用LSTM長短期記憶神經(jīng)網(wǎng)絡(luò)方法對(duì)煤炭價(jià)格進(jìn)行研究是一個(gè)較為合理和先進(jìn)的方法。