盧超凡,史世凱,王魯

基于改進LSTM的蘋果價格預(yù)測模型研究

盧超凡,史世凱,王魯*

山東農(nóng)業(yè)大學(xué)信息科學(xué)與工程學(xué)院,山東 泰安 271018

蘋果市場價格變化受多種因素影響，單一模型預(yù)測效果不佳，為了解決該問題，本文建立了一種典型相關(guān)分析（CCA）與主成分分析（PCA）相結(jié)合的長短期記憶神經(jīng)網(wǎng)絡(luò)（LSTM）價格預(yù)測組合模型 CCA-PCA-LSTM。該模型首先采用CCA和PCA選擇相關(guān)性較大的影響因素，然后將選擇的多因素作為LSTM的輸入進行多因素價格預(yù)測。實驗結(jié)果表明：在2008-2020年蘋果價格進行預(yù)測得到的均方根誤差為 0.592（月），平均絕對誤差為 0.339 元/kg（月），平均百分比誤差為4.676%（月），有效降低價格預(yù)測誤差，提高了蘋果價格預(yù)測的準(zhǔn)確性。

蘋果; 價格; 預(yù)測模型

蘋果在我國農(nóng)產(chǎn)品市場占有重要地位，其價格變化易受自然災(zāi)害、供求關(guān)系、季節(jié)等多種因素的影響，這直接關(guān)系到蘋果從業(yè)者的切身利益。對蘋果進行價格預(yù)測，不僅能夠保障市場價格穩(wěn)定，果農(nóng)增收；且對提高宏觀調(diào)控政策制定效率具有重要參考價值。

在農(nóng)產(chǎn)品價格預(yù)測方向上，較早應(yīng)用的模型有自回歸積分滑動平均（ARIMA）模型及其改進模型。例如，王健[1]通過ARIMA模型對蘋果市場價格進行短期預(yù)測并構(gòu)建了蘋果市場價格波動預(yù)警模型。此外，王美鳳[2]等分別對比了SARIMA模型、X-12-ARIMA模型、Holt-Winters乘法模型和雙指數(shù)平滑模型及其組合模型，但預(yù)測效果有待于提高。諸如ARIMA及其組合模型僅依賴于一維歷史價格數(shù)據(jù)進行預(yù)測，未考慮多因素對預(yù)測結(jié)果的影響。為此，學(xué)者們嘗試采用多元線性回歸、神經(jīng)網(wǎng)絡(luò)、支持向量機等方法解決上述問題。具體地，楊靜等[3]通過經(jīng)驗?zāi)B(tài)分解（EEMD）和支持向量機（SVR）集成預(yù)測方法在大豆價格預(yù)測上取得較優(yōu)的效果。任青山[4]等使用BP-多元回歸模型將生豬價格預(yù)測精度提高至93.3%。與其他模型相比，神經(jīng)網(wǎng)絡(luò)相關(guān)模型在價格預(yù)測方面應(yīng)用更加廣泛。就蘋果價格預(yù)測而言，除早期采用BP神經(jīng)網(wǎng)絡(luò)外，近年來LSTM也逐漸應(yīng)用于該領(lǐng)域。與單維變量輸入模型相比，多維變量輸入的神經(jīng)網(wǎng)絡(luò)模型效果更優(yōu)。劉錦源[5]提出了一種引入EEMD對LSTM模型改進的方法，先對原始期貨價格序列進行分解，再將分解所得的每個子序列喂入LSTM模型，與SVR等傳統(tǒng)模型相比，該方法精度明顯提升。而綦方中等[6]在BP神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上引入了主成分分析法（PCA）與改進的果蠅算法（IFOA），結(jié)果表明，該模型預(yù)測精度更高。

目前，多數(shù)神經(jīng)網(wǎng)絡(luò)模型主要受限于單一數(shù)據(jù)維度，對多維數(shù)據(jù)研究較少。雖然LSTM模型提供了一種處理多維相關(guān)變量的方法，但對于變量選擇多基于經(jīng)驗所得，因此有些優(yōu)化方向傾向于對單維農(nóng)產(chǎn)品價格進行分解子序列獲取多維輸入提高準(zhǔn)確率。為了解決上述問題，本文提出了一種基于典型關(guān)聯(lián)分析（CCA）與主成分分析（PCA）的LSTM神經(jīng)網(wǎng)絡(luò)組合方法。

1 數(shù)據(jù)來源與研究方法

1.1 數(shù)據(jù)收集與選擇

本文所使用數(shù)據(jù)主要來自國家統(tǒng)計局、美國農(nóng)業(yè)部、布瑞克農(nóng)業(yè)大數(shù)據(jù)平臺和農(nóng)業(yè)農(nóng)村部。其中，富士蘋果價格與相關(guān)競品數(shù)據(jù)共4643條，時間跨度為2008年1月至2020年9月；其他時間維度數(shù)據(jù)對齊蘋果價格，自2008年起選取，其中2020年度尚未統(tǒng)計的數(shù)據(jù)為擬合值。主要數(shù)據(jù)類型有：富士蘋果價格（元/kg）、香梨價格（元/kg）等六種競品價格，蘋果需求量（萬t）、蘋果產(chǎn)量（萬t）、梨產(chǎn)量（萬t）、蘋果種植面積（千hm2）以及年末總?cè)丝冢ㄈf人）、居民人均可支配收入(元)、國民總收入（億元）等經(jīng)濟因素，受災(zāi)面積（千hm2）、水災(zāi)受災(zāi)面積（千hm2）等受災(zāi)情況的相關(guān)數(shù)據(jù)。

為了確定蘋果價格預(yù)測模型的輸入數(shù)據(jù)種類，將收集到的日度價格數(shù)據(jù)劃分為日、周、月三種時間維度數(shù)據(jù)表。僅使用CCA方法選取與蘋果價格相關(guān)度高的數(shù)據(jù)。CCA分析結(jié)果如表1,2所示：

表1 受災(zāi)數(shù)據(jù)相關(guān)性

Table 1 Disaster data relevance

表 2 價格、經(jīng)濟數(shù)據(jù)相關(guān)性

從表1可知，所有的受災(zāi)數(shù)據(jù)均為負(fù)相關(guān)，說明受災(zāi)數(shù)據(jù)對蘋果價格影響較小，可以舍棄。出于謹(jǐn)慎考慮，將受災(zāi)面積這一受災(zāi)數(shù)據(jù)中較為總體的一維加入第二次CCA分析，結(jié)果如表2所示。由表可知，受災(zāi)面積依然負(fù)為相關(guān)，進一步為舍棄受災(zāi)數(shù)據(jù)提供了依據(jù)。為了得到其他數(shù)據(jù)，本文將表2中相關(guān)性降序，最終選取蘋果價格、香梨價格、香蕉價格、巨峰葡萄價格、蘋果需求量、梨產(chǎn)量、蘋果種植面積7維數(shù)據(jù)作為蘋果價格預(yù)測模型的輸入。

2 研究方法

2.1 典型關(guān)聯(lián)分析

典型關(guān)聯(lián)分析（CCA）是一種經(jīng)典的多模態(tài)特征學(xué)習(xí)方法[7]，主要用于選擇與某一維數(shù)據(jù)相關(guān)度高的特征變量。在實際使用中可以拋棄掉無關(guān)變量，提升模型準(zhǔn)確度。具體計算結(jié)果為與某一維或多維需求變量的因變量相關(guān)度，其應(yīng)用已覆蓋多種領(lǐng)域。

2.2 主成分分析

PCA廣泛應(yīng)用于數(shù)據(jù)處理方向，主要作用是實現(xiàn)數(shù)據(jù)降維，并保留足夠高的貢獻率。在實際應(yīng)用中，主要用來進行數(shù)據(jù)預(yù)處理，提取多維變量中的有效因素，降低信息冗余，最高效的保留原始數(shù)據(jù)貢獻率。

2.2.1 LSTM方法LSTM是RNN的變體之一，能夠解決RNN梯度消失和梯度爆炸問題，因此在處理時間序列數(shù)據(jù)方面性能更優(yōu)。

1997年Sepp Hochreiter和Jurgen Schmidhuber提出了長短期記憶模型[8]，他們基于循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）模型設(shè)計了獨特的記憶與遺忘模塊[9,10]。LSTM網(wǎng)絡(luò)結(jié)構(gòu)中四個模塊除了激活函數(shù)外主要分為輸入門（input gate）、遺忘門（forget gate）和輸出門（output gate）控制記憶單元（cell）和輸出。Cell內(nèi)部計算過程如圖1所示[11]：

圖 1 LSTM 的記憶單元

Cell中g為輸入節(jié)點，i為輸入門，f為遺忘門，o為輸出門，s為內(nèi)部狀態(tài)節(jié)點，輸入為被輸入門過濾后當(dāng)前輸入以及前一時間點的內(nèi)部狀態(tài)節(jié)點輸出。LSTM層中Cell的計算可以表示如下組式(1)[11]：

3 結(jié)果及分析

3.1 評價指標(biāo)與參數(shù)設(shè)置

選擇平均絕對誤差（MAE）、平均百分比誤差（MAPE）與均方根誤差（RMSE）三個指標(biāo)來評價 LSTM 模型的預(yù)測效果與改進效果，計算公式如下：

其中，為樣本數(shù)量，為預(yù)測價格。

根據(jù)LSTM模型計算原理，實際操作可分為三步，首先劃分?jǐn)?shù)據(jù)集為訓(xùn)練集和測試集，之后搭建LSTM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，最后根據(jù)誤差進行參數(shù)調(diào)整即可。數(shù)據(jù)集的訓(xùn)練集與測試集的劃分為93:7，（將2019年夏蘋果價格突變劃為訓(xùn)練集）。

上述7維數(shù)據(jù)作為輸入，輸入前應(yīng)做歸一化處理。具體網(wǎng)絡(luò)為兩層LSTM（包括輸入層）與一層全連接Dense輸出層，還加入兩層參數(shù)為0.5的Dropout與L2正則化方法，防止過擬合。其中LSTM前饋網(wǎng)絡(luò)層neurons=100。采用參數(shù)為0.001的Adam算法進行優(yōu)化，損失函數(shù)為MAE。

經(jīng)過不斷調(diào)參，最終確定批大小batch=64，迭代次數(shù)250次。以及相應(yīng)模型的輸入時間步數(shù)。

3.2 結(jié)論與討論

經(jīng)過不斷調(diào)整參數(shù)得到的最優(yōu)CCA-LSTM模型預(yù)測誤差如表3所示，其中日價格預(yù)測輸入步數(shù)為40，預(yù)測未來1 d價格；周價格預(yù)測輸入步數(shù)為4，預(yù)測未來7 d價格；月價格預(yù)測輸入步數(shù)為 12，預(yù)測未來30 d價格。

由表2可知，經(jīng)濟相關(guān)數(shù)據(jù)雖然相關(guān)性不為負(fù)值，但是數(shù)值過低，對蘋果價格影響并不大，但從農(nóng)產(chǎn)品市場現(xiàn)狀與相關(guān)預(yù)測模型論文的經(jīng)驗中可得，經(jīng)濟因素對蘋果價格有重要影響。為了更好的保留經(jīng)濟因素的原始數(shù)據(jù)貢獻率，但同時不夸大其對價格預(yù)測模型的影響，本文嘗試通過使用PCA方式降維更多的經(jīng)濟因素至一維，重新參與CCA價格相關(guān)性分析。

表 3 CCA -LSTM 各模型評價指標(biāo)

本文選取如下近20年數(shù)據(jù)作為經(jīng)濟因素的因子：國民總收入(億元)、國內(nèi)生產(chǎn)總值(億元)、第一產(chǎn)業(yè)增加值(億元)、第二產(chǎn)業(yè)增加值(億元)、第三產(chǎn)業(yè)增加值(億元)、人均國內(nèi)生產(chǎn)總值(元)、居民消費水平(元)、居民消費價格指數(shù)(1978=100)、農(nóng)業(yè)生產(chǎn)資料指數(shù)(上年=100)。將其進行PCA分析，保留至一維，保存下88.4%的貢獻度，得到如表4結(jié)果。

表 4 經(jīng)濟數(shù)據(jù)PCA后部分值

將降維后得到的經(jīng)濟綜合因素作為一維數(shù)據(jù)加入表2中，所有維度再進行CCA分析計算，得到表5結(jié)果。

表 5 加入經(jīng)濟綜合因素相關(guān)性

由表5根據(jù)PCA與CCA分析結(jié)果可得，與蘋果價格相關(guān)度從高到低8維數(shù)據(jù)依次為蘋果價格、香梨價格、梨產(chǎn)量、香蕉價格、巨峰葡萄價格、蘋果需求量、經(jīng)濟因素和蘋果產(chǎn)量。

而在加入通過PCA降維的經(jīng)濟因素這一數(shù)據(jù)前進行的CCA分析所得到的與蘋果價格相關(guān)度從高到低的原7維數(shù)據(jù)依次為蘋果價格、香梨價格、香蕉價格、巨峰葡萄價格、蘋果需求量、梨產(chǎn)量、蘋果種植面積。

由實驗結(jié)果可知，作為綜合因素，經(jīng)濟影響變大，但到底是否有助于模型訓(xùn)練，還需做進一步實驗驗證。

為驗證相關(guān)性提高的經(jīng)濟因素是否有助于提高模型準(zhǔn)確率，以月度數(shù)據(jù)為例，嘗試將輸入的維度和數(shù)據(jù)進行修正，實驗結(jié)果如表6所示。

表 6 PCA 優(yōu)化結(jié)果

通過表6得出將果園面積替換為經(jīng)濟因素，同時將梨產(chǎn)量替換為蘋果產(chǎn)量，成功優(yōu)化原模型。最優(yōu)條件下月價格模型預(yù)測結(jié)果如圖2所示。

圖 2 CCA-PCA-LSTM 模型月價格預(yù)測

CCA-PCA-LSTM月價格數(shù)據(jù)預(yù)測模型在測試集上的最優(yōu)結(jié)果為MAE=0.204，MAPE=3.050，RMSE=0.228，即訓(xùn)練誤差3.050%。將該模型對全部數(shù)據(jù)進行預(yù)測，結(jié)果如圖3所示，MAE=0.339，MAPE=4.676，RMSE=0.592，即預(yù)測誤差為4.676%，優(yōu)于原模型5.678%。

在相同條件上再對周與日的價格預(yù)測模型訓(xùn)練。全部結(jié)果如下表所示。

表 7 CCA -PCA-LSTM 改進模型評價指標(biāo)

因此將果園面積替換為經(jīng)濟因素，再將梨產(chǎn)量替換為蘋果產(chǎn)量的 CCA-PCA-LSTM模型成功優(yōu)化了CCA-LSTM模型的日、周、月度價格預(yù)測。綜上所述，將二者誤差數(shù)據(jù)總結(jié)如表8所示。

表 8 兩種模型誤差對比

由實驗結(jié)果可知，加入PCA方法優(yōu)化參數(shù)輸入后的模型有更準(zhǔn)確的預(yù)測效果。在對參數(shù)選擇時僅通過CCA分析無法更全面的提取價格相關(guān)變量，所以在預(yù)測效果中表現(xiàn)不如CCA-PCA-LSTM 模型。但當(dāng)數(shù)據(jù)量足夠大時，二者誤差區(qū)別不夠明顯，如日價格預(yù)測模型中，CCA-PCA-LSTM模型雖然MAE、MAPE與RMSE均優(yōu)于CCA-LSTM，但其中對農(nóng)產(chǎn)品價格預(yù)測影響最大的MAE僅優(yōu)化了0.002 元/kg。不過整體來看CCA-PCA-LSTM的預(yù)測結(jié)果較為精確，很好的優(yōu)化了原模型的預(yù)測效果，即使是誤差最大的月價格預(yù)測模型，平均絕對誤差也僅為0.398 元/kg。

4 結(jié)論

本文提出了一種對LSTM預(yù)測模型的改進方法，針對LSTM輸入?yún)?shù)的選擇，本文采用典型關(guān)聯(lián)分析和主成分分析結(jié)合的方法能夠較為精確地選擇相關(guān)性高的影響因素，并采用所提CCA-PCA-LSTM預(yù)測模型成功提高了蘋果價格預(yù)測的準(zhǔn)確率。實驗結(jié)果表明，該方法相對于只使用CCA方法的CCA-LSTM模型具有更好的預(yù)測效果，能夠較好處理非線性的農(nóng)產(chǎn)品價格。同時實驗結(jié)果也表明了CCA-PCA-LSTM模型預(yù)測方法能夠較好擬合蘋果價格波動。計劃在未來研究中將CCA-PCA-LSTM模型進一步推廣至其他農(nóng)產(chǎn)品價格預(yù)測領(lǐng)域，以驗證該模型的有效性和適用性。

[1] 王健.我國蘋果市場價格預(yù)測與波動預(yù)警研究[J].北方園藝,2019(9):170-175

[2] 王美鳳,趙京音,邵芳,等.上海青菜價格短期預(yù)測模型的比較研究[J].上海農(nóng)業(yè)學(xué)報,2017,33(1):160-165

[3] 楊靜,張大斌,方潔鳳等.基于優(yōu)化EEMD和支持向量機的國內(nèi)大豆價格預(yù)測[J].廣東農(nóng)業(yè)科學(xué),2019,46(11):134-140

[4] 任青山,方逵,朱幸輝.基于多元回歸的BP神經(jīng)網(wǎng)絡(luò)生豬價格預(yù)測模型[J].江蘇農(nóng)業(yè)科學(xué),2019,47(14):277-281

[5] 劉錦源.面向農(nóng)產(chǎn)品期貨價格預(yù)測的改進LSTM方法[J].江蘇科技信息,2019,36(27):48-52

[6] 綦方中,林少倩,俞婷婷.基于PCA和IFOA-BP神經(jīng)網(wǎng)絡(luò)的股價預(yù)測模型[J].計算機應(yīng)用與軟件,2020,37(1):116-121,156

[7] Sun QS, Zeng SG, Liu Y,. A new method of feature fusion and its application in image recognition [J]. Pattern Recognition, 2005,38(12):2437-2448

[8] Bengio Y, Simard P, Frasconi P. Learning long-term dependencies with gradient descent is difficult [J].IEEE Transactions on Neural Networks and Learning Systems, 1994,5(2):157-166

[9] Greff K, Srivastava RK, Koutnik J,. LSTM: A search space odyssey [J]. IEEE Transactions on Neural Networks and Learning Systems,2017,28(10):2222-2232

[10] Gers FA, Schraudolph NN, Schmidhuber J. Learning precise timing with LSTM recurrent networks [J]. Journal of Machine Learning Research, 2002(8):115-143

[11] Lipton ZC, Berkowitz J, Elkan C, A Critical Review of Recurrent Neural Networks for Sequence Learning [J/OL]. arXiv preprint.arXiv: 1506.00019v4, 2015.https://doi.org/10.48550/arXiv.1506.00019

Research on the Apple Price Prediction Model Based on Improved LSTM

LU Chao-fan, SHI Shi-kai, WANG Lu*

271018,

There are many factors affecting the change of apple market price, and the prediction effect of single model is less than satisfactory. In order to solve this problem, this paper established a combination model of Long Short-Term Memory (LSTM) neural network price prediction, CCA-PCA-LSTM, which combines canonical correlation analysis (CCA) and principal component analysis (PCA). In this model, CCA and PCA were firstly used to select the influential factors with high correlation, and then the selected multi-factors were used as the input of LSTM for multi-factor price prediction. The experimental results showed that the root mean square error, mean absolute error and mean percentage error were 0.592 (month), 0.339 yuan/kg (month) and 4.676% (month) respectively, which can effectively reduce the price prediction error and improve the accuracy of apple price prediction.

Apple; price; forecast model

F031.4

A

1000-2324(2022)03-0491-06

10.3969/j.issn.1000-2324.2022.03.023

2021-11-12

2021-12-25

山東省重大科技創(chuàng)新工程項目:現(xiàn)代果園智慧種植裝備與大數(shù)據(jù)平臺研發(fā)及示范應(yīng)用(2019JZZY010706)

盧超凡(2000-),男,本科生,主要從事農(nóng)業(yè)預(yù)測模型研究. E-mail:s1mple_lcf@163.com

Author for correspondence. E-mail:wangl@sdau.edu.cn