謝 彤，梁玥琳

（中國地質(zhì)大學(xué)（武漢），湖北 武漢 430078）

旅游業(yè)因具有帶動性、關(guān)聯(lián)性的特點，對經(jīng)濟發(fā)展起著重要的促進作用，但同時也存在明顯的時空和政策特性。其中，時空特性是指隨著季節(jié)、假期及氣候等變化，旅游規(guī)模也會發(fā)生相應(yīng)改變。政策特性則是指受疫情、燃油價格與行業(yè)收入等不可抗力因素的影響，進而導(dǎo)致旅游行業(yè)發(fā)生的變化。而根據(jù)相關(guān)因素對旅游業(yè)客流量[1-2]進行預(yù)測，對于行業(yè)整體的基礎(chǔ)設(shè)施建設(shè)、服務(wù)質(zhì)量等均具有關(guān)鍵的導(dǎo)向作用。

目前，常用的旅游客流量分析預(yù)測方式為傳統(tǒng)的統(tǒng)計學(xué)方法，例如BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)、支持向量機（Support Vector Machine，SVM）等。然而這類算法難以收斂且計算量較大，無法對數(shù)據(jù)的隱藏特性進行準(zhǔn)確分析。同時，大多數(shù)旅游點均采用人力觀測以及歷史預(yù)測的方式，所得結(jié)果與真實客流量數(shù)據(jù)仍存在一定的差距。因此，設(shè)計一種準(zhǔn)確率高、實時性強的客流量分析及預(yù)測算法具有重要意義。

1 基于改進LSTM的客流量預(yù)測算法

1.1 LSTM網(wǎng)絡(luò)模型

旅游業(yè)的客流量及需求量預(yù)測是通過分析影響該行業(yè)的多種復(fù)雜因素數(shù)據(jù)所得結(jié)果來實現(xiàn)的。而相關(guān)數(shù)據(jù)具有顯著的時空特性，因此文中使用長短時記憶網(wǎng)絡(luò)（Long Short Term Memory network，LSTM）模型[3-6]對復(fù)雜因素數(shù)據(jù)進行分析。

LSTM 模型由循環(huán)卷積網(wǎng)絡(luò)（Recurrent Neural Network，RNN）發(fā)展而來，基礎(chǔ)RNN 網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 RNN網(wǎng)絡(luò)結(jié)構(gòu)

由圖1 可知，RNN 使用tanh 作為激活函數(shù)，同時進行多次同狀態(tài)的內(nèi)部循環(huán)運算。而LSTM 對RNN基礎(chǔ)結(jié)構(gòu)進行改進，由一個狀態(tài)轉(zhuǎn)變?yōu)樗膫€狀態(tài)，且每個狀態(tài)的傳輸路徑均可選擇丟棄或保留信息。LSTM 的四個狀態(tài)單元為：輸入門、遺忘門、輸出門以及狀態(tài)門。該網(wǎng)絡(luò)的具體結(jié)構(gòu)如圖2 所示。

圖2 LSTM網(wǎng)絡(luò)結(jié)構(gòu)

LSTM 網(wǎng)絡(luò)的運算首先由遺忘門對數(shù)據(jù)進行狀態(tài)選擇，再從輸入門輸入并經(jīng)過遺忘門。遺忘門的輸出為0～1 的隨機數(shù)，其中0 表示全部丟棄，1 表示全部保留。遺忘門輸出函數(shù)為：

式中，wf為遺忘門權(quán)重；ht-1為上一時刻遺忘門的狀態(tài)；xt為t時刻的輸入數(shù)據(jù)；bf為遺忘門偏置量；σ為激活函數(shù)。然后在狀態(tài)門中存儲信息，同時使用ReLU 激活函數(shù)對狀態(tài)進行輸出。輸入門的輸出可表示如下：

式中，wi為輸入門權(quán)重；bi為輸入門偏置值。神經(jīng)元在t時刻的狀態(tài)為：

式中，wc為狀態(tài)權(quán)重；bc為狀態(tài)偏置值。更新完短期狀態(tài)后再進行長期狀態(tài)更新，且該更新由遺忘門和輸入門的輸出加權(quán)決定，則有：

式中，Ct-1為t-1 時刻的長期狀態(tài)，*為卷積計算。

最終的輸出結(jié)果及輸出狀態(tài)表達式如下：

其中，wo和bo分別為輸出門的權(quán)重與偏置值。

LSTM 的預(yù)測結(jié)果較為準(zhǔn)確，但運算速度偏慢。因此為了提升算法的運算速度，將LSTM 進行簡化得到堆棧式長短期記憶（Stack Long Short Term Memory，SLSTM）網(wǎng)絡(luò)模型，其將遺忘門、輸入與輸出門整合為重置門rt及更新門zt。SLSTM 網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。

圖3 SLSTM網(wǎng)絡(luò)結(jié)構(gòu)

SLSTM 結(jié)構(gòu)中的重置門可對狀態(tài)信息的丟棄數(shù)量進行選擇，而更新門則能夠決定相鄰時間需要傳遞的信息數(shù)據(jù)。

1.2 基于改進自編碼器的數(shù)據(jù)關(guān)聯(lián)結(jié)構(gòu)

雖然SLSTM 結(jié)構(gòu)可以對數(shù)據(jù)進行準(zhǔn)確訓(xùn)練，但該算法在挖掘數(shù)據(jù)隱藏特征時易出現(xiàn)不收斂以及訓(xùn)練時間過長的問題。因此，文中使用改進自編碼器（Autoencoder,AE）[7-10]對數(shù)據(jù)關(guān)聯(lián)性進行訓(xùn)練。

自編碼器由三個部分組成：輸入層、隱藏層與輸出層，其結(jié)構(gòu)如圖4 所示。

圖4 自編碼器結(jié)構(gòu)

自編碼器包括壓縮和解壓縮兩個部分，其中，壓縮負(fù)責(zé)將輸入數(shù)據(jù)進行特征壓縮，并由隱藏層對特征加以訓(xùn)練；之后解壓縮會將壓縮的數(shù)據(jù)進行解壓，再輸入至后續(xù)模型中。設(shè)輸入數(shù)據(jù)為xi，i=1,2,…,N，則壓縮和解壓縮的過程可以表示為：

其中，w1與w2分別為隱藏層、輸出層的權(quán)值，b1、b2為隱藏層和輸出層的偏置值，f和g為壓縮及解壓縮函數(shù)，hx表示隱藏層的特征向量。該文搭建的AE-SLSTM 算法結(jié)構(gòu)如圖5 所示。

圖5 AE-SLSTM算法結(jié)構(gòu)

1.3 數(shù)據(jù)權(quán)重分配算法

在數(shù)據(jù)訓(xùn)練過程中，每個因素對目標(biāo)輸出的影響因子均不一致，權(quán)重較小的因素對于最終輸出結(jié)果的貢獻偏低，且重要信息權(quán)重也無法提升。因此，該文使用多頭注意力機制（Multi-Head Attention,MultiATT）[11-14]對數(shù)據(jù)權(quán)重進行分析。

注意力機制表達式如下：

其中，Q和K為輸入數(shù)據(jù)；d為特征維度；V是特征維度數(shù)據(jù)。再根據(jù)Softmax 函數(shù)[15-16]得到各項數(shù)據(jù)的權(quán)重值。

根據(jù)基礎(chǔ)注意力機制，可將其改進為多頭注意力機制，即將多個注意力結(jié)果進行合并，以增加數(shù)據(jù)的特征數(shù)量，進而提升特征的種類及數(shù)量。多頭注意力機制的表達式如下：

式中，h為注意力機制的總數(shù)量；W0是權(quán)值矩陣。通過對多個注意力機制進行拼接得到最終的結(jié)果。每個head 均可表示為：

式中，Wi表示第i個輸入權(quán)值矩陣。多頭注意力機制結(jié)構(gòu)如圖6 所示。

圖6 多頭注意力機制結(jié)構(gòu)

1.4 基于MultiATT-AE-SLSTM的預(yù)測模型

針對基礎(chǔ)LSTM 存在的收斂速度慢、數(shù)據(jù)關(guān)聯(lián)分析能力差的問題，文中對LSTM 模型進行改進，并提出了一種新的旅游客流量數(shù)據(jù)分析預(yù)測算法。所提算法的執(zhí)行流程圖如圖7 所示。

圖7 算法執(zhí)行流程圖

如圖7 所示，該文算法分為數(shù)據(jù)輸入模塊、數(shù)據(jù)訓(xùn)練模塊以及權(quán)重輸出模塊。首先，將SLSTM 構(gòu)建為自編碼器的壓縮層和解壓縮層；然后輸入經(jīng)自編碼器網(wǎng)絡(luò)得到的特征數(shù)據(jù)，并在SLSTM 算法中進行訓(xùn)練；再使用多頭注意力機制進行特征融合且輸出特征，進而得到最終的預(yù)測結(jié)果。

2 實驗測試

2.1 數(shù)據(jù)集采集與預(yù)處理

該文使用的數(shù)據(jù)為某熱帶地區(qū)旅游局統(tǒng)計的2015-2021 年旅游到達客流量。為了更好地進行對比，將客流量分為國內(nèi)及國外到達。與旅游相關(guān)的影響因素則采集于爬蟲數(shù)據(jù)，其類別如表1 所示。

表1 旅游影響因素

數(shù)據(jù)分為訓(xùn)練集和驗證集，其中前者選擇2015-2020 年的數(shù)據(jù)，而后者選擇2021 年的數(shù)據(jù)。實驗運行的硬件環(huán)境如表2 所示。

表2 實驗環(huán)境

2.2 仿真結(jié)果分析與對比

為了對算法性能進行評估，該文使用均方根誤差（RMSE）與運行時間（包括迭代與數(shù)據(jù)訓(xùn)練時間）作為性能評價指標(biāo)。同時，還選擇了LSTM、AELSTM、CNN、CNN-AE、DenseNET 算法與該文算法進行對比。測試結(jié)果如表3 所示。

表3 不同算法的性能測試結(jié)果

從表3 中可以看出，由于該文算法加入了AE 模型及多頭自注意力機制，該算法在所有對比算法中的RMSE 誤差也為最小，因此與其他算法相比精度有了一定的提升。此外，相較原始LSTM 算法，所提算法的運行時間縮短了約5 min，由此證明，該文算法在誤差不變的情況下具備更優(yōu)的效率。

除了驗證性能外，文中還對模型的預(yù)測誤差進行了直觀測試。該文使用部分對比算法對2021 年度的旅客數(shù)量預(yù)測誤差進行估計，對比結(jié)果如表4所示。

表4 預(yù)測誤差結(jié)果

由表4 可知，該文算法的平均實際客流量預(yù)測誤差最低。這表明所提算法的預(yù)測性能良好，可應(yīng)用于實際地區(qū)客流量預(yù)測系統(tǒng)中，且具有一定的工程實用價值。

3 結(jié)束語

傳統(tǒng)的旅游業(yè)客流量估算方式使用統(tǒng)計學(xué)方法，預(yù)測精度較差，且難以對數(shù)據(jù)的隱藏特性進行準(zhǔn)確分析。因此，文中提出了一種基于改進LSTM 模型的客流量估算方法。其針對LSTM 收斂速度慢的問題，對算法進行了輕量化改進。同時為發(fā)掘數(shù)據(jù)關(guān)聯(lián)特性，使用自編碼器對輸入數(shù)據(jù)進行特征訓(xùn)練，采用多頭注意力特征對數(shù)據(jù)權(quán)重實現(xiàn)排序分配。該算法的預(yù)測精度及運行效率均較為理想，達到了預(yù)期的設(shè)計目標(biāo)。