，， ,2

(1.浙江工業(yè)大學(xué) 智能交通聯(lián)合研究所， 杭州 310014 2.浙江科技學(xué)院 機(jī)械與汽車工程學(xué)院，杭州 310023)

基于LSTM的公共自行車服務(wù)點(diǎn)租還需求量預(yù)測

陸凱韜1，董紅召1，陳寧1,2

(1.浙江工業(yè)大學(xué)智能交通聯(lián)合研究所，杭州310014 2.浙江科技學(xué)院機(jī)械與汽車工程學(xué)院，杭州310023)

城市公共自行車系統(tǒng)(PBS)服務(wù)點(diǎn)自行車數(shù)量的再平衡是解決“租還車難”問題的關(guān)鍵，對服務(wù)點(diǎn)租還需求量的短時(shí)預(yù)測則是PBS再平衡的基礎(chǔ);通過分析PBS租還需求的內(nèi)外關(guān)聯(lián)影響因素，提出基于深度學(xué)習(xí)理論的LSTM(Long-Short Term Memory，長短時(shí)間記憶)單元的循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network，RNN)服務(wù)點(diǎn)租還需求量預(yù)測模型，并通過區(qū)域PBS平均出行OD，對預(yù)測模型的輸入特征進(jìn)行合理優(yōu)化，實(shí)現(xiàn)PBS服務(wù)點(diǎn)租還需求量的短時(shí)預(yù)測;以杭州市下沙PBS服務(wù)區(qū)為實(shí)驗(yàn)對象，選取三組不同的輸入時(shí)間步長對預(yù)測模型進(jìn)行實(shí)踐驗(yàn)證，結(jié)果顯示：在選取的模型結(jié)構(gòu)與輸入特征下，采用循環(huán)神經(jīng)網(wǎng)絡(luò)對服務(wù)點(diǎn)租還需求量進(jìn)行預(yù)測能夠比傳統(tǒng)前饋神經(jīng)網(wǎng)絡(luò)在結(jié)果上更加接近實(shí)際值，并且精度較為滿意，表明了該預(yù)測方法可行有效。

公共自行車；租還需求量預(yù)測；平均出行距離；深度學(xué)習(xí)；長短時(shí)間記憶

0 引言

公共自行車系統(tǒng)(public bike system，PBS)運(yùn)行時(shí)依然存在借車時(shí)車已借完、還車時(shí)車位已滿[1]的現(xiàn)實(shí)問題，實(shí)現(xiàn)服務(wù)點(diǎn)租還需求量的準(zhǔn)確預(yù)測，能夠?yàn)镻BS建設(shè)和智能調(diào)度提供科學(xué)依據(jù)，有助于打破“租還車難”這一桎梏。

國內(nèi)外PBS租還需求量預(yù)測的研究，多集中在對用戶出行規(guī)律的分析和歷史租還數(shù)據(jù)的挖掘。董紅召[2]等人針對自然租賃需求，使用改進(jìn)的Multi-Logit模型估算PBS分擔(dān)率從而預(yù)測服務(wù)點(diǎn)租還量；Regue[3]等人基于梯度推進(jìn)機(jī)提出需求估算模型并構(gòu)建了動(dòng)態(tài)調(diào)度框架；楊飛[4]等人通過構(gòu)建車輛轉(zhuǎn)移概率矩陣，建立站點(diǎn)重要度穩(wěn)態(tài)方程來預(yù)測借還需求量；林燕萍[5]等人采用ARIMR模型對高峰時(shí)段的需求量數(shù)據(jù)進(jìn)行了擬合；Kaltenbrunner[6]等人從時(shí)間特性上分析了巴塞羅那PBS的動(dòng)態(tài)特征并建立租借量估算模型。

PBS的租還需求量數(shù)據(jù)實(shí)際上是一個(gè)非線性的時(shí)間序列，以上研究通過概率回歸和非線性擬合等方式得到歷史數(shù)據(jù)的簡單映射，但沒有探究短時(shí)間內(nèi)租還數(shù)據(jù)之間存在的時(shí)序聯(lián)系。深度學(xué)習(xí)[7]領(lǐng)域中的循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)在學(xué)習(xí)具有內(nèi)在依賴性的時(shí)序數(shù)據(jù)[8]時(shí)能夠產(chǎn)生對過去數(shù)據(jù)的記憶狀態(tài)。因此，研究了帶有LSTM單元的RNN對PBS服務(wù)點(diǎn)租還需求歷史數(shù)據(jù)進(jìn)行學(xué)習(xí)的方法，從而實(shí)現(xiàn)服務(wù)點(diǎn)租還需求量的短時(shí)預(yù)測。

1 RNN與LSTM原理

傳統(tǒng)的前饋神經(jīng)網(wǎng)絡(luò)模型，在處理序列數(shù)據(jù)時(shí)不能利用過去信號的時(shí)間依賴關(guān)系分析數(shù)據(jù)特征，從而對未來信號產(chǎn)生不合理的預(yù)測。在RNN中，神經(jīng)元的輸出可以在下一個(gè)時(shí)間戳直接作用到自身。設(shè)RNN在t時(shí)刻的輸入為xt，隱含層的輸出為ht，U和W分別為共享權(quán)值。通過前一步的隱含層狀態(tài)和當(dāng)前時(shí)刻的輸入可以得出：

ht=sigmoid(Uxt+Wht-1)

(1)

其中:sigmoid為激活函數(shù)。即t時(shí)刻網(wǎng)絡(luò)的輸出結(jié)果是該時(shí)刻的輸入和所有歷史共同作用的結(jié)果，由此達(dá)到了對時(shí)間序列建模的目的。

基于循環(huán)反饋的特殊設(shè)計(jì)，RNN模型在理論上能夠利用任意長度的時(shí)間序列。然而，跟傳統(tǒng)神經(jīng)網(wǎng)絡(luò)一樣，普通RNN在訓(xùn)練中也存在梯度彌散(diffusion of gradients)現(xiàn)象。隨著時(shí)間的推移，先前時(shí)刻通過BPTT(Backpropagation Through Time)算法訓(xùn)練產(chǎn)生的梯度在時(shí)間軸上的影響會(huì)逐漸消失。這樣一來，RNN就失去了利用長期歷史信息的能力。

為了解決這個(gè)問題，深度學(xué)習(xí)領(lǐng)域發(fā)展出了LSTM單元來代替普通RNN中的隱含層神經(jīng)元。一個(gè)典型的LSTM單元如圖1所示，它包含一個(gè)(或多個(gè))具有內(nèi)部狀態(tài)的記憶細(xì)胞(Memory Cell)、一個(gè)輸入門(Input Gate)it、一個(gè)遺忘門(Forget Gate)ft和一個(gè)輸出門(Output Gate)ot。假設(shè)st為記憶細(xì)胞在t時(shí)刻的狀態(tài)，則該LSTM單元在t時(shí)刻的計(jì)算過程可以如下表示：

(2)

其中:gt為輸入擠壓單元，Wxo和Who分別表示xt、ht-1與輸出門單元之間的權(quán)值矩陣，bo為輸出門單元的偏置，tanh為激活函數(shù)。至此，通過改變t時(shí)刻遺忘門單元ft的狀態(tài)(0或1)，就可以達(dá)到控制網(wǎng)絡(luò)的隱含層輸出ht從而“記住”序列長期依賴信息的效果。

圖1 LSTM單元結(jié)構(gòu)

2 基于LSTM的PBS服務(wù)點(diǎn)租還需求量預(yù)測模型

2.1 服務(wù)點(diǎn)租還需求影響因素

用戶使用公共自行車出行的概率受天氣、季節(jié)、日期等多種外部因素的影響。表1為杭州市PBS典型服務(wù)點(diǎn)在不同外部影響因素下的日均租還總量。從表中可以看出，對于天氣和季節(jié)這兩類影響因素，雖然會(huì)對服務(wù)點(diǎn)的租還需求造成明顯影響，但是在對不同類型服務(wù)點(diǎn)的影響程度上表現(xiàn)一致；而日期類型影響因素對不同類型服務(wù)點(diǎn)產(chǎn)生的影響卻差別很大。在建立預(yù)測模型時(shí)，需要針對不同外部影響因素的作用特點(diǎn)進(jìn)行分析消除。

服務(wù)點(diǎn)在下一時(shí)刻的租還需求量，不僅受到天氣、季節(jié)以及日期類型等外部因素的影響，同時(shí)也會(huì)受到來自系統(tǒng)內(nèi)部其他服務(wù)點(diǎn)狀態(tài)的影響。一般情況下，從服務(wù)點(diǎn)i借出的自行

車，必定會(huì)在一段時(shí)間后歸還入另一個(gè)服務(wù)點(diǎn)j(或者依舊還入原來服務(wù)點(diǎn)i)，從而影響該時(shí)段還入服務(wù)點(diǎn)的需求量；同樣的情況，當(dāng)一個(gè)服務(wù)點(diǎn)的服務(wù)能力受限時(shí)(無車可借或者無空位可還)，也會(huì)對同一時(shí)刻周圍服務(wù)點(diǎn)的租還需求量產(chǎn)生影響。對PBS內(nèi)部租還需求關(guān)聯(lián)影響因素的分析，是建立預(yù)測模型的關(guān)鍵。

2.2 預(yù)測模型的特征提取

帶有LSTM單元的RNN(以下簡稱LSTM)不僅能夠?qū)r(shí)序數(shù)據(jù)進(jìn)行非線性映射，而且可以對一段時(shí)間內(nèi)的輸入產(chǎn)生聯(lián)想，這對于挖掘PBS的租還需求特性有著重要作用。

(3)

然而，在PBS的實(shí)際運(yùn)行過程中，并不是每兩個(gè)服務(wù)點(diǎn)都會(huì)產(chǎn)生直接租還關(guān)系，與服務(wù)點(diǎn)j產(chǎn)生直接租還關(guān)系的點(diǎn)大多數(shù)分布在以j為中心的某個(gè)區(qū)域范圍內(nèi)，并且該范圍與城市居民的PBS出行習(xí)性有關(guān)，如圖2所示[9]。可以看出PBS的出行距離與出行人數(shù)服從正偏態(tài)分布(positive skewed distribution)。

(4)

表1 杭州PBS典型服務(wù)點(diǎn)日均租還總量

圖2 PBS出行距離統(tǒng)計(jì)曲線

2.3 模型結(jié)構(gòu)設(shè)計(jì)與策略選擇

ni=nr+2nR+1

(5)

RNN可以看成是在時(shí)間上展開的深度神經(jīng)網(wǎng)絡(luò)(DNN)，在處理時(shí)間序列問題時(shí)一般選擇經(jīng)典的3層網(wǎng)絡(luò)模型，即只包含1個(gè)隱含層。采用經(jīng)驗(yàn)公式計(jì)算隱含層節(jié)點(diǎn)數(shù)為2ni+1。

為了增強(qiáng)模型的非線性擬合能力，LSTM的隱含層激活函數(shù)一般選用tanh。在損失函數(shù)和優(yōu)化方法的選擇上也需兼顧模型的收斂速度與預(yù)測準(zhǔn)確性。時(shí)間序列回歸問題中一般選用均方誤差(Mean Squared Error，MSE)作為損失函數(shù)；同時(shí)采用隨機(jī)梯度下降法[10](SGD)的改進(jìn)方法RMSprop作為模型的優(yōu)化方法，以提高模型對內(nèi)部參數(shù)的適應(yīng)能力，加快運(yùn)算速度。

3 PBS服務(wù)點(diǎn)租還需求量預(yù)測實(shí)例

3.1 服務(wù)點(diǎn)歷史租還數(shù)據(jù)預(yù)處理

以杭州市PBS下沙服務(wù)區(qū)為例，對預(yù)測模型進(jìn)行實(shí)例驗(yàn)證?；诘乩硇畔⑾到y(tǒng)(GIS)對歷史租還數(shù)據(jù)進(jìn)行分析，計(jì)算出PBS平均出行OD為R=1.92 km；根據(jù)服務(wù)點(diǎn)用戶的使用習(xí)慣抽樣調(diào)查得到r=0.8 km。實(shí)驗(yàn)使用Python語言、Keras深度學(xué)習(xí)庫實(shí)現(xiàn)了3層LSTM模型。

選取編號3618的服務(wù)點(diǎn)作為預(yù)測對象。如圖3所示即為該服務(wù)點(diǎn)租還需求受影響范圍，包含除自身外各類型服務(wù)點(diǎn)36個(gè)，其中范圍r內(nèi)服務(wù)點(diǎn)14個(gè)，帶入式(5)計(jì)算得到ni=79，且nh=159。對這37個(gè)服務(wù)點(diǎn)6月份每天15:00～21:00長達(dá)6個(gè)小時(shí)的晚間出行時(shí)段租還數(shù)據(jù)進(jìn)行處理，使用et∈{0,1,2}分別標(biāo)定工作日、雙休日與法定節(jié)日。從這30天中隨機(jī)抽取10%作為驗(yàn)證集，其余則作為訓(xùn)練集，并在驗(yàn)證集中選取一天進(jìn)行預(yù)測結(jié)果的展示。將每個(gè)服務(wù)點(diǎn)的租還數(shù)據(jù)按10分鐘為一個(gè)最小時(shí)間步長進(jìn)行分段，在模型訓(xùn)練時(shí)分別以30、60和90分鐘作為輸入數(shù)據(jù)的時(shí)間步長，對未來30分鐘內(nèi)服務(wù)點(diǎn)的租還需求量進(jìn)行預(yù)測。

圖3 3618服務(wù)點(diǎn)租還需求受影響范圍

3.2 服務(wù)點(diǎn)租還需求預(yù)測結(jié)果分析

根據(jù)上文中選定的模型結(jié)構(gòu)與學(xué)習(xí)策略，對處理好的數(shù)據(jù)進(jìn)行1 000次迭代訓(xùn)練。為了說明LSTM在PBS租還需求預(yù)測問題上的有效性，同時(shí)訓(xùn)練了相同參數(shù)的FNN模型對租還量進(jìn)行預(yù)測。

圖4～6分別為采用LSTM和FNN預(yù)測模型在30、60和90分鐘3種輸入時(shí)間步長下對下沙區(qū)3618服務(wù)點(diǎn)未來30分鐘內(nèi)的租還需求量預(yù)測曲線，并以凈歸還量(歸還量與租借量的差值)為指標(biāo)來評判模型的性能。其中X軸表示時(shí)間，從15:00～21:00，每隔30分鐘，依次取T=1，2，…，12，對應(yīng)的Y值表示從15:00開始到當(dāng)前時(shí)刻服務(wù)點(diǎn)的凈歸還量。

圖4 時(shí)間步長為30分鐘時(shí)的凈歸還量

圖5 時(shí)間步長為60分鐘時(shí)的凈歸還量

圖6 時(shí)間步長為90分鐘時(shí)的凈歸還量

從圖中可以看出，LSTM預(yù)測模型在三組不同輸入時(shí)間步長下的預(yù)測結(jié)果均與實(shí)際需求量更為接近，可為服務(wù)點(diǎn)車鎖比的預(yù)判提供參考。為了定量分析預(yù)測模型精度與優(yōu)越性，分別使用各時(shí)間步長下的訓(xùn)練數(shù)據(jù)對兩個(gè)模型進(jìn)行十折交叉驗(yàn)證(10-fold cross-validation)計(jì)算相對誤差，結(jié)果如表2所示。LSTM在30分鐘輸入時(shí)間步長下的平均相對誤差為24%左右，并且隨著輸入時(shí)間步長的增加，平均相對誤差逐漸減小至接近20%，這正是LSTM對時(shí)序數(shù)據(jù)歷史依賴信息利用的體現(xiàn)；而FNN只能停留在對輸入數(shù)據(jù)的非線性擬合，缺乏利用輸入時(shí)間步長的能力，在3種預(yù)測情況下的平均相對誤差始終維持在35%左右，無法根據(jù)短時(shí)間內(nèi)區(qū)域服務(wù)點(diǎn)的租還關(guān)系對未來需求量進(jìn)行預(yù)測。

表2 LSTM與FNN模型相對誤差比較

通過該預(yù)測模型還可以看出，地理位置相近的服務(wù)點(diǎn)，由于其受到的內(nèi)外影響因素差別不大，故同一時(shí)刻的租還需求量也較為接近，在之后對3761服務(wù)點(diǎn)(與3618相距200 m)的租還需求量進(jìn)行預(yù)測對比實(shí)驗(yàn)時(shí)也得到了證明。

4 結(jié)論

通過分析PBS租還需求影響因素，提出了采用帶有LSTM單元的RNN模型對服務(wù)點(diǎn)租還需求量進(jìn)預(yù)測；同時(shí)基于城市PBS出行的平均OD對模型的輸入特征參數(shù)進(jìn)優(yōu)化，最終建立起符合PBS運(yùn)行特性的服務(wù)點(diǎn)租還需求預(yù)測模型。以杭州市PBS下沙服務(wù)區(qū)為例，使用提出的理論模型對服務(wù)點(diǎn)進(jìn)行30分鐘租還需求量預(yù)測，并與實(shí)測數(shù)據(jù)進(jìn)行對比。實(shí)驗(yàn)結(jié)果表明，LSTM在處理PBS租還需求預(yù)測問題上的特征提取能力要明顯優(yōu)于相同參數(shù)下的FNN，且能夠得到相對精確的預(yù)測值，證明了該預(yù)測方法的科學(xué)性。在PBS的實(shí)際運(yùn)營中應(yīng)用此方法，可以為調(diào)運(yùn)方案的生成與優(yōu)化提供實(shí)質(zhì)性幫助，有效地減少“租還車難”問題的發(fā)生。

[1] 何 流, 李旭宏, 陳大偉,等. 公共自行車動(dòng)態(tài)調(diào)度系統(tǒng)需求預(yù)測模型研究[J]. 武漢理工大學(xué)學(xué)報(bào)(交通科學(xué)與工程版),2013(2): 278-282.

[2] 董紅召, 吳滿金, 劉冬旭,等. 城市公共自行車系統(tǒng)自然租賃需求的估算方法[J].浙江大學(xué)學(xué)報(bào)(工學(xué)版), 2016,50(2): 265-270.

[3] Regue R, Recker W. Proactive vehicle routing with inferred demand to solve the bikesharing rebalancing problem [J]. Transportation Research Part E Logistics amp; Transportation Review, 2014, 72(C):192-209.

[4] 楊 飛, 黃奕慧, 譚玉龍. 基于馬爾科夫鏈的公共自行車站點(diǎn)供需預(yù)測方法[P]. 四川：CN104636828A,2015-05-20.

[5] 林燕平, 竇萬峰. 基于ARIMA模型的城市公共自行車需求量短期預(yù)測方法研究[J]. 南京師范大學(xué)學(xué)報(bào)(工程技術(shù)版),2016,03: 36-40.

[6] Kaltenbrunner A, Meza R, Grivolla J, et al. Urban cycles and mobility patterns: Exploring and predicting trends in a bicycle-based public transport system [J]. Pervasive amp; Mobile Computing, 2010, 6(4): 455-466.

[7] Hinton G E, Osindero S, Teh Y W. A fast learning algorithm for deep belief nets [J]. Neural Computation, 2006, 18(7):1527-1554.

[8] Graves A, Mohamed A R, Hinton G. Speech recognition with deep recurrent neural networks[J]. 2013, 38(2003):6645-6649.

[9] 石曉風(fēng). 基于杭州經(jīng)驗(yàn)的集約型城市公共自行車系統(tǒng)規(guī)劃發(fā)展思路[D]. 杭州：浙江大學(xué), 2010.

[10] 孫雙雙, 李 勝, 郭 毓,等. 基于梯度下降和二分法的移動(dòng)機(jī)器人軌跡規(guī)劃方法[J]. 計(jì)算機(jī)測量與控制, 2016, 24(11): 201-203.

DemandPredictionforServicePointofPublicBicycleSystemBasedonLSTM

Lu Kaitao1, Dong Hongzhao1,Chen Ning1,2

(1.ITS Joint Research Institute, Zhejiang University of Technology, Hangzhou 310014, China; 2.School of Mechanical and Automotive Engineering, Zhejiang University of Science and Technology, Hangzhou 310023,China)

The problem of rebalancing bicycles between service points in urban public bicycle system (PBS) is a key issue in determining the service quality of PBS. Predicting the short-term ride demand of PBS service points plays an important role in the rebalancing problem. By analyzing the external and internal ride demand factors of PBS, the ride demand predicting model of service points based on recurrent neural network with long-short term memory unit, which comes from deep learning domain, is proposed. The features of this model are extracted and optimized by calculating the mean OD of from the PBS historical data.And finally achieved the short-term ride demand prediction of PBS service points.The experiment in Hangzhou PBS show that using the recurrent neural network to predict the ride demand for service points can be closer to the actual value than the traditional feed forward neural network in the result. And the accuracy of recurrent neural network is more satisfactory, which indicates the predicting method is feasible and effective.

public bicycle system;demand prediction;mean OD;deep learning;LSTM

2017-03-12；

2017-03-31。

國家自然科學(xué)基金(61273240);浙江省自然科學(xué)基金項(xiàng)目(LY17F030017)

陸凱韜(1991-)，男，浙江湖州人，碩士研究生，主要從事公共自行車數(shù)據(jù)分析與智能調(diào)度方向的研究。

董紅召(1969-)，男，教授，博士生導(dǎo)師，主要從事人工智能、智能交通車輛集成系統(tǒng)方向的研究。

1671-4598(2017)09-0178-04

10.16526/j.cnki.11-4762/tp.2017.09.046

TP181;U121

A