亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于深度注意力模型的個(gè)體出行多步預(yù)測(cè)研究

        2022-11-02 08:52:36翁小雄覃鎮(zhèn)林羅瑞發(fā)
        關(guān)鍵詞:步長(zhǎng)注意力向量

        翁小雄,任 杰,覃鎮(zhèn)林,羅瑞發(fā)

        (1.華南理工大學(xué) 土木與交通學(xué)院,廣東 廣州 510640;2.深圳市金溢科技股份有限公司,廣東 深圳 518000)

        0 引 言

        最近幾年,隨著智慧交通的不斷發(fā)展,越來(lái)越多可被用于預(yù)測(cè)個(gè)體出行的數(shù)據(jù)被采集。個(gè)體出行預(yù)測(cè)對(duì)城市發(fā)展具有十分重要的意義。從宏觀層面來(lái)看,政府可以根據(jù)出行預(yù)測(cè)設(shè)計(jì)更好的交通規(guī)劃和調(diào)度策略,以緩解交通擁堵并處理人群聚集問(wèn)題;從微觀層面來(lái)看,通過(guò)對(duì)個(gè)體的出行預(yù)測(cè),乘車(chē)共享平臺(tái)可以更好地估計(jì)其客戶(hù)的出行需求并調(diào)度資源相應(yīng)地滿(mǎn)足這些要求。

        目前對(duì)個(gè)體出行預(yù)測(cè)的研究主要是對(duì)個(gè)體出行進(jìn)行單步預(yù)測(cè),即基于個(gè)體歷史出行數(shù)據(jù)對(duì)接下來(lái)的一次出行進(jìn)行預(yù)測(cè),如基于馬爾可夫模型進(jìn)行優(yōu)化的MMC模型[1],n-MMC模型[2],隱馬爾可夫模型[3]等,基于機(jī)器學(xué)習(xí)的貝葉斯模型[4],隨機(jī)森林模型[5],BP神經(jīng)網(wǎng)絡(luò)模型[6]等,而這些傳統(tǒng)模型難以提取到個(gè)體出行中較為復(fù)雜周期性規(guī)律,在特征提取方面具有較大的局限性,難以用于多步預(yù)測(cè)研究。此外,很多交通場(chǎng)景需要基于個(gè)體未來(lái)一段時(shí)間的出行進(jìn)行規(guī)劃和調(diào)度,而單步預(yù)測(cè)難以滿(mǎn)足這些場(chǎng)景的需要,如公交調(diào)度、交通規(guī)劃等;最后,這些研究大多使用個(gè)體出行的GPS數(shù)據(jù)[7-8]進(jìn)行預(yù)測(cè),而由于GPS等非交通系統(tǒng)采集到的數(shù)據(jù)質(zhì)量和情況不同,這些個(gè)體出行數(shù)據(jù)多是低采樣的,且通常將所有個(gè)體的出行特征融合在一起,數(shù)據(jù)通常具有較強(qiáng)的稀疏性和異構(gòu)性,因此這類(lèi)研究的預(yù)測(cè)精度一般不高。

        針對(duì)當(dāng)前個(gè)體出行研究的局限性, 設(shè)計(jì)了3種基于序列到序列(sequence to sequence, Seq2Seq)并結(jié)合注意力學(xué)習(xí)機(jī)制的深度學(xué)習(xí)模型,對(duì)個(gè)體出行進(jìn)行多步預(yù)測(cè)。個(gè)體的多步預(yù)測(cè)即使用個(gè)體過(guò)去一段時(shí)間的歷史出行數(shù)據(jù),對(duì)其未來(lái)一段時(shí)間的多次出行進(jìn)行預(yù)測(cè),如圖1。

        圖1 多步預(yù)測(cè)

        首先采用詞嵌入的方法對(duì)數(shù)據(jù)進(jìn)行特征映射,通過(guò)嵌入層提取出行特征,由于提取到的出行特征可以隨著模型的訓(xùn)練不斷更新和優(yōu)化,因此相較于傳統(tǒng)模型更能提取出包含復(fù)雜的周期性出行規(guī)律的語(yǔ)義信息;然后采用門(mén)控循環(huán)單元(GRU)來(lái)實(shí)現(xiàn)Seq2Seq深度學(xué)習(xí)模型,并引入注意力機(jī)制來(lái)增強(qiáng)模型對(duì)周期性規(guī)律的捕捉能力,以提高準(zhǔn)確率,以此完成對(duì)個(gè)體出行的單步預(yù)測(cè)。進(jìn)一步地,為了盡可能地減少多步誤差,提高模型預(yù)測(cè)精度,筆者設(shè)計(jì)了3種多步預(yù)測(cè)模型:①整體輸出式多步預(yù)測(cè)模型;②步進(jìn)輸出式多步預(yù)測(cè)模型;③多模型組合式多步預(yù)測(cè)模型來(lái)完成對(duì)個(gè)體出行的多步預(yù)測(cè)。筆者針對(duì)地鐵系統(tǒng)的個(gè)體出行場(chǎng)景,使用AFC數(shù)據(jù)對(duì)地鐵乘客進(jìn)行多步預(yù)測(cè)研究,從而填補(bǔ)了單步預(yù)測(cè)難以滿(mǎn)足預(yù)測(cè)需求的場(chǎng)景。使用地鐵羊城通數(shù)據(jù)對(duì)提出的模型進(jìn)行驗(yàn)證,其主要網(wǎng)絡(luò)結(jié)構(gòu)如圖2。

        圖2 模型架構(gòu)

        1 模型介紹

        1.1 個(gè)體出行多步預(yù)測(cè)的問(wèn)題描述

        對(duì)個(gè)體的多步預(yù)測(cè)即使用個(gè)體過(guò)去一段時(shí)間的歷史出行數(shù)據(jù),對(duì)其未來(lái)一段時(shí)間內(nèi)的出行進(jìn)行預(yù)測(cè)。為了定義個(gè)體出行多步預(yù)測(cè)的任務(wù),筆者首先引入兩個(gè)定義。

        1)出行元組(trip tuple)。通過(guò)一個(gè)元組來(lái)描述一次出行:

        Q=(o,d,t,w)

        (1)

        式中:o,d,t,w分別為一次出行的出行起點(diǎn)、出行終點(diǎn)、出行時(shí)間和出行日期(星期幾)。由于出站時(shí)間主要由較為復(fù)雜的地鐵系統(tǒng)來(lái)決定,受到較多非出行因素的干擾,如地鐵客流等,因此筆者沒(méi)有考慮出站時(shí)間。

        2)出行序列(trip sequence)。單個(gè)個(gè)體的出行序列為可以用一個(gè)有向序列來(lái)表示。根據(jù)出行元組的定義,可以進(jìn)一步定義出行序列為:

        Sm=(Q1,Q2,…,Qm)

        (2)

        基于以上兩個(gè)定義,對(duì)個(gè)體出行的多步預(yù)測(cè)問(wèn)題進(jìn)行數(shù)學(xué)描述。對(duì)于給定的出行序列Sm和已知最后一次的出行信息(om,dm),對(duì)個(gè)體出行進(jìn)行多步預(yù)測(cè)的任務(wù)可以轉(zhuǎn)化成對(duì)映射F建模以實(shí)現(xiàn)輸入這些信息到輸出最后k次出行的目的站點(diǎn)的預(yù)測(cè),其數(shù)學(xué)定義為:

        dm+1,dm+2, …, …,dm+k=F(Sm-1;om,dm)

        (3)

        1.2 嵌入層

        由于用于表示出行的4個(gè)屬性具有離散的特性,難以直接作為神經(jīng)網(wǎng)絡(luò)模型的輸入,因此筆者引入詞嵌入(word embedding)的方法對(duì)出行屬性進(jìn)行處理[9]。詞嵌入方法可以把一個(gè)維數(shù)為所有詞的高維空間嵌入到一個(gè)低維連續(xù)空間中,每個(gè)單詞或詞組被映射為一個(gè)向量,目前該方法在NLP領(lǐng)域已廣泛使用。

        通過(guò)搭建嵌入層(embedding)實(shí)現(xiàn)個(gè)體出行數(shù)據(jù)的向量轉(zhuǎn)換,把個(gè)體出行屬性轉(zhuǎn)換為包含更多出行特征信息的低維稠密向量,使得模型更容易學(xué)到個(gè)體出行規(guī)律,該嵌入層的輸入為用于表示出行的4種屬性數(shù)據(jù),輸出為各屬性的映射向量。

        1.3 Seq2Seq模型

        循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network, RNN)是一種具有循環(huán)性和內(nèi)部存儲(chǔ)單元的神經(jīng)網(wǎng)絡(luò),因此常被用于處理序列數(shù)據(jù),其中長(zhǎng)短期記憶網(wǎng)絡(luò)(long short-term memory, LSTM)[10]和門(mén)控循環(huán)單元(gated recurrent neural network, GRU)是廣泛使用的兩種循環(huán)神經(jīng)網(wǎng)絡(luò)。LSTM包含一個(gè)單元狀態(tài)和3個(gè)控制門(mén)以保持和更新單元狀態(tài)。GRU是LSTM的一種變體,它將忘記門(mén)和輸入門(mén)合并成一個(gè)單一的更新門(mén),因此GRU只包含重置門(mén)和更新門(mén)兩個(gè)門(mén)。同時(shí)還混合了細(xì)胞狀態(tài)和隱藏狀態(tài),加諸其他一些改動(dòng),使得最終的模型比標(biāo)準(zhǔn)的 LSTM 模型要簡(jiǎn)單,是當(dāng)下非常流行的變體。GRU模型如圖3。

        圖3 GRU原理

        zt=σ(Wz[ht-1,xt])

        (4)

        rt=σ(Wr[ht-1,xt])

        (5)

        (6)

        (7)

        基于Seq2Seq模型對(duì)個(gè)體出行進(jìn)行多步預(yù)測(cè),Seq2Seq模型由解碼器和編碼器兩部分構(gòu)成,而編碼器和解碼器通常通過(guò)RNN結(jié)構(gòu)實(shí)現(xiàn)。首先將輸入序列輸入到編碼器,編碼器對(duì)輸入序列進(jìn)行編碼,其最后一個(gè)隱狀態(tài)即為上下文向量。然后解碼器將上下文向量進(jìn)行解碼,生成目標(biāo)序列。

        筆者將經(jīng)過(guò)特征提取和特征融合的個(gè)體歷史出行特征數(shù)據(jù)作為輸入序列,經(jīng)過(guò)Seq2Seq模型得到下次出行中各個(gè)站點(diǎn)的出現(xiàn)概率,選擇概率最大的站點(diǎn)作為下一次的出行預(yù)測(cè),然后將該次預(yù)測(cè)結(jié)果重新嵌入、編碼和解碼,并對(duì)該過(guò)程進(jìn)行迭代,以此來(lái)生成個(gè)體的多步出行預(yù)測(cè)結(jié)果。

        1.4 注意力機(jī)制

        由于Seq2Seq模型具有無(wú)法包含輸入序列的所有信息,從而限制了解碼器的解碼能力,因此筆者引入了注意力機(jī)制。引入注意力機(jī)制是為了計(jì)算查詢(xún)向量與候選向量之間的相似度,得到候選向量的權(quán)重系數(shù),以生成上下文向量。該過(guò)程可以認(rèn)為是計(jì)算歷史出行與當(dāng)前出行的相關(guān)程度,越相關(guān)的出行越可能為該模型準(zhǔn)確預(yù)測(cè)下次出行提供有效信息。注意力機(jī)制被參數(shù)化為可以與整個(gè)神經(jīng)網(wǎng)絡(luò)一起訓(xùn)練的前饋神經(jīng)網(wǎng)絡(luò)。注意力機(jī)制的計(jì)算公式為:

        ct=∑αisi

        (8)

        αi=softmax[f(ht,si)]

        (9)

        f(ht,s)=tanh(ht,Ws)

        (10)

        式中:s為歷史特征;Ws為tanh的可學(xué)習(xí)參數(shù);f為score函數(shù);ct為當(dāng)前狀態(tài)下的上下文向量;αi為中間問(wèn)題。

        1.5 帶注意力機(jī)制的Seq2Seq多步預(yù)測(cè)模型

        在設(shè)計(jì)多步預(yù)測(cè)方法之前,首先介紹帶注意力機(jī)制的Seq2Seq單步預(yù)測(cè)模型,該模型首先根據(jù)個(gè)體出行數(shù)據(jù)對(duì)出行特征進(jìn)行提取和融合,通過(guò)編碼器將歷史出行數(shù)據(jù)進(jìn)行編碼,得到編碼器的輸出向量和隱狀態(tài)向量;然后通過(guò)解碼器對(duì)最近一次的出行數(shù)據(jù)進(jìn)行嵌入并編碼,將解碼器輸出的隱狀態(tài)向量作為查詢(xún)向量,通過(guò)注意力機(jī)制計(jì)算查詢(xún)向量與編碼器輸出的隱狀態(tài)向量的注意力權(quán)重,以此來(lái)計(jì)算上下文向量;上下文向量可以表示當(dāng)前向量與歷史向量的相關(guān)出行信息,通過(guò)上下文向量即可預(yù)測(cè)個(gè)體下一次出行的站點(diǎn),計(jì)算過(guò)程如表1。

        表1 帶注意力機(jī)制的Seq2Seq預(yù)測(cè)模型

        多步預(yù)測(cè)場(chǎng)景與單步預(yù)測(cè)場(chǎng)景有很大不同,主要在于如何設(shè)計(jì)多步預(yù)測(cè)的建模策略。在多步預(yù)測(cè)過(guò)程中,第t+k步的預(yù)測(cè)準(zhǔn)確性直接影響了第t+k+1及之后時(shí)間窗的預(yù)測(cè)準(zhǔn)確性,因此多步預(yù)測(cè)任務(wù)不可避免地會(huì)產(chǎn)生多步誤差,我們需要針對(duì)多步預(yù)測(cè)場(chǎng)景設(shè)計(jì)不同的建模策略以減少多步誤差帶來(lái)的影響。也就是說(shuō),對(duì)于單步預(yù)測(cè),基于上述模型即可直接進(jìn)行預(yù)測(cè),而多步預(yù)測(cè)則需要考慮如何使多步預(yù)測(cè)誤差最小。因此,筆者針對(duì)地鐵系統(tǒng)AFC數(shù)據(jù)的個(gè)體出行多步預(yù)測(cè)的場(chǎng)景,設(shè)計(jì)了3種多步預(yù)測(cè)模型。

        1)整體輸出式多步預(yù)測(cè)模型。該方法即在單步預(yù)測(cè)的基礎(chǔ)上,重復(fù)編碼解碼過(guò)程,直至預(yù)測(cè)出所有時(shí)間步的出行,直接輸出對(duì)個(gè)體未來(lái)一段時(shí)間出行行為的預(yù)測(cè),從而實(shí)現(xiàn)個(gè)體出行的多步預(yù)測(cè)。

        2)步進(jìn)輸出式多步預(yù)測(cè)模型。該方法在單步預(yù)測(cè)的基礎(chǔ)上,將未來(lái)一次出行的預(yù)測(cè)結(jié)果與歷史出行數(shù)據(jù)拼接起來(lái),滑動(dòng)時(shí)間窗對(duì)模型的輸入進(jìn)行更新,從而實(shí)現(xiàn)對(duì)個(gè)體出行行為進(jìn)行持續(xù)的步進(jìn)式輸出,最終實(shí)現(xiàn)個(gè)體出行的多步預(yù)測(cè)。

        3)多模型組合的多步預(yù)測(cè)模型。該方法即訓(xùn)練出多個(gè)單步預(yù)測(cè)模型,使其能夠?qū)ξ磥?lái)不同時(shí)間步的出行進(jìn)行預(yù)測(cè),然后將多個(gè)模型的輸出結(jié)果拼接起來(lái)獲得個(gè)體出行的多步預(yù)測(cè)結(jié)果。

        2 案例分析

        2.1 數(shù)據(jù)處理

        由于地鐵系統(tǒng)刷卡數(shù)據(jù)記錄了每次出行的進(jìn)站和出站及出行屬性,與出行直接相關(guān),因此筆者選擇了廣州地鐵羊城通的刷卡數(shù)據(jù)作為案例進(jìn)行分析。該數(shù)據(jù)集的時(shí)間跨度為2017年3月1日—2017年5月31日,該地鐵系統(tǒng)包含9條地鐵線(xiàn)路和157個(gè)地鐵站。

        基于深度學(xué)習(xí)的多步預(yù)測(cè)算法需要足夠的歷史出行記錄,因此僅關(guān)注在研究的時(shí)間段內(nèi)至少出行90次(即3個(gè)月內(nèi)至少平均每天出行一次)的乘客。在清理完原始數(shù)據(jù)之后,隨機(jī)選擇20 000名乘客,并使用他們的交易記錄構(gòu)建數(shù)據(jù)集。筆者使用進(jìn)站站點(diǎn)o,出站站點(diǎn)d,進(jìn)站時(shí)間t和星期幾w作為出行屬性來(lái)構(gòu)造每次出行的出行元組。其中,o,t和w是可以通過(guò)進(jìn)站記錄獲得,因此為進(jìn)站屬性,d為出站屬性。其中o∈[0,90],d∈[0,90],w∈[0,6]表示為分類(lèi)變量。每個(gè)乘客的前80%序列樣本都用作訓(xùn)練集,其余20%是測(cè)試集。

        使用寬度為n的滑動(dòng)窗口從每個(gè)個(gè)體的整個(gè)行程序列中生成行程序列樣本作為模型輸入。令Tr表示研究時(shí)間范圍內(nèi)個(gè)體r的整個(gè)行程序列。出行序列樣本Ssample則可表示為:

        Ssample=[Qp,Qp+1,…,Qp+n-1] (1≤p≤N-n+1)

        (11)

        因此,具有N次出行記錄的個(gè)體可以提供N-n+1 個(gè)出行序列樣本。為了使模型覆蓋到數(shù)據(jù)集中的絕大多數(shù)乘客,將寬度n設(shè)置為70,覆蓋了95.2%的個(gè)體。我們從整個(gè)數(shù)據(jù)集中獲得了1 386 872個(gè)樣本序列。

        2.2 實(shí)驗(yàn)及實(shí)驗(yàn)配置

        2.2.1 評(píng)價(jià)指標(biāo)

        平均相對(duì)誤差[11](MRE)是平均絕對(duì)誤差與真值的比值,常用百分?jǐn)?shù)來(lái)表示,可以用來(lái)反映預(yù)測(cè)值與真值的偏離程度,是交通預(yù)測(cè)中常用的評(píng)價(jià)指標(biāo)之一,因此筆者采用MRE來(lái)評(píng)估各模型的預(yù)測(cè)性能。在MRE的計(jì)算中,使用編輯距離(levenshtein distance)來(lái)測(cè)量預(yù)測(cè)位置序列與目標(biāo)位置序列之間的誤差。編輯距離在自然語(yǔ)言處理中有著廣泛的應(yīng)用,是指由一個(gè)轉(zhuǎn)換成另一個(gè)所需的最少編輯操作次數(shù)。MRE的公式定義為:

        (12)

        式中:v為序列數(shù);E(Mu,Ru)為第u個(gè)預(yù)測(cè)序列與其對(duì)應(yīng)的目標(biāo)序列的編輯距離;L(Mu,Ru)為第u個(gè)預(yù)測(cè)序列與其對(duì)應(yīng)的目標(biāo)序列的長(zhǎng)度。分母將誤差歸一化,使MRE值處于[0,1]之間。

        此外,準(zhǔn)確率[11]已廣泛應(yīng)用于評(píng)估分類(lèi)任務(wù)的模型性能,準(zhǔn)確率Acc的公式如下,其中為Pu序列中正確預(yù)測(cè)位置的個(gè)數(shù)。

        (13)

        2.2.2 對(duì)比實(shí)驗(yàn)設(shè)置及實(shí)驗(yàn)參數(shù)設(shè)置

        構(gòu)建了基于帶注意力機(jī)制的Seq2Seq模型的3種深度學(xué)習(xí)實(shí)驗(yàn)?zāi)P瓦M(jìn)行多步預(yù)測(cè),其中包括整體輸出式多步預(yù)測(cè)模型、步進(jìn)輸出式多步預(yù)測(cè)模型、多模型組合的多步預(yù)測(cè)模型, 并構(gòu)建了兩種傳統(tǒng)模型作為基準(zhǔn)模型。所有實(shí)驗(yàn)均在windows服務(wù)器上進(jìn)行,該服務(wù)器配置為Intel?Xeon?CPU E5-2696 v4 2.20GHz,GPU的配置為NVIDIA GeForce RTX 2080 Ti。

        另外,為了驗(yàn)證模型的預(yù)測(cè)效果,將基于帶注意力機(jī)制的Seq2Seq模型的3種多步預(yù)測(cè)模型與以下基準(zhǔn)模型進(jìn)行比較。

        1)MC:馬爾可夫模型是一種傳統(tǒng)的統(tǒng)計(jì)學(xué)方法,是一種根據(jù)上一時(shí)刻狀態(tài)對(duì)下一時(shí)刻狀態(tài)進(jìn)行預(yù)測(cè)的方法。

        2)SVC:支持向量分類(lèi)器是支持向量機(jī)模型的一種變體方法,其本質(zhì)是對(duì)距離進(jìn)行度量,經(jīng)常用于時(shí)間序列預(yù)測(cè)。

        3)Seq2Seq模型:序列到序列模型是近年來(lái)NLP領(lǐng)域的一種常見(jiàn)模型,主要用于序列的預(yù)測(cè)問(wèn)題。

        多步預(yù)測(cè)模型的參數(shù)設(shè)置如表2。

        表2 實(shí)驗(yàn)參數(shù)

        2.3 實(shí)驗(yàn)結(jié)果分析

        首先設(shè)定輸入步長(zhǎng)為35,輸出步長(zhǎng)為5,選擇馬爾可夫模型、支持向量分類(lèi)器模型和沒(méi)有注意力機(jī)制的Seq2Seq模型作為對(duì)照實(shí)驗(yàn),觀察不同多步預(yù)測(cè)模型的預(yù)測(cè)效果,實(shí)驗(yàn)結(jié)果如表3。

        表3 實(shí)驗(yàn)結(jié)果對(duì)比

        通過(guò)表3可以得出以下結(jié)論:①在基于AFC數(shù)據(jù)的地鐵系統(tǒng)個(gè)體出行多步預(yù)測(cè)的場(chǎng)景下,Seq2Seq深度學(xué)習(xí)模型能夠獲得相比于傳統(tǒng)的機(jī)器學(xué)習(xí)模型更高的預(yù)測(cè)準(zhǔn)確率和更低的預(yù)測(cè)誤差,這是由于深度學(xué)習(xí)模型能夠從個(gè)體出行的歷史序列中提取到更多復(fù)雜的出行信息,從而提高模型的學(xué)習(xí)能力;②引入注意力機(jī)制的多步預(yù)測(cè)模型可以獲得相比于沒(méi)有注意力機(jī)制的Seq2Seq模型更高的預(yù)測(cè)準(zhǔn)確率和更低的預(yù)測(cè)誤差,這是由于注意力機(jī)制可以提高解碼器的解碼能力,加快模型的迭代,能夠?yàn)轭A(yù)測(cè)提供更多的有效信息;③針對(duì)研究場(chǎng)景,設(shè)計(jì)的3種多步預(yù)測(cè)模型中,多模型組合式多步預(yù)測(cè)模型相比于步進(jìn)輸出式多步預(yù)測(cè)模型和整體輸出式多步預(yù)測(cè)模型可以獲得更高的準(zhǔn)確率和更低的誤差,這是由于在個(gè)體出行的場(chǎng)景下,分別基于個(gè)體的歷史出行序列對(duì)未來(lái)某次的出行進(jìn)行模型訓(xùn)練,然后將預(yù)測(cè)結(jié)果結(jié)合起來(lái),更能提取到個(gè)體歷史出行對(duì)該次出行產(chǎn)生影響的特征,從而獲得更高的預(yù)測(cè)精度;而步進(jìn)輸出式多步預(yù)測(cè)模型預(yù)測(cè)精度最低,是由于該模型直接將單步預(yù)測(cè)結(jié)果與歷史出行數(shù)據(jù)結(jié)合起來(lái),然后滑動(dòng)時(shí)間窗作為下一次單步預(yù)測(cè)的輸入,沒(méi)有在模型訓(xùn)練階段引入多步預(yù)測(cè)機(jī)制,無(wú)法減少多步誤差對(duì)模型的干擾;整體輸出式多步預(yù)測(cè)模型預(yù)測(cè)精度居中,是由于該模型雖然在訓(xùn)練過(guò)程中引入了多步預(yù)測(cè)的機(jī)制,將單步預(yù)測(cè)結(jié)果進(jìn)行重新編碼并嵌入,模型可以在一定程度上學(xué)習(xí)多步預(yù)測(cè)的規(guī)律,但該模型并不能針對(duì)未來(lái)特定步長(zhǎng)的規(guī)律進(jìn)行學(xué)習(xí),對(duì)未來(lái)固定步長(zhǎng)出行預(yù)測(cè)規(guī)律的提取存在一定局限性。

        為了進(jìn)一步探究預(yù)測(cè)步長(zhǎng)給實(shí)驗(yàn)結(jié)果帶來(lái)的影響,針對(duì)多模型組合式多步預(yù)測(cè)模型,在固定輸入步長(zhǎng)的基礎(chǔ)上,改變輸出步長(zhǎng)設(shè)置了5個(gè)對(duì)比試驗(yàn)。實(shí)驗(yàn)將輸入步長(zhǎng)設(shè)置為35,輸出步長(zhǎng)分別設(shè)置為1、2、3、4、5進(jìn)行探究。實(shí)驗(yàn)結(jié)果如表4,其中ΔAcc為準(zhǔn)確率變化量,ΔMRE為MRE變化量,R1、R2分別為準(zhǔn)確量變化率、MRE變化率。

        表4 改變輸出步長(zhǎng)的結(jié)果對(duì)比

        通過(guò)表4可以看出:①在固定輸入步長(zhǎng)的情況下,隨著預(yù)測(cè)步長(zhǎng)的增長(zhǎng),預(yù)測(cè)準(zhǔn)確率降低,MRE升高,這是由于在輸入步長(zhǎng)一定的情況下,提取到的有效特征不能維持無(wú)限長(zhǎng)的多步預(yù)測(cè);②準(zhǔn)確率的變化量隨著輸出步長(zhǎng)的增加不斷均趨向于0,可以看出當(dāng)模型的輸入步長(zhǎng)一定時(shí),模型不會(huì)隨著預(yù)測(cè)步長(zhǎng)的增加而導(dǎo)致性能大幅降低,魯棒性較強(qiáng)。

        3 結(jié) 論

        隨著智能交通的發(fā)展,交通出行不斷向著個(gè)性化、智能化的方向發(fā)展,個(gè)體出行的多步預(yù)測(cè)研究對(duì)于交通出行的發(fā)展具有重要意義。

        使用廣州地鐵羊城通的刷卡數(shù)據(jù),通過(guò)建立包含注意力機(jī)制的序列到序列模型對(duì)個(gè)體出行的多步預(yù)測(cè)進(jìn)行了研究和實(shí)驗(yàn)。首先對(duì)個(gè)體出行特征進(jìn)行了提取和融合,然后基于包含注意力機(jī)制的序列到序列模型設(shè)計(jì)了3種多步預(yù)測(cè)模型,并與傳統(tǒng)出行預(yù)測(cè)模型進(jìn)行對(duì)比,進(jìn)一步地,通過(guò)改變預(yù)測(cè)步長(zhǎng),探究了不同預(yù)測(cè)步長(zhǎng)對(duì)實(shí)驗(yàn)結(jié)果帶來(lái)的影響。得出以下結(jié)論:

        1)注意力機(jī)制可以提高解碼器的解碼能力,加快模型的迭代,能夠?yàn)轭A(yù)測(cè)提供更多的有效信息,因此包含注意力機(jī)制的序列到序列模型能夠比傳統(tǒng)模型(如馬爾可夫模型、支持向量分類(lèi)器模型)更適用于多步預(yù)測(cè)的場(chǎng)景。

        2)包含注意力機(jī)制序列到序列模型更適合對(duì)長(zhǎng)序列的處理,能夠從長(zhǎng)序列中提取到更多的有效信息,從而獲得更好的預(yù)測(cè)結(jié)果。

        3)在基于AFC數(shù)據(jù)的地鐵系統(tǒng)個(gè)體出行多步預(yù)測(cè)的場(chǎng)景下,多模型組合的多步預(yù)測(cè)方法更能提取到個(gè)體歷史出行對(duì)該次出行產(chǎn)生影響的特征,能夠獲得更好的預(yù)測(cè)結(jié)果;當(dāng)模型的輸入步長(zhǎng)一定時(shí),模型不會(huì)隨著預(yù)測(cè)步長(zhǎng)的增加而導(dǎo)致性能大幅降低,具有較強(qiáng)的魯棒性。

        綜上,筆者證實(shí)了包含注意力機(jī)制的序列到序列模型在個(gè)體出行多步預(yù)測(cè)中的實(shí)用性和優(yōu)越性,并進(jìn)一步對(duì)多步預(yù)測(cè)模型進(jìn)行了設(shè)計(jì)和探究,最后說(shuō)明了輸出步長(zhǎng)對(duì)多步預(yù)測(cè)結(jié)果的影響。

        猜你喜歡
        步長(zhǎng)注意力向量
        向量的分解
        讓注意力“飛”回來(lái)
        基于Armijo搜索步長(zhǎng)的BFGS與DFP擬牛頓法的比較研究
        聚焦“向量與三角”創(chuàng)新題
        “揚(yáng)眼”APP:讓注意力“變現(xiàn)”
        A Beautiful Way Of Looking At Things
        向量垂直在解析幾何中的應(yīng)用
        向量五種“變身” 玩轉(zhuǎn)圓錐曲線(xiàn)
        基于逐維改進(jìn)的自適應(yīng)步長(zhǎng)布谷鳥(niǎo)搜索算法
        一種新型光伏系統(tǒng)MPPT變步長(zhǎng)滯環(huán)比較P&O法
        精品视频一区二区在线观看| 爱情岛论坛亚洲品质自拍hd| 国产精品第1页在线观看| 国产av91在线播放| 亚洲日本人妻少妇中文字幕| 高潮潮喷奶水飞溅视频无码| 成全视频高清免费| 18禁国产美女白浆在线| 日韩av一区二区不卡在线| 免费av一区二区三区无码| 乱子伦视频在线看| 亚洲AV无码日韩综合欧亚| 亚洲中文字幕一区二区在线| 免费a级毛片无码a∨中文字幕下载| 国产精品国产三级国av| 丝袜人妻无码中文字幕综合网| 在线观看一区二区三区在线观看 | 久久色悠悠综合网亚洲| 精品人妻一区二区三区四区在线| 亚洲精品一区二区三区大桥未久| 伊人狠狠色j香婷婷综合| 女同av一区二区三区| 青青草国产精品一区二区| 久久精品国产亚洲av电影| 元码人妻精品一区二区三区9| 日本伊人精品一区二区三区| 国产精品欧美一区二区三区| 日韩永久免费无码AV电影| 国产三级c片在线观看| av无码小缝喷白浆在线观看| 亚洲综合久久成人a片| 亚洲av综合日韩精品久久久| 户外精品一区二区三区| 国产精品久久久久影院| 91久久福利国产成人精品| 国产区一区二区三区性色| 免费无码av一区二区三区| 亚洲免费视频播放| 国产午夜精品综合久久久| 无码人妻一区二区三区在线| 久久tv中文字幕首页|