趙 靜，李 昕

基于GAT-GRU模型的交通流預(yù)測(cè)方法

趙 靜，李 昕

（遼寧工業(yè)大學(xué) 電子與信息工程學(xué)院，遼寧 錦州 121001）

提出了一種新的深度學(xué)習(xí)框架——圖注意力網(wǎng)絡(luò)(GAT)與門(mén)控循環(huán)單元(GRU)組合的時(shí)空交通流量預(yù)測(cè)模型。圖注意力網(wǎng)絡(luò)用來(lái)學(xué)習(xí)復(fù)雜的拓?fù)浣Y(jié)構(gòu)來(lái)捕獲空間依賴(lài)，門(mén)控循環(huán)單元學(xué)習(xí)交通數(shù)據(jù)的動(dòng)態(tài)變化來(lái)捕獲時(shí)間依賴(lài)。利用加利福尼亞高速公路數(shù)據(jù)進(jìn)行模型驗(yàn)證，實(shí)驗(yàn)結(jié)果表明，該模型相對(duì)于其他主流預(yù)測(cè)模型進(jìn)一步降低了預(yù)測(cè)誤差，在交通流預(yù)測(cè)問(wèn)題中適用性更強(qiáng)。

交通流預(yù)測(cè)；深度學(xué)習(xí)；圖注意力網(wǎng)絡(luò)；門(mén)控循環(huán)單元；時(shí)空相關(guān)性

在當(dāng)今汽車(chē)保有量迅速增加的時(shí)代，城市的交通擁堵問(wèn)題越發(fā)嚴(yán)重。為了使出行者和交通機(jī)構(gòu)能夠得到及時(shí)的、準(zhǔn)確的、可靠的交通信息，需要進(jìn)行交通預(yù)測(cè)。交通預(yù)測(cè)可以使智能交通系統(tǒng)變得更穩(wěn)定，道路變得更暢通。提前了解交通信息(交通擁堵情況、交通量和人流)可使有關(guān)部門(mén)實(shí)施更好的交通管理策略，旅客可以制定更好的路線規(guī)劃。因此，實(shí)時(shí)獲取準(zhǔn)確的交通信息對(duì)出行者和有關(guān)部門(mén)具有重大意義。但由于交通流的隨機(jī)性，交通預(yù)測(cè)是一個(gè)非常具有挑戰(zhàn)性的問(wèn)題。近年來(lái)，研究者提出了許多提高交通流的預(yù)測(cè)精度的方法?？梢苑譃?類(lèi)：模型驅(qū)動(dòng)方法和數(shù)據(jù)驅(qū)動(dòng)方法[1]。

模型驅(qū)動(dòng)的方法是根據(jù)固定數(shù)量的參數(shù)組成的，所以也稱(chēng)為參數(shù)方法，模型結(jié)構(gòu)是根據(jù)一定的理論假設(shè)來(lái)預(yù)定，模型參數(shù)根據(jù)經(jīng)驗(yàn)數(shù)據(jù)來(lái)計(jì)算，主要有2個(gè)方法：時(shí)間序列模型[2]和卡爾曼濾波模型[3]。而數(shù)據(jù)驅(qū)動(dòng)方法更具有靈活性，能夠處理一些存在不確定因素的問(wèn)題?？梢苑譃闄C(jī)器學(xué)習(xí)方法和深度學(xué)習(xí)方法2大類(lèi)。

傳統(tǒng)機(jī)器學(xué)習(xí)方法中用于交通流預(yù)測(cè)的方法有支持向量機(jī)[4]、貝葉斯模型[5]、K最近鄰模型等。雖然機(jī)器學(xué)習(xí)方法可以在通過(guò)學(xué)習(xí)大量的數(shù)據(jù)的過(guò)程中得到一定的規(guī)律，但是傳統(tǒng)的機(jī)器學(xué)習(xí)方法缺乏處理高維數(shù)據(jù)的能力，難以描述交通數(shù)據(jù)中復(fù)雜的非線性變化。除此之外，傳統(tǒng)機(jī)器學(xué)習(xí)的預(yù)測(cè)性能在很大程度上依賴(lài)于手工特征，而手工特征對(duì)問(wèn)題的依賴(lài)程度很高，依賴(lài)于專(zhuān)家經(jīng)驗(yàn)。因此，這種方法的通用性較弱。

近年來(lái)，深度學(xué)習(xí)模型對(duì)多維度和非線性數(shù)據(jù)的處理能力顯著增強(qiáng)，與其他傳統(tǒng)機(jī)器學(xué)習(xí)方法相比，深度結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)比淺層神經(jīng)網(wǎng)絡(luò)有更好的學(xué)習(xí)效率，所以深度學(xué)習(xí)的方法在預(yù)測(cè)交通流方面提供了更高的性能，促使越來(lái)越多的研究者將其應(yīng)用于交通數(shù)據(jù)挖掘中。

Huang等[6]采用深度信念網(wǎng)絡(luò)(DBN)學(xué)習(xí)有效的特征，以無(wú)監(jiān)督的方式進(jìn)行交通流預(yù)測(cè)。Jia等[7]提出DBN和多層感知器(MLP)混合模型的速度預(yù)測(cè)。Lv等[8]應(yīng)用堆疊自動(dòng)編碼器(Stacked Autoencoder，SAE)提取交通特征用于交通流預(yù)測(cè)。上述深度學(xué)習(xí)方法均取得了較好的效果。然而，單一模型在處理復(fù)雜數(shù)據(jù)時(shí)仍有局限性。為了整合單一模型的優(yōu)點(diǎn)，實(shí)現(xiàn)更準(zhǔn)確的交通流預(yù)測(cè)，各種組合模型應(yīng)運(yùn)而生。Ma等[9]提出了一種基于圖像的方法，將交通網(wǎng)絡(luò)作為圖像。Yao等[10]提出了一種融合CNN和長(zhǎng)短期記憶(LSTM)的交通預(yù)測(cè)方法，聯(lián)合建?？臻g和時(shí)間依賴(lài)關(guān)系。然而傳統(tǒng)的卷積方法只能應(yīng)用于標(biāo)準(zhǔn)網(wǎng)格數(shù)據(jù)。而現(xiàn)實(shí)的研究中還有大量的數(shù)據(jù)從非歐幾里德結(jié)構(gòu)中采樣，所以，近年來(lái)研究者們用圖卷積網(wǎng)絡(luò)(GCN)[11]將傳統(tǒng)的卷積推廣到圖結(jié)構(gòu)數(shù)據(jù)。GCN將交通網(wǎng)絡(luò)視為能夠充分利用交通空間信息的圖，Yu等[12]提出了一種時(shí)空?qǐng)D卷積網(wǎng)絡(luò)(STGCN)，該網(wǎng)絡(luò)在空間和時(shí)間軸上都采用了卷積結(jié)構(gòu)。Zhao等[13]提出了時(shí)間圖卷積網(wǎng)絡(luò)(T-GCN)模型，一種基于神經(jīng)網(wǎng)絡(luò)的流量預(yù)測(cè)新方法，該模型結(jié)合了圖卷積網(wǎng)絡(luò)和門(mén)控循環(huán)單元。其中，圖卷積網(wǎng)絡(luò)用于學(xué)習(xí)復(fù)雜拓?fù)浣Y(jié)構(gòu)，捕獲空間相關(guān)性；門(mén)控遞歸單元用于學(xué)習(xí)交通數(shù)據(jù)的動(dòng)態(tài)變化，捕獲時(shí)間相關(guān)性。然后，采用T-GCN模型進(jìn)行基于城市道路網(wǎng)絡(luò)的交通預(yù)測(cè)。Guo等[14]在時(shí)空卷積網(wǎng)絡(luò)中加入了注意力機(jī)制，注意力的時(shí)空?qǐng)D卷積網(wǎng)絡(luò)模型主要由3個(gè)獨(dú)立的組件組成，分別對(duì)交通流的最近依賴(lài)、日周期依賴(lài)和周周期依賴(lài)3種時(shí)間屬性進(jìn)行建模。

目前，如何挖掘交通流數(shù)據(jù)的時(shí)間特征和空間特征是交通流的研究方向之一。本文提出了一種新的深度學(xué)習(xí)框架，即GAT-GRU模型。GAT-GRU是一個(gè)融合了空間相關(guān)性提取塊和時(shí)間特征提取塊的混合模型。采用圖注意力網(wǎng)絡(luò)提取交通網(wǎng)絡(luò)中的空間依賴(lài)關(guān)系，GRU網(wǎng)絡(luò)來(lái)學(xué)習(xí)時(shí)間序列特征。并通過(guò)加利福尼亞州運(yùn)輸部收集的真實(shí)數(shù)據(jù)集PeMSD4對(duì)模型進(jìn)行訓(xùn)練與預(yù)測(cè)。

1 問(wèn)題描述和定義

在交通流預(yù)測(cè)中，目標(biāo)是在給定歷史交通流的靜態(tài)路網(wǎng)上預(yù)測(cè)未來(lái)交通流。

定義2 交通流數(shù)據(jù)。交通流數(shù)據(jù)具有3個(gè)重要參數(shù)，分別是交通流量、行車(chē)速度以及車(chē)流密度。它們之間關(guān)系如式(1)所示：

=(1)

其中，表示交通流量，表示行車(chē)速度，表示車(chē)流密度。當(dāng)?shù)缆飞宪?chē)流密度小時(shí)，交通流量也小，行車(chē)速度高；當(dāng)車(chē)流密度增加時(shí)，交通流量也隨之增加，行車(chē)速度減??；當(dāng)車(chē)流密度超過(guò)最佳密度時(shí)，交通流量減小，行車(chē)速度下降，直至行車(chē)速度接近零，道路出現(xiàn)阻塞現(xiàn)象。

定義3 時(shí)空相關(guān)性。在道路網(wǎng)絡(luò)中，各個(gè)路段存在直接或間接相連的狀況，所以各路段的交通流存在明顯的相關(guān)性。例如，在某一路段發(fā)生的交通擠塞使得該路段幾分鐘內(nèi)一直擁堵，甚至可能幾分鐘后會(huì)蔓延到其他路段，導(dǎo)致區(qū)域擁堵。路段之間的連接和交通網(wǎng)絡(luò)中交通實(shí)體的相互作用，使得相鄰路段的交通流呈現(xiàn)出時(shí)空相關(guān)性。

交通流預(yù)測(cè)問(wèn)題可以表述為在通過(guò)對(duì)大量的交通流樣本學(xué)習(xí)的過(guò)程中得出一個(gè)映射函數(shù)，先將道路網(wǎng)絡(luò)上′周期內(nèi)的歷史交通流數(shù)據(jù)作為函數(shù)的輸入，然后對(duì)道路網(wǎng)絡(luò)上未來(lái)周期內(nèi)的交通信息進(jìn)行預(yù)測(cè)。如式(2)和圖1所示。圖1表示在一個(gè)節(jié)點(diǎn)上檢測(cè)交通流量、車(chē)流密度、行車(chē)速度測(cè)量值，并以未來(lái)的流量為預(yù)測(cè)目標(biāo)。這里，所有的測(cè)量值都?xì)w一化為[0,1]。在實(shí)際交通流預(yù)測(cè)問(wèn)題中，3個(gè)參數(shù)數(shù)據(jù)都是結(jié)構(gòu)相似的時(shí)空數(shù)據(jù)，本文選擇了交通流量預(yù)測(cè)作為應(yīng)用場(chǎng)景。

其中，Xt+1, Xt+T是時(shí)間區(qū)間t+1, t+T的預(yù)測(cè)值，是函數(shù)f的參數(shù)。

2 圖注意力網(wǎng)絡(luò)

圖注意力網(wǎng)絡(luò)(graph attention network)[15]是一種基于圖的網(wǎng)絡(luò)模型，利用隱藏的自我注意層來(lái)解決以前基于圖卷積或其近似方法的缺點(diǎn)。通過(guò)疊加層，節(jié)點(diǎn)能夠參與其鄰域的特征，該方法允許在不做任何操作或者不提前了解圖結(jié)構(gòu)的情況下給鄰域的不同節(jié)點(diǎn)賦予不同的權(quán)重。通過(guò)這種方式，GAT同時(shí)解決了基于頻譜的圖神經(jīng)網(wǎng)絡(luò)的幾個(gè)關(guān)鍵挑戰(zhàn)，并使模型易于適用于歸納和轉(zhuǎn)導(dǎo)問(wèn)題。GAT和GCN的關(guān)鍵區(qū)別在于如何收集和積累距離為1的相鄰節(jié)點(diǎn)的特征表示。在GCN中，一個(gè)標(biāo)準(zhǔn)卷積包括對(duì)相鄰節(jié)點(diǎn)特征的標(biāo)準(zhǔn)化求和，表達(dá)式如下：

2.1 圖注意力層

GAT引入注意機(jī)制代替了圖卷積的上述卷積運(yùn)算，為了更好地說(shuō)明層的節(jié)點(diǎn)特征是如何更新到+1層的，首先引入GAT的組成成分，即圖注意力層。

一個(gè)圖注意力層的輸入是一組節(jié)點(diǎn)的特征值，即：

其中是節(jié)點(diǎn)的個(gè)數(shù)，是節(jié)點(diǎn)特征的個(gè)數(shù)。一個(gè)圖注意力層的輸出是其產(chǎn)生的一組新的節(jié)點(diǎn)特征值，即：

其中′通常比更大。

上式描述了節(jié)點(diǎn)的特征對(duì)于節(jié)點(diǎn)的重要性。利用函數(shù)將注意系數(shù)歸一化成易于比較的形式，表達(dá)式如下：

因此，這些系數(shù)被用來(lái)利用GCN卷積規(guī)則更新模型特征，表達(dá)式如下：

2.2 多頭注意力機(jī)制

多頭注意力機(jī)制神似卷積神經(jīng)網(wǎng)絡(luò)里的多通道。GAT引入了多頭注意力來(lái)豐富模型的能力和穩(wěn)定訓(xùn)練過(guò)程。每一個(gè)注意力的頭都有它自己的參數(shù)。對(duì)于個(gè)注意力又可以使用2種方法對(duì)鄰居節(jié)點(diǎn)進(jìn)行聚合。一種方法是橫向拼接的方式，這樣聚合到的特征維度就是原來(lái)的倍，表達(dá)式如下：

另一種方法是把個(gè)注意力機(jī)制得到的結(jié)果取平均值，表達(dá)式如下：

3 基于GAT-GRU的交通流預(yù)測(cè)模型

本文提出一種混合交通流預(yù)測(cè)器GAT-GRU。如圖2所示，GAT-GRU包括用于學(xué)習(xí)空間特征的GAT塊，用于學(xué)習(xí)時(shí)間特征和時(shí)間序列預(yù)測(cè)的GRU塊，以及用于產(chǎn)生序列輸出的輸出層。具體而言，在空間GAT塊中，采用了前述的多頭注意機(jī)制，使模型能夠通過(guò)多個(gè)獨(dú)立的注意塊共同學(xué)習(xí)空間依賴(lài)性，從而有利于學(xué)習(xí)過(guò)程。在GRU塊中，采用了一個(gè)1層GRU網(wǎng)絡(luò)來(lái)提取時(shí)間序列特征。最終的預(yù)測(cè)由最終輸出層的全連接神經(jīng)網(wǎng)絡(luò)產(chǎn)生。

圖2 GAT-GRU模型總覽

3.1 空間相關(guān)模型

GAT利用節(jié)點(diǎn)特性來(lái)計(jì)算表示圖的空間依賴(lài)性的注意系數(shù)?？臻gGAT塊的最后一步是更新隱藏特征。為了實(shí)現(xiàn)這一點(diǎn)，引入了注意鄰接矩陣，將之前學(xué)習(xí)到的注意系數(shù)映射到一個(gè)鄰接矩陣。

注意鄰接矩陣體現(xiàn)了GAT的設(shè)計(jì)原則，即更好的可解釋性。通過(guò)采用注意鄰接矩陣，用學(xué)習(xí)到的注意系數(shù)來(lái)表示邊緣權(quán)值，可以直觀地表示空間相關(guān)性。通過(guò)注意鄰接矩陣的演化，也可以觀察到動(dòng)態(tài)的空間依賴(lài)性。

3.2 時(shí)間相關(guān)模型

交通流數(shù)據(jù)不僅存在著空間性，在時(shí)間上也存在著相關(guān)屬性。目前，循環(huán)神經(jīng)網(wǎng)絡(luò)廣泛應(yīng)用于處理序列數(shù)據(jù)，但是存在梯度消失和梯度爆炸的局限性。門(mén)控循環(huán)單元神經(jīng)網(wǎng)絡(luò)(GRU)是基于RNN模型的改進(jìn)，是長(zhǎng)期短期記憶(LSTM)神經(jīng)網(wǎng)絡(luò)的變種。GRU通過(guò)增加門(mén)結(jié)構(gòu)和存儲(chǔ)單元來(lái)緩解RNN中的梯度消失或梯度爆炸問(wèn)題。GRU有重置門(mén)和更新門(mén)2個(gè)門(mén)。簡(jiǎn)單地說(shuō)，它們決定了信息的去留狀態(tài)。更新門(mén)越大，記住上一時(shí)刻的內(nèi)容就愈多。重置門(mén)越大，舍棄上一時(shí)刻的內(nèi)容就愈少。GRU單個(gè)細(xì)胞原理如圖3所示，計(jì)算原理表達(dá)式如下：

圖3 GRU模型原理圖

4 實(shí)驗(yàn)結(jié)果與分析

4.1 數(shù)據(jù)集來(lái)源及預(yù)處理

利用加利福尼亞州的高速公路交通數(shù)據(jù)集PeMSD4驗(yàn)證了提出的模型。數(shù)據(jù)集由Caltrans性能測(cè)量系統(tǒng)(PeMS)每30 s時(shí)收集一次。該系統(tǒng)在加州主要城市的高速公路上部署了超過(guò)39 000個(gè)探測(cè)器。

PeMSD4數(shù)據(jù)集包含了PeMSD4.csv文件和PeMSD4.npz文件，時(shí)間跨度為2018年1月—2月，包括29條道路上的3 848個(gè)檢測(cè)器。PeMSD4.csv文件的部分?jǐn)?shù)據(jù)如圖4所示，from和to表示的是節(jié)點(diǎn)，cost表示的是2個(gè)節(jié)點(diǎn)之間的直線距離(表示權(quán)重)。PeMSD4.npz文件數(shù)據(jù)為每個(gè)節(jié)點(diǎn)的速度、流量、占有率3個(gè)特征。本文選取流量特征進(jìn)行預(yù)測(cè)。其中，80%的數(shù)據(jù)作為訓(xùn)練集，20%的數(shù)據(jù)作為測(cè)試集。

圖4 PeMSD4.csv文件的部分?jǐn)?shù)據(jù)

根據(jù)數(shù)據(jù)集的信息，建立節(jié)點(diǎn)之間的鄰接矩陣。基于閾值高斯核法將計(jì)算的權(quán)值替換為1，生成鄰接矩陣。

4.2 評(píng)價(jià)指標(biāo)

使用均方根誤差(RMSE)，平均絕對(duì)誤差(MAE)來(lái)評(píng)估GAT-GRU的預(yù)測(cè)性能，數(shù)值越小，預(yù)測(cè)效果越好，RMSE和MAE的計(jì)算方法如下：

4.3 模型參數(shù)設(shè)置

實(shí)驗(yàn)基于深度學(xué)習(xí)框架Pytorch-GPU開(kāi)發(fā)，使用Adam優(yōu)化器對(duì)模型進(jìn)行優(yōu)化；學(xué)習(xí)率設(shè)置為0.001；每次訓(xùn)練樣本數(shù)batch_size設(shè)置為64；迭代次數(shù)設(shè)置為1 000；GRU隱藏層單元數(shù)設(shè)置為32；圖注意力機(jī)制的多頭注意力頭數(shù)對(duì)模型的性能影響很大，但是如果值過(guò)大，模型計(jì)算量龐大，效率反而會(huì)降低，經(jīng)過(guò)實(shí)驗(yàn)對(duì)比，如圖5所示，為8時(shí)，RMSE誤差最小，所以將多頭注意力的頭數(shù)設(shè)置為8。

圖5 K取值對(duì)實(shí)驗(yàn)的影響

4.4 模型訓(xùn)練過(guò)程

本文將數(shù)據(jù)集以8∶2的比例劃分訓(xùn)練集和測(cè)試集，模型的訓(xùn)練過(guò)程如下。

步驟1 讀取交通流量數(shù)據(jù)和鄰接矩陣A。

步驟2 將輸入數(shù)據(jù)構(gòu)造成特征矩陣，定義為：

步驟3 將特征矩陣進(jìn)行歸一化處理。

步驟4 將歸一化后的矩陣作為GAT網(wǎng)絡(luò)的輸入，根據(jù)公式(6)提取空間特征到序列特征向量。

步驟5 將特征向量作為GRU網(wǎng)絡(luò)的輸入，根據(jù)公式(9)～(11)計(jì)算提取時(shí)間特征。

步驟6 搭建好模型之后，以MSE作為損失函數(shù)，Adam作為優(yōu)化器。

步驟7 模型訓(xùn)練完成后進(jìn)行測(cè)試，輸出預(yù)測(cè)的交通流量序列。

4.5 性能對(duì)比

為了驗(yàn)證模型的優(yōu)越性，本文將GAT-GRU模型與以下7種基準(zhǔn)模型方法進(jìn)行了比較。表1顯示未來(lái)1 h交通流量預(yù)測(cè)性能的平均結(jié)果。圖6是GAT-GRU模型在PeMSD4數(shù)據(jù)集上預(yù)測(cè)結(jié)果與真實(shí)值比較。

表1 PeMSD4不同方法的平均性能比較

ModelRMSEMAE HA54.1436.76 ARIMA68.1332.11 VAR51.7333.76 LSTM45.8229.45 GRU45.1128.65 GAT42.2028.19 STGCN38.2925.15 GAT-GRU37.4323.41

圖6 GAT-GRU模型預(yù)測(cè)結(jié)果與真實(shí)值比較

(1)HA[16]：歷史平均方法，本文使用最后12個(gè)時(shí)間片的平均值來(lái)預(yù)測(cè)下一個(gè)值。

(2)ARIMA：自回歸綜合移動(dòng)平均法，是一種著名的預(yù)測(cè)未來(lái)值的時(shí)間序列分析方法。擬合觀測(cè)時(shí)間序列的參數(shù)模型來(lái)預(yù)測(cè)未來(lái)的交通數(shù)據(jù)。

(3)VAR[17]：向量自回歸，是一種較先進(jìn)的時(shí)間序列模型，利用歷史數(shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練，得到輸入和輸出之間的關(guān)系，然后利用訓(xùn)練后的模型預(yù)測(cè)未來(lái)的交通數(shù)據(jù)。本文在這個(gè)模型中使用的核函數(shù)是一個(gè)線性核。

(4)LSTM[18]：長(zhǎng)短期記憶網(wǎng)絡(luò)，一種特殊的RNN模型。是為了解決反向傳播過(guò)程中存在梯度消失和梯度爆炸現(xiàn)象，引入門(mén)機(jī)制，解決RNN模型不具備的長(zhǎng)記憶性問(wèn)題。

(5)GRU[19]：門(mén)控循環(huán)單元網(wǎng)絡(luò)，一種特殊的RNN模型。優(yōu)化了LSTM，簡(jiǎn)便了計(jì)算方法，避免了梯度消失。

(6)GAT[15]：圖注意力網(wǎng)絡(luò)，是一種基于圖結(jié)構(gòu)數(shù)據(jù)的新型神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。圖注意力網(wǎng)絡(luò)的作用原理是在學(xué)習(xí)節(jié)點(diǎn)特征的過(guò)程中，將注意力機(jī)制作用于確定節(jié)點(diǎn)的不同鄰域權(quán)重值。

(7)STGCN[20]：一種基于空間方法的時(shí)空?qǐng)D卷積模型。STGCN有2個(gè)時(shí)空卷積塊，每個(gè)時(shí)空卷積塊有2個(gè)時(shí)空門(mén)控卷積層和1個(gè)空間圖卷積層，實(shí)現(xiàn)輸入并行化，提取最有用的時(shí)空特征。

從表1可以看出，GAT-GRU模型在數(shù)據(jù)集中所有評(píng)價(jià)指標(biāo)上都取得了最好的性能。可以看到，傳統(tǒng)的時(shí)間序列分析方法的預(yù)測(cè)結(jié)果往往不理想，說(shuō)明這些方法在建模非線性和復(fù)雜的交通數(shù)據(jù)方面能力有限。通過(guò)對(duì)比，基于深度學(xué)習(xí)的方法通常比傳統(tǒng)的時(shí)間序列分析方法獲得更好的預(yù)測(cè)結(jié)果。其中，同時(shí)考慮時(shí)間和空間相關(guān)性的模型，包括STGCN、GAT-GRU模型，優(yōu)于傳統(tǒng)的LSTM和GRU等深度學(xué)習(xí)模型。此外，GAT-GRU的性能優(yōu)于STGCN，說(shuō)明GAT-GRU采用的多頭注意機(jī)制在捕獲交通數(shù)據(jù)的動(dòng)態(tài)變化方面是有效的，進(jìn)一步降低了預(yù)測(cè)誤差。

5 結(jié)語(yǔ)

本文研究開(kāi)發(fā)了一種基于神經(jīng)網(wǎng)絡(luò)的交通預(yù)測(cè)新方法GAT-GRU，該方法結(jié)合了GAT和GRU。使用圖網(wǎng)絡(luò)對(duì)高速公路路網(wǎng)進(jìn)行建模，圖上的節(jié)點(diǎn)表示道路，邊表示道路之間的連接關(guān)系，道路上交通信息被描述為圖上節(jié)點(diǎn)的屬性。一方面，利用GAT捕獲圖的空間拓?fù)浣Y(jié)構(gòu)，獲得圖的空間依賴(lài)性；另一方面，引入GRU模型捕獲節(jié)點(diǎn)屬性的動(dòng)態(tài)變化，獲得節(jié)點(diǎn)屬性的時(shí)間依賴(lài)性。最后利用GAT-GRU模型處理時(shí)空交通預(yù)測(cè)任務(wù)。在2個(gè)真實(shí)交通數(shù)據(jù)集上進(jìn)行評(píng)估，并與HA模型、ARIMA模型、SVR模型、LSTM模型GRU模型和STGCN模型進(jìn)行比較，發(fā)現(xiàn)GAT-GRU模型在不同的預(yù)測(cè)層下都取得了更好的性能。事實(shí)上，公路交通流受到天氣、社會(huì)事件等多種外部因素的影響。未來(lái)，將考慮一些外部影響因素，進(jìn)一步提高預(yù)測(cè)精度。

[1] ZHANG J, WANG F-Y, WANG K, et al. Data-Driven Intelligent Transportation Systems: A Survey[J]. IEEE Transactions on Intelligent Transportation Systems, 2011, 12: 1624-39.

[2] 陳航, 陳玉敏, 吳錢(qián)嬌, 等. 基于周相似性的短時(shí)交通流預(yù)測(cè)方法研究[J]. 測(cè)繪通報(bào), 2015(S2): 27-31.

[3] KUMAR S V. Traffic Flow Prediction using Kalman Filtering Technique[J]. Procedia Engineering, 2017, 187: 582-587.

[4] FENG X, LING X, ZHENG H, et al. Adaptive Multi-Kernel SVM With Spatial Temporal Correlation for Short-Term Traffic Flow Prediction[J]. IEEE Transactions on Intelligent Transportation Systems, 2019, 20: 2001-2013.

[5] 陳丹, 胡明華, 張洪海, 等. 基于貝葉斯估計(jì)的短時(shí)空域扇區(qū)交通流量預(yù)測(cè)[J]. 西南交通大學(xué)學(xué)報(bào), 2016, 51(4): 807-814.

[6] HUANG W, SONG G, HONG H, et al. Deep Architecture for Traffic Flow Prediction: Deep Belief Networks With Multitask Learning[J]. IEEE Transactions on Intelligent Transportation Systems, 2014, 15: 2191-201.

[7] JIA Y, WU J, DU Y. Traffic speed prediction using deep learning method[C]. 2016 IEEE 19th International Conference on Intelligent Transportation Systems (ITSC), 2016: 1217-1222.

[8] LV Y, DUAN Y, KANG W, et al. Traffic Flow Prediction With Big Data: A Deep Learning Approach [J]. IEEE Transactions on Intelligent Transportation Systems, 2015, 16: 865-873.

[9] MA X, DAI Z, HE Z, et al. Learning Traffic as Images: A Deep Convolutional Neural Network for Large-Scale Transportation Network Speed Prediction[J]. Sensors (Basel, Switzerland), 2017, 17: 818.

[10] YAO H, TANG X, WEI H, et al. Modeling Spatial-Temporal Dynamics for Traffic Prediction[J]. ArXiv, 2018, abs/1803.01254: 922-929.

[11] OU Y, XUE Y, YUAN Y, et al. Semi-Supervised Cervical Dysplasia Classification with Learnable Graph Convolutional Network[C]. 2020 IEEE 17th International Symposium on Biomedical Imaging (ISBI), 2020: 1720-1724.

[12] YU H, WU Z, WANG S, et al. Spatiotemporal Recurrent Convolutional Networks for Traffic Prediction in Transportation Networks[J]. Sensors (Basel, Switzerland), 2017, 17: 1501.

[13] ZHAO L, SONG Y, ZHANG C, et al. T-GCN: A Temporal Graph Convolutional Network for Traffic Prediction[J]. IEEE Transactions on Intelligent Transportation Systems, 2020, 21: 3848-3858.

[14] GUO S, LIN Y, FENG N, et al. Attention Based Spatial-Temporal Graph Convolutional Networks for Traffic Flow Forecasting[C]. Proceedings of the AAAI, F, 2019.

[15] VELICKOVIC P, CUCURULL G, CASANOVA A, et al. Graph Attention Networks[J]. ArXiv, 2018, abs/1710.10903.

[16] 劉靜, 關(guān)偉. 交通流預(yù)測(cè)方法綜述[J]. 公路交通科技, 2004(3): 82-85.

[17] SMOLA A, SCH?LKOPF B. A tutorial on support vector regression[J]. Statistics and Computing, 2004, 14: 199-222.

[18] HOCHREITER S, SCHMIDHUBER J. Long Short-Term Memory[J]. Neural Computation, 1997, 9: 1735-1780.

[19] CHUNG J, GüL?EHRE ?, CHO K, et al. Empirical Evaluation of Gated Recurrent Neural Networks on Sequence Modeling[J]. ArXiv, 2014, abs/1412.3555.

[20] LI C, CUI Z, ZHENG W, et al. Spatio-Temporal Graph Convolution for Skeleton Based Action Recognition[C]. Proceedings of the AAAI, F, 2018.

Traffic Flow Prediction Method Based on the GAT-GRU Mode

ZHAO Jing, LI Xin

（School of Electronics and Information Engineering, Liaoning University of Technology, Jinzhou 121001, China）

A new deep learning framework, a spatiotemporal traffic flow prediction model combined with Graph Attention Network (GAT) and Gated Recurrent Unit (GRU), is proposed. Graph attention networks are used to learn complex topologies to capture spatial dependencies, and gated recurrent units are used to learn the dynamics of traffic data to capture temporal dependencies. The model is verified by using California highway data. The experimental results show that the model further reduces the prediction error compared with other mainstream prediction models, and is more applicable to traffic flow prediction problems.

traffic flow prediction; deep learning; graph attention network; gated recurrent unit; spatial-temporal correlation

10.15916/j.issn1674-3261.2022.03.007

TP183

A

1674-3261(2022)03-0170-07

2021-04-14

遼寧省教育廳高校科研基金項(xiàng)目(LJKZ0625)

趙靜(1997-)，女，江蘇鹽城人，碩士生。

李昕(1966-)，男，遼寧錦州人，教授，博士。

責(zé)任編輯：孫 林