呂炎明 趙治宇 鄶世揚(yáng)

（北京交通大學(xué)軟件學(xué)院 北京市 100091）

1 引言

自動(dòng)駕駛技術(shù)是基于人工智能、道路勘測(cè)等技術(shù)于一體的綜合技術(shù)，是當(dāng)前道路交通科學(xué)研究領(lǐng)域繞不開(kāi)的熱門(mén)課題，基于該技術(shù)的各種特定場(chǎng)景下的優(yōu)化模型層出不窮。汽車跟馳(Car-Following, CF)是該研究領(lǐng)域的核心場(chǎng)景之一，也是道路交通過(guò)程中最普遍存在的情況，汽車跟馳的主要任務(wù)是控制車速以保持安全舒適的跟車間隙。汽車跟馳的速度與間隙控制有利于減輕駕駛員的工作量、改善交通安全并增強(qiáng)道路通行能力。而通過(guò)模仿人類駕駛車輛的跟馳行為，應(yīng)用自動(dòng)駕駛技術(shù)的汽車可以習(xí)得一定車輛跟馳能力。

基于該命題的研究，科學(xué)界已經(jīng)有比較清晰的研究方向和相對(duì)成熟的解決方案，其大多將場(chǎng)景定義為時(shí)序問(wèn)題，利用RNN 等循環(huán)神經(jīng)網(wǎng)絡(luò)來(lái)訓(xùn)練智能體，因?yàn)镽NN 天生的循環(huán)自回歸的結(jié)構(gòu)是對(duì)時(shí)間序列的很好的表示。Alahi 等首次提出RNN 的變體，基于長(zhǎng)短時(shí)記憶(Long Short Term Memory, LSTM)的軌跡預(yù)測(cè)方法，將軌跡設(shè)立為一種時(shí)序問(wèn)題，根據(jù)過(guò)去一段時(shí)間步長(zhǎng)的軌跡序列預(yù)測(cè)未來(lái)的軌跡。Zhang 等通過(guò)使用LSTM，將車輛的跟馳行為(CF)與換道行為(Lane-Changing, LC)同時(shí)進(jìn)行建模，提出了一種不同于多次訓(xùn)練LSTM 模型(Retrained LSTM)的混合再訓(xùn)練約束(HRC)方法來(lái)進(jìn)一步優(yōu)化LSTM 模型。劉創(chuàng)等人提出將LSTM 網(wǎng)絡(luò)處理的車輛歷史軌跡信息作為全局特征，通過(guò)卷積池化來(lái)提取信息用于軌跡預(yù)測(cè)。Cho等提出了改良RNN的門(mén)控循環(huán)單元(Gated Recurrent Unit, GRU)。Wang等提出利用GRU 對(duì)汽車跟馳行為進(jìn)行建模，考慮駕駛員的記憶因素，并將其引入到模型中。費(fèi)蓉等提出建立新的一種基于GRU 的車輛跟馳模型，獲得了較好的仿真度與穩(wěn)定性。

與之相比，傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network, RNN)一般被認(rèn)為不太適合時(shí)序問(wèn)題的建模，這主要由于其卷積核大小的限制，不能很好的抓取長(zhǎng)時(shí)的依賴信息。由此，傳統(tǒng)的卷積網(wǎng)絡(luò)并沒(méi)有被用來(lái)解決車輛跟馳問(wèn)題。但近年來(lái)，由Bai 等提出的基于因果卷積、空洞卷積和殘存鏈接的時(shí)序卷積神經(jīng)網(wǎng)絡(luò)(Temporal Convolutional Network, TCN)可以被用來(lái)解決時(shí)序問(wèn)題，并且在許多應(yīng)用場(chǎng)景上取得了與RNN、LSTM、GRU 等循環(huán)神經(jīng)網(wǎng)絡(luò)同等甚至更優(yōu)秀的表現(xiàn)。于是我們提出了將TCN 引入自動(dòng)駕駛領(lǐng)域并將其應(yīng)用于車輛跟馳模型的研究，并通過(guò)實(shí)驗(yàn)比較說(shuō)明其與許多得到廣泛應(yīng)用的傳統(tǒng)循環(huán)神經(jīng)網(wǎng)絡(luò)建模方式在相同場(chǎng)景下的表現(xiàn)差異。

本文的剩余部分組成如下：第二節(jié)詳細(xì)介紹了車輛跟馳模型，TCN 網(wǎng)絡(luò)的組成結(jié)構(gòu)及項(xiàng)目采用的數(shù)據(jù)集NGSIM；第三節(jié)研究了本文網(wǎng)絡(luò)模型的輸入輸出，網(wǎng)絡(luò)參數(shù)及數(shù)據(jù)處理，并使用數(shù)據(jù)集中的i-80 路段對(duì)模型進(jìn)行訓(xùn)練和評(píng)估，通過(guò)us-101 路段的數(shù)據(jù)及HighD 數(shù)據(jù)集的數(shù)據(jù)研究了模型的泛化能力；第四節(jié)研究總結(jié)了項(xiàng)目的主要結(jié)論及未來(lái)的研究方向。

2 項(xiàng)目背景

2.1 車輛跟馳(Car Following)

跟馳模型描述了跟馳車輛(Following Vehicle, FV)響應(yīng)引導(dǎo)車輛(Leading Vehicle, LV)的動(dòng)作的運(yùn)動(dòng)，它們是微觀道路交通場(chǎng)景的重要組成部分，并且為自動(dòng)駕駛車輛跟馳系統(tǒng)的理論提供了參考。早期的車輛跟馳模型是純數(shù)學(xué)演算的公式模型，該模型存在車輛跟馳的效率低、車輛行為預(yù)測(cè)效果差等特點(diǎn)。近年來(lái)，得益于人工智能技術(shù)的飛速發(fā)展，深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等技術(shù)常應(yīng)用于車輛跟馳模型的研究，取得了一定進(jìn)展，目前主要應(yīng)用的神經(jīng)網(wǎng)絡(luò)模型有RNN、LSTM、GRU 等。

2.2 時(shí)序卷積神經(jīng)網(wǎng)絡(luò)(TCN)

時(shí)序卷積神經(jīng)網(wǎng)絡(luò)(TCN)是卷積神經(jīng)網(wǎng)絡(luò)(CNN)的一種，是基于因果卷積(Causal Convolution)、空洞卷積(Dilated Convolution)和殘差鏈接(Residual Connections)的一種新型神經(jīng)網(wǎng)絡(luò)。

2.2.1 因果卷積

TCN 有兩個(gè)重要特征，一是其具有相同的輸入和輸出長(zhǎng)度，二是其模型預(yù)測(cè)只會(huì)受到歷史數(shù)據(jù)的影響而不會(huì)受到未來(lái)數(shù)據(jù)的滲透，后者是卷積網(wǎng)絡(luò)用于解決時(shí)序問(wèn)題的關(guān)鍵。因果卷積可以用（公式1）直觀表示。即對(duì)卷積網(wǎng)絡(luò)中每一層t 時(shí)刻的權(quán)重變化p 只來(lái)自其上一層的t 時(shí)刻及之前時(shí)刻節(jié)點(diǎn)的p 權(quán)重變化。作為一種單向的網(wǎng)絡(luò)結(jié)構(gòu)，其存在使得整個(gè)卷積網(wǎng)絡(luò)的訓(xùn)練是以數(shù)據(jù)的時(shí)間屬性為基準(zhǔn)，不會(huì)出現(xiàn)未來(lái)影響過(guò)去的情況，是一種嚴(yán)格的時(shí)間約束模型，因此被稱為因果卷積。

Causal Convolutions:

公式 1 因果卷積

2.2.2 空洞卷積

傳統(tǒng)神經(jīng)網(wǎng)絡(luò)不能被應(yīng)用于時(shí)序問(wèn)題的重要原因，是建模基于的時(shí)間步長(zhǎng)受限于卷積核的大小，如果要想抓取更長(zhǎng)的依賴關(guān)系，就需要線性的堆疊很多的網(wǎng)絡(luò)層，使得網(wǎng)絡(luò)體積過(guò)大或很難收斂。為了解決這一問(wèn)題，TCN 采用了空洞卷積的方式，即通過(guò)對(duì)輸入數(shù)據(jù)指數(shù)級(jí)逐層間隔采樣，從而實(shí)現(xiàn)用較少的網(wǎng)絡(luò)層數(shù)獲得較大的感受野，具體的實(shí)現(xiàn)方法如（公式 2）所示，其中F 是我們定義的對(duì)序列元素s 的卷積運(yùn)算，f 是一個(gè)過(guò)濾器，k 是過(guò)濾器的大小，d 是我們給定的擴(kuò)張因子，s-d·i 說(shuō)明過(guò)去的方向。（圖1）也能很好地說(shuō)明該卷積方式。

圖1： TCN 網(wǎng)絡(luò)的空洞卷積結(jié)構(gòu)

Dilated Convolution:

公式 2 空洞卷積

2.2.3 殘差鏈接

對(duì)于深層的神經(jīng)網(wǎng)絡(luò)，隨著網(wǎng)絡(luò)深度的不斷提高，獲取的信息量會(huì)逐層減少。TCN 通過(guò)構(gòu)建殘差鏈接來(lái)實(shí)現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)中跨層的傳遞信息，防止信息丟失。在本網(wǎng)絡(luò)結(jié)構(gòu)中，我們添加了一個(gè)殘差塊(Residual Block)以替代一層卷積。殘差塊擁有兩層的卷積和非線性映射，對(duì)于殘差塊中的每一層，我們添加了Dropout 層并進(jìn)行了權(quán)重值歸一化處理來(lái)將網(wǎng)絡(luò)正則化，提高網(wǎng)絡(luò)的泛化能力。

2.3 下一代仿真模擬數(shù)據(jù)集(NGSIM)

隨著智能交通系統(tǒng)的發(fā)展，NGSIM(Next Generation Simulation)數(shù)據(jù)集是美國(guó)FHWA 搜集的美國(guó)高速公路行車數(shù)據(jù)。數(shù)據(jù)集采集于美國(guó)的四個(gè)不同地區(qū)，分別是加州南向的US-101 號(hào)公路，加州洛杉磯的Lankershim Boulevard 地圖，加州埃默里維爾的東向的 I-80 號(hào)公路，以及佐治亞州亞特拉大的Peachtree Street。該數(shù)據(jù)集覆蓋了結(jié)構(gòu)化道路的路口，高速上下閘道等車路協(xié)同研究的熱點(diǎn)區(qū)域。其數(shù)據(jù)是采用攝像頭獲取，得到了道路上的所有車輛在一個(gè)時(shí)間段的車輛行駛狀況。再通過(guò)對(duì)原始的視頻信息做后處理，加工成一條一條的軌跡點(diǎn)記錄，生成了交通流中每輛車的行駛軌跡數(shù)據(jù)。我們的項(xiàng)目依托NGSIM 進(jìn)行數(shù)據(jù)的分析和問(wèn)題的研究。

3 實(shí)驗(yàn)研究

我們的實(shí)驗(yàn)聚焦簡(jiǎn)單跟馳場(chǎng)景下不同網(wǎng)絡(luò)(TCN 和RNN、LSTM、GRU)之間的預(yù)測(cè)準(zhǔn)確性、收斂速率與泛化能力。在實(shí)驗(yàn)場(chǎng)景一致的前提下，網(wǎng)絡(luò)中的各個(gè)非核心參數(shù)盡量保持統(tǒng)一，并通過(guò)實(shí)驗(yàn)選取該場(chǎng)景下最優(yōu)的核心參數(shù)，以保證該網(wǎng)絡(luò)在給定場(chǎng)景下的預(yù)測(cè)準(zhǔn)確性達(dá)到最高。

3.1 模型輸入輸出

為研究簡(jiǎn)單跟馳場(chǎng)景下后車根據(jù)跟馳前車時(shí)對(duì)自身情況的預(yù)測(cè)能力，本文研究就該場(chǎng)景建立TCN 預(yù)測(cè)模型，項(xiàng)目實(shí)驗(yàn)情景模擬如圖2 所示。模型輸出層輸出為當(dāng)前車下一幀在x 及y 軸上的坐標(biāo)(x, y)，模型的輸入為該時(shí)刻當(dāng)前車的x，y 坐標(biāo)、速度、加速度，被跟馳車的x，y 坐標(biāo)、速度、加速度，共8 項(xiàng)參數(shù)。輸入層的歷史數(shù)據(jù)seq_len 定義為80，對(duì)應(yīng)實(shí)際的8 秒時(shí)間。

圖2： 車輛跟馳場(chǎng)景模擬

3.2 數(shù)據(jù)準(zhǔn)備

TCN 模型作為一種深度學(xué)習(xí)算法，需要訓(xùn)練包含一段較長(zhǎng)時(shí)間的車輛跟馳行為的大量數(shù)據(jù)。因此，我們采用NGSIM 中的i-80 路段的數(shù)據(jù)集來(lái)訓(xùn)練集成模型。其軌跡數(shù)據(jù)是2005 年4 月13 日在加州埃默里維爾的舊金山灣區(qū)i-80公路東行處獲得的。調(diào)查區(qū)域長(zhǎng)約500 米（1640 英尺），行車方向由南向北，平均流量為7124 veh/h, 平均車速為8.32 m/s,由6 條高速公路車道組成，其中包括最右側(cè)的一條集散車道，為典型的交通擁堵?tīng)顟B(tài)，因此我們選取該路段數(shù)據(jù)進(jìn)行分析?？紤]到最左側(cè)車道存在頻繁變道等現(xiàn)象，數(shù)據(jù)集中Lane_id 在2 到5 之間的中間車道被用于訓(xùn)練網(wǎng)絡(luò)模型。對(duì)于每輛車來(lái)說(shuō)，我們提取了與該車輛在同一車道，相距100m 內(nèi)（因?yàn)槌Ｓ脗鞲衅魅鏛IDAR 或RADAR 的距離為60-175 米）最近的前車數(shù)據(jù)，其中兩車應(yīng)保持至少持續(xù)80 幀、間距不長(zhǎng)于100m 的不變道跟馳行為。對(duì)于跟馳時(shí)間長(zhǎng)于80 幀的數(shù)據(jù)，我們截取了其中前80 幀數(shù)據(jù)并每隔10幀再次截取80 幀數(shù)據(jù)作為新的一段跟馳行為數(shù)據(jù)。最終我們得到了192307 段汽車跟馳事件，其中3/4 的數(shù)據(jù)用于訓(xùn)練模型，1/4 的數(shù)據(jù)用于測(cè)試模型。

3.3 網(wǎng)絡(luò)參數(shù)

與其他深度學(xué)習(xí)的網(wǎng)絡(luò)模型類似，在TCN 模型中，許多參數(shù)都會(huì)影響模型的性能。對(duì)于單一網(wǎng)絡(luò)在該跟車場(chǎng)景下最優(yōu)參數(shù)的尋找，我們通過(guò)執(zhí)行多組對(duì)照實(shí)驗(yàn)，改動(dòng)不同組實(shí)驗(yàn)中的單一變量，尋找最優(yōu)參數(shù)。對(duì)于每一個(gè)模型，我們?cè)谠搱?chǎng)景下進(jìn)行了多組實(shí)驗(yàn)?zāi)M，通過(guò)比較最終預(yù)測(cè)結(jié)果準(zhǔn)確性的方式給出各模型在該場(chǎng)景下的最優(yōu)參數(shù)，并盡量保證不同網(wǎng)絡(luò)非核心參數(shù)的一致性。以TCN 網(wǎng)絡(luò)為例，我們通過(guò)調(diào)整卷積核大小k_nize，隱藏層數(shù)量level，隱藏層中神經(jīng)元數(shù)量n_hid 和數(shù)據(jù)訓(xùn)練參數(shù)更新周期epoch，尋找神經(jīng)網(wǎng)絡(luò)收斂速度、最終模型預(yù)測(cè)效果等綜合最優(yōu)的一組參數(shù)，作為T(mén)CN 網(wǎng)絡(luò)的最優(yōu)參數(shù)，用于其與其他網(wǎng)絡(luò)模型進(jìn)行比較。如表1 所示。

根據(jù)不同參數(shù)下多輪數(shù)據(jù)訓(xùn)練及測(cè)試，當(dāng)k_nize 為4，level 為4，n_hid 為32，epoch 為10 時(shí)，網(wǎng)絡(luò)模型具有最小的均方誤差(MSE)，在后續(xù)的訓(xùn)練中，我們使用該參數(shù)作為T(mén)CN 網(wǎng)絡(luò)模型的參數(shù)，除此之外，根據(jù)車輛跟馳的實(shí)際情況及數(shù)據(jù)集特點(diǎn)，我們確立了TCN 網(wǎng)絡(luò)模型的各項(xiàng)參數(shù)（表2）。

表2： TCN 網(wǎng)絡(luò)各項(xiàng)參數(shù)

3.4 研究結(jié)果

3.4.1 預(yù)測(cè)準(zhǔn)確率與收斂速度

我們?nèi)∮昧薸-80 路段的跟車對(duì)標(biāo)簽集，將80 幀作為時(shí)間步長(zhǎng)，實(shí)驗(yàn)比較了各網(wǎng)絡(luò)在該時(shí)間步長(zhǎng)的模型大小下經(jīng)過(guò)一定輪數(shù)的訓(xùn)練達(dá)到的最優(yōu)預(yù)測(cè)能力。以前80 個(gè)連續(xù)時(shí)間單位的前車與后車的x 與y 坐標(biāo)、加速度與速度這個(gè)八個(gè)維度作為輸入，以第81 時(shí)間點(diǎn)的后車位置坐標(biāo)作為輸出，對(duì)模型進(jìn)行訓(xùn)練，并使用mse 損失函數(shù)對(duì)訓(xùn)練得到的網(wǎng)絡(luò)的預(yù)測(cè)效果進(jìn)行評(píng)價(jià)，得到各網(wǎng)絡(luò)在相同測(cè)試數(shù)據(jù)集下的loss，如（表3），并在測(cè)試數(shù)據(jù)集中隨機(jī)選取了200 個(gè)測(cè)試數(shù)據(jù)進(jìn)行預(yù)測(cè)并繪制預(yù)測(cè)曲線圖，結(jié)果如（圖3）?？梢钥吹?，與其他網(wǎng)絡(luò)模型相比，TCN 網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果更接近真實(shí)數(shù)據(jù)。我們記錄了網(wǎng)絡(luò)訓(xùn)練過(guò)程中的loss 值，并繪制曲線比較網(wǎng)絡(luò)收斂速率（圖3），可以看到，TCN 在1 ～2 輪訓(xùn)練后已經(jīng)有較低的loss 了，而其他網(wǎng)絡(luò)還需要重復(fù)訓(xùn)練幾遍才能達(dá)到相對(duì)不錯(cuò)的效果。

圖3： 各網(wǎng)絡(luò)模型loss 曲線與預(yù)測(cè)曲線

表 1：TCN 網(wǎng)絡(luò)參數(shù)效率對(duì)比

表 3：時(shí)序網(wǎng)絡(luò)模型效率對(duì)比

3.4.2 泛化能力

HighD 數(shù)據(jù)集是德國(guó)高速公路的大型自然車輛軌跡數(shù)據(jù)集。我們將數(shù)據(jù)訓(xùn)練得到的網(wǎng)絡(luò)預(yù)測(cè)NGSIM 數(shù)據(jù)集中us-101 路段、HighD 數(shù)據(jù)集中01_highway 路段的車輛跟馳行為，以考察各個(gè)網(wǎng)絡(luò)的泛化能力。我們?cè)跍y(cè)試數(shù)據(jù)集中隨機(jī)選取了符合條件的50 個(gè)測(cè)試用例，用實(shí)驗(yàn)訓(xùn)練完成的各網(wǎng)絡(luò)模型預(yù)測(cè)其跟馳行為，比較loss 大小，并繪制曲線比較預(yù)測(cè)結(jié)果（圖4）?？梢钥吹剑骶W(wǎng)絡(luò)模型在us-101 路段、01_highway 路段下均具有較高的車輛行為還原度。其中， TCN網(wǎng)絡(luò)模型對(duì)于數(shù)據(jù)的預(yù)測(cè)最接近真實(shí)值，具有最好的車輛行為還原度。該實(shí)驗(yàn)說(shuō)明了與其他網(wǎng)絡(luò)模型相比，TCN 具有較好的泛化能力且其泛化能力優(yōu)于其他模型。

圖4： 各網(wǎng)絡(luò)模型泛化能力對(duì)比圖

4 結(jié)論

作為主流的自動(dòng)駕駛理論研究場(chǎng)景和典型的時(shí)間序列問(wèn)題，跟馳模型的優(yōu)化具有重要意義。本文將TCN 引入跟馳模型的研究，將卷積網(wǎng)絡(luò)引入自動(dòng)駕駛汽車車輛軌跡模型優(yōu)化的研究，并通過(guò)實(shí)驗(yàn)證明了其可應(yīng)用性及相對(duì)較高的準(zhǔn)確性和穩(wěn)定性，為上述問(wèn)題的研究提供了新思路、新方法，相信時(shí)序卷積網(wǎng)絡(luò)模型會(huì)在自動(dòng)駕駛研究領(lǐng)域大放異彩。