張鐸，饒紅玉,2，劉佳琦，王俊驊，孫劍*

(1.同濟(jì)大學(xué)，道路與交通工程教育部重點(diǎn)實(shí)驗(yàn)室，上海 201804；2.杭州海康威視數(shù)字技術(shù)股份有限公司，杭州 310051)

0 引言

在由人-車-路-環(huán)境等組成的交通系統(tǒng)中，駕駛?cè)耸亲詈诵牡慕M成部分，也是最復(fù)雜且不確定性最強(qiáng)的要素[1]。受到自身駕駛經(jīng)驗(yàn)技術(shù)、習(xí)慣偏好及心理生理狀態(tài)等多方因素的共同影響，人類駕駛行為表現(xiàn)會(huì)呈現(xiàn)出人與人之間以及同一駕駛?cè)俗陨韮?nèi)部的異質(zhì)性特征，行為復(fù)雜且不確定性強(qiáng)，對(duì)駕駛行為建模精度產(chǎn)生顯著影響。跟馳(Car-Following,CF)行為作為最核心的駕駛行為，占據(jù)總駕駛時(shí)長的80%以上，是交通流理論研究和高級(jí)自適應(yīng)巡航控制開發(fā)的核心所在。因此，對(duì)駕駛?cè)烁Y行為異質(zhì)性進(jìn)行預(yù)測和建模，可以更好地重現(xiàn)駕駛?cè)说男袨榉磻?yīng)過程，實(shí)現(xiàn)更高精度的交通流仿真和更高接受度水平的高級(jí)輔助駕駛。

駕駛?cè)水愘|(zhì)性包括不同人之間的外在異質(zhì)性(Inter-driver Heterogeneity)和同一駕駛?cè)说膬?nèi)在異質(zhì)性(Intra-driver Heterogeneity)。目前，大量研究重點(diǎn)關(guān)注人和人之間的外在異質(zhì)性，包括跟馳過程中的不同駕駛?cè)说男袨樘卣?、風(fēng)格表現(xiàn)及技能差異等[2]。然而，駕駛?cè)藘?nèi)在異質(zhì)性作為駕駛?cè)耸芏嘀匾蛩亟M合影響產(chǎn)生的自身行為變化，卻未能被深入地研究，甚至被忽視?，F(xiàn)有研究通常通過特定現(xiàn)象分析駕駛?cè)藘?nèi)在異質(zhì)性，例如，駕駛?cè)嗽诩铀俸蜏p速過程中存在的非對(duì)稱駕駛行為[3]，或是駕駛?cè)吮磺腥氪碳ぶ笏a(chǎn)生的期望-松弛現(xiàn)象[4]，但是，無法擴(kuò)展至跟馳全過程；另有少數(shù)研究試圖從全局的視角理解駕駛?cè)说膬?nèi)在異質(zhì)性，例如，HIGGS 等[5]計(jì)算駕駛?cè)烁Y駕駛模式分布，并通過分布離散度評(píng)價(jià)駕駛?cè)说膬?nèi)在異質(zhì)性程度；然而，類似研究更多地停留在內(nèi)在異質(zhì)性的后驗(yàn)分析之上，無法應(yīng)用于內(nèi)在異質(zhì)性的預(yù)測和建模。

全面的駕駛?cè)藘?nèi)在異質(zhì)性研究需要對(duì)駕駛?cè)碎L時(shí)駕駛行為觀測的精確數(shù)據(jù)記錄，以識(shí)別駕駛?cè)嗽陂L時(shí)間駕駛過程中的短時(shí)變化，這是本文要面對(duì)的挑戰(zhàn)。雖然隨著當(dāng)前數(shù)據(jù)收集和存儲(chǔ)技術(shù)的發(fā)展，可以通過航拍等視頻采集方法獲取更豐富的駕駛行為軌跡，例如，經(jīng)典的下一代模擬(Next Generation SIMulation,NGSIM)數(shù)據(jù)和最近應(yīng)用廣泛的HighD數(shù)據(jù)集等，但是無法提供對(duì)于單一駕駛員的長時(shí)域充足觀察和建模支持；而對(duì)駕駛?cè)诵袨檠芯康牧硪恢饕獢?shù)據(jù)來源為駕駛模擬器實(shí)驗(yàn)，但是其本質(zhì)屬于受控型任務(wù)實(shí)驗(yàn)，駕駛?cè)俗陨眈{駛行為的保真度低，駕駛?cè)伺c車、路及環(huán)境之間的交互弱，無法準(zhǔn)確地提供駕駛?cè)嗽谧匀粻顟B(tài)下的行為變化特征，限制了建模成果的實(shí)際應(yīng)用。

另一方面，駕駛?cè)说鸟{駛行為是多方因素共同作用下的結(jié)果。過往的研究當(dāng)中，駕駛?cè)说纳鐣?huì)經(jīng)濟(jì)屬性、交通設(shè)施和環(huán)境以及車輛之間的交互均被證明對(duì)駕駛?cè)说男袨樘卣鳟a(chǎn)生顯著影響[2]。更具體地，在有限的內(nèi)在異質(zhì)性影響因素研究當(dāng)中，ZHANG 等[6]發(fā)現(xiàn)，在地面道路場景中跟馳模型的標(biāo)定誤差顯著高于城市快速路場景，說明駕駛?cè)嗽诘孛娴缆分袝?huì)表現(xiàn)出更強(qiáng)烈的內(nèi)在異質(zhì)性；RAO等[7]第一次綜合分析駕駛?cè)藘?nèi)在異質(zhì)性的影響因素，并認(rèn)為車輛之間的交互運(yùn)動(dòng)和環(huán)境因素均會(huì)導(dǎo)致內(nèi)在異質(zhì)性發(fā)生。因此，為準(zhǔn)確地預(yù)測駕駛?cè)藘?nèi)在異質(zhì)性，需要具備不同駕駛?cè)嗽谛旭傔^程中的人-車-路-環(huán)境等全要素記錄。

此外，駕駛?cè)藘?nèi)在異質(zhì)性是駕駛過程中的小概率事件，約占駕駛?cè)笋{駛時(shí)長的15%[7]，其稀有性也使得對(duì)其實(shí)時(shí)準(zhǔn)確預(yù)測成為挑戰(zhàn)?，F(xiàn)有的研究未能提供駕駛?cè)藘?nèi)在異質(zhì)性發(fā)生的明確誘因，例如，長時(shí)速度波動(dòng)或者短時(shí)鄰車刺激均有可能導(dǎo)致異質(zhì)性的發(fā)生[7]；而駕駛過程通常存在較強(qiáng)的隨機(jī)性和非線性規(guī)律，也進(jìn)一步增加了預(yù)測駕駛?cè)藘?nèi)在異質(zhì)性的難度。近年來，深度學(xué)習(xí)模型基于層次更深和更復(fù)雜的網(wǎng)絡(luò)，相比傳統(tǒng)統(tǒng)計(jì)學(xué)模型應(yīng)對(duì)高維時(shí)序的能力更強(qiáng)，應(yīng)對(duì)不同任務(wù)的靈活性更高，在駕駛?cè)诵袨榻．?dāng)中展現(xiàn)了較好的優(yōu)勢；但是，與此同時(shí)，常用的基于循環(huán)神經(jīng)網(wǎng)絡(luò)的模型仍存在“忘記”過去長期依賴信息的可能性，從而有可能影響對(duì)于稀有異質(zhì)性事件的發(fā)掘。

為解決上述挑戰(zhàn)，本文提出一種駕駛?cè)藘?nèi)在異質(zhì)性預(yù)測方法，并應(yīng)用于駕駛?cè)烁Y行為建模當(dāng)中。本文的主要貢獻(xiàn)為以下3點(diǎn)：

(1)引入包含41位駕駛?cè)碎L期行為觀測的大規(guī)模自然駕駛數(shù)據(jù)，基于精度最高且廣為接受的智能駕駛員模型(Intelligent Driver Model,IDM)，通過4100 個(gè)跟馳片段建立每位駕駛?cè)说幕€跟馳行為模型，識(shí)別提取出3194個(gè)駕駛?cè)藘?nèi)在異質(zhì)性事件。

(2)為解決高維跟馳行為時(shí)間序列中稀有內(nèi)在異質(zhì)性事件預(yù)測和分類的任務(wù)，引入具有自注意力機(jī)制的Transformer 模型，更好地發(fā)掘內(nèi)在異質(zhì)性產(chǎn)生和多因素作用之間的長短時(shí)依賴關(guān)系；并通過增加時(shí)序遮蓋機(jī)制，實(shí)現(xiàn)準(zhǔn)確預(yù)測駕駛?cè)藘?nèi)在異質(zhì)性。

(3)基于駕駛?cè)烁Y內(nèi)在異質(zhì)性預(yù)測結(jié)果，考慮實(shí)際跟馳建模當(dāng)中對(duì)內(nèi)在異質(zhì)性建模有效性和易用性的要求，設(shè)計(jì)3種依賴駕駛?cè)烁Y模型動(dòng)態(tài)參數(shù)變化的建模方法，分別為統(tǒng)一類別下建模、不同異質(zhì)性偏離方向下建模和不同加速度狀態(tài)下建模；進(jìn)一步對(duì)比不同方案下的建模效果，確定最佳的駕駛?cè)烁Y內(nèi)在異質(zhì)性建模方案。

1 問題描述與研究框架

駕駛?cè)烁Y行為內(nèi)在異質(zhì)性是駕駛?cè)嗽谝淮纬鲂羞^程當(dāng)中的短時(shí)行為變化，是從正常到異常再到正常的轉(zhuǎn)變。正常行為是駕駛?cè)嗽陂L時(shí)間之內(nèi)保持的基本駕駛模式，可以在類似的刺激之下做出相似的行為表現(xiàn)，通過基線模型可以較好地重現(xiàn)出來；異常行為是脫離駕駛?cè)吮救嘶镜男袨槟Ｊ?，在類似刺激之下做出的和正常行為具有顯著差異的行為。內(nèi)在異質(zhì)性發(fā)生時(shí)的間距變化特征如圖1所示。

圖1 內(nèi)在異質(zhì)性事件發(fā)生Fig.1 Illustration of occurrence of intra-driver heterogeneity

因此，內(nèi)在異質(zhì)性發(fā)生時(shí)的行為無法被代表駕駛?cè)嗽拘袨樘卣鞯幕€模型描述，對(duì)跟馳行為建模精度產(chǎn)生較強(qiáng)的負(fù)面影響，需要單獨(dú)對(duì)其識(shí)別、預(yù)測與建模。首先，需要利用大規(guī)模的自然駕駛數(shù)據(jù)發(fā)掘小概率的駕駛?cè)藘?nèi)在異質(zhì)性事件以及事件中同步記錄的全要素信息，為訓(xùn)練實(shí)時(shí)內(nèi)在異質(zhì)性預(yù)測器提供多駕駛?cè)恕⒍嗟缆翻h(huán)境及多車輛交互狀態(tài)下的數(shù)據(jù)基礎(chǔ)；然后，依賴高維跟馳行為時(shí)間序列=(x1,x2,x3,…,xT)，其中，xT為T時(shí)刻車輛跟馳的全要素信息，建立高精度深度學(xué)習(xí)(Deep Learning,DL)預(yù)測模型為

式中：FDL(·)為訓(xùn)練的深度學(xué)習(xí)預(yù)測器；YT+1為預(yù)測的T+1 時(shí)刻內(nèi)在異質(zhì)性事件類別標(biāo)簽，同時(shí)，考慮內(nèi)在異質(zhì)性中可能存在的不同行為類別，預(yù)測器被要求支持多分類預(yù)測；最后，基于每個(gè)時(shí)刻所預(yù)測的內(nèi)在異質(zhì)性標(biāo)簽，動(dòng)態(tài)地選取行為建模參數(shù)，實(shí)現(xiàn)對(duì)于正常駕駛行為和內(nèi)在異質(zhì)性發(fā)生時(shí)異常駕駛行為的獨(dú)立建模。駕駛?cè)烁Y內(nèi)在異質(zhì)性研究框架，如圖2所示。

圖2 研究框架Fig.2 Framework

2 駕駛?cè)藘?nèi)在異質(zhì)性事件提取

2.1 數(shù)據(jù)來源與跟馳樣本提取

駕駛?cè)藘?nèi)在異質(zhì)性事件的稀有性和其誘因的復(fù)雜性，使數(shù)據(jù)成為開展駕駛?cè)藘?nèi)在異質(zhì)性研究的關(guān)鍵和基礎(chǔ)。基于定點(diǎn)采集的數(shù)據(jù)或者基于駕駛模擬器的數(shù)據(jù)均無法滿足發(fā)掘內(nèi)在異質(zhì)性多駕駛?cè)碎L期觀測和人-車-路全要素覆蓋的要求，非受控狀態(tài)下采集的大規(guī)模自然駕駛數(shù)據(jù)成為內(nèi)在異質(zhì)性研究的必需。因此，本文引入與通用、騰訊和華為等聯(lián)合采集的自然駕駛數(shù)據(jù)[6]。首先，該自然駕駛數(shù)據(jù)中提供了41位具有充足跟馳樣本記錄的駕駛?cè)?，?duì)每位駕駛?cè)诉M(jìn)行長達(dá)1個(gè)月的長期行為觀測，參與駕駛?cè)嗽谛詣e比例、不同年齡段比例以及不同駕齡段的比例與公安部公布的中國普通駕駛?cè)巳旱姆植蓟疽恢?，最大比例差距保持?%以內(nèi)；其次，駕駛行為信息收集全面，包括多普勒雷達(dá)、三軸加速度計(jì)、GPS和4個(gè)同步攝像頭，以0.1 s為步長記錄實(shí)驗(yàn)車輛本車的運(yùn)動(dòng)信息和周圍車輛的信息，如圖3所示。原始數(shù)據(jù)集已完成多源數(shù)據(jù)的融合與同步，在此基礎(chǔ)上，使用3 次樣條插值修補(bǔ)數(shù)據(jù)，使用卡爾曼濾波對(duì)數(shù)據(jù)進(jìn)行降噪處理。

圖3 自然駕駛實(shí)驗(yàn)數(shù)據(jù)采集Fig.3 Data information in naturalistic driving data

基于自然駕駛數(shù)據(jù)，完成每位駕駛?cè)烁Y行為樣本的提取。由于該數(shù)據(jù)已在ZHANG等[6]針對(duì)駕駛?cè)烁Y行為的先行研究中得到應(yīng)用，提取標(biāo)準(zhǔn)也一并參考。最終，提出41 位駕駛員每人100 個(gè)樣本，每個(gè)跟馳樣本超過30 s，共4100個(gè)樣本，總時(shí)長超過3000 min。

2.2 內(nèi)在異質(zhì)性樣本提取

駕駛?cè)藘?nèi)在異質(zhì)性是脫離駕駛?cè)吮旧砘拘袨榛鶞?zhǔn)，在相同的刺激之下表現(xiàn)出不同行為傾向的事件，使原本代表駕駛?cè)诵袨閮A向的跟馳模型無法描述。因此，可以使用標(biāo)定好的駕駛?cè)烁Y模型作為基線，根據(jù)行為特征偏離情況識(shí)別相應(yīng)的駕駛?cè)烁Y內(nèi)在異質(zhì)性事件。

(1)駕駛?cè)嘶€行為模型獲取

異質(zhì)性的提取首先需要對(duì)每個(gè)駕駛?cè)藰?biāo)定其基線行為模型。為了能很好地捕捉駕駛?cè)嗽诖蟛糠謺r(shí)間內(nèi)保持的正常駕駛行為，本文選擇智能駕駛?cè)四Ｐ蚚8](IDM)作為基準(zhǔn)跟馳模型。IDM模型是典型的基于駕駛期望的跟馳模型，能夠智能地在各個(gè)狀態(tài)之間切換，實(shí)現(xiàn)從自由行駛到跟馳狀態(tài)的平滑過渡，被現(xiàn)有研究證實(shí)是常用跟馳模型中性能表現(xiàn)最好的之一[6]。其表達(dá)式為

式中：s0為靜止?fàn)顟B(tài)下本車能接受的與前車間最小的間距；為本車期望的與前車之間的車頭時(shí)距；Δvα為當(dāng)前本車與前車之間的速度差；bcomf為本車的最大舒適減速度。在數(shù)據(jù)提取過程中，本文為每位駕駛員選取了100 條軌跡用于標(biāo)定。標(biāo)定過程參考了RAO等[7]的研究。

在標(biāo)定基線模型的過程中，偏差的度量指標(biāo)使用跟馳軌跡復(fù)現(xiàn)中最常用的跟馳間距[6]，誤差指標(biāo)使用跟馳建模中常用的均方根百分比誤差(Root Mean Square Percentage Errors,RMSPE)[7]，即

(2)駕駛?cè)藘?nèi)在異質(zhì)性識(shí)別

內(nèi)在異質(zhì)性的識(shí)別本質(zhì)等同于機(jī)器學(xué)習(xí)領(lǐng)域中的異常檢測任務(wù)和多維時(shí)間序列預(yù)測任務(wù)的組合。參考異常檢測中的常用方法，即對(duì)比自編碼器中輸出的時(shí)序和真實(shí)時(shí)序?qū)ふ耶惓Ｆ蔚奈恢?，可以識(shí)別駕駛?cè)藘?nèi)在異質(zhì)性時(shí)間。本文以每個(gè)駕駛?cè)藰?biāo)定后模型作為每個(gè)駕駛?cè)说幕€行為模型，通過數(shù)值仿真求出目標(biāo)車輛的仿真軌跡，將其作為未發(fā)生異質(zhì)性情況下的基線軌跡。通過比較真實(shí)樣本中駕駛?cè)说能壽E和模型輸出的基線軌跡的偏差，完成對(duì)內(nèi)在異質(zhì)性事件的識(shí)別。IDM 模型作為經(jīng)過實(shí)證數(shù)據(jù)驗(yàn)證的優(yōu)秀模型，能夠在大多數(shù)情況下保持對(duì)于駕駛?cè)嘶拘袨樘卣鞯膹?fù)現(xiàn)。正常事件和出現(xiàn)異質(zhì)性事件如圖4所示。

圖4 正常行駛事件和出現(xiàn)異質(zhì)性事件的事件Fig.4 Normal car-following event and event containing intra-driver heterogeneity

圖4(a)中，雖然IDM與真實(shí)軌跡存在一定的偏離，但是，IDM的整體趨勢與真實(shí)軌跡相符，且每個(gè)時(shí)刻的偏差較小。圖4(b)中，IDM與真實(shí)駕駛行為的偏離十分明顯，代表駕駛?cè)嘶抉{駛偏好的IDM選擇了緩慢靠近前車，但是，真實(shí)軌跡中，駕駛?cè)藚s快速遠(yuǎn)離，此時(shí)，則認(rèn)為駕駛?cè)税l(fā)生了內(nèi)在異質(zhì)性事件。

參考RMSPE 的表示形式，以百分比形式計(jì)算偏差。為方便表示，將其命名為異質(zhì)性偏差(Heterogeneity Bias,HB)。t時(shí)刻的RHB(t)為

根據(jù)RHB的大小判定異質(zhì)性時(shí)間的發(fā)生。由于過往研究中對(duì)于異質(zhì)性的定義和研究角度并不統(tǒng)一，無法沿用其應(yīng)用的指標(biāo)或者閾值標(biāo)準(zhǔn)。在本文中，根據(jù)統(tǒng)計(jì)所有駕駛員的歷史集計(jì)分布，以RHB分布的85%分位數(shù)作為閾值，用于區(qū)分RHB是否處于異質(zhì)狀態(tài)，即只有誤差最大15%的偏差(在所有RHB中)才被視為顯著偏差。使用85%分位數(shù)作為本文閾值標(biāo)準(zhǔn)的原因：一是，85%分位數(shù)是長期以來交通工程實(shí)踐當(dāng)中最常用的用于交通安全分析和設(shè)計(jì)標(biāo)準(zhǔn)的度量；二是，在駕駛行為的分析當(dāng)中被廣泛作為行為劃分的閾值[9]。跟馳間距異質(zhì)性偏差分布和閾值選取如圖5 所示。圖5 中41 位駕駛?cè)烁Y間距的百分比誤差分布表明，閾值為39.63%。根據(jù)閾值對(duì)重構(gòu)誤差進(jìn)行劃分后，識(shí)別出3194個(gè)異質(zhì)性時(shí)間段。

圖5 跟馳間距異質(zhì)性偏差分布和閾值選取Fig.5 Distribution of HB and intra-driver heterogeneity threshold selection

3 駕駛?cè)藘?nèi)在異質(zhì)性事件預(yù)測與建模

駕駛?cè)藘?nèi)在異質(zhì)性事件發(fā)生概率小且隨機(jī)，同時(shí)，駕駛?cè)藘?nèi)在異質(zhì)性事件也存在著不同的表現(xiàn)。因此，本文研究方法分為遞進(jìn)的兩部分：首先，是“預(yù)測”部分，提出一個(gè)在復(fù)雜因素作用下預(yù)測駕駛?cè)藘?nèi)在異質(zhì)性類別的預(yù)測模型；然后，是“建?！辈糠?，基于預(yù)測的異質(zhì)性時(shí)間標(biāo)簽，選用合適的建模方法，通過數(shù)學(xué)解析模型準(zhǔn)確描述駕駛?cè)藘?nèi)在異質(zhì)性行為。

3.1 內(nèi)在異質(zhì)性事件預(yù)測方法

駕駛?cè)说鸟{駛行為受人-車-路環(huán)境的動(dòng)態(tài)綜合作用，一方面，目前的研究未能通過解析的方式發(fā)掘駕駛?cè)藘?nèi)在異質(zhì)性的影響顯式誘因[7]；另一方面，內(nèi)在異質(zhì)性事件的預(yù)測本質(zhì)上屬于高維度(跟馳全要素)時(shí)間序列的預(yù)測和分類問題。傳統(tǒng)統(tǒng)計(jì)學(xué)模型處理復(fù)雜和強(qiáng)非線性數(shù)據(jù)的能力有限，對(duì)比之下，深度學(xué)習(xí)模型作為機(jī)器學(xué)習(xí)的分支，已經(jīng)在復(fù)雜的分類問題中展現(xiàn)了更強(qiáng)的適應(yīng)性和更好的準(zhǔn)確性表現(xiàn)，而且能夠處理更大規(guī)模的數(shù)據(jù)和更多維度的輸入特征。長短時(shí)神經(jīng)網(wǎng)絡(luò)(Long Short-Term Memory,LSTM)和門控循環(huán)單元(Gated Recurrent Unit,GRU)作為經(jīng)典的循環(huán)神經(jīng)網(wǎng)絡(luò)模型(Recurrent Neural Network,RNN)在交通領(lǐng)域當(dāng)中已經(jīng)得到了大量的應(yīng)用[10]，但是，由于RNN 自身的模型結(jié)構(gòu)限制，不能并行計(jì)算，導(dǎo)致計(jì)算效率較低；同時(shí)，由于隱藏狀態(tài)保留機(jī)制，在處理長期依賴時(shí)可能存在信息遺忘的不足。近年來，具備自注意力機(jī)制的Transformer被提出[11]并且廣受關(guān)注，其特殊結(jié)構(gòu)使其并行處理整個(gè)序列，計(jì)算速度快；同時(shí)，不依賴于過去的隱藏狀態(tài)捕獲對(duì)先前動(dòng)作的依賴性，在發(fā)掘時(shí)序當(dāng)中的長期依賴特征和時(shí)間序列預(yù)測任務(wù)上得到應(yīng)用，并且取得了較好的表現(xiàn)[10]。因此，本文提出一個(gè)基于Transformer 自注意力機(jī)制的模型，以學(xué)習(xí)長短時(shí)因素對(duì)稀有內(nèi)在異質(zhì)性事件的影響，實(shí)現(xiàn)準(zhǔn)確預(yù)測內(nèi)在異質(zhì)性事件。

(1)內(nèi)在異質(zhì)性預(yù)測器輸入

深度學(xué)習(xí)模型能夠更好地應(yīng)對(duì)高維度的特征輸入，且對(duì)多重共線性問題不敏感。因此，在對(duì)駕駛?cè)说膬?nèi)在異質(zhì)性進(jìn)行預(yù)測建模時(shí)，模型將使用自然駕駛數(shù)據(jù)中涉及的所有特征(由于特征將作為序列被輸入，所以，不包括其最大最小值等指標(biāo))作為輸入。此外，根據(jù)文獻(xiàn)[7]的駕駛?cè)藘?nèi)在異質(zhì)性的影響因素分析結(jié)果，不同駕駛?cè)嘶蝰{駛?cè)嗽诓煌涡谐讨械鸟{駛行為特征可能會(huì)存在區(qū)別，所以，分類器的特征輸入中還包含了駕駛?cè)撕托谐痰木幪?hào)。輸入特征如表1所示。

表1 駕駛異質(zhì)性預(yù)測器的輸入特征Table 1 Input attributes of deep learning predictors

同時(shí)，考慮到工作領(lǐng)域、天氣、駕駛?cè)司幪?hào)和行程編號(hào)等離散變量的分類數(shù)大于1 且各分類之間不存在有序特征，而常用的獨(dú)熱編碼(One-hot Encoding)會(huì)占用非常大的特征空間影響訓(xùn)練效率，本文選擇特征空間占用少和泛化能力好的K 折目標(biāo)編碼(K-fold Target Encoding)方法，并參考AHSAN 等[12]的研究，將K設(shè)置為5。此外，由于模型會(huì)分批訓(xùn)練數(shù)據(jù)集，而同一批次數(shù)據(jù)的長度可能會(huì)不同，為了能同時(shí)訓(xùn)練這些數(shù)據(jù)，需要對(duì)其中較短的數(shù)據(jù)進(jìn)行填充(Padding)操作，將其長度用0 補(bǔ)長至與該批次中其他數(shù)據(jù)相同。為減少填充數(shù)據(jù)對(duì)分類器精度產(chǎn)生的負(fù)面影響，本文將待填充位置處的駕駛行為分類進(jìn)行單獨(dú)設(shè)置，并將其所有的輸入特征設(shè)置為某一足夠大的常數(shù)值，區(qū)分其與正常訓(xùn)練數(shù)據(jù)。

(2)Transformer變體模型

Transformer 模型于2017 年被提出，它是一種基于注意力機(jī)制的深度學(xué)習(xí)模型，在除自然語言處理之外的多個(gè)領(lǐng)域均具有廣泛的應(yīng)用，例如，自然語言處理和時(shí)序預(yù)測等[10]。雖然本文中的跟馳樣本不是標(biāo)準(zhǔn)意義上的長時(shí)序，但是Transformer的核心是其采用的自注意力機(jī)制(Self-attention mechanism)，使其可以更好地聚焦于不同位置的信息，從而更好地捕捉時(shí)序數(shù)據(jù)中的局部和全局依賴關(guān)系。因此，本文提出一個(gè)基于Transformer 的預(yù)測模型，輸入為跟馳軌跡數(shù)據(jù)中的駕駛行為特征指標(biāo)，輸出為預(yù)測出的下一個(gè)時(shí)刻的駕駛行為分類。

考慮到該任務(wù)本質(zhì)上并不屬于傳統(tǒng)Transformer 序列到序列的結(jié)構(gòu)，因此，在結(jié)構(gòu)上保留Encoder 部分，然后，在原本Encoder 的輸出之上添加一個(gè)全連接層和一個(gè)Softmax 層，以供模型輸出預(yù)測分類。這樣做的主要原因是：原始Transformer 當(dāng)中，Decoder 中的輸入序列采用了teacher forcing[13]的技術(shù)，這種技術(shù)使訓(xùn)練時(shí)Decoder強(qiáng)制使用真實(shí)目標(biāo)序列中的前一個(gè)時(shí)刻的標(biāo)簽作為輸入，而內(nèi)在異質(zhì)性事件的預(yù)測輸出是離散01 結(jié)構(gòu)(類似于[000111…]的序列)，且0 和1 通常是連續(xù)出現(xiàn)，因此，當(dāng)讀取到上個(gè)時(shí)刻的真實(shí)序列變化(例如，真實(shí)序列里從0 變成了1)，使得Decoder“偷看到了答案”，知道應(yīng)該從0 變到1，從而可能無法學(xué)到內(nèi)在異質(zhì)性本質(zhì)的特征。而Encoder依舊保留其核心的多頭自注意力機(jī)制模塊，仍然具有識(shí)別長短時(shí)依賴關(guān)系的能力。Transformer變體的結(jié)構(gòu)如圖6所示。

圖6 Transformer變體結(jié)構(gòu)Fig.6 Modified Transformer structure

自注意力機(jī)制是Transformer 模型最核心的內(nèi)容，也是在進(jìn)行駕駛?cè)藘?nèi)在異質(zhì)性預(yù)測建模時(shí)需要重點(diǎn)關(guān)注的關(guān)鍵。簡而言之，注意力機(jī)制的本質(zhì)就是從全局中找出最值得關(guān)注的重點(diǎn)，并將有限的注意力集中在重點(diǎn)信息上，從而達(dá)到節(jié)省資源，快速獲得有效信息的目的。而自注意力機(jī)制中的“自”是在對(duì)輸入的序列數(shù)據(jù)進(jìn)行注意力運(yùn)算時(shí)，只會(huì)使用到其自身的信息，計(jì)算序列中不同位置的數(shù)據(jù)之間的某種特殊的“注意”關(guān)系。輸入自注意力模塊的序列經(jīng)相應(yīng)運(yùn)算后，會(huì)得到一個(gè)與輸入序列長度和格式均相同的輸出序列，輸出序列中每個(gè)位置的數(shù)據(jù)均包含該位置與其他位置上數(shù)據(jù)之間的注意力信息。X為輸入矩陣，乘3 個(gè)系數(shù)矩陣WQ、WK及WV，得到查詢(Query,Q)、鍵(Key,K)和值(Value，V)這3 個(gè)矩陣，進(jìn)而將Q矩陣乘K矩陣的轉(zhuǎn)置得到分?jǐn)?shù)(Score，S)矩陣，將S矩陣中的每一個(gè)元素做除以的標(biāo)準(zhǔn)化，得到自注意力機(jī)制的輸出Z矩陣。如圖7(a)所示。自注意力機(jī)制和多頭自注意力機(jī)制的具體計(jì)算參見VASWANI等[11]的詳細(xì)介紹。

圖7 自注意力機(jī)制Fig.7 Simplified illustration of self-attention mechanism

如圖6 中結(jié)構(gòu)所示，另外一個(gè)改動(dòng)是對(duì)Transformer-Encoder 部分中的多頭自注意力機(jī)制進(jìn)行了時(shí)序掩碼。原本的Encoder 當(dāng)中，由于全序列輸入，位置i可以注意到之前或者之后的任意位置；但是，對(duì)于駕駛?cè)藘?nèi)在異質(zhì)性預(yù)測問題而言，在實(shí)際應(yīng)用中由于時(shí)間的單向性，分類器無法獲取完整輸入序列中后驗(yàn)部分的駕駛行為特征信息。因此，為了保證與實(shí)際應(yīng)用的一致性，Transformer 模型在計(jì)算某一時(shí)刻的輸出時(shí)，使用輸入序列中位于該時(shí)刻之后的特征信息是“非法”的。因此，需要將原本Transformer-Decoder 當(dāng)中的時(shí)序遮蓋機(jī)制遷移到Encoder當(dāng)中。圖7(b)展示了用于預(yù)測所應(yīng)用的自注意力遮蓋機(jī)制。構(gòu)造一個(gè)與S矩陣形狀相同的遮罩(Mask)M矩陣，M矩陣中存儲(chǔ)的布爾值記錄了S矩陣中對(duì)應(yīng)位置的元素是否需要被遮蓋的信息；然后，對(duì)照M矩陣，將S矩陣中需要被遮蓋的元素的值填充為0，相當(dāng)于完全抹除了某位置對(duì)處于其之后位置的“注意”信息，即可達(dá)到在輸出某時(shí)刻的駕駛行為分類時(shí)，只能利用輸入序列中該時(shí)刻及其之前時(shí)刻的特征信息的目的。

3.2 內(nèi)在異質(zhì)性事件建模方法

基于駕駛?cè)藘?nèi)在異質(zhì)性預(yù)測結(jié)果，對(duì)內(nèi)在異質(zhì)性進(jìn)行建模，提高駕駛?cè)烁Y行為復(fù)現(xiàn)精度的方法。內(nèi)在異質(zhì)性的產(chǎn)生使原有的基線模型不再適用，需要在內(nèi)在異質(zhì)性事件發(fā)生時(shí)，動(dòng)態(tài)調(diào)整模型結(jié)構(gòu)或參數(shù)適應(yīng)新的行為模式。目前，對(duì)內(nèi)在異質(zhì)性事件的特征研究有限，不足以為修改模型結(jié)構(gòu)提供足夠的指導(dǎo)；同時(shí)，動(dòng)態(tài)調(diào)整模型參數(shù)的建模方法已經(jīng)在文獻(xiàn)[5]行為變化相關(guān)的研究中被證明是一種簡單有效的方案，因此，本文提出一種動(dòng)態(tài)參數(shù)建模邏輯，駕駛行為分類器在每一仿真時(shí)刻(0.1 s)均會(huì)根據(jù)0 時(shí)刻到當(dāng)前時(shí)刻的跟馳軌跡數(shù)據(jù)，預(yù)測輸出下一個(gè)時(shí)刻的駕駛行為分類，指導(dǎo)駕駛行為模型在當(dāng)前時(shí)刻為駕駛?cè)诉m用相應(yīng)的模型參數(shù)，如圖8 所示。同時(shí)，雖然已知內(nèi)在異質(zhì)性不同于正常行為模式，但內(nèi)在異質(zhì)性行為自身是否存在不同類別還有待商榷，因此，存在對(duì)不同類型異質(zhì)行為分別建模的潛在需求。

圖8 基于預(yù)測結(jié)果建模駕駛?cè)藘?nèi)在異質(zhì)性的邏輯示意Fig.8 Logic of intra-driver heterogeneity modeling based on prediction results

通過對(duì)不同內(nèi)在異質(zhì)性事件的對(duì)比分析發(fā)現(xiàn)，內(nèi)在異質(zhì)性行為自身可以從兩個(gè)角度進(jìn)行分類：第1種劃分方法是基于內(nèi)在異質(zhì)性行為相對(duì)于基線行為的偏離方向，一類異質(zhì)性事件是真實(shí)軌跡比仿真軌跡大幅靠近前車，作為一類激進(jìn)的異質(zhì)性行為，如圖9(a)所示；另一類異質(zhì)性事件是真實(shí)軌跡相比仿真軌跡大幅遠(yuǎn)離前車，作為另一類保守的異質(zhì)性行為，如圖9(b)所示。第2 種劃分方法是基于內(nèi)在異質(zhì)性行為發(fā)生時(shí)的加減速操作，根據(jù)主車分別處于加速、減速及勻速(加速度絕對(duì)值小于0.3 m·s-2)進(jìn)行分類。

圖9 駕駛?cè)藘?nèi)在異質(zhì)性分類及標(biāo)簽示意Fig.9 One intra-driver heterogeneity classification and corresponding labels

綜上，本文提出內(nèi)在異質(zhì)性行為的3 種方案：第1種是只區(qū)分基線行為和內(nèi)在異質(zhì)性行為，為異質(zhì)性行為標(biāo)定1套額外的IDM模型參數(shù)，用以內(nèi)在異質(zhì)性行為建模，為二分類方法；第2 種方法是將內(nèi)在異質(zhì)性行為根據(jù)其相對(duì)于基線行為的偏離方向進(jìn)行劃分，在正常行為基礎(chǔ)上為2類異質(zhì)行為額外標(biāo)定2 套IDM 參數(shù)，為三分類方法；第3 種方法是根據(jù)異質(zhì)性產(chǎn)生時(shí)后車處于的加減速狀態(tài)不同將內(nèi)在異質(zhì)性劃分為3 類異質(zhì)行為，然后，在正常行為基礎(chǔ)上額外標(biāo)定3 套IDM 參數(shù)，為四分類方法?；谄x方向的分類預(yù)測標(biāo)簽進(jìn)行不同類別內(nèi)在異質(zhì)性建模的方法如圖9所示。

4 實(shí)驗(yàn)與結(jié)果分析

首先，基于本文提出的方法框架，完成Transformer模型代碼搭建，并通過超參數(shù)尋優(yōu)確定最佳超參數(shù)和模型在不同類別異質(zhì)性事件上的預(yù)測結(jié)果，同時(shí)，為對(duì)比本文模型的效果，與時(shí)序預(yù)測分類任務(wù)當(dāng)中常用的LSTM模型進(jìn)行了預(yù)測精度對(duì)比，確立本文模型的有效性；然后，基于訓(xùn)練好的Transformer預(yù)測模型，根據(jù)預(yù)測異質(zhì)性類別動(dòng)態(tài)選擇跟馳模型參數(shù)，得出3種建模方法的跟馳軌跡還原誤差，同時(shí)，對(duì)比3 種方法的精度提升能力；最終，確定最佳的建模方案。

4.1 內(nèi)在異質(zhì)性事件預(yù)測結(jié)果

本文基于4100個(gè)跟馳場景，總長度為3003 min的數(shù)據(jù)訓(xùn)練駕駛行為分類器。將跟馳場景按6∶2∶2的數(shù)量比例隨機(jī)劃分為訓(xùn)練集、驗(yàn)證集和測試集，并基于劃分好的數(shù)據(jù)集對(duì)工作領(lǐng)域、天氣、駕駛?cè)司幪?hào)和行程編號(hào)4 個(gè)輸入特征進(jìn)行K 折目標(biāo)編碼。最后，為減小同批次中跟馳場景之間的長度差距，盡可能地減少對(duì)序列進(jìn)行填充的長度，在每個(gè)數(shù)據(jù)集中均對(duì)跟馳場景按其持續(xù)時(shí)長進(jìn)行排序。為避免每個(gè)跟馳樣本初始階段信息過少導(dǎo)致無法學(xué)習(xí)依賴特征，預(yù)測器從第5 s開始進(jìn)行預(yù)測。

本文駕駛行為分類器的代碼基于Python 編程語言中的Pytorch框架實(shí)現(xiàn)，并在Linux平臺(tái)上使用型號(hào)為NVIDIA RTX3090 的GPU 進(jìn)行訓(xùn)練，CPU為至強(qiáng)銀牌4214R，內(nèi)存為128 GB。將訓(xùn)練中的優(yōu)化器設(shè)置為Adam 優(yōu)化器，且初始學(xué)習(xí)率設(shè)置為0.001，衰減率設(shè)為0.9，每批次訓(xùn)練的跟馳場景數(shù)為100，訓(xùn)練輪數(shù)為300輪。此外，考慮正常和異常駕駛行為存在樣本不平衡現(xiàn)象，為得到更好的訓(xùn)練效果，將分類器的損失函數(shù)設(shè)置為加權(quán)交叉熵。訓(xùn)練過程中Transformer 模型的超參數(shù)設(shè)置通過Optuna工具包[14]進(jìn)行尋優(yōu)，如表2所示。

表2 Transformer模型超參數(shù)設(shè)置Table 2 Hyperparameter setting for Transformer model

為能更好地說明上述駕駛行為分類器的分類效果，本文將其與另外2種建模方法進(jìn)行對(duì)比。包括文獻(xiàn)[15]中采用的回歸分析模型和在時(shí)序數(shù)據(jù)預(yù)測問題中最常用的長短期記憶神經(jīng)網(wǎng)絡(luò)。最終結(jié)果使用通過混淆矩陣計(jì)算的預(yù)測精確率(Precision)、召回率(Recall)和F1分?jǐn)?shù)(F1-Score)。精確率反映分類器或者模型正確預(yù)測異質(zhì)性樣本的能力，即預(yù)測的正樣本當(dāng)中有多少是真正的正樣本；召回率考慮的是預(yù)測的另外一個(gè)方面，即反映分類器或者模型正確預(yù)測正樣本全度的能力，即被正確預(yù)測的正樣本占總的正樣本的比例。F1分?jǐn)?shù)是兩者的加權(quán)調(diào)和平均，反映模型綜合的預(yù)測能力。測試集預(yù)測結(jié)果如表3所示。

表3 測試集預(yù)測結(jié)果對(duì)比Table 3 Comparative results of investigated prediction model (%)

從駕駛行為分類標(biāo)簽的準(zhǔn)確率中可以看出，訓(xùn)練得到的基于Transformer 模型的分類器有著較好的表現(xiàn)，對(duì)比LSTM 有著更高的準(zhǔn)確率，說明基于自注意力機(jī)制的深度學(xué)習(xí)方法能夠很好地預(yù)測駕駛?cè)说膬?nèi)在異質(zhì)性。相比于二分類預(yù)測，三分類預(yù)測的任務(wù)難度提高，使預(yù)測效果有些許下降。同時(shí)，模型對(duì)于異質(zhì)性的精確率普遍大于召回率，說明模型對(duì)于異質(zhì)性時(shí)間的預(yù)測偏向謹(jǐn)慎，即更多地保證預(yù)測出來的異質(zhì)性時(shí)刻為真正的異質(zhì)性時(shí)刻。與本文異質(zhì)性事件由主觀閾值劃分有關(guān)，因?yàn)椋袨槭沁B續(xù)的，而分類是通過主觀閾值劃分出的離散值，導(dǎo)致模型在異質(zhì)性開始和結(jié)束時(shí)段出現(xiàn)預(yù)測不精準(zhǔn)的情況。此外，本文還統(tǒng)計(jì)了內(nèi)在異質(zhì)性事件預(yù)測起訖點(diǎn)與真實(shí)起訖點(diǎn)相比的延遲或者提前量絕對(duì)值，結(jié)果顯示，均值在0.46 s，方差在0.73 s，說明模型能夠在較短時(shí)間內(nèi)預(yù)測內(nèi)在異質(zhì)性事件。預(yù)測結(jié)果示例如圖10所示。

圖10 駕駛?cè)藘?nèi)在異質(zhì)性分類預(yù)測結(jié)果示例Fig.10 Example of prediction result of intra-driver heterogeneity event

4.2 內(nèi)在異質(zhì)性事件建模結(jié)果

基于上述異質(zhì)性事件預(yù)測結(jié)果，對(duì)駕駛?cè)吮憩F(xiàn)出異常駕駛行為的時(shí)間段重新建模。3 種針對(duì)于異質(zhì)性事件的建模結(jié)果被提出，最終結(jié)果如表4所示。

表4 內(nèi)在異質(zhì)性建模結(jié)果對(duì)比Table 4 Comparative results of three modeling methods integrating intra-driver heterogeneity (%)

首先，未對(duì)駕駛?cè)说漠惓ｑ{駛行為進(jìn)行分類，直接對(duì)其進(jìn)行建模的情況下，僅使用1套額外IDM模型參數(shù)的標(biāo)定結(jié)果不夠理想，整體的駕駛?cè)似骄鶚?biāo)定誤差(跟馳間距的均方根百分比誤差)相較于在這些跟馳場景全程中均使用基準(zhǔn)跟馳模型的對(duì)照情況，僅有4.0%的下降。說明為了能在個(gè)性化駕駛行為模型中更好地還原駕駛?cè)俗兓鸟{駛行為，有必要對(duì)其異常駕駛行為進(jìn)行更精細(xì)化的分類和建模。

然后，從表4 中可以看出，按跟馳間距大小進(jìn)行分類后，駕駛?cè)水惓ｑ{駛行為建模的平均標(biāo)定誤差最小，其對(duì)比基準(zhǔn)跟馳模型的誤差降幅達(dá)到21.08%。說明基于變化的跟馳模型參數(shù)，可以比較好地還原原先單獨(dú)使用基準(zhǔn)跟馳模型無法還原的駕駛?cè)藘?nèi)在異質(zhì)性現(xiàn)象。

基于個(gè)性化模型進(jìn)行軌跡仿真的具體結(jié)果示例如圖11所示。

圖11 駕駛行為模型在長時(shí)間跟馳中的仿真結(jié)果示例Fig.11 Example of a car-following events described by models with or without intra-driver heterogeneity modeling

由圖11可以看出，在單個(gè)跟馳場景中，對(duì)比常規(guī)仿真中的非個(gè)性化的駕駛行為模型(跟馳場景全程僅使用基準(zhǔn)跟馳模型)而言，本文提出的個(gè)性化駕駛行為模型能夠更好地還原駕駛?cè)俗兓鸟{駛行為。此外，在長時(shí)間的跟馳中，即使駕駛?cè)硕啻伪憩F(xiàn)出內(nèi)在異質(zhì)性，該個(gè)性化駕駛行為模型也能準(zhǔn)確地預(yù)測異常駕駛行為的出現(xiàn)，并更加精確地還原車輛的跟馳軌跡。

5 結(jié)論

駕駛?cè)笋{駛行為的內(nèi)在異質(zhì)性分析是個(gè)性化駕駛行為建模的關(guān)鍵，也是實(shí)現(xiàn)更高精度的交通流仿真和更高接受度水平的高級(jí)輔助駕駛算法開發(fā)的基礎(chǔ)。本文基于大規(guī)模自然駕駛數(shù)據(jù)提取出大量駕駛?cè)藘?nèi)在異質(zhì)性事件，實(shí)現(xiàn)駕駛?cè)藘?nèi)在異質(zhì)性動(dòng)態(tài)預(yù)測和高精度建模。主要結(jié)論如下：

(1)駕駛?cè)藘?nèi)在異質(zhì)性廣泛存在于跟馳行為駕駛?cè)蝿?wù)中。通過引入大規(guī)模全要素自然駕駛數(shù)據(jù)，基于41位駕駛員的長時(shí)間觀測建立基線跟馳行為模型，在4100 個(gè)跟馳片段中完成3194 個(gè)內(nèi)在異質(zhì)性發(fā)生事件的識(shí)別，以及與事件相關(guān)聯(lián)的多維潛在影響因素提取。

(2)內(nèi)在異質(zhì)性行為可被動(dòng)態(tài)預(yù)測。考慮內(nèi)在異質(zhì)性成因的不確定性和影響因素的復(fù)雜性，提出基于Transformer 模型的預(yù)測方法，并通過時(shí)序掩碼的方式完成對(duì)內(nèi)在異質(zhì)性持續(xù)時(shí)間的預(yù)測。在建模表現(xiàn)最佳的三分類任務(wù)上，事件發(fā)生時(shí)刻點(diǎn)預(yù)測精確率為88.39%，召回率為85.92%，F(xiàn)1分?jǐn)?shù)達(dá)到87.13%；相較于LSTM 模型，F(xiàn)1 分?jǐn)?shù)絕對(duì)值高出了4.96個(gè)百分點(diǎn)，增幅為6.04%。

(3)內(nèi)在一致性建?？娠@著提高跟馳行為建模精度?；隈{駛?cè)烁Y內(nèi)在異質(zhì)性預(yù)測結(jié)果，設(shè)計(jì)3 種依賴駕駛?cè)烁Y模型動(dòng)態(tài)參數(shù)變化的建模方法，其中，基于跟馳間距偏離方向?qū)?nèi)在異質(zhì)性分類的建模方案效果最好，跟馳間距RMSPE 誤差降低了21.08%。