基于長短期記憶神經網絡與注意力機制的智能汽車分車型跟馳模型

柏海艦， 孫 婷， 丁 恒， 王昌勝， 陳星宇， 過晨晨， 李 亞

（合肥工業大學 汽車與交通工程學院，合肥 230009）

在高速公路、普通公路及城市外圍道路上，車輛類型較復雜，各類貨車、客車組成了具有隨機車型序列［1］的跟馳車流。由于行駛規則、車輛性能、載貨特征及視距影響等原因，不同類型的前車對后車的跟車行為存在明顯的影響。圖1～3 展示了下一 代 交 通 仿 真 （Next Generation Simulation，NGSIM）小型車跟馳小型車（CC）與小型車跟馳大型車（CT）的跟車數據的統計分析：前車是大型車時，后車駕駛行為會更加保守，選擇較大的跟車間距；當前車為小型車時，后車跟車間距則整體偏小。雖然兩種場景下前后車相對速度分布差異不大，但當前車為大型車時，后車的加速度變化范圍更小，駕駛更謹慎。從經驗的角度出發，當前方為大型車時，駕駛員選擇適當保守和謹慎的駕駛策略，無疑也是更安全的。

圖1 車頭間距對比

圖2 相對速度對比

圖3 后車加速度對比

跟馳模型大體可以分為兩大類：理論驅動模型和數據驅動模型。前者通過數學方法描述跟馳過程中的速度、加速度、車頭間距、相對速度等之間的函數關系，如Gipps 模型［2］、全速度差模型［3］、智能駕駛員模型［4］等經典刺激—反應模型。但隨著人工智能相關理論的發展，數據驅動類跟馳模型近幾年得到了較多的關注，如誤差反向傳播神經網絡（Back Propagation Neural Network，BPNN）、循環神經網絡（Recurrent Neural Network，RNN）以及LSTM 神經網絡訓練的跟馳模型等。BPNN 模型［5］最早應用于跟馳模型建模，后車速度和兩車之間的距離作為模型輸入，以兩車之間的相對速度作為模型的輸出，測試效果較好，但該模型只考慮了跟馳車輛之間的瞬時狀態，未考慮前置狀態對當前狀態的影響。RNN 模型［6］是一種考慮駕駛員駕駛記憶的神經網絡，以車輛位置和速度作為輸入參數，獲得最佳的安全距離，但輸入序列較長時，會出現梯度消失和梯度爆炸的問題。為了解決梯度問題，同時考慮駕駛行為的連續時間序列特征，采用LSTM神經網絡［7］訓練跟馳模型，能較好地捕捉到非對稱駕駛行為。

在場景分類方面，有學者通過設置不同車長和最大行駛速度區分不同類型的車輛進行交通流仿真，能模擬真實的交通流，但不能準確反映不同車型組合的跟馳特性［8-9］。在傳統跟馳模型的研究中，將車型作為車輛的個體特征加入傳統的跟馳模型中，能提高模型預測精度。敬明等［10］將反應時間和車型作為車輛的個體特征加入IDM 跟馳模型中，能體現交通系統的隨機性和異質流特征；任勝利等［11］基于FVD 模型，引入反映駕駛員個體特征的車頭時距系數和反映車輛特征的跟車類型系數、車身長度參數，能較好地描述不同車型跟馳特征；SAIDI S等［12］通過對不同車型所產生的加速和減速等不同運動狀態的刺激反應分別建立單一模型，探討了混合車流刺激反應的車輛跟馳模型?；谏疃葘W習的跟馳模型大多都是以性能或類型相同的跟馳車輛［13］作為研究對象，忽視了車型對跟馳模型的影響。有學者考慮現有模型的局限性，針對擁擠情況下的大型車開發了一種跟馳模型，采用局部線性模型樹方法將人類感知缺陷納入汽車跟蹤模型，將大型車與小型車的跟馳行為分開進行預測，模型預測效果較好，但并未考慮所有的跟馳類型［14］。

在復雜的交通場景下，智能汽車可以獲取周圍車輛信息和自身狀態［15-17］，為了提高智能汽車跟馳行為決策的靈活性，智能汽車需要根據前車的車型差異，選擇不同的跟馳行為，從而應對更加復雜的場景。本文基于NGSIM 數據集，將前車車型分為大型車和小型車，通過篩選、平滑建立分車型的跟馳軌跡數據集，將車型組合編碼作為模型的一個輸入；為了進一步提高模型預測的可解釋性，引入注意力機制來充分挖掘模型輸入特性，并與考慮時序特征的長短時記憶網絡結合，提出一種根據前車車型產生不同跟馳行為的IVT-CF 模型，使智能汽車學習人類駕駛員在前車為大型車或小型車情景下小型車的跟馳行為。并通過仿真測試，驗證IVT-CF模型的跟馳性能。

1 IVT-CF神經網絡模型

1.1 輸入和輸出

跟馳行為是在不能超車的單一車道上，車輛列隊行駛時，后車跟隨前車的行駛狀態。智能汽車能實時獲取前車的位置信息、速度信息，對駕駛行為作出更加準確的預測。在智能汽車跟馳模型的研究中，眾多學者認為后車的跟馳行為主要與前后車之間的車頭間距、相對速度以及后車速度有關［18］，車頭時距、前車加速度等雖然也是跟馳模型中常用的變量，但試驗證明這些參數無法提高模型的效果，所以不予以考慮［19］。在智能汽車跟馳模型的研究中通常剔除大型車的跟馳數據［20］，基于此本文將車型特征作為模型的1 個輸入，使智能汽車能根據前車車型選擇適宜的跟馳行為，提高智能汽車跟馳行為的預測精度。

車型特征屬于離散變量，需要對車型特征進行編碼處理，用于模型訓練。為了避免使用有序型數值編碼造成數據在模型訓練中產生的優劣性問題，使用One-Hot 獨熱編碼對車型特征進行離散化處理，小型車跟馳小型車（CC）編碼構造為（10），小型車跟馳大型車（CT）編碼構造為（01）。本文采用前后兩車的車頭間距、相對速度、后車速度與車型組合編碼作為模型的輸入，后車的加速度作為模型的輸出。

1.2 總體架構

IVT-CF 模型總體架構如圖4 所示，主要由注意力模塊、LSTM神經網絡和1個全連接層構成。

圖4 IVT-CF模型框架

1.2.1 注意力模塊

注意力機制是機器學習模型中嵌入的一種特殊結構，可以用來學習和計算輸入數據對于輸出數據貢獻的權重［21］。注意力機制能根據數據輸入，計算不同時刻各個特征值的權重，通過不斷學習優化，提取輸入特征中的關鍵信息，與輸出相關度更高的輸入特征獲得更大的權重，以較低的權重忽視相關度更小的輸入，進一步優化LSTM 神經網絡的輸入，提高神經網絡模型的可解釋性。注意力機制的計算公式如式（1）～（4）所示：

式中：Wi為權重系數；Xj為j時刻輸入向量；bi是偏重量；eij表示j時刻輸入向量進行tanh 函數非線性轉換后的向量。

使用softmax 函數對中ej進行歸一化處理，得到歸一化后的注意力系數矩陣αj，αj計算如式（2）所示。

式中：em為隨機初始化的注意力權重矩陣。

注意力機制的輸出特征s為注意力系數矩陣與輸入向量乘積的累加和，如式（3）所示：

輸入向量不同關注度的輸出序列如式（4）所示，作為LSTM神經網絡的輸入。

1.2.2 LSTM神經網絡

LSTM 能處理時序特征的數據，使用LSTM 訓練模型能充分學習訓練數據中的長期依賴關系。LSTM 以注意力模塊輸出的樣本Fj與初始化的h0、c0作為輸入，之后的LSTM 層以上一層LSTM 的輸出h代替Fj，與上一時刻同層次的h、c輸入進行計算，LSTM層的輸出結果如式（5）～（12）所示。

遺忘門為：

輸入門為：

存儲單元為：

輸出門為：

式 中：hj為LSTM 隱 藏 層 狀 態 向 量；WfF，Wfh，WfC，WiF，Wih，WiC，WCF，WCh，WoF，Woh，Woc，Who為權 重；?為Hadamaed 積；bf，bi，bC，bo，bh為 偏 置 項；σ(·)為Sigmoid激活函數；tanh (·)為雙曲切函數。

1.2.3 全連接層

使用LSTM 神經網絡進行預測可以分為一對一、多對一、多對多的預測。一對一預測結構為一個序列輸入對應一個序列輸出，多對多預測結構為多個序列輸入對應多個序列輸出，多對一預測結構為多個序列輸入對應一個序列輸出。本文采用多對一的預測結構，通過全連接層對LSTM 神經網絡的輸出進行非線性變換，將多維數據輸出映射到一維數據，最終得到IVT-CF 模型輸出結果Yj，如式（13）所示。

2 仿真測試

2.1 訓練和測試數據準備

NGSIM 數據集是美國公路局共享的車輛軌跡數據。該數據集以每秒10幀的速率記錄了車輛的連續軌跡，并提供了車輛類型、橫向和縱向位置信息等。本文提取I-80數據集中04：00～04：15 p.m.時間段中小型車跟馳小型車（CC）、小型車跟馳大型車（CT）的跟馳數據訓練IVT-CF模型，使智能汽車能根據前車車型對自身跟馳行為做出精準預測。數據集的采樣間隔為0.1 s，即每秒鐘可產生10 個跟馳狀態的樣本數據。本文使用滑動時間窗的方法提取連續的車輛跟馳特征數據，用寬度為μ= 0.1 s、歷史時間步長為τ= 10 s 的滑動時間窗對跟馳車輛的車頭間距、相對速度、后車速度和后車加速度進行連續采樣。模型訓練測試樣本數與跟馳車輛軌跡數見表1。

表1 跟馳車對數量與樣本數

由于NGSIM 數據集中的車輛位置信息存在一些異常值和測量誤差［22］，當進行一階導數、二階導數計算，會產生超過車輛性能或人體不能承受的不合理速度和加速度值，所以需要對數據進行平滑處理。本文使用對稱指數滑動平均法［23］進行軌跡數據平滑，通過一階差分和二階差分獲得車輛的速度與加速度。平滑處理后的數據如圖5所示。

圖5 數據平滑處理

2.2 參數標定與訓練

為了驗證IVT-CF 模型對于不同前車車型的跟馳性能，將IVT-CF模型與不考慮前車車型的LSTM模型、IDM模型進行仿真測試對比。

本文將小型車跟馳小型車與小型車跟馳大型車的跟馳樣本按照1∶1 的比例進行混合，其中80%數據用于訓練，20%數據用于測試和調整IVT-CF 模型參數。有學者［24］在基于深度學習的跟馳模型中發現，無論何種模型結構，10 s 的歷史時間步長是最佳選擇，因此，本文選用10 s 的歷史數據輸入。利用早停算法在測試集損失函數連續10 次出現下降時，停止訓練。

通過對IVT-CF 模型進行測試與調整，參數設置見表2。IVT-CF 模型訓練集與測試集的損失函數如圖6 所示，模型訓練集和測試集的誤差基本一致且相近，模型學習到輸入樣本的規律，具有較強的泛化能力。圖7 為模型輸入的注意力權重分布值，樣本1 為小型車跟馳小型車的訓練樣本，樣本2 為小型車跟馳大型車的訓練樣本。模型能根據不同訓練樣本對模型輸入分配不同的權重，車型組合編碼對模型輸出的影響雖然比間距和速度小，但差異并不大，且比較明顯，因此，在跟馳學習模型中考慮車型的影響是必要的。

表2 模型的參數設置

圖6 模型訓練集與測試集的損失函數值

圖7 模型輸入注意力權重分布值

LSTM 模型輸入為車頭間距、相對速度與后車速度，輸出為后車加速度，訓練方法、參數設置與IVT-CF模型相同。

IDM 模型能較好地反映駕駛員的駕駛特性［25］，本文使用遺傳算法［26］對IDM 模型進行標定，與IVT-CF 模型跟馳性能進行對比，得到IDM 模型的參數設置見表2。

2.3 情景測試

2.3.1 單車跟馳仿真精度測試

為了驗證IVT-CF 模型能否適用于不同車輛類型的前車，本文選擇小型車跟馳小型車與小型車跟馳大型車兩種不同車型組合跟馳數據進行軌跡還原仿真試驗。使用前τ時間步長的車頭間距、相對速度、后車速度、車型組合編碼，預測τ+ Δt的后車加速度，據此得到該步長的速度、位移，計算得到與前車的車頭間距、相對速度；剔除第1 個時間步的車頭間距、相對速度、后車速度、車型組合編碼，加入預測得到車頭間距、相對速度、后車速度與車型組合編碼，繼續預測下一個步長的后車加速度等；不斷迭代，可得到后車完整跟馳數據，軌跡還原仿真如式（14）～（18）所示。

均方誤差（MSE）為反映預測值與真實值之間差異程度的一種度量，MSE值越小，模型仿真精度越高，學習效果越好。MSE計算公式如式（19）所示。本文使用模型仿真得到的速度、位移和跟馳數據中后車真實速度和位移之間的MSE 評價IVT-CF模型、不考慮車型的LSTM 模型與IDM 模型的仿真結果。

式中：an(t+ Δt)為t+ Δt時刻后車預測加速度；vn-1(t)為t時刻前車的速度；vn(t)t為時刻后車的速度；xn-1(t)為t時刻前車沿車輛前進方向的位移；xn(t)為t時刻后車沿車道前進方向的位移；Δxn(t)為t時刻前后兩車的車頭間距；Δvn(t)為t時刻前、后兩車的相對速度；fIVT-Cf(·)為輸入輸出變量映射關系的函數；τ為歷史時間步長；Δt為IVT-CF 模型的更新時間步長，為0.1 s；N為訓練集的樣本數量；xon(t)為后車在時間t的真實位移值。

仿真車輛是在I-80 數據集中隨機選擇的，小型車跟馳小型車的車輛編號為（222，234），小型車跟馳大型車的車輛編號為（1767，1785）。IVT-CF模型在不同車型組合仿真得到的車頭間距、速度、加速度統計結果見表3，在小型車跟馳大型車的場景中，該模型仿真得到的平均車頭間距遠大于小型車跟馳小型車的場景，但仿真得到的平均速度僅比小型車跟馳小型車場景中仿真得到的平均速度高3.06%。在小型車跟馳大型車的場景中，該模型仿真得到的后車行為更加保守。

表3 IVT-CF模型仿真結果

圖8 與圖9 分別展示了小型車跟馳小型車與小型車跟馳大型車在不同模型下的加速度、車頭間距、速度與位移仿真結果，從圖中可以看出IVTCF 模型可以根據前車車型調整跟馳行為，與現實情況更相符，仿真得到的加速度、速度與位移結果更加貼近真實值。

圖8 小型車跟馳小型車仿真結果

圖9 小型車跟馳大型車仿真結果

表4 比較了測試集中小型車跟馳小型車與小型車跟馳大型車各10 條軌跡的仿真速度與軌跡的MSE值。與不考慮前車車型的LSTM 模型、IDM 模型相比，IVT-CF 模型仿真速度MSE 均值分別降低了23.8%，15.8%，仿真軌跡MSE 均值分別降低了31.7%，18.7%。IVT-CF 模型速度與軌跡的MSE 均值小于其他兩個模型，預測性能更好且更穩定，與觀測車輛的運動速度和軌跡更接近，能根據前車車型更好地預測后車速度和軌跡。

表4 MSE統計結果

前車突然急停，IVT-CF 模型仿真結果如圖10所示，仿真車輛能調整自身的跟車狀態，及時停車，未與前車發生碰撞，該模型能用于前車急停的跟馳場景。

圖10 前車急停IVT-CF模型仿真結果

IVT-CF 模型能根據輸入車型組合編碼，區分小型車跟馳小型車與小型車跟馳大型車不同場景下的駕駛行為，獲得更好的預測效果。LSTM 模型與IDM 模型沒有考慮前車車型不同，后車跟車行為的差異性，使用全局性的方法擬合駕駛員的駕駛行為，雖然能適應不同駕駛員的駕駛特征，但是預測精度較低。

2.3.2 多車跟馳穩定性測試

本文采用多車直線仿真驗證IVT-CF 模型的穩定性，多車均勻分布在一條車道上。在給定首車行駛狀態的條件下，通過仿真產生后續車輛的跟車行駛軌跡?？紤]到在跟馳過程中常見的加減速特性，設計首車的行駛狀態包含以下4個部分：

1）以5 m/s的速度勻速行駛150 s；

2）以0.5 m/s2的加速度加速行駛10 s；

3）以-0.5 m/s2的加速度減速行駛10 s；

4）以5 m/s的速度勻速行駛90 s。

仿真車隊規模為9輛，車輛之間的初始車頭間距為20 m，車輛的初始速度設為5 m/s，仿真時間步長為0.1 s?？紤]大型車對于跟馳車隊的影響，在仿真車隊中插入2輛大型車，研究IVT-CF模型在大型車混入的跟馳車隊中的穩定性。仿真車隊中小型車跟馳小型車、小型車跟馳大型車使用IVT-CF模型，大型車跟馳小型車使用IDM模型。小型車車隊與大型車混入的多車直線仿真速度與軌跡如圖11～12所示。

圖11 小型車多車直線仿真結果

由圖11a 和圖12a 可知，小型車車隊后車跟馳速度大于大型車混入車隊后車的跟馳速度，小型車跟馳車隊中首車與尾車的最大速度相差2.6 m/s，大型車混入車隊首車與尾車的最大速度相差3.5 m/s 。大型車混入跟馳車隊后，后車速度明顯降低，后車跟馳行為更加保守。

圖12 大型車混入多車直線仿真結果

由軌跡仿真圖11b 和圖12b 可知小型車車隊交通流恢復穩定后的車隊長度為138.0 m，車輛間的平均車頭間距為17.2 m；大型車混入車隊交通流恢復穩定后的車隊長度為145.0 m，車輛之間的平均車頭間距為18.0 m。大型車混入車隊長度要大于小型車的車隊長度，大型車混入后一定程度上降低了道路交通流效率。

小型車跟馳車隊中IVT-CF 模型仿真后車速度較快，車頭間距較小，當前車突然減速，后車采取較大幅度的減速行為，避免發生碰撞。大型車混入跟馳車隊，當大型車突然減速，因后車速度較低，減速行為更加平緩。IVT-CF 模型能模擬小型車跟馳車隊與大型車混入跟馳車隊后車的駕駛行為特征。

3 結論

首車發生擾動，IVT-CF 模型向后續車輛傳播速度的振幅逐漸減弱，后車隨時間與車輛間速度的傳遞逐漸回歸平穩狀態，消散交通流中的擾動，使交通流狀態趨于穩定。小型車跟馳車隊從發生擾動到恢復穩定的時間為65 s，大型車混入的跟馳車隊從發生擾動到恢復穩定的時間為92 s。該模型具有交通流穩定性與抗干擾能力，能應用于智能汽車輛跟馳行為的研究中。

針對前車車輛類型不同、跟馳行為的差異性，本文在LSTM 與Attention 模型中引入車型組合編碼輸入，建立了IVT-CF 模型。通過訓練測試可知模型具備了根據前車車型選擇不同跟馳行為的能力。與不考慮車型特征的LSTM 模型和IDM 模型相比，跟馳過程的預測精度有了明顯提高，且能適應前車突然停車的跟馳場景。多車直線仿真試驗表明IVTCF 模型具有一定的穩定性與抗干擾能力。IVT-CF模型對車型的辨識與應變能力更接近原始數據中人類的駕駛決策行為，有助于提高跟馳模型行為的智能化水平，能夠為今后智能汽車的跟馳行為設計和應用提供參考。