滕志偉，段洪琳，王振華，蔡燦，金尚泰

（1. 招商新智科技有限公司，北京 100073；2. 北京交通大學(xué) 電子信息工程學(xué)院，北京 100044）

高速公路服務(wù)區(qū)保障了人們的安全出行和舒適出行，并且可以給出行者提供諸多便捷服務(wù)。服務(wù)區(qū)的服務(wù)能力高低不僅影響高速公路的通行效率，還影響著人們的出行體驗。因此，提升高速公路服務(wù)區(qū)的管理水平和服務(wù)質(zhì)量，可以滿足出行者的多種需求，提升出行感受。

交通流量是描述高速公路服務(wù)區(qū)交通狀態(tài)的重要參數(shù)。 通過對服務(wù)區(qū)駛?cè)胲嚵髁康念A(yù)測，可以讓服務(wù)區(qū)管理部門提前預(yù)知需要多大的服務(wù)能力來應(yīng)對將要到達的車輛，在低峰期減少人員和資源浪費，高峰期對高速公路上的車輛進行合理的疏導(dǎo)。交通流量預(yù)測是智能交通領(lǐng)域的一個研究熱點，已經(jīng)有很多方法被用于交通流量預(yù)測。最初的研究者利用傳統(tǒng)的時間序列分析模型預(yù)測交通流量，Williams 等人［1］充分考慮了交通流量的周期性特點，基于ARIMA（Auto-Regressive Integrated Moving Average）預(yù)測交通流量。Lu 等人［2］基于交通流量序列中的格蘭杰因果關(guān)系，利用VAR（Vector Auto-Regression）預(yù)測交通流量。由于交通流量序列的復(fù)雜性和非線性特征，對交通流量序列的動態(tài)性做出線性相關(guān)性假設(shè)的模型無法取得理想的效果。為此，一些研究學(xué)者基于非線性模型描述交通流序列，以實現(xiàn)對未來交通流的預(yù)測。 王科偉等人［3］利用相空間重構(gòu)的方法對多維交通流量時間序列數(shù)據(jù)進行了重構(gòu)，基于混沌理論預(yù)測交通流量。張培林等人［4］針對路網(wǎng)中相鄰斷面（如收費系統(tǒng)中的門架）間的關(guān)聯(lián)性，構(gòu)建了高維混沌時間序列模型預(yù)測交通流量。這些基于非線性理論的預(yù)測模型通常比線性模型的效果更好，但是他們的表現(xiàn)很大程度上依賴于大量的特征構(gòu)造，而特征構(gòu)造通常是比較耗時的。 為此，很多研究基于深度神經(jīng)網(wǎng)絡(luò)預(yù)測交通流量［5-7］。 Zhang 等人［8］利用長短期記憶循環(huán)神經(jīng)網(wǎng)絡(luò)預(yù)測交通流量。王體迎等人［9］利用門控循環(huán)神經(jīng)網(wǎng)絡(luò)對交通流量進行預(yù)測。雖然已有很多工作研究了交通流量預(yù)測，但是對于高速公路服務(wù)區(qū)的流量預(yù)測還存在一些挑戰(zhàn)。

首先，盡管基于循環(huán)神經(jīng)網(wǎng)絡(luò)或者卷積神經(jīng)網(wǎng)絡(luò)的方法可以捕獲交通流量數(shù)據(jù)中存在的動態(tài)性，但其建模的動態(tài)性相對于輸入數(shù)據(jù)在時間維度上的變化是不變的，這將限制模型的預(yù)測能力［10］。注意力機制［11］可以建模流量數(shù)據(jù)在時間維度的動態(tài)相關(guān)性，但是難以捕獲流量序列中的局部趨勢性，為此，本文構(gòu)造了感知趨勢性變化的多頭注意力模塊，以動態(tài)地捕獲流量序列中的動態(tài)性。

另外，高速公路服務(wù)區(qū)屬于高速公路網(wǎng)中的一部分，駛?cè)敕?wù)區(qū)的車流量與路網(wǎng)中其他斷面的流量具有空間相關(guān)性，比如高速公路服務(wù)區(qū)上游斷面的流量增大，駛?cè)敕?wù)區(qū)的車流量也可能增大。為捕獲路網(wǎng)系統(tǒng)中不同位置交通流量的空間相關(guān)性，一些基于圖神經(jīng)網(wǎng)絡(luò)［12-16］的方法被用于交通流量預(yù)測，但是，由于不同位置的流量序列具有其獨特的屬性，比如在相同時間段的變化范圍，變化幅度可能是不同的，因此高速公路網(wǎng)中的交通流量具有空間異質(zhì)性［17］。基于圖卷積的方法利用靜態(tài)的圖結(jié)構(gòu)建模不同位置流量的空間相關(guān)性，難以建模空間異質(zhì)性，為此，本文利用動態(tài)圖神經(jīng)網(wǎng)絡(luò)捕獲路網(wǎng)中的空間異質(zhì)性，實現(xiàn)更準(zhǔn)確的流量預(yù)測。

為實現(xiàn)準(zhǔn)確地預(yù)測駛?cè)敫咚俟贩?wù)區(qū)的車流量，本文提出一種動態(tài)時空圖神經(jīng)網(wǎng)絡(luò)（Dynamic Spatial-Temporal Graph Neural Network，DSTGNN），通過動態(tài)圖神經(jīng)網(wǎng)絡(luò)建模駛?cè)敕?wù)區(qū)車流量與其他斷面流量的動態(tài)空間相關(guān)性和異質(zhì)性。 在時間維，構(gòu)造感知趨勢性變化的多頭注意力模塊，對流量序列在時間維度上的動態(tài)性進行建模。 最后，本文通過實驗說明了提出方法的有效性。

1 相關(guān)理論

1.1 問題定義

本小節(jié)給出高速公路流量預(yù)測問題的形式化定義。

（1）高速公路路網(wǎng)。將高速公路路網(wǎng)定義為一個有向圖G= (V,E)，其中V是|V|=N個節(jié)點的集合，每個節(jié)點代表高速公路上的一個斷面處的檢測點（如收費系統(tǒng)中的門架）或者服務(wù)區(qū)。E是|E|=M條邊的集合，表示節(jié)點間的連接關(guān)系。

（2）圖信號矩陣。 在第t個時間間隔內(nèi)，觀測到高速公路路網(wǎng)G上的信號用矩陣Xt=(xt,1,xt,2,…,xt,N)T∈RN×C表示，其中xt,v∈RC表示第t個時間間隔內(nèi)節(jié)點v的C個觀測量的取值。ft=表示第t個時間間隔內(nèi)，高速公路路網(wǎng)G上N個節(jié)點處觀測到的流量序列。

（3）駛?cè)敕?wù)區(qū)車流量。根據(jù)服務(wù)區(qū)（節(jié)點i）所在路段的鄰接上下游斷面檢測點得到通行車輛的軌跡數(shù)據(jù)，在各個時間間隔t計算經(jīng)過服務(wù)區(qū)所在路段的車輛通行時間，若車輛通行時間大于最長通行時間，則將該車輛計入駛?cè)敕?wù)區(qū)的流量。其中，最長通行時間由服務(wù)區(qū)所在路段長度和路段最低限速計算得到。

（4）交通流量預(yù)測。 給定歷史Th個時間片的時空圖信號矩陣χ= (Xt-Th+1,Xt-Th+2,…,Xt) ∈RN×C×Th，測未來Tp時間片內(nèi)的流量矩陣F=(ft+1,ft+2,…,ft+Tp) ∈RN×Tp。 本文在訓(xùn)練和驗證中預(yù)測所有節(jié)點的交通流量，在測試中只預(yù)測服務(wù)區(qū)的駛?cè)胲嚵髁俊?/p>

1.2 注意力機制

注意力機制的優(yōu)勢在于可以根據(jù)不同的模型輸入動態(tài)地從輸入中抽取出更為關(guān)鍵的信息，從而學(xué)習(xí)到更準(zhǔn)確有用的信息應(yīng)用于下游模型。交通流量數(shù)據(jù)在空間維度的相鄰的節(jié)點之間或者在時間維度的相鄰時間片之間的相關(guān)性是動態(tài)變化的，可以通過注意力模塊去學(xué)習(xí)流量數(shù)據(jù)在時間維度的動態(tài)相關(guān)性。

注意力機制的核心思想是使用查詢向量和鍵值向量，將值向量映射成一個輸出向量。 注意力機制使用查詢向量和鍵值向量為每一個值向量計算出一個重要性權(quán)重，然后將值向量加權(quán)求和得到最終的輸出向量，形式化的表示如下：

其中，Q是查詢向量；K是鍵值向量；V是值向量；dmodel為向量的維度。

1.3 圖卷積神經(jīng)網(wǎng)絡(luò)

服務(wù)區(qū)所在高速公路網(wǎng)的結(jié)構(gòu)是非歐式的，即路網(wǎng)的局部輸入維度可變，并且局部輸入的排列具有無序性，此時常規(guī)的卷積網(wǎng)絡(luò)已無法適用路網(wǎng)對應(yīng)的圖結(jié)構(gòu)，可以基于圖卷積神經(jīng)網(wǎng)絡(luò)建模服務(wù)區(qū)所在路網(wǎng)的交通流量數(shù)據(jù)。

由于二維卷積在歐式空間中使用卷積核去捕獲空間維度的局部特征，因此其無法處理非歐氏空間圖結(jié)構(gòu)類型的數(shù)據(jù)。為了能有效學(xué)習(xí)圖結(jié)構(gòu)數(shù)據(jù)的空間維度特征，將圖信號矩陣通過傅里葉變換轉(zhuǎn)化到譜域中，在譜域中定義與卷積核算子等價的對角化線性算子，對經(jīng)過傅里葉變換后的圖信號矩陣在譜域中實現(xiàn)卷積運算。傅里葉變換需要對通過鄰接矩陣和度矩陣計算得到的拉普拉斯矩陣分解，一般采用切比雪夫多項式去近似替換該操作。ChebNet 圖卷積運算［18］使用切比雪夫多項式近似將圖卷積的操作限制在了K階鄰域內(nèi)，定義如下：

其中，θk∈RK是待學(xué)習(xí)的參數(shù)；x∈RN是N個節(jié)點某一特征的圖信號矩陣；是歸一化的拉普拉斯矩陣，是矩陣L的最大特征值。矩陣，A為圖的鄰接矩陣，D∈RN×N是一個對角矩陣，其對角線上元素的取值為。 切比雪夫多項式以遞歸的形式定義為Tk(x) = 2fTk-1(x) -Tk-2(x)，其中T0(x) =1，T1(x) =x。 Welling 等人［19］僅使用一階鄰居簡化了ChebNet 中的卷積操作，提出了GCN 模型：

其中，σ是非線性激活函數(shù)；W∈RC×F是卷積核的參數(shù)矩陣；對于本文研究的有向圖，A=表示圖節(jié)點間的交互關(guān)系；為圖鄰接矩陣，。

2 基于動態(tài)時空圖神經(jīng)網(wǎng)絡(luò)的服務(wù)區(qū)流量預(yù)測模型

本文提出了一種動態(tài)時空圖神經(jīng)網(wǎng)絡(luò)模型應(yīng)用于高速公路服務(wù)區(qū)車流量預(yù)測，如圖1（a）所示。 該模型基于編碼器-解碼器結(jié)構(gòu)，其中，編碼器和解碼器都由具有相同結(jié)構(gòu)的動態(tài)時空相關(guān)性建模模塊（圖1（b））堆疊而成。

圖1 DSTGNN 模型架構(gòu)

2.1 動態(tài)時空相關(guān)性建模模塊

2.1.1 感知趨勢性的多頭自注意力

多頭自注意力機制是一種常用的注意力機制的實現(xiàn)方式，它可以從不同的子嵌入空間中提取有用的信息，與單頭注意力機制相比，多頭自注意力機制可以學(xué)習(xí)到更豐富的信息，其形式化表示如下：

其中，h為注意力頭數(shù)；為作用于Q、K、V的映射矩陣；WO為輸出映射矩陣。多頭自注意力機制可以用于建模交通流量數(shù)據(jù)中復(fù)雜的動態(tài)相關(guān)性。然而，多頭自注意力機制最初被提出時是用于處理離散的數(shù)據(jù)，比如單詞，其并不能很好地建模連續(xù)數(shù)據(jù)中的局部趨勢性信息，因此，在應(yīng)用其建模交通流量數(shù)據(jù)時，難以捕獲到序列中局部的趨勢性變化。為更好地學(xué)習(xí)到交通流量在時間維度上的動態(tài)相關(guān)性，本文使用感知趨勢性變化的多頭自注意力機制在時間維度建模流量數(shù)據(jù)的局部上下文信息。利用一維卷積運算替換公式（4）中對查詢向量和鍵值向量執(zhí)行的映射運算。由于卷積運算可以將局部上下文信息用于計算嵌入表示的輸入，因此模型可以感知到交通流量序列中局部的趨勢性變化模型。感知趨勢性的多頭自注意力機制（Trend-Aware Multi-Head Self-Attention，TAMHSA）具體定義為：

2.1.2 空間動態(tài)圖卷積

DSTGNN 模型使用動態(tài)圖神經(jīng)網(wǎng)絡(luò)捕獲駛?cè)敕?wù)區(qū)的交通流量與路網(wǎng)中斷面交通流量在空間維度的動態(tài)性和異質(zhì)性。圖卷積網(wǎng)絡(luò)通過聚合節(jié)點間的信息學(xué)習(xí)各個節(jié)點的嵌入表示。在第l個動態(tài)時空相關(guān)性建模模塊中，基于感知趨勢性的多頭自注意力的輸出，圖卷積運算表示為：

動態(tài)圖卷積網(wǎng)絡(luò)通過自注意力機制動態(tài)地計算節(jié)點間的空間相關(guān)性。給定感知趨勢性的多頭自注意力輸出的節(jié)點嵌入表示，空間相關(guān)性權(quán)值矩陣St∈RN×N的計算定義為：

其中，St中的元素Sij表示節(jié)點i和節(jié)點j的相關(guān)性強度。得到空間相關(guān)性權(quán)值矩陣St后，可通過哈達瑪乘積運算將其用于調(diào)整靜態(tài)的權(quán)值矩陣A，具體計算為：

2.2 時空位置嵌入表示

2.2.1 時間維位置嵌入表示

在時間維度的感知趨勢性的多頭自注意力模塊中，輸入序列的動態(tài)性完全由自注意力機制建模。由于自注意力機制的運算中利用加權(quán)求和函數(shù)建立輸入和目標(biāo)值之間的相關(guān)性，其無法感知序列中的順序性。 然而，時間序列的順序性信息對于準(zhǔn)確的服務(wù)區(qū)駛?cè)胲嚵髁款A(yù)測是非常重要的，比如，在預(yù)測中午11 點至12 點駛?cè)敕?wù)區(qū)的車流量時，10 點至11 點的交通流量信息通常會比9 點至10 點的交通流量信息更具有指導(dǎo)性。 因此，本文使用位置嵌入表示［20］建模輸入序列在時間維度的順序信息。在輸入序列的第p個位置，時間維位置嵌入表示的每一維取值d,1 ≤d≤dmodel表示為：

2.2.2 空間維位置嵌入表示

在2.1.2 中，DSTGNN 模型使用動態(tài)圖神經(jīng)網(wǎng)絡(luò)建模高速公路網(wǎng)中不同位置交通流量序列的動態(tài)相關(guān)性。 然而，高速路網(wǎng)中的服務(wù)區(qū)或其他斷面節(jié)點擁有一些靜態(tài)的空間屬性，比如服務(wù)區(qū)與上下游斷面節(jié)點的鄰接關(guān)系，服務(wù)區(qū)與上下游斷面節(jié)點的距離等。這種靜態(tài)的空間屬性不隨時間變化，在一定程度上解釋了不同位置交通流量序列的空間異質(zhì)性。融合服務(wù)區(qū)和斷面節(jié)點的靜態(tài)空間屬性有助于準(zhǔn)確的交通流量預(yù)測。 為此，本文在譜域中執(zhí)行對圖信號矩陣的卷積，學(xué)習(xí)圖結(jié)構(gòu)數(shù)據(jù)的空間維度特征。具體的，對每個節(jié)點維護一個空間嵌入表示矩陣。然后對其執(zhí)行圖卷積計算得到空間維度的位置嵌入表示矩陣ESP。

時間維度和空間維度的位置嵌入表示矩陣ETP和ESP與輸入圖信號矩陣χ(0)相加，使得模型感知到輸入序列在時間維度的順序性和空間維度的靜態(tài)屬性，以實現(xiàn)更準(zhǔn)確的交通流量預(yù)測。

2.3 編碼器-解碼器

DSTGNN 模型基于編碼器-解碼器結(jié)構(gòu)，其中，編碼器和解碼器都由具有相同結(jié)構(gòu)的動態(tài)時空相關(guān)性建模模塊堆疊而成。在動態(tài)時空相關(guān)性建模模塊中通過殘差連接和層標(biāo)準(zhǔn)化保障深度網(wǎng)絡(luò)模型的有效性。首先，基于全連接層和時空位置嵌入表示將原始輸入χ∈RN×C×Th轉(zhuǎn)化為高維嵌入表示χ(0)∈RN×dmodel×Th，其中dmodel>C。然后通過由L個動態(tài)時空相關(guān)性建模模塊堆疊而成的編碼器將輸入序列映射為，基于編碼器的輸出χ(L)，解碼器利用另外L′個堆疊的動態(tài)時空相關(guān)性建模模塊生成輸出序列Y(L′)=，最后通過一個全連接層將Y(L′)映射到輸出F。DSTGNN 可以通過反向傳播實現(xiàn)端到端的訓(xùn)練，以最小化預(yù)測值和真實值之間的平均絕對誤差。

3 實驗結(jié)果及分析

實驗使用桂林市路網(wǎng)區(qū)域基于收費系統(tǒng)數(shù)據(jù)處理得到的交通流量數(shù)據(jù)，所選區(qū)域共包含36 個斷面和5 個服務(wù)區(qū)，時間范圍從2022 年1 月1 日到1 月29 日共計29 天。觀測量為交通流量，因此C= 1。以一小時為單位聚合駛?cè)敕?wù)區(qū)和斷面的交通流量。按6∶2∶2 的比例劃分訓(xùn)練集、驗證集和測試集，使用訓(xùn)練集的均值和標(biāo)準(zhǔn)差對所有數(shù)據(jù)進行歸一化，輸入Th= 12 個時間步的數(shù)據(jù)，使用前文所述模型預(yù)測Tp= 1 個時間步駛?cè)敕?wù)區(qū)的交通流量。

3.1 評價指標(biāo)

為驗證本文提出的模型的預(yù)測性能，本文選取了回歸任務(wù)常使用的平均絕對誤差（Mean Absolute Error，MAE）、均 方 根 誤 差（Root Mean Squared Error，RMSE）和平均絕對百分比誤差（Mean Absolute Percentage Error，MAPE），其公式如下所示：

3.2 基準(zhǔn)線模型

選取了以下的基準(zhǔn)線模型與本文提出的模型進行對比：（1）ARIMA［1］，一種建模時間序列中相關(guān)性和趨勢性的預(yù)測模型；（2）SVR［21］，一種使用支持向量機對時間序列進行擬合并實現(xiàn)回歸分析的機器學(xué)習(xí)模型；（3）LSTM［8］，循環(huán)神經(jīng)網(wǎng)絡(luò)，能很好地挖掘數(shù)據(jù)中的時序信息與語義信息。

3.3 參數(shù)設(shè)置

本文使用Pytorch 框架訓(xùn)練模型，節(jié)點嵌入表示維度dmodel= 64，感知趨勢性的注意力模塊的頭數(shù)h= 8，編碼器的層數(shù)L和解碼器的層數(shù)L′都設(shè)置為3，卷積核的大小設(shè)置為3，訓(xùn)練時批量大小設(shè)置為64，初始學(xué)習(xí)率設(shè)置為0.003，每10步衰減30%，早停步數(shù)設(shè)置為15。

3.4 實驗結(jié)果分析

按上述使用不同的方法在相同場景下進行預(yù)測，結(jié)果如表1 所示。

表1 不同方法在數(shù)據(jù)集上實驗結(jié)果比較

如表1 所示，DSTGNN 模型在各項評價指標(biāo)中均能得到比其他模型更加優(yōu)異的預(yù)測結(jié)果。ARIMA、SVR、LSTM 只捕獲了交通流量序列在時間維度的信息，建模能力有限，并沒能取得較好的預(yù)測效果。 而DSTGNN 模型在高速公路服務(wù)區(qū)車流量預(yù)測中獲得了比傳統(tǒng)方法更好的預(yù)測結(jié)果，這是因為DSTGNN 模型不僅建模了流量數(shù)據(jù)在時間維度的動態(tài)相關(guān)性，還建模了駛?cè)敕?wù)區(qū)車流量與其他斷面車流量在空間維度的動態(tài)相關(guān)性和異質(zhì)性。

為了更全面地分析本文模型（DSTGNN）的優(yōu)勢，本文對各模型在桂林路網(wǎng)中一個服務(wù)區(qū)從1月24 日23：00 到1 月25 日23：00 時間區(qū)段的流量預(yù)測值進行了可視化，如圖2 所示。圖2 橫坐標(biāo)表示時間，范圍為0～24 h。縱坐標(biāo)為流量值。從圖2 中可以看出DSTGNN 模型的預(yù)測值與真實值更接近，取得了更好的預(yù)測效果。

圖2 各模型的預(yù)測值和真實值對比

3.5 消融實驗分析

為進一步分析模型各個組件的作用，本文設(shè)計了原模型DSTGNN 的四個變體模型進行消融實驗，下面將這四個變體與DSTGNN 進行比較，變體模型的描述如下：

（1）DSTGNN_wo_TE：在DSTGNN 基礎(chǔ)上，不使用時間維位置嵌入表示。

（2）DSTGNN_wo_SE：在DSTGNN 基礎(chǔ)上，不使用空間維位置嵌入表示。

（3）DSTGNN_wo_TA：在DSTGNN 基礎(chǔ)上，使用多頭自注意力機制替換感知趨勢性的多頭自注意力機制。

（4）DSTGNN_wo_DG：在DSTGNN 基礎(chǔ)上，使用公式（3）中的GCN 代替空間動態(tài)圖卷積。

消融實驗的結(jié)果如表2 所示，首先，在不使用時間維位置嵌入表示（DSTGNN_wo_TE）或空間維位置嵌入表示（DSTGNN_wo_SE）的情況下，實驗效果都有明顯下降，這表明模型通過感知輸入序列在時間維度的順序性和空間維度的靜態(tài)屬性，可以實現(xiàn)更準(zhǔn)確的交通流量預(yù)測。 其次，在不能感知時間維度的局部趨勢性變化時（DSTGNN_wo_TA），模型的效果也有所下降，這說明僅用多頭自注意力機制建模動態(tài)相關(guān)性具有一定的局限性。 最后，用GCN 替換動態(tài)圖卷積計算后，模型效果下降，說明通過動態(tài)圖卷積建模高速公路網(wǎng)中駛?cè)敕?wù)區(qū)的交通流量和其他斷面交通流量的動態(tài)相關(guān)性和異質(zhì)性有助于提升預(yù)測準(zhǔn)確度。

表2 消融實驗結(jié)果

4 結(jié)論

本文提出了一種動態(tài)時空圖神經(jīng)網(wǎng)絡(luò)模型應(yīng)用于高速公路服務(wù)區(qū)流量預(yù)測，該模型在建模服務(wù)區(qū)和斷面交通流量在時空維度的動態(tài)相關(guān)性的同時，融合了輸入數(shù)據(jù)在時間維度的順序性和空間維度的靜態(tài)屬性。將本模型同其他常用的預(yù)測方法在相同數(shù)據(jù)集相同預(yù)測場景下進行了實驗，實驗結(jié)果表明本模型在預(yù)測效果上達到了最優(yōu)。但該方法依然存在一些優(yōu)化空間，比如還可以考慮其他外部因素，如節(jié)假日等特殊時期對服務(wù)區(qū)車流量的影響，合理地量化這些因素，實現(xiàn)更準(zhǔn)確的流量預(yù)測可以作為優(yōu)化模型的方向。