王維莉，王逸文

(上海海事大學，物流研究中心，上海 201306)

0 引言

航空運輸具有高效和快捷等特點，已成為人們日常生活和商務活動中最主要的交通方式之一。然而，航班延誤不僅會影響旅客出行計劃，還可能導致航空公司和機場運營方面臨巨大的經濟損失和諸多后續(xù)問題[1]，例如，旅客投訴、賠償及航班資源的重新調整等。此外，航班延誤還會對環(huán)境產生負面影響[2]，例如，額外的燃料消耗和排放。據(jù)測算，2018 年，國內四大航空公司的延誤成本約為720.93 億元[3]。因此，準確地預測航班延誤對于提高旅客滿意度，降低運營成本及優(yōu)化資源配置具有重要意義。

針對航班延誤問題，現(xiàn)有研究方法分為建模仿真與深度學習兩類，前者通過建立仿真模型進行預測，例如，王春政等[4]基于Agent模型表征機場網(wǎng)絡系統(tǒng)中各元素及子系統(tǒng)間的交互作用，分析航班延誤特征；WANG 等[5]建立面向航班運行的Agent 模型，并加入更詳細的參數(shù)估計方法，對機場網(wǎng)絡延誤進行仿真；WU 等[6]使用貝葉斯網(wǎng)絡設計航班延誤傳播模型，用以檢驗航班延誤的傳播效應。上述方法需要構造復雜的特征工程，且預測誤差較大。隨著空中交通大數(shù)據(jù)與人工智能模型的發(fā)展，多種深度學習方法逐漸應用到航班延誤預測問題中，YU 等[7]在深度信念網(wǎng)絡的基礎上加入支持向量回歸模型，挖掘航班延誤的內在規(guī)律與影響因素；羅赟騫等[8]發(fā)現(xiàn)航班到港延誤序列存在混沌特性，將序列進行相空間重構后，構建差分進化算法優(yōu)化的支持向量機預測航班延誤預測；吳仁彪等[9]考慮航班延誤波及問題，提出基于CBAM(Convolutional Block Attention Module)-CondenseNet 的航班延誤波及預測模型。由于不同機場之間具有延誤傳播特性，因此，眾多學者開始關注航班延誤的時空相關性，并提出相應的模型，此類方法通常將機場作為節(jié)點，航線作為邊構建機場網(wǎng)絡，建立圖神經網(wǎng)絡進行預測，例如，姜雨等[10]提出時空圖卷積神經網(wǎng)絡，預測美國51座樞紐機場離港準點率；劉曉琳等[11]提出融合時空注意力的自適應圖卷積循環(huán)神經網(wǎng)絡，預測航班延誤，取得了較高準確率；姜雨等[12]在圖卷積與門控卷積神經網(wǎng)絡的基礎上加入氣象特征提取模塊，進一步挖掘延誤特征，有效修正預測誤差。上述研究工作的開展為航空公司與相關部門的管理與運營提供了重要參考與科學依據(jù)。

然而，在實際預測過程中，仍有幾個問題需要注意。一是，氣象因素的復雜性和多樣性使航班延誤具有較大不確定性。惡劣的氣象條件會對航班起降、空中交通和空域管理等環(huán)節(jié)產生重大影響。據(jù)《2021年民航行業(yè)發(fā)展統(tǒng)計公報》[13]統(tǒng)計顯示，主要航空公司航班因天氣原因造成的航班延誤占60.24%，遠超其他影響因素。但現(xiàn)有航班延誤的相關文獻對氣象因素的分析與解釋不足。二是，以往研究重視模型的預測效果，優(yōu)化方向集中在預測精度的提升，并在一些數(shù)據(jù)集上證明各自算法的適用性，但實際應用中往往既需要“預測性建?！保沧⒅啬Ｐ偷目山忉屝?。三是，已有文獻在建立預測模型時，大多忽略特征冗余對預測精度的影響。若使用過多的特征會導致訓練樣本量呈指數(shù)級增長，且預測精度可能不升反降[14]。

鑒于此，本文在考慮不同氣象因素基礎上，篩選最優(yōu)特征子集作為預測模型的輸入，在比較多種機器學習算法后選擇最優(yōu)預測模型，進一步利用SHAP 方法解釋預測結果，深入挖掘其影響因素，進一步提高航班延誤預測的可解釋性。與以往研究相比，本文的不同之處在于：(1)將多種氣象因素納入航班延誤預測影響因子，并基于特征選擇方法消除冗余因子，選擇最優(yōu)子集，最大程度捕獲航班延誤的不確定性，并降低模型計算量。(2)引入機器學習可解釋模型，能兼顧實際問題中預測精度與可解釋性分析的共同需求，定量分析不同因素間的影響程度大小與方向，解決先前各類深度學習模型的“黑箱”問題，拓寬航班延誤預測問題的研究思路。

1 模型與方法

1.1 最大相關-最小冗余算法

最大相關和最小冗余算法是一種濾波式算法，用于在原始特征集合中找到與最終輸出結果相關性最大但特征彼此之間相關性最小的一組特征。算法采用的互信息方法能夠度量非線性相關關系，相比皮爾遜相關系數(shù)等方法具有更強的適用性。設Wn={z1,z2,…,zn} 為特征集合，從n個因素中選出與延誤時間相關度較高的m個特征子集。延誤時間c與所有特征之間的互信息為

特征之間的互信息為

式中：I為兩個變量之間互信息計算函數(shù)；p為概率密度函數(shù)；zi,zj為兩組特征集合，zi,zj∈Wn，i≠j。目標是找到含有m個特征的特征子集Sm，其中，m≤n，Sm?Wn。

依照最大相關計算原則有

最小冗余計算原則有

式中：|Sm|為集合Sm中特征的數(shù)量。

整合最大相關性和最小冗余度為

1.2 Catboost算法

Catboost 算法是一種改進的boosting 算法，以對稱決策樹為基學習器，通過有序提升的方式改進傳統(tǒng)GBDT(Gradient Boosting Decision Tree)算法中的梯度估計。優(yōu)點在于能夠高效處理類別特征變量，對每次迭代所需的無偏梯度估計進行建樹，克服了傳統(tǒng)Boosting 框架存在的梯度偏差和預測偏移問題，減少過擬合情況，提高預測精度與泛化能力。

相比于GBDT 算法，Catboost 算法加入先驗項和權重系數(shù)，減少噪聲和低頻率類別型數(shù)據(jù)對于數(shù)據(jù)分布的影響，計算式為

式中：a為權重系數(shù)；β為添加的先驗項，對于回歸問題，先驗項取數(shù)據(jù)集標簽的均值；為第k個訓練樣本的第i個類別特征；為的平均值；yj為第j個樣本的標簽；H為指示函數(shù)，括號內兩個量相等時，取1，否則取0，即

同時，Catboost 采用對稱樹(Oblivious Tree)作為基預測器，模型訓練過程中超參數(shù)較少，魯棒性強。其特點是每層使用相同的分割特征。葉子節(jié)點可以被轉化為二進制編碼，結點的值被存儲在一個長度為2d(d為樹的深度)的浮點向量中，增強了預測性能。在計算第t棵樹葉子節(jié)點的索引時，對于樣本x，建立一個二進制向量，即

式中：Bx為對樣本x建立的二進制向量；B[x,f(t,M)]為從向量B中讀取樣本x的二進制特征f的值；f(t,M)為二進制特征的數(shù)量；M為樹的深度；t為樹的棵數(shù)。

另外，該算法利用排序提升(Ordered Boosting)方法將GBDT中的梯度估計有偏改為無偏，從而能夠抵抗預測偏移。

1.3 SHAP解釋方法

SHAP 框架是一種用于解釋模型預測的統(tǒng)一框架，其核心思想是計算特征對模型輸出的邊際貢獻，既可以用于全局解釋，也可以用于局部解釋，能夠提高模型預測結果的可信度，揭示特征與預測值間的復雜影響關系。

假設第i個樣本為xi，第i個樣本的第j個特征為xij，模型對第i個樣本的預測值為Yi，所有樣本預測均值為?0，?i為xi的SHAP 值，則xij的SHAP值為

SHAP 值的思想主要來自于博弈論中的Shapley 值，通常用于解決多人合作博弈中的利益分配問題。在機器學習中，模型做了一定的改進，將特征作為參與者，模型輸出作為合作結果，則xi的SHAP值?i為

式中：{x1,x2,…,,xn} 為所有輸入特征的集合；S為除去特征xi得到的特征子集；F(S)為在特征子集S下的模型輸出值。當SHAP 值大于0 時，說明該特征對預測值有正向作用；反之，小于0時，說明有負向作用。SHAP 框架不僅可以直觀反映特征的重要性，更能分析不同特征對于航班延誤的影響程度，從而揭示氣象因素與航班延誤之間的影響。

2 實驗設計與分析

2.1 影響因素分析與數(shù)據(jù)預處理

本文的航班數(shù)據(jù)來源于美國交通運輸統(tǒng)計局(Bureau of Transportation Statistics,BTS)，氣象數(shù)據(jù)來源于美國國家海洋和大氣管理局(National Oceanic and Atmospheric Administration,NOAA)。由于本文重點考慮氣象因素對航班延誤的影響，也考慮到出發(fā)地機場與目的地機場的天氣條件均會影響飛機的進港延誤時間，因此，本文選取邁阿密國際機場(MIA)—紐約肯尼迪國際機場(JFK)典型航線進行分析，其中，MIA機場為出發(fā)機場，JFK機場為到達機場。經整理后，共6843 條航班數(shù)據(jù)?？紤]到美國民航發(fā)展水平與旅客對于航班延誤的感知和接受閾值，同時，參考中國民用航空局與BTS機構對航班延誤的定義，本文將進港航班延誤時間定義為航班實際降落時間(航班實際到港擋輪擋時間)比計劃降落時間超過15 min的情況。經過篩選后，有1605 條延誤數(shù)據(jù)。納入原始數(shù)據(jù)集的具體特征因子如表1 所示。其中，各類天氣特征，例如，海平面氣壓、能見度及降水量等均可能會對航班延誤產生影響，例如，露點數(shù)據(jù)通?？捎脕碛嬎阋娼Y冰以及出現(xiàn)霧的可能性；能見度決定了目視飛行的視程，直接影響著航空飛行安全；降雨會對飛行姿態(tài)和起飛降落造成一定的影響。

表1 數(shù)據(jù)特征信息Table 1 Data feature information

鑒于原始數(shù)據(jù)中存在一定的缺失值，無法直接將其作為預測模型的輸入，因此，需對數(shù)據(jù)集進行預處理，具體步驟如下。

(1)缺失值處理

由于部分天氣數(shù)據(jù)存在一定的缺失值，因此，采用均值方式進行填充。其余數(shù)據(jù)未發(fā)現(xiàn)明顯的異常值，故不進行異常值處理。

(2)特征構造

特征構造能夠幫助模型捕捉各種影響航班延誤的潛在因素。本文航班的日期能反映延誤與日期相關的信息。同時，飛機起飛和降落通常會盡可能地在與風向一致的方向上進行，以利用風力增加升力和減少燃油消耗，因此，本文構造表示風力的特征，飛機跑道方向依據(jù)“逆風起降”原則推斷出最大概率使用的跑道方向。例如，當風向為45°時，飛機大概率會選擇(邁阿密國際機場)跑道8L 或8R。此外，航班延誤也可能受多種其他因素影響，為反映歷史延誤趨勢和獲取歷史延誤信息，本文構造表示歷史航班平均延誤的特征。最終，本文構造的相關特征如下。

定義1 起飛月份為提取起飛日期這一日期型變量中的月度特征。

定義2 起飛日期為提取起飛日期這一日期型變量中的日期特征。

定義3 出發(fā)機場有效風力為出發(fā)機場風速乘出發(fā)機場風向與出發(fā)機場跑道方向差值的余弦值。

定義4 到達機場有效風力為到達機場風速乘到達機場風向與到達機場跑道方向差值的余弦值。

定義5 前3 班航班平均延誤為計算該航班過去3個航班的平均延誤時間。

定義6 前7 班航班平均延誤為計算該航班過去7個航班的平均延誤時間。

定義7 歷史平均延誤為計算該航班歷史所有航班的平均延誤時間。

(3)特征選擇

為降低計算量和減少特征冗余，本文基于mRMR 算法，選擇最優(yōu)的20 個特征子集。經過篩選后，本文得到的最終輸入變量為：歷史平均延誤、前7班航班平均延誤、前3班航班平均延誤、計劃飛行時間、前序延誤、出發(fā)機場平均濕度、出發(fā)機場最小濕度、出發(fā)機場平均能見度、出發(fā)機場最低能見度、出發(fā)機場最大風速、出發(fā)機場降水量、出發(fā)機場有效風力、出發(fā)機場云量、到達機場平均氣溫、到達機場最高露點、到達機場最大濕度、到達機場平均濕度、到達機場最小濕度、到達機場最低能見度及到達機場降水量。上述20個特征與延誤時間的描述性統(tǒng)計結果如表2所示。

表2 變量描述性統(tǒng)計Table 2 Descriptive statistics of variables

2.2 評價指標

考慮模型的絕對誤差與相對誤差，本文選取平均絕對誤差(Mean Absolute Error,MAE)RMAE、均方根誤差(Root Mean Square Error,RMSE)RRMSE及平均絕對百分比誤差(Mean Absolute Percentage Error,MAPE)RMAPE作為模型誤差分析的指標。其中，MAE、RMSE及MAPE分別為

2.3 實驗結果

劃分80%數(shù)據(jù)為訓練集，20%為測試集，將篩選出的最優(yōu)特征子集輸入模型，輸出為延誤時間。同時，本文選用以下模型進行對比分析。

(1)Catboost

一種基于對稱決策樹為基學習器實現(xiàn)的集成學習模型，也能有效解決梯度偏差與預測偏移等過擬合問題。

(2)XGBoost

XGBoost是對梯度提升算法的改進，加入二階導數(shù)與正則化項提升殘差估計的準確性。

(3)LSTM(Long Short-Term Memory)

一種循環(huán)神經網(wǎng)絡(Recurrent Neural Network,RNN)模型的改進，具有長期記憶功能，能夠解決較為復雜的非線性擬合問題。

(4)隨機森林(Random Forest,RF)

一種基于決策樹的集成學習方法，適用于回歸或分類預測。

(5)GRU(Gate Recurrent Unit)

GRU是RNN與LSTM模型的變體，相對于LSTM模型減少了門控數(shù)量，簡化計算。

(6)SVR(Support Vector Regression)

SVR是支持向量機應用到曲線擬合中，使超平面與最遠樣本點的距離最小，具有泛化能力強和訓練時間短等優(yōu)點。

在訓練非樹模型時，對數(shù)據(jù)進行歸一化處理。為確保公平，各模型的參數(shù)調優(yōu)以網(wǎng)格搜索及交叉驗證確定。各模型的測試結果如表3所示。

表3 各模型測試結果對比Table 3 Comparison of test results of each model

由表3 可知，經由mRMR 特征選擇后的Catboost 模型取得了最高的預測精度，RMAE,RRMSE,RMAPE分別為24.31、42.15 及9.54%，顯著低于其他模型。進一步看，無論是機器學習還是深度學習模型，經過特征選擇后的模型相比于未經過選擇的模型誤差均有不同程度降低，說明特征選擇能夠改善預測精度。同時，隨機森林模型表現(xiàn)相對較差，難以捕捉非線性特征；而Catboost 模型無論是否進行特征選擇，均表現(xiàn)出最優(yōu)預測精度，能夠較好地擬合延誤數(shù)據(jù)，捕捉非線性特征。因此，本文的分析基于Catboost算法實現(xiàn)。

2.4 DM檢驗

為進一步從統(tǒng)計學角度判斷各模型預測性能的差異，本文采用Diebold-Mariano(DM)統(tǒng)計量檢驗各模型，DM檢驗的原假設為目標模型A的預期預測精度與基準模型B的預測精度一致，如果在一定的顯著性水平下拒絕原假設，則表明兩個模型預測性能存在顯著差異。

所選用模型與各對比模型DM檢驗結果如表4所示。由表4可知，各對比模型的P值均為0，意味著拒絕原假設，表明本文所選用模型與各對比模型均在統(tǒng)計學上有顯著差異。

表4 DM檢驗結果Table 4 Results of DM test

2.5 SHAP歸因分析

基于SHAP 框架，本文對訓練完成的Catboost模型的樣本進行一次指標的SHAP貢獻度計算，其中，樣本所有參數(shù)貢獻的總和等于樣本在模型上的輸出，即延誤時間。本文以數(shù)據(jù)集中某個延誤航班的數(shù)據(jù)為例，可視化該數(shù)據(jù)在SHAP方法下的局部解釋，如圖1所示。

圖1 某航班延誤數(shù)據(jù)的預測結果局部解釋Fig.1 Partial interpretation of predicted results of a delayed data

圖1中，采用不同顏色和長度的箭頭表示對航班延誤時間影響作用的方向和大小，各個特征將模型的預測結果由基本值(Base Value)推動到最終的取值f(x)。其中，基本值是模型所有樣本預測的平均值，基本值左側表示正向作用，即將延誤預測值推高；基本值右側表示負向作用，即將延誤預測值拉低。對于該延誤數(shù)據(jù)而言，出發(fā)機場平均能見度、出發(fā)機場降水量、前3 班航班平均延誤、前7 班航班平均延誤及出發(fā)機場最大風速這5 個特征顯著拉高延誤時間的預測值，而計劃飛行時間、歷史平均延誤、出發(fā)機場有效風力、到達機場平均氣溫及出發(fā)機場最小濕度這5 個特征顯著降低模型輸出的預測值，其余部分特征由于影響作用過小無法全部顯示。最終，該航班的延誤時間預測值為61.36 min，與實際延誤時間63 min較為接近。說明對于該航班而言，出發(fā)當天很可能是由于降雨導致能見度降低而產生的延誤。

為進一步解釋特征取值和SHAP 值之間的關系，本文基于Catboost 算法繪制所有指標與SHAP值之間的關系圖，從而將所有局部解釋轉為近似的全局解釋。各個特征的SHAP 值如圖2 所示，特征重要性排序如圖3所示。

圖2 特征SHAP值Fig.2 Characteristic SHAP value

圖3 特征重要性排序Fig.3 Importance ranking of features

在圖2 中，1 個點代表1 個樣本值，橫坐標表示SHAP 值，特征值大小對結果的影響通過不同顏色表示，顏色越寬表示有大量樣本聚集。同時，以SHAP 值為0 作為中間分界線，左側的樣本點對預測值有負向貢獻，右側有正向貢獻[15]。由圖2 分析可知：

(1) 計劃飛行時間、前3 和前7 班航班平均延誤、前序延誤及歷史平均延誤等歷史延誤類因素對延誤時間有較大影響，其中，計劃飛行時間對延誤時間有顯著正向影響，表明航班延誤也受到歷史延誤趨勢等多種其他因素影響，一個航班的延誤也可能會影響到后續(xù)的航班。

(2)出發(fā)機場最大風速、出發(fā)與到達機場降水量有顯著正向貢獻，即風速越大和降水量越高，航班延誤時間越長，這是由于大風天氣可能導致航班起降困難，而降雨量過大則會導致視線受阻，且連續(xù)暴雨易造成跑道積水，造成延誤時間增加。

(3)出發(fā)機場有效風力、出發(fā)與到達機場能見度對延誤時間有顯著負向貢獻，即有效風力越大，航班延誤時間越短；能見度越高，航班延誤時間越短。在本文的研究中，有效風力主要與風速與風向有關，當風和跑道方向一致，通常被稱之為“頭風”，頭風給飛機的阻力越大，越有利于縮短飛機在跑道上滑行的距離，從而降低延誤時間。而能見度高，意味著天氣條件較好，飛機在起飛和降落時能夠清楚地看到前方和地面，提高飛機起飛降落的準時性。

(4)結合圖2 和圖3 可知，在氣象因素中，出發(fā)機場有效風力和到達機場最低能見度對延誤時間的影響程度最大，且均呈現(xiàn)顯著負向影響；濕度因素對延誤時間存在一定影響，但不具備明顯的正向或負向效應，高濕度和低濕度都可能對航班延誤產生影響；整體來看，露點、云量及降水量等因素對延誤時間的影響相對較小，但在綜合考慮航班延誤的多元因素時，仍然需要考慮他們的影響。

識別出所有特征與SHAP值之間的關系后，本文選擇出發(fā)機場平均能見度、到達機場平均氣溫及出發(fā)機場降水量這3 個典型氣象特征，利用SHAP歸因方法對其作偏依賴分析，即在x軸上繪制特征的取值，在y軸上繪制對應特征的SHAP 值，并用顏色深淺反映能見度與云量、氣溫與露點及降水量與能見度之間的交互關系，以進一步探究關鍵氣象因素對航班延誤的影響以及多重氣象因素間的交互影響。關鍵因素SHAP偏依賴分析如圖4所示。s

圖4 關鍵因素SHAP偏依賴分析Fig.4 SHAP partial dependence analysis of key factor

圖4 中，橫軸代表各關鍵因素的不同取值，縱軸代表各因素取值對應的SHAP值，顏色的不同代表右側特征的數(shù)值大小。當SHAP 值大于0 時，表示對延誤時間有正向影響；當SHAP值小于0時，表示對延誤時間有負向影響。由圖4分析可得：

(1) 如圖4(a)所示，當出發(fā)機場平均能見度為16 km 時，對航班延誤時間有壓降作用。而當能見度小于13 km 時，平均能見度明顯轉為抬升作用。在平均能見度與云量交互影響下，平均能見度越高時，云量越低，表明大量的云量可能會降低能見度，從而導致航班延誤增加。

(2)如圖4(b)所示，不同氣溫對于SHAP值的影響不大，隨著平均氣溫升高，露點數(shù)值也不斷升高。綜合來看，各氣溫點與露點數(shù)值下均有可能使SHAP 值上升或下降，說明平均氣溫與露點因素對于航班延誤時間無明顯影響，需綜合考慮更多氣象因素后再作判斷。

(3)如圖4(c)所示，當降水量在[0,30]mm 區(qū)間時，大部分點彌漫在SHAP等于0的下方，且平均能見度較高，但SHAP值變動幅度不大。在這個區(qū)間內，降水量對飛機的起飛和降落影響較弱，同時，其平均能見度較高，因此，在該區(qū)間內降水量對航班延誤時間產生微弱壓降作用；當降水量大于30 mm時，大部分點呈散狀，且絕大部分位于SHAP等于0的上方，平均能見度也逐漸降低，說明大范圍降雨可能會降低能見度，從而增加航班的延誤時間，因此，需注意降水量因素對航班延誤的影響。

(4)綜合來看，大部分氣象因素對航班延誤均有影響，但各影響因素貢獻不同，需關注出發(fā)機場平均能見度和降水量等指標。

3 結論

本文在分析影響航班延誤各氣象因素的基礎上，考慮各因素的相關性與冗余性，基于mRMR特征選擇算法篩選最優(yōu)子集，構建Catboost-SHAP 可解釋預測模型，得到最優(yōu)預測結果，并從不同角度探討各因素對航班延誤的影響，利用SHAP歸因分析得到不同特征的閾值效應，主要結論如下：

(1)構建的mRMR-Catboost預測模型相比其他機器學習模型誤差更低，且特征選擇有助于提高預測精度。相比于未經過特征選擇的模型，RMAE,RRMSE,RMAPE分別降低了3.84%，3.35%，4.22%，并從統(tǒng)計學角度驗證了該模型與對比模型的差異性。

(2)從氣象因素看，延誤時間是受到多種氣象因素共同影響的結果，其中，機場風速和降水量有顯著正向貢獻，而機場有效風力和能見度對延誤時間有顯著負向貢獻。

(3)前序延誤等歷史延誤類因素同樣也對航班延誤具有較大影響，出行者可根據(jù)上述信息提前規(guī)劃出行與安排。