康玄燁，趙林海，孟景輝，高利民

(1. 北京交通大學(xué) 電子信息工程學(xué)院，北京 100044； 2. 中國鐵道科學(xué)研究院集團(tuán)有限公司 基礎(chǔ)設(shè)施檢測(cè)研究所，北京 100081； 3. 中國鐵道科學(xué)研究院集團(tuán)有限公司 鐵路基礎(chǔ)設(shè)施檢測(cè)中心，北京 100081)

無絕緣軌道電路在我國高速鐵路列車運(yùn)行控制系統(tǒng)中占有非常重要的地位，其主要被用來檢測(cè)列車占用和實(shí)現(xiàn)地-車間通信，以保障行車安全[1]。補(bǔ)償電容作為無絕緣軌道電路的組成部分，主要用來改善信號(hào)在軌道線路中的傳輸性能[1]。由于補(bǔ)償電容安裝在室外，受外部環(huán)境和列車運(yùn)行的影響較大，故障率相對(duì)較高[2]，因此需要相應(yīng)的運(yùn)維部門提前準(zhǔn)備好足量的備品以備更換。某電務(wù)段2017年1—12月所管轄范圍內(nèi)補(bǔ)償電容的故障情況見圖1。

圖1 某電務(wù)段2017年1—12月補(bǔ)償電容的故障情況

由圖1可知，每月的補(bǔ)償電容故障數(shù)并不相同，存在較大的波動(dòng)。而由現(xiàn)場(chǎng)調(diào)研得知，補(bǔ)償電容預(yù)備品數(shù)目是固定的，這往往會(huì)導(dǎo)致兩種情況：一種是備品不夠造成維修不及時(shí)；另一種是備品過多造成資源浪費(fèi)，占用存貯空間。若能夠準(zhǔn)確預(yù)測(cè)近期內(nèi)所轄范圍內(nèi)補(bǔ)償電容的故障數(shù)量，則可更有效地準(zhǔn)備備品，節(jié)約維修成本，合理安排維修計(jì)劃。

近年來，隨著我國鐵路網(wǎng)的進(jìn)一步發(fā)展，鐵路基礎(chǔ)設(shè)備不斷增多，越來越多的研究者開始關(guān)注鐵路設(shè)備的故障預(yù)測(cè)[3-5]。然而，國內(nèi)外還沒有補(bǔ)償電容故障數(shù)量預(yù)測(cè)研究的相關(guān)報(bào)導(dǎo)。與此相關(guān)的只有文獻(xiàn)[6]，其基于相空間重構(gòu)Kalman濾波求解單個(gè)補(bǔ)償電容的剩余壽命，實(shí)現(xiàn)的是對(duì)單個(gè)補(bǔ)償電容容值下降的故障預(yù)測(cè)。

本文基于鐵路現(xiàn)場(chǎng)補(bǔ)償電容的故障記錄，構(gòu)建補(bǔ)償電容故障數(shù)量的時(shí)間序列，利用長短時(shí)記憶(Long Short-Term Memory，LSTM)設(shè)計(jì)故障數(shù)量預(yù)測(cè)模型，針對(duì)LSTM初始化超參數(shù)對(duì)預(yù)測(cè)模型性能有較大影響的問題，利用螢火蟲算法對(duì)超參數(shù)進(jìn)行優(yōu)化，從而挖掘補(bǔ)償電容故障數(shù)量隨時(shí)間的變化規(guī)律，并實(shí)現(xiàn)對(duì)補(bǔ)償電容故障數(shù)量的預(yù)測(cè)。實(shí)驗(yàn)表明，本文方法能較準(zhǔn)確地預(yù)測(cè)補(bǔ)償電容故障數(shù)量，誤差相對(duì)較低，從而可以幫助鐵路維護(hù)部門提前協(xié)調(diào)設(shè)備、資金和維修人員等資源，為補(bǔ)償電容的運(yùn)維提供良好指導(dǎo)。

1 整體思路

通常，鐵路現(xiàn)場(chǎng)補(bǔ)償電容故障歷史記錄中含有故障日期、故障位置和故障發(fā)生區(qū)段所屬車站等信息。根據(jù)這些記錄可構(gòu)建補(bǔ)償電容的故障數(shù)量時(shí)間序列，以挖掘該序列隨時(shí)間的變化規(guī)律，從而實(shí)現(xiàn)對(duì)補(bǔ)償電容故障數(shù)量的預(yù)測(cè)?？紤]到現(xiàn)場(chǎng)是按一定的時(shí)間間隔和維修計(jì)劃對(duì)補(bǔ)償電容進(jìn)行批量維護(hù)[7]，故本文以“15天”為單位，即令時(shí)間間隔T=15，所構(gòu)建補(bǔ)償電容故障數(shù)量時(shí)間序列X為

(1)

式中：x(i)為補(bǔ)償電容第i個(gè)時(shí)間間隔內(nèi)的故障數(shù)量；xD(t)為補(bǔ)償電容第t天的故障數(shù)量。

由于時(shí)間序列前后數(shù)據(jù)之間具有較強(qiáng)的依賴關(guān)系，而LSTM具備前饋神經(jīng)網(wǎng)絡(luò)不存在的橫向連接，上一時(shí)刻隱含層的輸出作為當(dāng)前時(shí)刻隱含層輸入的一部分，這種連接方式使其能夠有效處理數(shù)據(jù)前后的依賴關(guān)系，并揭示數(shù)據(jù)間的長期依賴性[8]，故本文基于LSTM構(gòu)建預(yù)測(cè)模型，并利用螢火蟲算法優(yōu)化模型的超參數(shù)，從而實(shí)現(xiàn)對(duì)補(bǔ)償電容故障數(shù)量的預(yù)測(cè)。基于LSTM的補(bǔ)償電容故障數(shù)量預(yù)測(cè)算法框圖見圖2，主要包括LSTM預(yù)測(cè)模型構(gòu)建和模型優(yōu)化兩部分。

圖2 基于LSTM的補(bǔ)償電容故障數(shù)量預(yù)測(cè)算法框圖

由圖2可知，LSTM預(yù)測(cè)模型構(gòu)建部分主要包括：輸入層、隱含層、輸出層和網(wǎng)絡(luò)訓(xùn)練4個(gè)環(huán)節(jié)。輸入層根據(jù)初始化超參數(shù)將數(shù)量序列轉(zhuǎn)換為與LSTM相適應(yīng)的輸入；隱含層是由LSTM構(gòu)成的神經(jīng)網(wǎng)絡(luò)；輸出層根據(jù)LSTM的輸出計(jì)算補(bǔ)償電容故障數(shù)量的預(yù)測(cè)值；網(wǎng)絡(luò)訓(xùn)練根據(jù)預(yù)測(cè)值與實(shí)際值之間的損失更新隱含層和輸出層的參數(shù)。模型優(yōu)化部分利用螢火蟲算法搜索預(yù)測(cè)模型最優(yōu)的超參數(shù)，從而確定最優(yōu)的預(yù)測(cè)模型，得到相應(yīng)的補(bǔ)償電容故障數(shù)量預(yù)測(cè)結(jié)果。

2 LSTM預(yù)測(cè)模型構(gòu)建

2.1 預(yù)測(cè)模型框架

基于LSTM的預(yù)測(cè)模型框架見圖3，其中：輸入層對(duì)補(bǔ)償電容故障數(shù)量序列進(jìn)行預(yù)處理，并構(gòu)建數(shù)據(jù)集；隱含層是LSTM的循環(huán)運(yùn)算過程；在輸出層中，加權(quán)平均層是對(duì)每一時(shí)刻LSTM的輸出進(jìn)行加權(quán)求和，Dropout用于提高網(wǎng)絡(luò)泛化能力和健壯性[9]，預(yù)測(cè)層計(jì)算預(yù)測(cè)結(jié)果；網(wǎng)絡(luò)訓(xùn)練部分根據(jù)實(shí)際值與預(yù)測(cè)值之間的誤差，利用AdaDelta算法[10]更新網(wǎng)絡(luò)參數(shù)。

圖3 基于LSTM的預(yù)測(cè)模型框架

2.2 輸入層

設(shè)LSTM循環(huán)次數(shù)為L，序列分割窗口長度為m，由式(2)將數(shù)量序列X={x(i)|i=1，2，…,n}轉(zhuǎn)換為LSTM的輸入特征矩陣Xp及其對(duì)應(yīng)的預(yù)測(cè)目標(biāo)yp。

(2)

從而構(gòu)建補(bǔ)償電容故障數(shù)量的數(shù)據(jù)集{XB,Y}為

(3)

得到數(shù)據(jù)集{XB,Y}后，將其劃分為訓(xùn)練集{Xtr,Ytr}、驗(yàn)證集{Xva,Yva}和測(cè)試集{Xte,Yte}，為預(yù)測(cè)模型的訓(xùn)練和驗(yàn)證提供數(shù)據(jù)支持。

2.3 隱含層

LSTM的結(jié)構(gòu)見圖4，主要包括：信息激活、細(xì)胞單元、輸入門、輸出門和遺忘門等5部分。

圖4 LSTM的結(jié)構(gòu)

圖4中：hp-1和xp分別為p-1時(shí)刻和p時(shí)刻LSTM的輸出和外部輸入；在輸入門、輸出門和遺忘門中，hp-1和xp分別與各門對(duì)應(yīng)權(quán)值矩陣Ui、Uo、Uf和Wi、Wo、Wf相乘，再與對(duì)應(yīng)的偏置向量bi、bo、bf相加后，經(jīng)激活函數(shù)σ(·)得到各門p時(shí)刻輸出結(jié)果ip,op,fp；信息激活過程中，hp-1和xp分別與對(duì)應(yīng)權(quán)值矩陣Uz和Wz相乘，再與對(duì)應(yīng)的偏置向量bz相加后，經(jīng)激活函數(shù)tanh(·)得到p時(shí)刻輸出結(jié)果zp；p-1時(shí)刻細(xì)胞單元cp-1與遺忘門的輸出fp點(diǎn)乘，再與ip和zp點(diǎn)乘的結(jié)果相加，得到p時(shí)刻細(xì)胞單元cp；cp經(jīng)激活函數(shù)tanh(·)后，再與輸出門的輸出op點(diǎn)乘得到p時(shí)刻LSTM的輸出hp。上述過程可描述為

(4)

式中：⊙為點(diǎn)乘運(yùn)算；σ(·)為sigmoid函數(shù)；tanh(·)為雙曲正切函數(shù)。

2.4 輸出層

輸出層包括：加權(quán)平均層、Dropout和預(yù)測(cè)層3部分?？紤]到時(shí)間序列前后依賴關(guān)系的強(qiáng)弱，為了更充分地描述各時(shí)刻LSTM輸出對(duì)預(yù)測(cè)結(jié)果的影響，對(duì)各時(shí)刻LSTM的輸出進(jìn)行加權(quán)求和，即

(5)

(6)

再經(jīng)過預(yù)測(cè)層得到預(yù)測(cè)結(jié)果為

(7)

式中：I為服從P=0.5，0-1分布的隨機(jī)向量；Wy為預(yù)測(cè)層的權(quán)重矩陣；by為預(yù)測(cè)層的偏置向量。

2.5 網(wǎng)絡(luò)訓(xùn)練

(8)

(9)

由AdaDelta算法得到參數(shù)θt的更新公式為

(10)

根據(jù)式(8)～式(10)更新預(yù)測(cè)模型中隱含層和輸出層的參數(shù)，滿足停止條件后，終止模型的訓(xùn)練過程，得到完成訓(xùn)練后的預(yù)測(cè)模型。

3 模型優(yōu)化

預(yù)測(cè)模型需要設(shè)置的初始化超參數(shù)包括：LSTM循環(huán)次數(shù)L、窗口長度m和神經(jīng)元個(gè)數(shù)r。將訓(xùn)練完成的模型記作：LSTM(L,m,r)。由于不同的超參數(shù)組合(L,m,r)對(duì)模型能夠達(dá)到的預(yù)測(cè)精度有較大的影響，為了使模型預(yù)測(cè)結(jié)果達(dá)到最優(yōu)，故利用基于權(quán)重的螢火蟲算法[11]搜索超參數(shù)的最優(yōu)組合。

3.1 算法流程

在螢火蟲群優(yōu)化算法中，螢火蟲不分性別，每只螢火蟲被視為解空間的一個(gè)解，螢火蟲種群作為初始解隨機(jī)地分布在搜索空間中，它將會(huì)被其他比它更亮的螢火蟲吸引；螢火蟲的吸引力與亮度成正比，對(duì)于任何兩只螢火蟲，其中一只會(huì)向著比它更亮的另一只移動(dòng)，亮度隨著距離的增加而減少；如果沒有找到一個(gè)比給定的螢火蟲更亮，它會(huì)隨機(jī)移動(dòng)，最終螢火蟲聚集到亮度高的螢火蟲周圍。螢火蟲算法優(yōu)化預(yù)測(cè)模型超參數(shù)的流程見圖5，主要包括：螢火蟲初始化、模型構(gòu)建、目標(biāo)函數(shù)計(jì)算、螢火蟲位置更新和最優(yōu)模型確定等5個(gè)環(huán)節(jié)。

圖5 螢火蟲算法優(yōu)化預(yù)測(cè)模型超參數(shù)的流程

3.2 螢火蟲初始化

將LSTM循環(huán)次數(shù)L、窗口長度m和神經(jīng)元個(gè)數(shù)r的組合(L,m,r)定義為螢火蟲的三維搜索空間，設(shè)各超參數(shù)的取值范圍為

(11)

式中：Z+為正整數(shù)集；Lmin,mmin,rmin為取值下限；Lmax,mmax,rmax為取值上限。

設(shè)螢火蟲數(shù)量為M，第i只螢火蟲的空間位置為Ai=(Li,mi,ri)；光強(qiáng)吸收系數(shù)為γ，最大吸引度為β0，步長因子為α；最大、最小權(quán)重為wmax,wmin，最大更新代數(shù)為Smax。

將螢火蟲隨機(jī)分布于三維空間，并設(shè)第i只螢火蟲與第j只螢火蟲之間的距離dij為歐式距離，即

3.3 模型構(gòu)建

根據(jù)第2節(jié)預(yù)測(cè)模型構(gòu)建，每一只螢火蟲都可構(gòu)建出與其所處空間位置相對(duì)應(yīng)的預(yù)測(cè)模型，通過網(wǎng)絡(luò)訓(xùn)練過程，將第i只螢火蟲對(duì)應(yīng)訓(xùn)練完成的預(yù)測(cè)模型記作：LSTM(Li,mi,ri)。

3.4 目標(biāo)函數(shù)計(jì)算

由于預(yù)測(cè)模型訓(xùn)練過程中是以均方誤差作為損失函數(shù)，若螢火蟲算法依然以均方誤差作為目標(biāo)函數(shù)，可能導(dǎo)致預(yù)測(cè)結(jié)果偏向均方誤差小的方向，不利于模型預(yù)測(cè)性能。在保證模型泛化能力的同時(shí)，為使得預(yù)測(cè)結(jié)果在平均絕對(duì)誤差與均方誤差之間達(dá)到相對(duì)最優(yōu)，故以驗(yàn)證集{Xva,Yva}的平均絕對(duì)誤差最小作為螢火蟲算法的目標(biāo)函數(shù)。

3.5 螢火蟲位置更新

螢火蟲向著熒光亮度比自身高的螢火蟲所在方向移動(dòng)，它們之間的吸引度決定了螢火蟲的移動(dòng)步長。螢火蟲i,j之間的吸引度為

β=β0×e-γdij2

(14)

由式(14)可進(jìn)一步得到螢火蟲的位置更新公式為

(15)

式中：R為[0,1]上服從均勻分布的隨機(jī)數(shù)；S為螢火蟲當(dāng)前更新代數(shù)。

3.6 最優(yōu)模型確定

在滿足螢火蟲算法停止條件后，計(jì)算每一只螢火蟲自身的熒光亮度。設(shè)(Lz,mz,rz)滿足I(Lz,mz,rz)=max[I(L,m,r)]，此時(shí)預(yù)測(cè)模型LSTM(Lz,mz,rz)的平均絕對(duì)誤差取最小值，即為最優(yōu)預(yù)測(cè)模型。

4 實(shí)例驗(yàn)證

為驗(yàn)證本文所提出方法的準(zhǔn)確性和有效性，基于某鐵路局電務(wù)段2014年8月至 2019年5月約58個(gè)月的補(bǔ)償電容故障記錄，其中記錄了補(bǔ)償電容故障時(shí)間和數(shù)量等信息，按式(1)構(gòu)建序列長度為112的故障數(shù)量時(shí)間序列，并用前100個(gè)故障數(shù)據(jù)訓(xùn)練預(yù)測(cè)模型，再用后12個(gè)故障數(shù)據(jù)檢驗(yàn)所構(gòu)建模型的預(yù)測(cè)效果。

4.1 模型構(gòu)建功能驗(yàn)證

由式(1)構(gòu)建補(bǔ)償電容故障數(shù)量時(shí)間序列X={x(i)|i=1，2，…,n}，見圖6。

圖6 補(bǔ)償電容故障數(shù)量時(shí)間序列

設(shè)LSTM循環(huán)次數(shù)L∈[2,12]，窗口長度m∈[5,30]，神經(jīng)元個(gè)數(shù)r∈[5,60]。設(shè)尋優(yōu)算法中螢火蟲數(shù)量M=20，步長因子α=0.2，光強(qiáng)吸收系數(shù)γ=1.0，最大吸引度β0=1.0，最大權(quán)重wmax=1.1,最小權(quán)重wmin=0.2，最大更新代數(shù)Smax=15。設(shè)測(cè)試集{Xte,Yte}樣本量為12，將除測(cè)試集外的剩余樣本按0.8和0.2的比例分為訓(xùn)練集和驗(yàn)證集，按第3節(jié)基于螢火蟲算法的預(yù)測(cè)模型超參數(shù)優(yōu)化對(duì)超參數(shù)進(jìn)行尋優(yōu)，得到最優(yōu)預(yù)測(cè)模型為LSTM(Lz,mz,rz)=LSTM(6,11,51)。

網(wǎng)絡(luò)訓(xùn)練過程中，模型LSTM(6,11,51)在訓(xùn)練集、驗(yàn)證集和測(cè)試集的損失見圖7。

圖7 訓(xùn)練過程中模型LSTM(6,11,51)在各數(shù)據(jù)集上的損失

由圖7可知，在AdaDelta算法迭代至110次時(shí)，預(yù)測(cè)模型在驗(yàn)證集的損失達(dá)到最小，此時(shí)預(yù)測(cè)模型網(wǎng)絡(luò)參數(shù)相對(duì)最優(yōu)。

4.2 模型預(yù)測(cè)性能驗(yàn)證

為量化預(yù)測(cè)模型對(duì)故障數(shù)量序列的擬合效果，本文引入均方根誤差RMSE和平均絕對(duì)誤差MAE作為模型預(yù)測(cè)精度的評(píng)價(jià)指標(biāo)，誤差越小擬合效果越好。

(16)

(17)

由式(16)和(17)求得預(yù)測(cè)模型的訓(xùn)練集RMSE=0.825,MAE=0.625，測(cè)試集RMSE=1.224，MAE=0.833，說明預(yù)測(cè)模型較準(zhǔn)確地挖掘了補(bǔ)償電容故障數(shù)量隨時(shí)間的變化規(guī)律，整體誤差相對(duì)較小。此外，訓(xùn)練集與測(cè)試集的各評(píng)價(jià)指標(biāo)之間相差不大，說明預(yù)測(cè)模型具有良好的泛化能力，并能夠達(dá)到較好的預(yù)測(cè)效果。

設(shè)訓(xùn)練集均方誤差為RMSEtr，為更好地描述補(bǔ)償電容故障數(shù)量，假定模型預(yù)測(cè)誤差服從均值為0，方差為RMSEtr的正態(tài)分布，給出故障數(shù)量的取值范圍為

(18)

從而得到預(yù)測(cè)模型LSTM(6,11,51)在訓(xùn)練集的擬合結(jié)果(見圖8)和在測(cè)試集的預(yù)測(cè)結(jié)果(見圖9)。

圖8 訓(xùn)練集擬合結(jié)果

圖9 測(cè)試集預(yù)測(cè)結(jié)果

由圖8可知，預(yù)測(cè)模型擬合曲線與實(shí)際曲線大體吻合，且實(shí)際值基本處于取值范圍內(nèi)，表明LSTM能較好地跟蹤補(bǔ)償電容故障數(shù)量隨時(shí)間的變化規(guī)律。由圖9可知，LSTM模型較好地預(yù)測(cè)了補(bǔ)償電容的故障數(shù)量，實(shí)際值均處于取值范圍內(nèi)，預(yù)測(cè)值與實(shí)際值之間的最大絕對(duì)誤差為3，取得了良好的預(yù)測(cè)效果。

5 結(jié)束語

基于鐵路現(xiàn)場(chǎng)的補(bǔ)償電容故障記錄，本文提出了一種預(yù)測(cè)補(bǔ)償電容故障數(shù)量的方法。該方法首先根據(jù)補(bǔ)償電容故障記錄構(gòu)建補(bǔ)償電容故障數(shù)量隨時(shí)間變化的序列；再基于LSTM構(gòu)建了故障數(shù)量預(yù)測(cè)模型，針對(duì)LSTM初始化超參數(shù)對(duì)預(yù)測(cè)模型性能有較大影響的問題，利用螢火蟲算法對(duì)超參數(shù)進(jìn)行優(yōu)化，從而挖掘補(bǔ)償電容故障數(shù)量隨時(shí)間的變化規(guī)律，并實(shí)現(xiàn)對(duì)補(bǔ)償電容未來一段時(shí)間內(nèi)故障數(shù)量的預(yù)測(cè)。實(shí)驗(yàn)部分，某路局電務(wù)段的實(shí)際數(shù)據(jù)被用來檢驗(yàn)本文方法各步驟的功能，實(shí)驗(yàn)中對(duì)后12個(gè)數(shù)據(jù)點(diǎn)進(jìn)行了預(yù)測(cè)，預(yù)測(cè)結(jié)果的均方根誤差和平均絕對(duì)誤差分別為1.224和0.833?？梢?，使用本文方法可以有效地預(yù)測(cè)補(bǔ)償電容故障數(shù)量，從而幫助鐵路部門提前協(xié)調(diào)設(shè)備、資金和維修人員等資源，為補(bǔ)償電容運(yùn)維提供良好的指導(dǎo)，給補(bǔ)償電容故障預(yù)測(cè)的研究提供了新思路。