孫曉川,曹荻非,郝明祥,李志剛,李瑩琦

(1.華北理工大學(xué) 人工智能學(xué)院,河北 唐山 063210;2.河北省工業(yè)智能感知重點(diǎn)實(shí)驗(yàn)室,河北 唐山 063210)

0 引 言

智能全光網(wǎng)作為智能信息網(wǎng)絡(luò)的基礎(chǔ)設(shè)施,能夠根據(jù)光路中信道性能的動(dòng)態(tài)變化自適應(yīng)地調(diào)整信號(hào)速率、調(diào)制格式、波長(zhǎng)等參數(shù),以實(shí)現(xiàn)骨干網(wǎng)資源的最大化利用和保證骨干網(wǎng)的可靠通信,促進(jìn)高速泛在、天地一體、云網(wǎng)融合、智能敏捷、綠色低碳、安全可控的未來(lái)智能化信息網(wǎng)絡(luò)建設(shè)[1-2]。

然而,在真實(shí)傳輸場(chǎng)景中,隨著數(shù)據(jù)傳送速率以及通信距離增大,光信道性能理論上會(huì)受到同一信道及相鄰信道的多個(gè)光信道狀態(tài)參數(shù)(optical channel state parameter,OCSP)的共同作用[3-4]。這些參數(shù)包括色散(chromatic dispersion,CD)、偏振模色散(polarization mode dispersion,PMD)、光纖非線性和噪聲等。OCSP的波動(dòng)極易導(dǎo)致光信道傳輸?shù)耐话l(fā)性、空間異質(zhì)性和復(fù)雜的非線性關(guān)系。因此,融合OCSP的光信道性能多變量預(yù)測(cè),能夠有效提高光信道傳輸質(zhì)量預(yù)測(cè)精度[5-7]。

上述文獻(xiàn)中的多變量選擇往往憑借主觀經(jīng)驗(yàn),缺乏有效的理論依據(jù),難以支撐有效的多變量預(yù)測(cè)。真實(shí)采集的光信道OCSP時(shí)序數(shù)據(jù)通常具有顯著的非平穩(wěn)和混沌特性。傳統(tǒng)的皮爾遜相關(guān)系數(shù)[8]常用于度量?jī)蓚€(gè)正態(tài)分布時(shí)間序列之間的相關(guān)程度,其算法容易受到局部趨勢(shì)的影響[9],難以度量光信道性能序列與OCSP序列的關(guān)聯(lián)特性。交叉遞歸圖理論(cross recurrence theory,CRT)是一種有效的非線性時(shí)間序列分析方法,它對(duì)序列的穩(wěn)態(tài)性要求較低,對(duì)噪聲也相對(duì)不敏感,可以從定性和定量的角度進(jìn)行序列間關(guān)聯(lián)性評(píng)價(jià)分析,該方法在已廣泛應(yīng)用于軸承退化評(píng)估、腦電信號(hào)分析和海洋環(huán)境建模等場(chǎng)景[10-12]。交叉遞歸分析的方法優(yōu)勢(shì)在于二維特征可視化,且生成的圖包含許多其他工具難以獲得的時(shí)間序列特征,如遞歸率、確定性、層狀、平均對(duì)角線長(zhǎng)度等。相比于傳統(tǒng)的線性特征(如頻率、幅度等),遞歸特征對(duì)動(dòng)態(tài)變化更敏感。鑒于這些優(yōu)勢(shì),本文擬采用CRT建模光信道性能影響因素的動(dòng)力學(xué)特性,從而確定影響光信道性能的強(qiáng)關(guān)聯(lián)OCSP,這對(duì)后續(xù)的多變量預(yù)測(cè)具有重要作用。

深度神經(jīng)網(wǎng)絡(luò)(deep neural network,DNN)廣泛應(yīng)用于光信道性能的多變量預(yù)測(cè)[5-7]。在訓(xùn)練過(guò)程中的反向傳播算法極易陷入局部最優(yōu)值,并且大量的迭代計(jì)算也導(dǎo)致其收斂速度過(guò)慢[13-14]。因此,提升光信道性能多變量預(yù)測(cè)性能是當(dāng)前的研究熱點(diǎn)。深度回聲狀態(tài)網(wǎng)絡(luò)(deep echo state network,DESN)是一種在深度學(xué)習(xí)背景下構(gòu)建的ESN級(jí)聯(lián)框架,能夠建模分析復(fù)雜的非線性動(dòng)力學(xué)特性[15]。結(jié)構(gòu)上,堆疊的儲(chǔ)備池組合提升了網(wǎng)絡(luò)的記憶容量,豐富了輸入序列信息的頻率內(nèi)容,以改進(jìn)目標(biāo)的回歸任務(wù),同時(shí)這一模型也兼具了ESN高效的訓(xùn)練模式[16]。鑒于上述優(yōu)勢(shì),本文擬采用DESN建模光信道多變量序列系統(tǒng)特性。

然而,在多變量分析框架下,DESN模型中的多變量輸入會(huì)出現(xiàn)多重共線性的現(xiàn)象,從而導(dǎo)致預(yù)測(cè)精度提升不明顯。而多任務(wù)學(xué)習(xí)(multiple task learning,MTL)策略[17]能夠提高每個(gè)變量預(yù)測(cè)任務(wù)的性能和共享特征的泛化能力,進(jìn)而彌補(bǔ)了多重共線性所導(dǎo)致的多變量預(yù)測(cè)缺陷[18]。鑒于以上優(yōu)勢(shì),本文將MTL與DESN相結(jié)合用以準(zhǔn)確完成光信道性能多變量預(yù)測(cè)任務(wù)。

綜上,本文提出了一種基于多任務(wù)學(xué)習(xí)的光信道性能多變量預(yù)測(cè)方法。一方面,探究了多種OCSP與光信道性能間的關(guān)聯(lián)特性,篩選出與光信道性能相似性較高的參數(shù)。另一方面,將CRT篩選的參數(shù)與性能參數(shù)共同輸入到基于MTL的DESN預(yù)測(cè)模型中,完成最終的光信道性能多變量預(yù)測(cè)任務(wù)。

1 一種光信道性能多變量預(yù)測(cè)模型

1.1 總體結(jié)構(gòu)

未來(lái)光網(wǎng)絡(luò)應(yīng)具有完全自動(dòng)化動(dòng)態(tài)管理特點(diǎn)。眾所周知,構(gòu)建一種有效的光信道性能分析方法,可以為光網(wǎng)絡(luò)管控提供有價(jià)值的先驗(yàn)信息,是實(shí)現(xiàn)全光網(wǎng)可靠的自適應(yīng)動(dòng)態(tài)管理運(yùn)行的關(guān)鍵推動(dòng)因素。為此,本文提出了一種新穎的光信道性能多變量預(yù)測(cè)模型,即MT-mDESN,如圖1所示。通常,光性能監(jiān)控(optical performance monitoring,OPM)能夠?qū)崿F(xiàn)對(duì)光信號(hào)的采集,獲取的OCSP通過(guò)控制光路向網(wǎng)絡(luò)控制器發(fā)送,為動(dòng)態(tài)網(wǎng)絡(luò)管理提供性能狀態(tài)信息[19]。而本文所提出的模型可以為光網(wǎng)絡(luò)智能化的資源分配、異常監(jiān)測(cè)等任務(wù)提供技術(shù)支持。

圖1 光信道性能多變量預(yù)測(cè)模型示意圖Fig.1 Schematic diagram of multivariate prediction model for optical channel performance

結(jié)構(gòu)上,該模型主要由CRT分析模塊和MT-mDESN預(yù)測(cè)模塊構(gòu)成。特別地,本文考慮了質(zhì)量因子(quality factor,Q-factor)、發(fā)射功率(transmit power,TP)、CD和PMD等光信道參數(shù)[19],其中Q-factor是衡量光信道性能最具代表性的指標(biāo)。功能上,CRT分析模塊又涵蓋了交叉遞歸圖(cross recurrence plot,CRP)可視化和交叉遞歸定量分析(cross recurrence quantitative analysis,CRQA)兩個(gè)環(huán)節(jié),多變量預(yù)測(cè)模塊為MT-mDESN模型,包含基于DESN的參數(shù)共享層和基于ESN的主任務(wù)特定回歸層。融合CRT分析的MT-mDESN算法能夠有效挖掘光信道性能與同一信道和相鄰信道的OCSP關(guān)聯(lián)特性,并將獲得的強(qiáng)關(guān)聯(lián)的OCSP作為輔助參數(shù)協(xié)助完成光信道性能預(yù)測(cè)這一主任務(wù),進(jìn)而為全光網(wǎng)絡(luò)的自動(dòng)化管理配置提供支持[20]。接下來(lái),分別對(duì)CRT分析模塊和MT-mDESN預(yù)測(cè)模塊中涉及的相關(guān)算法作詳細(xì)描述。

1.2 CRT分析模塊

本文所采用的CRT分析模塊可以實(shí)現(xiàn)光信道狀態(tài)參數(shù)的CRP可視化和定量分析。CRP的目的是可視化OCSP與光信道性能間的動(dòng)力學(xué)特性。具體地,相空間重構(gòu)(phase space reconstruction,PSR)首先將OCSP序列與性能序列映射到同一高維空間進(jìn)行,這一過(guò)程取決于序列的延遲時(shí)間(delay time,DT)和嵌入維度(embedding dimension,ED)。一般來(lái)說(shuō),互信息法[21]和虛假最近鄰法[22]分別用于計(jì)算這兩個(gè)重構(gòu)參數(shù)(reconstruct parameter,REP)。其中在互信息變化趨勢(shì)的第一個(gè)極小值處選擇最合適的DT,而確定ED的標(biāo)準(zhǔn)是找到虛假最近鄰百分比接近穩(wěn)定時(shí)的第一個(gè)點(diǎn)。接下來(lái),通過(guò)比較OCSP序列與性能序列系統(tǒng)軌跡與特定閾值之間的距離,獲得交叉遞歸矩陣R,定義為

R=Θ(ε-‖Xi-Yj‖)

(1)

(1)式中:i={1,2,…,Lx};j={1,2,…,Ly};Xi和Yj分別表示OCSP序列和性能序列i和j的狀態(tài)向量;ε為閾值;Θ為Heaviside函數(shù),表示為

(2)

形式上,R是一個(gè)包含0和1的二維遞歸矩陣,在可視化展示中,0和1分別表示黑點(diǎn)和白點(diǎn)。

CRQA給出了CRP中典型特征的定量度量,可以實(shí)現(xiàn)對(duì)光信道性能與OCSP關(guān)聯(lián)特性的定量計(jì)算。CRQA指標(biāo)主要包括遞歸率(recurrence rate,RR)、確定性(determinism,DET)和層流特性(laminarity,LAM)等。RR可以度量CRP中的遞歸點(diǎn)密度,即黑色點(diǎn)與遞歸點(diǎn)的百分比。一般來(lái)說(shuō),較大的RR表示OCSP序列與性能序列構(gòu)建的系統(tǒng)的變化較為穩(wěn)定。DET表示與主對(duì)角線平行的線段的遞歸點(diǎn)的比率。它度量了OCSP序列與性能序列構(gòu)建的系統(tǒng)隨時(shí)間變化的可預(yù)測(cè)性和規(guī)律性,如果DET趨向于0,則系統(tǒng)是周期性的,如果它趨向于1,則系統(tǒng)是時(shí)間獨(dú)立的。LAM描述了遞歸點(diǎn)形成垂線占所有遞歸點(diǎn)的百分比,表示OCSP序列與性能序列構(gòu)建的系統(tǒng)中層流狀態(tài)的存在。

1.3 MT-mDESN預(yù)測(cè)模塊

在獲得CRT所篩選的強(qiáng)關(guān)聯(lián)OCSP的基礎(chǔ)上,本文所采用的MT-mDESN預(yù)測(cè)模塊可以實(shí)現(xiàn)多變量參數(shù)間的信息共享,進(jìn)而完成準(zhǔn)確的光信道性能多變量預(yù)測(cè)任務(wù)。結(jié)構(gòu)上,MT-mDESN預(yù)測(cè)模塊主要由DESN特征共享層和ESN主任務(wù)回歸層構(gòu)成,如圖2所示。

圖2 MT-mDESN結(jié)構(gòu)圖Fig.2 The structure diagram of MT-mDESN

在特征共享階段,多變量組合輸入經(jīng)過(guò)DESN特征共享層的學(xué)習(xí),可以捕獲不同OCSP間的特定領(lǐng)域信息。具體地,這一流程是通過(guò)狀態(tài)轉(zhuǎn)移函數(shù)實(shí)現(xiàn)的,即

(3)

(3)式中:N為儲(chǔ)備池的個(gè)數(shù);k表示儲(chǔ)備池的索引;x(k)(t)代表時(shí)間步為t時(shí)儲(chǔ)備池k的狀態(tài);X(k)和W(k)分別儲(chǔ)備池k的連接權(quán)重矩陣和狀態(tài)權(quán)重矩陣。特別地,當(dāng)k=1時(shí),x(k-1)(t)=r(t),X(k-1)=Win,r(t)和Win分別表示輸入的多變量組合數(shù)據(jù)和輸入矩陣。經(jīng)過(guò)狀態(tài)轉(zhuǎn)移函數(shù)的迭代,最終可以獲得X(N),這意味著多變量數(shù)據(jù)在DESN參數(shù)共享層學(xué)習(xí)過(guò)程結(jié)束。

(4)

(4)式中:xS(t)表示時(shí)間步為t時(shí)回歸層儲(chǔ)備池S的狀態(tài);rS(t)為DESN參數(shù)共享層的x(N-1)(t)中Q-factor變量所對(duì)應(yīng)的狀態(tài);WS為儲(chǔ)備池S的狀態(tài)權(quán)重矩陣。MT-mDESN模型的最終線性讀出為

y(t)=tanh[Wout[rS(t);xS(t)]]

(5)

(5)式中,Wout代表讀出權(quán)重矩陣。事實(shí)上,MT-mDESN模型訓(xùn)練的主要目的是獲得最優(yōu)的Wout,而Wout的計(jì)算通常采用偽逆法。假設(shè)儲(chǔ)備池S的狀態(tài)收集在矩陣A中,其對(duì)應(yīng)的輸出被組合在矩陣B中,Wout的計(jì)算公式為

Wout=BTA(AAT)-1

(6)

當(dāng)獲得Wout后,標(biāo)志著MT-mDESN的訓(xùn)練結(jié)束。

下一步,這一模型可以用于完成光信道性能多變量預(yù)測(cè)任務(wù)。

2 仿真結(jié)果與性能評(píng)估

2.1 數(shù)據(jù)集與度量指標(biāo)

實(shí)驗(yàn)所使用的光信道數(shù)據(jù)來(lái)源于2015年2月到2016年4月的北美光骨干網(wǎng)絡(luò),包含50個(gè)光交叉連接點(diǎn),100個(gè)WAN段和1 000條光信道。這種大規(guī)模的數(shù)據(jù)可以研究光信道的時(shí)間行為、信號(hào)質(zhì)量、信道或光段之間的相關(guān)性等[17]。對(duì)于CRT分析,實(shí)驗(yàn)考慮了時(shí)間步范圍在1-5 000的光段1中的信道1—信道3的OCSP作為分析目標(biāo),將信道2的Q-factor分別與同信道(信道2)和鄰近信道(信道1、信道3)的OCSP進(jìn)行交叉遞歸分析。而對(duì)于多變量預(yù)測(cè),選擇信道2的Q-factor和經(jīng)過(guò)CRT篩選獲得的信道1—信道3的強(qiáng)關(guān)聯(lián)OCSP,共計(jì)4條序列作為輸入,這些序列經(jīng)過(guò)立方插值法處理后,將前6 000條OCSP數(shù)據(jù)選為訓(xùn)練集,再2 000個(gè)用于驗(yàn)證,后2 000個(gè)用于測(cè)試。實(shí)驗(yàn)將預(yù)測(cè)信道2的Q-factor作為主任務(wù),而通過(guò)CRT篩選的其他3條OCSP序列作為輔助變量協(xié)助主任務(wù)進(jìn)行預(yù)測(cè)。

對(duì)于度量指標(biāo),這里采用皮爾遜相關(guān)系數(shù)(Pearson correlation coefficient,PCC)Pc、歐氏距離(Euclidean distance,ED)Ed、平均絕對(duì)誤差(mean absolute error,MAE)Me和歸一化均方根誤差(normalization root mean square error,NRMSE)Ne作為預(yù)測(cè)性能的度量標(biāo)準(zhǔn),對(duì)應(yīng)的數(shù)學(xué)表達(dá)式為

(7)

(8)

(9)

(10)

(7)—(10)式中:L表示Q-factor序列的長(zhǎng)度;yp和yr分別表示輸出Q-factor的預(yù)測(cè)值和真實(shí)值;D(yr)表示yr的方差。

2.2 光信道狀態(tài)參數(shù)CRT分析

當(dāng)信道2的Q-factor序列分別和信道1—信道3的OCSP序列重構(gòu)到同一相空間時(shí),應(yīng)選擇兩個(gè)序列中較高的ED和較低的DT,選擇后的結(jié)果如表1所示。

表1 信道2 Q-factor與特定OCSP的重構(gòu)參數(shù)選擇結(jié)果Tab.1 REP selection results between channel 2 Q-factor and specified OCSPs

在獲得上述REP的基礎(chǔ)上可視化信道2的Q-factor序列與特定OCSP之間的遞歸關(guān)聯(lián)特性,如圖3所示。這里可以重點(diǎn)關(guān)注CRP的經(jīng)典特征,例如點(diǎn)、對(duì)角線和矩形結(jié)構(gòu),它們可以反映每一個(gè)OCSP序列對(duì)Q-factor序列的影響機(jī)理。例如,在圖3[a-b,d,g]中存在大量分散點(diǎn),說(shuō)明了信道1的TP和CD、信道2的TP、信道3的TP,分別與信道2的Q-factor之間存在弱關(guān)聯(lián)性。圖3[c,f,i]有較多的矩形結(jié)構(gòu),意味著顯著的層流特性。這表示信道1—信道3的PMD與信道2的Q-factor形成的動(dòng)力學(xué)特性能夠保持。此外,圖3[e,f]具有大量的對(duì)角線結(jié)構(gòu),這也說(shuō)明信道2—信道3的CD與信道2的Q-factor之間存在一定的關(guān)聯(lián)性。

圖3 信道2 Q-factor與特定OCSP關(guān)聯(lián)的CRP可視化Fig.3 CRP visualization of the relationships between channel 2 Q-factor and specified OCSPs

表2給出了這些CRP的定量度量,即CRQA,包括RR、DET和LAM等指標(biāo)。這里取這些指標(biāo)的幾何平均(geometric mean,GM)作為最終關(guān)聯(lián)程度的評(píng)價(jià)指標(biāo),GM值越高證明其相關(guān)性越強(qiáng)。從表2中可以清晰得知,信道1和信道3的PMD、信道2的CD對(duì)信道2的Q-factor的影響最大;不同信道的OCSP對(duì)分析信道Q-factor序列的影響是具有差異性的,這說(shuō)明憑借主觀經(jīng)驗(yàn)選擇多變量輸入是不合理的。實(shí)驗(yàn)選擇了這些影響最大的OCSP與信道2的Q-factor融合作為多變量預(yù)測(cè)輸入,在表2中以下劃線標(biāo)示。

表2 信道2 Q-factor與特定OCSP關(guān)聯(lián)的CRQA度量Tab.2 CRQA measures on correlations between channel 2 Q-factor and specified OCSPs

2.3 預(yù)測(cè)性能評(píng)估

MT-mDESN是一個(gè)多輸入單輸出的多變量預(yù)測(cè)模型,多輸入?yún)?shù)包括信道2的Q-factor序列以及CRT篩選的3個(gè)OCSP,而單輸出是指信道2的Q-factor序列。表3描述了單變量輸入的DESN(sDESN)和MT-mDESN模型的預(yù)測(cè)性能,表3中預(yù)測(cè)最小的ED、MAE和NRMSE、以及最大的PCC作了下劃線標(biāo)記。顯然,MT-mDESN的預(yù)測(cè)誤差值低于sDESN,而在預(yù)測(cè)曲線相關(guān)程度上要高于sDESN。從而可以得出結(jié)論,在DESN作為基預(yù)測(cè)器的前提下,MT-mDESN比sDESN具有更好的預(yù)測(cè)性能。

表3 sDESN和MT-mDESN的預(yù)測(cè)性能對(duì)比Tab.3 Prediction performance comparison between sDESN and MT-mDESN

為繼續(xù)驗(yàn)證MT-mDESN的有效性,在多變量輸入模式下,實(shí)驗(yàn)也對(duì)比了應(yīng)用于光通信領(lǐng)域中常見(jiàn)的先進(jìn)深度學(xué)習(xí)模型,包括mCNN-LSTM[24]、mGRU[25]、mLSTM[26]和mDNN[27]等。

圖4給出了在0～200時(shí)間步范圍內(nèi)真實(shí)值和預(yù)測(cè)值的對(duì)比圖以及輸出誤差展示。為方便觀測(cè),這里也添加了80～90步長(zhǎng)的圖中圖的展現(xiàn)形式。從圖4小圖中可以得知,MT-mDESN預(yù)測(cè)曲線(紅色方形點(diǎn)劃線)與真實(shí)序列曲線(黑色虛線)趨勢(shì)變化接近一致,其預(yù)測(cè)誤差也與零線最為貼近,而其他先進(jìn)模型的預(yù)測(cè)趨勢(shì)偏離真實(shí)曲線較多,其預(yù)測(cè)誤差的波動(dòng)值也較大。這說(shuō)明MT-mDESN與其他先進(jìn)模型相比,具有良好的非線性映射能力。

圖4 基于不同模型的多變量預(yù)測(cè)結(jié)果和誤差趨勢(shì)圖Fig.4 Trend chart of multivariate prediction results and errors basedon different models

基于4個(gè)預(yù)測(cè)精度指標(biāo)和1個(gè)訓(xùn)練效率指標(biāo),表4給出了所有多變量輸入模式下評(píng)估模型的預(yù)測(cè)性能,對(duì)多變量輸入模式下光信道性能的最小誤差、最高相似性和最快訓(xùn)練時(shí)間的模型性能做了下劃線標(biāo)記。

表4 基于不同模型的多變量預(yù)測(cè)性能Tab.4 Multivariate prediction performance based on different models

從整體上看,mCNN-LSTM、mLSTM和mGRU預(yù)測(cè)序列的擬合程度較差,雖然mDNN相比于這些模型在預(yù)測(cè)精度上有了一定提升,但是耗費(fèi)了更多的訓(xùn)練時(shí)間來(lái)完成預(yù)測(cè)任務(wù)。而MT-mDESN模型預(yù)測(cè)誤差要遠(yuǎn)遠(yuǎn)小于其他先進(jìn)模型,特別地,MT-mDESN的預(yù)測(cè)精度要高于mDESN模型,這說(shuō)明多變量輸入模式下,多任務(wù)學(xué)習(xí)算法的融入能夠顯著提升模型挖掘多變量特征關(guān)系的能力,進(jìn)而保證模型較高的非線性逼近性能。從模型訓(xùn)練效率上看,MT-mDESN雖然在mDESN的基礎(chǔ)上消耗了稍多的時(shí)間,但是在效率上依舊優(yōu)于其他先進(jìn)的深度學(xué)習(xí)模型。

3 結(jié) 論

本文研究了光信道性能預(yù)測(cè)任務(wù)中的多變量建模問(wèn)題,重點(diǎn)探索了光信道性能與同一信道以及相鄰信道OCSP的關(guān)聯(lián)性,進(jìn)一步提出了新穎的光信道性能預(yù)測(cè)模型MT-mDESN,利用CRT分析模塊篩選出與分析信道性能的強(qiáng)關(guān)聯(lián)OCSP,將其作為MT-mDESN的輸入建立光信道性能多變量預(yù)測(cè)模型。仿真結(jié)果表明,通過(guò)與多種應(yīng)用于光通信領(lǐng)域中常見(jiàn)的先進(jìn)深度學(xué)習(xí)模型的比較,MT-mDESN預(yù)測(cè)器具有高效而出色的非線性逼近能力,為智能全光網(wǎng)的部署管理提供了技術(shù)支撐。未來(lái)擬對(duì)DESN的多個(gè)儲(chǔ)備池超參數(shù)進(jìn)行優(yōu)化選擇滿足最低學(xué)習(xí)錯(cuò)誤率,進(jìn)而有效提升多變量預(yù)測(cè)模式下的模型的預(yù)測(cè)精度。