陳 穎 魏 臻, 程 磊,(合肥工業(yè)大學(xué)計算機與信息學(xué)院 安徽 合肥 30009)(合肥工業(yè)大學(xué)安全關(guān)鍵工業(yè)測控技術(shù)教育部工程研究中心 安徽 合肥 30009)

0 引 言

隨著網(wǎng)絡(luò)技術(shù)的發(fā)展，網(wǎng)絡(luò)流量已成為網(wǎng)絡(luò)管理的關(guān)鍵參數(shù)之一。網(wǎng)絡(luò)流量的分析和預(yù)測是研究網(wǎng)絡(luò)資源分配策略、建立網(wǎng)絡(luò)擁塞機制、提高網(wǎng)絡(luò)服務(wù)質(zhì)量和發(fā)現(xiàn)網(wǎng)絡(luò)異常行為的基礎(chǔ)。因此，建立準(zhǔn)確度高的網(wǎng)絡(luò)流量預(yù)測模型一直是國內(nèi)外專家和學(xué)者的重要研究課題。

傳統(tǒng)的網(wǎng)絡(luò)流量預(yù)測方法包括自回歸滑動平均模型[1]、人工神經(jīng)網(wǎng)絡(luò)[2]、支持向量機[3]等。由于網(wǎng)絡(luò)流量是多因素影響的非線性、非平穩(wěn)時間序列，具有自相似性和多重分形等特性，對流量變化特性進行先驗分析能有效提高預(yù)測的精度，文獻[4]提出一種基于經(jīng)驗?zāi)B(tài)分解EMD(Empirical Mode Decomposition)的ARMA-SVR預(yù)測模型，文獻[5]提出一種基于局部均值分解LMD(Local Mean Decomposition)的GARCH預(yù)測模型，但經(jīng)驗?zāi)B(tài)分解和局部均值分解在數(shù)據(jù)分解過程中具有模態(tài)混疊和端點效應(yīng)的問題，影響了網(wǎng)絡(luò)流量預(yù)測精度的提高。

本文結(jié)合變分模態(tài)分解和極限學(xué)習(xí)機的優(yōu)點并進行改進，提出一種基于AVMD-DE和IBSA-KELM的組合預(yù)測模型。首先對原始網(wǎng)絡(luò)流量序列進行混沌特性分析，利用自適應(yīng)變分模態(tài)分解(AVMD)方法將原始網(wǎng)絡(luò)流量序列分解為若干子序列；其次利用分散熵(DE)分析子序列的復(fù)雜度，并根據(jù)分散熵值的不同進行合并；然后應(yīng)用改進鳥群算法(IBSA)優(yōu)化核極限學(xué)習(xí)機(KELM)的模型對重組后的子序列分別預(yù)測；最后將各分量的預(yù)測值進行疊加。本文通過實際網(wǎng)絡(luò)流量數(shù)據(jù)仿真實驗證明模型的有效性。

1 自適應(yīng)變分模態(tài)分解

變分模態(tài)分解VMD(Variational Mode Decomposition)是K.Dragomiretskiy等[6]在2014年提出的一種新型信號特征提取方法。變分模態(tài)分解能避免傳統(tǒng)的小波變換、經(jīng)驗?zāi)B(tài)分解、局部均值分解等方法中存在的模態(tài)混疊和端點效應(yīng)問題，并且在信號具有噪聲的情況下也能表現(xiàn)出良好的魯棒性。VMD的分解過程詳見文獻[6]。

變分模態(tài)分解在處理信號時需要預(yù)先設(shè)定分解子序列IMF的個數(shù)K，文獻[7]采用觀察中心頻率的方法確定分解數(shù)K，即計算不同K值下子序列的中心頻率，如果出現(xiàn)中心頻率相近的情況則認(rèn)為出現(xiàn)過分解，則最佳分解層數(shù)取為K-1。文獻[8]提出基于能量準(zhǔn)則迭代停止條件的改進方法，當(dāng)信號分解余量的能量與原始信號自身能量之比小于一定的閾值時停止。由于變分模態(tài)分解性能受分解模態(tài)總數(shù)K、懲罰因子α和Lagrange乘子更新步長τ多因素的影響，本文提出基于不同子序列最小中心頻率比值的迭代停止方法，并且針對VMD的懲罰因子α和Lagrange乘子更新步長τ，提出基于分解結(jié)果均方誤差MSE(Mean squared error)最小化的參數(shù)優(yōu)化方法，自適應(yīng)變分模態(tài)分解算法的主要步驟如下：

(1) 初始化K值，計算K=2,3，…,n時，經(jīng)過變分模態(tài)分解后k個子序列的中心頻率fK(k)，通過子序列功率譜的頻率加權(quán)積分(或累加和)與總能量的比值求出中心頻率。

(2) 計算k個子序列中相鄰的兩個中心頻率的比值，如式(1)所示，記為γK,1,γK,2,…,γK,k-1，取這k-1個比值中的最小值記為γK,min，如式(2)所示。

(1)

γK,min=min{γK,1,γK,2,…,γK,k-1}

(2)

(3)

(4) 預(yù)置懲罰因子α值范圍為[20,2 000]，步長為20；預(yù)置Lagrange乘子更新步長τ值范圍為[0.01,1]，步長為0.01，代入最佳分解層數(shù)K迭代計算不同α和τ值下分解重組的均方誤差值，選取均方誤差最小值的α和τ作為最優(yōu)參數(shù)。

(5) 代入最優(yōu)分解層數(shù)K、參數(shù)α和τ，輸出最優(yōu)分解結(jié)果。

2 分散熵

分散熵DE是M. Rostaghi等[9]在2016年提出的一種新型量化時間序列復(fù)雜度的方法，具有比樣本熵更快的計算速度，并且避免了排列熵忽視信號幅度和振幅值的問題，對于給定時間序列x={x1,x2,…,xn}，計算分散熵步驟如下：

(3) 對cm個的分散模式計算其相對頻率：

p(πv0v1…vm-1)=

(4)

(4) 計算分散熵：

(5)

3 基于IBSA-KELM的預(yù)測模型

3.1 改進鳥群算法

鳥群算法BSA(Bird Swarm Algorithm)是由Xian-Bing Meng等[10]在2016年提出的一種新型元啟發(fā)式群智能優(yōu)化算法。該算法主要包括自然界中鳥群覓食、警惕和飛行三個行為，鳥群基于三種行為并通過信息共享機制及搜索策略最終搜索到最優(yōu)解。改進鳥群算法的尋優(yōu)過程如下：

(1) 覓食行為。利用Logistics映射作為混沌映射初始化i只鳥在D維空間的初始位置，每只鳥根據(jù)個體經(jīng)驗和群體經(jīng)驗覓食。本文在位置更新過程中加入隨機慣性權(quán)重避免陷入局部最優(yōu)，同時對式(6)中的認(rèn)知因子C和群體加速因子S采用余弦函數(shù)進行動態(tài)調(diào)整，表達式如下：

(6)

ω=ωmin+(ωmax-ωmin)·rand(0,1)+σ·randn(0,1)

(7)

(8)

(9)

(2) 警戒行為。每只鳥都會試圖向群體中心移動。警覺性高的比警覺性低的鳥更容易接近于群體中心，它們將相互競爭，表達式如下：

(10)

式中：A1表示環(huán)境影響因子，A2表示特定干擾影響因子，meanj表示群體第j維的平均位置。

(3) 飛行行為。警覺性高的鳥作為生產(chǎn)者尋找食物，警覺性低的鳥成為索取者從生產(chǎn)者獲取食物。生產(chǎn)者和索取者可以脫離群體，表達式如下：

(11)

(12)

式中：FL(FL∈[0,2])表示索取者會追隨生產(chǎn)者尋找食物的因子。

3.2 核極限學(xué)習(xí)機

核極端學(xué)習(xí)機KELM是由Guang-Bin Huang等[11]提出的，相比于極限學(xué)習(xí)機(ELM)，KELM算法不僅加快了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的收斂速度、避免陷入局部最優(yōu)并具有良好的泛化性能，而且通過核函數(shù)映射確定ELM隱含層的結(jié)構(gòu)[12]。ELM算法是單隱層前饋神經(jīng)網(wǎng)絡(luò)(SLFNs)的機器學(xué)習(xí)算法，其訓(xùn)練方法可以最小化輸出權(quán)值和訓(xùn)練誤差，如式(10)所示：

(13)

式中：β是隱含層輸出權(quán)值向量，h(xi)為隱含層輸出向量，ξi為訓(xùn)練輸出誤差，yi為理論輸出，C為懲罰參數(shù)。根據(jù)KKT最優(yōu)化條件解得：

(14)

式中：H為隱含層的輸出矩陣，T為目標(biāo)值的矩陣。根據(jù)Mercer’s條件定義核矩陣形式如下：

ΩELM=HHT

ΩELM i,j=h(xi)·h(xj)=K(xi,xj)

(15)

式中：i,j=1,2,…,N，K(xi,xj)為核函數(shù)。則KELM模型的輸出函數(shù)可以表示為：

(16)

本文KELM采用Guass徑向基核函數(shù)：

K(xi,xj)=exp(-γ‖xi-xj‖2)

(17)

式中：γ為核函數(shù)參數(shù)。本文采用IBSA算法對KELM的正則化系數(shù)C和核函數(shù)參數(shù)γ進行優(yōu)化，提升KELM算法的預(yù)測精度。

4 實驗分析

仿真實驗采用的網(wǎng)絡(luò)流量數(shù)據(jù)來自英國學(xué)術(shù)主干網(wǎng)，選擇2004年11月22日到2005年1月24日的1 500條采樣間隔為1小時的數(shù)據(jù)，選取前1 212個數(shù)據(jù)組成訓(xùn)練集，選取后288個數(shù)據(jù)組成測試集。圖1為實際的英國學(xué)術(shù)主干網(wǎng)絡(luò)流量數(shù)據(jù)。

圖1 網(wǎng)絡(luò)流量時間序列

圖和Scor(t)-t

對原始網(wǎng)絡(luò)流量數(shù)據(jù)進行歸一化處理，計算K=2,3，…,n時，經(jīng)過變分模態(tài)分解后k個子序列的中心頻率fK(k)，計算相鄰兩個中心頻率的比值記為γK,1,γK,2,…,γK,k-1，取k-1個比值中的最小值γK,min，如表1所示。

表1 不同K值時

圖3 自適應(yīng)變分模態(tài)分解(AVMD)的子序列

由圖3可見，經(jīng)過自適應(yīng)變分模態(tài)分解后的子序列具有較強的規(guī)律性，同時分解后產(chǎn)生的IMF 子序列較多。為了降低網(wǎng)絡(luò)流量預(yù)測的計算規(guī)模，采用分散熵算法對每一個 IMF子序列進行復(fù)雜度分析。分散熵的計算過程中，需要考慮參數(shù)的影響，本文參數(shù)選擇m=9，c=6，t=5，計算各IMF分量的分散熵值如圖4所示。

圖4 IMF子序列的分散熵

經(jīng)過變分模態(tài)分解后的IMF子序列的分散熵值具有遞增的趨勢，表明從子序列的復(fù)雜度隨中心頻率增大。將分散熵值相近的IMF 子序列進行合并，降低預(yù)測的計算規(guī)模。同時對重組后的子序列采用C-C算法進行相空間重構(gòu)，計算重構(gòu)后子序列的嵌入維數(shù)m和時間延遲t。子序列重構(gòu)結(jié)果及相空間重構(gòu)參數(shù)如表2所示。

表2 IMF子序列合并

組合預(yù)測模型的預(yù)測值和實測值的對比結(jié)果如圖5所示。本文采用平均絕對百分比誤差(MAPE)、希爾不等系數(shù)(TIC)和相關(guān)系數(shù)(R)作為模型預(yù)測精度的性能評價指標(biāo)。

圖5 AVMD-DE-IBSA-KELM預(yù)測效果

(18)

(19)

(20)

表3 5種模型預(yù)測結(jié)果對比

5 結(jié) 語

本文結(jié)合變分模態(tài)分解、分散熵、鳥群算法和極限學(xué)習(xí)機的優(yōu)點，應(yīng)用自適應(yīng)變分模態(tài)分解和分散熵的組合模型處理網(wǎng)絡(luò)流量序列，并提出基于改進鳥群算法優(yōu)化核極限學(xué)習(xí)機的組合預(yù)測模型。通過英國學(xué)術(shù)主干網(wǎng)的實測網(wǎng)絡(luò)流量數(shù)據(jù)進行驗證，并與KELM模型和EMD-KELM等預(yù)測模型對比。仿真結(jié)果表明，AVMD-DE和IBSA-KELM組合模型對網(wǎng)絡(luò)流量的預(yù)測誤差更小、效果明顯更優(yōu)，具有很好的應(yīng)用價值。

[1] Laner M, Svoboda P, Rupp M. Parsimonious fitting of long-range dependent network traffic using ARMA models[J]. IEEE Communications Letters, 2013, 17(12):2368- 2371.

[2] 王雪松,梁昔明. 基于BPSO-RBF神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測[J]. 計算機應(yīng)用與軟件,2014,31(9):102- 105.

[3] 路璐,程良倫. 改進布谷鳥搜索算法優(yōu)化SVM的網(wǎng)絡(luò)流量預(yù)測模型[J]. 計算機應(yīng)用與軟件,2015,32(1):124- 127.

[4] Dai L, Yang W, Gao S, et al. EMD-based multi-model prediction for network traffic in software-defined networks[C]//Mobile Ad Hoc and Sensor Systems (MASS), 2014 IEEE 11th International Conference on. IEEE, 2014: 539- 544.

[5] Yimu J, Yongge Y, Chuanxin Z, et al. Research of a Novel Flash P2P Network Traffic Prediction Algorithm[J]. Procedia Computer Science, 2015, 55: 1293- 1301.

[6] Dragomiretskiy K, Zosso D. Variational mode decomposition[J]. IEEE transactions on signal processing, 2014, 62(3): 531- 544.

[7] 劉長良, 武英杰, 甄成剛. 基于變分模態(tài)分解和模糊 C 均值聚類的滾動軸承故障診斷[J]. 中國電機工程學(xué)報, 2015, 35(13): 3358- 3365.

[8] 唐貴基, 王曉龍. IVMD融合奇異值差分譜的滾動軸承早期故障診斷[J]. 振動、測試與診斷, 2016, 36(4):700- 707.

[9] Rostaghi M, Azami H. Dispersion entropy: A measure for time-series analysis[J]. IEEE Signal Processing Letters, 2016, 23(5):610- 614.

[10] Meng X B, Gao X Z, Lu L, et al. A new bio-inspired optimisation algorithm: bird swarm algorithm[J]. Journal of Experimental & Theoretical Artificial Intelligence, 2016, 28(4):673- 687.

[11] Huang G B, Zhu Q Y, Siew C K. Extreme learning machine: theory and applications[J]. Neurocomputing, 2006,70(1):489- 501.

[12] 王新迎, 韓敏. 多元混沌時間序列的多核極端學(xué)習(xí)機建模預(yù)測[J]. 物理學(xué)報, 2015,64(7):070504.

[13] Kim H S, Eykholt R, Salas J D. Nonlinear dynamics, delay times, and embedding windows[J].Physica D: Nonlinear Phenomena, 1999, 127(1):48- 60.

[14] Rasheed B Q K, Qian B. Hurst exponent and financial market predictability[C]//IASTED conference on Financial Engineering and Applications (FEA 2004). 2004:203- 209.