李融

溫州廣播電視大學(xué)，浙江溫州 410205

基于CS-HRVM的網(wǎng)絡(luò)流量預(yù)測(cè)

李融

溫州廣播電視大學(xué)，浙江溫州 410205

為了獲得更加理想的網(wǎng)絡(luò)流量預(yù)測(cè)結(jié)果，準(zhǔn)確刻畫網(wǎng)絡(luò)流量的變化趨勢(shì)，提出一種基于布谷鳥搜索算法優(yōu)化組合核相關(guān)向量機(jī)的網(wǎng)絡(luò)流量預(yù)測(cè)模型（CS-HRVM）。首先針對(duì)網(wǎng)絡(luò)流量的混沌特性，采用相空間理論建立網(wǎng)絡(luò)流量的多維學(xué)習(xí)樣本，并采用組合核函數(shù)構(gòu)建相關(guān)向量機(jī)，然后將學(xué)習(xí)樣本輸入到相關(guān)向量機(jī)中進(jìn)行訓(xùn)練，并采用布谷鳥搜索算法對(duì)模型參數(shù)進(jìn)行優(yōu)化，從而建立網(wǎng)絡(luò)流量預(yù)測(cè)模型，最后采用仿真實(shí)驗(yàn)對(duì)模型性能進(jìn)行仿真對(duì)比實(shí)驗(yàn)。結(jié)果表明，CS-HRVM獲得了比其他網(wǎng)絡(luò)流量預(yù)模型更高的預(yù)測(cè)精度，而且可以對(duì)含噪網(wǎng)絡(luò)流量進(jìn)行準(zhǔn)確預(yù)測(cè)。

網(wǎng)絡(luò)流量；相空間重構(gòu)；相關(guān)向量機(jī)；組合核函數(shù)；布谷鳥算法

隨著互聯(lián)網(wǎng)規(guī)模的不斷擴(kuò)大，網(wǎng)絡(luò)用戶急劇增加，網(wǎng)絡(luò)擁塞的頻率越來越高，成為一個(gè)令網(wǎng)絡(luò)管理員頭疼的難題，因此網(wǎng)絡(luò)流量預(yù)測(cè)是網(wǎng)絡(luò)管理的基礎(chǔ)和關(guān)鍵，因此建立性能優(yōu)異的網(wǎng)絡(luò)流量預(yù)測(cè)模型，精確對(duì)網(wǎng)絡(luò)運(yùn)行狀態(tài)進(jìn)行準(zhǔn)確跟蹤，以提高網(wǎng)絡(luò)流量的預(yù)測(cè)精度，成為網(wǎng)絡(luò)研究中的一個(gè)熱點(diǎn)問題[1]。

針對(duì)網(wǎng)絡(luò)流量預(yù)測(cè)問題，許多學(xué)者和專家對(duì)其進(jìn)行了廣泛的探索，提出一些性能較好的網(wǎng)絡(luò)流量預(yù)測(cè)算法[2]。線性算法主要有：滑動(dòng)平均、指數(shù)平滑、多元回歸等[3-4]，它們可以對(duì)短期的網(wǎng)絡(luò)流量進(jìn)行準(zhǔn)確預(yù)測(cè)，但由于網(wǎng)絡(luò)流量受到很多因素綜合影響，具有混沌性、強(qiáng)烈的時(shí)變性，這樣導(dǎo)致線性模型難以準(zhǔn)確反映網(wǎng)絡(luò)流量的變化特點(diǎn)，預(yù)測(cè)精度與實(shí)際要求有一定的差距[5]。另一類算法為非線性算法，它們主要包括神經(jīng)網(wǎng)絡(luò)、馬爾可夫鏈、支持向量機(jī)、極限學(xué)習(xí)等[6-8]，相對(duì)于線性預(yù)測(cè)算法，它們具有較好的非線性學(xué)習(xí)能力，可以對(duì)網(wǎng)絡(luò)流量變化特點(diǎn)進(jìn)行準(zhǔn)確預(yù)測(cè)，網(wǎng)絡(luò)流量得到進(jìn)一步提高，但是這些方法均存在各自的不足，網(wǎng)絡(luò)流量預(yù)測(cè)精度有待進(jìn)一步提高。相關(guān)向量機(jī)（Relevance Vector Machine，RVM），其結(jié)合稀疏貝葉斯學(xué)習(xí)理論優(yōu)點(diǎn)，相對(duì)于支持向量機(jī)，RVM只需設(shè)置核參數(shù)，且核函數(shù)不用滿足Mercer條件，為網(wǎng)絡(luò)流量提供了一種新的預(yù)測(cè)工具[9]。

為了提高網(wǎng)絡(luò)流量預(yù)測(cè)精度，準(zhǔn)確刻畫網(wǎng)絡(luò)流量的變化特點(diǎn)，綜合布谷鳥搜索算法和相關(guān)向量機(jī)的優(yōu)點(diǎn)，提出一種布谷鳥搜索算法優(yōu)化組合核相關(guān)向量機(jī)的網(wǎng)絡(luò)流量預(yù)測(cè)模型（CS-HRVM）。首先針對(duì)網(wǎng)絡(luò)流量的混沌性，通過相空重構(gòu)構(gòu)建RVM的學(xué)習(xí)樣本，然后將學(xué)習(xí)樣本輸入到RVM進(jìn)行訓(xùn)練，采用組合核函數(shù)構(gòu)建RVM網(wǎng)絡(luò)流量預(yù)測(cè)模型，并通過谷鳥搜索算法找到模型的最優(yōu)參數(shù)，最后進(jìn)行了仿真實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明，CS-HRVM提高了網(wǎng)絡(luò)流量的預(yù)測(cè)精度，并且具有一定的魯棒性。

1 相關(guān)向量機(jī)和改進(jìn)布谷鳥搜索算法

1.1 RVM模型

式中，wi為模型的權(quán)值；N為樣本數(shù)；K(x，xi)為核函數(shù)。RVM模型的結(jié)構(gòu)如圖1所示。

圖1 RVM模型結(jié)構(gòu)

假定目標(biāo)函數(shù)是獨(dú)立的，且來自帶噪聲的模型：

式中，εn為噪聲。

訓(xùn)練樣本集的似然函數(shù)為：

為了避免通過最大似然法求解最優(yōu)w導(dǎo)致的過擬合現(xiàn)象，采用稀疏Bayesian方法對(duì)權(quán)值w賦予先驗(yàn)的條件概率分布：

根據(jù)Bayesian公式，對(duì)所有未知參數(shù)有如下后驗(yàn)公式：

則權(quán)值w的后驗(yàn)概率可以表示為：

利用delta函數(shù)來做近似運(yùn)算，將相關(guān)向量學(xué)習(xí)轉(zhuǎn)變成尋求超參數(shù)后驗(yàn)?zāi)Ｊ絾栴}，即α最大化p(α，δ2|y)∝p(y|α，δ2)p(α)p(δ2)。用delta函數(shù)的峰值來逼近超參數(shù)后驗(yàn)p(α，δ2|y)，在先驗(yàn)情況一致條件下，僅需p(y|α，δ2)取最大值，即

式中，N為樣本數(shù)據(jù)的個(gè)數(shù)；μi為第i個(gè)后驗(yàn)平均權(quán)；γi=1-Σij；Σij為第i個(gè)對(duì)角元素。

從計(jì)算過程可以看出，隨著迭代次數(shù)的增加，大部分αi將趨于無窮大，與之相對(duì)應(yīng)的wi將趨于0，使大部分核函數(shù)矩陣的項(xiàng)不會(huì)參與到實(shí)際預(yù)測(cè)計(jì)算中，實(shí)現(xiàn)模型的稀疏化。

1.2 布谷鳥搜索算法

布谷鳥搜索（Cuckoo Search，CS）算法模擬布谷鳥種群的寄生繁衍策略，并結(jié)合了鳥類及果蠅特殊的Levy flight模式，全局搜索能力強(qiáng)，適合用于多目標(biāo)優(yōu)化問題求解。為了模擬布谷鳥的尋巢行為，CS設(shè)定了三個(gè)規(guī)則，具體為：

（1）布谷鳥一次下一個(gè)蛋，代表待求解問題的一種解決方案，并隨機(jī)放在一個(gè)鳥巢中進(jìn)行孵化。

（2）一部分鳥巢放著優(yōu)質(zhì)蛋，即好的解決方案，這些鳥巢將被保留到下一代。

（3）可利用鳥巢的數(shù)量是固定的，布谷鳥蛋被寄主鳥發(fā)現(xiàn)的概率為Pa∈(0，1)，一旦某個(gè)鳥巢被發(fā)現(xiàn)，寄主鳥就丟棄鳥蛋或者鳥巢，尋找新的鳥巢，以免影響尋找優(yōu)問題的解。

式中，?表示步長(zhǎng)控制量；⊕表示點(diǎn)對(duì)點(diǎn)乘法。

位置更新后，隨機(jī)產(chǎn)生一個(gè)[0，1]的數(shù)r，如果r＞Pa，那么x就進(jìn)行隨機(jī)改變，反之不變，最后保留測(cè)試值較好的一組鳥巢位置y，此時(shí)仍然記為x[11]。

2 布谷鳥搜索算法優(yōu)化組合核相關(guān)向量機(jī)

2.1 組合核函數(shù)

相關(guān)向量機(jī)通過核映射實(shí)現(xiàn)了數(shù)據(jù)空間、特征空間和類別空間的非線性變換，因此核函數(shù)及核參數(shù)的選取至關(guān)重要，當(dāng)前RVM使用的核函數(shù)很多，如多項(xiàng)式核函數(shù)，Sigmoid函數(shù)，徑向基函數(shù)等，但歸納起來大致可分為全局核函數(shù)和局部核函數(shù)兩類[12]。全局核函數(shù)的一個(gè)典型是多項(xiàng)式核函數(shù)，局部核函數(shù)的一個(gè)典型是RBF核函數(shù)。鑒于全局核函數(shù)泛化能力，學(xué)習(xí)能力弱，而局部核函數(shù)學(xué)習(xí)能力強(qiáng)，泛化能力弱，為了提升RVM的性能，得到學(xué)習(xí)能力和泛化能力都較強(qiáng)的核函數(shù)，核函數(shù)組合的方法很多，但最終的組合核函數(shù)要滿足mercer條件。本文將通過組合兩種具有代表性的局部核函數(shù)（RBF核函數(shù)）和全局核函數(shù)（多項(xiàng)式核函數(shù)）的映射特性，構(gòu)造一種組合核函數(shù)，此組合核函數(shù)滿足Mercer條件，其表達(dá)式為：

2.2 布谷鳥算法的組合核參數(shù)尋優(yōu)步驟

步驟1設(shè)置RVM的參數(shù)d、δ、λ取值范圍和CS算法相關(guān)參數(shù)。

步驟4根據(jù)Levy flight對(duì)其他鳥巢進(jìn)行更新，得到一組新的鳥巢位置，并對(duì)鳥巢位置優(yōu)劣進(jìn)行評(píng)價(jià)。

步驟7找出步驟6最后找到pt中最優(yōu)的一個(gè)鳥巢位置x(t)b，并判斷其是否達(dá)到結(jié)束條件，如果滿足，則停止搜索，反之，則返回步驟3繼續(xù)尋找最優(yōu)權(quán)值。

步驟8將最優(yōu)鳥巢位置進(jìn)行解碼，得到RVM的最優(yōu)參數(shù)(d、δ、λ)值。

綜合可知，CS-HRVM的工作流程如圖2所示。

圖2 CS-HRVM的工作流程

3 仿真實(shí)驗(yàn)

3.1 仿真環(huán)境

為了測(cè)試CS-HRVM的網(wǎng)絡(luò)流量預(yù)測(cè)模型的有效性，在P4核2.8 GHz CPU，4 GB RAM，window s XP操作系統(tǒng)的電腦，采用VC++編程實(shí)現(xiàn)仿真實(shí)驗(yàn)。數(shù)據(jù)來源于http：//new sfeed.ntcu.net/～new s/2013/的主節(jié)點(diǎn)路由器2013年5月1日到6月21日的每小時(shí)訪問流量，得到1 200個(gè)數(shù)據(jù)，選擇前100個(gè)數(shù)據(jù)作為訓(xùn)練樣本集，建立網(wǎng)絡(luò)流量預(yù)測(cè)模型，然后采用最后200個(gè)網(wǎng)絡(luò)流量數(shù)據(jù)對(duì)網(wǎng)絡(luò)預(yù)測(cè)模型的性能進(jìn)行測(cè)試，網(wǎng)絡(luò)流量數(shù)據(jù)具體如圖3所示。

圖3 網(wǎng)絡(luò)流量數(shù)據(jù)

在RVM訓(xùn)練過程中，過大或過小的網(wǎng)絡(luò)流量數(shù)據(jù)對(duì)訓(xùn)練效率產(chǎn)生不利影響，為此對(duì)其進(jìn)行預(yù)處理，具體如下：

式中，x(i)和x′(i)分別表示原始和預(yù)處理后的值；max（）和m in（）分別為取最大和最小值函數(shù)。

3.2 對(duì)比模型及評(píng)價(jià)指標(biāo)

為了使CS-HRVM的預(yù)測(cè)結(jié)果更具說服力，CS優(yōu)化RBF核函數(shù)RVM（RBF-RVM）、CS優(yōu)化多項(xiàng)式核函數(shù)RVM（poly-RVM）、粒子群算法優(yōu)化組合核RVM（PSO-HRVM）、遺傳算法優(yōu)化組合核RVM（GA-HRVM）進(jìn)行對(duì)比實(shí)驗(yàn)，并采用絕對(duì)誤差ERR，平均絕對(duì)誤差MAE和相對(duì)誤差PERR作為評(píng)價(jià)指示，它們具體定義如下：

式中，xi和x分別為網(wǎng)絡(luò)流量真實(shí)值和預(yù)測(cè)值，Np為測(cè)試樣本數(shù)。

3.3 重構(gòu)網(wǎng)絡(luò)流量樣本

網(wǎng)絡(luò)流量受到多種因素的影響，具有混沌性，同時(shí)收集到的網(wǎng)絡(luò)流量是一維時(shí)間序列，因此需要通過相空間重理想的延遲時(shí)間(τ)和嵌入維數(shù)(m)對(duì)重構(gòu)網(wǎng)絡(luò)流量學(xué)習(xí)樣本，得到最優(yōu)τ=1，m=5時(shí)，從而采用τ=1，m=5對(duì)預(yù)處理的網(wǎng)絡(luò)流量數(shù)據(jù)進(jìn)行重構(gòu)，得到RVM的網(wǎng)絡(luò)流量學(xué)習(xí)樣本。

3.4 結(jié)果與分析

3.4.1 不含噪的預(yù)測(cè)結(jié)果分析

首先將1 000個(gè)訓(xùn)練樣本進(jìn)行歸一化處理消除樣本值差異太大的不利影響，然后輸入到HRVM中進(jìn)行學(xué)習(xí)，并采用布谷鳥算法搜索參數(shù)d、δ、λ的值，得到的值見表1，然后采用表1的參數(shù)建立網(wǎng)絡(luò)流預(yù)測(cè)模型，其中CS-HRVM擬合和預(yù)測(cè)結(jié)果如圖4。對(duì)圖4進(jìn)行分析，可以看出，CS-HRVM可以對(duì)網(wǎng)絡(luò)流量的變化趨勢(shì)進(jìn)行準(zhǔn)確的跟蹤，預(yù)測(cè)值與真實(shí)值之間的偏差相當(dāng)小，偏差變化范圍相當(dāng)小，獲得比較高精度的網(wǎng)絡(luò)流量擬合和預(yù)測(cè)結(jié)果。

表1 不同網(wǎng)絡(luò)流量模型的參數(shù)值比較

圖4 CS-HRVM的網(wǎng)絡(luò)流量預(yù)測(cè)結(jié)果

CS-HRVM、GA-HRVM、PSO-HRVM、RBF-RVM以及poly-RVM網(wǎng)絡(luò)流量預(yù)測(cè)結(jié)果的MAE、PERR值見表2。對(duì)表2進(jìn)行分析可知，可以得到如下結(jié)果：

（1）RBF-RVM以及poly-RVM的預(yù)測(cè)誤差比較大，預(yù)測(cè)精度高，這表明單一核函數(shù)的RVM只能夠?qū)W(wǎng)絡(luò)流量的線性或非線性變化趨勢(shì)進(jìn)行預(yù)測(cè)，無法建立精度高的網(wǎng)絡(luò)流量預(yù)測(cè)模型。

（2）相對(duì)于單核的相關(guān)向量機(jī)，CS-HRVM、GA-HRVM、PSO-HRVM的網(wǎng)絡(luò)流量預(yù)測(cè)精度得到不同程度的提高，這表明它們可以從多個(gè)方面對(duì)網(wǎng)絡(luò)流量的變化趨勢(shì)進(jìn)行預(yù)測(cè)，預(yù)測(cè)結(jié)果更加理想。

（3）相對(duì)于GA-HRVM、PSO-HRVM，CS-HRVM的網(wǎng)絡(luò)流量預(yù)測(cè)效果更優(yōu)，這主要是由于布谷鳥算法可以獲得更優(yōu)的模型參數(shù)，較好地克服遺傳算法、粒子群優(yōu)化算法存在的局部極優(yōu)缺陷，證明了本文采用布谷鳥算法對(duì)模型參數(shù)進(jìn)行優(yōu)化是有效的、可行性，有利于建立更優(yōu)的網(wǎng)絡(luò)流量預(yù)測(cè)模型。

表2 不同網(wǎng)絡(luò)流量模型的預(yù)測(cè)誤差比較

表3 不同模型的含噪網(wǎng)絡(luò)流量預(yù)測(cè)誤差比較

3.4.2 含噪的測(cè)結(jié)果分析

采用CS-HRVM、GA-HRVM、PSO-HRVM、RBF-RVM以及poly-RVM對(duì)含噪的網(wǎng)絡(luò)流量數(shù)據(jù)預(yù)測(cè)，預(yù)測(cè)結(jié)果如圖5所示。從圖5可以看出，CS-HRVM的預(yù)測(cè)誤差較小，預(yù)測(cè)結(jié)果穩(wěn)定可靠，模型的魯棒性較強(qiáng)。

圖5 CS-HRVM的含噪網(wǎng)絡(luò)流量預(yù)測(cè)結(jié)果

不同模型的含噪網(wǎng)絡(luò)流量預(yù)測(cè)誤差見表3。從表3可知，對(duì)于含噪網(wǎng)絡(luò)流量，CS-HRVM同樣可以獲得更優(yōu)的網(wǎng)絡(luò)流量預(yù)測(cè)結(jié)果，證明了CS-HRVM的優(yōu)越性。

4 結(jié)束語

網(wǎng)絡(luò)流量是一個(gè)復(fù)雜、多變的系統(tǒng)，具有非線性、混沌性和突變性變化規(guī)律，采用傳統(tǒng)網(wǎng)絡(luò)流量難以準(zhǔn)確建立相應(yīng)的預(yù)測(cè)模型，同時(shí)單一核函數(shù)的相關(guān)相向量也無法全面、準(zhǔn)確刻畫網(wǎng)絡(luò)流量的變化趨勢(shì)，為了獲得更加理想的網(wǎng)絡(luò)流量預(yù)測(cè)結(jié)果，提出一種基于布谷鳥搜索算法優(yōu)化組合核相關(guān)向量機(jī)的網(wǎng)絡(luò)流量預(yù)測(cè)模型，并通過仿真對(duì)比實(shí)驗(yàn)測(cè)試本文模型的性能。仿真實(shí)驗(yàn)結(jié)果表明，CS-HRVM是一種預(yù)測(cè)精度、魯棒性強(qiáng)的網(wǎng)絡(luò)流量預(yù)測(cè)模型。

[1]Ames T，Rego C，Glover F.Multistart tabu search and diversification strategies for the quadratic assignment problem[J].IEEE Transactions on Systems，Man，and Cybernetics：Part A Systems and Humans，2009，39：579-596.

[2]王升輝，裘正定.結(jié)合多重分形的網(wǎng)絡(luò)流量非線性預(yù)測(cè)[J].通信學(xué)報(bào)，2007，28（2）：45-50.

[3]Silva C G.Time series forecasting with a nonlinear model and the scatter search meta-heuristic[J].Information Sciences，2008，178（16）：3288-3299.

[4]Este A，Gringoli F，Salgarelli L.Support vector machines for TCP traffic classification[J].Computer Networks，2009，53（14）：2476-2490.

[5]Qi H L，Zhao H，Liu W W，et al.Parameters optimization and nonlinearity analysis of grating eddy current displacement sensor using neural network and genetic algorithm[J].Journal of Zhejiang University Science A，2009，10（8）：1205-1212.

[6]黨小超，郝占軍.基于改進(jìn)Elman神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)[J].計(jì)算機(jī)應(yīng)用，2010，30（10）：2648-2652.

[7]王俊松，高志偉.基于RBF神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量建模及預(yù)測(cè)[J].計(jì)算機(jī)工程與應(yīng)用，2008，44（13）：6-11.

[8]羅赟騫，夏靖波，王渙彬.混沌-支持向量機(jī)回歸在流量預(yù)測(cè)中的應(yīng)用研究[J].計(jì)算機(jī)科學(xué)，2009，6（7）：244-246.

[9]張穎路.基于遺傳算法優(yōu)化支持向量機(jī)的網(wǎng)絡(luò)流量預(yù)測(cè)[J].計(jì)算機(jī)科學(xué)，2008，35（5）：177-179.

[10]趙春暉，張燚.相關(guān)向量機(jī)分類方法的研究進(jìn)展與分析[J].智能系統(tǒng)學(xué)報(bào)，2012，7（4）：294-301.

[11]Tipping M E.Sparse Bayesian learning and the relevance vector machine[J].Journal of Machine Learning Research，2001，12（1）：211-244.

[12]Yang X S，Deb S.Engineering optimization by cuckoo search[J].International Journal of Mathematical Modeling and Numerical optimization，2010，11（4）：330-343.

LI Rong

Wenzhou Radio & Television University, Wenzhou, Zhejiang 410205, China

In order to obtain good forecasting results and describe the change rules network flow, a novel network flow forecasting model is proposed based on Hybrid kernels Relevance Vector Machine and Cuckoo Search algorithm（CS-HRVM）.Firstly, the learning samples are obtained by using phase reconstruction theory, and the hybrid kernels function is used to establish the relevance vector machine, and then the learning samples are input into relevance vector machine to train, and the cuckoo searching algorithm is used to optimize the parameters of model and build the model of network flow, finally,the simulation experiments are carried out to test the performance of the model. The results show that CS-HRVM has obtained higher forecasting accuracy compared with other network flow forecasting model, and can forecast accurately network flow which includes noise.

network flow; phase space reconstruction; relevance vector machine; hybrid kernel function; cuckoo search algorithm

LI Rong. Network flow forecasting based on hybrid kernels RVM and cuckoo search algorithm. Computer Engineering and Applications, 2014, 50（17）：90-94.

A

TP391

10.3778/j.issn.1002-8331.1312-0394

浙江省教育科學(xué)規(guī)劃研究課題（No.2014SCG344）。

李融（1977—），男，講師，主要研究領(lǐng)域：計(jì)算機(jī)應(yīng)用、遠(yuǎn)程教育、網(wǎng)絡(luò)與信息安全、高校智能化建設(shè)。

2013-12-26

2014-03-10

1002-8331（2014）17-0090-05