李 娜,南新元,李志南
(新疆大學(xué) 電氣工程學(xué)院,新疆 烏魯木齊 830047)
基于磷蝦群算法優(yōu)化的SVR-ARMA組合模型的ORP預(yù)測*
李娜,南新元,李志南
(新疆大學(xué) 電氣工程學(xué)院,新疆 烏魯木齊 830047)
為了實現(xiàn)生物氧化提金預(yù)處理過程中關(guān)鍵參數(shù)的準確預(yù)測,提出一種基于磷蝦算法優(yōu)化的SVR-ARMA組合預(yù)測模型。該改進的組合預(yù)測模型把具有較好連續(xù)空間非線性尋優(yōu)性能的磷蝦群算法用于SVR模型的參數(shù)優(yōu)化過程,對原始數(shù)據(jù)進行預(yù)測,然后用ARMA模型對SVR模型產(chǎn)生的線性殘差進行預(yù)測,將兩部分的預(yù)測值幾何相加得到最終預(yù)測值。仿真結(jié)果表明,與基本SVR模型、KH-SVR模型和SVR-ARMA組合預(yù)測模型相比,該改進模型具有更高的預(yù)測精度,能夠滿足對氧化還原電位(ORP)的精準預(yù)測。
磷蝦群算法;SVR-ARMA;組合模型;氧化還原電位預(yù)測
生物氧化提金作為一種有效的難處理金礦石選冶方法,生物氧化預(yù)處理過程是其非常重要的工藝過程,對于提高黃金產(chǎn)量至關(guān)重要。該過程影響提金率的關(guān)鍵指標(biāo)是氧化還原電位(ORP),如果能夠提前預(yù)知電位的大小就能夠動態(tài)地調(diào)整工藝參數(shù),對于預(yù)處理過程平穩(wěn)有效進行具有重大意義。由于該工藝過程具有復(fù)雜、非線性、不確定性等特征,很難建立精確的數(shù)學(xué)模型,因此本文采用具有良好泛化能力和跟蹤能力的 SVR-ARMA組合預(yù)測模型對 ORP進行預(yù)測[1-2]。
組合模型是Bates和Granger[3]于1969年首次提出的,經(jīng)過幾十年的發(fā)展已非常廣泛應(yīng)用于經(jīng)濟、旅游、交通等各個領(lǐng)域,通過各界專家學(xué)者的研究,一定程度上證實組合模型比單一模型具有更好的預(yù)測精度[4-5]。SVRARMA作為一種有效的組合模型,很多學(xué)者依靠現(xiàn)實背景對其預(yù)測精度進行了研究,如梁昌勇等基于該模型進行景區(qū)日旅游量需求預(yù)測[6],梁海嘯應(yīng)用 SVM-ARMA模型進行青藏鐵路風(fēng)速的預(yù)測[7]等。一些學(xué)者對該模型進行了改進,如劉大同等基于AOSVR-ARMA模型進行在線錯誤預(yù)報[8],謝思洋等利用模糊信息?;?GA-SVMARMA算法進行原油價格指數(shù)的預(yù)測[9]等。研究表明,SVR-ARMA模型同時具有線性和非線性特征,與單一模型相比,泛化能力更強,預(yù)測精度更高,魯棒性更好。
磷蝦群算法(Krill Herd,KH)是一種新的元啟發(fā)式群智能優(yōu)化算法,由 Gandomi等人于 2012年提出[10],該算法模擬的是磷蝦群在特定的生物環(huán)境中的羊群效應(yīng)。KH算法主要體現(xiàn)蝦群覓食過程中的運動特點,每個磷蝦個體的活動受到食物和周圍磷蝦個體的影響,因此每個磷蝦個體通過全局最優(yōu)食物信息和相鄰個體的局部位置信息的共同引導(dǎo)向全局最優(yōu)點進行移動。通過實驗驗證,KH算法能夠較好地均衡算法的全局勘探和局部開發(fā)能力,算法尋優(yōu)精度高,可控參數(shù)少,容易實現(xiàn)。本文將KH算法應(yīng)用于SVR-ARMA組合預(yù)測模型中,對SVR模型的參數(shù)進行尋優(yōu),實驗結(jié)果表明本文所提出預(yù)測模型的有效性。
1.1支持向量回歸機(SVR)
支持向量回歸機(SVR)作為支持向量機研究中的一個重要方向,在回歸預(yù)測中得到廣泛的應(yīng)用。其建模原理表述如下:
對于給定的數(shù)據(jù)集合:X={(xi,yi)|xi∈Rn,yn∈R,i=1,2,…},構(gòu)造一個回歸函數(shù):
其中,ω為權(quán)重矢量,b為偏置,φ(x)把輸入向量 x映射到特征空間中。引入不敏感損失函數(shù)ε和松弛變量ξ和,為了使估計風(fēng)險最小化,支持向量回歸機可以表示為如下的二次規(guī)劃問題:
其中,C>0,稱為懲罰因子。引入拉格朗日系數(shù) ai、,將上式轉(zhuǎn)化成一個對偶問題:
式中,K(xi,xj)=φ(xi)代表核函數(shù)。不同的核函數(shù)能夠影響模型的性能,本文用泛化性能較好的RBF核函數(shù)構(gòu)造模型,最終得到支持向量機模型函數(shù):
1.2ARMA模型
ARMA模型是由Box、Jenkins創(chuàng)立的一種隨機時間序列模型,是最成熟的統(tǒng)計學(xué)方法之一[11]。用ARMA方法可以通過有限的樣本數(shù)據(jù)進行建模,通過擬合得到所研究時間序列的數(shù)學(xué)模型,然后推導(dǎo)出預(yù)測模型。該模型由自回歸模型(AR)和移動平均模型(MA)組成,表達式如下:
式中 ξt為白噪聲序列,ai、bj分別表示自回歸參數(shù)和移動平均參數(shù)。該模型表示的是系統(tǒng)響應(yīng)不但與t時刻的以前時刻的值有關(guān),還與以前時刻進入系統(tǒng)的擾動因素有關(guān)。
1.3SVR-ARMA組合預(yù)測模型
假設(shè)有一給定時間序列 X=(x1,x2,…,xn),首先用基本的SVR模型進行非線性回歸預(yù)測,求出預(yù)測序列,然后建立基于 SVR殘差序列(e1,e2,…,en)的 ARMA模型,用該模型進行殘差的預(yù)測值,最后將SVR的預(yù)測序列和ARMA的殘差預(yù)測序列相加,得到最終的預(yù)測序列。SVR-ARMA組合模型表示如下:
通過分析可知,SVR-ARMA模型雖然結(jié)合了兩者的優(yōu)點,但是也存在不足。由于SVR模型并不是最優(yōu)的,所以有可能組合模型也不是最優(yōu)的,不能很好地提高預(yù)測精度,所以本文提出一種優(yōu)化SVR模型的方法,找到一種優(yōu)化的SVR-ARMA模型,使得最終的預(yù)測精度進一步提高。
2.1基本磷蝦群算法
在磷蝦群算法中,每個磷蝦個體的適應(yīng)度函數(shù)被定義為該個體距離食物和群體最高密度的距離的結(jié)合。單個磷蝦個體的實時位置由以下 3個基本活動決定[12-13]:
(1)其他個體的誘導(dǎo)運動
KH算法采用了拉格朗日d維決策空間:
其中Ni是第i個磷蝦個體感應(yīng)其他個體后的活動,F(xiàn)i是覓食活動,Di是物理擴散。
對于一個磷蝦個體而言,感應(yīng)活動定義如下:
(2)覓食行為
覓食活動可以由食物的方位和關(guān)于食物方位的前次經(jīng)驗來定義,第i個磷蝦個體的覓食可以如下式表示:
(3)隨機擴散
物理擴散被認為是一個隨機過程,這個運動過程由最大擴散速度和隨機方向矢量來表示,定義如下:
其中,Dmax代表最大擴散速度,δ是隨機方向矢量,它是一個陣列數(shù)為[-1,1]的隨機矩陣。尋優(yōu)過程中使用不同的有效參數(shù),磷蝦個體從t到t+Δt時間間隔內(nèi)的位置矢量變化表示如下:
不難看出,這里Δt是一個重要的參數(shù),要根據(jù)優(yōu)化問題謹慎設(shè)定。這是因為,這個參數(shù)相當(dāng)于速度矢量的一個比例因子,完全取決于搜索空間。Δt可由下式獲得:
其中,M是變量的總數(shù),LBj和 UBj分別為j維向量的下限和上限(j=1,2,…,M),因此,它們差的絕對值即為搜索范圍。根據(jù)經(jīng)驗所得 Ct是一個[0,2]的常數(shù),且 Ct的取值越大,有利于全局搜索;Ct的值越小,越有利于局部搜索。
2.2KH-SVR優(yōu)化模型
SVR模型的泛化能力和回歸精度由懲罰函數(shù)C和RBF函數(shù)的參數(shù)δ2直接相關(guān),鑒于 KH算法能夠較好的均衡算法的聚集和發(fā)散,具有很好的尋優(yōu)性能,采用KH算法對參數(shù)(C,δ2)進行優(yōu)化。算法具體步驟如下:
(1)采用歸一化公式處理初始數(shù)據(jù),然后將歸一化的數(shù)據(jù)進行一次累加,數(shù)據(jù)歸一化的公式為:
其中 xi,j代表樣本值的第i行 j列原始數(shù)據(jù),xmax代表最大值,xmin代表最小值。
(2)初始化:設(shè)定磷蝦群體規(guī)模pn,最大迭代次數(shù) NP,隨機產(chǎn)生 m個磷蝦個體,設(shè)定 Vf、Dmax、Nmax以及交叉概率pc;
(3)隨機產(chǎn)生 pn個初始個體 xi,r=1,根據(jù)xi計算個體適應(yīng)度值,并確定當(dāng)前最優(yōu)的磷蝦位置 xbest;
(4)每個個體按照式(8)~(10)計算其運動向量,按照式(11)更新位置。
(5)r=r+1,更新個體的適應(yīng)度值,確定當(dāng)前最優(yōu)磷蝦位置 xbest;
(6)判斷是否到達最大迭代次數(shù),沒有返回步驟(2),否則跳出循環(huán),輸出最優(yōu)位置 xbest到 SVR模型中,進行預(yù)測。
通過上述分析,本文建立的KH-SVR-ARMA組合預(yù)測模型對氧化還原電位進行預(yù)測的過程如下:(1)首先利用具有良好尋優(yōu)性能的KH算法進行SVR模型的參數(shù)尋優(yōu),用優(yōu)化后的模型對氧化還原電位進行預(yù)測。(2)其次,求出SVR模型的預(yù)測殘差,用ARMA模型對殘差進行預(yù)測。由于KH-SVR已經(jīng)對數(shù)據(jù)的非線性做了很好的處理,預(yù)測殘差主要體現(xiàn)了數(shù)據(jù)的線性特征部分,使用經(jīng)常用于線性特征的ARMA模型,能夠進一步提高預(yù)測精度。(3)最后,將兩部分預(yù)測結(jié)果幾何相加得到預(yù)測值。預(yù)測流程圖如圖1所示。
圖1 改進的組合預(yù)測流程圖
本文以新疆某金礦的實際生產(chǎn)為背景,以現(xiàn)場實際數(shù)據(jù)作為輸入數(shù)據(jù),對氧化還原電位進行預(yù)測。選取現(xiàn)場一個生產(chǎn)周期6天576組數(shù)據(jù)作為模型的原始數(shù)據(jù),其中,訓(xùn)練數(shù)據(jù) 480組,測試數(shù)據(jù)96組。
為了驗證本文算法的有效性,以預(yù)測樣本的均方誤差(MSE)和模型決定系數(shù)評判模型的性能,其定義如下:
本文選取基本的SVR、KH-SVR、SVR-ARMA組合預(yù)測模型分別進行ORP的預(yù)測,與本文方法進行對比試驗。實驗中算法的參數(shù)設(shè)置為:種群規(guī)模pn=20,變量維數(shù)N=20,最大迭代次數(shù)nIter=100,獨立運行次數(shù) nRun=20,設(shè)置 KH算法的最大移動步長 Nmax為 0.01,最大覓食速度 Vf為 0.02,最大擴散速度 Dmax為 0.005,時間常量Ct為0.5。SVR、KH-SVR、SVR-ARMA和KH-SVRARMA的預(yù)測結(jié)果分別如圖2~5所示。
表1數(shù)據(jù)為模型訓(xùn)練完成后,所得預(yù)測樣本的均方誤差(MSE)值和模型決定系數(shù)。
圖2 SVR模型ORP預(yù)測結(jié)果
圖3 KH-SVR模型ORP預(yù)測結(jié)果
圖4 SVR-ARMA模型ORP預(yù)測結(jié)果
圖5 本文模型ORP預(yù)測結(jié)果
表1 4種模型性能對比
結(jié)合圖2~圖5的結(jié)果可以看出,本文采用的KHSVR-ARMA模型與基本的SVR-ARMA組合預(yù)測模型相比,預(yù)測誤差更小,預(yù)測效果更好,更接近實際ORP數(shù)據(jù)。
SVR-ARMA是一種比較有效的組合預(yù)測方法,具有較強的泛化能力和預(yù)測精度,但是也存在由于單一模型精度不高影響組合預(yù)測精度的問題。針對這一問題,本文提出一種基于KH算法優(yōu)化的SVR-ARMA組合模型的氧化還原電位預(yù)測方法,用KH算法優(yōu)化SVR的關(guān)鍵參數(shù),代替SVR模型參數(shù)的網(wǎng)格尋優(yōu)法,尋找最優(yōu)參數(shù)。實驗結(jié)果表明,基于KH的SVR優(yōu)化參數(shù)的模型精度更高,泛化能力好,模型的性能更好。將改進模型的預(yù)測殘差用ARMA模型進行殘差預(yù)測,與SVR-ARMA的預(yù)測結(jié)果對比,KHSVR-ARMA得到的預(yù)測結(jié)果預(yù)測精度更高,為氧化還原電位預(yù)測提供了一個更有效的方法。
[1]楊瑋.復(fù)雜難處理金精礦提取及綜合回收的基礎(chǔ)研究與應(yīng)用[D].長沙:中南大學(xué),2011.
[2]YEE N,F(xiàn)EIN J B,DAUGHNEY C J.Experimental study of the pH,ionic strength,and reversibility behavior of bacteriamineral adsorption[J].Geochimica ET Cosmochimica Acta,2000,64(4):609-617.
[3]BATES J M,GRANGER C W J.The combination of forecasts[J].Operational Research Society,1969,20(4):451-468.
[4]KISINBAY T.The use of encompassing tests for forecast combinations[M].American,International Monetary Fund,2007.
[5]LEMKE C,GABRYS B.Meta-learning for time series forecasting and forecast combination[J].Neuro computing,2010,73(10):2006-2016.
[6]梁昌勇,馬銀超,陳榮,等.基于SVR-ARMA組合模型的日旅游需求預(yù)測[J].管理工程學(xué)報,2015(1):122-127.
[7]梁海嘯.青藏鐵路大風(fēng)監(jiān)測預(yù)警系統(tǒng)風(fēng)速預(yù)測算法研究[D].長沙:中南大學(xué),2010.
[8]Liu Datong,Peng Yu,Peng Xiyuan.Online fault prediction based on combined AOSVR and ARMA models[C].IEEE Circuits and Systems International Conference on.IEEE,2009:1-4.
[9]謝思洋.原油價格預(yù)測及其波動對航運業(yè)影響分析[D].大連:大連海事大學(xué),2012.
[10]GANDOMI A H,ALAVI A H.Krill herd:a new bioinspired optimization algorithm[J].Communications in Nonlinear Science and Numerical Simulation,2012,17(12):4831-4845.
[11]BOX G E P,JENKINS G M,REINSEL G C.Time series analysis:forecasting and control[M].American,John Wiley &Sons,2011.
[12]WANG G G,GANDOMI A H,ALAVI A H.Stud krill herd algorithm[J].Neurocomputing,2014,128(5):363-370.
[13]WANG G G,GUO L,GANDOMI A H,et al.Chaotic krill herd algorithm[J].Information Sciences,2014,274(1):17-34.
Prediction of ORP based on SVR-ARMA combination forecasting model improved by the krill herd algorithm
Li Na,Nan Xinyuan,Li Zhinan
(College of Electrical Engineering,Xinjiang University,Urumqi 830047,China)
In order to accurately predict the key parameters in the process of biological oxidation pretreatment,a new SVR-ARMA combination forecasting model based on the krill herd algorithm optimization is proposed.Firstly,the improved combination forecast model applies the krill herd algorithm which is good in nonlinear continuous space optimization performance to the parameter optimization process of SVR model and the original data is predicted.Then the ARMA predict model is used to forecast the linear residual of the SVR model and those two parts of projection geometry are added to get the final forecast data.The results show that,compared with the SVR-ARMA combination forecast model and the KH-SVR model,the improved model in this paper has higher prediction accuracy and can satisfy the precision of oxidation reduction potential(ORP)predict.
krill herd algorithm;SVR-ARMA;combination forecasting;ORP prediction
TF04;TP273
A
10.16157/j.issn.0258-7998.2015.10.042
國家自然科學(xué)基金(61463047)
2015-06-03)
李娜(1991-),女,碩士,主要研究方向:計算機控制技術(shù)。
南新元(1967-),通信作者,男,碩士,主要研究方向:現(xiàn)場總線技術(shù),E-mail:xynan@xju.edu.cn。
中文引用格式:李娜,南新元,李志南.基于磷蝦群算法優(yōu)化的SVR-ARMA組合模型的ORP預(yù)測 [J].電子技術(shù)應(yīng)用,2015,41(10):154-157.
英文引用格式:Li Na,Nan Xinyuan,Li Zhinan.Prediction of ORP based on SVR-ARMA combination forecasting model improved by the krill herd algorithm[J].Application of Electronic Technique,2015,41(10):154-157.