摘 要:將微粒群算法引入到最小二乘支持向量機(jī)(L-VM)時(shí)間序列預(yù)測(cè),建立預(yù)測(cè)模型。思路來(lái)自微粒群算法可以在超平面空間中實(shí)現(xiàn)優(yōu)化搜索,因此,將微粒群算法中的微粒運(yùn)動(dòng)公式進(jìn)行修正,從而實(shí)現(xiàn)對(duì)L-VM 的訓(xùn)練。然后用訓(xùn)練過(guò)的L-VM進(jìn)行預(yù)測(cè),即得到最終結(jié)果。將此方法應(yīng)用于銷(xiāo)售量預(yù)測(cè),結(jié)果表明,此模型有更高的預(yù)測(cè)精度,而且在不同的L-VM學(xué)習(xí)參數(shù)下模型的誤差相對(duì)穩(wěn)定。
關(guān)鍵詞:支持向量機(jī);微粒群算法;時(shí)間序列預(yù)測(cè);超平面空間
ime eries Forecasting via Least quares upport Vector Machine
[JZ]Based on Particle warm Optimization
LIN Qing,BAI Zhenxing
(Engineering College,Air Force Engineering University,Xi′an,710038,China)
Abstract:he Particle warm Opimization(PO) are introduced to the time series forecasting method based on Least quares upport Vector Machine (L-VM),then the forecasting model is establishedhe feature that PO can optimize the procedure of searching in hyperplane space inspires the mindBy modifying the velocity equation of particle in original PO,the training of L-VM is realizedhen forecasting result is obtained by using L-VM which is trained by POhis method is applied in the sales volume predictionhe result indicates that the forecasting model has higher forecasting accuracy and steadier forecasting error at different L-VM parameters
Keywords:support vector machine;particle swarm optimization;time series forecasting;hyperplane space
20世紀(jì)90年代由Vapnik[1]提出的支持向量機(jī)技術(shù),是基于學(xué)習(xí)統(tǒng)計(jì)理論的數(shù)據(jù)挖掘的一項(xiàng)新技術(shù),是人工智能發(fā)展的新分支,近年來(lái)其理論研究和算法實(shí)現(xiàn)方面都有突破性進(jìn)展,開(kāi)始成為克服“維數(shù)災(zāi)難”和“過(guò)學(xué)習(xí)”等傳統(tǒng)困難的有利手段。
微粒群算法(Particle warm Optimization,PO)是由James Kenndy博士和Russell Eberhart博士于199年提出的一種演化計(jì)算技術(shù)[2]。該算法中將鳥(niǎo)群運(yùn)動(dòng)模型中的棲息地類(lèi)比于所求問(wèn)題解空間中可能解的位置,通過(guò)個(gè)體間的信息傳遞,導(dǎo)引整個(gè)群體向可能解的方向移動(dòng),在求解過(guò)程中逐步增加發(fā)現(xiàn)較好解的可能性。
訓(xùn)練支持向量機(jī)需要求解一線性約束二次最優(yōu)問(wèn)題。微粒群算法是來(lái)自群體智能的直觀而易于實(shí)現(xiàn)的算法,而且被認(rèn)為是一種新型的訓(xùn)練支持向量機(jī)的方法[3]。該方法無(wú)需復(fù)雜的數(shù)學(xué)計(jì)算。在支持向量機(jī)的優(yōu)化問(wèn)題中,線性微粒群優(yōu)化算法是一種較好的可選方法。
1最小二乘支持向量機(jī)
JAKuykens[4]在1999年首次提出L-VM支持向量機(jī)(Least quares upport Vector Machines,L-VM)用于解決分類(lèi)和函數(shù)估計(jì)問(wèn)題。這種方法采用最小二乘線性系統(tǒng)作為損失函數(shù),代替?zhèn)鹘y(tǒng)的支持向量機(jī)采用二次規(guī)劃方法,這種方法的優(yōu)點(diǎn)是能夠解決大尺度問(wèn)題,并且具有較好的推廣性和很強(qiáng)的魯棒性,但是卻是以支持向量機(jī)解的稀疏性損失為代價(jià)的。回歸L-VM支持向量機(jī)算法