陳海英

(華中農(nóng)業(yè)大學(xué) 楚天學(xué)院，武漢 430205)

?

一種基于改進(jìn)型RBF神經(jīng)網(wǎng)絡(luò)的非線性時(shí)間序列預(yù)測模型

陳海英

(華中農(nóng)業(yè)大學(xué) 楚天學(xué)院，武漢 430205)

RBF神經(jīng)網(wǎng)絡(luò)具有收斂速度緩慢、全局搜索能力差等缺點(diǎn)，提出了一種基于遺傳算法的RBF神經(jīng)網(wǎng)絡(luò)，經(jīng)過自適應(yīng)遺傳算子參數(shù)優(yōu)化，提高了RBF神經(jīng)網(wǎng)絡(luò)模型的預(yù)測精度，實(shí)現(xiàn)了非線性時(shí)間序列的預(yù)測.仿真實(shí)驗(yàn)結(jié)果表明，基于遺傳算法的RBF網(wǎng)絡(luò)預(yù)測模型非常適合非線性時(shí)間序列的預(yù)測，是可行的、精準(zhǔn)的、有效的.

時(shí)間序列預(yù)測模型；RBF神經(jīng)網(wǎng)絡(luò)；遺傳算法

0 前 言

1987年神經(jīng)網(wǎng)絡(luò)被首次運(yùn)用于預(yù)測，此后便逐漸受到網(wǎng)絡(luò)預(yù)測領(lǐng)域的關(guān)注和重視.目前，不同形式的神經(jīng)網(wǎng)絡(luò)已經(jīng)被運(yùn)用到經(jīng)濟(jì)、工業(yè)和生活等方面的預(yù)測中.但由于神經(jīng)網(wǎng)絡(luò)的自身局限性，導(dǎo)致其具有收斂速度緩慢、全局搜索能力較差的特點(diǎn)，容易造成局部極小值情況，因此在單獨(dú)運(yùn)用的預(yù)測效果方面存在缺陷[1].隨著近年來人工智能學(xué)科的發(fā)展和進(jìn)步，遺傳算法、模糊控制、自適應(yīng)控制等技術(shù)逐漸成熟，神經(jīng)網(wǎng)絡(luò)開始聯(lián)合其他技術(shù)一起應(yīng)用于時(shí)間序列預(yù)測領(lǐng)域.

1 人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)(ANN)是一個(gè)較為復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)，其由大量簡單處理單元構(gòu)成，可模擬出動(dòng)物神經(jīng)網(wǎng)絡(luò)的行為和結(jié)構(gòu).該神經(jīng)網(wǎng)絡(luò)中含有若干個(gè)神經(jīng)元，每個(gè)神經(jīng)元均可向其周邊的神經(jīng)元發(fā)送消息或接收周邊神經(jīng)元發(fā)送過來的消息，各個(gè)神經(jīng)元通過相互合作來實(shí)現(xiàn)網(wǎng)絡(luò)信息的處理.這種網(wǎng)絡(luò)格局具有自適應(yīng)和自學(xué)習(xí)的特點(diǎn)，通過對輸入輸出數(shù)據(jù)的分析，可掌握到相對性的數(shù)據(jù)規(guī)律，并由此推算出數(shù)據(jù)輸出結(jié)果，神經(jīng)網(wǎng)絡(luò)中的這種輸入輸出分析過程就是一種“訓(xùn)練”和“學(xué)習(xí)”過程[2].神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)如圖1所示.

圖1 神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)

2 RBF神經(jīng)網(wǎng)絡(luò)

1988年，Lowe和Broomhead提出了徑向基(RBF)神經(jīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)的隱藏層中擴(kuò)展了一個(gè)“函數(shù)”集，組建起一個(gè)“基”[3].徑向基神經(jīng)網(wǎng)絡(luò)分別包括輸入層、隱含層及輸出層三種形式，為前向神經(jīng)網(wǎng)絡(luò).徑向基(RBF)神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)圖如圖2所示.

圖2 RBF神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)圖

RBF神經(jīng)網(wǎng)絡(luò)內(nèi)的隱節(jié)點(diǎn)基函數(shù)的運(yùn)算采用了距離函數(shù)，其徑向基函數(shù)采用的是激活函數(shù)[4].則RBF分布函數(shù)見公式(1)：

(1)

在公式(1)中，s代表隱含層神經(jīng)元節(jié)點(diǎn)的數(shù)量，也就是徑向基函數(shù)中心個(gè)數(shù)；系數(shù)ωj(j=1,2,…s)代表連接權(quán)重.

RBF神經(jīng)網(wǎng)絡(luò)主要有兩個(gè)映射關(guān)系(其中m代表輸入維數(shù)，n代表輸出維數(shù))；第一部分是指輸入層空間非線性變換至隱含層空間；第二部分是指從隱含層空間線性變化至輸出層空間.也就是：

(2)

在公式(2)中，s為輸出節(jié)點(diǎn)數(shù)，wik表示連接隱含層至輸出層的權(quán)值向量.

在RBF神經(jīng)網(wǎng)絡(luò)內(nèi)，結(jié)構(gòu)內(nèi)的隱含層為訓(xùn)練樣本的中心空間模式，各個(gè)中心之間的位置與其寬度一致.為求得隱含層中各個(gè)神經(jīng)單元基函數(shù)的寬度、中心和連接隱含層至輸出層的權(quán)值，這里在完成輸入至輸出的映射后，實(shí)現(xiàn)對RBF神經(jīng)網(wǎng)絡(luò)的構(gòu)建、學(xué)習(xí)和訓(xùn)練.因此，構(gòu)建具有良好性能的RBF網(wǎng)絡(luò)的關(guān)鍵是設(shè)計(jì)出符合要求的隱含層，并在此基礎(chǔ)上銜接起非線性映射(輸入層至隱含層)和線性映射(隱含層至輸出層)[5].

3 基于自適應(yīng)遺傳算法的RBF神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化

從技術(shù)的角度上來說，RBF神經(jīng)網(wǎng)絡(luò)中的隱單元中心ci，輸出權(quán)重wi，寬度σi值在RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型占有舉足輕重的作用，在很大程度上影響著系統(tǒng)預(yù)測性.然而在實(shí)際運(yùn)算過程中，隱單元中心ci，輸出權(quán)重wi，寬度σi的取值較為困難，為RBF神經(jīng)網(wǎng)絡(luò)的運(yùn)行帶來阻力[6].由于遺傳算法具有較強(qiáng)的搜索能力，本文基于自適應(yīng)遺傳算法的對RBF神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行優(yōu)化，具體步驟如下：

步驟1：初始化

假設(shè)每個(gè)隱節(jié)點(diǎn)的中心參數(shù)ci和寬度參數(shù)σi為染色體，將上述參數(shù)的集合假設(shè)為一組種群，該種群具有M個(gè)隨機(jī)產(chǎn)生的個(gè)體，則得到X=(X1,X2,…,Xn)T，其中種群內(nèi)單個(gè)個(gè)體Xi=(X1,X2,…,Xn)為各個(gè)神經(jīng)網(wǎng)絡(luò)中的初始權(quán)值分布，各個(gè)基因值代表單個(gè)神經(jīng)網(wǎng)絡(luò)中的單個(gè)連接權(quán)值，個(gè)體長度與神經(jīng)網(wǎng)絡(luò)權(quán)值個(gè)數(shù)一致，得到S1+S1×S2+S1+S2，這里采用浮點(diǎn)數(shù)編碼編碼神經(jīng)網(wǎng)絡(luò)內(nèi)的權(quán)值，以獲取較高的權(quán)值運(yùn)算精度.

步驟2：參數(shù)優(yōu)化

w*=wmin+(wmax-wmin)exp(-Δ)

(3)

在公式(3)中，wmax代表種群變化規(guī)模的最大范圍，wmin代表種群變化規(guī)模的最小范圍，△代表種群中適應(yīng)度平均值的增加量.在各代遺傳算法中，將種群內(nèi)最優(yōu)解保存到下一代，以獲取最大代數(shù)和最高權(quán)值運(yùn)算精度.

步驟3：遺傳操作

①選取算子：通過比例運(yùn)算選擇算子，在種群中，適應(yīng)值較大的個(gè)體在被選擇概率方面較大，假設(shè)有第i個(gè)個(gè)體，則該個(gè)體被選擇的概率可由下式求出：

(4)

在公式(4)中，w代表種群規(guī)模，pi代表個(gè)體i在種群內(nèi)的適應(yīng)度.

②交叉算子：本文采用了浮點(diǎn)編碼方式對個(gè)體進(jìn)行編碼處理，因此在此采用交叉算子進(jìn)行種群內(nèi)的算術(shù)交叉處理.假設(shè)交叉概率為pc，種群內(nèi)未進(jìn)行交叉處理的個(gè)體自行復(fù)制，可得到下式：

(5)

③變異算子：選取適量均勻變異算子，與基因座中的基因值相對應(yīng)；假設(shè)變異概率為Pm，隨機(jī)選擇對應(yīng)基因取值范圍內(nèi)的任意數(shù)進(jìn)行.

(6)

④在初始化種群內(nèi)插入變異后的新個(gè)體，并對群眾的評價(jià)函數(shù)進(jìn)行重新運(yùn)算.

⑤若尋求到滿意的個(gè)體，則結(jié)束搜尋，進(jìn)入步驟2.

完成上述操作后，得到神經(jīng)網(wǎng)絡(luò)中的最優(yōu)初始權(quán)值，通過RBF算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)，取得最優(yōu)解.

4 仿真實(shí)驗(yàn)與分析

本文采用的實(shí)驗(yàn)平臺基本數(shù)據(jù)如下：Windows XP ，1 GB內(nèi)存， Athlon 64x2 Dual Core Processor 3600 1. 91 GHz，MatlabR2007b.

將本文提出的預(yù)測模型運(yùn)用于某地2013年全年的月平均溫度值的預(yù)測，為消除原始數(shù)據(jù)之間的差異，采用歸一化處理原始樣本數(shù)據(jù).經(jīng)處理得到的2012年1月～12月溫度序列分別為5.0 ℃、7.1 ℃、11.0 ℃、13.5 ℃、21.3 ℃、26.0 ℃、27.9 ℃、29.9 ℃、25.3 ℃、17.8 ℃、13.8 ℃、7.8 ℃.將2012年全年的月平均溫度記作m，由此預(yù)測出m+1～m+12的數(shù)據(jù).假設(shè)遺傳算法內(nèi)的初始種群大小為w=50，遺傳代數(shù)最大值為100代，變異概率pm=0. 009，交叉概率Pc=0.9，訓(xùn)練誤差為0. 001，RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)速率為0. 03，該算法的迭代步長為10，最大迭代次數(shù)為5000次.

基于RBF神經(jīng)網(wǎng)絡(luò)模型的月溫度預(yù)測值見下表1所示.由表可知，由RBF神經(jīng)網(wǎng)絡(luò)模型計(jì)算得出的預(yù)測結(jié)果的最大和最小誤差值分別為17.37 %和1.42 %，由此可得出該預(yù)測模型的平均相對誤差值為7.73 %，而月溫度值的絕對誤差最大值和最小值分別為1.7 ℃和0.5 ℃，其絕對誤差的平均值為1.12 ℃.上述結(jié)果表明RBF神經(jīng)網(wǎng)絡(luò)模具有較高的預(yù)測精度，其預(yù)測得出的結(jié)果可有效反映出該地每月溫度時(shí)間的變化規(guī)律.

表1 基于RBF神經(jīng)網(wǎng)絡(luò)模型的月溫度預(yù)測值

圖3 基于RBF神經(jīng)網(wǎng)絡(luò)的溫度預(yù)測圖

由圖3可知，改進(jìn)型RBF神經(jīng)網(wǎng)絡(luò)在網(wǎng)絡(luò)預(yù)測精度方面顯著優(yōu)于傳統(tǒng)的BP網(wǎng)絡(luò)模型，與實(shí)際值相對接近，在均方誤差和相對誤差方面均小于BP網(wǎng)絡(luò)預(yù)測模型，具有較高的收斂性.

5 結(jié) 語

較傳統(tǒng)的預(yù)測方法而言，神經(jīng)網(wǎng)絡(luò)的預(yù)測方式在很大程度上解決了非線性復(fù)雜動(dòng)力系統(tǒng)問題，在社會(huì)經(jīng)濟(jì)和自然現(xiàn)象中有較好的運(yùn)用效果.實(shí)驗(yàn)結(jié)果表明，基于遺傳算法的RBF網(wǎng)絡(luò)預(yù)測模型可有效運(yùn)用于非線性時(shí)間序列的預(yù)測，具體可行性、精準(zhǔn)性和有效性特點(diǎn)，在時(shí)間序列的預(yù)測領(lǐng)域具有廣闊的發(fā)展前景.

[1] 張傳斌,王學(xué)孝,鄧正隆.非線性時(shí)間序列的RBF神經(jīng)網(wǎng)絡(luò)預(yù)測方法及其應(yīng)用[J].熱能動(dòng)力工程,2001,16(3):311-312,342.

[2] 韓 敏,王 晨,席劍輝.基于改進(jìn)RBF神經(jīng)網(wǎng)絡(luò)的非線性時(shí)間序列預(yù)測[J].儀器儀表學(xué)報(bào),2003,24(Z1):574-575.

[3] 甘 敏,彭 輝,陳曉紅.RBF-AR模型在非線性時(shí)間序列預(yù)測中的應(yīng)用[J].系統(tǒng)工程理論與實(shí)踐,2010,30(6):1055-1061.

[4] 張冬青,寧宣熙,劉雪妮.基于RBF神經(jīng)網(wǎng)絡(luò)的非線性時(shí)間序列在線預(yù)測[J].控制理論與應(yīng)用,2009,26(2):151-155.

[5] 段其昌,趙 敏,王大興.一種改進(jìn)PSO優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)的新方法[J].計(jì)算機(jī)仿真,2009,26(12):126-129.

[6] 郭蘭平,俞建寧,張旭東,漆玉娟,張建剛.基于改進(jìn)RBF神經(jīng)網(wǎng)絡(luò)的混沌時(shí)間序列預(yù)測[J].云南民族大學(xué)學(xué)報(bào)(自然科學(xué)版),2011,20(1):63-70.

[7] GUO Lanping,YU Jianning,ZHANG Jiangang,QI Yujuan,ZHANG Xudong.Nonlinear Time Series Forecasting of RBF Neural Network Based on Genetic Algorithm[J].Journal of Hebei Normal University,2011,35(3).

[8] WU Chun-guo , ZHU Shi-zhao , WANG Bing-hong , GUAN Yu-hang.POD-based Radial Basis Function Neural Network for Nonlinear Time Series Prediction[J].Mini-micro Systems,2013,34(8).

Research on Nonlinear Time Series Forecasting Model Based on Improved RBF Neural Network

CHEN Hai-ying

(Chutian college Huazhong Agricultural University Hubei, Wuhan 430205，China)

The RBF neural network has the disadvantages of slow convergence speed and leak global searching ability, this paper presents a RBF neural network based on genetic algorithm, improves the prediction accuracy of RBF neural network prediction model and realizes nonlinear time sequence after adapting genetic operator parameters optimization. The simulation experiment results show that the prediction of RBF network prediction model is very suitable for the genetic algorithm based on nonlinear time series. It is feasible, accurate and effective.

time series forecasting model; RBF neural network; genetic algorithm

2014-11-08

陳海英(1976-)，女，碩士，副教授，研究方向：高等數(shù)學(xué)教育教學(xué).

O244

A

1671-119X(2015)01-0041-03