孔玲爽，龔小龍，周維龍

（湖南工業(yè)大學(xué) 電氣與信息工程學(xué)院，湖南 株洲 412007）

非線性時(shí)間序列B樣條優(yōu)化網(wǎng)絡(luò)預(yù)測(cè)模型及工業(yè)應(yīng)用

孔玲爽，龔小龍，周維龍

（湖南工業(yè)大學(xué) 電氣與信息工程學(xué)院，湖南 株洲 412007）

為有效實(shí)現(xiàn)非線性時(shí)間序列的實(shí)時(shí)預(yù)測(cè)，建立了一種B樣條優(yōu)化網(wǎng)絡(luò)預(yù)測(cè)模型。在網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)中，將各個(gè)樣條基函數(shù)的權(quán)值參數(shù)和節(jié)點(diǎn)位置同時(shí)視為待優(yōu)化的獨(dú)立變量，并選擇預(yù)測(cè)誤差平方和為評(píng)價(jià)函數(shù)，設(shè)計(jì)了一種全局優(yōu)化算法，對(duì)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行優(yōu)化。工業(yè)仿真實(shí)驗(yàn)結(jié)果表明，所提出的優(yōu)化網(wǎng)絡(luò)預(yù)測(cè)模型具有較高的預(yù)測(cè)精度，而且結(jié)構(gòu)簡(jiǎn)單，待優(yōu)參數(shù)少，是一種有效的非線性時(shí)間序列預(yù)測(cè)方法。

非線性時(shí)間序列；B樣條網(wǎng)絡(luò)；預(yù)測(cè)模型；工業(yè)過(guò)程

1　背景知識(shí)

時(shí)間序列預(yù)測(cè)問(wèn)題廣泛存在于經(jīng)濟(jì)、金融、氣象、氣候、環(huán)境以及工業(yè)生產(chǎn)等領(lǐng)域。時(shí)間序列是將某種統(tǒng)計(jì)指標(biāo)的數(shù)值按時(shí)間先后順序排列所形成的數(shù)列。時(shí)間序列預(yù)測(cè)方法通過(guò)編制和分析時(shí)間序列，根據(jù)其所反映出來(lái)的發(fā)展過(guò)程、方向和趨勢(shì)，進(jìn)行類推或延伸，借以預(yù)測(cè)下一段或以后若干時(shí)間可能達(dá)到的水平［1］。由于時(shí)間序列本身的隨機(jī)特性，許多預(yù)測(cè)方法都是基于統(tǒng)計(jì)學(xué)原理的，比如自回歸（autoregressive，AR）模型、滑動(dòng)平均（moving average，MA）模型和差分自回歸滑動(dòng)平均（autoregressive integrated moving average，ARIMA）模型等。這些預(yù)測(cè)方法主要適用于同方差和單變量的線性問(wèn)題。盡管在許多實(shí)際應(yīng)用中，線性模型基本上可行，然而近些年來(lái)，研究者越來(lái)越清楚地看到它們諸多的局限性（例如它們無(wú)法產(chǎn)生帶有非堆成周期的數(shù)據(jù)，它們通常是時(shí)間可逆的）?，F(xiàn)實(shí)問(wèn)題要求人們不得不以“非線性”來(lái)看待時(shí)間序列，并不斷地改進(jìn)模型。

針對(duì)時(shí)間序列的非線性建模方法主要有門限自回歸（self-exciting threshold autoregressive，SETAR）模型、雙線性（bilinear，BL）模型和指數(shù)自回歸（exponential artoregressive，EAR）模型等［2］。其中，SETAR是最簡(jiǎn)單的一種非線性時(shí)間序列模型。

隨著智能技術(shù)的發(fā)展和優(yōu)勢(shì)，人工神經(jīng)網(wǎng)絡(luò)逐漸成為非線性時(shí)間序列預(yù)測(cè)的有效工具［3-8］。理論上，如果隱層神經(jīng)元數(shù)目足夠多，人工神經(jīng)網(wǎng)絡(luò)可以以任意精度逼近非線性系統(tǒng)。然而，通常的神經(jīng)網(wǎng)絡(luò)具有多層感知，結(jié)構(gòu)復(fù)雜且難于理解。為此，研究者提出一種基于網(wǎng)格的徑向基函數(shù)網(wǎng)絡(luò)來(lái)近似非線性系統(tǒng)，但對(duì)于如何選擇網(wǎng)格點(diǎn)沒有進(jìn)一步的討論和研究。另一類人工神經(jīng)網(wǎng)絡(luò)是模糊聯(lián)想記憶神經(jīng)網(wǎng)絡(luò)，它采用基函數(shù)的線性組合來(lái)近似非線性系統(tǒng)，這類網(wǎng)絡(luò)的結(jié)構(gòu)更容易理解。對(duì)于這類網(wǎng)絡(luò)，基函數(shù)有多種選擇，最常用的基函數(shù)是徑向基核函數(shù)，但徑向基核函數(shù)難以確定中心值和寬度參數(shù)［9-11］。另一類常用的基函數(shù)是B樣條基函數(shù)，它是用分段多項(xiàng)式來(lái)表示的函數(shù)，網(wǎng)絡(luò)結(jié)構(gòu)為B樣條基函數(shù)的線性組合［12-13］。在B樣條網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計(jì)中，節(jié)點(diǎn)的選擇對(duì)于網(wǎng)絡(luò)的預(yù)測(cè)精度非常重要。但在大多數(shù)研究中，由于理論的缺乏，節(jié)點(diǎn)往往被預(yù)先設(shè)定，或者當(dāng)近似精度不能滿足要求時(shí)，均勻地增加節(jié)點(diǎn)，這2種方法都不能實(shí)現(xiàn)節(jié)點(diǎn)的最優(yōu)設(shè)置，所以網(wǎng)絡(luò)的近似精度往往不如人意［14-15］。

本文擬采用一種節(jié)點(diǎn)優(yōu)化B樣條神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)某冶金過(guò)程非線性時(shí)間序列參數(shù)的預(yù)測(cè)。該網(wǎng)絡(luò)將B樣條基函數(shù)的節(jié)點(diǎn)視為獨(dú)立決策變量，在網(wǎng)絡(luò)訓(xùn)練過(guò)程中，與網(wǎng)絡(luò)參數(shù)一起優(yōu)化；為避免優(yōu)化過(guò)程陷入局部最小，設(shè)計(jì)了一種隨機(jī)優(yōu)化算法進(jìn)行全局尋優(yōu)計(jì)算。仿真結(jié)果表明，在具有相同精度的條件下，與徑向基核函數(shù)網(wǎng)絡(luò)相比，B樣條優(yōu)化網(wǎng)絡(luò)具有更簡(jiǎn)單的結(jié)構(gòu)和更低的計(jì)算成本。

2　B樣條函數(shù)

B樣條函數(shù)是一個(gè)分段多項(xiàng)式，它可表示為B樣條基函數(shù)的線性組合。為了簡(jiǎn)單，本研究先討論一維樣條函數(shù)。

式中k和m均為正整數(shù)。

這樣，在［a， b］上，m階的標(biāo)準(zhǔn)樣條基函數(shù)可表示為i，m，i=-m+1， -m+2， …， k。其定義為

對(duì)于任意m≥1，B樣條基函數(shù)滿足：

實(shí)質(zhì)上，基函數(shù)是對(duì)單位1的一種分割，即有

當(dāng)m≥3時(shí)，基函數(shù)在（-∞， +∞）上是光滑的。

這樣，一個(gè)m階的一維B樣條函數(shù) （x， x）定義為基函數(shù)的線性組合，即：

式中ci是待定常數(shù)，其中i=-m+1，-m+2，…， k。

3　非線性時(shí)間序列B樣條優(yōu)化網(wǎng)絡(luò)

設(shè)有一非線性時(shí)間序列｛y1， y2， …， yn｝，有

式中：n+1為預(yù)測(cè)誤差；

f（·）為預(yù)測(cè)函數(shù)。

時(shí)間序列預(yù)測(cè)問(wèn)題就是如何構(gòu)建預(yù)測(cè)模型f（·）使其能夠利用過(guò)去的時(shí)間序列數(shù)據(jù)預(yù)測(cè)現(xiàn)在或?qū)?lái)的結(jié)果。在這里，采用多維B樣條函數(shù)網(wǎng)絡(luò)逼近f（·）。一個(gè)n維B樣條網(wǎng)絡(luò)函數(shù)f（·）可以用式（2）和式（3）的一維樣條基函數(shù)的張量積表示，即

X=（x1， x2， …， xn）為節(jié)點(diǎn)矩陣；

sj（j=1， 2， …， n）為第j維變量值域內(nèi)的值。

在現(xiàn)有大多數(shù)的研究中，式（6）的網(wǎng)絡(luò)結(jié)構(gòu)都是被預(yù)先設(shè)定，也就是說(shuō)，各維變量的節(jié)點(diǎn)xj是預(yù)先設(shè)定好的。在訓(xùn)練網(wǎng)絡(luò)過(guò)程中，僅將視為變量，這種被預(yù)先固定結(jié)構(gòu)的B樣條網(wǎng)絡(luò)性能往往是不理想的。為了優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)，將網(wǎng)絡(luò)（6）中的xj和同時(shí)視為決策變量，并進(jìn)行全局尋優(yōu)，獲得一種帶有優(yōu)化節(jié)點(diǎn)的樣條網(wǎng)絡(luò)結(jié)構(gòu)。算法步驟如下。

1）選定一組序列 ｛ y1， y2， …， yn， yn+1， … ， yN｝，令，在超立方體［a， b］n上， 隨機(jī)初始化節(jié)點(diǎn)矩陣X ；給定一個(gè)常數(shù) c，隨機(jī)初始化

2）選定最大優(yōu)化次數(shù)M，令M0=0，初始化1個(gè)小正數(shù)=random（-1， 1）。

3）根據(jù)式（5）計(jì)算預(yù)測(cè)誤差的平方和，即

4　工業(yè)仿真實(shí)驗(yàn)

為檢驗(yàn)?zāi)Ｐ偷挠行?，采用某冶金配料過(guò)程的數(shù)據(jù)進(jìn)行仿真驗(yàn)證。在該配料過(guò)程中，由于生產(chǎn)條件和檢測(cè)技術(shù)的限制，原料質(zhì)量參數(shù)無(wú)法在線檢測(cè)，只能進(jìn)行離線分析，檢測(cè)結(jié)果非常滯后，無(wú)法及時(shí)指導(dǎo)生產(chǎn)。但這些滯后的檢測(cè)數(shù)據(jù)是按時(shí)間順序排列的，構(gòu)成了時(shí)間序列，因此，如何利用這些時(shí)間序列進(jìn)行原料質(zhì)量參數(shù)的實(shí)時(shí)預(yù)測(cè)非常有意義。在該工業(yè)仿真實(shí)驗(yàn)中，對(duì)一種原料中氧化鈣和氧化硅的百分含量進(jìn)行預(yù)測(cè)，分別取200組數(shù)據(jù)點(diǎn)訓(xùn)練網(wǎng)絡(luò)。其中，樣條基函數(shù)為三階，即m=3；網(wǎng)絡(luò)為二維，即n=2；在訓(xùn)練過(guò)程中，設(shè)定M=10 000。網(wǎng)絡(luò)訓(xùn)練完成后，另取50組數(shù)據(jù)驗(yàn)證模型的泛化能力，如圖1和圖2所示。從2個(gè)圖中可以看出，預(yù)測(cè)結(jié)果非常接近實(shí)際值，說(shuō)明了模型的有效性。

圖1　氧化鈣含量預(yù)測(cè)結(jié)果Fig. 1　Prediction results of calcium oxide content

圖2　氧化硅含量預(yù)測(cè)結(jié)果Fig. 2　Prediction results of sodium oxide content

為進(jìn)一步評(píng)價(jià)方法的性能，將所提出的網(wǎng)絡(luò)和徑向基函數(shù)網(wǎng)絡(luò)進(jìn)行比較，結(jié)果如表1所示。表1中采用預(yù)測(cè)值與實(shí)際值的最大相對(duì)誤差和均方根誤差作為評(píng)價(jià)指標(biāo)，可看出所提出網(wǎng)絡(luò)的2種誤差明顯小于徑向基網(wǎng)絡(luò)的誤差，說(shuō)明其具有較好的預(yù)測(cè)效果。

表1　2種網(wǎng)絡(luò)預(yù)測(cè)性能比較Table 1　Prediction performance comparison of 2 kinds of network %

5　結(jié)語(yǔ)

本文將一種B樣條優(yōu)化網(wǎng)絡(luò)用于非線性時(shí)間序列預(yù)測(cè)，該網(wǎng)絡(luò)在參數(shù)優(yōu)化中，結(jié)構(gòu)也同時(shí)被優(yōu)化，克服了結(jié)構(gòu)固定網(wǎng)絡(luò)的不足。工業(yè)應(yīng)用仿真實(shí)驗(yàn)結(jié)果表明，所提出的優(yōu)化網(wǎng)絡(luò)具有較好的泛化能力，且結(jié)構(gòu)簡(jiǎn)單，優(yōu)化參數(shù)少，是一種有效的非線性時(shí)間序列預(yù)測(cè)方法。

［1］張美英，何杰. 時(shí)間序列預(yù)測(cè)模型研究綜述［J］. 數(shù)學(xué)的實(shí)踐與認(rèn)識(shí)，2011，41（18）：189-195. ZHANG Meiying，HE Jie. Summary on Time Series Forecasting Model［J］. Mathematics in Practice and Theory，2011，41（18）：189-195.

［2］張滸. 時(shí)間序列短期模型研究與應(yīng)用［D］. 武漢：華中科技大學(xué)，2013. ZHANG Hu. The Research and Application of Short-Term Forecasting Model for Time Series［D］. Wuhan：Huazhong University of Science and Technology，2013.

［3］牛家洋. 基于神經(jīng)網(wǎng)絡(luò)的非線性系統(tǒng)時(shí)間序列的預(yù)測(cè)方法研究［D］. 濟(jì)南：山東師范大學(xué)，2013. NIU Jiayang. Forecast Method Research of Nonlinear System Time Series Based on Neural Network［D］. Jinan：Shandong Normal University，2013.

［4］李哲敏，許世衛(wèi)，崔利國(guó)，等. 基于動(dòng)態(tài)混沌神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)研究：以馬鈴薯時(shí)間序列價(jià)格為例［J］. 系統(tǒng)工程理論與實(shí)踐，2015，35（8） ：2083-2091. LI Zhemin，XU Shiwei，CUI Liguo，et al. Prediction Study Based on Dynamic Chaotic Neural Network：Taking Potato Time-series Prices as an Example［J］. System Engineering-Theory & Practice，2015，35（8）：2083-2091.

［5］張大斌，李紅燕，劉肖，等. 非線性時(shí)間序列的小波-模糊神經(jīng)網(wǎng)絡(luò)集成預(yù)測(cè)模型［J］. 中國(guó)管理科學(xué)，2013，21（S2）：647-651. ZHANG Dabin，LI Hongyan，LIU Xiao，et al. A Integrated Prediction Method of Wavelet-Fuzzy Neural Network for Nonlinear Time Series［J］. Chinese Journal of Management Science，2013，21（S2）：647-651.

［6］楊娟麗，徐梅，王福林，等. 基于BP神經(jīng)網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)問(wèn)題研究［J］. 數(shù)學(xué)的實(shí)踐與認(rèn)識(shí)，2013，43（4）：158-164. YANG Juanli，XU Mei，WANG Fulin，et al. Research Based on BP Neural Netword Time Series Forecastin［J］. Mathematics in Practics and Theory，2013，43（4）：158-164.

［7］洪嘉灝，李雄英，王斌會(huì). 基于人工神經(jīng)網(wǎng)絡(luò)和隨機(jī)游走模型的匯率預(yù)測(cè)［J］. 經(jīng)濟(jì)數(shù)學(xué)，2016，33（1）：30-35. HONG Jiahao，LI Xiongying，WANG Binhui. Exchange Rate Forecast Based on Artificial Neural Network and Random Walk Model［J］. Journal of Quantitative Economics，2016，33（1）：30-35.

［8］宋怡霖，陳新楚，鄭松. 對(duì)角遞歸神經(jīng)網(wǎng)絡(luò)在控制系統(tǒng)中的應(yīng)用現(xiàn)狀分析［J］. 電氣傳動(dòng)和自動(dòng)控制，2016，38（2）：41-43，68. SONG Yilin，CHEN Xinchu，ZHENG Song. An Analysis on the Status of Application of Diagonal Recurrent Neural Network in Control Systems［J］. Electric Drive & Automatic Control，2016，38（2）：41-43，68.

［9］佩世鑫，李仲怡，催芬萍，等. 基于RBF人工神經(jīng)網(wǎng)絡(luò)的X級(jí)以上太陽(yáng)耀斑預(yù)報(bào)研究［J］. 西北師范大學(xué)學(xué)報(bào)（自然科學(xué)版），2014，50（6）：26-32. PEI Shixin，LI Zhongyi，CUI Fenping，et al. A Study of the Prediction for X-Class and Above Flares Based on RBF Artificial Neural Network［J］. Journal of Northwest Normal University（Natural Science），2014，50（6）：26-32.

［10］李光，楊韻. 基于RBF神經(jīng)網(wǎng)絡(luò)的柔性機(jī)械臂位置控制［J］. 湖南工業(yè)大學(xué)學(xué)報(bào)，2014，28（3）：41-46. LI Guang，YANG Yun. Flexible Manipulation Position Control Based on RBF Neural Network［J］. Journal of Hunan University of Technology，2014，28（3）：41-46.

［11］陳帝伊，柳燁，馬孝義. 基于徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的混沌時(shí)間序列相空間重構(gòu)雙參數(shù)聯(lián)合估計(jì)［J］. 物理學(xué)報(bào)，2012，61（10）：22-31. CHEN Diyi，LIU Ye，MA Xiaoyi. Parameter Joint Estimation of Phase Space Reconstruction in Chaotic Time Series Based on Radial Basis Function Neural Networks［J］. Acta Physica Sinica，2012，61（10）：22-31.

［12］張浩，張代遠(yuǎn). 基于三次樣條權(quán)函數(shù)神經(jīng)網(wǎng)絡(luò)的股價(jià)預(yù)測(cè)［J］. 計(jì)算機(jī)技術(shù)與發(fā)展，2014，24（6）：28-31. ZHANG Hao，ZHANG Daiyuan. Stock Prediction Based on Neural Networks with Cubic Spline Werght Functions［J］. Computer Technology and Development，2014，24（6）：28-31.

［13］王世東，王煥寶. 基于SOM網(wǎng)絡(luò)的三次B樣條曲線重建［J］. 計(jì)算機(jī)工程與應(yīng)用，2012，48（15）：192-244. WANG Shidong，WANG Huanbao. Cubic B-Spline Curve Reconstruction Based on SOM［J］. Computer Engineering and Applications，2012，48（15）：192-244.

［14］YIU K F，WANG S，TEO K L，et al. Nonlinear System Modeling Via Knot-Optimizaing B-Spline Networks［J］. IEEE Transaction on Neural Networks，2001，12（5）：1013-1022.

［15］WANG S，SHAO Q，ZHOU X. Knot-Optimizing Spline Networks（KOSNETS） for Nonparametric Regression［J］. Journal of Industrial & Management Optimization，2008，4（1）：33-52.

（責(zé)任編輯：申劍）

An Optimized Model Based on Nonlinear Time Series for B-Spline Networks Prediction and Its Industrial Application

KONG Lingshuang，GONG Xiaolong，ZHOU Weilong
（School of Electrical and Information Engineering，Hunan University of Technology，Zhuzhou Hunan 412007，China）

An optimizing model for B-spline networks prediction has been proposed for the effective realization of the real-time prediction based on nonlinear time series. A global optimization algorithm has been adopted for the optimization of the design of the network structure， with the weight parameters and node location of spline functions synchronous independent variables to be optimized. The industrial simulation results show that the proposed optimized model for networks prediction has a relatively higher prediction accuracy. With its structure much simpler and less parameters to be optimized， this is an effective prediction method based on nonlinear time series.

nonlinear time series；B-spline networks；prediction model；industrial process

TP274

A

1673-9833（2016）03-0082-04

10.3969/j.issn.1673-9833.2016.03.015

2016-03-27

國(guó)家自然科學(xué)基金資助項(xiàng)目（61203136），湖南省自然科學(xué)基金資助項(xiàng)目（2015JJ5025）

孔玲爽（1979-），女，河北邢臺(tái)人，湖南工業(yè)大學(xué)副教授，博士，主要從事復(fù)雜工業(yè)過(guò)程建模與優(yōu)化控制方面的研究，E-mail：konglingsh@126.com

周維龍（1978-），男，湖南邵陽(yáng)人，湖南工業(yè)大學(xué)講師，碩士，主要研究方向?yàn)闊o(wú)線傳感器網(wǎng)絡(luò)與嵌入系統(tǒng)設(shè)計(jì)，E-mail：604085429@qq.com