謝成清， 夏 洪， 朱 立

(東華理工大學(xué)機(jī)械與電子工程學(xué)院，江西撫州 344000)

基于RBF神經(jīng)網(wǎng)絡(luò)的自回歸系統(tǒng)辨識(shí)模型

謝成清， 夏 洪， 朱 立

(東華理工大學(xué)機(jī)械與電子工程學(xué)院，江西撫州 344000)

根據(jù)神經(jīng)網(wǎng)絡(luò)能以任意精度逼近任意非線性連續(xù)函數(shù)的特點(diǎn)，通過徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)構(gòu)建非線性動(dòng)態(tài)系統(tǒng)的辨識(shí)模型。針對(duì)該模型輸入值超出徑向基函數(shù)的映射區(qū)域時(shí)將導(dǎo)致系統(tǒng)辨識(shí)輸出值為零的現(xiàn)象，提出了一種基于改進(jìn)徑向基函數(shù)結(jié)構(gòu)的自回歸系統(tǒng)辨識(shí)的方法，有效地消除了零現(xiàn)象。這使得自適應(yīng)辨識(shí)模型在較大的輸入向量下能夠逼近實(shí)際系統(tǒng)的輸出，從而提高了系統(tǒng)辨識(shí)的魯棒性。該方法的可行性得到了仿真驗(yàn)證。

徑向基函數(shù)神經(jīng)網(wǎng)絡(luò);零現(xiàn)象;自回歸辨識(shí)模型

系統(tǒng)辨識(shí)是輸入輸出數(shù)據(jù)之間的非線性映射過程，而徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)(Radical Basis Function Neural Network，RBF NN)具有全局最佳逼近能力，且收斂速度較快，因此特別適合于作為非線性系統(tǒng)辨識(shí)的工具(阮曉鋼，2006;Rommel et al.，2007;徐輝等，2001)。筆者采用基于徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的外輸入非線性自回歸(Nonlinear Autoregressive with Exogenous Input，NARX)辨識(shí)模型對(duì)非線性動(dòng)態(tài)系統(tǒng)進(jìn)行辨識(shí)。在實(shí)驗(yàn)過程中發(fā)現(xiàn)，當(dāng)被辨識(shí)系統(tǒng)的輸入值超出了RBF NN的隱含層高斯徑向基函數(shù)有效映射區(qū)域時(shí)，可能出現(xiàn)辨識(shí)模型輸出值為零的現(xiàn)象。

為了能夠辨識(shí)輸入值較大的非線性動(dòng)態(tài)系統(tǒng)，提出了對(duì)徑向基函數(shù)結(jié)構(gòu)進(jìn)行改進(jìn)的方法(Yu et al.，2007)，即向徑向基函數(shù)結(jié)構(gòu)中加入?yún)?shù)a，b;當(dāng)RBF NN輸入值超出了徑向基函數(shù)的映射區(qū)域時(shí)，自適應(yīng)調(diào)整參數(shù)a，b大小，使RBF NN輸入值保持在高斯徑向基函數(shù)有效映射區(qū)域內(nèi)。

1 RBF NN用于系統(tǒng)辨識(shí)存在問題及解決方法

RBF NN用于系統(tǒng)辨識(shí)的實(shí)質(zhì)是選擇一個(gè)合適的RBF NN結(jié)構(gòu)以及權(quán)值來逼近實(shí)際系統(tǒng)的等價(jià)模型，其典型結(jié)構(gòu)如圖1。

圖1RBF NN結(jié)構(gòu)Fig.1 The RBF NN structure

n為輸入層節(jié)點(diǎn)數(shù)，N為隱含層節(jié)點(diǎn)數(shù)，m為輸出層節(jié)點(diǎn)數(shù)，Wij為隱含層至輸出層的權(quán)值，RBF NN輸出可用如下方法計(jì)算:

本文取RNF NN隱含層空間的徑向基函數(shù)為高斯徑向基函數(shù)，計(jì)算式如下:

其中x為網(wǎng)絡(luò)的輸入值，cj，σj分別為高斯徑向基函數(shù)的中心矢量和基寬度。由于高斯徑向基函數(shù)越寬，對(duì)網(wǎng)絡(luò)輸入的覆蓋范圍越大，敏感性越差(輸入值x遠(yuǎn)離中心矢量cj時(shí)，高斯徑向基函數(shù)輸出值變化不明顯，且趨于0);高斯徑向基函數(shù)越窄，對(duì)網(wǎng)絡(luò)輸入的覆蓋范圍越小，敏感性越好。同時(shí)，RBF NN的輸入值與cj越接近，則以cj為中心點(diǎn)坐標(biāo)的高斯徑向基函數(shù)對(duì)該輸入的敏感性越好，反之就越差。因此，當(dāng)RBF NN輸入值x遠(yuǎn)離cj時(shí)，高斯徑向基函數(shù)敏感性差，導(dǎo)致RBF NN輸出值趨于0;又由于RBF NN的參數(shù)都初始化為0，因此，整個(gè)訓(xùn)練過程都是0的迭代過程，網(wǎng)絡(luò)參數(shù)得不到更新，從而導(dǎo)致0現(xiàn)象產(chǎn)生。

根據(jù)RBF NN輸入值的范圍，設(shè)定網(wǎng)絡(luò)參數(shù)中心矢量cj和基寬度σj;但對(duì)未知的RBF NN的輸入值遠(yuǎn)離中心矢量cj時(shí)，辨識(shí)模型輸出還是可能存在為0的現(xiàn)象。因此，辨識(shí)模型缺乏通用性、魯棒性和自適應(yīng)性。

本文提出一種解決辦法:在隱含層空間把網(wǎng)絡(luò)輸入值乘以一個(gè)小于1的適當(dāng)系數(shù)a，并且基寬度乘以一個(gè)大于1的適當(dāng)系數(shù)b，使RBF NN輸入值在高斯徑向基函數(shù)有效映射區(qū)域內(nèi)，把高斯徑向基函數(shù)改成如下通用式:

網(wǎng)絡(luò)輸入向量的幅度值x與a成反比，與b成正比;當(dāng)x比cj較大時(shí)，通過a的作用使處理后的網(wǎng)絡(luò)輸入值x接近c(diǎn)j。因此，改進(jìn)的徑向基函數(shù)提高了基于RBF NN的自回歸系統(tǒng)辨識(shí)非線性映射能力。

2 基于RBF NN的NARX模型

NARX模型的非線性動(dòng)態(tài)系統(tǒng)應(yīng)用范圍非常廣。采用它對(duì)非線性動(dòng)態(tài)系統(tǒng)進(jìn)行系統(tǒng)辨識(shí)(葉世偉等，2007)。被辨識(shí)系統(tǒng)的輸出由n階延時(shí)單元反饋到NARX模型的輸入端，同時(shí)在k時(shí)刻的輸出也依賴于過去的m時(shí)刻的輸入，基于RBF NN的NARX自適應(yīng)系統(tǒng)辨識(shí)模型如圖2。

圖2NARX系統(tǒng)辨識(shí)模型Fig.2 The NARX system identification model

在不考慮實(shí)際系統(tǒng)的誤差時(shí)，NARX模型輸出量可如下公式計(jì)算:

其中，f(·)是一未知的非線性函數(shù)，若用RBF NN來實(shí)現(xiàn)這一非線性映射過程，則形成了基于RBF NN的NARX模型。其目的是訓(xùn)練出一個(gè)最佳逼近實(shí)際系統(tǒng)輸出的RBF NN，其模型如圖3。

圖3 基于RBF NN的NARX模型Fig.3 The NARX model based on RBF NN

由于本文只討論李亞普諾夫意義下穩(wěn)定的非線性動(dòng)態(tài)系統(tǒng)，對(duì)于這種系統(tǒng)，基于RBF NN的NARX系統(tǒng)辨識(shí)是收斂的。

3 基于RBF NN的自適應(yīng)辨識(shí)算法

辨識(shí)過程就是使用基于RBF NN的NARX模型的多輸入-單輸出關(guān)系逼近被辨識(shí)系統(tǒng)的單輸入-單輸出關(guān)系。用隨機(jī)梯度方法對(duì)RBF NN進(jìn)行訓(xùn)練(龐中華等，2009)，學(xué)習(xí)算法為最小均方(Least Mean Square，LMS)。受到訓(xùn)練的網(wǎng)絡(luò)參數(shù)包括權(quán)值w、中心值cj、中心寬度σj，a，b，其中w，cj，σj初始化為0，a，b初始化為1。為了加快收斂速度，加入了動(dòng)量項(xiàng)。RBF NN的輸出如下表示:

其中，η為學(xué)習(xí)效率(η＞0)，α為動(dòng)量項(xiàng)因子(α∈［0，1))。反復(fù)訓(xùn)練RBF NN，直到辨識(shí)模型輸出值為0的現(xiàn)象消失為止。

4 對(duì)0現(xiàn)象和改進(jìn)的方法進(jìn)行驗(yàn)證

以下式為例，對(duì)該系統(tǒng)進(jìn)行辨識(shí)。

以u(píng)2(k)=8*cos(0.006*k*π)作為該系統(tǒng)的輸入。當(dāng)高斯徑向基函數(shù)取為式(2)時(shí)，辨識(shí)結(jié)果出現(xiàn)了0現(xiàn)象，如圖4a。當(dāng)高斯徑向基函數(shù)取為式(3)時(shí)，NARX辨識(shí)模型輸出值無0現(xiàn)象，如圖4b。

圖4 消除0現(xiàn)象Fig.4 Eliminate zero phenomenon

以u(píng)3(k)=12*cos(0.006*k*π)為該系統(tǒng)的輸入，并加入均值為0，方差為1的白噪聲序列，系統(tǒng)的輸出值如圖5a;以式(2)為高斯徑向基函數(shù)，辨識(shí)模型輸出值如圖5b;將式(2)改為式(3)，辨識(shí)模型輸出值如圖5c。

圖5b出現(xiàn)了間斷的0現(xiàn)象，說明以式(2)作為高斯徑向基函數(shù)的RBF NN不宜用于對(duì)非線性動(dòng)態(tài)系統(tǒng)進(jìn)行辨識(shí)。對(duì)比圖5a，c，在白噪聲序列的影響下，峰值附近的辨識(shí)效果往往不是最佳的;應(yīng)結(jié)合參數(shù)η，α進(jìn)行進(jìn)一步的訓(xùn)練。從整體上觀察，基于改進(jìn)的RBF NN的自回歸辨識(shí)模型能對(duì)復(fù)雜的非線性動(dòng)態(tài)系統(tǒng)進(jìn)行辨識(shí)，而且NARX模型不需要實(shí)際系統(tǒng)的先驗(yàn)知識(shí)集。

5 小結(jié)

在高斯徑向基函數(shù)結(jié)構(gòu)中加入?yún)?shù)a，b，有效解決了RBF NN的輸出值為0的現(xiàn)象，整體上提高了RBF NN的泛化能力。因此，本系統(tǒng)設(shè)計(jì)的辨識(shí)模型能隨著被辨識(shí)系統(tǒng)的非線性、時(shí)變性、參數(shù)不確定性的變化而變化。雖然增加了訓(xùn)練參數(shù)算法的復(fù)雜度，甚至影響收斂速度等問題，但采用RBF網(wǎng)絡(luò)構(gòu)成的神經(jīng)網(wǎng)絡(luò)控制方案，可有效提高系統(tǒng)的精度、魯棒性和自適應(yīng)性。

圖5 辨識(shí)結(jié)果Fig.5 Identification result

龐中華，催紅.2009.系統(tǒng)辨識(shí)與自適應(yīng)控制matlab仿真［M］.北京:北京航空航天大學(xué)出版社.

阮曉鋼.2006.神經(jīng)計(jì)算科學(xué)——在細(xì)胞的水平上模擬腦功能［M］.北京:國防工業(yè)出版社.

徐輝，陳少華.2001.基于非線性理論的大氣環(huán)境質(zhì)量預(yù)測與評(píng)價(jià)［J］.東華理工大學(xué)學(xué)報(bào)，24(3):357-360.

葉世偉，王海娟.2007.神經(jīng)計(jì)算原理［M］.北京:機(jī)械工業(yè)出版社.

Rommel G R，Christine A S.2007.Improved strategies for radial basis function methods for global optimization［J］.Journal of Global Optimization，37:113-135.

YU D L，YU D W.2007.A new structure adaptation algorithm for RBF networks and its application［J］.Neural Comput＆Applic，16:91-100.

Identification Model of Regression System based on RBF Neural Network

XIE Cheng-qing， XIA Hong， ZHU Li
(Faculty of Mechanical＆Electric Engineering，East China Institute of Technology，F(xiàn)uzhou，JX 344000，China)

Nonlinear dynamic system identification model with radial basis function neural network is developed based on the function that neural network can close to nonlinear continuous function with high precision.The method of autoregressive system identification based on improved radial basis function structure is proposed with respect to zero phenomenon with input larger than mapping area of radial basis function，which can address this problem with good performance.The adaptive identification model can close to output of system even though a large vector inputted.In addition，the robustness of system identification is improved.This feasibility of method is validated through simulation.

RBF neural network;zero phenomenon;regression identification model

TP202

A

1674-3504(2011)04-0392-04

謝成清，夏洪，朱立.2011.基于RBF神經(jīng)網(wǎng)絡(luò)的自回歸系統(tǒng)辨識(shí)模型［J］.東華理工大學(xué)學(xué)報(bào):自然科學(xué)版，34(4):392-395. Xie Cheng-qing，Xia Hong，Zhu Li.2011.Identification model of regression system based on RBF neural network［J］.Journal of East China Institute of Technology(Natural Science)，34(4):392-395.

10.3969/j.issn.1674-3504.2011.04.015

2010-06-08; 責(zé)任編輯:吳志猛

國家自然科學(xué)基金(61064009)

謝成清(1984—)，男，碩士研究生，主要研究方向:嵌入式系統(tǒng)與機(jī)器人。