高國(guó)棟,張文孝,慕光宇
(大連海洋大學(xué) 機(jī)械工程學(xué)院,遼寧 大連 116023)
RBF網(wǎng)絡(luò)和BP網(wǎng)絡(luò)在海水鹽度建模中的比較研究
高國(guó)棟,張文孝,慕光宇
(大連海洋大學(xué) 機(jī)械工程學(xué)院,遼寧 大連 116023)
介紹了RBF神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)、特點(diǎn)及原理,并針對(duì)海水鹽度參數(shù)具有受諸多因素影響的復(fù)雜的非線性輸入輸出特性,訓(xùn)練并建立了海水鹽度的RBF(Radial Basis Function)神經(jīng)網(wǎng)絡(luò)模型,為海水鹽度的預(yù)測(cè)提供了一種新的方法。與BP神經(jīng)網(wǎng)絡(luò)模型相比,該模型具有收斂速度快,精度高的優(yōu)點(diǎn)。比較結(jié)果表明,該方法在海水鹽度建模等復(fù)雜系統(tǒng)方面具有實(shí)用性和可靠性,并有很好的應(yīng)用前景。
鹽度;RBF神經(jīng)網(wǎng)絡(luò);建模;仿真;預(yù)測(cè)
Abstract:A new RBF neural network is introduced and at the same time, its' structure, feature and principium are also expatiated.Contrasting with BP neural network model, it has faster convergence and better precision when it is used in the salinity modeling.A BP neural network model is set up and trained in this paper, in order to approach compensate the effects of improve non-linearity.Test proves it is practical and dependable in the field of salinity modeling and has nice applied prospect.
Keywords:salinity; RBF neural network; modeling; simulation; forecast
海水鹽度測(cè)量和控制對(duì)養(yǎng)殖業(yè)至關(guān)重要。而鹽度值與所測(cè)溶液的溫度、壓力和電導(dǎo)率等因素有關(guān)。
近些年來,隨著神經(jīng)網(wǎng)絡(luò)計(jì)算和人工智能的出現(xiàn),采用 BP(Back-propagation)神經(jīng)網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)預(yù)測(cè)和仿真逐漸增多并逐步應(yīng)用于各個(gè)領(lǐng)域,取得了一定的科研成果。但BP網(wǎng)絡(luò)在用于函數(shù)逼近時(shí),權(quán)值的調(diào)節(jié)采用的是負(fù)梯度下降法,這種調(diào)節(jié)方法有它的局限性,即存在著收斂速度慢和容易陷入局部極小點(diǎn)等缺點(diǎn)。本文主要介紹在逼近能力、分類能力和學(xué)習(xí)速度等方面均優(yōu)于BP網(wǎng)絡(luò)的另一種網(wǎng)絡(luò)——徑向基函數(shù)網(wǎng)絡(luò)[1-2]。
1.1 RBF網(wǎng)絡(luò)模型結(jié)構(gòu)
徑向基函數(shù)RBF神經(jīng)網(wǎng)絡(luò)由輸入層、隱含層和輸出層構(gòu)成的3層前向網(wǎng)絡(luò),其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。隱含層采用高斯函數(shù)作為激勵(lì)函數(shù),而輸出層通常采用簡(jiǎn)單的線性函數(shù)。隱含層節(jié)點(diǎn)中的作用函數(shù)(基函數(shù))對(duì)輸入信號(hào)將在局部產(chǎn)生響應(yīng),也就是說,當(dāng)輸入信號(hào)靠近函數(shù)定義域的中央范圍時(shí),隱含層節(jié)點(diǎn)將產(chǎn)生較大的輸出,由此看出這種網(wǎng)絡(luò)具有局部逼近能力,可解釋為:在輸入空間某一局部區(qū)域只有少數(shù)神經(jīng)元用于決定網(wǎng)絡(luò)輸出,所以徑向基函數(shù)網(wǎng)絡(luò)也稱為局部感知場(chǎng)網(wǎng)絡(luò)。
圖1 徑向基函數(shù)網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 Construction of RBF network
1.2 RBF網(wǎng)絡(luò)輸出
上面這些函數(shù)都是徑向?qū)ΨQ的,但最常用的是高斯函數(shù),如RBF網(wǎng)絡(luò)隱含層第i個(gè)節(jié)點(diǎn)的輸出可由式(4)表示,即
式中:x為M維輸入向量;f(x)i為第i個(gè)隱節(jié)點(diǎn)的輸出;iδ為第i個(gè)隱節(jié)點(diǎn)的標(biāo)準(zhǔn)化常數(shù);q是隱節(jié)點(diǎn)數(shù);A為輸入樣本;ci為第i個(gè)隱節(jié)點(diǎn)高斯函數(shù)的中心向量;yk為輸出層第k個(gè)節(jié)點(diǎn)的輸出;wkj為隱含層到輸出層的加權(quán)系數(shù);kθ為輸出層的閾值;
從理論上而言,RBF網(wǎng)絡(luò)和BP網(wǎng)絡(luò)一樣可“近似”→“逼近”任何的連續(xù)非線性函數(shù)。兩者主要區(qū)別在于非線性映射上采用不同的作用函數(shù)。BP網(wǎng)絡(luò)中的隱層節(jié)點(diǎn)使用的是Sigmoid函數(shù),其函數(shù)值在輸入空間中無限大的范圍內(nèi)為非零值,即作用函數(shù)為全局的;而RBF網(wǎng)絡(luò)中的隱節(jié)點(diǎn)使用高斯基函數(shù),即作用函數(shù)是局部的[3]。
本文以MATLAB6.5作為系統(tǒng)仿真平臺(tái),對(duì)海水鹽度進(jìn)行建模仿真[4]。首先選擇對(duì)海水鹽度影響大的3個(gè)因素溫度、電導(dǎo)率(電阻率)和壓力(深度)作為網(wǎng)絡(luò)的樣本輸入。利用 newrbe創(chuàng)建一個(gè)精確的神經(jīng)網(wǎng)絡(luò),該函數(shù)在創(chuàng)建RBF網(wǎng)絡(luò)時(shí),自動(dòng)選擇隱含層的數(shù)目,使得誤差為 0。建立的神經(jīng)網(wǎng)絡(luò)模型見圖2。代碼如下:
式中,P為輸入向量,T為目標(biāo)向量,SPREAD為徑向基函數(shù)的分布密度。由于網(wǎng)絡(luò)的建立過程就是訓(xùn)練過程,因此,此時(shí)得到的網(wǎng)絡(luò)net已經(jīng)是訓(xùn)練好了的[5]。
圖2 海水鹽度的RBF神經(jīng)網(wǎng)絡(luò)模型Fig.2 Salinity’s RBF nerve network model
接下來對(duì)訓(xùn)練樣本和非訓(xùn)練樣本進(jìn)行仿真,驗(yàn)證網(wǎng)絡(luò)性能。代碼為:
式中,P_test為網(wǎng)絡(luò)的測(cè)試樣本。仿真的部分結(jié)果見表1,訓(xùn)練樣本仿真誤差如圖3所示。由圖3可以看出,RBF網(wǎng)絡(luò)對(duì)訓(xùn)練樣本的逼近精度非常高,精度的數(shù)量級(jí)為10-3。訓(xùn)練樣本仿真誤差如圖3所示。
圖3 訓(xùn)練樣本仿真誤差Fig.3 Simulation error of training samples
表1 RBF神經(jīng)網(wǎng)絡(luò)部分仿真結(jié)果Tab.1 Part of RBF nerve network's simulation results
為了驗(yàn)證RBF網(wǎng)絡(luò)相對(duì)于BP網(wǎng)絡(luò)的優(yōu)勢(shì),利用 BP網(wǎng)絡(luò)對(duì)海水鹽度進(jìn)行重新預(yù)報(bào)。選擇的 BP網(wǎng)絡(luò)為3—8—1的結(jié)構(gòu),隱含層節(jié)點(diǎn)的傳遞函數(shù)采用正切 S型函數(shù),輸出層傳遞函數(shù)選用線 purelin傳遞函數(shù),網(wǎng)絡(luò)的學(xué)習(xí)速度選為 lr=0.1,訓(xùn)練函數(shù)為 trainlm,網(wǎng)絡(luò)的訓(xùn)練目標(biāo)為總均方差 SSE小于0.0001。經(jīng)過2000次訓(xùn)練后,對(duì)網(wǎng)絡(luò)進(jìn)行仿真,并計(jì)算網(wǎng)絡(luò)的預(yù)測(cè)誤差[6-7]。
3.1 對(duì)測(cè)試樣本的逼近能力
BP網(wǎng)絡(luò)和RBF網(wǎng)絡(luò)對(duì)測(cè)試樣本的逼近誤差見圖4。從圖上可以看出,RBF網(wǎng)絡(luò)對(duì)測(cè)試樣本的逼近能力要明顯地高于BP網(wǎng)絡(luò)。RBF網(wǎng)絡(luò)對(duì)測(cè)試樣本幾乎達(dá)到了完全逼近。而BP網(wǎng)絡(luò)有較大誤差,且誤差波動(dòng)較大。
圖4 測(cè)試樣本預(yù)測(cè)誤差Fig.4 Speculation error of testing sample
3.2 整體逼近能力
兩種網(wǎng)絡(luò)對(duì)待逼近鹽度值的整體逼近效果見圖5.經(jīng)分析可以發(fā)現(xiàn)RBF網(wǎng)絡(luò)基本上和目標(biāo)值完全吻合,而BP網(wǎng)絡(luò)有很多不吻合現(xiàn)象,因此RBF網(wǎng)絡(luò)在整體逼近上也明顯優(yōu)于BP網(wǎng)絡(luò)。
圖5 整體逼近效果圖Fig.5 Whole approaching effect
系統(tǒng)仿真界面是通過在VB中調(diào)用MATLAB實(shí)現(xiàn)的。
利用代碼:
Dim matlab As Object
Set matlab=CreateObject(“matlab.application“)
來實(shí)現(xiàn)在VB中開啟MATLAB自動(dòng)化服務(wù)器,之后便可以使用MATLAB自動(dòng)化服務(wù)器功能,如同在VB中對(duì)其它對(duì)象操作一樣。然后利用Execute方法來執(zhí)行一個(gè)合法的MATLAB命令。語(yǔ)法為:
BSTRExecute([in]BSTR”command”)
仿真界面如圖5-6所示。
圖6 仿真界面Fig.6 Simulation interface
利用 RBF網(wǎng)絡(luò)對(duì)海水鹽度參數(shù)建模對(duì)訓(xùn)練樣本有很高的逼近精度,可以認(rèn)為達(dá)到了完全逼近。這種方法充分利用神經(jīng)網(wǎng)絡(luò)的非線性特性、自適應(yīng)能力和學(xué)習(xí)能力,通過訓(xùn)練學(xué)習(xí),逼近鹽度復(fù)雜的輸入輸出特性。此外,RBF網(wǎng)絡(luò)對(duì)非訓(xùn)練樣本的逼近能力明顯地高于BP網(wǎng)絡(luò),在整體逼近上,RBF網(wǎng)絡(luò)也明顯優(yōu)于BP網(wǎng)絡(luò)。
[1]智會(huì)強(qiáng), 牛坤, 田亮, 等.BP網(wǎng)絡(luò)和RBF網(wǎng)絡(luò)在函數(shù)逼近領(lǐng)域內(nèi)的比較研究 [J].科技通報(bào), 2005, 21(2): 93-97.
[2]Robert J, Schilling James, Carroll J.Approximation of nonlinear systems with radial basis function neural networks [J].IEEETRANSACTIONS ON NEURAL NETWORKS, 2001, 12(1): 21-28.
[3]王煒, 吳耿鋒, 張博鋒, 等.徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò)及其應(yīng)用 [J].地震, 2005, 25(2): 19-25.
[4]聞新, 周露, 李翔, 等.MATLAB 神經(jīng)網(wǎng)絡(luò)仿真與應(yīng)用 [M].科學(xué)出版社, 2003: 7.
[5]張鈴, 張鈸.人工神經(jīng)網(wǎng)絡(luò)理論及應(yīng)用 [M].浙江: 浙江科學(xué)技術(shù)出版社, 1997.
[6]飛思科技產(chǎn)品研發(fā)中心.Matlab6.5輔助神經(jīng)網(wǎng)絡(luò)分析與設(shè)計(jì)[M].北京: 電子工業(yè)出版社, 2003.
[7]范影樂.Matlab仿真應(yīng)用詳解 [M].北京: 人民郵電出版社, 2003.
A comparative study on RBF network and BP network in the model of salinity
GAO Guo-dong, ZHANG Wen-xiao, MU Guang-yu
(College of Mechanical Engineering, Dalian Ocean University, Dalian 116023, China)
P731.12; TP391.9
A
1001-6932(2011)01-0012-04
2009-12-16;收修改稿日期:2010-06-10
高國(guó)棟 ( 1979- ),男,講師,主要從事系統(tǒng)仿真研究。電子郵箱:gaoguodong@dlou.edu.cn