摘 要：小波BP神經(jīng)網(wǎng)絡(luò)是由小波分析理論與神經(jīng)網(wǎng)絡(luò)理論結(jié)合而成的神經(jīng)網(wǎng)絡(luò)，兼具小波分析良好的時(shí)頻局部化性質(zhì)和BP神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)功能。本文針對(duì)緊致型小波BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，選取了三種不同的小波函數(shù)作為激勵(lì)函數(shù)，在函數(shù)擬合應(yīng)用中與BP神經(jīng)網(wǎng)絡(luò)進(jìn)行對(duì)比，體現(xiàn)出小波BP神經(jīng)網(wǎng)絡(luò)收斂精度高的特點(diǎn)。

關(guān)鍵詞：小波神經(jīng)網(wǎng)絡(luò)；函數(shù)擬合；激勵(lì)函數(shù)

DOI：10.16640/j.cnki.37-1222/t.2015.23.204

1 引言

作為人工智能的一個(gè)分支，神經(jīng)網(wǎng)絡(luò)以其自組織、自學(xué)習(xí)、自適應(yīng)的能力，被廣泛應(yīng)用于模式識(shí)別、信號(hào)處理、自動(dòng)控制、決策科學(xué)等領(lǐng)域[1]。其中BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用較為廣泛的神經(jīng)網(wǎng)絡(luò)模型。

從數(shù)學(xué)理論上已證明，BP神經(jīng)網(wǎng)絡(luò)具有實(shí)現(xiàn)任何復(fù)雜非線性映射的能力，能以任意精度逼近任何非線性連續(xù)函數(shù)[2]。但是它也有明顯的缺陷，從數(shù)學(xué)角度看，BP算法是一種局部搜索的優(yōu)化方法，算法很有可能陷入局部極值使訓(xùn)練失敗。而小波變換通過尺度伸縮和平移對(duì)信號(hào)進(jìn)行多尺度分析，能有效提取信號(hào)的局部信息，可以很好的解決BP神經(jīng)網(wǎng)絡(luò)的這一缺陷。因此將小波理論與神經(jīng)網(wǎng)絡(luò)相結(jié)合，取長補(bǔ)短，可以發(fā)揮各自的優(yōu)勢(shì)。小波神經(jīng)網(wǎng)絡(luò)（Wavelet Neural Network，WNN）最早是由法國著名的信息科學(xué)研究機(jī)構(gòu)IRISA的Qinghua Zhang博士等人于1992年提出的，目前已經(jīng)成為使用廣泛的人工智能分析方法。

2 小波變換

小波變換屬于時(shí)頻分析的一種，是對(duì)傅立葉分析進(jìn)行的一種推廣。一維小波變換具有多分辨率分析的特點(diǎn)，而且在時(shí)頻兩域都具有表征信號(hào)局部特征的能力，是一種窗口大小固定不變但其形狀可改變，時(shí)間窗和頻率窗都可以改變的時(shí)頻局部化分析方法，被譽(yù)為分析信號(hào)的顯微鏡[3]。

其中a為伸縮因子，b為平移因子。只在原點(diǎn)附近才有明顯的起伏，而在遠(yuǎn)離原點(diǎn)的地方會(huì)迅速向零衰減，所以被稱為“小波” [4]。

小波函數(shù)不是唯一存在的，所有滿足小波條件的函數(shù)都可以作為小波函數(shù)。在應(yīng)用中常用的有Morlet小波、Mexihat小波和Gaussian小波。Morlet小波是高斯包絡(luò)下的單頻率復(fù)正弦函數(shù)，其函數(shù)表達(dá)式如式（3），波形如圖1所示。Mexihat小波是高斯函數(shù)的二階導(dǎo)數(shù)，其函數(shù)表達(dá)式如式（4），波形如圖2所示。Gaussian函數(shù)可以構(gòu)成一個(gè)小波系列，可以證明高斯函數(shù)的各階導(dǎo)數(shù)均滿足小波函數(shù)的容許性條件，都是小波。其二階導(dǎo)數(shù)就是Mexihat小波，Gaussian函數(shù)的六階導(dǎo)數(shù)表達(dá)式如式（5），波形如圖3所示。

3 小波神經(jīng)網(wǎng)絡(luò)

小波神經(jīng)網(wǎng)絡(luò)是在小波分析與神經(jīng)網(wǎng)絡(luò)發(fā)展的基礎(chǔ)上提出的一種前饋型網(wǎng)絡(luò)[5]。根據(jù)結(jié)構(gòu)形式的不同，可分為兩類[6]：松散型結(jié)構(gòu)和緊致型結(jié)構(gòu)，目前國內(nèi)外大部分學(xué)者幾乎都在采用緊致型結(jié)構(gòu)進(jìn)行研究。緊致型WNN的基本思想是將常規(guī)神經(jīng)網(wǎng)絡(luò)的隱含層的激勵(lì)函數(shù)用小波函數(shù)代替，相應(yīng)的輸入層到隱含層的權(quán)值及閾值分別由小波函數(shù)的伸縮系數(shù)和平移系數(shù)代替，通過仿射變換建立起小波變換與網(wǎng)絡(luò)參數(shù)之間的聯(lián)系。結(jié)構(gòu)圖如圖4所示。

將WNN和BP神經(jīng)網(wǎng)絡(luò)分別用于函數(shù)擬合應(yīng)用中，如擬合函數(shù) 。圖5是選取Morlet小波作為激勵(lì)函數(shù)的WNN與BP神經(jīng)網(wǎng)絡(luò)的擬合波形，圖6是選取Mexihat小波作為激勵(lì)函數(shù)的WNN與BP神經(jīng)網(wǎng)絡(luò)的擬合波形，圖7是選取Gaussian函數(shù)的六階導(dǎo)數(shù)作為激勵(lì)函數(shù)的WNN與BP神經(jīng)網(wǎng)絡(luò)的擬合波形。

對(duì)比圖5～圖7可以看出，三種WNN網(wǎng)絡(luò)其函數(shù)的逼近能力都優(yōu)于BP神經(jīng)網(wǎng)絡(luò)，所選取的小波函數(shù)中Morlet小波構(gòu)成的WNN網(wǎng)絡(luò)其函數(shù)逼近效果最佳。

4 結(jié)論

小波神經(jīng)網(wǎng)絡(luò)是結(jié)合小波變換理論與人工神經(jīng)網(wǎng)絡(luò)的思想而構(gòu)成的一種神經(jīng)網(wǎng)絡(luò)模型，它結(jié)合了小波變換良好的時(shí)頻局域化性質(zhì)及神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)功能，具有較強(qiáng)的逼近能力和容錯(cuò)能力，具有廣泛的應(yīng)用前景。

參考文獻(xiàn)：

[1][美]哈根（Hagan，M.T.）等著，戴葵等譯.神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)[M].北京：機(jī)械工業(yè)出版社，2002（09）.

[2]楊曉帆，陳延槐.人工神經(jīng)網(wǎng)絡(luò)固有的優(yōu)點(diǎn)和缺點(diǎn)[J].計(jì)算機(jī)科學(xué)，1994，21（02）.

[3]奉前清，楊宗凱.實(shí)用小波分析[M].西安：西安電子科技大學(xué)出版社，2000.

[4]冉啟文.小波變換與傅立葉變換理論及應(yīng)用[M].哈爾濱：哈爾濱工業(yè)大學(xué)出版社，2001.

[5]Zhang Qinghua，Benveniste. A wavelet network[J]. IEEE trans on Neural Networks，1992，3（6）：889～898

[6]虞和濟(jì)，陳長征，張省等著.基于神經(jīng)網(wǎng)絡(luò)的智能診斷[M].北京：冶金工業(yè)出版社，2000.

[7]Z.Chen， T.J.Feng， and Q.C.Meng. The Application of Wavelet Neural Network in Time Series Prediction and System Modeling Based on Multiresolution Learning. IEEE Conference on Systems， Man， and Cybernetics， Vol.1，1999：425-430

基金項(xiàng)目：2014年度河北省高等學(xué)校科學(xué)技術(shù)研究項(xiàng)目（Z2014037）

作者簡介：呂宏麗（1974-），女，甘肅寧縣人，碩士，教授。endprint