許昌職業(yè)技術(shù)學院機電工程系 張亮亮 馬齋愛拜
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,簡稱ANN)是在人類對其大腦神經(jīng)網(wǎng)絡(luò)認識理解的基礎(chǔ)上人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的神經(jīng)網(wǎng)絡(luò)。它是理論化的人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學模型,是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。它實際上是由大量簡單元件相互連接而成的復雜網(wǎng)絡(luò),具有高度的非線性,能夠進行復雜的邏輯操作和非線性關(guān)系實現(xiàn)的系統(tǒng)。
神經(jīng)元是生物神經(jīng)系統(tǒng)的最基本的單元,形狀和大小各種各樣。從組織結(jié)構(gòu)方面看,各種神經(jīng)元有其共性。神經(jīng)元由細胞體、樹突和突軸組成。
考慮到輸入信號的影響要持續(xù)一段時間(毫秒級),因此,神經(jīng)元的整合功能是一種時空整合。當神經(jīng)元的時空整合產(chǎn)生的膜電位超過閾值時,神經(jīng)元產(chǎn)生興奮性電脈沖,處于興奮狀態(tài);否則,無電脈沖產(chǎn)生,處于抑制狀態(tài)。整合后產(chǎn)生的信號延著該細胞的軸突傳遞出去,并通過突觸傳遞給其他神經(jīng)細胞,神經(jīng)細胞通過突觸的連接形成神經(jīng)網(wǎng)絡(luò)。
神經(jīng)元是人工神經(jīng)網(wǎng)絡(luò)的基本處理單元,是生物神經(jīng)元的抽象、簡化和模擬。抽象是從數(shù)學角度而言,模擬是以神經(jīng)元的結(jié)構(gòu)和功能而言。一般形式神經(jīng)元如圖1所示。
神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和工作機理基本上是以人腦的組織結(jié)構(gòu)和活動規(guī)律為背景的,它反映了腦的某些基本特征,但并不是要對人腦部分的真正實現(xiàn),可以說它是某種抽象、簡化或模仿。
如果將大量功能簡單的形式神經(jīng)元通過一定的拓撲結(jié)構(gòu)組織起來,構(gòu)成群體并行分布式處理的計算結(jié)構(gòu),那么這種結(jié)構(gòu)就是人工神經(jīng)網(wǎng)絡(luò),在不引起混淆的情況下,統(tǒng)稱為神經(jīng)網(wǎng)絡(luò)。
感知機模型由感知層S(Sensory)、連接層A(Assocation)、反應層R(Response)三層構(gòu)成。
圖1 形式神經(jīng)元模型
感知機是人們?yōu)榱搜芯看竽X的存貯、學習和認識過程而提出的一種神經(jīng)網(wǎng)絡(luò)模型基本感知機是一個兩層網(wǎng)絡(luò),分為輸入層和輸出層,每層可由多個處理單元構(gòu)成,輸入層單元接收外部輸入模式,并傳遞給相連的輸出層單元;輸出層單元對所有輸入值加權(quán)求和,經(jīng)閾值性傳遞函數(shù)產(chǎn)生一組輸出模式。通常輸入、輸出模式用二進制表示。兩層之間為全互連方式,即輸入層各單元與輸出層各單元均有連接,且兩層之間的連接權(quán)值是可調(diào)的。
進行程序設(shè)計的第一步就是初始化,對感知器神經(jīng)網(wǎng)絡(luò)的初始化可采用MATLAB 7.O神經(jīng)網(wǎng)絡(luò)工具箱中的init()函數(shù)。使用init(net)函數(shù)可以得到一個已經(jīng)初始化的神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)的權(quán)值和閥值是按照網(wǎng)絡(luò)初始化函數(shù)來進行調(diào)整的,而網(wǎng)絡(luò)的初始化函數(shù)是由NET.initFcn設(shè)定的,其參數(shù)是由Net.initParam指定的。
BP網(wǎng)絡(luò)(Backpropagation NN)是一種單向傳播的多層前向網(wǎng)絡(luò)。網(wǎng)絡(luò)除輸入輸出節(jié)點外,還有一層或多層的隱層節(jié)點,同層節(jié)點中沒有任何耦合。輸入信號從輸入層節(jié)點依次傳過各隱層節(jié)點,然后傳到輸出節(jié)點,每一層節(jié)點的輸出只影響下一層節(jié)點的輸出。其節(jié)點單元特性(傳遞函數(shù))通常為Sigmoid型,但在輸出層中,節(jié)點的單元特性有時為線性。
一個基本的神經(jīng)元模型,它具有R個輸入,每個輸入都通過一個適當?shù)臋?quán)值w與神經(jīng)元相連,BP網(wǎng)絡(luò)中基本神經(jīng)元的激活函數(shù)必須處處可微,所以,經(jīng)常使用的是S型的對數(shù)或正切激活函數(shù)或線性函數(shù)。
在實際應用中,原始的BP算法很難勝任,因此出現(xiàn)了很多的改進算法。BP算法的改進主要有兩種途徑,一種是采用啟發(fā)式學習法,另一種則是采用更有效的優(yōu)化算法。
在神經(jīng)網(wǎng)絡(luò)工具箱中,函數(shù)trainbpx()采用動量法和學習速率自適應調(diào)整兩種策略,從而提高了學習速度并增加了算法的可靠性,動量法降低了網(wǎng)絡(luò)對于誤差曲面局部細節(jié)的敏感性,有效地抑制了網(wǎng)絡(luò)陷于局部極??;自適應調(diào)整學習速率有利于縮短學習時間。
本文通過對人工神經(jīng)網(wǎng)絡(luò)的方法及應用做了系統(tǒng)的闡述,通過分析與研究感知器網(wǎng)絡(luò)、BP神經(jīng)網(wǎng)絡(luò)作者得出以下結(jié)論:
感知器是最早提出的一種神經(jīng)網(wǎng)絡(luò)模型,它具有簡單,易學易理解的優(yōu)點,是我們初學人工神經(jīng)網(wǎng)絡(luò)時首先接觸到的一類網(wǎng)絡(luò)模型。但是它有很大的局限性,如只能對線性可分的輸入向量進行分類;當感知器神經(jīng)網(wǎng)絡(luò)的所有輸入樣本中存在奇異的樣本,即該樣本向量同其他所有的樣本向量比較起來特別大或特別小時,網(wǎng)絡(luò)訓練花費的時間將很長。
BP神經(jīng)網(wǎng)絡(luò)模型是在人工神經(jīng)網(wǎng)絡(luò)的實際應用中很流行的一種網(wǎng)絡(luò)模型,它也是前向網(wǎng)絡(luò)的核心部分。BP網(wǎng)絡(luò)有很強的映射能力,其主要用于:模式識別、函數(shù)逼近、數(shù)據(jù)壓縮。
[1]樓順天,陳生潭,雷虎民.MATLAB5.X程序設(shè)計語言[M].西安電子科技大學出版社,2003,10.
[2][美]A.N.米歇爾,劉德榮著.張化光,季策,王臺山譯.遞歸人工神經(jīng)網(wǎng)絡(luò)的定性分析和綜合[M].科學出版社,2004,7.
[3]索興梅,王崇桃.人工神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)中的應用研究[J].計算機與農(nóng)業(yè),2002(2):6-7.