摘要：利用神經(jīng)網(wǎng)絡進行模式分類時，可采用有導師分類方法，也可進行無導師的聚類方法，該文分析比較幾種可用于模式分類神經(jīng)網(wǎng)絡的特征和各自的優(yōu)缺點，提出在特定的情況下可選用特定的神經(jīng)網(wǎng)絡進行分類，也可根據(jù)實際情況進行綜合。

關鍵詞：神經(jīng)網(wǎng)絡；模式；分類

中圖分類號：TP183文獻標識碼：A文章編號：1009-3044(2009)04-0922-02

The Research of the Classification of Model with Neural Network

GUO Xiao-yan

(Gansu Agriculture University， Information Science Technology College， Lanzhou 730070， China)

Abstract: The problems of classification of model with neural network can be solved by the help oftutors information， and also be solved by the help of clustering without the tutors information.This article analyzes andcompares several neural network models being used for classification of model，reach a conclusionthat inparticular situation different models of neural network can bechoiced ， and if nessesary aintegratedway can be used.

Key words: neural network; classification; model

傳統(tǒng)的分類方法對于同類相聚，異類分離比較有優(yōu)勢，但客觀世界中許多事物在樣本空間中的區(qū)域分割曲面非常復雜，相近的樣本可能屬于不同的類，而遠離的樣本可能屬于同一類1。模式是對某些感興趣的客體的定量描述或結構描述，模式類是具有某些共同特征的模式的集合。模式分類可分為兩種類型，分類和聚類，分類是在類別知識等導師信息的指導下，將待識別的輸入模式分配到各自的模式類中去。聚類是無導師的分類方法，它是將相似的模式樣本劃歸為一類，而將不相似的分離開，實現(xiàn)了模式樣本類內(nèi)相似性和類間分離性。通過聚類，可以發(fā)現(xiàn)原始樣本的分布特性。

神經(jīng)網(wǎng)絡對外界的輸入樣本具有很強的識別能力，可以發(fā)現(xiàn)輸入樣本自身的聯(lián)系和規(guī)律以及輸入樣本和期望輸出之間的非線性規(guī)律，因此在模式分類方面具有傳統(tǒng)分類方法無法比擬的優(yōu)點。人工神經(jīng)網(wǎng)絡在模式分類方面提出了大量了網(wǎng)絡模型，發(fā)現(xiàn)了許多學習算法。

1 無導師分類機制

對于無導師的模式分類只從輸入樣本入手，通過分析與比較，找到輸入樣本的特征和內(nèi)在規(guī)律，從而將具有相似性的樣本聚為一類。

1.1 SOM網(wǎng)

SOM 網(wǎng)屬于自組織映射神經(jīng)網(wǎng)絡，SOM神經(jīng)網(wǎng)絡接收外界的輸入模式時，會分為不同的對應區(qū)域，各區(qū)域對不同的輸入模式會有不同的響應特征，利用這個特征可以對輸入模式進行分類。

算法思想：

它的學習規(guī)則是“勝者為王”。找出和輸入向量最為相似的競爭層神經(jīng)元（即獲勝神經(jīng)元），在一個以該神經(jīng)元為中心的鄰域內(nèi)對本區(qū)域內(nèi)的所有神經(jīng)元的權值進行不同程度的調(diào)整，調(diào)整的原則是由遠及近，由興奮變?yōu)橐种疲瑱嘀嫡{(diào)整的結果是使競爭層的特定神經(jīng)元變得對輸入層的某些樣本敏感，從而達到分類的目的。

算法步驟：

1) 找出獲勝神經(jīng)元

對于每一個輸入模式向量 X，競爭層的所有神經(jīng)元對應的內(nèi)星權向量Wj(j=1，2，…，m)均與X進行比較，將與X最為相似的神經(jīng)元判為獲勝神經(jīng)元。其權值記為Wj*。相似性量度為X和W的歐氏距離或夾角余弦。

■

m是競爭層神經(jīng)元個數(shù)。

d=||X-Wj*||=min||X-Wj*||(j=1，2，…，n)

d為輸入向量X離獲勝神經(jīng)元的距離

2) 找出一個Wj*的一個鄰域Sj，對于Sj內(nèi)的所有權值進行調(diào)整。

3) 權值調(diào)整

Wj(t+1)=Wj(t)+α[X-Wj(t)]

α為學習率，隨著t的增加，α的值在不斷地減小。

權值的調(diào)整是使得獲勝結點更加接近輸入樣本，從而使競爭層的每一個神經(jīng)元變?yōu)橐粋€聚類中心。當向網(wǎng)絡輸入一個模式時，競爭層中哪個神經(jīng)元獲勝使輸出為1，當前輸入就歸為哪類。

通過聚類進行模式劃分的方法還有模糊聚類，K-均值聚類，HCM，最近鄰聚類(NN算法)等，這些算法的最主要優(yōu)點就是不需要導師信號，這對于一些無法得到導師信號的模式分類情況來說是有優(yōu)勢的。

2 有導師分類機制

基于無導師的聚類算法只考慮輸入樣本，而沒有考慮輸入樣本所對應的輸出、這就使得這樣的分類不是最優(yōu)的。

2.1 BP神經(jīng)網(wǎng)絡

BP神經(jīng)網(wǎng)絡利用導師信號和輸入樣本來訓練網(wǎng)絡的權值，從而找到從輸入樣本到導師信號（期望輸出）之間的非經(jīng)性變幻規(guī)律來修整權值，經(jīng)過測試樣本和期望輸出的多次訓練來使成熟的網(wǎng)絡穩(wěn)定，當有新的輸入時，就可根據(jù)此規(guī)律對它樣本進行正確的分類。

BP神經(jīng)網(wǎng)絡的算法思想是：輸入樣本自輸入層傳入，由各隱層處理后，傳向輸出層，這屬于正向傳播；如果輸出與期望輸出(導師信號)不符，得到誤差值，輸出誤差通過隱層向輸入層逐反向傳播，并將誤差分攤給各層的所有單元，從而獲得各層單元的誤差信號，此誤差信號成為修正各單元權值的依據(jù)。

2.1.1 BP神經(jīng)網(wǎng)絡的描述1(圖2)

1） 正向傳播

對于有單個隱層單元的BP神經(jīng)網(wǎng)絡而言

隱層輸出：

■

輸出層：

■

l 為輸出層神經(jīng)元的個數(shù)m為隱層神經(jīng)元的個數(shù)n為輸入層神經(jīng)元的個數(shù)

f(x)可采用單極性的Sigmoid函數(shù)：

■

2）反向修正權值

輸出誤差E定義如下：

■

其中d為導師信號（期望輸出），o為實際輸出

進一步展開至輸入層，有：

■

權值修正：

■

η是學習率，可以控制學習的時間和快慢。

在BP神經(jīng)網(wǎng)絡中，利用導師信號和神經(jīng)網(wǎng)絡的輸出得到總誤差E，調(diào)整權值時，按誤差梯度下降的原則進行。利用BP神經(jīng)網(wǎng)絡進行分類時，可以利用導師信息先規(guī)定類別信息，再利用輸入樣本和類別信息得出E，從而反向調(diào)整ω，ν值，如果網(wǎng)絡的總誤差小于一個特定的值，可認為網(wǎng)絡訓練結束，得到最終的ω，ν值。對于新的樣本，此訓練好的網(wǎng)絡便可進行正確分類。

3 徑向基函數(shù)神經(jīng)網(wǎng)絡

利用BP網(wǎng)絡進行分類時，完全沒有考慮輸入樣本的特征，只利用導師信息進行權值的修正，因此學習時間很長，分類的精度也不是非常高，錯分的情況很多。通常，輸入樣本本身具有某種規(guī)律性，利用現(xiàn)有樣本的自身規(guī)律加上導師信號的限制，可以大大提高分類的精度，同時可以縮短學習的時間。徑向基函數(shù)網(wǎng)絡就是基于這種思想。

用徑向基函數(shù)作為隱單元的“基”，構成隱含層空間。隱含層對輸入向量進行變換，將低維空間的模式變到高維空間中，使低維空間中的不可分問題在高維空間中變得可分。

算法思想：

1）找到分類中心向量，也稱基向量，(一般用K-均值法，動態(tài)聚類法等)，假定分類中心向量個數(shù)為 個，這也就決定隱層神經(jīng)元的個數(shù)。

2）算出輸入樣本到各個分類中心向量的距離d，利用基函數(shù)f(x)，自變量為d，得到隱層輸出，只有離分類中心最近的向量得到較大的輸出。

■

p是輸入樣本個數(shù)，j是聚類中心的個數(shù)，k是樣本和聚類中心向量的維數(shù)。

■

3）最后通過隱層到輸出層的線性變換得到最終的輸出，則：

■

學習算法：

1）利用無導師機制選取分類中心向量；

2）利用有導師信號修正隱層到輸出層的權值，權值的修正仍用類似BP神經(jīng)網(wǎng)絡的梯度下降算法。

徑向基函數(shù)網(wǎng)絡對于輸入層向隱層的變換是非線性的，而隱層到輸出層變換進線性的，在確定中心結點時，可采用無導師的聚類機制，當修正隱層到輸出層的權值時可采用有導師機制，此兩種方法結合即可發(fā)現(xiàn)輸入樣本中的內(nèi)在規(guī)律，又可利用導師信號進行約束從而提高分類的精度和縮短學習的時間。

3 結論

利用神經(jīng)網(wǎng)絡進行分類時，如果可以得到導師信號，可采用徑向基神經(jīng)網(wǎng)絡，或BP神經(jīng)網(wǎng)絡，徑向基神經(jīng)網(wǎng)絡收縮速度快，不容易陷入局部極小值，在解決分類時和般優(yōu)越于BP神經(jīng)網(wǎng)絡，如果無法得到導師信號，則可采用自組織神經(jīng)網(wǎng)絡SOM網(wǎng)絡，通常SOM也可以用在徑向基神經(jīng)網(wǎng)絡的選用中心向量問題上。

參考文獻：

[1] 韓力群.人工神經(jīng)網(wǎng)絡理論、設計及應用[M].2版.北京:化學工業(yè)出版社，2007.

[2] 侯媛彬，杜京義，汪梅.神經(jīng)網(wǎng)絡[M].西安:西安電子科技大學出版社，2007.

[3] 徐強恩，羅四維，李建瑜.徑向基神經(jīng)網(wǎng)絡的一種在線學習算法[J].北方交通大學學報，2003(2):92-94.