馮潔瓊 盧煥章 陳尚鋒

摘要：針對傳統(tǒng)人臉朝向識別算法中識別準(zhǔn)確率較低的缺點，本文采用基于學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)的識別方法，通過提取人臉圖像中眼睛位置的特征向量并對朝向不同的人臉圖像樣本進(jìn)行學(xué)習(xí)訓(xùn)練，優(yōu)化了學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)各層間的權(quán)值參數(shù)，取得了較高準(zhǔn)確度的識別效果；仿真結(jié)果表明，采用學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)的識別方法對人臉朝向進(jìn)行識別可行有效，正確識別率可以達(dá)到95%以上，識別率與抗干擾性明顯優(yōu)于誤差反傳神經(jīng)網(wǎng)絡(luò)法。

關(guān)鍵詞：人臉朝向識別 學(xué)習(xí)向量量化 神經(jīng)網(wǎng)絡(luò) 特征向量提取

中圖分類號：TP391 文獻(xiàn)標(biāo)識碼：A 文章編號：1007-9416（2016）05-0000-00

Abstract： Aiming at the low accuracy disadvantage of traditional facial orientation recognition algorithm， the paper employs the recognition method based on the Learning Vector Quantization neural network. By means of extracting the feature vector of eyes positions in the face images and studying the different facial image samples， the paper optimizes the weighting parameters of the LVQ neural network， which achieves good recognition result. The simulation results indicates that the facial orientation recognition based on the learning vector quantization neural network is feasible and effective， and the correct recognition rate can reach more than 95%. Besides， the paper ultimately proofs the accuracy and the validity of the learning vector quantization neural network is better than the Back-Propagation neural network.

Key Words： Facial orientation recognition， Learning vector quantization， Neural network，F(xiàn)eature vector extraction

人臉識別作為一個復(fù)雜的模式識別問題，是生物特征識別領(lǐng)域最困難的研究課題之一，其目的是從圖像中剔除背景、提取人臉區(qū)域。人臉識別系統(tǒng)主要包括圖像數(shù)據(jù)庫采集、人臉圖像預(yù)處理、人臉特征建模及識別匹配。計算機技術(shù)的告訴發(fā)展使人臉圖像在人機交互中發(fā)揮著越來越重要的作用，由于實際應(yīng)用中，人臉外形的不穩(wěn)定性以及光照條件的多樣性使人臉視覺圖像在位置、朝向以及旋轉(zhuǎn)角度等方面產(chǎn)生巨大的差異，因此對人臉進(jìn)行準(zhǔn)確識別變得異常困難。

學(xué)習(xí)向量量化（LVQ）神經(jīng)網(wǎng)絡(luò)是一種用于訓(xùn)練競爭層的有監(jiān)督學(xué)習(xí)方法的輸入前向神經(jīng)網(wǎng)絡(luò)，其算法是從Kohonen競爭算法演化而來的[1]。與其他模式識別和映射方法相比，它的優(yōu)勢在于網(wǎng)絡(luò)結(jié)構(gòu)簡單，并且不需要對輸入向量進(jìn)行歸一化、正交化處理，只通過計算輸入向量與競爭層之間的距離，從而完成復(fù)雜的分類處理[2]。當(dāng)人臉朝向與旋轉(zhuǎn)角度不同時，眼睛局部特征與人臉圖像的幾何關(guān)系有較強的可區(qū)分性，因此提取人眼位置信息的特征向量并獲得有助于人臉朝向分類的特征數(shù)據(jù)，將該特征信息作為LVQ神經(jīng)網(wǎng)絡(luò)的輸入，可實現(xiàn)對任意給出的人臉圖像進(jìn)行朝向的識別，通過仿真可證明該方法的有效性。

1學(xué)習(xí)向量量化（LVQ）神經(jīng)網(wǎng)絡(luò)

學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)是在競爭網(wǎng)絡(luò)結(jié)構(gòu)的基礎(chǔ)上提出的，是自組織（SOFM）神經(jīng)網(wǎng)絡(luò)的一種有監(jiān)督形式的擴展。在網(wǎng)絡(luò)學(xué)習(xí)過程中加入教師信號作為分類信息對權(quán)值進(jìn)行微調(diào)，并對輸出神經(jīng)元預(yù)先指定類別，LVQ神經(jīng)網(wǎng)絡(luò)實現(xiàn)了二者有效的結(jié)合，能夠更好發(fā)揮競爭學(xué)習(xí)與有監(jiān)督學(xué)習(xí)的優(yōu)點。

1.1 LVQ神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與工作原理

廣義學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)由三層神經(jīng)元組成，即輸入層、隱藏的競爭層和線性輸出層[3]，其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。輸入層與競爭層之間采用全連接方式，競爭層與輸出層之間采用部分連接方式[4]。競爭層神經(jīng)元個數(shù)通常取輸出層神經(jīng)元個數(shù)的整數(shù)倍，每個競爭層神經(jīng)元有且只有一個輸出層神經(jīng)元與之相連接且連接權(quán)值固定為1，而每個線性輸出層神經(jīng)元可以與多個競爭層神經(jīng)元相連接[5]。在學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中，當(dāng)某個輸入模式被送入網(wǎng)絡(luò)時，競爭層的神經(jīng)元通過競爭學(xué)習(xí)規(guī)則產(chǎn)生獲勝神經(jīng)元，獲勝神經(jīng)元調(diào)整權(quán)值的結(jié)果是使權(quán)值進(jìn)一步向當(dāng)前的輸入向量靠近。當(dāng)下次出現(xiàn)相似的輸入模式時，獲勝神經(jīng)元更容易得到修改權(quán)值的機會。在反復(fù)的競爭學(xué)習(xí)中，競爭層的各神經(jīng)元對應(yīng)的權(quán)值逐步被調(diào)整為輸入樣本空間的聚類中心[6]。該神經(jīng)元被激活后輸出狀態(tài)為“1”，而其他競爭層神經(jīng)元的狀態(tài)均為“0”。因此，與被激活神經(jīng)元相連的線性輸出層神經(jīng)元狀態(tài)為“1”。其余輸出層神經(jīng)元狀態(tài)為“0”，從而實現(xiàn)模式分類與識別。

LVQ各層的數(shù)學(xué)描述如下：設(shè)神經(jīng)網(wǎng)絡(luò)輸入向量，其中為輸入層神經(jīng)元個數(shù)；競爭層輸出，表達(dá)式為；輸出層實際輸出為，表達(dá)式為，網(wǎng)絡(luò)期望輸出為。輸入層與競爭層之間的權(quán)系數(shù)矩陣，其中列向量為競爭層第個神經(jīng)元對應(yīng)的權(quán)值向量；同理可得，競爭層與輸出層之間的權(quán)系數(shù)矩陣為，其中列向量為競輸出層第個神經(jīng)元對應(yīng)的權(quán)值向量。

1.2 LVQ神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

向量量化是利用輸入向量的固有機構(gòu)進(jìn)行數(shù)據(jù)壓縮的技術(shù)，學(xué)習(xí)向量量化是在向量量化基礎(chǔ)上將輸入向量分類的監(jiān)督學(xué)習(xí)方法[7]。LVQ網(wǎng)絡(luò)在訓(xùn)練前指定好線性輸出層的神經(jīng)元類別，在學(xué)習(xí)訓(xùn)練過程中不再改變競爭層與輸出層之間的權(quán)系數(shù)矩陣，而是通過改變進(jìn)行學(xué)習(xí)。該算法實質(zhì)是根據(jù)訓(xùn)練樣本的特征進(jìn)行“獎勵與懲罰”的一種迭代學(xué)習(xí)算法，即對分類正確的樣本，“獎勵”與其距離最近的權(quán)值點。經(jīng)過若干次訓(xùn)練后，得到的權(quán)值不再變化，說明網(wǎng)絡(luò)達(dá)到收斂狀態(tài)[8]。而競爭層神經(jīng)元的數(shù)目輸入待分類的模式樣本測試，根據(jù)最近鄰法則得到輸入樣本模式的類別屬性。

LVQ1具體算法步驟為：

（1） 初始化輸入層與競爭層間的權(quán)值，確定初始學(xué)習(xí)速率與訓(xùn)練次數(shù)；

（2）將輸入向量輸入網(wǎng)絡(luò)，計算競爭層神經(jīng)元與輸入向量的距離并尋找獲勝神經(jīng)元：

（3）根據(jù)分類是否正確調(diào)整獲勝神經(jīng)元的權(quán)值：當(dāng)網(wǎng)絡(luò)分類結(jié)果與教師信號一致時，向輸入樣本方向調(diào)整權(quán)值；反之，其他非獲勝神經(jīng)元的權(quán)值保持不變。

算法直接利用最小歐式距離選擇與輸入向量最接近的矢量，因此不需要對權(quán)值向量和輸入向量進(jìn)行歸一化處理。

在上述LVQ學(xué)習(xí)算法中，有且只有一個神經(jīng)元獲勝并得到更新調(diào)整權(quán)值的機會。為了改善分類效果，Kohonen對該算法進(jìn)行了改進(jìn)，并命名為LVQ2算法[9]。改進(jìn)算法基于光滑的移動決策邊界逼近貝葉斯極限，其特點是引入“次獲勝”神經(jīng)元，使得“獲勝”神經(jīng)元與“次獲勝”神經(jīng)元的權(quán)值向量都被更新[10]。

LVQ2具體計算步驟如下：

（1）初始化參數(shù)、計算競爭層神經(jīng)元與輸入向量距離同LVQ1算法；

（2）選擇與輸入向量距離最小的兩個競爭層神經(jīng)元；

（3）若神經(jīng)元對應(yīng)于不同類別且與當(dāng)前輸入向量的距離滿足，其中為輸入向量可能落進(jìn)的接近于兩個向量中段平面的窗口寬度，經(jīng)驗值為左右，那么若神經(jīng)元對應(yīng)的類別=輸入向量類別，則，若神經(jīng)元對應(yīng)的類別=輸入向量類別，則。

（4）若神經(jīng)元不滿足上述條件，則按照LVQ1步驟（3）中進(jìn)行更新即可。

2基于學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)的人臉朝向識別方法

2.1輸入向量與目標(biāo)向量的設(shè)計

觀察大量人臉圖像容易察覺，當(dāng)人臉圖像旋轉(zhuǎn)角不一樣時，眼睛局部特征在圖像中的位置差異明顯，因此僅需提取描述眼睛局部位置信息的特征向量并作為LVQ神經(jīng)網(wǎng)絡(luò)的輸入，分別用數(shù)字1，2，3，4，5表示五個朝向左方、左前方、前方、右前方、右方，并作為神經(jīng)網(wǎng)絡(luò)的輸出。搜集10人共50幅不同朝向的人臉圖像，隨機選取其中30幅圖像作為訓(xùn)練集，剩余20幅作為測試集，因此目標(biāo)向量為305的向量，其中每列只有一個“1”，其余均為“0”。

2.2人臉特征向量的提取

如上文所述，文中將420420的圖像劃分為6行8列，人物雙眼的局部特征信息通過第二行的8個子矩陣描述，在利用Sobel算子對圖像進(jìn)行邊緣檢測后第二行8個子矩陣中值為“1”的像素點個數(shù)可較為準(zhǔn)確的表示人臉朝向。

2.3 LVQ神經(jīng)網(wǎng)絡(luò)的創(chuàng)建與訓(xùn)練

LVQ網(wǎng)絡(luò)設(shè)計的關(guān)鍵因素包括訓(xùn)練樣本是否具有普遍性與代表性，訓(xùn)練樣本容量能否滿足需要，競爭層神經(jīng)元數(shù)量、初始權(quán)值等網(wǎng)絡(luò)參數(shù)取值是否得到優(yōu)化。根據(jù)特征向量與訓(xùn)練圖像數(shù)量可知輸入和輸出節(jié)點分別為30和5，競爭層神經(jīng)元的個數(shù)通常取決于輸入輸出關(guān)系的復(fù)雜性。為防止因競爭層神經(jīng)元數(shù)過多產(chǎn)生“死”神經(jīng)元，競爭層節(jié)點數(shù)經(jīng)驗值為線性輸出層節(jié)點數(shù)的24倍，本文選取15作為競爭層節(jié)點數(shù)；其次是選擇合適的學(xué)習(xí)率，為保證算法的收斂性與穩(wěn)定性，學(xué)習(xí)率取恒定值或隨時間單調(diào)減小，通常取。本文期望誤差取值0.001，學(xué)習(xí)函數(shù)用LVQ1，最大訓(xùn)練步數(shù)設(shè)為100，初始化參數(shù)后對LVQ神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，訓(xùn)練算法達(dá)到預(yù)先指定的誤差容限后停止。訓(xùn)練過程曲線如圖2所示，由圖可知網(wǎng)絡(luò)收斂性較好，滿足誤差要求。

3實驗結(jié)果與分析

3.1網(wǎng)絡(luò)測試識別率與訓(xùn)練次數(shù)、學(xué)習(xí)算法關(guān)系

將測試的20幅不同朝向的人臉圖像輸入網(wǎng)絡(luò)，網(wǎng)絡(luò)識別率如表1所示。由表1結(jié)果可知，LVQ神經(jīng)網(wǎng)絡(luò)識別人臉朝向可行且有效，總體上取得了較好的識別結(jié)果。從訓(xùn)練次數(shù)分析，在一定范圍內(nèi)訓(xùn)練次數(shù)的增加會提高分類識別正確率，所需訓(xùn)練時間也會增加，識別錯誤主要因為樣本數(shù)據(jù)較為復(fù)雜。當(dāng)訓(xùn)練集較少時識別率會相對較低，因此在防止出現(xiàn)過擬合的同時應(yīng)盡量增加訓(xùn)練集的樣本數(shù)目，可有效改善網(wǎng)絡(luò)識別結(jié)果。

從算法角度分析，結(jié)果顯示LVQ2算法雖然是對LVQ1算法的改進(jìn)但同時引入了新的誤差，因此識別結(jié)果較差；同時LVQ1算法運用簡單，識別率較高，具體應(yīng)用時應(yīng)開發(fā)更好的優(yōu)化學(xué)習(xí)算法，綜合考慮性能指標(biāo)作折衷處理。

3.2 LVQ神經(jīng)網(wǎng)絡(luò)與BP神經(jīng)網(wǎng)絡(luò)識別效果對比

由于BP神經(jīng)網(wǎng)絡(luò)的輸出為非二值數(shù)據(jù)，因此采用四舍五入方法：若網(wǎng)絡(luò)輸出小于0.5則認(rèn)為是0，反之為1；并提前利用三位二進(jìn)制數(shù)編碼對五個朝向進(jìn)行表述，如表2所示。

設(shè)置訓(xùn)練次數(shù)為100次，BP神經(jīng)網(wǎng)絡(luò)仿真結(jié)果識別率僅為85%，并出現(xiàn)錯誤預(yù)測值 [0；0；0]，該狀態(tài)不屬于表2中任何一種，從結(jié)果判斷不出圖像中人臉朝向，而LVQ神經(jīng)網(wǎng)絡(luò)不僅可以很好的規(guī)避這一缺點，同時算法識別準(zhǔn)確率明顯較高。

4結(jié)語

本文提出了一種基于學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)的人臉朝向識別方法，該方法第一步提取人臉圖像中雙眼的局部位置特征向量，并將提取的向量送入網(wǎng)絡(luò)進(jìn)行訓(xùn)練測試實現(xiàn)人臉朝向的準(zhǔn)確識別，然后通過仿真實驗證明利用LVQ神經(jīng)網(wǎng)絡(luò)進(jìn)行人臉朝向識別方法的有效性，該方法能夠發(fā)揮競爭學(xué)習(xí)和有監(jiān)督學(xué)習(xí)二者的優(yōu)點，且網(wǎng)絡(luò)結(jié)構(gòu)簡單，有效提高了識別率。

參考文獻(xiàn)

[1] 秦愷，曹龍漢 等.基于LVQ神經(jīng)網(wǎng)絡(luò)集成的柴油機氣門故障診斷[J].UPS應(yīng)用，2014：47-50.

[2] 董妍慧.基于LVQ神經(jīng)網(wǎng)絡(luò)模型的企業(yè)財務(wù)危機預(yù)警[J].大連海事大學(xué)學(xué)報，2008，7（1）：92-94.

[3] 胡波，王文娟.基于向量量化網(wǎng)絡(luò)的煤礦瓦斯監(jiān)控系統(tǒng)改造[J].電力學(xué)報，2010，25（2）：162-164

[4] 朱玉斌，李華聰.基于LVQ網(wǎng)絡(luò)的航空發(fā)動機氣路故障特征提取方法研究[J].測控技術(shù)，2014，33（6）：24-27.

[5] 律方成，張波.LVQ神經(jīng)網(wǎng)絡(luò)在GIS局部放電類型識別中的應(yīng)用[J].電測與儀表，2014，51（18）：112-115.

[6] 戴金輝.基于混合神經(jīng)網(wǎng)絡(luò)的入侵檢測技術(shù)的研究[D].東北大學(xué)碩士論文，2010：37-39.

[7] 程劍鋒，徐俊艷.學(xué)習(xí)矢量量化的推廣及其典型形式的比較[J].計算機工程與應(yīng)用，2006（17）：64-66.

[8] 李琳，張永祥.學(xué)習(xí)向量量化（LVQ）神經(jīng)網(wǎng)絡(luò)在周期信號識別方面的擴展應(yīng)用[J].機械設(shè)計與制造，2006，6：120-122.

[9] 張志華，鄭南寧，王天樹.廣義LVQ神經(jīng)網(wǎng)絡(luò)的性能分析及其改進(jìn)[J].自動化學(xué)報，1999，25（3）：52-55.

[10]周云龍，李紅延，李洪偉.改進(jìn)的LVQ神經(jīng)網(wǎng)絡(luò)在風(fēng)機故障診斷中的應(yīng)用[J].化工自動化及儀表，2013，40（5）：610-615.