何金洋

[摘要]針對(duì)經(jīng)典的主成分分析加距離測(cè)度人臉識(shí)別算法隨著光照、角度、表情變化等干擾因素而出現(xiàn)的性能下降問題，從特征優(yōu)化選擇的角度。并結(jié)合神經(jīng)網(wǎng)絡(luò)非線性映射能力強(qiáng)、可以學(xué)習(xí)到數(shù)據(jù)局部分布特征的優(yōu)點(diǎn)。論文提出了結(jié)合稀疏濾波和神經(jīng)網(wǎng)絡(luò)（SF-BPNN）的算法，該算法先采用稀疏濾波的特征競(jìng)爭(zhēng)特質(zhì)得到緊湊的初級(jí)特征表達(dá)，然后采用反向傳播神經(jīng)網(wǎng)絡(luò)（BPNN）進(jìn)行非線性分類，從而提高識(shí)別率。實(shí)驗(yàn)結(jié)果表明，論文提出的算法在較FERRET數(shù)據(jù)庫(kù)下可取得較好的人臉識(shí)別效果。

[關(guān)鍵詞]人臉識(shí)別；稀疏濾波；神經(jīng)網(wǎng)絡(luò)；SF-BPNN；主成分分析

1 引言

人臉識(shí)別是一種重要的目標(biāo)識(shí)別技術(shù)。能夠利用人臉圖像的視覺特征來進(jìn)行身份等信息的識(shí)別，發(fā)展前景十分廣闊。由于在現(xiàn)實(shí)應(yīng)用場(chǎng)景下，人臉姿態(tài)千差萬別，外觀的差異、物體遮擋、尺度、視角、所處背景環(huán)境不同以及光照等因素都會(huì)都對(duì)識(shí)別效果產(chǎn)生影響，許多方法或是過于依賴環(huán)境條件控制而不能達(dá)到現(xiàn)實(shí)場(chǎng)景下的識(shí)別精度，或是過于計(jì)算復(fù)雜而難以推廣應(yīng)用。

近年來，基于特征表達(dá)理論的人臉檢測(cè)是一個(gè)富有潛力的研究方向，根據(jù)模型建立方式的不同，可以分為兩種：一種是直接數(shù)據(jù)建模的方法：另一種就是避免直接建模，間接優(yōu)化特征的方法?；谥苯咏５姆椒ň哂休^高識(shí)別率，但算法比較耗時(shí)，比如稀疏編碼（sparseCoding，SC）算法需要花費(fèi)很多時(shí)間來解L1范數(shù)最小二乘問題以找到稀疏系數(shù)。而另一類直接優(yōu)化特征結(jié)構(gòu)的方法就具有易于優(yōu)化求解、計(jì)算簡(jiǎn)單快捷等優(yōu)勢(shì)，其主要代表是稀疏濾波算法（sparse Filtering，SF），它受稀疏編碼思想的啟發(fā)，強(qiáng)調(diào)特征優(yōu)化后稀疏緊湊的特性，但采取了比前者簡(jiǎn)單的學(xué)習(xí)方式。

2 稀疏濾波SF特征

2.1 稀疏濾波算法

稀疏濾波的方法主要是繞過對(duì)數(shù)據(jù)分布的估計(jì)，直接分析優(yōu)化特征的分布，通過優(yōu)化L2范數(shù)歸一化的特征激活值，加上L1范數(shù)的稀疏約束，直接分析優(yōu)化特征的分布，只需調(diào)整一個(gè)參數(shù)（特征數(shù)目），并且可同時(shí)滿足特征優(yōu)化的三個(gè)條件：（1）種群稀疏（Populationsparsity），每個(gè)樣本都只由有很少的非零特征來描述；（2）存在稀疏（Lifetime Sparsity），每個(gè)特征只在很少的樣本中被激活；（3）高分散性（High Dispersal），所有的特征應(yīng)具有相似的分布。算法原理：首先引入一個(gè)每一行是一個(gè)特征，每一列是一個(gè)樣本的特征分布矩陣M。每個(gè)元素f_j^（i）表示第i個(gè)樣本的第j個(gè)特征的激活值。接著計(jì)算線性特征：

f_j^（i）=w_j^Tx^（i）（1）

第一步，先對(duì)M的行進(jìn)行歸一化，再對(duì)列進(jìn)行歸一化，然后再將M中所有元素的絕對(duì)值求和。具體過程是先歸一化每個(gè)特征為相等的激活值，將每一個(gè)特征除以其在所有樣本的2范數(shù)：

（2）最優(yōu)化高分散性

特征的高分散屬性要求每個(gè)特征被恒等激活。在這里，可以直接地強(qiáng)制每個(gè)特征的激活值平方后的均值相等。在式（4）中，首先通過將每個(gè)特征除以它在所有樣本的L2范數(shù)來歸一化每個(gè)特征，使它們具有相同的如式（2）所示的激活值。實(shí)際上，它和約束每個(gè)特征具有相同的平方期望值有一樣的效果：

因此，它已經(jīng)隱含地優(yōu)化了高分散性。

（3）最優(yōu)化存在稀疏性

該算法的實(shí)驗(yàn)證明，對(duì)種群稀疏性和高分散性的優(yōu)化就已經(jīng)優(yōu)化了特征的存在稀疏性。原因是：一個(gè)具有種群稀疏性的特征分布在特征矩陣?yán)飼?huì)存在很多非激活的元素（為0的元素），而且因?yàn)闈M足高分散性，這些零元素會(huì)近似均勻地分布在所有的特征里。因此，每一個(gè)特征必然會(huì)有一定數(shù)量的零元素，從而保證了存在稀疏性。

3 SF-BPNN特征

3.1 BP神經(jīng)網(wǎng)絡(luò)

誤差反向傳播神經(jīng)網(wǎng)絡(luò)（Back-PropagationNeuralNetworks，BPNNs）從結(jié)構(gòu)上講，是一種分層式的典型多層網(wǎng)絡(luò)，具有輸入層、隱含層和輸出層，層與層之間多采用全連接的方式。同一層單元之間不存在相互連接。圖1給出了一個(gè)典型的三層BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

BP網(wǎng)絡(luò)可被看成是一個(gè)從輸入到輸出的高度非線性映射，即F：R_m→R_n，Y=f（X）。對(duì)于樣本集合：x_i（R_m）和y_i（R_n），可以認(rèn)為存在某一種映射g，使g（x_i）=y_i，i=1，2，…，p?，F(xiàn)要求有一個(gè)映射f，使得在某種意義下（通常是最小二乘意義下），f是g的最佳逼近。Hecht-Nielsen證明了如下的Kolmogorov定理：給定任一連續(xù)函數(shù)f：U→R，這里U是閉單位區(qū)間[0，1]，f可以精確地用一個(gè)3層前饋網(wǎng)絡(luò)實(shí)現(xiàn)。

3.2 SF-BPNN特征

SF-BPNN特征由兩步學(xué)習(xí)構(gòu)成：首先，樣本輸入經(jīng)過稀疏濾波，利用該算法產(chǎn)生特征競(jìng)爭(zhēng)特效，得到降維的初級(jí)特征表達(dá)；然后，該初級(jí)特征被送入BP神經(jīng)網(wǎng)絡(luò)，進(jìn)一步通過非線性函數(shù)映射來建立輸入數(shù)據(jù)的內(nèi)部分布模型，得到學(xué)習(xí)后的網(wǎng)絡(luò)權(quán)值。在識(shí)別的時(shí)候同樣先對(duì)測(cè)試輸入樣本進(jìn)行稀疏濾波，再輸入到訓(xùn)練好的BP網(wǎng)絡(luò)之后就能得到直接具有分類效果的SF-BPNN特征。針對(duì)具體的一個(gè)人臉識(shí)別任務(wù)，SF-BPNN算法的流程示意圖如圖2所示。

4 實(shí)驗(yàn)結(jié)果與分析

在FERET人臉數(shù)據(jù)庫(kù)上，使用PCA加各種距離測(cè)度作為基準(zhǔn)，來跟單獨(dú)應(yīng)用的BP神經(jīng)網(wǎng)絡(luò)和本文的SF-BPNN算法進(jìn)行比較。使用到的距離測(cè)度有斯皮爾曼距離（Spearman Distance）、城市街區(qū)距離（Cityblock Distance）和馬氏距離（MahalanobisDistance），其計(jì)算公式如下表1所示。分別選擇數(shù)據(jù)庫(kù)里200人的1400張圖、100人的700張圖兩種樣本容量。每人的7幅圖片里6張做訓(xùn)練。1張做測(cè)試。使用7折交叉驗(yàn)證取平均值的方法來計(jì)算識(shí)別率。首先使用PCA將數(shù)據(jù)集進(jìn)行降維，分別保留95%、85%和75%的信息量，對(duì)應(yīng)兩種容量大小的樣本集合，輸入數(shù)據(jù)維數(shù)從6400維分別降低到了171維、28維和9維以及122維、24維和8維。然后將降維后的數(shù)據(jù)分別應(yīng)用各種距離測(cè)度和BP神經(jīng)網(wǎng)絡(luò)來進(jìn)行人臉識(shí)別。對(duì)于本文算法，先利用稀疏濾波將維數(shù)降低到跟PCA同等的數(shù)量，然后BP神經(jīng)網(wǎng)絡(luò)采用兩個(gè)隱含層，第一個(gè)隱層120個(gè)神經(jīng)元，神經(jīng)元激活函數(shù)為tansig函數(shù)，第二個(gè)隱層40個(gè)神經(jīng)元，激活函數(shù)為logsig函數(shù)。由于第一隱層采用的tansig函數(shù)值域?yàn)閇-1，1]，所以先把輸入數(shù)據(jù)映射到[-1，1]區(qū)間再作為網(wǎng)絡(luò)輸入。網(wǎng)絡(luò)的訓(xùn)練方法采用量化共軛梯度法（Scaled Conjugate Gradient，SCG）或者是彈性BP算法（Resilient？Back Propagation，RPROP）。前面單獨(dú)應(yīng)用的BP網(wǎng)絡(luò)跟這個(gè)使用相同的結(jié)構(gòu)。這幾種方法計(jì)算識(shí)別率之后作出如圖3的對(duì)比圖。各種方法的識(shí)別率列于表2。

說明：以上公式是假設(shè)給定m*n的數(shù)據(jù)矩陣x。可視為m個(gè)行向量x₁，x₂，…，x_m，兩兩行向量之間x_t和x_s之間的距離就被定義為d_st。

從圖表可以直觀地看出，常用的PCA加距離測(cè)度的算法不穩(wěn)定，無法由統(tǒng)一的一種距離測(cè)度能在所有試驗(yàn)條件下都取得最高識(shí)別率。甚至有的距離測(cè)度在不同條件下識(shí)別率差異非常大，性能極不穩(wěn)定。相比之下，神經(jīng)網(wǎng)絡(luò)的算法則性能比較穩(wěn)定，識(shí)別率基本都保持在50%以上。由于在輸入網(wǎng)絡(luò)之前增加了稀疏濾波處理，可以去除許多無關(guān)甚至是干擾的信息。因此可以從結(jié)果看到本文提出的SF-BPNN算法將單獨(dú)應(yīng)用神經(jīng)網(wǎng)絡(luò)的識(shí)別率進(jìn)一步提高了，并且即使濾波后特征維數(shù)只剩下9維也依舊把識(shí)別率保持在了60%以上。

5 結(jié)束語

本文提出了一種基于稀疏濾波的神經(jīng)網(wǎng)絡(luò)人臉識(shí)別算法，該算法利用良好表達(dá)特征應(yīng)該具有的三種性質(zhì)來進(jìn)行特征稀疏優(yōu)化。從實(shí)驗(yàn)結(jié)果上看，該算法的識(shí)別精度比PCA降維+距離測(cè)度的方法要高，也具有更穩(wěn)定的性能。設(shè)計(jì)的兩級(jí)級(jí)聯(lián)特征提取網(wǎng)絡(luò)在第一級(jí)快速優(yōu)化特征，降低樣本特征維數(shù)，得到選擇后的初級(jí)特征。接著在第二級(jí)采用神經(jīng)網(wǎng)絡(luò)來建立輸入數(shù)據(jù)的模型并直接輸出指示類別的信號(hào)。并且在FERET人臉數(shù)據(jù)庫(kù)上驗(yàn)證了此方法的有效性。