董昌劍，陳秀宏，陳達(dá)遙

(江南大學(xué)數(shù)字媒體學(xué)院,江蘇 無(wú)錫 214122)

有監(jiān)督正交局部保留投影及其在人臉識(shí)別中的應(yīng)用*

董昌劍，陳秀宏，陳達(dá)遙

(江南大學(xué)數(shù)字媒體學(xué)院,江蘇 無(wú)錫 214122)

針對(duì)局部保留投影算法(LPP)的無(wú)監(jiān)督和非正交問題，提出了一種有監(jiān)督的正交局部保留投影算法SOLPP。該算法同時(shí)考慮了樣本的類別信息以及投影向量間的相互正交性，首先利用樣本的類標(biāo)簽信息重新定義了類內(nèi)和類間相似度矩陣，同時(shí)最大化類間離散度與類內(nèi)離散度之比，有效地保持了樣本的局部結(jié)構(gòu)；其次對(duì)投影基向量進(jìn)行正交化，在保持?jǐn)?shù)據(jù)空間結(jié)構(gòu)的同時(shí)進(jìn)一步提高了人臉識(shí)別效果。在ORL和FERET人臉庫(kù)上的實(shí)驗(yàn)表明，該方法的識(shí)別率要優(yōu)于SLPP等算法。

人臉識(shí)別；圖像降維；有監(jiān)督；正交化；局部保留投影

1 引言

圖像降維是人臉識(shí)別中重要的預(yù)處理步驟之一，其目的是在保留人臉的主要信息的同時(shí)將高維的特征空間嵌入到一個(gè)維數(shù)相對(duì)較低的空間。根據(jù)是否使用標(biāo)簽信息，降維方法可分為有監(jiān)督的和無(wú)監(jiān)督的，其對(duì)應(yīng)的兩個(gè)最常用的降維方法分別是主成分分析法PCA(Principal Component Analysis)[1]和線性判別分析法LDA(Linear Discriminant Analysis)[2]。

近年來(lái)基于流形技術(shù)的降維方法吸引許多人研究，并基于不同的準(zhǔn)則和目的提出了多種流形降維算法。He Xiao-fei等[3,4]提出了一種局部保留投影LPP(Locality Preserving Projection)的線性降維算法，并已被證實(shí)在許多應(yīng)用中可以得到比PCA和LDA更好的效果。LPP的本質(zhì)是一種無(wú)監(jiān)督的降維方法，其主要思想是通過(guò)變換，使原始空間中相互離得近的點(diǎn)對(duì)在降維后的低維空間中也保持較近，從而保留原始數(shù)據(jù)的局部結(jié)構(gòu)。該方法對(duì)于類內(nèi)距離較近的數(shù)據(jù)能夠找到好的投影方向，但當(dāng)兩個(gè)不同的類距離較近甚至部分重合時(shí)，則會(huì)被投影到一起，得到的結(jié)果不理想。為此，申中華[5]提出了有監(jiān)督局部保留投影算法SLPP(Supervised Locality Preserving Projection)，它同時(shí)考慮了局部保留特性和類間分離性，得到了較好的投影效果。李曉曼等人[6～9]提出的基于類別信息的監(jiān)督局部保留投影方法使樣本點(diǎn)在低維空間能夠同時(shí)保持流形的局部幾何結(jié)構(gòu)和分類信息。但是,他們都沒有考慮投影向量間的正交性。LPP本身是通過(guò)求解一個(gè)不對(duì)稱特征方程的最小特征值所對(duì)應(yīng)特征向量得到投影向量，它并不能保證各方向均為正交的，從而導(dǎo)致人臉數(shù)據(jù)重建因難。Cai D[7]等提出了一種正交拉普拉斯算法，保證了向量間的正交性，但是沒有考慮標(biāo)簽信息及類間離散度問題。

基于對(duì)上述算法的優(yōu)缺點(diǎn)分析，并參考一些較新的改進(jìn)算法[8～12]，本文將有監(jiān)督的局部保留投影與正交拉普拉斯算法相結(jié)合，在同時(shí)考慮局部保留特性、類間分離性和投影向量正交性的條件下，提出一種新的有監(jiān)督正交局部保留投影SOLPP(Supervised Orthogonal Locality Preserving Projection)的人臉識(shí)別算法，并在ORL和FERET人臉庫(kù)上進(jìn)行實(shí)驗(yàn)，以說(shuō)明該方法優(yōu)于SLPP等方法。

2 LPP算法回顧

假設(shè)樣本集X=[x1,x2,…,xn]，xi∈Rm，i=1,2,…,n。數(shù)據(jù)的線性降維就是尋找一個(gè)投影矩陣A=[a1,a2,…,ad]∈Rm×d，將這些樣本映射到一個(gè)低維的特征空間。在這個(gè)低維樣本空間中，樣本集表示為Y=[y1,y2,…,yn],且Y=ATX。變換矩陣A可通過(guò)最小化如下LPP的目標(biāo)函數(shù)來(lái)得到：

其中yi=aTxi，S為相似矩陣，用k近鄰法定義為：

經(jīng)過(guò)簡(jiǎn)單代數(shù)計(jì)算后，可得:

aTX(D-S)XTa=aTXLXTa

上述約束問題很容易轉(zhuǎn)換為一個(gè)求解特征值問題:

XLXTa=λXDXTa

在人臉識(shí)別中，LPP算法經(jīng)常會(huì)遇到小樣本問題，即矩陣XDXT是奇異的。為了解決這個(gè)問題，通常先對(duì)原始圖像數(shù)據(jù)采用PCA降維，保證矩陣XDXT是非奇異的;然后在PCA子空間應(yīng)用LPP算法。因此,LPP算法的投影矩陣A=[a1,a2,…,ad]就由矩陣(XDXT)-1XLXT的前d個(gè)最小特征值所對(duì)應(yīng)的特征向量構(gòu)成。

3 有監(jiān)督的正交局部保留投影(SOLPP)

3.1LPP算法的缺點(diǎn)

LPP算法是一種非監(jiān)督的降維算法，它的主要目的是使原始空間中兩個(gè)距離相近的點(diǎn)在低維投影空間中也相距很近，這樣可以有效地保持原始空間的局部結(jié)構(gòu)。但是，由于LPP算法沒有考慮數(shù)據(jù)中的類別信息，對(duì)于屬于同一類的相近點(diǎn)來(lái)說(shuō)，在低維空間中相距很近是合適的，但對(duì)于屬于不同類的相近點(diǎn)來(lái)說(shuō)，在低維空間中如果也保持靠近就會(huì)影響最后的識(shí)別效果。其次，降維后的低維空間的兩個(gè)數(shù)據(jù)點(diǎn)的歐氏距離可以表示成：

如果A是正交的，則AAT=I,原始圖像的空間結(jié)構(gòu)就能被完好地保存。但是，由于LPP算法中矩陣(XDXT)-1XLXT是非對(duì)稱的，其解也不可能是一組相互正交的特征向量，因些對(duì)數(shù)據(jù)重建造成一定困難，不能有效地保持圖像的空間結(jié)構(gòu)。

3.2SOLPP算法

針對(duì)LPP的非監(jiān)督本質(zhì)，引入有監(jiān)督的處理機(jī)制，充分利用不同人臉圖像的類別信息。通過(guò)上述對(duì)LPP的分析可以看出，為了獲得更好的投影降維效果，不但要保留類內(nèi)的局部結(jié)構(gòu)，使同一類的樣本點(diǎn)相距很近，還要最大化類間分離度，使不同類的樣本點(diǎn)相距較遠(yuǎn)，以便得到最佳的分類特征，提高分類識(shí)別的精度。

類內(nèi)局部結(jié)構(gòu)的保留可通過(guò)最小化式(1)得到：

(1)

其中,W是類內(nèi)相似度矩陣，Wij和LPP中的Sij相似，不同的是Sij表示的是全局樣本中的兩點(diǎn)xi和xj的相似度，而Wij表示的是同一類內(nèi)的兩個(gè)樣本的相似程度。這樣最小化式(1)就可以保證同一類內(nèi)的點(diǎn)在投影到低維空間后相距較近。

同時(shí)，類間分離度可通過(guò)最大化式(2)得到：

(2)

其中,B是類間相似度矩陣，Bij表示不同類的兩個(gè)樣本xi和xj的相似程度。這樣最大化式(2)就可以保證不同類的點(diǎn)在投影到低維空間后相距較遠(yuǎn)。這里仍使用熱核來(lái)計(jì)算相似度。在SLPP 中，首先是建立類間鄰接圖和類內(nèi)鄰接圖，然后分別定義了樣本類內(nèi)相似度矩陣B和類間的相似度矩陣W。為了充分利用樣本的類別信息以及減少構(gòu)建鄰接圖的過(guò)程，可以將其重新定義為：

因此,目標(biāo)函數(shù)可重寫為：

經(jīng)過(guò)簡(jiǎn)單的變換后目標(biāo)函數(shù)可變?yōu)椋?/p>

(3)

其中,LB=DB-B,LW=DW-W是拉普拉斯矩陣。DB和DW都是對(duì)角矩陣，對(duì)角元素分別是B和W對(duì)應(yīng)的列或行上的元素之和。則最大化目標(biāo)函數(shù)式(3)可轉(zhuǎn)化為求下面廣義特征值問題的最大特征值對(duì)應(yīng)的特征向量：

XLBXTa=λXLWXTa

(4)

同樣，在小樣本情況下，矩陣XLWXT可能會(huì)出現(xiàn)奇異性，因此首先對(duì)原始圖像數(shù)據(jù)進(jìn)行PCA降維，以保證矩陣XLWXT是非奇異的。則式(4)的前k個(gè)最大特征值對(duì)應(yīng)的特征向量構(gòu)成投影矩陣。

則正交基向量可通過(guò)下面的迭代方法計(jì)算得到：

Step1計(jì)算q1，q1由廣義特征方程XLBXTq=λXLWXTq的最大的特征值所對(duì)應(yīng)的特征向量得到。

Step2計(jì)算qk，qk通過(guò)計(jì)算方程M(k)q=λq的最大特征值所對(duì)應(yīng)的特征向量得到，其中M(k)的定義如下：

最后得到正交投影矩陣U*=[q1,q2,…,qk]。

綜上所述，利用SOLPP算法進(jìn)行人臉識(shí)別的基本步驟如下：

(1) 為了保證XLXT是非奇異的，首先對(duì)原始人臉圖像進(jìn)行PCA降維處理，將高維的人臉特征通過(guò)轉(zhuǎn)換矩陣投影到低維的PCA子空間中去，并求得投影矩陣UPCA。

(2) 使用熱核函數(shù)建立類內(nèi)相似度矩陣W和類間相似度矩陣B，并計(jì)算拉普拉斯矩陣LB=DB-B,LW=DW-W。求解下面的廣義特征值問題得到初始投影基向量：

XLBXTa=λXLWXTa

(3) 采用迭代正交化方法對(duì)上面得到的初始投影基向量進(jìn)行正交化，得到正交投影矩陣U*。

(5) 利用最小近鄰分類法對(duì)測(cè)試圖像進(jìn)行分類。對(duì)于每一個(gè)投影后的測(cè)試圖像，比較其與投影后的訓(xùn)練圖像之間的歐氏距離，并決策為與其最近的圖像的同類。進(jìn)而通過(guò)決策的正確與否求出SOLPP算法的人臉識(shí)別效率。

4 仿真實(shí)驗(yàn)與結(jié)果分析

4.1ORL上人臉識(shí)別實(shí)驗(yàn)結(jié)果

為了驗(yàn)證算法的有效性，在ORL庫(kù)上對(duì)本文算法進(jìn)行測(cè)試，并與PCA、LDA、LPP、SLPP算法進(jìn)行比較。ORL人臉庫(kù)包括40個(gè)人的400幅112×92大小的人臉圖片。人的臉部表情和臉部細(xì)節(jié)有著不同程度的變化，人臉姿態(tài)也有相當(dāng)程度的變化，深度旋轉(zhuǎn)和平面旋轉(zhuǎn)達(dá)20°,人臉的尺度也有10%的變化。本文實(shí)驗(yàn)使用的人臉圖片經(jīng)剪切后大小均為64×64。圖1是ORL人臉庫(kù)的一些人臉照片。

Figure 1 ORL face database圖1 ORL人臉庫(kù)

ORL人臉庫(kù)上每人有10張圖片，本文用每人的前4、5、6張圖像進(jìn)行訓(xùn)練，用剩下的圖片進(jìn)行測(cè)試。其中變量d的值從1取到最大特征維數(shù)，最佳識(shí)別率便可通過(guò)k的不同取值來(lái)得到。表1為PCA、LDA、LPP、SLPP、SOLPP幾種方法在不同訓(xùn)練樣本數(shù)下的最佳識(shí)別率的比較。圖2為訓(xùn)練圖像為前4張時(shí)不同方法在不同特征向量維數(shù)下的識(shí)別率比較。

Table 1 Best recognition rates on ORL表1 ORL人臉庫(kù)上的最佳識(shí)別率 %

Figure 2 Recognition rates of different dimension on ORL圖2 ORL人臉庫(kù)上不同維數(shù)下的識(shí)別率(4Train)

4.2 FERET上人臉識(shí)別實(shí)驗(yàn)結(jié)果

FERET人臉庫(kù)由FERET項(xiàng)目組創(chuàng)建，包含200個(gè)人的1 400張人臉灰度圖像，其中圖像具有多姿態(tài)、不同光照環(huán)境的特點(diǎn)。圖3是FERET人臉庫(kù)的一些人臉照片

Figure 3 FERET face database圖3 FERET人臉庫(kù)

FERET人臉庫(kù)中每人有7張圖片，本文用每人的前3、4、5張圖像進(jìn)行訓(xùn)練，其余圖像進(jìn)行測(cè)試。實(shí)驗(yàn)結(jié)果如表2和圖4所示。

Table 2 Best recognition rates on FERET表2 FERET人臉庫(kù)上的最佳識(shí)別率 %

Figure 4 Recognition rates of different dimension on FERET圖4 FERET人臉庫(kù)上不同特征維數(shù)下的識(shí)別率(4Train)

4.3 實(shí)驗(yàn)結(jié)果分析

上述實(shí)驗(yàn)結(jié)果表明，本文提出的算法識(shí)別率是最高的，有監(jiān)督算法的識(shí)別率要高于無(wú)監(jiān)督的算法，保留局部結(jié)構(gòu)算法的識(shí)別率要高于保留全局結(jié)構(gòu)的算法。PCA算法的識(shí)別率最低，因?yàn)槠涫欠潜O(jiān)督學(xué)習(xí)算法，沒有使用類標(biāo)簽信息。LDA是有監(jiān)督學(xué)習(xí)算法，使用了類標(biāo)簽信息，識(shí)別率較PCA有很大提高，但是忽視了流形的局部結(jié)構(gòu)。LPP具有保持局部結(jié)構(gòu)的特征，它的識(shí)別率要優(yōu)于PCA。SLPP在LPP算法的基礎(chǔ)上加上類標(biāo)簽信息，將有監(jiān)督和保持局部結(jié)構(gòu)的優(yōu)點(diǎn)相結(jié)合，識(shí)別效果要優(yōu)于前三種算法。本文提出的SOLPP算法在SLPP算法的基礎(chǔ)上，又考慮了投影向量間的正交性，更有效地保持了數(shù)據(jù)的空間結(jié)構(gòu)，從而更好地提高了識(shí)別率。

5 結(jié)束語(yǔ)

本文結(jié)合了有監(jiān)督局部保留投影和正交拉普拉斯算法的優(yōu)點(diǎn)，提出了一種新的有監(jiān)督正交局部保留投影算法，同時(shí)解決了LPP沒有利用類標(biāo)簽信息和投影向量非正交的問題，保持了數(shù)據(jù)的局部結(jié)構(gòu)和整體結(jié)構(gòu)，使人臉識(shí)別的效率有了進(jìn)一步的提高。最后通過(guò)仿真實(shí)驗(yàn)進(jìn)行了驗(yàn)證。但是，該算法仍然是線性的數(shù)據(jù)降維方法，下一步的工作是嘗試使用核函數(shù)把線性降維，擴(kuò)展到非線性降維以求得到更好的識(shí)別效果。

[1] Jolloffe I T. Principal component analysis[M]. New York:Springer-Verlag,1986.

[2] Belhumeur P N,Hespanha J P,Kriegman D J.Eigenfaces vs. Fisherfaces:Recognition using class specific linear projection[J].IEEE Transactions on Pattern Analysis and Machine Intelligence,1997,19(7):711-720.

[3] He X F, Niyogi P. Locality preserving projections[C]∥Proc of Conference on Advances in Neural Information Processing Systems, 2003:585-591.

[4] He X F, Yan S C, Hu Y X. Face recognition using Laplacianfaces[J]. Pattern Analysis and Machine Intelligence, 2005,27(3):328-340.

[5] Shen Zhong-hua,Pan Yong-hui,Wang Shi-tong.A supervised locality preserving algorithm for dimensionality reduction[J]. Pattern Recognition and Artificial Intelligence,2008,21(2):233-239.(in Chinese)

[6] Li Xiao-man, Wang Jing.Supervised locality preserving projection based on class information[J]. Journal of Computer Applications, 2012,32(2):531-534.(in Chinese)

[7] Cai D, He X, Han J. Orthogonal Laplacian faces for face recognition[J].IEEE Transactions on Image Processing, 2006, 15(11):3608-3614.

[8] Jin Yi,Ruan Qiu-qi.Kernel based orthogonal locality preserving projections for face recognition[J].Journal of Electronics & Information Technology,2009,31(2):283-287.

[9] Wong W K, Zhao H T.Supervised optimal locality preserving projection[J].Pattern Recognition, 2012,45(1):186-197.

[10] Zhang Liang, Huang Shu-guang, Guo Hao.A fast kernel supervised locality preserving projection algorithm[J].Journal of Electronics & Information Technology,2011,33(5):1049-1054.

[11] Shu Xin, Gao Yao, Lu Hong-tao. Efficient linear discriminant analysis with locality preserving for face recognition[J].Pattern Recognition, 2012,45(5):1892-1898.

[12] Yang Wan-kou, Sun Chang-yin, Lei Zhang. A multi-manifold discriminant analysis method for image feature extraction[J]. Pattern Recognition,2011,44(8):1649-1657.

附中文參考文獻(xiàn)：

[5] 申中華,潘永惠,王士同.有監(jiān)督的局部保留投影降維算法[J]. 模式識(shí)別與人工智能,2008,21(2):233-239.

[6] 李曉曼, 王靖. 基于類別信息的監(jiān)督局部保持投影方法[J]. 計(jì)算機(jī)應(yīng)用, 2012,32(2):531-534.

DONGChang-jian,born in 1991,MS candidate,his research interests include artificial intelligence, and pattern recognition.

陳秀宏(1964-),男,江蘇泰興人,教授，研究方向?yàn)槿斯ぶ悄芎湍Ｊ阶R(shí)別。E-mail:xiuhongc@263.net

CHENXiu-hong,born in 1964,professor,his research interests include artificial intelligence, and pattern recognition.

陳達(dá)遙(1988-),男,湖南益陽(yáng)人，碩士生，研究方向?yàn)槿斯ぶ悄芎湍Ｊ阶R(shí)別。E-mail:404704115@qq.com

CHENDa-yao,born in 1988,MS candidate,his research interests include artificial intelligence, and pattern recognition.

Supervisedorthogonallocalitypreservingprojectionanditsapplicationinfacerecognition

DONG Chang-jian,CHEN Xiu-hong,CHEN Da-yao

(School of Digital Media,Jiangnan University,Wuxi 214122,China)

Aiming at the unsupervised and non-orthogonal property of the locality preserving projection, a supervised orthogonal locality preserving projection algorithm is proposed. The algorithm considers both of the class information and the orthogonal basis functions. Firstly, the within-class similarity matrix and the between-class similarity matrix are redefined by using the class information, the ratio of the between-class scatter and the within-class scatter is maximized, and the locality structure is preserved effectively. Secondly, the projection vector is orthogonalized, and the space structure of data is reserved as well as the effect of face recognition is further improved. Experimental results on ORL and FETER face databases demonstrate that the effectiveness of our proposed algorithm is better than other algorithms.

face recognition;image dimensionality reduction;supervised;orthogonalization;locality preserving projection

1007-130X(2014)08-1576-05

2013-01-03;

：2013-04-03

中央高校基本科研業(yè)務(wù)費(fèi)專項(xiàng)資金資助(JUSRT211A70 )

TP391.4

：A

10.3969/j.issn.1007-130X.2014.08.027

董昌劍(1991-),男,安徽濉溪人，碩士生，研究方向?yàn)槿斯ぶ悄芎湍Ｊ阶R(shí)別。E-mail:723985704@qq.com

通信地址：214122 江蘇省無(wú)錫市江南大學(xué)數(shù)字媒體學(xué)院

Address:School of Digital Media,Jiangnan University,Wuxi 214122,Jiangsu,P.R.China