穆新亮

(西安電子科技大學數(shù)學與統(tǒng)計學院，陜西西安 710126)

目前，人臉識別算法中較為主流的是Turk等［1］提出了一種較為經典的特征人臉法，其利用主成分分析法(PCA)進行人臉特征提取，而且取得了較好的效果，且有眾多研究者對該方法進行了改進［2－5］。由于圖像像素之間存在非線性相關性，而PCA只對圖像數(shù)據(jù)線性關系處理的效果較好，PCA對非線性相關性的數(shù)據(jù)信息卻得不到良好的處理。

針對此問題，Vpink等人根據(jù)統(tǒng)計學習理論的相關知識提出了一種基于支持向量機(SVM)學習方法，同時引入了核空間。Scholkopf［6］首先提出了作為PCA的非線性推廣KPCA，由于核主成分分析(KPCA)考慮了非線性信息，使得識別效果比PCA更好。目前，KPCA已廣泛應用于人臉識別中。對未來人臉識別技術發(fā)展奠定了基礎。其中利用KPCA方法把輸入空間不可線性分類問題變換到特征空間實現(xiàn)線性分類。此方法的識別效果明顯高于主成分分析方法。同樣對于采用KPCA法進行人臉特征提取，利用線性支持向量機(SVM)設計分類器，使得人臉識別率也明顯得到提高。但單一使用核函數(shù)會使得特征提取的數(shù)據(jù)有一定的缺陷和不足。針對此問題，本文首先通過提出的快速的KPCA方法的詳細推導過程，使得研究者更加具體的從原理上得到理解，然后再利用基于混合核函數(shù)KPCA進行特征提取與分類識別

1 傳統(tǒng)核主成分分析(KPCA)

1.1 主成分分析

PCA［7－9］已廣泛應用于人臉識別中，其主要特點是將每一張人臉圖像按列拉成一列向量，即隨機向量x，在保證重建誤差最小的情形下，尋找一個投影方向v，使這些隨機向量在該方向上投影后的方差最大。對于給定 N 張訓練圖像 x1，x2，…，xN，xi∈Rn，i=1，2，…，N，N·n，C為訓練圖像的協(xié)方差矩陣

問題轉化為求協(xié)方差矩陣最大特征值所對應的特征向量，但是由于C的維數(shù)是n×n，維數(shù)較大，所以計算特征值分解時相當費時，通常采用奇異值分解(SVD)［10］進行轉換，最終得到協(xié)方差矩陣的主特征向量，從而可方便地求出經過線性降維后的數(shù)據(jù)。

1.2 核主成分分析

首先一個非線性Φ被用來將輸入數(shù)據(jù)空間Rn映射到特征空間 F∶Φ∶Rn→F，xi|→Φ(xi)，i=1，2，…，N，設M=［Φ(x1)，Φ(x2)，…，Φ(xN)］，隨機向量Φ(x)協(xié)方差矩陣為，其中，然而在特征空間中中心化數(shù)據(jù)較為困難，因此可首先考慮非中心化的協(xié)方差矩陣，在高維的特征空間中計算協(xié)方差矩陣C的特征向量幾乎不可能，因此使用核技巧來處理。設kij=k(xi，xj)=(Φ(xi)·Φ(xj))，則核矩陣K=MTM，而核矩陣的維數(shù)遠小于協(xié)方差矩陣的維數(shù)，因此可先計算核矩陣K的特征向量，然后由奇異值分解定理可推導出協(xié)方差矩陣C的特征值，但要求的是中心化的協(xié)方差矩陣CΦ的特征向量，可知當核矩陣K通過下面的公式中心化

只要求K出的前m個最大特征值σ1≥σ2≥…≥σm所對應的特征向量 μ1，μ2，…，μm，也可推到出 CΦ相應的m個特征向量v1，v2，…，vm，則樣本Φ(xj)經非線性降維后變?yōu)?y=［y1，y2，…，ym］，其中

2 快速核主成分分析

根據(jù)KPCA的計算過程可知:假設有個訓練樣本，構成了N個樣本矢量，每個矢量的維數(shù)為n，則核矩陣K為N×N方陣，對于大樣本集識別問題，訓練和識別會占用較長的時間。

針對上述問題及文獻［11］，本文提出一種用樣本的均值矢量代替所有樣本來生成核矩陣的方法?；舅枷胧羌僭O這些樣本分為C類，每個類別的樣本數(shù)為L個，稱之為有L組訓練樣本，如果從中提取T(T＜L)組樣本進行計算核矩陣，當T·L時，計算時間將會大幅縮減，從而將KPCA應用于實時的人臉識別系統(tǒng)成為可能，均值矢量可表示為

定理 1［12］ke)T］，其中 e=［1，1，…，1］。

定理2［13］設 K1和 K2是 χ× χ上核函數(shù)，x∈Rn。設常數(shù)a≥0，則下面的函數(shù)均是核函數(shù):

(1)K(x，x')=K1(x，x')+K2(x，x')

(2)K(x，x')=aK1(x，x')

(3)K(x，x')=aK1(x，x')K2(x，x')所以本文使用的混合核函數(shù)為

本文提出基于混合核函數(shù)的FKPCA進行人臉識別。

FKPCA算法:

步驟1 首先要確定使用的核函數(shù)，且需給核函數(shù)中的參數(shù)以確定的值。

步驟2 計算訓練樣本的均值矢量，然后建立核矩陣 K=MTM，M:=K+δI

步驟3 根據(jù)(MTM)－1CIα=λα，可求出矩陣的前m個特征值和特征向量

步驟 4 特征提取:記 U=［α1，α2，…，αm］，V=［v1，v2，…，vm］則

Y=［y1，y2，…，yN］，其中 yi∈Rm×N表示第 i張圖片經非線性降維后的圖像向量

步驟5 分類識別:比較待識別的一張圖片yc和訓練集中的所有圖片 ti的歐氏距離，若 d(yc，tl)=，則認為該測試圖像 yc和 ti是同一類的

3 實驗結果及分析

實驗環(huán)境:Windows 7+Matlab 2009b，計算機的CPU:Dual Core Processor 2.4 GHz，1.87 GB 內存。在實驗中，使用如下兩個數(shù)據(jù)庫:(1)ORL人臉數(shù)據(jù)庫包含40個人，每個提供10種不同的圖像。部分圖像是在不同時間拍攝的，面部表情和面部細節(jié)各有所不同。所有灰度圖像分辨率為112×92;(2)AR［14］人臉數(shù)據(jù)庫(http://rvl1.ecn.purdue.edu/aleix/aleix face DB.html)是一個大型人臉圖像數(shù)據(jù)集。部分圖像由于存在太陽鏡和圍巾，可能會包含大面積遮擋，這增加了類內的差異和識別難度。本文使用AR的一個子集，包含40個人的200張人臉圖像，灰度圖像分辨率為40×50。

圖1 ORL人臉數(shù)據(jù)庫中一組人臉圖像

3.1 在ORL數(shù)據(jù)庫的比較

在本次實驗中通過實驗選取較優(yōu)的參數(shù)σ2=1 000，在ORL數(shù)據(jù)庫中比較傳統(tǒng)的KPCA中核矩陣K=K－1NK－K1N+1NK1N與本文提出的K－INK的特征值，發(fā)現(xiàn)完全相等，且相應計算出的人臉圖像識別率也幾乎完全相等，如圖2所示。

圖2 兩種方法的特征值與相應識別率比較圖

因此，可使用本文推導出的方法計算協(xié)方差矩陣的特征向量，此方法計算復雜度明顯減小。若要處理大數(shù)據(jù)的識別問題，為能提高識別率和運行時間采用混合核函數(shù)并用均值矢量構建核矩陣的方法。

3.2 在AR數(shù)據(jù)庫的比較

傳統(tǒng)的 KPCA采用高斯核，其中2σ2=188，在FKPCA算法中混合核函數(shù)，經多次實驗最終選擇較優(yōu)的參數(shù)a=2，b=1，c=0，d=1/4，2σ2=188，然后在AR數(shù)據(jù)庫中進行實驗，取編號為奇數(shù)的圖像作為訓練集，選定均值矢量圖像作為訓練集，如圖3所示。

圖3 兩種特征值貢獻率與識別率的運行時間對比圖

從圖3可看出，在這種混合函數(shù)情況下，提出的方法比傳統(tǒng)的KPCA方法擁有較高的識別率，且穩(wěn)定性較好。此外，更重要的是時間成本節(jié)省較多，人臉的識別速度更快。

3.3 在ORL數(shù)據(jù)庫的比較

3.3.1 多式核與高斯核之積的混合核函數(shù)

實驗在ORL人臉數(shù)據(jù)庫中進行，在FKPCA中混合核函數(shù)采用式(8)，其中參數(shù)通過大量實驗取最優(yōu)為2σ2=200，a=6e－4，b=d=1，c=0，均值矢量只取所有訓練樣本的均值，傳統(tǒng)KPC采用高斯核函數(shù)，其中2σ2=200，得到的實驗結果如圖3所示。

圖4 兩種特征值貢獻率與識別率的運行時間比較

如圖4所示，這兩種算法在識別率方面接近，但運行時大幅降低，從而在處理大數(shù)據(jù)的人臉識別問題時就具有優(yōu)勢，為實時識別系統(tǒng)提供了便捷。

3.3.2 多項式核與高斯核加權和的混合核函數(shù)

實驗在ORL人臉數(shù)據(jù)庫中進行，在FKPCA中混合核函數(shù)采用式(7)，選擇最優(yōu)的參數(shù)為a=4，b=1，c=0，d=1/4，2σ2=200，均值矢量只取所有訓練樣本的均值，傳統(tǒng)KPC采用高斯核函數(shù)，其中2σ2=200，得到的實驗結果如圖5所示。

從圖5也可明顯看出，通過加權混合核函數(shù)的FKPCA算法在較大程度上提高了人臉識別率，而且隨著特征值累積貢獻率的增加，識別率保持穩(wěn)中有升的態(tài)勢，但傳統(tǒng)的KPCA在這方面出現(xiàn)了擺動現(xiàn)象，因此還有FKPCA算法較為高效，識別時間短，且大幅減少了時間成本，從而在大數(shù)據(jù)時代具有一定的應用前景。

圖5 兩種特征值貢獻率與識別率的運行時間比較圖

4 結束語

提出了基于混合核函數(shù)的快遞核主成分分析的人臉識別方法。該方法對人臉數(shù)據(jù)進行降維，刪除圖像固有的冗余，獲得有效的人臉特征矩陣，再利用圖像的相似性和NN分類器來進行分類識別。該方法的特點是用訓練樣本的均值矢量代替原有的訓練樣本，從而建立核矩陣，實驗結果表明，本文方法獲得較高的識別率;同時和其他現(xiàn)存的方法相比，本文的方法識別率比較穩(wěn)定，且時間復雜度大幅降低，從而在大數(shù)據(jù)時代將發(fā)揮應有的作用。但是，必須認識到FKPCA算法的局限性，其主成分在一些實際問題中無法合理解釋。因此，研究稀疏PCA是下一步要進行的任務，其主要思路是在原始的PCA的優(yōu)化模型中增加一個約束條件≤k，k是一個常正整數(shù)，這個優(yōu)化模型求解出來的方向向量是稀疏的，最多有k個非零元素，雖然這一問題是NP難問題，但其在新聞數(shù)據(jù)分類、選票統(tǒng)計和股票市場數(shù)據(jù)中應用廣泛，目前常用的算法是將其轉化為半定規(guī)劃模型來解決，但是它的模型推導復雜并且解的精度并不理想，因此值得繼續(xù)研究。

［1］Turk Pentland M.Eigenfaces for recognition［J］.Cognitive Science，1991，1(3):71 －86 1991.

［2］Jolliffe I T.Principal component analysis［M］.2nd Edition.Berlin:Springer，2002.

［3］Yang J，Yang JY.From image vector to matrix:A straightforward image projection technique－IMPCA versus PCA［J］.Pattern Recognition，2002，35(9):1997 －1999.

［4］Chen S，Zhu Y.Subpattern － based principal component analysis［J］.Pattern Recognition，2004，37(5):1081 －1083.

［5］Gottuumukkal R，Asari V K.An improved face recognition technique based on modular PCA approach ［J］.Pattern Recognition Letter，2004，25(4):429 －436.

［6］Scholkopf B，Smola A，Muller K R.Nonlinear component analysis as a kernel eigenvalue Problem［J］.Neural Computer，2011(3):1299 －1319.

［7］Yang Minghsuan.Kernel eigenfaces vs.kernel fisherfaces:face recognition using kernel methods［C］.In Proceedings of the Fifth IEEE International Confernce on Automatic Face and Gesture Recognition，2002:215 －220.

［8］Wang Yanmei，Zhang Yanzhu.Facial recognition base on kernel PCA［C］.2010 Third International Conference on Intelligent Networks and Intelligent Systems，2010.

［9］Zhao Lihong，Zhang Xili，Xu Xinhe.Face recognition base on KPCA with polynomial krnel［C］.Beijing，China:Proceedings of the 2007 International Conference on Wavelet Analysis and Pattern Recognition，2007.

［10］Du G，Zhu W J.Face recognition method based on singular value decomposition and fuzzy decision［J］.Journal of Image and Graphics，2006，11(10):1456 －1459.

［11］吳成東，樊玉泉，張云洲，等.基于改進KPCA算法的車牌字符識別方法［J］.東北大學學報:自然科學版，2008，29(5):629－632.

［12］Gopi ES，Palanisamy P.Fast computation of PCA bases of image subspace using its inner－product subspace［J］.Applied Mathematics and Computation，2013，21(9):6729 －6732.

［13］鄧乃揚，田英杰.數(shù)據(jù)挖掘中的新方法—支持向量機［M］.北京:科學出版社，2004.

［14］Martinez A，Benavente R.The AR face database［R］.MA USA:Technical Report Computer Vision Center，1998.