倪懷發(fā),沈肖波,孫權(quán)森

(南京理工大學(xué) 計算機科學(xué)與工程學(xué)院，江蘇 南京 210094)

基于低秩分解的魯棒典型相關(guān)分析

倪懷發(fā),沈肖波,孫權(quán)森

(南京理工大學(xué) 計算機科學(xué)與工程學(xué)院，江蘇 南京 210094)

典型相關(guān)分析(CCA)是一種經(jīng)典的多特征提取算法，它能夠有效地抽取兩組特征之間的相關(guān)性，現(xiàn)已被廣泛應(yīng)用于模式識別。在含噪聲數(shù)據(jù)情況下，CCA的特征表示性能受到限制。為了使CCA更好地處理含噪聲數(shù)據(jù)，提出一種基于低秩分解的典型相關(guān)分析算法——魯棒典型相關(guān)分析(robust canonical correlation analysis，RbCCA)。RbCCA首先對特征集進行低秩分解，得到低秩分量和噪聲分量，以此分別構(gòu)建對應(yīng)的協(xié)方差矩陣。通過最大化低秩分量的相關(guān)性，同時最小化噪聲分量的相關(guān)性來建立判別準則函數(shù)，進而求取鑒別投影矢量。在MFEAT手寫體數(shù)據(jù)庫、ORL和Yale人臉數(shù)據(jù)中的實驗結(jié)果表明，在包含噪聲的情況下，RbCCA的識別效果優(yōu)于現(xiàn)有的典型相關(guān)分析方法。

模式識別;特征抽取;數(shù)據(jù)降維;典型相關(guān)分析;低秩表示;低秩分解;低秩分量;噪聲分量

在計算機視覺和模式識別領(lǐng)域，數(shù)據(jù)降維和特征提取一直是比較重要的研究方向。主成分分析(principal component analysis，PCA)[1]和線性鑒別分析(linear discriminant analysis, LDA)[2]是最經(jīng)典的兩種線性特征提取算法，其中主成分分析是無監(jiān)督特征提取算法的代表，線性鑒別分析是監(jiān)督特征提取算法的代表。而單特征提取算法只能從一個角度或一個通道來處理信號數(shù)據(jù)[3]。在通常的分類任務(wù)中，數(shù)據(jù)經(jīng)常有多種表示方式。傳統(tǒng)的單特征提取算法主要針對單表示數(shù)據(jù)的維數(shù)約減[4]，不適合多表示數(shù)據(jù)的維數(shù)約減。

典型相關(guān)分析(canonical correlation analysis，CCA)是一種經(jīng)典的多元統(tǒng)計分析方法。于1936年由H.Hotelling[5]首次提出，現(xiàn)已被成功應(yīng)用于字符與人臉等圖像識別任務(wù)中[6-7]，并取得了良好的效果。但是，在處理含噪聲數(shù)據(jù)情況時，CCA的特征表示能力卻有限。在通常的模式識別分類任務(wù)中，數(shù)據(jù)會包含很多由于設(shè)備故障或者自然環(huán)境產(chǎn)生的噪聲，這在一定程度上限制了CCA的應(yīng)用范圍。

近年來，許多學(xué)者[8-10]提出了低秩表示(low-rank representation， LRR)理論。Wright等[9]也基于低秩分解提出了針對噪聲數(shù)據(jù)的魯棒主成分分析(robust principal component analysis，RPCA)。通過對原始噪聲數(shù)據(jù)進行低秩處理，RPCA可以有效地抽取出高維數(shù)據(jù)中的低維子空間結(jié)構(gòu)。

為了提升CCA在噪聲情況下抽取線性相關(guān)性的能力，受低秩理論的啟發(fā)，提出了魯棒典型相關(guān)分析(robust canonical correlation analysis,RbCCA)。RbCCA首先對抽取出的特征集運用RPCA進行低秩分解，提取出原始特征的低秩主分量和噪聲稀疏分量?；谶@兩種分量分別構(gòu)建對應(yīng)的協(xié)方差矩陣。通過最大化低秩分量的相關(guān)性，同時最小化噪聲分量的相關(guān)性來建立判別準則函數(shù)，進而求取鑒別投影矢量。在MFEAT手寫體數(shù)據(jù)庫以及ORL和Yale人臉數(shù)據(jù)庫中的實驗結(jié)果表明：在不同程度的噪聲數(shù)據(jù)下，RbCCA算法的識別效果均優(yōu)于現(xiàn)有CCA方法的識別效果。

1 典型相關(guān)分析基本原理

假設(shè)兩組隨機矢量集x∈Rp與y∈Rq，并且E(x)=0，E(y)=0，典型相關(guān)分析就是尋找一對投影方向α∈Rp與β∈Rq，使得投影x*=αΤx與y*=βΤy之間具有最大的相關(guān)性，稱這種相關(guān)為典型相關(guān)，對應(yīng)的投影方向α和β通過最大化如下相關(guān)準則函數(shù)獲得[11-12]：

式中：E(·)表示隨機變量的期望，Sxx和Syy分別表示隨機矢量x和y的組內(nèi)協(xié)方差矩陣，Sxy表示隨機矢量x與y的互協(xié)方差矩陣，在這里，假設(shè)Sxx和Syy是非奇異矩陣。

在實際求解中ρCCA(α、β)的極值與α、β的大小無關(guān)，只與α、β的方向有關(guān)。為了確保解的唯一性，可令：

在式(2)的約束下，式(1)可等價的表示為

運用奇異值分解對式(3)進行求解，得到投影矢量集α和β。

2 基于低秩分解的魯棒典型相關(guān)分析

典型相關(guān)分析作為一種經(jīng)典的多元統(tǒng)計分析方法，已被成功應(yīng)用于字符與人臉等圖像識別任務(wù)中[6-7]，并取得了良好的效果。但是，在處理含噪聲數(shù)據(jù)時，CCA的特征表示能力卻有限。為了提升CCA在噪聲情況下的特征表示能力，引入低秩理論處理噪聲，提出了新的CCA模型——魯棒典型相關(guān)分析。

魯棒典型相關(guān)分析(RbCCA)是針對含噪聲數(shù)據(jù)而提出的一種典型相關(guān)分析(CCA)改進算法。RbCCA通過將含噪聲數(shù)據(jù)進行低秩分解，得到低秩分量和噪聲分量?；谶@兩種分量，RbCCA構(gòu)建出新的協(xié)方差矩陣。提出的優(yōu)化準則函數(shù)能夠在最大化本質(zhì)特征的相關(guān)性的同時最小化噪聲的相關(guān)性，從而盡可能地降低噪聲對典型投影矢量的影響。提升了傳統(tǒng)CCA在含噪聲數(shù)據(jù)下的特征表示能力。

2.1 RbCCA協(xié)方差矩陣的構(gòu)建

在模式識別任務(wù)中，為了避免噪聲影響分類結(jié)果，許多已有的方法通常直接利用通過低秩分解得到的低秩分量進行特征降維和模式分類。但是，一般情況下噪聲分量中也包含了一些對分類有利的信息[13]，不能直接遺棄。因此，基于低秩分量和噪聲分量，建立新的互協(xié)方差矩陣，改進CCA的目標優(yōu)化方程，提出了魯棒典型相關(guān)分析。

為了獲得給定含噪聲觀察矩陣W∈Rm×n中對應(yīng)的低秩分量Z∈Rm×n和噪聲分量E∈Rm×n，Wright等[9,14]提出了秩最小化方程：

2.2 算法原理與模型構(gòu)建

式(5)是一個多目標方程優(yōu)化問題，很難直接求解。通過最大化公式(5)中兩個準則函數(shù)的差值進行求解[16]，即

式(6)滿足在最大化本質(zhì)特征的相關(guān)性的同時最小化噪聲的相關(guān)性的要求，保證了求解得出的投影矢量的鑒別能力。相應(yīng)地，能夠得到式(7)約束：

式(8)滿足了在最大化本質(zhì)特征的相關(guān)性的同時最小化噪聲成分的相關(guān)性的要求。最大程度上降低了噪聲對典型投影矢量的影響，增強了投影矢量的鑒別能力。

2.3 RbCCA模型求解

式(8)的求解方法同CCA算法的求解。利用Lagrange乘數(shù)法，可以將問題轉(zhuǎn)化為求解如下兩個廣義特征方程的問題：

對于給定的樣本矢量x和y，對原始特征進行投影后得到變換后的特征分量(α*)Tx和(β*)Ty。為了方便后續(xù)的模式分類，采用式(10)的串行特征融合策略對特征進行融合：

式(10)計算對應(yīng)投影后的特征矢量及其特征組合，將組合后的特征用于模式分類。

RbCCA既滿足了多表示數(shù)據(jù)的維數(shù)約減要求，保持了較好的識別率，又填補了傳統(tǒng)CCA在噪聲數(shù)據(jù)下特征表示能力差的缺陷，提升了CCA處理噪聲數(shù)據(jù)的能力。

3 實驗結(jié)果與分析

本實驗的目的是驗證本文所提算法RbCCA在噪聲數(shù)據(jù)下特征提取的有效性，分別在多特征手寫體數(shù)據(jù)集MFEAT和ORL以及Yale兩個人臉數(shù)據(jù)庫上進行了識別實驗。其中λ的取值需根據(jù)噪聲強度的大小進行調(diào)整。實驗中均采取串行融合的策略進行特征融合，并選取最近鄰分類器進行模式分類。

3.1 MFEAT手寫體數(shù)據(jù)庫

MFEAT手寫體數(shù)據(jù)庫一共包含fac、fou、kar、mor、pix、zer 6組特征，每組特征包含0～9共10個數(shù)字，每個數(shù)字類別包含200個樣本。6組特征，每兩組特征進行組合共15種組合，隨機挑選其中的10種組合做10次隨機實驗，每次實驗從每種組合中隨機選擇100個作為訓(xùn)練樣本，100個作為測試樣本。訓(xùn)練樣本總數(shù)和測試樣本總數(shù)均為1 000。實驗開始前，在原始MFEAT數(shù)據(jù)庫上，分別在6組特征加入10%的椒鹽噪聲來模擬實際應(yīng)用中的噪聲。

表1隨機抽取MFEAT數(shù)據(jù)庫中10種特征組合，分別將CCA、PLS、LPCCA、RCCA以及RbCCA等算法做了對比實驗。實驗數(shù)據(jù)表明，RbCCA在這10種特征組合的識別率平均比CCA的識別率高出10%。在fac_fou、fou_zer以及mor_pix 3種組合里，RbCCA的識別更是高出CCA識別結(jié)果的15%以上。表1初步證實了RbCCA對噪聲數(shù)據(jù)特征提取的有效性。

圖1列出了添加噪聲后的MFEAT數(shù)據(jù)中的fac_fou特征組合上CCA、PLS、LPCCA、RCCA以及RbCCA等算法的對比實驗結(jié)果曲線圖。通過圖1可以很明顯看出，RbCCA的識別率遠遠高于其他算法。隨著特征維度的增加，RCCA、LPCCA、CCA算法的識別率在逐漸下降，而RbCCA的識別率卻呈上升趨勢。這是由于隨著特征維度增加，特征中包含的噪聲也在增加，影響了RCCA、LPCCA、CCA的分類正確率。圖1表明RbCCA能夠較好地提取噪聲數(shù)據(jù)中圖像的原始信息，針對噪聲圖像的分類識別效果優(yōu)于其他4種算法。

表1MFEAT不同特征組合下識別算法識別率

Table1DifferentcharacteristicsofthecombinationidentifythealgorithmrecognitionrateinMFEAT

特征CCAPLSLPCCARCCARbCCApix＿zer0．8330．8510．8130．8470．916fac＿fou0．7240．7350．7350．7420．908fac＿mor0．6890．6710．6820．7050．780fac＿pix0．9310．9190．9290．9340．960fac＿zer0．7440．7420．7660．7720．887fou＿pix0．8540．8590．860．8590．961fou＿zer0．5410．5240．5190．5260．738kar＿zer0．5680．5540．5690．5740．665mor＿pix0．7180．7190．7200．6940．875fou＿kar0．5660．5690．5550．5020．675

圖1 識別方法識別結(jié)果隨著特征維度增加的識別曲線圖Fig.1 The recognition curve of the recognition method with the increase of the feature dimension

3.2 ORL人臉數(shù)據(jù)庫

ORL人臉數(shù)據(jù)庫[17]由劍橋大學(xué)AT&T實驗室創(chuàng)建，包含40人共400張面部圖像，每幅圖像大小92×112像素，部分圖像包括了姿態(tài)，表情和面部飾物的變化。圖2給出了ORL人臉庫中某人的10張圖像。

圖2 ORL人臉數(shù)據(jù)庫中某人的10張圖像Fig.2 10 images of a person in the ORL face database

實驗預(yù)處理階段，每幅圖像分別加入10%椒鹽噪聲模擬噪聲分量。實驗中，對于每一類，若無特別說明，均是隨機選擇5幅作為訓(xùn)練樣本，其余5幅作為測試樣本。

表2、圖3分別列出了在選擇不同訓(xùn)練樣本數(shù)目和變化不同特征維度時，6組對比算法的識別效果。算法中RPCA+CCA是直接利用低秩分量來計算典型相關(guān)分析投影矢量的算法簡稱。

表2的實驗數(shù)據(jù)表明，隨著訓(xùn)練樣本數(shù)目的增加，幾種算法的識別率均有不同程度的提升。對比RPCA+CCA和CCA的識別率，可以看出RPCA+CCA的識別效果優(yōu)于CCA。這也從側(cè)面說明了RPCA對于噪聲的魯棒性。

表2ORL人臉庫不同的訓(xùn)練樣本數(shù)下識別算法的識別率

Table2ORLfacedatabaseunderdifferenttrainingsamplesidentifytherecognitionrateofthealgorithm

識別算法23456CCA0．5160．6610．7670．7930．816PLS0．5810．7210．8000．8100．870LPCCA0．3910．5930．7870．8300．900RCCA0．4530．6140．7250．8000．883RPCA+CCA0．5680．7070．8040．8300．915RbCCA0．7160．8070．8210．8500．956

通過圖3可以看出，隨著特征維度的增加，除RPCA+CCA和RbCCA之外的其余4種算法的識別率均呈下降趨勢，這是由于隨著特征維度的增加，抽取的特征中所包含的噪聲成分也在增加，對識別效果產(chǎn)生了較大的影響。隨著特征維度的增加， RPCA+CCA和RbPCCA的識別正確率均呈上升趨勢，并且由于RbCCA模型利用到了噪聲成分的信息，所以它的識別效果始終優(yōu)于只利用低秩分量的RPCA+CCA的模型的識別效果。

圖3 識別方法識別結(jié)果隨特征維度增加的變化曲線圖Fig.3 The recognition curve of the recognition method with the increase of the feature dimension

圖4顯示了隨著數(shù)據(jù)樣本所含噪聲強度的增加，6種算法的識別率變化曲線圖。在本次實驗中，選取每類6個樣本作為訓(xùn)練樣本，其余4個樣本作為測試樣本。從圖4中可以看出，隨著噪聲強度的增加，6種算法的識別正確率均有不同程度的下降趨勢。相對于其他算法，RbCCA識別率下降趨勢較為平緩，并且噪聲強度在2%～20%時，它的識別率始終保持在了92%以上。進一步證實了RbCCA對噪聲具有很好的魯棒性，能夠很好地提取噪聲數(shù)據(jù)的有效特征。

圖4 識別方法識別結(jié)果隨著噪聲強度增加的變化曲線圖Fig.4 The result of the recognition method with the increase of the noise intensity

3.3 Yale數(shù)據(jù)庫實驗

Yale人臉數(shù)據(jù)庫[18-21]包含15個人的165幅灰度圖像，每人11幅，包括光照方向(左、右和正面)、眼睛、表情變化(正常、愉快、悲傷、困乏、驚訝和眨眼)。圖像大小為100像素×100像素。圖5是Yale人臉庫中某人的11幅圖像。

圖5 Yale數(shù)據(jù)庫中某人的11幅圖像Fig.5 11 images of one person in Yale database

實驗預(yù)處理階段，對每幅圖像分別加入10%椒鹽噪聲，實驗中，對于每一類，若無特別說明，均是隨機選擇6幅作為訓(xùn)練樣本，其余5幅作為測試樣本。

表3、圖6分別表示了在選擇不同訓(xùn)練樣本數(shù)目和變換不同特征維度時，6組對比算法的識別效果。表3的實驗數(shù)據(jù)進一步表明RbCCA對于噪聲數(shù)據(jù)特征提取的有效性。

表3Yale人臉庫不同的訓(xùn)練樣本數(shù)下，CCA、PLS、LPCCA、RCCA、RPCA+CCA、RbCCA算法的識別率

Table3RecognitionratesforCCA,PLS,LPCCA,RCCA,RPCA+CCA,RbCCAalgorithmsfordifferenttrainingsamplesintheYalefacedatabase

識別算法34567CCA0．6350．6750．7450．7600．833PLS0．7200．7710．7890．7990．883LPCCA0．5400．6850．7220．7570．861RCCCA0．6750．6950．7670．7930．889RPCA+CCA0．6840．7400．7610．7750．865RbCCA0．7330．7890．7950．8270．967

圖6 識別方法識別結(jié)果隨著特征維度增加的變化曲線圖Fig.6 The recognition curve of the recognition method with the increase of the feature dimension

通過圖6可以看出，特征維數(shù)在10～40之間，隨著特征維數(shù)的增加，6種算法的識別正確率均有不同程度的提升。從總體上看，RbCCA算法的識別率始終高于其他5種算法。特征維度大于40維之后，隨著特征維度的增加，除RPCA+CCA和RbCCA之外的其余4種算法的識別率均呈下降趨勢。RbCCA模型因為利用到了噪聲成分的信息，所以它的識別效果始終優(yōu)于只利用低秩成分的RPCA+CCA模型的識別效果。

圖7是針對不同噪聲強度每種算法的識別率變化曲線圖。本次實驗中隨機選取每一類的7個樣本作為訓(xùn)練樣本，其余4個作為測試樣本。變化曲線表明，隨著噪聲強度的增加，6種算法的識別率均有不同程度的下降。從圖中可以看出，隨著噪聲強度的增加，CCA識別率下降得最快，相比較來看，RPCA+CCA以及RbCCA的下降趨勢相對平緩。雖然隨著噪聲強度的增加，RbCCA識別率稍有降低。但是噪聲強度從2%～20%之間，它的識別率均在91%以上，遠遠優(yōu)于其他5種算法的識別率。這也進一步表明了RbCCA對于噪聲數(shù)據(jù)處理的有效性。

圖7 識別方法識別結(jié)果隨著噪聲強度增加的變化曲線圖Fig.7 The result of the recognition method with the increase of the noise intensity

4 結(jié)束語

為了提升CCA噪聲數(shù)據(jù)的處理能力，本文提出魯棒典型相關(guān)分析算法(RbCCA)。RbCCA首先對兩組特征進行低秩分解，從而分解得到低秩以及噪聲分量?；谶@兩種分量，RbCCA構(gòu)建出新的協(xié)方差矩陣。提出的準則函數(shù)能夠最大化本質(zhì)特征的相關(guān)性，同時最小化噪聲的相關(guān)性，從而盡可能少地降低噪聲對典型投影矢量的影響，增強投影矢量的鑒別能力。在MFEAT手寫體、ORL和Yale人臉數(shù)據(jù)上的實驗表明，相比于現(xiàn)有的CCA方法，RbCCA對噪聲數(shù)據(jù)具有較強的魯棒性，在模式分類任務(wù)中可以達到較好的識別率。

在實際應(yīng)用方面，RbCCA中存在一些問題值得進一步研究。在低秩分解時參數(shù)λ的值對噪聲強度大小以及特征維度的大小很敏感，需要調(diào)整參數(shù)λ的值才能達到較好的識別效果。如何建立一個參數(shù)選擇標準或者函數(shù)關(guān)系，以適應(yīng)不同范圍的噪聲強度以及特征維度還有待進一步研究論證。

[1]FUKUNAGA K. Introduction to statistical pattern recognition[M]. Academic press, 2013.

[2]FISHER R A. The use of multiple measurements in axonomic problems[J]. Annals of eugenics, 1936, 7(2): 179-188.

[3]楊勇，蔡舒博.一種基于兩步降維和并行特征融合的表情識別方法[J]. 重慶郵電大學(xué)學(xué)報：自然科學(xué)版, 2015, 27(3): 377-387.

YANG Yong，CAI Shubo. Facial expression recognition method based on two-steps dimensionality reduction and parallel feature fusion[J]. Journal of chongqing university of posts and telecommunications： natural science edition， 2015, 27(3): 377-387.

[4]HOU C, ZHANG C, WU Y, et al. Multiple view semi-supervised dimensionality reduction[J]. Pattern recognition, 2010, 43(3): 720-730.

[5]HOTELLING H. Relations between two sets of variates[J]. Biometrika, 1936, 28(3/4): 321-377.

[6]孫權(quán)森，基于相關(guān)投影分析的特征抽取與圖像識別研究[D]. 南京：南京理工大學(xué)， 2006.

SUN Quansen. Research on feature extraction and image recognition based on correlation projection analysis[D]. Nanjing： Nanjing University of Science and Technology, 2006.

[7]HOU Shudong, 孫權(quán)森. 稀疏保持典型相關(guān)分析及在特征融合中的應(yīng)用[J]. 自動化學(xué)報, 2012, 38(4): 659-665.

HOU Shudong, SUN Quansen. Sparse maintaining canonical correlation analysis and its application in feature fusion[J]. Journal of automation, 2012, 38(4): 659-665.

[8]LIU G, LIN Z, YAN S, et al. Robust recovery of subspace structures by low-rank representation[J]. IEEE transactions on pattern analysis and machine intelligence, 2013, 35(1): 171-184.

[9]WRIGHT J, GANESH A, RAO S, et al. Robust principal component analysis: Exact recovery of corrupted low-rank matrices via convex optimization[C]//Advances in neural information processing systems. Vancouver, BC, Canada, 2009: 2080-2088.

[10]LIU G, LIN Z, YU Y. Robust subspace segmentation by low-rank representation[C]//Proceedings of the 27th international conference on machine learning (ICML-10). Haifa, Israel. 2010: 663-670.

[11]袁運浩.多重集典型相關(guān)分析理論及在高維多表示數(shù)據(jù)中的應(yīng)用[D]. 南京：南京理工大學(xué)， 2013.

YUAN Yunhao. Canonical correlation analysis theory of multiple sets and its application in multi-representation data[D]. Nanjing： Nanjing University of Science and Technology, 2013.

[12]孫權(quán)森， 曾生根， 王平安，等. 典型相關(guān)分析的理論及其在特征融合中的應(yīng)用[J]. 計算機學(xué)報， 2005， 28(9): 1524-1533.

SUN Quansen, ZENG Shenggen, WANG Pingan, et al. The theory of canonical correlation analysis and its application in feature fusion[J]. Chinese journal of computers, 2005, 28(9): 1524-1533.

[13]張凡龍. 基于核范數(shù)的低秩理論與方法研究[D]. 南京：南京理工大學(xué)，2015.

ZHANG Fanlong. Research on low rank theory and method based on kernel norm[D]. Nanjing： Nanjing University of Science and Technology,2015.

[15]BAO B K, LIU G, XU C, et al. Inductive robust principal component analysis[J]. IEEE transactions on image processing, 2012, 21(8): 3794-3800.

[16]SHEN X B, SUN Q S, YUAN Y H. A unified multiset canonical correlation analysis framework based on graph embedding for multiple feature extraction[J]. Neurocomputing, 2015, 148: 397-408.

[17]FERDINANDO S, ANDY H. Parameterisation of a stochastic model for human face identification[C]//Proceedings of 2nd IEEE Workshop on Applications of Computer Vision. Sarasota FL, 1994.

[18]BELHUMEUR P, HEPANHA J, KRIEGMAN D. Eigenfaces vs. Fisherfaces: recognition using class specific linear projection[J]. IEEE transactions on pattern analysis and machine intelligence, 1997, 19(7): 711-720.

[19]袁寶華, 王歡, 任明武. 基于完整 LBP 特征的人臉識別[J]. 計算機應(yīng)用研究, 2012, 29(4): 1557-1559.

YUAN Baohua, WANG Huan, REN Mingwu. Face recognition based on complete lbp feature [J]. Journal of computer applications, 2012, 29(4): 1557-1559.

[20]何國輝, 甘俊英. 二維主元分析在人臉識別中的應(yīng)用研究[J]. 計算機工程與設(shè)計, 2006, 27(24): 4667-4669.

HE Guohui, GAN Junying. Application of two-dimensional principal component analysis in face recognition[J]. Computer engineering and design, 2006, 27(24): 4667-4669.

[21]趙軍,趙艷,楊勇,等. 基于降維的堆積降噪自動編碼機的表情識別方法[J].重慶郵電大學(xué)學(xué)報：自然科學(xué)版, 2016, 28(6): 844-848.

ZHAO Jun， ZHAO Yan， YANG Yong， et al. Facial expression recognition method based on stacked denoisingauto-encoders and feature reduction[J]. Journal of chongqing university of posts and telecommunications： natural science edition， 2016, 28(6): 844-848.

Robustcanonicalcorrelationanalysisbasedonlowrankdecomposition

NI Huaifa, SHEN Xiaobo, SUN Quansen

(School of Computer Science and Engineering, Nanjing University of Science and Technology, Nanjing 210094, China)

Canonical correlation analysis (CCA) is a popular multi-feature extraction method, which can effectively explore the correlations between two sets of features. Up to now, CCA has been widely used in pattern recognition, however it has limited feature extraction power for large noisy data. For CCA to deal better with noisy data, a new method, robust canonical correlation analysis (RbCCA), based on low rank decomposition, is proposed. RbCCA first decomposes features using low rank decomposition to get the low rank and noisy components, then it constructs new covariance matrices based on these two components. A discriminative criteria function is further established to obtain discriminative projections by maximizing the correlations of the low rank component and minimizing the correlations of the noisy component. Experimental results on a MFEAT handwritten dataset, and ORL and Yale face datasets show that RbCCA can achieve higher recognition rates than existing CCA methods, especially in noisy settings.

Pattern recognition; feature extraction; data dimensionality reduction; canonical correlation analysis; low rank representation; low rank decomposition; low rank component; noise component

2016-07-24.網(wǎng)絡(luò)出版日期2017-04-07.

國家自然科學(xué)基金項目(61273251).

孫權(quán)森. E-mail:sunquansen@njust.edu.cn.

10.11992/tis.201607024

http://kns.cnki.net/kcms/detail/23.1538.tp.20170407.1758.012.html

TP391

A

1673-4785(2017)04-0491-07

中文引用格式：倪懷發(fā),沈肖波,孫權(quán)森.基于低秩分解的魯棒典型相關(guān)分析J.智能系統(tǒng)學(xué)報， 2017, 12(4): 491-497.

英文引用格式：NIHuaifa,SHENXiaobo,SUNQuansen.RobustcanonicalcorrelationanalysisbasedonlowrankdecompositionJ.CAAItransactionsonintelligentsystems, 2017, 12(4): 491-497.

倪懷發(fā),男, 1990年生,碩士研究生,主要研究方向為模式識別理論與應(yīng)用。

沈肖波，男，1989年生，博士研究生，主要研究方向為模式識別、信息融合等。

孫權(quán)森，男,1963年生,教授,博士生導(dǎo)師，主要研究方向為模式識別理論與應(yīng)用、圖像分析與識別。主持國家自然科學(xué)基金、教育部博士點基金、江蘇省自然科學(xué)基金、國防科工局民用航天預(yù)先研究項目、國家重大專項基礎(chǔ)關(guān)鍵技術(shù)項目及其他省部級項目20余項。入選2006 年度江蘇省“青藍工程”中青年學(xué)術(shù)帶頭人培養(yǎng)對象。獲得省部級獎勵5項；獲得國家發(fā)明專利3項，申請國家發(fā)明5項。發(fā)表學(xué)術(shù)論文100余篇，被SCI檢索近30篇，主編著作教材4部。