劉保龍，王勇，李丹萍，王磊

（1.西安電子科技大學(xué)青島計(jì)算技術(shù)研究院，青島266000；2.上海交通大學(xué) 海洋智能裝備與系統(tǒng)教育部重點(diǎn)實(shí)驗(yàn)室，上海200240；3.西安電子科技大學(xué) 電子工程學(xué)院，西安710071； 4.中國(guó)電子科技集團(tuán)公司第27研究所，鄭州450047；5.西安電子科技大學(xué) 通信工程學(xué)院，西安710071）

近年來(lái)，隨著計(jì)算機(jī)技術(shù)的迅速發(fā)展，人臉識(shí)別技術(shù)得到廣泛研究與應(yīng)用，人臉識(shí)別成為近30年里模式識(shí)別和圖像處理中最熱門的研究主題之一。人臉識(shí)別的目的是從人臉圖像中抽取人的個(gè)性化特征，并以此來(lái)識(shí)別人的身份。

隨著人們獲取數(shù)據(jù)能力提高的同時(shí)，數(shù)據(jù)維數(shù)的增加引起了“維數(shù)災(zāi)難”問題，限制了人臉識(shí)別的準(zhǔn)確度和識(shí)別效率，因此對(duì)數(shù)據(jù)進(jìn)行降維預(yù)處理變得尤為必要。其中，主成分分析（PCA）［1］和線性判別分析（LDA）［2］是最早的降維方法，有效緩解了維數(shù)災(zāi)難問題，提高了實(shí)驗(yàn)的精確度，在目標(biāo)識(shí)別、圖像分割［3］和信號(hào)處理［4］等領(lǐng)域有著廣泛的應(yīng)用。為了增強(qiáng)投影的判別力，He等［5］考慮樣本的局部信息，提出局部保持投影（LPP），進(jìn)一步，根據(jù)重構(gòu)誤差的最小，其提出了近鄰保持嵌入（NPE）［6］，但是該算法并沒有考慮樣本的全局結(jié)構(gòu)；Sugiyama［7］將LPP算法與LDA算法結(jié)合，提出了局部費(fèi)舍爾判別分析（LFDA），通過最大化類間可分性和保持類內(nèi)局部結(jié)構(gòu)來(lái)適當(dāng)?shù)亟档投嗑垲惤Y(jié)構(gòu)數(shù)據(jù)的維數(shù)；2007年，Yan等［8］提出了圖嵌入框架，定義了本征圖和懲罰圖來(lái)描述數(shù)據(jù)的特征，并提出了邊界費(fèi)舍爾分析（MFA）。上述算法被廣泛應(yīng)用于維數(shù)約簡(jiǎn)，具有良好的降維效果。

隨著進(jìn)一步的研究，基于表示的分類在機(jī)器學(xué)習(xí)和模式識(shí)別等領(lǐng)域備受關(guān)注［9］，常見的有稀疏表示、協(xié)作表示、低秩表示等。稀疏表示技術(shù)起源于壓縮感知理論，最初應(yīng)用于信號(hào)處理領(lǐng)域，對(duì)信號(hào)起壓縮作用［10］。2009年，Wright等［11］首次將稀疏表示應(yīng)用于圖像分類中，提出基于稀疏表示的分類（Sparse Representation based Classification，SRC），其主要思想是：在l1范數(shù)的約束下，將測(cè)試樣本表示為訓(xùn)練樣本的一個(gè)線性組合，通過重建誤差最小對(duì)測(cè)試樣本進(jìn)行分類，強(qiáng)調(diào)樣本表示系數(shù)的稀疏性。鑒于SRC的成功，許多基于稀疏表示的降維方法相繼出現(xiàn)。Qiao等［12］提出了一種基于SRC的稀疏保持投影（SPP）來(lái)保持?jǐn)?shù)據(jù)的稀疏構(gòu)造關(guān)系。Ly等［13］提出了基于圖的稀疏判別分析（SGDA）算法，并應(yīng)用于遙感圖像的特征降維，該算法與SPP思想相近，不同的是SGDA是有監(jiān)督的算法，利用了數(shù)據(jù)的判別信息。但是解決l1范數(shù)最小化問題往往需要較大的計(jì)算量，這使得基于稀疏表示的方法（無(wú)論是原始的SRC還是降維的SPP等）均具有很高的計(jì)算復(fù)雜度。

雖然SRC強(qiáng)調(diào)了表示系數(shù)稀疏性的重要，但是Zhang等［14］證明了真正提高人臉識(shí)別精度的機(jī)制可能來(lái)自協(xié)作表示，而非l1范數(shù)稀疏性約束，進(jìn)而提出了基于協(xié)作表示的分類（Collaborative Representation based Classification，CRC），其采用l2范數(shù)約束，不僅提高了運(yùn)算效率，而且通過理論證明了CRC同樣具有稀疏分類的效果。但是嚴(yán)格來(lái)說(shuō)，與SRC一樣，CRC并不算有監(jiān)督分類方法并且作用于數(shù)據(jù)的原始空間。為了充分利用樣本的標(biāo)簽信息，將CRC的思想與有監(jiān)督投影算法相結(jié)合產(chǎn)生了一系列工作。2014年，Ly等［15］提出了基于圖的協(xié)作判別分析（CGDA）方法，其通過同類樣本之間的協(xié)作表示來(lái)構(gòu)造類內(nèi)權(quán)值矩陣，使樣本映射到低維空間后能夠保持樣本之間的局部信息。2016年，Yang等［16］提出了基于判別投影的正則化最小回歸（RLSDP），首先利用所有訓(xùn)練樣本用l2范數(shù)正則化最小二乘法重構(gòu)每個(gè)訓(xùn)練樣本，通過最大化LDA的類間散射和最小化同一類的重構(gòu)殘差，尋找一個(gè)判別子空間。除上述算法外，許多學(xué)者在協(xié)作表示基礎(chǔ)上，不斷地推出了新的方法和應(yīng)用場(chǎng)景［17-18］。

盡管上述算法在圖像分類上取得了不錯(cuò)的效果，但是它們主要從最小化重構(gòu)誤差角度出發(fā)，無(wú)法保證采用組系數(shù)約束得到相同類別樣本的編碼系數(shù)間是否相似。另一方面，上述算法均為兩階段模型，實(shí)際上分類器的更新反饋對(duì)于算法的優(yōu)化過程具有引導(dǎo)作用，將兩者整合到同一框架下，通過聯(lián)合優(yōu)化，可獲得更優(yōu)的編碼系數(shù)、判別投影矩陣以及更適合當(dāng)前任務(wù)的分類器，從而有助于模型識(shí)別性能的提升。

基于此，本文提出了一種基于塊對(duì)角投影表示（BDPR）學(xué)習(xí)方法，其主要優(yōu)勢(shì)如下：

1）充分利用了同類樣本之間的相似性，通過同類樣本間的距離構(gòu)造系數(shù)約束項(xiàng)，增強(qiáng)相同類別樣本表示系數(shù)的相似性，同時(shí)使個(gè)別受噪聲污染嚴(yán)重的樣本在數(shù)據(jù)重構(gòu)中的貢獻(xiàn)最小化，以加強(qiáng)干凈特征在聯(lián)合表示中的作用。

2）構(gòu)造編碼系數(shù)塊對(duì)角化判別逼近項(xiàng)來(lái)學(xué)習(xí)判別投影，實(shí)現(xiàn)數(shù)據(jù)與編碼系數(shù)相關(guān)聯(lián)，使得判別投影具有提取數(shù)據(jù)相關(guān)表示的能力，同時(shí)使近似編碼系數(shù)與標(biāo)簽信息相關(guān)聯(lián)，確保近似編碼系數(shù)盡可能具有塊對(duì)角化結(jié)構(gòu)。

3）通過提取的具有塊對(duì)角化結(jié)構(gòu)的近似編碼系數(shù)訓(xùn)練線性分類器，利用分類器的迭代反饋更新算法的優(yōu)化過程以提升模型的最終分類性能。

在多個(gè)公開人臉數(shù)據(jù)集上測(cè)試的結(jié)果表明，本文所提BDPR方法的分類性能優(yōu)于目前基于協(xié)作表示的分類方法和多個(gè)主流的子空間學(xué)習(xí)方法。

值得一提的是，上述子空間投影方法可以歸納入一種特殊的度量學(xué)習(xí)框架［19］，隨著深度學(xué)習(xí)的方興未艾，以深度度量學(xué)習(xí)為代表的系列方法在圖像分類中取得了矚目的效果［20］，構(gòu)建了一系列度量函數(shù)，驅(qū)動(dòng)各類深度模型在人臉識(shí)別［21］、車輛識(shí)別［22］、故障診斷［23］等領(lǐng)域展現(xiàn)出卓越的性能。

1 基于塊對(duì)角化結(jié)構(gòu)的投影表示

1.1 方法描述

1）基于編碼系數(shù)塊對(duì)角化結(jié)構(gòu)的重構(gòu)誤差項(xiàng)

本文BDPR方法的首要目標(biāo)是單獨(dú)地學(xué)習(xí)每一類人臉圖像數(shù)據(jù)的編碼系數(shù)，以信息損失最少為代價(jià)重構(gòu)原始圖像數(shù)據(jù)，同時(shí)獲得判別投影矩陣P用于從每個(gè)人的圖像數(shù)據(jù)中提取具有判別性的編碼系數(shù)，從而達(dá)到區(qū)分人臉圖像的作用。因此，重構(gòu)誤差項(xiàng)可設(shè)計(jì)為

為避免編碼系數(shù)為負(fù)，以及樣本被自己表示的極端情況，進(jìn)一步約束Zi非負(fù)，并強(qiáng)制其對(duì)角元素為0。同時(shí)為了避免平凡解，即一些樣本在線性表示中不被選擇，約束Zi每一行的和為1。

2）基于編碼系數(shù)塊對(duì)角化結(jié)構(gòu)的分類誤差項(xiàng)

為了訓(xùn)練更適合于有監(jiān)督人臉識(shí)別任務(wù)的分類器，在式（1）的基礎(chǔ)上，進(jìn)一步引入人臉圖像數(shù)據(jù)的標(biāo)簽信息進(jìn)行分類器學(xué)習(xí)，在最小化樣本重構(gòu)誤差的同時(shí)將分類器的分類誤差作為反饋指導(dǎo)編碼系數(shù)的優(yōu)化，提升編碼系數(shù)的表示能力。假設(shè)引入每個(gè)樣本x對(duì)應(yīng)的標(biāo)簽向量為y=［0，…，1，…，0］T∈Rc×1，1所在的位置對(duì)應(yīng)x的標(biāo)簽。假設(shè)可將近似編碼系數(shù)PX投影到標(biāo)簽矩陣上來(lái)學(xué)習(xí)一個(gè)線性分類器，那么分類誤差項(xiàng)可寫為

其中：lj表示xj所屬的類別。例如對(duì)于上述x1～x6構(gòu)成的數(shù)據(jù)，其B矩陣構(gòu)造為

通過結(jié)合式（1）和式（3），可以得到所提BDPR方法的最終目標(biāo)函數(shù)為

為了驗(yàn)證BDPR提取的近似編碼系數(shù)PX為塊對(duì)角化結(jié)構(gòu)，在AR人臉數(shù)據(jù)集上進(jìn)行測(cè)試。采用CRC作為對(duì)比方法，實(shí)驗(yàn)結(jié)果如圖1所示。圖1（a）為CRC所提取編碼系數(shù)，圖1（b）為BDPR所提取近似編碼系數(shù)PX?？梢钥闯?，CRC方法提取的編碼系數(shù)塊對(duì)角結(jié)構(gòu)不明顯，且主要分量集中于對(duì)角線元素，即樣本重構(gòu)過程中存在自我表示問題；BDPR所提取的編碼系數(shù)則具有較為明顯的塊對(duì)角化結(jié)構(gòu)，表現(xiàn)出更明確的樣本關(guān)系信息。

1.2 優(yōu)化過程

首先初始化P和W 為隨機(jī)矩陣。為了便于求解，引入一個(gè)輔助變量A，式（6）可轉(zhuǎn)化為如下的等價(jià)問題：

式中：A的結(jié)構(gòu)為

可以構(gòu)建如下拉格朗日函數(shù)：

1.3 測(cè)試過程

給定測(cè)試樣本xtest，首先利用最終學(xué)習(xí)到的投影矩陣計(jì)算xtest的近似編碼系數(shù)Pxtest，然后使用學(xué)習(xí)到的線性分類器W 得到xtest的軟標(biāo)簽向量ftest，其具體形式為

最后找到ftest最大元素所處的索引值，并將其作為xtest的預(yù)測(cè)類別標(biāo)簽。

將BDPR的方流程總結(jié)如下。

算法1 BDPR方法。

輸入：訓(xùn)練集X，距離度量矩陣R，類標(biāo)簽矩陣Y，調(diào)節(jié)參數(shù)λ、α、β、τ。

輸出：編碼系數(shù)Z，投影矩陣P，線性分類器W。

初始化：Ci=0（i=1，2，…，c），μ=0.2，μmax=108，ρ=1.1，Z=I。

訓(xùn)練：

1.按照式（13）更新A。

2.按照式（19）更新Z。

3.按照式（23）更新P。

4.按照式（25）更新W。

5.按照式（29）更新H。

6.按照下式更新Ci和μ：

7.檢查式（6）函數(shù)值是否滿足收斂條件，若滿足或者方法達(dá)到最大迭代次數(shù)，迭代停止，否則跳到步驟1繼續(xù)執(zhí)行。

測(cè)試：

1.根據(jù)式（30）計(jì)算測(cè)試樣例的軟標(biāo)簽向量ftest。

2.將ftest中最大元素的位置索引作為測(cè)試樣例的預(yù)測(cè)類別標(biāo)簽。

2 實(shí)驗(yàn)結(jié)果與分析

本節(jié)對(duì)所提BDPR方法在3個(gè)不同的人臉數(shù)據(jù)集（BANCA、AR、YaleB）進(jìn)行實(shí)驗(yàn)，BANCA為小樣本數(shù)據(jù)集，AR和YaleB為中等樣本數(shù)據(jù)集，具體數(shù)據(jù)集信息如表1所示。對(duì)比方法為標(biāo)準(zhǔn)的協(xié)作表示分類CRC［14］和經(jīng)典的子空間投影算法，包 括 PCA［1］、LPP［5］、MFA［8］、CGDA［15］、RLSDP［16］、RLSL［25］等。在預(yù)處理階段，統(tǒng)一先采用PCA方法保留樣本99%的能量對(duì)樣本進(jìn)行初步降維。在訓(xùn)練階段，本文在｛10-4，10-3，…，104｝區(qū)間內(nèi)采用網(wǎng)格式搜索的方式尋找各方法最優(yōu)參數(shù)組合。所有實(shí)驗(yàn)均在軟件環(huán)境為MATLAB R2019a、硬件環(huán)境為8.00 GB RAM、2.40 GHz CPU、64位Windows操作系統(tǒng)的計(jì)算機(jī)上進(jìn)行。

表1 實(shí)驗(yàn)采用的數(shù)據(jù)集信息Table 1 Information of dataset used in experiment

2.1 實(shí)驗(yàn)結(jié)果對(duì)比

本節(jié)將詳細(xì)介紹實(shí)驗(yàn)中所采用的人臉數(shù)據(jù)集（BANCA、AR、YaleB）及各方法的實(shí)驗(yàn)結(jié)果。

BANCA數(shù)據(jù)集［26］：包含208人共2 496幅圖像，這些圖像包含不同圖像質(zhì)量、不同時(shí)間段、不同光照等變化條件。實(shí)驗(yàn)中選取了52個(gè)人，每人包含10幅圖像，共520幅圖像組成數(shù)據(jù)集。將原始數(shù)據(jù)圖像裁剪為56×46。實(shí)驗(yàn)中每類選取4、5、6幅圖像為訓(xùn)練樣本，其余樣本構(gòu)建測(cè)試集。

AR數(shù)據(jù)集：包含4 000多種人臉圖像，分別對(duì)應(yīng)126人的面部，包含不同的面部表情、照明條件和遮擋的情況。實(shí)驗(yàn)中，選取50個(gè)人，每人包含26幅圖像，共1 300幅圖像組成數(shù)據(jù)集。將原始數(shù)據(jù)圖像裁剪為55×40。實(shí)驗(yàn)中，每類分別選取5、10、15幅圖像作為訓(xùn)練樣本，其余樣本構(gòu)建測(cè)試集。

YaleB數(shù)據(jù)集［27］：包含38個(gè)人共2 414幅圖像、9種姿態(tài)和64種光照的變化。每幅圖像剪裁為32×32。實(shí)驗(yàn)中，每類隨機(jī)選取20、30、40幅圖像作為訓(xùn)練集，其余樣本構(gòu)建測(cè)試集。

實(shí)驗(yàn)中，對(duì)數(shù)據(jù)進(jìn)行10次隨機(jī)劃分，表2為3個(gè)數(shù)據(jù)集上各方法在最優(yōu)參數(shù)下的平均正確率，加粗?jǐn)?shù)據(jù)表示同一實(shí)驗(yàn)條件下的最高分類正確率。

表2 各方法在不同數(shù)據(jù)集的最優(yōu)分類正確率Table 2 Highest classification accuracy of each method on different datasets %

從實(shí)驗(yàn)結(jié)果可以得出以下結(jié)論：

1）PCA和LPP算法沒有利用樣本的標(biāo)簽信息，屬于無(wú)監(jiān)督算法，因此其分類性能明顯低于有監(jiān)督算法。

2）MFA、CGDA和RLSDP雖然都是有監(jiān)督算法，但僅考慮了樣本的類內(nèi)和類間特性，而BDPR不僅利用標(biāo)簽信息構(gòu)建了樣本間的協(xié)作表示，而且考慮了相同類樣本編碼系數(shù)的相似性構(gòu)造了編碼系數(shù)局部約束項(xiàng)，并且該項(xiàng)可降低野值點(diǎn)樣本對(duì)其他同類樣本的重構(gòu)貢獻(xiàn)，因而編碼系數(shù)具有更魯棒的數(shù)據(jù)關(guān)系表征能力。

3）上述對(duì)比方法的分類器是不參與訓(xùn)練的，BDPR則將系數(shù)學(xué)習(xí)和分類器學(xué)習(xí)整合到一個(gè)聯(lián)合框架下，利用分類過程的反饋信息引導(dǎo)算法優(yōu)化，學(xué)習(xí)到的分類器更適合當(dāng)前樣本特點(diǎn)且可直接用來(lái)分類，無(wú)需另外選擇分類算法，避免了兩階段方法帶來(lái)的系統(tǒng)誤差。

2.2 方法收斂性

為了考察方法的收斂性，分別在上述3個(gè)數(shù)據(jù)集上記錄了方法在整個(gè)訓(xùn)練過程中目標(biāo)函數(shù)值的變化。圖2給出BDPR在各數(shù)據(jù)集上（前述實(shí)驗(yàn)各最高訓(xùn)練數(shù)目下）方法的收斂性能曲線。可知BDPR在各數(shù)據(jù)集上均具有良好的收斂性能，并且從第3次迭代開始，收斂曲線均趨于平緩，說(shuō)明BDPR具有較快的收斂速度。

2.3 參數(shù)敏感性

圖2 不同數(shù)據(jù)集上BDPR的函數(shù)收斂曲線Fig.2 Function convergence curves of BDPR method on different datasets

為了衡量不同的參數(shù)（λ、α、β和τ）對(duì)BDPR分類性能的影響，考察其在不同的參數(shù)組合情況下、10次隨機(jī)實(shí)驗(yàn)的平均分類正確率。選取AR人臉數(shù)據(jù)庫(kù)，每類隨機(jī)選取10個(gè)樣例作為訓(xùn)練樣本，其余設(shè)置和2.1節(jié)一致，參數(shù)選取范圍為｛10-3，10-2，…，103｝。鑒于BDPR中包含4個(gè)重要參數(shù)，因此采取固定2個(gè)參數(shù)調(diào)整另外2個(gè)參數(shù)的組合遍歷測(cè)試。圖3為BDPR分類正確率隨參數(shù)變化的三維柱狀圖。可知，BDPR對(duì)參數(shù)的選擇并不敏感。

3 結(jié) 論

本文提出了一種基于塊對(duì)角結(jié)構(gòu)的投影表示（BDPR）學(xué)習(xí)方法，通過與經(jīng)典的基于協(xié)作表示分類和子空間學(xué)習(xí)方法相比，可以得到以下結(jié)論：

1）BDPR在傳統(tǒng)協(xié)作表示的基礎(chǔ)上，構(gòu)造了編碼系數(shù)約束項(xiàng)，在增強(qiáng)了編碼系數(shù)表征數(shù)據(jù)關(guān)系能力的同時(shí)，使得噪聲和異常值對(duì)數(shù)據(jù)重構(gòu)的影響最小。

2）本文方法通過構(gòu)造編碼系數(shù)判別逼近項(xiàng)來(lái)學(xué)習(xí)一個(gè)判別投影，利用該投影將數(shù)據(jù)與編碼系數(shù)相關(guān)聯(lián)，實(shí)現(xiàn)了子空間里的最優(yōu)判別表示。實(shí)驗(yàn)結(jié)果表明，相比于經(jīng)典的CRC算法，BDPR所提取的編碼系數(shù)具有更加明顯的塊對(duì)角化結(jié)構(gòu)，有助于為后續(xù)的分類決策過程提供更加豐富的判別信息。

3）BDPR構(gòu)建了投影表示學(xué)習(xí)和分類器學(xué)習(xí)聯(lián)合優(yōu)化的算法框架，學(xué)習(xí)更適合當(dāng)前分類任務(wù)的線性分類器，避免了傳統(tǒng)的兩階段模型在分類階段的分類器抉擇困難和在現(xiàn)實(shí)應(yīng)用中其級(jí)聯(lián)性能可能會(huì)下降的問題。

在多個(gè)人臉數(shù)據(jù)集上的測(cè)試結(jié)果表明，相比于現(xiàn)有的協(xié)作表示分類和子空間學(xué)習(xí)方法，本文方法具有更優(yōu)的識(shí)別效果。

未來(lái)工作中，本文方法可以與深度網(wǎng)絡(luò)相結(jié)合，對(duì)深度模型輸出的高維特征向量進(jìn)行子空間學(xué)習(xí)，不僅可以有效降低深度特征的維度，去除冗余信息，而且可以尋找更具判別力的投影表示向量，提升最終分類性能，這也是筆者未來(lái)的研究重點(diǎn)。