韓 晗， 徐 智

(桂林電子科技大學 計算機與信息安全學院,廣西 桂林 541004)

人臉識別是近年來較為熱門的研究方向，在公安、門禁系統(tǒng)和一些軟件領域都有廣泛的應用，但是其仍面臨以下問題：1)訓練數(shù)據(jù)和應用場景數(shù)據(jù)的分布存在差異；2)特殊領域的數(shù)據(jù)較難收集，并且標注圖片是一項人力財力消耗巨大的任務，導致與應用場景分布相同的訓練數(shù)據(jù)匱乏。

傳統(tǒng)的機器學習方法如線性判別分析(LDA)、支持向量機(SVM)[1]能夠較好地分類預測問題，但前提是假設訓練數(shù)據(jù)和測試數(shù)據(jù)是從相同的分布中取樣。當測試和訓練數(shù)據(jù)來自不同域時，其性能將嚴重退化。為解決該問題，域自適應方法[2-3]將豐富的監(jiān)督信息(源域)遷移到另一個不同但相關的領域(目標域)。子空間學習是域自適應的一種方法，文獻[4]在保持數(shù)據(jù)的原始結(jié)構(gòu)的同時，通過最小化源域和目標域之間的差異得到潛在的公共子空間。但上述方法只利用了源域和目標域的共同特征，忽略了目標域?qū)Ψ诸惾蝿沼欣奶囟ㄐ畔?。文獻[5]提出了一種TSD域自適應方法，帶有標簽的源域數(shù)據(jù)由公共子空間中的目標域數(shù)據(jù)(稱為目標化源域)表示。TSD的公共子空間在較好地保持源域和目標域結(jié)構(gòu)的基礎上使源域和目標域數(shù)據(jù)具有良好的交融性。文獻[6-7]提出多源域自適應方法，TMSD[8]是在TSD方法的基礎上拓展為多源域的自適應方法，從多個源域遷移更為豐富的監(jiān)督信息，從而提高模型的性能。

以上子空間方法使用的是單個子空間，當代價函數(shù)最小時，目標域表示的源域的最優(yōu)結(jié)果是固定的，然而，單個子空間不能提供更為豐富的判別信息。為得到更多的判別信息，提出了一個域自適應的泛化學習框架，同一個樣本在不同的子空間中能夠獲得不同的判別信息。首先，隨機選擇樣本作為每個子系統(tǒng)的訓練樣本；其次，為每個子系統(tǒng)學習一個公共子空間，要求在公共子空間中源域和目標域特征能夠很好地交融在一起，且域本身的結(jié)構(gòu)也能較好地保留，用目標域數(shù)據(jù)進行線性組合來表示源域樣本；然后，為每個子系統(tǒng)中新的源域數(shù)據(jù)學習一個判別模型；最后，通過多數(shù)投票與總和規(guī)則的策略將所有子系統(tǒng)結(jié)合起來得到最終的分類結(jié)果。實驗結(jié)果表明，框架能夠顯著提高人臉識別的性能。

1 域自適應泛化學習框架

1.1 符號和定義

單源域中的源域樣本為

其類別標簽為

其類別標簽為

多源域中，第i個源域的樣本為

1.2 多子空間域自適應泛化學習框架

圖1為多子空間域自適應泛化學習框架的示意圖?？蚣芊譃橛柧毑糠趾蜏y試部分。在訓練過程中，采用域自適應方法使源域的分布更接近目標域，然后在新的源域集上訓練特征提取算法，提取特征子空間。具體步驟如下：

1)在源域和目標域數(shù)據(jù)集中隨機選擇樣本，構(gòu)造多個子數(shù)據(jù)集。

2)為每個子數(shù)據(jù)集學習公共子空間。

3)選擇判別特征提取方法FLD進行特征提?。?/p>

其中：Sb為目標化源域的類間散布矩陣；St為目標域數(shù)據(jù)的總散布矩陣。

圖1 域自適應泛化學習框架

其中φ()為特征提取函數(shù)。通過統(tǒng)計所有子系統(tǒng)的識別數(shù)據(jù)得到最終的識別結(jié)果。

1.3 域自適應學習方法

采用公共子空間域自適應學習方法，TSD和TMSD分別作為單源域和多源域的域自適應方法。公共子空間需要滿足2個條件：1)源域和目標域樣本之間較好地融合，以減小域間的差異；2)保持源域和目標域的結(jié)構(gòu)，以保持豐富的判別信息。使用稀疏重建[9]和最大方差來滿足以上2個條件。稀疏重建能夠使源域與目標域更好地滿足統(tǒng)一分布，而最大方差則是為了保留域本身的特性。

由于源域和目標域可能存在較大差異，甚至數(shù)據(jù)分布在不同的空間，將源域和目標域分別投影到一個公共子空間中。單源域中，公共子空間中的樣本分別表示為：

稀疏重建和最大方差表示后的目標函數(shù)為

其中，Vs、Vt為稀疏矩陣。由于上式中并非所有變量都為凸變量，對稀疏矩陣Vs、Vt和投影矩陣Ws、Wt進行迭代求解，直到投影矩陣和系數(shù)矩陣收斂或者達到最大迭代次數(shù)。所求得的目標化的源域數(shù)據(jù)為

為了能夠從多個源域中遷移更豐富的監(jiān)督信息，TMSD在TSD方法的基礎上擴展為多源域自適應學習方法，源域數(shù)為s，目標域數(shù)為s+1，總目標函數(shù)為

1.4 結(jié)合策略

(1)

對式(1)進行均值化和標準歸一化，即

其中rki為第k個子系統(tǒng)輸出的后驗概率值，作為每個類別的一個分值。結(jié)合所有子系統(tǒng)的輸出值得到xp的最終標簽。

多數(shù)投票：每個子系統(tǒng)都會輸出一個xp的類別標簽，綜合各個子系統(tǒng)，相同標簽最多的作為xp的最終標簽。

其中Labelk(xp)為第k個子系統(tǒng)中xp的識別結(jié)果。

總和策略：對每個子系統(tǒng)輸出的類分值加和，最大分值所對應的標簽為probe的最終標簽。

2 方案的合理性

在域自適應泛化學習框架中，通過訓練一個不包含所要識別類別的數(shù)據(jù)集，得到一個人臉識別模型。在一般的分類任務中，分類器的學習需要大量樣本，但隨著樣本的增多會導致數(shù)據(jù)維度的增加，從而使計算復雜度呈指數(shù)級上升。因此，本框架通過多個子數(shù)據(jù)集學習，提高模型的整體效率；同時，不同樣本的隨機組合可以形成不同的特征空間，同一樣本在不同的特征空間中保留不同的識別信息，從而獲得更多的識別信息。

方案的合理性：

類內(nèi)散布矩陣Sw和類間散布矩陣Sb分別是描述類內(nèi)變化和類間變化特性最重要的2個參數(shù)，換句話說，幾乎所有的分類方法通過對Sw、Sb或者總散度矩陣St=Sb+Sw進行特征值分析，然后求出特征向量，形成變換矩陣，對Sw和Sb的準確估計對識別性能有著至關重要的影響。性能越好，類內(nèi)散布矩陣的特征值越小，而類間散布矩陣的特征值越大，但隨著特征值的增大，相應特征向量的估計方差也隨之增大，這同樣會對識別性能產(chǎn)生負面影響，文獻[10]進一步證明了這一點。因此，將一組弱學習器結(jié)合起來，可以提高類間的差異判定和識別能力。

3 實驗和結(jié)果

3.1 實驗參數(shù)設置

實驗使用MultiPIE[11]數(shù)據(jù)集，根據(jù)人工標記的眼睛位置對齊面部圖像，并在多像素設置中將圖像標準化為40像素×32像素，通過堆疊原始像素，將每個圖像調(diào)整為列向量，只有源域的數(shù)據(jù)帶有類別標簽。用主成分分析(PCA)分別對源域和目標域降維處理。根據(jù)經(jīng)驗，投影矩陣的列大小設置為300，τ、λ分別設置為3、0.05。所有結(jié)果均為10次試驗的平均準確度。MultiPIE數(shù)據(jù)集包含337個類別，在各種姿勢、照明和表情下的圖像超過750 000張，示例圖像如圖2所示。根據(jù)人臉的拍攝角度(-45°、-30°、0°、30°、45°)分為5個子集，每個子集使用200個類別，每個類別隨機選取7張進行訓練。剩下的137個類別中，每個類別隨機選擇1張作為圖片庫樣本數(shù)據(jù)，4張作為測試樣本進行測試。

在實驗中，所有的訓練源域數(shù)據(jù)都給出了類別標簽，而目標訓練數(shù)據(jù)則未給出類別標簽。為了更好地與其他實驗進行比較，進行了4組不同的實驗：1)200個類別中，每個類別隨機選取4幅圖像；2)200個類別中，每個類別隨機選取5幅圖像；3)隨機選取100個類別，每個類別7幅圖像；4)隨機選取150個類別，每個類別7幅圖像。

圖2 MultiPIE

3.2 參數(shù)影響

主要測試3個參數(shù)的影響：子系統(tǒng)數(shù)；當類別數(shù)為200時每個類別的樣本數(shù)；當每個類別的為7時的類別數(shù)。選擇0°和45°作為單源數(shù)據(jù)集上的源域和目標域時，人臉識別率如圖3、圖4所示。從圖3、圖4可看出，在多數(shù)票和總和規(guī)則2種策略下，隨著子系統(tǒng)數(shù)量M的增加，識別率呈上升趨勢，當M趨于20時呈現(xiàn)平穩(wěn)；M>20時，人臉識別率的變化值在0.8%以內(nèi)；M<20時，2種策略都表明，樣本數(shù)為5時的性能優(yōu)于取值為4時的性能，類別數(shù)為150時的性能優(yōu)于取值為100，這是由于樣本數(shù)的增加有助于減少Sw和Sb的估計方差，從而增強置信度的可靠性。隨著M越來越大，樣本數(shù)的增加會降低子系統(tǒng)間的多樣性，從而導致性能下降，但是差異很小。為考慮整個模型的高效性，在實驗中M分別取10、15和20。單源域自適應泛化學習框架中，選擇樣本數(shù)為5，類別數(shù)為150；在多源域中，樣本數(shù)為4，類別數(shù)為100。

圖3 多數(shù)投票下的識別率

圖4 總和規(guī)則下的識別率

3.3 實驗驗證與分析

將框架應用于域自適應方法，并對其性能進行比較。為了證明該方法的通用性，分別對單源域自適應方法和多源域自適應方法進行比較。

實驗結(jié)果中，maj10表示10個子系統(tǒng)的多數(shù)投票策略識別結(jié)果，sum10代表總和規(guī)則策略識別結(jié)果。-45，45分別表示源域為-45°和目標域為45°；0，30_45表示2個源域分別為0°、30°，目標域為45°。

3.3.1 單源域自適應泛化學習框架

單源域框架與TSD進行比較。表1為當訓練樣本類別總數(shù)為200時每個類別隨機選取5張圖片時的識別率。表2為隨機選取150個類別，每個類別為7張圖片時的識別率，從表1、表2可看出，與TSD方法相比，本框架幾乎在所有情況下表現(xiàn)更好；本框架設計的2種結(jié)合策略中，多數(shù)投票優(yōu)于總和規(guī)則，特別是當子系統(tǒng)數(shù)量≥10時，所有識別結(jié)果均優(yōu)于TSD，最佳性能可提高2.65%。在總和規(guī)則中，當子系統(tǒng)值≥15時，該框架優(yōu)勢較為明顯。總體而言，多子空間泛化學習框架一方面有利于保留更多的判別信息，另一方面通過選擇相關的組合策略提高了識別結(jié)果的可靠性。

表1 單源域每個類別隨機5張的識別率 %

表2 單源域隨機150個類別的識別率 %

3.3.2 多源域自適應泛化學習框架

在相同的參數(shù)設置下，多源域框架與TMSD進行比較，結(jié)果如表3、表4所示。從表3、表4可看出，多源域框架的識別性能均有所提高，這是由于增加源域能夠提供更多的判別信息，并增加了樣本的多樣性，即便是每個類別樣本數(shù)量僅有4張或者隨機選擇100個類別的樣本，性能依然有較大提升。

4 結(jié)束語

針對人臉識別問題，提出了一種域自適應的泛化學習框架，通過隨機抽取樣本，在公共特征空間中將源域數(shù)據(jù)轉(zhuǎn)換為目標域數(shù)據(jù)，采用2種策略得到最終的標簽類別。由于同一樣本在不同的特征空間中保留不同的判別信息，性能有所提升。對單域和多域的評估表明，框架優(yōu)于其他域適應方法。此外，實驗結(jié)果表明，不同的集成策略對識別性能有影響，下一步將改進集成策略以獲得更好的識別性能。

表3 多源域每個類別隨機4張的識別率 %

表4 多源域隨機100個類別選擇的識別率 %