趙曉佳 徐婷婷 陳勇勇 徐 勇,2

人類借助于日漸先進(jìn)的數(shù)據(jù)收集和信息技術(shù),在不同領(lǐng)域中獲取到不同類型的多數(shù)圖數(shù)據(jù),更加全面地挖掘出隱藏在數(shù)據(jù)中特征和結(jié)構(gòu)信息[1-2].如圖1(a) 視頻監(jiān)控通過采集不同時態(tài)下的圖像,更加有助于理解行人的姿態(tài)、面部表情等行為動作;圖1(b)采集不同視角下的汽車圖片,有助于更加清晰地刻畫車輛的全貌;圖1(c) 表示的是一張人臉圖像在Local Binary Pattern[3]、Gabor[4]、Histogram of Oriented Gradients[5]等描述下的特征表示.多視圖數(shù)據(jù)可以反映出更加全面的信息,結(jié)合不同的應(yīng)用場景,衍生出多種多視圖學(xué)習(xí)應(yīng)用,如多視圖聚類[2,6-9],多視圖半監(jiān)督分類[10],多視圖分類[11],多視圖檢索[12]等等.由于現(xiàn)實(shí)生活中的數(shù)據(jù)大多沒有樣本標(biāo)簽并且標(biāo)簽信息的獲取十分復(fù)雜,在進(jìn)行基于標(biāo)簽的分類操作時會耗費(fèi)很大的人力、物力.另一方面,隨著聚類算法的成熟,一些聚類算法[13-14]的性能逐漸逼近分類算法,多視圖聚類引起了廣泛關(guān)注.

圖1 多視圖數(shù)據(jù)示例Fig.1 Examples of multi-view data

現(xiàn)有的單視圖聚類和多視圖聚類算法的性能高度依賴于親和度矩陣的質(zhì)量,其核心是構(gòu)造一個具有判別性的親和度矩陣.對親和度矩陣求解的方法大致劃分為三大類,分別是基于圖[15-16]、基于核[17-18]和基于子空間[7,19-23]的方法.例如,Liang 等[15]提出了同時對視圖間的一致性和差異性進(jìn)行建模的圖聚類方法;Wang 等[16]提出了同時學(xué)習(xí)數(shù)據(jù)相似度矩陣和聚類結(jié)構(gòu)的聚類方法.然而基于圖的聚類方法是根據(jù)原始數(shù)據(jù)的特征直接進(jìn)行圖的構(gòu)建,容易受到噪聲和異常值影響.為了處理非線性復(fù)雜數(shù)據(jù)的聚類問題,文獻(xiàn)[17]通過使用核技巧將稀疏子空間聚類擴(kuò)展到非線性流形;Yin 等[18]將對稱正定矩陣嵌入到再生核希爾伯特空間中,有效地揭示了潛在的子空間結(jié)構(gòu).但是基于核的聚類方法的性能在很大程度上依賴于核函數(shù)的選擇,而在實(shí)踐中如何選擇核函數(shù)仍是一個待探索的問題.為了提升魯棒性,子空間聚類方法利用獨(dú)立的兩步驟去學(xué)習(xí)親和度矩陣,即1) 根據(jù)原始數(shù)據(jù)的特征矩陣對其進(jìn)行自表示,利用特定正則項(xiàng)求得自表示矩陣;2) 通過自表示矩陣固定得到親和度矩陣,來描述未標(biāo)記數(shù)據(jù)點(diǎn)之間的成對關(guān)系.例如,稀疏子空間聚類 (Sparse subspace clustering,SSC)[22]和低秩表示(Lowrank representation,LRR)[21]是兩種最具代表性的子空間聚類算法.他們分別利用l1范數(shù)和核范數(shù)得到了稀疏和低秩的自表示矩陣.Gao 等[24]采用譜聚類的方式整合不同視圖的子空間聚類結(jié)果以獲得一致性的指示矩陣.

為了挖掘多視圖特征的高階相關(guān)性,Zhang 等[6]和Xie 等[7]相繼提出將所有視圖的自表示矩陣拼接成一個三階張量,即包含了二維點(diǎn)對點(diǎn)的維度,同時囊括了一個新的視圖維度.Chen 等[25],Zhang等[26]和Wu 等[27]均采用張量這一數(shù)據(jù)結(jié)構(gòu)來處理多視圖聚類的問題,并利用聯(lián)合學(xué)習(xí)和張量低秩優(yōu)化的思想以學(xué)習(xí)一個更具辨別性的親和度矩陣.此類方法的核心是低秩張量分解技術(shù).現(xiàn)有常見的張量分解技術(shù)為CANDECOMP/PARAFAC分解[28]、Tucker 分解[29]、張量奇異值分解(Tensor singular value decomposition,t-SVD)[30].其中基于t-SVD的張量核范數(shù)是張量多秩l1范數(shù)的最緊凸松弛,在低秩近似理論與應(yīng)用中取得了優(yōu)異性能.文獻(xiàn)[2]采用基于t-SVD 的張量多秩最小化方法,隱式地過濾掉高維噪聲.文獻(xiàn)[31]采用了自適應(yīng)近鄰的方法,為每個數(shù)據(jù)點(diǎn)分配最佳近鄰來學(xué)習(xí)相似性矩陣,以捕獲數(shù)據(jù)的局部特征.但這些方法都基于根據(jù)某種運(yùn)算,如指數(shù)法[32]、絕對對稱化[6]、平方運(yùn)算[33]等,利用自表示矩陣固定求解親和度矩陣,即兩者的求解過程獨(dú)立進(jìn)行,無法有效地挖掘兩者間的高度相關(guān)性,不能獲取更優(yōu)的親和度矩陣.

為了解決上述問題,本文提出了一種新穎的基于一步張量學(xué)習(xí)的多視圖子空間聚類算法,它可以有效地降低噪聲和異常值的影響并探究親和度矩陣和表示張量之間的高度相關(guān)性,以獲得更優(yōu)的親和度矩陣,進(jìn)而得到更優(yōu)的多視圖聚類性能.本文的貢獻(xiàn)總結(jié)如下:1) 針對多視圖聚類問題,提出了一種基于一步張量學(xué)習(xí)的多視圖子空間聚類算法,該算法通過學(xué)習(xí)一個魯棒的低秩張量表示進(jìn)行聚類,充分挖掘了數(shù)據(jù)的多模態(tài)信息,具有較高的魯棒性與準(zhǔn)確率.2) 與現(xiàn)有多視圖聚類算法相比,該算法在一個統(tǒng)一框架下對表示張量與親和度矩陣進(jìn)行聯(lián)合學(xué)習(xí),相互促進(jìn).利用t-SVD 對表示張量進(jìn)行高階約束,減少噪聲和異常值的影響.并采用自適應(yīng)近鄰法重建親和度矩陣,以獲得更加靈活的圖用于多視圖聚類.3) 該算法采用交替方向乘子法進(jìn)行有效優(yōu)化.在多個數(shù)據(jù)集上驗(yàn)證了所提出方法在解決多視圖聚類問題上的優(yōu)越性.

1 多視圖聚類相關(guān)概述

本節(jié)包括親和度矩陣學(xué)習(xí)、低秩張量表示的多視圖聚類和張量奇異值分解三個部分.在表1 中總結(jié)了本文所使用的主要符號和定義.

表1 符號與定義Table 1 Notations and definitions

1.1 親和度矩陣學(xué)習(xí)

多視圖子空間聚類方法的核心是求解一個具有較強(qiáng)辨別能力的親和度矩陣,以更好地捕獲多視圖數(shù)據(jù)間的一致性與差異性[1].基于自表示的子空間聚類方法憑借其出色的性能,成為該研究領(lǐng)域的熱門方向[21-22],其優(yōu)化模型依賴于自表示特性,即屬于同一線性子空間的樣本可以相互線性表示[34].數(shù)據(jù)集X=[x1,···,xn] 表示維度為d的n個原始樣本點(diǎn),其自表示學(xué)習(xí)模型如下:

基于圖學(xué)習(xí)的多視圖聚類方法往往利用原始數(shù)據(jù)學(xué)習(xí)親和度矩陣.即將數(shù)據(jù)點(diǎn)作為構(gòu)建的圖節(jié)點(diǎn),它們之間的邊代表兩者之間的相似性[38],其基本模型如下:

其中,aij表示親和度矩陣A中第 (i,j) 個元素,若數(shù)據(jù)點(diǎn)xi與xj的的距離越小,則aij的數(shù)值越大,兩者的相似性也就越高.大量的文獻(xiàn)[2,15-16]借助圖學(xué)習(xí)的思想,大大提高了聚類性能.

1.2 低秩張量表示的多視圖聚類

多視圖聚類中,假設(shè)有由V個視圖構(gòu)成的多視圖數(shù)據(jù)其中第v個視圖的特征維度為dv.考慮到使用三維的表示張量可更好的探索不同視圖的一致性與差異性,Zhang 等[6]和Xie等[7]提出了基于低秩張量表示的多視圖子空間聚類模型:

Φ(·) 將所有視圖的表示矩陣作為正面切片豎向合并為一個三階表示張量Z∈Rn×n×V.由于不同視圖的特征維度可能不同,但是樣本數(shù)目為固定值,所以將特定于視圖的誤差矩陣進(jìn)行垂直連接,以構(gòu)造誤差矩陣E.使用張量表示相當(dāng)于在保持矩陣表示的基礎(chǔ)上增添了不同視圖間關(guān)系的新維度,進(jìn)而可以探索多視圖中更加全面的內(nèi)部信息.

1.3 張量奇異值分解

圖2 張量奇異值分解示例Fig.2 Examples of t-SVD

2 基于一步張量學(xué)習(xí)的多視圖子空間聚類

本文提出了基于一步張量學(xué)習(xí)的多視圖子空間聚類方法(One-step tensor learning for multi-view subspace clustering,OTSC),其框架結(jié)構(gòu)如圖3 所示.OTSC 利用張量將不同視圖的特征自表示信息進(jìn)行統(tǒng)一建模,并使用t-SVD 對其進(jìn)行低秩表示.采用自適應(yīng)近鄰方法進(jìn)行重建親和度矩陣,聯(lián)合學(xué)習(xí)親和度矩陣A與‘干凈’的表示張量Z,其優(yōu)化過程借助乘法器交替方向法.

圖3 基于一步張量學(xué)習(xí)的多視圖子空間聚類結(jié)構(gòu)圖Fig.3 The framework of the one-step tensor learning for multi-view subspace clustering (OTSC)

2.1 OTSC 模型框架

大量子空間聚類方法[14,26,35,39]中親和度矩陣的學(xué)習(xí)往往脫離原始數(shù)據(jù)的特征信息進(jìn)行分步求解,使得聚類結(jié)果只能達(dá)到次優(yōu)解.在處理多視圖聚類問題時,常采用基于多個特定于視圖的表示矩陣尋求一個一致性的表示矩陣的方法[14,16,40],忽視了視圖間的高階信息.為解決以上問題,本方法采用基于圖學(xué)習(xí)的聚類方法,利用張量將樣本間的關(guān)系拓展到視圖間的高階關(guān)系,并充分挖掘親和度矩陣與多視圖原始數(shù)據(jù)之間的密切聯(lián)系,來獲取一個更具辨別能力的親和度矩陣.由于原始數(shù)據(jù)易被噪聲和異常值破壞[41],故對表示張量進(jìn)行t-SVD 以獲得一個去除噪聲和異常值的‘干凈’張量,并與親和度矩陣進(jìn)行聯(lián)合學(xué)習(xí).基于以上思想,將圖學(xué)習(xí)模型(2)拓展到具有V個視圖的多視圖數(shù)據(jù)中,可得:

多視圖聚類的本質(zhì)是根據(jù)樣本的相似度信息,將樣本劃分到不同的簇中[43].為了提高聚類算法的性能,獲得一個更具區(qū)分性的親和度矩陣,采用自適應(yīng)近鄰方法,以確保簇內(nèi)樣本點(diǎn)的相似性高,簇間差異性大的特性.基于自適應(yīng)近鄰的方法僅保留ai中數(shù)值最大的前K項(xiàng)[31],其余元素aij(j ＞k) 置為0,可保證同類中的樣本點(diǎn)的相似度系數(shù)大于簇間的相似度系數(shù).參數(shù)β的值由自適應(yīng)近鄰數(shù)目即K值決定,詳見第2.2 節(jié)優(yōu)化過程式(20b).

2.2 模型優(yōu)化

對目標(biāo)式(6)進(jìn)行優(yōu)化求解的過程,涉及多個變量求解的問題,為此采用交替方向乘子法對式(6) 進(jìn)行優(yōu)化.式(6)中變量Z與目標(biāo)函數(shù)和兩個約束條件耦合,增加了計(jì)算難度,為此引入一個輔助變量Y使其解耦為:

針對上式,構(gòu)建增廣拉格朗日函數(shù),獲得無約束目標(biāo)函數(shù)計(jì)算公式如下:

借助增廣拉格朗日公式將式(7)中的約束條件轉(zhuǎn)換為式(8) 最小化問題.其中〈·,·〉代表矩陣的內(nèi)積運(yùn)算; Θ,Π和ρ分別表示拉格朗日乘子與懲罰參數(shù).

對式(8)通過固定其他變量來交替求解各變量優(yōu)化的子問題,以求得最優(yōu)解.優(yōu)化過程中首先通過t-SVD 學(xué)習(xí)更新變量Z,其次更新輔助變量Y;之后對噪聲矩陣E和親和度矩陣A同時更新;最后更新兩個拉格朗日乘子 Θ,Π和懲罰參數(shù)ρ.詳細(xì)子問題優(yōu)化過程如下:

1)更新Z:固定式(8)中與Z無關(guān)變量,對Z第t+1 次迭代的優(yōu)化問題可化為:

由于不同視圖之間互不干擾,故上式中變量Yv是相互獨(dú)立的,因此將上式等價(jià)轉(zhuǎn)換為V個子問題,其中第v個視圖的變量更新問題可寫為:

式(11)對Yv是凸函數(shù),因此對上式求關(guān)于Yv的導(dǎo)數(shù)并使其為0,求得Yv的如下封閉解:

親和度矩陣反應(yīng)了樣本之間的相似性關(guān)系,直接決定了一個聚類算法的性能好壞.為了獲得更靈活的相似度矩陣,確保類內(nèi)樣本點(diǎn)的相似度高于類間樣本點(diǎn)的相似度,對其應(yīng)用自適應(yīng)近鄰方法,僅保留A中前K項(xiàng)最大值的ai,以提高聚類的性能,如下式所示:

由上式可知,在式(6)中的參數(shù)β是由自適應(yīng)近鄰的數(shù)量K所決定.這意味著僅需在在式(6)中預(yù)先定義參數(shù)α,γ和近鄰數(shù)量K即可進(jìn)行算法的優(yōu)化工作.

5)更新 Θ,Π和ρ:在 (t+1) 次迭代過程中,拉普拉斯乘子 Θ,Π和懲罰參數(shù)ρ的更新方式如下:

其中λ＞1,ρmax代表ρ的最大值.本方法可總結(jié)為算法1,通過對式(6)的優(yōu)化,獲得親和度矩陣A的最優(yōu)解,之后在A上應(yīng)用譜聚類算法,得到最終的聚類結(jié)果.

算法 1.OTSC 多視圖子空間聚類的優(yōu)化算法

2.3 時間復(fù)雜度分析

3 實(shí)驗(yàn)結(jié)果與分析

3.1 實(shí)驗(yàn)設(shè)計(jì)

數(shù)據(jù)集:為了驗(yàn)證算法的有效性, 在六個分別隸屬于面部圖像、新聞故事、手寫數(shù)字和通用對象場景四種不同類別廣泛使用的數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn).

1) Extended YaleB:該數(shù)據(jù)集由耶魯大學(xué)發(fā)布, 包含38 個人類對象在不同光線強(qiáng)度下的各64張圖像. 在本實(shí)驗(yàn)中根據(jù)文獻(xiàn)[6]只對前10 個不同對象進(jìn)行驗(yàn)證, 構(gòu)成了包含640 張面部圖片的數(shù)據(jù).

2) ORL:ORL 人臉數(shù)據(jù)集是由英國劍橋Olivetti 實(shí)驗(yàn)室所創(chuàng)建. 包含40 個人在不同的時間、光照、面部表情(睜眼/閉眼, 微笑/不微笑)和面部細(xì)節(jié)(戴眼鏡/不戴眼鏡)環(huán)境下采集的400 張圖像.Extended YaleB 與ORL 數(shù)據(jù)集都屬于面部圖像類別, 對二者分別提取強(qiáng)度、LBP[3]和Gabor[4]三種特征作為多視圖數(shù)據(jù)的不同視圖.

3) 3Sources:該數(shù)據(jù)集是從BBC、路透社和衛(wèi)報(bào)三種在線新聞收集的多視圖文本數(shù)據(jù)集, 涵蓋416 條不同的新聞報(bào)道. 數(shù)據(jù)集來自六類主題標(biāo)簽:商業(yè)、娛樂、健康、政治、體育、技術(shù), 是具有三種特征的多視圖數(shù)據(jù).

4) BBCSport:屬于新聞故事類數(shù)據(jù)集, 來自2004-2005 年BBC Sport 網(wǎng)站的五個主題領(lǐng)域的體育新聞文章, 常用作機(jī)器學(xué)習(xí)研究的基準(zhǔn). BBCSport 包含具有兩種不同類型特征的544 個文檔,構(gòu)成V=2 的多視圖數(shù)據(jù).

5) UCI-Digits:數(shù)據(jù)集包含從荷蘭公用事業(yè)地圖集合中提取的手寫數(shù)字(0 ～9)共10 類阿拉伯?dāng)?shù)字, 每類有200 張圖像. 依據(jù)[16]提取了該數(shù)據(jù)集傅里葉系數(shù)、像素平均和形態(tài)特征三個特征作為多視圖數(shù)據(jù).

6) COIL-20:該數(shù)據(jù)集由哥倫比亞大學(xué)圖像庫發(fā)布. 含有20 個不同物體在360° 旋轉(zhuǎn)中不同角度的各72 張成像. 與ExtendedYaleB、ORL 數(shù)據(jù)集相同采用1 024 維強(qiáng)度、3 304 維LBP、6 750 維Gabor 三個視圖特征.

表2 詳細(xì)總結(jié)了上述六個數(shù)據(jù)集的信息.

表 2 真實(shí)多視圖數(shù)據(jù)集信息Table 2 Summary of all real-world multi-view databases

對比算法:本文提出的方法與以下12 種最先進(jìn)聚類方法進(jìn)行對比, 其中包括3 種單視圖聚類(SVC)和9 種多視圖聚類(MVC)方法. 為了和SVC方法進(jìn)行對比, 在多視圖數(shù)據(jù)的每個視圖上分別采取SSC[22]、LRR[21]、RSS[42]三種單視圖聚類方法, 并選取最好的聚類結(jié)果; 11 種流行的MVC 方法, 包括低秩和稀疏分解(RMSC)[40]、多樣性誘導(dǎo)多視圖子空間聚類(DiMSC)[44]、低秩張量約束的多視圖子空間聚類(LT-MSC)[6]、自動權(quán)重的多視圖學(xué)習(xí)(MLAN)[45]、多視圖張量多秩最小化(t-SVD)[7]、基于圖的多視圖聚類(GMC)[16]、潛在的多視圖子空間聚類(LMSC)[46]、張量積表示(SCMV-3DT)[39]、多視圖子空間聚類中的低階張量圖學(xué)習(xí)(LRTG)[41]、加權(quán)張量核范數(shù)最小化(WTNNM)[47]和圖正則化的張量和親和度矩陣低秩表示的子空間聚類(GLTA)[25].

參數(shù)設(shè)置:模型中有四個參數(shù)α,β,γ與K, 其中α,β,γ分別表示局部流形、親和度矩陣正則化項(xiàng)和噪聲在模型中的貢獻(xiàn)度,K為自適應(yīng)近鄰數(shù)目.由于式(6)中參數(shù)β可由參數(shù)α與K通過式(20b)求解得出, 因此模型中只需對參數(shù)α,γ,K進(jìn)行參數(shù)選擇. 實(shí)驗(yàn)中, 依據(jù)經(jīng)驗(yàn)對參數(shù)α和γ從集合[0.001、0.005、0.01、0.05、0.1、0.2、0.4、0.5、1、2、5、10、50、100、500]中選擇,K從[5, 15]的區(qū)間選擇以尋求最優(yōu)的聚類性能. 具體的, 針對七個多視圖數(shù)據(jù)集的參數(shù)設(shè)置如表3 所示. 在對比實(shí)驗(yàn)中, 本文遵從對比算法相應(yīng)文章中的參數(shù)設(shè)定, 對每個算法進(jìn)行了10 次測試, 并記錄了最優(yōu)的參數(shù)下的平均結(jié)果和標(biāo)準(zhǔn)偏差.

表3 參數(shù)設(shè)置Table 3 Parameter setting

評估指標(biāo):為了全面地驗(yàn)證本算法的性能, 采用準(zhǔn)確性(ACC)、標(biāo)準(zhǔn)化互信息(NMI)、調(diào)整后的等級指數(shù)(AR)、F 分?jǐn)?shù)、精確度和召回率六個流行的指標(biāo)來評估聚類性能. 不同的指標(biāo)側(cè)重于聚類不同的屬性, 但都滿足其值越高, 聚類性能越好的特性. ACC 是評估聚類任務(wù)的常用度量指標(biāo), 定義為:

上式中,Li,Yi分別表示第i個樣本的聚類標(biāo)簽和真實(shí)標(biāo)簽,δ((map(Li)=Yi) 表示正確聚類樣本的個數(shù).NMI 的具體數(shù)學(xué)定義為:

其中,H(·) 表示熵,I(·) 表示互信息,可表示為:I(L,Y)=H(L)+H(Y)-H(L,Y) 反應(yīng)了L與Y之間的相關(guān)程度.AR、F 分?jǐn)?shù)、精確度和召回率將聚類視為一系列決策,其相關(guān)定義的更多細(xì)節(jié)可參考文獻(xiàn)[7].

3.2 實(shí)驗(yàn)結(jié)果

受文獻(xiàn)[47]的啟發(fā),本文也考慮了利用加權(quán)張量核范數(shù)進(jìn)行張量低秩優(yōu)化,并用WOTSC 表示.實(shí)驗(yàn)結(jié)果如表4～表6 所示,加粗?jǐn)?shù)字表示最優(yōu)聚類結(jié)果,下劃線的數(shù)據(jù)表示次優(yōu)結(jié)果.通過觀察實(shí)驗(yàn)結(jié)果,可以得出以下結(jié)論:1) 本文提出的OTSC及WOTSC 在大多數(shù)情形下都取得了最優(yōu)值,或者次優(yōu)解,彰顯了本算法優(yōu)異的聚類性能.2) 通過比較SVC和MVC 的聚類結(jié)果,可知大多數(shù)MVC 算法的性能高于SVC 的聚類結(jié)果,直接地展現(xiàn)出多視圖聚類的優(yōu)勢.例如,在Extended YaleB 數(shù)據(jù)集上,WOTSC 比SVC 最優(yōu)的RSS 算法的聚類性能在六個指標(biāo)上分別提高了23.0%、15.6%、25.3%、22.7%、23.8%和21.6%.3) 與LRTG 方法進(jìn)行對比,本方法在所有數(shù)據(jù)集上的聚類效果都優(yōu)于LRTG.這是由于所提方法是通過t-SVD 對數(shù)據(jù)特征的表示張量進(jìn)行低秩約束,以去除高維噪聲和異常值.相比于塔克分解,t-SVD 更具魯棒性與高效性.4) RMSC、LT-MSC、LMSC和t-SVD 都是基于低秩表示的多視圖聚類方法,通過獨(dú)立的兩步求解親和度矩陣,即親和度矩陣的計(jì)算與表示張量的求解分步進(jìn)行.通過與以上算法的對比,可得本文提出的方法通過聯(lián)合學(xué)習(xí)表示張量和親和度矩陣,可以更好地捕獲數(shù)據(jù)中的底層低維結(jié)構(gòu).

表4 數(shù)據(jù)集Extended YaleB、ORL 的聚類結(jié)果Table 4 Clustering results (mean ± standard deviation) on Extended YaleB and ORL

表5 數(shù)據(jù)集3Sources、UCI-Digits 的聚類結(jié)果Table 5 Clustering results (mean ± standard deviation) on 3Sources and UCI-Digits

表6 數(shù)據(jù)集BBCSport、COIL-20 的聚類結(jié)果Table 6 Clustering results (mean ± standard deviation) on BBCSport and COIL-20

3.3 模型分析

消融實(shí)驗(yàn):為了探究聯(lián)合優(yōu)化模塊對本算法的性能影響,探索‘一步化’學(xué)習(xí)表示張量與親和度矩陣的有效性,本節(jié)對該模塊進(jìn)行消融測試.分別在Extended YaleB、COIL-20、3Sources、UCI-Digits 四個數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),OTSCA和OTSCZ分別表示依據(jù)經(jīng)過聯(lián)合優(yōu)化的親和度矩陣、表示張量以進(jìn)行聚類的方法.實(shí)驗(yàn)結(jié)果如圖4 所示,可觀測出,OTSCA的ACC與NMI的值都高于OTSCZ,其中在Extended YaleB 數(shù)據(jù)集上尤為明顯,彰顯了聯(lián)合優(yōu)化模塊的高效性與探索親和度矩陣與表示張量的高階相關(guān)性的積極作用.參數(shù)選擇:為了驗(yàn)證參數(shù)選擇對OTSC 模型的影響,本文在ORL 數(shù)據(jù)集上進(jìn)行了參數(shù)α和γ在[0.001、0.005、0.01、0.05、0.1、0.2、0.4、0.5、1、2、5、10、50、100、500]的集合上遍歷的實(shí)驗(yàn).結(jié)果如圖5 所示,可看出本算法在該數(shù)據(jù)集上當(dāng)γ取自區(qū)間[0.05,0.5],α取自區(qū)間[0.00,1]時,有較好的性能 (ACC和NMI取得較高的值).此外,本節(jié)還探索了參數(shù)自適應(yīng)近鄰數(shù)目K對聚類結(jié)果準(zhǔn)確率的影響.結(jié)果如圖6 所示,顯示出ORL 數(shù)據(jù)集在參數(shù)K取值由5 到9 時ACC為遞增變化,并在K=9 時取得最大值.

圖4 OTSC 性能的消融實(shí)驗(yàn)Fig.4 Ablation experiment of OTSC performance

圖5 根據(jù) A CC和 N MI 調(diào)整數(shù)據(jù)集ORL 參數(shù) α 與γFig.5 Parameters tuning in terms of A CC and N MI on ORL

圖6 參數(shù) K 對數(shù)據(jù)集ORL 的 A CC 影響Fig.6 The effect of parameter K on the A CC of ORL.

3.4 模型收斂性

本算法采用交替方向乘子法進(jìn)行多個變量的更新,具有較快的收斂速度.圖7 顯示了OTSC 在數(shù)據(jù)集BBCSport、ExtendedYaleB 上準(zhǔn)確率、停止標(biāo)準(zhǔn)與迭代次數(shù)的關(guān)系.可觀測出,算法的殘差在5 次迭代后趨于穩(wěn)定,并且準(zhǔn)確率也達(dá)到峰值而趨于穩(wěn)定,都反應(yīng)出本模型的優(yōu)化算法的高效收斂性.

圖7 收斂性曲線 ((a) BBCSport;(b) Extended YaleB)Fig.7 The convergence curves and ACC versus iterations on ((a) BBCSport;(b) Extended YaleB)

4 結(jié)論

針對多視圖聚類兩步化求解親和度矩陣、如何探索多視圖之間的高階相關(guān)性的問題,本文提出了一種基于一步張量學(xué)習(xí)的多視圖子空間聚類方法.本方法借助圖學(xué)習(xí)的思想,利用張量三維數(shù)據(jù)結(jié)構(gòu)的屬性來充分挖掘多視圖數(shù)據(jù)的底層低維結(jié)構(gòu).具體地,本算法將特定于視圖的表示矩陣拼接為三維張量以探索數(shù)據(jù)間高階相關(guān)性,并采用t-SVD(如式(4)所示)低秩約束以尋求一個‘干凈’的表示張量.通過引入‘一步化’聯(lián)合學(xué)習(xí)框架,有效地實(shí)現(xiàn)表示張量和親和度矩陣的共同優(yōu)化,克服了對親和度矩陣固定求解的問題.此外,還采用自適應(yīng)最近鄰方案,共同學(xué)習(xí)一個魯棒的低秩張量圖.由于該算法涉及多個優(yōu)化變量,故采取交替方向乘子法進(jìn)行交替優(yōu)化.在六個多視圖數(shù)據(jù)集上的實(shí)驗(yàn)表明本方法的有效性和魯棒性.在后續(xù)工作中,考慮將‘一步化’聯(lián)合求解的方法拓展到深度學(xué)習(xí)中,借助卷積神經(jīng)網(wǎng)絡(luò)來學(xué)習(xí)更具判別性的親和度矩陣.