羅甫林 黃 鴻 劉嘉敏 馮海亮

?

基于半監(jiān)督稀疏流形嵌入的高光譜影像特征提取

羅甫林 黃 鴻*劉嘉敏 馮海亮

(重慶大學(xué)光電技術(shù)及系統(tǒng)教育部重點(diǎn)實(shí)驗(yàn)室 重慶 400044)

高光譜影像具有波段數(shù)多、冗余度高的特點(diǎn)，因此特征提取成為高光譜影像分類的研究熱點(diǎn)。針對此問題，該文提出一種半監(jiān)督稀疏流形嵌入(S3ME)算法，該方法充分利用標(biāo)記樣本和無標(biāo)記樣本，通過基于切空間的稀疏流形表示來自適應(yīng)地揭示數(shù)據(jù)間的相似關(guān)系，并利用稀疏系數(shù)構(gòu)建一個(gè)半監(jiān)督相似圖。在此基礎(chǔ)上，增加了圖中同類標(biāo)記樣本的權(quán)重，然后在低維空間中保持圖的相似關(guān)系不變，并最小化加權(quán)距離和，獲得投影矩陣實(shí)現(xiàn)特征提取。S3ME方法不僅能揭示數(shù)據(jù)間的稀疏流形結(jié)構(gòu)，而且增強(qiáng)了同類數(shù)據(jù)的集聚性，能有效提取出鑒別特征，改善分類效果。該文提出的S3ME方法在PaviaU和Salinas高光譜數(shù)據(jù)集上的總體分類精度分別達(dá)到84.62%和88.07%，相比傳統(tǒng)特征提取方法提升了地物分類性能。

高光譜數(shù)據(jù)；特征提??；半監(jiān)督學(xué)習(xí)；稀疏流形嵌入

1 引言

高光譜影像是由數(shù)十?dāng)?shù)百個(gè)波段組成的圖像，其中各像素表示為一條連續(xù)的光譜曲線，能較精確地反映地物特性，在地物分類中具有重要的應(yīng)用價(jià)值[1,2]。然而，其波段數(shù)多且存在大量冗余信息，這使地物分類面臨著巨大困難[3,4]。因此，如何減少數(shù)據(jù)冗余、實(shí)現(xiàn)特征提取是高光譜影像分類研究的熱點(diǎn)之一。

維數(shù)約簡是處理高維數(shù)據(jù)常用的方法，能有效地提取高維數(shù)據(jù)中的低維特征[5]。在研究中，學(xué)者們提出了流形學(xué)習(xí)方法來實(shí)現(xiàn)維數(shù)約簡，包括局部保持嵌入(LLE)[6]、拉普拉斯特征映射(LE)[7]、鄰域保持嵌入(NPE)[8]、局部保持嵌入(LPP)[9]、邊界Fisher分析(MFA)[10]和局部Fisher分析(LFDA)[11]等算法。與基于統(tǒng)計(jì)特性的主成分分析(PCA)、線性鑒別分析(LDA)和最大邊界準(zhǔn)則(MMC)[12]等算法相比，該類方法能揭示出數(shù)據(jù)的內(nèi)在結(jié)構(gòu)。在高光譜影像分類研究中，學(xué)者們應(yīng)用流形學(xué)習(xí)方法發(fā)現(xiàn)了高光譜數(shù)據(jù)中的流形結(jié)構(gòu)，并取得了較好的分類效果[13]，但這些方法面臨著局部結(jié)構(gòu)選取困難的問題。為此，學(xué)者們提出了稀疏表示(SR)來自適應(yīng)地揭示數(shù)據(jù)的結(jié)構(gòu)關(guān)系。稀疏保持投影(SPP)[14]是一種經(jīng)典的稀疏表示算法，該方法能自適應(yīng)地反映數(shù)據(jù)間的相似關(guān)系，提取出鑒別特征，改善分類效果。然而，上述方法都是以數(shù)據(jù)只存在單一幾何結(jié)構(gòu)為前提，在實(shí)際應(yīng)用中，數(shù)據(jù)可能存在多個(gè)非線性結(jié)構(gòu)。學(xué)者們提出了稀疏流形聚類與嵌入(SMCE)算法，該方法根據(jù)切空間理論構(gòu)建數(shù)據(jù)的稀疏優(yōu)化模型，自適應(yīng)地選取來自同一流形的數(shù)據(jù)，進(jìn)而揭示出數(shù)據(jù)的多流形結(jié)構(gòu)[15]。但SMCE主要用于數(shù)據(jù)聚類，不具有投影矩陣，對新樣本不能直接處理，且沒有利用數(shù)據(jù)的類別信息，使其鑒別性能受限制。

為利用數(shù)據(jù)的類別信息，學(xué)者們提出了稀疏鑒別嵌入(SDE)[16]、鑒別稀疏鄰域保持嵌入(DSNPE)[17]、基于稀疏表示投影的鑒別學(xué)習(xí)(DLSP)[18]等監(jiān)督算法，這些方法利用先驗(yàn)信息來增強(qiáng)同類數(shù)據(jù)的表征，改善鑒別力。但是，這些監(jiān)督方法需要耗費(fèi)大量的人力去標(biāo)記全部樣本的類別信息。因而，為利用少量標(biāo)記樣本和無標(biāo)記樣本，學(xué)者們提出了半監(jiān)督(SS)學(xué)習(xí)方法，主要有SSMMC[19]、半監(jiān)督子流形保持嵌入(S3MPE)[20]、半監(jiān)督鑒別分析(SDA)[21]，這些方法能獲取較好的特征，但存在參數(shù)選取困難、自適應(yīng)能力差等問題。

為此，本文提出一種半監(jiān)督稀疏流形嵌入(Semi-Supervised Sparse Manifold Embedding, S3ME)的維數(shù)約簡算法，該方法利用SMCE算法的切空間稀疏流形表示優(yōu)化模型來獲取稀疏系數(shù)，根據(jù)稀疏系數(shù)構(gòu)建相似權(quán)重矩陣并增強(qiáng)同類標(biāo)記樣本的貢獻(xiàn)，在低維嵌入空間中保持?jǐn)?shù)據(jù)的相似關(guān)系不變，實(shí)現(xiàn)最小化數(shù)據(jù)間的加權(quán)距離和，提取鑒別特征。在PaviaU和Salinas高光譜數(shù)據(jù)集上驗(yàn)證了本文方法的有效性。

2 本文方法

2.1 稀疏流形聚類與嵌入

SMCE算法[15]能自適應(yīng)地選取來自同一切空間的近鄰點(diǎn)，對于不同的切空間可以視為不同的內(nèi)在流形，進(jìn)而能自適應(yīng)地揭示出數(shù)據(jù)的內(nèi)在多流形結(jié)構(gòu)。通過求解該優(yōu)化模型得到稀疏系數(shù)，對于每個(gè)數(shù)據(jù)點(diǎn)的非零稀疏系數(shù)對應(yīng)的數(shù)據(jù)點(diǎn)與該數(shù)據(jù)點(diǎn)來自同一流形。其優(yōu)化目標(biāo)函數(shù)為

(2)

根據(jù)稀疏系數(shù)可得到相似權(quán)值，由權(quán)值可實(shí)現(xiàn)聚類和嵌入，其權(quán)值為

(4)

2.2半監(jiān)督稀疏流形嵌入

S3ME算法主要原理是利用SMCE的優(yōu)化模型得到稀疏系數(shù)，自適應(yīng)地揭示出數(shù)據(jù)的內(nèi)在結(jié)構(gòu)；再根據(jù)稀疏系數(shù)構(gòu)建各數(shù)據(jù)間的相似關(guān)系圖，并由少量標(biāo)記樣本的類別信息增大同類數(shù)據(jù)間的相似權(quán)重值，進(jìn)而增強(qiáng)相似圖中同類標(biāo)記樣本的貢獻(xiàn)率；在低維嵌入空間中，保持相似關(guān)系不變，構(gòu)建目標(biāo)函數(shù)，得到投影矩陣，提取出低維鑒別特征。

(2)構(gòu)建半監(jiān)督相似圖： 根據(jù)稀疏系數(shù)，構(gòu)建一個(gè)半監(jiān)督相似圖，其中表示圖的頂點(diǎn)。若和的稀疏系數(shù)c≠0，則在兩頂點(diǎn)間構(gòu)建一連線邊，否則無邊；表示各邊的權(quán)值矩陣，w表示圖中和間的邊權(quán)值，其值反映了數(shù)據(jù)間的相似程度。為增強(qiáng)同類標(biāo)記樣本的作用，和間權(quán)值w表示為

(3)計(jì)算投影矩陣： 低維嵌入空間中，保持圖的相似性不變，使同類數(shù)據(jù)點(diǎn)盡可能地聚集。通過最小化各數(shù)據(jù)間的加權(quán)距離和，構(gòu)建目標(biāo)函數(shù)為

通過化解，目標(biāo)函數(shù)可表示為

(8)

為消除尺度因子的影響，增加一約束條件，目標(biāo)函數(shù)轉(zhuǎn)換為

根據(jù)拉格朗日乘子法，式(9)的優(yōu)化問題可轉(zhuǎn)化為廣義特征值問題，即

(10)

2.3 S3ME算法步驟

本文提出的S3ME算法的主要步驟為：

步驟1 根據(jù)式(5)求解各數(shù)據(jù)點(diǎn)的稀疏系數(shù)；

步驟4 根據(jù)式(10)的廣義特征值問題，由前個(gè)個(gè)最小特征值對應(yīng)的特征向量組成投影矩陣。

3 實(shí)驗(yàn)結(jié)果與分析

為驗(yàn)證S3ME算法的有效性，選取了公開的PaviaU和Salinas高光譜數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)，并與相關(guān)的特征提取算法進(jìn)行了對比。

3.1 實(shí)驗(yàn)數(shù)據(jù)集

(1)PaviaU 數(shù)據(jù)集[22]于2002年由 ROSIS 傳感器獲取的高光譜圖像，該圖像為意大利北部的帕維亞大學(xué)，其大小為610340像素，空間分辨率為1.3 m，共115個(gè)波段，去除受噪聲影響的波段，余下的103個(gè)波段用于實(shí)驗(yàn)。PaviaU 數(shù)據(jù)集的假彩色圖像和真實(shí)地物信息如圖1所示。

圖1 PaviaU 高光譜影像

(2)Salinas數(shù)據(jù)集[22]于1998年由AVIRIS傳感器獲取位于美國加利福尼亞南部薩利納斯山谷的高光譜影像。該影像的大小為512217，空間分辨率為3.7 m，包含了400 nm到2500 nm光譜范圍內(nèi)的206個(gè)波段。去除受大氣影像的波段(108~122, 154~167和224)后，剩余的162個(gè)波段用于實(shí)驗(yàn)研究。該數(shù)據(jù)集的假彩色圖像和真實(shí)地物信息如圖2所示。

圖2 Salinas高光譜影像

3.2實(shí)驗(yàn)設(shè)置

實(shí)驗(yàn)中，數(shù)據(jù)集隨機(jī)分為測試集和訓(xùn)練集，訓(xùn)練集包括標(biāo)記樣本和無標(biāo)記樣本，實(shí)驗(yàn)中每類隨機(jī)選取(20, 40, 60)個(gè)標(biāo)記樣本，從剩余樣本中隨機(jī)選取3000個(gè)樣本作為無標(biāo)記樣本，其余樣本作為測試樣本。實(shí)驗(yàn)中，無監(jiān)督和半監(jiān)督方法采用整個(gè)訓(xùn)練集進(jìn)行學(xué)習(xí)，而監(jiān)督方法只使用標(biāo)記樣本作為訓(xùn)練集。由特征提取算法對訓(xùn)練樣本進(jìn)行學(xué)習(xí)，得到投影矩陣，提取出鑒別特征。然后，采用最近鄰分類器對測試樣本進(jìn)行分類，并用總體分類精度(OA)、平均分類精度(AA)和Kappa系數(shù)()作為評價(jià)指標(biāo)。每種實(shí)驗(yàn)條件下都進(jìn)行10次重復(fù)實(shí)驗(yàn)，把OA的均值、方差(std)和均值作為最終結(jié)果。

實(shí)驗(yàn)中選取了Baseline, LPP, SPP, DLSP和S3MPE與本文提出的S3ME進(jìn)行對比，其中Baseline為直接對原始數(shù)據(jù)進(jìn)行分類。為使各算法都有較好的效果，將各算法的參數(shù)調(diào)整到最佳，LPP的近鄰數(shù)設(shè)置為7, DLSP和SPP的稀疏誤差閾值分別設(shè)置為0.1和5, S3MPE的兩個(gè)平衡參數(shù)和分別設(shè)置為0.4和0.01, S3ME的稀疏平衡參數(shù)和加權(quán)參數(shù)分別設(shè)置為10和40。嵌入特征維數(shù)上界值設(shè)置為50。

3.3 PaviaU數(shù)據(jù)集上的實(shí)驗(yàn)

根據(jù)實(shí)驗(yàn)設(shè)置，圖3為不同標(biāo)記樣本數(shù)下各算法在PaviaU數(shù)據(jù)集上的分類精度結(jié)果，表1為對應(yīng)各算法的最好分類結(jié)果。

圖3 不同維度和標(biāo)記樣本數(shù)下的分類精度

表1不同標(biāo)記樣本數(shù)下的最高總體分類精度(OA ± std(%)(dimension))

表1不同標(biāo)記樣本數(shù)下的最高總體分類精度(OA ± std(%)(dimension))

算法t = 20t = 40t = 60 Baseline67.01±2.23(101)0.589371.77±2.62(101)0.643473.61±2.04(101)0.6647 LPP68.02±2.08(44)0.601973.38±2.67(48)0.663374.90±1.59(36)0.6811 SPP65.47±1.41(6)0.570670.64±2.17(6)0.630373.01±1.38(6)0.6580 DLSP66.52±2.60(22)0.583170.73±2.64(44)0.631571.87±2.96(36)0.6439 S3MPE67.39±1.95(16)0.594673.05±1.87(50)0.659076.37±1.34(50)0.6979 S3ME78.65±3.35(10)0.727782.60±2.38(8)0.775383.62±1.09(12)0.7879

由圖3可知，隨著低維嵌入維數(shù)的增加，各算法的分類精度也不斷增加，并逐漸到達(dá)一定值。這是由于嵌入特征維度越高，嵌入特征包含的信息越豐富，分類精度也相應(yīng)地得到提升，但是當(dāng)有足夠的特征用于分類時(shí)，特征維數(shù)的增加則對分類精度的提升作用非常有限。在表1中，標(biāo)記樣本越多，各算法的OA和都不斷增加，因?yàn)殡S著標(biāo)記樣本增多，包含的樣本信息越豐富，獲取的特征越能反映樣本的本質(zhì)特征，其分類精度會(huì)更好。根據(jù)圖3和表1, S3ME獲得了最優(yōu)的分類精度，這是因?yàn)镾3ME為半監(jiān)督方法能同時(shí)利用標(biāo)記和無標(biāo)記樣本來增加可用信息，且S3ME能自適應(yīng)地揭示數(shù)據(jù)的內(nèi)在結(jié)構(gòu)，增強(qiáng)同類數(shù)據(jù)的聚集性，改善特征提取效果，進(jìn)而提高分類精度。

為探索算法對各類地物的分類性能，實(shí)驗(yàn)中從每類地物中隨機(jī)選取了60個(gè)標(biāo)記樣本且從剩余樣本中隨機(jī)選取3000個(gè)無標(biāo)記樣本作為訓(xùn)練樣本，把所有樣本用于測試，嵌入維度為30。表2為各算法對每類地物的分類精度，平均精度(AA), OA和。

表2各類算法對每類地物的分類精度(%)

由表2可知，S3ME在大部分地物類別中都具有較好的分類效果，尤其對‘Asphalt’, ‘Meadows’, ‘Gravel’, ‘Trees’ , ‘Metal Sheets’和‘Soil’的分類，并且S3ME具有最好的AA, OA和，由于S3ME能更好地表征數(shù)據(jù)的本征屬性，獲取更有效的鑒別特征，提升分類精度。圖4為對應(yīng)的分類結(jié)果圖，可看出S3ME獲得了更多的光滑區(qū)域。

圖4 不同算法的分類結(jié)果圖

3.4 Salinas數(shù)據(jù)集上的實(shí)驗(yàn)

在Salinas數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)，圖5為各算法在不同標(biāo)記樣本下的平均OA，表3為對應(yīng)的最高精度。

圖5 不同維度和標(biāo)記樣本數(shù)下的分類精度

表3不同標(biāo)記樣本數(shù)下的最高總體分類精度(OA±std(%)(dimension))

表3不同標(biāo)記樣本數(shù)下的最高總體分類精度(OA±std(%)(dimension))

算法t = 20t = 40t = 60 Baseline82.87±1.09(162)0.810083.65±0.95(162)0.818784.39±0.49(162)0.8268 LPP84.23±1.00(46)0.825085.29±1.10(32)0.836786.13±0.54(50)0.8459 SPP82.31±1.53(14)0.803982.70±1.13(14)0.808283.38±0.67(14)0.8157 DLSP84.13±0.92(32)0.823984.74±0.96(48)0.830685.76±0.61(42)0.8418 S3MPE83.77±0.96(50)0.820084.22±0.70(50)0.824985.14±0.65(50)0.8350 S3ME87.53±0.90(18)0.861688.39±1.15(20)0.871089.27±0.62(22)0.8807

從圖5和表3可以看出，除SPP較Baseline分類效果差外，其余算法都近似或優(yōu)于Baseline，這由于大部分維數(shù)約簡算法可以消除數(shù)據(jù)的冗余信息，提取出有效的鑒別特征，實(shí)現(xiàn)分類性能的改善；而SPP采用稀疏重構(gòu)方式，雖然可以自適應(yīng)地揭示數(shù)據(jù)間的相互關(guān)系，但不能較好地表征數(shù)據(jù)的內(nèi)在結(jié)構(gòu)，導(dǎo)致分類精度不能被改善。DLSP在各情況下比SPP好，這是由于DLSP利用了樣本的標(biāo)記信息，增強(qiáng)了同類數(shù)據(jù)的特征表達(dá)，使分類效果比SPP好。在不同標(biāo)記樣本下S3ME具有最好的精度，由該算法能自主地選取來自同一流形的數(shù)據(jù)作為近鄰相似，在低維嵌入空間中保持這種相似關(guān)系不變，并增加同類數(shù)據(jù)間的聚集性，提取出更有效的鑒別特征，提升分類效果。

在驗(yàn)證每類分類效果時(shí)，先從數(shù)據(jù)集中每類選取60個(gè)標(biāo)記樣本，再從剩余樣本選取3000個(gè)無標(biāo)記樣本作為訓(xùn)練樣本，并把所有樣本用于分類測試，嵌入維度設(shè)置為30。表4給出了各類地物的分類精度，AA, OA和，圖6為對應(yīng)的分類結(jié)果圖。

圖6不同算法的分類結(jié)果圖

表4各類算法對每類地物的分類精度(%)

由表4的實(shí)驗(yàn)結(jié)果可知，S3ME與其余算法相比，在大部分地物上都取得了較好的分類效果，且具有最好的AA, OA和，其分類結(jié)果圖具有更少的錯(cuò)分現(xiàn)象。

3.5參數(shù)對S3ME的影響

圖7 不同值下的分類精度 ???????? ?? 圖8 不同值下的分類精度

3.6無標(biāo)記樣本數(shù)對S3ME的影響

為研究在少量標(biāo)記樣本下無標(biāo)記樣本數(shù)對S3ME算法，分別從PaviaU和Salinas數(shù)據(jù)中隨機(jī)選取每類10標(biāo)記樣本和余下的樣本中隨機(jī)選取0, 100, 500, 1000, 2000, 3000, 4000個(gè)無標(biāo)記樣本作為訓(xùn)練樣，剩余樣本作為測試樣，在每種條件下進(jìn)行10實(shí)驗(yàn)，并把平均OA作為實(shí)驗(yàn)結(jié)果，如圖9所示。在無標(biāo)記樣本數(shù)較少時(shí)，隨著無標(biāo)記樣本數(shù)的增加迅速提升，當(dāng)有足夠的無標(biāo)記樣本時(shí)，分類精度幾乎為一定值，由于無標(biāo)記樣本數(shù)越多S3ME可以利用的信息越豐富，越能表征數(shù)據(jù)的內(nèi)在屬性，可以提取出更多的有用特征，當(dāng)?shù)玫阶銐虻男畔⒑?，分類精度將趨于平衡值?/p>

圖9 在不同無標(biāo)記樣本數(shù)下的分類結(jié)果

3.7 時(shí)間復(fù)雜度分析

S3ME算法各步驟的復(fù)雜度分別為：(1)在求解稀疏系數(shù)的復(fù)雜度為(4); (2)求解權(quán)重的復(fù)雜度為(2); (3)計(jì)算拉普拉斯矩陣和對角矩陣的復(fù)雜度都為(2); (4)計(jì)算和的復(fù)雜度都為(2)；(5)求解式(11)廣義特征值的復(fù)雜度為(3)。因而，本文方法的總體時(shí)間復(fù)雜度可表示為(4+2+3)，主要受樣本數(shù)和波段數(shù)的影響，且求解稀疏系數(shù)的復(fù)雜度對運(yùn)行時(shí)間的影響最大。

為對比各算法的運(yùn)行時(shí)間，實(shí)驗(yàn)中從每類地物中隨機(jī)選取了60個(gè)標(biāo)記樣本且從剩余樣本中隨機(jī)選取3000個(gè)無標(biāo)記樣本作為訓(xùn)練樣本，其余樣本用于測試，嵌入維度為30，實(shí)驗(yàn)運(yùn)用了CPU為Intel(R) Core(TM) i5-4590、內(nèi)存為8 GB, Windows 10和Matlab2015a的平臺(tái)。表5為不同特征提取算法的運(yùn)行時(shí)間。

表5不同特征提取算法的運(yùn)行時(shí)間(s)

由表5可知，在Salinas數(shù)據(jù)集上特征提取耗時(shí)比PaviaU數(shù)據(jù)集多，由于Salinas數(shù)據(jù)的波段數(shù)比PaviaU數(shù)據(jù)多，需要更多時(shí)間去訓(xùn)練。稀疏表示算法(SPP, DLSP, S3ME)比其余算法耗時(shí)更多，這是因?yàn)橄∈璞硎驹谶M(jìn)行編碼時(shí)，需要去尋求一個(gè)最優(yōu)解，比較耗時(shí)。S3ME和SPP耗時(shí)相對較多，是由于這兩種方法選用了大量的無標(biāo)記樣本參與訓(xùn)練，導(dǎo)致耗時(shí)增加。在實(shí)際應(yīng)用中，可根據(jù)需求在實(shí)時(shí)性和分類精度之間進(jìn)行折中，還可在實(shí)際場景中通過預(yù)先訓(xùn)練得到投影矩陣，進(jìn)而可快速處理新樣本，實(shí)現(xiàn)維數(shù)約簡。

4 結(jié)束語

在高光譜影像的地物分類研究中，本文提出一種新的特征提取方法來改善分類性能，稱為半監(jiān)督稀疏流形嵌入(S3ME)。該方法充分利用標(biāo)記和無標(biāo)記樣本在切空間中進(jìn)行稀疏流形表示，根據(jù)優(yōu)化模型得到的稀疏系數(shù)能自適應(yīng)地選取來自同一流形的數(shù)據(jù)，然后利用稀疏系數(shù)構(gòu)建了一個(gè)相似圖，并由標(biāo)記信息增強(qiáng)圖中同類標(biāo)記樣本的貢獻(xiàn)率，在低維嵌入空間中保持?jǐn)?shù)據(jù)間的相似關(guān)系不變，最小化加權(quán)距離和，得到最佳投影矩陣，進(jìn)而提取鑒別特征。S3ME方法不僅能自適應(yīng)地揭示出高光譜數(shù)據(jù)的本質(zhì)屬性，而且增加了同類數(shù)據(jù)的聚集性，能有效改善分類性能。在PaviaU和Salinas高光譜數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，與傳統(tǒng)的特征提取方法相比，S3ME有效地提升了地物分類的精度。在本文的研究中，只考慮了高光譜數(shù)據(jù)的光譜信息，下一步的工作將在S3ME算法中可以融入高光譜數(shù)據(jù)的空間信息，進(jìn)一步提升分類性能。

[1] CHANG Y L, LIU J N, HAN C C,. Hyperspectral image classification using nearest feature line embedding approach [J]., 2014, 52(1): 278-287. doi: 10.1109/TGRS.2013.2238635.

[2] XUE Z H, DU P J, LI J,. Simultaneous sparse graph embedding for hyperspectral image classification[J]., 2015, 53(11): 6114-6133. doi: 10.1109/TGRS.2015.2432059.

[3] 李志敏, 張杰, 黃鴻, 等. 面向高光譜圖像分類的半監(jiān)督Laplace鑒別嵌入[J]. 電子與信息學(xué)報(bào), 2015, 37(4): 995-1001. doi: 10.11999/JEIT140600.

LI Zhimin, ZHANG Jie, HUANG Hong,. Semi- supervised Laplace discriminant embedding for hyperspectral image classification[J].&, 2015, 37(4): 995-1001. doi: 10.11999/ JEIT140600.

[4] 宋相法, 焦李成. 基于稀疏表示及光譜信息的高光譜遙感圖像分類[J]. 電子與信息學(xué)報(bào), 2012, 34(2): 268-272. doi: 10.3724/SP.J.1146.2011.00540.

SONG Xiangfa and JIAO Licheng. Classification of hyperspectral remote sensing image based on sparse representation and spectral information[J].&, 2012, 34(2): 268-272. doi: 10.3724/SP.J.1146.2011.00540.

[5] FENG Z X, YANG S Y, WANG S G,. Discriminative spectral-spatial margin-based semi-supervised dimensionality reduction of hyperspectral data[J]., 2015, 12(2): 224-228. doi: 10.1109/ LGRS.2014.2327224.

[6] ROWEIS S T and SAUL L K. Nonlinear dimensionality reduction by locally linear embedding[J]., 2000, 290(5500): 2323-2326. doi: 10.1126/science.290.5500.2323.

[7] BELKIN M and NIYOGI P. Laplacian eigenmaps for dimensionality reduction and data representation[J]., 2003, 15(6): 1373-1396. doi: 10.1162/ 089976603321780317.

[8] HE X F, CAI D, YAN S C,. Neighborhood preserving embedding[C]. IEEE International Conference on Computer Vision, Beijing, 2005: 1208-1213. doi: 10.1109/ICCV.2005. 167.

[9] HE X F and NIYOGI P. Locality preserving projections[C]. Advances in Neural Information Processing Systems, Whistler, B. C., Canada, 2003: 153-160.

[10] YAN S C, XU D, ZHANG B Y,. Graph embedding and extensions: A general framework for dimensionality reduction [J].&, 2007, 29(1): 40-51. doi: 10.1109/CVPR.2005. 170.

[11] SHAO Z and ZHANG L. Sparse dimensionality reduction of hyperspectral image based on semi-supervised local Fisher discriminant analysis[J]., 2014, 31: 122-129. doi: 10.1016/j.jag.2014.03.015.CHEN X B, CAI Y F, CHEN

[12] CHEN X B, CAI Y F, CHEN L,. Discriminant feature extraction for image recognition using complete robust maximum margin criterion[J]., 2015, 26(7): 857-870. doi: 10.1007/s00138-015- 0709-7.

[13] BACHMANN C M, AINSWORTH T L, and FUSINA R A. Exploiting manifold geometry in hyperspectral imagery[J]., 2005, 43(3): 441-454. doi: 10.1109/TGRS.2004.842292.

[14] QIAO L S, CHEN S C, and TAN X Y. Sparsity preserving projections with applications to face recognition[J]., 2010, 43(1): 331-341. doi: 10.1016/j.patcog. 2009.05.005.

[15] ELHAMIFAR E and VIDAL R. Sparse manifold clustering and embedding[C]. Advances in Neural Information Processing Systems, Granada, Spain, 2011: 55-63.

[16] HUANG H and YANG M. Dimensionality reduction of hyperspectral images with sparse discriminant embedding[J]., 2015, 53(9): 5160-5169. doi: 10.1109/TGRS.2015.2418203.

[17] LU G F, JIN Z, and ZOU J. Face recognition using discriminant sparsity neighborhood preserving embedding[J].-, 2012, 31(7): 119-127. doi: 10.1016/j.knosys.2012.02.014.

[18] ZANG F and ZHANG J S. Discriminative learning by sparse representation for classification[J]., 2011, 74: 2176-2183. doi:10.1016/j.neucom.2011.02.012.

[19] SONG Y Q, NIE F P, ZHANG C S,. A unified framework for semi-supervised dimensionality reduction[J]., 2008, 41(9): 2789-2799. doi: 10.1016/j. patcog.2008.01.001.

[20] SONG Y Q, NIE F P, and ZHANG C S. Semi-supervised sub-manifold discriminant analysis[J]., 2008, 29(13): 1806-1813. doi: 10.1016/j.patrec.2008. 05.024.

[21] ZHAO M B, LI B, WU Z,. Image classification via least square semi-supervised discriminant analysis with flexible kernel regression for out-of-sample extension[J]., 2015(153): 96-107. doi: 10.1016/j.neucom.2014.11.048.

[22] Hyperspectral image data sets[OL]. http://www.ehu.eus/ ccwintco/index.php?title=Hyperspectral_Remote_Sensing_Scenes, 2015.

Feature Extraction of Hyperspectral Image Using Semi-supervised Sparse Manifold Embedding

Luo Fulin Huang Hong LIU Jiamin FENG Hailiang

(Key Laboratory of Optoelectronic Technique System of the Ministry of Education, Chongqing University, Chongqing 400044, China)

Hyperspectral image contains the properties of much bands and high redundancy, and the research of hyperspectral image classification focuses on feature extraction. To overcome this problem, a Semi-Supervised Sparse Manifold Embedding (S3ME) algorithm is proposed in this paper. The S3ME method makes full use of labeled and unlabeled samples to adaptively reveal the similarity relationship between data with the sparse representation of tangent space. It constructs a semi-supervised similarity graph via the sparse coefficients and enhances the weight between labeled samples from the same class. In a low-dimensional embedding space, S3ME preserves the similarity of graph to minimize the sum of the weighted distance. Then, it obtains a projection matrix for feature extraction. S3ME not only reveals the sparse manifold structure of data but also enhances the compactness of the same class data, which can effectively extract the discriminating feature and improve the classification performance. The overall classification accuracies of the proposed S3ME method respectively reach 84.62% and 88.07% on the PaviaU and Salinas hyperspectral data sets, and the classification performance of land cover is improved compared with the traditional feature extraction methods.

Hyperspectral data; Feature extraction; Semi-supervised learning; Sparse manifold embedding

TP751

A

1009-5896(2016)09-2321-09

10.11999/JEIT151340

2015-11-23；

2016-03-18；

2016-05-09

重慶市研究生科研創(chuàng)新項(xiàng)目(CYB15052)，國家自然科學(xué)基金(41371338)，重慶市基礎(chǔ)與前沿研究計(jì)劃(cstc2013jcyjA40005)，中央高?；究蒲袠I(yè)務(wù)費(fèi)項(xiàng)目(106112013CDJZR125501, 1061120131204)

The Chongqing Postgraduates’ Innovation Project (CYB15052), The National Natural Science Foundation of China (41371338), The Basic and Advanced Research Program of Chongqing (cstc2013jcyjA40005), The Fundamental Research Funds for the Central Universities (106112013CDJZR125501, 1061120131204)

黃鴻 hhuang@cqu.edu.cn

羅甫林： 男，1988年生，博士生，研究方向?yàn)橄∈璞硎竞瓦b感信息處理.

黃 鴻： 男，1980年生，博士，副教授，研究方向?yàn)閳D像處理、模式識(shí)別和遙感信息處理.

劉嘉敏： 男，1973年生，博士，副教授，研究方向?yàn)槟Ｊ阶R(shí)別和圖像處理.

馮海亮： 男，1962年生，博士，教授，研究方向?yàn)榱餍螌W(xué)習(xí)與模式分類.