曹意唱 閆德勤 陳浪 劉德山
摘 ?要:協(xié)同表示分類方法已經(jīng)被越來越多地應(yīng)用在高光譜圖像分類中,但協(xié)同表示方法因重視稀疏性忽略局部性而不能充分地刻畫高光譜圖像特征,導(dǎo)致分類精度不高。針對這一問題,提出了空譜融合下局部判別嵌入核協(xié)同表示方法(LPKCRC)。首先,利用空譜特征學(xué)習(xí)模型對高光譜圖像進行特征學(xué)習(xí);其次,利用圖嵌入矩陣提取數(shù)據(jù)局部幾何結(jié)構(gòu)和局部判別信息,并將其作為流行正則項引入CRC中,同時利用核的特性對高光譜數(shù)據(jù)進行核映射。實驗結(jié)果證明,該算法在Indian Pines和Salinas兩個高光譜數(shù)據(jù)集分類結(jié)果中都優(yōu)于其他相應(yīng)的算法,能夠提高分類準(zhǔn)確率。
關(guān)鍵詞:核協(xié)同表示;局部流形結(jié)構(gòu);空譜特征學(xué)習(xí);高光譜圖像;稀疏性
中圖分類號:TP181 ? ? 文獻標(biāo)識碼:A
A Hyperspectral Image Classification Algorithm under Space Spectrum Fusion for
Local Projections Embedding Kernel Collaborative Representation
CAO Yichang, YAN Deqin, CHEN Lang, LIU Deshan
(College of Computer and Information Technology, Liaoning Normal University, Dalian 116081, China)
1352499417@qq.com; yandeqin@163.com; chenlangstudy@163.com; deshanliu@yeah.net
Abstract: Collaborative representation classification methods have been increasingly applied to hyperspectral image classification. However, collaborative representation methods fail to describe characteristics of hyperspectral images as they emphasize sparsity and ignore locality, which leads to low classification accuracy. To solve this problem, this paper proposes a Locality Projections Kernel Collaborative Representation Classification (LPKCRC) method ?under space spectrum fusion. Firstly, learning model of space spectrum features is used to learn the feature of hyperspectral images; secondly, graph embedded matrix is used to extract local geometric structure and local discriminant information of the data, which is introduced into CRC (Collaborative Representation Classification) as a popular regular term. At the same time, kernel mapping is performed on hyperspectral data using the kernel characteristics. Experimental results prove that the proposed algorithm is superior to other corresponding algorithms in classification results of Indian Pines and Salinas hyperspectral data sets, and it can improve the classification accuracy.
Keywords: kernel collaborative representation; local manifold structure; space spectrum feature learning; hyperspectral
image; sparsity
1 ? 引言(Introduction)
高光譜圖像分類的主要應(yīng)用之一是地物識別[1]。由于高光譜圖像本身的特殊性,其成像的方式為多光譜,像素的空間關(guān)系和光譜關(guān)系相互影響,在分類的過程中也面臨著類別邊緣以及相鄰像素相互影響的問題。
近年來,在稀疏表示分類SRC[2]的基礎(chǔ)上,正則協(xié)同表示分類(CRC)方法將其中的L1范數(shù)改為L2范數(shù),被學(xué)者們應(yīng)用在高光譜圖像分類中,如侯良國等[3]。傳統(tǒng)的協(xié)同表示算法在圖像分類方面取得了很好的效果,但它們通常不能確保局部保存,因此不是最佳的。其數(shù)據(jù)可能由于非線性流形嵌入而在非常高維的環(huán)境空間[4]上,導(dǎo)致算法的分類性能下降。
此外在稀疏編碼和字典學(xué)習(xí)中,數(shù)據(jù)的局部性信息一直是一個關(guān)鍵問題。局部性能夠?qū)е孪∈栊?,但稀疏性卻不能導(dǎo)致局部性[5],因此局部性比稀疏性更為重要。針對CRC在高光譜圖像分類中未充分重視像素間局部信息,不能充分刻畫圖像特征的問題,我們提出了空譜融合下局部判別嵌入核協(xié)同表示的高光譜圖像分類方法(LPKCRC)。LPKCRC將高光譜圖像數(shù)據(jù)樣本的幾何結(jié)構(gòu)信息和判別信息引入KCRC模型中,提高了協(xié)同表示算法的分類能力。
本文提出的算法的主要貢獻在于:
(1)在考慮到空間和光譜信息刻畫的同時,引入圖嵌入矩陣到優(yōu)化目標(biāo)函數(shù)的正約束中,更加清晰地提取邊緣特征。
(2)計算了原子之間的局部相似性,以反映學(xué)習(xí)字典的局部幾何性質(zhì);然后利用自動學(xué)習(xí)策略構(gòu)造原子的局域約束,從而繼承訓(xùn)練樣本的流形結(jié)構(gòu)。
2 ? 研究基礎(chǔ)(The basic research)
2.1 ? 空譜特征學(xué)習(xí)(SSN)
我們在運用LPKCRC對高光譜遙感圖像分類之前,首先使用空譜特征學(xué)習(xí)模型(SSN)[6-7]獲取高光譜圖像的空譜聯(lián)合特征。SSN可以在去除噪聲的同時保持圖像整體結(jié)構(gòu),從而更加清晰地提取高光譜圖像特征。SSN在學(xué)習(xí)階段是由多個學(xué)習(xí)的單元(SSFLU)構(gòu)成的一個多層深度學(xué)習(xí)網(wǎng)絡(luò)。如圖1所示,每一層是一個SSFLU,一個SSFLU由兩部分組成:分別學(xué)習(xí)光譜特征和空間特征[7]。利用線性判別分析(LDA[8])能夠?qū)崿F(xiàn)光譜特征的學(xué)習(xí)。使用LDA,可將高光譜圖像在光譜維度進行降維處理,同時可以最大區(qū)分不同類別的類間信息。使用多個不同尺度的自適應(yīng)空間濾波器(AWF)[6-7]對LDA的處理結(jié)果進行空間濾波,能夠獲得圖像中同一區(qū)域的不同尺度表示,將高光譜圖像的空譜信息和光譜信息融合在一起。
2.2 ? 局部流形結(jié)構(gòu)
為了在有限的高光譜圖像數(shù)據(jù)樣本下提高圖像的分類結(jié)果,我們將采用Locality Preserving Projections(LPP)算法[9]獲取數(shù)據(jù)樣本的幾何結(jié)構(gòu)和判別信息。HE等人[9]在Locally ?Embedding(LE)算法[10]的基礎(chǔ)上提出了LPP算法。LPP算法的主要思想是,原始空間中相鄰的像素點降維后,在低維空間中也保持高維空間中的局部結(jié)構(gòu)。
對于給定數(shù)據(jù)集,為數(shù)據(jù)樣本的維數(shù),表示數(shù)據(jù)樣本的個數(shù)。LPP的目標(biāo)函數(shù)如下:
(1)
為數(shù)據(jù)集的低維嵌入,,和分別為第個樣本和第個樣本的低維表示。假設(shè)為投影向量,就有經(jīng)過簡單變換之后,目標(biāo)函數(shù)變?yōu)椋?/p>
(2)
其中,,為對角矩陣,對角元素為相似度矩陣對應(yīng)的列或行上的元素之和(為對稱陣);,被稱作拉普拉斯矩陣。注意約束式是為了避免這個解。上述的約束問題可以轉(zhuǎn)換為一個廣義特征值問題得到解:
(3)
故上述特征方程的個最小特征值,對應(yīng)特征向量,以及構(gòu)成保持近鄰相似度特性的線性變換矩陣:
(4)
LPP通過構(gòu)建高維空間中各像素點間的不同距離位置關(guān)系,在投影中保持這種關(guān)系。降維后仍舊保持原來的近鄰結(jié)構(gòu),同時盡量避免樣本集的發(fā)散,在圖像領(lǐng)域中有著廣泛的應(yīng)用。
3 ? LPKCRC算法(LPKCRC algorithm)
3.1 ? 協(xié)同表示分類(CRC)
協(xié)同表示分類更注重協(xié)同性而并非稀疏性,因此利用范數(shù)L2進行約束[3]。協(xié)同表示模型可利用全部的訓(xùn)練字典原子重建給定的測試像元。對于測試像元,尋找對應(yīng)的權(quán)重向量,需要同時滿足重建誤差最小和約束條件最小,可以表示為:
(5)
式中,為懲罰參數(shù),其功能是平衡重建誤差和范數(shù)項。通過二范數(shù)正則化項對表示系數(shù)進行約束,可以促使全部的字典原子均參與測試像元的重建。求取式(5)關(guān)于表示協(xié)同向量的導(dǎo)數(shù),可以得到式(5)的解析解:
(6)
式中,表示單位矩陣,定義矩陣的轉(zhuǎn)置操作。
當(dāng)解析地獲取到表示系數(shù)向量,可以計算像元和其類依賴近似字典的最小逼近殘差:
(7)
像元的地物類別可由公式(7)計算得到。
3.2 ? 核協(xié)同表示分類(KCRC)[11]
高光譜圖像的不同特征通道通常是線性不可分離的,而典型的線性稀疏表示模型無法充分表示高光譜數(shù)據(jù)樣本的非線性結(jié)構(gòu)特征。文獻[11]中給出的一種核協(xié)同表示算法(KCRC)可以解決非線性問題。其中協(xié)同表示的計算公式為:
(8)
在式(8)中,和表示核Gram矩陣,其中每個元素。
3.3 ? 空譜結(jié)合下局部判別嵌入核協(xié)同表示算法(LPKCRC)
在本節(jié)中我們提出空譜結(jié)合下局部判別嵌入核協(xié)同表示的分類方法(LPKCRC)。由上文可知,圖的拉普拉斯矩陣通過構(gòu)建高維空間中各像素點間的不同距離位置關(guān)系,在投影中保持這種關(guān)系。其降維后仍舊保持原來的近鄰結(jié)構(gòu),同時盡量避免樣本集的發(fā)散,得到更具有判別性的特征向量,提高分類的準(zhǔn)確性。因此,我們將圖的拉普拉斯矩陣作為流形正則項引入KCRC中,提高KCRC在高光譜圖像分類中的準(zhǔn)確性。LPKCRC函數(shù)如式(9)所示:
(9)
在式(9)中,為流形正則項,為正則化參數(shù),為懲罰參數(shù),;為對角矩陣,對角元素為相似度矩陣對應(yīng)的列或行上的元素之和(為對稱陣);。
在KCRC中,我們采用核方法進行求解[11]。高斯徑向基核函數(shù)(Gaussian Radial Basis Function Kernel)即所采用的核函數(shù),簡稱為Gaussian核,其可通過如下等式定義:
(10)
式中,定義高斯核函數(shù)的頻帶寬度,其功能是控制高斯核函數(shù)的平滑度。則協(xié)同系數(shù)可以表示為:
(11)
求取式(11)關(guān)于表示系數(shù)向量的導(dǎo)數(shù),可以解析地得到核特征空間中表示系數(shù)向量:
(12)
用公式(13)計算最小逼近殘差:
(13)
當(dāng)獲取到核特征空間中的表示系數(shù)向量,依據(jù)核誘導(dǎo)特征空間中最小殘差準(zhǔn)則可以確定地物的類別信息?;谝陨系难芯克悸罚覀兲岢鯨PKCRC算法,即空譜聯(lián)合的高光譜遙感圖像分類算法,其具體步驟如下:
輸入:SSN特征提取后的高光譜數(shù)據(jù)集。
步驟1:依據(jù)公式(1)—(4)計算拉普拉斯矩陣;
步驟2:通過公式(9)—(12)計算協(xié)同系數(shù);
步驟3:通過公式(13)得到最小逼近殘差,然后運用訓(xùn)練好的LPKCRC算法對高光譜圖像測試集進行預(yù)測,得到測試集的預(yù)測標(biāo)簽。
輸出:測試數(shù)據(jù)集的預(yù)測標(biāo)簽。
4 ?實驗結(jié)果與分析(Experimental results and analysis)
為了驗證本文算法的有效性,我們在兩個高光譜圖像數(shù)據(jù)集上進行實驗,分別為Salinas數(shù)據(jù)集和Indian Pines數(shù)據(jù)集。
4.1 ? 實驗參數(shù)設(shè)置及評價指標(biāo)
我們使用上文描述的數(shù)據(jù)集進行LPKCRC與經(jīng)典分類器的對比實驗,如SRC[2]、KSRC[12]、KCRC[11]、KSVM[13]、SVMCK[14]、JSRC[15]、MFASR[16]、JSaCR[17]算法。對于Salinas和Indian Pines的數(shù)據(jù)設(shè)置,在文獻[6]中給出的特征提取算法用于獲取每個樣本的特征,然后將特征用作分類算法的輸入數(shù)據(jù)。在Salinas數(shù)據(jù)集上,我們隨機選擇每個類別的5%的標(biāo)記樣本進行訓(xùn)練,剩余樣本用于測試;在Indian Pines數(shù)據(jù)集上,我們隨機選擇每個類別的10%的標(biāo)記樣本進行訓(xùn)練,剩余樣本用于測試。
本文使用總體分類精度(OA)、平均分類精度(AA)和Kappa系數(shù)三個指標(biāo)來評估最終的分類結(jié)果。
4.1.1 ? 在Salinas數(shù)據(jù)集上的實驗結(jié)果
表1給出了九種不同算法在Salinas數(shù)據(jù)集上的OA、AA和Kappa系數(shù),黑體表示最好的結(jié)果。從表1中我們可以看出,LPKCRC算法在OA、AA和Kappa系數(shù)上均優(yōu)于其他八種算法。
圖2顯示了九種算法的分類結(jié)果圖。從分類結(jié)果圖可以看到,本文算法LPKCRC的分類效果最好。
4.1.2 ? 在Indian Pines數(shù)據(jù)集上的實驗結(jié)果
不同分類算法在Indian Pines數(shù)據(jù)集上的分類結(jié)果如表2所示。表2給出了九種不同算法在Indian Pines數(shù)據(jù)集上的每類OA、AA和Kappa系數(shù),黑體表示最好的結(jié)果。從表2中我們可以看到,本文算法在OA、AA和Kappa系數(shù)上均優(yōu)于其他八種算法。
通過上述分析可見,本文算法在高光譜圖像分類任務(wù)中取得了良好的結(jié)果,驗證了本文算法的有效性。本文算法有效的原因在于,在有限的高光譜圖像訓(xùn)練樣本下,運用高光譜圖像數(shù)據(jù)訓(xùn)練樣本的幾何結(jié)構(gòu)信息和判別信息,為高光譜圖像分類提供先驗信息,增強高光譜圖像的分類性能。
4.2 ? 訓(xùn)練樣本選取的影響
為了驗證SRC、KSRC、KCRC 、KSVM、SVMCK、JSRC、MFASR、JSaCR,以及本文算法在不同訓(xùn)練樣本個數(shù)下的分類性能,我們分別在Salinas和Indian Pines兩個數(shù)據(jù)集上進行實驗。在Salinas數(shù)據(jù)集上分別隨機選取該類樣本數(shù)的0.5%、0.6%、0.7%、0.8%、0.9%、1%、2%、3%、4%、5%作為訓(xùn)練樣本,每類剩下的樣本做測試樣本;在Indian Pines數(shù)據(jù)集上分別隨機選取該類樣本數(shù)的1%、2%、3%、4%、5%、6%、7%、8%、9%、10%作為訓(xùn)練樣本,每類剩下的樣本做測試樣本。將實驗的總體分類準(zhǔn)確度作為評價指標(biāo),實驗結(jié)果如圖4所示。
(a)Salinas
(b)Indian Pines
圖4 不同訓(xùn)練樣本個數(shù)的影響
Fig.4 Influence of different training samples
由圖4(a)的實驗結(jié)果我們可以觀察到,在Salinas數(shù)據(jù)集上,LPKCRC的OA指標(biāo)識別曲線明顯優(yōu)于SRC、KSRC、KCRC、KSVM、SVMCK、JSRC、MFASR、JSaCR算法。由圖4(b)我們可以明顯觀察到SRC、KSRC、KCRC三種算法在Indian Pines數(shù)據(jù)集上的OA識別曲線顯著低于KSVM、SVMCK、JSRC、MFASR、JSaCR和LPKCRC等算法。這是由于SRC、KSRC、KCRC三種算法沒有運用高光譜圖像的空間信息造成的。
4.3 ? 參數(shù)分析
在本節(jié)中,我們分析參數(shù)如何影響LPKCRC的性能。實驗結(jié)果如圖5和圖6所示,顯示了在參數(shù)和取不同值時對應(yīng)的實驗結(jié)果分類精度變化。
從圖5可以看出,Salinas數(shù)據(jù)集上參數(shù)和的不同值帶來不同的結(jié)果。當(dāng)、時,算法的分類精度最高。
從圖6可以看出,Indian Pines數(shù)據(jù)集上參數(shù)和的不同值帶來不同的結(jié)果。當(dāng)、時,算法的分類精度最高。
LPKCRC的性能可以通過改變參數(shù)進行調(diào)整。
5 ? 結(jié)論(Conclusion)
本文提出了一種空譜融合下局部判別嵌入核協(xié)同表示的高光譜圖像分類。創(chuàng)新之處在于考慮到高光譜圖像數(shù)據(jù)的聯(lián)系和差異信息,將高光譜圖像的空間信息和光譜信息融合在一起,將圖嵌入矩陣引入KCRC模型中,克服了KCRC算法不能充分刻畫高光譜圖像特征的問題。LPKCRC與SRC、KSRC、KCRC、KSVM、SVMCK、JSRC、MFASR、JSaCR算法的對比實驗表明,本文所提出的方法顯著提高了核協(xié)同表示分類在高光譜圖像中的分類效果。
參考文獻(References)
[1] BIOUCAS-DIAS J M, PLAZA A, CAMPS-VALLS G, et al. Hyperspectral remote sensing data analysis and future challenges[J]. IEEE Geoscience and Remote Sensing Magazine, 2013, 1(2):6-36.
[2] WRIGHT J, YANG A, GANESH A, et al. Robust face recognition via sparse representation[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2009, 31(2):210-227.
[3] 侯良國,向澤君,楚恒.加權(quán)融合核稀疏和協(xié)同表示的高光譜影像分類[J].計算機工程與設(shè)計,2019,40(04):1058-1063.
[4] ROWEIS S T, SAUL L K. Nonlinear dimensionality reduction by locally linear embedding[J]. Science, 2000, 290(5500):2323-2326.
[5] LI Z, LAI Z, YONG X, et al. A locality-constrained and label embedding dictionary learning algorithm for image classification[J]. IEEE Transactions on Neural Networks and Learning Systems, 2017, 28(2):278-293.
[6] ZHOU Y, WEI Y. Learning hierarchical spectral-spatial features for hyperspectral image classification[J]. IEEE Transactions on Cybernetics, 2017, 46(7):1667-1678.
[7] 王軍浩,閆德勤,劉德山,等.高光譜圖像分類的融合分層深度網(wǎng)絡(luò)聯(lián)合稀疏表示算法[J].模式識別與人工智能,2020,33(4):?303-312.
[8] BANDOS T V, BRUZZONE L, CAMPS-VALLS G. Classification of hyperspectral images with regularized linear discriminant analysis[J]. IEEE Transactions on Geoscience & Remote Sensing, 2009, 47(3):862-873.
[9] HE X, NIYOGI P. Locality preserving projections[J]. Advances in Neural Information Processing Systems, 2003, 16(1):186-197.
[10] BELKIN M, NIYOGI P. Laplacian eigenmaps and spectral techniques for embedding and clustering[J]. Advances in Neural Information Processing Systems, 2001, 14(6):585-591.
[11] WANG D, LU H, YANG M H. Kernel collaborative face recognition[J]. Pattern Recognition, 2015, 48(10):3025-3037.
[12] CHEN Y, NASRABADI N M, TRAN T D. Hyperspectral image classification via kernel sparse representation[J]. IEEE Transactions on Geoscience and Remote Sensing, 2013, 51(1):217-231.
[13] WANG L, HAO S, WANG Q, et al. A Multiple-mapping kernel for hyperspectral image classification[J]. IEEE Geoscience and Remote Sensing Letters, 2015, 12(5):978-982.
[14] HUANG H, DUAN Y, SHI G, et al. Fusion of weighted mean reconstruction and SVMCK for hyperspectral image classification[J]. IEEE Access, 2018, 6(15):224-235.
[15] CHEN Y, NASRABADI N M, TRAN T D. Hyperspectral image classification using dictionary-based sparse representation[J]. IEEE Transactions on Geoscience and Remote Sensing, 2011, 49(10):3973-3985.
[16] FANG L, WANG C, LI S, et al. Hyperspectral image classification via multiple-feature-based adaptive sparse representation[J]. IEEE Transactions on Instrumentation & Measurement, 2017, 66(7):1646-1657.
[17] JIANG J, CHEN C, YU Y, et al. Spatial-aware collaborative representation for hyperspectral remote sensing image classification[J]. IEEE Geoscience and Remote Sensing Letters, 2017, 14(3):404-408
作者簡介:
曹意唱(1996-),女,碩士生.研究領(lǐng)域:機器學(xué)習(xí),模式識別,遙感圖像分類.
閆德勤(1962-),男,博士,教授.研究領(lǐng)域:機器學(xué)習(xí),模式識別,遙感圖像分類.
陳 ? 浪(1993-),男,碩士生.研究領(lǐng)域:機器學(xué)習(xí),模式識別.
劉德山(1970-),男,碩士,教授.研究領(lǐng)域:機器學(xué)習(xí),模式識別,智能信息處理.