谷 雨，徐 英，郭寶峰

1. 杭州電子科技大學(xué)通信信息傳輸與融合技術(shù)國防重點學(xué)科實驗室，浙江 杭州 310018； 2. 杭州電子科技大學(xué)生命信息與儀器工程學(xué)院，浙江 杭州 310018

高光譜圖像具有圖譜合一、光譜分辨率高、光譜范圍寬、光譜相關(guān)性強(qiáng)等特點，使得它在目標(biāo)偵察、地質(zhì)勘查、農(nóng)業(yè)生態(tài)調(diào)查等方面發(fā)揮了重要的作用[1]。

高光譜圖像較高的光譜維數(shù)和光譜分辨率為地物分類帶來巨大的機(jī)遇，然而在訓(xùn)練樣本有限的情況下，高光譜圖像分類過程會存在Hughes現(xiàn)象，即小樣本數(shù)目與高光譜維數(shù)之間的矛盾。為解決這一問題，一方面可采用特征提取和波段選擇方法對高光譜圖像進(jìn)行降維處理[2-7]。典型的特征提取方法包括主成分分析和流形學(xué)習(xí)等[3]。波段選擇是指按照一定的準(zhǔn)則選擇具有代表性的波段用于分類，可用的波段選擇準(zhǔn)則包括波段相關(guān)系數(shù)、互信息、JM距離和散度等[1]。文獻(xiàn)[4]基于場景中的先驗知識，采用互信息實現(xiàn)了波段選擇。文獻(xiàn)[5]采用JM距離和最小估計冗余協(xié)方差作為測度，提出了一種改進(jìn)螢火蟲算法的波段選擇方法。文獻(xiàn)[6]采用互信息等三種測度計算相鄰波段間的相關(guān)性，然后對波段進(jìn)行分類與重新分組。文獻(xiàn)[7]采用粒子群算法同時進(jìn)行波段自動選擇和支持向量機(jī)參數(shù)優(yōu)化，但是由于采用基于封裝(wrapper)的波段選擇方法，需要已知樣本標(biāo)簽來計算優(yōu)化的目標(biāo)函數(shù)。文獻(xiàn)[8]提出了一種結(jié)合波段分組特征和形態(tài)學(xué)特征的高光譜圖像分類方法。上述方法雖然能夠提取出不相關(guān)的有效波段組合，但是算法的復(fù)雜度較高。

對分類器進(jìn)行優(yōu)化設(shè)計是提高高光譜圖像分類精度的另一手段。常采用的分類器包括支持向量機(jī)[9](support vector machine，SVM)、稀疏表示[10-12](sparse representation，SR)、協(xié)作表示[13,14](collaborative representation，CR)、集成學(xué)習(xí)法[6,15]，深度學(xué)習(xí)法[16]等。SVM算法通過核函數(shù)將原始特征向量映射到高維空間，通過建立決策面實現(xiàn)分類，由于具有較強(qiáng)的小樣本訓(xùn)練分類能力，因而在高光譜圖像中得到廣泛應(yīng)用[9]。SR算法本質(zhì)上是基于多近鄰原則把待分類樣本表示為字典中各訓(xùn)練樣本的稀疏線性組合[11]，通常情況下樣本數(shù)較多時才能達(dá)到較高的識別率。當(dāng)訓(xùn)練樣本較少時，基于CR的分類性能優(yōu)于基于SR的分類性能[13-14]。文獻(xiàn)[13]在基于協(xié)作表示方法進(jìn)行高光譜圖像分類時，由于設(shè)計的算法能夠有效結(jié)合空譜信息，故分類精度明顯高于僅采用譜特征的分類精度。集成學(xué)習(xí)法通過合并一組弱分類器來提高分類器的性能，訓(xùn)練得到的強(qiáng)分類器性能優(yōu)于任何一個弱分類器。文獻(xiàn)[6]提出了一種基于分類器集成的高光譜遙感圖像分類算法。其中波段分組通過波段分類和重新分組兩個過程實現(xiàn)，基分類器采用最大似然法，采用基于選擇性集成的分類器合成方法。該算法雖然能夠取得較好的分類效果，但是存在算法過程復(fù)雜，難以實現(xiàn)對高光譜數(shù)據(jù)的實時處理。隨著深度學(xué)習(xí)在計算機(jī)視覺等方面的成功應(yīng)用，目前正逐步拓展到高光譜圖像分類應(yīng)用[16]，但只有在使用較多訓(xùn)練樣本的情況下才能取得較好的分類精度。

超限學(xué)習(xí)機(jī)(extreme learning machine，ELM)是具有單個隱藏層的前饋神經(jīng)網(wǎng)絡(luò)，由于將輸入層與隱藏層間的連接權(quán)重隨機(jī)化處理，通過求解嶺回歸問題計算隱層與輸出層間的連接權(quán)重[17]，因此ELM算法具有可調(diào)參數(shù)少、計算速度快和泛化能力好等優(yōu)點。將超限學(xué)習(xí)機(jī)用于高光譜圖像分類時，研究人員對其進(jìn)行了拓展[15,18-19]。文獻(xiàn)[15]提出了一種集成超限學(xué)習(xí)機(jī)算法對高光譜圖像進(jìn)行分類，由于是通過對訓(xùn)練樣本進(jìn)行重采樣方式來訓(xùn)練弱分類器，因此不適用于訓(xùn)練樣本較少情況下的分類問題。文獻(xiàn)[18]采用差分進(jìn)化算法對超限學(xué)習(xí)機(jī)的參數(shù)進(jìn)行優(yōu)化，以提高高光譜圖像的分類精度和計算速度。文獻(xiàn)[19]提出了兩種基于空譜特征復(fù)合核的超限學(xué)習(xí)機(jī)算法，其中單一空間特征或譜特征核函數(shù)均由激活函數(shù)構(gòu)成的核函數(shù)和一般高斯核函數(shù)組成。由于采用了空譜聯(lián)合特征，因而算法分類精度較高。

針對文獻(xiàn)[6，15]提出的算法中存在的波段選擇算法復(fù)雜度高、采用的集成學(xué)習(xí)算法不適合小樣本情況的問題，考慮到高光譜具有較高的光譜維數(shù)，本文采用對高光譜圖像譜維進(jìn)行平均分組和隨機(jī)抽樣的方式進(jìn)行特征降維，基于集成學(xué)習(xí)理論設(shè)計了一種融合空譜特征和超限學(xué)習(xí)機(jī)的高光譜圖像分類方法。提出的算法首先基于每個像素點的鄰域信息提取空譜特征，然后對空譜特征的譜維進(jìn)行平均分組和隨機(jī)抽樣，提取降維后的特征。采用超限學(xué)習(xí)機(jī)學(xué)習(xí)得到弱分類器，基于多次抽樣特征得到的分類結(jié)果，基于投票表決法得到最終的分類結(jié)果。采用3個典型高光譜數(shù)據(jù)集進(jìn)行了算法性能測試，驗證了所提出的算法的有效性。

1 超限學(xué)習(xí)機(jī)原理

超限學(xué)習(xí)機(jī)是單隱層前饋神經(jīng)網(wǎng)絡(luò)，通過對輸入層與隱層間的權(quán)重進(jìn)行隨機(jī)化處理，在目標(biāo)分類、特征學(xué)習(xí)等方面具有良好的性能。因不需要迭代更新權(quán)重，故具有訓(xùn)練速度快的優(yōu)勢，通過合理地選擇隨機(jī)權(quán)重的分布，能夠保證分類的精度。對某一類目標(biāo)進(jìn)行分類時，ELM的輸出模型為[17]

(1)

式中，hi(x)=G(ai，bi，x)為第i個隱層節(jié)點輸出映射；G為隱層節(jié)點采用的激活函數(shù)；x∈Rd，為輸入特征向量；ai∈Rd，為輸入層與第i個隱層節(jié)點的隨機(jī)連接權(quán)重；bi∈R，為第i個隱層節(jié)點的偏置；L為隱層節(jié)點個數(shù)；β=[β1,β2,…,βL]T為隱層節(jié)點與輸出節(jié)點間的連接權(quán)重向量。設(shè)訓(xùn)練樣本數(shù)目為N，當(dāng)目標(biāo)類別數(shù)目B>1時，ELM優(yōu)化的目標(biāo)函數(shù)為[17]

(2)

式中，δ1>0,δ2>0,p,q=0,1,2，…,+∞；λ為正則化參數(shù)；H為所有訓(xùn)練樣本經(jīng)過L個隱層節(jié)點映射得到的變換矩陣，維數(shù)為N×L；由于是對多類別樣本進(jìn)行分類，故β此時拓展為L×B的連接矩陣；T為N×B目標(biāo)類別矩陣，如式(3)所示，每一行中對應(yīng)目標(biāo)類別位置處為1，其余位置為-1。

(3)

當(dāng)δ1=2,δ2=2,p=2,q=2時，式(2)具有閉環(huán)解，具體如式(4)和式(5)所示，I為單位矩陣。

(4)

(5)

2 融合空譜特征和集成超限學(xué)習(xí)機(jī)的高光譜圖像分類

集成學(xué)習(xí)算法通過合并一組弱分類器來提高分類器的性能，訓(xùn)練得到強(qiáng)分類器的分類性能優(yōu)于其中弱分類器的性能[20]。基于集成學(xué)習(xí)理論設(shè)計分類器時，可以采用樣本重采樣[21]、特征重采樣[22]和樣本權(quán)重迭代更新[15]等幾種方式訓(xùn)練弱分類器?？紤]到高光譜圖像的訓(xùn)練樣本數(shù)少、光譜維數(shù)高的特點(>100)，可以采用對光譜特征進(jìn)行隨機(jī)抽樣的方式進(jìn)行降維，在降低高光譜特征維數(shù)的同時，為保證分類精度，可通過多次抽樣，基于集成學(xué)習(xí)思想訓(xùn)練得到強(qiáng)分類器。本文算法首先基于空間像素鄰域信息的均值提取空譜特征，然后通過對提取的特征向量進(jìn)行平均分組和隨機(jī)抽樣實現(xiàn)特征降維，通過多次抽樣訓(xùn)練得到多個弱分類器，最后采用投票表決法得到強(qiáng)分類器。算法流程如圖1所示。

圖1 融合空譜特征和集成超限學(xué)習(xí)機(jī)的高光譜圖像分類流程Fig.1 Flowchart of hyperspectral image classification by combination of spatial-spectral features and ensemble extreme learning machines

2.1 空譜聯(lián)合特征

試驗研究表明，采用空譜聯(lián)合特征能夠提高高光譜圖像分類的正確率[10-14,19]?；诳臻g像素鄰域的光譜特性具有一定相似性，或?qū)儆谕活愇镔|(zhì)的假設(shè)，選擇空間鄰域內(nèi)一定區(qū)域(例如9×9)的樣本均值作為空域特征[13,19]。將空間中某一點(i,j)的譜特征記做f1(i,j)，則基于空間鄰域Q計算得到的空域特征為

(6)

式中，m為空間鄰域Q內(nèi)樣本總數(shù)?？沼蛱卣饔嬎憬Y(jié)合了空間鄰域信息，但在某些情況下，個別地物的樣本數(shù)目少，空間分布不均勻，故可通過結(jié)合譜特征和空域特征來保證分類的精度。故對于高光譜圖像中每個像素(i,j)提取的空譜特征為f(i,j)=f1(i,j),f2(i,j)。

2.2 波段平均分組與隨機(jī)抽樣

從前面分析知，可通過特征提取和波段選擇兩種方式降低光譜維數(shù)，通過設(shè)定合適的優(yōu)化準(zhǔn)則進(jìn)行波段選擇與分組，雖然能夠獲得有效的特征集合，但是算法計算復(fù)雜度較高[5]?？紤]到高光譜相鄰波段間具有一定的相關(guān)性，為保留原始光譜維度所包含的有用信息，可對原始空譜特征向量進(jìn)行平均分組或基于優(yōu)化度量的非均勻分組[8]，分成若干個區(qū)間，然后從每個區(qū)間隨機(jī)選擇一定數(shù)量的波段進(jìn)行組合，以達(dá)到特征降維的目的。圖2為Indian Pines數(shù)據(jù)中16類典型地物的歸一化光譜曲線，總計光譜維數(shù)為200，采用平均分組和非均勻分組兩種方式進(jìn)行波段分組的示意圖分別如圖2中的虛線和點劃線所示。采用非均勻分組方法雖然能夠發(fā)現(xiàn)相關(guān)系數(shù)等發(fā)生突變的波段，但是如何從分組后的波段集合中選擇有利于目標(biāo)分類的波段子集，同樣是值得深入研究的問題。采用平均分組思想雖然是一種次優(yōu)選擇，但是考慮了地物光譜特性隨波段的變化趨勢。當(dāng)采用隨機(jī)抽樣方法獲得降維后的波段組合時，帶有一定隨機(jī)性，當(dāng)光譜維數(shù)降低到一定程度時，分類精度同時會有所降低，故本文采用對提取的空譜特征進(jìn)行多次抽樣，基于降維后的特征訓(xùn)練若干分類器，采用集成學(xué)習(xí)思想訓(xùn)練得到用于高光譜分類的強(qiáng)分類器。設(shè)抽樣后特征在原特征中的索引記做indexk，k=1,2,…,C為抽樣次數(shù)，其中C為采用的弱分類器數(shù)目。

2.3 超限學(xué)習(xí)機(jī)參數(shù)學(xué)習(xí)

Wk=2*rand(L,size(indexk,1))-1

(7)

Biask=rand(L,1)

(8)

式中，rand(m,n)為產(chǎn)生行和列分別為m和n，滿足均勻分布且位于區(qū)間[0 1]的隨機(jī)數(shù)矩陣，size(v,1)函數(shù)用于獲取矩陣或向量的行數(shù)。則第k個分類器對應(yīng)的映射矩陣為

Hk=(G(Wk*F(indexk,:)+Biask))T

(9)

2.4 基于特征加權(quán)融合與投票表決的分類器集成

Bagging算法[21]通過對樣本進(jìn)行重采樣訓(xùn)練得到弱分類器集合，這些弱分類器通過投票表決的方式確定分類標(biāo)簽。通過Bagging算法，能夠有效降低分類算法的方差，提高算法的泛化能力。

(10)

Label(k)=argmaxj∈[1,2,…,B]{scorek(j)}

(11)

根據(jù)Bagging算法思想，對所有C個分類器的結(jié)果{Label(k)}k=1,2,…,C統(tǒng)計分類結(jié)果直方圖得到{bin(j)}j=1,2,…,B，采用投票表決法確定目標(biāo)估計測試樣本y的類別R(y)，如式(12)所示

R(y)=argmaxj∈[1,2,…,B]{(bin(j)}

(12)

3 試驗結(jié)果分析

為驗證本文提出算法的有效性，將其應(yīng)用于Indian Pines、Pavia University、Salinas 3個典型高光譜數(shù)據(jù)的分類。3種高光譜數(shù)據(jù)的參數(shù)描述見表1[12]，相應(yīng)數(shù)據(jù)和地物類別真實分布可通過公開網(wǎng)站進(jìn)行下載(http:∥www.ehu.eus/ccwintco/index.php?title=Hyperspectral_Remote_Sensing_Scences)。其中Indian Pines選用的數(shù)據(jù)是高光譜遙感數(shù)據(jù)AVIRIS92AV3C。該數(shù)據(jù)是美國印第安納西北部地區(qū)植被影像，圖像大小為145×145，波長范圍為0.4～2.5 μm，原始波段數(shù)為220個，移除水吸收波段(104—108波段、150—163波段、220波段)后的波段數(shù)為200個?；诓ǘ?0、27和17生成的偽彩色圖像如圖3所示?；赑avia University與Salinas高光譜圖像的指定波段生成的偽彩色圖像及相應(yīng)真實地物分布圖分別如圖4和圖5所示。

表1 試驗用高光譜數(shù)據(jù)描述

圖2 典型地物光譜曲線平均分組示意Fig.2 Schematic diagram of average grouping for spectral curves of representative ground objects

圖3 Indian Pines偽彩色圖像及真實地物類別(使用波段50、27、17)Fig.3 False color image based on bands 50,27,17 and ground-truth map for Indian Pines

圖4 Pavia University偽彩色圖像及真實地物類別 (使用波段60、30、2)Fig.4 False color image based on bands 60,30,2 and ground-truth map for Pavia University

圖5 Salinas偽彩色圖像及真實地物類別(使用波段50、30、20)Fig.5 False color image based on bands 50,30,20 and ground-truth map for Salinas

進(jìn)行分類前，首先對輸入的高光譜數(shù)據(jù)進(jìn)行歸一化，使數(shù)值范圍位于區(qū)間[0 1]。評價指標(biāo)分別為平均分類精度(AA)，總體分類精度(OA)和Kappa系數(shù)(κ)[1]。

根據(jù)文獻(xiàn)[19]，本文用于提取空譜特征的鄰域范圍設(shè)定為9×9，從每個波段分組中選擇的波段數(shù)目設(shè)定為5。試驗中將波段平均分組數(shù)設(shè)定為弱分類器數(shù)目C，因此在每個波段分組中抽樣次數(shù)確定的情況下(設(shè)定為5)，弱分類器數(shù)目C影響空譜信息的保留程度。雖然不同類別物質(zhì)的譜特征在不同波段分組中(或譜窗)的判別能力不同，但是考慮到進(jìn)行分類器設(shè)計時，需綜合利用不同波段分組中的聯(lián)合表示能力，若損失信息過多，必將會降低高光譜的分類精度。對于Indian Pines和Salinas高光譜數(shù)據(jù)，設(shè)定C=20，Pavia University高光譜數(shù)據(jù)C=10，這樣經(jīng)過隨機(jī)抽樣獲得的隨機(jī)特征保留了原始特征約50%的信息。由于降維后空譜特征維數(shù)分別為100、50、100，故當(dāng)超限學(xué)習(xí)機(jī)隱層節(jié)點個數(shù)大于100時，就能將特征由低維空間映射到高維空間，從而更有利于分類器設(shè)計。試驗中，超限學(xué)習(xí)機(jī)隱層節(jié)點個數(shù)L=500，由于將原始高光譜數(shù)據(jù)歸一化到[0 1]，故激活函數(shù)G(·)設(shè)定為sin(·)函數(shù)。

正則化參數(shù)λ是影響ELM分類能力的主要因素，故首先通過試驗分析了λ對于高光譜分類精度的影響。采用Indian Pines高光譜圖像進(jìn)行測試，訓(xùn)練樣本數(shù)目設(shè)定為40(注：對于Indian Pines數(shù)據(jù)中樣本數(shù)較少的幾類，若訓(xùn)練樣本超過總樣本50%時，取訓(xùn)練樣本為總樣本的50%)。當(dāng)加權(quán)系數(shù)設(shè)定為w=0.9，試驗結(jié)果如圖6所示。從圖6中可以看出，對于譜特征和空域特征而言，λ的影響不盡相同，當(dāng)λ=1e1時，基于譜特征的分類結(jié)果最好；對于空域特征，隨著λ的增加，分類精度逐步增加，當(dāng)λ=1e4時，分類精度最優(yōu)，之后逐步下降?？紤]到分類精度與訓(xùn)練樣本的抽樣分布有關(guān)，具有一定的隨機(jī)性，為保證分類精度，故λ取較大的數(shù)值，在后續(xù)試驗中對于譜特征和空域特征設(shè)定λ分別為1e2和1e5。

當(dāng)λ=1e5時，改變權(quán)重系數(shù)w，對Indian Pines的分類結(jié)果如圖7所示?？紤]到高光譜圖像中相鄰像素屬于同一類別/物質(zhì)的概率較高，采用相鄰區(qū)域內(nèi)譜特征的均值作為特征向量，起到了低通濾波的作用，能夠有效地降低噪聲影響。從圖7中可以看出，隨著權(quán)重系數(shù)w的增加，分類精度逐漸提高并趨于平穩(wěn)，當(dāng)w=0.9時取得了接近95%的總體分類精度，且僅采用空域特征(w=1.0)的分類性能優(yōu)于僅采用譜特征(w=0.0)的分類性能。在后續(xù)試驗中設(shè)定空譜特征的權(quán)重系數(shù)為w=0.9。

圖6 正則化系數(shù)對分類精度的影響 Fig.6 Influence of regularization parameter on classification accuracy

圖7 權(quán)重系數(shù)對分類精度的影響 Fig.7 Influence of weighted coefficient on classification accuracy

為驗證采用的集成學(xué)習(xí)算法的優(yōu)勢，分別采用譜特征、空域特征、空譜特征，利用ELM算法訓(xùn)練分類器進(jìn)行分類，與本文分類算法進(jìn)行比較，試驗中采用的訓(xùn)練樣本數(shù)分別設(shè)定為10、20、30、40、50，試驗結(jié)果如圖8—圖10所示。從圖8和圖9中可以看出，對于Indian Pines和Pavia University高光譜數(shù)據(jù)，隨著樣本數(shù)的增加，本文算法的分類精度明顯優(yōu)于其他3種方法。當(dāng)采用ELM訓(xùn)練分類器時，采用空域特征的分類結(jié)果與采用空譜特征的分類結(jié)果十分接近，這也說明通過結(jié)合空間鄰域信息，能夠有效地提高高光譜圖像的分類精度。當(dāng)采用集成學(xué)習(xí)思想訓(xùn)練分類器時，對獲得的空譜特征進(jìn)行特征抽樣，進(jìn)一步提高了分類器的分類精度。對于Salinas高光譜數(shù)據(jù)，當(dāng)樣本數(shù)超過30時，采用ELM和空譜特征的分類結(jié)果略優(yōu)于本文算法，這主要是與高光譜圖像中各類別樣本的分布有關(guān)，對于Salinas而言，同一類別的目標(biāo)分布相對集中，光譜特性相近，故樣本的類內(nèi)方差小，因而采用基于集成學(xué)習(xí)的超限學(xué)習(xí)機(jī)算法的分類結(jié)果并沒有提高，而對于Indian Pines和Pavia University，每類目標(biāo)分布相對廣泛，同類目標(biāo)光譜曲線差異較大，故本文算法充分利用了提取特征光譜維度的差異性，基于特征隨機(jī)抽樣的方式實現(xiàn)特征降維，提高了高光譜數(shù)據(jù)分類的精度。

圖8 Indian Pines分類結(jié)果Fig.8 Classification result for Indian Pines

圖9 Pavia University分類結(jié)果Fig.9 Classification result for Pavia University

將本文算法與支持向量機(jī)、稀疏表示算法進(jìn)行對比試驗，將3種算法分別記作EELM、SVM、SR。由前面分析可知，采用空域特征相比于譜特征具有更強(qiáng)分類能力，故其他算法均采用如式(6)所示的空域特征。采用SVM訓(xùn)練分類器時，采用徑向基核函數(shù)，Gamma和懲罰因子C采用交叉驗證方式獲得；采用SR進(jìn)行分類時，基于每類目標(biāo)的訓(xùn)練樣本，采用文獻(xiàn)[24]提出的字典學(xué)習(xí)方法對其進(jìn)行優(yōu)化，字典數(shù)目與訓(xùn)練樣本數(shù)目相同，重構(gòu)算法采用SPAMS工具箱[25]提供的mexLasso(·)函數(shù)?？傆嬤M(jìn)行了5次蒙特卡洛模擬試驗，當(dāng)訓(xùn)練樣本數(shù)目為40時，試驗結(jié)果分別見表2、表3和表4。文獻(xiàn)[19]采用類似文獻(xiàn)[9]的復(fù)合核方式融合高光譜的空譜特征，采用基于核映射的超限學(xué)習(xí)機(jī)算法用于高光譜分類，對Indian Pines、Pavia University和Salinas 3個高光譜數(shù)據(jù)的分類結(jié)果(AA,OA,Kappa)分別為(96.7±0.58,93.4±0.99,92.4±1.13)、(92.7±1.13,93.5±1.37,91.4±1.77)、(98.4±0.36,96.4±0.79,96.0±0.88)。對比文獻(xiàn)[19]和本文算法的分類結(jié)果可以看出，本文算法在Indian Pines和Salinas的分類結(jié)果與之接近，但對Pavia University的分類結(jié)果更優(yōu)，這說明了通過對高光譜數(shù)據(jù)進(jìn)行降維，采用集成學(xué)習(xí)的方法訓(xùn)練分類器，能夠提高高光譜數(shù)據(jù)分類的精度。

圖10 Salinas分類結(jié)果Fig.10 Classification result for Salinas

表2 訓(xùn)練樣本數(shù)為40時Indian Pines的分類精度

表3 訓(xùn)練樣本為40時Pavia University的分類精度

表4 訓(xùn)練樣本為40時Salinas的分類精度

試驗中采用的PC機(jī)硬件配置如下：CPU為Intel(R) Core(TM) i5-3230M @2.6 GHz，內(nèi)存為12 GB，顯卡為NVIDIA NVS5400M，2 GB獨立顯存。采用的Matlab版本為Matlab 2017a。SVM和SR算法分別采用LibSVM和SPAMS工具箱實現(xiàn)分類，算法中主要函數(shù)均為C語言實現(xiàn)，本文算法僅采用Matlab函數(shù)實現(xiàn)。當(dāng)采用訓(xùn)練樣本數(shù)目為40時3種算法對3個高光譜數(shù)據(jù)中所有測試樣本進(jìn)行分類的總計耗時分別由表2至表4中的time項給出。SVM算法耗時與分類難度密切相關(guān)，計算復(fù)雜度由優(yōu)化后支持向量的個數(shù)決定；SR算法與分類的類別總數(shù)，及構(gòu)成每一類的字典元素個數(shù)有關(guān)，同時受稀疏系數(shù)恢復(fù)算法影響；本文算法的耗時與采用的弱分類器數(shù)目有關(guān)，同時受ELM算法中隱層節(jié)點個數(shù)影響。從表2—表4中可以看出，本文算法由于需要多個弱分類器投票表決確定目標(biāo)類別，故算法耗時明顯高于SVM算法的耗時。為提高本文算法的分類速度，一方面可以采用對算法進(jìn)行優(yōu)化，并采用C語言進(jìn)行算法實現(xiàn)，另一方面采用的投票表決方法使得可以采用并行化處理來加速算法的運行速度。本文設(shè)計算法的耗時不受訓(xùn)練樣本數(shù)目的影響，而SVM和SR算法均受訓(xùn)練樣本數(shù)目影響，訓(xùn)練樣本數(shù)目越多，算法耗時也同時會增加。

當(dāng)采用不同數(shù)量或比例的訓(xùn)練樣本時，進(jìn)行5次蒙特卡洛模擬試驗，本文算法的分類結(jié)果見表5。文獻(xiàn)[9]采用多核SVM高光譜數(shù)據(jù)進(jìn)行分類，對Indian Pines數(shù)據(jù)的總體分類結(jié)果為90.91%，本文算法的總體分類結(jié)果為93.64%，但本文算法采用了更少數(shù)目的訓(xùn)練樣本。文獻(xiàn)[6]也采用了集成學(xué)習(xí)思想設(shè)計分類器，當(dāng)采用訓(xùn)練樣本占總樣本比例為50%時，對Indian Pines數(shù)據(jù)的總體分類精度達(dá)到了97.76%，本文算法的分類結(jié)果為99.26%，本文算法分類精度高，且無須復(fù)雜的優(yōu)化過程進(jìn)行波段選擇；由于采用對樣本重采樣的方式訓(xùn)練分類器進(jìn)行集成，而Indian Pines每類數(shù)據(jù)較少，故文獻(xiàn)[15]并沒有給出Indian Pines的分類結(jié)果；當(dāng)訓(xùn)練樣本比例為13%時，文獻(xiàn)[15]對Salinas的總體分類精度為97.19%，本文算法采用10%的訓(xùn)練樣本時的總體分類精度為98.59%，優(yōu)于文獻(xiàn)[15]的結(jié)果。

表5 不同訓(xùn)練樣本數(shù)量下本文算法分類結(jié)果

這也說明，基于集成思想設(shè)計分類器時，對高光譜的光譜維采用平均分組和特征抽樣的方式，在一定程度上優(yōu)于基于樣本重采樣的方式，更有利于小樣本情況下的高光譜圖像分類。文獻(xiàn)[12]提出了一種快速輕量級的基于譜信息的稀疏表示分類器，通過結(jié)合空間信息提高了高光譜圖像分類精度。如表6所示，當(dāng)訓(xùn)練樣本比例為10%時，文獻(xiàn)[12]對Indian Pines的總體分類精度為97.51%，本文算法為97.82%；當(dāng)訓(xùn)練樣本比例為5%時，文獻(xiàn)[12]對Pavia University和Salinas的總體分類精度分別為98.59%和98.42%，本文算法分別為97.61%和98.62%。從結(jié)果對比來看，本文算法與文獻(xiàn)[12]算法通過有效地利用空譜信息，均取得了較高的分類精度，且都具有實現(xiàn)簡單、無需復(fù)雜優(yōu)化過程的優(yōu)點。當(dāng)采用稀疏表示進(jìn)行高光譜圖像分類時，通過融合多種互補(bǔ)特征能夠提高分類精度。文獻(xiàn)[26]從高光譜圖像中提取譜特征、形狀和紋理特征，設(shè)計了基于聯(lián)合稀疏表示的高光譜圖像分類算法。當(dāng)訓(xùn)練樣本比例為5%時，文獻(xiàn)[26]對Indian Pines的總體分類精度達(dá)到96.81%，高于本文分類精度(95.11%)。文獻(xiàn)[27]同樣采用多特征融合策略，設(shè)計了一種自適應(yīng)稀疏表示高光譜分類算法。當(dāng)訓(xùn)練樣本比例為10%時，文獻(xiàn)[27]和文獻(xiàn)[10]的總體分類精度分別為97.91%和98.22%，本文算法分類精度為97.82%。本文設(shè)計方法僅采用了空譜特征，由于采用了集成學(xué)習(xí)思想設(shè)計分類器，因此容易擴(kuò)展到多特征情況。

表6 其他算法對Indian Pines的分類結(jié)果

綜合以上分析，本文算法基于集成學(xué)習(xí)設(shè)計分類器，通過對提取的空譜特征進(jìn)行平均分組與特征隨機(jī)抽樣的方式，采用ELM設(shè)計弱分類器。試驗結(jié)果表明，本文算法的分類精度優(yōu)于文獻(xiàn)中部分分類算法的分類精度，但本文算法具有實現(xiàn)簡單、無須復(fù)雜優(yōu)化過程、訓(xùn)練速度快等優(yōu)點，更有利于實際應(yīng)用。

4 結(jié) 論

針對高光譜圖像數(shù)據(jù)波段多、冗余度大等特點，提出了一種基于空譜特征和集成超限學(xué)習(xí)機(jī)的高光譜圖像分類方法。該方法在將ELM算法用于高光譜圖像分類時，有效結(jié)合了目標(biāo)空譜特征、波段分組與隨機(jī)選擇和集成學(xué)習(xí)3種手段，提高了分類模型的泛化能力。試驗結(jié)果表明該方法具有以下優(yōu)點：①結(jié)合空譜特征能夠極大地提高目標(biāo)的識別準(zhǔn)確率；②對原始特征向量進(jìn)行平均分組與隨機(jī)抽樣實現(xiàn)特征降維，與基于優(yōu)化的波段選擇方法相比降低了算法設(shè)計的復(fù)雜度；③超限學(xué)習(xí)機(jī)具有可調(diào)參數(shù)少、計算速度快等優(yōu)點，采用集成學(xué)習(xí)思想提高了分類模型的泛化能力。由于采用的空譜特征使用了固定大小的窗口，沒有針對待分類數(shù)據(jù)集進(jìn)行優(yōu)化，故當(dāng)同一地物在連續(xù)空間范圍樣本較少時，提出的方法分類性能會有所下降。故下一步的研究方向是如何設(shè)計更加有效的空譜特征，并通過融合紋理、形狀等互補(bǔ)特征，進(jìn)一步提高高光譜數(shù)據(jù)分類的性能。