蘇紅軍， 劉浩

(1.河海大學地球科學與工程學院，南京 211100； 2.武漢大學測繪遙感信息工程國家重點實驗室，武漢 430079)

一種利用空間和光譜信息的高光譜遙感多分類器動態(tài)集成算法

蘇紅軍1， 劉浩2

(1.河海大學地球科學與工程學院，南京 211100； 2.武漢大學測繪遙感信息工程國家重點實驗室，武漢 430079)

針對高光譜遙感影像分類面臨的小樣本、分類器不穩(wěn)定等問題，在總結現(xiàn)有多分類器動態(tài)集成算法的基礎上，提出了一種利用空間和光譜信息的多分類器動態(tài)集成算法。首先，采用支持向量機等5個基分類器構建多分類器集合； 其次，計算各個分類器的分類結果，將大多數(shù)分類器分類一致的像元列入樣本數(shù)據(jù)； 最后，根據(jù)待分類像元的鄰域像元的標簽分類情況，動態(tài)地選擇合適的方式進行分類器集成。該算法只在空間鄰域信息滿足一定條件的情況下，才采用空間和光譜信息結合的方法進行處理，即利用空間信息提高算法的靈活性。采用2幅不同傳感器的高光譜遙感影像數(shù)據(jù)對算法進行實驗，并與現(xiàn)有5種多分類器動態(tài)集成算法進行對比分析。結果表明，本文提出的多分類器動態(tài)集成算法可以保持較高的分類精度，并能有效提升高光譜遙感影像分類的穩(wěn)定性，對于推動高光譜遙感精細分類研究具有一定的理論和實用價值。

高光譜遙感； 多分類器動態(tài)集成； 空間和光譜信息； 多分類器系統(tǒng)

0 引言

高光譜遙感分類是當前遙感信息處理領域的熱點問題，分類精度的高低顯著影響到后續(xù)應用的水平。隨著遙感應用對高光譜遙感影像分類精度要求的不斷提升，傳統(tǒng)分類算法已很難滿足要求。多分類器集成已經(jīng)成為模式識別領域的一個前沿方向，以其出色的性能受到越來越多研究者的關注。將多分類器動態(tài)集成方法應用在高光譜遙感影像分類中，將會進一步提升分類結果的可靠性和精度。

通常情況下，進一步提升高光譜遙感影像分類精度的方式有2種： 一種是發(fā)展新的高光譜遙感影像分類算法，如支持向量機(support vector machine，SVM)[1-3]、人工免疫系統(tǒng)、DNA計算[4-5]等； 但由于基分類器自身的局限性，其精度和適用范圍有一定限制[6]； 另一種是對現(xiàn)有的基分類器進行集成，通過對幾個性能較差、結構較為簡單的基分類器集成,可能取得優(yōu)于單個復雜分類器的性能[7]。多分類器集成包括靜態(tài)分類器集成和動態(tài)分類器集成(dynamic classifier selection，DCS)[8]?，F(xiàn)有多分類器集成大部分都是靜態(tài)集成，多分類器集成系統(tǒng)一經(jīng)設定就無法改變和更新，缺陷非常明顯。高光譜遙感數(shù)據(jù)的高維、小樣本等特性又給現(xiàn)有多分類器集成方法和系統(tǒng)帶來了更大的麻煩，特別是在小樣本的情況下，原有的分類器可能無法發(fā)揮其應有的性能。而多分類器動態(tài)集成則根據(jù)分類過程中的訓練性能以及未知模式的相關參數(shù)動態(tài)進行[9-11]，可實現(xiàn)對待分類像元的較好預測。

現(xiàn)有DCS算法主要通過局部精度估算進行多分類器的動態(tài)選擇，包括總體局部精度(overall local accuracy，OLA)估算、局部類別精度(local class accuracy，LCA)估算[12]、利用多分類器行為(multiple classifier behavior，MCB)信息進行局部精度估算[13]和改進的局部精度(modified local accuracy，MLA)估算[14]等方法。此外還有一類基于聚類與選擇(clustering and selection，CS)的DCS算法[15]，然而，現(xiàn)有算法在動態(tài)集成時大多僅利用了光譜信息而忽略了高光譜遙感影像這種高度規(guī)則化數(shù)據(jù)本身所包含的空間信息。雖然DCS-CS算法在集成時也利用了空間信息，但該算法受到聚類方法等因素的制約，集成效果并不理想。

為克服上述問題，本文提出了一種利用空間和光譜信息的多分類器動態(tài)集成算法(dynamic classifier selection with spatial and spectral information，DCS-SSI)，解決了傳統(tǒng)分類器集成方法利用空間信息不足、分類效果不穩(wěn)定的問題； 針對HyMap和AVIRIS 2個不同傳感器的高光譜遙感影像進行實驗，并與DCS-CS算法對比分析。在保持較高分類精度的基礎上，進一步提升高光譜遙感分類的穩(wěn)定性，為后續(xù)遙感應用提供技術支持。

1 DCS算法

1.1 基于局部精度估計的DCS

Woods等[12]1997年提出了基于局部精度估計的DCS算法。該算法通過計算待分類像元局部區(qū)域上各分類器的分類精度，選擇分類精度最高的分類器輸出作為該像元的標簽。算法中的局部區(qū)域指的是待分類像元在訓練樣本中的l鄰域，并提出了2種計算局部精度的方法： OLA和LCA。OLA方法計算訓練樣本中被正確分類樣本的百分比，取精度最高的分類器輸出作為該像元的標簽； LCA方法計算各類別被分類器正確分類的百分比，取百分比最高的類別作為該像元標簽。研究發(fā)現(xiàn)，局部區(qū)域取待分類像元在測試樣本中的l鄰域會獲得更高的分類精度。

1.2 DCS-MLA

Smits[14]在2002年提出了DCS-MLA算法，該算法改進了文獻[12]中局部精度估計方法，其主要思想是： 對每個待分類像元Xij，分別計算所有訓練/測試樣本到該像元的距離，按樣本距離進行升序排列，選擇n個最鄰近像元(本文取n=10)，根據(jù)距離計算每個鄰近像元的權重，并計算各基分類器在n鄰近像元上正確分類的權重和，取權重和最高的分類器輸出作為待分類像元的標簽。

1.3 DCS-CS

Kuncheva[16]于2000年提出了DCS-CS算法[16]。該算法首先對影像進行聚類(利用K-means算法，k取高光譜遙感影像數(shù)據(jù)的地物類別總數(shù))，聚類后各聚類區(qū)域為R1，R2，…，Rk，計算各聚類中心C1，C2，…，Ck，選擇各聚類上分類性能最佳的分類器CR1，CR2，…，CRk； 計算待分類像元到各聚類中心距離，選擇距離最近聚類上的分類器輸出作為該像元標簽。

1.4 DCS-MCB

Giacinto[13]于2001年提出了DCS-MCB算法。該算法首先計算待分類像元到所有訓練/測試樣本的距離，并選擇n個距離最近像元作為該像元鄰近像元； 其次在n鄰近像元中選擇光譜相似度(本文選用歐式距離)大于設定閾值的m個鄰近像元(本文設定閾值為0.85)； 在選定的m個鄰近像元上計算各基分類器的分類正確率； 如果某基分類器的分類正確率顯著優(yōu)于其他分類器，選擇該基分類器輸出作為待分類像元的標簽，否則利用簡單投票法計算待分類像元的標簽。

2 DCS-SSI算法

2.1 基本原理

空間和光譜信息都可以作為待分類像元分類的參考信息。由于僅利用光譜信息進一步提升高光譜遙感影像的分類精度已非常困難，本文在多分類器集成時加入空間信息，提出了一種DCS-SSI算法。

該算法的核心思想是： 在進行待分類像元分類時首先考察該待分類像元的空間信息。當待分類像元的空間信息較少時，加入空間信息會降低結果的可靠性，此時采用DCS-MCB算法直接利用光譜信息進行待分類像元的標簽計算； 當待分類像元的空間信息較為豐富時，采用空間-光譜信息相結合進行待分類像元標簽的計算以提高結果的可靠性。DCS-SSI算法只在一定條件下加入空間信息，其原因在于盡管地物在地表上的分布呈現(xiàn)出一定的空間自相關性，即地物分布在空間上具有連續(xù)性，但這種連續(xù)并不是絕對的。為保證DCS-SSI算法利用空間和光譜信息進行動態(tài)集成的結果具有較高的分類精度，應在空間和光譜信息利用上取得平衡。

2.2 算法步驟

DCS-SSI算法進行待分類像元標簽的計算時，首先對數(shù)據(jù)進行預處理： ①對輸入影像進行聚類(采用K-means算法)，聚類后的各聚類分別為R1，R2，…，Rk； ②對各基分類器意見一致的像元直接賦予分類器輸出結果[12]； ③在結果中添加訓練樣本數(shù)據(jù)。然后進行計算方式判別： 對于每個待分類像元，統(tǒng)計邊長為L的鄰域中(取L=5)已分類點的比例，如果該比例超過設定閾值(本文設定為0.75)，利用空間和光譜信息依據(jù)設定準則進行待分類像元類標簽的計算，否則利用訓練/測試樣本的光譜信息進行待分類像元類標簽的計算。其中，在利用空間和光譜信息進行待分類像元標簽的計算時選用簡單投票法和MLA+LCA 2種方式。DCS-SSI算法流程如圖1所示。

圖1 DCS-SSI算法流程

DCS-SSI偽代碼為：

設定高光譜影像數(shù)據(jù)X及比例閾值Perc_set

If 多分類器系統(tǒng)中分類器意見一致

基分類器輸出Xij標簽；

End

在X中添加訓練樣本數(shù)據(jù)；

While 影像中存在待分類像元Xij

統(tǒng)計待分類像元空間鄰域中已分類樣本的比例Perc；

IfPerc≥Perc_set

基于空間和光譜信息依據(jù)簡單投票法和MLA+LCA準則計算Xij標簽并輸出；

Else

基于光譜信息采用DCS-MCB算法計算Xij標簽并輸出；

End

End

DCS-SSI算法與常規(guī)基于局部精度估計算法的區(qū)別在于： ①需要對高光譜遙感數(shù)據(jù)進行預處理； ②需要根據(jù)待分類像元的空間信息判斷并選擇計算方式，在已分類點比例達到設定閾值的情況下才將空間和光譜信息相結合。

3 實驗與分析

選取HyMap Purdue Campus與AVIRIS Indiana Pine 2幅高光譜遙感影像數(shù)據(jù)，分別對DCS-SSI算法和前述DCS-OLA，DCS-LCA，DCS-MLA，DCS-CS和DCS-MCB等5種DCS算法進行實驗對比分析。其中DCS-SSI算法中利用Matlab平臺提供的SVM(poly)，SVM(gaussian)，SVM(RBF)，KNN，Classify(diagquadratic)等5種基分類器構建了多分類器集合，相關參數(shù)的選取分別根據(jù)格網(wǎng)搜索算法優(yōu)化或?qū)＜医?jīng)驗確定。

3.1 HyMap Purdue Campus高光譜遙感數(shù)據(jù)

該數(shù)據(jù)是1999年9月30日利用HyMap航空高光譜儀采集的普渡大學西拉斐特分校的一幅影像。該數(shù)據(jù)涵蓋了可見光和紅外區(qū)的128個波段，空間分辨率為3.5 m。實驗選擇了除水汽吸收影響之外的126個波段。該數(shù)據(jù)的訓練樣本和測試樣本數(shù)量如表1所示。

表1 HyMap數(shù)據(jù)的樣本數(shù)量

為比較DCS-SSI算法和上述5種現(xiàn)有算法的分類性能，分別用這6種DCS算法對該HyMap數(shù)據(jù)進行對比實驗。5種現(xiàn)有DCS算法分類結果如圖2所示，其分類精度如表2所示。

(a) DCS-OLA (b) DCS-LCA(c) DCS-MLA

圖2-1 HyMap數(shù)據(jù)5種DCS算法分類結果

(d) DCS-CS(e) DCS-MCB

圖2-2 HyMap數(shù)據(jù)5種DCS算法分類結果

表2 HyMap數(shù)據(jù)5種DCS算法分類精度

由表2得知，針對HyMap數(shù)據(jù)，DCS-LCA的分類精度不如DCS-OLA算法，與文獻[12]結果略有出入，可能是由于基分類器選擇和實驗數(shù)據(jù)不同造成的。DCS-MLA算法的分類精度比DCS-OLA和DCS-LCA算法都高，進一步佐證文獻[15]中加入距離權值信息后分類精度更高的結論； DCS-CS算法在5種DCS算法中的分類精度最低，也是唯一和其他4種算法差異較大的一種DCS算法。由于分類精度受聚類算法和各聚類上的基分類器選擇影響較大，雖然該算法也加入了空間信息，但分類精度并未出現(xiàn)顯著提升，說明DCS-CS和基于局部精度估計的DCS算法在分類精度上還有一定差距； DCS-MCB算法的分類精度是5種DCS算法中最高的，該算法在進行多分類器動態(tài)集成時加入了分類器行為信息，每個待分類像元的鄰近像元數(shù)量都是變化的，保證了分類器動態(tài)選擇時待分類像元的鄰近樣本信息更加可靠，且僅當一個基分類器在該待分類像元鄰近區(qū)域上的分類精度顯著優(yōu)于其他基分類器的分類結果時，才選擇該基分類器的輸出結果，否則選擇投票法的輸出作為結果。

DCS-SSI算法分類結果如圖3所示，其分類精度如表3所示。

(a) 簡單投票法 (b) MLA+LCA

圖3 HyMap數(shù)據(jù)DCS-SSI算法分類結果

表3 HyMap數(shù)據(jù)DCS-SSI算法分類精度

DCS-SSI算法在進行空間和光譜信息平衡時選擇了簡單投票法和MLA+LCA 2種方式，由表3得知，基于簡單投票法的DCS-SSI算法在HyMap數(shù)據(jù)上表現(xiàn)出更高的分類精度。因為空間鄰域樣本數(shù)量要比訓練/測試樣本少很多，分類器在小樣本情況下學習不充分造成的分類誤差較大，因而基于MLA+LCA方式的DCS-SSI算法動態(tài)集成的分類精度不及簡單投票法。從實驗結果可以看出，雖然DCS-SSI 算法的分類精度低于DCS-MCB算法，但是高于其他4種DCS算法，整體分類精度較高。比DCS-MCB算法性能偏低的原因可能在于該數(shù)據(jù)中含有大量的混合像元，因此利用空間信息反而會導致算法分類精度降低。

3.2 AVIRIS Indiana Pine高光譜遙感數(shù)據(jù)

該數(shù)據(jù)是1992年6月利用機載可見光/紅外成像光譜儀(AVIRIS)成像獲取的印第安納州西北部的Pines數(shù)據(jù)(145像元×145像元，220個波段)。實驗中去除了信噪比較低的波段，保留了202個波段。該數(shù)據(jù)的樣本數(shù)量共10 366個，如表4所示。分類時采用了5次交叉驗證的方法，最后取5次分類的平均值作為最終結果。

表4 AVIRIS數(shù)據(jù)的樣本數(shù)量

為了對比不同算法的分類性能，對上述5種現(xiàn)有DCS算法進行分析，實驗結果如圖4所示，其分類精度如表5所示。

(a) DCS-OLA(b) DCS-LCA(c) DCS-MLA

(d) DCS-CS (e) DCS-MCB

圖4 AVIRIS數(shù)據(jù)5種DCS算法分類結果

表5 AVIRIS數(shù)據(jù)5種DCS算法分類精度

由表5得知，針對AVIRIS數(shù)據(jù)，DCS-LCA算法的分類精度和DCS-OLA算法差距較大，這仍與文獻[12]結果不同，可能的原因為AVIRIS數(shù)據(jù)具有16類，在訓練樣本總數(shù)一定的情況下地物類別越多，每個類別的平均樣本數(shù)量越少，小樣本學習會對局部分類精度的計算結果產(chǎn)生較大影響。DCS-MLA算法的分類精度與DCS-OLA和DCS-LCA算法相比有顯著提升，是5種DCS算法中分類精度最高的，進一步佐證了文獻[15]的結論。DCS-CS算法的分類精度并未出現(xiàn)顯著提升，說明基于DCS-CS算法和基于局部精度估計的DCS算法在分類精度上還有一定的差距。DCS-MCB算法在多分類器動態(tài)集成時加入了分類器行為信息，但該算法并未取得理想的優(yōu)異表現(xiàn)，可能的原因為AVIRIS數(shù)據(jù)類別數(shù)量較多，小樣本學習時導致了算法分類精度的降低。

DCS-SSI算法分類結果如圖5所示，其分類精度如表6所示。

(a) 簡單投票法(b) MLA+LCA

圖5 AVIRIS數(shù)據(jù)DCS-SSI算法分類結果

表6 AVIRIS數(shù)據(jù)DCS-SSI算法分類精度

DCS-SSI算法在進行空間和光譜信息平衡時同樣選擇了簡單投票法和MLA+LCA 2種方式。由表6得知，基于簡單投票法的DCS-SSI算法在AVIRIS數(shù)據(jù)上表現(xiàn)出更高的分類精度。因為空間鄰域樣本數(shù)量和訓練樣本及測試樣本相比要少很多，分類器在小樣本情況下學習不充分造成分類誤差較大，因而基于MLA+LCA方式的分類精度不及簡單投票法。從3.1和3.2節(jié)實驗結果可以看出，針對不同的高光譜遙感影像，傳統(tǒng)DCS算法的分類精度波動和差異較大，而本文提出的DCS-SSI算法具有較好的穩(wěn)定性和適用性。

4 結論

本文提出了一種顧及空間和光譜信息的多分類器動態(tài)集成的DCS-SSI算法。為了權衡空間和光譜信息，利用了簡單投票法和MLA+LCA 2種方式進行高光譜遙感影像分類，并與5種現(xiàn)有DCS算法進行對比分析。研究結論如下：

1)由于采用了空間信息，DCS-SSI算法集成結果的分類精度優(yōu)于大部分類似算法，且簡單投票法的分類效果更好。

2)雖然在2種數(shù)據(jù)源中，DCS-SSI算法分別與DCS-MCB和DCS-MLA算法的性能相當，但因為有空間信息的支撐，2幅影像的DCS-SSI算法結果均具有較高分類精度，且相對穩(wěn)定，受實驗數(shù)據(jù)、類別及樣本數(shù)量的影響較小。

本文提出的DCS-SSI算法可為高光譜遙感影像的分類提供新的選擇，有效提高不同傳感器高光譜遙感影像分類的穩(wěn)定性。但是本文算法也存在一些不足之處，由于利用鄰近像元的空間信息，導致迭代過程較慢，從而導致算法的運行時間比較長。下一步將采用并行計算等技術對該算法進行改進。

[1] Hsu C W,Chang C C,Lin C J.A Practical Guide to Support Vector Classification[R].Technical Report.Taipei：Department of Computer Science and Information Engineering,National Taiwan University,2003.

[2] Mercier G,Lennon M.Support vector machines for hyperspectral image classification with spectral-based kernels[C]//Proceedings of 2013 IEEE International Geoscience and Remote Sensing Symposium.Toulouse,France：IEEE,2003,1：288-290.

[3] Melgani F,Bruzzone L.Classification of hyperspectral remote sensing images with support vector machines[J].IEEE Transactions on Geoscience and Remote Sensing,2004,42(8)：1778-1790.

[4] Adleman L M.Molecular computation of solutions to combinatorial problems[J].Science,1994,266(5187)：1021-1024.

[5] 焦洪贊,鐘燕飛,張良培,等.高光譜遙感數(shù)據(jù)的DNA計算分類[J].遙感學報,2010,14(5)：865-878. Jiao H Z,Zhong Y F,Zhang L P,et al.Classification of hyperspectral remote sensing data based on DNA computing[J].Journal of Remote Sensing,2010,14(5)：865-878.

[6] 蘇紅軍.高光譜影像光譜-紋理特征提取與多分類器集成技術研究[D].南京：南京師范大學,2011. Su H J.Spectral-texture Feature Extraction and Multi-classifier Ensemble for Hyperspectral Imagery[D].Nanjing：Nanjing Normal University,2011.

[7] Du P J,Xia J S,Zhang W,et al.Multiple classifier system for remote sensing image classification：A review[J].Sensors,2012,12(12)：4764-4792.

[8] 張春霞,張講社.選擇性集成學習算法綜述[J].計算機學報,2011,34(8)：1399-1410. Zhang C X,Zhang J S.A survey of selective ensemble learning algorithms[J].Chinese Journal of Computers,2011,34(8)：1399-1410.

[9] Didaci L,Giacinto G,Roli F,et al.A study on the performances of dynamic classifier selection based on local accuracy estimation[J].Pattern Recognition,2005,38(11)：2188-2191.

[10]Canuto A M P,Abreu M C C,de Melo Oliveira L,et al.Investigating the influence of the choice of the ensemble members in accuracy and diversity of selection-based and fusion-based methods for ensembles[J].Pattern Recognition Letters,2007,28(4)：472-486.

[11]Ko A H R,Sabourin R,Britto JR A S.From dynamic classifier selection to dynamic ensemble selection[J].Pattern Recognition,2008,41(5)：1718-1731.

[12]Woods K,Kegelmeyer W P Jr,Bowyer K.Combination of multiple classifiers using local accuracy estimates[J].IEEE Transactions on Pattern Analysis and Machine Intelligence,1997,19(4)：405-410.

[13]Giacinto G,Roli F.Dynamic classifier selection based on multiple classifier behaviour[J].Pattern Recognition,2001,34(9)：1879-1881.

[14]Smits P C.Multiple classifier systems for supervised remote sensing image classification based on dynamic classifier selection[J].IEEE Transactions on Geoscience and Remote Sensing,2002,40(4)：801-813.

[15]Kuncheva L I.Switching between selection and fusion in combining classifiers：An experiment[J].IEEE Transactions on Systems,Man,and Cybernetics,Part B：Cybernetics,2002,32(2)：146-156.

[16]Kuncheva L I.Clustering-and-selection model for classifier combination[C]//Proceedings of the Fourth International Conference on the Knowledge-Based Intelligent Engineering Systems and Allied Technologies.Brighton：IEEE,2000,1：185-188.

(責任編輯： 陳理)

A novel dynamic classifier selection algorithm using spatial-spectral information for hyperspectral classification

SU Hongjun1, LIU Hao2

(1.SchoolofEarthSciencesandEngineering,HohaiUniversity,Nanjing211100,China; 2.StateKeyLaboratoryofInformationEngineeringinSurveying,MappingandRemoteSensing,WuhanUniversity,Wuhan430079,China)

To further improve the classification accuracy of hyperspectral remotely sensed imagery, this paper proposes a novel dynamic classifier selection algorithm, in which spatial and spectral information is used. The class labels of unlabeled pixels are predicted based on the percentage of their classified neighbors. The experiment is conducted between the proposed DCS-SSI algorithm and five dynamic classifier selection algorithms, and the results show that the proposed DCS-SSI algorithm can improve the robustness of classification performance for hyperspectral image analysis, which would be useful for high level classification of hyperspectral remote sensing images.

hyperspectral remote sensing; dynamic classifier selection; spatial and spectral information; multiple classifier system

10.6046/gtzyyg.2017.02.03

蘇紅軍,劉浩.一種利用空間和光譜信息的高光譜遙感多分類器動態(tài)集成算法[J].國土資源遙感,2017,29(2)：15-21.(Su H J,Liu H.A novel dynamic classifier selection algorithm using spatial-spectral information for hyperspectral classification[J].Remote Sensing for Land and Resources,2017,29(2)： 15-21.)

2015-12-01；

2016-05-08

國家自然科學基金項目“高光譜遙感影像多特征優(yōu)化模型與協(xié)同表示分類”(編號： 41571325)和“基于共形幾何代數(shù)的高光譜遙感影像降維與分類”(編號： 41201341)共同資助。

蘇紅軍(1985-),男,博士,副教授,主要從事高光譜遙感、資源環(huán)境遙感方面的研究。Email： hjsu@hhu.edu.cn。

P 237.4

A

1001-070X(2017)02-0015-07