邵遠杰,吳國平,馬 麗

中國地質大學機械與電子信息學院,湖北 武漢 430074

屬類概率距離構圖的半監(jiān)督高光譜圖像分類

邵遠杰,吳國平,馬 麗

中國地質大學機械與電子信息學院,湖北 武漢 430074

提出一種利用屬類概率距離構圖的半監(jiān)督學習算法,并利用高光譜圖像數(shù)據(jù)集進行了性能測試。首先,該算法利用基于分類的稀疏表達方法來預估未標記樣本的屬類概率向量;然后,利用這個概率向量對描述數(shù)據(jù)相似性的距離函數(shù)進行改造,改造后的距離函數(shù)能有效擴大異類樣本點之間的距離,在新的距離函數(shù)的度量下,每個樣本點的鄰域中可包含更多同類的樣本點;最后,將該距離函數(shù)應用于半監(jiān)督學習線性鄰域傳播算法標簽傳播算法中。在Hyperion和AVIRIS高光譜遙感圖像上進行試驗,結果表明,相比于傳統(tǒng)的基于圖的半監(jiān)督學習算法,該算法能有效提高高光譜遙感圖像分類精度。

高光譜圖像分類;半監(jiān)督學習;稀疏表達;屬類概率距離

1 引 言

高光譜遙感是具有較高光譜分辨率的遙感科學和技術,它具有圖譜合一特性,將代表地物性質的光譜和確定地物空間的圖像結合在一起,能夠獲取地球表面豐富的光譜和空間信息,使得在傳統(tǒng)多光譜遙感中不可識別的地物在高光譜中能夠被識別。因此,高光譜遙感可以獲取地物豐富的細節(jié)信息,鑒別地物間微小的差別,憑借其對地物屬性的準確描述成功應用于地物的精細分類[1]。常用的高光譜分類算法有最大似然分類、神經(jīng)網(wǎng)絡分類、支持向量機等[2-6]。這些算法都屬于有監(jiān)督分類方法,需要足夠數(shù)量的標記樣本,但是針對高光譜圖像獲取類別標記數(shù)據(jù),是一項耗時耗力、成本高昂的工作[7]。

針對上述問題,許多僅利用少量標記樣本的半監(jiān)督學習方法被提出,主要有Generative Model[8-11]、Self-training[12-14]、Co-training[15]、Low Density Separation[16-17]和基于圖的半監(jiān)督學習方法[18-23]。在這些方法中,基于圖的半監(jiān)督學習方法與其他方法相比,更加直觀、具有良好的分類性能,因此學術界進行了廣泛的研究?；趫D的半監(jiān)督方法,首先構造一個圖G＝〈V,E〉,其中頂點集V由標記樣本和未標記樣本組成,邊E表示樣本間的相似性,然后在圖中通過成對樣本間的相似性,將標記從有標記樣本傳播到未標記樣本。

盡管圖的構造是基于圖的半監(jiān)督學習的核心,然而對它的研究并不是很深入[24]。目前傳統(tǒng)的數(shù)據(jù)圖構造方法通常包括兩個步驟:確定圖的鄰接結構和計算圖上邊的權重。大多數(shù)基于圖的半監(jiān)督算法都使用k近鄰圖來確定圖的鄰接結構,如LP算法[18]、Gaussian Fields and Harmonic Functions[19]和LNP算法[20]。這類方法的不足之處在于,在確定圖的鄰接結構時,往往根據(jù)樣本點間的歐氏距離來尋找k近鄰點,如果原始歐氏距離相近的兩個樣本點屬于不同的類別,那么很可能有樣本點的鄰域中包含了來自其他類的鄰居點,在這種情況下,很容易造成標簽的錯誤傳遞。

為了解決上述問題,本文提出一種新的基于屬類概率的距離函數(shù),它能夠融入樣本點的分類信息,相較于歐氏距離,能夠有效提高異類樣本間的可分性。該距離函數(shù)的關鍵是預測未標記樣本的屬類概率,筆者采用基于分類的稀疏表達(sparse representation based classification,SRC)[25]方法來預測未標記樣本的屬類概率,試驗表明,利用SRC算法預估的屬類概率向量對原距離函數(shù)進行改造后,能有效地擴大異類樣本點之間的距離。

本文將基于屬類概率的距離函數(shù)用于半監(jiān)督學習線性領域傳播算法(linear neighborhood propagation,LNP)和標簽傳播(label propagation,LP)中,提出基于屬類概率的線性鄰域傳播(classprobability based LNP,PLNP)算法和基于屬類概率的標簽傳播(class-probability based LP,PLP)算法,并將提出的算法應用于高光譜遙感圖像分類中。試驗結果表明,與LNP算法和LP算法相比, PLNP算法和PLP算法能有效提高高光譜遙感圖像的分類精度。

2 類概率距離

2.1 類概率距離的定義

有監(jiān)督局部線性嵌入(supervised LLE, SLLE)[26]中定義了一種新的距離函數(shù),它融入了類別信息,使得屬于不同類別的兩個樣本間的距離相對大于它們原有的歐氏距離,其具體定義如下

由此,在新的距離函數(shù)下求得的每個訓練樣本點的鄰域中,可包含更多的同類點。然而,它必須以知道樣本點的類別信息為前提。事實上,類別信息往往不是全部已知的。同時,很多情況下屬類信息是用可能性來表述的。假設數(shù)據(jù)集初始給定有C類,用pc,i表示xi屬于類別c的可能性,構造一個C維的概率(可能性)向量來表示xi的屬類情況

通過全概率公式計算兩樣本點xi和xj屬于同類的概率p(xi,xj)

定義距離函數(shù)

稱式(6)中定義的距離為類概率距離,其中, SAM表示光譜角映射(spectral angle mapper, SAM),用來替代式(1)中的歐氏距離,這是由于光譜角度量即角度相似系數(shù),比歐氏距離能更好地衡量高光譜圖像的光譜特征相似性,SAM定義如下

與SLLE類似,D＝maxijSAM(xi,xj),為所有數(shù)據(jù)光譜角度量的最大值;β∈[0,1]是一個可調參數(shù)。

2.2 屬類概率向量的確定

在確定樣本點的類概率距離時,需要知道每個樣本點的屬類概率向量,對于訓練樣本點,可以輕易地確定它的屬類概率向量,但是對于測試樣本點,如何給出較為可靠的屬類概率向量,是一個非常重要的問題。比較準確的概率向量可以推斷出測試點在新的概率空間中的準確位置,從而可以得到準確的分類。筆者采用SRC方法來確定測試樣本點的屬類概率向量。

假設待分類的對象有c類,并且令A＝{A1, A2,…,Ac}代表原始的訓練樣本集,其中Aj表示訓練樣本集中屬于第j類的子樣本集。令xi表示測試樣本,SRC的流程如下:

(1)通過求解L 1－正則化最小平方問題,對xi在原始訓練樣本集A上進行稀疏編碼

式中,λ為尺度參數(shù);α為測試樣本在訓練集A上的投射系數(shù)向量;得到的解是一個稀疏向量,即只有少數(shù)元素不為零。

(2)通過式(9)對xi分類

從SRC方法可以得出,測試樣本點可完全或近似地由非常少的一組樣本的線性組合表示,當有訓練樣本點所對應的分解系數(shù)為非零時,這個訓練樣本點很可能與待測試樣本點屬于同一類。針對SRC能從信號的稀疏性角度獲得更有價值的信息,并能在高維空間對信號的類別具有很好的判斷的特點,本文提出利用SRC方法來確定測試樣本的屬類概率向量,其算法步驟如下:

(1)確定訓練樣本的初始標記矩陣YL∈l×c,如果樣本xi的標記為yi＝j,則yij＝1,否則yij＝0。

(3)根據(jù)式(10)求出每個樣本點的屬類概率向量

3 基于概率距離構圖的半監(jiān)督學習

第2節(jié)提出的基于屬類概率的距離函數(shù),由于其融入了樣本點的分類信息,相較于歐氏距離,能夠有效地提高樣本間的可分性。為此,將該距離函數(shù)用于半監(jiān)督學習LNP和LP算法中,提出PLNP和PLP算法。PLNP算法和PLP算法都是采用類概率距離確定圖的鄰接結構,它們只是在權值計算方式上有所不同,PLNP采用的權值計算方式是基于局部線性嵌入LLE的非負權重,而PLP采用高斯函數(shù)計算權值。

3.1 PLNP算法

給定數(shù)據(jù)集X＝{x1,x2,…,xn}和相應的標記集為C＝{1,2,…,c},其中,xi∈Rd,前l(fā)個樣本點xi∈X(i≤l)為有標記樣本,其標記為{y1, y2,…,yl}∈C,其余的樣本點xu∈X(l＋1≤u≤n)為未標記樣本。PLNP算法的目的就是預測未標記樣本xu的標記。

令P表示n×c非負矩陣,F＝[F1F2…Fn]T∈P代表一種對數(shù)據(jù)集X的分類結果,每個樣本點xi的標記為定義Y∈P為初始標記矩陣,如果xi的標記為yi＝j,則yij＝1,否則yij＝0;對于無標記樣本,其對應的yij全為0。將F和Y化為分塊矩陣,其中,FL和YL為與標記樣本點相關的矩陣;FU和YU是與未標記樣本點相關的矩陣。在此,限制FL＝YL。

PLNP算法步驟如下:

(1)對每個樣本點xi,根據(jù)式(6)定義的類概率距離尋找它的k個最近鄰點集{xi1,xi2,…, xik}。

(2)通過求解下述優(yōu)化問題,計算局部線性組合權值Wij

(4)通過文獻[12]的標簽傳遞公式,求未標記樣本的預測結果

(5)根據(jù)步驟(4)求得的FU,給出每個樣本點xi的類別標簽

3.2 PLP算法

在3.1小節(jié)中給出了將概率向量融入距離關系來確定圖的鄰接結構的PLNP算法,該算法在計算權重這一環(huán)節(jié)利用了基于LLE的權重計算方式,如果換作半監(jiān)督學習中其他的權重計算方式依然是可行的。

LP算法是一種利用高斯核函數(shù)來計算樣本間相似性關系的半監(jiān)督學習算法,本文將類概率距離用于LP算法中,提出PLP算法,其算法步驟如下:

(1)對每個樣本點xi,根據(jù)式(6)定義的類概率距離尋找它的k個最近鄰點集{xi1,xi2,…, xik}。

(2)求高斯核權值Wij

(3)接下來的步驟與PLNP算法的(3)、(4)、(5)步相同。

4 試驗結果與分析

為了對本文算法的分類效果進行評估,在6組高光譜遙感圖像數(shù)據(jù)集上進行了試驗驗證。首先對本文提出的PLNP算法、PLP算法與LP、LNP算法進行了試驗比較,然后對類概率距離的有效性及復雜度進行了分析。

4.1 數(shù)據(jù)描述

本試驗采用兩個不同高光譜傳感器所獲取的高光譜圖像。一個是由美國國家航空航天局(NASA)的EO-1衛(wèi)星上的Hyperion設備獲取,另兩個是由可見光紅外成像光譜儀(AVIRIS)獲取。Hyperion獲取的242波段數(shù)據(jù)具有10 nm的光譜分辨率和30 m×30 m的空間分辨率,其光譜范圍是357～2576 nm,去除未校準波段、噪聲波段以及光譜重疊波段,剩余145個波段。本試驗采用的Hyperion數(shù)據(jù)采集于Okavango Delta、Botswana(BOT)地區(qū)。在美國肯尼迪航天中心由AVIRIS拍攝224波段的高光譜圖像(KSC),其光譜范圍是400～2500 nm,光譜分辨率為10 nm,空間分辨率為18 m×18 m。去除噪聲和水汽吸收波段,剩余176波段進行分類試驗。另外一個AVIRIS數(shù)據(jù)(Indian Pine)是1992年于美國印地安那州的一個農場拍攝的,其空間分辨率是20 m×20 m。去除水汽吸收波段,剩余200波段。這3種圖像所包含的標記類別名稱以及數(shù)目如表1所示,其中BOT數(shù)據(jù)包括9個地物類別;KSC數(shù)據(jù)包括13個地物類別;Indian Pine數(shù)據(jù)包括16個地物類別,英文為各類別名稱,括號內的數(shù)字為對應類別的樣本數(shù)目。

表1 數(shù)據(jù)類別名稱以及數(shù)量Tab.1 The name and quantity of samples

本試驗采用這3個高光譜圖像的6個數(shù)據(jù)集進行分類試驗。BOT地區(qū)包括濕地和高地兩個生態(tài)系統(tǒng),其標記數(shù)據(jù)包括9個類別,其中類別3(riparian)和類別6(woodlands)的光譜非常相似,是最難進行區(qū)分的兩個類別。試驗中,筆者采用這兩個類別(C 3,C 6)和全部9個類別(C 1—C 9)數(shù)據(jù)進行分類試驗。KSC數(shù)據(jù)中,試驗采用類別(C 3,C6)和全部13個類別(C 1—C13)數(shù)據(jù)進行分類試驗。Indian Pine數(shù)據(jù)中,選擇最難區(qū)分的兩類(類別3:Corn-min tillage,C 3類別12:Soybeanshigh tillage,C12)和所有的16個類別(C1—C16)進行試驗。

4.2 PLP、PLNP與LP、LNP算法的比較

筆者將提出的PLNP算法和LNP算法與LNP算法和LP算法在上述6組高光譜圖像數(shù)據(jù)集上進行試驗比較。試驗采用總分類精度(overall accuracy,OA)作為評價標準[27]。對6組試驗數(shù)據(jù)集,筆者從每類樣本中分別選取3、5、10、15、20的樣本點作為訓練樣本點,其余的作為測試樣本集,對試驗的數(shù)據(jù)集進行了歸一化處理。同時,為了比較的公正性,對每個數(shù)據(jù)集在給定的不同的標記樣本下,隨機產(chǎn)生10次有標記數(shù)據(jù)和未標記數(shù)據(jù)的劃分,并取這10次劃分上的平均分類率作為最終的結果。

對于半監(jiān)督算法,由于標記數(shù)據(jù)較少,參數(shù)的選擇是根據(jù)LOO(leave-one-out)[28]的方法來實現(xiàn),它的基本思想是:假設有L個標記數(shù)據(jù),每1次將1個標記數(shù)據(jù)xi拿到未標記數(shù)據(jù)中,用剩下的L－1個標記數(shù)據(jù)對xi分類(利用LP和LNP算法),則L個標記數(shù)據(jù)就有L個分類結果,可以計算分類算法在L個數(shù)據(jù)上的OA。在不同參數(shù)下進行該試驗,最大OA就對應最優(yōu)參數(shù)。

圖1—圖6分別列出上述4個算法在6個數(shù)據(jù)集上的分類結果,橫坐標表示每類樣本的標記個數(shù),縱坐標表示10次的平均分類正確率。

(1)圖1表示4種算法在BOT數(shù)據(jù)(C 3, C 6)兩類的分類結果。從中可以看出,PLNP算法只有在每類樣本的標記個數(shù)為5個時的分類率略低于LNP算法,其他情況下都較LNP算法有1%～3%的提高。PLP算法在所有標記率下都高于LP算法。

(2)圖2表示4種算法在BOT數(shù)據(jù)(C 1—C 9)全類的分類結果。從中可以看出,PLNP和PLP算法在所有標記率下的分類率都高于LNP和LP算法。

(3)圖3表示4種算法在Indian Pine數(shù)據(jù)(C3,C12)兩類的分類結果。從中可以看出,PLNP算法的分類率較LNP算法有1%～2%的提高,而PLP算法只有在標記個數(shù)為3時的分類率低于LP算法,在其他標記率下都高于LP算法。

(4)圖4表示4種算法在Indian Pine數(shù)據(jù)C 1—C 16全類的分類結果。從中可以看出,PLNP算法的分類率較LNP算法有5%～12%的提高,而PLP算法的分類率較LP算法有7%～13%的提高。

(5)圖5表示4種算法在KSC數(shù)據(jù)(C 3,C 6)兩類的分類結果。從中可以看出,PLNP算法的分類率較LNP算法有2%左右的提高,而PLP算法的分類率較LP算法有3%～4%的提高。

(6)圖6表示4種算法在KSC數(shù)據(jù)(C 1—C13)全類的分類結果,從中可以看出,PLNP算法的分類率較LNP算法有1%～3%的提高,而PLP算法的分類率較LP算法有1%～2%的提高。

(7)從圖1—圖6中可以看出,由于PLNP的權值計算方式要優(yōu)于PLP的,在大多數(shù)情況下, PLNP比PLP取得了更好的分類效果。

分析這4個數(shù)據(jù)集的結果,可以得到:①在大多數(shù)情況下,PLNP和PLP可以比LNP和LP取得更好的分類效果,在樣本點數(shù)很少的情況下可能存在例外,這是由于SRC是一種有監(jiān)督分類算法,會受到樣本點數(shù)量的影響,所以在標記樣本個數(shù)非常少的情況下,某些未標記數(shù)據(jù)的屬類概率可能存在誤差,使得全部數(shù)據(jù)中的近鄰選擇效果受到影響。②在Indian Pine數(shù)據(jù)(C 1—C 16)全類數(shù)據(jù)的分類試驗中,PLNP和PLP算法對比原來傳統(tǒng)的半監(jiān)督算法在分類率上有較大的提高。

上述試驗結果表明,相比于傳統(tǒng)的光譜角度量,本文提出的基于概率的距離函數(shù)是一個更好的度量函數(shù),根據(jù)此距離函數(shù)構圖的半監(jiān)督學習能有效地提高高光譜圖像分類的效果。

圖1 4種算法在BOT(C 3,C 6)的分類結果Fig.1 Results of four algorithms on classes 3 and classes 6 in BOT data

圖3 4種算法在Indian(C 3,C 12)的分類結果Fig.3 Results of four algorithms on classes 3 and classes 12 in Indian data

圖5 4種算法在KSC(C 3,C 12)的分類結果Fig.5 Results of four algorithms on classes 3 and classes 12 in KSC data

圖6 4種算法在KSC(C 1—C 13)的分類結果Fig.6 Results of four algorithms on all classes in KSC data

4.3 類概率距離的有效性及復雜度分析

首先,筆者利用K近鄰(K nearest neighborhood,KNN)算法來驗證改造后的類概率距離是否能有效地擴大異類樣本點間距離。KNN算法的思路是,根據(jù)某一距離度量函數(shù)求待測樣本的K個近鄰,然后通過表決的方式,即依據(jù)這K個近鄰中屬于某一類的樣本數(shù)最多來對待測樣本進行判決。在K值確定的情況下,KNN算法完全取決于距離度量方式,因此,分別用光譜角距離和類概率距離求近鄰,并選用BOT和Indian Pine高光譜數(shù)據(jù)進行分類試驗。在此,令K＝5,試驗結果如表2、表3所示(在K等于其他值時也得出了同樣的結果,這里只列出了K＝5的分類結果)。

表2 BOT數(shù)據(jù)的分類結果Tab.2 Results of two KNN algorithms on BOT data

表3 Indian數(shù)據(jù)的試驗分類結果Tab.3 Classification results of two KNN algorithms on Indian data

如表2、表3所示,對于BOT和Indian Pine這兩個高光譜數(shù)據(jù)集,基于本文提出的類概率距離的KNN算法的分類正確率都要優(yōu)于基于光譜角距離的KNN算法,表明在類概率距離函數(shù)的度量下,每個樣本點的鄰域中可包含更多同類的樣本點。

然后,為直觀比較兩種距離計算方式花費的代價,使用運算時間作為計算復雜度的度量。試驗軟件環(huán)境:Matlab 2011b、Windows XP。硬件環(huán)境: CPU AMD Athlon(tm)X2 Dual 2.00 GHz/1 GB RAM。表4為在選取的4個數(shù)據(jù)集上兩種距離計算方式的運行時間。從表中可以看出,類概率距離的計算時間多于光譜角距離,但仍是可以接受的。并且由于根據(jù)類概率距離構圖的半監(jiān)督學習的分類效果要明顯優(yōu)于基于光譜角距離構圖的半監(jiān)督學習,所以本文算法具有較好的實用性。

表4 兩不同的距離函數(shù)的計算時間比較Tab.4 The calculation time of two distance functions on four datasets s

5 結 論

傳統(tǒng)的基于圖的半監(jiān)督高光譜圖像分類在確定圖的鄰接結構時,光譜角距離往往不能很好地挖掘樣本點間的相似性關系。針對此類問題,本文提出用基于分類的稀疏表達來預估未標記樣本的屬類概率向量,然后利用這個概率向量對原來的距離函數(shù)進行改進,在新的距離函數(shù)的度量下,每個樣本點的鄰域中,可包含更多的同類樣本點,根據(jù)這個新的距離函數(shù),筆者提出基于屬類概率距離構圖的半監(jiān)督學習方法。在高光譜圖像數(shù)據(jù)集上的分類試驗結果表明,本文提出的算法在性能上總體優(yōu)于傳統(tǒng)的基于圖的半監(jiān)督學習算法,總分類精度上有了明顯的提高。本文的研究工作還存在有待改進的地方,例如,如何采用更有效的權值計算方式來獲得更好的分類效果,進一步研究快速算法從而降低運行時間等問題。

[1] MA Li.Manifold Learning Methods for Hyperspectral Image Classification and Anomaly Detection[D].Wuhan: Huazhong University of Science&Technology,2010.(馬麗.基于流形學習算法的高光譜圖像分類和異常檢測[D].武漢:華中科技大學,2010.)

[2] RICH ARDS J A,JIA X.Using Suitable Neighbors to Augment the Training Set in Hyperspectral Maximum Likelihood Classification[J].IEEE Geoscience and Remote Sensing Letters,2008,5(4):774-777.

[3] PLAZA J,PLAZA A,PEREZ R,et al.Paralled Classification of Hyperspectral Images Using Neural Networks[J].Computational Intelligence for Remote Sensing,2008,133:193-216.

[4] MOUNTRAKIS G,IM J,OGOLE C.Support Vector Machines in Remote Sensing:A Review[J].ISPRS Journal of Photogrammetry and Remote Sensing,2011,66(3): 247-259.

[5] YANG Guopeng,YU Xuchu,ZHOU Xin,et al.Research on Relevance Vector Machine for Hyperspectral Imagery Classification[J].Acta Geodaetica et Cartographica Sinica, 2010,39(6):572-578.(楊國鵬,余旭初,周欣,等.基于相關向量機的高光譜影像分類研究[J].測繪學報,2010, 39(6):572-578.)

[6] TAN Kun,DU Peijun.Wavelet Support Vector Machines Based on Reproducing Kernel Hilbert Space for Hyperspectral Remote Sensing Image Classification[J].ActaGeodaetica et Cartographica Sinica,2011,40(2):142-147.(譚琨,杜培軍.基于再生核Hilbert空間小波核函數(shù)支持向量機的高光譜遙感影像分類[J].測繪學報,2011,40(2): 142-147.)

[7] KIM W,CRAWFORD M M.Adaptive Classification for Hyperspectral Image Data Using Manifold Regularization Kernel Machines[J].IEEE Transactions on Geoscience and Remote Sensing,2010,48(11):4110-4121.

[8] MILLER D J,UYAR H S.A Mixture of Experts Classifier with Learning Based on Both Labeled and Unlabelled Data [C]∥Advances in Neural Information Processing Systems 9.Cambridge:MIT Press.1997:571-577.

[9] NIGAM K,MCCALLUM A K,THRUM S,et al.Text Classification from Labeled and Unlabeled Documents Using EM[J].Machine Learning,2000,39(2-3):103-134.

[10] RATSABY J,VENKATESH S.Learning from a Mixture of Labeled and Unlabeled Examples with Parametric Side Information[C]∥Proceedings of the Eighth Annual Conference on Computational Learning Theory.New York:[s.n.], 1995:412-417.

[11] CASTELLI V,COVER T.The Exponential Value of Labeled Samples[J].Pattern Recognition Letters,1995,16(1): 105-111.

[12] YAROWSKY D.Unsupervised Word Sense Disambiguation Rivaling Supervised Methods[C]∥Proceedings of the 33rd annual meeting of the Association of Computational Linguistics.Cambridge:[s.n.],1995:189-196.

[13] RILOFF E,WIEBE J,WILSON T.Learning Subjective Nouns Using Extraction Pattern Bootstrapping[C]∥Proceedings of the 7th Conference on Natural Language Learning.Reykjavik:[s.n.],2003.

[14] ROSENBERG C,HEBERT M,SCHNEIDERMAN H.Semisupervised Self-training of Object Detection Models[C]∥Proceedings of the 7th IEEE Workshop on Applications of Computer Vision.Washington DC:[s.n.],2005.

[15] BLUM A,MITCHELL T.Combining Labeled and Unlabeled Data with Co-training[C]∥Proceedings of the 11th Annual Conference on Learning Theory.Madison:[s.n.].1998:92-100.

[16] CHAPELLE O,ZIEN A.Semi-supervised Classification by Low Density Separation[C]∥Proceedings of the 10th International Workshop on Artificial Intelligence and Statistics.Illinois:[s.n.],2005:57-64.

[17] JOACHIMS T.Transductive Inference for Text Classification Using Support Vector Machines[C]∥Proceedings of the 16th International Conference on Machine Learning.Bled: [s.n.],1999:200-209.

[18] ZH U X J,LAFFERTY J,GH AHRAM ANI Z.Semisupervised Learning Using Gaussian Fields and Harmonic Functions[C]∥Proceedings of the 20th International Conference on Machine Learning.Menlo Park:[s.n.], 2003:912-919.

[19] ZHOU D Y,BOUSQUET O,LAL T,et al.Learning with Local and Global Consistency[C]∥Advances in Neural Information Processing Systems 16.Massachusetts:[s.n.],2004,16:321-328.

[20] WANG F,ZHANG C S.Label Propagation through Linear Neighborhoods[J].IEEE Transactions on Knowledge and Data Engineering,2008,20(1):55-67.

[21] ZHAO Yinghai,CAI Junjie,WU Xiuqing,et al.Sparse Graph Based Transductive Multi-label Learning for Video Concept Detection[J].Jounal of Pattern Recognition& Artificial Intelligence,2011,24(6):825-831.(趙英海,蔡俊杰,吳秀清,等.基于稀疏化圖結構的轉導多標注視頻概念檢測算法[J].模式識別與人工智能,2011,24(6): 825-831.)

[22] ROHBAN M H,RABIEE H R.Supervised Neighborhood Graph Construction for Semi-supervised Classification[J].Pattern Recognition Letters,2012,45(4):1363-1372.

[23] KOBAYASHI T,WATANABE K,OTSU N.Logistic Label Propagation[J].Pattern Recognition Letters,2012, 33(5):580-588.

[24] ZHU X J,GOLDBERG A B.Introduction to Semi-supervised Learning[M].USA:Morgan&Claypool,2009.

[25] WRIGHT J,YANG A Y,GANESH A,et al.Robust Face Recognition via Sparse Representation[J].IEEE Transaction on Pattern Analysis and Machine Intelligence,2009, 312(2):210-227.

[26] RIDDER D D,KOUROPTEVA O,OKUN O,et al.Supervised Locally Linear Embedding[J].Lecture Notes in Computer Science,2003:333-341.

[27] GAO Hengzhen.Research on Classification Technique for Hyperspectral Remote Sensing Imagery[D].Changsha: National University of Defense Technology,2011.(高恒振.高光譜遙感圖像分類技術研究[D].長沙:國防科學技術大學,2011.)

[28] WU M,SCHOLKOPF B.Transductive Classification via Local Learning Regularization[C]∥Proceedings of the 11th International Conference on Artificial Intelligence and Statistics.Sanjuan:[s.n.],2007:1529-1536.

(責任編輯:陳品馨)

Graph Based Semi-supervised Learning with Class-probability Distance for Hyperspectral Remote Sensing Image Classification

SHAO Yuanjie,WU Guoping,MA Li
Faculty of Mechanical and Electronic Information,China University of Geosciences,Wuhan 430074,China

A class-probability distance based semi-supervised learning method is proposed for hyperspectral remote sensing image classification.In the method,sparse representation based classification(SRC)is adopted for estimating the class-probability of unlabeled sample.Then a distance metric that describes the data similarity is developed based on the estimated class-probability.With this new distance metric,the distance between samples of different classes is enlarged effectively,and the neighbors of each sample can contain more samples belonging to the same class.Finally,this distance metric is applied to linear neighborhood propagation and label propagation algorithms.Experimental results using Hyperion and AVIRIS hyperspectral remote sensing images show that the approach outperforms the existing semisupervised learning methods in terms of classification accuracy.

hyperspectral remote sensing image classification;semi-supervised learning;sparse representation;class-probability distance

SHAO Yuanjie(1988—),male,postgraduate,majors in pattern recognition and hyperspectral remote sensing.

MA Li

P237

A

1001-1595(2014)11-1182-08

國家自然科學基金(61102104);中央高?；究蒲袠I(yè)務費專項(CUG120408;CUG110823)

2013-01-14

邵遠杰(1988—),男,碩士,主要從事模式識別、高光譜遙感。

E-mail:shaoyuanjie1＠163.com

馬麗

E-mail:maryparisster＠gmail.com

SHAO Yuanjie,WU Guoping,MA Li.Graph Based Semi-supervised Learning with Class-probability Distance for Hyperspectral Remote Sensing Image Classification[J].Acta Geodaetica et Cartographica Sinica,2014,43(11):1182-1189.(邵遠杰,吳國平,馬麗.屬類概率距離構圖的半監(jiān)督高光譜圖像分類[J].測繪學報,2014,43(11):1182-1189.)

10.13485/j.cnki.11-2089.2014.0182

修回日期:2014-08-29