余旭初,譚 熊,2,付瓊瑩,王蔚濤
(1.信息工程大學(xué)地理空間信息學(xué)院,河南鄭州 450052;2.江西省數(shù)字國土重點(diǎn)實驗室(東華理工大學(xué)),江西南昌 330000;3.61175部隊,江蘇南京 210049)
聯(lián)合紋理和光譜特征的高光譜影像多核分類方法
余旭初1,譚 熊1,2,付瓊瑩1,王蔚濤3
(1.信息工程大學(xué)地理空間信息學(xué)院,河南鄭州 450052;2.江西省數(shù)字國土重點(diǎn)實驗室(東華理工大學(xué)),江西南昌 330000;3.61175部隊,江蘇南京 210049)
為充分利用高光譜影像“圖譜合一”的特性,提出一種聯(lián)合紋理和光譜特征的高光譜影像多核學(xué)習(xí)分類方法。該方法首先利用Gabor濾波器組提取影像的紋理特征,然后與原始光譜特征相結(jié)合形成新的特征數(shù)據(jù),最后采用多核學(xué)習(xí)方法的MKSVM分類器進(jìn)行分類。通過利用中科院上海技術(shù)物理研究所研制的PHI高光譜影像進(jìn)行試驗,試驗結(jié)果表明該方法有效地消除了分類結(jié)果中同質(zhì)區(qū)域內(nèi)出現(xiàn)的“麻點(diǎn)”現(xiàn)象,同時提高了分類精度。
高光譜影像;紋理特征;光譜特征;多核;分類
30多年前出現(xiàn)的高光譜遙感是現(xiàn)代遙感技術(shù)發(fā)展的里程碑,它具有高光譜分辨率的優(yōu)勢,能獲取眾多連續(xù)波段的光譜影像,可實現(xiàn)地面目標(biāo)的識別和精細(xì)探測[1]。
目前,大部分高光譜遙感影像處理系統(tǒng)將高光譜影像視為光譜向量數(shù)據(jù)的集合而非像元空間關(guān)系緊密的圖像,在分類處理過程中更多地致力于分析數(shù)據(jù)本身,而很少甚至沒有考慮圖像中鄰近像元之間的空間關(guān)系,忽略了其“圖譜合一”的數(shù)據(jù)特點(diǎn)。這種空間關(guān)系在高光譜影像中表現(xiàn)為空間結(jié)構(gòu)特征,主要包括幾何形狀、紋理結(jié)構(gòu)和分割對象等。
近年來,針對不同形式的空間特征,國內(nèi)外出現(xiàn)了大量關(guān)于聯(lián)合空間和光譜信息的高光譜影像分類方法。紋理信息作為一項重要的空間特征越來越受廣大學(xué)者的重視。紋理描述方式主要包括灰度共生矩陣、馬爾科夫場隨機(jī)場(MRF)模型、Gabor小波變換等。在高光譜影像分類中,MRF應(yīng)用較多,如最大后驗馬爾科夫場模型(MAP-MRF)的SVM分類方法[2-3]、加入邊緣信息的MRF-SVM法[4]及自適應(yīng)MRF-SVM分類方法[5]等。這些方法不僅提高了分類精度,而且在一定程度上克服了分類結(jié)果同質(zhì)區(qū)域的“麻點(diǎn)”現(xiàn)象。但這些方法基本都是基于初始分類結(jié)果的后處理,原始高光譜影像的紋理特征信息沒有被充分利用。另一個思路是利用提取出的紋理特征與光譜特征信息相結(jié)合,共同輸入分類器進(jìn)行分類,如EMP-SVM[6]、Gabor-SVM[7]等。
在分類器的選擇上,以SVM為代表的核方法優(yōu)于統(tǒng)計模式識別分類方法,因為前者在高維數(shù)據(jù)且訓(xùn)練樣本有限的條件下能獲得較高的分類精度。但SVM是基于單個特征空間的單核方法,由于不同核函數(shù)或同一核函數(shù)不同參數(shù)具有不同的特性,性能差異較大。當(dāng)樣本特征含有異構(gòu)信息、樣本規(guī)模較大或多維數(shù)據(jù)不規(guī)則時,若采用單核映射方式對所有樣本進(jìn)行處理并不合理。針對這些問題,出現(xiàn)了大量關(guān)于利用多核代替單核的學(xué)習(xí)方法,即多核學(xué)習(xí)方法[8]。多核學(xué)習(xí)方法不僅能夠增強(qiáng)決策函數(shù)的能力,而且能提高學(xué)習(xí)的性能,已成為機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點(diǎn)之一,可用于生物信息學(xué)、文本分類、目標(biāo)識別、模式回歸及特征提取等。具有代表性的多核學(xué)習(xí)方法有二次約束二次規(guī)劃法(quadratically constrained quadratic program,QCQP)[9]、類序列最小最優(yōu)化法(like sequential minimal optimization,LSMO)[10]、半無限線性規(guī)劃法(semi-infinite linear program,SILP)[11]和簡單多核學(xué)習(xí)法(simple multi kernel learning,SMKL)[12]。SMKL通過迭代解算單個SVM問題的權(quán)系數(shù)來實現(xiàn)分類(本文稱為多核SVM,簡稱MKSVM),在精度和計算效率上具有一定的優(yōu)勢。
多核學(xué)習(xí)方法也被陸續(xù)引入到高光譜影像分類處理中,如尚坤等[13]提出的基于合成核支持向量機(jī)的高光譜數(shù)據(jù)分類方法、Gu等[14]提出的典型多核學(xué)習(xí)(representative multiple kernel learning,RMKL)高光譜圖像分類等。但這些方法都沒有有效利用高光譜影像中的空間(紋理)信息。
因此,本文提出了一種聯(lián)合紋理和光譜特征的高光譜影像多核分類方法。該方法首先采用Gabor變換提取影像的紋理特征,然后光譜特征組合形成新的特征數(shù)據(jù),再利用MKSVM分類器進(jìn)行分類,最后通過PHI影像試驗,驗證了該方法的優(yōu)勢。
1.Gabor紋理描述
Gabor變換是一種窗函數(shù)為高斯函數(shù)的短時窗口傅里葉變換,能同時滿足空域頻域上的局部化要求[15]。一個典型的二維Gabor濾波器可表示為
式中,f=1/λ為中心頻率,λ為波長;σx、σy分別為高斯包絡(luò)沿x、y方向的常量,與高斯標(biāo)準(zhǔn)差σ相關(guān)聯(lián);γ為空間方位比(spatial aspect ratio);φ為相位偏置;θ為高斯函數(shù)旋轉(zhuǎn)方向。
一般的,在圖像處理過程中,通常選擇不同中心頻率和不同方向的Gabor函數(shù)形成濾波器組進(jìn)行紋理特征提取。若要得到紋理圖像還需對濾波器輸出值進(jìn)行特征提取,通常采用幅值響應(yīng)實部和非線性Sigmoid函數(shù)等方法。
由于高光譜影像波段較多,如果每個波段影像都進(jìn)行一組Gabor濾波特征提取,那么將形成更高維的特征空間,這將導(dǎo)致維數(shù)爆炸。因此,本文首先對高光譜影像進(jìn)行PCA變換,選擇包含絕大部分信息的第一主成分影像進(jìn)行Gabor濾波變換。
2.MKSVM分類方法
本文采用MKSVM分類器,其分類原理及解算過程描述如下。
與SVM類似,MKSVM兩類分類的原始問題為2 22
觀察式(3),可整理為以dm為變量的優(yōu)化問題
式(4)的目標(biāo)函數(shù)J(d)是一個標(biāo)準(zhǔn)SVM問題,它是一個含變量dm的凸優(yōu)化問題,可通過拉格朗日函數(shù)轉(zhuǎn)化為極大極小問題。構(gòu)建的拉格朗日函數(shù)為
式中,αi、υi為拉格朗日系數(shù)。
求式(6)對wm、b、ξ的微分并置為0后,再代入式(6),可得
式(7)是一個包含多核函數(shù)的SVM問題的對偶形式。如果α?為式(7)的一個與dm無關(guān)的最優(yōu)解,那么對于一個給定的dm,J(d)對dm的微分為
式(8)為目標(biāo)函數(shù)J(d)的梯度。若每個基核函數(shù)都滿足Mercer定理的正定核條件,則J(d)是一個嚴(yán)格的凸優(yōu)化問題且可微,一旦J(d)的梯度計算出來,可通過梯度下降方向來更新滿足約束的d值
式中,γt為更新步長,可通過一維線性搜索計算得到;Dt為梯度下降方向。
總結(jié)以上過程,MKSVM兩類分類算法步驟描述為:
1)設(shè)置dm初值=1/M,m=1,2,…,M,M一般為多核個數(shù)。
2)對于第t次迭代,利用式(1)的組合核k(xi,xj)通過解算標(biāo)準(zhǔn)SVM的方法計算J(d)。
3)利用式(10)計算梯度、梯度方向Dt和最優(yōu)步長γt。
5)判斷是否滿足迭代停止條件,若不滿足,重復(fù)步驟2)—4),直至達(dá)到停止迭代條件。
迭代停止條件包括對偶誤差(duality gap,DG),KKT條件、Δd達(dá)到閾值及最大迭代次數(shù)。DG的表達(dá)式為
式中,ε為閾值。
對于多類分類問題,可通過求解SVM的一對余或一對一的多類分類構(gòu)造法來求解,不同的是MKSVM多定義了一個目標(biāo)函數(shù)J(d),它由每兩類分類器解算的目標(biāo)函數(shù)值求和所得,即
式中,K表示兩類分類器的集合;Jk(d)是第k個兩類SVM分類器的目標(biāo)函數(shù)值。如果在多核SVM分類算法中目標(biāo)函數(shù)已更新,則J(d)的梯度為
式中,αi,p表示包含于第k個決策函數(shù)中的第j個樣本的拉格朗日系數(shù)。
3.高光譜影像分類
聯(lián)合紋理和光譜信息的高光譜影像多核分類方法具體流程如圖1所示。
圖1 本文分類方法流程
基于多核學(xué)習(xí)的高光譜影像分類方法是目前研究較多且分類效果較好的方法之一,試驗將采用該方法與本文方法進(jìn)行比較分析。試驗的計算機(jī)硬件環(huán)境為Intel Core i5-2410M CPU 2.3 GHz、內(nèi)存4.0 GB,軟件環(huán)境為Windows 7(64位)操作系統(tǒng)、Matlab 2012b。
1.參數(shù)設(shè)置
(1)Gabor濾波器組參數(shù)設(shè)置
在Gabor濾波器組中,λ與σ之間存在一定的關(guān)系
式中,b為帶寬,通常取值為0.5或1。
本文試驗中帶寬設(shè)為1;波長λ設(shè)為1.4;σx=y(tǒng)=σ=0.56λ;方向角θ分別取值為0、30°、60°、0°;偏移相位φ為0;γ設(shè)為1;濾波窗口大小選擇1×11。
(2)多核函數(shù)的選擇及參數(shù)設(shè)置
在多核學(xué)習(xí)過程中,多核組合方式有兩種:一是單個核函數(shù)不同參數(shù)組成的多核;二是不同核函數(shù)不同參數(shù)組成的多核。本文采用后者的多核組合方式,基核函數(shù)選擇高斯徑向基核函數(shù)(rbf)和多項式核函數(shù)(poly),表達(dá)式分別為
式中,σ為高斯核參數(shù);p為多項式系數(shù)。
MKSVM分類器的參數(shù)還包括懲罰系數(shù)C和多核權(quán)系數(shù)dm,在分類時需要進(jìn)行預(yù)先設(shè)置。在本文試驗中,權(quán)系數(shù)的初始值設(shè)置為1/M,M為基核函數(shù)個數(shù),C取值為100,p的取值范圍為{1,2,3},σ的取值范圍為{0.2,0.4,…,2.0}。迭代停止條件參數(shù)設(shè)置為:ε=0.01,λ=10-4,Δσ=10-4,itermax=200。
2.試 驗
試驗數(shù)據(jù)采用1999年9月中科院上海技術(shù)物理研究所研制的PHI成像光譜儀獲取的江蘇常州地區(qū)鄉(xiāng)村影像,該影像的光譜范圍為0.42~0.85 μm,大小為346像素×512像素,共80個波段,經(jīng)過反射率轉(zhuǎn)換后將反射值歸一化到[0,1]范圍內(nèi)。單波段灰度影像及樣本分布如圖2所示,樣本數(shù)量信息見表1。
表1 PHI常州鄉(xiāng)村影像樣本數(shù)量信息
圖2 PHI常州鄉(xiāng)村單波段影像及樣本分布
將各類樣本隨機(jī)地取10%作為訓(xùn)練樣本,余下的為測試樣本。訓(xùn)練樣本用于分類器模型的訓(xùn)練,測試樣本用于分類精度和Kappa系數(shù)的計算。
按照圖1所示的計算流程,利用本文方法和沒加入紋理信息的多核分類方法(OAA)得到的分類結(jié)果分別如圖3(a)和圖3(b)所示,分類精度和Kappa系數(shù)見表2。表中OAO和OAA分別表示一對一法和一對余法多類分類器構(gòu)造方式。
圖3 PHI常州鄉(xiāng)村影像不同方法分類結(jié)果
3.結(jié)果分析
從圖3(a)和圖3(b)的分類結(jié)果圖中可以看出,影像地物所分類別基本正確。利用光譜特征進(jìn)行分類的結(jié)果中(如圖3(b)所示),同質(zhì)區(qū)域內(nèi)含有少量其他類型的地物或噪聲,表現(xiàn)為“麻點(diǎn)”現(xiàn)象,本文在加入紋理特征后,有效地消除了這一現(xiàn)象,得到了較好的分類結(jié)果(如圖3(a)所示)。
分析表2的對比試驗數(shù)據(jù)可以得出:本文方法在總體分類精度、平均分類精度和Kappa系數(shù)上都優(yōu)于MKSVM方法。另外,無論是本文方法還是MKSVM方法,一對余的多類分類器構(gòu)造法在分類精度和Kappa系數(shù)上都優(yōu)于一對一法。
表2 PHI常州鄉(xiāng)村影像不同分類方法精度對比(%)
本文提出的聯(lián)合紋理和光譜特征的高光譜影像多核學(xué)習(xí)分類方法,主要利用Gabor濾波器組提取影像紋理特征,然后與原始光譜特征相結(jié)合,采用多核學(xué)習(xí)的MKSVM分類器進(jìn)行分類,克服了單核SVM中利用交叉驗證來選擇核函數(shù)系數(shù)的缺點(diǎn),有效地解決了分類結(jié)果中出現(xiàn)的“麻點(diǎn)”現(xiàn)象,提高了影像的分類精度。
[1] 余旭初,馮伍法,林麗霞.高光譜-遙感測繪的新機(jī)遇[J].測繪科學(xué)技術(shù)學(xué)報,2006,23(2):101-105.
[2] FARAG A,MOHAMED R,EL-BAZ A.A Unified Framework for Map Estimation in Remote Sensing Image Segmentation[J].IEEE Transactions on Geoscience and Remote Sensing,2005,43(7):1617-1634.
[3] BOVOLO F,BRUZZONE L.A Context-sensitive Technique Based on Support Vector Machine for Image Classification[C]∥Proc.of PREMI.[S.l.]:Springer,2005:260-265.
[4] TARABALKA Y,F(xiàn)AUVEL M,CHANUSSOT J,et al. SVM and MRF-based Method for Accurate Classification of Hyperspectral Images[J].IEEE Geoscience and Remote Sensing Letters,2010,7(4):736-740.
[5] ZHANG B,LI S S,JIA X P,et al.Adaptive Markov Random Field Approach for Classification of Hyperspectral Imagery[J].IEEE Geoscience and Remote Sensing Letters,2011,8(5):973-977.
[6] FAUVEL M,BENEDIKTSSON J,CHANUSSOT J,et al. Spectral and Spatial Classification of Hyperspectral Data Using SVMs and Morphological Profiles[C]∥Proceed-ings of IGARSS’07.Barcelona:IEEE,2007:4834-4837.
[7] 吳昊.綜合紋理特征的高光譜遙感圖像分類方法[J].計算機(jī)工程與設(shè)計,2012,33(5):1993-1996.
[8] 汪洪橋,孫富春,蔡艷寧,等.多核學(xué)習(xí)方法[J].自動化學(xué)報,2010,36(8),1037-1050.
[9] LANCKRIET G,CRISTIANINI N,GHAOUI L E,et al. Learning the Kernel Matrix with Semidefinite Programming[J].Journal of Machine Learning Research,2004(5):27-72.
[10] BACH F.Consistency of the Group Lasso and Multiple Kernel Learning[J].Journal of Machine Learning Research,2008(9):1179-1225.
[11] SONNENBURG S,RATSCH G,SCHAFER C,et al. Large Scale Multiple Kernel Learning[J].Journal of Machine Learning Research,2006(7):1531-1565.
[12] RAKOTOMAMONJY A,BACH F,CANU S,et al.SimpleMKL[J].Journal of Machine Learning Research,2008(3):1-34.
[13] 尚坤,李培軍,程濤.基于合成核支持向量機(jī)的高光譜土地覆蓋分類[J].北京大學(xué)學(xué)報:自然科學(xué)版,2011,47(1):109-114.
[14] GU Y F,WANG C,YOU D,et al.Representative Multiple Kernel Learning for Classification in Hyperspectral Imagery[J].IEEE Transactions on Geoscience and Remote Sensing,2012,50(7):2852-2865.
[15] 馬莉,范影樂.紋理圖像分析[M].北京:科學(xué)出版社,2009:45-46.
Combined Texture-spectral Feature for Multiple Kernel Classification of Hyperspectral Images
YU Xuchu,TAN Xiong,F(xiàn)U Qiongying,WANG Weitao
P237
B
0494-0911(2014)09-0038-05
2013-07-01
國家自然科學(xué)基金(青年科學(xué)基金)(41201477);江西省數(shù)字國土重點(diǎn)實驗室開放基金(DLLJ201403)
余旭初(1963—),男,湖北羅田人,教授,主要從事遙感圖像處理與模式識別研究。
譚 熊引文格式:余旭初,譚熊,付瓊瑩,等.聯(lián)合紋理和光譜特征的高光譜影像多核分類方法[J].測繪通報,2014(9):38-42.
10.13474/j.cnki.11-2246.2014.0289