左航

?

基于經(jīng)驗(yàn)?zāi)B(tài)分解的SVM-KNN高光譜圖像分類(lèi)方法

左航

（河海大學(xué)計(jì)算機(jī)與信息學(xué)院，南京 211100）

為了提高高光譜圖像分類(lèi)的分類(lèi)精度，考慮在已知分類(lèi)器SVM-KNN的基礎(chǔ)上，結(jié)合經(jīng)驗(yàn)?zāi)B(tài)分解，提出了一種EMD-SVM-KNN的新的分類(lèi)方法，并將其應(yīng)用到AVIRIS數(shù)據(jù)92AV3C，仿真結(jié)果表明該算法不僅提高了高光譜圖像分類(lèi)精度，而且可減少支持向量數(shù)目，以提高高光譜圖像分類(lèi)速度。

EMD；SVM-KNN；高光譜圖像；分類(lèi)

0 引言

高光譜遙感圖像通常有著很高的光譜分辨率，且每個(gè)像元都可供應(yīng)幾乎不斷的地物光譜曲線(xiàn)。高光譜圖像目前已有廣泛應(yīng)用[1-2]。然而，高光譜圖像具有的數(shù)據(jù)量大、數(shù)據(jù)不確定和維數(shù)高等特點(diǎn)使得傳統(tǒng)的高光譜圖像分類(lèi)算法，例如貝葉斯分類(lèi)算法、神經(jīng)網(wǎng)絡(luò)分類(lèi)算法等，遭遇了“維數(shù)災(zāi)難”現(xiàn)象。

因此研究適用于高維數(shù)、多冗余信息的高光譜圖像分類(lèi)算法是必須的，比如SVM分類(lèi)算法。支持向量機(jī)（Support Vector Machine，SVM）是經(jīng)過(guò)統(tǒng)計(jì)學(xué)習(xí)理論，再發(fā)展起來(lái)的小樣本學(xué)習(xí)算法，能夠比較方便地解決非線(xiàn)性和高維數(shù)等問(wèn)題。在進(jìn)行SVM的研究中，所有研究的出發(fā)點(diǎn)和目的都是提高它的分類(lèi)能力。比如文章[3]中提出結(jié)合SVM和KNN，對(duì)在空間不同分布的樣本采用相異的分類(lèi)法，以提高分類(lèi)精度。

為了提高高光譜圖像分類(lèi)精度，在文獻(xiàn)[4]中，Begüm Demir將經(jīng)驗(yàn)?zāi)B(tài)分解（Empirical Mode Decomposition，EMD）應(yīng)用到高光譜圖像，提出2D-EMD-SVM，經(jīng)過(guò)對(duì)高光譜圖像的EMD分解，完全獲取高光譜圖像最根本的特征，而且對(duì)EMD分解后的本征模函數(shù)（Intrinsic Mode Function，IMF）之和進(jìn)行SVM分類(lèi)，并獲得高于基于SVM高光譜圖像分類(lèi)算法的分類(lèi)精度。該文在SVM-KNN分類(lèi)器的基礎(chǔ)上，結(jié)合EMD，提出EMD-SVM-KNN方法來(lái)對(duì)高光譜圖像進(jìn)行分類(lèi)，實(shí)驗(yàn)證明能夠顯著提高高光譜圖像的分類(lèi)精度，并減少支持向量的數(shù)量，以提高高光譜圖像分類(lèi)速度。

1 EMD

經(jīng)驗(yàn)?zāi)B(tài)分解是黃鍔（N. E. Huang）跟他人在美國(guó)國(guó)家宇航局于1998年開(kāi)拓性地想出的一種新的自適應(yīng)信號(hào)時(shí)頻處理方法[5]。這種方法是根據(jù)數(shù)據(jù)自身的時(shí)間尺度特征去進(jìn)行信號(hào)分解，不需要實(shí)現(xiàn)設(shè)定基函數(shù)。恰好是因?yàn)檫@樣的特點(diǎn)，所以在理論上所有類(lèi)型信號(hào)的分解都可以用EMD解決，從而在處理非線(xiàn)性跟非平穩(wěn)數(shù)據(jù)上，優(yōu)勢(shì)比較明顯。所以，EMD方法一經(jīng)提出就在不同的工程領(lǐng)域得到有效應(yīng)用。

經(jīng)驗(yàn)?zāi)B(tài)分解的基本原理是經(jīng)過(guò)連續(xù)重復(fù)的篩選行為一步接一步找到本征模函數(shù)IMF，再把原始信號(hào)分解為IMF跟殘差的組合。相比于短時(shí)傅立葉變換、小波分解等方法，該方法是直接的、直觀的且是自適應(yīng)的。

成為本征模函數(shù)需要以下兩個(gè)前提：（1）在整個(gè)的時(shí)間范圍內(nèi)，函數(shù)的局部極值點(diǎn)跟過(guò)零點(diǎn)的數(shù)量一定相等，或頂多差一個(gè)；（2）不管是哪個(gè)時(shí)刻點(diǎn)，局部最大值跟局部最小值的上下包絡(luò)線(xiàn)的平均值一定為零。條件一是顯然，它類(lèi)似于傳統(tǒng)的平穩(wěn)高斯信號(hào)的窄帶要求。但條件二，它把經(jīng)典的全局性要求更改為局部性要求，使得不對(duì)稱(chēng)波形所形成的不必要的波動(dòng)對(duì)瞬時(shí)頻率的影響為零。

EMD分解方法所需要的前提條件有：（1）數(shù)據(jù)起碼有兩個(gè)極值，一個(gè)最大值跟一個(gè)最小值；（2）極值點(diǎn)間的時(shí)間尺度獨(dú)一性地確定了數(shù)據(jù)的局部時(shí)域特性；（3）若數(shù)據(jù)沒(méi)一個(gè)極值點(diǎn)卻有拐點(diǎn)存在，那么可以針對(duì)數(shù)據(jù)微分一次或若干次來(lái)獲得極值，然后再使用積分來(lái)得到分解結(jié)果?？梢孕蜗蟮胤Q(chēng)這種分解過(guò)程為“篩選”過(guò)程。

2）找到輸入值中的所有局部極大值，利用三次樣條插值函數(shù)將局部極大值擬合成上包絡(luò)線(xiàn)，同理找出局部極小值，并擬合成下包絡(luò)線(xiàn)，之后求出上下包絡(luò)的均值，。

2 SVM-KNN

因?yàn)镾VM分類(lèi)器正好相當(dāng)于每個(gè)類(lèi)只選出一個(gè)代表點(diǎn)的1NN分類(lèi)器，但偶爾該類(lèi)不能很好地被這個(gè)代表點(diǎn)代表，而NN又能將所有支持向量作為代表點(diǎn)，使得分類(lèi)器獲得更高的分類(lèi)準(zhǔn)確率，從而考慮結(jié)合SVM和NN。另外對(duì)于待鑒識(shí)樣本，計(jì)算與另外兩類(lèi)支持向量代表點(diǎn)和之間的距離，若距離差值大于一給定閾值也即離分界面較遠(yuǎn)，如圖1所示。

圖1

在進(jìn)行數(shù)據(jù)的封閉測(cè)試（用訓(xùn)練樣本作為測(cè)試集）中,SVM-NN分類(lèi)器的輸出幾乎達(dá)到100%。這是因?yàn)橹С窒蛄恳话愣挤植加诜诸?lèi)超平面周?chē)?，也就是圖1中的區(qū)域，這時(shí)利用1NN來(lái)對(duì)它分類(lèi)，那么每個(gè)支持向量，都會(huì)找到支持向量自己作為最近鄰，這樣結(jié)果便一直是正確的。

首先利用任何一種SVM算法，求出相應(yīng)的支持向量和它的系數(shù)以及常數(shù)。把設(shè)為測(cè)試集，是支持向量集，是NN的個(gè)數(shù)。

類(lèi)似于SVM，針對(duì)不同應(yīng)用問(wèn)題可以選擇上式中的核函數(shù)。算法中的分類(lèi)閾值一般都設(shè)在1左右，當(dāng)設(shè)為0的時(shí)候，SVM便是SVM算法。>

3 實(shí)驗(yàn)過(guò)程

本實(shí)驗(yàn)所采用的算法，如圖2所示。

圖2 基于經(jīng)驗(yàn)?zāi)B(tài)分解的KNN-SVM高光譜圖像分類(lèi)算法

采用1992年在美國(guó)印地安那州西北部，用AVIRIS傳感器所采集到的高光譜數(shù)據(jù)92AV3C作為實(shí)驗(yàn)數(shù)據(jù)去進(jìn)行仿真實(shí)驗(yàn)。92AV3C數(shù)據(jù)附帶了經(jīng)過(guò)實(shí)地測(cè)繪而獲得的地物真實(shí)的參考圖，通過(guò)該圖即可檢驗(yàn)分類(lèi)精度，亦可作為圖像特征時(shí)選擇的判定參照。AVIRIS傳感器一共收集到224個(gè)波段數(shù)據(jù)，然后舍棄中間4個(gè)零值波段，余下的220個(gè)波段便形成了高光譜數(shù)據(jù)集合92AV3C[6]。92AV3C數(shù)據(jù)中有因?yàn)榇髿庥绊懚粊G棄在實(shí)驗(yàn)數(shù)據(jù)之外的20個(gè)波段，分別是104到108，150到163和第220波段[7]。

SVM分類(lèi)器的核函數(shù)采用徑向基函數(shù)：

表1 各類(lèi)地物對(duì)應(yīng)的樣本數(shù)

總的訓(xùn)練樣本數(shù)和測(cè)試樣本數(shù)分別為4673和4672，進(jìn)行2折分類(lèi)。這9類(lèi)地物的像素總數(shù)占了所有16類(lèi)地物像素總數(shù)的98.13％。將得到的分類(lèi)結(jié)果與測(cè)試集所包含的真實(shí)類(lèi)別相比較，我們可以得出各類(lèi)別的分類(lèi)精度，將它們平均得到平均精度（Average Aceuraey，AA）；將所有正確分類(lèi)的像素?cái)?shù)除以總像素?cái)?shù)則得到總體精度（Overall Average，OA）。我們分別采用傳統(tǒng)的支持向量機(jī)分類(lèi)算法（SVM）以及Begüm Demir的EMD-SVM算法與本文提出的EMD-SVM-KNN分類(lèi)算法對(duì)高光譜圖像進(jìn)行分類(lèi)，并對(duì)各種方法的仿真結(jié)果進(jìn)行比較。

3種分類(lèi)算法的分類(lèi)精度的比較，如圖3所示。

圖3 本文算法與其他方法的分類(lèi)精度比較

從試驗(yàn)可以看出本文提出的算法（EMD-SVM-KNN）得到的平均精度AA高達(dá)88.83％，比SVM算法高10.12％；比EMD-SVM算法高4.75％?？傮w精度OA高達(dá)90.25％，比SVM算法高11.4％，比EMD-SVM算法高5.82％。同時(shí)我們利用Kappa系數(shù)公式，可得Kappa系數(shù)達(dá)到0.862,比SVM算法高0.893，比EMD-SVM算法0.387,多可見(jiàn)本文提出的算法很好地提高了高光譜數(shù)據(jù)的分類(lèi)精度。

3種分類(lèi)算法在分類(lèi)實(shí)驗(yàn)過(guò)程中所需的分類(lèi)時(shí)間和支持向量數(shù)目的比較如表2所示。

表2 各種分類(lèi)方法所需的分類(lèi)時(shí)間和支持向量機(jī)數(shù)目比較

從表2中可以看出，采用本文算法分類(lèi)（EMD-SVM-KNN）的支持向量數(shù)與SVM相比都要少很多。另外，與Begüm Demir的EMD-SVM算法相比，本文的算法（EMD-SVM-KNN）的支持向量數(shù)要比EMD-SVM算法少。同時(shí)，表2中可看出本文算法所需的時(shí)間最少，因此，本文的算法（EMD-SVM-KNN）更有效地減少了支持向量數(shù)目，提高了高光譜圖像的分類(lèi)速度。美國(guó)印地安那州高光譜數(shù)據(jù)92AV3C的不同方法對(duì)應(yīng)分類(lèi)圖像如圖4所示。

(a)???????? (b)

(c)???????? (d)

圖4 美國(guó)印地安那州高光譜數(shù)據(jù)92AV3C的不同方法對(duì)應(yīng)分類(lèi)圖像 (a)2-D-EMD(k-NN) (b) 2-D-EMD(SVM) (c) EMD-KNN-SVM (d)原圖.

綜上，從仿真數(shù)據(jù)的分析和比較結(jié)果可以看出，本文算法（EMD-SVM-KNN）在SVM-KNN分類(lèi)器基礎(chǔ)上引入了EMD，提高了高光譜圖像分類(lèi)精度，減少支持向量數(shù)，提高分類(lèi)速度。

4 總結(jié)

本文利用SVM和KNN構(gòu)造成的一種新分類(lèi)器, 結(jié)合經(jīng)驗(yàn)?zāi)B(tài)分解，提出了EMD-SVM-KNN分類(lèi)方法，實(shí)驗(yàn)證明使用該方法的分類(lèi)準(zhǔn)確率比單純使用SVM分類(lèi)器和EMD-SVM方法都有不同程度的提高, 并且該分類(lèi)器在一定程度上不受核函數(shù)參數(shù)選擇的影響,具有一定的穩(wěn)健性。本文算法獲得了更高的分類(lèi)精度，并減少了分類(lèi)過(guò)程中所需的支持向量數(shù)和分類(lèi)時(shí)間，提高了支持向量分類(lèi)器的分類(lèi)速度。

[1] Tong Qing-xi, Xue Yong-qi, Zhang Li-fu, et al. Progress in Hyperspectral Remote Sensing science and Technology in China over the Past Three Decades. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing[J]. 2014,7(1):70-91.

[2] Kang Xu-dong, Li Shu-tao, Benediktsson Jon Atli, et al. Spectral-Spatial Hyperspectral Image Classification with Edge-preserving Filtering. IEEE Transactions on Geoscience and Remote Sensing[J]. 2014,52(5):2666-2677.

[3] 李蓉,葉世偉,史忠植，等. SVM-KNN分類(lèi)器──一種提高SVM分類(lèi)精度的新方法[J].電子學(xué)報(bào)，2002,5：745-747.

[4] Demir B, Ertürk S. Empirical Mode Decomposition of Hyperspectral Images for Support Vector Machine Classification [J]. IEEE Trans. Geosci Remote Sense, 2010,48: 4071-4084.

[5] Huang N E，Shen Z，Leng S R．The empirical mode decompositionand the hilbert spectrum for nonlinear and nonstationary time seriesanalysis[C]．Proceeding of Royal Society，London，1998，A454：903—995．

[6] ftp：//ftp.ecn.purdue.edu/biehl/Multispec/92AV3c/[OL].

[7] 高恒振，萬(wàn)建偉，粘永健，等．一種基于譜域—空域組合特征支持向量機(jī)的高光譜圖像分類(lèi)算法[J]．宇航學(xué)報(bào)，2011，32(4)：917-921．

Hyperspectral Image Classification Based on SVM-KNN Method Of Empirical Mode Decomposition

Zuo Hang

(School of Computer and Information, Hohai University, Nanjing 211100,China)

In order to improve the classification accuracy of hyperspectral image classification, basisd on the known classifier SVM-KNN, is improued a new classification method of EMD-SVM-KNN is propos, by It is then applied to AVIRIS data 92AV3C. Simulation results show that the algorithm not only improves the hyperspectral image classification accuracy, but also reduces the number of support vectors, so that to improve the speed of hyperspectral image classification.

EMD; SVM-KNN; Hyperspectral image; Classification

1007-757X(2016)12-0060-04

TP751

A

左 航（1992-），男，漢族，安徽宣城，河海大學(xué)，碩士，研究方向：高光譜圖像分類(lèi)，南京，211100

（2016.08.09）