亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        高光譜圖像類別獨(dú)立的域適應(yīng)分類

        2024-04-17 05:28:16余龍李軍賀霖李云飛
        遙感學(xué)報(bào) 2024年3期
        關(guān)鍵詞:分類特征

        余龍,李軍,賀霖,李云飛

        1.中山大學(xué) 地理科學(xué)與規(guī)劃學(xué)院,廣州 510006;

        2.中國(guó)地質(zhì)大學(xué)(武漢) 計(jì)算機(jī)學(xué)院,智能地質(zhì)信息處理湖北省重點(diǎn)實(shí)驗(yàn)室,武漢 430078;

        3.華南理工大學(xué) 自動(dòng)化科學(xué)與工程學(xué)院,廣州 510640

        1 引言

        高光譜圖像監(jiān)督分類的性能在很大程度上依賴于標(biāo)記樣本的數(shù)量和質(zhì)量(Persello 和Bruzzone,2014)。然而,數(shù)據(jù)標(biāo)記的過(guò)程通常是昂貴和耗時(shí)的(Deng等,2021)。當(dāng)標(biāo)記樣本數(shù)量較少時(shí),訓(xùn)練樣本與數(shù)據(jù)之間的邊緣分布差異較大(Belkin等,2006),導(dǎo)致高光譜監(jiān)督分類方法出現(xiàn)過(guò)擬合等問(wèn)題。

        為了解決標(biāo)記樣本少的問(wèn)題,主動(dòng)學(xué)習(xí)(Yadav等,2022)和半監(jiān)督學(xué)習(xí)(Wang等,2021)近年來(lái)被廣泛研究。然而,在高光譜圖像跨場(chǎng)景實(shí)時(shí)分類任務(wù)中,目標(biāo)圖像沒(méi)有任何可用的標(biāo)記樣本,主動(dòng)學(xué)習(xí)和半監(jiān)督學(xué)習(xí)不再適用(Deng等,2020)。在這種情況下,只能利用已有影像的標(biāo)記信息來(lái)輔助目標(biāo)圖像分類。

        對(duì)于同一傳感器獲得的地物分布接近的兩幅高光譜圖像,其數(shù)據(jù)特性較為相似(童慶禧等,2016)。因此,利用相似場(chǎng)景的標(biāo)記信息對(duì)新的高光譜圖像進(jìn)行分類,是解決少量標(biāo)記樣本甚至無(wú)標(biāo)記樣本下的高光譜圖像分類問(wèn)題的一種策略。該策略面臨的問(wèn)題是,由于光譜偏移,標(biāo)記樣本和新圖像數(shù)據(jù)來(lái)自不同的分布,導(dǎo)致直接使用舊圖像中的標(biāo)記樣本學(xué)習(xí)出的分類模型性能較差(Tuia等,2016)。為了學(xué)習(xí)對(duì)光譜偏移具有魯棒性的分類器,域適應(yīng)成為新的研究趨勢(shì)(Du等,2013;Weiss等,2016)。

        在域適應(yīng)領(lǐng)域中,將先前具有標(biāo)記信息的圖像稱為源域,將待分類的目標(biāo)圖像作為目標(biāo)域。域適應(yīng)算法試圖將源域圖像的標(biāo)記信息或分類器遷移到目標(biāo)域圖像中。然而,源域圖像和目標(biāo)域圖像可能展示的是兩個(gè)不同的地理區(qū)域,也可能展示的是同一區(qū)域不同時(shí)間的地物分布。這導(dǎo)致源域和目標(biāo)域的樣本在空間分布和光譜特征上均可能具有巨大差異,給域適應(yīng)的遷移造成極大的困難(彭江濤等,2020)。

        按遷移知識(shí)的不同,域適應(yīng)技術(shù)可分為基于模型遷移和基于數(shù)據(jù)遷移的方法(黎英和宋佩華,2022)。其中,基于模型遷移方法通常只能得到特定任務(wù)的結(jié)果,且性能受模型的限制,而模型結(jié)構(gòu)的修改和超參數(shù)的設(shè)置缺乏理論指導(dǎo)(黎英和宋佩華,2022)。在基于數(shù)據(jù)遷移的方法中,特征表示方法是近年來(lái)的研究熱點(diǎn)(Tuia等,2016)。由于這些方法試圖直接學(xué)習(xí)域不變特征,因此可以將其輸入任何分類器。域不變特征極大地減小了源域和目標(biāo)域之間的分布差異,使得在源域上訓(xùn)練的分類器能夠適應(yīng)目標(biāo)域。

        根據(jù)算法優(yōu)化目標(biāo)的不同,特征表示方法可分為兩類。第一類方法旨在對(duì)齊域之間的整體數(shù)據(jù)分布。這一類方法只考慮域之間的總體分布差異。遷移成分分析TCA(Transfer Component Analysis)(Pan等,2011)通過(guò)最小化最大均值差異(Gretton等,2007),使兩個(gè)域整體數(shù)據(jù)的均值在一個(gè)共同的低維空間中對(duì)齊。而其半監(jiān)督版本SSTCA(Semi-Supervised Transfer Component Analysis)算法已經(jīng)被應(yīng)用于林火烈度評(píng)估(鄭忠等,2022)。除了均值之外,其他方法旨在對(duì)齊兩個(gè)域的高階統(tǒng)計(jì)量,如相關(guān)對(duì)齊算法CORAL(CORrelation ALignment)(Sun等,2016)僅將源域樣本投影到新的空間中,以對(duì)齊源域樣本和目標(biāo)域樣本的協(xié)方差矩陣。而基于典型相關(guān)分析的方法(Hotelling,1936;Hardoon等,2004;Li等,2019)求特征變換的目標(biāo)是最大化源域樣本和目標(biāo)域樣本之間的相關(guān)矩陣的跡。另外,F(xiàn)ernando等(2013)通過(guò)子空間對(duì)齊SA(Subspace Alignment)方法使整個(gè)源域的特征映射子空間與目標(biāo)域的特征映射子空間趨于一致。Yang和Crawford(2016)利用兩個(gè)域的相似幾何特性學(xué)習(xí)在公共流形空間的特征表示。以上方法旨在減小域之間的總體分布差異,在各類的光譜偏移具有共性規(guī)律時(shí)表現(xiàn)較好。然而,實(shí)際場(chǎng)景中,源域和目標(biāo)域在不同類別中的分布差異不同,各類的光譜偏移情況變得復(fù)雜,這些方法無(wú)法使域間各類的類內(nèi)樣本趨于一致。

        第二類算法分別減小域間同類樣本的光譜偏移,旨在同時(shí)對(duì)齊每個(gè)類的分布。為此,一些代表性算法使域間同類數(shù)據(jù)分布統(tǒng)計(jì)特征趨于一致,如聯(lián)合域適應(yīng)算法JDA(Joint Domain Adaptation)(Long等,2013)、類質(zhì)心對(duì)齊算法(Zhu 和Ma,2016)、類質(zhì)心和協(xié)方差對(duì)齊算法CCCA(Class Centroid and Covariance Alignment)(Ma等,2019)。另外,Zhang 等(2017)使用兩個(gè)不同且耦合的特征變換對(duì)齊兩個(gè)域的同類樣本。對(duì)抗域適應(yīng)算法通過(guò)域判別網(wǎng)絡(luò)和特征提取網(wǎng)絡(luò)的對(duì)抗關(guān)系來(lái)提取域不變特征,其中李梅玉等(2022)設(shè)計(jì)獨(dú)立的分類器用于對(duì)抗一致性約束并提取跨域共有的魯棒特征,應(yīng)翔等(2023)利用元優(yōu)化來(lái)協(xié)調(diào)域?qū)R和分類兩個(gè)不一致的任務(wù)。然而,這些方法對(duì)所有類的類內(nèi)一致性要求過(guò)于嚴(yán)格,可能導(dǎo)致模型振蕩難以達(dá)到要求,或者在達(dá)到目標(biāo)時(shí)加劇類間樣本混合。例如,對(duì)抗域適應(yīng)在訓(xùn)練過(guò)程中可能會(huì)過(guò)分關(guān)注難以區(qū)分的樣本,導(dǎo)致模型過(guò)擬合和負(fù)遷移,降低模型泛化能力(譚琨等,2019;Shu等,2019;Huang 和Yin,2022)。上述問(wèn)題主要?dú)w結(jié)于兩個(gè)原因:一方面,這些方法會(huì)被錯(cuò)誤的標(biāo)簽信息所誤導(dǎo);另一方面,在不同類樣本混合條件下,同時(shí)提高每個(gè)類內(nèi)的數(shù)據(jù)一致性會(huì)導(dǎo)致不同類樣本的特征也變得更加相似,從而降低數(shù)據(jù)可分性。針對(duì)數(shù)據(jù)可分性降低的問(wèn)題,Luo 和Ma(2018)在對(duì)齊類均值時(shí)增加流形約束;Tuia等(2014)在流形對(duì)齊時(shí)使同類樣本趨于一致,同時(shí)增大不同類樣本差異。但是這類算法的性能對(duì)圖結(jié)構(gòu)敏感,圖結(jié)構(gòu)又由偽標(biāo)簽決定,因而算法性能容易不穩(wěn)定??紤]到這些因素,我們提出了一種類別獨(dú)立的域適應(yīng)CIDA(Class-Independent Domain Adaptation)算 法。提出的CIDA 算法在多個(gè)類別獨(dú)立的降維子空間中對(duì)齊特征,以減輕對(duì)數(shù)據(jù)可分性的影響。然后在多子空間中學(xué)習(xí)后驗(yàn)概率,而最終的分類結(jié)果由多個(gè)子空間的后驗(yàn)概率共同決定,從而提升分類結(jié)果置信度。

        2 研究方法

        假定源域ns個(gè)標(biāo)記樣本和目標(biāo)域待分類的nt個(gè)樣本分別表示為源域標(biāo)簽表示為總共包含C個(gè)類別。在介紹提出的域適應(yīng)算法前,先介紹本文采用的代表性樣本選擇策略。

        2.1 代表性樣本選擇

        同一類中聚集越密的樣本越具有代表性,而離群樣本因遠(yuǎn)離聚類中心而不能代表該類別(Ning等,2022)。選擇每個(gè)類別的若干代表性樣本能減小類內(nèi)的噪聲,有利于更具共性的特征表達(dá)子空間的學(xué)習(xí)。類似于密度峰值選擇方法(Zhao等,2022),本文對(duì)于源域和目標(biāo)域分別采用了兩種簡(jiǎn)單有效的選擇策略。

        (1)對(duì)于源域,本文假設(shè)每個(gè)類數(shù)據(jù)服從高斯分布,且光譜變異導(dǎo)致的異常值數(shù)量較少,因而可以將每個(gè)類的均值特征作為聚類中心,然后選擇與類均值最相似的個(gè)樣本作為代表性樣本集。用于選擇的測(cè)度為

        (2)對(duì)于目標(biāo)域,利用偽標(biāo)簽將所有樣本Dt劃分為不同類別的樣本集,其中第c類樣本集表示為。選擇每類前r%個(gè)ρt(x)最小的樣本作為目標(biāo)域的代表性樣本集,其中

        式中,dmin(x,c)=表示第j類任一樣本x∈與第c類樣本的最小歐氏距離。ρt(x)表示樣本x到所有類的最小距離的模。

        2.2 類別獨(dú)立子空間

        經(jīng)過(guò)代表性樣本選擇,得到源域代表性樣本集Xs和目標(biāo)域代表性樣本集Xt,和分別為源域和目標(biāo)域的第c類代表樣本集。利用和,我們針對(duì)每個(gè)類構(gòu)造一個(gè)獨(dú)立的優(yōu)化目標(biāo):

        式中,Tr(·)表示求矩陣的跡,矩陣Mc的每個(gè)元素表示為

        遵循JDA 方法(Long等,2013),將最優(yōu)化式(3)修改為

        為求解式(5),構(gòu)造拉格朗日函數(shù)為

        式中,Φ=diag(φ1,…,φk) ∈Rk×k是拉格朗日乘子。求解?L/?Ac=0可得到如下特征分解式:

        最終,類別獨(dú)立子空間映射矩陣Ac可以通過(guò)求解式(7)的前k個(gè)最小特征向量得到。

        2.3 基于子空間的后驗(yàn)概率分類器融合

        在不同類別獨(dú)立子空間中,域適應(yīng)算法映射特征不同。對(duì)于總共C個(gè)類別獨(dú)立子空間,目標(biāo)域樣本分類結(jié)果至少有C種。因而本文提出的類別獨(dú)立子空間域適應(yīng)算法可以產(chǎn)生更加豐富的信息。為了利用多個(gè)子空間的信息來(lái)優(yōu)化分類結(jié)果,我們提出生成并融合每個(gè)子空間后驗(yàn)概率的分類方法。

        首先,我們基于類別獨(dú)立子空間生成兩種后驗(yàn)概率:

        2.4 基于空間先驗(yàn)的偽標(biāo)簽學(xué)習(xí)

        在進(jìn)行代表性樣本選擇和類別獨(dú)立子空間學(xué)習(xí)時(shí),都需要目標(biāo)域的偽標(biāo)簽。偽標(biāo)簽的學(xué)習(xí)至關(guān)重要。為了避免分類結(jié)果產(chǎn)生較大噪聲,我們采用基于空間先驗(yàn)的分割方法(Li等,2012)對(duì)式(10)生成的所有樣本的后驗(yàn)概率進(jìn)行后處理,得到更平滑的偽標(biāo)簽。采用該分割方法的好處是其使用的空間先驗(yàn)和圖割算法(Boykov等,2001)考慮了樣本間的數(shù)據(jù)自適應(yīng)關(guān)系,防止分割結(jié)果過(guò)平滑。

        結(jié)合上述幾個(gè)部分,我們提出的類別獨(dú)立的域適應(yīng)算法(CIDA)的具體步驟見(jiàn)算法1。

        算法1 CIDA算法:

        輸入:源域數(shù)據(jù)Ds,目標(biāo)域數(shù)據(jù)Dt,源域標(biāo)簽Ys,參數(shù)r,k,α,迭代次數(shù)T。

        (1)分別選擇源域和目標(biāo)域代表性樣本集:Xs,Xt。

        (2)用源域標(biāo)簽訓(xùn)練的基分類器分類目標(biāo)域數(shù)據(jù),得到目標(biāo)域偽標(biāo)簽

        (3)循環(huán):1)求解式(7)中的投影矩陣Ac,c∈{1,2,…,C}。2)將數(shù)據(jù)映射到每個(gè)類別獨(dú)立子空間中:

        3)根據(jù)式(10)計(jì)算目標(biāo)域數(shù)據(jù)的后驗(yàn)概率。

        直到迭代次數(shù)達(dá)到T,退出循環(huán)

        3 實(shí)驗(yàn)結(jié)果

        3.1 實(shí)驗(yàn)數(shù)據(jù)

        (1)洪湖ZY1-02D數(shù)據(jù)集:利用ZY1-02D衛(wèi)星分別于2020年5月18 日和2021年5月24 日在洪湖地區(qū)獲取的兩幅高光譜圖像。高光譜傳感器空間分辨率為30 m。VNIR(可見(jiàn)光與近紅外)部分和SWIR(短波紅外)共包含166個(gè)波段。實(shí)驗(yàn)刪除了其中39個(gè)信息損失嚴(yán)重的波段。為了驗(yàn)證域適應(yīng)算法的有效性,將2020年5月18日的高光譜圖像作為源域數(shù)據(jù),尺寸為500×1300×127,其假彩色圖像見(jiàn)圖1(a);將2021年5月24日數(shù)據(jù)進(jìn)行剪裁作為目標(biāo)域,大小為119×374×127,如圖1(c)。

        圖1 洪湖ZY1-02D數(shù)據(jù)集的假彩色圖像以及4類地物標(biāo)記圖Fig.1 False color and ground truth images of Honghu ZY1-02D dataset

        通過(guò)調(diào)研,兩幅高光譜圖像標(biāo)注了植被、水體、建筑區(qū)、農(nóng)田4 類地物,其中源域標(biāo)注個(gè)65989 樣本,目標(biāo)域標(biāo)注6807 個(gè)樣本。各類分布信息見(jiàn)表1。

        表1 洪湖數(shù)據(jù)源域和目標(biāo)域各類樣本數(shù)量Table 1 The number of samples in the source and target domains of Honghu data

        (2)溫縣GF-5 數(shù)據(jù)集:利用高分五號(hào)AHSI(可見(jiàn)短波紅外高光譜相機(jī))分別于2019年11月10日和2019年12月31日在河南省焦作溫縣附近的黃河區(qū)域獲取的兩幅高光譜圖像。數(shù)據(jù)集空間分辨率為30 m,每幅圖像均包含330個(gè)波段。實(shí)驗(yàn)刪除了其中69個(gè)低信噪比的波段。源域數(shù)據(jù)(2019-11-10)和目標(biāo)域數(shù)據(jù)(2019-12-31)的尺寸均為960×960×261,其假彩色圖像見(jiàn)圖2。兩幅高光譜圖像均標(biāo)注了大量樣本,包含植被、水體、建筑區(qū)、農(nóng)田4類地物,其中源域標(biāo)注個(gè)139886樣本,目標(biāo)域標(biāo)注101026個(gè)樣本。各類分布信息見(jiàn)表2。

        表2 溫縣數(shù)據(jù)源域和目標(biāo)域各類樣本數(shù)量Table 2 The number of samples in the source and target domains of Wen-County data

        圖2 溫縣GF-5數(shù)據(jù)集的假彩色圖像及地物標(biāo)記圖Fig.2 False color images and ground-truths of Wen-County GF-5 dataset

        本文采用了t-SNE(Anowar等,2021)降維方法對(duì)洪湖ZY1-02D 數(shù)據(jù)和溫縣GF-5 數(shù)據(jù)的原始光譜特征分別進(jìn)行二維可視化,如圖3所示,實(shí)心圓點(diǎn)表示源域樣本,空心三角形代表目標(biāo)域樣本,4 種顏色的點(diǎn)分別指向表1 和表2 中的4 種地物類別。圖3表明了本文選取的兩個(gè)數(shù)據(jù)集的源域圖像和目標(biāo)域圖像在各類分布上有明顯差異,其中農(nóng)田和植被特征伴隨著獨(dú)特的物候變化,水體包含泥沙沉積和漂浮物等方面的差異,建筑區(qū)具有多種地物混合特性。因此,我們將在這兩個(gè)數(shù)據(jù)集上實(shí)現(xiàn)跨域分類任務(wù),以驗(yàn)證本文提出的域適應(yīng)算法的有效性。

        圖3 高光譜跨域數(shù)據(jù)集中的各類別地物分布Fig.3 Distribution of ground objects in each class in hyperspectral cross-domain datasets

        此外,為了在跨域分類任務(wù)中衡量特征可分性,本文利用了源域和目標(biāo)域的全部有標(biāo)記樣本,采用Fisher 判別分析方法(Zandifar等,2022)的目標(biāo)公式計(jì)算可分性指標(biāo)J3:

        式中,Sb為類間散度矩陣,Sw為類內(nèi)散度矩陣。J3越大表明不同類樣本特征差異越大,同類樣本特征差異越小,即特征可分性越高。圖3(a)和(b)的括號(hào)內(nèi)分別記錄了兩個(gè)數(shù)據(jù)的J3指標(biāo)數(shù)值,用于后續(xù)與域適應(yīng)算法遷移后的特征對(duì)比。

        3.2 對(duì)比算法

        本文提出的類別獨(dú)立的域適應(yīng)算法(CIDA)在實(shí)驗(yàn)中對(duì)比了如下幾種算法:

        (1)NA(No Adaptation):用源域標(biāo)記樣本學(xué)習(xí)的分類器直接分類目標(biāo)域數(shù)據(jù)。

        (2)PCA(Principal Component Analysis):將源域和目標(biāo)域樣本投影到去除噪聲的低維子空間中。

        (3)SA(Subspace Alignment)(Fernando等,2013):將源域的PCA 變換子空間與目標(biāo)域的PCA變換子空間對(duì)齊。

        (4)CORAL(CORrelation Alignment)(Sun等,2016):通過(guò)線性映射,對(duì)齊源域和目標(biāo)域的協(xié)方差矩陣。

        (5)CCCA(Class Centroid and Covariance Alignment)(Ma等,2019):迭代對(duì)齊類質(zhì)心和同類樣本的協(xié)方差矩陣。

        (6)TCA(Transfer Component Analysis)(Pan等,2011):在核希爾伯特空間中最小化源域樣本均值和目標(biāo)域樣本均值之間的距離。

        (7)JDA(Joint Domain Adaptation)(Long等,2013):同時(shí)最小化源域和目標(biāo)域總體均值距離以及兩個(gè)域的各類均值距離。

        (8)MRDA(Manifold Regularized Distribution Adaptation)(Luo 和Ma,2018):在JDA 基礎(chǔ)上同時(shí)考慮流形正則化約束。

        (9)JGSA(Joint Geometrical and Statistical Alignment)(Zhang等,2017):學(xué)習(xí)兩個(gè)分別用于源域和目標(biāo)域的耦合映射,在減小幾何和分布差異的同時(shí)增大特征可分性。

        上述域適應(yīng)算法將兩個(gè)域的樣本對(duì)齊后,將使用最近鄰分類器NN(Nearest Neighbor)和基于線性核的支持向量機(jī)SVM(Support Vector Machine)對(duì)目標(biāo)域高光譜圖像分類。目標(biāo)域樣本的分類結(jié)果將作為偽標(biāo)簽用于域適應(yīng)算法的迭代過(guò)程。除了上述傳統(tǒng)算法外,考慮到深度學(xué)習(xí)可以獲得跨域分類任務(wù)中可遷移能力更強(qiáng)的特征(Tang等,2022),本文還對(duì)比了近年來(lái)最先進(jìn)的兩種基于深度學(xué)習(xí)的高光譜圖像域適應(yīng)算法:

        (10)CLDA(Confident Learning-based Domain Adaptation)(Fang等,2022):將域適應(yīng)和置信學(xué)習(xí)相結(jié)合,根據(jù)分配的標(biāo)簽和預(yù)測(cè)的概率來(lái)評(píng)估每個(gè)偽標(biāo)記目標(biāo)樣本的置信度。選擇高置信度的目標(biāo)樣本作為訓(xùn)練數(shù)據(jù),提高神經(jīng)網(wǎng)絡(luò)的識(shí)別能力。

        (11)TSTnet(Topological structure and Semantic information Transfer network)(Zhang等,2023):基于CNN 特征動(dòng)態(tài)構(gòu)建源域和目標(biāo)域的子圖,使用圖最優(yōu)傳輸來(lái)對(duì)齊源域和目標(biāo)域的拓?fù)潢P(guān)系。

        本文提出算法與上述11 種方法進(jìn)行了對(duì)比。目標(biāo)域樣本的總體分類精度OA(Overall Accuracy)將作為算法性能評(píng)價(jià)指標(biāo)。

        3.3 參數(shù)設(shè)置

        (1)設(shè)置域適應(yīng)算法(僅需要用到偽標(biāo)簽信息的算法)的迭代次數(shù):T=20。

        (2)用于計(jì)算投影矩陣的代表性樣本數(shù)量設(shè)置:洪湖數(shù)據(jù)在源域每類選取個(gè),溫縣數(shù)據(jù)在源域每類選取0.1個(gè)。=Nc是最小的單類樣本數(shù)量,Nc是第c類的樣本數(shù)量。在目標(biāo)域的每類選擇符合準(zhǔn)則的前50%個(gè)代表性樣本(且不大于10000個(gè)樣本)用于計(jì)算投影矩陣。

        (3)設(shè)置訓(xùn)練樣本:考慮到源域標(biāo)記樣本數(shù)量大,為了降低分類器的計(jì)算復(fù)雜度,對(duì)源域標(biāo)記樣本隨機(jī)采樣后再輸入分類器。對(duì)于洪湖數(shù)據(jù),隨機(jī)采樣30%,對(duì)于溫縣數(shù)據(jù),隨機(jī)采樣10%。

        (4)設(shè)置后驗(yàn)概率融合權(quán)重:α=0.5。

        (5)投影子空間維度k等參數(shù)與其他域適應(yīng)方法設(shè)置一致。

        3.4 實(shí)驗(yàn)結(jié)果

        3.4.1 洪湖數(shù)據(jù)實(shí)驗(yàn)

        所有算法的分類精度見(jiàn)表3,在傳統(tǒng)域適應(yīng)方法里,提出的CIDA 算法在兩種分類器上均取得了最高的分類精度。由于CIDA 是基于JDA 提出的算法,與JDA 相比,CIDA 的分類精度在NN 上提高了9.56%,在SVM 上提高了1%。與深度學(xué)習(xí)方法相比,CIDA 在NN 上的分類精度比CLDA 提高了9.87%,比TSTnet提高了4.14%。除此之外:

        表3 洪湖數(shù)據(jù)分類結(jié)果Table 3 Classification results on Honghu data

        (1)CORAL 和JGSA 算法在處理洪湖數(shù)據(jù)之后,分類精度相比NA 更低。說(shuō)明CORAL 的協(xié)方差對(duì)齊和JGSA 的耦合映射不適用于洪湖數(shù)據(jù)。由于洪湖數(shù)據(jù)存在嚴(yán)重的類間混疊,且代表性樣本集和全部數(shù)據(jù)的特性(協(xié)方差矩陣、類內(nèi)類間散度)差異,這些算法并不能縮小源域和目標(biāo)域的偏差。

        (2)PCA 降維算法和SA 子空間對(duì)齊算法在使用NN 分類器時(shí)性能相比NA(使用原始特征)沒(méi)有提升,而使用SVM 分類器時(shí)相比NA 有較大提升,說(shuō)明的PCA 和SA 得到的對(duì)齊特征對(duì)分類器有限制,在區(qū)分地物類別上沒(méi)有優(yōu)勢(shì)。

        (3)TCA 和JDA 算法均有所提升。然而TCA旨在對(duì)齊兩個(gè)域的總體均值,忽略了各類的特征偏移,分類效果沒(méi)有JDA提升大。JDA同時(shí)考慮所有類別的特征對(duì)齊,在偏移較大、類間混合嚴(yán)重時(shí),分類性能的提升受到限制。

        (4)CCCA 利用了類中心偏移方法直接對(duì)齊兩個(gè)域的同類地物,在初始精度較高的NN 分類器上可以達(dá)到不錯(cuò)的對(duì)齊效果。但初始精度較低的SVM 分類器提供的偽標(biāo)簽嚴(yán)重惡化了算法的對(duì)齊性能,導(dǎo)致分類精度降低。

        (5)從表3 中可以看出MRDA 算法和提出的CIDA 算法均能達(dá)到較好的效果。其中MRDA 算法增加流形約束,目的是在特征對(duì)齊的同時(shí)保持局部幾何結(jié)構(gòu),在NN 分類器上相比JDA 提升較大,但是在SVM 分類器上表現(xiàn)稍弱。而提出的CIDA 方法在NN和SVM兩個(gè)分類器上均表現(xiàn)最優(yōu),能有效改善其他算法難以同時(shí)對(duì)齊每個(gè)類的問(wèn)題。

        除分類精度外,本文針對(duì)其他方面分析如下:

        (1)分類圖:圖4展示了幾種精度較高的域適應(yīng)算法對(duì)洪湖ZY1-02D 目標(biāo)域圖像的分類圖。提出的CIDA 算法的分類結(jié)果不僅局部更加平滑,且水體、建筑區(qū)等地物邊界更加清晰準(zhǔn)確。而CCCA將左上部分的水體錯(cuò)分成了植被,同時(shí)將大量其他地物錯(cuò)分為了建筑區(qū),且右邊的水體預(yù)測(cè)結(jié)果破碎不完整。JDA 和MRDA 的預(yù)測(cè)結(jié)果包含大量噪點(diǎn),且在水體中間錯(cuò)誤預(yù)測(cè)出很多建筑區(qū)?;谏疃葘W(xué)習(xí)的CLDA和TSTnet方法雖然能得到平滑的分類結(jié)果,但也模糊了地物邊界和小面積的地物類別,產(chǎn)生了過(guò)平滑的效果。

        圖4 洪湖ZY1-02D目標(biāo)域圖像的分類圖Fig.4 Classification maps of the target image in ZY1-02D

        (2)特征可分性分析:基于t-SNE方法將幾種典型算法生成的特征進(jìn)行二維可視化展示,如圖5和圖6 所示(括號(hào)中記錄了特征的可分性指標(biāo)),這些算法結(jié)果的生成過(guò)程由KNN提供偽標(biāo)簽。

        圖5 對(duì)比算法的特征二維可視化Fig.5 Two dimensional visualization of features in contrast algorithms

        圖6 CIDA算法在4個(gè)類別獨(dú)立子空間中特征可視化Fig.6 Feature visualization of CIDA algorithm in four class-independent subspaces

        圖6 展示了CIDA 算法將樣本分別投影到4 個(gè)類別獨(dú)立子空間中的分布,最后CIDA 的分類結(jié)果聯(lián)合了這4個(gè)子空間分布來(lái)學(xué)習(xí)。

        圖5 和圖6 中源域和目標(biāo)域同類樣本聚合越緊密,不同類樣本分布越遠(yuǎn)離,樣本特征可分性越好。對(duì)比圖5和圖6可知,CIDA、CCCA、MRDA這3種特征分布比PCA 和JDA 的特征分布少了很多類間混疊。另外,對(duì)比圖3(a)和圖6可知,提出的CIDA 算法在每個(gè)子空間對(duì)齊后的特征相比原始光譜特征的可分性指標(biāo)提升較大,且在類別獨(dú)立子空間2 和子空間3 中的可分性指標(biāo)比PCA、CCCA、JDA、MRDA 的指標(biāo)都高,因而具有學(xué)習(xí)出更好分類特征的潛力。

        (3)收斂性分析:利用了偽標(biāo)簽的域適應(yīng)遷移算法均迭代計(jì)算了20次,得到精度變化曲線如圖7 所示。從圖7(a)中可以看出,提出的CIDA 算法相比CCCA 能更快收斂,相比MRDA收斂到更高的精度;而JDA 和JGSA 算法始終振蕩難以收斂。圖7(b)同樣反映出提出的CIDA 算法能快速達(dá)到較好的收斂結(jié)果,而JDA 還處在一定幅度的振蕩過(guò)程中。另外,JGSA 仍難以收斂,CCCA 處于精度下降過(guò)程。

        圖7 域適應(yīng)算法迭代中的精度變化Fig.7 OAs in iterations of domain adaptation algorithms

        (4)參數(shù)分析:首先分析投影子空間維度k對(duì)算法性能的影響。圖8顯示的幾種算法會(huì)將源域和目標(biāo)域樣本映射到k維子空間中,可以看出MRDA以及提出的CIDA 算法在不同維度的子空間上都有較好的性能。PCA、SA、TCA 方法雖然對(duì)參數(shù)k穩(wěn)定,但優(yōu)勢(shì)不大。JDA方法對(duì)參數(shù)k十分敏感。

        圖8 參數(shù)k的影響Fig.8 The influence of parameter k

        其次分析后驗(yàn)概率融合權(quán)重α對(duì)提出的CIDA算法分類精度的影響。如圖9 所示,CIDA 算法精度始終在JDA 之上,且在大部分參數(shù)范圍內(nèi)遠(yuǎn)超于性能穩(wěn)定的MRDA算法。

        圖9 參數(shù)α的影響Fig.9 The influence of parameter α

        3.4.2 溫縣數(shù)據(jù)實(shí)驗(yàn)

        從表4 可以看出,提出的CIDA 算法同樣適用于溫縣數(shù)據(jù),在應(yīng)用NN和SVM 分類器時(shí)的分類精度均為最高。相較于JDA,提出的CIDA 算法的分類精度在NN 上提高了18.45%,在SVM 上提高了13.5%。相比于基于深度學(xué)習(xí)的CLDA 和TSTnet 方法,提出的CIDA 方法也高出20%以上。從表4 還可以看出如下幾點(diǎn):

        表4 溫縣數(shù)據(jù)分類結(jié)果Table 4 Classification results on Wen-County data

        (1)使用SVM 對(duì)原始數(shù)據(jù)分類(NA 算法)就已經(jīng)能達(dá)到較高的分類精度。

        (2)提出的CIDA 之外,其他算法均不適用于溫縣數(shù)據(jù)。這些算法在SVM 上的精度相比NA 更低,說(shuō)明經(jīng)這些算法處理后的特征的域適應(yīng)能力不如原始特征。

        (3)CIDA 的SVM 分類精度有所提升,表明提出的方法在域適應(yīng)過(guò)程中沒(méi)有降低特征可分性。

        一方面,從圖3(b)可以看出,溫縣GF-5 數(shù)據(jù)中地物混合嚴(yán)重,不同類別樣本很難從特征上區(qū)分開(kāi),僅利用光譜特征很難達(dá)到平滑的分類效果。另一方面,圖2的假彩色圖像反映出溫縣GF-5影像中存在大量不連續(xù)的區(qū)域,例如很多小面積的建筑區(qū)分散分布在各處,采用空間方法容易導(dǎo)致過(guò)平滑。因而,在該數(shù)據(jù)上得到既平滑又邊界保持良好的分類結(jié)果是難度較大的。在圖10中,基于深度學(xué)習(xí)的CLDA和TSTnet算法雖然局部平滑性相當(dāng)好,但過(guò)平滑問(wèn)題嚴(yán)重影響了分類精度。JDA、MRDA、CORAL算法對(duì)齊特征時(shí)忽略了類間混疊的問(wèn)題,局部區(qū)域的預(yù)測(cè)結(jié)果存在大量噪聲。而提出的CIDA 算法每次只對(duì)齊明顯屬于同類的樣本特征,實(shí)現(xiàn)了平滑性和細(xì)節(jié)最好的分類效果,如圖10(f)所示。

        圖10 溫縣GF-5目標(biāo)域圖像的分類圖Fig.10 Classification maps of the target image in Wen-County GF-5

        圖11 反映出提出的CIDA 算法的收斂性最好,在NN分類器上收斂到最高的分類精度,在SVM分類器上的性能也不會(huì)衰減。

        圖11 域適應(yīng)算法迭代中的精度變化Fig.11 OAs in iterations of domain adaptation algorithms

        圖12展示了CIDA 算法的參數(shù)穩(wěn)定性,在多個(gè)α值上都能保持最優(yōu)的性能。

        圖12 參數(shù)α的影響Fig.12 The influence of parameter α

        4 結(jié)論

        本文提出了一種類別獨(dú)立子空間的域適應(yīng)算法。該方法首先利用代表性樣本集計(jì)算每個(gè)類的獨(dú)立子空間,然后將源域和目標(biāo)域樣本分別投影到多個(gè)獨(dú)立子空間中,學(xué)習(xí)出多個(gè)后驗(yàn)概率并融合。在洪湖ZY1-02D 和溫縣GF-5數(shù)據(jù)上的實(shí)驗(yàn)結(jié)果表明,提出的算法將數(shù)據(jù)投影到子空間后,兩個(gè)域全體數(shù)據(jù)的可分性有明顯提高。投影到部分子空間后的數(shù)據(jù)可分性相比JDA 和MRDA 的結(jié)果更優(yōu),體現(xiàn)了提出算法在對(duì)齊域間特征和提升數(shù)據(jù)可分性方面的能力,因而具有實(shí)現(xiàn)目標(biāo)域高精度分類的潛力。NN 和SVM 的分類精度也表明,提出的算法不僅得到了最好的分類結(jié)果,且性能穩(wěn)定(在迭代計(jì)算過(guò)程中穩(wěn)定增長(zhǎng),且能在偽標(biāo)簽精度較低的情況下實(shí)現(xiàn)性能提升)。然而,本文提出的算法和實(shí)驗(yàn)仍有一定的局限性,我們將其總結(jié)如下,以便在未來(lái)進(jìn)一步研究:

        (1)當(dāng)數(shù)據(jù)量較大時(shí),在多個(gè)獨(dú)立子空間計(jì)算后驗(yàn)概率相比于特征變換的時(shí)間復(fù)雜度更高。未來(lái)將探索如何利用多個(gè)類別獨(dú)立子空間構(gòu)造出域適應(yīng)能力更強(qiáng)的特征。

        (2)對(duì)于不同子空間得到的后驗(yàn)概率,CIDA采取了非線性融合的方法得到最終的分類結(jié)果。然而不同子空間對(duì)特定問(wèn)題下的特征遷移貢獻(xiàn)率有待更深入研究,我們將在未來(lái)工作中考慮對(duì)不同子空間的輸出進(jìn)行更具有物理意義地融合。

        (3)提出的CIDA 算法基于原始特征進(jìn)行域適應(yīng)對(duì)齊,忽略了深度特征在分類領(lǐng)域的優(yōu)勢(shì)。未來(lái)將考慮結(jié)合深度學(xué)習(xí)優(yōu)化域適應(yīng)的對(duì)齊特征。

        (4)域間的遷移在減少同類差異的同時(shí)也會(huì)降低地物的類間判別性,即不同地物變得更難區(qū)分。當(dāng)?shù)匚镱悇e增多時(shí),域適應(yīng)在平衡域間差異和可分性時(shí)變得更加困難,因而在精細(xì)分類任務(wù)上實(shí)現(xiàn)域適應(yīng)是一種極大的挑戰(zhàn)。目前的域適應(yīng)研究主要集中在少量類別分類問(wèn)題上。然而考慮到高光譜數(shù)據(jù)在精細(xì)分類上的優(yōu)勢(shì),我們會(huì)在未來(lái)研究中設(shè)計(jì)適合精細(xì)分類任務(wù)的域適應(yīng)方法。

        猜你喜歡
        分類特征
        抓住特征巧觀察
        分類算一算
        垃圾分類的困惑你有嗎
        大眾健康(2021年6期)2021-06-08 19:30:06
        新型冠狀病毒及其流行病學(xué)特征認(rèn)識(shí)
        如何表達(dá)“特征”
        不忠誠(chéng)的四個(gè)特征
        分類討論求坐標(biāo)
        數(shù)據(jù)分析中的分類討論
        教你一招:數(shù)的分類
        抓住特征巧觀察
        国产成人综合日韩精品无码| 亲少妇摸少妇和少妇啪啪| 亚洲五码av在线观看| 玖玖色玖玖草玖玖爱在线精品视频 | 国产成人综合亚洲国产| 日本av一级片免费看| 免费无码a片一区二三区| 无码中文字幕加勒比一本二本| 国产一区二区精品网站看黄| av天堂亚洲另类色图在线播放 | 国产av大片在线观看| 免费国产黄片视频在线观看| 国产精品久久国产精麻豆| 亚洲国产精品一区二区成人片国内| 九九精品国产亚洲av日韩| 久久亚洲高清观看| 搞黄色很刺激的网站二区| 亚洲男女内射在线播放| 波多野结衣乳巨码无在线| 亚洲女同成av人片在线观看| 国产丝袜长腿在线看片网站| 亚洲精品国偷拍自产在线| 亚洲综合精品成人| 狠狠色噜噜狠狠狠狠97俺也去| 成人高清在线播放视频| 久久久国产打桩机| 免费一区二区三区久久| av网址不卡免费在线观看| 国产一区二区三区三区四区精品| 中文日韩亚洲欧美制服| 一区二区三区不卡在线| 五月婷婷丁香视频在线观看| 亚洲av无码一区东京热| 最新亚洲av日韩av二区| 中文字幕精品永久在线| 最新中文字幕一区二区| 亚洲第一无码xxxxxx| 国产欧美日本亚洲精品一4区| 国产精品又湿又黄九九九久久嫩草 | 三个男吃我奶头一边一个视频| 久久久久亚洲av无码观看|