亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)

        2022-01-23 05:10:16李崇陽(yáng)
        關(guān)鍵詞:子域源域類別

        吳 蘭, 李崇陽(yáng)

        (河南工業(yè)大學(xué) 電氣工程學(xué)院 河南 鄭州 450001)

        0 引言

        近年來(lái),深度學(xué)習(xí)方法已經(jīng)成功應(yīng)用于機(jī)器視覺[1]、圖像處理等領(lǐng)域,這些成功的背后都離不開大量的帶標(biāo)簽數(shù)據(jù)支撐。但是在實(shí)際生活中,收集足夠多的帶標(biāo)簽數(shù)據(jù)是極其困難的。特別是在特殊領(lǐng)域,由于無(wú)法獲取足夠的帶標(biāo)簽數(shù)據(jù),導(dǎo)致該領(lǐng)域發(fā)展受限。遷移學(xué)習(xí)[2]的提出可以借助相關(guān)源域豐富的帶標(biāo)簽數(shù)據(jù)來(lái)解決目標(biāo)域無(wú)標(biāo)簽數(shù)據(jù)的問題。領(lǐng)域自適應(yīng)[3]是一種非常有效的遷移學(xué)習(xí)方法,能夠利用來(lái)自不同但相關(guān)源域豐富的帶標(biāo)簽數(shù)據(jù),將從源域?qū)W習(xí)的知識(shí)遷移到目標(biāo)域。

        領(lǐng)域自適應(yīng)的關(guān)鍵就是要減小源域樣本與目標(biāo)域樣本之間的域轉(zhuǎn)移問題,從大量帶標(biāo)簽數(shù)據(jù)的源域中學(xué)習(xí)域不變特征,遷移到目標(biāo)域上,從而解決目標(biāo)域標(biāo)簽樣本不足的問題。

        現(xiàn)有的領(lǐng)域自適應(yīng)方法大多數(shù)是基于全局的域自適應(yīng),將源域和目標(biāo)域全局分布對(duì)齊,沒有考慮到源域與目標(biāo)域類別的情況。在面對(duì)目標(biāo)域類別比源域類別數(shù)量少的部分領(lǐng)域自適應(yīng),此時(shí)將兩個(gè)域經(jīng)過全局域適應(yīng)后,兩個(gè)域特征分布大致相同,但是由于目標(biāo)域的類別數(shù)量少,源域類別數(shù)量多,在對(duì)齊的過程中勢(shì)必會(huì)將目標(biāo)域本身的特征信息分配給只出現(xiàn)在源域的類別,從而導(dǎo)致負(fù)遷移?,F(xiàn)有針對(duì)部分域自適應(yīng)的方法常見的是基于對(duì)抗性的。但基于對(duì)抗性的方法的本質(zhì)也是將兩個(gè)域的特征分布進(jìn)行全局對(duì)齊,可能會(huì)丟失數(shù)據(jù)本身的細(xì)粒度信息。

        基于以上問題,本文提出一種深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò),通過加權(quán)跨域?qū)R相關(guān)的子域分布,增強(qiáng)深度領(lǐng)域自適應(yīng)網(wǎng)絡(luò)的特征學(xué)習(xí)能力,與以往的方法相比,更加關(guān)注子類信息,通過子域自適應(yīng)來(lái)學(xué)習(xí)每個(gè)類別的特征信息,同時(shí)考慮樣本特征的權(quán)重來(lái)減緩只存在源域的異常源類的負(fù)遷移。

        本文的主要貢獻(xiàn)包括3個(gè)方面:

        1) 提出一種新的深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)(deep-weighted subdomain adaptive network, DWSAN),通過權(quán)重設(shè)置,弱化只出現(xiàn)在源域的異常源類特征對(duì)目標(biāo)域?qū)W習(xí)源域相關(guān)類別特征信息的影響,最大限度將目標(biāo)域的類別與相關(guān)源類進(jìn)行子域?qū)R,從而為解決部分領(lǐng)域自適應(yīng)問題提供思路。

        2) 提出一種局部加權(quán)最大均值差異方法,通過權(quán)重設(shè)置來(lái)減緩異常源類的特征在遷移過程中對(duì)目標(biāo)域的影響,并且對(duì)目標(biāo)域和源域都存在的每個(gè)子類的特征分布差異進(jìn)行優(yōu)化。

        3) 本文采用的網(wǎng)絡(luò)結(jié)構(gòu)是非對(duì)抗性的,優(yōu)化參數(shù)少,比以前的基于對(duì)抗的模型結(jié)構(gòu)簡(jiǎn)單。

        1 相關(guān)工作

        1.1 深度域自適應(yīng)

        深度域自適應(yīng)是利用深度網(wǎng)絡(luò)來(lái)增強(qiáng)域自適應(yīng)性能的一種方法。深度網(wǎng)絡(luò)學(xué)習(xí)的特征更具有代表性和可遷移性。與傳統(tǒng)的方法相比,深度域自適應(yīng)方法通過將域自適應(yīng)和深度神經(jīng)網(wǎng)絡(luò)相結(jié)合,利用深度網(wǎng)絡(luò)學(xué)習(xí)更多可遷移的特征。

        深度域自適應(yīng)主要有基于差異和基于對(duì)抗兩種方法?;诓町惖纳疃扔蜃赃m應(yīng)方法主要是利用目標(biāo)域標(biāo)記的或者未標(biāo)記的數(shù)據(jù)對(duì)深度網(wǎng)絡(luò)模型進(jìn)行調(diào)整,以此來(lái)減少兩個(gè)域的分布差異。最大均值差異[4](maximum mean discrepancy, MMD)是最常用的比較和減少域間分布差異的非參數(shù)方法,除此之外還有相關(guān)對(duì)齊(CORAL)[5]、Kullback-Leibler(KL)散度[6]等方法。文獻(xiàn)[7]提出了一種極其簡(jiǎn)單的域自適應(yīng)神經(jīng)網(wǎng)絡(luò)(domain adaptive neural network, DaNN),該方法是一種新的深度結(jié)構(gòu)域自適應(yīng)方法,在特征層之后加入MMD自適應(yīng)層來(lái)測(cè)量?jī)蓚€(gè)域之間的特征分布差異?;趯?duì)抗的深度域自適應(yīng)方法是通過域鑒別器來(lái)混淆用于分類的數(shù)據(jù)是來(lái)自源域還是目標(biāo)域,以此來(lái)最小化源域與目標(biāo)域映射在特征空間的分布差異。文獻(xiàn)[8]提出了一種新的領(lǐng)域?qū)股窠?jīng)網(wǎng)絡(luò)(domain adversarial neural network, DANN),首次將對(duì)抗學(xué)習(xí)的思想引入遷移學(xué)習(xí),該模型最小化標(biāo)簽分類器的損失函數(shù)以提取具有區(qū)分能力的特征,最大化分類器的損失函數(shù)以提取具有域不變性的特征,從而減少域遷移。文獻(xiàn)[9]提出了一種對(duì)抗判別域自適應(yīng)(adversarial discriminative domain adaptation, ADDA)模型,將生成式對(duì)抗網(wǎng)絡(luò)(generative adversarial network, GAN)[10]損失、權(quán)重共享和判別建模相結(jié)合,對(duì)域差異進(jìn)行優(yōu)化。文獻(xiàn)[11]提出的部分對(duì)抗性域自適應(yīng)(partial adversarial domain adaptation, PADA)通過對(duì)抗的思想對(duì)齊兩個(gè)域的全局分布,同時(shí)減小在異常源類的類別權(quán)重而增大源域中目標(biāo)域相關(guān)類別的權(quán)重,把問題轉(zhuǎn)化為傳統(tǒng)遷移學(xué)習(xí)問題。文獻(xiàn)[12]提出了選擇對(duì)抗網(wǎng)絡(luò)(selective adversarial network, SAN)來(lái)解決部分領(lǐng)域自適應(yīng)問題,文獻(xiàn)[12]和文獻(xiàn)[11]的整體思路和架構(gòu)幾乎一樣,最大的不同是文獻(xiàn)[12]使用了多個(gè)域鑒別器,源域有多少類就有多少個(gè)域鑒別器,而文獻(xiàn)[11]只有一個(gè)域鑒別器。文獻(xiàn)[13]提出了重要性加權(quán)對(duì)抗網(wǎng)絡(luò)(importance weighted adversarial network, IWAN),該網(wǎng)絡(luò)針對(duì)部分遷移問題的解決方案是,選擇出源域中與目標(biāo)域都存在的類別里的樣本,給它們賦予高權(quán)重,異常源類里的樣本賦予低權(quán)重,將問題轉(zhuǎn)化為傳統(tǒng)的遷移學(xué)習(xí)問題。

        1.2 最大均值差異(MMD)

        MMD等多種測(cè)量?jī)蓚€(gè)域特征分布的度量方法都被應(yīng)用于域適應(yīng),除此之外還有一些基于MMD的擴(kuò)展也被應(yīng)用于域自適應(yīng)。文獻(xiàn)[14]提出了一種深度殘差傳輸網(wǎng)絡(luò)(residual transfer network, RTN)域自適應(yīng)方法,除了使用MMD適應(yīng)特征外,還增加了一個(gè)門控殘余層用于分類器自適應(yīng)。文獻(xiàn)[15]提出了一種新的深度自適應(yīng)網(wǎng)絡(luò)結(jié)構(gòu)(deep adaptation network, DAN),在條件分布保持不變的前提下,通過嵌入多個(gè)任務(wù)特定層和多核來(lái)優(yōu)化匹配邊緣分布學(xué)習(xí)可轉(zhuǎn)移特征,而不是使用單層線性MMD。文獻(xiàn)[16]提出聯(lián)合自適應(yīng)網(wǎng)絡(luò)(joint adaptation network, JAN),該網(wǎng)絡(luò)通過聯(lián)合最大平均誤差(joint maximum mean discrepancy, JMMD)準(zhǔn)則來(lái)調(diào)整多個(gè)領(lǐng)域特定層的聯(lián)合分布來(lái)學(xué)習(xí)遷移網(wǎng)絡(luò),采用對(duì)抗性訓(xùn)練策略使JMMD最大化,使源域和目標(biāo)域的分布更容易區(qū)分。

        MMD值最常用的定義為再生核希爾伯特空間(reproducing kernel Hilbert space, RKHS)中邊緣分布Ps和Pt的內(nèi)核嵌入之間的平方距離。MMD值越小,表示源域與目標(biāo)域的特征分布越相似。

        源域與目標(biāo)域的特征分布距離可以表述為

        其中:φ是特征映射;k是φ的核函數(shù);Hk代表具特色核k的RKHS。

        1.3 子域自適應(yīng)

        近年來(lái)越來(lái)越多研究人員對(duì)子域自適應(yīng)進(jìn)行了深入的研究,文獻(xiàn)[17]提出了一種利用子空間對(duì)齊的遷移框架,源域和目標(biāo)域均用特征向量矩陣描述的子空間表示。文獻(xiàn)[18]提出了基于RCNN的目標(biāo)檢測(cè)器的子空間對(duì)齊的域自適應(yīng)算法。在基于子空間的對(duì)象域適應(yīng)中,需要訪問源子空間和目標(biāo)子空間來(lái)獲得特征。文獻(xiàn)[19]提出將特征映射到低維子空間,在子空間中進(jìn)行聯(lián)合適配。

        本文提出的深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)設(shè)計(jì)了一種新的局部加權(quán)最大平均差異來(lái)優(yōu)化目標(biāo)域和源域相關(guān)子類的特征分布差異,通過設(shè)置權(quán)重盡量減少異常源類在域自適應(yīng)過程中的負(fù)遷移。

        2 深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)

        2.1 基本定義

        2.2 深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)

        本文針對(duì)部分領(lǐng)域自適應(yīng)問題提出了深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)。與以往的方法不同,本次實(shí)驗(yàn)沒有采用對(duì)抗性的方法,網(wǎng)絡(luò)結(jié)構(gòu)更加簡(jiǎn)單,提出了局部加權(quán)最大平均差異方法。通過給源域類別設(shè)置權(quán)重參數(shù),來(lái)緩解異常源類數(shù)據(jù)在子域自適應(yīng)過程中對(duì)目標(biāo)域數(shù)據(jù)產(chǎn)生的影響。網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

        圖1 深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

        通過對(duì)深度神經(jīng)網(wǎng)絡(luò)的研究發(fā)現(xiàn),深度網(wǎng)絡(luò)可以學(xué)習(xí)更深層次的可遷移特征,并且這些特征更具有代表性,在深度域自適應(yīng)中提取的特征好壞會(huì)直接影響模型的泛化性能。因此,本文的特征提取器Gf是在ImageNet模型中預(yù)先訓(xùn)練的ResNet-50模型的基礎(chǔ)上微調(diào)得到的,該模型可以充分利用預(yù)訓(xùn)練過的模型和原始網(wǎng)絡(luò)參數(shù)的優(yōu)點(diǎn)。通過特征提取器Gf提取輸入數(shù)據(jù)的深度域不變特征,并在兩個(gè)域之間共享特征提取器Gf的權(quán)值。其中,fs表示從源域提取的特征,ft表示從目標(biāo)域提取的特征。

        源分類器Gy將特征提取器Gf獲得的域不變特征f作為輸入,可以得到預(yù)測(cè)輸出。將源分類器的權(quán)值共享給目標(biāo)域分類器。

        為獲取域不變特征f,通過優(yōu)化特征提取器Gf的參數(shù)θf(wàn),同時(shí)優(yōu)化源分類器Gy的參數(shù)θy來(lái)保證源分類器Gy的準(zhǔn)確性。除此之外還要優(yōu)化局部加權(quán)最大均值差異(weighted maximum mean discrepancy, WMMD)的參數(shù)θm,進(jìn)一步減小相關(guān)源類和目標(biāo)域類別的子域特征分布差異,從而提高傳遞精度。

        2.3 局部加權(quán)最大均值差異

        以往的基于MMD的方法重點(diǎn)關(guān)注全局分布的對(duì)齊,從而忽略了兩個(gè)域中同一類別之間的關(guān)系。尤其是在部分域自適應(yīng)問題中,由于異常源類的存在,直接進(jìn)行全局對(duì)齊就會(huì)產(chǎn)生負(fù)遷移。本文提出將源域和目標(biāo)域中同一類別的相關(guān)子域的分布進(jìn)行對(duì)齊。在對(duì)齊相關(guān)子域的同時(shí),把異常源類的影響降到最低,因此提出WMMD,給異常源類一個(gè)低權(quán)重,從而減少異常源類在對(duì)齊子域分布的影響。WMMD的分布距離可以表述為

        為了對(duì)齊相關(guān)子域的分布,設(shè)置源域每個(gè)類的權(quán)重參數(shù)為γ。

        γ是一個(gè)量化源域類別貢獻(xiàn)的|Cs|維向量。由于目標(biāo)域數(shù)據(jù)不屬于異常源類,因此針對(duì)異常源類的數(shù)據(jù)應(yīng)該有一個(gè)比較小的權(quán)重,這樣才能減少子域?qū)R的影響。通過將每個(gè)權(quán)重都除以這個(gè)權(quán)重向量中最大權(quán)值進(jìn)行歸一化處理,即:γ=γ/max(γ),從而達(dá)到將異常源類的權(quán)重貢獻(xiàn)明顯變小。這樣處理不管源域的類別數(shù)量比目標(biāo)域數(shù)量多還是相等,都可以得到源域類別的貢獻(xiàn)權(quán)重,從而引導(dǎo)目標(biāo)域數(shù)據(jù)減少分類錯(cuò)誤。

        2.4 損失函數(shù)

        本文提出的深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)的損失包括兩部分,一部分是在訓(xùn)練源分類器的源監(jiān)督損失,另一部分是利用WMMD對(duì)齊子域分布的損失。

        深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)的總體損失函數(shù)為

        3 實(shí)驗(yàn)結(jié)果及分析

        我們?cè)贠ffice-31[20]、Office-Home[21]和水下人造物體數(shù)據(jù)集上進(jìn)行了仿真實(shí)驗(yàn),以此來(lái)評(píng)估我們的方法與幾種先進(jìn)的深度域自適應(yīng)方法的性能。

        3.1 數(shù)據(jù)集

        Office-31是領(lǐng)域自適應(yīng)中使用最廣泛的數(shù)據(jù)集,從三個(gè)不同的領(lǐng)域收集了包含31個(gè)類別共計(jì)4 652張圖像,如圖2所示。這些圖像數(shù)據(jù)集分別為從亞馬遜網(wǎng)下載的Amazon(A)、通過網(wǎng)絡(luò)攝像頭和單反相機(jī)拍攝的Webcam(W)和DSLR(D)。使用Office-31和Caltech-256數(shù)據(jù)集共享的10類作為目標(biāo)域。設(shè)置6組域自適應(yīng)學(xué)習(xí)任務(wù),分別為A31→W10(A→W)、D31→W10(D→W)、W31→D10(W→D)、A31→D10(A→D)、D31→A10(D→A)、W31→A10(W→A)。每組學(xué)習(xí)任務(wù)源域?yàn)?1類,目標(biāo)域?yàn)?0類。

        圖2 Office-31數(shù)據(jù)集示例圖像

        Office-Home是一個(gè)復(fù)雜度更高的領(lǐng)域自適應(yīng)數(shù)據(jù)集,從4個(gè)不同的領(lǐng)域收集了65個(gè)類別共計(jì)15 588張圖像,如圖3所示。這些圖像分別來(lái)自藝術(shù)照片(A)、剪紙畫(C)、產(chǎn)品圖像(P)和現(xiàn)實(shí)世界圖像(R)。 將這四個(gè)域的數(shù)據(jù)分別作為源域,目標(biāo)域數(shù)據(jù)為按照字母排序的前25類圖像。基于此我們可以構(gòu)造12個(gè)學(xué)習(xí)任務(wù)。分別為A65→C25(A→C)、A65→P25(A→P)、A65→R25(A→R)、C65→A25(C→A)、C65→P25(C→P)、C65→R25(C→R)、P65→A25(P→A)、P65→C25(P→C)、P65→R25(P→R)、R65→A25(R→A)、R65→C25(R→C)、R65→P25(R→P)。每組學(xué)習(xí)任務(wù)源域?yàn)?5類,目標(biāo)域?yàn)?5類。

        圖3 Office-Home數(shù)據(jù)集示例圖像

        水下數(shù)據(jù)集:借助文獻(xiàn)[22]提出的不需要額外的圖像深度信息就能獲得滿意的水下圖像的方法,基于Office-31和Caltech-256數(shù)據(jù)集共享的10類數(shù)據(jù)集為基礎(chǔ),得到的渾濁度分別為0.5、1.0、1.5、2.0的水下數(shù)據(jù)集。水下數(shù)據(jù)集示例如圖4所示。將得到的水下數(shù)據(jù)集作為目標(biāo)域,Office-31數(shù)據(jù)集作為源域,針對(duì)每種渾濁度的水下數(shù)據(jù)集分別構(gòu)造了以下9個(gè)學(xué)習(xí)任務(wù)。A31→U_A10(A→U_A)、A31→U_W10(A→U_W)、A31→U_D10(A→U_D)、W31→U_A10(W→U_A)、W31→U_W10(W→U_W)、W31→U_D10(W→U_D)、D31→U_A10(D→U_A)、D31→U_W10(D→U_W)和D31→U_D10(D→U_D)。每組學(xué)習(xí)任務(wù)源域?yàn)?1類,目標(biāo)域?yàn)?0類。

        圖4 水下數(shù)據(jù)集示例圖像

        針對(duì)Office-31和Office-Home數(shù)據(jù)集將本文提出的深度加權(quán)子域自適應(yīng)與其他主流的深度學(xué)習(xí)方法進(jìn)行了性能對(duì)比。針對(duì)Office-31數(shù)據(jù)集比較的方法有深度殘差網(wǎng)絡(luò)ResNet[1]、深度自適應(yīng)網(wǎng)絡(luò)DAN[15]、RTN[14]、DANN[8]、ADDA[9]、JAN[16]、PADA[11]、IWAN[13]。針對(duì)Office-Home數(shù)據(jù)集比較的方法有ResNet[1]、DAN[15]、RTN[14]、ADDA[9]、PADA[11]、IWAN[13]、SAN[12]。除此之外,還利用水下數(shù)據(jù)集測(cè)試了我們的方法。

        3.2 實(shí)驗(yàn)結(jié)果及分析

        基于ResNet-50對(duì)Office-31數(shù)據(jù)集的6個(gè)任務(wù)的分類結(jié)果如表1所示,黑體表示該遷移任務(wù)的最高準(zhǔn)確率。從表1可以看出:

        表1 Office-31數(shù)據(jù)集用于域適應(yīng)的準(zhǔn)確率(ResNet-50)

        1) DAN、DANN、ADDA、JAN的分類正確率都低于ResNet,由此可見,這些方法在面對(duì)部分領(lǐng)域自適應(yīng)問題負(fù)遷移的現(xiàn)象很嚴(yán)重。

        2) RTN方法雖然比ResNet有改進(jìn),但在一些任務(wù)上精度仍然不高,仍然存在負(fù)遷移問題。

        3) 部分域自適應(yīng)方法PADA、IWAN在結(jié)果上遠(yuǎn)比其他方法準(zhǔn)確率高,也正因?yàn)樗鼈兝眉訖?quán)機(jī)制才能緩解異常源類的負(fù)遷移,促進(jìn)相關(guān)源類的正遷移。

        4) 本文所提出的DWSAN在分類任務(wù)上取得的效果要比部分域自適應(yīng)方法PADA、IWAN要好,這也說明了本文提出的方法可以有效減緩異常源類的負(fù)遷移,促進(jìn)相關(guān)子域的正遷移。

        Office-Home數(shù)據(jù)集復(fù)雜度更高,更具有挑戰(zhàn)性,基于ResNet-50對(duì)Office-Home數(shù)據(jù)集的12個(gè)任務(wù)的分類結(jié)果如表2所示。黑體表示該遷移任務(wù)的最高準(zhǔn)確率。從表2可以看出:

        表2 Office-Home數(shù)據(jù)集用于域適應(yīng)的準(zhǔn)確率(ResNet-50)

        1) DAN、RTN、ADDA的分類準(zhǔn)確率在一些任務(wù)上分類精確度高于ResNet,但整體效果并不理想,這些方法在處理部分領(lǐng)域自適應(yīng)問題存在負(fù)遷移問題。

        2) 部分域自適應(yīng)方法PADA、IWAN、SAN在有些任務(wù)上比其他域自適應(yīng)方法表現(xiàn)優(yōu)秀,但由于數(shù)據(jù)集更具挑戰(zhàn)性,整體精度并沒有很突出。

        3) 本文所提出的DWSAN在分類任務(wù)上取得的效果比部分域自適應(yīng)方法PADA、SAN、IWAN好,這也說明了本文提出的方法可以有效減緩異常源類的負(fù)遷移,促進(jìn)相關(guān)子域的正遷移。

        對(duì)比實(shí)驗(yàn)結(jié)果進(jìn)一步說明:

        1) 在部分領(lǐng)域自適應(yīng)問題中,深度加權(quán)子域自適應(yīng)方法性能優(yōu)于之前的域適應(yīng)方法。將以往的全局域適應(yīng)方法改進(jìn)為加權(quán)子域自適應(yīng)方法是實(shí)現(xiàn)域適應(yīng)的關(guān)鍵;以前的方法不考慮子域之間的關(guān)系對(duì)齊全局分布,忽略了局部信息,而DWSAN精確地對(duì)齊了相關(guān)的子域分布,它不僅弱化了異常源類的信息,還可以為每個(gè)目標(biāo)域相關(guān)類別捕獲更細(xì)粒度的信息。

        2) 特別是與其他部分域自適應(yīng)方法相比,DWSAN取得了更高的精確度。

        除此之外,本文采用的網(wǎng)絡(luò)結(jié)構(gòu)沒有基于對(duì)抗性方法。基于對(duì)抗性的方法大多包含多個(gè)損失函數(shù),收斂速度相對(duì)較慢。從表2中可以看到以往基于對(duì)抗性的部分領(lǐng)域自適應(yīng)方法與本文提出的方法對(duì)比,本文的方法在準(zhǔn)確率上提高了10%。

        基于不同渾濁度的水下數(shù)據(jù)集用深度子域自適應(yīng)網(wǎng)絡(luò)執(zhí)行9組任務(wù),仿真結(jié)果如表3所示??梢钥吹矫糠N任務(wù)下各種渾濁度的數(shù)據(jù)集都能夠得到較高的正確率。即使渾濁度較高,得到的水下數(shù)據(jù)集不清晰,也能夠得到較準(zhǔn)確的結(jié)果。

        表3 水下數(shù)據(jù)集用于域適應(yīng)的準(zhǔn)確率(ResNet-50)

        4 總結(jié)

        針對(duì)部分領(lǐng)域自適應(yīng)問題大多數(shù)只考慮對(duì)齊兩個(gè)域的全局分布,而不考慮不同域中相同類別之間的子域關(guān)系,從而導(dǎo)致異常源類在遷移過程中造成的負(fù)遷移。本文提出了一種新的深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)(DWSAN)。該網(wǎng)絡(luò)通過對(duì)深度網(wǎng)絡(luò)提取的特征基于自適應(yīng)權(quán)重調(diào)節(jié)機(jī)制進(jìn)行重要性加權(quán),將兩個(gè)域中都存在的類別特征賦予高權(quán)重,只存在于源域的類別特征賦予低權(quán)重;并提出局部加權(quán)最大均值差異方法,研究?jī)蓚€(gè)相關(guān)子域的特征分布對(duì)齊方法,從而減少異常源類的特征在遷移過程中導(dǎo)致的負(fù)遷移,提高模型的分類精度。本文提出的方法與PADA、SAN、IWAN等方法在Office-31和Office-Home公開數(shù)據(jù)集上進(jìn)行了對(duì)比實(shí)驗(yàn),還將此方法應(yīng)用于水下數(shù)據(jù)集。實(shí)驗(yàn)結(jié)果表明,該方法在Office-31和Office-Home數(shù)據(jù)集上能獲得比現(xiàn)有主流方法更高的分類準(zhǔn)確率。從表3可以計(jì)算出,水下數(shù)據(jù)集用于域適應(yīng)的平均準(zhǔn)確率達(dá)到90.55%。

        猜你喜歡
        子域源域類別
        多源域適應(yīng)方法綜述
        基于鏡像選擇序優(yōu)化的MART算法
        基于子域解析元素法的煤礦疏降水量預(yù)測(cè)研究
        煤炭工程(2021年7期)2021-07-27 09:34:20
        基于參數(shù)字典的多源域自適應(yīng)學(xué)習(xí)算法
        一種基于壓縮感知的三維導(dǎo)體目標(biāo)電磁散射問題的快速求解方法
        服務(wù)類別
        可遷移測(cè)度準(zhǔn)則下的協(xié)變量偏移修正多源集成方法
        論類別股東會(huì)
        商事法論集(2014年1期)2014-06-27 01:20:42
        中醫(yī)類別全科醫(yī)師培養(yǎng)模式的探討
        聚合酶鏈?zhǔn)椒磻?yīng)快速鑒別5種常見肉類別
        囯产精品一品二区三区| 中文字幕人妻被公喝醉在线| 中文字幕一区二区人妻性色av | 最新中文字幕人妻少妇| 妺妺窝人体色www聚色窝仙踪| av天堂久久天堂av色综合| 午夜福利不卡无码视频| 国产91大片在线观看| 国产精品主播在线一区二区| 国产高潮视频在线观看| 国产精品视频一区二区三区四| 男人天堂AV在线麻豆| 亚洲免费一区二区av| 51国产偷自视频区视频| 伊人久久大香线蕉av网禁呦| 狠狠色综合播放一区二区| 精品少妇人妻久久免费| 久草手机视频在线观看| 久久99国产精品久久99果冻传媒| 亚洲乱码国产一区三区| 无码一区二区三区人| 性感熟妇被我玩弄到高潮| 国产精品无码一区二区三区在 | 国产山东熟女48嗷嗷叫| 亚洲不卡av不卡一区二区 | 国产黑色丝袜在线看片| 蜜臀av999无码精品国产专区| 免费无码成人av在线播| 在线视频一区二区在线观看| 亚洲av综合色区一区二区| 久久午夜无码鲁丝片午夜精品 | 国产清品夜色一区二区三区不卡 | 国产精品无码片在线观看| 国产精东一区二区三区| 青青草小视频在线播放| 中国女人内谢69xxxx免费视频| 亚洲国产成人AV人片久久网站| 亚洲国产av中文字幕| 国产一区亚洲二区三区| 国产免国产免费| 亚洲欧洲一区二区三区波多野|