亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于多尺度改進(jìn)的V-Net肺結(jié)節(jié)分割方法研究

        2022-04-16 08:48:10門靖茹王澤榮張富春白宗文
        關(guān)鍵詞:特征提取路線尺度

        門靖茹,王澤榮,張富春,白宗文

        (延安大學(xué)物理與電子信息學(xué)院,陜西延安 716000)

        肺癌是一種全球常見(jiàn)的癌癥,是發(fā)病率和死亡率增長(zhǎng)最快、對(duì)生命威脅最大的惡性腫瘤之一[1],被發(fā)現(xiàn)時(shí)患者往往處于中晚期。而肺癌前期癥狀多表現(xiàn)為肺結(jié)節(jié),其早期發(fā)現(xiàn)對(duì)肺癌患者生還率十分重要。肺結(jié)節(jié)分割的難點(diǎn)在于大小不同和形態(tài)各異,實(shí)性不一,容易對(duì)醫(yī)療診斷產(chǎn)生干擾。隨著CT成像技術(shù)的飛速發(fā)展,采用計(jì)算機(jī)輔助技術(shù)(Computer Aided Detection,CAD)對(duì)肺結(jié)節(jié)進(jìn)行分割已經(jīng)成為趨勢(shì),而基于深度學(xué)習(xí)的肺結(jié)節(jié)分割方法可以提高診斷速度和準(zhǔn)確率,具有十分重要的臨床應(yīng)用價(jià)值。

        目前,針對(duì)肺結(jié)節(jié)分割方法的研究主要基于手動(dòng)提取特征的傳統(tǒng)方法[2-5]和自動(dòng)提取特征的深度學(xué)習(xí)方法[6-14]。深度學(xué)習(xí)方法可以自動(dòng)學(xué)習(xí)并提取輸入網(wǎng)絡(luò)的深度圖像特征,實(shí)現(xiàn)肺結(jié)節(jié)分割任務(wù)。2015年LONG等[6]提 出 了 全 卷 積 網(wǎng) 絡(luò)(Fully Convolution Network,F(xiàn)CN),他提出后很快被廣泛應(yīng)用到圖像分割領(lǐng)域;RONNEBERGER等[7]在FCN的基礎(chǔ)上提出了U-Net模型,添加了跳躍連接方法;MILLETARI等[8]提出了三維圖像分割網(wǎng)絡(luò)V-Net模型,在U-Net的基礎(chǔ)上添加了殘差連接和三維化。U-Net和V-Net可作為基線模型(Baseline),并衍生了多種改進(jìn)算法。其中二維分割肺結(jié)節(jié)整圖的工作有徐峰等[9]使用U-Net,得到了0.867的準(zhǔn)確度;陳銘等[10]使用可分離卷積模塊改進(jìn)U-Net,得到的準(zhǔn)確度為0.9,參數(shù)量為Baseline的30%。二維分割肺結(jié)節(jié)小圖的工作有鐘思華等[11]使用密集連接改進(jìn)U-Net,得到骰子(Dice)系數(shù)為0.844;DUTANDE等[12]使用通道注意力改進(jìn)U-Net,得到Dice系數(shù)為0.80;PEZZANO等[13]使用Inception V4改進(jìn)U-Net,得到Jaccard系數(shù)為0.766。三維分割肺結(jié)節(jié)有YANG等[14]提出的MSDS-UNet模型,使用殘差連接改進(jìn)的3D-UNet模型結(jié)合深監(jiān)督,得到Dice系數(shù)為0.675。

        綜上所述,現(xiàn)有方法在肺結(jié)節(jié)分割任務(wù)研究中主要追求的是高精度,但提高精度往往意味著模型參數(shù)量更大,對(duì)硬件的要求更高。本文致力于找到一種輕量級(jí)的模型,通過(guò)結(jié)構(gòu)設(shè)計(jì)保持模型不損失原有的分割效果。具體的設(shè)計(jì)方法是使用多尺度特征增加感受野(Receptive Field)的豐富度,在壓縮模型參數(shù)量的同時(shí)保持多尺度特征提取的質(zhì)量。

        1 研究方法

        1.1 肺結(jié)節(jié)分割過(guò)程框架

        本文使用的肺結(jié)節(jié)分割過(guò)程如圖1所示,在數(shù)據(jù)輸入模型前需要對(duì)原始的CT圖像做預(yù)處理工作。首先將CT圖像進(jìn)行HU(Hounsfield Unit)轉(zhuǎn)換,得到閾值為-1 024至3 071的密度灰度圖;其次提取肺部掩膜圖,剔除不需要的非肺區(qū)域信息,由于原始數(shù)據(jù)來(lái)自不同機(jī)器,做三維計(jì)算前需要對(duì)圖像進(jìn)行統(tǒng)一像素間隔處理(3個(gè)維度像素間隔均為1 mm),統(tǒng)一間隔處理后的數(shù)據(jù)再進(jìn)行歸一化和去均值,歸一化使用的肺窗為-1 000至400,均值為0.25,由于考慮計(jì)算資源的限制,本文也對(duì)圖像進(jìn)行了三維體積的截取,截取的體積中至少包含1個(gè)肺結(jié)節(jié),體積塊尺寸為96×96×16體素(長(zhǎng)度×寬度×深度);最后將若干體積塊輸入網(wǎng)絡(luò)模型中,網(wǎng)絡(luò)輸出相同大小的二值分割結(jié)果將用于后續(xù)計(jì)算。

        圖1 肺結(jié)節(jié)分割流程框架

        1.2 M-VNet網(wǎng)絡(luò)結(jié)構(gòu)

        V-Net網(wǎng)絡(luò)是一種三維全卷積神經(jīng)網(wǎng)絡(luò),整體為對(duì)稱的編碼器-解碼器結(jié)構(gòu),網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。圖2左邊的編碼器提取圖像中的特征信息,他包含有4個(gè)具有不同特征分辨率的編碼模塊,每個(gè)模塊在頭尾部分使用殘差連接,下采樣層使用步長(zhǎng)為2的卷積運(yùn)算,保護(hù)信息流。圖2網(wǎng)絡(luò)右邊的解碼器完成特征圖的解碼,它由4個(gè)具有不同特征分辨率的解碼模塊組成,而上采樣層使用步長(zhǎng)為2的反卷積構(gòu)成。V-Net通過(guò)跳躍連接保護(hù)細(xì)節(jié)信息。網(wǎng)絡(luò)分類器由點(diǎn)卷積和Softmax激活函數(shù)組成,Softmax激活函數(shù)將特征圖轉(zhuǎn)換為前景和背景區(qū)域的分割概率圖。由于病灶通常具有三維結(jié)構(gòu),該模型在醫(yī)學(xué)圖像處理中能夠充分利用此類圖像的三維上下文特征,提升網(wǎng)絡(luò)的性能。V-Net在提取特征的總體設(shè)計(jì)上是可取的,但是模型深度單一,細(xì)節(jié)特征不夠豐富,因此本文在宏觀上使用多尺度特征。由于淺層卷積的細(xì)節(jié)信息豐富,深層卷積的語(yǔ)義信息豐富,本文使用4種層深提取的特征進(jìn)行融合,總體設(shè)計(jì)如圖2所示。模型分為4種層深路線,每種層深路線均有V-Net的橋連結(jié)構(gòu),這一點(diǎn)由于表達(dá)限制未在圖中標(biāo)出。將4種層深路線的數(shù)據(jù)進(jìn)行通道維合并后再進(jìn)行路線注意力機(jī)制,即使用兩層全連接和Softmax激活函數(shù)進(jìn)行路線間的重要性權(quán)重分配。

        圖2 M-VNet總體結(jié)構(gòu)圖

        V-Net中僅使用的是5×5×5體素卷積,感受野較大且單一,而肺結(jié)節(jié)的目標(biāo)很小,分割效果對(duì)細(xì)節(jié)特征和周圍組織特征均有依賴。因此本文測(cè)試了多種不同尺寸組合路線的Dice系數(shù)指標(biāo),其中p1為不做任何處理的路線,p2為3×3×3體素卷積路線,p3為5×5×5體素卷積路線,p4為7×7×7體素卷積路線。由表1可知,對(duì)于肺結(jié)節(jié)這種小目標(biāo)而言,小的卷積核提取器p2和未經(jīng)處理的殘差路線p1更有效。

        表1 不同尺度路線選擇的Dice系數(shù)

        因此本文將V-Net中的5×5×5體素卷積操作替換為一個(gè)包含多尺度特征提取的M-Block組件,其多尺度屬性兼顧細(xì)節(jié)信息和周邊信息,在保證質(zhì)量的前提下可實(shí)現(xiàn)模型參數(shù)的壓縮。M-Block的網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示,其中,殘差連接沿用V-Net原有的模塊首尾連接的設(shè)置。

        圖3 多尺度特征結(jié)構(gòu)M-Block

        圖3 的M-Block為瓶頸結(jié)構(gòu),該瓶頸結(jié)構(gòu)可以使Block適用于所有輸入和輸出通道,不會(huì)受限于分組數(shù)。輸入X的格式為N×C×h×w×d(批量大小×通道數(shù)×長(zhǎng)度×寬度×深度)。M-Block首先對(duì)輸入使用步長(zhǎng)為1的點(diǎn)卷積將輸入通道數(shù)變?yōu)橹虚g通道數(shù),其中編碼器中間通道為輸出通道數(shù),解碼器中間通道為輸入通道數(shù);然后進(jìn)入多尺度特征提?。∕ulti-scale feature extraction,MF)網(wǎng)絡(luò)部分,MF將通道分為兩組,通過(guò)分組可以明顯降低參數(shù)量。具體來(lái)說(shuō),第一組不做任何處理直接輸出為X1;第二組進(jìn)行3×3×3體素卷積,輸出為X2。將X1,X2進(jìn)行通道維合并操作后,通過(guò)一個(gè)點(diǎn)卷積改變通道數(shù)為輸出通道數(shù),該操作可以融合多尺度特征,得到優(yōu)于單卷積核的特征提取效果。特征提取模塊的前N-1個(gè)M-Block中輸入輸出通道數(shù)均設(shè)置為模塊的輸入通道數(shù),在第N個(gè)M-Block設(shè)置輸出設(shè)置為模塊的輸出通道數(shù)。此外,為了緩解數(shù)據(jù)的過(guò)擬合問(wèn)題,本文使用0.5的隨機(jī)失活正則化比率在模塊間進(jìn)行隨機(jī)失活。

        1.3 參數(shù)量

        V-Net的總參數(shù)量為8 577萬(wàn),權(quán)重文件大小為425.51 M;M-VNet的總參數(shù)量為1 190萬(wàn),權(quán)重文件大小為64.77 M。統(tǒng)計(jì)對(duì)比了V-Net和本文方法的參數(shù)量,在批量大小為4時(shí)的訓(xùn)練時(shí)間和測(cè)試時(shí)間如表2所示。由表2可知,采用M-Block方法可大幅度降低參數(shù)量,結(jié)果顯示參數(shù)量約為Baseline的13%,訓(xùn)練時(shí)間和測(cè)試時(shí)間較Baseline稍高,這使得模型部署到移動(dòng)設(shè)備成為可能。

        表2 模型的參數(shù)量、訓(xùn)練時(shí)間和測(cè)試時(shí)間對(duì)比

        1.4 損失函數(shù)

        本文采用Dice loss[8]作為損失函數(shù),并添加拉普拉斯平滑系數(shù)(Laplace smoothing)為1,拉普拉斯平滑可以避免零除問(wèn)題,同時(shí)避免過(guò)擬合。當(dāng)Laplace smoothing為1時(shí),Dice loss可表示為

        其中,X、Y分別代表預(yù)測(cè)二值體和真實(shí)二值體,X∩Y表示兩者重合點(diǎn)的值的總和,|X|表示預(yù)測(cè)二值體的值的總和,|Y|表示真實(shí)二值體的值的總和。在實(shí)際計(jì)算時(shí),將預(yù)測(cè)為非結(jié)節(jié)的特征圖與前景為非結(jié)節(jié)的真實(shí)標(biāo)簽進(jìn)行Dice loss計(jì)算,再將預(yù)測(cè)為結(jié)節(jié)的特征圖與前景為結(jié)節(jié)的真實(shí)標(biāo)簽進(jìn)行Dice loss計(jì)算,兩者相加為實(shí)際的Dice loss。

        2 結(jié)果與分析

        2.1 實(shí)驗(yàn)數(shù)據(jù)

        本實(shí)驗(yàn)的數(shù)據(jù)來(lái)自于胸部影像數(shù)據(jù)集LUNA16(Lung Nodule Analysis 16),它來(lái)源于一個(gè)更大的數(shù)據(jù)集LIDC-IDRI[15],該數(shù)據(jù)集共有1 018個(gè)CT掃描病例圖,LUNA16去除了厚度(slice thickness)大于3 mm的不一致切片和缺失部分切片的CT圖,保留了888張3D的CT圖。通過(guò)對(duì)數(shù)據(jù)進(jìn)行數(shù)據(jù)重采樣、數(shù)據(jù)歸一化、圖像切割和標(biāo)簽生成等預(yù)處理操作,可得到若干個(gè)尺寸為96 mm×96 mm×16 mm、至少包含1個(gè)肺結(jié)節(jié)的肺部CT數(shù)據(jù)塊和對(duì)應(yīng)的肺結(jié)節(jié)標(biāo)簽。按照8∶1∶1的比例將數(shù)據(jù)分為訓(xùn)練集、驗(yàn)證集、測(cè)試集。

        2.2 參數(shù)設(shè)置

        本文的參數(shù)設(shè)置采用訓(xùn)練迭代次數(shù)(epoch)為100,優(yōu)化器選用SGD優(yōu)化器,初始學(xué)習(xí)率為0.001,每經(jīng)過(guò)3次迭代訓(xùn)練,學(xué)習(xí)率衰減為原來(lái)的0.1倍。初始動(dòng)量設(shè)置為0.99,在第80輪降為0.9,權(quán)重衰減為10-8,驗(yàn)證集每3次epoch做1次驗(yàn)證。

        圖4是模型的損失下降圖。從圖4A可知,訓(xùn)練損失在40輪后進(jìn)入緩慢的下降階段,在60輪后達(dá)到穩(wěn)定。圖4B驗(yàn)證損失在60輪后基本平緩,90輪后有輕微上升,即出現(xiàn)過(guò)擬合現(xiàn)象。本文實(shí)驗(yàn)采用早停策略,選取驗(yàn)證損失最低的模型為最優(yōu)模型。

        圖4 模型的損失下降圖

        2.3 實(shí)驗(yàn)結(jié)果

        根據(jù)2.2節(jié)中網(wǎng)絡(luò)參數(shù)的設(shè)置,對(duì)V-Net基礎(chǔ)模型和M-VNet模型進(jìn)行訓(xùn)練,與其他相關(guān)工作的指標(biāo)對(duì)比如表3所示。MobileV2UNet的指標(biāo)提高和參數(shù)量下降依賴于Mobile V2的倒殘差和可分離卷積;SquExUNet由于采用了簡(jiǎn)單的通道注意力機(jī)制,在模型參數(shù)基本維持不變的情況下可輕微提高訓(xùn)練指標(biāo);InceptionUNet借鑒了Inception V4的Block組件結(jié)構(gòu),他的不對(duì)稱卷積和高維分解方法在降低參數(shù)量和提高指標(biāo)兩方面達(dá)到平衡。在三維CT圖像分割任務(wù)中,MSDS-UNet對(duì)三維化的U-Net添加了殘差連接,這種設(shè)計(jì)與V-Net相似,指標(biāo)提升主要通過(guò)深監(jiān)督完成;另外,由于MSDS-UNet模型輸入尺寸更大,整體指標(biāo)較其他模型均有降低;集中式CNN使用帶有中央池化的多路徑網(wǎng)絡(luò)進(jìn)行分割,指標(biāo)有小幅提升;三維密集網(wǎng)絡(luò)帶來(lái)的提升較大,貫通的信息流保證了分割結(jié)果包含足夠的細(xì)節(jié)信息;NRU網(wǎng)絡(luò)主要提出了噪聲干擾模型,可一定程度上提高分割效果;M-VNet的主要貢獻(xiàn)在于多種維度上提取的多尺度信息,總體上使用不同深度結(jié)構(gòu)得到不同程度語(yǔ)義和細(xì)節(jié)信息的融合,細(xì)節(jié)上在單M-Block內(nèi)添加殘差支路納入卷積計(jì)算,提升了模型復(fù)雜度和分割指標(biāo)。在M-Block中,多尺度特征提取模塊中對(duì)原始數(shù)據(jù)不做處理的分組十分重要,很大程度上貢獻(xiàn)了模型特征的細(xì)節(jié)精度。

        表3 不同模型的性能對(duì)比

        圖5是4種模型對(duì)5種肺結(jié)節(jié)圖像的三維分割剖面圖,從左到右依次為小型結(jié)節(jié)、中型結(jié)節(jié)、大型結(jié)節(jié)、血管粘連型結(jié)節(jié)、磨玻璃影型結(jié)節(jié)。從圖5中可知,小結(jié)節(jié)部分4種模型均表現(xiàn)良好,證明了4種模型對(duì)病變區(qū)域都具有良好的敏感性和有效性;在中型結(jié)節(jié)和大型結(jié)節(jié)部分,V-Net方法出現(xiàn)過(guò)分割,出現(xiàn)較多假陽(yáng)性點(diǎn),這是由于V-Net在限定輪數(shù)內(nèi)特征提取效率有限所致,3D-SquExVNet方法開(kāi)始出現(xiàn)欠分割,這主要是由于通道注意力對(duì)一些特征的過(guò)表達(dá),導(dǎo)致限定輪數(shù)中特征提取器提取的特征豐富性不足;在血管粘連型結(jié)節(jié)上V-Net和3D-SquExVNet方法均出現(xiàn)欠分割,形態(tài)輪廓不清晰,與血管粘連部分輪廓沒(méi)有分割或分割不完整,可歸因于細(xì)節(jié)信息不足,3D-Mobilev2VNet方法在血管粘連部分出現(xiàn)了不同程度的過(guò)分割和欠分割,這是由于模型對(duì)點(diǎn)的分類判斷過(guò)于注重局部信息,修正能力弱;磨玻璃影型結(jié)節(jié)4種模型均出現(xiàn)欠分割,這是因?yàn)槟ゲAв靶徒Y(jié)節(jié)的邊界十分模糊,模型可以提取到病變特征,但輪廓信息不明晰。但M-VNet可以很好地解決這個(gè)問(wèn)題,在中型結(jié)節(jié)和大結(jié)節(jié)部分通過(guò)不同感受野的信息融合很好地平衡了欠分割和過(guò)分割問(wèn)題,同時(shí),M-VNet的磨玻璃影型結(jié)節(jié)分割效果優(yōu)于整體過(guò)分割的3D-Mobilev2VNet的效果,也優(yōu)于V-Net和3DSquExVNet,這說(shuō)明了M-VNet的多尺度特征提取的優(yōu)越性。綜合以上實(shí)驗(yàn)結(jié)果,證明本文方法具有優(yōu)于其他模型的良好的泛化分割性能和較高魯棒性,對(duì)不同形態(tài)的肺結(jié)節(jié)均具有較好的分割結(jié)果。

        圖5 不同網(wǎng)絡(luò)的三維分割結(jié)果橫截面

        3 結(jié)論

        本文提出了一種基于卷積復(fù)用的肺結(jié)節(jié)分割方法,通過(guò)使用多種Block組件的改進(jìn)方法,對(duì)比研究了改進(jìn)方法對(duì)模型分割性能的影響,得出了一種性能良好的多尺度融合輕量網(wǎng)絡(luò)M-VNet。該網(wǎng)絡(luò)繼承了V-Net的總體設(shè)計(jì)思路,并在此基礎(chǔ)上增加了多種深度路線和路線注意力機(jī)制,在M-Block設(shè)計(jì)中使用多尺度特征為模型增添細(xì)節(jié)信息和縮小模型參數(shù)。該模型參數(shù)量?jī)H為V-Net的13%,但Dice系數(shù)提高了4%,泛化性能、魯棒性能和分割性能均優(yōu)于Baseline,具有部署于移動(dòng)設(shè)備的潛力。后續(xù)將采用無(wú)錨框關(guān)鍵點(diǎn)引導(dǎo)從整個(gè)肺部CT圖片中選取備選數(shù)據(jù)塊,得到端到端的肺部整圖CT的肺結(jié)節(jié)分割模型。

        猜你喜歡
        特征提取路線尺度
        最優(yōu)路線
        財(cái)產(chǎn)的五大尺度和五重應(yīng)對(duì)
        『原路返回』找路線
        基于Daubechies(dbN)的飛行器音頻特征提取
        電子制作(2018年19期)2018-11-14 02:37:08
        畫路線
        Bagging RCSP腦電特征提取算法
        找路線
        宇宙的尺度
        太空探索(2016年5期)2016-07-12 15:17:55
        基于MED和循環(huán)域解調(diào)的多故障特征提取
        9
        欧美大肥婆大肥bbbbb| 久久精品亚洲精品国产区| av无码一区二区三| 青青草精品在线免费观看| 精品天堂色吊丝一区二区| 国产二级一片内射视频插放| 日本欧美视频在线观看| 国产精品天堂avav在线| 久久熟女精品—区二区蜜臀| 中文字幕一区二区三区视频| 中文日韩亚洲欧美制服| 国产激情在观看| 国产一区二区美女主播| 强开小婷嫩苞又嫩又紧视频韩国| 18禁黄网站禁片免费观看| 熟女人妻丰满熟妇啪啪| 日本在线综合一区二区| 亚洲av无码一区东京热久久| 欧美第一黄网免费网站| 亚洲国产高清美女在线观看| 国产激情一区二区三区成人| 日韩中文字幕有码午夜美女| 国产成人精品一区二区三区视频| 国产成人国产在线观看入口| 日本韩国三级aⅴ在线观看| 男女互舔动态视频在线观看| 伊人久久大香线蕉av色| 国产精品99久久精品爆乳| 亚洲av高清资源在线观看三区 | 日韩av在线毛片| 亚洲中文字幕一区高清在线| av人摸人人人澡人人超碰下载| 日本又黄又爽gif动态图| 国产精品久久久久免费看| 国产精品成人av一区二区三区| 国产成人精品午夜二三区波多野| 精品人无码一区二区三区 | 伊人久久大香线蕉av五月| 欧美一区二区三区激情| 日韩最新在线不卡av| 日本师生三片在线观看|