亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        改進(jìn)U型殘差網(wǎng)絡(luò)用于肺結(jié)節(jié)檢測(cè)

        2022-07-13 01:51:50袁金麗趙琳琳郭志濤盧成鋼
        關(guān)鍵詞:殘差損失結(jié)節(jié)

        袁金麗,趙琳琳,郭志濤,蘇 逸,盧成鋼

        河北工業(yè)大學(xué) 電子信息工程學(xué)院,天津 300401

        據(jù)統(tǒng)計(jì),在所有類型的癌癥中,肺癌的死亡率最高[1],肺癌患者的5 年存活率僅為16%左右。準(zhǔn)確有效的肺癌早期診斷對(duì)于提高肺癌患者的存活率具有重要意義[2]。如果肺癌能在早期就實(shí)現(xiàn)檢測(cè)定位,那么肺癌患者的5 年存活率能夠提升到70%[3]。由于CT 圖像具有較高的組織分辨率,因此CT 圖像成為診斷肺部疾病的最有效的成像方法,對(duì)肺癌的檢測(cè)和診斷具有重要價(jià)值[4]。早期肺癌在醫(yī)學(xué)影像中通常表現(xiàn)為肺結(jié)節(jié),在病人CT圖像中檢測(cè)出肺結(jié)節(jié)并進(jìn)行早期治療對(duì)于預(yù)防肺癌非常重要[5]。目前,由于計(jì)算機(jī)斷層掃描(CT)影像中肺結(jié)節(jié)尺寸變化較大、尺寸小且不規(guī)則等特點(diǎn),使得肺結(jié)節(jié)檢測(cè)變得異常困難[6]。

        針對(duì)這一問(wèn)題的研究早已展開(kāi),Setio等[7]提出了基于多視角的二維卷積神經(jīng)網(wǎng)絡(luò)(2D CNN),將其應(yīng)用于肺結(jié)節(jié)的檢測(cè)中,該方法從肺結(jié)節(jié)的立體特性出發(fā)融合肺結(jié)節(jié)的不同二維(2D)切面信息來(lái)剔除假陽(yáng)性結(jié)節(jié)。苗光等[8]為解決現(xiàn)有方法在肺結(jié)節(jié)檢測(cè)中工作效率不高的問(wèn)題,提出了一種基于改進(jìn)的U-net 網(wǎng)絡(luò)模型,U-net模型是一種在醫(yī)學(xué)圖像領(lǐng)域應(yīng)用較多的卷積神經(jīng)網(wǎng)絡(luò)模型,具有端對(duì)端的網(wǎng)絡(luò)結(jié)構(gòu)。楊帆等[9]采用雙通道二維卷積神經(jīng)網(wǎng)絡(luò)(2D CNN)檢測(cè)肺結(jié)節(jié),將預(yù)處理前后的圖片分別輸入相同的模型中,最后整合兩個(gè)模型的輸出結(jié)果。但使用2D CNN不能很好地獲取圖像的空間信息,難以提取到更多的特征信息,不利于肺結(jié)節(jié)的檢測(cè)。

        為了充分利用三維(3D)CT掃描中包含的信息以更準(zhǔn)確和有效地檢測(cè)肺結(jié)節(jié),研究人員開(kāi)發(fā)了許多基于3D CNN 的系統(tǒng)。Furst 等[10]訓(xùn)練了3D CNN 以在沒(méi)有先前的候選選擇步驟的情況下在胸部CT中執(zhí)行結(jié)節(jié)檢測(cè)。但是,性能水平低于使用多視圖2D CNN 或3D CNN 進(jìn)行誤報(bào)減少的先前系統(tǒng)。Huang 等[11]提出了基于3DCNN的結(jié)構(gòu)圖,用于檢測(cè)低劑量CT圖像中的肺結(jié)節(jié)。考慮到多維數(shù)據(jù)的尺寸、訓(xùn)練數(shù)據(jù)的大小以及計(jì)算機(jī)的計(jì)算能力,文獻(xiàn)[11]提到的系統(tǒng)使用了相對(duì)簡(jiǎn)單的3D-CNN架構(gòu)。文獻(xiàn)[11]提到的系統(tǒng)將醫(yī)學(xué)知識(shí)應(yīng)用到肺結(jié)節(jié)檢測(cè)中,首先使用了基于局部幾何模型的過(guò)濾器生成候選節(jié)點(diǎn),利用醫(yī)學(xué)知識(shí),降低了3DCNN分類步驟的計(jì)算成本和復(fù)雜度。Dou 等[12]提出了一種通過(guò)整合一組具有不同大小感受野的3D CNN,以減少肺結(jié)節(jié)檢測(cè)中的假陽(yáng)性。該方法為2016 年肺結(jié)節(jié)分析挑戰(zhàn)(LUNA2016)的假陽(yáng)性減少路線的獲勝者。Pezeshk等[13]提出基于3D CNN 的網(wǎng)絡(luò)結(jié)構(gòu)圖,將CNN 轉(zhuǎn)換為3D全卷積網(wǎng)絡(luò),與滑動(dòng)窗口方法相比,該網(wǎng)絡(luò)可以更有效地處理整個(gè)CT 體積,并生成整個(gè)體積的得分圖。并將其命名為DeepMed,其網(wǎng)絡(luò)結(jié)構(gòu)由3個(gè)卷積層,2個(gè)最大池化層,2個(gè)全連接層和1個(gè)softmax層組成。Jin等[14]提出了一種深層三維殘差網(wǎng)絡(luò),并將其用于肺結(jié)節(jié)特征的提取。近來(lái),Zhu等[15]提出一種全自動(dòng)肺癌診斷系統(tǒng),針對(duì)肺結(jié)節(jié)檢測(cè)提出一種帶3D 雙路徑塊和U-net 型編碼-解碼結(jié)構(gòu)的Faster RCNN 來(lái)高效的學(xué)習(xí)結(jié)節(jié)特征。Li等[16]提出一種用于肺結(jié)節(jié)檢測(cè)的3D壓縮和激勵(lì)編碼器-解碼器卷積神經(jīng)網(wǎng)絡(luò),并引入Focal loss作為損失函數(shù),用于解決訓(xùn)練樣本中,正負(fù)樣本失衡問(wèn)題。

        隨著技術(shù)的不斷發(fā)展,肺結(jié)節(jié)的識(shí)別與檢測(cè)不斷取得新進(jìn)展,基于3D CNN的系統(tǒng)雖然在肺結(jié)節(jié)檢測(cè)上取得了不錯(cuò)的效果,但依然存在一些問(wèn)題。文獻(xiàn)[15]與文獻(xiàn)[16]在網(wǎng)絡(luò)設(shè)計(jì)時(shí),考慮到融合更多的信息來(lái)更好的學(xué)習(xí)結(jié)節(jié)特征,但是,在不同大小與不同種類肺結(jié)節(jié)的檢測(cè)效果還不夠理想,并且數(shù)據(jù)中的正負(fù)樣本數(shù)量不均衡,使得訓(xùn)練后的模型泛化能力較弱。

        針對(duì)肺結(jié)節(jié)大小相對(duì)不同和形狀的多樣性,本文提出了一種基于改進(jìn)U 型殘差網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)算法。首先,鑒于肺結(jié)節(jié)形狀以及大小的多樣性,提出了一種新型自校準(zhǔn)注意力模塊(ECA-SC block),ECA-SC block既可以令空間上的每一個(gè)點(diǎn)都包含附近區(qū)域和通道上的交互信息,避免了整個(gè)全局信息中無(wú)關(guān)區(qū)域的干擾,又以自適應(yīng)學(xué)習(xí)的方式來(lái)獲取每個(gè)特征通道的重要程度,構(gòu)建特征的獎(jiǎng)懲策略,充分優(yōu)化網(wǎng)絡(luò)性能;其次,主干網(wǎng)絡(luò)設(shè)計(jì)為U型殘差[17]網(wǎng)絡(luò),編碼器和解碼器之間建立跳躍連接,幫助解碼器更好地修復(fù)目標(biāo)的細(xì)節(jié),設(shè)計(jì)預(yù)處理塊融合不同尺度的特征,增加網(wǎng)絡(luò)深度和寬度的同時(shí)減少參數(shù),網(wǎng)絡(luò)采用殘差學(xué)習(xí)方式可以避免隨著網(wǎng)絡(luò)深度增加,出現(xiàn)退化現(xiàn)象;最后,由于LUNA16(lung nodule analysis 2016)[17]數(shù)據(jù)集正例樣本(真結(jié)節(jié))與負(fù)例樣本(假陽(yáng)性結(jié)節(jié))的數(shù)量比失衡,采用DR loss[18]作為本文算法的分類損失函數(shù),減小了數(shù)據(jù)集中樣本分布不均帶來(lái)的影響。

        1 肺結(jié)節(jié)檢測(cè)算法實(shí)現(xiàn)

        本文提出的基于改進(jìn)U-net型殘差網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)算法,構(gòu)建了一種融合了SCConv(自校正卷積)與ECA(通道注意力)的U-net 型殘差網(wǎng)絡(luò),并針對(duì)樣本失衡問(wèn)題設(shè)計(jì)了損失函數(shù)。

        1.1 ECA-SC模塊

        輸入特征圖通過(guò)SCConv(self-calibrated convolutions)[19]模塊與ECA(efficient channel attention)[20]模塊,然后將輸入與ECA 模塊的輸出進(jìn)行殘差連接,構(gòu)成ECA-SC模塊,如圖1所示。ECA-SC模塊中SCConv模塊與使用小卷積核融合空間和通道方向信息的標(biāo)準(zhǔn)卷積不同,其通過(guò)自適應(yīng)地圍繞每個(gè)空間位置建立了長(zhǎng)距離空間和通道間依賴性的校準(zhǔn)操作,因此,它可以通過(guò)顯式合并更豐富的信息來(lái)幫助CNN生成更多辨識(shí)性表示,有助于檢測(cè)不同大小與不同種類的結(jié)節(jié)。同時(shí),采用ECA模塊又以自適應(yīng)學(xué)習(xí)的方式來(lái)獲取每個(gè)特征通道的重要程度,構(gòu)建特征的獎(jiǎng)懲策略,實(shí)現(xiàn)通道的自適應(yīng)校準(zhǔn),充分優(yōu)化網(wǎng)絡(luò)性能,進(jìn)一步提高識(shí)別的準(zhǔn)確率。采用殘差學(xué)習(xí)方式拼接輸入與輸出,可以保留更多高層特征圖中的低分辨率信息以提升結(jié)節(jié)識(shí)別的靈敏度。

        圖1 ECA-SC模塊示意圖Fig.1 Diagram of ECA-SC block

        1.1.1 SCConv模塊

        傳統(tǒng)的卷積特征變換中每個(gè)空間位置的視野主要由預(yù)定義的卷積核大小控制,由此類卷積層的堆疊組成的網(wǎng)絡(luò)也缺少大的感受野,無(wú)法捕獲足夠的特征信息。SCConv 模塊改進(jìn)了傳統(tǒng)卷積特征轉(zhuǎn)換過(guò)程,進(jìn)而增強(qiáng)輸出特征的多樣性。

        首先將原圖按照通道分成兩個(gè)分支X1和X2,在X1中采用通過(guò)殘差下采樣獲得通道和空間上的注意力,然后和卷積后的X1部分進(jìn)行相乘,再用卷積提取特征。該分支是為了有效地收集每個(gè)空間位置的豐富的上下文信息,因此在兩個(gè)不同的尺度空間中進(jìn)行卷積特征轉(zhuǎn)換:原始尺度空間中的特征圖和下采樣后的具有較小分辨率的潛在空間。利用下采樣后特征具有較大的感受野,因此在較小的潛在空間中進(jìn)行變換后的嵌入將用作參考,以指導(dǎo)原始特征空間中的特征變換過(guò)程。在X2中使用一個(gè)簡(jiǎn)單的卷積操作,其作用是為了保有原始的空間信息。最后,將兩部分串聯(lián)到一起,進(jìn)行信息融合。SCConv模塊的優(yōu)勢(shì)在于空間上的每一個(gè)點(diǎn)都有附近區(qū)域的信息和通道上的交互信息,同時(shí)也避免了整個(gè)全局信息中無(wú)關(guān)區(qū)域的干擾。

        SCConv的具體操作步驟為:將輸入X均勻劃分為{X1,X2},分別經(jīng)過(guò)不同的處理操作,結(jié)構(gòu)如圖1 的A 部分所示。將X1送入到自矯正分支,依次對(duì)其進(jìn)行均值下采樣down、卷積特征變換K2、雙線性上采樣up,采樣率設(shè)為r,然后再與輸入相加通過(guò)sigmoid 函數(shù)σ得到空域?qū)用娴淖⒁饬μ卣鲌D,并將所得空域注意力圖與經(jīng)過(guò)卷積特征變換K3的X1進(jìn)行融合。F1~F4為以K1~K4為核的卷積過(guò)程,⊕代表逐元素相加,?代表逐元素相乘。SCConv模塊處理過(guò)程可以描述為:

        得到自矯正分支的輸出。將X2送入常規(guī)卷積變換分支,對(duì)輸入X2進(jìn)行卷積特征變換K1,得到常規(guī)卷積分支的輸出。最后,將X1與X2處理后的特征進(jìn)行拼接。

        1.1.2 ECA模塊

        ECA 顯式地建模特征通道之間的相互依賴關(guān)系。沒(méi)有引入一個(gè)新的空間維度來(lái)進(jìn)行特征通道間的融合,而是采用了一種全新的“特征重標(biāo)定”策略。具體來(lái)說(shuō),就是通過(guò)學(xué)習(xí)的方式來(lái)自動(dòng)獲取到每個(gè)特征通道的重要程度,然后依照這個(gè)重要程度去提升有用的特征并抑制對(duì)當(dāng)前任務(wù)用處不大的特征,從而能夠更好地注意關(guān)鍵特征,可以在不顯著增加參數(shù)數(shù)量的同時(shí)有效提升模型的性能。

        ECA 是一種非常輕量級(jí)的通道注意模塊,改進(jìn)于SE(squeeze-and-excitation)[21]模塊。SE 模塊主要包含3部分,如圖2所示:首先,利用全局平均池化(GAP)操作將輸入各特征通道壓縮成一個(gè)具有全局響應(yīng)的實(shí)數(shù),輸出維度與輸入特征圖的數(shù)目相同,實(shí)現(xiàn)擠壓操作;其次,通過(guò)一個(gè)壓縮比(降維)為r的全連接層(FC)將特征維度降低到輸入的1r,然后經(jīng)過(guò)ReLU激活后再通過(guò)一個(gè)全連接層升回原來(lái)的維度,利用Sigmoid 函數(shù)σ獲得0~1之間歸一化的權(quán)重,實(shí)現(xiàn)激勵(lì)操作;最后,通過(guò)Scale操作將歸一化后的權(quán)重加權(quán)到每個(gè)通道的特征上。盡管SE中的降維操作可以降低復(fù)雜度,但會(huì)導(dǎo)致通道和權(quán)重不直接對(duì)應(yīng),因此ECA在沒(méi)有降維的情況下,通過(guò)考慮每個(gè)通道及其k個(gè)相鄰位置,捕獲了本地跨通道交互。

        圖2 SE模塊Fig.2 SE block

        ECA 可以通過(guò)大小為k的快速一維卷積來(lái)有效地實(shí)現(xiàn),有多個(gè)相鄰位置參與一個(gè)通道的注意預(yù)測(cè)。ECA結(jié)構(gòu)如圖1 中的B 圖所示,與SE 的不同之處在于ECA的激勵(lì)操作不通過(guò)降維實(shí)現(xiàn),而是自適應(yīng)地判斷卷積核大小k,然后執(zhí)行一維卷積,后面跟著一個(gè)Sigmoid函數(shù)來(lái)學(xué)習(xí)通道注意力,實(shí)現(xiàn)激勵(lì)操作。內(nèi)核大小k通過(guò)通道維數(shù)C確定:

        式中,|t|odd表示最近的奇數(shù)t,γ=2,b=1。

        總體來(lái)說(shuō),SE模塊主要由全局平均池化層、全連接層和Sigmoid 函數(shù)組成。其中兩個(gè)FC 層的作用是為了捕捉非線性跨通道交互信息,并且第一層FC 用來(lái)降維以控制模型的復(fù)雜性。而ECA 模塊去除了原來(lái)SE 模塊中的FC層,直接在GAP之后的特征上通過(guò)一個(gè)可以權(quán)重共享的一維卷積進(jìn)行學(xué)習(xí),實(shí)現(xiàn)通道和權(quán)重的直接對(duì)應(yīng)。

        1.1.3 殘差學(xué)習(xí)

        對(duì)于傳統(tǒng)的CNN網(wǎng)絡(luò),簡(jiǎn)單的增加網(wǎng)絡(luò)的深度,容易導(dǎo)致梯度消失和爆炸。針對(duì)梯度消失和爆炸的解決方法一般是正則初始化(normalized initialization)和中間的正則化層(intermediate normalization layers),但是這會(huì)導(dǎo)致另一個(gè)問(wèn)題:退化問(wèn)題,隨著網(wǎng)絡(luò)層數(shù)的增加,在訓(xùn)練集上的準(zhǔn)確率卻飽和甚至下降了。殘差學(xué)習(xí)主要思想是在網(wǎng)絡(luò)中增加了直連通道,以保留之前網(wǎng)絡(luò)層的一定比例的輸出,實(shí)現(xiàn)特征重用,是消除深層網(wǎng)絡(luò)中梯度消失現(xiàn)象的一種有效方法。在構(gòu)造深層次的網(wǎng)絡(luò)時(shí),防止退化現(xiàn)象的發(fā)生。

        本文ECA-SC模塊即為基于殘差結(jié)構(gòu)思想設(shè)計(jì)的,該模塊保留原有基礎(chǔ)殘差結(jié)構(gòu)的直連通道,很好地融合了SCConv 模塊、ECA 模塊這三者的優(yōu)勢(shì)。最后,在殘差結(jié)構(gòu)后采用ReLU 激活,ReLU 激活操作不僅可以增加兩個(gè)卷積層間的非線性關(guān)系,也可以在保證網(wǎng)絡(luò)稀疏性的同時(shí)減少參數(shù)間的相互依存關(guān)系。

        1.2 損失函數(shù)

        損失函數(shù)由分類損失和回歸損失兩部分組成,采用DR loss作為分類損失,smooth L1 loss作為回歸損失,對(duì)正樣本計(jì)算分類損失與回歸損失,負(fù)標(biāo)簽不計(jì)算回歸損失只計(jì)算分類損失,總損失為回歸損失與分類損失之和,即:傳統(tǒng)分類損失函數(shù)BCE loss僅關(guān)注正類的預(yù)測(cè)概率,只要其值足夠大,就可以確保結(jié)果正確。對(duì)于正負(fù)樣本不均衡的問(wèn)題,由于負(fù)樣本遠(yuǎn)多于正樣本,則模型更傾向于預(yù)測(cè)樣本為負(fù)類且置信度較大,即這部分樣本為易分樣本。如果持續(xù)下去,勢(shì)必會(huì)造成模型訓(xùn)練的不平衡。文獻(xiàn)[16]采用Focal loss 作為分類損失函數(shù),降低易分類樣本的損失權(quán)重而讓模型集中訓(xùn)練難分樣本,但Focal loss 是針對(duì)一幅圖像中的單個(gè)樣本,沒(méi)有將一幅圖像看作整體。而DR loss將一幅圖像看作整體,每次考慮圖像中的樣本對(duì),以此解決類間不平衡問(wèn)題,并對(duì)正樣本和負(fù)樣本的置信度分布優(yōu)化。DR loss分類損失函數(shù)定義:

        1.3 肺結(jié)節(jié)檢測(cè)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)

        肺結(jié)節(jié)檢測(cè)網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示,由于計(jì)算機(jī)GPU限制,因此將LUNA16 提供的候選結(jié)節(jié)質(zhì)心為中心,將輸入裁剪為96×96×96 的立方體(cube),立方體中包含標(biāo)記的結(jié)節(jié)。在第一個(gè)最大池化(Maxpooling)之前,使用兩個(gè)預(yù)處理塊(Preblock)來(lái)生成特征,如圖3(a)所示。為融合不同尺度的特征,增加網(wǎng)絡(luò)深度和寬度的同時(shí)減少參數(shù),采用了3 個(gè)分支進(jìn)行特征提取,分別為1×1×1 卷積分支、1×1×1 卷積與3×3×3 卷積串聯(lián)分支、1×1×1卷積與5×5×5卷積串聯(lián)分支,最后將各分支串聯(lián)(concat)。之后,在編碼器子網(wǎng)中使用ECA-SC block與最大池化,在解碼器子網(wǎng)中,特征圖由反卷積(Deconv)層和ECA-SC block 處理,同時(shí)將反卷積后的特征與低層特征concat。

        圖3 網(wǎng)絡(luò)結(jié)構(gòu)模型Fig.3 Network structure model

        編碼器子網(wǎng)將Preblock 輸出特征圖通過(guò)ECA-SC block,分為四步,每一步通過(guò)兩個(gè)ECA-SC block 與Maxpooling,讓特征圖空間上的每一個(gè)點(diǎn)都包含附近區(qū)域的信息和通道上的交互信息,同時(shí)以自適應(yīng)學(xué)習(xí)的方式來(lái)獲取每個(gè)特征通道的重要程度,構(gòu)建特征的獎(jiǎng)懲策略,充分優(yōu)化網(wǎng)絡(luò)性能,并采用殘差學(xué)習(xí)方式構(gòu)建更深層的網(wǎng)絡(luò)。第一步圖片尺寸縮減為48×48×48,通道數(shù)變?yōu)?8;第二步圖片尺寸縮減為24×24×24,通道數(shù)變?yōu)?2;第三步圖片尺寸縮減為12×12×12,通道數(shù)變?yōu)?6;第四步圖片尺寸縮減為6×6×6,通道數(shù)變?yōu)?20。經(jīng)過(guò)四步后,輸入圖片尺寸縮減為原來(lái)的1/16。

        解碼器子網(wǎng)將分辨率放大,逐步修復(fù)物體的細(xì)節(jié)和空間維度。分辨率放大采用反卷積實(shí)現(xiàn),首先,將編碼器子網(wǎng)的輸出采用一個(gè)2×2×2步長(zhǎng)為2的反卷積操作,將圖片尺寸變?yōu)?2×12×12,接著將反卷積后的特征與低層特征串聯(lián)(concat),編碼器和解碼器之間建立的跳躍連接,幫助解碼器更好地修復(fù)目標(biāo)的細(xì)節(jié),通道數(shù)為216。然后通過(guò)兩個(gè)ECA-SC block 與一個(gè)2×2×2 步長(zhǎng)為2的反卷積將特征圖尺寸恢復(fù)到24×24×24,采用concat后,通道數(shù)為224,到此完成特征圖的分辨率放大。

        接下來(lái),通過(guò)兩個(gè)ECA-SC block整合特征圖信息,輸出通道數(shù)為248,然后經(jīng)過(guò)1×1×1 的卷積與dropout,通道數(shù)變?yōu)?4,最后通過(guò)1×1×1 的卷積,輸出數(shù)據(jù)為四維的張量,24×24×24×15可表示為24×24×24×3×5,其中3 表示錨框個(gè)數(shù)(大小為5、10、20),5 表示回歸量(o?,d?x,d?y,d?z,d?r,即概率、三維坐標(biāo)、邊界框直徑大?。?。

        2 分析與討論

        算法實(shí)現(xiàn)的軟件環(huán)境為Windows 10 操作系統(tǒng),硬件環(huán)境為Intel Core i7與Nvidia GeForce GTX 2080Ti(11 GB內(nèi)存),編程開(kāi)發(fā)環(huán)境為CUDA-Toolkit10.0,編程語(yǔ)言為Python 3.6,深度學(xué)習(xí)框架為Pytorch。

        本研究訓(xùn)練時(shí),裁取尺寸為96×96×96 的數(shù)據(jù)塊訓(xùn)練肺結(jié)節(jié)檢測(cè)模型,70%的輸入數(shù)據(jù)至少包含一個(gè)結(jié)節(jié),30%的輸入數(shù)據(jù)不含結(jié)節(jié);測(cè)試時(shí)輸入原始CT圖像大小為512×512×512。本文研究超參數(shù)設(shè)置如下:為使網(wǎng)絡(luò)更好地訓(xùn)練,學(xué)習(xí)率分為三段,前1/3 epoch學(xué)習(xí)率為0.01,1/3到2/3 epoch學(xué)習(xí)率為0.001,剩余epoch學(xué)習(xí)率為0.000 1;動(dòng)量設(shè)置為0.9;權(quán)重衰減為0.000 1;epoch取1 000;batch_size取3。

        2.1 數(shù)據(jù)集與預(yù)處理

        本文選用的數(shù)據(jù)集為L(zhǎng)UNA16,LUNA16 的數(shù)據(jù)來(lái)源于一個(gè)更大的數(shù)據(jù)集LIDC-IDRI(lung image database consortium and image database resource initiative)[22]。LIDC-LDRI 幾乎包含了所有低劑量肺動(dòng)脈CT 的相關(guān)信息,包括多位醫(yī)生對(duì)結(jié)節(jié)大小、位置、診斷結(jié)果、結(jié)節(jié)紋理、結(jié)節(jié)邊緣等信息的標(biāo)注。LUNA16 數(shù)據(jù)集將LIDC-IDRI數(shù)據(jù)集切片厚度大于3 mm的CT去除,同時(shí)將切片層間距不一致以及缺失部分切片的CT 也去除,最后產(chǎn)生了888 張低劑量肺部CT 圖像。LUNA16 給出了候選結(jié)節(jié)的病人序列號(hào)、中心坐標(biāo)以及其對(duì)應(yīng)的標(biāo)簽信息,其中共有1 186 個(gè)結(jié)節(jié)標(biāo)簽。將LUNA16 數(shù)據(jù)集劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集,比例設(shè)置為6∶1∶3。評(píng)估指標(biāo)選用FROC(free-response receiver operating characteristic),F(xiàn)ROC 得分代表了檢測(cè)召回率和可容忍假陽(yáng)性個(gè)數(shù)的綜合指標(biāo),F(xiàn)ROC 得分越高,模型的性能越好。該指標(biāo)通過(guò)計(jì)算CPM(competition performance metric)來(lái)衡量算法的性能,CPM指平均每組CT圖像中假陽(yáng)個(gè)數(shù)(false positives per scan)為0.125、0.25、0.5、1、2、4、8時(shí)的平均檢出率。

        在進(jìn)行數(shù)據(jù)訓(xùn)練前,首先對(duì)數(shù)據(jù)進(jìn)行預(yù)處理,先將數(shù)據(jù)重采樣統(tǒng)一分辨率,再采取閾值化方法過(guò)濾水、空氣,剩下的部分進(jìn)行膨脹處理填補(bǔ)肺部?jī)?nèi)部的小孔洞,制作mask,然后進(jìn)行歸一化,將原始數(shù)據(jù)截取至?1 200~600,此范圍外的數(shù)據(jù)置為?1 200 或600,最后再將數(shù)據(jù)歸一化至0~255,加上mask,完成原始數(shù)據(jù)的處理[23]。結(jié)節(jié)檢測(cè)流程如圖4所示。

        圖4 結(jié)節(jié)檢測(cè)流程Fig.4 Nodule detection process

        2.2 消融實(shí)驗(yàn)

        為研究本文算法不同組成部分是否有助于肺結(jié)節(jié)檢測(cè),在LUNA16數(shù)據(jù)集上選用不同的網(wǎng)絡(luò)架構(gòu)進(jìn)行了實(shí)驗(yàn)。首先,驗(yàn)證DR loss性能,將DR loss與傳統(tǒng)的交叉熵?fù)p失函數(shù)BCE loss、文獻(xiàn)[16]的Focal loss 損失函數(shù)進(jìn)行對(duì)比,Model_1 表示采用傳統(tǒng)交叉熵?fù)p失函數(shù)BCE loss 的U 型殘差網(wǎng)絡(luò),Model_2 表示采用文獻(xiàn)[16]的Focal loss損失函數(shù)的U型殘差網(wǎng)絡(luò),Model_3表示采用DR loss的U型殘差網(wǎng)絡(luò)。性能對(duì)比結(jié)果如表1所示。

        其次,用R 表示采用DR loss 的U-net 型殘差網(wǎng)絡(luò),將R作為評(píng)估不同網(wǎng)絡(luò)架構(gòu)的基準(zhǔn),對(duì)SE、ECA、SCConv在R 上的不同融合版本進(jìn)行了比較。R+se 表示在R 基礎(chǔ)上添加SE 結(jié)構(gòu)的網(wǎng)絡(luò);R+eca 表示在R 基礎(chǔ)上添加ECA結(jié)構(gòu)的網(wǎng)絡(luò);R+sc表示在R基礎(chǔ)上添加SCConv結(jié)構(gòu)的網(wǎng)絡(luò);R+sc+se表示在R基礎(chǔ)上添加SCConv結(jié)構(gòu)與SE結(jié)構(gòu)的網(wǎng)絡(luò);R+sc+eca表示在R基礎(chǔ)上添加SCConv結(jié)構(gòu)與ECA結(jié)構(gòu)的網(wǎng)絡(luò)。由于R+sc+eca所融合的模塊都為輕量級(jí)模塊,所以并未明顯增加網(wǎng)絡(luò)計(jì)算量,并未對(duì)網(wǎng)絡(luò)訓(xùn)練速度造成明顯影響。性能對(duì)比結(jié)果如表2所示。

        由表1與表2可以看出:(1)與傳統(tǒng)的交叉熵?fù)p失函數(shù)BCE loss、文獻(xiàn)[16]的Focal loss損失函數(shù)相比,采用DR loss作為分類損失得到了更好的訓(xùn)練效果;(2)添加SCConv 結(jié)構(gòu),讓空間上的每一個(gè)點(diǎn)都包含附近區(qū)域的信息和通道上的交互信息,大幅提升輸出特征的感受野,增加了特征的信息提取能力,同時(shí)避免了整個(gè)全局信息中無(wú)關(guān)區(qū)域的干擾,提高了模型的性能;(3)添加SE 或ECA 結(jié)構(gòu),以自適應(yīng)學(xué)習(xí)的方式來(lái)獲取每個(gè)特征通道的重要程度,構(gòu)建特征的獎(jiǎng)懲策略,實(shí)現(xiàn)通道的自適應(yīng)校準(zhǔn),可有效提高網(wǎng)絡(luò)的檢測(cè)性能,而ECA 通過(guò)不降維策略令通道與權(quán)重直接對(duì)應(yīng),使得網(wǎng)絡(luò)應(yīng)檢測(cè)性能更優(yōu)于SE。本文所提算法通過(guò)添加SCConv 結(jié)構(gòu)與ECA 結(jié)構(gòu)使得網(wǎng)絡(luò)的平均FROC 得分最高,CPM 可達(dá)0.901。

        表1 不同損失函數(shù)的肺結(jié)節(jié)檢測(cè)性能對(duì)比Table 1 Comparison of lung nodules detection performance with different loss functions

        表2 不同結(jié)構(gòu)的肺結(jié)節(jié)測(cè)性性能對(duì)比Table 2 Comparison of lung nodules test performance of with different structures

        2.3 實(shí)驗(yàn)結(jié)果對(duì)比

        為驗(yàn)證本文算法在肺結(jié)節(jié)檢測(cè)中的優(yōu)勢(shì),在相同實(shí)驗(yàn)數(shù)據(jù)集分布與實(shí)驗(yàn)環(huán)境下,用本文所提算法與最新肺結(jié)節(jié)檢測(cè)的文獻(xiàn)[15]與文獻(xiàn)[16]算法進(jìn)行了實(shí)驗(yàn)對(duì)比,文獻(xiàn)[15]提出一種用于肺結(jié)節(jié)檢測(cè)的帶3D 雙路徑塊和U-net 型編碼-解碼結(jié)構(gòu)的Faster R-CNN,文獻(xiàn)[16]提出一種用于肺結(jié)節(jié)檢測(cè)的3D 壓縮和激勵(lì)編碼器-解碼器卷積神經(jīng)網(wǎng)絡(luò)。表3為本文算法與文獻(xiàn)[15]、文獻(xiàn)[16]的肺結(jié)節(jié)檢測(cè)性能對(duì)比。

        如表3 所示,本文所提算法與文獻(xiàn)[15]、文獻(xiàn)[16]中算法相比,本文算法CPM 得到了顯著提升。每次掃描中,對(duì)0.125、0.25、0.5、1、2、4、8 個(gè)假陽(yáng)性的檢測(cè)結(jié)果均優(yōu)于文獻(xiàn)[15]與文獻(xiàn)[16]算法檢測(cè)結(jié)果。為了更加精確地對(duì)比幾種算法的性能,本文給出了3 種算法的FROC曲線,如圖5所示。

        表3 不同算法的肺結(jié)節(jié)檢測(cè)性能對(duì)比Table 3 Comparison of lung nodules detection performance of different algorithms

        圖5 不同算法的FROC曲線Fig.5 FROC curves of different algorithms

        從表3 與圖5 可以看出,本文算法的平均檢出率為0.901,在各個(gè)假陽(yáng)性個(gè)數(shù)下的靈敏度均高于文獻(xiàn)[15]與文獻(xiàn)[16]算法,檢測(cè)性能最優(yōu);文獻(xiàn)[16]算法次之,平均檢出率為0.863;文獻(xiàn)[15]算法最差,平均檢出率為0.845。本文算法相比于文獻(xiàn)[15]與文獻(xiàn)[16]算法,在假陽(yáng)性個(gè)數(shù)低的情況下檢測(cè)性能更為凸顯,在不同假陽(yáng)性個(gè)數(shù)下均可得到較高的靈敏度,檢測(cè)性能更穩(wěn)定。本文所提算法對(duì)小結(jié)節(jié)、大結(jié)節(jié)與一張切片同時(shí)存在兩個(gè)結(jié)節(jié)的檢測(cè)對(duì)比結(jié)果如圖6所示,圖中每一行依次為肺結(jié)節(jié)位置金標(biāo)準(zhǔn)圖、文獻(xiàn)[15]檢測(cè)結(jié)果、文獻(xiàn)[16]檢測(cè)結(jié)果、本文算法檢測(cè)結(jié)果;每一列依次為小結(jié)節(jié)、大結(jié)節(jié)、兩個(gè)結(jié)節(jié)。對(duì)血管粘連型結(jié)節(jié)、孤立型結(jié)節(jié)與貼壁型結(jié)節(jié)的檢測(cè)對(duì)比結(jié)果如圖7所示,該圖每一行依次為肺結(jié)節(jié)位置金標(biāo)準(zhǔn)圖、文獻(xiàn)[15]檢測(cè)結(jié)果、文獻(xiàn)[16]檢測(cè)結(jié)果、本文算法檢測(cè)結(jié)果;每一列依次為血管粘連型結(jié)節(jié)、孤立型結(jié)節(jié)、貼壁型結(jié)節(jié)。肺結(jié)節(jié)位置金標(biāo)準(zhǔn)圖中矩形框代表肺結(jié)節(jié)的真實(shí)位置,檢測(cè)結(jié)果中矩形框代表檢測(cè)到的肺結(jié)節(jié)位置,矩形框外的數(shù)字表示預(yù)測(cè)為肺結(jié)節(jié)的置信度。

        從圖6 與圖7 可以看出,本文算法對(duì)不同大小與不同種類的結(jié)節(jié)都有較高的檢測(cè)置信度。如圖6所示,文獻(xiàn)[15]對(duì)小結(jié)節(jié)的檢測(cè)能力稍弱,對(duì)于一張切片同時(shí)存在兩個(gè)結(jié)節(jié)時(shí)結(jié)節(jié)檢測(cè)置信度較低;文獻(xiàn)[16]對(duì)小結(jié)節(jié)與大結(jié)節(jié)都具有較高的檢測(cè)置信度;本文算法進(jìn)一步提升了檢出結(jié)節(jié)的置信度,增強(qiáng)了對(duì)小結(jié)節(jié)的檢測(cè)能力,文獻(xiàn)[15]、[16]與本文算法對(duì)于大結(jié)節(jié)都有較高的檢測(cè)置信度,其中,本文算法對(duì)于大結(jié)節(jié)的檢測(cè)置信度最高。如圖7 所示,文獻(xiàn)[15]網(wǎng)絡(luò)對(duì)血管粘連性與貼壁型結(jié)節(jié)檢測(cè)置信度較低;文獻(xiàn)[16]在一定程度上提升了對(duì)血管粘連性與貼壁型結(jié)節(jié)檢測(cè)的置信度,得到了較好的檢測(cè)結(jié)果;本文算法進(jìn)一步提升了對(duì)不同種類的結(jié)節(jié)的檢測(cè)置信度,對(duì)于血管粘連性、孤立型、貼壁型結(jié)節(jié)都得到了很好的檢測(cè)效果。其中,文獻(xiàn)[15]、[16]與本文算法對(duì)于孤立型結(jié)節(jié)都有較高的檢測(cè)置信度,而文獻(xiàn)[15]對(duì)于孤立型結(jié)節(jié)的檢測(cè)性能稍差于文獻(xiàn)[16]與本文算法。

        圖6 肺結(jié)節(jié)檢測(cè)結(jié)果Fig.6 Detection results of pulmonary nodules

        圖7 不同型態(tài)肺結(jié)節(jié)檢測(cè)結(jié)果Fig.7 Detection results of different types of pulmonary nodules

        由LUNA16 數(shù)據(jù)集提供的真實(shí)結(jié)節(jié)位置信息可得到真實(shí)結(jié)節(jié)與假陽(yáng)性結(jié)節(jié)的預(yù)測(cè)概率對(duì)比。如圖8 為本文所提算法在LUNA16數(shù)據(jù)集上,對(duì)部分疑似結(jié)節(jié)的檢測(cè)效果。第一行為真結(jié)節(jié),第二行為假陽(yáng)性結(jié)節(jié),矩形框代表檢測(cè)到的肺結(jié)節(jié)位置,P表示預(yù)測(cè)概率??梢钥闯?,所提算法對(duì)不同大小與不同種類的肺結(jié)節(jié)具有良好的檢測(cè)效果,并且對(duì)于真結(jié)節(jié)可以達(dá)到較高的預(yù)測(cè)概率,同時(shí)也可以準(zhǔn)確地檢測(cè)出假陽(yáng)性結(jié)節(jié)。

        圖8 疑似結(jié)節(jié)的檢測(cè)結(jié)果Fig.8 Detection results of suspected nodules

        3 結(jié)論

        針對(duì)現(xiàn)有結(jié)節(jié)檢測(cè)網(wǎng)絡(luò)對(duì)不同尺寸的肺結(jié)節(jié)的檢測(cè)性能不足與存在大量假陽(yáng)性的問(wèn)題,提出了一種基于改進(jìn)U 型殘差網(wǎng)絡(luò)的肺結(jié)節(jié)檢測(cè)算法。該算法通過(guò)采取U-net網(wǎng)絡(luò)的U型結(jié)構(gòu)并利用殘差學(xué)習(xí)方式構(gòu)建深層次網(wǎng)絡(luò),同時(shí)融合自校正卷積與通道注意力機(jī)制,在增大信息提取能力編碼多尺度特征信息的同時(shí)對(duì)特征進(jìn)行重標(biāo)定,使網(wǎng)絡(luò)自適應(yīng)學(xué)習(xí)特征權(quán)重,可以對(duì)不同大小與形態(tài)的肺結(jié)節(jié)圖像具有更強(qiáng)的特征提取能力,有利于提高結(jié)節(jié)的檢測(cè)精度;另外,引入DR loss 函數(shù)作為訓(xùn)練的分類損失函數(shù),在減小數(shù)據(jù)集中樣本分布不均帶來(lái)的影響的同時(shí),加強(qiáng)了對(duì)難樣本的學(xué)習(xí)。本文在廣泛認(rèn)可的公共數(shù)據(jù)集LUNA16 上驗(yàn)證和評(píng)估所提出的算法,采取了消融實(shí)驗(yàn),首先,驗(yàn)證了DR loss損失函數(shù)的性能;其次,對(duì)比了采用不同局部結(jié)構(gòu)網(wǎng)絡(luò)的影響。實(shí)驗(yàn)結(jié)果表明,CPM得分達(dá)到0.901,檢測(cè)性能優(yōu)于最新肺結(jié)節(jié)檢測(cè)算法,在不同大小與不同種類的肺結(jié)節(jié)具有良好的檢測(cè)效果并且可以準(zhǔn)確區(qū)分假陽(yáng)性結(jié)節(jié),對(duì)肺結(jié)節(jié)自動(dòng)篩查系統(tǒng)和臨床肺結(jié)節(jié)輔助診斷系統(tǒng)的建立具有十分重要的作用。

        猜你喜歡
        殘差損失結(jié)節(jié)
        基于雙向GRU與殘差擬合的車輛跟馳建模
        少問(wèn)一句,損失千金
        肺結(jié)節(jié),不糾結(jié)
        中老年保健(2021年6期)2021-08-24 06:53:54
        發(fā)現(xiàn)肺結(jié)節(jié)需要做PET/CT嗎?
        中老年保健(2021年9期)2021-08-24 03:50:24
        胖胖損失了多少元
        從氣、虛、痰、瘀辨治肺結(jié)節(jié)術(shù)后咳嗽
        基于殘差學(xué)習(xí)的自適應(yīng)無(wú)人機(jī)目標(biāo)跟蹤算法
        基于遞歸殘差網(wǎng)絡(luò)的圖像超分辨率重建
        體檢查出肺結(jié)節(jié),我該怎么辦
        玉米抽穗前倒伏怎么辦?怎么減少損失?
        六月丁香久久| 伊人精品久久久久中文字幕| 日本视频在线播放一区二区| 亚洲乱码无人区卡1卡2卡3| 无码ol丝袜高跟秘书在线观看 | 国产大片内射1区2区| 黑人玩弄漂亮少妇高潮大叫| 日本一区二区啪啪视频| 日本一区二区三区精品不卡| av大全亚洲一区二区三区| 午夜内射中出视频| 日本不卡视频网站| 国产一区二区三区涩涩| 99久久国产精品网站| 欧美性受xxxx白人性爽| 无码 制服 丝袜 国产 另类| 91成人自拍视频网站| 亚洲成av人片在线观看| 东京无码熟妇人妻av在线网址| 国产乱人伦偷精品视频免| 亚洲精品中文字幕乱码3| 精品+无码+在线观看| 国产成人一区二区三区在线观看 | 国内精品少妇高潮视频| 国产成人无码免费视频在线| 极品美女高潮喷白浆视频| 午夜一区二区三区在线观看| 国产av无码专区亚洲av麻豆| 中文字幕日韩精品无码内射| 亚洲av高清在线观看三区| av一区二区三区综合网站| 亚洲精品无码专区| 精品少妇一区二区三区视频| 国产不卡一区二区av| 亚洲综合日韩精品一区二区| 少妇被猛男粗大的猛进出| 国产在线拍偷自拍偷精品| 亚洲天堂av一区二区三区不卡| 亚洲人成人无码www影院| 久热这里只有精品99国产| 蜜臀av一区二区三区精品|