亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于改進(jìn)DenseNet網(wǎng)絡(luò)的肺炎X光圖像識(shí)別算法

        2021-08-10 02:25:56魏榕劍邵劍飛
        電視技術(shù) 2021年6期
        關(guān)鍵詞:X光損失卷積

        魏榕劍,邵劍飛

        (昆明理工大學(xué),云南 昆明 650031)

        0 引 言

        肺炎是一種由細(xì)菌、病毒及真菌引起的肺部疾病,可以引起肺部感染[1],病情嚴(yán)重時(shí)甚至可能導(dǎo)致病人死亡[2]。肺炎可以通過放射檢查來檢測,如常規(guī)放射檢查、CT或MRI,醫(yī)生會(huì)通過檢查病人的胸部X光片來診斷肺炎[3]。在發(fā)展中國家,肺炎的死亡率特別高。及時(shí)發(fā)現(xiàn)肺炎、為肺炎患者提供治療,對于肺炎的治療和降低死亡率意義重大。全胸部X光是目前提供肺炎正確診斷和檢測的最佳方法[4]。要診斷并發(fā)現(xiàn)肺炎,需要仔細(xì)檢查胸部X光圖像,這要求放射科醫(yī)生或?qū)<揖哂胸S富經(jīng)驗(yàn)和專業(yè)知識(shí),使得肺炎的檢測過程成為一項(xiàng)具有挑戰(zhàn)性的任務(wù)[5]。對于發(fā)展中國家的偏遠(yuǎn)地域,醫(yī)療資源分布不均勻,診斷肺炎對于基層醫(yī)療機(jī)構(gòu)來說非常困難。針對這一問題,計(jì)算機(jī)輔助診斷可以幫助醫(yī)生快速完成肺炎診斷,具有重要的實(shí)際意義。

        近年來,隨著深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的不斷發(fā)展,深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)被廣泛應(yīng)用于醫(yī)學(xué)影像領(lǐng)域,在有影像數(shù)據(jù)集的領(lǐng)域的研究不斷加深。Rajpurkar等人[6]提出一個(gè)基于ChestX-Ray14訓(xùn)練的121層卷積神經(jīng)網(wǎng)絡(luò)CheXNet算法,并用4位職業(yè)的學(xué)術(shù)放射科醫(yī)師標(biāo)注的測試集進(jìn)行測試,可檢測14種疾病,該模型在F1指標(biāo)上的診斷達(dá)到了職業(yè)放射科醫(yī)生的平均水平,但對于肺炎,其檢測精度達(dá)到92.52%,還有待提升。Khoiriyah等人[7]提出了一種基于CNN結(jié)構(gòu)的模型,采用不同的深度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和增強(qiáng)策略來對胸部X線圖像中的肺炎檢測進(jìn)行分類,使用3個(gè)卷積層和3個(gè)分類層(完全連接),通過調(diào)整大小、翻轉(zhuǎn)及旋轉(zhuǎn)以避免過擬合,運(yùn)用增強(qiáng)策略進(jìn)行精度值提升,沒有增強(qiáng)策略的精度值為80.25%,增強(qiáng)策略的精度值為83.38%,而且該CNN結(jié)構(gòu)體系可以訓(xùn)練小數(shù)據(jù)集,但是其訓(xùn)練精度值不高。Harsh Sharma等人[5]提出不同的深度卷積神經(jīng)網(wǎng)絡(luò),從胸部X射線圖像中提取特征的架構(gòu)對圖像進(jìn)行分類以檢測人是否患有肺炎。Abhishek Gawali等人[8]提出了一種用于胸部X光檢查的深度學(xué)習(xí)方法,該方法有3個(gè)卷積層,每層有32個(gè)神經(jīng)元,有3個(gè)不同的通道(3*3),并通過對圖像進(jìn)行基于不同參數(shù)的變換提高精度,但是該模型準(zhǔn)確率僅為88.68%。

        針對胸部X光圖像的特征,本文在DenseNet深度模型的基礎(chǔ)上,提出一種改進(jìn)的DenseNet模型算法。該算法繼承DenseNet將圖像不同層次特征融合進(jìn)行分類的優(yōu)點(diǎn),在全連接層加入中心損失(Center loss),使得X光圖像同類特征具有較高的聚合度,并且在最后輸出部分將原DenseNet模型中的交叉熵?fù)p失函數(shù)替換為Focal loss,增強(qiáng)網(wǎng)絡(luò)對X光肺炎影像病灶的學(xué)習(xí)能力,提升肺炎分類的準(zhǔn)確率。

        1 DenseNet模型

        DenseNet(密集卷積網(wǎng)絡(luò))是一種密集連接的卷積神經(jīng)網(wǎng)絡(luò),是于2017年提出的最優(yōu)深度模型,融合了深度殘差網(wǎng)絡(luò)(ResNet)與Inception網(wǎng)絡(luò)的優(yōu)點(diǎn)。深度殘差網(wǎng)絡(luò)通過加深網(wǎng)絡(luò)層數(shù)提升網(wǎng)絡(luò)性能,Iiception網(wǎng)絡(luò)通過加寬網(wǎng)絡(luò)結(jié)構(gòu)提升網(wǎng)絡(luò)性能,DenseNet網(wǎng)絡(luò)直接從最優(yōu)特征的角度出發(fā),設(shè)置特征復(fù)用和旁路連接,達(dá)到增強(qiáng)檢測精度和降低網(wǎng)絡(luò)參數(shù)的目的[9]。DenseNet網(wǎng)絡(luò)的特點(diǎn)是,網(wǎng)絡(luò)的任意兩層之間是直接連接的,后面每一層網(wǎng)絡(luò)的輸入都是它前面所有層的輸出的并集,任意一層所學(xué)習(xí)的特征圖同樣會(huì)被直接傳給該層后面的所有層作為輸入;其核心思想是利用特征重用來達(dá)到優(yōu)化模型的目的,密集操作依靠Dense Block(密集連接塊)實(shí)現(xiàn),多個(gè)Dense Block串聯(lián)便構(gòu)成整個(gè)網(wǎng)絡(luò)架構(gòu)。

        一個(gè)完整的DenseNet網(wǎng)絡(luò)如圖1所示。可以看到,多個(gè)Dense Block之間沒有密集連接,采用了建立過渡層的模式。通常過渡層由BN+Conv(1×1)→Pooling(2×2)構(gòu)成,BN層也可以不要。本文提出的改進(jìn)的肺炎X光分類算法正是在DenseNet模型基礎(chǔ)上進(jìn)行展開。

        圖1 DenseNet模型

        在傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)模型中,如果模型層數(shù)為L,則其總連接數(shù)為L;而在DenseNet模型中,層數(shù)為L的模型,其總連接數(shù)Ld滿足:

        DenseNet模型中,層與層之間的數(shù)據(jù)傳遞關(guān)系滿足:

        式中:xl表示l層的輸入;Hl表示BN、Relu及Conv操作;[x0,x1,…,xl-1]表示通道合并,即將前l(fā)-1層的輸出特征圖進(jìn)行矩陣上的連接。

        DenseNet模型的優(yōu)良性能主要依靠密集連接過程中對特征的充分利用。然而,經(jīng)典的DenseNet模型在應(yīng)用于肺炎X光片肺炎分類任務(wù)中時(shí),相比卷積神經(jīng)網(wǎng)絡(luò)的其他模型,分類精度有一定的提高,但仍然無法令人滿意。因此,本文提出了改進(jìn)的基于DenseNet網(wǎng)絡(luò)的肺炎X光片分類算法。

        2 改進(jìn)的DenseNet深度網(wǎng)絡(luò)肺炎X光圖像識(shí)別算法

        在DenseNet網(wǎng)絡(luò)模型的單元結(jié)構(gòu)中,1×1卷積不完全考慮圖像中某個(gè)像素點(diǎn)像素與該像素周邊像素的空間關(guān)系,而是依賴像素點(diǎn)坐標(biāo)位置的線性變換。因此,通常在DenseNet網(wǎng)絡(luò)模型中都會(huì)添加非線性的激活響應(yīng)函數(shù)。Softmax損失函數(shù)是傳統(tǒng)深度學(xué)習(xí)網(wǎng)絡(luò)常用的損失函數(shù),進(jìn)行空間特征的映射操作。本文提出全連接層加入中心損失(Centerloss),在最后輸出部分將交叉熵?fù)p失函數(shù)替換為Focal-loss。

        Softmax損失函數(shù)為:

        式中:xl表示第l個(gè)深度特征,屬于第yl類;Wj表示全連接層中權(quán)重W的第j列;b表示偏置項(xiàng);mm表示小批量大小。

        品牌離不開渠道的拓展,陳偉表示,邦力達(dá)·兩河源果業(yè)專業(yè)合作社在果品銷售的傳統(tǒng)渠道和電商渠道同時(shí)發(fā)力,目前已建立起京東旗艦店、微信商城等平臺(tái),并對接全國各大主要農(nóng)產(chǎn)品交易市場,同時(shí)還吸引了眾多外地果商進(jìn)行實(shí)地采購。2017年,合作社內(nèi)幫助社員銷售獼猴桃、柑橘等水果500多萬斤。通過在種植管理、農(nóng)資投入、品牌打造到水果購銷等環(huán)節(jié)的全產(chǎn)業(yè)鏈運(yùn)營模式,社員依托合作社的農(nóng)資和服務(wù)種出好果,合作社為社員的好果賦予品牌,實(shí)現(xiàn)了農(nóng)戶、合作社、農(nóng)資企業(yè)、水果消費(fèi)市場等多方的融通共贏。

        Center loss函數(shù)為:

        式中:cyl表示第yl類深度特征的類中心。

        本文采用Softmax loss與Center loss相結(jié)合的函數(shù)去訓(xùn)練,表達(dá)式為:

        DenseNet網(wǎng)絡(luò)在輸出部分使用的都是Softmax函數(shù)與交叉墑?chuàng)p失(Cross Entropy loss)相結(jié)合的方式。Loss函數(shù)為:

        式中:x表示特征值;i與j表示類別編號。由于肺炎X光胸片數(shù)據(jù)集存在不平衡,為了提高最終肺炎X光片分類的準(zhǔn)確性,本文在最后輸出部分引入Focal函數(shù)進(jìn)行不平衡校正,F(xiàn)ocal函數(shù)為:

        式中:Pt是特征值屬于某一類的概率;γ是調(diào)節(jié)變化幅度的參數(shù)。在模型中引入Focal loss函數(shù)后,損失函數(shù)為:

        3 實(shí)驗(yàn)和分析

        3.1 實(shí)驗(yàn)數(shù)據(jù)集

        本文實(shí)驗(yàn)數(shù)據(jù)集來源于kaggle。該數(shù)據(jù)集包含兩個(gè)類(肺炎、正常)共5 860張X光胸片圖像。其中,訓(xùn)練集包含3 876張肺炎X光胸片和1 342張正常X光片。測試集包含390張肺炎X光胸片和234張正常X光片。正常肺部X光片如圖2所示,肺炎肺部X光片如圖3所示。

        圖2 正常肺部X光片示例

        圖3 肺炎肺部X光片示例

        3.2 實(shí)驗(yàn)設(shè)置

        3.3 實(shí)驗(yàn)結(jié)果及分析

        本文利用肺炎胸部X光片數(shù)據(jù)集進(jìn)行肺炎X光片分類的準(zhǔn)確率研究。樣本集中,訓(xùn)練集占89%,驗(yàn)證集占11%。準(zhǔn)確占比如表1所示。

        表1 數(shù)據(jù)集分布

        驗(yàn)證集和訓(xùn)練集的X光胸片數(shù)量比例約為1∶10,為滿足模型需求,采用拉伸縮放的方式,將所有X光胸片的大小調(diào)整為320×320。

        本文在實(shí)驗(yàn)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),實(shí)驗(yàn)參數(shù)包含Accuracy(訓(xùn)練精度)、Val_Accuracy(驗(yàn)證精度)、Loss(訓(xùn)練損失)及Val_Loss(驗(yàn)證損失)。實(shí)驗(yàn)精度曲線如圖4所示。實(shí)驗(yàn)損失函數(shù)曲線如圖5所示。

        圖4 精度曲線

        圖5 損失函數(shù)曲線

        實(shí)驗(yàn)結(jié)果顯示,在訓(xùn)練的10個(gè)epochs內(nèi),其訓(xùn)練精度在開始的6個(gè)epochs內(nèi)不斷提升,達(dá)到一定訓(xùn)練精度后便開始波動(dòng),從驗(yàn)證精度曲線來看,由于驗(yàn)證數(shù)據(jù)集的不平衡性,驗(yàn)證精度低于訓(xùn)練精度且不斷波動(dòng)。從訓(xùn)練損失函數(shù)曲線來看,訓(xùn)練損失在訓(xùn)練epochsn內(nèi)損失不斷降低,但驗(yàn)證損失偏高且不斷波動(dòng),這是驗(yàn)證數(shù)據(jù)集數(shù)據(jù)量少且數(shù)據(jù)不平衡造成的。

        本文將改進(jìn)的DenseNet-121網(wǎng)絡(luò)與DenseNet-121層卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行對比,DenseNet-121網(wǎng)絡(luò)在肺炎分類任務(wù)中其訓(xùn)練分類精度達(dá)到91.22%,測試精度為89.58%;本文提出的基于改進(jìn)的DenseNet-121網(wǎng)絡(luò)的肺炎分類算法模型,其最高分類精度達(dá)到94.52%,測試精度90.46%。

        4 結(jié) 語

        針對肺部X光胸片影像的特點(diǎn),本文提出了基于DenseNet網(wǎng)絡(luò)改進(jìn)的肺炎X光片分類算法模型,在kaggle提供的Chest-X-Ray數(shù)據(jù)集上進(jìn)行訓(xùn)練和測試,最終將胸部X光肺炎分類精確度提升至94.52%。然而改進(jìn)的DenseNet網(wǎng)絡(luò)參數(shù)依然龐大,訓(xùn)練非常耗時(shí)。在未來的研究中,進(jìn)一步提升肺炎X光分類精度,提出科學(xué)合理的剪枝策略降低訓(xùn)練時(shí)效,可作為未來的研究方向。

        猜你喜歡
        X光損失卷積
        少問一句,損失千金
        基于3D-Winograd的快速卷積算法設(shè)計(jì)及FPGA實(shí)現(xiàn)
        仿生武器大揭秘
        胖胖損失了多少元
        給動(dòng)物拍張X光片
        從濾波器理解卷積
        電子制作(2019年11期)2019-07-04 00:34:38
        人眼X光
        快樂語文(2019年9期)2019-06-22 10:00:38
        玉米抽穗前倒伏怎么辦?怎么減少損失?
        基于傅里葉域卷積表示的目標(biāo)跟蹤算法
        還在喂奶,能照X光嗎?
        媽媽寶寶(2017年2期)2017-02-21 01:21:28
        日本不卡的一区二区三区| 亚洲精品综合欧美一区二区三区| 精品国产亚洲AⅤ麻豆| baoyu网址国产最新| av免费资源在线观看| 日本大肚子孕妇交xxx| 精品人妻系列无码一区二区三区| a午夜国产一级黄片| 亚洲综合精品一区二区| 新婚人妻不戴套国产精品| 无码人妻精一区二区三区| 久久国产综合精品欧美| 黄页免费人成网址大全| 狠狠色狠狠色综合网| 国产欧美日韩久久久久| 免费一级国产大片| 亚洲av无一区二区三区综合| 麻豆网神马久久人鬼片| 97人妻熟女成人免费视频| 太大太粗太爽免费视频| 亚洲成年国产一区二区| 狠狠噜天天噜日日噜无码| 五月天婷婷综合网| 激情视频国产在线观看| 四虎永久在线精品免费网址| 亚洲国产另类久久久精品黑人| 国产乱子伦农村xxxx| 中文资源在线一区二区三区av| 色狠狠色噜噜av天堂一区| 亚洲区在线| 久久蜜臀av一区三区| 久久久精品国产免大香伊| 亚洲av无码第一区二区三区| 国产精品成人av电影不卡| 一本色道久久亚洲精品| 一本色道久久88精品综合| 四虎成人精品无码永久在线| 亚洲激情视频在线观看a五月| 国产美女爽到喷出水来视频| 久久精品日韩av无码| 丰满人妻无奈张开双腿av|