亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于深度學(xué)習(xí)的手骨X 射線圖像骨齡評(píng)估

        2021-01-15 07:18:30王嘉慶梅禮曄張俊華
        計(jì)算機(jī)工程 2021年1期
        關(guān)鍵詞:骨齡殘差卷積

        王嘉慶,梅禮曄,張俊華

        (云南大學(xué) 信息學(xué)院,昆明 650500)

        0 概述

        醫(yī)學(xué)上通常將人類骨骼年齡(以下稱為骨齡)作為其生物學(xué)年齡,與出生年齡相比,骨齡能更準(zhǔn)確地反映人體成熟度。在臨床醫(yī)學(xué)中,骨齡評(píng)估廣泛應(yīng)用于兒童成長預(yù)測(cè)與相關(guān)疾病輔助診斷,是研究兒童內(nèi)分泌、遺傳因子和生長障礙的一種常用手段[1-3]。

        目前臨床通常采用G&P 方法[4]或TW 方法[5]通過左手(非慣用手)骨X射線圖像進(jìn)行骨齡人工評(píng)估。G&P方法又稱圖譜法,該方法主要通過觀察遠(yuǎn)端指骨、中間指骨以及腕部的各種形狀骨樣,將特定感興趣區(qū)域(Region of Interest,RoI)的圖像特征與標(biāo)準(zhǔn)圖譜中各年齡段圖像特征進(jìn)行對(duì)比來評(píng)估骨齡。TW 方法又稱計(jì)分法,該方法主要通過分析骨骺/干骨后端感興趣區(qū)域(Epiphysis/Metaphysis Region of Interest,E/MRoI)以及腕骨感興趣區(qū)域(Carpal Region of Interest,CRoI)等20 個(gè)感興趣區(qū)域(Region of Interest,RoI)并分別評(píng)分,然后將所有RoI 分?jǐn)?shù)相加得到骨成熟度總評(píng)分來評(píng)估骨齡。然而G&P 方法和TW 方法耗時(shí)較長,以G&P 方法和TW 方法中TW2 方法為例,經(jīng)驗(yàn)豐富的醫(yī)生使用這兩種方法分別需耗費(fèi)1.4 min 和7.9 min[6]。此外,上述方法均受醫(yī)生主觀因素影響,評(píng)估所得骨齡通常存在誤差,其中,G&P 方法的平均誤差為0.96 歲,TW2 方法的平均誤差為0.74 歲[7]。

        目前自動(dòng)化骨齡檢測(cè)方法大部分按照TW 方法的原理對(duì)手骨X 射線圖像的RoI 特征進(jìn)行自動(dòng)化提取。21 世紀(jì)初,PIETKA 等人[8-9]提出基于自組織指骨距離提取的E/MRoI 分割方法,并用模糊分類器進(jìn)行TW 級(jí)分配,通過評(píng)估360 張0 歲~6 歲兒童的手骨X 射線圖像得到骨齡平均絕對(duì)誤差(Mean Absolute Error,MAE)為2.41 歲,經(jīng)改進(jìn)分類器處理后得到MAE 為1.93 歲。2007 年,GERTYCH 等人[10]采用模糊邏輯的骨齡評(píng)估方法在1 400 張0 歲~18 歲兒童手骨X 射線圖像公共數(shù)據(jù)集上進(jìn)行評(píng)估,得到骨齡MAE 為2.15 歲。2016 年,SEOK 等人[11]提出一種決策規(guī)則的評(píng)估方法,在135 張未公布年齡的X 射線圖像非公開數(shù)據(jù)集上評(píng)估得到骨齡均方誤差(Mean Square Error,MSE)為0.19 歲。文獻(xiàn)[12]提出一種BoneXpert 方法,融合G&P 方法和TW 方法建立統(tǒng)一模型進(jìn)行自動(dòng)年齡評(píng)估,利用生成模型和活動(dòng)外觀模型自動(dòng)分割手部和腕部的15 根骨骼,然后根據(jù)骨骼的形狀、強(qiáng)度與紋理特征確定其G&P 或TW2 骨齡,在1 559 張7 歲~17 歲兒童的手骨X 射線圖像非公開數(shù)據(jù)集上評(píng)估得到G&P 和TW2 骨齡的MSE 為0.42 歲和0.80 歲。2017 年,SPAMPINATO 等人[13]提出一種基于深度學(xué)習(xí)的骨齡評(píng)估方法BoNet,在0 歲~18 歲涵蓋所有種族和性別的手骨X 射線圖像公共數(shù)據(jù)集上進(jìn)行自動(dòng)化骨齡評(píng)估,得到骨齡MAE 為0.8 歲。

        在上述研究中,除了基于深度學(xué)習(xí)的自動(dòng)化骨齡評(píng)估方法,其他方法均基于G&P 方法或TW 方法中的E/MRoI 和CRoI 對(duì)手骨X 射線圖像進(jìn)行分割提取圖像幾何物理特征,并計(jì)算出圖像特征來評(píng)估骨齡,然而將臨床特征直接作為計(jì)算機(jī)視覺或機(jī)器學(xué)習(xí)分析處理的對(duì)象極大限制了自動(dòng)化骨齡評(píng)估的泛化能力。此外,骨齡評(píng)估還存在實(shí)驗(yàn)數(shù)據(jù)集不公開、數(shù)據(jù)量較少、針對(duì)特定性別或種族,以及大部分受試者因年齡較小骨骼尚未定型等問題,其中BoneXpert方法對(duì)圖像質(zhì)量要求較高。以上因素導(dǎo)致實(shí)驗(yàn)結(jié)果不能真實(shí)反映自動(dòng)化評(píng)估方法的性能,且評(píng)估方法不易驗(yàn)證與推廣。

        針對(duì)上述自動(dòng)化骨齡評(píng)估方法存在的問題,本文提出一種基于深度學(xué)習(xí)的X 射線圖像自動(dòng)骨齡評(píng)估方法,建立改進(jìn)的端到端深度學(xué)習(xí)網(wǎng)絡(luò)Inception ResNet V2,減少特征提取復(fù)雜度與局限性,在不借助任何先驗(yàn)信息的情況下,將手骨X 射線圖像簡(jiǎn)單預(yù)處理后作為神經(jīng)網(wǎng)絡(luò)的輸入,通過改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)自動(dòng)提取手骨X 射線圖像深層特征進(jìn)行識(shí)別和分類,并采用分層K折交叉驗(yàn)證法對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。

        1 基于深度學(xué)習(xí)的骨齡檢測(cè)方法

        深度學(xué)習(xí)與傳統(tǒng)簡(jiǎn)單學(xué)習(xí)的區(qū)別在于,前者通過多層網(wǎng)絡(luò)結(jié)構(gòu)自主學(xué)習(xí)和表征數(shù)據(jù)特征[14],而后者需要人工提取特征信息。人工提取的特征通常不準(zhǔn)確或者不能很好地表征事物本質(zhì),難以取得理想的學(xué)習(xí)效果。與傳統(tǒng)簡(jiǎn)單學(xué)習(xí)相比,深度學(xué)習(xí)的效果更優(yōu)異且對(duì)數(shù)據(jù)特征的提取更準(zhǔn)確。卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)在圖像領(lǐng)域的成功應(yīng)用之一[15]。

        近年來,深度卷積神經(jīng)網(wǎng)絡(luò)已成為圖像識(shí)別性能優(yōu)化的關(guān)鍵,其中具有代表性的是2014 年ImageNet ILSVRC 圖像識(shí)別競(jìng)賽的冠軍模型GoogleNet[16-17],其以相對(duì)較低的計(jì)算成本獲得良好的識(shí)別精度。GoogleNet 深度學(xué)習(xí)架構(gòu)中較先進(jìn)的Inception V3、Inception V4、Inception ResNet V1 以及Inception ResNet V2 網(wǎng)絡(luò)[18]的檢測(cè)錯(cuò)誤率與參數(shù)量如表1 所示??梢钥闯?,Inception ResNet V2 網(wǎng)絡(luò)的Top-1 和Top-5 錯(cuò)誤率均低于GoogleNet 系列的其他網(wǎng)絡(luò),因此,本文將Inception ResNet V2 作為基礎(chǔ)網(wǎng)絡(luò)用于骨齡評(píng)估。

        表1 不同網(wǎng)絡(luò)的檢測(cè)錯(cuò)誤率與參數(shù)量Table 1 Detection error rate and parameter quantity of different networks

        1.1 優(yōu)化的Inception ResNet V2 網(wǎng)絡(luò)

        Inception ResNet V2 網(wǎng)絡(luò)的原始結(jié)構(gòu)由Stem 模塊、Inception-ResNet模塊、Reduction 模塊以及Softmax 層組成。Inception-ResNet 模塊使用1×1 卷積和降維的方法減少參數(shù)量,在增加網(wǎng)絡(luò)深度的同時(shí)使用Shortcut 可有效避免梯度消失的問題,提高識(shí)別速度并加快收斂。

        使用Inception ResNet V2 網(wǎng)絡(luò)進(jìn)行骨齡評(píng)估的具體過程為:利用深度卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行特征學(xué)習(xí),將手骨X 射線圖像的低層特征和高層特征進(jìn)行融合,同時(shí)重復(fù)利用手骨特征有效性,并刪減Inception ResNet V2 網(wǎng)絡(luò)中Softmax 層以優(yōu)化Inception ResNet V2 網(wǎng)絡(luò)結(jié)構(gòu),如圖1 所示(彩色效果參見《計(jì)算機(jī)工程》官網(wǎng)HTML 版)。

        圖1 優(yōu)化的Inception ResNet V2 網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 Optimized structure of Inception ResNet V2 network

        1.1.1 優(yōu)化的Inception 模塊

        Inception 模塊使用多層感知器代替?zhèn)鹘y(tǒng)卷積神經(jīng)網(wǎng)絡(luò)中的通用線性結(jié)構(gòu),多層感知器具有良好的非線性分類能力,在分類精度和收斂速度方面具有更好的效果,適用于骨齡評(píng)估等非線性分類問題。Inception 模塊原始結(jié)構(gòu)如圖2(a)所示,該模塊利用1×1、3×3、5×5 卷積核和3×3 最大池化操作擴(kuò)展網(wǎng)絡(luò)的深度與寬度,將不同規(guī)模卷積核的結(jié)果聯(lián)合濾波獲得輸出,以提取更豐富的手骨X 射線圖像深層特征。考慮到5×5 卷積核需要大量計(jì)算,采用3×3 卷積核代替5×5 卷積核[19]對(duì)Inception 模塊進(jìn)行優(yōu)化,獲得Inception-A 模塊,其結(jié)構(gòu)如圖2(b)所示。為進(jìn)一步減少計(jì)算量,引入非對(duì)稱卷積核,使用1×n卷積核與n×1 卷積核代替n×n卷積核,在卷積核感受野不變的情況下節(jié)約計(jì)算資源。非對(duì)稱卷積核在中等大小的特征圖上分類精度更高,經(jīng)過測(cè)試得到卷積優(yōu)化后的Inception-B 模塊和Inception-C 模塊,其結(jié)構(gòu)分別如圖2(c)和圖2(d)所示。

        圖2 原始模塊和卷積優(yōu)化后的Inception 模塊結(jié)構(gòu)Fig.2 Structure of original module and convolution optimized Inception modules

        1.1.2 殘差連接的Inception 模塊

        Inception 模塊的引入使網(wǎng)絡(luò)寬度與深度增加,卷積優(yōu)化后的Inception 模塊可降低計(jì)算量并提取到手骨X 射線圖像不同層次的特征,有利于提高骨齡預(yù)測(cè)精度,但也會(huì)造成梯度消失或梯度爆炸等問題。因此,通過在卷積優(yōu)化后的Inception 模塊中加入殘差連接[20]結(jié)構(gòu)可解決卷積神經(jīng)網(wǎng)絡(luò)深度增加帶來的副作用,殘差連接結(jié)構(gòu)如圖3 所示。

        圖3 殘差連接結(jié)構(gòu)Fig.3 Residual connection structure

        殘差連接結(jié)構(gòu)的輸入和輸出關(guān)系表示為:

        其 中,xl為殘差塊的輸入,xl+1、xl+2和xL分別為xl后第1 層、第2 層和第L層殘差塊的輸出,F(xiàn)(·) 為激活函數(shù),w為卷積操作。

        根據(jù)反向傳播算法中的鏈?zhǔn)椒▌t,損失函數(shù)c關(guān)于xl的梯度表示為:

        在殘差連接結(jié)構(gòu)中,當(dāng)更新某個(gè)節(jié)點(diǎn)的參數(shù)時(shí),由于xL=F(x)+xl,因此鏈?zhǔn)角髮?dǎo)后即使數(shù)值再小,其左側(cè)1 的存在使原鏈?zhǔn)角髮?dǎo)中連乘運(yùn)算變?yōu)檫B加運(yùn)算,從而保證該節(jié)點(diǎn)參數(shù)更新時(shí)不出現(xiàn)梯度消失或梯度爆炸現(xiàn)象。

        利用殘差連接結(jié)構(gòu)的優(yōu)勢(shì),將改進(jìn)后的Inception 模塊與殘差連接結(jié)合[17]分別得到Inception-ResNet-A 模塊、Inception-ResNet-B 模塊和Inception-ResNet-C 模塊,其結(jié)構(gòu)如圖4 所示。

        圖4 3 種模塊的結(jié)構(gòu)Fig.4 Structure of three modules

        1.2 損失函數(shù)的選取

        本文采用固定學(xué)習(xí)率訓(xùn)練優(yōu)化后的Inception ResNet V2 網(wǎng)絡(luò),考慮到固定學(xué)習(xí)率下網(wǎng)絡(luò)模型不易收斂,采用MSE 損失函數(shù)。由于MSE 損失梯度隨損失減小而降低,當(dāng)梯度下降即將結(jié)束時(shí)不易錯(cuò)過最小值,因此訓(xùn)練網(wǎng)絡(luò)采用MSE 損失函數(shù)較其他損失函數(shù)所得效果更精確。

        將骨齡評(píng)估損失定義為手骨X 射線圖像評(píng)估所得骨齡讀數(shù)與標(biāo)簽(真實(shí))值的均方誤差,計(jì)算公式為:

        其中,N為樣本數(shù),ytrue為骨齡真實(shí)值,ypred為骨齡預(yù)測(cè)值。MSE 值越大,表示骨齡預(yù)測(cè)結(jié)果越差。

        1.3 評(píng)價(jià)指標(biāo)

        對(duì)于骨齡數(shù)值回歸預(yù)測(cè)結(jié)果,本文采用平均絕對(duì)誤差作為評(píng)價(jià)指標(biāo),MAE 值越小,說明預(yù)測(cè)精度越高,計(jì)算公式為:

        2 實(shí)驗(yàn)與結(jié)果分析

        2.1 數(shù)據(jù)集

        本文實(shí)驗(yàn)數(shù)據(jù)集采用一種骨骼年齡自動(dòng)基準(zhǔn)測(cè)量的公共綜合X 射線數(shù)據(jù)集Digital Hand Atlas Database System。該數(shù)據(jù)集包含1 391 張18 歲以下兒童左手骨X 射線圖像,涵蓋亞洲人、非洲人、高加索人、西班牙人4 個(gè)種族,每張圖像都由醫(yī)學(xué)專家提供骨齡值,兒童的種族、年齡、性別分布情況如表2所示。由于該數(shù)據(jù)集為公共數(shù)據(jù)集,適用性較強(qiáng),涵蓋種族數(shù)量多、年齡范圍廣,因此其訓(xùn)練的網(wǎng)絡(luò)可應(yīng)用于各年齡段及各種族的骨齡評(píng)估,在一定程度上彌補(bǔ)了目前自動(dòng)骨齡評(píng)估方法的不足。

        表2 數(shù)據(jù)集中兒童的種族、年齡和性別分布情況Table 2 Race,age and gender distribution of children in the dataset

        2.2 數(shù)據(jù)預(yù)處理

        利用深度學(xué)習(xí)處理圖像時(shí),需采用大量數(shù)據(jù)進(jìn)行訓(xùn)練,然而數(shù)據(jù)集樣本不足,因此,需擴(kuò)增數(shù)據(jù)集樣本數(shù)量。由于不能改變手骨X 射線圖像RoI 特征的原始樣貌,因此未選用隨機(jī)拉伸等數(shù)據(jù)增強(qiáng)方法,而是通過將圖像上下翻轉(zhuǎn)180°使數(shù)據(jù)集圖像數(shù)量擴(kuò)大為原來的兩倍。然后對(duì)數(shù)據(jù)增強(qiáng)后的手骨X 射線圖像進(jìn)行Z-Score 標(biāo)準(zhǔn)化處理,經(jīng)過處理的數(shù)據(jù)均值為0,標(biāo)準(zhǔn)差為1,最終將不同量級(jí)的數(shù)據(jù)轉(zhuǎn)化為統(tǒng)一度量,從而提高數(shù)據(jù)可比性并削弱數(shù)據(jù)解釋性。

        2.3 改進(jìn)的交叉驗(yàn)證方法

        本文實(shí)驗(yàn)所用數(shù)據(jù)集包括亞洲人、非洲人、高加索人和西班牙人4 個(gè)種族,不同種族手骨X 射線圖像的特征區(qū)域存在差異。采用標(biāo)準(zhǔn)K折交叉驗(yàn)證法(見圖5(a))將數(shù)據(jù)集按順序分為K等份,對(duì)于每一次模型的訓(xùn)練測(cè)試(共K次),都有(K-1)份做訓(xùn)練集,剩下1 份做測(cè)試集,K次訓(xùn)練測(cè)試后共得到K個(gè)結(jié)果,對(duì)該結(jié)果取平均值作為最終結(jié)果。由于此方法按順序?qū)?shù)據(jù)集劃分等份,可能存在樣本類別分配不均衡造成驗(yàn)證效果無意義,因此本文實(shí)驗(yàn)采用分層K折交叉驗(yàn)證法(見圖5(b))對(duì)數(shù)據(jù)分層采樣,確保訓(xùn)練集和測(cè)試集中樣本類別的比例與原始數(shù)據(jù)集相同,避免分類不均衡,以彌補(bǔ)標(biāo)準(zhǔn)K折交叉驗(yàn)證法的不足,使實(shí)驗(yàn)結(jié)果更準(zhǔn)確。

        圖5 2 種交叉驗(yàn)證方法Fig.5 Two cross validation methods

        2.4 實(shí)驗(yàn)平臺(tái)

        本文實(shí)驗(yàn)在安裝Windows10 系統(tǒng)的GPU 計(jì)算平臺(tái)上進(jìn)行,采用Intel?CoreTMi7-8700K CPU、16 GB×2內(nèi)存以及NVIDIA GeForce GTX 1080Ti GPU,所有程序通過以Tensorflow 為后端的開源框架Keras 及其Python 接口實(shí)現(xiàn)。

        2.5 訓(xùn)練策略

        本文采用MSE 損失函數(shù)和Adam 優(yōu)化算法[21]訓(xùn)練模型,批量大小設(shè)置為32,初始學(xué)習(xí)速率為0.1,以每次縮小為原速率1/5 或1/10 的速率依次遞減進(jìn)行學(xué)習(xí)速率調(diào)參,并在取得較高骨齡評(píng)估精度時(shí)通過微調(diào)學(xué)習(xí)速率取得最優(yōu)結(jié)果。使用骨齡標(biāo)簽值作為模型訓(xùn)練目標(biāo),在增強(qiáng)后的數(shù)據(jù)集上使用分層5 折交叉驗(yàn)證法評(píng)估網(wǎng)絡(luò)模型對(duì)骨齡的預(yù)測(cè)精度,每折進(jìn)行200 次迭代,并計(jì)算骨齡預(yù)測(cè)值和骨齡真實(shí)值的MAE 作為模型輸出。

        2.6 結(jié)果分析

        神經(jīng)網(wǎng)絡(luò)權(quán)值的變化基于損失梯度的調(diào)整,而學(xué)習(xí)速率控制神經(jīng)網(wǎng)絡(luò)權(quán)值變化的速度。若學(xué)習(xí)速率過高,則梯度降幅較大,易越過最優(yōu)解;若學(xué)習(xí)速率過低,則梯度降幅較小,將會(huì)延長收斂時(shí)間。在采用改進(jìn)的Inception ResNet V2 網(wǎng)絡(luò)進(jìn)行骨齡評(píng)估過程中,為取得最優(yōu)學(xué)習(xí)速率,本文在不同學(xué)習(xí)速率下進(jìn)行實(shí)驗(yàn),所得結(jié)果如圖6所示??梢钥闯?,改進(jìn)的Inception ResNet V2網(wǎng)絡(luò)在評(píng)估骨齡過程中,當(dāng)學(xué)習(xí)速率小于0.005時(shí)MAE值開始收斂,并在學(xué)習(xí)速率為0.001 時(shí)MAE 達(dá)到最小值,得到模型訓(xùn)練后的最優(yōu)結(jié)果。

        圖6 改進(jìn)Inception ResNet V2 網(wǎng)絡(luò)在不同學(xué)習(xí)速率下的MAE 值Fig.6 MAE values of improved Inception ResNet V2 network at different learning rates

        為驗(yàn)證本文提出的改進(jìn)Inception ResNet V2 網(wǎng)絡(luò)(以下稱為本文網(wǎng)絡(luò))的檢測(cè)性能,將其與基于深度學(xué)習(xí)的BoNet[13]骨齡評(píng)估網(wǎng)絡(luò)(以下稱為BoNet 網(wǎng)絡(luò))在同一數(shù)據(jù)集上進(jìn)行對(duì)比。BoNet 網(wǎng)絡(luò)由5 個(gè)卷積層和位于第4個(gè)卷積層后的1個(gè)變形層組成,由含有2 048個(gè)神經(jīng)元的全連接層與用于估計(jì)的單神經(jīng)元組成回歸網(wǎng)絡(luò)。在對(duì)比實(shí)驗(yàn)中,本文網(wǎng)絡(luò)采用分層K折交叉驗(yàn)證法,BoNet 網(wǎng)絡(luò)采用標(biāo)準(zhǔn)K折交叉驗(yàn)證法,結(jié)果如表3所示??梢钥闯?,本文網(wǎng)絡(luò)的MAE 值較BoNet 網(wǎng)絡(luò)更低,骨齡預(yù)測(cè)精度更高。由此可見,在包括多個(gè)種族、不同年齡和性別的公共數(shù)據(jù)集上,本文方法能提取更具區(qū)分性的特征,對(duì)骨骼圖像的識(shí)別率更高,具有較好的魯棒性與泛化能力。

        表3 2 種網(wǎng)絡(luò)的MAE 值Table 3 MAE values of two networks

        2.7 預(yù)測(cè)精度對(duì)比

        為驗(yàn)證Inception ResNet V2 網(wǎng)絡(luò)在骨齡評(píng)估方面的優(yōu)異性能,對(duì)比Inception V3、Inception V4、Inception ResNet V1 網(wǎng)絡(luò)(上述網(wǎng)絡(luò)均已刪去Softmax 層以便骨齡評(píng)估)的骨齡評(píng)估情況,采用MSE 損失函數(shù)和MAE指標(biāo)并利用分層K折交叉驗(yàn)證法進(jìn)行實(shí)驗(yàn),批處理圖像數(shù)量為32,通過調(diào)參得到各網(wǎng)絡(luò)的最優(yōu)學(xué)習(xí)速率,不同網(wǎng)絡(luò)的學(xué)習(xí)速率調(diào)參結(jié)果如圖7 所示。結(jié)合圖6 可以看出,Inception V3、Inception V4、Inception ResNet V1與Inception ResNet V2 網(wǎng)絡(luò)的最優(yōu)學(xué)習(xí)速率分別為0.001 0、0.010 0、0.000 5 和0.001 0。4 種網(wǎng)絡(luò)在最優(yōu)學(xué)習(xí)速率下所得MAE 值如表4 所示。

        圖7 不同網(wǎng)絡(luò)的學(xué)習(xí)速率調(diào)參結(jié)果Fig.7 Results of parameter adjustments of learning rate of different networks

        表4 4 種網(wǎng)絡(luò)在最優(yōu)學(xué)習(xí)速率下的MAE 值Table 4 MAE values of four networks at optimal learning rates

        可以看出,Inception 系列網(wǎng)絡(luò)的骨齡預(yù)測(cè)精度均優(yōu)異于BoNet 網(wǎng)絡(luò),說明Inception 系列模塊在手骨X 射線圖像特征提取上具有優(yōu)異的效果。Inception ResNet V1 在Inception V3 的基礎(chǔ)上加入殘差連接結(jié)構(gòu),Inception ResNet V2 在Inception V4 的基礎(chǔ)上加入殘差連接結(jié)構(gòu),Inception V4 在Inception V3 基礎(chǔ)上對(duì)網(wǎng)絡(luò)進(jìn)行優(yōu)化,與Inception V3 相比,Inception V4 的網(wǎng)絡(luò)結(jié)構(gòu)更精簡(jiǎn)且Inception 模塊更多,上述網(wǎng)絡(luò)中前者的MAE 值均低于后者,骨齡預(yù)測(cè)精度更高。以上實(shí)驗(yàn)結(jié)果表明,殘差網(wǎng)絡(luò)的連接結(jié)構(gòu)對(duì)骨齡評(píng)估有正向促進(jìn)作用。殘差網(wǎng)絡(luò)結(jié)構(gòu)使深度神經(jīng)網(wǎng)絡(luò)在前向傳播時(shí)的輸入信號(hào)從任意層直接傳播到高層,在一定程度上解決網(wǎng)絡(luò)退化問題,且深度神經(jīng)網(wǎng)絡(luò)在反向傳播時(shí)的錯(cuò)誤信號(hào)可不經(jīng)過任何中間權(quán)重矩陣變換直接傳播到低層,在一定程度上緩解梯度彌散問題,從而提升網(wǎng)絡(luò)模型對(duì)手骨X線圖像特征的處理性能,得到更高的預(yù)測(cè)精度。

        3 結(jié)束語

        本文提出一種基于深度學(xué)習(xí)的改進(jìn)Inception ResNet V2 網(wǎng)絡(luò)骨齡評(píng)估方法。通過去除Softmax 層優(yōu)化深度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),在Inception 模塊中加入非對(duì)稱卷積核和殘差連接結(jié)構(gòu)提高分類精度,擴(kuò)展數(shù)據(jù)集避免深度學(xué)習(xí)算法出現(xiàn)過擬合現(xiàn)象,采用分層K折交叉驗(yàn)證法對(duì)數(shù)據(jù)均衡采樣。實(shí)驗(yàn)結(jié)果表明,與采用BoNet 網(wǎng)絡(luò)的方法相比,該方法骨齡預(yù)測(cè)精度更高,具有較好的魯棒性和泛化能力。后續(xù)將對(duì)卷積神經(jīng)網(wǎng)絡(luò)的特征提取區(qū)域進(jìn)行可視化研究,并與G&P 方法和TW 方法的特征提取區(qū)域進(jìn)行對(duì)比,進(jìn)一步提高本文方法的骨齡評(píng)估性能。

        猜你喜歡
        骨齡殘差卷積
        基于雙向GRU與殘差擬合的車輛跟馳建模
        評(píng)估身高需要定期測(cè)骨齡嗎
        基于3D-Winograd的快速卷積算法設(shè)計(jì)及FPGA實(shí)現(xiàn)
        基于殘差學(xué)習(xí)的自適應(yīng)無人機(jī)目標(biāo)跟蹤算法
        骨齡預(yù)測(cè)身高靠譜嗎
        基于遞歸殘差網(wǎng)絡(luò)的圖像超分辨率重建
        從濾波器理解卷積
        電子制作(2019年11期)2019-07-04 00:34:38
        骨齡測(cè)評(píng)軟件在矮身材、性早熟兒童身高管理中的應(yīng)用
        基于傅里葉域卷積表示的目標(biāo)跟蹤算法
        平穩(wěn)自相關(guān)過程的殘差累積和控制圖
        河南科技(2015年8期)2015-03-11 16:23:52
        亚洲乱色伦图片区小说| 男女午夜视频一区二区三区| 无码中文字幕av免费放| 亚洲国产日韩综一区二区在性色| 色婷婷久色国产成人免费| 日本一级二级三级不卡| 亚洲精品国产精品乱码在线观看| 国产精品欧美福利久久| 国产一级毛片AV不卡尤物| 中文字幕一区二区va| 国产中文字幕一区二区视频| 东京热日本av在线观看| 色婷婷亚洲精品综合影院| 亚洲av男人的天堂在线观看| 国产精品综合久久久久久久免费| 亚洲精品综合久久中文字幕| 亚洲va中文字幕无码一二三区| 久久精品人人爽人人爽| 欧美日韩高清一本大道免费| 婷婷开心五月亚洲综合| 国产日韩精品欧美一区喷水| 东北老女人高潮疯狂过瘾对白| 国产在线视频国产永久视频| 91久久精品一二三区蜜桃| 97久久综合精品国产丝袜长腿| 一 级做人爱全视频在线看| 免费1级做爰片1000部视频| āV第三区亚洲狠狠婷婷综合久久| 超短裙老师在线观看一区二区| 精品无码av无码专区| 久久久久久免费毛片精品| 无码国产日韩精品一区二区| 亚洲av色福利天堂久久入口| 天天躁日日躁aaaaxxxx| 精品无码久久久久成人漫画 | 99久久超碰中文字幕伊人| 精品熟女av中文字幕| 亚洲国产一区二区三区在线观看| 在线中文字幕有码中文| 亚洲中文久久久久无码| 视频一区二区免费在线观看|