【關(guān)鍵詞】皮膚腫瘤;組織病理圖像;遷移學(xué)習(xí);EfficientNet-B4;Adam
【中圖分類號】R739.5 【文獻(xiàn)標(biāo)識碼】A 【文章編號】2026-5328(2022)03--01
1 引言
在臨床上皮膚腫瘤主要分為黑素細(xì)胞性和非黑素細(xì)胞性兩大類,黑素細(xì)胞性主要包括惡性黑色素瘤、色素痣等,非黑素細(xì)胞性主要包括基底細(xì)胞癌、鱗狀細(xì)胞癌、角化棘皮瘤等[1]。隨著我國老齡化程度的不斷加深,皮膚腫瘤的發(fā)病率也呈現(xiàn)上升趨勢。
近年來,隨著深度學(xué)習(xí)[2]等人工智能算法在計算機視覺領(lǐng)域的不斷成功,以圖像分類為核心的計算機輔助診斷技術(shù)得到極大的發(fā)展,為深度學(xué)習(xí)在醫(yī)學(xué)圖像的處理領(lǐng)域打下了良好基礎(chǔ)。深度學(xué)習(xí)算法可以提取具有代表性的高層特征,避免了傳統(tǒng)的機器學(xué)習(xí)算法中復(fù)雜的特征提取等過程,因此在圖像識別和分類方面具有極大的優(yōu)勢和潛力。
本文提出一種殘差結(jié)構(gòu)與EfficientNet網(wǎng)絡(luò)相結(jié)合的模型來對四類皮膚腫瘤進(jìn)行分類,包括基底細(xì)胞癌、黑色素瘤、毛發(fā)上皮瘤和毛母細(xì)胞瘤。其中引入的殘差結(jié)構(gòu)提高了網(wǎng)絡(luò)模型的精度,并將改進(jìn)后的模型與不同的優(yōu)化器進(jìn)行結(jié)合,最后再對比分析其他的網(wǎng)絡(luò)模型驗證改進(jìn)后模型的性能效果。
2 研究方法
2.1 EfficientNet網(wǎng)絡(luò)
EfficientNet[3]系列網(wǎng)絡(luò)模型自2019年首次提出以來受到了廣泛的關(guān)注,它采用一種新的模型縮放方法對網(wǎng)絡(luò)深度、網(wǎng)絡(luò)寬度和模型輸入圖像的分辨率三個不同維度進(jìn)行合理且高效的調(diào)整搭配,不僅提高了模型訓(xùn)練速度,也提升了模型精度。
EfficientNet-B4網(wǎng)絡(luò)是在EfficientNet-B0的基礎(chǔ)上,放大網(wǎng)絡(luò)深度、網(wǎng)絡(luò)寬度的倍數(shù)分別為1.4、1.8,輸入分辨率調(diào)整為380x380?;鶞?zhǔn)網(wǎng)絡(luò)主要是由16個倒置瓶頸卷積模塊、2個Conv卷積層、1個全局平均池化層和1個全連接層組成。其中倒置瓶頸卷積模塊中又包含深度可分離卷積、批處理歸一化、Swish激活函數(shù)以及通道注意力模塊。
2.2 基于殘差結(jié)構(gòu)的 EfficientNet 模型改進(jìn)
神經(jīng)網(wǎng)絡(luò)在一般情況下呈現(xiàn)網(wǎng)絡(luò)越深,模型效果也會更好的現(xiàn)象,但是隨著網(wǎng)絡(luò)深度的不斷增加,梯度消失和梯度爆炸問題也隨之而來。He[4]等人提出的殘差結(jié)構(gòu)網(wǎng)絡(luò)有效的解決了上述兩個梯度問題以及網(wǎng)絡(luò)性能的退化問題。因此本文采用殘差結(jié)構(gòu)去優(yōu)化網(wǎng)絡(luò),保證網(wǎng)絡(luò)深度的同時,又可以減少梯度帶來的問題,更好地提取特征信息,提升網(wǎng)絡(luò)性能。
本文采用3x3的卷積核來改進(jìn)殘差結(jié)構(gòu),更強的提取病灶區(qū)域在低層中的表征信息。改進(jìn)后的EfficientNet-B4的整體網(wǎng)絡(luò)模型結(jié)構(gòu)如圖1所示,其中不同的顏色代表著不同的階段。
3.1 實驗環(huán)境與數(shù)據(jù)集
實驗所采取的數(shù)據(jù)為某醫(yī)院皮膚科提供,并出具相應(yīng)診斷信息。數(shù)據(jù)集中使用 HE 染色制成病理切片,經(jīng)全切片數(shù)字掃描儀放大 40 倍后制成的無損數(shù)字病理圖像。
3.2 評價指標(biāo)
在分類階段本文采用準(zhǔn)確率(ACC)、靈敏度(sensitivity)和特異性(specificity)作為評價指標(biāo),三者計算公式如下所示。
但是由于測試集采取的方法是用整張病理圖像分塊去測,因而四種皮膚腫瘤的測試集數(shù)目并不一致,所以模型研究的準(zhǔn)確率等于模型靈敏度。因此模型的評價指標(biāo)增加一個F1分?jǐn)?shù),其公式如式(4)所示。
3.3 實驗結(jié)果及分析
分類模型的實驗結(jié)果如表1所示??梢钥闯?,本文提出的模型分類準(zhǔn)確率最高,模型的特異性、靈敏度與F1分?jǐn)?shù)也占據(jù)優(yōu)勢。
結(jié)束語
本文以四類皮膚腫瘤的組織病理圖像為研究對象,在分類階段分析了不同模型對于分類的影響,得到最優(yōu)的模型EfficientNet-B4網(wǎng)絡(luò)并進(jìn)行改進(jìn),同時選擇不同的優(yōu)化器進(jìn)行實驗對比分析,最終得出模型最優(yōu)的改進(jìn)方式為EfficientNet-B4網(wǎng)絡(luò)與殘差結(jié)構(gòu)相結(jié)合并選用Adam作為優(yōu)化器。本文提出的研究方法與原始EfficientNet-B4模型相比,在速度相近的情況下其準(zhǔn)確率與靈敏度提高了2.5%,特異性提高了0.6%。
實驗結(jié)果表明,所提出的模型是適合于多分類皮膚腫瘤組織病理圖像的,但該模型的大小以及速度并不具備優(yōu)勢。在之后的研究中將進(jìn)一步對網(wǎng)絡(luò)進(jìn)行優(yōu)化,增強網(wǎng)絡(luò)分類準(zhǔn)確率的同時縮短訓(xùn)練時間。
參考文獻(xiàn):
唐志銘,傅宏陽,荊夢晴等.皮膚鏡在皮膚腫瘤診斷中的應(yīng)用[J].皮膚病與性病,2021,43(03):352-354+361.
LeCun Y, Bengio Y, Hinton G. Deep learning[J]. Nature, 2015, 521(7553):436–444.
Tan M, Le Q. EfficientNet: Rethinking model scaling for convolutional neural networks[C]//Proceedings of the 36th International Conference on Machine Learning. New York:PMLR, 2019:6105-6114.
He K,Zhang X,Ren S,et al.Deep Residual Learning for Image Recognition[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. New York: IEEE, 2016: 770-778.
作者簡介:賈夢菊(1994—),女,漢族,沈陽工業(yè)大學(xué)信息科學(xué)與工程學(xué)院碩士,主要從事圖像處理、智能信息處理方面的研究。