丘致榕

（福建師范大學(xué)，福建 福州350001）

阿爾茲海默?。ˋD）是一種記憶力衰退、大腦功能緩慢且逐漸變異引起的智力喪失表現(xiàn)的疾病，它給整個(gè)社會(huì)的經(jīng)濟(jì)帶來(lái)巨大的負(fù)擔(dān)。想對(duì)AD 患者進(jìn)行徹底的治療是不可能的。在AD的早期即輕度認(rèn)知障礙(Mild Cognitive Impairment, MCI)時(shí)期進(jìn)行及時(shí)干預(yù)是目前普遍認(rèn)可的方法，輕度認(rèn)知障礙（MCI）根據(jù)其不同臨床結(jié)果可分類(lèi)為穩(wěn)定型(sMCI)和進(jìn)展型(pMCI)。神經(jīng)影像學(xué)可以作為阿爾茨海默病(AD) 及其前驅(qū)期輕度認(rèn)知障礙(MCI)的潛在診斷工具，其中核磁共振成像（Magnetic Resonance Imaging，MRI）由于技術(shù)成熟，在機(jī)器學(xué)習(xí)領(lǐng)域被廣泛利用。

1 數(shù)據(jù)與預(yù)處理

由于需要對(duì)sMCI 和pMCI 的患者進(jìn)行長(zhǎng)期跟蹤回訪，其核磁共振圖像不易獲取，因此本文收集了121 個(gè)sMCI 和159 個(gè)pMCI 的核磁共振圖像。核磁共振圖像需要經(jīng)過(guò)一定的預(yù)處理才能輸入到網(wǎng)絡(luò)進(jìn)行訓(xùn)練，預(yù)處理包括前聯(lián)合- 后聯(lián)合校正（AC-PC）、強(qiáng)度非均勻校正（N3）、去頭骨、配準(zhǔn)到標(biāo)準(zhǔn)模板和重采樣成181*218*181 像素。本文使用了基于MATLAB 的SPM 12工具包進(jìn)行對(duì)核磁共振圖像做預(yù)處理，最后獲得灰質(zhì)、白質(zhì)和去頭骨三種核磁共振的三維圖像。根據(jù)國(guó)內(nèi)外的研究發(fā)現(xiàn)，白質(zhì)圖像在機(jī)器學(xué)習(xí)算法中表現(xiàn)出最好的分類(lèi)效果。但由于使用三維卷積神經(jīng)網(wǎng)絡(luò)處理三維圖像會(huì)產(chǎn)生大量的參數(shù)，需要消耗很高的算力。為了減輕計(jì)算壓力，降低時(shí)間成本并且增大數(shù)據(jù)量，本文從三維圖像抽取部分切片作為最終實(shí)驗(yàn)數(shù)據(jù)，抽取方式為：從俯視圖第75 號(hào)切片開(kāi)始間隔一張抽取，共抽取15 張切片。

2 卷積神經(jīng)網(wǎng)絡(luò)對(duì)圖像的識(shí)別

2.1 AlexNet

雖然早期LeNet 在圖像分類(lèi)中取得了較好的成績(jī)，但是受限于計(jì)算機(jī)性能的影響，該網(wǎng)絡(luò)并沒(méi)有引起很多的關(guān)注。直到2012 年，Alex 等人提出的AlexNet 網(wǎng)絡(luò)在ImageNet 大賽上以遠(yuǎn)超第二名的成績(jī)奪冠，卷積神經(jīng)網(wǎng)絡(luò)才重新被廣泛的關(guān)注。AlexNet 是在LeNet 的基礎(chǔ)上加深了網(wǎng)絡(luò)的結(jié)構(gòu)，并使用了一些新技術(shù)使得網(wǎng)絡(luò)能學(xué)習(xí)到更豐富更高維的圖像特征。具體來(lái)說(shuō)，AlexNet 首次使用ReLU 作為網(wǎng)絡(luò)的激活函數(shù)，成功解決了Sigmoid 在網(wǎng)絡(luò)較深時(shí)的梯度彌散問(wèn)題。雖然ReLU 激活函數(shù)在很久之前就被提出了，但是直到AlexNet 的出現(xiàn)才將其發(fā)揚(yáng)光大。并且作者在訓(xùn)練AlexNet 時(shí)使用Dropout 隨機(jī)忽略掉一部分神經(jīng)元，以避免模型過(guò)擬合。Dropout 雖有單獨(dú)的論文論述，但是AlexNet 將其實(shí)用化，通過(guò)實(shí)踐證實(shí)了它的效果。可以說(shuō)AlexNet是淺層神經(jīng)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)的分界線。

2.2 VGGNet

VGGNet 是Visual Geometry Group 提出的。該網(wǎng)絡(luò)主要工作是證明了增加網(wǎng)絡(luò)的深度能夠在一定程度上影響網(wǎng)絡(luò)最終的性能。VGGNet 16 包含了16 個(gè)隱藏層（13 個(gè)卷積層和3 個(gè)全連接層），它具有以下的優(yōu)點(diǎn)：（1）結(jié)構(gòu)簡(jiǎn)潔，整個(gè)網(wǎng)絡(luò)都使用了同樣大小的卷積核尺寸（3x3）和最大池化尺寸（2x2）；（2）幾個(gè)小濾波器（3x3）卷積層的組合比一個(gè)大濾波器（5x5 或7x7）卷積層好；（3） 驗(yàn)證了通過(guò)不斷加深網(wǎng)絡(luò)結(jié)構(gòu)可以提升性能。但VGGNet 使用了更多的參數(shù)并且耗費(fèi)更多計(jì)算資源。

2.3 ResNet

殘差網(wǎng)絡(luò)（ResNet）要解決的是深度神經(jīng)網(wǎng)絡(luò)的“退化”問(wèn)題?！巴嘶敝傅氖墙o網(wǎng)絡(luò)疊加更多的層后，性能卻快速下降的情況。針對(duì)該問(wèn)題有兩種解決思路：一種是調(diào)整求解方法，比如更好的初始化、更好的梯度下降算法等；另一種是調(diào)整模型結(jié)構(gòu)，讓模型更易于優(yōu)化——改變模型結(jié)構(gòu)實(shí)際上是改變了誤差面的形態(tài)。

ResNet 從后者入手，探求更好的模型結(jié)構(gòu)。將堆疊的幾層網(wǎng)絡(luò)層稱(chēng)之為一個(gè)殘差塊。對(duì)于一個(gè)殘差結(jié)構(gòu)當(dāng)輸入為x 時(shí)其學(xué)習(xí)到的特征記為H(x)，現(xiàn)在我們希望其可以學(xué)習(xí)到殘差F(x)=H(x)-x，這樣其實(shí)原始的學(xué)習(xí)特征是F(x)+x。之所以這樣是因?yàn)闅埐顚W(xué)習(xí)相比原始特征直接學(xué)習(xí)更容易。當(dāng)殘差為0 時(shí)，此時(shí)堆積層僅僅做了恒等映射，至少網(wǎng)絡(luò)性能不會(huì)下降，實(shí)際上殘差不會(huì)為0，這也會(huì)使得堆積層在輸入特征基礎(chǔ)上學(xué)習(xí)到新的特征，從而擁有更好的性能。殘差學(xué)習(xí)的結(jié)構(gòu)有點(diǎn)類(lèi)似與電路中的“短路”，所以是一種短路連接。

2.4 SE-ResNet

SE 模塊是SENet 中的基本結(jié)構(gòu)。與傳統(tǒng)的CNN 不一樣的是，該模塊通過(guò)三個(gè)操作來(lái)重新標(biāo)定前面得到的特征。

首先進(jìn)行一個(gè)“壓縮”操作，假設(shè)輸入特征圖的維度為H*W*C，其中H 是高度，W 是寬度，C 是通道數(shù)?！皦嚎s”做的事情是把H*W*C 壓縮為1*1*C，相當(dāng)于把H*W 壓縮成了一維，而實(shí)際中的網(wǎng)絡(luò)一般是用全局平均池化操作來(lái)實(shí)現(xiàn)的。H*W 壓縮成一維后，相當(dāng)于這一維參數(shù)獲得了之前H*W 全局的視野，感受區(qū)域更廣。

其次是“激勵(lì)”操作，得到“壓縮”的1*1*C 的表示后，加入一個(gè)FC 全連接層，對(duì)每個(gè)通道的重要性進(jìn)行預(yù)測(cè)，通過(guò)參數(shù)w來(lái)為每個(gè)特征通道生成權(quán)重，其中參數(shù)w 的學(xué)習(xí)是被用來(lái)表示特征通道間相關(guān)性的。

圖1 AlexNet

圖2 VGGNet

圖3 ResNet 18

圖4 SE-ResNet 18

最后是一個(gè)特征重標(biāo)定的操作，將“激勵(lì)”的輸出的權(quán)重看做是經(jīng)過(guò)特征選擇后的每個(gè)特征通道的重要性，然后通過(guò)乘法逐通道加權(quán)到先前的特征上，完成在通道維度上的對(duì)原始特征的重標(biāo)定。

本文使用的SE-ResNet 是將SE 模塊嵌入到ResNet 模塊中。對(duì)分支上的殘差特征進(jìn)行了特征重標(biāo)定。這里我們使用全局平均池化作為“壓縮”操作。緊接著兩個(gè)全連接層去建模通道間的相關(guān)性，并輸出和輸入特征同樣數(shù)目的權(quán)重。首先將特征維度降低到輸入的1/16，然后經(jīng)過(guò)ReLu 激活后再通過(guò)一個(gè)全連接層升回到原來(lái)的維度。這樣做比直接用一個(gè)全連接層的好處在于：a.具有更多的非線性，可以更好地?cái)M合通道間復(fù)雜的相關(guān)性；b.極大地減少了參數(shù)量和計(jì)算量。然后通過(guò)一個(gè)Sigmoid的門(mén)獲得0～1 之間歸一化的權(quán)重，最后通過(guò)特征重標(biāo)定操作來(lái)將歸一化后的權(quán)重加權(quán)到每個(gè)通道的特征上。

3 結(jié)果與討論

本實(shí)驗(yàn)從灰質(zhì)圖像中間部位的30 個(gè)切片中間隔一張抽取15 張切片，共計(jì)得到4200 個(gè)切片，使用5 折交叉驗(yàn)證對(duì)Alexnet 8，VGG 16，resnet 18，se-resnet 18 進(jìn)行測(cè)試。相關(guān)的參數(shù)設(shè)置為epoch=200，訓(xùn)練到180 輪后減少學(xué)習(xí)率，讓網(wǎng)絡(luò)達(dá)到最優(yōu);受顯存限制batch_size 只能設(shè)置成8; 學(xué)習(xí)率1-180 輪設(shè)置成0.0001; adam 優(yōu)化器使用默認(rèn)參數(shù)。最終得到的結(jié)果如圖所示,四個(gè)網(wǎng)絡(luò)分別獲得了82.1%、96.37%、72.55%和81.62%的準(zhǔn)確率。

總之，中國(guó)對(duì)診斷及預(yù)防該病的科學(xué)研究報(bào)道甚少。本研究針對(duì)此問(wèn)題提出4 種用于輔助診斷輕度認(rèn)知障礙患者的卷積神經(jīng)網(wǎng)絡(luò)，這4 個(gè)卷積神經(jīng)網(wǎng)絡(luò)都能對(duì)患者大腦成像進(jìn)行有效診斷，其中VGGNet 性能表現(xiàn)出最優(yōu)秀的性能。