丘致榕

（福建師范大學,福建 福州 350001）

1 3D-ResNet網(wǎng)絡建模

本文的基準網(wǎng)絡為ResNet-34，卷積層基本都采用了3x3x3的過濾器并遵循了兩個設計原則：（1）如果輸出的特征圖大小相同，那么每層的過濾器數(shù)目也相同。（2）如果特征圖的大小減半，那么過濾器的數(shù)量翻倍，保持每層的時間復雜度不變。在網(wǎng)絡的最后，經(jīng)過全局池化層和全連接的softmax層。在基準網(wǎng)絡的基礎上，我們加入快捷連接就得到了對應的殘差版本?？旖葸B接仍然采用恒等映射，對于維度增加的用零補齊。這種方法不會增加額外的參數(shù)，并采用1x1卷積來匹配尺寸。

ResNet-34是由若干殘差塊組成的網(wǎng)絡，每個殘差塊的輸入先經(jīng)過卷積層，再通過與之匹配的歸一化層，隨后經(jīng)過一個激活層，再經(jīng)過一個同樣的結構[1]。

2 網(wǎng)絡優(yōu)化

本文獲取了pMCI 159例和sMCI 121例樣本的核磁共振成像，每一例樣本經(jīng)過前聯(lián)合—后聯(lián)合校正（AC-PC）、強度非均勻校正（N3）、去頭骨、配準到標準模板和重采樣的預處理后得到去頭骨圖像、灰質圖像、白質圖像三個模態(tài)的圖像數(shù)據(jù)。隨機選取179例作為訓練集樣本，45例作為驗證集樣本，56例作為測試集樣本[2]。對模型采取五折交叉驗證的方式選取分類器的最優(yōu)參數(shù)。以0.01步長作為閾值繪制模型的ROC曲線以評價模型效果，并分析模型的ACC（準確率），SEN（敏感度），SPE（特異性），AUC（ROC曲線下方面積）四個指標。

針對模型的過擬合問題，我們加入了L2正則化，優(yōu)化前后模型的Loss變化趨勢如圖1所示。

圖1 L2正則化加入前后的損失變化趨勢

其中實線為加入L2正則化手段前的Loss趨勢，而虛線為加入L2正則化手段后的Loss趨勢，可以發(fā)現(xiàn)加入L2正則化后模型的Loss下降趨緩，可以迫使模型盡可能少地學習到與問題無關的特征信息，一定程度上緩解模型過擬合的問題。

基于不同的FNr閾值，我們針對單模態(tài)和多模態(tài)的數(shù)據(jù)集描繪了模型的ROC曲線（圖2），實驗結果發(fā)現(xiàn)，對于單模態(tài)的模型而言，雖然真陽率較低的時候模型的假陽率較多模態(tài)模型有一定的優(yōu)勢，但是在真陽率高于0.1時，多模態(tài)的模型假陽率明顯低于單模態(tài)模型的假陽率[3]。多模態(tài)模型ROC曲線整體趨勢更偏左上方，表明多模態(tài)的數(shù)據(jù)集對于降低模型誤判起到了非常明顯的作用。

在激活函數(shù)方面，我們分析了Sigmoid、Tanh、ReLU、LeakyReLU、ELU、GELU幾個激活函數(shù)，并比較了其在本文模型上的實驗結果（圖3）。除Sigmoid激活函數(shù)發(fā)生梯度消失現(xiàn)象無法訓練外，其余激活函數(shù)均取得了一定的效果。其中LeakyReLU激活函數(shù)可以取得最高的準確度（0.732）、最高的特異性（0.844）和最高的AUC值（0.717）。

LeakyReLU與原始的ReLU激活函數(shù)相比，雖然模型的敏感度略有下降（3個百分點），但模型的ACC、SPE、AUC指標繼續(xù)上升，其中模型準確度上升了4個百分點左右，特異性上升了10個百分點，AUC指數(shù)上升了3個百分點。說明LeakyReLU激活函數(shù)在保留額外信息的同時，一定程度上帶來了噪聲因素，導致模型區(qū)分正常類別的能力略有下降，但是這些額外信息中更大程度上包含的是有利于模型區(qū)分異常樣本的部分，并且較為明顯地提高了模型區(qū)分異常樣本的檢測能力，相較而言是利大于弊的。

圖2 單模態(tài)與多模態(tài)比較

圖3 不同激活函數(shù)的比較

我們還比較了其他同類問題研究算法模型的效果。ROI方法將全腦sMRI數(shù)據(jù)劃分為多個區(qū)域，提取區(qū)域尺度特征，使用SVM進行分類。VBM方法將所有sMRI數(shù)據(jù)空間歸一化到Colin27模板，以體素方式提取局部灰質密度。然后，基于t檢驗進行統(tǒng)計學組比較，對高維體素級特征表示進行降維。最后，構造線性SVM分類器進行疾病診斷。在LBM方法中，首先從以每個預定義解剖標志為中心的局部圖像斑塊中提取形態(tài)學特征。這些斑塊級特征表示進一步通過z-score歸一化處理進行連接和處理，實現(xiàn)基于SVM的線性分類[4]。以上三種方法皆是對三維圖像做了大量處理后再加以識別，而本文僅進行了簡單的優(yōu)化，可以發(fā)現(xiàn)本文的模型在ACC（準確率）、SEN（敏感度）、SPE（特異性）、AUC（ROC曲線下方面積）四個評價維度上均取得了最佳效果。

表1 同類型問題的模型比較

3 結論

本文采用三維ResNet作為主干網(wǎng)絡，并對其原有結構做了修改與優(yōu)化。模型準確度為0.905，驗證集準確度為0.711，測試集準確度為0.732。實驗結果表明：多模態(tài)的核磁共振圖像對于阿爾茨海默病pMCI與sMCI分類任務較單模態(tài)數(shù)據(jù)有較大提升；同時，LeakyReLU的特殊函數(shù)設計以固定衰減率保留了負值區(qū)間的部分信息，較ReLU等其余激活函數(shù)更適合阿爾茨海默病核磁共振圖像的分類任務；此外，L2正則懲罰項的引入對于模型訓練起到了緩解過擬合的作用。最終訓練模型準確度為0.732，基本滿足醫(yī)學輔助診斷任務需求。