曹鳳虎 羅 悅 朱名乾

（1.赤峰學(xué)院附屬醫(yī)院信息工程部 赤峰 024050）（2.中北大學(xué)信息與通信工程學(xué)院 太原 030051）

1 引言

X 射線斷層（X-ray Computed Tomography，CT）成像技術(shù)廣泛用于現(xiàn)代醫(yī)學(xué)診斷，對(duì)醫(yī)學(xué)影像技術(shù)的發(fā)展存在著重要影響。然而，過(guò)量使用X射線會(huì)極大提高被照射者患白血病風(fēng)險(xiǎn)，因此降低X射線掃描含量是十分必要的［1～2］，目前常采用稀疏采樣算法降低射線含量。壓縮感知（Compressed Sensing，CS）理論的出現(xiàn)，使得利用稀疏投影數(shù)據(jù)融合稀疏先驗(yàn)信息獲取高質(zhì)量重建結(jié)果成為可能。經(jīng)典算法FBP利用數(shù)學(xué)層析成像原理進(jìn)行重建，該算法重建速度快，但易受噪聲干擾，重建圖像存在嚴(yán)重偽影［3］。近年來(lái)，深度學(xué)習(xí)逐漸滲透于醫(yī)學(xué)成像領(lǐng)域，其中重要的一個(gè)方向就是CT 重建過(guò)程。Wolterink 和Yang 提出基于GAN 及Perceptual Loss原理的CT 圖像降噪，用全局角度的損失函數(shù)評(píng)價(jià)圖像質(zhì)量［4～5］。為減小噪聲和偽影對(duì)成像質(zhì)量的影響，Yang 等學(xué)者使用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)低質(zhì)量CT 圖像與高質(zhì)量CT 圖像之間存在的噪聲和偽影［6］。學(xué)者He 融合了FBP 和U-Net 算法，設(shè)計(jì)殘差學(xué)習(xí)網(wǎng)絡(luò)FBPConvNet和多分辨卷積網(wǎng)絡(luò)［7］，借助U-Net算法降低噪聲對(duì)FBP 重建結(jié)果的影響。盡管提高了重建圖像精度，去除了噪聲干擾，但是，傳統(tǒng)神經(jīng)網(wǎng)絡(luò)基于高維圖像域與投影域?qū)崿F(xiàn)圖像重建，存在計(jì)算量大、效率低下問(wèn)題，且隨著維數(shù)的增加，機(jī)器學(xué)習(xí)分類的精度會(huì)迅速下降。有研究表明，對(duì)降維后的數(shù)據(jù)進(jìn)行訓(xùn)練相當(dāng)于利用提取后的特征訓(xùn)練網(wǎng)絡(luò)，可以避免過(guò)擬合［8］。

綜上所述，本文提出基于非線性降維思想的SDAE-CNN重建網(wǎng)絡(luò)，將自動(dòng)編碼器（Autoencoder，AE）嵌套進(jìn)卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks，CNN），在保留全局特征的情況下完成高維空間與低維空間的相互映射，并在低維空間上實(shí)現(xiàn)圖像重建。同時(shí)加入噪聲與約束項(xiàng)，在保證重建精度的情況下降低重建復(fù)雜度，提高效率與網(wǎng)絡(luò)泛化能力。

2 基于SDAE-CNN的重建算法

2.1 基本思想

面對(duì)高維稀疏CT 數(shù)據(jù)，重建算法決定最終圖像的精度。傳統(tǒng)重建算法旨在直接處理高維稀疏數(shù)據(jù)，然而直接利用高維數(shù)據(jù)進(jìn)行重建將不可避免地導(dǎo)致重建效率降低，且隨著維數(shù)的增加，機(jī)器學(xué)習(xí)分類的精度會(huì)迅速下降。有研究表明，在具有相同幾何結(jié)構(gòu)的情況下低維空間重建能夠減少對(duì)數(shù)據(jù)網(wǎng)絡(luò)的依賴，提高網(wǎng)絡(luò)效率與泛化能力。

針對(duì)傳統(tǒng)算法受維度影響的問(wèn)題，本文提出利用降維后數(shù)據(jù)進(jìn)行重建的SDAE-CNN 網(wǎng)絡(luò)，采用非線性降維算法，以此擴(kuò)大網(wǎng)絡(luò)泛化性。

結(jié)合了非線性映射思想，SDAE-CNN的基本流程是：高維投影數(shù)據(jù)通過(guò)非線性降維算子φ-1(x)映射到低維空間數(shù)據(jù)x 上，再利用重建算子g 將x和重建圖像y 非線性聯(lián)系起來(lái)，最后使用非線性升維算子φ(f)將低維數(shù)據(jù)y 反映射回高維圖像域空間，得到重建CT 圖像，示意圖如圖1所示。CNN 是一類可以進(jìn)行卷積運(yùn)算并且具有一定深度的前饋型神經(jīng)網(wǎng)絡(luò)，收斂速度快，魯棒性強(qiáng)，容錯(cuò)能力高［9～12］，因此選擇CNN 擴(kuò)展AE 的深度。在CNN中，只要訓(xùn)練數(shù)據(jù)樣本量足夠多時(shí)，重建算子g 可以通過(guò)網(wǎng)絡(luò)神經(jīng)元的各個(gè)權(quán)值近似替代，實(shí)現(xiàn)算子的隱式學(xué)習(xí)。

圖1 網(wǎng)絡(luò)學(xué)習(xí)過(guò)程

2.2 基于自動(dòng)編碼器的非線性降維

為保證低維重建效果，降維后的低維數(shù)據(jù)應(yīng)與高維數(shù)據(jù)具有相同的幾何結(jié)構(gòu)特征。Isomap 算法是非線性降維的常用算法之一。經(jīng)過(guò)Isomap 算法降維后，低維空間的低維流形可以保持高維空間數(shù)據(jù)的全局幾何特征。然而，Isomap無(wú)法給出高維空間到低維空間對(duì)應(yīng)的逆映射，無(wú)法滿足升維需求。具有雙向神經(jīng)網(wǎng)絡(luò)的AE，能夠?qū)崿F(xiàn)這一目標(biāo)。AE是一種通過(guò)將輸出目標(biāo)逼近輸入數(shù)據(jù)，進(jìn)而對(duì)數(shù)據(jù)進(jìn)行學(xué)習(xí)的算法，即學(xué)習(xí)恒等函數(shù)g(x)≈x，其網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。將輸入向量x 由映射函數(shù)g映射到重建向量y，即：

式中nl為自動(dòng)編碼器的層數(shù)；W為權(quán)重矩陣；b為偏置向量。

圖2 自動(dòng)編碼器網(wǎng)絡(luò)結(jié)構(gòu)圖

AE 訓(xùn)練雙向神經(jīng)網(wǎng)絡(luò)完成編碼（Encoder）和解碼（Decoder）操作［13～15］。Encoder部分將高維原始數(shù)據(jù)非線性降維，Decoder利用Encoder獲取的低維特征值非線性升維，得到與輸入數(shù)據(jù)近似的高維重建數(shù)據(jù)。該網(wǎng)絡(luò)輸出數(shù)據(jù)與輸入數(shù)據(jù)大小相同，相似度高，解決了同胚映射非線性降維方法存在的無(wú)法給出逆映射的缺陷。

2.3 稀疏隨機(jī)失活自編碼器

傳統(tǒng)AE 在訓(xùn)練過(guò)程中易出現(xiàn)過(guò)擬合現(xiàn)象，存在泛化能力弱，魯棒性低等問(wèn)題。本文利用隨機(jī)失活（Dropout）方法優(yōu)化AE，形成隨機(jī)失活自編碼器（Dropout Autoencoder，DAE）。通過(guò)向訓(xùn)練樣本增加噪聲，在輸入層間進(jìn)行Dropout處理，在訓(xùn)練階段減弱神經(jīng)元的聯(lián)合適應(yīng)性，如式（2）所示：

式中Xt為訓(xùn)練樣本；為添加噪聲后的訓(xùn)練數(shù)據(jù)；NF為噪聲因子；XN為服從正態(tài)分布的數(shù)據(jù)。

由于輸入數(shù)據(jù)為高稀疏度CT數(shù)據(jù)，因此，不同輸入數(shù)據(jù)節(jié)點(diǎn)對(duì)于重建結(jié)果的重要性不同。為了保證DAE 提取的輸入數(shù)據(jù)特征表示的稀疏性和有效性，要使DAE 網(wǎng)絡(luò)隱層神經(jīng)元j 的平均活躍度pj盡可能接近指定稀疏性參數(shù)p ＜＜1，其中：

式中β表示約束項(xiàng)的權(quán)重，hi表示第i層的節(jié)點(diǎn)。

2.4 SDAE-CNN網(wǎng)絡(luò)

由于SDAE 網(wǎng)絡(luò)層數(shù)少，提取特征較淺，無(wú)法對(duì)高維數(shù)據(jù)進(jìn)行很好的特征提取，降維效果不佳。因此需要增加多個(gè)隱藏層以提高特征提取次數(shù)與深度，提取高維數(shù)據(jù)深層抽象特征。

本文提出SDAE-CNN 網(wǎng)絡(luò)，該網(wǎng)絡(luò)融合SDAE與CNN，形成卷積稀疏自動(dòng)編碼器，對(duì)φ-1(x)，φ(f)和g 進(jìn)行隱形學(xué)習(xí)，表現(xiàn)在連接網(wǎng)絡(luò)神經(jīng)元的權(quán)重上，提高了學(xué)習(xí)能力，更有利于預(yù)訓(xùn)練。其中Encoder網(wǎng)絡(luò)權(quán)重執(zhí)行降維職責(zé)，Decoder網(wǎng)絡(luò)權(quán)重執(zhí)行升維與職責(zé)，連接Encoder與Decoder的權(quán)重因子連接降維后的低維特征值與升維前的低維重建數(shù)據(jù)［16～17］，實(shí)現(xiàn)了低維空間的數(shù)據(jù)重建。網(wǎng)絡(luò)大體框架如圖3所示。

圖3 引入Autoencoder后的網(wǎng)絡(luò)框架圖

常規(guī)的卷積網(wǎng)絡(luò)通常是把圖像當(dāng)作輸入，經(jīng)過(guò)多層卷積提取特征，最后通過(guò)全連接層進(jìn)行輸出。由于本文網(wǎng)絡(luò)的輸入是數(shù)據(jù)，輸出是圖像，與常規(guī)卷積網(wǎng)絡(luò)的結(jié)構(gòu)安排相反，因此，SDAE-CNN 的前端添加完全連接層（FC1 至FC3），在連接數(shù)據(jù)的同時(shí)，對(duì)稀疏投影數(shù)據(jù)進(jìn)行去噪處理。Encoder、Decoder的卷積和去卷積層則放在了網(wǎng)絡(luò)的后端用于學(xué)習(xí)復(fù)雜的非線性算子，生成重建圖像，示意圖如圖4所示。

圖4 SDAE-CNN詳細(xì)結(jié)構(gòu)圖

本文構(gòu)建的卷積神經(jīng)網(wǎng)絡(luò)SDAE-CNN 由tanh激活函數(shù)激活的三個(gè)全連接層（FC1 至FC3）、relu激活函數(shù)激活的五個(gè)卷積層（C1至C5）及五個(gè)反卷積層（D1至D5）組成，利用

網(wǎng)絡(luò)重建CT 圖像與數(shù)據(jù)集里真值高質(zhì)量CT圖像之間的均方根誤差（Mean Square Error，MSE）作為損失函數(shù)，使網(wǎng)絡(luò)神經(jīng)元權(quán)值不斷更新，如式（5）所示：

式中x 是仿真編碼孔徑掃描下的稀疏投影數(shù)據(jù)，fw( x)為重建圖像，h為原圖，N 為圖像點(diǎn)數(shù)。

為了最小化批量損失函數(shù)L( w)，使用隨機(jī)梯度下降法（Stochastic gradient descent，SGD）優(yōu)化CNN，并采用自適應(yīng)矩估計(jì)算法（Adaptive moment estimation，Adam）穩(wěn)定學(xué)習(xí)速率，控制學(xué)習(xí)步長(zhǎng)，避免SGD因下降梯度大、方向隨機(jī)引起的迭代不穩(wěn)定。

在神經(jīng)網(wǎng)絡(luò)更新節(jié)點(diǎn)權(quán)值的過(guò)程中，SGD利用反向傳播后樣本梯度均值更新權(quán)重參數(shù)，能夠有效尋找到最小值，加快收斂速度，從而使整個(gè)CT圖像重建的卷積網(wǎng)絡(luò)趨于收斂。SGD 更新權(quán)重方式如式（6）所示：

式中W 為權(quán)重，η 表示學(xué)習(xí)率，一般在［0.001，0.01］區(qū)間；Nb值指一個(gè)batch 的樣本數(shù)量，取值在［50，200］區(qū)間內(nèi)。

Adam 為動(dòng)量法與RMSProp 算法的結(jié)合，是一種可替代傳統(tǒng)梯度下降法的優(yōu)化算法，能夠自適應(yīng)控制學(xué)習(xí)速率，防止步長(zhǎng)不當(dāng)影響學(xué)習(xí)結(jié)果。Adam更新權(quán)重步驟如下所示。

式中β1為一階矩估計(jì)指數(shù)衰減率，β2為二階矩估計(jì)指數(shù)衰減率。νt是一階梯度矩陣，相當(dāng)于動(dòng)量法，st是二階梯度矩陣，相當(dāng)于RMSProp 法，設(shè)初始值ν0=0，s0=0。分別是對(duì)原始值的偏差修正。因?yàn)椴捎昧艘苿?dòng)指數(shù)平均方法，而且ν0和s0都為0 向量，所以在開(kāi)始階段如果不進(jìn)行修正，初始梯度權(quán)重會(huì)很小，無(wú)法得到真實(shí)值。

3 實(shí)驗(yàn)結(jié)果與分析

SDAE-CNN為數(shù)據(jù)驅(qū)動(dòng)的卷積神經(jīng)網(wǎng)絡(luò)，訓(xùn)練數(shù)據(jù)集來(lái)源于Mayo Clinic官網(wǎng)上的臨床CT圖像數(shù)據(jù)集。選取16 個(gè)患者、共計(jì)2200 幅在正常輻射劑量下進(jìn)行的肺部與腹部的掃描臨床CT 圖像，圖像大小為512×512。為了獲得在平行束掃描角度為0°:2°:358°共180 個(gè)角度，投影數(shù)據(jù)稀疏度為77.5%條件下的仿真投影數(shù)據(jù)，需計(jì)算CT 圖像在各個(gè)掃描角度下的投影圖像。因此利用稀疏度高，隨機(jī)性強(qiáng)的隨機(jī)Bernoulli計(jì)算隨機(jī)編碼掩膜的值，并通過(guò)Logistic 混沌序列將掩膜上[-1,1]區(qū)間上的數(shù)值轉(zhuǎn)變?yōu)?值或1值，將掩膜與投影圖像相乘，得到稀疏CT 投影圖像。同時(shí)，需要建立兩個(gè)坐標(biāo)系：一個(gè)是以中心點(diǎn)為原點(diǎn)的靜止圖像坐標(biāo)系x-y，另一個(gè)是與靜止坐標(biāo)系同原點(diǎn)的旋轉(zhuǎn)坐標(biāo)系xr-yr。旋轉(zhuǎn)坐標(biāo)系的旋轉(zhuǎn)角度以每次2°的變換角度不斷更改，每更改一次，就記錄該角度下的圖像在旋轉(zhuǎn)坐標(biāo)系上的投影圖形。

從數(shù)據(jù)集中隨機(jī)選取80%的CT 圖像作為訓(xùn)練集訓(xùn)練SDAE-CNN，向其中加入噪聲，其余20%圖像作為測(cè)試集，測(cè)試網(wǎng)絡(luò)重建質(zhì)量。在訓(xùn)練過(guò)程中，學(xué)習(xí)率η 逐步增大，由0.001 過(guò)渡到0.01，設(shè)置β1=0.9，β2=0.999，ε=10-8，Nb=64，權(quán)重W 初始值為區(qū)間上均勻隨機(jī)取值，d 為初始層的神經(jīng)元個(gè)數(shù)。

本文用腹部CT圖像Slice1-Slice3與肺部CT圖像Slice4-Slice6 作為測(cè)試集測(cè)試網(wǎng)絡(luò)性能，對(duì)比不同方法重建效果。同時(shí)，為了更加直觀觀察感興趣部分的重建情況，放大黃框框選部分，結(jié)果如圖5所示。為了進(jìn)一步驗(yàn)證SDAE-CNN 重建性能，通過(guò)峰值信噪比（Peak Signal to Noise Ratio，PSNR）和結(jié)構(gòu)相似性（Structural Similarity，SSIM）兩種指標(biāo)對(duì)腹部與肺部重建圖像精度進(jìn)行量化，其結(jié)果如表1和表2所示。

圖5 腹部與肺部CT圖像不同算法重建結(jié)果對(duì)比圖

從表1 和表2 重建結(jié)果的PSNR 和SSIM 上分析，可以發(fā)現(xiàn)RED-CNN 與SDAE-CNN 的PSNR 值與SSIM 值都大于FBP、SART-TV、PYRO-NN，重建效果優(yōu)于這三種方法，可以重建出更多細(xì)節(jié)。FBP方法的PSNR和SSIM的值最低，重建圖像受噪聲干擾，重建效果最差。ART-TV、PYRO-NN 的PSNR和SSIM的值大于FBP，小于RED-CNN與SDAE-CNN方法，細(xì)節(jié)重建效果較差，會(huì)出現(xiàn)模糊現(xiàn)象。通常情況下，病灶并不大，如果細(xì)節(jié)信息無(wú)法保留，會(huì)給后續(xù)病灶識(shí)別造成困擾，這樣的重建圖像是難以被使用的。而且本文方法的PSNR 和SSIM 值大多數(shù)情況下高于RED-CNN，因此SDAE-CNN 方法優(yōu)于RED-CNN方法。

表1 腹部CT圖像在不同算法下的重建結(jié)果的定量分析表

表2 肺部CT圖像在不同算法下的重建結(jié)果的定量分析表

4 結(jié)語(yǔ)

針對(duì)稀疏度為77.5%的高稀疏度CT 圖像重建問(wèn)題，本文提出SDAE-CNN 重建算法。該算法通過(guò)加入噪聲和稀疏約束項(xiàng)，提高網(wǎng)絡(luò)的泛化能力和稀疏性，利用卷積自動(dòng)編碼器網(wǎng)絡(luò)層進(jìn)行非線性降維與升維，可高效實(shí)現(xiàn)低維空間與高維空間數(shù)據(jù)的相互映射，同時(shí)借助改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)尋找低維空間非線性對(duì)應(yīng)關(guān)系，實(shí)現(xiàn)低維空間圖像重建。為了觀察SDAE-CNN 的重建效果，對(duì)比了SDAE-CNN與FBP、ART-TV、PYRO-NN、RED-CNN 等方法的重建結(jié)果。經(jīng)對(duì)比，可發(fā)現(xiàn)SDAE-CNN 在重建精度上遠(yuǎn)優(yōu)于FBP、ART-TV、PYRO-NN算法，稍優(yōu)于RED-CNN 算法，可以很好地通過(guò)稀疏數(shù)據(jù)重建CT圖像。