尹冬生，杜玲艷 *，徐小入

（1. 四川輕化工大學自動化與信息工程學院，自貢 643000；2. 四川輕化工大學人工智能四川省重點實驗室，自貢 643000）

0 引言

肺癌作為發(fā)病率和死亡率都很高的主要惡性腫瘤之一［1］，一直威脅著人們的健康和生命。大多數(shù)肺癌患者確診時已是晚期，其5年生存率僅為10%左右，但及早發(fā)現(xiàn)相關(guān)病灶并及時治療，可將生存率提高至50%以上［2］。肺結(jié)節(jié)是肺癌的早期表現(xiàn)之一，因此肺結(jié)節(jié)的早期篩查和診斷具有重要意義。隨著肺結(jié)節(jié)低劑量CT 篩查的廣泛開展［3］，CT 圖像數(shù)量成倍增加，給放射科醫(yī)師的工作帶來了極大的負擔，增加了主觀性和疲勞性造成誤診的風險。

計算機輔助診斷（CAD）系統(tǒng)可以幫助醫(yī)生提高診斷的速度和準確性。肺結(jié)節(jié)檢測是通過提取圖像特征并用機器學習相關(guān)分類器對結(jié)節(jié)進行分類來實現(xiàn)的。傳統(tǒng)的肺結(jié)節(jié)檢測方法依賴人工提取特征信息，無法有效挖掘肺部CT 圖像的豐富信息，導致檢測效率低下，嚴重影響診斷準確性。此外，傳統(tǒng)算法缺乏泛化能力，難以適應(yīng)大量復雜數(shù)據(jù)集［4］。近年來，隨著大數(shù)據(jù)集的出現(xiàn)和深度卷積神經(jīng)網(wǎng)絡(luò)的興起，基于深度學習的肺結(jié)節(jié)檢測可以獲得更好的特征表示能力［5-7］，從而在檢測領(lǐng)域取得了一系列突破。該方法在肺結(jié)節(jié)檢測中的應(yīng)用［3，8-9］。例如，Zhu 等［10］提出了一種基于Faster R-CNN 的兩階段檢測方法來解決結(jié)節(jié)誤報問題，但由于訓練時間長，檢測效率受到影響。Mao 等［11］提出了一種基于U-Net的改進網(wǎng)絡(luò)模型結(jié)構(gòu)，可以融合肺部結(jié)節(jié)的語義特征和低級特征，提高檢測能力，但直徑小于12 mm 的結(jié)節(jié)檢測精度不高。Xu 等［12］使用實時交互式肺結(jié)節(jié)分析系統(tǒng)幫助放射科醫(yī)師識別更多病灶，尤其是在胸部DR/CR圖像上更容易被忽視的小病灶，但整體靈敏度并不是特別出色。Su 等［13］設(shè)計的Faster-R-CNN算法，在肺部疾病的診斷中具有較高的準確性和潛在的臨床價值，但其數(shù)據(jù)集較小，僅由醫(yī)生對大的肺結(jié)節(jié)進行標記，缺乏特異性，對小的肺結(jié)節(jié)的敏感性較低。盡管隨著上述基于深度學習的方法的發(fā)展，肺結(jié)節(jié)檢測的性能有所提高，但仍然存在許多挑戰(zhàn)。目前需要一種靈敏度高、訓練時間短、速度快的肺結(jié)節(jié)檢測模型。

針對以上問題，本文提出了一種改進的YOLOv5s 肺結(jié)節(jié)檢測算法。在該方法中，使用GELU 作為網(wǎng)絡(luò)結(jié)構(gòu)的卷積激活函數(shù)。注意力機制CA 嵌入在骨干網(wǎng)絡(luò)中。采用Ghost 輕量級網(wǎng)絡(luò)改進C3 為C3Ghost，并在Head 結(jié)構(gòu)中加入小目標檢測層，提高小目標檢測的準確率。該模型訓練時間短，并且在檢測小的肺結(jié)節(jié)方面具有非常好的準確性。

需要注意的是，“YOLO-GC”是我們正在改進的模型的首字母縮寫詞，其中字母“G”和“C”分別表示激活函數(shù)高斯誤差線性單元（GELU）和協(xié)調(diào)注意力（CA）。本文的主要貢獻如下：

（1）用高斯誤差線性單元（GELU）的激活函數(shù)來描述神經(jīng)元輸入的概率；

（2）在特征提取網(wǎng)絡(luò)中加入CA 注意力機制，提高特征表達能力；

（3）引入Ghost 輕量級網(wǎng)絡(luò)，參數(shù)數(shù)量減少14.9%，速度提升19.7%；

（4）添加小目標檢測層，改變特征融合的方式，使特征融合更加完整，提高小型、微小型肺結(jié)節(jié)的檢測精度。

在LUNA16 上的實驗證明了所提出模型的可行性和有效性。

1 材料和方法

1.1 YYOOLLOO

YOLO（you look only once）模型由Redmond等人提出，用于物體檢測［14］。 YOLO 模型通過單個前饋網(wǎng)絡(luò)直接預測邊界框。YOLO 家族包括YOLO、YOLO9000［15］、YOLOv3［16］、YOLOv4［17］、YOLOv5、YOLOv6［18］和YOLOv7［19］。

本文使用的是YOLOv5算法模型。

1.2 YYOOLLOOvv5

YOLOv5算法具有訓練快、準確率高、模型高效等特點。YOLOv5有四個版本，包括YOLOv5s、YOLOv5m、YOLOv5l 和YOLOv5x，都在深度和寬度上逐漸增加［20］。 在處理成百上千張的肺結(jié)節(jié)圖像時，YOLOv5 算法在高精度條件下檢測速度上具有明顯優(yōu)勢。 其輸入采用增量強的Mosaic 數(shù)據(jù)。自適應(yīng)錨框計算，自適應(yīng)圖片縮放率；主干模塊基于Focus、Bottleneck、CSP（cross stage partial networks）和 SPPF（Spatial Pyramid Pooling-Fast）從輸入圖像中提取特征，并將它們傳輸?shù)絅eck模塊。

1.3 YYOOLLOOvv5--GGCC:改進的YYOOLLOOvv5

1.3.1 GGEELLUU

ReLU 等分段線性函數(shù)并不光滑，且在某些間斷點處不可導（特別是原點處）。然而，神經(jīng)網(wǎng)絡(luò)處理的數(shù)據(jù)一般要求是零均值的，ReLU 等函數(shù)在零點不可微，會在某種程度上影響網(wǎng)絡(luò)的性能。此外，ReLU 等確定性非線性函數(shù)作為神經(jīng)網(wǎng)絡(luò)的激活函數(shù)時，網(wǎng)絡(luò)往往需要加入隨機正則以提高模型的泛化性能。如果一個非線性函數(shù)本身具有隨機正則性，是不是就能同時保證網(wǎng)絡(luò)的非線性和泛化性?研究學者嘗試使用一個依賴于輸入本身的概率統(tǒng)計量為激活函數(shù)提供隨機正則性，同時保持輸入信息，得到了一種更好的激活函數(shù)，即高斯誤差線性單元（Gaussian error linear unit,GELU）［20-21］。

GELU 在激活中引入了隨機正則化的思想，這是對神經(jīng)元輸入的概率描述，直觀上更符合對自然界的理解。它是一種高性能的神經(jīng)網(wǎng)絡(luò)激活函數(shù)，因為GELU的非線性變化是一種符合預期的隨機正則變換方式，公式如下：

其中（x）指的是x的高斯正態(tài)分布的累積函數(shù)。進一步地，可得該函數(shù)的具體表達為

其中μ和σ分別代表正態(tài)分布的均值和標準差。由于上面這個函數(shù)是無法直接計算的，研究者在研究過程中發(fā)現(xiàn)GELU 函數(shù)可以被近似地表示為

或者

其中，σ(·)表示Sigmoid 函數(shù)，GELU 的函數(shù)圖像如圖1所示。

1.3.2 CCAA注意力機制

在我們提出的模型中，一種稱為“協(xié)調(diào)注意”的注意機制被引入移動網(wǎng)絡(luò)，它可以將位置信息嵌入到通道注意中。相應(yīng)的網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示［22-23］。

協(xié)調(diào)注意力通過精確的位置信息對通道關(guān)系和長期依賴性進行編碼。具體操作分為兩步：坐標信息嵌入和坐標注意力生成。 在坐標信息嵌入過程中，首先根據(jù)等式（5）將全局池分解為一對一的一維特征編碼：

對于輸入X，使用大小為（H,1）和（1,W）的池內(nèi)核分別沿著水平和垂直坐標對每個通道進行編碼，高度為h的通道c的輸出如等式（6）所示：

寬度為w的通道c的輸出如等式（7）所示：

上述兩個變換沿著兩個空間方向聚集特征以獲得一對方向感知特征圖。

為了利用上述信息，在坐標注意力生成中，首先對上述轉(zhuǎn)換進行連接操作。然后使用卷積變換函數(shù)F1對其進行變換，如等式（8）所示：

其中，δ是非線性激活函數(shù)，f是在水平和垂直方向上編碼空間信息的中間特征圖。

然后將f沿空間維度分解為張量f h和f w，并使用兩個1*1卷積變換和將f h和f w分別變換為具有相同通道數(shù)的張量，如等式（9）、（10）所示：

然后將輸出gh和gw分別擴展為關(guān)注權(quán)重。最終輸出y如等式（11）所示：

我們在特征提取網(wǎng)絡(luò)結(jié)構(gòu)的公共卷積層和SPPF 模塊之間增加了一個CA 模塊，使模型對肺部小結(jié)節(jié)的檢測更加敏感。提取的特征在空間上有較好的遠程依賴性，同時不丟失位置信息，生成的注意特征圖與原始輸入特征圖相比較，YOLOv5-GC 更加重點關(guān)注肺結(jié)節(jié)存在的位置［24］。

1.3.3 輕量級網(wǎng)絡(luò)GGhhoosstt

加入CA 注意力機制后，模型的網(wǎng)絡(luò)層由原來的622 層變?yōu)?14 層。訓練過程中需要學習的參數(shù)數(shù)量仍然很大，整個網(wǎng)絡(luò)架構(gòu)承擔著沉重的計算壓力，計算機訓練模型非常耗時。因此，在特征融合階段，加入輕量級網(wǎng)絡(luò)Ghost 在C3模塊中，是為了對從特征提取網(wǎng)絡(luò)中提取的部分特征進行線性擴展，減少訓練中學習的參數(shù)量，減少模型特征融合階段的時間。圖3 是Ghost模塊的處理流程［24］。

圖3 Ghost模塊流程圖

Ghost 模塊可以在一系列簡單的線性操作后生成具有少量參數(shù)的更多特征圖。它的參數(shù)和計算量都低于普通卷積神經(jīng)網(wǎng)絡(luò)。使用該模塊后，與原始網(wǎng)絡(luò)相比，需要學習的參數(shù)數(shù)量減少了14.9%，檢測速度提升了19.7%，從大大減少了該網(wǎng)絡(luò)的訓練時間［25］。

1.3.4 微尺度檢測層的創(chuàng)建

YOLOv5在三個尺度上進行檢測，將輸入圖像的尺寸分別為下采樣32、16、8，準確得到三個尺度。在這項研究中，我們檢測不同尺度的不同大小的峰。但是在肺部CT 圖像中，有些肺部結(jié)節(jié)體積較小，只有3 mm～6 mm，YOLOv5的小尺度檢測層不太適合這些肺部小結(jié)節(jié)。因此，YOLOv5-GC 通過對輸入圖像的維度進行四次下采樣來添加一個新的微尺度檢測層，這個微尺度層通過提取較低的空間特征并將它們與更深的語義特征融合來生成特征圖。新的微尺度檢測層使得檢測網(wǎng)絡(luò)結(jié)構(gòu)更寬更細，適用于肺陰影圖像中微小肺結(jié)節(jié)的檢測［26］。圖4 所示為改進后的YOLOv5-GC 的網(wǎng)絡(luò)結(jié)構(gòu)，增加的小尺度檢測層分支就是圖中的紅框。

圖4 改進后的YOLOv5-GC的網(wǎng)絡(luò)結(jié)構(gòu)

1.4 實驗數(shù)據(jù)

1.4.1 數(shù)據(jù)預處理

為了驗證該模型的檢測效果，本文對LUNA16 數(shù)據(jù)集進行了測試。LUNA16 數(shù)據(jù)集是LIDC-IDRI的一個子集，而LIDC-ID-RI是肺部結(jié)節(jié)檢測的一個常用數(shù)據(jù)集。LUNA16數(shù)據(jù)集刪除了LIDC-IDRI 中肺結(jié)節(jié)小于3 mm 和斷面厚度大于3 mm 的CT 圖像。其特點是數(shù)據(jù)量大，肺結(jié)節(jié)大小偏小，由多名具有數(shù)年放射科診斷經(jīng)驗的臨床醫(yī)師標注而成，其中肺結(jié)節(jié)直徑范圍為3～28.6 mm的結(jié)節(jié)標簽，平均大小為8.3 mm?？傆?186 例經(jīng)多名放射科醫(yī)師標注過的肺結(jié)節(jié)樣本。整個數(shù)據(jù)預處理過程如圖5所示［27］。

圖5 數(shù)據(jù)預處理流程

圖6的（a）和（b）分別顯示了肺部結(jié)節(jié)中心點的分布和肺部結(jié)節(jié)的大小與原始圖像的數(shù)據(jù)集的關(guān)系。

圖6 肺結(jié)節(jié)分布

1.4.2 數(shù)據(jù)集設(shè)置

深度網(wǎng)絡(luò)模型必須首先用足夠的數(shù)據(jù)進行訓練，以獲得理想的檢測精度。在一個具有復雜結(jié)構(gòu)的網(wǎng)絡(luò)模型中，如果用于訓練的數(shù)據(jù)量太小，很容易發(fā)生過度擬合，最終會影響檢測的準確性。本文對1186張肺部結(jié)節(jié)的CT圖像進行裁剪、翻譯、旋轉(zhuǎn)和鏡像，將其擴展為5930張圖像的數(shù)據(jù)集。

本文隨機抽取90%的圖像作為訓練集，5%作為測試集，5%作為驗證集。

1.5 評價指標

本文的肺結(jié)節(jié)檢測模型以Precision（精度）、Recall（召回率）和AP 作為評價指標。如公式（12）、（13）和（14）所示。

其中：TP是正確預測的陽性樣本的數(shù)量；FP是錯誤預測的陽性樣本的數(shù)量；FN是錯誤預測為陰性的樣本的數(shù)量［28-29］。

2 實驗與結(jié)果

2.1 設(shè)備參數(shù)

梯度向量有大小和方向，其中大小被稱為學習率。如果學習率設(shè)置得太低，每一步都太小，下降速度太慢，就可能需要很長的時間才能找到最小值。而學習率太高時，每一步都太大，雖然收斂速度很快，但最小值被越過或忽略了，這會導致持續(xù)的來回振蕩和不收斂。因此，學習率對算法的性能至關(guān)重要。

從表1可以看出，當學習率為0.01時，精度最高，效果最佳。

表1 學習率對實驗結(jié)果的影響

在實際訓練中，批量大小是非常重要的。如果批處理量過小，相鄰小批之間的差異比較大，相鄰兩次迭代的梯度振蕩會比較嚴重，不利于收斂；批處理量越大，相鄰小批之間的差異越小。雖然梯度振蕩會比較小，在一定程度上有利于模型收斂。但如果批處理量極大，相鄰小批量之間的差值太小，相鄰兩個小批量的梯度不會不同，整個訓練過程是向一個方向下移，很容易卡在局部最小值。因此，有必要為我們的模型訓練選擇適當?shù)呐瘟?。根?jù)實驗設(shè)備，設(shè)置2、4和8批處理量進行測試。

從表2 可以看出，當批次大小為8 時，效果最佳。

表2 批量大小對實驗結(jié)果的影響

本文網(wǎng)絡(luò)是基于PyTroch 深度學習網(wǎng)絡(luò)，為了節(jié)省訓練時間，在GTX3060上訓練。這個模型的編程語言是Python；GPU 使用CUDAv11.2 和CuDNNv8.1進行加速。訓練的參數(shù)設(shè)置如下：批次大小為8，初始學習率為0.01，動量為0.937，epochs設(shè)置為300，預訓練權(quán)重為YOLOv5s.pt。

2.2 激活函數(shù)對AAPP的影響

從表3 的實驗數(shù)據(jù)可以看出，激活函數(shù)對YOLOv5有一定影響。使用YOLOv5原始的ReLU激活函數(shù)，最終AP 值為81.0%；使用ELU 得到的AP 值為80.8%；使用GELU 激活函數(shù)，AP 值增加了0.3%，達到81.3%。結(jié)果表明，使用GELU激活函數(shù)略微提高了肺部結(jié)節(jié)的檢測精度。

表3 ReLU、ELU和GELU三個激活函數(shù)在YOLOv5上的表現(xiàn)

2.3 消融實驗

從表4 可以看出，使用330×330 像素的輸入圖像對所提方法消融研究表明，引入GELU激活函數(shù)后，直觀上更符合對自然的理解，網(wǎng)絡(luò)的檢測精度有一定程度的提高，使AP 從81.0%提高到81.3%。CA 通過通道注意和空間注意增強了網(wǎng)絡(luò)對肺結(jié)節(jié)的語義信息和位置信息的注意，促進了不同尺度特征的更有效融合。AP 值從81.3%提高到82.0%。引入Ghost 模塊后，縮短了模型訓練時間，但準確率有一定程度的下降，AP 值從82.0%下降到81.7%。最關(guān)鍵的改進是增加微尺度檢測層，提高了該模型對小型和微小型肺結(jié)節(jié)的檢測精度，AP 值從81.7%提高到88.1%。

表4 使用330×330像素的輸入圖像對所提出方法的組分進行消融研究

2.4 不同模型的實驗比較結(jié)果

為了驗證所提出的YOLOv5-GC 模型的有效性，我們將其與近年來其他經(jīng)典的肺結(jié)節(jié)檢測算法進行比較。表5 顯示了與Mask R-CNN、YOLOv3和YOLOv5s的比較結(jié)果。

表5 與其他網(wǎng)絡(luò)的結(jié)果比較

從表5 可以看出，所提出的YOLOv5 改進后的網(wǎng)絡(luò)結(jié)構(gòu)的Precision、Recall 和AP 值分別為87.5%、86.8%和88.1%。與原YOLOv5s 相比AP值增加了7.1%，與YOLOv3 相比AP 值增加了17.6%，比Mask R-CNN 的AP 值增加了25.6%。實驗結(jié)果表明，改進后的網(wǎng)絡(luò)結(jié)構(gòu)更注重對肺結(jié)節(jié)小目標的檢測，特征融合更充分，能更準確地檢測肺結(jié)節(jié)。

本文對四種網(wǎng)絡(luò)模型的精度和損失函數(shù)的變化進行了比較和分析，并繪制了相應(yīng)的變化曲線，如圖7 所示，該實驗是每5 個epochs 保存一次數(shù)據(jù)。從圖7（a）可以看出，改進后的YOLOv5-GC 模型訓練后的目標識別準確率高于Mask R-CNN、YOLOv3 模型和原YOLOv5s 模型。此外，改進后的YOLOv5-GC 模型在達到收斂時的波動較小。從圖7（b）可以看出，改進的YOLOv5-GC 模型的損失函數(shù)值下降得更快。綜上所述，與Mask R-CNN、YOLOv3 模型和原始YOLOv5s 模型相比，YOLOv5-GC 模型對肺部結(jié)節(jié)有更好的檢測性能和識別效果。

圖7 測試結(jié)果的比較

YOLOv5-GC 模型驗證設(shè)定的混淆矩陣如圖8 所示，從圖8 可以看出，該模型對肺結(jié)節(jié)的識別準確率達到90%，并且假陽性率較低，該方法在肺結(jié)節(jié)自動檢測中表現(xiàn)出良好的性能。

圖8 YOLOv5-GC訓練結(jié)果的混淆矩陣

2.5 可視化實驗

圖9顯示的是肺結(jié)節(jié)實際存在位置、YOLOv5預測的位置和YOLOv5-GC 預測的位置之間的差異。從圖中可以看出，原始的YOLOv5模型中對肺結(jié)節(jié)的檢測只有80%的預測值，而本文提出的方法可以達到90%的預測值?？偨Y(jié)這個可視化實驗，我們的模型對較小的結(jié)節(jié)具有良好的性能和非常高的準確率。

圖9 提議的方法在LUNA 16數(shù)據(jù)集上的檢測結(jié)果

3 結(jié)語

本文的算法可以實現(xiàn)基于CT 圖像的肺結(jié)節(jié)自動檢測，在實際的肺結(jié)節(jié)檢測操作中具有一定的應(yīng)用價值。CA 注意力機制的加入有效地提高了肺結(jié)節(jié)的檢測率。Ghost 模塊的應(yīng)用大大提高了檢測速度。GELU 在激活中引入了隨機正則化的思想，來描述神經(jīng)元輸入的概率。增加的小物體檢測層對肺部結(jié)節(jié)的檢測有很好的效果。該算法有效提高了結(jié)節(jié)的檢測效率，減少了計算資源的使用。然而，這個實驗有一定的局限性，即應(yīng)該進一步擴大實驗數(shù)據(jù)集。目前，本實驗使用的數(shù)據(jù)量太小，而且數(shù)據(jù)比較陳舊，有些數(shù)據(jù)圖像有些模糊?？晒﹨⒖嫉牧夹越Y(jié)節(jié)不多，缺乏很多特異性。因此，今后我們可以與醫(yī)院合作，獲得更多新的CT 圖像來訓練模型，進一步提高本模型的檢測精度。此外，這個實驗設(shè)備的性能一般。如果有更好的設(shè)備或服務(wù)器，建議使用更大的GPU 進行訓練，因為從表3可以看出，在某些情況下，批量大小的設(shè)置會影響訓練的速度和準確性。肺結(jié)節(jié)是肺部的球狀物，在CT 圖像上只顯示一個截面。未來可以使用三維（3D）CNN 進行此類實驗，這樣可以避免二維圖像的一些干擾，可以有效地提高檢測效果［30-31］。