高 強，潘 俊，洪銳鋒

(廣州民航職業(yè)技術(shù)學(xué)院 計算機系，廣東 廣州 510403)

0 引 言

機場安檢是保障民航安全飛行的重要環(huán)節(jié)，關(guān)系著社會穩(wěn)定。當(dāng)前國際形勢復(fù)雜嚴峻，與此同時機場客流量呈爆發(fā)式增長，而且危險品也更加多樣化，這些因素都給安檢的高質(zhì)量和高效率帶來了極大的挑戰(zhàn)。目前，國內(nèi)的機場安全檢查危險品識別還依賴于X光機開機員人工識別。由于行李的擺放角度不同及物體的密度、體積不同，危險品的X光機圖像特征千差萬別，即使是同一危險品，在X光機中呈現(xiàn)的圖像也不盡相同，這給開機員準確識別危險品帶來了巨大困難，非常容易出現(xiàn)失誤，進而對民航安全造成隱患。另外，開機員識別危險品圖像屬于典型的重復(fù)性任務(wù)，長時間高強度、緊張度的工作，開機員大腦、身體都容易疲憊，這對危險品識別的準確率、效率都有很大影響。

在圖像識別領(lǐng)域，卷積神經(jīng)網(wǎng)絡(luò)[1](convolutional neural network，CNN)由于能夠自動學(xué)習(xí)圖像特征且識別準確率高，在醫(yī)學(xué)圖像識別[2]、人眼識別[3]、蝴蝶種類識別[4]、遙感圖像分類[5]以及人臉識別[6-7]、車輛檢測[8-9]、交通標志識別[10]以及物體檢測[11-12]等領(lǐng)域應(yīng)用廣泛。由于GoogLeNet[13]、AlexNet[14]和ResNet[15]等CNN模型在圖像識別大賽的優(yōu)異表現(xiàn)，許多研究人員將這些模型直接或者改進后應(yīng)用于相關(guān)領(lǐng)域的圖像識別中，如李勇等[16]采用跨連接LeNet-5網(wǎng)絡(luò)對人臉表情進行了相關(guān)研究。

盡管CNN在不同領(lǐng)域的圖像識別均取得了很好的效果，但在機場安檢危險品領(lǐng)域的研究、應(yīng)用尚存空白；另外，傳統(tǒng)CNN均假定數(shù)據(jù)集中各類別圖像數(shù)量均衡，在設(shè)計模型時，通常只關(guān)注模型的識別準確率、實時性，并未考慮數(shù)據(jù)集的不均衡對識別效果的影響?；诖耍闹刑岢鲆环N基于GAN數(shù)據(jù)增強的卷積神經(jīng)網(wǎng)絡(luò)危險品自動識別模型，并和GoogLeNet、AlexNet、ResNet模型的識別效果進行對比，以驗證該模型的有效性。

文中的貢獻如下：

(1)將CNN應(yīng)用于安檢危險品自動識別，對提升機場安檢智能化水平具有積極意義；

(2)提出一種基于GAN數(shù)據(jù)增強的卷積神經(jīng)網(wǎng)絡(luò)危險品自動識別模型，解決了數(shù)據(jù)集不均衡導(dǎo)致識別率低、實時性差的問題。

1 基于GAN數(shù)據(jù)增強的卷積神經(jīng)網(wǎng)絡(luò)模型

本節(jié)將詳細闡述基于GAN數(shù)據(jù)增強的卷積神經(jīng)網(wǎng)絡(luò)危險品自動識別模型。首先描述了利用GAN進行數(shù)據(jù)增強的實現(xiàn)原理，并利用其實現(xiàn)安檢危險品數(shù)據(jù)集的均衡化；然后從卷積層、池化層、全連接層及優(yōu)化技術(shù)、訓(xùn)練過程幾個方面介紹CNN模型。

1.1 數(shù)據(jù)集均衡化

傳統(tǒng)的機器學(xué)習(xí)識別算法均假定數(shù)據(jù)集的各類樣本數(shù)量相近，但在現(xiàn)實情況中，各類樣本數(shù)量并不均衡，通常將數(shù)量較多的類稱為多數(shù)類，反之稱為少數(shù)類。由于傳統(tǒng)的識別算法忽略了數(shù)據(jù)集中各類樣本數(shù)量的不均衡性，識別算法經(jīng)常偏置向多數(shù)類，少數(shù)類具有很高的誤識別比例。一般情況下，各類樣本數(shù)量不均衡比例超過1∶4，識別算法會因為數(shù)據(jù)不均衡而無法滿足識別要求。文中采用的危險品數(shù)據(jù)集各類樣本數(shù)量如圖1(a)所示。

由圖1(a)所知，危險品數(shù)據(jù)集中各類別數(shù)量不均衡性較為明顯，因此，在設(shè)計卷積神經(jīng)網(wǎng)絡(luò)模型之前，需要對數(shù)據(jù)集不均衡問題進行處理。

Goodfellow等在2014年提出生成式對抗網(wǎng)絡(luò)(generative adversarial networks，GAN)[17]這一深度學(xué)習(xí)模型。GAN能夠根據(jù)已有樣本數(shù)據(jù)，生成高質(zhì)量目標數(shù)據(jù)，可以使得樣本數(shù)據(jù)得以擴充，彌補訓(xùn)練樣本數(shù)據(jù)不足的缺陷，對深度學(xué)習(xí)具有重大意義。Radford等將GAN和CNN相結(jié)合，提出了深度卷積生成對抗網(wǎng)絡(luò)DCGAN[18]，該模型采用步幅卷積、微步副卷積、批標準化、LRELU等操作，具有訓(xùn)練過程穩(wěn)定、易收斂及生成樣本多樣性豐富的優(yōu)點，成為目前使用率最高的模型。

文中采用DCGAN實現(xiàn)數(shù)據(jù)集均衡化，將少數(shù)類圖像通過DCGAN網(wǎng)絡(luò)進行擴充，以實現(xiàn)訓(xùn)練樣本數(shù)據(jù)均衡化。經(jīng)過DCGAN均衡化后的數(shù)據(jù)集各類樣本數(shù)量如圖1(b)所示。

(b)采用GAN均衡化后的各類危險品數(shù)量 圖1 危險品類型及數(shù)量

1.2 卷積神經(jīng)網(wǎng)絡(luò)模型

危險品圖像數(shù)據(jù)集經(jīng)過GAN進行均衡化處理后，將輸入卷積神經(jīng)網(wǎng)絡(luò)模型進行識別。模型由5個隱藏層構(gòu)成，前4層是Conv1、Conv2、Conv3和Conv4卷積層，其中每層又分為卷積層(C)、激活層(R)和池化層(P)，將Conv4中P4的輸出結(jié)果進行扁平化操作后，與第5層全連接層FC5進行連接，最后輸出9類危險品識別概率，其結(jié)構(gòu)如圖2所示。

卷積層：輸入C1的危險品圖像大小為100*100*3。C1、C2使用5*5大小的卷積核，卷積核個數(shù)分別為32、64；C3、C4使用3*3大小的卷積核，卷積核個數(shù)均為128；C1、C2、C3、C4的卷積移動步長均為1。

圖2 卷積神經(jīng)網(wǎng)絡(luò)模型

激活層：R1、R2、R3和R4均使用ReLU激活函數(shù)，該函數(shù)將所有負值都變?yōu)?，而正值不變，這種單側(cè)抑制操作使得ReLU激活函數(shù)具有稀疏激活性和收斂速度快的優(yōu)點。其函數(shù)表達式如下：

(1)

池化層：P1、P2、P3和P4均使用核大小為2*2、步長為1的最大值池化操作。

全連接層：FC5以P4扁平化處理的結(jié)果作為輸入，其含1 024個神經(jīng)元；FC5與最后的輸出層output進行全連接，output含有9個神經(jīng)元。

模型在訓(xùn)練過程中，經(jīng)過卷積、池化操作時，圖像特征圖大小變化如表1所示。

表1 各卷積層輸入、輸出特征圖大小

1.3 模型優(yōu)化技術(shù)

1.3.1 損失函數(shù)

模型的損失函數(shù)采用交叉熵代價函數(shù)。交叉熵代價函數(shù)不僅可以克服方差代價函數(shù)更新權(quán)重過慢的問題，還可以避免梯度消散，其公式如下：

(2)

其中，c為損失值；n為訓(xùn)練樣本總數(shù)；a為神經(jīng)元的實際輸出；y為期望輸出。

1.3.2 優(yōu)化函數(shù)

模型的優(yōu)化函數(shù)采用自適應(yīng)矩估計(adaptive moment estimation，Adam)函數(shù)。Adam利用梯度的一階矩估計和二階矩估計動態(tài)調(diào)整每個參數(shù)的學(xué)習(xí)率，其收斂速度更快，學(xué)習(xí)效果更為有效，而且可以糾正其他優(yōu)化技術(shù)中存在的學(xué)習(xí)率消失、收斂過慢或高方差的參數(shù)更新導(dǎo)致?lián)p失函數(shù)波動較大等問題。Adam函數(shù)公式如式3～式7所示。

mt=u*mt-1+(1-μ)*gt

(3)

(4)

(5)

(6)

(7)

1.3.3 隨機失活

為了提高泛化能力，降低過擬合風(fēng)險，模型在全連接層采用dropout隨機失活策略。dropout是一種為防止神經(jīng)網(wǎng)絡(luò)過擬合的正則化方式，它在神經(jīng)網(wǎng)絡(luò)訓(xùn)練的過程中隨機拋棄隱藏層部分神經(jīng)節(jié)點的輸出值，在反向傳播更新權(quán)值參數(shù)時，不需要更新與該節(jié)點相連的權(quán)值。dropout的工作原理如圖3所示。

圖3 dropout工作原理

2 實驗驗證

2.1 實驗平臺及數(shù)據(jù)集

實驗在Dell Precision Tower T7920工作站上進行，采用python3.5+TensorFlow1.6實現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)。工作站配置為CPU：Intel Xeon Silver 4114，10核20線程，主頻2.2 GHz；GPU：NVIDIA Geforce GTX 1080TI，顯存11G；內(nèi)存64 GB，操作系統(tǒng)：Ubuntu 16.04 LTS(64位)。

為驗證提出模型的有效性，實驗采用的數(shù)據(jù)集來源于2017公安一所(全國最終版)危險品圖像庫。該數(shù)據(jù)集包含3 225幅、共計9種類型的危險品圖像，分別為爆炸品、彈藥、鈍器、管制器具、火種、槍支等武器、銳器、危險物品、煙火制品。

將來源于2017公安一所(全國最終版)危險品圖像庫的數(shù)據(jù)集稱為數(shù)據(jù)集I(9個類別、3 225幅圖像)，將數(shù)據(jù)集I采用GAN進行均衡化處理后得到的數(shù)據(jù)集稱為數(shù)據(jù)集II(9個類別、7 391幅圖像)。數(shù)據(jù)集I、II均分為訓(xùn)練集和驗證集。數(shù)據(jù)集I、II中的危險品圖像如圖4所示。

圖4 數(shù)據(jù)集I、II中的危險品圖像(部分)

2.2 有效性驗證

將數(shù)據(jù)集I、數(shù)據(jù)II分別輸入文中提出的卷積神經(jīng)網(wǎng)絡(luò)模型進行訓(xùn)練、驗證，以測試模型的有效性。實驗參數(shù)為：訓(xùn)練集、驗證集分別占80%、20%，批次大小為25，迭代次數(shù)為48，dropout參數(shù)設(shè)置為0.3。

經(jīng)過48輪次的訓(xùn)練后，訓(xùn)練集損失值下降情況、驗證集識別準確率分別如圖5、圖6所示。

圖5 損失值下降

由圖5和圖6可以得出，提出的卷積神經(jīng)網(wǎng)絡(luò)模型在數(shù)據(jù)集II比數(shù)據(jù)集I上損失值下降更快、更趨向于0，說明模型在數(shù)據(jù)集II上具有更好的收斂性，證明了GAN實現(xiàn)數(shù)據(jù)集均衡化的有效性。另外，在每輪迭代過程中，數(shù)據(jù)集II的識別準確率均高于數(shù)據(jù)集I，并且在經(jīng)過33迭代后，數(shù)據(jù)集II上的平均識別準確率穩(wěn)定在90.7%，高于數(shù)據(jù)集I的平均識別準確率57.3%，證明了該卷積神經(jīng)網(wǎng)絡(luò)模型的有效性。

圖6 識別準確率

2.3 方法效果對比

為了進一步驗證提出的卷積神經(jīng)網(wǎng)絡(luò)模型(myCNN)的有效性，將myCNN與GoogLeNet、AlexNet、ResNet在數(shù)據(jù)集II上進行識別效果對比實驗，結(jié)果如表2所示。

表2 數(shù)據(jù)集II的識別準確率 %

由表2可知，在數(shù)據(jù)集II上，myCNN的識別準確率分別比GoogLeNet、AlexNet、ResNet高出5.8%、7.2%和5.4%，進一步證明了myCNN的有效性。

3 結(jié)束語

對“基于不均衡數(shù)據(jù)集的機場安檢危險品自動識別問題”進行了研究，提出了一種基于GAN數(shù)據(jù)增強的卷積神經(jīng)網(wǎng)絡(luò)模型。該模型針對數(shù)量非均衡分布的危險品圖像，能夠準確實現(xiàn)自動識別，為實現(xiàn)危險品自動識別提供了一種方法。下一步將該模型遷移到復(fù)雜環(huán)境(如多危險品遮擋、重疊等)，并對模型的有效性及產(chǎn)生的新問題進行研究。