蔡際杰，陳德旺，張 璜

（1.福州大學(xué)數(shù)學(xué)與計(jì)算機(jī)科學(xué)學(xué)院；2.福州大學(xué)智慧地鐵福建省高校重點(diǎn)實(shí)驗(yàn)室，福建福州 350108；3.福州理工學(xué)院計(jì)算與信息科學(xué)學(xué)院，福建福州 350506）

0 引言

大數(shù)據(jù)時(shí)代數(shù)據(jù)量越來(lái)越大，利用大數(shù)據(jù)解決實(shí)際問(wèn)題的機(jī)會(huì)越來(lái)越多，深度學(xué)習(xí)作為處理數(shù)據(jù)的人工智能技術(shù)顯得越來(lái)越重要。深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Network，DNN）作為深度學(xué)習(xí)的重要分支受到青睞。DNN 在并行性計(jì)算能力、自學(xué)習(xí)能力和非線性映射能力上表現(xiàn)突出［1］，廣泛應(yīng)用于計(jì)算機(jī)視覺、自然語(yǔ)言處理以及語(yǔ)音識(shí)別等領(lǐng)域。

自1943 年美國(guó)心理學(xué)家McCulloch 和數(shù)學(xué)家Pitts 提出神經(jīng)元突觸模型中最基本的模型——MP 模型以來(lái)［2］，神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程跌宕起伏，發(fā)展至今經(jīng)歷了三起三落：1986 年，Rumelhart 等［3］共同提出了反向傳播算法，利用梯度下降法不斷更新神經(jīng)節(jié)點(diǎn)參數(shù)，大大降低了神經(jīng)網(wǎng)絡(luò)誤差；Hinton 等［4］于2006 年提出了深層次結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)，并首次提出深度學(xué)習(xí)概念，描述了深度學(xué)習(xí)的整個(gè)體系結(jié)構(gòu)。其后人們開始考慮搭建多層神經(jīng)網(wǎng)絡(luò)來(lái)解決復(fù)雜的大數(shù)據(jù)問(wèn)題，自此出現(xiàn)了各種類型的DNN，如深度卷積神經(jīng)網(wǎng)絡(luò)（Deep Convolution Neural Network，DCNN）、深度生成式對(duì)抗神經(jīng)網(wǎng)絡(luò)（Deep Generated Adversarial Neural Net?work，DGANN）等。神經(jīng)網(wǎng)絡(luò)的迅速發(fā)展得益于計(jì)算機(jī)性能的提高和Hinton、LeCun、Bengio 等研究者的成果貢獻(xiàn)，Lecun 等［5］三人于2015 年共同在《Nature》上發(fā)表《Deep Learing》引起世界關(guān)注。如今深度學(xué)習(xí)研究成果已成功應(yīng)用在圖像識(shí)別、圖像分類、語(yǔ)音識(shí)別等領(lǐng)域［6］。

DCNN 具有強(qiáng)大的自學(xué)習(xí)能力和非線性映射能力，但是其存在一些致命缺點(diǎn)：①過(guò)于依賴數(shù)據(jù)集。訓(xùn)練集一旦過(guò)大會(huì)導(dǎo)致生成的模型過(guò)擬合，不夠泛化，太過(guò)死板；訓(xùn)練集一旦過(guò)小，則會(huì)導(dǎo)致生成的模型欠擬合，精度較差；②可解釋性較差。當(dāng)DCNN 結(jié)構(gòu)變得越來(lái)越復(fù)雜時(shí)，參數(shù)會(huì)變得非常多，一旦出錯(cuò)則難以修正，而且難以解釋其結(jié)果產(chǎn)生的依據(jù)，因此難以運(yùn)用在諸如自動(dòng)駕駛、醫(yī)療診斷和金融決策等高風(fēng)險(xiǎn)領(lǐng)域［7］；③魯棒性較差。一旦給數(shù)據(jù)集添加一些隨機(jī)噪聲將導(dǎo)致模型精度大大降低。

在DCNN 以上缺點(diǎn)中，DCNN 的抗噪性能近年備受關(guān)注。從圖像識(shí)別到語(yǔ)音識(shí)別領(lǐng)域，DCNN 的影子隨處可見，如果DCNN 訓(xùn)練測(cè)試的數(shù)據(jù)集發(fā)生人們無(wú)法察覺的微小變化，原本效果特別好的神經(jīng)網(wǎng)絡(luò)就會(huì)受到嚴(yán)重影響，將其應(yīng)用在安全領(lǐng)域造成的后果將不堪設(shè)想。Eykholt［8］于2018 年發(fā)現(xiàn)倘若在一張停止的交通標(biāo)志圖片上增加4 個(gè)小方點(diǎn)，無(wú)人駕駛汽車的人工智能系統(tǒng)就會(huì)將該標(biāo)志誤識(shí)別為限速45 的標(biāo)志；Finlayson［9］將像素惡意添加到醫(yī)療掃描的圖像可能會(huì)使DNN 誤檢癌癥。由此可見DCNN 魯棒性較差，很容易受到噪聲干擾，因此其難以運(yùn)用在安全領(lǐng)域。

為進(jìn)一步證明DCNN 抗噪性能較差的缺點(diǎn)，本文通過(guò)給手寫體數(shù)據(jù)集DigitDataset 的測(cè)試集添加4 種不同幅度噪聲，深入研究DCNN 在手寫體識(shí)別問(wèn)題上的抗噪性能。研究結(jié)果對(duì)DCNN 的改進(jìn)和高魯棒性的深度學(xué)習(xí)系統(tǒng)（如深度模糊系統(tǒng)等）研究具有一定的參考意義。

1 卷積神經(jīng)網(wǎng)絡(luò)

1.1 研究背景

近年來(lái)，DNN 憑借其強(qiáng)大的學(xué)習(xí)能力和并行性計(jì)算能力，使其在非線性問(wèn)題建模上比一般淺層模型表現(xiàn)更好，具有一定優(yōu)勢(shì)。隨著深度學(xué)習(xí)研究的深入，出現(xiàn)了一種具有強(qiáng)大特征提取能力的神經(jīng)網(wǎng)絡(luò)——卷積神經(jīng)網(wǎng)絡(luò)（Con?volution Neural Network，CNN）。CNN 能夠?qū)崿F(xiàn)端到端學(xué)習(xí)，通過(guò)大量的訓(xùn)練后，CNN 模型可以在不進(jìn)行額外處理的情況下學(xué)習(xí)到圖像中的特征，完成對(duì)圖像特征的提取和分類工作［10］。CNN 中的局部連接、權(quán)值共享以及池化操作特性能夠快速有效地降低網(wǎng)絡(luò)復(fù)雜性［11］，因此比其他神經(jīng)網(wǎng)絡(luò)方法更適合應(yīng)用在圖像特征學(xué)習(xí)問(wèn)題上。CNN 的種種優(yōu)勢(shì)使其應(yīng)用領(lǐng)域不斷擴(kuò)大，早期利用CNN 識(shí)別手寫體字符，后來(lái)將其應(yīng)用在語(yǔ)音識(shí)別、目標(biāo)檢測(cè)以及圖像語(yǔ)義分割等領(lǐng)域。

早期CNN 停留在理論研究階段，1998 年Lecun 等［12］為解決手寫體識(shí)別問(wèn)題提出LeNet-5；2012 年Krizhevsky等［13］根據(jù)CNN 存在的過(guò)擬合缺陷引入dropout 機(jī)制，并增加非線性激活函數(shù)來(lái)增強(qiáng)模型的非線性表達(dá)能力，他們提出的Alex-Net 在ImageNet 競(jìng)賽中獲得了冠軍；而后Zeiler等［14］根據(jù)AlexNet 存在的不足進(jìn)行改進(jìn)，從可視化角度解釋了CNN 具有較好性能的原因，并于2013 年提出具有特征可視化的ZFNet。目前CNN 種類繁多，如VGGNet［15］、GoogleNet［16］、ResNet［17］以及近幾年迅速發(fā)展的輕量級(jí)卷積神經(jīng)網(wǎng)絡(luò)［18］，每次更新的模型都有很大改進(jìn)。隨著CNN 模型的不斷創(chuàng)新，CNN 研究成果層出不窮，成為目前最受關(guān)注的研究熱點(diǎn)之一。

1.2 基本原理

普通的前饋神經(jīng)網(wǎng)絡(luò)由輸入層、隱含層、輸出層組成，而CNN 是一種特殊的前饋神經(jīng)網(wǎng)絡(luò)，它建立在前饋神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上，然后將隱含層延伸為卷積層、池化層和全連接層。CNN 基本結(jié)構(gòu)由輸入層、卷積層、池化層、全連接層以及輸出層組成，如圖1 所示［10］。一般CNN 會(huì)交替設(shè)置多個(gè)卷積層和池化層，即一個(gè)卷積層連接一個(gè)池化層，池化層后再連接一個(gè)卷積層［11］，從而形成DCNN，如LeNet-5 結(jié)構(gòu)就是交替設(shè)置卷積層和池化層的標(biāo)準(zhǔn)案例。

Fig.1 Typical structure of convolutional neural network圖1 卷積神經(jīng)網(wǎng)絡(luò)典型結(jié)構(gòu)

簡(jiǎn)單的DCNN 工作流程如下：將圖片轉(zhuǎn)為輸入矩陣，經(jīng)過(guò)輸入層后進(jìn)入卷積層，每一個(gè)卷積核滑遍整個(gè)輸入矩陣，得到特征矩陣。卷積層提取輸入矩陣的局部特征，然后再進(jìn)入池化層進(jìn)行降維和防止過(guò)擬合處理；接著進(jìn)入全連接層進(jìn)行特征組合完成目標(biāo)建模。如圖2 所示的前饋神經(jīng)網(wǎng)絡(luò)全連接層工作過(guò)程與BP 網(wǎng)絡(luò)類似，利用梯度下降法進(jìn)行誤差反向傳播，最后進(jìn)入輸出層輸出結(jié)果。

Fig.2 Full connection layer of feedforward neural network圖2 前饋神經(jīng)網(wǎng)絡(luò)全連接層

2 噪聲類型及實(shí)現(xiàn)

噪聲可以理解為妨礙人類理解信息的干擾因素。微小的噪聲可能不會(huì)妨礙人類判斷結(jié)果，但對(duì)于機(jī)器而言其影響可能較大，微小的干擾會(huì)嚴(yán)重影響機(jī)器的人工智能算法，嚴(yán)重的會(huì)導(dǎo)致其癱瘓，最后結(jié)果本末倒置。噪聲是一種隨機(jī)過(guò)程，所以它的分量灰度值是一個(gè)隨機(jī)變量，其統(tǒng)計(jì)特性一般由概率密度函數(shù)表示［19］。一般使用均值、方差或某些函數(shù)來(lái)描述噪聲特征。噪聲在數(shù)字圖像中十分常見，在進(jìn)行圖像處理實(shí)驗(yàn)時(shí)，實(shí)驗(yàn)圖片在傳輸、存儲(chǔ)過(guò)程中往往不可避免地受到各種噪聲干擾。而DCNN 是一種依賴數(shù)據(jù)集的模型，倘若其測(cè)試集或整個(gè)數(shù)據(jù)集受到噪聲干擾，其模型精度有可能大幅下降。實(shí)驗(yàn)中數(shù)據(jù)集的噪聲通常都是理想化的，一般是疊加性的椒鹽噪聲、伽馬噪聲等，但在實(shí)際應(yīng)用中圖像受到的噪聲情況更為復(fù)雜，對(duì)于DCNN 的影響更加嚴(yán)重，因此去噪方法研究尤為重要。

許多學(xué)者在圖像去噪方面做了大量工作并取得突破。王小鵬等［20］在保證原始圖像完整度基礎(chǔ)上提出一種基于形態(tài)學(xué)多尺度的圖像噪聲去除方法；Song 等［21］為解決超聲圖像斑點(diǎn)噪聲問(wèn)題提出一種去除該類型噪聲和突出缺陷特征的形態(tài)學(xué)方法；Umoh 等［22］對(duì)一種基于超混沌的數(shù)字圖像加密算法在噪聲攻擊下進(jìn)行大量的魯棒性分析，以此分析噪聲對(duì)該加密算法的影響；Semenishchev 等［23］提出一種保留目標(biāo)邊界的圖像濾波方法并將其成功應(yīng)用在醫(yī)療圖像領(lǐng)域。由于噪聲對(duì)算法的影響較大，所以未來(lái)圖像去噪研究將是熱點(diǎn)。

本文實(shí)驗(yàn)選取圖像處理中常見的4 種噪聲給數(shù)據(jù)集加噪，并通過(guò)調(diào)整噪聲公式中的2 個(gè)參數(shù)來(lái)加大噪聲對(duì)數(shù)據(jù)集的干擾，以此觀察DCNN 精度變化情況。

2.1 高斯白噪聲

高斯白噪聲一般指該噪聲的幅度分布服從高斯分布，功率譜密度服從均勻分布，通俗指在一般范圍內(nèi)噪聲的統(tǒng)計(jì)特性符合高斯分布，且其熱噪聲部分在工作范圍內(nèi)均勻分布［24］。高斯白噪聲在MATLAB 下的實(shí)現(xiàn)公式如下：

式（1）中，randn（M，N）為MATLAB 下自帶的函數(shù)，該函數(shù)可以自動(dòng)產(chǎn)生出均值為0、方差為1、尺寸為M×N 像素的高斯噪聲矩陣，參數(shù)a 為均值，參數(shù)b 為方差。加噪前后對(duì)比如圖3 所示，其中a=0，b=0.05。

Fig.3 Comparison of Gaussian white noise before and after adding noise圖3 高斯白噪聲加噪前后對(duì)比

2.2 伽馬噪聲

伽馬噪聲指一種概率密度函數(shù)服從伽馬曲線分布的噪聲。伽馬噪聲可通過(guò)疊加x 個(gè)服從指數(shù)分布的噪聲得到［25］。伽馬噪聲在MATLAB 下實(shí)現(xiàn)公式如下：

Gama_noise=a+b×gamrnd(A,B,[M,N]) （2）

式（2）中，gamrnd（A，B，［M，N］）為MATLAB 自帶的函數(shù)，該函數(shù)可自動(dòng)產(chǎn)生參數(shù)為A、B，尺寸為M×N 像素服從伽馬分布的噪聲矩陣。為消除將伽馬噪聲疊加到圖像產(chǎn)生的變形影響，給公式添加參數(shù)a 和b。加噪前后對(duì)比如圖4 所示，其中a=0，b=0.05，A=1，B=1。

Fig.4 Comparison of Gamma noise before and after adding noise圖4 伽馬噪聲加噪前后對(duì)比

2.3 瑞利噪聲

瑞利噪聲是圖像處理中常見的噪聲，該噪聲的統(tǒng)計(jì)特性服從瑞利分布，即當(dāng)由噪聲組成的隨機(jī)二維向量的兩個(gè)分量呈獨(dú)立、有著相同方差的正態(tài)分布時(shí)，這個(gè)向量的模呈瑞利分布［23］。瑞利噪聲在MATLAB 下實(shí)現(xiàn)公式如下：

式（3）中，raylrnd（B，［M，N］）為MATLAB 的自帶函數(shù)，該函數(shù)可自動(dòng)產(chǎn)生出服從瑞利分布，參數(shù)為B、尺寸為M×N像素的瑞利噪聲矩陣。為消除瑞利噪聲疊加到圖像產(chǎn)生的變形影響，給公式添加了參數(shù)a 和b。加噪前后對(duì)比如圖5 所示，其中a=0，b=0.05，B=1。

Fig.5 Comparison of Rayleigh noise before and after noise addition圖5 瑞利噪聲加噪前后對(duì)比

2.4 指數(shù)噪聲

指數(shù)噪聲，顧名思義就是統(tǒng)計(jì)特性服從指數(shù)分布的噪聲。指數(shù)分布是伽馬分布的一種特殊情況［26］，因此指數(shù)噪聲與伽馬噪聲有部分相似之處。指數(shù)噪聲在MATLAB 下的實(shí)現(xiàn)公式如下：

式（4）中，exprnd（mu，［M，N］）為MATLAB 下自帶的函數(shù)，該函數(shù)可自動(dòng)產(chǎn)生期望值為mu、尺寸為M×N 像素的指數(shù)噪聲矩陣，服從指數(shù)分布。為消除將指數(shù)噪聲疊加到圖像中產(chǎn)生的變形影響，給公式添加參數(shù)a 和b。加噪前后對(duì)比如圖6 所示，其中a=0，b=0.05，mu=1。

Fig.6 Comparison of exponential noise before and after noise addition圖6 指數(shù)噪聲加噪前后對(duì)比

3 實(shí)驗(yàn)內(nèi)容

3.1 實(shí)驗(yàn)準(zhǔn)備工作

實(shí)驗(yàn)數(shù)據(jù)來(lái)自MATLAB 自帶工具箱的DigitDataset 數(shù)據(jù)集，其中包含10 000 張數(shù)字手寫體圖片，每個(gè)類別分別1 000 張。數(shù)據(jù)集劃分比例為3∶1，劃分方式有順序劃分和隨機(jī)劃分兩種。DCNN 模型結(jié)構(gòu)為輸入層→卷積層→批量歸一化層→Relu 層→最大池化層→卷積層→批量歸一化層→Relu 層→最大池化層→卷積層→批量歸一化層→Relu層→全連接層→Softmax 層→分類層，其中學(xué)習(xí)率為0.1，最大訓(xùn)練輪次為5 輪，每輪訓(xùn)練迭代58 次。

為深入研究DCNN 在手寫體識(shí)別問(wèn)題上的抗噪性能，本文采用不同方式對(duì)DCNN 模型進(jìn)行大量測(cè)試。本文嘗試兩種數(shù)據(jù)集劃分方式，但由于在順序劃分方式下無(wú)噪聲數(shù)據(jù)集測(cè)試準(zhǔn)確率只有77%左右，不夠直觀，而在隨機(jī)劃分方式下無(wú)噪聲數(shù)據(jù)測(cè)試準(zhǔn)確率達(dá)到99%，在測(cè)試模型抗噪性能變化時(shí)更加直觀，所以記錄隨機(jī)劃分方式下的測(cè)試結(jié)果。通過(guò)實(shí)驗(yàn)分析可以發(fā)現(xiàn)，參數(shù)a、b 與噪聲強(qiáng)度有密切關(guān)系，因此實(shí)驗(yàn)的主要思路是通過(guò)調(diào)節(jié)4 類噪聲的參數(shù)a 和b 來(lái)加大噪聲對(duì)數(shù)據(jù)集的影響，進(jìn)而觀察模型精度變化。在對(duì)數(shù)據(jù)集加噪的同時(shí)考慮加噪后的圖片識(shí)別情況，從而發(fā)現(xiàn)參數(shù)變化至何值時(shí)DCNN 開始失靈。

3.2 實(shí)驗(yàn)結(jié)果與分析

本實(shí)驗(yàn)采用DCNN 模型對(duì)未加噪手寫體數(shù)據(jù)集進(jìn)行識(shí)別，測(cè)試準(zhǔn)確率達(dá)到99.56%，其對(duì)應(yīng)的訓(xùn)練過(guò)程如圖7所示。

通過(guò)調(diào)節(jié)高斯白噪聲、伽馬噪聲、瑞利噪聲、指數(shù)噪聲的參數(shù)a 和參數(shù)b 增強(qiáng)這4 類噪聲對(duì)測(cè)試集的干擾，進(jìn)而觀察DCNN 精度變化。將參數(shù)a 的范圍設(shè)定為［0，1］，將參數(shù)b 的范圍設(shè)定為［0，0.1］，其他參數(shù)設(shè)置如下：伽馬噪聲參數(shù)A=1，B=1，瑞利噪聲參數(shù)B=1，指數(shù)噪聲參數(shù)mu=1。實(shí)驗(yàn)過(guò)程中測(cè)試集準(zhǔn)確率變化如表1-表4 所示。

Fig.7 Change curve of accuracy of training set during DCNN training圖7 DCNN 訓(xùn)練過(guò)程中訓(xùn)練集準(zhǔn)確率變化曲線

Table 1 Change of gaussian white noise parameters and accuracy of DCNN test set表1 高斯白噪聲參數(shù)與DCNN 測(cè)試集準(zhǔn)確率變化數(shù)據(jù)

Table 2 Change of Gamma noise parameters and accuracy of DCNN test set表2 伽馬噪聲參數(shù)與DCNN 測(cè)試集準(zhǔn)確率變化數(shù)據(jù)

Table 3 Change of rayleigh noise parameters and accuracy of DCNN test set表3 瑞利噪聲參數(shù)與DCNN 測(cè)試集準(zhǔn)確率變化數(shù)據(jù)

從表1-表4 可以清楚發(fā)現(xiàn)噪聲對(duì)DCNN 性能有很大影響。隨著4 類噪聲的參數(shù)a 和b 增大，DCNN 識(shí)別精度呈大幅度下降趨勢(shì)。因?yàn)殡S著參數(shù)a 和b 的上升，噪聲幅度增大，測(cè)試集受干擾較強(qiáng)，導(dǎo)致模型識(shí)別效果下降，因此精度逐漸降低。另外，通過(guò)圖8-圖10 可以發(fā)現(xiàn)指數(shù)噪聲對(duì)模型精度影響最大，伽馬噪聲、瑞利噪聲次之，高斯白噪聲影響最小。由于噪聲疊加具有隨機(jī)性，因此部分結(jié)果有所波動(dòng)。從表1-表4 和圖8-圖10 所示的實(shí)驗(yàn)結(jié)果可知，當(dāng)給測(cè)試集添加各類噪聲時(shí)，在人類依然可以識(shí)別測(cè)試集圖片的情況下，DCNN 識(shí)別準(zhǔn)確率卻下降至50%以下，模型基本失靈，已無(wú)法正常識(shí)別手寫體。

Table 4 Change data of exponential noise parameters and accuracy of DCNN test set表4 指數(shù)噪聲參數(shù)與DCNN 測(cè)試集準(zhǔn)確率變化數(shù)據(jù)

Fig.8 Curve of noise parameter a and accuracy of test set（b=0.025）圖8 噪聲參數(shù)a 與測(cè)試集準(zhǔn)確率變化曲線（b=0.025）

Fig.9 Curve of noise parameter b and accuracy of test set（a=0）圖9 噪聲參數(shù)b 與測(cè)試集準(zhǔn)確率變化曲線（a=0）

Fig.10 Curved surface of noise parameters and accuracy of test set圖10 噪聲參數(shù)與測(cè)試集準(zhǔn)確率變化曲面

4 結(jié)語(yǔ)

根據(jù)大量的測(cè)試分析與比較研究發(fā)現(xiàn)，給數(shù)據(jù)集添加的噪聲幅度越大，DCNN 在手寫體識(shí)別上的準(zhǔn)確率越低。不管是給整個(gè)數(shù)據(jù)集添加噪聲，還是只給測(cè)試集添加噪聲，DCNN 的識(shí)別精度都受到很大影響。因此，根據(jù)實(shí)驗(yàn)結(jié)果，本文進(jìn)一步證明了DCNN 抗噪性能較差的結(jié)論。不僅在手寫體識(shí)別問(wèn)題上，在圖像分類、語(yǔ)音識(shí)別等問(wèn)題上，若數(shù)據(jù)集受到噪聲干擾，其精度同樣會(huì)大幅度下降。

針對(duì)DCNN 魯棒性較差問(wèn)題，一方面應(yīng)提出新方法改善DCNN 的抗噪性能，另一方面應(yīng)探索深度學(xué)習(xí)下的其他分支技術(shù)，相信存在一種潛在的AI 技術(shù)在魯棒性、可解釋性等性能上會(huì)優(yōu)于DCNN，如目前正在研究的深度模糊系統(tǒng)（Deep Fuzzy System，DFS）。發(fā)現(xiàn)具有強(qiáng)可解釋性與高魯棒性的AI 技術(shù)以更好地解決新時(shí)代下日益復(fù)雜的實(shí)際問(wèn)題是后續(xù)研究方向。