王輝 張健 杭偉

（保山學院 云南省保山市 678000）

1 引言

卷積神經網絡（Convolutional Neural Networks,CNN）是一類包含卷積計算且具有深度結構的前饋神經網絡（Feedforward Neural Networks），是深度學習（deep learning）的代表算法之一[1-3]。卷積神經網絡具有表征學習（representation learning）能力，能夠按其階層結構對輸入信息進行平移不變分類（shift-invariant classification），因此也被稱為“平移不變人工神經網絡（Shift-Invariant Artificial Neural Networks,SIANN）”[4]。只需在卷積神經網絡傳入數據，就可以根據數據表現出圖片的特征，從而對比圖片，分類出我們需要的羚羊圖片。這種快速而有效的提取有價值的信息的能力就成了深度學習的重中之重，擁有著廣闊的實用價值與研究意義。

2 網絡模型

2.1 人工神經網絡

人工神經網絡（Artificial Neural Networks，簡寫為ANNs）[5]是一種模仿人類的神經網絡的行為特征來進行分布式并行信息處理的算法數學模型。這項技術就是學習及模仿動物的一些神經網絡行為，將信息進行分析學習以及存儲的智能信息網絡[6-7]。目前神經網絡在計算機視覺、機器人、模式識別、自動控制等方面都有很廣泛的應用。但人工神經網絡卻不太適合用于圖像識別，主要有以下幾個不足：

（1）參數過多，在CIFAR-10[8-9]數據集中，圖像只有大小為32*32*3（W=32，H=32，RGB），因此在正常的神經網絡中的第一隱藏層中的神經元，單個完全連接的神經元就將具有32*32*3=3072 個權重。這種完全連接無疑是很浪費資源的，而且如果有大量的參數會很快的導致過度配套從而使效率降低。

（2）未能利用像素間的位置信息。當完成每個連接權重的學習之后，會發(fā)現有大量權重的值都是很小的（也就是這些連接其實無關緊要），花費大量資源在不重要的權重上，這種學習效率是極低的。

（3）網絡層數會限制其表訴能力，網絡層數越多，神經網絡的表達能力就會越強，但全連接層神經網絡結構并不能得到層數很多的神經網絡，會限制其表達能力。

2.2 卷積神經網絡

當卷積神經網絡應用于圖像識別時，為了達到更好的學習效果，會將重要的參數進行保留,冗余的參數進行舍棄。卷積神經網絡的基本結構包括了輸入層、卷積層(convolutional layer)、池化層(pooling layer)、全連接層及輸出層構成。卷積層、和池化層會存在若干個,其本質就是交替設置，這個過程會不斷循環(huán)。在卷積神經網絡之中，網絡中的神經元進行局部連接的方式是每個神經元都和上一層與下一層進行相連，然后通過對應的連接權值和局部輸入進行加權求和的方式，最后再加上偏置值就能夠得到該神經元輸入值,這個過程就是卷積的過程。

3 卷積神經網絡模型構建

本次論文就是搭建卷積神經網絡中的LeNet-5 網絡模型，由輸入層、卷積層、池化層、全連接層和輸出層所構成。CNN 卷積神經網絡是由具有學習權重和偏差的神經元所組成的，每個神經元都會接收一些輸入，從而執(zhí)行點積操作，且能以非線性的方法跟隨。此外在完全連接層上仍然具有損失函數，例如SVM / Softmax。CNN 卷積神經網絡的每一層其實都通過可微分的函數[10-11]，將一個激活的值轉換為另一個，在池化層之前一般會有個激活函數，我們將堆疊這些層，形成一個完整的架構。

3.1 卷積層

卷積神經網絡的卷積層一共使用了兩次卷積，需要三層輸入。第一次卷積用的是5*5 的卷積核，輸入3*32*32 的圖片，所有卷積核都需要對三層圖片都進行特征提取，第一次卷積后，得到一組16*28*28 的特征圖；再進行第二次卷積，得到32*10*10 的特征圖。在操作之前，由于每次卷積后會改變圖像大小，導致遺漏某些重要圖像特征，需對圖片進行填充，為了在卷積核提取邊緣特征能更清楚的提取到邊緣特征。

卷積層是卷積神經網絡的核心，它需要完成大部分的計算工作。因此需要更多的參數進行校驗，這些參數由一組可以學習的過濾器組成，在正向傳播時過濾器沿著圖片的高度和寬度進行特征掃描，并經過計算后得到了一個二維激活圖，展示出該部分的特征，在經過激活函數得到新的特征圖。

3.2 ReLU激活函數

當CNN 運行時，線性模型對圖像特征的表述能力不足，需要加入非線性因素—激活函數提高圖像特征的表達能力。RELU 激活函數能很好的解決梯度耗散問題，在本次實驗過程中，采用ReLU激活函數。其目的就是通過加入非線性因素，以此縮短訓練時間以及多層次展現模型的表達效果。

激活函數是把“激活的神經元的特征”通過函數的形式把圖像特征保存并映射出去。

3.3 池化層

池化層的主要作用就是對輸入的圖像進行壓縮操作。例如4*4的圖像，采用2*2 過濾器，步幅為2 取圖像中對應位置的最大值，變成2*2 的特征圖。最大池化的實際作用就是當在過濾器中出現了這個特征的時候，他就自動的保留這個最大的數字；當沒有特征時，保留的數字也很小，那這個數字也就是最大池化。此圖就是在2*2的區(qū)域內，取數值最大數。例如在本次實驗中就進行了兩次池化，分別對28*28 和10*10 的特征圖進行池化，池化后得到14*14 和5*5 的特征圖。

3.4 全連接層

卷積操作就是對輸入圖像進行局部特征提取，全連接就是將提取到的特征組合起來，通過局部組成全局，可以看到圖片的整體特征。全連通層的每個節(jié)點與前一層的所有節(jié)點相連，用于整合從前一層提取的特征。全連接是一個矩陣乘法，相當于對特征空間進行變換，從而提取和整合有用的信息。通過對激活函數進行非線性映射，多層全連通層理論上能夠模擬任何非線性變換

3.5 基于CNN的羚羊識別模型技術原理

為了保證實驗的準確性與高效性，我們就需要先收集到大量的圖像數據用于訓練和測試，若采用傳統(tǒng)查詢保存操作必將消耗大量的時間與精力，因此采用python 的爬蟲技術[12]來減少工作量。

定義訓練數據之后需要構建CNN 網絡模型結構，卷積神經網絡的特點在于池化層和卷積層的引入。首先是卷積層，具體步驟如下：

（1）將圖片分解為一系列有重疊的像素塊。

（2）之后將每個像素塊輸入一個簡單的、單層的神經網路，保持權重不變，這一步將像素塊集轉化成一個矩陣。保持每塊像素塊都比較小，處理所需的網絡也可以保持可控。

（3）之后輸出值會被排成矩陣，以數據形式表示照片中每個區(qū)域的內容，不同維度分別代表顏色、寬度、和高度通道。

之后是池化層，池化層對3 維或4 維矩陣在空間維度上進行下采樣。處理結果是池化陣列，其中只包含重要的圖像特征，且舍棄冗余部分，能夠最小化計算成本，同時也能避免后期識別出現過擬合問題。

經過池化和卷積操作，輸入的尺寸被大幅減小，能夠使用神經網絡進行處理，同時能保持數據最重要特性的東西。最后一步的輸出代表著系統(tǒng)對圖片中要素判斷的確信度。

4 實驗結果分析

運行程序加載數據集后，文件夾中的圖片被調用，圖像被分類為有羚羊和沒有羚羊的兩個分類，在Visdom 中以0 與1 區(qū)分開來，并且圖片的路徑與分類信息保存到images.csv 的文件之中，以便主程序運行時調用。當主程序運行后，會將images.csv 中的數據加載進所構建的卷積神經網絡模型中，并進行機器學習，在經過一段時間的訓練后就能得出羚羊圖像識別模型。從實驗結果可知函數一開始得出的計算真實值與預測值之間有較大的差異，但在神經網絡的多次卷積優(yōu)化下不斷減少，當Loss 函數達到最小值，即損失達到最小時網絡模型得到最優(yōu)解，其準確率為0.97。

5 總結

隨著人工智能的高速發(fā)展，機器人在很多領域已經取代人類。如此次所研究的圖像識別，卷積神經網絡只需要對模型的構建，訓練之后就可以很快對圖片進行分類，大大減少了人類的時間和精力。但是最開始圖像準確率并不是很高，這就需要進行參數和模型結構的優(yōu)化以提高對圖像的識別率，因此將卷積神經網絡應用于圖像識別中具有重要意義。