劉 巍

（紅云紅河煙草（集團）有限責任公司昆明卷煙廠，云南 昆明 650202）

卷積神經(jīng)網(wǎng)絡算法（CNN）在圖像分類、圖像分割和目標檢測等領域獲得廣泛應用，但隨著性能要求越來越高，效率問題逐漸顯現(xiàn)。只有解決CNN效率問題，才能更廣泛地應用。目前，使用輕量化模型正是解決此種問題的一種途徑，輕量化模型設計在于更高效的網(wǎng)絡計算方式，從而使網(wǎng)絡參數(shù)減少的同時，不損失網(wǎng)絡性能。本文采用輕量化SqueezeNet模型作為小包外觀識別算法，之后將其部署到樹莓派上，實現(xiàn)對小盒的外觀檢測。

1 背景介紹

1.1 樹莓派（Raspberry Pi）

樹莓派由Raspberry Pi基金會開發(fā)，外形只有信用卡大小。它是一款基于ARM的微型電腦主板，以SD/Micro SD卡為內存硬盤，卡片主板周圍布有USB接口和以太網(wǎng)接口，可連接鍵盤、鼠標和網(wǎng)線，以上部件全部整合在一張僅比信用卡稍大的主板上，具備所有PC的基本功能。

1.2 SqueezeNet卷積神經(jīng)網(wǎng)絡

SqueezeNet是一種輕量化卷積神經(jīng)網(wǎng)絡，由伯克利和斯坦福的研究人員合作發(fā)表于ICLR-2017。該算法不同于傳統(tǒng)的卷積網(wǎng)絡，提出fire module，fire module包含兩部分，分別是squeeze層和expand層。squeeze層，就是1*1卷積，其卷積核數(shù)要少于上一層feature map數(shù)。expand層分別用1*1和3*3卷積，然后合并起來，如圖1所示。

圖1 fire module模型

輸入128個feature map，經(jīng)過fire module輸出后，同樣得到128個feature map。使用SqueezeNet算法有效減少神經(jīng)網(wǎng)絡權值參數(shù)，還可進行實時計算，減少算法計算時間。

2 數(shù)據(jù)集

本文所使用的圖像數(shù)據(jù)來自某卷煙廠52#號機FOCKE-FXS機型視覺成像系統(tǒng)，所采圖像為近半年的數(shù)據(jù)，包括缺陷剔除圖像與正常圖像，其中缺陷剔除圖像共587張，正常圖像295張，原始圖像尺寸大小為451像素×451像素，圖像經(jīng)過尺寸變換，轉化為227像素×227像素×3的圖像。

小包正面外觀缺陷包括商標缺陷與印花缺陷2種，典型缺陷如圖2所示。

圖2 典型缺陷

3 SqueezeNet卷積神經(jīng)網(wǎng)絡模型

針對小包外觀檢測，本文設計了一種SqueezeNet卷積神經(jīng)網(wǎng)絡架構，如圖3所示。輸入的圖像數(shù)據(jù)是227像素×227像素×3的RGB圖像，作為網(wǎng)絡的輸入層。接下來是1層卷積層與池化層，conv1層卷積過濾器大小是3×3×3，卷積過濾器共有64個，卷積步長為2，pool1為池化層，步長為2，進行3×3的最大池化。網(wǎng)絡結構中fire2、fire3、fire4、fire5、fire6、fire7、fire8、fire9是fire module層。經(jīng)過fire2、fire3得到128個特征圖，pool3為池化層，步長為2，進行3×3的最大池化；經(jīng)過fire4、fire5，得到256個特征圖，pool5為池化層，步長為2，進行3×3的最大池化；進入fire6、fire7，得到384個特征圖，經(jīng)過fire8、fire9，得到512個特征圖；之后通過一個dropout層，dropout參數(shù)為50%；conv10與pool10為卷積層與池化層，conv10層卷積過濾器大小為1×1×512，卷積過濾器共有1 000個，pool10步長為1，經(jīng)過14×14的平均池化；fc層為全連接層，將三維的圖像數(shù)據(jù)轉換為一維的數(shù)據(jù)，便于進行分類。最后1層為輸出層，使用softmax函數(shù)對小包外觀進行分類，得到小包缺陷（defective）與正常（good）2種情況的識別概率。此外，在各卷積層后的激活函數(shù)為ReLU激活函數(shù)。

圖3 SqueezeNet網(wǎng)絡結構

4 結果

按照設計的模型結構，在MATLAB中使用神經(jīng)網(wǎng)絡工具箱生成卷積神經(jīng)網(wǎng)絡，學習率設定為0.000 1，訓練輪數(shù)為800輪，Minibatch取4，即每批次計算4個輸入圖像，選擇交叉熵損失函數(shù)作為優(yōu)化函數(shù)，使用訓練數(shù)據(jù)集對小包外觀識別的訓練結果如圖4所示，迭代15 700次以后，模型逐漸趨于穩(wěn)定，準確率達到97%以上。

圖4 訓練集迭代識別準確率曲線

訓練過程中的損失函數(shù)曲線如圖5所示，隨著迭代的逐漸增加，損失函數(shù)逐漸降低并趨于穩(wěn)定，穩(wěn)定后的數(shù)值保持在0.01以下。

圖5 損失函數(shù)

用事先分配好的10%隨機驗證集，在每次迭代完成，計算得到權重值后，使用驗證集進行驗證，驗證數(shù)據(jù)集與測試數(shù)據(jù)集基本一致，在迭代15 700次以后，達到穩(wěn)定。進行15 700次迭代（800輪）后，得到模型最終權重值。之后，重新獲得小包外觀數(shù)據(jù)集，對算法進行驗證，結果見表1。

表1 數(shù)據(jù)集識別結果

由表可知，全部數(shù)據(jù)集識別準確率達到99.66%，效果較好，比常規(guī)卷積神經(jīng)網(wǎng)絡識別準確率要高，說明使用的SqueezeNet模型是有效的。

5 在樹莓派上實現(xiàn)SqueezeNet算法

5.1 樹莓派設置

樹莓派操作系統(tǒng)為Raspbian Stretch，要運行SqueezeNet卷積神經(jīng)網(wǎng)絡算法，還需要安裝OpenCV、ARM Compute Library兩個庫。之后，使用MATLAB的cnncodegen函數(shù)生成SqueezeNet C++代碼，通過編譯，產(chǎn)生可執(zhí)行文件object_recogition。

5.2 樹莓派上實現(xiàn)小包外觀識別

使用一張印花歪斜的圖片，如圖6（a）所示，圖片識別處理時間為769 ms，圖片被識別為缺陷的概率為100.0%，識別為正常的概率為0.0%，圖片識別正確。

使用一張印花正常的圖片，如圖6（b）所示，圖片識別處理時間663 ms，圖片被識別為正常的概率為97.3%，缺陷的概率為2.7%，圖片識別正確。

圖6 煙包識別結果

6 結束語

本文采用SqueezeNet卷積神經(jīng)網(wǎng)絡作為小包外觀檢測的識別算法，經(jīng)過算法學習與算法驗證，取得較好的效果，小包外觀檢測識別準確率達到99.66%。之后，使用樹莓派作為實現(xiàn)硬件，在樹莓派系統(tǒng)上編譯SqueezeNet算法，生成可執(zhí)行程序，圖像輸入樹莓派中進行驗證，結果顯示在樹莓派上運行的程序能正確對卷煙小包外觀進行識別，具有實際應用價值。