楊東,李丹

（四川大學錦城學院，四川成都，611731）

1 當代社會下車輛分類研究背景

當代社會下，雖然有著男性普遍了解車型的刻板印象，但是并非所有人都普遍對車偏愛，他們也有一定程度上的識別車輛的需求。同時，在城市內和城市周邊對車輛信息進行一定程度的監(jiān)控是有利于整個交通系統(tǒng)的規(guī)劃的。當然，車輛分類如果應用于市中心，也有利于研究目前市場上主流車型還可以向相關部門提供更多的過往車輛信息以滿足道路交通的需求?？偠灾?，車輛的圖片分類是圖片分類領域一項主要的任務。在以往的研究中，諸多卷積神經(jīng)網(wǎng)絡模型被用于車輛分類等圖片分類的研究之中。考慮到BoTNet網(wǎng)絡本身具有較高的深度和本身的復雜性，故將BoTNet的研究應用于車輛分類。計算機行業(yè)應該研究更多可以應用于實際生活中的項目，而對于新興網(wǎng)絡模型應用于傳統(tǒng)圖片分類尤其是現(xiàn)實生活中會涉及到的分類的研究具有廣泛的社會意義和使用價值。

早期的卷積神經(jīng)網(wǎng)絡，如AlexNet[1]和VGGNet[2]提出了簡單的激活函數(shù)和卷積結構使得多尺度特征的數(shù)據(jù)驅動學習成為可能。深度神經(jīng)網(wǎng)絡(deep neural network, DNN)目前已被成功地應用于圖像分類[3]、語音識別[4-5]、自然語言處理[6-7]等領域。網(wǎng)絡退化的問題也被何凱文等人提出的ResNet[8]的殘差結構使得更深的網(wǎng)絡能夠進行有效的學習。而在計算機網(wǎng)絡架構研究的前沿，計算機大牛們正在不斷地研究、改善和融合不同的網(wǎng)絡結構，本文著重研究在ResNet的瓶頸層使用多頭自注意力模型替換得到改造升級的BoTNet，并將其應用于傳統(tǒng)的圖片分類中，嘗試圖片分類的新可能。

2 基于BoTNet的深度網(wǎng)絡訓練

BoTNet是一個簡單卻十分強大的框架。在近期開始流行的它可以運用于計算機視覺的多個領域：圖像識別、對象檢測和實例分割等方面。它是由ResNet直接改造獲得的一種改良型的網(wǎng)絡結構。我們將ResNet的最后三個瓶頸塊中的3*3的卷積替換成多頭自注意力（Multi-Head Self-Attention又稱MHSA）層。多頭自注意力層包含了相對位置編碼和多頭自注意力模型。在以往的研究中，我們發(fā)現(xiàn)在多頭自注意力模型用于語義識別時，多層注意力的結合能顯著提升句子在復雜語義上的表現(xiàn)，彌補單注意力的不足[9]。現(xiàn)在我們將這種出色的對特征識別的能力運用到圖片分類之中，希望可以在訓練時，運用相對位置編碼和多頭自注意力讓網(wǎng)絡模型學習到圖片更多的特征和細節(jié)，提升網(wǎng)絡性能。圖1便是ResNet-50和BoTNet-50的網(wǎng)絡結構圖。

首先，自注意力機制本質上是根據(jù)注意對象的重要程度進行不同的資源分配。在神經(jīng)網(wǎng)絡中，注意力所要分配的資源就是權重[10]。這種權重分配的方式本身就可以在一定程度上提高網(wǎng)絡對于特征的識別能力。不同的權重分配方式可以對結果產(chǎn)生不同程度的影響。而多頭自注意力不僅在單頭的基礎上進行了多頭的擴展，如文獻11所言：head的數(shù)量會影響對不同特征的關注度，適當?shù)膆ead數(shù)目可以準確地關注到數(shù)據(jù)包關鍵時空特征[11]。多頭自注意力模型還可以作為多個獨立attention計算防止過擬合，可以有效提升模型的泛化能力。MHSA還包含了相對位置編碼，可以顯著提升網(wǎng)絡對于特征識別的準確度。這是因為相對位置編碼本身[12]應用于語義識別時，可以準確識別語義信息之間的位置信息，如：我欠你兩萬元。這句話本身的位置信息就體現(xiàn)了是誰欠誰錢，若是語義識別無法利用其位置信息而理解成：你欠我兩萬元。這種每個詞都認識，但在事實層面完全誤解了語句的含義，無法理解句子間的邏輯結構含義，這也是機械翻譯普遍存在的問題。而我們發(fā)現(xiàn)相對位置編碼在圖像識別等視覺任務上也有著十分出色的表現(xiàn)：不同的特征距離之間可以有完全不同的現(xiàn)實意義以及背后更深層的邏輯含義。在采用了相對位置編碼之后，我們的網(wǎng)絡也可以對處于不同位置的特征之間的信息加以學習。從而可以有效地把握對象信息和位置信息之間的聯(lián)系，甚至學習到圖片或者文字背后的實際含義，從而顯著提高網(wǎng)絡性能。

圖1 ResNet-50和BoTNet-50結構圖

3 實驗結果及分析

3.1 訓練和測試數(shù)據(jù)

本文使用的樣本是來自計算機圖像分類車輛模型的數(shù)據(jù)包，其中的圖片按照車型分類存儲?？紤]到網(wǎng)絡模型本身較高的復雜性，為了防止訓練時間過長，所以本次實驗使用較小的數(shù)據(jù)包便于訓練。此數(shù)據(jù)包包括了1600個車輛圖像，其中共分為10類，因為圖片本身數(shù)據(jù)量較小，隨機打亂之后便按照7：1的比列分成了訓練集和測試集。訓練樣本中每個樣本包含140張圖片，測試樣本中包含20張圖片。整個訓練集和測試集具有樣本圖片清晰、角度不同的特點。部分數(shù)據(jù)如圖2所示，其中不少都是貼近生活中拍攝的圖片，有利于使訓練結果更加貼近生活中車輛拍攝的實際情況。

圖2 部分數(shù)據(jù)集圖

3.2 實驗細節(jié)

使用ImageFolder將數(shù)據(jù)集打包寫入dataset中。遍歷數(shù)據(jù)文件夾中所有的文件，取出其中對應的圖片名和分類組成我們的數(shù)據(jù)集。數(shù)據(jù)集按照7：1的比例分為訓練集和測試集。為了更好地提升模型的準確率，實驗在模型訓練前對訓練數(shù)據(jù)集和測試集進行同樣的預處理，進行對所有的訓練數(shù)據(jù)進行伸縮變化、中心裁剪、對比度調整、隨機旋轉和歸一化最終形成了小圖片（32*32）形式的數(shù)據(jù)集。對測試集也進行同樣的處理。

為了便于修改ResNet-50的網(wǎng)絡結構，我們手動創(chuàng)建ResNet-50類，構建好ResNet-50后，創(chuàng)立MHSA類，完成多頭自注意力層的搭建，創(chuàng)立瓶頸層類，用于替換原本ResNet-50網(wǎng)絡的瓶頸層，最后將我們準備好的MHSA和瓶頸層替換掉原本ResNet-50網(wǎng)絡的瓶頸層：在ResNet-50的最后三個瓶頸塊中將3*3的卷積替換成多頭自注意力（MHSA）層得到BoTNet-50用于網(wǎng)絡學習。我們分別將兩種網(wǎng)絡模型使用在我們經(jīng)過同樣預處理的數(shù)據(jù)集中。在訓練過程中，使用隨機梯度下降作為我們的優(yōu)化器，這樣對梯度要求低，可以很好地收斂。同時，為了方便求導使得運算不會過于復雜，我們使用交叉熵損失函數(shù)。我們用args來存儲我們傳入的參數(shù)并將其batch_size賦值給dataset的batch_size，方便我們傳入的參數(shù)不受限制。

3.3 測試結果及分析

在網(wǎng)絡學習過程中，每輪epoch結束時會輸出在測試集上計算和打印的平均損失函數(shù)值和準確度。為了有效檢驗ResNet-50和BoTNet-50兩種網(wǎng)絡模型的性能差異，實驗進行了分別進行了多次長達400多輪的訓練。便于觀察和區(qū)分不同輪次兩種模型的適應程度。多次進行訓練之后，我們發(fā)現(xiàn)ResNet-50網(wǎng)絡和BoTNet-50網(wǎng)絡的準確率整體上會隨著輪次的提升穩(wěn)步提升，但是由于時間和內存的限制難以進一步驗證閾值。其中一次模型在ResNet-50網(wǎng)絡和BoTNet-50網(wǎng)絡上的訓練結果如圖3所示。

根據(jù)訓練的結果不難發(fā)現(xiàn)，兩種模型整體上都不夠穩(wěn)定，在訓練初期兩種模型的適應性都不太好，但是BoTNet-50網(wǎng)絡模型的增長速度在此時明顯快于ResNet-50網(wǎng)絡模型，但是不夠穩(wěn)定。此后前者便更加穩(wěn)定，在70左右輪次時，兩種模型的準確率都有明顯地下跌，在150輪左右時ResNet-50再次出現(xiàn)明顯下跌。但是整體情況來看BoTNet-50網(wǎng)絡模型的準確率曲線優(yōu)于ResNet-50網(wǎng)絡模型，尤其是在150輪左右時更加穩(wěn)定。通過實驗，我們得到結論：在小圖片的分類作業(yè)中，BoTNet-50網(wǎng)絡模型的訓練效果優(yōu)于ResNet-50網(wǎng)絡模型，尤其是在輪次較大時，BoTNet-50更加穩(wěn)定。

圖3

4 車輛分類算法的實際應用

有時候由于環(huán)境因素甚至是人為因素，我們無法準確獲取監(jiān)控里的車輛信息，同時，由于交通的不斷發(fā)展，即便是通過同一個路口的車輛在一段時間內也相當大，由人工排查檢測過于困難。我們在車輛分類訓練集上進行訓練，發(fā)現(xiàn)了BoTNet的表現(xiàn)比傳統(tǒng)的ResNet更優(yōu)秀。將車輛分類運用于這種場景，可以提升效率，協(xié)助交通管制或是抓捕隱藏車牌的嫌犯，幫助相關部門迅速排除無關車型，聚焦嫌犯車輛。

不同的應用場景有不同的需求，如果用于平時的交通管制方面，也可以幫助相關部門快速統(tǒng)計交通信息，及時了解到城內流動的車輛類型，了解到各時段公路上主要的車輛，便于交通管制，也可以在節(jié)假日監(jiān)管通過高速路口的車輛類型，及時做好相關工作。在我們應用此技術在嫌犯車輛識別時：尤其是對于已經(jīng)修改車牌的犯罪車輛，可以快速識別監(jiān)控圖片中的車型是否為目標車型，如圖4，幫助有關部門排除干擾，在海量車輛圖片中識別目標車型。

圖4 車輛分類的實際應用

5 結論

本文針對基于BoTNet的車輛分類現(xiàn)進行了對比實驗。在對比實驗中，我們都對數(shù)據(jù)集進行了相同的預處理和同樣的損失函數(shù)、隨機梯度下降。實驗結果表明在小圖片的分類作業(yè)中，BoTNet-50網(wǎng)絡模型的訓練效果優(yōu)于ResNet-50網(wǎng)絡模型。實驗最終兩種網(wǎng)絡模型都沒有達到較高準確率的原因可能是因為本身數(shù)據(jù)集訓練樣本較少，也有可能是由于我們在數(shù)據(jù)預處理時使用了伸縮變化導致圖片較小。由于伸縮變換，最終圖片的大小可能影響到了相對位置編碼對于特征的識別。并且，可能在此過程中，圖片壓縮導致?lián)p失了更多的特征導致我們的網(wǎng)絡難以讀取甚至無法識別到更多的特征值，最終使得訓練初期準確率不高，也導致我們整體實驗準確率上升較慢。但是我們依然可以根據(jù)實驗結果得出結論：經(jīng)過對ResNet-50網(wǎng)絡改進后得到的BoTNet-50網(wǎng)絡對于小圖片的識別效果更好。相信在未來經(jīng)過進一步的優(yōu)化和訓練之后會在實際應用中有著更出色的表現(xiàn)。