閆 河，王 鵬，董鶯艷，羅 成，李 煥

（1.重慶理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院，重慶 400054；2.重慶理工大學(xué)兩江人工智能學(xué)院，重慶 401147）

隨著深度學(xué)習(xí)的發(fā)展，卷積神經(jīng)網(wǎng)絡(luò)成為學(xué)者研究的熱點(diǎn)，特別是在語音識(shí)別、圖像識(shí)別等領(lǐng)域。

2015年，護(hù)衛(wèi)艦、驅(qū)逐艦、客船、集裝箱船和油輪的紅外圖像被研究者用BP人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)了船舶的分類識(shí)別［1］；2016年，KatieRainey設(shè)計(jì)了卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural networks，CNN）用于衛(wèi)星照片分類，取得了較好的分類效果［2］。紅外圖像可以很好地表現(xiàn)物體的輪廓特征，但是要想獲取更豐富的視覺信息，紅外圖像不能滿足要求，數(shù)字圖像在這方面表現(xiàn)出優(yōu)勢。卷積神經(jīng)網(wǎng)絡(luò)被用于模擬人的神經(jīng)網(wǎng)絡(luò)工作原理，通過局部感受域、權(quán)值共享近似模擬神經(jīng)元的信息傳遞過程，以此減少訓(xùn)練參數(shù)，讓這一技術(shù)在計(jì)算機(jī)上得以實(shí)現(xiàn)。卷積神經(jīng)網(wǎng)絡(luò)在提取特征時(shí)與傳統(tǒng)的識(shí)別算法相比，避免了復(fù)雜的預(yù)處理，且特征更具有可識(shí)別性。最基本的特征被卷積網(wǎng)絡(luò)從最初的邊緣和輪廓逐步向語義更加豐富的特征聚集，卷積神經(jīng)網(wǎng)絡(luò)提取特征時(shí)具有平移、縮放和旋轉(zhuǎn)不變性［3］等優(yōu)點(diǎn)。但網(wǎng)絡(luò)結(jié)構(gòu)中最后一層可看作一個(gè)線性分類器，且存在局限性。2016年，趙靚等利用卷積神經(jīng)網(wǎng)絡(luò)結(jié)合HOG和HSV特征構(gòu)造船舶圖像特征，通過用支持向量機(jī)對(duì)集裝箱船、客船、漁船、軍艦和帆船進(jìn)行分類［4］。支持向量機(jī)（SVM）是最廣泛的分類器之一，但隨著分類器的進(jìn)一步發(fā)展，黃廣斌教授于2004年提出單隱層前向神經(jīng)網(wǎng)絡(luò)（SLFNs）的ELM算法，并于2006年對(duì)ELM作了進(jìn)一步的研究，給出了相關(guān)理論證明和應(yīng)用［5，6］。Rong H.J.等提出了 P-ELM［7］，根據(jù)ELM算法的分類問題，利用統(tǒng)計(jì)學(xué)原理，對(duì)網(wǎng)絡(luò)分類效果影響較弱的隱層進(jìn)行裁剪，并優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)。且學(xué)者將極限學(xué)習(xí)機(jī)應(yīng)用到了很多領(lǐng)域，取得了較好的效果。何淑琳［8］提出了極限學(xué)習(xí)機(jī)應(yīng)用于語音情感識(shí)別，張建明等［9］提出了極限學(xué)習(xí)機(jī)應(yīng)用于人臉識(shí)別，文武等［10］提出了極限學(xué)習(xí)應(yīng)用于車牌識(shí)別。與其他分類器相比，極限學(xué)習(xí)初始權(quán)值隨機(jī)產(chǎn)生，只需確定隱含層到輸出層的神經(jīng)元個(gè)數(shù)，最后用于分類的權(quán)值參數(shù)通過廣義逆矩陣求得，且極限學(xué)習(xí)具有訓(xùn)練速度快、分類準(zhǔn)確率高等優(yōu)點(diǎn)。本文基于卷積神經(jīng)網(wǎng)絡(luò)在提取特征過程中表現(xiàn)出的優(yōu)點(diǎn)和極限學(xué)習(xí)機(jī)在訓(xùn)練速度和分類識(shí)別精度上表現(xiàn)出的優(yōu)點(diǎn)，提出了一種將兩者相結(jié)合的算法并將其應(yīng)用于船舶識(shí)別。

1 識(shí)別方法描述

1.1 主要思想

運(yùn)用卷積神經(jīng)網(wǎng)絡(luò)完成對(duì)特征的有效提取，并運(yùn)用極限學(xué)習(xí)機(jī)對(duì)圖片進(jìn)行分類。在特征提取中網(wǎng)絡(luò)層的選擇、下采樣函數(shù)的選取、網(wǎng)絡(luò)層數(shù)的設(shè)計(jì)等都直接影響著特征提取的準(zhǔn)確程度，并直接影響著最后的結(jié)果。深度卷積神經(jīng)網(wǎng)絡(luò)是基于AlexNet建立的模型，此網(wǎng)絡(luò)共8層網(wǎng)絡(luò)結(jié)構(gòu)，并對(duì)本文實(shí)驗(yàn)所用到的數(shù)據(jù)集進(jìn)行訓(xùn)練。在這個(gè)網(wǎng)絡(luò)結(jié)構(gòu)中共有5個(gè)卷積層，3個(gè)全連接層，選擇哪一層作為極限學(xué)習(xí)機(jī)輸入可以得到更好的分類效果。KRIZHEVSKY A等［11］的研究實(shí)驗(yàn)表明：前5個(gè)卷積層包含有限的特征映射，末端全連接層的特征映射是通過卷積層的基本特征自下而上逐漸激活，包含更加豐富的語義信息。第6層特征無論在對(duì)象分類，還是識(shí)別、細(xì)粒度對(duì)象分類方面，明顯優(yōu)于其他層次提取的特征。因此，本文為了獲得更好的分類效果采用卷積神經(jīng)網(wǎng)絡(luò)，將第6層特征應(yīng)用到極限學(xué)習(xí)機(jī)的輸入中。在訓(xùn)練階段，用Alexnet模型對(duì)艦船圖像數(shù)據(jù)集進(jìn)行監(jiān)督訓(xùn)練。訓(xùn)練結(jié)束后，提取網(wǎng)絡(luò)的第6層網(wǎng)絡(luò)特征應(yīng)用于極限學(xué)習(xí)機(jī)的訓(xùn)練。測試階段，測試圖片運(yùn)用與訓(xùn)練圖片中相同的方法對(duì)圖片做一系列的處理，將所得的圖像特征作為輸入，訓(xùn)練極限學(xué)習(xí)機(jī)作為分類器，其輸出標(biāo)簽即為船舶圖像的預(yù)測。

1.2 CNN訓(xùn)練

本文對(duì)彩色船舶圖像數(shù)據(jù)的訓(xùn)練進(jìn)行了研究。主要采用了AlexNet模型，在訓(xùn)練好模型的基礎(chǔ)上，對(duì)該模型進(jìn)行訓(xùn)練，使用船舶圖像庫的訓(xùn)練集，通過運(yùn)用準(zhǔn)確率的變化來判斷訓(xùn)練的好壞程度。在開始訓(xùn)練之前，模型的每一層權(quán)值都基于高斯分布進(jìn)行初始化。2個(gè)階段用于卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練：

1）正向傳播階段：從圖像庫訓(xùn)練樣本集中提取樣本（x，y），將 x輸入網(wǎng)絡(luò)結(jié)構(gòu)中，通過卷積提取不同的圖像特征，如輪廓和紋理特征。與傳統(tǒng)的識(shí)別算法相比，有效地避免了復(fù)雜的特征提取過程。最后，使用Softmax圖層的輸出y′，其元素分別表示x被分成一個(gè)給定類別的概率。

2）反向傳播階段：比較 y′與給定標(biāo)簽向量的誤差，用最小化均方誤差代價(jià)函數(shù)調(diào)整權(quán)重和參數(shù)，其他層的權(quán)重和參數(shù)通過從輸出層向輸入層的誤差逐層逆推得到。通過訓(xùn)練得到網(wǎng)絡(luò)層的權(quán)重和參數(shù)，并把此參數(shù)應(yīng)用于該網(wǎng)絡(luò)結(jié)構(gòu)。設(shè)置網(wǎng)絡(luò)的訓(xùn)練參數(shù)，批量設(shè)置為150，學(xué)習(xí)率設(shè)置為0.001，迭代次數(shù)設(shè)置為500。

1.3 極限學(xué)習(xí)機(jī)結(jié)構(gòu)

極限學(xué)習(xí)機(jī)最初是為解決單隱層前饋神經(jīng)網(wǎng)絡(luò)（single-hidden layer feed-forward neural networks，SLFNs）而提出的，網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。假設(shè)有N個(gè)任意的不同樣本（xi，ti），i＝1，2，…，N，其中xi＝［xi1，xi2，…，xin］∈Rn，ti＝［ti1，ti2，…，tim］∈Rm，則極限學(xué)習(xí)機(jī)的目標(biāo)函數(shù)為

式中：H為神經(jīng)網(wǎng)絡(luò)隱層的輸出矩陣；T為期望輸出［12］。

式（2）和式（3）中：W∈RL×n為輸入層到隱含層的權(quán)值；b∈RL為隱含偏置量；g（·）為激活函數(shù)。基本思想是：隨機(jī)產(chǎn)生W和b，然后據(jù)此計(jì)算H和β，β的確定有很多種方法，其中一種簡單的方法由式（4）求得［12］。

1.4 Alexnet與ELM的結(jié)合

卷積神經(jīng)網(wǎng)絡(luò)Alexnet網(wǎng)絡(luò)結(jié)構(gòu)分為卷積層、下采樣層和全連接層，此網(wǎng)絡(luò)用分類器是線性分類器，由于卷積網(wǎng)絡(luò)通過梯度下降的方法，所以卷積神經(jīng)網(wǎng)絡(luò)可以通過數(shù)據(jù)訓(xùn)練得到最好的分類特征［13-15］，但線性分類器作為網(wǎng)絡(luò)的分類器，還有待改進(jìn)和選用更優(yōu)的分類器用于分類。

極限學(xué)習(xí)機(jī)的權(quán)重隨機(jī)產(chǎn)生，只需確定隱含層神經(jīng)元的個(gè)數(shù)，其他再無復(fù)雜的需要確定的參數(shù)，最后結(jié)果通過求廣義逆的方法求得隱含層到輸出層的權(quán)值，而輸出結(jié)果與期望結(jié)果誤差最小。由于極限學(xué)習(xí)機(jī)的權(quán)值不是通過迭代所得，通過直接計(jì)算即可得到結(jié)果，故表現(xiàn)出訓(xùn)練速度快、訓(xùn)練精度高的優(yōu)點(diǎn)。但是極限學(xué)習(xí)機(jī)也有局限，對(duì)特征提取的精度要求較高。

圖1 極限學(xué)習(xí)機(jī)的網(wǎng)絡(luò)結(jié)構(gòu)

本文的神經(jīng)網(wǎng)絡(luò)選用AlexNet網(wǎng)絡(luò)結(jié)構(gòu)，并將AlexNet卷積神經(jīng)網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)相結(jié)合，能克服神經(jīng)網(wǎng)絡(luò)在分類識(shí)別準(zhǔn)確率低的缺點(diǎn)，并且可滿足極限學(xué)習(xí)機(jī)對(duì)于特征提取的高要求，兩者相結(jié)合的模型訓(xùn)練步驟如下：

1）特征提取，實(shí)驗(yàn)所用卷積神經(jīng)網(wǎng)絡(luò)共8層，其中由輸入層、卷積層、全連接層，較低卷積層提取角、邊、曲線等特征，較高卷積層通過前一層的輸出激活復(fù)雜的特征，如此累積，以檢測越來越復(fù)雜的特征。圖2表示第4層和第5層卷積特征提取的語義狀態(tài)，由圖看出：第5層比第4層卷積效果更清晰，且能看出船舶的大概輪廓，卷積層數(shù)越多，特征提取的語義越明顯，通過訓(xùn)練樣本獲取卷積網(wǎng)絡(luò)的各層參數(shù)。

2）分類器的訓(xùn)練部分是提取AlexNet深度卷積神經(jīng)網(wǎng)絡(luò)的特征，通過卷積層的逐層提取，將最后全連接的第1層作為極限學(xué)習(xí)機(jī)的輸入，然后通過公式（4）計(jì)算得到極限學(xué)習(xí)機(jī)中隱含層到輸出層的網(wǎng)絡(luò)參數(shù)，并完成整個(gè)網(wǎng)絡(luò)的訓(xùn)練過程。

圖2 卷積圖層激活狀態(tài)顯示

通過測試樣本測試訓(xùn)練好的網(wǎng)絡(luò)，圖3表示5類不同的數(shù)據(jù)樣本，分別有帆船、軍艦、貨船、漁船、客船。用測試圖片通過訓(xùn)練好的網(wǎng)絡(luò)測試網(wǎng)絡(luò)的準(zhǔn)確度，本文所用圖片均為彩色圖片。

圖3 船舶類別

具體過程為：通過網(wǎng)絡(luò)Alexnet的訓(xùn)練得到所需要的參數(shù)，將Alexnet卷積神經(jīng)網(wǎng)絡(luò)提取的全連接第一層的特征作為極限學(xué)習(xí)機(jī)的輸入特征，并讓極限學(xué)習(xí)機(jī)通過公式（4）計(jì)算得到參數(shù)，然后形成完整的網(wǎng)絡(luò)結(jié)構(gòu)。圖4為本文的船舶識(shí)別系統(tǒng)框架圖。

圖4 船舶識(shí)別系統(tǒng)框圖

2 實(shí)驗(yàn)結(jié)果及分析

本文運(yùn)用Fleetmoom的船舶庫作為數(shù)據(jù)庫，通過人工標(biāo)注5類船舶的圖片以保證實(shí)驗(yàn)的準(zhǔn)確性。其中訓(xùn)練樣本共10 000張，訓(xùn)練樣本分取5 000～9 000中間間隔為1 000張的船舶圖片，剩余圖像作為測試樣本，且每類圖像分辨率均在224×224像素。

實(shí)驗(yàn)全部在Tensorflow環(huán)境下完成，在Windows10操作系統(tǒng)，Intel Core i7-4300U CPU，主頻2.50 GHU，內(nèi)存 8 G，Nvidia Gtx1080GPU，64 G內(nèi)存的硬件平臺(tái)上進(jìn)行試驗(yàn)。

Fleetmoom船舶圖像庫提供船舶的圖像數(shù)據(jù)，它是船舶識(shí)別中常用的數(shù)據(jù)庫，選用數(shù)據(jù)庫中實(shí)驗(yàn)所需的5類數(shù)據(jù)，共50 000幅圖像，每類船舶10 000幅圖像，照片為224×224像素的彩色圖像。拍攝的照片具有平移變化、光照變化等復(fù)雜背景，且能反映船舶圖片在復(fù)雜場景下的變化和差異。通過把船舶庫分為訓(xùn)練樣本和測試樣本，船舶庫按照此數(shù)據(jù)庫中隨機(jī)選取每類船舶圖片5 000～9 000幅圖片，并通過間隔1 000張作為5種不同訓(xùn)練數(shù)量的訓(xùn)練樣本，剩余的圖片作為測試圖片。Alexnet網(wǎng)絡(luò)基于8層網(wǎng)絡(luò)結(jié)構(gòu)，網(wǎng)絡(luò)有5個(gè)卷積層、3個(gè)全連接層。由于圖像的分辨率大小不一致，需要對(duì)圖像進(jìn)行預(yù)處理，把圖片處理成為224×224大小的圖片，每層網(wǎng)絡(luò)結(jié)構(gòu)的具體參數(shù)為：輸入層圖像大小為224×224×3，通過11×11卷積核，滑動(dòng)步長為4像素，輸出96個(gè)特征圖并池化；第1層使用5×5卷積核，卷積生成256個(gè)特征圖，并池化；第2層采用5×5卷積核，卷積產(chǎn)生256個(gè)特征圖；第3層和第4層采用3×3卷積內(nèi)核，輸出384個(gè)特征子圖通過下采樣層獲得384塊98×98特征圖片；第5層采用3×3卷積內(nèi)核，輸出256個(gè)特征圖，并池化；第6層是第1個(gè)全連接層，通過對(duì)比第7層、第8層的全連接層作為特征提取層，如表1所示。

表1 不同全連接層的對(duì)比試驗(yàn)

由表1可得，用后2層提取特征對(duì)準(zhǔn)確率影響較小，且準(zhǔn)確率有波動(dòng)，同時(shí)用時(shí)較長。綜合考慮時(shí)效性和準(zhǔn)確率的因素，本文將第5層所得到的特征子圖全連接到第6層。并通過第一個(gè)全連接層作為特征提取層，作為極限學(xué)習(xí)的輸入特征，本文分別對(duì)極限學(xué)習(xí)機(jī)、Alexnet、Alexnet＋svm［16］及本文方法做了對(duì)比實(shí)驗(yàn)來驗(yàn)證本文提高識(shí)別率的優(yōu)勢?？梢詮谋?中看出本文的方法隨著訓(xùn)練樣本的增多，識(shí)別率明顯高于其他3種方法。

表2 不同方法的對(duì)比試驗(yàn)

有待改進(jìn)之處：

1）在圖像庫的建立中，為了使研究更具實(shí)用性和針對(duì)性的圖片數(shù)據(jù)庫，需要進(jìn)行多種類型的實(shí)驗(yàn)，同時(shí)建立更加復(fù)雜背景下的艦船圖像庫。

2）在圖像特征提取方面，更好的局部特征提取有待進(jìn)一步研究，并可以和卷積神經(jīng)網(wǎng)絡(luò)提取的特征進(jìn)行融合，提高圖像識(shí)別的準(zhǔn)確性。

3 結(jié)束語

首次提出了一種基于Alexnet卷積神經(jīng)網(wǎng)絡(luò)和極限學(xué)習(xí)機(jī)融合的船舶識(shí)別方法。通過構(gòu)建8層卷積神經(jīng)網(wǎng)絡(luò)對(duì)船舶圖像進(jìn)行訓(xùn)練，利用Alexnet卷積神經(jīng)網(wǎng)絡(luò)提取船舶圖像的特征，并利用極限學(xué)習(xí)機(jī)對(duì)船舶進(jìn)行分類，使得當(dāng)前船舶分類識(shí)別率較低的問題得到了較好的解決，在船舶識(shí)別中達(dá)到了94%的準(zhǔn)確率。但卷積神經(jīng)網(wǎng)絡(luò)需要通過大量的訓(xùn)練達(dá)到最佳的穩(wěn)定識(shí)別狀態(tài)，此訓(xùn)練是一個(gè)非常耗時(shí)且需要不斷調(diào)整和更新訓(xùn)練參數(shù)的過程，同時(shí)對(duì)于硬件設(shè)備也提出了嚴(yán)格的要求。而近年來隨著科技的發(fā)展，已經(jīng)有專業(yè)的圖像處理芯片，相信不久后這一問題可以得到充分的解決。通過本文研究的船舶分類識(shí)別方法可用于港口對(duì)不同種類船舶流量的統(tǒng)計(jì)，提高港航局監(jiān)督和管理的效率。