崔亞楠，吳建平,2,3，朱辰龍，閆相如

(1.云南大學(xué) 信息學(xué)院，云南 昆明 650504； 2.云南省電子計(jì)算中心，云南 昆明 650223； 3.云南省高校數(shù)字媒體技術(shù)重點(diǎn)實(shí)驗(yàn)室，云南 昆明 650223)

0 引 言

合成孔徑雷達(dá)(synthetic aperture radar，SAR)是一種多平臺(tái)協(xié)同工作的主動(dòng)微波成像雷達(dá)系統(tǒng)。相較于可見光、紅外等光學(xué)成像方式，SAR具有全天候，全天時(shí)且不受天氣、光照等外界條件限制的獨(dú)特優(yōu)勢(shì)。近年來，已經(jīng)被廣泛運(yùn)用到軍事、工業(yè)、農(nóng)業(yè)等諸多領(lǐng)域。隨著SAR系統(tǒng)與成像技術(shù)的發(fā)展與完善，SAR圖像的應(yīng)用得到廣泛關(guān)注，從而大量SAR圖像目標(biāo)的自動(dòng)識(shí)別(automatic target recognition，ATR)成為學(xué)者們研究的熱點(diǎn)問題。

國內(nèi)外對(duì)SAR圖像目標(biāo)的自動(dòng)識(shí)別進(jìn)行了研究并提出了一些方法。早期對(duì)SAR圖像目標(biāo)識(shí)別的研究主要基于特征提取，如文獻(xiàn)[1]運(yùn)用非負(fù)矩陣分解特征進(jìn)行SAR圖像目標(biāo)識(shí)別；文獻(xiàn)[2]通過提取圖像局部判別嵌入特征進(jìn)行目標(biāo)識(shí)別；文獻(xiàn)[3]基于電磁散射特征提取方法識(shí)別SAR圖像目標(biāo)。以上特征提取方法均會(huì)忽略掉圖像的細(xì)節(jié)信息，從而無法充分提取目標(biāo)的特征，導(dǎo)致目標(biāo)識(shí)別效果不佳。深度學(xué)習(xí)[4]的出現(xiàn)為SAR圖像目標(biāo)識(shí)別提供更多的可能。AlexNet[5]、VGG[6]、GoogleNet[7]、ResNet[8]等深度學(xué)習(xí)網(wǎng)絡(luò)模型在ImageNet大賽中表現(xiàn)優(yōu)越，這些神經(jīng)網(wǎng)絡(luò)模型也逐漸引入到SAR圖像目標(biāo)識(shí)別研究中。

卷積神經(jīng)網(wǎng)絡(luò)(CNN)模型訓(xùn)練時(shí)往往需要大量的數(shù)據(jù)，對(duì)于數(shù)據(jù)較少的SAR圖像數(shù)據(jù)集在訓(xùn)練過程中大概率會(huì)出現(xiàn)過擬合，從而導(dǎo)致模型魯棒性差，識(shí)別效果不佳。在以往的研究中，文獻(xiàn)[9]通過增強(qiáng)數(shù)據(jù)集獲取更多SAR圖像，再對(duì)CNN模型進(jìn)行訓(xùn)練，最終達(dá)到了96.42%的識(shí)別率。文獻(xiàn)[10]基于模型遷移，引入超限學(xué)習(xí)機(jī)(ELM)對(duì)目標(biāo)進(jìn)行學(xué)習(xí)，最終取得了97.23%的識(shí)別率。文獻(xiàn)[11]提出一種CMNet網(wǎng)絡(luò)模型，通過增加卷積層個(gè)數(shù)減少圖像相干斑噪聲的影響，并利用Softmax損失與中心損失共同監(jiān)督網(wǎng)絡(luò)訓(xùn)練提高模型的泛化能力，最終獲得了99.30%的識(shí)別率。

為了更有效地解決SAR圖像樣本不足的問題，一些學(xué)者提出仿真SAR圖像的概念，如文獻(xiàn)[12]基于一種射線追蹤技術(shù)的SAR信號(hào)級(jí)仿真方法構(gòu)建地面車輛目標(biāo)SAR仿真場(chǎng)景物理模型，得到相應(yīng)的SAR仿真圖像，擴(kuò)充了SAR圖像數(shù)據(jù)。一定程度上能夠解決SAR圖像數(shù)據(jù)缺乏的問題。在此基礎(chǔ)上，文中提出基于卷積網(wǎng)絡(luò)神經(jīng)仿真SAR圖像遷移學(xué)習(xí)的方法，利用SAR仿真數(shù)據(jù)集[13]預(yù)訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)至網(wǎng)絡(luò)收斂，得到相應(yīng)的網(wǎng)絡(luò)參數(shù)。再將預(yù)訓(xùn)練得到的網(wǎng)絡(luò)參數(shù)遷移到目標(biāo)網(wǎng)絡(luò)對(duì)SAR圖像數(shù)據(jù)進(jìn)行訓(xùn)練。實(shí)驗(yàn)結(jié)果表明，該算法優(yōu)于傳統(tǒng)機(jī)器學(xué)習(xí)方法，獲得了更好的識(shí)別效果，進(jìn)一步提高了SAR識(shí)別的實(shí)用價(jià)值。

1 相關(guān)理論和技術(shù)描述

1.1 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)主要由卷積層、池化層、全連接層構(gòu)成。卷積層和池化層在卷積神經(jīng)網(wǎng)絡(luò)中交替疊加出現(xiàn)，組成了提取特征的部分。卷積神經(jīng)網(wǎng)絡(luò)相比其他神經(jīng)網(wǎng)絡(luò)，其獨(dú)特優(yōu)勢(shì)在于具有權(quán)值共享和局部感知的特性，很大程度上減少了網(wǎng)絡(luò)參數(shù)，降低了計(jì)算量。

(1)卷積層。

卷積層中包含多種尺寸的卷積核，作用是對(duì)圖像的深層特征進(jìn)行提取。其次利用激活函數(shù)對(duì)其進(jìn)行非線性激活得到新的特征。具體計(jì)算過程如下：

(1)

其中，Yi,j是第i行，第j列的特征輸出值；N為卷積核的大??；wl,k為第l行，第k列的權(quán)重；Wb為偏置項(xiàng)；f為激活函數(shù)。ReLU函數(shù)相較于其他激活函數(shù)有更快的收斂速度且能夠緩解梯度消失的問題，因此文中選用ReLU函數(shù)作為非線性激活函數(shù)。其函數(shù)表達(dá)式為：

ReLU(x)=max(x,0)

(2)

(2)池化層。

池化層分為平均池化(average pooling)和最大池化(max pooling)兩種形式，作用在于減少網(wǎng)絡(luò)參數(shù)量，防止過擬合，使網(wǎng)絡(luò)優(yōu)化更加容易。

(3)全連接層。

全連接層作為卷積神經(jīng)網(wǎng)絡(luò)的“分類器”，其每個(gè)節(jié)點(diǎn)與上一層所有節(jié)點(diǎn)完全連接，將經(jīng)過卷積層和池化層所得到的全部特征匯總，最終輸出的節(jié)點(diǎn)數(shù)即為目標(biāo)識(shí)別的類別數(shù)。

1.2 遷移學(xué)習(xí)

遷移學(xué)習(xí)是在兩個(gè)領(lǐng)域具有一定相關(guān)性的條件下，用其中一個(gè)領(lǐng)域?qū)W習(xí)到的知識(shí)解決另一個(gè)領(lǐng)域存在的問題的方法[14]。遷移學(xué)習(xí)分為基于實(shí)例遷移學(xué)習(xí)、基于特征遷移學(xué)習(xí)、基于模型遷移學(xué)習(xí)和基于關(guān)系遷移學(xué)習(xí)四大類別。傳統(tǒng)機(jī)器學(xué)習(xí)在訓(xùn)練一個(gè)好的網(wǎng)絡(luò)模型時(shí)需要訓(xùn)練大量數(shù)據(jù)進(jìn)行學(xué)習(xí)，對(duì)于一些數(shù)據(jù)較少的樣本往往訓(xùn)練效果不佳。遷移學(xué)習(xí)能有效解決小樣本數(shù)據(jù)的學(xué)習(xí)問題，提升卷積神經(jīng)網(wǎng)絡(luò)對(duì)小樣本數(shù)據(jù)目標(biāo)分類識(shí)別的準(zhǔn)確率。

在遷移學(xué)習(xí)中，被學(xué)習(xí)的領(lǐng)域稱為源域(source domain)，待解決問題的領(lǐng)域稱為目標(biāo)域(target domain),公式如下：

D(s)={xs,P(xs)}

(3)

D(t)={xt,P(xt)}

(4)

其中，D(s)為源域；D(t)為目標(biāo)域；xs為源域的特征空間；xt為目標(biāo)域的特征空間；P(xs)是與xs對(duì)應(yīng)的邊際概率分布；P(xt)是與xt對(duì)應(yīng)的邊際概率分布。

1.3 仿真SAR圖像模型介紹

生成仿真SAR目標(biāo)圖像過程：首先，利用Ulaby方法結(jié)合粗糙面散射理論建立SAR車輛目標(biāo)仿真場(chǎng)景模型，再利用蒙特卡羅(Monte Carlo)方法獲取雷達(dá)與目標(biāo)以及地面環(huán)境的空間幾何關(guān)系，進(jìn)一步通過隨機(jī)散射法等技術(shù)獲取地面的粗糙特性。隨后，利用射線彈跳法、等效邊緣流法等建立目標(biāo)、地面場(chǎng)景的電磁散射模型。最后，基于電磁散射模型與場(chǎng)景模型計(jì)算SAR目標(biāo)的掃頻數(shù)據(jù)，通過時(shí)頻變換與成像算法得到仿真SAR目標(biāo)圖像。不同方位角的部分仿真SAR圖像如圖1所示。

圖1 部分仿真SAR圖像

2 基于遷移學(xué)習(xí)的SAR目標(biāo)圖像識(shí)別方法

2.1 圖像預(yù)處理

遙感雷達(dá)圖像具有較大的相干斑點(diǎn)噪聲，一定程度上影響了網(wǎng)絡(luò)性能的提升。文中采用一種增強(qiáng)的Lee濾波算法[15]先對(duì)MSTAR數(shù)據(jù)集中的圖像進(jìn)行濾波去噪，減少噪聲在神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練中產(chǎn)生的影響，有效提高了網(wǎng)絡(luò)性能。

2.2 Inception-ResNet-v2

隨著卷積神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別領(lǐng)域的深入發(fā)展，對(duì)網(wǎng)絡(luò)性能有更高的要求。前期擴(kuò)充網(wǎng)絡(luò)的深度與高度的作法，出現(xiàn)了網(wǎng)絡(luò)過擬合、計(jì)算量大等問題。而Inception網(wǎng)絡(luò)模型有效緩解了該問題。Inception v1網(wǎng)絡(luò)[7]通過稀疏矩陣類聚成相對(duì)密集的子矩陣的方法提高網(wǎng)絡(luò)計(jì)算性能。Inception v2網(wǎng)絡(luò)[16]在輸入時(shí)增加了batch_normal，使網(wǎng)絡(luò)訓(xùn)練收斂得更快。Inception v3網(wǎng)絡(luò)[16]利用多個(gè)小卷積核串聯(lián)取代較大卷積核的方式，改善了網(wǎng)絡(luò)的非線性，減小了網(wǎng)絡(luò)過擬合的概率。Inception v4網(wǎng)絡(luò)與Inception v3網(wǎng)絡(luò)相比具有更統(tǒng)一的簡(jiǎn)化架構(gòu)。Inception v4網(wǎng)絡(luò)與Inception-ResNet-v2網(wǎng)絡(luò)結(jié)構(gòu)相似，不同點(diǎn)在于Inception-ResNet-v2網(wǎng)絡(luò)結(jié)合了殘差網(wǎng)絡(luò)的思想可以將網(wǎng)絡(luò)深度增加[17]。

Inception-ResNet-v2網(wǎng)絡(luò)結(jié)合了殘差網(wǎng)絡(luò)思想，在增加神經(jīng)網(wǎng)絡(luò)深度的同時(shí)降低了梯度消失的問題，該網(wǎng)絡(luò)性能最佳。因此，文中采用Inception-ResNet-v2網(wǎng)絡(luò)作為訓(xùn)練模型，將原始模型的Dropout rate改為0.5，最后利用Adam算法對(duì)模型進(jìn)行優(yōu)化，其采用的網(wǎng)絡(luò)架構(gòu)如圖2所示。

圖2 Inception-ResNet-v2網(wǎng)絡(luò)總體架構(gòu)

其中，Inception-ResNet-v2網(wǎng)絡(luò)結(jié)構(gòu)又由Stem模塊、Inception-ResNet-A模塊、Reduction-A模塊、Inception-ResNet-B模塊、Reduction-B模塊、Inception-ResNet-C模塊等組成。

2.2.1 Dropout的設(shè)計(jì)

對(duì)于參數(shù)量大，訓(xùn)練樣本少的神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)很容易產(chǎn)生過擬合，Dropout的提出有效解決了這一問題。Dropout在訓(xùn)練網(wǎng)絡(luò)時(shí)會(huì)隨機(jī)丟棄部分神經(jīng)元，從而達(dá)到減少網(wǎng)絡(luò)參數(shù)、提升模型魯棒性的目的，同時(shí)，有效緩解過擬合對(duì)網(wǎng)絡(luò)的影響。文中模型中Dropout rate設(shè)置為0.5。

2.2.2 Softmax分類器設(shè)計(jì)

Softmax函數(shù)是基于多項(xiàng)邏輯損失的組合，常用于圖像等多分類問題來表示類別之間的概率分布，其基本原理是將輸入映射為0到1之間的實(shí)數(shù)，實(shí)現(xiàn)分類向量的歸一化。Softmax分類器的目的是實(shí)現(xiàn)估計(jì)分類概率和真實(shí)分布之間交叉熵的最小化。

交叉熵函數(shù)表達(dá)式為：

(5)

其中，p表示真實(shí)分布，q表示估計(jì)分布。

Softmax函數(shù)表達(dá)式為：

(6)

其中，i表示第i類別，k表示總的類別數(shù)，H(zi)表示第i類別的概率。

2.3 遷移學(xué)習(xí)算法設(shè)計(jì)與實(shí)現(xiàn)

文中基于遷移學(xué)習(xí)實(shí)現(xiàn)Inception-ResNet-v2網(wǎng)絡(luò)模型的預(yù)訓(xùn)練、訓(xùn)練以及優(yōu)化等，遷移模型如圖3所示。算法的具體實(shí)現(xiàn)過程如下：

(1)將仿真SAR數(shù)據(jù)集中的七類圖像作為源域識(shí)別任務(wù)，仿真SAR數(shù)據(jù)集作為源域訓(xùn)練樣本。對(duì)Inception-ResNet-v2模型進(jìn)行預(yù)訓(xùn)練，得到預(yù)訓(xùn)練模型參數(shù)。

(2)構(gòu)建與源域模型相同的目標(biāo)域模型。

(3)將MSTAR數(shù)據(jù)集中的十類圖像作為目標(biāo)域識(shí)別任務(wù)，MSTAR數(shù)據(jù)集作為目標(biāo)域的訓(xùn)練樣本。將上述預(yù)訓(xùn)練模型中的參數(shù)作為目標(biāo)域模型的初始化參數(shù)對(duì)目標(biāo)域模型進(jìn)行訓(xùn)練。

(4)采用Adam算法優(yōu)化網(wǎng)絡(luò)。

(5)最終通過Softmax分類器實(shí)現(xiàn)目標(biāo)的分類。

圖3 SAR遷移學(xué)習(xí)的模型

3 實(shí)驗(yàn)結(jié)果與分析

實(shí)驗(yàn)在tensorflow1.10+keras2.2.2框架下實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的搭建。實(shí)驗(yàn)環(huán)境配置：win10操作系統(tǒng)、i7-8750h處理器、GTX1060顯卡、16 G內(nèi)存。

3.1 實(shí)驗(yàn)數(shù)據(jù)集

文中選用SAR仿真數(shù)據(jù)集作為預(yù)訓(xùn)練模型的數(shù)據(jù)集。該數(shù)據(jù)集包含三種不同場(chǎng)景下的七類SAR仿真圖像，每類圖像由七個(gè)不同方向角下仿真獲取，總計(jì)21 168張仿真圖像。

為驗(yàn)證文中算法的有效性，實(shí)驗(yàn)選用MSTAR數(shù)據(jù)集作為實(shí)測(cè)數(shù)據(jù)集。MSTAR數(shù)據(jù)集包含了2S1、BMP2、BRDM2、BTR60等十類目標(biāo)圖像，其中十類目標(biāo)的光學(xué)圖像與其對(duì)應(yīng)的SAR圖像如圖4所示。文中選用常用的17°方位角下的2 746張SAR圖像與15°方位角下的2 426張SAR圖像作為訓(xùn)練及測(cè)試樣本。將兩個(gè)方位角下的同類目標(biāo)圖像混合，并按照6∶4的比例隨機(jī)在每類中抽取60%作為訓(xùn)練集，剩余的40%作為測(cè)試集，具體如表1所示。

圖4 十類目標(biāo)光學(xué)圖像與其對(duì)應(yīng)的SAR圖像

表1 實(shí)測(cè)SAR數(shù)據(jù)

3.2 實(shí)驗(yàn)結(jié)果

輸入圖片的大小為224×224；學(xué)習(xí)率值為0.000 1；batchsize值為12；dropout值為0.5；迭代7 770次，通過實(shí)驗(yàn)結(jié)果數(shù)據(jù)分析，在迭代到6 475次時(shí)準(zhǔn)確率達(dá)到最高。

十類SAR目標(biāo)圖像的識(shí)別結(jié)果如表2的混淆矩陣所示，其中BTR70裝甲車、D7推土機(jī)、T72坦克、ZIL131卡車識(shí)別率達(dá)到100%。BMP2坦克識(shí)別率最低，但準(zhǔn)確率也達(dá)到了98.84%。最終在測(cè)試集上的平均識(shí)別率為99.57%。

表2 十類SAR目標(biāo)圖像識(shí)別結(jié)果

續(xù)表2

3.3 對(duì)比實(shí)驗(yàn)分析

對(duì)比實(shí)驗(yàn)一：

在該實(shí)驗(yàn)中，不對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練。直接用17°方位角下SAR目標(biāo)的訓(xùn)練集對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，網(wǎng)絡(luò)參數(shù)隨機(jī)初始化，學(xué)習(xí)率、batchsize、dropout等值與文中實(shí)驗(yàn)保持不變。最終在15°方位角下SAR目標(biāo)的測(cè)試集識(shí)別率僅達(dá)到91.64%。

用小樣本數(shù)據(jù)集直接對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，得到局部最優(yōu)解的概率較大，訓(xùn)練出來的網(wǎng)絡(luò)魯棒性較差，不能充分提取圖像更多的細(xì)節(jié)特征，所以識(shí)別的準(zhǔn)確率較低。

對(duì)比實(shí)驗(yàn)二：

選用ImageNet數(shù)據(jù)集取代SAR仿真數(shù)據(jù)集對(duì)網(wǎng)絡(luò)預(yù)訓(xùn)練，并保留預(yù)訓(xùn)練網(wǎng)絡(luò)的相關(guān)參數(shù)。將預(yù)訓(xùn)練得到的參數(shù)作為目標(biāo)模型的初始化參數(shù)，再用17°方位角下SAR目標(biāo)的訓(xùn)練集對(duì)網(wǎng)絡(luò)進(jìn)一步訓(xùn)練至收斂。學(xué)習(xí)率、batchsize、dropout等值保持不變。最終在15°方位角下SAR目標(biāo)的測(cè)試集識(shí)別率達(dá)到了97.47%，仍低于文中提出的方法。

與ImageNet數(shù)據(jù)集圖像相比，仿真SAR圖像的特征與目標(biāo)SAR圖像特征相似度更高，所以仿真SAR圖像訓(xùn)練的模型具有更好的泛化能力。

圖5 準(zhǔn)確率對(duì)比

文中方法與兩個(gè)對(duì)比實(shí)驗(yàn)的SAR識(shí)別準(zhǔn)確率以及訓(xùn)練誤差對(duì)比如圖5和圖6所示。總共訓(xùn)練30輪，其中每輪訓(xùn)練大約為259次，共計(jì)訓(xùn)練7 770次。

圖6 訓(xùn)練誤差對(duì)比

不同的SAR圖像目標(biāo)識(shí)別研究方法與文中識(shí)別方法的對(duì)比結(jié)果如表3所示。

表3 不同方法的網(wǎng)絡(luò)模型性能對(duì)比

4 結(jié)束語

提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)仿真SAR圖像遷移學(xué)習(xí)的目標(biāo)識(shí)別方法，能有效緩解現(xiàn)存SAR數(shù)據(jù)集較小帶來的問題：使用Inception-ResNet-v2網(wǎng)絡(luò)并融合Inception-v4網(wǎng)絡(luò)的特征與殘差網(wǎng)絡(luò)的思路，在提高識(shí)別準(zhǔn)確率的同時(shí)能夠緩解梯度消失問題。還通過仿真SAR目標(biāo)圖像對(duì)Inception-ResNet-v2網(wǎng)絡(luò)預(yù)訓(xùn)練，得到網(wǎng)絡(luò)參數(shù)。將預(yù)訓(xùn)練獲得的網(wǎng)絡(luò)參數(shù)作為目標(biāo)網(wǎng)絡(luò)的初始化參數(shù)進(jìn)行遷移學(xué)習(xí)，并利用SAR目標(biāo)圖像對(duì)網(wǎng)絡(luò)進(jìn)一步訓(xùn)練并更新權(quán)重等參數(shù)直至網(wǎng)絡(luò)收斂。最終在測(cè)試集上獲得了99.57%的識(shí)別率。該方法一定程度上避免了小樣本數(shù)據(jù)集在網(wǎng)絡(luò)訓(xùn)練過程中容易陷入局部最優(yōu)解的問題，在實(shí)測(cè)SAR圖像集上對(duì)其有效性進(jìn)行了驗(yàn)證。

在現(xiàn)代太空立體化戰(zhàn)爭(zhēng)中，高效、準(zhǔn)確地識(shí)別出對(duì)方地面投入戰(zhàn)場(chǎng)的或后方的軍備SAR圖像極為重要。文中方法可為SAR圖像目標(biāo)的識(shí)別研究和進(jìn)一步應(yīng)用提供參考。