楊 紅，韓 鵬，劉 暢，宮珊珊

(大連海事大學(xué) 信息科學(xué)技術(shù)學(xué)院，遼寧 大連 116026)

0 引 言

船舶自動識別系統(tǒng)(automatic identification system, AIS)提供了豐富的船舶運(yùn)動信息，如船舶位置經(jīng)緯度、對地航速(SOG)、對地航向(COG)等[1]。通過AIS對船舶行為進(jìn)行識別和軌跡預(yù)測，能更好地實(shí)現(xiàn)避碰預(yù)警，輔助相關(guān)部門進(jìn)行日常監(jiān)管。

在船舶行為識別分析中，學(xué)者們常用基于深度學(xué)習(xí)的方法進(jìn)行研究。H.LJUNGGREN[2]和JIANG Xiang等[3]分別采用卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network, CNN)和門控循環(huán)單元(gated recurrent unit, GRU)對船舶捕撈行為進(jìn)行識別，避免了復(fù)雜參數(shù)設(shè)定，且識別效果均好于傳統(tǒng)方法。

在船舶軌跡預(yù)測任務(wù)中，傳統(tǒng)的k階馬爾可夫鏈[4]、單點(diǎn)近鄰搜素(SPNS)、卡爾曼濾波[5]等方法并不能完整地概括各種影響因素。隨著機(jī)器學(xué)習(xí)和深度學(xué)習(xí)不斷發(fā)展，基于支持向量回歸和神經(jīng)網(wǎng)絡(luò)方法的航跡預(yù)測模型被提出來[6-7]。該模型從AIS數(shù)據(jù)中獲取運(yùn)動特征，從而隱式地整合所有可能的影響因素，可取得更高的預(yù)測精度。

目前對以上兩種任務(wù)的研究都是獨(dú)立的，考慮到船舶行為識別與軌跡預(yù)測是具有相關(guān)性的任務(wù)，因此筆者提出了基于多任務(wù)學(xué)習(xí)的模型，以多任務(wù)學(xué)習(xí)為框架的模型已在很多領(lǐng)域被應(yīng)用。如在NLP領(lǐng)域中，進(jìn)行詞性標(biāo)注和命名體識別等[8]；在進(jìn)化計(jì)算領(lǐng)域中，研究如何利用多任務(wù)學(xué)習(xí)解決多個優(yōu)化問題(任務(wù))以提高獨(dú)立解決每項(xiàng)任務(wù)效率[9]；在自動駕駛領(lǐng)域，提出利用多個相關(guān)任務(wù)來實(shí)現(xiàn)精確的多傳感器三維目標(biāo)檢測[10]。

筆者在分析了兩個任務(wù)現(xiàn)有研究成果的基礎(chǔ)上，以船舶行為中的捕撈、系泊、拋錨、正常航行這4種行為作為識別任務(wù)，將這4種識別任務(wù)與船舶軌跡預(yù)測任務(wù)組成多任務(wù)學(xué)習(xí)模式，提出了基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)和雙向長短時記憶網(wǎng)絡(luò)(BiLSTM)的CNN-BiLSTM神經(jīng)網(wǎng)絡(luò)的多任務(wù)學(xué)習(xí)模型，并引入注意力機(jī)制對網(wǎng)絡(luò)進(jìn)行優(yōu)化，使網(wǎng)絡(luò)對特征提取更具針對性，可靠性更高；通過多任務(wù)學(xué)習(xí)機(jī)制，可均化原始數(shù)據(jù)中噪聲，降低單獨(dú)完成任務(wù)可能過擬合的風(fēng)險，增強(qiáng)模型的泛化能力；并通過實(shí)驗(yàn)將文中方法分別與識別任務(wù)中的CNN、BiLSTM模型、預(yù)測任務(wù)中的BP、BiLSTM模型進(jìn)行比較，證明筆者所提出的方法準(zhǔn)確性更高，泛化能力更強(qiáng)。

1 數(shù)據(jù)準(zhǔn)備

受地貌、地形、氣象等環(huán)境因素及設(shè)備本身問題影響，AIS數(shù)據(jù)可靠性降低，存在數(shù)據(jù)的異常與缺失。為使數(shù)據(jù)集更具有效性，需對AIS數(shù)據(jù)進(jìn)行必要的清洗與修復(fù)。

1.1 變量選擇

AIS數(shù)據(jù)中包含的信息見表1，篩選其中與任務(wù)相關(guān)的變量，最終選擇AIS數(shù)據(jù)中的經(jīng)緯度(Lat, Lon)，對地航速(SOG)、對地航向(COG)作為變量。

表1 解析后的AIS數(shù)據(jù)實(shí)例Table 1 Analyzed AIS data instance

1.2 數(shù)據(jù)清洗

1.2.1 速度異常

根據(jù)船舶所在海域規(guī)定，結(jié)合該海域內(nèi)其他船舶速度，根據(jù)速度分布確定閾值，識別速度異常數(shù)據(jù)進(jìn)行剔除。

1.2.2 加速度異常

可通過式(1)、式(2)計(jì)算出理論最大加速度am。

10×L=0.5×tm×Vm

(1)

(2)

式中：L為船身長度；Vm為預(yù)設(shè)的最大速度；tm為船從靜止到預(yù)設(shè)最大速度所用時間。

1.2.3 軌跡明顯漂移

筆者依據(jù)谷歌地圖中方法，通過經(jīng)緯度計(jì)算出連續(xù)兩點(diǎn)間的實(shí)際距離dis，如式(3)。通過速度與時間可計(jì)算出理論距離，并設(shè)定一個閾值，若偏差過大，則判定為軌跡漂移點(diǎn)并刪除。

(3)

式中：R為地球半徑；(x1,y1), (x2,y2)分別為連續(xù)兩點(diǎn)的經(jīng)緯度。

1.2.4 冗余數(shù)據(jù)

將重復(fù)數(shù)據(jù)進(jìn)行刪除，以時間一致為標(biāo)準(zhǔn)。

1.3 軌跡分離

統(tǒng)計(jì)所在海域AIS相鄰數(shù)據(jù)點(diǎn)的時間間隔，以此確定閾值范圍，并確定間隔上限作為缺失數(shù)據(jù)點(diǎn)識別標(biāo)志。根據(jù)海上移動通信業(yè)務(wù)標(biāo)識碼(MMSI)將數(shù)據(jù)集分離為每艘船的子數(shù)據(jù)集，再根據(jù)確定的時間間隔分離出待修復(fù)的軌跡。

1.4 數(shù)據(jù)修復(fù)

為更好地對航速航向進(jìn)行修復(fù)與預(yù)測，將航速按經(jīng)緯度作分解得到VLat和VLon，如式(4)、式(5)。

VLon=V× cosθ

(4)

VLat=V× sinθ

(5)

式中：θ為航向；V為航速。

2 模型建立

筆者選取船舶行為進(jìn)行識別任務(wù)，同時對船舶未來時刻的位置(經(jīng)緯度)、航速、航向進(jìn)行預(yù)測。以多任務(wù)學(xué)習(xí)機(jī)制同時完成上述兩個具有相關(guān)性的任務(wù)，使其相互共享特征、協(xié)同學(xué)習(xí)，同時也可降低數(shù)據(jù)中的噪聲，減少過擬合的可能。

筆者通過融合CNN和BiLSTM構(gòu)建了并聯(lián)的CNN-BiLSTM神經(jīng)網(wǎng)絡(luò)模型。AIS數(shù)據(jù)具有時序性，因此通過BiLSTM能很好地提取時序特征，更好地捕捉歷史數(shù)據(jù)點(diǎn)之間的關(guān)系。同時考慮各單元的輸出對最后任務(wù)結(jié)果影響程度不同，故加入注意力機(jī)制進(jìn)行網(wǎng)絡(luò)優(yōu)化，為每個單元的輸出設(shè)定權(quán)值，使這一分支的特征提取更加可靠。通過CNN可很好地提取局部特征，探索AIS數(shù)據(jù)語義中更深層次的特征關(guān)系。

2.1 船舶行為與軌跡

AIS信息中，船舶行為狀態(tài)可分為10類。其中：2類代表修正狀態(tài)；其余8類分別為正常航行、拋錨、未在命令下操縱受限制、系泊、吃水限制、擱淺、捕撈、操帆在航[11]，每種行為狀態(tài)對應(yīng)不同的航速航向與軌跡。筆者選取其中4種(捕撈、系泊、拋錨、正常航行)行為，研究其在某段時間內(nèi)經(jīng)緯度、對地航速、對地航向變化與其行為之間關(guān)系。船舶軌跡(航跡)代表其在某一時間內(nèi)位置的變化，表現(xiàn)為經(jīng)緯度變化，并伴隨著航速和航向的變化。

2.2 卷積神經(jīng)網(wǎng)絡(luò)

AIS樣本數(shù)據(jù)是包含語義信息的時間序列，選取一維卷積對固定長度的AIS樣本數(shù)據(jù)進(jìn)行特征提取非常有效。將每個樣本數(shù)據(jù)表示為S={Lati, Loni,VLati,VLoni}，i為樣本中第i個點(diǎn)，4個維度分別為緯度、經(jīng)度、緯度方向的速度、經(jīng)度方向的速度。每個樣本數(shù)據(jù)長度為T，特征維度為N。將輸入樣本轉(zhuǎn)換成一個N×T維的矩陣，通過卷積層，從樣本數(shù)據(jù)中提取到簡單模式到更高層次的特征，通過最大池化層對提取的特征進(jìn)行篩選，利用Dropout層防止過擬合，最后得到CNN分支特征，CNN提取高層次特征原理如圖1。

圖1 AIS數(shù)據(jù)卷積操作Fig. 1 AIS data convolution operation

2.3 雙向長短時記憶網(wǎng)絡(luò)

長短時記憶(long short-term memory, LSTM)循環(huán)網(wǎng)絡(luò)是在循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network, RNN)基礎(chǔ)上，通過內(nèi)部的門結(jié)構(gòu)，有效解決RNN模型訓(xùn)練中出現(xiàn)的梯度消失問題的一種模型。LSTM單元結(jié)構(gòu)如圖2。

圖2 LSTM單元結(jié)構(gòu)Fig. 2 LSTM cell structure diagram

每個LSTM單元輸入包括xt、ht-1、Ct-1，分別代表當(dāng)前時刻輸入、上一時刻輸出、上一個時刻單元狀態(tài)；輸出包括ht和Ct-1，分別代表當(dāng)前時刻的輸出和當(dāng)前單元的狀態(tài)。包含3個門結(jié)構(gòu)：遺忘門主要負(fù)責(zé)對輸入信息進(jìn)行選擇性遺忘，輸入門對遺忘門的輸出進(jìn)行補(bǔ)充，輸出門對所有信息進(jìn)行整合作為輸出并傳給下一個單元。正因如此每個單元都可獲取到當(dāng)前與之前的信息，因此對時間序列的時序特征提取有顯著效果。

BiLSTM是在LSTM基礎(chǔ)上增加了一層LSTM結(jié)構(gòu)作為反向的特征提取，最終將前向與反向的單元輸出結(jié)果融合，如此每個時刻的輸出結(jié)果既考慮之前信息也考慮了之后信息，能使時序特征更為全面。BiLSTM結(jié)構(gòu)如圖3。

圖3 雙向LSTM結(jié)構(gòu)Fig. 3 Bi-LSTM structure diagram

圖3中：xi(i=1,2,…,i,…n)為船舶每個時刻的數(shù)據(jù)，Hi(i=1,2,…,i,…n)為每個時刻的最終輸出，是將每個單元的前向輸出與反向輸出通過加權(quán)求和方式進(jìn)行融合。

2.4 注意力機(jī)制

注意力機(jī)制最早是用于圖像識別領(lǐng)域，之后廣泛用于自然語言處理領(lǐng)域。其原理是利用歸一化指數(shù)函數(shù)使簡化后的輸入向量映射到[0, 1]區(qū)間，即為所賦予的“權(quán)重”，其結(jié)構(gòu)如圖4。船舶不同時刻的狀態(tài)對最終結(jié)果影響力各不相同，因此筆者利用注意力機(jī)制為每個時刻的輸出賦予權(quán)重，然后通過加權(quán)求和，再通過全連接層以得到更為有效的特征。

圖4 Attention單元結(jié)構(gòu)Fig. 4 Attention cell structure diagram

xi為BiLSTM每個單元輸出；f(x)用以將多維矩陣轉(zhuǎn)化為一維；W為相應(yīng)矩陣；softmax用作將結(jié)果映射到[0, 1]區(qū)間；wi為得到的權(quán)值，如式(5)。

(5)

2.5 多任務(wù)學(xué)習(xí)

基于神經(jīng)網(wǎng)絡(luò)的多任務(wù)學(xué)習(xí)在實(shí)際應(yīng)用中較為廣泛。通過同一個網(wǎng)絡(luò)結(jié)構(gòu)提取特征，設(shè)計(jì)不同的損失函數(shù)進(jìn)而聯(lián)合訓(xùn)練以達(dá)到降低噪聲，提高性能效果。

筆者設(shè)計(jì)了網(wǎng)絡(luò)結(jié)構(gòu)來進(jìn)行船舶行為識別與軌跡預(yù)測兩個任務(wù)，如圖5。

圖5 網(wǎng)絡(luò)結(jié)構(gòu)Fig. 5 Network structure diagram

圖5中：網(wǎng)絡(luò)結(jié)構(gòu)分為兩個分支，左側(cè)依次為一維卷積層，最大池化層，Dropout層，右側(cè)依次為BiLSTM層，注意力機(jī)制層，全連接層。將船舶時間序列數(shù)據(jù)通過維度轉(zhuǎn)換分別輸入兩分支后融合，再經(jīng)過全連接層得到特征。

由于文中是分類與回歸的混合任務(wù)，因此將模型輸出分為兩個部分，一部分是通過softmax層得到船舶行為分類；另一部分是通過全連接層得到的下一時刻的預(yù)測軌跡數(shù)據(jù)。通過不同損失函數(shù)之后得到的損失進(jìn)行組合形成一個損失后反向傳播訓(xùn)練。識別任務(wù)與預(yù)測任務(wù)的損失函數(shù)分別選用交叉熵函數(shù)(cross entropy loss)與均方誤差MSE(mean squared error)，其具體如式(6)、 式(7)。

(6)

(7)

對于識別任務(wù)需將輸出結(jié)果先經(jīng)過softmax層得到概率，再計(jì)算損失。對預(yù)測任務(wù)因需預(yù)測的結(jié)果為4個維度信息，故損失為每個維度的損失平均值，之后將兩個損失通過式(8)進(jìn)行融合得到最終的損失函數(shù)。多任務(wù)學(xué)習(xí)訓(xùn)練算法1如圖6。

Lfull=λrLr+λpLp

(8)

式中：λr和λp分別是兩個損失權(quán)重。

圖6 算法1Fig. 6 Algorithm 1

3 實(shí)驗(yàn)結(jié)果

3.1 數(shù)據(jù)分析

筆者旨在通過AIS設(shè)備得到某船的數(shù)據(jù)，進(jìn)而對其進(jìn)行分析。數(shù)據(jù)來自2017年1月從marineca-dastre.gov下載的3個海域的船舶AIS數(shù)據(jù)。分別在3個區(qū)域中選取4種行為的AIS數(shù)據(jù)10 000、8 000條作為訓(xùn)練集，2 000條作為測試集。每組數(shù)據(jù)的船舶行為類別統(tǒng)計(jì)如表2。筆者選取數(shù)據(jù)預(yù)處理后的每個樣本中前25個數(shù)據(jù)作為輸入，其余用以單點(diǎn)預(yù)測標(biāo)簽。

表2 各組數(shù)據(jù)船舶行為類別數(shù)量Table 2 Number of ship behavior categories in each group

3.2 評價指標(biāo)與參數(shù)設(shè)置

選用均方根誤差(RMSE)，平均絕對誤差(MAE)作為軌跡預(yù)測方法評價指標(biāo)。選用精確率(Precision)，召回率(Recall)和F-score作為識別方法的評價指標(biāo)。筆者計(jì)算的是4個分類的平均評價指標(biāo)。對于經(jīng)緯度預(yù)測評價，將預(yù)測結(jié)果與真實(shí)數(shù)據(jù)的差值定義為兩點(diǎn)之間的距離，通過式(3)進(jìn)行計(jì)算。具體計(jì)算如式(9)～式(13)。

(9)

(10)

(11)

(12)

(13)

式中：n為樣本數(shù)量；y′i為模型預(yù)測結(jié)果；yi為真實(shí)數(shù)據(jù)；TPi代表真正例；FPi代表假正例；FNi代表假負(fù)例；F-score用以平衡準(zhǔn)確率和召回率影響。

多任務(wù)學(xué)習(xí)中，兩個任務(wù)的損失函數(shù)不同，如2.4節(jié)可知，對于λr和λp的設(shè)定，采用多次實(shí)驗(yàn)方法驗(yàn)證選擇為1和0.1。

文中實(shí)驗(yàn)環(huán)境選用Spyder，Python 3.7.3，框架選用Pytorch，歸一化函數(shù)選用Pytorch中的Min Max Scaler。迭代次數(shù)500次，Batch Size設(shè)為5，學(xué)習(xí)率設(shè)為0.001，為防止過擬合加入Dropout層，參數(shù)設(shè)為0.6，優(yōu)化器選用SGD。CNN中kernel_size設(shè)為1，池化層參數(shù)設(shè)為25，LSTM隱層維度設(shè)為8。

3.3 船舶行為識別與軌跡預(yù)測實(shí)例

將預(yù)處理好的3組數(shù)據(jù)用于文中提出的CNN-BiLSTM多任務(wù)學(xué)習(xí)模型，進(jìn)行船舶行為識別與軌跡預(yù)測任務(wù)聯(lián)合學(xué)習(xí)實(shí)驗(yàn)，并分別與識別任務(wù)中的CNN，BiLSTM模型，預(yù)測任務(wù)中的BP[12]，BiLSTM[13]模型進(jìn)行比較，得到如表3、表4。

表3 船舶行為識別對比實(shí)驗(yàn)結(jié)果Table 3 Comparative experimental results of vessel behavior recognition

表4 船舶軌跡預(yù)測對比實(shí)驗(yàn)結(jié)果Table 4 Comparative experimental results of vessel trajectory prediction

由表3可看出：3組數(shù)據(jù)中所提出的模型在精確率、召回率、F-score這3個指標(biāo)上都明顯優(yōu)于單一的CNN模型和BiLSTM模型，精確率最高達(dá)到了0.909 8，召回率最高達(dá)到了0.865 7，F(xiàn)-score值達(dá)到了0.887 2，相較于同組數(shù)據(jù)用CNN模型與用BiLSTM模型分別提高了近15.2%、10.4%、12.7%和7.8%、4.3%、6.1%。雖然組2、3實(shí)驗(yàn)數(shù)據(jù)由于類別分布中系泊與拋錨行為相對較多，且這兩種特征在行為特征角度相近，故實(shí)驗(yàn)指標(biāo)相較組1較低，但都明顯高于同組數(shù)據(jù)中另兩種方法，精確率與召回率指標(biāo)分別達(dá)到0.898 4、0.876 0和0.889 2、0.844 2。由此可以看出因AIS數(shù)據(jù)的時序性與船舶的行為相關(guān)性很高，故在CNN的基礎(chǔ)上加入了優(yōu)化后的BiLSTM分支的多任務(wù)學(xué)習(xí)模型在船舶行為識別任務(wù)中可以取得優(yōu)越的識別效果。

由表4可看出：文中的模型相對于傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)在對位置預(yù)測、航速預(yù)測、航向預(yù)測這3個方面的實(shí)驗(yàn)指標(biāo)都有顯著提高，且引入CNN分支對局部特征的提取，同時聯(lián)合學(xué)習(xí)得到船舶行為特征，也使得文中模型優(yōu)越于傳統(tǒng)的BiLSTM模型，可以使位置誤差縮小到15 m量級，同時對航速航向的預(yù)測精度也有顯著提高。其中：組3中的實(shí)驗(yàn)結(jié)果指標(biāo)最優(yōu)，文中方法對位置預(yù)測的RMSE和MAE分別達(dá)到了14.554、14.523 m，航速預(yù)測達(dá)到了0.291 6、 0.252 3 kn，航向預(yù)測達(dá)到了2.594 9、 2.590 1；較同組數(shù)據(jù)用BP神經(jīng)網(wǎng)絡(luò)與BiLSTM模型RMSE誤差分別降低了近5、1.2； 0.7、 0.1 kn； 3、 0.7。由于組1數(shù)據(jù)類別數(shù)量中拋錨的類別較低組3，且拋錨行為下船舶位置、航速，航向相對穩(wěn)定，故實(shí)驗(yàn)結(jié)果略遜于組3，但均方根誤差也較BiLSTM模型分別降低了1.258 m，0.131 kn，0.877 5。組2中捕撈行為數(shù)據(jù)較多，且該行為狀態(tài)下位置、航速、航向復(fù)雜多變，影響了整體數(shù)據(jù)實(shí)驗(yàn)結(jié)果。但均方根誤差也較BiLSTM模型分別降低了0.61 m，0.231 5 kn， 0.898 9，這體現(xiàn)了文中模型的優(yōu)越性。

綜上可看出：將兩個任務(wù)聯(lián)合學(xué)習(xí)，利用CNN-BiLSTM神經(jīng)網(wǎng)絡(luò)為模型解決該問題取得良好的實(shí)驗(yàn)效果，取其中一組數(shù)據(jù)作單點(diǎn)多次預(yù)測，得到真實(shí)軌跡與各軌跡預(yù)測方法的對比如圖7、圖8。由此可知：BiLSTM已表現(xiàn)出很好的軌跡擬合效果，而文中模型在精度上有了相應(yīng)提高，使軌跡擬合更準(zhǔn)確。在對航向和航速的預(yù)測中，筆者所提出的模型也優(yōu)于其他兩種方法。

圖7 軌跡預(yù)測結(jié)果對比Fig. 7 Comparison of trajectory prediction results

圖8 航速和航向預(yù)測結(jié)果對比Fig. 8 Speed and comparison of course prediction results

4 結(jié) 語

筆者為解決在當(dāng)前復(fù)雜海洋環(huán)境中船舶行為識別準(zhǔn)確率低，過擬合現(xiàn)象明顯，軌跡預(yù)測影響因素多等問題，提出一種優(yōu)化的CNN-BiLSTM神經(jīng)網(wǎng)絡(luò)多任務(wù)學(xué)習(xí)模型進(jìn)行聯(lián)合學(xué)習(xí)，將這兩任務(wù)認(rèn)為是相關(guān)性任務(wù)。

通過對3組不同實(shí)驗(yàn)數(shù)據(jù)結(jié)果分析：這兩個任務(wù)準(zhǔn)確性都有提高，且降低了過擬合風(fēng)險，體現(xiàn)出文中方法的有效性與普適性。該方法可為船舶避碰，海上交通監(jiān)管起到有效輔助作用。同時為此類問題提供了新的研究思路，即多任務(wù)學(xué)習(xí)方法。但因數(shù)據(jù)原因，對時間間隔取樣相對較大，可根據(jù)具體情況取更小的時間間隔；且對軌跡預(yù)測也可考慮進(jìn)行多步預(yù)測，預(yù)測更長時間軌跡進(jìn)而用于航線的規(guī)劃。