李海濤, 蘇美玲, 張俊虎

(青島科技大學 信息科學技術學院,山東 青島 266061)

據(jù)統(tǒng)計,到2020 年末,我國漁船總數(shù)達到56.33萬艘。在所有的漁船事故分類中,漁船碰撞產(chǎn)生的事故案件數(shù)最多、賠償款最多[1],漁船碰撞不利于海上航行安全;隨著遠洋捕撈的發(fā)展,船只遠離海岸,監(jiān)管部門對漁船的監(jiān)控會有所不足,一些越界捕撈的問題不能及時發(fā)現(xiàn),不利于海洋漁業(yè)資源的可持續(xù)發(fā)展;海上航道管制會劃分一些禁區(qū)以及危險區(qū),漁船航行可能不小心駛入這些區(qū)域,造成危險。提高漁船軌跡的預測精度,可以同時預測多個船只在某個時間的位置關系,判斷是否會發(fā)生碰撞,減少漁船碰撞事故;可以監(jiān)控漁船的可能的越界捕撈行為,提高監(jiān)管效率,預防越界捕撈的發(fā)生;可提前預測漁船是否要駛入禁區(qū)或危險區(qū),提前預警,減少人員傷亡,保護財產(chǎn)安全。近年來隨著自動識別系統(tǒng)(automatic identification system,AIS)的發(fā)展,在漁船航跡方面積累了大量的數(shù)據(jù),這些數(shù)據(jù)對分析漁船軌跡提供了極大的便利。對于船舶軌跡預測的研究大致分為兩個階段:第一階段是基于特定的運動學方程和傳統(tǒng)的機器學習算法進行預測;第二階段是基于神經(jīng)網(wǎng)絡以及深度學習算法進行船舶軌跡預測。

在第一階段,文獻[2]使用灰色預測模型來處理船舶航跡中不確定參數(shù),對其進行粗略估計。文獻[3]提出了一種基于灰色預測的方法構建船舶航行軌跡自動預測模型,并在此基礎上加入了緩沖算子進行改進,提高預測精度。文獻[4]使用了基于支持向量機的預測模型,模型的內部參數(shù)優(yōu)化使用了差分進化算法。文獻[5]使用三階馬爾科夫鏈對漁船某個時刻的位置進行空間區(qū)域的預測。文獻[6]提出一種結合Transformer 模型和卡爾曼濾波的航跡預測方法。文獻[7]建立了基于高斯過程回歸(Gaussian process regression,GPR)和基于核嶺回歸(kernel ridge regression,KRR)的船舶自適應軌跡預測模型。文獻[8]利用Stacking的加權集成思想,集成了XGBoost、Light GBM、LSTM 的方法,構建了航跡預測模型。在此階段中,由于船舶航行過程中受海洋環(huán)境影響,而海洋環(huán)境因素是非線性因素,無法使用線性方程表示,基于運動學方程的方法無法完全表示其運動規(guī)律,可能會導致軌跡預測準確率下降。

在第二階段,文獻[9]優(yōu)化了普通循環(huán)神經(jīng)網(wǎng)絡,提出基于門控循環(huán)單元的循環(huán)神經(jīng)網(wǎng)絡船舶軌跡預測算法,該算法以經(jīng)緯度作為輸入,以經(jīng)緯度作為輸出,經(jīng)過實驗證明了該模型的實用性。文獻[10]采用BP神經(jīng)網(wǎng)絡來預測船舶的軌跡,以經(jīng)度、緯度、速度、真航角和對地航向作為輸入,以經(jīng)緯度作為輸出,經(jīng)過實驗證明,BP 神經(jīng)網(wǎng)絡經(jīng)由遺傳和粒子群混合算法優(yōu)化后,預測效果最好。文獻[11]在LSTM 基礎上加入循環(huán)神經(jīng)網(wǎng)絡模型構建RNN-LSTM 模型,使用循環(huán)神經(jīng)網(wǎng)絡學習短期規(guī)律,使用LSTM 學習長期規(guī)律,預測船舶的軌跡信息。文獻[12]在LSTM 的基礎上結合小波變換,對數(shù)據(jù)進行平滑處理,并提出了WA-LSTM 航跡預測模型來提高預測航跡精度。文獻[13]主要使用3次樣條插值對AIS原始數(shù)據(jù)進行處理。文獻[14]構建了卷積神經(jīng)網(wǎng)絡和雙向長短期記憶網(wǎng)絡混合的軌跡預測模型,該模型選擇經(jīng)緯度、速度、真航角和對地航向5個船舶航行時的特征作為輸入,以經(jīng)緯度作為輸出值,來預測船舶的位置信息。文獻[15]在LSTM 基礎上加入了卷積神經(jīng)網(wǎng)絡構造CNNLSTM 模型,以經(jīng)緯度、船速、航向以及舵角作為輸入來進行短期航跡預測。文獻[16]通過多層LSTM 網(wǎng)絡以經(jīng)度、緯度、航速和航向作為輸入,對船舶軌跡進行研究,并取得了良好的效果。此階段建立的模型都僅將經(jīng)緯度、航向和航速作為模型的輸入?yún)?shù),并未考慮船體自身的影響,會影響準確率的提升。

由于傳統(tǒng)的機器學習方法以及BP網(wǎng)絡不適合對于軌跡時間序列的研究,本研究提出了基于LSTM 網(wǎng)絡對漁船軌跡預測方法。同時在模型數(shù)據(jù)輸入方面,不僅考慮了時間、經(jīng)緯度、航向、航速等影響因素,還綜合考慮了漁船自身因素如漁船的長度、寬度、吃水深度等對漁船軌跡預測的影響。在網(wǎng)絡搭建方面,本研究在LSTM 的基礎上,引入注意力機制,提出了注意力機制和LSTM 結合的漁船軌跡預測模型(AM-LSTM)。

1 AM-LSTM 模型介紹

1.1 注意力機制

注意力機制[17]用來模仿人腦對環(huán)境的感知,人腦在關注事物時,往往會從中選擇出需要重點關注的部分而自然地忽略其他內容。而在漁船軌跡的預測方面,數(shù)據(jù)的輸入包括某一時間的緯度、經(jīng)度、航速、航向、真航向角、漁船狀態(tài)、漁船長度、漁船寬度、吃水深度和時間間隔,數(shù)據(jù)影響因素較多,但是影響因子不同,通過注意力機制的模型,可以將所有的因素加入不同的權重,以此來影響未來某個時間的經(jīng)緯度位置,提高預測的精度。注意力機制的結構如圖1所示,含m個特征的特征向量x={x1,x2,x3,…,xm},采用單層全連接神經(jīng)網(wǎng)絡計算得到權重向量α={α1,α2,α3,…,αm}:

圖1 注意力機制作用圖Fig.1 Action diagram of attention mechanism

其中,Wα為訓練后的權重矩陣,bα為偏置向量,σ為sigmoid激活函數(shù),函數(shù)公式如式(2)所示。

注意力機制在過程中會形成與輸入數(shù)據(jù)維度相同的權重參數(shù)矩陣W和偏置向量b,通過全連接網(wǎng)絡生成權重參數(shù),注意力機制會將所獲得的權重參數(shù)與輸入數(shù)據(jù)相乘,即可獲得按重要程度劃分的新的輸入數(shù)據(jù)。

1.2 LSTM 神經(jīng)網(wǎng)絡

LSTM 是經(jīng)由循環(huán)神經(jīng)網(wǎng)絡(recurrent neural network)演變而來,循環(huán)神經(jīng)網(wǎng)絡相較于其他神經(jīng)網(wǎng)絡的優(yōu)勢是可以將上一時刻的信息,傳遞到當前時刻來使用。RNN 的結構如圖2、3所示。

圖2 RNN結構Fig.2 RNN structure

圖3 RNN單元結構Fig.3 RNN cell structure

圖2 中,xt表示第t時刻的數(shù)據(jù)輸入,A代表RNN 網(wǎng)絡,ht代表t時刻的輸出,將t時刻的數(shù)據(jù)經(jīng)過處理傳到t+1時刻,形成鏈式的網(wǎng)絡結構。但是,由于RNN 的處理層通常為單tanh 層,在長時預測中,可能會導致梯度消失或梯度爆炸。

LSTM 網(wǎng)絡對RNN 的單元結構進行升級,主要解決了梯度消失或爆炸的問題。RNN 網(wǎng)絡的處理層比較簡單,而LSTM 的單元結構在其單元結構中加入了遺忘門ft,輸入門it和輸出門ot,LSTM的單元結構如圖4所示。

圖4 LSTM 單元結構Fig.4 LSTM cell structure

其中,

經(jīng)過遺忘門、輸入門和輸出門3個步驟的處理后,最終輸出利用好時間序列信息之間的關聯(lián)性。更適合于漁船軌跡的預測問題。

1.3 AM-LSTM 模型結構

本研究將注意力機制與LSTM 進行結合,形成AM-LSTM 的神經(jīng)網(wǎng)絡結構模型。模型結構如圖5所示。

圖5 AM-LSTM 網(wǎng)絡結構Fig.5 AM-LSTM network structure

模型主要包含輸入層、注意力機制層、LSTM層、池化層、LSTM 層和全連接層。由于添加了漁船自身屬性的特征,導致屬性增多,運算量過大,注意力機制層可標記不同特征的重要程度,增加預測準確率并減少計算量;LSTM 層可對序列數(shù)據(jù)進行訓練,獲取不同時間數(shù)據(jù)之間的關系;池化層用于壓縮數(shù)據(jù),減少過擬合的發(fā)生;第二層LSTM 用于訓練壓縮后不同時間數(shù)據(jù)之間的關系;全連接層用于輸出預測的經(jīng)緯度數(shù)據(jù)。

模型的具體流程:首先利用注意力機制將輸入的原始漁船序列數(shù)據(jù)重新進行權重分配,用漁船數(shù)據(jù)和權重系數(shù)相乘,獲得新的數(shù)據(jù)輸入到LSTM 層,在LSTM 中學習;隨后搭建LSTM 層,從加權特征序列中獲得隱藏的時序關聯(lián)信息,得到信息的隱藏層數(shù)據(jù);將獲得的隱藏層數(shù)據(jù)傳入池化層,利用池化層進行降維、減少計算量;經(jīng)過池化后的數(shù)據(jù)再進入第二層LSTM 層,最后將含全局隱藏信息的h″送入到全連接層,通過全連接層,得到預測的經(jīng)度和緯度數(shù)據(jù)。

2 實驗數(shù)據(jù)

2.1 數(shù)據(jù)介紹

本研究使用MarineCadastre.gov提供的漁船AIS數(shù)據(jù)。使用2020年11月和12月的數(shù)據(jù)用來訓練和預測。原數(shù)據(jù)中包含MMSI號、時間、緯度、經(jīng)度、航速、航向、真航向角、船名、IMO 號、呼號、船舶類型、航行狀態(tài)、船體長度、船體寬度、吃水深度等。AIS數(shù)據(jù)字典如表1所示。

表1 AIS數(shù)據(jù)字典Table 1 AIS data dictionary

本實驗使用經(jīng)緯度40°N～50°N,120°W ～140°W 范圍內的漁船船只進行實驗,經(jīng)過篩選后,共選擇出172 125條數(shù)據(jù),將80%的數(shù)據(jù)用于訓練,20%的數(shù)據(jù)用于測試。

2.2 數(shù)據(jù)預處理

2.2.1 時間處理

大部分船舶軌跡的處理中,都采用插值的方法,將數(shù)據(jù)處理成時間間隔相等的序列,然后進行數(shù)據(jù)的訓練和測試。但是在這種情況下所插入的數(shù)據(jù)并不是真實數(shù)據(jù),可能造成一定的誤差。本文采用加入一列時間間隔的屬性,用下一個時刻和當前時刻之間的時間差作為當前時刻的時間間隔,這樣的數(shù)據(jù)是真實數(shù)據(jù),不會造成數(shù)據(jù)的誤差。也可在實際應用中,設置時間間隔,以此來設置預測多久以后漁船所在的位置。

2.2.2 數(shù)據(jù)歸一化

數(shù)據(jù)歸一化處理,是將原始數(shù)據(jù)按一定的公式,將數(shù)據(jù)歸于[0,1]之間,歸一化[18]的公式為

其中,X為歸一化后的數(shù)據(jù)值,x為原始數(shù)據(jù)值,xmin表示同屬性最小數(shù)據(jù)值,xmax表示同屬性最大數(shù)據(jù)值,經(jīng)過公式的歸一化處理,所有數(shù)據(jù)歸于[0,1]之間,且不改變數(shù)據(jù)之間的權重比例,適合于漁船軌跡預測。

2.2.3 數(shù)據(jù)輸入

將漁船的緯度(lat)、經(jīng)度(lon)、航速(sog)、航向(cog)、真航向角(angle)、運動狀態(tài)(status)、漁船長度(length)、漁船寬度(width)、吃水深度(draft)和時間間隔(timeGap)作為輸入,則在第t時刻的軌跡特征Y(t)為

訓練數(shù)據(jù)將5個歷史時刻的軌跡作為一個序列輸入,第6個時刻的緯度和經(jīng)度數(shù)據(jù)作為標簽。每個軌跡之間的時差不超過1 800 s。漁船航跡預測模型的表達式為

3 結果與分析

3.1 實驗評估

本實驗使用均方誤差(mean square error,MSE)來評估預測結果的好壞程度。使用不同的模型進行預測,輸出的MSE 數(shù)值也會有所不同,MSE越小,代表實驗效果越好。

其中,m是預測數(shù)據(jù)的總個數(shù),y是真實數(shù)據(jù)的值，是預測數(shù)據(jù)的值。

3.2 實驗結果對比

3.2.1 AM-LSTM 與LSTM 對比結果

使用AM-LSTM 與LSTM,在經(jīng)度、緯度和經(jīng)緯度總體3個維度上進行實驗對比,本實驗所使用的模型AM-LSTM,預測的準確度明顯優(yōu)于其他兩個模型。使用真實數(shù)據(jù)與預測數(shù)據(jù)的差來展示預測的結果。

圖6和圖7中橫坐標代表第t個時刻,縱坐標代表真實值與預測值之間的差值。

圖6 緯度誤差對比圖Fig.6 Error comparison in latitude

圖7 經(jīng)度誤差對比圖Fig.7 Error comparison in longitude

兩種模型在緯度上的預測結果差值如圖6 所示。由圖6可知,AM-LSTM 所得到的預測結果的誤差,明顯低于LSTM 神經(jīng)網(wǎng)絡模型,AM-LSTM對緯度的預測精度更高。

兩種模型在經(jīng)度上的預測結果差值如圖7 所示。由圖7可知,雖然實驗組在序列60～80之間略高于兩種神經(jīng)網(wǎng)絡模型,但是大部分序列中仍是AM-LSTM 的精確度更高,從總體計算來說,是AM-LSTM 的預測數(shù)據(jù)誤差更小。

表2展示了兩種模型分別對緯度、經(jīng)度和總體的預測值的均方誤差MSE?？梢悦黠@看出使用AM-LSTM,分別對緯度和經(jīng)度進行預測的模型準確度最高,效果最好。

表2 兩種模型的MSE對比Table 2 MSE comparison between two models

從圖6、圖7和表2的結果可以看出加入注意力機制的AM-LSTM 的效果明顯好于LSTM,證明了加入注意力機制的必要性。

3.2.2 消融實驗

漁船自身屬性是指漁船長度、寬度以及漁船的吃水深度。本實驗與未加入漁船自身屬性的特征以及是否使用時間間隔進行對比實驗,通過實驗結果如表3所示,從實驗數(shù)據(jù)看,加入漁船長度、寬度、漁船的吃水深度和使用時間間隔的模型準確率無論是緯度、經(jīng)度還是總體的精確度均高于其他屬性模型的預測準確率。

表3 消融實驗MSE對比Table 3 Comparison of MSE in ablation experiment

3.2.3 不同模型之間對比結果

在處理后的AIS數(shù)據(jù)集上針對算法的性能提出AM-LSTM 模型與CNN-LSTM、RNN-LSTM、LSTM 和BP方法進行了實驗對比,使用總體損失值作為對比標準,見表4。

表4 AIS數(shù)據(jù)集各模型損失對比Table 4 Comparison of loss of each model in AIS data set

由表4中可以看出,使用5種不同的模型對相同數(shù)據(jù)集上進行實驗,測試的損失率有所不同。在測試集損失率上,本研究所提出的AM-LSTM 模型的實驗結果分別比CNN-LSTM、RNN-LSTM、LSTM 和BP 的實驗結果降低了40.1%,30.4%,65.5%,75.2%。因此本研究所提出漁船軌跡預測模型AM-LSTM 的性能均好于其他兩種模型。

4 結 語

本研究通過將注意力機制和LSTM 相結合,對漁船的軌跡進行預測研究。利用AM-LSTM 對大西洋區(qū)域內的AIS 漁船數(shù)據(jù)進行訓練、預測和分析,在神經(jīng)網(wǎng)絡的輸入中添加了漁船的自身屬性特征,并使用注意力機制對網(wǎng)絡的輸入特征進行權重比例的疊加。實驗研究顯示,AM-LSTM 神經(jīng)網(wǎng)絡模型的預測結果優(yōu)于其他預測模型;加入漁船自身特征的模型軌跡的預測結果比未加入漁船自身特征的誤差小,效果好。在維護航海安全以及保護海洋漁業(yè)資源可持續(xù)發(fā)展工作中,使用AM-LSTM 神經(jīng)網(wǎng)絡模型,能夠更好預防海上漁船碰撞事故的發(fā)生,同時更好的對漁船進行監(jiān)控,對海洋資源的保護有很大作用。