俞曉天，舒志光，貝京陽，王擎宇

(國家海洋局寧波海洋環(huán)境監(jiān)測中心站，浙江寧波 315040)

隨著軟件工程、智能計(jì)算機(jī)、通訊技術(shù)及觀測儀器設(shè)備的迅猛發(fā)展，海洋觀測系統(tǒng)建設(shè)取得了很大的進(jìn)展，顯著提高了海濱觀測自動化水平。海洋觀測系統(tǒng)最重要的特征是通過網(wǎng)絡(luò)技術(shù)連接不同地理位置的智能傳感器設(shè)備，從而實(shí)現(xiàn)觀測數(shù)據(jù)實(shí)時監(jiān)測和海洋資源共享。海洋觀測設(shè)施包括水文氣象自動觀測、測波雷達(dá)、海嘯預(yù)警裝置及在線監(jiān)測浮標(biāo)等，要素涵蓋潮汐、海溫、鹽度、風(fēng)、氣壓、氣溫、相對濕度、海面有效能見度、降水量、GPS高程、pH值、溶解氧及葉綠素等[1]。由于海洋數(shù)據(jù)具有海量性、多樣性、不可重復(fù)觀測等特點(diǎn)，僅憑觀測值班員人工校對往往不能及時發(fā)現(xiàn)數(shù)據(jù)質(zhì)量問題。因此，利用計(jì)算機(jī)對實(shí)時數(shù)據(jù)流進(jìn)行自動監(jiān)控和異常報警十分重要。

近年來，圍繞海洋數(shù)據(jù)質(zhì)量監(jiān)控問題，國外開展了一系列研究。例如，Koziana等[2]基于美國浮標(biāo)系統(tǒng)，通過閾值準(zhǔn)則判斷數(shù)據(jù)質(zhì)量，實(shí)現(xiàn)觀測數(shù)據(jù)異常檢測自動化；Morello等[3]在延時模式下，從時間、空間、閾值、變化率等多個角度出發(fā)，對澳大利亞海洋觀測系統(tǒng)原始數(shù)據(jù)進(jìn)行質(zhì)量監(jiān)控；Gurgel等[4]利用最小乘法多項(xiàng)式擬合算法，對德國灣沿岸觀測系統(tǒng)的雷達(dá)電流場數(shù)據(jù)進(jìn)行質(zhì)量檢查，并在此基礎(chǔ)上合成二維電流圖；Kim等[5]通過比較樣本組間/組內(nèi)余弦相似性、曼哈頓距離、歐氏距離、余弦相似角距離等10余種指標(biāo)，分析數(shù)據(jù)一致性，進(jìn)而確定高維數(shù)組中的異常值；Mohammadi等[6]從大數(shù)據(jù)和流數(shù)據(jù)兩個角度出發(fā)，探討深度神經(jīng)網(wǎng)絡(luò)在物聯(lián)網(wǎng)中的應(yīng)用。

放眼國內(nèi)，相關(guān)研究成果也層出不窮。例如，史靜濤[7]對比極值算法、3σ檢驗(yàn)法、格拉布斯算法、Dixon算法等異常檢測算法，以散點(diǎn)圖、曲線圖的形式展現(xiàn)異常數(shù)據(jù)剔除后的效果，得到不同異常檢測算法的適用條件，并應(yīng)用于海洋觀測系統(tǒng)；溫玉波[8]從數(shù)據(jù)管理的角度研究數(shù)據(jù)質(zhì)量監(jiān)控方法，利用計(jì)算機(jī)程序?qū)τ^測數(shù)據(jù)記錄的相符性、合理性、相關(guān)性以及分布擬合性進(jìn)行檢驗(yàn)，提升質(zhì)量監(jiān)控效率；丁君生等[9]基于183個測點(diǎn)近十年的全球衛(wèi)星導(dǎo)航系統(tǒng)(GNSS)觀測數(shù)據(jù)，綜合考慮數(shù)據(jù)量、網(wǎng)格分辨率、模型穩(wěn)定性等因素進(jìn)行異常檢測，實(shí)現(xiàn)對流層天頂總延遲的精細(xì)建模。然而，縱觀國內(nèi)外相關(guān)文獻(xiàn)資料和產(chǎn)品應(yīng)用可以發(fā)現(xiàn)，諸多研究主要圍繞延時數(shù)據(jù)(月報、年報等)的異常檢測，針對海洋觀測實(shí)時數(shù)據(jù)的異常檢測問題研究較少。而立體監(jiān)測網(wǎng)建立后，巨量觀測數(shù)據(jù)已使得人工觀測校對難以實(shí)現(xiàn)[10]，應(yīng)用實(shí)時大數(shù)據(jù)質(zhì)量監(jiān)控算法，精細(xì)化海洋觀測數(shù)據(jù)質(zhì)量管理迫在眉睫。

鑒于以上討論，為了在復(fù)雜的海洋環(huán)境下進(jìn)行異常檢測，本文使用無監(jiān)督學(xué)習(xí)算法進(jìn)行異常檢測：基于層級實(shí)時記憶(Hierarchical Temporal Memory，HTM)網(wǎng)絡(luò)[11]，將復(fù)雜的非馬爾可夫環(huán)境下的觀測數(shù)據(jù)異常檢測問題轉(zhuǎn)化為模式匹配與預(yù)測，對單源傳感器數(shù)據(jù)進(jìn)行異常檢測；利用分布于不同測點(diǎn)、相同觀測要素傳感器之間的數(shù)據(jù)相關(guān)性，構(gòu)建基于多源傳感器數(shù)據(jù)的異常檢測模塊，提高算法異常檢測能力；應(yīng)用沿海岸段水文氣象觀測站點(diǎn)實(shí)測數(shù)據(jù)進(jìn)行異常檢測實(shí)驗(yàn)，通過漏報率與誤報率兩個指標(biāo)，驗(yàn)證本算法的有效性和實(shí)時性；利用貝葉斯在線變點(diǎn)檢測、相對熵、高斯滑動窗口算法進(jìn)行異常檢測實(shí)驗(yàn)，比較和分析各類算法異常檢測結(jié)果。

1 海洋觀測系統(tǒng)

數(shù)據(jù)中心接收到各測點(diǎn)傳感器采集的實(shí)時觀測值Yt后再做數(shù)據(jù)預(yù)處理，然后利用算法進(jìn)行異常檢測，將不符合觀測要素時空特征和站點(diǎn)間相關(guān)性的數(shù)據(jù)標(biāo)記為異常，海洋觀測網(wǎng)框架如圖1所示。

圖1 海洋觀測網(wǎng)框架圖Fig.1 Frame diagram of marine observation network

常見的觀測數(shù)據(jù)異常現(xiàn)象如圖2所示。其中圖2(a)的異?，F(xiàn)象表示潮位數(shù)據(jù)長時間不變，該現(xiàn)象通常由驗(yàn)潮井淤積、連通管被生物附著或泥沙堵塞引起，需要及時清理運(yùn)維；圖2(b)的異?，F(xiàn)象表示由溫度計(jì)故障引起的溫度值異常和突變。

本文考慮到海洋觀測網(wǎng)中數(shù)據(jù)的丟包和缺測現(xiàn)象，故設(shè)計(jì)符合實(shí)際應(yīng)用需求的異常檢測算法，對接收到的實(shí)時觀測數(shù)據(jù)進(jìn)行異常檢測，發(fā)現(xiàn)數(shù)據(jù)空間相關(guān)性、時間相關(guān)性、多源相關(guān)性等異常并進(jìn)行標(biāo)記，進(jìn)而定位故障傳感器。

圖2 潮位和溫度數(shù)據(jù)異常Fig.2 Abnormal of tide and temperature data

2 異常檢測算法

HTM網(wǎng)絡(luò)是模擬新大腦皮質(zhì)層神經(jīng)活動的一種新型機(jī)器學(xué)習(xí)算法，能夠處理流式時間序列。該算法的優(yōu)點(diǎn)體現(xiàn)在無須調(diào)整參數(shù)、在線學(xué)習(xí)和魯棒性強(qiáng)。在此基礎(chǔ)上，利用多源傳感器數(shù)據(jù)，基于距離相關(guān)性對離群點(diǎn)進(jìn)行檢測，進(jìn)一步減少異常值的漏報率。

2.1 數(shù)據(jù)預(yù)處理

由于網(wǎng)絡(luò)傳輸數(shù)據(jù)存在丟包[12]、時延[13]等通信約束，并且傳感器采集數(shù)據(jù)存在缺測問題，因此異常檢測之前需要對數(shù)據(jù)進(jìn)行預(yù)處理，將超時未收到實(shí)測數(shù)據(jù)的傳感器標(biāo)記為異常，并且根據(jù)《海洋觀測規(guī)范：第2部分 海濱觀測》(GB/T 14914.2-2019)[14]標(biāo)記缺測數(shù)據(jù)為異常，標(biāo)記為異常的數(shù)據(jù)不進(jìn)行后續(xù)的HTM網(wǎng)絡(luò)學(xué)習(xí)識別和距離檢測。接著，將處理好的高質(zhì)量數(shù)據(jù)輸入到HTM網(wǎng)絡(luò)模塊進(jìn)行計(jì)算分析。

2.2 單源數(shù)據(jù)異常檢測

2.2.1 HTM架構(gòu)

HTM網(wǎng)絡(luò)每一層都有大量的神經(jīng)元，通過學(xué)習(xí)不斷更新突觸連通值，建立符合觀測數(shù)據(jù)時間和空間特征的模型，HTM網(wǎng)絡(luò)架構(gòu)如圖3所示。

圖3 HTM網(wǎng)絡(luò)架構(gòu)圖Fig.3 Network architecture diagram of HTM

HTM網(wǎng)絡(luò)的主要組成部分如下。①神經(jīng)元。神經(jīng)元是負(fù)責(zé)傳輸信息的細(xì)胞，由觀測輸入激活進(jìn)入活躍狀態(tài)，由橫向輸入(其他神經(jīng)元輸入)刺激進(jìn)入預(yù)測狀態(tài)。②神經(jīng)柱。多個神經(jīng)元堆疊成一個神經(jīng)柱，同一個神經(jīng)柱的神經(jīng)元共享觀測輸入的激活信號。③前饋樹突。每個神經(jīng)元有一個前饋樹突，產(chǎn)生動作電位進(jìn)而激活神經(jīng)元進(jìn)入活躍狀態(tài)。④末端樹突。每個神經(jīng)元有多個末端樹突，刺激神經(jīng)元去極化進(jìn)入預(yù)測狀態(tài)。⑤突觸。前饋樹突和末端樹突上分布著大量突觸，前饋突觸由觀測輸入的稀疏離散表征激活，末端突觸由其他神經(jīng)元輸入激活。當(dāng)突觸連通值小于閾值時，處于非連通狀態(tài)，稱為潛在突觸。反之，當(dāng)突觸連通值大于閾值時，處于連通狀態(tài)，稱為連通突觸。

2.2.2 神經(jīng)元學(xué)習(xí)步驟

①初始化。初始化HTM網(wǎng)絡(luò)，設(shè)置神經(jīng)柱數(shù)量、神經(jīng)柱內(nèi)所含神經(jīng)元數(shù)量、樹突激活閾值、突觸連通閾值等參數(shù)，隨機(jī)初始化突觸連通值。

②計(jì)算神經(jīng)柱激活狀態(tài)。根據(jù)當(dāng)前觀測輸入得到神經(jīng)柱激活狀態(tài)，具體計(jì)算公式如下：

(1)

式(1)表示，一個神經(jīng)柱被激活，不僅要滿足由當(dāng)前輸入激活的突觸數(shù)量乘以增益bi大于閾值θa，還需滿足在當(dāng)前抑制域半徑φ內(nèi)數(shù)值排名大于k，這樣可以避免瑣碎和多余的表征，同時保證活躍神經(jīng)柱的稀疏性。

連通增益bi和活躍狀態(tài)神經(jīng)柱上的前饋突觸連通值Vi更新公式如下：

(2)

Vi=q+(Vi,j⊙At-1)-q-(Vi,j⊙(I-At-1))，

(3)

③計(jì)算神經(jīng)元激活狀態(tài)。當(dāng)神經(jīng)元處于激活神經(jīng)柱中，且在前一時刻下處于預(yù)測狀態(tài)，則激活該神經(jīng)元；或者所處激活神經(jīng)柱中所有神經(jīng)元都不處于預(yù)測狀態(tài)，則神經(jīng)柱上的所有神經(jīng)元均被激活，具體計(jì)算公式如下：

(4)

④計(jì)算神經(jīng)元預(yù)測狀態(tài)。根據(jù)當(dāng)前神經(jīng)元激活狀態(tài)及突觸活躍狀態(tài)，更新神經(jīng)元預(yù)測狀態(tài)，具體計(jì)算公式如下：

(5)

⑤更新末端突觸連通度。獲取上一時刻預(yù)測正確的神經(jīng)元，具體計(jì)算公式如下：

(6)

其中，U1表示預(yù)測成功(上一時刻t-1下處于預(yù)測狀態(tài)的神經(jīng)元在當(dāng)前時刻t下被成功激活)的神經(jīng)元。

當(dāng)輸入激活的神經(jīng)柱中不存在處于預(yù)測狀態(tài)的神經(jīng)元，則需要選擇其中一個神經(jīng)元來替代，這里選擇末端樹突上突觸活躍數(shù)目最大的神經(jīng)元：

(7)

HTM網(wǎng)絡(luò)只更新處于活躍狀態(tài)的神經(jīng)元突觸連通度，因此得到需要更新的突觸集合為

U=U1+U2。

(8)

突觸連通值更新依據(jù)赫布法則：獎勵激活神經(jīng)元突觸，抑制非激活神經(jīng)元突觸。

(9)

(10)

其中，參數(shù)p+表示對激活神經(jīng)元突觸對應(yīng)連通性的提升，參數(shù)p-表示對非激活神經(jīng)元突觸對應(yīng)連通性的抑制。另外，引入?yún)?shù)p--來模擬抑制域，且p--<

⑥異常判斷。比較HTM網(wǎng)絡(luò)預(yù)測與觀測輸入的差異程度：

(11)

其中，ft為當(dāng)前時刻t下的異常分?jǐn)?shù)，At表示當(dāng)前時刻t下的活躍神經(jīng)元，Πt-1表示在前一時刻t-1下處于預(yù)測狀態(tài)的神經(jīng)元。

(12)

其中，ε為設(shè)置的異常閾值，大小介于0和1之間。

2.3 多源數(shù)據(jù)異常檢測

由于HTM網(wǎng)絡(luò)是無監(jiān)督學(xué)習(xí)過程，可以有效檢測出未曾出現(xiàn)過的增減趨勢、變化頻率和數(shù)據(jù)點(diǎn)等異常。但當(dāng)某類異常持續(xù)時間和發(fā)生頻率趨于常態(tài)化后，HTM網(wǎng)絡(luò)將適應(yīng)異常規(guī)律，將異?，F(xiàn)象判斷為正常。為了提高算法異常檢測的準(zhǔn)確率，本文在HTM網(wǎng)絡(luò)的基礎(chǔ)上，利用不同測點(diǎn)同類觀測要素測量值之間的數(shù)據(jù)相關(guān)性進(jìn)行異常檢測，具體步驟如下。

(13)

(14)

傳感器異常的判斷方法如下：

(15)

(16)

上式表示,HTM網(wǎng)絡(luò)的異常標(biāo)簽與距離檢測的異常標(biāo)簽取并集，綜合單源數(shù)據(jù)時空異常和多元數(shù)據(jù)相關(guān)性異常，基于HTM網(wǎng)絡(luò)的多源實(shí)時數(shù)據(jù)異常檢測算法流程如圖4所示。

圖4 算法流程圖Fig.4 Flow chart of algorithm

3 實(shí)驗(yàn)與結(jié)果分析

3.1 實(shí)驗(yàn)環(huán)境

硬件環(huán)境：聯(lián)想計(jì)算機(jī)，Inter Core i7-9700處理器，8 GB內(nèi)存，1 T硬盤。軟件環(huán)境：Windows10 64位操作系統(tǒng)，Python2.7程序語言，PyCharm開發(fā)平臺，nupic算法庫。實(shí)驗(yàn)數(shù)據(jù)：沿海岸段3個海洋測點(diǎn)實(shí)測潮位及溫度數(shù)據(jù)，潮位數(shù)據(jù)由SCALL-3A浮子式水位計(jì)采集，溫度數(shù)據(jù)由HMP155溫度計(jì)采集，數(shù)據(jù)時間跨度為2個月，采集頻率均為每分鐘1個，數(shù)據(jù)概況如表1所示。

表1 數(shù)據(jù)概況

3.2 算法參數(shù)

HTM網(wǎng)絡(luò)參數(shù)：神經(jīng)柱數(shù)量為2 048個,神經(jīng)柱內(nèi)神經(jīng)元數(shù)量為32個,周期T為1 000,激活狀態(tài)閾值θa為13,抑制域半徑φ為64,抑制域內(nèi)活躍神經(jīng)柱數(shù)量約束k為40,前饋突觸連通閾值為0.2,前饋突觸連通增益q+為0.003,前饋突觸連通抑制q-為0.000 5,預(yù)測狀態(tài)閾值θp為10,末端突觸連通閾值為0.5,末端突觸連通增益p+為0.1,末端突觸連通抑制p-為0.1,異常閾值ε為0.9。

距離檢測模塊參數(shù)：測點(diǎn)1，2，3的水位計(jì)測量值與其他測點(diǎn)水位計(jì)測量值的正常距離閾值分別為Λ1,1={342,321}、Λ2，1={342,344}和Λ3，1={321,344}，測點(diǎn)3中的溫度計(jì)測量值與測點(diǎn)1、測點(diǎn)2溫度計(jì)測量值的正常距離閾值為Λ3,2={10.8,11.5}。

3.3 結(jié)果與分析

異常檢測結(jié)果評價指標(biāo)：①漏報(False Positive,FP)，實(shí)際為異常但算法檢測為正常的數(shù)量；②誤報(False Negatives,FN)，實(shí)際為正常但算法檢測為異常的數(shù)量。

本文算法與未預(yù)處理數(shù)據(jù)的HTM網(wǎng)絡(luò)(沒有清理缺測數(shù)據(jù))、HTM網(wǎng)絡(luò)(沒有進(jìn)行多源數(shù)據(jù)檢測)的異常檢測結(jié)果如表2所示。從結(jié)果可以看出，未進(jìn)行數(shù)據(jù)預(yù)處理的異常檢測結(jié)果最差，由于未清理缺測數(shù)據(jù)999.8，9 998[14]，導(dǎo)致HTM網(wǎng)絡(luò)將缺測數(shù)據(jù)附近的正常數(shù)據(jù)標(biāo)記為異常，誤報數(shù)目較大。未進(jìn)行距離檢測的異常結(jié)果由于沒有考慮多源數(shù)據(jù)距離相關(guān)性，只能檢測出單源數(shù)據(jù)異常，因此漏報數(shù)目較大。而本文算法綜合考慮了單源觀測數(shù)據(jù)時空特征及多源觀測數(shù)據(jù)的距離相關(guān)性，其中誤報多數(shù)是在HTM網(wǎng)絡(luò)識別學(xué)習(xí)初期產(chǎn)生的，后期產(chǎn)生的誤報數(shù)很少。

為驗(yàn)證本文算法的有效性，將本文算法與貝葉斯在線變點(diǎn)檢測[16]、相對熵[17]、高斯滑動窗口算法實(shí)時觀測數(shù)據(jù)異常檢測結(jié)果進(jìn)行比較，結(jié)果如表3所示。結(jié)果表明，基于HTM網(wǎng)絡(luò)的多源異常檢測算法具有較低的漏報數(shù)目，整體異常檢測效果更佳。

表2 異常檢測結(jié)果Table 2 Abnormal detection results

表3 其他算法異常檢測結(jié)果Table 3 Abnormal detection results of other algorithms

基于本文算法、未預(yù)處理數(shù)據(jù)的HTM網(wǎng)絡(luò)、HTM網(wǎng)絡(luò)、貝葉斯在線變點(diǎn)檢測、相對熵、高斯滑動窗口對異常溫度數(shù)據(jù)段的檢測結(jié)果如圖5所示。從圖中可以看出，未預(yù)處理數(shù)據(jù)的HTM網(wǎng)絡(luò)不能識別出異常點(diǎn)，而HTM網(wǎng)絡(luò)識別出1個異常點(diǎn)，貝葉斯在線變點(diǎn)檢測出1個異常點(diǎn)，相對熵檢測出1個異常點(diǎn)，高斯滑動窗口檢測出6個異常點(diǎn)，而本文算法檢測出11個(全部)異常點(diǎn)，在實(shí)際應(yīng)用中具有較高的異常檢測性能。從異常檢測的效率來看，本文算法識別一條數(shù)據(jù)的時間約為4 ms，觀測傳感器采集周期一般為1 min，能滿足海洋觀測網(wǎng)中異常檢測的實(shí)時性需求。

圖5 異常檢測結(jié)果Fig.5 Abnormal detection results

4 結(jié)論

本文聚焦海洋實(shí)時觀測數(shù)據(jù)的異常檢測問題，考慮數(shù)據(jù)缺測和丟包現(xiàn)象，應(yīng)用HTM網(wǎng)絡(luò)對觀測數(shù)據(jù)時序序列的內(nèi)在關(guān)系進(jìn)行模擬，實(shí)現(xiàn)基于單源數(shù)據(jù)的質(zhì)量監(jiān)控，同時利用不同地理位置的同類傳感器數(shù)據(jù)，進(jìn)行基于距離的多源數(shù)據(jù)異常檢測。測點(diǎn)實(shí)測數(shù)據(jù)結(jié)果表明，本文設(shè)計(jì)的算法有良好的異常檢測表現(xiàn)，并且能適應(yīng)網(wǎng)絡(luò)丟包、數(shù)據(jù)缺測等現(xiàn)象，具有較強(qiáng)的魯棒性。目前，HTM網(wǎng)絡(luò)的異常檢測對象為單變量，對于傳感器數(shù)量較多的網(wǎng)絡(luò)需要并行部署多臺計(jì)算機(jī)，以滿足異常檢測的實(shí)時性需求，如何將檢測對象轉(zhuǎn)化為多變量進(jìn)行學(xué)習(xí)識別是未來的研究方向之一。此外，結(jié)合其他數(shù)據(jù)相關(guān)性(站點(diǎn)內(nèi)傳感器數(shù)據(jù)相關(guān)性的異常檢測)是另一個重要的研究方向。