李德偉 黃高明

摘要：為加強(qiáng)部隊(duì)訓(xùn)練能力，客觀、合理評(píng)估訓(xùn)練效果，聯(lián)合訓(xùn)練需對(duì)海情、空情、水文、氣象、指揮指令以及裝備產(chǎn)生的報(bào)文、音視頻等多源異構(gòu)海量數(shù)據(jù)進(jìn)行實(shí)時(shí)處理。通過傳輸服務(wù)、協(xié)議適配和實(shí)時(shí)消息處理等模塊的構(gòu)建，實(shí)現(xiàn)多源異構(gòu)海量數(shù)據(jù)的互聯(lián)互通和實(shí)時(shí)數(shù)據(jù)接入控制，設(shè)計(jì)基于Hadoop與分布式并行存儲(chǔ)數(shù)據(jù)庫，提高海量數(shù)據(jù)的實(shí)時(shí)存儲(chǔ)和訪問效率，通過海量數(shù)據(jù)預(yù)處理、數(shù)據(jù)融合和高性能計(jì)算等設(shè)計(jì)實(shí)現(xiàn)海量數(shù)據(jù)實(shí)時(shí)性處理能力。實(shí)踐證明系統(tǒng)運(yùn)行穩(wěn)定、信息處理及時(shí)，為訓(xùn)練效果裁決評(píng)估提供了實(shí)時(shí)可靠的數(shù)據(jù)依據(jù)。

關(guān)鍵詞：云計(jì)算；作戰(zhàn)數(shù)據(jù)；框架

中圖分類號(hào)：TP391文獻(xiàn)標(biāo)志碼：A文章編號(hào)：1008-1739（2019）11-58-4

0引言

隨著訓(xùn)練任務(wù)與組訓(xùn)規(guī)模的不斷擴(kuò)大及訓(xùn)練樣式的不斷創(chuàng)新，訓(xùn)練準(zhǔn)備和實(shí)施階段不僅需要大量的海情、空情、水文和氣象等信息支持，而且需要各參訓(xùn)系統(tǒng)產(chǎn)生的大量過程數(shù)據(jù)（實(shí)裝狀態(tài)采集信息等）的支撐。但當(dāng)前數(shù)據(jù)處理系統(tǒng)存在多源異構(gòu)海量信息采集接入壓力大、存儲(chǔ)資源緊張、處理效率低下、分發(fā)邏輯復(fù)雜、信息孤島林立及數(shù)據(jù)產(chǎn)出受限等問題，在一定程度上影響了訓(xùn)練效率與效果。為強(qiáng)化部隊(duì)訓(xùn)練能力，必須建立與不同作戰(zhàn)訓(xùn)練信息系統(tǒng)之間的協(xié)同關(guān)系，引接指揮控制、情報(bào)支援、測繪導(dǎo)航、軍用授時(shí)及頻譜管控等信息，并大幅度提高數(shù)據(jù)的實(shí)時(shí)處理效率和存儲(chǔ)能力，為數(shù)據(jù)生產(chǎn)服務(wù)。

1總體架構(gòu)

多源異構(gòu)訓(xùn)練數(shù)據(jù)實(shí)時(shí)綜合處理技術(shù)架構(gòu)如圖1所示。由于當(dāng)前實(shí)戰(zhàn)化訓(xùn)練方式下，要有大量的實(shí)裝和保障設(shè)備參與訓(xùn)練，為客觀合理評(píng)價(jià)訓(xùn)練效果，要采集大量數(shù)據(jù)，并接入各類信息。從信息形式看，主要包括實(shí)時(shí)報(bào)文、音頻、視頻、數(shù)據(jù)包及辦公文件等，由于大量非結(jié)構(gòu)化數(shù)據(jù)產(chǎn)生，為提高數(shù)據(jù)快速處理，不能采用傳統(tǒng)的數(shù)據(jù)庫進(jìn)行存儲(chǔ)，而應(yīng)采用分布式大數(shù)據(jù)Hadoop與結(jié)構(gòu)化數(shù)據(jù)庫（Oracle）混合方式進(jìn)行存儲(chǔ)和提取。

1.1傳輸服務(wù)

聯(lián)合作戰(zhàn)訓(xùn)練數(shù)據(jù)的傳輸，具有跨網(wǎng)絡(luò)、有線無線并存、多協(xié)議UDP/TCP及本地多網(wǎng)卡等復(fù)雜運(yùn)行環(huán)境特點(diǎn)。實(shí)時(shí)數(shù)據(jù)傳輸服務(wù)主要選擇數(shù)據(jù)分發(fā)服務(wù)（Data Distribution Service，DDS）通信中間件，采用以數(shù)據(jù)為中心的信息交互模式，實(shí)現(xiàn)系統(tǒng)內(nèi)部數(shù)據(jù)交互以及外部多源異構(gòu)數(shù)據(jù)的匯集分發(fā)。基于DDS的數(shù)據(jù)-訂閱分發(fā)技術(shù)提供了一種高效靈活的數(shù)據(jù)交換和匯集手段，基于這種技術(shù)開發(fā)的數(shù)據(jù)訂閱分發(fā)服務(wù)可實(shí)現(xiàn)網(wǎng)絡(luò)環(huán)境下不同資源間的信息動(dòng)態(tài)交換共享，為多源異構(gòu)海量數(shù)據(jù)能實(shí)時(shí)處理、低延遲和可靠高效分發(fā)提供了前提和保障。

1.2協(xié)議適配

為解決各系統(tǒng)之間互聯(lián)互通的問題，要為各種異構(gòu)網(wǎng)絡(luò)通信提供協(xié)議適配服務(wù)，用以實(shí)現(xiàn)多源異構(gòu)訓(xùn)練數(shù)據(jù)信息地轉(zhuǎn)譯和封裝?；谟?xùn)練數(shù)據(jù)的標(biāo)準(zhǔn)規(guī)范，識(shí)別各系統(tǒng)之間傳輸?shù)臄?shù)據(jù)信息并進(jìn)行封裝，實(shí)現(xiàn)雙向適配。同時(shí)，將外部引接數(shù)據(jù)和信息接入?yún)R集的數(shù)據(jù)信息轉(zhuǎn)譯為可識(shí)別的數(shù)據(jù)來源，實(shí)現(xiàn)各系統(tǒng)之間數(shù)據(jù)信息的互聯(lián)互通，協(xié)議適配如圖2所示。

1.3實(shí)時(shí)消息處理

聯(lián)合作戰(zhàn)各訓(xùn)練業(yè)務(wù)系統(tǒng)產(chǎn)生的數(shù)據(jù)需實(shí)時(shí)、低延遲地不停流轉(zhuǎn)，整個(gè)實(shí)時(shí)數(shù)據(jù)處理系統(tǒng)一方面解決數(shù)據(jù)傳輸服務(wù)問題，另一方面需解決傳輸通信和數(shù)據(jù)處理之間實(shí)時(shí)、高效交互的問題。引入高性能跨語言分布式發(fā)布/訂閱消息隊(duì)列系統(tǒng)，作為整個(gè)系統(tǒng)高速數(shù)據(jù)總線，解決系統(tǒng)間耦合、數(shù)據(jù)安全不丟失、系統(tǒng)擴(kuò)展性、峰值處理能力、可恢復(fù)性、順序保證、緩沖及異步通信等問題。

實(shí)時(shí)消息處理通過數(shù)據(jù)發(fā)布和訂閱提供數(shù)據(jù)的高吞吐量和高并發(fā)量，并將消息持久化到磁盤，可進(jìn)行持久化操作以防止數(shù)據(jù)丟失，再采用分布式結(jié)構(gòu)，以實(shí)現(xiàn)易于數(shù)據(jù)存儲(chǔ)設(shè)備的向外擴(kuò)展。另外，消息被處理的狀態(tài)是在消費(fèi)端維護(hù)，而不是由服務(wù)端維護(hù)，這樣當(dāng)消息處理失敗時(shí)，可實(shí)現(xiàn)消息處理任務(wù)的自動(dòng)平衡。

2數(shù)據(jù)實(shí)時(shí)處理

2.1數(shù)據(jù)預(yù)處理

訓(xùn)練過程中大量的訓(xùn)練數(shù)據(jù)由系統(tǒng)平臺(tái)匯總收集，這些海量數(shù)據(jù)格式各異，形式多樣，主要包括文檔、圖片、掃描件及音頻視頻等格式，這些非結(jié)構(gòu)化數(shù)據(jù)的收集和處理存在一定的效率瓶頸，為確保訓(xùn)練數(shù)據(jù)可用性和預(yù)處理過程的高效性，系統(tǒng)引入多種技術(shù)手段對(duì)訓(xùn)練數(shù)據(jù)預(yù)處理過程進(jìn)行保障，基本流程如圖3所示。

①數(shù)據(jù)抽?。焊鶕?jù)各業(yè)務(wù)系統(tǒng)對(duì)數(shù)據(jù)的需要，將訂閱分發(fā)的數(shù)據(jù)在接入的海量數(shù)據(jù)報(bào)文中挑選、抽取出來，以備后續(xù)處理。

②數(shù)據(jù)清洗：將數(shù)據(jù)抽取的原始數(shù)據(jù)通過移除空的數(shù)據(jù)行或重復(fù)的數(shù)據(jù)行、過濾數(shù)據(jù)行、聚集或轉(zhuǎn)換數(shù)據(jù)值及分開多值單元等，以修復(fù)采集的原始數(shù)據(jù)中的錯(cuò)誤數(shù)據(jù)。

③數(shù)據(jù)轉(zhuǎn)換：主要實(shí)現(xiàn)各類數(shù)據(jù)的量綱統(tǒng)一、坐標(biāo)轉(zhuǎn)換和數(shù)據(jù)整合。量綱統(tǒng)一模塊完成相同測量參量的量綱統(tǒng)一，如輻射特性測量輸出的目標(biāo)輻射強(qiáng)度和溫度等，因此要根據(jù)參數(shù)配置模塊的要求進(jìn)行量綱統(tǒng)一。坐標(biāo)轉(zhuǎn)換是將各類測量數(shù)據(jù)統(tǒng)一到規(guī)定的坐標(biāo)系，為數(shù)據(jù)綜合處理提供基礎(chǔ)。數(shù)據(jù)整合是針對(duì)訓(xùn)練數(shù)據(jù)按統(tǒng)一規(guī)范進(jìn)行整合、歸類，為數(shù)據(jù)挖掘與分析提供支撐。

④數(shù)據(jù)加載：主要是把預(yù)處理的數(shù)據(jù)進(jìn)行相應(yīng)的入庫處理。

2.2數(shù)據(jù)融合

數(shù)據(jù)融合模塊主要是將雷達(dá)、遙測、GPS和光電等設(shè)備所測的同一目標(biāo)軌跡數(shù)據(jù)按照相關(guān)算法進(jìn)行融合，進(jìn)一步減小誤差、提高目標(biāo)軌跡精度。數(shù)據(jù)融合模塊接收各設(shè)備處理后的軌跡數(shù)據(jù)，采用SF算法融合，生成目標(biāo)融合軌跡數(shù)據(jù)，流程如圖4所示。

①優(yōu)先融合：根據(jù)各測量設(shè)備特性，在不同的空域?qū)δ繕?biāo)的定位精度不同。試驗(yàn)時(shí)根據(jù)目標(biāo)距離選擇優(yōu)先級(jí)最高的單路測量數(shù)據(jù)作為融合數(shù)據(jù)輸出，融合數(shù)據(jù)的精度與當(dāng)前空域內(nèi)優(yōu)先級(jí)最高的測量設(shè)備相同。

②簡單融合：軟件中采用的濾波算法是交互式多模型濾波（IMM濾波）算法，在每次濾波后濾波器會(huì)根據(jù)3個(gè)模型生成3個(gè)協(xié)方差矩陣，而簡單融合所使用的協(xié)方差矩陣就是將這3個(gè)矩陣進(jìn)行輸出交互后的結(jié)果。

2.3高性能計(jì)算

為了應(yīng)對(duì)數(shù)據(jù)規(guī)模增加、數(shù)據(jù)處理需求不斷增加的現(xiàn)狀，高性能計(jì)算采用了可靈活擴(kuò)展的分布式Share-Nothing架構(gòu)，可通過增加服務(wù)器來提升系統(tǒng)的計(jì)算能力。同時(shí)，系統(tǒng)提供Storm實(shí)時(shí)計(jì)算引擎，Stream流計(jì)算引擎和SQL交互式查詢引擎，可針對(duì)文件數(shù)據(jù)進(jìn)行實(shí)時(shí)在線計(jì)算，其高性能計(jì)算架構(gòu)如圖5所示。

①任務(wù)執(zhí)行模塊：任務(wù)執(zhí)行模塊稱為Worker，進(jìn)程管理模塊稱為WorkerManager，一個(gè)Worker與一個(gè)WorkerManager組成了一個(gè)進(jìn)程，一個(gè)進(jìn)程中運(yùn)行多個(gè)處理任務(wù)，每個(gè)處理任務(wù)對(duì)應(yīng)一個(gè)線程，任務(wù)執(zhí)行模塊主要負(fù)責(zé)數(shù)據(jù)處理。

②進(jìn)程管理模塊：每一個(gè)進(jìn)程都配有一個(gè)進(jìn)程管理線程，該線程負(fù)責(zé)進(jìn)程注冊(cè)、任務(wù)獲取、任務(wù)監(jiān)控，另外，如果多個(gè)分布式進(jìn)程同時(shí)運(yùn)行，將選舉出一個(gè)主進(jìn)程leader，所有其他的進(jìn)程成為子進(jìn)程follower，leader將承擔(dān)額外的工作，主要包括任務(wù)分配、子進(jìn)程follower的監(jiān)控與follower出現(xiàn)故障時(shí)做任務(wù)的負(fù)載均衡，follower監(jiān)聽leader的狀態(tài)，當(dāng)leader故障時(shí)，follower重新選舉出一個(gè)leader并做一次任務(wù)的負(fù)載均衡。

③數(shù)據(jù)配置與管理模塊：數(shù)據(jù)配置與管理模塊體現(xiàn)為開發(fā)平臺(tái)的幾個(gè)服務(wù)，用于處理模型的配置、任務(wù)配置以及任務(wù)處理流程的配置，配置好的處理模型可以動(dòng)態(tài)發(fā)布到組件中、配置好的任務(wù)可通過注冊(cè)、啟動(dòng)停止等操作在組件中實(shí)現(xiàn)相應(yīng)的操作。

④Web監(jiān)控模塊：監(jiān)控模塊提供一個(gè)UI用于監(jiān)控各進(jìn)程的分布情況、運(yùn)行狀態(tài)以及任務(wù)執(zhí)行情況，同時(shí)可以在UI界面上操作進(jìn)程的啟停及添加操作，添加操作首先在服務(wù)器集群中選擇要啟動(dòng)進(jìn)程的服務(wù)器節(jié)點(diǎn)，然后在該節(jié)點(diǎn)上添加進(jìn)程。

⑤元數(shù)據(jù)存儲(chǔ)與分布式協(xié)調(diào)通知模塊：主要用于存儲(chǔ)各個(gè)進(jìn)程的元數(shù)據(jù)、共享數(shù)據(jù)以及集群的運(yùn)行所需的其他基礎(chǔ)數(shù)據(jù)，負(fù)責(zé)進(jìn)程間的通信、RPC遠(yuǎn)程調(diào)用等。

3系統(tǒng)應(yīng)用

該系統(tǒng)建成后，已參與多次大型訓(xùn)練任務(wù)保障，在使用過程中，系統(tǒng)運(yùn)行穩(wěn)定、處理信息及時(shí)，為有效評(píng)估訓(xùn)練效果提供了可靠依據(jù)，主要應(yīng)用界面如圖6所示。

多源異構(gòu)海量訓(xùn)練數(shù)據(jù)的實(shí)時(shí)綜合處理技術(shù)應(yīng)用于訓(xùn)練基地的訓(xùn)練數(shù)據(jù)綜合處理中心，該中心面向訓(xùn)練系統(tǒng)整體，提供海量信息接入分發(fā)、信息協(xié)議適配、外部數(shù)據(jù)引接、數(shù)據(jù)集中存儲(chǔ)、數(shù)據(jù)匯聚整編、數(shù)據(jù)服務(wù)生產(chǎn)及業(yè)務(wù)綜合集成等高性能服務(wù)，基本形成基地軍事訓(xùn)練數(shù)據(jù)采集、引接、存儲(chǔ)、管理、加工、應(yīng)用和更新的完整鏈條，大大提高了訓(xùn)練效率，并為訓(xùn)練效果評(píng)估提供了及時(shí)可靠的數(shù)據(jù)支撐。

4結(jié)束語

通過對(duì)多源異構(gòu)海量數(shù)據(jù)實(shí)時(shí)處理技術(shù)的研究與應(yīng)用，為大規(guī)模聯(lián)合訓(xùn)練提供了先進(jìn)的技術(shù)保障手段和方法，不僅實(shí)現(xiàn)了海情、空情、水文、氣象、指揮指令以及裝備產(chǎn)生的報(bào)文、音視頻等數(shù)據(jù)的實(shí)時(shí)接入存儲(chǔ)與高效數(shù)據(jù)整編，而且真正實(shí)現(xiàn)了各個(gè)復(fù)雜業(yè)務(wù)系統(tǒng)之間的互聯(lián)互通以及對(duì)數(shù)據(jù)的實(shí)時(shí)需求。因此，該技術(shù)具有廣泛的應(yīng)用價(jià)值，不僅為各軍兵種開展大規(guī)模訓(xùn)練提供借鑒價(jià)值和依據(jù)，還為其他技術(shù)領(lǐng)域提供相關(guān)的參考與幫助。

參考文獻(xiàn)

[1]皮霄林.基于云計(jì)算技術(shù)的電力大數(shù)據(jù)預(yù)處理屬性簡約方法[J].科技創(chuàng)新導(dǎo)報(bào)，2017，14（12）：158-159.

[2]姜建華，洪年松，張廣云.一種多源異構(gòu)數(shù)據(jù)融合方法及其應(yīng)用研究[J].電子設(shè)計(jì)工程，2016，24（12）：33-36.

[3]賀雅琪.多源異構(gòu)數(shù)據(jù)融合關(guān)鍵技術(shù)研究及其應(yīng)用[D].成都：電子科技大學(xué)，2018.

[4]耿煥同，黃濤，薛豐昌.多源異構(gòu)海量數(shù)據(jù)實(shí)時(shí)處理平臺(tái)研究與應(yīng)用[J].計(jì)算機(jī)應(yīng)用與軟件，2014，31（1） 43-46，61.

[5]朱丹.外側(cè)數(shù)據(jù)實(shí)時(shí)處理軟件設(shè)計(jì)與實(shí)現(xiàn)[D].大連：大連理工大學(xué)，2008.

[6]程豪.基于Hadoop的交通大數(shù)據(jù)計(jì)算應(yīng)用研究[D].西安：長安大學(xué)，2014.