羅紅梅 陳玉貴 李浩 黃澤群
摘 要:為了貫徹落實習近平總書記提出的防災減災救災新理念,有效提升水旱災害防御能力,建設湖南省水旱災害防御氣象服務平臺。該平臺基于湖南省氣象局“天擎”大數(shù)據(jù)中心,充分整合“氣象+水利+水文”數(shù)據(jù),采用JAVA、Python、HTML+CSS等跨平臺開發(fā)語言,B/S、SOA、“云+端”架構,虛谷、StarRocks 2.0數(shù)據(jù)庫研發(fā),針對湖南省、市、縣水利部門、中小型水庫和電站的本地化業(yè)務需求,提供基于位置的流域和集雨區(qū)的面雨量預報、氣象預報預警、來水預報、水位預報、入庫流量預報和精準靶向預警信息發(fā)布等綜合服務,有效提升湖南省防洪調度、安全度汛、發(fā)電增效提供技術保障和數(shù)據(jù)支撐。
關鍵詞:水旱災害 數(shù)據(jù)源 多源數(shù)據(jù)整合 信息共享
中圖分類號:F127文獻標識碼:A
文章編號:1004-4914(2023)09-127-03
引言
據(jù)統(tǒng)計湖南省已建成并運行的水庫共13737座,約占全國水庫總數(shù)的1/7,居全國首位。湖南省是氣象災害頻發(fā)重發(fā)的省份之一[1],每年因暴雨、干旱、臺風影響等造成的經(jīng)濟損失達到上千萬。過去雖然建設了很多氣象服務平臺[2-5],但其功能相對分散,操作較為復雜,效率較低,容易出現(xiàn)數(shù)據(jù)丟失或異常情況[6]。近年來,隨著互聯(lián)網(wǎng)、大數(shù)據(jù)、智能化等新技術的不斷發(fā)展,不斷推動各行業(yè)科技產業(yè)的進步,如今,伴隨氣象事業(yè)的發(fā)展,多源、高密度、精細化的氣象觀測數(shù)據(jù)及和產品對數(shù)據(jù)收集、分析、處理、記錄和共享等提出了新的要求[7-10],在湖南省,各種業(yè)務系統(tǒng)小分散、大體量的現(xiàn)象比較突出,需要一個統(tǒng)一的平臺進行集約化整合,用戶進行業(yè)務預報、預警、決策需要一個統(tǒng)一的數(shù)據(jù)環(huán)境來提供數(shù)據(jù)支持和服務[11-13]。為切實提升湖南省水旱災害防御、防汛抗旱、水庫安全度汛等工作效能,充分發(fā)揮水利與氣象部門優(yōu)勢,貫徹落實湖南省氣象局和湖南省水利廳共同簽署的戰(zhàn)略合作協(xié)議內容,建設了湖南省水旱災害防御氣象服務平臺。該平臺充分融合“氣象+水文+水利”部門數(shù)據(jù),無縫對接湖南省氣象業(yè)務系統(tǒng)、天擎大數(shù)據(jù)中心、突發(fā)事件應急精準靶向發(fā)布系統(tǒng),為湖南省市縣水利部門、中小型水庫和電站提供基于位置的水文氣象監(jiān)測預報預警服務。本文重點闡述該系統(tǒng)的架構設計、功能設計、性能設計、安全性設計及實現(xiàn)的關鍵技術和應用效果。
一、系統(tǒng)設計與實現(xiàn)
(一)系統(tǒng)設計
在統(tǒng)一的數(shù)據(jù)環(huán)境下,該平臺構建了湖南省氣象部門數(shù)據(jù)和產品信息的共享體系,主要提供流域和集水區(qū)的定位降雨預報,針對湖南省水利部門、中小型水庫和電站的本地業(yè)務需求, 同時提供準確的天氣預報預警、來水預報、水位預報、來水流量預報等服務,為湖南省防汛調度、安全度汛、提高發(fā)電效率提供技術支撐和數(shù)據(jù)支持。
(二)架構設計
平臺選用“云+端”技術架構[8],采取“云端部署、終端服務”的模式建設,云端統(tǒng)一部署在湖南省氣象局“天擎”大數(shù)據(jù)中心,終端為服務對象,按照數(shù)據(jù)采集處理、數(shù)據(jù)建模分析、模型計算分析、產品制作加工、產品服務應用為流程,以集約化、可擴展為原則搭建;新建應用服務與現(xiàn)有業(yè)務平臺融合集成、標準化設計與開發(fā),服務產品統(tǒng)一存儲在云平臺數(shù)據(jù)庫中,提供標準化接口和統(tǒng)一出口[9],該系統(tǒng)主要包括:平臺客戶端、API服務、業(yè)務層、運行支持層、數(shù)據(jù)層、數(shù)據(jù)庫和運行環(huán)境。(1)平臺的客戶端主要包含湖南省、市、縣水利部門和氣象局、中小型水庫和電站用戶。其中氣象局用戶主要是服務產品的發(fā)布、訂正與系統(tǒng)初始化配置與運行維護,其他用戶為服務對象,主要通過WEB網(wǎng)頁的形式進行訪問。(2)業(yè)務層提供系統(tǒng)訪問的API服務,包含資源查詢、降水數(shù)據(jù)管理、數(shù)據(jù)庫管理、項目信息管理、用戶及權限管理等。(3)運行支持層主要是系統(tǒng)依托于氣象內網(wǎng),提供HTTP方式訪問。(4)服務應用層實現(xiàn)業(yè)務流程與服務,包含面雨量、流量、來水量、氣象數(shù)據(jù)、站點數(shù)據(jù)、報文產品、報警設置、風云衛(wèi)星切片、格點數(shù)據(jù)轉換、雷達數(shù)據(jù)轉換等實現(xiàn)。(5)數(shù)據(jù)層屬于平臺的底層,包含數(shù)據(jù)庫數(shù)據(jù)、系統(tǒng)緩存數(shù)據(jù)、系統(tǒng)靜態(tài)資源文件等。其主要用于空間數(shù)據(jù)的存儲、備份及數(shù)據(jù)的安全,為整個服務平臺提供數(shù)據(jù)保障。(6)為了對運維數(shù)據(jù)和預報產品進行高效、準確、統(tǒng)一化管理,同時也為了提高其訪問速度,該平臺包括2個數(shù)據(jù)庫。一個是云平臺的虛谷數(shù)據(jù)庫,另一個是Doris數(shù)據(jù)庫。虛谷數(shù)據(jù)庫具有支持跨平臺、支持多字符集、權限隔離的安全機制、身份驗證、自主訪問控制、基于標記的強制訪問控制、數(shù)據(jù)庫審計、存儲加密等特點,是一款高性能、高安全、高可靠的數(shù)據(jù)庫;Doris數(shù)據(jù)庫,它具有在線表結構變更、兩層分區(qū)、列式存儲,高壓縮比,多種索引、高基數(shù)精準去重等特性,可快速訪問和加速查詢。(7)運行環(huán)境:系統(tǒng)運行于虛擬機中,部署1臺虛擬機,包含服務站點、模型算法服務等。
(三)功能設計
根據(jù)業(yè)務需求及服務流程,對數(shù)據(jù)進行統(tǒng)一的整合。該平臺主要功能有:信息收集與處理、數(shù)據(jù)存儲與管理、信息共享服務和模型算法服務,建立了包含實況監(jiān)測、綜合預報、預警提醒、圖文產品、專屬服務、智能分析和三維GIS七大功能模塊。(1)實況監(jiān)測主要是通過接入流域內國家氣象站、區(qū)域氣象站的降水實況數(shù)據(jù),對不同時間不同氣象站的面雨量數(shù)據(jù)進行查詢、篩選、統(tǒng)計,基于站點值插值繪制色斑圖在地圖上展示。(2)綜合預報主要是提供市內水庫集雨區(qū)的降水預報、來水預報,提供降水累計預報和降水分段預報,并將預報數(shù)據(jù)與GIS結合,通過色斑圖及格點值在地圖上顯示。(3)預警提醒主要是提供突發(fā)預警信號展示和提醒,對關注的水庫水位情況進行超閾值報警。(4)圖文產品主要是發(fā)布多種氣象要素圖文產品,針對賬號所屬地區(qū)提供省、市、縣三級針對性氣象服務報文產品。(5)專屬服務主要是提供按區(qū)域范圍、按特定人員兩種方式發(fā)布重要信息的功能,用于對特定災害的提醒以及重要通知的傳達。(6)智能分析主要是提供歷史預報信息和歷史實況信息的統(tǒng)計展示,與同期數(shù)據(jù)進行對比,為當?shù)亟邓闆r進行輔助研判。(7)三維GIS主要是通過區(qū)域內DEM高程數(shù)據(jù),對地形進行渲染,通過三維地圖效果直觀展示區(qū)域范圍地形情況、設施分布、降水分布等信息,提供模擬巡航飛行功能。
(四)系統(tǒng)性能設計
系統(tǒng)性能設計是系統(tǒng)設計過程中的一個必要環(huán)節(jié),它在系統(tǒng)架構設計中也非常重要。系統(tǒng)通過轉換機構把輸入的物流和信息流轉變?yōu)檩敵龅奈锪骱托畔⒘鞯母鞣N參數(shù)值,主要包括響應時間設計、系統(tǒng)并發(fā)數(shù)設計、穩(wěn)定性與可靠性、可擴展性和可維護性設計、實用性與簡便性設計及自動運行模式設計。(1)響應時間:系統(tǒng)投入運行后,保持7×24小時穩(wěn)定運行;用戶的操作響應需要得到保證,一般操作響應小于1秒;復雜查詢響應小于3秒,特殊操作可適當延長。(2)系統(tǒng)并發(fā)數(shù):系統(tǒng)支持并發(fā)用戶數(shù)不小于190個。(3)穩(wěn)定性與可靠性:無論是硬件系統(tǒng)還是軟件系統(tǒng)都必須具有一定的可靠性,因此發(fā)布平臺的計算機設備應選用中高檔次的服務器來滿足要求。(4)可擴展性與可維護性:系統(tǒng)應具有較好的可擴展性,為應用系統(tǒng)的進一步擴充和升級提供方便。系統(tǒng)一旦投入運行就不能間斷,除了要求收發(fā)軟件本身具有良好的維護性外,還應當擁有在離線維護環(huán)境,不影響正常業(yè)務的情況下進行軟件維護。(5)實用性與簡便性:系統(tǒng)需要多部門共同使用,在充分考慮系統(tǒng)實用性的同時,要注重信息發(fā)布的效率,滿足不同用戶可以簡單快速的完成信息處理與發(fā)布工作,系統(tǒng)采用預置固定模板、設置固定參數(shù)等方式提升發(fā)布效率。(6)自動運行模式:軟件為不間斷自動運行模式,即除有必要的少量配置文件需要修改外,日常的業(yè)務均由系統(tǒng)按照參數(shù)配置自動運行,勿需人工干預。維護人員僅在系統(tǒng)報警提示的情況下,進行非正常情況的人工干預或故障維修。所有的故障狀態(tài)和信息系統(tǒng)都將自動記錄和存儲,便于事后的故障對策和分析之用。
(五)系統(tǒng)安全設計
本系統(tǒng)作為7×24連續(xù)運行的大型數(shù)據(jù)庫系統(tǒng),安全管理具有極其重要的意義。本系統(tǒng)數(shù)據(jù)庫安全設計原則是基于最小特權的原則,此原則授予用戶具有完成其任務的所必須的最小的特權,而不應具有更多的特權。數(shù)據(jù)庫安全性分為如下幾個層次:安全規(guī)章制度、物理安全性、操作系統(tǒng)安全性、數(shù)據(jù)庫系統(tǒng)安全性、數(shù)據(jù)安全性。系統(tǒng)使用防火墻和入侵檢測來防止攻擊。同時,從應用層面登錄系統(tǒng)數(shù)據(jù)庫時,需要通過手機驗證碼進行驗證,以防止隱私的泄露。平臺系統(tǒng)不僅對每次觀察到的數(shù)據(jù)進行記錄、處理和存儲,對其進行加密,而且對刪除或誤刪除的數(shù)據(jù)進行一定天數(shù)的恢復,以保證數(shù)據(jù)安全。
二、關鍵技術
(一)數(shù)據(jù)源獲取
該服務平臺采用的氣象資料和水文水利數(shù)據(jù)來源于湖南省氣象局“天擎”大數(shù)據(jù)中心,平臺采用“云+端”業(yè)務模式,以“天擎”大數(shù)據(jù)中心為云,并且由“端”實現(xiàn)與用戶交互的功能,包括后端管理(系統(tǒng)數(shù)據(jù)管理、系統(tǒng)產品管理、系統(tǒng)業(yè)務監(jiān)控管理)和前端應用(系統(tǒng)網(wǎng)頁服務應用)。通過用戶操作,對“云”發(fā)送請求,后續(xù)操作由“云”完成(如數(shù)據(jù)存儲、產品加工、業(yè)務應用等),并將數(shù)據(jù)返回給“端”,兩者由湖南省氣象局“天擎”大數(shù)據(jù)云平臺標準接口連接。
(二)多源數(shù)據(jù)整合
該系統(tǒng)需整合氣象數(shù)據(jù)、預警信息、水文信息等多源數(shù)據(jù)資料[13],其中氣象預報資料主要來源于湖南省氣象局“天擎”大數(shù)據(jù)云平臺;突發(fā)事件預警信息主要來源于湖南省級突發(fā)預警信息發(fā)布業(yè)務平臺[12],采用標準接口獲取和處理;水文和水利數(shù)據(jù)主要來源于湖南省氣象局與湖南省水利廳通過協(xié)議搭建的共享數(shù)據(jù)庫[14]。所有的信息均是基于用戶位置,獲取精準的服務信息。系統(tǒng)對原始數(shù)據(jù)篩選和處理,從而減少其運行過程中的數(shù)據(jù)處理量?;跀?shù)據(jù)的共享與同步,系統(tǒng)根據(jù)用戶的位置實時整合不同地區(qū)的數(shù)據(jù)以進行分析和展示。隨著數(shù)據(jù)量的增多且用戶每天都要進行數(shù)據(jù)的讀取、處理,將數(shù)據(jù)從分布在各地的數(shù)據(jù)庫取出然后在云端進行計算和存儲,可以有效的節(jié)約計算資源和提高計算效率。
(三)數(shù)據(jù)存儲與管理
數(shù)據(jù)以文件和數(shù)據(jù)庫相結合的方式協(xié)作存取和管理,采用虛谷、StarRocks 2.0數(shù)據(jù)庫,提升系統(tǒng)訪問速度,系統(tǒng)服務采用標準化設計,方便迭代升級。根據(jù)應用服務中對象關系不同的特點,采用不同的存取方式。系統(tǒng)數(shù)據(jù)庫基礎對象關系搭建的關鍵是如何有效聯(lián)結用戶、流域、水庫等對象,數(shù)據(jù)庫基礎信息主要涉及用戶、流域、行政區(qū)、水庫、水文站、集雨區(qū)等,其中:流域與用戶之間為一多對應、行政區(qū)和用戶之間為一多對應、用戶和水庫之間為多多對應、水庫和水文站之間為一一對應、水庫和集雨區(qū)之間為一多對應關系。本平臺通過對不同對象建立基礎信息表和關聯(lián)表等方式,建立對象間聯(lián)系。采用科學有效的管理模式為用戶提供統(tǒng)一、全方位的數(shù)據(jù)檢索和服務。具有導入歷史數(shù)據(jù)、更新、添加、備份、恢復、和清理等功能,并能監(jiān)控數(shù)據(jù)存取和資源使用。基礎信息管理涉及的對象關系如圖2所示。
(四)信息共享服務
信息共享服務采用web網(wǎng)站、共享文件目錄等方式管理數(shù)據(jù)、監(jiān)測、預測和預警等服務。在平臺運行中,許多用戶同時訪問時不僅需要快速處理大批數(shù)據(jù),響應及時也是必不可少,這與網(wǎng)絡協(xié)議、帶寬和訪問量等密切相關。因此需要高效的網(wǎng)絡技術來保證響應速度可以滿足大量并發(fā)訪問的要求。該系統(tǒng)部署于湖南省氣象局內網(wǎng)服務器上,通過防火墻NAT技術[13]轉換策略進行地址轉化,映射提供外網(wǎng)可訪問地址,通過WEB網(wǎng)址訪問方式,使用戶能夠快捷的查詢、訪問,以及數(shù)據(jù)分析等共享服務。
(五)頁面刷新和數(shù)據(jù)交互技術
網(wǎng)絡GIS技術基于B/S架構實現(xiàn)數(shù)據(jù)的檢索和分析,通過Internet提供地理信息發(fā)布、共享和交流協(xié)作,可實現(xiàn)空間數(shù)據(jù)的檢索、查詢、制圖、編輯等功能。為滿足用戶對本平臺數(shù)據(jù)較高實時性的要求,本平臺在頁面刷新和數(shù)據(jù)交互技術上使用Web[14]最新標準Fetch代替?zhèn)鹘y(tǒng)的ajax,XMLHttpRequest是一個設計粗糙的API,不符合關注分離(Separation of Concerns)的原則,配置和調用方式非常混亂,基于事件的異步模型也沒有現(xiàn)代的Promise,generator/yield,async/await友好。fetch和XMLHttpRequest相比,主要有以下優(yōu)點:語法簡潔,更加語義化,基于標準Promise實現(xiàn),支持async/await,同構方便,使用isomorphic-fetch。
三、應用效果
該平臺自2020年12月在湖南省邵陽市城步縣白云電站業(yè)務運行以來,期間在湖南市縣級水利局、中小型水庫和水電站得到了廣泛應用。系統(tǒng)統(tǒng)籌數(shù)據(jù),共享信息,實現(xiàn)不同地區(qū)數(shù)據(jù)庫的提取和云端的數(shù)據(jù)分析,屬于統(tǒng)一應用管理系統(tǒng),同時打通平臺和終端的同步、共享,進一步擴大了實時預報、預警能力。系統(tǒng)運行穩(wěn)定,可維護性強,在云端存取和管理數(shù)據(jù)也具有很高的安全性,保證了各級業(yè)務能夠及時響應。目前前端展示平臺提供天氣預報、綜合預報、水位預警、實況統(tǒng)計、雷達衛(wèi)星、臺風路徑、圖文產品、三維GIS、專屬服務、智能分析、組織信息、實時氣象預警,共12大板塊40多類專業(yè)氣象服務產品,服務產品涵蓋未來2小時1KM×1KM的QPF定量降水預報、未來3天逐3小時5KM×5KM精細化格點降水預報、未來7天逐日流域面雨量預報、未來7天逐日入庫流量預報、水庫水位預警、氣象預警、過去10天逐日降水實況、過去24小時逐3小時降水實況、水庫或電站當前水位、汛限水位、入庫流量、出庫流量實況、衛(wèi)星云圖、單站或雷達拼圖、省市縣三級決策氣象服務產品、精準靶向發(fā)布等服務產品和功能服務。該平臺在2021年湖南省累計發(fā)生的10輪暴雨洪水過程,和接連發(fā)生了夏旱、秋旱和冬旱氣象服務中發(fā)揮了較好的服務效益,2021年湖南省水旱災害防御實現(xiàn)了“零死亡”的好效果,平臺得到省級領導和水利部門及服務用戶的好評,為湖南省水利部門的防汛抗旱、蓄水保水、發(fā)電增效提供了有力的技術保障和數(shù)據(jù)支撐。
四、結束語
該平臺已通過扁平化設計,形成了“一級部署,多級應用”業(yè)務布局,實現(xiàn)技術、數(shù)據(jù)、資源在省級氣象部門的統(tǒng)一集約與管理,系統(tǒng)迭代升級方便、節(jié)約系統(tǒng)運維成本,提高工作效率。省級部門加強與用戶的溝通與交流,摸清用戶實際業(yè)務需求,加強最下游服務產品的研發(fā),升級迭代服務平臺,不斷提高氣象服務質量。同時在實際運行過程種,不斷結合天氣過程和實際情況,調整預報預警模型參數(shù),提高預報精準度。
參考文獻:
[1] 羅紅梅,周峰,陳湘華.湖南省氣象災害預警信息發(fā)布業(yè)務平臺的設計及應用[J].科技創(chuàng)新導報,2015,12(12):23-24.
[2] 楊有林,陳海波,王建林,等.寧夏智能化綜合氣象業(yè)務服務共享管理平臺設計與實現(xiàn)[J].氣象,2018,44(07):961-968.
[3] 張志強,張強,胡星,等.國家氣象業(yè)務內網(wǎng)設計與實現(xiàn)[J].安徽農業(yè)科學,2016,44(06):224-227.
[4] 李新慶,衛(wèi)建國,單新蘭,等.寧夏氣象業(yè)務內網(wǎng)的功能與實現(xiàn)[J].干旱氣象,2017,35(06):1077-1083.
[5] 王會品,王洪祥,孫悅程,等.基于ArcCIS的大連氣象內網(wǎng)業(yè)務平臺設計與實現(xiàn)[J].湖北農業(yè)科學,2018,57(11):111-112.
[6] 詹利群,任曉煒,黃志,等.廣西氣象業(yè)務內網(wǎng)功能設計與實現(xiàn)[J].氣象研究與應用,2019,40(01):71-76.
[7] 熊安元,趙芳,王穎,等.全國綜合氣象信息共享系統(tǒng)的設計與實現(xiàn)[J].應用氣象學報,2015,26(04):500-512.
[8] 厐麗麗,鄒煜,陳健,等.云”+“端”技術模式在山洪災害預警防御的應用與實踐[J].中國防汛抗旱,2020,30(Z1):21-24.
[9] 鐘艷雯,尹新懷,朱亮,等.湖南省氣象業(yè)務內網(wǎng)平臺的設計與實現(xiàn)[J].湖北農業(yè)科學,2020,59(20):155-158.
[10] 羅紅梅,劉瑞琪,郭海峰,等.基于政務云與氣象內網(wǎng)的突發(fā)事件預警信息發(fā)布業(yè)務系統(tǒng)部署方法研究及應用[J].安防科技,2021,12(32):59-60.
[11] 白艷萍.淺談防火墻技術在氣象信息網(wǎng)絡種的應用[J].電腦知識與技術,2020,16(27):61-62.
[12] 吳文玉,翟菁,霍彥峰.省級環(huán)境氣象業(yè)務系統(tǒng)關鍵技術[J].計算機系統(tǒng)應用,2020,29(09):75-80.
[13] 裘峰,李子豪,任宇程,等.貴州省基于云計算的山洪災害建成預警管理系統(tǒng)設計及應用[J].中國防汛抗旱,2019,29(03):12-15.
[14] 魏佳楠,吳勇,林華劍,等.基于的自然資源“一張圖”管理信息系統(tǒng)設計與實現(xiàn)[J].計算機應用與軟件,2020,37(09):20-26.