關許為,肖慶華 ,張 慶
(1. 上海勘測設計研究院有限公司,上海 200434;2.上海浦宜亞軟件有限公司,上海 200063)
上海三面濱江臨海,易遭受風暴潮、上游洪水等災害的影響,沿江海堤防是抵御風暴潮等各種自然災害的第一道防線,其安全可靠性和防御能力直接關系上海城市的安全。
然而,20世紀90年代以來,由于人類活動、氣候變暖、海平面上升、風暴潮頻發(fā)以及上游工情水情變化如流域來沙的逐年減少等多重因素的交互影響,導致部分岸段堤防及圍墾工程前沿灘地沖刷加劇,長江口與杭州灣重要岸段堤防及圍墾工程安全保障受到嚴重威脅。如1997年8月18日,“9711”號臺風影響上海,陣風普遍達到8~10級,崇明陣風11級,蘆潮港陣風達12級(38 m/s),導致吳淞口潮位5.99 m,超過警戒水位1.19 m破歷史紀錄。暴雨和大風造成市區(qū)防汛墻決口3處,漫溢倒灌20處;沿江沿海主海塘多處潰決,受損處511處(69 km)。金山嘴潮位達到6.57 m(歷史最高潮位5.97 m);奉賢長約22.6 km堤防全線漫溢;松江縣沿黃浦江有35處(14 km)漫溢,13處(158 m)潰決。臺風襲擊過程中,死亡7人,傷多人,直接經(jīng)濟損失6.3億元以上。
多年來圍墾工程是解決上海城市土地資源短缺矛盾的重要途徑,自1949年以來,上海市通過灘涂圍墾新增土地面積約185 萬hm2(相當新增陸域土地面積20%),為上海城市可持續(xù)健康發(fā)展提供了有力保障。但是,堤防及圍墾工程安全與防護相關的科研工作還相對滯后,堤防及圍墾工程防御預警能力還相對較弱[1]。此外,目前上海市堤防管理智能化、網(wǎng)格化、信息化、精細化程度仍不高,有必要應用目前互聯(lián)網(wǎng)較先進技術開發(fā)研制上海市堤防安全智能化管理信息系統(tǒng)[2],為上海市長江口與杭州灣重要岸段堤防及圍墾工程安全管理科學決策提供信息化平臺支持。
綜上所述,堤防管理信息化[3]是堤防管理的現(xiàn)代化要求,也是提高堤防管理和搶險能力的有效手段和方式,可以為堤防管理部門及時、準確地進行決策提供依據(jù)。在此基礎上,物聯(lián)網(wǎng)云平臺技術[4]的應用使信息管理系統(tǒng)的擴容性得以提高,并進一步加強了堤防安全管理的高效性、實時性及可靠性。
圖1和圖2分別為堤防云平臺總體物理架構圖和堤防云監(jiān)測節(jié)點的架構圖。
圖1 堤防云平臺總體物理架構圖
圖2 堤防云監(jiān)測節(jié)點的架構圖
通過超大規(guī)模部署堤防云監(jiān)測節(jié)點,組成堤防監(jiān)測物聯(lián)網(wǎng),針對堤防監(jiān)測建立堤防云監(jiān)測平臺。堤防云監(jiān)測節(jié)點的監(jiān)測項目相關信息,通過GPRS進行無線數(shù)據(jù)傳輸,傳輸?shù)皆破脚_,在數(shù)據(jù)接收服務器上進行數(shù)據(jù)接收、解析和預處理,將數(shù)據(jù)存入數(shù)據(jù)立方進行云存儲和云計算[5],并且通過WEB服務器進行數(shù)據(jù)的最后處理和發(fā)布。通過WEB頁面和移動終端可以實時的查看所有堤防云監(jiān)測節(jié)點的監(jiān)測項目的實時情況和歷史數(shù)據(jù),以及監(jiān)測項目的變化過程,為堤防管理者用大數(shù)據(jù)科學地分析堤防安全情況,及決策制定提供完善的堤防安全的信息化技術支持。
堤防云監(jiān)測是堤防監(jiān)測物聯(lián)網(wǎng)的核心,實現(xiàn)了網(wǎng)絡節(jié)點的配置和控制、信息的采集和計算功能,在實現(xiàn)上可以采用分布式存儲、分布式計算技術,實現(xiàn)對海量數(shù)據(jù)的分析處理,以滿足大數(shù)據(jù)量且實時性要求非常高的數(shù)據(jù)處理要求[6]。
平臺主要有堤防安全監(jiān)測系統(tǒng)[7],堤防安全預警系統(tǒng),云存儲系統(tǒng)[8],堤防安全監(jiān)測項目實時變化過程,面向 Jobkeeper分布式調(diào)度,分布式數(shù)據(jù)立方系統(tǒng)和堤防安全數(shù)據(jù)個性化服務等組成。
在云建設中,分布式文件系統(tǒng)屬于基礎平臺支撐層,以用于數(shù)據(jù)集中存儲和共享,實現(xiàn)對數(shù)據(jù)的統(tǒng)一管理和高效應用;分布式數(shù)據(jù)立方屬于分布式數(shù)據(jù)庫層,用于結構化和非結構化數(shù)據(jù)的高性能訪問;分布式計算和Hive則基于云存儲進行大規(guī)模的高性能的并發(fā)計算和數(shù)據(jù)的挖掘。
堤防監(jiān)測及預警系統(tǒng)完全基于B/S[9]結構設計,為管理人員提供完善的操作平臺,同時,為其他普通人員定制基于B/S結構的瀏覽模塊。系統(tǒng)通過權限訪問,提高系統(tǒng)運行的安全性[10]。系統(tǒng)可實時、準確、高效地監(jiān)測堤防安全情況,并對數(shù)據(jù)整編入庫、分析處理,形成結果,供決策人員使用。超大規(guī)模的部署堤防云監(jiān)測節(jié)點,通過GPRS等方式傳輸?shù)皆破脚_后至堤防監(jiān)測平臺,監(jiān)測數(shù)據(jù)直接通過云計算技術入庫,作為堤防數(shù)據(jù)存放起來,以及后期堤防安全情況的分析作為詳實準確的數(shù)據(jù)基礎。功能主要包括堤防監(jiān)測數(shù)據(jù)入庫模塊,堤防監(jiān)測數(shù)據(jù)分析模塊,海量數(shù)據(jù)分析模塊,同時結合地理信息和堤防斷面信息,便于管理者進行地理位置查詢。
作為堤防管理云平臺的重要功能,堤防安全預警平臺承擔著更多實時信息,為堤防管理者提供更多及時的有效的信息化支持。
預警系統(tǒng)的運行是根據(jù)堤防安全監(jiān)測數(shù)據(jù)及數(shù)據(jù)處理平臺形成的結果,當數(shù)據(jù)達到設定報警值時,預警系統(tǒng)會自動啟動,決定預警級別及范圍。并根據(jù)系統(tǒng)設定,啟動報警通過郵件,APP推送或者是短信等方式直接發(fā)送給相關人員。
云平臺Jobkeeper系統(tǒng)的總體架構涵蓋資源、存儲、處理、業(yè)務化應用等方面(見圖3和圖4)。其中,虛擬化資源層將機器進行虛擬化,形成更大范圍的服務集群;存儲層則為存儲數(shù)據(jù)的處理結果集或其他中間結果集的單元;數(shù)據(jù)處理層為獨立的數(shù)據(jù)處理程序,是對不同需求數(shù)據(jù)的統(tǒng)一處理方案,由Jobkeeper調(diào)度平臺進行統(tǒng)一的配置管理;業(yè)務層則是對于應用層的相關功能的業(yè)務化、數(shù)字化處理,用于將應用層的需求任務進行規(guī)則化劃分,以形成統(tǒng)一的處理化模式;應用層是一組用于管理和結果反饋的顯示組件,是整個系統(tǒng)面向用戶和開發(fā)人員的基礎承載。
圖3 Jobkeeper系統(tǒng)總體架構圖
圖4 Jobkeeper任務分發(fā)流程圖
通過堤防云平臺Jobkeeper系統(tǒng)調(diào)度,當用戶在應用層下發(fā)任務給管理節(jié)點,管理節(jié)點調(diào)度機器采集機器節(jié)點的信息,根據(jù)具體的算法選取最優(yōu)節(jié)點并分發(fā)任務,接下來具體的處理節(jié)點接收到任務并處理同時將結果返回給管理節(jié)點,管理節(jié)點整理匯總處理結果,而后返回給應用層。其中,服務器節(jié)點組主要負責對處理節(jié)點的系統(tǒng)信息以及任務處理信息進行實時的跟蹤和保存,并將對應的信息鏡像存儲在基于cStor或者NFS服務的存儲系統(tǒng)上;而處理節(jié)點組則通過RPC的遠程調(diào)用獲取各自節(jié)點的任務處理目標,并實時和處理節(jié)點上的任務處理目標進行對比,控制程序的執(zhí)行和結束,并在一個設定的心跳間隔內(nèi)主動和管理節(jié)點組聯(lián)系一次,報告節(jié)點存活狀態(tài)。
分布式數(shù)據(jù)立方,是一個高可靠性、高性能、面向列、可伸縮的分布式存儲系統(tǒng),利用分布式數(shù)據(jù)立方技術可在廉價PC Server上搭建起大規(guī)模結構化存儲集群。其目的是處理龐大的表,可以用普通的計算機處理10億行數(shù)據(jù),并且有數(shù)百萬列元素組成的數(shù)據(jù)表這張表的索引是行關鍵字。
分布式數(shù)據(jù)立方可以直接使用本地的文件系統(tǒng)和云計算作為數(shù)據(jù)存儲方式。不過,為了提高數(shù)據(jù)的可靠性和系統(tǒng)的健壯性,發(fā)揮分布式數(shù)據(jù)立方處理大數(shù)據(jù)量等功能,通常需要使用云計算作為文件系統(tǒng)[11]。
通過研究與開發(fā),本文研發(fā)的基于物聯(lián)網(wǎng)堤防管理云平臺由堤防安全監(jiān)測系統(tǒng)、堤防安全預警系統(tǒng)、Jobkeeper系統(tǒng)、分布式數(shù)據(jù)立方系統(tǒng)等組成,具有以下功能和特點。
(1)可超大規(guī)模部署。堤防云監(jiān)測節(jié)點的安裝部署方式方便,這種部署方式完全和傳統(tǒng)的部署方式不同,符合超大規(guī)模部署的條件。并且堤防云監(jiān)測節(jié)點完全基于的云平臺,可以同時接入成千上萬的堤防云監(jiān)測節(jié)點。
(2)在線監(jiān)測實時性強??梢愿鶕?jù)需求進行增加堤防云監(jiān)測節(jié)點,擴展整個系統(tǒng)的覆蓋范圍,但是不需要繼續(xù)復雜的操作,可以動態(tài)的增加堤防云監(jiān)測節(jié)點,并能自動組網(wǎng),具有很強的擴容性。
(3)基于云平臺的超強擴容性。云存儲資源管理系統(tǒng)擴容非常方便,支持不停止服務的情況下,動態(tài)加入新的存儲節(jié)點,無需任何操作,即實現(xiàn)擴容;同時,無需人為干預,也可以摘下任意節(jié)點,系統(tǒng)自動縮小規(guī)模而不丟失數(shù)據(jù),存儲在此節(jié)點上的數(shù)據(jù)將會重新備份到其他節(jié)點上。
(4)云計算海量數(shù)據(jù)處理。架構云計算海量數(shù)據(jù)處理平臺,采用先進的云計算處理技術,支持自動容錯和動態(tài)擴展,具有實時性、高可靠性、可伸縮性、高性價比等特點。
(5)平臺科學管理。系統(tǒng)采用云計算架構的平臺,提供科學的管理系統(tǒng),以及服務器節(jié)點的管理達到任何一臺服務器斷電都不會影響到其他服務器,最大程度的解決運維管理人員的運維壓力,保證系統(tǒng)的正常。
(6)及時提供安全預警。該系統(tǒng)根據(jù)堤防監(jiān)測與檢測數(shù)據(jù)以及設定的安全評價規(guī)則,可適時給出堤防安全影響的評估意見,為堤防管理相關單位及時提供堤防安全預警信息。
□
參考文獻:
[1] 義紅君.水利工程安全隱患分析及其對策[J].北京農(nóng)業(yè),2012,(12):268.
[2] 王天新.管理信息系統(tǒng)發(fā)展[J].現(xiàn)代情報,2007,(6):224-225.
[3] 魏承富,王 俊,李亞平.堤防管理信息化[J].水利科技與經(jīng)濟,2014,20(10):105-107.
[4] Partha Pratim Ray. A survey of IOT Cloud Plat-forms[J]. Future Computing and Informatics Journal, 2016,1(1-2):35-46.
[5] 林克振.對云計算與云存儲技術研究的探討[J].計算機光盤軟件與應用,2014,17(20):39-40.
[6] 郭 崇.云端服務下物聯(lián)網(wǎng)云儲存技術研究[J].信息系統(tǒng)工程,2017,(7):78-79.
[7] 孫 彤,貢 欣,運乃斌.堤防安全監(jiān)測系統(tǒng)的構建[J].現(xiàn)代農(nóng)業(yè)科技,2012,(6):270.
[8] 傅穎勛,羅圣美,舒繼武.安全云存儲系統(tǒng)與關鍵技術綜述[J].計算機研究與發(fā)展,2013,50(1):136-145.
[9] 李云云.淺析B/S和C/S體系結構[J].科學之友, 2011,(1):6-8.
[10] 任海鵬,方繼才,何 晶,等.物聯(lián)網(wǎng)環(huán)境下的云數(shù)據(jù)存儲安全技術研究[J].無線互聯(lián)科技, 2015,(17):24-25.
[11] D Li, G Chen, H Zhang. Analysis of hot topics in cloud computing[J]. ZTE Communications, 2010,8(4):1-5.