亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于天擎的氣象業(yè)務系統(tǒng)云化改造與實施

        2025-02-15 00:00:00李建明冀玉超馮勇朱輝朱永增
        科技創(chuàng)新與應用 2025年3期
        關鍵詞:集約改造氣象

        摘" 要:氣象大數(shù)據(jù)云平臺(天擎)是氣象部門為提升信息系統(tǒng)集約化水平而建設的“數(shù)算一體”支撐平臺,原有業(yè)務信息系統(tǒng)需進行云化改造后融入云平臺。為探索市級業(yè)務信息系統(tǒng)融入天擎的方案,以東營氣象業(yè)務平臺的改造與實施為例,利用微服務、容器云和算法加工流水線等技術,通過功能模塊云化改造為天擎算法、云數(shù)據(jù)庫替代自建庫、數(shù)據(jù)接口改造、云主機替代物理服務器等方法,完成東營氣象業(yè)務系統(tǒng)的云化改造。結果表明,改造后的東營氣象業(yè)務平臺全部集約到天擎部署,市級通過瀏覽器訪問,實現(xiàn)“云+端”的業(yè)務架構,為其他信息系統(tǒng)的云化改造與實施提供參考。

        關鍵詞:氣象;信息系統(tǒng);大數(shù)據(jù)云平臺;改造;集約;微服務技術;容器云

        中圖分類號:TP311" " " 文獻標志碼:A" " " " " 文章編號:2095-2945(2025)03-0096-05

        Abstract: The Meteorological Big Data Cloud Platform (Tianqing) is a \"digital and computing integration\" support platform built by the meteorological department to improve the intensive level of information systems. The original business information system needs to be transformed into a cloud and then integrated into the cloud platform. In order to explore the solution for integrating municipal business information systems into Tianqing, taking the transformation and implementation of Dongying Meteorological Business Platform as an example, using technologies such as microservices, container clouds and algorithm processing lines to transform functional modules into Tianqing algorithms and cloud databases through cloud transformation, replacing self-built databases, transforming data interfaces, and replacing physical servers with cloud hosts, etc., the cloud transformation of Dongying Meteorological Business System has been completed. The results show that the transformed Dongying meteorological business platform is all intensively deployed to Tianqing, and is accessed through a browser at the municipal level, realizing a \"cloud + end\" business architecture, providing a reference for the cloud transformation and implementation of other information systems.

        Keywords: meteorology; information system; big data cloud platform; transformation; intensification; microservice technology; container cloud

        近年來,隨著氣象觀測、預報技術水平的不斷發(fā)展與云計算、大數(shù)據(jù)等信息化技術的快速應用,氣象部門順應技術發(fā)展趨勢,建設了氣象大數(shù)據(jù)云平臺(CMADaaS,以下簡稱“天擎”)。作為全國氣象信息化“數(shù)算一體”的核心平臺,天擎具有海量數(shù)據(jù)存儲、全業(yè)務貫通、高效數(shù)據(jù)應用能力。氣象部門明確提出構建以天擎為“云”,氣象業(yè)務系統(tǒng)為“端”的“云+端”業(yè)務模式,推進資源整合和流程再造,發(fā)揮數(shù)據(jù)聚集規(guī)模效應,實現(xiàn)業(yè)務系統(tǒng)的集約高效運行。自2020年開始,天擎陸續(xù)在各省級氣象部門部署。山東省的天擎建設走在全國前列,2020年6月率先實現(xiàn)省級部署,同年底第一批投入業(yè)務試運行[1]。

        業(yè)務系統(tǒng)融入天擎有4個方面要求:數(shù)據(jù)集約、流程集約、平臺集約和監(jiān)控系統(tǒng)集約。根據(jù)要求,云化改造的思路應從數(shù)據(jù)采集、數(shù)據(jù)存儲、產品加工、業(yè)務應用、業(yè)務監(jiān)控等方面進行考慮。對于新開發(fā)的系統(tǒng),要求實現(xiàn)“云原生”,對于已有的業(yè)務系統(tǒng),應積極進行云化改造后融入天擎。

        天擎投入業(yè)務運行后,各省陸續(xù)開展了已有氣象業(yè)務系統(tǒng)云化改造并融入天擎的研究與探索[2-4],福建將省級氣象綜合業(yè)務平臺融入天擎[5],湖南對氣象災害預警服務一體化平臺進行了基于天擎的云化改造[6],云南將全省降水量告警系統(tǒng)融入天擎[7],廣西以氣象短時臨近強降水預警服務處理流程為例,設計了DPL加工流水線業(yè)務遷移融入流程[8]。以上研究從設計、技術及具體實施等多個角度,研究了融入方案及實現(xiàn)方法,為其他業(yè)務信息系統(tǒng)的云化改造提供參考。以上對云化改造方法的研究對象都是省級業(yè)務系統(tǒng),涉及到對市級業(yè)務系統(tǒng)云化改造的內容較少,由于省級和市級業(yè)務系統(tǒng)在適用范圍、功能模塊、數(shù)據(jù)種類和專業(yè)性等方面存在著較大差異,因此,在集約整合和云化改造時關注側重點與改造方案有很大不同。以東營氣象業(yè)務平臺的云化改造為例,對市級信息系統(tǒng)的云化改造進行分析與設計,探討各項功能的實現(xiàn)技術與方法,為其他市級信息系統(tǒng)融入天擎提供參考。

        1" 東營氣象業(yè)務平臺現(xiàn)狀

        東營氣象業(yè)務平臺是供市縣兩級氣象臺使用的綜合業(yè)務平臺,承擔著預報、農氣及服務等主要業(yè)務,另外還有實況查詢、氣候資料管理、網(wǎng)上會商等輔助功能,是基本天氣預報業(yè)務的主要支撐平臺。在云化改造之前,這些功能運行在4臺物理服務器上,通過自行搭建數(shù)據(jù)庫方式,從各類API、FTP或共享服務器等獲取數(shù)據(jù)。原平臺主要采用C#、Python等軟件開發(fā),使用.net框架,數(shù)據(jù)庫使用MSSQL,Web框架主要使用IIS,通過數(shù)據(jù)庫或接口方式進行數(shù)據(jù)交換。功能架構如圖1所示。

        從功能架構組成可以看出,現(xiàn)有業(yè)務系統(tǒng)硬件、服務及應用分散安裝在4臺物理服務器,容易出現(xiàn)電源、硬盤等硬件故障。數(shù)據(jù)庫采用MSSQL,安裝在3臺服務器上,用于預報服務、雨情系統(tǒng)和農氣服務。在軟件方面,由于開發(fā)時間跨度較大,開發(fā)人員變化,導致各功能模塊、數(shù)據(jù)、應用程序等分散混雜,各自為政,存在硬件利用不均衡、備份手段少、軟件復用性差、運行維護復雜等問題,數(shù)據(jù)也存在一定安全隱患。

        2" 云化改造技術路線

        2.1" 改造原則

        整合現(xiàn)有“預報業(yè)務平臺”“雨情系統(tǒng)”“智慧農氣系統(tǒng)”“資料查詢”及“旬月數(shù)據(jù)上傳統(tǒng)計”等模塊,建設統(tǒng)一認證、統(tǒng)一入口、統(tǒng)一界面、統(tǒng)一數(shù)據(jù)的“綜合業(yè)務系統(tǒng)”,并遷移到天擎平臺,實現(xiàn)信息系統(tǒng)的云化改造。設計原則有3個方面。一是采用微服務架構[9-10],通過容器技術注冊算法,由天擎算法加工流水線調度運行。二是取消本地數(shù)據(jù)庫等中間件,使用天擎的云數(shù)據(jù)庫、redis等平臺服務。三是取消本地服務器,全部利用省局基礎設施資源池的硬件資源,本地只保留客戶端。實現(xiàn)硬件集約化、數(shù)據(jù)集約化、流程集約化、平臺集約化和監(jiān)控集約化的目標。

        2.2" 功能架構

        云化改造后的東營氣象業(yè)務平臺完全基于天擎運行,在市級通過瀏覽器進行各類操作,中間數(shù)據(jù)及生成產品均存儲在云數(shù)據(jù)庫或云NAS中,數(shù)據(jù)庫、Redis、消息隊列服務、算法加工流水線等基礎服務全部由天擎提供。業(yè)務應用及數(shù)據(jù)服務在天擎內部完成,算法靠近數(shù)據(jù),實現(xiàn)“數(shù)算一體”。云主機承擔服務發(fā)現(xiàn)、網(wǎng)頁代理、統(tǒng)一鑒權、動態(tài)路由及服務聚合等功能,在業(yè)務終端與天擎之間進行溝通連接。改造后的平臺架構如圖2所示,與改造前相比,市級除業(yè)務終端外,所有基礎設施與功能模塊全部遷移到省級天擎云平臺,完成了云化改造。

        2.3" 技術路線

        首先,對所有功能模塊進行分析,將單項功能進行剝離改造,把改造后的算法納入云平臺的算法加工流水線調度運行。東營氣象業(yè)務平臺的云化改造基于.NET6跨平臺框架設計,采用C#作為主要語言實現(xiàn)系統(tǒng)主體功能,該框架實施成本低、開發(fā)效率高、安全性高等特點,適合市級業(yè)務系統(tǒng)的實施,通過Python、Java輔助功能模塊實現(xiàn)氣象產品加工、數(shù)據(jù)采集、數(shù)據(jù)推送等算法,通過JS、HTML5等技術實現(xiàn)前端交互。主要技術包括以下內容。

        1)分布式框架:分布式系統(tǒng)原指業(yè)務系統(tǒng)在達到一定復雜度后,將業(yè)務拆分為多個獨立服務,部署在多個基礎設置資源中,保持各業(yè)務系統(tǒng)具有獨立性,但整體標準一致,可實現(xiàn)統(tǒng)一訪問和調度。這與天擎PAAS云平臺總體架構思想是一致的。通過Consul實現(xiàn)服務注冊、服務發(fā)現(xiàn)、負載均衡等功能,確保服務的彈性伸縮;通過Exceptionless實現(xiàn)日志收集并開發(fā)告警服務;基于Ocelot開發(fā)統(tǒng)一API網(wǎng)關,實現(xiàn)服務的動態(tài)路由、請求過濾、聚合等功能;基于天擎提供的MQ消息服務實現(xiàn)消息總線,確保各業(yè)務的一致性原則,利用云Redis緩存為整個系統(tǒng)提供緩存服務,利用調度平臺實現(xiàn)整個系統(tǒng)的統(tǒng)一調度服務。最終達到天擎平臺部署,系統(tǒng)服務化并融合為東營市氣象局綜合業(yè)務系統(tǒng)的目標。

        2)容器虛擬化技術:Docker容器是一個開源的應用容器引擎,能以統(tǒng)一的方式打包應用及其依賴包到一個可移植的容器中,然后發(fā)布到任何安裝了Docker引擎的服務器上,容器使用沙箱機制,相互之間沒有任何接口,性能開銷少,能獨立運行。在云化改造中各類算法均通過容器進行算法封裝。

        3)加工流水線:實現(xiàn)對多種計算框架的的支撐及對各加工處理任務的統(tǒng)一調度管理,需按天擎的標準,結合實際需求進行算法設計與開發(fā)、注冊并經審核后,根據(jù)加工處理任務定義的執(zhí)行策略進行調度并運行。

        3" 云化改造方法

        3.1" 應用納入算法加工流水線

        將原系統(tǒng)中集中運行的應用改造為天擎算法,通過加工流水線調度運行,是云化改造的重要內容。改造原則是將數(shù)據(jù)源一致,計算方式相近,輸出基本相同的功能應用剝離出來,改造為算法。以下3類任務適合納入流水線運行,一是對網(wǎng)絡依賴度較高的發(fā)布任務,如預報、服務產品及短信產品發(fā)布;二是定期執(zhí)行且資源消耗較大的任務,如實況讀取、雨情處理及推送任務;三是復用度高的算法,如溫、壓、濕、風、雨等要素分布圖生成任務。

        天擎算法基于Docker容器框架,是一種輕量級開發(fā)與運行環(huán)境,是算法加工流水線的基礎。天擎提供了Docker容器和鏡像、加工流水線調度運行等功能的管理平臺。用戶只需關注算法的研發(fā)、配置任務以及任務的管理,而算法運行需要的計算資源、數(shù)據(jù)資源、任務管理與監(jiān)控等由天擎提供。算法改造流程為:①在天擎的“資源申請”模塊申請存儲與算力資源;②通過 “容器資源管理”模塊申請容器,并選擇基礎鏡像。在此模塊可對容器進行啟停、修改、快照等管理;③使用ssh方式接入容器,對功能算法進行開發(fā)與調試;④在“鏡像資源管理”模塊,基于調試好的容器制作應用鏡像;⑤在“算法注冊”模塊,選擇已有應用鏡像并注冊新算法,配置觸發(fā)方式,加入加工流水線調度運行。

        3.2" 用云數(shù)據(jù)庫代替自建數(shù)據(jù)庫

        天擎有良好的數(shù)據(jù)庫支持能力,云化改造中使用天擎的虛谷數(shù)據(jù)庫和Redis庫來代替自建的MSSQL數(shù)據(jù)庫。虛谷數(shù)據(jù)庫是關系模型數(shù)據(jù)庫[11],支持SQL92語法,兼容oracle語法,有完全自動的分庫分表策略,數(shù)據(jù)查詢和插入效率高,機制成熟、可靠,主要存儲持久化數(shù)據(jù),包括自動站實況分類統(tǒng)計數(shù)據(jù)、雨量統(tǒng)計數(shù)據(jù)、農業(yè)氣象及氣候相關數(shù)據(jù)、各類預報及服務業(yè)務產品數(shù)據(jù)等。Redis是一種基于內存的鍵值型數(shù)據(jù)庫,存取速度快,存取時間易于預測,能消除I/O瓶頸,作為分布式緩存,用于非持久化、有性能瓶頸及各系統(tǒng)之間協(xié)調用的數(shù)據(jù),包括用戶token數(shù)據(jù)、最新加工的實況數(shù)據(jù)、任務記錄數(shù)據(jù)及計數(shù)統(tǒng)計數(shù)據(jù)等。

        數(shù)據(jù)庫遷移是一項工作量大而且比較困難的工作,利用官方遷移工具能完成大部分數(shù)據(jù)的遷移,但會出現(xiàn)主鍵丟失、字段類型或長度不兼容、自增ID序列混亂等問題,在云化實施中,需通過編寫腳本批量處理數(shù)據(jù)表的一些基本問題,再通過手動方式調整結構復雜的數(shù)據(jù)表,逐步完成遷移。

        3.3" 數(shù)據(jù)應用融入

        業(yè)務平臺讀取的數(shù)據(jù)有實況資料、農氣觀測資料、數(shù)值預報及各類預報產品等,來源為CIMISS(全國綜合氣象信息共享平臺),天擎的服務接口[12]是CIMISS的升級版本,在原CIMISS接口參數(shù)基礎上,增加了AK/SK的認證,能防止非法用戶偽造合法的請求,提高了接口服務的安全性,改造步驟為:①通過管理平臺的“業(yè)務帳戶”,配置接口權限和IP白名單等信息;②將原CIMISS接口對應的用戶ID、密碼等所有參數(shù)信息,添加timestamp(時間戳)和nonce(隨機數(shù))參數(shù)后生成字符串paramsMap;③對paramsMap按照key進行排序,把排序后的字符串進行MD5(32位)運算,并將生成的字符串轉換為大寫,得到sign值,如sign=F4CCF7DC9AC636D991AFEE8100DB68E1;④將paramsMap中的密碼參數(shù)刪除,并添加sign參數(shù),與請求路徑合并生成最終檢索URL。

        3.4" 云主機代替物理服務器

        改造后完全取消了物理服務器,對于無法進行云化改造,不具備天擎算法加工流水線運行條件的功能應用,通過使用天擎云主機的方式解決。經綜合分析,將東營氣象業(yè)務平臺的前端頁面相關部分部署在云主機上,主要包括:Nginx代理、微服務中心Consul、服務網(wǎng)關Gateway等,這些都是輕型服務,運行穩(wěn)定且資源需求較低。云主機可根據(jù)使用情況對CPU、內存等資源進行動態(tài)調整,以確保高效運行。

        4" 云化改造效果

        云化改造后,東營氣象業(yè)務平臺已經正常運行超過6個月,天擎提供的虛谷數(shù)據(jù)庫、Redis、RabbitMQ等中間件服務從未中斷,算法在加工流水線上穩(wěn)定運行,生成的產品滿足業(yè)務需求。市級用戶訪問頁面中各模塊響應時間比改造前明顯變快,符合云化改造預期。改造后數(shù)據(jù)讀取、加工、存儲和服務全流程進一步優(yōu)化和規(guī)范,運行效率高,且具有較強的平臺和算法的擴展能力,減輕了對服務器和應用軟件的維護工作量,提升了整體信息化水平。

        5" 結論

        基于天擎對已有業(yè)務信息系統(tǒng)進行云化改造,形成“云+端”的業(yè)務模式是氣象部門集約化發(fā)展的趨勢。以東營氣象業(yè)務平臺云化改造為例,介紹了市級業(yè)務系統(tǒng)的融入天擎過程。在云化改造過程中取得一定的經驗,為其他市級業(yè)務系統(tǒng)融入提供參考。

        1)充分了解并盡可能使用天擎的支撐服務。天擎是“數(shù)算一體”架構,提供數(shù)據(jù)接口、云存儲、云數(shù)據(jù)庫、消息隊列和算法加工等多種支撐服務,使用這些服務能降低對商業(yè)化軟件框架的需求,減小部署與維護工作量,提高信息系統(tǒng)穩(wěn)定性與安全性。

        2)制定高質量的云化改造方案。要全面了解原信息系統(tǒng)的架構、算法、數(shù)據(jù)庫依賴等內容,外包開發(fā)功能要深入溝通,結合天擎基礎服務和中間件,將各個單項功能剝離并設計符合天擎標準的算法。

        3)市級信息化部門要深度介入。由于專業(yè)之間差異,用戶和開發(fā)單位對天擎資源的理解有很大不同,需要市級信息化部門深度參與,了解原信息系統(tǒng)各功能模塊的邏輯與依賴關系,設計合理的云化改造方案。同時加強與省級天擎管理機構溝通,申請測試各類數(shù)據(jù)接口及算力資源,提高改造效率。

        參考文獻:

        [1] 馮勇,李微,朱輝,等.云計算環(huán)境下山東省氣象大數(shù)據(jù)云平臺的設計與實現(xiàn)[J].信息技術與信息化,2021(5):147-150.

        [2] 楊遠恒,李進訥,廖婷婷,等.氣象業(yè)務系統(tǒng)融入“天擎”“天鏡”技術要點分析[J].中低緯山地氣象,2022,46(6):85-88.

        [3] 夏正龍,傅承浩,朱亮,等.基于“天擎”的模式產品云化技術研究與實現(xiàn)[J].現(xiàn)代計算機,2021,27(34):46-50.

        [4] 李高潔,郭捷,喬文文,等.基于天擎系統(tǒng)的氣象資料下載平臺設計[J].廣東氣象,2022,44(6):68-72.

        [5] 余永城,王笑,魏夏潞.福建氣象綜合業(yè)務平臺融入“天擎”技術方案設計及實現(xiàn)[J].氣象科技,2022,50(5):653-659.

        [6] 朱亮,夏正龍,鐘艷雯,等.基于天擎·湖南的一體化平臺云化改造關鍵技術[J].智能計算機與應用,2022,12(3):204-207.

        [7] 張思,王楚欽,趙梅珠,等.云南“天擎”應用融入示例研究[J].中低緯山地氣象,2023,47(1):101-106.

        [8] 黃志,黃珩,梁維亮,等.基于“天擎”DPL的業(yè)務融入設計與應用初探[J].氣象研究與應用,2022,43(1):73-77.

        [9] 袁小凱,李果,黃世平.基于微服務架構的電力云服務平臺設計研究[J].電子設計工程,2021,29(11):185-188.

        [10] 沈晨笛,蘭海波,郭杰,等.基于微服務架構的氣象服務支持系統(tǒng)設計與實現(xiàn)[J].氣象科技,2023,51(2):215-221.

        [11] 明玉琢.分布式虛谷數(shù)據(jù)庫多平臺支持與客戶端工具開發(fā)[Z].四川省,成都虛谷偉業(yè)科技有限公司,2021-03-11.

        [12] 董良淼,李宇中,覃月鳳,等.“天擎”預報服務客戶端開發(fā)及接口應用技巧[J].氣象科技,2022,50(2):297-302.

        猜你喜歡
        集約改造氣象
        氣象
        藝術啟蒙(2025年2期)2025-03-02 00:00:00
        氣象樹
        《內蒙古氣象》征稿簡則
        內蒙古氣象(2021年2期)2021-07-01 06:19:58
        大國氣象
        對高層建筑結構加固改造的相關問題分析
        300MW機組頂軸油系統(tǒng)改造
        論電梯單開門改雙開門的改造方式
        牢筑節(jié)約集約“高壓線” 嚴守國土資源“生命線”——玉環(huán)縣成功創(chuàng)建全國國土資源節(jié)約集約模范縣
        集約轉型 小城鎮(zhèn)發(fā)展之路
        蘭州市土地集約利用評價
        国产av激情舒服刺激| 男女av免费视频网站| 精品亚洲少妇一区二区三区| 亚洲素人日韩av中文字幕| 精品欧美乱码久久久久久1区2区| 熟女免费观看一区二区| 久久老子午夜精品无码怎么打 | 日本午夜剧场日本东京热| 久久99精品久久久久久国产人妖| 精品福利视频一区二区三区| 久久96国产精品久久久| 国产好片日本一区二区三区四区| 亚洲中文字幕无码爆乳av| 无码熟妇人妻av在线网站| 日韩产的人妻av在线网| 久久夜色精品国产亚洲噜噜| 久久久无码一区二区三区| 日韩精品一区二区三区中文 | 无码超乳爆乳中文字幕| 成人免费ā片在线观看| 99国产精品人妻噜啊噜| 日韩精品人成在线播放| 亚洲一区二区三区色偷偷| 亚洲最新中文字幕一区| 日本亚洲欧美在线观看| 久人人爽人人爽人人片av| 日本视频在线观看一区二区| 中国精品视频一区二区三区| 免费夜色污私人影院在线观看| 99国产精品久久久久久久成人热 | 国产婷婷一区二区三区| 午夜理论片yy44880影院| 亚洲精品宾馆在线精品酒店| 日韩av水蜜桃一区二区三区 | 少妇性l交大片免费1一少 | 人妻尤物娇呻雪白丰挺| 亚洲精品一区网站在线观看 | 日本真人做爰免费视频120秒| 国产精品一区二区黑丝| 婷婷开心五月亚洲综合| av天堂一区二区三区|