亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        一種遙感信息模型自動化并行處理平臺

        2016-09-08 10:41:43李國慶于文洋
        計算機應用與軟件 2016年8期
        關鍵詞:分片集群節(jié)點

        張 靜 李國慶 于文洋

        1(中國科學院遙感與數(shù)字地球研究所數(shù)字地球重點實驗室 北京 100094)2(中國科學院大學 北京 100049)

        ?

        一種遙感信息模型自動化并行處理平臺

        張靜1,2李國慶1于文洋1

        1(中國科學院遙感與數(shù)字地球研究所數(shù)字地球重點實驗室北京 100094)2(中國科學院大學北京 100049)

        當前尚無主流的遙感信息模型(RSIM)高性能處理平臺,RSIM的研究與應用以項目驅動為主,處理低效。分析當前遙感領域數(shù)據(jù)與處理的特點,提出一種集數(shù)據(jù)存儲、模型計算、信息發(fā)布于一體的RSIM處理平臺。通過對存儲系統(tǒng)、并行處理環(huán)境和調度系統(tǒng)的設計實現(xiàn)平臺的海量存儲、靈活管理和模型自動快速計算功能。實驗表明,該系統(tǒng)能完成RSIM的快速高效處理,具有良好的可控性和適用性。

        遙感信息模型自動化處理平臺LustreIO優(yōu)化數(shù)據(jù)劃分TorqueKajaran

        0 引 言

        遙感信息模型(RSIM)泛指利用遙感數(shù)據(jù)對地學規(guī)律進行研究所構成的方法、模型[1]。遙感影像提供了地球表層的多維動態(tài)觀測數(shù)據(jù),通過遙感影像建立遙感信息模型,研究地球系統(tǒng)的各個要素及其相互關系[1],在科學研究和國民經濟中具有重要意義。

        保證遙感數(shù)據(jù)的時效性,是應用遙感信息模型必須解決的問題。近年來遙感數(shù)據(jù)高速增長[2],如何實現(xiàn)海量、多源、多尺度遙感數(shù)據(jù)的快速計算,是遙感信息模型處理平臺面臨的又一挑戰(zhàn)。傳統(tǒng)的遙感信息處理平臺以桌面端軟件為主,如ENVI、ERDAS IMAGINE、PCI Geomatica等,處理低效,不支持各個功能模塊的自動流程化處理。通用并行計算平臺則缺乏專業(yè)的遙感存儲計算支持,且有許多冗余功能,研制遙感專用并行計算平臺具有重要意義。近年來研究人員圍繞遙感處理算法的并行化展開了大量工作[3-6],涵蓋遙感數(shù)據(jù)預處理、特征參數(shù)反演、圖像目標識別等方面,為遙感信息模型平臺的功能集成打下良好基礎。但是國內目前尚無主流遙感集群環(huán)境。中國測繪科學研究院研發(fā)的PixelGrid具有集群分布式計算模塊,主要提供星測/航測影像的攝影測量處理[7],沒有專門的遙感處理功能,且缺乏對于遙感算法的二次開發(fā)支持。中科院遙感與數(shù)字地球研究所研發(fā)的遙感信息計算平臺(SINCE)內部集成了集群MPI計算環(huán)境,但該平臺基于.net框架開發(fā)[8],通用性較差。東方泰坦公司的泰坦超算平臺(Titan SCP)具有跨平臺部署能力[9],但缺乏海量存儲支持。

        為適應遙感領域對于海量存儲和高效計算的需求,提高RSIM的生產效率,本文在遙感高性能計算平臺工作的基礎上[10-12],提出一種高性能自動化RSIM處理平臺,該平臺具有以下特點:(1) 基于Lustre實現(xiàn)海量文件存儲功能;(2) 提供MPI并行編程支持;(3) 通過任務級(Torque)和業(yè)務級(Karajan)的調度使系統(tǒng)具有良好的負載均衡能力和復雜的跨平臺功能組合功能。

        1 平臺設計

        當前遙感數(shù)據(jù)和遙感處理算法具有如下特點:

        1) 遙感信息模型一般呈密集而不規(guī)則的數(shù)據(jù)訪問模式[13],由于對數(shù)據(jù)的依賴度不同,各模型表現(xiàn)出的訪問特點不同。其中大量非連續(xù)小塊數(shù)據(jù)的訪問造成嚴重的IO瓶頸,在此種條件下,模型IO通常只能取得峰值期1/10的性能[14]。如何結合遙感數(shù)據(jù)與模型的特點優(yōu)化存儲,這是實現(xiàn)平臺高性能的重點。

        2) 遙感處理可分為3個層次:像素級、特征級和目標級[15]。隨著處理層次的增高,處理數(shù)據(jù)量越來越小,算法越來越復雜,人工干預的成分增大[4]。MODIS傳感器的數(shù)據(jù)集約占ECHO[16]總數(shù)據(jù)集(共包含595個傳感器的3200個數(shù)據(jù)集[17])的1/10[17],是一個十分有代表性的傳感器。以Terra MODIS產品為例,產品覆蓋領域包括大氣、陸地、海洋和冰凍圈,共38個大類[18,19]。這些大類的處理等級為1~4級,如表1所示,隨著處理級別的升高,數(shù)據(jù)量減少,處理時效性降低。這一方面說明復雜算法的并行化比較困難,另一方面則揭示了提高低等級數(shù)據(jù)處理效率能夠解決遙感數(shù)據(jù)處理的大部分性能要求。

        表1 部分MODIS產品的文件大小和日生產量

        注:Res 指影像空間分辨率

        3) 遙感信息的提取方式由相對單一的處理如波段運算、影像變換等向多元處理鏈的方向轉化,并有計算機處理、人工單源干預和多方協(xié)同處理多種模式。處理流程的復雜化和處理模式的多元化對于處理平臺的資源配置能力提出了更高要求。

        本文沿襲經典的Linux機群+MPI搭建基礎并行環(huán)境,并用Ethernet和InfiniBand子網(wǎng)兩個重疊的網(wǎng)絡組成集群網(wǎng)絡拓撲,采用Lustre集群文件系統(tǒng)構建平臺存儲模塊。目前世界排名前10的超級計算機系統(tǒng)中有7個使用Lustre[20],其高可擴展性能夠適應潛在數(shù)據(jù)的存儲需求。在此基礎上,為了解決上述問題,構建一個遙感專用高性能計算平臺,本文依次作了如下設計:

        1) 從存儲組織和文件訪問兩方面進行控制,針對不同的遙感影像設計不同的OST池進行存儲,減少訪問目標塊與存儲分片之間的位置差異。

        2) 平臺把重點放在提高低等級遙感數(shù)據(jù)處理的效率上。低等級遙感處理包括幾何校正、輻射校正等影像預處理算法,影像重采樣、影像鑲嵌、圖像增強、波段運算等通用處理方法[3]。

        3) 設計兩級調度策略使系統(tǒng)具有良好的負載均衡能力和完備的任務編排功能。Torque+Maui實現(xiàn)并行計算資源的細粒度按需分配,Karajan工作流則從業(yè)務層面提供了復雜處理組合和跨組織協(xié)作功能。

        系統(tǒng)的基本架構如圖1所示。

        圖1 系統(tǒng)層次結構

        2 Lustre IO優(yōu)化

        當多個客戶高并發(fā)訪問時,鎖競爭和文件系統(tǒng)資源競爭會使Lustre文件系統(tǒng)效率大幅下降。根據(jù)應用特點對Lustre進行IO優(yōu)化,從兩個方面展開:(1) 減少對單個文件的并發(fā)訪問;(2) 提高單次傳輸?shù)奈募制寐省_@種調整可從Lustre文件系統(tǒng)和應用程序兩方面進行。

        1) 對文件存儲方式進行優(yōu)化

        文件的分片大小和分片個數(shù)對系統(tǒng)性能有顯著影響[21]。不同大小的文件由于應用場景不同通常有不同的分片方式。例如Lustre單次網(wǎng)絡傳輸緩沖區(qū)大小為1 MB,1 MB及以下的文件(如工程代碼、tar文件等)不宜切片,而超大文件如1 TB以上的大文件則需要減少切片數(shù)量,避免頻繁請求。OST池(OST Pools)是一種OST組織方式,同一個池中的OST遵循相同的文件分片規(guī)則。OST和OST池之間的從屬關系可隨時間改變[20],利用OST池可以更好地管理OST。遙感影像的數(shù)據(jù)大小從幾十MB到幾百GB不等,本文設計了3種不同默認分片大小的OST池,分別針對小型、中型和大型文件(用戶仍可修改各個文件的分片設置),把不同應用模式的數(shù)據(jù)分離管理。

        2) 控制讀寫數(shù)據(jù)塊進行優(yōu)化

        當程序發(fā)起與存儲分片不對齊的IO請求時,可能會訪問多個OST,而多個文件的分片不對齊訪問則會加劇系統(tǒng)資源的競爭,如圖2(b)所示;而讀寫塊與文件分片一致時,則訪問次數(shù)相對較少,如圖2(a)所示。多個進程和多個文件之間的交互可分為四種方式:(1)多個進程中有一個代理進程直接與文件進行IO,再為其他進程提供數(shù)據(jù)中轉服務;(2)每個進程都單獨處理自己的文件;(3)若干進程并發(fā)處理同一文件;(4)以上三種情況的混合,前3種情況如圖3所示。第(1)種方式避免了并發(fā)競爭,但單個進程限制了整體的IO速度和容量;第(2)種方式同樣不需要并發(fā)控制,瓶頸出現(xiàn)在文件系統(tǒng)的支持上(如磁盤同時打開的最大文件數(shù));第(3)種方式能實現(xiàn)較高的聚合吞吐量,但控制復雜,且資源競爭情況下系統(tǒng)的性能會降低。編寫應用程序時,應根據(jù)應用特性選擇合適的分片和讀寫方式。

        圖2 文件分片對進程讀寫的影響

        圖3 進程與文件交互的3種基本方式

        3 平臺并行編程支持

        遙感信息模型并行化可通過數(shù)據(jù)并行和任務并行兩種途徑實現(xiàn)。低等級的遙感處理算法處理的數(shù)據(jù)量大,但局部數(shù)據(jù)之間的相關性比較小[4],因此數(shù)據(jù)并行是模型并行化的重要途徑。本平臺抽象出遙感處理中的各種數(shù)據(jù)劃分模式,給出編程抽象類以輔助模型并行編程。

        遙感傳感器一般面向特定的電磁波譜段[1],生產的遙感影像包含若干波段的地物輻射信息(激光雷達點云數(shù)據(jù)不在討論之列)。首先針對遙感信息模型處理數(shù)據(jù)覆蓋的范圍,作如下定義:

        定義1處理域,輸入影像各個波段參與模型運算的平面區(qū)域的總和,記為Mask。

        定義2元處理域,模型運算過程中不可再分割的處理域,記為unitMask。

        定義3域函數(shù),描述處理域的函數(shù),記為maskFunc。

        模型處理涉及的波段數(shù)和模型最小處理范圍依次如表2所示,從而遙感數(shù)據(jù)的元處理(不可再細分的)模式共有6種組合。

        表2 RSIM處理數(shù)據(jù)分類

        元處理域通常包含于某個處理域中。一個矩形處理域的元處理域可能是單個像素,也可能是若干個更小的矩形面域。一個非矩形區(qū)域的元處理域可能是更小的非矩形,這種劃分可以基于圖像行/列進行,或者由一個新的面域函數(shù)劃分。遙感數(shù)據(jù)的并行粒度有單影像單個元處理域、單影像若干元處理域、多影像單個元處理域和多影像多個元處理域這四種。圖4列舉了一些典型的數(shù)據(jù)劃分方式。

        圖4 并行遙感數(shù)據(jù)處理劃分方式

        為了分離數(shù)據(jù)劃分和數(shù)據(jù)處理,本文將任意處理函數(shù)抽象為以處理域、輸入數(shù)據(jù)和輔助數(shù)據(jù)作為參數(shù)的函數(shù)。為用戶提供2個面域描述抽象類和3個遙感數(shù)據(jù)處理任務抽象類,分別是MaskType、Mask、UnitTask、TaskSet和TaskQueue。MaskType是枚舉類,羅列上述3種面域函數(shù);Mask描述處理域,包括處理域類型,劃分的方式(均勻、非均勻)和劃分手法(行、列、自定義函數(shù));UnitTask代表元處理域任務;TaskSet則是更為常用的若干元處理域任務;TaskQueue表示多個不同處理任務構成的任務隊列,由用戶根據(jù)使用場景實現(xiàn)調度函數(shù)。Mask和TaskSet的類定義如下:

        Mask類定義:

        class Mask{

        public:

        MaskType type;

        //處理域的類型

        //1. 單個像素

        int i; int j;

        //2. 矩形面域

        int start; int offset; int xsize; int ysize;

        //3. 非矩形面域

        virtual int* polygon(void *inputData);

        //再劃分子區(qū)的方式

        int nsubMask;

        //把處理域再劃分為幾部分

        bool isUniform;

        //是否均勻劃分

        bool byRow;

        //是否按行劃分

        bool byCol;

        //是否按列劃分

        int * thresholds;

        //對處理域再劃分的分割閾值

        int npolygon;

        //自定義劃分區(qū)域的個數(shù)

        virtual int **AOI(/*user defined*/); /*自定義劃分非矩形域的函數(shù)組*/};

        TaskSet類定義:

        //包含若干最小處理域的任務集

        class TaskSet{

        void* inputData;

        //輸入數(shù)據(jù)

        void *outputBuffer;

        //輸出緩沖

        Mask mask;

        //處理域

        virtual void* process( Mask *mask,

        auxiliaryData auxData

        //輔助數(shù)據(jù)

        )

        };

        4 平臺調度管理

        4.1Torque任務管理器

        Torque是一個開源的集群作業(yè)管理調度系統(tǒng),支持批處理、并行和交互式作業(yè),為集群提供任務級的管理和調度,為各個節(jié)點分配合理的任務,能有效利用系統(tǒng)計算能力。Torque由4部分構成:任務服務器、任務調度器、執(zhí)行守護進程和客戶端,如圖5所示。守護進程MOM運行在各個計算節(jié)點上,向任務服務器發(fā)送各個節(jié)點的狀態(tài)信息,任務的執(zhí)行情況以及服務器/調度器分配的其他資源監(jiān)視任務。

        圖5 Torque模塊結構

        Maui是一個用于集群/超級計算機任務調度的開源軟件。Torque只提供了較基本的任務調度策略,而Maui則提供了豐富的選擇。Maui設計了6個優(yōu)先指標[22]來對一個任務進行優(yōu)先級排序,可指定任務需要的處理器、內存、節(jié)點、用戶級別和隊列級別等來合理分配任務,平衡各個節(jié)點的CPU負載和IO開銷。

        4.2Karajan工作流

        Karajan提供了定義、組織、映射和執(zhí)行工作流的環(huán)境。該工作流采用XML描述各個工作環(huán)節(jié)(執(zhí)行動作和相應數(shù)據(jù));提供“sequential”、“parallel”等標簽供用戶組織串行、并行流程;提供條件執(zhí)行、迭代、循環(huán)等多種工作流控制結構和用戶自定義函數(shù);可構造基于DAG(有向無環(huán)圖)的層次化工作流,具有高度的靈活性和適應性。圖6展示了幾種Karajan支持的流程。Karajan提供檢查點(出錯后,從檢查點開始重新執(zhí)行流程)、日志等多級容錯機制,通過XML中的“onError”元素用戶可自定義錯誤響應行為。

        圖6 幾種Karajan支持的流程模式[23]

        5 實驗與分析

        5.1實驗環(huán)境

        采用12臺相同的計算機搭建平臺環(huán)境,機器參數(shù)見表3所示。實驗集群結構如圖7所示,采用Cisco Catalyst 3560G以太網(wǎng)交換機和Cisco SFS 7000 InfiniBand交換機配置集群網(wǎng)絡。12臺機器中3臺搭建Lustre集群文件系統(tǒng),1臺作為Portal服務器,剩余8臺作為計算節(jié)點。3臺Lustre存儲節(jié)點擴展2 TB的硬盤容量,創(chuàng)建10個OST,構建3個OST池,默認的分片數(shù)依次為2、4、8。MPI計算節(jié)點為主—從結構,1個主節(jié)點7個從節(jié)點;Torque的Server節(jié)點與MPI主節(jié)點安裝在不同的機器上;Karajan工作流與Portal服務器安裝在同一臺機器上。

        表3 節(jié)點硬件環(huán)境

        圖7 實驗集群結構

        5.2正確性驗證

        本文采用沙塵模型(適用于中國北部地區(qū))對系統(tǒng)功能進行正確性檢驗。模型的處理流程如圖8所示,實驗輸入數(shù)據(jù)和計算模式如表4所示。平臺界面如圖9所示,實驗過程中模型按照預期過程依次執(zhí)行,動態(tài)流程監(jiān)控圖正確顯示模型各個階段的計算狀態(tài),如圖10所示。處理結果如圖11(a)所示,淺色區(qū)域代表有沙塵的地區(qū),淺色部分越深,沙塵等級越高。該結果與單節(jié)點串行處理結果圖11(b)相同,充分證明了本平臺的正確性。

        圖8 沙塵模型處理流程表4 沙塵模型

        模型名稱中國北部地區(qū)沙塵監(jiān)測模型模型簡介根據(jù)MODIS影像提取沙塵范圍并進行沙塵強度分級實驗輸入數(shù)據(jù)2008-5-26MODISL1B數(shù)據(jù)12景,2.83GB主要的計算模式多步復雜計算計算復雜度O(n2)

        圖9 平臺界面

        圖10 沙塵模型動態(tài)工作流監(jiān)控

        圖11 中國西北部2008-5-26沙塵強度反演結果

        5.3性能分析

        平臺性能通過增大數(shù)據(jù)量和擴展計算節(jié)點兩方面進行驗證。采用植被干旱指數(shù)AWI模型運算驗證。AWI模型的計算方式如式(1)所示。完整的計算流程包括AWI指數(shù)計算、多幅影像鑲嵌、格式轉換和結果可視化渲染4個部分。

        (1)

        首先選取2009年MOD09A1不同覆蓋時空范圍的影像集依次在8個計算節(jié)點上進行計算。如表5所示,這些影像集總的數(shù)據(jù)量從0.69 GB到1521.55 GB不等,隨著數(shù)據(jù)量的增大,系統(tǒng)的吞吐率總體呈上升趨勢,如圖12(a),峰值大概為122 MB/s。

        表5 實驗數(shù)據(jù)及處理效率

        圖12 增加數(shù)據(jù)量和計算節(jié)點后的模型的運行情況

        然后以2009年中國全年數(shù)據(jù)(約55.2 GB)驗證平臺性能隨計算節(jié)點數(shù)的變化情況。每個節(jié)點運行一個計算進程,當計算節(jié)點從單節(jié)點逐個增加到8個時,模型計算加速比速率持續(xù)上升,在8節(jié)點時取得最大加速比13.2,如圖12(b)所示,證明該平臺具有良好的遙感信息性能高性能計算能力。

        6 結 語

        當前遙感信息模型缺乏高效的一體化處理平臺。本文提出了一種適用于遙感信息模型的高性能計算平臺。該平臺配備Lustre集群文件系統(tǒng)以支撐海量遙感數(shù)據(jù)的存儲需求。從存儲和應用程序兩個角度分析了文件分片對IO性能的影響,根據(jù)文件大小設計了不同的OST池集中存儲。對遙感數(shù)據(jù)的劃分模式進行了分類和抽象,為MPI并行編程環(huán)境提供了數(shù)據(jù)劃分抽象類。上層通過Torque和Karajan工作流實現(xiàn)兩級調度,使系統(tǒng)具備自動裝配任務,動態(tài)管理執(zhí)行的能力。Torque中加入Maui調度器,提供了靈活的任務調度功能,使系統(tǒng)的資源配置更好地滿足用戶需求。實驗部分該平臺運行了三種模型,證明了該平臺高效完成計算任務的能力,相對于單節(jié)點串行程序,該平臺能完成海量數(shù)據(jù)任務的快速計算。目前實驗集群規(guī)模較小,數(shù)據(jù)覆蓋較窄,后續(xù)在運行中將進一步擴大節(jié)點數(shù)量,對系統(tǒng)的性能作進一步驗證和調整。

        [1] 徐冠華,田國良,王超,等.遙感信息科學的進展和展望[J].地理學報,1996,51(5):385-397.

        [2] Lee C A,Gasster S D,Plaza A,et al.Recent developments in high performance computing for remote sensing:A review[J].Selected Topics in Applied Earth Observations and Remote Sensing,IEEE Journal of,2011,4(3):508-527.

        [3] 楊海平,沈占鋒,駱劍承,等.海量遙感數(shù)據(jù)的高性能地學計算應用與發(fā)展分析[J].地球信息科學學報,2013,15(1):128-136.

        [4] 周海芳.遙感圖像并行處理算法的研究與應用[D].長沙:國防科學技術大學,2003.

        [5] 朱志文,沈占鋒,駱劍承.改進SIFT點特征的并行遙感影像配準[J].遙感學報,2011,15(5):1024-1039.

        [6] 趙穎輝,蔣從鋒.遙感影像的高性能并行處理技術研究[J].計算機技術與發(fā)展,2014(7):201-205.

        [7] PixelGrid V5.0產品[EB/OL].(2013-08-29).[2015-01-06].http://www.bjsiwei.net.cn/ news/2013829/n3278201382916182.html.

        [8] 遙感信息計算平臺SINCE簡介[EB/OL].[2015-01-06].http://www.irsa.cas.cn/jgsz/kyxt/kjxxxtyjs/yjfx/.

        [9] 泰坦超算平臺Titan SCP[EB/OL].(2014-05-30).[2015-01-06].http://www.otitan.com/independent_content_sub_page.php?pid=34.

        [10] 王輝,劉定生,李國慶,等.一種空間信息網(wǎng)格平臺的設計與實現(xiàn)[J].遙感信息,2007(3):79-84.

        [11] 向彪,李國慶,劉定生,等.高性能遙感衛(wèi)星地面預處理系統(tǒng)中的任務管理與調度技術研究[J].宇航學報,2008,29(4):1443-1446.

        [12] Ma Y,Wang L,Liu D,et al.Generic Parallel Programming for Massive Remote Sensing Data Processing[C]//Cluster Computing (CLUSTER),2012 IEEE International Conference on.IEEE,2012:420-428.

        [13] Wang L,Ma Y,Zomaya A,et al.A parallel file system with application-aware data layout policies in digital earth[J].Parallel and Distributed Systems,IEEE Transactions on,2015,26(6):1497-1508.

        [14] Wu J,Wyckoff P,Panda D.Supporting efficient noncontiguous access in PVFS over InfiniBand[C]//Cluster Computing,2003.Proceedings.2003 IEEE International Conference on.IEEE,2003:344-351.

        [15] 盧麗君,廖明生,張路.分布式并行計算技術在遙感數(shù)據(jù)處理中的應用[J].測繪信息與工程,2005,30(3):1-3.

        [16] ECHO簡介[EB/OL].[2015-01-06].https://earthdata.nasa.gov/data.

        [17] ECHO Reverb[EB/OL].[2015-01-06].http://reverb.echo.nasa.gov/reverb/.

        [18] MODIS產品列表[EB/OL].[2015-01-06].http://modis.gsfc.nasa.gov /data/dataprod/.

        [19] MODIS產品詳細說明文檔[EB/OL].[2015-01-06].http://modis.gsfc.nasa.gov/data/dataprod/ataproducts.php?MOD_NUMBER=01.

        [20] Sun,Oracle.Operations Manual for Lustre Version 2.0.[EB/OL].(2011-01).[2015-01-26].http://wiki.lustre.org/manual/LustreManual20_HTML/index.html.

        [21] 張鈺森,吳慶波,譚郁松.基于Lustre的大規(guī)模文件系統(tǒng)擁塞控制算法的研究[J].計算機研究與發(fā)展,2011(S1):189-193.

        [22] Jackson D,Snell Q,Clement M.Core algorithms of the Maui scheduler[C]//Job Scheduling Strategies for Parallel Processing.Springer Berlin Heidelberg,2001:87-102.

        [23] Laszewski G V,Hategan M.Workflow concepts of the java cog kit[J].Journal of Grid Computing,2005,3(3):239-258.

        AN AUTOMATED PARALLEL PROCESSING PLATFORM FOR REMOTE SENSING INFORMATION MODELS

        Zhang Jing1,2Li Guoqing1Yu Wenyang1

        1(KeyLaboratoryofDigitalEarth,InstituteofRemoteSensingandDigitalEarth,ChineseAcademyofSciences,Beijing100094,China)2(UniversityofChineseAcademyofSciences,Beijing100049,China)

        There is no mainstream high performance processing platform for remote sensing information models (RSIM) by now. The researches and applications of RSIM still remain to be driven by individual projects with low processing efficiency. By analysing the characteristics of data and processing of current remote sensing field, we proposed an RSIM processing platform which integrates the data storage, model computation and information release in one step. The platform is realised the massive storage capacity, flexible management, automatic and quick computing function of RSIM through designing the storage system, the parallel processing environment and the scheduling system. Experiments show that the platform can achieve fast and efficient processing of RSIM, and has good controllability and applicability.

        Remote sensing information modelAutomatic processing platformLustreIO optimisationData partitionTorqueKarajan

        2015-02-12。國家高技術研究發(fā)展計劃基金項目(2013AA12A301);中科院遙感與數(shù)字地球研究所“一三五”規(guī)劃項目(Y3SG0300CX)。張靜,碩士生,主研領域:遙感數(shù)據(jù)服務平臺。李國慶,正研級高工。于文洋,高工。

        TP302.1

        A

        10.3969/j.issn.1000-386x.2016.08.024

        猜你喜歡
        分片集群節(jié)點
        上下分片與詞的時空佈局
        詞學(2022年1期)2022-10-27 08:06:12
        CM節(jié)點控制在船舶上的應用
        Analysis of the characteristics of electronic equipment usage distance for common users
        基于AutoCAD的門窗節(jié)點圖快速構建
        分片光滑邊值問題的再生核方法
        CDN存量MP4視頻播放優(yōu)化方法
        海上小型無人機集群的反制裝備需求與應對之策研究
        基于模糊二分查找的幀分片算法設計與實現(xiàn)
        一種無人機集群發(fā)射回收裝置的控制系統(tǒng)設計
        電子制作(2018年11期)2018-08-04 03:25:40
        Python與Spark集群在收費數(shù)據(jù)分析中的應用
        一本色道久久综合亚州精品| 亚洲av福利天堂一区二区三| 亚洲av日韩综合一区二区三区| 理论片87福利理论电影| 人成午夜免费大片| 久久精品爱国产免费久久| 91久久精品一二三区色| 在线中文字幕一区二区| 69国产成人精品午夜福中文| 无码人妻久久一区二区三区不卡| 久久精品国产亚洲AⅤ无码| 亚洲成AV人片无码不卡| 亚洲国产丝袜美女在线| 青青草视频网站在线观看| 免费无码高潮流白浆视频| 午夜家庭影院| 亚洲香蕉av一区二区蜜桃| 日韩一区三区av在线| 国产成人亚洲综合| 久久夜色精品国产| 国产精品视频一区日韩丝袜| 亚洲蜜臀av一区二区三区漫画| 东京热日本av在线观看| 久久96国产精品久久久| 日韩成人无码一区二区三区| 无码啪啪人妻| av一区二区三区综合网站| 日本熟妇美熟bbw| 亚洲国产av一区二区三区四区| 欧美成人精品福利在线视频 | 国产天堂av手机在线| 日韩女优视频网站一区二区三区| 亚洲国产精品一区二区成人片国内 | 欧美精品免费观看二区| 国产不卡一区二区av| 亚洲精品一品区二品区三区| 欧美成人午夜精品久久久| 骚片av蜜桃精品一区| 美女被内射中出在线观看| 国产午夜福利久久精品| 免费无码国产v片在线观看|