亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        適用于Hadoop云平臺(tái)的洪水淹沒(méi)分析并行算法

        2019-09-10 07:22:44劉小生黃秋鋒趙愛(ài)國(guó)
        人民長(zhǎng)江 2019年7期
        關(guān)鍵詞:數(shù)據(jù)量柵格洪水

        劉小生 黃秋鋒 趙愛(ài)國(guó)

        摘要:數(shù)字高程模型(Digital Elevation Model, DEM)特殊的數(shù)據(jù)結(jié)構(gòu)有利于數(shù)據(jù)在計(jì)算機(jī)中進(jìn)行計(jì)算,但其數(shù)據(jù)量大,受計(jì)算機(jī)性能的限制,無(wú)法滿足大規(guī)模洪水淹沒(méi)分析的需要。針對(duì)單機(jī)計(jì)算能力有限以及有源淹沒(méi)分析遞歸算法占用計(jì)算機(jī)資源較多的問(wèn)題,提出了一種利用Hadoop云平臺(tái)進(jìn)行洪水淹沒(méi)分析的并行算法。該算法對(duì)研究區(qū)域DEM按規(guī)則格網(wǎng)的思想進(jìn)行劃分,將大規(guī)模的研究區(qū)分割成多個(gè)規(guī)則的小區(qū)域。在指定水位下,對(duì)每個(gè)小區(qū)域進(jìn)行數(shù)據(jù)壓縮,計(jì)算每個(gè)柵格單元的淹沒(méi)值,并將同一行中相連的淹沒(méi)柵格序列記為淹沒(méi)塊,每個(gè)淹沒(méi)塊包含該柵格序列所屬的區(qū)塊號(hào)、行號(hào)、起始列號(hào)、終止列號(hào)以及淹沒(méi)標(biāo)記;當(dāng)不同行或不同區(qū)域中的淹沒(méi)塊相互連通時(shí),需對(duì)其淹沒(méi)標(biāo)記進(jìn)行一致性設(shè)計(jì)。最終,根據(jù)淹沒(méi)點(diǎn)所在淹沒(méi)塊的淹沒(méi)標(biāo)記提取出淹沒(méi)點(diǎn)所在的淹沒(méi)區(qū),即為實(shí)際的淹沒(méi)范圍。實(shí)驗(yàn)結(jié)果表明,在指定淹沒(méi)水位下,通過(guò)該算法可以快速提取淹沒(méi)范圍以及實(shí)現(xiàn)淹沒(méi)水深的計(jì)算。

        關(guān) 鍵 詞:洪水淹沒(méi)分析; 并行運(yùn)算; 圖像處理; Hadoop; 數(shù)字高程模型

        1 研究背景

        受到極端天氣的影響,洪澇災(zāi)害爆發(fā)率越來(lái)越高,其強(qiáng)大的破壞性嚴(yán)重地威脅著國(guó)民經(jīng)濟(jì)和人民財(cái)產(chǎn)安全,為此,開(kāi)展準(zhǔn)確的洪水淹沒(méi)分析可為防洪救災(zāi)工作提供強(qiáng)有力地科學(xué)依據(jù)[1]。如何高效率地進(jìn)行洪水淹沒(méi)分析與預(yù)報(bào),是防洪救災(zāi)工作的重要環(huán)節(jié)[2]。目前,國(guó)際上的洪水淹沒(méi)分析主要以?xún)煞N方式為主,包括分布式架構(gòu)的水文模型和數(shù)字高程模型(DEM)結(jié)合GIS技術(shù)[3]。分布式架構(gòu)水文模型考慮到了水循環(huán)的基本過(guò)程[4-5],包括蒸散發(fā)量、植物截留、地表下滲和土壤飽和度等,能夠較真實(shí)地反映洪水的淹沒(méi)過(guò)程;但是其針對(duì)性較強(qiáng),普適性較差,并受地區(qū)和環(huán)境等因素的限制,數(shù)據(jù)采集困難,而且模型構(gòu)建較為復(fù)雜。在數(shù)據(jù)缺失的地區(qū),分布式架構(gòu)的水文模型的可用性更低。

        相關(guān)研究者發(fā)現(xiàn),地形因素是形成洪水淹沒(méi)區(qū)的主要因素,而數(shù)字高程模型能夠真實(shí)地表達(dá)地面起伏情況[6-8]。因此,利用數(shù)字高程模型和GIS 技術(shù)相結(jié)合的方式進(jìn)行洪水淹沒(méi)分析,可以彌補(bǔ)分布式水文模型在數(shù)據(jù)缺少時(shí)的不足,而且數(shù)據(jù)采集更為容易,技術(shù)實(shí)現(xiàn)手段更為簡(jiǎn)單。比如,劉仁義等[9]基于種子蔓延算法而提出的“無(wú)源淹沒(méi)”和“有源淹沒(méi)”算法;楊軍等[10]利用DEM數(shù)據(jù)進(jìn)行的洪水淹沒(méi)分析和可視化表達(dá)。

        基于DEM數(shù)據(jù)的特殊結(jié)構(gòu)和數(shù)據(jù)量較大的特點(diǎn),許多學(xué)者在進(jìn)行洪水淹沒(méi)分析時(shí),大多采用了遞歸算法,比如種子點(diǎn)蔓延法或八鄰域蔓延法[11]、分塊種子蔓延法[12]以及條帶壓縮法等[13]。盡管這些算法具有許多眾所周知的優(yōu)點(diǎn),但是由于算法運(yùn)行時(shí)占用的計(jì)算機(jī)資源較多,而且當(dāng)遞歸深度達(dá)到一定時(shí),計(jì)算效率就會(huì)大幅下降,不穩(wěn)定性就會(huì)越來(lái)越高,因此無(wú)法滿足大規(guī)模DEM數(shù)據(jù)處理的需要。為此,本文利用Hadoop云平臺(tái)能夠動(dòng)態(tài)地?cái)U(kuò)展數(shù)據(jù)處理節(jié)點(diǎn)和支撐海量數(shù)據(jù)處理的特點(diǎn)[14-15],提出了一種基于DEM數(shù)據(jù)和GIS技術(shù)進(jìn)行大規(guī)模洪水淹沒(méi)分析的并行算法。

        2 算法描述

        本文構(gòu)建的Hadoop云平臺(tái)下的洪水淹沒(méi)分析并行算法,以解決大規(guī)模DEM數(shù)據(jù)在洪水淹沒(méi)分析中的應(yīng)用問(wèn)題為目的。針對(duì)大范圍研究區(qū),首先按規(guī)格格網(wǎng)的方法對(duì)其進(jìn)行劃分,按從左到右、從上往下的順序?qū)ζ溥M(jìn)行編號(hào);當(dāng)研究區(qū)足夠大,可以環(huán)繞整個(gè)地球、首尾相連時(shí),需要考慮同一行首尾兩個(gè)數(shù)據(jù)塊的連通性。由于數(shù)據(jù)量巨大,考慮到計(jì)算不便等問(wèn)題,采用數(shù)據(jù)壓縮的方式對(duì)數(shù)據(jù)的每一行進(jìn)行壓縮;在給定淹沒(méi)水位的情況下,計(jì)算每個(gè)柵格的淹沒(méi)水深,將同一行的淹沒(méi)柵格序列記為一個(gè)淹沒(méi)塊,該淹沒(méi)塊包含淹沒(méi)柵格序列所屬的淹沒(méi)塊編號(hào)、行號(hào)、起始列號(hào)、終止列號(hào)以及淹沒(méi)塊標(biāo)記等。將相互連通的淹沒(méi)塊的淹沒(méi)標(biāo)記設(shè)置成一樣,從而將研究區(qū)分割成不相連的幾個(gè)區(qū)域。對(duì)于有源淹沒(méi)分析,根據(jù)給定的淹沒(méi)點(diǎn)源,由其所在淹沒(méi)塊的淹沒(méi)標(biāo)記提取出所屬的淹沒(méi)區(qū)域,并確定最終的淹沒(méi)范圍。其核心理論與關(guān)鍵步驟詳述如下。

        2.1 DEM數(shù)據(jù)分塊

        在進(jìn)行大規(guī)模洪水淹沒(méi)分析時(shí),用單一的DEM數(shù)據(jù)塊表示,其數(shù)據(jù)量巨大,無(wú)法在計(jì)算機(jī)中進(jìn)行有效的處理。因此,為滿足大規(guī)模DEM數(shù)據(jù)在計(jì)算機(jī)中處理的需要,有必要對(duì)DEM數(shù)據(jù)進(jìn)行劃分。本文采用規(guī)則格網(wǎng)的方式對(duì)研究區(qū)進(jìn)行劃分。南北方向以赤道為界,記為dx,向北為正,向南為負(fù),緯度每增加1°,dx加1;東西方向以本初子午線為界,記為dy,向東為正,向西為負(fù),經(jīng)度每增加1°,dy加1。此時(shí),當(dāng)研究區(qū)域在東經(jīng)180°附近,同時(shí)跨越東西半球時(shí),需要對(duì)不同DEM分塊之間的連通性進(jìn)行判斷。

        第7期? ?劉小生,等:適用于Hadoop云平臺(tái)的洪水淹沒(méi)分析并行算法? ? 人 民 長(zhǎng) 江2019年 2.2 淹沒(méi)塊

        淹沒(méi)塊Cell作為區(qū)域感染法的最小單位,記錄的是同一行中相連淹沒(méi)柵格所在的行號(hào)、起始列號(hào)、終止列號(hào)以及淹沒(méi)標(biāo)記,用(x, startY, endY,floodMark)表示。其中,淹沒(méi)標(biāo)記floodMark需具有唯一性,除了記錄淹沒(méi)塊所在的行列號(hào),還應(yīng)記錄該淹沒(méi)塊所在的DEM在研究區(qū)域中的行列號(hào),用dx:dy:x:startY:endY表示。假設(shè)某區(qū)域存在潛在淹沒(méi)區(qū)如圖1所示,其中顏色較深的部分代表潛在的淹沒(méi)區(qū),數(shù)字代表潛在的淹沒(méi)水深,整個(gè)DEM數(shù)據(jù)塊左上角坐標(biāo)為(25,120)。

        在給定的淹沒(méi)水位下,從DEM數(shù)據(jù)塊的第一行開(kāi)始,依次判斷每一行中的柵格單元高程值是否小于指定淹沒(méi)水位。若該柵格單元的高程值不小于淹沒(méi)水位,則跳過(guò)當(dāng)前的柵格,繼續(xù)判斷下一個(gè)柵格單元的高程值,直到遇到一個(gè)柵格單元高程值小于淹沒(méi)水位時(shí),新建一個(gè)淹沒(méi)塊,并標(biāo)記該淹沒(méi)塊的行號(hào)x為當(dāng)前柵格所在的行號(hào);該淹沒(méi)塊的起始列號(hào)startY為該柵格所在的列號(hào),然后繼續(xù)判斷下一個(gè)柵格單元P的高程值;若P為該行最后一個(gè)柵格單元且其高程值小于淹沒(méi)水位時(shí),記錄該淹沒(méi)塊的終止列號(hào)endY為P所在的列號(hào);若P的高程值大于或等于淹沒(méi)水位,則標(biāo)記該淹沒(méi)塊的終止列號(hào)為P所在列號(hào)減1。

        2.3 淹沒(méi)塊連通域判讀

        (1) 單個(gè)DEM數(shù)據(jù)塊中,若2個(gè)淹沒(méi)塊位于第i行和第i+1行中,而且存在其中一個(gè)淹沒(méi)塊的終止列號(hào)在另一個(gè)淹沒(méi)塊的起始列號(hào)和終止列號(hào)之間,則判定這2個(gè)淹沒(méi)塊連通,否則認(rèn)為這2個(gè)淹沒(méi)塊彼此相互分離。

        (2) 當(dāng)2個(gè)淹沒(méi)塊位于不同的2個(gè)DEM數(shù)據(jù)塊(dem1和dem2)時(shí),若dem1與dem2左右相鄰,2個(gè)淹沒(méi)塊所處的行號(hào)相同,而且左淹沒(méi)塊的終止列號(hào)等于左DEM數(shù)據(jù)塊的寬度減1,右淹沒(méi)塊的起始列號(hào)等于0,則認(rèn)為2個(gè)淹沒(méi)塊連通。

        (3) 若dem1與dem2上下相鄰,且上淹沒(méi)塊的行號(hào)等于上DEM數(shù)據(jù)塊的高度減1,下淹沒(méi)塊的行號(hào)等于0,而且存在某個(gè)淹沒(méi)塊的終止列號(hào)在另一個(gè)淹沒(méi)塊的起始列號(hào)和終止列號(hào)之間,則判定這2個(gè)淹沒(méi)塊連通。

        2.4 淹沒(méi)區(qū)分割

        不同的淹沒(méi)區(qū)通過(guò)淹沒(méi)標(biāo)記進(jìn)行劃分,對(duì)具有相同淹沒(méi)標(biāo)記的淹沒(méi)塊劃分為同一淹沒(méi)區(qū)。在同一塊DEM數(shù)據(jù)中,對(duì)第i行中的每一個(gè)淹沒(méi)塊,分別判斷其與第i+1行的每一個(gè)淹沒(méi)塊的連通情況,將相互連通的淹沒(méi)塊的淹沒(méi)標(biāo)記改成相同的標(biāo)記。如圖3所示,以第一個(gè)淹沒(méi)塊(1,6,7,25∶120∶1∶6∶7)為淹沒(méi)源,分別遍歷下一行的每一個(gè)淹沒(méi)塊,當(dāng)遇到與淹沒(méi)源相連通的淹沒(méi)塊(2,7,8,25∶120∶2∶7∶8)時(shí),將DEM數(shù)據(jù)中所有具有淹沒(méi)源標(biāo)記(25∶120∶1∶6∶7)的淹沒(méi)塊的標(biāo)記改成與淹沒(méi)源相連通的淹沒(méi)塊的淹沒(méi)標(biāo)記(25∶120∶2∶7∶8)。最終形成如圖4所示淹沒(méi)區(qū)。

        當(dāng)存在多個(gè)DEM數(shù)據(jù)塊時(shí),若2個(gè)DEM數(shù)據(jù)塊左右相鄰,分別提取左DEM每行的最后一個(gè)淹沒(méi)塊,右DEM每行的第一個(gè)淹沒(méi)塊,分別判斷所提取的左DEM數(shù)據(jù)塊中的淹沒(méi)塊是否與右DEM數(shù)據(jù)塊中淹沒(méi)塊是否相互連通。若連通,則將DEM數(shù)據(jù)中每個(gè)具有與淹沒(méi)源標(biāo)記相同的淹沒(méi)塊改成與淹沒(méi)源相連通淹沒(méi)塊的標(biāo)記;若兩個(gè)DEM數(shù)據(jù)塊上下相鄰,則分別提取上DEM最后一行的淹沒(méi)塊以及下DEM第一行的淹沒(méi)塊,若存在相連通的2個(gè)淹沒(méi)塊,則將具有淹沒(méi)源標(biāo)記的淹沒(méi)塊的標(biāo)記改成與淹沒(méi)源相連通淹沒(méi)塊的標(biāo)記,其算法如圖5所示。

        3 算法實(shí)現(xiàn)

        傳統(tǒng)的洪水淹沒(méi)分析算法建立在單機(jī)環(huán)境中,受計(jì)算機(jī)性能的限制,無(wú)法滿足大規(guī)模DEM數(shù)據(jù)處理的需要。本文采用Hadoop云計(jì)算平臺(tái)的MapReduce框架[16-18],采用分而治之的方法。將研究區(qū)域劃分成一序列規(guī)則的DEM數(shù)據(jù)塊,以每一塊DEM數(shù)據(jù)塊作為一個(gè)分片,設(shè)計(jì)相應(yīng)的map和reduce函數(shù)[19],其處理流程如圖6所示。

        在進(jìn)行無(wú)源淹沒(méi)分析時(shí),各數(shù)據(jù)塊彼此獨(dú)立,不需要考慮其關(guān)聯(lián)性,通過(guò)Map過(guò)程,可以很好地實(shí)現(xiàn)DEM數(shù)據(jù)的并行處理問(wèn)題。在進(jìn)行有源淹沒(méi)分析時(shí),由于同一個(gè)淹沒(méi)區(qū)可能跨越多個(gè)DEM數(shù)據(jù)塊,在對(duì)研究區(qū)域進(jìn)行分解處理后,需要考慮其關(guān)聯(lián)性,即實(shí)現(xiàn)Reduce過(guò)程。但由于每個(gè)DEM文件的數(shù)據(jù)量都比較大,當(dāng)傳輸?shù)酵粋€(gè)Reduce節(jié)點(diǎn)時(shí),其處理效率類(lèi)似于在單機(jī)中進(jìn)行處理。為了減少數(shù)據(jù)遷移成本和計(jì)算量,本文在進(jìn)行有源淹沒(méi)分析時(shí),通過(guò)Map過(guò)程提取淹沒(méi)塊、并對(duì)淹沒(méi)塊進(jìn)行壓縮的方式,減少了數(shù)據(jù)量,從而實(shí)現(xiàn)了更大量DEM數(shù)據(jù)的計(jì)算問(wèn)題。考慮到MapReduce的處理流程,首先對(duì)淹沒(méi)塊和DEM數(shù)據(jù)類(lèi)進(jìn)行設(shè)計(jì),然后實(shí)現(xiàn)MapReduce鍵值對(duì)的設(shè)計(jì)。

        3.1 淹沒(méi)塊設(shè)計(jì)

        作為洪水淹沒(méi)分析的最小單位,淹沒(méi)塊是實(shí)現(xiàn)DEM數(shù)據(jù)壓縮的關(guān)鍵。為了識(shí)別淹沒(méi)塊在研究區(qū)域中的具體位置以及對(duì)不同淹沒(méi)塊進(jìn)行比較,對(duì)每個(gè)淹沒(méi)塊需要標(biāo)記淹沒(méi)塊所在的行號(hào)、起始列號(hào)、終止列號(hào)和屬于不同淹沒(méi)區(qū)的淹沒(méi)標(biāo)記等信息,而且需要繼承Comparable接口以實(shí)現(xiàn)淹沒(méi)塊大小的比較,其基本結(jié)構(gòu)如圖7所示。

        3.2 DEM類(lèi)設(shè)計(jì)

        以geotiff格式存儲(chǔ)在HDFS中的DEM數(shù)據(jù)無(wú)法像訪問(wèn)本地文件系統(tǒng)一樣進(jìn)行訪問(wèn)。基于HDFS流式數(shù)據(jù)訪問(wèn)模式,本文將每個(gè)DEM數(shù)據(jù)塊以BytesWritable的方式讀取到內(nèi)存中,讀取DEM數(shù)據(jù)塊的基本信息,如坐標(biāo)信息、投影信息與像素值等。其基本結(jié)構(gòu)如圖8所示。

        3.3 MapReduce的鍵值對(duì)設(shè)計(jì)

        MapReduce處理的是形式的數(shù)據(jù),并不能直接對(duì)文件流進(jìn)行處理,只有經(jīng)過(guò)序列化的類(lèi)型才能夠充當(dāng)這個(gè)框架中的鍵或者值。只有繼承Hadoop的序列化接口Writable才可以作為值類(lèi)型,而繼承自WritableComparable接口的類(lèi)型既可以作為鍵類(lèi)型,也可以作為值類(lèi)型。由于淹沒(méi)塊在數(shù)據(jù)處理時(shí)只做內(nèi)部分析用,而且DEM數(shù)據(jù)的數(shù)據(jù)量太大,因此無(wú)論是淹沒(méi)塊還是DEM都無(wú)法直接作為鍵值對(duì)。在進(jìn)行洪水淹沒(méi)分析時(shí),以DEM數(shù)據(jù)塊的路徑作為Map的輸入key,以DEM數(shù)據(jù)塊的數(shù)據(jù)流作為Map的輸入value,將處理后的每個(gè)DEM數(shù)據(jù)塊的所有淹沒(méi)塊Table作為map過(guò)程的輸出value。其基本結(jié)構(gòu)如圖9所示。

        圖9中,fileName代表DEM數(shù)據(jù)塊在HDFS中的文件名,dx、dy代表其所在的行列號(hào),Row代表每行所有淹沒(méi)塊的集合。在Reduce過(guò)程中,進(jìn)行淹沒(méi)區(qū)的合并,并根據(jù)淹沒(méi)源Point所在淹沒(méi)塊的淹沒(méi)標(biāo)記來(lái)提取淹沒(méi)源所屬的淹沒(méi)區(qū),舍去不包含淹沒(méi)區(qū)的Table,并將余下的Table傳遞到下一個(gè)Map過(guò)程中;由fileName讀取DEM數(shù)據(jù),根據(jù)淹沒(méi)塊及淹沒(méi)水位修改其像素值,并輸出到指定的位置。

        4 算法測(cè)試分析

        為了驗(yàn)證本文所提出的洪水淹沒(méi)分析并行算法的有效性,采用的實(shí)驗(yàn)系統(tǒng)配置環(huán)境如下:Centos7操作系統(tǒng)由2個(gè)2.6GHz的IntelR Core TM i7-6700HQ的CPU、4G的運(yùn)行內(nèi)存和100G的磁盤(pán)構(gòu)成,運(yùn)行的Hadoop云計(jì)算平臺(tái)包含一個(gè)主節(jié)點(diǎn)hqf0和2個(gè)子節(jié)點(diǎn)hqf1和hqf2,其中的主節(jié)點(diǎn)hqf0開(kāi)啟NameNode、JobHistoryServer和ResourceManager服務(wù);第一個(gè)子節(jié)點(diǎn)hqf1開(kāi)啟SecondNameNode、DataNode和NodeManager服務(wù);第二個(gè)子節(jié)點(diǎn)開(kāi)啟DataNode和NodeManager服務(wù)。由于集群節(jié)點(diǎn)在同一個(gè)機(jī)架上,而且數(shù)據(jù)節(jié)點(diǎn)只存在2個(gè),因此,將文件塊的副本數(shù)設(shè)置為1。盡管DEM數(shù)據(jù)在HDFS中能夠進(jìn)行分塊存儲(chǔ),但DEM數(shù)據(jù)量巨大,受子節(jié)點(diǎn)計(jì)算性能的限制,大DEM數(shù)據(jù)塊在單個(gè)節(jié)點(diǎn)中的處理效率低下。因此,在Hadoop集群中對(duì)DEM數(shù)據(jù)進(jìn)行處理時(shí),有必要對(duì)DEM數(shù)據(jù)進(jìn)行分割。本文采用地理空間數(shù)據(jù)云上按規(guī)則劃分的DEM數(shù)據(jù),其分辨率為30 m,尺寸大小為360 1×360 1。

        在開(kāi)展洪水淹沒(méi)分析時(shí),對(duì)每一個(gè)DEM數(shù)據(jù)塊啟動(dòng)一個(gè)Map任務(wù)進(jìn)行處理,將處理完的淹沒(méi)塊數(shù)據(jù)在同一個(gè)Reduce任務(wù)中進(jìn)行匯總,根據(jù)淹沒(méi)點(diǎn)的淹沒(méi)標(biāo)記提取相連的淹沒(méi)區(qū),重置DEM數(shù)據(jù)的淹沒(méi)值,并由Map任務(wù)將屬于淹沒(méi)區(qū)的DEM數(shù)據(jù)寫(xiě)入到指定的位置。其詳細(xì)的運(yùn)行情況如表1所示。

        由于每個(gè)DEM數(shù)據(jù)塊中淹沒(méi)塊的數(shù)量各不相同,在運(yùn)行環(huán)境一致的情況下,其處理時(shí)間各不相同。淹沒(méi)塊多的DEM數(shù)據(jù)塊,壓縮率低,洪水淹沒(méi)范圍較大,淹沒(méi)區(qū)情況復(fù)雜,連通性較差,所需要的處理時(shí)間較多。受壓縮率的影響,當(dāng)淹沒(méi)塊數(shù)據(jù)量超過(guò)Reduce計(jì)算節(jié)點(diǎn)的計(jì)算能力時(shí),需分批執(zhí)行DEM數(shù)據(jù)的處理。在Reduce節(jié)點(diǎn)計(jì)算性能允許的情況下,對(duì)大規(guī)模DEM數(shù)據(jù)的處理,適當(dāng)增加子節(jié)點(diǎn),可以減少淹沒(méi)塊計(jì)算與淹沒(méi)區(qū)提取的總時(shí)間,但其數(shù)據(jù)匯總時(shí)間并不會(huì)減少;在子節(jié)點(diǎn)一定的情況下,若DEM數(shù)據(jù)量少于或等于子節(jié)點(diǎn)數(shù),其Map過(guò)程所需要的時(shí)間與淹沒(méi)塊最多的DEM數(shù)據(jù)塊處理所需要的時(shí)間成正比,其Reduce過(guò)程隨著DEM數(shù)據(jù)量的增加而增加,而且受到DEM數(shù)據(jù)塊中淹沒(méi)塊數(shù)量的影響。

        以江西省內(nèi)的青嵐湖、軍山湖、陳家湖和鄱陽(yáng)湖為例,提取出8 m和10 m淹沒(méi)水位下的淹沒(méi)范圍,結(jié)合某個(gè)時(shí)期(2010年3月)的遙感影像,對(duì)其淹沒(méi)效果進(jìn)行模擬并對(duì)其淹沒(méi)范圍的變化情況進(jìn)行分析,如圖10~12所示。

        由表1以及圖10~12的淹沒(méi)分析結(jié)果可知,本文研究過(guò)程中,對(duì)較大規(guī)模的流域或者研究區(qū)所采用的方法具有較好的模擬效果,并且該方法能夠較好地識(shí)別出湖中的孤島,如圖13所示。

        5 結(jié) 論

        本文針對(duì)DEM數(shù)據(jù)量大、單機(jī)環(huán)境計(jì)算力有限,以及現(xiàn)存洪水淹沒(méi)分析算法無(wú)法滿足分布式洪水淹沒(méi)分析的需要,提出了一種能夠適用于Hadoop云平臺(tái)的洪水淹沒(méi)分析并行算法。該算法具有以下優(yōu)勢(shì):

        (1) 能夠解決在Hadoop云平臺(tái)上利用大規(guī)模DEM數(shù)據(jù)進(jìn)行洪水淹沒(méi)分析時(shí)所存在的問(wèn)題。

        (2) 在沒(méi)有指定淹沒(méi)點(diǎn)時(shí),該算法能夠同時(shí)而且快速地提取出研究區(qū)中所有的淹沒(méi)區(qū);在給定淹沒(méi)點(diǎn)時(shí),該算法能夠較快地提取出淹沒(méi)點(diǎn)所在的淹沒(méi)區(qū)。

        (3) 在進(jìn)行洪水淹沒(méi)分析時(shí),該算法能夠快速地計(jì)算出每個(gè)淹沒(méi)柵格的淹沒(méi)水深并提取出洪水的最終淹沒(méi)范圍。

        參考文獻(xiàn):

        [1] 唐震,李勇,茅昌平,等.基于ArcGIS Engine的洪水淹沒(méi)模擬系統(tǒng)構(gòu)建[J].人民長(zhǎng)江,2016,47(S2):1-3,51.

        [2] 王嘉芃,劉婷,俞志強(qiáng),等.基于COSMO-SkyMed和SPOT-5的城鎮(zhèn)洪水淹沒(méi)信息快速提取研究[J].遙感技術(shù)與應(yīng)用,2016,31(3):564-571.

        [3] 李瓊,廖蔚.基于開(kāi)源Hadoop的洪水淹沒(méi)[J].江西測(cè)繪,2017(4):61-64.

        [4] 王船海,閆紅飛,馬騰飛.分布式架構(gòu)水文模型[J].河海大學(xué)學(xué)報(bào):自然科學(xué)版,2009(5):550-555.

        [5] 芮孝芳.論流域水文模型[J].水利水電科技進(jìn)展,2017,37(4):1-7.

        [6] 郭利華,龍毅.基于DEM的洪水淹沒(méi)分析[J].測(cè)繪通報(bào),2002(11):25-27,30.

        [7] 張東華,劉榮,張?jiān)佇?,?一種基于DEM的洪水有源淹沒(méi)算法的設(shè)計(jì)與實(shí)現(xiàn)[J].東華理工大學(xué)學(xué)報(bào)(自然科學(xué)版),2009,32(2):181-184.

        [8] 湯國(guó)安,李發(fā)源,劉學(xué)軍.數(shù)字高程模型教程(第3版)[M].北京:科學(xué)出版社,2016.

        [9] 劉仁義,劉南.基于GIS的復(fù)雜地形洪水淹沒(méi)區(qū)計(jì)算方法[J].地理學(xué)報(bào),2001(1):1-6.

        [10] 楊軍,賈鵬,周廷剛,等.基于DEM的洪水淹沒(méi)模擬分析及虛擬現(xiàn)實(shí)表達(dá)[J].西南大學(xué)學(xué)報(bào)(自然科學(xué)版),2011(10):143-148.

        [11] 趙秀英,王耀強(qiáng),李洪玉,等.基于DEM的有源淹沒(méi)算法設(shè)計(jì)與實(shí)現(xiàn):以種子蔓延法為例[J].科技導(dǎo)報(bào),2012(8):61-64.

        [12] 楊啟貴,王漢東.一種大區(qū)域洪水淹沒(méi)范圍快速提取的分塊種子蔓延算法[J].華中師范大學(xué)學(xué)報(bào)(自然科學(xué)版),2015,49(4):603-607.

        [13] 周佳.時(shí)間序列無(wú)失真壓縮算法的研究[D].西安:西安電子科技大學(xué),2011.

        [14] 陳吉榮,樂(lè)嘉錦.基于Hadoop生態(tài)系統(tǒng)的大數(shù)據(jù)解決方案綜述[J].計(jì)算機(jī)工程與科學(xué),2013(10):25-35.

        [15] 李倩,施霞萍.基于Hadoop MapReduce圖像處理的數(shù)據(jù)類(lèi)型設(shè)計(jì)[J].軟件導(dǎo)刊,2012,11(4):182-183.

        [16] 于金良,朱志祥,李聰穎.Hadoop MapReduce新舊架構(gòu)的對(duì)比研究綜述[J].計(jì)算機(jī)與數(shù)字工程,2017(1):83-87.

        [17] 劉義,陳犖,景寧,等.利用MapReduce進(jìn)行批量遙感影像瓦片金字塔構(gòu)建[J].武漢大學(xué)學(xué)報(bào)(信息科學(xué)版),2013(3):278-282.

        [18] 黃山,王波濤,王國(guó)仁,等.MapReduce優(yōu)化技術(shù)綜述[J].計(jì)算機(jī)科學(xué)與探索,2013(10):885-905.

        [19] Miss J Vini,Rachel Nallathamby,Rene Robin C R.A Novel Approach for Replica Synchronization in Hadoop Distributed File Systems[J].Procedia Computer Science,2015(50):590-595.

        (編輯:趙秋云)

        猜你喜歡
        數(shù)據(jù)量柵格洪水
        基于鄰域柵格篩選的點(diǎn)云邊緣點(diǎn)提取方法*
        基于大數(shù)據(jù)量的初至層析成像算法優(yōu)化
        計(jì)算Lyapunov指數(shù)的模糊C均值聚類(lèi)小數(shù)據(jù)量法
        高刷新率不容易顯示器需求與接口標(biāo)準(zhǔn)帶寬
        寬帶信號(hào)采集與大數(shù)據(jù)量傳輸系統(tǒng)設(shè)計(jì)與研究
        電子制作(2019年13期)2020-01-14 03:15:18
        洪水時(shí)遇到電線低垂或折斷該怎么辦
        又見(jiàn)洪水(外二首)
        洪水來(lái)了
        不同剖面形狀的柵格壁對(duì)柵格翼氣動(dòng)特性的影響
        論設(shè)計(jì)洪水計(jì)算
        亚洲av综合国产av日韩| 亚洲色AV天天天天天天| 亚洲av成人久久精品| 一区二区三区视频在线观看| 怡红院av一区二区三区| 精品国产一区二区三区久久久狼| 在线看亚洲十八禁网站| 亚洲精品中文字幕不卡| 国产精品无码一区二区三区电影| 亚洲av无码男人的天堂在线| 欧美精品久久久久久三级| 久久一区二区视频在线观看| 国产精品 无码专区| 欧美成人精品一区二区综合| 日日噜噜夜夜狠狠2021| 日韩精品中文字幕第二页 | 经典亚洲一区二区三区| 国产高清成人在线观看视频| 丰满岳妇乱一区二区三区| 国产在线无码免费视频2021| 国产情侣自拍偷拍精品| 中文区中文字幕免费看| 嫖妓丰满肥熟妇在线精品| 丰满熟妇人妻av无码区| 亚洲视频一区二区免费看| 成午夜精品一区二区三区| 国产无码夜夜一区二区| 性一交一乱一乱一视频亚洲熟妇| 精品一区二区三区四区国产| 亚洲精品无码久久久久秋霞 | 亚洲国产av一区二区三| 国产人妖网站在线视频| 国产成人亚洲精品| 日本丰满妇人成熟免费中文字幕| 蜜桃人妻午夜精品一区二区三区 | 日本动漫瀑乳h动漫啪啪免费| 人妻精品无码一区二区三区 | 国产久久久自拍视频在线观看| 领导边摸边吃奶边做爽在线观看 | 成片免费观看视频大全| 国产精品高潮av有码久久|