亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        遙感衛(wèi)星數(shù)據(jù)異地備份技術(shù)研究

        2015-03-11 02:13:34馮旭祥馮鐘葵陳俊唐夢輝張洪群付曉波
        遙感信息 2015年4期
        關(guān)鍵詞:網(wǎng)絡(luò)帶寬歷史數(shù)據(jù)數(shù)據(jù)量

        馮旭祥,馮鐘葵,陳俊,唐夢輝,張洪群,付曉波

        (1.中國科學(xué)院遙感與數(shù)字地球研究所,北京100094;2.內(nèi)蒙古電力集團培訓(xùn)中心,呼和浩特010010)

        遙感衛(wèi)星數(shù)據(jù)異地備份技術(shù)研究

        馮旭祥1,馮鐘葵1,陳俊1,唐夢輝1,張洪群1,付曉波2

        (1.中國科學(xué)院遙感與數(shù)字地球研究所,北京100094;2.內(nèi)蒙古電力集團培訓(xùn)中心,呼和浩特010010)

        為了有效解決遙感衛(wèi)星數(shù)據(jù)的安全存儲問題,該文研究了一種基于網(wǎng)絡(luò)技術(shù)的遙感衛(wèi)星數(shù)據(jù)異地備份方法。在充分考慮遙感衛(wèi)星數(shù)據(jù)的結(jié)構(gòu)、組成、存儲形式和遙感衛(wèi)星數(shù)據(jù)備份的特點的基礎(chǔ)上,對遙感衛(wèi)星數(shù)據(jù)異地備份中的異地備份站點選擇、備份數(shù)據(jù)管理、數(shù)據(jù)一致性、數(shù)據(jù)恢復(fù)以及備份的創(chuàng)建方法等問題進行了分析,并提出了解決的方法與技術(shù);隨后引入了應(yīng)用系統(tǒng)示例。該應(yīng)用系統(tǒng)的運行結(jié)果顯示該文研究的遙感衛(wèi)星數(shù)據(jù)異地備份技術(shù)可以有效完成遙感衛(wèi)星數(shù)據(jù)的異地備份。

        遙感衛(wèi)星數(shù)據(jù);異地備份;備份一致性;數(shù)據(jù)恢復(fù);備份管理;備份站點

        0 引 言

        目前遙感衛(wèi)星數(shù)據(jù)的存檔多采用本地存儲和單介質(zhì)保存,一旦發(fā)生火災(zāi)、地震等災(zāi)害將可能造成數(shù)據(jù)損毀或丟失。為了有效地保護國家珍貴的遙感衛(wèi)星數(shù)據(jù)資源,需要建立一套高效的遙感衛(wèi)星數(shù)據(jù)異地備份機制,即在異地創(chuàng)建遙感衛(wèi)星數(shù)據(jù)的備份存儲和管理,以有效解決衛(wèi)星數(shù)據(jù)的安全存儲問題。

        早期的遙感衛(wèi)星數(shù)據(jù)異地備份一般是利用交通工具將載有遙感衛(wèi)星數(shù)據(jù)的移動介質(zhì)從本地站點運送到異地站點進行保存。此種方法雖然能夠保證數(shù)據(jù)的異地備份,但具有明顯的弊端,主要體現(xiàn)在:①備份時效性差、費用高,選擇的異地站點一般距本地站點較遠(幾百至幾千公里),使用交通工具進行運送的時間開銷會較大且備份費用高。②備份管理難度大,由于備份的移動介質(zhì)處于離線狀態(tài),因此無法獲取備份數(shù)據(jù)的狀態(tài),也不便于對已備份數(shù)據(jù)進行檢索。③備份數(shù)據(jù)恢復(fù)過程復(fù)雜且恢復(fù)速度較慢。④備份數(shù)據(jù)的存儲質(zhì)量難以保證,如果一旦移動介質(zhì)出現(xiàn)問題,所備份的數(shù)據(jù)也將難以恢復(fù)。

        隨著網(wǎng)絡(luò)技術(shù)的發(fā)展,越來越多的數(shù)據(jù)異地備份采用了基于網(wǎng)絡(luò)的備份方法,市場上也有較多的數(shù)據(jù)異地備份軟件,如Symantec NetBackup、IBM TSM和EMC Networker等,主要應(yīng)用于銀行、網(wǎng)站和圖書館系統(tǒng),完成對單一的文件數(shù)據(jù)和數(shù)據(jù)庫的備份。但是,這些備份軟件不能實現(xiàn)對遙感衛(wèi)星數(shù)據(jù)各組成部分的同步備份并保持各組成部分的一致性,因此無法滿足遙感衛(wèi)星數(shù)據(jù)異地備份的需求。

        針對以上問題,本文在充分考慮遙感衛(wèi)星數(shù)據(jù)及其備份特點基礎(chǔ)上,對遙感衛(wèi)星數(shù)據(jù)進行異地備份的關(guān)鍵技術(shù)要點進行了深入分析,給出了對遙感衛(wèi)星數(shù)據(jù)進行有效異地備份的解決方案,包括如何選擇備份站點、備份數(shù)據(jù)的管理、數(shù)據(jù)的一致性保持、數(shù)據(jù)恢復(fù)以及備份創(chuàng)建方法等。本文還基于上述方案給出了一個有效解決遙感衛(wèi)星數(shù)據(jù)異地備份問題的應(yīng)用實例。

        1 衛(wèi)星數(shù)據(jù)及異地備份的特點

        為便于遙感衛(wèi)星數(shù)據(jù)存儲管理及后續(xù)的產(chǎn)品處理,遙感衛(wèi)星原始數(shù)據(jù)通常進行簡單的格式編排,以單軌(或數(shù)據(jù)段)數(shù)據(jù)為單位形成文件進行存檔,稱為衛(wèi)星數(shù)據(jù)存檔文件。此外,基于對遙感衛(wèi)星數(shù)據(jù)進行查詢、訪問的需求,還需對與衛(wèi)星數(shù)據(jù)存檔文件建立與之關(guān)聯(lián)的元數(shù)據(jù)文件和瀏覽圖文件并進行存檔。因此,遙感衛(wèi)星數(shù)據(jù)備份主要是考慮如何對這三類文件進行備份管理。一般地,這三類文件的存檔形式如下[1-4]:①衛(wèi)星數(shù)據(jù)存檔文件。包含整軌(或數(shù)據(jù)段)衛(wèi)星數(shù)據(jù),一般在幾十MB至幾十GB大小,以二進制文件的形式存放于文件系統(tǒng)中。為方便進行數(shù)據(jù)管理和訪問,需在數(shù)據(jù)庫中記錄存檔數(shù)據(jù)文件的路徑信息;衛(wèi)星數(shù)據(jù)存檔文件一般采用分級存儲。分級存儲包括在線存儲、近線存儲和離線存儲三級,一般地,在線存儲采用高速磁盤,近線存儲采用磁帶庫,離線存儲采用磁帶[4-6]。②元數(shù)據(jù)文件。包含衛(wèi)星數(shù)據(jù)存檔文件的屬性信息,文件經(jīng)過解析,屬性信息注入數(shù)據(jù)庫中作為數(shù)據(jù)記錄進行存檔[4,7]。③瀏覽圖文件。包含衛(wèi)星數(shù)據(jù)存檔文件中整軌和單景衛(wèi)星數(shù)據(jù)的瀏覽圖,一般在1MB以下。以文件的形式存放在文件系統(tǒng)中,同時在數(shù)據(jù)庫中記錄瀏覽圖文件的路徑。

        遙感衛(wèi)星數(shù)據(jù)的異地備份具有以下特點[4-6]:①數(shù)據(jù)總量大且單個數(shù)據(jù)文件較大,備份的創(chuàng)建與維護困難。隨著衛(wèi)星數(shù)量增加、衛(wèi)星分辨率的提高,遙感衛(wèi)星數(shù)據(jù)量增長飛快。以2013年發(fā)射的高分一號衛(wèi)星為例,按每天下傳4軌數(shù)據(jù),每軌數(shù)據(jù)10分鐘,則每軌數(shù)據(jù)大小約為63GB,每天產(chǎn)生數(shù)量約為254GB,每年產(chǎn)生數(shù)據(jù)量約為93TB。綜合考慮目前在軌的衛(wèi)星和已完成規(guī)劃即將發(fā)射運行的衛(wèi)星,產(chǎn)生的衛(wèi)星數(shù)據(jù)量會非常巨大。創(chuàng)建與保持如此海量的數(shù)據(jù)備份與傳統(tǒng)的普通數(shù)據(jù)備份差異較大。同時衛(wèi)星數(shù)據(jù)存檔文件是幾十MB至幾十GB大小的單個文件,在進行網(wǎng)絡(luò)傳輸時耗時較長且會占用較多的網(wǎng)絡(luò)帶寬,容易導(dǎo)致數(shù)據(jù)不一致的情況發(fā)生。②存檔數(shù)據(jù)的組成和保存形式多樣,備份數(shù)據(jù)的管理復(fù)雜。遙感衛(wèi)星數(shù)據(jù)的備份包含對衛(wèi)星數(shù)據(jù)存檔文件、元數(shù)據(jù)文件和瀏覽圖文件的備份,備份過程需要根據(jù)各類數(shù)據(jù)的特點完成備份,同時保持各類數(shù)據(jù)之間的關(guān)聯(lián)性。備份數(shù)據(jù)的管理是數(shù)據(jù)恢復(fù)的基礎(chǔ),衛(wèi)星數(shù)據(jù)包含有諸如地理信息、云量、傳感器等特有的屬性,需要根據(jù)衛(wèi)星數(shù)據(jù)的屬性信息建立其相對應(yīng)的編目信息,以便于對衛(wèi)星數(shù)據(jù)進行管理。③備份數(shù)據(jù)的一致性保持較難,由于存檔數(shù)據(jù)保存形式多樣且單個存檔文件數(shù)據(jù)量大,如何在備份時,既完成對一軌數(shù)據(jù)包含的多種數(shù)據(jù)的備份,又完成對數(shù)據(jù)之間關(guān)聯(lián)性的備份,同時保證本地和異地數(shù)據(jù)的一致性,這是進行衛(wèi)星數(shù)據(jù)異地備份的一個關(guān)鍵問題。

        2 異地備份技術(shù)研究

        2.1 異地備份站點的選擇

        所謂數(shù)據(jù)的異地備份,是指在兩個相距一定距離的空間各自保存一份關(guān)鍵業(yè)務(wù)數(shù)據(jù),并提供數(shù)據(jù)恢復(fù)手段的數(shù)據(jù)安全存儲方式。兩地之間的距離常根據(jù)工作條件、數(shù)據(jù)的重要性、一級行政區(qū)劃等因素統(tǒng)籌考慮。一般來說,相距100km以上的兩地,能夠應(yīng)付地區(qū)性的自然和人為災(zāi)害所造成的數(shù)據(jù)安全危機。

        為實現(xiàn)在兩地之間的數(shù)據(jù)備份,需要在兩地之間建立網(wǎng)絡(luò)連接。考慮到遙感衛(wèi)星數(shù)據(jù)總量大,同時新獲取的遙感衛(wèi)星數(shù)據(jù)增長速度也較快,因此對兩地的網(wǎng)絡(luò)帶寬有一定的要求。在確定備份所需網(wǎng)絡(luò)帶寬時,需要同時考慮歷史數(shù)據(jù)與每日新增數(shù)據(jù)的數(shù)據(jù)量及其總的耗時要求、備份的時間窗口和網(wǎng)絡(luò)利用率等要素。一個計算示例如下:本地已有歷史數(shù)據(jù)200TB,考慮在1年之內(nèi)完成歷史數(shù)據(jù)從本地到異地的備份,在每日備份時間窗口10小時、網(wǎng)絡(luò)帶寬利用率在70%的情況下,需要約229Mb/s的帶寬。按每日新增數(shù)據(jù)254GB,如需要在3小時傳輸完成所有新增數(shù)據(jù)到備份站點,在網(wǎng)絡(luò)帶寬利用率為70%的情況下,需要約276Mb/s的帶寬。若要同時滿足這兩個指標,則需每日備份時間窗口為13小時,網(wǎng)絡(luò)帶寬需保證大于276Mb/s。

        從示例可以看出,為滿足歷史數(shù)據(jù)與新增數(shù)據(jù)備份的耗時要求,有不同的網(wǎng)絡(luò)帶寬和備份時間窗口要求。總的網(wǎng)絡(luò)帶寬要求取其較大值;總的備份時間窗口則是兩類數(shù)據(jù)備份時間窗口之和。

        一般地,由于遙感衛(wèi)星數(shù)據(jù)的接收管理部門通常都有多個衛(wèi)星地面站,為減少備份的數(shù)據(jù)傳輸量,衛(wèi)星數(shù)據(jù)異地備份可以優(yōu)先考慮選擇異地衛(wèi)星地面站作為備份站點。

        2.2 備份的創(chuàng)建方法

        遙感衛(wèi)星數(shù)據(jù)異地備份的過程,首先是遙感衛(wèi)星數(shù)據(jù)異地備份的初始化,即完成對本地數(shù)據(jù)存儲中的歷史衛(wèi)星數(shù)據(jù)到異地的備份;然后是備份的正常運行,主要是對新增衛(wèi)星數(shù)據(jù)的備份。針對初始化步驟的不同,可以分為兩種不同的備份方法,下面分別進行介紹。

        (1)歷史數(shù)據(jù)優(yōu)先的備份方法

        歷史數(shù)據(jù)優(yōu)先的方法是指在進行數(shù)據(jù)異地備份的初始化時,先將所有已有的數(shù)據(jù)備份到異地,再對備份期間新增的數(shù)據(jù)進行備份,重復(fù)此過程直到所有衛(wèi)星數(shù)據(jù)都已完成備份;然后進入到備份的正常運行模式,完成后續(xù)新增數(shù)據(jù)的備份,這種創(chuàng)建方法的運行流程圖如圖1(a)所示,該運行模式的特點是運行過程簡單,通過幾次迭代過程就可以完成對已有數(shù)據(jù)的備份,迭代所需的次數(shù)取決于已有數(shù)據(jù)的數(shù)量與網(wǎng)絡(luò)帶寬的大小。但是這種運行模式有一個比較大的缺點,在異地備份初始化期間,新增數(shù)據(jù)無法得到及時備份且滯后的時間較長。圖1(b)是備份過程的時序圖,從圖可以看出備份的過程主要有3個階段,分別是歷史數(shù)據(jù)的備份、迭代過程新增數(shù)據(jù)備份以及正常運行過程中新增數(shù)據(jù)的備份。

        設(shè)定這樣的一個異地備份環(huán)境,其數(shù)據(jù)與網(wǎng)絡(luò)情況描述如下:①需要備份的歷史數(shù)據(jù)200TB;②每日新增數(shù)據(jù)250GB;③本地與異地之間數(shù)據(jù)傳輸網(wǎng)絡(luò)帶寬為271Mbps,設(shè)定網(wǎng)絡(luò)利用率為70%,每日可用的備份時間為13小時,即每日可備份數(shù)據(jù)量為1084GB。

        在上述限定條件下,創(chuàng)建初始備份約需要5次迭代,各次迭代的所需備份的數(shù)據(jù)、時間以及迭代時新增數(shù)據(jù)的情況參見表1。通過迭代過程可以看出,第一次備份迭代所需的時間較長,在本例中,初始備份過程需要188.9天時間,這樣在第一次迭代時產(chǎn)生的數(shù)據(jù)需要等待188.9天才能開始進行備份,并在約43.5天后完成備份。

        圖1 歷史數(shù)據(jù)優(yōu)先的備份方法示意圖

        表1 備份創(chuàng)建的迭代過程

        考慮一個更通用的場景(以下各數(shù)據(jù)量的單位相同):需要備份的歷史數(shù)據(jù)為D0,每日新增數(shù)據(jù)Da,每日可完成的備份數(shù)據(jù)量為da,則可以得出第n次迭代所需的時間Tn為:

        迭代終止的條件是:

        則初始備份創(chuàng)建所需的時間為:

        (2)新增數(shù)據(jù)優(yōu)先的備份方法

        新增數(shù)據(jù)優(yōu)先的備份方法是指,優(yōu)先完成對新增衛(wèi)星數(shù)據(jù)的備份,在備份時間窗口允許的前提下進行歷史數(shù)據(jù)的備份。備份過程主要分為兩個階段,第一個階段是初始備份的創(chuàng)建過程,在保證新增衛(wèi)星數(shù)據(jù)備份的基礎(chǔ)上,在剩余可用的備份時間窗口內(nèi)完成對歷史衛(wèi)星數(shù)據(jù)的備份,直到所有的歷史衛(wèi)星數(shù)據(jù)都已完成備份。第二個階段是備份的正常運行階段,只需要完成對新增衛(wèi)星數(shù)據(jù)的備份。備份過程的流程圖如圖2(a)所示,而圖2(b)則顯示了備份過程的時序圖,從時序圖可以看出備份創(chuàng)建的過程。

        圖2 新增數(shù)據(jù)優(yōu)先備份過程示意圖

        在與上一節(jié)歷史數(shù)據(jù)優(yōu)先模式相同的限定條件下,除去新增數(shù)據(jù),每日可用于傳輸歷史數(shù)據(jù)流量的帶寬容量為834GB,因此完成備份初始化所需的時間為245.6天。

        考慮一個更通用的場景(以下各數(shù)據(jù)量的單位相同):現(xiàn)有需要備份的衛(wèi)星數(shù)據(jù)量為D0,每日新增數(shù)據(jù)量Da,每日完成的備份數(shù)據(jù)量為da,則初始備份創(chuàng)建所需的時間為:

        上述兩種備份創(chuàng)建方法,歷史數(shù)據(jù)優(yōu)先的備份方法可以使歷史數(shù)據(jù)優(yōu)先得到保護,且運行模式較為簡單;新增數(shù)據(jù)優(yōu)先的備份方法交錯進行歷史數(shù)據(jù)與新增數(shù)據(jù)的備份,其運行方式更為復(fù)雜。

        考慮到在采用分級存儲時,根據(jù)衛(wèi)星數(shù)據(jù)存儲管理的策略,新增數(shù)據(jù)在產(chǎn)生后的一段時間內(nèi)(通常是1周到1個月)會在各級存儲中都留有備份,另外新增數(shù)據(jù)是熱點數(shù)據(jù),會被更多的讀回到系統(tǒng)進行處理,這樣也會形成新增數(shù)據(jù)在系統(tǒng)中的多份拷貝。相比較而言歷史數(shù)據(jù)一般都存儲在單一介質(zhì)上,更需要得到保護。因此在歷史數(shù)據(jù)的數(shù)據(jù)總量不太多的情況下,如可以在半年內(nèi)完成對歷史數(shù)據(jù)的備份,可以優(yōu)先考慮歷史數(shù)據(jù)優(yōu)先的備份建立模式;其他情況則可優(yōu)先使用新增數(shù)據(jù)優(yōu)先的備份創(chuàng)建方法。

        2.3 數(shù)據(jù)一致性檢查

        在基于網(wǎng)絡(luò)環(huán)境進行備份時,數(shù)據(jù)是在廣域網(wǎng)的環(huán)境下進行備份傳輸,容易出現(xiàn)數(shù)據(jù)不一致的情況。對此,可以通過備份過程中和備份完成后進行一致性檢查來解決[8]。

        備份過程中的處理是指在備份過程中,通過一系列處理方法和手段防止數(shù)據(jù)不一致的情況出現(xiàn),主要包括基于任務(wù)的數(shù)據(jù)傳輸管理方法和大文件的數(shù)據(jù)檢查機制。

        基于任務(wù)的數(shù)據(jù)傳輸管理方法是指對數(shù)據(jù)傳輸過程進行細分,將一軌衛(wèi)星數(shù)據(jù)的傳輸作為一個數(shù)據(jù)傳輸任務(wù),對傳輸過程中的每個子步驟以子任務(wù)的方式進行管理,以確保數(shù)據(jù)傳輸過程的完整、正確[9]。具體的可以將數(shù)據(jù)傳輸任務(wù)分為衛(wèi)星數(shù)據(jù)存檔文件傳輸、元數(shù)據(jù)信息傳輸和瀏覽圖文件傳輸3個子任務(wù),并建立合適的子任務(wù)之間的通信機制。在每一個子任務(wù)正確完成之后,開始下一個子任務(wù)。只有在3個子任務(wù)都完成時,才將數(shù)據(jù)標記為備份成功。否則將備份任務(wù)標記為不成功,在備份不成功時可以進行數(shù)據(jù)重傳,可以選擇對失敗的數(shù)據(jù)或所有數(shù)據(jù)進行重傳。

        大文件的數(shù)據(jù)檢查是指在數(shù)據(jù)傳輸完成之后,立即對數(shù)據(jù)的正確性進行檢查。由于衛(wèi)星數(shù)據(jù)存檔文件較大,且通過本地與異地之間的廣域網(wǎng)環(huán)境之間進行傳輸,為防止由于網(wǎng)絡(luò)傳輸?shù)仍蛟斐傻臄?shù)據(jù)損壞,需要建立大文件的數(shù)據(jù)檢查。其方法是,傳輸前先在本地生成衛(wèi)星數(shù)據(jù)存檔文件的校驗碼,校驗碼可以采用CRC或MD5方式生成,生成的CRC或MD5校驗碼通過消息中間件以文本消息的形式傳輸?shù)疆惖?,衛(wèi)星數(shù)據(jù)存檔文件則通過FTP協(xié)議傳輸?shù)疆惖兀r灤a與文件的傳輸控制通過基于任務(wù)的數(shù)據(jù)傳輸管理來完成。異地接收到衛(wèi)星數(shù)據(jù)存檔文件及校驗碼之后,再次計算衛(wèi)星數(shù)據(jù)存檔文件的校驗碼,同時與接收到的校驗碼進行比對,只有在兩邊數(shù)據(jù)計算的校驗碼相匹配時,才設(shè)定衛(wèi)星數(shù)據(jù)存檔文件傳輸成功,否則進行數(shù)據(jù)重傳。

        備份完成后的一致性檢查主要用于對本地和異地已備份數(shù)據(jù)的一致性進行檢查。具體是指在備份完成后,由用戶發(fā)起對備份數(shù)據(jù)進行檢查,檢查發(fā)現(xiàn)不一致的數(shù)據(jù),并對存在不一致的數(shù)據(jù)進行重傳處理。主要包括單軌數(shù)據(jù)的一致性狀態(tài)檢查和基于數(shù)據(jù)庫的一致性檢查機制。單軌數(shù)據(jù)的一致性狀態(tài)檢查是指對完成異地備份的單軌遙感衛(wèi)星數(shù)據(jù)所包含的各類數(shù)據(jù)信息進行一致性檢查,以確保完成備份的遙感衛(wèi)星數(shù)據(jù)處于正確的異地備份狀態(tài)。檢查的內(nèi)容主要有:以校驗碼檢查衛(wèi)星數(shù)據(jù)存檔文件是否一致、數(shù)據(jù)庫中的元數(shù)據(jù)信息是否一致以及瀏覽圖文件信息是否一致。對于檢查后發(fā)現(xiàn)不一致的備份數(shù)據(jù)發(fā)起數(shù)據(jù)重傳任務(wù)。

        基于數(shù)據(jù)庫的本地與異地數(shù)據(jù)一致性檢查機制是指,以基于本地或異地的元數(shù)據(jù)數(shù)據(jù)庫信息為基準,發(fā)起數(shù)據(jù)一致性檢查。主要是比較在本地標識為已備份完成的數(shù)據(jù)信息是否在異地已有一個備份副本,和在異地已有備份副本的數(shù)據(jù)信息是否在本地已標識為已備份。通過建立這種事后的一致性檢查機制可以確保本地所有數(shù)據(jù)都能按序備份到異地,而在異地已完成備份的數(shù)據(jù)能在本地有一個正確的標識?;跀?shù)據(jù)庫的本地與異地數(shù)據(jù)同步檢查機制獨立于常規(guī)的數(shù)據(jù)備份任務(wù),可以定期發(fā)起這種一致性檢查。

        2.4 數(shù)據(jù)恢復(fù)

        異地備份的最終目的是為了便于在本地的數(shù)據(jù)遭到破壞時,能快速方便地將數(shù)據(jù)恢復(fù)到本地。因此,在構(gòu)建異地備份系統(tǒng)時,還需要考慮備份數(shù)據(jù)恢復(fù)的問題。對于衛(wèi)星數(shù)據(jù)異地備份而言,數(shù)據(jù)恢復(fù)的最小粒度為單軌數(shù)據(jù)。當(dāng)發(fā)現(xiàn)數(shù)據(jù)損壞時,對衛(wèi)星數(shù)據(jù)存檔文件、編目信息和瀏覽圖文件都要進行恢復(fù)。

        為了對備份的數(shù)據(jù)進行有效利用和便于進行數(shù)據(jù)恢復(fù),需要對備份數(shù)據(jù)進行管理。備份數(shù)據(jù)管理的基本要求是,完成對備份數(shù)據(jù)的存儲管理,建立本地與異地數(shù)據(jù)編目信息,以實現(xiàn)兩地之間的互檢索。數(shù)據(jù)檢索可以通過B/S技術(shù)實現(xiàn)[10-11]。根據(jù)衛(wèi)星數(shù)據(jù)損壞的量的大小,數(shù)據(jù)恢復(fù)可以分為小批量恢復(fù)以及災(zāi)難恢復(fù)兩個級別。小批量恢復(fù)是指日常運行中,發(fā)現(xiàn)本地數(shù)據(jù)有損壞時,由衛(wèi)星數(shù)據(jù)標識信息,使用互檢索功能檢索到異地備份的數(shù)據(jù),將數(shù)據(jù)通過網(wǎng)絡(luò)恢復(fù)到本地。而災(zāi)難恢復(fù)是指本地保存的數(shù)據(jù)出現(xiàn)災(zāi)難性毀壞時的數(shù)據(jù)恢復(fù)策略。針對災(zāi)難恢復(fù),主要有兩個手段,其一是在本地數(shù)據(jù)毀壞,在網(wǎng)絡(luò)環(huán)境和本地的運行環(huán)境沒有完全損壞的前提下,可以通過網(wǎng)絡(luò)訪問異地的數(shù)據(jù)管理系統(tǒng)發(fā)起數(shù)據(jù)恢復(fù)任務(wù)。當(dāng)在網(wǎng)絡(luò)環(huán)境和本地的運行環(huán)境損壞的前提下,無法通過網(wǎng)絡(luò)來進行數(shù)據(jù)恢復(fù),可以將所需備份數(shù)據(jù)導(dǎo)出到移動介質(zhì)或者移動硬盤,再將移動介質(zhì)運輸?shù)侥康牡亍?/p>

        3 應(yīng)用示例

        一個采用本文所述方法的遙感衛(wèi)星數(shù)據(jù)異地備份系統(tǒng)的組成框圖如圖3所示,系統(tǒng)包含了北京端(本地)與密云端(異地),兩端都有進行異地備份所需的任務(wù)管理單元、數(shù)據(jù)傳輸單元、數(shù)據(jù)管理單元和一致性檢測單元。其中任務(wù)管理單元完成數(shù)據(jù)傳輸、數(shù)據(jù)恢復(fù)和一致性檢測的任務(wù)管理;數(shù)據(jù)傳輸單元用于完成在本地與異地之間的數(shù)據(jù)傳輸;數(shù)據(jù)管理單元用于完成本地與異地間數(shù)據(jù)的互檢索和發(fā)起數(shù)據(jù)恢復(fù)任務(wù);一致性檢測單元用于完成本地與異地數(shù)據(jù)的一致性檢測。

        本示例的系統(tǒng)中,兩站點間的網(wǎng)絡(luò)帶寬為622Mbps,網(wǎng)絡(luò)帶寬利用率約為60%,每日備份時間窗口約為6.6小時,在運行模式上,采用新增數(shù)據(jù)優(yōu)先的運行模式,即優(yōu)先對新增數(shù)據(jù)進行備份。目前該系統(tǒng)已穩(wěn)定運行兩年,完成了約200TB歷史數(shù)據(jù)的備份,同時完成在此期間生成的約18TB新增數(shù)據(jù)的備份。

        圖3 遙感衛(wèi)星數(shù)據(jù)異地備份系統(tǒng)示例框圖

        4 結(jié)束語

        本文針對遙感衛(wèi)星數(shù)據(jù)組成復(fù)雜、數(shù)據(jù)量大的特點,對遙感衛(wèi)星數(shù)據(jù)異地備份過程中的備份站點選擇、數(shù)據(jù)管理方法、備份創(chuàng)建方法、一致性保持和數(shù)據(jù)恢復(fù)的問題進行了分析,并對各問題提出了有效的技術(shù)方法予以解決。本文提出的方法在中國科學(xué)院遙感衛(wèi)星地面站的遙感衛(wèi)星數(shù)據(jù)異地備份系統(tǒng)中得到了有效的應(yīng)用,取得了較好的效果,對于遙感衛(wèi)星數(shù)據(jù)的異地備份具有較好的借鑒意義。

        [1] GUO W,GONG J Y,JIANG W S,et al.OpenRS-cloud:A remote sensing image processing patform based on cloud computing environment[J].Science China Technological Sciences,2010,53(suppl.1):221-230.

        [2] RAMAPRIYAN H K,PFISTER R,WEINSTEIN B.An overview of the EOS data distribution systems[J].Remote Sensing and Digital Image Processing,2011,11(3):167-201.

        [3] DAUCSAVAGE J,KAMINSKI M,RAMACHANDRAN B,et al.ASTER and MODIS land data management at the land processes,and national snow and ice data centers[J].Remote Sensing and Digital Image Processing,2011,11(3):183-202.

        [4] 汪超亮,李傳榮,賈斌.新型遙感衛(wèi)星數(shù)據(jù)目錄服務(wù)系統(tǒng)的研制[J].遙感學(xué)報,2007,11(3):385-389.

        [5] 陳勃,陳志軍.海量遙感衛(wèi)星數(shù)據(jù)存檔方法的探討[J].遙感信息,2006,21(5):43-46.

        [6] 呂雪鋒,程承旗,龔健雅,等.海量遙感數(shù)據(jù)存儲管理技術(shù)綜述[J].中國科學(xué):科學(xué)技術(shù),2011,41(12):1561-1573.

        [7] 李斌斌,馮鐘葵,唐夢輝,等.遙感數(shù)據(jù)異地歸檔方法研究與實現(xiàn)[J].遙感信息,2011,21(2):86-90.

        [8] 程艷娜,李安,馮鐘葵,等.遙感數(shù)據(jù)異地備份中數(shù)據(jù)一致性方法研究與實現(xiàn)[J].遙感信息,2011,26(1):37-40.

        [9] 錢凱,馮鐘葵,唐夢輝,等.遙感數(shù)據(jù)遠程備份的任務(wù)管理[J].微計算機信息,2010,1(28):189-190.

        [10] 馮旭祥,李安,陳俊.基于ArcSDE與WebGIS的衛(wèi)星數(shù)據(jù)管理與檢索系統(tǒng)研究與實現(xiàn)[J].遙感信息,2010,25(1):39-43.

        [11] MARTINO S D,BIMONTE S,BERTOLOTTO M,et al.Spatial online analytical processing of geographic data through the google earth Interface[J].Geocomputation,Sustainability &Environmental Planning,348:163-182.

        Remote Backup Technology of Remote Sensing Satellite Data

        FENG Xu-xiang1,F(xiàn)ENG Zhong-kui1,CHEN Jun1,TANG Meng-h(huán)ui1,ZHANG Hong-qun1,F(xiàn)U Xiao-bo2
        (1.Institute of Remote Sensing and Digital Earth,Chinese Academy of Sciences,Beijing100094;2.Training Center of Inner Mongolia Electric Power Group,Huhhot 010010)

        This paper presents an approach for network-based remote backup of remote sensing satellite data.With full consideration of structure,composition,storage of remote sensing satellite data and characteristics of remote sensing satellite data backup,some problems such as selection of backup site location,backup data management,data consistency,data restore and backup creation methods are analyzed,and corresponding solutions are proposed.Then an example on the approach is introduced which demonstrates its effectiveness.

        remote backup;backup consistency;backup management;backup recovery;backup site

        10.3969/j.issn.1000-3177.2015.04.011

        TP79

        A

        1000-3177(2015)140-0061-05

        2014-05-27

        2014-10-20

        馮旭祥(1984—),男,工程師,主要從事遙感衛(wèi)星數(shù)據(jù)預(yù)處理與備份相關(guān)研究。

        E-mail:xxfeng@ceode.ac.cn

        馮鐘葵(1960—),男,研究員,主要研究方向為遙感數(shù)據(jù)處理、圖像處理、海量數(shù)據(jù)儲存與管理與遙感地面系統(tǒng)集成。

        E-mail:zkfeng@ceode.ac.cn

        猜你喜歡
        網(wǎng)絡(luò)帶寬歷史數(shù)據(jù)數(shù)據(jù)量
        基于充電策略估算動力電池容量的方法
        汽車電器(2025年1期)2025-02-03 00:00:00
        基于設(shè)備PF性能曲線和設(shè)備歷史數(shù)據(jù)實現(xiàn)CBM的一個應(yīng)用模型探討
        智能制造(2021年4期)2021-11-04 08:54:36
        基于故障歷史數(shù)據(jù)和BP神經(jīng)網(wǎng)絡(luò)的接地選線方案研究
        基于大數(shù)據(jù)量的初至層析成像算法優(yōu)化
        計算Lyapunov指數(shù)的模糊C均值聚類小數(shù)據(jù)量法
        高刷新率不容易顯示器需求與接口標準帶寬
        寬帶信號采集與大數(shù)據(jù)量傳輸系統(tǒng)設(shè)計與研究
        電子制作(2019年13期)2020-01-14 03:15:18
        如何提升高帶寬用戶的感知度
        科技傳播(2017年14期)2017-08-22 02:39:36
        基于Hadoop技術(shù)實現(xiàn)銀行歷史數(shù)據(jù)線上化研究
        合理配置QoS改善校園網(wǎng)絡(luò)環(huán)境
        白色白在线观看免费2| 国产日韩网站| 亚洲 暴爽 AV人人爽日日碰| 亚洲中文字幕第一第二页| 白浆国产精品一区二区| 亚洲乱亚洲乱妇50p| а中文在线天堂| 99久久精品国产亚洲av天| 女女同女同一区二区三区| 亚洲精品~无码抽插| 人妻少妇av无码一区二区| 最新欧美一级视频| 色婷婷亚洲精品综合影院| 欧美老妇交乱视频在线观看| 欲色天天网综合久久| 不卡国产视频| 在线观看日本一区二区三区| 亚洲 小说区 图片区 都市| 亚洲av成人无码网站大全| 白浆出来无码视频在线| 丝袜美腿诱惑一二三区| 国产亚洲精品一区二区无| 免费a级毛片永久免费| 亚洲欧美日韩国产综合久| 色婷婷久色国产成人免费| 国产午夜av秒播在线观看| 青青草视频在线观看网| 亚洲人成无码区在线观看| 人人妻人人澡人人爽精品欧美| 亚洲av综合日韩精品久久久| 91九色最新国产在线观看| 中文在线8资源库| 91网站在线看| 国产三级c片在线观看| 狠狠色丁香婷婷综合潮喷| 99久久精品国产成人综合| 国产在线AⅤ精品性色| 成人av蜜桃在线观看| 无码一区二区三区亚洲人妻| 久久99精品久久久久久齐齐百度| 五十路一区二区中文字幕|