999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

遙感衛(wèi)星數(shù)據(jù)異地備份技術(shù)研究

2015-03-11 02:13:34馮旭祥馮鐘葵陳俊唐夢輝張洪群付曉波
遙感信息 2015年4期
關(guān)鍵詞:一致性方法

馮旭祥,馮鐘葵,陳俊,唐夢輝,張洪群,付曉波

(1.中國科學院遙感與數(shù)字地球研究所,北京100094;2.內(nèi)蒙古電力集團培訓中心,呼和浩特010010)

遙感衛(wèi)星數(shù)據(jù)異地備份技術(shù)研究

馮旭祥1,馮鐘葵1,陳俊1,唐夢輝1,張洪群1,付曉波2

(1.中國科學院遙感與數(shù)字地球研究所,北京100094;2.內(nèi)蒙古電力集團培訓中心,呼和浩特010010)

為了有效解決遙感衛(wèi)星數(shù)據(jù)的安全存儲問題,該文研究了一種基于網(wǎng)絡(luò)技術(shù)的遙感衛(wèi)星數(shù)據(jù)異地備份方法。在充分考慮遙感衛(wèi)星數(shù)據(jù)的結(jié)構(gòu)、組成、存儲形式和遙感衛(wèi)星數(shù)據(jù)備份的特點的基礎(chǔ)上,對遙感衛(wèi)星數(shù)據(jù)異地備份中的異地備份站點選擇、備份數(shù)據(jù)管理、數(shù)據(jù)一致性、數(shù)據(jù)恢復以及備份的創(chuàng)建方法等問題進行了分析,并提出了解決的方法與技術(shù);隨后引入了應(yīng)用系統(tǒng)示例。該應(yīng)用系統(tǒng)的運行結(jié)果顯示該文研究的遙感衛(wèi)星數(shù)據(jù)異地備份技術(shù)可以有效完成遙感衛(wèi)星數(shù)據(jù)的異地備份。

遙感衛(wèi)星數(shù)據(jù);異地備份;備份一致性;數(shù)據(jù)恢復;備份管理;備份站點

0 引 言

目前遙感衛(wèi)星數(shù)據(jù)的存檔多采用本地存儲和單介質(zhì)保存,一旦發(fā)生火災(zāi)、地震等災(zāi)害將可能造成數(shù)據(jù)損毀或丟失。為了有效地保護國家珍貴的遙感衛(wèi)星數(shù)據(jù)資源,需要建立一套高效的遙感衛(wèi)星數(shù)據(jù)異地備份機制,即在異地創(chuàng)建遙感衛(wèi)星數(shù)據(jù)的備份存儲和管理,以有效解決衛(wèi)星數(shù)據(jù)的安全存儲問題。

早期的遙感衛(wèi)星數(shù)據(jù)異地備份一般是利用交通工具將載有遙感衛(wèi)星數(shù)據(jù)的移動介質(zhì)從本地站點運送到異地站點進行保存。此種方法雖然能夠保證數(shù)據(jù)的異地備份,但具有明顯的弊端,主要體現(xiàn)在:①備份時效性差、費用高,選擇的異地站點一般距本地站點較遠(幾百至幾千公里),使用交通工具進行運送的時間開銷會較大且備份費用高。②備份管理難度大,由于備份的移動介質(zhì)處于離線狀態(tài),因此無法獲取備份數(shù)據(jù)的狀態(tài),也不便于對已備份數(shù)據(jù)進行檢索。③備份數(shù)據(jù)恢復過程復雜且恢復速度較慢。④備份數(shù)據(jù)的存儲質(zhì)量難以保證,如果一旦移動介質(zhì)出現(xiàn)問題,所備份的數(shù)據(jù)也將難以恢復。

隨著網(wǎng)絡(luò)技術(shù)的發(fā)展,越來越多的數(shù)據(jù)異地備份采用了基于網(wǎng)絡(luò)的備份方法,市場上也有較多的數(shù)據(jù)異地備份軟件,如Symantec NetBackup、IBM TSM和EMC Networker等,主要應(yīng)用于銀行、網(wǎng)站和圖書館系統(tǒng),完成對單一的文件數(shù)據(jù)和數(shù)據(jù)庫的備份。但是,這些備份軟件不能實現(xiàn)對遙感衛(wèi)星數(shù)據(jù)各組成部分的同步備份并保持各組成部分的一致性,因此無法滿足遙感衛(wèi)星數(shù)據(jù)異地備份的需求。

針對以上問題,本文在充分考慮遙感衛(wèi)星數(shù)據(jù)及其備份特點基礎(chǔ)上,對遙感衛(wèi)星數(shù)據(jù)進行異地備份的關(guān)鍵技術(shù)要點進行了深入分析,給出了對遙感衛(wèi)星數(shù)據(jù)進行有效異地備份的解決方案,包括如何選擇備份站點、備份數(shù)據(jù)的管理、數(shù)據(jù)的一致性保持、數(shù)據(jù)恢復以及備份創(chuàng)建方法等。本文還基于上述方案給出了一個有效解決遙感衛(wèi)星數(shù)據(jù)異地備份問題的應(yīng)用實例。

1 衛(wèi)星數(shù)據(jù)及異地備份的特點

為便于遙感衛(wèi)星數(shù)據(jù)存儲管理及后續(xù)的產(chǎn)品處理,遙感衛(wèi)星原始數(shù)據(jù)通常進行簡單的格式編排,以單軌(或數(shù)據(jù)段)數(shù)據(jù)為單位形成文件進行存檔,稱為衛(wèi)星數(shù)據(jù)存檔文件。此外,基于對遙感衛(wèi)星數(shù)據(jù)進行查詢、訪問的需求,還需對與衛(wèi)星數(shù)據(jù)存檔文件建立與之關(guān)聯(lián)的元數(shù)據(jù)文件和瀏覽圖文件并進行存檔。因此,遙感衛(wèi)星數(shù)據(jù)備份主要是考慮如何對這三類文件進行備份管理。一般地,這三類文件的存檔形式如下[1-4]:①衛(wèi)星數(shù)據(jù)存檔文件。包含整軌(或數(shù)據(jù)段)衛(wèi)星數(shù)據(jù),一般在幾十MB至幾十GB大小,以二進制文件的形式存放于文件系統(tǒng)中。為方便進行數(shù)據(jù)管理和訪問,需在數(shù)據(jù)庫中記錄存檔數(shù)據(jù)文件的路徑信息;衛(wèi)星數(shù)據(jù)存檔文件一般采用分級存儲。分級存儲包括在線存儲、近線存儲和離線存儲三級,一般地,在線存儲采用高速磁盤,近線存儲采用磁帶庫,離線存儲采用磁帶[4-6]。②元數(shù)據(jù)文件。包含衛(wèi)星數(shù)據(jù)存檔文件的屬性信息,文件經(jīng)過解析,屬性信息注入數(shù)據(jù)庫中作為數(shù)據(jù)記錄進行存檔[4,7]。③瀏覽圖文件。包含衛(wèi)星數(shù)據(jù)存檔文件中整軌和單景衛(wèi)星數(shù)據(jù)的瀏覽圖,一般在1MB以下。以文件的形式存放在文件系統(tǒng)中,同時在數(shù)據(jù)庫中記錄瀏覽圖文件的路徑。

遙感衛(wèi)星數(shù)據(jù)的異地備份具有以下特點[4-6]:①數(shù)據(jù)總量大且單個數(shù)據(jù)文件較大,備份的創(chuàng)建與維護困難。隨著衛(wèi)星數(shù)量增加、衛(wèi)星分辨率的提高,遙感衛(wèi)星數(shù)據(jù)量增長飛快。以2013年發(fā)射的高分一號衛(wèi)星為例,按每天下傳4軌數(shù)據(jù),每軌數(shù)據(jù)10分鐘,則每軌數(shù)據(jù)大小約為63GB,每天產(chǎn)生數(shù)量約為254GB,每年產(chǎn)生數(shù)據(jù)量約為93TB。綜合考慮目前在軌的衛(wèi)星和已完成規(guī)劃即將發(fā)射運行的衛(wèi)星,產(chǎn)生的衛(wèi)星數(shù)據(jù)量會非常巨大。創(chuàng)建與保持如此海量的數(shù)據(jù)備份與傳統(tǒng)的普通數(shù)據(jù)備份差異較大。同時衛(wèi)星數(shù)據(jù)存檔文件是幾十MB至幾十GB大小的單個文件,在進行網(wǎng)絡(luò)傳輸時耗時較長且會占用較多的網(wǎng)絡(luò)帶寬,容易導致數(shù)據(jù)不一致的情況發(fā)生。②存檔數(shù)據(jù)的組成和保存形式多樣,備份數(shù)據(jù)的管理復雜。遙感衛(wèi)星數(shù)據(jù)的備份包含對衛(wèi)星數(shù)據(jù)存檔文件、元數(shù)據(jù)文件和瀏覽圖文件的備份,備份過程需要根據(jù)各類數(shù)據(jù)的特點完成備份,同時保持各類數(shù)據(jù)之間的關(guān)聯(lián)性。備份數(shù)據(jù)的管理是數(shù)據(jù)恢復的基礎(chǔ),衛(wèi)星數(shù)據(jù)包含有諸如地理信息、云量、傳感器等特有的屬性,需要根據(jù)衛(wèi)星數(shù)據(jù)的屬性信息建立其相對應(yīng)的編目信息,以便于對衛(wèi)星數(shù)據(jù)進行管理。③備份數(shù)據(jù)的一致性保持較難,由于存檔數(shù)據(jù)保存形式多樣且單個存檔文件數(shù)據(jù)量大,如何在備份時,既完成對一軌數(shù)據(jù)包含的多種數(shù)據(jù)的備份,又完成對數(shù)據(jù)之間關(guān)聯(lián)性的備份,同時保證本地和異地數(shù)據(jù)的一致性,這是進行衛(wèi)星數(shù)據(jù)異地備份的一個關(guān)鍵問題。

2 異地備份技術(shù)研究

2.1 異地備份站點的選擇

所謂數(shù)據(jù)的異地備份,是指在兩個相距一定距離的空間各自保存一份關(guān)鍵業(yè)務(wù)數(shù)據(jù),并提供數(shù)據(jù)恢復手段的數(shù)據(jù)安全存儲方式。兩地之間的距離常根據(jù)工作條件、數(shù)據(jù)的重要性、一級行政區(qū)劃等因素統(tǒng)籌考慮。一般來說,相距100km以上的兩地,能夠應(yīng)付地區(qū)性的自然和人為災(zāi)害所造成的數(shù)據(jù)安全危機。

為實現(xiàn)在兩地之間的數(shù)據(jù)備份,需要在兩地之間建立網(wǎng)絡(luò)連接??紤]到遙感衛(wèi)星數(shù)據(jù)總量大,同時新獲取的遙感衛(wèi)星數(shù)據(jù)增長速度也較快,因此對兩地的網(wǎng)絡(luò)帶寬有一定的要求。在確定備份所需網(wǎng)絡(luò)帶寬時,需要同時考慮歷史數(shù)據(jù)與每日新增數(shù)據(jù)的數(shù)據(jù)量及其總的耗時要求、備份的時間窗口和網(wǎng)絡(luò)利用率等要素。一個計算示例如下:本地已有歷史數(shù)據(jù)200TB,考慮在1年之內(nèi)完成歷史數(shù)據(jù)從本地到異地的備份,在每日備份時間窗口10小時、網(wǎng)絡(luò)帶寬利用率在70%的情況下,需要約229Mb/s的帶寬。按每日新增數(shù)據(jù)254GB,如需要在3小時傳輸完成所有新增數(shù)據(jù)到備份站點,在網(wǎng)絡(luò)帶寬利用率為70%的情況下,需要約276Mb/s的帶寬。若要同時滿足這兩個指標,則需每日備份時間窗口為13小時,網(wǎng)絡(luò)帶寬需保證大于276Mb/s。

從示例可以看出,為滿足歷史數(shù)據(jù)與新增數(shù)據(jù)備份的耗時要求,有不同的網(wǎng)絡(luò)帶寬和備份時間窗口要求??偟木W(wǎng)絡(luò)帶寬要求取其較大值;總的備份時間窗口則是兩類數(shù)據(jù)備份時間窗口之和。

一般地,由于遙感衛(wèi)星數(shù)據(jù)的接收管理部門通常都有多個衛(wèi)星地面站,為減少備份的數(shù)據(jù)傳輸量,衛(wèi)星數(shù)據(jù)異地備份可以優(yōu)先考慮選擇異地衛(wèi)星地面站作為備份站點。

2.2 備份的創(chuàng)建方法

遙感衛(wèi)星數(shù)據(jù)異地備份的過程,首先是遙感衛(wèi)星數(shù)據(jù)異地備份的初始化,即完成對本地數(shù)據(jù)存儲中的歷史衛(wèi)星數(shù)據(jù)到異地的備份;然后是備份的正常運行,主要是對新增衛(wèi)星數(shù)據(jù)的備份。針對初始化步驟的不同,可以分為兩種不同的備份方法,下面分別進行介紹。

(1)歷史數(shù)據(jù)優(yōu)先的備份方法

歷史數(shù)據(jù)優(yōu)先的方法是指在進行數(shù)據(jù)異地備份的初始化時,先將所有已有的數(shù)據(jù)備份到異地,再對備份期間新增的數(shù)據(jù)進行備份,重復此過程直到所有衛(wèi)星數(shù)據(jù)都已完成備份;然后進入到備份的正常運行模式,完成后續(xù)新增數(shù)據(jù)的備份,這種創(chuàng)建方法的運行流程圖如圖1(a)所示,該運行模式的特點是運行過程簡單,通過幾次迭代過程就可以完成對已有數(shù)據(jù)的備份,迭代所需的次數(shù)取決于已有數(shù)據(jù)的數(shù)量與網(wǎng)絡(luò)帶寬的大小。但是這種運行模式有一個比較大的缺點,在異地備份初始化期間,新增數(shù)據(jù)無法得到及時備份且滯后的時間較長。圖1(b)是備份過程的時序圖,從圖可以看出備份的過程主要有3個階段,分別是歷史數(shù)據(jù)的備份、迭代過程新增數(shù)據(jù)備份以及正常運行過程中新增數(shù)據(jù)的備份。

設(shè)定這樣的一個異地備份環(huán)境,其數(shù)據(jù)與網(wǎng)絡(luò)情況描述如下:①需要備份的歷史數(shù)據(jù)200TB;②每日新增數(shù)據(jù)250GB;③本地與異地之間數(shù)據(jù)傳輸網(wǎng)絡(luò)帶寬為271Mbps,設(shè)定網(wǎng)絡(luò)利用率為70%,每日可用的備份時間為13小時,即每日可備份數(shù)據(jù)量為1084GB。

在上述限定條件下,創(chuàng)建初始備份約需要5次迭代,各次迭代的所需備份的數(shù)據(jù)、時間以及迭代時新增數(shù)據(jù)的情況參見表1。通過迭代過程可以看出,第一次備份迭代所需的時間較長,在本例中,初始備份過程需要188.9天時間,這樣在第一次迭代時產(chǎn)生的數(shù)據(jù)需要等待188.9天才能開始進行備份,并在約43.5天后完成備份。

圖1 歷史數(shù)據(jù)優(yōu)先的備份方法示意圖

表1 備份創(chuàng)建的迭代過程

考慮一個更通用的場景(以下各數(shù)據(jù)量的單位相同):需要備份的歷史數(shù)據(jù)為D0,每日新增數(shù)據(jù)Da,每日可完成的備份數(shù)據(jù)量為da,則可以得出第n次迭代所需的時間Tn為:

迭代終止的條件是:

則初始備份創(chuàng)建所需的時間為:

(2)新增數(shù)據(jù)優(yōu)先的備份方法

新增數(shù)據(jù)優(yōu)先的備份方法是指,優(yōu)先完成對新增衛(wèi)星數(shù)據(jù)的備份,在備份時間窗口允許的前提下進行歷史數(shù)據(jù)的備份。備份過程主要分為兩個階段,第一個階段是初始備份的創(chuàng)建過程,在保證新增衛(wèi)星數(shù)據(jù)備份的基礎(chǔ)上,在剩余可用的備份時間窗口內(nèi)完成對歷史衛(wèi)星數(shù)據(jù)的備份,直到所有的歷史衛(wèi)星數(shù)據(jù)都已完成備份。第二個階段是備份的正常運行階段,只需要完成對新增衛(wèi)星數(shù)據(jù)的備份。備份過程的流程圖如圖2(a)所示,而圖2(b)則顯示了備份過程的時序圖,從時序圖可以看出備份創(chuàng)建的過程。

圖2 新增數(shù)據(jù)優(yōu)先備份過程示意圖

在與上一節(jié)歷史數(shù)據(jù)優(yōu)先模式相同的限定條件下,除去新增數(shù)據(jù),每日可用于傳輸歷史數(shù)據(jù)流量的帶寬容量為834GB,因此完成備份初始化所需的時間為245.6天。

考慮一個更通用的場景(以下各數(shù)據(jù)量的單位相同):現(xiàn)有需要備份的衛(wèi)星數(shù)據(jù)量為D0,每日新增數(shù)據(jù)量Da,每日完成的備份數(shù)據(jù)量為da,則初始備份創(chuàng)建所需的時間為:

上述兩種備份創(chuàng)建方法,歷史數(shù)據(jù)優(yōu)先的備份方法可以使歷史數(shù)據(jù)優(yōu)先得到保護,且運行模式較為簡單;新增數(shù)據(jù)優(yōu)先的備份方法交錯進行歷史數(shù)據(jù)與新增數(shù)據(jù)的備份,其運行方式更為復雜。

考慮到在采用分級存儲時,根據(jù)衛(wèi)星數(shù)據(jù)存儲管理的策略,新增數(shù)據(jù)在產(chǎn)生后的一段時間內(nèi)(通常是1周到1個月)會在各級存儲中都留有備份,另外新增數(shù)據(jù)是熱點數(shù)據(jù),會被更多的讀回到系統(tǒng)進行處理,這樣也會形成新增數(shù)據(jù)在系統(tǒng)中的多份拷貝。相比較而言歷史數(shù)據(jù)一般都存儲在單一介質(zhì)上,更需要得到保護。因此在歷史數(shù)據(jù)的數(shù)據(jù)總量不太多的情況下,如可以在半年內(nèi)完成對歷史數(shù)據(jù)的備份,可以優(yōu)先考慮歷史數(shù)據(jù)優(yōu)先的備份建立模式;其他情況則可優(yōu)先使用新增數(shù)據(jù)優(yōu)先的備份創(chuàng)建方法。

2.3 數(shù)據(jù)一致性檢查

在基于網(wǎng)絡(luò)環(huán)境進行備份時,數(shù)據(jù)是在廣域網(wǎng)的環(huán)境下進行備份傳輸,容易出現(xiàn)數(shù)據(jù)不一致的情況。對此,可以通過備份過程中和備份完成后進行一致性檢查來解決[8]。

備份過程中的處理是指在備份過程中,通過一系列處理方法和手段防止數(shù)據(jù)不一致的情況出現(xiàn),主要包括基于任務(wù)的數(shù)據(jù)傳輸管理方法和大文件的數(shù)據(jù)檢查機制。

基于任務(wù)的數(shù)據(jù)傳輸管理方法是指對數(shù)據(jù)傳輸過程進行細分,將一軌衛(wèi)星數(shù)據(jù)的傳輸作為一個數(shù)據(jù)傳輸任務(wù),對傳輸過程中的每個子步驟以子任務(wù)的方式進行管理,以確保數(shù)據(jù)傳輸過程的完整、正確[9]。具體的可以將數(shù)據(jù)傳輸任務(wù)分為衛(wèi)星數(shù)據(jù)存檔文件傳輸、元數(shù)據(jù)信息傳輸和瀏覽圖文件傳輸3個子任務(wù),并建立合適的子任務(wù)之間的通信機制。在每一個子任務(wù)正確完成之后,開始下一個子任務(wù)。只有在3個子任務(wù)都完成時,才將數(shù)據(jù)標記為備份成功。否則將備份任務(wù)標記為不成功,在備份不成功時可以進行數(shù)據(jù)重傳,可以選擇對失敗的數(shù)據(jù)或所有數(shù)據(jù)進行重傳。

大文件的數(shù)據(jù)檢查是指在數(shù)據(jù)傳輸完成之后,立即對數(shù)據(jù)的正確性進行檢查。由于衛(wèi)星數(shù)據(jù)存檔文件較大,且通過本地與異地之間的廣域網(wǎng)環(huán)境之間進行傳輸,為防止由于網(wǎng)絡(luò)傳輸?shù)仍蛟斐傻臄?shù)據(jù)損壞,需要建立大文件的數(shù)據(jù)檢查。其方法是,傳輸前先在本地生成衛(wèi)星數(shù)據(jù)存檔文件的校驗碼,校驗碼可以采用CRC或MD5方式生成,生成的CRC或MD5校驗碼通過消息中間件以文本消息的形式傳輸?shù)疆惖?,衛(wèi)星數(shù)據(jù)存檔文件則通過FTP協(xié)議傳輸?shù)疆惖兀r灤a與文件的傳輸控制通過基于任務(wù)的數(shù)據(jù)傳輸管理來完成。異地接收到衛(wèi)星數(shù)據(jù)存檔文件及校驗碼之后,再次計算衛(wèi)星數(shù)據(jù)存檔文件的校驗碼,同時與接收到的校驗碼進行比對,只有在兩邊數(shù)據(jù)計算的校驗碼相匹配時,才設(shè)定衛(wèi)星數(shù)據(jù)存檔文件傳輸成功,否則進行數(shù)據(jù)重傳。

備份完成后的一致性檢查主要用于對本地和異地已備份數(shù)據(jù)的一致性進行檢查。具體是指在備份完成后,由用戶發(fā)起對備份數(shù)據(jù)進行檢查,檢查發(fā)現(xiàn)不一致的數(shù)據(jù),并對存在不一致的數(shù)據(jù)進行重傳處理。主要包括單軌數(shù)據(jù)的一致性狀態(tài)檢查和基于數(shù)據(jù)庫的一致性檢查機制。單軌數(shù)據(jù)的一致性狀態(tài)檢查是指對完成異地備份的單軌遙感衛(wèi)星數(shù)據(jù)所包含的各類數(shù)據(jù)信息進行一致性檢查,以確保完成備份的遙感衛(wèi)星數(shù)據(jù)處于正確的異地備份狀態(tài)。檢查的內(nèi)容主要有:以校驗碼檢查衛(wèi)星數(shù)據(jù)存檔文件是否一致、數(shù)據(jù)庫中的元數(shù)據(jù)信息是否一致以及瀏覽圖文件信息是否一致。對于檢查后發(fā)現(xiàn)不一致的備份數(shù)據(jù)發(fā)起數(shù)據(jù)重傳任務(wù)。

基于數(shù)據(jù)庫的本地與異地數(shù)據(jù)一致性檢查機制是指,以基于本地或異地的元數(shù)據(jù)數(shù)據(jù)庫信息為基準,發(fā)起數(shù)據(jù)一致性檢查。主要是比較在本地標識為已備份完成的數(shù)據(jù)信息是否在異地已有一個備份副本,和在異地已有備份副本的數(shù)據(jù)信息是否在本地已標識為已備份。通過建立這種事后的一致性檢查機制可以確保本地所有數(shù)據(jù)都能按序備份到異地,而在異地已完成備份的數(shù)據(jù)能在本地有一個正確的標識?;跀?shù)據(jù)庫的本地與異地數(shù)據(jù)同步檢查機制獨立于常規(guī)的數(shù)據(jù)備份任務(wù),可以定期發(fā)起這種一致性檢查。

2.4 數(shù)據(jù)恢復

異地備份的最終目的是為了便于在本地的數(shù)據(jù)遭到破壞時,能快速方便地將數(shù)據(jù)恢復到本地。因此,在構(gòu)建異地備份系統(tǒng)時,還需要考慮備份數(shù)據(jù)恢復的問題。對于衛(wèi)星數(shù)據(jù)異地備份而言,數(shù)據(jù)恢復的最小粒度為單軌數(shù)據(jù)。當發(fā)現(xiàn)數(shù)據(jù)損壞時,對衛(wèi)星數(shù)據(jù)存檔文件、編目信息和瀏覽圖文件都要進行恢復。

為了對備份的數(shù)據(jù)進行有效利用和便于進行數(shù)據(jù)恢復,需要對備份數(shù)據(jù)進行管理。備份數(shù)據(jù)管理的基本要求是,完成對備份數(shù)據(jù)的存儲管理,建立本地與異地數(shù)據(jù)編目信息,以實現(xiàn)兩地之間的互檢索。數(shù)據(jù)檢索可以通過B/S技術(shù)實現(xiàn)[10-11]。根據(jù)衛(wèi)星數(shù)據(jù)損壞的量的大小,數(shù)據(jù)恢復可以分為小批量恢復以及災(zāi)難恢復兩個級別。小批量恢復是指日常運行中,發(fā)現(xiàn)本地數(shù)據(jù)有損壞時,由衛(wèi)星數(shù)據(jù)標識信息,使用互檢索功能檢索到異地備份的數(shù)據(jù),將數(shù)據(jù)通過網(wǎng)絡(luò)恢復到本地。而災(zāi)難恢復是指本地保存的數(shù)據(jù)出現(xiàn)災(zāi)難性毀壞時的數(shù)據(jù)恢復策略。針對災(zāi)難恢復,主要有兩個手段,其一是在本地數(shù)據(jù)毀壞,在網(wǎng)絡(luò)環(huán)境和本地的運行環(huán)境沒有完全損壞的前提下,可以通過網(wǎng)絡(luò)訪問異地的數(shù)據(jù)管理系統(tǒng)發(fā)起數(shù)據(jù)恢復任務(wù)。當在網(wǎng)絡(luò)環(huán)境和本地的運行環(huán)境損壞的前提下,無法通過網(wǎng)絡(luò)來進行數(shù)據(jù)恢復,可以將所需備份數(shù)據(jù)導出到移動介質(zhì)或者移動硬盤,再將移動介質(zhì)運輸?shù)侥康牡亍?/p>

3 應(yīng)用示例

一個采用本文所述方法的遙感衛(wèi)星數(shù)據(jù)異地備份系統(tǒng)的組成框圖如圖3所示,系統(tǒng)包含了北京端(本地)與密云端(異地),兩端都有進行異地備份所需的任務(wù)管理單元、數(shù)據(jù)傳輸單元、數(shù)據(jù)管理單元和一致性檢測單元。其中任務(wù)管理單元完成數(shù)據(jù)傳輸、數(shù)據(jù)恢復和一致性檢測的任務(wù)管理;數(shù)據(jù)傳輸單元用于完成在本地與異地之間的數(shù)據(jù)傳輸;數(shù)據(jù)管理單元用于完成本地與異地間數(shù)據(jù)的互檢索和發(fā)起數(shù)據(jù)恢復任務(wù);一致性檢測單元用于完成本地與異地數(shù)據(jù)的一致性檢測。

本示例的系統(tǒng)中,兩站點間的網(wǎng)絡(luò)帶寬為622Mbps,網(wǎng)絡(luò)帶寬利用率約為60%,每日備份時間窗口約為6.6小時,在運行模式上,采用新增數(shù)據(jù)優(yōu)先的運行模式,即優(yōu)先對新增數(shù)據(jù)進行備份。目前該系統(tǒng)已穩(wěn)定運行兩年,完成了約200TB歷史數(shù)據(jù)的備份,同時完成在此期間生成的約18TB新增數(shù)據(jù)的備份。

圖3 遙感衛(wèi)星數(shù)據(jù)異地備份系統(tǒng)示例框圖

4 結(jié)束語

本文針對遙感衛(wèi)星數(shù)據(jù)組成復雜、數(shù)據(jù)量大的特點,對遙感衛(wèi)星數(shù)據(jù)異地備份過程中的備份站點選擇、數(shù)據(jù)管理方法、備份創(chuàng)建方法、一致性保持和數(shù)據(jù)恢復的問題進行了分析,并對各問題提出了有效的技術(shù)方法予以解決。本文提出的方法在中國科學院遙感衛(wèi)星地面站的遙感衛(wèi)星數(shù)據(jù)異地備份系統(tǒng)中得到了有效的應(yīng)用,取得了較好的效果,對于遙感衛(wèi)星數(shù)據(jù)的異地備份具有較好的借鑒意義。

[1] GUO W,GONG J Y,JIANG W S,et al.OpenRS-cloud:A remote sensing image processing patform based on cloud computing environment[J].Science China Technological Sciences,2010,53(suppl.1):221-230.

[2] RAMAPRIYAN H K,PFISTER R,WEINSTEIN B.An overview of the EOS data distribution systems[J].Remote Sensing and Digital Image Processing,2011,11(3):167-201.

[3] DAUCSAVAGE J,KAMINSKI M,RAMACHANDRAN B,et al.ASTER and MODIS land data management at the land processes,and national snow and ice data centers[J].Remote Sensing and Digital Image Processing,2011,11(3):183-202.

[4] 汪超亮,李傳榮,賈斌.新型遙感衛(wèi)星數(shù)據(jù)目錄服務(wù)系統(tǒng)的研制[J].遙感學報,2007,11(3):385-389.

[5] 陳勃,陳志軍.海量遙感衛(wèi)星數(shù)據(jù)存檔方法的探討[J].遙感信息,2006,21(5):43-46.

[6] 呂雪鋒,程承旗,龔健雅,等.海量遙感數(shù)據(jù)存儲管理技術(shù)綜述[J].中國科學:科學技術(shù),2011,41(12):1561-1573.

[7] 李斌斌,馮鐘葵,唐夢輝,等.遙感數(shù)據(jù)異地歸檔方法研究與實現(xiàn)[J].遙感信息,2011,21(2):86-90.

[8] 程艷娜,李安,馮鐘葵,等.遙感數(shù)據(jù)異地備份中數(shù)據(jù)一致性方法研究與實現(xiàn)[J].遙感信息,2011,26(1):37-40.

[9] 錢凱,馮鐘葵,唐夢輝,等.遙感數(shù)據(jù)遠程備份的任務(wù)管理[J].微計算機信息,2010,1(28):189-190.

[10] 馮旭祥,李安,陳俊.基于ArcSDE與WebGIS的衛(wèi)星數(shù)據(jù)管理與檢索系統(tǒng)研究與實現(xiàn)[J].遙感信息,2010,25(1):39-43.

[11] MARTINO S D,BIMONTE S,BERTOLOTTO M,et al.Spatial online analytical processing of geographic data through the google earth Interface[J].Geocomputation,Sustainability &Environmental Planning,348:163-182.

Remote Backup Technology of Remote Sensing Satellite Data

FENG Xu-xiang1,F(xiàn)ENG Zhong-kui1,CHEN Jun1,TANG Meng-h(huán)ui1,ZHANG Hong-qun1,F(xiàn)U Xiao-bo2
(1.Institute of Remote Sensing and Digital Earth,Chinese Academy of Sciences,Beijing100094;2.Training Center of Inner Mongolia Electric Power Group,Huhhot 010010)

This paper presents an approach for network-based remote backup of remote sensing satellite data.With full consideration of structure,composition,storage of remote sensing satellite data and characteristics of remote sensing satellite data backup,some problems such as selection of backup site location,backup data management,data consistency,data restore and backup creation methods are analyzed,and corresponding solutions are proposed.Then an example on the approach is introduced which demonstrates its effectiveness.

remote backup;backup consistency;backup management;backup recovery;backup site

10.3969/j.issn.1000-3177.2015.04.011

TP79

A

1000-3177(2015)140-0061-05

2014-05-27

2014-10-20

馮旭祥(1984—),男,工程師,主要從事遙感衛(wèi)星數(shù)據(jù)預(yù)處理與備份相關(guān)研究。

E-mail:xxfeng@ceode.ac.cn

馮鐘葵(1960—),男,研究員,主要研究方向為遙感數(shù)據(jù)處理、圖像處理、海量數(shù)據(jù)儲存與管理與遙感地面系統(tǒng)集成。

E-mail:zkfeng@ceode.ac.cn

猜你喜歡
一致性方法
關(guān)注減污降碳協(xié)同的一致性和整體性
公民與法治(2022年5期)2022-07-29 00:47:28
注重教、學、評一致性 提高一輪復習效率
對歷史課堂教、學、評一體化(一致性)的幾點探討
IOl-master 700和Pentacam測量Kappa角一致性分析
學習方法
ONVIF的全新主張:一致性及最訪問控制的Profile A
用對方法才能瘦
Coco薇(2016年2期)2016-03-22 02:42:52
基于事件觸發(fā)的多智能體輸入飽和一致性控制
四大方法 教你不再“坐以待病”!
Coco薇(2015年1期)2015-08-13 02:47:34
賺錢方法
主站蜘蛛池模板: 人人看人人鲁狠狠高清| 毛片免费网址| 天天躁狠狠躁| 国产亚洲欧美另类一区二区| 国产中文在线亚洲精品官网| 国产你懂得| 国产无码精品在线播放| 2021亚洲精品不卡a| 久久久久青草线综合超碰| 国产亚洲高清视频| 99ri精品视频在线观看播放| 欧美精品成人一区二区视频一| 无码aⅴ精品一区二区三区| 秋霞国产在线| 久久伊人操| 国内精品小视频在线| 国产亚洲精品91| 久久综合九色综合97婷婷| 亚洲欧美在线精品一区二区| 伊人精品成人久久综合| 国产日韩欧美视频| 国产欧美精品一区二区| 日a本亚洲中文在线观看| 国产日本欧美在线观看| 精品国产成人a在线观看| 欧美成人日韩| 2048国产精品原创综合在线| 国产亚洲精品97在线观看| 91久久大香线蕉| 全部无卡免费的毛片在线看| 久久夜色精品国产嚕嚕亚洲av| 亚洲三级电影在线播放| 成年女人a毛片免费视频| 久久无码av一区二区三区| 国产精品一线天| 欧美国产日韩在线观看| www.日韩三级| 国产日韩av在线播放| 精品久久777| 国产成人精品一区二区三区| 国产另类乱子伦精品免费女| 亚洲欧美一区二区三区蜜芽| 久久免费观看视频| 日韩久久精品无码aV| 一级做a爰片久久免费| 国产乱人伦AV在线A| 啪啪免费视频一区二区| 亚洲色图狠狠干| 欧美在线黄| 日本www色视频| 国产一区自拍视频| 99久久人妻精品免费二区| 欧美综合区自拍亚洲综合天堂| 亚洲丝袜第一页| 在线观看国产黄色| 亚洲一区免费看| 国产91丝袜在线观看| 99热这里只有精品国产99| 免费观看男人免费桶女人视频| 久久国产毛片| 亚洲精品视频在线观看视频| 亚洲中文字幕无码爆乳| 无码一区中文字幕| 色综合久久久久8天国| 国产va欧美va在线观看| 国产91透明丝袜美腿在线| 国产精品福利一区二区久久| 精品自窥自偷在线看| 久久精品国产在热久久2019| 欧美成人怡春院在线激情| 亚洲成人网在线观看| 欧美日韩亚洲综合在线观看| 色天天综合久久久久综合片| 91久久偷偷做嫩草影院电| 国产内射一区亚洲| 午夜国产在线观看| 国产精品第5页| 国产三级毛片| 亚洲天堂日韩在线| 97se亚洲综合不卡| 国产精品无码一区二区桃花视频| 天天躁狠狠躁|