基于Hadoop 的海量衛星影像大數據管理系統設計與實現

袁昱緯 衛 強 楊亞鵬 夏明卓

（中國人民解放軍91977 部隊，北京 100036）

0 引言

隨著成像衛星分辨率的不斷提高和星座規模的不斷增大，衛星對地觀測獲得的高質量、大范圍影像數據越來越多，衛星影像在農林生產、環境監測、地理信息系統等領域也獲得廣泛應用。 同時，衛星影像的數據量也呈幾何級數增長，對影像數據管理系統的功能性能需求越來越高，如無法及時、高效地進行組織管理，衛星影像海量的數據規模將成為其應用的嚴重障礙。

Hadoop 是目前存儲、管理和處理大數據的主流開源平臺之一， 能夠提供高效的海量衛星影像數據管理與處理的環境，具有可靠性高、運行效率高、擴展性好、易于維護等優點，在影像管理與應用領域取得了良好的應用效果。 因此，本文通過分析衛星影像大數據管理系統特點與功能需求，基于Hadoop 平臺提出了系統總體構架，并通過研究相關關鍵技術，設計和實現基于Hadoop 平臺的海量衛星影像大數據管理系統。

1 衛星影像大數據管理系統特點與功能需求

衛星影像大數據管理系統的特點主要包括：（1）支持的衛星影像數據規模大， 存儲的數據量已由GB級提高至TB 級、甚至PB 級，且支持多分辨率、多類型的衛星影像；（2）大規模衛星影像的組織管理效率高，衛星數據的導入、索引、修改、讀取等組織管理效率不隨影像數據量的增大而顯著增大， 當數據集已存在TB 級規模的數據量時， 仍然具有較高的組織管理效率；（3）支持衛星影像元數據管理，能夠組織管理衛星影像的各類屬性信息，如影像名稱、衛星標識、衛星成像參數、空間分辨率、成像區域、成像時間等；（4）易于工程實現，軟件部署和日常操作便捷。 綜上，本文將衛星影像大數據管理系統的功能需求劃分為以下三個階段。

（1）衛星影像的入庫與管理。 主要包括衛星影像數據及其元數據的數據庫構建、 存儲與管理功能，多源異構數據能夠在統一構建的平臺上存儲，且支持分布式物理存儲。

（2）衛星影像的檢索。 能夠在數據庫中高效、靈活地開展檢索功能，包括對衛星影像元數據中各參數條件的組合查詢，包括基于成像時間、衛星標識、地理位置、分辨率等級、影像類型等查詢條件。

（3）衛星影像的分發與應用。 主要根據衛星影像的檢索結果向用戶分發衛星影像及相應的元數據，并提供讀取接口，為用戶的行業應用提供影像基礎。

2 系統總體構架

海量衛星影像大數據管理系統的總體構架共分為數據層、支撐層、服務層和用戶層，如圖1 所示。

圖1 海量衛星影像大數據管理系統的總體構架示意圖

其中， 數據層和支撐層是整個管理系統的核心，本文采用Hadoop 平臺的HDFS、MapReduce、HBase 三大核心組件構建了總體框架中的數據層和支撐層。 其中，數據層提供多源衛星影像數據、元數據以及其他相關信息的物理存儲，基于HDFS 文件系統構建各物理節點，并提供大數據訪問接口和冗余備份；支撐層的MapReduce 和HBase 通過訪問HDFS 實現數據的管理和檢索，其中MapReduce 分為Map 和Reduce 兩個部分。 服務層則通過進一步封裝，實現影像并行入庫、并行分塊、并行構建金字塔等并行處理功能。

3 關鍵技術分析

3.1 HDFS 文件系統

HDFS 文件系統能夠分布式地部署于通用、 廉價的硬件設備上，該文件系統為主從結構，節點主要包括名字節點（NameNode）和數據節點（DataNode）兩大類，如圖2 所示，其中名字節點用于數據的管理和調度；數據節點為若干個，數據節點的一個節點一般對應一臺硬件設備，每個節點則由若干文件分塊（Block）構成。 在HDFS 中，文件及其冗余備份被分散為多個文件分塊，存儲于若干個數據節點中，名字節點負責維護文件與數據節點、文件分塊之間的映射關系并進行管理和調度。 HDFS 文件系統的節點之間一般采用TCP/IP 協議進行通信。

圖2 HDFS 文件系統結構示意圖

3.2 基于MapReduce 的影像分塊與影像金字塔

影像分塊通過將衛星影像在空間中進行劃分，影分影像瓦片，以提高在任意給定空間區域中進行影像組織和檢索的效率，也是構建影像金字塔的基礎。 根據實際存儲設備IO 性能和網絡性能， 影像瓦片的大小一般為256×256 像素或128×128 像素。 影像金字塔通過預先將影像瓦片處理成不同分辨率等級，以提高衛星影像在不同分辨率等級的組織和檢索效率，是典型的采用空間換時間的策略。 金字塔模型中的低分辨率影像瓦片可通過隔行抽取等重采樣的方式得到。

在構建影像金字塔時，本文采用MapReduce 進行并行重采樣來構建高層級，流程如圖3 所示。 首先對高分辨率的影像瓦片進行分組，分組的數量決定了并行處理的線程數；其次將每組影像瓦片分配至Map 的各節點，由Map 各節點分別進行重采樣，形成低分辨率影像瓦片； 最后通過Reduce 對各個Map 節點中的重采樣結果進行合并，形成金字塔模型中的低分辨率層級。 金字塔模型除最高分辨率層級外，都可通過該方式獲得。

圖3 基于MapReduce 的影像金字塔構建流程示意圖

3.3 基于HBase 的影像的索引與入庫

根據影像金字塔模型的空間結構，以及常用的墨卡托投影特點，本文采用四叉樹索引的方式組織全球范圍的衛星影像。 四叉樹索引中節點的每次劃分都是將空間劃分為四個范圍相同的子空間，分別對應于四個子節點，四叉樹的不同層級對應影像金字塔模型的不同層級，四叉樹的節點對應金字塔模型中的一個分塊，如圖4 所示，其中四叉樹的葉子節點代表金字塔模型中的最高分辨影像瓦片。

圖4 金字塔模型與四叉樹索引關系示意圖

將四叉樹索引及其對應的影像瓦片存儲到HBase數據庫時，四叉樹索引各層級內每個節點對應一個行列號編碼，該編碼可通過下式得到。

其中，X和Y分別為對應四叉樹節點的行號、列號，X和Y分別為對應四叉樹節點左上角對應的經度和緯度，為每個影像瓦片邊長的經緯度度數，roundup 為向上取整。

四叉樹索引及其對應影像瓦片的并行入庫流程如圖5 所示。 首先基于四叉樹索引組織的影像瓦片及其編碼導入HDFS 文件系統，然后將影像分塊按照四叉樹結構進行分組，每組影像分塊分配至Map 的各節點，再通過Map 的各節點將存儲于HDFS 中的各組影像瓦片導入HBase 的HRegion 中，存儲時影像分塊以其分辨率等級和行列號命名，實現基于HBase 的影像的組織與存儲。 上述影像入庫流程中，文件的入庫操作由各個Map 節點并行完成， 影像塊分組之間、Map節點之間以及HRegin 之間沒有影像數據交換， 入庫的效率與單線程入庫相比大大提高。

圖5 衛星影像并行入庫流程示意圖

3.4 Hadoop 構架下的衛星影像讀取

影像的讀取是對外發布的關鍵。 由于本文將影像瓦片以其所在分辨率等級和行列號命名，因此用戶在讀取衛星影像時，可通過直接給出所需衛星影像的分辨率等級和位置即可定位所需的影像分塊。

讀取時， 首先用戶給向HBase 請求影像分塊數據，請求時提供影像分塊的分辨率等級和地理位置等參數； 其次根據本文第3.3 節中的方法將地理位置解析為行列號，HBase 根據分辨率等級和行列號進行檢索，并調用HDFS 文件系統接口，對指定的影像瓦片數據進行讀取；最后，將讀取的影像瓦片按照其行列位置關系合并，形成完整的衛星影像反饋給用戶。 讀取流程如圖6 所示。

圖6 衛星影像讀取流程示意圖

4 應用實例

基于本文提出的影像大數據管理特點與需求以及系統總體構架， 采用Hadoop 平臺開發了衛星影像大數據管理系統。 在Linux 操作系統中使用采用Java和C++語言進行開發，Hadoop 采用2.10.1 版本，HDFS文件系統構建了1 個名字節點和4 個數據節點，并在此基礎上實現了衛星影像的分塊與入庫、影像檢索和讀取、影像瀏覽等功能，能夠獲得較高的衛星影像管理效率。

5 結語

本文通過研究基于Hadoop 的文件系統、 影像分塊與金字塔模型、影像索引與入庫、影像讀取等方面的關鍵技術， 設計并實現了基于Hadoop 平臺的海量衛星影像大數據管理系統，為衛星影像數據的工程應用進行了有益的探索。 同時，如何基于Hadoop 平臺將衛星影像處理任務分配至若干計算設備上進行，并支持計算設備的隨機加入和退出，實現進行衛星影像的分布式處理，還值得進一步深入研究。