摘? 要:在水文行業實施數據監測期間,需要數據共享系統平臺提供支撐,以便更好地采集、利用及存儲水文信息數據,更好地開展有關水文方面的后續工作。鑒于此,本文對基于大數據平臺下的水文信息數據共享系統設計進行深入研究與探討,以期為相關技術專家和學者提供有價值的參考。
關鍵詞:大數據;水文;共享平臺;設計
中圖分類號:P33;TP311.1? ?文獻標識碼:A? ? 文章編號:2096-6903(2020)07-0000-00
0 前言
水文現象作為自然領域內水變化及運動的各種不同現象,其通常指的是自然界中水的變化規律及時空分布,所涉及到的數據內容相對較多,因此需設計數據共享系統平臺,為水文測驗與監測、預測等各項工作提供支持。因而,綜合分析基于大數據水文信息數據共享系統平臺設計,有著一定的現實意義和價值。
1 水文數據簡述
水文數據以空間、時間及業務信息為核心元素。我國現階段水文行業內的數據統計分類眾多,如雨水情況實時數據、基礎水文信息數據、水資源信息數據庫、水質采樣信息數據、水文測驗信息數據、山洪災害相關監測信息數據等。水文信息數據特征集中表現在水質、降水、徑流、土壤實際含水量、泥沙含量、蒸發等方面。結合水文行業當前信息數據特點,需長期實施數據監測,因此其有著海量信息數據這一顯著特點[1]。
2 系統平臺設計及其實現
2.1 平臺設計
2.1.1 在系統框架層面
基于大數據水文信息數據共享系統平臺設計內容以數據資源、基礎設施、信息數據組織平臺、保障環境等模塊為主。數據資源模塊,以數據信息共享系統平臺建設為主要內容,內含規劃組織數據資源、資源目錄、建立元數據標準體系、專用及主體數據庫等模塊;基礎設施模塊,以機房、網絡、硬件模塊為主;信息數據組織平臺,以目錄服務模塊、信息資源的門戶服務模塊、信息交換及管理服務模塊為主,具備數據信息共享系統平臺信息共享及綜合開發各項支撐功能;而保障環境模式,則是以容災備份、安全、日常管理各項制度、技術標準等為主。
2.1.2在系統功能層面
本文所設計的基于大數據水文信息數據共享系統平臺,可提供基礎服務、資源管理、應用支撐各層面服務等功能,其具有構建標準統一、開放、合理應用支撐服務平臺,可跨地域應用,互聯互通相關數據信息,松耦合式結構應用及數據集成化等特點。該系統平臺功能應用以目錄服務、信息數據管理及服務、系統管理、擴展服務等各項功能為主[2]。
(1)在目錄服務層面:所謂目錄服務,即基于水文方面大數據的檢索服務,在水文方面元數據信息表中,檢索水文動態信息,以動態化分類形式展示給廣大使用者。
(2)在信息數據管理及服務層面:在信息數據管理層面,數據管理是以數據的匯交、存儲及更新等功能為主。數據匯交,內含數據審查和發布管理各項功能;而數據存儲,則可提供數據實體入庫系統功能,內含數據抽取、裝載及轉換等各項功能;數據更新系統功能,即為實時化更新信息數據;那么,在信息數據服務層面上,即目錄服務的一種深入功能,經全文及動態化圖形等檢索技術,對不同空間及非空間水文數據、結構化其非結構化水文數據等,實施瀏覽、檢索及下載等各項操作。
(3)在系統管理層面:系統管理,其主要是基于大數據水文信息數據共享系統平臺整體運行管理的各項功能,包含著用戶管理、運行監控及安全管理等各項功能。
(4)在擴展服務層面:基于大數據水文信息數據共享系統平臺擴展服務,其屬于高級服務,可實現數據挖掘及各項專題服務等系統功能。
2.2 具體實現
2.2.1 在數據服務裝置物理部署層面
本文所設計基于大數據水文信息數據共享系統平臺,以8臺主機所構成物理部署分布式測試環境,以slaver01-slaver07、master為命名,該部分裝置當中分別安置Zookeeper、YARN、Spark2、Map Reduce2、HBase、HDFS等實現集群部署。啟動各節點,設定負載均衡運行模式,各個節點均配置好Zookeeper、YARN、Spark2、Map Reduce2、HBase、HDFS等所有功能節點。如果該系統平臺后續應用期間對擴充性有特殊要求,則本網段所在局域網內部則可直接接入全新主機,配置文件及時修改處理好,集群當中裝置并不需要重新啟動。
2.2.2 在應用服務裝置物理部署層面
該項系統平臺應用層內部服務裝置發布網站為Tomcat,以反向代理Nginx技術為基礎,將網站性能提升,更好地應對于水文方面海量信息數據下載并發系統請求。服務發布節點以Nginx VIP2、Nginx VIP1為主,安置反向代理Nginx,共享相同虛擬網絡模塊地址,并對外部提供水文方面數據信息服務。應用復服務裝置選定application1-application5,全部安置Tomcat,作為發布網站當中服務裝置系統程序。下列是應用服務裝置物理部署層面最為具體的表現:在Nginx VIP2、Nginx VIP1這兩個上面分別部署好信息分發裝置Nginx,把前端業務服務消息負載部分均衡轉發至application1-application5內部Tomcat;在Nginx VIP2、Nginx VIP1這兩個上面分別部署好虛擬網絡信息地址系統管理軟件,安置兩臺主機用于虛擬網絡信息地址共享,主節點設定為Nginx VIP1,Nginx VIP有故障問題發生后,IP虛擬地址會切換至Nginx VIP2當中。各臺應用服務裝置內均需將Tomcat安置好,將相同網站內客戶端系統程序全部部署好,同步連接數據信息服務裝置集群,便于實現水文數據信息有效獲取[3]。
2.2.3 在語言架構開發和實現層面
基于大數據水文信息數據共享系統平臺,可實現數據瀏覽和管理、目錄服務、系統服務及擴展服務等各項功能。系統后臺以JAVA語言、Spring MVC架構為主,系統前端部分則是以Javascript系統語言開發、Bootstrap 為主。Spring MVC架構,其基于Model-View-Controller系統模式實現,有效分離數據、視圖及業務,對程序系統開發當中各個對象實施有效管理。數據基礎模型,屬于所需展示數據信息,以數據及行為為主,可提供模型數據信息檢索及狀態更新相關功能;而視圖主要負責展示模型,與最終客戶展現出直接交互界面;控制裝置接收到用戶請求后,委托模型加以處理,完成處理后返回至模型數據,最終返回至視圖,視圖予以展示。基于此,可有效分離模型與視圖,控制裝置當中也可有效分離功能處理及邏輯控制,控制裝置內部視圖選定及視圖技術也得以分離化,視圖模塊僅包含著展現web系統頁面內容,無其余的邏輯功能,對系統總體框架來說有著明確及精煉作用;Bootstrap,其是以Java Script、CSS、HTML為基礎結構,能實現前端框架快速搭建,開發出全相應形式的網頁,自適應所有客戶端及其瀏覽裝置,包含手機、平板、筆記本及臺式計算機等等,可以為廣大開發者所創建的接口來提供統一簡潔化處理方案或者措施,設定具備強大功能內置組件,確保能夠實現完全開源。
3 結語
綜上所述,本文所設計的基于大數據水文信息數據共享系統平臺經運行測試后并未產生系統運行問題,可長期維持可靠的穩定運行狀態,為水文監測各項工作提供強有力的系統支持,因此值得持續推廣及運用。
參考文獻
[1]瞿海妮,龐徐瑋,尤鳴宇,等.電力大數據的應用價值及其共享平臺分析與設計[J]. 經營與管理,2017,25(7):104-108.
[2]曾毅.大數據環境下信息資源共享平臺建設研究[J].信息與電腦,2016,22(3):111-113.
[3]邱超,王威.基于云計算架構的水文大數據云平臺建設[J].人民長江,2018,49(5):313-315.
收稿日期:2020-05-10
作者簡介:卞黎明(1995—),女,河南南陽人,本科,助理工程師,研究方向:水文水資源工程。
Design and Analysis of Hydrological Big Data Sharing Platform
BIAN Liming
(Nanyang Hydrology and Water Resources Survey Bureau of Henan Province,? Nanyang? ?Henan? 473000)
Abstract:During the implementation of data monitoring in the hydrological industry, data sharing system platforms are often required to provide support to better collect, sort, utilize and store hydrological information data, and facilitate better follow-up work in hydrology. In view of this, this article mainly conducts in-depth research and discussion on the design of the hydrological information data sharing system based on the big data platform, and hopes to provide valuable guidance or reference for more technical experts and scholars in the practical research of such topics.
Keywords:big data;hydrology;sharing platform;design