范超宇
摘 要:本文對云計算背景下氣象大數據的服務架構進行了介紹。MapReduce處理技術能夠高效完成分布型處理服務,也是用于氣象大數據服務的運算架構。基于MapReduce技術對氣溫與降水量的統計方法做了闡述,希望對氣象行業工作者有所啟發。
關鍵詞:云計算;氣象;大數據服務;應用
中圖分類號:P409 文獻標識碼:A DOI:10.11974/nyyjs.20170833203
1 云計算背景下的氣象大數據服務架構
我國氣象區域中心擁有很多的硬件配置,其中有新型計算機及常用的存儲服務器、網絡通信設施及其他配置。把基礎設施利用云計算手段加以綜合利用,就形成氣象行業的專有云。氣象行業大數據服務架構能夠在氣象行業專有云基礎上布設。根據上述說法構建出云計算背景下氣象大數據服務架構,這一架構涉及以下5個層次。
1.1 基礎設施層
其作用是儲存及處置氣象大數據的硬件配置,對象涉及主機、網絡設備及其他配置。
1.2 平臺層
它的作用是依靠云計算當中的關鍵技術在基礎設施層的前提下構建平臺。通過Hadoop分布型文件系統對分布型文件進行冗余存儲;通過分布型數據庫HBase對動態氣象大數據進行分布型數據的檢索;通過分布型運算模型MapReaduce對數據實施并行運算;通過數據倉庫Hive完成對靜態氣象數據進行的存儲及快捷檢索。平臺層構建結束后,可以作為應用層的技術支持。
1.3 應用層
該層能夠運用平臺層的軟件實施應用的開發,涉及氣象站監督控制等作用、云平臺監督管控、氣象服務。站點監督控制通常情況下指對氣象監督觀測點與監測設備實施管制及監督控制,涉及氣象站及設備的信息管理、數據源狀態的監督控制及其他措施。云平臺監督管控是指對氣象數據中心的服務器節點實施監督管控,涉及節點管制、能源消耗監督控制及其他措施。依據各種使用要求實施氣象服務,涉及部門業務功能、預報產品制作及其他服務項目。
1.4 大數據服務層
它的作用是利用應用層提供的各種應用實施氣象大數據服務。其中,氣象站監督控制及云平臺監督管控2個作用憑借以HBase為基礎的實時數據索引為氣象行業服務;數值預報及其產品的產生能夠運用分布型數據處理模型MapReduce實施氣象數據的分布型處置,從而實現氣象科研及公共氣象及其他方面的內容。
1.5 用戶層
氣象大數據服務的對象涉及氣象行業業務部門、科研部門及相關行業。氣象業務部門能夠借助內網接觸氣象大數據服務;氣象行業科研部門能夠借助Intnet得到一些數據;相關行業能夠借助Intnet得到預報結果。
2 利用MapReduce的氣象大數據服務舉例
2.1 MapReduce處理技術
MapReduce屬于編程方面的模型,適用大體量數據集的并行計算,“Map(映射)”與“Reduce(歸約)”即為該技術的中心思想。該技術在很大程度上為不懂分布式并行編程的編程者提供了幫助,只需把他們寫的程序錄入分布型系統就能運行。氣象大數據能夠運用該技術實現并行處理。MapReduce首先把輸進去的數據區分成統一規模的數據片,然后借助MAP處置各分片中的數據信息,再將獲取的數據實行REDUCE操作,利用操作后的結果進一步獲得最后的輸出。
2.2 基于MapReduce的氣溫和降水量統計方法
把我國某大型氣象站的日值數據作為處置對象,數據最開始存儲于HBase數據庫里,要想獲得氣象顯示這一服務,需通過MapReduce運算模型對上述日值數據實施處置、分析,分析結果對氣溫與降水量的分析及統計有重要作用。依靠月周期對氣象站的最高氣溫、最低氣溫、最高平均氣溫、最低平均氣溫與降水量實施統計,能夠獲取氣象站的往期氣溫及降水量的變動形勢,這能為估測日后氣溫及降水量的變動提供重要的參照。
MapReduce的氣象日值數據處置邏輯流程。MapReduce計算模型可以分布式處理存儲于HBase表里的數據。多個Map任務會并行讀取氣象數據,輸至Map任務里的數據是{key,value}對,key是行鍵,value是行鍵相對的一行數據。依靠Map任務的操作會繼續產生{key,value}對,成為Reduce的輸入。Reduce任務處理之后把逐月信息寫至關系型數據庫MySQL里。運用MySQL的SQL語句與有關函數,獲取逐年信息。
3 結語
本文所提的云背景下的氣象大數據服務架構給氣象大數據服務奠定了基礎,通過利用MapReduce分布式處理技術對氣象中氣溫及降水量數據的統計方法的介紹,可以獲知其對氣象大數據的處置及分析的高效及便捷。云計算背景下氣象大數據的服務及應用能夠加快氣象行業的信息化步伐,有利于該行業信息的進一步分享,同時也提升了氣象行業的服務水平,對于提高大眾對氣象服務的滿意程度有積極意義,這也是日后氣象服務的關鍵所在。
參考文獻
[1]梁長文,鄭海鵬,張冰.在大數據環境下科技型中小企業如何發展與應用云計算[J].黑龍江科技信息,2016(29):164.
[2]鮑慶芳.云計算背景下數字檔案館信息資源的安全管理探析[J].黑龍江科技信息,2016(13):162.endprint