摘要
從現階段長江流域氣象水文信息共享系統的不斷發展和完善出發,針對流域氣象水文信息共享平臺建設方面存在的諸多問題,結合2014年湖北省氣象信息與技術保障中心成功開發的基于CIMISS的長江流域氣象水文信息共享平臺(YZMISS),指出了長江流域氣象水文數據共享系統的設計目標和技術路線,在闡明YZMISS總體結構與功能的基礎上,從總體數據流程、系統結構、信息收集與處理、數據存儲管理、信息共享服務等方面,對YZMISS的設計內容及其實現方式進行了介紹。
關鍵詞 基于CIMISS;長江流域;共享系統設計
中圖分類號 S126 "文獻標識碼 A "文章編號 0517-6611(2014)32-11565-06
The Yangtze River Basin Meteorological and Hydrological Information Sharing Platform Design and Implementation Based on CIMISS
WANG Hongji, YANG Daicai
(Meteorological Information and Technology Support Center of Hubei Province, Wuhan, Hubei 430074)
Abstract Starting from the continuous development and improvement of Yangtze River basin meteorological and hydrological information sharing platform in current stage, aiming at the existing problems, combined with YZMISS developed by Hubei Meteorological Information and Technical Support Center in 2014, the design objectives and technical routines of Yangtze River basin meteorological and hydrological information sharing platform were pointed out. On the basis of elaborating general structure and functions of YZMISS, the content and implementation ways were introduced from aspects of data flow, system structure, information collection and processing, data storage and management, information sharing services.
Key words "CIMISSbased; Yangtze River Basin; Sharing platform design
長江流域是全國7大江河流域中最大的流域,涵蓋全國12個省(直轄市),其國民生產總值約占全國的36%,同時也是我國降水變率比較大、旱澇災害頻繁發生的地區之一。中國氣象局一直高度重視長江流域水文氣象業務的發展,為提升長江流域氣象防災減災和應對氣候變化的服務能力與水平,加強流域內跨省區、跨部門的合作和信息共享,2009年底中國氣象局在湖北成立了以華中區域氣象中心牽頭,由長江流域12個省(直轄市)氣象局組成的長江流域氣象中心。依托信息共享平臺建設,實現流域內信息的共享,是做好流域內監測和預報服務工作的基礎,對提高長江流域氣象部門的公共氣象服務能力有十分重要的意義。
長江流域氣象中心建成以來在數據共享方面已經取得了一定進展,楊代才等開發了長江流域氣象中心實時資料共享平臺,實現了常規自動站資料、區域自動氣象站資料、水文資料、雷達基數據和預報產品的實時共享[1]。但隨著業務的不斷發展和數據的不斷擴充,該共享系統已經無法滿足用戶的需求,在數據存儲、數據采集和共享方式上都存在著弊端。此外,伴隨著CIMISS系統的推廣和應用,更加迫切地需要數據集約化、一體化管理,從而保證數據的準確性,也便于維護和升級,廣東省氣象局開發的“廣東省現代農業氣象業務支撐平臺”率先實現了與CIMISS的對接。
1 現狀與存在的問題
通過近幾年的技術研究和業務建設,長江流域氣象中心已初步形成了水文氣象業務服務能力,已建立了由自動氣象站、區域站、新一代天氣雷達等新型氣象探測設備組成的現代化氣象觀測網,開展了長江流域雷達拼圖業務和定量降水估算研究,建立了中尺度暴雨數值預報系統和水文氣象耦合模式預報系統。
雖然長江流域水文氣象服務已經取得了一定成效,但作為數據支撐的氣象信息收集、處理、存儲、共享系統還保持著流域各省(市)氣象部門相對獨立的方式運行。隨著氣象觀測技術的進步、氣象資料種類的增加以及部門內外對氣象服務需求的不斷提升,相對獨立和分散的數據應用方式已成為制約長江流域水文氣象服務進一步發展的重要因素之一。
相比流域水文氣象預報預測業務發展,長江流域氣象信息匯集和共享業務發展相對滯后。因此,有必要在現有業務基礎上,系統梳理流域內氣象水文監測產品、預報預測、災情、決策、應急服務等綜合信息,建立長江流域氣象信息共享平臺,實現信息的匯集和共享,為長江流域水文氣象服務提供更有力的業務支撐。
2 系統設計
2.1 設計目標
通過建立流域信息匯集和共享的機制和渠道,實現流域內氣象資料、水文資料及決策服務、應急服務等信息的匯集和共享,建立基于CIMISS的長江流域氣象水文信息共享平臺(the "YangtZe river basin Meteorological Information Sharing System,簡稱 YZMISS),為全面提高長江流域暴雨洪澇災害預報水平,提升水文氣象科研能力,為長江流域防汛抗旱和重大水電工程建設運行的氣象保障服務提供安全、可靠、穩定的信息支撐。其設計目標具體包括:
①通過共享平臺的建設,實現長江流域12個省市之間的水文氣象信息的互聯互通,實現共享產品的互相主動推送,包括流域各省將各自的產品主動推送至共享平臺,共享平臺將處理后的共享產品推送到流域各省。
②基于新一代氣象通信系統和全國綜合氣象信息共享平臺(China Integrated Meteorological Information Service System,以下簡稱CIMISS),建立一套完整的水文氣象信息收集、處理、共享及應用的流程,為用戶提供各類數據訪問接口,提供數據共享服務。
③面向氣象部門用戶提供信息共享服務,實現與現有業務系統的整合,為MICAPS、SWAN等業務系統提供應用接口,為預報人員提供方便快捷的氣象數據支持服務,實現預報人員流域水文氣象信息的桌面共享。
④面向氣象部門外的決策用戶和行業用戶提供流域氣象信息服務,圍繞長江流域防汛抗旱工作對氣象服務的需求,長江流域水資源的合理利用和科學調度需要,提供與流域信息結合的氣象數據及預報產品查看、檢索、下載等服務功能,為長江流域防汛抗旱和重大水電工程建設運行提供氣象資源支撐。
⑤基于長江流域水文氣象服務業務需要,建立科學合理、具有流域特色的長江流域水文氣象業務規范和業務流程,并在流域內應用并進行推廣。
2.2 設計原則
系統設計原則是業務系統設計的關鍵之一,長江流域氣象信息共享平臺的設計主要遵循以下原則:①要結合新一代通信網絡系統實現信息互聯互通:依托氣象部門新一代通信網絡及現代化的通信技術手段,實現流域各省(直轄市)氣象局之間的信息互相聯通、互相推送,實現氣象觀測、預報預測、水文信息以及流域氣象服務產品的快速傳輸;②要結合CIMISS系統實現數據環境及存儲資源利用:以CIMISS系統為基礎,建立實時數據庫、資料處理、存儲系統,實現流域氣象觀測數據存儲利用,以及流域氣象服務產品的存儲管理,并為流域氣象部門及行業用戶提供各種資料及產品的發布共享服務;③結合MICAPS、SWAN等業務化系統實現流域水文氣象預報預警數據的桌面應用:針對流域各省定量降水估測、預報等重點水文氣象業務,提供流域各類水文氣象監測、預報、預警產品,為業務人員提供桌面應用服務;④結合長江流域中心已建系統和現有的業務成果,建設長江流域氣象信息共享平臺,滿足長江流域中心及所轄各省中心氣象部門用戶、長江流域防汛抗洪指揮部的決策用戶,以及水利、國土資源、水電、航運等相關行業用戶對流域氣象信息共享服務的不同需求;⑤結合虛擬存儲及云平臺等新興技術,建立以云平臺為支撐的長江流域氣象信息共享平臺,合理分配利用計算及存儲資源,為系統提供可靠穩定的運行平臺。
2.3 系統組成
氣象信息共享平臺作為氣象業務體系的4大戰略平臺之一[2],在整個氣象業務中具有重要作用。因此,在云平臺基礎上設計建設滿足長江流域各省(直轄市)氣象信息共享服務要求的長江流域氣象信息共享平臺,實現長江流域水文、氣象信息的匯集和共享。
長江流域氣象信息共享系統結構如圖1所示。
長江流域氣象信息共享平臺采用分層次、組件化的原則進行設計,平臺的支撐環境由基礎硬件層、基礎軟件層組成,并且由基于以業務、技術、管理等方面的標準規范體系、安全保障體系和運維管理體系作為整體架構上的支撐和保障[3-5]。整個平臺構建于由網絡設備、安全系統、服務器、存儲設備組成的基礎硬件平臺之上,通過云平臺構建虛擬化服務器資源池、存儲資源池,使用多種操作系統、數據庫管理系統、系統安全軟件作為基礎軟件支撐,構建支撐業務系統的虛擬機。系統所涉及的數據包括流域基本信息、氣象觀測數據、水文信息數據、氣象預報產品、服務產品等業務數據,以及地理信息數據、元數據、用戶信息數據等支撐數據,另外還包括平臺在運行過程中需要使用的配置信息、產生的日志文件等。系統的業務應用層包括支撐業務應用的信息
收集與處理系統、數據存儲管理系統和信息發布服務系統。接口層包括用戶界面和對外接口,
平臺提供平臺管理界面及信息發布服務網站門戶;對外接口包括對數據源的數據收集接口、提供數據服務的Web Service接口、MICAPS系統應用的接口、SWAN系統應用接口、FTP服務接口以及供氣象部門內用戶直接調用數據庫數據的數據訪問API接口。
2.4 流程設計 長江流域氣象信息共享平臺的系統流程如圖2所示。
2.4.1
信息收集與處理系統。根據收集策略對各種來源的產品和數據進行實時收集,對實時收集到的數據進行分類判斷,根據數據形式進行文件解包、解壓縮處理、文件名檢查、數據格式檢查,需要以文件方式保存的數據保存到相應的目錄下,對需要入關系數據庫的要素數據進行數據解碼和要素提取,輸出經過預處理的標準化數據到數據存儲管理系統準備入庫;數據加工處理根據加工處理策略對各種數據進行產品綜合處理、MICAPS格式轉換處理,接收來自信息發布服務系統的數據統計分析請求,從數據存儲管理系統獲取需要分析的數據進行排序、求極值、求平均、求總量等統計分析處理,將統計分析結果返回給信息發布服務系統;根據推送策略,通過新一代通信系統建立的省與省之間的信息傳輸通道,進行流域氣象服務產品分發;實時監控各種數據、產品的采集、分發情況。
2.4.2
數據存儲管理系統。根據數據入庫策略對來自信息收集整理系統標準化數據及加工制作產品進行入庫處理,存儲至產品庫中指定存儲位置;根據數據備份策略,定期啟動進程進行數據備份;當數據丟失或被損壞時,根據預先配置的數據恢復策略進行數據恢復;根據數據清除策略,定期啟動進程進行數據清除;實時監控數據入庫、存儲資源使用情況。
2.4.3
信息發布服務系統。為氣象部門或行業相關用戶提供信息查詢、下載、統計分析服務,同時提供FTP下載服務,統一接口服務;用戶可以訪問信息共享服務網站,通過目錄導航選擇查看以圖形、表格及文件列表等方式顯示長江流域氣象監測、預報、預測以及水文信息,并可以進行數據檢索、下載、統計分析;系統實時監控數據服務、網絡資源使用情況。
圖2 長江流域水文氣象信息共享系統流程
2.5 安全設計
長江流域信息共享平臺的安全設計需要滿足3個方面的安全需求:①用戶的安全:提供用戶認證系統,來保證用戶的身份安全和訪問安全;②數據的安全:提供對數據庫自身內容的安全備份和恢復功能,保證數據的準確性、可恢復性;③應用程序的安全:通過用戶認證系統、信息資源目錄系統對數據訪問進行安全保護。
長江流域信息共享平臺采用安全認證系統,為參與服務的氣象部門業務人員和行業用戶提供統一的權限管理機制,實現單點登錄、全局訪問。安全認證是和數據庫系統、信息服務接口系統緊密捆綁的系統。按照用戶角色不同設置不同的訪問權限,使系統對每一個進入系統的用戶的合法性進行檢驗,防止未經授權的用戶進入,對合法用戶在網上數據庫的訪問權限和內容進行控制,保證用戶在權限范圍內最大限度地共享信息。數據庫備份恢復功能方面,提供數據庫備份和恢復功能。服務產品庫存儲的所有內容都進行安全備份,備份數據保存時間按照數據重要性和使用時效性等規劃;數據恢復功能可以及時恢復因誤操作等原因丟失的數據,保證數據準確性、完整性和可恢復性。使用防火墻過濾不安全的服務,保護脆弱的服務,保護應用和數據安全;控制外部用戶對系統的訪問行為,阻攔非法訪問行為;增強系統的保密性。
3 系統功能
長江流域信息共享系統的主要業務功能包括信息收集與處理子系統、數據存儲管理子系統和信息發布服務子系統,對各子系統進行了設計。
3.1 信息收集與處理子系統
信息收集與處理子系統依托各省(直轄市)氣象局間的地面寬帶網絡的行業部門資料交換,實現流域各省(直轄市)的水文氣象信息的收集,主要包括數據收集與分類、數據預處理、數據加工處理、數據推送、數據傳輸監控統計等模塊。其功能設計如圖3所示。
3.2 "數據存儲管理子系統
長江流域氣象信息共享系統的數據庫包含實時庫和歷史庫,數據存儲基于CIMISS數據存儲結構進行擴展設計和實現。實時庫針對實時氣象數據進行存儲管理,并對實時氣象業務系統提供實時氣象數據資源共享服務的專用氣象數據庫系統,滿足高響應速度需求。歷史庫用于存儲所有的氣象歷史資料,從實時庫中定時追加更新[6-8]。子系統主要包括數據處理入庫、數據出庫管理、數據備份與恢復、數據清除、數據存儲監控統計5個功能模塊。子系統功能設計如圖4所示。
3.3 "信息共享服務子系統
長江流域信息發布服務子系統采用統一訪問接口、FTP共享服務、WEB網站等方式,發布和管理長江流域各種監測、預測和預警服務綜合信息,為流域氣象部門、決策用戶及相關行業提供針對性共享服務。信息發布服務系統需要通過信息共享服務網站,以圖形、表格及文件列表等方式顯示長江流域氣象監測、預報、預測以及水文信息,為用戶提供信息查詢、下載、統計分析服務,同時提供FTP下載服務,統一接口服務。其功能設計如圖5所示。
圖5 流域信息發布服務子系統結構
4 "系統實現
2014年5月,依托氣象部門新一代通信網絡已經實現了長江流域各省之間的水文氣象信息傳輸,充分吸取前期氣象部門信息共享系統設計開發的成功經驗[9-12],實現了長江流域氣象觀測、預報預測、水文信息以及流域氣象服務產品的快速收集;結合CIMISS系統初步實現了數據環境及存儲資源利用,建立了實時數據庫、資料處理、存儲系統,實現了流域氣象觀測數據存儲利用,以及流域氣象服務產品的存儲管理[14];結合MICAPS、SWAN等業務化系統初步實現了流域水文氣象預報預警數據的共享應用,提供流域各類水文氣象監測、預報、預警產品,為業務人員提供桌面應用服務;結合長江流域中心已建系統和現有的業務成果,初步建立了長江流域氣象信息共享系統。系統界面如圖6所示。
圖6 基于CIMISS的長江流域氣象水文信息共享系統主界面
4.1 CIMISS實況數據采集實現
長江流域氣象信息共享系統的實況數據主要來源于CIMISS系統,通過CIMISS數據共享(GDS)子系統提供的WebService接口獲取數據,具體實現方式為:
①引入CIMISS提供的基礎jar包文件,包括Client.jar、 commons-codec-1.3.jar、commons-httpclient-3.1.jar、commons-logging-1.1.1.jar;
②使用HttpClientRequest類模擬HTTP請求,參數以xml字符串的形式傳入requestStart方法,具體參數及詳細API可以參考《CIMISS應用檢索接口(API)用戶手冊》;
③調用sendData()發送請求;④調用requestEnd()方法來獲取數據返回,返回結果根據參數設置可以為JSON格式或XML格式。獲取返回數據后本地程序依照業務邏輯進行數據解析。
4.2 "定時任務調度實現
系統中所有數據的獲取和發布需要通過定時任務調度進行統一管理,該模塊主要是定時向一個服務地址發送HTTP請求,后臺服務執行相應的命令來完成處理。
定時采集的實現核心是Quartz,Quartz是OpenSymphony開源組織在Job scheduling領域又一個開源項目,它可以與J2EE、J2SE應用程序相結合,也可以單獨使用。Quartz可以用來創建簡單或運行10個甚至是好幾萬個Jobs這樣復雜的程序。
定時任務工程里核心類FtpDownLoadTask是Quartz的一個任務實現,它實現了Quartz的TaskInterface接口,并在execute接口方法里通過Apache httpclient模擬一個HTTP請求發送給采集程序的控制器,將FTP連接串(param)、文件夾名稱(remoteDir)、文件通配符(remoteFileNameFormator)、文件本地存儲位置(localDir)、文件本地重命名后名稱(localFileFormator)、回調處理函數接口名稱(cbk)傳遞給后臺控制器。
后臺服務程序是單獨開發的一個MVC控制器,能夠接收HTTP請求,在接受到請求后根據請求內的參數(param 、remoteDir、remoteFileNameFormator、localDir、localFileFormator)可以得知需要訪問的FTP服務的ip地址、端口、用戶名、密碼以及文件夾。
5 結語
系統在CIMISS的基礎上通過二次開發,增加部分特殊功能來滿足長江流域水文氣象資料共享的實時業務需求。
系統于2014年6月開始在長江流域內各省氣象部門投入業務試運行,運行效果良好,目前已為長江流域氣象中心所屬各業務單位提供了各種資料及產品的共享服務,同時結合虛擬存儲及云平臺等新興技術,初步建立了以云平臺為支撐的硬件平臺,達到了合理分配和利用計算及存儲資源的目的,為系統運行提供了可靠穩定的運行平臺。基于長江流域水文氣象共享業務需要,初步建立了具有流域特色的長江流域水文氣象共享業務規范。
參考文獻
[1]
楊代才,王海軍,龔賢創.長江流域氣象中心實時資料共享平臺設計與開發[C]//2011年中國氣象學會氣象通信與信息技術委員會暨國家氣象信息中心科技年會.中國氣象學會,2011.
[2] 秦大河,孫鴻烈.中國氣象事業發展戰略研究—總論卷[M].北京:氣象出版社,2005:26-27.
[3] 謝博文,黃小妹,覃信賢.氣象信息共享平臺的構建及其實現研究[J].科教導刊(中旬刊),2012(7):79-80,84.
[4] 梅清銀.氣象信息共享管理系統的設計與實現[D].成都:電子科技大學,2010.
[5] 何小明,蔣永東.氣象信息共享服務業務平臺用戶認證系統的設計[J].現代電子技術,2007(21):79-80.
[6] 王勝利.新疆省級氣象數據庫建設及其管理系統軟件設計[J].新疆氣象,2003,26(5):41-42.
[7] 王宏記,王海軍,曾又枝,等. 省級氣象信息綜合數據庫系統的設計與實現[J].暴雨災害,2008,27(3):283-286.
[8] 王旻燕,鄧莉,趙芳,等.CIMISS中氣象衛星數據存儲和服務模型[J].安徽農業科學,2012(8):4785-4789.
[9] 馬永征,南凱,閻保華.基于MDS的數據網格信息服務體系結構[J].微電子學與計算機,2003(8):1-3.
[10] 王國復,李集明,鄧穎,等.中國氣象科學數據共享服務網總體設計與建設[J].應用氣象學報,2004,15(S1):10-16.
[11] 李集明,沈文海,王國復.氣象信息共享平臺及其關鍵技術研究[J].應用氣象學報,2006,17(5):621-628.
[12] 李集明,熊安元.氣象科學數據共享系統研究綜述[J].應用氣象學報,2004,15(S1):1-9.
[13] 沈文海,趙芳,高華云,等.國家級氣象資料存儲檢索系統的建立[J].應用氣象學報,2004,15(6):727-736.
[14] 王宏偉,方群,陳偉.基于內存數據庫的OPC監測系統的設計與實現[J].計算機技術與發展,2013,23(7):242-248.