許皓皓,徐振宇,趙科科
(寧波市氣象網絡與裝備保障中心,寧波315012)
超融合虛擬化架構在氣象行業(yè)的應用研究
許皓皓,徐振宇,趙科科
(寧波市氣象網絡與裝備保障中心,寧波315012)
為解決傳統(tǒng)服務器虛擬化技術在氣象部門應用的諸多不足,搭建超融合虛擬化平臺并開展業(yè)務和技術測試。研究超融合基礎架構,詳細描述超融合集群的搭建和測試過程,以及超融合管理平臺、跨平臺遷移、安全防護等關鍵技術。該研究為氣象部門應用超融合技術積累經驗,也為探索氣象數(shù)據(jù)中心向云計算環(huán)境遷移提供思路。
虛擬化;超融合;服務器虛擬化;網絡虛擬化;存儲虛擬化
隨著氣象信息化的不斷深入,服務器虛擬化技術在各地氣象部門得到廣泛應用,很大程度上提高了氣象部門業(yè)務可用性,提升了IT資源利用率和管理水平[1-3]。服務器虛擬化技術在具備簡化IT環(huán)境、增強災難恢復能力、降低運行成本等優(yōu)勢的同時,也存在一定的局限性。首先服務器虛擬化技術只實現(xiàn)了計算資源的虛擬化,并未解決存儲、網絡等資源的虛擬化問題,在那些已經大量應用虛擬化技術的數(shù)據(jù)中心里,存儲和網絡資源的管理工作往往比非虛擬化環(huán)境里更復雜;其次當服務器虛擬化平臺性能出現(xiàn)瓶頸時,需要一次性采購服務器、存儲和網絡設備來升級,硬件成本和業(yè)務遷移成本都很高;再次,共享存儲架構的傳統(tǒng)虛擬化平臺應對容器化、無狀態(tài)服務、大數(shù)據(jù)這些新技術時,成本和性能上并沒有任何優(yōu)勢。超融合虛擬化架構為解決上述問題提供了可能性。
各行業(yè)技術人員在超融合虛擬化架構應用領域開展了廣泛的研究。冷迪[4]分析了傳統(tǒng)企業(yè)數(shù)據(jù)中心基礎架構面臨的弊端,提出了傳統(tǒng)構架向超融合架構的演進趨勢。并對超融合架構的概念、組成和主要特點進行了詳細分析和介紹,從產品和市場角度分析了超融合架構的發(fā)展和應用趨勢;解培[5]在私有云建設和實踐過程中對超融合基礎架構進行學習和改造,形成一套適用于光大銀行的超融合架構切實可行的落地方案;方昕[6]分析了傳統(tǒng)高校數(shù)據(jù)中心架構情況及存在的問題,對超融合構架技術在高校數(shù)據(jù)中心的應用前景進行了探討;郭昌雄等[7]對超融合存儲技術進行研究,保證了數(shù)據(jù)超高安全性的同時也實現(xiàn)了負載均衡,在存儲方面加速推進了蘇州廣播電視總臺媒體融合生產的進程。目前超融合虛擬化架構在氣象行業(yè)還沒有應用先例,相關研究也尚未起步,如果能對超融合虛擬化架構進行研究和測試,掌握關鍵技術,既可以為超融合虛擬化技術未來在氣象行業(yè)應用積累經驗,也非常具有前瞻性和實用價值。
超融合基礎架構(Hyper-Converged Infrastructure)是一種集成了虛擬計算資源和存儲設備的信息基礎架構。在這樣的架構環(huán)境中,同一套單元設備中不但具備了計算、網絡、存儲和服務器虛擬化等資源和技術,而且多套單元設備可以通過網絡聚合起來,實現(xiàn)模塊化的無縫橫向擴展(Scale-Out),形成統(tǒng)一的資源池。傳統(tǒng)虛擬化架構是分散的,服務器與存儲設備各自獨立,超融合基礎架構則是將服務器與存儲設備集成在一個單元設備里提供服務,不需要配置諸如磁盤陣列等專用的存儲子系統(tǒng)。超融合基礎架構一般由安裝了硬盤的x86服務器所組成,所有資源的調派均不涉及底層實體硬件的配置設置,而是以虛擬機為核心,以單一的軟件定義方式來規(guī)劃底層硬件,然后向用戶交付需要的資源。超融合基礎架構能既可以滿足數(shù)據(jù)中心在可用性及可靠性上的需求,而且整個系統(tǒng)能被集中管理,所有硬件設備的管理工作均可通過單一軟件界面完成,因此可以促進和簡化系統(tǒng)管理工作,同時提高IT資源利用率。
超融合架構由傳統(tǒng)服務器虛擬化技術演化而來,隨著近年來云計算的興起和發(fā)展,異構硬件系統(tǒng)之間的融合成為必須解決的問題。傳統(tǒng)服務器虛擬化技術只能在專用的硬件設備上實現(xiàn)資源的虛擬化和管理,并沒有徹底實現(xiàn)硬件資源與虛擬化管理軟件之間的完全解耦,隨著互聯(lián)網的不斷發(fā)展,基于傳統(tǒng)虛擬化技術構建的數(shù)據(jù)中心在擴展性、可靠性、性能、運維、成本等方面的弊端也逐步顯現(xiàn)。超融合架構采用軟件定義的技術,將計算、存儲、網絡與專用硬件資源解耦,實現(xiàn)了IT基礎架構的真正融合,為云計算和云數(shù)據(jù)中心的實施與部署掃清了障礙。超融合架構和傳統(tǒng)虛擬化解決方案技術對比如表1所示。

表1 超融合架構和傳統(tǒng)虛擬化解決方案比較
本次超融合虛擬化測試平臺主要服務于氣象探測資料采集、數(shù)據(jù)處理和氣象應用系統(tǒng)等業(yè)務。平臺設計遵循成熟穩(wěn)定、統(tǒng)一架構和安全可靠原則,兼顧開放性和實用性。超融合軟件架構主要包含三大組件(服務器虛擬化、網絡虛擬化、存儲虛擬化)和一個管理平臺(虛擬化管理平臺)。硬件采用通用x86服務器實現(xiàn)基礎架構的承載,配合傳統(tǒng)的交換機完成整個平臺的搭建,無需使用功能復雜、價格昂貴的數(shù)據(jù)中心級交換機。搭建完畢的超融合集群物理拓撲見圖1。整套超融合集群從邏輯上分為計算、存儲和網絡三部分,搭建環(huán)境和技術特性描述如下:
(1)計算:配置5臺閑置x86服務器,每臺服務器配置2顆Intel Xeon E5-2620v3處理器,32GB內存。使用服務器虛擬化技術將CPU、內存、I/O等服務器物理資源轉化為一組可統(tǒng)一管理、調度和分配的邏輯資源,并基于這些邏輯資源在單個物理服務器上構建多個同時運行、相互隔離的虛擬機執(zhí)行環(huán)境,實現(xiàn)更高的資源利用率;同時提供熱遷移、HA高可用、虛擬機備份,應用故障檢測,安全補丁更新等功能,滿足更高的靈活性和更快速的業(yè)務響應速度。虛擬化完畢后提供180虛擬CPU,160內存供使用。
(2)存儲:使用5臺x86服務器內置硬盤作為存儲資源,共10TB空間。應用存儲虛擬化技術,基于集群設計,將服務器上的硬盤存儲空間組織起來形成一個統(tǒng)一的虛擬共享存儲資源池,形成分布式存儲系統(tǒng);支持多副本存儲,高性能讀寫緩存,存儲彈性擴展,數(shù)據(jù)故障切換,磁盤故障告警等功能。本次測試環(huán)境采用2副本模式存儲數(shù)據(jù),實際可用存儲空間為5TB。
(3)網絡:本次測試環(huán)境配置兩臺交換機,一臺千兆交換機采用二層ACCESS的方式接入氣象內網核心交換機,一臺萬兆存儲交換機用于超融合集群內部數(shù)據(jù)交換。采用網絡虛擬化技術,通過和服務器虛擬化技術結合,在虛擬機和物理網絡之間,提供了一整套完整的邏輯網絡設備、連接和服務;此外通過虛擬化管理平臺還可以實現(xiàn)網絡拓撲部署、虛擬交換機、虛擬路由器、網絡故障探測等網絡管理功能。
超融合虛擬化集群搭建完畢后,遷移了部分非氣象核心業(yè)務系統(tǒng)至超融合集群實時運行,對超融合管理平臺、物理服務器遷移、集群高可用性、數(shù)據(jù)備份、安全防護等軟件和功能進行了為期半年的測試,測試結論如下:
(1)超融合虛擬化集群搭建完畢后,使用物理服務器至虛擬服務器遷移工具創(chuàng)建虛擬機5臺,全新創(chuàng)建虛擬機3臺,集群共運行業(yè)務系統(tǒng)8套,消耗48顆虛擬CPU,80GB內存,2TB存儲空間。因集群x86服務器配置較低,因此沒有測試資源消耗密集和大數(shù)據(jù)量使用場景。測試期間集群軟硬件系統(tǒng)運行正常,8套應用系統(tǒng)運行正常,性能基本滿足業(yè)務運行要求,未出現(xiàn)影響業(yè)務正常運行的各類故障。
(2)超融合虛擬化管理平臺可對集群內所有IT資源進行全面管理和調度;可針對物理主機、服務器虛擬化、網絡虛擬化、存儲虛擬化等設備和組件進行資源負載監(jiān)控、虛擬資源配置和調度、網絡拓撲部署、網絡策略配置、網絡故障排查、存儲資源管理、數(shù)據(jù)備份管理等操作。軟件操作簡便,功能易用,比傳統(tǒng)虛擬化軟件管理平臺學習成本低。
(3)對超融合集群高可用性進行測試。熱遷移操作可以在不中斷服務的情況下在線動態(tài)遷移虛擬機或跨存儲實時遷移虛擬機磁盤文件;手工關閉x86服務器或拔除硬盤模擬故障,虛擬機和應用系統(tǒng)可以在短時間內完成切換恢復上線,基本保證了業(yè)務連續(xù)性。系統(tǒng)備份功能支持各種備份策略設置,可滿足各類業(yè)務備份需求。

圖1 超融合集群物理拓撲圖
虛擬化管理平臺是對超融合架構IT資源進行綜合管理和調度的系統(tǒng),可以針對x86服務器,服務器、存儲、網絡等虛擬化組件進行資源配置和調度、運行監(jiān)控、網絡配置、存儲管理、數(shù)據(jù)備份、故障排查等一系列管理操作。虛擬化管理平臺主要由服務器虛擬化管理模塊、存儲虛擬化管理模塊和網絡虛擬化管理模塊3部分組成。
(1)服務器虛擬化管理模塊可以實現(xiàn)傳統(tǒng)虛擬化管理平臺的全部功能,對x86服務器、虛擬機、存儲進行全面的管理。該模塊可以新增或刪除x86服務器、監(jiān)控物理服務器性能、創(chuàng)建虛擬機或進行克隆遷移監(jiān)控等操作、管理存儲資源、備份和恢復數(shù)據(jù)。
(2)存儲虛擬化管理模塊將服務器上的硬盤存儲空間組織起來形成一個統(tǒng)一的虛擬共享存儲資源池,進行高可靠、高性能、彈性的存儲資源管理。通過副本容量策略、故障恢復策略、數(shù)據(jù)平衡策略等功能來實現(xiàn)存儲資源池的高可用。性能監(jiān)控工具不但可以監(jiān)控整個存儲資源池的I/O訪問次數(shù)、I/O吞吐、存儲使用量、緩存命中率等各項性能指標,還可以根據(jù)物理服務器上硬盤資源的實時狀態(tài),針對性設置硬盤使用類型為熱備盤、數(shù)據(jù)盤或緩存盤。
(3)網絡虛擬化管理模塊對超融合環(huán)境下的虛擬交換機、虛擬路由器、虛擬網絡安全設備、虛擬網絡優(yōu)化設備進行全面的管理,并支持網絡拓撲部署和網絡故障排查功能。網絡虛擬化管理模塊支持虛擬網絡環(huán)境拖拽式部署,只要鼠標拖動管理界面里的網絡設備到畫布中,完成網絡連線就可以快速部署拓撲;設備配置也只需要點擊對應設備的圖標,就可以進入對應的Web化管理界面進行路由協(xié)議、IP地址、ACL、VLAN、安全防護策略等各種策略的配置和管理。集群內網絡故障排查只需要輸入目的和源地址,就可以快速定位出故障點和具體原因。
超融合平臺提供類似VMware vCenter Converter的物理機至虛擬機遷移工具,支持所有主流操作系統(tǒng),也可實現(xiàn)快速虛擬機平臺還原回物理機的回滾,保證業(yè)務數(shù)據(jù)不丟失。Windows操作系統(tǒng)主機遷移需要安裝P2V軟件,Linux操作系統(tǒng)主機需要關機使用iso引導方式來遷移,經測試物理機虛擬化轉換數(shù)據(jù)量平均在70MB/s左右,遷移過程業(yè)務中斷一般在2分鐘以內。此外本次測試的超融合平臺還支持VMware虛擬機遷移,通過VMware管理軟件導出OVA格式虛擬機文件后,可以直接在超融合管理界面導入為超融合虛擬機。
和傳統(tǒng)虛擬化平臺相比,超融合架構的分布式特性大幅提升了硬件層面的安全性,故障遷移、系統(tǒng)備份、數(shù)據(jù)多副本技術等各種完善的高可用機制也保證了業(yè)務系統(tǒng)的安全性,此外在系統(tǒng)安全漏洞和網絡安全防護方面,超融合架構也有一定優(yōu)勢。首先超融合系統(tǒng)提供高強度加密的文件系統(tǒng),用戶使用秘鑰加密文件系統(tǒng)后,即使存儲機密數(shù)據(jù)的物理硬盤或者虛擬機虛擬硬盤文件丟失或被盜用,也可以防范數(shù)據(jù)被其他用戶或外部攻擊者未經授權訪問。
其次得益于網絡虛擬化技術,超融合平臺可以虛擬出入侵防御、漏洞檢測、風險掃描、Web安全防護等一系列虛擬化安全設備,通過在網絡節(jié)點和邊界合理配置虛擬安全設備,入侵檢測和防御設備能夠主動防御并阻止蠕蟲、病毒、木馬、拒絕服務攻擊、間諜軟件的攻擊;在網站前端架設WAF防護系統(tǒng),有效防范各種SQL注入、XSS跨站、網站掛馬、敏感信息泄密、網頁篡改等攻擊;在網絡邊界部署虛擬防火墻,加強網絡邊界訪問控制,降低安全風險,減少入侵者成功入侵的可能;此外部署虛擬風險掃描設備對系統(tǒng)安全隱患進行分析,以便采取針對性修補和加固措施,提高操作系統(tǒng)的安全級別,保障系統(tǒng)安全。
通過對超融合技術架構和關鍵技術進行研究,搭建超融合集群,遷移部分氣象應用系統(tǒng)至集群實時業(yè)務運行,開展了為期半年的運行和技術測試。測試結果表明超融合虛擬化集群運行穩(wěn)定,高可用性和備份策略完善,功能和性能基本可以滿足氣象業(yè)務需求;超融合管理平臺集成了服務器虛擬化、網絡虛擬化和存儲虛擬化三部分的管理和調度功能,相較傳統(tǒng)虛擬化平臺,操作和使用更加簡便,學習成本更低。超融合架構和傳統(tǒng)虛擬化架構相比在擴展性、可靠性、運維成本等方面確實存在一定優(yōu)勢,但是現(xiàn)階段超融合集群在氣象探測數(shù)據(jù)庫、數(shù)值預報運算等對性能要求比較苛刻的應用場景使用效果還沒有得到證明,成熟度較高的傳統(tǒng)虛擬化平臺仍有存在必要,未來氣象數(shù)據(jù)中心可采用超融合架構和傳統(tǒng)虛擬化架構并存的模式,并陸續(xù)完成向以超融合架構為主的云計算環(huán)境轉型。
[1]江彩英,郭曉佳,謝丹,等.基于虛擬化云平臺的氣象終端集約化管理[J].氣象科技,2014,42(05):785-789.
[2]錢崢,趙科科,許皓皓.虛擬化技術在氣象的應用[J].浙江氣象,2013,34(02):20-24.
[3]李永超,周麗麗,夏薇,等.VMWare服務器虛擬化技術在氣象業(yè)務系統(tǒng)中的網絡重構[J].氣象水文海洋儀器,2016,33(03):83-85+88.
[4]冷迪.企業(yè)數(shù)據(jù)中心超融合架構的特點和發(fā)展趨勢研究[J].科技創(chuàng)新與應用,2015(35):37-38.
[5]解培.超融合基礎架構在商業(yè)銀行私有云中的應用[J].金融電子化,2015(12):75-77.
[6]方昕.超融合架構技術在高校數(shù)據(jù)中心中的應用[J/OL].電子技術與軟件工程,2017(14):169.
[7]郭昌雄,瞿向雷,宋力,等.超融合存儲在融合媒體生產平臺中的運用[J].廣播與電視技術,2016,43(01):42-47.
許皓皓(1984-),男,江蘇泗洪人,本科,工程師,從事領域為氣象信息化規(guī)劃設計、網絡運行管理工作
徐振宇(1991-),男,浙江常山人,本科,助理工程師,從事領域為氣象網絡運維工作
趙科科(1979-),女,浙江寧波人,本科,工程師,從事領域為UI設計和軟件開發(fā)工作
Research on Hyper-Converged Infrastructure Utilizing in Meteorological Department
XU Hao-hao,XU Zhen-yu,ZHAO Ke-ke
(Ningbo MeteorologicalNetwork and Equipment SupportCenter,Ningbo 315012)
In order to solve the deficiencies ofmeteorologicaldepartmentutilizing server virtualization technology,builds a hyper-converged cluster to conductbusiness and technicaltesting.Studies hyper-converged infrastructure,describes the building and testing procedure of hyper-converged cluster in detail,and introduces the key technologies like hyper-converged manager platform,cross-platform migration and security protection.This study accumulates some experiences for the use of hyperconverged technology in meteorologicaldepartment,also provides new ideas formeteorologicaldata centermigrating to cloud computing environment.
Virtualization;Hyper-Converged;Server Virtualization;Network Virtualization;Storage Virtualization
寧波市氣象科技計劃項目(No.NBQX2017001B)
1007-1423(2017)30-0019-05
10.3969/j.issn.1007-1423.2017.30.004
2017-08-31
2017-10-20