蔣明 方圓 蔡夢臣
摘 要:電力系統現在主要采用SAN網絡存儲平臺,雖具有較高的可靠性,但是隨著業務數據的爆發式增長,目前一些早期服役設備,已經難以滿足現有業務系統發展需求,需要逐步進行更新、優化,以持續保證存儲系統的可靠性和可用性。研究通過對現有的存儲系統的優化提升,提高存儲系統的響應速度和執行效率;利用分布式存儲方式為系統提供良好的彈性擴展能力,滿足公司日益增長的存儲需求。
關鍵詞:存儲系統;SAN網絡存儲平臺;分布式存儲
中圖分類號:TM73 文獻標識碼:A 文章編號:1671-2064(2018)14-0189-02
電力系統現在主要采用SAN 網絡存儲平臺,平臺核心交換機為雙機冗余,設備之間的連接為雙通道連接方式。存儲設備為雙引擎,具備冗余電源、冗余通道,具備較高的可靠性。但隨著業務數據的爆發式增長,目前一些早期服役設備,已經難以滿足現有業務系統發展需求,需要逐步進行更新、優化,以持續保證存儲系統的可靠性和可用性。具體表現在以下三點:一是設備超期服役;二是SAN系統性能存在瓶頸;三是現有的存儲系統容量不足。
為解決現有系統的局限,研究利用先進、成熟的技術,提升存儲系統的響應速度及執行效率,同時提升系統彈性擴展能力,最終使整個存儲系統具有高性能、高安全、高可靠性、高彈性、易管理等特點,滿足公司日益增長的存儲需求。
1 存儲系統提升總體目標和遵循原則
1.1 總體目標
為滿足日益增長的數據存儲需求,提升存儲系統擴展能力,本方案著重于實現以下目標:
(1)完成存儲系統的升級改造,提升部分存儲的性能;(2)完成SAN網絡的優化升級,優化SAN網絡性能;(3)完成新存儲系統規劃設計,以滿足未來業務發展需求。
1.2 遵循原則
本存儲系統提升方案遵循以下幾點原則:
(1)高性能。應用業務系統,如ERP、辦公自動化、數據庫應用等常常要大量地對存儲系統進行寫入、讀取操作,因此,對存儲系統的性能將提出更高、更苛刻的要求。(2)高安全。電力信息數據安全性要求非常高,一旦數據發生問題,會導致業務連續性受到影響,甚至影響正常運行,因此,存儲系統建設需要以安全可靠問基礎。(3)高可靠。根據要求信息需要在24×7h的條件下保持在線狀態,系統故障會引起應用服務中斷,將給用戶造成損失。(4)高彈性。存儲系統要建設成標準、集中、易擴展的系統,能夠在容量、性能需求不斷增加的情況下,橫向或縱向進行存儲空間的平滑擴展。(5)易管理。對存儲系統進行管理,簡化工作,降低TCO,是保證存儲系統穩定運行的重要因素。
2 存儲系統優化方法
2.1 建設分層存儲系統
分析業務系統存儲需求,整合現有存儲資源,制定存儲系統更新換代實施計劃,逐步對超期服役存儲進行退役處理;并引入分層存儲技術對現有架構進行優化,提升整個SAN存儲系統可用性和性價比。具體建設過程分為兩個階段,第一階段完成業務系統存儲需求調研,論證分層存儲建設方式,編制存儲系統優化建設方案;第二階段完成存儲系統測試驗證工作,通過測試后上線部署,并逐步完成數據遷移和監控分析完善工作。
2.2 應用存儲系統融合技術
研究存儲融合技術,用于對性能差設備、退役設備進行整合,提升設備利用率,節約數據中心建設成本;最終形成相關融合產品,在系統內進行推廣。具體應用過程分為兩個階段,第一階段完成存儲融合技術方向確立,制定工作計劃,并進行相關技術儲備工作,第二階段完成存儲融合技術的研發工作、并在內部進行相關測試、試點部署工作。
2.3 自研分布式存儲及管理系統
進行分布式存儲系統自研工作,并結合存儲發展趨勢,進行分布式存儲綜合管控平臺研發工作,在公司層面利用分布式平臺進行綜合管理,形成電力特色分布式存儲管理系統,為數據中心發展提供支撐。具體研究及應用過程共分為三個階段,第一階段:進行相關技術調研和分析,并儲備相關項目技術資源;第二階段:完成對分布式存儲技術進行研究分析,對國內主要廠商相關產品進行調研,形成分布式存儲體系調研報告,完成分布式存儲管理系統自研工作計劃和實施方案;第三階段:完成系統自研、測試、上線工作。
3 存儲系統優化方案
根據上述提升方法,本建設方案認為提升后存儲系統含高端存儲系統1套、大容量存儲系統1套、分布式存儲系統2套、全閃存陣列存儲3套、容災存儲系統1套。根據業務需求緊急程度并結合存儲技術發展趨勢,存儲系統建設分三個階段完成。第一階段完成高端存儲系統、大容量存儲系統和2套全閃存陣列存儲部署,完成部分災備存儲系統部署,完成相應的SAN存儲網絡和IP存儲網絡建設;第二階段完成第三套全閃存陣列存儲系統部署,完善災備存儲系統部署,完成分布式測試存儲部署,完成相應存儲網絡建設工作;第三階段完成分布式高性能存儲系統部署,完成對應IB存儲網絡建設。總體部署圖如圖1所示。
3.1 第一階段
機房部署2臺高端SAN存儲用于承載公司核心業務數據,2臺存儲采用雙活模式部署確保存儲高可用,同時為了保障數據安全將數據備份到災備存儲中。高端存儲采用不低于16GB FC主機接口,配合不低于16GB傳輸接口的SAN交換機組建高性能存儲網絡。具體部署如圖2所示。
高端存儲通過SAN網絡將原有的老舊存儲通過存儲異構方式進行利舊,可利用這些老舊存儲為性能要求不高的非核心業務提供服務。
海量存儲系統部署3個節點,采用分布式架構確保大數據量讀寫的性能和穩定性。此存儲系統主要用于各類非結構化及半結構化數據的儲存,并可為公司后期大數據業務提供存儲服務,為相關大數據分析提供充足可靠的存儲環境。
一階段部署2套全閃存陣列,存儲磁盤采用高性能SSD企業盤,整套系統總IOPS不低于50萬,并具備極低的延遲,可為公司部分核心業務提供性能加速。
3.2 第二階段
第二階段在第一階段的基礎上增加一臺全閃存陣列,完善全閃存陣列存儲系統,將部分對IOPS和延遲要求高的業務遷移到全閃存陣列,進一步提升存儲系統整體的服務器水平。
部署一套分布式存儲用于各類測試業務,分布式存儲采用5個節點的X86架構服務器,存儲網絡采用萬兆以太網,業務網絡根據情況采用千兆或萬兆以太網。通過分布式文件系統將業務數據分散存放到各存儲節點,結合多副本技術確保數據安全。此分布式存儲系統除了承載測試業務數據外,還可以為一些業務負載不高的虛擬化業務提供數據存儲。根據需要在災備存儲區部署IP存儲,為分布式存儲中的部分業務提供數據災備服務。
3.3 第三階段
隨著公司業務系統的不斷增長,更多業務對存儲系統提出更高要求,第三階段部署一套基于PCI-E SSD的高性能分布式存儲系統,根據業務對性能要求情況,可以采用部分PCI-E SSD加速或全部基于PCI-E SSD構建。高性能分布式存儲網絡采用不低于56GB的IB交換機,確保整套存儲系統在延遲、帶寬、IOPS等方面均能滿足關鍵業務的需求。
4 結語
綜上所述,研究通過對現有的存儲系統的優化提升,提高存儲系統的響應速度和執行效率;利用分布式存儲方式為系統提供良好的彈性擴展能力,使系統具有高性能、高安全、高可靠性、高彈性、易管理等特點,為公司提供優良的數據存儲服務,滿足快速增長的數據存儲需求。
參考文獻
[1]Beaver D, Kumar S, Li H C, et al. Finding a needle in Haystack: facebook's photo storage[C]// Usenix Symposium on OperatingSystems Design and Implementation, OSDI 2010, October 4-6, 2010, Vancouver, Bc, Canada, Proceedings,2010:47-60.
[2]余慶.分布式文件系統FastDFS架構剖析及配置優化演示文檔[OL].[2012-4-8].[2016-7-12].
[3]Geekwolf.FastDFS分布式存儲實戰文檔[OL].[2016-7-12].
[4]劉愛貴.海量小文件問題綜述[OL].[2016-7-13].
[5]張友東.TFS開源用戶常見問題(FAQ)[OL].[2016-7-14].
[6] ChuYu.Intro Taocode[OL].[2011-9-29].[2016-7-13].