曾文英



摘要:為滿足云存儲技術與運維工程師崗位技能人才培養需求,針對云計算技術應用專業課程,從架構、路徑、載體、項目化、模塊化、體系等方面,進行云存儲技術與運維活頁式教材設計與探索。
關鍵詞:云存儲技術;活頁式教材;工作手冊;項目化;模塊化
中圖分類號:TP311? ? ? 文獻標識碼:A
文章編號:1009-3044(2021)28-0155-03
開放科學(資源服務)標識碼(OSID):
1 背景
云存儲屬于云計算服務的基礎設施服務,起著數據存儲、讀寫管理的核心功能。云存儲技術與運維是云計算技術與應用專業的核心課程之一,課程內容包括:云存儲架構、部署、管理與運維。主要面向崗位:云存儲架構、云存儲運維。采用活頁式、工作手冊式教材,有助于學生按項目化、模塊化、目標任務分解方式掌握云存儲技術技能。
云存儲教學采用活頁式、工作手冊式教材,在教學中以項目為單元,以項目需求為導向,進行規劃和設計,安裝、配置和部署,訓練實戰技能。可基于應用場景設定,進行項目化教學實踐。
2 相關技術
傳統的企業存儲(如SAN、NAS)已無法應對海量的非結構化數據的存儲需求[1]。SDS社區推出代表性解決方案Ceph、Sheepdog、GlusterFS和Swift等。開源SDS(Software-Defined Storage,軟件定義存儲)分布式存儲技術Ceph是一種高可用、易擴展的對象存儲系統,適合企業在私有云、公有云和混合云場景下圖片、視頻等非結構化數據存儲和管理需求[2]。
云存儲根據面向部署方式不同,可分為以分三類:公有云存儲、私有云存儲、混合云存儲[3]。
公有云存儲基礎設施由云存儲提供商構建、擁有、管理和維護。如亞馬遜公司Simple Storage Service(S3)、以Dropbox為代表的個人云存儲服務,國內代表性產品搜狐企業網盤,百度云盤,樂視云盤 ,移動彩云,金山快盤,堅果云,酷盤,115網盤,華為網盤,360云盤,新浪微盤,騰訊微云,cStor云存儲等。
私有云存儲一般是企業在本地控制的存儲服務器,位于企業防火墻內部。私有云平臺有:Eucalyptus、3A Cloud、minicloud、聯想網盤等。企業可擁有或控制基礎架構,及應用的部署。
混合云存儲把公共云和私有云結合在一起,是公共云、私有云和數據中心的某種組合。通常將由企業擁有和管理的資源與公共云存儲提供的彈性、可擴展性和成本優勢。可幫助公司面對迅速增長的負載波動或高峰需求。
云存儲系統設計時應考慮基本目標和擴展目標,設計滿足目標的集群架構和系統結構,實現云存儲系統文件同步及重復數據刪除等關鍵技術[4]。
可用開源軟件構建云存儲平臺,可能需考慮存儲集群的高可用、超大規模節點集群部署和維護、跨多數據中心解決方案等問題。可采用增加前端數據緩存、預備份數據來提高處理效率,通過增強數據冗余檢查、數據的一致性檢測保障數據安全,加強健康檢查和告警模塊、自動化部署、優化通知和輪詢機制,實現便捷的運維管理。將所有存儲組件都多活熱備、分布到不同機架提高產品可用性[5]。
大數據時代,云計算及其數據處理技術在信息系統中的運用廣泛,基于云計算大規模存儲和按需服務優勢。可將云計算技術與J2EE技術相結合,構建云信息系統。運用存儲技術解決現階段常見的結構化和非結構化數據共存的問題,建設創新服務平臺,將云計算中的存儲技術與現階段流行的J2EE開發框架有機結合,設計并開發基于云存儲與Spring、SpringMVC、MyBatis架構的創新服務平臺系統,進行創新資源庫的存儲[6]。項目將軟件開發與云計算、云存儲系統結合,可培養產業急需的復合型人才。
云存儲可與大數據結合,如搭建Hadoop集群由舊有設備和新購置設備組成,各節點在存儲性能、計算性能、IO性能等存較大差異。在HDFS機架感知調度策略基礎上,首先根據節點的CPU、內存大小、磁盤大小、磁盤I/O等固有硬件性能將節點劃分為高、低配置節點,其次根據節點CPU使用率、內存使用率、網絡帶寬使用率、磁盤使用率等性能的動態因素建立節點的性能評價模型,劃分性能級別。根據節點配置情況、性能級別及網絡位置等綜合調度,數據的訪問頻率對數據塊的分布進行動態調整[7]。
3 云存儲架構
存儲系統根據所處的功能層次不同,可劃分為4個層次:存儲層、管理調度層、訪問接口層、業務應用層。其中:存儲層包括存儲設備(IP SAN/FC SAN/NAS等)、存儲虛擬化、設備管理與狀態監控等,管理調度層包括分布式文件系統、對象存儲、多副本一致性與糾刪碼、故障檢測、負載均衡等;訪問接口通過iSCSI、NFS、CIFS、FTP、HTTP、REST或API訪問;云存儲應用領域廣泛,包括視頻監控、智能分析、大數據檢索等。
云存儲技術根據用戶可訪問性不同,可分為私有云存儲、公有云存儲、混合云存儲。云存儲根據所依托的操作系統不同,分別有:Linux、Windows、MacOS等系統下的存儲系統。面向云存儲管理與運維工程師崗位,可將云存儲技術與運維教程教學路徑根據云存儲的類型,分別進行教學,即私有云存儲架構與管理、公有云存儲部署與管理、混合云存儲等設計。其知識目標主要為:存儲分區、格式化;存儲卷管理、存儲集群構建與運維等;能獨立完成云存儲配置、容災備份與安全控制等。
4 教學載體
4.1 云平臺
教學采用的云平臺可基于市場主流云平臺Vmware、Openstack、Zstack[8]等的存儲解決方案。OpenStack為2010年起開源的云計算管理平臺項目,已進入主流企業市場,高速增長,但該項目依然面臨較難部署和管理問題。ZStack項目始于2015年,下一代開源云計算IaaS軟件,具有易用、穩定、靈活、超高性能等特點,發展以及成熟速度遠快于OpenStack。有商業版以及開源社區版本。
開源分布式存儲Ceph、GlusterFS、Sheepdog和MinIO,多家主流廠商和新銳廠商將其商業化,許多行業云和企業云業主考慮采用開源系統。可能的問題是系統龐大和復雜,部署和運維難度大;功能單一(僅塊存儲、文件存儲或對象存儲之一)等。可選擇業界主流開源存儲技術應用于課程教學。
4.2 云存儲系統
云存儲是分布式存儲系統,主要包括:文件存儲、塊存儲和對象存儲等類型。
從物理存儲看,服務器擴展存儲的手段主要有直連存儲(DAS)、存儲區域網絡(SAN)和網絡附加存儲(NAS)這三種類型。實例存儲可以用DAS實現,也可用NAS或者卷存儲;卷存儲對應物理的SAN;云存儲需通過虛擬磁盤(Virtual Disk)實現資源分配以及共享,Hypervisor采用NAS的方式來實現虛擬磁盤;VMware通常采用VMFS(Virtual Machine File System)或NFS協議來實現虛擬磁盤。應用直接通過REST API來訪問對象存儲。很多供應商都支持對象存儲,如OpenStacks Swift, Amazons S3, Red Hats Ceph和Cleversafe。
有的廠商NAS存儲提供對象存儲接口。這是由于3種存儲形式的特點決定的,如圖1。
4.3 云存儲運維
云存儲設計、開發、配置與部署流程完后,需要進行云存儲運維。具體可包括:云存儲負載均衡、數據更新、數據遷移、數據副本一致性、冗余機制等。
主要用途:
備份、歸檔、災難恢復 數據服務層:存儲、資源、共享、備份;
數據管理層:用戶、安全、副本、策略;
數據存儲層:存儲設備、虛擬化、集群 副本、冗余、安全、可靠性和可用性、控制性、性能等 在線存儲服務;數據安全、可靠、高效;按需付費;減少IT托管成本;服務端維護 多租戶;可擴展;高效、可用、安全控制 1.云存儲分類:公有云存儲、私有云存儲;混合云存儲。
1. 主流產品:OpenStack Swift;Ceph;GlusterFS;PureStorage;BAT云存儲產品 ]
5 云存儲活頁式教材模塊化設計
基于工作過程,設計階段項目;將項目任務劃分為多階段任務,每階段設置預期目標成果,團隊分工協作完成任務。
6 基于活頁式教材教學體系設計
根據活頁式教材模塊,每個教學單元采用的教學體系可概括為三環節教學體系:課前知識預習與自測;課中案例分析與實訓;課后復習與創新設計。
課前,學生學習課件,了解所需的知識,完成自測習題。課中,師生進行案例分析,參考案例進行項目實訓。課后,學生進行復習,鞏固所學知識與技能,并進行創新思考和創新項目設計。
教材可劃分為多個模塊,涵蓋云存儲架構與運維崗位知識與技能目標、關鍵技術的應用等。主要模塊可劃分為:虛擬化技術、網絡存儲、私有云存儲、公有云存儲、云存儲產品與服務支持、云存儲運維與安全等。可包括云存儲的安裝、配置與管理等:虛擬機集群安裝、配置;DAS、NAS、SAN等網絡存儲,RAID、LVM等安裝、配置、部署與應用;OpenStack Cinder、Swift,Ceph,GlusterFS等存儲安裝與管理;Aliyun OSS、Huawei OSS、AWS S3等公有云存儲部署與運維;云存儲擴容、縮容與負載均衡、云存儲備份、安全、容災、加解密、恢復;超融合架構、混合云存儲部署與管理等。如表4。
云存儲活頁式工作手冊式教材可配套建設立體化資源。主要包括:1)項目文檔:包括項目開發計劃、需求說明書、詳細設計說明書、用戶手冊、測試計劃、測試分析報告等;2)教師用項目實訓管理手冊(為教師提供實訓組織和評審的參考依據);3)學生用項目實訓手冊;4)項目源代碼,相關數據,以及項目開發、測試、部署、運行所需要的工具;(5)視頻教程;6)習題等。
7 結束語
云存儲技術是云計算IaaS的重要形態,為軟件開發與部署、數據存取等提供了載體。云存儲技術涵蓋軟硬件平臺、存儲單元組織、讀寫算法、副本維護、主從協作等多方面。
建立活頁式、工作手冊式云存儲技術與運維教材,可通過項目化、模塊化、業務流程化合一的創新模式培養云存儲工程設計人才。
參考文獻:
[1] 知乎.目前行業云存儲面臨的運維問題及解決方案[EB/OL].[2020-12-20].https://zhuanlan.zhihu.com/p/157505629?utm _source=wechat_session.
[2] 謝泓生.基于Ceph的企業云存儲系統的設計與實現[D].廈門:廈門大學,2019.
[3] 關于云存儲的多種存在類型-電子發燒友網. [2020-12-20].http://m.elecfans.com/article/1017888.html.
[4] 李明娟,邸海濤,張鵬,等.云存儲系統架構與關鍵技術研究[J].信息通信,2018,31(3):125-126.
[5] 王東旭,陳方縣.基于開源軟件構建云存儲平臺[J].電信工程技術與標準化,2017,30(7):10-13.
[6] 林珠,李海威,楊柏藹.基于云存儲與J2EE架構的信息系統設計及應用[J].計算機技術與發展,2017,27(10):177-180.
[7] 李青.科技云平臺的數據存儲管理技術研究[D].北京:北方工業大學,2016.
[8] 三種存儲類型:塊存儲、文件存儲、對象存儲_Aiky哇-CSDN博客[EB/OL].[2020-12-20].https://blog.csdn.net/qq_35423190/article/details/109355597?utm_medium=distribute.pc_relevant _bbs_down.none-task--2~all~first_rank_v2~rank_v29-6.nonecase&depth_1-utm_source=distribute.pc_relevant_bbs_down.n one-task--2~all~first_rank_v2~rank_v29-6.nonecase.
[9] 常見的三種存儲技術以及iSCSI協議[EB/OL].[2020-12-20].http://www.360doc.com/content/18/0917/07/35525662_787279 413.shtml.
【通聯編輯:謝媛媛】