謝崑 尹紅兵
摘 要:隨著視頻監控業務數據的快速增長,視頻以及圖像存儲的規模也變得越來越大,在人像識別等建設項目中其規模達到PB (1024TB)級別,傳統存儲設備根本無法滿足各類視頻業務需求,云存儲能夠通過管理軟件協調和調度相關的存儲設備,將不同種類的存儲設備組織起來工作。
關鍵字:云存儲;大數據;分布式集群
1.引言
前端設備的不斷增加,使得視頻存儲數據的不斷擴大,對存儲容量的要求不斷增加,記錄的數據變得越來越大,需要配備更多的存儲設備。新配備的存儲資源在調度的過程中,要保證在運行的業務不能中斷,同時要求快速接管新的業務數據,只有云存儲系統才能滿足大規模視頻存儲設備的需求。
2.現狀與需求
海量數據不僅體現在數據量大,還體現在數據種類多,需要針對非結構化數據、半結構化數據、結構化數據的特征,提供相應的存儲解決方案(流式存儲、對象存儲、塊存儲等),實現不同數據的高效存儲和讀取。
系統要求支持多路高清視頻實時結構化分析,提取視頻中人、車等特征屬性,可根據特征屬性快速檢索并定位視頻。
系統支持對所有車輛卡口、電警、人臉卡口等采集的圖片進行二次分析及圖片建模。
2.1云存儲 的 應 用 現 狀
云存儲市場規模的不斷增長,各大監控廠商也紛紛推出自有的云存儲產品線。未來,隨著監控數據的不斷增長,對大容量、低成本、高效的云存儲需求也會持續增長,2026年全球云存儲市場規模有望接近1700億美元。
2.2云存儲 的 應 用 需 求
2.2.1圖像云存儲
圖像云存儲是提供高容量、高安全性、性能穩定的圖片存儲空間與功能,適用于卡口服務器、抓拍機、圖片服務器等采集的圖片數據的直寫存儲場景。圖片存儲服務同時也支持為第三方視頻應用提供圖片存儲和處理能力,支持通過標準接口與第三方的應用和平臺對接,第三方的應用包括但不限于視頻監管平臺、運維平臺、智能分析平臺等。
2.2.2視頻云存儲
視頻存儲服務是提供高容量、高安全性、性能穩定的視頻存儲空間與功能,采用標準的信息傳輸控制協議、傳輸控制流程和協議接口,支持監控前端視頻流直寫存儲方式和專有的視頻數據管理結構,解決了視頻存儲的循環覆蓋特性帶來的文件碎片問題,提升用戶體驗。
2.2.3對象存儲
對象存儲服務是提供高容量、高安全性、性能穩定的文件存儲空間與功能,適用于海量文件的存儲場景。用戶無需事先規劃存儲容量 ,存儲資源支持線性擴展,輕松應對大規模數據存儲。
2.2.4云存儲新技術的應用
云存儲采用分布式集群架構設計,具有容量大成本低、擴展靈活、數據可靠、管理方便、調用連接簡單等特點。
2.3云存儲技術優勢
2.3.1容量大成本低
云存儲系統可以提供超大容量儲存空間,多個存儲節點可以輕易提供超過百PB的存儲容量。
由多個存儲節點組成云存儲系統成本,遠低于傳統存儲架構,并且具有良好的可擴充性和靈活性。
2.3.2擴展靈活
存儲資源可以輕易擴展,擴展切換時間短,用戶管理效率高;
支持存儲容量的平滑變化,可以自動識別增加的存儲設備;虛擬磁盤大小可以調整,根據客戶的需求靈活適配。
2.3.3數據可靠
系統采用分布式文件存儲方式,儲存數據被復制成多個副本,分別存放在不同的存儲節點不同的磁盤上,這一特性使得分布式存儲系統的可靠性更高。
2.3.4管理簡便
管理維護高效方便。系統管理員可以通過集群內任意節點訪問管理,實現對存儲節點CPU、內存、系統軟件,存儲集群和系統提供業務進行管理。單個節點失效不會影響系統管理員的正常登錄和使用。
2.3.5調用連接簡單
采用標準的網絡接口,支持主流的文件與數據傳輸訪問協議(NFS和CIFS等),視頻監控系統平臺可以直接調用。
3.建設思路和技術方案
3.1建設思路
云存儲是基于云計算架構,采用了大數據、虛擬化等先進技術,集中統一建設的云服務中心。云存儲主要面向視頻專網,為用戶提供專業化的視頻類服務、通用云計算服務及大數據計算服務。
3.1.1云計算架構
綜合運用虛擬化、分布式、大數據等技術,構建X86計算資源池、存儲資源池,實現資源可控、彈性運用。同時基于多租戶技術,通過對物理或虛擬資源的分配保證多個用戶以及他們的計算和數據彼此隔離和不可訪問。用戶可按需使用資源,能夠方便快捷地申請云資源或釋放云資源。
3.1.2前端設備科學接入
云存儲具備高效的視頻系統接入能力及融合開放特性。首先,具備百萬級別的設備接入能力,接入網關集群化,不存在單點故障;其次,具備多廠家、多協議、多類型設備接入,包括各類視頻設備(如模擬攝像機、數字攝像機、網絡攝像機、DVR等)、卡口抓拍設備(如車輛卡口、電警、人臉卡口),同時兼容國標平臺的無縫接入。
3.2技術方案
3.2.1系統架構圖
云存儲系統是由多個存儲節點和存儲網絡組成。管理服務器通過管理網絡可以實現對系統包括設備管理,集群狀態,節點狀態,告警管理等功能管理;每個存儲節點具有自己獨立的處理器、內存、網絡接口和軟件管理系統,當存儲節點發生改變時可以很方便的進行調整,例如增加或者刪減容量的時候,存儲節點可以按照比例調整內存大小、處理能力、磁盤空間和網絡連接,以保證系統正常運行。云存儲系統儲物理設計結構如下圖所示:
系統結構圖
云存儲系統系統采用多臺存儲節點形成集群工作的方式提供存儲訪問服務,集群中的每一個存儲節點設備都可以提供內容訪問讀寫服務,對外可視為一個存儲整體,單存儲節點或存儲節點中的某個介質失效不會導致全局失效的問題,同時新擴容節點或存儲節點中的介質增減對整體運行無影響。
3.2.2功能設計
云存儲系統由以下 4層組成。
(1)、存儲層
存儲層是云存儲用于內容存儲的部分由多個存儲節點組成,節點存儲設備選取的是提供 NAS 接口,支持 NFS 和 CIFS 協議共享的存儲設備。
(2)、基礎管理層:
基礎管理層是云存儲最重要的部分,作用是部署分布式文件系統或建立和組織存儲資源對象。集群中每個節點都具有獨立基礎管理能力,可獨立完成節點管理工作,通過集群,多個的節點存儲設備可以共同對外服務,具有極好的數據訪問性能。
節點主要針對 NAS 存儲,支持配額管理、分級存儲、快照、WORM、異步遠程復制等增值特性;針對對象存儲,支持重刪、 多租戶和傳輸加密。
(3)、應用接口層:
應用接口層是面向使用方的部分,云存儲要根據使用方實際業務需求,開發出不同的應用服務接口,在視頻監控項目中主要是提供視頻監控平臺的調用服務,其主要類型覆蓋網絡接口和部分API調用。
(4)、訪問層:
通過網絡接入,授權的用戶都可以直接登錄云存儲系統,以文件服務的形式直接使用云存儲服務。
4.結語
未來安防將實現大數據化、應用云端化,云存儲作為視頻監控大數據的重要支撐還有很多可以進步和優化的空間。如何更好地同安防系統相配合,為視頻大數據發揮更高效靈活的價值也需要繼續深度挖掘。
參考文獻
劉洋《云存儲技術:分析與實踐》出版社: 經濟管理出版社
朱曉彥 顧旭峰《云存儲技術與應用》出版社: 高等教育出版社
武春嶺 《云存儲技術與應用》出版社: 電子工業出版社