夏偉 吳翔 張文超



摘要:高清視頻圖像資源需求逐漸擴大,導致智慧城市存儲系統出現數據穩定性不足、數據檢索慢、數據管理分散等問題。基于此,文章介紹了安防云存儲技術的概念及特點,詳細分析了如何實現多種復雜信息的統一存儲、分布式存儲資源的統一管理、海量數據的分析和快速檢索,并結合智慧城市視頻監控系統的實際需求,探討了應用安防云存儲技術的路徑。
關鍵詞:云存儲技術;視頻監控系統;智慧城市
中圖分類號:TN948.6? 文獻標志碼:A
0 引言
近年來,智慧城市高清視頻監控系統規??焖贁U大。傳統的DVR或NVR存儲已經難以滿足大規模集中存儲的要求。大規模的IP SAN集中存儲建設已經成為主流。隨著視頻、圖片、數據等信息的快速增長,海量數據的快速檢索需求對存儲系統的性能提出了更高的需求,基于云存儲的解決方案也已經逐漸實現應用。視頻存儲設備是整個視頻監控系統的基石,提升存儲設備的穩定性和可靠性,會大大提升整個監控系統的負載和吞吐能力,同時也能適應高清和智能監控的需要。
1 安防云存儲的概念及特點
1.1 安防云存儲的概念
“云”是一種“資源池”,由一些可以自我維護和管理的虛擬計算資源構成,通常是一些大型服務器集群,包括計算服務器、存儲服務器、寬帶資源、軟件和應用等。安防云存儲是指針對安防行業視頻圖片業務場景進行深化設計,基于分布式架構實現的文件存儲系統可以提供對象語義或文件語義。
云存儲系統的結構模型包括存儲層、基礎管理層、應用接口層3個層次。
存儲層是DAS、NAS、SAN等物理存儲設備,也是云存儲架構的最基本層。
基礎管理層通過集群、分布式文件系統和網格計算等技術,實現云存儲中多個存儲設備之間的協同工作,集合了多種存儲設備的性能對外提供服務。
應用接口層提供多種存儲接口,實現數據的接入和各系統之間的對接。
1.2 安防云存儲的技術特點
(1)拓展性強,采用云存儲技術架構可實現無縫在線擴展。集群存儲系統,已經突破了NAS、SAN、等傳統產品的各種限制,真正實現了用戶數據的云存儲管理。(2)高可靠的跨節點冗余[1],提供整體高可靠性。采用獨特的冗余算法,進行數據保護,保證數據與冗余數據分配到集群的不同的機器上,避免系統中任何部件損壞、服務器損壞、網卡損壞,均可保證數據安全可靠并自行恢復到健康節點,業務不受影響無需停機維護。此外,提供高聚合帶寬,滿足高并發音視頻點播需要。
2 智慧城市視頻監控系統存儲中遇到的問題
大規模數字化高清智慧城市系統的建設涉及海量視頻、圖片等信息的采集、存儲、分析和使用過程。
隨著智慧城市對于高清視頻圖像資源應用需求的不斷提升,對于存儲系統的需求已經不僅僅是提供大容量的可靠性存儲[2]。更重要的是需要實現多種復雜信息的統一存儲、分布式存儲資源的統一管理、高效及可靠地實現大量信息的記錄、實現海量數據的分析和快速檢索。視頻監控系統存儲中常會遇到如下問題。
2.1 數據穩定性不足
傳統存儲設備采用的是NVR、IPSAN磁盤陣列等設備堆疊方式,各存儲設備之間相互獨立,缺乏冗余機制,單臺設備故障情況下會出現數據丟失,進而影響到存儲數據的穩定性。
2.2 系統數據檢索慢
智慧城市監控系統數據模式已經越來越復雜,不僅僅包括視頻監控存儲,還包含高清卡口、電子警察和社會資源等視頻、圖片、信息的存儲[3],在復雜的海量信息當中查詢并提取出有效信息也會越來越困難,而檢索的效率與存儲架構和文件系統設計直接相關。
2.3 數據管理分散
由于數據包含視頻、圖片、信息,而管理系統分別對應多種數據系統,各系統之間相互孤立,缺乏有效聯動,進而影響數據的有效管理。
2.4 磁盤故障率高
近年來,磁盤容量急劇增大,大容量磁盤在帶來高性價比的同時,也使得磁盤數據的安全問題愈加明顯,其中最突出的就是磁盤故障率過高。磁盤的制造過程十分復雜,工藝十分精密,過度的碰撞和長期工作在震動環境下極易造成磁盤盤片與磁頭結合不嚴密,甚至有磁頭斷裂的現象。如果磁盤在工作時所受到的沖擊和振動超出了磁盤所能承受的范圍,磁盤的磁頭就會撞擊其磁盤面,導致磁盤面受損,磁盤失效。有統計數據表明,機械損傷造成的失效磁盤數量約占失效磁盤總數的一半。
3 安防云存儲系統的關鍵技術實現
安防云存儲系統是基于分布式架構實現的,原理是將數據分散在所有的存儲節點上,并且由云存儲客戶端直接與存儲節點進行數據讀寫通道的鏈接[4],使云存儲服務器在數據存儲與讀取過程中,同時會有多臺存儲服務器對應用服務器的需求進行響應,形成一個多對多數據訪問通道,大大提升數據讀寫帶寬,提高計算工作效率,Ceph采用Crush算法替代分布表,最大化地分離數據與元數據管理,緩解Hash算法處理存儲設備增刪時帶來的數據遷移問題。其中,關鍵技術涉及以下幾個方面。
3.1 數據切片和I/O聚合帶寬
以寫入一段0~30min的錄像文件為例,當寫入模式為非冗余模式,元數據的調度策略為配置成離散分布模式,此時數據會根據分片策略,如5min粒度,分散寫入不同的存儲節點,讀取該文件時客戶端會從云存儲數據管理服務器中獲取到該文件的映射模式,并發地從多個存儲節點中同時讀取,形成類似迅雷下載一樣的并發效果,成倍提升讀取速率,這種模式對讀取而言完全是一種線性的帶寬和計算能力聚合的過程。非冗余策略的另一個優勢是,由于數據的離散分布,避免了對某一個客戶端數據分布過于集中,當節點失效時損失過大的問題。存儲節點I/O聚合帶寬,云存儲系統中大量的數據I/O請求都被分散到多臺存儲節點上,使得所有的存儲節點上的磁盤性能和網絡帶寬都可以同時得到充分利用,這樣云存儲系統的聚合帶寬由多臺的存儲服務器上的I/O帶寬相加而成,可以滿足多臺計算應用節點并發訪問的帶寬需求。I/O聚合帶寬如圖 1所示。
3.2 海量數據分布存儲技術
由于監控原始視頻圖片源源不斷產生,為了保證數據穩定可靠,需要應用全棧對象存儲支撐技術。對于圖片存儲而言,由于其海量元數據、訪問性能、存儲效率等方面面臨巨大的挑戰,通過元數據壓縮編址、序列化命令隊列(Serialization Command Queue, SCQ)等技術,可以提高圖片存儲吞吐量并達到視頻存儲的速率要求,且通過直接尋址技術,可有效解決海量圖片的快速檢索問題。
3.3 海量數據管理技術
目前主流云存儲系統由如下組件組成,元數據管理服務器(Mdserver)、存儲數據節點(Ndserver)、存儲服務客戶端(ClientAPI)。這種分層管理技術,引入智能路由(元數據管理服務器能智能地根據最短最優以及存儲服務質量評價技術來選擇存儲路徑),并通過數據傳輸技術,使得單個存儲節點性能最大化。同時,極大地降低元數據管理服務器的負荷,使得單臺元數據管理服務器能管理上千臺存儲節點,而且在中心存儲管理節點異常的情況下,存儲業務也能維持不中斷。數據分層管理技術如圖2所示。
3.4 防震、防塵、防腐蝕技術
磁盤的制造過程十分復雜,工藝十分精密,雖然各大磁盤廠商都在磁盤中加入了防震抗摔功能,但碰撞和震動依然是困擾磁盤的幾大殺手之一。因此,在使用3.5 inch磁盤時必須盡量減少外界沖擊振動對磁盤的傷害。
3.4.1 在磁盤模塊結構件上做減震措施
磁盤減振結構如圖3所示,在拉手條和磁盤之間加有一條緩沖墊,稱之為阻尼減振墊片,阻尼減振墊片是由一種能夠吸收沖擊和振動的彈性體材料做成的,隔斷了從拉手傳到磁盤的震動。
3.4.2 風扇模塊的減震
在PCB固定支架(圖4中透明零件)與風扇盒底座之間也有緩沖墊,即黃色橢圓形標示的零件。風扇的震動傳到風扇盒底座,由于緩沖墊的作用,震動不能傳遞到PCB支架、PCB以及背板,因此不會影響到磁盤,到達防震的作用。
3.4.3 防塵結構設計
灰塵也是磁盤應用中遇到的比較多的問題,有些環境比較惡劣,灰塵較多,導致磁盤及板上器件堆積灰塵,從而導致設備和磁盤工作不正?;蛘呤А?/p>
為了防止嚴重的粉塵造成磁盤故障率偏高現象,在入風口面板處設計可更換的防塵網,當防塵網堵塞嚴重時,系統檢測到磁盤溫度偏高,會發出告警。
4 安防云存儲技術在智慧城市中的應用
智慧城市視頻監控系統是為公安、交警、政府等部門提供基礎視頻圖像來源,視頻存儲作為圖像數據和報警事件記錄的基礎載體。大容量、高并發的視頻監控存儲系統并不是存儲設備的簡單堆積。依托于云存儲技術應用的視頻監控系統,更高的存儲設備容量能夠有效應對當前數據海量化、快速增長的趨勢[5]。
為解決視頻、圖片等業務數據存儲的安全性、穩定性等問題,提升數據的檢索能力,本文引入云存儲技術提升系統的可靠性和效率,實現多種復雜信息的統一存儲,分布式存儲資源的統一管理,高效及可靠地實現大量信息的記錄,實現海量數據的快速檢索和分析。因此,安防云存儲技術可在全國范圍內智慧城市中得到廣泛應用。
參考文獻
[1]劉孔濤.關于云存儲的視頻監控系統研究與實現[J].信息系統工程,2018(1):43.
[2]郭向前,喬慧聰.淺談基于云存儲技術的視頻監控系統在油田生產中的應用[J].云南化工,2017(12):33,49.
[3]趙云.智能視頻監控系統在城市軌道交通的應用與發展趨勢[J].科技創新與應用,2016(34):250.
[4]李培嶺.基于RTSP無線流媒體在油田視頻監控中的應用研究[D].濟南:山東大學,2015.
[5]薛超.淺析云存儲在監控領域的發展和簡單應用[J].中國公共安全,2017(增刊1):124-126.
(編輯 李春燕編輯)
Application of cloud storage technology in smart city monitoring system
Xia? Wei, Wu? Xiang, Zhang? Wenchao
(School of Electrical and Electronic Engineering,Wuhan Institute of Shipbuilding Technology, Wuhan 430050, China)
Abstract:? With the expansion of the demand for high-definition video image resources, the data stability of the smart city storage system is insufficient, the data retrieval is slow, and the data management is scattered. Based on this, the article introduces security cloud storage technology, detailed analysis of how to achieve a variety of complex information unified storage, unified management of distributed storage resources, mass data analysis and rapid retrieval, and combined with the actual needs of smart city video surveillance system, discusses the application of security cloud storage technology path
Key words: cloud storage technology; video surveillance system; smart city