天津廣播電視臺“新聞云”存儲系統(tǒng)的設(shè)計與擴容

韓 雪

(天津廣播電視臺 天津300074)

天津廣播電視臺高度重視互聯(lián)網(wǎng)技術(shù)在廣播電視領(lǐng)域的創(chuàng)新應(yīng)用，大力支持廣電利用先進技術(shù)驅(qū)動新聞創(chuàng)新，以科技創(chuàng)新推動智慧廣電建設(shè)。本文探討了天津廣播電視臺“新聞云”存儲系統(tǒng)搭建的技術(shù)需求與方案，并對后續(xù)的2次擴容及改造后的新聞制播系統(tǒng)進行簡要介紹，以期為其他“新聞云”系統(tǒng)建設(shè)提供經(jīng)驗。

1 系統(tǒng)搭建背景

2017年前天津電視臺有2個部門進行新聞節(jié)目制作：早期成立的新聞部，制播機房在數(shù)字大廈3～4層，節(jié)目在衛(wèi)視頻道播出；2013年成立的新聞頻道，制播機房在數(shù)字大廈 7～8層，節(jié)目在新聞頻道播出。

隨著融媒體的發(fā)展，2個部門之間的聯(lián)系與協(xié)作越來越多，但由于分別使用兩套制播系統(tǒng)，無法在文稿和節(jié)目資源管理器中方便地共享素材資源。資源互通時經(jīng)常需要工作人員跑上跑下，溝通不便，效率低下。2017年2個部門進行了合并，制播系統(tǒng)的整合也勢在必行。原新聞部制播系統(tǒng)已投入使用 6年有余，設(shè)備老舊，故障頻出，在網(wǎng)絡(luò)部精心維護下得以繼續(xù)使用，但已嚴重威脅播出安全；原新聞頻道制播系統(tǒng)投入使用 4年以上，技術(shù)不夠先進，無法滿足新聞頻道日益發(fā)展的節(jié)目制作需求。在這一背景下，2017年，“新聞云”系統(tǒng)應(yīng)運而生。在設(shè)計方案和用戶需求中，要求新系統(tǒng)素材存儲量大，可供同時訪問的人數(shù)多，這對存儲系統(tǒng)的容量、安全性、響應(yīng)速度等方面的要求更為嚴格，因此在技術(shù)選擇上需要更加嚴謹與有所創(chuàng)新。

2 “新聞云”存儲系統(tǒng)建設(shè)的技術(shù)需求

2.1 容量需求

結(jié)合新聞頻道節(jié)目制播需求，擬建設(shè) 720TB裸容量數(shù)據(jù)存儲系統(tǒng)，主要存儲原始采集素材，回采成片，共享資料，以及收集管理節(jié)目編輯的工程文件等內(nèi)容。

2.2 吞吐量需求

為滿足多用戶在線使用以及系統(tǒng)應(yīng)用整體的吞吐帶寬需要，保證數(shù)據(jù)、信息等訪問的流暢性，存儲系統(tǒng)需要實現(xiàn)高吞吐的帶寬設(shè)計，從而提供多用戶或應(yīng)用并發(fā)訪問。該系統(tǒng)能夠有效利用網(wǎng)絡(luò)帶寬，各項性能可通過規(guī)模增加實現(xiàn)平滑增長。

2.3 擴展性需求

系統(tǒng)的建設(shè)同樣需要考慮未來適用的要求，新聞頻道的素材積累量大，業(yè)務(wù)應(yīng)用也會相應(yīng)變化和發(fā)展，因此，需要系統(tǒng)能夠快速實施資源的升級，從而在業(yè)務(wù)與服務(wù)不間斷的狀態(tài)下平滑擴展，不會導致架構(gòu)發(fā)生根本性變化，為不斷產(chǎn)生和變化的業(yè)務(wù)需求提供持續(xù)的支持，滿足業(yè)務(wù)系統(tǒng)的快速整合和部署對核心系統(tǒng)基礎(chǔ)架構(gòu)的特別需求。

2.4 低成本需求

要求系統(tǒng)能夠以低硬件成本、低維護成本實現(xiàn)高可靠高性能應(yīng)用要求，充分提高資源利用率，簡化管理，并能靈活、可持續(xù)擴展。

2.5 可維護性需求

要求系統(tǒng)具有自適應(yīng)管理能力，安裝、維護、升級簡易方便，提供統(tǒng)一易用的 WEB配置管理監(jiān)控系統(tǒng)，實現(xiàn)智能化管理。

2.6 接口需求

由于新聞制播系統(tǒng)的特殊性與綜合性，系統(tǒng)應(yīng)能夠提供通用的文件系統(tǒng)接口，方便用戶及應(yīng)用系統(tǒng)的訪問，這樣可以減少應(yīng)用集成端口以及相應(yīng)端口開發(fā)的工作量，實現(xiàn)系統(tǒng)快速部署與集成。

3 Isilon技術(shù)特點發(fā)揮的作用

Isilon集群存儲具有開放式架構(gòu)、分布式操作系統(tǒng)，負載均衡、易于安裝和管理，性能好、可靠性高，能在線擴展容量和帶寬等優(yōu)點，成為適應(yīng)“新聞云”需求的存儲系統(tǒng)。

3.1 開放式架構(gòu)

開放式架構(gòu)是硬件層面的一個概念，是指將集群系統(tǒng)中多臺本身性能較差的個體服務(wù)器聚合起來，使集群的最終處理能力比高端服務(wù)器更好。這種類似于“搭積木”模式搭建起來的系統(tǒng)采用的就是開放式架構(gòu)。與之相對的是 scale-up 架構(gòu)，是指設(shè)備處理能力上限在購買時就已確定，如果需求超過上限，只能重新購買更高性能的設(shè)備。

開放式架構(gòu)意味著靈活多變，能夠通過增加節(jié)點，不斷提升系統(tǒng)整體性能，在充分利用原有資源節(jié)約改造成本的同時滿足頻道日益增長的需求。

3.2 分布式操作系統(tǒng)

OneFS既是操作系統(tǒng)又是集群存儲的文件系統(tǒng)，Isilon存儲通過OneFS的同步功能，使各節(jié)點達到真正的全局一致性，每個節(jié)點都能處理讀寫請求，有效解決了訪問文件系統(tǒng)時發(fā)生的單點故障。

比較之前新聞部和新聞頻道存儲都使用卷管理和 raid技術(shù)管理保存數(shù)據(jù)的方法，OneFS將數(shù)據(jù)分布到系統(tǒng)的每一個節(jié)點，提高了磁盤空間利用率，改善了老系統(tǒng)中存在的節(jié)點等級差異和內(nèi)在瓶頸。

3.3 統(tǒng)一命名空間

OneFS使用 Infiniband交換機進行集群內(nèi)通信和同步，將所有數(shù)據(jù)(包括元數(shù)據(jù))完全并行分布到所有節(jié)點中，創(chuàng)建一個共享存儲池，將數(shù)據(jù)整合到真正的單一文件系統(tǒng) OneFS 中，系統(tǒng)的單一性決定了它不會出現(xiàn)跨lun引發(fā)的性能問題。

比如之前新聞頻道EMC存儲出現(xiàn)的多個lun在不同控制器之間transpass，造成前端讀寫出現(xiàn)丟幀現(xiàn)象。

3.4 負載均衡

存儲還內(nèi)嵌許多程序模塊，SmartConnect 模塊非常符合制播業(yè)務(wù)需求，主要用作均衡負載。以 8個節(jié)點為例，寫入數(shù)據(jù)時從8個結(jié)點中選擇出目前最閑的結(jié)點來接收此次讀寫請求的文件，這個文件到了結(jié)點之后，并沒有立刻寫到磁盤上。此時OneFS會把這個文件自動分成8個小塊，通過后端IB交換機的內(nèi)存級別拷貝功能把 8塊數(shù)據(jù)分別寫到其他節(jié)點各自的硬盤上。充分利用了 Infiniband的帶寬高、網(wǎng)絡(luò)延遲小的優(yōu)勢，提供非常高的讀寫性能，避免在節(jié)目制作高峰期前端讀寫延時、卡頓的現(xiàn)象發(fā)生。

3.5 N+M的數(shù)據(jù)保護模式

Isilon可以提供結(jié)點級的容錯，以 5個節(jié)點為例，使用 3+2數(shù)據(jù)保護模式，向存儲系統(tǒng)寫入一個文件時，該文件數(shù)據(jù)會被分成 5份分別存儲到 5個節(jié)點，即使 2個節(jié)點的所有硬盤全部宕掉，整個文件數(shù)據(jù)仍然能夠完整恢復。這種基于文件系統(tǒng)的節(jié)點級的容錯，與之前的 raid技術(shù)有著本質(zhì)的區(qū)別。這種N+M數(shù)據(jù)保護模式最高提供4個節(jié)點的容錯能力。

這與其他產(chǎn)品容錯機制完全不一樣，數(shù)據(jù)保護級別可以在線更換，數(shù)據(jù)仍然是完整的。該特性極大程度地保證了節(jié)目素材的安全性。

4 系統(tǒng)組成

新聞云存儲系統(tǒng)搭建時，軟、硬件配置如下：

硬件，5個存儲節(jié)點(X410-144TB/64GB/2X10 GESFP+2X1GE)，2臺 Infiniband交換機(Switch IB QDR 36 Port 1PS 1U Intel)。

軟件包括 SmartConnect Advanced、InsightIQ、SmartQuota，分別提供動態(tài)客戶端負載平衡功能、集群監(jiān)控功能、配額限制功能。

每個X410節(jié)點配置36塊4TB SATA硬盤，總體裸空間為 720T，使用 3+2數(shù)據(jù)保護模式，實際可用空間520TB，配置2個千兆和2個萬兆網(wǎng)絡(luò)接口。通過Infiniband高速網(wǎng)口，鏈接36口的Infiniband交換機，用于節(jié)點間內(nèi)部數(shù)據(jù)互聯(lián)互通，通過萬兆網(wǎng)口連接核心交換機，為生產(chǎn)網(wǎng)提供業(yè)務(wù)數(shù)據(jù)讀寫訪問。

5 存儲擴容

隨著頻道升級改版，節(jié)目播出時長大為增加，目前，新聞頻道全天有 11檔直播節(jié)目，每日直播時長增加到 12h，還有部分周播錄播節(jié)目在網(wǎng)內(nèi)制作。而且隨著采播技術(shù)高清化的全面落地，節(jié)目素材越來越清晰，制播系統(tǒng)所需存儲空間量也越來越大，同時在線讀寫訪問用戶數(shù)量也在增加。

為了滿足頻道的使用需求，網(wǎng)絡(luò)部結(jié)合使用利舊設(shè)備和新采購設(shè)備，先后對存儲系統(tǒng)進行兩次擴容升級改造。第一次擴容，于 2017年 6月增加 2個同型號同配置的 Isilon存儲節(jié)點，為全運會利舊設(shè)備；第二次擴容，于2017年12月增加4個同型號同配置的Isilon存儲節(jié)點，為索貝新購設(shè)備。

擴容工作內(nèi)容主要包括集群內(nèi)外部網(wǎng)絡(luò)架構(gòu)、集群網(wǎng)絡(luò)配置規(guī)劃。

5.1 集群網(wǎng)絡(luò)架構(gòu)

Isilon集群存儲網(wǎng)絡(luò)架構(gòu)主要分為內(nèi)部網(wǎng)絡(luò)和外部網(wǎng)絡(luò)。

5.1.1 內(nèi)部網(wǎng)絡(luò)架構(gòu)

內(nèi)部網(wǎng)絡(luò)由 Infiniband高速網(wǎng)絡(luò)互聯(lián)。每個X410節(jié)點的 2個高速網(wǎng)口分別接入 2個Infiniband交換機，如圖1所示。

5.1.2 外部網(wǎng)絡(luò)架構(gòu)

每個X410節(jié)點2個萬兆網(wǎng)口接入核心交換機。擴容后外部網(wǎng)絡(luò)架構(gòu)圖如圖2所示。

5.2 集群網(wǎng)絡(luò)規(guī)劃

集群SVIP(對外提供服務(wù)的統(tǒng)一IP地址)不變，延用原來的172.27.124.10。對新增X410節(jié)點的2個萬兆網(wǎng)口進行網(wǎng)絡(luò)IP配置，擴容后萬兆IP地址段為172.27.124.11-172.27.124.32。

圖1 擴容前后內(nèi)部網(wǎng)絡(luò)架構(gòu)對比圖Fig.1 Comparison of internal network architecture before and after capacity expansion

圖2 擴容后外部網(wǎng)絡(luò)架構(gòu)圖Fig.2 External network architecture after capacity expansion

圖3 存儲實際可用空間示例圖Fig.3 Diagram of actual available storage space

5.3 性能提升情況

基于 Isilon集群存儲的技術(shù)優(yōu)勢，2次擴容均在不影響客戶端使用的情況下進行，相比于原新聞部的CX-960存儲，原新聞頻道的 VNX-5700存儲、新聞云 Isilon存儲系統(tǒng)容量大幅提升，如圖 3所示。擴容后，整個Isilon存儲系統(tǒng)共配置11個X410節(jié)點(包括 22個千兆和 22個萬兆網(wǎng)絡(luò)接口，396塊 4G硬盤)，2個 Infiniband交換機。在第 2次擴容時，在線將數(shù)據(jù)保護模式改為 8+3，可用空間 1.4PB。以一個Isilon存儲節(jié)點對外存取帶寬500MB/s計算，系統(tǒng)內(nèi)11個節(jié)點的總帶寬共5500MB/s。

6 結(jié) 語

擴容后的新聞云存儲系統(tǒng)，是一個由11個EMC Isilon X410節(jié)點(每個節(jié)點包括36塊 4GB SATA硬盤，2個千兆網(wǎng)卡，2個萬兆網(wǎng)卡)，2個infiniband交換機組成，并定制安裝了SmartConnect Advanced(動態(tài)客戶端負載平衡功能)、SmartQuota(配額限制功能)、InsightIQ(集群監(jiān)控功能)軟件的，基于開放式架構(gòu)，使用分布式操作系統(tǒng)，統(tǒng)一命名空間的存儲系統(tǒng)。它擁有易于安裝、配置，便于管理、擴容的優(yōu)點，并且在負載均衡、系統(tǒng)性能、數(shù)據(jù)安全方面有卓越表現(xiàn)。相比原來的存儲系統(tǒng)，新集群存儲系統(tǒng)提供大容量存儲、高帶寬讀寫，在線擴容、更改保護級別外，有效提高了磁盤空間利用率，解決了lun在不同控制器切換帶來的訪問隱患，避免了讀寫單點故障，合理均衡了多用戶使用的負載情況。自 2017年上線后，除操作系統(tǒng)升級、硬盤等硬件的更換維護，一直平穩(wěn)運行，從未出現(xiàn)過安全事故，為新聞節(jié)目的高效制播提供了保障。