配用電云平臺分布式實時數(shù)據(jù)處理技術(shù)研究

，

(1.東方電子股份有限公司，山東 煙臺 264000；2.北京師范大學(xué)-香港浸會大學(xué)聯(lián)合國際學(xué)院，廣東 珠海 519087)

0 引言

隨著電網(wǎng)規(guī)模不斷擴大以及“大運行”體系日趨完善，電網(wǎng)數(shù)據(jù)體量和采集范圍變的越來越大[1-2]。同時數(shù)據(jù)處理方式也發(fā)生了變化，從各級調(diào)度分級處理逐漸向集中處理發(fā)展，這樣勢必導(dǎo)致調(diào)度平臺的數(shù)據(jù)量、計算量不斷增加。新形勢、新問題對配用電平臺的處理能力、服務(wù)能力、可靠性、穩(wěn)定性、擴展性提出了更高的要求。各種集中式配用電云平臺的數(shù)據(jù)規(guī)模基本達(dá)到了千萬級，因此實時數(shù)據(jù)庫的處理效率和存儲容量面臨新的挑戰(zhàn)和機遇[3-5]。

總體來說，集中式實時數(shù)據(jù)庫大多采用單節(jié)點或者雙節(jié)點的形式實現(xiàn)數(shù)據(jù)實時存儲；數(shù)據(jù)處理則選用串行處理模式；數(shù)據(jù)訪問服務(wù)基本上都是通過單節(jié)點實現(xiàn)，往往無法兼顧數(shù)據(jù)處理效率和存儲規(guī)模這2個關(guān)鍵方面，所以需要引入一種新的數(shù)據(jù)存儲和訪問技術(shù)來克服目前集中式實時數(shù)據(jù)庫所面臨的困難[6-7]。

根據(jù)國內(nèi)外研究現(xiàn)狀可以發(fā)現(xiàn)，分布式處理技術(shù)的應(yīng)用還是比較廣泛的。所謂分布式處理技術(shù)，就是將若干計算機互相連接，單臺計算機也可以獨立工作，協(xié)調(diào)各計算機同時對數(shù)據(jù)進(jìn)行處理。另外，分布式處理技術(shù)也是某些領(lǐng)域的關(guān)鍵后臺技術(shù)，如云計算和集群計算等[8-10]。

1 集群分布式實時數(shù)據(jù)庫

1.1 概念

電網(wǎng)調(diào)控云平臺數(shù)據(jù)庫是一種實時專用數(shù)據(jù)庫，其主要面向電網(wǎng)數(shù)據(jù)采集、分析以及實時監(jiān)控，應(yīng)該具有吞吐量大、實時性高和可靠性強等特點。現(xiàn)在使用較多的數(shù)據(jù)庫架構(gòu)為雙機集中存儲模式，所有數(shù)據(jù)節(jié)點均會存儲全部數(shù)據(jù)。雙機主備方式能夠確保數(shù)據(jù)可靠性，其中主機負(fù)責(zé)處理數(shù)據(jù)訪問事件，備機只有在主機故障時才會處理數(shù)據(jù)訪問事件。

與集中式實時數(shù)據(jù)庫相比，分布式實時數(shù)據(jù)庫可將數(shù)據(jù)分布儲存在多個數(shù)據(jù)節(jié)點中，可有效緩解單臺計算機的數(shù)據(jù)處理壓力。另外，多臺計算機并行處理，不僅可以提高數(shù)據(jù)處理效率，而且大大提高了系統(tǒng)的穩(wěn)定性。基于分布式結(jié)構(gòu)，通過增加節(jié)點可快速提高存儲空間和處理速度，系統(tǒng)擴展性比較好。

1.2 分布式SCADA系統(tǒng)

目前，在電網(wǎng)云計算平臺中，SCADA系統(tǒng)使用比較廣泛，但是傳統(tǒng)SCADA系統(tǒng)依舊存在實時性不高、吞吐能力欠缺和可擴展性稍差等問題。為解決此問題，文中提出了一種新型分布式SCADA系統(tǒng)，進(jìn)一步提高數(shù)據(jù)的整體處理效率和處理容量，其結(jié)構(gòu)如圖1所示。

圖1 新型分布式SCADA系統(tǒng)

新的分布式SCADA系統(tǒng)中各可將所采集數(shù)據(jù)“分片”并編號；然后，將“分片”數(shù)據(jù)平均分配到各服務(wù)器同時處理；如果需要進(jìn)一步擴大系統(tǒng)數(shù)據(jù)規(guī)模，可以增加SCADA系統(tǒng)服務(wù)器數(shù)量。

與傳統(tǒng)SCADA系統(tǒng)相比，新型分布式SCADA系統(tǒng)可以減輕單個服務(wù)器的處理壓力，提高數(shù)據(jù)處理能力，進(jìn)而提高系統(tǒng)響應(yīng)速度；其可擴展性則能夠提升整個系統(tǒng)的吞吐量。另外，系統(tǒng)會預(yù)留一臺服務(wù)器用于備份所有數(shù)據(jù)，這樣就確保了系統(tǒng)的可靠性。

1.3 分布式SCADA系統(tǒng)體系架構(gòu)

整體上，上述分布式SCADA系統(tǒng)架構(gòu)包括4個層級，如圖2所示。

圖2 分布式SCADA系統(tǒng)架構(gòu)

a.第1層,基礎(chǔ)設(shè)施。它主要包括操作系統(tǒng)、服務(wù)器(CPU、內(nèi)存等)、網(wǎng)絡(luò)設(shè)備和存儲設(shè)備。這些是整個系統(tǒng)正常運行的基礎(chǔ)。

b.第2層,分布式資源和任務(wù)處理。其中分布式資源管理可分為節(jié)點狀態(tài)管理和資源狀態(tài)管理等，主要負(fù)責(zé)監(jiān)控服務(wù)器節(jié)點的在線/離線狀態(tài)及其硬件資源使用情況。任務(wù)處理則包括分布式任務(wù)負(fù)載均衡和分布式任務(wù)故障冗余等，通過分析節(jié)點、資源的使用狀態(tài)，合理分配計算任務(wù)，確保任務(wù)能夠平均地分?jǐn)偟礁饔嬎愎?jié)點。另外，還具有任務(wù)故障冗余管理功能，確保系統(tǒng)可靠性。

c.第3層,分布式實時數(shù)據(jù)處理。這一層主要包括實時數(shù)據(jù)劃分與存儲、分布式數(shù)據(jù)定位、分布式數(shù)據(jù)冗余與互訪問、分布式數(shù)據(jù)透明訪問等，該層可以為整個系統(tǒng)提供數(shù)據(jù)支持。另外，冗余互備部分可確保節(jié)點發(fā)生故障時，仍可正常訪問實時數(shù)據(jù)。

d.第4層,分布式數(shù)據(jù)處理。該層具有分布式公式計算、分布式拓?fù)溆嬎恪⒎植际綌?shù)據(jù)采集、遙測/遙信數(shù)據(jù)處理等功能。分布式任務(wù)管理可實現(xiàn)多機任務(wù)調(diào)度，將原本單機運行的SCADA功能分不到多臺機器上進(jìn)行處理，以提高整個系統(tǒng)的性能。

2 關(guān)鍵技術(shù)分析

2.1 分布式并行SCADA處理

對于大多數(shù)調(diào)度控制系統(tǒng)而言，SCADA數(shù)據(jù)處理模塊均為一主多備的形式，即只有主節(jié)點實時處理數(shù)據(jù)，其余節(jié)點基本處于備用狀態(tài)。一旦SCADA主節(jié)點發(fā)生故障，系統(tǒng)會自動選擇一個SCADA備用設(shè)備作為主節(jié)點繼續(xù)進(jìn)行數(shù)據(jù)處理工作。很明顯，僅僅主節(jié)點進(jìn)行數(shù)據(jù)處理會面臨諸多性能瓶頸，想要解決此問題只能通過提升節(jié)點設(shè)備硬件性能來解決。另外，僅僅提升主節(jié)點硬件處理能力是不夠的，還需要提升備用節(jié)點性能，造成更多的計算資源閑置。

相對而言，云計算系統(tǒng)具有非常好的彈性，可以通過增加節(jié)點達(dá)到海量數(shù)據(jù)存儲和處理的需求，而且是在水平方向增加節(jié)點。如前所述，新的分布式SCADA系統(tǒng)還可以實現(xiàn)水平處理節(jié)點的增減，充分利用云計算的靈活性,這樣就可以克服數(shù)據(jù)處理技術(shù)瓶頸，滿足未來數(shù)據(jù)規(guī)模不斷提升的需求，以滿足整個系統(tǒng)的中長期發(fā)展。

2.2 分布式實時數(shù)據(jù)庫

在實際監(jiān)控系統(tǒng)中，普遍使用數(shù)據(jù)庫來保存實時數(shù)據(jù)，這樣就可以提升系統(tǒng)的實時性能。但是，目前數(shù)據(jù)庫大多采用內(nèi)存庫，利用內(nèi)存芯片的高速訪問機制來獲取優(yōu)良性能。各應(yīng)用模塊可以定義自己數(shù)據(jù)庫并分布在不同節(jié)點上，但是實時庫無法跨節(jié)點分布，其容量大小勢必受單節(jié)點內(nèi)存限制。

云平臺的彈性優(yōu)勢以及分布式并行SCADA系統(tǒng)的水平擴展能力，使系統(tǒng)實時數(shù)據(jù)處理能力大幅度提升。如果采用單個應(yīng)用的實時數(shù)據(jù)庫就會限制SCADA系統(tǒng)性能的發(fā)揮，因為該數(shù)據(jù)庫不能跨數(shù)據(jù)庫進(jìn)行節(jié)點分布。為解決此問題，可采用前文所述分布式實時數(shù)據(jù)庫，將數(shù)據(jù)庫分布到多個節(jié)點上，以滿足整個系統(tǒng)的伸縮性需求。

2.3 彈性事件隊列

在云平臺的系統(tǒng)中，需要實時感知各類突發(fā)事件，根據(jù)事件信息快速響應(yīng)，構(gòu)建事件驅(qū)動的敏捷系統(tǒng)。實時數(shù)據(jù)庫除保存數(shù)據(jù)外，還需要一種機制來支撐相關(guān)信息的存儲、發(fā)布和訂閱等。當(dāng)前，事件服務(wù)機制普遍采用隊列方式，該方式同樣使用集中處理模式，水平擴展能力差。一旦數(shù)據(jù)規(guī)模擴大或者事件信息增多，該事件服務(wù)機制同樣會限制系統(tǒng)性能。所以，需要充分利用云計算彈性優(yōu)勢，設(shè)計一種支持水平擴展的彈性事件隊列。

2.4 彈性應(yīng)用框架

當(dāng)實時數(shù)據(jù)分布式并行SCADA處理機制，數(shù)據(jù)存儲入庫，彈性事件隊列準(zhǔn)備就緒后，系統(tǒng)肯定會面對如何高效地分析、計算問題。云計算技術(shù)中，廣泛采用分布式計算模式來充分發(fā)揮彈性優(yōu)勢，從而可以處理更大規(guī)模的數(shù)據(jù)，并提升計算分析的效率。但現(xiàn)有調(diào)度控制系統(tǒng)中，高級應(yīng)用的分析處理模式依然是通過主備冗余的應(yīng)用服務(wù)器，進(jìn)行集中的分析計算。如前所述，這種處理模式無法適應(yīng)云計算的彈性特征，不能充分發(fā)揮分布式計算的優(yōu)勢來提高應(yīng)用分析處理效率。

如果分布式實時數(shù)據(jù)庫、分布式并行SCADA系統(tǒng)、靈活的事件隊列都已就位，如何解決高速分析計算問題就顯得尤為重要。因此，為了保證海量數(shù)據(jù)的分析和處理效率，需要建立一個基于分布式存儲和計算的應(yīng)用分析框架，并采用并行處理來提高不同應(yīng)用的分析和處理效率。

3 實例分析

為驗證所述實時數(shù)據(jù)處理系統(tǒng)的可行性和有效性，文中進(jìn)行了相關(guān)示例分析。首先，搭建了包含10臺SCADA服務(wù)器的測試環(huán)境，服務(wù)器采用8核CPU，主頻可以達(dá)到3.2 GHz，內(nèi)存為64 GB，在配置方面低于主流大型調(diào)控系統(tǒng)常用服務(wù)器配置要求。

測試點包括1 000個廠站、20萬個遙測點以及30萬個遙信點，實時測試分布式SCADA系統(tǒng)的遙信數(shù)據(jù)處理能力。

測試結(jié)果表明，與傳統(tǒng)實時數(shù)據(jù)處理系統(tǒng)相比，分布式SCADA系統(tǒng)的數(shù)據(jù)處理吞吐率可以達(dá)到58 000個/s，而傳統(tǒng)數(shù)據(jù)處理系統(tǒng)的吞吐率只有7 000個/s，性能提升約8.3倍。如果節(jié)點數(shù)繼續(xù)增加，系統(tǒng)的數(shù)據(jù)處理能力會進(jìn)一步提升，具備比較好的擴展性。

4 結(jié)束語

以配用電云平臺分布式實時數(shù)據(jù)處理為研究對象，重點論述了分布式實時數(shù)據(jù)庫和新型分布式SCADA系統(tǒng)的架構(gòu)。綜合考慮云平臺的計算彈性優(yōu)勢，論述了集中關(guān)鍵技術(shù)。除實時數(shù)據(jù)庫、SCADA系統(tǒng)外，還包括彈性事件隊列和彈性應(yīng)用框架等。所述實時數(shù)據(jù)處理技術(shù)對配電網(wǎng)大數(shù)據(jù)分析、計算具有一定的借鑒意義。