數據挖掘在數據中心運維中的應用

陳 崢

（深圳市共濟科技股份有限公司，廣東 深圳 518000）

1 概述

1.1 數據中心的重要性

數據中心是計算設施和網絡設備的放置和集中位置。它們的任務是收集、存儲、處理和分發大量數據，幾乎每個現代企業和政府機構都需要自己的數據中心。數據中心在各個行業的信息化建設及數字化改造中扮演重要的角色，全社會的數據和信息資源都被儲存在數據中心中（后文簡稱IDC）。同時，IDC 設備種類相對較少，例如服務器、供電設備、制冷設備、防護設備。所以，數據中心的數字化改造具有技術基礎、先發優勢、經濟價值和重要的示范作用。

1.2 數據挖掘對IDC 運維的價值

國內數據中心保有量巨大。根據“IDC 圈”2021年對國內已建數據中心（規模以上運營商機房）的調查統計結果，已建數據中心613 個[1]。根據國家工信部發布數據，我國在用數據中心機架規模達到了166萬架，數據中心數量（含企事業單位的自用機房）達到1844個，在建規模為107 萬架，數量463 個[2]。當前IDC運維管理存在四個問題和新的挑戰。第一，數據龐雜，管理混亂；第二，運維碎片化，加大運維成本；第三，容量管理缺失，無法規劃擴容；第四，被動式運維，用戶體驗差。人工智能技術和數據挖掘解決方案對解決IDC 運維面臨的問題具有不可或缺的價值[3]。

1.3 IDC 運維的自動化智能化改造

IDC 自動化智能化改造由三部分組成——數據的采集存儲、數據挖掘任務、根據挖掘的知識指導實踐。最終，實現IDC 運維的降低能耗、提升運維管理效率、提升資源利用率。IDC 數據挖掘任務由五個步驟組成——數據存儲、數據準備、算法模型、評估尋優、數據可視化。

2 IDC 數據挖掘的數據基礎

在進行IDC 自動化智能化改造時，需要以五大類數據為基礎——物狀態、空間、人位置、物描述、人的活動數據。

2.1 物狀態數據

“物狀態”主要體現在時序數據，包含了設備各個參數在各個時刻的值，主要存儲于時序數據庫，例如SSDB 中。時序數據最顯著的特點是數據量巨大。首先，IDC 采集監控的對象和設備多、要監控的參數多。以某省電網IDC 為例，設備的參數（后文簡稱測點）數量達到300 萬個；其次，IDC 監控采集頻率高，要求達到毫秒級，每秒鐘采集10 次以上。

2.2 三維空間數據

三維空間數據是可視化和自動化的基礎數據之一，主要包含建筑信息數據與設備空間位置數據，主要存儲BIM 模型和三維組態文件中。

2.3 人位置數據

人的位置主要體現在，基于超寬帶技術UWB（Ultra Wideband）的人員室內定位數據，主要存儲于消息隊列中，根據人員佩戴的工牌或手環反饋的定位數據，實時更新。

2.4 物描述數據

物描述數據是對物的描述，其序列化包含設備與空間、人和設備、設備和設備之間的關系，例如所屬關系、供電關系、制冷關系，從屬關系等，符合W3C成立的WoT 工作組制定WoT 標準。WoT 數據主要存儲于配置管理數據庫CMDB 中，為故障分析、影響溯源、自動化控制和群控提供了必不可少的數據基礎。

2.5 人員管理活動數據

人的活動數據主要體現在基于ITIL 規范的各類管理表單上，存儲于關系數據庫，例如MySQL 中。

3 IDC 監控管理的數據挖掘

3.1 IoT 數據倉庫

與典型的數據倉庫不同，首先，用于IDC 數據挖掘的數據倉庫必須是包含五大類基礎數的多源異構數據庫；其次，用于IDC 數據挖掘的數據倉庫，必須具有時序數據存儲和處理的功能。在本文中，稱用于IDC數據挖掘的數據倉庫為“IoT 數據倉庫”。IoT 數據倉庫是在線分析型多元異構數據庫，需要同時滿足五大類異構數據的鏈接、查詢、存儲能力——非關系型數據庫如SSDB、3D 空間配置文件、告警及人員定位消息隊列、關系型數據庫如MySQL。

目前，以ClickHouse 為代表的列式數據庫管理系統（DBMS），通過數據按列存儲的方式，進行矢量（向量或列塊）執行，滿足IoT 數據倉庫多元異構數據庫的要求，同時可以對AI 智能算法進行定制化集成，為智能分析提供了技術基礎。

3.2 IoT 數據準備

IoT 數據準備最大的特征就是在時間維度對數據進行聚合，例如，首先，對測點時序數據、表單流程數據、告警數據按照日期進行聚合；其次，將多元數據進行并表，得到以時間為統一尺度的多元數據特征；最后，使用數據挖掘算法提取分析模型。下面，以分析每天UPS 電流峰值與故障產生頻次關聯為例，介紹數據準備的步驟：第一，在時間維度，對UPS 的電流數據進行聚合操作，例如，按照天維度將UPS 的電流進行聚合，得到每天UPS 電流的最大值；第二，在時間維度，對運維管理表單進行聚合操作，例如，按照天對告警數據量和維護保養活動給進行聚合；第三，使用神經網絡模型，分析UPS 的最大電流與告警數量和維護保養活動是否有關聯，定量分析UPS 電流與保養活動，或告警數量之間的關系。

3.3 IoT 算法模型

IoT 數據挖掘算法模型主要體現在兩個方面：時序預測模和關聯分析。時序預測，主要應用于溫度、網速、電流、功率等時序數據，通過歷史數據，預測未來一段時間內的變化趨勢，或預測未來某一時刻的值，從而實現故障預警。關聯分析，主要用于分析時序數據之間或時序數據與運維活動間的關系，例如，運維保養，參數配置等與設備的關鍵指標之間的關聯關系，提升運維能力。

3.3.1 最小二乘法

最小二乘法是一種在誤差估計、不確定度、系統辨識及預測、預報等數據處理諸多學科領域得到廣泛應用的數學工具。

3.3.2 神經網絡回歸QRNN

回歸是確定兩種或兩種以上的變量間相互依賴的定量關系的方法。QRNN 結合了神經網絡和回歸的兩大優勢，能夠揭示數據分布規律。首先，加載使用歷史數據，例如正常與故障蓄電池各時間段的歷史數據為訓練集。其次，數據歸一化同時構建神經網絡并進行訓練，訓練模型對正常和故障蓄電池進行分類，并保存模型。再次，將訓練好的模型下發至現場的采集器或監控主機，對一天的歷史數據進行反歸一化和預警。最后，將故障的蓄電池數據重新放入訓練集更新預警模型。

3.3.3 時序預測prophet

prophet 算法基于時間序列分解和機器學習，進行時序數據的預測，能夠在較快的時間內得到需要預測的結果。算法可以通過輸入時間序列的時間戳和相應的值，預測未來的時間序列走勢，同時提供必要的統計指標，包括擬合曲線，上界和下界等。時序數據的預測使數據中心的預警和群控成為可能，例如，提前預測線纜的溫度從而實現主動防御，通過預測熱點，空調的提前增加或減少冷量，實現節能減排。

3.4 評估尋優

1.均方差。均方誤差MSE 通過計算預測值和實際值之間距離（即誤差）的平方來衡量模型優劣。即預測值和真實值越接近，兩者的均方差就越小。MSE 的值越小，說明預測模型描述實驗數據具有更好的精確度。如下是均方誤差的計算方法：

2.Softmax。Softmax 的含義就在于不再唯一的確定某一個最大值，而是為每個輸出分類的結果都賦予一個概率值，表示屬于每個類別的可能性：

其中zi為第i 個節點的輸出值，C 為輸出節點的個數，即分類的類別個數。通過Softmax 函數將多分類的輸出值轉換為范圍在[0,1]間，且和為1 的概率分布。

3.5 基于三維位置的數據可視化

1.預測結果的三維可視化。在進行測點預測之后，需要結合置信度，將預測結果以圖表的形式展示出來，從而指導運維實踐。使用3D 可視化的手段可以彌補傳統2D 手段的不足——只有唯一的、預置的視角展示。3D 可視化可應對復雜的預測結果和展示需求，以多種形式呈現給運維人員。

2.設備拓撲關系的三維可視化。通過傳統組態方式展示設備拓撲關系有明顯的缺陷——無法篩選指定的鏈路或部分設備，同時，無法將拓撲關系與空間信息結合，讀圖分析的難度極大，必須有專家指導。使用3D 的手段展示拓撲關系，可以有效地彌補篩選和拓撲與空間結合的缺點。降低現場運維的難度，提升故障分析與處置的難度。

3.人員位置的三維可視化。當前應急演練與應急指揮處于“眼看手摸”的階段，指揮中心無法看到處置人員的跑位情況，在協同多個房間和多個部門時，需要通過對講機確定位置和現場情況。例如，機房UPS故障定位需要協調配電間的開關操作。故障分析團隊通過三維可視化和單兵作戰系統，在ECC 上看到現場的攝像頭畫面、故障設備的實施參數、故障拓撲關系、人員跑位的信息指揮故障處置。

4 使用獲取的知識改造運維活動

數據挖掘獲得的知識需要回到真實的世界，對真實世界進行改造。改造體現在兩個方面：一是基于一體化監控的自動化控制、群控；二是改造運維流程，包括應急輔助、應急演練、標準操作流程SOP。

4.1 自動控制與群控

結合測點間關系信息、測點計算器、閾值配置、聯動策略、PLC硬件實現自動控制。例如，在煙感報警時，觸發自動控制策略，自動計算附近PDU 負載、空調制冷的冷量，同時通過三維可視化的形式將相關設備展示到ECC 指揮大屏上，提供為該PDU 供電的UPS 以及上游配電柜功率信息，在有人員監督的情況下進行開關控制。在負載系統（例如精密空調）內部包含多個子模塊，子模塊的配置需要預設多種運行模式，例如低溫模式、高溫模式、局部過熱模式，通過測點預測實現提前增加或減少冷量從而達到節能的目的。

4.2 運維流程改造

通過分析運維表單數據與故障發生次數、設備關鍵參數之間的關系，優化運維活動的頻次，重點覆蓋的區域和設備種類，從而提升運維效率，降低運維成本。另一方面，通過總結故障與設備測點之間的關聯關系，改造標準操流程SOP，從而達到提升故障處理效率的目的。

4.3 故障分析與溯源

通過分析告警類型與處置方法之間的關聯，優化故障處置流程。在告警發生時，DCIM 根據告警信息類型和相關參數特征，自動匹配輔助決策處置方案，根據關系信息分析故障設備的拓撲，分析故障對整個系統的影響、可能的原因，實現故障處理智能化、簡單化、可追溯化[4]。

4.4 應急指揮

通過三維可視化系統與室內定位數據結合，實時在ECC 大屏上查看故障處理人員的位置，在指揮中心對于現場疑難故障處置。還可以借助單兵系統、可穿戴視頻電話等設備，實現指揮中心與現場的音視頻連線，由專家進行遠程指導，并可將處置方案等信息推送到現場終端進行顯示，有效縮短故障處置時間。

5 智能化運維效果

5.1 節能減排

粵東數據中心未使用數據挖掘技術簽，投產共計N 個機架，整體PUE 約為1.8。通過使用人工智能算法降低能耗，PUE 達到1.76，平均減少約7.42% 用電量。

5.2 提高資源利用率

通過U 位精細化管控和機架推薦，在散熱允許的情況下，降低了 U 位的碎片化情況，釋放將近 200 個機架資源，在客戶業務增加的情況下，提升了機架利用率約20.12%。

5.3 降低人力成本

2018 年，粵東某IDC 駐點運維人員為53 人，月度運維人力成本約為60 萬元。通過虛擬定位演練、減少抄表、對照等繁雜操作、加大高風險點運維力度。2019 年，運維人員縮減到35 人，月度運維人力成本約38 萬元，縮減成本22.26 萬[5]。

6 結語

本文介紹的“數據挖掘技術對IDC 運維進行自動化智能化改造”是結合數據挖掘技術和數據中心運維需求進行的探索，通過對五大數據的采集監控，進行數據挖掘，將挖掘的知識通過DCIM 系統和運維流程，及一體化監控系統對運維流程進行改造，對運維流程進行自動化、智能化改造，實現數據中心的節能減排、降本增效。解決目前IDC 運維管理上存在“煙囪式運維”的困局，后續將通過整體解決方案的復制遷移，驗證在其它物聯網行業，例如能源或智能制造行業實現信息化、自動化、智能化改造，推動整個物聯網行業的發展。