基于相關性計算的IT監控對象特征關聯分析

龍玉江,衛薇,鐘掖

基于相關性計算的IT監控對象特征關聯分析

龍玉江,衛薇*,鐘掖*

貴州電網有限責任公司信息中心, 貴州 貴陽 553000

隨著數據中心規模的不斷擴大，業務系統越趨復雜，可用性和可靠性要求不斷提高，傳統的電力IT監控軟件僅僅只能夠監控對象特征數據指標量，但是卻沒法發現對象特征之間的相關關系。本文針對電力IT監控對象特征數據，提出了基于相關性計算的IT監控對象關聯分析方法，針對IT監控對象特征離散指標，研究了基于卡方測試的相關性計算方法，針對IT監控對象特征連續數值指標，提出了基于相關系數與協方差的相關性計算方法。實驗結果表明大部分電力IT監控的連續數值特征之間存在弱相關性，少部分電力IT監控的連續數值特征之間存在強相關性，且電力IT監控特征相關性計算有助于異常的發現。

電力系統; IT監控; 關聯性分析

目前，國外的商業傳統IT監控軟件以HP、IBM、CA等廠商為主，國內以北塔軟件、游龍科技、廣通信達、摩卡軟件為主，這些傳統的IT監控軟件，在使用過程中，僅僅監控國際通用特征的指標量[1]。但是，隨著數據中心規模的不斷擴大，業務系統越趨復雜[2]，可用性和可靠性要求不斷提高，僅僅依靠這些單一通用特征的指標量沒法判斷整個IT監控中深層次的關聯問題[3,4]。

電力IT監控軟件通常分別獨立地監控主機硬件、網絡設備、數據庫等各項指標，然后利用人工來監視這些指標的異常情況，但是這些指標之間更加深層次的關聯關系不得而知，如服務器溫度和硬盤轉速指標之間是否存在關聯關系？交換機流量和交換機溫度之間是否存在關聯關系等。

傳統的電力IT監控軟件還存在如下幾個問題：

（1）采集指標覆蓋面不夠。目前電網公司采購的數據采集軟件，采集的監控指標覆蓋面不夠，需要進行二次開發才能實現。如風扇、溫度、電壓、硬件物理故障等硬件監控指標；負載均衡器的資源池、虛擬節點健康狀態及一些特殊設備的監控指標，如DSG數據同步管理軟件的監控采集指標；

（2）監控軟件實施困難，當采用有代理的方式部署在大量被監控對象中的時候，每個代理程序都是一個系統，需要進行監控參數的設置，這些設置工作量大而且重復，傳統的監控軟件缺乏自適應的配置管理功能，不能根據監控對象類型自動設置監控指標或其他參數；

（3）監控軟件維護困難，維護每個Agent都是在維護一個小系統，傳統的監控軟件缺乏統一的管理平臺，Agent的相關腳本或者數據管理都是本地化模式，一方面是維護工作量大，另一方面是在代理程序升級修改的時候容易造成腳本或數據的丟失；

（4）缺乏采集功能差異化管理，傳統監控軟件不能根據被監控對象的服務級別實現監控功能的差異化管理，更不能根據監控指標的重要程度實現差異化的采集調度，它們將同類設備一視同仁，無緊急重要程度區分；

（5）監控軟件平臺缺乏自我監控功能，傳統監控軟件各個節點之間沒有實現相互協同，相互監視的機制，出現監控的死角；

本文通過電力IT監控對象特征的指標量數據，利用相關性計算方法，來發現電力IT監控對象各指標的關聯關系，進一步為電力IT復雜業務系統的軟件以及硬件可靠性服務。

1 電力IT監控系統設計

針對電力IT監控的業務需求，系統主要包括如下功能：

1.1 用戶管理

擁有用戶管理權限的用戶可以在此處添加、刪除、編輯、啟用和禁用用戶，亦可通過導入用戶模板、全選用戶來進行批量操作。

1.2 角色管理

擁有用戶管理權限的用戶可以在此處添加、刪除、編輯和指定角色給用戶，用戶通過自身角色所保有的權限對系統進行相應的操作，系統管理員不可編輯或刪除。

1.3 賬號配置

通過導入賬號配置模板，實現自動更換主機密碼的功能。一臺主機設備，在模板上填寫多個（例如四個）不同的密碼，然后指定使用日期來控制更改使用該密碼的時間，到指定日期系統即可自動使用指定的密碼對設備進行監控以及采集。

1.4 模板配置

可查看預置的智能運維規則，支持編輯修改規則配置。

1.5 主機DMIIM管理

此界面可查看、管理安裝運行的DMIIM客戶端主機信息、狀態及創建時間。

1.6 自定義腳本管理

此界面中可以創建一個SQL或SSH腳本，添加腳本后，可以選擇對應的對象執行該腳本。此功能支持周期性執行腳本和一次性執行腳本，并可以點擊返回結果詳情查看返回結果。

1.7 非主機對象監控發現管理

可根據IP地址段和掃描周期采集非主機設備，對于新發現的非主機設備配置連接參數后可自動同步更新到監控系統中。

1.8 主機對象監控發現管理

可查看安裝了DMIIM客戶端的主機設備，以及該設備上安裝的Oracle數據庫和Weblogic中間件信息，設置連接參數后自動將新發現設備同步更新到監控系統中。

1.9 操作日志查看

此功能記錄了系統運行時所有用戶的詳細操作，可按人、時間、內容等條件來篩選操作記錄。

1.10 專項管理

提供對各種主機，數據庫，中間件，存儲設備和網絡設備的整體運行狀態，以及各種指標采集狀態的監控。

1.11 故障管理

提供對各種告警規則的查看，以及所有告警信息的確認、取消、分析，及處置經驗功能。

1.12 報表統計

在之前報表管理功能的基礎上，會增加提供按“所在系統”維度的報表展示。

1.13 基礎設置

提供對主機，數據庫，中間件，IPMI設備，及存儲對象和網絡設備的增加，修改，和刪除等維護性操作。

表 1 電力IT資源采集

2 監控對象特征的相關性計算

首先，我們實現監控Agent的批量部署功能，同時通過統一的管理視圖對分布在不同被監控設備上的Agent進行統一的管理，主要包括啟停、升級、維護、監視等管理功能。監控指標的增加、刪除、修改、查詢等功能。

隨后，針對監控對象的操作系統、設備類型、功能屬性、服務級別等特征及屬性進行自動識別分析，形成監控對象特征庫。

本文利用相關性計算方法來對電力IT監控對象特征數據進行建模。相關性計算考慮數據的兩個維度之間的關聯性，本文的電力IT監控對象特征指標相關性計算綜合考慮指標數據的連續特征與離散特征，分別建立連續數據相關性計算方法和離散數據相關性計算方法，計算電力IT監控對象各個特征的相關關系，進一步為電力IT復雜業務系統的軟件以及硬件可靠性服務。

2.1 監控對象特征離散數據相關性計算定義

定義電力IT監控對象離散數據相關系數定義電力IT監控對象離散數據相關系數是研究具有離散特性的兩組變量之間線性相關程度的量。

對于電力IT監控對象的離散數據，本文提出了基于卡方檢驗[5]的電力IT監控特征和之間的相關性計算方法。假設采集了電力IT監控特征的個不同值的數據1,2,…,p，采集了電力IT監控特征的個不同值的數據1,2,…,q。用特征表示的數據元組能夠用一個相依表來描述，其中，監控特征的個數據構成列，監控特征的個數據構成行。令(P,Q)表示特征取值p，特征取值q的聯合事件，即(=p,=q)。每個可能的(P,Q)聯合事件都在表中存在相應的單元。

電力IT監控對象離散數據相關系數2值計算如下：

其中，是電力IT監控數據元組的個數，(=p)是電力IT監控特征上具有值p的元組個數，而(=q)是電力IT監控特征上具有值q的元組個數。

佟慶富是沈陽郊區的一個普通農村養魚戶，承包魚塘雖然也能為家里增添一些收益，但也沒能賺什么大錢。不過，5年前的一次小經歷，卻完全改變了佟慶富的人生。

2統計檢驗假設電力IT監控特征和特征是獨立的。檢驗基于顯著水平，具有自由度(-1)×(-1)。如果通過實際數據計算可以拒絕該假設，則說明IT監控特征和特征是統計相關的。

2.2 監控對象特征連續數字數據相關性計算定義

定義電力IT監控對象連續數值數據相關系數定義電力IT監控對象連續數值數據相關系數是研究具有連續數值特性的兩組變量之間線性相關程度的量。

對于電力IT監控對象的連續數值數據，本文提出了基于相關系數的電力IT監控特征和之間的相關性計算方法。

用字母表示電力IT監控特征和之間的相關系數，計算方法如下：

在概率論與統計學中，方差和協方差是兩個相似的度量方法。因此，本文在相關系數的基礎上，提出了基于協方差的相關性計算方法。

則電力IT監控特征兩個連續數值屬性和的協方差定義為：

由上式可以計算電力IT監控特征和的相關性。

（2）電力IT監控特征和完全相關的含義是在概率為1的意義下存在線性關系，于是||是一個可以表征電力IT監控特征和之間線性關系緊密程度的量。當|(,)|較大時，說明電力IT監控特征和相關程度較好；當|(,)|較小時，說明電力IT監控特征和相關程度較差；電力IT監控特征和不相關，通常認為電力IT監控特征和之間不存在線性關系，但并不能排除電力IT監控特征和之間可能存在其他關系。

若電力IT監控特征和不相關，|(,)|=0，通常認為電力IT監控特征和之間不存在線性關系，但并不能排除電力IT監控特征和之間可能存在其他關系；若|(,)|=0，則電力IT監控特征和不相關。

若電力IT監控特征和獨立，則必有|(,)|=0，因而電力IT監控特征和不相關；若電力IT監控特征和不相關，則僅僅是不存在線性關系，可能存在其他關系，如2+2=1，電力IT監控特征和不獨立。

3 系統實現與算法有效性驗證

3.1 系統架構

電力IT監控管理自適應系統架構圖如下圖所示：

圖 1 電力IT監控管理自適應系統架構圖

整個架構包含三個部分：

（1）通過SOCKET方式與DMIIM掃描程序建立通信，接收主機（包括服務器、操作系統、中間件、數據庫等在操作系統環境下的監控對象）、非主機對象（網絡設備、存儲、負載均衡等無操作系統的監控對象）的設備特征信息，主機對象是通過DMIIM的定時腳本掃描獲取特征信息；非主機對象是通過對指定地址段進行搜索，比對地址信息表發現新增對象，并通過SNMP協議獲取特征信息；

（2）通過界面服務提供統一管理平臺DMIIMCMM的入口，能夠對DMIIM進行集中管理監控并實現遠程部署和啟停操作，提供對監控模板的差異化配置管理并形成設備特征庫，同時可對操作日志、監控情況、賬號配置、腳本下發等進行管理；

（3）與監控系統和IT服務管理系統進行交互，從服務管理系統獲取設備的等級信息，結合自動發現的設備特征，與監控模板自動進行匹配，獲取監控信息并發送到監控系統。

3.2 實驗采集的數據

● 主機硬件各主機硬件基本信息及各項指標如溫度、轉速、傳感器等的相關狀態，及獲取到各指標相關數據。

● 網絡設備監控如防火墻、交換機、路由器等設備的性能及獲取各項指標。

● 主機系統對Windows、Linux等各種類型的操作系統的主機實施監控，并對各項性能指標進行監測并獲取各指標相關數據。

● 均衡負載器對均衡負載器實施監控，獲取相關指標信息。

● 數據庫對oracle等數據庫獲取并監測如訪問狀態、表空間使用率等指標信息。

● 中間件對weblogic等中間件獲取并監測如訪問狀態、工作狀態等指標信息。

● 存儲設備對IPMI等硬件獲取并監測如設備相關狀態信息等指標信息。

● IPMI硬件對磁盤陣列、光纖交換機等存儲設備獲取并監測如設備相關狀態信息、工作狀態等指標信息等。

● 第三方coherence軟件告警監控第三方coherence軟件的相關指標。

3.3 相關性計算實驗分析

實驗計算了電力IT監控各個特征指標量之間的相關性，由于相關性計算需要考慮數據離散性或者連續性，因此，根據數據的特點，實驗分別驗證了離散電力IT監控特征的相關性分布與連續電力IT監控特征的相關性分布，具體實驗結果如圖2所示。

（a）離散卡方測試相關性分布 Correlation distribution of discrete Chi-square test （b）連續數值相關系數分布 Correlation coefficient distribution of continuous numerical value

圖2（a）表示針對電力IT監控離散數據之間的相關性分布，實驗結果表明在電力IT監控的各個離散特征中，約30%的離散特征之間存在相關性。圖2（b）表示針對電力IT監控連續數值數據之間的相關系數分布，由圖所示可知，相關系數值在[0,0,2)之間的連續數值特征占總比例的約40%，相關系數值在[0.2,0,4)之間的連續數值特征占總比例的約30%，相關系數值在[0.4,0,6)之間的連續數值特征占總比例的約20%，相關系數值在[0.6,0,8)之間的連續數值特征占總比例的約10%，相關系數值在[0.8,1]之間的連續數值特征占總比例的約1%，實驗結果表明大部分電力IT監控的連續數值特征之間存在弱相關性，少部分電力IT監控的連續數值特征之間存在強相關性。

3.4 相關性計算有效性驗證

實驗利用電力IT監控特征的兩組指標量的異常相關性來驗證相關性計算是否有效。即：

即表示相關性計算在電力IT監控中所發現的兩組相關的特征能夠有多大可能幫助我們來發現特征異常，簡單理解就是如果我發現了電力IT監控中有兩組特征之間存在相關性，且發現一組特征存在異常，則有概率為的可能性相關的另外一組特征也存在異常。

實驗分析了相關性異常召回率，利用實驗來驗證相關性計算是否有助于平常電力IT監控中的異常特征發現。電力IT監控相關性異常召回率實驗結果如圖3所示。

（a）離散卡方測試相關性異常召回率r Recall rate of abnormal correlation in discrete Chi-square test （b）連續數值數據相關性異常召回率r Recall rate of abnormal correlation in continuous numerical value

圖3（a）表示電力IT監控離散卡方測試的相關性異常召回率，其中橫軸Threshold表示電力IT監控離散卡方測試結果閾值，閾值越高，說明相關性越高，縱軸表示相關性異常召回率。實驗結果表明電力IT監控離散特征之間的相關性越高，相關性異常召回率越高，說明電力IT監控特征相關性計算有助于異常的發現，進一步可以推斷在電力IT監控中，如果發現一組特征存在異常，則有概率為的可能性相關的另外一組特征也存在異常。

圖3（b）表示電力IT監控聯系相關性計算的相關性異常召回率，其中橫軸Threshold表示電力IT監控連續數值數據相關系數結果閾值，閾值越高，說明相關性越高，縱軸表示相關性異常召回率。實驗結果表明電力IT監控連續數值特征之間的相關性越高，相關性異常召回率越高，同樣說明電力IT監控特征相關性計算有助于異常的發現，進一步可以推斷在電力IT監控中，如果發現一組特征存在異常，則有概率為的可能性相關的另外一組特征也存在異常。

4 結束語

針對電力IT監控對象特征數據，提出了基于相關性計算的IT監控對象關聯分析方法，針對IT監控對象特征離散指標，研究了基于卡方測試的相關性計算方法，針對IT監控對象特征連續數值指標，提出了基于相關系數與協方差的相關性計算方法。在未來的工作中，我們將對電力IT監控對象相關性計算方法進行更深入的研究，結合機器學習的相關理論與知識，提高監控系統的智能性。

[1] 高麗婷,溫秀梅,侯滿哲,等.基于以太網的電網監控系統設計[J].電源技術,2016,40(7):1498-1500

[2] 葛君偉,張博,方義秋.云計算環境下的資源監測模型研究[J].計算機工程,2011,37(11):31-33

[3] Jeswani D, Natu M, Ghosh RK. Adaptive Monitoring: Application of Probing to Adapt Passive Monitoring[J]. Journal of Network and Systems Management, 2015,23(4):950-977

[4] 李軍虎.一種基于多 Agent 遠程分布式故障診斷系統模型[J].計算機與數字工程,2011,39(6):58-60

[5] Sharpe D. Your Chi-Square Test Is Statistically Significant: Now What?[J]. Practical Assessment, Research and Evaluation, 2015,20(8):1-10

Correlation Analysis of IT Monitoring Objects Based on Correlation Computation

LONG Yu-jiang, WEI Wei*, ZHONG Ye*

553000,

With the continuous expansion of the scale of data center, the more complex the business system and the increasing requirement of availability and reliability, the traditional power IT monitoring software only could monitor the object feature data to refer to the scalar, but it couldn’t find the correlation between the object features. In view of the feature data of the power IT monitoring object, this paper proposed a correlation analysis method of IT monitoring object based on correlation computation. According to the discrete index of the feature of IT monitoring object, the correlation calculation method based on the chi square test was studied. The correlation coefficient and covariance were put forward in view of the continuous numerical index of the feature of the IT monitoring object. The experimental results showed there was a weak correlation between the continuous numerical features of most power IT monitoring, and there was a strong correlation between the continuous numerical features of a few power IT monitoring, and the correlation calculation of the power IT monitoring features helped the discovery of the anomaly.

Power system; IT monitoring; correlation analysis

TM744

A

1000-2324(2019)04-0619-07

2018-02-10

2018-03-29

龍玉江(1976-),男,本科,高級工程師,研究方向為信息技術. E-mail:longyj@gz.csg.cn

Author for correspondence. E-mail:47765382@qq.com; E-mail:zhongye@gz.csg.cn