ECS業務監測系統的快速構建

查顯洋 牛連強 喻輝

Abstract： An electronic channel system has broad and complex business scope， and needs the corresponding business monitoring system as a support to detect the states of the hardware and software systems， servers and all kinds of business， and realizes user interaction and business processing. Focused on the demands of China Unicom ECS business monitoring， a scheme to develop business monitoring system by means of open source search engine， plug-ins and J2EE architecture quickly is proposed in this paper. Furthermore， a visual payment and recharge business monitoring system is developed to implement comprehensive monitoring， business system and log monitoring. The system is easy to deploy and operate， which can provide a beneficial case reference for similar system construction.

引言

電子渠道系統（Electronic Channel System，ECS）是一種電子商務系統，業務寬泛、復雜。例如，中國聯通ECS包括了網上營業廳、手機營業廳、短信營業廳、自助服務終端和mini營業廳5大類電子渠道，各類電子營業廳營業額累計超過550億元，電子渠道服務量占全渠道服務量的比例已經超過51%，已逐步成為銷售服務的主渠道[1]。龐大的交易量給服務器帶來了不小的壓力，且系統的軟、硬件均處于急速、不斷的更新換代中，對系統的狀態進行自動化綜合監測成為保證其正常運行的重要手段，且檢測系統本身也需要滿足系統升級所帶來的變化。

ECS業務檢測系統是為了實時檢測ECS系統的業務狀況，以實現運維平臺的統一管理的Web系統，其目的是使運維人員實時掌握服務器性能、運行狀態以及ECS業務的狀況，能夠對出現的異常進行快速處理，從而降低因為服務器等異常所帶來的風險，保證系統的安全運營[2]。

存在一些針對不同要求開發的監測系統或管理系統，大多可以基本滿足在不同位置和不同時間段，對服務器的性能和運行狀態進行實時檢測的基本需求[3]，但各公司自行開發的監測系統存在著平臺之間缺少統一、規范的監測指標體系、并且缺失用戶要求的應用性能監測和分析能力、同時在應用中也不能開展端到端的性能檢測、分析和故障定位處理等問題[4]。因此，需要研究快速和有針對性的開發方法，依據特定ECS開發和定制符合自身軟、硬件和業務需求的相應監測系統。

本文結合中國聯通ECS的業務監測需求，科學選擇了有效的框架、插件及構建方法，設計提出了一套容易部署、便于操作、適用于各種業務數據監測需求的服務器管理系統，實現了運維的自動化和規范化。

1系統框架與工作流程

1.1業務分析

目前，中國聯通ECS業務較多，如交費充值、積分兌換和話費查詢等，其核心是交費充值業務，也涉及購卡、充值、直充、寬帶躉交、存費送費、郵寄發票等事宜在內，可面向普通用戶和代理商，覆蓋網廳、手廳、短廳、自助終端、mini廳、IVR等渠道，支持網銀、支付寶、微信等多種支付方式。本文主要對交費充值業務進行全方位、多角度的監測。圖1就闡釋說明了系統的設計功能結構。

每部分均在檢測、分析或統計相關的數據的基礎上以適當方式進行可視化。其中，訂單金額部分展示實時訂單數量和金額；告警部分展示超過閾值的告警項，包括節點異常、各系統的調用量和異常返回碼等；主機部分展示各系統主機的總量、當前數量、丟失數量、異常數量及異常主機日志；節點部分展示各系統的節點總量、當前量丟失量和異常量；端口部分主要展示監測各端口的連接速度；交費結果以圖表方式展示用戶調用電渠系統交費成功與否的標志量；接口部分以地圖形式展示全國的交費一卡充接口成功率，并支持對各省的點擊細節展示—熱點交互；錯誤部分以扇形圖、折線圖等展示統計后的手廳和網廳的各種錯誤數量；日志部分展示各業務系統服務器日志（如Nginx服務器日志），包括調用量、異常、5 min調用量、5 min異常返回碼及5 min異常IP等參數。

1.2解決方案

1.2.1系統架構

系統研發中采用B/S架構，將數據采集和監測可視化劃分為2個層次。在數據采集層，通過ElasticSearch（簡記為ES）檢索各業務系統數據，再利用Elastic-job定時任務定期將檢索結果存入數據庫。監測可視化層從數據庫讀取數據，應用Echarts插件對數據進行可視化展示。圖2就設計繪制了系統的業務邏輯。

圖2中，各部分的功能設計可闡釋解析如下。

數據存儲選取了Oracle數據庫，用于存儲業務系統以及經過計算服務器（Calculating Server）處理后的各類數據、日志信息、配置信息和監測數據備份等。

數據采集層由Elastic-job和ES組成。搜索服務器ES主要對各業務系統數據庫進行檢索和分析，分布式定時任務框架Elastic-job通過配置時間定期將ES的檢索結果寫入監測層數據庫。

監測層讀取、分析、統計信息，利用可視化層以Web頁面形式呈現結果，有助于對服務器的各項數據指標的分析監測及用戶交互。

1.2.2開發技術

系統的基本模型采用Java語言進行研發，整體架構為SSM框架，項目以前、后端分離方式設計部署。前端采用百度的Echarts插件作為可視化工具，做到了數據與視圖分離，從而使得整個項目易于維護。數據采集層則依賴ES和Elastic-job組合方法來滿足功能需要。

2數據檢索與實時更新

ECS業務監測系統的核心是對數據的統計及分析，聯通每天的業務量可達500萬筆左右，數據量則可高達2千萬條，實現對巨大數據量的有效檢索和及時更新十分關鍵。

2.1數據檢索

2.1.1數據導入

數據檢索是以開源搜索引擎ES為基礎的，需要先將聯通業務數據從ECS數據庫導入到ES并排序或建立索引。

ES可以導入各種格式的數據，包括文本、關系型數據庫和非關系型數據庫（如MongoDB）中的數據。ES支持2種導入方式。其一是利用程序查詢出數據，再用ES的建立索引API進行導入。因為數據庫中的資源數據時常變化，本文采用更為一般的River導入方式，以便能容易地通過定義時間戳將變化增量更新到索引中，操作較前種方式更為簡單[5]。

2.1.2搜索結果的排序優化

在ES中，各屬性的默認權重相同，都為1.0，這會導致搜索詞出現在文檔的各個位置的重要度相同。但是在實際應用中，關鍵詞出現在標題和內容中的重要度存在差異，需要對ES排序進行優化[6]。

對于常見的交費訂單，一般都會包含交費金額、交費類型、訂單ID等信息，而能索引性標識該信息的屬性就是訂單ID和交費類型，其次是交費號碼、交費金額和其它信息。為此，可以對重要屬性賦予更大的權值，使搜索詞出現在這些位置時得分更高，在結果中的排序也將更加靠前，方便用戶輕松找到所需資源[7]。以下即是對現有數據分析后得到的屬性重要性排序及賦予的初始權值：

訂單ID（4.0）=交費類型（4.0）>交費號碼（3.3）>交費金額（3.0）>交費時間（2.5）=用戶ID（2.0）=用戶姓名（2.0）>省份（1.5）=地市（1.5）>其它屬性（1.0）

在運行階段，系統還要根據用戶的反饋實時調整各屬性的權值。

2.1.3查詢結果高亮

利用搜索引擎按關鍵字檢索得到的數據量非常龐大。為了幫助用戶在大量搜索結果中快速找到需要的信息，系統采用了高亮標注匹配的關鍵字的方法展示搜索結果，這是很多搜索引擎中的常用方法[4]。

4結束語

對于軟硬件環境不斷更新換代、業務也在逐漸擴張和變化的ECS系統，其業務監測系統既要與系統的環境、要求和業務相適應，還要在實時性、交互性和功能性等多方面綜合展示效能優勢。本文設計提出的方案是以開源搜索引擎、插件為基礎，可實現監測系統的快速構建，不僅能有效地滿足功能性要求，且系統造價低，部署簡捷，具有良好的數據展示能力和用戶體驗，是開發類似系統的可行方法。

參考文獻

[1] 楊軍. 中國聯通全面成本管理案例研究[D]. 南寧： 廣西大學，2014.

[2] 萇偉鵬. 數據監控系統的需求分析及技術實現[J]. 數字技術與應用， 2013（2）：1.

[3] 孫慧穎. 服務器監控系統的設計與實現 [D]. 北京： 北京交通大學，2017.

[4] SRIVASTAVA R K， GREFF K， SCHMIDHUBER J. Highway networks[J]. arXiv preprint arXiv：1505.00387， 2015.

[5] 肖運文. 基于ElasticSearch的教育資源推薦系統設計與實現 [D]. 北京： 北京工業大學， 2016.

[6] 曾亞飛. 基于ElasticSearch的分布式智能搜索引擎的研究與實現[D]. 重慶： 重慶大學， 2016.

[7] 張高偉. 基于ElasticSearch的分布式視頻垂直搜索引擎的設計與實現[D]. 哈爾濱：哈爾濱工業大學，2014.

[8] 張鵬，白朝旭，王錕，等. 基于Quartz的集團化調度任務分布部署研究[J]. 現代電子技術， 2014， 37（2）： 80-83.

[9] 段曉東. 基于JSP的水資源監測系統的設計與實現 [D]. 呼和浩特： 內蒙古農業大學， 2017.