基于ＱｏＳ的自適應控制中間件研究與應用

摘要：文章重點研究在自適應控制中間件支持下，Web服務組合執行引擎的QoS管理機制，設計了一個基于QoS的自適應控制中間件，并應用于Web服務組合執行引擎當中，以支持對服務請求的分級處理，實現了為不同等級用戶提供區分服務的功能，為提高可變負載下單個執行引擎的高吞吐量和快速響應時間提供了一種有效的解決方案。

關鍵詞：自適應控制；服務組合；執行引擎；服務質量；區分服務

中圖分類號：TP301文獻標識碼：A文章編號：1009-3044(2008)36-2684-03

Research and Application of Qos-based Adaptive Control Middleware

ZHANG Li-min1， CHEN Wei-an2， GAO Chun-ming2

(1.School of Information Science Technology， Zhanjiang Normal University， Zhanjiang 524048， China; 2.College of Mathematics and Computer Science， Hunan Normal University， Changsha 410081， China)

Abstract: This paper focuses on the QoS management mechanism in web service composition execution Engine， which is supported by the self-adaptation middleware. The QoS-based adaptive control middleware is designed and used in web service composition execution engine， so as to support the stage treatment of service requests， thus its functions of providing differentiated services for the users of different levels have been realized. Besides， an effective solution has been proposed to enhance throughput and response time of single execution engine under the condition of changing loads.

Key words: Adaptive Control; service composition; Execution Engine; QoS; differentiated services

1 緒論

軟件系統的大型化與復雜化對系統的性能提出越來越高的要求，近年來，將控制理論應用于復雜軟件系統的設計中，改善軟件系統的性能，已取得較好效果。控制理論與方法已在實時調度、網絡擁塞控制與流量控制等諸多方面已取得成功的應用[1]。另一方面，在Web服務領域，基于反饋控制環[2]，有限服務資源量的表示[3]，針對可區分的QoS提出的調度算法[4]等訪問機制的控制方法已有研究。但是，針對結構與參數隨時間變化規律未知的軟件系統，缺乏一套行之有效的方法與工具提供QoS性能保證與面向用戶的區分服務支持。

Web服務作為一種面向服務的新型體系結構[5]，具有虛擬化、松耦合、動態構造等特點[6]。Web服務組合流程一般采用BPEL4WS、WSCI、BPML等規范語言描述并在Web服務組合執行引擎上運行[7]，作為核心組件的執行引擎，其設計應充分考慮大規模服務組合的應用需求。Web服務的另一個核心技術是服務質量（Quality of Services，QoS），在服務交互的關鍵應用情況下，Web服務組合執行引擎本身的QoS對服務組合運行的QoS有著重要影響[8]。目前，大部分工作針對服務組合自身QoS屬性的局部或全局優化[9]問題，而對引擎QoS管理機制的研究較少，建立支持QoS機制與策略的Web服務組合執行引擎顯得尤為重要。

本文重點研究在自適應控制中間件支持下的Web服務組合執行引擎QoS管理機制，實現為不同等級用戶提供區分服務，以保證高負載下單個執行引擎的高吞吐量和快速響應時間。本文第2節介紹了基于QoS的自適應控制中間件架構，第3節討論了基于自適應控制中間件的Web服務組合執行引擎，第4節進行了仿真與實驗，最后是結論部分。

2 自適應控制中間件架構

本文設計了一個基于QoS的自適應控制中間件，它能在外部負載變動的情況下為應用程序開發人員提供QoS控制支持，為用戶提供分級QoS保證，允許用戶離線或在線提交分級QoS性能指標。該設計通過資源管理為應用程序提供QoS控制機制以及面向用戶等級的區分服務支持，以使不同等級的服務請求獲得分級QoS收斂保證，使Web服務引擎在負載變化時仍能獲得較好的性能。為便于應用程序使用自適應控制中間件提供的QoS保證支持，App Interface、系統模型與控制組件均封裝成Web服務以方便調用。

圖1 基于QoS的自適應控制中間件架構

圖2 基于自適應控制中間件的引擎架構

表1 不同等級服務請求響應時間統計表

基于QoS的自適應控制中間件架構如圖1所示，采用Web Service技術實現各功能模塊間的松耦合。中間件暫時僅針對應用程序服務請求的排隊時間進行控制，今后還可擴展到CPU利用率、吞吐量等。

DU Interface接收QoS保證類型與用戶分級信息并將其傳送到QoS映射器（QoS Mapper）與控制配置文件（Control Configuration File）。QoS Mapper將QoS信息映射為一個控制環及參考量，并將信息存儲在控制配置文件當中。系統模型庫（System Model Library）和控制組件庫（Control Component Library）分別用于提供組合控制環時的系統數學模型和各種自定義控制組件。控制器（Controller）在線計算各個等級的資源分配數額。控制環組合器（Control Loop Composer）根據控制環拓撲結構從控制組件庫調用各控制環組件，對監測器、執行器與控制器進行配置和組合。QoS偵聽器（QoS Listener）支持用戶服務分級信息的動態更新。中間件與應用程序中的監測器（Monitor）及執行器（Actuator）通過面向應用程序的接口（App Interface）通信，Monitor采樣數據，執行器Actuator執行具體的資源分配操作，分別有主動式和被動式兩種實現方式。控制環（Control Loop）由控制器、動作器、監測器與被控系統組成。監測器采樣系統實際性能，將其與參考量比較得到偏差。控制器根據偏差計算下一采樣時刻被控系統的資源分配情況。動作器執行被控系統中具體的資源分配。資源管理器（Resource Manager）包括隊列管理、配額管理與隊列策略。隊列管理按照隊列策略管理優先級隊列，遵循某種排隊策略為每一等級維護一個隊列。配額管理按控制器計算的資源配額管理每個隊列中每個請求的資源分配。

3 自適應控制中間件在WEB服務引擎中的應用

基于自適應控制中間件的Web服務執行引擎WebJetFlow支持對服務請求的分級分類處理，通過調度不同等級線程池配額以提供服務響應時間保證，同時將流程實例的執行與外部服務的調用分離，變同步調用為異步調用，提高流程實例執行線程的利用率。引擎通過配置文件對內部執行環境進行動態配置，并定義調度器等組件模塊的應用程序接口，允許系統在運行時根據配置文件自動加載自適應控制中間件與其它調度算法。基于自適應控制中間件的引擎架構如圖2所示。

Web服務組合執行引擎分別設置請求消息隊列（Request Queue）與調用消息隊列（Invoke Queue）來緩存服務請求及服務調用消息。流程執行器（Process Executor）按各自的服務等級將請求消息放入對應的消息隊列等待流程調度器（Process Scheduler）提取，并交由執行線程池（Executor Thread Pool）中的線程處理。類似地，服務調用代理（Service Invoker Proxy）按照服務調用等級將請求調用存入對應的隊列當中等待服務調用調度器（Invoke Scheduler）提取并交由調用線程池（Invoker Thread Pool）中的線程處理。

WebJetFlow采用二級調度模型，Process Executor采用自適應控制方法根據服務請求等級為流程執行動態分配線程；Service Invoker Proxy仍采用自適應控制方法為不同等級的服務調用線程動態分配invoke活動集合。對于同一等級的服務請求與服務調用活動，采用基于優先級隊列的FIFO調度算法。流程執行器與服務調用代理的分離使得流程執行與成分服務調用解耦，提高了服務調用活動并發度，避免了流程實例線程阻塞在外部服務調用活動，減少了引擎等待Web服務調用返回結果的時間，提高了線程池使用率及系統吞吐量。WebJetFlow采用雙控制環，流程執行器與服務調用代理各設置一個控制環，分別調度執行線程與調用線程的分配，通過動態分配線程解決負載變化時的自適應資源分配問題，實現不同等級的服務請求對應不同的服務響應時間。我們的目標是在引擎未過載時，所有等級均得到用戶滿意的服務響應時間；否則，低等級的服務響應時間比高等級更早被迫延長。

4 實驗與仿真

執行引擎WebJetFlow與自適應控制中間件均采用Java語言編寫。實驗使用兩臺CPU為3.0GHz Intel P4630的服務器，一臺作為服務器，另一臺作為客戶機，內存均為1G，操作系統均為Windows XP，以100Mbps以太網相連，測試軟件采用Mercury Loadrunner 8.0。

實驗共生成3個等級的工作負荷，在實驗運行60秒后開始采樣，采樣周期設為20秒，并對3個等級的被控系統模型進行性能評估。在加壓測試中，由130個等級為0、90個等級為1與50個等級為2的服務請求構成，分不同時刻向系統提交請求，用戶期望的響應時間為(R0， R1， R2)=(5， 10， 15)。在閉環與開環系統中，每一等級線程配額的初始值均設為25。WebJetFlow中的服務響應時間包含流程執行器與服務調用代理兩部分，是服務請求消息與調用消息在隊列中等待線程分配的時間之和。

自適應控制過程中，控制器通過增加等級0的線程配額優先保證其響應時間。加壓測試狀態下線程池中的所有線程均已分配，此時，將從低等級（Class 1和Class 2）取出部分線程，滿足高等級（Class 0）的線程配額，以犧牲低等級的響應時間來滿足高等級的響應時間。

表1給出了開、閉球系統中不同等級服務請求響應時間的統計。在閉環系統中Class 0的平均響應時間維持在4.87秒左右，而Class 1的平均響應時間維持在12.13秒左右，等級Class 2在19.64秒左右，每個等級的響應時間均接近于各自的分級QoS值（期望的響應時間）。表1中Class 0有76.19%的服務請求滿足了期望響應的時間，雖然在工作負荷出現變化時，響應時間也會隨之出現波動，出現短期的期望響應時間違背，但每個等級的響應時間能在較短時間內接近期望響應時間，并且直至工作負荷出現下一次變動時保持接近于此值。在開環系統中的各等級響應時間均較閉環系統高，特別是較高等級（Class 0）的響應時間明顯增加，并且違背分級QoS值。

實驗與仿真結果說明，引入基于QoS的自適應控制中間件，使WebJetFlow在服務請求負載變化時，可為分級請求提供更好的服務響應時間保證。

5 結束語

本文提出自適應控制中間件并應用于WEB服務組合執行引擎當中，較好的解決了服務分級請求的響應時間保證問題。基于QoS的自適應控制中間件研究與應用仍存在諸多值得研究與探討的問題，本文只是提供了一種解決方案，下一步將關注于預測與自適應控制相結合的機制，進一步改善在高度動態、不可預知系統中的QoS收斂保證情況。

參考文獻：

[1] Abdelzaher T F，Stankovic J A，Lu C，et al.Feedback Performance Control in Software Services[J].IEEE Control Systems，2003，23(3).

[2] Lu C，Lu Y，Abdelzaher T F，et al.Feedback Control Architecture and Design Methodology for Service Delay Guarantees in Web Servers[J].IEEE Transactions on Parallel and Distributed Systems，2006，17(9):1014-1027.

[3] Eggert L，Heidemann J.Application-Level Differentiated Services for Web Servers[J].World Wide WebJournal，1999，2(3).

[4] Vasiliou N，Lutfiyya H.Providing a Differentiated Quality of Service in a World Wide Web Server[J].Performance Evaluation Review，1997，28(2):22-27.

[5] Mike P，Papazoglou.Service-Oriented Computing: Concepts， Characteristics and Directions[C]//Massimo M.The 4th International Conference on Web Information Systems Engineering (WISE03)， IEEE Computer Society，2003:3-12.

[6] Korhonen J，Pajunen L，Puustjarvi J.Automatic composition of Web service workflows using a semantic agent[C].Proceedings of the IEEE/WIC International Conference on Web Intelligence(WI 2003)， Halifax， Canada，2003:566-569.

[7] Alonso G，Casati F，Kuno H，et al.Web services: Concepts， Architectures and Applications[M].Springer，2003.

[8] Cardoso J，Sheth A，Miller J，et al.Quality of service for workflows and web service processes[J].Journal of Web Semantics，2004，1(3):281-308.

[9] Canfora G，Penta M D，Esposito R，et al.QoS-Aware Replanning of Composite Web Services[C].IEEE International Conference on Web Services(ICWS)，2005:311-327.