線程池調度對服務器性能影響的研究*

彭 華

（中國電子科技集團公司第三十研究所，四川 成都 610041）

0 引 言

隨著網絡和信息安全技術的快速發展，每天有數以萬計的用戶在不斷訪問各類大型網站，服務器需要并發處理大量的用戶連接請求。如何使服務器在面對大量訪問請求時仍能應付自如，成為需要迫切解決的問題。在服務器的網絡處理能力設計時，通常采用多路復用I/O機制加線程池技術實現[1]。

但是，大量訪問請求產生的網絡連接可能導致頻繁的線程調度，從而消耗大量的系統額外時間，或者導致調度不及時，導致連接請求沒有及時響應和處理，最終導致線程池技術沒有發揮出預期的性能。如何設計服務器的線程池調度算法使其能夠盡可能發揮線程池的效能，是一個需要重點解決的問題。

1 線程池技術

1.1 采用線程池技術的原因

創建和銷毀線程很費時，因為創建一個線程要獲取內存資源或者其他更多資源。因此，提高效率的一個手段是盡可能減少創建和銷毀對象的次數，特別是一些耗資源的對象創建和銷毀。為了節省對象創建和銷毀所產生的系統時間，需要準備一個容器用來保存一批這樣的對象。當需要使用這種對象時，不再需要每次去創建，而是直接從容器中取出現成的直接使用。由于節省了創建和銷毀對象所需的開銷，程序性能得以提升，而存放和管理這些線程對象的容器就是線程池[2]。

1.2 線程池的組成

如圖1所示，一般簡單線程池至少由以下3部分組成[2]。

圖1 線程池組成結構

線程池管理器：也稱為主控線程，用于創建和管理線程池中的工作線程，定時對任務隊列掃描、清理過期未提交工作線程執行的積壓數據。

工作線程：用于任務處理的獨立單元，并根據系統初始設定創建其數量，繁忙時會動態創建新工作線程。

任務隊列：提供一種緩沖機制用于存放等待處理的任務，工作線程根據相應的原則從任務隊列中獲取數據處理。

1.3 線程池的工作原理

線程池采用預創建的技術，在應用程序啟動后，將立即創建一定數量的線程（N）放入空閑隊列中。這些線程處于阻塞狀態，不消耗CPU，但占用較小的內存空間。

線程池中線程的數目是動態調整的。當任務到來后將其存入任務隊列，線程池管理器選擇一個空閑線程，把任務傳入此線程中運行。當線程池中的所有線程都處于繁忙狀態時，線程池自動創建新線程處理更多的任務；當線程池比較空閑時，線程池銷毀一部分空閑線程，釋放系統資源，只保留初始創建的N個線程[2]。

1.4 線程池的優點

（1）可以控制產生線程的數量。通過預先創建一定數量的工作線程并限制其數量，控制線程對象的內存消耗[3]。

（2）降低系統開銷和資源消耗[3]。通過對多個請求重用線程，線程創建、銷毀的開銷被分攤到多個請求上。另外，通過限制線程數量，降低線程池在垃圾回收方面的開銷。

（3）提高系統響應速度。線程事先已被創建，任務到達時可直接進行處理，消除了因線程創建所帶來的時間延遲。另外，多個線程可以并發處理[3]。

1.5 線程池調度的作用

線程池技術解決了服務器多個線程執行的調試問題，可以使處理器盡量保持忙碌狀態，充分利用系統的可用資源，顯著提高系統性能。但是，如果線程池調度策略設計不當也會事與愿違[4]。

2 線程池調度實驗設計

可以通過以下2個實驗測試線程池調度策略的參數取值對服務器性能和資源占用的影響。

2.1 實驗一

假設并發用戶連接總數為T，線程池初始線程數N，每個線程處理最多M個用戶連接。當有用戶連接請求時，線程池會隨機選擇一個線程對該連接請求進行處理。線程繁忙臨界點設為P(0%

如圖2所示，當某一個工作線程的用戶連接數X=0時，說明該線程處于空狀態；當用戶連接數X

圖2 工作線程的運行狀態

線程池調度周期為t，當所有工作線程處于忙狀態時，線程池管理器會新創建一個線程并加入線程池。

以T=20 000、N=4、M=2 000、t=1 s為例，測試線程繁忙臨界點P在不同取值下的訪問完成時間和線程總數。

2.2 實驗二

根據概率論與統計學原理，自然界很多看似沒有規律可尋的隨機事件其實服從正態分布[5]。

正態分布是一種自然分布，有極其廣泛的應用背景。在生產和科學實驗中，很多隨機變量的概率分布都可以近似用正態分布來表示。

如圖3所示，正態分布有2個參數，即期望值和標準差，可記作N(μ,σ)。

圖3 正態分布

正態分布有如下特性：

假設在用戶訪問服務器的高峰時間段，用戶訪問總數為50萬，用戶訪問數量服從正態分布，如表1所示。

表1 高峰時間段訪問服務器的用戶數

測試線程繁忙臨界點P在取值30、60和90的情況下，高峰時段在各時間點的用戶完成數和耗時。

3 實驗結果和分析

實驗利用線程池方式實現的服務器做性能測試分析。服務器CPU為Intel Xeon 2.10 GHz雙核，內存64 GB，操作系統Fedora Core 14。實驗一的測試結果如表2所示。

表2 臨界點P對完成時間和線程數的影響

將表2中的臨界點P在不同取值下的完成時間轉換為圖4，將表2中的臨界點P在不同取值下的處理線程數轉換為圖5。

圖4 臨界點P在不同取值下的完成時間對比

圖5 臨界點P在不同取值下的線程數對比

綜合圖4和圖5可見，隨著臨界點P值的增大，用戶連接處理不及時的概率增加，導致用戶連接處理完成時間變長，降低了網絡服務器的性能。但是，如果臨界點P值設置過小，會在線程還未飽和的情況下提前創建新線程，導致線程數量增加，造成系統資源浪費。

實驗二的測試結果，如圖6、圖7所示。

分析圖6可知，在用戶訪問的高峰時間段，隨著臨界點P值的增大，服務器對高峰期用戶訪問請求的響應速度變慢，未及時處理的用戶訪問請求會被延遲到高峰期后處理。

分析圖7可知，在用戶訪問的高峰時間段，隨著臨界點P值的增大，對高峰期用戶訪問請求的處理耗時會隨著用戶數的增加而增大，一旦到達服務器的處理極限后，會保持相同的處理耗時。結合圖6的分析可知，由于未及時處理的用戶訪問請求被延遲，所以處理耗時的下降拐點隨著臨界點P值的增大而延后。

圖6 臨界點P在不同取值下的用戶完成數對比

圖7 臨界點P在不同取值下的處理耗時對比

綜上所述，線程池模型主要是通過線程池管理器對線程池進行并發調度。線程池管理器主要通過各個工作線程的負載情況和任務的優先級別調度任務，使得線程池工作更加靈活，處理任務更加及時、高效。但是，由于線程池的工作調度依賴于線程池管理器調度算法，所以線程池性能主要受到調度策略和調度參數的影響[6]。因此，不同的服務器需要根據應用場景尋找最優的線程池調度方案，使服務器性能與資源消耗達到平衡。

4 結 語

線程池技術為線程創建銷毀的開銷問題和系統資源不足的問題提供了一個較好的解決方案，尤其適用于大量用戶訪問請求的服務器應用[7]。但是，要使線程池的處理效率更高，對線程池的調度是一個要考慮的問題，且調度策略和調度參數要根據實際應用場景來設定。只有合理的線程池調度，才能發揮出線程池技術在服務器應用中的最大效能。