面向算力網絡的云邊端協同調度技術

周旭/ZHOU Xu，李琢/LI Zhuo

（中國科學院計算機網絡信息中心，中國 北京 100190）

數字化時代帶來海量數據的增長。這種趨勢推動了大量計算資源的需求增長，諸如數據中心、邊緣計算節點和各種終端設備等構成了一個龐大且復雜的分布式計算資源網絡。在這個網絡中，有效地管理和調度各個節點的計算資源，以提供高效、穩定的服務，是一大挑戰。傳統的調度技術往往針對特定的場景和需求，無法滿足多樣化、動態變化的計算需求。此外，由于云端和邊緣端的資源異構性、地理分布的廣泛性以及網絡環境復雜性等，資源的管理和調度更加困難。

為了解決這一問題，云邊端協同調度技術應運而生。通過整合云、邊和端的資源，實現對資源的統一管理和動態調度，以最大化資源的利用率，保障用戶的服務質量。在算力網絡的背景下，云邊端協同調度技術的研究尤為必要[1]。算力網絡將分布在各地的云端、邊緣端和終端設備的計算資源通過網絡連接起來，形成一個分布式的、動態的計算資源池。這個資源池可以實現對所有計算資源的統一管理和調度，從而提高資源的利用率，降低運營成本，提高服務質量[2]。在算力網絡中使用云邊端協同調度技術，可以充分利用網絡的優勢，有效滿足復雜的網絡環境和多樣化的計算需求。因此，本文將重點闡述面向算力網絡的云邊端協同調度技術，探討其在實際應用中的效果和關鍵技術[3-4]。

1 分布式的云邊端算力

大數據和物聯網等場景需要使用云計算和邊緣計算技術，這樣可以在全網廣泛分布的設備上提供計算服務，將計算能力廣泛分布到需要的地方，從而提高數據處理的效率，減少延遲，并提供更個性化、地域化的服務。

1.1 云邊端算力概述

為了提供更加高效、靈活和可靠的計算服務，我們提出集云計算與邊緣計算于一體的計算模式——云邊端算力模式。該模式綜合了云計算中心的大規模存儲和處理能力，以及邊緣計算對于接近數據源的處理能力。在該模式中，云端負責處理大規模、復雜的計算任務，而邊緣端則負責處理那些需要低延遲、快速響應的任務。通過這種方式，云邊端算力能夠在滿足不同任務需求的同時，提高整體的計算效率。

在云邊端算力模式中，數據首先會在傳感器、移動設備等地方產生，再被邊緣設備接收并進行初步處理。這些處理通常包括數據清理、預處理和部分分析等。隨后，數據和任務會根據性質和需求，分配給云端或邊端進行進一步處理。具體來講，那些需要快速反饋的任務，通常會被留在邊緣端；而那些需要大規模數據分析和深度處理的任務，則會被發送至云端。通過這種方式，云邊端算力能夠提供更加高效、靈活的計算服務。

1.2 分布式算力的優勢和挑戰

在分布式的云邊端算力架構中，全網范圍內的計算資源配置使得各種類型的計算任務處理更加靈活和高效。設備的資源可以根據任務需求進行動態調整，從而在維持高效運算的同時，提供穩定且高質量的服務。此外，這種配置方式還能應對各種突發的計算需求，快速進行資源調配，以滿足不斷變化的計算需求。

然而，分布式的云邊端算力也面臨著諸多挑戰。在全網范圍內進行高效的資源調度，需要考慮到設備狀態、任務需求、網絡狀況等多個因素，這使得調度過程變得復雜。一方面，計算需求和設備狀態可能會快速變化，因此如何在短時間內做出決策，保證服務的質量和效率，是一大挑戰；另一方面，由于設備是分布式的，那么如何進行有效的分布式協調、收集設備狀態信息、在設備間同步任務狀態等問題也需要被解決。

1.3 分布式算力的應用和未來趨勢

隨著5G和6G網絡技術的發展，更高的網絡速度和更低的延遲推動了分布式云邊端算力在更多領域中的應用，如無人駕駛、遠程醫療、工業自動化等。同時，隨著任務復雜性的增加，例如高精度的物理模擬、大規模的社會科學模型等，分布式計算資源的需求也將增多。此外，在機器學習和人工智能領域，分布式的云邊端算力發揮著重要作用。通過利用分布式算力資源，機器學習模型能在更短的時間內進行訓練和優化。

2 融合云邊端的協同網絡

2.1 融合云邊端的網絡架構

新型應用如移動互聯網、物聯網的普及以及新型網絡技術的發展，使得傳統的集中式云計算模式遇到了挑戰[5]。為了應對這些挑戰，我們提出融合云邊端的網絡架構，具體如圖1所示。該架構發揮了云計算強大的計算能力和邊緣計算的低延遲優勢，旨在提供更高效、更靈活的計算服務，以滿足不斷增長的計算需求和多樣化的業務需求。融合云邊端的網絡架構將云端的大規模數據處理能力與邊緣端的實時處理能力相結合，優化了網絡資源的利用，提高了網絡服務的質量。

▲圖1 融合云邊端的網絡架構示意圖

在這種融合云邊端的網絡結構下，資源可以被更加高效地利用，網絡的可靠性和安全性得到了提高。在該網絡中，云計算作為物聯網的中樞，通過將大量終端或邊緣無法處理的數據進行存儲、整理和分析，為云邊端協同網絡提供強大的計算能力支持。同時，部分任務可直接在終端設備或邊緣服務器中進行處理，在減少數據傳輸延時的同時也緩解了云數據中心的壓力。

2.2 協同網絡的優化與調度策略

在融合云邊端的網絡架構中，協同工作非常重要。這需要云計算和邊緣計算緊密協作，共同完成計算任務[6]。為了實現這一目標，需要設計并實施有效的協同網絡優化與調度策略。優化與調度策略的主要目標都是在滿足任務需求的同時，最大程度地利用云邊端的計算資源。協同網絡的優化工作主要研究的是如何合理地分配任務和資源，如何實現高效的數據傳輸，以及如何維護網絡的穩定性和可靠性等問題。而在調度策略方面，考慮的因素更為復雜，包括但不限于計算任務的性質、網絡狀況、設備能力、能耗和特定的應用需求等。

協同調度策略則需要將計算任務按照某種方式分配給云端或邊緣設備，同時還需要考慮任務的執行順序和資源的分配情況。在這個過程中，要盡可能地減少任務的執行時間，降低網絡的傳輸延時，從而提升系統的整體性能。綜上所述，優化與調度策略是實現云邊端協同工作的關鍵，通過這些策略，可以更好地管理和調度網絡中的資源，從而提升云邊端協同網絡的性能，滿足多變和復雜的應用需求。

3 云邊端協同調度關鍵技術

分布式的云邊端算力提供了廣闊的計算平臺。融合云邊端的協同網絡構建了高效、靈活的計算資源調度模型[7]。然而，為了挖掘這一模型的最大潛力，還需要更多的支撐技術，如云邊端協同調度關鍵技術等（具體如圖2 所示）。協同網絡的優化與調度策略可以最大化地利用和分配云邊端的計算資源，而這一過程需要精細化的管理和調度。精細化管理和調度的實現需要云邊端協同調度關鍵技術做支撐，具體包括跨云邊端協同計算方法、端到端跨域保障機制和資源管理和任務調度策略等。在這些技術的支持下，云邊端協同網絡能夠在滿足各種復雜、變化需求的同時，解決協同網絡的優化與調度策略的問題，優化網絡資源配置，進一步提升網絡性能[8]。

▲圖2 云邊端協同調度關鍵技術

3.1 跨云邊端協同計算方法

在多終端、多任務的復雜場景下，卸載決策的制定需要綜合任務計算量、數據傳輸量、云邊端各節點計算能力和資源利用率等諸多因素。基于已有的云計算或邊緣計算設計的協同計算方法不完全適用于云邊端協同場景。另外，云邊端設備的異構性強，這些方法也不適用于多種設備的需求。計算方法的不統一降低了處理效率，無法充分發揮協同的優勢。因此，設計跨云邊端的協同計算方法有很大的必要性。

為了應對云邊端設備的異構性，跨云邊端協同計算的方法需要考慮不同的設備需求。一種方法是根據設備的計算能力和資源利用率來分配任務，將計算密集型任務分配給計算能力較強的云端節點，而將數據密集型任務分配給邊緣節點，以充分利用各節點的資源；另一種方法是利用任務切分和協同執行，將一個任務切分成多個子任務，并將這些子任務分配給不同的設備，最后將它們的結果合并得到最終結果。

3.2 端到端跨域保障機制

在云邊端協同調度中，端到端跨域保障機制主要是指延遲優化和服務質量保證。二者緊密結合，共同支撐云邊端協同調度的高效運行。有效的延遲優化，可以提升系統性能；有效的服務質量保證，可以確保系統始終處于高效穩定的狀態，從而進一步降低延遲。

延遲優化是指減少任務執行和數據傳輸的時間延遲，尤其是在需要實時反饋或高速處理的應用中。延遲優化涉及的技術包括：1）有效的任務調度，確保任務在最佳位置執行，減少數據傳輸和處理時間，優化網絡路由和傳輸協議，減少網絡傳輸延遲；2）利用邊緣計算的特性，將計算任務靠近數據源，減少數據傳輸的時間和距離。服務質量保證則是確保系統能提供用戶所需的服務，這包括滿足如執行速度、響應時間、數據準確性等的各種性能要求，以及滿足特定的服務等級協議。服務質量保證涉及的技術包括資源和任務調度，以及各種容錯和恢復機制，以保證系統有足夠的資源來滿足服務需求，應對可能的錯誤和故障。

3.3 資源管理和任務調度策略

在云邊端協同網絡中，資源管理和任務調度是兩項關鍵技術。這兩項技術的主要目標是優化系統性能，提升服務質量，從而實現協同網絡的優化與調度策略[9]。資源管理的核心是實現資源的高效利用，這包括了對云服務器、邊緣設備和網絡帶寬等資源的合理分配和調度。具體來說，資源管理需要考慮系統的總體需求，以及各類資源的性能和狀態，從而決定如何分配和調度這些資源。通過有效的資源管理，我們可以使系統在滿足各種需求的同時，最大化地利用資源，提升系統性能。

任務調度則主要關注如何合理地分配和調度計算任務。任務調度需要考慮任務的特性，如任務的類型、大小、優先級，以及任務的執行環境等。基于這些信息，任務調度制定合適的策略，決定如何將任務分配給云服務器或邊緣設備，以及如何安排任務的執行順序[10]。

4 面向算力網絡的典型應用場景

云邊端協同調度技術已廣泛應用于物聯網與智慧城市、自動駕駛與無人機、遠程醫療與虛擬現實等領域。本章節中，基于算力網絡的典型應用場景，我們詳細闡述了協同調度技術是如何在實際應用中發揮關鍵作用，優化性能并提升用戶體驗的。

4.1 物聯網和智慧城市

在物聯網環境中，大量的設備和傳感器被用于收集各種類型的數據，如溫度、濕度、位置等。然而，這些設備的計算能力和儲存空間都非常有限。因此，分布式的云邊端算力可以提供必要的計算資源，支持在邊緣設備上進行數據預處理和實時分析。這大大減少了數據傳輸的延遲和網絡帶寬的需求。

智慧城市是物聯網在更大規模下的應用。在智慧城市中，各種設備和系統都可以通過互聯網進行連接，形成一個大型的、互相協作的網絡。面向算力網絡的云邊端協同調度技術可以實現各種復雜的功能，如實時交通管理、能源優化、公共安全管理等。從隱私保護的角度來講，通過在邊緣設備上進行數據處理，可以確保數據的隱私和安全，同時提高服務的響應速度。

4.2 自動駕駛和無人機

對于自動駕駛來說，安全和實時性至關重要。車輛必須能夠快速且準確地響應周圍環境的變化，例如其他車輛的動態、行人甚至是天氣狀況。由于云端處理可能會引入無法接受的延遲，因此在車輛本地進行數據處理非常必要。然而，車載計算資源有限，無法處理大量的輸入數據和復雜的算法。因此，云邊端協同調度技術成為了一個理想的解決方案，它能夠在保證實時性的同時，通過邊緣計算節點的協同工作，提高數據處理能力。

無人機也有類似的需求。無人機通常需要實時的視頻流處理，以進行物體檢測、追蹤等。這需要大量的計算資源，但無人機的載荷有限，難以滿足這種需求。云邊端協同調度技術可以將計算任務分配到無人機附近的邊緣計算節點，從而實現實時的視頻流處理。無論是自動駕駛還是無人機，云邊端協同調度技術都能有效地解決有限的設備計算能力和嚴格的實時性要求之間的矛盾。

4.3 遠程醫療和虛擬現實

遠程醫療技術使醫生可以在任何地方都能為患者提供服務。然而，這種類型的服務對網絡的穩定性和時延有非常高的要求。面向算力網絡的云邊端協同調度技術可以確保數據在云端和邊緣設備之間快速、準確傳輸，盡可能降低延遲，滿足遠程醫療應用的需求。虛擬現實是一個對延遲和數據處理能力要求非常高的領域，任何微小的延遲都可能導致用戶體驗下降，甚至引發眩暈感。同時，虛擬現實應用通常需要處理大量的圖形數據和用戶交互信息，這超出了大多數個人設備的計算能力。因此，利用云邊端協同調度技術，可以將部分計算任務卸載到邊緣設備，如附近的邊緣服務器，從而降低延遲，提高數據處理能力，實現更好的體驗。

5 基于云邊端協同的流量調度

在云邊端協同網絡中，傳統的網絡流量調度往往采用集中式的調度算法，由中心節點對整個網絡的流量進行統一管理和調度。中心節點的調度算法效率低下，對網絡性能也有很大的影響。為了能夠根據實時的網絡狀態選擇流量最佳轉發路徑，針對云邊端分布式網絡中的流量調度，我們提出基于云邊端協同的流量調度，由云邊端各節點共同協作完成網絡流量的調度，避免單一鏈路出現擁塞而其他鏈路可能有剩余帶寬未被充分利用的情況。同時，通過將不同類別的流量調度到滿足傳輸性能的鏈路上，降低多流并發情況下的端到端時延，提升平均吞吐率。

5.1 云邊端協同流量調度模型

流量調度中最重要的指標是流完成時間和吞吐率。當網絡中的流量達到一定的程度時，網絡中的擁塞會增加，從而導致流的完成時間增加，吞吐率下降。因此，流完成時間和吞吐率之間存在著一種權衡關系。如果僅僅關注流的完成時間，可能會導致網絡的擁塞程度加劇，從而使得網絡的吞吐率下降。相反，如果僅僅關注網絡的吞吐率，可能會導致一些流的完成時間變得非常長，從而影響服務質量。因此，本文定義了包含以下內容的云邊端協同流量調度模型。

1）對于每個流，需要在規定的時間內完成傳輸，通過設置流量保障的重要程度以保證服務質量和用戶體驗。

2）在滿足流完成時間的基礎上，需要保持一定的吞吐率水平，以充分利用云邊端分布式網絡中的帶寬資源。

將端到端流量保障模型中的優化目標設置為同時最小化流平均完成時間和最大化吞吐率，以實現流量保障和網絡性能的平衡，相應的優化問題可定義如下：

其中，1/η是所有流的總吞吐率的倒數，ωi是流i的權重，表示該流對端到端流量保障的重要程度，τi是流i的流完成時間，λ是用來平衡完成時間和吞吐率之間的關系的系數。該優化問題的含義是：將流的平均完成時間最小化，同時通過對所有流的完成時間進行加權平均，實現網絡的總體吞吐率最大化。對流進行加權的目的是為了保障重要流的服務質量，滿足端到端流量保障的需求，同時適當犧牲不重要的流，以提高整體吞吐率。另外，還可以通過調整λ的值來控制吞吐率和流完成時間之間的權衡關系。

5.2 分布式強化學習算法

為求解上述協同流量調度優化問題，本小節在軟策略演員-評論員（SAC）算法的基礎上，設計基于SAC 的分布式強化學習（DSAC）算法，具體如下：

具體來講，DSAC算法是SAC算法在分布式系統中的拓展。該算法可以將策略優化和Q值函數優化分配到多個智能體上來提高算法的效率。通過將強化學習算法中的演員-評論員架構與軟策略優化相結合，實現高效的流量調度。在每個時刻，演員通過觀察當前網絡狀態和歷史流量數據來選擇一個最優的流量調度決策。評論員則根據演員的決策和真實流量數據來評估演員的決策，并將其反饋給演員進行策略優化。算法可以在分布式環境中運行著多個演員-評論員框架同時協作以進行流量調度，通過軟策略優化來避免對策略進行硬約束，從而使得云邊端流量調度決策更加靈活。

5.3 性能仿真驗證

為了評估所提協同流量調度方案的有效性，我們將所提的基于分布式深度強化學習的協同流量調度方案與以下幾種典型的流量調度方案進行性能比較。

1）AuTo：一種使用深度強化學習解決流量調度問題的方法。該方法根據網絡中的流量負載自動地調整資源的使用，以實現更好的網絡流量管理，并在保證服務質量的同時提高系統的效率[11]。

2）PIAS：一種信息不可知的流量調度算法。該算法能夠動態地調度數據中心網絡中的流量，以確保高效的網絡運行。該算法基于實用性和信息不可知性的設計原則，通過計算流的權重和調度流來實現最佳性能和高網絡利用率[12]。

3）Hedera：一種數據中心網絡流調度方法。該方法使用了一種基于高負載優先的動態調度策略，即優先處理那些負載更高的網絡流量，以避免網絡擁塞和延遲，實現更高的網絡吞吐量和更低的延遲[13]。

為了驗證所提云邊端協同調度方案的有效性，我們分析了不同流量調度方案在多流并發下的流量調度效果。在端到端時延方面，如圖3 所示，隨著并發流的增加，Hedera 和PIAS的端到端時延快速增加。基于深度強化學習的AuTo和本文所提的DSAC 都能夠提供較低的端到端時延。但DSAC比AuTo 的時延更低。這是由于DSAC 將強化學習算法中的演員-評論員架構與軟策略優化算法相結合。這樣一來，演員通過觀察當前網絡狀態和歷史流量數據來選擇一個最優的流量調度決策，評論員則根據演員的決策和真實流量數據來評估演員的決策，再反饋給演員進行策略優化。基于DSAC算法的協同流量調度有效降低了端到端時延。

如圖4所示，在平均吞吐率方面，隨著并發流量數目的增多，各個算法的平均吞吐率都在增加。當并發流數量小于80 時，相比于Hedera 和PIAS，AuTo 和DSAC 獲得的平均吞吐率有著明顯的優勢。這是由于AuTo和DRL為每個子網絡分配一個深度強化學習智能體。這些智能體可以通過學習從其他子網絡到自身的流量路由，實現全局流量優化，從而能夠在減少端到端時延的同時提高平均吞吐率。這進一步表明了在多流并發情況下，算法的端到端時延和平均吞吐率都有著更好的表現。

▲圖4 多流并發下的平均吞吐率

6 結束語

本文首先介紹了分布式云邊端算力的未來發展趨勢，探討了融合云邊端的協同網絡架構，分析了云邊端協同調度的關鍵技術，明確了其在解決實時性和高性能計算問題上的重要作用；其次，結合具體的應用場景如物聯網、自動駕駛、遠程醫療和虛擬現實等，展示了云邊端協同調度技術的實際影響和潛力；最后，以云邊端協同網絡中的流量調度為例，從多流并發情況下的端到端時延和平均吞吐率需求出發，提出了基于分布式強化學習的協同流量調度算法，并通過實驗驗證了所提協同流量調度方案的有效性。本研究推動了云邊端協同調度技術在分布式的云邊端算力場景中的應用。