張曉東 張朝昆 趙繼軍
1 (河北工程大學信息與電氣工程學院 河北邯鄲 056038)
2 (天津大學智能與計算學部 天津 300350)
3 (河北省安防信息感知與處理重點實驗室(河北工程大學) 河北邯鄲 056038)(zxdanne@163.com)
2005 年,云計算的提出開啟了數據集中式處理的時代[1].然而,隨著智能手機、智慧城市和智慧農業等人工智能(artificial intelligence,AI)技術的普及,網絡邊緣接入的智能設備迅速增長,與此同時,產生的數據也呈現出指數級增長的趨勢.據思科預測[2],到2023 年,連接到IP 網絡的設備數量將是全球人口數量的3 倍以上,人均聯網設備將達到3.6 臺,高于2018 年的人均2.4 臺.網絡設備總數將達到293 億臺,高于2018 年的184 億臺.在這種情況下,云計算模型已經無法適應爆炸式增長的數據量.云計算方式屬于集中式處理數據的方式,因此不適合具有低延時要求的密集型應用[3],例如無人駕駛和智慧城市等.其主要原因包括:1)大量的終端設備產生的海量數據若全部上傳至云端,會造成很大的帶寬壓力;2)云端的集中式處理模式不利于數據的隱私保護;3)云端距離終端設備較遠,會造成很大的延時,這對于時延敏感型應用十分不利.
針對云計算所存在的弊端,提出了邊緣計算[4-5].邊緣計算是指在網絡的邊緣完成對數據的處理[6],邊緣指的是用戶終端與云中心之間的任何計算和存儲資源[6],因此,和云中心相比,邊緣側更靠近用戶終端,邊緣計算可以實現靠近數據源附近來處理數據[3].利用邊緣設備的計算能力,將全部或部分計算任務遷移至邊緣設備端執行,可以有效解決上述問題.
2017 年AlphaGo 接連戰勝人類棋手,將AI 帶入大眾的視線,這也進一步引發了AI 的浪潮.近幾年,AI 在各領域均有廣泛的應用,例如計算機視覺、人臉識別、自然語言處理等[7].然而,對于智慧城市、智慧農業、自動駕駛等對成本、隱私性及時延要求更高的場景,借助云服務進行模型的訓練和推理會面臨很多挑戰.因此,將AI 與邊緣計算結合是必然的趨勢.這也催生了一個新的研究領域,即邊緣智能(edge intelligence,EI)[8].邊緣智能可以將AI 技術從云中心轉移至更靠近數據源的邊緣側,從而實現低時延、分布式和高可靠性的服務[7].
邊緣智能不完全依賴云中心的計算能力和存儲資源,而是充分利用大量的邊緣資源[8].近年來,邊緣智能已經引起了業界和學術界的廣泛關注.例如,2020 年,由邊緣計算產業聯盟舉辦的2020 邊緣計算產業峰會在北京召開,匯聚各大高校、企業等知名專家探討邊緣計算前沿技術,包括AI 與邊緣計算相結合的新技術.此外,華為、中國信科集團、中興、英特爾、谷歌等企業,已經實現硬件和軟件上的突破和邊緣智能的需求.
近年來,邊緣智能的相關研究引起了學術界廣泛關注,Wang 等人[7]從邊緣上的深度學習應用、邊緣中的深度學習推理、面向深度學習的邊緣計算、深度學習在邊緣進行深度學習訓練、將深度學習用于優化邊緣計算網絡5 個技術層面對邊緣智能的使能技術進行總結.Zhou 等人[8]介紹了邊緣智能的動機、定義及用于訓練邊緣智能模型的架構和新興技術,重點闡述深度學習模型在邊緣智能中的訓練和推理.Plastiras 等人[9]從安全性、性能、帶寬等方面總結了邊緣智能的機遇和挑戰,并以無人機為例說明了如何利用機遇,解決所面臨的挑戰.Rausch 等人[10]討論了邊緣智能所需的底層基礎架構、協調機制及邊緣智能的操作平臺.Parekh 等人[11]討論了邊緣智能的定義、概念、組件、框架以及未來研究方向等.Munir等人[12]討論了邊緣智能的作用及重要性,并結合模型和案例介紹了其在工業物聯網中的應用.但是,目前還沒有針對邊緣智能在問題研究、模型建立和算法優化等方面進行詳細的總結和分析.本文通過對現有研究進行調研,對邊緣智能的相關技術問題(包括問題研究、模型建立和算法優化等)、邊緣智能安全問題及相關應用進行了全面的總結.
云計算[13]模式下,所有的計算任務均是放在云中心,利用云端服務器強大的計算能力和存儲能力進行任務的處理.云計算模型[5]如圖1 所示.

Fig.1 Cloud computing paradigm圖1 云計算模型
在云計算模型中,數據源產生的數據傳輸到云端,如圖1 實線所示.終端設備作為數據消費者向云中心發送使用數據的請求,如圖1 粗虛線所示.云端將處理結果傳輸給終端設備,如圖1 細虛線所示.
云計算模型之后,發展了邊緣計算.邊緣計算將計算數據、應用程序和服務從云服務器推到網絡邊緣[14].邊緣計算模式下,終端設備本身可以作為數據源產生數據,在終端設備與云中心增加了邊緣節點輔助云中心處理計算任務.終端設備指物聯網設備和各種移動設備,例如智能手機、智能手表、智能網聯車等,邊緣節點指部署在網絡邊緣的服務器,例如車聯網中的路側單元、邊緣服務器等[7].終端設備產生的數據并不是直接上傳到云中心,而是在邊緣節點進行數據處理.不同于云計算模式,此時的終端設備不僅從云中心請求數據,還可以本身作為數據源產生數據.終端設備和云中心之間的數據傳輸不再是單向傳輸,而是轉變為雙向傳輸[5],數據源產生的數據在邊緣設備上可以進行計算卸載、資源分配、資源緩存等操作,邊緣節點將處理后結果傳輸給云中心,云中心執行計算任務后將結果返回.邊緣計算的架構[5,7]如圖2 所示.

Fig.2 Edge computing paradigm圖2 邊緣計算模型
相比于云計算,邊緣計算則體現出其明顯的優勢[6,15]:
1)靠近數據終端,有效降低時延,具有較強的實時性.邊緣計算是在網絡邊緣靠近數據源處進行數據處理,避免了數據請求云計算中心的響應,因此能夠大大減少系統延遲,有效提高系統的實時性,非常適用于時延敏感型應用,例如無人駕駛汽車、虛擬現實技術等.研究表明,Yi 等人[16]通過將計算從云轉移至邊緣,人臉識別應用程序的響應時間從900 ms 減少到169 ms.
2)有效減緩帶寬壓力.資源豐富的服務器部署在靠近數據源和終端設備的地方,以提供高帶寬服務[17].研究表明,Sun 等人[18]通過實驗驗證在移動邊緣計算場景下帶寬節省要明顯優于其他情況.
3)有效保護數據隱私,提高安全性與可靠性.邊緣計算不再是將全部數據上傳至云中心,因此減少了數據的泄露的風險,從而提高數據的隱私性與安全性.研究表明,Xu 等人[19]面向智能網聯車提出基于邊緣計算的計算卸載方法,傳統的無線通信有很大的跟蹤、身份篡改等隱私泄露風險,該研究通過建立隱私模型并進行實驗驗證得出,邊緣計算可以有效保護隱私,保證數據安全.
4)具有較強的可擴展性.當邊緣設備或邊緣服務器上沒有足夠的資源時,仍然可使用云計算進行輔助.此外,具有空閑資源的其他終端設備也可以協助工作以完成任務.
AI 并不是一個新術語,1956 年首次在達特茅斯會議被提出,各專家學者討論并確定了AI 的初步發展方向[20].近幾年,隨著深度學習技術的突破,AI 技術贏來了新的高潮.機器學習和深度學習代表了最先進的AI 技術,其最適合高負載需求的邊緣計算模型.然而,邊緣計算與AI 的結合并不簡單,需要全面了解AI 相關算法及模型,以便進行相應的的設計和部署[7].
1.2.1 機器學習
作為AI 的核心技術之一,機器學習理論早在20世紀60 年代就由阿瑟·塞繆爾提出,并根據理論編寫完成了可以與人對弈的西洋跳棋程序[21].在過去的10 年中,機器學習技術已被廣泛用于許多龐大而復雜的數據密集型領域,如醫學、天文學、生物學等[22].機器學習領域分為監督學習、無監督學習和強化學習[23].簡而言之,監督學習需要使用具有輸入和所需輸出的標記數據進行訓練.與監督學習相比,無監督學習不需要標記的訓練數據,機器自身對大量無標記訓練數據學習并推斷得出結論.強化學習可以從通過與外部環境交互獲得的反饋中學習.基于這3 種基本的學習范式,已經提出了許多用于處理數據任務的理論機制和應用服務.從數據處理的角度來看,監督學習和無監督學習主要側重于數據分析,而強化學習主要側重于決策問題[24].機器學習技術為現代社會的許多方面提供了動力:從網絡搜索到社交網絡上的內容過濾,再到電子商務網站上的推薦,它越來越多地出現在相機和智能手機等消費產品中[25].
1.2.2 深度學習
傳統的機器學習技術在以原始形式處理自然數據的能力方面受到限制.幾十年來,構建模式識別或機器學習系統需要相當多的領域專業知識來設計一個特征提取器[25].機器學習系統用于識別圖像中的對象,將語音轉錄為文本,將新聞項目、帖子或產品與用戶的興趣相匹配,以及選擇相關的搜索結果.這些應用程序越來越多地依賴深度學習技術.深度學習始于1943 年[26],神經網絡和數學模型被引入其中,被稱為人工神經模型[27]的原型;1980 年,卷積神經網絡被引入其中[28];遞歸神經網絡在1986 年被提出并引入其中[29];2006 年前后,深度信念網絡和一個分層的預訓練框架被開發出來[30].如今,較為流行的深度學習網絡有遞歸神經網絡、卷積神經網絡、前饋神經網絡等.深度學習工具包括Caffe[31], DeepLearning4j[32],TensorFlow[33]等.
1.3.1 邊緣智能產生的背景、動機及挑戰
近來年,計算和通信的革命改變了人與人、人與物之間的交流方式[34],越來越多的智能化設備產生,與此同時,隨之產生的大量數據也急需高效且智能化的處理.因此,將AI 技術與邊緣計算結合順應時代的趨勢.結合AI 技術可以快速分析龐大的數據量并從中提取有用的信息,進行高質量的決策.
邊緣智能是機器學習、深度學習等模型訓練與在線推斷過程和邊緣計算架構的結合.邊緣智能的5大性能指標是[9]:
1)時延.時延主要指推理過程的總時間,包括預處理、模型推理、數據傳輸和后處理等.一些時延敏感型應用有嚴格的時延要求,時延與邊緣設備的資源可用性、數據傳輸效率及模型訓練推理的方式有關[35].
2)準確性.準確性指從推理中得到正確預測值的輸入樣本數與總輸入樣本數的比值,其反映了模型的性能.對于一些可靠性要求較高的應用,如人臉識別、自動駕駛等,均要求超高的準確性.
3)能耗.由于終端設備通常受電池限制,而模型的訓練和推理會帶來大量的能耗.能耗是邊緣智能領域的一個重要方面,它與用于推理的模型和邊緣設備上的可用資源有關.
4)隱私性.終端設備會產生很多對隱私敏感的數據,因此保護數據源的隱私與安全十分重要,這主要取決于處理原始數據的方式.
5)通信開銷.通信開銷會極大地影響模型的推理和訓練,因此減少通信開銷十分重要.這主要取決于用于推理數據的模型以及帶寬需求.
盡管將AI 技術應用于邊緣有很多優勢,但是,邊緣智能仍然面臨很多挑戰.本文將邊緣智能所面臨的挑戰分為3 類:
1)邊緣智能本身面臨的挑戰.如何確保AI 模型、訓練數據及測試工具的精準無偏差,以保證最終結果的準確性面臨著很大挑戰.
2)由于向邊緣引入AI 模型產生新的挑戰,時延、能耗和通信開銷等增大.邊緣計算本身具有低時延、低能耗、低通信開銷等優勢,但是,當引入AI 模型,特別是將AI 模型上傳到云中心進行訓練,會進一步增加時延、能耗以及通信開銷等.因此,如何在邊緣智能架構下獲得最小化時延、能耗及通信開銷面臨著挑戰.
3)邊緣智能數據隱私挑戰.邊緣智能系統所涉及到的隱私包括地理位置、用戶身份、信任管理等多方面信息,節點之間進行數據共享過程中,極易受到數據泄露和其他可能的攻擊,網絡及技術的復雜性也會帶來許多隱私隱患.
1.3.2 邊緣智能體系架構
邊緣智能實現在靠近數據源的位置,通過一組連接的系統和設備來實現數據的收集、緩存、處理和分析,進而提高數據處理的質量和速度,并保護數據的隱私和安全性[15].邊緣智能的架構如圖3 所示,該架構是一種云—邊—端協同模型,邊緣側和云中心并不是相互獨立和取代的關系,而是相互補充、相輔相成的關系[6-7].AI 算法及應用程序在邊緣設備上運行[35].數據被傳送至云數據中心,并進行數據分析的訓練.模型訓練好后,云中心根據邊緣數據進行推斷并向邊緣設備發送響應,在邊緣設備中完成推理過程[8].

Fig.3 Architecture of edge intelligence圖3 邊緣智能的體系架構
與僅有云中心相比,將云與邊緣結合具有很大優勢.分布式邊緣計算節點可以獨立處理大量計算任務,不需要直接和云中心進行數據的交換[7],可以有效緩解網絡帶寬壓力[5];用戶終端的數據不需要全部上傳至云中心處理,而是在更靠近數據源的邊緣服務器進行數據處理,有效降低了數據傳輸的時延,這對于時延敏感型應用至關重要;然而,在邊緣端負擔不起時,可以選擇將邊緣端處理的數據傳至云端,依靠云端強大的計算能力在云端進一步處理,并將結果返回,云邊協同的計算模式能夠最大化云計算和邊緣計算的價值.對于時延要求高、計算能力要求較低的計算任務,可以將其在邊緣執行;對于時延要求低、計算能力要求較高的計算任務,需要請其在云端執行.5G 的普及極大改善了數據傳輸的時延,也為云—邊—端協同計算體系帶來了可能.
1.3.3 基于邊緣智能架構的解決方案
針對邊緣智能本身面臨的挑戰,可以搭建一個邊緣計算與AI 模型集成框架,實現邊緣設備和邊緣節點之間交換學習參數,更高效、更準確地訓練和推理模型.例如,Wang 等人[36]設計了“In-Edge AI”框架,在框架內實現深度強化學習技術和聯合學習框架與移動邊緣系統集成,邊緣設備從其他服務器上下載深度學習模型的參數,并利用自己的數據在下載的模型上進行訓練,并將新的模型參數上傳到服務器,以整合客戶端的更新,進一步改進模型,以此來獲得更準確的結果.
針對時延、能耗和通信開銷等指標增大的挑戰,可以通過節點間協作處理數據來解決.例如,網絡中的基礎設施以及節點集群,不再是單獨處理計算任務,而是多個節點之間協作共同處理任務,節約時間成本,最小化任務處理總時延.
針對數據隱私問題,可以借助聯邦學習(federated learning,FL)[37]解決.FL 支持本地數據訓練和學習模型共享,可以通過協調多個移動設備來訓練共享的AI 模型,而無需直接暴露其底層數據[38].數據訓練過程在用戶端執行,僅需將訓練過的梯度傳遞給服務器.因此FL 可以有效解決隱私問題.
1.3.4 云計算、邊緣計算和邊緣智能
本節將云計算、邊緣計算和邊緣智能三者從架構模型、服務器位置、目標應用、服務類型、設備數量、研究重點等多方面進行對比,如表1 所示.雖然三者不盡相同,但是均體現了萬物互聯時代對計算模式的要求和對用戶高服務質量的需求.

Table 1 Features Comparison of Cloud Computing, Edge Computing , and Edge Intelligence表1 云計算、邊緣計算和邊緣智能特點對比
本節主要從邊緣智能所要解決的問題、常見模型、算法優化3 個角度來闡述相關技術研究.其整體技術路線圖如圖4 所示.

Fig.4 Overall technical route map圖4 整體技術路線圖
邊緣智能的研究可以分為2 類[39]:一類是智能的邊緣計算,主要研究利用AI 技術為邊緣計算中的關鍵問題提供更優的解決方案;另一類是邊緣的智能化,主要研究借助邊緣計算在邊緣環境中實現智能化應用.二者并不是相互獨立的,邊緣的智能化是目標,智能的邊緣計算是實現邊緣的智能化的一部分,邊緣的智能化可以為智能的邊緣計算提供更高的服務吞吐量和資源利用率[7].二者的對比表格如表2 所示.

Table 2 Features Comparison of Intelligent Edge Computing and Edge Intelligence表2 智能的邊緣計算和邊緣的智能化特點對比
2.1.1 智能的邊緣計算
邊緣計算中的研究問題可以分為計算卸載、資源分配和邊緣緩存,本節主要從這3 個方面展開討論.
1)計算卸載
大量的計算密集型任務需要從物聯網設備轉移到云服務器或邊緣服務器進行執行,但是,任務卸載過程通常受不同領域的各種因素的影響,例如,用戶偏好、無線通信通道、網絡連接質量、物聯網設備的移動性以及邊緣服務器或云服務器的可用性.因此,做出最佳決策是邊緣卸載的最關鍵問題.卸載決策需要動態決定是應將任務卸載到邊緣服務器還是云服務器.如果將大量任務卸載到云服務器,帶寬將被占用,從而大大增加傳輸延遲.因此,設計一個合理的卸載決策方案以便合理地將每個任務分配給處理服務器至關重要[40].
在實際的卸載過程中,具體的卸載效率取決于移動設備和邊緣節點.當大量的移動設備將任務卸載到邊緣節點時,會導致該邊緣節點的負載過高,從而造成較大的處理延遲[41].由于移動設備預先無法判斷邊緣節點的負載情況,如果每個移動設備以分散的方式做出卸載決策,也會面臨著很多設備選擇同一邊緣節點進行卸載而導致節點負載過高的挑戰.
針對卸載決策問題,文獻[41]提出了一種基于深度強化學習的分布式算法,該算法可以在不了解其他設備的任務模型和卸載決策的情況下,確定其卸載決策.在該算法中,每個移動設備都可以利用其本地觀察到的信息,包括任務的大小、隊列的信息和邊緣節點的歷史負荷水平,以分散的方式確定卸載決策.類似的工作還有文獻[42]采用了深度Q 學習算法設計最優卸載方案,該方案可以實現同時考慮目標服務器的選擇和數據的傳輸方式.文獻[43]采用了強化學習方法,實現了移動邊緣計算系統中多用戶計算任務的自主卸載.文獻[44]提出了基于分布式深度學習的任務卸載算法,可以在移動設備、邊緣云服務器和中心云服務器上生成接近最優的卸載決策.文獻[45]提出了一種基于實時強化學習的卸載方案,用于處理移動設備上的實時應用,從而實現最小化移動設備的功耗目標.
2)資源分配
由于基礎設施部署和維護成本高昂,在邊緣網絡中部署大量邊緣計算服務器不切實際,并且每臺邊緣計算服務器僅供有限數量的應用程序進行部署;加上不同移動設備的多樣化,導致邊緣計算環境的不穩定[46].因此,如何在多變的邊緣計算環境下自適應地分配計算和網絡資源面臨著挑戰.文獻[46]提出了一種基于深度強化學習的資源分配算法,該算法可以在不同的移動邊緣計算(MEC)條件下自適應地分配網絡資源和計算資源,以適應突變的MEC 環境,大大縮短平均服務時間并平衡資源的使用.文獻[47]采用了異步優勢動作評價(asynchronous advantage actor-critic)算法來解決邊緣計算資源分配問題.該方案能夠區分多個用戶對服務質量的不同要求,從而提高了服務質量.文獻[48]針對多用戶無線網絡中不同的應用要求以及設備之間通信的多種無線接入模式,采用強化學習技術以應對網絡信息有限且不準確的問題,設計了一種最佳的資源分配策略,以最大限度地降低系統能耗.文獻[49]考慮了多個用戶的AI 服務放置問題,制定了一個混合整數非線性規劃問題,通過共同優化服務放置和資源分配,最大限度地減少所有用戶的總計算時間和能耗.
3)邊緣緩存
邊緣緩存技術對于計算密集型和時延敏感型應用需求而言是一種前景非常廣闊的技術[50].邊緣緩存網絡中,通過利用邊緣節點上的存儲資源,可以將常用內容緩存在靠近最終用戶的位置[51].文獻[50]提出了一種基于FL 的主動邊緣緩存方案,實現了在車聯網場景下多個車輛能夠協作學習一個全局模型,通過使用FL 技術,大大提高了緩存性能,降低通信成本,有效保護了用戶的隱私.文獻[52]開發了基于深度強化學習邊緣計算和緩存流量控制系統,它可以動態地組織邊緣計算和內容緩存,以提高移動網絡運營商的利潤.文獻[53]提出了一種基于模擬學習的分支定界解決方案,實現在物聯網框架中車輛和道路旁單元的內容緩存.基于自動駕駛場景中,文獻[54]認為自動駕駛汽車是從事信息娛樂服務的新場所,自動駕駛汽車應該能夠決定自己的信息娛樂內容,以滿足乘客的需求.然而,信息娛樂內容的選擇取決于乘客的年齡、情感和性別等特征.該文獻使用深度學習模型來預測需要緩存在自動駕駛汽車中的內容.文獻[55]設計了基于區塊鏈和AI 算法的分布式緩存系統,采用深度Q 學習算法來學習激勵機制、用戶共享意愿、緩存位置和本地流量卸載之間的關系.
表3 從采用的關鍵技術、適用場景、解決的問題、優化目標和相應算法總結了智能的邊緣計算相關工作分類.

Table 3 Related Work Classification for Intelligent Edge Computing表3 智能的邊緣計算相關工作分類
2.1.2 邊緣的智能化
1)圖像識別
在圖像識別的邊緣智能系統中,物聯網設備將圖像數據轉至邊緣服務器,邊緣服務器執行圖像識別并將識別結果發給物聯網設備.邊緣計算系統可以減少物聯網設備的處理負載,并訓練和推理模型[69],如圖5 所示.文獻[70]設計了一種基于邊緣計算的人臉圖像情感識別系統,并提出了一種用于情感識別的卷積神經網絡模型.智能終端設備將捕獲人臉圖像并進行預處理,例如人臉檢測、圖像調整和人臉裁剪等.然后將預處理的結果發送到邊緣服務器,邊緣服務器通過運行卷積神經網絡(CNN)模型來進行情緒的推斷.Shen 等人[71]提出了基于邊緣智能的圖像識別系統,該系統可以依靠深度學習的分層模式,提取圖像的特征,優化類內距離和類間距離的總和,實現與邊緣服務器和基站的分布式計算.與傳統的圖像識別算法相比,該算法的準確率可高達98%.此外,針對農業領域的圖像識別,Monburinon 等人[72]提出一種分層邊緣計算系統,實現了一種分布式動態學習方法,其中對卷積神經網絡進行動態訓練,以根據特定的部署環境識別潛在的目標.將AI 檢測模塊加載到邊緣服務器上,以檢測動物并提供反饋.該識別系統可以執行離線圖像分類任務,準確率提高7 倍,評估時間快2 倍以上且消耗的網絡帶寬不到6%.

Fig.5 Edge intelligence image recognition system圖5 邊緣智能圖像識別系統
2)語音識別
語音是人類交換信息和相互交流最方便、最快捷的方式.語音識別可以將語音轉換成相應的書面信息或控制命令,語音識別技術已成功應用于手機操作、汽車導航、工業控制、智能家電等領域[73].Xu等人[74]設計并開發了基于邊緣智能的語義識別架構,采用深度神經網絡特征融合方法,有效融合提取的單模態特征,實現語音識別,并有效提高準確性和降低時延.文獻[73]基于邊緣智能系統,實現了實時識別英語語音功能.該文獻將語音信號的識別過程分為2 個階段:第1 階段是學習和訓練,即提取語音庫中語音樣本的特征參數作為訓練數據,合理設置模型參數的初始值,重新評估模型的每個參數,使識別系統具有最佳的識別效果;第2 階段是識別,根據一定的標準,將待識別的語音信號的特征與訓練好的模板庫進行比較,然后通過一定的識別算法得到識別結果.Cheng 等人[75]在每個邊緣服務器中部署了一個基于卷積神經網絡的編碼器,以提取音頻數據的特征,并有效降低網絡總時延.
3)實時視頻分析
如今,攝像機已經被大量部署在交通十字路口、商場、大學校園等公共場所[76].散落在公共場所的監控攝像頭給網絡和處理基礎設施帶來了許多挑戰.此外,大多數城市應用需要負責處理此類大規模視頻流的系統實時響應[77].大量攝像頭每秒會同時產生大量視頻數據,由于網絡帶寬和傳輸時延的原因,無法將全部數據上傳至云端進行處理.因此在邊緣側實現低延遲、高吞吐量和可伸縮的視頻流處理是至關重要的[76].很多企業開始使用智能相機,例如Avigilon,Hikvision,NVIDIA 等.這些智能相機配備有深度學習加速器,不僅能夠執行基本的視頻處理任務,還能執行復雜的基于深度學習的計算密集型任務來檢測和識別對象及其各種屬性.
Zeng 等人[76]提出了Distream——一種基于智能攝像頭邊緣集群架構的分布式框架.該框架能夠適應現實世界部署中的工作負載動態,以實現低延遲、高吞吐量和可擴展的基于深度學習的實時視頻分析.Rocha 等人[77]利用邊緣計算提出了一個用于視頻分析的分布式系統,該系統通過將大規模視頻流的繁瑣處理分解為各種機器學習任務,實現從原始數據中獲得高級語義信息.在配備了神經網絡硬件加速器的邊緣設備上,將這些任務部署為數據處理的工作流,實現邊緣節點資源的高效利用和低延遲數據傳輸.
隨著AI 模型和算法的激增,加速了AI 在邊緣計算中的部署,本節將邊緣智能的模型劃分為系統模型和數學模型進行闡述.
2.2.1 系統模型
為了更好地實現邊緣智能,越來越多的研究致力于開發邊緣智能框架,實現為邊緣提供智能化服務.在邊緣直接卸載AI 技術主要存在3 個挑戰[78]:
1)邊緣側的計算能力有限.邊緣側的存儲能力和計算能力都比不上云中心,因此執行深度神經網絡等算法時面臨著挑戰.
2)數據不易實現共享.邊緣側的數據處理不同于云數據中心的集中處理,因此,邊緣數據不易實現共享和協作處理.
3)邊緣平臺和AI 算法不匹配.不同的邊緣設備具有不同的計算能力,不同的AI 算法對計算能力有不同的要求,將算法與邊緣平臺相匹配面臨挑戰.
為了應對這3 個挑戰,中國科學院計算技術研究所的研究人員[78]開發了OpenEI 框架,該邊緣智能開放框架是一個輕量級軟件平臺,可以為邊緣提供智能處理和數據共享功能.其目標是從樹莓派到集群計算機均能部署OpenEI.OpenEI 易于安裝,并且易于為用戶開發第三方應用程序,也可以為邊緣的特定配置選擇匹配的算法,還是一個跨平臺的軟件,可以很好地與他人進行通信與協作.OpenEI 由3 個組件組成:1 個用于在本地運行推理和訓練模型的包管理器;1 個用于選擇最適合邊緣模型的模型選擇器,以及1 個用于數據共享的RESTful API 的庫libei.這3 個組件有效優化邊緣算法,OpenEI 與其他數據分析平臺之間的顯著性差異是輕量級算法,其保障了OpenEI 在 邊 緣 運 行 繁 重 的AI 算 法.此 外,OpenEI 通過RESTful API 組件支持很多AI 場景的運行,例如公共安全中的視頻分析、車聯網、智能家居和智能互聯健康.
除了實現邊緣智能化,也有很多框架模型旨在解決智能的邊緣計算研究問題.例如,中山大學的Li等人[79]提出了Edgent 框架,它是一種基于設備邊緣協同的深度神經網絡(deep neural networks,DNN)協同推理的邊緣計算框架.旨在解決設備與邊緣之間的資源分配問題,智能協調強大的云資源和近端邊緣資源,實現DNN 模型在設備和邊緣之間的自適應劃分計算.由于基于DNN 的應用程序需要大量的計算,而現有的移動設備通常無法很好地支持這些DNN 的應用程序.Edgent 框架可以有效應對DNN 的過度資源需求.
Edgent 框架通過設備邊緣協同作用實現按需DNN 協作推理,在該框架中,我們共同優化DNN 分區和DNN 大小調整,通過在中間DNN 層進行早期退出推理,進一步降低計算延遲,以最大限度地提高推理準確性.此外,考慮到實際部署中的潛在網絡波動,Edgent 經過適當設計,專門針對靜態和動態網絡環境,實現了在帶寬變化緩慢的靜態環境中,借助基于回歸的預測模型導出最佳配置;而在帶寬急劇變化的動態環境中,Edgent 通過在線變化點檢測算法生成最佳執行方案.Open 邊緣智能和Edgent 的特點對比如表4 所示.

Table 4 Features Comparison of OpenEI and Edgent表4 OpenEI 和Edgent 的特點對比
2.2.2 數學模型
除建立系統模型之外,很多工作針對不同的研究問題構建不同的數學模型方法,常見的數學模型有線性規劃、非線性規劃、多目標規劃、動態規劃等.
1)線性規劃
目標函數為線性函數,約束條件為線性不等式的問題視為線性規劃問題.Erfanian 等人[80]針對邊緣視頻轉換直播進行建模,其目標為最小化成本,包括帶寬成本和計算成本.將約束分為服務策略、服務時間和計算資源3 種條件.服務策略為決定對用戶所需請求是從內容分發網絡中傳輸到用戶還是直接在邊緣服務器進行轉碼.服務時間約束為保證所有請求服務在給定時間內完成.計算資源約束為所需的計算資源不得超過邊緣服務器所能提供的總資源.這3種約束條件的所有函數均為線性函數,故可建立線性規劃模型,以確定最優策略,最小化直播成本.其線性規劃模型可簡化為
其中Ccpu表示在邊緣服務器每核轉碼所耗費的計算成本,Cdata表示是從內容分發網絡中單位時間內獲取的數據量的帶寬成本,x為在邊緣服務器上進行轉碼所需的計算資源總量,y為從內容分發網絡中獲取的數據總量, α為二進制變量, α=1表示直接在邊緣服務器進行轉碼, α =0表示從內容分發網絡中獲取數據,Tf表示運行視頻抓取所需時間,Tg表示轉碼時間,T表示請求服務的截止時間, δ表示轉碼過程所需計算資源,Q表示邊緣服務器總的計算資源.
2)非線性規劃
目標函數或約束條件中包含非線性函數的問題視為非線性規劃問題.但實際情況并不是理想的線性規劃問題,所構建的數學模型往往是非線性函數.Jin 等人[81]針對分布式邊緣云網絡中FL 模型和邊緣配置的聯合控制問題進行了建模,由于訓練的FL 模型很多都是非線性的,并且要以最小的計算和通信成本保持指定的收斂性,其局部計算和全局聚合對收斂性也是極其復雜的,因此線性規劃不適用于該問題.Jin 等人[81]制定非線性混合整數規劃問題,最大限度地降低了長期總成本,包括從設備到邊緣的數據傳輸成本、邊緣局部模型更新的計算成本、從邊緣到云的模型轉移成本、云中全局模型聚合的計算成本,以及邊緣配置和交換成本.其非線性規劃模型可簡化表示為
其中x表示數據從用戶設備傳輸到邊緣服務器的比率,y為二進制變量,y=1表 示可以激活邊緣網絡,η表示FL 的局部收斂精度,cx為數據總傳輸成本,為模型在邊緣和云之間的轉移成本,b為邊緣模型更新的計算成本,m為云中全局模型聚合的計算成本,d為邊緣服務器之間的切換成本.
3)多目標規劃
式(1)(2)數學模型的目標函數均只有1 個,即該數學規劃為單目標優化.現有研究中有很多工作的目標函數不止1 個,即多目標優化.Zhang 等人[82]針對邊緣智能健康設備,研究異常健康檢測(abnormal health detection,AHD)系統,考慮到了智能邊緣設備電池的使用壽命,因此第1 個目標為最小化能耗.每個邊緣設備通過最小化私人健康數據的訓練損失函數來訓練局部模型;第2 個目標為最小化全局模型的損失函數,在實現最大化模型性能的同時最大限度地降低邊緣設備的成本.其多目標規劃模型簡化成
其中L(w)為 損失函數,e為 智能邊緣設備的能耗,ecomp為計算能耗,etrans為傳輸能耗.
4)動態規劃
式(1)~(3)數學模型均是一些與時間無關的靜態分析模型,當求解一些與時間相關的問題時,這些數學模型顯然不適用.動態分析則是解決以時間為劃分階段的動態過程優化問題.Wang 等人[83]以最小化整體延遲和遷移成本為目標,研究微服務協調問題.微服務是一種新興的服務架構,它可以將一個單一的Web 服務分解為一組可以獨立執行的獨立輕量級服務.由于用戶的移動性會導致附近邊緣云的頻繁切換,進而增加用戶離開其服務邊緣云時的服務延時.該研究問題涉及到當前狀態和下一階段狀態,即待處理數據在不同邊緣云之間遷移.為了解決這個問題,Wang 等人[83]提出了一個基于動態規劃的數學模型,實現最優的微服務協調方案,以降低整體服務延遲.其動態規劃模型簡化成
其中C表示邊緣云集合,x(t)表 示在時刻t處理任務的邊緣云,rc(x(t),t) 表 示在時刻t邊緣云執行任務的總計算延時,rt(x(t),t) 表 示在時刻t任務的傳輸時延,rm(x(t-1),x(t),t)表 示任務從時刻t-1到 時刻t任務在不同邊緣云之間遷移產生的時延.
本節針對算法優化方面展開討論,并按照傳統算法和智能算法進行分類.
2.3.1 傳統算法
在針對模型進行算法優化時,以往的很多工作中采用傳統算法,傳統算法包括啟發式算法和精確算法,而幾乎所有的文獻均采用了啟發式算法.
針對線性規劃問題,Bahreini 等人[84]在研究中構建了混合整數線性規劃模型,采用貪婪算法解決移動邊緣計算系統中的資源分配問題和貨幣化挑戰.Tran 等人[85]針對視頻轉碼設計了一個聯合協作緩存和調度框架,將聯合協作緩存和調度問題表述為整數線性規劃問題,并提出一種啟發式自適應視頻流感知主動緩存調度算法.
針對非線性規劃問題,深圳大學與香港理工大學[86]聯合研究了一種新型設備到設備多助手MEC系統.該系統中,本地用戶將任務卸載到多個輔助服務器,通過優化本地用戶的任務分配,結合任務卸載和結果下載的時間和速率,以及任務執行的計算頻率,最大限度地降低計算延遲,但該系統會受到當地用戶和輔助服務器的能量及計算能力的約束.因此,為有效解決混合整數非線性規劃問題,該研究團隊提出了一種有效的算法,通過將二進制任務分配變量放寬為連續變量,然后基于松弛問題的最優變量構建次優任務分配解,從而獲得高質量的次優解.Zhang 等人[87]使用非循環數據流圖對移動增強現實應用程序中的計算和數據流進行建模,以最大限度地減少處理輸入幀的制造跨度.針對跨度最小化這一NP 難問題,設計了一種多項式時間啟發式算法,以提供最優解.
針對多目標規劃,Song 等人[88]研究了MEC 網絡中應用完成時間和智能移動設備能耗之間的權衡,并將該問題表述為多目標計算卸載問題,最小化時間和能耗.為有效解決該研究問題,提出了一種基于分解的改進型多目標進化算法,其所得非支配解的收斂性和多樣性方面優于最先進的啟發式算法.
針對動態規劃,Lei 等人[89]將聯合計算卸載和多用戶調度建模為動態規劃問題,并設計了半分布式算法,其中卸載算法在物聯網設備上本地執行,調度算法則是基于拍賣算法的改進算法.
2.3.2 智能算法
近幾年,隨著AI 的發展,很多領域都開始借助AI 算法,例如強化學習、深度學習等,為關鍵問題的解決提供了更優化的解決方案.本節主要介紹智能算法在邊緣智能中的運用.
1)機器學習
機器學習是實現人工智能應用的主要方法,它根據樣本數據學習模型,用模型對數據進行預測與決策.傳統的機器學習算法包括監督學習、半監督學習、無監督學習等.文獻[83]通過邊緣智能來實現數據量大且實時性高的視頻分析,將視頻幀傳輸到邊緣服務器處理,采用監督學習中的貝葉斯模型,使用收集的數據實時構建所需非線性規劃模型,通過配置服務和無線網絡參數,實現在最小幀速率約束下最大限度地提高分析的準確性.
2)強化學習
除了傳統的機器學習外,強化學習[90]可以追溯到控制論和統計學、心理學、神經科學和計算機科學等早期的工作.強化學習的算法主要包括基于值的算法和基于策略的算法.
最近幾年的很多工作采用改進的強化學習算法,例如針對邊緣智能中的計算卸載問題,文獻[91]將強化學習與元學習[92]結合,構建多目標優化模型,提出了一種基于元強化學習(meta reinforcement learning,MRL)的方法MRLCO 來解決計算卸載問題,實現對動態卸載場景的快速適應.MRLCO 對新的學習任務具有很高的采樣效率,因此即使計算資源有限,用戶設備也可以使用自己的數據運行訓練過程.Zhang 等人[93]將強化學習與量子計算結合,構建非線性規劃模型,設計了一種量子啟發的強化學習算法,實現車聯網中高效的卸載、傳輸和計算.
針對邊緣智能化,Dai 等人[94]提出了一種邊緣分散式強化學習算法,用于車聯網中的交通燈控制.該團隊構建非線性規劃模型,使用豐富的車聯網數據進行多智能體訓練.該集成框架利用車聯網的實時數據,從分層級別的角度優化交通燈控制.
3)深度學習
作為機器學習的另一個熱門領域,深度學習的研究也十分廣泛.深度學習模型的訓練過程需要大量的數據和強大的算力支持以獲得準確的結果.由于邊緣節點的計算能力有限,將深度學習部署到邊緣節點也面臨著挑戰,因此設計一個可以在邊緣節點上使用的有效深度學習模型至關重要.美國陶森大學團隊[95]設計了一個工業物聯網(industrial IoT,IIoT)場景,該場景利用深度學習技術對不同的工業部件進行分類,將深度學習集成到IoV 中,以幫助IIoT 系統的自動化和智能化.該團隊提出了一種基于邊緣的新型CNN 模型來進行計算任務的卸載,其模型結構[95]如圖6 所示.該模型選擇4 個卷積層來提取特征圖,每個卷積層之后部署一個池化層,總共4 個池化層,以便進一步壓縮特征圖.該模型部署在邊緣節點上,將訓練過程從云端卸載到邊緣,從而避免服務器和物聯網設備之間的數據交換,并減少IIoT 中的網絡流量.

Fig.6 Structure of CNN model圖6 卷積神經網絡模型結構
此外,針對邊緣智能化問題,文獻[96]將深度學習應用于智慧農業領域以解決霜凍預測問題.考慮到在農村缺乏大范圍的網絡連接及電源有限的環境下借助云計算存在挑戰,在網絡邊緣引入LSTM 模型,實現對溫度的預測,以便及早識別作物上的霜凍.無論是從性能還是能耗,邊緣智能方案均明顯優于云計算.
4)深度強化學習
深度學習主要是通過神經網絡實現對事物的有效感知和表達;強化學習主要是通過最大化智能體從環境中獲得的累計獎勵值獲得最優策略.將這2 種學習方法有機結合便形成了深度強化學習.由于其具備二者的優勢,因此,近幾年越來越多的研究采用深度強化學習方法.
針對邊緣智能計算卸載和資源分配問題,文獻[62]針對車載邊緣計算網絡,構建非線性規劃模型,提出了基于深度Q-learning 的計算卸載和資源分配方案,以最大化車輛邊緣計算網絡的總效用.
針對邊緣智能邊緣智能化問題,文獻[97]構建多目標規劃模型,設計了一個低延遲深度強化學習框架,以支持實時邊緣AI 應用.深度強化學習可以有效解決車聯網高度復雜、動態和時變的問題,實現每個自動駕駛汽車根據時變環境及時采取行動.
在邊緣智能系統中,邊緣終端設備使用本地數據集進行本地訓練,邊緣服務器聚合來自邊緣節點的訓練參數,并將結果反饋給之后的模型訓練[98].安全問題主要出現在4 個方面:1)數據極易受到各種攻擊造成數據的不完整性;2)模型被攻擊導致錯誤的輸出結果,作出錯誤的決策;3)未經授權進行資源和數據的訪問;4)由于節點直接數據共享、模型與代理之間參數的交換以及在終端移動設備上部署機器學習模型等造成的敏感數據的隱私泄露問題.
在邊緣智能環境中,應用程序供應商可以將數據緩存在大量地理位置分散的邊緣服務器上以服務用戶[98].但是,這些緩存的數據特別容易受到故意或意外損壞的影響,這使得數據完整性成為邊緣智能環境中的主要問題.數據完整性是保證數據從開始到最后都完好無損[99].如果不能保證數據的完整性,最終的實現結果將毫無意義.鑒于大量邊緣服務器極其有限的計算資源,如何保證數據的完整性是一個關鍵且具有挑戰性的問題.
文獻[100]提出一種基于輕量級采樣的概率方法EDI-V,以幫助緩存在大規模邊緣服務器上的數據的完整性.文獻[101]嘗試從服務供應商的角度解決邊緣數據完整性問題,提出一種名為ICL-EDI 的數據完整性檢查和損壞本地化方案.此方案允許服務供應商檢查其邊緣數據,并準確高效地將損壞的邊緣數據本地化到多個邊緣服務器上.文獻[102]提出了一種以分布式方式保證邊緣數據完整性的CooperEDI 方案.CooperEDI 采用分布式共識機制來形成自我管理的邊緣緩存系統.在該系統中,邊緣服務器協同確保緩存副本的完整性并修復損壞的副本.Tong 等人[103]專為用戶分別在單個邊緣或多個邊緣上檢查數據完整性而設計了2 種完整性檢查協議,即ICE-basic 和ICE-batch.這2 種協議允許第三方驗證者在不侵犯用戶數據隱私和查詢模式隱私的情況下檢查邊緣的數據完整性.Xu 等人[104]提出了一種使用多個數據存儲和區塊鏈代理的分布式安全邊緣智能架構,以實現物聯網環境中的實時上下文數據完整性.該架構為可擴展和安全的交易提供了可靠的訪問和無限的存儲庫,支持基于區塊鏈的邊緣計算兼容物聯網設計,以實現數據完整性所需的安全性和可擴展性.
數據加密技術為保證數據完整性提供了有效的解決方法,發送方通過加密算法將數據特征提取,接收方也以同樣的算法對發送數據進行特征提取,若二者所提取內容一致,則數據是完整的.如何將數據加密技術與邊緣智能系統架構有效地結合起來,實現輕量級、智能化、分布式的安全保護是未來的研究方向.
模型可靠性主要是指模型被攻擊導致不能正常工作,即便是輸入的微妙擾動,也會導致模型不正確的輸出,這被稱為對抗性攻擊.亞利桑那州立大學Shanthamallu 等人[105]特別針對圖神經網絡(graph neural network,GNN)的對抗性攻擊展開研究,該團隊提出不確定性GNN,即UM-GNN.UM-GNN 通過利用消息傳遞框架的認識不確定性來提高GNN 模型的魯棒性.具體來說,該團隊建立一個替代預測器,該預測器不直接訪問圖結構,而是通過一種新的不確定性匹配策略系統地從標準GNN 中提取可靠的知識,實現免疫攻擊.
攻擊者可以通過將錯誤數據注入模型的訓練池中來破壞訓練模型以影響學習過程,這被稱為中毒攻擊[106],中毒攻擊不僅會導致本地訓練不準確,還會導致應用程序損壞以做出錯誤的決策.文獻[107]針對中毒攻擊,設計了TRIM 防御算法,該方法以迭代方式估計回歸參數,能夠隔離大多數中毒點并學習可靠的回歸模型,具有較強的魯棒性.Steinhardt 等人[108]構建了支持向量機上攻擊損失的近似上限,并提供了消除攻擊影響的解決方案.該方案首先刪除位于可行邊界之外的異常值,然后最大限度地減少其余數據上基于保證金的損失.
也有很多研究采用FL 作為解決中毒攻擊的解決辦法.在FL 中,數據保留在源設備上,用于訓練本地數據的機器學習模型將改為引入終端設備.終端設備使用本地數據訓練機器學習模型,然后將模型更新發送回服務器進行聚合.但是,這種要求隨機設備使用其本地數據訓練模型的過程具有潛在的風險,例如參與者使用惡意數據進行訓練以生成虛假參數而毒害模型.Tolpegin 等人[109]針對FL 系統的數據中毒攻擊,提出了一種防御策略,可以幫助識別FL 中的惡意參與者,以規避中毒攻擊.基于Sybil 的攻擊[110]意味著邊緣設備具有錯誤的訓練數據集,其中的數據與其他參與者相同,而其標簽是錯誤的.攻擊者可能會通過用足夠的Sybils 毒害模型來壓倒其他誠實的參與者.FoolGold 通過降低重復上傳相同更新的參與者的學習率來消除基于Sybil 的攻擊的影響.Doku等人[111]研究了一種在聯合學習環境中緩解中毒攻擊的方法,旨在通過分析數據集對模型錯誤率的影響來確定數據集是否中毒,在不損害客戶端數據的安全性以及建立FL 值的情況下審查數據,并在數據審查完之后進行FL 模型訓練.
在邊緣智能系統對資源和數據進行未經授權的訪問會造成嚴重的損失.身份認證是指用于識別用戶的身份并授予相應的權限,以便進行更好的訪問控制,防止惡意使用資源和數據.當資源和數據急劇增加時,使用傳統的證書和公鑰基礎設施實現身份認證不再適用.邊緣設備通常容易受到各種攻擊,例如模擬攻擊、用戶可追溯性攻擊、重放攻擊等.由于邊緣節點可以動態加入和離開,因此,需要確保對終端用戶的不間斷服務.
為了應對以上挑戰,Xiao 等人[112]提出了一種用于移動邊緣設備的身份驗證方案,以針對干擾攻擊為邊緣節點提供安全卸載.Jia 等人[113]設計了一種基于橢圓曲線密碼學的身份驗證驅動的密鑰協議,實現在單個消息交換輪次中的相互身份驗證.Kaur 等人[114]提出了一種高效輕量級的邊緣智能環境相互認證協議,利用離散對數問題、隨機數和時間戳等優勢來抵抗各種攻擊.
區塊鏈作為一種新興技術,在解決邊緣智能身份認證方面很有希望.區塊鏈系統在用戶注冊時會為用戶生成密鑰對,基于區塊鏈的公鑰基礎設施是分散的密鑰管理協議.可以涉及智能合約,以自動驗證合法用戶的身份[99].如何將區塊鏈技術更好地解決邊緣智能身份認證問題是未來的重點研究內容.
單個邊緣服務器的存儲和計算能力有限,要想提供給用戶更好的服務體驗,更多的是多個節點以協作的方式共同處理數據.然而,在邊緣智能系統中,特別是在有移動設備的場景下,實現節點協作共享數據并不容易,并且非常容易造成數據泄露和其他可能攻擊.攻擊者可以通過有線或無線通信接口攔截交換消息,進而推斷出用戶的個人信息[97].除此之外,邊緣網絡還面臨著數據隱私方面的隱患.隱私信息可能包括用戶的位置數據、活動記錄、運行狀況等,在數據收集、傳輸及計算等過程中均存在泄露的風險.針對這些挑戰,文獻[115]將邊緣智能與區塊鏈技術融合,區塊鏈可以確保邊緣服務器與終端設備之間的數據交換安全,以實現準確地分析和預測.文獻[8]提出使用FL 來解決隱私泄露問題,FL 對于分布式數據訓練十分友好,可以將原始數據集保存在設備或節點中,并共享邊緣AI 模型參數.
除了在數據共享時造成的隱私泄露之外,在模型訓練過程中,本地私有樣本的模型更新和代理之間的大規模參數交換也會帶來嚴重的隱私問題[116],針對這一問題,休斯頓大學和康涅狄格大學團隊[116]提出Q-DPSGD-1 和Q-DPSGD-2 這2 種算法,在隨機量化之前采用了高斯機制,并在后續處理特性中保證了量化模型根的隱私性.
此外,在實際生活中,智能手機、可穿戴設備和醫療監視器等移動設備也需要部署機器學習模型,應用程序服務提供商通常從用戶那里收集和利用大量的數據以構建復雜的模型,而這些數據通常包含敏感的信息[117].如果直接發布這些由用戶數據訓練的模型會帶來潛在的隱私問題[118].為了在移動設備上部署高效的機器學習模型,國防科技大學團隊[117]設計了RONA 框架,該框架同時考慮了模型壓縮和數據隱私性.RONA 只使用公共數據來訓練小型模型,然后將小型模型發布給移動應用程序用戶,而其他較為龐大的模型和敏感數據則由應用程序服務提供商保留.由于小型模型的訓練不依賴于敏感數據,龐大的模型和敏感數據都不會暴露給公眾,從而使隱私得到了有效保護.
智慧得益于邊緣智能技術的廣泛研究,邊緣智能在許多應用場景下取得了優異的成果.本節從智慧工業、智慧生活和智慧農業三大方面展開討論.
第4 次工業革命被稱為IIoT,是指通過先進的數據分析,以一種智能的方式實現工業操作.IIoT 結合了操作技術和信息技術[35],將IoT 技術融入各種制造系統中,在生產線和制造過程中引入大量的IoT 設備和計算節點,從而實現對制造系統的監控和控制[95].在IIoT 中,對于工業實時控制要求較高,并且其產生的數據需要在本地進行處理[6],因此,采用邊緣計算作為工業物聯網的計算平臺是必然的趨勢.此外,需要利用AI 技術來實現對設備的智能化操作與控制.將邊緣智能與IIoT 結合有4 點優勢[35]:
1)支持遠距離數據交換.邊緣計算本身低延時的優勢有利于遠距離數據交換,同時,邊緣設備上的數據庫管理系統避免了對高帶寬的需求.
2)有效提高安全隱私性.邊緣設備提供數據和身份管理功能,可以安全地處理數據.
3)云邊協同提高數據處理效率.一方面減少傳輸到云中心的數據,從而降低數據傳輸成本以提高系統效率;另一方面邊緣設備處理不了的部分數據傳輸到云,云邊協作提高數據處理效率.
4)邊緣設備之間的有效集成可以提高不間斷的服務.
深度學習作為數據處理建模和分析的常用方法,可以集成到IIoT 系統中,以幫助IIoT 實現自動化和智能化.傳統的方式是物聯網設備收集數據并將其發送到具有高計算能力的云服務器來執行深度學習過程[95],然后,云服務器將分析的結果再發送給物聯網設備.但是大量的數據傳輸會造成較高網絡開銷及網絡延時,從而影響IIoT 系統性能.針對這一問題,Li 等人[119]提出了一種基于邊緣計算的深度學習模型,該模型利用邊緣計算將深度學習過程從云服務器遷移到邊緣節點,從而降低IIoT 網絡中的數據傳輸需求并緩解網絡擁塞.
隱私保護在IIoT 中也至關重要.為了緩解IIoT中訓練數據的隱私泄露問題,研究人員提出了一種聯合邊緣學習(federated edge learning,FEL)[120],用于邊緣節點在IIoT 中執行協作深度學習[121].與具有中央數據服務器的集中分布式學習方法相比,FEL 允許邊緣節點將訓練數據集保留在本地,執行本地模型訓練,并且僅將訓練結果發送到云[122-124].Liu 等人[121]提出了一種基于IIoT 的通信效率高且隱私性增強的異步FEL 框架,并利用異步模型更新方案以提高通信效率.通過將本地差分隱私機制整合到異步模型更新方案中,實現了異步FEL 中更新模型的節點級隱私保證.不同于傳統的客戶端檢測方案,該團隊采用云端檢測方案,以避免節點之間的串通和攻擊.
4.2.1 智慧城市
智慧城市是利用現代化信息技術,來實現對城市的智能管理與服務[6].智慧城市的建設需要大量的數據,例如智能手機、全球定位系統、智能傳感器和智能攝像頭等,不同設備生成的數據呈指數級增長,并且這些數據具有異構性,且對延遲要求高,同時涉及到城市居民的隱私和安全問題,采用邊緣計算模型對于處理海量數據較為有利.此外,智慧城市的很多應用都需要AI 技術,因此,將AI 與邊緣計算結合的平臺更適合智慧城市的建設.
邊緣智能在智慧城市的建設中有著極為廣泛的應用,包括智慧交通、公共安全、醫療、旅游等.在智慧交通中,汽車可以進行車道變換、防撞和車載娛樂服務等.考慮到自動駕駛汽車出現事故,需要及時將事故報告并進行急救,如果將數據上傳至云中心,會造成極大的延時,從而導致事故無法及時得到處理.因此,采用邊緣計算就可以極大縮短響應時間,盡量減少損害,并采用AI 來處理數據,以做出最佳的決策.在公共安全中,考慮到城市災情(例如失火),可以使用無人機來獲得災情情況.無人機使用攝像頭拍攝城市各個方位的圖片,需要對其拍攝的圖片進一步的處理才能判斷某地是否出現災情.但是,如果使用遠程云中心來處理圖像會存在高延時,不利于對災情的緊急處理和施救.因此,采用邊緣計算可以解決時延高的問題,加之AI 技術可以緊急作出快速決策.
Thalluri 等人[125]開發了一種支持邊緣計算和AI智慧城市物聯網系統.該系統將邊緣計算整合到物聯網系統中,通過減少云上的負載來增強物聯網系統的性能.然后在邊緣上部署AI 算法,以做出明智的決策和數據處理.該系統實現了城市空氣管理,管理交通和運輸,有效利用電力、水污染監測等功能.
4.2.2 智能家居
智能家居利用大量的物聯網設備,包括照明系統、溫濕度傳感器、安防系統等,來實現對家庭內部情況的實時監控[6].隨著這些物聯網設備越來越多,所產生的數據量也急劇增多,并且這些數據涉及到居民的隱私.因此,如果將這些數據上傳到云中心就會面臨著隱私泄露的問題,而邊緣計算可以很好將計算在家庭內部網關處理,減少數據的外流,有效保護了數據的隱私安全.而智能冰箱、智能電視和智能洗衣機等設備在邊緣側實現智能自動化則需要依靠邊緣智能.
近年來,工業界的很多企業已經推出很多智能家居產品及平臺.例如,京東的Alpha 智能服務平臺、小米的米家平臺、華為的HiLink、阿里巴巴的阿里智能及美的M-Smart 平臺等.
另一方面,學術界也針對智能家居做了大量的研究.Nasir 等人[126]提出了一種基于物聯網和邊緣計算的智能家居功能齊全的內聚系統,該系統采用邊緣設備作為計算平臺,以降低能源成本和提供安全性,并遠程控制安全網關后面的所有設備.同時,該系統在邊緣設備上實現AI 應用程序,從而使智能設備能夠從環境中學習并幫助降低深度學習服務器的成本.該系統分為2 個部分:第1 部分是使用物聯網基礎設施自動連接智能手機應用程序的控制設備;第2 部分是使用深度神經網絡設計一個框架,該框架利用AI 實現深度嵌入式視覺,專門針對資源約束設備進行優化,同時將帶寬和能耗降至最低.
4.2.3 智能網聯車
隨著城市人口的增加和城市的擴張,車輛數量迅速增長.車輛從簡單的出行工具發展成為具有傳感和通信能力的智能實體[127],我們將這樣的新型汽車稱為智能網聯車.現有的車輛對車輛、車輛與基礎設施、車輛對所有等無線通信技術、邊緣計算和AI等運用到車聯網中,可以有效優化車聯網性能.
邊緣計算可以為車輛提供低延時和快速響應的服務.VANET 架構[128]是一種基于邊緣計算的多層異構車輛網絡,其具有動態網絡拓撲,其通信由MANET及其擴展的原理指導.VANET 能夠最大限度地減少通信和計算延遲,并通過促進負載共享、負載平衡和本地化決策來穩定網絡.OpenVDAP[129]是一個基于邊緣的開放車輛數據分析平臺,提供車輛操作系統及邊緣感知應用程序庫,其系統機制可以實現與相鄰車輛、附近路邊邊緣服務器或遠程云服務器上的外部計算實體進行協作,并且允許車輛動態檢測每個服務的狀態、計算開銷和最佳目標,以便每個服務都能夠以適當的延遲和有限的帶寬消耗完成.此外,OpenVDAP 是一個開源平臺,可以為研究人員和開發人員提供免費的API 和真實的車輛數據,實現在真實環境中部署和評估應用程序.
此外, Lv 等人[130]結合AI 技術,提出JDE-VCO車聯網模型.該模型實現在SDVN 架構下進行智能邊緣任務卸載和遷移,JDE-VCO 算法在減少傳輸時延和總卸載能耗方面具有較優效果,可以顯著提高車聯網處理任務和上傳數據時的負載分擔率、卸載效率,減少丟包率和傳輸延遲.車輛的任務卸載服務可以為車輛提供更好的體驗質量(quality of experience,QoE),Li 等人[131]設計的BP-CODS 數據調度傳輸框架,通過盲區預測的輔助和利用邊緣服務器將多車的圖像數據調度給需要的車輛.該框架使用圖卷積神經網絡模型對盲區進行預測以提前調度車輛數據,同時把數據調度建模為上傳和下發過程并構建了集覆蓋問題,目標是最小化下發的數據量.其將車輛數據統一上傳至邊緣服務器中,通過啟發式算法對內容選擇后下發給需要的車輛,可以大量減少數據的傳輸次數,減少數據冗余和減輕網絡帶寬的負載.
農業是國民經濟的基礎,是中國最重要的產業之一.及時獲得農作物的生長情況及產量信息,對于制定正確的國家政策及培育方案至關重要[132].隨著全球人口數據的不斷增加,必須實現糧食產量的大幅度增加.智慧農業[133]可以有效提高作物產量、提高生產力、解決糧食安全問題等[134].智慧農業需要不斷監測、測量和分析各種物理現象,更好地了解復雜、多元和不可預測的農業生態系統.無論是對于短期農作物、農場管理還是更大規模的生態系統觀察,都需要分析農業大數據以及使用最新的信息和通信技術.現有的實踐中,已經采用了遙感、衛星、飛機和無人機等技術來實現對農業環境的監測[134].與傳統的方法相比,近幾年來,深度學習和機器學習一直應用于農業領域.雖然AI 算法可以很好地提升性能,但是其對資源提出了更高的計算和存儲要求,邊緣計算剛好可以解決邊緣設備上AI 應用中的上述問題.
Liu 等人[132]對于無人機遙感(remote sensing,RS)和邊緣智能精準農業的最新發展進行了全面調查.智能無人機RS 與邊緣計算的結合產生了更有效的精準農業應用.現有的研究主要集中在邊緣訓練和邊緣推理上,尤其是機載無人機的推理.另一方面,對于邊緣智能系統和工業生態系統,算法和計算資源是關鍵要素.Liu 等人[132]提出對于精準農業中的邊緣智能,通過聯合學習訓練或改進模型,使分散的邊緣設備和數據中心可以相互協作.
基于第1~4 節對現有工作的全面討論,邊緣智能的優勢顯而易見,不僅可以為人們提供高效的智能服務,而且還能有效保護數據隱私[15].本節將從5 個方面闡述邊緣智能未來的研究方向.
1)將邊緣智能和元宇宙[135]結合.元宇宙是一種集成了各種新技術的新型互聯網應用和社會形式,它具有多技術性、社會性和超時空性的特點[136].元宇宙是一種虛實融合的社會形態,通過虛擬現實、區塊鏈、5G、6G、數字孿生等新技術來創造一個可以與現實世界映射與交互的虛擬世界,實現用戶的良好體驗需要低時延,大量數據的傳輸需要超高帶寬.因此,將元宇宙與邊緣智能結合是一種趨勢,也是未來的發展方向.
2)面向6G 的邊緣智能.5G 的普及使得越來越多的應用享有超低通信延遲,但是隨著通信需求的快速增長,預計到2030 年,5G 的性能將無法滿足未來生活的需求[137].6G 有望提供更多的頻譜資源、智能通信和高級網絡安全,實現全球覆蓋[138].面向6G 網絡的邊緣智能,可以充分發揮邊緣智能及6G 的優勢,為未來世界的需求發揮更大的作用.
3)面向精準醫療的邊緣智能.新型冠狀病毒肺炎引起的前所未有的公共衛生危機,嚴重影響了醫療機構、人們的日常生活和社會經濟活動.這場危機也暴露了現有醫療服務的脆弱性[139],構建強有力的智慧醫療體系至關重要.除了5G 和物聯網傳感器外,邊緣計算可以為智能實時醫療提供低延遲和低能耗保障.此外,可穿戴和嵌入式智能物聯網傳感器可以收集實時數據,包括用戶習慣、移動性和設備使用相關的數據,這些數據通過使用機器學習或深度學習技術進行收集和處理,并告知用戶診斷情況.將邊緣智能用于精準醫療,可以有助于醫療決策更準更快,實現疾病的預防和治療.
4)面向綠色能源的邊緣智能.近幾年,風能、太陽能等綠色能源發展迅速,但是卻面臨著并網困難、利用率和穩定性較低等問題[140].利用邊緣智能,可以有效提升能源利用率以及系統的穩定性.
5)支持區塊鏈的邊緣智能.區塊鏈具有去中心性、不變性及安全性等特征,可以增強物聯網設備的安全性,保護數據隱私[141].將區塊鏈技術與邊緣智能結合,既可以利用區塊鏈提高邊緣智能的可信度,又可以使邊緣設備上運行的AI 算法增強區塊鏈系統[140].
邊緣智能將AI 技術和邊緣計算架構結合起來,既可以借助邊緣計算的低延時、較高隱私性等優點,又可以充分發揮AI 的優勢.本文對邊緣智能的研究進行全面調查.首先,針對現有的研究,對邊緣計算和AI 的基礎進行詳細的介紹,并引出邊緣智能的背景、動機及挑戰,提出邊緣智能基于云—邊—端協同的體系架構,針對此架構提出應對挑戰的解決方案,并將云計算、邊緣計算和邊緣智能三者進行對比總結.其次,分別從邊緣智能問題研究、模型建立、算法優化3 個角度詳細展開邊緣智能相關技術研究的討論,并對代表性工作進行了歸類總結.再次,介紹了邊緣智能安全問題,分別從數據完整性、模型準確性、身份認證和隱私保護4 個方面展開討論.最后,從工業、生活和農業3 個層面展開邊緣智能相關應用的介紹.
對邊緣智能的研究目前還處于早期階段,元宇宙、6G、精準醫療、綠色能源和區塊鏈等新興技術都是邊緣智能未來可以結合的研究點,相信在這些新興技術的助力下,邊緣智能將會迸發巨大的潛力,創造更大的價值.
作者貢獻聲明:張曉東負責相關文獻資料的收集、數據分析及論文的撰寫;張朝昆提出論文思想并修改論文;趙繼軍指導論文寫作.