一種使能5G的AI深度學習訓練與服務平臺

楊 平，裴 霽（.中博信息技術研究院有限公司，江蘇南京 00；.中國移動江蘇公司常州分公司，江蘇常州 3000）

0 引言

近年來，AI 技術應用于通信網絡的研究取得了重大進展，在網絡運營編排、運維管理、智能化網元3 個層次上，挖掘出越來越多的場景。但在針對5G所要求的快速響應業務變化、簡化網絡運維管理、提升網絡資源利用效率等爆發性需求，運營商還要能夠持續增加業務收入、降低運維成本、優化投資收益，AI則成為電信運營商在應對這些挑戰時必須利用的工具之一。

因此，如何最大化地利用AI 工具使能5G，推行一種使能5G 的AI 深度學習訓練與服務平臺已成當務之急。

1 AI使能5G的應用策略

1.1 基于AI的智能編排和運營

5G 端到端切片智能編排，即AI 工具通過采集數據掌握網絡的實時運行狀況，根據歷史數據和實時數據對網絡業務以及相應的資源需求進行預測和評估，給出適當的建議措施（如網絡切片的擴容、縮容、變更等）。

5G 端到端切片智能運營，即可以通過AI 完成智能化的端到端切片業務開通和按需變更。同時引入智能客服，能夠提供智能化的交流、咨詢、切片套餐推薦服務。

1.2 基于AI的智能天線優化

5G 引入Massive MIMO 技術后，無線側配置參數的pattern組合有了指數級的增加，從3G的幾百種配置到5G 的上萬種配置。AI 可以實現5G 大規模天線復雜參數的智能化配置。

a）智能權值搜索和監控。基于UE 的分布情況，根據覆蓋用戶數最多的原則，搜索和預測最優的水平/垂直波瓣寬度、方位角和下傾角。

b）UE 位置估算和預測。基站周期性收集一段時間內小區內所有UE 的位置信息，基于收集的信息可以估算UE的位置及分布。

c）場景自學習。利用測量信息描繪出終端的大致分布，進一步利用分布識別場景。根據不同場景，推薦最優權值，并將最終的權值反饋到場景識別模塊，使得推薦不斷進化。

1.3 基于AI的智能邊緣計算

邊緣計算具備支持AI運算的能力，使得可以在邊緣節點上，配合中心的DC 以及用戶的終端來做AI 業務的智能優化。

a）本地緩存。基于AI 對用戶的業務流和用戶移動模式進行預測分析，有針對性地確定預存內容和推送內容，從而提高內容分發效率。

b）智能定位。通過位置已知的終端測量的各無線通信系統信號特征，借助AI、大數據收集分析和邊緣計算節點的實時計算能力，利用指紋信息指導實際應用中的終端定位。

c）頻譜感知。邊緣計算節點基于不同無線系統的頻譜測量結果，利用AI技術對各無線系統在不同區域的無線環境特征、用戶行為特征進行分析建模，支撐具體應用場景。

d）業務感知。在邊緣節點上部署高算力的硬件解析資源，結合AI和大數據能力，分析挖掘數據、業務和無線環境之間的內在關聯，提供更為準確的業務特性識別。

1.4 基于AI的智能運維

a）網絡健康度檢查。基于大數據和人工智能技術的網絡健康度分析，預測網格內未來某周期內的小區網絡質量并進行預警，針對質差小區，分析引起質差的關鍵指標及可能的原因。

b）網絡告警關聯和故障定位。傳統網絡運維管理人員分析網絡警告、判斷告警原因、查找告警根源、定位并排除故障，耗時耗力。神經網絡系統通過不斷學習和訓練，計算、翻譯和調整分布于神經網絡當中的連接權值，以整體的方式表達關聯規則和故障診斷結果，準確定位網絡故障。

c）基于AI 的智能基站節能。在5G 基站中，通過AI 輔助的業務分析、場景識別建立一個流量變化模型，來控制載波的智能關斷，從而降低基站功耗。

2 深度學習訓練與服務平臺

2.1 總體技術框架

基于AI 的深度學習訓練與服務平臺利用AutoML等相關技術，通過硬件虛擬化、算法服務化以及軟件平臺化等相關技術，在支持Tensorflow、Torch/Pytorch、MxNet、PaddlePaddle 等深度學習框架的基礎上，提供通用的網絡模型（如VGG、LSTM、seq2seq、Inception-Net、mobileNet）支持，并支持多種不同數據結構的數據預處理和標注。

整個平臺包括硬件層、數據/算法層、模型訓練層以及模型部署層，以及貫穿各個不同層次管理相關功能，如圖1所示。

硬件環境層主要通過虛擬化的方式提供本地的GPU計算環境，或者直接訪問云端的相應計算環境。

數據與模型層主要包括樣本數據中心和模型算法管理中心。樣本數據中心從樣本的種類來說，支持圖像樣本數據和文本樣本數據，從數據模型角度來說，支持文檔數據、圖數據庫、對象數據庫等。模型算法管理主要包括模型庫和相關的模型配置庫。模型庫中的模型支持tensorflow、pytorch、Caffe 以及CNKT等多種不同的深度學習框架，并涵蓋了多種常用的網絡結構。平臺將提供對樣本數據以及模型的相關管理功能，如查詢、更新、新建、導入導出等。

模型訓練與優化層主要是算法的開發人員根據應用需求，檢索相應的模型以及模型配置信息，采用相應的數據標注工具，生成特定的標注數據，并基于此數據，選定特定的模型以及相應的實現框架，通過人工或自動的方式對模型的超參數進行選擇，并對模型訓練結果進行相應的評估，來實施對模型超參數（如學習率、隱含層層數，卷積核大小等）的調節，從而構建出最優化的深度學習模型。

圖1 平臺總體框架

模型部署與服務提供層主要針對最終的模型用戶。該層主要將模型訓練層所得到的最佳模型進行打包部署。部署的模式有2種：基于WebAPI的部署和離線SDK 部署。基于WebAPI 的部署將模型部署在平臺環境中，并利用平臺所提供的軟/硬件環境和相關的計算資源，為用戶提供服務，用戶可通過OpenAPI的方式來調用和使用服務。離線SDK 將和模型運行相關的所有軟件環境打包，并通過SDK 的方式部署到用戶的生產環境中，利用用戶自身的硬件資源來進行計算。離線SDK可以脫離本平臺環境獨立使用。

2.2 平臺主要功能

端到端的深度學習訓練和服務平臺將在分析現有模型和框架的基礎上，為用戶提供統一的模型和框架選擇結構，并進一步給出模型所需要設定的超參數集合以及參數的選擇范圍。主要包括以下功能。

a）數據處理與數據標注。完成對樣本數據的標注處理，并將標注后的數據根據模型需要轉換成特定的格式。深度學習模型的訓練和應用依賴于海量的數據積累，特別是對于模式有監督學習，還需要對海量數據進行標注。深度學習所采用的網絡模型和算法根據確定樣本數據的格式和標注方法，我們將通過分析現有的模型和樣本數據的關系，建立起常用的數據格式，并提供相應的樣本標注工具來生成相應的標注數據。項目將根據業務的需求構建多種不同的樣本標注工具，包括圖像的標注工具，文本的標注工具（包括文本的意圖標注、文本的情感標注、文本的命名實體標注、文本的語言模型標注等）。

b）模型選擇與優化。根據應用需求，選定相應的深度學習框架和網絡模型結構，并對模型的超參數進行調優，內容涉及模型的訓練、評估、對比以及模型調參。隨著深度學習技術的不斷發展，深度學習框架越來越多，不同的框架所生成的模型都有所不同，需要支持這些不同框架所提供的深度學習模型。另一方面，為了滿足業務的需求，研究人員已經提出了大量的網絡模型。針對不同的業務需求，開發人員需要對網絡機構和深度框架進行選擇，該選擇需要開發人員具有全面的網絡和框架基礎。平臺在分析現有模型和框架的基礎上，為用戶提供統一的模型和框架選擇結構，并進一步給出模型所需要的設定的超參數集合以及參數的可能選擇范圍。

c）模型的部署和服務。根據應用的需求，將訓練好的模型進行一鍵部署，為用戶提供WebAPI 或者離線SDK供客戶端調用。

2.3 重點解決問題

平臺針對特定的5G應用領域，提供端到端的深度學習訓練和服務，降低深度學習模型構建和訓練的門檻，重點解決了以下問題。

a）標準化的數據管理與數據標注，為深度學習提供標準的數據樣本。

b）智能化的模型選擇與模型優化，實現深度學習模型超參數的自動選擇和優化。

c）自動化的模型部署與服務提供，提供模型的部署意見，并按需提供模型服務功能。

3 實際應用案例

平臺使用戶可以快速地基于自己的數據來構建并訓練得到滿足用戶需求的最佳深度網絡模型，最終開發5G領域的人工智能應用。

實際應用案例為某省運營商的基于訓練服務平臺的智能電話機器人系統。

本系統是智能機器人+呼叫系統+報表展示三位一體的智能調研應用，助力企業提升用戶回訪效率，降低成本，實現降本增效。模型的核心是讓機器人正確理解用戶所希望表達的意圖，并基于理解的結果根據業務邏輯作出相應的反饋，目前在意圖識別中采用了基于CNN、RNN/LSTM 等多種不同的模型結果，如圖2所示。

圖2 智能機器人模型

為了實現業務邏輯和算法之間松散耦合性，我們利用有限狀態機的方式來對不同的業務場景進行建模，如圖3所示。

圖3 業務場景建模

系統模擬測試用例：某省運營商綜合滿意度回訪，問卷內容為綜合滿意度、NPS、各服務環節滿意度+不滿原因追問，成功樣本量達到1 000本。

經過測試，達到以下指標。

a）機器人電話接通率與人工相當，達到50%。

b）機器人問卷成功率為14%，略高于人工（10%）。

c）機器人成功樣本平均用時6 min，低于人工的7～8 min。

d）機器人4 條線路，每條線路日均成功量30 個，日均成功量共計120 單，執行周期從原來13 天（4 個人工客服）壓縮為8天。

4 結束語

本文研究并實現了一種使能5G 的AI 深度學習訓練與服務平臺。該平臺經通信實際項目應用檢驗，具備海量、高并發、安全可靠的運行能力，可廣泛應用于5G建設與維護領域。