云計算人工智能邊緣計算實驗課程建設與探索

張志佳　李丹　陳麗

關鍵詞：實驗室建設；分布式教學；智能與邊緣計算

中圖分類號：TP18 文獻標識碼：A

文章編號：1009-3044（2023）12-0167-04

0 引言

高校實驗室是培養學生動手實踐能力的實驗場所，是驗證學生專業課學習結果和能力的工具，被喻為創新能力培養的基礎訓練場、創造先進生產力的培養皿、前沿技術發展的源泉和引擎[1-3]。

傳統的高校實驗課程實踐方式[4]需要在固定的高流動性、聚集性和經常性實踐場所開展，尤其是專業性實驗課，大多需要在專業設備和專業場所進行。隨著云計算技術的高速發展并趨于成熟，課程內容信息化進程已在高校課堂全面鋪開，傳統的線下實驗課授課方式已無法滿足師生需求，實施線上實踐課程教學同時，結合線下實踐是一項十分有效的實踐教學嘗試[5-6]。

人工智能專業實驗室不僅要提供基礎的開發環境，還要提供機器學習、深度學習等人工智能專業實驗課的運算環境以及用于實驗的數據集。這些實驗素材的準備均需專業的人工智能實驗室作為支撐，也需要專業的能夠實現師生互動操作的實驗平臺，普通的實驗室無法達到開展人工智能專業線上實踐課程的要求。

1 支持人工智能邊緣計算實驗課程的實驗室建設

為滿足本學院面向邊緣計算算法和邊緣計算設備構建人工智能人才培養體系的需求，為全校師生解決同專業同時上課同時實踐同時考試，并解決線下實驗室場地有限的問題，沈陽工業大學人工智能學院成立了智能與邊緣計算實驗室，應用人工智能實驗管理平臺進行相關線上實踐課程體系建設、開展分布式實踐教學，以應對學生零散位置前提下的專業實踐課程培養。

1.1 人工智能邊緣計算實驗室構成

智能與邊緣計算實驗室整合了人工智能一體機產品、智能終端平臺，以及FPGA中國創新中心提供的共享資源。

1） 人工智能一體機

人工智能一體機包括人工智能云平臺和硬件平臺。人工智能云平臺支持AI開發全生命周期的管理，可按需提供虛擬機、容器資源、分布式存儲以及資源管理調度，可提供實驗課程常用的AI框架，數據集、模型、算法等，并面向科學研究和實驗教學提供完善的系統管理支撐服務功能。

2） 智能終端平臺

邊緣計算創新實驗室以數據中心和智能終端相結合的方式開展實驗，可開發AI終端項目開發實踐課程、自動駕駛實驗課程、畫像風格遷移實驗設計、無人機實訓課程以及機器人開發課程等。

3） FPGA中國創新中心共享資源

FPGA中國創新中心支持共建聯合創新實驗室，提供公有云資源，即FPGA云實例和云存儲，同時支持學科體系共建。

1.2 人工智能邊緣計算實驗管理平臺技術架構

人工智能實驗管理平臺技術架構共有五層，即實現界面設計的展示層、實現服務功能的業務層、支持人工智能實驗操作的AI平臺層、管理容器化和虛擬機資源的調度層以及構成計算資源的資源層。

1） 展示層

平臺開發采用前后端分離架構模式，前端使用Vue、AngularJS框架開發，通過HTTP和RESTful API 與服務端通信，使用Web?socket 實現服務器與客戶端之間的消息推送。

2） 業務層

后端使用Java開發語言，基于微服務架構設計，主要采用SpringBoot 框架。通過Rabbitmq實現服務間的數據同步，確保數據的一致性。使用MySQL網站數據庫管理系統，使用Redis中間件解決分布式鎖等競爭性問題。使用Nginx實現請求轉發、代理等功能，使用ETCD分布式存儲系統，并與Nginx共同實現動態負載均衡。

3） AI平臺層

AI平臺支持TTS（從文本到語音）、MINIST數據集、FaceNet（人臉識別系統）等人工智能算法，同時支持TensorFlow、Mxnet、Caffe、PyTorch等人工智能框架。

4） 調度層

使用Kubernetes（容器資源調度平臺）實現容器化資源的調度、服務編排、租戶管理等。通過對接Open?stack（云計算管理平臺）實現虛擬機資源的調度管理。

5） 資源層

資源層包括CPU、GPU、FPGA異構計算資源。使用CephFS文件系統實現分布式文件存儲。使用Pro?metheus實現對主機狀態、資源使用情況的監控。

1.3 人工智能邊緣計算實驗管理平臺功能架構

人工智能實驗管理平臺部署的功能架構方案，包括由硬件設備層提供計算資源、存儲設備、網絡設備以及安全設備，依靠人工智能管理平臺提供算力支撐，依托云計算管理平臺提供云主機，支持云主機類型實驗和FPGA 開發板實驗，搭建各種智能實訓場景。

人工智能實驗管理平臺功能架構分為基礎功能和高級功能兩部分。

（1） 基礎功能

①課程管理：包括自建課程和內置課程。

②實驗管理：包括容器類型實驗、虛擬機類型實驗、FPGA開發板實驗。

③支持實驗課程建設的系統管理功能。

④實驗配置。

⑤操作日志。

（2） 高級功能

①AI應用中心系統：使用內置模型預測服務進行預測并獲得預測結果。

②門戶管理系統：根據課程需求定義個性化內容，在實驗平臺首頁展示。

③統計分析系統：統計實驗作業情況和實驗記

錄，便于教師隨時跟進學生的實驗進度。

④實驗自動評測系統：系統自動評測學生提交的實驗作業。

⑤考試系統。

⑥數據集管理系統：業務管理員或教師向數據集中存放實驗所需文件，學生使用數據集中的文件完成相應的實驗作業。

⑦GPU資源池管理系統：開啟GPU復用后支持創建GPU切片實驗，提高GPU使用率，統計并展示GPU使用情況。

2 人工智能邊緣計算實驗課程分布式教學設計與應用

邊緣計算是指在靠近物或數據源頭的一側，采用網絡、計算、存儲、應用核心能力為一體的開放平臺，就近提供最近端服務。這樣能夠在減少請求響應時間、減少網絡帶寬同時，保證數據的安全性[7]。其基本原理是在網絡邊緣的數據產生側對數據進行處理和分析，通過及時響應邊緣側發起的請求，進而實現減少網絡傳輸所產生的時延[8]。

人工智能實驗管理平臺部署的功能架構方案，包括由硬件設備層提供計算資源、存儲設備、網絡設備以及安全設備，依靠人工智能管理平臺提供算力支撐，依托云計算管理平臺提供云主機，支持云主機類型實驗和FPGA開發板實驗，搭建各種智能實訓場景。

人工智能實驗管理平臺結合云技術，提供了不受時空限制的與線下實驗相同的線上實驗操作，是開展人工智能學院邊緣與計算實驗課程分布式教學的應用平臺工具。在線實驗課分布式實踐教學設計包括創建實驗課程、在線授課、在線測試等流程，經過師生在線互動，初步形成了人工智能實驗管理平臺分布式教學的線上實驗教學模式，在人工智能專業學生中展開應用。

2.1 人工智能邊緣計算實驗課程在線創建

授課教師在線創建課程，點擊頁面“新建課程”選項，根據頁面提示補充課程大綱、參考書籍、實驗資料以及實踐內容等信息后，點擊“發布”課程，此為課程建立。

課程一經發布即在平臺可查、可選、可學習，任課教師在課程詳情點擊頁面“排課管理”，需根據不同學期不同教學班的授課安排，點擊“添加分組”，可根據授課時間給上課班級安排課表。至此，所有專業實踐課程所需線上課程資源都已建立。

AILab實驗管理平臺創建的實驗課程，教師和業務員權限可以創建支持虛擬桌面、Jupyter、FPGA開發板三種類型實驗。

① 虛擬桌面：適用于帶有圖形可視化的實驗場景，支持容器/虛擬機類型的實驗環境配置；

② Jupyter：分步執行實時運行，適用于交互式編程類實驗；

③ FPGA 開發板：對接人工智能邊緣實驗平臺后，可操作FPGA相關實驗。

2.2 人工智能邊緣計算實驗課程在線授課

實驗課開課前，需要業務管理員根據在線課程要求創建實驗運行環境所需的鏡像和規格。鏡像是提供實驗運行的環境，規格則是實驗環境中CPU、內存和GPU資源。業務管理員在平臺“配置管理”目錄下分別創建容器規格、容器鏡像。如果實驗需要用到數據集，創建實驗課程還需上傳實驗所需數據集。

授課教師需要在系統提前上傳實驗指導書，并根據實驗課的難易程度，提供可供學生參考的實驗代碼和實驗數據。授課教師可以在線布置實驗作業，布置實驗作業時需要選擇關聯一門實驗課程，實驗作業可以定向定時發布給學生，并要求學生在規定時間內完成。

學生按照實驗課程排課登錄人工智能實驗管理平臺點擊“我的課程”上課，并與教師在線交流。課后在“我的實驗”界面查看老師布置的實驗作業，點擊“進入實驗”，根據要求完成實驗并整理實驗報告書上傳系統，同時上傳必要的實驗代碼和數據集。

授課教師登錄人工智能實驗管理平臺點擊“實驗評價”，根據學生提交的實驗報告、實驗代碼和數據集以及自動評測得分給出最終的分數。教師在批改作業時，可根據學生提交作業的完成度，選擇“推送成績”或“退回重做”。

2.3 人工智能邊緣計算實驗課程在線測試

授課教師或管理員登錄人工智能實驗管理平臺，點擊“創建考試”，根據頁面提示補充考試信息，創建考試完成后“發布”考試。學生按照考試安排，在學生端“我的考試”頁面下查找需要參加的考試，點擊“開始考試”后下載試題所需的代碼和試題報告，并在完成實驗后上傳實驗報告、實驗代碼及工程文件。授課教師可在線或下載學生提交的實驗報告、實驗代碼及工程文件進行檢查，并在平臺系統上在線推送成績。

3 人工智能邊緣計算實驗課程的示范效果與發展方向

智能與邊緣計算實驗平臺實驗室可以實現分布式線上實驗教學[9]。利用互聯網實現一人一機一IP，充分利用實驗平臺的實踐課程設計資源。學生分布式個人PC機可根據管理員劃分的IP地址及賬號登錄Web端，學生通過Web界面訪問后臺實驗管理系統，所有實驗數據、程序等存放在后臺系統，師生可隨時查看修改。

人工智能實驗管理平臺已創建課程可實現資源共享。平臺現已開發包括機器人路徑規劃、EM算法實驗、Logistick回歸實驗、支持向量機實驗以及線性回歸實驗等課程，根據平臺管理員提供的登錄權限，可供本學院學生學習，也可提供給其他專業同學用作專業拓展或創新資源加以利用。

實現實驗課程線下線上教學聯動，共同發展[10]。人工智能實驗管理平臺可以有效地支撐專業實驗教學資源建設，學院力爭線上線下實踐教學同質同效，針對線上教學的特點，及時開展線上線下師生互動，逐步提高實驗課程線上教學質量，并根據線下實踐課程開展情況及時更新線上課程資源，實現線上線下實踐教學突破空間局限，互相促進，最終實現線上實踐課程全校共享。

開展實驗課程分布式教學，促進虛擬實驗環境構建[11-13]。人工智能學院開展的實驗課程分布式教學，是基于人工智能實驗管理平臺基礎上創建的促進線上實踐教學的一種教學手段。該平臺提供的虛擬實驗環境，以人工智能實驗平臺為基礎，幫助學生將智能與邊緣計算的學習從理論掌握到實踐驗證的過渡，將人工智能與邊緣計算有機結合，培養學生動腦動手以及創新能力。

4 結束語

高等教育面對新型教學方式的沖擊和學生對高校實踐課程大環境的需求，利用虛擬化教學資源開展實踐教學，充分利用智能與邊緣計算教學研究與專業實驗室共建發展，組織開展線上實踐教學活動，是高校鍛煉學生實踐能力的最有效方式之一。實驗室發展綜合考慮了人工智能專業學以致用、學以實用等實踐教學目標，線上線下相結合，豐富線上課程資源，同時在產業、學校、科研及實際項目中相互配合，發揮優勢，采用分布式實踐教學方式，通過線上線下聯動，解決學生專業實踐課程培養受限的問題。