疫情大考下的人工智能應用和安全思考

魏薇，牛金行，景慧昀

（中國信息通信研究院，北京 100191）

1 引言

近年來，伴隨數據量爆發增長、算力顯著提升以及深度學習算法的突破性應用，人工智能技術獲得了長足發展，但目前主要應用于人臉識別、語音識別等有限場景，新冠肺炎疫情防控為人工智能技術提供了特殊應用場景和實際使用需求。人工智能憑借自主學習、快速感知、實時決策和人工替代等優勢，在防疫工作中為病患診斷救治、疫情防控保障、企業復工復產等環節賦能助力，發揮出不可或缺的重要作用。同時，人工智能在疫情防控應用中暴露出一定的安全問題，需及早探索安全管理，保障產業穩步發展。

2 智援疫情

2.1 直接應用抗疫一線，增強診斷救治能力

（1）提升檢測診斷效率。百度免費開放線性時間算法，將新冠病毒的全基因組二級結構預測從55分鐘縮短至27秒，加速新冠病毒研究和變異檢測。基于計算機視覺算法的智能醫療診斷系統可實現單病例肺部CT量化結果的秒級輸出，大幅提升新冠肺炎診斷效率。

（2）加快疫苗新藥研發。疫情期間，藥物研發機構聯合阿里、百度等企業共同攻關，利用人工智能技術強大的分析預測能力，進行蛋白質變異分析、活性分子篩選等工作，滿足疫苗新藥研發過程中海量數據分析和科學超算的需求，全面加速研發進程。

（3）提供醫護輔助服務。針對醫護人員不足，無人車、服務機器人等智能產品在重點醫院中得到廣泛應用，可實現無接觸、全天候的醫療物資配送、防疫清掃消毒等醫護服務，減輕醫護人員的工作壓力，并降低交叉感染風險。

2.2 優化疫情防控方式，提升服務保障能力

（1）輔助基層人員排查。智能外呼機器人被大量用于基層社區的電話群呼調查回訪工作中，日撥打能力可達萬余次，并基于采集信息，進行風險分析預判，排查可疑問題和可疑人員，實現精準智控。

（2）提供疫情咨詢服務。阿里、騰訊等企業推出線上智能咨詢系統，利用語義分析、語音合成技術，提供疫情動態、防護指導、就醫問診等問答服務，并基于話題跟蹤技術，識別并破除疫情謠言，協助開展防控宣教，營造良好的社會輿論環境。

（3）優化物資調度配送。針對全國捐助物資調度配送效率不高的問題，杉數科技免費開放PonyPlus智慧物流調度平臺，基于優化求解器算法智能化調度決策過程，運輸排班用時從小時級大幅縮短至10分鐘以內，并優先保障重點地區需求，為戰疫勝利提供高效的物流保障。

2.3 推進企業復工復產，賦能快速恢復產能

（1）防控復工人員感染。在火車站、地鐵站以及園區入口等人流密集場所,基于“計算機視覺+紅外技術”的新型測溫可非接觸、高效快速的開展體溫檢測，并對發熱人員進行識別、預警，防控復工人員聚集感染。

（2）助力企業產能恢復。針對疫情期間用工缺口，大量制造企業特別是應急醫療用品企業開始采用自動化的智能生產裝備。在山東、廣東等省的口罩生產企業中，基于計算機視覺的自動口罩機可實現單機日產10萬只，有效地提升了產能，緩解了醫療防護物資緊張的狀況。

3 問題分析

3.1 部分產品智能不足制約其防疫期間大規模應用

（1）防疫服務機器人智能水平和應用規模有限。當前，消毒清潔、送藥送餐等防疫服務機器人尚未有效地解決自適應未知場景、人類行為理解與預判等智能難題。此類機器人主要還是完成固定機械類工作，其正常運行嚴重依賴應用場景的地圖掃描、路徑規劃等人為工作。這使得防疫服務機器人無法快速大規模部署，只在少量醫院試點應用。

（2）國產醫療機器人智能程度距離防疫實用仍有差距。相比美國第一例新冠病人全程由醫用治療機器人輔助完成救治，我國手術機器人、采血等輔助機器人在多模信息精準感知、柔性控制精細操作等關鍵智能化技術方面存在不足，用于病人治療的國產機器人數量少，難以滿足突發疫情的大量治療急需。

3.2 網絡安全風險在智能防疫應用中不容忽視

（1）智能防疫應用潛藏數據泄露隱患。智能防疫產品應用中需獲取大量人臉、CT影像、交通出行等個人敏感數據。部分疫情創新應用系統在緊急上線情況下缺少或者簡化安全檢測流程，安全防護能力不足。據中國信通院檢測發現，部分智能防疫應用存在個人敏感信息可公開下載、敏感信息明文傳輸等突出的數據安全隱患。

（2）部分智能防疫應用遭受網絡攻擊。防疫物資免費發放信息平臺等智能防疫應用上線初期就遭受黑客攻擊，致系統癱瘓，用戶無法訪問。疫情防控期間，我國安全廠商監測到多起境外組織意圖竊取我國醫療、政府等領域數據的境外APT攻擊。

3.3 智能算法安全風險應及早防范

部分智能防疫算法魯棒性弱，對抗樣本可使其產生錯誤輸出。目前，在智能測溫、智能診斷等防疫產品中，人體檢測、人臉識別、圖像分類等基于深度神經網絡的機器視覺算法已廣泛應用。然而，研究者通過真實案例證明對抗樣本可使這些智能算法產生錯誤輸出。2019年，華為研究者證實在佩戴的口罩或者額頭上粘貼特殊圖案可導致人臉識別算法失效。一旦這些方法被惡意利用，將危及智能防疫產品輸出結果的準確性和可靠性。

3.4 智能創新應用的安全管理機制亟需完善

為解決疫情防控應急之需，無人消毒車、防疫服務機器人、智能醫療系統等大量智能產品支援抗疫。但是，政府部門現有的管理機制無法有效應對智能創新應用的應急審批需求，多采取簡化審批緊急許可，這在管理層面為智能產品安全埋下隱患。而美歐國家的人工智能安全監管原則均以基礎性安全監管為主，可借鑒的意義不大。因此，面對智能防疫工作引出的安全管理難題，如不能通過制度創新補足短板，將會因管理失位而導致智能產品安全問題。

4 思考建議

4.1 促進人工智能技術加快推廣應用

（1）促進傳統行業智能化轉型。針對疫情期間出現的用工難題，深入對接工業制造、物流配送等行業需求，總結疫情防控工作中人工智能優秀應用案例，示范推廣，深化融合，推動傳統人力密集型行業智能化改造升級。

（2）推進人工智能新興產業的發展。結合疫情防控實踐的經驗，持續改進智能醫療、智能客服、無人駕駛等新興行業的產品能力和用戶體驗，提高社會公眾對無人化、無接觸服務的認可程度，依托國家“新基建”規劃，不斷壯大人工智能新興產業規模。

4.2 著力提升人工智能基礎核心能力

（1）加強人工智能基礎核心能力研究。針對人工智能應用在疫情防控中出現的智能程度不高、可靠性弱等問題，加大基礎核心技術的研發力度，研究發展魯棒性強的通用人工智能理論和算法，提升智能產品的環境適應能力和認知決策能力。

（2）加強人工智能基礎環節生態建設。本次疫情防控期間，人工智能頭部企業紛紛開放算力、算法、框架等基礎資源，發展合力效果顯現，應用水平快速提升。借鑒于此，應強化應用牽引，推進人工智能基礎環節生態整合建設，支撐我國人工智能產業自主化、規模化發展。

4.3 建設完善智能產品安全管理體系

（1）加強智能產品安全管理。總結疫情防控應用管理經驗，健全人工智能安全管理體系，結合實際領域的應用，加快建立特種服務機器人、無人物流運輸車等智能產品的應急安全管理機制，明確政府相關部門管理職責和審批權限。

（2）加快智能產品安全檢測。盡快出臺智能產品安全風險檢測規范，引導企業自測和第三方檢測相結合，大力推廣為防疫服務相關智能產品和創新平臺提供安全檢測快速服務。

（3）提升智能產品安全監測預警等能力。研究建立智能產品的安全風險監測預警、快速處置、追蹤溯源等機制和技術能力，及時發現和消除安全隱患，對惡意行為和責任者加強懲戒。

5 結束語

疫情防控既是人工智能技術產品應用的“練兵場”，也是人工智能產品智能化水平、安全可靠程度的“試金石”。智能防疫不僅解決了疫情防控燃眉之急，更是發展智能制造、實現智能醫療等國家戰略達成的重要推動。本文歸納了新冠肺炎疫情防控工作中人工智能技術及產品的應用場景和賦能成效，總結分析了智能防疫應用中存在的問題和安全風險，并結合疫情防控實踐，有針對性的提出促進人工智能應用并保障安全相關的思考建議，對于穩步推進人工智能技術產業的長遠發展具有一定借鑒意義。