院士眼里的網絡安全

信集

倪光南、鄔江興、方濱興、楊小牛等四位中國工程院院士分別就網絡安全技術、世界觀與人工智能等主題進行系統闡述

作為2019“西湖論劍”大會的一大亮點，“院士圓桌”環節將論壇推向了高潮。倪光南、鄔江興、方濱興、楊小牛四位中國工程院院士分別就網絡安全技術的可控性安全性、針對網絡攻擊不確定性進行擬態技術防御、網絡安全領域三維九空間和內生安全、網絡安全世界觀與人工智能等主題進行系統闡述，并進行高端對話。

倪光南：貫徹落實“4·19講話”精神，為建設網絡強國努力奮斗

三年前，習近平總書記在關于網信工作的“4·19”講話中指出：“互聯網核心技術是我們最大的‘命門，核心技術受制于人是我們最大的隱患。”

最近，通過美國制裁中興等事件，人們大大加深了對總書記這一重要指示的認識，各行各業紛紛結合實際情況，積極部署安全可靠應用推進工作，旨在用自主可控的網信產品和服務替代原先壟斷市場的非自主可控的產品和服務。可以預計在一個時期里，我國網信領域出現這類替代將是一種新常態，這是因為，網信領域到市場是高度壟斷的，這使新產品和服務必須具備打破壟斷的能力，否則就無法進入市場。

當然，對于以人工智能為代表的新一代信息技術而言，由于尚處在起始階段，壟斷往往來不及形成或不大明顯，這有利于我國相應的企業進入市場與世界同行進行競爭，不過如某些方面我們的發展不夠快，落在別人的后面，被別人壟斷了市場，那么今后也有可能會面對新的壟斷、需要實行新的替代。

中國網信領域的企業和廣大科技人員應當有決心、有信心，以百折不撓的勇氣，通過自主創新，徹底解決網信核心技術受制于人的問題，這樣才能使中國從網絡大國發展成為網絡強國。

鄔江興：要解決網絡空間最大的不確定安全威脅問題，必須從未知后門漏洞防御做起。

網絡空間安全的本源問題主要來自四個方面：一是軟硬件設計缺陷導致的安全漏洞不可避免。據統計，安全漏洞產生數量正比于軟硬件產品的數量和規模，呈彌漫態勢擴散到整個網絡空間。二是產品提供者蓄意設計或生產過程帶入的“暗功能”。經濟技術全球化時代，開放式產業生態環境，不可能徹底管控或消除后門、病毒木馬等問題。三是窮盡或徹查目標系統軟硬件代碼問題，在可以預見的將來，仍然是難以克服的技術挑戰。四是現有互聯網體系都是由美國人創造的，對逐步推動美國人開放互聯網治理體系，不能抱有太大期望。根本出路是在全球治理前提下打造新一代的、各國自主可控的、安全可信的網絡技術和服務體系。

同時，信息系統安全困局的核心問題在于無論是防護對象還是附加型防護設施本身就沒有感知未知威脅的感知功能。防御手段的有效性嚴重依賴威脅感知和特征提取準確性及實時性，沒有先驗知識支持，防御系統根本不知道。因此我們提出擬態構造內生安全機制，希望通過“構造決定安全”的內生防御效應，顛覆基于目標系統軟硬件漏洞后門等“暗功能”的攻擊理論和方法，從而改變網絡空間的游戲規則。

當然，面對正面的網絡攻擊，我們還是認為應該采用正面防御，該用密碼或量子密碼的還是要使用。因為只要是可以計算的，總是可以破解的，只是時間問題。但面對“歪門邪道”的攻擊，我們可以采用擬態構造來防范。因為擬態構造內生安全機制是一項賦能技術，在我們技術水平和認知水平有限的情況下，可以減弱對設計人員的苛刻要求。擬態的核心是構造技術，利用三角形“內生性安全功能”，構造具有穩定性的網絡空間，用構造技術解決構建技術不能解決的問題。

此外，我們還發現，近幾年人工智能、大數據等新概念不斷涌現。當年我們隆重推出互聯網的時候，大家歡欣鼓舞。但“互聯網+”發展到現在，我們發現“+”出了許多問題。所以，現在人工智能的發展，我們應該考慮是否存在一些潛在的危害。比如，目前人工智能進展最快的事是深度學習DPR，這方面跟訓練模型強相關，一旦訓練模型有稍許變化，識別就會大相徑庭。此外，把科學方式推斷到了四范式的大數據也有類似的問題。科學第一范式是科學觀察，第二范式是實驗，第三范式是模擬仿真，第四范式則是大數據。過去，我們認為應該知其然必知其所以然。但大數據卻讓我們只要“知其所以然”就可以，用不著“知其然”。那么就會出現這個數據到底是真理還是謬誤的問題，大數據的決策將無法幫助我們，反而帶來困惑。

所以無論是人工智能還是大數據，新的技術出現之后，都有內生問題，都有副作用，這些應該在發展的同期一起解決。正如習近平總書記講過的“網絡安全和信息化是一體之兩翼，驅動之雙輪，必須統一謀劃、統一部署、統一推進、統一實施”。

方濱興：安全既是賦能，也是伴生。要用好它的賦能向正向發展，還要抓住它的伴生性，要及時發現它的內生安全問題。

我覺得現在大家需要注意人工智能的內生安全問題。我們知道，人工智能大量的機器學習，依靠的是神經元網絡。但是這種開放式訓練，往往會導致一些奇怪的結果。因為人工智能在分類是，往往由于一些細微的，人根本看不出的改動，就分到別的類別。比如有個典型案例，一個寫著STOP的標簽，上面貼了兩個小廣告，人看到的還是STOP，自動駕駛在遠處看到就是限速45公里，只有在最近一米的時候，才看到是STOP。所以，當神經元網絡乘數越高，放大乘數越強，在開放訓練時就越容易數據污染。這是目前人工智能內生安全需要集中解決的。

楊小牛：網絡安全問題是長期的事情，所以需要大家不斷地努力，共建晴朗的網絡空間。

人工智能等新技術帶來了新的安全問題。美國國防部于2017年4月26日，專門成立了跨部門的特別小組，來研究算法戰，因為人工智能最重要的就是算法，比如無人作戰平臺、目標識別、威脅情報分析等。從公開資料看，算法戰并沒有說要研究算法博弈問題，但既然將之稱為算法戰，也就是說這是一種作戰形態，肯定都存在攻防雙方的博弈。以后，我們無論是研制出來的機器人還是各種目標的識別算法，都可能面臨對抗博弈的環境，由此帶來的安全問題可想而知。特別是生成式對抗網絡的出現及其廣泛應用，使得人工智能領域的對抗博弈會更加白熱化，需要引起大家的足夠重視。