AI開啟智能安全時代新篇章

網絡安全作為網絡強國、數字中國的底座，將在未來的發展中承擔托底的重擔，是我國現代化產業體系中不可或缺的重要組成部分。隨著AI技術的進一步發展，國內外主要網絡安全企業在開發和引入AI能力、強化自身網絡安全產品和能力的同時，進入AI安全的新賽道。

5月23日，現代新國企·AI賦能網絡風險防控建設研討會在深圳召開。會議由國務院國資委新聞中心指導，《國資報告》雜志社主辦，中國聯通、華僑城集團聯合承辦。來自網絡安全監管部門、產業界、學術界、電信行業以及大模型領域的專家學者，就人工智能如何賦能網絡風險防控建設展開熱議，來自國資央企和網絡安全企業的260余位有關代表參加會議。

與會專家認為，伴隨著人工智能技術的快速發展，網絡安全的“攻與守”已經進入了新階段。面對AI帶來的新機遇、新挑戰，防守方需要利用大模型快速構建出安全能力。對此，國企需要聚焦AI自身風險防控和賦能網絡安全，持續構建全面的安全防護體系，推動網絡安全防護向智能化演進。

人工智能時代網絡安全的“攻守道”

人工智能作為新一輪科技革命和產業革命的代表性技術，已經開始廣泛應用于金融、醫療、制造等多個領域。同時，AI技術帶來的安全風險，如惡意軟件和網絡攻擊手段也在不斷演變。

“這對于政府、企業和社會的網絡安全構成了日益嚴峻的挑戰。”中國聯通集團網絡與信息安全部總經理苗守野指出，AI賦能安全將成為重構網絡安全防護體系的核心驅動力。AI可以通過機器學習和深度學習技術實現自動化防御，快速響應威脅，并持續學習和適應。

伴隨著全社會數字化轉型的加速，傳統的網絡安全防護手段，已經無法滿足當前需求。業界認為，AI賦能安全具備廣闊的應用前景。

根據MarketsandMarkets報告，2023年全球網絡安全人工智能市場規模為224億美元，預計在預測期內復合年增長率為21.9%，到2028年將達到606億美元。2025年前，AI自動執行日常事件響應任務將成為主流，縮短響應時間，最大限度地減少手動錯誤，同時整合可解釋的Al，以提高透明度，促進更好地了解威脅檢測機制。2028年前，網絡安全企業將能夠更多地使用聯合機器學習模型進行協作。2030年前，AI將與數據安全能力緊密結合，以確保敏感數據的保護和數據交易的安全。

“AI技術不僅能夠提升安全運營的智能化水平，還能應對復雜的網絡攻擊，提升風險防控能力。”中國信息通信研究院人工智能研究所安全與元宇宙部主任石霖強調，隨著AI技術的發展，網絡安全產業面臨新的挑戰和機遇。AI技術的發展也帶來了新的安全風險，包括數據泄露、技術濫用等。因此，建立AI安全風險管理體系，具有新的重要性。

進可攻、退可守，這是人工智能作為工具屬性的兩面。

“AI技術不僅為攻擊者提供了新的攻擊手段，也為防御者提供了新的防御工具。”聯通數科安全事業部CTO周凱表示，隨著人工智能技術的快速發展，網絡安全攻防對抗已經進入了一個新階段。他強調，AI技術已成為網絡安全領域的關鍵因素，對攻防雙方都產生了深遠影響。

隨著AI技術的快速發展，網絡攻防對抗已經進入新階段。深信服副總裁、研發體系總經理梁景波表示，有攻擊者已經開始利用大模型技術來提升攻擊能力，例如通過大模型生成的高對抗樣本能夠繞過現有安全設備。另一方面，AI技術也被用于安全運營，幫助提升運營效率和響應速度。

安恒信息首席安全官、高級副總裁袁明坤認為，“AI大模型的賦能是解決安全問題的關鍵，它可以幫助人員、工具、平臺系統性地提升安全管理、技術和運營能力。”

AI技術為安全領域帶來了革命性的變化，通過自動化和智能化手段，大幅提升了安全事件的響應和處理速度。綠盟科技集團副總裁宮智表示，AI技術不僅能提升安全運營的效率，加強實戰對抗能力，還可以有效輔助安全研究，挖掘潛在漏洞和風險。

“大模型+”網絡安全

在網絡安全領域，如何將大模型的能力引入并賦能網絡安全技術和產業發展，已經成為網絡安全界的熱門話題。

大模型通過其強大的語義理解、代碼分析和復雜推理能力，顯著提升了網絡安全的效率和精度。它們能夠自動化地收集和分析威脅情報，提高威脅監測的及時性和準確性。同時，通過自然語言交互簡化安全設備的運營，降低安全運營成本，提升響應速度。促進安全知識的共享和合作，加強安全團隊的協同工作能力。

大語言模型之所以受到廣泛關注，是因為它們與早期AI系統相比，已經展現出超越特定任務的能力，向著通用人工智能（AGI）的方向發展。

公安部第一研究所科信中心信息安全部主任胡光俊表示，大語言模型在未來的應用場景主要體現在三個方面：一是知識增強，極大地擴展安全分析視野；二是能力增強，讓攻防對抗更智能高效；三是效率增強，可推動安全運營走向“自動駕駛”。

“但是大模型有其局限性，如不能預測未來、缺乏復雜計算和推理能力等。”復旦大學教授、MOSS大模型負責人邱錫鵬進一步討論了大語言模型的內在智能，強調了語言在人類認知和知識表示中的核心作用。

“AI大模型能夠提供更智能化的安全防護，有效輔助安全運營，緩解人才缺口。”石霖在論壇中詳細介紹了AI大模型在網絡安全領域的應用情況，包括安全知識問答、安全工具調用、安全數據分析等。

人工智能是一把雙刃劍，其帶來的安全風險不容忽視。中國移動信息安全管理與運行中心處長張峰提醒，大模型可能存在數據泄露和技術濫用等風險，需要行業共同努力，加強算法安全管理、數據全生命周期保護，以及防范技術濫用。

對于數據集和語料的重要性，周凱認為，要充分發揮AI技術在安全領域的潛力，需要從國家或產業層面共享和整合數據資源，建立標準化的語料庫，以支持AI模型的訓練和優化。

面對AI帶來的新挑戰，防守方需要利用大模型快速構建出突變級的安全能力。梁景波介紹了深信服在這方面的探索和實踐，包括開發安全GPT大模型，聚焦外部流量檢測和釣魚檢測兩大場景，在實戰中展現出強大的推理和理解能力，顯著提升了檢測的準確率和效率。目前，深信服正在開發數據安全相關的大模型，如云原生安全平臺和零信任平臺，并計劃在今年下半年發布。

關于大模型的可解釋性和數據安全問題，宮智提到了AI技術在安全領域應用中面臨的挑戰。他提出，要確保AI技術本身的安全性，需要從訓練、部署到應用各個階段進行細致的安全考量和風險評估。綠盟科技開發大模型安全評估工具（LSAS），同時采用大模型與小模型協同聯動的方式，提高AI技術在安全運營中的效率和效果。

AI賦能安全運營實踐

國有企業特別是中央企業，是我們黨執政興國的重要支柱和依靠力量，對維護國家網絡安全具有義不容辭的責任，近年來在技術攻關、產業賦能等領域進行了各類有效探索。

中國聯通依托產業鏈鏈長的能力和資源優勢，探索和實踐AI賦能安全新路徑。實踐中，中國聯通將AI創新納入公司內部發展規劃，并將其作為網絡安全現代產業鏈鏈長能力建設的重要方向之一。通過構建隱私數據檢測、對抗樣本攻擊等AI安全檢測防御能力，中國聯通正致力于推進安全防御和安全檢測的智能化。中國聯通研究院副院長葉曉煜指出，“中國聯通在履行鏈長職責中有四條路徑：技術固鏈、技術補鏈、融合強鏈和優化塑鏈。”

聯通數科則積極探索AI技術在安全運營、安全攻防和安全代碼開發等三大場景中的應用。在會上，周凱介紹了元景網絡安全大模型，旨在通過AI技術提升安全運營的智能化水平，增強對網絡攻擊的防御能力，并提高安全代碼的質量和開發效率。在安全運營方面，利用AI技術對安全事件進行過濾、分析和響應，顯著提高了運營效率。在安全攻防方面，周凱指出：“AI技術可以幫助構建更加精準和高效的防御體系，將探索如何利用AI技術進行滲透測試，以發現和修補安全漏洞。”

“通過AI技術，可以實現安全事件的快速響應、自動化處理和智能化分析，從而提高安全運營的效率和效果。”石霖分享了中國信息通信研究院在AI賦能網絡安全運營方面的觀察和探索。

中國移動作為全球領先的電信運營商，積極響應國家戰略，通過打造國資人工智能大平臺、建設超大智算中心，以及攻堅大模型，不斷推動人工智能技術的原創研發。中國移動已經成功將AI技術應用于網絡調優、客服以及政務等多個領域，顯著提升了服務效率和質量。

“國內外的法律法規為人工智能的發展提供了指引。”對此，張峰說，中國移動也提出了自己的AI治理安全體系框架，聚焦AI自身風險防控和賦能網絡安全，通過六大安全防護措施，構建全面的安全防護體系。

安恒信息在安全運營模型方面的嘗試，包括將云端服務能力、態勢感知、管理協調產品、全鏈路產品與安全設備告警統一連接，形成標準化流程和資源，持續推動云端能力改進和數據優化。現在，安恒信息正在構建一個共生彈性的智能體，通過AI大模型讓產品和服務具備持續的生命力。“未來的安全產品設計必須緊密結合AI，實現從輔助駕駛到自動駕駛的轉變，提供綜合分析研判的結果，減少對人工判斷的依賴。”袁明坤說。

宮智也提到，通過應用AI技術，可以實現從輔助駕駛到自動駕駛的轉變，有效降低成本，提高安全運營的自動化和智能化水平。比如，綠盟科技在安全運營平臺應用AI技術后取得顯著成效，收獲了超過97%的降噪率和21%以上的敏感數據識別率。

建設人機共治的安全未來

跨模態融合、智能體的具身化、人機共治……AI技術在安全領域應用的前景廣闊。

AI技術的發展需要與網絡安全治理相結合。“加強AI治理研究，推動AI安全治理標準化，以及開展AI安全技術的研究和應用。”石霖對未來AI賦能網絡安全的發展前景進行了展望。他預測，AI技術將在網絡安全領域扮演越來越重要的角色，成為提升網絡安全防御能力的關鍵因素。

人機共治的創新模式，是網絡安全實戰化、體系化、常態化主動防御能力的未來趨勢。苗守野提出，隨著AI技術的成熟，將形成“大模型+小模型+安全攻擊”的協同作戰新模式，實現人機共治，建立更高效、精準、主動的網絡安全防御體系。中國聯通將繼續從攻防對抗本質出發，圍繞安全運營、安全攻防、安全代碼開發等方面，拓展AI賦能安全業務應用場景，推動網絡安全防護向智能化演進。

對于大模型的未來發展，邱錫鵬教授分享道：“將構建能夠模擬和理解環境的模型，并在此基礎上實現決策和預測。構建世界模型所需的研究方向，包括尋找新的技術架構、數據治理、與人類學習和價值觀對齊，以及與現實世界的交互能力。”通過這些研究，邱錫鵬教授希望能夠推動大語言模型向更高級的智能系統發展，為未來的網絡安全和其他領域帶來革命性的影響。

“同時，人類必須保持警惕，確保AI技術的安全、可靠和可控，以實現其在網絡安全領域的積極作用，為社會創造更大價值。”張峰強調，面對人工智能帶來的變革，要堅持科學發展與倫理約束相結合。

通過AI技術的賦能，可以開啟智能安全時代的新篇章。周凱在會上呼吁業界共同努力，推動AI技術在網絡安全領域的應用，共同應對日益復雜的網絡安全挑戰。

最后，袁明坤提出了三點展望：“一是AI發展要正本清源，確保算法的公正性和倫理性；二是數據是核心資源，高質量的數據標注和安全語料對AI的公平性、有效性和安全性至關重要；三是安全理念要與時俱進，利用AI技術實現從被動防御向主動防御的轉變。”