全國政協委員、奇安信集團董事長齊向東：守護AI創新“草根化”趨勢

出差是全國政協委員、奇安信集團董事長齊向東生活的常態。他記得，過去坐火車是一件繁瑣的事——排長隊買票、檢票、驗票，但現在“刷臉”“刷身份證”就可以讓出行一路暢通，城市正變得越來越“智慧”。

“這種變化，正是智慧城市的一個縮影，它為人們帶來了便捷，但背后也隱藏著巨大的安全風險。”齊向東向 《中國經濟周刊》記者直言。

作為網絡安全專家，齊向東深知，隨著人工智能等創新科技融入千行百業，平衡技術創新與安全風險必會成為重要課題。今年全國兩會，他圍繞人工智能安全和軟件產業健康發展等議題建言獻策。

人工智能安全隱患引關注，三大風險需警惕

近年來，我國人工智能創新成果不斷涌現，能力邊界不斷擴展，加速賦能千行百業。

“人工智能是引領未來發展的顛覆性技術和前沿技術，也是注定要走進千家萬戶的關鍵共性技術。”齊向東說，在傳統產業數字化轉型進程中，人工智能已在研發、生產、管理全環節廣泛應用，涌現出上百種場景和模式。但人工智能也大幅提升了網絡攻擊的烈度和廣度，網絡攻擊窗口擴大、網絡攻擊手段革新、網絡犯罪門檻降低等問題，給傳統產業發展帶來新風險、新挑戰。

在他看來，人工智能快速發展的同時也暴露出諸多安全隱患，主要集中在三大類風險。

齊向東說，第一類是人工智能大模型自身的安全問題，“其中開發風險、數據風險、應用風險和基礎環境風險尤為突出”。

他舉例稱，如在開發方面，開源大模型需重點防范代碼缺陷和預留后門等問題；在應用方面要警惕“內鬼”對訓練數據“投毒”、模型篡改以及配置篡改的風險；在數據方面，需小心因內部配置錯誤和弱口令等造成的數據庫暴露；在基礎環境方面，則要重點關注云、API、傳統設備漏洞等。

同時，利用人工智能開展網絡攻擊的問題也不容忽視。齊向東直言，人工智能促進了網絡攻擊手段更新迭代，“飽和式”攻擊成為可能，攻擊者可以瞬時發動海量攻擊打垮已有的網絡安全體系。人工智能還提升了“以假亂真”的能力，深度偽造、認知戰、“釣魚”等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網絡詐騙，或輸出背離主流價值觀的內容危害認知安全。

“創新是第一動力，安全是底線要求。只有筑牢安全防線、守住合規底線，創新才有可能行穩致遠。”齊向東提出，在人工智能技術快速普及的當下，平衡好創新與安全至關重要。

DeepSeek出圈激發科技界創新熱情

春節期間，國產大模型Deep-Seek一躍成為全球矚目的焦點。

“這次DeepSeek橫空出世，彰顯了我國在科技創新上的巨大潛力，有力回應了‘脫鉤斷鏈’‘小院高墻’等帶來的沖擊，讓我們創新創業企業倍感振奮、干勁十足。”齊向東表示，DeepSeek打破了美西方長期以來在人工智能行業近乎壟斷的市場格局，憑借先進的技術架構達到世界領先水平，且較低的成本為大模型垂直應用的爆發創造了條件。這極大提振了中國科技界的信心，激發了中國科技工作者的創新熱情。

DeepSeek公布的開源策略同樣影響深遠。齊向東認為：“它推動人工智能行業走向更加開放、合作的嶄新階段。”過去，技術封鎖與商業壁壘阻礙了人工智能領域資源的高效共享與協同發展，大模型訓練的大資金、大數據、大周期等高門檻將中小創新公司拒之門外，“甚至有言論說只有大公司才有資格玩大模型”。而DeepSeek的開源策略，讓人工智能行業開始擺脫“大公司大模型俱樂部”，讓中小公司能與大公司在大模型技術上平等競爭，實現技術平權，促使人工智能應用邁向資源共享、攜手共進的階段。

隨著DeepSeek的全球爆火，網絡攻擊也接踵而至。

“DeepSeek一問世，針對性的高強度網絡攻擊就爆發了，這給人工智能行業敲響了堅守安全底線的警鐘。”齊向東說，當前，眾多企業、個人搭建DeepSeek大模型私有化部署，而近90%的服務器未采取安全措施，服務運行和數據安全受到嚴重威脅。未來，隨著人工智能大模型的基礎設施地位日益凸顯，針對性惡意手段及風險場景增加，數據隱私、認知安全、基礎設施等方面的安全風險難以預估。對人工智能行業來說，平衡技術創新與安全風險必會成為重要課題。

他還提到，中國AI創新呈現出“草根化”趨勢，這與國家的前瞻性布局、政策扶持以及全方位的資源投入密不可分。以“杭州六小龍”為代表的民營企業在AI領域取得成功，很好地印證了這一點。但必須清楚，沒有國家作為堅實后盾，這些“草根”力量也是難以茁壯成長的。

在他看來，繼續守護并延續AI創新的“草根化”趨勢，保持“自下而上”的創新張力，對我國AI產業發展乃至整個科技創新生態意義重大。當然這也離不開國家在政策、資金等方面的大力支持。他建議，國家從政策引導、優化營商環境、生態協同等維度入手，進一步激發民間創新創業熱情。

責編：郭霽瑤" guojiyao@ceweekly.cn

美編：孫珍蘭