齊力

近期，隨著ChatGPT走向火熱，AI發展的核心組成——數據要素得到越來越多的關注，數據安全被頻繁提起。

今年兩會，數字經濟的發展定調不變。發展和安全成為數字經濟的一體之兩翼。兩會的建議、提案中，關于人工智能、數據安全、大模型ChatGPT等網絡空間安全領域的熱點詞匯高頻顯現。

隨著數據安全愈發得到重視，數據安全已經成為網絡安全領域最為熱門的新興領域。

2022年12月，中共中央、國務院正式發布《關于構建數據基礎制度更好發揮數據要素作用的意見》，明確了堅持促進數據合規高效流通使用、賦能實體經濟這一主線。

今年1月，工信部、國家網信辦、國家發改委等16部門印發《關于促進數據安全產業發展的指導意見》，提出到2025年，數據安全產業基礎能力和綜合實力明顯增強，數據安全產業規模超過1500億元，加速數據要素市場培育和價值釋放。2月末，中共中央、國務院又印發了《數字中國整體布局規劃》，明確了建設數字中國對于推進中國式現代化的核心地位，同時將數字安全屏障與數字技術創新體系并列為“兩大能力”，凸顯了數據安全在數字中國中的核心和底座作用。

然而，人工智能的高速發展及應用，使我們正在步入人工智能驅動的時代。大數據是人工智能技術研發和落地的基礎，隨著數據在各場景中被收集和利用，數據安全和隱私保護面臨著巨大的風險與挑戰。

財政部明確要求政企機構在新增IT預算中10%用于網絡安全建設。目前我國網絡安全預算和發達國家有差距，美國非國防聯邦機構2023財年網安預算占IT預算比例為16.57%，而我國在3%左右，差距較大，需填平補齊。

全國政協委員、奇安信董事長齊向東稱，人工智能技術極大提高了生產力，但也會提高黑客的攻擊水平，帶來新的安全隱患。他表示，這不僅是科學技術領域的問題，還面臨著社會、倫理、道德方面的考驗，需要人類進一步研究探討。人工智能降低了黑客攻擊的門檻，會讓攻擊的數量激增，給網絡安全帶來巨大挑戰。他在提案中建議，國家要制定標準規范、明確網絡安全投入占比、建設縱深防御的內生安全系統，以“零事故”目標，筑牢網絡安全防線。

全國政協委員、民建四川省委副主委、西南財經大學大數據研究院院長寇綱提出，人工智能通用基石模型依托海量數據庫信息存在，可能帶來數據泄露、虛假信息、版權侵權等隱患。他建議，修訂《網絡安全法》《數據安全審計法》等已有互聯網法律法規，明確人工智能通用基石模型及生成式AI技術和應用中涉及政治、民族、宗教和互聯網等相關的法律底線和紅線問題。

隨著數據在各場景中被收集和利用，數據安全和隱私保護面臨著巨大的風險與挑戰。

談到人工智能給哪些人群帶來直接的挑戰，安永（ 中國 ）大中華區網絡安全與隱私保護咨詢服務主管合伙人高軼峰稱，隨著人工智能技術在企業的應用與普及，企業的涉密人員正在成為數據安全風險的主要群體，與智能對話機器人分享的機密信息可能被用于未來人工智能模型的迭代訓練，這將可能會導致該模型輸出的內容可能包含機密信息，例如用戶隱私數據、企業機密數據等，從而造成敏感數據泄漏的風險。

2022年11月，某國際大型電子商務公司律師就警告員工不要與智能對話機器人分享機密數據，因為這將會被其用來作為迭代訓練的數據。2023年1月，新一代人工智能對話機器人母公司一名員工在內部論壇上詢問是否可以用智能對話機器人工作時，其首席技術官辦公室的一位高級程序員回復，只要不與其分享機密信息，是可以被允許的。

高軼峰表示，目前智能對話機器人的使用條款尚不明確，其中雖然會提示用戶將收集使用過程中的信息，但并沒有說明收集信息的具體用途；雖然承諾刪除所有個人身份信息，但未說明刪除方式。這將會為人工智能企業帶來合規風險，同時為用戶帶來個人信息泄露或濫用的風險。

另外，還有其他一些場景會有個人信息泄露風險。如，用戶與智能對話機器人交互過程中，可能會提供個人敏感信息，包括姓名、電話、地址等，還可能包括用戶的心理狀態、偏好等其他個人信息。收集到的個人信息可能以實名或匿名的形式，流向模型的開發者、數據標注團隊。這些數據有可能沒有進行人工過濾及標注，并在輸出時可能包含這些個人信息，從而使其他用戶可能獲得這些數據。

在模型訓練場景中，用戶和智能對話機器人的所有交互數據都會被記錄、分析。通過用戶向機器人的不斷提問和機器人的不斷輸出，它們會得到充分的訓練，會更加全面地了解用戶，這將會引發不法分子對用戶信息買賣的風險，從而實現精準營銷的商業目的。

人工智能實現了科技的革新，同時也引發了上述數據安全風險。企業應該如何在利用人工智能技術的同時降低數據安全風險是值得思考的問題。

針對縱深防御的內生安全系統，齊向東解釋，縱深是保證多道網絡安全防線聯動，一道防線被突破，還有其他若干防線攔截攻擊；內生是把安全能力內置到網絡的全鏈條中，內置到業務系統中，及時識別并阻斷網絡攻擊。

安永建議，企業在管理層面應重視法律法規的落實，在《網絡安全法》《數據安全法》《個人信息保護法》的法律法規要求下，應關注并落實人工智能算法領域的法律法規及行業標準的延伸，尤其是針對境內提供類似對話服務的人工智能企業應強化數據安全和個人信息濫用情況的監管，避免利用真實個人信息數據進行模型訓練而造成的個人信息泄露、濫用等情形。

同時，生成式人工智能技術及產品的監管必須將算法監管和數據監管結合起來。在算法監管機制的未來探索中，應充分考慮算法決策的主體類型和作用類別，并探索場景化和精細化的算法治理機制。此外，通過定義不同類型的數據以確定各類數據的保護級別和保護措施。對所有信息資產，包括硬件資產、軟件資產和數據資產等進行全面梳理，為進一步對敏感數據分析、數據保護措施的制定、數據泄露風險監測做好基礎準備。

在技術層面，安永建議，企業利用技術工具，例如使用自動化監控、沙盒、行為分析等技術或攻擊，抵御各種高級惡意軟件；針對黑客經常利用編寫不當的代碼來尋找漏洞，可能會導致系統崩潰或泄漏數據，NLP/NLC算法可能會發現這些可利用的缺陷并生成警報；通過研究智能機器人編寫釣魚郵件的語言模型與規律，分析傳入的外部電子郵件和消息的文本，從而檢測出新的網絡釣魚嘗試；將人工智能語言模型用作分析，從各種社交媒體等數據源來分析并識別潛在的網絡威脅，并了解攻擊者使用的戰術、技術及程序；通過對網絡威脅情報的識別，可以使用它進行自動響應，例如阻止IP地址或關閉服務等。