擰緊新技術發展的“安全閥”

人工智能浪潮奔涌向前，帶來前所未有的發展機遇，也帶來不容忽視的風險挑戰。“聲音克隆”導致電信詐騙防不勝防，“換臉視頻”引發的造謠誹謗時有出現，“AI幻覺”讓生成內容真假難辨……今天，技術的“雙刃劍”效應愈發具象化。經濟合作與發展組織數據顯示，2024年AI風險事件總數比2022年增加了約21.8倍，并呈快速發展態勢。

有人認為，當下正值AI搶位發展關鍵期，不應做過多限制；有人則覺得，技術問題會隨發展自行得到解決，不必過早干涉。其實不然。要看到，一方面，“先放手后治理”，可能讓“小風險”逐步疊加，變為“大問題”，治理代價會更大；另一方面，規范并不等于“設限”，如果放任技術沿著有違公序良俗、有悖產業規律的方向狂奔，有可能導致錯失發展良機。重視AI安全，不是給這輛疾馳向未來的列車套上枷鎖，而是鋪平軌道，讓其沿著健康可持續的方向，跑得更快、更穩。

習近平總書記指出：“要把握人工智能發展趨勢和規律，加緊制定完善相關法律法規、政策制度、應用規范、倫理準則，構建技術監測、風險預警、應急響應體系，確保人工智能安全、可靠、可控。”落實好這一重要要求，才能平衡技術發展與安全，推動人工智能更好造福社會。

技術每前進一步，治理就要跟進一步。時時有邊界，技術方能在合理框架內有序前行，不越界；規矩跟得上，技術才會在正確軌道上穩健發展，不逾矩。技術發展的歷程，也應是政策法規不斷完善的過程。

持續織密安全防護網，既要為發展劃定紅線，也要為創新留足空間。從發布《生成式人工智能服務管理暫行辦法》，實行包容審慎和分類分級監管；到公布《互聯網信息服務深度合成管理規定》，要求給相關AI內容“進行顯著標識”；再到印發《人工智能生成合成內容標識辦法》，推進從生成到傳播全鏈條治理……近年來，以網絡安全法、數據安全法等為依據，AI領域的政策文件不斷出臺，推動人工智能治理沿著法治軌道向前邁進。始終跟隨技術前進的步伐動態完善政策法規，方能實現促進發展和依法管理的有機統一。

企業是推動人工智能發展的重要力量，也是直面用戶的第一道安全防線，必須擔負起主體責任。人工智能技術日新月異，但無論形勢如何變化，情況如何復雜，“技術向善”應始終是企業追求的原則。以生成式人工智能為例，騰訊宣布，對違規“AI洗稿”發文行為的主體進行限制和清理；抖音明確，對不當利用AI生成虛擬人物的內容嚴格處罰；今日頭條披露，2024年處理低質AI內容超93萬條。企業“立規矩、明邊界”，既有效防范了風險，也促進了生成式人工智能健康發展。企業增強責任感，不斷擰緊“安全閥”、系緊“安全帶”，確保技術進步服務于人、造福于人，才能在激烈市場競爭中贏得信任和支持。

發展的問題要靠發展來解決。以技術對技術，以技術管技術，才能真正筑牢安全的底線。針對AI造假，合合信息推出新型檢測技術，可捕捉圖像篡改過程中留下的細微痕跡，慧眼辨偽；面向網絡詐騙，浙江一團隊開發“電子標識”，嵌入的音視頻若被用于AI加工，就會觸發“引信”，破壞生成后的內容；奇富科技研發智能風控系統，2024年發布AI反詐提醒13.8萬次，勸阻潛在被騙者超2.9萬人。善用“技防”，以技術之盾抵御技術之矛，“通過魔法打敗魔法”，安全防護會更及時、更智能、更高效。

在規范中釋放活力，在創新中筑牢防線，這是保障人民群眾合法權益的必需，也是推動我國人工智能健康有序發展的必然。