周鴻祎：建議制定保障通用大模型安全的標準體系

全國政協委員、360集團創始人周鴻祎向大會提交了《關于鼓勵兼具“安全和AI”能力的企業解決通用大模型安全問題的提案》。

周鴻祎表示，目前，國內的大模型安全問題不容樂觀。一方面，國內大模型企業不熟悉內容安全、數據安全、科技倫理、網絡安全等人工智能帶來的安全挑戰；另一方面，大部分安全公司又很少真正有能力深入大模型研究，上述兩方面原因導致國內大模型安全領域成為整個產業鏈的薄弱環節。建議國家有關部門采用“揭榜掛帥”等方式，鼓勵并扶持兼具“安全和AI”能力的企業，給予專項扶持政策，支持企業擔起大模型安全重擔，聚焦攻堅，為解決通用大模型安全問題提供堅實保障。

其次，他建議國家在內容安全、數據安全、科技倫理、網絡安全等細分領域，牽頭研究制定安全檢測標準，在規范的安全標準體系下，推動通用大模型的安全評測工作，通過接入安全服務來保障大模型的安全。最后，他建議政府和央國企加強與兼具“安全和AI”能力企業的合作，在政策和招投標條件上，給予更多合作機會，發揮此類企業在人工智能安全領域的優勢作用，為國家安全貢獻力量。