解讀生成式人工智能首部新規

7月13日，由國家互聯網信息辦公室聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局共同擬定的《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）發布。國家互聯網信息辦公室有關負責人表示：“《辦法》堅持目標導向和問題導向，明確了促進生成式人工智能技術發展的具體措施。”這一《辦法》將于2023年8月15日起施行。

監管創新

在《辦法》征求意見期間，360公司作為大模型廠商代表也曾參與其中。360公司創始人、董事長兼 CEO 周鴻祎告訴記者，公司通過書面反饋、當面交流等多種方式參與了相關部門組織的溝通交流，而上述監管部門也樂于聽取科技企業的意見和建議。

對外經濟貿易大學數字經濟與法律創新研究中心主任許可說，早在去年末，ChatGPT便呈現出火熱態勢，當時引發管理部門關注的，“首當其沖的是風險問題”。可以看到，數月之前的4月11日，國家互聯網信息辦公室出臺了《生成式人工智能服務管理辦法（征求意見稿）》中，“把風險防控和監管放在首位”。

許可稱，在公開征求意見后，國家網信辦曾收到數以千計的社會反饋意見，后期在對《辦法》的修訂過程中，還組織其他部委、學界、企業界等各方進行交流、反饋。

“《辦法》是一個集思廣益和最大程度去吸收各方意見的成果。”許可說。他指出，頂層設計層面對于通用人工智能產業的發展也尤為重視，出臺《辦法》加以規范產業發展的同時，也在一定程度上體現了我國的創新監管方式。他認為，創新在于“暫行”二字，“它是一種敏捷治理”。

邊界明確

許可特別提及《辦法》的總則中有如下表述：“基于生成式人工智能服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成式內容的準確性和可靠性。”在他看來，監管機構對于技術服務和產業發展的規范，也是一種動態調整的方法。

周鴻祎也在《辦法》中看到了相關部門在監管方式上的先進性，尤其針對大模型生成式的特點，不是事前審查，而是強調事中和事后的過程監督，遵循了“促進創新和依法治理相結合的原則”。

《辦法》增加了“推動基礎設施和公共平臺建設”“促進算力共享”“推動公共數據開放”等內容，周鴻祎覺得，這表明有關部門鼓勵創新，支持大模型發展的態度，為科技企業創新提供了信心和保障。

在周鴻祎看來，《辦法》還有一個亮點，明確了適用邊界，既能夠規范大模型的公眾服務，同時也有利于組織機構的研發和應用。在產業數字化賦能方面，他將大模型視為工業革命級的生產力工具。可以幫助傳統產業特別是制造業實現“數字化到智能化”的升級。

“人工智能是數字科技、信息技術的明珠。”許可覺得，當前各方都在關注大模型進入行業場景，探索應用落地，一個可以想象的未來是，生成式人工智能技術與服務會成為一個強有力的生產力工具。而《辦法》的出臺背后，恰恰反映出中國已經認識到生成式人工智能所具備的產業推動力。

人工智能治理

另外，在日前結束的世界人工智能大會上，不論產投領域還是學界人士，都將目光投注到了創新技術背后帶來的人工智能治理問題上。

在許可看來，公布《辦法》彰顯著中國對于人工智能治理，對以生成式人工智能為代表的通用人工智能產業治理的一個基本態度，“從開始的風險預防為主，到現在更多是謀求發展與安全的平衡”。

看到《辦法》強調“堅持發展和安全并重原則”，并強化了企業和內容提供者的主體責任，周鴻祎十分認同，大模型是數字化的頂峰，同樣是把“雙刃劍”，帶來生產力提升的同時存在安全風險，如數據和算法安全問題，甚至技術創新“幻覺”會帶來一定的內容安全風險。他認為：“加強生成式人工智能大模型技術的安全向善、可信可控，才是創新發展的前提。”

《辦法》還規定了生成式人工智能服務規范，明確生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務；按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識，發現違法內容應當及時采取處置措施等。此外，《辦法》也規定了安全評估、算法備案、投訴舉報等制度，并對相關法律責任進一步加以明確。

當然，不只是面向中國正在進行生成式人工智能技術創新的企業，《辦法》的適用范圍還包括了向中國境內提供生成式人工智能服務的海外企業，這樣一來，全球以OpenAI為代表的海外人工智能企業，可能都將被《辦法》的相關條例限制或“輻射”。

（摘自《經濟觀察報》錢玉娟）