關于構建高效靈活的人工智能治理體系的提案

◎ 全國政協委員、交通運輸部科學研究院副院長兼總工程師 王先進

人工智能存在監管體系滯后于技術發展、政府單向監管無法有效管控風險、企業缺乏合規治理有效工具和體系等問題，觸發個人隱私保護、沖擊就業格局、危害公共安全等風險，給治理體系帶來全新挑戰。須高度重視美國、歐盟、英國、日本等各主要國家地區已經將治理納入各國人工智能發展戰略中，我國亟須增加國際人工智能治理體系的話語權和影響力。建議實行倫理、科技與法制三角治理機構平衡創新發展與精準治理，提倡多元共治，厘清各方責任，人工智能企業躬身入局，加強企業自治，加強國際治理對話和國際標準布局。

一、情況與問題

人工智能治理還處于初期探索階段，正在向可信評估、操作指南、政策法規等方面落地實踐、逐步深入。2017 年國務院發布《新一代人工智能發展規劃》明確要從法律法規、倫理規范、重點政策、知識產權與標準、科學普及等方面為人工智能發展提出保障措施。2019 年科技部牽頭的國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則》，提出了人工智能治理的框架和行動指南。但人工智能因算法不透明、難解釋、跨界傳播性和外溢性強，比一般的數字治理涉及范圍更廣、難度更大、問題更突出：

（一）監管體系滯后于技術發展。法律具有穩定、普遍和相對滯后等特點，而人工智能發展速度快、造成影響不確定性大，監管的精準性、有效性和即時性問題突出，對風險不能有效約束。

（二）政府的單向監管無法有效管控風險。人工智能應用場景復雜多變，社會各方主體利益需求日益分化，傳統自上而下單向規制思路無法對變化多樣的治理問題進行精細、靈活地監管，須創新優化治理模式。

（三）企業缺乏合規治理有效工具和體系。當前多數企業將人工智能風險管控視為額外的合規成本，行業監管缺乏落地規范和明確的懲罰措施。雖然大部分企業自律，但也存在行業魚目混雜，個別案例導致負面輿論，引發公眾和監管部門對人工智能等新技術發展應用過度的擔憂與顧慮。

（四）全球人工智能競爭延申到規則制定。發達國家紛紛開展人工智能治理規則并逐步達成共識。部分發達國家和國際輿論時常指責我國廣泛使用的人臉識別技術侵犯個人隱私。美國以人權問題為由將我國多家頭部人工智能企業列入“實體清單”并采取一定懲罰措施。我國亟須增加國際人工智能治理體系的話語權和影響力。

二、建議

（一）實行倫理、科技、法制三角治理機構平衡創新發展與精準治理。一是倫理規范引導先行，落實AI 倫理原則，通過先行預設及時引導科技向善、健康發展，二是通過技術工具和標準制定等技術手段解決技術發展問題，三是通過法律法規明確底線，明確責任歸屬，爭取實現“敏捷治理”。

（二）提倡多元共治，厘清各方責任。建立以多元共治實現對AI 治理的長效機制，將政府、企業、行業組織、科研機構、媒體、公民等利益主體聯合起來，共同解決復雜問題；明確AI 技術應用中終端廠商、經銷商、應用開發者、用戶等參與各方的權責，確保責任可追溯；政府和行業組織應加強對人工智能等新技術應用的科普，引導理性客觀的輿論報道。

（三）人工智能企業躬身入局，加強企業自治。鼓勵企業承擔創新技術創新應有的責任，自覺完善內部治理和合規管理，開展技術和產品人員的技術道德倫理培訓，同時提升數據保護技術能力。主管部門可通過優秀案例評選等方式總結企業治理可復制的經驗和模式，通過適當方式予以宣傳推廣。設立人臉識別等敏感領域的準入資質。

（四）加強國際治理對話和國際標準布局。積極參與國際治理和標準研討，同時請主管部門支持引導頭部企業參與G20 的多邊國際標準和治理規則討論，形成政府和企業雙軌溝通互補，強化我國AI 領域國際影響力和話語權，引導AI 領域的國際治理規則和標準制定。