加強國際治理與合作 推動人工智能向善向好

習近平總書記在4月25日中共中央政治局第二十次集體學習時指出：“人工智能作為引領新一輪科技革命和產業變革的戰略性技術，深刻改變人類生產生活方式?！比斯ぶ悄埽ˋI）技術極大解放了人的腦力，從根本上改變著知識生產范式，正以前所未有的速度和規模重塑人類文明圖景，深刻影響著世界經濟、政治、軍事格局和人類社會發展，日益得到各國政府、產業界和學術界的高度關注。相比之下，人工智能治理體系的適應速度明顯滯后于技術的突破性進展，人工智能國際治理問題日益突出。為此，我們需要準確把握全球人工智能發展態勢，科學研判人工智能發展的風險挑戰，加強國際治理與合作，推動人工智能向善向好、造福人類。

一、準確把握全球人工智能發展態勢

從1956年誕生至今，人工智能已走過起起伏伏近70年的發展歷程。近年來，以ChatGPT、Sora、DeepSeek等為代表的生成式人工智能技術持續取得重要突破，在全球掀起了人工智能的新一輪熱潮。整體上看，人工智能發展呈現以下基本態勢：

（一）專用人工智能日趨成熟。專用人工智能是指面向特定領域的人工智能，其任務單一、需求明確、應用邊界清晰，因此形成了人工智能領域的單點突破，在局部智能水平的單項測試中可以超越人類智能。例如，人臉、虹膜、步態等生物特征可實現高精度高效率識別，并成功應用于執法、民政、救災等多個領域；人工智能輔助診療系統已覆蓋3000多種常見病，在27000多家基層醫療機構得到應用；特斯拉全自動駕駛實現了第一個端到端人工智能自動駕駛；等等。

（二）大模型技術取得重要突破。大模型是指具有超大規模參數和復雜計算結構的機器學習模型。作為當前人工智能領域最受關注的方向，大模型日益成為戰略性基礎設施，借助“預訓練大模型+下游任務微調”的開發范式，可以有效縮減訓練成本和開發周期，實現規模化生產。自2022年底ChatGPT發布以來，大模型進入爆發期，具備了多模態理解與多類型內容生成能力。2025年初，DeepSeek-R1橫空出世，以開源創新、算力成本低等優勢，使大模型真正“飛入尋常百姓家”。

（三）生成式人工智能煥發生機。生成式人工智能是指基于算法、模型、規則自動生成文本、圖片、聲音、視頻、代碼等內容的人工智能技術。相比于只能根據輸入的數據進行處理的傳統人工智能系統，生成式人工智能系統能夠自己創造出新的內容。在大模型技術驅動下，生成式人工智能快速發展，廣泛應用于專業問答、編程、詩歌創作、作畫等方面，且生成能力十分強大，引起行業內的極大震動。例如，ChatGPT-4"Turbo入選《自然》雜志2023年度十大人物，這是計算機程序有史以來第一次入選。

（四）具身智能與人形機器人備受關注。具身智能是指物理實體通過與外部環境持續交互而獲得的不斷增長的智能，它可以突破傳統人工智能依賴“算力+數據”堆砌、場景適應性不足的局限，以更接近生物智能的進化邏輯，為探索人類智能形成機制提供新視角，為推動科技成果向現實生產力轉化提供強引擎。人形機器人作為具身智能的重要載體，為研究智能的涌現提供了理想平臺。如今，具身智能研究已步入快車道，將通過“數據—算法—載體”的閉環迭代，進一步驅動人工智能從虛擬認知向實體智能的范式躍遷。

（五）人工智能驅動的科學研究快速發展。過去幾百年，科學研究大體經過了實驗觀察、理論分析、計算模擬和數據密集型范式的變革。當前，人工智能驅動的科學研究正在引領新一輪變革，將徹底改變科學發現的方式。例如，AlphaFold2可以精準預測蛋白質的3D結構，AlphaFold3則以前所未有的精度預測所有生命分子的結構和相互作用，為生物醫學研究帶來了革命性變化。此外，人工智能已廣泛應用于疫苗研發、芯片設計、氣象預測等眾多領域。

（六）人工智能加速賦能千行百業。人工智能作為引領新一輪科技革命和產業變革的戰略性技術，深刻改變著人類的生產生活方式。一方面，人工智能正加速與實體經濟深度融合、提升社會生產力，推動傳統產業轉型升級、促進新興產業蓬勃發展、培育未來產業新高地，驅動“無人經濟”快速發展。另一方面，人工智能在交通、家居、教育、醫療、養老等社會生活領域產生重要影響，為促進社會公平、增進民生福祉、提升人類生活品質和幸福感提供了更優方案。

（七）人工智能的社會影響日益凸顯。伴隨著人工智能的快速發展，其產生的社會影響也是多元的、全方位的。一方面，人工智能帶來許多正面效應，如拉動經濟、服務民生、造福社會；另一方面，人工智能也帶來很多社會問題，如安全失控、法律失準、倫理失常、隱私失密等。例如，濫用生成式人工智能技術制作虛假信息，進行詆毀抹黑、敲詐勒索、惡意攻擊等，帶來極大的安全隱患；智能設備和算法對于個人隱私的發掘分析能力遠超以往技術，行蹤軌跡、消費數據、生物特征等個人信息和隱私安全問題日趨復雜，防范難度大大增加。

（八）通用人工智能任重道遠。通用人工智能旨在研制出具有與人類相同智能水平乃至超過人類智能水平的機器，甚至可能使機器擁有自主意識。近年來，隨著神經網絡模型能力的不斷提升，公眾對人工智能產生過高期望，一些專家學者對通用人工智能的發展提出了一些不切實際的預測。當下人工智能距離人類智能水平還有巨大差距，在語義理解、推理、規劃、泛化和持續學習等方面仍存在明顯不足，還缺少對客觀物理世界時空運行規律的本質理解，缺乏深層共情能力。人類距離實現真正的通用人工智能仍有很長的路要走。

二、科學研判人工智能發展的風險挑戰

習近平總書記指出：“人工智能帶來前所未有發展機遇，也帶來前所未遇風險挑戰?！比斯ぶ悄茉诩铀偻七M數字世界和物理世界深度融合的同時，也在一定程度上模糊了虛與實的邊界，其固有的不確定性、不透明性、不可解釋性逐漸凸顯，將給人類社會帶來諸多風險挑戰。

（一）對國家安全的風險挑戰。一是意識形態安全風險。歷史虛無主義、民粹主義等錯誤思潮會借助算法推薦技術在網絡空間不斷擴張，對意識形態安全產生沖擊。二是國家治理環境惡化風險。人工智能可以通過深度偽造技術制造虛假信息、混淆公眾認知，也會運用精準算法傳播加劇“信息繭房”效應、產生輿論操控，導致國家解釋權趨弱。三是軍事安全風險。軍事智能化一旦形成技術“代差”，技術強國對發展中國家實施政治訛詐和技術突襲的可能性將增大。人工智能技術在核、太空等領域的跨域軍事應用也將給軍事安全帶來極大風險。

（二）對產業發展的風險挑戰。人工智能技術能力與產品形態的成熟、核心場景的確定、產業的融合程度以及行業的發展息息相關，并非靠短期大量的資金和資源投入就能達到成效，要實現成熟的商業應用，道路還很漫長。以ChatGPT為例，其初始投入成本約8億美元，每日電費約5萬美元，模型每次回答的成本約幾美分。面對如此高昂的成本，一方面，資源壟斷問題日益突出，科技巨頭形成“數字霸權”，不斷擠壓中小企業的生存空間。另一方面，很多企業和創業團隊一哄而上，部分國家政府也不甘落后，盲目跟風導致人工智能無序發展和資源浪費。此外，部分企業利用人工智能熱點進行投機炒作，將加劇市場泡沫化風險。

（三）對社會治理的風險挑戰。一是數據隱私泄露風險。人工智能的技術特性和應用場景決定了其在應用中極易獲取大量隱私信息，可能在用戶不知情的情況下收集行蹤軌跡、瀏覽記錄、消費數據、生物特征等，使個人信息和隱私保護受到嚴峻挑戰。二是惡意攻擊風險。不法分子利用深度偽造技術制作虛假視頻、圖像，實施敲詐勒索、惡意攻擊等活動，對社會安全穩定、個人名譽和財產等造成威脅。三是信息污染風險。人工智能技術濫用使互聯網中的虛假信息和低質內容日益泛濫，這類信息的“污染”會使模型對現實的認知產生扭曲，導致結果模型出現不可逆的缺陷。

（四）對倫理和法律的風險挑戰。一是引起社會就業結構的重大改變。人工智能已可以自主完成高難度的復雜工作，極大降低內容生產和交互的門檻與成本，各行業人員都面臨著人工智能的勞動替代風險，可能引發失業恐慌和社會秩序混亂。行業邊界將進一步模糊，顛覆長期以來形成的社會分工體系。二是算法偏差和機器歧視加劇。人工智能算法在透明度、魯棒性等方面本身就存在局限，將會加劇生成內容的偏見或歧視，放大社會不公。三是觸發科技倫理問題。數字孿生、腦機接口和人機共生等科技倫理問題涉及人類生命安全、個人隱私安全、主體責任歸屬、社會公平公正等諸多風險，人形機器人的大范圍應用也將給以人類為唯一主體的社會體系帶來很多新問題，例如“AI伴侶”的法律地位問題。四是法律體系面臨失效風險。人工智能系統的法律主體資格存疑、權利主體屬性不明確，將產生傳統法律難以規制的問題。例如人工智能創作內容的知識產權難以界定，無人駕駛系統的交通法規仍需完善，人工智能造成損失的責任難以劃定，等等。

三、加快推進人工智能國際治理與合作

近年來，全球人工智能治理的主體和結構愈發多元化，呈現出全領域、多層級、廣合作的總體特點。各項倡議、立法、規則呈井噴式涌現，覆蓋政治、經濟、法律、醫療、社會生活等各領域。在聯合國框架下，各國及各類國際組織積極實施人工智能治理和監管，行業組織和企業也參與推動自律自治，地區合作、多邊合作、雙邊合作持續加強。2023年，中國發布《全球人工智能治理倡議》，就各方普遍關切的人工智能發展與治理問題提出建設性解決思路，為相關國際討論和規則制定提供了藍本，體現了中國的大國責任擔當。

然而，當前人工智能國際治理仍面臨多重挑戰。一是缺乏統一的全球治理框架。各國在重大問題上還缺乏共識，很多法規差異難以協調，非約束性的國際倡議效力有限，具有實質性約束力的治理規則構建尚需時日。二是各國利益訴求各異。發達經濟體更關注技術安全與倫理問題，新興經濟體和其他經濟體則強調經濟與社會發展機遇，治理權力的不平衡進一步加劇了關注點的分化。三是治理碎片化。人工智能技術發展的快速性與治理體系構建的滯后性之間存在矛盾，靜態法規難以應對動態風險，造成治理框架分散、效率低下。

習近平主席強調，堅持以人為本、智能向善，在聯合國框架內加強人工智能規則治理。具體而言，加快推進人工智能國際治理與合作，需要在以下四個方面著重突破：

（一）堅持“以人為本”，堅守人工智能發展正確方向。無論技術如何迭代，都應在智能時代堅守初心、向善而行。一方面，多邊治理主體要進一步達成人工智能發展的價值共識，確立好根本治理原則，以增進人類共同福祉、服務人的全面發展為目標，以保障社會安全、尊重人類權益為前提，確保人工智能始終朝著有利于人類文明進步的方向發展。另一方面，國際社會應形成對于人工智能發展的風險共識，并在法律、倫理等層面加以引導，盡快建立人工智能風險評估與預警體系，確保人工智能的研發和使用活動安全可控，符合全人類共同價值，防范其危害國家安全、公共利益以及組織、個人的合法權益。

（二）堅持“開放共享”，推動人工智能應用普惠可及。由于不同國家和地區在科教力量、基礎設施、產業結構和社會經濟基礎方面存在差異，人工智能發展不平衡的問題日益突出。一方面，要深化開源開放，推動人工智能技術、人才、基礎設施共享，幫助全球南方國家加強技術能力建設，建立國際人工智能技術共享平臺，打破數據壁壘和技術壟斷，實現各國公平利用數據資源、共享人工智能紅利，彌合全球智能鴻溝。另一方面，要持續擴大相關學術組織與企業、行業組織的交流合作，構建開放共贏的國際科技合作生態，著力打破個別國家對其他國家學者參與國際交流合作的限制，避免技術封鎖和人才保護主義制約技術交流與進步。

（三）堅持“以技治技”，創新人工智能技術治理手段。人工智能的決策過程和決策邏輯不透明，呈現“黑箱”特性，現有技術并不具備對自身進行監管和控制的機制，在技術層面存在明顯的治理真空。各國家和地區的研發主體應不斷提高人工智能的可解釋性和可預測性，打造可審核、可監督、可追溯、可信賴的人工智能技術，將最直觀量化的算力作為治理對象，間接實現人工智能治理。同時，要以人工智能技術防范人工智能風險，積極設計開發能夠有效用于人工智能治理的技術與應用，追蹤并評估人工智能治理框架的落實情況，提高人工智能治理的技術能力。

（四）堅持“系統集成”，構建人工智能多邊治理格局。在世界和平與發展面臨多元挑戰的背景下，國際社會應該在全球范圍內廣泛凝聚共識，積極構建開放、公正、有效的多邊治理機制，共同促進人工智能技術真正造福人類。一方面，各國家和地區以及相關國際組織要加強治理規則、技術標準的對接協調，圍繞人工智能安全、倫理道德、數據隱私、跨境監管、軍事應用等關鍵議題達成共識，建立健全法律和規章制度，完善人工智能倫理準則及問責機制。充分尊重各國差異性，提升發展中國家的話語權，確保各國開發和利用人工智能技術的權利機會平等。另一方面，企業、研究機構、社會組織和個人等其他多元治理主體要積極發揮與自身角色相匹配的作用，共同參與人工智能治理體系的構建和完善，實現全球人工智能發展領域的共商共建共享。

人工智能國際治理是關乎推動構建人類命運共同體的時代課題。面對人工智能帶來的機遇與挑戰，既需標準互認、風險共防，也需倫理先行、法治護航。我們需要進一步凝聚共識、深化協作，始終遵循“以人為本”的價值導向，讓技術進步與文明發展同頻共振，使人工智能真正成為增進人類福祉的向善力量。