軍用人工智能國際安全治理亟待加強

朱啟超 王文佳

人工智能的廣泛應用正深刻或”變人類社會生產生活方式，在軍爭領域的應用也不斷改變戰爭的樣貌，但與此同時引起了人們對無人化自主武器可能被濫用、濫殺的警惕與擔憂。日前，由荷蘭和韓國共同主辦的“軍事領域負責任使用人工智能”峰會在海牙閉幕，包括美國、中國在內的60多個國家在會上簽署了一份聯合行動倡議書，呼吁各國政府、產業界和智庫等所有利益攸關方行動起來，以共同應對人工智能在軍事領域應用時可能造成的“意外后果”和責任追溯難題。這次峰會和這份“行動呼吁”被認為邁出了確立在戰場上應用人工智能國際準則的重要一步，引起世界廣泛關注。

其實，針對人工智能軍事應用安全治理和國際規范制定相關話題的討論多年前就已展開，既有聯合國層面的定期磋商，也有國家層面的各自努力，還有產業界和智庫層面的對話交流。2019年9月，聯合國《特定常規武器公約》確立了致命性自主武器系統運用的11項指導原則。聯合國教科文組織2021年正式發布了《人工智能倫理問題建議書》。除聯合國外，一些區域性政府間組織也發布了涉及人工智能倫理準則的文件。比如，2019年4月，歐盟委員會發布《可信賴的人工智能倫理準則》。

在國家層面，作為世界上科技最發達、軍力最強大的國家，美國2012年以來先后出臺自主武器安全規范和軍用人工智能倫理準則。比如，美國國防部陸續發布了《國防部指令3000.09自主性武器系統》《負責任的人工智能準則》　《負責任的人工智能戰略與實施路徑》等政策文件。中國政府也高度重視人工智能軍事應用國際治理和規范制定，科技部指導成立了國家新一代人工智能治理專業委員會，2017年以來陸續發布了《新一代人工智能治理原則一發展負責任的人工智能》《新一代人工智能倫理規范》等報告文件。2021年12月13日，中國特命全權裁軍事務大使李松向聯合國《特定常規武器公約》第六次審議大會提交了《中國關于規范人工智能軍事應用的立場文件》。2022年11月16日，李松大使又向聯合國《特定常規武器公約》締約國大會提交了《中國關于加強人工智能倫理治理的立場文件》。在這些文件中，中國積極倡導人工智能“倫理先行”“以人為本”“智能向善”和“多邊協商”等治理原則。

在智庫交流層面，中國軍控與裁軍協會、清華大學戰略與安全研究中心等機構，積極組織中國專家學者參與人工智能國際安全治理二軌對話，與美國、歐盟、印度、印度尼西亞、馬來西亞等國智庫之間建立了機制性對話研討平臺，增進人工智能負責任運用的概念理解、規范制定和學術共識。

此次海牙峰會發表的“行動呼吁”，再次強調了負責任開發和使用人工智能軍事系統的重要性，強化了國際社會已有的人工智能軍事應用國際規范基本共識。但我們需清醒地認識到，這是一項不具有法律約束力的溫和“行動呼吁”，在參加會議的80多個國家的代表中只有60多個國家簽署了“行動呼吁”。比如，作為人工智能技術強國，以色列代表就沒有在“行動呼吁”倡議書上簽字。可見，在人工智能軍事應用領域，要制定一項類似于限制使用化學武器和生物武器的聯合國軍控協議，還有很長的路要走。

首先，國際社會對致命性自主武器系統府認識存在較大分歧。以“不結盟運動”和非洲聯盟為代表的廣大發展中國家和非政府組織強烈要求限制乃至禁止致命性自主武器系統，主張就此達成一項具有法律約束力的國際文書；以歐盟為代表的部分發達國家強調人工智能的軍民兩用性，主張達成一項不真有法律約束力的政治聲明；俄羅斯和美國則強力阻礙致命性自主武器系統軍控，尤其是美國，一再強調人工智能軍事應用對于人道主義有顯著的改善作用，堅決反對制定禁止致命性自主武器系統的國際條約。

其次，地緣政治對抗嚴重影響各國團結合作。當前，大國博弈與對抗達到自冷戰結束以來的新高，少數國家被排除在國際合作框架與體系之外，缺乏全面參與人工智能軍事應用國際規范討論與制定的渠道。比如，由于俄烏沖突，俄羅斯未被邀請參加此次人工智能負責任運用的峰會，沒有機會簽署此份“行動呼吁”。

最后，人為制造科技壁壘限制了人工智能技術發展與合作。人工智能是人類共同的智慧結晶，應該造福全人類。同時，因人工智能技術的自主成長性、不可解釋性造成的潛在使用風險，需要全人類合作攻關。美國等個別國家雖然口頭上高調宣稱支持人工智能負責在運用的國際合作，但又把人工智能技術當作地緣政治博弈中維護自身霸權的工具，構建排他性小圈子小集團，在與人工智能技術發展應用緊密相關的芯片、5G通信等領域人為制造科技壁壘，惡意阻撓人工智能技術國際交流,成為負責任使用人工智能國際合作砧絆腳石。

從歷史上看，具有顛覆性潛力的新興技術往往首先用于軍事，因而人工智能軍事應用不可避免。盡管目前要達成一項關于人工智能軍事應用的國際條約仍困難重重，但各國已經越來越意識到人工智能軍事應用的同時，必須考慮其所帶來的法律、倫理和道德風險的應對問題。

展望未來，要進一步推動人工智能軍事應用的國際規范制定，仍需要各國拿出真誠意愿，積極磋商合作。在這個問題上，中美俄等大國需要加強溝'通對話，探索建立相關信任措施，避免人工智能誤用濫用引發的戰爭沖突升級和人道主義災難，推動構建人工智能軍事應用領域的人類命運共同體，與國際社會一道共同維護全球戰略穩定和人類和平福祉。（作者分別是國防科技大學國防科技戰略研究智庫副主任、研究員和助理研究員）