新局與危局：人工智能的國家安全問題思辨*

張紀騰

（復旦大學 國際關系與公共事務學院，上海200433）

0 引 言

第四次工業革命是一場集信息技術、新能源、新材料、生物技術等諸多技術領域于一體的革新運動。其中，作為一項具有通用性和使能性的技術，人工智能具備嵌套及主導其他技術發展的包容度與統攝力，因此被視作推動第四次工業革命的關鍵要素。與此同時，作為國家安全的重要組成部分，技術安全被視為保障其他國家安全領域的重要支柱。然而，人工智能的特殊性，使其對國家安全的影響存在著一種“技術悖論”的困境，即人工智能在國家安全領域的應用有助于提升安全治理的水平與效能，但同時也造成了國家安全向度和維度的深化，繼而使國家安全面臨一系列新挑戰[1]。

1 新局：人工智能賦能國家安全治理

從應用領域來看，人工智能主要從傳統安全與非傳統安全兩方面賦能國家安全。前者主要為人工智能在軍事與戰略層面的使用，后者則主要為人工智能在社會治理層面的應用。

第一，人工智能賦能傳統國家安全。最初對于人工智能軍事化應用的討論集中在無人機、機器人、戰略決策和網絡安全等常規軍事領域，而后逐步拓展至核威懾等非常規軍事領域。但作為一項通用性技術，人工智能具有在各個軍事領域實現“全面滲透”式應用的特性，而不僅局限于單一的軍事領域。目前，人工智能軍事化應用的主要成果集中在武器自動化、情報、監視和偵察（ISR）與戰略決策等方面，為“馬賽克戰”“多域作戰”等作戰方式提供了有力的支撐，并催生了諸如“影響力機器”等新型對抗方式[2]。 需要說明的是，在當下的軍事化應用中，人工智能尚處于提升作戰的信息化水平和打擊精確度的“初智”階段，但伴隨其技術突破，人工智能將逐步實現作戰對抗的“無人化”與“智能化”，并使之躍升為廣泛整合多項技術與統籌整體作戰安排的“高智”階段。

第二，人工智能賦能非傳統國家安全。在非傳統安全領域，人工智能的應用集中在為各類社會風險的處理提供更為精準的預測和糾錯機制。其作用機制主要基于對多源數據進行全方位的挖掘、聚合與清洗，并構建相應的模型來演算各類風險因子的作用路徑及其發生的概率，從而實現安全態勢感知與預測的智能化，并推動防御機制的優化。目前，人工智能技術已被應用于網絡安全、反恐與安防、經濟與金融安全、醫療衛生、環境與能源安全等多個領域，簡要列舉如下：

危機預測與管理方面，通過擴大數據收集、減少信息未知性以及建立相關分析模型，人工智能可以應用于針對戰爭沖突、傳染病擴散、氣象災害等危機事件的預測與分析，繼而提前介入其中以阻止危機的發生或者減緩危機所造成的破壞[3]。

反恐與安防方面，基于對已有恐怖主義活動的案例以及其他犯罪數據的分析，人工智能可以對潛在的恐怖活動或犯罪活動的目標、組織及其可能的行徑進行預判，并據此制訂相應的反恐方案。與此同時，人工智能可以用于輔助公安部門及其他安全部門進行嫌疑人辨別與追蹤、犯罪現場搜索、城市交通管理、開展救援活動、排列警務任務及分配警力資源，繼而提升安防活動的整體運行效率[4]。

網絡安全方面，人工智能通過推動端點檢測響應和網絡檢測響應，能夠在信息交互的過程中識別和防止勒索軟件、惡意軟件、DDS 攻擊等惡意在線威脅，提前對潛在的風險進行及時阻斷，為網絡安全提供更為有效的防護手段[5]。

金融安全方面，通過構建多維度、全方位的交易檢測與驗證模型，人工智能可以為風控等金融業務提供高效的反洗錢、反欺詐以及信用評估機制。

總的來看，人工智能的應用有助于提升國家在傳統安全領域的防護能力與非傳統安全領域的治理水平。同時，由于國家安全本身由諸多交叉的議題和治理機制組成，人工智能在傳統安全與非傳統安全的應用上存在著一定交叉。例如，無人機既可用于情報偵察、軍事打擊、物資運輸等傳統安全領域，又可用于電力巡線、搜索救援、城市管理、遙感測繪等非傳統安全領域。此外，盡管人工智能之于非傳統安全領域應用的邏輯相對簡單，但由于非傳統安全在當下所涉及的領域更為多樣，因此人工智能在非傳統安全領域的應用更為廣泛與頻繁。

2 危局：人工智能加劇國家安全風險

從技術悖論的視角來看，盡管人工智能蘊涵了廣泛的應用前景和高度的戰略價值，但這一技術的應用與發展也造成了國家安全向度與維度的深化，對于國家安全也帶來了諸多挑戰：

第一，技術的不對稱發展或將激化人工智能軍事領域的戰略競爭。出于對技術安全性的考慮，各國對于人工智能的軍事化應用較為審慎。然而，由于國家間技術水平本身就存在不對稱性，并且相對于其他技術，國家更難以直觀地判斷人工智能的技術不對稱性的程度。當然，人工智能軍事化應用所具備的“全面滲透”特性還將導致國家間競爭領域的擴展。因此，對于技術優勢的爭奪以及對技術差距的猜疑會擴大國家間對于國家安全偏好的差異性，而由技術差距所導致的“生存性焦慮”也就存在被放大為“生存性威脅”的可能。與此同時，人工智能軍事化應用的無人化、智能化特性將削弱作戰傷亡、作戰周期及規模等傳統因素對于戰爭決斷及其進程的限制，并且人工智能應用所催生的一系列新型戰法還將進一步模糊戰爭與沖突的界限。換言之，人工智能軍事化應用所帶來的作戰預期成本的下降會拉低發動戰爭或者直接進行軍事對抗的門檻，并且由于誤判所導致沖突加劇的可能性也同樣將被放大[6]。

第二，人工智能或將加劇發展中國家所面臨的“技術邊緣化”風險。人工智能可以助推經濟的整體增長，但其所帶來的收益并不會如預期那樣得到均衡的分布，而是可能出現巨大的失衡與落差。正如聯合國貿易和發展會議（UNCTAD）發布的《2021 年技術和創新報告》所言，技術變革將極大地加劇發達國家與發展中國家間的差距，后者面臨技術創新能力低、融資機制薄弱、技術轉讓受限、數字鴻溝以及收入能力不足等諸多挑戰[7]。人工智能所推動的自動化、智能化生產變革將稀釋發展中國家在勞動力資源上所具備的比較優勢。這意味著，發展中國家通過承接全球化所帶來的“現代性擴散”所獲得的產品轉型與升級可能難以延續，并且其現有獲得的外資紅利與全球技術知識外溢的紅利也可能縮減。與此同時，具備人工智能技術優勢的發達國家將在全球價值鏈躍升的過程中取得并保持更顯著的領先地位，并基于這一絕對的先發優勢，主導人工智能的技術標準、產業劃分與治理規則的制定，繼而塑造新的技術圍墻和獲得新的不對稱技術權力[8]。對此，日本經濟學家井上智洋就指出，提前應用強人工智能的國家與其他未能實現此目標的國家之間將形成“第二次大分流”[9]。

第三，人工智能或將強化甚至惡化國家在科技地緣政治中的競爭關系。作為國家競爭的重要技術基礎，人工智能同經濟、政治等議題之間存在緊密的關系。然而，人工智能所具備的技術組合性與目的通用性使得國家間競爭形成疊加效應和全域式競爭的趨勢。然而，當國家間的競爭涉及多領域、多議題時，相互間的敵對認知往往會得到強化。同時，人工智能是一種典型的軍民兩用技術，具有鮮明的“技術糾纏”（Technological Entanglement）的特征。為了防止本國所出口的民用人工智能技術助推他國軍事能力的提升，以及規避因在關鍵領域使用他國人工智能技術所帶來的潛在風險，國家之間就不得不對現有的經貿關系進行切割，進而對正常技術合作形成了擠壓。科技優勢的同質化所催生的“技術民族主義”將惡化國家間正常的競爭關系，即后發國家在人工智能領域的進步將削弱先發國家的技術優勢，而先發國家為了保持原有技術壟斷所帶來的優勢地位，就極易會對后者進行打壓。當然，部分技術強國還能夠憑借不對稱的技術優勢以及部分技術弱國對自身的依賴，采取組建技術聯盟的方式來對競爭對手實施打壓。這一過程中，兩國競爭關系的激化將使得國家間的局部競爭逐步升級為不同技術聯盟間的競爭，繼而導致這一惡化的競爭關系在更大范圍內得到擴散。

第四，人工智能所導致的大國競爭加劇或將凸顯治理缺失的風險。盡管各國愈發重視對人工智能發展與應用的監管，并主張施加限制性監管措施來規避潛在的風險，但鑒于人工智能的重要性以及大國競爭加劇的客觀現實，多數國家往往更強調滿足人工智能的發展需求，繼而弱化了對人工智能的監管需求。良性的國家間競爭在一定程度上能夠提升國際社會的整體技術水平，但是當國家間競爭超出了正常的范疇時，就會導致出現以技術封鎖、對抗和割裂為表征的“科技脫鉤”。實際上，在全球性規則和制度缺失的情況下，現有的國際秩序本就難以對新興技術及其威脅進行有效規制。而在“科技脫鉤”的狀態下，各國在技術及其標準體系上的高度分化不僅會抬高人工智能應用與發展的成本，阻礙其進步，也難以在全球層面對潛在風險進行有效管控，繼而加劇人工智能的無序發展狀態[10]。

第五，人工智能或將推動資本權力的擴張與惡化技術紅利的分配。目前，人工智能的發展成果多數體現在跨國科技公司所開創的技術與產品上，并且跨國科技公司的擴張將進一步提升人工智能的要素集中度。因此，資本在人工智能的研發與部署上的作用將得到提高。科技巨頭們的技術優勢還使其能夠在人工智能的技術標準及其治理準則的制定與實施中擁有相當大的話語權。數據、算法等人工智能技術的組成要素在一定程度上能夠脫離主權和地理空間的限制，這也為資本規避政府部門的監管提供了便利[11]。與此同時，人工智能技術的介入將重塑現有的社會整體利益再分配機制。人工智能可以通過提高社會整體生產力和創造新的產品及需求，帶來新的就業機會和經濟增長，但是人工智能的應用將不可避免地對現有社會就業結構產生一系列的負面影響。最為突出的表現便是人工智能應用所可能導致的結構性失業。其中，從事“事務性勞動”的低信息化水平的勞動者可能面臨被“出清”的風險。

第六，人工智能技術濫用及其演進路徑不確定存在誘發“技術恐怖”的可能。就技術層面而言，人工智能主要存在因技術濫用而導致的外溢風險與因技術自身缺陷而產生的內生風險。前者主要是指人工智能技術的拓展應用所衍生出的被動技術風險。例如，犯罪分子同樣可以利用人工智能從事更為便捷、隱蔽的犯罪活動。后者則是指因不確定的技術缺陷與安全防護措施不完善所帶來的風險。其中，因數據質量缺陷和平衡機制缺失所引起的潛在算法歧視就是較為典型的內生風險[12]。當然，人工智能的通用性也意味著，人工智能與其他技術的聚合及其在廣泛場景中的應用，會擴大其技術隱患所波及的范圍。

3 危局中育新機：發展與安全的平衡

人工智能是提升我國國家競爭力的關鍵性要素，也是保障我國國家安全的重要技術支柱。正如習近平總書記在中央政治局集體學習會議上所指出的，加快發展新一代人工智能是我國贏得全球科技競爭主動權的重要戰略抓手，是推動我國科技跨越發展、產業優化升級、生產力整體躍升的重要戰略資源[13]。為此，我們更應處理好人工智能對國家安全所帶來的一系列挑戰。基于上述分析，并結合當前我國人工智能技術的發展現況，本文有以下三方面的建議：

第一，以戰略布局的持續完善與發力打破技術高墻。我國已將推進人工智能的發展上升至國家戰略的高度，也已初步構建了支持其發展的政策框架。然而，我國現階段的人工智能發展主要集中在技術相對成熟、應用場景清晰的橫向領域，但在基礎理論、底層技術等縱向領域相對乏力。為此，我們應繼續強化對人工智能技術的敏感性與理解力，制定以基線和指標為支撐的、更為具體的發展戰略路線圖。與此同時，我們還應加快構建自主可控的技術創新體系和產業體系，采用滲透性和開放性方法促進人工智能相關人才的培養與吸收，促進技術與產業緊密結合的相互增益，提高人工智能發展的靈活性[14]。

第二，以風險評估與防范機制的設立弱化風險危害。對于人工智能應用可能帶來的技術、法律、倫理等問題，設立系統、完整的風險評估與防范機制尤為必要。我們應在保持與產業界、學術界密切合作的基礎上，由相關部門牽頭組織開展人工智能投資和應用審查，加快構建技術風險評估機制與災難性風險預防機制等安全管理體系，并設置容錯機制、漏洞檢測和技術錯誤糾正機制等技術配置機制來提升人工智能的安全性。

第三，以推進國際合作和參與全球治理為契機提升技術安全。全球科技的進步本身需要各國的積極參與，而技術風險的防范更是需要各國的充分合作。有鑒于此，我們應秉承構建人類命運共同體和推動科技向善的理念，積極推動國際社會就人工智能開展常態化的多邊溝通，并在此基礎上，綜合參考各國的人工智能原則，推動建立一套普適的技術標準規范體系和較為一致的人工智能監管框架，為人工智能的發展搭建更為廣泛的國際合作網絡與治理平臺。

4 結 語

在百年未有之大變局之下，國家科技競爭逐步激化，如何把握人工智能的發展主動權與處理好相應的風險，并實現良性、合理的國際合作與競爭，已經成為我國國家安全治理亟需解決的議題。我們應在充分維護自身戰略利益的基礎上，推動、容納和接受人工智能的突破和創新，保持自身在這一技術領域的領先性與自主性，并自覺關注該技術對國家安全可能造成的風險，對潛在風險進行研判與預防。當然，我們還需著眼于人工智能相關技術規范的構建，積極提升我國在人工智能治理領域的議程設置能力。