人工智能如何塑造未來戰爭

朱啟超 龍坤

《無人軍隊——自主武器與未來戰爭》

[美]保羅·沙瑞爾/著

2019年6月出版

世界知識出版社

自主武器對于現代戰爭樣式、戰爭倫理、軍隊建設模式和國際戰略穩定的沖擊，正受到聯合國軍控與裁軍會議、各國政要、軍隊將領和防務智庫專家廣泛關注，也成為新加坡香格里拉對話、北京香山論壇、世界和平論壇等研討的熱門話題。2019年6月，世界知識出版社出版了新美國安全中心保羅·沙瑞爾（Paul Scharre）的近著《無人軍隊：自主武器與未來戰爭》（Army of None： Autonomous Weapons and the Future of War）中譯本，為當前人工智能與軍事革命及國際安全熱點問題討論提供了諸多參考和啟發。該書英文版2018年4月在美國出版后，被比爾·蓋茨奉為2018年度最受歡迎的五本書之一，銷售量在亞馬遜軍事類書籍中名列榜首，并榮獲2019年度美國“威廉·E.科爾比獎”。

《無人軍隊：自主武器與未來戰爭》一書系統研究了自主武器應用對戰爭樣式、戰爭規則、戰爭倫理、軍備競賽與軍備控制等帶來的新挑戰。作者試圖回答充斥著自主武器的未來戰場將呈現何種圖景，并結合美陸軍“愛國者”導彈誤傷美海軍、“F/A-18C大黃蜂”戰斗機和美海軍“文森號”驅逐艦誤傷伊朗民航客機等事例展開分析。比如，如何認識自主性的概念和特點？自主武器具有哪些優劣勢？哪些領域需要將人類決策讓渡給機器、而哪些領域必須保持人類的必要干預？自主武器對于戰爭法、倫理道德和戰略穩定性會帶來哪些影響？自主武器會惡化還是會緩解平民傷亡？自動化股票交易算法使華爾街出現“閃崩”，那么未來自主武器用于戰爭是否會導致“閃戰”，自主武器的軍備控制能否成功，等等。作者在對這些問題的分析中認為，在人類無法生存或通信受阻乃至崩潰的環境中，自主武器執行清晰的狹義任務具有明顯優勢。尤其在信息迅速變化的戰場上，如果交戰速度和密度超越人類的生理物理極限，那么運用高自主性的武器系統就變得十分必要。但是，保持人對生死攸關決策的干預權是必要的，也是一條不容突破的底線。未來戰場上最好的作戰系統將是人類與機器結合的混合人機系統（“半人馬戰士”），既發揮自主武器在快速處理信息方面的優勢，又發揮人類決策的魯棒性和靈活性。作者還認為，歷史上成功的軍備控制協議多是由于該類武器嚴重威脅到了戰略穩定性且多由大國主導。然而，當前禁止自主武器的主要驅動因素在于避免平民傷亡等人道主義考量，且美、俄等大國均未表現出積極意愿，使得自主武器軍備控制前景堪憂。

盡管《無人軍隊：自主武器與未來戰爭》贏得了不少讀者贊譽，但筆者認為，該書也存在一些值得商榷的地方。在該書后半部分，作者梳理了目前自主武器軍控的主要進展和存在的問題挑戰。作者認為，短期來看，自主武器將使得軍事大國變得更加強大。但長期來看，隨著這類技術和武器裝備的擴散，天平的一方會逐漸朝著相對弱小的國家傾斜。作者在這里沒有詳細分析自主武器對于世界權力動態的影響機制和深層原因，其實人工智能技術的發展具有低成本、易擴散的特點，大國、小國以及非國家行為體都應當被視為“利益相關者”，共同參與人工智能安全風險挑戰的國際治理。對于自主武器軍備控制這一日益凸顯的全球問題，作者結合歷史實踐經驗提出了禁止使用完全自主武器、禁止以人為目標的自主武器、為自主武器建立行為準則、創建保持人類判斷在戰爭中作用的通用準則等四種簡單方案，但作者并沒有對四種方案的可行性進行深入比較評估。此外，作者書中一些觀點和立場也不可避免帶有“美式”偏見。例如，他將敘利亞以及伊拉克等國家視為“流氓國家”，認為這些最殘暴的政權會無視自主武器軍備控制協議，從而可能使人類面臨黑暗的噩夢。他還批評“俄羅斯正在利用機器人傳播虛假信息，企圖破壞西方民主國家的政治制度”。而中國則“正在朝著一個技術反烏托邦的監視國家發展，試圖通過人臉識別技術和社會信用體系加強對公民的管理”。這些觀點無疑都帶有美式根深蒂固的霸權思維、自我優越感和認知偏見。

值得肯定的是，作者擁有理工科學科背景，也有曾在阿富汗前線服役、在美國國防部政策規劃部門任職、在美國知名智庫從事戰略研究等豐富閱歷，為寫作本書他還到美國國防高級研究計劃局和美軍“宙斯盾”訓練與支援中心等地做了大量訪談，積累了第一手翔實素材，這使他對技術和戰爭問題的分析展現了靈活的駕馭能力，因而被比爾·蓋茨贊為“實戰經歷與戰略思維兼備的思想家和作家”。

（朱啟超，國防科技大學國家安全與軍事戰略研究所所長、國防科技戰略研究智庫研究員;龍坤，國防科技大學文理學院研究生、國防科技戰略研究智庫實習研究員）