算法戰的“阿喀琉斯之踵”

王聃鋒 龐鋼明

當前關于算法戰的討論已經很多，但多關注算法戰的顛覆性作用，對于其存在的弱點和缺陷的深入討論暫付闕如。特別是，算法系統固有的“黑箱”等問題是算法戰揮之不去的“阿喀琉斯之踵”，如日益復雜的算法系統不可避免地存在算法邏輯不當等安全漏洞，極有可能會造成系統癱瘓等致命后果。可見，尋求破解算法戰的“阿喀琉斯之踵”的解決方案，制定合乎戰爭邏輯的算法開發與應用準則，是發揮算法戰爭效能的關鍵所在。

算法——算法戰的靈魂

算法系統是算法戰的核心。算法系統具有三大要素：數據、算法、算力，其中數據是基礎，算力是保障，算法是算法系統的“大腦”。而算法戰的本質就是在數據與算力的支撐下，將算法應用于戰爭，發揮算法在戰場態勢感知、情報融合分析、指揮輔助決策和火力引導打擊等方面的自動化優勢，從而節約人力成本、降低戰爭迷霧、創新作戰樣式、加快戰爭節奏。

節約人力成本，提高數據分析自動化程度。算法能夠將數據分析專家從機械重復的判讀任務中解放出來，從而能夠節約大量人力成本，聚焦于更高層級的數據分析任務。以圖像識別技術為例，20世紀圖像偵察剛投入戰場應用之時，軍事目標圖像識別完全依賴專家人工判讀，此后出現的基于專家先驗知識的自動目標識別算法，仍需專家根據傳感器、軍事目標等特性，針對性設計目標特征提取算法，如窄帶雷達常使用基于時域的小波變換算法進行目標特征建模。現如今基于深度學習技術的圖像識別算法，可以自主學習目標特征，無需人工干預，目標識別準確率甚至比專家還高，如下圖所示的兩幅圖像，源自于美國DARPA公開發布的前蘇聯地面軍事目標SAR圖像數據集MSTAR，分別為2S1（自行榴彈炮）與BDRM-2（裝甲偵察車），肉眼不僅難以分辨兩者，還需耗費大量人力精力，而運用基于深度學習算法，識別準確率可超過99.5%。洛克希勒·馬丁公司2020年發布的衛星圖像識別系統GATR，使用開源數據集進行自我訓練，可以快速識別船只、飛機、建筑物、海港等軍民用目標，識別準確率可超過90%。

降低戰爭迷霧，提升戰場態勢感知能力。過去只有人腦才能實現的軍事知識關聯、目標意圖推理、戰場環境仿真、態勢趨勢推演等任務，算法也可將逐步實現甚至表現更為優越，能夠挖掘常人容易忽略的局部信息或者難以邏輯的全局信息，輔助指揮員看得清戰場、定得準態勢、判得遠方向，降低戰爭迷霧。DARPA 2007年啟動的深綠項目，便能夠提前演示不同作戰方案可能產生的各種結果，協助指揮員對敵方行動進行預判。2018年DARPA戰略技術辦公室發布的指南針項目，也可幫助作戰人員通過衡量對手對各種刺激手段的反應來識別對手意圖。

2S1（上）與BDRM-2（下）光學圖像（左）與SAR圖像（右）對比

創新作戰樣式，達成“一招制敵”效果。算法技術進步也會帶來作戰樣式多樣化，可據此研究創造全新的戰術戰法，讓對手防不勝防，達成“一招制敵”效果。2019年美陸軍曾成功演示了一枚由灰鷹無人機發射的小型精確滑翔炸彈，在到達目標的前一秒，基于機器學習的算法系統，自動檢測到了一個更高威脅的目標，算法系統迅速重新制導，并在幾秒鐘內將之摧毀，若全采用“人在回路”制導模式，較難實現上述作戰過程。同樣地，早期魚雷等制導武器，受限于傳感器、算力、算法技術受限等因素，主要采用“人在回路”制導模式，單人單批次可操控彈藥數量受限，現如今隨著制導算法進步，基于“發射后不管”的制導模式，射手可采用飽和攻擊模式，且能較好識別誘餌假目標。

加快戰爭節奏，創造“以快制勝”的先發優勢。隨著算法進步與自動化程度提高，OODA周期時間不斷縮短，信息流轉、融合速度不斷提高，作戰節奏不斷加快。算法先進的軍隊，態勢感知、情報分析、指揮決策、作戰行動的能力更強、速度更快、精度更高，將在以分秒計算的未來戰場中創造“以快制勝”的先發優勢，算法落后的對手將陷入處處被動的局面。如2008年洛克希勒·馬丁公司為美國導彈防御局演示的多殺傷運載器交戰管理算法，旨在利用復雜算法整合自身探測系統與導彈防御系統信息，壓縮前期目標信息需求，極大地壓縮交戰時間，加快作戰節奏。

當前算法戰存在的“阿喀琉斯之踵”

即便算法戰將在未來戰爭中大放異彩，但毋庸置疑，算法固有的“黑箱”等問題始終制約著算法最大化發揮其戰爭效能。

各國高度重視算法的軍事應用

可解釋性難題對使用算法系統的作戰人員而言，算法系統的數據輸入層與數據輸出層之間是不可觀測的“黑箱”空間，也就是說他們并不理解算法系統如何推理運算，也不知道系統作出決策的依據，作戰人員也就難以對其產生信任，極有可能“棄之不用”。但即便是算法開發人員，也不盡理解底層算法邏輯，現行人工智能算法較多地依賴工程經驗調整算法參數權值，缺乏基礎理論支撐，算法決策結果不可預知。2007年，美軍第3機步師的3臺利劍機器人，由于算法邏輯錯誤，其中1臺機器人在執行任務時竟完全失控，將槍口瞄準了操作員，其決策結果并不符合預期效果。一旦發生誤傷事件，究竟是追究算法研發人員責任，還是作戰指揮員等責任，難以判定。如果算法可解釋性難題最終無法解決，也就意味著無法理清致命性自主無人武器平臺的戰爭責任，也就無法投入戰場應用。

魯棒性難題以軍事目標圖像識別技術為例，受各種客觀因素限制，平時或戰時可采集的對手軍事目標圖像的樣本少、角度少、距離遠、目標小，如衛星偵察圖像多為高仰角數據，而巡航導彈末制導前迎角較低，目標特征并不一致。使用“臟數據”較多，泛化程度不高的數據，算法模型易出現“過度擬合”等問題，難以達到預期效果。算法研發基于理想的環境模型，即使經過多次測試調整，也難以擬合瞬息萬變的實戰環境，算法能否在嚴苛的實戰環境下仍然保持預期運行效果，是確保其能否發揮最大作戰效能的關鍵所在。

安全性難題功能系統越復雜，安全管理難度越高。如在軍用平臺已投入廣泛使用的語音識別算法系統，其普遍使用的麥克風硬件拾音頻率上限約為24kHz，超出了人類可識別聲音頻率上限（20kHz），設備可正常接收，而聽眾無法察覺。攻擊者便可使用該頻率發送聲音攻擊語音識別算法系統，同理，也可利用生成人類肉眼難以察覺的“毒”像素點，干擾算法輸出結果。其次，隨著代碼規模提高，算法也不可避免地出現代碼漏洞等安全問題，如人工智能算法常用的Caffe框架，使用了超過130組的基礎代碼庫和第三方代碼組件支持，2018年曾被發現了數十種嚴重的代碼漏洞。而軍用平臺代碼更新速度慢或者不更新，這使得算法戰平臺容易成為被攻擊對象。

如何破解算法戰的“阿喀琉斯之踵”？

從系統工程角度來看，算法戰的弱點主要是因為算法本身固有的特性導致的，完全破解這一“阿喀琉斯之踵”既不可能，也不現實。盡管算法已經大量投入到軍事應用中，但應該看到，人力仍然是絕大多數軍用場景，諸如情報分析等任務的主力要素，自動化算法并未完全取代也將難以完全取代機械人力。可見，算法的軍事應用，乃至于算法戰的概念仍在雛形中，相應的約束規則也根據算法戰的發展階段進行適時探索調整，否則會令技術發展停滯不前。從另一個角度看，“阿喀琉斯之踵”的存在會一直促使算法理論基礎與技術應用的發展進步。要破解算法戰存在的“軟肋”，可從以下幾個方面進行探索。

制定以用戶為導向的可解釋標準。要求算法系統對一切軍用場景與一切結果皆可解釋過于嚴苛，姑且不論算法決策是否完全理性，指揮員本身就是非理性決策體，雙方建立信任關系并不完全依靠算法可解釋性，如算法決策結果準確率超過指揮員心理閾值后，便可能建立起信任關系，在此過程中指揮員可能并不關心“黑箱”的算法決策過程。從用戶的角度來看，作戰人員會用腳進行投票，對能夠理解的算法持久信任并產生使用需求，開發人員也會主動提高其可解釋程度以提高采納率，這在戰場上是至關重要的，如在爭分奪秒的指揮決策時，指揮員可獨立思考并篩選最優的算法決策，而不需要時間成本可能極高的可解釋結果。因此只有對用戶可解釋，算法系統才會發揮其最大效能。

美國灰鷹無人機

制定以經濟可行性為導向的魯棒性標準。將一枚精確制導導彈的命中概率從90%提高到99%，所需付出的成本可能是指數級增長的，但采用“雙發齊射”的打擊戰術，命中概率便能達到99%，成本也相對較低。可見，對算法系統的魯棒性要求要綜合衡量技術與經濟可行性，完全擬合真實戰場環境并不現實，更可能導致算法系統過于臃腫而可用性降低，成本也十分高昂，同時在算力不足的終端作戰平臺，也不具備技術可行性。在效費比過低的情況下，可采用更加經濟高效的戰術戰法創新方法彌補魯棒性不足的缺陷。因此，需綜合衡量技術與精力可行性制定算法的魯棒性標準。

導彈“雙發齊射”可提高命中率與效費比

制定以風險為導向的安全性標準。算法不是越透明越好，也不是越安全越好。例如，最安全的地面車輛可能為坦克，但普通家庭用戶更傾向選擇購買舒適性與便利性更優異的汽車。對于后方獨立運行的情報分析算法，與一線作戰的致命性指揮決策算法，就需要區別對待，如果一刀切地要求最高安全標準，缺乏合理性和必要性。所以歐盟的人工智能法草案按照應用場景的不同將人工智能系統分為高風險、有限風險和最小風險，算法的安全標準也需區分風險制定，如分級分類別制定標準，如將直接致命的算法系統列為高風險，需具備最高程度的可解釋性、魯棒性、安全性標準，始終確保作戰人員擁有最高開火權限，在算法不可用的惡劣場景中，甚至需要自毀以確保其不會造成嚴重后果。