軍事智能化的瓶頸與關鍵問題研究

【關鍵詞】人工智能? 人機融合? 功能力? 深度態勢感知

【中圖分類號】 TP18? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2021.10.004

最近幾年，盡管人工智能在軍事領域催生了高度智能化的武器及各種無人作戰平臺，并進一步加速推進戰爭形態向智能化戰爭演變和轉化，但是，大家對于軍事智能和智能概念的理解并沒有越來越清晰，對此有意/無意的迷惑反而越來越多，甚至嚴重制約了這種號稱“改變戰爭游戲規則”的顛覆性技術進一步發展，本文試圖根據國內外相關研究把這幾個概念的內涵外延解釋清楚。

DARPA的智能研究動向與不足

美國國防高級研究計劃局（Defense Advanced Research Projects Agency，簡稱DARPA）在繼續開發第二代人工智能技術及其軍事應用的同時，積極布局第三代人工智能發展，旨在通過機器學習和推理、自然語言理解、建模仿真、人機融合等方面的研究，突破人工智能基礎理論及核心技術。相關項目包括：機器常識、終身學習機、可解釋的人工智能、可靠自主性、不同來源主動詮釋、自動知識提取、確保AI抗欺騙可靠性、基礎人工智能科學、機器通用感知、利用更少數據學習、人機共生、開放世界奇異性的人工智能與學習科學、人機協作社會智能團隊、實時機器學習，等等。

DARPA研究的不足在于“得形忘意”，沒能解決軍事智能的痛點和難點：兵者詭道也。例如，孫子的“兵者，詭道也，故能而示之不能，用而示之不用，近而示之遠，遠而示之近”;又如，克勞塞維茨的“戰爭中得到的情報，很大一部分是互相矛盾的，更多的是假的，絕大部分是相當不確實的。這就要求軍官具有一定的辨別能力，這種能力只有通過對事物和人的認識和判斷才能得到”。古代《孫子兵法》的生命力在于思維戰勝了物理，近代《戰爭論》的缺點在于把戰爭看成了理論，未來“人機環境系統智能”的特點在于加上了“天時、地利、人和”之外的“機輔”。

總之，DARPA的軍事智能化有兩大支柱，一是“機器學習”，二是“自主系統”。然而，當代的自主系統還處于“偽自主”階段，這是由其底層技術架構（機器學習和大數據處理機制）的局限所決定的。無論是行為主義的強化學習、聯結主義的深度學習，還是符號主義的專家系統都不能如實準確地反映人類的認知機理，如直覺、情感、責任、價值等。

美國國防部于2018年6月成立的聯合人工智能中心（JAIC），作為專職負責軍隊智能化建設的機構，統籌規劃建設智能化軍事體系。2021年，該中心將以各軍種工作為基礎，專注于作戰人員的整合和人工智能生態系統的創建，其重點任務是建構軍事人機環境生態智能系統。

目前人工智能技術的核心問題

當前的人工智能及未來的智能科學研究存在兩個致命的缺點。（1）把數學等同于邏輯。弗雷格、羅素等邏輯主義者一般是把數學歸于邏輯學（logic）之下，“+logy”也成為許多學科的詞尾，如生物學Biology=bio（生）+logy（學科）。邏輯是探索、闡述和確立有效推理原則的學科。數學不等同于邏輯，數學研究空間形式和數量關系結構，是一種基于公理的邏輯體系;邏輯研究思維的形式結構。二者一致之處在于“研究對象都是高度抽象的結構”。不同之處在于，其一，數學和邏輯的研究對象不同，數學的研究對象是客觀事物的空間形式與數量關系，而邏輯學的研究對象是思維的形式及規律;其二，數學和邏輯的任務和目標不同，數學的主要目標和任務是揭示客觀事物的空間形式與數量關系的特征，探索其規律性，而邏輯的主要目標和任務則是解決思維推理形式的有效性或真實性問題。（2）混淆符號與對象的指涉。符號的重點在于表征，而對象的重點在于意向性。一般來說，一種意向可以對應一種或多種符號，而一種符號代表的意向性也可以有多個指向（如能指、所指、意指）。人類可以用“一花一世界，一樹一菩提”靈活地表征任何事物，而目前的機器卻只能用固定打標的方式孤立、靜止、片面地表征一個事物。

這兩個缺點直接誘發了幾個很難解決的智能領域及軍事智能領域問題：（1）客觀數據與主觀信息、知識的彈性輸入——靈活的表征;（2）公理與非公理推理的有機融合——有效的處理;（3）責任性判斷與無風險性決策的無縫銜接——虛實互補的輸出;（4）人類反思與機器反饋之間的相互協同調整;（5）深度態勢感知與其逆向資源管理過程的雙向平衡;（6）人機之間透明信任機制的生成;（7）機器常識與人類常識的差異;（8）人機之間可解釋性的閾值;（9）機器終身學習的范圍/內容與人類學習的不同。

軍事智能不是“軍事+AI”

智能是一種由人、機、環境系統相互作用而產生的組織形式，是物理、生理、心理、數理、管理、哲理、文理、機理、藝理、地理、倫理、宗理等多事實、多價值、多責任的混合適應體系，所以智能可能不是單純的類腦。

軍事智能不是“軍事+AI”，也不是“AI+軍事”，軍事智能本質就是軍事博弈，其本身就包含了各種各樣的智能形式（如反智能），所以更準確地說，軍事智能是一種智慧形式（如塞翁失馬），既包括科學技術，也涉及文史哲宗教等方面，屬于復雜領域，其核心是“兵不厭詐”和“兵者詭道也”。其未來發展方向是人、物（機是人造物）、與環境系統相融合的“人類算計+機器計算”（簡稱“計算計”）體系。

在軍事智能中，厘清自動化、智能化的概念非常重要。自動化是確定性的輸入，可編程的處理，確定性的輸出;人工智能是部分確定性的輸入，可編程的處理，部分確定性的輸出;智能是不確定性的輸入，部分可編程的處理，不確定性的輸出。人工智能（含自動化）與智能的區別是：一個是功能，一個是能力。很多人期望得到的往往是能力，而不是功能，即通過人工智能功能實現智能能力，這就是期望與現實的矛盾所在，也是人們失望所在：把功能錯看成了能力。軍事智能需要實現“功能+能力”的合成（簡稱功能力）。機器功能邏輯的基礎是映射關系，而人類直覺能力的基礎則是漫射、散射、影射，其中，人類的想象力、創造力是一種情理融合的能力，也是“軍事智能”的邊界。因此，僅開發出高性能智能產品或系統，仍不能提高體系的組織力和戰斗力，必須將其集成到運行技術系統、組織流程和人員運行流程中才能發揮其威力和效力。

軍事智能化的瓶頸和關鍵問題不是單純的快、單純的準，而是對。例如，單純機器計算得越精細、越準確、越快速，危險性越大，因為敵人可以隱真示假、造勢欺騙、以真亂假，所以有專家參與的人機融合/混合軍智更重要、更迫切、更有效。人機混合常常是指“人+機”（側重事實性數理物理結合，價值性結合較少）;人機融合是指“人×機”（既包括事實，也涉及價值，既有數理物理交互，也有心理倫理交流）。在軍事界，大多數觀點認為，人必須在“人—裝備—環境系統”中并掌控該系統的關鍵使用。例如，許多科學家支持致命性自主武器系統（LAWS）宣言，反對脫離人類控制的自主武器系統開發。這就必須滿足兩點要求：一是必須有可靠的人在系統中，而不能是不可靠的人在系統中;二是要求人、機不能是平等關系，可靠的人必須要發揮關鍵作用。因此，從這個角度看，對軍事智能而言，“人機混合”要比“人機融合”一詞更準確一些（可以保證人主機輔關系一致性）。

軍事智能與藝術的本質相同：不在于和諧、理性和規則，而在于緊張、沖突和斗爭。這就是The Art of War（《孫子兵法》）和現代性美學的共性。休謨認為：“一切科學都與人性有關，對人性的研究應是一切科學的基礎?！笨茖W尚且如此，包含科學的軍事智能也不例外。一般而言，人工（機器）智能擅長客觀事實（真理性）計算，人類智能則善于主觀價值（道理性）算計。當計算大于算計時，可以側重人工智能;當算計大于計算時，應該偏向人類智能;當計算等于算計時，最好使用人機智能。計算往往是從已知條件開始的邏輯（解決“復”），而算計常常是從未知前提出發的直覺（處理“雜”）。涉及人、機、環境三者的軍事智能如《易經》一樣，其核心都在于：變。因時而變、因境而變、因法而變、因勢而變……費曼說：“物理學家們只是力圖解釋那些不依賴于偶然的事件，但在現實世界中，我們試圖去理解的事情大都取決于偶然?！比藱C環境之間的關系包含有向閉環、無向開環、有向開環和無向閉環，自主系統大多是一種有向閉環行為。軍事智能中人機環境系統融合的計算計系統也許就是一個解決休謨之問（從事實中能否得出價值？）的秘密通道，即通過人的算計結合機器的計算，實現從“事實”向“價值”的“質的飛躍”。

如何實現人的算計（經驗）與機的計算（模型）融合后的計算計（計算+算計）系統呢？東方思想里的“易”就是一個典型的計算計系統，有算有計，有性有量，有顯有隱，計算交融，情理相依。其中的“與或非”邏輯既有人經驗的、也有物（機）數據的，即人價值性的“與或非”+機事實性的“與或非”，人機融合智能及深度態勢感知的任務之一就是要打開與、或、非門的狹隘。人的經驗性概率與機器的事實性概率不同，它是一種價值性概率，可以穿透非家族相似性的壁壘，用其它領域的成敗得失結果影響當前領域的態勢感知（Situation Awareness，簡稱SA），如同情、共感、同理心、信任等。

凡事有利就有弊，智能也不例外。在人機環境系統動態交互（產生智能）時，由于時間、空間、對象、屬性、關系、條件、規則、情緒、狀態、趨勢、感知等的變化，智能的方式、方法、方案、手段、工具都會作適當的調整和重新組合，正可謂“時變法亦變”。智能需要解決的常常是真實問題，如安全威脅、高效處理、準確預測，等等。智能包含著過去的經驗和數據，但不會僅僅依賴這些過去，它還包含著未來對此時的影響，如期望的反饋。一般而言，不能隨機應變的智能應該不是真智能。在人機交互、人機混合、人機融合智能等應用中，人工智能可以幫助人，也可以阻礙人，還可以毀掉人，比如過度依賴人工智能容易造成人性中的自信、果敢和勇氣等的喪失，因此，做這些工作或申請項目時，希望不要光看人機融合中計算計系統好的一面，還希望管理者、評審者也能客觀地看到其不好的一面，在不少情境任務下，不好的概率可能更高一些。

主流人工智能學科仍無法理解軍事人機融合智能領域

AI追求數據化、確定性和理性的解釋，假定任何問題都有標準答案，把每個決策簡單地變成約束條件下求解，變成數據計算。但是，真實世界里具有大量不確定性，沒有標準答案，需要人的想象力和算計，不是循規蹈矩?？档抡f，“事物的特性往往與觀察者有關”，這與量子力學思想相通，也是軍事智能的靈魂，即人類的思維之爭。

研究一個事物如果不從未來看它，往往會被它迷惑。計算是算計的產物，計算常是算計的簡化版，不能體現出算計中主動、辯證、矛盾的價值。計算可以處理關鍵場景的特征函數，但較難解決基本場景的對應規則，更難應付任意場景的統計概率，可惜這些還僅僅只是場景，遠未涉及情境和意識。

智能僅是解決問題的一種工具手段，若不與日常生活中的風俗習慣、倫理道德中的仁義禮智信勇、法律中的邊界規則統計概率等諸多方面相結合，就很容易泛濫成災而不可控制。真實的智能不是萬能，它不但涉及事實性的真假問題，還應包括價值性的是非問題，更與責任性的大小輕重密切相關。因此，從嚴格意義上講，軍事智能是許多領域的一連串組合應用。

對于人、機而言，雖然都是將一個問題拆成幾個子問題，再分別求解這些子問題，即可推斷出大問題的解，但人的動態規劃與機器的動態規劃卻不同：有經驗的人可以游刃有余地將一個復雜性大問題拆成事實、價值、責任等不同性質的小問題來求解，還可以避免各種鼠目寸光和畫地為牢的行為決策，而目前的機器對此異質合取化解問題依然望塵莫及，人工智能只會對比（不是類比），也許這也是人類智能的又一個瓶頸和難點：如何有效地處理異質性的非形式化問題。計算是事實性推理關系，低階的算計則是價值性推理關系，高階的算計更是事實與價值混合/融合的推理關系，計算與算計是不同的因果關系。人類的“既……又……”關系往往不是“并”的計算關系，而與具體態勢算計有關。是非不同于對錯，也不同于真假和0/1，孟子曰：“是非之心，智也”。

諾貝爾獎得主丹尼爾·卡內曼在《思考：快與慢》一書中將人類的本能意識快決策稱為系統一，將人類的理性邏輯慢決策稱為系統二，并考察了系統一與系統二之間的區別。經筆者進一步研究，人機環境系統的深度態勢感知中應該還存在決策系統三：人類理性與感性結合下不快不慢的、人機融合的“計算計決策系統”。

結論

2021年5月28日，習近平總書記出席兩院院士大會并發表重要講話，他指出，“科技創新速度顯著加快，以信息技術、人工智能為代表的新興科技快速發展，大大拓展了時間、空間和人們認知范圍，人類正在進入一個‘人機物三元融合的萬物智能互聯時代?！避娛氯藱C融合智能是由“人—機—環境系統”相互作用而產生的新型戰場智能系統。其與人的智慧、人工智能的差異具體表現在三個方面：首先，在融合智能輸入端，它把設備傳感器客觀采集的數據與人主觀感知到的信息結合起來，形成一種新的輸入方式;其次，在智能的數據/信息中間處理過程，機器數據計算與人的信息認知相融合，構建起一種獨特的理解途徑;最后，在智能輸出端，它將機器運算結果與人的價值決策相匹配，形成概率化與規則化有機協調的優化判斷。軍事人機融合智能是一種廣義上的“群體”智能形式，這里的人不僅包括個人，還包括眾人，機不但包括機器裝備，還涉及機制機理;此外，還關聯自然和戰場環境、真實和虛擬環境等。

軍事人機融合智能是軍事智能發展的必經之路，其中既包括理論方法，也包括對人、機、環境之間關系的探索。近年來，越來越多的人工智能武器融入戰場環境，越來越多的人開始關注軍事人機融合智能。但客觀地看，當前的軍事人機融合智能與我們的設想尚存一定距離，如何將人的智能遷移到機器中，仍需要智能科學家作進一步研究。軍事人機融合智能研究不僅要考慮機器技術的高速發展，更要考慮交互主體——人類的思維與認知方式，讓機器與人類各司其職、互相促進，這才是軍事智能研究的前景與趨勢。

參考文獻

Lecun， Y.; Bengio， Y. and Hinton， G.， 2015， "Deep learning"， Nature， 7553： 521， p. 436.

Silve， D.; Huang， A.; Maddison， C. J.; et al.， 2016， "Mastering the game of Go with deep neural networks and tree search"， Nature， 7587： 529， pp. 484-489.

Endsley， M. R. and Glrland， D. J.， 2000， Situation Awareness Analysis and Measurement， London： Lawrence Erlbaum Associates& Inc， pp. 5-15.

Collobert， R.; Weston， J.; Bottou， L.; et al.， 2011， "Natural Language Processing （Almost） from Scratch"， Journal of Machine Learning Research， 12， pp. 2493-2537.

Hinton， G.; Deng， L.; Yu， D.; et al.， 2012， "Deep Neural Networks for Acoustic Modeling in Speech Recognition： The Shared Views of Four Research Groups"， IEEE Signal Processing Magazine， 29： 6， pp. 82-97.

顧險峰，2016，《人工智能的歷史回顧和發展現狀》，《自然雜志》，第3期。

劉偉，2018，《有關軍事人機混合智能的幾點思考》，《火力與指揮控制》，第10期。

劉偉，2019，《追問人工智能：從劍橋到北京》，北京：科學出版社。

劉偉，2021，《人機融合：超越人工智能》，北京：清華大學出版社。

責 編/陳璐穎