人工智能軍事應用面臨的全球倫理困境

尹 恒

實踐證明，科學技術的革新在改變人類生產生活方式的同時，也對人類生存發展的總體境況產生持久而深遠的影響。人工智能與軍事活動的深度結合，不僅不可避免地引起軍事作戰方式的顛覆性變革，也可能在無形中打破全球政治、軍事、經濟、生態等領域的微妙平衡，進而引發一系列全球倫理問題。

全球戰略穩定面臨的新風險

冷戰結束后，全球政治格局由兩極逐步向多極轉變，和平與發展成為時代主題，世界安全局勢總體穩定。與此同時，美國憑借其惟一超級大國的地位和強大的軍事實力，推行單邊主義的對外戰略，施行霸權主義，推動北約東擴，對全球政治格局多極化進程和全球戰略平衡造成了巨大威脅。放眼未來，人工智能在軍事領域的廣泛應用，將使得全球戰略穩定面臨更大的不確定性。人類是借此迎來一個真正和平的世界還是不得不重新面對一個支離破碎的世界，人工智能軍事應用將發揮舉足輕重的作用。

世界格局由“兩極爭霸”轉變為“一超多強”

人工智能軍事應用對全球戰略穩定的潛在影響，可歸結為以下幾個方面。一是引發全球軍備競賽。正如恩格斯所說：“暴力的勝利是以武器的生產為基礎的，而武器的生產又是以整個生產為基礎，因而是以‘經濟力量’，以‘經濟情況’，以暴力所擁有的物質資料為基礎的。”現代戰爭中，由社會經濟科技發展水平決定的武器裝備整體性能往往對一個國家的軍事實力有著重要影響。人工智能在軍事領域的應用不僅能極大提高武器裝備整體性能，還可以通過改變軍隊組織結構和作戰模式，使戰斗力實現質的躍升。也正是基于這一認識，世界各國紛紛把人工智能運用于國防軍事重點領域。2018年1月，美國防戰略報告中明確指出以人工智能為代表的新技術能夠確保美國贏得未來戰爭，表示要將人工智能應用于軍事領域的先進自動化系統建設，以確保美國始終保有對競爭對手的軍事優勢。之后，美國防部在人工智能上的資金投入呈逐年上升趨勢，從某種意義上講可以說已經拉開了人工智能領域軍備競賽的序幕。美蘇冷戰時期，軍備競賽主要在兩個超級大國之間進行，而人工智能時代的軍備競賽，則可能在更大范圍、更深程度和更多領域上進行。可以想見的是，如果這一可能性成為現實，必將使得國家之間面臨更深的安全困境和信任危機，無論是對經濟全球化進程，還是對全球和平事業都將造成不可估量的負面影響，而這與人們發展人工智能的初衷恰恰是背道而馳的。

二是影響國際權力格局。20世紀末期，隨著東歐劇變、蘇聯解體，美蘇對立的兩極格局逐步為“一超多強”的局面所取代，世界政治格局朝著多極化方向發展，各國之間維持著微妙而脆弱的平衡。隨著人工智能在軍事領域的應用，這一局面面臨被打破的風險。作為人類科技史上最有效的力量放大器，人工智能與軍事活動的深度結合，將釋放巨大的軍事潛力，從而為擁有人工智能的國家贏得前所未有的力量優勢。美國作為當今世界的頭號軍事強國，在全球各個角落以武力推行“美式民主”，充當世界警察的角色。一旦美國在人工智能軍事應用領域取得絕對優勢，勢必進一步鞏固其自身的全球霸主地位，以維護國家利益為由不斷強化其話語主導權和資源控制權。短期看，此舉必然會加劇國際緊張局勢，進而壓縮被美國列為競爭對手和“拉入黑名單”的國家的生存空間；長遠看，單邊主義和霸權主義必將擴大國家之間的隔閡和分歧，使世界重新退回到各自為政的孤島，使綜合國力相對落后的國家喪失發展權利和安全保障。行為體之間的軍事力量差距將因為人工智能技術水平而再次擴大，國家的軍事戰略目標也將隨之調整，傳統的國際安全體系將變得不再穩定。

當恐怖分子將人質作為“人肉盾牌”，人工智能在攻擊時可能發生誤傷

三是降低戰爭發動門檻。隨著人類社會的進步，在生命健康權得到前所未有重視的今天，來自各個國家內部的反戰聲音日益成為遏制國家貿然采取軍事行動的關鍵因素。人工智能替代人類士兵上戰場，將極大消解國內民眾對于戰爭的恐懼和擔憂，從而使得發動戰爭的輿論阻力和道德壓力大大減小，為某些強權國家實施軍事擴張移除阻礙。而這樣的情況一旦出現，必將使原本就脆弱的國際和平環境雪上加霜，使世界朝著一個充滿沖突、暴力和不平等的軌道滑去。

四是加劇核戰爭風險。人工智能與核武器的結合相比于常規武器而言，對國際戰略穩定的威脅更為直接。在戰術應用層面，人工智能領先的國家會更加喜歡使用或者威脅使用戰略核武器獲得整體優勢，而在相應戰爭中失敗的前景則會刺激某些國家利用戰術核武器謀求局部主動。在戰略穩定層面，它會強化國家之間的核軍備競賽，核危機管控也會面臨更大風險。而無論何種情況，都無疑會使核危機出現的可能性大大提升。此外，人工智能應用于與核武器相關的指揮控制系統，還會為黑客和恐怖分子利用系統漏洞破解發射程序代碼提供可能，而這樣的后果，是無法估量和難以承受的。

當然，人工智能作為科學技術，具有兩面性。以上著重分析了“危”的一面，“機”的一面同樣不容忽視。如果管控得當，人工智能軍事應用也可成為強化全球和地區戰略穩定的“控制閥”，甚至為人類實現長久和平和持久繁榮創造可能。但就當下而言，最現實的還是立足最壞打算，從遏制人工智能軍事應用的潛在風險著手，思考維護全球戰略穩定良好局面的對策，而實現這一點，需要各國在達成基本共識的前提下共同努力。正如習主席談多邊主義要義時所指出的：“國際上的事由大家共同商量著辦，世界前途命運由各國共同掌握。”

國際反恐斗爭面臨的新挑戰

進入21世紀，以9·11事件為標志，隨著恐怖主義上升為威脅世界和平和全人類共同安全的主要因素，反恐已成為現代軍事活動中不可忽視的重要組成部分。由于恐怖主義攻擊目標的不加區分和攻擊范圍的不受限制，國際社會對于反恐活動總體上采取支持和肯定的態度。人工智能剛剛興起之時，反恐就被認為是人工智能最有前景的應用領域之一，也正因此，一部分專家學者看好人工智能在軍事領域的發展前景。

支持者普遍認為，人工智能軍事應用將大大提高反恐活動的效率和人道性，有效降低經濟損失和人員傷亡。例如，通過人工智能的大數據分析和圖像識別，可對恐怖分子的身份、位置等信息進行精確鎖定，避免因人為判斷錯誤導致的誤傷。而微型殺手機器人的使用，可對恐怖分子實施一對一精準打擊，大大降低因采用大規模殺傷性武器而導致的附帶損傷。通過充分發揮人工智能在反恐情報收集和精準打擊上的潛能，可形成一張覆蓋全世界任何角落的天羅地網，使恐怖主義無處遁形。

人工智能的軍事競賽可能打破國際戰略平衡

從宏觀來看，以上觀點不無道理，但聯系具體情境，不難發現人工智能在為反恐事業帶來正面效應的同時，也暗含著潛在風險。首先，理想狀況下，人工智能武器系統可對恐怖分子進行一對一搜索、鎖定、打擊，從而最大限度減少人類士兵傷亡，解除人道因素對于行動的限制。但任何聯系都不是單方面的，作用和反作用總是相輔相成、不可分離。恐怖組織針對人工智能武器的運行模式和基本特性也必將制定應對策略，在一定程度上抵消人工智能帶來的技術優勢。譬如，恐怖分子可使自己混跡在平民之中，或挾持人質作為“人肉盾牌”，從而使人工智能武器的攻擊不可避免地造成平民傷亡，一定程度上削弱了反恐的法律和道德基礎。其次，人工智能武器也有可能被恐怖組織所繳獲，并被用于從事恐怖活動。恐怖分子可以通過拆裝武器、下載軟件等方式掌握人工智能前沿技術，進而策劃并實施新型恐怖襲擊。雖然部分學者指出，基于人工智能的“黑盒”特性，恐怖分子通過繳獲人工智能武器破解核心技術的可能性不大，且可以通過內置自毀裝置確保安全，但由于戰場環境的高度復雜性，以上假設并不能完全確保安全。最后，恐怖組織自主研發人工智能武器的風險也現實存在。雖然，與主權國家相比，恐怖組織在人工智能武器的研發上，無論是資金、技術還是人力，都有著難以逾越的差距。因此，主要采用“模仿”而非“創新”的手段，在一種較低的水平上使用這種最新的科學技術。但近些年來，恐怖組織也加大了在相關技術科研上的投入。2017年，“伊斯蘭國”極端組織招募大量工程師和科學家，研發“圣戰無人航空器”，發展和使用無人機技術。雖然現在恐怖組織的科研重心主要放在無人機領域，但難保其未來不會投入相等甚至更大的精力用于人工智能軍事應用的開發上。此外，由于恐怖活動追求殺傷效果的最大化而不受倫理法律方面的約束，智能武器可有助于恐怖勢力達成這一目的，同時最大限度保存恐怖組織精干力量。恐怖組織可使用成本低廉的武裝無人機組成“蜂群”實施無差別攻擊，而國家政府卻很難追蹤到恐怖分子的實時信息，這使得恐怖活動有了更廣闊的生存空間和更強的破壞力。

概言之，人工智能軍事應用對于反恐事業是促進還是阻礙，在反恐活動中能發揮多大的效用，不取決于技術本身而取決于使用它的人。真正消除恐怖主義，不能單單靠技術和武力，而是要深入本質，探究恐怖主義產生的根源和背景。當今世界，個別強權國家以反恐為名，從自身利益和價值觀出發，對恐怖主義者進行帶有實用主義色彩的界定，本身就隱含著“恐怖主義”的內在邏輯。這種大國對“恐怖主義”界定的話語霸權恰恰表明了強權即公理的狂妄邏輯。因此，無論是人工智能軍事應用的發展，還是人工智能在反恐活動中的應用，都不能關起門來搞“一言堂”，而是要在國際社會的共同見證下來探討、摸索和規制，也只有這樣，人工智能才能真正推動世界反恐事業向著一個更光明的未來邁進。

人工智能對反恐事業的影響還有待觀察

全球生態安全面臨的新威脅

隨著人類戰爭形態的演變，戰爭對于人類生存環境的破壞呈現越來越不受控制的趨勢。特別是生化武器、核武器的出現，使得本就脆弱的生態環境面臨著前所未有的威脅。馬克思深刻指出，“自然界，就它自身不是人的身體而言，是人的無機的身體”。因此，某種意義上講，對自然生態的肆意破壞和踐踏，實際上正是人類不自覺施行的一種集體自殘行為。

人工智能在戰場上的使用，有望改善這一局面。對目標實施一對一精準打擊，可在不使用大規模殺傷性武器的前提下完成任務，大大降低對于生態環境的附帶損傷；全部或部分代替人類執行作戰任務，可大大減少在戰爭進程中產生的資源消耗，有效減輕對生態環境所造成的負擔；取代傳統大型機械化裝備成為戰場主力，可大大降低碳排放量，緩解對于大氣帶來的污染。但與此同時，一些新的生態風險也應運而生，如何在利用人工智能使人類軍事活動變得更加綠色的同時，有效規避其可能帶來的生態問題，是人工智能軍事應用倫理研究的前沿課題。

人工智能將不可避免地改變未來戰爭形態

首先，大量小型機器人、無人機“蜂群”、深海無人潛航器的使用，可能會產生大量的戰場垃圾。相比于坦克、傳統機械化裝備，這類裝備具有體積小、成本低、活動范圍廣的特點，一旦在戰場上大面積使用，將產生數量可觀的廢棄物，對生態環境造成二次破壞。同時，出于防止相關技術被敵方或恐怖組織竊取，未來在人工智能軍事應用設備的內部可能會嵌入自毀裝置，這也使得生態安全面臨的威脅大大增加。再者，人工智能的使用將大大擴展人類軍事活動的邊界，使得一些過去難以涉及的疆域面臨生態污染的風險。人類戰爭在一定程度上是為了爭奪資源，隨著資源開發力度的增加，太空、北極、深海等新型疆域將成為未來世界各國軍事競爭的必爭之地。人工智能由于不受人類生理、心理極限的限制，可在復雜環境下全天候遂行任務，理論上，可到達全球的任何一個角落，這也就為擁有人工智能先進技術的國家搶先占領新型疆域創造了條件，而隨著圍繞太空、北極、深海的資源爭奪戰日趨激烈，勢必對地球生態平衡造成全新的威脅。另外，人工智能軍事應用還存在和核武器、生化武器結合的危險，雖然《特定常規武器公約》對這兩類武器的研發和使用均有明確的限制，并為絕大多數國家所認可，但難保人工智能的出現不會重新喚醒這兩頭“沉睡的巨獸”，并對人類生存環境帶來毀滅性的破壞。

正如習主席指出的，“人因自然而生，人與自然是一種共生關系。”人類生活在生態系統中，不僅是生物鏈頂端的主體，而且是整個生態系統中的道德主體，人類的行為活動每時每刻都會對生態系統產生一定的影響，這就要求人類要用生態倫理的整體性看待問題。雖然戰爭對生態的負面影響不能避免，但最大限度地減小這一影響卻是可以做到的，無論如何，人類也不可能脫離自然界而獨立存在，軍事服從政治，而政治也是以人類的生存為前提的。人工智能軍事應用的出現既為實現這一可能帶來機遇，同時也伴隨著風險，能否化危為機，取決于人類以什么樣的方式使用它。