淺析致命性自主武器的國際人道法問題

【摘 要】 致命性自主武器伴隨著人工智能的快速發展而成為科學家和法學家們討論的熱點。盡管尚未形成統一的定義，目前也沒有真正意義上的這種武器，但是絕大多數的學者們相信它的出現只是時間問題。它可能沖擊現有的國際人道法的秩序，主要是區分原則、比例原則和預防原則，甚至給人類帶來人道災難。國際社會既有支持其發展的聲音，也有反對的看法，甚至還有中間道路。中國應當積極應對，捍衛國家利益。

【關鍵詞】 致命性自主武器 人工智能 國際人道法 應對態度

一、問題的提出

前景無限的人工智能應用到軍事領域就引發了專家們的擔憂：以霍金、馬斯克等人為代表的科學家們對具有AI智慧的自主武器持否定態度，聯合眾多專家警告并抵制自主武器的發展。除了科學家們擔心的“機器人可以殺人”的倫理危機外，國際法學界也對這個問題有了激烈的討論。《特定常規武器公約》締約國自2014年以來每年組織專家組會議討論致命性自主武器可能引發的國際法問題，中英美俄德等大國積極參與，發表意見，闡述立場。雖然各國在眾多問題上有分歧，但是最核心的疑問就是：此種將來會出現的裝載人工智能的武器能否遵循現有的國際人道法規則呢？

二、有爭論的定義

由于科技發展的不確定性和致命性自主武器的概念性，相關國際組織和學者以及各國政府對于這種武器都有各自的理解和定義，有的甚至非常懸殊。比如中國和英國政府認為，致命性自主武器是具有高度人工智能、在戰場上不受人類控制，甚至可以發展出自我意識的武器，因此需要被禁止。國際紅十字會認為，武器的關鍵功用具有自主性，且在沒有人類的干預下能夠選擇并攻擊目標的武器是自主武器。美國國防部給出的定義是：一旦啟動，能夠選擇并攻擊目標，不需要人類操作者的干預。

筆者認為，從字面意義上解釋“致命性自主武器”，則需要采用拆解法，分別解釋每個獨立的概念。首先，“致命性”是形容該武器的特點，因此限定了這類武器的用途和范圍，排除了那些偵查型的武器。第二，也是最主要的特點，“自主”，這里的理解是不需要傳統意義上人類的操作，能夠獨立完成任務，否則像無人轟炸機那樣仍然需要人類扣下扳機的武器就不是自主武器，更不是概念上的武器。最后，它是武器，本質屬性和傳統的槍、炮沒有區別，只不過是可以自動找尋目標。強調這一點是因為不能因為它具有一部分戰斗員的戰斗智慧和特點就認為它在國際法上屬于戰斗員。

從學界主流的觀點來看，將該武器定義為近似電影《終結者》中的機器人是過于夸張的，不被絕大多數學者接受。即使大家對于“自主性”的理解不同，在用語上有所差異，但是人們對致命性自主武器仍然有著共識：即該武器具有高度的人工智能，與傳統武器相比，人類干預大大減少甚至為零。

三、它符合國際人道法嗎？

反對發展這類武器的學者認為，存在于國際人道法現行的存在于日內瓦四公約中的區分原則、比例原則、預防原則，必然不能被致命性自主武器遵守。擁護致命性自主武器的學者則堅持，現行的國際人道法規則不會受到威脅和破壞。走中間道路的學者則強調，是否能夠遵循戰爭法則需要個案分析，在有的情況下可以，在有的情況下未必。

區分原則要求戰斗員和平民，軍事物體和非軍事物體需要在戰場上被區分開來，主要目的是為了保護無辜的民眾。比例原則強調戰斗員在行動前應當對可獲得的軍事利益有所預判，所造成的損害或者平民傷亡不能超過可期待的軍事利益，旨在禁止為了戰爭而不擇手段，同樣意在保護平民。預防原則要求戰斗員時時刻刻在戰場上保持判斷能力，履行注意義務，避免傷害平民。反對派學者堅信致命性自主武器無法區分平民與戰斗員，尤其是在復雜的戰場狀況下；同時，比例原則本身就是針對人設置的法律規則，人的主觀判斷在其中至關重要，因此脫離或幾乎脫離了人類控制的自主武器從本質上不可能遵循比例原則；最后如何保證自主武器能時刻履行注意義務，避免誤傷平民，這在反對派看來是幾乎不可能的事情，因為致命性自主武器的目的就在于殺傷敵軍。有意思的是，支持派的學者從相同的原則出發，分析出了相反的結論。他們認為基于現有的技術發展和合理的推論，人工智能大數據深度學習的能力在未來是可以有效區分平民與戰斗員的，而比例原則也可以通過輸入參數計算，數據比較來實現，至于預防原則，人類可以在自主武器中設置自我毀滅程序或者保障人類能夠終止行動的權限，這樣在緊急情況下就可以實現保護平民的目的。

四、應對策略

合法性的爭論還在繼續，似乎不等到致命性自主武器問世的那一天不會休止。但是一個不能等待的問題是我們應當以何種態度面對自主武器。軍事強國如俄羅斯和美國積極支持它的發展，小國主要是發展中國家則表達了自己的憂慮，主張禁止其發展。然而現實問題在于美俄等軍事強國要想積極探索人工智能在武器領域的發展，其他國家是阻止不了的。再加上以非法為理由完全禁止致命性自主武器難有技術支持，一部分學者于是采取折中辦法，建議限制該武器的研發和使用。至于采取何種形式達到禁止，限制或支持發展致命性自主武器，宏觀上來看目前有兩種形式：硬法和軟法。硬法即依托特定常規武器公約這個平臺，制定出具有拘束力的附加議定書；軟法即以“宣言”等文本出臺不具有約束力的，而是倡導性質的文件。

不論目前的爭論如何，在迎接武器革命的浪潮中，中國應當以積極的姿態面對挑戰，主動參與國際性會議，充分表達觀點，提升國際話語權，并堅定捍衛我國國家利益。

作者簡介：胡天（1995.04-） 男 漢族 安徽六安 碩士研究生 武漢大學法學院 研究方向國際人道法