人工智能技術國際法問題研究
——以自主武器為例

張玉玲

（中央財經大學 法學院，北京 100081）

1 問題的提出

人工智能技術日臻成熟，推動了我們生活發生極大的變化，如乘坐無人掌控方向盤的無人駕駛汽車、穿戴型智能讀取人體神經信號的可穿戴型機器人等。人工智能技術，一方面如同傳統科技一樣強化或補足了人類生理能力的某些限制，另一方面，它獲得了原本由人類所獨享的某些智力上的能力，尤其是建立在大數據基礎上的深度學習而來的分析能力和決策能力，擁有著強大“自省”能力。[1]正是這種強大的自省與學習能力，使人工智能類技術類產品區別于以往普通產品。雖然科學技術的進步是無法阻擋的，但擁有“自省”能力的人工智能產品，就像一枚硬幣的正反兩面，在給我們帶來的生活便利的同時也讓我們對這些智能產品將來未知的行為產生恐慌。這種典型恐慌的代表就是具有人工智能技術的自主武器。當擁有自省與學習特性的自主武器被運用到戰場上時，它是傳統的武器地位嗎？它可以自主來決定殺人嗎？它符合國際法的要求嗎……自主武器將會引發人們一系列的爭論。

2 自主武器的法律地位之爭

無論是冷兵器時期士兵手中直接揮舞的刀劍，還是熱兵器時期被用來近距離瞄準射擊的火藥槍，以及信息化時期全方位遠距離攻擊的飛機、電子武器，武器一直處于人類直接的掌控之中。即使武器的打擊范圍與距離越來越大、靈活性也越來越強，扣動扳機、按下射擊按鈕的關鍵時刻，還是獨屬于人類。但當人工智能技術運用到軍事武器上，似乎這一切都發生了變化。自主武器它的典型特征是一旦啟動，就無需人的干預而選擇和打擊目標。此時的自主武器，自主決策自主完成打擊，已經超越人類的控制范圍，它具有了區別于一般武器的獨特性。此時，我們將如何對它定義，就成了我們認識它的第一步。

2.1 普通武器

自主武器之所以引發人類的廣泛討論，是因為它的零傷亡優點和良好的環境適應能力，這使得它成為繼火藥與核武器發明之后的創造性武器。在當前的國際法上，并不存在對這個革命性武器做出明確定義的法律文件。目前武器的分類方法，只有武器與作戰手段、方法兩類?！度諆韧咚墓s關于保護國際性武裝沖突受難者的附加議定書（第一議定書）》（以下稱“第一議定書”）第36條對這兩種分類有所涉及。如何檢驗自主武器是否符合以上兩種分類方法，目前是不得而知的。目前多數學者的觀點認為，即使智能武器擁有自主性，它仍是可以進行自我約束的武器。因為，就人類的法律地位來看，如果將人工智能擬制為法律主體會導致人類價值的貶值以及物對人的侵蝕、異化，應該盡力避免[2]，自主武器反客為主挑戰人的主體地位。我們將致命性決策權交由智能無人作戰系統來掌控，實際上是對人的統治地位的嚴重挑戰，這樣會貶低人格，對人的生命權與尊嚴產生深遠的影響。從武器所具有的能力來看，自主武器是將環境中的數據轉化為有目的的計劃和行動,在以后每次執行行動的時候，所依據的數據會越來越大，打擊的精確性也會越來越低，這也必然會導致其每次決策的模糊性提高，導致它的安全性就會降低。更為嚴重的是，自主武器附帶了戰爭屬性之后，殺傷力和毀滅程度是難以想象的。[3]擁有強大打擊能力的自主武器，突破傳統武器法律地位的后果是無法想象的。那些與打擊目標相似的建筑物或者人，都可能由于自主武器打擊決策的模糊性而成為攻擊對象。此外，我們應該將問題聚焦在人身上而非是技術身上，自主武器只是在技術上較傳統武器有所發展，并未突破其武器的本質。

2.2 機器人殺手/戰斗員

自主武器的自主性能來源于數據與算法，這種自主性的來源根本無法與人類相比較。的確，如果我們賦予它殺人機器人/戰斗員的身份，讓它具有與人類似的地位，那么將來當它發生違法國際法的行為時，它就需要像戰斗員一樣承擔相應的責任，這對于自主武器來說意義并不大。換句話說，國際法也從來沒有試圖讓自主武器來承擔責任。并且如果賦予自主武器以戰斗員身份，那些關于戰斗員應該享有的福利，是否同樣應該賦予自主武器呢？這些問題在目前都將無法獲得答案。但有學者認為每個智能系統在不斷演進與變化，都表現出一定的自主性，因此不能把智能裝備看成簡單武器，它的自主決策能力可以把先進的武器系統從被動的軍事材料的類別提升到自動戰斗人員。根據《第一議定書》第43條第2款規定的戰斗員是有權直接參加敵對行動。但遺憾的是，該規定并未說明戰斗員必須是自然人，至于那些具有與人類戰斗員類似的自主武器是否屬于戰斗員行列，國際法目前無法給出清晰的回答，自主武器是否可以成為將來戰場上的戰斗員，進行戰斗也是不清晰的。同樣，將自主武器也可以視為“機器人殺手”。機器人殺手與人類在決策與行動上類似，和戰斗員無異。因此，從這些方面來看，將自主武器劃歸為具有人的特性的戰斗員/機器人殺手并無不妥。是否將自主武器視為一般的戰斗員/機器人殺手是人們爭論分歧較大的一點。

從自主武器自身的特性來看，將它視為機器人殺手/戰斗員似乎沒有問題。但是，值得注意的是目前的法律體系是以人為中心建立起來的，如果將自主武器的法律地位看作與人類相同，這就會威脅人類的主體地位，對人格的侵蝕，甚至是對人類尊嚴的踐踏。因此，雖然法律上未明確說明戰斗員必須是自然人的身份，但結合法律立法的背景以及人的主體地位來看，將自主武器視為普通武器的法律地位，仍然是我們治理自主武器的前提，自主武器的法律地位應當與普通的常規武器一樣。將來自主武器發展到完全的自主的時候，發展幾乎與人類的特性一樣的時候，可以考慮賦予自主武器以獨立的法律地位，但不是現在。

3 自主武器的合法性判斷

目前為止，國際法上也依然不存在一個明確的標準來衡量武器的合法性，這就使得自主武器的合法性沒有一個定論。結合國際法的實踐，判斷自主武器合法性主要表現在兩個方面：一是自主武器自身的合法性；二是自主武器在被人類使用時的合法性。

3.1 自主武器自身合法性判斷

自主武器合法性的判斷主要通過兩個方面來看，一是從武器的審查標準與自身的功能來看，《第一議定書》第36條沒有設立禁止自主武器的標準，并且自主武器投入到戰場上，會減少戰斗員不必要的痛苦和傷亡，因此，自主武器在現行法律框架下是合法的。[4]二是從自主武器是否具有“可預測性”來看，[5]人工智能的本質是數據與算法的結合，[6]自主武器將來會在戰場上面臨各種復雜的環境并且不斷的學習，這就意味著將來它的行動難以被人們預測。一旦戰爭爆發，戰爭的發展方向就有可能不再受到人類的控制。那些投入戰場的自主武器，不將僅僅是軍事一方的災難，而更可能會成為全人類共同的災難。由此，從自主武器的不可預測性所帶來的惶恐，使得人們對它的合法性產生懷疑。更甚者，自主武器流入黑市是遲早的事情，落入恐怖分子手中，那些想要控制更多平民的獨裁者手中，希望進行種族清洗的軍閥等，自主武器也是暗殺、顛覆國家的很好武器。[7]從自主武器的自身來看，法律沒有對自主武器這類新型的武器進行準確的定義，自主武器本身既有積極的一面，也有消極的一面，但消極的一面似乎給人類帶來更大的代價。將來自主武器無法被人類預測與控制，人們是無法接受的。

3.2 武器在使用時的合法性判斷

自主武器在使用上的合法性判斷，主要涉及到的是自主武器在使用的過程中是否會遵守國際人道法上的基本原則與規定，主要涉及到的是區分原則和比例原則。

3.2.1 區分原則

在武裝沖突中，區分原則是一項重要的原則，國際法院在關于以核武器相威脅或使用核武器是否合法的咨詢意見中，甚至將區分原則作為首要核心原則。區分原則要求對戰斗員與平民之間區分，和軍民混用設施進行區分。區分原則使武裝沖突對平民的影響降到最低，禁止以平民為目標及不加區分的進行攻擊。

在戰爭中準確做到區分面臨著兩種困難。第一，對平民與戰斗員之間的判斷，涉及到很多需要解釋與分析的因素，如對戰爭行為的解釋。在傳統的戰爭中，戰斗員都有自己明顯區別平民的標志，如穿戴特定戰斗裝備、在戰斗期間公開攜帶槍支等，人們對平民與戰斗員進行區分是容易的。但是如果混淆這種明顯的標志，比如，沒有明顯標志的平民加入戰爭、尤其是軍事安保公司的加入，美國軍隊依靠私人承包商來維護軍隊，這些軍事安保公司實際上是軍事上的重要合作者。他們是否應該與平民一樣受到保護，是值得商榷的,尤其現在，針對戰爭的含義越來也越來模糊，在非國際性對抗沖突蔓延的形勢下，人們往往需要對戰爭行為的進行具體的解釋才能判斷出哪些是戰斗員、哪些是平民。第二，隨著軍民融合現場的產生，具有“軍民兩用”性質的設施大量出現，這些設施在平時是歸于民用，只是在戰時才會被征用為軍用設施，或者只是在戰時的某一時刻被利用，它們與平民的生活息息相關，如果一旦被攻擊，對平民的生活將造成很大的影響。但是有的學者認為，不能過分強調對于軍民兩用的保護，也沒必要對其進行區分，因為這樣會導致一方過度使用此類方法以躲避軍事攻擊，影響戰爭的效力。[8]自主武器的發展是否會克服以上兩種困難是不確定的，這就導致人類無法放心的認為自主武器可以合法的進入戰場。

3.2.2 比例原則

在國際人道法中，比例原則要求在進行軍事行動過程中需要對平民和軍民兩用設施的攻擊傷害程度降到最低?？偟膩碚f，它需要對軍事利益、損害范圍界定以及合乎比例性評估三個方面都需要進行思考。

比例原則要求所取得軍事利益必須大于軍事行動所造成的損害，否則這種軍事行動是不被允許的。[9]比例原則作為一種價值判斷，它具有靈活性與內涵豐富性的特性。對于攻擊是否符合比例，指揮官擁有較大的自由裁量權。現在存在的問題是，國際法對比例原則的規定比較模糊，沒有給出準確的判斷標準。[10]機器沒有情景意識，它是否可以像人類那樣，做出符合道德價值的判斷。自主武器系統是否按比例使用武力，取決于它的裝備以及其規劃和設計所允許的能力。人類的智能是否可以遷移到自主武器身上，目前還不得而知。因此，在不得而知的情況下，我們也無法判斷自主武器的行為是否符合比例原則。

綜上，自主武器合法性無法判斷的原因主要表現在兩個方面，一個是法律上原因，另一個是自主武器自身發展的原因。法律上對自主武器自身是否合法沒有做出判斷和提供一些判斷的標準。自身原因是自主武器的發展究竟會到智能到什么地步，是不確定的，它是否會遵從比例原則和區分原則是無法判斷的。由此，目前自主武器的合法性判斷是無法做出的，它的合法性與否取決于將來自主武器發展程度與遵守法律的情況。

4 自主武器的國際法規制之爭

現在來看，我們宜將自主武器視為普通武器的法律地位，由于它的合法性無法判斷和投入戰場的潛在危害性，國際法必須對自主武器進行合理的規制。目前國際社會針對自主武器國際法規制的方式，主要幾種在以下幾種方式。

4.1 制定專門規制自主武器的框架性公約

“條約必須遵守”，有效的條約對各當事國具有拘束力。當事國不得以國內法規定為由拒絕履行條約義務。國際社會主張針對自主武器達成一項專門的國際條約，就是看上了條約強大的約束作用。此外，達成一項新的條約，也意味著考慮到了自主武器的自主性，將它與其他普通的武器有所區別。特殊情形特殊對待。支持制定條約國家認為，考慮到人工智能技術正在不斷的發展，人們對自主武器的很多方面還未了解清楚，該國際條約不宜規定的過于全面，開始可以制定框架性公約，隨著人工智能技術進步不斷完善與發展公約的內容。反對者認為，達成框架性的公約對于各個國家根本沒有約束力，自主武器在國際法上的發展仍然是出于不確定狀態。并且有學者認為現在預先禁止自主武器還為時尚早，因為技術還不太成熟。是否制定條約，以及制定什么樣的條約，目前國際社會還在激烈的討論之中。

4.2 制定公約附加議定書

1980 年聯合國通過了《特定常規武器公約》（CWW）目的是為了停止使用被認可為過度不人道與濫殺濫傷作用的武器。該公約雖然僅僅包含11個條文，它的5個附加議定書卻在限制特定武器上發揮著巨大的作用。縱觀這個五個議定書，均是針對特定具有較大危害性的某一種類武器的限制。促進武器使用向著更符合人道的方向發展。這種使用附加議定書的方式比制定統一公約的好處是，它可以隨著科技與武器形態變化，隨時添加具體規制的武器。此外，采用此種方式，有利于締約國根據自己國際的實際情況，選擇參考某個具體的議定書，給國家一定的選擇性。但它也存在著困難，自主武器雖然具有普通武器的地位，但它與普通常規武器已經有所區別，它是否可以被納入到《特定常規武器公約》之內，接受《常規武器公約》的約束是不明確的。雖然，2016年《常規武器公約》締約國第五次審議大會決定成立政府專家組，討論自主武器的話題一直持續召開至今。但這也并不意味著，國際社會一定會在《常規武器公約》框架下達成規制自主武器的議定書。

4.3 達成任何規制自主武器的協定或公約時機還不成熟

目前的人工智能仍然是在發展階段，還遠遠未達到強人工智能階段，人工智能技術正處于不斷的探索之中?？紤]到人工智能技術在民用產品上的廣泛，現在就考慮規制該技術，會阻礙人工智能技術在民用領域的發展。就像很多專家、學者討論至今也沒有討論出合適的解決辦法。就像有的學者所主張的那樣，我們根本不知道要盤點什么，因為在許多情況下，我們將試圖預測不存在的系統的開發，在可預見的未來不太可能存在，而且可能永遠不會存在。因此，達成任何規制自主武器的協定與公約時機還未成熟。

自主武器在投入戰場上可以減少士兵的投入，減少士兵的痛苦，這兩個特點是對很多國家是有誘惑力的。同樣，它會降低戰爭發動的門檻，但是最大的缺點，也是很多國家不敢嘗試的一個重要原因是，它在戰場會是否會遵守國際法是不得而知的。如果我們不能控制一個自主武器的行動，也不能預測它的行動方向，就貿然的就將它投入到戰場上，這對于很多其他國家來說是極其不負責任的。因此，無論自主武器的合法性是否可以判斷，將來它的法律地位如何，我們對自主武器的規制是必要的。結合目前人工智能技術發展來看，人們確實還沒有完全認識自主武器的方方面面，所以制定一個框架性的條約是一個合適的選擇。相比于一步到位的議定書做法，它給當事國更多認識自主武器的機會，有機會等待自主武器的進一步的發展。相比于不制定任何規制文件的做法，它提供給當事國逐漸形成共識的機會，為以后自主武器的治理奠定了基礎。因此，目前比較有效的自主武器的國際法規制的方式，是各事國達成一項框架性條約，并且之后隨著自主武器的發展逐步的進行完善。

5 結語

自主武器在軍事上的運用改變了傳統武裝沖突的形式。它的自主性一方面加快了戰爭的勝利，另一方面也給人類帶來嚴重的威脅。自主武器與人具有相似的自主學習能力，但從目前智能技術的發展和法律體系的構建來看，還是應該將它視為普通武器的地位。自主武器缺乏天然的基本道德情感與場景分析能力，導致它的合法性受到質疑，自主武器將來在猶如戰場是否會違反比例原則、區分原則現在不得而知，這就使得它的合法性無法判斷。它是否會遵守國際法，有待進一步的驗證。無論合法性與法律地位如何，國際社會針對此類自主武器的自主性和給將來潛在的威脅，必要對它進行一定的規制。規制方式就是制定一項框架的條約，隨著自主武器的發展再逐步達成規制的共識。