應對人工智能武器說不

文/bucee

應對人工智能武器說不

文/bucee

美國參謀長聯席會議副主席保羅·塞爾瓦上將曾在國會聽證會上提出警告，人工智能武器會讓人失去作戰控制能力，甚至最終反制人類。

聯想到此前諸多知名人士對人工智能潛在危險的預測，塞爾瓦將軍的警告不應被忽視。而出于防患于未然之目的，各國應毫不猶豫地對人工智能武器說不。

人類或不是人工智能的對手。去年，人工智能程序AlphaGo以4：1的懸殊比分擊敗韓國圍棋第一人李世石；2017年，在與AlphaGo的對決中，排名世界第一的天才棋手柯潔三戰皆負。日本電氣通信大學助教伊藤毅志認為，AlphaGo“完全達到了超越人類的水平”。在4月于北京召開的2017年全球移動互聯網大會上，著名物理學家史蒂芬·霍金通過視頻致開幕詞強調，“我認為生物大腦能實現的東西和計算機能實現的東西之間不存在真正的差別”，而“受限于緩慢的生物進化，人類無法與人工智能競爭并可能被其取代”。事實上，早在三年前，霍金就曾對英國廣播公司表示，發展全面的人工智能可能導致人類的毀滅。美國特斯拉汽車公司創始人埃隆·馬斯克也形容人工智能是“惡魔”，“如果要我猜人類最大的生存威脅是什么，我想那就是人工智能”。

人工智能武器可能超出人類控制。人工智能武器屬自主系統，而自主系統是人類所創造的極為復雜的自適應系統，其能通過大數據支持和反復自我學習持續提高判斷、決策能力。正如AlphaGo之父杰米斯·哈薩比斯所言“AlphaGo不僅僅只是模仿其他人類選手的下法，而且還在不斷創新”。很顯然，變得日益聰明、自信的人工智能武器，可能在未接收操作手指令的情況下“為所欲為”，自行選擇目標，自主實施攻擊，使得戰場指揮員難以對其實施干預，更談不上有效的指揮控制了。而超出控制的戰場作戰力量通常會產生意想不到的嚴重后果。

人工智能武器易于擴散。與防核武器擴散僅需控制住易裂變材料鈾、钚的生產與轉移形成鮮明對比，部分人工智能武器體積小，成本低，便于大規模制造，可通過多種渠道流通。據報道，在敘利亞戰場上已出現由商用無人機攜帶榴彈實施攻擊的案例。因此，在人工智能武器功能尚未強大到令人恐懼的程度之前，形成一套禁止將人工智能用于武器的國際規范，對于阻遏人工智能軍備競賽，避免出現人工智能武器反制人類、毀滅人類的前景是十分必要的，也是極具前瞻性的舉措。