人工智能專家呼吁禁止發(fā)展殺手機(jī)器人

8月21日，國(guó)際人工智能聯(lián)合會(huì)議（IJCAI）在澳大利亞墨爾本召開(kāi)。在開(kāi)幕式上，特斯拉公司的伊隆？馬斯克和谷歌公司的穆斯塔法？蘇萊曼牽頭，與來(lái)自26個(gè)國(guó)家的116名機(jī)器人和人工智能領(lǐng)域的專家聯(lián)合提交了一封公開(kāi)信，共同呼吁禁止使用自主攻擊武器。

這封公開(kāi)信獲得了多名在機(jī)器人領(lǐng)域有影響的專家的支持，并且著重強(qiáng)調(diào)了緊急行動(dòng)的必要性，促使聯(lián)合國(guó)推遲了原計(jì)劃在21日召開(kāi)的一個(gè)會(huì)議，專門來(lái)評(píng)估這一問(wèn)題。目前，聯(lián)合國(guó)已經(jīng)投票決定，開(kāi)始正式討論無(wú)人機(jī)、坦克和自動(dòng)機(jī)關(guān)槍等武器的發(fā)展和使用問(wèn)題。

人工智能技術(shù)正在讓自主武器系統(tǒng)變得更加致命。

這不是IJCAI第一次作為討論致命自主武器系統(tǒng)的平臺(tái)。兩年前，人工智能和機(jī)器人公司的一些創(chuàng)始人在布宜諾斯召開(kāi)的會(huì)議上，曾經(jīng)向聯(lián)合國(guó)致公開(kāi)信，呼吁聯(lián)合國(guó)阻止目前正在進(jìn)行中的殺人機(jī)器人軍備競(jìng)賽。這封公開(kāi)信把無(wú)需人類指令便能夠選擇并攻擊目標(biāo)的人工智能武器與無(wú)人機(jī)、巡航導(dǎo)彈等人類選擇打擊目標(biāo)的武器有所區(qū)別。

在信中，這些技術(shù)領(lǐng)袖在常規(guī)武器公約的審查會(huì)議上警告說(shuō)，繼火藥和核武器后，這一領(lǐng)域的軍備競(jìng)賽可能會(huì)引發(fā)“第三次戰(zhàn)爭(zhēng)革命”。他們?cè)谛胖袑懙溃骸耙坏┭兄瞥晒Γ旅灾魑淦鲗⑹刮溲b沖突擴(kuò)大到前所未有的規(guī)模，而且戰(zhàn)爭(zhēng)進(jìn)展的速度也比人類理解的更快。這些自主武器可能成為恐怖行動(dòng)的代名詞，會(huì)成為獨(dú)裁者和恐怖分子對(duì)無(wú)辜平民使用的武器，也有可能被黑客所利用，做出我們不愿看到的行為。”

盡管機(jī)器人士兵仍處于紙上談兵階段，可是計(jì)算能力和人工智能的迅速進(jìn)步，增加了軍方在20年內(nèi)把機(jī)器人士兵派上戰(zhàn)場(chǎng)的可能性。在這封公開(kāi)信中，這些創(chuàng)始人表示，雖然對(duì)軍隊(duì)作戰(zhàn)人員來(lái)說(shuō)，人工智能技術(shù)可以令戰(zhàn)場(chǎng)更加安全，但這種不受人類控制的武器會(huì)引發(fā)全球性人工智能軍備競(jìng)賽。技術(shù)領(lǐng)袖們認(rèn)為，留給人類采取行動(dòng)的時(shí)間并不多，“潘多拉的盒子”一旦打開(kāi)，就很難關(guān)上了。

此前，專家曾經(jīng)警告說(shuō)，人工智能技術(shù)已經(jīng)達(dá)到了一個(gè)重要階段，即自主化武器的部署將在今后幾年內(nèi)就可以投入使用，而非人們想象的還需要數(shù)十年。

專家們憂慮，具有自主作戰(zhàn)能力的攻擊型武器會(huì)降低戰(zhàn)爭(zhēng)的門檻，甚至有可能導(dǎo)致更多平民失去生命。

在今年的會(huì)議上，這些創(chuàng)始人呼吁把“缺乏道義的”致命自主武器系統(tǒng)加入到聯(lián)合國(guó)在1983年生效的《特定常規(guī)武器（CCW）公約》禁用的武器清單中，這份清單包括化學(xué)武器和蓄意使人失明的激光武器。

無(wú)障礙機(jī)器人公司的創(chuàng)始人瑞安？蓋瑞比表示：“與仍然處于科幻領(lǐng)域的人工智能表現(xiàn)不同，自主武器系統(tǒng)正處于發(fā)展的尖端，具有非常現(xiàn)實(shí)的潛力，有可能對(duì)無(wú)辜百姓造成重大傷害，并引發(fā)全球不穩(wěn)定”。作為這封公開(kāi)信的簽名者之一，馬斯克一再警告對(duì)人工智能前瞻性規(guī)范的必要性，將其稱為人類面臨的最大生存威脅。不過(guò)，也有其他一些專家認(rèn)為，人工智能盡管存在巨大的破壞性潛力，但從現(xiàn)實(shí)來(lái)看仍然十分遙遠(yuǎn)。

對(duì)此，不同國(guó)家在這一問(wèn)題上的態(tài)度也有所差異。西班牙政府已經(jīng)明確表示，西班牙軍方目前沒(méi)有、也無(wú)意在未來(lái)開(kāi)發(fā)任何基于人工智能的自主致命武器系統(tǒng)，本國(guó)政府也不會(huì)資助任何相關(guān)領(lǐng)域的研究項(xiàng)目。然而，英國(guó)政府在2015年曾經(jīng)反對(duì)禁止使用致命自主武器的提議，英國(guó)外交部表示“國(guó)際人道主義法已經(jīng)針對(duì)這一領(lǐng)域提供了充分的監(jiān)管”，強(qiáng)調(diào)了英國(guó)并沒(méi)有發(fā)展致命的自主武器。

（責(zé)任編輯：黃貞靜）