2000科學(xué)家聯(lián)名反對(duì)殺人機(jī)器人

本報(bào)記者 李司坤

好萊塢電影《終結(jié)者》為我們展現(xiàn)了殺手機(jī)器人橫行、人類瀕臨滅絕的末日?qǐng)鼍?。隨著近年來人工智能技術(shù)以及機(jī)器人技術(shù)的發(fā)展，此前還處于人們想象中的場(chǎng)景越來越接近現(xiàn)實(shí)，因而也愈發(fā)引起人們的警覺。

據(jù)英國(guó)《衛(wèi)報(bào)》19日?qǐng)?bào)道，由美國(guó)太空探索技術(shù)公司CEO馬斯克以及谷歌頂級(jí)人工智能研究團(tuán)隊(duì)DeepMind創(chuàng)始人薩勒曼領(lǐng)銜的多家科技界大佬，與來自數(shù)百家公司的2000多名人工智能（AI）及機(jī)器人領(lǐng)域的科學(xué)家，在斯德哥爾摩國(guó)際AI聯(lián)合會(huì)議上聯(lián)名簽署宣言，誓言絕不將他們的技能用于開發(fā)自主殺人機(jī)器。

該宣言表示，“我們簽署者達(dá)成一致意見：永遠(yuǎn)不應(yīng)將人類生命的決定權(quán)委托給機(jī)器”，“致命的自主武器，在沒有人為干預(yù)的情況下選擇和參與目標(biāo)，將危及每個(gè)國(guó)家和個(gè)人的穩(wěn)定。”通過該協(xié)議，簽字者承諾今后將“既不參與也不支持致命自主武器的開發(fā)、制造、貿(mào)易或使用”。

報(bào)道稱，各國(guó)軍方是AI技術(shù)最大的資助和采購(gòu)方。借助先進(jìn)的計(jì)算機(jī)系統(tǒng)，機(jī)器人可以在各種地形上執(zhí)行任務(wù)、在地面上巡邏或是在海上航行。而且“更復(fù)雜的武器系統(tǒng)正在籌備中”。《衛(wèi)報(bào)》稱，就在本周一，英國(guó)防長(zhǎng)加文·威廉姆森公布一項(xiàng)價(jià)值20億英鎊的計(jì)劃，確保新的英國(guó)空軍戰(zhàn)斗機(jī)“暴風(fēng)雨”能在沒有飛行員的情況下飛行。

美國(guó)國(guó)家公共電臺(tái)稱，這一承諾的立場(chǎng)在于最終鼓勵(lì)全球政府采取法律行動(dòng)。蒙特利爾學(xué)習(xí)算法研究所的AI領(lǐng)域先驅(qū)約書亞認(rèn)為，如果該承諾能得到公眾認(rèn)可，輿論就會(huì)倒向他們。“這一做法已經(jīng)在地雷問題上奏效了，”約書亞稱，“盡管像美國(guó)這樣的主要國(guó)家沒有簽署禁止地雷的條約，但美國(guó)的公司已經(jīng)停止生產(chǎn)地雷?！?/p>

據(jù)了解，這已經(jīng)不是AI屆的領(lǐng)袖們第一次表達(dá)如上憂慮了。美國(guó)國(guó)家公共電臺(tái)稱，去年8月，各大科技企業(yè)的技術(shù)領(lǐng)導(dǎo)人就給聯(lián)合國(guó)寫了一封公開信，對(duì)圍繞此類武器正在開展的軍備競(jìng)賽提出警告。但問題是，僅靠科學(xué)家們的呼吁，人類社會(huì)能夠避免打開智能殺人機(jī)器人這一潘多拉魔盒嗎？

“有些問題是沒辦法去百分之百地阻止，因?yàn)榘l(fā)達(dá)國(guó)家都在研究如何將無人技術(shù)運(yùn)用到軍事領(lǐng)域，”19日在接受《環(huán)球時(shí)報(bào)》記者采訪時(shí)，門羅機(jī)器人CEO楊興義對(duì)這個(gè)問題并沒有感到樂觀，“在某些方面，科學(xué)家和軍事部門之間并不是站在同一條戰(zhàn)線上的，他們有時(shí)候是事物的正反兩面?！?/p>

楊興義認(rèn)為，從技術(shù)層次上看，想要一勞永逸地杜絕人工智能朝著殺人機(jī)器的方向發(fā)展是很難的，“用什么方式能夠控制自動(dòng)武器去攻擊誰(shuí)是一件很難的事情，我們只能盡量約束它們開火的權(quán)力，比如設(shè)置代碼或原則，把開火的權(quán)力控制在人類手上?！彼硎?，要防止人工智能技術(shù)朝著殺人機(jī)器的方向發(fā)展，更重要的是通過更多的法律、社會(huì)輿論和公眾參與以及更多規(guī)則的建立來做到相互制約?！?/p>