人工智能的鑰匙該在誰手中

胡驚雷

正如其他顛覆性的技術，人工智能是數(shù)個世紀的藝術想象、哲學反思、科學突破和工程進步合力的產(chǎn)物。神造人的傳說，笛卡爾的“身心二元論”， 霍布斯關于一切心靈活動都可以被還原為加減乘除的斷言，萊布利茲的二進制，巴貝奇的可編程機械計算器，布爾的0和1為結論賦值的代數(shù)，羅素悖論，希爾伯特關于算術公理的相容性問題，哥德爾不完備定理，圖靈，馮諾依曼……

但人工智能的飛速發(fā)展，是在1956年的“達特茅斯會議”之后。這半個多世紀里，它雖然經(jīng)歷了20世紀70年代中期政府削減預算和80年代后期市場需求不足所引發(fā)的兩次“寒冬”，卻在其余階段高歌猛進，經(jīng)歷了好幾個“里程碑”的時刻，比如1997年“深藍”擊敗國際象棋冠軍卡斯帕羅夫，2011年Watson打敗了百科知識問答節(jié)目Jeopardy！ 歷史上最偉大的兩個冠軍，到2014年、2015年更是出現(xiàn)井噴，尤其是后一年，被彭博網(wǎng)認為是劃時代的。人工智能在圖像識別、工程應用、機器翻譯、游戲競技等方面均取得跨越式發(fā)展，Google 、Microsoft、Amazon、IBM、Intel、Facebook等科技巨頭們，都將之列為最優(yōu)先發(fā)展的方向。不僅如此，機器學習的一些技術革新還先后登上了《自然》和《科學》雜志封面。而到2016年春，Alpha Go與李世石的圍棋大戰(zhàn)，使人工智能成為舉世矚目的焦點。

似乎Kurzweil 在《奇點臨近》 一書中所預見的以人工智能為代表的科技呈指數(shù)增長的趨勢已經(jīng)形成; 而1950年圖靈的開創(chuàng)性論文“計算機器與智能”的種種啟發(fā)性設想，比如模仿兒童學習的機器，比如模仿神經(jīng)的網(wǎng)絡，比如類似生物變異的衍生算法……以及在倒數(shù)第二頁那個看似不經(jīng)意的推斷：智能機器的行為并非是完全可被預知的……都變成了預言。

一些人期待人工智能幫助我們恢復生態(tài)、消滅貧困、實施救援、支持殘障等，另一些人警告它可能成為潛在的敵人或是潛在敵人的大規(guī)模殺傷性武器。樂觀的展望并非毫無根據(jù)，而小心的警告也不是空穴來風。不要忘記，大型機的鼻祖ENIAC和它的升級版MANIAC分別用來做原子彈與氫彈的計算;不要忘記，擁有“高級智能”的人類滅絕物種的效率是自然界的1000倍。參加曼哈頓工程的費曼就曾引用一句箴言表達他對科技這把雙刃劍的警惕： 同一把鑰匙，既可以打開天堂之門，也可以打開地獄之門。人工智能會是這樣一把鑰匙嗎？

布魯金斯資深研究員P.W.Singer 注意到，美國空軍和地面部隊激增的機器人需求正在加速改變戰(zhàn)爭的形態(tài)，簡言之，機器人正在結束人類5000多年來對戰(zhàn)爭的壟斷;2015年7月，包括霍金、馬斯克、史蒂夫·沃茲尼亞克在內(nèi)的多位科技名人與公共知識分子都簽署了一封公開信，呼吁禁止自動化武器以避免引發(fā)軍備競賽，重蹈冷戰(zhàn)覆轍;去年2月，比爾·蓋茨主張向機器人征稅以幫助人類過渡到失業(yè)狀態(tài);3月，摩根大通開發(fā)的金融合同解析人工智能系統(tǒng)COIN成功將36萬小時的工作縮至幾秒內(nèi)完成，這使得自適應交易算法ZIP的發(fā)明人Dave Cliff很多年前的玩笑變成了預言：不久你會發(fā)現(xiàn)，交易大廳里只剩下一臺大計算機，一條狗和一個人;計算機做交易，狗負責守計算機，人負責喂狗。

一些紙上談兵的思想者會說，這都是杞人憂天。這種勇氣來自于一個事實：他們不需要對后果負責。如果我們要用這把鑰匙進天堂，就不能忘記馮諾依曼的叮囑：“我們應該預測所有穩(wěn)定的過程，控制不穩(wěn)定的過程。”只可惜他并未完成遺作《計算機與人腦》，我們無法猜測他可能提出哪些建議以控制人工智能這個注定“不穩(wěn)定的過程”。我們要前進，但也有責任保持這份警惕：往往我們所期待的，總是來得太慢，而我們所憎恨的，總是來得太快。