防止人工智能的世界末日

塞思·鮑恩

近期，人工智能領(lǐng)域的各項(xiàng)進(jìn)展堪稱一日千里。對此有種世界末日論，說人工智能驅(qū)動的機(jī)器將智勝人類，接管整個世界并殺死所有人。

這種描寫常見于科幻小說中，但也經(jīng)常被否定，因?yàn)槿祟惾匀焕卫握瓶刂置妗５S多人工智能專家則非常嚴(yán)肅地看待這一末日前景，這種態(tài)度是完全有必要的。

為了解風(fēng)險究竟在哪里，就要去理解“弱人工智能”（narrow AI）和“通用人工智能”（Artificial General Intelligence）的區(qū)別。弱人工智能一次只能在一個或幾個領(lǐng)域運(yùn)作，因此雖然它可能在某些特定任務(wù)中勝過人類，但仍然處于人類控制之下。

相比之下，通用人工智能可以跨越多個領(lǐng)域進(jìn)行思考，因此可以在復(fù)制許多人類智力技能的同時，保留計(jì)算機(jī)的所有優(yōu)點(diǎn)，比如完美的記憶力。借助精密復(fù)雜的計(jì)算機(jī)硬件，通用人工智能可能會超出人類的認(rèn)知。事實(shí)上，通用人工智能的發(fā)展似乎是無上限的。

就目前而言，大多數(shù)人工智能都是弱人工智能。事實(shí)上，即使是目前最先進(jìn)的系統(tǒng)也只具備有限的通用性。

許多知識淵博的人，對高級通用人工智能的前景不屑一顧。其他人則認(rèn)為比肩人類的人工智能在遙遠(yuǎn)的未來可能實(shí)現(xiàn)，但現(xiàn)在開始為之擔(dān)憂還為時過早。也有一批杰出學(xué)者擔(dān)心，通用人工智能會對人類構(gòu)成嚴(yán)重甚至事關(guān)種族存續(xù)的威脅。由于辯論雙方都有龐大的專家團(tuán)支持，因此我們其他人應(yīng)該對此保持開放的態(tài)度，不必提前站隊(duì)。

此外，通用人工智能已經(jīng)成為大型研發(fā)項(xiàng)目的重點(diǎn)。我最近完成了對通用人工智能研發(fā)項(xiàng)目的調(diào)研，涵蓋六大洲30個國家中的45個項(xiàng)目。許多研究項(xiàng)目都由百度、臉書、谷歌、微軟、騰訊等大型企業(yè)以及卡內(nèi)基梅隆大學(xué)、哈佛大學(xué)，斯坦福大學(xué)以及中國科學(xué)院等一流大學(xué)來執(zhí)行。如果簡單地假設(shè)這些項(xiàng)目都會失敗，顯然是不智的。

考量通用人工智能潛在威脅的另一種方法，則是將其與其他災(zāi)難性風(fēng)險進(jìn)行比較。在1990年代，美國國會認(rèn)為應(yīng)當(dāng)指示美國宇航局去追蹤那些可能碰撞地球的大型小行星，即便在一個世紀(jì)內(nèi)發(fā)生這種情況的幾率僅為1/5000。在通用人工智能方面，根據(jù)研發(fā)速度以及專家關(guān)注度的強(qiáng)弱，在下個世紀(jì)中發(fā)生災(zāi)難的幾率可能高達(dá)1/100，甚至1/10。

那么問題就在于如何應(yīng)對。首先，我們需要確保這類研發(fā)都是以負(fù)責(zé)任、安全和有道德的方式來進(jìn)行。這需要那些在人工智能領(lǐng)域工作的人，與政策制定者、社會科學(xué)家和關(guān)注這個問題的民眾進(jìn)行更深入的對話。那些人工智能應(yīng)用程序的開發(fā)者們，大多不習(xí)慣于考慮自身工作的社會影響。為了改變這一點(diǎn)，就必須將他們暴露于外部視角之下。

政策制定者們還將不得不面對通用人工智能的國際屬性。目前大部分相關(guān)研發(fā)都在美國、歐洲和中國進(jìn)行，但大部分代碼都是開源的，這意味著這項(xiàng)工作可能在任何地方完成。因此，盡管某些區(qū)域研發(fā)中心應(yīng)該在建立標(biāo)準(zhǔn)和道德基礎(chǔ)規(guī)則方面起主導(dǎo)作用，但這最終會是整個國際社會的工作。

展望未來，解決通用人工智能所引發(fā)風(fēng)險的一些努力，可以搭載在一些業(yè)已實(shí)施的針對弱人工智能的政策舉措之上。例如由馬里蘭州民主黨眾議員約翰·德萊尼發(fā)起的新兩黨人工智能小組會議。而在研究短期和長期人工智能風(fēng)險的人們之間，也存在著更多協(xié)同合作的機(jī)會。

無論弱人工智能和通用人工智能是合并還是分開考慮，最重要的是我們現(xiàn)在得采取建設(shè)性行動以盡量減少發(fā)生災(zāi)難性事件的風(fēng)險。不然等到風(fēng)險真正來臨時，一切就太遲了。