與《未來簡史》作者尤瓦爾·赫拉利聊聊比人工智能統(tǒng)治世界更可怕的事

巴芮+張薇+晁春彬

人們總是熱衷于幻想未來。《人類簡史》的作者尤瓦爾·赫拉利（Yuval Noah Harari）在新書《未來簡史》中描繪了一幅小部分人進(jìn)化為神、大部分人被人工智能（AI）所超越成為“無用階層”的圖景。他希望通過描述這種可能性，來提醒人們能夠?qū)Υ司X并作出行動(dòng)。

尤瓦爾·赫拉利（Yuval Noah Harari） = Y

P：你曾經(jīng)對未來世界有過多少種不同的暢想？

Y：未來，人類會將進(jìn)化為神，這毫不夸張。我們將會獲得“神力”，尤其是創(chuàng)造和重構(gòu)生命的能力。我們可以用基因工程創(chuàng)造新型的有機(jī)生物；用腦-機(jī)接口（brain-computer interfaces）技術(shù)創(chuàng)造半機(jī)械人；甚至創(chuàng)造完全無機(jī)的生命體。21世紀(jì)經(jīng)濟(jì)的主要產(chǎn)物不再是紡織品、車輛或武器，而是身體、大腦和思想。

這將是地球上生命出現(xiàn)以來最偉大的生物學(xué)革命。40億年來，生命被自然選擇的規(guī)律所掌控。無論你是病毒或恐龍，都要根據(jù)自然法則進(jìn)化；無論仙人掌還是鯨魚，外觀如何古怪另類，都依然局限于有機(jī)領(lǐng)域。而現(xiàn)在科學(xué)可以用智能設(shè)計(jì)取代自然選擇，甚至能創(chuàng)造非有機(jī)的生命形式。

P：寫這本書的目的是什么？對《未來簡史》中描繪的未來，很多人表現(xiàn)出的并非進(jìn)化為神人的滿足，而是恐懼。

Y：我寫這本書正是為了提醒人們正面臨的一些更危險(xiǎn)的可能性。如果你懼怕某些可能性，仍可以采取些行動(dòng)。

21世紀(jì)，人工智能（AI）和生物科技的興起肯定會改變世界，我們可以用它們創(chuàng)建不同類型的社會。而如何明智地使用它們是人類所面臨的最重要的問題，這比全球經(jīng)濟(jì)危機(jī)、中東戰(zhàn)爭或歐洲的難民危機(jī)更為重要。

想想生物技術(shù)對待家畜的方式。一方面，我們無視對動(dòng)物的折磨用生物技術(shù)設(shè)計(jì)生長更快、產(chǎn)肉更多的牛、豬和雞；另一方面，我們也能用它來生產(chǎn)被稱為“清潔肉”的肉 —在實(shí)驗(yàn)室中用動(dòng)物細(xì)胞培養(yǎng)出來的肉，不需要飼養(yǎng)和屠宰一整只動(dòng)物。這意味著，我們能用生物工程、人工智能和納米技術(shù)創(chuàng)造天堂，也同樣可以構(gòu)建地獄。作出明智選擇的好處將是無法估量的，一旦選擇錯(cuò)誤，代價(jià)可能是毀滅人類。

P：《未來簡史》中展現(xiàn)出一幅大部分人被超級智能機(jī)器人所取代，變成無用階級的圖景，但目前已有很多人工智能領(lǐng)域?qū)＜曳磳θ斯ぶ悄芡{論，你的設(shè)想是否太過悲觀？

Y：關(guān)于人工智能可能對人類造成的威脅，人們有諸多困惑。科幻電影中，AI通常會產(chǎn)生意識，并試圖操縱甚至消滅人類，這十分不切實(shí)際。智力是解決問題的能力，而意識則是感受和渴望事物的能力。雖然計(jì)算機(jī)已經(jīng)擁有了令人驚嘆的智力，但他們?nèi)匀粵]有意識，且并無證據(jù)表明他們已經(jīng)在發(fā)展意識的道路上。例如，AlphaGo，這個(gè)擊敗圍棋世界冠軍李世石的AI具有令人驚嘆的智力，但它并沒有意識，它不會在比賽中感到焦慮，也不會因贏得比賽而感到快樂。因此，對殺人機(jī)器人試圖滅絕人類的恐懼是毫無根據(jù)的。

我更擔(dān)心的是無意識的AI導(dǎo)致數(shù)十億人失業(yè)，形成一個(gè)龐大的“無用階層”。從汽車駕駛到疾病診斷，我們現(xiàn)在開發(fā)的計(jì)算機(jī)軟件和人工智能正在越來越多的任務(wù)中超越人類。專家估計(jì)在20-30年內(nèi)，不僅出租車司機(jī)和醫(yī)生，而且發(fā)達(dá)經(jīng)濟(jì)體中約50%的工作可能被計(jì)算機(jī)所取代。該如何處理這數(shù)十億經(jīng)濟(jì)上無用之人？我們無從得知。我們沒有任何經(jīng)濟(jì)模式可以應(yīng)對這種情況。這可能是21世紀(jì)我們面臨的最難以破解的經(jīng)濟(jì)和政治難題。

此外，隨著算法迫使人類退出就業(yè)市場，不僅財(cái)富，政治權(quán)力也可能集中在擁有全能算法的小部分精英手中，從而造成前所未有的不平等。

P：《經(jīng)濟(jì)學(xué)人》評價(jià)《未來簡史》是“一部膚淺、華而不實(shí)的作品”，論斷相當(dāng)模糊，給人留下的只有幻象。對此，你想說什么？

Y：我收到許多關(guān)于這本書的反饋，有些是負(fù)面評價(jià)，但多數(shù)是非常積極的。我并不奢望每個(gè)人都同意我的意見。

這本書并沒有給出確切答案，而是提了許多問題，并鼓勵(lì)人們辯論這些問題。例如，當(dāng)大數(shù)據(jù)算法比我們自己更了解我們的愿望和意見時(shí)，政界會發(fā)生些什么事？當(dāng)出租車司機(jī)、醫(yī)生、教師和警察被人工智能取代時(shí)，就業(yè)市場會發(fā)生什么？硅谷最終會不會不僅生產(chǎn)新穎的小玩意，還生產(chǎn)新宗教？針對這些問題，我給出自己的答案，但這只是辯論的開始。我希望讀者能對這些形成自己的看法，而不是一味相信我的話。說到底，問題比我給出的具體答案重要得多。如果人們?nèi)ビ懻撨@些問題，那么這本書就達(dá)到目的了。

P：你在書中提出，因左右腦的分裂，出現(xiàn)“體驗(yàn)自我”與“敘事自我”，而人類沒有真正的“自我”。根據(jù)你的設(shè)想，有人總結(jié)稱“人生根本沒有真實(shí)的意義，一切意義都是幻想出來的”。你怎樣看待人生的真實(shí)意義？

Y：人們尋找人生的意義時(shí)，他們大多期望得到一個(gè)故事。智人是一種講故事的動(dòng)物，在故事中思考。猶太人的故事，基督教的故事……—這些（圣經(jīng)等）只是由人類發(fā)明的小說。沒有廣闊的故事，他們不明白活著還有什么意義。但我不這么認(rèn)為。放棄所有的虛構(gòu)故事后，你終會發(fā)現(xiàn)，現(xiàn)實(shí)才是最美好的。許多時(shí)候痛苦由對虛構(gòu)故事的信念而引起，比如因宗教信仰而引起的戰(zhàn)爭。

當(dāng)我在清晨醒來，我可不想扮演某些虛幻劇中的角色。我想要理解現(xiàn)實(shí)，了解真相。快樂并不能為你提供持久的滿足，得知真相才是獲得幸福的關(guān)鍵。如果你真的了解自己和世界的真相，便沒有什么可以讓你悲傷。當(dāng)然，說易行難。

于我而言，最重要的是“什么是現(xiàn)實(shí)？什么是真正的真實(shí)，還是說這只是我頭腦中的虛構(gòu)？”要回答這個(gè)問題，我們就要讀懂自己的內(nèi)心。但到目前為止，科學(xué)在研究心靈方面仍有很大困難，因?yàn)樾撵`沒有直接觀察的方法。你很難用系統(tǒng)并客觀的方式讀懂自己的內(nèi)心，曾嘗試過的人都知道，即使是幾秒鐘最簡單的心理過程觀察，不被分神或壓垮，都是極為困難的。而你也只能懂得自己的心靈，永遠(yuǎn)無法直接窺視另一個(gè)人的心靈。

這就是為什么我每天花兩個(gè)小時(shí)冥想，而且每年都要進(jìn)行一到兩個(gè)月的漫長冥想靜修。我跟一個(gè)叫S. N. Goenka的老師練習(xí)內(nèi)觀禪修。內(nèi)觀是一種用系統(tǒng)和客觀的方式觀察內(nèi)心的方法，心靈一直與身體感覺保持聯(lián)系。內(nèi)觀時(shí)，人訓(xùn)練自己用有序客觀的方式觀察身體的感覺和心靈對感覺的反應(yīng)，從而揭示我們最深刻的心理模式。

我在冥想中能夠直接觀察到的東西，比我遇到的任何技術(shù)設(shè)備都令人興奮，也比任何智能手機(jī)或計(jì)算機(jī)更能讓我的內(nèi)心感到平靜和幸福。這是我每天與現(xiàn)實(shí)接觸的方式。至少每天2小時(shí)，我的確在冥想中觀察了現(xiàn)實(shí)。而其他22小時(shí)，我被電子郵件、推特和有趣的小貓視頻淹沒。

P：你會怎樣避免自己被海量信息淹沒？

Y：我依然在用一個(gè)很老舊的的諾基亞手機(jī)，沒有攝像頭，也不連網(wǎng)。人們花幾個(gè)小時(shí)在互聯(lián)網(wǎng)上看搞笑的小貓視頻，卻不關(guān)心全球變暖。我盡量避免使用智能手機(jī)，以免被無關(guān)信息淹沒，比起不停檢查電郵、發(fā)推特和拍照，我有更重要的事情要做。

（實(shí)習(xí)生吳睿對本文亦有貢獻(xiàn)）