人工智能時(shí)代應(yīng)該思考三個(gè)問題

胡泳

一、從與機(jī)器賽跑到第二次機(jī)器革命

每一次技術(shù)的變革都將在市場(chǎng)掀起翻天覆地的變化。近些年，以人工智能為代表的高科技革命正在逐漸改變?nèi)藗兊纳睿⒃谑袌?chǎng)上開辟出新的賽道。未來，技術(shù)與市場(chǎng)將擦出怎樣的火花？工業(yè)革命最早以技術(shù)——蒸汽機(jī)為開端，我們稱為第一次技術(shù)革命。蒸汽機(jī)擔(dān)任了一個(gè)重要角色。第二次技術(shù)革命是電力工業(yè)革命，美國是其中最大的受益國。像愛迪生等人在第二次技術(shù)革命時(shí)創(chuàng)辦的公司目前仍處于市場(chǎng)重要位置。第三次技術(shù)革命與我們息息相關(guān)。事實(shí)上，第三次技術(shù)革命已經(jīng)進(jìn)入尾聲，我們所說的移動(dòng)互聯(lián)網(wǎng)、智能手機(jī)都是第三次技術(shù)革命的產(chǎn)物。在信息革命巔峰時(shí)期，主要以移動(dòng)互聯(lián)網(wǎng)和智能手機(jī)為代表，因?yàn)橹悄苁謾C(jī)是移動(dòng)互聯(lián)網(wǎng)的承載體。事實(shí)上，從2010年開始，我們已經(jīng)開始受到以人工智能為代表的高科技革命的影響，即AI革命，也被稱作是第四次工業(yè)革命。

1.第四次工業(yè)革命

第四次工業(yè)革命不同于之前的地方在于技術(shù)融合。融合是一個(gè)關(guān)鍵詞，模糊了物理、數(shù)字、生物領(lǐng)域之間的界限。而目前最受關(guān)注的是“網(wǎng)絡(luò)物理系統(tǒng)”，它代表著一系列的技術(shù)：納米、量子計(jì)算、生物技術(shù)、物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)、5G通訊技術(shù)，我們稱之為“第四次工業(yè)革命”。

2.第二次機(jī)器革命

這只是一個(gè)分法。人類發(fā)明各種各樣的東西，對(duì)我們所面臨的現(xiàn)象進(jìn)行各種各樣的劃分。先不討論幾次工業(yè)革命的問題，我再來引入另一個(gè)劃分。

麻省理工學(xué)院的兩位教授合著的一本書叫《第二次機(jī)器革命》。這本書里給了另一種分法。

第一次機(jī)器革命核心討論的是人與機(jī)器的關(guān)系，那個(gè)時(shí)代人和機(jī)器是一種互補(bǔ)的關(guān)系。到第二次機(jī)器革命的時(shí)候，可能不是互補(bǔ)關(guān)系，而是替代關(guān)系。

3.第二次機(jī)器革命的邏輯

《第二次機(jī)器革命》的兩位作者認(rèn)為基本邏輯就三個(gè)。

第一個(gè)，指數(shù)級(jí)增長(zhǎng)。眾多例子證明，世界萬物很多是呈指數(shù)級(jí)增長(zhǎng)的，導(dǎo)致一個(gè)想象力的極限問題，一個(gè)敏感的初始值問題。

第二個(gè)，數(shù)字化進(jìn)步。多年來，我們通過數(shù)字化把大量的信息積攢起來，到底有沒有產(chǎn)生智慧？如果能夠把這些智慧挖掘出來，又有什么作用？

而這兩位作者通過選取一些關(guān)鍵詞，做成一個(gè)模型，用這個(gè)模型預(yù)測(cè)三個(gè)月之內(nèi)美國某個(gè)地方房?jī)r(jià)的增長(zhǎng)，發(fā)現(xiàn)預(yù)測(cè)的結(jié)果很精準(zhǔn)。通過數(shù)字化信息轉(zhuǎn)換成智慧，他們叫做數(shù)字化進(jìn)步。

第三個(gè)，組合式創(chuàng)新。創(chuàng)新是組合式創(chuàng)新，只要把積木的數(shù)量不斷擴(kuò)大，反復(fù)搭來搭去，就是創(chuàng)新，這也就證明了融合的重要性。

這三點(diǎn)就是他們認(rèn)為的第二次機(jī)器革命的邏輯，正是因?yàn)檫@個(gè)邏輯，我們不能夠簡(jiǎn)單地跟機(jī)器賽跑了。

二、人們信仰的不同

1.人工智能與人類工作

這種情況下，大家非常在意的就是將來可能沒有工作，大部分人將會(huì)成為“無用階級(jí)”。

而這個(gè)觀點(diǎn)來自歷史學(xué)家尤瓦爾·赫拉利。赫拉利認(rèn)為，未來的人工智能會(huì)導(dǎo)致無用的人類，21世紀(jì)最重要的不是反抗剝削而是反抗無用。無用的問題可能比剝削嚴(yán)重很多倍，工作在很多時(shí)候是每一個(gè)人的尊嚴(yán)所在，是人的價(jià)值所在。如果沒有工作，這個(gè)人可能失去尊嚴(yán)和價(jià)值。對(duì)此觀點(diǎn)，我們依然要?jiǎng)澮粋€(gè)很大的問號(hào)。

當(dāng)然，有人反對(duì)這樣的觀點(diǎn)，代表性的人物就是李開復(fù)。李開復(fù)說：“赫拉利聳人聽聞，赫拉利雖然是一個(gè)歷史學(xué)者，但是他不懂技術(shù)。”李開復(fù)認(rèn)為必須停止煽動(dòng)人類對(duì)于AI的恐慌，而且“無用階級(jí)”這個(gè)說法本身是對(duì)人的巨大打擊，不可以隨便說人是無用的，有些事情AI無法替代人類。

但是李開復(fù)僅僅代表爭(zhēng)論的一方。討論AI對(duì)人類的影響這個(gè)話題，我們并非針對(duì)普通人，因?yàn)槠胀ù蟊妼?duì)AI也不太了解。然后我們要看人類的精英是如何看待這個(gè)問題的，因?yàn)槭撬麄冊(cè)趧?chuàng)造未來的世界。

但是在這個(gè)問題上，人類的精英們是分裂的。

2.兩個(gè)陣營

有一部分精英認(rèn)為AI有非常大的問題，比如霍金。霍金說人工智能有可能會(huì)毀滅整個(gè)人類文明。

霍金去世前特別關(guān)心的是劍橋大學(xué)的未來研究中心，他說：“以往的人類研究歷史發(fā)現(xiàn)的真相只有一個(gè)，人類的歷史就是一部愚蠢的歷史，我們能不能反過來想一下人類在什么時(shí)候能夠不愚蠢？”所以劍橋大學(xué)建立的未來研究中心有一個(gè)非常簡(jiǎn)單的使命，就是研究人工智能在未來會(huì)不會(huì)毀滅人類。

霍金曾經(jīng)講了一段話：人工智能的發(fā)展可能幫助人類消滅疾病、消滅貧困、阻止氣候變化，但也可能產(chǎn)生人們不愿意看到的種種后果，包括產(chǎn)生自主武器，造成經(jīng)濟(jì)災(zāi)難，包括與人類發(fā)生沖突時(shí)擁有自己意愿的機(jī)器。

所以未來研究中心給歐洲議會(huì)寫報(bào)告，比如機(jī)器人會(huì)不會(huì)有電子人格，這是一個(gè)很嚴(yán)肅的問題。如果機(jī)器人有電子人格，我們?cè)鞕C(jī)器的時(shí)候一定要附加一個(gè)最后的開關(guān)，能夠讓機(jī)器人停止做某種事情。

大家可能看過克拉克的著名科幻片的《2001太空漫游》，其中的人工智能電腦哈爾因?yàn)椴荒芸刂颇莻€(gè)開關(guān)，結(jié)果把人類毀滅了。也就是說，如果機(jī)器有自己的人格，甚至企圖對(duì)創(chuàng)造它的人造成傷害，我們?cè)撛趺崔k？這是霍金擔(dān)憂的問題。

剛才說到精英群體觀點(diǎn)的分裂，還有其他的代表人物，比如埃隆·馬斯克。馬斯克一邊在研究AI，一邊在談AI的危險(xiǎn)。他說：“人工智能的危險(xiǎn)大于核武器的危險(xiǎn)。”因?yàn)樗J(rèn)為人工智能專家未必懂AI，人類天生有過度自信的思維陷阱。還有比爾·蓋茨，他說：“我不知道大家為什么在現(xiàn)在還對(duì)這個(gè)問題毫不擔(dān)心，我不理解為什么有些人對(duì)于人工智能的未來毫不擔(dān)憂。”

這是我說的精英的一個(gè)陣營，另外一個(gè)陣營幾乎也同樣強(qiáng)大。比如扎克伯格。在人們討論人工智能可能造成人類末世場(chǎng)景的時(shí)候，扎克伯格說這種討論是毫不負(fù)責(zé)任的。人工智能領(lǐng)域最牛的華人之一吳恩達(dá)說他不擔(dān)心人工智能成為惡魔的原因就像他不擔(dān)心火星上會(huì)人口過剩一樣。

我特別喜歡的一個(gè)人工智能的專家佩德羅·多明戈斯，他看到馬斯克發(fā)了推特之后說：“我沒有什么話可說，只有一個(gè)詞叫做嘆息。”他認(rèn)為馬斯克說的完全不對(duì)。

3.普通人該如何自處

這個(gè)問題似乎看上去是無解的，包括剛才講的人工智能到底會(huì)毀滅工作，還是創(chuàng)造工作。

有關(guān)AI的爭(zhēng)論一定是不會(huì)休止的，我們普通人應(yīng)該如何自處，這是一個(gè)很嚴(yán)肅的問題。

4.信仰不同產(chǎn)生觀點(diǎn)分裂

事實(shí)上不光是人類的未來，或者人類工作的未來，也包括機(jī)器會(huì)不會(huì)有意識(shí)等等。當(dāng)我們產(chǎn)生這些惶恐，問題不能得到解答的時(shí)候，其實(shí)有一個(gè)出路。這個(gè)出路就是要意識(shí)到，這些專家之所以對(duì)未來的前景產(chǎn)生不同意見，不是因?yàn)樗麄冎朗裁矗且驗(yàn)樗麄兊男叛霾灰粯印?/p>

為什么我強(qiáng)調(diào)這個(gè)觀點(diǎn)非常重要，我最后主題會(huì)落到這里。

比如那些預(yù)測(cè)我們一定會(huì)造出有意識(shí)的機(jī)器人的專家，是因?yàn)樗嘈乓粋€(gè)非常基本的假設(shè)——人類在本質(zhì)上是機(jī)器。如果人類是機(jī)器，我們當(dāng)然最終可以建立一個(gè)有意識(shí)的機(jī)器人。而那些認(rèn)為機(jī)器永遠(yuǎn)不會(huì)產(chǎn)生意識(shí)的人，也不是因?yàn)樗且庾R(shí)專家，而是因?yàn)樗嘈湃瞬豢赡苁羌兇獾臋C(jī)械生物。

我說到這里大家可能會(huì)很疑惑，它不是一個(gè)意識(shí)問題，而是一個(gè)信仰問題。

如果一旦談到信仰問題，討論人工智能問題一定要解構(gòu)一些最基本的東西，不能就事論事討論人工智能，而是要回到歷史上、回到整個(gè)技術(shù)的發(fā)展歷程上去解構(gòu)一些最基本的東西。

三、人工智能時(shí)代必須思考的三個(gè)問題

1.三個(gè)問題

最終要解構(gòu)的東西就是三個(gè)基本問題。

第一個(gè)問題，宇宙的構(gòu)成是什么？這是從古希臘以來就爭(zhēng)論不休的一個(gè)事情。

第二個(gè)問題，我們是什么？我們是什么的問題就是人類是什么。

第三個(gè)問題，不是一個(gè)集體概念，是一個(gè)個(gè)體概念，而且是自我的問題。我是什么？

為什么這三個(gè)問題在今天變得如此重要，更多的是一個(gè)哲學(xué)的思考？

其實(shí)你會(huì)發(fā)現(xiàn)有關(guān)這三個(gè)問題的回答都不是單一答案，全部都是多重選擇題。

2.兩種思想流派的矛盾

舉一個(gè)簡(jiǎn)單的例子。比如宇宙的構(gòu)成，一直有兩種思想流派。一種認(rèn)為宇宙的構(gòu)成就是原子，單一的物質(zhì)。從德謨克利特開始就認(rèn)為，作為一個(gè)人在這里思考就是原子在運(yùn)動(dòng)，這叫一元論。另外一派人堅(jiān)決不同意，認(rèn)為的確有原子，但是人不只是由原子構(gòu)成的，總還有點(diǎn)別的東西。科學(xué)家?guī)缀醵贾С忠辉摗？茖W(xué)家認(rèn)為世界的萬事萬物都可以還原，如果不還原，這件事就沒辦法解釋。所以必須找到一個(gè)解釋，通過還原論來講，就一定能夠找到這個(gè)事情物質(zhì)的原因。但是二元論者認(rèn)為這是不對(duì)的。當(dāng)然這里有很多的哲學(xué)思考。為什么有的人會(huì)相信二元論，有的人會(huì)相信一元論？其實(shí)本質(zhì)上我們歸結(jié)為他們對(duì)現(xiàn)實(shí)本質(zhì)的信仰是什么。

再次回到信仰問題，我們會(huì)說一元論是理性和現(xiàn)代的，但是這個(gè)世界上永遠(yuǎn)有人相信理性和現(xiàn)代的東西是不對(duì)的，還有很多東西是精神的，是原子解釋不了的。這就是一元論和二元論的矛盾。

3.人類的信仰會(huì)決定人工智能怎么應(yīng)用

因此我想說，以上三個(gè)問題是今天人工智能時(shí)代必須思考的三個(gè)問題，而它的思考方向本質(zhì)上是要討論人類的信仰到底是什么。人類信仰的問題以往是哲學(xué)家們、神學(xué)家們的專利，但是今天的人工智能把這個(gè)問題推到所有人面前。那些做人工智能的人尤其需要考慮這個(gè)問題：你是秉持著一種什么樣的信仰在創(chuàng)造這個(gè)東西。因?yàn)檫@會(huì)決定這個(gè)東西將來會(huì)達(dá)到什么程度，會(huì)怎么樣應(yīng)用。