人工智能時代應(yīng)該思考三個問題

胡泳

一、從與機器賽跑到第二次機器革命

每一次技術(shù)的變革都將在市場掀起翻天覆地的變化。近些年，以人工智能為代表的高科技革命正在逐漸改變?nèi)藗兊纳睿⒃谑袌錾祥_辟出新的賽道。未來，技術(shù)與市場將擦出怎樣的火花？工業(yè)革命最早以技術(shù)——蒸汽機為開端，我們稱為第一次技術(shù)革命。蒸汽機擔(dān)任了一個重要角色。第二次技術(shù)革命是電力工業(yè)革命，美國是其中最大的受益國。像愛迪生等人在第二次技術(shù)革命時創(chuàng)辦的公司目前仍處于市場重要位置。第三次技術(shù)革命與我們息息相關(guān)。事實上，第三次技術(shù)革命已經(jīng)進(jìn)入尾聲，我們所說的移動互聯(lián)網(wǎng)、智能手機都是第三次技術(shù)革命的產(chǎn)物。在信息革命巔峰時期，主要以移動互聯(lián)網(wǎng)和智能手機為代表，因為智能手機是移動互聯(lián)網(wǎng)的承載體。事實上，從2010年開始，我們已經(jīng)開始受到以人工智能為代表的高科技革命的影響，即AI革命，也被稱作是第四次工業(yè)革命。

1.第四次工業(yè)革命

第四次工業(yè)革命不同于之前的地方在于技術(shù)融合。融合是一個關(guān)鍵詞，模糊了物理、數(shù)字、生物領(lǐng)域之間的界限。而目前最受關(guān)注的是“網(wǎng)絡(luò)物理系統(tǒng)”，它代表著一系列的技術(shù)：納米、量子計算、生物技術(shù)、物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)、5G通訊技術(shù)，我們稱之為“第四次工業(yè)革命”。

2.第二次機器革命

這只是一個分法。人類發(fā)明各種各樣的東西，對我們所面臨的現(xiàn)象進(jìn)行各種各樣的劃分。先不討論幾次工業(yè)革命的問題，我再來引入另一個劃分。

麻省理工學(xué)院的兩位教授合著的一本書叫《第二次機器革命》。這本書里給了另一種分法。

第一次機器革命核心討論的是人與機器的關(guān)系，那個時代人和機器是一種互補的關(guān)系。到第二次機器革命的時候，可能不是互補關(guān)系，而是替代關(guān)系。

3.第二次機器革命的邏輯

《第二次機器革命》的兩位作者認(rèn)為基本邏輯就三個。

第一個，指數(shù)級增長。眾多例子證明，世界萬物很多是呈指數(shù)級增長的，導(dǎo)致一個想象力的極限問題，一個敏感的初始值問題。

第二個，數(shù)字化進(jìn)步。多年來，我們通過數(shù)字化把大量的信息積攢起來，到底有沒有產(chǎn)生智慧？如果能夠把這些智慧挖掘出來，又有什么作用？

而這兩位作者通過選取一些關(guān)鍵詞，做成一個模型，用這個模型預(yù)測三個月之內(nèi)美國某個地方房價的增長，發(fā)現(xiàn)預(yù)測的結(jié)果很精準(zhǔn)。通過數(shù)字化信息轉(zhuǎn)換成智慧，他們叫做數(shù)字化進(jìn)步。

第三個，組合式創(chuàng)新。創(chuàng)新是組合式創(chuàng)新，只要把積木的數(shù)量不斷擴大，反復(fù)搭來搭去，就是創(chuàng)新，這也就證明了融合的重要性。

這三點就是他們認(rèn)為的第二次機器革命的邏輯，正是因為這個邏輯，我們不能夠簡單地跟機器賽跑了。

二、人們信仰的不同

1.人工智能與人類工作

這種情況下，大家非常在意的就是將來可能沒有工作，大部分人將會成為“無用階級”。

而這個觀點來自歷史學(xué)家尤瓦爾·赫拉利。赫拉利認(rèn)為，未來的人工智能會導(dǎo)致無用的人類，21世紀(jì)最重要的不是反抗剝削而是反抗無用。無用的問題可能比剝削嚴(yán)重很多倍，工作在很多時候是每一個人的尊嚴(yán)所在，是人的價值所在。如果沒有工作，這個人可能失去尊嚴(yán)和價值。對此觀點，我們依然要劃一個很大的問號。

當(dāng)然，有人反對這樣的觀點，代表性的人物就是李開復(fù)。李開復(fù)說：“赫拉利聳人聽聞，赫拉利雖然是一個歷史學(xué)者，但是他不懂技術(shù)?！崩铋_復(fù)認(rèn)為必須停止煽動人類對于AI的恐慌，而且“無用階級”這個說法本身是對人的巨大打擊，不可以隨便說人是無用的，有些事情AI無法替代人類。

但是李開復(fù)僅僅代表爭論的一方。討論AI對人類的影響這個話題，我們并非針對普通人，因為普通大眾對AI也不太了解。然后我們要看人類的精英是如何看待這個問題的，因為是他們在創(chuàng)造未來的世界。

但是在這個問題上，人類的精英們是分裂的。

2.兩個陣營

有一部分精英認(rèn)為AI有非常大的問題，比如霍金?；艚鹫f人工智能有可能會毀滅整個人類文明。

霍金去世前特別關(guān)心的是劍橋大學(xué)的未來研究中心，他說：“以往的人類研究歷史發(fā)現(xiàn)的真相只有一個，人類的歷史就是一部愚蠢的歷史，我們能不能反過來想一下人類在什么時候能夠不愚蠢？”所以劍橋大學(xué)建立的未來研究中心有一個非常簡單的使命，就是研究人工智能在未來會不會毀滅人類。

霍金曾經(jīng)講了一段話：人工智能的發(fā)展可能幫助人類消滅疾病、消滅貧困、阻止氣候變化，但也可能產(chǎn)生人們不愿意看到的種種后果，包括產(chǎn)生自主武器，造成經(jīng)濟災(zāi)難，包括與人類發(fā)生沖突時擁有自己意愿的機器。

所以未來研究中心給歐洲議會寫報告，比如機器人會不會有電子人格，這是一個很嚴(yán)肅的問題。如果機器人有電子人格，我們造機器的時候一定要附加一個最后的開關(guān)，能夠讓機器人停止做某種事情。

大家可能看過克拉克的著名科幻片的《2001太空漫游》，其中的人工智能電腦哈爾因為不能控制那個開關(guān)，結(jié)果把人類毀滅了。也就是說，如果機器有自己的人格，甚至企圖對創(chuàng)造它的人造成傷害，我們該怎么辦？這是霍金擔(dān)憂的問題。

剛才說到精英群體觀點的分裂，還有其他的代表人物，比如埃隆·馬斯克。馬斯克一邊在研究AI，一邊在談AI的危險。他說：“人工智能的危險大于核武器的危險?！币驗樗J(rèn)為人工智能專家未必懂AI，人類天生有過度自信的思維陷阱。還有比爾·蓋茨，他說：“我不知道大家為什么在現(xiàn)在還對這個問題毫不擔(dān)心，我不理解為什么有些人對于人工智能的未來毫不擔(dān)憂?！?/p>

這是我說的精英的一個陣營，另外一個陣營幾乎也同樣強大。比如扎克伯格。在人們討論人工智能可能造成人類末世場景的時候，扎克伯格說這種討論是毫不負(fù)責(zé)任的。人工智能領(lǐng)域最牛的華人之一吳恩達(dá)說他不擔(dān)心人工智能成為惡魔的原因就像他不擔(dān)心火星上會人口過剩一樣。

我特別喜歡的一個人工智能的專家佩德羅·多明戈斯，他看到馬斯克發(fā)了推特之后說：“我沒有什么話可說，只有一個詞叫做嘆息。”他認(rèn)為馬斯克說的完全不對。

3.普通人該如何自處

這個問題似乎看上去是無解的，包括剛才講的人工智能到底會毀滅工作，還是創(chuàng)造工作。

有關(guān)AI的爭論一定是不會休止的，我們普通人應(yīng)該如何自處，這是一個很嚴(yán)肅的問題。

4.信仰不同產(chǎn)生觀點分裂

事實上不光是人類的未來，或者人類工作的未來，也包括機器會不會有意識等等。當(dāng)我們產(chǎn)生這些惶恐，問題不能得到解答的時候，其實有一個出路。這個出路就是要意識到，這些專家之所以對未來的前景產(chǎn)生不同意見，不是因為他們知道什么，而是因為他們的信仰不一樣。

為什么我強調(diào)這個觀點非常重要，我最后主題會落到這里。

比如那些預(yù)測我們一定會造出有意識的機器人的專家，是因為他相信一個非?；镜募僭O(shè)——人類在本質(zhì)上是機器。如果人類是機器，我們當(dāng)然最終可以建立一個有意識的機器人。而那些認(rèn)為機器永遠(yuǎn)不會產(chǎn)生意識的人，也不是因為他是意識專家，而是因為他相信人不可能是純粹的機械生物。

我說到這里大家可能會很疑惑，它不是一個意識問題，而是一個信仰問題。

如果一旦談到信仰問題，討論人工智能問題一定要解構(gòu)一些最基本的東西，不能就事論事討論人工智能，而是要回到歷史上、回到整個技術(shù)的發(fā)展歷程上去解構(gòu)一些最基本的東西。

三、人工智能時代必須思考的三個問題

1.三個問題

最終要解構(gòu)的東西就是三個基本問題。

第一個問題，宇宙的構(gòu)成是什么？這是從古希臘以來就爭論不休的一個事情。

第二個問題，我們是什么？我們是什么的問題就是人類是什么。

第三個問題，不是一個集體概念，是一個個體概念，而且是自我的問題。我是什么？

為什么這三個問題在今天變得如此重要，更多的是一個哲學(xué)的思考？

其實你會發(fā)現(xiàn)有關(guān)這三個問題的回答都不是單一答案，全部都是多重選擇題。

2.兩種思想流派的矛盾

舉一個簡單的例子。比如宇宙的構(gòu)成，一直有兩種思想流派。一種認(rèn)為宇宙的構(gòu)成就是原子，單一的物質(zhì)。從德謨克利特開始就認(rèn)為，作為一個人在這里思考就是原子在運動，這叫一元論。另外一派人堅決不同意，認(rèn)為的確有原子，但是人不只是由原子構(gòu)成的，總還有點別的東西?？茖W(xué)家?guī)缀醵贾С忠辉??？茖W(xué)家認(rèn)為世界的萬事萬物都可以還原，如果不還原，這件事就沒辦法解釋。所以必須找到一個解釋，通過還原論來講，就一定能夠找到這個事情物質(zhì)的原因。但是二元論者認(rèn)為這是不對的。當(dāng)然這里有很多的哲學(xué)思考。為什么有的人會相信二元論，有的人會相信一元論？其實本質(zhì)上我們歸結(jié)為他們對現(xiàn)實本質(zhì)的信仰是什么。

再次回到信仰問題，我們會說一元論是理性和現(xiàn)代的，但是這個世界上永遠(yuǎn)有人相信理性和現(xiàn)代的東西是不對的，還有很多東西是精神的，是原子解釋不了的。這就是一元論和二元論的矛盾。

3.人類的信仰會決定人工智能怎么應(yīng)用

因此我想說，以上三個問題是今天人工智能時代必須思考的三個問題，而它的思考方向本質(zhì)上是要討論人類的信仰到底是什么。人類信仰的問題以往是哲學(xué)家們、神學(xué)家們的專利，但是今天的人工智能把這個問題推到所有人面前。那些做人工智能的人尤其需要考慮這個問題：你是秉持著一種什么樣的信仰在創(chuàng)造這個東西。因為這會決定這個東西將來會達(dá)到什么程度，會怎么樣應(yīng)用。