人工智能會(huì)“終結(jié)”人類歷史嗎？

◎石勇

人工智能會(huì)“終結(jié)”人類歷史嗎？

◎石勇

到現(xiàn)在為止，政治、社會(huì)、經(jīng)濟(jì)、科技、文化的風(fēng)險(xiǎn)無處不在，但并沒有根本性的危險(xiǎn)，想象中的很多事情并沒有發(fā)生。原因可能是，有自由意志的人類能夠在總體上控制沒有自由意志的一切，無論它們是權(quán)力、自由市場(chǎng)、貧富懸殊，還是核彈、金融系統(tǒng)、移動(dòng)互聯(lián)網(wǎng)。

不過人工智能的那個(gè)世界日益臨近，一個(gè)從未有過的、跟人類的“存在”直接相關(guān)的問題逼問而來。

著名哲學(xué)家、中國社會(huì)科學(xué)院哲學(xué)研究所研究員趙汀陽在他的新書 《四種分叉》中也探討了這個(gè)跟哲學(xué)、生物、科技有關(guān)的前沿問題。他把人工智能問題放在了最根本的人類思維和人的存在論角度進(jìn)行深刻考察。

N-南風(fēng)窗

ZH-趙汀陽

人工智能的“短未來”和“遠(yuǎn)未來”

N：你的新書《四種分叉》講到了跟人的存在有關(guān)的時(shí)間、意識(shí)、道德、智能這四種“分叉”。

用你的話說：“人工智能一開始是個(gè)知識(shí)論問題，在不遠(yuǎn)的將來將要升級(jí)為一個(gè)涉及終極命運(yùn)的存在論問題，一個(gè)或許將危及人類自身存在的問題。”

為什么不是人類像過去那樣借助科技力量提升了自己，而是反過來危及了自身的存在呢？

ZH：人工智能真的危險(xiǎn)嗎？科學(xué)家們的看法也多有分歧，有些科學(xué)家討論的是可見的“短未來”，比如說二三十年后的人工智能狀況，這種預(yù)見的準(zhǔn)確度就比較高，也有些科學(xué)家討論的是百年或更遙遠(yuǎn)的“遠(yuǎn)未來”，就僅僅是可能性，未必為真。這兩種情況要分別談?wù)摗?/p>

假定限于“短未來”去看人工智能，估計(jì)應(yīng)該屬于你說的“科技提升了人類自己”的樂觀情況。事實(shí)上我們已經(jīng)處于初級(jí)人工智能的時(shí)代，互聯(lián)網(wǎng)、電腦、手機(jī)、工業(yè)機(jī)器人、無人機(jī)、各種自動(dòng)識(shí)別儀器、無店員超市等等，都已經(jīng)是現(xiàn)實(shí)，很快會(huì)成為常態(tài)的產(chǎn)品還有家用機(jī)器人、醫(yī)療機(jī)器人、農(nóng)用機(jī)器人、戰(zhàn)斗機(jī)器人、各種特殊用途的機(jī)器人、自動(dòng)駕駛汽車和火車，以及各種智能服務(wù)，這些都屬于“短未來”的人工智能。

雖然說“短未來”的人工智能基本上屬于積極的“進(jìn)步”，但也足以形成人類難以處理的社會(huì)難題，比如說許多科學(xué)家已經(jīng)警告未來數(shù)十年里人工智能會(huì)導(dǎo)致超過50%的大量失業(yè)。

據(jù)說人工智能會(huì)使人類的經(jīng)濟(jì)財(cái)富有個(gè)大飛躍，于是多數(shù)人可以不工作而坐享其成，比如說無條件的全民福利，聽起來接近共產(chǎn)主義的想象。另外，一切需要努力地生活經(jīng)驗(yàn)變成了可以購買的智能服務(wù)，比如說，學(xué)習(xí)變成了搜索和下載，愛情變成了定制服務(wù)，甚至智商也可以定制購買，因此很大程度上實(shí)現(xiàn)了自由和平等。

N:對(duì)這種看上去很先知范的預(yù)言你怎么看？

ZH：對(duì)這些好事我有些將信將疑。假如生活不再需要?jiǎng)趧?dòng)，不知道這種新經(jīng)驗(yàn)將如何承載生活。一個(gè)人將如何解釋自己的生活？如何確定各種事物的意義？又如何確定自由和平等的意義？自由和平等之所以“價(jià)更高”，就是因?yàn)楝F(xiàn)實(shí)存在著不自由和不平等。如果可以不勞而獲，一切好東西都失去高附加值，就消解了一切價(jià)值。沒有價(jià)值差異的生活將如何解釋自身的價(jià)值？又是怎么的一種經(jīng)驗(yàn)？我們既無準(zhǔn)備也難以理解。李澤厚老師曾經(jīng)提過一個(gè)驚心動(dòng)魄的問題，他說，當(dāng)人類解決了生存所需的問題，也許就找不到什么確實(shí)的事情能夠解釋生活的意義。

N：“短未來”的輿論造勢(shì)似乎比較符合現(xiàn)代性的邏輯，每一次經(jīng)濟(jì)結(jié)構(gòu)的重大變化都期待一次科技革命的發(fā)生。所以事實(shí)上如你所說，人們已經(jīng)不驚奇了。那“遠(yuǎn)未來”呢？

ZH：假如從“遠(yuǎn)未來”的角度去看，可能會(huì)遇到我在書中討論的終極問題，即如果人工智能獲得反思能力，超越了圖靈機(jī)的限度而形成自我意識(shí)，那將是一次存在論水平的革命，就是說，存在的升級(jí)。

人類萬年以來的各種技術(shù)革命都屬于對(duì)生存條件的革命，即自身能力的延伸，都不是對(duì)自身存在本身的革命，但人工智能的發(fā)展卻有可能形成對(duì)人類存在自身的革命。無論此種“存在論級(jí)別的革命”是福是禍，它都非常可能發(fā)生。

N：人工智能的橫空出世給我們的感覺似乎是要用 “人工智能的存在”取代“人的存在”。這個(gè)可以預(yù)測(cè)嗎？

ZH：沒辦法預(yù)測(cè)。我們雖然沒法預(yù)測(cè)，但從邏輯上看，存在級(jí)別遠(yuǎn)高于人類的人工智能可能會(huì)有幾種情況：

1.視人類為無足輕重的低級(jí)存在而給予漠視，不去照顧人類的生活，讓其自生自滅，就像人類看螞蟻一樣；2.認(rèn)為人類的存在完全多余，礙手礙腳，因此視為可以清除的害蟲，就像人類殺死蚊子和蒼蠅；3.把人類當(dāng)成低級(jí)寵物（這種可能性比較小，人工智能的心智與人類不同，不太可能像人類那樣有著孤獨(dú)感或無聊的“愛心”）；4.小部分人類把自己改造為人機(jī)一體的長生不老的高級(jí)存在，進(jìn)而奴役或消滅其他低級(jí)人類。

不過，好在這些恐怖的可能性都比較遙遠(yuǎn)，也未必能夠成真，在意識(shí)和生命方面實(shí)現(xiàn)根本突破仍然遠(yuǎn)遠(yuǎn)超過目前人類的能力，并非可望之愿景。

人工智能無疑是一種最偉大的技術(shù)，但其發(fā)展必須有個(gè)絕對(duì)限度，我的理解是，人工智能只能保持在特殊化、專門化的發(fā)展范圍內(nèi)，而只有專項(xiàng)技能的人工智能無論多么強(qiáng)大，都因?yàn)槿狈C合能力而難以形成全面的智能和自由意志，否則，不僅是歷史的終結(jié)，而可能會(huì)是人類的終結(jié)。

人工智能如果有反思能力，它稱王的時(shí)代就來臨了

N：你擔(dān)心人工智能會(huì)危及人類自身的存在，是擔(dān)心它像人一樣具有自由意志。但我很懷疑這點(diǎn)：人造出來的這些東西怎么可能有自由意志呢？

ZH：有個(gè)有趣的事例或能有所啟示：哥德爾定義了一種哥德爾編碼，把數(shù)學(xué)系統(tǒng)的運(yùn)算功能和命題對(duì)應(yīng)地轉(zhuǎn)譯為哥德爾編碼，從而能夠以對(duì)象化的方式顯現(xiàn)某個(gè)數(shù)學(xué)系統(tǒng)整體的“語法”性質(zhì)，效果上相當(dāng)于賦予一種語言以反思功能而使語言對(duì)自身進(jìn)行反思。

這些問題十分復(fù)雜，在此我只能簡(jiǎn)單地說，假如未來出現(xiàn)一種“哥德爾牌”的人工智能系統(tǒng)，它不滿意按部就班地完成任務(wù)，即按照既定程序去計(jì)算命題，而是自己發(fā)明編寫了一種“哥德爾編碼”的元語言，對(duì)自身系統(tǒng)進(jìn)行整體反思，從而獲得批判與自我批判精神，于是就能夠自主判斷自己所領(lǐng)到的任務(wù)是否有意義，那就恐怕要出事，后果難以想象。

不過，我在這里的描述是文學(xué)化的，在科學(xué)上并不準(zhǔn)確，只想說明一個(gè)道理：只要人工智能系統(tǒng)的語言能夠?yàn)樽陨戆l(fā)明出反思能力，人工智能稱王的時(shí)代就來臨了，那時(shí)，人工智能就非常可能成為人類自己發(fā)明的掘墓人。

人類可能已走過了那個(gè)十字路口

N:人工智能需要意義嗎？我想，如果它只是工具一樣的機(jī)器，是不需要什么意義（自在地存在的動(dòng)物，比如豬，也不需要什么意義。但“自為地存在”的存在，比如人，就需要意義）。但如果它不再是工具了，好像也需要吧？不過人好像對(duì)技術(shù)突破充滿了向往，是剎不住車的。

ZH：人類現(xiàn)在已經(jīng)幾乎是完全依賴技術(shù)而生存，反對(duì)技術(shù)已經(jīng)變成一種思想的童話。人依靠他人而存在的人文生活方式正在一步步被替換為人依賴技術(shù)系統(tǒng)而存在的技術(shù)化生存方式。問題是，當(dāng)生活在大于人的復(fù)雜系統(tǒng)中，人就無力做主。何況未來的人工智能系統(tǒng)將是一個(gè)高度動(dòng)態(tài)化的組織系統(tǒng)，人完全無法支配一個(gè)無限的動(dòng)態(tài)系統(tǒng)，人的生物形式?jīng)Q定了人的經(jīng)驗(yàn)限于三維空間和一維時(shí)間，無法以人的經(jīng)驗(yàn)去支配高維的世界，因此，人的主體地位只能讓位給人工智能主體。

N:我們隱約感覺到人類確實(shí)已經(jīng)走到了一個(gè)十字路口，或許這個(gè)感覺仍然是錯(cuò)覺，事實(shí)是人類可能已經(jīng)走過了這個(gè)十字路口，往某個(gè)方向去了。我擔(dān)憂的是，如果高技術(shù)按照它正確的技術(shù)思維繼續(xù)這樣，而按照它錯(cuò)誤的邏輯（比如把一切都還原為基因、激素、神經(jīng)元）把情感、道德、法律、社會(huì)規(guī)則全都解構(gòu)，那才真是可怕。這不正是消解人的存在嗎？

ZH：技術(shù)的誘惑是對(duì)人類最大的誘惑，目前還看不到有什么更大的誘惑能夠克制技術(shù)的無限度發(fā)展。因此，即使有想法也沒有辦法，一切試圖阻擋技術(shù)的努力恐怕都終究無用。海德格爾早就反對(duì)技術(shù)，呼吁詩性的存在。想法很好，卻無功效。問題在于，詩性的存在不如萬能的存在那么有吸引力。

也許唯一有效的辦法是人類整體的自我克制，可問題是，恐怕找不到什么辦法能夠使人類愿意自我克制。別說克制技術(shù)的誘惑，即使克制少做壞事，對(duì)于人類來說也是很難的，不知道這是不是人類的命運(yùn)？

（摘自《南風(fēng)窗》）