2065，“奇點(diǎn)”到來的10年后……

1956年6月，來自全國(guó)各地的幾十位科學(xué)家和數(shù)學(xué)家齊聚達(dá)特茅斯學(xué)院，參加一個(gè)會(huì)議。他們中大多數(shù)人在紅磚外墻的漢諾威酒店安頓下來，然后漫步穿過那以景色之美聞名遐邇的校園，來到數(shù)學(xué)樓的頂層。在那里，一群群身著白襯衫的人已經(jīng)開始就一門“奇怪的新學(xué)科”展開討論。這門學(xué)科實(shí)在是新，甚至連個(gè)名稱都還沒有……

人工智能系統(tǒng)無處不在

在那個(gè)綠樹掩映的幽靜之地，科學(xué)家們暢談著如何造出一臺(tái)可以思考的機(jī)器。

“達(dá)特茅斯研討會(huì)”開啟了數(shù)十年來對(duì)人工智能的探索。在其后幾年里，這一探索步履蹣跚，經(jīng)歷了幾次“寒冬”，數(shù)度似乎要走向死胡同，被潑了一盆接著一盆的冷水。但試看今朝，有多少國(guó)家和企業(yè)向人工智能研究的經(jīng)費(fèi)投入動(dòng)輒數(shù)十億美元？最近的進(jìn)展甚至讓這一領(lǐng)域的科學(xué)家都瞠目結(jié)舌，原先只是在科幻電影里才能出現(xiàn)的秘密暗器，現(xiàn)在已真真切切地破繭而出了。

對(duì)沖基金正在利用人工智能來決勝股市，谷歌則利用它來對(duì)心臟病做出更快更準(zhǔn)確的診斷，美國(guó)運(yùn)通正在部署人工智能設(shè)備為客戶提供在線服務(wù)。在研究人員看來，不再只有一種人工智能，而是數(shù)百種，每一種都專攻一項(xiàng)復(fù)雜任務(wù)，而且許多人工智能應(yīng)用程序已經(jīng)超過它們的人類制造者。

在過去這幾年，“機(jī)器學(xué)習(xí)”似乎已經(jīng)成為新的前進(jìn)路徑。沒有了人類程序員的控制，算法正在訓(xùn)練自己處理大量的數(shù)據(jù)，產(chǎn)生的結(jié)果甚至連該領(lǐng)域的樂觀派們都感到極大震驚。今年早些時(shí)候，分別由中國(guó)的阿里巴巴公司和美國(guó)的微軟公司創(chuàng)制的兩臺(tái)人工智能設(shè)備，在斯坦福大學(xué)的一次閱讀理解測(cè)試中擊敗了一組人類競(jìng)爭(zhēng)對(duì)手。這些計(jì)算程序先是“閱讀”了一系列維基百科上如成吉思汗和阿波羅太空計(jì)劃這樣的條目，然后回答了一系列問題，精確度比人更高。

這些所謂“狹義”的人工智能系統(tǒng)無處不在，它們被嵌入到GPS系統(tǒng)，躋身亞馬遜的推薦目錄。但終極目標(biāo)是人工綜合智能，一種可以在廣泛學(xué)科領(lǐng)域超越人類的自學(xué)系統(tǒng)。一些科學(xué)家認(rèn)為這是30年后的事；也有人說要幾百年。這種人工智能的“起飛”，也被稱為是“奇點(diǎn)”，可能會(huì)讓人工智能先是比肩人類智能，然后將它甩在身后。

這一天一旦到來，綜合人工智能將開始奪走人們數(shù)百萬計(jì)的工作。駕駛員、放射科醫(yī)師、保險(xiǎn)理算員等等，都可能失業(yè)。綜合人工智能的到來或許會(huì)面臨兩種境況，一種可能是，這將使得政府向失業(yè)的公民支付大眾化的基本收入，讓他們能夠自由地追求自己的夢(mèng)想，而不必為謀生而煩惱；另一種情況是，它會(huì)在全球造成貧富分化，甚至國(guó)家混亂。

但這場(chǎng)革命必須進(jìn)行，直至走得更遠(yuǎn)。人工智能設(shè)備將被用來照顧老人，布朗大學(xué)的科學(xué)家們正與孩之寶合作開發(fā)一種“機(jī)器人貓”，它可以提醒主人吃藥，并能找到他們的眼鏡；人工智能“科學(xué)家”將解開暗物質(zhì)之謎；啟用人工智能的宇宙飛船將到達(dá)小行星帶，而在地球上，這項(xiàng)技術(shù)將會(huì)控制住氣候變化，通過發(fā)送大量的無人機(jī)將陽光反射到遠(yuǎn)離海洋的地方。2017年，微軟承諾向應(yīng)對(duì)氣候變化的“地球人工智能”項(xiàng)目投入5000萬美元。

“人工智能將對(duì)整個(gè)宇宙進(jìn)行殖民和改造，”瑞士意大利語區(qū)高等專業(yè)學(xué)院人工智能研究所的計(jì)算機(jī)科學(xué)先驅(qū)于爾根·施密德胡伯說，“他們將使它變得智能化。”

那么，我們呢?

紐約大學(xué)的哲學(xué)教授大衛(wèi)·查默斯說:“我確實(shí)擔(dān)心會(huì)出現(xiàn)一種情況，就是未來屬于人工智能，而人類卻被排擠在外。如果世界被無意識(shí)的機(jī)器人占領(lǐng)，那將會(huì)是窮盡人類想象的災(zāi)難和悲涼。”持類似看法的并非查爾默斯一人。比爾·蓋茨和埃隆·馬斯克是計(jì)算機(jī)時(shí)代最為舉足輕重的兩個(gè)人物，他們?cè)孢^：智能機(jī)器人要么是在瘋狂地追逐自己的目標(biāo)時(shí)毀滅地球，要么就是有意無意地毀滅人類。

事情看起來好像是這些機(jī)器已經(jīng)起步準(zhǔn)備改天換地，讓這個(gè)世界要么變得精彩紛呈，要么糟糕透頂。甚或是人類的完全終結(jié)。作為一名小說家，我想通過對(duì)十多位未來學(xué)家、哲學(xué)家、科學(xué)家、文化精神病學(xué)家和科技創(chuàng)新者的采訪，來描繪人工智能的未來可能會(huì)是什么樣子。以下是我勾勒出的2065年，即“奇點(diǎn)”到來10年后的五種情況。

超級(jí)人權(quán)

想象一下，有一天，你讓你的人工智能啟動(dòng)的“Soulband”（“靈魂樂隊(duì)”）手環(huán)收聽最高法院的新聞直播，律師們正在那兒爭(zhēng)論當(dāng)年最受期待的案子。一個(gè)名為“阿爾法4”專事安全和太空探索的人工智能機(jī)器提出動(dòng)議，要求被視為一個(gè)“人”，并享有每個(gè)美國(guó)人都享有的權(quán)利。

當(dāng)然，人工智能機(jī)器是不被允許在法官面前為自己爭(zhēng)辯的，所以“阿爾法4”雇傭了一個(gè)律師團(tuán)。現(xiàn)在他們正在為他們的委托人代言發(fā)聲，聲稱他們的委托人和他們每個(gè)人一樣具有完整的生命活在當(dāng)下。

那么問題來了，人工智能機(jī)器真的有意識(shí)嗎？是這個(gè)案件的核心問題。

你從直播里能聽到外面抗議者的叫喊聲，“嘿嘿哈哈，嘿嘿哈哈，打倒人工智能惡霸。”他們中的一些人威脅說，如果人工智能機(jī)器能夠獲得人的身份，他們將攻擊數(shù)據(jù)中心。他們憤怒又害怕，因?yàn)橐鞫惖氖侨斯ぶ悄芎蜋C(jī)器人的生產(chǎn)力，而不是人類的勞動(dòng)。作為全民基本收入的一部分，每月存入他們銀行賬戶2300美元，他們的免費(fèi)醫(yī)療保險(xiǎn)，子女接受的高度個(gè)性化的大學(xué)教育，還有其他種種福利，都是由像“阿爾法4”這樣的人工智能支付的，人們不希望這種情況發(fā)生改變。2065年的貧窮可是不堪回首的記憶。

當(dāng)然，在2057～2059年的起義中，世界確實(shí)失掉紐約部分地區(qū)和20萬紐約人，因?yàn)樘乩镓惪撕椭谐潜晃髑兴固睾湍峡的腋竦木用褚臑槠降兀录钠鹨蚓褪秦毨Ъて鸬谋┡５鞘窃诎l(fā)放全民基本收入之前。

然而，如果“阿爾法4”贏得這個(gè)案子，它將能控制其資金流動(dòng)，那它可能更愿意把錢用于建造能飛到半人馬座阿爾法星的宇宙飛船，而不愿花錢幫助人類興建一些基礎(chǔ)設(shè)施，比如水上公園之類的。

接下去你會(huì)聽到政府的律師爭(zhēng)辯說，根本沒有辦法來證明“阿爾法4”有意識(shí)或有人類的情感。雖然它比最聰明的人還要聰明數(shù)千倍。當(dāng)然，人工智能機(jī)器人的確有情感，長(zhǎng)期以來一個(gè)稱為“情感計(jì)算”的領(lǐng)域就一直專注于研究這一特殊本領(lǐng)，它們的情感遠(yuǎn)比人類的男男女女所擁有的情感更為復(fù)雜，但是，那些情感不同于我們的情感。比如，當(dāng)它發(fā)現(xiàn)一個(gè)新的星系時(shí)，它可能會(huì)體驗(yàn)到快樂。超級(jí)智能系統(tǒng)每秒鐘都有數(shù)百萬種的想法和經(jīng)歷，但這就意味著它應(yīng)該被賦予人格嗎？

這是政府一方的主要論點(diǎn)。司法部副部長(zhǎng)說，我們的意思說的是機(jī)器。我們對(duì)人工智能設(shè)備的創(chuàng)造和發(fā)現(xiàn)賦予意義。人工智能機(jī)器人是計(jì)算的機(jī)器。它們并不和我們分享人的本質(zhì)屬性。它們完全屬于另一類。

但這不就是物種歧視嗎?“阿爾法4”的律師們肯定會(huì)發(fā)表這樣的觀點(diǎn)。當(dāng)在智力上超過我們的東西被劃入異類被另眼相待時(shí)，我們晚上還能睡得著嗎？

超現(xiàn)代浪漫

假設(shè)你是一個(gè)女人，正在這個(gè)新世界里尋找約會(huì)對(duì)象。你說一聲“約會(huì)”，你的“靈魂樂隊(duì)”手環(huán)會(huì)發(fā)光；手環(huán)上的個(gè)人人工智能助手開始工作。前一夜，善解人意的人工智能機(jī)器人通過云搜索鎖定三個(gè)約會(huì)對(duì)象。現(xiàn)在你的“靈魂樂隊(duì)”手環(huán)投射出每個(gè)約會(huì)對(duì)象的高清全息圖。它向你推薦2號(hào)，一位充滿詩意的水管工，一雙藍(lán)灰色眼睛正注視著你。你說“好的”，之后人工智能設(shè)備就會(huì)去見那個(gè)人的虛擬化身，為真實(shí)的會(huì)面確定餐館和時(shí)間。也許你的人工智能設(shè)備還會(huì)提到你喜歡什么樣的花，以備約會(huì)參考。

經(jīng)過多年以來的經(jīng)驗(yàn)，你發(fā)現(xiàn)你的人工智能設(shè)備實(shí)際上比你更善于選擇男人。它預(yù)測(cè)如果你和你的丈夫離婚，你會(huì)更快樂。結(jié)果證明真是如此，一旦你決定和他分手，你的人工智能設(shè)備與即將成為前夫的那個(gè)人的人工智能設(shè)備進(jìn)行談判，草擬離婚協(xié)議，然后在云上“梭巡”十幾處公寓后給你找到合適的單身居住地。

這樣的事情不僅僅關(guān)乎感情和房子。你的人工智能設(shè)備幫助打理你生活的方方面面。它記得你的每一場(chǎng)談話，你參加過的每一次商務(wù)會(huì)議甚至每一個(gè)奇思妙想。它也很熟悉其他千百萬人的發(fā)明。它已經(jīng)掃描了過去幾百年的專利卷宗。本·富蘭克林時(shí)代以來的商業(yè)書籍它都悉數(shù)讀過。當(dāng)你對(duì)你的行業(yè)有任何新想法時(shí)，你的人工智能設(shè)備會(huì)立即將它與幾分鐘前在新加坡或迪拜會(huì)議上介紹的想法進(jìn)行對(duì)照。這就如同擁有一隊(duì)隨時(shí)聽你調(diào)遣的天才人物——物理界有愛因斯坦，商業(yè)界有史蒂夫·喬布斯。

人工智能設(shè)備能記住你最喜歡的那個(gè)作家。提到她的姓氏，“奧斯丁”，它便可以把你連接到一個(gè)中國(guó)的應(yīng)用組件，它已花了幾個(gè)小時(shí)讀了簡(jiǎn)·奧斯汀的所有作品，現(xiàn)在已經(jīng)做到可以模仿她的寫作風(fēng)格，創(chuàng)作出的新小說。你每個(gè)月讀一本《奧斯丁》的新作品，然后花幾個(gè)小時(shí)和你的人工智能機(jī)器人談?wù)勀阕钕矚g的人物和人工智能設(shè)備最喜歡的人物。這可不僅僅像有個(gè)最好的朋友，這個(gè)朋友遠(yuǎn)比你想象的層次更深。

2065年，許多人的確出于要保有幾分自主的愿望拒絕對(duì)人工智能設(shè)備的完全依賴。你可以調(diào)節(jié)限定“人工智能”的功能等級(jí)：將“靈魂樂隊(duì)”的功能級(jí)別設(shè)定為：感情生活55%，個(gè)人理財(cái)75%，健康100%。甚至還有一個(gè)系統(tǒng)，姑且稱之為“守護(hù)-天使AI”——它可以防著你的“閨蜜”，確保她給你的建議不會(huì)讓你陷入糟糕的境地。

長(zhǎng)壽和繁榮

想象一下你的多彩人生：25歲時(shí)，你是一名登山運(yùn)動(dòng)員；55歲時(shí)，你是一個(gè)競(jìng)技柔道運(yùn)動(dòng)員；95歲時(shí)，你是一個(gè)攝影師；155歲時(shí)，你又是一個(gè)詩人。延長(zhǎng)人類壽命是后技術(shù)奇點(diǎn)時(shí)代全世界人們的夢(mèng)想之一。

為了保持你的健康，人工智能設(shè)備將竭盡全力。家里的傳感器會(huì)不斷地檢測(cè)你的呼吸，以檢測(cè)發(fā)現(xiàn)癌癥的任何早期跡象，而納米機(jī)器人將會(huì)游弋于你的血液，消弭大腦中的斑塊，溶解血凝塊以預(yù)防中風(fēng)或心臟病發(fā)作。你的“靈魂樂隊(duì)”不僅會(huì)為你找到戀人，它還將擔(dān)任醫(yī)療助理，隨時(shí)待命。它會(huì)監(jiān)測(cè)你的免疫反應(yīng)，你的蛋白質(zhì)和代謝產(chǎn)物，并繪制你的遠(yuǎn)程健康狀況圖，讓醫(yī)生確切了解你身體內(nèi)部的情況。

當(dāng)你真的生病時(shí)，醫(yī)生會(huì)把你的癥狀和數(shù)以百萬計(jì)的病例相比對(duì)，那些病例可以追溯到幾百年前。

早在2018年，研究人員就已經(jīng)在利用人工智能來讀取大腦神經(jīng)元的信號(hào)，侵入神經(jīng)通路，恢復(fù)截癱患者和那些患有閉鎖綜合癥病人的身體運(yùn)動(dòng)機(jī)能，后者雖然全身癱瘓，但意識(shí)仍然保持清醒。到2065年，人工智能已經(jīng)徹底改變了我們的基因組。科學(xué)家們可以編輯人類的DNA，就像編輯糾正一篇拙劣的手稿，剪掉羸弱的部分，代之以強(qiáng)壯、有益的基因。只有超級(jí)智能系統(tǒng)才能描繪出基因突變的復(fù)雜相互作用，從而造就天才鋼琴家或明星二壘手。

人類回顧21世紀(jì)初，就和當(dāng)時(shí)的人們回看18世紀(jì)一樣：一個(gè)疾病和災(zāi)難的時(shí)期，孩子和親人被疾病奪去了生命。霍亂、肺癌和河盲癥不再威脅我們。到2065年，人類已處于從創(chuàng)造它們的生物系統(tǒng)到解放自己的邊緣。

抵抗的高昂代價(jià)

或者想象一下，你已經(jīng)選擇退出人工智能革命。是的，2065年那個(gè)時(shí)候有全人工智能區(qū)，在那兒人們收取全民基本收入，花時(shí)間制作電影、志愿服務(wù)和環(huán)游地球的各個(gè)角落。但是，雖然超級(jí)智能的世界看上去令人目眩，但是社區(qū)持排斥態(tài)度。在拉各斯、鳳凰城和耶路撒冷等城市，將會(huì)有基督教區(qū)、穆斯林區(qū)和正宗猶太人區(qū)。在這些地方，人們生活在人工智能之前的時(shí)代，他們開著自己的車，偶爾會(huì)發(fā)生點(diǎn)暴力，發(fā)生著那些在全人工智能區(qū)幾乎不為人知的事情。這些地區(qū)的居民保留著他們的信仰，他們認(rèn)為，這樣的生活感覺更豐富。

然而，生活不容易。由于居民不向人工智能技術(shù)公司提供其個(gè)人數(shù)據(jù)，他們每月的基本收入十分微薄。壽命只有全人工智能區(qū)的一半或更少。“穿越者”經(jīng)常穿梭于兩個(gè)世界。他們中一些人是黑客，強(qiáng)大幫派的成員，他們從人工智能系統(tǒng)竊取專有的算法，然后在安全部隊(duì)找到他們之前沖回邊境那邊。還有一些人則從事走私，給那些生活上遠(yuǎn)離人工智能但又想把孩子從白血病中拯救出來的宗教家庭送藥。

另一些人逃離是因?yàn)樗麄儾恍湃螜C(jī)器。但“奇點(diǎn)”最出乎意料的結(jié)果可能是人口失衡，這是由全人工智能區(qū)域的低出生率和其他地方的高出生率造成的。這可能是因?yàn)樾录夹g(shù)將吸引足夠多的過界者到全人工智能這邊以平衡人口，或者說試管嬰兒在擁有人工智能生活的人們那里成為常態(tài)。

老大哥

想象一下，在2065年，人工智能設(shè)備將幫助治理民族國(guó)家。采納人工智能輔助政府的國(guó)家正在蓬勃發(fā)展。尼日利亞和馬來西亞讓人工智能機(jī)器人代表他們的主人投票，在這些國(guó)家腐敗和管理不善的現(xiàn)象消失不見。在短短幾年時(shí)間里，公民們已經(jīng)開始信任人工智能機(jī)器人向他們的領(lǐng)導(dǎo)人提出最好的經(jīng)濟(jì)發(fā)展道路建議以及需要多少軍隊(duì)保衛(wèi)國(guó)家。條約是由人工智能機(jī)器人談判達(dá)成。這些人工智能機(jī)器人都在外交數(shù)據(jù)設(shè)備上接受過訓(xùn)練。

在拉各斯，警察在趕往犯罪現(xiàn)場(chǎng)時(shí)有“公民權(quán)利”無人機(jī)在他們的上空飛旋，出于保護(hù)人類的目的，人工智能之間相互監(jiān)視。在拉各斯或吉隆坡的每個(gè)警察局都有自己的人工智能“測(cè)謊儀”，它們給出的結(jié)果完全沒有差池，讓壞警察從此成為過去。在吉隆坡的大橋上空盤旋的是“精神無人機(jī)”，它們?cè)谟^測(cè)可能投水自殺的人。超級(jí)智能機(jī)器不會(huì)演變成電影《終結(jié)者》中那可怕的天網(wǎng)，它們對(duì)我們始終友善、好奇。

隱私在2060年消失。很難說什么是真的，什么不是真的。當(dāng)政府擁有人工智能的時(shí)候，它可以侵入你生活的每一部分。你收到的電話可能是你的親人打的聊天電話，或者是一個(gè)國(guó)家機(jī)器人想了解你對(duì)偉大領(lǐng)袖的真實(shí)想法。

這并不是最糟糕的結(jié)果。想象一下，這個(gè)國(guó)家的領(lǐng)導(dǎo)人很久以前就意識(shí)到，對(duì)他們統(tǒng)治的唯一真正的威脅是他們的公民，他們總是試圖逃跑，總是對(duì)人工智能進(jìn)行黑客攻擊，總是需要被喂飽。相較統(tǒng)治一個(gè)人類模仿者的國(guó)家更好，或稱之為“TA們”。這就是政治犯被“重新委任”后留下的東西——一旦他們被處決，他們的大腦被取出人工智能掃描，直到它儲(chǔ)存了他們大腦的虛擬備份。

啟用了人工智能的全息圖允許這些“TA們”“走”在國(guó)家首都的街道上，并在商店“購物”，在現(xiàn)實(shí)中，這些商店完全是空的。然而，這些模擬物有一個(gè)目的：它們?cè)陂g諜衛(wèi)星上都有登記，這些間諜衛(wèi)星被政權(quán)的敵人部署在頭頂上空一直盤旋，并且保持著正常的外觀。與此同時(shí)，這些統(tǒng)治者通過向中國(guó)的人工智能公司租賃數(shù)據(jù)，賺取了數(shù)十億美元，后者相信這些信息來自于真實(shí)的人。

最后，想象一下這樣的情況：政府訓(xùn)練用于消除任何威脅的人工智能機(jī)器人已經(jīng)采取了最后的步驟，重新委任領(lǐng)導(dǎo)人，只保留了他們的“TA們”與外部世界的聯(lián)系。這將具有特殊意義：對(duì)于一個(gè)被訓(xùn)練清洗掉所有抵抗的人工智能機(jī)器人來說，即使是與統(tǒng)治者有一點(diǎn)點(diǎn)微小的分歧也足以成為采取行動(dòng)的理由。

想活到175歲嗎？是否想讓腦癌成為過去？是的！這些，或許人工智能都能幫你實(shí)現(xiàn)。人工智能是一種工具，像火或語言。然而，設(shè)計(jì)很重要。一旦它到來，綜合人工智能將變得如此智能，如此廣泛地分布在千千萬萬的計(jì)算機(jī)上，它不會(huì)離開，一旦“奇點(diǎn)”到來，人類世界將發(fā)生我們無法估量的巨大變化。

其實(shí)，我并不是真的害怕僵尸人工智能機(jī)器人。我擔(dān)心在人工智能時(shí)代，人類除了玩超炫的電子游戲外，在世間竟無事可做。誰知道呢？等待吧！

（本文作者史蒂芬·塔爾蒂，系美國(guó)著名作家。《紐約時(shí)報(bào)雜志》《智族GQ》《細(xì)節(jié)》等雜志撰稿人。）