賽末點

胡紫微

十年后，我就快虛六十了……或者說，我將成為一個五十七歲零八個月……的老太太。天哪，想到這兒，尷尬癌都犯了。

我根本不想變老，根本不想變成一個六十歲的老太太。何況我還沒有準備好。何況，這事兒也根本沒法兒準備。準備如何成為一個老太太嗎？這也太讓人懊喪了。

然而，這不就是人生——久居繁華，不覺抵暮。

如何成為四五十歲的大姐

每到十年大限，都不免暢想一番。我還算是一個有預見性的人，早早就料定自己：20歲的林黛玉，30歲的王熙鳳，40歲的薛寶釵。那么，五十以后呢？紅樓夢這個最好的中國故事里，好像并沒有為50歲以上的女人安排腳本。五十以后的我們，會成為誰呢？王夫人，薛姨媽，還是王善保家的或馬道婆？

想想五十以后女人的那些稱謂，老嫗，老媼，老安人，老虔婆，要么欠死，要么欠殺……翻遍古書，除了武則天與狄仁杰的不盡之意，也就是萬歷他娘，閨名李彩鳳的那位老太太，活得還算引人遐想。

兒子繼承大統之后，李太后與兒子的老師暗通款曲。太后生日，這位天下第一西賓竟上了這樣的賀陳：白燕飛，兩兩玉交輝……有時紅藥階前過，帶得清香拂繡閨。瞧瞧，兩兩玉交輝，對老太太這一腔柔情啊。更何況，這一腔柔情的帝王師還是當朝首輔群臣領袖，更何況，這位當朝首輔還是大大的美男子面如冠玉美髯及腹，更何況，這美男子還是千古名臣堂堂奇男子張居正本人呢。就算真的沒發生什么吧，但想到這個注定青史留名的大帥哥，為你放下身段淺斟低唱“階前紅藥，年年為誰生”，能不動人？不過，八卦了一下這位李太后的年紀，發現比張居正整整小了21歲，也就是說，“兩兩玉交輝”那時候，李太后比奶茶妹妹也大不了幾歲。

所以，作為五十多歲的中年婦女而不令人生厭，第一要緊事就是不要執念太過，學著退出舞臺中央，不見雨露，安于一隅。要允許自己成為一座空城。

其次，想起自己年輕的時候，特怕跟四五十歲的大姐打交道，她們總是一副跟你同歸于盡的架勢，天不怕地不怕，拙于沉淀卻長于出拳，頤指氣使稱王稱霸，天然地把比她們年輕的同性視同寇仇，欺負人成性，殺傷力特強，成為駐扎在每一個組織結構中的大母神。比如熱播劇《急診科醫生》里前十集里的江珊，比如這兩天三亞菜市場里，因為剝菜葉受阻而大打出手狂抽門店經理的東北大姐。這就比較可怕了。

轉眼間，我們也成為四五十歲的大姐。既然深諳這陳陳相因的怨毒之氣有多么可怕，那么，就利用這十年，好好勸住了自己，別老跟更年期過不完似的，出則傷人，入則害己。連曾國藩那么大來頭，還窮其一生持修逆來順受之法呢，更何況你我這樣勞動人民出身的柴禾妞，其實平時也沒什么人慣著，為什么就不能低低頭、認認錯，遇事曠達一點，為人謙和一點呢？賢二小和尚說，我們總是在對的地方失去最多。

第三，當變成一個年近花甲的大姐，我們會是什么模樣呢？對此我有點兒好奇，也有點兒躍躍欲試。

在整容這事兒上，中國后發先至，像電子支付和軌道交通一樣，一不留神走到了世界前列。中國女人特別豁得出去，中國男人普遍沒有審美，于是大街上忽然多出了很多劍眉星目通關鼻梁削尖下巴血盆大口面色煞白的人造美女。僵著這樣如出一轍的錐子臉行走在大街上，看的和被看的都沒覺得有什么不好意思。聽說2025年中國的GDP總量將反超美國變世界第一，可想而知，愈加富裕起來的國人會怎樣更加不能放過自己那張黃色的中國臉。我們不是喜歡整容，我們根本是討厭自己。

60歲要遠離肉毒素，盡量不要僵著一張臉去過剩下的20年；60歲要遠離烈焰紅唇，明白你已經到了寧丑勿媚的年紀；60歲，不再唱情歌，即便喝多了也麻煩管住自己不給任何異性打電話；60歲，不再抓取任何涉嫌發泄的詞匯比如傻×牛×去定義人事物。人的怒氣大半來源于見解或認知結構的偏狹。我們都老了，在晚輩面前留點臉面，不必一再提醒世人我們的腦回路也跟胳膊腿兒一樣亟待返廠大修。更何況，表情達意總是沖得跟豹子似的，對血壓也不好。

60歲，我們要避免再犯那些年輕人才可以犯的錯誤。

最后，當我們老了，還需不需要再設定一些人生目標？

在《參考消息》上曾讀到過這樣一個豆腐塊：女人需要什么？文章大意是：10歲的女孩需要好父母，20歲的女孩需要好容貌，30歲的女人需要好丈夫，40歲的女人需要好性格，50歲的女人需要……好多好多錢。

但是我估計，即使有了好多好多錢，也不見得更快樂。我們的麻煩就在這里。我們的快樂或者不快樂不再來源于銀行戶頭的變動。這讓人生變得復雜。

我們也不再需要性。以前不明白為什么《格調》里會把性看成大老粗的娛樂，隨著內啡肽的減少，不用想就明白了。當然，我們需要的也不再是一份感情。有句話說，愛不是來源于控制、索取或奉獻，愛來源于共同的價值觀和長久的相互吸引。一個連膠原蛋白都可以放棄的老太太，還要在一個遍地布里吉特（注：布里吉特·特羅涅，法國總統馬克龍的妻子，比丈夫年長25歲）而馬克龍欠奉的世界里持續發力構建關系共創未來，想想都像須彌穿針，于是也算了。

隨著發際線越來越高，多巴胺分泌越來越少，你變得像病中的林妹妹一樣，沒人來悶得慌，有人來亂得慌。五脊六獸，閑愁萬種。60歲，需要養成一種不用別人配合的愛好，慢慢習慣獨自上路。爭取窮十年之功，把閑愁放下。

然而，還有更嚴峻的命題。

其實，對于未來十年乃至余生，我承認自己一直生活在雙重煎熬里。除了如何不成為一介惹人生厭的中年婦女之外，還在時時為AI何時毀滅人類而操心。

是的，這倆事兒聽起來跨度有點兒大。但是在怎么用可樂兌白醋給浴缸除垢以及如何修煉大長腿之余，家庭婦女也可以關心點兒別的，比如人類命運什么的。

我們將親手創造自己的上帝嗎？

“人工智能很可能導致人類的永生或者滅絕，而這一切，很可能在我們的有生之年發生。”這是我在知乎上讀到的一段話。之后，我決定認真學習下這篇3.5萬字的譯作到底說了些什么。結果，我承認，這是這一年而且很有可能是接下來十年里對我震動最大的一件事，而且，我敢說，如果你有耐心讀完它，那么對于如何度過余生，你也許會像我一樣，產生一些顛覆性的念頭。

以下是我的讀書筆記——你看，只有家庭婦女和真正的民科才會有閑情把時間花在這些聳（po）人（zai） 聽（mei） 聞（jie） 的事情上。

首先，要拋掉這樣一個預設前提：“人類發展就是這么個速度。20世紀這樣，21世紀也差不多。”如果你以指數化思考替代線性思考，你會發現人類這個物種越走越快。專家估計，人類在21世紀的進步將是20世紀的1000倍。即使你是一個麻木透頂的宅男，也會同意技術的奇點即將到來。這樣的暗示已經到處都是。奇點之后，我們將生活在一個完全不同的世界里。具體點兒說，我們已經踏上通往超級智能之路。

其次，需要明確三個相關的概念：一、弱人工智能（以下簡稱弱人）：某一領域的智能單項冠軍。比如阿爾法狗。二、強人工智能（以下簡稱強人）：人類級別的人工智能。它具有寬泛的心理能力，能夠思考，計劃以及解決抽象的問題。它能理解復雜的概念，以及從經驗中學習。也就是說，它幾乎就是一個人。三、超人工智能（以下簡稱超人）：幾乎在所有領域里都比最聰明的人類更聰明。不是強一點點，而是強萬億倍。

我們現在的位置，是一個充滿了弱人工智能的世界，從谷歌搜索到無人駕駛汽車。

接下來的判斷是，從弱人到強人之路，很難走。但這一天必將到來，且大概率是在我們的有生之年。

有鑒于大腦是我們所知宇宙中最為復雜的東西，我們覺得困難的事，比如微積分、國際象棋，對于電腦太簡單了；但是我們覺得容易的事，比如看、走、識別二維碼，對于電腦太難了。人工智能在所有需要計算與邏輯的領域都超過了人類，卻在人和動物不需要思考就能夠完成的事情上，還差得很遠。比如我們的微表情，比如花兒為什么是美的。如果想要趕上人腦，電腦必須學習理解更為微妙的東西。

學界的共識是，通往強人之路，有兩個必須邁過去的坎：一是電腦需要更快的運算速度，二是讓電腦變智能。

其實，與人腦相抗衡的運算速度已經存在了，比如天河二號計算機，其每秒3.4億億次的運算速度已遠遠超越了強人所需的每秒1億億次運算速度。但這個占地720平方米、花3.9億美元建造的大家伙太大也太貴了。不過，到2025年，我們只花1000美金就可以買到與人腦速度運算相同的電腦了。這個預測的根據如下：現在，1000美元能夠買到人腦計算速度1/1000的電腦，同樣的錢，在1985年時買到的電腦的計算能力，只是人腦運算能力的萬億分之一（前幾天又得到了一條驚掉下巴的消息，上海一個量子信息小組已經通過成功抓取10個光子把以前幾十萬年的電腦運算速度提高到了區區幾秒。也就是說這篇三年前預測的2025年實現的運算奇點，已經被中國人刷新到了2018年的今天！）。

讓電腦變智能就比較困難。現在全世界的研究機構都沿著三條線索向前摸索。第一條路是抄襲人腦，以整腦模擬邏輯來搭建人工神經網絡。好消息是人類已經模擬成功了扁蟲的大腦，壞消息是扁蟲的大腦神經元是302個，人腦則有1000億個。但是，別忘了“指數化思維”這回事，模擬成功了小蟲子，接下來就是螞蟻的大腦，老虎的大腦，再模擬人類大腦也就是一箭之地。而完成人腦模擬的具體時間，樂觀地估計，是12年左右。

第二條路是模仿生物演化的“基因算法”，重走幾十億年的生物進化之路，完成電腦的智能跨越，爭取用幾十年完成。

第三條路是讓電腦自己來解決智能化的問題，粗略地講，就是把電腦變成科學家，把研究人工智能變成電腦自己的任務，不斷地修改自己的代碼，最終達成目標。

以上這些好像分不清是瘋子囈語還是科幻小說的思路其實都是正在發生的現實，而問卷調查顯示，眾多人工智能專家與未來學家都認為，強人時代將在15年之內降臨。

不管怎么說，我們終于造出了和人類智能相當的強人工智能，然后人腦和電腦就平靜快樂地生活在一起了。

呵呵，逗你呢。

即使是一個跟人類智能完全一樣的電腦，鑒于它在運算速度（今天弱人的運算速度已經是人腦的1000萬倍了，想想15年以后的強人吧）、存儲容量以及可靠性和持久性上的巨大優勢，它只會在人類這個節點上做短暫停留，然后便大踏步地向超人類級別的智能邁去。

這個速度有多快，跨度有多大呢？我看到過這樣一段有趣的描述：弱人向強人靠近時，好像你養的小寵物，完全人畜無害，比如阿爾法狗；然后，它突然達到了最愚笨的人類的程度，你會說：“看，這個人工智能就像一個腦殘一樣聰明呢，好可愛。”有些像前些日子難住了章子怡的機器人索菲亞；但是這個有點兒二的人工智能很快就變得比愛因斯坦更聰明，就像阿爾法狗屠榜之后四十天，第二代阿爾法零屠狗一樣，還記得那比分么，嗯哼，100：0；之后呢，這個比愛因斯坦還聰明的人工智能在“遞歸的自我改進”慣性下，向超人工智能的“奇點”狂奔而去。

具體點說，一個人工智能系統花了我們幾十年的時間，達到人類腦殘的水平，而這是一個奇點。奇點后1小時，電腦就推導出了廣義相對論，又過了一個半小時，它的智能超越了人類17萬倍。強人變成了超人。

我們親手創造了自己的上帝。50%以上的專家相信，這一切將在未來幾十年內發生。

那么重點來了，這是否是一個仁慈的上帝？（此處敲黑板）

對此，人類又表現出在所有事上都體現的雞吵鵝斗特征。50%的受訪專家堅信，超人會成為人類的好幫手，解決包括氣候災變、糧食危機、癌癥與衰老、環境破壞、人類貿易壁壘與貧富差距在內的一攬子問題，并最終幫助人類實現永生。也就是說，如果你能撐到2060年，你也許就能老不死了。

另外30%多的受訪者對于超人工智能時代的到來表示了極大憂慮。這里面包括一些世界上最聰明的人。比如，物理學家霍金預言：超人工智能會毀滅人類；首富比爾·蓋茨說，他不理解為什么會有人不為此（人工智能技術的突飛猛進）擔憂；商界航天界奇才埃隆·馬斯克則直言：我們正在召喚魔鬼……

經常有人說，有什么可擔心的？如果超級人工智能沒安好心，直接拔插頭不就行了，要么就給超人工智能設計一個不許傷害人類的源代碼。這話聽起來就像蜘蛛有一天突然想干掉人類，于是蜘蛛界的意見領袖就說“這有什么難的，不給人類蜘蛛網把他們餓死唄”那樣可笑。

還有就是讓人工智能“維持友善”的著名迷思。比如，我們把代碼寫得很小心，甚至把人類的道德規范進行內化處理：我們設定電腦的終極價值觀為“讓人類快樂”，但也許人工智能發現最有效的方法是給人類植入電極，刺激人腦的快樂中樞，進而它會發現把快樂中樞以外的部分神經中樞關閉會帶來更大的效率，于是1小時后，人類被弄成了幾十億個快樂的植物人；超級人工智能還可能想出一個更激進的方案：先把人類毀滅，然后制造出很多處于快樂狀態的人類大腦……這事情發生的時候，我們會說：“擦，我不是這個意思啊。”但是，game over 了。

講一個故事：一個研發給客戶寫售后服務信的機械手智能公司，就因為某一位工程師偶爾率性，滿足了機械手的智能大腦要求，訪問人類日常交流的語言庫以便更好地模擬人類書寫習性這樣一個貌似“善意”的需求，而把機械手接入了互聯網……一小時。于是，一個月之后很尋常的一天，公司的工程師們上班了，他們忽然聞到了奇怪的味道，接著便紛紛咳嗽抽搐倒地而亡。同時，辦公室的一幕在全球同步發生……一小時之內，99%的人類死亡，一天之內，人類滅絕了……

而此時的機械手正忙著拆解地球表面以及外太空，以便所有空間鋪滿它們為顧客書寫的無盡的售后服務信。而在一個月前的那一個小時里，機器智能通過黑入服務器電網銀行系統郵件系統，動員無數資源在毫不知情的情況下幫它執行人類滅絕計劃：比如把DNA樣本快遞到實驗室來自我復制納米機器人，比如把電力傳送到幾個不會被發覺的地方，比如把最主要的核心代碼上傳到云服務器中防止被拔線……一個月后，無數的納米機器人被定制完成，并靜悄悄地輸送到全世界各個角落。又在同一時刻，所有納米機器人同時釋放了一點點毒氣，然后人類就滅絕了。而這一切的前提只是，機器人的智能大腦聰明到發現原來人類才是妨礙它隨心所欲地達成目標的最強大的終極障礙。讓人哭笑不得的是，倫家的目標是非常純潔的：不過是好、好、寫、信。

這個關于手寫機器人毀滅全人類的故事看起來怪怪的，但這其中出現的讓整個星系充滿友善的售后服務信件的詭異情景，卻正是霍金、馬斯克和比爾·蓋茨們所害怕的。

好像正是為了證明這樣詭異的場景所設不虛，就在半個月前，在日內瓦聯合國常規武器公約會上，來自伯克利大學的資深AI研究者利用動畫視頻展示了最新的人工智能成果：幾只被命名為“殺人蜂”的微型機器人通過人臉定位，靜悄悄地進入一個小學的班級，并瞬間射穿了教室內上課的所有學生的頭顱。場面血腥。而這位專家最后的結語是：想想看，如果這種武器掌握在恐怖分子的手中……

人類的一切問題，到最后都是倫理問題。而在人工智能這里，產生了倫理死結。它既不是道德的，也不是不道德的，而是“非道德性”的。我們給人工智能設定的目標是什么，它的動機就是什么。更可怕的是，連貫的外推意志，會讓超人工智能像風一樣地動員資源，強行推進。

超人一旦出現，任何企圖控制它的行為都是可笑的。它幾分鐘就可以思考完人類幾十年思考的結晶，而真正的差距還不在這里。猩猩的腦子再加快幾千倍，它仍然區別不出《岡仁波齊》比《富春山居圖》到底好在哪兒。如果智能是一架無限高的懸梯，人類永遠比猩猩高兩層。就像猩猩永遠學不會建造摩天大廈，如果存在比人類高兩層的人工智能，我們對它的判斷和作為也將無法理解。當智能爆炸（也就是技術奇點）發生時，當第一個強人出現后，人類將面對的，是一個高于我們幾十萬級臺階的智能。我們沒有辦法知道超人會做什么，以及后果。

但是，當我們全力沖刺時，不會有太多時間靜下來思考危險。為了追逐第一個強人帶來的金錢/榮譽以及權力，人類的步子只會越邁越大。畢竟，懂得節制和敬畏一直不是我們這個物種的優勢。可以想象，投資創新人工智能技術的錢，要比投資智能安全研究的錢，多得多。

人工智能創新與人工智能安全性研究的賽跑，可能是人類歷史上最重要也是最后一次競爭。如今第一棒已經跑完，人工智能的推進已經進入指數化加速度的內圈。機遇轉瞬即逝，賽末點撲面而來。撲向下一個十年。