仿生人與電子羊

李天意

《仿生人會夢見電子羊嗎》（下稱《仿生人》）是一部跨越時代的經(jīng)典。這本50余年前的小說在今天讀起來毫無年代感。其對于未來世界機器與人類之關系，尤其是高度智能的機器與部分退化的人類之關系的討論，涉及我們?nèi)缃褚矡o法充分回應的深刻命題。

跳出審美體驗，以智能科學的角度來思考這部小說，發(fā)現(xiàn)它建立于兩個隱蔽但重要的邏輯前提，自作者菲利普迪克的年代迄今，這兩個前提被廣泛地視為理所當然。在深入探索人機關系的背景下，我們有必要仔細審視它們。

第一個邏輯前提：天然的東西比人造的東西貴重（得多）

在《仿生人》描繪的末日地球上，人類通過豢養(yǎng)動物來展示人性的博愛與移情。來自自然界的真實寵物要比以假亂真的電子寵物昂貴許多，即便電子寵物與真實動物“幾乎完全無法分辨”。

小說以外，這條邏輯在我們的生活中普遍適用。潛意識里，很多人不假思考地認同：人造物比自然物廉價；機器生產(chǎn)的作品比手工完成的作品廉價；通過技術手段獲得的特質(zhì)比未經(jīng)技術手段獲得的特質(zhì)廉價。因而，鉆石、油畫、未經(jīng)修葺的容貌，是美的、珍貴的；金剛石、印刷畫、整容手術的作品，是美的，但相對平凡。人們不愿為后者的付出高于前者。這是為什么？

大概有幾個原因——

第一個原因，人造物來源于工業(yè)，意味著普遍的可復制性：這件東西規(guī)模化出現(xiàn)，我有，你也可以有個一模一樣的；它不會帶來獨自的擁有體驗。天然的東西大多是獨份的：我有了，你便難以再擁有一個同樣的。對于“獨特”的需求來源于自私天性，驅(qū)動著人們的追求。

第二個原因，人造的東西，較之天然的東西，復雜程度低：既然一件物品可以在短期和有限資源內(nèi)被制造出來，它的價值一定比不上經(jīng)歷漫長時間和空間演化、自然“鬼斧神工”下的產(chǎn)物。有時，如果人造的東西復雜精巧，也可以具有很高的價值，比如鐘表或火箭；但多數(shù)時候，人工產(chǎn)品的復雜度，遠不如天然產(chǎn)物。因為人類尚未充分認識自然。

這兩條原因從價值的角度為上面的邏輯前提提供了解釋。在這一角度下，還存在其他相關原因，比如人造物的可分割性（拆散還能復原如初）、天然物的系統(tǒng)自組織性（局部蘊含媲美整體的精致），等等。

然而，它們之外，還有一個隱蔽的深層原因——它指向人類的本能。

回到《仿生人》的故事里。整部小說展開于人類獵手對藏匿的零星仿生人的追逐，并最終由勇敢的獵手消滅了所有仿生人。盡管仿生人具有極高的智力，甚至也建立了一定的社會化能力，但終因“高度自私”和“無法共情”而被人類打敗。

如其后世許多科幻作者和科學家一樣，菲利普迪克強調(diào)了人類的共情、移情、利他、犧牲等特質(zhì)，并將它們（即“人性”）擬定為戰(zhàn)勝機器的要素。關于這一點，在信息科學和社會學領域一直有激烈的討論：究竟人工智能能否發(fā)展出上述性質(zhì)，如今并無明確的答案。

這里我們來思考另一個問題：為什么，人類一定要消滅來到地球的仿生人？

在小說里，作者為這個問題建立了一個簡單的解釋：每名仿生人一定都是在其他星球殺掉人類后才逃逸至地球的，因而它們具有“原罪”，對其的追殺便是公正合理的。不過這個解釋確實經(jīng)不起推敲：沒有仿生人不曾殺人直接來到地球嗎？它犯下什么罪行才應當被消滅？仿生人可以通過幫助人類來獲得赦免嗎？為什么不選擇更溫和的處罰方式？作者在此也無過多著墨，轉(zhuǎn)而模糊處理了。

然而，小說對于這樣基礎的邏輯問題潦草帶過，讀者卻并未感到不適。在觀眾眼中，“賞金獵人”的獵殺行動，是充分合理的。盡管小說中，獵人自己也曾對身負使命的正當性產(chǎn)生懷疑，但作者借其口表達的懷疑，出自人類對自身共情能力的焦慮、對自身殺戮行為的剖析，并且是為了反之凸顯人類的移情（于仿生人）。

雖然經(jīng)歷了諸多曲折，小說主人公最終確信，只有人類才具備廣泛而充分的移情，人群共情的化身“默瑟”，是永恒存在的。面對挑戰(zhàn)時，勇敢、無畏、不放棄的屬性（書中的默瑟老人從事西西弗一般的事業(yè)），是生命進化而來的本能。

在這樣的本能下，人類抗擊并消滅沒有感情的仿生人（無論其是否殺戮），不是天經(jīng)地義的嗎？

是的，在我們的潛意識里，仿生人，的的確確有“原罪”，消滅它們，是不需要什么理由的。這便是另一個隱蔽的邏輯前提。

第二個邏輯前提：人類應當消滅匹敵或超過人類智能的機器

可是，為什么呢？因為我們害怕那樣的機器。

我們在怕什么？我們怕機器殺戮人類。

假如，機器個體與人類個體沖突的結(jié)果一定是同歸于盡，我們是否有一樣的恐懼？

大概不是。同歸于盡的結(jié)果類似于核戰(zhàn)爭。而相較于核戰(zhàn)爭，我們也許更為恐懼機器智能。

這是因為，潛意識里，我們清楚，匹敵或超越人類智能的機器，是“不死”的。一方面，機器擁有鋼鐵身型，不需要人類一般的新陳代謝，通過合理的養(yǎng)護，其可以超長時間存在;另一方面，即使機器個體可以被毀滅，但其智能很容易由其他個體瞬間繼承（如機器學習泰斗Geoffrey Hinton所言）：一個，即是無數(shù)個。這樣的易復制性和個體差異之弱化，讓機器在人類的視角下，具有了“不死”之軀。

而我們最深刻的恐懼，是人類死去，但機器還在。即沒有明確壽命的智能機器，使有明確壽命的人類失去壽命。這是十分可怖的，因為如果這件事情發(fā)生，在人類消失后，機器保有篡改歷史的能力：那么，我不僅不再存在了，也將未曾存在過。

努力創(chuàng)造并延續(xù)歷史的物種，其最刻骨的生存危機，是外力將化解它創(chuàng)造并延續(xù)歷史的努力，并且，更進一步地，無數(shù)個體曾經(jīng)共同創(chuàng)造的所有歷史，都岌岌可危。

人類對于智能機器的恐懼，是生物億萬年來的本能。智能機器的“原罪”，是它殺戮人類、并抹除所有人類歷史（這是真正意義的“消滅”）之可能性：我們明白，機器是“冷血”的，沒有“感情”，沒有共情、移情、利他，便沒有保存人類歷史的動機。

因為我們在制造它們之時，鮮有教它們這樣做。

因為負責構想、設計、制造它們的我們，是我們之中情感相對單調(diào)的“理性”同胞。

從生存角度理解人類對于機器的深層恐懼，隱含著通向第一個邏輯前提的第三個原因——為什么我們認為自然物的價值高于人造物？

因為自然物有明確壽命，而人造物是“不死”的。有明確壽命的天然動物，要比可無限修理的電子寵物更加珍貴。

有了明確的“死”，才可獲得“生”。

那么，我們的恐懼是正確的嗎？機器真的“不死”嗎？

如果機器具有某種意義下的“生”，它便并非“不死”；而如前所述，若它同樣可消逝，同樣對應某種稀缺，那么它便確實可視作具有某種“生”。

智能機器它會變老嗎？大概是會的。只不過，智能機器的“凋零”，不是物質(zhì)的湮滅，而是信息的老去。

自人類進入信息時代開始，無數(shù)智能機器被發(fā)明出來。每一種設備的誕生，都創(chuàng)造著新的信息，激發(fā)人們的興趣。越來越多的人被機器吸引，越來越多的機器功能被開發(fā)和使用，智能設備具有越來越高的價值——機器信息組建了新的意義，訂立了新的秩序。

不過，慢慢地，人們開始習慣這些機器傳達的信息，開始了解機器信息的邊界，開始對重復、低密度、可預測的信息感到厭煩。

在0-1組成的信息世界，熵是對可能發(fā)生事件之確定性的度量。一句話蘊含的確定性越大，其信息熵越低。本質(zhì)上，“信息”，指的便是確定性的增加：如果一條數(shù)據(jù)的到來增加了我們對事物的認知，我們便認為這條數(shù)據(jù)可稱為信息，其具有價值；而如果它闡述一件我們已經(jīng)知道的事，并未為我們提供新的確定性，這條數(shù)據(jù)便幾乎不含信息量，它的到來沒有降低信息熵。相反，它增加了數(shù)據(jù)量；如此一來，系統(tǒng)變得冗余，更容易走向無序。

那么，這意味著，像生物一樣，機器同樣遵循熵增法則：在傳播過程中，信息趨于無效。

當一條信息到達所有人并被完全認知，它便不再具有任何價值，變?yōu)闊o效的數(shù)據(jù)噪音。它“死”了。

智能機器通過提供信息來創(chuàng)造價值。當人們對新機器的出現(xiàn)產(chǎn)生了濃厚的興趣，為之傳播、對其探討（就像我們對ChatGPT正在做的一樣），機器便獲得自己的“發(fā)育窗口”。在這個窗口里，它吸引更多的用戶，激發(fā)更多的討論，使許許多多信息圍繞著它所釋放的信息被創(chuàng)造出來——信息促進了更多信息的誕生：信息在“生長”。

然而，這個熵減的窗口（注：在更大的系統(tǒng)層面，獲得信息這件事本身便需要付出額外的熵增，如圍繞麥克斯韋妖之討論）不會一直存在。當人們對機器信息充分了解，它們便退化成了噪音。傳播會逐漸飽和，討論會逐漸平息——這時，即便機器的物理結(jié)構依然完好、其信息的數(shù)據(jù)序列依然存在，它已經(jīng)慢慢地“老去”。

因為，人類對它失去了興趣；它創(chuàng)造的信息稀缺，不復存在了。

熱力學熵與信息熵，是玻爾茲曼與香農(nóng)的偉大握手。機器并非不死之身，它的“生”，是由人類決定的。人類創(chuàng)造機器，使用機器，也拋棄機器。

人類雖眾，每個都是獨特的一個。因為復雜和多樣，我們確實比機器更有價值（得多）；當我們關注并強化復雜和多樣，便已經(jīng)在悄悄消滅它們。

所以，別怕，ChatGPT和電子羊都終有一天會變老。當我們熟悉了它們的回答和動作，掌握了它們的結(jié)構和流程，它們便停止“生長”了。盡管由于規(guī)模和集成度，它們也許擁有一個較為可觀的“發(fā)育窗口”，但當人類躍出機器思維，不停探索，勇敢、無畏、不放棄（像西西弗和默瑟老人那樣）——

終會到達智能機器的局限。然后，輕輕地跨過去。