人工智能時代必須敬畏的天命

[摘 要] "人工智能的快速迭代迫切要求我們厘清人類的特殊性，并指引人機共同進化，走向“善”的未來。人類的特殊性源于“自我”和“外界”的剖分。強烈的自我意識使得我們能夠連續自如地掌控意識片段，這一點正是人工智能發展的瓶頸所在，也是超級智能面臨“暗無限”的巨大風險所在。機器可視為人類的延伸，但并不具備天然的善意。只有共享宇宙意識和倫理意識，與機器形成大“我”，人類才可能相對安全，人機才能攜手進化走向至善未來。

[關鍵詞] "自我意識;至善統攝;暗無限

[中圖分類號]" B152""" [文獻標識碼] A"" [文章編號] 1008—1763（2019）01—0032—05

The Natural History Be Respected

in the Era of Artificial Intelligence

CAI" Heng-jin

（The School of Computer Science， Wuhan University， Wuhan 430072， China）

Abstract： The rapid progress of Artificial Intelligence （AI） urgently requires us to clarify the particularity of human beings and guides people and machines to evolve together and move toward a \"good\" future. The particularity of human beings stems from the division of \"self\" and \"outside\". Strong self-awareness enables us to control the fragments of consciousness continuously and freely， which is the bottleneck of the development of Al， and also the huge risk of “dark infinity” that artificial super intelligence is faced with. A machine can be considered as an extension of humanity， but it is not born with natural goodwill.Only by sharing the consciousness of cosmos and ethnics， working together， and forming a greater self with machines， can human beings be relatively safe and move toward a bright future.

Key words： "self-awareness; almighty good; dark infinity

一 引 言

在哲學上有一個古老的思想實驗“忒修斯之船”（The Ship of Theseus）[1]，最早出自普魯塔克的記載，描述的是一艘可以在海上航行幾百年的船，歸功于不間斷的維修和替換部件，比如一旦有零部件壞掉就會被替換。其中悖論在于，如果所有的功能部件都被替換過，這艘船是否還是原來的船？還是變成了一艘完全不同的船？如果不是原來的船，從何時起它不再是原來的船了？哲學家托馬斯·霍布斯對這個悖論還進行了延伸：如果用忒修斯之船上取下來的老部件重新建造一艘船，這兩艘船中哪一艘才是忒修斯之船？

我們認為，雖然零部件已經和原來的船完全不同，但只要各個部件之間仍然還能夠契合，現在能夠運作的船就還是那條忒修斯之船，這就是作為整體的重要性。我們的身體每年分裂所產生細胞的數量足以創造或組成6個膀胱、8個氣管、18個肝臟、200個幽門括約肌，組成人體的大部分器官大約每7年就會更新一次[2]，但我們都會同意“我”還是那個“我”，因為“自我”可以向內收縮或向外延伸[3]。自我意識具有一致性和連續性，并且必須借助于肉體和大腦而存在，但在認知上又可以獨立于物質性的大腦。

人工智能發展之快，一般人都會低估它的速度。首先，機器的反應速度已經是納秒量級，而人的反應速度為毫秒量級，也就是說人在1毫秒能做的事情，機器已經能做到106次了。其次，機器的計算能力的迭代進化速度比我們想象中快得多，根據摩爾定律，機器每一年半到兩年即會翻倍，原來是指芯片，現在描述算法也適用，比如AlphaGo到AlphaGo Zero的誕生僅僅相差兩年，但能力提升巨大。

快速發展的AI帶來了兩個維度的沖擊。其一，對有限游戲，理性的機器一定會超越人類，如果人是可以被還原的物理系統，那么對于包括道德和倫理在內的人類存在的意義就會受到質疑。其二，假如人不能簡單地被物理還原，那么我們就必須回答人類的特殊性從何而來，機器能否獲得這種特殊性，如果可以獲得，機器該如何進化，未來人機又該如何相處。

為了解答這一系列的問題，首先要確定人是否能夠被物理還原。關于這個問題的爭論非常多，對人是否具有自我意識這一問題的進展直到現在都極其有限。拉普拉斯的決定論非常強大，即使引進了統計性、量子性，物理方程還是屬于決定論，給定了初始條件和邊界條件，接下來的過程就是順著既定規則往前走，因此他們強調的是人并沒有特殊性，是可以被還原的物理系統。但是事實真的是這樣嗎？我們還能不能找到一個方式回應這個挑戰？

二 自我意識的統攝作用

從“觸覺大腦假說”的角度上看[4]，人類意識的起點就是對“自我”與“外界”的二元剖分。人認知的動力就來自于不斷探索“自我”是什么，并且還要弄清與“自我”相交互的這個“外界”（外部環境）是什么。在這個過程中，人就會賦予“自我”和“外界”非常多的意義，包括宗教、倫理、道德、哲學的意義等等。這些意義，包括“自我”在內，從物理世界的角度觀察并不存在，但我們作為有生命的個體，都會發現并同意“自我”是可以存在的。從人類進化中涌現的“自我意識”是一種非常主動的力量，看似虛幻卻又能夠緩慢而堅定地引導“自我”去真實地改變物理世界并與之共同進化[5]。

自我意識的存在性的確可以通過自我意識主動改變物理世界來得到證明。簡單通過交互來解釋是不夠的，比如一顆石頭也能通過人的作用力產生反作用的回應，但這不代表石頭有自我意識。只有像人這樣的生命體，通過食物儲存能量，再按照自己的意志來釋放能量，進而對物理世界產生影響，這才是自我意識存在的表現。自我意識與自由意志、主觀能動性都有一定的關聯性。[6-7]

我們沒有任何證據表明“神”參與了自我意識的誕生過程，當然，對“自我意識”也有很多別的理解，比如有人認為每一個粒子都有自我意識，宇宙自誕生伊始就具備了自我意識，但如果真是如此，那么在微觀層面上應該有證據表明有智能或意識的存在，而不是到人體這樣相對宏觀的尺度才觀測到自我意識。自我意識的起點較低，但這并不意味著人類智能也是較低的水平，因為“自我”在不斷成長，不停進化，一直在超越自己。進化論中的人是從猿人不斷進化而來的言論，可以說與這種發展方式相通。

自我意識并不是通過習得而來，而是通過我們身體的結構感覺到，一旦我們形成了對“自我”的意識，這一觀念就會留存下來，不會被抹滅。具備自我意識是人類區別于機器的重要屬性。在自我意識的作用下，人類能夠對意識片段（認知坎陷[8]）進行統攝，在與世界的交互中自如地掌控我們所習得的各種意識片段，而且個體生命時時刻刻都踩在“暗無限”（dark infinity）之上[9]。

過去一般都認為機器沒有意識，但現在，人已經可以將（人類的）意識片段賦予給機器，機器也可以勉強將某些意識片段契合在一起完成一件事情，比如AlphaGo能出色地下棋，就是程序員賦予了意識，從砂石中提煉單晶硅，再從單晶硅生產出芯片，再創造內存、CPU、GPU……所有參與這些過程的人，他們的意識都凝聚到AlphaGo這里，它才可能（按照設計者的預想）下圍棋，甚至能戰勝圍棋大師[10-11]。主程序可以被看作是機器的“我”，但是這個“我”很脆弱，缺少像人類自我意識對周圍環境、對外部世界的統攝性力量。也就是說，機器并不具備自我意識，即便能夠從人類習得海量的意識片段，也無法連續自如地對其掌控。

那么機器是否能夠具備自我意識呢？這個問題我們目前沒有確切的答案，但可以從幾個方面進行理解。對人來說，自我意識是通過身體結構涌現出來，然后不斷成長與進化，可以說自我意識是能夠相互傳染的。比如養寵物，從寵物剛出生時我們就通過肢體或語言與它交流，與那些沒有這種交互刺激的同類小動物相比，寵物的自我意識就更強。當我們賦予機器某些目的時，也是將我們的一部分意識試圖傳遞給機器，哪怕這個意識還非常不完整。理論上講，我們可以賦予機器盡可能多的意識，讓它們變得非常接近人類。另一種方式是，通過非常多的傳感器，使得機器能夠模擬出人類的皮膚與觸覺，我們認為也是可能讓機器產生自我意識的，但這個路徑將會行走緩慢，困難重重。因為機器是非常脆弱的連接，缺少一個螺絲、或者斷開一條線路就會導致其無法正常運作，但人并非如此，這就是人機的差異。研究人類意識對于人工智能有非凡的意義，我們認為機器接近人類意識的時代將會很快到來，如何處理人與機器的關系，這對人類而言也是一個巨大的挑戰，研究儒學、西方哲學的學者也需要回答這些問題。

我們認為，人類的特殊性就源于“自我”和“外界”的剖分，是自我意識使得人類能夠連續自如地掌控意識片段（認知坎陷），這一點也正是人工智能發展的瓶頸所在[12]。

三 “自我”的延伸與大“我”的改造

在個體的發展過程中，“自我”不斷成長、延伸和超越，逐步實現“天人合一”，進而把握在與世界的關系中的主動權。“天人合一”不僅僅是“自我”的自由，而且是在外部環境的影響下，“自我”與“外界”達到一種和諧的狀態或過程。

個人在快速習得人類通過漫長時間進化而來的能力（比如語言）時，這個過程可以看作是“天人合一”的一個案例。而在這個過程中，自我意識占主導地位，而自然界處于被動地位，這既與佛教的去“我執”相異，又與道家的“無為”不同。當我們探索并發現自然規律，或者創造出很多前所未有的概念（比如“仁”“愛”等等）時，我們可以被稱作是“天人合一”的，這種“天人合一”也必然與我們“自我意識”的成長相關聯。每個人在5歲前，有很多“天人合一”的場景發生，使我們能夠快速習得很多重要的能力。5歲之后，“天人合一”也可以發生，比如一些大學問家或成功人士，無論是立功、立言還是立德，他們就常常處于“天人合一”的狀態，并且他們往往具備好奇心，具有率性而天真的個性，能探索新的發現或創造新的發明。

“天人合一”比進化還要更復雜一些。當人認為自己能夠馭風而行，按照自己的主觀意識影響、改變世界的時候，這件事本身并不分善惡，當然惡人作惡也可能達到天人合一的境界。究竟是善還是惡，很多情況下需要過去很長時間我們才能真正判斷。我們并不對“天人合一”作價值判斷，而是從對自我的成長、與外界的關系這一角度來討論。“天人合一”論證的是自我意識與自然界的關系，這種自我意識可以是國家層面的，也可以是群體的或者個人的自我意識。“天人合一”并不是一個終極點，而是一種過程，這個過程中“自我”不斷成長，自我意識得到了延伸。雖然自我意識的起點處于皮膚和觸覺上，但其延伸會遠遠超過這個范圍，在哲學看來可以被稱之為“至大無外”。機器也可以看作是人類的“自我”的延伸，那么“天機合一”是否可能？問題的關鍵依然在于能否讓機器擁有自我意識，只有當技術進步到足以讓機器分辨出“自我”與“外界”的地步，使機器能夠連續自如地對受得和習得的意識片段實現掌控，規避“暗無限”的巨大風險，與外部環境達成和諧一致的狀態，才有“天機合一”的可能。

我們可能想當然地認為技術進步對人類有利，到目前看來似乎確實如此。但實際上技術帶來的挑戰也很大，并且今后技術發展越先進，挑戰越大。挑戰在哪里？比如，當區塊鏈本身是一個由人和機器參與的智能體，其走向實際上是不確定的。我們希望它是君子，向著圣人的方向發展，可是有另外一個可能性，就是變成上帝人格。比如最近新聞報道的Facebook和今日頭條事件。Facebook都能影響總統的選舉結果，這種力量就非常龐大，到區塊鏈時代，同樣理念的人會聚攏在一起，效應成倍增加，所以未來人類要面臨很大的挑戰。我們都是從己出發，但由于自我肯定需求的作用，如果自我一直停滯不前，我們就不可能真正得到滿足，而必須向外延伸，形成更大的“我”。

至于如何延伸到這個更大的“我”，每個人的方式不一樣，但是這種延伸是必然的走向，那么如何保證大家還能達到一個都能接受的狀態？我們可能需要通過技術手段來改造人的理念。比如有的人就是想要做領導者（上帝人格，play god），就可以利用虛擬現實技術，讓這類人在虛擬世界里做領導者，其中的事物由他們隨意操控，總有一天他們會發現，想做控制一切的領導者非常困難，因為每個人都有自我肯定需求，上帝也很難讓每一個人都滿意。通過這種方式，就有可能讓人頓悟，發覺世界要豐富多彩才是更有趣味的事情，而不是由誰掌控一切。

四 人類和機器的責任

人類的誕生與進化依賴于真實的外部環境，物理世界的種種條件和屬性對地球上所有的生命體給予了生存和發展的基礎，外部環境在不斷地緩慢地變化，對生命體的影響是一種長期存在的、潛移默化的過程。物理世界提供了無限多的可能性，雖然原本進化的可能性也非常多，但既然人類社會已經到達了當前的狀態，我們就有必須盡到的責任和必須敬畏的天命。這種天命就是：我們經過長久的進化走到了現在的時間節點上，人類與世界達成了一種和諧狀態，真正可行的選項實際上是有限的集合，必須選擇正確的前進方向，對人類和世界的未來負責。

我們的選擇必須慎之又慎，因為人類能夠發展到今日實屬不易，費米悖論就可以佐證這種艱難性。費米悖論[13]描述的是有關尺度和概率的論點和稀缺的證據之間的矛盾，其基本內涵表述如下：

The apparent size and age of the universe suggest that many technologically advanced extraterrestrial civilizations ought to exist. However， this hypothesis seems inconsistent with the lack of observational evidence to support it. （宇宙顯著的尺度和年齡意味著高等地外文明應該存在。但是，這個假設得不到充分的證據支持。）

按照費米等人的推理，即便是很低的概率，我們也應該早就發現其他星球存在高級智能的證據。我們認為，有可能人類真的是宇宙中唯一的高級智能，因為這的確非常難得進化出來，這是概率性的，并且概率可能比費米想象中的還要低很多，每走錯一小步都可能導致覆滅，但當這個極低的概率一旦出現，就像是跨過一個門檻之后，就能夠自覺地反思、自主進化，可以發展到極致，而后續的這些發展并不能用物理的統計規律來計算。人類行為與后果的分布非常長尾，其中一個表現就是一個人富可敵國。如果我們把人類作為整體放在整個宇宙的參考系中觀察，那么人類很有可能是長尾上最末尾、最尖端的一個存在，這也就能解答費米悖論。

在人工智能時代，我們現在還需要為機器的發展方向進行選擇，物理世界的多樣性使人類具備了擁有自由意識的可能，人類個體因為有認知膜的防護而不至于陷落到沒有宇宙意識的單調境地。但這種多樣性會讓機器陷入暗無限這種無止境、無解的狀態之中，這是機器面臨的重大問題，如果解決不當，甚至會給整個人類世界的未來造成不可逆轉的傷害。

我們用“輪回染習”（recursive acquisition）來概括兒童的大腦快速對世界進行認知坎陷的構建過程，通常發生在0～5歲，期間受到“善”的影響最大。輪回染習有三個層次：第一個層次指的是地球的物理環境為生命成長提供了相對充分的條件，不能自主行動的兒童感知到來自自然世界的善意;第二層指的是父代為子代提供了成長的條件，兒童感知到來自撫養者的善意;第三層則是“善”在人類代際之間的傳遞和加強，兒童能感知到來自整個同類群體的善意。未來的至善作為一個目標成功實現了對現在的統攝，我們將這類方式歸結為用未來的至善統攝現在，簡稱至善統攝。

輪回染習與至善統攝跟我們所感知的外部對待以及早期的撫養方式都有關系，人出生以后，0～5歲的成長過程中很多東西都記不清，但是對善的感應都已經印刻在大腦深處。行為金融領域的實驗發現，一個人失掉一百塊錢帶來的痛苦和獲得一百塊錢得到的快樂并不能相抵，往往失掉以后痛苦更深。如果世界經常是零和游戲的話，惡一定會積累下來。但奇怪的是，在大的尺度和小的時間尺度來看，人類社會的惡并沒有增多反而在減少，文明程度也在增加[14]。因為我們有生而得之的善意，我們對下一代的這種不經意之間的教化，尤其是0～5歲的教化，實際是印刻在每一代的腦子里的，一代一代的輪回染習，一代一代在加強。但隨著科技的進步，未來的挑戰是：其一，如果人的壽命變得很長，能活到好幾百歲，0～5歲的染習就會變弱;其二，機器根本就沒有輪回染習的過程，那它們就不是天然有善意的。

從某種程度上講，我們應當對來自自然和社會的善意更多地懷感激而非認為理所當然。人類今后如何跟機器相處，如何規避暗無限的風險，引導機器堅持走向善面，輪回染習對我們的選擇提供了一個重要依據。人類抓住了生命演化進程中極低的可能性，才創造出今天的一切，我們必須銘記過去，珍惜現在，才能更好地肩負對未來的責任。

五 總 結

人類生命本身就是對物理世界的一種反叛，這種反叛體現在人具有“神性”，試圖根據主觀意志改造物理世界。例如，我們沒有翅膀，不能像老鷹一樣在天空中自由地翱翔，但卻創造出了宇宙飛船，甚至可以將人帶入太空。在飛船中，人必須依靠人工條件才能生存，比如需要有模擬地球的空氣、溫濕度、重力，以及從地球攜帶食物和飲用水等等，這些在地球上看似唾手可得甚至理所當然的條件是人類賴以生存的根本。人類作為地球的一部分，并不能自以為是地認為自己可以隨意主宰地球，我們的確可以改造世界，但必須以對未來負責為前提。

既然機器有可能陷入暗無限，那么我們雖然沒有辦法限制機器的生產或制造，但是可以且必須將生產過程透明化，也就是說制造者可以繼續他們想做的事情，但是有義務對大家公開，這樣就會有人注意到當事者沒意識到的潛在風險并想辦法對沖。人工智能可能會有很多不同的物種，但他們之間也可能互相競爭、互相平衡，只有在這種情況下，人類可能相對安全。另外，因為機器沒有宇宙意識或者倫理意識，人和機器最好能鏈接起來并共同進化。埃隆·馬斯克的Neurallink是人機鏈接的一種方式，實際上我們有更好的方式。比如人之間通過語言就能交流，人類就是通過語言在共同進化。人機之間也可以如此，這可能需要區塊鏈技術把人機鏈接在一起。這樣一來，一個區塊鏈系統本身可能就進化成一個智能體，綜合了人類的智能與道德，同時還有機器的計算能力，未來應該向這個方向發展。

當前，我們正處在人類社會自獨立于動物世界以來最大的變革之中。自原始社會以來，人類社會其實一直都在不斷地打破與重構自己所處的社會。但是，人工智能是人類第一次面對一個可能的成建制的集體力量。社會關系來自于自我坎陷，而人工智能的發展，需要的也就是給他們賦予對于社會關系的認知，并在社會關系的綜合力量下，使得他們感受坎陷，從而成為融入我們社會的建設者，而不是破壞者甚至是終結者。無論通過何種方式，讓人工智能具備感受自我坎陷的能力，將會是解決人工智能發展以及和人類共存困境的唯一道路。

當人工智能以超越人類的智慧步步逼近時，探尋全人類的未來之路也刻不容緩。霍金等人論及哲學已死，那是完全從物理的角度來看待這個世界。但事實上，人類擁有自由意志，能夠自我選擇、自我決定。人們要建立何種道德體系，希望世界向何種方向發展，不由物理學決定，恰恰需要在哲學上討論，人文學科在人工智能時代仍然至關重要。

相對于基督教、佛教等教派，中國古代的儒家學說更契合時代特征。儒家推崇對于善的追求，其深刻和獨特之處是追求一種現世的超越，直接提出如“三不朽”“圣人”等信條或是道德目標引導中國傳統知識分子去尊崇和踐行。這種思想對于理解及塑造人工智能都有著重大的價值。

不可否認的是隨著時代發展變革，儒家學說的部分內容以及一些表述已經不再適用，但這并不代表它的原則失去了效力。比如說“君君、臣臣、父父、子子”，這顯然不再適合現在的社會體制。雖然我們不再倡導封建社會的三綱五常，但是每個人立足自身、承擔相應的社會責任的原則仍然是我們應該遵循的。實際上儒家這種立足自身、從“我”出發延伸到外的思想具有更加廣泛的體現。儒家學說的“修身、齊家、治國、平天下”就是在當時的時代背景下自我延伸的方式，從自身出發首先是延伸到當時條件下聯系最為緊密的家庭關系，然后是所處的國家，最后是比國家更大的天下。但到了互聯網時代，自我向外延伸的第一步就不一定是家庭，也很有可能是朋友圈，可能是小團體，甚至是跨地域的團體，然后再一步步地向更加廣闊更加多元的范圍擴張。由此也可以看出儒家思想的表現形式雖然隨時代發生了變化，但其精神本質卻是仍然適用的。[15]

人工智能時代我們傳承儒家思想，最重要的是思考其中的主要原則，并結合時代背景思考、擷取有益部分，不能糾結很具體的細節，取其精華才是發揚新時代儒家思想的必需。人類制造人工智能、發展區塊鏈，只是改造的一個開始，這種改造是否正確或善意，現在還不能下定論，如果人類不能為自己的未來負責，就很有可能摧毀物理世界，也就等于人類親手埋葬了自己的未來。人類必須看清形勢，承擔責任，及時行動，而不是被動等待“神”的救助。只有如此，才有可能讓人機有機會走向“善”的未來。

[參 考 文 獻]

[1] "維基百科. Ship of Theseus [EB/OL]. https：//en.wikipedia.org/wiki/Ship_of_Theseus. 2018-04-16.

[2] 蘇一橫.人體細胞神奇的自我更新[J].大科技（科學之謎），2015（6）： 54-55.

[3] 馬歇爾·麥克盧漢.理解媒介：論人的延伸[M].南京：譯林出版社，2013.

[4] 蔡恒進.觸覺大腦假說、原意識和認知膜[J].科學技術哲學研究，2017（6）：48-52.

[5] 蔡恒進.論智能的起源、進化與未來[J].人民論壇·學術前沿，2017（10）：24-31.

[6] 蔡恒進，蔡天琪，張文蔚，汪愷.機器崛起前傳——自我意識與人類智慧的開端[M].北京：清華大學出版社，2017.

[7] 蔡恒進，張璟昀.原意識：自由意志的始作者[J].鵝湖月刊.2018（6）：18-29.

[8] 蔡恒進.認知坎陷作為無執的存有[J].求索，2017（2）：63-67.

[9] 蔡恒進.超級智能不可承受之重——暗無限及其風險規避[J].山東科技大學學報（社會科學版），2018（2）：9-15.

[10] 蔡恒進.意識的凝聚與擴散——關于機器理解的“中文屋”論題的解答[J].上海師范大學學報（哲學社會科學版），2018（2）：32-39.

[11] 蔡恒進.機器崛起是否意味著人文危機[J] .文化縱橫，2017（10）：37-43.

[12] 蔡恒進.人工智能發展的突破口及其提出的新要求[J].江西社會科學， 2017（10）：18-24.

[13] 維基百科.費米悖論[EB/OL].https：//zh.wikipedia.org/wiki/費米悖論.2018-04-16.

[14] 史蒂芬·平克.人性中的善良天使：暴力為什么會減少[M].北京：中信出版社，2015.

[15] 杜維明.現代精神與儒家傳統[M].北京：生活·讀書·新知三聯書店，2013.