人工智能與人類命運

新一代人工智能的發展，在觸發對人類命運擔憂的同時，凸顯了對人工智能和人類命運關系探索的緊迫性。這一發展情勢揭示了當代人們的深層次需要：在哲學和科學一體化發展的信息文明時代，人類精神家園尋求的具體化。

一、人工智能和人類智能

20世紀70年代，由于科學技術發展的局限，關于人工智能是否可能具有創造性的討論無果而終；而在21世紀的今天，由于信息科技突破所帶來的人工智能發展，這一問題以比20世紀現實得多的方式重新呈現在人們面前。人工智能的話題如今越來越熱，AlphaGo沒有懸念地戰勝人類圍棋高手，似乎預示著人類正面臨圖靈奇點的到來。

早在20世紀50年代，圖靈就預言，人工智能的發展將迎來超越人類進化的奇點。作為計算機科學和人工智能之父，圖靈的預言似乎在人類頭頂懸置了一把達摩克利斯之劍，在權力和力量不斷增強的同時，人類日益緊張地關注遠處漸近的“圖靈奇點”。由于近來機器智能水平越來越高，研究人員相信未來幾十年內機器可以達到人類智能水平，由此越過圖靈奇點，發展為“超級智能”。

由于當代科技的加速發展，人工智能成為具有自主性和交互能力的實體。由此，人工智能學科創始人之一、美國人工智能專家馬文·明斯基(Marvin Minsky)在人工智能研究領域引入了“agent”概念，中譯“智能體”較能體現具有智能的“agent”的性質。在人工智能領域，“人工智能體”(intelligent agents)和“人工智能信息體”(intelligent information agent)等概念的使用越來越廣泛。[1](P103、v).由于這種“硅心”智能體具有完全不同于人類“信息體”(information agents)的載體，它們具有智能發展的明顯優勢；由于機器進化可以周期非常短，其速度遠非生物體進化可比，出現“超級智能”的可能性顯而易見。無論圖靈奇點在什么時候出現，人類早晚都會面臨這一情勢。

關于奇點之后的人類命運，樂觀的觀點認為人工智能只是人類的輔助；悲觀的觀點則認為人工智能將帶來人類的終結。正是這兩種截然不同的觀點，表現了人類的類智慧。無論圖靈奇點后的未來發展將是一種什么樣的情景，我們都不得不深入思考這樣一個問題：機器智能和人類智能將會是一種什么樣的關系？這些關系不僅涉及人類文明的走向，而且關乎人類的命運。

面對人工智能的當代發展，人們的擔憂是理所當然的，由此甚至提出了“AI 末日論”。特斯拉首席執行官埃隆·馬斯克認為，人工智能的進步是“我們作為一個文明面臨的最大風險”，“人類可能會被 AI 玩死”。霍金也多次表達“人工智能可能導致人類毀滅”的憂慮，早在2014年12月，他就說人工智能可能會終結人類。比爾·蓋茨等也有同樣的擔憂。與此相應，臉書公司創始人扎克伯格等對人工智能的未來發展持相對樂觀態度，認為人類會用好人工智能這把“雙刃劍”，為自身造福，但同時也認為，“如果人工智能成為主流，就需要謹慎和監管來保護未來”。

鑒于人工智能當前的發展態勢，為了保障人類未來的利益和安全，霍金和馬斯克等在美國加州阿西洛馬(Asilomar)舉辦的會議上，聯合簽署了23條AI發展原則，其中還包括844名人工智能和機器人領域的專家。

事實上，早在70多年前，美國科普作家阿西莫夫就有機器人三定律的科學幻想。為使機器人服從人類道德律令，他設想給機器人嵌入式內置“機器倫理調節器”，按優先順序排列出機器人三定律。很明顯，這只適用于對相對處于初級階段的人工智能機器，一旦人工智能發展到具有自主創造能力，這種人為的定律內置遲早要失效。在人機交融發展的特殊階段，人類最終必須通過依靠自己把握發展原則來把控局勢。

創新的確是難以預測的，在20世紀90年代，凱文·凱利還認為人工智能威脅論“無異于宗教信仰”；然而僅僅不到20年，新一代人工智能的發展就已出乎這位被稱為20世紀最偉大預言家的想象。那時還認為沒有證據支持的人工智能威脅論的五個假設，今天人工智能的發展已經提供了越來越多的證據。雖然AlphaGo的發展仍然是人類智能借助人工智能戰勝人類棋手，臉書聊天機器人自創語言交流也不是像人類那樣的有意識行為，但從AlphaGo 到 AlphaZero，從聊天機器助手到臉書聊天機器人自創語言交流等，這些人工智能新成果呈現出讓人擔憂的新發展趨勢。一方面，人工智能開始顯露出智能或知識不同但在某些方面優于人類學特性的機器特性；另一方面，人工智能已經開始展示出與人類學相互性相同的機器相互性(reciprocity)。人工智能和人類智能以相互性為共同的基本特性。“人工智能算法行為不是邊界清晰的單個行為而是集體行為的演化，其行為效果既不由‘某一’行為所決定，亦不由其前提完全決定。”[2]如果這可以理解為一個類的行為，那就表明人工智能算法行為具有類的特征，而類特征恰恰是智能進化的必要條件。

人類智能的長期發展日益清楚地表明，智能的競爭歸根結底是類特性的競爭。具有自我意識的智能一定是經歷的產物。因為意識是類的特性，單獨的個體不可能產生意識；自我意識是類的意識，而類意識是經歷的產物。因此，在智能發展中，關于人工智能和人類智能的關系問題，關鍵就在于人工智能是否能像人類那樣作為一個類進化。

人之所以為萬物之靈，人類智能之所以能進化到目前的水平，主要因為人是一個類。人之所以是一個類，一開始可以更多的是由于生物學的原因，作為群居動物生活。正是群居使得信息在演化中扮演了越來越重要的角色。作為具有自我意識的智能體，人類智能的形成與作為一個類的經歷有關。所有具有自我意識的智能體必定是作為一個類的經歷的產物，而正是作為群體活動的經歷，構成了一個特定的類，兩方面構成雙向循環。因此作為現代人類，作為一個類的主要依據，其實越來越是信息，這一點具有深刻意味：隨著信息科技的發展，不僅人類個體之間，作為智能體的人類與機器之間也會越來越具有同一個類——智能體的性質。以相互性為基本特性的信息本身就具有類的天然傾向，類越大，信息的優勢發揮越充分。

因此，只有具有了類的特征，并具有自己的經歷，人工智能的發展才可能達到更高層次，圖靈奇點才可能來臨。由此，關于人類智能和人工智能關系的理解，以及人工智能和人類命運問題的理解，就必須進入智能進化機制的更深層次。

二、原生進化和次生進化

事實上，新一代人工智能的新成果，已經曉示著智能進化的新圖景。的確，可能沒有其他智能進化能夠以生物進化那樣的自然方式發生，但沒有任何理由由此認為，智能進化不可能以生物以外的方式進行。就人類目前所知，至少在地球條件下，智能的自然進化只能以類似生物體的方式進行，因為特定的自然條件使生命產生的進化環節只能以化學方式發生。而在生物智能進化方式之外，理論上可以有很多其他可能的智能進化方式，而且就進化速度等而言，它們中的很多還可能是更好更合理的方式，目前已知的電子方式也許還不是其中最好的。但是，電子方式不可能自然發生和進行，而只能建立在作為自然進化結果的人類智能基礎之上。目前的科技發展就已經表明，機器智能就能夠、也只能借助人類智能，在人類智能的基礎上進化。人工智能進化是建立在自然進化基礎上的機器進化，由于只能在生物智能進化的基礎上發生，因而是一種在人類智能進化這種原生進化基礎上進行的智能的次生進化。機器智能為人類智能所創生，當人工智能可以自主設計出具有比自己更高水平的智能時，機器智能的自主進化就開始了。與智能的原生進化一樣，這種次生進化也包括創造力的形成和發展。至少在某種程度上說，人工智能進行創造是完全可能的，因為創新有時候就是相關要素的重組，而人工智能排列這種組合甚至比人類具有更大的優勢。

雖然是一種次生進化，但在生物智能進化的基礎上，無論智能形式還是進化方式，人工智能都可能是比以生物體為載體的人類智能更高層次的智能。相對于生物智能，也許圖靈計算機在很多方面劣勢明顯，但隨著科學技術的發展，量子層次以上的機器智能，將在更多方面越來越具有優勢。這樣，人類智能和人工智能的關系就進一步展示出來了。一方面，由于其自然性質，生物智能也許是自然發生的唯一智能進化方式；另一方面，受限于信息活動的物能層次，生物體肯定不是信息的最佳載體。隨著科學技術的發展，不僅機器智能生物化，而且日益作為信息體存在，人類智能載體的升級換代就不是不可能的了，否則他們就競爭不過自己創造的智能機器。國務院《新一代人工智能發展規劃》所提出的五個概念中，就有“人機混合增強智能”，這是富有前瞻性的。

即使人機交融進化，對于人類來說，風險仍然存在。雖然在人機交融進化中，原則上不存在人機競演的問題，但仍存在巨大風險。

人工智能的發展越過圖靈奇點后，關于人類命運的悲觀和樂觀兩種觀點都是有根據的。即使人類智能和人工智能交融進化，在人工智能一定的發展階段，即在人工智能發展到力量足夠強大但又層次不足夠高，人類智能發展又沒有達到具備更新載體的能力時，人工智能就可能構成對人類智能載體的逆損毀威脅。如果人類不足夠謹慎，人工智能的放任發展不是沒有毀滅人類的可能。在這一特殊時期，如果不嚴格掌控，仍然有可能出現人類智能和人工智能競相演化的局面。而且，人類更要警惕的是自己，人們更應當擔心的事實上也是人對人工智能的邪惡利用。正因為如此，在這一風險較大的特殊時期，人類仍要有自己的人工智能發展原則。這個發展原則就是：“道在魔先”。人類必須做到“道”在“魔”先：潘多拉魔盒打開之前先要有制服之道，解毒劑是毒藥的準生證。在整個危險期內對可能出現的情況做到都有預案。

無論在并行發展還是交融進化的特殊時期，都必須嚴格遵循“道在魔先”的發展原則。一個最基本也是最重要的例子，就是當人類還不具備生物載體更新能力前，不能讓人工智能的自主進化發展到人類智能不能控制的程度，或者說，必須到人類具備載體更新能力時，才能讓人工智能完全進入自主進化。這時候，人類智能和人工智能已經真正進入交融發展，智能進化已經達到超越生物和機器不同載體發展的更高層次。這樣，即使在人工智能發展最具威脅性的階段，人類也可以有理由抱樂觀態度。

人類智能和人工智能的進化都是智能進化，他們之間的主要不同就是載體的區別。當載體可更新替換后，人機區別就會逐漸縮小以至消失，人類智能進化和人工智能進化融合為更高層次的智能進化。 人類智能和人工智能的發展進入融合進化的過程，意味著智能升級到更高層次的進化階段，從而度過完全融合進化前的危險期，進入融合進化安全期，進入人工智能和人類智能的交融發展。這是一個生物智能機器化和機器智能人類化的發展過程。

由此可見，一方面，所謂人工智能的發展，實質上是智能進化的機器階段；另一方面，也正是人工智能，開啟了從生物載體升級到更高層次載體的智能進化，使智能進化呈現出從生物智能到機器智能的發展圖景。智能進化的初級形式以生物進化的自然方式進行，而其高級形式則將涉及信息載體的升級，從生物體向更有利于智能發展的更良載體發展。

在智能進化過程中，載體的進化有兩種可能的方式：一是人工智能與人類智能載體獨立平行發展，結果較低層次的生物載體處于劣勢；二是人類智能和人工智能載體交融進化。前者正是人們擔心的方式，后者則不僅是可能避免人類被淘汰，也是最可能的方式。而載體交融進化的方式本身也有兩種可能：智能載體一次性替換和漸次升級，即機器和生物載體不斷被部分地相互替換，采取一種載體漸進交替換代的方式。前一種方式不是邏輯上不可能，而是在發展歷程上沒有后一種可能具有優勢。因為具有自我意識的信息體的進化不僅是類的發展方式，而且更是經歷的產物，遠不只是某種智能——比如計算能力的發展。計算能力不一定非得是有意識的信息體才能具有，計算任務的完成并不是非要有意識的信息體，這種計算甚至可以以物能方式完成。而具有自我意識的信息體是經歷的產物，作為經歷的產物，這個層次的智能體不可能一次性整個替換載體，而必須以適當的漸進升級載體的方式進行。也就是說，人工智能和人類智能的發展關系，更可能的方式是交互式，人類與智能機器人相輔相成，共同發展進化。那不僅是一個生物智能機器化，而且在某些階段同時是機器智能人類化的發展過程，即在某種程度上的人的機器化和機器的人化。由此所展現的就是智能進化從生物載體到更高層次載體的升級。

無論哪種方式，智能進化的實質都是信息進化。不管是漸進還是一次性整體置換載體，智能都是以作為進化已有結果的信息體為轉移的。智能體的實質是具有信息加工和生產能力的信息體，智能進化歸根結底是信息或信息體的進化。事實上生物進化意味著只是信息進化的載體進化過程。因此，如果只是立足于物能存在，就會得到更高層次載體的發展，意味著人類被淘汰的結果；但如果立足于信息存在，立足于信息體，則可以看到更高層次的智能，意味著人類發展的更高層次。

三、零和競演和融合發展

如果人類智能和人工智能競相演化，人們始終不能回避這樣一個嚴重的問題：在人類與智能機器人協同發展的進程中，具有更高智能水平的機器超級智能是否會選擇犧牲人類的發展道路？人類智能和人工智能交融進化，人們應當不用有類似的擔心。事實上，即使作為單純的人工智能發展的產物，真正意義上的超級智能不僅不可怕，反而是人類的福音。因為智能層次涉及觀念層次的重要差別，超級智能的出現更有利于人類文明的發展，只是在交融進化的過程中，才會遇到一系列問題。

1.社會的技術治理問題。

有一個重要的事實可能不太受人關注，那就是處于較低需要層次的人，不可能理解處于較高需要層次的人即生成于那一層次需要的一些觀念；而處于更高需要層次的人工智能比處于較低層次需要的人類，更理解其處境和合理選擇。由此引出的問題是：當單純的人工智能發展出超級智能后，人類是不是應當由具有更高智能水平的超級智能體來治理？

當然，就具體個人而言，不同處境的個體會有不同的感受，但人作為一個類，具有自己的類的利益。信息文明的發展將越來越清楚地表明，越是作為信息方式存在的人，越是作為一個類的存在，在智能進化中越具有優勢。作為信息方式的存在，人應當會選擇層次越來越高的類的存在方式。這涉及人類所擔心的個體利益和集體利益的沖突問題。正是信息方式的存在，使人作為一個類的重要性越來越得以凸顯，從而使人們能更好地理解個體和群體的利益關系。因此在社會治理的過程中，越來越依靠技術——超級智能機器人，無論在觀念上還是在情感上，都將會越來越傾向于更明智的選擇。

2.智能(思維)達爾文主義問題。

在人機交融的智能進化中，雖然不應有類似“種族滅絕”的擔心，但可能會有是否存在智能達爾文主義或思維達爾文主義的憂慮。即使在人機交融進化的條件下，由于觀念、技術和經濟條件的原因，仍然存在載體更新程度和進度等的差別。由于不同智能載體意味著不同效能，智能載體更新必定帶來個體智能效率的不平衡，會不會由此造成不同效能智能體之間的不平等，甚至由此帶來智能(思維)達爾文主義泛濫？

由于信息與物能的不同本性，如果說，達爾文主義會在自然界存在，甚至也會在人類社會中存在，那么絕不會在思維領域廣泛存在。因為思維領域所涉及的主要是信息的加工和生產，一方面，對于思想生產來說，遠非信息速度就是一切；另一方面，信息不僅具有共享的本性，而且思想生產具有共激原理，越是大范圍異質信息共享，越可能相互激發出更多思想。

首先，信息的多樣性價值使共生成為基本價值觀。在信息文明的發展過程中，存在一個重要的價值事實：信息的多樣性資源價值。由于信息的多樣性有利于存在和發展的性質，信息體的存在或信息方式的存在同樣具有多樣性價值觀。生命的多樣性是生態的生命線，這與多樣性對于生態的根本重要性密切相關。在自然生態中，生命資源的多樣性、差異性與統一性相對，過度的統一性是生態終結的機制性原因。信息生態更是如此，對于信息生態來說，生命的多樣性尤為重要。盡管人類由于文化等原因嚴重卷入相互利害沖突中，但理性的人已經明白，生物基因的多樣性不僅是使生物適應自然環境變化最重要、最根本的資源，而且是把握新的可能性、創構新的對象的寶貴財富。因而保護生物基因資源的共識，在具有真正意義上的機器超級智能體那里，理解得只會比現在的人類更深刻；而且，關于信息生態的觀念，可能在機器超級智能那里已經深入“機蕊”，[3]應當不用擔心智能或思維達爾文主義泛濫。

其次，不僅生物智能體是次生智能體的基礎，而且智能進化機制具有重要的互補性。在機器超級智能的理性中，人對于它們就等于自然對于人，沒有人類就沒有智能機器人，即使已經有了超級智能，一旦人類滅絕，機器超級智能也將失去生存和發展的基礎，就像沒有了自然界，甚至沒有了動物或植物，人類就失去了生存和發展的基礎一樣。而更重要的依據還在于：同為智能體，同為信息方式的存在，人類智能和機器智能越來越是同一個類，而這一點不是一個人工智能會不會與人類智能是同一個類的問題，更根本的是關乎人工智能能不能成為可與人類智能相比擬的高級智能體的問題。

最后也是最重要的，在智能進化的更高層次，作為信息方式的存在，信息的共享本性使得人類和機器之間不存在你死我活的物能資源爭奪。由于與信息的本性不同，物能只能分享，在物能文明時代，主要作為物能存在的人類個體和社會之間，只要存在物能資源匱乏的狀態，就始終存在資源爭奪，而且在根本上具有有你的就沒有我的物能式爭奪。作為一種共享文明，信息資源不僅不存在物能資源意義上的匱乏，相反會因共享而增生。即使在機器智能和人類智能之間，原則上也不存在物能資源意義上的生死爭奪。因而，作為一種智能文明，信息文明發展到一定階段，主體既可以不是單純以生物為載體，也可以不是以單純機器為載體的智能，而越來越是載體不斷更新的智能體。

3.人工智能與人類智能的承續問題。

盡管明顯反映過早，人工智能還遠未達到構成人們所擔憂的那種威脅程度，但人工智能的發展所引發的擔憂并非杞人憂天。因為人工智能的發展之所以那么牽動人心，很大程度上是因為它所涉及的，將是人類革自己的命。

隨著發展層次的提升，人類進步越來越來自前提性反思。以往人類的前提性反思主要針對自己的觀念、思想、理論以及思維方式和行為方式等進行，人工智能發展到超級智能出現的可能，將使人類更進一步涉及自身存在方式的前提性反思。在這個意義上，人工智能的發展涉及人類自身的革命。

人類已經接近涉及由自然人類向非自然人類的發展問題，人們對此多少已經意識到，但還沒有足夠的思想準備，理論準備則還沒有真正開始。科學技術的發展越來越清晰地表明，越是接近引發人本身革命的科技發展時代，越需要有哲學和科學一體化發展才能更具體地提供安頓心靈的精神家園。人工智能的進化凸顯了信息的進化，信息文明的發展已經到了需要新的理論準備的階段。面對人工智能的發展，人們擁有兩種相對的認識和態度是值得慶幸的事情。關于人工智能發展的悲觀和樂觀兩極觀點，形成了一種重要張力，促使人們在這兩種觀點之間思考更多更現實的可能性。

科技發展的前景是無可限量的，由于人工智能和人類文明的發展更可能的方式是交融進化。人工智能的發展和人的發展將使我們不得不思考這樣一個問題：人類的生物體繁殖是傳承，這種傳承依靠的是人口生產，那么，依靠人類思想生產的人工智能發展是否也可以是人類的某種傳承方式？如果說人工智能是人類思想生產的結果，如果機器智能只能在生物進化智能的基礎上生成和進化，那么人工智能不管進化到什么水平，其發展是不是人類的延續？這是在人工智能生成和發展的形勢下，為人類的心靈安頓做精神家園準備必須討論的重大問題。雖然按照傳統的理解，這些問題的討論似乎具有某種科幻性質，但這正是哲學和科學一體化發展必定出現的現象。關于這些問題的討論，不僅對于當下人生活的安寧不無助益，而且越來越是不可缺少的。

面對超越人類智能的機器人，其創造者也許更有后嗣感，離機器人的創造者越遠則更可能越具有異類感。這就深入涉及機器與人的關系問題，說到底就是人與技術的關系問題，只是問題的焦點集中到了智能上。正是人與技術的關系，決定了人類文明的走向乃至人類的命運，人們必須為此作好理論準備。

人工智能進化的實質是信息進化，即信息體發展的層次提升。智能進化的當代發展過程將表明，人類并不以生物載體為其不可替換的根本。以生物為載體的人類只是自然人類，生物體屬于智能的初級載體，隨著智能的發展，更高層次的物能利用將為智能發展創造更有利的條件。因此智能載體的升級換代是智能本身發展的必然結果，人類不會因為生物載體被替換而不復為人類。

因此，人工智能的發展更可能將是人類智能的延續，而不是并行發展才可能有的人類智能被超越和可能被替換甚至被消滅。主要立足于物能存在，就必定把生物體意義上的人口再生產看作是人類的唯一延續方式，而主要立足于信息存在，則會將思想意識意義上的再生產也看作人類延續的方式，而且是作為信息體存在的人類進化更為根本的方式。正因為如此，科技倫理既要為防范人工智能發展對人產生威脅提供倫理警醒，特別是人對人工智能的邪惡利用；同時隨著人工智能和人本身的發展，人類遲早還必須準備不僅為科技進步，而且為自身的發展提供倫理支持。