當AI來臨，人類文明應該警惕什么？

《人工智能時代與人類價值》

[美]亨利·基辛格 埃里克·施密特 克雷格·蒙迪 著

胡利平 風君 譯

中信出版集團

2025年3月

2025年春節前夕，中國人工智能（AI）領域悄然掀起一場革命。DeepSeek以557.6萬美元的超低訓練成本完成V3模型迭代，僅是OpenAI GPT-4o模型訓練成本的不到十分之一。同時，DeepSeek非常慷慨地公布開源策略，推動人工智能行業走向更加開放、合作的嶄新時代。這場技術突圍恰似數字時代的“寒武紀大爆發”，不僅顛覆了“大模型必屬巨頭”的產業認知，更催化了全球AI競賽格局的重構。

然而，自DeepSeek問世起，針對性的高強度網絡攻擊就不斷爆發，給人工智能行業敲響了堅守安全底線的警鐘；各種質疑和爭議接踵而至，如DeepSeek與OpenAI之間的“蒸餾”爭議，拋開行業競爭和地緣因素不談，在某種程度上可以說是觸及了AI技術的本質與“知識所有權”的倫理困境。

與此同時，OpenAI前首席科學家伊爾亞·蘇茨克維（Ilya Sutskever）的離職及其新公司Safe Superintelligence的融資估值突破200億美元，再次將AI安全與倫理問題推上風口浪尖。

在新書《人工智能時代與人類價值》中，作者們深入探討了這一領域的深層次挑戰。書中警告，如果技術繼續迅猛發展，而人類未能明確界定與機器的本質區別，我們可能會將決定人類價值的任務交給機器——這是人類文明面臨的重大考驗，值得每一個科技從業者和政策制定者深思。

消失的邊界：大公司主導的世界

今天，擁有和開發人工智能的公司將積聚起可碾軋一切的社會、經濟、軍事和政治權力。各國政府則被迫成為私人公司的東道主和啦啦隊長，運用自己的軍事實力、外交資本和經濟影響力促進本土利益。

與此同時，各國政府還扮演著平民百姓支持者的角色，而平民百姓則對壟斷集團的貪婪和隱秘疑慮重重。夾在私人公司東道主兼啦啦隊長與平民百姓支持者角色之間的各國政府被迫煞費苦心地左右應付。

這對矛盾也許無法化解。人工智能的問世將使任何既有機構的治理難上加難。與此同時，大公司或許會結成同盟，鞏固已很強大的自身實力。這些同盟或靠互補優勢和合并而起，或因對開發和部署人工智能系統有共同理念而興。

這些公司同盟也許會承擔傳統民族國家的職能，不過不會去界定和開拓邊界已劃定的地盤，而是會深耕分散的數字互聯網，把它作為自己的領地。

還有一種可能。如果對源代碼的擴散放任不管，有可能會導致冒出一些小團伙或集團。它們擁有的人工智能足以勝任在有限范圍內的治理、供給和自衛職能。人類中的有些團體排斥現存權威機構，贊成權力分散的金融、通信和治理。這類團體也許最終會墜入人類之初那種原始無政府狀態，抑或這類團體也許會摻入宗教因素。

就影響范圍而言，基督教、伊斯蘭教和印度教的影響超過了歷史上任何一國的影響，延續時間也更長。在未來，宗教教派也許比國籍更能界定身份和忠誠。

以上兩種未來無論哪一種，公司同盟主導也好，分散成為結構松散的宗教團體也罷，每個團體爭取的新“地盤”將不再是以尺寸計算的土地，而是顯示個體用戶忠誠的數字設備。人工智能將顛覆傳統意義上的公民概念。

對全球科學界而言，當務之急是找到可以在每一個人工智能系統中加入內在安全保障的技術手段。各國和國際組織一旦達成共識，就必須為監督、執行和應對危機建立新的政治結構。這需要解決兩個而不是一個“對齊問題”：一個是人類價值觀和意圖與人工智能行動在技術層面的對齊，另一個是人與人之間在外交層面的對齊。

重新分配：從稀缺走向富足

在過去的兩個世紀里，資本主義民主基本上用精英領導的市場取代了種姓制度和俘虜制；教士們提升了高尚的職業道德所具備的社會價值，學者們則對其加以記錄；工人們也已經掌握了談判和罷工的技巧。

但即便如此，無論我們人類的勞動是受雇于神靈，還是受雇于政府，抑或只是為了保障一份謀生工資，我們在工作方面的身心付出總的來說與其說是為了我們自己，不如說是為了服務他人。

地球上相對固定的土地、勞動力和資本供應導致了稀缺性——而不是豐裕性，引導了斗爭的發生。激烈的斗爭是圍繞如何劃分已經創造出來的東西，甚至更多的是為了如何分配所剩無幾的那點東西而展開的。這些摩擦既涉及社會內部，也涉及不同社會之間。

即使在和平時期也是如此，公民們爭論著造成社會相對弱勢群體的根源，并呼吁重新分配，以解決普遍存在的苦難這一事實。擴大可用于再分配的財富總量，進而實際擴大再分配財富的數量，將提高全世界人類的生活水平。

人工智能的出現提供了一個真正的機會，通過將人類的勞動功能轉移到機器上，取代了至少一種原始的生產要素。此外，人工智能還將用于研究和開發日益廉價與豐富的原材料來源，作為對其自身的投入。

人工智能可以為各種商品生產更具可持續性的合成替代品，從而開創一個新的富足時代。即使考慮到目前的一些物理和物質限制，人工智能的產出——盡管不是無窮無盡的——也可以達到相當寬裕的程度，足以滿足人類所有基本需求，并實現我們的眾多期待。這可能會讓我們在心理層面不再那么受制于經濟學的稀缺范式，以及我們為生存所迫而工作所導致的悲觀情緒。

超越國界：從零和博弈到全球合作

OpenAI首席執行官薩姆·奧爾特曼根據兩個變量對經濟體系進行了分析：增長和包容性。許多社會至少在一個時期內能夠實現兩者中的一個，但能夠持續保持兩者的社會則少之又少。

對這種關系，奧爾特曼寫道：資本主義是經濟增長的強大引擎，因為它獎勵人們投資于能夠長期產生價值的資產，這是創造和分配技術成果的有效激勵制度。但資本主義進步的代價是不平等。

換句話說，人工智能及其帶來的生產力提高可能會自然而然地催化一種長期的增長。但包容性只能通過選擇來實現。因此，在后人工智能時代，或許解決方案會像奧爾特曼建議的那樣，對兩種“將構成那個世界大部分價值的資產”征稅，即公司——尤其是那些建造、維護和使用人工智能的公司。

另一種選項則是從專利制度中汲取靈感：允許對人工智能發明及其利潤擁有獨家所有權，以激勵改進，但僅限于有限的一段時間；超過一定期限后，假定其安全性已得到證實，該模型便可以被公布（也許可以在新的地區制作副本并構建基礎設施），以供共同使用、迭代和獲益。

簡而言之，人工智能的先驅們可能低估了他們所引發的經濟和政治挑戰所涵蓋的范圍。沒錯，人工智能幾乎無所不能。未來的決策者必須小心謹慎，避免讓工業革命時期蔓延開來的各種社會和經濟不平等現象再度固化。

但是，正如薩姆·奧爾特曼所說：“它是要做我想做的事，還是要做你想做的事？”

如今，先進人工智能的絕大部分收益和幾乎獨有的控制權都掌握在極少數人手中。他們會放棄自己的優勢嗎？如果他們這樣做了——而且當更多的利益和更多的控制權在國家層面共享時——那么要求將兩者全球化的呼聲就會立即響起。一個國家會將其主權財富轉化為全人類的共同利益嗎？有些人可能會說，一旦這個世界不再是零和博弈，將其視為犧牲的心理障礙就會消失。但這是以一種尚未實現的轉變為前提的，這種轉變似乎與今天的現狀背道而馳。

此外，即使我們能夠成功到達一個超越稀缺的世界，也并不清楚屆時應如何構建全球人類的激勵機制以保持和諧融洽。即使在一個因物質豐腴而令物品“價值”不再至關重要的世界中，依然會充斥著各種“價值觀”。

那些不以金錢為立身之本的人可能會以宗教、種族、家族血統、教育、道德、技能、審美、幽默感或其他類別為基礎進行交流，然后重新部署社會和全球機構。那些不為金錢而戰的人也可以為上帝、權力、榮耀或復仇而戰。

經濟史也證明，人們很難設計出既連貫又有效的系統。我們必須承認，人類在預測技術的長期影響方面一直不甚擅長；就人工智能而言，我們的樂觀可能毫無道理，我們的擔憂也可能是杞人憂天。

未來，人工智能將成為世界秩序中的一個關鍵因素。零恐懼、零偏袒的人工智能為客觀的戰略決策引入了一種新的可能。

人工智能將縮小最初意圖與終極結果之間的差距，包括動用致命武器。無論是陸地上的無人機“蜂群”，還是海上部署的機器軍團，或者也許是星際艦隊，機器將擁有精確的殺人能力，不會有什么意外，而且造成的后果無法估量。潛在毀滅的規模大小將完全取決于人和機器的意志與克制。

在核時代，在某種意義上我們其實已經步入這一階段。隨著人工智能證實自己作為一種戰爭武器的價值，這一階段的動態趨勢和意義會變得越來越清晰。

盡管如此，我們仍相信，人工智能可以作為創造人類財富和福祉的新基準，而這種可能性本身就敦促我們朝著這個方向努力。

（本文摘自《人工智能時代與人類價值》；編輯：許瑤）