人工智能與人類的智力水平有多接近？

大語言模型激起了人們關于實現通用人工智能（AGI）的討論。但人工智能不太可能僅憑自身達到這一里程碑。

機器要多久才能完成人類大腦可以處理的所有認知任務？

“通用人工智能”可以解決棘手的問題，包括氣候變化、流行病、癌癥、阿爾茨海默病以及其他疾病。但如此強大的力量也會帶來不確定性，并給人類帶來風險。的深度學習研究員約書亞·本吉奧（YoshuaBengio）說：“糟糕的事情可能會發生，要么是由于人工智能的濫用，要么是因為我們失去了對它的控制。”

過去幾年大語言模型的更新引發了人們的猜測，即通用人工智能可能即將出現。但一些研究人員表示，考慮到大語言模型的構建和訓練方式，它們本身不足以達到通用人工智能的水平。本吉奧說：“仍然有一些欠缺的部分。”

很明顯，關于通用人工智能的問題現在比以往任何時候都更重要。亞利桑那州立大學的計算機科學家蘇巴拉奧·坎巴姆帕蒂（SubbaraoKambhampati）說：“在我生命的大部分時間里，我認為談論通用人工智能的人都是瘋子。當然，現在每個人都在談論它。你又不能說每個人都是瘋子。”

為什么關于通用人工智能的討論發生了變化？

在人工智能研究人員本·戈策爾（BenGoertzel）和凱西奧·彭納欽（CassioPennachin）于其撰寫的書籍中提到通用人工智能一詞后，該詞于2007年左右進入了公眾視野。它的確切含義至今仍不明確，但可以泛指具有類人推理和泛化能力的人工智能系統。撇開模糊的定義不談，在人工智能的大部分歷史中，很明顯尚未達到通用人工智能的水平。以谷歌DeepMind創建的人工智能程序AlphaGo為例，它可以下圍棋，并擊敗世界上最優秀的人類棋手。但這種超人能力是有限的，因為這就是它所能做的一切了。

大語言模型的新功能徹底改變了這一領域。與人類大腦一樣，大語言模型具有廣泛的能力，這使得一些研究人員認真考慮了某種形式的通用人工智能可能即將到來，甚至已經存在的可能性。

當你知道研究人員實際上并不太了解大語言模型是如何實現其功能的時候，一定會對這種能力的廣度非常吃驚。大語言模型是一種神經網絡，即一種類似大腦的機器學習模型；該網絡由人工神經元（或稱計算單元）組成，它們按照層級排列，參數可調，表示神經元之間的連接強度。在訓練過程中，最強大的大語言模型依賴于一種稱為“下一個單詞預測”的方法。在該方法中，模型會反復接收文本樣本，這些文本樣本被分割成塊，可以是完整的單詞，也可以只是一組字符。序列中的最后一塊被隱藏或“屏蔽”，并要求模型對其進行預測。然后，訓練算法將預測結果與屏蔽的部分進行比較，并調整模型的參數，使其下次能夠做出更好的預測。

人工智能如何重塑科學和社會？

這個過程會持續下去—通常使用數十億個語言片段、科學文本和編程代碼—直到模型能夠可靠地預測被屏蔽的部分。在此階段，模型參數已經捕獲了訓練數據的統計結構以及其中包含的知識。之后，參數被固定，當給出新的查詢或“提示”時，模型就會利用參數來預測新的文本塊。這些查詢或提示不一定存在于其訓練數據中。這一過程稱為推理。

一種名為轉換器的神經網絡架構使大語言模型大大超越了以前的成就。該轉換器使模型可以知曉，一些文本塊對其他文本塊會有很強的影響力，即使在文本樣本中它們相隔甚遠。這使得大語言模型能夠以模仿人類的方式解析語言，例如，區分這句話中“bank”一詞的兩種含義：“當河岸（bank）被淹沒時，水損壞了銀行（bank）的自動取款機，導致無法取款。”

事實證明，這種方法在許多領域都獲得了巨大的成功，包括生成計算機程序解決用自然語言描述的問題，總結學術文章，以及回答數學問題。

隨著大語言模型規模的擴大，其他新的功能也出現了。如果大語言模型足夠大，通用人工智能也可能出現。其中一個例子是鏈式思維（CoT）提示。這涉及向大語言模型展示如何將問題分解為更小的步驟來解決它，或者簡單地要求大語言模型一步一步地解決問題。鏈式思維提示可以引導大語言模型正確回答以前讓它們困惑的問題。但這個過程對于小型的語言模型來說效果不佳。

大語言模型的局限性

據OpenAI稱，鏈式思維提示已被整合到。系列的工作中，并且成為該模型強大的基礎。弗朗索瓦·喬萊特（FrancoisChollet）原本是谷歌公司的人工智能研究員，他于2024年 11 月離職并創辦了一家新公司。他認為，盡管技術如此先進，。系列也有其局限性，并不能被稱為通用人工智能。

喬萊特說，通用人工智能，無論其規模大小，在解決需要重組所學知識以應對新任務的問題方面的能力都是有限的。

大語言模型的一個優勢是，底層的轉換器架構可以處理并發現除文本之外的其他類型信息（如圖像和音頻）中的統計模式，前提是有一種方法可以適當地標記這些數據。在紐約大學研究機器學習的安德魯·威爾遜（AndrewWilson）和他的同事們指出，這可能是因為不同類型的數據都有一個共同的特征：這些數據集具有較低的“柯爾莫哥洛夫復雜性”，即創建它們所需的最短計算機程序的長度。研究人員還表明，轉換器非常適合學習具有低柯爾莫哥洛夫復雜性的數據中的模式，并且這種適用性隨著模型“變大”而增強。轉換器有能力對廣泛的可能性進行建模，從而增加訓練算法發現合適解決方案的機會，這種“表現力”隨著規模的擴大而增加。威爾遜說，這些正是“我們實現通用學習真正需要的關鍵”。

人工智能能否閱讀科學文獻，并弄清楚其中的含義？

然而，有跡象表明，基于轉換器的大語言模型存在局限性。首先，用于訓練模型的數據正在耗盡。也有跡象表明，大語言模型隨著規模的擴大而獲得的收益不如以前那么多，盡管目前尚不清楚這是否與數據中的新穎性減少有關（因為現在已經有很多數據被使用了），或者有什么其他原因。

DeepMind研究副總裁拉亞·哈德塞爾（RaiaHadsell）提出了另一個問題。她認為，基于轉換器的強大的大語言模型經過訓練可以預測下一個文本塊，但這種單一的關注點太有限，無法實現通用人工智能的效果。她說，構建能夠一次性或大批量生成解決方案的模型，可以讓我們更接近通用人工智能。有助于構建此類模型的算法已經在一些現有的非大語言模型系統中發揮作用，例如OpenAI的DALL-E系列，它根據自然語言的描述生成逼真的、但有時令人困惑的圖像。不過，它們缺乏大語言模型的廣泛能力。

構建一個世界模型

推動通用人工智能發展的突破性進展的靈感來自神經科學家。他們認為，我們的智力使得大腦能夠建立一個“世界模型”。這可以用來想象不同的行動方案并預測其后果，從而進行計劃和推理。它還可以通過模擬不同的場景，將在一個領域學到的技能推廣到新的任務中。

一些報告聲稱，有證據表明大語言模型內部出現了基本的世界模型。在一項研究中，麻省理工學院的研究人員韋斯·古尼（WesGurnee）和馬克斯·泰格馬克（MaxTegmark）聲稱，一個廣泛使用的開源大語言模型家族在接受包含地方信息的數據集訓練時，構建了對全世界、全美國以及紐約市的模型，盡管其他研究人員在社交平臺上指出，沒有證據表明大語言模型正在使用世界模型進行模擬或學習因果關系。在另一項研究中，

哈佛大學的計算機科學家肯尼思·季（KennethLi）和他的同事們發布報告，表明一個接受過棋盤游戲《奧賽羅》玩家動作記錄培訓的小型通用人工智能學會了在內部表示棋盤的狀態，并利用這一點正確預測符合要求的下一步。

然而，其他結果表明，目前人工智能系統學習的世界模型是不可靠的。在一項研究中，哈佛大學的計算機科學家肯揚·瓦法（KeyonVafa）和他的同事們使用了一個龐大的紐約市出租車轉彎數據集，訓練基于轉換器的模型來預測下一個轉彎，其準確率接近 100% 。

通過檢查模型生成的轉彎，研究人員能夠證明它已經構建了一個內部地圖來得出答案。但研究人員表示，這張地圖展示的世界與曼哈頓幾乎沒有相似之處。瓦法說：“它包含具有不可能存在的物理方向的街道和高于其他街道的天橋。盡管該模型在某些導航任務中表現良好，但其地圖是不連貫的。”當研究人員調整測試數據以包括訓練數據中不存在的意外繞行時，它未能預測下一個轉彎，這表明它無法適應新的情況。

DeepMind通用人工智能研究團隊成員迪利普·喬治（DilepGeorge）表示，當今通用人工智能缺乏的一個重要特征就是內部反饋。人腦充滿了反饋連接，使信息在神經元層之間雙向流動。這允許信息從感覺系統流向大腦的更高層，以創建反映我們周圍環境的世界模型。這也意味著來自世界模型的信息可以向下傳播，并指導進一步的感官信息的獲取。這種雙向過程導致了感知的產生，大腦使用世界模型來推斷感官輸入的可能原因。它們還可以規劃，即使用世界模型來模擬不同的行動過程。

但目前的大語言模型只能以一種附加的方式使用反饋。在系列中，似乎正在起作用的是內部鏈式思維提示。這種反饋形式的連接生成提示以幫助查詢答案，并在大語言模型產生最終答案之前反饋給模型本身。但是，正如喬萊特對。系列的測試所示，這并不能確保大語言模型具有無邂可擊的推理能力。

為什么科學家過于信任人工智能？我們該怎么辦？

包括坎巴姆帕蒂在內的研究人員也嘗試在大語言模型上添加稱為驗證器的外部模塊，用以檢查大語言模型在特定上下文中生成的答案，例如用于創建可行的旅行計劃。如果答案不符合要求，則要求大語言模型重新運行查詢。坎巴姆帕蒂的團隊表明，在外部驗證器的幫助下，大語言模型能夠更好地制定旅行計劃。問題是，研究人員必須為每項任務設計定制的驗證器。坎巴姆帕蒂說：“我們沒有通用的驗證器。”相比之下，使用這種方法的通用人工智能系統可能需要自行構建驗證器適應出現的情況，就像人類可以使用抽象規則來確保他們對于新任務的正確推理一樣。

大語言模型遇到的另一個大障礙是，它們是數據的消耗者。倫敦大學學院的理論神經科學家卡爾·弗里斯頓（KarlFriston）建議，未來的系統可以自己決定需要從環境中采集多少數據來構建世界模型并做出合理的預測，而不是簡單地吃下所有輸入的數據。這樣可以提高效率。弗里斯頓認為，這將代表一種代理或自主的形式，這可能是通用人工智能所需要的。他說：“在大語言模型或生成式人工智能中，你看不到那種真正的代理形式。”他補充道：“如果你有任何一種可以在一定程度上進行選擇的人工智能，那么我認為你正在朝著通用人工智能邁出重要的一步。”

具有構建有效世界模型和集成反饋回路能力的人工智能系統也可能較少依賴外部數據，因為它們可以通過運行內部模擬程序、提出反事實假設并使用它們進行理解、推理和規劃，從而生成自己的數據。事實上，2018年，當時在東京谷歌大腦公司的研究人員大衛·哈（DavidHa）和瑞士盧加諾-維甘內洛DalleMolle人工智能研究所的于爾根·施密德胡貝爾（JirgenSchmidhuber）報告稱，他們建立了一個神經網絡，可以有效地構建人工環境的世界模型，然后用它來訓練人工智能駕駛虛擬汽車。

人工智能模型是否會比研究人員產生更多原創的想法？

如果你認為具有這種自主性的人工智能系統聽起來很可怕，那么你并不孤單。除了研究如何構建通用人工智能，本吉奧還倡導將安全考量納入人工智能系統的設計和監管中。他認為，研究必須集中在能夠保證自身行為安全的訓練模型上。例如，通過建立機制來計算模型違反某些特定安全約束的概率，并在概率過高時拒絕采取行動。此外，政府需要確保其能夠被安全使用。他說：“我們需要一個民主的過程，確保個人、公司甚至軍隊，以對公眾安全的方式開發人工智能并使用人工智能。”

那么，實現通用人工智能有可能嗎？計算機科學家表示，沒有理由認為不可能。喬治說：“理論上沒有障礙。”新墨西哥州圣達菲研究所的計算機科學家梅蘭妮·米切爾（MelanieMitchell）對此表示贊同。她說：“人類和其他動物證明了你可以做到這一點。我認為生物系統與其他材料制成的系統沒有什么特別之處。原則上，這些材料不會阻止非生物系統變得智能。”

但是，即使有可能，人們對它何時到來幾乎也沒有達成什么共識：估計從現在起幾年到至少十年不等。喬治說，如果創建了一個通用人工智能系統，當我們看到它時，我們就會知道。喬萊特懷疑它會悄悄地向我們襲來。“當通用人工智能到來時，它不會像你想象的那樣引人注目或具有開創性，”他說，“通用人工智能需要時間充分發揮其潛力。它首先會被發明出來。然后，你需要擴大規模并應用它，才能真正開始改變世界。”

資料來源Nature

本文作者阿尼爾·阿南塔斯瓦米（AnilAnanthaswamy）是印度作家和科學記者，目前是麻省理工學院的奈特科學新聞研究研究員。