深度思維大模型“加托”真的是“通才”嗎

早些時候，深度思維發布了一款名為“加托”的新的“通才”型人工智能模型。母公司為Alphabet的人工智能實驗室深度思維表示，這一模型可以完成玩雅達利視頻游戲、理解圖像內容、聊天、以及用物理的機器人手臂來堆棧塊等各種任務。總而言之，加托可以完成604個不同的任務。

毫無疑問，這款“加托”模型有著十分強大的能力，而且在它發布僅僅一周之后，許多研究人員就已經對它有些癡迷了。

深度思維公司的頂級研究人員之一，同時也是有關“加托”的論文的合著者的南多·德·弗雷塔斯就是其中的一名，談到加托他難掩自己的興奮。他發表推文說：“游戲要通關”，也就是說通過“加托”，人們現在找到了通往人工通用智能——即AGI的道路，AGI這一概念是指達到類似人類或超人類級別的人工智能。他說，現在要想實現AGI所要解決的主要是有關規模的問題：即怎樣讓類似“加托”的模型規模更大，能力更強。

而德·弗雷塔斯的這一聲明不出意外地引發了媒體的廣泛報道，稱深度思維公司正在達到“接近”人類水平的人工智能。而且這已經不是媒體第一次就超越現實進行炒作了。

其實許多其他很強大的新發布的人工智能模型也發布過類似的宏偉聲明，例如Open AI公司的文本生成器GPT-3模型和圖像生成器DALL-E模型。但是很遺憾的是這種吸引人眼球的“宏偉聲明”導致該領域的許多人忽略了人工智能中的其他重要的研究領域。而對于“加托”模型來說，也是如此。

目前的一些人工智能模型中已經開始混合不同的技能：例如，DALL-E模型可以從文本描述中生成圖像。還有其他模型可以通過相對單一的訓練技術來同時實現對于圖片和句子的識別。此外深度思維公司的阿爾法零模型已經既學會了下圍棋、也學會了下國際象棋和將棋。

但阿爾法零與“加托”的關鍵區別之處是：阿爾法零一次只能學習一項任務。在學會下圍棋之后，如果它想學習一門新的棋類，必須先忘記之前學會的一切。也就是說，它不能同時學習玩兩種游戲。

而這里就顯示“加托”的強大之處：“加托”可以同時學習多個不同的任務，這意味著它可以在不同技能的訓練之間切換，而在學習另一種技能之前不需要忘記之前所學的技能。盡管這看上去只是一個小小的進步，但意義重大。

不過“加托”也有缺點，那就是不能同時執行不同種類的任務。麻省理工學院專攻人工智能、自然語言和語音處理的助理教授雅各布·安德烈亞斯說，機器人仍然需要從文本中學習有關這個世界的“常識性知識”。

而如果機器人學會以上這些能力，將可能在某些場合很有幫助。安德烈亞斯說：“這樣，當你把一個機器人帶進廚房時，并首次要求它做一杯茶時，它們不需要知道就會知道做一杯茶的步驟，并同時可以自己尋找到茶袋的位置。”

但是一些外部研究人員對德·弗雷塔斯的主張表示強烈的不認同。例如人工智能研究員加里·馬庫斯就認為上面所說的這些“遠非‘智能’”，他對深度學習也一直持批評態度。他表示，圍繞“加托”的炒作表明，人工智能領域正被一種毫無意義的“必勝主義文化”所破壞。

馬庫斯說，總能吸引人們眼球并讓人們興奮的深度學習模型中的一個很大的問題是，人們總是期待它將會達到接近人類水平的智能，而如果它犯了錯誤，人們將會認為是這個模型的問題，而這就好像“如果一個人犯了錯誤，人們就認為是這個人有問題。”

他補充說：“而事實上大自然一直在告訴我們，這樣的方法是行不通的。但是遺憾的是，這一領域的研究人員如此相信新聞報道，以至于完全忽略了這一點。”

就連和德弗雷塔斯一起進行“加托”研究的同事杰基·凱和斯科特·里德在被問到有關這一問題的看法時，也持有謹慎態度。在談到加托可能向著AGI的方向發展的前景時，并沒有表現出很大的興趣，他說：“我并不認為類似的預測是真正可信并有說服力的，這種預測就像預測股市一樣，而我也盡量避免這么做。”

里德也表示，這個問題很難回答：“我認為大多數從事機器學習工作的人都會刻意避免回答這類問題。這很難預測，但是，我也確實希望有一天它可以實現。”

在某種角度來看，深度思維將“加托”炒作為萬能的“通才”和AGI，最終在人工智能行業的受害者可能反而是深度思維自身。這將使人們產生目前的人工智能系統的功能仍然“狹隘”的想法，即目前的人工智能只能做一組特定的、受限制的任務，比如生成文本。

包括來自深度思維的一些技術專家也認為，有一天人類將開發出“更廣泛的”的人工智能系統，它們將能夠像人類一樣工作，甚至更好。雖然有些人將其稱為人工通用智能，但也有一些人批判它就好像“對魔法的信仰”。包括Meta公司首席人工智能科學家楊立昆在內的許多頂級研究人員也對其可能性持質疑態度。

“加托”是一個“通才”，它可以同時做許多不同的事情。但是麻省理工學院的安德烈亞斯說，這還沒有達到“通用”人工智能，通用人工智能將能夠根據需要靈活地執行模型沒有被訓練過的新型任務，而目前我們還遠遠做不到這一點。

他說，即使擴大模型的規模也不能解決模型無法“終身學習”的問題。終身學習是指如果教模型一些東西，他們會理解其中所有的含義，并在之后所有的任務中都將這些新學到的能力用于其中。

人工智能及機器人方面的研究員、由蒂尼特·格布魯共同創立的Black in Ai組織的成員伊曼紐爾·卡亨布維也認為，圍繞“加托”模型的炒作對人工智能的總體發展是有害的。

他說：“在人工智能領域還有許多有趣的、但是由于資金不足需要被更多關注的話題，但很遺憾許多大型科技公司以及這些科技公司的許多研究人員對其不那么感興趣。”

帕特里克小麥戈文基金會的主席維拉斯·達爾說，科技公司需要經常退一步，回想并評估一下為什么要建造他們目前正在建造的東西。據悉，麥戈文基金會是一個資助人工智能項目的慈善機構。

他說：“AGI這一概念描述的是一種深刻的有關人性的概念——通過創造可以使人類更強大的工具來推動人類變得更強大。”“而這一概念確實很好，但也要注意人們可能因為它而被分散注意力，忘記去研究我們正在面臨著的需要用人工智能來解決的真正的問題。”