數(shù)字

16000 億

谷歌發(fā)布人類歷史首個萬億級人工智能模型

近日，Google Brain 的研究人員提出了稀疏激活專家模型Switch Transformer。研究人員表示，這個1.6 萬億參數(shù)模型是迄今為止發(fā)布的第一個萬億級人工智能模型，其速度是Google 之前開發(fā)的最大語言模型（T5-XXL）的4 倍，參數(shù)規(guī)模幾乎是1750 億參數(shù)的GPT-3 的十倍。