“真實”世界

AI代理人正在籌劃聚會，并且互相邀請前往16位虛擬城鎮(zhèn)中約會。

“這是一個真實的故事，設(shè)計師選中25個電子游戲角色，讓他們住在一個小鎮(zhèn)上并記錄他們的生活……而目的則是了解當(dāng)計算機不再彬彬有禮……甚至開始變得真實時會發(fā)生什么。”

谷歌公司和斯坦福大學(xué)的研究人員最近創(chuàng)造了一種全新形式的真“人”秀——用AI代理人代替人類。

研究人員利用OpenAI炙手可熱的聊天機器人ChatGPT和一些自定義代碼生成了25個具有背景故事、個性、記憶和處事態(tài)度的AI角色，然后將他們放入一個16位電子游戲小鎮(zhèn)——并且讓他們繼續(xù)自己的生活。那么，當(dāng)計算機開始變得真實時，究竟會發(fā)生什么呢？

研究人員在提交給arXiv的預(yù)印本論文中概述了這個項目：“這些AI生成的代理人也是一大早醒來，做早餐，然后去工作，藝術(shù)家畫畫，作家們寫作。他們在工作中產(chǎn)生了自己的想法，接著便開始注意到對方并發(fā)起對話。他們在計劃第二天要做什么的時候會記住并反思剛剛過去的這一天。”

從電視節(jié)目的角度上看，這檔真“人”秀算不上有多么吸引人，但它的本質(zhì)畢竟是一個“自言自語”的龐大機器學(xué)習(xí)算法，從這個角度上說，這檔實際并沒有任何真人出演的節(jié)目已經(jīng)逼真到令人吃驚的程度了。

25個電子游戲角色所在的這個AI小鎮(zhèn)史摩維爾，正是人工智能領(lǐng)域令人著迷的最新發(fā)展成果。雖然基本版ChatGPT每次只做一個交互動作——用戶寫入提示，ChatGPT給出答復(fù)——但諸多衍生項目正在努力將ChatGPT同其他程序結(jié)合起來，以自動完成一連串任務(wù)，其中可能包括列出待辦事項清單并逐一檢查清單上的項目，利用搜索引擎搜索信息并匯總結(jié)果，編寫和調(diào)試代碼，甚至還包括批評和糾正ChatGPT自己的輸出。

正是這類級聯(lián)互動讓AI小鎮(zhèn)史摩維爾可以順利運作。研究人員設(shè)計了一系列配套算法，它們組合在一起成了這些簡易AI代理人的動力機制。有了這些算法，他們才可以存儲記憶，才能根據(jù)這些記憶進行反思、計劃并采取進一步行動。

這一切的第一步是創(chuàng)造一個角色。為了做到這一點，研究人員以詳細的提示形式寫下一條基礎(chǔ)記憶，描述這個角色的性格、處事態(tài)度和當(dāng)下處境。這里有一個從那篇預(yù)印本論文中摘錄下來的簡單例子：“約翰 · 林是柳樹市場里一間藥房的老板，他喜歡幫助別人。他一直在尋找一種能幫助顧客更方便找到所需藥物的方法。約翰 · 林和他的妻子梅 · 林住在一起，后者是一名大學(xué)教授，他倆的兒子艾迪 · 林還在上學(xué)，正學(xué)習(xí)音樂理論。”

然而，這樣的人物塑造還不夠。每個角色還需要一段記憶。為此，研究團隊創(chuàng)建了一個名為“記憶流”的數(shù)據(jù)庫，用日常語言記錄AI代理人的經(jīng)歷。

訪問記憶流數(shù)據(jù)庫時，AI代理人就會擁有與近期經(jīng)歷相關(guān)的重要記憶。其中，最“重要”的事件以獨立記憶的形式記錄下來，研究人員稱之為“反思”。最后，AI代理人使用一套不斷細化的文本提示來創(chuàng)建計劃。這套文本提示將一天分解成越來越小的時間增量，于是，每個高級計劃也隨之分解成越來越小的子步驟。另外，所有這些計劃也都會添加到記憶流數(shù)據(jù)庫中，以便AI代理人隨后回溯、檢索。

當(dāng)AI代理人開始一天的工作時——本質(zhì)上就是將文本提示翻譯成游戲中其他角色的行動和對話——他會利用與此前經(jīng)歷、反思和計劃相關(guān)的記憶流同其他角色互動、對話，從而創(chuàng)造新的日常經(jīng)歷。與此同時，這些新的經(jīng)歷也會反饋到記憶流中。從原理上說，這個過程相當(dāng)簡單，但在ChatGPT的接口與OpenAI的大型語言模型結(jié)合后，輸出的結(jié)果復(fù)雜得令人咋舌，甚至可以用“涌現(xiàn)”這個詞來描述了。

在測試中，研究團隊用文本提示讓游戲角色伊莎貝拉策劃情人節(jié)派對，讓另一個角色瑪麗亞愛上第三個角色克勞斯。伊莎貝拉還邀請朋友、顧客來參加派對，特地裝點咖啡館，并招募朋友瑪麗亞來幫忙。瑪麗亞也向克勞斯提到了這個派對并邀請后者同她一起前去。最后，總共有5名AI代理人參加了派對，其他角色雖然收到了邀請，但要么因為不知名的故障而沒有現(xiàn)身，要么角色本人做出了不參加的決定。

除了最初的設(shè)定——派對計劃和角色之間的感情關(guān)系——AI角色的其他經(jīng)歷都是自發(fā)出現(xiàn)的。論文作者寫道：“傳遞消息、裝點門面、互相邀約、前往派對，還有派對上的交流等社會行為，都是由這個AI角色體系自身發(fā)起的。”

值得一提的是，上述角色社會行為中的大部分都不難實現(xiàn)，只需要將ChatGPT拆分為各種功能組件和性格組件并使它們協(xié)同發(fā)揮就可以了。

這類開放式互動最顯而易見的應(yīng)用場景就是電子游戲，特別是在與高保真虛擬角色形象結(jié)合在一起后。非玩家角色與玩家之間不再是腳本化的互動，同前者對話會讓你肯定地認為他有自己的性格。

另外，研究人員還警告說，在進入這樣的互動后，人們可能會傾向于認為這些虛擬角色就是現(xiàn)實人物——實際上，這個趨勢已經(jīng)出現(xiàn)了——為此，設(shè)計師必須在互動中采取保護措施，時刻提醒用戶這些角色并不是現(xiàn)實人物。其他風(fēng)險則與一般的生成式AI相同，例如錯誤信息的傳播和對虛擬角色的過度依賴。

就目前來說，這種互動方法可能還不夠?qū)嵱茫袩o法在主流電子游戲中發(fā)揮作用，但它確實表明，這樣的場面很可能馬上就會出現(xiàn)。

從整個AI代理人領(lǐng)域來說，趨勢也是如此。雖然這類AI互動宣傳得如火如荼，但目前真正落地的仍舊屈指可數(shù)。不過，將多種算法結(jié)合起來、綜合運用——再加上插件并接入互聯(lián)網(wǎng)——的確有可能會創(chuàng)造出能力更強的代理助手，他們可以在文本提示下執(zhí)行多步驟任務(wù)。從長遠來看，這種自動化AI應(yīng)該非常有用，但也會帶來算法無法通用的風(fēng)險，進而導(dǎo)致大規(guī)模意外。

現(xiàn)在，最明顯的趨勢是，生成式AI與開發(fā)人員、研究人員你追我趕、互相促進，使得這一領(lǐng)域涌現(xiàn)出各種意想不到的新方向和新功能——這個良性循環(huán)，目前還沒有顯示出任何放緩的跡象。

資料來源 Singularity Hub

本文作者杰森 · 多里爾（Jason Dorrier）是在線網(wǎng)站奇點中心主編。在轉(zhuǎn)投科技報導(dǎo)領(lǐng)域之前，他從事財經(jīng)方面的研究和寫作。多里爾對一切事物都懷有好奇心，尤其喜歡學(xué)習(xí)和分享人工智能、計算機、機器人、生物技術(shù)、神經(jīng)科學(xué)和空間探索等領(lǐng)域的重要觀點和關(guān)鍵進展