OpenAI大戲折射的真正危機是什么？

胡泳

2023年11月17日及之后的一周，全球最炙手可熱的人工智能公司 OpenAI 董事會對其首席執行官（CEO）山姆·阿爾特曼（Sam Altman）的“解雇門”事件，震驚了所有人。

隨后一切似乎又回到了開始的地方，但事實并非如此。對于員工、客戶和投資者來說一切恢復正常了，但對于OpenAI及其使命來說卻并非如此。我們看到，一個本著透明和造福人類的精神創立的機構，在競爭和金錢之下，理想主義如何被一點點侵蝕，讓全世界都看到了它的“臟衣服”。

復雜的權力斗爭和幕后詭計，在世界一流的新老公司以及幾乎任何權力運作的地方都很常見，我們只是很少與它們有第一手甚至第二手的接觸。我們以為，OpenAI 是一家非常公開的公司（盡管它是私營公司，并且其科學和工程工作日益封閉）：我們知道他們是誰，他們在做什么，以及他們為什么這樣做。但八日“宮斗”劇過后，我們不由得要反問自己，我們真的知道這一切么？

阿爾特曼的去留本身無關緊要，非常重要的事情是：OpenAI最初的承諾不僅僅是創建 AGI（通用人工智能），而是確保它“造福全人類”。這種“確保”是由OpenAI的使命和結構所決定的。這家營利性公司由一家非營利組織擁有和控制，而該非營利組織在事件發生的周末之前是由一個獨立董事會控制的，其使命是確保 OpenAI 打造的人工智能能夠造福全人類。

OpenAI在結構上有意抵制推動科技行業發展的價值觀——對規模的不懈追求，以及在推出消費類產品時采取的“先構建產品，有問題再說”的方式。然而，這種模式并沒有完全持續下去。2019 年，OpenAI成立了一家子公司，采用“利潤封頂”模式以籌集資金、吸引頂尖人才，并不可避免地打造商業產品。很快，OpenAI從一家非營利性研究實驗室轉型為一個擁有大量投資和消費產品的營利性實體。最初的開源和非營利色彩漸漸褪去，公司的重點轉向更傳統的利潤驅動型科技初創公司，并面臨著利潤目標與人工智能最重要的安全問題之間越來越大的沖突。

ChatGPT發布之后，OpenAI的收入和利潤有了明確的途徑，估值也提升至800 億～900億美元。它無法再證明自己是一個理想主義的研究實驗室，因為顧客希望在這里得到服務，而投資者也押上了巨大的賭注。這些瑣事是OpenAI如日中天的崛起和阿爾特曼令人震驚的遭到驅逐的故事的核心。而若是沒有資本施加的強大壓力，阿爾特曼也不會這么快就上演反轉劇。

據報道，OpenAI將保留其結構，投資者的利潤受到限制，董事會可以自由做出非收入驅動的決策。但我預計，OpenAI的結構在不久的將來會更像一家普通公司。如果你要求投資者提供巨額資金來打造未來50年最重要的技術，那么他們就會希望對公司的運營有一定的發言權。OpenAI能走到今天這一步卻沒有做到這一點很奇怪，但投資者——尤其是最大的投資者微軟——絕不會讓這種情況再次發生。

另一方面，整個事件凸顯了人工智能的未來很可能取決于少數幾家大公司及其董事會的一念之間。開發人工智能基礎模型是一場競賽，這些模型的數量不會很多。事實上，它可能是一種天然的寡頭壟斷，而少數模型可能會應用于整個經濟。大科技公司現在與主要的基礎人工智能模型重疊，換言之，舊的領導者就是新的領導者，我們該如何確保它們不會擁有超強的力量？

目前，監管機構尚未對OpenAI事件作出反應，但如何在人工智能技術的快速商業化與確保其負責任的發展之間求得平衡，是監管機構亟須面對的。未來幾年，更多資源將不可避免地轉向人工智能監管。

這場危機也可能成為硅谷圍繞人工智能愿景的長期觀念斗爭的轉折點。一派相信，人工智能是一種變革性的新工具，將會開啟一個繁榮的新時代；另一派認為，人工智能更接近于一種外星生命形式，必須極其謹慎地加以限制和部署，以防止它接管世界并殺死我們所有人。隨著阿爾特曼重返OpenAI，繁榮派大勝末日派。其實兩派并不像表面看起來那樣涇渭分明。他們都相信“一切皆計算”，他們都在推動以商業競爭促進人工智能系統的發展，只不過就發展速度產生了分歧。然而，他們所信的無法讓人相信。如果那些志在創建AGI的人甚至無法提前三天預見他們的決定的影響，我們如何確保AI能夠具備這種遠見？當我們進入人工智能和技術的新領域時，切不可忘記領導和決策中的人為因素。