奧特曼：AI 執劍人與野心家

王小豪

2023年5月26日，奧特曼在巴黎的一個會議上發表講話

很少有技術得到了“通用人工智能（AGI）”這般的待遇，還未真正被發明，但質疑、憂慮的聲音已經鋪天蓋地。更少見的是，當中聲量最大的，還包括這項技術最積極的推動者。

在去年底親自釋放了ChatGPT這頭“猛獸”、將整個世界朝著“AI時代”大幅推進之后，OpenAI的CEO山姆·奧特曼不斷警告那些依賴ChatGPT的用戶們：“現在依靠它做任何重要事情都是錯誤的。”

不僅如此，他還在國會聽證會和訪問各國的環球旅行中，反復強調AGI的危險性，聲稱其可能造成“核戰爭”級別的危機，并呼吁建立全球協作的監管機制。

稍微了解OpenAI創辦宗旨的人，不難理解奧特曼看似矛盾的舉動，畢竟這是一家以服務“全人類利益”為目標的人工智能研究機構，其CEO發表審慎、理性的觀點也是理所應當。但再了解得多一些，就可能生出不少疑慮。

在奧特曼的帶領下，OpenAI正從一家開放、透明的非營利組織，逐漸變得封閉、商業化，不僅拒絕公布GPT-4的開源信息、成立營利子公司，還摒棄了最初的中立立場，倒向了微軟一方。

每當OpenAI朝著商業化的方向邁進一步，奧特曼都能為此提供一套基于技術和人類福祉考量的說辭，但這種關聯的模糊性在于，人們難以分辨商業化是OpenAI秘而不宣的初衷還是不得已而為之的舉措、奧特曼有關AI的審慎言論是肺腑之言還是緩兵之計。

不久前鬧得沸沸揚揚的“罷免風波”，最終是被視為激進主義和商業主義的陣營獲得了勝利。董事會重組之后的OpenAI，越來越像一家典型的硅谷獨角獸，無數的投資者和合作伙伴等著從它身上榨取利益。

被董事會“驅逐”之后，蜂擁而至的支持力量顯示了奧特曼擁有的巨大聲望，很快重回CEO寶座的他，權力似乎比以前更為牢固。如今的問題是，在AI時代只差臨門一腳的關鍵時刻，執掌權柄的奧特曼究竟是真摯的執劍人，還是未顯的野心家？

他內心的真實想法，成為事關我們每一個人的重要問題。

（左起）OpenAI首席技術官米拉·穆拉蒂、CEO山姆·奧特曼、總裁格雷格·布羅克曼、首席科學家伊利亞·蘇茨克維

改變世界的意志

和比爾·蓋茨、喬布斯、扎克伯格等科技界的傳奇人物一樣，奧特曼也是“輟學俱樂部”的一員。

在斯坦福大學了讀兩年計算機專業后，奧特曼輟學與當時的男友尼克·西沃創辦了一家科技公司Loopt，為孩子提供社交網絡服務。這家公司后來成為首批加入Y Combinator孵化器的8家企業之一，并最終以4300萬美元的價格，出售給了銀行公司Green Dot。

事后來看，這次不太成功的創業經歷的最大價值，是讓Y Combinator的聯合創始人保羅·格雷厄姆相中了奧特曼的才華，并把總裁職位交棒于他。

2015年10月，馬斯克與奧特曼在《名利場》峰會上

格雷厄姆對時年23歲的奧特曼評價甚高，稱他像年輕時的比爾·蓋茨那樣果敢、自信，是硅谷最耀眼的5名初創公司創始人之一，“你可以把他降落到一個滿是食人者的島上，五年后回來，他就會成為國王”，他用這樣的言辭形容奧特曼的領袖天賦。

和所有扎根硅谷的人一樣，奧特曼也有著改變世界的偉大夢想。區別在于，激勵他的可能是人類終將毀滅的恐懼。

商業化的舉措為OpenAI惹來了巨大的非議。

奧特曼是一名末日生存愛好者，總是擔憂著重大災難事件的發生。為了在可能的災難中生存下去，他在家里準備了大量食品、藥物、黃金和槍支，甚至在大蘇爾買了一塊地，以應對可能的致命病毒、AI攻擊或核戰爭威脅。

擔任Y Combinator總裁時，奧特曼年僅28歲，但他已獲得了足夠的權力，來施展長久以來的改變世界的抱負。

作為一名信奉“有效的利他主義”哲學的年輕CEO—在硅谷，這一哲學的具體含義是：不擇手段地賺錢，并相信只有自己知道怎么花錢最值當，他認為自己對增進人類福祉有著不可推卸的責任。

他對身邊人說：我們做的事情“不是關于創業，我們關注的是創新，因為這是我們認為的如何使未來變得偉大的方法”。

他將自己的精力投放在那些能夠增進人類總體福祉的事情上，先后投資了研究核聚變的Helion，希望將人類整體壽命提升10年的Retro Biosciences等科技公司。日漸成熟的AI技術自然也成為他關注的重點。

奧特曼不是那種只關心技術的極客，他對技術的理解總是包含著政治和社會的視角。他很早便意識到，AI將帶來一場技術和社會的雙重革命，至于它帶來的會是福祉還是災難，完全取決于人類如何認識并利用這項技術。

2016年6月，時任Y Combinator總裁的奧特曼

在經歷了蒸汽機、電力、計算機、互聯網等數次技術革命之后，關于技術的歷史已經足夠豐富，當中包括好的經驗和壞的教訓。這讓一些人相信，對尚未實現的技術進行預測、管控是可能且必須的，奧特曼就屬于這類人中的一員。

2014年，硅谷討論AI的氛圍已經相當濃厚，當年谷歌收購了DeepMind、微軟開發了智能助理Cortana，一大批與AI有關的初創公司如雨后春筍般冒了出來。

改變世界的雄心和“有效的利他主義”觀念的結合，令奧特曼相信，與其把人工智能的命運交給他人，不如由自己來主導整個過程。

他很快找到了志同道合的伙伴—朋友、導師和未來的敵人，埃隆·馬斯克。馬斯克在與谷歌創始人拉里·佩奇交流時發現，谷歌將AGI的最終實現放在了優先位置，而不顧它可能帶來的風險問題，這讓他萌生了與之抗衡的想法。

得知馬斯克的意圖后，兩人經常在一起討論AI有關的話題，尤其是如何實現“人工智能對齊”的目標，也就是讓人工智能系統和人類的價值觀和利益保持一致。磋商的最終結果，便是成立OpenAI。

如果細究OpenAI創立時的初衷，多少會感到一絲奇怪。一群資本家湊在一起，聲稱OpenAI的創立是為了防止AGI這項技術最終落入大資本（主要是谷歌）之手，使其發展能夠符合全體人類利益。這樣偉光正的宣稱有多少可信度？

但至少，這一宣稱能夠幫助奧特曼說服伊利亞·蘇茨克維（他在今年策動了對奧特曼的罷免行動）的加入，后者是當今世上最好的人工智能專家之一，同時也是一名技術保守主義者，對AI的安全性和人類的命運感到深深的擔憂。沒有他的加入，OpenAI的一切設想都只是空談。

2015年，奧特曼開始與蘇茨克維接觸，在一次晚宴上，兩人進行了深入交流。除了分享彼此對AGI技術的看法外，蘇茨克維顯然認同奧特曼確保AGI安全性的想法，兩人著重探討了谷歌的DeepMInd是否已經無人能敵、能否創建一個機構與其抗衡等問題。最終，他接受了奧特曼的邀請，脫離谷歌，加入并領導OpenAI的AGI研究項目。

在2019年之前，OpenAI對于奧特曼來說還只是一項副業，期間他沒有停止在Y Combinator的工作，甚至還考慮競選加州州長的公職。這段時間，OpenAI保持了其創立時的理想主義氣質，開放、透明，恪盡職守地“為全人類”而工作。

發生于2018年的奧特曼與馬斯克之間的決裂，改變了這一切。或許是嫌OpenAI的進展太慢，或是出于對安全性的擔憂，馬斯克想要將OpenAI納入自己的事業版圖之中，但奧特曼和蘇茨克維拒絕了這一要求。

2023年11月1日，奧特曼在英國劍橋演講

在謀求公司控制權失敗后，馬斯克帶著他承諾的10億美元捐贈脫離了OpenAI。OpenAI頓時陷入了資金困境，奧特曼開始四處尋找投資，甚至還詢問了美國政府的意愿，但沒有人愿意資助這樣一家愿景飄渺的非營利組織。

這讓奧特曼意識到，如果OpenAI不能實現盈利，連存活都成問題，遑論實現AGI。這一結論很快成為內部的共識，成為OpenAI邁向商業化的起點。

為了解決資金問題，他在OpenAI之下設立了一個營利性組織，吸引外部資本加入，并為投資者設立了100倍的利潤上限，超出的部分將歸OpenAI所有。這看起來是一個兩全其美的方法，既能保證OpenAI的存活，又保留了其性質上的非營利性。

“開源GPT-2將變得十分危險，可能會被用來做壞事。”

很快，奧特曼就為OpenAI找來了10億美元的投資，OpenAI也首次有了估值：300億美元。

正在這時，奧特曼辭去了Y Combinator的工作，專職擔任OpenAI的CEO。這一舉動發生在一個十分曖昧的時間點，留下了極大的解讀空間。

人們可以說，奧特曼專職擔任CEO是為了幫助OpenAI更好地實現愿景，但經由架構變更，OpenAI已經開拓出了盈利的空間，不再是一家單純的非營利機構。此外，OpenAI在技術層面剛剛找到了大型語言模型這條真正可行的技術路線，開發出了GPT-2，AGI不再是遙不可及的科幻概念。人們也可以說，奧特曼將自己押注在了AGI這個“只此一次”的機遇上，這可以令他變得“真正偉大”。

他的決定究竟有多少是基于“全人類利益”的考量？類似的模糊性，還將在奧特曼身上反復出現。

商業化的舉措為OpenAI惹來了巨大的非議，批評來自評論家、內部員工和競爭對手。

不少評論家質疑所謂的100倍利潤上限只是一個幌子，因為它指向的是萬億級的收益前景—一個難以達到的限制和沒有限制是一回事。一些內部高管和員工無法忍受OpenAI的商業化轉型，離開并創辦了Anthropic，與OpenAI進行直接競爭。

反對聲量最大的當屬馬斯克，他在推特上對OpenAI發起攻擊：“我仍然很困惑，一個我捐贈了1億美元的非營利組織是如何變成一個市值300億美元的營利性組織的。如果這是合法的，為什么不是每個人都這么做呢？”

雖然奧特曼回復稱這一切都是合規的，但OpenAI呈現給外界的形象還是出現了裂痕：如果一家非營利組織能夠如此絲滑且合規地完成從非營利到營利的轉型，誰能擔保OpenAI不會進一步變質？

從奧特曼和OpenAI后續的行動來看，他并沒有很好地回答人們心頭的疑問。

2023年11月2日，英國米爾頓凱恩斯，奧特曼出席人工智能安全峰會

OpenAI，難言使命

ChatGPT3.5震撼了世界，緊接著，能力指數級增長的ChatGPT4登場，目不暇接的突破性進展令世界眩暈了。奧特曼也成為了“搖滾明星”，在政府、高校、論壇和網絡節目之間進行“巡回演講”，總統、教授、極客和學生都是他的聽眾。

他的“萬物摩爾定律”開始受到重視，這一理論預測宇宙中的智能體數量將在每18個月后翻一番。

以此為基礎，奧特曼開始暢想AGI實現之后的社會圖景，“這場革命將創造驚人的財富，以至于每個成年美國人，從現在開始的10年之內，每年都能從其意外之財中獲得1.35萬美元的報酬”。

他同時也提醒道，技術飛躍也預示著更多權力將從勞動力轉移到資本，如果公共政策不能及時調整，那么大多數人的生活將變得更糟。為此，他提出了基于AI的“全民基本收入”設想：由于AI公司將會成為未來生產力的主要來源，因此通過稅收的方式將這些財富分配給民眾，將有效地增進整體福祉。

此外，他不斷重申AGI可能帶來的危險，包括但不限于信息作假、操縱選舉、經濟崩潰等，并呼吁建立全球協作的監管機制。

對于OpenAI這樣一家強調“使命”的組織，不斷地對外界拋出對AI的思考，讓奧特曼看起來是一名審慎、負責任的技術推動者。

然而，隨著OpenAI的影響力擴大、經營策略發生轉變，他的形象開始變得矛盾且復雜。

與商業化轉型并行的，是OpenAI在技術和產品層面的保守轉向。在開發出GPT-1時，OpenAI面對的局面還很簡單，只要繼續透明、開源，維持其純粹性即可。但是當GPT-2研發出來后，一些內部人員發現，局面正在變得復雜。

2023年5月23日，法國總統馬克龍在愛麗舍宮與奧特曼討論人工智能

他在道德上純潔無瑕的形象，很快受到了來自OpenAI內部的挑戰。

GPT-2有超過10億個參數，它能做的事情比GPT-1多了很多，至少能夠做出一些令人擔憂的事情，例如制造假新聞、四處傳播垃圾郵件。首席技術官米拉·穆拉蒂表示，當時整個團隊已經意識到開源GPT-2將變得十分危險，可能會被用來做壞事。

最終OpenAI選擇先發布一個較弱的版本，等情況穩定之后再發布完整版。從這時起，“確保AGI的安全性”，從OpenAI的遠景變成了真切需要考慮的事情。

到了GPT-3.5和GPT-4的時候，ChatGPT已經表現出“令人恐懼”的能力。此時，奧特曼決定將其逐步開放給公眾使用，這被稱為“迭代部署”。

奧特曼相信，秘密構建一個超級強大的AI系統，然后一次性將它投放到世界上，并不會有好結果。他希望通過迭代部署的策略，讓人們在ChatGPT還很不完善的時候體驗、感受它，讓整個世界適應AI帶來的影響，并弄清楚如何才能讓它變得更安全、更好。

他希望通過這種方式，減輕技術革命帶來的陣痛，諸如失業、貧困甚至戰爭，這在歷史上反復發生。

與此同時，OpenAI徹底放棄了最開始的開源做法，在公布的關于ChatGPT-4的論文中，沒有提到任何具體的模型數據、能源成本和硬件、方法等信息。理由很簡單，為了全人類的安全著想。

但是，ChatGPT3.5的發布還是給世界帶來的不小的混亂和困擾，互聯網上開始充斥著粗制濫造的假新聞、假論文，優美、靈動的語言開始被GPT同質化、了無生氣的文字代替，真實和虛擬的邊界開始變得模糊。

這在奧特曼看來是“必要的代價”，他一面安撫公眾的情緒，警告人們ChatGPT仍然很不完善，不要過分依賴它；一面極力推動ChatGPT的發展。

任何試圖阻止AI繼續推進的舉措都會引來他的抗議，他拒絕在呼吁暫停六個月發展AI系統的聯名信上簽名；面對歐盟的監管意圖，他回應以將OpenAI的服務從歐洲撤出的威脅。不過，這些表態不妨礙他仍然高度認同AI可能會引發人類滅絕的風險，并希望提前部署防范措施。

2023年6月12日，奧特曼在日本慶應義塾大學發表演講

在從微軟那里籌集了10億美元的資金后，雙方不斷擴大合作范圍，最終，微軟下了更大的賭注：100億美元的追加投資換取OpenAI技術的獨家使用權。這在事實上將OpenAI從一家非營利機構變成了服務于微軟的科技公司。

在雙方的合作條款中，有這樣一條舉措：當OpenAI真正實現AGI時，將收回一切使用權。至于何時才算實現了AGI，則由OpenAI董事會說了算。以一種任意且模糊的方式對OpenAI的“崇高使命”進行呼應。

拿著這些錢，OpenAI開始擴展其業務范圍，打磨ChatGPT、與微軟的產品進行協同、打造開發者生態系統和應用商店，甚至還開始開展投資活動，為利用OpenAI技術的初創公司提供資金支持。這些業務和OpenAI的初心，AGI研究，擺在了同等重要的位置上。

OpenAI開始大舉擴張，人員規模較之前擴大了一倍，這些后來者到底是受到了使命的召喚還是利益的驅使，沒有人能說得清。

但至少，員工開始將股權作為其薪酬方案的標準組成部分，與從前更關注AGI的安全性和可靠性的員工相比，現在的員工們，更關心如何提出一個10億美元級別的業務設想。

奧特曼和OpenAI用來解釋這一切的理由是，當AGI真正實現的時候，整個世界將發生翻天覆地的變化，在那個新世界里，傳統的金錢觀念、財務安排將不再發揮作用。

言下之意，這些商業上的安排，不過是實現AGI之前的權宜之計。沒人知道，奧特曼本人是否真的信奉這一套說辭。

一面是搖旗吶喊的“AI時代的奧本海默”，為AI之于人類的風險奔走相告。一面又是AI商業化的激進推動者。奧特曼的面目，至此變得越來越復雜、模糊。

面目模糊的CEO

38歲的奧特曼，至今有著一副呆萌溫馴、人畜無害的面孔，談話時語調溫和，透著謙遜。但熟悉他的人都知道，和他表現出來的老好人形象不同，這是一位擁有不可撼動的權力意志的狠角色。

他的伯樂格雷厄姆更是直接指出他身為權力動物的一面：相比于錢，奧特曼更渴望的是權力。這或許是他不要任何股份投身OpenAI的主要動機。

少年時代，奧特曼便已展現出了非同凡響的好勝心與自決能力。他出生于美國圣路易斯的一個猶太中產家庭，是四兄妹中的老大。每天晚上，家人都會圍在一起吃飯，期間進行一些娛樂活動，諸如乒乓球、臺球、字謎游戲等。

他的弟弟回憶道，每當這時，自己的哥哥總會表現出“我必須贏，一切都由我說了算”的熱烈情緒，力求贏得比賽。

十幾歲時，奧特曼發現了自己的同性戀取向，對生活在風氣保守的中西部小伙子來說，這通常意味著背負了一樁“沉重的秘密”，但奧特曼很快就想辦法營造出了一個能讓自己透透氣的環境。

他向父母坦白了自己的性向，爭取他們的理解，并在自己的高中組織了一場支持同性戀行為的集會。這一舉動遭到了當地保守團體的批評，于是他憤而在學校公開出柜，并把道德壓力拋給了學校：想成為一個壓制個體的環境，還是個對不同思想開放的地方？有人回憶稱，他的舉動“改變了這所學校”。

2023年11月16日，美國舊金山，APEC峰會期間，奧特曼與嘉賓合影

奧特曼正將自己塑造為AGI的裁決者和“人類利益”的代言人。

今年5月，奧特曼主動接受了美國國會的質詢。他再度施展了自己的魅力，成功迷倒了國會議員們。

聽證會現場的氣氛融洽，絲毫沒有以前比爾·蓋茨、扎克伯格坐在這里時的劍拔弩張。小組委員會主席理查德·布魯門撒爾甚至用聲音克隆軟件復制了自己的音色，讓ChatGPT以自己的口吻發表開場白。

最終，這場聽證會成為了奧特曼的秀場。除了侃侃而談他對AI發展的看法、迎合議員們對AGI的監管意愿，一句“我沒有OpenAI的股份，我憑著熱愛從事這份工作”，讓他站在了道德制高點—還有誰比利益無涉的他更有資格掌舵AGI的發展方向呢？

然而，他在道德上純潔無瑕的形象，很快受到了來自OpenAI內部的挑戰。

2023年11月17日，OpenAI官網發出聲明稱，奧特曼在與董事會的溝通中并不一貫坦誠，阻礙了董事會履行職責的能力，這讓董事會對其繼續領導OpenAI的能力不再有信心，故而解除奧特曼的CEO職務。

這場罷免由蘇茨克維聯合其他3名董事會成員發起，與奧特曼相比，蘇茨克維是一個更為審慎、純粹的研究者，他的行動暴露了OpenAI內部在AGI安全、商業化和發展速度等議題上存在的廣泛分歧。

后來故事廣為人知，這場歷時僅5天的“政變”以蘇茨克維的徹底失敗告終，他沒能獲得新聞界、投資者乃至內部員工的支持，奧特曼重回OpenAI，并重組了董事會。

不過，疑問還是留了下來，如果罷免聲明不僅僅是一個借口，那么蘇茨克維們提到的不坦誠究竟是什么？

事后，一份OpenAI內部的訂購意向書曝光，奧特曼任CEO期間，OpenAI承諾從一家名叫Rain AI的初創公司訂購芯片，金額高達5100萬美元。重要的是，這是一家奧特曼本人參與投資的企業。

2023年5月16日，美國華盛頓特區，奧特曼接受美國國會的質詢

和奧特曼共事的人站出來說，奧特曼是一個狡猾的人，有時候還會為了達成自己的目的故意誤導和欺騙人。

一個廣為流傳的例子是，前董事會成員Helen Toner發表了一篇論文，認為OpenAI發布的ChatGPT引發了科技界的軍備競賽。奧特曼對此感到不滿，他的做法是向其他董事私下表達了董事會成員Tasha McCauley希望Toner離開的意愿，事實上，McCauley沒有說過這樣的話。

此外，還有員工表示，奧特曼存在對員工“心理虐待”的行為，除了引發員工間的敵意和不正常競爭外，當有員工對奧特曼提出批評意見時，他會報之以公開詆毀，使其難堪。

這些舉動放在一個普通的公司里，或許都是被忽視的。但是對于一家以“全人類利益”為使命的機構來說，掌舵者的道德性是十分重要的考量因素。

如果奧特曼不能做到坦率和正直，那么當AGI即將實現的時候，如何保證他能做出符合“全人類利益”的正確選擇？

在青年時期的一篇博客里，奧特曼分享了自己窺見的秘密：“你可以在很大程度上讓世界順從你的意愿—大多數人甚至連試都沒試過。”從被罷免之后得到的山呼海嘯般的支持來看，他顯然深諳其中的竅門。

種種跡象表明，奧特曼正將自己塑造為AGI的裁決者和“人類利益”的代言人，他在不同的場合將自己與奧本海默放在一起比較，援引后者的名言：技術之所以發生，是因為它是可能的。至于怎樣才算正確使用和發展AGI，須由他和OpenAI來定義。

矛盾之處在于，他在各種場合不斷強調，要確保AGI掌握在全人類手中，同時卻讓公眾遠離ChatGPT真正的秘密；他呼吁對AI可能造成的危險遠景進行防范，卻放過正在發生的混亂。

他的一切言論，都可以從商業和理想的角度進行解讀，進而得出截然不同的結論。

他呈現出的復雜性，究竟是因為AI技術本身的沉重，還是源于他尚未被窺探到的人性。人們該將他的表現看作先知的格局還是騙子的障眼法？

或許只能等到AGI實現的那一刻，人們才會得知，自己追捧的究竟是一名執劍人還是野心家。

責任編輯何承波 hcb@nfcmag.com