大型人工智能模型是文化和社會技術

從不斷變革的信息系統的歷史中汲取啟示。

工智能（AI）相關的爭論往往與模型是否智能、自主有關。一些人工智能研究人員和評論員推測，我們正處于使用通用人工智能（AGI）創造智能體的風口浪尖上，這一前景既令人興奮又令人焦慮。關于大型人工智能模型的文化和社會影響的廣泛討論往往圍繞兩個焦點：當前使用的這些系統造成的直接影響，以及當這些系統未來變成AGI系統甚至超級AGI系統時的預期影響。然而，這種將大模型作為智能體的論述從根本上來說是錯誤的。將社會科學和行為科學的思想與計算機科學相結合，可以幫助我們更準確地理解人工智能系統。大型人工智能模型不應一味被視為智能體，而應視為一種可以利用其他人積累的信息的全新文化和社會技術。

大型人工智能模型的新技術結合了早期技術的重要特征。就像圖片處理、書寫、打印、視頻、互聯網搜索和其他此類技術一樣，大型人工智能模型允許人們訪問其他人創建的信息。目前，語言、視覺和多模態的大型人工智能模型以互聯網為基礎，因而這些早期技術的產品以機器可讀的形式隨時可用。并且，與經濟市場、國家官僚機構和其他社會技術一樣，這些系統不僅使信息廣泛可用，而且充許人們以獨特的方式對其進行重組和轉換。大型人工智能模型是“人類社會的人工系統”的新變體，它對信息進行處理，以實現大規模的協調功能。

像其他所有創新一樣，人工智能將產生技術規范之外的文化和社會影響。我們認為，天型人工智能模型本身應當被理解為一種特定類型的文化和社會技術。它類似過去的寫作、印刷、市場運作、行政等方面使用的技術。哪怕新技術本身不是文化或社會方面的，比如蒸汽技術和電力技術，也可以產生文化影響。而維基百科這樣的真正的新文化技術，卻可能影響有限。過去的許多文化和社會技術對社會產生了深刻的、變革性的影響。大型人工智能模型可能也會如此。

這些影響明顯不同于蒸汽或電力等其他重要通用技術的影響。它們也不同于我們對假想中的AGI的期望。對過去的文化和社會技術及其影響的反思將有助于我們更好地理解人工智能模型的危險因素和廣闊前景，而不是一味擔心超級智能體的出現。

社會和文化機構

人類從誕生以來就一直依賴文化。一開始，人類利用語言獲得了從其他人的經驗中學習的獨特能力，這可以說是人類進化成功的秘密。這些能力在技術上的重大變化推動了巨大的社會變革?？陬^語言之后是圖畫，然后是文字、印刷品和視頻。如今，我們可以在更廣闊的空間和時間范圍內獲取越來越多的信息，訪問和組織這些信息的新方法也陸續出現，從圖書到報紙，再到互聯網搜索。這些發展對人類思想和社會產生了或好或壞的深遠影響。例如，18世紀印刷技術的進步使新思想得以迅速傳播，在啟蒙運動和法國大革命中發揮了重要作用。2000年前后數字技術發生了一次里程碑式的轉變：幾乎所有的文本、圖片和動圖信息都被轉換成數字格式，并且可以立即傳播和無限復制。

人類只要存在，就會依賴社會機構協調個人信息的收集和決策的制定。這些機構本身可以被認為是一種技術。在現代，市場、民主和官僚制度尤為重要。經濟學家弗里德里?！す耍‵riedrichHayek）認為，市場的價格機制動態總結了極其復雜、深不可測的經濟關系。生產者和購買者不需要了解生產的復雜性，他們只需知道價格，這將大量的細節壓縮成一個簡化但好用的符號。民主政體的選舉機制以相關方式將分散的意見集中在集體的法律和領導的決策上。人類學家詹姆斯·斯科特（JamesScott）認為，所有國家都通過建立官僚系統管理復雜的社會。這些官僚系統對信息進行分類和系統化處理。在計算機出現之前，市場、民主體制和官僚機構允許信息的表述有所缺失，只要有用即可。這些表述來自并超越了個人的知識和決定。價格、選舉結果或國內生產總值（GDP）等指標總結了大量的個人認知、價值觀、偏好和行動。同時，這些社會技術本身也可以塑造個人知識體系、推動事務決策。

市場、國家或官僚機構的抽象機制，如文化媒體，可以通過關鍵行為影響個人生活。例如，中央銀行將金融經濟的復雜性降低到只有幾個關鍵變量。這提供了明顯的穩定金融的效果，但代價是讓房地產市場的不穩定性加劇。比如美國中央銀行對此關注甚少，從而引發了2008年全球金融危機。同樣，市場可能并不會主動呈現有害碳排放這樣的“外部影響”。通過征收碳稅將這些信息整合到價格中會有所幫助，但這需要國家層面采取行動。

人類廣泛地依賴這些文化和社會技術。然而，這些技術的出現是因為人類具有智能生命體的獨特能力。人類和其他動物可以感知并應對不斷變化的外部世界，建立新的外部世界模型，并且在積累更多證據時修改這些模型，然后設計新的目標。同時，人類個體還可以創造新的信仰和價值觀，并通過語言或印刷品將這些信仰和價值觀傳遞給他人。文化和社會技術以強有力的方式傳播和組織這些信仰和價值觀，但如果沒有人類個體的貢獻，文化和社會技術將無法出現。

沒有創新，模仿就沒有意義。

例如，機器人技術中的一些人工智能系統試圖將類似的能力復現。原則上，人工系統可以在將來的某個時刻做到這一點。畢竟，人腦就是這樣運作的。但目前，所有這些系統離真正獲取這樣的能力都還有很遠的距離。我們現在可以討論對這些潛在的未來人工智能系統的擔憂，以及如果它們出現，我們將如何處理它們。但這與自前和不久的將來大型人工智能模型對現實的影響是不同的問題。

大型人工智能模型

與其他系統不同，大型人工智能模型在過去幾年中取得了顯著且出乎意料的進展，使其成為當前有關AI的討論的焦點。這一進步導致人們主張對其進行“擴展”，即簡單地采用當前的設計并增加它們使用的數據量和計算能力，從而使得AGI智能體可能在不久的將來出現。但是，大型人工智能模型與智能體有著本質上的區別，而且“擴展”不會改變這一點。

與智能體不同，大型人工智能模型以一種新的方式結合了文化和社會技術的特點。它們可以生成無法管理的龐大而復雜的人工信息體的目錄。但這些系統并不僅僅是總結這些信息，它們還可以以新的方式，按比例重新組織并建構這些信息的表示方式。正如市場價格是對潛在資源分配和使用的有損表示，政府統計數據也

文化和社會技術以強有力的方式傳播和組織這些信仰和價值觀但如果沒有人類個體的貢獻，文化和社會技術將無法出現。沒有創新，模仿就沒有意義

不能完全代表潛在人口的特征，擁有訓練后的數據語料庫的大型人工智能模型也具有這樣的特點。

因為人類很難清楚地思考大規模的文化和社會技術，所以我們傾向于從信息代理的角度來考慮它們。故事是傳遞信息的一種特別有效的方式，從爐邊故事到小說再到電子游戲，他們通過創建說明性的虛構代理物來實現這一點，盡管聽眾知道這些代理物不是真實的。類似地，很容易將市場和國家視為代理物，機構或公司甚至可以擁有一種法律人格。

但大型語言模型（LLM）和大型多模態模型實際上是統計模型，它們將人類產生的大量文本語料庫分解為特定的單詞，并估計長單詞序列的概率分布。這是一種不完美的語言表示方法，但包含了大量關于它總結的模式的信息。它允許LLM預測下一個單詞的順序，從而生成類似人類語言的文本。大型多模態模型對音、圖像和視頻數據執行相同的操作。大型人工智能模型不僅抽象出了一個非常龐大的人類文化體，而且允許對其執行各種各樣的新操作。LLM可以通過提示對其所訓練的數據進行復雜的轉換。簡單的論據可以用華麗的隱喻表達，華麗的散文可以凝練成樸素的語言。類似的技術使相關模型能夠根據提示生成新的圖片、歌曲和視頻。以前對于大規模操作來說過于復雜、龐大和不成熟的文化信息現在已經變得易于處理。

在實踐中，這些系統的最新版本不僅依賴人類生成和管理的大量文本和圖像的緩存，而且還依賴人類的判斷和其他形式的知識。特別是，系統依賴人類反饋強化系統（RLHF）或其變體，即成千上萬的人類員工提供模型輸出的評級。它們還依賴快速工程：人類必須利用他們的背景知識和聰明才智從模型中提取有用的信息。

允許大型人工智能模型從文本中提取統計結果的相對簡單但功能強大的算法并不是模型成功的關鍵?，F代人工智能建立在圖書館、互聯網、數以方計的人類編碼者和日益增長的活躍用戶的基礎上。有人向機器人尋求幫助，為求職申請撰寫求職信，這實際上是在與成千上萬的早期求職者以及數百萬其他信函的作者和RLHF員工建立技術中介關系。

挑戰與機遇

人工智能方面的爭論焦點應側重于這些新的文化和社會技術帶來的挑戰和機遇。我們現在有了一種技術，它對文字和圖像文化的作用，就像大型市場對經濟的作用，大型官僚機構對社會的作用，甚至可以與歷史上印刷品對語言的作用相提并論。接下來會發生什么？就像過去的經濟、組織和信息“通用技術”一樣，這些系統將對生產力產生影響。它們可以代替人類工作，使得以前只有人類才能執行的任務如今可以自動化運行。它們也可以參與分配工作。

然而，人工智能也將產生更廣泛和更深刻的文化效果。我們還不知道這些效果是否會像印刷、市場或官僚機構那樣影響深遠。這些早期的技術是18世紀和19世紀廣泛的社會變革的核心。所有這些技術，與大型人工智能模型類似，都支持信息的抽象處理，以便可以大規模地執行新類型的操作。所有這些也都引起了人們對錯誤信息和偏見的傳播、對文化同質化的合理關切。包括印刷品和電視在內的新的傳播媒體的出現，會帶來對新媒體傳播錯誤信息和邪惡文化力量的合理擔憂。類似地，官僚機構和市場部署的分類方案往往會帶來令人不安的結果。

與此同時，這些技術為在全球范圍內重組信息和協調數百萬人之間的行動創造了新的可能性。關于LLM的社會、經濟和政治效果的思考集中于對新文化和社會技術的擔憂和希望。確定這些思考方向既需要認識到新論點和舊論點之間的共同點，也需要仔細地分析全新的且在不斷發展的技術細節。

這是社會科學的中心任務之一。社會科學領域的學者對過去這些技術效果的研究有助于我們思考AI目前還不太明顯的社會影響，并考慮如何重新設計AI系統，以增加正面影響并減少負面影響。隨著媒體、市場和官僚體系在19世紀和20世紀的擴張，它們產生了經濟上的輸家和贏家，取代了從文員和打字員到類似“人形計算機”的各類工人。今天，人們顯然擔心天型人工智能模型和相關技術可能取代“知識工人”。

還有一些不太明顯的問題。大型人工智能模型會使文化和社會同質化還是碎片化？在歷史背景下思考這一點尤其具有啟發性。當前的擔憂類似19世紀和20世紀在市場和官僚機構問題上的分歧。有學者擔心經濟和官僚“合理化”帶來的同質化后果；有學者則認為市場交易會讓參與者接觸不同形式的生活，從而減少沖突。

大型人工智能模型的設計可以忠實地再現文本、圖像和視頻序列的平均出現概率。因此，它們有一種內在的傾向，即在訓練數據中最常見的情況下表現得最準確，在數據稀少或全新的情況下表現得最不準確。這可能導致大型人工智能模型呈現糟糕的同質化傾向。

另一方面，大型人工智能模型可能允許我們設計新的方法，以獲得文化視角的多樣性。結合和平衡這些觀點可以提供更復雜的解決復雜問題的方法。實現這一點的一種方法可能是建立類似當前社會的生態系統。在這種生態系統中，不同大模型中的不同觀點可以相互辯論，并可能相互融合，以創建新觀點。大型人工智能模型在提取文本和圖像中微妙、不明顯的細節方面出人意料地有效。這表明，這些技術可用于在文本和圖像中找到縱橫交錯于人類知識和文化空間的模式，包括人類難以察覺的模式。我們可能需要新的系統，使大型人工智能模型反映的人物角色多樣化，并產生與人類社會相同的分布結構和多樣性。

使這樣的系統多樣化可能對科學進步起到非常重要的作用。人工智能技術具有進一步加速科學發展的潛力。通過將文本、音頻和圖像中的許多視角連接在一起，大型人工智能模型可以讓我們發現它們之間前所未有的聯系，從而造?？茖W和社會。

新的文化和社會技術影響經濟關系的方式不那么明顯，但也更有趣。文化技術的發展導致產生信息的人和傳播信息的系統之間產生了一種緊張經濟關系。任何一個群體都離不開另一個群體：作家需要出版商，正如出版商需要作家一樣。但他們的經濟激勵卻朝著相反的方向推進。如果分銷商能夠以較低的成本獲取作者的信息，那么分銷商將獲得利潤；而如果作者能夠以較低的成本獲取分銷商的信息，那么作者將獲得利潤。這種緊張關系一直是新文化技術的一個特點。以數字形式分發信息的便捷性和效率已經使這一問題變得不容忽視，從地方報紙到學術期刊的危機都證明了這一點。大型人工智能模型處理可用信息的速度、效率和范圍使得這些問題顯得尤為突出。

還有一些關鍵的技術問題：我們可以在多大程度上彌補大型人工智能模型的系統缺陷？它們在什么時候會比基于人類知識工作者的系統更好，或更壞？我們也不應掩蓋關鍵的政治問題：哪些人能夠被利益調動起來？相關的技術和組織能力的組合如何產生？很多時候，技術部門的評論員將這些問題歸結為機器和人類之間的簡單斗爭。一方面，進步的力量將戰勝倒退的反對新技術的傾向。另一方面，人類也會成功地抵制人工技術的非人道侵權行為。這些斗爭早在計算機出現之前就已經存在，因此這種想法不僅沒有認識到以往的分配斗爭的復雜性，而且忽視了未來可能出現的許多不同路徑。這些路徑中的每一條都有獨特的技術可能性。

就早期的社會和文化技術而言，一系列進步制度的出現，包括規范和管理制度，緩和了新技術的影響，比如編輯法、同行評議法、印刷誹謗法、選舉法、存款保險法、市場法規、民主和官僚機構、證券交易委員會等。它們的效力各不相同，需要不斷修訂。然而，這些力量并不是自己產生的，而是技術本身的使用者協調一致和持續努力的結果。

展望未來

AGI，作為超級智能體的大型人工智能模型，在技術界內外都為人們所關注。AI樂觀主義者將其描述為充滿希望的“嬰兒潮一代”。但也有人將其視為“末日使者”。這些想法錯誤地理解了這些模型的性質及其與過去技術變革的關系，轉移了人們對這些技術帶來的真正問題和機遇的注意力，使我們沒有注意到歷史可以教給我們的關于如何確保收益大于成本的經驗教訓。

當然，正如我們上面提到的，未來可能會有更像智能體的假想人工智能系統。我們可能會討論如何處理這些假想系統。但LLM不是這樣的系統。與圖書館目錄和互聯網一樣，大型人工智能模型也是文化和社會技術悠久歷史的一部分。

社會科學對這段歷史進行了詳細的探索，使我們對過去的技術劇變有了清晰的認識。把計算機科學和工程以及社會科學緊密地結合起來，將有助于我們理解這段歷史并應用這些經驗教訓。大型人工智能模型會導致更高程度的文化同質性還是更嚴重的碎片化？它們會加強還是破壞人類的社會制度？當它們重塑政治經濟時，誰是贏家，誰是輸家？在將大型人工智能模型視為人類智能體的類似物的討論中，這些緊迫的問題并沒有成為焦點。

改變這一現狀將更好地促進研究。如果社會科學和計算機科學方面的學者都明白大型人工智能模型不僅僅是一種新的文化和社會技術，那么他們就更容易合作并整合各自的優勢。計算機科學領域的學者可以將他們對這些系統的深刻理解與社會科學學者對其他此類大規模系統如何重塑前一個時代的社會、政治和經濟的理解結合起來，補全現有的研究并發現新的方向。這將有助于糾正過去的偏差，即計算機科學學者對復雜的社會現象采用過于簡化的概念，而社會科學學者無法理解這些新技術的復雜功能。

這將使有關人工智能的討論內容發生轉變一徹底從對機器接管人類社會的恐懼和對不久的將來人人都將擁有一個完全可靠和稱職的人工助手的期望中轉移出來。大型人工智能模型的實際效果肯定與此不同。與市場和官僚機構一樣，它們將使某些知識比過去更為明顯和易于掌握，鼓勵決策者專注于他們能夠衡量和看到的新事物，而犧牲那些不那么明顯和更令人困惑的事物。因此，權力和影響力將轉向那些能夠完全部署這些技術的人，而遠離那些不能部署這些技術的人。人工智能削弱了使用人工智能和為其提供數據的人的地位，加強了人工智能方面的專家和決策者的重要性。

最后，以這種方式思考可以重塑人工智能的功能。工程師和計算機科學學者已經意識到大模型偏差的問題，并且正在思考它們與倫理和正義的關系。他們應該更進一步：這些系統將如何影響分配問題？它們對社會極端化和一體化的實際作用是什么？大模型能用來增強而不是削弱人類的創造力嗎？找到這些問題的實際答案需要我們對社會科學和工程有足夠的理解。將有關人工智能的爭論轉移到文化和社會技術方面是建立這種跨學科認識的關鍵一步。 ？

資料來源Science

本文作者亨利·法雷爾（HenryFarrell）是約翰·霍普金斯大學政治專家；阿利泰·高普尼克（AlisonGopnik）是加州大學伯克利分校心理學家；科斯馬·沙利茲（CosmaShalizi）是卡內基梅隆大學統計系副教授；詹姆斯·埃文斯（JamesEvans）是芝加哥大學社會學與數據科學系教授