從大國協調到全球性機制：人工智能大模型全球治理路徑探析

【關鍵詞】人工智能大模型??大國協調??全球性機制??全球治理??技術多邊主義

人工智能大模型全球治理迫在眉睫。從技術變革的角度看，大模型的出現代表了人工智能領域的一次重大突破，極大提升了機器學習在自然語言處理、圖像識別等領域的性能，并持續推動經濟結構重組。大模型在社會互動與文化方面的變革性則表現為其對信息獲取、知識學習和交流方式的改變。同時，大模型技術變革在演進過程中逐漸成為一項全球安全和治理的重大挑戰。例如，網絡安全、技術競爭和全球技術監管的現實需求，迫使各國建立新的法律和政策框架，并通過加強國際合作的方式來解決。尤其是大模型所引發的關于數據隱私、算法偏見等問題的全球倫理爭議，引起了各界關于國際合作如何在人工智能使用和監管中發揮重要作用的思考。一方面，全球治理需要考慮如何制定共享的倫理準則和技術標準，以確保人工智能技術體現公平、透明和負責任原則。另一方面，大模型的快速發展也要求全球政策制定者、技術專家和社會各界形成更加密切的合作，通過國際對話和政策協調，應對由其所引發的就業變化和社會不平等問題。大模型作為一種技術革新在推動全球技術進步的同時，也促使國際社會重視全球治理體系在人工智能發展中的協調性作用。關于大模型全球治理機制的建設路徑，既要運用傳統治理機制，也要構建新的國際機制，即探索構建大模型全球治理的機制復合體。

大模型全球治理的定義與風險

關于大模型全球治理這一概念，一般有兩種理解。一種是將大模型用于解決現有的全球治理問題。大模型作為人工智能技術的一個新發展，可以被用于全球治理的各個方面。另一種則認為大模型作為一個新技術本身正在產生諸多新的全球性問題，而解決這些問題需要全球治理的思路。本文使用的大模型全球治理概念，主要指第二種。大模型可能帶來的風險主要分為三類：失業、失序和失控。

第一，失業。大模型不可避免地會加劇失業，大范圍的失業問題可能引發經濟危機或政治危機。早在2018年，牛津大學便已出版一份關于人工智能就業沖擊的報告，警示人們高度關注這一問題。[1]即便如此，大模型技術的發展還是遠遠超出了人類專家的理解。OpenAI的研究人員正是在其內部看到了從外部可能還無法理解的一些先進技術，因此才在2023年年初發布有關GPT對勞動就業市場影響的論文。從當前技術進展來看，OpenAI的這份報告準確地預見了大模型對就業市場的沖擊，特別是外語翻譯人員、專業設計師、程序員、金融從業者、作家等面臨非常高的就業替代率的職業。[2]伴隨大模型技術的不斷發展和應用，失業問題將變得更加嚴重。

第二，失序。知識秩序是政治秩序的基礎。大模型作為一種新的知識生成器，無疑會對傳統的知識秩序產生重大影響。[3]換言之，大量大模型生成物的出現，很有可能創造一個完全虛擬的世界，使人們建立信任變得極為困難，這有可能會引發較為嚴重的政治信任危機。如果政治信任危機與經濟危機疊加，則會產生更為嚴重的社會影響。

第三，失控。失控主要源自大模型自身的能力和意識。大模型代表了通用人工智能到來的可能性。一旦通用人工智能實現，極有可能產生如下兩類問題：一是超級能力。目前的GPT-3的參數量是1750億，而采用了混合專家模型（Mixture?of?Experts）的GPT-4的參數量則有可能達到萬億計。[4]根據規模法則（Scaling?Laws），大模型的超能力會在一定規模上突然涌現。[5]若這種超能力被用來制造核武器或生物病毒，人類將很難進行有效控制。二是超級意識。若大模型具有通用人工智能的能力，其可能會產生自我意識。目前相關研究表明，大模型具備人類個體某個階段的意識，這可通過心智理論來證明。[6]大模型產生自我意識之后，可能會采取“越獄行為”來擺脫人類控制。[7]此外，大模型還可能誤導人類作出錯誤決策，繼而引發嚴重沖突。

2023年10月31日，浙江杭州，2023云棲大會開幕。會議以“計算，為了無法計算的價值”為主題，圍繞云計算和人工智能融合發展，開設2場主論壇及500余場獨立話題

從這個意義上來講，大模型全球治理的關鍵是進行分級治理。換言之，要區分兩類模型。一是超大模型。對于超大模型的基本治理原則首先應是不擴散和非惡意使用。由于超大模型具有某種超能力，一旦其被惡意使用，將會產生巨大負面影響。同時，對于這樣的超能力，需要采取最小擴散原則。當然，在實際情形中，按照美國目前的技術邏輯，其一定要擁有這樣的超能力，以鞏固自身的優勢地位。一些國家作為重要的追趕國家，往往會采取技術突破的思路。因此，超大模型的突破只是時間問題，但超大模型不應該形成擴散態勢。換言之，如果主要國家擁有超大模型的能力是不可避免的，那就要避免其大范圍擴散。因為只有控制掌握者的數量，才能夠一定程度上降低惡意使用的概率。當然，對于超大模型的開發者和應用者而言，也要形成一套相關的嚴格使用規則。使用者不能將超大模型用于惡意行為，如使用超大模型技術對他國進行降維打擊或推翻他國政權等。

二是一般模型。一般模型的基本技術邏輯應該是可擴散與和平使用。一般模型的參數量相對較小，其擁有超能力和超級意識的概率比較小，對人類社會的影響更多體現在失業和失序方面。大模型本質上是新型生產力工具，會在一定程度上改善人們的經濟狀況，人類不能完全阻止這類大模型的使用。一般模型的治理主要通過更加精準的定價機制，在一定程度上調整大模型的使用節奏，促使大模型為人類社會發揮更加積極的作用。

管控超大模型

管控超大模型，首先需要對超大模型進行定義。目前通行的辦法是對參數量進行定義。這種界限大約是十萬億到百萬億參數。超大模型的治理重點應該體現為對超級意識和超級能力的控制。因為超大模型可能具有強大的能力，對其應采取有限發展的邏輯，即不能縱容其無限發展，這一點類似于核武器。核武器在最初開發時，一個基本邏輯是可以節省常規武器的彈藥，其仍然是在某種生產力邏輯下發展起來的。但到冷戰后期，核武器足以將地球毀滅若干次。大國之間核戰略的基本邏輯是“相互確保摧毀”（Mutual?Assured?Destruction），[8]因而需要限制核武器的數量和規模。

核武器的這種發展邏輯同樣可以被用來理解大模型治理。大模型同樣是一種生產力工具，因此完全限制大模型發展的思路是一個天真的想法，因為沒有人會在生產力發展的道路上停下來。然而，當這樣的生產力可能對人類社會產生重大的破壞性影響時，人類就會更加趨向于考慮其負面效應。從這一角度來講，有限發展需要成為超大模型治理的基本邏輯。基于此，人類社會需要確保超大模型的不擴散。

2023年12月6日，谷歌發布新人工智能模型Gemini，聲稱其性能測試表現優于GPT-4模型和“專家級”人類。

2024年2月，OpenAI發布首個“文本到視頻”生成式人工智能模型Sora。

目前推動大模型擴散的重要方法是開源。開源是計算機領域的一個通行做法，開發者完成某個程序的開發之后，往往把這樣一個程序放在相關社區之中，供大家免費下載。大模型領域的開源運動極大地降低了其獲取和使用門檻。例如，在開發GPT-4時，OpenAI和微軟用了2.5萬塊的英偉達A100，訓練時間大概為3個月，訓練成本為6000多萬美元。[9]然而，在開源運動的推動之下，以LLaMA?2為代表的開源使得中小開發者有機會參與大模型的部署。[10]通過LangChain和LlamaIndex等工具的輔助，參與者可以在自己的設備上部署自己微調過的大模型。[11]從這個意義上來講，開源運動是一種民主化運動。但是，對于超大模型而言，要一定程度地限制開源。因為一旦超大模型擁有的超能力被惡意使用者獲得，將給人類社會帶來巨大麻煩，其負外部性將無法管控。因此，開源，特別是超大模型的開源必須限定在一定范圍之內。

完全限制超大模型是不可能的。大模型支撐的人工智能是一種通用性技術，也是第四次工業革命的關鍵性技術。超大模型是主要大國獲取國際領導權和國際威望的重要籌碼，完全限制其競爭性開發，在實踐中很難操作。因此，超大模型治理的核心原則應該轉向盡可能地減少擴散，這需要依靠某種類似于核不擴散機制的國際性條約來實現。這就涉及多邊控制，同時還要為這種多邊控制建立某種相應的機構和核查機制。例如，建立類似于國際原子能機構（IAEA）的“國際人工智能機構”，可以對那些試圖突破超大模型的國家進行相應限制，如對相關的重要物資進行管控。在大模型開發中，算力是關鍵物資之一。總之，管控超大模型需要更多從核武器發展和控制的思路來考慮，并逐步從大國協調走向全球性機制。

對于超大模型的開發而言，美國、中國會成為最重要的行為體。美國可能率先在超大模型上取得突破，中國則會加速追趕。還有一些主要大國也可能會加速突破。一旦各國在超大模型上形成突破，再進行完全限制就不太可能，這實際上會成為一種“奔向截止日期”的努力。在這一過程中，中美互動至關重要，因為超大模型的最終風險是其超級能力和超級意識，各國的生產力競速最終可能會使超大模型作為“第三者”獲利。因此，中美需要建立必要的溝通機制，包括自我控制和交換信息，之后再從中美的雙邊機制向多邊機制延伸。與核武器的不擴散機制類似，在建立超大模型不擴散機制的過程中，需要將超大模型開發權利放棄者的權利和義務結合在一起，如主要行為體之間建立某種類似于核不擴散機制的超大模型不擴散機制，并通過類似于允諾他國一般模型準入的條件，來換取他國放棄追求超大模型。

對風險進行定價

超大模型產生的風險更多是一種外爆風險。無論是其超級能力還是超級意識，其效應還是相對顯而易見的。然而，對于一般模型，人們往往只會看到其提高生產力的一面。借用讓·鮑德里亞（Jean?Baudrillard）的概念，一般模型的風險更多的是一種內爆風險，[12]這種影響是內在的：從外表來看，其并沒有發生太大變化，但是內部已經發生了深刻的結構調整。

對于一般模型而言，其首先會表現出提高生產力的一面。正因為如此，它的負面影響才可能會被“隱藏”，或者被“包裹”起來。一般模型的風險主要在于，其在快速部署的過程中會對傳統的社會結構產生沖擊。應對這類風險最重要的做法應該是減緩其部署的節奏，并增加人類應對的時間，讓變化在相對緩慢和可控的狀態下發展。這一點類似于碳排放機制。碳排放機制的基本邏輯是，減少排放或者可控排放，而不是完全不排放。如果完全終止排放，這對于很多國家特別是發展中國家而言，就意味著對發展權的完全排斥。因此，碳排放機制的關鍵是減少排放，即先達峰再逐步中和。在碳減排過程中一個重要經驗就是，用經濟和定價手段可減少人們排放的動機。[13]這同樣可以運用到一般模型的部署和使用過程中。

因此，可以在一般模型部署的過程中，在其費用上疊加一筆智能稅。這樣的智能稅并不能由部署者所得到，而是通過直接進入公共部門作為某種公共基金的方式，來對那些受到一般模型應用沖擊的人進行各種類型的補償。前提條件是對大模型產生的失業風險進行相對準確的測評，如對大模型的部署可能會對哪些崗位的工作產生負外部性的影響進行測量，同時將這樣的測量結果反映在智能稅的征收中。這種智能稅的征收機制可以在一定程度上減弱人們部署大模型的動機，因為人們在部署時會考慮效率或者經濟原則。如果增加一筆稅收的話，使用者可能還會考慮雇人來完成工作，這樣就會相對減緩大模型部署的速度，也會給人類社會的調整贏得更多的時間，并且相對有效地減少大模型對就業產生的沖擊。另外，我們也可以通過定價機制來相對減緩知識產權和虛假信息等問題的集中爆發。大模型的成功在很大程度上是人類知識的一種加總和放大，但大模型并沒有為其使用的人類知識付費。[14]所以，需要對大模型的使用進行某種知識產權的追償。

對于虛假信息的濫用，同樣可以進行懲罰性定價。人工智能本身生成的信息很可能是不真實的，這是由它的幻覺所決定的。但正是這種幻覺，構成了生成式人工智能創新的基礎。如果追求完全消除這種幻覺，實際上會扼殺人工智能的創新性。然而，生成式人工智能產生的信息能夠對公眾產生誤導。這種誤導還存在明確責任對象的問題：是大模型本身的誤導，還是使用者的誤導？因此，需要對大模型服務提供商和使用者進行一定的濫用懲罰性定價。換言之，一旦這樣的信息被濫用，那么無論是大模型服務提供商還是使用者，都要為其付出一定的成本。這種成本的存在，使信息濫用得到一定程度的限制，否則，在一個巨量創造信息的世界中，人類之間的信任會變得越來越困難，最終會影響整個政治系統的穩定。其中的一個基本考慮，就是讓兩類風險都統一在一種整體性的定價模型之中。同時，還可以借鑒碳交易的形式推動大模型風險交易。

當然，在定價過程中，仍然存在一些問題。例如，如何對大模型產生的失業效應進行準確定義。過高的定價無疑會影響大模型發展的速度。同時，這種定價還要形成整體性機制，因為單獨一國定價的意義會大打折扣。大模型企業會采取“用腳投票”的方式，去其他更加友好的國家發展。因此，需要在世界范圍內建立一種定價的整體性機制，這就使全球治理變得至關重要。

在對風險進行定價的過程中，可以形成一種多邊機制，并且要更多地反映發展中國家的意見。正如聯合國政府間氣候變化專門委員會，在推動應對氣候變化的過程中實現的多國參與和多行為體參與，這是一種典型的國際層面的“協商民主”（Deliberative?Democracy）。[15]整體而言，在管控超大模型的過程中，大國協調可以發揮主導性作用，因為其涉及超大模型不擴散的內容。然而，在推動一般模型廣泛運用的過程中，則要更多聽取發展中國家的意見，即更多采取多邊機制，最終使一般模型的內部性風險在一種相對緩慢的過程中發生。這樣一定程度的“內爆”，就有望成為塑造人類社會新形態的一種力量。

從大國協調到全球性機制

技術多邊主義主張將技術置于一種整體主義視角下考慮，同時通過多邊機制逐漸將技術的進步性發揮出來，并及時限制其可能產生的風險。技術多邊主義需要在大國協調和全球性機制之間達成平衡。這就涉及一個是“小多邊”還是“大多邊”的問題。大國協調在很大程度上是“小多邊”。在超大模型的管控上，要更多以“小多邊”為主來推動超大模型的不擴散；而在對一般模型的風險定價方面，則可以采取多國參與、跨國協商民主的“大多邊”模式。

超大模型往往涉及大國的關鍵利益。如果方案太過理想主義，則無法達成實際目標。因此，在此過程中，大國協調至關重要。按照集體行動的邏輯，行為體數量越少越容易達成一致行動。超大模型的管控，可考慮先以中美協調為基礎，然后逐漸擴展到中美歐，再邀請其他大國加入。當然，在美國不斷加大對中國打壓和遏制的背景下，這個過程能否順利推進取決于中美互動以及中美雙方對通用人工智能危險的整體性把握，這實際上構成了中美之間建立智能互信的基礎。然而，在涉及一般模型的廣泛使用和風險定義方面，則要更多考慮一種類似于聯合國政府間氣候變化專門委員會的全球性機制。在這一過程中，要充分發揮協商民主的作用，并鼓勵更多行為主體參與其中。盡管協商過程可能會比較長，但卻是必要的。

同時，國際社會應盡快達成普遍共識。一旦大模型被廣泛運用，人們應對的時間會越來越少。整體來看，最終大模型全球治理要建立一種整體性的全球性機制復合體，主要涉及兩個方面。一是超大模型的不擴散，二是一般模型的廣泛使用。其中既要控制超大模型的風險，又要使一般模型的進步效應發揮出來。主要大國在這一過程中要發揮更為積極的作用，先通過雙邊互信來建立合作機制，然后擴展到多邊機制，最后再以全球性機制將人工智能治理的成果固化，這就實現了一種從國家治理到全球治理的拓展過程。

2023年11月1—2日，英國倫敦，首屆人工智能安全峰會舉行，會上發布《布萊奇利宣言》。

第一，充分運用好傳統多邊機制。這要求在現有的國際框架內充分挖掘和發揮傳統機制的作用。例如，在聯合國框架內，已有眾多與全球人工智能治理相關的國際機制，這些機制可以為人工智能技術的倫理、透明度及其廣泛應用提供治理基礎。聯合國教科文組織可以在教育和文化領域內推動關于知識失序的國際討論，而世界衛生組織可以關注大模型對醫療均等性的影響。同時，由于大模型可能導致失業問題，國際勞工組織的角色變得尤為重要，它可以協助形成應對自動化影響的國際策略。隨著人工智能技術發展，知識產權保護和追償問題也與世界知識產權組織的工作內容有一定的相關性。此外，G20作為全球經濟合作的主要平臺，可以促進成員之間達成共識，推動建立相應工作機制，包括對人工智能引發的市場變動和就業影響進行戰略性調整和預防性政策制定。由此可見，傳統機制在應對由大模型帶來的全球挑戰時，可以延續其原有的功能和責任，但需要針對新興技術的特點進行適當的調整和擴展。

第二，建立專門的協調性機制。例如，建立類似于國際原子能機構的“國際人工智能組織”，并設立相應國際核查機制。該組織的職責將包括監督與大模型相關的國際標準遵守情況，確保所有國家在開發和部署大模型技術時的透明度和責任，由此對那些突破性發展的超大模型國家的行為進行定期核查和驗證，在防止技術濫用的基礎上降低全球安全風險。同時，可借鑒國際貨幣基金組織等國際組織經驗，優化投票權分配，確保每個國家的聲音都能被公平聽取，并反映不同國家在全球技術領域的貢獻。全球人工智能治理需要形成類似碳交易的智能風險定價市場，該市場能夠為人工智能應用中的潛在風險定價，鼓勵企業和國家在開發和部署大模型時采取風險最小化策略。在這一過程中，人工智能稅也可作為國際組織的財政來源之一，以減輕由相關技術快速發展所產生的社會成本，如失業和技能過時。人工智能稅收入還可以用于資助全球人工智能安全研究、支持被技術變革邊緣化勞動者的再培訓，并促進人工智能國際合作與發展等項目的落實。

總體而言，傳統機制傾向于利用現有機構的政策、國際合作網絡和影響力來推動全球范圍內對人工智能技術的統一理解和應對措施，為技術治理提供穩固的框架和權威性。新型的專門協調機制則聚焦具體技術問題，如算法透明度、技術倫理、數據安全等，通常具有更專業的技術導向和更靈活的反應能力，旨在達成針對性更強的專業要求。最終，在傳統機制和新型機制相互影響，以及各國關于人工智能治理規則相互作用下，形成機制復合體（Regime?Complexes），[16]實現對大模型全球治理問題作出整體性回應。

本文是國家社會科學基金重點項目“加快數字化發展與建設數字中國的政治保障研究”（項目批準號：21AZD021）的階段性研究成果

[1]?Michael?Osborne?and?Carl?Benedikt?Frey，?“Automation?and?the?Future?of?Work?—?Understanding?the?Numbers，”?April?13，?2018，?https：//www.oxfordmartin.ox.ac.uk/blog/automation-and-the-future-of-work-understanding-the-numbers/.

[2]?Tyna?Eloundou，?Sam?Manning，?Pamela?Mishkin?and?Daniel?Rock，?“GPTs?are?GPTs：?An?Early?Look?at?the?Labor?Market?Impact?Potential?of?Large?Language?Models，”?arXiv：2303.10130，?March?23，?2023，?https：//arxiv.org/abs/2303.10130.

[3]?高奇琦：《GPT技術下的深度媒介化、知識秩序與政治秩序》，載《當代出版》2023年第3期，第28-38頁。

[4]?Damir?Yalalov?and?Danil?Myakin，?“GPT-4s?Leaked?Details?Shed?Light?on?its?Massive?Scale?and?Impressive?Architecture，”?Metaverse?Post，?July?11，?2023，?https：//mpost.io/gpt-4s-leaked-details-shed-light-on-its-massive-scale-and-impressive-architecture/.

[5]?Jared?Kaplan，?Sam?McCandlish，?Tom?Henighan，?etc.，?“Scaling?Laws?for?Neural?Language?Models，”?arXiv：2001.08361，?January?23，?2020，?https：//arxiv.org/abs/2001.08361.

[6]?Liam?Tung，?“ChatGPT?Performs?Like?A?9-Year-Old?Child?in?‘Theory?of?Mind?Test，”?February?16，?2023，?https：//www.zdnet.com/article/chatgpt-performs-like-a-9-year-old-child-in-theory-of-mind-test/.

[7]?Blessin?Varkey，?“Jailbreaking?Large?Language?Models：?Techniques，?Examples，?Prevention?Methods，”?Lakera，?September?19，?2023，?https：//www.lakera.ai/blog/jailbreaking-large-language-models-guide.

[8]?Ivan?T.?Berend，?“‘Gentlemen，?You?Are?Mad！：?Mutual?Assured?Destruction?and?Cold?War?Culture，”?Dan?Stone?ed.，?The?Oxford?Handbook?of?Postwar?European?History，?Oxford：?Oxford?University?Press，?2012，?pp.445-461.

[9]?同[4]。

[10]?Hugo?Touvron，?Louis?Martin，?Kevin?Stone，?etc.，?“Llama?2：?Open?Foundation?and?Fine-Tuned?Chat?Models，”?arXiv：2307.09288，?July?18，?2023，?https：//arxiv.org/abs/2307.09288.

[11]?Dianne?Pena，?“LlamaIndex?vs?LangChain：?Tools?for?Building?LLM-Powered?Apps，”?SitePoint，?November?2，?2023，?https：//www.sitepoint.com/llamaindex-vs-langchain-tools-for-building-llm-powered-apps/.

[12]?Jean?Baudrillard，?Simulacra?and?Simulation，?Ann?Arbor：?The?University?of?Michigan?Press，?1994，?p.31.

[13]?David?Klenert，?Linus?Mattauch，?Emmanuel?Combet，?etc.，?“Making?Carbon?Pricing?Work?for?Citizens，”?Nature?Climate?Change，?No.8，?2018，?pp.669-677.

[14]?Miles?Klee，?“New?ChatGPT?Lawsuits?May?Be?Start?of?AIs?Legal?Sh-tstorm，”?Rolling?Stone，?June?30，?2023，?https：//www.rollingstone.com/culture/culture-features/chatgtp-openai-lawsuits-copyright-artificial-intelligence-1234780855/.

[15]?John?S.?Dryzek?and?Simon?Niemeyer，?“Deliberative?Democracy?and?Climate?Governance，”?Nature?Human?Behaviour，?No.3，?2019，?pp.411-413.

[16]?Amandine?Orsini，?Jean-Frédéric?Morin?and?Oran?Young，?“Regime?Complexes：?A?Buzz，?A?Boom，?or?A?Boost?for?Global?Governance？”?Global?Governance，?Vol.19，?No.1，?2013，?pp.27-39.