生成式人工智能民事責任規制研究

[摘 要]在《中華人民共和國民法典》（以下稱《民法典》）背景下，生成式人工智能的民事侵權責任可以從一般侵權責任和產品責任兩種責任承擔方式進行分析。從生成式人工智能的本質、鼓勵產業發展和保護個人權利之間的權衡出發，宜將其納入產品責任的范疇。內容責任主體方面，不應簡單地將服務提供者定性為內容生產者，僅由其對外承擔責任，而應劃定符合生成式人工智能特點的責任主體范圍。

[關鍵詞]生成式人工智能；產品責任；責任主體

近日，為了促進生成式人工智能健康發展和規范應用，國家網信辦聯合國家發展改革委及有關部門公布了《生成式人工智能服務管理暫行辦法》（以下稱《辦法》）。《辦法》將生成式人工智能服務提供者視為生成內容的生產者，由其直接承擔生成式人工智能生成內容的生產者責任和相關個人信息處理者的責任。作為應對新興生成式人工智能治理問題而快速出臺的新規定，《辦法》在責任主體劃定方面仍存在探討空間。本文以ChatGPT為例，對生成式人工智能進行解構，并在現有的法律基礎上，進一步對生成式人工智能侵權的責任主體及相關的歸責原則進行分析，就生成式人工智能的侵權責任規制進行研究。

一、我國生成式人工智能的規制現狀

2022年11月，美國OpenAI公司推出的以ChatGPT為代表的生成式人工智能在全球引起了廣泛關注，推出兩個月后，積累了逾3000萬用戶量。隨后，百度的文心一言、阿里的通義千問、谷歌的大型視覺語言模型PaLM 2，以及清華大學開發的以中英語言模型為基礎的ChatGLM等生成式人工智能也相繼出臺。與依賴于預定義規則模式的傳統人工智能模型不同，生成式人工智能模型能夠通過學習大量先前的數據產生不同的輸出結果。生成式人工智能目前有兩種主要框架：GAN（生成式對抗網絡）和GPT（生成式預訓練轉化器）。GPT生成型預訓練變換模型，是一種自回歸語言模型，這種模型利用深度學習產生類似于人類語言的文本。值得注意的是，最新版本的GPT模型的訓練語料庫來源該公司并未公開?；谏墒饺斯ぶ悄軘祿Z料庫的廣泛性及生成內容的復雜多樣性引發的一系列治理問題，我國目前有一些法律法規可以對其進行相關性規制。

當前，我國對生成式人工智能的規制主要有：在法律層面，《民法典》規定了任何組織和個人不得通過利用信息技術手段偽造等方式侵害他人的肖像權，體現了對使用“深度偽造”技術生成虛假信息侵害他人名譽行為的規制。在部門規章層面的立法則較為豐富，從已生效的部門規章來看，最主要的是《互聯網信息服務深度合成管理規定》（以下簡稱《深度合成管理規定》），該規定從技術的角度采用了“深度合成”的概念，即利用算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。廣義的“深度合成”概念可以涵蓋生成式人工智能的技術，該規定的規制范圍涵蓋了人工智能內容?！渡疃群铣晒芾硪幎ā分?，《互聯網信息服務算法推薦管理規定》和《網絡音視頻信息服務管理規定》（以下簡稱《網絡音視頻管理規定》）兩部法規中都有條款對人工智能生成內容的披露進行了規定?！毒W絡音視頻管理規定》還規定了服務提供者和使用者不得基于深度學習技術制作、發布和傳播虛假新聞信息，服務提供者基于深度學習技術提供服務時要通過安全評估、部署非真實音視頻鑒別技術及建立辟謠機制，與生成式人工智能內容的規制具有相關性。在上述已生效的法律法規之外，中國已經有專門針對生成式人工智能的立法。如前所述，即國家互聯網信息辦公室于2023年7月正式頒布的《生成式人工智能服務管理辦法》。

以上規定更多強調開發者和提供者的行政責任與刑事責任，未涉及民事侵權責任，更沒有規定承擔責任的原則，對生成式人工智能內容風險規制相對全面，但對于生成式人工智能具體的民事侵權的規制仍需進一步完善。責任主體方面，《深度合成管理規定》為服務提供者和技術支持者規定了法律責任，《辦法》第九條僅為服務提供者規定了法律責任。可見，相關規制生成式人工智能產業的法規規定的責任主體主要是服務提供者，對處于開發核心位置的算法模型設計者、數據提供者等主體則不作要求，具有一定的不合理性。基于大型語言模型的復雜性和自動生成過程的不透明性和難以解釋性，使得用戶對于有害、非法或侵權內容的責任難以確定，且可以通過用戶與服務提供者之間的合同進行相關規制，因此本文不將用戶列入侵權責任承擔的主體范圍。

對于具體的生成式人工智能侵權的規制，有學者認為應當重新訂立適用于生成式人工智能相關的新的侵權責任法律，即在已有的侵權責任法律體系中添加關于人工智能責任的相關條款；有學者則主張在舊的框架法律下對已有的條款進行解釋，應對當前的生成式人工智能侵權現狀。王利明（中國人民大學常務副校長，教授、博士生導師，國務院學位委員會法學學科評議組成員兼召集人，中國法學會副會長，中國法學會民法學研究會會長）教授認為：因生成式人工智能引發的侵權，目前為止還沒有完全超出《民法典》和《個人信息保護法》的相關規定。如適用《民法典》的侵權責任編對生成式人工智能的侵權進行規制，也應當結合生成式人工智能的本質屬性，予以特殊的綜合考量，對于承擔責任的主體范圍、具體歸責原則進一步探討。

二、生成式人工智能侵權責任主體分析

生成式人工智能，是通過算法模型在數據語料庫的基礎上進行無監督大量廣泛的學習及有監督的強化引導學習，即對模型“投喂”大量數據再到生成文本的過程?？梢?，生成式人工智能的核心離不開算法模型和數據?！掇k法》將生成式人工智能服務提供者直接作為對外承擔責任的主體，忽視了模型設計者與數據提供者在生成式人工智能的研發中發揮的關鍵作用，否定其承擔責任的可能性。僅由服務提供者作為風險高發的生成式人工智能的責任主體，范圍較為狹窄且不利于受害人行使相關救濟權。從生成式人工智能生成內容的本質缺陷出發，也不宜僅將服務提供者作為責任主體。首先，基于輸入數據的龐大性，算力的復雜性，算法的多重迭代性，不可避免會使生成結果變得無法解釋，這是人工智能本身的固有缺陷。其次，生成式人工智能也因其生成內容的特點，生成結果還容易受到生態謬誤（Ecological fallacy）的影響。如ChatGPT在基于相同的數據語料庫提供通用的安全建議時，不適用于特定群體或某些環境，特別是人口中的個人用戶或少數群體。以全概偏的輸出結果可能會侵害特定群體的合法權益。從其具有的客觀固有缺陷來看，《辦法》將責任主體僅僅限定為服務提供者，使得承擔責任的主體不太公平，也不利于對被害人權益的完整保障。應從生成式人工智能的本質屬性和固有缺陷出發確立“鏈條式”的責任承擔主體，不僅對于責任的分擔以及受害人的救濟具有重要意義，對于生成式人工智能的健康發展也具有重要作用。

侵權責任，是民事主體侵害他人權益應當承擔的法律后果。承擔責任的前提是具有民事主體資格。有學者主張，按照技術邏輯去劃定承擔生成式人工智能內容侵權的責任主體；或主張可以根據物種位階的規范主義立場，為人工智能構建一種以責任承擔為基礎的特殊財產性法律主

體[1]。顯然，按照這兩種觀點，將生成式人工智能技術或者說ChatGPT本身作為承擔責任的主體。這類構想存在一定的合理性，但是在現有的法律體系下難以實現。在無法賦予生成式人工智能主體地位的情形下，只能將自然人作為責任主體，其侵權責任也只能在原有的責任歸責理論中進行適當選擇。

三、生成式人工智能侵權的歸責原則探討

就侵權責任而言，以ChatGPT為例，因其所生成的內容具有虛假、錯誤、誤導或有害性，主要是侵犯人格權和相關知識產權，部分情況下，也會侵犯財產權和生命身體健康權，如在提供與健康和安全相關的建議時，ChatGPT可能會提供不正確或潛在的有害陳述。相關研究指出，適用ChatGPT（3.5版）作為安全相關問題的信息和建議來源時，存在重大的風險，如在提供健身計劃、緊急情況預防措施、操作重型機械等方面，其生成的誤導陳述可能致使用戶或第三人受到損害，對于識字率和受教育程度較低的人群來說，ChatGPT生成的內容風險則更高。對于來自金融、醫療、環境保護等專業領域的問題，如果沒有足夠的數據資源供ChatGPT進行有監督學習訓練，ChatGPT可能將無法就相應內容生成適當的回

答[2]。在當前的法律框架下，就生成式人工智能的侵權責任原則而言，一般適用一般過錯責任原則和產品責任進行規制。

（一）適用一般過錯責任分析

涉及侵權責任，必先談歸責原則。有學者指出，由于法律沒有特別規定，對于人工智能生成內容場景下相關主體侵權責任的判定只能采取過錯責任的歸責原則[3]。對生成式人工智能侵權采取過錯責任原則，受害人舉證難度較大。首先，作為受害人的用戶或第三人需就對方存在過錯進行舉證，難度不言而喻。由于被害人和服務提供者可控制資源的不對等以及生成式人工智能本身具有的專業性和復雜性，作為“門外漢”的受害人就對方存在過錯的進行舉證將處于明顯的不利地位。因此，適用一般過錯責任將造成對被害人的救濟難以實現。過錯推定方面，生成式人工智能的侵權明顯不能納入《民法典》規定之下的九種過錯推定責任情形框架之下來進行解釋，即不存在法律上的明文規定，因此無法適用過錯推定責任，倘若適用該歸責方式，需增補相應條款。

（二）適用產品責任分析

生成式人工智能的侵權能否適用產品責任？首先需考慮，生成式人工智能能否納入符合“產品”的內涵或外延之中。就ChatGPT的聊天生成預訓練轉化器而言，作為一種人工智能聊天機器人程序，該轉化器是產品還是服務？我國《辦法》中將生成式人工智能程序運行視為一種服務；有學者亦主張，產品具有大規模生產和批量銷售的特點，且產品之間需具有同質性[4]。從這個意義上來說，生成式人工智能生成內容不能算作產品。而歐盟《產品責任指令》，美國《侵權法重述》（第3版）將生成式人工智能的性質界定為軟件。根據生成式人工智能的設計過程、運行模式以及用戶使用結果來看，本文更傾向于將其視為一個軟件，同時也是一種產品。軟件，即一系列按照特定順序組織的電腦數據和指令，是電腦中的非有形部分。電腦中的有形部分稱為硬件，由電腦的外殼及各零件、電路所組成。電腦軟件需有硬件才能運作。軟件不分架構，有共通的特性，在執行后可以讓硬件執行依設計時要求的機能。軟件存儲在存儲器中，不是可以碰觸到的實體，可以碰觸到的都只是存儲軟件的零件或介質（光盤或磁片等）。也即說，軟件和硬件二者相互作用，缺一不可，否則無法運行。產品，是用以滿足人們需求和欲望的有形物體或無形載體。而軟件作為一種依附于有形載體的無形體，向消費者提供基本效用和利益，滿足一般意義上產品的要求。

軟件是否屬于我國產品責任法意義上的產品，相關法律法規沒有明確規定。產品是指經過加工、制作、用于銷售的產品（動產）。生成式人工智能作為一種聊天生成預訓練轉化器，在研發過程中，經過算法模型設計、數據投入的加工，最終成為一個面向消費者的無形且可通過網絡傳輸使用的程序軟件。就ChatGPT而言，在開始向消費者投放時雖未收取相關費用，但無形中獲得的流量及收集的數據信息，背后隱藏著潛在的收益。如ChatGPT、文心一言、通義千問等生成式人工智能，從設計加工到面向用戶提供使用，不可謂不是一種產品，也就可以適用產品責任進行規制。

適用產品責任進行規制，首先要考慮產品是否存在缺陷。一般來說，產品缺陷包括三類，即制造缺陷、設計缺陷、指示缺陷。在辨別生成式人工智能生成內容有害或有誤是否屬于產品缺陷？屬于何種缺陷？仍需要被害人結合各種因素具體認定，對其舉證要求較高。但適用產品責任無須證明對方存在過錯，在這方面減輕了受害人的舉證壓力，使得受害人在舉證上達到一個平衡。在產品責任中，生產者與銷售者對外承擔無過錯責任，對內銷售者系過錯責任。依前所述，將作為研發核心的數據提供者、算法模型設計者，以及作為“總抓手”的服務提供者確立為生成式人工智能侵權的責任主體。在產品責任中，服務提供者應作為銷售者的角色；而處于研發核心的數據提供者、算法模型設計者則是生產者。二者既要履行產品的跟蹤觀察義務，亦可以適用產品責任的特別免責事由。從生成式人工智能的本質出發確定責任主體鏈條，并適用產品責任進行規制。不僅有利于受害人方便行使救濟權，也有利于督促核心主體不斷優化算法模型、積極提升設計理念，實現生成式人工智能產業與個體和諧共生。

結束語

以ChatGPT為代表風靡全球的大語言模型已經成為人工智能領域競爭的新軌道，隱藏著巨大潛力的同時也蘊含巨大風險。我國在面對該技術挑戰時應保持謹慎態度，只有符合我國現實發展和國際局勢的監管與治理制度，才能促進我國生成式人工智能產業長遠健康發展。就生成式人工智能侵權方面的規制而言，若可以通過釋法予以應對，則不必也不應當修法或立新法。通過解釋將其納入規制不僅成本和風險低，符合人們對法律預期的同時也能維持法律的穩定性。

參考文獻

[1]鄭文革.人工智能法律主體建構的責任路徑[J].中國應用法學，2022（5）：221-231.

[2]于文軒.ChatGPT與敏捷治理[J].學海，2023（2）：52-57.

[3]昂格魯瑪.論大型內容生成式人工智能模型設計者及提供者的侵權責任[C]//上海市法學會.《上海法學研究》集刊2023年第6卷：2023年世界人工智能大會青年論壇論文集.北京化工大學，2023：7.

[4]周學峰.生成式人工智能侵權責任探析[J].比較法研究，2023（4）：117-131.

作者簡介：彭梅（1998— ），女，漢族，貴州畢節人，貴州師范大學法學院，在讀碩士。

研究方向：民商法。