生成式AI的法律挑戰與應對

以ChatGPT、Sora為代表的生成式AI（人工智能）技術，基于其強大的學習能力與內容生成能力，成為推動新一輪產業升級的核心技術工具。

AI的重要性不言而喻，不論是2024年多個諾貝爾獎獲得者對于AI的關注，抑或以OpenAI、谷歌、微軟為首的100多家企業共同簽訂《人工智能公約》，中國也適時提出“人工智能能力建設普惠計劃”，并呼吁各方對AI能力建設加大投入。

這些均表明，AI已成為全世界、全人類所共同關注的關鍵話題。

與此同時，一些新技術引發的社會問題也蔓延全球。例如，2024年5月21日曝光的“首爾大學版N號房”事件中，兩名嫌疑人涉嫌利用女校友的畢業照片和社交媒體照片，非法合成淫穢視頻，傳播到一款加密即時通信軟件上的聊天房中，邀請具有“變態性癖好”的人參與。2024年8月，韓國再次曝出采用新犯罪手段的“Deepfake”（深度偽造技術）事件，更是涉及未成年女孩，成為新型N號房事件。Deepfakes使用生成式AI技術，將個人的聲音、面部表情及身體動作拼接合成虛假內容，極大地影響了個人的合法權益與社會的公共利益。

這背后，是生成式AI的研發與應用帶來的一系列法律風險及司法適用難題的縮影：不僅涉及知識產權保護、個人隱私保護，以及內容的真實性和可靠性等問題，其智能化的特點也可能引發AI法律主體地位、侵權責任認定等問題。

面向2025年，筆者試圖深入探討這些難題背后的成因，并提出相應的對策建議，以期為相關法律的完善和司法實踐提供理論支持和實踐指導。

生成式AI的主要法律風險

對公眾而言，首要的危害便是深度偽造與虛假信息。

深度偽造（Deepfake）具有內容的高度真實性與應用范圍的普遍性。深度偽造技術，一般指的是通過生成式對抗網絡（GANs）等技術手段分析海量數據，學習特定的面部形態、表情模式以及動作特征等內容，創造出了大量虛假內容的智能視頻生成技術。對該技術的濫用，極容易導致虛假信息的泛濫、降低社會公眾的信任感以及公共利益的損害。

一般而言，基于深度偽造技術所生成的虛假內容一旦與特定的視頻、音頻片段結合，容易導致虛假新聞、誹謗侵權等法律風險，尤其是通過該技術制作政治人物或特定事件的虛假內容，極容易損害社會公共秩序與國家安全等核心利益。韓國出現的新型“N號房”事件，就是此類技術帶來危害的代表。

第二類是知識產權侵權風險。

生成式AI技術通過學習大量數據集，能夠創造出新的文本、圖像、音樂等作品，這一過程涉及復雜的算法和數據處理技術。然而，這些應用在著作權領域引發了諸多挑戰。

具體而言，在前端的數據訓練環節，由于生成式AI的迭代升級需要海量數據作為訓練“養料”，且基于高質量訓練數據的需求，生成式AI在前端數據訓練的過程中不可避免地接觸大量作品內容。一旦生成式AI研發者未經著作權人許可，擅自使用作品數據以訓練AI模型，則容易導致著作權侵權風險。與此同時，基于海量數據所生成的內容，如果與現存的著作權人作品存在“實質性相似”，則同樣容易侵犯著作權人的合法權利。

在全國首例生成式AI侵權一案中，原告認為被告在未經許可的情況下，在被告所經營的AI繪畫網站中生成了與原告作品實質性相似的內容，如輸入“奧特曼”和“奧特曼融合美少女戰士”即生成了奧特曼形象圖片以及奧特曼形象與美少女形象融合的圖片，法院因此認定被告利用AI所生成的內容侵犯了原告的復制權、改編權，應承擔相應的侵權責任。

顯然，目前生成式AI的知識產權侵權風險已逐漸引起理論與司法實踐的關注，如何平衡技術發展需求與作者的合法利益已成為重中之重。

第三類涉及隱私與個人信息保護風險。

在生成式AI模型的訓練與應用階段，隱私與個人信息的安全性問題日益凸顯。造成這一問題的主要原因在于，這些模型通常依賴于大規模的數據集進行學習，而這些數據集可能未經充分脫敏，從而包含了相關隱私信息或敏感個人信息。

在數據預處理階段，生成式AI模型可能會從公開渠道抓取大量未經篩選或未經標記的數據，這些數據可能含有個人身份信息、金融賬戶信息或其他敏感信息，增加了隱私泄露的風險。

此外，生成式AI在生成內容時，可能會不當使用這些個人信息，從而在用戶交互中無意中泄露了他人的隱私。這種現象不僅涉及技術層面的挑戰，也觸及了倫理和法律的邊界，需要通過技術、法律和倫理的綜合策略來共同應對和解決。

司法適用中的難題

司法實踐層面生成式AI還可能造成適用難題。這些難題不僅包括真人驅動型數字虛擬人的法律主體地位分析、現有AI制度規范與實踐的不適應，還包括生成式AI侵權責任的認定問題。

首當其沖的難題是真人驅動型數字虛擬人的法律主體地位問題。

AI技術之所以引發理論與實踐層面的高度關注，不僅在于技術對于經濟社會發展的極大賦能優勢，還在于AI技術“類人化”特性所可能導致的法律與倫理危機。其中，對于AI法律主體地位的爭議已成為科技與法律關系關注的焦點問題，尤其是對真人驅動型數字虛擬人法律主體地位的探討。

真人驅動型數字虛擬人指的是通過運用多項AI技術，捕捉真人動作、表情形態等行為特征所創造虛擬數字人形象。目前，司法實踐中對于真人驅動型數字虛擬人的法律主體認定持否定態度，認為虛擬數字人并非法律意義層面的自然人，無法享受屬于自然人的法律權利。

在全國首例涉“虛擬數字人”侵權案中，法院認定案件所涉及的虛擬數字人“在某種程度上僅是作者進行創作的工具，不具有作者身份”，因此不享有表演者權以及其他著作權利。這意味著，盡管AI技術在一定程度上挑戰了傳統民法體系中自然人主體的相關理論，但司法實踐中對于真人驅動型數字虛擬人的法律主體認定仍持謹慎態度。這種立場反映了法律對于新興技術現象的適應性和審慎性，同時也指出了法律在AI主體認定上的困境。

第二個難題是現有制度規范與實踐的不適應。

在關注因生成式AI所引發的法律問題之時，也同樣需要注重現有制度規范與實踐之間的協調關系。目前，生成式AI技術的出現引發了諸如知識產權侵權、隱私與個人信息保護等法律問題的探討，其根本原因主要在于現有制度規范的缺失與實踐對相應制度規范的需求之間的矛盾。

以生成式AI訓練數據為例，基于著作權事前授權模式的限制，生成式AI難以在獲取海量數據之前逐一獲得著作權人許可，因此是否需要通過突破現有著作權規則推動技術的創新發展存在爭議。此外，公眾對于知識產權、隱私與個人信息的保護需求日益增長，這要求法律制度和倫理規范必須不斷完善。如何在推動技術發展與保護合法權益之間尋求平衡，已經成為實踐關注的焦點。

總結來說，需要盡快完善與生成式AI相關的制度規范，彌補因技術發展所產生的規范漏洞，同時加強理論與實踐之間的緊密聯系。

此外，生成式AI侵權責任認定同樣成為司法實踐中的一大難題。

在生成式AI所引發的著作權侵權糾紛中，由于AI所生成的內容不僅包含用戶對于指令內容的貢獻，還包括AI服務提供者對于技術工具的貢獻，這導致了在著作權侵權糾紛中難以準確界定侵權的行為主體。

此外，侵權責任的承擔同樣成為司法實踐中的一大難題。生成式AI技術通過學習和模擬大量數據，能夠生成與人類創作相類似的文本、圖像和音頻等內容。然而，當這些由生成式AI所生成的內容涉及著作權侵權時，責任的承擔變得尤為復雜。

造成以上問題的主要原因在于，當侵權行為發生時，傳統的侵權責任認定規則可能難以準確適用。例如，如果生成的文本或圖像侵犯了他人的著作權，那么確定責任歸屬可能需要考慮多個因素，包括用戶指令的性質、系統的設計和功能，以及服務提供者對系統可能產生的侵權內容的控制能力。因此，這也導致了司法實踐中法院難以準確認定生成式AI侵權糾紛的侵權主體，以及侵權行為與侵權結果之間的因果關系，進而使得對于權利人合法權益的保護受到挑戰。

建議與解決方案

要破解以上難題，不僅需要從制度規范層面完善生成式AI相應的規則內容，還應落實對技術監管和倫理規范的要求，同時加強司法能力的提升與適應，確保理論與實踐的深度結合，實現對技術的有效規制和合理應用。

首先，需要完善與生成式AI相關的制度規范。這應在保證既有規則適用性的基礎上，針對技術所觸發的風險問題，實現制度規范的有效落實。

具體而言，一是借鑒傳統互聯網治理中的“避風港”規則，建立起符合生成式AI產業發展的責任分擔機制。在此機制下，生成式AI服務提供者將在數據訓練環節、內容生成環節確保履行相應的注意義務，盡可能使用真實合規的AI訓練數據，并在信息生成階段設立過程性的風險預防和審查機制，確保依法合規地收集訓練數據，生成合法內容。

與此同時，還應設置投訴舉報機制，該機制的核心在于確保用戶和權利人的投訴能夠得到快速響應。AI服務提供者在接到投訴后，必須在合理的期限內采取必要措施，如數據清理和算法調整，以防止違法內容的進一步傳播和擴散。

二是針對生成式AI所引發的著作權侵權問題，在著作權法既有規則的基礎上適當擴展“合理使用”的解釋空間，在條件成熟之時，出臺相應的生成式AI收集訓練數據的合理使用條款，典型如設置文本與數據挖掘例外條款，使得AI數據訓練行為具備合理使用的依據。

三是完善與生成式AI相關的內容標識管理規定，加強對深度偽造內容的監督，標明AI生成內容的合法來源，避免虛假信息的不當傳播。

2024年9月14日，國家網信辦發布《人工智能生成合成內容標識辦法（征求意見稿）》（下稱《征求意見稿》），此前，國家網信辦等部門已相繼出臺《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等部門規章，提及網絡服務提供者對AI生成合成內容的標識義務。

值得關注的是，《征求意見稿》的發布進一步完善與生成式AI相關的內容標識管理規定，有助于監督深度偽造的內容。但是由于目前其還處于征求意見階段，相關規定的話語表述仍需要社會公眾貢獻智慧以完善規定內容，如對于顯式標注和隱式標注的規定應更加具備可落實性，注重不同類型標識在不同技術應用場景的靈活度。

其次，基于AI技術演變的不確定性，有必要建立完善的技術監管框架與倫理規范指引，從技術與倫理層面引導AI向善發展。

一方面，完善相應的技術標準體系，加強對生成式AI技術的監管能力。這意味著，不僅需要在技術標準層面明確生成式AI基礎定義、技術用語以及技術細節要求，如生成式AI數據使用的技術標準、算法安全標準以及系統安全標準等，為技術的健康發展提供清晰的指導和規范，還需要提升監管主體的監管水平與能力，提高其對新技術的理解與應用能力。

另一方面，加強AI倫理規范指引，推動AI向善發展。在倫理規范的制定上，堅持落實以人為本的價值理念，加強AI倫理標準頂層設計，在具體操作上落實可靠性、安全性、可解釋性等基本要求，將抽象的倫理標準要求落實到具體的AI系統設計以及實際操作的過程之中。實踐中，如微軟基于Explainable Boosting Machine算法開發的InterpretML，使得對于AI生成的結果更加具備可預測性與可解釋性，確保在促進技術迭代升級的同時，推動技術健康、可持續的發展。

最后，解決因生成式AI所產生的司法適用難題還需要注重司法能力的提升，以及加強對技術發展新趨勢的適應能力。

對于司法能力的提升，不僅要求司法實務工作者通過不斷學習與實踐，強化對新興技術的理解和應用能力，及時更新現有的司法觀念，如通過加強對新興技術的教育與培訓，提高司法實務工作者對AI技術研發與應用的理解，使其更好地處理新興技術所產生的司法糾紛；此外，還要求不斷完善司法工作機制，通過整理并學習司法實踐中所形成的裁判經驗，明晰司法實踐中涉及新興技術相關的裁判規則，同時結合法律程序和技術手段，培養對技術難題的解決與應對能力。

同時，在應對AI、大模型算法等新技術難題時，應在尊重現有法律規則體系的前提下，綜合考慮司法判決對技術發展、產業應用、社會公共福利等內容所造成的影響，確保在客觀、合理解決因技術所產生的司法難題時，有效實現技術發展需求與保護合法權益之間的平衡。

編輯：郭麗琴