人工智能背景下“深度偽造”的法律研究

白 碩 紀澤坤

（北京物資學院法學院 北京 通州 10049）

在人工智能時代，大量新技術涌入我們生活中，帶來經濟利益的同時，也伴生許多法律風險，傳統的規制模式亟需更新完善。“深度偽造”技術最初主要是應用于影視領域制作，后來隨著“ZAO”“去演”等換臉APP的問世，一部手機、一張照片，點擊“一鍵換臉”就可以替換任意視頻素材中的人臉。“深度偽造”最常見的應用就是“AI換臉”，大數據獲取的基礎上生產高度逼真的合成數據，如專業影視、圖像制作，短視頻、動圖社交，此外還可應用于語音合成、虛擬偶像、線上試衣等。不可否認，其在諸多領域都能創造積極的價值。然而，在帶來廣泛應用的同時，“深度偽造”技術的產物同時又具有極大迷惑性，讓人難辨真假。結合當前社交網絡極其開放流動、國際化的特性，使得大量虛假的信息，以“高度可信”的方式呈現給大眾，所帶來的法律風險是不可估量的。有人利用“深度偽造”侵害他人人格權益的現象愈加頻繁地發生，其中也涉及到技術平臺及相關產物制作者的責任承擔法律規制。新技術帶來新挑戰，給人們敲響了警鐘。

一、“深度偽造”技術應用的法律風險

由于“深度偽造”和互聯網的特性，侵權現象很容易發生。本文將從民法領域，基于對“ZAO”“去演”等換臉APP平臺協議和實踐的探究，對“深度偽造”的法律風險加以分析。

（一）對肖像權、聲音權、名譽權等人格權侵權的風險

《民法典》頒布后，明確了構成聲音、肖像侵權的構成要件。通過“ZAO”的隱私協議可以看出，用戶使用換臉功能必須打開相機、相冊等設備應用訪問權限，并選擇上傳照片。而選擇過程將會使相冊中其他授權外的面部信息，暴露在“ZAO”的檢測系統中，其肖像權侵權風險不言而喻。軟件對照片的識別技術依然存在疏漏，有些長得像的非本人也能通過真人驗證。此時，“深度偽造”替換樣本的獲取往往并沒有取得相應權屬人的同意，這就給肖像權侵權提供了可能。聲音權侵權風險也是同理。

（二）在個人信息保護領域的風險

換臉APP中“深度偽造”技術的運用，首先要進行人臉識別，而人臉數據屬于通過生物特征識別技術獲取的個人生物識別信息。《民法典》第一千零三十四條規定，個人生物識別信息屬于個人信息，屬于法律的保護范圍。這些生物特征一旦被偽造、被濫用，將給權利人帶來極大的風險。對此，筆者認為，可以從“深度偽造”技術運用的動態過程角度，進一步分析潛在的法律風險。這一過程不僅涉及人臉信息的采集，還涉及人臉信息的儲存、使用、刪除等，結合“ZAO”和“去演”APP用戶協議和隱私條款，可能侵害諸多法益。

（三）“深度偽造”法律風險的特殊性

曾希望將這項技術大眾化、普遍化而誕生出的許多換臉APP，最終卻都落得個紅極一時、曇花一現。在觀察“深度偽造”市場化結果后，筆者發現，“深度偽造”的獨特性在于，一旦廣泛使用，它給我們現在所處的互聯網大數據社會實名認證帶來的沖擊將是顛覆性的，故而引發了社會公眾對著作權、個人信息、肖像權、隱私權等領域保護的擔憂。

二、我國法律規制的現狀和不足

盡管我國對于“深度偽造”的風險規制處于初始階段，但是仍然建立起了相對完善的規制機制。《民法典人格權編》《個人信息保護法》《數據安全管理辦法》《網絡音視頻信息服務管理規定》等法律法規，均可作為 “深度偽造”的法律規制依據，在一定程度上可以被既有責任體系涵蓋。然而，我國對“深度偽造”規制雖有法可依，但現有規則是否能夠有效規制“深度偽造”風險還不確定。很多規制都尚不完善，且存在不足，有如下三點。

（一）我國目前沒有對“深度偽造”形成專門性立法

現有規制往往是從各領域法律條文中尋找依據，相對碎片化。對于規定了收集個人信息明示同意規則等生物信息保護條款的《個人信息安全規范》，其性質屬于國家標準，不屬于“法律”，效力較低。缺乏一個整體的、系統的法律規制機制來應對這樣一種科技創新，且沒有形成一個針對“深度偽造”產品制作者、數據平臺、使用者等不同主體相關權利、義務、責任的完整規制框架。

（二）大多數條文比較抽象

在法律具體實施上缺乏更為細致的規范，且現存收集處理個人生物信息的主體對于信息的控制和保護能力參差不齊。

（三）現有規則更多是一種事后規制

例如換臉軟件“ZAO”因為霸王條款、數據風險等安全問題爆出，相關監管部門才對其進行約談要求整改，對于軟件上架之前的審核不完善。不同主體代表著不同利益訴求，法律應進一步予以調和、平衡平臺責任。由于“深度偽造”產品的高度“真實性”，同時還應當促使相關“深度偽造”產品甄別技術標準逐步完善，加強行業自律，在事前和事中階段加強管理，避免因“深度偽造”形成嚴重的危害后果。

三、“深度偽造”風險的域外法律規制比較

隨著“深度偽造”不斷發展，相關換臉應用層出不窮，由此引發的侵權風險逐步加劇，各國也紛紛出臺應對措施，處理手段與實踐結果各有特色。

（一）美國的相關法律規制

“深度偽造”技術應用最早出現于美國，隨著技術和應用的不斷發展普及，其所帶來的風險和擔憂也在美國實踐中大量顯現。由此，美國在“深度偽造”的法律規制方面不得不加快步伐，以遏制這一新技術造成的不利影響，很早就開始進行規制實踐。

1.從技術本身不當應用角度，對“深度偽造”進行的法律規制

與中國的分散式規制不同，美國已經有了直接對“深度偽造”本身不當應用進行規制的相關措施。2019年6月，美國針對“深度偽造”的風險及防范措施召開聽證會。隨后議會提出《2019年深度偽造報告法案》。該法案將概念外延略大于“深度偽造”的“數字偽造”定義納入到規制體系中。2019年6月，美國眾議院提出《深度偽造責任法案》，該法案明確了“深度偽造”不當使用行為的法律責任，要求“深度偽造”技術產物制作者，必須以水印或文本標注等形式表明文件的“偽造”屬性及“偽造”程度，進行信息披露，以實現與真實視頻的區分，否則將根據所造成的侵權后果受到相關責任追究。

2.從傳統個人信息保護角度，對“深度偽造”進行的法律規制

“深度偽造”實際上是對生物識別數據進行“偽造”，因此，通過對“生物識別數據”的保護，實現抑制“深度偽造”不當使用帶來的負面效應，也是一種可行的路徑。早在“深度偽造”技術廣泛應用之前，就有了關于“個人信息保護”的相關法律規制，大致如下：2009年，得克薩斯州《生物識別信息獲取使用法》，按照信息收集、使用階段過程進行規制；2017年，加利福尼亞州《加州生物信息隱私法案》進一步具體化，規定了收集階段的知情授權原則；2019年，佛羅里達州《生物識別信息隱私法案》細化了信息使用和保管階段的規則；華盛頓州《華盛頓隱私法案》明確了數據權利主體對于個人信息的各項權利，如訪問權、更正權、刪除權等；2019年3月，美國聯邦人臉識別隱私保護第一部法案《2019年商業人臉識別隱私法案》還增加了投入市場應用需第三方測試，人臉識別運營商“數據安全性、最小化、留存”等規定；2019年4月，美國聯邦《隱私權利法案》也從個人權利角度作出回應。

（二）歐盟的相關法律規制

與中國、美國的“深度偽造”法律規制形成鮮明對比的是，歐盟主要是通過對個人信息的嚴格保護和虛假信息治理兩個方面限制“深度偽造”技術的應用。

1.通過嚴格個人信息保護對“深度偽造”進行的法律規制

歐盟非常注重個人信息保護，相關規制體系的建立已趨于成熟，并配套有對應的網絡音視頻服務商信息利用標準，嚴格的信息收集者、處理者、控制者、運營者責任義務規定，以及個人信息泄漏后的救濟措施。2018年歐盟正式實施的《通用數據保護條例（GDPR）》就有所體現。此外還規定了可能被用于制作深度偽造內容的人臉圖像屬于“生物特征數據”，對于這類具有隱私特征的特定個人信息也應予以特殊保護。如收集目的按約合法，非經同意不得處理，將換臉軟件納入了規制。在公民的基本人權與第三方信息匯總與收集之間尋求最佳平衡點。

2.通過嚴厲打擊虛假信息對“深度偽造”進行的法律規制

“深度偽造”與虛假信息相似，均是偽造不真實信息，并試圖操縱信息以獲得利益或造成損害，因此可以將其歸到已有的關于虛假信息的規制框架中進行處理。2018年4月末，歐盟委員會《應對線上虛假信息：歐洲方案》提出各利害關系主體合作，建立評估審核機制，改進信息來源，提高信息生產、傳播過程中的透明度，提高信息的可信度，以實現全面防范視頻、圖像和文字等虛假信息。2018年9月末，歐洲主要網絡服務商提出的《反虛假信息行為準則》提倡平臺自律監管，自覺限制、治理“深度偽造”違法內容。

（三）域外法律規制經驗分析

根據美國及歐盟的規制經驗，并結合我國現有法律規制的不足，應做出相應借鑒和改進，明確相關主體的權利、義務及法律責任，完善侵權救濟渠道，同時推動辨別技術發展和機構監管，建立有效的針對“深度偽造”技術應用風險的法律規制路徑。

四、“深度偽造”技術應用的法律對策及建議

由于“深度偽造”自動對抗式的技術邏輯，受害人可以依據《民法典》人格權編的相關規定維護自己的合法權益。我國民法領域“深度偽造”技術應用的法律規制，還需結合我國國情以及社會經濟發展狀況進行完善。

（一）統一規范平臺在信息保護動態過程中的義務標準

結合相關法律規定，“深度偽造”技術平臺主體目前應根據法律義務，履行更嚴格的收集使用說明義務，在信息權利人完全知情的條件下取得其授權同意。

采集的人臉識別信息僅在有限時間、為特定目的使用。為保障個人信息數據安全，在權利人收回授權或要求刪除、注銷后，應立即刪除所有獲得的數據和個人信息。若“深度偽造”平臺違反上述義務，則可能在個人信息的采集、使用、儲存、階段發生侵權行為。此外，由于“深度偽造”風險的特殊性，平臺也應自覺主動加強行業自查并接受政府監管，事前報備，事中定期報告及時反饋，事后積極配合補救。

（二）平臺侵權責任歸責原則的適用

盡管平臺在“深度偽造”信息管理過程中承擔較多義務，但也并不是無限制的。要認定其最終構成侵權，還需要具有“主觀過錯”。在訴訟證明責任上，筆者認為適用“過錯推定”的歸責原則更為合適，平衡個人權利和技術推廣。相比個人信息權利人，信息處理者即平臺顯然占有更加有利的地位。其掌管信息數據并在后臺進行“深度偽造”技術運行，擁有更強的能力和便利條件，并可以更低的成本證明其行為與信息損害后果之間有無因果關系，倘若無法證明則可推定事實上的因果關系成立。“深度偽造”平臺是風險的帶來者。

（三）明確技術產物制作者主動標識義務

“深度偽造”技術產物制作者作為行為和傳播源頭，有必要對其提出相應規制。控制住制作者這一源頭，將極大地減小對于后面環節法律監管的壓力。其基本義務就是要在換臉視頻顯要位置明確與普通視頻的區分，并標注視頻來源、原作品相關信息、有無授權等。在上傳網絡及平臺進行傳播時，也應再次作出清晰的聲明，告知平臺和平臺用戶其“深度偽造”性質。如果制作者違反主動標識義務，則要承擔過錯侵權責任。

（四）強化技術平臺審查責任

在當前信息時代，平臺為信息傳播提供途徑和載體。如前所述，公民僅為個人學習欣賞研究制作“深度偽造”視頻并不會構成侵權，而一旦上傳至網絡平臺進行傳播，則使其具備了違法可能性。此時，平臺作為一個重要的中間媒介，具有一定的審查責任，防止虛假信息在社會公眾中大量擴散，造成信息混亂、侵權亂象和社會信任危機。但是，由于現階段尚沒有能成熟完備識別篩選“深度偽造”產物的技術，不應給平臺設定過重的義務要求。具體而言，可以根據《信息網絡傳播權保護條例》《民法典》《個人信息保護法》及《電子商務法》等相關規定，適用“避風港”原則，即適用處理侵權糾紛的“通知與刪除”程序。平臺只要履行了一定義務即可被認為履行了審查責任。若怠于履行上述義務，造成相應后果，則需要承擔連帶責任。在“深度偽造”技術產物的制作和傳播過程中，起最主要作用的就是制作者和平臺。因此，為防止“深度偽造”技術的濫用，必須從不同主體權利義務規制角度，建立事前預防和事后救濟相結合的法律規制框架，有效降低法律風險的發生。

（五）加強有關部門互聯網新技術新應用安全評估工作

目前，我國主要負責“深度偽造”技術應用安全評估的監管部門是網信辦及公安機關。這些部門應依據《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等法律法規作出相應對策，不斷建立健全事前、事中及事后的監督體系。在事前做好規定，要求“深度偽造”互聯網平臺及時實行自我監督，定期評估，并向有關部門備案報告，有關部門也要及時作出回應，必要時應依據職責開展現場檢查。在事件中相關部門應開展定期和不定期的巡查工作，把監管落到實處，嚴格規范制度和程序。在事后及時采取有效整改措施，予以補救和懲戒，與社會各界共同維護網絡傳播秩序，營造良好網絡生態。

結束語：

隨著人工智能的不斷發展，“深度偽造”技術將“換臉”“換聲”等變成了可能，不可避免地引發了一系列關于人格權保護方面的法律風險問題。從人格權保護角度，根據不同責任主體義務分析了法律規制的方向和路徑，旨在構建一個較為完善、層次分明的法律規制體系，將零散的法律法規進行整合，填補法律漏洞和空白。但是，對于“深度偽造”帶來的風險，除了要在法律層面予以完善，還應在技術及公眾意識層面不斷加強，才能形成社會合力，有效避免侵權現象出現，在個人權利得到保障的前提下實現技術進步。