網絡傳播中“深度偽造”技術及其產物的刑法規制

范玉吉 于雅潔

一、引言

互聯網的極速發展，帶來的是用戶的極速增加，據Hootsuite 和We Are Social發布的一份報告顯示，截至2021年7月，全球互聯網用戶已達48億，占世界總人口的61%；全球移動用戶已達52.7億，占世界總人口的67%；全球社交媒體用戶達44.8億，幾乎相當于全世界總人口的57%。網絡用戶數量的激增，對各類網絡應用技術的發展產生了巨大的推動作用，許多新的技術在滿足用戶需求的同時，也帶來了許多意想不到的新問題，科技的每一次突破都可能帶來意想不到的“副產品”，如人工智能技術領域的技術創新日新月異，而“深度學習”技術就是其中一例，但由其引發的“深度偽造”（Deepfake）技術，卻給網絡傳播帶來極大的負面影響。任何技術都具有其“陰暗面”，許多技術僅僅是因商業利益的驅動而非為滿足用戶的需要而開發的。因此，這些技術為日常生活帶來一定便利的同時，也會引發不少風險。用戶數量的增加不僅僅反映了網絡空間的繁榮，同時也帶來了網絡犯罪量的激增。

“深度偽造”這一術語最早產生于2017年，由“深度學習”和“偽造”（fake）兩個詞合成，是一種利用生成對抗網絡等深度學習模型來創建逼真的虛假圖像和視頻的技術。根據《現代漢語詞典》的解釋，“偽”是“有意做作掩蓋本來面貌的”，是“虛假”，與“真”相對，同時也有“不合法”的意思。雖然“深度偽造”與“深度合成”技術原理相同，但“深度偽造”技術及其產物更加突出其虛假性。因此，本文所指“深度偽造”技術及其產物主要是針對“深度偽造”生成的圖像、音頻、視頻等，主要關注這種技術的欺騙性及其偽造生成物的危害性。

刑法作為重要的社會治理工具，主要是通過對違法犯罪者實施刑罰以達到保護公民權利、保障社會穩定、保衛國家安全的目的。因此，刑法既有保護權利的功能，也有保障秩序的功能。由于刑罰手段的嚴厲性，刑法一般作為抑止違法犯罪行為，維護社會秩序的最后手段，這是刑法謙抑性原則的體現。但當代社會學的研究表明，工業社會經由其本身系統制造的危險而身不由己地突變為風險社會。隨著網絡和信息技術的發展，社會風險對刑法的謙抑性原則提出了挑戰，刑法的保護秩序功能超越保障權利功能成為主導，預防犯罪的功能更加突出。

本文以“深度偽造”技術及其產物為研究對象，梳理網絡傳播中“深度偽造”技術及其產物可能侵害的法益種類，通過論述刑法規制的正當性，提出在堅持罪刑法定原則前提下的刑事規制路徑，為營造天朗氣清、生態良好的網絡空間提供參考。

二、“深度偽造”技術及其產物

所謂“深度偽造”就是將計算機獲取的他人的音頻、圖片、視頻等生物信息數據交給“智能算法”，然后在深度學習的基礎上由智能算法自動完成偽造操作。“深度偽造”技術依托深度學習使得偽造的行為脫離了人工的直接參與，僅通過人工智能就可以自動完成。它將偽造從被動性偽造推入了自主性偽造的全新階段，“深度偽造”不再是單純的復制和冒用，而是全新的生產。這種偽造技術生產出來的產品不同于傳統的拼接式偽造（如Photoshop圖片處理技術，即PS技術），一般的監測手段很難發現其中的“拼接”痕跡，它是一個完整的“新作品”，具有極大的迷惑性，被濫用甚至是亂用后，會成為新的犯罪工具。根據“深度偽造”技術類型進行分類，主要可分為圖片、語音和視頻三種類型，其偽造“作品”的類型雖然不同，但其原理卻有極大的相似性。

（一）圖片的“深度偽造”

圖片偽造并非新生事物，在傳統感光膠片時代圖片偽造就時有發生，但因為偽造技術難度大，所以發生的概率并不高。在膠片攝影的年代里，攝影師完成拍攝后，要想后期改動攝影作品中的視覺元素，其技術成本和時間成本都很高，需通過暗房在負片上加減修改的部分，然后重新顯影、定影，并使用顏料、刻刀等工具進行細節修飾。在數碼攝影出現后，影像編輯軟件功能雖然可以在短短幾分鐘內就改變一張照片的色溫、色度、色彩等視覺元素，甚至是影像的疊加和某些視覺元素的增刪都變得易如反掌，但由于這種偽造后的視覺元素分布過于均勻、對稱、整齊、有規律，而且拼接痕跡明顯，極易被識破，如 2006年路透社黎巴嫩籍攝影記者阿德南·哈吉拍攝的關于黎以沖突的照片就被發現使用了PS技術造假。而運用數字圖像編輯軟件則大大降低了篡改難度，且提高了被識破的難度，其主要是運用生成對抗網絡（Generative Adversarial Network，GAN）提供的一種基于零和博弈的高質量圖像偽造方法，直接由隨機噪聲通過深度神經網絡生成圖像。原始 GAN 經過不斷改進發展，已經可以生成高分辨率的逼真圖像。GAN 偽造圖像與傳統偽造圖像相比，不存在圖像拼接以后留下的痕跡，所以傳統的偽造圖像檢測技術無法有效甄別GAN 偽造圖像。圖片偽造技術不僅破壞了新聞圖片的真實性原則，更為網絡色情泛濫提供了“技術支持”。

（二）語音的“深度偽造”

語音的“深度偽造”主要包括身份風格偽造、語音音色偽造與語音韻律偽造三部分。風格偽造主要是對聲學特征的偽造，每個人語音的聲紋特征都具有獨特性，計算機系統通過對說話人的語音進行靜音剔除和降噪等技術處理以得到純凈有效的語音片段，之后提取出特定語音對應的聲學特征參數，根據系統建模算法得出說話人的特征模型。音色偽造主要是通過儲存大量目標說話人的語料庫，然后通過波型拼接式語音偽造技術，將在大量自然語流中豐富的語音單元按照一定的規則拼接，得到高自然度與相似度的語音。韻律偽造是模擬目標說話人在日常生活語言交流中的態度、思想以及注意力等個性化信息。一個好的韻律預測可以讓偽造語音與真實語音相比難以判斷，從而進一步提升語音偽造水平。2018年，蒙特利爾大學的三名博士聯合創辦了一家名為“琴鳥”的公司，開發出了一種“語音合成”技術，只要對目標人物的聲音進行1分鐘以上的錄音，把錄音丟給“琴鳥”處理，就能得到一個特別的密鑰，利用這個密鑰可以用目標人物的聲音，生成任何想說的話。

（三）視頻的“深度偽造”

視頻“深度偽造”的技術較聲音和圖片的偽造難度要高，但其基本的技術邏輯仍然是運用相互聯系節點組成的多層神經網絡，通過深度學習，對輸入的數據進行自動計算，并根據特定的建模由算法在訓練的基礎上來完成特定視頻內容的轉換生成任務。通俗地講，就是將目標人物（比如明星、政治家等）的不同角度、不同姿態、不同表情的視頻進行深度的學習，提取其必要的特征數據，并根據特定的建模進行新的運算，在反復訓練的基礎上自動生成偽造的視頻，并將其覆蓋到原有視頻人物的形象之上，形成新的“視頻”。其實質可以簡單理解為從現有“源數據”（目標人物）中通過算法生成“新數據”（偽造視頻）的過程。前期的偽造視頻生成主要依靠共享權重的自動編碼器，生成對抗網絡（GAN）的出現克服了自動編碼器刻意逼近真實數據概率分布的缺點，使得生成的偽造視頻更難以分辨。同時，一些團隊還提出了多種改進的 GAN算法，以實現更逼真的“偽造”效果。“深度偽造”技術以假亂真給個人和社會都造成了現實的威脅。但是，目前還沒有一個完美的解決方案能夠有效阻斷“深度偽造”內容的傳播。目前流行的基于VGG（Visual Geometry Group）的深度卷積神經網絡和Google工程師的人臉識別系統FaceNet都無法抵御“深度偽造”視頻的“攻擊”，唇同步、圖像質量度量等其他方法也存在非常高的錯檢率。“深度偽造”主要通過修改或生成新的人臉——包括修改表情、口型、臉型以及合成新臉等四種模式來達到偽造的逼真效果，其中影響最為惡劣的應用模式是換臉型和對口型。

“深度偽造”技術和針對“深度偽造”的防偽技術一直在進行博弈，但是目前完全用技術手段來抵抗技術風險還是存在太多的不確定性。因此，用預防刑法的理論加以預防，也許會成為最有效的手段。

三、“深度偽造”的法益侵害類型

技術本身是中立的，不中立的是使用技術的人。“深度偽造”技術所依賴的生成對抗網絡、深度學習、多層神經網絡等技術本不具有負面價值，但被人非法利用生成造假工具，就產生了危害類型各異、危害程度不同的犯罪行為。目前，Github開源社區中有Faceapp、Faceswap、Deepfacelab、Openfacewap等數量眾多的“深度偽造”項目，大部分項目都提供了一鍵式操作的應用程序，極大降低了“深度偽造”技術使用的門檻，也大大增加了偽造技術被濫用的可能性。

（一）侵犯公民人身權利、財產權利

1.合成色情圖片與視頻，侵犯人身權

利用“深度偽造”技術制作內容最常見的犯罪行為就是傳播淫穢色情。2017年12月，一個名為“deepfake”的用戶在“Reddit”網站發布了一段假冒好萊塢知名女演員蓋爾·加朵的臉插入到色情場景中，在全世界范圍內引起了巨大轟動，這是“深度偽造”技術第一次被廣泛關注。隨后，利用“深度偽造”技術制作的色情視頻與圖片層出不窮，據安全分析公司Sensity調查顯示，2019年7月“深度偽造”的總數達到14678個，相比于2018年12月的7964個造假視頻量幾乎翻了一番。而截至2020年6月，造假視頻已多達49081個，較2019年7月增長了330%以上。而在2019年公布的14678個“深度偽造”作品中，假色情視頻占據了96% 。2019年4月，一位印度女記者因為揭露印度古吉拉特暴亂中官員的黑幕和不作為而遭到報復，以其為主角的“深度偽造”色情視頻在社交媒體上傳播，并且視頻中還出現了她的家庭住址等信息，使其承受巨大的精神折磨，最后不得不斷網乃至住院治療。“深度偽造”被應用于合成色情圖片與視頻，是對公民名譽權、肖像權、聲音權等人身權利的侵犯，一般情況下公民可以通過提起民事訴訟尋求救濟。考慮到目前網絡與自媒體的發達程度與傳播速度，其負面影響短期內難以消除，且傳播趨勢具有不可控性。當這類色情制品搭乘網絡傳播這趟快車時，其產生危害的嚴重性已經超越民法所調整的范疇，達到《中華人民共和國刑法》（以下簡稱《刑法》）第246條所規定的“情節嚴重”的情況，應當按照“侮辱、誹謗罪”追究相關人員的刑事責任。

2.制作3D頭像破解人臉識別系統，侵害財產權

隨著人工智能技術和大數據的興起，“生物識別”因其高效、快捷、準確等優勢逐漸成為各類軟件普遍采用的身份信息識別方式。個人生物信息具有普遍性、唯一性及穩定性。在眾多生物信息中，人臉相較于指紋等生物信息具有可遠距離獲取的優勢，但這也正是隱患之所在。人臉識別支付已成為金融支付領域的一種重要支付方式，其將人臉圖像信息與個人身份信息和銀行賬戶信息進行關聯，在支付過程中，通過采集人臉信息進行身份鑒別，達到認證身份進而合法授權支付的作用。利用“深度偽造”換臉技術制作的假視頻足以以假亂真，生成的假人臉或假視頻可以欺騙人臉驗證系統，對人臉識別支付系統安全威脅極大。

目前，利用“深度偽造”的相關軟件并結合3D打印技術，可以生成并制作高清的3D面具，對人臉識別支付系統的安全性構成了巨大的潛在危險。據財富中文網2019年12月18日報道，美國人工智能公司Kneron使用由日本特種面具制造商專門定制的高質量3D面具，成功地欺騙了人臉識別系統，完成購物支付程序，其中包括中國的微信和支付寶的人臉識別支付系統。計算機科學家們同時還進行了一場與Kneron相似的實驗，他們使用從Facebook上獲取的圖片，也成功地騙過了人臉識別傳感器。

隨著“人臉識別”技術的優化，愈來愈多的系統采用該技術進行身份認證和支付認證。而隨著這類應用技術的普及，利用“深度偽造”技術制作 3D頭像破解人臉識別系統的行為不斷增加，其所引發的破解“人臉識別”系統的違法犯罪活動也逐漸增多。2021年3月，上海市虹口區人民檢察院公訴一起特大虛開增值稅普通發票案，犯罪嫌疑人就通過對他人的高清頭像和身份證信息進行技術處理，讓照片“動起來”，形成包括點頭、搖頭、眨眼、張嘴等動作視頻，從而破解人臉識別技術，虛開增值稅普通發票，合計超過5億元。2020年1月，浙江省衢州市中級人民法院對一起侵犯公民個人信息的刑事案件進行二次審判。據判決書顯示，自2018年7月開始，被告人以牟利為目的，通過使用軟件將非法獲取的公民頭像照片制作成3D頭像，從而通過支付寶人臉識別認證注冊賬戶，非法獲利30324元。2019年，四川省成都市郫都區人民法院審理了一起利用3D人臉動態圖破解支付寶人臉識別認證系統的案件，被告人非法獲利2.4萬余元。作為一種新的犯罪類型，利用“深度偽造”技術制作 3D人像破解人臉識別系統的犯罪手段具有較大的危害性，除了對公民財產權利構成侵犯外，還可能構成破壞金融管理秩序罪，如除對金融系統等需要身份認證的網絡系統進行破壞外，“深度偽造”對公民財產權利破壞應用最多的場景就是網絡詐騙。聲音偽造在網絡詐騙和電信詐騙中的發案率比較高，有一些“猜猜我是誰”的升級版已經不需要用“猜”，因為“聲音”告訴對方自己就是可信任的“朋友”，被騙者完全放松了警惕。隨著AI換臉的偽造視頻出現，利用視頻聊天來“面對面”行騙的危害就更大，受害人被騙的可能性很高，不能不加以嚴厲打擊。

（二）妨害社會管理秩序

1.制作虛假新聞，造成社會信任危機

虛假新聞已經成為世界公害。美國皮尤研究中心2019年6月的一份報告稱，許多美國人都認為虛假新聞已經成了一個迫切需要解決的關鍵問題。鑒于對虛假新聞的擔憂，美國人開始改變自己新聞獲取和閱讀的習慣，約 63%的人不再從某個特定媒體渠道獲取新聞，約 52%的人改變了他們使用社交媒體的方式，約 43%的人減少了他們接受新聞的數量。網絡傳播中虛假新聞的危害不同于網絡詐騙的違法犯罪行為，后者的危害性直接且顯而易見，而前者的危害則來自眾多不良影響的疊加，并且具有一定的持續性。新聞以傳遞信息為主要目的，而信息是為了消除人們工作和生活中的隨機不確定性。如果新聞失真，就會對人們的工作和生產造成影響。首先，虛假新聞影響受眾的決策與行為。利用“深度偽造”生產出的虛假新聞，可能誤導公眾的決策、誤導輿論方向、引發受眾的模仿。其次，“深度偽造”的新聞對于一般受眾來說很難辨識，所以其在誤導輿論方面危害十分明顯。目前算法技術的發展使“個性化推薦”的應用普遍存在。“深度偽造”技術與算法結合，分析用戶喜好，推送符合其偏好的內容，潛移默化地加深了固有的認知模式，塑造了受眾的認知偏好，使得虛假信息更具吸引力，其傳播速度比真消息更快 ，閱讀量也更高。再次，由于“深度偽造”技術門檻逐漸降低，網絡傳播中基于“深度偽造”技術生產的虛假新聞隨處可見，一般通過“換臉”視頻或圖片配以對應的文字進行播報。此類虛假新聞不僅可能侵犯原視頻或圖片作者的著作權，包括修改權、保護作品完整權、信息網絡傳播權等合法權益，而且還可能侵犯原作品表演者的表演權。最后，這些十分逼真的虛假新聞在欺騙了受眾后，會使受眾對媒體產生不信任感，進而影響媒體的公信力。

2.偽造證據，妨害司法

法律注重證據，證據的真實性將直接影響案件的判決結果。“深度偽造”的內容被用作證據時，由于缺乏對此類虛假影像資料的鑒別技術，虛假內容將對司法實踐產生巨大的挑戰。2021年播出的電視劇《巡回檢察組》中就出現了篡改監控視頻，將故意殺人偽造成過失致人死亡的情節，其中篡改視頻的技術正是“深度偽造”。雖然此類行為是以電視情節的方式出現，實務中尚未出現案例，且對技術、資金要求較高，但隨著“深度偽造”技術門檻的降低與人工智能的發展，并不能保證此類行為不會成為現實案例。法律面前人人平等，任何違法犯罪行為都應當受到法律的制裁，法律的尊嚴與權威不容踐踏。用“深度偽造”技術制造證據，會構成妨害司法的犯罪。

（三）危害國家安全、公共安全

根據ASI數據科學公司的一項測試，通過語音生成算法，只需要借助兩小時的語料并訓練五天時間，就可以模擬出一份以假亂真的特朗普向俄羅斯宣戰的語音。由于網絡傳播解構了傳統意義上信息傳播的壟斷、控制、地域、國家等限制，傳播范圍具有全球性。如果不法分子利用“深度偽造”技術發布煽動反對政府、挑撥民族和諧、分裂國家政權等內容的視頻，再利用網絡傳播的全球性在各類網絡平臺中傳播，極易引發危害國家安全、危害公共安全、妨害社會管理秩序等犯罪，甚至還會對地區安全、國際和平造成巨大的影響。

綜上所述，“深度偽造”技術的不當運用不僅侵害公民、法人的民事權益，還對社會、國家造成危害，其危害程度已經超出了民法調整的范圍，因此需要用刑法進行及時應對。

四、刑法規制正當性：秩序與自由之爭

秩序與自由都是法律所保障的具體價值。秩序是法的目的性價值中的基礎性價值，“與法律永遠相伴隨的基本價值，便是社會秩序”。秩序意味著控制，意味著社會對人的行為加以限制與禁止。《刑法》第2條明確規定了刑法的任務是保護公民權利、維護社會秩序、保衛國家安全，這是秩序價值在刑法中的體現。刑法通過刑法規范，以犯罪行為人的行為為對象，以刑事制裁為手段，實現對社會行為的控制。刑罰是最嚴厲的一種法律制裁，它只能由國家有組織地實施。刑法規范是強制性規范，是社會秩序的最后保障。自由是社會價值體系中的核心要素之一。自由并不意味著“隨心所欲”，法律尊重自由，也保障自由，但自由在實際中卻受到諸多限制，一個人的自由以他人的權利為邊界，這就是基本的社會規范，也是基本的法律規范。社會規范對自由的限制包括自我限制與外在限制。自我限制是指主體主動遵循社會規范，外在限制是主體被動遵守社會規范。自由價值在刑法中體現為罪刑法定原則，該原則規定“法無明文規定不處罰”，目的在于限制國家濫用刑罰權，保障公民的自由。秩序與自由之間存在矛盾，但這種矛盾不是根本性、對抗性的沖突，在刑法中二者處于動態平衡的狀態，在不同背景下有所側重。例如，《刑法》第246條第2款將侮辱、誹謗罪規定為“告訴才處理”的犯罪，但嚴重危害社會秩序和國家利益的除外。根據該條規定，一般情況下公民享有訴與不訴的自由，此時注重自由價值；一旦出現危害社會秩序和國家利益的情形就要強制提起公訴，此時秩序高于自由。

傳統刑法注重刑法的懲罰功能，以罪責理論為基礎，充分體現了對公民權利和自由的保障，符合法治國家的要求。但是，面對新型的技術風險時，傳統刑法滯后性的負面影響逐漸顯現，面對新型犯罪出現“無法歸責”的尷尬局面。這是因為傳統刑法強調的是刑法的事后應對，將實害結果作為刑法治理的出發點。然而，以“深度偽造”為代表的技術與網絡傳播相結合，其風險往往具有危害的嚴重性、影響的全球性和災難的不可恢復性，如“深度偽造”中的“換臉”是由于面部生物信息泄露后引發的，不法侵害一旦發生便無法挽回，因為密碼信息泄露可以重新更換一組，但受害人個人信息泄露卻無法重新更換。為了防患于未然，法律必須對潛在的法益侵害加以防范。那么，以維護社會秩序為己任的刑法，面對新興技術風險必須作出相應的回應，必須從事后懲罰轉向事前預防，以保障法益不被實際侵害。

法律是社會的重要調節器，法律應當對社會問題作出積極的回應。當技術風險帶來的犯罪危害超越傳統犯罪產生的危害后果時，就應當堅持功能主義的立法觀，主動介入變化了的社會生活及其社會實踐。一方面，將傳統刑法以自由為重心的價值取向，轉變為以秩序為重心，對“深度偽造”的自由和其偽造物傳播的自由進行限制，強調傳播秩序的價值和法益保護的重要性。另一方面，注重發揮刑法的預防功能，防止不可逆轉的法益侵害后果發生。萬物互聯的今天，網絡空間已成為億萬民眾共同的精神家園，而“深度偽造”產物的大肆傳播，污染了原本良好的網絡生態環境，有人利用網絡鼓吹推翻國家政權、煽動宗教極端主義、宣揚民族分裂思想、教唆暴力恐怖活動，利用網絡進行欺詐活動，散布色情材料，嚴重破壞了社會秩序，危及國家安全，讓民眾感到不安與恐懼。在此特定背景下，民眾對于穩定秩序和維護安全的渴望超越了對自由的追求，通過發揮刑法的預防功能，阻止侵害公民權利、擾亂社會秩序、挑起各種爭端的犯罪行為發生。

五、刑法規制路徑：公平分配各主體責任

“深度偽造”是人工智能技術發展帶來的負效應，雖然其對社會造成了潛在的技術風險，但法律卻并不能直接對技術本身進行規制，刑法規制的客體是利用“深度偽造”及生產內容進行犯罪的行為。2020年1月1日起實施的《網絡音視頻信息服務管理規定》就規定，“網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識”。對于違法違規內容，網絡音視頻信息服務提供者應及時停止傳輸該信息，并采取消除等處置措施，防止信息擴散。“深度偽造”技術及其生產的內容在網絡中的傳播是一個完整的產業鏈，在這個產業鏈上包括了技術提供、內容生產、內容傳播、網絡服務等不同主體。各主體所處位置不同，發揮的作用也不同，因此所要承擔的職責也各不相同。面對新興風險，雖主張發揮刑法的積極預防作用，但罪刑法定原則始終是刑法的核心。因此，“深度偽造”技術刑事規制中最主要的步驟在于明確各主體的責任即主觀要件。在違法行為已經發生，即法益已經遭受侵害的前提下，根據各主體的主觀要件來分析其責任，從而判斷其行為是否構成犯罪，是否應當受刑罰處罰。

（一）技術提供者

這里的技術提供者主要是指提供“深度偽造”技術的軟件開發者、網站制作者等。技術提供者的主觀責任分為故意和過失。“故意”是指技術提供者開發“深度偽造”技術軟件的目的是用于犯罪，那么該技術提供者的行為構成犯罪。例如，“DeepNude”（深裸）就是依托“深度偽造”技術開發出來的軟件，使用者僅需提供任何一張女性的照片，該軟件就可以通過算法自動生成裸體照片。這類軟件開發者的主觀惡意明顯，這些軟件嚴重侵害了女性的人身權益，也因傳播淫穢色情而妨害社會管理秩序。“過失”是指技術提供者未盡到其應盡的注意義務。技術提供者基于其專業的知識背景，對其開發制造的產品及其影響應當承擔與其能力相當的注意義務。雖然技術提供者應當為自己未盡到注意義務而承擔責任，但注意義務也存在限度，畢竟“法律不能強人所難”。根據《刑法》第15條規定，違反注意義務是構成過失犯罪的必要非充分條件。也就是說，當技術提供者未盡到注意義務時，是否成立過失犯罪應當具體問題具體分析。原因在于技術具有“自主性”，“深度偽造”技術作為人工智能的產物，具備深度學習能力，可能與其他技術耦合而產生超出技術提供者預期的“新技能”，技術提供者對此類結果不具有期待可能性，此時要求其承擔刑事責任不符合罪刑法定原則的精神。

（二）內容生產者

“深度偽造”的內容生產者是技術的使用者，他們運用“深度偽造”技術進行文本、圖片、音頻和視頻的偽造。我們一直樂觀地堅持技術中立的觀念，對技術所帶來的效益懷有極高的、不理性的期待。但事實卻往往與愿望相左，技術中立并不等于技術使用也是中立的，技術會被使用者帶偏方向，走向人類良好愿望的反面。技術風險的特征之一是“人為性”，即技術使用者可以用善意來為人類創造價值，但是也可能懷有惡意而給人類帶來災難。除個別用于音樂、影視、廣告等娛樂領域外，大部分“深度偽造”的內容都可能與違法犯罪活動有關聯，除了色情視頻泛濫之外，人們更擔心的是侵害公民隱私、威脅信息安全、制造社會矛盾、破壞民族團結、操縱政治選舉、煽動分裂國家等方面的問題。上述行為可根據《刑法》第363條制作、復制、出版、販賣、傳播淫穢物品牟利罪，第364條傳播淫穢物品罪，第291條之一編造、故意傳播虛假恐怖信息罪，編造、故意傳播虛假信息罪，第246條侮辱罪、誹謗罪，第249條煽動民族仇恨、民族歧視罪，第120條之三宣揚恐怖主義、極端主義、煽動實施恐怖活動罪，第103條煽動分裂國家罪，以及第105條煽動顛覆國家政權罪等條款，對生產相關“深度偽造”內容者進行處罰。對于“深度偽造”內容的生產者來說，一般都明知自己的行為會產生什么樣的危害后果，并且還希望或放任這種結果發生，因此屬于故意犯罪。

（三）內容傳播者

“深度偽造”內容傳播者的主觀責任僅包括故意。對于內容傳播者而言，不管是首發還是轉發，都應當對傳播內容的真實性、合法性有注意義務。在不能確信傳播內容真實性和合法性的情況下，應當停止對該內容的傳播。所以，從立法的原意來看，之所以強調傳播者的主觀責任僅包括故意，就是為了強化注意義務。一旦傳播者傳播某一“深度偽造”的內容，不管他是否明知該內容虛假不實、違規違法，都推定該傳播者明知或者應知該內容真實合法。《刑法》第363條關于傳播淫穢物品入罪的條件是“以牟利為目的”，而第364條“傳播淫穢物品罪”則沒有，但都有“情節嚴重”這一入罪條件。《最高人民法院、最高人民檢察院關于辦理利用互聯網、移動通訊終端、聲訊臺制作、復制、出版、販賣、傳播淫穢電子信息刑事案件具體應用法律若干問題的解釋（二）》對“情節嚴重”和“情節特別嚴重”進行了量化。如果傳播淫穢物品達到“情節嚴重”的標準，則不管是否以牟利為目的，都構成犯罪。

（四）網絡服務提供者

網絡服務提供者在網絡傳播時代的職責主要是為內容生產者和傳播者提供平臺、通道，它既不生產內容，也不直接傳播內容，但卻和內容的傳播、意義的產生關系十分密切。參考《中華人民共和國民法典》第1194條至1197條的相關規定，網絡服務提供者是網絡傳播過程中法律責任的主要承擔者之一，這種責任主要包括：當網絡用戶利用網絡服務實施犯罪后，收到通知就必須采取刪除、屏蔽、斷開鏈接等必要措施，不采取措施也應承擔刑事責任；網絡服務提供者知道或者應當知道網絡用戶利用其網絡服務實施犯罪，未采取必要措施的應承擔刑事責任。由此可見，網絡服務提供者因不作為而造成后果的需要承擔刑事責任。《網絡音視頻信息服務管理規定》第12條和《中華人民共和國網絡安全法》第47條都規定，網絡音視頻信息服務提供者發現音視頻信息服務使用者制作、發布、傳播法律法規禁止的信息內容的，應當依法依約停止傳輸該信息，采取消除等處置措施，防止信息擴散，保存有關記錄，并向有關部門報告。停止傳輸違法信息、消除違法信息等措施具體包括刪除、屏蔽、斷開鏈接等，對于未履行規定義務的網絡服務提供者可以按照《刑法》第286條的“拒不履行信息網絡安全管理義務罪”進行處罰。

六、結語

通過刑法的預防功能規制“深度偽造”技術帶來的犯罪風險雖然有不可低估的作用，但是其所伴隨而生的問題也無法回避。首先，對“深度偽造”的風險評估難，對風險的認知與評估容易受到主體主觀因素的影響，不易量化，無法做到準確測定。安全問題是社會心理構造之下的產物，公眾對于風險的認知與評估差異性大，因此可能并不切合實際，由此容易導致對安全的訴求也不一定合乎理性。其次，強調刑法的秩序價值易造成對公民自由的侵害，因為對風險的預判缺乏統一性與確定性，那么也就可能模糊了刑法與行政法的邊界。最后，過度的規制會阻遏技術和經濟的發展，為了某種夸大的技術風險而使刑法對“深度偽造”從嚴規制，加強了法律限制，進而可能妨礙甚至制約信息技術的發展。