“深度偽造”技術(shù)的刑法規(guī)制體系構(gòu)建

李騰

摘?要：作為人工智能應(yīng)用的重點領(lǐng)域，“深度偽造”技術(shù)借助于“深度學習”技術(shù)和“生成式對抗網(wǎng)絡(luò)”模型，能對影音圖像進行高精度合成。刑法規(guī)制“深度偽造”技術(shù)的必要性在于該技術(shù)易被濫用;正當性源于對該技術(shù)的自主性、便捷性、逼真性等特征及其隱患的審視;可行性基于域外有對該技術(shù)進行規(guī)制的立法經(jīng)驗。我國刑法規(guī)制“深度偽造”技術(shù)應(yīng)秉持以下立場：以客觀、中立的態(tài)度審視該技術(shù)的風險與收益，合理控制刑法介入的深度，以發(fā)揮刑法的預(yù)防機能為目標。具體可采取三條規(guī)制路徑：通過強化個人生物識別信息的刑法保護，從前端防范“深度偽造”技術(shù)被濫用;通過增設(shè)“身份冒用罪”，強化個人身份的刑法保護，規(guī)范“深度偽造”技術(shù)的合理使用;通過“通知—刪除”“發(fā)現(xiàn)—標識”“發(fā)現(xiàn)—刪除”義務(wù)的履行，強化網(wǎng)絡(luò)平臺的刑事責任，預(yù)防“深度偽造”的危害后果傳播。

關(guān)鍵詞：“深度偽造”;社會危害;刑法介入;應(yīng)然立場;規(guī)制路徑

中圖分類號：D924.1?文獻標識碼：A

文章編號：1003-0751（2020）10-0053-10

一、“深度偽造”技術(shù)帶來實踐挑戰(zhàn)

2019年8月底，一款名為ZAO的智能換臉軟件爆紅網(wǎng)絡(luò)，該軟件依托“深度偽造”（deep fake）技術(shù)，用戶只需在該軟件的應(yīng)用程序中注冊并上傳自己的頭像照片，即可將視頻中人物的頭像更換為自己的。該款智能應(yīng)用程序的推廣，使得“換臉”對公眾而言不再是難以企及的高端科技，任何人都可以享受“換臉”帶來的娛樂，甚至體驗一次成為經(jīng)典影視劇主角的快感。但是，僅僅數(shù)天后，該款應(yīng)用程序設(shè)計團隊便因用戶隱私協(xié)議不規(guī)范、存在數(shù)據(jù)泄露風險等網(wǎng)絡(luò)安全問題而被工信部約談，隨即該款應(yīng)用程序被微信屏蔽訪問。①智能換臉應(yīng)用程序的“夭折”隱含全社會對“深度偽造”技術(shù)被濫用的擔憂。

在美國，“深度偽造”技術(shù)走紅同樣引發(fā)諸多道德和法律問題。早在2017年11月，美國社交新聞網(wǎng)站紅迪網(wǎng)（Reddit）的一位用戶便通過“深度偽造”技術(shù)，將電影《神奇女俠》中女主角加爾·加多（Gal Gadot）的臉嫁接到色情電影中，并將該視頻上傳至網(wǎng)絡(luò)，引發(fā)了極大轟動。2018年1月，“深度偽造”技術(shù)的應(yīng)用程序正式上線，換臉的對象從公眾人物迅速擴展至親友、同學、同事之間，加劇了合成視頻在網(wǎng)絡(luò)的傳播，紅迪網(wǎng)不得不關(guān)閉“深度偽造”技術(shù)討論區(qū)以減少該技術(shù)被濫用的可能性。同年，加拿大蒙特利爾大學三名博士聯(lián)合創(chuàng)辦的一家名為“琴鳥”（Lyrebird）的公司更是開發(fā)出了“語音合成”軟件，只要對目標人物的聲音進行1分鐘以上的錄音，再將錄音“喂”給該軟件進行學習，就能得到一個特別的密鑰，利用這個密鑰就可以用目標人物的聲音偽造出任何想說的話。②由此，經(jīng)過“深度偽造”技術(shù)處理的視頻、聲音成為具有高度欺騙性的影音資料，使人們不僅陷入“耳聽為虛”的窘境，更陷入“眼見不為實”的認知混亂，而換臉技術(shù)與語音合成技術(shù)的疊加適用更增加了合成視頻的辨別難度，也加劇了各界對“深度偽造”技術(shù)被濫用的擔憂。

作為人工智能技術(shù)發(fā)展的新興領(lǐng)域，“深度偽造”技術(shù)確實能增加社交的互動性、娛樂性，這種功效與國家大力扶持人工智能產(chǎn)業(yè)發(fā)展的初衷是一致的。但是，“深度偽造”技術(shù)被濫用會引發(fā)諸多風險，甚至造成嚴重的危害后果。面對“深度偽造”技術(shù)的“兩面性”，刑法應(yīng)當秉持何種立場來看待技術(shù)革新？在國家尚未對人工智能發(fā)展建立完備的法治體系的背景下，該如何平衡對自由價值的崇尚與對秩序價值的追求？面對“深度偽造”技術(shù)被濫用的風險，刑法應(yīng)以何種路徑對該技術(shù)進行規(guī)制？回應(yīng)上述議題不僅能使我們正視“深度偽造”技術(shù)發(fā)展的利弊并將其限制在合理的應(yīng)用場景，更能在宏觀層面厘清刑法介入技術(shù)發(fā)展的程度，理順技術(shù)發(fā)展與社會應(yīng)用的關(guān)系，以刑事法治保障社會福祉的增加。

二、“深度偽造”技術(shù)的解構(gòu)

當前，“換臉”已經(jīng)成為合成視頻應(yīng)用的代名詞，其所依托的“深度偽造”技術(shù)也進入大眾視野。“深度偽造”作為“深度學習”（deep learning）與“偽造”（fake）的融合，通常是指基于人工智能合成技術(shù)，將已有的視頻、音頻、圖片疊加至目標影片或圖像上，從而創(chuàng)制出新的影音圖像的技術(shù)。③隨著技術(shù)的革新，“深度偽造”技術(shù)已經(jīng)不限于視頻、音頻、圖像的合成與偽造，而成為涵蓋現(xiàn)實偽造與虛擬現(xiàn)實創(chuàng)制的應(yīng)用技術(shù)。“深度偽造”技術(shù)的應(yīng)用所涵蓋的領(lǐng)域包括：第一，通過對視頻中的人臉進行更換，使被替換者能夠?qū)嵤┳约簭奈从羞^的行為;第二，通過對目標對象的口型、語速和面部表情進行重塑，使目標人物表達出非真實性的言論;第三，通過對目標人物的聲音進行學習，創(chuàng)制出目標人物的聲音模型并進行非真實性的語義表達;第四，通過軟件創(chuàng)建現(xiàn)實中并不存在的人物形象。④日本人工智能公司數(shù)據(jù)網(wǎng)格（Data Grid）開發(fā)的人工智能軟件已經(jīng)能自動生產(chǎn)虛擬人物的全身模型，并將之應(yīng)用于未來的服裝行業(yè)。⑤由于音頻圖像合成技術(shù)發(fā)展得較為成熟，“深度偽造”技術(shù)在實踐中主要被用于對視頻、音頻的合成。上述技術(shù)也可以疊加應(yīng)用，如通過人臉和語音的雙重偽造，創(chuàng)制出某一政治家從未發(fā)表過的演講視頻。厘清“深度偽造”技術(shù)通過何種運作機理完成上述合成過程，無疑是理解該技術(shù)的基礎(chǔ)，也是確立刑法在何種程度上介入這一新興技術(shù)領(lǐng)域的前提。

“深度偽造”技術(shù)合成的視頻、音頻之所以能起到以假亂真的效果，主要緣于“學習—監(jiān)督”算法的設(shè)定與應(yīng)用：一方面通過“深度學習”技術(shù)的應(yīng)用，使程序具有對樣本進行深度分析、轉(zhuǎn)化、重構(gòu)的能力，能在短時間內(nèi)提煉出樣本視頻、音頻、圖像的共性，合成新的密鑰，在此基礎(chǔ)上創(chuàng)制學習成果并予以輸出;另一方面通過“生成式對抗網(wǎng)絡(luò)”算法模型的設(shè)定，使“深度偽造”技術(shù)能夠自動、反復(fù)地對已生成的視頻、音頻、圖像進行修正、重構(gòu)，并在自動學習的過程中不斷提升成果質(zhì)量，達到“溫故而知新”的效果。

（一）“深度學習”技術(shù)為“深度偽造”提供算法支撐

“深度學習”作為人工智能在智能化進程中的核心技術(shù)，為“深度偽造”技術(shù)的發(fā)展提供了算法支撐?！吧疃葘W習”技術(shù)通過相互聯(lián)結(jié)的多層次神經(jīng)網(wǎng)絡(luò)，對輸入的數(shù)據(jù)進行分布式信息儲存、大規(guī)模并行處理，并根據(jù)設(shè)定的程序?qū)?shù)據(jù)進行計算分析，完成設(shè)定的任務(wù)?！吧疃葘W習”技術(shù)能在短時間內(nèi)完成對視頻、音頻、圖像的學習并輸出新合成的影音圖像，這成為“深度偽造”走向智能化的技術(shù)基礎(chǔ)。以換臉程序的應(yīng)用為例，當海量的樣本圖片被“喂”給“換臉算法”后，“換臉算法”會對不同場景、角度、光線圖片下的目標人臉進行識別，轉(zhuǎn)換為不同的二進制編碼，并對上述二進制編碼的共性進行提煉，形成新的目標人物的二進制編碼。此后，“換臉算法”會將新合成的目標人物逐幀映射到原有視頻人物的面部，形成新的視頻影像，以此完成對樣本圖片的轉(zhuǎn)化、分析、重構(gòu)。前文提及的“琴鳥”公司創(chuàng)制的“語音合成”軟件也是基于同樣的運作原理，即將目標人物的聲音進行輸入并轉(zhuǎn)換為二進制編碼，在長時間的語音編碼的基礎(chǔ)上將目標人物的語音特點進行提煉，形成新的二進制編碼，他人只要利用這套編碼進行語音轉(zhuǎn)換，就可生成目標人物的語音內(nèi)容。

“深度學習”技術(shù)通過模擬人腦的運行規(guī)律，在此基礎(chǔ)上構(gòu)建一套能夠不斷優(yōu)化學習的神經(jīng)網(wǎng)絡(luò)，連續(xù)對目標數(shù)據(jù)進行轉(zhuǎn)換學習，在大量目標數(shù)據(jù)的基礎(chǔ)上提煉出目標數(shù)據(jù)的共性。隨著算法訓練數(shù)據(jù)量的增大，“深度學習”技術(shù)所提煉出的目標數(shù)據(jù)的共性特征愈發(fā)精確，最終輸出的算法結(jié)果也愈發(fā)接近目標數(shù)據(jù)。只要給予“深度學習”技術(shù)足夠的樣本數(shù)據(jù)，其合成高質(zhì)量的視頻、音頻內(nèi)容就只是時間問題。伴隨著云計算在人工智能領(lǐng)域的廣泛運用，在短時間內(nèi)合成視頻、音頻不再有技術(shù)障礙。

（二）“生成式對抗網(wǎng)絡(luò)”算法模型不斷優(yōu)化“深度偽造”合成效果

“深度學習”技術(shù)為“深度偽造”創(chuàng)制合成視頻、音頻提供了基礎(chǔ)算法，但真正促進“深度偽造”技術(shù)向高質(zhì)量邁進的是“生成式對抗網(wǎng)絡(luò)”算法模型的構(gòu)建。不同于傳統(tǒng)“深度學習”技術(shù)所采用的單鏈條學習網(wǎng)絡(luò)，“生成式對抗網(wǎng)絡(luò)”采用兩條并行的學習神經(jīng)網(wǎng)絡(luò)，在互動式對抗中逐步優(yōu)化學習結(jié)果。其中，第一條學習神經(jīng)網(wǎng)絡(luò)通過對“深度學習”技術(shù)的應(yīng)用，初步創(chuàng)制出合成的影音圖像;第二條學習神經(jīng)網(wǎng)絡(luò)通過將合成的視頻、音頻與樣本數(shù)據(jù)進行對比，對合成效果進行二次驗證;如果合成數(shù)據(jù)與樣本數(shù)據(jù)之間的差異達到一定比例，則新合成的視頻、音頻會被退回到第一條學習神經(jīng)網(wǎng)絡(luò)中重新進行學習、分析、提煉，直到檢測結(jié)果符合設(shè)定的誤差范圍。正是在這種“對抗式”學習過程中，“深度偽造”技術(shù)不斷進行自我學習、自我優(yōu)化，也正是在這種“雙向互動式”學習過程中，兩種算法通過相互監(jiān)督，不斷改進，直至產(chǎn)生高質(zhì)量的影音圖像。在“生成式對抗網(wǎng)絡(luò)”模型設(shè)計中，兩條學習神經(jīng)網(wǎng)絡(luò)中的一條擔負著生成功能，另一條擔負著鑒別功能，兩者能在大數(shù)據(jù)的“喂食”下不斷進行無監(jiān)督學習，各自在進行算法訓練的同時督促對方算法的提升。因此，當訓練數(shù)據(jù)足夠充分時，“深度偽造”技術(shù)創(chuàng)制出的視頻、音頻完全能起到以假亂真的效果。

三、對“深度偽造”技術(shù)進行刑法規(guī)制的證成

“深度偽造”是人工智能技術(shù)的綜合運用，其為現(xiàn)代生活帶來娛樂體驗的同時，也會帶來諸多風險。當風險演化為現(xiàn)實危害時，就需要刑法介入，將該技術(shù)限制在合理的應(yīng)用場景。

（一）刑法規(guī)制的必要性：對“深度偽造”技術(shù)造成現(xiàn)實危害的隱憂

影音圖像的合成并非新興技術(shù)，其關(guān)注度空前高漲只是由于此前合成技術(shù)的應(yīng)用具有較高的壁壘而與普通大眾無緣。令人遺憾的是，合成技術(shù)借助于“深度偽造”技術(shù)“走下神壇”，卻以“異化”的方式進入公眾視野。隨著2017年紅迪網(wǎng)上虛假成人情色視頻的出現(xiàn)，“深度偽造”技術(shù)以一鳴驚人的方式完成了首秀，此后其實踐應(yīng)用日益呈現(xiàn)出“異化”的趨勢。繼前文提及的加爾·加多之后，《哈利·波特》中赫敏的扮演者艾瑪·沃特森（Emma Watson）、《這個殺手不太冷》中女主角的扮演者娜塔莉·波特曼（Natalie Portman）甚至美國總統(tǒng)特朗普的女兒伊萬卡·特朗普（Ivanka Trump）都曾成為合成情色視頻的受害者。在我國，部分網(wǎng)站上兜售的明星情色視頻也使眾多女性成為“深度偽造”技術(shù)被濫用的受害者。⑥這些合成視頻本已嚴重侵犯被害人的名譽權(quán)、肖像權(quán)等基本權(quán)利，再被用來騷擾、侮辱、勒索被害人時，更會給被害人帶來二次傷害。⑦此外，當運用“深度偽造”技術(shù)制作的合成視頻被用于“人臉驗證”領(lǐng)域時，又會造成他人財產(chǎn)損失，特別是在支付型應(yīng)用程序中，行為人通過制作“眨眼”“搖頭”等視頻以模擬被害人，騙過應(yīng)用程序?qū)铙w認證的要求，便可實施貸款、盜刷資金等侵財行為，“深度偽造”技術(shù)由此淪為犯罪工具。⑧

如果說“深度偽造”技術(shù)被應(yīng)用于上述場景僅會對個體法益造成侵害，尚不足以引起重視，當該技術(shù)借助于對他人身份的冒用而影響社會穩(wěn)定時，就會造成更大的危害。特別是當虛假視頻、音頻配合著謠言在網(wǎng)絡(luò)上進行擴散時，不僅會突破時空的限制，加劇控制難度，還極有可能導(dǎo)致社會秩序陷入混亂與無序。⑨例如，當“深度偽造”技術(shù)被應(yīng)用于金融領(lǐng)域時，可能引發(fā)金融體系整體性動蕩。由于金融市場具有對信息高度敏感的特性，任何一條敏感信息的傳遞都會迅速引發(fā)金融市場波動，當行為人制作“黑天鵝”事件的虛假視頻并通過網(wǎng)絡(luò)進行傳播時，在金融市場缺乏預(yù)期的情況下，這一虛假視頻無異于重磅炸彈，資金出于避險需求必然在極短時間內(nèi)大幅流出金融體系，繼而引發(fā)證券、債券、外匯市場的連鎖反應(yīng)，嚴重影響金融市場的穩(wěn)定和預(yù)期。⑩同理，在我國全力迎戰(zhàn)新冠肺炎疫情期間，如果有人利用“深度偽造”技術(shù)制作出某權(quán)威專家發(fā)表“疫情不可防、不可控”的虛假視頻，就極有可能引發(fā)全社會的不穩(wěn)定。在信息爆炸時代，民眾對信息的真?zhèn)坞m然有一定的鑒別能力，但當謠言以視頻的形式出現(xiàn)時，不僅深度契合“眼見為實”的認知共性，更在權(quán)威專家“背書”的基礎(chǔ)上大幅增加謠言的可信度，由此導(dǎo)致虛假視頻、音頻的影響范圍越廣、影響深度和危害性越大。當“眼見不為實”成為社會常態(tài)時，必然會對長期延續(xù)下來的認知體系產(chǎn)生強烈沖擊，激起人們對一切事物的懷疑，直接沖擊社會信任體系。B11由此導(dǎo)致在公共場合需要使用視頻、音頻以佐證相關(guān)行為時，出現(xiàn)無法進行有效證明的窘境，社會信任的基石受到侵害。

上述情況足以引發(fā)社會秩序的動蕩與不安，但“深度偽造”技術(shù)被濫用的危害還不止于此。如果該技術(shù)被用于挑撥國家關(guān)系，則世界范圍內(nèi)地區(qū)穩(wěn)定、國際關(guān)系穩(wěn)定都會陷入不確定的風險之中。當“深度偽造”技術(shù)被用于制造國家間宣戰(zhàn)畫面或者創(chuàng)制并不存在的恐怖襲擊畫面時，極有可能引發(fā)國家間的過激反應(yīng)或者將國家間的對立、沖突推向無法挽回的境地。這種假設(shè)并非危言聳聽。當前，“深度偽造”技術(shù)已經(jīng)能通過對2小時語音資料的深度學習，在5天內(nèi)合成特朗普代表美國向世界任何國家宣戰(zhàn)的語音，語音合成效果真假難辨。B12德國有研究者在“深度偽造”技術(shù)的應(yīng)用上已經(jīng)能將其欲表達的語義及相應(yīng)的表情變化復(fù)制到一些國家領(lǐng)導(dǎo)人的講話視頻中。B13難以想象，這樣的音頻或視頻的傳播會對本已摩擦不斷的世界造成何種影響。

正是由于“深度偽造”技術(shù)的濫用會引發(fā)對個人人身權(quán)利、財產(chǎn)權(quán)利的侵害，引發(fā)社會秩序混亂甚至對國家安全、世界安全造成威脅，所以對“深度偽造”技術(shù)應(yīng)用的擔憂并不是空洞的設(shè)想。這為刑法介入技術(shù)發(fā)展以防范技術(shù)被濫用奠定了現(xiàn)實基礎(chǔ)。

（二）刑法規(guī)制的正當性：對“深度偽造”技術(shù)的特征及其隱患的審視

單純的影音圖形合成并非新興技術(shù)，“深度偽造”技術(shù)之所以引發(fā)社會的擔憂，主要源于該技術(shù)帶來的視頻、音頻合成方式變化為其被濫用提供了極大的便利。較之傳統(tǒng)的視頻、音頻合成技術(shù)，“深度偽造”技術(shù)的特征主要表現(xiàn)為以下三點。

第一，視頻、音頻合成的“自主性”?！吧疃葌卧臁奔夹g(shù)改變了傳統(tǒng)視頻、音頻合成路徑，使系統(tǒng)生成視頻、音頻具有自主性，不僅大大提升合成效率，還極大地降低合成成本?！半m然電影特效和深受廣大網(wǎng)民喜愛的‘PS技術(shù)都是‘無中生有的偽造，但它們是被動性偽造，依賴個體參與，是單一的、獨立性的偽造。而深度偽造借助人工智能技術(shù)，可以實現(xiàn)機器的自主學習，偽造的行為脫離了人的參與，通過人工智能的計算機程序自動完成。它將偽造從被動性偽造推入了自主性偽造的全新階段?！盉14傳統(tǒng)的視頻合成技術(shù)不僅需要大量工作人員對目標人臉的特征進行提取、重構(gòu)并在視頻中逐幀進行替換，還需要工作人員根據(jù)講話內(nèi)容再對目標人臉的嘴型進行修正。這一過程不僅需要專業(yè)團隊的協(xié)作、耗費大量的時間，還難以保證視頻合成效果的流暢性。但是，“深度偽造”技術(shù)使實踐中對目標人臉特征的提取、轉(zhuǎn)化、重構(gòu)工作完全基于“深度學習”后的自動化運作，極大地降低了各項成本投入。

第二，視頻、音頻合成的“便捷性”。在“深度偽造”技術(shù)被廣泛應(yīng)用之前，視頻、音頻合成不僅具有專業(yè)技術(shù)門檻，還需要高昂的費用，普通民眾對此望而卻步。因此，在較長時間內(nèi)，高質(zhì)量的視頻、音頻合成技術(shù)的應(yīng)用場景主要限于商業(yè)影視劇制作領(lǐng)域，難免陷入“曲高而和寡”的境地。但是，“深度偽造”技術(shù)的興起打破了技術(shù)、成本壁壘，視頻、音頻合成成為大眾科技。伴隨著網(wǎng)絡(luò)公司通過應(yīng)用程序?qū)Α吧疃葌卧臁奔夹g(shù)進行推廣，“深度偽造”技術(shù)的受眾面愈發(fā)廣泛，其技術(shù)門檻進一步降低。只要自己的電腦、手機有足夠的運行程序，每個人都可以享受“換臉”帶來的愉悅感。

第三，視頻、音頻合成的“逼真性”?！吧疃葌卧臁奔夹g(shù)基于“對抗式生成網(wǎng)絡(luò)”，使應(yīng)用程序在“生成—鑒別”模型中能夠不斷對樣本數(shù)據(jù)進行分解和重組，而每一次“學習—監(jiān)督”過程的淬煉都會使目標人臉的替換效果更上一層樓。正是在這種無監(jiān)督學習的模型設(shè)計中，“深度偽造”技術(shù)能不斷對合成過程進行打磨，不斷對合成效果進行升級。如果樣本數(shù)據(jù)足夠充分，目標人物表達不同感情時所對應(yīng)的面部表情、在不同光照下面部影像的成像規(guī)律甚至在不同場景中動作習慣的細微變化，均能被“深度偽造”技術(shù)捕捉并予以演繹?！吧疃葌卧臁奔夹g(shù)合成比人工識別更加精準，制作效果更加逼真。

由于“深度偽造”技術(shù)具有“自主性”“便捷性”“逼真性”特征，使得高質(zhì)量的影音圖像合成成為易于掌握的技能，但受眾群體過于廣泛易引發(fā)各種后果，加劇了人們對“深度偽造”技術(shù)的隱憂。如果視頻、音頻合成被用于服務(wù)社會，自然能增進全社會的福祉;但事實是，網(wǎng)絡(luò)的互聯(lián)互通已經(jīng)將世界聯(lián)系為一個整體，數(shù)據(jù)的跨境流動已成為常態(tài)，獲取任何人的視頻、圖片都不再是難事，通過“深度偽造”技術(shù)的應(yīng)用能夠?qū)σ曨l、圖片進行深度學習、完成偽造并將之應(yīng)用于任何場景。特別是對公眾人物而言，涉及其面部特征、語音特征的樣本數(shù)據(jù)較多且易于獲取，通過“深度偽造”技術(shù)進行大樣本的學習和模仿，所制造出的合成視頻、音頻不經(jīng)過專業(yè)性的技術(shù)鑒別就難判真?zhèn)?，由此引發(fā)的危害后果實難控制和預(yù)防。這更加決定了刑法應(yīng)當有所作為，對“深度偽造”技術(shù)的應(yīng)用進行規(guī)制。

（三）刑法規(guī)制的可行性：對“深度偽造”技術(shù)相關(guān)域外立法的借鑒

針對“深度偽造”技術(shù)被濫用所引發(fā)的危害后果，有的國家出臺了專門性立法對該技術(shù)的應(yīng)用場景進行限制，并將部分濫用該技術(shù)的行為視為犯罪行為予以規(guī)制。這為我國對“深度偽造”技術(shù)的濫用進行刑法規(guī)制提供了經(jīng)驗借鑒。

作為“深度偽造”技術(shù)的發(fā)源地，美國嘗試在聯(lián)邦和州兩個層面通過立法規(guī)制該技術(shù)的濫用。在聯(lián)邦層面，2019年6月，由眾議員Clarke提出的《深度偽造責任法案》（Deep Fakes Accountability Act）旨在防止本國及外國勢力利用“深度偽造”技術(shù)對美國大選進行干預(yù)，要求合成視頻創(chuàng)制者以在視頻中添加水印及個人聲明的方式對“深度偽造”技術(shù)進行應(yīng)用;B15對于違反標識義務(wù)，意圖羞辱他人或者干擾政治運作、引發(fā)武力或外交沖突而發(fā)布合成視頻的行為，將面臨最高5年監(jiān)禁的刑事處罰。B16在州層面，2019年7月，弗吉尼亞州對《復(fù)仇情色法案》（Nonconsensual Pornography Law）進行修正，將利用“深度偽造”技術(shù)合成他人情色視頻、圖片并予以傳播的行為定義為“未經(jīng)他人同意而將他人的色情視頻、圖片予以傳播”的犯罪行為，對該行為可判處最高12個月監(jiān)禁及2500美元罰款。B17由此，弗吉尼亞州成為美國第一個對“深度偽造”技術(shù)進行立法回應(yīng)的地區(qū)。同年9月，旨在防止“深度偽造”技術(shù)影響選舉公正性并保障選舉安全的得克薩斯州《以虛假視頻干預(yù)選舉結(jié)果的刑事犯罪法案》（Relating to the Creation of A Criminal Offense for Fabricating A Deceptive Video with Intent to Influence the Outcome of An Election Bill）生效，該法案將利用“深度偽造”技術(shù)在選舉30日內(nèi)制作有關(guān)候選人的虛假視頻并進行傳播的行為規(guī)定為犯罪行為。B18同年10月，加利福尼亞州通過了《730號議會法案》（Assembly Bill No.730），將在選舉前60日內(nèi)制造、傳播經(jīng)過篡改的有關(guān)政治家、選舉候選人的視頻、音頻、圖像的行為視為犯罪行為。B19與美國的治理模式不同，歐盟并未針對“深度偽造”技術(shù)出臺專門性立法，而是以《通用數(shù)據(jù)保護條例》（General Data Protection Regulation）為依據(jù)，將數(shù)據(jù)權(quán)作為獨立的憲法性權(quán)利和公民基本權(quán)利予以保護，以規(guī)范數(shù)據(jù)采集、儲存、保管、應(yīng)用流程，應(yīng)對“深度偽造”技術(shù)被濫用對公民身份的冒用和隱私的侵犯。B20

從上述立法例可以看出，域外立法以刑事責任規(guī)制“深度偽造”技術(shù)被濫用的邏輯在于：限制該技術(shù)的應(yīng)用場景，對以影響選舉為目的制作并傳播合成視頻、音頻、圖像的行為予以限制或禁止，對制作、傳播未經(jīng)他人同意的合成色情視頻、音頻、圖像的行為予以禁止;通過要求制作者對使用“深度偽造”技術(shù)制成的視頻、音頻、圖像進行標記，防止該技術(shù)被用于非法場景;通過加強前端生物識別信息和數(shù)據(jù)權(quán)利保護，防范“深度偽造”技術(shù)被濫用。

我國尚未針對“深度偽造”技術(shù)出臺專門性法規(guī)，但2019年11月18日國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（以下簡稱《規(guī)定》）明確要求，網(wǎng)絡(luò)音視頻信息服務(wù)提供者、使用者在對基于深度學習和虛擬現(xiàn)實技術(shù)合成的視頻、音頻信息進行制作和傳播的過程中，應(yīng)當進行明顯的標識，同時不得利用上述技術(shù)制作、發(fā)布、傳播虛假新聞。B21這一方面通過明確制作者的標識義務(wù)以區(qū)分視頻、音頻是否系合成，另一方面通過禁止“深度偽造”技術(shù)在新聞信息領(lǐng)域的應(yīng)用而限制該技術(shù)的應(yīng)用范圍，確保新聞信息發(fā)布的準確性、權(quán)威性?！兑?guī)定》通過具體的技術(shù)路徑設(shè)置展現(xiàn)了國家層面對“深度偽造”技術(shù)應(yīng)用要區(qū)分場景的規(guī)制態(tài)度，對于未來出臺相關(guān)國家立法具有指導(dǎo)性意義。由于《規(guī)定》對“深度偽造”技術(shù)應(yīng)用場景的區(qū)分不夠細化以及缺乏配套的規(guī)制措施，使得其缺乏可操作性。例如，個人基于娛樂的目的，利用“深度偽造”技術(shù)將自己或朋友的頭像與經(jīng)典影片中的情節(jié)合成新的視頻并在社交網(wǎng)站上與他人分享，但并未履行標識義務(wù)，對此行為該如何規(guī)制？《規(guī)定》中并沒有具體的應(yīng)對措施。再如，有人利用“深度偽造”技術(shù)對央視新聞聯(lián)播的內(nèi)容進行拼接、合成并在網(wǎng)絡(luò)上傳播，但系以幽默、詼諧的方式贊揚國家發(fā)展成就，該行為是否屬于《規(guī)定》禁止的偽造新聞行為而應(yīng)一律禁止？這恐怕也值得商榷。對于視頻、音頻的制作者未履行《規(guī)定》中的標識義務(wù)和禁止適用義務(wù)，《規(guī)定》中并沒有相應(yīng)的規(guī)制措施。這就使得《規(guī)定》的宣示意義大于實踐價值，造成法律保護的缺位。

一般而言，對于技術(shù)的規(guī)制，應(yīng)當先從民事法律、行政法律規(guī)制開始，最后才用刑法規(guī)制。但是，由于“深度偽造”屬于新興技術(shù)，現(xiàn)行民事法律、行政法律針對該技術(shù)的規(guī)范尚不完善，在此情況下，刑法應(yīng)當有所作為，直接對濫用該技術(shù)造成嚴重社會危害的行為進行獨立評價。

四、刑法規(guī)制“深度偽造”技術(shù)的應(yīng)然立場及路徑展開

技術(shù)創(chuàng)新的刑法規(guī)制是一個永恒的難題，規(guī)制過多會限制技術(shù)的發(fā)展與應(yīng)用甚至阻礙技術(shù)創(chuàng)新，規(guī)制缺位會使技術(shù)被濫用而導(dǎo)致嚴重的危害后果。因此，當刑法介入技術(shù)創(chuàng)新時，需要在頂層設(shè)計上確立規(guī)制的應(yīng)然立場，在此基礎(chǔ)上進行規(guī)制路徑完善。

（一）刑法規(guī)制“深度偽造”技術(shù)的應(yīng)然立場

通常而言，技術(shù)的發(fā)展與革新是沿著從技術(shù)原理向?qū)嵺`應(yīng)用轉(zhuǎn)化再向意識形態(tài)階序發(fā)展的脈絡(luò)演進的，在技術(shù)逐漸社會化的過程中，刑法介入的程度應(yīng)當愈發(fā)深入，并最終形成刑法規(guī)制與技術(shù)發(fā)展的平衡狀態(tài)。B22但是，對于“深度偽造”技術(shù)，不能完全按照上述階序演化路徑進行刑法規(guī)制。因為“深度偽造”技術(shù)創(chuàng)立之初就呈現(xiàn)出“異化”的趨勢，由此引發(fā)的技術(shù)被濫用的隱憂已經(jīng)超過了技術(shù)紅利帶來的娛樂體驗，刑法的介入更顯急迫。這就需要首先確立刑法對“深度偽造”技術(shù)進行規(guī)制的基本立場，再以此為基礎(chǔ)進行規(guī)制路徑展開，通過逆向治理思維完成對“深度偽造”技術(shù)進行刑法規(guī)制的頂層設(shè)計。

1.宏觀立場：以“兩面性”視角控制規(guī)制的深度

“深度偽造”技術(shù)應(yīng)用的差異化會導(dǎo)致兩極化的結(jié)果。該技術(shù)被用于損害他人人格、危害社會管理秩序、危害國家安全，導(dǎo)致潛在的風險向現(xiàn)實危害后果轉(zhuǎn)化時，需要刑法的強勢介入;該技術(shù)被應(yīng)用于社交、娛樂場景時又顯露出“友好面相”，“可以讓電影、紀錄片等藝術(shù)創(chuàng)作突破時空限制，以更真實的方式呈現(xiàn)，也能實現(xiàn)替身演員演出等效果;可以給通過視頻進行的批評、諷刺、戲仿等提供新的表達形式;可以創(chuàng)造虛擬主播來播報新聞、天氣預(yù)報等內(nèi)容;也可以給醫(yī)療、零售、娛樂等領(lǐng)域提供更具親和力的人形問診機器人、虛擬客服、虛擬偶像等”B23。因此，刑法應(yīng)承擔起應(yīng)有的職責，強化對技術(shù)扭曲使用行為的制裁，控制和約束技術(shù)的濫用;同時，刑法應(yīng)當控制對技術(shù)行為的評價深度，以保護正常的技術(shù)應(yīng)用活動。B24正是基于“深度偽造”技術(shù)的“兩面性”特征，美國社交網(wǎng)站Facebook在過去兩年間并未禁止“深度偽造”視頻在該網(wǎng)站上傳播。

在全球面臨第四次科技革命的背景下，實現(xiàn)關(guān)鍵領(lǐng)域的核心技術(shù)突破成為國家間科技競爭的主要角力場，也成為我國國家競爭力實現(xiàn)“彎道超車”的關(guān)鍵。這就要求我國刑法在對“深度偽造”技術(shù)進行規(guī)制時，既要考慮該技術(shù)被濫用的危害，又要兼顧該技術(shù)在實際應(yīng)用中的有效性?；仡櫸覈畔⒒l(fā)展的歷程可以看出，我國對大數(shù)據(jù)、物聯(lián)網(wǎng)等新興產(chǎn)業(yè)采取普遍支持的態(tài)度，在一些國家禁止使用的人臉識別技術(shù)在我國公共場所也得到普遍使用。對于以“深度偽造”技術(shù)為代表的人工智能發(fā)展，我國應(yīng)以“兩面性”視角進行合理的限制。限制技術(shù)的應(yīng)用場景而非完全禁止技術(shù)的應(yīng)用，是刑法介入“深度偽造”技術(shù)領(lǐng)域的應(yīng)然立場。

2.微觀立場：以預(yù)防機能實現(xiàn)規(guī)制的效果

對于“深度偽造”技術(shù)被濫用，可以適用我國《刑法》中的若干罪名。例如，當該技術(shù)被用于侵犯公民名譽、財產(chǎn)時，可以以侮辱罪、盜竊罪、（信用卡）詐騙罪甚至傳播淫穢物品（牟利）罪對相關(guān)行為予以規(guī)制;當該技術(shù)被用于侵犯公共法益時，可以根據(jù)實行行為所侵害的具體法益類型，以編造并傳播證券或期貨交易信息罪、損害商業(yè)聲譽罪、編造或故意傳播虛假信息罪、偽證罪、辯護人或訴訟代理人偽造證據(jù)罪予以規(guī)制;當該技術(shù)被用于侵犯公共安全、國家安全時，可以以煽動分裂國家罪、煽動顛覆國家政權(quán)罪、宣揚恐怖主義或極端主義或煽動實施恐怖活動罪、戰(zhàn)時故意提供虛假敵情罪、戰(zhàn)時造謠擾亂軍心罪、戰(zhàn)時造謠惑眾罪對危害行為予以規(guī)制。上述罪名為規(guī)制濫用“深度偽造”技術(shù)的行為提供了相對完整的刑事制裁體系，但這套產(chǎn)生于農(nóng)業(yè)社會、成熟于工業(yè)社會的刑法理論與刑罰觀念過度強調(diào)事后懲罰而忽略事前預(yù)防，在信息社會呈現(xiàn)出規(guī)制的無效性和適用的滯后性。B25這種缺陷突出表現(xiàn)在：如果說“深度偽造”技術(shù)被用于侵犯個人法益時，刑法的事后規(guī)制尚能使被侵害的社會關(guān)系得以恢復(fù)，當“深度偽造”技術(shù)被用于危害國家、公共安全時，所造成的嚴重危害往往難以通過事后懲治予以補救。特別是網(wǎng)絡(luò)的無限延展性和無國界性使得“深度偽造”技術(shù)被濫用的危害后果傳播具有不可控性、危害性呈數(shù)量級增長，行為的社會危害性遠遠超過刑罰的嚴厲性，更加凸顯刑法的事后懲戒機制在網(wǎng)絡(luò)治理領(lǐng)域的無效性。因此，近年來，刑法預(yù)防機能的發(fā)揮得到更多提倡，“預(yù)備行為實行化”“幫助行為正犯化”“民事、行政違法行為犯罪化”等理論在刑事立法中得以彰顯，刑法規(guī)制的行為類型愈發(fā)向前端延伸，旨在將危險后果控制在萌芽狀態(tài)。B26對于“深度偽造”技術(shù)的刑法規(guī)制同樣應(yīng)強化對前端行為的制裁，突出刑法的預(yù)防機能，將實然性危害消滅于萌芽狀態(tài)。

（二）以“信息保護+應(yīng)用治理+平臺監(jiān)管”模式構(gòu)建刑法規(guī)制路徑

“深度偽造”技術(shù)的刑法規(guī)制是一項系統(tǒng)性工程，從底層數(shù)據(jù)收集到中層對數(shù)據(jù)加工處理的算法指令再到上層數(shù)據(jù)和算法的最終應(yīng)用，構(gòu)成規(guī)制的重要維度。B27在多層次規(guī)制維度中，算法治理屬于技術(shù)發(fā)展的范疇，刑法對此不宜過多介入;數(shù)據(jù)治理和應(yīng)用場景限制是刑法規(guī)制“深度偽造”技術(shù)的重點領(lǐng)域。此外，隨著網(wǎng)絡(luò)平臺在網(wǎng)絡(luò)社會結(jié)構(gòu)中發(fā)揮樞紐作用、扮演著“準政府”的角色，不斷強化網(wǎng)絡(luò)平臺的監(jiān)管責任成為刑法規(guī)制“深度偽造”技術(shù)的重要抓手。B28由此，可以構(gòu)建“信息保護+應(yīng)用治理+平臺監(jiān)管”的刑法規(guī)制路徑，充分發(fā)揮刑法的預(yù)防機能，確?！吧疃葌卧臁奔夹g(shù)在刑事法治體系下有序發(fā)展。

1.強化個人生物識別信息的刑法保護

濫用“深度偽造”技術(shù)行為的本質(zhì)是借助于他人的生物識別信息實現(xiàn)身份冒用，這就要求刑法特別關(guān)注該技術(shù)應(yīng)用的前端保護，強化對侵犯個體人臉特征、語音特征等生物識別信息行為的規(guī)制，減少個人身份信息相關(guān)數(shù)據(jù)被濫用的可能性。事實上，換臉軟件事件中直接導(dǎo)致ZAO應(yīng)用程序下架整改的原因并非單純的對換臉技術(shù)本身的擔憂，還包括該款應(yīng)用程序在用戶協(xié)議中要求用戶或肖像權(quán)人同意ZAO及其關(guān)聯(lián)公司永久保留、存儲、轉(zhuǎn)讓、使用用戶肖像，從而引發(fā)了對個人生物識別信息泄露的擔憂。B29

當前，“由于社會數(shù)據(jù)化進程的加快，各種之前不被關(guān)注的個人信息所具有的潛在價值被逐步挖掘，以往單純的、沒有意義的‘碎片變?yōu)榱藢χ黧w自身具有重要價值的‘信息，越來越多的個人信息需要被納入法律的保護范圍”B30。特別是隨著對生物識別信息進行研究和應(yīng)用的社會探索的加快，生物識別信息已經(jīng)成為全方位“解鎖”個人信息的密鑰。以人臉信息為例，由于人臉具有穩(wěn)定性、易于識別、易于采集的特征，使得人臉識別技術(shù)成為人工智能迅速擴展的領(lǐng)域，已經(jīng)在手機解鎖、智能支付、門禁安防、交通出行、金融認證甚至公共安全監(jiān)控識別領(lǐng)域得到全場景推廣應(yīng)用。當各個應(yīng)用場景都對人臉信息進行識別和驗證時，不僅完成對個體人臉信息的抓取與保留，還能通過人臉這道“門”與既有數(shù)據(jù)庫中的個體數(shù)據(jù)進行關(guān)聯(lián)、對比，于是個體的身份信息、行蹤軌跡、電話號碼、收入狀況、消費習慣等信息均可能遭到泄露。人臉的功能從體現(xiàn)個人外在形象的社會屬性逐漸呈現(xiàn)出具有個體特質(zhì)的私人屬性，人臉信息也從公開信息逐漸演化為個人隱私信息。最關(guān)鍵的是，由于人臉、聲音等外在生物特征能被以非接觸的方式予以采集和應(yīng)用，個體極有可能在無意間被第三方獲取個人生物識別信息，該信息作為唯一身份標識一旦泄露，身份被冒用的風險極高且由于個人難以追索控制，最終會對個體的人身權(quán)利和財產(chǎn)權(quán)利造成不可逆的損害。B31因此，人臉信息已經(jīng)不是傳統(tǒng)技術(shù)條件下的公開信息，其已經(jīng)成為事關(guān)個人身份、財產(chǎn)、隱私的個人機密敏感信息?！吧疃葌卧臁奔夹g(shù)無疑能放大個人生物識別信息被濫用的危害性，因而通過刑法規(guī)制“深度偽造”技術(shù)也是信息化時代強化個人信息保護的必然要求。

在我國，《全國人民代表大會常務(wù)委員會關(guān)于加強網(wǎng)絡(luò)信息保護的決定》《網(wǎng)絡(luò)安全法》《刑法》以及《最高人民法院、最高人民檢察院關(guān)于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》（以下簡稱《解釋》）共同構(gòu)成規(guī)制侵犯公民個人信息行為的刑事制裁體系。其中，《全國人民代表大會常務(wù)委員會關(guān)于加強網(wǎng)絡(luò)信息保護的決定》《網(wǎng)絡(luò)安全法》作為前置法明確將個人生物識別信息作為公民個人信息的應(yīng)有之義予以保護B32，《解釋》再次確認了對具有身份識別功能的生物識別信息的刑法保護B33。但是，由于司法機關(guān)對公民個人信息的認識仍停留于對信息隱私特性的保護，導(dǎo)致實踐中司法資源過多投放到對個人身份信息及個人活動信息這類具有較強隱私屬性的信息的保護上，對人臉、聲音這些具有較強外在社會交往屬性的生物識別信息卻有意無意地忽視了，從而造成刑法保護的缺位。因此，在現(xiàn)有刑法體系下，激活刑法對個人生物識別信息的保護顯得尤為迫切。這要求司法機關(guān)深刻認識到，不同于一般的個人信息，生物識別信息是與個人的身份、財產(chǎn)密切相關(guān)的個人機密敏感信息，需要投入更多司法資源加以保護。司法機關(guān)應(yīng)當通過侵犯公民個人信息罪的實踐擴容，加大對個人生物識別信息的刑法保護，從源頭減少人臉、聲紋等個人生物識別信息數(shù)據(jù)被通過“深度偽造”技術(shù)進行濫用的可能性。

2.通過增設(shè)罪名規(guī)制身份冒用行為

在“深度偽造”技術(shù)被濫用的過程中，法益侵害直接指向?qū)λ松矸莸拿坝?。因此，在強化前端個人信息保護的同時，刑法應(yīng)著重規(guī)制“深度偽造”技術(shù)的使用過程，通過限定該技術(shù)的應(yīng)用場景、明確技術(shù)使用者的責任，將該技術(shù)的應(yīng)用規(guī)范在有序狀態(tài)下。一方面，當使用者基于娛樂的目的，制作自己、同學、親友及他人的合成影音圖像時，由于該類行為并不具有社會危害性，故不應(yīng)以刑法進行評價。但是，由于“深度偽造”技術(shù)的高度模仿性使得合成的影音圖形有可能被他人用于違法犯罪場景，所以制作者、傳播者仍應(yīng)謹慎地使用“深度偽造”技術(shù)。制作者、傳播者可通過履行如下義務(wù)，作為免責的依據(jù)。首先，使用者不得將“深度偽造”技術(shù)應(yīng)用于色情、暴力、恐怖主義等違法犯罪場景;其次，使用者應(yīng)當履行標識義務(wù)，在利用“深度偽造”技術(shù)合成影音圖像時進行明顯的標記;最后，對于法律、法規(guī)、行政規(guī)章在現(xiàn)階段及未來列舉的“深度偽造”技術(shù)應(yīng)用場景“負面清單”，制作者、傳播者應(yīng)當恪守。由此，可以充分發(fā)揮“深度偽造”技術(shù)在商業(yè)、娛樂領(lǐng)域的正向價值。另一方面，當使用者未經(jīng)他人同意而使用“深度偽造”技術(shù)制作他人的影音圖像時，由于合成的影音圖像可以被用于后端的違法犯罪行為，所以即便合成的內(nèi)容不違法，合成行為也構(gòu)成對他人身份的冒用。特別是隨著個人生物識別信息在“識別”“認證”中的作用愈發(fā)凸顯，利用“深度偽造+個人生物識別信息”更易完成對他人身份的冒用，使得該類行為的危害性愈發(fā)明顯，應(yīng)當將該類行為納入刑法規(guī)制體系。

我國《刑法》中存在一批針對身份冒用行為的罪名，招搖撞騙罪、冒充軍人招搖撞騙罪以及使用虛假身份證件、盜用身份證件罪均是直接規(guī)制身份冒用行為的罪名，合同詐騙罪、信用卡詐騙罪、妨害信用卡管理罪中也附隨對身份冒用行為的評價。但是，上述罪名體系無法完全涵蓋利用“深度偽造”技術(shù)實施的身份冒用行為。招搖撞騙罪的冒充對象是國家機關(guān)工作人員，冒充軍人招搖撞騙罪的冒充對象是軍人，此兩個罪名均是針對特殊群體的立法保護，利用“深度偽造”技術(shù)對其他群體身份的冒用不在其規(guī)制之列。使用虛假身份證件、盜用身份證件罪的犯罪對象是法定的身份證明文件，所規(guī)制的是行為人通過偽造、變造、盜用他人居民身份證、護照、社會保障卡、駕駛證等法定證明證件進行身份冒用的行為等行為類型，對利用他人生物識別信息進行身份冒用的行為無法予以規(guī)制。合同詐騙罪、信用卡詐騙罪、妨害信用卡管理罪均是將身份冒用行為作為手段行為進行評價的，如果行為人未實施后續(xù)的取財、領(lǐng)卡行為，則身份冒用行為不再進行單獨評價。因此，現(xiàn)有的刑法罪名無法對濫用“深度偽造”技術(shù)進行身份冒用的行為進行評價?！霸谛畔⒏叨劝l(fā)達的當今社會，身份承載了更多的價值和內(nèi)容，各種身份信息成為電子交易、入學就業(yè)的憑證，例如身份證號碼、姓名、性別、出生日期、職業(yè)、銀行戶名及賬號、家庭住址等，這些信息在某種程度上成為確認一個人身份的手段和憑證。一方面，信息社會中獲取他人身份信息相對簡便和成本低廉，盜竊身份的違法犯罪行為開始不斷增多，另一方面，伴隨著個人身份信息承載了越來越多的作為謀取便捷、舒適生活的手段，甚至可以作為實施犯罪的‘通行證，身份犯罪開始爆發(fā)式增加?！盉34身份冒用行為的危害性增加與相應(yīng)的刑法規(guī)制缺失的狀態(tài)日益凸顯。身份冒用不是新型危害行為，近幾年來被媒體曝光的冒名頂替上大學事件就是該行為危害性的真實寫照。在這些事件中，身份被冒用者不只是失去了公平的求學機會，甚至整個人生被改寫。在互聯(lián)網(wǎng)背景下，借助于“深度偽造”技術(shù)的身份冒用行為將成為一種更加常態(tài)化也更具有社會危害性的行為，刑法有必要通過增設(shè)“身份冒用罪”對該行為進行規(guī)制B35。

3.強化網(wǎng)絡(luò)平臺的刑事責任，預(yù)防危害后果傳播

互聯(lián)網(wǎng)歷經(jīng)Web1.0“人機互動”到Web2.0“人人互動”再到Web3.0“空間互動”的迭代升級，已經(jīng)逐漸擺脫工具屬性，成為人們互動交流的秩序空間。在現(xiàn)實空間與網(wǎng)絡(luò)空間并存的雙層社會體系下，網(wǎng)絡(luò)平臺已經(jīng)逐漸擺脫被管理者的角色而越來越多地承擔網(wǎng)絡(luò)空間的管理、自治義務(wù)，扮演著管理者的角色。B36作為信息交互、數(shù)據(jù)留存、秩序維護的中樞場所，網(wǎng)絡(luò)平臺既能導(dǎo)致“深度偽造”技術(shù)被濫用的危害后果呈數(shù)量級增長，也能將這種危害后果控制在“襁褓”之中，因而不斷強化平臺監(jiān)管的刑事責任是規(guī)范“深度偽造”技術(shù)的有效方式。

我國《刑法》以拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪、非法利用信息網(wǎng)絡(luò)罪、幫助信息網(wǎng)絡(luò)犯罪活動罪三個罪名構(gòu)建了網(wǎng)絡(luò)平臺運營的刑事責任，然而，由于“深度偽造”技術(shù)的應(yīng)用成果、應(yīng)用場景兼具違法與合法的可能性，導(dǎo)致實踐中網(wǎng)絡(luò)平臺主體對合成影音圖像的內(nèi)容存在認識錯誤。在現(xiàn)行司法解釋尚未對上述罪名的類型化特征進行總結(jié)的前提下，筆者認為當前應(yīng)以“通知—刪除”義務(wù)的履行作為規(guī)范罪名適用的標準，在未來技術(shù)成熟時以“發(fā)現(xiàn)—標識”“發(fā)現(xiàn)—刪除”義務(wù)的履行作為評價網(wǎng)絡(luò)平臺主體刑事責任的依據(jù)。

從科技發(fā)展趨勢來看，對“深度偽造”技術(shù)及其傳播內(nèi)容的審查必然成為網(wǎng)絡(luò)平臺審查義務(wù)的應(yīng)有之義。B37但是，由于“深度偽造”技術(shù)的識別尚不成熟且通過技術(shù)合作的方式識別“深度偽造”技術(shù)的應(yīng)用會增加網(wǎng)絡(luò)平臺的運營成本，所以真正能使用“深度偽造”識別技術(shù)并對“深度偽造”技術(shù)的內(nèi)容進行實質(zhì)審查的僅限于少數(shù)互聯(lián)網(wǎng)頭部平臺。從刑法適用的平等性、均衡性的角度出發(fā)，目前應(yīng)以“通知—刪除”義務(wù)的履行作為評價網(wǎng)絡(luò)平臺主體罪與非罪、此罪與彼罪的標準，以預(yù)防“深度偽造”技術(shù)被濫用后果的傳播。具體而言，網(wǎng)絡(luò)平臺主體應(yīng)當履行如下義務(wù)：其一，負有對合成的影音圖像內(nèi)容進行審查的義務(wù)，對有涉黃、涉暴、涉恐等內(nèi)容的影音圖像，應(yīng)當予以刪除以防止其傳播。其二，除了網(wǎng)絡(luò)平臺自查，當利用“深度偽造”技術(shù)合成的影音圖像被相關(guān)監(jiān)管部門指出其應(yīng)用場景違法或者被權(quán)利人主張侵權(quán)時，網(wǎng)絡(luò)平臺應(yīng)當對該影音圖像進行內(nèi)容審查，若其涉嫌違法則應(yīng)予以刪除。如果上述“通知—刪除”義務(wù)得以積極履行，就表明網(wǎng)絡(luò)平臺運營者對“深度偽造”技術(shù)被濫用的危害后果持排斥態(tài)度，從而不以刑法予以評價;反之，根據(jù)網(wǎng)絡(luò)平臺運營者的主觀認知，分別以拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪、非法利用信息網(wǎng)絡(luò)罪、幫助信息網(wǎng)絡(luò)犯罪活動罪進行具體評價。

在將來反向識別技術(shù)發(fā)展得相對成熟時，對“深度偽造”技術(shù)的審查將成為網(wǎng)絡(luò)平臺的應(yīng)然義務(wù)，屆時應(yīng)當將“發(fā)現(xiàn)—標識”“發(fā)現(xiàn)—刪除”義務(wù)作為平臺主體刑事責任的內(nèi)容。對于通過“深度偽造”技術(shù)識別出的合成影音圖像，網(wǎng)絡(luò)平臺運營者應(yīng)當區(qū)分以下情形予以處置：首先，將內(nèi)容違法的影音圖像予以刪除;其次，對屬于“深度偽造”技術(shù)創(chuàng)制的影音圖像未加標記的，通過添加水印、標識的方式提醒公眾知悉;最后，對利用“深度偽造”技術(shù)創(chuàng)制的影音圖像屬于應(yīng)用場景違法的，予以刪除。2019年11月國家互聯(lián)網(wǎng)信息辦公室等部門印發(fā)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確禁止“深度偽造”技術(shù)在新聞信息領(lǐng)域的應(yīng)用，隨著后期相關(guān)立法的出臺，必將有“深度偽造”技術(shù)應(yīng)用場景“負面清單”為網(wǎng)絡(luò)平臺附加更多審查義務(wù)，網(wǎng)絡(luò)平臺不僅要基于破解技術(shù)識別出“深度偽造”視頻，還要對屬于“負面清單”管制范圍、違反“負面清單”應(yīng)用場景的合成影音圖像及時予以刪除。通過不斷強化網(wǎng)絡(luò)平臺的實質(zhì)審查義務(wù)，有助于預(yù)防“深度偽造”技術(shù)被濫用的危害后果傳播。

五、結(jié)語

在人類進入智能化時代的征途上，新興科技的突破性發(fā)展帶來歡喜與隱憂的情況是并存的。這也激發(fā)人們對新興科技治理規(guī)則的探索熱情。在抒發(fā)熱情之余，更應(yīng)秉持一份理性，既要通過規(guī)則的設(shè)定與落實，使新興科技為我所用，又要避免科技發(fā)展走向失序的深淵，要讓科技的歸科技、法律的歸法律。

注釋

①B29參見蔡淑敏：《從爆紅到被整改，換臉App“ZAO”降溫》，《國際金融報》2019年9月9日。

②B14參見李懷勝：《濫用個人生物識別信息的刑事制裁思路》，《政法論壇》2020年第4期。

③See Brandon J. Terrifying High-tech Porn： Creepy 'Deepfake' Videos are on the Rise， http：//www.foxnews.com/tech/terrifying-high-tech-porn-creepy-deepfake-videos-are-on-the-rise.

④參見苗爭鳴：《可怕的“深度偽造”技術(shù)》，《世界知識》2019年第22期。

⑤See DJ PANGBURN. You've been Warned： Full Body Deepfakes are the Next Step in AI-based Human Mimicry， http：//www.fastcompany.com/90407145/youve-been-warned-full-body-deepfakes-are-the-next-step-in-ai-based-human-mimicry.

⑥參見揭書宜：《不雅視頻將女明星換臉成主角售賣：涉多重違法》，澎湃新聞網(wǎng)，https：//www.thepaper.cn/newsDetail_forward_4326898，2019年12月24日。

⑦See Douglas Harris. Deepfakes： False Pornography is Here and the Law cannot Protect You， Duke L. & Tech. Review， 2019， Vol.99.

⑧參見明樂齊：《網(wǎng)絡(luò)黑產(chǎn)犯罪的趨勢與治理對策研究》，《山東警察學院學報》2019年第4期。

⑨參見劉憲權(quán)：《網(wǎng)絡(luò)造謠、傳謠行為刑法規(guī)制體系的構(gòu)建與完善》，《法學家》2016年第6期。

⑩參見王帥：《“深度偽造”的法律風險與防范》，《中國城鄉(xiāng)金融報》2019年12月20日。

B11參見王祿生：《論“深度偽造”智能技術(shù)的一體化規(guī)制》，《東方法學》2019年第6期。

B12See Micheal Chertoff and Anders Fogh Rasmussen. The Unhackable Election： What It Takes to Defend Democracy， 98 Foreign Aff.， 160（2019）.

B13B15See Mary Frost. Clarke Introduces Bill to Combat High-tech Altered Videos， https：//brooklyneagle.com/articles/2019/06/14/clarke-introduces-bill-to-combat-high-tech-altered-videos/.

B16See H.R.3230- Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019，http：//www.congress.gov/bill/116th-congress/house-bill/3230.

B17See Waldman Ari Ezra. A Breach of Trust： Fighting Nonconsensual Pornography， lowa Law Review， 2017， No.2.

B18See Bill Title：Relating to the Creation of A Criminal Offense for Fabricating A Deceptive Video with Intent to Influence the Outcome of An Election， https：//legiscan.com/TX/text/SB751/id/1902830.

B19參見李桐佑：《美加州立法禁“深度偽造”視頻》，環(huán)球網(wǎng)，https：//news.ifeng.com/c/7qbaZk1sS4u，2020年1月22日。

B20參見商希雪：《生物特征識別信息商業(yè)應(yīng)用的中國立場與制度進路》，《江西社會科學》2020年第2期。

B21《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第11條規(guī)定：“網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學習、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實音視頻信息的，應(yīng)當以顯著方式予以標識。網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者不得利用基于深度學習、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載音視頻新聞信息的，應(yīng)當依法轉(zhuǎn)載國家規(guī)定范圍內(nèi)的單位發(fā)布的音視頻新聞信息。”

B22參見于志剛：《網(wǎng)絡(luò)安全對公共安全、國家安全的嵌入態(tài)勢和應(yīng)對策略》，《法學論壇》2014年第6期。

B23曹建峰：《深度偽造技術(shù)的法律挑戰(zhàn)及應(yīng)對》，《信息安全與通信保密》2019年第10期。

B24參見于志剛：《網(wǎng)絡(luò)空間中培訓黑客技術(shù)行為的入罪化》，《云南大學學報》（法學版）2010年第1期。

B25參見于志剛：《中國網(wǎng)絡(luò)犯罪的代際演變、刑法樣本與理論貢獻》，《社會科學文摘》2019年第5期。

B26參見孫萬懷：《違法相對性理論的崩潰》，《政治與法律》2016年第3期。

B27參見石婧、常禹雨、祝夢迪：《人工智能“深度偽造”的治理模式比較研究》，《電子政務(wù)》2020年第5期。

B28參見于志剛：《中國互聯(lián)網(wǎng)領(lǐng)域立法體系化建構(gòu)的路徑》，《理論視野》2016年第5期。

B30于志剛、吳尚聰：《我國網(wǎng)絡(luò)犯罪發(fā)展及其立法、司法、理論應(yīng)對的歷史梳理》，《政治與法律》2018年第1期。

B31參見付微明：《個人生物識別信息的法律保護模式與中國選擇》，《華東政法大學學報》2019年第6期。

B32《全國人民代表大會常務(wù)委員會關(guān)于加強網(wǎng)絡(luò)信息保護的決定》第1條規(guī)定：“國家保護能夠識別公民個人身份和涉及公民個人隱私的電子信息。”《網(wǎng)絡(luò)安全法》第76條第5款規(guī)定：“個人信息，是指以電子或者其他方式記錄的能夠單獨或者與其他信息結(jié)合識別自然人個人身份的各種信息，包括但不限于自然人的姓名、出生日期、身份證號碼、個人生物識別信息、住址、電話號碼等?！?/p>

B33《最高人民法院、最高人民檢察院關(guān)于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》第1條指出，“能夠單獨或者與其他信息結(jié)合識別特定自然人身份”的信息屬于公民個人信息。

B34于志剛：《關(guān)于“身份盜竊”行為的入罪化思考》，《北京聯(lián)合大學學報》（人文社會科學版）2011年第1期。

B35筆者的設(shè)想是：將“身份冒用罪”作為我國《刑法》第280條第2款進行規(guī)定，同時將該條第1款即使用虛假身份證件、盜用身份證件罪的法定刑提升為“情節(jié)嚴重的，處3年以下有期徒刑、管制或拘役”，“情節(jié)特別嚴重的，處3年以上7年以下有期徒刑”兩檔，與該條規(guī)定的其他罪名相協(xié)調(diào)。“身份冒用罪”的具體內(nèi)容可設(shè)計為：“冒用他人身份，情節(jié)嚴重的，處三年以下有期徒刑、拘役或管制，并處罰金;情節(jié)特別嚴重的，處三年以上七年以下有期徒刑，并處罰金。”

B36參見于志剛：《“雙層社會”中傳統(tǒng)刑法的適用空間》，《法學》2013年第10期。

B37See Jack M. Balkin. Free Speech in the Algorithmic Society： Big Data， Private Governance， and New School Speech Regulation， 51 U.C.D.L. Review， 2018， Vol.51.

責任編輯：鄧?林