可怕的“深度偽造”技術(shù)

苗爭鳴

人工智能、大數(shù)據(jù)、深度學(xué)習(xí)等新興技術(shù)的廣泛應(yīng)用深刻影響著國際安全的各領(lǐng)域：一方面，技術(shù)變革為國家間交流融合提供機遇;另一方面，新技術(shù)的不當(dāng)使用沖擊現(xiàn)有國際秩序和規(guī)范。其中，借助機器學(xué)習(xí)系統(tǒng)、操縱圖像視頻和音頻內(nèi)容，更改人臉、物體或環(huán)境呈現(xiàn)方式的“深度偽造”（Deepfake）技術(shù)，借助海量訓(xùn)練數(shù)據(jù)，生成眾多虛假視頻和音頻新聞，使辨別信息真?zhèn)巫兊美щy，人類已無法信任看似真實的視頻內(nèi)容，若不能及時規(guī)范此類行為，國際信任體系面臨崩塌風(fēng)險。

“深度偽造”技術(shù)的起源

“深度偽造”是使用被稱作“生成式對抗網(wǎng)絡(luò)”（Generative Adversarial Networks）的機器學(xué)習(xí)模型，將圖片或視頻合并疊加到源圖片或視頻上，借助神經(jīng)網(wǎng)絡(luò)技術(shù)進行大樣本學(xué)習(xí)，將個人的聲音、面部表情及身體動作拼接合成虛假內(nèi)容的人工智能技術(shù)。這種技術(shù)能對聲音、圖像或視頻進行數(shù)字處理以模仿某特定人物，并且隨著輸入神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本量不斷增加，訓(xùn)練生成的數(shù)據(jù)和圖像會越來越逼真，以至于觀察者最終無法通過肉眼明辨真?zhèn)巍?/p>

“深度偽造”已經(jīng)成為“視頻換臉”的代名詞。一般來講，面部偽造分三個步驟：首先，提取來源圖像和目標(biāo)圖像數(shù)據(jù);其次，借助神經(jīng)網(wǎng)絡(luò)編碼器和解碼器訓(xùn)練面部替換模型;最后，生成偽造圖像。當(dāng)前“深度偽造”技術(shù)主要有四種類型：第一種是借助軟件更換面部，也是目前為止用得最多的，例如已被我國禁用的換臉軟件“ZAO”;第二種是操縱……