苗爭鳴
人工智能、大數(shù)據(jù)、深度學(xué)習(xí)等新興技術(shù)的廣泛應(yīng)用深刻影響著國際安全的各領(lǐng)域:一方面,技術(shù)變革為國家間交流融合提供機遇;另一方面,新技術(shù)的不當(dāng)使用沖擊現(xiàn)有國際秩序和規(guī)范。其中,借助機器學(xué)習(xí)系統(tǒng)、操縱圖像視頻和音頻內(nèi)容,更改人臉、物體或環(huán)境呈現(xiàn)方式的“深度偽造”(Deepfake)技術(shù),借助海量訓(xùn)練數(shù)據(jù),生成眾多虛假視頻和音頻新聞,使辨別信息真?zhèn)巫兊美щy,人類已無法信任看似真實的視頻內(nèi)容,若不能及時規(guī)范此類行為,國際信任體系面臨崩塌風(fēng)險。
“深度偽造”是使用被稱作“生成式對抗網(wǎng)絡(luò)”(Generative Adversarial Networks)的機器學(xué)習(xí)模型,將圖片或視頻合并疊加到源圖片或視頻上,借助神經(jīng)網(wǎng)絡(luò)技術(shù)進行大樣本學(xué)習(xí),將個人的聲音、面部表情及身體動作拼接合成虛假內(nèi)容的人工智能技術(shù)。這種技術(shù)能對聲音、圖像或視頻進行數(shù)字處理以模仿某特定人物,并且隨著輸入神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本量不斷增加,訓(xùn)練生成的數(shù)據(jù)和圖像會越來越逼真,以至于觀察者最終無法通過肉眼明辨真?zhèn)巍?/p>
“深度偽造”已經(jīng)成為“視頻換臉”的代名詞。一般來講,面部偽造分三個步驟:首先,提取來源圖像和目標(biāo)圖像數(shù)據(jù);其次,借助神經(jīng)網(wǎng)絡(luò)編碼器和解碼器訓(xùn)練面部替換模型;最后,生成偽造圖像。當(dāng)前“深度偽造”技術(shù)主要有四種類型:第一種是借助軟件更換面部,也是目前為止用得最多的,例如已被我國禁用的換臉軟件“ZAO”;第二種是操縱……