警惕！深度偽造技術的戰場應用

傅磊

深度學習作為時下最熱門的科技概念——人工智能（AI）的子概念之一，是學習樣本數據的內在規律和表示層次，在這些學習過程中獲得的信息對諸如文字、圖像和聲音等數據的解釋有很大的幫助，其最終目標是讓機器能夠像人一樣具有分析學習能力，能夠識別文字、圖像和聲音等數據。目前正被廣泛地運用于通訊、工業制造、交通、金融、醫藥、傳媒、娛樂等各行業。生活中，人們可以利用深度學習的人臉識別進行身份認證和便捷支付等行為，一度使其被奉為科學技術的又一次革命。然而，前段時間“明星換臉”技術于社交媒體的爆紅，引發了巨大的社會爭議。“深度偽造”是利用深度學習技術中的“對抗生成網絡”模型形成的智能視頻處理技術，“明星換臉”則是該技術最為典型的應用。利用該技術基于娛樂或其他目的偽造的政客演講、電影片段等足以以假亂真，引起了公眾的警覺和國家安全部門的注意。在深度偽造技術水平日新月異而鑒別手段相較被動的現實環境下，利用兼具真實性、便捷性和快速演化性的深度偽造進行心理戰正逐漸成為可能。

深度偽造技術的概念與原理

“深度偽造”（Deepfakes）由英文“深度學習”（deep learning）和“偽造”（fakes）二詞結合而來，表明該技術是基于深度學習的一種新型信息篡改與替換手段。與深度學習不同的是，深度偽造技術是一種“無監督學習，通過對抗生成網絡（GAN， Generative Adversarial Networks）”。

在自我優化中生成偽造的數據。對于這種技術邏輯，只要有足夠的數據和運算速度，理論上生成模型會在“對抗”中持續自我迭代并不斷優化偽造視頻。2019年3月，一則技術人員利用該技術換臉“楊冪”的事件在輿論上引起熱議，國內第一次掀起“換臉”熱潮。隨后不久，明星“換臉”手機應用程序“ZAO”上架開放下載，短時間內便沖上各大應用商店下載排行榜第一位，一時間網絡社交媒體上充斥著網民將自己與明星“換臉”出沒于電影片段或演出場合的視頻，極大的滿足了網民的“明星夢”。

對抗生成網絡示意圖

但曇花一現后由于“ZAO”中涉及的隱私條款因涉嫌侵犯公民隱私權而遭到輿論的聲討，導致應用程序下架。事實上，深度偽造“換臉”技術早在幾年前就在美國有過重要嘗試，如Cycle GAN，可以說是所有人臉轉換早期的重要嘗試。Face 2 Face則可以說是一次“標準的、規矩的”的嘗試。但當下國外最火熱、最廣為流傳的深度學習換臉模型毫無疑問是Deepfake。值得一提的是，該技術還首先被國外色情網站Reddit的用戶用來將好萊塢明星與色情視頻中的艷星“換臉”，從而招致網民廣泛傳播，給當事明星造成了極大的困擾。

不僅只有視頻“換臉”，深度偽造技術通過數據采集和學習，還能模仿目標對象的語音。早在2018年1月，國內科技企業科大訊飛公司董事長劉慶峰就曾在發布會上現場利用深度偽造框架下的語音合成技術演示美國總統特朗普對發布會致以賀詞，“特朗普”甚至還能以一口流利的中文向大家問好。用劉慶峰的話說，“我們用機器模仿特朗普講話，連美國人都信以為真”。此外，來自英國倫敦大學的研究團隊還研發出了一種基于深度學習的全新智能算法，只需提供目標對象的筆跡樣本即可實現完美“復刻”，難以辨認。除了語音和筆跡、指紋、文風甚至是微表情等個人獨有的生物和思維特征難題也已全面被深度偽造技術攻克，可以說，只要采集了足夠的數據，深度偽造完全能制造出“另一個你”。這個“你”不受你的意識控制，卻可以向你的社交、生活和工作圈發布本尊從未授意過的信息——不論你是士兵、營長、司令還是總統。由此，深度偽造技術的心理戰潛力可見一斑。

深度偽造技術的戰場運用策略

早在深度偽造技術初露雛形時，美國國家安全部門就敏銳地察覺到了該項技術存在著威脅國家安全的巨大隱患，因而開始在政策層面、法律層面和技術層面加大了對該技術的限制力度，美國參眾兩院議員相繼推出了《2018年惡意偽造禁令法案》《深度偽造責任法案》《2019年深度偽造報告法案》以防止別有用心者惡意利用該項技術。與此同時，深度偽造技術應用于作戰的巨大潛能也被察覺，有眾議員在2019年6月提請眾議院授權開展深度偽造鑒別技術競賽，要求美國國防部高級研究計劃局（DARPA）實施一項有競爭力的獎勵計劃，刺激技術的研究、開發或商業化，實際上是激勵人才將該項技術軍事化，從而應用于心理戰和輿論攻防。

深度偽造“換臉”過程

科研團隊偽造的奧巴馬視頻效果

輿論壓制，搶占國際話語高地。在與敵國的爭鋒中，國際社會的輿論支持也是必要的，哈佛大學肯尼迪政府學院下屬的Belfer 研究中心曾發布的一篇《AI與國家安全》報告指出：“敵對國家的網絡間諜在竊取一國的真實機密文件后，同時泄露該真實文件和一些相應的偽造文件，再利用深度偽造技術合成相應的音、視頻材料來佐證相關的偽造文件，該偽造文件的可信度將極大提升，由此操縱公眾輿論，影響國家政權穩定。”當前各國領導人的外貌、語音甚至筆跡、文風數據極易獲取，美國兩任總統奧巴馬和特朗普的換臉視頻已在全球范圍內廣泛傳播，2019年初，比利時某政黨甚至發表了特朗普批評比利時在氣候變化問題立場的視頻，引發網友對美國政府干預比利時內政的強烈不滿，這一視頻后來也被證實是基于深度偽造技術的假視頻。而視頻從引起爭議到最終辟謠之間有一個時間差，“不怕事后被人罵，只怕當時沒人信”。深度偽造的產品結合社交網絡的漣漪效應，可以帶來大規模的以訛傳訛式的擴散，充分利用這個時間差，在反制力量還未作出反應時就進行有利于己的國際輿論引導，對敵進行輿論壓制，搶占話語高地，贏得國際支持，一定程度上能夠起到可觀的效果。