基于深度偽造技術的AI 詐騙風險與預防

張俊杰，張純琍

（中國人民公安大學，北京 100038）

電信網絡詐騙犯罪因其與信息技術關系緊密，信息技術領域中的每一次變革都會對電信網絡詐騙的手段、時空分布等產生重要影響。以深度偽造（Deepfake）技術為基礎的人工智能（Artificial Intelligence，簡稱AI）軟件的快速發展和普及大大促進了電信網絡詐騙犯罪的智能化轉型。犯罪分子通過使用各類先進軟硬件設備，對自身的詐騙工具進行了迭代，從使用傳統的電話與短信發展到使用最新的AI 軟件。同時，犯罪分子在詐騙對象的選擇方式上也發生了變化，從過去的“廣撒網多撈魚”式向“精準捕撈更具價值的個體”轉變。基于不斷演化的詐騙犯罪現狀，學術界和反詐工作者必須提前對其做出發展方向的預判、風險評定和方案預置。當前，AI 詐騙尚未在我國出現爆發式增長和普遍式發展，但已經發生的零星AI 詐騙個案涉案金額巨大，因此，對基于深度偽造技術的AI 詐騙風險進行討論與研究，是做好未來反詐工作的重要課題。

一、深度偽造技術與AI 詐騙

美國在2018 年發布的《2018 年惡意偽造禁令法案》中將深度偽造定義為“以某種方式使觀察者錯誤地將其視為某人真實言語或行為的真實記錄的可自由創建或更改的音視頻記錄”，其中“音視頻記錄”包括圖像、視頻和語音等多種數字內容[1]。深度偽造是基于深度學習的內容合成技術，以利用生成對抗網絡（Generative Adversaria Network，以下簡稱GAN）的深度學習算法為主，來達到實現原初內容和目標內容的模擬、合成和替換的目的。……