深度偽造技術正在顛覆網絡空間的可信性

■ 賽迪智庫網絡安全研究所 魏書音 劉玉琢

一、深度偽造技術特征

深度偽造是一種基于人工智能的人體圖像合成技術。深度偽造技術的興起是人工智能發展到一定階段的產物，源于人工智能系統生成對抗網絡（GAN）的進步。GAN由生成器和識別器兩個相互競爭的系統組成。建立GAN的第一步是識別所需的輸出，并為生成器創建一個培訓數據集。一旦生成器開始創建可接受的輸出內容，就可以將視頻剪輯提供給識別器進行鑒別；如果鑒別出視頻是假的，就會告訴生成器在創建下一個視頻時需要修正的地方。根據每次的“對抗”結果，生成器會調整其制作時使用到的參數，直到鑒別器無法辨別生成作品和真跡，以此將現有圖像和視頻組合并疊加到源圖像上生成深度偽造視頻。

深度偽造視頻難以鑒別。目前還沒有鑒別深度偽造視頻的商業工具。隨著生成器越來越擅長創建假視頻剪輯，鑒別器也越來越擅長識別它們。相反，隨著鑒別器在識別假視頻方面做得越來越好，生成器在創建假視頻方面也做得越來越好。理論上，只要給GAN當前掌握的所有鑒證技術，它就能通過學習進行自我進化，規避鑒證監測。攻擊會被防御反擊，反過來又被更復雜的攻擊所抵消。鑒別技術只可能暫時領先，深度偽造視頻創造者很快就能趕上最新的檢測技術。未來，生成假視頻和檢測假視頻將持續進行“道高一尺、魔高一丈”的反復博弈。

深度偽造軟件價廉且易操作，廣受用戶歡迎。在深度偽造出現前，視頻換臉技術最早應用于電影領域，需要相對較高的技術和資金。2017年以來，該技術在“GitHub”的開源軟件涌現，開發技術很容易被獲取，能被不具備專業知識的普通人利用并輕易制作。制造視頻并不需要很高的技巧，機器學習算法與面部映射軟件相結合，偽造內容來劫持一個人的聲音、面孔和身體等身份信息變得廉價而容易，普通大眾一鍵便可制造想要的視頻。

二、深度偽造技術濫用帶來的安全風險

威脅國家安全和政治安全。深度偽造技術被運用在政治領域，可成為損毀國家形象、挑撥內部矛盾的武器。一是通過偽造國家領導人的圖片、視頻，詆毀國家形象、制造內部矛盾。二是通過攔截篡改相關事件的新聞報道，傳播虛假信息，削弱對國家機構和官方新聞媒體的公信力，擾亂政治秩序。三是深度偽造技術已經濫用于情報工作。此外，還可能影響選舉活動，比如在選舉前故意傳播虛假信息，誹謗選舉人，進而影響選舉的公正性。

侵犯個人肖像權、名譽權等合法權益。深度偽造技術最初被應用于色情行業。2019年出現的一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性圖片就可自動生成相應的裸照。受害者通常沒有追索權，而且照片上傳之后很難刪除。這一技術會損害當事人聲譽，甚至毀掉其職業生涯。對此，美國弗吉尼亞州擴大了《色情報復法》調整，已將利用深度偽造、photoshop 或其他工具制作的虛假照片、視頻納入管理范疇。

帶來個人信息安全風險。深度偽造軟件收集的用戶照片，以及眨眼、搖頭等動態行為信息，都是用戶不可更改的敏感信息，一旦被非法使用，后果不堪設想。同時，被用作生物識別身份的語音也非常容易被模仿者欺騙。

三、幾點思考

開展深度偽造技術安全風險評估。美國高度重視深度偽造技術的應用問題，兩黨議員分別在眾、參兩院同時提出《2019年深度偽造報告法案》（Deepfakes Report Act of 2019），要求評估深度偽造技術的安全風險。2019年6月13日，美國眾議院情報委員會為此專門召開聽證會，公開討論深度偽造技術給國家、社會和個人帶來的風險及防范措施。我國也應將深度偽造技術納入新技術新應用的安全風險評估中，充分評估該技術目前的發展狀況、適用領域和范圍，未來發展方向和應用趨勢，以及對國家安全和政治安全的影響、對公民個人權益的損害等。

制定與深度偽造技術有關的規范標準。近年來，美國陸續出臺《2018年惡意偽造禁令法案》和《深度偽造責任法案》，主張對深度偽造技術進行嚴格限制。建議我國相關部門盡快制修訂相關技術標準，明確深度偽造技術的適用范圍，涉及國家安全、公共利益和公民合法權益的，要對其適用性進行明確限制，尤其是對深度偽造視頻的傳播應嚴格限制，如傳播需用水印等進行標明。將偽造視頻納入違法和不良信息規制范圍，嚴禁違法有害信息的傳播；對深度偽造軟件收集使用信息的行為進行評估，加強對人臉等生物識別信息的保護；明確互聯網平臺和偽造視頻者的責任，督促互聯網平臺利用自身技術優勢，加強對違規違法行為的管理。

強化對深度偽造鑒別技術的研發。美國國防高級研究計劃局（DARPA）設立“媒體鑒證”項目，開發能夠識別深度偽造視頻的工具。我國相關部門在加強管理的同時，應大力促進第三方檢測機構開展深度偽造監測鑒別業務，鼓勵企業加大對鑒別技術研發的投入；利用區塊鏈、電子認證簽名等技術，開發相關鑒別工具。