深度偽造與國家安全：基于總體國家安全觀的視角

文/劉國柱

深度偽造是一個合成詞，是人工智能領域由深度學習和偽造合成的一個詞匯。包含兩方面的含義，首先，它是一種技術，一種制作超逼真視聽作品的技術；其次，它指根據深度偽造技術制作的視聽作品。隨著人工智能技術的不斷發展，深度偽造技術同樣在不斷改進，帶來的與國家安全相關的問題也在不斷涌現。深度偽造不僅涉及新興技術治理的問題，更是事關包括政治安全、經濟安全和社會安全等在內的綜合安全問題。因此，有必要站在總體國家安全觀的高度，從國家治理和全球治理的角度對深度偽造問題進行分析并提出應對之策。

深度偽造技術特征及其快速傳播的原因

深度偽造是運用人工智能技術和大數據來描繪某人說和做的從未發生過的事情，輔之以社交媒體的覆蓋面和傳播速度，可以迅速影響成千上萬甚至更龐大的群體，進而對社會產生難以估量的影響。

（一）深度偽造的類別及特征

從技術角度看，深度偽造可以分為三類：第一類是深度偽造視頻技術，第二類是語音克隆技術，第三類是文本合成技術。

深度偽造產品根據其本身的性質可以分為三類。第一類是具有積極作用的應用。深度偽造技術在許多行業具有積極用途，包括電影、教育媒體和數字通信、游戲和娛樂、醫療保健以及各種商業領域等。第二類是較為中性的深度偽造，主要是娛樂和幽默性質的深度偽造作品。這類作品往往以公眾人物作為娛樂對象。第三類屬于惡意的深度偽造。這一類深度偽造被創作者用于某種特殊的目的，往往會給國家安全、社會治理帶來嚴峻的威脅和挑戰。如在深度偽造中占比最高的是利用深度偽造技術合成的色情視頻，屬于人工智能技術發展帶來的新的性別安全問題；深度偽造還被用來抹黑政治人物，從而影響一些國家的政治進程，或者對一些國家正在發生的政治事件做出不利的描述，不僅可能激化社會矛盾，也會影響國家的政治形象；深度偽造還會給企業和個人在經濟上帶來損失。更嚴重的是，深度偽造可能會摧毀社會信任，信任赤字將惡化整個社會的心理生態環境。

總體而言，深度偽造具有以下幾個特征：第一，網絡社交平臺是傳播深度偽造作品的最主要渠道；第二，深度偽造發展迅猛；第三，深度偽造傳播迅速且點擊量巨大；第四，深度偽造以公眾人物等為主要對象。

（二）深度偽造快速傳播的原因

第一，人工智能技術的發展和普及使得制作深度偽造作品更簡單易行。深度偽造和合成媒體不需要專門的硬件或設備來開發，擁有強大顯卡的臺式電腦就足夠了。商業性甚至免費的深度偽造服務已經出現在公開市場上，這些服務將降低進入門檻，任何有興趣的人都可以擁有創建專業級深度偽造作品的能力。

第二，互聯網空間免費獲取數據集使深度偽造的門檻變得很低。計算機視覺社區已經創建了帶有標記的視覺材料的大型數據集，其中許多數據集都可以在互聯網上免費獲得，深度偽造數據的創建者可以很容易地訪問這些數據集；此外，由于云計算提供的服務，訓練機器學習算法所需的計算能力成本較低。

第三，深度偽造中占比最高的是色情和政治類作品。從傳播學的角度看，色情和政治類作品往往具有低俗、虛假、傳播快的特性，加上人性的獵奇心理，使得色情和政治類深度偽造作品傳播最廣。

第四，近年來歐美國家的政治極化也加快了深度偽造信息的傳播速度。政治極化的一個重要后果就是減少了公眾之間跨領域政治互動的機會；而同質的社交網絡又降低了對不同觀點的容忍度，放大了理念上的兩極化，在一定程度上提高了接受意識形態兼容新聞的難度。這些趨勢創造了一個深度偽造作品高度吸引特定受眾群體的環境。

深度偽造對國家安全的威脅與挑戰

從近年來世界上出現的各種深度偽造案例及其發展趨勢來看，深度偽造無論是對國際安全、國家傳統安全（如軍事安全和政治安全），還是國家非傳統安全，都帶來了越來越大的沖擊和挑戰。

（一）對國際安全的威脅和對國際形勢的影響

第一，深度偽造會破壞國際社會的戰略互信并沖擊脆弱的和平環境。從國際安全和國際形勢穩定的角度看，深度偽造與其他顛覆性數字技術相結合，將極大地降低全球和區域多邊機構以及國際關系行為體彼此間的信任。對于在國際社會和國際安全領域試圖制造事端的國家與非國家行為體而言，它們可以隨時獲取和利用深度偽造技術，減少信息武器化的障礙，擴大參與并深度影響國際安全形勢。

第二，深度偽造有可能會影響軍事決策和軍備控制。一些國家的政治和軍事領導人依賴公開與秘密的信息環境做出重大決策，特別是在重大危機面前，需要快速做出決策。但武器化的深度偽造可以被用來擾亂信息環境，這在持續的政治和軍事緊張局勢中，可能會引發國際危機甚至導致對立或對抗的升級。

第三，涉及他國領導人的深度偽造作品不僅會給國家領導人帶來負面影響，也會影響國家間關系。

第四，深度偽造很可能會成為國際恐怖活動的催化劑。恐怖組織可以通過深度偽造的視頻或音頻，展現對手包括政府官員發表煽動性言論或從事挑釁性行動，最大限度地對其目標受眾產生有利于恐怖組織的影響。

（二）給國家傳統安全帶來的挑戰

首先，指揮自動化系統方面的深度偽造為雙方軍事行動提供戰術優勢。在現代軍事體系中，指揮自動化系統是軍隊的神經中樞，這一系統的核心就是戰爭或戰場信息的獲取、處理以及運用。這就給對手提供了利用信息的空間。在未來的軍事行動中，可以生成高級指揮官的深度偽造，向對手的部隊下達虛假或矛盾的命令。

其次，深度偽造給國家政治安全帶來更大的挑戰和威脅。數字時代特別是人工智能技術的發展給各國進行政治戰帶來了顛覆性的變化。人工智能驅動的系統可以快速生成修改過的內容和深度偽造的數字產品，從而推動針對目標國家民眾和國家利益的虛假敘事，沖擊目標國家民眾的心理，侵蝕目標國家社會的信任，給政治安全帶來更大的挑戰和威脅。

最后，深度偽造會改變“脆弱國家”在國家治理方面的政治進程。經濟合作與發展組織將脆弱性視為一種普遍現象，脆弱指數比較高的國家往往存在政治與社會局勢不穩定、經濟落后和治安混亂等現象。被視為“脆弱國家”的往往都是整體發展水平比較落后的發展中國家。在“脆弱國家”，深度偽造可能加劇社會分裂、內亂、恐慌和沖突，造成政局動蕩，甚至會導致暴力沖突和軍事政變。

（三）給非傳統國家安全帶來的挑戰

首先是國家層面：深度偽造的內容會損害國家的經濟穩定。深度偽造危害國家經濟安全的常見手段有以下幾種：一是通過捏造政府部門如財政、商務和金融監管機構的行為影響市場走勢；二是制造虛假的突發性事件，對期貨市場和股市構成重大沖擊；三是惡意銀行擠兌，當公眾對金融形勢或銀行健康運轉的懷疑開始變得普遍時，社交媒體可以迅速放大它們，讓擠兌變得更加瘋狂。

其次是企業層面：深度偽造給企業帶來的威脅和挑戰更為直接。受深度偽造信息的影響，全球企業每年損失高達780億美元，其中包括90億美元用于修復聲譽損失和170億美元因財務虛假信息而造成的損失。全球領先的戰略傳播和公共事務咨詢公司富思博睿格潤分析了深度偽造對企業構成的五種潛在威脅：網絡釣魚攻擊、交易欺詐、對企業進行勒索、股票操縱、偽造監管行為。這五種“潛在威脅”，有一些實際已經發生了。

最后是個人層面：深度偽造主要被用于欺詐或勒索行為。針對個人的深度偽造主要有以下幾種情形：一是身份盜竊，即有針對性地深度偽造來竊取個人身份；二是冒名頂替詐騙，詐騙者可能會復制特定個人的聲音，通過人工智能系統撥打受害者的電話進行詐騙；三是網絡勒索，即使用深度偽造來生成更有說服力的虛假勒索材料勒索受害人。

需要指出的是，單一深度偽造的影響并不局限于單一類型或類別的風險，而是會在不同層次引發連鎖反應。深度偽造的影響往往從個人層面開始，進而對個人所在的團體或組織造成傷害，隨著深度偽造案例的累積和疊加，可能會影響社會心理，導致社會信任的普遍缺失。

深度偽造治理：基于總體國家安全觀的視角

應對深度偽造帶來的挑戰，應該以總體國家安全觀為指導，建立綜合治理體系。

（一）必須堅持以人民安全為宗旨

作為新興技術的副產品，深度偽造同樣也給中國國民安全帶來了威脅和挑戰。對深度偽造的治理，要本著對社會負責、對人民負責的態度，加強對人工智能和網絡空間的治理；還要廣泛依靠人民培養積極健康、向上、向善的數字生態系統。

數字時代帶來的一個巨大變化就是個人作為個體行為主體的角色參與培育和保護值得信賴的數字和信息生態系統。相當大比例的數字內容是由個人用戶生成的，個人也可以確保準確和良性的信息被共享。所以，整個社會要有意識地在個人層面培養公眾在數字時代、人工智能時代的道德意識和社會責任感。只有更多的公眾意識到了深度偽造可能造成的危害，進而在整個社會培養防范深度偽造的公眾意識，深度偽造對國民安全造成的威脅才能降到最低。公眾意識是防范深度偽造的最好“疫苗”。

（二）必須以維護國家政治安全為根本

深度偽造對中國政治安全帶來的挑戰主要表現為宗教極端思想和民族分離勢力的滲透和分裂活動，特別是西方國家利用所謂的新疆民族和宗教問題，試圖分裂中國，以及利用“港獨”勢力禍亂中國香港，給“一國兩制”在香港的實施制造麻煩。在涉疆、涉港問題上，西方媒體制作了包括深度偽造在內的大量虛假報道，極力抹黑中國政府的治疆、治港政策。所以，對深度偽造技術的治理，要上升到維護國家政治安全的高度，以嚴密防范和打擊利用人工智能和數字技術進行滲透和顛覆活動、暴力恐怖活動、民族分離活動和宗教極端活動。

（三）既重視傳統安全又重視非傳統安全

在傳統安全方面，深度偽造在國土安全和國防安全領域同樣給中國帶來了一些新挑戰。無論是在和平時期，還是在未來可能的戰爭條件下，中國指揮自動化系統同樣會面臨競爭對手利用深度偽造技術進行干擾和誤導的威脅；競爭對手和境外敵對勢力也會繼續利用深度偽造技術對中國發動政治戰，降低中國民眾對中國社會制度和執政黨的信任度。為此，一方面，中國要加快國防和軍隊的現代化建設，貫徹習近平強軍思想和新時代軍事戰略方針，統籌推進傳統安全領域和新型安全領域軍事斗爭準備；另一方面，深度偽造基本上是以互聯網為基本載體，維護政治安全一定要高度重視網絡意識形態安全問題。

但我們也要看到，深度偽造更多是針對個體用戶，其所帶來的非傳統安全問題也更為普遍和突出，這也是中國各執法部門必須面對的現實問題。因而需要把處理和應對深度偽造引發的非傳統安全問題“放在貫徹落實總體國家安全觀中來思考，放在推進國家治理體系和治理能力現代化中來把握”。

（四）要兼顧外部安全與內部安全及自身安全與共同安全兩對關系

首先，各國須齊心協力應對。深度偽造作為全球共同安全威脅早已越出國界，任何一個國家的短板都可能會造成外部風險的涌入，形成安全風險洼地。

其次，建立良好的數字生態系統治理深度偽造問題。一是尊重網絡主權。即要尊重各國自主選擇網絡發展道路和管理模式以及平等參與國際網絡空間管理的權利，不干涉他國內政，不從事、縱容和支持危害他國國家安全的網絡活動。二是維護和平安全。網絡空間不能成為各國角力的戰場和違法犯罪的溫床。三是構建良好秩序。既要尊重公眾交流思想、表達意愿的權利，也要依法構建良好的網絡秩序。四是堅持多邊主義。各國應加強溝通交流，完善網絡空間對話機制，同時發揮政府、國際組織、互聯網企業、技術社群、民間機構和公民個人等各個主體的作用。

最后，必須發揮聯合國等機構的作用。在聯合國及其相關機構的參與主導下，參考一些國家和地區處理深度偽造的監管機制和方法，制定國際公認的規范和技術標準，是目前能夠被大多數國家所接受的、打造良好的數字生態系統的可行路徑。

（五）在總體國家安全架構下完善針對深度偽造的綜合治理體系

深度偽造技術出現后，中國比較早認識到這一新興技術對國家安全的威脅，并不斷采取應對舉措加強在這一領域的治理，形成了較為完善的綜合治理體系。首先，中國正在逐漸完善應對深度偽造的法律體系；其次，有針對性地頒布遏制惡意深度偽造行為的管理條例和規定；再次，從立法到執法，強化并壓實信息發布平臺的責任；最后，完善公民公共安全教育體系。

結語

人工智能和其他數字技術的不斷進步，互聯網技術的進一步普及，使得深度偽造技術產品的質量、數量和多樣性在穩步上升。它所造成的潛在風險也為各國敲響了警鐘。目前，包括中國、美國、歐盟和聯合國在內的大國和國際組織都已經認識到深度偽造給國家和國際安全帶來的挑戰和威脅，并從新技術的研發、加強對信息發布平臺的監管以及社會立法等方面采取行動，力求遏制惡意深度偽造帶來的各種威脅。國際社會也必須摒棄國際安全治理的雙重標準，倡導綜合安全、合作安全、共同安全的理念，共同打造數字時代人類安全的命運共同體。