深度偽造與偽造深度：技術治理的邊界與限度

張愛軍，曹慧雅

(西北政法大學 新聞傳播學院，西安 710199)

技術與資本、政治所具有的天然聯結屬性使其會影響政治權力與資本勢力的運作。深度偽造技術的誕生與應用，在政治領域表現為具有偽造深度的信息的生成會遮蔽政治認知、阻礙政治溝通，并分散政治共識；在經濟領域表現為其應用的開發具有加劇資本剝削的風險；而對公眾心理的影響則表現為批判意識、隱私意識和倫理意識的淡化。目前，對于深度偽造技術所引發的風險的研究主要包括宏觀和微觀兩個部分。其中，宏觀研究較多集中于探討深度偽造技術對國家安全和國際關系的威脅，忽略了宏觀上資本勢力的負面作用；微觀研究的焦點則較多集中于深度偽造技術對于個人隱私的侵犯，忽視了其對于個人心理的影響。具有偽造深度的信息產品需要利用技術力量進行治理，而圍繞技術治理的研究則多聚焦于技術本身的設計和應用，對技術治理的困境及邊界未有深入研究。探索技術治理的挑戰可以為治理技術指明前進的方向，并構建多方合力的治理框架，而分析技術治理的邊界則能夠限定技術治理所涉及的權力主體在行使治理功能時的職能范圍。

一、深度偽造和偽造深度的概念與關系

智能技術的快速發展表現為技術的更新迭代及新興智能技術的誕生，深度偽造技術是在生成對抗網絡、算法技術、深度學習技術等技術的交叉融合的基礎上被創建的。其誕生一方面拓寬了技術的應用實踐范圍，另一方面則提高了虛假信息的逼真程度。

(一)深度偽造及其應用實踐

深度偽造技術是深度學習和偽造的合成詞，是指借助機器學習合成音頻、圖像和視頻，從而形成內容的技術，是人工智能技術發展到一定階段的產物。

視頻偽造結合了音頻偽造和圖像偽造，是深度偽造技術應用最廣泛的代表，其應用實踐包括互換身份的“換臉”、改變人物面部表情，以及創建虛擬人物三大類型。事實上，從深度偽造技術的代碼在開源軟件的公開到各種換臉軟件的普及，臉部偽造的應用門檻逐漸降低，專業技術人員和普通大眾皆可利用深度偽造技術生成臉部偽造的信息產品。改變人物面部表情是通過利用深度合成技術來改變人物五官的動態呈現，從而轉換視頻中人物的情緒表達和說話口型。在實際應用中，可用于制作靜態藝術作品中人物的動態視頻、制作具有高度還原性的歷史人物的相關影像。而創建虛擬人物則是通過收集真實人物的聲音圖像作為原型，利用深度合成技術打造出虛擬人物。

深度偽造技術的更新升級使其產品的逼真度有了很大提高，但仍存在信息產品偽造深度不同的情況。雖然經過機器的深度學習生成了偽造信息，但部分深度偽造技術生成的信息產品在本質上仍舊屬于“淺偽”的范疇。

(二)偽造深度及其影響因素

偽造深度是指深度偽造產品內容接近真實和客觀存在的程度，即深度合成產品的逼真程度。深度偽造的產品與真實的視頻、音頻無法達到完全一致，存在著不同程度的瑕疵，從而造成了利用深度偽造所生成的信息偽造深度不一的情況。具體而言，偽造深度的程度受兩種類型因素的影響，一是技術處理上的不自然和硬件設施的不適配降低了偽造的深度；二是深度偽造信息中的內容邏輯與現實不符合，以及細節“露陷”影響了偽造的逼真度。

第一，技術處理和硬件設施。深度偽造的產品受技術處理和硬件設施的影響，其逼真程度有所不同。深度偽造的源代碼在網站的開放及換臉軟件的普及降低了深度偽造的技術門檻，偽造深度低的產品往往通過免費下載的軟件就可生成，消費者不需特殊的專業知識和技術能力即可實現換臉操作。相較于擁有專業處理技術和硬件設施的專業人員，普通用戶生成的深度偽造產品存在瑕疵，觀察者能夠通過肉眼分辨出其與真實音頻、視頻的區別，偽造深度不高。如視頻中人物臉部表情的扭曲生硬、臉部周圍光影的閃爍和模糊，音頻中語調的不自然和不連貫。而專業人員通過對源代碼的升級、對瑕疵的技術處理，以及適配的硬件設施，則會生成以假亂真、偽造深度極高的深偽產品。

第二，內容邏輯和細節。深度偽造產品的主要生成動機包括娛樂消遣和政治目的，政治目的中包含了政治宣傳和政治動員等內容。用于娛樂消遣的深度偽造技術生成的信息內容多為某個個體與影視劇中演員的換臉，往往與現實邏輯和人物身份不符，偽造深度不高。而用于政治宣傳、政治動員的深度偽造產品，要煽動公眾情緒、達到特定的政治目的，其內容通常符合邏輯和政治人物的形象與身份，偽造深度較高。此外，深度偽造技術生成的信息內容的細節破綻也會影響其逼真度，在視頻中背景信息的前后不連貫，即某個物體和人物的突然出現或消失都會降低偽造的深度。

此外，偽造深度受技術硬件及內容細節的影響而深度不一，最終依賴受眾做出主觀判斷，受眾信息素養是衡量偽造深度的標準。受眾信息素養包括判斷信息、鑒別信息和評價信息等方面的能力。面對同樣的深度偽造產品，具備信息素養的受眾在接收到視覺信息和聽覺信息后，就其內容可辨別出是否符合現實邏輯、是否存在細節上的漏洞等。而不具備信息素養或者信息素養不高的受眾則難以辨別出深度偽造產品，同時也證明了該產品的偽造程度較深。

(三)深度偽造與偽造深度的關系

偽造深度是深度偽造的程度，深度偽造技術的直接目的是生成具有偽造深度的信息內容，深度偽造與偽造深度表現為彼此融合促進的關系。偽造深度的需要對深度偽造技術的產生、發展起促進作用，而深度偽造技術的演進升級則對偽造深度的程度起提升作用。在深度偽造技術出現之前，僅能使文本、圖像的篡改、偽造接近真實的程度，但對于音頻視頻的合成、修改則較為困難，達不到以假亂真的程度。依托于深度學習的深度偽造技術的孵化則實現了對聽覺信息的操控和對視覺信息的進一步控制，讓音頻信息和視頻信息隨著人類的思維構想生成或者更改，以接近真實的存在，滿足了人們對于信息偽造深度的要求。對偽造深度的需要促進了深度偽造技術的發展，新技術的發明與使用本質上是要反映人的意志，要為人類的社會生活與政治理想服務[1]。作為一種新興技術，深度偽造技術進入政治領域，受政治驅動力的影響，就其運用的目的而言是帶有政治性的，政治對偽造深度的需要無疑會推動深度偽造技術的發展。深度偽造技術出現之前，出于政治目的，編造事實的政治攻擊往往通過偽造文本信息，對敵對政黨進行文字指控；而深度偽造技術的應用則可在視覺認知和聽覺認知方面塑造真相，從對“事實”的陳述轉變為對“事實”的展示，為政治攻擊提供具有可信度的證據，政治對偽造深度的需要會有意無意地促進深度偽造技術的發展。

深度偽造技術的演化和更新會提升偽造深度。深度偽造有使用技術的簡單性與復雜性之分，相較于簡單傳統的深度偽造技術與大眾可使用的深度偽造技術，復雜的偽造技術則是借助專業技能修飾造假信息的瑕疵，并升級深度偽造算法的技術。簡單來講，深度偽造技術從依托卷積神經網絡到生成對抗網絡，其深度偽造工具的日臻完善不僅提高了偽造速度，而且也提高了偽造的深度。

利用深度偽造技術生成的具有偽造深度的信息除用于影視特效、藝術還原等特定領域外，其在大眾娛樂狂歡、政治傳播等領域的應用則會引發一系列問題，甚至會將技術變成資本手中的利器，給社會和個人帶來災難性的后果。

二、深度偽造與偽造深度的風險

技術與資本、政治具有的天然聯結屬性使技術會影響政治權力與資本勢力的運作，技術權力、政治權力和資本權力互相建構，以維護和鞏固既有的權力結構，在建構的過程中或會出現對已有權力結構的削弱和強化等不確定的風險，當然，個體權利和利益的損害亦在技術所引致的風險樣態中。偽造深度的高低與深度偽造技術產生風險的可能性呈正相關關系，偽造深度越高越容易引發深度偽造技術的風險。

(一)深度偽造技術加深人的異化

深度偽造技術對人作為主體所擁有的意識的削弱。在技術面前，人的批判意識、隱私意識和道德倫理意識被削弱，表現出由人所創造的技術反過來束縛人，使人喪失了主體性和能動性，個性得不到全面發展并造成人的異化。

第一，批判意識的淡化。深度偽造技術在展現其功效時會引起人們對于技術的盲目崇拜。正如芒福德認為，在巨型機器制造的不幸中，首要的就是當今人們對科學技術界的無限崇拜[2]。對技術的崇拜會使人片面地認為技術所具有的正向影響與功能會給人類帶來福音，并認為任何技術都不應該受到遏制，具體表現在大部分的深度偽造產品所具有娛樂消遣的價值取向上，其內容大都是具有情緒的煽動性的。在后真相時代下，情緒價值高的信息產品無疑能收獲較高的滿意度，進而使人們沉醉于深度偽造技術所造就的滿足個人幻想的情景中，享受著深度偽造技術所提供的精神層面的滿足，進一步加深了人們對于技術的依賴與崇拜，相反，人們對于技術的批判意識則被削弱。此外，更有甚者，深度偽造技術創造出的具有較高偽造深度的信息產品會代替社會真實，而人們對于深度偽造技術所創造出的假象的迷戀則會降低對真實社會的關注度，從而使人們喪失對社會現實的批判，并導致技術對人的異化，即人被自己的創造物所控制、奴役、束縛。

第二，隱私意識的淡化。使用深度偽造技術創造出具有一定偽造深度的信息產品的前提是收集個人的面部信息、聲紋信息等個體生物數據，借助機器學習將采集到的個體聲音、面部五官對原本音頻和視頻中的人物進行替換。依托深度偽造技術的“換臉”軟件，讓不具備專業技術知識和能力的普通用戶接觸、使用深度偽造技術并生成深度偽造產品。在“變身”主角的背后是個人生理信息的被采集、個人隱私的讓渡，利用個人聲紋、面部信息和深度偽造技術可生成出用以詐騙勒索的假音頻、假視頻信息。由于第三人效果感知定勢的存在，個體往往認為偽造的敲詐信息會對他人具有較高欺騙性，而不會影響自身的認知和判斷，從而愿意用個人生物信息換取娛樂，輕視了深度偽造技術對于自身隱私的威脅。

第三，倫理意識的淡化。20世紀60年代，格伯納等人提出“涵化理論”，認為將大眾傳媒的內容反復傳播給受眾會影響其認知，進而再塑其思維方式。深度偽造技術所塑造出的偽造現實不是對真實現狀的復制呈現，而是通過深度偽造技術展現編造過的情景。對深度偽造技術的惡意使用表現在生成突破道德倫理底線的信息產品上，使其吸引公眾的眼球和注意力、符合大眾的獵奇心理。尤其是在深度偽造放寬技術門檻與各種換臉軟件的普及后，涉及他人形象的格調低俗的信息產品可輕易被制作，經過社交媒體的大規模傳播后，將潛移默化地淡化公眾的倫理意識、降低其道德底線，進而對現存的社會道德倫理規范形成潛在性威脅。

深度偽造技術表面上實現了人類的想象力和思維意識的自由，但在實際的技術應用中則會使個體形成對深度偽造產品的依賴和對深度偽造技術的沉迷，使本屬于人類的理性思維和底線思維受到技術的蠶食，從而只能順應技術異化的邏輯。

(二)深度偽造技術阻礙政治傳播

深度偽造技術的惡意使用進一步模糊了真相與假象之間的界限，使輿論場上的信息難以辨清真偽，導致政治傳播面臨政治認知被遮蔽、政治溝通被阻塞，以及政治共識被分散的危機。

第一，深度偽造遮蔽政治認知。政治認知是政治主體對于政治事件、政治人物、政治規律等政治信息的看法、態度和評價。作為技術和表達手段的深度偽造，可以通過使用人工智能或者深度學習技術來創建扭曲政治人物、國家形象的圖像、音頻和視頻，并進行議程設置。視覺層面的偽造具有較高可信度，深度偽造的信息被認為是一種客觀現實而被受眾接受，從而使公眾認知受到干擾。盡管深度偽造的政治信息會被調查核實，但其經過偽造的事實也會公之于眾，同時由于首因效應的影響，公眾對最先接觸的深度偽造政治信息先入為主地形成了認知和記憶，從而影響、阻礙了真實政治信息的傳播和傳遞，造成公眾對政治信息的認知窄化和片面化。

第二，深度偽造阻礙政治溝通。政治溝通是指政治信息、政治態度與政治思想交流與交換的全部活動。政治溝通的前提是公眾對公共事務的理性商討，而深度偽造技術則被各種政治力量所利用，生成具有偽造深度的視覺信息，用以在認知層面上傳遞煽動性言論和誘導性信息。非理性的話語走向使政治交流和互動無法有序開展，情緒式宣泄使政府難以與公眾進行溝通對話。政治溝通的理想狀態是政府與公眾間暢通的互動與對話，而這就需要營造出風清氣正的網絡政治空間，創造出信息雙向流動的良好環境。政府的辟謠行為是政府權力的運作方式，也是提升政治溝通效能的方式。以政務新媒體為代表的新型官方辟謠媒介憑借其即時性、交互性等特點成為政府進行輿情管理的陣地。而深度偽造技術的運用使具有高度可信性的虛假信息生成，給政務新媒體的辟謠帶來了挑戰，政府傳遞的信息難以被公眾接受、肯定，政府與公眾之間的信息交流與溝通就形成了阻塞，使兩者無法在公共問題上進行有效的交流。

第三，深度偽造分散政治共識。政治共識是人們對于政治價值觀念、政治規則與程序意見的基本一致。達成政治共識需要對政治信息形成相通的意義空間，深度偽造所制造的假信息的泛濫會造成真相與假象共同充斥的網絡空間，真實的信息與虛假的信息都有各自的受眾。深度偽造技術還可以結合算法推薦技術，根據用戶的政治立場，有針對性地向其推送具有偽造深度的政治信息，固化用戶的政治態度，且由于證實性偏差的存在，受眾在面對深度偽造信息時首先判讀的不是信息真偽，而是其是否與自身既有的認知結構相接近，個性化推送技術迎合個體的政治認知，進而將個體封閉在單一的政治信息環境中，造成個體政治信息環境的封閉與狹隘，并進一步固化人們的政治觀點與政治立場。接收深度偽造信息推送的群體與接收官方信息推送的群體處于兩種意義空間之中，對政治規則、政治規律和政治事實存在不同的認定，導致群際間產生間隙與裂痕，出現網絡巴爾干現象，也使得政治共識難以形成。

(三)深度偽造技術加劇資本剝削

資本是一種積累起來的勞動，“資本邏輯”的核心在于通過“榨取”和“剝削”來實現自身的擴張，為再生產和趨利致富做好充分的準備[3]。作為深度偽造技術軟件研發方的資本平臺可憑借換臉軟件的運行收集公民的數據信息，并將收集到的公民信息數據轉化為數據資本，事實上，對用戶數據的二次利用的實質是對用戶的剝削，以實現資本利益的最大化。

第一，勞動領域的資本剝削。智能經濟新業態新模式不斷催生形態各異的數字勞動，從網絡眾包中的微勞動到平臺用戶的免費勞動，資本不再滿足于雇傭勞動制下對人們體力勞動和智力勞動的吸納，而是憑借平臺壟斷和數據抓取，實現對大眾生命政治活動的吸納[4]。個體在深度偽造構建的虛擬空間中以自身生理信息作為交換生成具有偽造深度的信息產品，這些數據可被開發軟件的資本平臺采集，個體也隨之喪失對數據的控制權。用戶的個人生理信息和深度偽造產品中含有的信息被平臺數據化為數據資本，基本信息則用來建立個人的數字畫像以精準投放廣告；網絡行為中用戶的深度偽造內容生產免費為平臺方提供原創內容，為其增加日活量和熱度。資本平臺可將用戶個人信息和原創作品作為與其他平臺數據交換和數據共享的資料，謀求共同利益。

第二，消費領域的資本剝削。個體在技術構建的虛擬空間中生產信息和數據，而這些數據可被資本平臺采集，基于消費者的生理信息諸如性別、年齡有針對地進行廣告推送，以刺激消費。在廣告和服務推送的過程中，根據消費者的年齡、性別可分析其消費能力、消費偏好，采用動態定價方案，針對不同消費者的消費水平等顯示出不同的商品或服務價格，以幫助企業實現利潤的最大化。利益驅使著企業采取算法進行動態定價，在消費市場進行價格歧視、算法殺熟。

深度偽造技術造成的危害不僅在于其技術的復雜性，也在于其對于人為因素的放任。深度偽造技術自身漏洞所造成的產品偽造深度存在的偏差，給技術治理和攻破深度偽造指明了思路。

三、深度偽造與偽造深度的技術治理

深度偽造的偽造深度決定了其影響程度，對具有偽造深度的信息進行治理，可通過一系列技術手段偵破深度偽造信息的瑕疵，以降低深度偽造的偽造深度，并最終輔助人類分辨出真實信息與偽造信息。治理技術包括基于區塊鏈的溯源技術追蹤信息鏈條上的信源、根據細節指標的核查技術判斷音頻信息和視頻信息的真偽、利用標簽技術對真實信息和偽造信息進行標記、利用信息屏蔽技術限制低俗的深度偽造信息在網絡空間的傳播。治理技術的應用厘清了真相與假象的界限，使輿論場上原本具有偽造深度的政治信息可信度降低，從而削弱了其對政治傳播帶來的負面影響；切斷了突破道德倫理底線的深度偽造信息的傳播網絡，防止其進一步且在更大范圍內弱化公眾的倫理意識。

(一)深度偽造與偽造深度的技術治理

第一，溯源技術。信源的可信度是信息真偽判斷衡量的標準之一，通過追蹤信息的來源出處來衡量信源的可信度，而判斷信息真偽的溯源技術則是判定、治理深度偽造信息的技術之一。區塊鏈以鏈條的方式組成去中心化的共享賬本，記錄網絡空間中的數據并保證數據的不可篡改。如斯坦福的DRT小組探索開發的區塊鏈程序可追蹤視頻的多個編輯版本，如果無法追蹤到母視頻則無法信任該數字視頻的內容。利用此程序可幫助用戶確定視頻是否可以追蹤到信譽良好的來源，從而打擊深度偽造。如果溯源技術檢測到傳播鏈條上的“深度偽造”信息沒有原型的存在，就可以證明該信息有經過合成的可能。如果溯源技術將追蹤到的信息原型同傳播鏈條上的信息版本進行比對，也可以檢測出原音頻和原視頻信息內容是否被篡改，由此區分出真實內容和偽造內容。

第二，核查技術。對溯源技術檢測到的信息傳播鏈條上有深度合成可能的信息，可將數據庫中的信息原型與偽造的信息進行比對，檢查音頻和視頻是否利用個體生理信息進行偽造和冒用。對于檢測到有原型的多版本信息，核查技術可通過技術手段檢測信息是經過偽造還是隨著事態發展的自然演變。溯源技術與核查技術所檢測出的真實信息與偽造信息，為下一步進行標簽技術提供了參考。

第三，標簽與信息屏蔽技術。標簽技術可對溯源技術追蹤到的源頭信息進行標記，如斯坦福大學計算機科學系的學生開發的Neural Hash就可以對生成指向的原始內容標簽數字水印，即即使惡意攻擊者可以修改視頻、扭曲音頻、交換他人的面部等，其數字簽名都無法被抹去。對元內容的標記方便了大部分用戶追蹤信源，通過對比原始內容和接收到的信息辨別出其是否為深度合成的真相。同時，這也有助于提升公民對具有偽造深度信息的辨識能力。信息屏蔽技術即技術刪帖，對于利用深度偽造技術生成的突破道德倫理底線的信息產品，不論其偽造深淺，都應限制信息在互聯網公共空間的流通，防止其對公眾的倫理意識造成不良影響，維護社會道德規范。

(二)深度偽造與偽造深度的技術治理困境

利用技術治理深度偽造存在的困境與挑戰：治理技術與偽造技術在設計和應用上存在時差、偽造形式的多樣性與治理技術的規范性存在沖突、治理技術的程序化和“偽造”動機復雜化也存在矛盾。

第一，治理技術與偽造技術的時差。深度偽造技術與鑒別偽造技術的設計和應用存在滯后性，針對深度偽造技術的特點及其漏洞而開發出的治理技術需要經歷代碼設計、程序測試、軟件應用等階段，造成治理技術在時間上延遲于偽造技術。而偽造技術會不斷地升級，治理技術需根據偽造技術的更新進行技術上的不斷調適，造成其始終與偽造技術存在設計上的時差。在技術應用上，利用深度偽造技術生成的產品在網絡空間中傳播后，一系列的鑒別技術才有了應用的對象，但也造成了對偽造技術和偽造信息的滯后處理。

第二，核查技術規范性與偽造形式多元性的矛盾。核查技術內設有特定的算法，在核查深度偽造產品時通過既定的程序判斷信息是否經過深度偽造，而偽造形式可能不在核查技術所檢測的范圍內，因此或帶來誤判。如深度偽造技術對眨眼模式進行改進，即通過查看眨眼模式來識別深度偽造的工具是否失效；對深度偽造技術進行升級后，視頻中人物臉部周圍光影的閃爍、模糊，音頻中語調的不自然、不連貫等等瑕疵都被消除掉，這也導致識別此瑕疵的核查技術無法發揮作用。因此，偽造形式的多元性給核查深度偽造帶來了阻礙。

第三，技術程序化和“偽造”動機復雜化的沖突。深度偽造技術的低門檻應用使社交媒體上生成的深度偽造產品主體泛化，在注意力經濟模式下，或有部分用戶為博取眼球而聲稱其發布了深度偽造的信息。即使通過某種形式的身份驗證證明了某些事物是真實的，但如果當事人否認其真實性，則依然會形成無法驗證的怪圈[5]。技術的判定是程序化的，而“偽造”的動機則是多變復雜的，兩者的沖突是技術治理的困境之一。

持續加強對治理技術的探索開發，可以縮短其設計與應用的時間，以實現技術治理的有效應用，從而提升治理技術應對多元化、復雜化的深度偽造形式與動機的能力。此外，建立技術預警機制是治理技術的方向。

(三)深度偽造與偽造深度的技術治理邊界與限度

治理技術依托科技公司搭建設計與運營的框架，并作為政府治理社會的工具發揮其服務社會的功能，技術治理涉及三個主體即技術本身、政府和資本，因此，應構建技術倫理邊界、政治倫理邊界以及經濟倫理邊界，以明確技術治理過程中的秩序與規則。

第一，技術倫理邊界。針對治理深度偽造技術所研發的溯源技術、核查技術與標簽技術，可以在一定程度上應對具有偽造深度的信息所帶來的負面影響。治理深度偽造的技術是從技術層面檢測、判定經過合成的信息，從而使人類用戶根據技術判斷的結果認定信息是否經過深度偽造，以反映出自主意識和價值判斷對技術的讓渡。治理技術的開發研究和應用發展的初衷是服務人類，而其所表現出的服務性存在則易滑向思想控制的存在，從而使人類的主體性地位受到威脅，有鑒于此，技術倫理邊界的建設應受到關注。

工具理性和價值理性關系的融合共生構成了技術倫理邊界。工具理性注重履行技術的使命，追求技術達到效率的最大化。當以工具理性作為技術治理深度偽造的主導價值取向時，雖然能夠應對深度偽造帶來的負面影響，但也會將技術引入野蠻發展的軌道而使個體形成對技術的依賴，深度偽造的信息會被技術核查并打上標簽，人類用戶自身的判斷、分析與理解能力未必能識破深度偽造的信息，因此不如依靠技術的判斷與治理影響個體的價值認知、價值選擇和價值判斷。另外，價值理性的人本主義展示出對人文精神的關懷，價值理性的過度強調或導致其一味地追求人文價值而限制技術的運用與發展，進而阻礙技術在深度偽造領域發揮治理的作用。因此，構建價值理性與工具理性融合共生的關系，有利于技術最大限度地達到預期目標，同時技術的設計也應受到倫理道德和準則的約束，為人類的自主性思考和理性思維留有一定空間。

第二，政治倫理邊界。技術與政治共同處于社會系統之中，技術影響政治系統運作，在對政治認知、政治溝通和政治共識的形成帶來阻礙的同時，政治也內嵌于技術的運作與應用中，利用技術鞏固既定的政治體系。數字技術是政府治理變革的助推器和驅動力，數字技術嵌入治理體系可有效提升治理能力與治理效能[6]。利用技術治理深度偽造的本質是加強國家的社會管控能力，若越過政治倫理邊界，作為管理和權力方的政府可利用新興治理技術構建新型的控制網絡，將治理技術變成加強管控的利器。如通過標簽技術認定偽造信息，對個人發布的、用以攻擊政治話語、公共政策與現有權力體系的信息打上標簽并限制其傳播，具體表現為技術刪帖和限制訪問等信息屏蔽行為。而針對用以政治攻擊的深度偽造信息，標簽技術可以滯后處理甚至不處理。政府利用技術治理深度偽造，是將技術作為社會治理的工具和手段。政府對社會進行治理時需要在政治倫理的邊界內行使權力，以避免將技術治理轉變為技術控制。

權力和權利關系的平衡構成了政治倫理邊界。政治倫理學作為一門研究政治正當性及其操作規范和方法論的學問[7]，它規定了權力主體在行使政治權力時應具有的價值正當性。即使治理深度偽造的技術賦予了政府追蹤、收集公民信息，進而監督與控制私人信息的可能性，但政府的責任仍然在于平衡自身權力與公民權利，即在實現輿論監督的同時不以技術侵犯公民的私人領域，在實現維護公共空間秩序的同時不以技術限制公民政治參與，不以讓渡個人權利、侵蝕個體隱私與尊嚴的情況下延伸權力的范圍。此外，政府對公民的權利保護應在倫理道德框架之內，以避免過度保障權利而限制權力運作，由此造成權利與權力關系陷入另一個極端。

第三，經濟倫理邊界。治理深度偽造的技術設計研發和應用由科技公司執行，為防止治理技術被惡意修改和應用，甚至被深度偽造技術用做技術升級的參考，治理技術往往不公之于眾，這也造成治理技術處于“黑箱”之中，資本平臺對數據資源進行開采，掌控借助核查技術所建數據庫中公民的生理信息及借助溯源技術中的區塊鏈程序獲取公民發布在社交媒體上的思想信息，并以技術治理的名義規避政府和公眾監督，資本具有的天然擴張屬性使商業化運作的企業利用網民數據獲取收益。因此，需構建經濟倫理邊界以規范經濟主體的商業行為。

資本平臺利益與公民權益的關系構成了經濟倫理邊界。經濟倫理既是激發經濟行為的精神動力，又是評價人們經濟活動是否合乎道義的標尺，并以此影響人們對經濟體制和經濟行為的選擇[8]。在經濟倫理邊界內，企業獲得經濟效益不以損害公民的權益為前提和交換，在以技術治理的形式服務社會時應尊重個體權益。

技術治理的邊界是技術治理深度偽造過程中各主體應遵守的規范和道德底線。只有在技術倫理邊界、政治倫理邊界和經濟倫理邊界內，技術才能發揮正向的治理作用。而技術治理的挑戰和其存在的越界風險，則表明對于深度偽造的治理不能完全依賴于技術，社交媒體平臺、媒體從業者、公眾、政策和法律都應共同作為治理深度偽造的主體，搭建起互相監督、共同治理的有效治理框架。