基于AI技術偽造網絡視頻的對策研究

許櫻馨 吳童杏 康暉 許欣 陳睿超

【摘? 要】作為人工智能和深度學習技術發展的產物，AI技術偽造視頻在近幾年風靡全球網絡。筆者探討了AI技術偽造網絡視頻的流程，通過實驗驗證了AI換臉視頻的效果，分析了AI技術偽造網絡視頻的傳播以及其“向善”與“作惡”的兩面性，提出了針對AI技術偽造視頻對策：學會在技術層面進行判斷;建立鑒偽體系不可或缺;引導人文態度勢在必行。

【關鍵詞】AI;deepfake;偽造視頻;鑒別;對策

引言

隨著科技的迅速發展、AI技術的不斷成熟，僅使用一張照片就能實現視頻人物“換臉”的AI偽造視頻風靡全球網絡，一個APP、一張照片就可以輕松換臉。然而在搞笑和娛樂的同時，可能產生個人隱私泄露的巨大風險，甚至惡搞政治人物，操縱民意，造成極其嚴重的社會影響，因此，深入了解AI偽造視頻的原理，了解AI偽造網絡視頻的傳播與危害，研究AI技術偽造網絡視頻對策具有重要意義。

1.AI偽造網絡視頻的流程

AI偽造視頻通常是指使用人工智能（AI）形式的計算機程序深度學習算法被訓練用來識別特定人的實際視覺記錄中的一種偽造模式。一段視頻內容可以通過更換新元素（比如更換別人的臉）來改變，并無縫地將兩者結合起來，也就是人們熟知的deepfake。其流程如圖1所示。

為了更深入了解其過程，本課題進行了AI替換的網絡視頻實驗，實驗過程如下：

（1）選擇合適的目標面部視頻和替換面目素材視頻或多角度照片;

（2）將視頻中每一幀提取出來，轉化為png格式圖片;

（3）利用人臉識別算法將兩個視頻的所有幀圖片的面部識別裁剪出來;

（4）手動篩選刪除素材的模糊、識別失敗的面部圖片;

（5）使用英偉達顯卡cuda進行AI學習，并改變學習時間迭代進化次數。實驗中經過6小時的gtx 1070掛機學習，生成model模型;

（6）替換人臉。利用模型學習成果，替換目標每一幀圖像的人臉;

（7）整合為視頻。調整碼率15000，幀速率60fps，編碼格式h.264 。

（8）實驗結果：學習時間迭代進化次數越多，越清晰，loss噪點（失真度）越小;學習時間無上限，可以不斷進化，會越來越清晰。

實驗結果樣圖見圖2所示。

2.AI偽造網絡視頻的傳播

AI偽造網絡視頻技術最早出現在2017年，經過3年多來的快速演化，AI偽造視頻技術已經發展成為包含以deepfake和Face2Face為代表的PC端軟件，以及以Zao和faceapp為代表的移動軟件的大家庭，并且隨著快手、TikTok（抖音）等短視頻平臺的迅速崛起，為AI技術偽造視頻的傳播提供了有力的載體支撐。

盡管如此，大多數國人對于AI偽造視頻的缺乏認識。為此，本課題進行了問卷調查，目的是調研大眾對AI偽造視頻的知悉情況。樣本受眾群為普通高校學生，社會工薪階層等，樣本容量為200。在調查問卷中，通過統計顯示受眾是否知道AI偽造網絡視頻的問題，結果證明，樣本受眾群對AI偽造的網絡視頻知悉度較低。結果如圖3所示。

大多數國人對于AI視頻的認識片面晦澀，AI偽造視頻在國內的盛行起步較慢，是從2019年2月開始的。有博主將《射雕英雄傳》中朱茵飾演的黃蓉換臉成楊冪，一夜之間，換臉游戲吸引了很多人的關注，隨著各種換臉APP的出現，不同的換臉視頻在網絡上流傳起來，僅需要上傳一張正臉照片和想要的換臉視頻就可以實現AI換臉。

AI偽造視頻換臉主要是用于日常娛樂，讓人們享受到沉浸式的角色扮演，滿足個人的表演欲，它作為一項新興的技術，帶來了趣味性和視覺效果沖擊，自由選擇的場景和裝扮不斷吸引著使用者的好奇心，新鮮感使得它迅速傳播、不斷擴散。此外，AI偽造出來的搞笑視頻在網絡傳播的同時也能促進人與人之間的交流，具有社交分享性這一特征，只需要輕輕點下分享按鍵，就能夠快速轉發并與人互動，拓展了AI偽造視頻的傳播渠道。

3.AI偽造網絡視頻的“向善”與“作惡”的兩面性

如今，科學技術的迅猛發展正在改變著現實中認為“眼見為實”的一切。隨著大量“深度偽造”的視頻流入日常生活，AI為人們帶來快樂的同時，也會輕易蒙蔽他們的肉眼，使他們做不到分辨真假。AI偽造網絡視頻本身，可以說是一把雙刃劍。

AI偽造網絡視頻有“向善”的一面。AI換臉視頻還是非常有趣的。就比如用在影視上，相當于更換了演員，贏得一種新鮮感，更方便滿足自己的臆想，又比如把自己或者朋友的臉替換到某個視頻上，在私下與朋友分享，這可比P表情包快樂多了，AI更能創造屬于自己的溫馨回憶，挽回心中的遺憾，發現閃光點。

AI偽造網絡視頻有“作惡”的一面。調查發現，人們偏向于看到偽造技術的壞處，往往認為偽造技術會侵犯人身權利，使自身信息得不到有效保護等等，圖4，圖5是本課題進行的問卷調查結果，顯示受眾對于AI發展相當焦慮。AI偽造視頻技術的出現，讓視頻開始變得難以相信。人們普遍認為視頻就能證實事實，而如今視頻中的一切卻變得模糊起來。對于本來就有大量虛假信息的互聯網來說，這必將造成進一步的信任危機。可能那些真正被錄下做壞事或說令人反感言論的人更容易指出，這些針對他們的證據都是偽造的，尤其在新聞業，一旦人們知道目前有偽造的視頻和音頻在傳播，即使他們看到的是真實視頻，也會開始產生懷疑。AI也會大大侵犯肖像權。與PS修圖技術不同，AI偽造視頻技術的主要功能就是換臉，從這個層面來看它的出現本來就是一種對肖像權的挑釁。而大部分網站會對AI偽造視頻抵觸抗拒，肖像權危機就是主要原因。

AI偽造網絡視頻更大“作惡”的一面是針對國家安全的挑戰，也是對政治領域的威脅。例如，2018年一段名為“You Wont Believe What Obama Says In This Video”的AI技術偽造視頻突現Youtube熱點，視頻中，前美國總統奧巴馬笑罵特朗普是一個十足的笨蛋，短短一個月該視頻達到450萬的播放量。其次，是越來越多的AI偽造網絡視頻軟件淪為污化女性、黃色惡搞、發展色情產業的新工具，如演員楊冪換臉視頻在短期內微博的閱讀量就達到了1.1億次，除了楊冪之外，在涉黃網站上檢索“換臉”一詞，女明星迪麗熱巴、林允兒、關曉彤、趙麗穎、劉詩詩等人的偽造黃色視頻隨處可見。

除了面對AI偽造網絡視頻的“作惡”，還面臨著難以辨別機器化作用下產生的偽造視頻的難題。如今，人們身處AI技術泛濫的時代，即使面對的偽造視頻并不完美，圖像有時無法兼容順暢，但伴隨數據訓練越來越多，這樣的問題將會被改善。如今的趨勢下，機器建模需要的相關數據越來越少，將會更加為分辨結果造成阻礙，人們通常難以用肉眼分辨出偽造與正常視頻的區別。

4.針對AI技術偽造視頻對策

針對AI技術偽造網絡視頻帶來多種危害問題，本文提出幾點對策。

4.1學會在技術層面進行判斷

視頻造假的危害毋庸置疑，所以隨意放在網上的視頻需要認真去辨別。幸運的是，偽造與證偽的技術總是交互上升的。像是紅藍對抗賽，AI讓偽造的成本減低，技術人員也不斷在開發更加精密的技術來增強視頻的鑒別。學會判別真偽，技術層面主要有以下幾點。

（1）規律技巧掌握。制造出“深度偽造”內容的機器學習方式不可逆轉，因此難以檢測，相對而言，也會總結出一些技巧。模糊處理是一種最常見的方法。比如視頻中說話者有一段時間沒有動作，眨眼不連貫，或者看上去木訥。研究表明，眼睛和嘴巴往往是一眼認出偽造視頻的關鍵。再比如通過提高視頻的色彩飽和度，可以在視頻中的面部皮膚檢測出人物脈搏畫質的差異，由雜亂剪輯合成的虛假視頻里血流是不規則或不存在的。除了畫質，還有畫幅的甄別，也就是視頻中的低分辨率，修改過的視頻的分辨率也會改變。

（2）訓練算法分析。AI除了可以用來偽造視頻本身，也可以充當鑒偽的一種手段。科技人員應該注重配套反制技術的研發升級，用偽造視頻訓練鑒定算法，讓算法辨識虛擬痕跡。當AI通過大量的深度學習后，利用神經網絡的開源人工智能視頻造假檢測可以正確區分視頻畫面里修改過的和未修改過的圖像，成功率大致在87 %-98 %區間內。德國慕尼黑技術大學曾研發過一種名為“XceptionNet” 的算法，它能快速發現發布在網上的偽造視頻，還可以用來識別互聯網上的誤導性視頻。將算法集成到瀏覽器或社交媒體插件中，在后臺運行，一旦識別出被修改或者操縱的圖像或視頻，它會給用戶發布警告信息，向視頻中涉及的人員透露他們被“偽造”了。

現階段在圖像鑒偽上的圖像噪聲與圖像壓縮偽像兩方面檢測為視頻偽造鑒定提供了一些寶貴意見，但是由于視頻壓縮后幀的強烈退化，大多數用于圖像的方法都不能直接擴展到視頻數字視頻，偽造檢測仍然是一項艱巨的任務。目前主流鑒定方法主要是使用雙JPEG壓縮檢測本地圖像上（將計算機圖形與攝影圖像區分開來），高斯分布模型（GMM）建模和對抗生成網絡（GAN）的模型。隨著AI漏洞日漸優化，構建算法難度也日益增加。視頻是由成千上萬幀圖片連放組成的，因此鑒偽工作必須細致到偵測每個像素的改變痕跡，逐幀檢驗，是一項浩大的工程，任重道遠。

4.2建立鑒偽體系不可或缺

（1）建立三階段應對機制。除了上述這一應對AI偽造最根本的方法之外，有關部門還應盡快建立完善針對AI偽造的三階段應對機制，主要分為事前、事中、事后三個環節。規范化工作一直是約束新生事物危害性的主力場。首先是事前預防審核機制。在人們上傳視頻到社交網站時，平臺需要重新編碼影片，這是個偵測假視頻的好時機。平臺可以專門成立針對AI偽造視頻的網絡糾察隊，找尋偽造破綻，對容易引發爭議的網絡視頻加以控制，加強網絡信息監管和技術應用的網絡準入審查力度，將非法行為隔絕在網絡準入門檻之外。其次是事中運行管理機制。一直以來，在造假AI與辨別 AI的競賽中，修補漏洞的同時，偽造技術也會更上一層樓。

不管是人為還是機器鑒別，難免做到百密一疏，對于審核之后的網絡視頻，建立嚴格的管理制度的才能發揚其優勢，摒棄其糟粕。21世紀的網絡科技公司，掌握大量用戶信息，被看作“信息受托人”，承擔著數字信息時代新的責任，有責任與義務保護用戶數據。平臺應該大力宣傳積極正面的形象化AI替換，堅決抵制低俗惡意地胡亂剪輯。最后是事后兜底懲治機制。關上AI偽造的潘多拉盒子，嚴格的機構監督也是關鍵。國家應該從源頭加大監管力度，嚴格精準懲處毀壞公民或者企業形象的虛假視頻，對挑釁侵犯權威尊嚴力量的給予重擊，警示他人，構建AI技術領域的純潔性與公正性。

（2）規范法律規章制度。現階段AI偽造視頻還存在諸多的法律風險，不僅對個人信息，支付安全領域的侵入，各類侵權日益增多的同時，也誘發了諸多刑事犯罪活動。因此，擁有一個理性的法律防范措施對于AI發展的前景極為重要。

由于人工智能換臉技術超越了立法者的預測，現行法變更速度難以跟上人工智能技術演變的速度，存在著滯后性，但該技術并非處于法外之地。拿誹謗罪的例子來說，根據我國相關司法解釋，誹謗換臉視頻、音頻、圖片被點開、閱覽次數逾越5000次或被轉發逾越500次的屬于誹謗罪中“非常嚴重”的情節。法律還應設立針對人工智能的單獨立法措施并加大侵權處罰力度，設立分層次的罰賠償制度，擴大刑法的適用范圍。歐盟在2018年就已經出臺并了實施《通用數據保護條例》，該條例規定用戶享有“被遺忘權”，有權利剔除企業中的個人數據。除了平臺自身自覺的審查機制，法律也要建立嚴格的人工智能技術準入制度，以不觸犯法律為衡量標準且限制在一定的范圍，設立禁區，以維護社會的秩序和倫理安全。

科技的“向善”還是“作惡”， 多取決于技術的使用人和人們對待技術的態度。人工智能技術與立法齊頭并進，在技術、市場和法律治理之間找到平衡點，才能真正使得人工智能技術向安全、可靠、可控的方向發展。

4.3引導人文態度勢在必行

科技是冰冷的，人是有溫度的，可問題就在于，人文溫度真的都是火熱的嗎？技術的快速發展一直在沖擊著人文世界，想象一下，在偽造的視頻中，總統候選人行為失當，警察局長煽動暴力，或者士兵崇信戰爭，結果會如何？對于普通人來說，尤其是女性，這項技術使“色情報復”成為可能，一旦虛假的視頻在互聯網上瘋傳，謠言發酵，社會性死亡比比皆是。隨著AI偽造視頻技術的不斷成熟，惡搞成本在大幅降低，全網網民人文素養亟待加強。

網絡素養是網民人文素養的外在表現，是人文素養中的網絡素質及道德規范。不在網絡中人云亦云，不借他人行錯發泄消極情緒，不對敏感話題盲目發問，多想多問多看，學會轉變思維，是基本的網絡素養。因此大力加強未成年人與低學歷人的網絡素養教育，加強做人的基本品德、非價值觀以及知恥、守信、氣節方面引導，在全社會倡導優良風尚勢在必行。人們在為技術狂歡的同時，警惕隨之引發的問題，通過發揮人的主觀能動性，最大程度消除其弊端，使AI換臉技術能夠更好地為社會服務。

5.結語

AI技術，正如普羅米修斯當初扔向人間的火種，帶來溫暖、希望的同時也會帶來毀滅。阻斷AI偽造網絡視頻“作惡”，每一個能做到的，不過微薄，真正起作用的，還是眾人合力和法律規制。真的希望，在經過技術精英們的拼搏，一鍵辨假的速度，能追上一鍵換臉的速度。（通訊作者：萬榮春（江蘇警官學院刑事科學技術系副教授），通訊作者：蔡璐（江蘇警官學院刑事科學技術系講師））

參考文獻

[1]張雅婷.AI視頻換臉術的傳播倫理審視[J].新媒體研究，2020，6（06）：63-64.

[2]楊燕. 應對“換臉”危機[N]. 經濟觀察報，2020-09-07（024）.

[3]黃陳辰.大數據時代侵犯公民個人信息罪行為規制模式的應然轉向——以“AI換臉”類淫穢視頻為切入[J].華中科技大學學報（社會科學版），2020，34（02）：105-113.

[4]技術研究綜述[J].信息安全學報，2020，5（02）：1-17.

[5]劉云生. AI“換臉”誘發侵權風險[N]. 深圳特區報，2019-11-26（B07）.

[6]龍坤，馬鉞，朱啟超.深度偽造對國家安全的挑戰及應對[J].信息安全與通信保密，2019（10）：21-34.

[7]阿拉斯（Al-alas Mohammed）. 視頻偽造檢測數據庫的構建及其七種偽造檢測算法的性能評估[D].華南理工大學，2018.

[8]左榮昌，左師昌.人工智能換臉犯罪的刑法規制研究[J].齊齊哈爾大學學報（哲學社會科學版），2020（07）：96-99+132.

[9]楊叢遜.人工智能時代AI換臉技術對新聞領域的影響[J].傳播力研究，2020，4（01）：82-83.

[10]鄧志文.主體交流異化與現代迷失——人工智能的精神生態風險[J/OL].北京理工大學學報（社會科學版）：1-10[2020-12-16].http：//kns.cnki.net/kcms/detail/11.4083.c.20200910.1120.002.html.

基金項目：項目支持：江蘇警官學院大學生創新創業訓練計劃項目（創新訓練項目）;項目編號：202010329057Y。

作者簡介：許櫻馨（1999.08-），女，江蘇宿遷人，漢族，江蘇警官學院大三學生，研究方向為計算機信息與網絡安全。

江蘇警官學院網絡安全與執法系? ? 江蘇南京? ? 211800