AI換臉技術有多恐怖

常莽

最近，AI換臉應用ZAO的出現，引起了軒然大波。ZAO的最大賣點在于可以將視頻中的人臉，通過AI算法PS成另一個人的相貌。只需要把照片上傳到ZAO當中，就能夠將視頻P成相應的臉，可謂是操作簡單、效果明了。也因為如此，ZAO一出現就引來了人們的激烈討論，畢竟誰也保不準自己會不會被P進小電影中，變成奇怪劇情的主人公。

雖然ZAO再次點燃了AI換臉技術的討論熱潮，但是AI換臉引發爭議，已經不是什么新鮮事。早在ZAO上架之前，Deep Fakes就已經將AI換臉的恐怖之處刻入人心。為何AI換臉會引起如此程度的驚恐？AI換臉的風行意味著什么？今天就一起來談談相關話題吧。

AI換臉技術是如何走向泛濫的

ZAO將AI換臉技術再次放置到了聚光燈下，但這并非是AI換臉首次走上歷史舞臺。早在2017年底，國外論壇就已經出現了ID為“deepfakes”的用戶，發布了通過機器學習來更換視頻人臉的AI算法。不過當時該技術的使用門檻還比較高，需要編譯代碼等操作；而在數個月后，使用管理DeepFakes技術的簡易版AI換臉工具FakeApp出現了，就算是普通用戶，也能夠順利操作。

FakeApp令AI換臉的使用門檻大幅下降，不過它還是需要一定的準備工作。首先它需要安裝額外的運行庫，其次它對硬件有需求，需要高性能顯卡參與運算，其中對N卡的兼容最好。而FakeApp還需要較新版的Windows 10系統才可以安裝，運行起來還得等待一段時間———過程越久效果越好，畢竟機器學習還是需要足夠的時長和樣本，最后，FakeApp就可以生成幾乎以假亂真的AI換臉視頻了。

FakeApp的出現令AI換臉視頻一度猶如黃河泛濫一發不可收拾，不少名人都深受其害。例如大名鼎鼎的“神奇女郎”，就莫名其妙成為了色情片里的主演；又例如國內很多人都印象深刻的楊冪版小龍女，令人驚嘆演員換臉的奇效。

AI換臉目前已經在網絡上泛濫到怎樣的一種程度呢？我們從幾個細節就可以看到。首先是AI換臉色情視頻的廣為流傳，俗語云，色情是互聯網的第一生產力，AI換臉技術的出現，令色情內容的制造者們迎來了狂歡。盡管各網站可能是出于法律風險方面的考慮，紛紛聲明禁止該類換臉視頻的上傳，但止不住人多勢眾，時至今日仍可在這些網站上找到換臉的視頻。

而除了色情網站外，網絡的多個角落也蔓延著AI換臉視頻。例如在國內的視頻站，只要用“AI換臉”為關鍵詞搜索，輕松就能找到大量使用DeepFakes技術生成的視頻。而如果想要制造AI換臉視頻，并不需要鉆研代碼，甚至不需要安裝FakeApp。在淘寶上，就有很多商家提供AI換臉視頻制作服務，只需要幾塊錢或十幾塊錢，就能夠定制一部換臉視頻。

簡而言之，DeepFakes技術的出現為AI換臉視頻的流行打下了基礎，而FakeApp的誕生則讓AI換臉視頻成為了真正意義上的爆款。而現在，ZAO的出現，極有可能將AI換臉視頻的風險推到一個新的高度。

和“前輩們”相比，ZAO的門檻進一步降低。首先，ZAO不需要復雜的配置，使用手機APP即可開始制作；其次，它對硬件沒有特別大的需求，ZAO將視頻制作的運算放到了服務器上，用戶不需要準備高性能的硬件；最后，它的生成速度飛快，視頻上傳后很快就得出結果。

在ZAO當中，AI換臉視頻即點即成，制作已然不存在門檻。也正因如此，在AI換臉視頻已經泛濫的現狀下，ZAO的降臨意味著對這股潮流進一步推波助瀾，令人平添了幾份恐慌。

AI換臉技術會帶來怎樣的問題

拋開風險來說，AI換臉視頻還是非常有趣的。例如用在電影上，就等于換了個演員，想要體驗顏值高但演技不在線的演員真正會演戲的樣子，可能還真得靠這一技術；又例如把自己或者朋友熟人的臉換到某個視頻上，在私密間分享，也不失為一種有趣的玩笑———這可比P表情包歡樂多了。

然而這一切，都是忽視風險后的論調，而憑心而論的話，制作AI換臉視頻是沒辦法不考慮風險的。

首先這對于信息的真實性形成嚴峻的挑戰。PS發明后，有圖不再有真相；而AI視頻換臉技術的出現，則讓視頻也開始變得鏡花水月了起來———人們普遍認為視頻可以擔當“實錘”，而現在這把實錘竟可憑空制造，對于本來就假消息滿天飛的互聯網來說，這無疑會造成進一步的信任崩壞。

其次，這會大大增加侵犯肖像權的可能，正如文章一開頭所說，沒人愿意自己的臉龐出現在莫名其妙的視頻當中。和多用途的PS等修圖軟件不同，AI換臉技術的功能只有一個，那就是換臉，從這個角度來說它的存在天然就是一種對肖像權的威脅。而網站之所以對AI換臉視頻如臨大敵，肖像權風險就是一大原因。

再者，ZAO這樣的工具還徒增了信息安全的相關隱患。這主要涉及兩方面。一是ZAO這樣的在線處理機制，流程上必須上傳相應肖像，甚至還要填寫詳細的實名制信息，而服務商是否能妥善保管相關方面信息是個未知數，使用ZAO只是為了娛樂，付出這樣的風險代價似乎得不償失；二是類似技術生成的偽視頻，是否會成為一把破解人臉識別大門的鑰匙？盡管現在生成的視頻有一定局限性，但從機理上來看，假視頻的確比假照片更具這方面的可能。

換言之，AI換臉技術或許玩著有趣，然而真正的問題在于，這樣風險百出的技術我們到底玩不玩得起？這非常值得大家深思。

AI換臉技術可能僅僅只是個開始

由于上述提到的風險，AI換臉技術已經在相當程度上引起恐慌。也難怪，當得知該技術能夠接近完美捏造假視頻的時候，擔心自己的言行是否會被虛構，是很正常的自然反應。然而，在警惕AI換臉技術的同時，我們或許還需要意識到，AI技術仍在不斷發展，目前的AI換臉視頻或許遠非終點。

當前的AI換臉技術已經達到了驚人的水準，但目前大多數的AI換臉仍只涉及視覺。然而事情正在發生變化———AI換臉已經成為了現實，而AI變聲也開始嶄露頭角。谷歌之前曾經研究過AI變聲的相應技術，但并沒有大規模實裝；而國內廠商則更加激進，不少研究輸入法的廠商都已經嘗試在產品當中推廣AI變聲功能。在一些輸入法當中，現在就可以找到AI變聲的開關，輸入一段語音后，等待片刻即可生成特定音調音色的語音，擬真度相當出色。

當然，此類產品限定了AI變聲的模版，但聲音的自由變換、修改相對于我們來說也并不是那么遙遠。例如“Modulate.ai”這個網站，就提供了AI變聲服務，甚至連奧巴馬的聲音都能完美模仿。

Modulate.ai所使用的變聲技術和DeepFakes類似，都使用了神經網絡機器學習算法來訓練模型，所擬真出來的聲音真假難辨。另外還有“Lyrebird.ai”這個網站，也提供了類似的服務，而且所提供的模仿對象更加豐富，據悉多達上千種，包括特朗普、奧巴馬和克林頓等名人的聲音都可以被模仿。

可見，AI變聲技術已經逐漸成熟，它和AI換臉技術結合后，會形成威力無窮的組合拳。在之前，就有人結合AI換臉、AI變聲，偽造一段虛假的奧巴馬演講視頻。視頻當中，奧巴馬指斥特朗普是個“笨蛋”，令人震驚。這段視頻在國外引起了轟動，如果沒有特別標注，恐怕很多人會信以為真。

而這仍不是AI換臉的終點。目前的AI換臉、變聲仍需要一段時間的運算，難以和真人互動。而當AI換臉、變聲可以實時生效時，恐怕連視頻電話的真偽都難以分辨，而人臉識別也將面臨著嚴峻挑戰。到了這步，AI換臉、變聲技術極可能成為犯罪分子的詐騙、勒索利器。

通過大數據和機器學習，AI將特定信息解構后，重構成為難以分辨的虛假信息，當相應的技術成熟后，虛假信息可以源源不斷地生成，如此高質量的虛假信息能夠大批量生產，在歷史上可謂是前所未有。

然而盡管人們對此感到恐慌，但相應的應用、開發卻并沒有停下腳步。ZAO自不必說，直接把這樣高風險的技術做成了娛樂APP，令人們前所未有近距離接觸到了AI構建的虛假視頻；而行業中的巨頭也視此為機遇，蘋果、谷歌、Facebook和微軟等“大佬”都爆出過利用用戶數據訓練語音、語言模型的新聞，而近年也可以看到AI自動應答的邏輯性、自動生成語音的擬真度大幅上漲，用AI構建一個完全虛擬的人格，似乎也為期不遠。

在未來，我們或許不僅可以看到逼真的AI換臉、AI變聲，甚至可能連應答都由AI來完成。當AI能自動生成以假亂真的面容、聲音乃至語言的時候，互聯網乃至整個社會該如何應對這種身份信息的混亂？現在仍沒有一個好的應對方案。

就在不久前，筆者的擔心成真了。《華爾街日報》的最新報道顯示，2019年3月份，有犯罪分子使用AI技術成功模仿了英國某能源公司在德國母公司CEO的聲音，詐騙了220 000歐元（約1 730 806人民幣）。僅僅依靠AI變聲就能釀造出一宗如此重大的詐騙案，AI騙術的威力可見一斑。

當詐騙短信進化為AI假視頻、還能夠自動應答的時候，我們是否還有方法防范？對于AI擬真技術的運用，人們應該更加謹慎，這不是一項可以隨便曝光于公眾視野的技術。