AI雙刃劍　一夜爆紅的ZAO到底傷了誰

“—夜走紅，一天淪陷”一—頂著A咣環的換臉軟件ZAO憑借極高的關注度及爭議成為近似現象級的存在，從追捧到唾棄，ZAO換臉的同時讓人們看到了AI這把雙刃劍的威力，當人們在換臉事件中逐漸恢復理智后，讓我們一同重新審視下這場AI換臉風暴！

從爆紅到全民聲討

“在未來，每個人都有15分鐘出名的機會。”一一移動互聯加上社交軟件的普及-令出名變得更加簡單-當一款名為ZAO的軟件在半夜刷爆朋友圈時，大多數人無非感嘆該軟件推廣時機抓得好，乍看上去，AI換臉、簡單易用、社交屬性……種種亮點讓ZAO有了爆紅的基礎，尤其是背靠陌陌這個金主加社交達人，讓“只要在APP中上傳一張照片，你想變成哪個明星，就能變成哪個明星。”愿望實現的ZAO僅僅用了幾個小時就在8月31日蘋果商店的下載量飆升到了免費App下載榜的138位、娛樂App第13位。

一夜之間，朋友圉也被無數換臉視頻“攻占”，仿佛整個世界都在Cosplay.朋友圈的“傳染”讓不少人在第二天清晨刷朋友圈后開始瘋狂打探并下載這款軟件，如此熱潮下，拿下微博/百度熱搜絲毫不意外了，“服務器忙”一度成為ZAO的代名詞。

可讓人意外的是這款軟件被外媒爭相報道、有望成為現象級產品時，9月1日下午，ZAO在官方微博回應稱，會對相關問題進行修改，需要一點時間。同日，Zao被微信屏蔽分享鏈接，提示理由為“網頁存在安全風險，被多人投訴。”

從刷屏到質疑，不超過24小時，從朋友圈爆紅到被微信封殺，ZAO也只度過了短暫的三天時間。人生的大起大落放在軟件上似乎同樣適用-少見的表現更進一步激起了，人們的好奇心，也讓越來越多的目光聚集在了ZAO身上。

爭議巨大的用戶協議

娛樂、社交、新鮮感……不少人對ZAO的認知源于換臉，為自己換上明星臉或為名人惡搞換臉，在不少人眼里是件有趣的事兒，無論是用自己的臉制作網絡熱門表情包還是用你和朋友的臉一起飆戲，ZAO的確滿足了人們的娛樂和社交需求，可在網民隱私意識日益提升的今天，越來越多網友開始對ZAO的潛在風險提出疑問。

根據ZAO用戶協議內容中的必要授權協議：用戶上傳發布內容后，意味著同意授予ZAO及其矣聯公司以及ZAO用戶在“全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利”，“包括但不限于可以對用戶內容進行全部或部分的修改與編輯（如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等）以及對修改前后的用戶內容進行信息網絡傳播以及《著作權法》規定的由著作權人享有的全部著作財產權利及鄰接權利”。

該項條款包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的用戶或肖像權利人的肖像權，以及利用技術對其肖像進行形式改動。

微博上有網友擔憂，“非法”收集面部信息”“萬一哪天被黑客把數據庫給拿走了，你的支付寶分分鐘可以被盜刷-你們自己看著吧。”雖然從一開始就有法律界的人士表示，ZA0的技術中立很難成立，這樣的用戶協議并不靠譜，可類似“在你拿ZAO換臉時，可能已成為情色片主角了”的擔憂足以讓用戶談ZAO色變，從爭相體驗到全民批判也就一點不奇怪了。

用戶安全與侵權

利用ZAO進行“換臉”，首先需要用手機號動態驗證碼進行驗證登錄。用戶如果想要下載或分享換臉視頻，則需要進行驗證確認所使用的照片的確是用戶本人，而驗證的方式則是在攝像頭前進行眨眼、扭頭、張嘴等指示動作。用戶面部識別信息被ZAO以驗證的本人的形式獲取，雖然ZAO一直聲明不會擅自使用、泄露用戶隱私，可問題是網絡時代誰能保證數據庫、服務器絕對的安全？在刷臉應用越來越火的今天，面部識別信息本身就是極為敏感的存在，ZAO最初“免責”式的用戶協議-顯然會加劇用戶對自身隱私安全的擔心。

除自身隱私安全外，ZAO極為出色的易用性，讓技術小白也能一鍵玩轉明星換臉，軟件本身內置可供選擇的影視劇片段中，有包括《延禧攻略》、《長安十二時辰》、《還珠格格》在內的多部熱門國內電視劇，也有石原里美、萊昂納多，迪卡普里奧等國外明星的影視劇片段，還有大量熱門的綜藝片段，或許本身是想要給用戶帶來更多趣味性，可換臉過程中，明星、影視劇本身的肖像權、著作權、知識產權又會產生一連串問題。上面矣于用戶自身隱私及侵權的擔心并非僅存在于猜想，在ZAO引發全民爭議的同時，“不雅視頻將女明星換臉成主角售賣：涉多重違法，電商稱零容忍”的新聞讓人們擔心成為現實，當不雅視頻主角加上了明星臉后，AI換臉工具輕而易舉地成為“幫兇”。

AI換臉并非新鮮事兒

AI換臉并非新鮮事兒，早在2017年底，國外一位ID為“deepfakes”的網友，他發布了一種讓用戶可以使用機器學習技術來將視頻換臉，只是當時還處于初級階段-普通用戶根本沒辦法通過這些資料來自己動手DIY，直到簡單版的FakeApp出現，把復雜的AI換臉變成了簡單，讓普通用戶也能輕松將視頻中的人物換臉。

FakeApp采用了deepfake技術，并將其軟件化簡單化，能將視頻A里的人臉通過機器學習技術然后套用到視頻B中，而且通過深度學習后的換臉效果逼真，幾乎可以達到以假亂真的程度。國外的投機者顯然也不笨，FakeApp很快就被運用到色情網站視頻或報復色情內容，也可能被用于制作假新聞和惡意惡作劇。于是， FakeApp很快就被封殺了。更早一些的1997年-為了彌補一些配音電影唇音不同步的缺陷-國外進行了一項“視頻重寫”的研究項目，這項技術使視頻中的人物嘴唇自動與音頻系統同步，所以即使原視頻圖像中的人沒有張過嘴，通過“視頻重寫“也可以使這個人按照被匹配的音頻”口若懸河”，這項技術可用于電影配音、電視會議、電影特效中。

ZAO的出現，核心應用并未有多大變化，不過其易用性的確非常不錯，用戶注冊成功后，正產情況下只需幾秒就能制作完成一段變臉視頻，再配上社交功能，其崛起速度顯然非FakeApp可比的。然而，除了個人隱私的泄露與侵權問題外，涉及資金安全的刷臉支付，同樣是ZAO引發的新問題。

宣稱自己很安全的刷臉支付

既然視頻都能用ZAO換臉了，那ZAO能騙過刷臉支付驗證嗎？螞蟻金服稱：“刷臉支付”采用的是3D人臉識別技術，在進行人臉識別前，也會通過軟硬件結合的方式進行檢測，來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，以避免人臉偽造帶來的冒用情況。

以支付寶為例，在進行人臉識別后，部分用戶還需要輸入與賬號綁定的手機號進行校驗，進一步提高安全性。即便出現賬戶被冒用的極小概率事件，大家也不必驚慌，支付寶也會通過保險公司進行全額賠付。

微信方面也回應媒體稱，換臉從技術上完全不會影響刷臉支付的安全性。而銀行方面以刷臉取款為例，采用紅外活體檢測技術、生物識別技術等-可抵御照片、換臉視頻、翻拍、3D頭套等面具攻擊。金融系統似乎對AI換臉有著足夠的防備體系-可對于AI在生物識別領域設的局，普通大眾能防備嗎？

能模仿任何聲音的AI

ZAO換臉引發了人們對AI替換、生物識別特征的討論，除針對面部識別特征的換臉應用外，聲音識別與音調模仿，同樣是AI應用令人擔憂的存在。據華爾街日報報道，今年3月，犯罪分子通過商業化的人工智能語音生成軟件，成功模仿并冒充一家英國能源公司的德國母公司CEO，來欺騙其多位同事和合作伙伴，一天內多次詐騙并轉移資金，使得該公司損失220，000歐元（約合173萬元人民幣）。類似的語音欺詐的新案例并不少見，犯罪分子使用人工智能技術來自動化網絡攻擊并詐騙，獲取錢財，相信不少人都接到過類似的欺詐電話。隨著技術的更迭-新的AI技術可以模仿任何聲音， Siri.Alexa，Microsoft的Cortana和GoogleAssistant等人工智能（AI）個人助理都使用文本轉語音軟件來為用戶創建更便利的界面，可當他們本身就有個人助力的屬性-模仿用戶的聲音聲調同他人交流，恐怕很容易踩過界。

以百度Deep Voice為例，當時的第一代產品，一個系統只能學習一個人的聲音，而且需要用幾小時音頻進行訓練。隨后的第二三代模型就將所需的訓練數據降到了半小時，一個系統還能模仿數千人的聲音。當聲音和容貌模仿都變得容易時，由AI打造的另一個你同你的親友聊天、同事辦公甚至借錢、購物時，會是怎樣一種情況呢？

Al社交的試水

任何新興技術的出現和應用，都存在一定風險，我們沒必要將這些潛在的風險放大或妖魔化，能夠模仿人們的語音、容貌，從技術角度看-這些應用本身是AI技術進步的表現，換臉并不能讓AI擁有自己的容貌-但在海量面部識別數據的前提下，AI形成自己獨一無二的面部形象早已不難-而隨著AI對人類聲音、音調的模仿，AI顯然能越來越像人。ZAO的火爆離不開社交，而AI換臉的延伸，足以成為AI社交的試水。陌陌用ZAO再度切入熟人社交領域，借助微信、QQ等社交渠道，意味著ZAO的公域流量始終掌握在別人手里，可問題是ZAO如果再進一步，何嘗不能直接以AI的身份完成同用戶的交互呢？

從目前來看，AI直接進入社交領域恐怕還言之過早，以大量頂著AI光環的幼教機器人和智能音箱為例，其虛擬人物在交互上依舊有些呆滯，更同科幻電影中的虛擬AI人物相去甚遠，而隨著AR＼VR等技術應用的成熟，虛擬AI交互進入大眾生活并不太遠。

掘金個人數據需謹慎

深挖ZAO的公司股權會發現，陌陌是其背后的金主，在人們感嘆站在巨人肩膀上離成功更近時，有多少人注意到陌陌在ZAO以前還孵化了是他、瞧瞧、Cue、赫茲、MEET等五款社交產品，只不過ZAO成了最火的那一款。

社交代表流量-流量對互聯網科技企業而言意味著營收、紅利，可在挖掘用戶流量的過程中-個人隱私數據收集必須有底線，“掘金”個人數據不能為所欲為。ZAO是一款可將用戶自拍替換進影視劇片段的“換臉”應用，用戶想實現這樣的功能，就要上傳自己的照片，這本來無可厚非，讓ZAO飽受詬病的是其實際功能設計和用戶協議條款。

從功能上來說，用戶無法直接刪除自己此前上傳的圖片，只能以新上傳的照片來替代，同時無法自行操作注銷IDo這就違反了《個人信息安全規范》中的主體參與原則，即必須向“個人信息主體提供能夠訪問更正、刪除其個人信息，以及撤回同意、注銷賬戶等方法”。引發市場全面反彈后，ZAO修改了用戶協議，但從ZAO事件可以看出，對于個人數據的應用，不僅需要行業和企業的自律，更需要監管部門的高效監管。

Al監管正當時

ZAO引發大眾激烈討論的同時，工信部約談其實際控制人北京陌陌科技有限公司，要求其嚴格按照國家法律法規以及相矣主管部門要求，組織開展自查整改，規范協議條款，強化網絡數據和用戶個人信息安全保護。而在國新辦18日舉行的新聞發布會上，國家互聯網信息辦公室副主任劉烈宏對AI換臉技術軟件ZAO涉嫌侵犯個人隱私及霸王條款一事做出回應。

新技術、新應用帶來了發展的機遇，同時也給網絡安全帶來了風險和挑戰，作為管理部門，國家網信辦積極支持新技術、新應用發展，同時也采取必要措施防范隨之帶來的風險。

寫在最后：

別輕易玩生物識別信息

人工智能時代，大量公民的面部特征、身份信息、健康狀況、年齡特征、流動特點等數據，從中可以分析出很多重要信息，點點滴滴的個人隱私匯集起來就是國家信息安全。無論對個人還是國家，生物識別信息都不應輕易采集和使用的，新的科技技術的確能夠激發人們的好奇心，但管住自己的好奇心也相當重要。