AI換臉:人工智能的一場裸奔

李明子

圖/視覺中國

這兩天，微信朋友圈和微博都被一個名為“Zao-逢聯(lián)造戲”的換臉App刷屏。

上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的“緋紅女巫”，《泰坦尼克號》中小李子扮演的“杰克”，或是《喜劇之王》里的“柳飄飄”。

只需幾秒，便可跨越AI換臉的高難技術(shù)門檻，實現(xiàn)和偶像互動飆戲的美夢，如App宣傳語所說，“只需一張照片，出演天下好戲”，很難不讓人心動。截至9月1日晚，該APP已經(jīng)在蘋果商店免費榜排行第一。

有法律專業(yè)人士提出，該產(chǎn)品涉及侵犯著作權(quán)、肖像權(quán)、隱私權(quán)等諸多法律問題，有用戶表示“自己莫名成了權(quán)利侵犯者或受害人，不知道注銷（賬號）后是否能保護(hù)自己的肖像權(quán)?！钡灿芯W(wǎng)友不懼隱患，直言“只要能和偶像同框，不怕風(fēng)險?！?h3>中國“Zao”

引發(fā)這場討論的根源是Zao隱藏在用戶協(xié)議中的霸王條款，一方面過度攫取用戶授權(quán)，另一方面涉嫌侵犯肖像權(quán)，并甩鍋給用戶。

在最初的用戶協(xié)議中，第6條第1款規(guī)定：“在您上傳及/或發(fā)布用戶內(nèi)容以前，您同意或者確保實際權(quán)利人同意授予Zao及其關(guān)聯(lián)公司以及Zao用戶全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對用戶內(nèi)容進(jìn)行全部或部分的修改與編輯?！?/p>

也就是說，用戶同意將自己的肖像授權(quán)給Zao，即便有一天肖像被再次轉(zhuǎn)賣也無能為力。

同時，協(xié)議第7條第7款寫明：“若您侵害他人名譽(yù)權(quán)、肖像權(quán)、知識產(chǎn)權(quán)等合法權(quán)利的……Zao可以訴諸行政執(zhí)法機(jī)構(gòu)或司法機(jī)關(guān)，追究相應(yīng)法律責(zé)任。若因您違反本協(xié)議或Zao平臺的其他規(guī)則導(dǎo)致任何第三方損害的，您應(yīng)當(dāng)獨立承擔(dān)法律責(zé)任并承擔(dān)損害賠償責(zé)任;Zao及其關(guān)聯(lián)公司遭受損失的，您也應(yīng)當(dāng)一并賠償。”

翻譯過來就是，如果有人起訴被侵犯了肖像權(quán)，Zao可以說技術(shù)無罪，侵權(quán)的是玩換臉游戲的用戶。

這讓上一秒還在感嘆“科技改變生活”的網(wǎng)友坐不住了，Zao也馬上對協(xié)議作出了修改，新版用戶協(xié)議中刪除了“不可撤銷”“完全免費”“永久”等字樣，但問題仍未解決。

“我一直認(rèn)為‘AI換臉隱藏了不可回避的法律問題，所以看到Zao出現(xiàn)后，很好奇他們是如何解決的，很遺憾，他們并沒有解決。” 北京煒衡律師事務(wù)所一級合伙人、律師李昆蔚對《中國新聞周刊》說，協(xié)議修改后，侵犯著作權(quán)、公眾人物肖像權(quán)的問題仍沒有解決，同時，用戶在注銷賬號后，動態(tài)和靜態(tài)肖像是否可以刪除，為什么區(qū)別對待公眾人物肖像和普通人的肖像，“這些問題需要Zao來回答，也是我發(fā)問的初衷，目前還沒有收到Zao法務(wù)的回復(fù)?！?/p>

Zao背后的注冊公司是“長沙深度融合網(wǎng)絡(luò)科技有限公司”，兩位實際控股人（各占50%）與社交應(yīng)用“陌陌”密不可分，執(zhí)行董事雷小亮是陌陌公司聯(lián)合創(chuàng)始人兼游戲業(yè)務(wù)部總裁，監(jiān)事王力是陌陌公司董事、總裁及COO，而“北京陌陌科技有限公司”曾在2017年9月參股，直至今年7月19日才退出股東名單。據(jù)天眼查顯示，長沙深度融合預(yù)留的聯(lián)系電話屬于陌陌科技，截至發(fā)稿，該公司并未對用戶協(xié)議問題作出回復(fù)。

換臉技術(shù)本身并不新奇，在美國好萊塢已經(jīng)存在了二十多年。2016年上映的《星球大戰(zhàn)外傳：俠盜一號》還原了《星球大戰(zhàn)4》（1977年）中總督塔金的角色，但其扮演者彼得·庫欣早在22年前就去世了，特效團(tuán)隊為此找來一位長相酷似彼得的演員進(jìn)行面部表情捕捉，然后用計算機(jī)動畫（CG）技術(shù)將塔金復(fù)活。不過盧克斯影業(yè)和迪士尼表示，在制作《星球大戰(zhàn)外傳》時已經(jīng)取得了彼得家人和產(chǎn)權(quán)繼承人的同意。

將“換臉”推到風(fēng)口浪尖的是一系列融合了AI技術(shù)的“假視頻”。

2017年12月，一個名為“深度偽造”（deepfakes）的用戶在美國論壇Reddit上發(fā)布了多段色情視頻，不同的是，他讓電腦學(xué)習(xí)好萊塢女明星的圖像資料，然后把女明星的面部移植到色情片女主角臉上，近乎完美地實現(xiàn)了動態(tài)換臉，這引發(fā)了大量討論和抨擊，最后以賬號被封告終。

不過，AI換臉并未消失，用戶“深度偽造”隨后直接開源了項目代碼，更多效仿者隨之而來，為了紀(jì)念他，便用他的名字代稱“AI換臉”技術(shù)。據(jù)說，Zao也是基于“深度偽造”開源代碼開發(fā)出來的，但Zao并不是第一個。

從“換臉”到“深裸”

2018年1月，一個名為FakeApp的軟件上線，可實現(xiàn)“一鍵換臉”，視頻內(nèi)容也是千奇百怪，包括惡搞美國總統(tǒng)特朗普，或是將自己的臉貼到好萊塢明星上。雖然Reddit明令禁止換臉視頻和圖片在該網(wǎng)站傳播，但仍有超過9萬名用戶在Reddit上傳播這類視頻。

今年6月13日，美國眾議院情報委員會召開關(guān)于人工智能深度偽造的聽證會，公開談?wù)摿松疃葌卧旒夹g(shù)對國家、社會和個人的風(fēng)險及防范和應(yīng)對措施。美國外交政策研究所研究員克林特·瓦茨認(rèn)為，深度偽造技術(shù)對美國2020大選具有潛在威脅——若放任偽造視頻擴(kuò)散，則會對美國民主選舉產(chǎn)生不良影響，挫傷選民的積極性。

就在聽證會結(jié)束后不久，一款名為DeepNude（深裸）的App宣稱能實現(xiàn)“一鍵脫衣”，它再次把AI技術(shù)應(yīng)用中的法律倫理問題推到臺前。操作十分簡單，只要給它一張人像照片，等待30秒，就能得到一張裸照。由于風(fēng)險超出可控范圍，研發(fā)團(tuán)隊在產(chǎn)品上線幾天后便匆忙下架了該產(chǎn)品。

“我們啟動這個項目是出于娛樂的目的……從沒想過它會像病毒一樣擴(kuò)散。我們不希望通過這種方式掙錢……從現(xiàn)在開始，不在放出任何版本，也不會授權(quán)任何人使用?！?DeepNude團(tuán)隊6月27日公開聲明道。

手機(jī)上的“Zao-逢聯(lián)造戲”App。圖/IC

教育科技公司Coursera聯(lián)合創(chuàng)始人、美國斯坦福大學(xué)計算機(jī)科學(xué)教授、“百度大腦”原負(fù)責(zé)人吳恩達(dá)也在推特上公開批判，稱“DeepNude是AI技術(shù)最糟糕的應(yīng)用之一”，AI技術(shù)的超級力量應(yīng)該被用到推動世界發(fā)展的項目中。

“AI換臉技術(shù)是成熟的，之所以沒有被推廣，就是因為還有很多法律、倫理問題沒有討論清楚?！崩罾ノ祵Α吨袊侣勚芸氛f，“Zao現(xiàn)在的盈利方式還不清楚，但要是為了賺錢，去做一些鉆法律空子的事情，從而傷害了廣大用戶，是行不通的?！?/p>

除了侵權(quán)問題，還有網(wǎng)友擔(dān)心，既然人臉識別已經(jīng)在支付場景得到應(yīng)用，面部信息泄露，是否會導(dǎo)致賬戶被盜刷？對此，支付寶安全中心8月31日發(fā)布公告：“不管換臉軟件多逼真，都無法突破刷臉支付。”支付寶安全中心表示，刷臉支付采用的是3D人臉識別技術(shù)，在進(jìn)行人臉識別前，也會通過軟硬件結(jié)合的方式進(jìn)行檢測，來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。

瑞士科學(xué)家在一篇論文中就首次對人臉識別方法檢測Deepfake的效果進(jìn)行了較為全面的測評，嘗試用最前沿的人臉識別系統(tǒng)去識別假視頻，結(jié)果錯誤率高達(dá)95%。

《人民法院報》官網(wǎng)微博評論道：“試用任何一款新型軟件的時候一定要認(rèn)真閱讀用戶協(xié)議，多留個心眼，保護(hù)好自己的各項權(quán)益?！?/p>

“我不知道我們能否為此做好充分準(zhǔn)備，但是我們還可以做更多的工作，確定敵人的計劃和意圖，盡早找出并揭露它，告知公眾他們需要關(guān)注什么，應(yīng)當(dāng)做什么，而不僅僅忽略他們所看到的一切?！泵绹娮h院情報委員會聽證會主席亞當(dāng)·希夫表示。

雖然沒有一招制勝的方法，但阻止深度偽造負(fù)面影響蔓延的方法有很多，誠如馬里蘭大學(xué)法學(xué)教授丹尼爾·希特龍在上述聽證會上總結(jié)的，對深度偽造的內(nèi)容不能一桿子打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，而對影響國家安全、公共安全、民主政治的虛假信息才需要加強(qiáng)監(jiān)管和規(guī)制。涉及刑事犯罪和一般網(wǎng)絡(luò)侵權(quán)的深度偽造適用不同的規(guī)制，監(jiān)管應(yīng)區(qū)別對待，美國相關(guān)立法目前主要從刑事犯罪角度對深度偽造予以規(guī)制。