深度造假：人工智能時(shí)代的視覺政治

人工智能時(shí)代，后真相的社會(huì)進(jìn)程并沒有因?yàn)楦黝愂聦?shí)核查技術(shù)和數(shù)字賦權(quán)運(yùn)動(dòng)的發(fā)展而被阻止，反而借助逐漸成熟和大眾化的深度學(xué)習(xí)技術(shù)應(yīng)用以及以社交媒體為代表的泛在的傳播設(shè)施走向新階段。以平臺(tái)控制為核心的“后真相體制”得以鞏固。以多邊供需機(jī)制為特征的互聯(lián)網(wǎng)平臺(tái)在自我規(guī)制或者說自我強(qiáng)化的過程中，也借助大數(shù)據(jù)和機(jī)器學(xué)習(xí)等自動(dòng)化技術(shù)孵化新的產(chǎn)品形態(tài)，從而在給社會(huì)帶來新的不確定性的同時(shí)，更進(jìn)一步對(duì)社會(huì)加以控制。在這個(gè)過程中，技術(shù)與人的界限正在各個(gè)層面變得模糊起來，而賽博格正逐漸從想象走向現(xiàn)實(shí)。人工智能所俘獲的已經(jīng)超越了單純的文本和圖片，而是對(duì)認(rèn)知更具基礎(chǔ)性，也更具有迷惑性、煽動(dòng)力和用戶粘性的載體——視頻和音頻。這就是自2017年以來被稱為“深度造假”（deepfake）的技術(shù)運(yùn)動(dòng)，因?yàn)榻柚吧疃葘W(xué)習(xí)”技術(shù)而得此名，也被翻譯為“深度偽造”。

深度造假是政治精英、技術(shù)專家和新聞媒體話語中的又一場(chǎng)真假對(duì)立，還是預(yù)示了一種持續(xù)的或者新的權(quán)力結(jié)構(gòu)，超越了真假二元論，從而對(duì)社會(huì)產(chǎn)生更深刻的影響？

深度造假簡(jiǎn)史

英文語境中，“深度造假”涉及多個(gè)詞匯，包括deepfake、deepfakes、deep fake、deep fakes等。其中，deepfakes是社交新聞網(wǎng)站Reddit的一個(gè)用戶的名稱，該用戶因發(fā)布換臉視頻和公開深度造假代碼而成為熱搜對(duì)象。后來，deepfake成為被更廣泛使用的概念。根據(jù)Google Trends的統(tǒng)計(jì)分析，全球范圍內(nèi)對(duì)上述四個(gè)英文詞的搜索在2017年11月至2019年5月期間發(fā)生了比較顯著的變化。作為發(fā)明者的deepfakes主導(dǎo)了初期的熱度，但在2018年中以后明顯衰減，更具有現(xiàn)象學(xué)意義的deepfake一詞逐漸成為最受關(guān)注的概念，并在2019年上半年掀起了另外兩個(gè)搜索波峰。

大多數(shù)深度造假都依托于一種深度學(xué)習(xí)技術(shù)——生成式對(duì)抗網(wǎng)絡(luò)（GANs）。截至目前，深度造假的技術(shù)展示大致分為換臉、唇形同步、面部復(fù)現(xiàn)和動(dòng)作轉(zhuǎn)移。由于有關(guān)GANs的研究和其他深度學(xué)習(xí)技術(shù)的公共可獲得性，以及以社交網(wǎng)絡(luò)為代表的互聯(lián)網(wǎng)平臺(tái)公司的漸次進(jìn)入，深度造假的大眾創(chuàng)造能力正在迅速蔓延，并成為一個(gè)新的技術(shù)運(yùn)動(dòng)，進(jìn)而導(dǎo)致造假與打假的矛盾循環(huán)。簡(jiǎn)言之，“深度造假”指的是把圖片和聲音輸入機(jī)器學(xué)習(xí)的算法，從而可以輕易地進(jìn)行“面部操作”——把一個(gè)人的臉部輪廓和表情放置在其他任何一個(gè)人的臉上，同時(shí)利用對(duì)聲音的逼真處理，制造出實(shí)為合成卻看似極真的視頻——用以躲避識(shí)別、混淆視聽、娛樂用戶，以及實(shí)現(xiàn)其他虛假宣傳的目的。當(dāng)然，這一技術(shù)并不單純用于換臉，還被較少爭(zhēng)議地應(yīng)用在影視、健康和教育等其他行業(yè)之中。

Britt Paris和Joan Donovan在全面梳理這一技術(shù)運(yùn)動(dòng)的報(bào)告中提出了一個(gè)“深度造假—廉價(jià)造假”光譜，其主要標(biāo)準(zhǔn)是所使用的技術(shù)的復(fù)雜性。其中，深度造假位于光譜一端，高度依賴數(shù)據(jù)和計(jì)算，較少被大眾所接觸；而廉價(jià)造假位于另一端，借助一些廉價(jià)乃至免費(fèi)下載的軟件，消費(fèi)者不需要特殊的專業(yè)知識(shí)和技術(shù)能力即可通過終端加載的調(diào)整速度、攝像頭效果、更換背景等實(shí)現(xiàn)換臉等操作。廉價(jià)造假呈現(xiàn)出巨大的娛樂效果，從而進(jìn)一步使造假現(xiàn)象及其社會(huì)效應(yīng)復(fù)雜化。斯坦福大學(xué)研究員Tom Van de Weghe聯(lián)合計(jì)算機(jī)、新聞等行業(yè)的專家，成立了“深度造假研究小組”，總結(jié)出深度造假發(fā)展至今的六條基本趨勢(shì)，即：應(yīng)用的大眾化和終端化，算法的平臺(tái)化，擴(kuò)大的商品化，不曾停歇的貓鼠游戲，區(qū)塊鏈技術(shù)的重要性、公眾自身鑒別能力的提升。

深度造假不僅是一種技術(shù)迷思和技術(shù)景觀，而且是一個(gè)充滿變動(dòng)的權(quán)力場(chǎng)域。這一場(chǎng)域受到多種政治、經(jīng)濟(jì)和技術(shù)力量的干預(yù)。自2017年出現(xiàn)并流行以來，關(guān)于深度造假最具代表性的懷疑論點(diǎn)來自被虛假信息和假新聞所動(dòng)搖的理性主義真相觀，尤以新聞專業(yè)主義為代表。然而，本文認(rèn)為，真相的瓦解與重建并不能改變深度造假的技術(shù)趨勢(shì)，需要關(guān)注的應(yīng)是深度造假如何參與型構(gòu)了新的平臺(tái)控制，并依托怎樣的經(jīng)濟(jì)動(dòng)能完成平臺(tái)的可持續(xù)再生產(chǎn)。

深度后真相：理性主義視野中真相的最終瓦解？

深度造假之所以被政治和社會(huì)領(lǐng)域所關(guān)注，恰恰是由于精確換臉對(duì)這些領(lǐng)域中真相的認(rèn)識(shí)論的進(jìn)一步瓦解，以及造成的有關(guān)傳播失序的道德恐慌。始自2016年的與美國大選相關(guān)的后真相和假新聞，挑戰(zhàn)著如今升級(jí)為更具顛覆力的深度造假，進(jìn)一步挑戰(zhàn)著傳統(tǒng)的真相觀，或者更精確地說，傳統(tǒng)上擁有真相定義或制造權(quán)的專業(yè)權(quán)威。本文將這一新階段稱為“深度后真相”。延續(xù)理性主義的邏輯，“深度后真相”具有兩個(gè)方面的特征：

第一，視覺客觀性的瓦解。自從攝影術(shù)、視頻、射線掃描技術(shù)出現(xiàn)以來，視覺文本的客觀性就在法律、新聞以及其他社會(huì)領(lǐng)域被慢慢建立起來，成為真相存在——或者更準(zhǔn)確地說，建構(gòu)真相——的最有力證據(jù)。“眼見為實(shí)”成為這一認(rèn)識(shí)論權(quán)威的最通俗表達(dá)；與此同時(shí)，視覺文本的制造者和闡釋者也順理成章地成為真相的最權(quán)威定義者和闡釋者。在這個(gè)意義上，視覺客觀性產(chǎn)自一種特定的專業(yè)權(quán)威體制。然而，深度造假的技術(shù)優(yōu)勢(shì)和游獵特征，使得這一專業(yè)權(quán)威體制遭遇前所未有的挑戰(zhàn)。借助這一體制生產(chǎn)的視覺文本，深度造假者替換了不同乃至相反的文本內(nèi)容和意涵，造成了文本的自我顛覆，也就從根本上顛覆了這一客觀性或者真相的生產(chǎn)體制。除此之外，借助“云服務(wù)+終端”的平臺(tái)化網(wǎng)絡(luò)架構(gòu)，更加廉價(jià)和智能的深度造假終端應(yīng)用進(jìn)一步擴(kuò)大了這一體制瓦解的負(fù)面效應(yīng)。對(duì)視覺文本的廣泛不信任將嚴(yán)重影響社會(huì)的政治進(jìn)程和傳播秩序。

第二，新聞專業(yè)主義的自我救贖。這無疑是新聞專業(yè)主義權(quán)威在后真相時(shí)代的瓦解與重建的新階段。面對(duì)視覺化后真相時(shí)代的到來，在更具傳播力和煽動(dòng)性的深度造假視頻面前，傳統(tǒng)媒體的解決方案依然是回到兼具意識(shí)形態(tài)和操作規(guī)范的專業(yè)主義。比如，為了應(yīng)對(duì)深度造假的來臨，《華盛頓郵報(bào)》設(shè)立了“媒體求證委員會(huì)”，匯集了視頻、攝影、視覺、研究、平臺(tái)和新聞編輯在內(nèi)的各種力量，通過內(nèi)部訓(xùn)練提升甄別深度造假的能力。在擁有深度學(xué)習(xí)能力的深度造假技術(shù)面前，傳統(tǒng)媒體依然堅(jiān)守了基于主客體二元論和新聞業(yè)獨(dú)立性的專業(yè)主義立場(chǎng)，認(rèn)為成就自身專業(yè)水準(zhǔn)的那些能力依然可以保證真相的可獲得性。然而，雖然擁有這些制造真相和核查真相的專業(yè)技術(shù)，但深度造假快速崛起的現(xiàn)實(shí)以及傳播與核查之間富裕的時(shí)間差，使得傳統(tǒng)媒體在多大程度上能夠有效應(yīng)對(duì)網(wǎng)絡(luò)化生產(chǎn)和散布的造假視頻，乃至繼續(xù)扮演民主的守門人角色，成為一個(gè)難以回答的問題。當(dāng)下，深度造假可能是假新聞在質(zhì)量上的變化，也就是采用包括人工智能在內(nèi)的更加復(fù)雜但越來越廉價(jià)和可以被用戶端所輕易使用的技術(shù)，未來也可能在數(shù)量上超出以往任何時(shí)期。

簡(jiǎn)而言之，深度造假正在影響乃至控制著人們對(duì)政治世界和社會(huì)政策的認(rèn)知，也因其多義性使得不同意見群體可以進(jìn)行多元解釋。在進(jìn)一步瓦解真相的理性建構(gòu)觀的基礎(chǔ)上，深度造假參與形塑著正在崛起的平臺(tái)社會(huì)。在這里，人與人的互聯(lián)被數(shù)據(jù)化、商品化和互聯(lián)網(wǎng)平臺(tái)的算法選擇或者說算法偏見所型構(gòu)。真與假的二元對(duì)立關(guān)系被替換為渠道與內(nèi)容的供需關(guān)系，復(fù)雜的政治后果背后隱藏著平臺(tái)經(jīng)濟(jì)的精明算計(jì)。

視覺控制：深度造假的政治內(nèi)涵

隨著深度造假被廣泛使用，其侵入政治領(lǐng)域所激發(fā)的有關(guān)真假與民主的關(guān)系的討論，再次加深了全社會(huì)對(duì)后真相時(shí)代的體認(rèn)。2016年以來，后真相時(shí)代假新聞的出現(xiàn)“恰逢”全球范圍內(nèi)政治誠信的危機(jī)和民粹主義政治的興起，深度造假自然也是這一“歷史巧合”下的產(chǎn)物或者延伸，而視覺傳播賦予了深度后真相以生命力。

首先，在西方，深度造假干預(yù)政黨競(jìng)選并擴(kuò)大政治分裂。圍繞深度造假的討論大多與2020年美國總統(tǒng)大選有關(guān)。2016年以來，深受假新聞和社交媒體干預(yù)的美國競(jìng)選政治，在快速發(fā)展的傳播技術(shù)面前表現(xiàn)得異常緊張。電影人Jordan Peele曾使用深度造假技術(shù)，借用奧巴馬的臉來向公眾發(fā)出警示，讓公眾警惕深度造假的危害。但深度造假視頻的病毒式傳播往往早于對(duì)假視頻的識(shí)別結(jié)果，盡管或早或晚會(huì)被證實(shí)造假，但在這一時(shí)間差內(nèi)，造假視頻借力社交媒體平臺(tái)的傳播效果已經(jīng)顯現(xiàn)，而改變?nèi)藗円呀?jīng)形成的認(rèn)知就變得異常困難。在這個(gè)政治語境中，深度造假并不是簡(jiǎn)單地加劇了真與假的分離，而是進(jìn)一步撕裂了政治鴻溝，從而導(dǎo)致更加嚴(yán)重的社會(huì)分裂、更極化的政治立場(chǎng)和更激化的社會(huì)矛盾。因此，深度造假也被認(rèn)為有可能成為未來虛假信息戰(zhàn)的武器，被各方政治力量所使用。簡(jiǎn)言之，如果作為獨(dú)立監(jiān)督力量的傳統(tǒng)媒體已經(jīng)深陷假新聞和黨派政治的漩渦，而作為替代性的網(wǎng)絡(luò)平臺(tái)也被無法追蹤來源的虛假信息所充斥，甚至通過視覺造假在最基礎(chǔ)的認(rèn)知層面?zhèn)鬟f誤導(dǎo)性信息和煽動(dòng)性言論，那么，西方民主的根基——理性的公眾——就面臨崩塌的危險(xiǎn)。

其次，從地緣政治的角度而言，深度造假正在威脅國家安全，其核心是對(duì)域外信息控制的擔(dān)心。各國的國防系統(tǒng)已經(jīng)成為研究深度造假的前沿力量，以提防深度造假的“武器化”。正如美國國防部聯(lián)合人工智能中心主任Jack Shanahan中將所說：“深度造假是一個(gè)國家安全問題，國防部需要在能夠?qū)Ω端募夹g(shù)上投入巨資。”美國2020年的《國防授權(quán)法案》中就提出要資助檢測(cè)深度造假的技術(shù)創(chuàng)新，因?yàn)樯疃仍旒僖呀?jīng)威脅到美國的國家安全。法案要求開發(fā)檢測(cè)和利用深度造假的技術(shù)，以應(yīng)對(duì)機(jī)器主導(dǎo)的媒體和潛在的外國力量利用這一技術(shù)武器，散布虛假信息以影響美國大選。與此同時(shí)，以民主黨參議員Jennifer Wexton為代表的政治勢(shì)力也向以臉書為代表的社交媒體施壓，希望其有效甄別和控制蓄意造假的視頻。由此，深度造假與國家機(jī)器的綁定更加清晰。不管是虛假視頻還是其傳輸渠道，都成為涉及國家安全的重要方面。

再次，視覺控制除了內(nèi)容造假，更涉及虛假內(nèi)容的網(wǎng)絡(luò)化傳播。于是，這一項(xiàng)政治議程指向了社交媒體平臺(tái)。社交媒體的渠道霸權(quán)和平臺(tái)中立性主張往往成為深度造假產(chǎn)生強(qiáng)大傳播效果和廣泛政治影響的技術(shù)前提。中立是否政治無赦？一方面，從平臺(tái)的外部性而言，“網(wǎng)絡(luò)中立性”原則在美國被提出和被廢止的短暫歷史已經(jīng)說明不同的政治立場(chǎng)很難在這一點(diǎn)上達(dá)成一致，中立往往成為一種表達(dá)立場(chǎng)的政治修辭；另一方面，正如Tarleton Gillespie在其《互聯(lián)網(wǎng)的守護(hù)者》一書中所揭示的，盡管平臺(tái)公司的領(lǐng)導(dǎo)者往往把自己呈現(xiàn)為中立的中介角色，但卻無法掩蓋平臺(tái)組織和選擇內(nèi)容的事實(shí)。他將這一點(diǎn)描繪為平臺(tái)的“不可調(diào)和的矛盾”。在這個(gè)意義上，平臺(tái)孵化了深度造假的應(yīng)用，也利用深度造假生產(chǎn)著分裂的網(wǎng)上公眾，使后者更依賴平臺(tái)進(jìn)行信息發(fā)布、意見表達(dá)和運(yùn)動(dòng)組織。

需要注意的是，平臺(tái)控制也有著豐富的地緣差異，從而導(dǎo)致了視覺控制的寬度和力度。如果深度造假可以依托源自北美的社交媒體體系（如臉書和推特）達(dá)到特定的政治宣傳和政治動(dòng)員的目的，那么在中國，具體問題就不是情緒表達(dá)乃至政治攻訐。中國雖然同樣具備深度造假的技術(shù)條件和平臺(tái)化水平，但虛假視頻一般不會(huì)涉及政治領(lǐng)域，而是存在于相對(duì)去政治化的社交空間中。這顯然是中國特定的政治與媒體關(guān)系、對(duì)于互聯(lián)網(wǎng)的治理方式所決定的，但這并不意味著深度造假視頻不會(huì)對(duì)中國的政治議題和政治環(huán)境產(chǎn)生影響，相反，它會(huì)繼續(xù)以收割社交媒體流量的方式將傳統(tǒng)媒體為代表的權(quán)威信源邊緣化，從而在客觀上導(dǎo)致政治討論的去中心化。

平臺(tái)動(dòng)能：深度造假的經(jīng)濟(jì)價(jià)值

后真相體制是一個(gè)有關(guān)真相的游戲。游戲的基礎(chǔ)有二，一個(gè)是高度分裂的社會(huì)，另一個(gè)是注意力經(jīng)濟(jì)，即網(wǎng)絡(luò)參與的數(shù)據(jù)化和商品化。二者對(duì)互聯(lián)網(wǎng)平臺(tái)而言，缺一不可。深度造假的興起恰恰符合這一政治經(jīng)濟(jì)邏輯。另外，依托應(yīng)用平臺(tái)和社交平臺(tái)的網(wǎng)絡(luò)化效應(yīng)，深度造假正在轉(zhuǎn)向“廉價(jià)造假”，其潛在的經(jīng)濟(jì)價(jià)值正在被各個(gè)互聯(lián)網(wǎng)平臺(tái)所發(fā)掘。

對(duì)承載著后真相時(shí)代虛假信息的散布的社交媒體平臺(tái)而言，吸引注意力、增加用戶粘度、成為互聯(lián)網(wǎng)的入口，從而帶來更多、更穩(wěn)定流量的商業(yè)考慮往往優(yōu)先于事實(shí)核驗(yàn)和理性辯論。在平臺(tái)或者生態(tài)系統(tǒng)的中立性修辭表象下，對(duì)這些平臺(tái)企業(yè)而言，真與假的辯證其實(shí)并不重要，對(duì)其公共性的訴求也超出了其組織承載力。與此同時(shí)，這一去政治化的實(shí)用主義商業(yè)動(dòng)機(jī)也內(nèi)嵌在各種算法邏輯中，從而通過作用于社交媒體時(shí)代大眾的信息消費(fèi)和情感表達(dá)心理，促成了特定信息的快速流通和大量消費(fèi)，最終也不可避免地產(chǎn)生了更加廣泛的政治與社會(huì)后果。這也是以荷蘭學(xué)者Jose van Dijck為代表的平臺(tái)社會(huì)研究者們所關(guān)心的核心問題，即如何讓一個(gè)私有并且商業(yè)化運(yùn)行的互聯(lián)網(wǎng)平臺(tái)系統(tǒng)在創(chuàng)新的規(guī)制體系下發(fā)揮公共服務(wù)的功能，而不是任由商業(yè)價(jià)值侵蝕公共價(jià)值。在這里，資本借由技術(shù)變成一種直接的建構(gòu)性力量，造就了一個(gè)“平臺(tái)資本主義”時(shí)代的到來。在這個(gè)意義上，各類應(yīng)用作為平臺(tái)經(jīng)濟(jì)的代表，本身就是資本積累的重要工具。

深度造假共享了平臺(tái)社會(huì)的一系列基本原則，并逐漸演化為平臺(tái)經(jīng)濟(jì)的一種內(nèi)容商品，成為互聯(lián)網(wǎng)企業(yè)突破增長(zhǎng)瓶頸的新選擇。按照J(rèn)ose van Dijck等人的分析，平臺(tái)設(shè)施在社會(huì)中的擴(kuò)張依賴于其基本過程。第一，數(shù)據(jù)化，即盡可能多地、系統(tǒng)性地獲取用戶信息。對(duì)深度造假而言，這也是深度學(xué)習(xí)、機(jī)器訓(xùn)練的基礎(chǔ)，社交媒體平臺(tái)提供了獲得數(shù)量龐大的用戶視頻資源的可能。第二，商品化，即將線上行為轉(zhuǎn)化為可以交易的產(chǎn)品。深度造假的商品化首先體現(xiàn)在注意力經(jīng)濟(jì)，其本身就具有挑戰(zhàn)既有認(rèn)知框架的反常性特征，能夠有效促進(jìn)從點(diǎn)擊到轉(zhuǎn)發(fā)的網(wǎng)絡(luò)行為；其次，社交平臺(tái)以服務(wù)用戶為名，使用用戶自制內(nèi)容而不需要付費(fèi)，尤其是依托深度造假客戶端而上傳的用戶視頻素材和制作的合成視頻。除此之外，就社交媒體平臺(tái)而言，其內(nèi)嵌的“技術(shù)法則”雖然出自技術(shù)專家之手，包含了技術(shù)、產(chǎn)品和文化的邏輯，但大多服務(wù)于其母公司（多為私營）的商業(yè)模式。而截至目前，社交媒體平臺(tái)的主要商業(yè)或盈利模式，在喧囂的技術(shù)神話和商業(yè)概念泡沫的掩蓋下，矗立得像傳統(tǒng)媒體一樣古老。Jakob Rigi和Robert Prey將之總結(jié)為兩個(gè)方面，即廣告空間的租用和虛擬資本所期待的意外之財(cái)。通俗來說，就是廣告收入和在股票市場(chǎng)的表現(xiàn)。

小結(jié)

進(jìn)入人工智能為技術(shù)基礎(chǔ)的深度后真相時(shí)代，深度造假進(jìn)一步用超越人類識(shí)別力的技術(shù)，模糊了真與假的界限，并將真相開放為可加工的內(nèi)容，供所有參與者使用。在這個(gè)意義上，深度造假開啟的是普通人參與視覺表達(dá)的新階段，然而，這種表達(dá)方式還會(huì)結(jié)構(gòu)性地受到平臺(tái)權(quán)力的影響，從而使得極端言論更容易被選擇和被傳播。在NiemanLab的Rubina Madan Fillion看來，“威權(quán)主義的崛起與深度造假——使用人工智能軟件創(chuàng)造出逼真的影像——的繁榮巧合地同時(shí)出現(xiàn)”，與核查事實(shí)、澄清真相相比，對(duì)于偏見的確認(rèn)似乎更具有影響力。換句話說，對(duì)帶有偏見的影像的肯定和散布，遠(yuǎn)比獲取事實(shí)來得容易。