被AI篡改的“真相”

李靜

AI繪畫：特朗普被警察逮捕。

人們曾信奉一些普遍的經驗，例如“謠言止于智者” “有圖有真相”，但現在好了，謠言起于“智者”——人工智能，而被用來證實真相的圖片，也許本身即是謊言。當地時間4月4日，美國前總統特朗普正式以被告身份出席紐約州地方法院非法封口費案件庭審現場時，很多人的第一反應卻是：“假的吧？”因為“特朗普被捕”的假消息和假照片已經傳播快半個月了，當事情真的發生時，人們反而不敢相信。

之前的假照片幾乎成為連續劇，每天都在上新——“特朗普在前面跑得氣喘吁吁，執法人員在后面緊追不舍”，“特朗普遭到紐約市警察圍毆、逮捕，場面混亂”，“特朗普的鐵窗淚和獄中生活”，“特朗普火拼越獄”……幾乎是一部合格的好萊塢大片配置。

這些瘋傳的“特朗普系列”全部由AI制作生成，最早是信息調查網站bellingcat創始人、英國獨立記者艾略特·希金斯的惡作劇，他在網上讀到特朗普可能被逮捕的消息后靈機一動，想將這一事件“可視化”。于是，希金斯在AI繪圖工具Midjourney上輸入相應提示詞，例如“特朗普在被捕時摔倒了；新聞報道畫面。”隨后，他將Midjourney生成的圖像發布在社交媒體上，并在帖子中寫道：“在等待特朗普被捕時，制作了特朗普被捕的圖片。”

網友轉發時可不會細看他寫了什么，僅僅兩天后這些內容的瀏覽量已突破500萬次，圖片在經由他人重新轉發后，騙到了很多人。有用戶在轉發時，配上“突發新聞：特朗普今晨在曼哈頓被捕”“震驚！特朗普被逮捕并押往聯邦監獄”等文字。還有人疑惑地在圖片下提問：“為什么特朗普被捕的事沒上新聞？”

“在批量制造虛假但可信的圖像方面，AI已經向前邁進了巨大一步。”《華盛頓郵報》評論說。那么，這項技術的能力和可獲得性是否已經大大超過了監管和立法的反應以及企業的控制，從此使得真相更加模糊？

“我只是在胡鬧而已”

“我只是在胡鬧而已。”希金斯接受采訪時說，事情的發酵速度讓這位始作俑者也始料未及，“我以為大概也就5個人會轉發。”過去，制作一張假照片還需要一位photoshop高手做上整整一下午，而現在，用戶只需提供一個簡單的文字提示，這些工具就能迅速生成以假亂真的圖像，背景中往往還包含大量令人信服的細節，更重要的是，其能夠高度模仿新聞機構風格的照片。

比如，在最近的中文互聯網上，不僅流傳特朗普被捕的圖像，還有大量AI生成的上世紀80年代、90年代的照片，這些照片中，無論是主角還是背景，都擁有非常真實的細節，除此之外，還有人戲謔地把《星球大戰》中的角色或者機器人相當真實地“鑲嵌”進那些八九十年代的街頭圖像之中，由于細節過于逼真，看起來竟然一點都不違和。相當多的人開始擔憂，也許未來不再有“真實”的歷史，人們的記憶也會被混淆。

AI繪畫：一些電影元素被“鑲嵌”進上世紀八九十年代的生活場景。

有關AI對攝影界的影響，攝影師們有過討論。首先當然是版權問題，因為生成器的數據庫是通過在互聯網上抓取數十億張帶有相關文本描述和標簽的圖像而構成的。在其中，人工智能公司Stability AI受到了攝影師的集體侵權指控，Getty圖庫也備受詬病。而有關圖片質量，攝影師們從專業角度認為，AI還沒有能夠徹底以假亂真。

紐約的攝影師查理·英格曼對圖像生成器的圖片研究了一段時間，他發現人工智能對人類身體的理解是有限的，一個情感可能被定義為快樂，因為許多帶微笑的圖像都被標記為“快樂”，但人工智能無法識別其他微妙的姿態，例如放松的肩膀。哥倫比亞大學博士明妮·艾泰路發表文章說，當使用Midjourney進行圖像生成時，系統會反復出現刻板印象，例如，當她在生成器中輸入“綠色的衣服”這樣的描述時，系統生成的總是黑人，她推斷Midjourney將明亮的顏色與黑人膚色聯系起來了。更不用說AI圖像還會有一種不自然的光澤和質感，即便是寫實風格。

曾拍攝過《算命》《老唐頭》等獨立紀錄片的導演徐童也注意到了這些“有意思的照片”，因為本專業為新聞攝影，后來又在不斷用紀錄片追隨“真相、真實、真理”，他格外關注AI的發展。“人工智能生成圖像還處于嬰兒時期。“徐童對《中國新聞周刊》說，AI生成的圖片對于專業人士而言尚不難辨別真偽，專業攝影師們似乎也不認為當下它能夠對人們所需要的真實照片造成什么重大影響。但徐童也承認，AI的發展是迅速的，也許很快就進化。在他看來，越來越逼真的AI生成圖像目前主要分兩類，要么是很容易辨別真偽的戲謔，某種程度像是民眾的黑色幽默，要么是對真實圖片的高度擬仿，例如那些80年代的街景，人們擔心的大約為后者。

但這樣的圖片在徐童眼中，類似于文物界的贗品，“普通人怎么能分清《蘭亭序》的真跡和《蘭亭序》的贗品？分不清。但畢竟還是有真跡在那，還是有專業的人能分清楚。”而即便人們看的是“贗品”，這個擬仿到位的“贗品”并不會覆蓋“真品”，也不會使人們對“真品”本身的感受和印象產生什么混淆，所以不必對“贗品”產生恐慌。

何況人們的記憶和對歷史的理解，有時候并不一定全部基于非虛構信息和影像。學者王學泰曾經在他的《游民文化與中國社會》等書中描繪過一種現象：宋朝以后，中國社會受戲曲、曲藝影響極大，例如清末，義和團成員在重大活動中喜歡將裝束向歷史中的忠臣名將靠攏，例如黃忠、馬超等，他們的服飾參考正是戲曲中古人的樣貌。太平天國的裝束、官職以及作戰方式都曾向歷史學習，他們學習的歷史其實是通俗文藝中所描述的歷史。

AI繪畫：OpenAI CEO山姆·阿爾特曼乘坐UFO，在中國鄉村留影。

復旦大學新聞學院教授湯景泰告訴《中國新聞周刊》，在那個時候，“戲曲不但建構了一些人對于古代歷史的記憶，而且在塑造他們相應的行為”，可以說，即便在有信史的情況下，虛構的東西仍然在“參與我們相應的一些集體記憶建構。”尤其對于孩子和受相應教育比較少的人，恐怕一直以來都難以對虛構和非虛構內容準確地進行分辨。

因此，湯景泰認為，如今AI所制造的一切信息，最值得警惕的并非藝術、玩笑或歷史圖片，而是那些被故意制造出來的，欺騙、誤導他人的“謠言”，這些“謠言”會使很多無辜者受害，更令人擔憂的，是以謠言為代表的各類虛假信息往往深受現實政治權力結構的影響，在潛移默化中影響特定問題的社會認知，甚至引發社會動蕩。

一鍵生成的謠言

不久前，一條“杭州市政府3月1號取消機動車依尾號限行”的“新聞稿”在互聯網上廣泛傳播。后來經過警方調查，發現這是一條不實新聞——2月中旬，杭州一個小區業主群在討論ChatGPT，一位業主開玩笑說，嘗試用它寫篇杭州取消限行的新聞稿看看。隨后這位業主在群里直播了ChatGPT寫作過程，還把文章發群里。沒有圍觀全程的業主不明就里，以為是真的新聞，截圖轉發，最后以訛傳訛。

自2004年美國傳播學者拉爾夫·凱伊斯提出“后真相時代”概念、2016年《牛津英語詞典》將其作為當年的年度詞匯收藏和發布以來，“后真相”就成為人們不得不正視的新現象。所謂“后真相”，是指人們不再相信真相，只相信感覺，只愿意去聽、去看想聽和想看的東西。湯景泰告訴《中國新聞周刊》，從那個時候起，新聞倫理已經開始不斷受到挑戰。隨著電腦技術不斷發展，2018年“深度偽造”（Deepfake）概念被學界提出，那時，人工智能已經開始將圖片或視頻合并疊加到源圖片或視頻上，借助神經網絡技術進行大樣本學習，將個人的聲音、面部表情及身體動作拼接合成虛假內容。

在國內，第一次引起人們注意的“深度偽造”大概是2019年B站的一段視頻——94年版《射雕英雄傳》中朱茵的臉被換成楊冪，從服飾發型到神態動作都是原演員朱茵的，只有五官成了楊冪，卻絲毫不違和。那時AI的技術已經引發人們的擔心，所以制作朱茵和楊冪換臉視頻的up主“換臉哥”下架了所有視頻并致歉，希望大家都尊重版權與肖像，專注于技術本身。

兩年后的2021年，劉昊然工作室向警方報案，因為有人用AI換臉技術發布偽造侮辱劉昊然的視頻。這時，AI換臉技術使用門檻已經大幅降低，不再需要專業視頻博主的制作，稍微懂點技術就能做到。甚至開始形成黑色產業鏈，一位女明星的臉被AI換到了200多部色情視頻之中，在一些平臺以10塊、5塊一部的價格出售，網上還有商家提供視頻AI換臉的服務，根據時間長短收費。

當這項技術發展到2023年，已經實現大眾化應用，幾天前，一張女子在地鐵上的照片被AI“一鍵脫衣”，造謠圖隨后在網上廣泛傳播。

謠言是最古老的傳播媒介，但制造一條逼真的謠言從未像今天這樣容易。以ChatGPT、Midjourney等為代表的人工智能技術不僅可以制造足以亂真的文字，還可以大大提高深度偽造技術的效率，對圖片、聲音、視頻等各種話語類型進行偽造，實現謠言生產的多模態，謠言的逼真性、擾亂認知的能力幾乎達到前所未有的高度。謠言治理正面臨挑戰。

謠言的背后，其實反映某些真實的心理和情感。湯景泰擔心，制造過程越來越簡單的謠言，會借助現實中已有的矛盾，助長各個群體之間的進一步撕裂，“特別是謠言武器化的趨勢，這幾年已經越來越突出了。所以在這種情況之下，它必然會服務于現有的權力博弈。”例如2021年1月，特朗普支持者受到選舉舞弊謠言的煽動，暴力沖擊美國國會大廈。今年3月“特朗普被捕照”出現不久，網絡上也出現了“特朗普持槍反攻、活捉拜登和佩羅西”的主題假照片，非常清晰地顯示出美國政治的兩派斗爭。

2018年，美國麻省理工學院傳媒實驗室發布過一項史上規模最大的假新聞研究成果。真信息在網絡空間傳播所用的時間是假信息所用時間的6倍，虛假信息的傳播速度、傳播深度和傳播范圍都要比真實信息傳播得更快、更深、范圍更廣，而虛假政治新聞的影響比恐怖主義、自然災害、科學、城市傳說或金融方面的虛假新聞更為明顯。從傳播學層面看，重復作為一種強化價值理念的方式，展示了強大的認同力量。

而揭露虛假信息并不總能改變人們的思想。2017年11月發表在《Intelligence》雜志上的一項研究發現，那些認知能力較低的人在被告知一些消息為虛構或者根本與事實相反后，仍無法改變原來的印象。美國麻省理工學院的研究成果也表明：“即使揭穿是由聲譽良好的事實檢查組織來完成，也無助于說服那些已經相信虛假信息的人”。

AI繪畫：20世紀90年代的中國情侶。

用魔法打敗魔法

可能是出于AI被用于欺詐、虛假信息傳播等不良用途的擔憂，今年3月31日意大利個人數據保護局（DPA）宣布禁止使用ChatGPT。4月3日德國數據保護專員也表示，德國可能會效仿意大利，封殺ChatGPT。亞馬遜、美國銀行、軟銀、高盛集團等世界知名企業內部，也已經限制使用ChatGPT來處理工作。

每一次技術革命，都會給社會帶來巨大的變化、風險和機遇，如今AI似乎在扮演著類似的角色。3月29日，特斯拉CEO馬斯克、硅谷人工智能知名專家蓋瑞·馬庫斯等上千名科技人士聯名發表了一封公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統。馬庫斯說：“我現在并不擔心‘AGI風險（我們無法控制的超級智能機器的風險），在短期內我擔心的是‘MAI風險——平庸人工智能（MediocreAI）是不可靠的，但被廣泛部署。”這一呼吁得到了不少關注與回應，截至當地時間3月31日，已有超2300人簽名。

但也有一些業內人士對此持反對態度，例如Meta首席技術官（CTO）安德魯·博斯沃思，他認為“很多時候，你必須先了解技術是如何發展的，然后才能知道如何保護人類并確保技術安全。這（要求暫停高級AI開發）不僅不現實，而且不會有效。”

一些科研團隊已經在研究利用AI來識別AI制造的虛假信息，用“魔法”打敗“魔法”。瑞士盧加諾大學人工智能教授邁克爾·布朗斯坦就在帶領團隊開發一個使用人工智能檢測假新聞的項目。他的模型不僅分析假新聞的語義特征也包括傳播途徑，例如通過數據分析，他發現在社交網站上，假新聞的轉發量可能遠遠超過點贊量，而普通帖子的點贊量往往超過轉發量。通過各個維度的綜合計算，布朗斯坦的項目會給新聞條目評分。

但完全指望技術來解決虛假信息的問題，布朗斯坦認為是幼稚的，他說：“這不僅僅是假新聞的問題，也是信任和缺乏批判性思維的問題，這可不是僅靠技術就能緩解的。這需要所有利益相關者的努力。”

然而企業標準和政府監管這一層面目前顯然是缺失的，例如雖然因生成“特朗普被捕”圖像，希金斯的賬號被Midjourney封禁，但他并未被告知違反了哪些規定。

專注于新興技術研究的卡內基國際事務倫理委員會研究員阿瑟·霍蘭德·米歇爾在接受《華盛頓郵報》采訪時說，他擔心世界還沒有為即將到來的“洪水”做好準備，涉及普通人的偽造圖像將更難受到監管，“從政策角度來說，我不確定我們是否準備好應對如此大規模、涉及社會各階層的虛假信息。要終止這一局面，可能將需要迄今無法想象的技術突破。”

2023年3月30日，聯合國教科文組織發表聲明，呼吁各國政府盡快實施已通過的首份人工智能倫理問題全球性協議《人工智能倫理問題建議書》。聲明說，行業自律顯然不足以避免這些倫理危害。因此，《人工智能倫理問題建議書》提供了工具，以確保人工智能的發展遵守法律，避免造成危害，并在危害發生時啟動問責和補救機制。

從人文科學與社會科學的角度看，湯景泰認為面對人工智能技術可能帶來的謠言生產與傳播風險，人類仍離不開人工智能技術的支持，但也要看到，謠言的傳播動因和心理機制有復雜的社會基礎，根本癥結在于難以彌合的社會分歧，新聞的真實性與客觀性被解構，人們更愿意相信符合群體心理預期和情感的信息。因此，破解謠言的根本在于建構一個可溝通性更強的社會。