誰才能鎖住AI的“潘多拉魔盒”？

格桑

近日，一對中國情侶突然火爆全球。照片里的一男一女，穿著夾克和牛仔褲，坐在凌亂的天臺邊緣，遠處是陽光下顯得有些失焦的高樓大廈。同樣，這一對情侶，還以相似的打扮，出現在各種不同的場景，甚至不同的時代。

這是怎么回事？原來，這全都是假的。這對情侶在真實生活中并不存在，他們出生于一款軟件——Midjourney的V5版本。如今，我們對AI繪圖已經見怪不怪了，但是這張中國情侶的照片，其圖像質量、紋理、動態范圍、縱深感和細節之逼真，實在讓人震撼。

與此同時，另一件網暴事件也同樣撼動人心。近日，“廣州三號線女子不雅照”的謠言在網上瘋傳。傳播者煞有介事地稱，“三號線有個美女，把衣服脫了”。然而，這個聽上去言之鑿鑿，還有“事實”為證的圖片，背后竟然是使用AI把女子的衣服P掉的不法行為。

這兩個新聞在震撼人心的同時，也引發我們嚴肅的思考：AI能制造出以假亂真的圖片，讓我們對事情真偽的判斷愈加困難，這場21世紀最深刻的“工業革命”，最終會將我們帶向何方？

潘多拉的魔盒已經打開

3月18日，美國前總統特朗普在個人自媒體上發布預告稱：“我也許在周二（3月21日）被捕。”很快，特朗普被捕的圖片，迅速被大量轉發。在紐約街上，他被特警反綁扭送，被警察壓在地上；還有他穿囚服的和越獄的圖片，這些都逼真到讓人難以分辨真假。

這些有模有樣的“新聞作品”，正是出自Midjourney。Midjourney是一個生成式AI，操作很簡單，只需要通過Discord機器人發送消息，向它描述你想要的圖片，即可生成。Midjourney于3月下旬迭代至V5版本，圖片生產的能力和質量突飛猛進，同時也火出了圈，席卷國內外各大社交媒體。

跟其他AI繪圖軟件不同，Midjourney在生成一套充滿噪點的粗糙藍本后能多走一步，通過一層特殊處理，將噪點全部去掉，尤其是一直很難攻克的臉部輪廓和手部的清晰度，最終生成一張跟照片無異的圖片。

特朗普被“制造”后，諸如美國前總統奧巴馬和德國前總理默克爾在海邊玩耍、羅馬教皇方濟各穿著時尚羽絨大衣在夜場當DJ等肆意消費各界名流的圖片，也紛紛出爐，全球網友陷入一場Midjourney制造的狂歡。

確實，以假亂真的威力，被Midjourney發揮得淋漓盡致。同時，這場狂歡也引發了人們對其濫用的熱議。人工智能ChatGPT的開發者OpenAI公司的行政總裁薩姆·阿特曼就曾表示：“即使我們不研發這樣的技術，也會有比我們道德底線更低的人去研發。”對此，他直白地建議：“技術沒有錯，不讓技術被濫用的唯一辦法，就是限定社會使用它的邊界和底線。”

無論如何，我們已經來到了一個AI生成信息泛濫的時代。不僅是Midjourney，DALL-E2、StableDiffusion等軟件，也可以根據用戶描述，幾秒鐘內生產出精美、逼真的圖像，且風格多樣。

在ChatGPT上，我們可以請AI模仿某個刊物的風格，寫一篇文章。GPT-4還被整合進Office，現在，做PPT、寫文案、生成可視化數據、郵件撰寫和回復等任務，都可以下令讓AI自動完成。

當然，視頻生成也不在話下。比如，只要輸入文字或者導入PPT，只要5分鐘，Synthesia就可以幫你制作一段真人出鏡的視頻，省去了導演、演員、攝影乃至后期制作等一系列人力成本，以及拍攝設備和場地成本。

學生、律師、學術界等也開始使用生成式AI來輔助完成他們的本職工作。美國編劇協會還提議允許使用ChatGPT參與劇本創作。甚至如今，ChatGPT已經學會了即興創作。

AI的無所不能，已經讓許多從業者憂心忡忡。比如，對美術、廣告創意行業的從業者來說，“很多人苦學半輩子的繪畫或設計技能，可能一下子變得一錢不值。”因此，在社交平臺上，出現了“NotoAIArts”（對人工智能藝術說不）這樣一個標簽。那些高調反對AI制圖軟件的藝術家認為，依賴大量藝術品原始數據進行人工智能制圖，冒犯了人手藝術創作者的版權，算是一種高級抄襲，“這些軟件完全建立在侵犯無數位藝術家、攝影師、插畫師和其他擁有合法版權者的基礎上，根本不算是‘創作過程”。

但畢竟，潘多拉的魔盒已經打開了。

人性才是科技之源

文章開頭提到的這位廣州女子，是典型的AI技術受害者。偽造內容所產生的謠言，可以很輕易地讓一個普通人陷入百口莫辯的境地，也會讓許多人受到蒙騙。

有一部分人正用一種低成本的方式，制造這些以假亂真的視頻、圖片和聲音，挑戰我們的認知底線。科技濫用、科技作惡的現象，讓更多游走于灰色地帶的問題越發尖銳。

那么，是不是對AI技術一封了事就好了？當然不是，技術沒有錯，錯的是使用的人。

同樣是AI技術，有人用它來作惡，有人卻用它來行善。比如，2022年冬奧會上，一批來自天津理工大學的大學生志愿者，就曾給冬奧會AI手語數字人提供語料支持，讓聽障人士也可以“聽見冬奧”；又比如，我國正在實行的AI尋人技術，就曾幫助很多被拐兒童尋親成功，讓許多離散多年的家庭重聚。

最讓人感動的是，有人還利用AI技術“復活”逝者。安徽一個小伙就利用AI技術讀取逝者生前的照片，將逝者在虛擬世界進行“復活”。“復活”之后，我們不僅可以看到逝者清晰的照片，還能看到他們眨眼、微笑、擺頭的動作，許多家屬看到后，都感動得淚流不止。

在這些人手里，AI技術并不是惡魔，相反，它是一個溫暖的工具。這就是科技向善的魅力。

所有的新科技都具有兩面性，這取決于什么人使用它們，以及如何使用。新科技放在好人手里，可能成為一個向善的工具；而在壞人手里，就可能成為害人的幫兇。

曾有人說：我們都是用著手提電腦的山頂洞人。這句話意為，社會和科技在不斷進步，時代在發展，但人性沒有變，而我們的人性是復雜的。從工業革命以來，“機械性”和“人性”之間的張力一直是人們思考的焦點。這種張力在今天更加激烈，在感受機械性帶來的沖擊的同時，我們也許應該先深入了解“人性”到底是什么東西。

AI或許會取代部分創意工作和藝術創作，但只要AI一天不代替人性，藝術就一天不會死亡，畢竟真正的創造力源自我們有趣的人性。同樣，AI沒有情感，也沒有道德的約束；但人性中自有其閃光的部分，比如，善良、誠實、正直、謙遜、守信……將AI與我們人性中的閃光點結合起來，才是真正的科技進步。

著名物理學家霍金曾說：“強大人工智能的崛起，可能是人類遇到的最好的事情，但也可能是最壞的事情。”別把人性的惡甩鍋給科技，唯有最大程度地抑制人性的惡，我們才能迎來科技進步的善。

（資料來源：“南風窗”“桌子的生活觀”微信公眾號，圖坦圖）