很多人說過,ChatGPT經(jīng)常會(huì)有理有據(jù)地胡扯,特別當(dāng)它回應(yīng)一些嚴(yán)肅的知識(shí)性問題時(shí),會(huì)憑空編造事實(shí),甚至杜撰不存在的文獻(xiàn)。
例如,我讓ChatGPT給我介紹一下青銅器利簋,它開始一本正經(jīng)地胡扯,說這件青銅器是商王帝乙為了祭祀自己的父親文丁所鑄,還詳述了其內(nèi)壁的銘文,說是商王希望得到祖先靈魂的庇佑什么的。然而,這根本就是胡扯,利簋這件文物我在博物館里親眼見過,此物為西周貴族為了紀(jì)念武王推翻商朝而鑄,其銘文也和祭祀商王毫無關(guān)系。
我問AI這些都是從哪兒看來的,它咔咔給我列了一大堆文獻(xiàn),《殷墟發(fā)掘報(bào)告》《商代青銅器銘文研究》之類的。看著是那么回事,其實(shí)又在胡扯。前一篇文獻(xiàn)的作者是中國(guó)社會(huì)科學(xué)院考古研究所,AI說是中山大學(xué)考古學(xué)系;后一篇文獻(xiàn)的作者是嚴(yán)志斌,AI說是李學(xué)勤。當(dāng)然,這樣的嚴(yán)肅文獻(xiàn)里也根本不會(huì)有AI捏造的內(nèi)容,AI只是搞出了一個(gè)引用的假象。
當(dāng)話題進(jìn)行到這兒時(shí),這就是一個(gè)關(guān)于AI幻覺的老生常談,網(wǎng)上討論過很多次了;然而,我最近看了一個(gè)視頻,是關(guān)于一項(xiàng)新發(fā)布的數(shù)字人技術(shù),這項(xiàng)技術(shù)可以將一幅靜態(tài)人物照片轉(zhuǎn)化為視頻,效果驚人。比如,系統(tǒng)以一張靜態(tài)照片為素材,生成了一段演講視頻,不僅神態(tài)、語氣、口型、肢體動(dòng)作極其自然,連頭發(fā)和首飾的晃動(dòng)都符合物理規(guī)律。若是用街邊拍攝的人物照片為素材,根本看不出破綻。
假如這類技術(shù)普及以后,有個(gè)團(tuán)伙為了販賣自己偽造的文物,用知名專家的照片偽造一段講座視頻,令其講述團(tuán)伙虛構(gòu)的歷史,擴(kuò)散到短視頻平臺(tái)上,再用AI虛構(gòu)的歷史生成大量的虛假文獻(xiàn)乃至照片和視頻,投放到網(wǎng)上搞信息污染,發(fā)酵一段時(shí)間,會(huì)發(fā)生什么?
或是有一天,當(dāng)你在看短視頻時(shí),突然刷到一個(gè)你熟知的專家在搞講座,說了一段歷史,你之前沒聽過,心中覺得奇怪,到網(wǎng)上一查,發(fā)現(xiàn)文獻(xiàn)還挺多,作為證據(jù)的照片和視頻能搜出一大堆,還有官媒采訪現(xiàn)場(chǎng)的錄屏。若是到了這種程度,除非直覺敏感的專家或者相關(guān)研究的親歷者,絕大多數(shù)人都會(huì)被帶到坑里,不知不覺間就在腦海中植入了這段虛構(gòu)歷史的記憶。等未來的某一天,這個(gè)團(tuán)伙把偽造的文物拿出來招搖過市時(shí),你會(huì)心想:“嗯,這東西靠譜,之前看專家提到過,官媒還報(bào)道了呢。\"其實(shí),一切都是AI編的,根本不存在。
發(fā)現(xiàn)了嗎?AI能虛構(gòu)從文本到照片乃至視頻的一切內(nèi)容,并且令其彼此印證、互相支撐,可謂天羅地網(wǎng)、環(huán)環(huán)相扣,其制造的幻覺在強(qiáng)度上和之前編點(diǎn)文字故事不可同日而語,除非你親自向?qū)<冶救饲笞C,或者到現(xiàn)場(chǎng)實(shí)地考察,否則就會(huì)被AI創(chuàng)造出的假象玩得死死的。
但現(xiàn)實(shí)中,有渠道、有機(jī)會(huì)、有能力、有意愿親自驗(yàn)證事實(shí)的人有多少呢?就算前面說的這四點(diǎn)你都有,你能每件事都驗(yàn)證嗎?稍微不留神,被AI污染的記憶就不知不覺鉆進(jìn)腦子里了。
(摘自2025年3月5日《北京青年報(bào)》)