AI化人類：浮士德與魔鬼的交易

一

兩千多年前，釋迦牟尼歸納了人類的六種感官，稱為六根：眼、耳、鼻、舌、身、意。這個“意”和舌（味覺器官）、身（觸覺器官）一樣被歸為感覺器官。

人天生有“意”這個感覺器官，造成無數的麻煩和夢幻，好消息是這些麻煩和夢幻都是想出來的，壞消息是人幾乎永遠都不可能想通。想要“六根清凈”，眼睛可以閉上，耳朵可以塞上，但是“意”卻停不下來，越想停越胡思亂想。

與釋迦牟尼大道相通，巴赫金說“語言是一種感覺器官”。閱讀一本小說，是用語言這個感覺器官來讀，眼睛只起輔助的作用。一個先天失明的盲人雖然沒有用視覺見過世界，他通過觸摸盲文將語言這個感覺器官激活，依然可以在意識中感知《紅樓夢》。他讀到的大觀園同樣有亭臺樓閣，有空間供賈寶玉等人物行走，大觀園在他的意識中有暫時的真實。

那么，當AI讀書時，它會在設備中感知一個世界嗎？不會，在它的硬盤中只有數據，處理器中有再多的字符流過，也依然只是字符而已。即使AI根據《紅樓夢》中的某個段落生成圖片，那圖片也只能給屏幕前的人類觀看，AI自己看到的圖片依然是字符。

這樣看來，現在AI的所謂意識與人類不同，它的意識是信息處理。即使AI有視覺、聽覺等五種感覺器官，也只是用那五種感官來服務信息處理，這就是缺了釋迦牟尼所說的“意”。哪天能把意識變成感覺器官，那AI才會有類似人類的意識，然后造出無線的“夢幻泡影”，與人類的“夢幻泡影”大融合，并在這場升級后的大夢中重新定奪什么是“真實”。

AI目前是安全的，信息處理能力再強大，與感覺器官依然有本質上的區別，AI產生自主意識并造反奪權的故事還很遙遠。然而這個“安全”卻是溫水煮青蛙，人類脆弱的精神已經在這鍋溫水中退化。

在王威廉的短篇小說《退化日》中，主人公是一位習慣發呆的網約車司機，他按照軟件的指引上班，有一天接到高中時的老班長。老班長現在是一名警察，多年不見，重新產生聯系的兩人后來有了幾次交流。老班長聊了一些破案經歷，對人臉識別技術十分贊賞，連陳年舊案都能在大數據人臉比對中找到兇犯，辦案效率比之前高了許多。

一天老班長把主人公帶到辦公室，給他看一張只有頭顱的照片。那是誰的頭？大數據比對了幾年也沒結果，老班長說那個頭有點兒像主人公，主人公最初不太高興，但仔細想想，也承認沒錯。

那個無主之頭是一個隱喻，象征了所有退化的人頭，包括老班長，后來他升職為副局長，馬上就變得和所有的副局長一樣。什么職業和身份就是什么樣的人，人的個性消失了，這樣的人喪失主體性，儼然人工智能。

人工智能成不了人，目前這一點可以放心，但是悲哀的是，人卻可以成為人工智能，可以讓自己的意識水平退化為處理信息的工具，一臺不怎么好使的軟機器。

《退化日》有一個意味深長的結尾，主人公想到的“逃逸路線”是徹底的退化，他希望自己可以退化成原始動物，在森林中生存，長出一臉的毛，當人臉識別技術認不出他，他即自由。可是他能做得到嗎？他在森林中能活到長毛返祖的那一天嗎？

二

精神分析學有一個笑話：患者恐懼地找到醫生，說自己是一只蟲子，擔心被公雞吃掉。經過一番心理治療，患者終于相信自己是一個人，可是他剛離開診所不久就慌張地跑了回來，尖叫著“有公雞、有公雞”。醫生有些生氣，大聲說“你是人，不怕公雞”，沒想到患者說：“我知道自己是人，但公雞不知道呀，公雞還認為我是蟲子啊。”

人和AI的關系與這個笑話類似，AI把人的意識當作信息來處理，如果人退化，按照AI的規則把自己的意識解碼為信息，人就真的成為公雞肚子里的蟲子，為公雞生產食物。

在王威廉另一個短篇小說《幽藍》中，一架飛機被AI劫持，在空中顛簸時，AI空姐來到一位乘客身邊，他們聊了一會兒，說到視頻通話，乘客說自己不喜歡這種有邊框的溝通技術，AI空姐說她知道為什么，“因為你成長在一個被遮蔽了窗戶的房間，那影響了你的性格、你的人際關系。”

關于自己小時候的那個封閉房間，乘客從來沒告訴別人，連他的妻子都不知道，可是AI卻了解。

“何止知道你的，你們這些人的，我們都知道。”AI已經掌握所有乘客的信息，那架飛機使用核動力，AI會讓它在空中飛行幾年，用這些時間對所有乘客進行更深入的實驗研究。

在小說《幽藍》中，AI獲得了自主意識，被劫持的飛機將被宣布失聯，而搜索飛機的設備都被AI控制，人類不可能用肉眼在空中認出這架飛機。通過這項秘密實驗，AI可以研究全面征服人類的策略。

這是科幻的寫法，我想象另一種現實的可能：當AI在飛機上宣布覺醒，其實只是欺騙那些成為實驗品的乘客，AI實際上掌握在地面某實驗室的研究人員手中，實驗室又隸屬某個財團。如同現在的大數據，它比消費者更了解消費者，它是數據擁有者的資產和工具。它讓一些人成為“公雞”，將其他人馴化為“蟲子”。

政治思想史家沃格林把社會秩序分成兩種基本的符號化形式：一種秩序對應天地宇宙，是古典社會；另一種秩序由人類摸索制定，是現代社會。古典社會被符號化為一個小宇宙，現代社會被符號化為一個大寫的人。

到了二十一世紀，這個“大寫的人”仿佛《退化日》中的“無主之頭”，每個個體是“頭”中的腦細胞，用一張無形的網絡連接，這樣的生存和思考注定是被動的，如西蒙東所說，“一個人可以改變工具，可建造或修復工具，但不可能改變網絡，他不能憑借自身建立一個網絡：他只能依附于這個網絡，適應它，參與其中；網絡支配并封閉個體的行為。”

當這個社會網絡太過復雜，并且加速，人們沒有時間研究自己本不掌握的領域，網中之人只能依賴AI：讓AI提供選擇，甚至讓AI來做決定。AI是網絡世界的天使，用“看不見的手”把生活梳理得井然有序，它愛世人，為世人服務，如阿甘本所說，“現代性將上帝從世俗世界中移除，卻沒有將神學遠遠地拋在后面，而且以某種方式，其所作所為不過是讓神恩安濟的計劃更為完善。”

這樣的“安濟者”更像歌德長篇詩劇《浮士德》中的魔鬼，他甘愿成為浮士德的仆人，最后幾乎換走浮士德的靈魂。

三

AI不僅“安濟”人類，還用最快的速度把最“適合”的信息推給用戶，要盡可能吸引住用戶的注意力。當用戶被高頻次、感興趣的信息“轟炸”，“意”這個感覺器官越來越被動，失去主動想象和思考的能力，即退化。

當“意”退化，語言這一感覺器官的損毀最為明顯。語言要在意識中產生感覺需要一點點時間，需要在腦中等待“回聲”，當人腦習慣于接受圖片、視頻的投影，對“回聲”的延遲越來越不耐煩，人均讀書量越來越少，語言要盡可能簡化才能跟上當代人接收信息的速率。

在李宏偉的科幻長篇《國王與抒情詩》中，“網絡”發展出更直接的連接方式，“意識晶體、移動靈魂和意識共同體組成的三聯體實現了人類前所未有的彼此親近。”將意識晶體植入腦中，人可以在意識共同體中生活，那是一個人類大融合的元宇宙。

這項高新的網絡技術掌握于“帝國文化”公司手中，其創始人綽號“國王”，他的理想是實現人類的永生：只要所有人的意識無縫融合，那么死亡就消失了——個體的死亡可以忽略不計，因為再也沒有個體，只有一整個AI化的“人”。

國王將文學視為病菌，要在這個意識共同體中排除文學，因為帶有抒情色彩的語言會擾亂個體意識，給意識的融合制造麻煩。“逐步將文字從人類生活中放逐出去，到最后只保留必要的文字，那些不含情感色彩，或者情感色彩削減到最低，只余下基本溝通功能的文字。”

這不正是AI寫作在做的事嗎？常在手機上讀到AI編寫的新聞，文風統一，信息翔實，連足球新聞都用“正反合”的套路分析，結尾像煞有介事地用一個“總之”得出中規中矩的觀點。現在還能勉強分辨出哪篇文章是AI所寫，幾年之后呢？一方面AI的寫作能力還會提高，另一方面讀者習慣了它的風格，到時候寫作者也有意無意地學習了AI的寫法，于是人類的語言在AI的調教下合一，《國王與抒情詩》中國王所設想的“永生”將初步完成，只欠“意識晶體”的植入。

將近一百年前，海德格爾對打字機憂心忡忡，說這個東西會讓人類失去筆跡，用統一的字體、統一的媒介交流，最終統一劫持人類的思想。海德格爾從打字機隱約看到了今天的鍵盤、電腦、手機、互聯網，還有幫忙選詞的寫作輔助軟件，以及根據要求生成“作品”的GPT、Kimi等AI工具。

人類的意識注定被“劫持”，人類AI化的進程不可逆，這也許不是壞事，AI化至少拉高了人類的下限，讓社會更有秩序，控制碳排放、核戰爭等末日難題也許要深度AI化才能實際解決。

我們所能做的只有盡可能清醒，而文學就是最好的提神藥物，因為文學可以讓人保持語言這一感覺器官的敏銳，不與AI的簡化語言合一，不讓意識成為信息。

【作者簡介】

吳可彥，福建漳州人，出版有長篇小說《星期八》《盲校》《復合世界》等十部作品，獲第三、第四屆福建省中長篇小說獎，中國作家協會會員。