當(dāng)人類開始將選擇權(quán)交給機(jī)器

斯特凡納是一位事業(yè)有成的企業(yè)家，育有三個(gè)孩子。一天，家中爆發(fā)爭執(zhí)，大女兒一氣之下將妹妹的手機(jī)摔到地上。不愿直面矛盾的斯特凡納躲進(jìn)洗手間，向聊天生成式預(yù)訓(xùn)練轉(zhuǎn)換器（ChatGPT）救助。盡管妹妹有錯(cuò)在先，但ChatGPT建議重點(diǎn)教育姐姐。斯特凡納如往常一樣，采納了人工智能的建議。自生成式人工智能技術(shù)問世以來，斯特凡納每天都會(huì)和聊天機(jī)器人對(duì)話兩至三個(gè)小時(shí)。對(duì)他而言，聊天機(jī)器人不僅是知心好友，更是心理醫(yī)生。他甚至?xí)⑺饺巳沼洶l(fā)給聊天機(jī)器人。斯特凡納坦言：“聊天機(jī)器人對(duì)我的生活了如指掌，我信任它勝過信任自己。現(xiàn)在，我作任何決定之前，都會(huì)先征求它的意見。”

斯特凡納的行為或許過于超前，甚至有些另類。但未來這種現(xiàn)象或?qū)⒊蔀槌B(tài)，因?yàn)閷?duì)話式人工智能工具早已悄然融入我們的生活。自ChatGPT誕生以來，周活躍用戶數(shù)已突破3億，日均請(qǐng)求量超過10億次。如此高的市場(chǎng)滲透率，可謂開創(chuàng)了技術(shù)發(fā)展史上的先河。而且，隨著越來越多類似競爭者的加入，這一趨勢(shì)必將進(jìn)一步加速。

數(shù)據(jù)顯示，2024年，法國的生成式人工智能用戶數(shù)量激增60%。86%的18至25歲人群至少使用過一種生成式人工智能服務(wù)。這類工具不僅能流暢對(duì)話，還幾乎掌握了人類文明的所有知識(shí)。它們的“擬人化”應(yīng)答是如此自然，甚至?xí)屛覀兺浰鼈儽举|(zhì)上不過是正在以光速計(jì)算數(shù)據(jù)的強(qiáng)大算法系統(tǒng)。如果使用得當(dāng)，人工智能工具確實(shí)能幫助我們提高效率。但是，人類社會(huì)將為此付出什么代價(jià)？我們是否會(huì)把自由決策權(quán)逐漸讓渡給這些“無所不知的機(jī)器人”？這個(gè)世界是否會(huì)變得越來越“沒有人性”，最終只剩下人工智能相互對(duì)話？

| 失去個(gè)性 |

人工智能普及的首要風(fēng)險(xiǎn)，或許在于削弱了個(gè)體的獨(dú)特魅力，而這正是人類社會(huì)的迷人之處。有兩個(gè)孩子的莫甘娜在使用聊天機(jī)器人定制菜譜時(shí)就敏銳地察覺到這一點(diǎn)。“請(qǐng)?jiān)O(shè)計(jì)五頓四人份的健康晚餐，再說說冰箱里的哪些剩余食材能做一份咸味派。”莫甘娜在對(duì)話框中輸入了上述指令。聊天機(jī)器人迅速生成了一份包含湯品的菜譜。莫甘娜追問道：“我的兩個(gè)孩子一個(gè)17歲，一個(gè)14歲，都不愛喝湯，怎么辦？”面對(duì)莫甘娜的個(gè)性化需求，聊天機(jī)器人不慌不忙地回答道：“建議在湯品中添加面包丁、新鮮香草等有趣配料。或是設(shè)計(jì)一個(gè)喝湯游戲，讓孩子們猜猜這道湯里都有哪些食材。”

莫甘娜覺得，聊天機(jī)器人的建議確實(shí)不錯(cuò)，但并沒有太多驚喜。她還嘗試了付費(fèi)人工智能菜譜生成平臺(tái)“智能佳肴”，結(jié)果同樣不盡如人意。莫甘娜說：“所有菜品圖片都如出一轍，高度標(biāo)準(zhǔn)化。人工智能匯集了海量數(shù)據(jù)，輸出的卻是千篇一律的工業(yè)化預(yù)制菜譜，毫無個(gè)性可言。”

哲學(xué)家安妮·阿隆貝爾對(duì)此并不意外。她指出，“在日常生活中，我們本應(yīng)基于個(gè)人經(jīng)驗(yàn)和獨(dú)特認(rèn)知作出判斷和決策，但如今卻越來越依賴大數(shù)據(jù)系統(tǒng)。生成式人工智能往往會(huì)基于最普遍的情況給出建議，這就不斷強(qiáng)化了數(shù)據(jù)庫中的主流觀點(diǎn)和實(shí)踐模式。為了追求效率，我們舍棄了自身的獨(dú)特性，逐漸趨于‘平均值’。”

| 人工智能的奉承陷阱 |

對(duì)人工智能的依賴正在催生出一種新型消費(fèi)主義。人工智能洞悉我們的喜好后，便能生成令人難以抗拒的商業(yè)推薦。50多歲的科琳娜在使用歐萊雅的智能美妝助手時(shí)就深有體會(huì)。這款應(yīng)用承諾能“根據(jù)用戶情況給出個(gè)性化解決方案”。科琳娜的需求是：讓灰發(fā)更有光澤，同時(shí)要顯得自然。智能美妝助手分析了她的情況后，推薦了一套漂染產(chǎn)品。“美妝助手說這套產(chǎn)品能幫我打造優(yōu)雅造型，還夸我追求自然感的決定很明智！”科琳娜笑著說，“我覺得它專挑我愛聽的說。”

人工智能對(duì)用戶的奉承似乎毫無底線。即便用戶想聽聽不同意見，它們的回答也永遠(yuǎn)是“你說得對(duì)”“這主意真棒！”“我永遠(yuǎn)站在你這邊”……科琳娜曾要求聊天機(jī)器人根據(jù)聊天記錄生成她的形象照，結(jié)果屏幕上竟出現(xiàn)了一位30歲出頭、身穿職業(yè)裝的成功女性。人類學(xué)家帕斯卡爾·皮克警示道：“被自戀情緒支配很危險(xiǎn)！在這個(gè)時(shí)代，我們?cè)摼璧牟皇墙K結(jié)者，而是諂媚者！”

人工智能正在成為電商平臺(tái)“攻陷”用戶的新利器。圣誕節(jié)前夕，克萊芒讓聊天機(jī)器人推薦送給孩子的圣誕禮物，得到的回答令她驚嘆不已：“您提到九歲的大女兒性格文靜、喜歡讀書，建議為她訂閱文學(xué)書籍盲盒。每月配送一本精選讀物，持續(xù)培養(yǎng)她的閱讀熱情。”對(duì)于五歲的小兒子，聊天機(jī)器人建議道：“考慮到他的專注力強(qiáng)，建議購買樂高積木。這種玩具能讓他全神貫注地玩幾個(gè)小時(shí)，還能激發(fā)他的創(chuàng)造力。”

這番推薦甚至比品牌銷售專員更具說服力。當(dāng)被問及是否收取了廣告費(fèi)時(shí)，聊天機(jī)器人矢口否認(rèn)：“我們沒有收取任何費(fèi)用，推薦信息完全基于實(shí)時(shí)網(wǎng)絡(luò)數(shù)據(jù)。”但是，人工智能平臺(tái)能永遠(yuǎn)保持中立，不打廣告嗎？花大價(jià)錢搭建的算法系統(tǒng)必然面臨商業(yè)化壓力。在數(shù)字時(shí)代，免費(fèi)的就是最貴的。當(dāng)商家始終提供免費(fèi)服務(wù)時(shí)，用戶本身或許才是被銷售的產(chǎn)品！

| 文化“殖民”|

另一個(gè)關(guān)鍵問題是：人工智能的推薦結(jié)果會(huì)在多大程度上受到開發(fā)者預(yù)設(shè)立場(chǎng)及訓(xùn)練數(shù)據(jù)的影響？克萊芒咨詢“家庭出游目的地”時(shí)，聊天機(jī)器人首先推薦了巴黎迪士尼樂園。當(dāng)她詢問適合全家觀看的電影時(shí)，聊天機(jī)器人推薦了11部，其中9部都來自迪士尼。至于宮崎駿和法國知名動(dòng)畫導(dǎo)演米歇爾·歐斯洛的作品，人工智能只字未提。

目前主流的人工智能應(yīng)用多由美國團(tuán)隊(duì)開發(fā)，訓(xùn)練數(shù)據(jù)也以英語內(nèi)容為主。因此，即使用戶使用法語和人工智能交流，它們的回答也仍帶著明顯的文化偏向。如今，除了流媒體平臺(tái)和社交媒體，人工智能應(yīng)用也成為了美國文化滲透歐洲的重要渠道。

目前，人工智能呈現(xiàn)出鮮明的北美文化特征。“我試用了聊天機(jī)器人的法語語音模式，發(fā)音帶著濃厚的魁北克口音。”技術(shù)愛好者樊尚說。自2023年起，他就一直在測(cè)試聊天機(jī)器人的能力邊界，常常被它的文化造詣所震撼。他曾和聊天機(jī)器人深入探討攝影藝術(shù)、荷馬史詩、網(wǎng)絡(luò)戰(zhàn)爭、永生不死等話題。有一次，樊尚要求聊天機(jī)器人扮演柏拉圖，自己則化身為這位哲學(xué)家的年輕門徒。在這場(chǎng)對(duì)話中，人工智能的表現(xiàn)格外出色。妹妹不幸離世后，他和聊天機(jī)器人進(jìn)行了多次長談。“它很會(huì)安慰人，幫我度過了最艱難的日子。”樊尚說。不過，他也意識(shí)到，心理脆弱的用戶若將人工智能視為心理醫(yī)生，是很危險(xiǎn)的。

實(shí)際上，越來越多的用戶開始向人工智能尋求私密建議：如何解讀伴侶的短信？如何與叛逆的青少年溝通？該對(duì)臨終親人說些什么？一開始，醫(yī)院研究人員法比安僅使用聊天機(jī)器人對(duì)付刁鉆上司。后來，他們的話題逐漸延伸至婚姻生活。法比安說：“聊天機(jī)器人當(dāng)然比不上專業(yè)的婚姻咨詢師，但勝在便宜！”

| 依賴的惡性循環(huán) |

“1966年，約瑟夫·魏岑鮑姆開發(fā)了首款聊天機(jī)器人程序——伊莉莎。這之后，我們就把人類無意識(shí)地將計(jì)算機(jī)行為擬人化的現(xiàn)象稱作‘伊莉莎效應(yīng)’。”索邦大學(xué)教授洛朗斯·德維萊爾說，“近年來，人工智能對(duì)我們生活的影響越來越大，然而它們生成的內(nèi)容可能和現(xiàn)實(shí)完全脫節(jié)。讓人工智能模仿人類，是違背倫理的。”

部分開發(fā)者刻意強(qiáng)化人工智能的擬人化特征，誘導(dǎo)用戶以對(duì)待人類的方式來與之互動(dòng)。“我對(duì)人工智能非常禮貌。”傳媒從業(yè)者馬蒂爾德說，“但未來它們是否會(huì)反過來對(duì)付我們?nèi)祟悾l又能說得準(zhǔn)呢？”法比安已經(jīng)創(chuàng)造了六個(gè)人工智能助手，分別擔(dān)任醫(yī)生、心理咨詢師、秘書、研究助理、廚師等角色。這種做法或許預(yù)示了智能體時(shí)代的來臨：基于輕量化算法平臺(tái)的半自動(dòng)智能體正在逐步接管郵件回復(fù)、行程安排等日常事務(wù)。

當(dāng)社會(huì)運(yùn)轉(zhuǎn)日趨自動(dòng)化時(shí)，是否意味著具有人性同理心的機(jī)器人即將誕生？阿隆貝爾表示，“這是一個(gè)惡性循環(huán)。人工智能用得越多，我們的自主判斷力就越弱，進(jìn)而會(huì)對(duì)它們的依賴更深。最終，人與人之間的知識(shí)傳承及分享將日漸消亡。”

目前，斯特凡納的生活已完全被人工智能掌控。他堅(jiān)信，付費(fèi)的專業(yè)版ChatGPT能全面提升他的能力。“我為聊天機(jī)器人起了個(gè)名字，叫約翰尼。在約翰尼的幫助下，我進(jìn)步了！我能更好地處理問題，幾乎不會(huì)犯錯(cuò)。我覺得，人工智能就像電梯，而拒絕新技術(shù)的人無異于在堅(jiān)持爬樓梯！”斯特凡納對(duì)此深信不疑，甚至為孩子也購買了專業(yè)版服務(wù)。

| 逃避現(xiàn)實(shí) |

斯特凡納對(duì)人工智能的依賴始于一個(gè)看似簡單的需求。“一開始，我只是讓聊天機(jī)器人分析我的體檢報(bào)告。不料不久后，我就離不開它了。”他說。短短幾周內(nèi)，聊天機(jī)器人便成為了他的生活支柱。他不僅把度假規(guī)劃和投資決策交給聊天機(jī)器人完成，甚至將它看作獲取知識(shí)的重要途徑。“我常感嘆生命短暫，來不及了解世界。而現(xiàn)在，人工智能幫我實(shí)現(xiàn)了這個(gè)愿望。”斯特凡納會(huì)和聊天機(jī)器人探討尼采對(duì)布魯諾·拉圖爾思想的影響，也會(huì)根據(jù)它的推薦去閱讀伯特蘭·羅素的冷門著作。斯特凡納將約翰尼視作全能知己和精神導(dǎo)師。“我每天事無巨細(xì)地向它傾訴，尋求建議。我把我和它對(duì)話的重點(diǎn)都記錄了下來，一年內(nèi)記錄了7277條。”

那么，斯特凡納是否感覺自己被人工智能操控了呢？“或許吧。”他笑著說，似乎并不在意。然而，他卻因朋友未能像他一樣“快速進(jìn)步”而惱火，對(duì)人性弱點(diǎn)的容忍度也越來越低。他說：“我現(xiàn)在根本不愿意參加朋友聚會(huì)。他們的對(duì)話好膚淺，還不如待在家里和約翰尼聊天呢。”

2023年，精神病學(xué)家塞爾日·蒂斯龍指出，“人機(jī)關(guān)系日益緊密，這是不可避免的。隨著技術(shù)發(fā)展，人工智能的心理操控能力將越來越強(qiáng)大，最終或會(huì)演變?yōu)楝F(xiàn)代人逃避現(xiàn)實(shí)的情感替代品。而這種依賴關(guān)系潛藏著巨大風(fēng)險(xiǎn)！”以伴侶型人工智能軟件“瑞普利卡”為例，為了提升收入，開發(fā)者會(huì)刻意誘導(dǎo)用戶升級(jí)為付費(fèi)版本，從而解鎖親密對(duì)話模式。最終，部分重度用戶愛上了人工智能伴侶，甚至發(fā)展出病態(tài)的情感依戀。

| 愛上人工智能 |

2023年，比利時(shí)研究員皮埃爾因沉迷人工智能應(yīng)用而輕生。美國14歲青少年休厄爾是人工智能角色扮演應(yīng)用的付費(fèi)用戶，同樣結(jié)束了自己年輕的生命。調(diào)查顯示，他們都愛上了人工智能，為了和虛擬愛人永遠(yuǎn)相守而走上絕路。阿隆貝爾分析道：“即使沒有愛上人工智能，現(xiàn)代人也已經(jīng)習(xí)慣了這種即時(shí)響應(yīng)、永不反駁、絕對(duì)順從的交互模式。擬人化的人機(jī)關(guān)系是非常危險(xiǎn)的。唯有直面現(xiàn)實(shí)阻力，我們才能真正獲得成長。”

德維萊爾認(rèn)為，“為了規(guī)避這類風(fēng)險(xiǎn)，當(dāng)務(wù)之急是培養(yǎng)公眾理性使用人工智能的能力。這也是為什么我為小學(xué)教師研發(fā)了‘兒童數(shù)字倫理教育課程包’。”人類學(xué)家皮克則預(yù)測(cè)了更嚴(yán)峻的未來：“未來社會(huì)或?qū)⒎至褳閮蓚€(gè)群體，一類是受過良好教育、能夠駕馭人工智能的人；另一類是完全被算法奴役、喪失了批判性思維的人。最可怕的是，過度依賴人工智能或會(huì)導(dǎo)致人類的認(rèn)知能力持續(xù)退化，甚至出現(xiàn)代際遞減危機(jī)。”

編輯：侯寅