如何不被AI毀掉

《AI騙局：如何對抗大科技炒作，創造我們想要的未來》

作者：[美] 艾米麗·本德（Emily M. Bender），亞歷克斯·漢娜（Alex Hanna）

出版社：Harper

出版時間：2025年5月

定價：32美元

本書犀利地剖析了AI技術的種種弊端與陷阱，揭穿了其中隱藏的權力與剝削，提供了識別AI炒作的指南。

艾米麗·本德是美國華盛頓大學計算語言學教授，亞歷克斯·漢娜是分布式AI研究所的研究主管。

2025年1月22日，美國總統特朗普宣布，OpenAI、甲骨文和軟銀將成立一家合資企業“星際之門計劃”（StargateProject），計劃未來4年投資5000億美元建設A I相關基礎設施。就在前一天，特朗普撤銷了前任總統拜登簽署的一項旨在減少AI對公眾和國家安全所構成風險的行政令，大幅減少了對于美國AI行業的監管。

“星際之門計劃”是有史以來用于建設技術基礎設施的最大規模投資，相比之下，按2025年的通貨膨脹率計算，阿波羅登月計劃在長達13年間總投資也不過是3 8 0 0億美元。當前的AI行業正在以“誰最不顧及后果，誰就能最先開發出產品”的模式展開惡性競賽。這場競賽在很大程度上是由OpenAI的崛起推動的。OpenAI最初是一家非營利機構，后來轉型為“有限盈利公司”，它在2 0 2 2 年推出的ChatGPT是本輪AI炒作的起點。

然而，AI的大躍進真的帶來了經濟與社會的進步嗎？在美國科技記者郝蕓（Karen H ao）看來，情況并非如此。事實上，當前全球大多數人都比以往面臨更大的經濟和失業壓力，尤其是那些生活在第三世界國家的人群，他們并沒有從AI的發展中得到多少好處，反而成為AI巨頭公司的犧牲 品。

郝蕓在新近出版的《AI帝國：阿爾特曼與他的OpenAI的夢想與噩夢》一書中指出，當今AI巨頭公司的運作模式類似于殖民帝國。正如殖民者通過掠奪殖民地以支撐自身擴張，AI巨頭公司也是通過踐踏邊緣群體來實現自身目標。

例如，訓練大型語言模型需要巨量的電力和水資源，從而導致巨大的碳排放。按照目前AI基礎設施擴張的速度，未來5年需要投入的能源相當于加州每年能源消耗的2到6倍，而這些能源大部分將依賴化石燃料。

從水資源的角度看，AI的數據中心必須使用凈化過的淡水冷卻，不能使用其他類型的水，因為那樣會腐蝕設備，導致細菌滋生。大多數情況下，這類淡水直接取自公共飲用水供應系統。更有甚者，在全球范圍內，這類數據中心有2/3選址在缺水地區，這意味著原本就供水緊張的當地社區會更加缺水。

AI行業需要從互聯網上抓取海量數據來訓練，但是不能直接把這些數據輸入模型，因為數據中有很多“污染物”，需要清理和標注。當OpenAI開始考慮將產品商業化，把“能夠生成各種文本的機器”交到數百萬用戶手中的時候，他們在肯尼亞通過中介公司雇用合同工來提供這類數據清理和標注服務。這些肯尼亞工人需要閱讀網絡上最惡劣的文本內容，以及Open A I自己的模型模擬網絡上最惡劣的文本所生成的內容，然后詳細分類，比如“這是色情內容嗎？這是暴力內容嗎？暴力內容有多血腥？”，以此來訓練過濾器識別各種需要屏蔽的內容類型。這些工人每小時的工資只有幾美元，卻在工作中承受了巨大的心理創傷，甚至面臨人格四分五裂的風 險。

殖民帝國維持自身存在的一大法寶，就是不斷地操縱事實、操控科學，使自己得以持續。當今的AI帝國也是如此。對于AI技術，公眾連最基本的事情都不了解，不知道它們使用了多少能源、排放了多少碳，甚至連數據中心建在哪里往往都無從得知。公眾無法知道AI的算法和數據中究竟隱藏了多少歧視，但是它們已經開始被學校用于教學、被醫院用于醫療決策。令人震驚的是，公眾對這種狀況居然已經習以為常。郝蕓在書中強調：我們不應該接受這樣的狀況。

郝蕓的呼聲并不孤單，而是代表了許多深諳AI行業內幕的有識之士的共識和期望。幾乎就在她的新書出版的同時，兩位資深的AI批評者—也是播客《AI騙局懸疑劇場3000》的共同主持人—本德（Emily M. Bender）與漢娜（A lex Ha nna）出版了《A I騙局：如何對抗大科技炒作，創造我們想要的未來》一書，犀利地剖析了AI技術的種種弊端與陷阱，揭穿了其中隱藏的權力與剝削，提供了識別AI炒作的指南。

兩位作者指出，全球社會如今正處在一輪火熱的AI炒作周期中。所謂“炒作”就是對某項技術過度吹捧，使人深信非買不可、非投資不可。許多AI領袖關于未來的論調，其實是借用了科幻作品中的常見套路—無論是熱衷于AI的鼓吹者，還是那些擔憂AI潛在危害的“末日論者”，他們所描繪的未來場景幾乎都來自科幻小說。前者幻想一個由AI驅動的美好未來，后者則哀嘆一個AI接管世界、毀滅人類的末日。

這兩種看似對立的觀點，實則有一個共同信念：一個由遠超人類智慧的AI主導的未來終將到來。在此基礎上，就會不斷有人宣稱，某項技術是通往這個未來的關鍵一步。這一切其實都是市場營銷。

事實上，AI是一個營銷術語，并不指代一套統一的技術體系。有些AI技術確實非常有效，例如能幫助放射科醫生處理圖像。但是，還有許多AI技術是被嚴重夸大的。當前被熱捧的大語言模型就是一個典型例子。兩位作者指出，這類模型，比如ChatGPT，其實質是“合成文本擠出機器”。就像工業塑料加工一樣，龐大的文本數據庫通過復雜的機械流程，生成貌似有交流意義的語言產品，但背后并沒有任何意圖或思維主體。那些能生成圖像和音樂的生成式AI模型也是如此。

數據盜用是大語言模型和文本生成圖像模型的原罪，這些模型堪稱巨大的剽竊機器，會徹頭徹尾地抄襲它們的輸入內容，目前已有多起關于AI侵犯版權的訴訟。更嚴重的是數據污染，訓練數據本該經過精心篩選，但是現實中的AI公司幾乎把互聯網上所有能搜刮的內容都抓了下來。

隨著AI的普及，如今的網絡搜索結果常常首先顯示AI生成的摘要，這會削弱用戶的批判性思維—過去用戶必須瀏覽一系列鏈接，了解有哪些信息來源，這有助于建立對信息環境的整體理解。更不用說，ChatGPT經常編造虛假的引用來源。

勞動剝削則是AI的深層次問題。兩位作者指出，AI也許不會直接搶走你的工作，但它一定會讓你的工作變得更糟。AI經常被包裝為效率工具，實際卻是用黑箱機器取代有資質的工人，然后還需要大量收入微薄的外包或零工人員來照看這些機器。換言之，積極使用AI的公司常常會把正式員工裁掉，再雇用零工來從事相關工作任務。在引入AI的工作場所里，人們要么變成了AI看護者，需要隨時照看AI程序；要么得繞過它們才能完成任務。AI總體上并沒有帶來真正顯著的生產力提升，即使某些地方有所提升，也是因為工具引入了更多新任務，背后則依靠大量的人工勞動維持。

IBM公司曾經有一句著名的箴言：“計算機永遠不應被追責，因此計算機絕不應該作出管理決策?！比欢?，時至今日，一些技術精英和權力精英極力主張將決策交給AI，這意味著他們本人無須為后果承擔責任。在資本和輿論熱炒AI的大環境下，不少公眾被灌輸了如下觀念：“AI很聰明，一定會作出公平、客觀的決定，因為它是在電腦里運算?！?/p>

在美國，無論是私營部門還是公共部門，現在越來越流行把治理責任“外包”給自動化系統。一個典型例證就是曾由馬斯克主導的DOGE，其全稱是“Digitization of GovernmentEnt erpri se”，即“政府職能數據化”，它試圖將美國聯邦政府服務的各個方面代碼化，從而繞過原來的民主治理程序。

隨著AI從創新變成基礎設施，全球既得利益階層將更容易集中財富，鞏固既有權力與地位。而普通人將承受更大的經濟和失業壓力，邊緣群體將更加脆弱；真相也將更容易被虛假信息遮蔽。

如何不被AI毀掉，成了全球社會迫在眉睫的問題。對此，兩位作者給出了富有啟發的回答。

首先，應當警惕將AI“擬人化”。所謂“擬人化”，意指賦予無生命的物體人類獨有的特征和品質。AI公司宣稱自己推出的聊天機器人“會看”“會思考”就是“擬人化”的典型案例。事實上，聊天機器人并不具備“看”或“思考”的能力。

AI公司之所以選擇以“擬人化”的方式推銷產品，是因為我們天生會假設語言的背后有一個說話者，一個“心智主體”。我們在理解語言時，不僅僅依賴字面意義，也會通過對說話者的認知賦予語言意義。所以，我們在面對像C h a tGP T這類大語言模型所生成的文本時，也會不自覺地這么做。但實際上，大語言模型并不會真正理解任何一個概念在其社會、文化、政治語境下的含義，它們只是在做“模式匹配”，這是一種思考的幻 象。

在破除了“擬人化”的幻象之后，正確的做法是不把AI叫作“AI”（人工智能），因為這個詞會讓問題變得模糊，而是應該把AI當作“自動化”來看待，然后追問：到底自動化了什么？輸入是什么？輸出是什么？能夠利用輸入得到合理的輸出嗎？

例如，如果輸入是音頻錄音，輸出是文字轉錄，從輸入到輸出的轉換就是合理的，錄音所包含的信息足以生成準確的轉錄文本。但是，如果有人聲稱他們的AI產品能夠通過照片判斷一個人是不是罪犯，這顯然是不可能的。因為“罪犯”是一個社會類別，不是人的固有屬性，更不可能從面相就看出來。

對于類似這樣的AI產品，就應當追問：這個產品是怎么構建的？模型的訓練數據是怎么得來的？訓練數據是否代表了用戶預期使用場景的真實情況？更關鍵的是，它是如何被評估的？評估結果是否符合用戶的使用需 求？

更進一步，為什么要把“判斷一個人是不是罪犯”這件事自動化？誰會從中受益？誰可能受到傷害？對于受害者來說，有沒有申訴手段和補救措施？這些問題與AI產品所采用的具體技術手段無關，而是與AI周邊的生態系統和社會機制有關，任何人都有權追問。如果得不到合理的答案，那么就有充分理由拒絕這類AI產品。

令人遺憾的是，在當今這個熱炒AI的時代，這些本應不可或缺的追問，幾乎總是被忽視。

2025年1月特朗普重返白宮之后，馬斯克主導的DOGE一度大權在握，推行了一系列激進改革，鼓吹政治透明即算法透明，宣揚AI算法的“非人化”能夠帶來客觀、公平的治理結構，試圖建立一種“算法治理”與“去官僚化”的技術統治。

DOGE在掌握實權的大約130天里給美國社會造成了巨大破壞。大量公務員系統癱瘓，傳統政府機構行政失能；算法偏見導致弱勢群體遭到系統性排除，例如AI拒絕為“低信用人群”分配醫療資源；“效率”驅動的等級制度加劇了貧富分化，數字鴻溝擴大，社會進一步分裂；大量治理決策無人負責，公信力崩塌。

馬斯克在權傾一時后迅速淡出權力中心，深刻揭示了DOGE所倡導的“算法治理”模式的失敗，也為世人敲響了警惕AI的破壞性潛能的警鐘。那種在AI熱潮中被反復灌輸的“必須緊跟AI潮流”的思維，正一步步顯現其誤導性與操控性。唯有理性對抗資本和技術巨頭的AI炒作，才能避免走向一個艱難而黯淡的未來。

解讀／延伸閱讀

《AI帝國：阿爾特曼與他的OpenAI的夢想與噩夢》

作者：[美] 郝蕓（Karen Hao）

出版社：Penguin Press

《輕率之人：一則關于權力、貪婪與理想迷失的警示寓言》

作者：[美] 薩拉·懷恩-威廉姆斯（Sarah Wynn-Williams）

出版社：Flatiron Books

本書披露了“Facebook”令人震驚的內幕，表達了對社交平臺深刻而毫不留情的審視。