機器與人：人類能控制新科技發展嗎？

劉永謀

不管人機關系的“友好論”、“敵對論”和“控制論”，還是技術自主性爭論中的“工具論”、“實體論”和“設計論”，這些爭論都是沒有科學意義上對錯的哲學觀念，其背后有意義、有價值的問題是：人類要不要控制技術，如何才能控制住技術。

在我看來，我們生活的時代，與其說是科學時代，不如說是技術時代。也就是說，如今技術不再需要借助科學支撐自身的合理性，從“真理的陰影”下掙脫出來，我稱之為“技術的反叛”?？梢哉f，技術與科學在知識上開始“平起平坐”，在社會重要性上已經超過科學。

“技術的反叛”，是不是意味著技術失控呢？很多人擔心，技術發展將失去控制，或者說已經失去控制。關于這個問題，可以從人機關系、人機分工開始討論。

機器

現在的人一講起“機器”，總是想到“鋼鐵怪獸”，典型意象比如電影《掠食城市》中的移動鋼鐵城市。其實，在工業革命之前，機器早已經出現。

機器的英文machine起源于希臘語，后來進入拉丁語，時間很久遠。最初的意思是：引擎，詭計、狡黠。如果再往前追溯，可能與英文may有關，意思是“去擁有力量”。在古代漢語中，“機”和“器”是單獨的兩個字，“機器”不合在一起用。并且，“機”“器”兩個字多少有些貶低的意思。

《莊子》里有則寓言，說有個老人用罐子從井里取水澆菜地，孔夫子的學生子貢看到了，問他為什么不造個木頭機械取水，一次次抱著罐子取水太辛苦。結果這個老先生是個高人，說了一句：“有機械者必有機事，有機事者必有機心”，鄙視了子貢。大家知道“心機”“心機婊”的說法，所以“機”在漢語中也有狡黠的貶義。而“器”在古代是被輕視的?！兑捉洝分姓f“形而上者謂之道，形而下者謂之器”，意思是道才高級，器都是上不了臺面的。儒家有種說法“君子不器”，意思是咱們君子/貴族是不搞那些低級的、工匠搞的事情的。

1856年左右，英國傳教士將machine翻譯成“機器”，漢語中才有了“機器”的說法。

顯然，“機器”一詞的意思，隨著真實機器的進化不斷地變化。一個關鍵的變化是，機器從古代的手工操作的工具，變成了現在非手工操作的工具，尤其是最近幾十年出現了自動化工具和智能機器。

還有一個重要的變化是：機器開始跨越無機-有機、生命-非生命的界限。古代機器主要是無機物的，石頭的、鐵的、玻璃的，也有一些木頭的，木頭是有機物，后來橡膠、塑料、合成纖維制造的機器越來越多，這些也屬于有機物。最近出現了一些安裝在生物體中的機器，比如心臟起搏器，也就是說，機器正在跨越有生命界限。

馬克思是研究機器的大師。他認為，所有發達機器都是由3個本質上不同部分組成：發動機、傳動機、工作機（工具機）。不過馬克思時代距今快200年了，機器形態和功能發生了巨大變化，現在的計算機和機器人中增加了控制機，即計算機控制系統。

此外，人們還在隱喻的意義上使用“機器”一詞，比如國家機器、社會機器，這是把國家、社會類比成精密運轉的機器。

技術哲學家劉易斯·芒福德有個“巨機器”的概念，用來說明現代社會帶有某種機器屬性。巨機器就是大機器，最早是建造金字塔的國王發明的，包括破壞性的軍事機器和建設性的勞動機器。巨機器組織大量人財物力來完成某項浩大工程，如建金字塔、修長城。

我們還常常說軍隊是機器，意思是軍隊要令行禁止，說某個公司是機器，意思是效率很高但沒有人情味。從這個意義上說，今天“機器”這個詞還是有某種貶義，與“人性”這個詞多少有些相對。

人看機器

既然機器的歷史久遠，人與機器的關系當然也歷史久遠。但是，“機器問題”成為思想家認真討論的話題，卻是現代以來尤其是工業革命以來的事情。

1829年，歷史學家托馬斯·卡萊爾提出，19世紀20年代英國進入“機器時代”。既然時代成了機器時代，社會成了機器社會，人機關系就應該成為思想家思考的核心問題。

一開始，西方思想家對機器的態度就是愛恨交加的。我們可以舉機械鐘表為例。

一些人認為，機械鐘表的發明極大改變了社會生活。有了機械鐘表，時間就標準化了，社會活動比如上班下班變得很精確。以前說“日出而作，日落而息”，作息都是大概的。有了機械鐘表，才有了所謂的時間觀念，時間觀念現在已經成為現代人的基本素質。因此，機械鐘表的出現對資本主義的興起和科技進步，有正面促進作用。

另外一些人關注的重點是：機械鐘表使得人類受到時間的束縛。時間就是金錢，每個人都要像鐘表一樣精確。尤其對于勞動人民，鐘表時間背后的紀律，讓生活變得越來越緊張：“人生可以歸結為一種簡單的選擇：不是忙著死，就是忙著活”——這是經典影片《肖申克的救贖》中的經典臺詞。

中國古代思想家，對機器基本上是輕視的，斥之為“奇技淫巧”。很多人認為，對機器的輕視阻礙了中國科技的發展。1793年，英國馬嘎爾尼使團訪問清朝，給乾隆皇帝送了幾百箱禮物，其中有英國最新發明的蒸汽機、織布機等，結果中國人不感興趣。1816年，英國使團再次訪問，就不帶什么機器和科學儀器了。

思想家態度如此，普通老百姓更是覺得現代機器太過復雜，難于理解，因而容易產生抵觸、拒絕甚至破壞的舉動。

1811年至1813年間，一些英國工人覺得機器讓他們失業，于是就組織起來破壞工廠的機器，這些人就被稱為盧德主義者。后來盧德主義就被用來指稱在老百姓當中流行的、激進的反對機器、反對科技的思想。

馬克思批評了盧德主義者，認為問題的根源不在于機器，而在于“機器的資本主義運用”。也就是說，資產階級掌握了機器，用它來壓迫無產階級。如果仔細想一想，即使是在智能機器、智能平臺的新時代，馬克思的分析也并不過時。

可能有人會覺得，都21世紀了，盧德主義者應該很少了。這種想法不對，實際上，盧德主義者還是挺多的，1990年，還有人提出了《走向新盧德主義宣言》。此次新冠肺炎疫情，大家應該感受到極端反對機器、反對科技的人還是不少的。

人機關系

人與機器之間究竟是什么關系呢？看法不少，常見的有三種：“友好論”、“敵對論”和“協同論”。

“友好論”認為，機器有益人類生存，人類也要愛護機器，大家相親相愛。

“敵對論”認為，機器危害人類生存，人類要提防機器，人機是對抗關系。

顯然，友好論者解釋不了：機器人正在擠掉我們的工作，怎么還能說相親相愛呢？而敵對論者也做不到：干脆不用機器了，干脆回到原始社會去。

現在越來越多的人提倡“協同論”，認為人與機器是協同進化的，和生物圈中的不同物種一樣，在相互適應、相互影響中共同向前發展。我認為，人機協同進化論很有道理，但這是一種“上帝視角”或“宇宙視角”，站在非常超脫的位置看人機關系。因此，我對協同論并不完全贊同。

為什么？如果人與機器必然是協同進化的，但是協同進化的最終結果也可能是人類滅絕。換言之，按照協同論思想行動，并不能保證人族的利益。因此，我認為，有意義、有價值的是人類視角，也就是說應該思考：在人機協同進化中，人類應該如何選擇應對方案，以確保人族福祉。

從某種意義上說，AI出現讓人類面對“新無知之幕”，即不知道人機協同進化的最終結果而要做出選擇。政治哲學中講的“無知之幕”，粗略說是有關國家如何建構的：大家聚在一起商量建成一個國家，結束人與人之間野蠻暴力狀態，但是每個人都不知道在建成國家后自己將處于哪一個階層、哪一種角色，在這種對未來無知狀態中來討論應該如何安排新國家的社會制度。你想，你可能是社會中最弱勢的群體，你會不會考慮給窮人提供必要的制度保障和救濟措施？肯定會。我所謂的“新無知之幕”是一個隱喻：我們要在盲人摸象中應對未來，要與擬主體、能力超強的AI共同的生活。

“新無知之幕”可能不管是在AI語境中，還是在其他新科技比如人類增強等語境中，我們也要面對。因此，不管結果如何，我支持對新科技發展想方設法進行控制，不能任由它隨意發展，這是我所謂“技術控制論”的主旨。

除此之外，還有一種看起來另類，但實際上我比較贊同的觀點，即我所稱的“賽博格論”，即：人與機器并不是二元對立的，隨著賽博格的出現，人與機器之間的界限會逐漸模糊甚至消解，屆時人與機器的關系就成為賽博格與賽博格的關系問題。

歷史上，就有極端思想家認為人是機器。比如說，心臟就是提供動力的鍋爐或水泵，肺是通風的風箱，血管是身體中的管道。有個哲學家朱利安·拉美特利就寫了本書，名字就是《人是機器》。控制論先驅諾伯特·維納比較機器與人的神經系統，認為兩者有相似性：它們都是在過去已經做出的決定的基礎上來做決定的裝置。

最近，腦機接口技術飛速發展，人今后腦袋后面可能有接口通計算機，而機器人飛速發展，機器人今后會越來越像人。繼續發展下去，一百年后還如何堅持人與機器二分的傳統觀點呢？我覺得不能。按照拉圖爾的觀點，大家都是網絡中的行動者，包括各種人類、賽博格，也包括機器、動物、植物等非人類，都是平等的、對話的、協商的關系。

按照科幻電影《終結者》的想象，假設一百年后“天網”下令滅絕人類，一個前提性的問題就是：它得搞清楚哪些是人，而哪些是機器。顯然，這個問題是沒有辦法完全精確回答的。人面獸心的人是不是人，裝上心臟起搏器的人是不是人，安裝了機器手臂的人是不是人，日本漫畫《攻殼機動隊》的女主角除了大腦以外身體其他部分都是機器，她還是不是人，電影《黑客帝國》里面腦機接口的人還是不是人？

在賽博格社會中，還能區分人與機器？不能。人是什么？幾千年來哲學家都沒有說清楚，電影《終結者》中的“天網”也不可能搞清楚。為什么？在我看來，人就是不確定性本身。

人機之分，人機之防，背后有強烈的價值觀支撐，即：人不是機器，人不能被當作機器對待。機器人不斷發展之后，問題不僅是人不能被當作機器對待，而且是機器人也不能被當作機器對待。對不對？現在已經有人在講機器人的權利了。

技術控制的選擇論

有些人可能說，如果協同進化的結果是人類滅絕，為什么不安然接受呢？“上帝讓我死，我死好了?！边@是典型的消極宿命論的觀點。對此我無法接受。

這種觀點傾向于技術哲學上所謂的“技術自主性”的立場，也就是說，技術雖然是人類發明出來的，但它具有某種擬人的自主性，并非完全聽命于人類的。

技術是否有自主性？爭議極大。一般說來，可以將各種觀點主要劃分為兩類，即技術的工具論和技術的實體論。

技術工具論認為，技術僅僅是一種工具，本身沒有善惡，所謂技術的善惡是使用它的人的善惡。比如說，一把菜刀，你可以用來切菜，也可以用來殺人。菜刀殺人了，你不能怪菜刀。

技術實體論認為，技術可不是簡單的工具，而是負載價值的、有善惡的，有自身發展的方向，不以人的意志為轉移。比如說，很多人認為互聯網天然就是反權威、自由的，還有一些人認為區塊鏈必然會推進公開和誠信。

技術實體論容易導致宿命論：如果AI是自主的，它要向善或者向惡，人類如何可能左右它？因此，實體論往往與“技術失控論”相聯系，即技術發展必然或者已經失去控制。

當然，有些哲學家嘗試提出調和工具論和實體論的觀點，比如 “技術設計論”。該觀點認為技術發展是協調技術要素和社會要素的結果。比如自行車，小時候它主要是載物載人的，要有車筐、有后座;現在很多人拿它來鍛煉身體或者遠足騎行，要很漂亮，能跑上坡;現在的共享單車，要解決“最后一公里交通”問題，非常簡單，能省就省。這些自行車技術要素上大同小異，區別就在于融合的社會要素不一樣。

我怎么看技術自主性的爭論呢？

第一，越來越多的人從工具論轉向實體論，是技術發展越來越復雜的結果。當技術相對簡單，人們比較容易相信工具論。而當技術變得越來越復雜，人們比較容易相信實體論。大家看，工具論舉的例是菜刀，實體論舉例是互聯網、區塊鏈。

第二，自主性爭論根源于人機關系思考。前面已經分析了人機關系，無論采取哪種觀點，人類都要設法確保人族福祉。我主張技術控制論，反對技術失控論。

第三，工具論、實體論和設計論，都是哲學觀念，而并非自然科學意義上的客觀理論，也就是說，你不能說在科學意義上哪一個對或哪一個就錯了?？茖W上說一瓶礦泉水是500克，是可以用稱稱量出來的。哲學觀念是不能用實驗或觀察來檢驗、證實或證偽的。

同樣，上面討論的友好論、敵對論和控制論，也都是沒有科學意義上對錯的哲學觀念。因此，自主性爭論也好，人機關系爭論也好，背后有意義、有價值的問題是：人類要不要控制技術，如何才能控制住技術。顯然，這是個行動問題，它的答案不應該從技術中尋找，而在于人類必須選擇行動起來，想辦法控制技術的發展。

第一，我們有沒有決心和勇氣控制技術的發展？第二，更重要的是，為控制技術，我們愿意付出何種代價甚至犧牲呢？比如，手機游戲很賺錢，但有些導致青少年沉迷，那國家和社會就得選擇放棄一部分游戲紅利。

我的想法可以稱之為“技術控制的選擇論”。

技術失控論批判

顯然，我不同意技術失控論，也不喜歡技術實體論。

蘭登·溫納是技術失控論的代表人物。在《自主性技術》一書中，他講了一則故事，來表達悲觀乃至絕望的情緒。

1914年8月1日，戰爭迫在眉睫，俄國對德國最后的戰爭通牒置之不理。沒有辦法，德皇威廉宣布全國總動員，啟動施利芬計劃。但很快皇帝后悔了，希望由英國外交斡旋，于是他召來參謀長，要停止戰爭計劃?？墒?，將軍告訴德皇，施利芬計劃不可能被停止：“一經確定，它就無法被更改。”于是第一次世界大戰爆發。

在溫納眼中，各種各樣的技術系統都是施利芬計劃，啟動之后變成脫韁野馬，必然由著自己的“性子”向前飛奔，最終把人類社會“拖”散、“拖”垮、“拖”得“稀巴爛”。

既然人類的悲劇已經注定，怎么掙扎都是徒勞，那我們就混吃等死好了。可溫納卻主張所謂的“認識論的盧德主義”，也就是說，在思想上時刻反對技術，但行動上卻不要像盧德主義者一樣去砸機器、砸實驗室，而采取更溫和的辦法，比如對技術“脫癮”，堅決不用手機就是一種脫癮辦法。

顯然，溫納在這里自相矛盾了：技術自主發展，不以人的意志為轉移，不用手機也改變不了人類的悲劇。對不對？更重要的是，他對技術實體論的論證根本站不住腳。

比如，溫納有個紐約長島摩西立交橋例子。摩西是公共基礎設施承建商，20世紀60、70年代在紐約建造過許多立交橋。他的傳記作者指出，他造橋有社會偏見和種族歧視。摩西的立交橋不讓12英尺高的公交車通行，而讓小汽車通行。窮人黑人都是坐公交車的，而白人富人才有自己的小汽車。由此，溫納說：“你看，立交橋技術本身是有政治性的，是嫌貧愛富的。”

這個論證完全經不起推敲。我可以說，立交橋技術是價值中立的，而摩西應用它的時候摻雜了政治性的考慮。也就是說，我將技術與技術應用分開，說后者才會嫌貧愛富，而前者不會。對不對？溫納的分析牽強附會，遭到很多人的批評。

長島摩西立交橋的修建，有摩西的主觀意志在里面。溫納又舉另一個西紅柿收割機的例子，認為這個例子沒有人的主觀意志。自從20世紀40年代西紅柿收割機被加州大學研究者發明出來之后，它改變了西紅柿種植方式（比如軟爛的品種被淘汰），小種植場主人數減少了，人工采摘西紅柿的工作消失，等等。溫納認為，西紅柿收割機的發明者并沒有任何“故意”要導致上述結果，所以這里面肯定是技術的“故意”，即技術本身有政治性。

這個論證也經不起推敲。第一，我仍然可以說技術與技術應用是有區別，西紅柿收割機可以設計成可以采摘軟西紅柿的樣式。第二，怎么能確定西紅柿收割機的設計者沒有淘汰采摘工人的“故意”，沒有偏好較硬口味的西紅柿的“故意”呢？不能。第三，任何技術應用都有某些不可預見的后果，西紅柿收割機也是如此，這能不能等同于所謂沒有“故意”呢？也就是說，人沒有故意，技術沒有故意，任何新技術都會有某種后果，為什么一定要判定一個“誰”在“故意”呢？

總之，必須將技術問題歸結為人的問題，才能從主觀能動性的角度鼓勵諸種技術控制的努力，而不是將技術問題歸結為“天命”，消耗人族的勇氣、意志和進取心。

“AI失業問題”

西紅柿收割機發明出來，當然是為了節省人力的，必然會導致采摘工人失業。很顯然，所有成功的機器都會減少人類勞動，導致某個行業的失業問題。

智能革命興起，AI造成的失業較之以往更甚。第一，它造成的沖擊遍及社會各個領域，從掃地機器人、無人駕駛、自動物流到無人超市、智能旅館，等等。第二，它不僅取代體力勞動，還取代腦力勞動。有人會說，有些工作機器人是做不了的。這是說的現在AI做不了，以后機器人能力會不斷增強。即使保守預計，也可以說：全部的體力勞動和絕大部分的腦力工作都將被AI所取代。

從遠景來看，就算人類勞動在智能革命之后不能完全根除，就生產力或GDP的貢獻而言，人類勞動也將局限在可以忽略不計的數量級中，這個問題我稱之為“AI失業問題”。蔡斯稱之為“經濟奇點問題”：由于AI對人類勞動的取代，當大多數人永遠不再工作，“經濟奇點”就到來了。

一些人出來證明，AI導致失業的同時，又創造新的工作機會。在《銷聲匿跡》中，瑪麗·格雷和西達爾特·蘇里注意到，近年來AI應用也催生一些新的零工崗位，比如圖片標注等，可以稱之為“幽靈工作”?？墒牵紫華I創造崗位的數量與造成失業相比并不相當;其次從長遠來看，“自動化的最后一英里悖論”更可能是暫時情況。隨著AI繼續發展，需要人工輔助的情況必將越來越少。

一些人愿意用“AI其實很蠢”“AI根本離不開人”來安慰人類，但我覺得這不是事實。比如正在快速發展的無人駕駛，尤其適合在封閉高速公路上的貨運工作，從長遠看卡車司機面臨失業。這么多卡車司機都能涌向零工平臺嗎？

大多數人包括我在內，都認為AI失業只會愈演愈烈，“經濟奇點”遲早要到來。Robot本意是“機器勞工”，發明機器人就是讓它代替我們勞動的。要不，我們為什么要發明和制造機器人呢？而且，機器人應該任勞任怨，勤勤懇懇，勞動能力遠遠超過人類，而且不需要休息，不怕危險，不要工資，不和人類搶奪資源。在理想愿景中，機器人還是“活雷鋒”，一心為人，為此甚至可以毀滅自己。

因此，AI遲早要取代人類絕大部分的勞動，而這本身就是AI發展的根本性目標。但是，能夠取代并不等于實際取代，這牽涉到人類社會制度的根本性變革?！癆I失業問題”不在于AI，而在于社會制度的進化：新的社會制度不應該建立在強迫人類從事繁重勞動的基礎上。既然AI將替代人類勞動，為什么不能允許社會成員擁有大量閑暇，非要通過制度安排逼迫大家都“996”呢？

按照馬克思主義的說法，AI失業問題本質上是科技生產力發展與現有社會生產關系之間的矛盾，現有的社會制度不適應科技生產力的發展。與AI失業問題相比，社會制度不斷變革以適應人工智能的迅猛發展，才是真正的“難問題”。

機器人可以讓所有人都很少勞動或不勞動就可以過上好日子，但有些人不希望其他人不勞動，就會通過社會制度強迫其他人勞動，掠奪其他人，壓迫其他人。這一點在工業革命以來的經濟發展史中已經得到了證明。

一個人要過上舒適的日子，需要消耗多少物質財富，這是可以定量計算出來的。一個社會有多少成員，乘上單個人需要的物質財富，可以得出整個社會過上舒適生活所需要物質財富的數量。然后，再加上社會交易成本、各種損耗，我們可以得出一個有限數字。從理論上說，當社會生產力超過這個數字，人類社會就應該進入“大同世界”了。

不少人認為，發達國家已然進入“富裕社會”，即社會生產的物質財富已經足夠社會成員過上好日子了。技術統治論者認為美國在1929年就已經如此，而約翰·加爾布雷思認為的時間節點是20世紀70年代。但是，現實中的美國還是有很多人在流浪、乞討，吃不飽、穿不暖?，F在人工智能飛速發展，“富裕社會”在智能革命時代進入“AI富裕社會”，問題會變得更加突出。

顯然，這是社會制度的問題，光靠科技和生產力發展永遠解決不了。對不對？我以為，問題的實質不再于剝削不剝削，而在于如何通過制度設計讓科技紅利尤其是AI紅利惠及所有人。

當然，“AI失業”問題的解決，必須同時考慮遠景和現實兩方面情況。社會制度的根本性變革是遠景中的理想，而現實中的社會制度進化需要很長的時間，既要等待AI科技的不斷發展，也要考慮在社會容忍的范圍內穩妥前進。在實現中，至少有兩個問題可以努力：第一，幫助受到AI沖擊的勞動者找到新工作崗位，能夠分享先進科技生產力創造的物質財富;第二，要持續減少勞動者的工作時間，給人類更多的閑暇時間。

自從工業革命以來，拜科技之力量，壓在人類身上的勞動負擔越來越輕。20世紀我們施行8小時工作制，后來又是5天工作制、帶薪休假制。如果機器人把活干了，人類為什么不能一周工作兩三天甚至更少呢？

結語

在《信息崇拜》一書中，西奧多·羅斯扎克嘲笑說，計算機的發展史同時是一部計算機科技人員的“吹牛史”，什么超級智能、“數字永生”、超越人類等全是“吹?！薄槭裁匆按蹬！蹦?？羅斯扎克一針見血地說：“人工智能研究進行下意識的自我吹噓的原因十分簡單：大量的資金注入了這項研究。”

然而，羅斯扎克和維納在《人自有人的用處》中一樣，擔心“AI失業問題”。與其擔憂超級智能壓迫人類，不如現實一點關心一下AI對勞動人民的沖擊。

技術時代，如何自處呢？這是一個與每個人相關的問題，值得我們認真思考。只有人人關注新科技的發展，人人爭取應有權利，才能走出一條介于“AI理想國”與“AI機器國”之間的、更好的、現實的智能社會發展道路。

（作者為中國人民大學哲學院教授）

責任編輯：尚國敏