AI時(shí)代人類(lèi)命運(yùn)的倫理憂(yōu)思
——以《人類(lèi)還有未來(lái)嗎》為中心的考察

畢亞琴 戴兆國(guó)

以AI技術(shù)為代表的第四次工業(yè)革命，也被稱(chēng)為第三次科技革命，正以勢(shì)不可擋之勢(shì)席卷全球，并日益深入人們的日常生活，改變著人類(lèi)的生活方式，人類(lèi)已不可避免地進(jìn)入AI時(shí)代。包括AI技術(shù)在內(nèi)的高科技不僅帶來(lái)了新一輪物質(zhì)財(cái)富的充分涌流，也給人們的生活提供了極大的便利。人們?cè)谙硎堋淹孢@些技術(shù)的過(guò)程中，對(duì)這些技術(shù)全方位地“浸入”生活所帶來(lái)的有關(guān)倫理問(wèn)題，乃至人類(lèi)未來(lái)的存續(xù)問(wèn)題似乎都缺乏警覺(jué)。《人類(lèi)還有未來(lái)嗎》（以下簡(jiǎn)稱(chēng)《人類(lèi)》）一著以其高度的思想敏感，向人們發(fā)出“人類(lèi)還有未來(lái)嗎”這一憂(yōu)思之問(wèn)。面對(duì)人工智能技術(shù)和生物技術(shù)在人體上的應(yīng)用，作者重新思考了何以為人？何以為物？分析了人與物的區(qū)別，提醒人類(lèi)在AI時(shí)代不僅要處理好人與物的關(guān)系、人與人的關(guān)系，還要學(xué)會(huì)處理人機(jī)倫理關(guān)系。對(duì)于高科技給人類(lèi)帶來(lái)的挑戰(zhàn)，《人類(lèi)》從中西傳統(tǒng)文化智慧的角度深入思考人曾何為？人將何為？呼吁人類(lèi)應(yīng)平衡控物與自控能力，注重內(nèi)在精神文明的發(fā)展，認(rèn)識(shí)人自身的限度，心中有所敬畏，并根據(jù)其底線(xiàn)倫理的主張，提出了一種預(yù)防性的倫理與法律規(guī)范的設(shè)想，為人類(lèi)的共同命運(yùn)提供思想治策。

一、“超人”還是“超物”：AI時(shí)代科技發(fā)展呈現(xiàn)的新趨勢(shì)

科技對(duì)于人類(lèi)的影響，主要體現(xiàn)在對(duì)生產(chǎn)工具的改革上，科技使生產(chǎn)工具越來(lái)越先進(jìn)，有利于人們改造自然，促進(jìn)生產(chǎn)力的發(fā)展。從最初的始于二三百萬(wàn)年前的石器時(shí)代、四五千年前的青銅器時(shí)代、三千多年前的鐵器時(shí)代，到近現(xiàn)代18世紀(jì)60年代開(kāi)始的蒸汽機(jī)時(shí)代、19世紀(jì)70年代開(kāi)始的電氣化時(shí)代、20世紀(jì)40年代開(kāi)始的信息化時(shí)代，現(xiàn)如今人類(lèi)已經(jīng)進(jìn)入人工智能時(shí)代。回溯人類(lèi)生產(chǎn)工具的變革歷史，科技呈現(xiàn)出一種加速度的發(fā)展，讓人類(lèi)的控物能力不斷增強(qiáng)，生產(chǎn)力獲得極大提高。

從目前技術(shù)智能化的發(fā)展來(lái)看，“這種從人的智能向超級(jí)機(jī)器智能轉(zhuǎn)換的速度，即不是一般的加速度，而是一種指數(shù)的加速度，即人工智能發(fā)展的速度曲線(xiàn)將一下變得陡直，或者通俗地說(shuō)，智能在奇點(diǎn)臨近的那一刻將開(kāi)始發(fā)生‘爆炸性’的進(jìn)展，它將突然一下就超過(guò)人”。①人工智能在到達(dá)奇點(diǎn)之后，將會(huì)成為“超人”或者更確切地說(shuō)是“超物”。人工智能這種“人化物”現(xiàn)在已經(jīng)學(xué)會(huì)自我學(xué)習(xí)，在智能方面越來(lái)越像人。在不久的將來(lái)，它甚至可能超越人的智能。對(duì)于奇點(diǎn)來(lái)臨，一部分人是樂(lè)觀的，認(rèn)為可以充分享受人工智能帶來(lái)的各種便利服務(wù)，甚至利用人工智能將人類(lèi)從“謀生的勞動(dòng)”中解放出來(lái)，有更多閑暇時(shí)間從事“自由自覺(jué)的勞動(dòng)”，從而返回“人本身”，實(shí)現(xiàn)人向人的本性復(fù)歸。然而，也有很多人對(duì)此憂(yōu)心忡忡，認(rèn)為“相較于機(jī)器大工業(yè)時(shí)代機(jī)器的資本主義應(yīng)用導(dǎo)致的人機(jī)關(guān)系異化，智能時(shí)代的人機(jī)關(guān)系異化具有一些新特征”。②首先，人工智能將替代人類(lèi)絕大部分的工作而造成普通勞動(dòng)者的失業(yè)，使其被剝削的資格都喪失殆盡，從而產(chǎn)生大量“數(shù)字窮人”，加劇社會(huì)的貧富分化和社會(huì)矛盾；其次，人們?cè)谏钪性絹?lái)越依賴(lài)人工智能，人工智能“也在不斷弱化人的自我價(jià)值評(píng)判能力，解構(gòu)著傳統(tǒng)生命樣式，以至于傳統(tǒng)生活世界面臨著強(qiáng)烈沖擊”③；再次，“人工智能算法的高效率使人的精神話(huà)語(yǔ)高地面臨被機(jī)器算法操縱的風(fēng)險(xiǎn)”④，如“算法歧視”對(duì)人的操控與統(tǒng)治。此外，還有個(gè)人信息泄露，毫無(wú)隱私安全可言等等問(wèn)題。其實(shí)，這些都可以歸之于人工智能所帶來(lái)的“近憂(yōu)”。

《人類(lèi)》認(rèn)為，所有危險(xiǎn)中最大的危險(xiǎn)是人工智能在未來(lái)可能會(huì)給人類(lèi)的存續(xù)帶來(lái)威脅。隨著人工智能的飛速發(fā)展，未來(lái)越來(lái)越多的人“被”失去工作而變成“無(wú)用階級(jí)”。與之相應(yīng)的是，人工智能將會(huì)深入人類(lèi)社會(huì)生活的方方面面，不可避免地會(huì)涉及到價(jià)值判斷的問(wèn)題。如果人工智能在發(fā)展中有了自己的價(jià)值觀念，形成了自己的價(jià)值判斷，擁有了自我意識(shí)，一方面“它們最后大概會(huì)看不上人的容易變化的情感、易犯錯(cuò)誤的理性和薄弱的意志，更看不上人的脆弱的肉體和終有一死”⑤，而不再聽(tīng)命于人。另一方面，因?yàn)槿斯ぶ悄芑诠杌w，不同于人的碳基體而缺乏豐沛的感受性，因而不會(huì)具有人的感性的愛(ài)的情感能力以及感同身受的憐憫能力，故而，人也無(wú)法得知人工智能的價(jià)值觀念而去預(yù)測(cè)它的價(jià)值判斷。這就意味著，如果人工智能要反叛人類(lèi)，人類(lèi)既無(wú)人工智能的超強(qiáng)智能，又無(wú)法感受人工智能的所思所想，更無(wú)人工智能不死的硅基體，那對(duì)于人類(lèi)而言將會(huì)是致命一擊，人類(lèi)將永無(wú)翻盤(pán)之日。又或者，即使人工智能無(wú)法獲得自我意識(shí)，但它具有強(qiáng)大的毀滅人類(lèi)的能力，如果被別有用心之惡人操控，或者有人無(wú)心的操作失誤，都有可能導(dǎo)致人類(lèi)無(wú)法逃脫被奴役、甚至被替代或者被毀滅的命運(yùn)。

現(xiàn)代高科技的另外一個(gè)發(fā)展趨勢(shì)是機(jī)器智能技術(shù)和生物技術(shù)越來(lái)越多地直接應(yīng)用于人體，使人體越來(lái)越脫離碳基體的限制成為“物化人”。通過(guò)改造人的“身體自然”，讓人變得更聰明、更強(qiáng)健、更長(zhǎng)壽而增強(qiáng)控物能力。比如基因編輯技術(shù)，可以讓人類(lèi)與某種疾病絕緣，甚至利用生命密碼來(lái)設(shè)計(jì)未來(lái)的人類(lèi)；腦機(jī)接口技術(shù)，可以將芯片植入人腦，讓人類(lèi)也擁有人工智能一般強(qiáng)大的超智能；人造器官移植技術(shù)，可以隨時(shí)替代不夠好的、不夠強(qiáng)健的人體器官……如此這般，可能在不久的將來(lái)，人類(lèi)大概也能夠?qū)崿F(xiàn)永生的愿望了。聽(tīng)上去似乎不錯(cuò)，但事實(shí)果真如這般美好嗎？對(duì)此，《人類(lèi)》提出了現(xiàn)實(shí)存在的幾種潛在的危險(xiǎn)。一是人在不斷地被“物化”的過(guò)程中，最后還能稱(chēng)之為“人”嗎？會(huì)不會(huì)出現(xiàn)一個(gè)“新物種”來(lái)替代現(xiàn)在的“智人”？二是人類(lèi)的智能不斷被強(qiáng)化，那人類(lèi)所獨(dú)有的意識(shí)、思想、情感和精神是否會(huì)隨著不斷被物化的“強(qiáng)大”的身體顯得無(wú)用而漸漸歸于消亡呢？三是因?yàn)檫@些技術(shù)的應(yīng)用費(fèi)用十分昂貴，在能用得起的且愿意用的人和廣大用不起的或者不愿意用的人之間，就會(huì)產(chǎn)生分化，人類(lèi)社會(huì)有可能分裂成“高端人”“物化人”和“智人”“低端人”。四是技術(shù)方面的困境。這些科學(xué)技術(shù)目前仍不成熟，如果在人體的應(yīng)用中出現(xiàn)了偏差，將存在不可預(yù)測(cè)的巨大的倫理問(wèn)題和嚴(yán)重的后果。

究竟何以為人？何以為物？在人類(lèi)進(jìn)入智能化時(shí)代以前，應(yīng)該說(shuō)人和物的區(qū)別還是十分清晰的，人有別于一般的自然物在于人是有意識(shí)、有思想、有精神的，而且會(huì)利用和制造工具。但無(wú)論是“人化物”，還是“物化人”，它們已經(jīng)漸漸模糊了人與物的界限，“它們非人非物，但又亦人亦物。它們是‘超人’，也是‘超物’”。⑥所以，人和“它們”之間的關(guān)系，既帶有人與物的關(guān)系，亦有人與人的關(guān)系。面對(duì)AI的強(qiáng)勢(shì)發(fā)展，人在處理人與物、人與人的關(guān)系之外，現(xiàn)在還必須思考如何處理人機(jī)之間的倫理關(guān)系，以及人自身是要“成神”還是要“成人”的問(wèn)題。

二、“成神”還是“成人”：AI時(shí)代人類(lèi)命運(yùn)遭遇的新挑戰(zhàn)

AI技術(shù)發(fā)展如此迅猛，它將會(huì)給人類(lèi)帶來(lái)怎樣的命運(yùn)？人類(lèi)未來(lái)又將何去何從？《人類(lèi)》追溯了人類(lèi)文明的歷史秩序，尤其從中國(guó)哲學(xué)的角度去思考人曾何為？人將何為？指出以前的人心中有所敬畏，知道作為人的限度，并通過(guò)內(nèi)在精神的發(fā)展努力實(shí)現(xiàn)“學(xué)以成人”；而現(xiàn)在的人強(qiáng)行改變事物的自然進(jìn)程，正在“學(xué)以成神”的道路上漸行漸遠(yuǎn)，這將會(huì)給人類(lèi)帶來(lái)前所未有的生存危機(jī)。

在蒙昧?xí)r代，由于人的認(rèn)知有限，無(wú)法理解自然現(xiàn)象和人的生老病死，于是就產(chǎn)生了用“神靈”觀念來(lái)解釋現(xiàn)實(shí)的宗教性觀念，人們敬畏神、膜拜神。人類(lèi)進(jìn)入文明時(shí)代后，心中依然有神靈，因?yàn)槿魏挝拿鞯拈_(kāi)始都是和“神靈”緊密相連的，如西方的古希臘神話(huà)、北歐神話(huà)、中國(guó)的傳統(tǒng)神話(huà)等。當(dāng)人類(lèi)文明發(fā)展到“軸心時(shí)代”，出現(xiàn)了“兩個(gè)主要是宗教性的精神文明（西方的猶太教和東方的佛教）和兩個(gè)主要是人文性質(zhì)的文明（西方希臘城邦的思想文化和中國(guó)先秦以儒家為最突出的諸子百家）”。⑦一直到工業(yè)文明之前，人類(lèi)的精神世界里“神”始終占據(jù)著重要的位置。“心中有‘神靈’的人處處感到自己的限度，產(chǎn)生某種敬懼，感覺(jué)有無(wú)數(shù)有別于人與超越于人的存在，知道自己的知識(shí)和能力是很有限的。”⑧因此，《人類(lèi)》指出，工業(yè)文明之前的人類(lèi)，往往更加注重內(nèi)在精神的“修煉”，即“人的精神自控和超越能力”，努力“學(xué)以成人”。中國(guó)哲學(xué)中無(wú)論是儒家還是道家，兩者都強(qiáng)調(diào)“天”的存在。儒家講究“天人合一”，以實(shí)現(xiàn)“天命”和“人道”的和諧；道家認(rèn)為“人法地，地法天，天法道，道法自然”，要“順其自然而成其所以然”。所以，“天”構(gòu)成了對(duì)人的作為的限制。人們敬畏“天”，講究順天而為，方能生生不息。除了外在的或者說(shuō)客觀的“天”之外，中國(guó)哲學(xué)還十分關(guān)注人的自身之“物”，即肉身的存在。“中國(guó)哲學(xué)是一種強(qiáng)調(diào)身體及其感受性的哲學(xué)。但它并不是要去努力滿(mǎn)足身體的各種感官欲望，而毋寧說(shuō)是要認(rèn)識(shí)到人因其身體的感受性而帶來(lái)的脆弱性和有限性，從而追求能符合人之為人的生活。”⑨換言之，也就是努力做到“學(xué)以成人”。人通過(guò)自身的感受性，“體知”人的生老病死和喜怒哀樂(lè)，“體悟”人的脆弱性和有限性。因?yàn)槿说拇嗳跣院陀邢扌裕匀藗儾趴是鬅o(wú)限，“努力在家族的繁衍、藝術(shù)和宗教的創(chuàng)造中去追求永恒和無(wú)限”。⑩由此可見(jiàn)，儒道思想強(qiáng)調(diào)人的有限性，也追求人的無(wú)限性，但這種無(wú)限性不是對(duì)人的欲望的無(wú)限滿(mǎn)足，這種人的無(wú)限性主要體現(xiàn)為兩點(diǎn)。一是通過(guò)人的順應(yīng)自然而尋求人與自然的和諧，通過(guò)代代相傳從而共生永續(xù)。二是肉身有限，而精神無(wú)限，通過(guò)對(duì)內(nèi)發(fā)力，追求人的精神的無(wú)限性。因此，“儒、道兩家思想的關(guān)注中心都不是人類(lèi)社會(huì)不斷的繁榮之道、富強(qiáng)之道，而主要是考慮其長(zhǎng)久之道”?。只不過(guò)，兩者之間的區(qū)別在于，儒家講究“入世”，強(qiáng)調(diào)尊尊、親親、賢賢的三綱五常，重視人與人之間的關(guān)系，關(guān)心的是“文明存續(xù)的長(zhǎng)久之道”；而道家講究“出世”，信奉“無(wú)為而治”，也就是人要遵循自然規(guī)律，不要強(qiáng)行改變自然的運(yùn)行法則和進(jìn)程，重視人與物之間的關(guān)系，關(guān)心的是“人類(lèi)存續(xù)的長(zhǎng)久之道”。

但是到了近現(xiàn)代，不斷工業(yè)化的過(guò)程就是不斷“離神祛魅”的過(guò)程。人的心中沒(méi)有了“神”，也忘記了“天”，由于沒(méi)有了畏懼，自然也忘記了人的限度。傳統(tǒng)的宗教和“天道”被“資本拜物教”所替代；資本的開(kāi)疆?dāng)U土，因乘上科技的翅膀，而自由飛翔。資本和技術(shù)的聯(lián)姻，讓人類(lèi)毫無(wú)畏懼地開(kāi)始探索任何“禁忌之地”，只要它能夠滿(mǎn)足名利物欲。人類(lèi)從古典時(shí)代注重控己的內(nèi)在精神而發(fā)展出的“學(xué)以成人”，逐漸轉(zhuǎn)向注重控物的“學(xué)以御物”甚至“學(xué)以成神”。古典時(shí)代人們更注重的是人與人的交往關(guān)系和生產(chǎn)關(guān)系，通過(guò)“控己”以保持社會(huì)的長(zhǎng)治久安。而現(xiàn)代社會(huì)更注重的是人與物的關(guān)系，希望通過(guò)“控物”而促進(jìn)生產(chǎn)力的發(fā)展。

“人化物”的人工智能是人類(lèi)的創(chuàng)造物，人們引以為傲，雖然這種人類(lèi)的創(chuàng)造物可能在某一天會(huì)超越人的智能從而統(tǒng)治人類(lèi)甚至毀滅人類(lèi)。“物化人”的“新人”好似“智人”的升級(jí)版，其實(shí)從某種意義上來(lái)看，也是人類(lèi)的創(chuàng)造物，雖然這種創(chuàng)造物極有可能會(huì)終止人的自然進(jìn)化進(jìn)程，將人類(lèi)帶向未知的危險(xiǎn)之境。但這二者確實(shí)都給了人以“造物主”的感覺(jué)，人成為了“神”一般的存在。“這個(gè)極度膨脹的‘人’在尼采著作里成為上帝的弒殺者。”?尼采說(shuō)“上帝死了”，是因?yàn)樯系墼僖矡o(wú)法成為人類(lèi)社會(huì)的價(jià)值信仰、道德標(biāo)準(zhǔn)和法律典章。海德格爾則說(shuō)，“在技術(shù)的時(shí)代，諸神為什么會(huì)逃離？因?yàn)橹T神一定要待在人不可觸及的地方”。?那么，是否“人”果真取代了“神”呢？海德格爾對(duì)現(xiàn)代技術(shù)之思給了我們答案。海德格爾認(rèn)為現(xiàn)代技術(shù)的本質(zhì)是“Gestell”（常被譯為“座架”或“集置”），即科技控制了“人”，異化了“人”，成為這個(gè)世界的法典，成為重新估定一切價(jià)值的標(biāo)準(zhǔn)。他說(shuō)，現(xiàn)代技術(shù)“對(duì)人類(lèi)的威脅不只來(lái)自可能有致命作用的技術(shù)機(jī)械和裝置。真正的威脅已經(jīng)在人類(lèi)的本質(zhì)處觸動(dòng)了人類(lèi)”。?正如上文所述，現(xiàn)代科技已經(jīng)模糊了人和物之區(qū)別，無(wú)論是“人化物”，還是“物化人”都正在慢慢替代現(xiàn)在的人類(lèi)，“已經(jīng)在人類(lèi)的本質(zhì)處觸動(dòng)了人類(lèi)”。

人不是神，“人性中包含著一種理想性的可能，但也標(biāo)志出一種可行性的限度。人性確定了我們所能期望和作為的大致范圍”。?人性有自身的弱點(diǎn)，人不能像神那樣全能和至善。“弒殺上帝讓‘人’變回一個(gè)有限者，這個(gè)有限者在上帝位子上的所思所說(shuō)因而成了笑柄，換言之，‘人’在弒殺上帝的同時(shí)也在哄笑中終結(jié)了自己。”?當(dāng)對(duì)自然和生命失去敬畏心的人類(lèi)，他的控物能力的飛速發(fā)展如果不能受到與之相等同的精神和道德能力發(fā)展的駕馭時(shí)，無(wú)限制的科學(xué)技術(shù)將猶如打開(kāi)的“潘多拉的盒子”，它能將人捧得有多高，就會(huì)讓人摔的有多重，從而將人類(lèi)拖進(jìn)災(zāi)難的深淵。

當(dāng)未來(lái)“人化物”和“物化人”模糊了人和物的界限，人類(lèi)還剩下什么可以區(qū)別于物？恐怕最后剩下的只能是傳統(tǒng)文化所注重的人的意識(shí)、思想、情感和精神。對(duì)于高科技帶來(lái)的挑戰(zhàn)，人類(lèi)應(yīng)該如何應(yīng)對(duì)？恐怕也還得向被現(xiàn)代社會(huì)視為“無(wú)用”的“不實(shí)在”或“虛無(wú)”的精神尋求解決之道——“人文的智慧作為平時(shí)的一種必要的調(diào)節(jié)和未來(lái)非常時(shí)候的一種準(zhǔn)備是可能和必要的。我們需要以‘學(xué)以成人’的古典原則來(lái)調(diào)整‘學(xué)以御物’的現(xiàn)代原則，或者更廣義地說(shuō)，我們要重返‘神’——重返與物質(zhì)相對(duì)的精神，不是要自己成為神，而是要承認(rèn)還有超越于人的存在”?，以此來(lái)平衡目前人類(lèi)控物能力的迅猛發(fā)展和自控能力衰落之間的落差。唯有知道人的限度，注重內(nèi)在精神的發(fā)展，提高精神和道德能力，方能減少對(duì)追逐物質(zhì)利益的狂熱，為科技確立符合人性的發(fā)展目標(biāo)，讓科技向善發(fā)展。

三、“控物”還是“自控”：AI時(shí)代人類(lèi)命運(yùn)發(fā)展的內(nèi)生動(dòng)力

科學(xué)技術(shù)作為人類(lèi)改造自然，促進(jìn)生產(chǎn)力發(fā)展的工具和手段，為的是滿(mǎn)足人們的物質(zhì)和精神追求，促進(jìn)人類(lèi)社會(huì)的全面發(fā)展。但在資本乘風(fēng)破浪的現(xiàn)代社會(huì)，萬(wàn)物的商品化和資本化極大地刺激了人們的致富欲和對(duì)物質(zhì)享樂(lè)的貪欲。對(duì)物欲的渴求，又不斷地刺激著科學(xué)技術(shù)的飛速發(fā)展甚至無(wú)所忌憚地進(jìn)入“禁忌之地”，從而不斷地挑戰(zhàn)人類(lèi)的倫理底線(xiàn)和價(jià)值底線(xiàn)。《人類(lèi)》指出，這一方面導(dǎo)致了物質(zhì)文明的極大發(fā)展和精神文明的相對(duì)衰落；另一方面導(dǎo)致了人的控物能力的不斷強(qiáng)大和自控能力的相對(duì)削弱。控物能力主要表現(xiàn)在生產(chǎn)力的發(fā)展方面；自控能力則主要指向人與人的生產(chǎn)關(guān)系和社會(huì)關(guān)系的變革。如果任由科學(xué)技術(shù)被資本裹挾無(wú)限度地發(fā)展下去，雖然生產(chǎn)力會(huì)獲得單方面的巨大發(fā)展，但無(wú)限制地“勇闖科學(xué)無(wú)人區(qū)”卻將可能會(huì)給人類(lèi)帶來(lái)不可預(yù)測(cè)的災(zāi)難。

人將何為？如何讓科技“可控”，防止科技“趨惡”發(fā)展？其實(shí)這背后還是如何防止人“趨惡”的問(wèn)題。人不是神，人不是至善的，人有善端，也有惡端。如何遏制人的惡端，這需要倫理和法律的規(guī)范。針對(duì)AI時(shí)代科技發(fā)展的新趨勢(shì)，以及可能給人類(lèi)帶來(lái)的不可預(yù)測(cè)的嚴(yán)重后果，《人類(lèi)》提出了要注重精神文明的發(fā)展，由精神支撐倫理道德，讓道德規(guī)范成為法律之奠基，以此規(guī)約人性及行為，馴化、駕馭乃至超越逐物，節(jié)制過(guò)度的好奇和享樂(lè)，平衡人的控物和自控能力。這就要求一方面要堅(jiān)持底線(xiàn)思維，以尊重人的生命價(jià)值、人的主體性為導(dǎo)向，適度地限制控物能力的發(fā)展；另一方面，要建立一種預(yù)防性的倫理和法律，從內(nèi)在的精神價(jià)值規(guī)范層面和外在的法律強(qiáng)制規(guī)范層面實(shí)現(xiàn)人的自控。

何為科技發(fā)展的底線(xiàn)思維？底線(xiàn)思維是“防止和化解最壞情況出現(xiàn)的思維”。?而對(duì)于人類(lèi)而言，人之為人長(zhǎng)久的存續(xù)就是科技發(fā)展的底線(xiàn)。這包含了兩個(gè)層面，首先，是作為個(gè)體的人的生命和作為人類(lèi)整體的存續(xù)至上，這是保證人類(lèi)生生不息的前提。如果科技發(fā)展的結(jié)果導(dǎo)致人類(lèi)都不復(fù)存在了，那么，人類(lèi)發(fā)展科技的意義和目的何在？其次，是保證人的主體性。科技發(fā)展的最終目的是為人服務(wù)的，科技的發(fā)展過(guò)程中不能損害人的主體性，即人之為人的尊嚴(yán)。人是具有自主意識(shí)的存在物，人比其他存在物要偉大的地方，就在于人的精神意識(shí)，在于人的道德和信仰，人有尊嚴(yán)，可以為自己的行為負(fù)責(zé)。“我們可能還是不會(huì)想讓機(jī)器做自己的決策人。它可能比我們理性，但我們還有感情……自然，我也還是可能犯錯(cuò)誤，但它知道作為一個(gè)能夠自我選擇的主體的尊嚴(yán)和驕傲嗎？”?智能機(jī)器能通過(guò)遵守人類(lèi)事先設(shè)定好的規(guī)則而成為“道德大師”嗎？“答案是否定的，我們或許永遠(yuǎn)無(wú)法將道德決策完全卸載給人工智能。”?因?yàn)椋俺墒斓牡赖聸Q策是一種熟練應(yīng)對(duì)，道德知識(shí)是一種技能知識(shí)，在這方面，人心勝于機(jī)器”。?科技發(fā)展的結(jié)果不能讓人喪失人之為人的主體性，人之為人的尊嚴(yán)。這是AI技術(shù)發(fā)展的底線(xiàn)，也是處理人機(jī)關(guān)系最基本的倫理原則。由于“民可與樂(lè)成，不可與慮始”?，所以《人類(lèi)》認(rèn)為，最重要的還是“關(guān)鍵的少數(shù)”要樹(shù)立底線(xiàn)意識(shí)。影響AI時(shí)代科技發(fā)展新趨勢(shì)的“關(guān)鍵的少數(shù)”，主要指“第一線(xiàn)的科研人員、研發(fā)公司的擁有者和管理者以及投資者、政治領(lǐng)導(dǎo)人和觀念人，即藝術(shù)家、人文與社會(huì)科學(xué)學(xué)者、媒體人等”。?要防止科技“趨惡”發(fā)展可能會(huì)帶來(lái)的災(zāi)難，主要還是靠人的危機(jī)意識(shí)的建立，不能讓科技發(fā)展突破倫理底線(xiàn)，要適度限制人的控物能力的單向度發(fā)展。

那么，如何保證人能夠遵守科技的道德規(guī)范，堅(jiān)守科技發(fā)展的倫理底線(xiàn)呢？除了人充分發(fā)展個(gè)體自我的精神，以道德信仰進(jìn)行自控之外，《人類(lèi)》還“概括性地提出了一種旨在控制不可預(yù)測(cè)的后果的、預(yù)防性的倫理與法律”?，以倫理和法律從社會(huì)層面對(duì)人自身進(jìn)行控制約束。它指出，由于現(xiàn)代社會(huì)人類(lèi)要求平等的價(jià)值取向，不可能以某種生活理想或“好”的價(jià)值目標(biāo)為中心來(lái)規(guī)范或引領(lǐng)人的德性。因此，現(xiàn)代倫理“主要考慮這些行為的正當(dāng)與否，以及這種正當(dāng)性的根據(jù)何在，如何遵循和制定相應(yīng)的行為規(guī)則等”。?判斷一個(gè)行為正當(dāng)與否，應(yīng)該涉及行為的動(dòng)機(jī)、行為的過(guò)程和行為的結(jié)果。而現(xiàn)代倫理兩大流派之一的“道義論”的倫理學(xué)以行為本身的性質(zhì)、規(guī)范來(lái)衡量行為的正當(dāng)與否，忽略了行為的動(dòng)機(jī)和結(jié)果。另一流派“目的論”的倫理學(xué)則以行為的目的或結(jié)果來(lái)衡量行為的正當(dāng)與否，忽略了行為的動(dòng)機(jī)和行為過(guò)程。現(xiàn)代科技的高速發(fā)展，在不斷地改變自然事物的進(jìn)程，以至于行為結(jié)果難以預(yù)測(cè)。面對(duì)可能的不可預(yù)知的嚴(yán)重后果，預(yù)防性的倫理不僅要對(duì)行為過(guò)程和行為結(jié)果給予防范，更要對(duì)人的行為動(dòng)機(jī)，尤其是由名利和好奇心驅(qū)使的動(dòng)機(jī)有所限制。這種限制主要體現(xiàn)在“內(nèi)心信念與社會(huì)輿論這兩個(gè)方面”。?預(yù)防性的倫理從源頭處即從行為動(dòng)機(jī)到行為過(guò)程，直至行為結(jié)果進(jìn)行防范和控制，是底線(xiàn)倫理的具體轉(zhuǎn)化。雖然，倫理道德作為一種主觀的軟約束，它的作用范圍比法律廣，但也要看到倫理道德的限度，即它的“藥效”比較慢，這就需要一種立竿見(jiàn)影的硬約束即法律來(lái)與之配合，攜手同行，即“盡量健全相關(guān)的法律，在事先的授權(quán)、事中的監(jiān)管、事后的懲罰等方面都有明確細(xì)密的規(guī)定”?，防止科技“趨惡”發(fā)展。

《人類(lèi)》同時(shí)也指出，“我們還必須在現(xiàn)有的國(guó)家體制和國(guó)際體系中來(lái)考慮問(wèn)題”?，因?yàn)椤艾F(xiàn)代技術(shù)發(fā)展的基本單位是民族國(guó)家……而國(guó)家之間的通常是白熱化的競(jìng)爭(zhēng)多半會(huì)使可能‘為惡利用’的技術(shù)創(chuàng)新脫離倫理監(jiān)控”。?國(guó)家之間的激烈競(jìng)爭(zhēng)會(huì)刺激科技無(wú)限制的發(fā)展，但人類(lèi)需要意識(shí)到“我們將面臨的問(wèn)題不是任何一個(gè)國(guó)家能夠單獨(dú)解決的，人類(lèi)面對(duì)這樣一種生存危機(jī)真正成了一個(gè)人類(lèi)命運(yùn)的共同體”?。唯有如此，人類(lèi)方會(huì)團(tuán)結(jié)起來(lái)，一起協(xié)同解決日益強(qiáng)大的控物能力和日漸衰落的自控能力這一基本矛盾。解決好這一矛盾將會(huì)成為AI時(shí)代人類(lèi)命運(yùn)發(fā)展的內(nèi)生動(dòng)力。

四、“機(jī)善”還是“人善”：AI時(shí)代人類(lèi)命運(yùn)向善的時(shí)代之思

上述三個(gè)方面，是《人類(lèi)》一書(shū)的明線(xiàn)，展示了本書(shū)的致思理路。如果說(shuō)可以通過(guò)平衡人的控物能力與自控能力，同時(shí)建立底線(xiàn)思維，構(gòu)建一種預(yù)防性的倫理與法律規(guī)范來(lái)防止科技“趨惡”，那么，回答AI時(shí)代科技“向善”（即機(jī)善）何以可能這一問(wèn)題則成為這本書(shū)的暗線(xiàn)。回答這個(gè)問(wèn)題，需要對(duì)現(xiàn)代科技的“前世今生”進(jìn)行一些分析，進(jìn)而了解現(xiàn)代科技是如何走上異化之路的。為此，我們可以從四個(gè)角度發(fā)問(wèn)深思。

一是現(xiàn)代科技與以往的技藝有何不同？也就是“技藝”與“技術(shù)”之別帶來(lái)了什么？

以往的技術(shù)主要是手工技術(shù)，或稱(chēng)為“技藝”更為妥帖。直到近現(xiàn)代，科學(xué)與技術(shù)的深度融合推動(dòng)了人類(lèi)一次又一次的科技革命，因此，現(xiàn)在人們習(xí)慣將科學(xué)與技術(shù)放在一起使用，簡(jiǎn)稱(chēng)“科技”。那么，現(xiàn)代科技與以往的技藝有何不同？在海德格爾的技術(shù)之思中有深刻的呈現(xiàn)。

海德格爾在其早期的作品中，通過(guò)“在操勞活動(dòng)中照面”的“用具”來(lái)構(gòu)建“此在”的在世方式，“此在在生存操勞活動(dòng)里，在與用具打交道過(guò)程中領(lǐng)會(huì)存在，從而展現(xiàn)出此在的敞開(kāi)狀態(tài)”。?即此在在操勞活動(dòng)中通過(guò)用具的指引而與其他存在物發(fā)生關(guān)聯(lián)并實(shí)現(xiàn)展開(kāi)狀態(tài)，從而通達(dá)真理而恢復(fù)自由。這是一個(gè)通過(guò)用具祛除遮蔽，實(shí)現(xiàn)澄明的過(guò)程。在之后的《技術(shù)的追問(wèn)》等作品中，海德格爾對(duì)現(xiàn)代科技進(jìn)行了深刻的反思與批判，“他指出了古代用具的使用和現(xiàn)在技術(shù)對(duì)于世界的不同展現(xiàn)方式，并追問(wèn)得出了現(xiàn)代技術(shù)的本質(zhì)就是‘座架’”?。現(xiàn)代技術(shù)“座架”了人，人被技術(shù)逼迫著走上解蔽之路，但是這種解蔽實(shí)則是一種遮蔽，它遮蔽著人以及存在的問(wèn)題。因此，現(xiàn)代技術(shù)實(shí)質(zhì)上是一種強(qiáng)制性的“解蔽”，它裹挾人和自然，貶損人的“主體性”，讓人失去通達(dá)真理之路。而之前的技術(shù)，因順應(yīng)自然，根據(jù)事物本身的規(guī)律進(jìn)行解蔽，所以還是一種美的產(chǎn)出、藝術(shù)的創(chuàng)作。《人類(lèi)》也指出之前的“技藝”，多作用于外物，只是人的“身體器官的自然的、可見(jiàn)的延長(zhǎng)”?，不會(huì)“隨意改變事物的自然進(jìn)程”。?而AI時(shí)代的科技，被各種欲望推動(dòng)著，越來(lái)越指向人自身，改變?nèi)说淖匀贿M(jìn)化進(jìn)程，對(duì)人的“身體自然”進(jìn)行替代。?

不可否認(rèn)，海德格爾對(duì)現(xiàn)代技術(shù)的追問(wèn)是深刻的，他不僅指向人，更關(guān)照到人依賴(lài)并生存于其中的地球（大地）。其后期思想的主題是拯救地球，力圖使技術(shù)時(shí)代的人類(lèi)擺脫嚴(yán)重的危險(xiǎn)和困境，維護(hù)人類(lèi)的基本生存條件和人類(lèi)在地球上的長(zhǎng)存永續(xù)?，并把“拯救地球”提高到“拯救萬(wàn)物之母”的高度。?但通過(guò)“技藝”與“技術(shù)”之別，他得出的解決之道是“思”與“詩(shī)”，“人詩(shī)意地棲居”于世上顯示出其浪漫的烏托邦色彩。要揚(yáng)棄現(xiàn)代科技異化之路，破解科技異化的困局去拯救地球和人類(lèi)未來(lái)，還必須追問(wèn)使科技走上異化道路的動(dòng)因是什么？

二是現(xiàn)代科技發(fā)展背后的動(dòng)力是什么？是“生存”還是“幸福”？

正如《人類(lèi)》中所說(shuō)，從前的人們注重的是生存之道，相較于物質(zhì)文明，人們更注重內(nèi)在的精神世界。?無(wú)論是東方的孔孟、老莊，還是西方的希臘三賢，追尋的都是真理，即存在本身。人的物欲被精神所節(jié)制，從而也成就了人類(lèi)生存的長(zhǎng)久之道。

但是，到了近代，西方的啟蒙運(yùn)動(dòng)解放了人的同時(shí)，也解放了人的欲望。資本主義追逐利潤(rùn)的本質(zhì)，一刻不停地刺激著人們的物欲，放大著人們的欲望。現(xiàn)代人普遍認(rèn)為占有的越多，生活就越“好”，越“幸福”。技術(shù)是資本逐利最好的助手，資本促進(jìn)技術(shù)的迅猛發(fā)展，使技術(shù)服務(wù)于人所謂的“幸福生活”。所以，可以理解為何之前的“技術(shù)”不發(fā)達(dá)，因?yàn)椤凹夹g(shù)”并不是人類(lèi)生存之必須，“技術(shù)”是服務(wù)于人活得“更好”的欲望。但是，在資本刺激之下的人的欲望是無(wú)窮無(wú)盡的，人在利用技術(shù)不斷得到滿(mǎn)足之后不是獲得充實(shí)幸福感，而是被更加空虛的失落感所包圍。

現(xiàn)代科技發(fā)展背后的推動(dòng)力實(shí)則是資本主義刺激下的人的永無(wú)止境的欲望。欲望讓技術(shù)一日千里地發(fā)展并服務(wù)于人，欲望也讓技術(shù)“座駕”逼迫著人和自然，面臨著“失控”的危險(xiǎn)。人類(lèi)面對(duì)資本與技術(shù)的聯(lián)姻，該如何“去蔽”而通達(dá)真理之路呢？

三是科技發(fā)展的目的是什么？究竟應(yīng)該選擇“工具理性”還是“價(jià)值理性”？

科技發(fā)展的目的是為了人的自由全面的發(fā)展。但科技在發(fā)展的過(guò)程中，逐漸喪失了它的“價(jià)值理性”，只留下單向度的“工具理性”。尤其在AI時(shí)代，一切都變成“算法”，從“人是機(jī)器”到“機(jī)器是人”，科學(xué)的實(shí)證性和可計(jì)算性，讓一切數(shù)字化。通過(guò)計(jì)算可以解構(gòu)一切，消解一切神秘的東西。這種理論甚至認(rèn)為人的情感，也是可以被衡量和計(jì)算的。“情感的本質(zhì)就是價(jià)值，情感與價(jià)值的關(guān)系實(shí)際上就是主觀和客觀的關(guān)系，既然價(jià)值是可以計(jì)算的，那么情感就必然可以計(jì)算。”?在資本與技術(shù)的雙重逼迫下，“情感”和“價(jià)值”的神秘性或者說(shuō)精神性、崇高性被算法解構(gòu)而消失了，只留下可以計(jì)算的利益。而“工具理性”講究效率，即最優(yōu)原則，這與資本“用最小的投入獲得最大的產(chǎn)出”的需求不謀而合。于是，被資本權(quán)力和科技權(quán)力宰制的現(xiàn)代社會(huì)驅(qū)動(dòng)著“工具理性”蔓延到各個(gè)領(lǐng)域，它不僅在生產(chǎn)領(lǐng)域創(chuàng)造出巨大的物質(zhì)財(cái)富，甚至重塑著人的意識(shí)、情感和生活樣態(tài)，成為意識(shí)形態(tài)而統(tǒng)治著人。

但人們?cè)跒榭萍祭硇匀〉玫某删瓦M(jìn)行狂歡的同時(shí)，卻也不得不為其制造的災(zāi)難承擔(dān)后果。馬克思曾生動(dòng)形象地描繪出這一圖景：“技術(shù)的勝利，似乎是以道德的敗壞為代價(jià)換來(lái)的。隨著人類(lèi)愈益控制自然，個(gè)人卻似乎愈益成為別人的奴隸或自身的卑劣行為的奴隸。甚至科學(xué)的純潔光輝仿佛也只能在愚昧無(wú)知的黑暗背景上閃耀。我們的一切發(fā)現(xiàn)和進(jìn)步，似乎結(jié)果是使物質(zhì)力量成為有智慧的生命，而人的生命則化為愚鈍的物質(zhì)力量。”?

應(yīng)該如何突破科技單向度的“工具理性”所造成的人的異化，回歸其“價(jià)值理性”，讓科技“向善”，真正地為人類(lèi)造福？?jī)H僅依靠道德、法律等上層建筑的層面，恐怕是不夠的。

四是科技“向善”何以可能？人類(lèi)應(yīng)該重點(diǎn)發(fā)展“生產(chǎn)力”還是“生產(chǎn)關(guān)系”？

AI時(shí)代如何破解科技和人文的發(fā)展困局，《人類(lèi)》指出，我們不是要反對(duì)技術(shù)，而是要對(duì)現(xiàn)代技術(shù)的本質(zhì)進(jìn)行反思。?海德格爾對(duì)現(xiàn)代技術(shù)進(jìn)行了深刻的反思，但他的“破解之道”卻顯得過(guò)于浪漫和“詩(shī)意化”。讓“機(jī)善”成為可能，還是要從世俗的物質(zhì)生產(chǎn)中去尋找答案。

馬克思認(rèn)為科技通過(guò)工業(yè)進(jìn)入人的實(shí)踐活動(dòng)，是“人的本質(zhì)力量的公開(kāi)的展示”?，雖然是以異化的方式進(jìn)行。在《資本論》中，馬克思闡述了他的“機(jī)器觀”或“技術(shù)觀”，揭示了機(jī)器不僅僅是物，而且還承載了資本主義的生產(chǎn)關(guān)系。人與機(jī)器的對(duì)立關(guān)系，是由于“機(jī)器的資本化”，或者說(shuō)，“這些矛盾和對(duì)抗不是從機(jī)器本身產(chǎn)生的，而是從機(jī)器的資本主義應(yīng)用產(chǎn)生的”！?其實(shí)，人工智能的發(fā)展并不必然會(huì)實(shí)現(xiàn)人的解放，也并不必然會(huì)導(dǎo)致“無(wú)用階級(jí)”的出現(xiàn)以及人類(lèi)在身體或精神上的覆滅。關(guān)鍵在于“人工智能”的所有權(quán)掌握在誰(shuí)的手里，“人工智能”所生產(chǎn)的財(cái)富被誰(shuí)占有，也就是社會(huì)的生產(chǎn)關(guān)系是怎樣的，決定了科技是“向善”的還是“趨惡”的。“因?yàn)椋a(chǎn)力的運(yùn)動(dòng)與發(fā)展并不是獨(dú)立實(shí)現(xiàn)的，而是在一定的生產(chǎn)關(guān)系的范圍內(nèi)實(shí)現(xiàn)的……人工智能與機(jī)器人的發(fā)展的目的、方向，以及它與人的發(fā)展之間的關(guān)系，在更大程度上并不是由人工智能本身決定的，而是受制于社會(huì)生產(chǎn)關(guān)系的作用與影響。”?“機(jī)善”之所以可能是因?yàn)椤叭松啤敝赡堋Ｈ缜拔奶岬剑祟?lèi)應(yīng)該平衡控物能力和自控能力。“控物”是生產(chǎn)力的體現(xiàn)，而“自控”即“社會(huì)化的人聯(lián)合起來(lái)控制‘生產(chǎn)的社會(huì)關(guān)系’”。?“我們應(yīng)該運(yùn)用‘生產(chǎn)力與生產(chǎn)關(guān)系、經(jīng)濟(jì)基礎(chǔ)與上層建筑’的辯證關(guān)系，不能僅將‘規(guī)范發(fā)展’停留于道德、法律、經(jīng)濟(jì)、科學(xué)等上層建筑領(lǐng)域，更應(yīng)轉(zhuǎn)向‘生產(chǎn)關(guān)系和社會(huì)關(guān)系’領(lǐng)域，警惕和防范各種消極后果”?，讓科技“向善”成為可能，從而實(shí)現(xiàn)人的自由全面發(fā)展和人的真正解放，達(dá)到“機(jī)善”與“人善”的統(tǒng)一。

五、結(jié)語(yǔ)

“我們眼前發(fā)生的、以人工智能、神經(jīng)科學(xué)、讀心術(shù)、互聯(lián)網(wǎng)、新演化論、基因工程等等為領(lǐng)頭羊的‘第三次’（也有人稱(chēng)為‘第四次’）科技革命顯然全部圍繞人而展開(kāi)：人的身體和人的智能。”?雖然目前我們所處的AI時(shí)代，仍然是弱人工智能階段，但科技的飛速發(fā)展可以預(yù)見(jiàn)，在不久的將來(lái)強(qiáng)人工智能出現(xiàn)，直到“奇點(diǎn)時(shí)刻”來(lái)臨，人類(lèi)將進(jìn)入所謂的“后人類(lèi)時(shí)代”——超級(jí)人工智能時(shí)代。那時(shí)的“新人”將不同于現(xiàn)在的人，因此“他們”的“存在和價(jià)值”以及“他們”的“社會(huì)組織形式和生活方式”也會(huì)與現(xiàn)在迥然相異。“他們”甚至?xí)驗(yàn)榕c人的“主客體”轉(zhuǎn)換而顛覆人類(lèi)的世界并取而代之。現(xiàn)在的人類(lèi)是否已經(jīng)意識(shí)到這一切并為之做好準(zhǔn)備？應(yīng)該如何防范和應(yīng)對(duì)可能出現(xiàn)的巨大風(fēng)險(xiǎn)，又該如何處理人和“新人”之間的關(guān)系？人類(lèi)一直忙于不斷地追求進(jìn)步，是否也該思考下人類(lèi)命運(yùn)及其文明的長(zhǎng)久存續(xù)之道？《人類(lèi)》一書(shū)立足人類(lèi)命運(yùn)的未來(lái)發(fā)展，對(duì)我們時(shí)代的“最大真實(shí)”——技術(shù)問(wèn)題進(jìn)行了倫理和人文的思考，發(fā)出了振聾發(fā)聵的吶喊聲，可不警乎？

注釋?zhuān)?/p>

①⑤⑥⑦⑧⑨⑩????????????????? 何懷宏：《人類(lèi)還有未來(lái)嗎》，廣西師范大學(xué)出版社2020 年版，第 80—81、6、6、112、113—114、120、122、124、189、44、136、19、149、150—151、152、218、155、157、103、103、120、125、118、46 頁(yè)。

②③④? 李瓊瓊、李振：《智能時(shí)代“人機(jī)關(guān)系”辯證——馬克思“人與機(jī)器”思想的當(dāng)代回響》，《毛澤東鄧小平理論研究》2021年第1期。

???? 李河：《從“代理”到“替代”的技術(shù)與正在“過(guò)時(shí)”的人類(lèi)？》，《中國(guó)社會(huì)科學(xué)》2020年第10期。

? ［德］海德格爾：《海德格爾文集：演講與論文集》，孫周興譯，商務(wù)印書(shū)館2018年版，第29頁(yè)。

? 何懷宏：《在人性的范圍內(nèi)——有關(guān)科技與人文的一些思考》，《華東師范大學(xué)學(xué)報(bào)》（哲學(xué)社會(huì)科學(xué)版）2021年第1期。

?? 夏永紅：《人工智能可以成為道德大師嗎》，《道德與文明》2021年版第1期。

?? 宋潔、王伯魯：《從“用具”到“技術(shù)”——海德格爾此在的敞開(kāi)與遮蔽思想流變解讀》，《北京理工大學(xué)學(xué)報(bào)》（社會(huì)科學(xué)版）2019年第1期。

?? 宋祖良：《拯救地球和人類(lèi)未來(lái)》，中國(guó)社會(huì)科學(xué)出版社1993年版，第3、149頁(yè)。

? 仇德輝：《情感機(jī)器人——人工情感的邏輯框架與深度算法》，臺(tái)海出版社2018年版，第41頁(yè)。

? 《馬克思恩格斯選集》第1卷，人民出版社1995年版，第775頁(yè)。

? 《馬克思恩格斯文集》第1卷，人民出版社2009年版，第193頁(yè)。

? 《馬克思恩格斯文集》第5卷，人民出版社2009年版，第508頁(yè)。

? 林劍：《論人工智能的發(fā)展對(duì)人的勞動(dòng)解放與社會(huì)解放的意義》，《人文雜志》2019年第11期。

? 張自永、吳宏洛：《人工智能時(shí)代勞動(dòng)解放的四維解析》，《海南大學(xué)學(xué)報(bào)》（人文社會(huì)科學(xué)版）2020第6期。