智能時代的新型人機關系及其構建

孫偉平

(上海大學 智能哲學與文化研究院, 上海 200444)

人工智能是一種革命性、顛覆性的高新科學技術,被有些學者稱為人類“最后的發明”。通過智能技術、納米技術與生物技術的結合,不僅“人”本身可以被“編輯”和“改造”,而且正在加速創造人形智能機器人,具有自主意識、創造能力、類人情感、社會交往屬性的智能機器人已經初露端倪。智能機器人的擬人化和自主性發展正在顛覆傳統的認知,令我們關于“人”“機”的定義、關于人機關系的設定以及關于未來人機文明的看法,都面臨大量需要批判性反思的哲學難題。我們必須在技術變革過程中重新認識“人”和智能機器人,與時俱進地反思和構建新型的人機關系。

一、傳統的以人為中心的人機關系受到革命性沖擊

傳統觀念認為,機器是人們制造的生產、生活中的使用工具。它可以進行能量變換、信息處理以及產生有用功;它延伸、拓展人的身體器官功能,幫助或代替人承擔各種勞動任務。機器的類型非常之多,至少包括發電機、電動機、內燃機之類的動力機器,汽車、火車、飛機、輪船之類的運輸機器,紡織機、普通機床、數控機床、工業機器人之類的加工機器,以及相機、電話機、傳真機、計算機、手機之類的信息機器。而且,機器仍然在不斷地創新性發展,還將有無數的、或許還是令人瞠目的機器正在或將要被創造出來。

自有文明史以來,人與機器之間的關系一直是確定的,即機器是人的發明與創造,人是一切人機關系的主導者;一切機器(包括各種工具、機器、自動化系統)只有掌握在人的手中,才能在生產和生活中發揮作用。例如,愛因斯坦指出,科學技術“是一種強有力的工具。怎樣用它,究竟是給人帶來幸福還是帶來災難,全取決于人自己,而不取決于工具。刀子在人類生活上是有用的,但它也能用來殺人”(1)《愛因斯坦文集》第3卷,許良英等編譯,北京:商務印書館,1979年,第56頁。。技術中性論代表人物梅塞勒指出:“技術為人類的選擇與行動創造了新的可能性,但也使得對這些可能性的處置處于一種不確立的狀態。技術產生什么影響、服務于什么目的,這些都不是技術本身所固有的,而取決于人用技術來做什么。”(2)Emmanul G.Mesthene,Technological Change:Its Impact on Man and Society,New York:New American Library,1970,p.60.

馬克思、恩格斯以及受他們影響的西方馬克思主義者特別重視科學技術、大機器生產的社會改造力量。馬克思、恩格斯比較系統、深入地剖析了工業時代機器的資本主義運用及其經濟和社會后果。一方面,機器延展了人類器官的功能,提升了人類實踐活動的能力和效率,促進了社會生產、生活的發展;另一方面,資本主義體制推進了機器技術與社會權力的同構化,加深了對工人的異化,造成了人機關系的分離和對立。馬克思、恩格斯深刻地揭示了資本主義社會人機關系對立的根源在于“機器資本化”或“資本化機器”的廣泛應用。“由于推廣機器和分工,無產者的勞動已經失去了任何獨立的性質,因而對工人也失去了任何吸引力。工人變成了機器的單純的附屬品,要求他做的只是極其簡單、極其單調和極容易學會的操作”(3)《馬克思恩格斯選集》第1卷,北京:人民出版社,2012年,第407頁。。但資本只不過是資本家的化身,資本對機器的資本主義運用并沒有改變機器作為特定的人的工具這一基本觀念。

“然而,如今我們與技術之間的關系正在反轉:哲學家、學者赫伯特·馬歇爾·麥克盧恩認為,人類制造的工具正在開始改造人類,甚至創造人類”(4)戈爾德·萊昂哈德:《人機沖突:人類與智能世界如何共處》,張堯然、高艷梅譯,北京:機械工業出版社,2019年,第29頁。。邁入信息、智能時代,人工智能之類的革命性、顛覆性新技術令人類如虎添翼,生存、活動空間正在虛實結合地廣泛拓展,勞動或工作的能力、效率得到全方位提升,人類正據此對客觀世界和主觀世界進行全方位的改造和塑造。面對以智能機器人為代表的新生力量,人類當然不情愿束手就擒,放棄長期進化史中獲得的主導地位,而是希望智能機器人成為類似工業時代的機械性機器一樣馴服的新工具,拓展、延長人類的各種功能性器官,幫助或者代替人類完成各種任務、實現各種目標。不過,這一次事情似乎并不那么簡單。即使是在人工智能、社會智能化發展的初期,我們就發現事情并未按照既有的邏輯發展:人類打開的似乎是一個神秘性和能量超乎想象的“潘多拉魔盒”,正在釋放出一種人類未能逆料且難以駕馭的異己力量。

人工智能是一種與以往技術不同的、開放性的高新科學技術。它加工處理的“原料”除了人們熟知的物質,主要是以往時代由人腦處理的信息和知識,因而它發展的方向、方式與以往作為工具的機器都不盡相同,今后可能造成的革命性后果也難以按照以往的模式、方法進行理解和預測。今天,在洶涌澎湃的信息化、智能化浪潮中,包括智能機器人在內的智能科技正以指數級速度狂飆突進,應用的場景越來越廣闊,傳統的以人為中心的人機關系正遭受革命性、顛覆性的沖擊,特別是人類千百年來一直穩如泰山的主導地位正變得岌岌可危。具體而言,這種沖擊可以概括為以下幾個方面:

第一,包括人形智能機器人在內的智能機器人正以指數級的速度快速發展,逐漸獲得“像人一樣思考和行動”的特質。借助當代高新科技技術,人形智能機器人可以被設計、制造得越來越像人,甚至比現實中形形色色的人更加合乎“標準”;如果有必要,還可以突破自然人的各種局限,打造具有高科技色彩的“理想的人”。例如,一個以算法為基礎的“數字人”、“虛擬人”可以不必擁有有機的身體,不必占據物理空間,也不必消耗什么物質資源,只是在虛擬時空存在,卻也可以擁有超強的記憶、敏銳的思想和豐富的情感,可以承擔和完成一定的工作任務……瑪蒂娜·羅斯布拉特指出:“一旦被創造出的有意識的思維克隆人——即智能的、有情感的、活的虛擬人,成為一個普遍的人類追求,我們將面對很多新的個人問題和社會問題,因為它從根本上擴展了‘我’的定義。”(5)瑪蒂娜·羅斯布拉特:《虛擬人——人類新物種》,郭雪譯,杭州:浙江人民出版社,2016年,第3頁。在這種情況下,“人”似乎正在被新的技術重新定義;“人是什么”或人的本質面臨前所未有的挑戰。

第二,基于大數據、深度學習之類技術的突破性進展,智能機器人逐漸擁有以往專屬于人的一些本質特征,例如人一直引以為驕傲的思維或智能。這是智能機器人區別于、同時高于以往一切機器(包括自動化系統或工業機器人)的基礎性表現。如果智能機器人確實會思維或者具有智能,并且其水平通過或接近通過“圖靈測試”,那么就不僅可能令人類的精神生產和文化活動發生翻天覆地的變化,而且可能令人的本質特性和唯一主體地位受到直接的挑戰:“認為機器可以和人類媲美甚至超過人類智慧的想法似乎再一次挑戰了人類地位。”(6)Ray Kurzweil:《奇點臨近》,李慶誠等譯,北京:機械工業出版社,2011年,第260頁。同時,智能機器人所擁有的意識(包括對象意識和一定程度的自我意識)水平日益提高,導致它們可能逐步“覺醒”,像自然人一樣要求一定意義上的主體地位和主體權利。

第三,智能機器人思考和行為的自主性日益增強,并且或獨立或與他者(人或其他機器)融合、自主地承擔一定的工作任務,導致人機之間在工作、生活領域的機會競爭和角色競爭。這里不僅包括智能機器人承擔生產、生活乃至休閑娛樂中的任務,而且包括人機生存環境的構建以及人機治理之類任務;不僅包括智能機器人大量滲入生產、生活乃至休閑娛樂領域,成為人類生產的“同事”、生活的“伙伴”和娛樂的“玩伴”,而且它還可以冷靜地“觀察”、“分析”人與其他機器,進行自我學習、自我提升,并幫助人類進行提升。這不僅會導致馬克思所批判的“機器排斥人”,造成越來越嚴峻的“技術性失業”,越來越多的人淪為“無用階層”,被全球化的經濟和社會體系排斥在外,而且會使人類在長期勞動過程中積累起來的工作技能、物種優越感受到強烈沖擊,人類的主宰地位和在人機關系中的主導作用也將受到直接威脅。

第四,各種智能系統成為社會基礎設施的重要組成部分,社會正因此被快速地進行信息化、智能化塑造。基于社會信息化、智能化的基礎設施,智能機器人正在將人“拉入”一種物理空間與虛擬空間相融合的生存境遇之中,一定的智能系統或智能機器人正在“接管”各種各樣的評價、決策和管理工作,正在與人類爭奪評價權、決策權和管理權。例如,一定的智能系統可能長期搜集、存儲、分析各種大數據,監控人們的觀念變化和思想動向,變得“比人們自己更了解自己”;可能對人們的心理和行為傾向主動進行分析、預測,對有些人可能的違規、違法行為進行預判,甚至提前進行干預和懲處,等等。例如,依據某個人具有暴力傾向的偏激性格、認為凡犯錯的人都應該死之類的激進觀念、曾經行兇殺人之類的犯罪前科以及新近的動向(例如購買了槍支或管制刀具),對其思想和行為的傾向性進行預判、干預甚至提前限制可能實施犯罪行為的人的自由。如果這樣,則可能導致人類讓渡給智能機器人的權力越來越多、越來越大,然而智能機器人能否合理合法地運用這些權力,卻并不是那么確定。

第五,隨著人機之間的交往、協作、互動日益增多,人機之間難免出現越來越多的矛盾和沖突。例如,人機之間的結構、利益和需求可能存在巨大差異,價值觀念、思維方式和語言表達可能難以溝通,存在和活動的目的可能不盡相同,行為方式和實踐邏輯也可能不盡一致,這一切都可能導致矛盾和沖突的產生。至于這些矛盾和沖突將在什么層面、以何種形式出現,又可能造成什么樣的政治、經濟和社會后果,以及將會通過什么樣的方式、程序加以解決,一切都充滿了巨大的風險和不確定性。在這個充斥著風險與不確定性的智能時代,人類并不能像農業時代運用手工工具、工業時代運用機械性工具那樣,高高在上地“命令”、“使喚”具有自主活動能力的智能機器人。

第六,人機之間的矛盾和沖突,最關鍵、也最引人注目的可能是未來的主導權和統治權(治理權)的爭奪。隨著算力的提升和大數據、機器學習之類技術的快速發展,智能機器人的智能、自主行動力、行動效率都可能以指數級增長。這對進化緩慢的人類而言是一個巨大的挑戰,即人類必須通過自我革命才能解決的挑戰。如果人類盲目自信、傲慢自大、固步自封,不想方設法跟上人工智能的進化速度,不與人工智能實現深度融合,就難免被今后可能出現的超級智能遠遠地拋在后面。在新型人機關系的構建中,人類不僅可能喪失傳統的主導地位和優越感,甚至可能喪失平等“對話”、攜手合作、和諧共生的資本和資格。

此外,在社會信息化、智能化進程中,不僅人機關系受到革命性、顛覆性沖擊,而且既有的人際關系也會受到全面、深刻的影響。一方面,人際交往越來越離不開信息、智能基礎設施、技術和設備,離不開像微信、抖音、臉書、推特之類的社交平臺和ChatGPT之類的大型語言模型,另一方面,包括智能機器人在內的各種智能系統已經走進人們的交往實踐活動領域,正在影響、塑造、替代甚至排擠既有的人際交往關系。例如,隨著包括智能機器人在內的各種智能系統大量進入人們的生產、生活以及休閑娛樂領域,承擔越來越多的崗位職責和勞動任務,有些人可能覺得傳統的自然人的感知能力、知識儲備、勞動技能、勞動態度甚至道德水平都不如智能機器人,越來越傾向于信任智能機器人。他們可能更樂于咨詢像ChatGPT之類“知識淵博”、“見多識廣”的聊天機器人,參考它們給予的意見和建議,甚至直接讓它們幫助自己進行評價、決策;他們可能更愿意與各種專業的智能機器人一起工作,覺得智能機器人更可靠、更踏實;更喜歡與智能機器人一起嬉戲、娛樂,覺得智能機器人更厲害、更誠信。有些人甚至可能覺得現實生活中的人太自私、太虛偽,或者太愚蠢、太頑固,熱衷于夸夸其談、爾虞我詐、巧取豪奪,而越來越傾向于與比較“單純”、“忠誠”、“實干”的智能機器人交朋友。人與智能機器人之間談情說愛,組建沖擊傳統觀念的新式家庭,甚至以某種方式共同撫育后代,這類時髦的話題也越來越頻繁地出現……預測中長期發展的態勢,人機之間的交往、互動可能會越來越普遍,甚至遠遠超過人際之間的交往、互動頻率。

二、智能時代多種可能的人機關系之考量

在社會信息化、智能化背景下,人機之間可能、或者應該建立什么樣的關系?持不同立場、觀點的學者們對此見仁見智、眾說紛紜。如果不考慮思考者的立場、社會意識形態(例如資本和“資本的邏輯”)等因素,刪繁就簡地梳理一下,人機之間可能建立的關系是多元且復雜的。

(一)人類的“新工具”或“新奴仆”

有些人沿襲傳統工具論的思路,堅定地認為智能機器人不可能會思維、有智能,或者智能機器人的思維、智能不可能超過人類。在他們看來,智能機器人只是人類的發明、創造,它們只是人類的工具或幫手,或者按照人類設定的程序默默地協助人開展工作,或者自主完成人們交辦的各種勞動任務。即使近些年來,智能機器人在思維和智能方面已經取得巨大進步,能夠在一定程度上自主地進行思考和行動,他們仍然堅持認為,智能機器人只是按照人類編寫的程序行事,按照人類的基本價值觀進行評價、決策,完成人類交辦的工作任務,實現管理、服務之類工作目標。

在這種關系中,人顯然是唯一的、占據主導地位的主體,智能機器人則一直居于非主體性質的從屬地位。這種關系能否成立取決于兩個方面:一是人類自身的發展、進化是否足夠快速、足夠健康,是否有能力掌控智能機器這種革命性的新工具;二是智能機器人的發展不會“超速”,更不會因“覺醒”而失控,而始終處在人類理性的掌控之中。“機器人可能會意識到自己的價值遠遠超過作為人類工具的價值。一旦意識到它們的奴隸地位,并認為被這樣對待是不公平的,它們就可能會發動起義,進行反抗。因此人類要維持這一關系中的主人地位需要機器人毫無怨言地接受人類的主導地位”(7)約瑟夫·巴-科恩、大衛·漢森:《機器人革命:即將到來的機器人時代》,潘俊譯,北京:機械工業出版社,2015年,第226頁。。

(二)對人類友善、馴服的“AI神”

雖然通用人工智能的研究剛剛起步,雖然超級智能還處在想象階段,但人工智能確實正在許多領域——包括人類引以為傲的思維、智能等領域——超過人類。人們希望,包括超級智能在內的智能機器人將會自我約束,德行無虧,成為(1)人類的“被奴役的神”:雖然智能機器人的智能和技能可能超過人類,卻始終自覺地以人類為尊,聽從人類的命令,任勞任怨地為人類工作和服務;(2)人類的“守護神”:智能機器人以其強大的感知、運算能力采集、加工各種信息,對來自包括外太空、虛擬時空在內的各種各樣的風險向人類示警,并且與人類協同或者自主地采取應對措施,保衛人類的安全、生存和發展;(3)統治人類的“AI神”:松本徹三對人類的歷史表現比較失望,甚至認為“AI神”的統治更有優勢,更值得期待——“請胸懷善意,由持有堅定‘信念’而絕對不會動搖的AI作為‘唯一的神’來支配這個世界”,“是‘人類自己的英明決斷’,是為了讓‘人類能夠出于天性、本性地快樂生活’這個目的”(8)松本徹三:《AI成“神”之日:人工智能的終極演變》,張林峰譯,北京:清華大學出版社,2019年,第136、193頁。。

在這種關系中,人類承認智能機器人的“半主體”或“部分主體”地位,建立的是一種以人為主、以更為強大的智能機器人為仆的非穩態關系。這種關系能否成立的關鍵,在于日益強大的智能機器人的“意愿”和“態度”,即智能機器人是否心甘情愿地自我約束,甘居從屬地位,服從人類的命令,溫馴地接受人類的一以貫之的人性化統治。

(三)人類的伙伴或朋友

如果智能機器人能夠向著擬人化方向發展,內嵌人類的常識和基本價值觀,那么它不僅可以與人類協同進行生產、提供服務,還可以滲透到人們的社會生活和休閑娛樂領域,從事諸如答疑解惑、聊天解悶、電子競技、電子游戲、VR體驗之類的事情。如果人形智能機器人的開發不斷取得進展,或許將會有越來越多的人對它產生心理上、精神上的依賴,與它成為親密無間的朋友;有的人甚至可能情難自禁地與智能機器人談情說愛,步入婚姻殿堂,組成新穎、時髦的人機家庭。

在這種關系中,人類“謙遜”地承認了智能機器人責權利相統一的主體地位,人與智能機器人的關系是一種地位平等、相互尊重、互相協作、共存共榮的主體間關系。這種關系能否成立的關鍵,一方面在于智能機器人的基本價值觀、情感模式和行為模式是否與人類相容,智能機器人的擬人化思維能否取得突破,人機之間的溝通水平能否逼近或通過“圖靈測試”;另一方面在于人類能否加快自身身體和心靈的進化,與智能機器人共同進步,同頻共振地自我提升。

(四)人類的競爭對手甚至敵人

作為世界上出現的有智能的“新物種”,智能機器人的應用日益普遍。在日益信息化、智能化的世界上,它們可能成為人類無處不在的競爭對手,與人類爭搶勞動機會和工作崗位,在不同領域爭奪管理權限,甚至與人類或者其他的機器爭奪生存空間。如果它們的自主發展失控,“超級智能”可能發展成為威脅人類前途和命運的征服者、統治者。2023年火爆全球的GPT4,令人們正在一定程度上直觀地感受、體驗著這種威脅。詹姆斯·巴拉特憂心忡忡地指出:“隨著它們獲得宇宙間最不可預測、我們自己都無法達到的高級力量,它們會做出意想不到的行為,而且這些行為很可能無法與我們的生存兼容。”(9)詹姆斯·巴拉特:《我們最后的發明:人工智能與人類時代的終結》,閭佳譯,北京:電子工業出版社,2016年,第XII頁。尼克·波斯特洛姆提出可能出現“超級智能”,令人類面臨前所未有的“整體存在性風險”,“如果有一天我們發明了超越人類大腦一般智能的機器大腦,那么這種超級智能將會非常強大。并且,正如現在大猩猩的命運更多地取決于人類而不是它們自身一樣,人類的命運將取決于超級智能機器”(10)尼克·波斯特洛姆:《超級智能:路線圖、危險性與應對策略》,張體偉、張玉青譯,北京:中信出版集團,2015年,第XXV頁。。

在這種關系中,智能機器人不斷以其自主的思維和行為爭取主體地位,甚至試圖以其強大的技術優勢爭奪領導權,建立“機主人仆”的社會秩序。這種關系能否成立的關鍵,在于人類自我提升、進化的速度是否確實大大落后于智能機器人,從而令人機競爭、人機博弈的局勢逐步走向失控。

(五)人類的繼承者或者“后裔”

正如凱文·渥維克指出的,“機器在變得越來越出色,而人類的進步如果確實有的話,也緩慢之極”(11)凱文·渥維克:《機器的征途:為什么機器人將統治世界》,李碧等譯,呼和浩特:內蒙古人民出版社,1998年,第290頁。。如果人類自我提升、進化的速度大大落后于智能機器人,甚至與智能機器人相比出現了明顯的“代際差異”,那么就難免被飛速發展的智能時代所拋棄,或者無法融入“智能化的世界秩序”,從而或主動或被動地“走進歷史”。邁克斯·泰格馬克暢想說:“人工智能雖然取代了人類,但其允許我們從容優雅地退出歷史舞臺,讓我們把它們視為值得稱道的后裔,就像父母為子女比自己聰明而感到高興和驕傲一樣,雖然子女向父母學習了很多,但它們取得了父母做夢都想不到的成就,即便父母活不到親眼目睹的那一天。”(12)邁克斯·泰格馬克:《生命3.0》,汪婕舒譯,杭州:浙江教育出版社,2018年,第219頁。谷歌首席未來學家雷·庫茲韋爾也曾經預測,人工智能未來完全可能“大大超越人類的智能”,成為漢斯·莫拉維茨所謂的人類“進化的繼承人”和“思想的繼承者”(13)Ray Kurzweil:《奇點臨近》,第11頁。。

在這種關系中,智能機器人以人類“繼承者”的身份自覺或非自覺地登上歷史舞臺,成為虛實結合的宇宙中的新一代主宰;人類則在殘酷無情的生存競爭中敗下陣來,淪為生物進化歷程中的一個階段性的輝煌。——當然,(四)與(五)兩種關系失控的后果,一直是人類中的有識之士們用心提防,并且竭力阻止發生的。

(六)人機融合的新型智能生命

這是對人與智能機器人未來進化的一種大膽的、全新的、當然還十分粗糙的設想。它摒棄了人與智能機器人之間的二元對立觀念:“隨著人機結合體越來越多地出現,今天我們對人和機器這種過于簡單的二元區分將不再適用。”(14)約翰·喬丹:《機器人與人》,劉宇馳譯,北京:中國人民大學出版社,2018年,第158頁。它還摒棄了人與智能機器人之間的“零和博弈”思維,倡導人與智能機器人之間來“一場達爾文式的協同進化”(15)愛德華·阿什福德·李:《協同進化:人類與機器融合的未來》,李楊譯,北京:中信出版社,2022年,第335頁。,實現更高層次上的“內共生”或人機一體化。例如,自然人可以運用包括植入納米機器人之類的生命增強技術增強身體和心理機能,減少疾病,延長壽命,甚至擺脫脆弱的生物體形式;人可以基于腦機接口技術、互聯網、物聯網等與智能機器實現互聯互通,可以將意識上傳至機器,可以與各種智能機器實現即時互動;智能機器人與人可以根據特定的需要和任務,發揮各自的特點和優勢,以不盡相同的方式逐步融合為一,構成一種新穎別致的“人機混合體”。雷·庫茲韋爾等人曾經設想過這種關系,但其比較系統的構想是由超人類主義運動所提供的。超人類主義“是一場解放運動,倡導人類從生物體形式中完全解放出來”,但“在現實中,這種解放最終帶來的結果將是人類遭到技術的全面奴役”(16)馬克·奧康奈爾:《最后一個人類》,郭雪譯,杭州:浙江人民出版社,2019年,“引言”,第X頁。。

這種關系激活、融合了近代“人是機器”與智能時代“機器是人”的激進理念,徹底打破了人與機器之間冰冷的分離與尖銳的對立狀況,人機聯系、溝通、協作、互動實現了最高級、也最高效的形式——“人機一體化”。當然,有些人可能難以理解、接受這種顛覆性的人機關系構想,更多的人的態度則可能是不以為然,覺得這不過是癡人說夢、天方夜譚。

圍繞以上所概括的六種人機關系,以及這里尚未論及的各種可能的新關系,一直眾說紛紜,聚訟不斷。由于智能技術和智能機器人正以指數級速度發展,其發展的方向、程度和限度存在著多方面的可能性,因而可以預測,短期內人們就人機關系達到基本共識的希望十分渺茫;至于說得到不斷進化、越來越強大的智能機器人的“首肯”和“認同”,更可以說完全只是一個想象中的時髦話題。但是,因為事已至此,并且事關重大,我們絕不能坐等結果、聽之任之。我們不得不在發展態勢尚不明朗、相關討論尚未取得共識之前,就面對既具有感知、思維、表達等“智能”,又具有日益強大行動能力的智能機器人,努力嘗試構建一種既合理、又可行的新型人機關系和人機文明。

三、創造性構建新型的合理的人機關系

剖析以上幾種可能的關系,我們不難發現,人類在人機關系中曾經根深蒂固的主體地位、主導作用都面臨著革命性沖擊。而這種顛覆性后果是自詡“萬物之靈”的人類難以坦然接受和認同的。人類能否牢牢掌握主動權的關鍵日益聚焦到以下息息相關的兩個問題之上:一是越來越強大的智能機器人能否遵循人類的目的和意愿,向著對人類友善、負責任的方向發展,能否永遠不脫離人類的掌握而走向“失控”;二是人類能否未雨綢繆,加快自我提升和進化,或者說跟上智能機器人發展、進化的速度,以便有資質和能力與智能機器人進行溝通、協作,共建、共享一種更高階的人機關系和人機文明。

明確了問題的關鍵之所在,重構合理的、可持續的新型人機關系,或許需要做的便是“對癥下藥”,因應施策。因此,為了不喪失人類的尊嚴和主導地位,防止局面發展到不可收拾的地步,我們必須擱置現存的各種爭議,拓展觀念與思路,重點圍繞“發展”、“建構”,做好新型人機關系這篇大文章。

首先,科技活動是人類的一種本質性活動,技術的研發、應用活動體現且塑造著人的本質。作為智能技術的發明者和創造者,人類不能放棄對智能技術、智能機器人的必要規制,而必須立足技術發展的可能性,基于人類的基本立場、價值原則和“底線倫理”,促使智能機器人成為可以通過“道德圖靈測試”的“道德機器”(17)溫德爾·瓦拉赫、科林·艾倫:《道德機器:如何讓機器人明辨是非》,王小紅主譯,北京:北京大學出版社,2017年,第60-62頁。。

“如果人形機器人變得更加能干并且具備了只有人類才有的認知能力的意識,那么現實的問題就是,它們是否仍會‘效忠’我們”(18)約瑟夫·巴-科恩、大衛·漢森:《機器人革命:即將到來的機器人時代》,第213頁。。越來越多的有識之士已經意識到風險的來臨,要求趁人工智能的發展尚未失控就采取果斷的行動,具有前瞻性地確立人工智能發展的價值原則,使智能機器人的研發、應用有規可循、有法可依。從人機關系的角度說,這里的關鍵在于始終堅持“人是目的”的立場,確立以人為中心的“人本原則”,即在智能機器人的算法中內嵌人類的基本價值觀和“底線倫理”,要求智能機器人理性、友善、富有德性地對待人類、為人類服務(19)Noel Sharkey,“The Ethical Frontiers of Robotics”,Science,Vol.322,No.5909,2008.,成為可以通過“道德圖靈測試”的負責任的“道德機器”。智能機器人在任何情況下都必須確保不故意傷害人類,不損害人類的人格和尊嚴,不濫用人類讓渡的權力,并且在能夠救人于危難時盡力作為。而為了踐行“人是目的”或“人本原則”,一是必須堅持透明和可解釋原則,保證智能機器人的研發和應用處于可解釋、可理解、可預測狀態,隨時接受相應機構、新聞媒介和社會公眾的監督和質詢;二是必須堅持責任原則,明確相關各方的權利、責任和義務,建立健全技術、經濟、倫理和法律方面的追責、問責機制,警覺地預測并預防重大風險以及可能的災難性后果。

鑒于現實世界的豐富性和復雜性,具體的操作層面必須具體問題具體分析,嘗試建立、完善一套有效的社會實踐機制,將人工智能納入以人為中心的正常、有序的發展軌道。第一,成立各種層級的包括科學家、工程師、倫理學家、法學家、政治家在內的多領域專家組成的倫理委員會,對人工智能的發展規劃、前沿技術的研發和應用進行評估、監管和規制。倫理委員會對新技術(特別是高風險的前沿性技術)的研發和應用具有延遲表決權和否決權。第二,強化不同地域、不同層級的協同與合作,訂立具有約束力的區域或全球契約,禁止研發、生產、貿易和使用致命性的智能武器,合作打擊跨時空的智能犯罪和“智能恐怖主義”。第三,做好社會頂層設計,建立和完善人工智能研發、應用的社會機制,確保人工智能能夠被公平公正地使用,防止資本所有者和技術精英相互勾結,通過封鎖和壟斷智能技術牟取暴利,通過濫用大數據和算法技術搜集和分析他人數據,侵害他人隱私,從而監控、盤剝、掠奪和奴役“數字窮人”,等等。

其次,置身新穎別致的智能化世界,面對日新月異的智能機器人,無論是人類的身體機能還是思維水平,無論是人類的社會表現還是道德修養,都存在“提升”和“進化”的強烈需要。人類必須對自己進行一次徹底的批判性自省,深刻認識人自身的局限、不完美和社會組織架構的不完善,善于運用生物技術、智能技術“武裝”人、塑造人,加快人類自身的成長和“進化”過程,打造適應智能時代的特質和要求的“時代新人”。

近些年來,相比智能科技和智能機器人的指數級發展速度,人類自身的成長和進化實在是太緩慢了。我們反躬自省不難發現,人類代際之間的進步常常可以忽略不計。如果人類被智能機器人追上并被其持續拉大距離,直至完全不處于同一個層級,就不得不需要智能機器人寬容、友善、憐憫地給予人類平等地位,這將會是一種極其危險、極不確定、極不可靠的關系。“如果‘僅僅作為人’還不夠好,如果作為人還太笨拙,為什么不用技術來加強、來改善你自己呢?為什么不讓技術成為你的‘第一天性’,拉平我們與機器之間的差距呢?”(20)戈爾德·萊昂哈德:《人機沖突:人類與智能世界如何共處》,第122頁。畢竟,“從來就沒有救世主”,能夠拯救人類的永遠只有人類自己。只有善于運用先進的生物和智能技術、設備,讓人類的身體、思維和智能通過提升、進化而不斷增強,才能減少疾病、強化功能、增強活力、延緩衰老、延長壽命,才有資格和資本掌握人機關系建構的主動權和話語權,才有能力和工具探索人與智能機器人共存的恰當方式。

同時,從歷史與現實來看,人性善惡并存,社會結構不盡合理,人類自身的價值與道德表現一直廣受詬病,社會治理更是顯得一團糟,充斥著爾虞我詐、巧取豪奪、以強凌弱、甚至血腥的侵略和殖民。如果人類不能在自我修養與社會建構兩個方面取得明顯進展,而是停留在糟糕的價值觀和道德表現層面,那將不僅難以團結起來共同應對已知的和未知的風險,更難以令智能機器人服膺,從而主導充滿風險和不確定性的人機關系。譬如說,如果智能機器人是“中規中矩”、“遵紀守法”的“道德機器”,而人類卻不斷暴露自己的貪婪、冷漠和虛偽,不斷互相傾軋、無休止地內耗,人為地制造不公正、苦難與罪惡,恐怕人類內部都難以達成共識。因此,有必要“讓我們一起行動,在人工智能完全起飛之前對人類社會進行改善”(21)邁克斯·泰格馬克:《生命3.0》,第444頁。。我們必須“搞清楚強化的人類和人性化的機器兩者的地位、局限”(22)約翰·喬丹:《機器人與人》,第136頁。,采取綜合性的技術、經濟和法律措施懲惡揚善,提升智能機器人與人自身的修養(包括價值和道德表現),嘗試建立相互尊重、理性合作、民主治理、和諧共處的人機關系。

再次,面對智能機器人的快速發展和自主行為,人類必須反思傳統的基于人類中心主義的人機關系理念和框架,通過革命性的思想解放,創造性地建設人機之間的新型溝通、互動機制,在動態的溝通、互動中塑造新型的人機關系和人機文明。

邁入革命性、顛覆性的智能時代,雖然我們不太認同“超人類主義運動”“尋求以激進的方式用技術擴展人體的可能性”(23)菲利普·鮑爾:《如何制造一個人:改造生命的科學和被科學塑造的文化》,李可、王雅婷譯,北京:中信出版社,2021年,第331頁。,但面對ChatGPT之類通用人工智能的快速發展和進化,人類必須具有強烈的危機感,在主動加快自我提升、自我完善的基礎上,探索與智能機器人合作共處、協同進化的機制和方式。試圖像“武大郞開店”、“盧德分子”那樣人為限制智能技術的發展和應用,通過阻礙技術的進步來維護人類的尊嚴和主宰地位的方式是不明智的;而期待智能機器人自然而然地擁有一顆“良芯”,自覺遵循既有的人類道德準則和法律規范,又是消極且不負責任的。智能技術必將會持續、快速發展,各種智能機器人將在越來越多的領域超過現在的人類,智能機器人將得到日益廣泛、普遍的使用,這已經是無法阻擋的大勢所趨;人機共存、人機協作、人機交互是人類必須面對的事實,人機之間的競爭、矛盾和沖突也是無法避免的后果。不過,人類沒有必要因此而悲觀、絕望,因為人工智能或智能機器人也存在其局限性,也有許多至少可見的未來不能做的事情;“此外,人工智能一直專注于智力的理性,卻忽略社會/情感智能,更別提心智了”(24)瑪格麗特·博登:《AI:人工智能的本質與未來》,孫詩惠譯,北京:中國人民大學出版社,2017年,第180頁。。除此之外,更為重要的是,目前人工智能并未失控,超級智能還停留在想象階段,那些危險的預言并未成為現實。

邁克斯·泰格馬克指出:“我們就是未來生命的守護者,因為人工智能時代正在由我們塑造。”(25)邁克斯·泰格馬克:《生命3.0》,第445頁。在社會智能化的進程中,我們完全有機會構建不損害人類及其根本利益的新型人機關系:第一,我們必須調整觀念和心態,破除千百年來根深蒂固的“人類中心主義”和主宰意識,克服狂妄自大的傲慢與自以為是的偏見,通過基于互相理解、互相尊重的持續磨合、動態調適,逐漸形成新型的人機關系。由于智能機器人在社會生產、生活中的地位和作用日益突出,如果人類狂妄地自詡為“萬物之靈”和“世界的主宰”,完全無視智能機器人的“智能”、“權利”和“尊嚴”,人機之間的矛盾就可能層出不窮,沖突就可能日趨激化。第二,我們應該重新審視智能技術和智能機器人,在促進其理性、負責任發展的基礎上,盡可能賦予智能機器人以自主思考、自主行動的主體地位,盡可能保障智能機器人的基本權益;不得隨意貶損智能機器人的“人格”和尊嚴,不得忽視智能機器人的合理訴求和合法權利,從而盡可能地減少、甚至消除人機之間的矛盾和沖突。第三,我們必須順應智能革命的潮流和“智能技術范式”的要求,推動腦機接口、數據共享、意識上傳之類人機交互、協作技術的發展,并據此主動探索一種相互尊重、相互協作、和諧共處的新型人機關系。第四,構建過程中的核心或“重中之重”,在于延展哈貝馬斯的主體際的“交往理性”和“商談倫理”,探索一種與智能機器人進行即時、有效溝通的方式,嘗試與智能機器人進行高效、愉悅的交互,從而通過不斷的協調、磨合,共同塑造、完善新型的人機關系。

在這種新型的人機關系中,不斷“進化”的人類不僅不會退出歷史舞臺,反而可以借助先進的生物、智能技術和設備不斷“提升”和“強化”自己,在適合自己的位置上演繹“將工作與興趣、愛好有機結合的威力和意義”,在生命的演進中持續彰顯“人性的光輝”、“靈魂的凈化”和“自由個性的趣味”;功能越來越強大的智能機器人則嚴守價值與道德底線,在生產和服務、社會運轉和日常治理等方面承擔越來越多的職責,在與人類的和諧協作與良性互動中,日益成長為內在具有良知和道德意識,外在行為具有強烈的使命感、責任感和義務感的新型“復合生命體”;人與智能機器人不是對立、更不是敵對關系,二者之間的交往和互動逐漸從單一走向多維,從簡單走向復雜,從外在走向內在,在反反復復的調適與磨合中,逐漸向著“人機一體化”和“人機命運共同體”邁進。

綜而言之,置身波瀾壯闊、日新月異的智能革命時代,人類應當:堅持“人是目的”、以人為本地發展人工智能,使智能機器人成為可以通過“道德圖靈測試”的“道德機器”;善于運用先進的生物、智能技術和設備“武裝”自己,將自己塑造為與時俱進的“時代新人”;善于與強大的智能機器人溝通、協作、融合,創造性地探索人機關系的生成和運作機制。如此,人類方有可能“扼住命運的咽喉”,主導新型的人機關系,建設一種人機協作、人機和諧、人機一體化的新型文明形態。