人工智能算法的進化及其倫理效應

王 天 恩

(上海大學 哲學系, 上海 200444)

人工智能算法涉及智能進化的重要機制,而智能進化機制不僅關乎人工智能的發展,而且與更高層次的人類發展進化密切相關。從普通算法到智能算法,從算法的技術進化到智能算法的自主進化,越來越深入的研究不僅涉及人工智能,而且涉及人類智能及其與機器智能的共同基礎。正是在這個意義上,研究智能算法進化就是在探索人類發展乃至進化的長遠前景。

一、人工智能算法的技術進化

隨著人工智能的發展,算法可以簡單地區分為普通算法和智能算法,而智能算法又可以有專用智能算法、通用智能算法和自主進化算法之分。

人工智能的發展,使人們看到從計算機算法到人工智能算法的技術進化。數學是算法的基礎,而智能則意味著內在關系基礎上外在關系體的發展,因此其技術進化越是向智能化發展,算法越不僅僅是數學,而是通過內外在關系的循環發展,不斷深入地延伸進外部環境,使數學基礎和現實實踐對接乃至一體化。

在計算機領域,“算法”這一術語“不是用來指作為數學結構的算法,而是指一個或多個算法在特定程序、軟件或信息系統中的實現和相互作用”(1)Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra &Floridi Luciano, “The Ethics of Algorithms: Mapping the Debate”, Big Data &Society, 2(2016):1—21.。這意味著算法從純粹的數學結構到一種技術的發展。“‘算法’的通常用法還包括數學結構的技術實現,以及為特定任務配置的技術應用。一個完全配置的算法將把已經實現的抽象數學結構并入一個用于特定分析領域的任務分析系統。依據這一澄清,特定任務或數據集的算法配置不會改變其基本的數學表示或系統實現;更確切地說,它是算法的操作與特定情況或問題之間關系的進一步調整。”(2)Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra &Floridi Luciano, “The Ethics of Algorithms: Mapping the Debate”, Big Data &Society, 2(2016):1—21.隨著計算機的發展,算法逐漸進化到一個新的發展階段。普通算法可以是數學化的內部關系體,而算法的智能化則是在內部數學關系的基礎上,信息體外部關系的發展過程。在這一過程中,算法作為關系體而存在,算法的技術進化則是關系體的發展。正是作為關系體的這種發展,使算法的技術進化經歷了一個重要提升:從一套可以做什么的程序或指令,到自主做什么的智能體。

在智能算法主要作為內部關系的技術進化階段,算法可以是簡單的指令。由于計算機的發展,算法的可執行性成了信息世界完全不同于原子世界的基本事實。在算法的技術進化中,數字化具有極為重要的地位,智能算法之所以可能,就因為算法的數字發生構成可與原子對等的單位——比特(bit)。正是比特基礎上的發展,算法的技術進化呈現出日新月異的態勢。

隨著信息科技的發展,算法經歷了一個從運算法則到智能機制的技術進化過程。由于智能的本性是關系體,算法的發展過程同時也是信息關系層次提升的過程。根據算法的技術進化層次,可以劃分為技術算法、情景算法和智能算法等。算法的技術進化層次及其意義,在作為感受性關系的信息層次可以得到更到位的理解。

關于信息的當代研究表明,信息既不是物質也不是能量(3)Wiener Norbert, Cybernetic, or Control and Communication in the Animal and the Machine (Second edition), (the MIT Press, 1985),132.,而是感受性關系;作為感受性關系,信息具有創生性、涌現性和相互性(reciprocity)等基本特性。(4)王天恩:《信息及其基本特性的當代開顯》,《中國社會科學》2022年第1期。而信息的創生性意味著信息世界創造是信息創生意義上的整體建構——創構(5)詳見王天恩:《大數據中的因果關系及其哲學內涵》,《中國社會科學》,2016年第5期;《大數據和創構認識論》,《上海大學學報(哲學社會科學版)》,2021年第1期。。把信息理解為感受性關系,對信息編碼及其與信息的關系就可以有一個清晰的認識:信息編碼是作為感受性關系的信息的物能化和觀念化。因此數據不是信息而是信息編碼。信息編碼有兩種基本類型:信息的物能編碼和信息的觀念編碼。前者的典型如物理信號和DNA中的基因,后者的典型如作為自然類(natural kinds)概括產物的概念和符號。信息的符號編碼有一種特殊的方式,那就是信息的數字編碼。(6)王天恩:《人工智能算法的深層認識論意蘊》,《湖北大學學報(哲學社會科學版)》,2023年第1期。從技術算法到情景算法再到智能算法的發展,與從信息編碼深入到信息本身密切相關。

技術算法主要是工具意義上的計算和編程。在這一發展階段,算法可以非常簡單,“一個算法是一個指令序列,告訴計算機該做什么。計算機由數以十億計的稱為晶體管的微型開關組成,算法以每秒數十億次的速度打開或關閉這些開關。最簡單的算法是:按開關。一個晶體管的狀態是一個小信息:如果晶體管是開著的,那是‘1’;如果它是關閉的,那是‘零’”(7)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books,(2015):1.。從信息的感受性關系理解可以清楚地看到,這里顯然把比特看作了信息本身,所涉及的是數字算法的起點,還不能看作是數字算法的基本單元,事實上這是一個比特,也就是信息數字——更確切地說是數字編碼的基本單元。在這個意義上,算法事實上是面向物能載體的信息編碼及其功能性序列。由此進一步發展,就構成算法的基本單元。

在最基本單元的基礎上,數字算法進一步發展到推理。“第二個最簡單的算法是:使兩個比特結合。”(8)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books,(2015):1.正是在這一環節,香農(Claude Shannon)首次認識到,“當晶體管對其他晶體管做出反應進行開關時,它們所做的正是推理”(9)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books,(2015):2.。這是最簡單的算法,算法正是通過推理的物能化實現自己的功能。這個基礎上的算法屬于一般算法發展階段,完全是人類大腦的工具性延伸,不僅還不是任何意義上的智能算法,而且沒有涉及具體情景。因此,在最基本的層次理解,“從計算和編程的角度看,‘算法=邏輯+控制’;其中邏輯是問題域的特定組件,表示解決方案(要做什么)的抽象公式和表達,而控制組件是解決問題的策略和在不同場景下處理邏輯的指令”(10)Kitchin Rob, “Thinking Critically About and Researching Algorithms, Information”, Communication &Society, (2016):14—29.。由于只是基于信息編碼而沒有涉及作為感受性關系的信息,技術算法主要局限于內部關系,因此主要表現為計算機內部的推理形式;由于只局限于內部關系,技術算法不僅只是間接涉及算法倫理問題,而且由于作為關系體只局限于內部關系而沒有外部關系的對稱發展,因此不可能發展出真正意義上的智能。

真正意義上的智能一定涉及作為感受性關系的信息,國內外一些相關研究客觀上都涉及這方面的內容,在哲學領域,甚至可以在更早的研究中找到相關思想資源。“海德格爾對‘人—在—世界—中—存在’的本質描述仍然可以作為人工智能發展的一個重要參照系,使其在某些方面能夠以類似人的方式處理問題,并真正有助于人的生存。”(11)朱清華:《德雷福斯與海德格爾式人工智能》,《哲學動態》2020年第10期。海德格爾現象學關于人沉浸在世界中的情景涉及人在世界中的整個感受,恰好是對信宿處境的整體呈現。而梅洛-龐蒂的《知覺現象學》則具體化到人的身體知覺。由此可以得到關于人工智能技術進化的啟示,感受到其與人類進化的內在關聯。正是越來越表現為智能方式的人類進化,為人工智能算法進化研究提供了重要啟示。

作為通用智能,機器智能和人是同一個類,具有類的共同性。其中的一個重要共同點,就是建立起了內外部關系之間的雙向循環機制。事實上,智能概念本身就應當具有這樣的含義。算法的技術進化就意味著必須發展與內部關系對稱的外部關系,而網絡發展條件則為人工智能算法進化提供了不同于人類智能進化的特殊基礎。

算法發展的網絡環境為智能算法外部關系的發展提供了新的條件,從而使技術算法向情景算法進化。隨著算法和網絡的交疊發展,人們提出了“一個網絡信息算法的定義”。阿南尼(Mike Ananny)在網絡化算法相關研究的基礎上,探討了情景算法及其倫理問題。“考慮到這些關系,我將一種網絡化信息算法(NIA)定義為一個集合,它包含機構環境的計算代碼、人類實踐和規范邏輯,通過最低限度的可觀察、半自治的行動來創建、維持和表示人與數據之間的關系。雖然守則、慣例和規范可以在其他情況下單獨遵守,但它們的全部含義和力量只能從與其他模塊單位的關系角度來理解。”(12)Ananny Mike, “Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness”, Science, Technology, &Human, 1(2016):1—25.情景算法意味著從信息編碼深入到信息本身,“網絡信息算法”正是信息涉及的集中體現。雖然還不是基于信息更到位的理解,情景算法的信息性質不可能得到清晰呈現,但從其涉及環境并進而涉及倫理問題,可以間接地感覺到信息性質。

作為外部環境,網絡對于智能算法的意義與對于人類的意義有很大不同,因此也存在不同的道德關系。“它的代碼可能是透明的,它的設計者可能有良好的意圖,它的構成可能得到很好的控制,但是一個算法組合只有在它的手段、目的和美德的某種結合幫助我們與自己經驗的其他部分建立令人滿意的關系時,才能被認為是合乎道德的。”(13)Ananny Mike, “Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness”, Science, Technology, &Human, 1(2016):1—25.外部關系正是這樣一種性質:關系不僅是智能的,也是倫理的——更確切地說倫理關系正是高層次智能關系本身的應有之義。情景算法在內部推理關系的基礎上建立起外部關系,具有與環境的互動功能,因此會隨著其發展越來越直接涉及算法倫理問題,從而在算法發展中扮演著越來越重要的角色。

情景算法關于倫理問題的直接涉及,意味著算法向智能化進化。隨著人工智能的發展,不僅“算法在世界上扮演著越來越重要的角色”(14)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.,而且算法本身的進化取得了歷史性的突破,引起了越來越廣泛、越來越密切的關注。在算法發展的技術進化發展階段,“以軟件程序和應用程序的形式,算法使個人計算機和智能手機得以運作。算法以搜索引擎、社交媒體網站和在線商店的形式,幫助篩選、過濾和組織這個世界的信息”。在這樣一個發展階段,“大多數算法沒有理由讓人擔心,它們是精心制作的,每一步都有詳細的說明,以解決很好定義了的確切問題”(15)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.。這里所描述的是典型的技術進化。算法進化歷程的改變,開始于“一個新的算法家族——‘機器學習’算法”。與機器學習相聯系,“機器學習算法很快就會被用來解決那些普通算法從未解決過的問題,或者幾乎從未解決過的問題,而且,其中的許多應用如果失敗或被濫用,都會給個人和社會帶來巨大的風險”(16)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.。因此,隨著其發展帶來的問題,智能算法引起了人們越來越廣泛的關注。由此我們可以看到算法的技術進化走向智能化,看到算法的人類智能加持及其發展方向。

在人工智能的發展中,算法的技術進化正是一個人類賦予算法智能的過程。由于設計者賦予算法以目的,作為“有限、抽象、有效、復合的控制結構”,算法可以“在給定規定下達到給定目的”(17)Hill Robin K, “What An Algorithm Is?”, Philosophy &Technology, 1(2016):35—59.,這是人類智能賦予算法智能,逐漸使普通算法向智能算法進化的過程。而真正意義上的智能算法,應當是從學習算法開始。

學習算法是算法技術進化進入智能化的產物,也是智能算法的起點。“一個學習算法就像一個熟練的工匠:它的每一個產品都是不同的,并且根據客戶的需要精心定制。”(18)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books, (2015),xiv-xv.在從普通算法到智能算法的發展過程中,深度學習算法已經是典型的智能算法。智能算法正是始于學習算法,而深度學習則不僅是智能算法的更高層次起點,而且展示了智能算法的學習深度。在智能算法的進化中,學習深度與算法的自主性密切相關。而算法的自主進化,則與算法本身自行進行的算法創制密切相關。

在學習算法的技術進化過程中,一個重要的轉折是出現了創制普通算法的智能算法。在普通算法中,“每個算法都有一個輸入和一個輸出:數據進入計算機,算法用數據做它將做的事情,然后輸出結果。機器學習則正好相反:輸入數據和想要的結果,然后出來把一種結果變成另一種結果的算法。學習算法——也被稱為學習者——是一種創制其他算法的算法。”(19)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.機器學習算法與普通算法的根本不同,就在于能夠通過構成雙向循環機制獲得學習能力,從而可以由算法本身創制出新的算法,構成智能算法自主進化的機制,實現智能算法的自主發展。正是智能算法的自主發展,構成了其倫理問題升級的重要環節:智能算法在人類使用中發生的倫理問題使智能算法本身具有了倫理屬性。智能算法發展到自行創制算法的階段,意味著其自主性的發展,而智能算法自主性的發展,則指向智能算法的自主進化。

二、智能算法的自主性及其發展

智能算法的進化,在其高級階段就是智能算法自主性的發展。算法是從信息體向智能體發展的機制基礎,正是由此逐漸獲得智能算法的自主性。“在這些關于算法活動的說明中,算法是受關注的實體;這些算法被認為是強大的,對后果分布起作用并起中心作用。”(20)Neyland, Daniel &M?llers, “Norma, Algorithmic IF … THEN Rules and the Conditions and Consequences of Power, Information”, Communication &Society, iss.1(2017).智能算法在內外部關系的基礎上,使智能體具有了操控外界的能力,而且朝向自主性發展。

在一定范圍內,智能算法的學習深度標志著機器智能的自主性程度。算法最原初的自主性源自機器學習,實際上,機器學習算法開啟了算法從技術進化到自主進化的過渡。智能算法不僅可以極大地提高實踐效率,而且其結果比直接人為實施更具客觀性。

機器學習不僅具有基于數據產生新知識的能力,而且可以修改甚至自己設定相關規則。“我們使用機器學習這個通用術語,并用它來代表任何一套方法和一組技術,它可以利用數據來產生新的模式和知識,并生成可以用于對數據進行有效預測的模型。”(21)Otterlo Martijn van, “A Machine Learning View on Profiling”, Hildebrandt, Mireille &Vries, Katja de et al., Privacy, Due Process and the Computational Turn:Philosophers of Law Meet Philosophers of Technology, (New York:Routledge, 2013),46.機器學習利用數據產生知識和生成模型,已經具有重要意義,而更重要的意義則在于定義和修改規則。“機器學習以自主地定義或修改決策規則的能力來定義。”(22)Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra &Floridi Luciano, “The Ethics of Algorithms: Mapping the Debate”, Big Data &Society, 2(2016):1—21.這就意味著具有學習能力的智能算法具備制定規則甚至初步設置規定的能力。

隨著信息科技特別是大數據和人工智能的發展,人類活動從認識世界和改變世界發展到創構世界,而創構世界的前提性規定,就成了人類新的重要課題。作為為思維得以進行而設置的規定,思維規定包括一般標準和規則等的設置直到前提性規定的設置。正是規定設置的能力,意味著智能算法擁有倫理屬性的根本基礎。在無監督學習中,智能算法可以通過定義最適合的模型理解輸入,也就是規定決策規則處理輸入,而其決策規則產生原理則無須人類參與。由此進一步發展,智能算法就可以具備初步的創造能力,甚至進化出智能算法(或其實現的信息體)自身的信息需要。

在智能算法進化的意義上,自主辨錯可以使人們聯想到人工智能算法信息需要的萌芽。智能算法的創造性一開始并不是像人類創造那么典型,而是可以從諸如辨錯等活動開始。“在創造時,機器學習算法自動識別誤導、偏見或錯誤知識。”(23)王天恩:《創構時代的思維規定》,《南國學術》2019年第3期。深度學習算法基礎上的進一步發展,會逐漸涉及智能體將具有什么樣的信息需要,因而具有什么樣的品性和品行的問題。在某種程度上,這又意味著智能算法在籌劃“自己”的未來,從而開始具有倫理屬性。

在目前的發展水平,算法本身并無倫理屬性,因為算法本身不具有意圖。“我們不能說算法本身就有不好的意圖。相反,該算法被那些想要達到特定管理目標的人使用,但是在這個過程中,最終會傷害到不同群體的人。在這些受害者中,有些人很容易辨認,但對其他人的傷害則更為彌散。”(24)Balkin &M. Jack, “The Three Laws of Robotics in the Age of Big Data”, Ohio State Law Journal, 5(2017):1217—1241.算法本身是否具有意圖,事實上與其進化水平從而與其發展階段密切相關。算法越簡單,越是工具性的,本身越不會有意圖,但隨著算法智能水平的提升,本身具有意圖的可能性會越來越大;智能算法的自主性越強,算法本身就越可能具有自己的意圖。只是在智能算法的自主性發展到一定程度之前,智能算法本身的意圖是設計者賦予的。正因為如此,以目前的深度學習為標志,機器學習所意味著的智能算法關涉未來。“學習算法常被稱為算法和分析的‘未來’,由于在自然環境下調整操作參數和決策規則的能力,在如何決策和為什么決策方面算法引入了不確定性。”(25)Burrell &Jenna,“ How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms”, Big Data &Society, 1(2016):1—12.不確定性的引入及其應對,正是智能算法自主進化的重要環節。

毫無疑問,算法越是初級的,越具有這樣的性質:“算法的內在品質”是“通過完備性和正確性概念來表達的。正確、完備和結果聯系在一起,而且認為所描述的算法用以回答一個給定的問題”(26)Béranger, Jérme, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc., 2018),81.。而越是高級的算法,進化到一定程度的算法,就越會超越這一內在品質。如果智能算法向通用化發展,超出這種內在品質恰恰是前提性條件,只是無論什么樣的算法,都必須以正確性和完備性為基礎。

的確,智能算法的關鍵之一在于會學習,正是會學習的機器算法,將形塑人類未來。一方面,學習算法已經積極甚至主動地關涉未來,另一方面,在某個層次上可以說,“算法的未來是會學習的算法”。正是立足于會學習的算法,安德魯·圖特(Andrew Tutt)對算法自主性的發展進化做了系統的,迄今最深入的考察,由此梳理出算法自主性發展的具體進程。會學習的算法“有很多名字,但最常見的是‘機器學習’(Machine Learning)、‘預測分析’(Predictive Analytics)和‘人工智能’。盡管使用‘智能’及其變體可能會產生誤導,因為區分學習算法和非學習算法比區分為表現出智能的算法(algorithms that appear intelligent)和沒有表現出智能的算法更重要”(27)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.。學習算法和非學習算法的區分之所以比智能算法和普通算法更重要,就因為在現階段,關鍵在是不是屬于學習算法而非是否表現為智能算法。學習算法不一定表現出智能,表現出智能也未必就是學習算法;但是,從超越現階段的更高層次看,是否智能算法不僅更為重要,而且意味著更根本的區分。因為不管是不是學習算法,或者說不管是什么樣的算法,關鍵的區別是有沒有智能,更確切地說,更基本的區分是智能水平。從圖特關于算法進化的五階段劃分,可以清楚地看到這一點。

關于算法的進化,圖特通過一個算法復雜性的可能定性尺度,根據算法的發展區分出5個階段,形成5種類型:“白箱算法”(White Box)“灰箱算法”(Grey Box)“黑箱算法”(Black Box)“知覺算法”(Sentient Box)和“奇點算法”(Singularity Box)。白箱算法是完全確定性的,也就是說,算法只是一組預先確定的指令;灰箱算法是非確定性的,但它的非確定性特征很容易被預測和解釋;黑箱算法具有涌現性(emergent proprieties),難以或不可能預測或解釋其特性;知覺算法可以通過圖靈測試,即已經達到或超過了人類智能;奇點算法具有遞歸自改進能力,即該算法達到了“奇點”。(28)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.在算法的這5個進化階段中,最基本也是最關鍵的是黑箱算法。正是黑箱算法典型地涉及信息的涌現性即信息機制的不可逆性,特別是由此而具有的不可還原性。知覺算法和奇點算法只是在其基礎上的發展。“Sentient”指有感覺能力的、有知覺力的,這表明知覺算法開始涉及作為感受性關系的信息層次,人工智能具有發展到信息層次的性質,已經是一個開始具有自主進化機制的智能算法了;而奇點算法則已經進入完全意義上的自主進化,具有日益復雜的倫理屬性。

在人類和人工智能關系的進化過程中,自主性既涉及人類,也涉及人工智能;既在更深層次涉及人類的倫理問題,也在更高水平涉及人工智能的通用化發展,從而在更深層次涉及其倫理屬性甚至道德地位。自主意味著“自主或自治,‘是建立自己的目標和價值觀的能力,并有根據這些決定作出自己的決定和采取行動的自由’”(29)B. C. Stahl, J. Timmermans &B. D. Mittelstadt, “The Ethics of Computing: A Survey of the Computing-Oriented Literature”, Acm Computing Surveys, 4(2016):1—38.。當人工智能進入通用化發展后,人工智能體就存在一個自主性問題。而隨著自主性問題的出現,同時也就意味著引發關于人類自主性的更高層次的復雜問題,因為通用人工智能的自主性,必定對人類自主性構成前所未有的影響。實際上,目前關于算法進化的研究,已經深入涉及人類自主性問題。機器智能算法的自主進化,將構成完全不同于傳統倫理的更高層次倫理問題。

在通用人工智能核心機制突破過程中,當智能算法在學習算法基礎上開始自主進化,在人工智能和人類智能的關系中必定出現空前嚴峻的倫理問題。對于人類來說,普通算法只是工具性的存在,而智能算法則隨著其自主性的發展,逐漸走出工具性地位,并由此真正凸顯算法的倫理和更深層次哲學問題。

學習算法是算法進化到智能算法的關鍵環節,它開始構成與環境間最初級的雙向反饋,但在很長一段時間,學習算法離生成通用意義上的智能還很遠,智能的通用化必須有智能算法自主性的發展。“但是,學習者沒有把石頭變成磚石,也沒有把金子變成珠寶,而是把數據變成算法。數據越多,算法就越復雜。”(30)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books, (2015):xv.只有在復雜的雙向反饋信息機制基礎上進一步進化,才可能向智能算法甚至類人智能算法進化。由于智能載體的不同,人工智能算法向類人智能算法進化,可能走向更高層次的智能算法。由此決定了涉及通用人工智能核心機制的研究進路。

在通用人工智能核心機制的研究進路中,最值得關注和研究的是其與人類發展的關聯。這就涉及人工智能和人類智能的更深層次關系,特別是二者之間的進化關系,從而涉及人工智能和人類進化倫理關系的更廣闊發展前景。

三、智能算法進化中的人機倫理關系

在ChatGPT發布之前,雖然有思想家預見到人工智能發展出現超級智能的前景,但大多數人工智能相關學科的科學家態度都非常謹慎:雖然明確表明不可能的比例不高,但不少人工智能專家認為人工智能只能是人類的補充。這方面的頂尖專家之一、美國卡耐基大學計算機教授曼努埃拉·韋洛索(Manuela Veloso)就認為,自主機器人和人類的能力差別很大。“機器人可能總是有感知、認知和驅動的局限性。它們可能無法完全感知場景,識別或操縱任何物體,無法理解所有的口頭或書面語言,也無法在任何地形中導航。我認為機器人將補充人類,而不是取代人類。但是機器人需要知道什么時候該尋求幫助,以及如何表達自己內心的工作方式。”(31)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.這里的感知局限就意味著人工智能沒有發展到信息層次。從信息編碼特別是信息的物能編碼而不是作為感受性關系的信息看,關于人工智能的這種看法是有根據的。只是在信息編碼層次,人工智能不可能發展出類人智能,甚至不可能發展出生物智能普遍具有的那種理解能力。因此,韋洛索對于人工智能的發展持非常客觀的態度:熱情“擁抱機器人—人類世界”(32)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.。在ChatGPT發布之后,人們關于人工智能發展的看法發生了很大變化,大型語言模型的空前泛化能力使越來越多的人認為通用人工智能很快到來,甚至人工智能已經通用化。但從信息層次可以看到,大型語言模型的智能仍然局限在信息編碼層次。毫無疑問,關于人工智能的發展,相關技術專家的態度可能較為復雜,但一個具有普遍意義的事實是,不管多么專業的科學家,如果光從科學領域看,就容易得出類似韋洛索的結論。只有在科學和哲學一體化甚至更廣闊的領域,才能看到更高層次的情景。而另一個與此不無關系的事實則是:無論對超級智能出現的可能性持什么樣的觀點,人工智能專家都無一例外地關注人工智能和人類之間的協作。

正是由于認為人工智能不可能發展到類人層次,韋洛索展開了將人工智能定位為人類補充的相應研究。為了更好地了解人工智能和人類的合作,他的團隊開發了“協作機器人”(CoBots),并“引入了‘共生自主’的概念,使機器人能夠向人類或互聯網尋求幫助”(33)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.。他相信,“如果人類和機器人能夠相互幫助和互補,我們所面臨的將是一個積極的未來”(34)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.。這是一個美好前景,但無疑還只是從人工智能的現實應用出發看到的未來。當人工智能發展到作為感受性關系的信息層次,通用化將不可避免。人工智能發展的未來在通用化,在智能算法通用化進化中的人機關系。由此,已經可以在人工智能的進化中看到倫理問題越來越以一個維度的方式呈現。正是倫理問題呈現為一個維度,在智能算法進化過程中,人機關系的地位問題將全面凸顯。與此密切相關的人工智能體道德地位問題,也是相關倫理問題表現為維度方式的智能算法進化呈現。

關于人工智能體道德地位的研究,在更深層次涉及人工智能算法進化中人機關系的倫理基礎。誠然,我們可以認為,“人工智能系統是人為的——即蓄意設計的產物——與其道德地位沒有根本關系”(35)Bostrom, Nick &Yudkowsky Eliezer, “The Ethics of Artificial Intelligence”, Frankish, Keith &Ramsey, William M. et al., The Cambridge Handbook of Artificial Intelligence, (Cambridge University Press, 2014),316—334.。對于人類來說,局限于專用人工智能考慮,人工智能永遠是不足為慮的高級自動化工具;而人工智能真正的機遇和挑戰,則是通用人工智能的進化。作為類人智能,通用人工智能的發展一定意味著信息層次的涉及。正是由于涉及作為感受性關系的信息,機器智能進一步深入涉及倫理原則的人機共同基礎地位問題。

雖然大多數人都同意那些涉及廣泛的倫理原則,但尚不清楚如何將這些原則應用于其他實體,諸如非人類和未來的人工智能。的確,以倫理問題為集中體現,“現在是重新啟動哲學中一些最棘手問題研究的時候了”(36)Tegmark Max, “Life 3.0 Being Human in the Age of Artificial Intelligence”, Alfred Knopf, (2017):280.。人類倫理原則要應用于非人類,非人類對象必須和人類構成一定層次上相似的類群(37)王天恩:《人機交會:人工智能進化的類群親歷性》,《上海師范大學學報(哲學社會科學版)》2023年第1期。。這方面已經有一些重要探索,貝蘭杰就討論道,“今天,我們正在各個層次觀察人與環境之間復雜的相互作用。墮入一種過時的拉馬克主義的過分簡化和虛假的安逸之中,這在我們的文化中是存在的。我們的‘數字進化論者’使人們有可能更好地理解數字創新、它們的起源及其在世界不同地區的歷史,但它也使人們有可能對人類與其技術進步之間的關系提出新的理解,因為科學正在進步,正在創造新的范式,這使已知的事實更具啟發性,而且最重要的是,它為數字創新的研究提出了新的途徑。安托萬·德·圣埃克蘇佩里(Antoine de Saint-Exupéry)指出,‘人的最迷人財富是團結人的工作’。從這一觀點看,數字必須被認為是人性發展的一個極好機會:在我們之間創建更偉大的全球關聯”(38)Béranger, Jér?me, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc.,2018),181.。由于涉及范式,從中可以看到更深層次的思考。當此問題與信息范式相聯系,就可以進一步清楚地看到豐富深刻的具體內容。人類社會發展的數字化,意味著人類存在方式的信息化。由于信息的基本特性是相互性,與作為人類學基本特性的相互性疊加(39)王天恩:《人類信息文明時代的相互性疊加》,《中國社會科學報》2017年10月10日。,將使人類建立在個體充分發展基礎上的整體性空前強化。這不僅意味著整體關聯的更高層次,而且同時意味著個體間關聯的新方式。當這種個體間關聯的新方式涉及人機關系時,問題既更重要也更復雜。在盡可能高的整體層次把握人機倫理關系的發展,關系到人類未來的安身立命。

隨著人工智能的發展,人機進化關系的發展前景既讓人期冀,又使人憂慮。由于代碼可能直接植入人腦,人們不能不擔心其后果。“到2030至2040年,某個人工智能可能會擁有自己的項目,在沒有人類干預的情況下開發新的算法,這種前景可能會帶來麻煩,甚至是恐懼。據谷歌的董事們說,從21世紀30年代開始,算法問題可能會進入我們的大腦,因為未來的腦內植入和納米種植體將直接連接進我們的大腦中。由于能夠更好地獲取知識,我們的大腦可能會更聰明,但它是否仍然受我們自由意志的支配?這種情況會稍微強化算法忠誠度的觀念及其普及所可能帶來的影響。在這種情況下,必須正確理解算法處理整體(由數據、算法和做法組成),并保證它也將盡可能透明,了解它能做什么和不能做什么,同時尊重個人和個人尊嚴。因此,應在科學研究、商業、政府機構、教育和整個民間社會之間開展協作和橫向工作,以確保數字巨人不成為影響未來世界倫理規則的唯一保證:‘代碼即倫理’(Code is Ethics)!”(40)Béranger &Jér?me, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc.2018),181.面對這樣的發展形勢,人類必須同時關注兩個方面:一是在人工智能——其核心是智能算法——發展的現實過程中,關注智能算法進化中的倫理問題;二是通過盡可能長遠的未來把握,在更高整體層次理解和把握人工智能和人類的進化關系。

在人工智能和人類的進化關系中,硬件領域的腦機接口研究是一個重要方面,而算法的人機融合則是另一重要領域。人工智能算法和人類智能算法(或相關機制)的理解和比較研究,將是一個越來越重要的課題,它在根本上涉及信息編碼,而信息的數字編碼——數字代碼則是其中最重要的方面之一。

數字代碼已經與人工智能算法進化中的倫理問題直接聯系,因此算法代碼的含義極為豐富,它們意味著價值的源泉。“由于代碼是企業和機構的價值來源,這種價值應通過實施開發質量的實踐加以維護。為了提高代碼的質量,有必要對系統進行整體的觀察和干預,特別是將倫理規則整合進代碼,并通過反饋其含義和一個有根據的‘倫理即代碼’(Ethics is Code)創建一個促進其實踐改進的語境。事實上,我們認為,人類的未來確實一方面取決于算法代碼保留人的思想和良知,另一方面取決于保留人與人之間的溝通。這很可能是通過所有信息逐步數字化,并在其中對人類良知進行反思來實現的。”(41)Béranger &Jér?me, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc. 2018),182.這既是一個人類機器化的過程,同時更是一個機器人性化的過程。從通用人工智能核心機制的研究進路看,正是機器的人性化在根本上涉及更高層次的倫理問題。

在智能機器人性化的探索中,機器倫理學做了很多重要工作。機器倫理學研究意識到,“人工智能或機器人研究的主要目的不僅是開發解決我們問題的先進程序,而且是在機器上再現精神素質。在心智和機器之間沒有區別,這是人工智能(AI)倡導者的關鍵主張,因此他們認為機器倫理像人類倫理一樣是有可能的。計算機倫理學傳統上側重于人類使用機器的倫理問題,與此不同,人工智能或機器倫理關注的是機器對人類用戶的行為以及這些互動的倫理性,或許也包括對其他機器的行為。根據人工智能科學家的說法,機器倫理學的最終目標是創造一種機器,它自身遵循理想的倫理原則或一套原則;也就是說,它在就自己可能采取的行動作出決定時以這一原則或這些原則為指導”(42)Nath, Rajakishore &Sahu Vineet, “The Problem of Machine Ethics in Artificial Intelligence”, AI &Society, 35(2020):103—111.。由此可見,機器倫理學一方面將機器作為倫理主體,另一方面又以人類為倫理考量根據。因此,機器倫理學的任務是確保人工智能體的道德行為,而這種道德行為的衡量標準至少不只是就人工智能體之間的關系而言,事實上其更重要的維度是涉及人類。

無論在載體還是機制上,機器智能體都與人類有很大不同,而其倫理行為卻在根本上涉及人類,因此關于機器倫理就涉及一些更基本的問題。拉賈基肖爾·納特(Rajakishore Nath)等認為,在討論與智能機器人相關的很多哲學問題之前,有些問題必須進一步澄清。“首先,倫理學是不是那類可以計算出來的東西。其次,如果我們認為機器擁有心智,就會引發有關機器的倫理問題。如果我們不把心智和機器區分開來,我們不僅在重新定義人類的心智,而且也在重新定義作為一個整體的社會。除了其他性質,擁有心智是有能力作出自愿的決定和行動。心智的概念是我們倫理思維的核心,這是因為人類心智具有自我意識,而這是機器還不具備的特性。”(43)Nath, Rajakishore &Sahu Vineet, “The Problem of Machine Ethics in Artificial Intelligence”, AI &Society, 35(2020):103—111.把機器智能放到人類心智的層次討論,應當是真正深化人工智能理解的基礎。而要真正達到二者關系的更深入理解,則不僅要在智能進化中理解倫理問題,而且必須澄清并抽離人類智能和人工智能的不同:機器載體和生物載體所決定的各自不同特性。這就涉及人工智能和人類智能基礎上新的智能進化,由此可以在人類智能和人工智能進化的基礎上,看到智能進化的更高層次前景:廣義智能進化——這是關于人機關系研究的一個更深層次課題。

作為更高層次的智能進化,廣義智能進化建立在人工智能進化和人類智能進化的基礎上,因而提供了更高層次的整體觀照。在廣義智能進化層次,對人機關系可以有一個具有更深層次根據的理解。以往關于智能進化的研究主要指生物智能進化,人工智能算法的進化為更高層次的智能進化研究創造了條件。在人工智能算法進化研究的基礎上,通過其與人類智能進化關系的深入探索,廣義智能進化將不僅成為涉及人機關系,而且成為涉及人類未來發展的新研究領域。在廣義智能進化基礎上,人機倫理關系也將進入一個復雜的更高層次。