論AI的自主性及其限度

陳 化

(南方醫科大學馬克思主義學院，廣東 廣州 511436，huahua11234845@163.com)

自1956年人工智能(Artificial Inteuigence,AI)概念被首次提出至今，經過60余年的迅猛發展，已經由早期的“弱人工智能模式”發展到“強人工智能模式”。前者更多是基于工具屬性改變人類生活，而后者更可能改變對于人類本身的存在形態。實際上，在醫療領域，類器官尤其是類腦器官的應用已經成為人體的組成部分，并與人建立一定的情感，衍生出諸多新型倫理問題。在法律層面，已有不少學者提出賦予人工智能法律主體地位，并成為權利義務和責任的“新型主體”。實際上，這些問題的關鍵在于，人工智能是否具有自主性？或者說，人工智能對于經典自主性的挑戰究竟具有何種新的視域，我們應該如何回應這種挑戰？長期以來，人類將自主性作為人之為人并區別于動物的本質特征，也是人類自我認同的根本依據和人類判斷行為責任的重要條件。為此，筆者擬從自主的本質、道德主體演化論以及對于道德責任討論人工智能的自主性問題。

1 人工智能對經典自主性的挑戰

自主性作為人類實踐行為的根本特征，乃是社會規范和道德責任判斷的基礎和前提。應當說，現代社會體系中的各種規范均奠基于自主性。自古希臘亞里士多德至啟蒙運動以來的諸多哲學家如康德、德沃金等，均從不同層面談論自主，并以自主性作為建構德性的理論框架，如德性論、責任倫理。然而，對于自主性是否可能也有與之針鋒相對的質疑之聲，來自形而上學和實證的層面。在理論層面，以決定論否定人的自主性。決定論認為，在被預先安排好的世界里，必然發生的行為都不是自由的，而只是因果鏈中的一個環節。在實證層面，自然科學的興起尤其是實證科學不斷沖擊自主性理論。美國生理學家本杰明·里貝特及其后繼者們的相關實驗證明，“大腦的一個自發的自愿動作的肇端是無意識發生”[1]，只有在各種相關配套條件成熟之后，意識才參與進來并進而產生運動。而人工智能技術因其自身的深度學習能力和行為意向性，不斷挑戰經典的個體自主性。

自主性作為西方哲學的重要范疇，從詞源看具有“自我管理、自治和自主性”等意思。《牛津英語詞典》對于自主的解讀表明，自主是自我管理的權利和條件以及免受外部控制和影響的自由與獨立性，并從城邦的自我管理延展至個體的自我管理。學界闡述甚多，而康德和密爾為現代自主概念的闡釋奠定了而自我意識、自由意志與道德責任是自主性的三個基本要件。自主性(Autonomy)是指行為個體能夠根據自己的主觀愿望與自由意志，獨立作出決定，并實施、控制自身行為的特性[2]。人工智能作為“利用數字計算機或者數字計算機控制的機器模擬、延伸和擴展人的智能，感知環境、獲取知識并使用知識獲得最佳結果的理論、方法、技術及應用系統。”[3]對于自主的挑戰也表現在這三個方面：

其一，人工智能對于自我意識的挑戰。自我意識是自主性的前提條件和道德責任判斷的重要依據，也是人之為人的標志。 “自我意識” (Self-awareness) 是一種以“自我為思考對象的行為”，實際上就是一種以他人眼光審視和評價自己的行為[4]。易言之，自我意識是個體在一定的社會語境中通過“自我”和“他我”的互動與對話完成的，將自己作為認知的對象。隨著人工智能技術的發展，尤其是無人駕駛汽車在人工智能的幫助下完成風險規避和道路選擇等任務；機器伴侶能對于他者的訴求做出一定的配合，且智能機人甚至具有深度學習和自我識別的能力，人工智能的自我意識在不斷自我進化。2019年，英國《快報》(Express)報道，哥倫比亞大學創造性機器實驗室創造的機器手臂具有自我修復功能[5]。耶魯大學科學家開發的機器人Nico和紐約“倫斯勒”的科學家開發的機器人Nao甚至通過了“智者難題”的測試。這為人工智能具有自我意識提供了有力證據。因此，有學者認為，“我們需要打開意識的概念，并接受機器行為和功能相當于人的意識的整合，它們應被認為是具有意識的。”[6]

其二，人工智能對于自由意志的挑戰。自由意志是人作為生命存在的必要條件，也是道德責任承擔和自主性的根本依據。長期以來，自由意志成為人區別于動物的重要標志，并強調，“當一個人所作出的決定本可以被另外一種可能的決定替代的時候，那么他所作的決定是自主的”[7]。康德曾將自由意志和自主性聯系起來，認為一個自主的行動者能夠按照自己選的擇法則來行動。自由意志要求一種行為只屬于理性存在者的因果性，即理性存在者就是自己目的的原創者，可以被處理為“目的本身”。人工智能雖然是被人開發的對象，但是它們具有深度學習的能力，在完成任務的過程中，能根據環境變化獨立于人來的指示采取行動。國外開發醫療倫理專家系統(MedEthEx)，能夠教會醫學人工智能(如手術機器人)，理解人類的倫理規范 (也包括法律) ，懂得協調患者和醫生的利益沖突， 做一個有道德的機器人[8]。戰爭機器人也可以自動檢測危險，自動打擊敵人。“由于人工智能裝有隨機性發生器，它們的行為不可預測，其工作具有創造性，因為與人類之間不存在不可超越的差異而具有自由意志。”[9]也正是因為如此，有人發出“人工智能是否取代人的自由意志”的擔憂？

其三，人工智能對道德主體性的挑戰。道德主體是指具有自我意識和自由意志，根據道德判斷做出道德決策并為此承擔責任的行為主體。按照此標準，嬰幼兒、精神病患者等有限理性者以及動物被排除在道德主體的范疇之外。然而，人類社會的進步，正是基于對道德主體范圍的拓展，經歷“從理性人到生命體、技術人工物和智能人工物”[10]的變遷歷程。維貝克(Verbeek)以“道德物化”賦予人工物道德主體地位，丹尼爾森、霍爾等在相關著作中均強調關注機器道德，承認智能機器的道德主體性；艾倫等甚至構建了人工道德主體模型。

基于自主性在人的自我身份認同以及道德責任判斷中具有的特殊地位，決定了人工智能對于自主性的挑戰在根本上涉及如何對待人機關系，人類與人工智能如何共處。人工智能的自主性與人的自主性究竟有何異同，其道德邊界究竟何在？為此我們必須從自主性的本質以及延展邊界來厘清人工智能的自主性邏輯。

2 人工智能擁有何種自主性

AI具有自我學習和自主選擇的能力，這種能力甚至成為賦予它們法律身份和公民權利的條件，如瑞士為AI納稅，日本為AI繳納工會會費，Sophia獲得了公民資格。由于AI的行為具有明確的目的性以及極強的行為能力，甚至在某些方面超越人類,如AlphaGo戰勝柯潔，這些都似乎表征著AI的自主性。但我們也很清楚，AI的物理屬性是機器，是技術的產物，而非真正意義上的人。那么，AI是否擁有自主性呢？

何為自主性？自主看似是一個多元化、意義晦澀甚至模糊不清的概念。但是在眾多解讀中，我們依然可以看到最合理的內核。關于經典的自主論述中，自主被解讀為“理性的自我決定”。彼徹姆等將自主區分為“自主的人和自主的行動”，二者存有細微區別的關鍵因素是理性。判斷行為是否理性，需要回應行為選擇的目標以及目標實現的方法。基于此，形成了“認知模式”和“建構主義模式”以判斷個體是否自主。前者強調，行為動機決定行為本身的“善”，這種善獨立于行為本身。建構主義則將善等同于理性選擇的目標，并形成了新休謨學派和康德主義學派。新休謨學派強調理性判斷依賴于行為是否滿足于個體的欲望，而欲望本身必須反映在實現欲望認知的方法上，即使欲望本身并非理性的，實現欲望的行為必須是理性的，它要求道德主體允許他們決定屬于自己的“善”。在這種模式下，理性剔除了“道德的因素”。康德主義認為，自主性是理性思考的結果，任何基于自由意志的自主必須遵守絕對命令，而且是可普遍化的。為此，康德提出“真實意愿”和“理性意愿”的區別，這要求自主性必須追求“理性意愿”。康德主義模式通過分析行為可普遍化的約束條件，將理性和道德聯結在一起，并認識到理性的社會性和自主之間的本質聯系。人作為一種社會性和精神性存在，道德是其社會性的內在規定。自我意識和自由意志的社會實踐，是橫亙在AI與人之間的鴻溝。在這個意義上而言，AI并不具備完整意義上人的自主。問題在于，這是否表明AI完全沒有自主？易言之，自主是否為“有”和“無”兩種形態。以此作為判斷方式是對“人工智能自主性問題”的簡易化處理。

應當說，人工智能具有行動自主的能力，或者說具有新休謨主義模式下的自主性。由于深度學習能力和大數據技術的支持，人工智能能自我學習和自我歸納，甚至根據經驗和數據總結出規律，根據具體情境作出獨立的判斷，形成自己的意圖，并采取相應的行動。佩蒂特建構BDI(belief-desire-intention)模型[11]，認為信念是能動者自主的始點，并以此影響個體的欲望，通過欲望指向意圖。遵循此模型的能動者的行為，均可以被稱之為具有自主性。但是該自主模型“僅僅考量了決策與行動的連貫性，是削減版的自主概念”[12]。由于人工智能是人類行為的數字化表達，故簡約的自主概念也不可避免攜帶屬人的特征。但是數字化本身是由人類設定的，其決策權威是被人類賦予的，是對人類現有行為和以往行為的統計。

可以說，自主實際上也是分層次的。參照瓦拉赫(Wallach)與艾倫的《道德機器:指導機器明辨是非》[13]，區分道德主體的模式，個人將自主劃分為操作性自主、功能性自主與完全自主。從層級看，操作性自主最低，它是指主體按照設計者的程序去執行相應的指令。這種自主性實質上是設計者自主的直接延伸，但缺乏對于外在環境的敏感性。完全自主是指具有完全的基于理性的決策系統和情感交互能力的自主，典型代表就是人類。而功能性自主則是能評估自身行為的智能系統，具有一定的倫理敏感性。由于人工智能是以數字化的符號進路將學習當作一套預先確定的概念進行重組的理性化過程，它們沒有欲望和基于自身的情感，因此他們的自主是功能性自主。

事實上，人工智能在本質上并沒有擺脫其作為一種技術的本質屬性，因此，它的自主性實質上最終轉換為技術自主性問題。傳統的主流觀點認為，由于技術是人為設計的產品和對象，是人們意志表達的結果。技術作為一種手段屬性而服務于一定目的存在的，其本質上是中立的。人類能掌控技術的使用和發展，應該慎重選擇技術的發展途徑。隨著技術更迭日新月異，技術與人的關系在發生微妙變化，人類似乎正在失去對于技術的掌控。“技術自主性”成為不少學者備受推崇的觀點，馬爾庫塞、哈貝馬斯、埃呂爾等，盡管不同學者的思想存有分歧，但其核心觀點有相通之處。技術自主論認為，現代技術依賴并制定自己的路徑，傾向于封閉和自我決定……它創造了“人工世界”且“自主地”以技術的自我邏輯改變和限制“自然世界”的發展[14]。應該說，技術自主論是指技術發展的獨立性和普遍性，其指涉技術演變的軌跡和發展的規律。人工智能的自主性，更多是作為一種具體技術在操作和運行層面的自主性。差別在于，人工智能的自主性是技術自主論在應用層面的高階發展和具體表現形式。因此，人工智能的自主性本質上仍沒有脫離技術自主的討論框架。當然，由于人工智能的自主更為具體和實際，尤其涉及自由意志，并嵌入人的理性因素，這決定了我們還必須給與人工智能的自主性以特殊考量，即人工智能的應用是否應承擔相應的道德責任。

3 人工自主性與道德責任

如上所述，人工智能的自主性并非完全自主性，但也不是完全不自主，而是一種基于技術自主的功能的自主性。問題在于，人工智能是否應當對于其自主行為承擔道德責任，承擔何種道德責任？

道德責任是自主行為的構成要素，也是行為的“自我-他者”問題，即道德主體對自主行為影響他者和環境作出的責任判斷。因此，道德責任不僅關注行動者，還需要關注能動者應承擔責任的他者。亞里士多德曾從意愿行為和理性選擇作為考察主體德性的關鍵要素，它們也成為道德責任的基礎條件。盡管“自由意志并非道德責任的必要條件”[15]，但是具有自由意志行為的主體應當為其行為承擔必要的責任。如果人工智能物在自主行動的過程中出現傷害他者的結果，如無人駕駛汽車的交通事故、智能機器人手術失敗，該承擔何種責任？對此有兩種觀點：第一種，人類責任論，人工智能是決策的實施者，但是人類應該對人工道德主體的行為負責。這種觀點承認人的唯一主體性，否定人工智能機器的完全自主性和相應的道德主體地位，因此為“避免將責任過度推卸給機器人，智能機器人必須受到自主性的限制”[16]。應當說，這種觀點看到了這樣一種趨勢，即人工智能化水平越來越高，而出現傷害時設計者免責的現象。因此，他們認為應該由設計者負責。其二，機器責任論，人工道德主體在決策中扮演了決定性的作用，它們應該為其行為負責。這種觀點認為，人工智能是具有自由意志的道德主體性，它們在一定的情境中能識別并執行道德上正確的行為，因此他們應該承擔起相應的道德責任。當然有學者從“智能機器人滿足他者對智能機器期望承載人類對機器的道德映射”[17]角度討論其道德責任。他者視角強調道德責任的對象化，有助于讓我們全面理解道德責任的全貌。但是，這種基于純粹善良意愿的道德責任范式，遺忘了智能機器人自主行為可能帶來的“傷害”。

因此，上述兩種責任模式均有顯偏頗。盡管不能將自主性與責任直接對等，但是自主性程度依然可以成為責任判斷的重要依據，正如完全行為能力人與限制行為能力人的行為差別一樣。因此，人工智能應承擔“不完全責任”，又稱之為“聯合責任”。

一方面，契合人工智能的“不完全自主性”。人工智能在本質上并沒有擺脫技術的局限性，并非完整意義上的人。故承擔全部責任對于人工智能機器而言，并不合理。摩爾(Moor)曾區分四種人工道德主體模型[18]：受道德影響的人工道德主體; 內隱的人工道德主體; 外顯的人工道德主體和完全的人工道德主體，并認為只有第四種才能被稱之為完整意義上的道德責任主體。這種劃分看似為討論道德責任打開了大門，但是卻忽視了完全道德主體的現實可行性。以無人駕駛汽車造成交通事故為例，若承認其完全道德主體性，則意味著汽車應承擔全部責任，這無疑是非常荒謬的。且不說智能汽車沒有辯護的能力，就算汽車愿意承擔，又該如何實施呢？停運、拆除或者報廢等方式，均不能成為合理的承當責任方式。“虛擬的道德主體”以虛擬的方式承擔責任，對于受難者而言并不公平，只能感覺 “道德運氣”太壞罷了。從這個意義上說，人工智能的道德責任必須與人類相連。

另一方面，“聯合責任”有助于填補“責任鴻溝”。道德責任不僅是基于理性的判斷，更對責任主體產生心理影響，而人工智能缺乏道德責任所需要的心理成分。責任鴻溝是指理性判斷與心理影響在責任判斷中的分離現象。聯合責任表明人工智能自主行為的發生都是“人—機”共同行動的結果，單一的責任模式并不能解釋全部。問題的關鍵在于，智能機器的設計者和機器運行的監管者承擔何種層面的責任，包括人工智能的影響對象，如無人駕駛車的交通事故傷亡者。某種意義上說，聯合責任的承擔的最終主體依然是“人類”。或者說，人類最終承擔了全部的道德責任，正是在這個層面上，“人工智能延展了人類的認知，而責任卻不能延展。”[19]

4 余論：自主性作為屬人概念的一種建構

道德作為“人別于禽”的重要向度而被賦予格外的分量，就在于自由意志和基于自主性上的行為選擇。自主性在很大程度上成為區分道德責任承擔的重要標尺，為此亞里士多德考察了行為和意愿的關系，大衛·羅斯發明了“初始義務”和“實際義務”的語匯，康德則給予道德最純粹最深刻最徹底的刻畫。其著名公式可以表達為“應當意味著能夠”，它將道德負擔壓在難以確定的自主結構之上。作為應當的表述，這并不完全真實；但是在何種條件下，行為者應承擔或者豁免某種責任，該表述則具有其合理性。人工智能以大數據和算法作為其意義世界的表達方式，是對人類自主性的延展，又具有機器自主性的特質。人工智能用數據解讀并置換人類行為，將繽紛復雜的現實世界簡約為數字，并消滅了人際間不可逾越的鴻溝。長期以來，我們將技術作為人的內在性的外顯方式，技術成為展現人的重要載體。而人工智能技術區別于傳統技術的根本之處在于，它以超乎想象的速度更迭，集結人類各種可能性并極有可能超越自然演進中的智慧極限。即便如此，人工智能并沒有完全擺脫技術內在的局限性，如AI是缺乏道德想象力和批判精神，因此我們不能賦予人工智能與人一樣的自主性，不能將自身的命運無條件地交給人工智能。[20]如果說，人類智慧曾以道德方式回答了存在的“人禽之異”的自然問題，那么，作為人類技術的人工智能因其特殊性提出了更為嚴苛的社會難題——“人智”之別。該難題在本質上依然是人類自身的問題，依然可以回歸到人類“如何認識自我”這一元問題當中。自主性作為解讀人之本質而建構的哲學范疇，其闡釋本身就具有極強的開放性。但是這種闡釋必須立足于復雜的生存境遇，依托于人類社會實踐發展。既應該看到人禽之別和相同，也應該看到人類和人工智能的差異與聯系。我們既要看到人工智能向“善”，更應該以歷史的眼觀透視其可能之“惡”本質上仍為人性之惡。在這個意義上，自主性只是作為考察人工智能的一個向度，如人的多面向一樣，人工智能也是復雜的和多面的，因此，自主性并不能窮盡人工智能的全貌，人工智能的自主性并未超越于人類的自主性。