人工智能道德主體地位研究的兩種進路

摘" 要：人工智能道德責任歸屬問題的核心環節是分析人工智能是否具有道德主體地位。單純從客觀外在原因入手分析難以完整涵蓋人工智能的研究框架，需輔以主觀原因相互補充，逐漸形成人工智能道德主體地位研究的“內在進路”和“外在進路”。“內在進路”以人類自身對人工智能的特殊情感態度為出發點，探究人工智能倫理爭議的始點因素，“外在進路”則聚焦算法設計賦予人工智能按照內在程序運行的自主行動能力。2種研究進路將焦點對準“人工智能是否真的具有道德主體地位”這一問題背后的相關理論分析，把視線重新拉回到人工智能背后真正的實踐主體，有助于完善相關倫理準則及政策法規的制定。

關鍵詞：人工智能；道德主體地位；內在進路；外在進路；倫理

中圖分類號：TP18" " " " 文獻標志碼：A" " " " " 文章編號：2095-2945（2023）10-0087-05

Abstract： The core link of the attribution of moral responsibility of artificial intelligence is to analyze whether artificial intelligence has the status of moral subject. Starting with the analysis of objective external reasons， it is difficult to fully cover the research framework of artificial intelligence， which needs to be supplemented by subjective reasons to gradually form the \"internal approach\" and \"external approach\" of the study of the moral subject status of artificial intelligence. The internal approach takes the special emotional attitude of human beings towards artificial intelligence as the starting point to explore the starting point of the ethical dispute of artificial intelligence， while the \"external approach\" focuses on the algorithm design that gives artificial intelligence the ability to act independently according to the internal program. The two research approaches focus on the relevant theoretical analysis behind the question of \"whether artificial intelligence really has the status of moral subject\"， and draw the attention back to the real practical subject behind artificial intelligence， thereby are helpful to improve the formulation of relevant ethical norms and policies and regulations.

Keywords： artificial intelligence; moral subject status; internal approach; external approach; ethics

人工智能的發展日新月異，相關責任倫理應進一步建構和完善。不同領域的專家學者對人工智能倫理這一學界熱門話題各持己見，始終有著諸多爭議。人工智能領域有其自身特性，其研究視角和方法有著明顯特色。傳統研究方法多將視角聚焦在技術性的客觀外在原因，寄希望于一套近乎完美的倫理標準設計去規范人工智能的自主行為，但截至目前也無法在倫理道德上得出一套適用于不同群體的普世性道德規范。從主觀原因入手，分析人類對人工智能復雜情感態度的可能成因，并聚焦算法設計賦予人工智能按照內在程序運行的自主行動能力這一客觀外在表現。內外并舉，明晰人工智能作為一項科學發展的產物，用以服務人類的社會生產實踐活動，實際上并不具備道德主體地位。

1" 人工智能道德主體地位研究的“內在進路”

人類對人工智能的某種特殊情感，源自賦予周圍存在物以情感的主觀偏好。“內在進路”關注生成“人工智能具有道德主體地位”這一觀點的主觀原因，探究人工智能倫理爭議的始點因素，即從人類自身對人工智能問題的情感態度進行分析，主要圍繞2方面展開討論：一方面，人類賦予周圍事物以情感的行動偏好將我們的感情投射或移植到周圍的對象之中；另一方面，人工智能在“智力”及外形設計方面的擬人化帶來一定的沖擊感，以至于人們對人工智能的發展問題如此敏感。從“內在進路”出發對人工智能的道德主體地位進行分析，將人工智能倫理問題的視線拉回到人工智能背后的主體——人。

首先，人類的“移情”①偏好似乎是引起人工智能倫理爭議的一個始點因素。不論是可模擬人腦思維且能夠實現人類認知功能的強人工智能（Artificial General Intelligence）還是只能單純執行人類為其設定的某單一任務的弱人工智能（Artificial Narrow Intelligence），其和人類的微妙關系似乎都基于一種人賦予周圍事物以情感的行動偏好。這種偏好類似大衛·休謨提出的“同情”（sympathy），但也有所不同。休謨的“同情”可以感知他人的痛苦并因這些痛苦的人產生難過、悲傷等情緒，而這種賦予周圍事物以情感的行動偏好所包含的內容要更加廣泛，應用也更加普遍。將我們的感情投射或移植到周圍的對象之中，這些被人類情感投射的對象不僅有非生物體、生物體還包括除自己以外的人。移情于人或者移情于人以外的存在物，兩者有著一定程度的相關性，但其中也蘊含本質的區別[1]。

在把人工智能角色定位成一個道德主體的情境中，更多的是一種主觀想象。事實上，人工智能所引發的爭議是科學技術發展所帶來的一些衍生性問題。關于技術的問題，路易斯·芒福德（Lewis Mumford）曾提到“它只是人類文化中的一個元素，它起的作用的好壞，取決于社會集體對其利用的好壞。機器本身不提出任何要求，也不保證做到什么。提出要求和保證做到什么，這是人類的精神任務[2]”。人類的情感行為有著一定的構造功能，當這種道德情景應用在人工智能上時，主觀情感便開始對其進行特殊的二次構建。曾有一項關于“下一代機器人將作為伙伴與人類共存”的調查詢問兒童，如果他們不喜歡陪伴自己的機器狗時會不會將其扔進垃圾桶，其中大多數兒童認可機器狗的道德地位。這項調查結果表明“機器人至少在功能與心理上可以模擬道德能動者并成為道德感受的對象[3]”。但是，如若詢問這些兒童當他們不喜歡陪伴自己的小狗時會不會拋棄它，很大程度上會得出同樣的結論。不只是小狗，甚至是陪伴孩子的某種玩具也不會被輕易拋棄。這其實就是移情行為造成的結果。很明顯，產生這樣的結果時，我們并不會把狗和玩具定義為某種道德能動者。比如在康德那里，道德責任只能由作為道德能動者的人來承擔，而道德能動者則需滿足自主性和意志自由這2個條件。

其次，人工智能在“智力”與外形設計方面的擬人化給人類帶來不小的沖擊感。“理性”是人的突出特征，人的大腦可以將抽象概括后的一般規律推廣到具體的事物中去，并且在潛意識中把某種情緒或者幻想轉移到另一對象上。同樣是將情感移植于自身以外的存在物，非生物存在體由于其自身與人類之間的顯著差距，往往使人們對其沒有太過強烈的抵觸心理。人們之所以對人工智能的發展問題如此敏感畏懼，一方面是由于傳統西方學界一直以“理性”作為劃分人與其他生物的主要標準，而人工智能的發展恰恰為人類自己帶來挑戰，人類害怕其自主意識超越自身的理性智慧。另一方面，在人工智能的研發過程中，采用模擬人類外形的設計，讓人們更加警覺。例如，索菲亞于2017年成為世界上首位被賦予公民身份的機器人，她有著高高的顴骨、纖細小巧的鼻子及延展性材料制成的仿真皮膚，面部的毛孔甚至可以達到4～40 nm，幾乎與人類別無二致，憑借面部頸部的62個結構變化面部表情，就可以展現出不同的情緒。索菲亞的出現，讓人們驚嘆的同時也繃緊了敏感的神經。不論是西方神話還是東方神話也都少不了關于神創造人類的故事。普羅米修斯用泥土按照神的樣子捏出了人類的形狀，女媧同樣用泥土仿照自己的模樣創造了人類。這些故事的共同點就是神創造出了與自己形體相似的人類。人工智能飛速發展，人工智能體具有人類的形體也不再是天方夜譚，這樣一來，人工智能仿佛成為了神話故事中被神創造的“人”。

人工智能對人類行為舉止和思維方式的模仿，讓人們格外審慎。這一問題其實在很多文學作品中都有所體現，一旦某些非人存在物開始有了類似人類的行為和思考，人們便把其視為“精怪”并對其產生一定的懼意。其中的關鍵就在于，人工智能和其他非生物存在體有了明顯的不同，而和人類之間的關系卻越發模糊不清。關于人類對非人類存在物之間產生的不同種類的感覺，日本機器人專家森昌弘曾提出“恐怖谷”（Uncanny Valley）理論，由于機器人的不斷發展，其與人類之間的相似程度越來越高，在最初的起始階段，可能是出于某種好奇心理，人會產生出一種興奮的正向情感；當這種發展達到一定階段以后，人和機器人之間的情感關系發生了轉變，也許是由于相似程度過高引發了生存競爭的本能，因此在心理層面出現了較為強烈的抵觸情緒。人類始終只是想成為人工智能這一“高級智慧”的操縱者，而并不希望自己被這種智慧所超越。

沿著“內在進路”對“人工智能具有道德主體地位”這一觀點進行剖析，可以發現，人工智能除了使人類產生新奇、驚嘆和懼怕等不同的情緒波動，還引起了人類主觀上的“移情偏好”。由于人工智能是一種可以模仿人類思維方式和外形的非生物存在體，將人類的情感投射其上時，遠要比一般的移情行為更加復雜。這時，不僅是在心理層面，更是在道德層面，都會發生一種不可避免的混亂狀態，這就導致了對人工智能道德主體地位的認知偏差。

2" 人工智能道德主體地位研究的“外在進路”

人工智能對海量數據進行分析和學習，自主適應多變的外在環境并給出最佳決策方案，按照內在程序運行的自主行動不再完全受控于人類，這也是人工智能被認為具有道德主體地位的一個關鍵因素。人工智能的算法程序表現出一定的意向性，如此人工智能似乎不能簡單地被視為一個遙控的機器。但不論當前人工智能模擬人類的能力可以達到何種程度，都還沒有出現真正類似人類的道德主體。人工智能所做出的自主行為抉擇，歸根到底是某種程序的預先設定。“外在進路”聚焦算法設計賦予人工智能按照內在程序運行的自主行動能力，分析算法的典型問題，將人工智能道德主體地位問題的研究聚焦在研發階段。

首先，人工智能具有一定的目的性，其來源并非人工智能自身，而是這項技術的受眾群體。一是技術的產生是因為主體需求，這導致人工智能在最初的研發過程中無可避免地嵌入某些主體價值。二是人工智能技術的產生會對社會產生一定價值導向。比如維貝克（Verbeek）就認為，技術作為一種工具并不是中立的，其調節著人們的日常生活，影響著人們的生活質量、道德抉擇和道德行為[4]。也就是說，除了主體需求使得人工智能技術嵌入主體價值，人工智能反過來也會對主體產生很大的影響，這一點從人們對智能化設備的依賴程度上就可以看出。三是人工智能研發人員的主觀價值取向。埃里克·戈德曼（Eric Goldman）的研究表明，社會偏見可以被個別設計人員有目的地嵌入到系統設計中[5]。人工智能的研發具有極強的專業性，源于技術上的限制和考慮，設計人員在新科技的探索過程中很容易代入自己的主觀價值取向，經由人工智能算法程序轉化其形式，使得表面上客觀理性的數據和計算產生觀念上的偏移。從以上3點可以看出，人工智能在運行過程中所表現出的“心靈意志”其實不過是根源于社會背景、社會實踐及人們的主觀態度。

其次，人工智能算法的不透明，為人工智能披上了一層神秘面紗。高度復雜的運行機制使我們難以對其因果關系和責任劃分進行線性歸屬。從設計過程來看，一些負面影響很難被預測到，當人工智能技術局限于實驗環境中，按照檢測標準可能會檢測出異樣，然而，當算法程序的運行結果被納入交互式環境中面向公眾系統時，最引人注目的不是結果本身，而是其被解讀為什么。布雷利（Burrel.J）在人工智能的算法問題研究中指出，算法的不透明是高緯度數據、復雜編碼和易變的決策制定邏輯的結果，存在不可解釋的長期問題，不僅如此，算法的決策制定結構通常由許多不同的研發團隊分工合作，包含大量難以檢測的規則，而且由于機器的處理速度和大量的運行變量導致算法的輸入輸出不可知，使得對算法決策制定的監督和人工干預變得難以把控[6]。人工智能自主行為決策的不可預見性常常使人們產生“人工智能可以作出道德決策行為”的錯覺。但這一現象的根本問題應在于如何解決算法決策困境及如何提高算法的可解釋性。

以上2點都可以從人工智能的算法歧視問題中得到體現。2014年，亞馬遜公司曾開發一套算法篩選系統來幫助亞馬遜在招聘時篩選簡歷，開發小組研發出500個模型，同時輸入50 000個曾在簡歷中出現的術語來讓算法系統進行識別，以此學習不同能力分配的權重。但隨著時間的推移，開發團隊發現算法對男性應聘者的評分明顯偏高，當算法識別出女性相關的詞匯時，相應簡歷便會得到帶有“歧視性”的相對較低的分數，后經由路透社曝光，亞馬遜隨即叫停了對該算法的開發和使用。2015年谷歌的自動標記系統曾將黑人的照片標記為“猿猴”或“動物”，Flickr也曾出現和谷歌一樣的圖片識別系統失誤的問題。2021年Facebook用戶在觀看一段以黑人為主角的視頻時，會看到一個自動生成的提示，詢問其是否愿意繼續觀看靈長類動物的視頻。除此之外，面部識別算法會被具有女性特征或深色皮膚的人觸發，以防止其訪問資源；累犯預測模型運算結果顯示有色人種的風險明顯高于白人，從而導致不公正的持續管理。這些算法歧視的經典案例看似是人工智能自主學習、自主運行的結果。但本質上這些問題的產生來自人們的主體價值觀念、技術的不成熟及社會實踐背景等因素。例如，亞馬遜員工的整體結構以男性為主，因此亞馬遜的算法篩選系統在訓練階段使用的數據集本身就帶有很強的性別偏好，導致人工智能自主學習的結果不盡如人意。除了數據樣本的收集和使用問題，谷歌、Flickr及Facebook等表現出的技術的不成熟也是一個關鍵因素，例如在人臉多樣性（DiF）數據集中，梯度剪裁、噪聲注入等技術會嚴重降低較深膚色人臉的準確性。

人工智能的目的性和算法程序設計讓其表現出一定的自主能力，但這種能力本質上是人類賦予的，人工智能自身并不具備自我意識，其不會產生任何情緒波動。現有的AI技術在深度學習問題上表現出的缺乏復雜推理能力，是這項技術的根本局限性，也是當下人工智能無法超越人類的一個重要方面。換句話說，人工智能基于數據算法等方式做出的自主抉擇和人類的思維意識有著很大的不同，不論其如何模仿，始終無法做到與人類的生物思維意識相一致。因此，通過“外在進路”對人工智能是否具有道德主體地位問題進行分析，便可以得出否定性結論。

3" 兩種進路帶來的啟發

人工智能所涉及的領域呈發散性不斷外延，相關倫理問題的探討很大程度上是預言性質而不是基于某種客觀現實做出的陳述或者判斷。這種預言性質具有強烈的不確定性。以不確定的內容為基礎展開討論，勢必會得出不確定的結論。如若撇開人與人工智能之間延展出的不確定性關系，回到最初的起點，也就是創造者與被創造者之間的關系，就會很好地了解人類與人工智能的不同角色定位。

喬安娜·布萊森（Bryson）就認為人工智能在社會中的地位應該是一個規范性的問題，而不是描述性的倫理問題[7]。人工智能被植入代碼程序，這和單純的倫理設計是完全不同的。之所以人工智能涉及很多的倫理爭論，其中一個重要的節點在于人工智能的“誕生—應用—發展”是人機交互的過程，其和人類發生某種關系，理所應當成為了人類社會中的某一影響物。例如物體A在某一個空間地點與路人B沒有任何的交集，那么物體A對于路人B而言就是一種主觀的“不存在”，而當這個物體A與路人B產生某種聯系時（看到、聽到或者接觸到），二者就會建立起某種關系，這時物體A對路人B就產生了某種意義。在這種情況下，人作為創造者基于某種目的制造出了人工智能，而人工智能作為一種手段反過來為人類服務。人工智能的工具性理應是被牢牢把握的關鍵點。人工智能是人類的發明創造、是某種技術產品，作為一種工具使人們更容易實現其目的。明確人工智能與人類之間的這種關系，確定二者的角色定位是構建人工智能倫理原則的前提。

亞里士多德曾指出“一切技術、一切規則以及一切實踐和抉擇，都以某種善為目標”[8]。人工智能作為科技發展的結晶也應是人類達到幸福的一種手段。人工智能的發展要以人的幸福為目的。2017年在阿希洛馬召開了“有益的人工智能”會議，在這場會議中提出了 “Asilomar AI Principles”也就是“阿希洛馬人工智能原則”，強調應以安全、透明、負責、可解釋、為人類作貢獻和多數人受益等方式開發AI[9]。實際上，我們與周圍事物的基本關系本質上是由人類自己主觀操縱事物的目的來支配的。人工智能作為我們達到目的的某種手段，也是人類賦予了其存在的意義。

不論是強人工智能還是弱人工智能，都可以在很多方面改變傳統的實踐方式，但不管這些智能體如何實現目標以及如何完善實踐經驗，其仍舊只是一種工具，是人類為了實現自己某種目的而使用的對象。人類根據自身發展的需要和社會發展的條件，來制造自己所需要的工具，而人工智能作為這種工具，理應是人類為了促進自己的實踐發展而制造的存在物。這正如喬納斯曾解釋說到，使用某物的意思就是將其作為一種使用工具來達到目的，也就是執行功能。選擇的目的是阿基米德點，其決定工具的選擇和使用：“我決定使用哪種工具，考慮到我的活動的目的和工具的條件——它們再次根據我的目的來進行評估。[10]”“人類的生產源于人的需要，人工智能的生產也是源于人的需要。[11]”人工智能的發展體現了社會更高的發展目標。人類具有創造能力，可以在行為活動中產生對個人或者社會有價值的獨特結果。雖然，人工智能可以進行一定的創造活動，但是人工智能與人類之間的主次關系是明顯的，也就是說，人創造了人工智能，人工智能是人類創造出來的作品。

從“內在進路”出發，想要更好地規避人工智能帶來的倫理風險，要做到以下三點：一是正確理解人工智能作為一項技術幫助人們達到某種目的的角色定位，人工智能的產生和發展正是由于人類在社會實踐活動中不斷地創造，是社會的必然發展階段。人工智能技術在實踐應用中應做到“為人民謀幸福”。二是有關部門機構應進行正確的社會價值引導，使人工智能技術的研發人員、相關決策人員、開發商和人工智能相關產品的使用者都有積極正面的需求目的，從源頭遏制那些會對社會產生巨大負面影響的人工智能產品。三是人工智能的設計應加以規范，不應只追求復刻人類的外貌與行為，而是應該本著造福人類的原則將重點落在功能研發問題上。

算法體現了一些性能比其他性能更好或更重要的價值，可以肯定某種決策或選擇，在給定的域中使用數據驅動算法的決策可能具有社會、政治和經濟等方面的意義，且有可能會不成比例地偏袒某些群體。從“外在進路”出發，首先，人工智能研發的技術人員應避免實施缺乏充分科學確定性的舉措，在算法運行階段明確說明算法的優化標準，對人工智能可能產生的社會影響有清晰全面的認知，并在研究過程中采取必要的防范措施。同時建構道德評估體系，培養、提升研發技術人員的道德水平。其次，對人工智能有關的基礎知識和技能進行科學普及和宣傳。有關部門或機構應為受眾群體提供理解人工智能相關概念的適當的基礎知識，教育者可以利用特定的工具確保不同水平的受教育者實現其學習目標。通過對相關知識技能的學習了解，樹立正確對待人工智能相關問題的思想觀念；三是提高創新研究能力，努力解決算法決策等困難。人工智能作為社會發展和技術創新的產物，現已成為新一輪科技革命和產業變革的核心驅動力，是促進人類進步的重要技術形態。目前，人工智能產生的種種問題及負面影響，很大程度上源于AI技術的不成熟、不完美。因此，提高創新科研能力、培養專業人才，才能從本質上解決這一難題。

總之，要想理清人工智能與人類之間的種種關系，構建人工智能倫理原則，關鍵是要明晰人工智能是否可以被視為道德能動者。人工智能確實可以做出某些自主抉擇，甚至可以發展屬于其自己的一套行為方案，這使部分學者認為人工智能可以作為某種道德責任的承擔者。但是從“內在進路”和“外在進路”2個不同的視角進行分析，不難看出人工智能作為一項技術無法成為道德主體并承擔相應責任。人工智能道德主體地位研究的“內在進路”和“外在進路”相互補充，使人工智能倫理研究的視角不再單一，分析反思背后的問題，從而將責任歸屬問題聚焦現實社會，加快構建人工智能倫理體系。

注釋

①“移情”（empathy）這一概念廣泛吸引著現象學和心理學等不同領域的學者，不同學科領域對“移情”的概念解釋有所不同。本文使用此概念，僅表達其最為一般也最為廣泛的一種含義，即將主體的感情投射到他物，或者是賦予他物某種情感。關于“移情”這一概念的其他較為深入的探討，本文沒有過多的涉及。

參考文獻：

[1] 吳程程.主體的突圍——論移情行為中兩種現象的區分[J].中南大學學報（社會科學版），2019，25（2）：151.

[2] 芒福德.技術與文明[M].陳允明，王克仁，李華山，譯，北京：中國建筑工業出版社，2009.

[3] 段偉文.機器人倫理的進路及其內涵[J].科學與社會，2015，5（2）：42.

[4] 杜嚴勇.論人工智能研究中的前瞻性道德責任[J].上海師范大學學報（哲學社會科學版），2018，47（4）：43.

[5] LOCKTON D，HARRISON D，STANTON N A. The design with intent method： a design tool for influencing user behavior[J].Applied ergonomics， 2010，41（3）：382-392.

[6] BURREL J.How the Machine“thinks”：Understanding Opacity in Machine Learning Algorithms [J] .Big Date and Society，2016（1）：1-12.

[7] BRYSON J J. Patiency Is Not a Virtue ：The Design of Intelligent Systems and Systems of Ethics[J].Ethics and Information Technology，2018，20（1）：15-26.

[8] 苗力田.亞里士多德全集（第一卷）[M].北京：中國人民大學出版社，1990.

[9] 段偉文.人工智能時代的價值審度與倫理調適[J].中國人民大學學報，2017，31（6）：98-108.

[10] HANS J. The phenomenonof life： toward a philosophical biology[M].Evanston：Northwestern University Press，2001：188-210.

[11] 李梅敬.理論層次視域下人工智能發展風險的倫理應對[J].探索與爭鳴，2021（8）：167-176，180.