面向人工智能的形式倫理及其邏輯基礎

王淑慶

隨著深度學習（基于大數據）和通用人工智能（強化學習）等理論與技術的進展，人工智能在沉寂二十多年后再次迎來一個發展高潮。除了技術本身的問題，人工智能引發的哲學、社會倫理等問題也凸顯出來。其中，人工智能帶來的倫理問題備受社會和哲學界關注，它關系到普通大眾的切身福祉問題。人工智能倫理作為應用倫理學的一個研究領域[1]，有很多問題更迫切地需要得到解決，比如自動駕駛的法律責任問題、算法倫理問題、大數據的共享與隱私問題、人工智能對社會崗位的沖擊問題、人工智能陪伴人類服務的倫理問題等。然而，如果欲使機器具備一定程度的道德推理和道德決策能力，特別是讓機器成為一定意義上的道德主體，僅靠對道德決策算法的小修改和對人類道德案例的學習，肯定是不夠的。人工智能體（artificial agent）應該具備“理解”倫理規范并進行合理的道德推理與決策的能力。這種能力除了能通過深度學習得到訓練外，還應該基于它的底層邏輯。

嚴格來說，人工智能倫理至少包括兩方面的內容：一是人工智能體對人的倫理，二是人對人工智能體的倫理。本文不討論人對智能體的倫理問題，比如人是否對人工智能體具有倫理關系，人機交互時人應該遵循何種倫理規范，等等。本文不在于解決形式倫理本身的問題，而在于論證形式倫理的必要性及其邏輯基礎。文章的重點是基于根斯勒（H.J.Gensler）的形式倫理（formal ethics）思想，主要針對人工智能體的道德決策問題，論證心智邏輯（mental logic）和能動性邏輯（logic of agency）比較適合形式倫理。這種探討可以增進倫理學與邏輯學的交叉研究，最終促進形式倫理在人工智能道德決策中的應用。

一、形式倫理的必要性

按照吉普斯（J.Gips）的說法，機器/人工智能倫理有三個基本問題[2]：一是人工智能體的行為能否被認為具有倫理特性？二是人工智能體的行為約束應該以哪些倫理理論為基礎？三是在探討人工智能體的行為是否具有倫理時，人們能學到什么倫理的東西？可見，第一個問題和第三個問題是純道德哲學問題，第二個問題既是哲學問題，也是技術問題。形式倫理在某種意義上就是第二個問題的技術方面。但按照阿薩羅（P.M.Asaro）的說法，人工智能倫理的三個基本問題是[3]：第一，如何把倫理系統植入到人工智能體中？第二，設計和使用人工智能體的人應該遵循什么倫理規范？第三，人們應該如何對待人工智能體？筆者認為，相比吉普斯的說法，阿薩羅的提法更切合“人工智能倫理”的實質內容。阿薩羅的第一個問題，實際上還包含很多子問題，比如人工智能體實施道德行動應該基于哪些倫理理論？如何把這些理論表達成形式語言（形式倫理）？機器道德推理應該符合什么原則或邏輯？應該用什么樣的算法實現這些形式理論？等等。由此可見，不管是吉普斯的問題分類，還是阿薩羅的問題分類，都需要考慮形式倫理的問題。

所謂形式倫理，就是指用現代邏輯的形式方法研究倫理規則或原則的表達與推理問題。如果不考慮人工智能，形式倫理主要是為了元倫理學精確化分析的需要。但問題在于，邏輯那么“硬的東西”如何與倫理那么“軟的東西”相結合起來呢？根斯勒認為，倫理學的形式部分和邏輯一樣是很硬的，形式的倫理原則應該像邏輯原則一樣得到普遍的接受[4]。那么，哪些倫理規則是人類社會最為基本的規范？在根斯勒看來，最基本的倫理規范有六條[4]：一是黃金規則，即“己所不欲，勿施于人”；二是邏輯規則，如一定的范圍內保持信念的一致性；三是良心規則，即遵從你的良心；四是公平規則，即在相似的情形中作出相似的評價；五是不后悔規則，不做意識到會后悔的事；六是最大化規則，即在普遍律令的前提下追求最大化效用。這幾條規則比較高級，將來也許可以面向具有較高主體性的人工智能體。根斯勒把這些規則用道義邏輯和祈使句邏輯進行了表達，可以看作是形式倫理的初步工作。

把形式倫理應用到人工智能中來，就是讓機器能夠“理解”并運用它們進行推理，從而幫助其作出道德決策和實施道德行動。人們希望人工智能體具有一定的自主性或能動性，比如具有道德推理或推理決策的能力應該是這種人工能動性（artificial agency）所蘊涵的，它的目的在于使人工智能體不對人類造成傷害，甚至遵守人類文明。阿西莫夫（I.Asimov）提出的三條倫理原則（不準傷害人，服從命令，不準自殺）顯然是不夠的，因為它只是人工智能體對于人類奴隸式服從的三條基本原則。人工智能體應該遵循哪些倫理規范，根斯勒沒有討論，筆者在第三部分將針對人工智能體的行動，提出兩條新的倫理原則。

現在以及可以設想的未來，人工智能體與人類在思維和行動上的差別還非常明顯。首先，人類行動對于直覺與經驗的依賴與調控方式和人工智能體很不一樣。假設把人工智能體也看作一個行動者（agent），那么她的行動依據并不是人類直覺和經驗式的，因為她只有在形式語言和機械算法的意義上才能實行推理和決策。在這個意義上，人工智能體對于推理語言的表達與推理過程的精確化需求，自然比人類個體對于推理精確化的需求更為迫切。其次，從理論上說，機器實施道德行動比人更依賴形式倫理理論。任何一種倫理理論，如義務論、功利論、美德論以及正義論等，如果要把它移植到人工智能體中，必須要把它表達成人工智能體能夠理解的形式語言和推理模型算法，而這兩者肯定得是形式化的。再次，從實踐上說，人工智能體面臨沖突時不如人靈活。即使人工智能體不是基于大量的邏輯推理來進行決策，比如基于貝葉斯期望效益來決策并實施行動，但它在面臨沖突時，它總得按照一定的倫理原則進行推理，然后才能取舍。而人工智能體如果要理解并執行符合某種原則的行動，也必須是形式化的：比較簡單的做法就是按照特定的形式模式來決策，從而最終實施行動；較為復雜的做法是基于一定的邏輯系統，再把這些規則設置成“特定公理”，讓機器自己推理和決策。最后，深度學習算法無法讓機器真正地“理解”倫理世界。在圖靈獎得主珀爾（J.Pearl）看來，目前基于深度學習的人工智能做法存在缺陷，即無法從因果的角度理解世界與進行因果推理。他認為，未來強人工智能體必須具備從因果性上“理解”世界并進行相關的因果推理，這包括從因果性上理解人類社會及其倫理方面[5]。要實現這一點，最為基礎的工作就是對因果進行建模。從人機互動的角度看，機器遵守人類倫理規范的前提是，她們能夠理解（或者部分地理解）人類行動的規范性，這在一定程度上取決于形式倫理的進展。

如果上面的分析是正確的，那么形式倫理對于具有一定道德自主能力的人工智能體就是必要的。當然，這種倫理推理規則在人工智能體中的實現中會面臨一些困難。正如徐英謹所認為的，如何把表達倫理規范的自然語言和機器代碼具體結合在一起，實際上是一件非常麻煩的事[6]。比如，如果用貝葉斯期望效用最大化原則作為人工智能體的決策原則，則如何使得倫理推理適應這種最大化原則，就不是一個簡單的問題。再如，在復雜的情況下，特別是多種利益沖突的情況下，為了讓人工智能體能夠快速地作出決策，如何快速地進行倫理推理也是比較困難的[7]。為了解決這些困難，最基本的工作之一也許就是探討形式倫理的邏輯基礎問題。

二、從道義邏輯到心智邏輯

倫理學理論由倫理命題組成，倫理命題需要用一定的語言表達，關于倫理命題的正確推理需要遵循相應的邏輯推理規范。經典一階邏輯是最為普遍的邏輯，它是多數推理的基礎性邏輯。對于人工智能體來說，其道德推理不僅要遵守最基礎的一階邏輯，還需要遵守和道德推理相關的邏輯。然而，由于一階邏輯過于復雜，且在表達倫理推理時要構造相當多的謂詞，而相關的模態邏輯（如道義邏輯、心智邏輯）更有應用價值。下文不考慮多人工智能體間的互動關系，只討論形式倫理表達和單個智能體在進行道德推理時應該以什么樣的邏輯作為基礎。

我們假定，人工智能體有意義的肢體移動也算行動。那么，如何保證人工智能體在實施行動時遵行相應的倫理規范，即讓人工智能體實施那些倫理允許的行動，并禁止做一些違反倫理規范的行動，這是形式倫理學的題中之義。最基本的要求是用相關邏輯語言形式化這些倫理規則，即用某一套形式語言來表達這些倫理規則或原則集。道義邏輯是最容易被想到的表達與推理工具，因為道義邏輯研究道德算子（如應該O、允許P、禁止F等）的邏輯。這意味著，在一定的范圍內，可以用道義邏輯表達倫理規范。比如，阿西莫夫就提出的三條機器倫理編碼原則有一條是義務規范，有兩條是禁止規范，從而可以表示為：Fφ，Oψ，Fθ。至于 Fφ 與 Oψ 和 Fθ 與哪些行動相關聯，它們如何參與到決策推理中來，則是進一步研究的問題。另外，很多倫理規范只在一定的條件下才有效，這可用條件道義公式表示，比如用F(φ/ψ)表示在ψ的條件下，φ是禁止的，這就比單純的不講條件的禁止更切合實際。道義算子與“能夠”算子（用C表示）結合，還可以表達更豐富的倫理命題，如著名的“應該蘊涵能夠”原則（Oφ→Cφ）實際上有兩層意思：一是應當做的則一定是有能力做的，二是應當做的一定是符合倫理規范（允許做的）。如何讓機器區分并“理解”這兩層意思，需要更細致的行動模型與邏輯表達。

但是，道義邏輯有幾個問題阻礙了它作為形式倫理的邏輯基礎。一是道義悖論問題，如羅斯悖論、承諾悖論、樂善好施悖論、反義務悖論，人類在面對悖論或悖論性情景難以處理，更不用說機器；二是道義邏輯過于理想化，并不能很好地反映現實中道德或法律推理[8]。因此，需要對道義邏輯進行進一步修正研究，才能更好地適應形式倫理的需要，比如它可以與心智邏輯結合起來。心智邏輯是為了從邏輯上刻畫一些重要的心智狀態。心理學認為，知情意是心智的三個核心方面。相應地，就有三類邏輯：刻畫認知的認知邏輯，刻畫情感的情感邏輯，以及刻畫意志的行動邏輯。由于認知邏輯目前在國內外研究比較多，本文只關注情感邏輯和行動邏輯，下面先討論情感邏輯與形式倫理的關系。

一般認為，情感是智能的一個重要方面。但是，并非任何情感都值得進行邏輯刻畫，而且有些情感和倫理關系不大，但像欲望、后悔、害怕等情感是具有一定的倫理意義的，因為這些情感能夠驅動或阻人去實施行動。舉例來說，一個人工智能體在某種情況下，欲望做某事且做了此事，但之后發現其行為不符合某規范，于是產生了后悔“情感”；并且，在某些情況下，她欲望去做一些事，但并不確定是否能夠完全成功，這時她應該具有害怕的情感。其實，按照斯賓諾莎和休謨的看法，情感在倫理學上具有重要意義。在斯氏看來，欲望、快樂、痛苦、愛、恨、希望、同情等是一些基本的情感[9]。事實上，據心理學研究結果，人類的情感類型共有22種，目前已有文獻就其形式表達研究進行了較為詳細的討論[10]。在此意義上，如何使人工智能體具有這些情感，且讓它們影響到人工智能體進行理性決策和實施行動，這就更具倫理意義。比如“后悔R”，它是“對于既成事實的道德與邏輯反思”，這種表達既有邏輯特性也有倫理特性，即Rφ→φOφ□φ。[11]

如果上述討論在未來是有可能實現的，那么情感邏輯對于形式倫理就不是可有可無的。這是因為，要把這些情感“移植”到機器中，并進行相關推理，最基本的工作就是進行形式定義與表達，建立相關模型。筆者目前能見到的情感形式理論，有后悔邏輯、希望邏輯、害怕憤怒邏輯、情感建模等。也許，人工智能體在“情感體驗”上和人類完全不同，甚至沒有情感體驗，只有外在看上去的情感存在。但是，這不影響我們把她們看作或希望把她們看作是有“情感”的智能體，只要她們的行動是受這些情感的影響——如果這種影響和人類情感對于行動的影響方式在總體上是類似的。事實上，人工智能體的情感表達與推理研究，目前還處于起步階段。盡管未來任重道遠，但無疑是富有吸引力的。

三、能動性邏輯與形式倫理

人工智能體進行有效的且有倫理價值的實踐推理，并進而實施符合道德的行動，這是人工智能倫理的目標之一。如前所述，一種必要的工作是基于刻畫智能體意志的行動邏輯。所謂行動邏輯，就是對行動的本質特性進行形式刻畫的邏輯，它主要包括能動性邏輯、動態行動邏輯和信念修正邏輯。由于后兩類邏輯沒有把行動者實施行動的整個過程刻畫出來，特別是沒有刻畫出行動者的心智狀態對于行為的影響，所以筆者認為，對人工智能形式倫理來說，行動邏輯中最有潛力的是能動性邏輯。能動性邏輯是對能動性的形式表達與推理刻畫。它不僅可以和心智邏輯以及認知邏輯結合起來，而且還有可能幫助人工智能體能夠進行道德推理。

在最一般的意義上，能動性是“行動者有能力實施行動的體現”[12]。對于人類行動者來說，能動性的施展與心智狀態密切相關，比如行動哲學的主流理論行動因果論就認為，作為心智狀態的理由是行動發生的原因。區別于人類能動性，人工智能體有能力實施行動的體現，就是人工能動性。目前有不少人工能動性模型，其中最流行的是布萊特曼的BDI模型[13]。它之所以廣受人工智能體建模的歡迎，原因在于它是對人類能動性的一種較為合理的抽象。當然，它還有繼續發展的必要。發展的方向之一是，擴展這個模型到人工道義能動性模型及其推理研究，特別是把它與表達能動性概念的“致使”（E φ）、“確保”（Sφ）以及“嘗試”（Aφ）和“能夠”（Cφ）結合起來。至少在語言上，可以構造出如下表達人工

有了上述邏輯語言與模型，筆者在此提出人工智能體行動的兩條倫理原則：確保原則和嘗試原則。假設φ是關乎倫理的事態，那么這兩條原則的內涵可理解如下。第一，確保原則：在資源允許的情況下，如果人工智能體能夠確保φ，就不要只嘗試φ；除非不能確保又只能嘗試的情況下。這條原則是很有倫理特性的，特別是一些和其他行動者相關的確保內容。比如，一個照看小孩的機器人，就必須有能力確保小孩不受到傷害。另外，弱人工智能的目標是讓機器能像人一樣實施理性行動。理性行動意味著行動主體應盡量避免偶然事態的發生，換句話說，它要求行動者經過理性選擇，做那些能夠確保目標事態的行動。在分枝時間框架上，可以定義“確保”和“嘗試”等概念的精確語義，這就為人工智能體實施理性且道德的行動提供了某種邏輯基礎。第二，嘗試原則：在不能確保φ的情況下，人工智能體要盡力嘗試實現φ。避免人工智能體對人類行動者正在遭受的傷害漠視不管，這自然是人工智能道德體決策的重要問題。與人類行動者類似，人工智能體在很多情況下是“力不從心”的，即不能確保一些安全事態，特別是在危險環境中。基于上述邏輯語言與行動模型，如果人工智能體能夠根據危險情況“主動”嘗試實現事態φ，就是一項值得期待的任務。這種“主動嘗試”能夠體現人工智能體的“援助之心”，即使“這種嘗試”可能面臨失敗。有了上述能動性邏輯作為基礎，人工智能體才有可能“理解”并實施這兩條原則。值得一提的是，這兩條行動原則可以在形式倫理中得到良好的表達，而且它與阿西莫夫的機器人三條倫理原則是一致的。由此可見，基于上述能動性邏輯語言和模型，人工智能體行動的兩條倫理原則不僅與行動的效率有關，更重要的是能體現人工智能體行動的倫理關懷。

根據貝克的能動性分層理論[14]，能動性可分層為三個級別：極小能動性、審慎能動性和道義能動性。只要有心智狀態（如后悔、相信）作為實施行動的理由，就是極小能動性；有理性因素（知道、推理）和道德因素（必須、譴責）的參與，則分別是審慎能動性和道義能動性。在這個意義上，理性因素與道義因素參與的能動性，都是能動性的高級表現。人工智能形式倫理更關注人工道義能動性，特別是表達各種心智狀態推理是怎么影響到人工智能體道德推理與決策的。如前所述，要表達各種心智狀態對于道德決策的影響，需要把心智道義算子與表達行動的算子結合起來。就目前來看，有的學者在事件演算的基礎上加入BDI算子和應該算子O來進行刻畫[15]，但這種刻畫的問題在于它假定了理想人工智能體，且它對道義的表達非常狹窄（只有應該算子），而且沒有把各種心智狀態算子與能動性算子結合起來。而上述邏輯語言和模型，有可能真正地克服這些缺陷。

由上可見，為了從邏輯上表達和刻畫形式倫理，最重要的是刻畫人工道義能動性概念。而要達到這個目標，必須要把各種心智狀態算子與能動性算子結合起來。由于心智邏輯與能動性邏輯的結合本身也可以看作是能動性邏輯，因而對于單智能體的道德推理來說，較為合適的邏輯基礎就是能動性邏輯。事實上，能動性邏輯近年發展的一個趨勢就是能動性邏輯與認知邏輯、道義邏輯的結合[16]。

四、結論與進一步的問題

綜上所述，可以得到兩個結論：第一，形式倫理對于具有較高水平的人工智能體是必要的；第二，在已有的邏輯中，道義邏輯需要與心智邏輯進行結合，心智邏輯中的能動性邏輯對于形式倫理更有發展前景。如果欲使人工智能體在為人類服務或人機互動時體現一定程度的道德水平，形式倫理及其邏輯基礎研究具有一定的價值。假定這個結論成立，以下兩個問題更是不可忽視的。

第一，道德推理的邏輯規律。一般認為，道德推理是實踐推理的一種類型，它的目的是得到一種關于道德的行動或決定。不同的人基于不同的理由，可能會對道德判斷產生截然相反的結論。類似地，人工智能體也很可能出現這種情況。因此，道德判斷就需要進行道德論證或推理[17]。但是，這種推理的邏輯結構不是一般的演繹結構，也不是簡單地通過歸納得到。探究它的結構，對于人工智能體的道德判斷或許具有基礎意義，并進而影響其自動進行道德決策的能力。而且，就目前來說，實踐推理方面的研究實際上是非常薄弱且具有較大挑戰性，其中的很大困難在于需要多學科的合作[18]。

第二，形式倫理對于人工智能體道德決策的影響方式。在目前的人工智能決策算法中，主要是基于期望效益最大化模型。比如，考察一個行動α是否值得做，人工智能可能會通過計算它的價值V(α)來決定，且 V(α)用求和函數 Σφ(α)來表達[19]。吉普斯認為，從不具備道德決策的人工智能體到具備道德決策的人工智能體，區別在于是否有一層倫理規范在影響著她的決策[2]。那么，這些倫理規范或理論是如何影響到道德決策的呢？處理這個問題，不管是自上而下的邏輯方式，還是自下而上的機器學習方式，都會存在一些問題[20]。于是，有研究者認為，需要對人工智能體道德決策實行監管，包括外部制約和和內部監控。[21]