大數據功利主義計算邏輯中的“道德囚徒”

沈琪章

(南京師范大學 公共管理學院， 江蘇 南京 210046)

功利主義有三大理論基點，即苦樂原理、效果論和功利原則。[1]55若以行動后果所造成的苦樂的多少來判定一行為的道德價值，將理念運用到行動中去就不得不涉及到對苦樂的計算，這是功利原則內含的必然邏輯。此前，以黑爾(R.M.Hare)的“偏好功利主義(preference utilitarianism)”、理查德·布蘭特(Richard Brandt)的“規則功利主義(rule utilitarianism)”、彼得·雷爾頓(Peter Railton)的“客觀后果主義(objective consequentialism)”為代表的理論要么通過將實踐理性的計算與客觀后果之間的不對稱性限制在“主觀效用”的最大化上，要么是通過“規則”來減少計算量和步驟，要么就是認為人在客觀上沒有那種計算最大化善的能力和必要而放棄了計算。

一、大數據與功利主義的本質邏輯：實體技術與思想技術

對技術的定義可從兩個方面理解，即作為物質實體存在的技術和作為規則的方法的技術，但不管作為何種技術，在反思概念層次上，“技術——不論是有規則的方法，還是諸如工具和機器這樣的人工制成品——都是為它們自身以外的目的服務的”，也就是作為手段。[2]22大數據實體技術與功利主義反思技術的相通之處在于二者都是手段，目的在于追逐效用最大化。

正如增強人工體力勞動效率的紡織機的商業運用促進了紡織機在工業社會的快速進化一樣，大數據技術作為腦力增強技術也是資本主義社會工業技術的一個邏輯必然。20世紀80年代末期，霍華德·徳雷斯納(Howard Dresner)第一個提出了“商業智能(Business Intelligence)”這一專業術語，它最初被用來對業務經營進行決策，試圖在商業競爭中提高信息優勢和企業決策能力、效率和準確性。在商業發展對處理大量數據的存儲和分析的需要下，“大數據技術”誕生了。[3]957自一開始，大數據技術就用于信息處理和商業行為決策。國際數據中心IDC于2011年對大數據的定義是：“大數據技術呈現了一個新的技術和體系時代, 被設計來從大規模多樣化的數據中通過高速捕獲、發現和分析技術提取數據的價值”。[4]1出于商業競爭的目的，使用者希望大數據能夠以最快的速度，最高的效率獲得有用信息并作出有利于獲得商業利益的決策供其選擇。為此，它也在實際上發展出了“量大、多樣、迅捷、有價值”的特點，也就是要盡可能地將一切數據化，而不管它的類型是什么，此外還要快速地根據用途而將其變為有價值的數據。[5]96總而言之，大數據技術是一種以外在于其自身的利益為目的的效用工具，在資本的驅動下始終追求將利益最大化，為此它要將一切數據化，以用于決策。作為一門擁有物質實體的技術，它與“功利主義思想技術”有著天然的相似性。

杰里米·邊沁(Jeremy Bentham)創立的功利主義以苦樂作為功利原則的基礎，并將功利原理解釋為：“它按照看來勢必增大或減少利益有關者之幸福的傾向，亦即促進或妨礙此種幸福的傾向，來贊成或非難任何一項行動。我說的是無論什么行動，因而不僅是私人的每項行動，而且是政府的每項措施”。[6]58邊沁將行動的“后果”是否能夠增大利益或避免利益的損失作為評估行動“道德價值”的根據，這一原則要求個人與政府都以此作為行動、道德決策、政治決斷、社會改進和法律制定等的標準。“人們一般都信奉這個原理……即使不是為了規范他們自己的行動，也是為了評判他們自己的以及別人的行動?！盵6]13這也意味著不僅是要對結果進行評價，作為規范它還要求在“決策程序”中，即行動前對后果進行預測，并根據預測來選擇行動。

當存在諸多行動選項時，“絕大多數人能否最大程度地感受幸福，這才是正確與錯誤的衡量標準”。[7]99也就是說不僅要追求有利，還要是最大多數人的最大利益。當最好與次好同時存在時，選擇次好便是錯誤的，因而也是相較而言不道德的。這一思想原則作為另一種工具的存在，雖不是實體，卻在思想上呈現為機器的邏輯，追求行動“產物”的功利最大化。如同工廠中的機器一樣，功利邏輯與大數據一樣要求“更高、更快、更強”，始終在尋求效率最大化的出口。與義務論不同，功利主義原則始終在對一切，甚至對自己進行否定。它的目的不在自身內，而在自身外，也就是只要能夠達到“最大多數人的最大幸?！?，功利主義甚至可以為了后果上的好，而暫時隱藏自己的規則，聲稱自己并非要實現“最大多數人的最大幸福”，即“說謊”。在這種意義上，“功利主義倫理學可以理解為一種效率倫理學……道德的準則不是自我目的，而是對行為進行控制的、僅僅通過自己的功能而證明有存在理由的社會公約……可以被看作對目的和手段理性的技術和經濟模式的一種普遍化……技術行為是典型的以特定的非技術目的為導向的手段行為。技術的優化也總是帶有效用最大化的特征”。[2]268

不過，要注意的是，功利主義理論也并非完全是一門技術，作為一門規范倫理學它的目的并不具有完全的開放性，它只能以“快樂、幸福、利益、福祉、福利”等善事物為目的，至少它的價值導向不可以通向“惡”。對于其他技術而言，則可能用于毀滅和破壞。為了達到上述目的，功利主義計算是不可或缺的。在計算中，行動者應當盡可能地掌握更多的信息，并以最快的速度處理信息，分析出最佳方案，然后作出決策。在這一過程中，計算必須不偏不倚，不帶個人偏見，也就是需要計算中不能受不相干因素的影響而導致計算失誤，如情感沖動、身體疼痛、醉酒眩暈等等。功利主義還需要公式化精確無誤的計算，這是功利主義的特點，也是它的困境。大數據的運用與之相似地有著同樣的要求，且已經初具上述功能特點，能夠在一定程度上解決功利主義的計算問題，也是功利主義計算的邏輯要求。

二、大數據功利主義計算：從商業決策到道德決策

大數據技術與功利主義都以外在于其自身的目的作為追求對象，作為價值結構的功利主義在邏輯上尋求作為實體技術的大數據技術來輔助計算。但從商業行為的決策過渡到道德行為決策之間存在著一條難以逾越的鴻溝，也就是從“事實判斷”過渡到“道德判斷”的問題。功利主義作為自然主義倫理學是通過“配置(Configuration)”自然事實，賦予苦樂以道德價值而將事實判斷變為道德判斷，并在“幸福最大化原則”的意義上將一切行為轉變為道德行為的。大數據與功利主義的結合可以被稱為一種功利主義的新形態：“大數據功利主義”。

如前文所述，大數據決策的初衷是用于商業行為，這看似與道德行為并無瓜葛，但對功利主義來說，利益計算始終與道德決策不可分割。義務論并沒有這樣的要求。對于義務論者來說，“應當與否”并不取決于計算的結果，而是行動者所直面的“道德律令”。它要求行動者參與其中，根據規則來進行道德決策或評價，并不需要考慮行動后果是否有益。對于亞里士多德主義的德性倫理學來說，盡管行動者被要求盡可能多地掌握信息，并作出明智的選擇，但德性行為應當出于行為者的品格特征，而不是以“后果”為本位進行計算。在根本上，義務論與德性倫理學就與大數據計算在道德上的深度運用關系不大。當道義和德性不是出于行動者自身直接發用的動機或品質時，所謂“心中的道德律令”與“培養出來的德性”就成了徹底外在于自身的規范，而喪失了它原有的道德意義。

大數據技術是一種信息技術，其核心是計算機處理，而不是經人“上手”的測量，在一定程度上，它是一種脫離人的直接思維活動的自動化系統。[5]96雖然從人們的日常經驗來看，道德決策是人自己的事，不由自己意志決定的行為，行動者不應為之負責，但在功利主義的理論中，計算可以不由個人自己承擔，因為它以“后果”為中心而不是以“行動者”為中心。大數據的功利主義運用并不建立在計算主體的道德地位之上，而是建立在人工智能的計算能力之上，因為計算出的后果本就不由行動者自身決定。只要人工智能能夠承擔這一任務，且這種運用能夠促進好的后果，它就應當承擔計算的工作，為行動者提供計算結果。大數據技術負責收集信息，執行按照功利主義原則所設計的算法，由于這種算法要求不偏不倚，即使是同行動者自己計算的結果一樣，也是功利原則自身的邏輯使然，而不是從行動者出發。同時，功利主義還具備著行為者中性的特點。[8]112這意味著計算活動可以不由行動者本人承擔，功利主義者若只按照功利原則行動的話，便無需考慮“個人計劃”，這一點遭到了伯納德·威廉斯(Bernard Williams)關于“個人完整性”的批評。[9]196不過，即便計算過程與結果不由行動者來完成，是否采取行動，以及選擇哪一個行動卻仍掌握在行動者手中。因此，即便選項不由行動者給出，行動本身卻是由行動者執行的。人要為其行動負責，這是他個人所能決定的。

在功利主義看來，牽涉到利益的自然事實也同樣是道德事實。當代西方元倫理學中存在著道德實在論與非實在論的爭議，這一對道德本質問題的討論決定了建立在其上的倫理學的性質。“還原的倫理自然主義(reductive ethical naturalism)”認為道德屬性可以還原為自然屬性，道德話語體系與自然話語體系指的是同一對象。以邊沁為代表的功利主義便是如此，它以苦樂的增加或減免為判定道德正確與否的標準。苦樂是自然屬性，而正確與否則是道德屬性。堅持這一點的人在根本上是自然主義實在論者，他們認為“道德要么是自然事實，要么是自然事實的配置”。功利主義認為經過配置的自然事實就具有了道德屬性，“比如符合社會上絕大多數人的利益或是否能夠最大限度增加社會幸?；蚋ｌ恚@種效果正是可以觀察自然屬性，故效果主義或功利主義一般都被認為是自然主義實在論的一種”。[8]76也就是說不管是苦樂、幸福、利益、福利只要被納入到功利主義原則這一道德化技術配置中去，追求最大化，它便有了道德的意義。在功利主義的視野中，大數據技術能力上可以幫助人進行道德決策，并且確實存在這種用大數據進行功利主義計算的例子。

比如，假設若經過使用大數據計算后發現，大數據技術能夠幫助快速計算苦樂，避免人因為親自計算得失而費神不悅，那么使用大數據技術代勞便是道德正確的，不使用則是道德錯誤的。當疫情全面爆發時，大數據技術與功利主義算法消解了過去被保留在個體身上的隱私界限，可以對人進行全面追蹤，不管一個人在哪里，他的手機與電話卡已將其行程記錄下來，此時隱私的界限被收窄，過去被認為是不道德的行為如今被允許。這是功利主義的思維邏輯，要生存的快樂大于病痛，不管是政府還是個人，若在能夠的前提下，不使用或遵從大數據與功利主義的邏輯，便會被視為道德錯誤。

再如，現今“美團外賣”需要顧客在所訂食物到達地點后對外賣騎手進行評分。這一評分是以騎手送單速度與保存物品的質量為標準的。按照功利主義的原則，效率與質量越高，外賣騎手的行為便越道德。如果騎手在有能力且沒有其他增大顧客快樂以抵消其不快的情況下，用了一個小時才送到，那么騎手便是不道德的。大數據技術在其間要對海量外賣員長時間以來取餐、送餐路程與時間，以及不計其數的買家的評價進行記錄、分析并評估出一個外賣員的信用。這一App就是靠這一邏輯為外賣員貼上標簽，在功利主義的評價體系中，這一標簽是歸屬于道德范圍內的。

還有，對于滴滴司機導航來說也是如此，當高德地圖已為司機和乘客規劃好最佳路線并播報出來時，會對司機形成道德壓力，此時，在不熟悉路線的乘客那里，司機若沒有遵循路線的規定，便會產生對司機的懷疑。盡管司機本人可能更為熟悉路線，而且可以有更好的選擇。不過，在城市規劃越來越復雜，交通路況越來越難以捉摸的時候，司機的判決已退居二線，更為精確的參照對象是大數據計算給出的最佳方案，而按照最佳方案行動便是道德的。既然在公共領域中可以使用功利主義原則來將行動道德化，那么按照功利主義的原則，進入私人決策領域也未嘗不可。

最后，大數據技術通過對用戶的喜好的收集，定向對其推送偏好內容，淘寶、抖音、微博等軟件都在收集個人數據，以期達到最高效率地讓用戶進行消費、觀看、閱讀，這在功利主義的語境中都將成為道德問題。比如，軟件開發者如果在這個時代不將用戶的體驗考慮在內，在用戶眼中便是不道德的，因為數據信息的體量是用戶個人難以想象的，用戶所看到的一切都經過開發者的專門設計。從其社會角色來看，商家與顧客看似在以經濟活動來處理相互之間的問題，但本質上體現的都是功利主義的深層邏輯。當開發者的產品不符合利益最大化的原則時，便會被淘汰，因此對于資本家而言，當大數據技術能為其提供決策時，不使用這一技術，就可能導致其公司所有員工的下崗失業，這對資本家而言是不道德的行為，這是資本的要求，也是功利主義的要求。

大數據與功利主義在本質上是相通的，只不過前者是實體技術，是對物質實體的數據化裝配，后者是反思技術，是對抽象的自然事實的道德化裝配。大數據技術與功利主義都在資本的運作下追求著利益最大化原則，為此它們都要求盡可能地將一切數據化、信息化，并需要對行動作出盡可能迅速的分析與決策。大數據技術的核心是計算機(人工智能)，它為功利主義提供了計算的更大可能，并已經被淺層次地用在了現實中的諸多領域，而功利主義思想則為這種運用提供了道德辯護。如果說這種結合是可能的，我們也就可以認為功利主義發展出了一種新形態即——“大數據功利主義”。

三、“大數據功利主義”的邏輯困境：“道德囚徒”

“大數據功利主義”是一種依靠實體技術在一定程度上解決了功利計算困難的功利主義形態，但在道德問題上，解決計算困難也是對“道德運氣”問題的消解。大數據功利主義的實現同時也是對道德運氣的抹除，它必須依托營造一種“全景式”的“道德信息庫”才能夠得以實現。與此同時，功利主義理論本身忽視“個人分離性”的特征讓在其邏輯中生存的人擁有了另外一個身份——“道德囚徒”，比如外賣員。這一囚徒身份的產生并非僅僅是理論的結果，而在根本上是現實層面的社會原因導致的，功利主義只是資本將其合理化的意識形態工具。

大數據功利主義以上帝視角在一定程度上消解了運氣在決策中的影響，完善了控制的絕對性。伯納德·威廉斯將道德運氣分為“外在運氣”和“內在運氣”，即“有些運氣是外在于他的計劃的，有的運氣是內在于他的計劃的；這兩種運氣對于成功來說都是必要的，但只是后者才與沒有得到辯護相聯系”。[10]38威廉斯認為，功利主義回顧式的評價方式必然受制于外在于計劃本身的“運氣”的影響，這成為功利主義的一個缺陷。[11]36大數據功利主義卻可以直接取消過去解決道德運氣的方案，即取消“決策程序”與“評價程序”二分。在大數據功利主義的視野中，不管是外在運氣還是內在運氣都可以在計劃中被考慮到，因此運氣這個概念在大數據的幫助下消失了。不同于義務論解決“運氣”的“內在主義”方案，大數據功利主義并不不賦予內在于人的能動性的“動機”或“意圖“的善的絕對重要性(康德主義者以此將運氣移出道德行為的范圍，同時將行動者與外在世界割裂開來)[11]xv，而是通過掌控外在信息的方式把運氣消解掉。這樣，人再沒有運氣作為否認過錯的理由，也沒有任何機會為自己的過錯辯解。

大數據技術通過對行動者的深度學習，在充分掌握了行動者“內在運氣”的同時，也獲得了行動者在一定范圍內的“外在運氣”的信息，就可以把一切有關某一行動的信息納入到計劃之中。比如，當行動者1走在河邊，發現行動者2溺水，大數據技術便會同時處理這兩個人的信息。若發現行動者2是一個身患絕癥的乞丐，痛苦萬分試圖自殺，家人朋友完全無力解決他的問題。而且行動者1不會游泳，在來得及施救的近處無其他人處于該事件之中，沒有其他人會在其溺水死亡這一事態中可以起作用，那么給出不要施救的決策便是道德的決策。此時就不用再去考慮任何人都不得自殺、任何人都不能協助自殺、應當見義勇為等義務性的規則。常識道德也要以增進幸福或避免痛苦為重。

為了盡可能實現這一不受運氣影響的計算，大數據技術就必須在功利主義的邏輯要求下把一切隱私打破，建立一個足夠支撐“整全功利主義(Global Utilitarianism)”[12]166運行的信息庫。而這樣的信息庫對大數據這樣的不偏不倚者來說是“全景式”的。比如，為了更好地幫助決策，早在2013年4月底，阿里巴巴就開始與新浪微博在用戶賬戶互通、數據交換、在線支付、網絡營銷等領域進行信息分享。這一分享用戶信息的決策沒有償付廣大“數字勞動者”，即“用戶”以任何工資，卻在功利主義的邏輯中被道德化了。因其促進了效益最大化，既滿足了商業的需求，也更好地服務了用戶。在功利主義看來，利益與道德之間沒有鴻溝。但同樣的，在“棱鏡門”事件中，由微軟、雅虎、谷歌、蘋果等國際網絡巨頭參與的信息收集監聽計劃中，為了所謂國家安全而對個體的各種信息、聯系方式與地址、社會交往關系，乃至興趣愛好、政治傾向等的收集與分析也同樣可以得到功利主義的辯護。

作為規范倫理學的功利主義道德合理化了大數據對人的信息收集之后，隨即便對人的行為提出了要求，而功利主義本身的問題，即被伯納德·威廉斯所批評的忽視“個人分離性”或對“個人完整性”的破壞，為“異化”留足了施展自身的空間。這也是對“美團外賣員評價”片面化、單一化評價背后得以成立的道德基礎，正是根據“效率”，平臺資本家才能對其予以獎懲，“道”與“德”如影隨形。在此種意義上，邊沁的“圓形監獄”構想得到了全面布展，然而其“囚徒”是由數據裹挾的每一個人，美團外賣員只是一個突出的代表。

在規范倫理學的討論中，“個人分離性”與“個人完整性”有其特定的語境，但對這種語境的理解不能僅停留在規范倫理學的討論中，還要從其現實基礎中去了解它的生發作用，否則就如同戴上了形而上學的鐐銬。對功利主義而言，忽視個人分離性意味著它以一種不偏不倚的中立者觀點來對待利益，將人抽象化為一個“整體”來為利益的“積聚性”或“最大化”服務。[10]4在這種抽象的過程中，“具體的人”被剝奪了一切規定性，成為了一個技術系統中的“符號”或“零件”。破壞“個人完整性”意味著威廉斯所關注的具體的人的“根本計劃”被破壞，而對現實生活中的人來說根本計劃是由具體的人從自身的各種規定性中提取出來的方向和目標，它關系到“我是誰”“我想要過一種什么樣的生活”等根本問題。根本計劃的挫敗可能會讓人“覺得自己已經死去”?！爱斔呀浫娴鼗蛘叽蟛糠值貑适Я诉@種計劃的時候，他才會覺得自己的生活失去了意義”。[10]19大數據功利主義以一種全天候無死角的“圓形監獄”形態出現，會在邏輯上傾向于打破一切個體的根本計劃，也在邏輯上會使更多的人覺得自己已經死去，因為它用“數據庫囚禁數據化個體的空間，而算法則是對其中個體進行凝視的目光，數據空間中的每個個體都無法逃離其凝視”。[13]69同時，這也意味著規范的觸手伸向了更深更遠的地方，人無處遁形。

這一大數據功利主義的邏輯在現實中的不少地方已得到實現。對于“美團外賣員”的“工資發放”必須有其道德基礎，否則就不會有人在理性上接受這樣既存的制度，而工資的多少與是否應得到獎勵或懲罰的標準就是功利主義的效用標準。美團外賣員在工作的時候只會用這種標準來評價自身，也從他者那里得到評價。出于這種自評標準，他們有時甚至違反社會中的其他規則，逆行、闖紅燈、超速等，且他們會以效用原則合理化自己的行為。但在顧客因外賣遲到而給外賣員以差評時，外賣員的世界從一種單一的抽象生活中被刺痛驚醒，他的“個人完整性”要求與“根本計劃”受到了破壞，一個具體的人會憤怒地為自己呼喊辯護，但因為權利已在“效用原則”中被消解掉，在沒有“道德運氣”作為理由的情況下，他的自我辯護幾乎沒有效力。于是，他們甚至不惜動用暴力，上門威脅顧客取消差評，這已不罕見。這個問題并不僅是一個“個別問題”，而是一個“系統性困境”。

但大數據功利主義作為一種技術性手段和意識形態本身是沒有如此強力的規范性的，宰制美團外賣員的是手段背后的社會力量——“資本”。對送單的質量和效率的追求被外賣員內化于自身后就以“勤勞刻苦”“靈活變通”“誠實守信”的形態表現出來，從而成為一種看似無害的“道德資本”。但這種道德資本是異化的，它用顧客與外賣員之間以“效率”為核心的沖突，掩蓋了平臺資本家與其平臺雇傭勞動者之間的剝削關系。大數據與功利主義在邏輯與現實中的“精誠合作”，“天衣無縫”地為其背后的力量作出了道德辯護。

余論：大數據功利主義的理論出路

邊沁在《道德與立法原理》中對量化有著極致的追求，且獨一人就以功利主義的要求構想了圓形監獄。經上述考察，在大數據、功利主義、圓形監獄之間存在聯系并非巧合。這種大數據與功利主義的合作讓功利主義理論本身所可能造成的“異化”問題暴露得更為明顯。在美團外賣員這里我們發現對大數據的價值組織結構不可以僅由“效用最大化”主宰，它對個人完整性與個人分離性的刺痛讓我們看到了一個現實的世界，它需要對“權利”予以重視。這是在大數據的價值組織結構中需要增添的“屬人的”東西。否則即使它成為一種道德資本，也缺失了一個“應該之應該之應該”的維度，不可能被一個社會長久認可。[14]10這也意味著運用這種道德資本的勢力不會得到長久的認可，甚至被其他企業或平臺所替代。

解決了計算難題的功利主義版本不得不面對其他困難，它為“異化”提供的缺口讓人難以接受。功利主義要想在理論內部解決自身的困難就要在一個更為廣闊的視野中考慮計算的要素。在過去，功利主義對自身缺陷的改造確實是通過引進“非效用邏輯”的因素完成的，比如規則功利主義、理想功利主義、動機功利主義、偏好功利主義等都在嘗試對自己的原初版本進行限定，并將其他屬人的因素納入到考量范圍中。同理，在大數據的組織結構中也應當考慮到現實人的豐富性，而不是將人看作一個抽象的數據存在。

譬如，大數據功利主義對美團外賣員的評價與獎懲機制就需要將非“職業”的因素考慮在內，將其視為“人”而不是效用機器中的零件。大數據功利主義在計算中需要將其他規則納入到考慮中，比如交通規則，即計算不同街區的紅綠燈及其車流量狀況、天氣狀況、或將美團軟件用戶與騎手的人格特征考慮在內，通過對其脾氣的測量來判斷應該為他們貼上何種標簽、通過對用戶點餐時的偏好，即喜愛吃什么，對什么抱有極大的期待以至于希望下一秒就得到滿足來判斷輕重緩急并合理分配外賣訂單、同時也將審美元素納入到騎手的工作考慮中去，什么樣的騎手喜歡什么樣的制服、送餐路段與交通工具等等。對于迅速發展的科學技術而言這并不荒誕，荒誕的是在它背后的規范理論，以及運用這種意識形態的始作俑者對此沒有關懷。