聊聊AI“精推”的倫理邊界

梁曉軒

時至今日，被大數據“殺熟”似乎已經是差旅族必備的人生體驗，與“今日頭條式精準推送你關心的”不同，此乃“精準推送你需要的——最貴的價格”。大數據“殺熟”常常被視為AI與大數據相結合的反面教材，其弊端主要包括價格欺詐、過度捕獲隱私與排他性歧視。

價格欺詐

每每飯點，居民區附近的生煎饅頭店往往生意紅火，筆者經常隨意找一家饅頭店尋一兩生煎權當早點。久而久之，滿足口腹之欲外，亦有所觀察，譬如這食客的類別，有精氣內斂的白領、有滿臉稚氣的小學生，還有步履蹣跚的老嫗。這一份生煎，無論男女老幼、無論貧富貴賤，童叟無欺6元錢。自己心里常常想，其實這價格比起寫字樓附近的早餐店可謂便宜了近一半，即使漲一點也不貴啊?？墒蔷鞯睦习鍌優槭裁床惶醿r呢？從經濟學上來講，老板們根據供給和需求曲線來定價——通俗而言，就是店老板們要找出賺錢總量最多的那個價格。因此，面館老板們考慮定價的核心是對價格承受能力較弱的大多數，即單位時間的盈利總額。假設單位成本3元，賣出一份10元貴的抵不上賣出三份6元便宜的（6×3-3×3>10×1-3×1）。

經濟學上，把消費者能夠負擔但是又不用實際付出的X元錢，稱作“消費者剩余”。這部分消費者愿意付卻實際省下來的錢，商人當然是想賺的，而且有非常簡單的方法：相同的商品，看人定價，一人一價（即“價格歧視”）。比如同一款商品，對土豪們售價50元一份;上班白領，15元一份;金發碧眼的6美元一份……

理論上雖然清晰簡單，但在眾多線下消費體驗中，老板們并沒有搞“價格歧視”，這可并非出于老板的良心發現，主要是依據客觀規律和市場競爭的約束。

第一，搞“價格歧視”的基礎，必須以完全掌握受眾（食客）的支付意愿和支付能力為前提，這就有“信息成本”。食客的支付能力，或許通過外貌著裝可判斷一二，但不把握是否看走眼。那又該怎么識別支付意愿呢？這完全取決于食客的心理甚至店方與食客之間的心理博弈，這難度就太大了。所以說“信息成本”限制了“價格歧視”的運用。

第二，“價格歧視”需要相對“封閉”的運用環境。我們仍以餐館為例，飯點人潮涌動，同樣的商品或服務，以不同的價格呈現，旁邊排隊的食客（潛在客戶）會直接感受到老板的伎倆，進而留下較壞的印象，對經營的潛在傷害往往更大。從這個角度，直面客戶尤其是開放環境下同時面對多個客戶的行業，實施“價格歧視”的難度頗大。但互聯網的發展為“價格歧視”提供了空前的機會。假定仍然是餐飲領域，放到外賣或者網絡訂單上，就可以輕松實現“差別待遇”，客戶不易獲知自己被宰了，或者即使獲知也無可奈何。

第三，“價格歧視”需要具有壟斷市場的能力，這是從行業的角度來講的。如果上海生煎饅頭都是同一個老板，你想吃這口都得上他家的館子，那老板給你來個一人一價，你也只能接受。當然，更多的是轉個街角就還有一家同類的某某館，“價格歧視”也搞不成。

第四，搞“價格歧視”需要消費者對產品服務幾乎沒有可替代的選擇，這主要是從商品的獨特性來講。早點當中，除了生煎饅頭，還有大餅油條、油潑面、胡辣湯、煎餅果子等，那么從可替代性這個角度，“價格歧視”也無從落腳。

所以，是否具有可替代性、信息成本、壟斷市場，約束了老板們的行為，產生了消費者剩余，增加了一部分消費者的消費福利。但是，“大數據”與AI相結合，正在以網絡科技的力量，將上述三者化難為易，悄無聲息地侵蝕“消費者剩余”。

過度捕獲隱私

與“價格歧視”俱來的，便是過度捕獲消費者（使用者）隱私——這幾乎是老板們實施“價格歧視”與“排他性歧視”的必要前提，盡管這些數據的收集、利用、分析環節很可能都是第三方提供的。我們在使用某些APP時，尤其是面對某些幾乎繞不開的領域上，不得不做出權限開放，尤其是在互聯網科技日趨“寡頭化”的今天，多多少少地，我們很難拒絕把自己的隱私貢獻給網絡另一端的“AI”。對于普通消費者，并無從知曉個人信息到底被拿去干嗎了，就好像進入暗箱一樣，其中的道德風險很大。

排他性歧視

和價格歧視類似，卻又更徹底，即對消費者選擇性地提供商品或服務，這一點在保險領域十分普遍。保險公司通過對一種或一類疾病的潛在指標進行分析，譬如尿酸、血脂等指標，盡管潛在的被保險人僅僅是幾個指標偏高，未有醫生確診患病、沒有治療必要或者進一步復查的必要，保險公司可能仍然將此列為“保障內容除外”“單獨上漲保費”甚至直接拒保，更有甚者，對那些仍然健康的、具有容易發生疾病尤其是癌癥的基因攜帶者進行拒保。這或可稱之為“基因歧視”，違背保險之設立初衷，且與基本公平之商業倫理相悖。

從以上三個層面分析，其中“價格歧視”與排他性歧視歸根到底都是違背了公平原則，AI大數據的倫理拷問似乎已經明確，我們可以引申出其兩個倫理邊界。

第一，大數據的分析、應用是否能夠符合基本的公平。

從消費者的角度考慮，公平無非是是否能以相同的對價獲得同樣質量的商品或服務，相應的，其享有的權利不被扣減。媒體上常常報道的，諸如“XC”訂機票酒店對常用戶顯示價格較高，對普通會員則報價較低，就是典型的“價格歧視”，猶如某“ZFB”通過數據分析對用戶的需求和能力進行精準畫像，決定是否對客戶開放信用性質的小額貸款，但其標準往往是不公開的，這就是典型的排他性歧視。

在科學技術日新月異的今天，新技術往往是通過不斷提高商品服務質量，精準錨定客戶，更好地滿足消費者需求這個角度去創造財富的。但利用大數據“殺熟”，既沒有提升商品服務的質量，反而“暗戳戳”地打擊“剛需”模式，著實違背了科技造福人類的宗旨，乃至與平等的基本理念背道而馳，甚至不符合基本的公平。

第二，大數據的分析、應用是否能夠保證安全性。

大數據“殺熟”，前提就是商家完全掌握消費者的支付意愿和支付能力。所謂完全究竟需要到什么程度呢，似乎越完整的個人信息，乃至社交APP的頭像等基本信息或動態信息的獲取，就越是對整個數據的分析處理更加有利。通過智能分析，可以如靶向藥一般直擊用戶需求，但這種對數據（個人信息）采集的方式或者采集的覆蓋面未必合理。商家為了更好地營銷，往往盡可能要求用戶共享更多的個人信息——而這未必是必需的。另一方面，對于已經收集過的數據，如果脫敏不當，很可能造成隱私泄露的重大事件，尤其是通過網絡購買特殊商品的消費者，不排除造成惡劣的后果。

基于這兩點，我們進行分析，大數據AI是應當存在一定的倫理邊界的，最起碼地，應當以公平和安全為底線。值得一提的是，2019年4月8日，歐盟搶先發布AI道德準則，其內涵是十分豐富的，具體包括7個條件：1.人類的力量和監督：人工智能不能侵犯人類的自主性。人們不應該被AI系統操縱或脅迫，而應該能夠干預或監督軟件做出的每一個決定。2.技術的健全性和安全性：人工智能應該安全且準確。它不應該易于受到外部攻擊的影響，且應該相當可靠。3.隱私和數據管理：人工智能系統收集的個人數據應該是安全的、私有的。它不應該讓任何人接觸，也不應該輕易被盜。4.透明性：用于創建人工智能系統的數據和算法應該是可訪問的，軟件所做的決定應能被人類理解和跟蹤。5.多樣性、非歧視和公平性：人工智能提供的服務應面向所有人，無論年齡、性別、種族或其他特征。同樣，系統不應該在這些方面存在偏見。6.環境和社會福祉：人工智能系統應該是可持續的（即它們應該對生態負責）并“促進積極的社會變革”。7.問責制——人工智能系統應該是可審計的，并被納入企業可舉報范疇，以便受到現有規則的保護……

大數據“殺熟”或許只是科技發展一定階段的副產品。但不管最終如何定性、科技如何發展，一個安全、公平的市場環境及其背后蘊含的市場倫理，都應該是一個成熟的商業社會孜孜以求的。