價值敏感設計：內容推薦算法進階之路*

□文│周云倩 張記剛

算法技術的誕生及與傳播業的耦合，不僅改變了傳統的內容分發方式，提升了信息爆炸時代用戶信息獲取的效率，也重塑了新聞產品的生產機制和媒介生態。英國社會學家斯科特·拉什（Scott Lash）指出：“在一個媒體和代碼無處不在的社會，權力越來越存在于算法之中。”[1]隨著“算法權力”應用場景和權力邊界的不斷擴大，信息的傳播與控制方式受到來自技術賦權的挑戰。[2]目前，算法主要應用于內容生產和內容推薦兩個方面，其中，內容推薦算法已經成為各大資訊平臺主流的內容分發方式，在給傳媒領域帶來革命性變革的同時，其背后的隱憂也逐漸顯現。如何破解內容推薦算法的“黑箱”及其權力異化所導致的價值觀偏移、用戶隱私侵犯、算法歧視與偏見等價值困境，實現工具理性和價值理性的統一，成為其跨越技術樊籬，實現價值進階的必經之路。

發軔于技術哲學并在信息科學、醫學、計算機等學科領域得到廣泛應用的價值敏感設計（value sensitive design，簡稱VSD），為內容推薦算法的適恰運用提供了具有借鑒意義的視角，也是算法治理的一種可選方案。值得關注的是，2022年3月1日正式施行的 《互聯網信息服務算法推薦管理規定》（以下簡稱《規定》），就算法推薦的信息服務規范、用戶權益保護、監督管理和法律責任立規明矩。其中，第二章第七條明確提出“建立健全算法機制機理審核和科技倫理審查等”，這無疑為算法價值敏感設計提供了最為有力的政策背書。

一、價值敏感設計的意涵與特征

價值敏感設計研究源于20世紀末期歐美技術哲學的經驗主義轉向，并形成了以美國華盛頓大學為代表的美國學派和以荷蘭3TU（荷蘭代爾夫特理工大學、特文特大學和埃因霍溫大學的簡稱）為代表的歐洲學派。[3]1996年，美國華盛頓大學的芭提雅·弗里德曼（Batya Friedman）最早提出價值敏感設計的概念，認為其是一種基于理論的技術設計方法，是在整個設計過程中以原則性和綜合性的方式考量人類價值的方法。[4]價值敏感設計歐洲學派的代表荷蘭霍文（Jeroen van den Hoven）教授認為技術并不是中立的，而是負載了某種對個人和社會產生重大影響的價值。[5]趙迎歡最早把價值敏感設計概念引入中國，并總結概括了荷蘭技術倫理學理論的體系框架；[6]劉瑞林等則對弗里德曼的價值敏感設計概念及其應用實踐進行了較為系統的介紹。[7]

1.價值敏感設計的意涵

弗里德曼認為，“價值敏感設計是一種基于理論的技術設計方法，通過概念性、經驗性和技術性三種方法的迭代重復，來實現人類價值觀的置入，以綜合性和原則性的視角闡釋和解讀技術設計與運用過程中的人類價值”。[8]價值敏感設計確立“技術—價值”并重的設計理念，強調在技術的構思設計階段即加入人的價值和道德考量，充分考慮直接利益相關者和間接利益相關者的價值訴求，以有效解決信息技術領域不斷涌現的技術弊病和倫理道德失范等問題。目前，國內外學者對價值敏感設計的研究和應用尚未形成一個統一的價值框架，但是將技術的設計運用與人類的倫理價值和行為方式相結合，將人的價值觀內嵌于技術人工物之中，使技術人工物符合人的價值觀和行為方式，已成為共識。[9]

2.價值敏感設計的特征

前涉性。價值敏感設計注重在技術的設計構思階段即加入人類價值的考量，使技術設計人員在設計之前就傾聽各利益相關方的利益訴求，充分考慮該項技術所涉及的人類價值，以期從源頭就規避技術的價值缺失以及由此導致的社會倫理問題。

迭代性。價值敏感設計所提出的概念性、經驗性和技術性三種設計方法，遵循循環往復、迭代發展的邏輯理路。每一環節所確定的價值結果需要在其他兩個環節加以確認、整合和驗證，進而再對之前的價值結果進行螺旋式調整和完善。

開放性。在技術的設計與運行中保持開放態度，與技術密切相關的各利益群體都可以參與到技術設計中來，技術設計活動也是各利益相關者價值觀念、利益訴求交流協調的過程。

全程性。價值敏感設計強調技術的早期設計、中期制作和后期反饋，把價值敏感作為一個全程性理念和行為置入技術應用的全過程，從整體上平衡和把握技術與人類倫理價值之間的關系。

二、內容推薦算法的價值理性

基于內容推薦算法顯見的工具效用，其甫一發軔，短短幾年便在內容分發領域形成席卷之勢。與此同時，對內容推薦算法價值理性的呼聲也日益高漲。具體而言，其須具有用性、便捷性和無害性等價值理性。

1.有用性：提供用戶欲知、未知與應知的信息

用戶信息行為理論認為，用戶的信息需求是用戶在特定的信息環境下，從個人需求出發而進行的信息查詢、選擇和使用行為。[10]該理論強調用戶在信息消費中的主動性和自主性。內容推薦算法擅長對用戶顯在的興趣點進行識別、記錄和匹配，滿足用戶對“欲知”信息的需求，但對用戶潛在的、未明確呈現的信息需求則顯得“力不從心”，而“未知”信息往往是能幫助用戶消除對現實環境不確定性、滿足用戶特定需求、幫助用戶實現自我發展的重要信息。

內容推薦算法作為一種“技術人工物”，擁有形塑社會和文化形態并直接作用于個體的能力。[11]除“欲知”“未知”信息外，算法用戶還應接觸體現主流價值觀和社會合意的“應知”信息。主流價值觀是在當代社會復雜的、多元的價值觀沖突中凸顯出來，得到社會大多數成員接受與認同，并由社會主流意識形態倡導和支持的思想形態。[12]社會合意是指社會主體間在共同實踐的基礎上達成的一致性認識，是一個國家和民族存在的基礎，也是社會價值系統的核心組成部分。[13]因此，內容推薦算法必須把對用戶有用的“欲知”“未知”和“應知”的信息全部傳達給用戶。

2.便捷性：高效對接信息產銷

與傳統的人工分發相比，內容推薦算法依托大數據、云計算等先進技術，在自動化、智能化自主學習的基礎上，高效、便捷地連接信息生產和消費。國內外以今日頭條、百度、臉書（Facebook）、谷歌（Google）、泰晤士報等為代表的資訊平臺、搜索引擎平臺，正是憑借內容推薦算法技術，不斷提升信息分發與消費的便捷性，成為用戶信息獲取與意見表達的主要渠道。其服務的核心是基于大數據和智能算法技術實現用戶興趣和個性化信息的高效、精準對接，極大地提升了信息分發效率，降低了用戶獲取知識的“費力程度”。隨著內容推薦算法技術的迭代升級，其“便捷性”程度也將不斷提升。

3.無害性：構建技術善的道德規范

無害性是指某事物或技術的使用和普及不對人類整體或部分群體產生心理、生理等方面的傷害。技術上的“可能”不等于倫理上的“應該”。維納在論及互聯網技術時也提出，技術的發展，對善和惡都帶來無限的可能性。[14]技術的善惡與技術設計及其使用人員的價值觀和主觀性密切相關。黑格爾曾指出，當個人的興趣、利益干擾了他正在看待的事物時，就必然產生“壞的主觀性”，使事物偏離公共價值。技術價值觀也認為技術不是中立的，是包含特定價值的，技術可以帶來益處，也可能帶來侵害。正確的技術價值觀要求把精神價值、倫理價值置入技術發展的全過程，充分發揮技術對大自然改造、社會生產力水平提升和人的人文關懷等效用價值，防止技術的濫用、誤用對人類造成的侵害。

三、內容推薦算法的價值困境

內容推薦算法通過對用戶畫像、消費偏好、內容標簽及信息環境等因素的匹配，實現信息的“千人千面”，[15]解決了社交過濾導致的信息壟斷。[16]但內容推薦算法的“黑箱”特性，遮蔽了媒體的可見性，[17]改變了以往新聞實踐的邏輯和價值原則，導致主流價值觀偏移、[18]用戶隱私侵犯、算法偏見與歧視等價值困境。

1.主流價值觀偏移

陳昌鳳、霍婕指出，內容推薦算法滲透著多重價值觀，首先是目的最大化、利益先行的商業價值觀。[19]當下內容推薦算法大都由算法設計公司和資訊平臺把控，追求極致的流量價值從而獲得資本回報是其主要目標。其次，資訊平臺的理念和文化也會影響推薦算法設計。比如臉書奉行的“3F”（Friend and Family First）原則，即在內容推薦中優先把互動關系強的朋友和家人感興趣的信息推薦給用戶。最后，算法設計人員的個人偏好和認知也體現著價值觀。比如在進行用戶畫像掃描時，算法設計師會基于個人認知選擇性別、年齡、民族、區域等因素，并決定各因素所占的比重；在數據錄入、數據分析及數據輸出中可能同樣存在類似情況。算法設計者、建造者的社會責任感、新聞素養等同樣包含著價值判斷。因此，算法是帶有價值觀的，常受到來自經濟、政治等非技術力量的影響，在代碼運行之下潛藏著各種力量的博弈。[20]

2.用戶隱私侵犯

算法平臺基于對用戶姓名、電話、郵箱、密碼等隱私信息的獲取，來實現“千人千面”的精準匹配。平臺一旦對用戶個人信息管理不當或超出合理使用范圍，則將對用戶隱私安全構成威脅。2019年，臉書數億條用戶信息被公開發布在亞馬遜的云計算服務器AWS上。[21]無獨有偶，據《21世紀經濟報道》披露，即使在未授權的情況下，今日頭條仍然會讀取用戶的手機通訊錄，并推薦通訊錄好友注冊今日頭條賬號。[22]上述案例足以說明，國內外內容推薦算法平臺很難做到對用戶個人隱私信息的安全管理和合法使用，這給用戶隱私信息安全帶來巨大風險。

3.算法歧視與偏見

長久以來，由于技術在推動人類社會發展中起著越來越重要的作用，因而人們更關注技術的正向價值而忽視了技術的負向價值。隨著社會的發展，人們逐漸認識到技術及其異化給人類帶來的災難和禍患，技術的負向價值也猶如打開的“潘多拉魔盒”。內容推薦算法技術由于其“不透明”和“無法解釋”性，往往也會給用戶帶來虛假信息、算法歧視與偏見等負向價值效應。“在數據的時代，數據的采集者和算法的設計人員很可能存在一些他們自己都意識不到的偏見”。[23]澎湃新聞記者曾用12520個熱詞測試了百度搜索引擎的排序結果，發現首頁中89.8%的搜索結果來自百家號、百度百科、百度文庫等百度自家產品。[24]這種“把用戶留在自家平臺上”的排序算法，本質上是對用戶的信息歧視與偏見。

四、內容推薦算法的價值敏感設計與操作

依據美國心理學家吉布森（Gibson）提出的“可供性”（affordances）概念，可供性強的技術和媒體更能夠滿足用戶的需求，更容易得到社會的認可。這一研究視角強調技術與社會、受眾之間的微觀互動。[25]內容推薦算法也可通過技術性方法強化自身的可供性，并為進一步凸顯應然價值找到切實的抓手。某種程度而言，技術性方法也因此成為價值敏感設計中最核心、最重要的內容和手段。

1.全流程的價值檢視和偏差剔除

從具體的流程上看，內容推薦算法技術可分為設計構思、程序實現、數據處理和結果呈現四個階段（見圖1）。在內容推薦算法設計的每個階段，均可能受到構思者、設計者、管理者、內容生成與運營者等個人社會責任感、新聞素養及偏見的影響，還可能受到經濟、政治、社會文化等特定因素的左右或驅使。其中，在設計構思階段，內容推薦算法會更多地受到資訊平臺、算法公司等機構利益先行的商業價值觀、公司理念和文化的影響；在程序實現階段，程序編碼技術人員的個人偏好和認知也會滲入算法環節；在數據處理階段，數據的篩選與采集可能會侵犯用戶的個人隱私，數據的輸入也或受到操作人員價值觀的左右，算法程序自身的局限也可能造成歧視與偏見；在數據呈現階段，也可能融入廣告主或其他經濟、政治等非技術因素。以上因素或整體性或個別性造成內容推薦算法技術的偏頗或不足。鑒于此，在內容推薦算法價值敏感設計中，上述環節和階段均應推進價值檢視，并對各行動主體可能存在的價值偏差進行有效識別和剔除。

圖1 內容推薦算法的技術流程及其價值弊病

依據圖1，筆者提出了內容推薦算法的價值敏感設計模型（見圖2），并且針對概念性方法和經驗性方法中的價值應然和價值困境，有意識地進行算法技術糾偏和價值彌合，以期統籌推進算法工具理性和價值理性的和諧統一。

圖2 內容推薦算法的價值敏感設計模型

從圖2可以看出，其通過多階段、多主體、多層次的操作流程來確立并凸顯內容推薦算法的價值理性。具體而言，在內容推薦算法價值敏感設計的程序實現階段，一方面可通過語境核心詞提取、權重強化等技術手段，為主流價值觀等“應知”信息的采集和推送開通“綠色通道”，注重用“開天窗”的方式打破“信息繭房”效應，糾正算法歧視與偏見等技術偏向和價值偏差；另一方面可倚重敏感詞匯過濾、用戶隱私信息加密等技術手段，在設計構思和數據處理環節通過“普遍可用”、便捷性、知情同意、無害性等人文精神和價值理性來彌合隱私侵犯等技術缺陷。上述價值糾偏和技術彌合手段并非單向和單次的，而是雙向、持續和循環往復的，也就是說在內容推薦算法設計和運行的每一環節所識別到的問題，都可以在其他環節進行檢視、確認、整合和驗證。

2.重視利益相關者的訴求

利益相關者是美國管理學家弗里曼（Allyn Freeman）提出的理論，是指與企業的生存與發展密切相關的個人、機構和組織。[26]內容推薦算法的直接利益相關者包括算法公司、資訊平臺、廣告主、新聞媒體、政府管理部門等；間接利益相關者一般包括廣大用戶、社會團體、一般企事業組織等。需要特別指出的是，由于內容推薦算法的設計和使用直接掌握在資訊平臺和算法技術公司手中，作為直接利益相關者，他們的利益往往能夠優先得到最大程度的保障，而間接利益相關者，由于處于算法技術的從屬地位，他們的利益訴求往往很難被滿足，乃至成為利益犧牲的對象，需要在價值敏感設計的流程中予以格外注意。

具體來說，在價值敏感設計中要充分考慮內容推薦算法直接、間接利益相關者的利益訴求，可通過借鑒國外平臺的有益經驗，組建由政府或行業協會牽頭，由媒體平臺、技術公司、法律機構、社會團體、用戶代表等組成協同設計團隊，通過有效的信息公開（算法程序透明）和集體參與設計的方法，以此協調并實現各利益相關者的價值訴求。2018年，今日頭條首次公開其推薦算法技術原理，并邀請學界、業界和政府管理部門組成專家團隊進行協同把關。該平臺經歷了從創立之初單一性的算法把關，到算法與人共同把關，再到多主體協同把關的迭代過程，借此提升了社會認可度。

3.評估運行結果

從系統論的角度看，內容推薦算法必然受到社會關系、社會制度、法律法規、民族信仰等社會環境因素的影響。因此，內容推薦算法在完成技術性操作并投入使用后，還需在實際的社會環境中檢驗并評估運行效果，這一點也必須在算法的價值敏感設計模型中得到充分的重視和實際體現。如通過定時或不定時收集相關評價，以及編撰算法社會責任年度報告等，進行內容算法的正負外部性的科學測評，并將相關結果輸入設計構思、程序設計等進行優化，以此對數據處理和結果呈現產生直接的影響。這一過程與新近實施的《規定》中的“算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果”等要求不謀而同。基于算法“公共性”的考量，及時有效地依據評估結果持續對內容推薦算法及價值呈現進行調適，使算法推薦技術在有用性、便捷性、無害性等價值上愈發彰顯，而且可有效規避主流價值觀偏移等硬傷。

五、內容推薦算法價值敏感設計的“三立三破”

內容推薦算法價值敏感設計的出發點和目標正是回到算法的技術根源，并且引入利益相關者和社會環境等因素進行價值調適和權力增減的探索，試圖構建公平、可責和透明（ Fair,Accountability,Tr ansparency，FAT) 的算法價值體系，其實質乃是建立算法自身的規范性，并且凸顯“破中有立”“立中有破”的“破立之道”。從實踐脈絡看，借重概念性、經驗性、技術性“三重方法”的疊加使用，以此有力破除內容推薦算法技術可能引發的負向價值，并大力激發其正向價值。

1.立“道德”算法，破算法“偏私”

價值敏感設計以道德認識論為基礎，通過一種考察概念、經驗和技術問題的三重迭代設計方法，凸顯設計過程中的人類價值。而且必須注意到，區別于常見的無意識的價值輸入，內容推薦算法的“價值敏感設計”是有意識且旗幟鮮明地納入主流價值因素。這一方案的可行性，除了可以找到《規定》中要求算法應用“向上向善”“堅持主流價值導向”等政策依歸，還依存于兩條具可操作性的技術路徑：一方面，基于清晰的價值敏感設計，通過內部的正向價值賦予，對算法此一技術人工物建構規范性，合理內嵌正當的道德標準，確保“善”的構建；另一方面，在做好正向價值“加法”的同時，還以“減法”方式規避價值異化等問題，由此有效彌合技術工具性和價值倫理之間尚存的差距，達到一種立“道德”算法、破“偏私”算法的理想狀態。

2.立“透明”算法，破算法“黑箱”

“算法黑箱”掩蓋并可能在一定程度上加劇了算法偏見和對基礎數據的使用問題。在內容推薦算法中的價值敏感設計環節，突出了對利益相關者訴求的落地和強化，依托平臺、社會、媒體等多方參與設計和合理的信息公開，以技術性方法推進算法平臺做好算法的透明化和可解釋性，包括合理公開算法決策的內在因果性和相關性等。

2017年，美國計算機協會（USACM）將算法透明度和可問責性作為基本的原則。在我國，《個人信息保護法（草案）》明確了算法自動化決策的透明度要求。《規定》也闡明了算法推薦提供者應著力“優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性”“以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等”原則。在內容推薦算法的價值敏感設計中，正是要以通俗易懂的方式揭開“算法未知之幕”，從而確立可理解的“透明算法”。正如阿里爾·扎拉奇和莫里斯·斯圖克所言，算法在透明化的環境中運行對算法相對人最為有利，不僅能夠降低檢索成本還有利于避免算法致害。從更為宏觀的視野看，算法價值敏感中對透明度的設計和落地，也是我國算法治理中的重要環節，具有極為重要的社會價值和現實意義。

3.立“限權”算法，破算法“霸權”

以往制度化的權力只存在于公權力體系中，但在信息時代，算法借助算力和架構已經演變成控制社會資源的非制度化權威。依托所涉技術的高門檻性，算法使用者可以占據支配性地位，一旦與資本合謀，更可能形成事實上的“算法霸權”，甚至發展為“算法獨裁”，改變了算法使用者與算法相對人的平等地位和對等權利狀態，甚至會侵蝕他人合法權益。內容推薦算法價值敏感設計在限權方面的嘗試，凸顯了“基于設計來確立權力邊界”的限權原則。通過算法程序設計、算法價值審查、算法結果評估和反饋等多元方式，既發揮技術設計的基礎性和預防性作用，也同時倚重制度設計的方式規范算法使用行為，全維度、多層面保護算法相對人的權益和應有的社會價值。而且，相對于公權力的“事后結果處罰”的威權控制模式，內容推薦算法價值敏感設計是對算法私權力的“事前限權”，也是算法治理中規制成本更低，成效更為顯著的優選項。

六、結語

作為新興的信息技術規制的理論和方法，弗里德曼提出的價值敏感設計理念已在國外的瀏覽器、APP、網絡社區等信息產業和計算機信息系統、機器人、城市建設模擬系統、納米制藥等領域得以成功實踐，荷蘭技術哲學學派等也對此予以積極的呼應和行動支持。以上種種，為價值敏感設計應用于內容推薦算法規制提供了良好樣本和實戰經驗。針對國內治理困境，本研究提出價值敏感設計方案，乃是綜合算法技術、利益相關者、現實影響等多元因素所提出事先調控的解決方案，既著重對算法可能產生的價值偏差和權力越界加以規制，也注重助推其作為公共性應用產生更大的正向價值，凸顯“三立三破”的積極效用。

價值敏感設計的本質是處理“技術—人—價值”之間的關系。在此方案中，概念性、經驗性、技術性的方法是一個系統整體，它們相互作用，互為影響。每個階段的工作都至關重要，都為其他階段提供信息和判斷依據。“三重方法論”基礎之上的價值敏感性設計是一個持續發展、相互迭代、不斷變化的過程，也是內容推薦算法不斷進行自身調適的過程。[27]