算法推薦對用戶權益的侵害與保護路徑探究

□ 文 孫雪玲 王黎黎

0 引言

隨著數字通信技術的發展和移動終端設備的普及，海量的用戶數據得到極大的開發和利用，以篩選和分發為技術依托的算法推薦技術應時而生，成為互聯網企業搶占市場份額、提高企業競爭力的關鍵。算法推薦技術的應用不僅提高了網絡用戶的資源檢索效率，而且為數字經濟的繁榮注入強勁力量。然而，由于算法推薦技術的專業性、復雜性和不透明性等技術特征，同時引發了個人信息泄露、算法歧視、算法歸責困難等諸多法律問題，對用戶個人基本權益造成現實的侵害。

1 算法推薦的概述

1.1 算法與算法推薦的一般含義

算法、大數據已經成為人工智能的核心，嵌入到社會經濟運行的各個領域。算法是根據預先設定的架構和代碼程序，輸入的數據經過分析和處理，轉化為輸出結果。而算法推薦技術是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息。簡單來說，算法推薦技術會通過抓取用戶日常的使用數據，分析得出用戶的行為習慣和興趣喜好，進而精準化地進行信息推薦及分發。

數字經濟時代，算法推薦成為互聯網平臺過濾、分發海量數據的生產工具，被廣泛應用于新聞推送和電商平臺等領域中，提高了互聯網平臺信息處理能力，同時給商業企業創造了巨大的經濟效益，平臺企業充分享受著算法技術帶來的紅利。但對于普通用戶來說，算法推薦是一把“雙刃劍”。一方面，個性化推薦算法可以通過對互聯網平臺用戶的數據信息進行挖掘和分析，平臺根據對用戶個人需求和興趣偏好進行精準化內容推送，節省搜索時間與成本；另一方面，算法由于太過于“了解”用戶，只會根據用戶標簽推薦用戶自身感興趣的內容，長此以往就會帶來“大數據殺熟”“算法歧視”“信息繭房”等法律風險。

本文以算法推薦技術為研究對象，分析算法推薦技術應用中的法律問題，探求一條規范化治理道路，以期在促進科學技術繁榮向上的同時，切實維護網絡用戶的合法權益。

1.2 算法推薦的現行立法規定

對于算法推薦的法律規定，我國采取的是散布在多部法律文件中的分散立法模式。2019年《電子商務法》率先對電商平臺商品或者服務的搜索結果進行了規定，要求電子商務經營者不得向消費者提供針對個人特征的選項，開啟了我國關于算法推薦治理的立法之路。此后在《反壟斷法》《在線旅游經營服務管理暫行規定》中都能見到關于算法治理的身影。2021年出臺的《中華人民共和國個人信息保護法》（以下簡稱《個人信息保護法》）對通過算法推薦向個人進行信息推送的行為進行了積極的回應，并允許個人有權拒絕有針對性的信息推送和商業營銷。同年，《關于加強互聯網信息服務算法綜合治理的指導意見》出臺，為我國算法推薦的治理搭建了基本法律框架。

因算法推薦尚未形成體系化規范，在司法實踐中難以適用，2022年，國家互聯網信息辦公室等多部門聯合發布了《互聯網信息服務算法推薦管理規定》（以下簡稱《算法推薦管理規定》），為規范算法推薦服務進一步提出合規要求，織密了我國算法推薦管理的法律框架。《算法推薦管理規定》施行的目的在于促進算法推薦技術“向上向善”發展，防止不當利用算法推薦服務給國家、社會和公民個人的權益造成非法侵害。

2 算法推薦引發的法律問題

隨著算法技術的發展，算法推薦的嵌入領域不斷擴大化，成為平臺經濟發展的強大動力。科技的發展是把“雙刃劍”，對網絡平臺來說，算法推薦技術是平臺經濟發展的助力劑，算法推薦的應用在提高用戶黏性的同時源源不斷地為網絡企業創造經濟價值。對網絡用戶來說，算法推薦技術侵蝕著網絡用戶的信息生態環境，用戶在算法面前逐漸成為數據化、符號化的“透明人”，算法推薦深諳用戶的興趣愛好、生活習慣以及消費特征，重新塑造著用戶的價值觀、消費觀和意識形態，對用戶的個人信息知情同意權、平等權和財產權等產生了深刻的影響。對算法推薦引發的法律問題進行分析，有利于算法推薦技術合理合法應用，同時也為算法推薦服務提供者提出了警醒，有助于引導有關行業和平臺合規運營。

2.1 算法推薦服務應用前：對個人信息知情-同意規則的侵害

算法推薦在互聯網初步發展之時，用戶通過瀏覽、點擊、搜索行為產生的個人數據便被收集和讓渡，成為互聯網企業商業運作的重要數據來源，用戶的個人信息權益遭受著隱形的侵害。如今，算法是數字經濟發展的核心技術，算法推薦成為推動數字經濟發展的強有力工具，個人信息是算法推薦服務運行的基礎和前提，算法推薦又是處理個人信息的一種方式。互聯網平臺在收集、索取用戶個人信息時，用戶個人信息的知情同意規則和算法推薦服務提供者的算法告知義務逐漸流于形式。

通常情況下，用戶在注冊使用某軟件前需要提供基本個人信息，甚至某些軟件的使用以獲取用戶地理位置、通訊錄權限為必要條件。然而由于用戶和算法推薦服務提供者之間存在著地位懸殊、認知局限等因素，用戶的知情同意難以得到有效的保障。一方面，網絡服務平臺主要通過格式條款或者隱私協議的方式取得收集使用個人信息的權限，針對已制定的條款用戶沒有平等協商的權利，更別說修改亦或變更的權利，而是否同意的格式條款或隱私協議政策常常被設置為獲得應用軟件使用權的前置程序，因而用戶的概括“同意”往往是在迫不得已的情況下作出的，不符合用戶本人的真實意愿。另一方面，處于弱勢地位的用戶群體對專業性、復雜性較高的個人信息條款難以理解，很難投入時間、精力去通讀了解晦澀難懂的個人信息收集政策，因此關于個人信息的收集使用情況用戶難以實現有效知情，授權條款淪為算法推薦服務提供者免于責罰的避風港。

2.2 算法推薦服務應用中：對用戶的歧視性侵害

算法并沒有通過技術手段解決人類社會中固有的歧視與偏見問題，反而因為算法推薦固化了歧視與偏見。算法推薦所需要的數據從收集時就非絕對的客觀中立，因而算法推薦在進行內容分發時不可避免的存在偏見或歧視。“算法歧視”的具體表現有種族歧視、性別歧視、價格歧視以及就業歧視等。互聯網時代，算法推薦助推了更為隱蔽的歧視，有悖于公平正義的社會主義發展理念。除價格歧視之外，算法推薦在就業服務領域中的歧視也應得到重視。算法推薦使得求職者不能平等的獲得就業機會與社會資源，算法推薦技術在就業服務領域的應用再現并放大了人類固有的性別偏見。

“算法歧視”不僅是現實歧視在虛擬網絡世界的延伸，更有擴大的趨勢，這種大規模的“殺傷性”能夠在網絡世界產生倍增效果。“算法歧視”產生的原因是多方面的，主要可歸結為以下幾種情況：包括錄入數據的偏差、算法設計者的個人偏見和算法黑箱導致的不透明性。第一，數據源的偏差。算法推薦是以海量的用戶數據為基礎，當社會生活中根深蒂固的偏見作為數據源信息被算法技術抓取，固有偏見不斷在算法程序中鞏固并深化；且信息數據采集的片面性同樣會引起數據源偏差，片面性信息數據無法反映整個群體特征。第二，算法設計者的個人偏見。算法設計者在設計算法程序時有意或無意的將個人主觀意識嵌入到程序運行步驟中，弱化了算法推薦結果的客觀中立性。第三，算法黑箱導致的不透明性。由于算法的黑箱屬性，算法推薦對于用戶而言是不透明的，難以知曉算法推薦技術的信息挖掘情況，對算法推薦結果“知其然而不知其所以然”。

2.3 算法推薦服務應用后：對侵權-救濟規則的侵害

緣于算法推薦技術的復雜性、專業性，算法運作過程的黑箱性質，以及機器自主學習帶來的隨機性和不確定性，算法推薦在侵權責任認定方面存在“責任鴻溝”。所謂“責任鴻溝”是指算法推薦侵權主體認定困難、責任分配以及責任承擔方式難以落實，給算法推薦的歸責和追責帶來一定困難。

對于算法推薦侵權責任的認定主要面臨以下難題：一是算法推薦侵權主體認定困難。一方面，算法推薦技術從開發到運行涉及多個主體，包括算法設計者、開發者和算法推薦服務提供者等眾多參與主體，同時算法推薦運行的不透明性更是對確定具體責任人帶來一定的困難，致使在算法侵權過程中難以識別和認定侵權責任人。另一方面，算法推薦技術往往是嵌入互聯網平臺通過計算機程序運作，而不是由具體的責任人來操作，因而算法設計者和使用者通常通過“技術中立”原則主張對算法推薦技術造成的損害后果無直接控制力，從而規避算法責任。二是算法推薦侵權責任難以劃分。隨著算法推薦技術在網絡平臺中應用，算法侵權責任的模糊性愈來愈顯現，傳統侵權責任法對于算法侵權歸責存在著局限性，《算法推薦管理規定》也沒有明確侵權主體的民事責任，產生侵權損害時難以衡量、認定侵權主體所應承擔的算法責任。

由此，傳統的侵權責任歸責原則在算法推薦侵權責任歸責時存在著一定的局限性，而算法推薦“技術中立”和算法技術受商業秘密保護理論更成為許多平臺企業逃避算法責任的辯駁。這樣不僅導致用戶無法得到其應有的補償，還有可能導致算法推薦技術濫用，成為平臺企業規避算法責任的“擋箭牌”，不利于數字經濟健康有序發展。由此，應完善并細化算法推薦服務提供者在算法推薦服務過程中的算法責任。

3 算法推薦的保護 路徑

對于算法推薦技術的侵害行為我國應以現存問題和實際需求為方向，平衡互聯網企業、網絡用戶和其他利益相關者的權利義務關系，不斷完善并細化現行法律體系，完善我國算法問責法律體系，細化知情同意規則，保障用戶算法權利，同時強化算法倫理意識，提高算法透明度，在促進科學技術繁榮向上的同時，探索一條符合我國基本國情的算法治理之路。

3.1 細化知情同意規則，保障用戶算法權利

“知情同意”是我國個人信息保護領域的一項重要規則，然而在實踐中，算法推薦服務提供者通過動輒數千字且夾雜專業術語的用戶協議與隱私政策獲取用戶個人信息處理權限，“知情同意”規則趨于形式化。算法推薦是算法推薦服務提供者與網絡用戶之間的一種信息處理活動，因此，明確算法推薦服務提供者與算法用戶之間的權利義務關系，充分保障算法用戶的基本算法權利顯得尤為重要。

首先，對于算法推薦服務提供者，履行有效的告知義務。在形式方面，告知的內容應該具備《個人信息保護法》第十七條所規定的具體內容；告知的方式應當具有顯著性，采取條例清晰、通俗易懂的語言降低用戶的閱讀負擔。在實質方面，隱私政策不得冗長復雜、不得頻繁使用晦澀難懂的專業術語，必須確保用戶能夠根據其所提供的信息了解信息處理行為可能對個人權益產生的影響。其次，基于《算法推薦管理規定》充分保障用戶的算法知情權、算法選擇權和算法拒絕權等基本權利。在用戶協議與隱私政策中明確闡釋算法推薦所需的個人信息，具體內容包括個人信息的類型、數量、具體目的和用途，是否會提供給第三方等。此外，算法推薦服務提供者應當以顯著方式告知用戶其提供算法推薦服務的情況，保障用戶的算法知情權。算法告知義務是基于算法推薦服務而設立的特別告知義務，是《個人信息保護法》中告知義務的具體化體現。同時，算法推薦服務提供者需要保障用戶的算法選擇權和算法拒絕權，用戶有權選擇進入或者退出個性化推薦程序，算法推薦服務提供者不得不當設置障礙，阻礙用戶退出算法推薦程序。再者，加強公民信息安全教育，提高公民個人信息保護意識。在大數據時代，人們依然在網絡上毫無顧忌的分享自己的信息，除了公民自身對個人信息安全的忽視之外，也缺乏對公民的信息安全教育，當下，應當提高公民信息保護意識，從長遠之計保護個人信息安全。

3.2 強化算法倫理意識，提高算法透明度

如前文所述，數據源偏差、算法設計者的個人偏見和算法黑箱導致的不透明性是算法推薦技術產生歧視性的主要原因，或基于某一原因，或基于幾個原因共同作用導致算法歧視，因此可以從規范數據收集、強化算法設計者倫理意識和提高算法透明度入手規避算法推薦技術運行過程中的歧視性，以保證算法公平，維護廣大網絡用戶的平等權。

首先，保證數據來源的多樣性和數據內容的客觀性。數據收集的質量和范圍影響著算法推薦程序的運行結果，缺陷、瑕疵的數據可能會導致歧視性的算法結果。因此，在數據采集方面，應保證數據來源的多樣性和數據內容的客觀性，規范數據收集從而在源頭上減少偏見數據信息植入算法程序。其次，強化算法設計者算法倫理意識。算法設計者應當定期接受算法倫理道德培訓，強化算法設計者的技術道德意識，在法律法規以及算法倫理規則框架內，使算法的設計符合主流價值觀。最后，算法推薦服務提供者應增強算法透明度，算法透明度不僅可以提高算法的可信度和可接受性，而且可以幫助用戶更好地理解算法推薦的決策過程和結果。算法透明的目標是理解，是信任，不是簡單的披露源代碼。算法透明的目的，一是讓不同的主體理解算法設計、部署和運行，讓用戶感知算法運行的特點，評估算法可能對自身權益帶來的影響。二是“刺穿算法黑箱”，有效降低算法推薦服務提供者和算法用戶的不平等地位以及信息不對稱，增強算法推薦服務提供者和算法用戶之間的信任，提高公眾對算法推薦過程及其結果的監督和問責。

3.3 明確算法責任，構建算法問責體系

明確算法責任，構建算法問責體系已經被大多數學者所接受并逐漸成為業界共識。由于算法侵權行為的隱蔽性，用戶在大多數情況下不了解算法規則，甚至不清楚算法侵權行為的存在，因而給算法侵權主體的認定，算法責任的確定帶來了一定的困難，因此，明確算法責任的承擔與分配尤為重要。一方面，既能督促算法推薦服務提供者在法律和倫理道德范圍內合理利用算法技術，對平臺企業起到震懾作用；另一方面，劃定責任邊界，減少或者避免對平臺企業一刀切式的處罰。算法推薦技術從設計、開發到運行涉及多個參與主體，如算法設計者、開發者，算法推薦服務提供者等，因而當用戶的權益遭受算法推薦服務的侵害，產生具體侵權損害后果時往往難以查明和認定具體侵權行為人。盡管有學者提出賦予自主學習算法主體地位，但算法推薦技術作為一種人類使用的工具，其產生的算法責任理應由背后的行為主體承擔。

首先，明確算法侵權主體。在人工智能算法技術廣泛應用的情況下，所有參與其中的主體，無論是算法設計者、開發者亦或算法推薦服務使用者，其在算法運行過程中的身份和地位是動態發展變化的，因而算法推薦侵權責任主體認定，應結合算法推薦服務的具體應用場景給予以剖析，動態追蹤侵權事實，將算法侵權責任落實到具體的侵權人。其次，明確算法責任。根據是否具有直接因果關系，以及各個主體在算法推薦應用場景中發揮的效用和扮演的角色予以劃分算法責任。如果侵權行為導致的損害后果直接由算法推薦行為引起，算法推薦服務提供者對算法推薦技術具有實際的控制力，即使由于算法通過自我學習創制的技術風險，算法推薦服務提供者也應做到合理的注意義務，因此應當對該損害后果承擔相應的算法責任。最后，完善算法侵權損害賠償。一般情況下，責任認定的前提是產生具體的侵權損害，然而算法侵權責任的認定并不僅僅是對算法濫用行為的懲處和歸責，更重要的對用戶權益的保護以及產生具體的侵權損害后果時的救濟。因此，應進一步完善、優化算法侵權損害賠償制度，以保護用戶的財產權以及人格尊嚴，推動算法技術向上向善發展。

4 結束語

顯然，算法推薦技術在便利用戶生活、推動數字經濟發展等方面功不可沒，但在推動科學技術發展進步的同時，應切實保障用戶的合法權益。《算法推薦管理規定》的出臺為算法推薦技術確定了新的規則，解決算法推薦問題不僅需要給互聯網平臺企業設置紅線，同時需要進一步細化完善知情同意規則，保障用戶算法權利，強化算法倫理意識，提高算法透明度，明確算法責任等等。只有讓個人、技術、立法和算法平臺共同發揮作用，才能讓算法推薦技術更好地服務于人類社會生活，實現真正意義上的算法時代。