算法經濟背景下基于第三方參與的商家算法行為規范機制探討

李潤發 程振鋒 楊美玲

摘要：在信息技術支撐下，商家濫用算法侵犯消費者權益的行為引起了各界廣泛關注。基于算法侵權的專業性、隱蔽性和消費者的劣勢地位，建立健全第三方介入的商家算法行為規范機制十分必要。第三方測試算法的合法合規性，測試結果經信息系統公之于眾和對接監管部 門，以便形成有效的激勵和約束機制是第三方參與算法行為規范的核心機理所在。

關鍵詞：算法;自動化決策;消費者保護;算法行為信息系統

我們正走向算法統治時代，算法正全面而深入地影響經濟生活的方方面面，在提高經濟生活效率的同時，也引發了一系列的侵權問題，如何規范算法成為了學術界的研究重點[1-3]。在消費領域，算法侵權現象受到了各界的廣泛關注，例如大數據殺熟問題[4-6]。《2020打車軟件出行現狀調查報告》顯示，有優惠券時，蘋果手機用戶平均只能獲得2.07元的優惠，而安卓等非蘋果用戶平均可以獲得4.12元的優惠。記者測試表明，同樣的行程，蘋果手機顯示是14.9元，而安卓手機顯示是9.49元，相差近5元[7]。另一項針對285位大學生的調查顯示，55%的學生表示生活中有過被殺熟的經歷，主要出現在外賣類、出行旅游類、休閑娛樂類以及購物類軟件平臺中[8]。近年來，規范商家算法行為的法律法規頻出，例如2021年11月1日起實施的《中華人民共和國個人信息保護法》（簡稱《個人信息法》）對于利用個人信息進行自動化決策進行了規范。盡管各界廣泛關注、政府強勢介入算法領域的消費者侵權問題，到目前為止并無解決此問題的靈丹妙藥，為此本文將從第三方參與的視角，建立商家算法行為規范模型，探討規范商家算法行為的長效機制。

1 算法經濟下的消費者劣勢

算法經濟是指經濟生活中基于大數據、人工智能等信息技術的算法全面而深度地參與經濟決策，其表現為在生產、交易、分配和消費的各個環節通過算法進行決策或輔助決策，以便提高決策的效率和效果。姚前指出“算法經濟是指人們將生產經驗、邏輯和規則總結提煉后“固化”在代碼上，使生產經營活動無須人工干預，自動執行的經濟模式”[9]。通過設置一定的規則，信息系統可以在無人干預的條件下快速地做出各種決策，例如當消費者在某電商平臺搜索某種商品時，信息系統根據客戶的年齡、購物偏好等數據有針對性地定價并推送相關商品。如此一來降低了商家經營成本和用戶信息搜索成本，改善了用戶購物體驗，這對于提高供給匹配的效率起到重要的作用。

但是，在算法經濟背景下，消費者的劣勢地位進一步凸顯。一直以來，由于信息不對稱、消費者專業知識有限等原因，相對于商家而言消費者處于不利地位。因此，對于商家之間交的交易和商家與個體消費者之間的交易，各國法律通過不同的規則予以規范，從而更好地保護消費者權益。例如，我國企業之間的經濟交易適用民法典，而個人由于消費與企業發生的交易，除適用民法典外，更有消費者權益保護法等法律予以特別規范。算法經濟下，消費者處于更為不利的境地。例如，在傳統的交易中，售貨員會根據其對于客戶的判斷而針對同一商品開出不同的價格，這就是經濟學所描述的價格歧視。傳統的交易中，價格歧視成本高，需要業務熟練的售貨員，同時消費者也可以根據其消費經驗進行還價，因此價格歧視通常沒有引起大眾的集體焦慮。但是，在算法時代，價格歧視的成本更低。同時，交易通過網絡進行，消費者難以真實地感知產品和服務質量。理論上，消費者可以多家商店或多個平臺比價以減少價格歧視帶來的損失，但是由于商品規格型號繁多、存在平臺壟斷現象、時間有限、手機難以安裝足夠多的交易軟件等原因，提高了比價的難度，甚至多個平臺比價幾乎不可能。

2 算法行為規范的困境

本文所說的算法行為是指商家在與消費者交易的過程中，通過計算機算法進行自動化的決策或輔助決策的經營行為。商家有利用算法侵犯消費者權益的可能，且侵權行為屢見不鮮，例如價格歧視、不為消費者提供適度多元化的選擇。因而引起了社會各界的廣泛關注，包括部分消費者的網購焦慮，學者呼吁規范算法行為以保障消費者權益，國家出臺一系列規范商家利用算法進行決策的法律法規。《個人信息法》等近來頒布的法律法規明確要保護個人信息，對于算法推薦做出了明確的限制。根據《個人信息法》第二十四條規定，利用個人（消費者）信息進行自動化決策時，“應當保證決策的透明度和結果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇”;通過自動化決策方式進行商品推送時，“應當同時提供不針對其個人特征的選項，或者向個人提供便捷的拒絕方式”;若自動化決策對消費者權益有重大影響時，“個人有權要求個人信息處理者（商家）予以說明，并有權拒絕個人信息處理者僅通過自動化決策的方式作出決定。”此外，該法和其他法律還對濫用個人信息及個人信息用于自動化決策的民事、行政和刑事責任進行了規定。

盡管社會各界廣泛關注，相關法律法規明確地規定了不得基于算法而侵犯消費者權益，但如何規范實際交易中算法行為以保護消費者權益成了當前消費者權益保護的難點。首先，出于利益最大化的考慮，商家有動力通過各種算法來歧視消費者，例如根據消費者年齡等數據實施價格歧視、定向推送某些商品而限制消費者選擇范圍。普通消費者通常沒有能力去識別是否被算法“算計”了。即使感覺到被算法“算計”了，也可能別無選擇。隨著消費者網絡行為的增加，累積得越來越多的消費者數據被商家所掌握，可能不僅被某個商家所掌握，而是被諸多商家所掌握。即便換一個平臺，也難免不被另一個算法所“算計”。其次，算法往往是商業機密而不對外公布，或者即使對外公布也難以被消費者所理解。再次，算法繁多且迭代速度快，監管部門和有關組織難以對所有的算法展開實時的審計和鑒定。即使是經過審計和鑒定的合規算法，商家在實際業務過程中可以輕易地調整、修改算法。最后，商家處于優勢地位，即使根據《個人信息法》等法律法規，可以讓消費者選擇不受算法的約束，或者向消費者解釋其算法;但是由于說明條款繁多、專業術語難被普通消費者理解、一次授權使用而日后交易中自動使用的策略等，難以有效地避免算法濫用。

3 基于第三方參與的算法行為規范策略

基于當前的算法困境，筆者提出建立和健全基于第三方參與的算法行為規范機制。所謂第三方是指除消費者和商家之外的、非交易直接當事人之間的主體（不包括政府監管部門），如消費者協會、研究機構、媒體等。第三方由于其專業性、社會聯系廣泛性等優勢，其參與到算法規范過程中來，能夠有效地解決消費劣勢問題，例如通過輿論監督、發布侵權信息、消費者教育等方式規范或促使商家規范算法行為，從而實現保護消費者的目的。為此，本文提出基于第三方參與的商家算法行為規范模型，如圖1所示。

3.1 加強算法行為監測

算法行為監測的目的是了解商家算法行為的現狀，探究算法違規行為背后的機理，為商家算法行為信息系統提供算法違規行為信息。由于算法違規行為的專業性，亟需高校、科研機構及各類組織加強商家算法行為監測。科研機構等組織根據法律、法規的規定或者國家監管機構的授權對商家的算法行為進行專業監測，在一定條件下可查閱商家的內部文件，通過算法審計等方式評估商家的算法行為是否合法合規。有關社會組織可以自行或組織消費者測試算法，對購物、出行等網絡平臺進行監督;例如使用不同的測試賬號登錄并搜索同一產品和服務，以便測試是否存在價格歧視、非法的商品推送行為;了解其是否按照相關法律法規在使用個人信息進行自動化決策時充分地告知消費者，是否給消費者提供了便利的拒絕選項等。

3.2 建立商家算法行為信息系統

建立全國范圍內的算法行為信息系統，匯聚、傳播和共享算法行為信息，以便形成全社會參與的算法治理格局。首先，通過信息公開警示、懲罰違規行為。考慮到互聯網集中度高，例如外賣、出行等領域被一個或者少數平臺所壟斷或近乎壟斷，對于這些居于壟斷地位的互聯網平臺予以重點公示。通過公示，讓消費者知曉哪些互聯網平臺的算法違規，降低其在消費者心目中的信譽。當一家主流平臺頻繁地被公示時，其在消費者心目中的信譽降低到一定程度時，消費者便會有較大的動力選擇其他的平臺，競爭者、甚至行業中處于相對弱勢的競爭者平臺能夠較容易地抓住機會擴大市場份額。其次，算法行為信息系統為研究機構、行業協會提供信息，有利于促進算法違規行為研究，加強行業規范。最后，算法行為信息系統為監管部門查處各類算法違規行為提供專業監測數據和線索，完善算法違規約束機制。

3.3 充分發揮消費者協會等社會組織的作用

商家與消費者博弈中，消費者明顯處于劣勢。充分發揮消費者協會、行業協會等組織的作用，預防和處理算法侵權行為。我國消費者協會積累了保護消費者權益的豐富經驗，面對算法侵權行為越來越多的現實，組織常規或者專項算法維權行動。利用其自身或者外部的專業力量對商家的算法行為進行隨機抽查或者重點抽查，形成報告并通過信息系統公示，向有關監管部門提出監管建議。中國計算機學會等行業組織充分發揮行業自律、行業規范等職能，健全算法研發行業標準，通過宣傳等措施引導商家算法行為。加強輿論監督，媒體及時跟蹤報道信息系統公示的算法違規行為，就典型侵權行為進行專題報道，以便引導消費者提高信息保護意識和科學地通過互聯網消費，促使商家自動規范其算法行為。

3.4 政府監管部門加大算法違規行為整治力度

政府監管部門及時地針對算法違規行為采取措施，以便維護消費者權益。首先，監管部門信息系統與算法違規信息系統對接，實時地了解算法違規的狀況，如重點行業違規情況，及時地針對違規行為采取約談、行政處罰等監管措施。其次，構成犯罪的，公安機關及時介入偵查，懲罰違規者和警示商家。再次，完善公益訴訟制度，由于商家處于強勢地位而消費者往往處于無組織、無專業能力的境地，通過公益訴訟的方式，對算法違規行為嚴重或者較嚴重的互聯網平臺及各類商家提起公益訴訟。最后，針對信息技術弱勢群體展開常態化專項監管。針對老年人的算法歧視問題不容忽視，例如通過算法誤導老年人消費[10]。青少年群體網絡消費日益增加，特別是未成年人無完全行為能力，易受游戲等商家的算法行為誤導，形成不健康的消費習慣和觀念，危害極大。

綜上，第三方有效地參與算法行為規范，形成有效的算法行為激勵和約束機制是解決算法侵權行為的關鍵所在。此機制生效的關鍵在于，第三方利用其專業性、廣泛的社會聯系優勢為消費者科學地選擇商家和政府有效的監管提供決策信息。

參考文獻

[1] 劉霞.當算法統治世界[N]. 科技日報，2011-09-13（008）.

[2] 潘芳芳.算法歧視的民事責任形態[J].華東政法大學學報，2021，24（05）：55-68.

[3] 陳兵.數據時代開啟消費者保護多元共治新格局[J/OL].東北師大學報（哲學社會科學版）：1-10[2021-11-11].http：//kns.cnki.net/kcms/detail/22.1062.C.20191113.1036.002.html.

[4] 凌振國.推進數字社會適老化改造 遏制大數據“殺熟”[N]. 人民政協報，2021-11-09（007）.

[5] 金幼芳，王凱莉，張汀菡.《個人信息保護法》視角下“大數據殺熟”的法律規制[J/OL].浙江理工大學學報（社會科學版）：1-9[2021-11-11].http：//kns.cnki.net/kcms/detail/33.1338.ts.20211027.1528.002.html.

[6] 文銘，莫殷.大數據殺熟定價算法的法律規制[J/OL].北京航空航天大學學報（社會科學版）：1-8[2021-11-11].https：//doi.org/10.13766/j.bhsk.1008-2204.2021.0250.2021-11-11.

[7] 蘋果手機打車更貴？記者親測實錘！https：//baijiahao.baidu.com/s？id=1693545608304550812&wfr=spider&for=pc.2021-11-11.

[8] 胡君倩，段佳慧.殺熟與數據場景下消費者權利保護問題研究[J].法制與社會，2019（17）：55-56.

[9] 姚前.算法經濟：資源配置的新機制[J].清華金融評論，2018（10）：91-98.

[10] 陳發俊，姜子豪.老年智能產品的應用前景與倫理風險[J].山東科技大學學報（社會科學版），2021，23（01）：21-28.

本文系佛山市2021年度社科規劃共建項目（項目編號：2021-GJ028）研究成果。

作者簡介：

李潤發（1980.7-），男，中國廣東省廣州工商學院教師，碩士研究生，講師、經濟師，研究方向：市場營銷。

程振鋒（1980.11-），男，中國廣東省廣州工商學院教師，博士，副教授，研究方向：市場營銷。

楊美玲（1986.10-），女，中國廣東省廣州工商學院教師，碩士研究生，副教授，研究方向：市場營銷。