大數據視域下的數據倫理與消費者保護

沈浩

編者按：金融科技與大數據的深度融合發展提升了金融機構的服務精準度和效率，為人們提供了更加靈活、便利、定制化的金融產品和服務，但同時也衍生出復雜多樣的金融科技倫理與監管問題。面對嚴重依賴大數據的金融科技，如何才能確保數據的正當收集和使用，特別是做好金融消費者的保護。本文從宏觀層面分析數據倫理和大數據的發展、問題及應用，梳理國內外規制數據倫理的實踐和主要共識，并提出相關政策建議。

通俗來講，數據倫理是道德范疇與社會規范，定義了我們將做什么和不做什么，通過數據倫理能夠幫助我們確定相關的責任，促使行為向善。在大數據與人工智能蓬勃發展的當下，數據倫理與消費者保護的相關理論與研究受到了廣泛關注，其面臨的問題與挑戰也越發引起大家的關心和討論。為了厘清大數據視域下的數據倫理與消費者保護的相關問題和挑戰，本文從數據倫理的發展及應用視角，分析和探討大數據倫理下消費者保護所面臨的問題、大數據算法的效用、國內外建立數據倫理規制的實踐、數據倫理建設的主要共識等內容，并針對加強數據倫理與消費者保護方面給出了切實可行的建議。

大數據時代數據倫理的發展

作為倫理學的一個新分支，數據倫理學屬于道德哲學，聚焦于研究和評估涉及數據、智能算法及其相關聯的應用，以制定和支持道德上良好的解決方案（例如正確的行為或正確的價值觀），屬于應用倫理學中較為重要的部分。隨著大數據和人工智能技術的普及和發展，數據倫理受到了不同行業，特別是金融和銀行業的廣泛關注和討論。然而，在企業的發展和生產經營中，匯集的用戶個人基礎信息、行為信息、消費數據信息、關聯關系信息，以及分析與加工后的潛在信息的相關規則與制度都較為模糊，缺乏具體的邊界。在對用戶提供服務的同時，伴隨著潛在的數據倫理道德危機，缺乏隱私數據保護、消費者權益保護的法律法規及監管措施和政策。因此，人們逐漸認識到，法律和數據倫理道德有時并不是可以兼容并包的，智能化的技術和倫理道德的水平都能夠影響和評價社會發展的文明程度。社會呼吁企業在經營獲利的同時，也要完善其大數據技術之上的數據倫理規范和應用標準，并履行其應有的企業道德和社會責任。

事實上，數據和信任是并行且相關聯的，獲得數據最大價值的核心方法就是將數據提供給最需要的人。因此，需要推動采用數據倫理原則，加強公眾信任和消解阻礙數據收集、共享和使用的力量，在道德準則、行業框架和政府法律法規之間取得更好的平衡。針對數據使用對不同群體的影響的研究表明，數據倫理問題涉及更廣泛的主題及非常實際的社會問題，通過踐行數據倫理有助于減輕無意中融入系統、政策和服務的負面影響和偏見，從而創造更公平的社會。

大數據倫理下消費者保護面臨的問題

消費者進行相關活動時產生的數據歸屬問題有待明確。消費者產生的海量消費及行為數據到底屬于服務提供的企業還是消費者本身;提供服務的相關企業和個人能夠獲取和存儲用戶的哪種數據;是否能夠對數據脫敏加工后進行交易等等，這一系列問題歸根結底都屬于大數據的加工利用及交易范疇的問題，進一步說明了需要厘清消費者全過程數據的歸屬與責權，并引發了大數據倫理的問題。有些企業或服務提供商利用大數據算法的黑盒特性，無視法律和社會道德，借助智能算法及大數據殺熟等潛在手段，從不同特性的用戶身上攫取經濟利益。

相關消費數據缺乏透明性，虛假數據泛濫。部分運營企業借助平臺和系統的隱蔽性，采用虛假的數據信息引導消費者進行消費，其中，較典型的包括企業通過人工智能手段對數據進行填充和偽造等行為制造誤導消費者的假象，如水軍刷單、生成虛假評價、刷排行榜等虛假手段對消費者進行欺騙和誘導。

相關法律法規有待完善，消費者疲于維權。盡管我國已制定了消費者隱私保護與數據保護的法律法規，但有些企業仍存在未經授權非法采集或通過黑市及網絡交易平臺銷售消費者個人隱私數據的行為，且該行為較為隱蔽，即使消費者感知到相關行為后，由于法律法規的完善程度不足，消費者仍難以對自身進行有力保護。同時，在企業追逐利潤的前提下，大數據算法等智能技術已經成為企業侵犯消費者權益的背后幫兇。另外，行業內自律與治理不足，導致整個行業缺乏有效監管，難以發揮行業自身的監管力量。由于大數據與人工智能算法的隱蔽性，即使消費者具有維權意識，仍存在取證難、溯源難、判定難等問題，耗費了消費者大量時間和財力，嚴重影響了消費者的生活。

大數據算法效用的雙面性帶來的問題。當前，隨著大數據和人工智能技術的快速發展，智能算法有效落地并得到應用。大數據算法已經成為企業，特別是互聯網相關企業維挽用戶的強有力的工具和技術手段。通過大數據智能算法，企業能夠有效地提升管理效率和水平，為使用者提供多樣化、便利化和智能化的產品和服務。從技術層面講，大數據算法對于社會經濟的發展作出了一定貢獻。從消費者層面講，大數據算法應用包括套餐服務、智能推薦、交叉銷售、增量銷售、動態評價、信用評級及搜索算法等，給消費者帶來了較大的便利性和實用性。然而，大數據與人工智能是一把“雙刃劍”，技術的普及與落地應用在為人們日常生活及科技的發展帶來了極大便利的同時，也暴露了大數據算法的倫理問題，給構建和諧社會與網絡治理帶來了巨大的挑戰。為管理大數據和人工智能帶來的風險和收益，我們需要超越人工智能決策的公平性和準確性。在技術層面，如過于追求數據和建模，就會產生削弱人類判斷、形成算法偏見、加深社會分歧等各種不良后果。在企業層面，為了追逐利益，企業利用大數據算法的不透明性，對消費者實施不同方面的違法、違規行為，典型的如大數據“殺熟”。企業通過挖掘不同時空區域、不同畫像，以及不同興趣與偏好的用戶信息進行區別定價，并結合復雜的促銷規則和算法混淆價格和優惠，具有極其隱蔽的特性，給消費者的取證、維權帶來極大困難，部分算法黑箱還具有性別和種族歧視。因此，算法歧視與大數據殺熟已經嚴重阻礙了社會的公平有序競爭，不利于市場經濟的良性發展。在消費者層面，大數據算法是看不見、摸不著的“黑盒子”，不法企業實施其違法行為時，消費者難以及時發現且舉證困難，嚴重侵犯了用戶的知情權和公平選擇權，加深了企業和消費者之間的鴻溝。為了評估算法的風險和收益，我們需要研究其對人們生活的影響。

國內外建立數據倫理規制的實踐

國外數據倫理與隱私保護實踐

國外在數據倫理與隱私保護方面的法制建設起步較早，相關的法律法規、行業倫理規范和實踐標準較為完善，給全球的數據倫理與隱私保護制度的建設起到了引領與示范作用。典型的如歐盟設立了歐洲數據保護專員公署，美國成立了“大數據、倫理與社會理事會”等機構來保障和監督消費者與用戶各項信息的安全。2018年5月和11月，歐盟分別發布了《通用數據保護條例》和《倫理與數據保護指引》，成為重要的用戶隱私保護法律，為數據倫理與數據保護提供了直接的指引，給出了具體的方向，引起了廣泛的關注。此外，歐盟的相關管理機構已將數據理論的相關工作作為機構的日常工作。2019年4月，歐盟發布了《可信人工智能倫理指南》，特別強調了針對人工智能相關的倫理及用戶的隱私保護。

近年來，國外嘗試通過“零方數據”，也就是通過尋求許可方式來收集更準確、相關和即時的，并與消費者興趣更匹配的數據方式。在算法上通過隱私技術、聯邦計算等模型算法，實現“可用不可見”的數據建模，在一定程度上形成了數據保護和數據私有，與此同時，企業也在不斷嘗試借助區塊鏈技術實現隱私保護。

我國數據倫理與隱私保護實踐

在我國，因人工智能、大數據、合成生物學等新興技術的快速興起帶來的很多不確定的倫理風險，也引起了我國對新興技術的科技倫理治理的日益重視并陸續出臺了相應的管理措施。2019年7月通過的《國家科技倫理委員會組建方案》和2020年5月通過的《中華人民共和國民法典》都對個人及相關的數據信息與應用方面作出了相應規定。2020年6月，《中華人民共和國數據安全法（草案）》提交全國人大常委會第一次審議。2020年10月，十九屆五中全會提出健全科技倫理體系。此外，針對算法偏見和歧視，我國于2022年3月實施了國家網辦等多個部門聯合發布的《互聯網信息服務算法推薦管理規定》。

數據倫理建設的主要共識

當前，發達國家的數據理論及消費者保護的相關法律和政策相對完善和健全，而且數據倫理方向的探索也在不斷更新和完善。國內外相關政策與法規大多集中于消費者用戶的個人隱私保護及數據保護，在數據倫理建設層面更加重視消費者隱私，并積極制定引導數據“向善”的管理與隱私保護的法律法規及道德規范。另外，相關的數據保護和數據倫理的行業標準、落地的實踐標準等也提出得較早，并受到越來越多的企業和消費者的關注。通過梳理目前數據理論與消防者保護的相關政策，可總結出如下幾點共識。

數據管理及大數據算法應是無偏、向善、公平的。數據的運營主體或相關企業對數據的包括采集、處理、加工、算法訓練等環節的全生命周期必須遵守數據的管理，不僅如此，大數據算法應遵循無偏、向善、公平的原則，不能因潛在的利益而忽視甚至完全違背該原則。不但要防范消費者大數據信息的不正當交易、未經授權的信息共享，而且要注意數據使用中的算法歧視、算法偏見及大數據殺熟等影響消費者感知與體驗的問題。

數據管理和大數據算法應該明確其目標及邊界。大數據的智能分析與挖掘算法能夠創造潛在的價值和效益，而進行大數據運營的企業及個人因集聚了海量數據，進而擁有了相關的非法的和操縱作惡的潛在能力和基礎。因此，需要防范大數據運營企業的行業霸權和壟斷。另外，需要防止數據運營主體無限制地獲取消費者和用戶的數據，要樹立明確的目標及數據量的上下限，并需要防止企業對用戶大數據，尤其是隱私數據的隨意使用。推薦的做法是，對任何可能包括職業、性別、性取向、殘疾、身體體驗、體型、種族、宗教或與企業使命無關的任何事情都“零興趣”。

數據管理和大數據算法應保障算法可靠穩定。面對海量的用戶和積累的海量數據，大數據運營主體需要保障大數據分析與處理技術的可靠性，保障算法的安全且不保留后門，流程與思路清晰合理，算法實現穩定準確，以保障數據的可靠性、完整性及不可否認性等，防止數據受到威脅和篡改。

數據管理及大數據算法主體應了解并知情。需要保護并尊重用戶和消費者對數據的所享有的相關權利，特別是針對用戶的數據及用戶行為信息。消費者作為其主體，需要明確數據的相關使用與處理策略，尤其是涉及用戶隱私的相關策略，并給予用戶對于相關隱私協議和策略的選擇權利，且用戶應具備更改和停止的權利。

涉及用戶的相關大數據應受到合理的保護，并考慮大眾的公共權益。需要構建符合當前環境及政策的大數據保護機制，保障數據的完整信息，施行數據保護優先原則，而不是利益優先，當與法律法規及相關數據理論道德規定相沖突時，應當銷毀或者凍結相關數據。此外，各大數據運營主體應考慮大眾的公共權益，要杜絕危害國家和社會的現象，并重視相關公益數據的隱私保護，遵守相關公共權益的規范和守則。

加強數據倫理與消費者保護建議

近年來，隨著“互聯網+”政策的不斷推行，以數據為運營主體的相關行業和個人推動了我國的經濟與技術發展。然而，在大數據和人工智能的驅動下，也隨之產生了一些負面的問題和影響，包括對涉及用戶隱私的數據的無限制采集、大數據算法的歧視和偏見、大數據殺熟，以及智能化的非法營銷方法等。當前，相關監管政策與法規的發展速度跟不上技術的發展速度，消費者的隱私和權益保護受到了嚴峻挑戰。因此，在“互聯網+大數據”時代，加強數據倫理建設、構建消費者保護屏障具有重要的現實意義。

推進消費者保護的立法工作落地，促使消費者權益保護有章可循、有法可依。明確大數據及相關算法的作用范圍和使用機制，構建與時俱進的消費者及用戶數據的歸屬、數據獲取等相關規章制度與法律法規，厘清相關權利、義務的范圍與責任。吸取國外先進的數據倫理建設經驗，制定官方的權威數據倫理標準規范、準則及規定，設置專業的數據倫理管理機構，并由其負責對大數據算法歧視、大數據殺熟等違法違規行為的管理與處置，強化對大數據倫理及算法應用落地監管。簡化和完善維權和追責制度，強化和落實消費者權益的法律法規，對大數據算法歧視等問題進行嚴厲打擊。

強化數據倫理及消費者保護的多維度監督，構建并健全可落地的消費者保護監管體系。數據倫理建設需要國家管理機構、行業監管機構、行業自律性團體、第三方數據服務商、大數據企業從業者、消費者等多維度、多元共治的數據治理體制機制，全力保障消費者的數據合法權益。大數據從業的主體機構和企業應該確保大數據算法的公正可信、可取證、透明和可追溯。并保證發生爭議和糾紛時，及時向相關的監管部門和機構，以及公正的第三方機構提供相關的算法源程序、原理與涉及數據的說明，保障大數據算法的合理性、合法性和可追溯性。

普及大數據隱私保護教育，增強消費者保護和數據倫理意識。以消費者數據與隱私保護為抓手，通過網絡宣傳、大眾研討、線下推廣等方法，推進消費者數據倫理與隱私保護的普及教育，激發消費者自身對隱私保護、大數據倫理的關注和敏感性，強化其數據倫理的意識，積極參加大數據主體相關的數據處理、算法推薦及應用等全流程的監管，構建行業及社會對數據倫理、消費者數據保護協同共治的意識和氛圍。

推動大數據主體機構完善敏感數據的全周期保護制度。對于從事大數據運營的相關企業和個人，要構建正確的數據倫理觀和消費者保護觀，并遵守從業道德，不逾越底線和紅線;在數據加工、消費者隱私保護、數據治理及數據管理等方面，要通過制定完善的大數據管理規章制度來平衡企業利益、數據倫理和消費者保護，并根據國內外最新的趨勢和發展，及時對相關的制度進行更新和完善，以保障制度符合相關形勢。

（作者系中國傳媒大學新聞學院教授、博士生導師，媒體與融合國家重點實驗室大數據中心首席科學家）

責任編輯：董 治