大數據預測的倫理困境與出路*

蔣潔陳芳何亮亮

（1.南京信息工程大學公共管理學院 江蘇南京 210044）

（2.南京信息工程大學濱江學院 江蘇南京 210044）

·前沿與熱點·

大數據預測的倫理困境與出路*

蔣潔陳芳何亮亮

（1.南京信息工程大學公共管理學院 江蘇南京 210044）

（2.南京信息工程大學濱江學院 江蘇南京 210044）

立足海量信息資源與尖端分析技術的大數據預測模型在有效指導商業決策、優化資源分配、降低管理成本并提升教育科研水平的同時，存在結果預判挑戰自由、隱私披露挑戰尊嚴、信息壟斷挑戰公平、固化標簽挑戰正義等倫理背反問題。亟待通過健全以尊重原則、橡皮原則、無害原則、可持續發展原則等為核心的后現代數據倫理體系，有效表達各方自由意志并平衡利益沖突、順利傳承良善倫理觀念、實現大數據生態系統的良性循環、推動人類生存價值與自然永續發展的和諧共進。

大數據預測倫理困境出路

1 引言

立足體量巨大、類型繁多的數據載體與云計算、感知方案和分布式處理技術的大數據預測“導致生產力、技術實力及社交結構的全新突破”。大數據風電預測助力風光儲示范基地效益最大化并優化電網性能；騰訊云信鴿通過有效預測流失用戶與潛在付費用戶為開發者提供最優運營方案；全球最大的在線影片租賃提供商Netflix基于對海量收視選擇與主題搜索的精準分析捧火《紙牌屋》；百度賽事預測將數萬場比賽與國內外博彩數據融入巴西世界杯預測模型，再現章魚保羅的神話；默克集團通過對550萬疫苗生產數據的150億次計算，探尋出能夠大幅減少廢物量的最佳發酵條件；奧巴馬競選團隊依靠大數據評級系統開展的智能募捐、輿情監測與定向廣告等贏得大選。

滲透各行各業核心領域的大數據預測正在開啟重大的時代轉型，在迅速變革商業模式、推進生態永續、低成本實現個性化教學并促成科學研究從假設推動到數據推動的全新轉變的同時，嚴重威脅自由、尊嚴、公平、正義等人本固有的終極價值屬性。亟待構建以尊重原則、橡皮原則、無害原則、可持續發展原則等為核心的倫理風險規避體系，積極破除隱私披露、信息壟斷、標簽固化等大數據負面效應的催發因素。

2大數據預測的倫理困境

21世紀以來，爆炸性增長的“未來新石油”逐漸俘虜人類社會。海量相關關系的過度分析大面積披露數據隱私，掌控核心資源的預測方肆意侵害數據對象的知情權與收益權；數據主導決策模式的無差別適用逐漸磨滅創造力、限制自由發展，全面破壞終極尊嚴、平等自由、公平正義等最基本的倫理衡標。

2.1 結果預判挑戰自由

通過海量交叉驗證征兆與變化規律發掘事件概率的大數據預測依托多維度、多來源、多形式的巨量元數據且挖掘工具與分析技術的深度、廣度與精度前所未見，包括賽事、股市、用戶行為、環境變遷、疫病疫情等在內的各類較為精準的預判（例如，“遙遠未來系統”最多可以預測個人80周內可能到達的位置，準確度高達80%），引發整個社會對智慧生活的極力推崇。隨著居民生活、商業貿易、政治活動等領域的數據主導決策模式日益成熟，我們正在進入一個“只需要知道是什么，而不需要知道為什么”的時代。隔壁鄰居根據谷歌流感預測與百度旅游預測等選擇度假去處、老牌球隊依靠數據模型選擇球員、政壇強人借助輿情預測調整競選方案等等。

結果預判的極致擴張消減社會主體自由探索的勇氣，剝奪個人自由發展、企業自主創新與政府自行決斷的機會。首先，基于巨量基因與環境變量數據的職業選擇服務已初具雛形，預測精準度的提升將使《千均一發》中數據決定新生兒成長道路、職業安排、婚姻家庭等的“理想國”降落人間，意味著否定人的一切努力與獨立思考能力，徹底剝奪自由選擇權。其次，商業組織過于依賴結果預判市場趨勢、投資抉擇并組織生產營銷等將嚴重擠壓突破性創新的生存空間?！敖锝镉嬢^成本不可能有發明”，高效創新源于持續試錯與靈光乍現。X光、微波爐等具有探索性與開拓性的偶發事物是經濟繁榮、技術進步、歷史發展的契機。巨量數據結果預判促使大量企業放棄高風險的試錯創新，整個社會全力追逐大概率反向提高預測精準度，最終完全擊垮自主運營模式。再次，隨著國際互動與利益交換全面數據化，結果預判日漸披露各國政府出于國家安全與秩序穩定等利益考量而隱瞞的特定決策理由和過程。例如，預測方對日本軍國主義演變軌跡、中國軍力增減趨勢及歐美海外軍事干預等的量化分析逐漸成為國際政治格局的重要影響因素。

2.2 隱私披露挑戰尊嚴

“沒有隱私的地方就沒有尊嚴”，匿名是尊嚴拾得的重要保障。隱名人流或篩檢艾滋病、不具名投訴或舉報、戴頭套提押嫌疑人和不公開審理等均是尋求維護生命和人格尊嚴與保障公共安全和社會秩序之間重要平衡點的有益舉措。通過匿名注冊、搜索與社交最大程度地實現個人意志自由表達是互聯網絡的核心吸引力與主要發展力。大數據預測系統使巨量結構化與非結構化數據中分離識別真實資料與意圖，逐步達到“只要有合理的商業動機推動數據挖掘過程，任何形式的隱私都是‘算法上不可能’”。廣大用戶陷入以隱私披露為代價獲取便利的個性化服務之尷尬境地，尊嚴受損現象層出不窮。例如，通過分析搜索記錄發送定向廣告的百度公司在發掘朱女士搜索“減肥”、“豐胸”、“人工流產”等詞匯后，不斷向該臺電腦投放相關廣告，“被示眾”嚴重損害朱女士的人格尊嚴。又如，安客誠通過預測3000種不同行為及心理傾向，披露數據權人的性別、年齡、性取向、收入與婚姻狀況等，減損互聯網絡作為觀點自由市場、社會公共良心與創造力之源的重要價值。

2.3 信息壟斷挑戰公平

“泄密的通常不是關鍵性的保密數據而是普通的日常信息?！贝髷祿A測通過整合海量碎片化信息資源之間的多元關聯，完成數據對象的全景洞察，精準提升目標用戶的活躍度并在流失前有效預警，全面顛覆傳統商業模式和運營規則。越來越多的企業認識到基于巨量數據分析的營銷波動預測對于掌握客戶消費需求、開辟藍海市場的重要價值。大量缺乏宏觀把握市場狀況必須之巨量元數據與高精分析技術的傳統企業為了在信息時代的殘酷競爭中取得優勢地位，依托儲流服務商或數據掮客的分析預測改善產品服務和運營模式。實時自動收集的企業搜索數據反為系統注入更多信息資源，進一步提高預測精準度。海量數據“已經變成生產原材料，是巨大的經濟與社會價值的新來源”。隨著預測市場持續集約化與預測方掌控能力不斷增強，壟斷海量高價值元數據的互聯網巨頭們借口安全保障與隱私考量獨占使用（如“臉書”內部科學家利用獨家掌握的100多PB個人數據發表數十篇研究論文）并悄然完成從免費到收費、從廉價到昂貴的華麗轉身（如百度公司宣布下半年預測工具將全面進入商業化運營），破壞有序競爭的業內環境。

雖然大數據預測引領人類無限接近控制未來的終極夢想，采集與分析過程卻不可能徹底消除人為推斷與解釋數據造成的隱性偏差。由于資源與技術實力處于劣勢的社會主體難以察覺預測方篡改數據內容的不法行為，一些追求利潤最大化的企業通過假造分析與預測結果控制市場活動、輿論導向與政治格局等，打破整個社會的平衡狀態。

同時，預測方不僅未告知數據權人信息挖掘的真實情況，還利用避風港原則與格式合同附加條款等規避通知義務、安保義務與收益分享義務等。大量偏遠鄉村與貧困人口的信息化程度遠不及城鎮地區與富裕群體，大數據預測在經濟發達地區與人群的迅速普及導致地區性與階層性信息壟斷，剝奪弱勢群體的平等競爭機會。例如，具有一定電腦知識與上網經驗的應屆考生可以享受百度高考預測中從作文預判到填報志愿指導的較為精準的全程預測服務，某些欠發達地區的貧困考生卻難以具備同等條件。

2.4 固化標簽挑戰正義

海量數據儲流實現了信息資源的永久保留。例如，“臉書”服務器的1200多個PDF文件中存儲著普通用戶Max Schrems的海量個人數據（無論用戶是否刪除）。大數據預測通過對包括數據權人刪除或遺忘的信息在內的巨量數據的上百萬次假設驗證控制錯誤率，揭示員工離職傾向、客戶消費能力與死亡期、社會主體違法犯罪的可能性等，嚴重違反文明社會“所有人一律平等”的基本倫理要求并剝奪尋找新的生存與發展機會的基本權益。例如，掌握了離職傾向預測數據的雇主往往給予指數較高員工歧視性待遇。又如，保險公司基于客戶消費數據預測死亡期判定是否接受投保。再如，不少執法機構依托犯罪趨勢預測布署警力并對犯罪概率較高的社會主體實施監控，嚴重侵害個人自由生活的基本權益。數據暴政之下甚至出現“數據釣魚”執法。例如，荷蘭警方通過分析TomTom導航儀記錄的道路速度數據，在那些最可能創收的地方設置限速陷阱，嚴重背離正義執法。

3大數據預測的倫理原則體系

廣泛應用大數據引擎與不斷增加預測精準度等助力大數據產業跨越技術進步與商業變革的臨界點，成為信息社會高效益與高風險的矛盾載體。發達的傳感器網絡與海量數據計算能力使其能夠精確捕捉動態變量數據，在滿足時效性、準確性與實用性的同時，引發“一切新形成的關系等不到固定下來就陳舊了……一切神圣的東西都被褻瀆了”的倫理憂思，亟待健全以尊重原則、橡皮原則、無害原則、可持續發展原則等為核心的后現代數據倫理體系，有效表達各方自由意志并平衡利益沖突、順利傳承良善倫理觀念、實現大數據生態系統的良性循環、推動人類生存價值與自然永續發展的和諧共進。

3.1 尊重原則

在33個比特數據就足以辨識個人身份的零隱私時代，“才買了新車就有人來推銷保險；剛去醫院作完孕檢，返家途中就接到了孕嬰產品銷售商的問候電話”，尊重人格尊嚴的核心是一絲不茍地執行匿名規則。雖然匿名具有放大人性弱點與擾亂社會秩序的弊端（如熟人匿名社交軟件“秘密”），卻是實現個人意志自由表達的關鍵環節。數據權人應當享有不受外力干擾、按照自身意愿決定是否分享以及如何分享敏感數據的基本權利。預測方必須建立隱私預警系統，在海量數據關聯分析觸及揭示個人真實資料的敏感信息時，自動向數據權人發送通知并立即停止挖掘，直至獲得對方明示同意。

雖然目的限制與數據縮小等優質數據原則削弱大數據預測的經濟效益，但對于自由選擇權的尊重是文明社會長期存續的必要條件。整個預測流程應當確保數據權人自愿進退，不僅享有自主參與數據生活的權利，亦享有隨時轉移或清除敏感數據的權利。

大數據預測領域互相尊重的重要表征還包括預測方應當按時足額向數據對象交付數據收益。例如，基于人群收入、資產水平、搜索記錄等的商業開發預測系統提供方必須將合理比例的銷售所得妥善支付給數據對象。

3.2 橡皮原則

大數據技術的快速發展大幅降低數字化存儲成本并實現數字記憶的全球化無障礙訪問，人類社會自此邁進永久記憶的新紀元。大數據預測通過交叉訪問海量匿名數據庫的零散數據，再識別大量個人信息（如誠信等級、婚姻家庭狀況、工作軌跡等），在一定程度上剝奪了社會主體重新出發的機會。任何人應當享有在既定條件下“擦除過往”的權利，必須有效貫徹數據權人能夠隨時徹底移除敏感數據并限制相關分析結果無序披露的橡皮原則。

3.3 無害原則

“超出傳統的獲取、存儲、管理與分析數據集成”的大數據預測從海量元數據中提煉未知的有用信息，改變了零散分離數據的收集模式，加劇預測方與數據權人的不平等，使得權利人無從知曉敏感數據保留與使用的具體狀況。一些看似普惠的金融、科教、社交的預測活動將預測方的企圖潛移默化地強加于廣大參與者（例如，基于投資者與股票間互動的“策略指數”隱性傳遞預測方的投資輔助信息；又如，通過微熱點與熱門標簽等展現熱門事件的發展脈絡和走向，影響后期討論和互動），違反平等與公允等必要的倫理要求，拉低整個社會的幸福指數。預測方的技術實力與資源掌控遠勝其他參與者，應當承擔不得直接或間接侵害數據權人生命安全、自由需求與隱私利益等基本責任，有必要以通俗易懂的方式向權利人通報預測目的、方法、過程、風險及收益，并切實提高數據權人的管控能力、監督和舉報第三方違法行為等。

3.4 可持續發展原則

在大數據預測領域堅持可持續發展原則的核心要求是正確界定用戶需求決定生產的范圍與幅度。例如，某些正效應領域（如有利于防治疾病的流感傳播路徑預測與早產兒感染預測、有利于避免死亡的沙井蓋爆炸預測、有利于節省燃料的UPS物流車隊行車路徑預測）從受眾洞察、定位、接觸到轉化的全過程均依賴海量數據預測引導有助于避免不必要損失、提高運行效率、實現經濟利益最大化。另一些需要保持自主創造力的領域卻不可過度依賴大數據預測。例如，影視劇本撰寫、選角、影院排片等完全由預測結果調控將輾毀文藝發展道路。

大數據預測的可持續發展需要數據采集、存儲、流轉、分析等各環節的多方參與者自覺避免話語權不平等導致的弱勢偏見和不公平待遇。例如，服務商應當通過不斷完善身份驗證、增加追蹤障礙并拓展密鑰技術等建立有效阻止未經授權之再識別的安全屏障，確保大數據預測的透明化、客觀化與有序化。又如，公權機關既不得為了節約涉法費用加入侵害數據權益的采挖行列，亦必須切實履行懲治違規與激勵維權等多元責任。再如，其他參與主體在巨量數據運作過程中不得侵害他人權益。

大數據預測倫理原則體系的完善還應當在行業自律的績效測量與評價體系中增加相應倫理指標并健全激勵機制，通過相關倫理規約培訓向參與者清晰傳達各項原則并提高其自覺遵循的能力，同時設置履行監督職責的倫理調查專員并建立匿名檢舉制度以避免不當行為進一步蔓延。

4 結語

“這是一個最好的時代”，大數據預測的飛速發展帶來全新經濟增長點，加速技術文明發展進程，數據規模、流轉活性及分析狀況等逐漸成為衡量一國綜合國力的重要指標。“這是一個最壞的時代”，大數據預測的盲目拓展限制個人意志的自由表達、阻礙企業自主創新與政府自行決斷。亟待通過完善尊重原則、橡皮原則、無害原則、可持續發展原則等規避倫理風險，平衡各參與方的利益關系，健康有序地提升人類發展指數。

［1］Jordan Robertson.The Health-CareIndustry Turns to Big Data［EB/OL］.［2014-08-25］.http：//www.businesswee k.com/printer/articles/26016-the-health-care-industryturns-to-big-data.

［2］周曉夢.當風電遇到大數據［N］.科學導報.2014-05-30.

［3］深挖大數據騰訊云信鴿首個實現用戶預測［EB/OL］.［2014-08-25］.http：//news.zol.com.cn/468/4682618.html.

［4］《紙牌屋》的大數據力量：巫術一般的精準營銷［N］.21世紀經濟報道.2013-06-24（A3）.

［5］準確率高達81.8%百度世界杯預測廣受彩民追捧［EB/ OL］.［2014-08-25］.http：//sports.sohu.com/20140616/ n400912312.shtml.

［6］大數據正在改變每一個行業所有行業都正在享受收集和分析數據帶來的優勢［EB/OL］.［2014-08-25］.http：// www.36dsj.com/archives/9737.

［7］奧巴馬連任背后：政界大數據時代即將到來［EB/OL］.［2014-08-25］.http：//tech.qq.com/a/20121108/000182.htm.

［8］Chris Anderson.The End of Theory：The Data Deluge Makes the Scientific Method Obsolete［EB/OL］.［2014-08 -25］.http：//www.wired.com/science/discoveries/magazine/ 16-07/pb_theory.

［9］大數據“入侵”我們還有秘密嗎？［EB/OL］.［2014-08-25］.http：//news.xinhuanet.com/info/2013-05/16/c_13238 4331.htm.

［10］維克托·邁爾·舍恩伯格，肯尼思·庫克耶.盛楊燕，周濤譯.大數據時代：生活、工作與思維的大變革［M］.杭州：浙江人民出版社，2012：20.

［11］曹斯，張勝波.“六冠院士”卓以和解密“貝爾模式”——斤斤計較成本不可能有發明［N］.南方日報.2010-07-28.

［12］王芳.“沒有隱私的地方就沒有尊嚴”澳門解讀［N］.法制日報.2009-04-17.

［13］郭曉煒.大數據下的隱私安全［J］.中國經濟和信息化，2013，（24）.

［14］南京一網民告網站引出話題“精準營銷”怎能侵犯隱私［EB/OL］.［2014-08-25］.http：//js.xhby.net/system/ 2014/03/18/020547091.shtml.

［15］蔣婭婭.谷歌新廣告遭用戶抗議：大數據和個人隱私的“戰爭”打響了［N］.解放日報，2013-10-28（W10）.

［16］央視曝蘋果搜集用戶位置信息90%用戶不知情［EB/ OL］.［2014-08-25］.http：//tech.

sina.com.cn/t/apple/2014-07-11/13119488633.shtm l.

［17］Omer Tene，Jules Polonetsky.Privacy in the Age of Big Data：A Time for Big Decisions［EB/OL］.［2014-08-25］.http：//www.stanfordlawreview.org/online/privacy-pa radox/big-data.

［18］24歲用戶向Facebook申請個人數據收到1200個PDF文件［EB/OL］.［2014-08-25］.http：//www.cnbeta. com/articles/165595.htm.

［19］Tom被曝道歉后繼續向警方出售用戶超速數據［EB/ OL］.［2014-08-25］.http：//www.cs.com.cn/hw/02/20110 5/t20110509_2872404.html.

［20］馬克思恩格斯.共產黨宣言第1章.

［21］杭春燕.大數據時代如何抹去“數據腳印”：新消法個人隱私保護規定亟待落到實處［N］.新華日報，2014-04-07（A03）.

［22］James Manyika，Michael Chui，Brad Brown.Big Data：The Next Frontier for Innovation，Competition，and Productivity［EB/OL］.［2014-08-25］.http：//www.mckinsey.com/insights/business_technology/big_data_the_ next_frontier_for_innovation.

［23］Charles Dickens.A Tale of Two Cities：A Story of the French Revolution［M］.EBook#98，2009：1.http：//www. gutenberg.org/files/98/98-h/98-h.htm#link2H_4_0001.

Ethical Dilemmas and Solutions of Big Data Prediction

Based on mass data and sophisticated technique，big data prediction can effectively guide business decisionmaking，optim ize resource allocation，reduce adm inistrative costs，and enhance education and scientific research levels.W e focus on issues of violating ethical standards，such as results prediction infringing freedom，privacy disclosure infringing dignity，information monopoly infringing fairness，and stereotypes infringing justice，etc.The article proposes specific initiatives of constructing the system of ethical principles，such as respect，rubber，harm lessness，and sustainable development，which w ill express each free will，balance conflict of interest，inherit kind ethical opinions，realize the virtuous cycle of big data ecosystem，and promote harmonious development of human survival value and natural age-long development.

big data prediction；ethical dilemmas；solutions

G203

：A

：1003-6938（2014）05-0061-04

蔣潔（1979-），女，南京信息工程大學公共管理學院副教授；陳芳（1973-），女，南京信息工程大學公共管理學院副教授；何亮亮（1980-），男，南京信息工程大學濱江學院副教授。

*本文系江蘇省“青藍工程”資助項目、江蘇省法學會自選課題“大數據挖掘的侵權風險及對策研究”（項目編號：SFH2014D19）與江蘇省社科聯江蘇省社科研究課題“云環境中數據隱私侵權問題研究”（項目編號：13SQB-072）研究成果之一。

2014-09-01；責任編輯：劉全根