大數(shù)據(jù)下的人權(quán)保護(hù)

我們已經(jīng)越過了那個“大數(shù)據(jù)只與硅谷的科技公司相關(guān)”的時代。現(xiàn)在，任何收集信息并從事大數(shù)據(jù)分析的公司——無論是零售商、招聘網(wǎng)站、生產(chǎn)聯(lián)網(wǎng)設(shè)備的制造商，還是醫(yī)療保健公司——都在收集、存儲和分析足夠的數(shù)據(jù)，這些公司均受到了大數(shù)據(jù)所帶來的積極或消極影響。而這些影響中可能會包括嚴(yán)重的人權(quán)問題，因?yàn)閹缀跛械墓径荚诖鎯吞幚泶罅繑?shù)據(jù)，也幾乎所有公司最終都需努力克服這個問題。

為了幫助公司理解大數(shù)據(jù)和人權(quán)，我們從合作伙伴和會員企業(yè)那里收集了一些經(jīng)常聽到的問題和答案。

什么是大數(shù)據(jù)

大數(shù)據(jù)是指能夠快速抓取、聚合和處理不斷增長的大量種類繁多的數(shù)據(jù)的能力。從類別和意圖上講，被收集、存儲和處理的數(shù)據(jù)是無限的，可以從消費(fèi)者支出和零售習(xí)慣，到音樂或書籍的喜好，再到敏感病人和醫(yī)療信息，以及財(cái)務(wù)信息等。公司對這些數(shù)據(jù)的處理通常是由算法做出決定，它是為解決問題而開發(fā)的程序或指令集。例如，你在網(wǎng)上的購物習(xí)慣會產(chǎn)生數(shù)據(jù)，而這些數(shù)據(jù)將由一個算法進(jìn)行處理，然后決定哪些廣告最適合你。

大數(shù)據(jù)如何與人權(quán)相關(guān)

對隱私和歧視的擔(dān)憂是大數(shù)據(jù)收集中出現(xiàn)的兩個主要的人權(quán)問題。在這兩個問題中，弱勢群體的權(quán)利是一個特別重要的話題。圍繞公民權(quán)利，我們已經(jīng)在線下的世界取得了進(jìn)展，因此我們不希望讓大數(shù)據(jù)應(yīng)用產(chǎn)生的自動化歧視和不公平來破壞這種進(jìn)步。

大數(shù)據(jù)如何涉及隱私權(quán)

從2014年白宮發(fā)布的一份關(guān)于大數(shù)據(jù)的報告中，可以看到以下關(guān)于顧客隱私的案例：

隨著聯(lián)網(wǎng)家庭變得越來越普遍，諸如煙霧探測器等其它環(huán)境傳感器的物聯(lián)網(wǎng)家電設(shè)備，將開始收集每個用戶家中的數(shù)據(jù)。如果保險公司能夠購買到這些數(shù)據(jù)并確定某一新客戶是吸煙者從而拒絕為其投保，該怎么辦？智能家電的數(shù)據(jù)收集是否侵犯了用戶隱私，或者保險公司使用這一數(shù)據(jù)是否違法？如果不考慮數(shù)據(jù)收集和共享的含義，這些問題可能會帶來嚴(yán)重的后果。

大數(shù)據(jù)如何影響非歧視權(quán)利

一些人斷言，通過消除人類做決策的過程，算法將會減少歧視，但算法其實(shí)是可以在自身植入歧視性決策的。例如，新美國基金會成立的開放技術(shù)研究所政策顧問Eric Null提出了有關(guān)犯罪的大數(shù)據(jù)可能產(chǎn)生正面或負(fù)面影響的問題：“預(yù)測警務(wù)技術(shù)可以被用于好的方面，也可以致使不公正現(xiàn)象永久存在。使用帶有種族偏見數(shù)據(jù)的算法只會延續(xù)警務(wù)工作中固有的偏見，導(dǎo)致更多的不公正。因?yàn)槲覀円呀?jīng)知道，警方的數(shù)據(jù)通常只包含那些被報告的犯罪事件，而這就意味著警察會對那些地區(qū)存有偏見。”

在這種情況下，算法的輸入可能建立在不反映總體犯罪趨勢的數(shù)據(jù)之上。從表面上看，算法方程進(jìn)行的數(shù)據(jù)分析過程似乎不應(yīng)該導(dǎo)致歧視結(jié)果，但前提是他們分析的數(shù)據(jù)得和算法一樣好。

公司能做什么

就其本身而言，大數(shù)據(jù)并沒問題，但意外的后果如侵犯隱私和歧視就是問題了。處理大數(shù)據(jù)的算法在影響我們生活的重大決策方面發(fā)揮著越來越重要的作用，鑒于各國政府只是才開始著手處理這些系統(tǒng)的正當(dāng)法律程序，因此，企業(yè)需要采取措施識別和緩解潛在的人權(quán)風(fēng)險。

為此，公司可以做到以下幾點(diǎn)：

確定誰在公司內(nèi)部使用大數(shù)據(jù)及其目的。

進(jìn)行人權(quán)影響評估，確定對該數(shù)據(jù)的使用是否有可能產(chǎn)生潛在的人權(quán)影響。

與思想領(lǐng)袖如民主科技中心聯(lián)系，了解有關(guān)大數(shù)據(jù)收集及其對人權(quán)影響的最新關(guān)注點(diǎn)。

如果確定了人權(quán)影響，與擁有或開發(fā)使用大數(shù)據(jù)應(yīng)用程序的員工創(chuàng)建一個行動計(jì)劃。

在維護(hù)應(yīng)用程序有效性的同時，就如何減輕或消除這些影響提出建議。

保持透明，披露公司收集的數(shù)據(jù)以及處理分析數(shù)據(jù)的機(jī)制。

透明度尤其重要，原因有二。首先，與業(yè)內(nèi)同行和人權(quán)團(tuán)體分享經(jīng)驗(yàn)和教訓(xùn)能夠促成積極的人權(quán)成果。其次，公眾有權(quán)知道正在收集的數(shù)據(jù)以及數(shù)據(jù)是如何被處理的，這樣可以幫助企業(yè)評估數(shù)據(jù)的有效性以及所達(dá)成結(jié)論的公平性。

通過了解你的數(shù)據(jù)是如何被使用的以及結(jié)果是什么，不管是否有意，公司都可以避免潛在的對人權(quán)的負(fù)面影響，同時利用大數(shù)據(jù)的力量產(chǎn)生更好的分析和結(jié)果。通過上述步驟，可以幫助企業(yè)利用人權(quán)機(jī)會，同時避免大數(shù)據(jù)帶來的負(fù)面影響。

編輯|胡文娟 wenjuan.hu@wtoguide.net

本文編輯自BSR網(wǎng)站2016年9月20日博客文章Big Data and Human Rights： 5 Frequently Asked Questions

點(diǎn)評：

無論是喜是憂，無可否認(rèn)，大數(shù)據(jù)應(yīng)用已滲透到我們的日常生活，比如推送的新聞是你愛看的，推薦的商品是你想買的……

大數(shù)據(jù)的意義就在于，從海量數(shù)據(jù)中挖掘并分析用戶的行為習(xí)慣和喜好，從而計(jì)算出更符合用戶“口味”的產(chǎn)品和服務(wù)。這種作用對于現(xiàn)如今的企業(yè)來講，商業(yè)價值極其重大，對于社會而言，也有諸多好處。因?yàn)榇髷?shù)據(jù)幫助我們注意到了忽略的存在，也讓一切不確定事物變得有跡可循。

但是，任何事物都有兩面性，大數(shù)據(jù)帶來的問題同樣也不少。比如，大數(shù)據(jù)可能會泄露用戶隱私、大數(shù)據(jù)可能會使用戶遭到歧視等。比如，電腦投放求職廣告時，就會產(chǎn)生歧視行為。去年卡耐基梅隆大學(xué)研究者通過一款名為AdFisher的追蹤工具，對谷歌在第三方網(wǎng)站上的廣告定向過程進(jìn)行了追蹤。數(shù)據(jù)顯示，當(dāng)谷歌判定一位訪客為男性求職者時，為他推送高薪主管職位廣告的幾率要遠(yuǎn)高于同等條件的女性求職者。

其實(shí)，牽涉到與大數(shù)據(jù)相關(guān)人權(quán)問題的企業(yè)類型除了互聯(lián)網(wǎng)等科技公司，還包括其他任何從事收集和大數(shù)據(jù)分析的公司。為此，謹(jǐn)慎對待企業(yè)追蹤用戶數(shù)據(jù)的過程以及根據(jù)數(shù)據(jù)進(jìn)行決策的算法，對所有企業(yè)而言，都相當(dāng)重要。當(dāng)然，企業(yè)也應(yīng)該未雨綢繆，采取一些相應(yīng)措施，消除數(shù)據(jù)帶來的人權(quán)危機(jī)。因?yàn)檫@不僅是消費(fèi)者和社會的期待，更是企業(yè)的責(zé)任。endprint