人工智能的暗黑秘密？對數(shù)據(jù)的需求沒有邊界

Bart Perkins 陳琳華

人工智能革命渴望獲得個人數(shù)據(jù)。在機(jī)器智能和監(jiān)視活動出現(xiàn)交集之前，美國政府需要遵守聯(lián)邦隱私立法。

人工智能可能會通過多種方式為人類提供幫助。無人駕駛汽車和智能基礎(chǔ)設(shè)施有望通過讓人們在城市的移動變得更加便捷來減少擁堵;經(jīng)過改進(jìn)的診斷和治療正在增加人類的壽命;在企業(yè)中，人工智能可以幫助優(yōu)化招聘決策，讓工廠更加安全，實(shí)現(xiàn)日常任務(wù)的自動化，生成更為客觀的績效評估，并幫助企業(yè)更好地了解他們的客戶。

新的工具正在不斷涌現(xiàn)。亞馬遜已經(jīng)獲得兩項(xiàng)手環(huán)專利，可以跟蹤工人填寫訂單時和裝箱時的手部動作。手環(huán)使用射頻來精準(zhǔn)地跟蹤手部的運(yùn)動，當(dāng)檢測到低效運(yùn)動時，手環(huán)會通過振動指導(dǎo)工人的手部在正確的方向運(yùn)動。Humanyze研發(fā)了一種社交徽章，可以追蹤員工在辦公室中的活動進(jìn)而從中分析員工與同事之間的互動交流情況。歐萊雅的UV Sense可追蹤佩戴者暴露在紫外線中的情況，然后將數(shù)據(jù)發(fā)送到她們的手機(jī)上。Cogito可以在客服代表接聽電話時監(jiān)測她們是否急客戶之所急。

不幸的是，要想充分實(shí)現(xiàn)這些工具的優(yōu)勢需要大量數(shù)據(jù)，這些數(shù)據(jù)也使得對消費(fèi)者和員工的監(jiān)控變得更加容易。中國的社會信用體系于2014年啟動，預(yù)計到2020年全面投入運(yùn)行。該系統(tǒng)為創(chuàng)建個人檔案匯總了支付歷史、醫(yī)療信息、法律記錄以及其他數(shù)據(jù)。主要城市也都安裝了大量的攝像頭。

在隱私層面上，We-Vib曾經(jīng)銷售了一款可以通過智能手機(jī)控制的藍(lán)牙振動器。2017年，We-Vib盡管沒有承認(rèn)犯有錯誤，但是還是同意支付375萬美元來解決一場集體訴訟，該訴訟認(rèn)為We-Vib收集了有關(guān)性玩具使用頻率和使用方式的數(shù)據(jù)。

確實(shí)，大量數(shù)據(jù)以人們意想不到的方式在讓社會受益。2018年4月，Joseph DeAngelo被指控為金州殺手，涉嫌從20世紀(jì)70年代和80年代開始犯下了一系列謀殺與強(qiáng)奸案。在方便個人研究家族族譜的網(wǎng)站上，警方將嫌疑人的遺傳圖譜與網(wǎng)站上的基因圖譜進(jìn)行了對比。最終，警方確定了一個群體與犯罪分子有著相同的遺傳物質(zhì)，并根據(jù)年齡、性別以及他們居住的地方排除了一些人。在確定了DeAngelo為犯罪嫌疑人之后，警方從其丟棄的垃圾中提取到了他的DNA，發(fā)現(xiàn)與犯罪現(xiàn)場提取的樣本相符。

雖然這些基因數(shù)據(jù)庫幫助警方破了數(shù)十年的陳年舊案，但是該數(shù)據(jù)庫的使用引發(fā)了人們對隱私問題的擔(dān)憂。很少有人會向存儲庫提供遺傳數(shù)據(jù)，并希望執(zhí)法部門對該數(shù)據(jù)文件進(jìn)行審查。提供者可能沒有意識到自己的行為可能會導(dǎo)致政府掌握那些不同意公開遺傳信息的親屬的相關(guān)信息，有的親屬甚至不知道家族的遺傳信息已經(jīng)存儲在了數(shù)據(jù)庫中。

如今，全球的隱私問題正日益嚴(yán)重。2018年5月，歐盟實(shí)施了全面的隱私保護(hù)規(guī)則，即通用數(shù)據(jù)保護(hù)條例（GDPR）。其他國家也正在進(jìn)行立法。為了保護(hù)數(shù)字隱私，加拿大提出了國家網(wǎng)絡(luò)安全戰(zhàn)略。印度的個人數(shù)據(jù)保護(hù)法案的重點(diǎn)是人工智能道德、個人隱私、安全和透明度。它們由一個獨(dú)立的監(jiān)管機(jī)構(gòu)監(jiān)督，并對違法行為進(jìn)行嚴(yán)厲處罰。據(jù)聯(lián)合國統(tǒng)計，目前已經(jīng)有一百多個國家出臺了數(shù)據(jù)保護(hù)和隱私法。盡管如此，聯(lián)合國也承認(rèn)許多立法最近沒有進(jìn)行更新，并且不夠強(qiáng)大，不足以讓公民相信自己的隱私會得到充分保護(hù)。

2016年，許多亞馬遜、蘋果、Facebook、谷歌和微軟的工程師、設(shè)計師和其他員工越來越擔(dān)心他們發(fā)表的名為Never Again（到此為止）公開信的監(jiān)管力。這個名字涉及IBM在第二次世界大戰(zhàn)期間扮演的不光彩角色，其利用穿孔卡片和卡片分類技術(shù)幫助美國政府管理對日裔美國人的拘禁，以及幫助納粹追蹤大屠殺的受害者。Never Again公開信的簽署者承諾拒絕建立任何數(shù)據(jù)庫，以幫助美國政府收集有關(guān)個人宗教信仰的信息，因?yàn)樗麄儞?dān)心此類數(shù)據(jù)庫可能導(dǎo)致大規(guī)模的驅(qū)逐出境行動。

在2018年10月召開的布魯塞爾國際數(shù)據(jù)保護(hù)和隱私委員會會議期間，蘋果首席執(zhí)行官蒂姆·庫克表達(dá)了他對“數(shù)據(jù)工業(yè)綜合體”的擔(dān)憂。他警告說，對個人數(shù)據(jù)的收集和綜合正在創(chuàng)建一個“永久性的數(shù)字檔案，它們會讓企業(yè)比你更了解自己。”為此，他支持GDPR并呼吁美國出臺相應(yīng)的隱私立法。

隱私監(jiān)管的7項(xiàng)原則

庫克是對的。現(xiàn)在是時候讓美國跟隨其他國家制定數(shù)字隱私法了。新法規(guī)至少應(yīng)包括以下原則。

1.盡量減少對數(shù)據(jù)的收集

數(shù)據(jù)收集應(yīng)限于手頭任務(wù)所需的數(shù)據(jù)。可能在某天會派上用場的額外數(shù)據(jù)應(yīng)當(dāng)被限制收集。個人身份信息應(yīng)被從用于分析的數(shù)據(jù)存儲中刪除。

2.數(shù)據(jù)收集行為應(yīng)告知用戶

在收集數(shù)據(jù)時應(yīng)告知用戶，同時告知用戶這些數(shù)據(jù)將被如何使用。個人應(yīng)當(dāng)能夠決定是否允許在每個活動期間被采集數(shù)據(jù)。瀏覽器和網(wǎng)站的條款應(yīng)當(dāng)簡單并便于理解，以便消費(fèi)者能夠快速做出決定。

3.允許個人訪問自己的數(shù)據(jù)

個人應(yīng)該能夠復(fù)制自己的數(shù)據(jù)并糾正或刪除不準(zhǔn)確的個人數(shù)據(jù)。當(dāng)前，在一些企業(yè)中，更正幾乎是不可能的事情。最近一位同事試圖更新自己的信用報告，將住址更改為新的門牌號。因?yàn)樗l(fā)現(xiàn)開發(fā)商變更了街道地址的最后一位數(shù)，但是信用部門拒絕修改該條目。

4.實(shí)現(xiàn)決策透明

人工智能正通過法律、招聘、大學(xué)錄取等決策對個人生活產(chǎn)生越來越大的影響。由于人工智能是通過大量的規(guī)則來使用海量數(shù)據(jù)，因此人們通常無法理解人工智能引擎是如何得出結(jié)論的。雖然在玩游戲時，人類是否理解人工智能引擎的邏輯并不重要，但是在偏見或意外可能會影響最終結(jié)果的情況下，這是不可接受的。

Equivant工具可預(yù)測被告人犯下新罪行的可能性。因此在量刑時，使用該工具的法官通常會對高風(fēng)險評估的被告人更加嚴(yán)厲。不幸的是，由于評分機(jī)制具有專屬性，因此被告人無法質(zhì)疑自己的風(fēng)險評估分?jǐn)?shù)。

ProPublica為一家公益新聞?wù){(diào)查機(jī)構(gòu)，其在2013年和2014年對佛羅里達(dá)州布勞沃德縣的7000名被告人進(jìn)行了分析。ProPublica將這些被告人在接下來的兩年內(nèi)實(shí)際犯下的新罪行為與Equivant的預(yù)測進(jìn)行了比較。他們得出的結(jié)論是，Equivant的風(fēng)險評分并不可靠。該工具預(yù)測黑人被告未來重新犯罪的可能性是白人被告的兩倍，但是這一預(yù)測并不準(zhǔn)確。不過，Equivant對此并不認(rèn)同，他們認(rèn)為ProPublica的方法存在缺陷。毫無疑問，對個人生活具有如此重大潛在影響的量刑工具需要高度的準(zhǔn)確性，并需要有合理的邏輯支撐。

5.確保數(shù)據(jù)安全

每個收集和存儲數(shù)據(jù)的實(shí)體都需要確保數(shù)據(jù)安全，防止被不適當(dāng)?shù)卦L問。萬豪酒店和Quora網(wǎng)站最近為一連串的數(shù)據(jù)泄露事件再添兩起，這些事件已導(dǎo)致大量的用戶受到影響。

6.強(qiáng)制合規(guī)

積極執(zhí)法并從重處罰對于新法規(guī)的效力至關(guān)重要。主要的技術(shù)公司賺了很多錢，輕微的處罰對于他們來說可以當(dāng)作業(yè)務(wù)成本被忽略掉。

7.制定國家法律

新的美國隱私法應(yīng)涵蓋所有收集個人數(shù)據(jù)的企業(yè)，而不僅僅是技術(shù)公司。此外，還需要聯(lián)邦立法，否則其他州將遵循加利福尼亞州做法，制定自己的州法律，屆時各個州的法律可能彼此間沖突。

立法對企業(yè)的影響

新的隱私法規(guī)將迫使一些企業(yè)重新考慮自己的商業(yè)模式。今天，許多消費(fèi)者會提供個人數(shù)據(jù)，以換取免費(fèi)使用搜索引擎、社交媒體和其他一些工具。關(guān)注隱私的消費(fèi)者可能更愿意支付少量費(fèi)用以換取真正的匿名。雖然目前理論上可以實(shí)現(xiàn)在瀏覽網(wǎng)頁時不留下任何痕跡，但是大多數(shù)消費(fèi)者發(fā)現(xiàn)如果沒有熟練的技術(shù)人員的幫助，根本就不可能實(shí)現(xiàn)匿名。

辦公室需要進(jìn)行仔細(xì)規(guī)劃并做出一些妥協(xié)，以平衡企業(yè)部署新工具的需求和員工保護(hù)個人隱私的愿望。新的法規(guī)可能會造成員工被迫同意數(shù)據(jù)被收集的情況。根據(jù)新法規(guī)中的表述，許多現(xiàn)有工具可能會生成一些被視為個人信息的內(nèi)容，如果員工拒絕跟蹤，那么可能導(dǎo)致工具無法使用。

毫無疑問，遵守新法規(guī)會迫使企業(yè)更加謹(jǐn)慎地處理員工數(shù)據(jù)。主管訪問權(quán)限可能僅限于與個人績效直接相關(guān)的員工數(shù)據(jù)，分析工具僅可使用匿名數(shù)據(jù)。運(yùn)營良好的企業(yè)可以為希望提高績效的員工提供獨(dú)立指導(dǎo)。

人工智能帶來了許多好處，同時還將為我們提供了一些目前無法想象到的其他好處。與所有新技術(shù)一樣，它們可以用來造福人類，也可以被濫用。當(dāng)我們解決了如何確保所收集的數(shù)據(jù)不被用于不適當(dāng)?shù)谋O(jiān)視時，或許Scott McNealy在1999年說過“你沒有隱私，忘掉這件事吧”的斷言才不會變成真的。