大數據時代，窮人更加艱難

卡韋赫·沃德爾（Kaveh Waddell）游 憶/譯

大數據時代，窮人更加艱難

卡韋赫·沃德爾（Kaveh Waddell）游 憶/譯

選自美國《大西洋月刊》 2016年4月8日

監管機構和公共福利計劃收集了大量低收入人群的個人信息，通過不透明的算法將他們圈在貧困線以下。

大數據能夠幫助人們搞定一個人無法弄懂的問題。它可以幫助企業縮減成本，幫助城市規劃新的發展方向，幫助情報機構發現恐怖分子之間的聯系，幫助衛生部門預測疾病的發作，幫助警察機關在犯罪分子動手之前搶占先機。決策層越來越明白“要看數據說話”，根據復雜算法的結果做決策。

但是，有關于人類的數據，尤其是有關于那些沒有說話權的人的數據的算法很可能不能反映他們的真實情況，反而對他們不利。因為每一次收集到的美國窮人的數據都能把他們劃在貧困線之下。

在美國，低收入團體往往屬于被監控的團體。巴爾的摩大學（the University of Baltimore）的法律教授和司法部（the Department of Justice）前人權律師，米歇爾·希爾曼（Michele Gilman）稱，監視他們的不僅僅有警察。公共福利計劃、兒童福利系統、家暴監管計劃都對這些不同程度上貧窮的用戶收集了大量數據。

在某些地方，要申請公共福利比如說食品券，申請者必須先識別指紋并進行藥物檢測。一旦開始享受福利，官員就要定期檢測他們的財務花費，有時還要去他們家里查看。

以這樣的方式收集來的數據最終反饋到監管系統，進入監管流程。“這些數據成為大數據流的一部分，大部分人沒有意識到自己被牽扯進去，但是這些數據對他們今后的際遇有很大的影響。”希爾曼這么說。

比如說，一旦一個人的檔案上有了監禁的記錄，那么他要找工作、借貸款或租房子都會更加困難。不一定是放貸人或人事部經理因為監禁記錄而篩除掉申請者，而是電腦系統會在一堆應聘簡歷和貸款申請里自動篩除那些受過監禁的人。

根據渥太華大學（the University of Ottawa）的倫理學、法學和技術教授兼研究員伊恩·克爾（Ian Kerr）說：“當大數據系統做出預測，讓人們和生活中這些機會錯失交臂，這就違反了法律的無罪推理原則。”

在法律系統之外，“無罪推定”是人們應有的權利，克爾說：“該權利賦予公民聽證權，對本人的審訊有旁聽的權利，對針對自己的信息有知情權，并有權對這些信息提出質疑。”但是，當這些不透明的算法產生的決策取代了克爾所說的“算法公正”（algorithmic justice），這些權利就受到了侵犯。

在希爾曼的教學生涯中，她和學生共同開了一家工作室，幫助人們抹去檔案里的不利監禁記錄。她告訴我曾有一位非洲裔美國人客戶，有14次逮捕記錄。她說，對這位客戶的逮捕屬于“典型的無固定居所（例如流浪街頭）并無犯罪事實”的案例。她幫助他整理了相關文件，并抹去了逮捕記錄。

但是，幫人抹去逮捕記錄并不總是有用。抹去記錄之后，這個人就從當地的公共搜索數據庫里消失了。但在其他地方的數據庫依然存在數據錯誤和保留舊數據的跡象，即使數據正式修改過。比如說，如果逮捕記錄的數據在修改前已經賣給了私人數據代理，那么這個代理并不能收到數據修改的通知。

在這樣的情況下，各州對公正信息原則的遵守實際上有名無實。雖然，各州政府允許人們查看自身信息，更正錯誤和更新數據。但是，克爾稱，如果在更新之后，數據被人使用了，就“沒有辦法對后續的實際使用進行更改和監管了，這就相當于政府系統后來的更新失去了意義”。

有關于大數據的缺陷引起了聯邦貿易委員會（Federal Trade Commission）的關注。委員會在9月就此話題開展了一個研討會。與會者根據此次會議發布的報告，就大數據如何選中和篩除某些群體進行討論。批評家警告稱，這樣的算法會使人們“因為其他人的行為”而失去某些機會。比如說，信用卡公司會因為某些消費者有逾期付款記錄，而降低在同一家店面消費的其他消費者的信用卡額度。

然而，研討會其他與會者指出，如果善加利用的話，大數據也能給低收入群體帶來福音。例如，有的公司會對之前沒有做過信用評分的人，根據公開的可用數據進行匯總和分析。報告稱：“這樣的話，沒有傳統信貸記錄的客戶可以通過其他記錄獲得比傳統算法更高的信貸額度，例如有職業證書、及時付租、有車等記錄。”

毫無疑問，這些算法能夠幫助人們在做艱難決策時更加高效和準確。大數據能夠改善生活，事實也如此。但是，這種缺少人情味的單一高效會使得本來就處于社會邊緣的群體更加孤立。

原文標題：How Big Data Harms Poor Communities