退出人臉識別業務，IBM在顧慮什么？

白一方

6月8日，IBM首席執行官Arvind Krishna向美國國會五位議員發出近千字公開函，呼吁國會頒布改革措施，以推進種族平等，反對種族歧視。IBM在信函中宣布將停止提供人臉識別及分析技術，并反對將任何技術應用于大規模監控、種族定性、侵犯基本人權自由、或其他任何不符合IBM信任與透明價值觀的任何行為當中。同時，IBM向科技媒體網站The Verge表示，除對現有客戶提供必要的技術支持以外，將全面退出人臉識別技術的研發業務，不再出售、營銷、更新或開發其他新產品。

IBM明確表示此次決定是基于近期美國黑人喬治·弗洛伊德因警察暴力執法而慘死，以及近年來多起因種族歧視或執法權濫用導致的黑人悲劇，使其認為反對種族歧視已經成為全社會面臨的非常緊要的議題，而科技的使用也是其中的重要環節。

函件中指出：IBM公司自1953年9月開始研發第一臺商用計算機起，就一直致力于推廣和支持種族平等，IBM希望與國會通過限制警察權力，增強有色人種社群的教育及職業培訓，負責任的使用新技術等三個方面，共同促進公正和種族平權。現在正是全面展開國會對話，討論人臉識別技術是否或應當如何被執法機構應用的最佳時機。

從筆者長期觀察的現象來看，不僅是IBM有此種技術倫理上的考慮，實際上，伴隨人工智能技術的不斷發展，很多私人公司都開始研發和提供人臉識別技術，技術市場高度繁榮。但該技術導致的潛在風險一直存在，也引發了社會的高度關注和爭議。在這種敏感情況下，研發人臉識別技術的美國科技公司多少受到影響，面臨相關訴訟，也開始紛紛采取應對措施。例如：谷歌、Snapchat等大型硅谷科技公司都曾面臨關于面部識別的訴訟。專門研發人臉識別等人工智能技術的公司Clearview AI因從社交媒體上抓取大量人像信息，用于人臉識別的數據庫建設，并被廣泛應用于私人公司或執法部門當中，而面臨多起隱私權訴訟。Facebook也遭遇一項涉及人臉識別技術使用的集體訴訟，因涉及人數眾多、金額巨大而受到廣泛關注。該案自2015年被起訴，認為Facebook在加標簽功能中，未經用戶許可，對用戶照片中的面部進行識別，因此違反了伊利諾伊州《生物信息隱私法》。聯邦法院的法官在2018年對該案進行了有利于原告的判決，Facebook提出上訴但以失敗告終，最終于2020年1月達成高達5億5千萬美元的和解。而對于更為巨型的亞馬遜公司，由于曾將人臉識別技術出售給俄勒岡州和佛羅里達州的執法部門，甚至引發了更大的波瀾：在2019年3月，來自谷歌、Facebook、斯坦福大學、杜倫大學、蒙特利爾大學、哈佛大學、多倫多大學、阿姆斯特丹大學等多個公司或研究機構的共77名人工智能研究員發表聯名公開信，要求亞馬遜停止向執法機構出售“有缺陷的”人臉識別技術。出于技術被濫用的擔憂，于2019年5月針對人臉識別的應用發起了股東投票，雖然最終僅獲得2.4%的股東投票認為應當停止將人臉識別技術出售給政府機構，但有27.5%的股東投票支持對亞馬遜的Rekognition人臉識別服務是否會妨害民權和隱私進行進一步研究。然而，在巨大的社會聲浪下，最終，奧蘭多警察不得不在同年7月放棄亞馬遜的人臉識別平臺項目。

作為一個有長期技術和政策研究傳統的老派技術公司，IBM的此次表態其實并非該公司首次關注人臉識別的風險問題。2018年，麻省理工學院研究員Joy Buolamwini發表的研究報告中表明，IBM的Watsons視覺辨別平臺對于深膚色女性的判斷錯誤率高達35%，而對淺色皮膚男性的判斷錯誤率卻小于1%。對此，IBM表達了高度重視，并于2019年1月公布了包括一百萬面部圖像及視頻印象的Flickr網絡相冊數據庫，希望以此建立更加多元化的數據體系，幫助其人工智能驅動的人臉識別技術提高準確性和公正性，從而降低技術對于少數族裔的人臉識別偏見。

美國企業研究人員和學術界的這種憂慮，其實并非杞人憂天。由于技術的缺陷，導致人臉識別技術的應用面臨年齡、種族、性別歧視的極大可能。但由于在平衡技術倫理和現實需求之間的沖突問題上遲遲沒有突破性的理論進展，導致人臉識別領域一直缺乏相關法律法規的監管，技術濫用風險極高，而公眾的憂慮也始終無法得到安撫。

一方面，美國國家標準技術研究所在2019年12月的一項研究顯示，實驗性證據表明，市場上現有的面部識別技術算法存在偏見，受年齡、性別、種族的影響非常大。該研究測試了全球99家機構的189種算法，發現即使最先進的面部識別算法也不足以應對執法部門或國家安全等關鍵領域中的應用。其中，針對黑人女性的一對多搜索錯誤率最高，而針對亞裔、非裔、美洲印第安人及太平洋島民的一對一搜索則全部產生誤判。兒童及老人的誤判率也更高。在某些情況下，對亞裔和非裔的誤判率比白人甚至高出百倍，識別率最高的人群則是中年白人男性。而在該研究中未涉及測試的亞馬遜Rekognition人臉識別項目也曾經在2018年美國非營利性人權組織美國公民自由聯盟的一項研究中，被發現準確率存疑，甚至在對535名國會議員的面部掃描當中，將其中28名國會議員識別為罪犯。

另一方面，美國目前僅通過普通法確定了政府視頻監控應當以不侵犯公民對隱私的預期為基本原則，尚缺乏聯邦層面針對人臉識別技術領域的權威法律。州法層面，2008年伊利諾伊州頒布《生物信息隱私法》，要求在收集信息時充分告知用戶并獲取書面授權，并規定生物信息不得對外出售或披露。雖然并非針對人臉識別技術，但該法案首次在美國境內對生物識別信息進行了規范，其內容與2018年頒布的歐盟《通用數據保護條例》中的包括個人面部信息在內的“個人敏感信息”這一特殊數據類型的規定非常相似，均采取了比較嚴格的立法態度。

2019年，包括加利福尼亞州、馬薩諸塞州、新罕布什爾州等在內的4個州，以及包括舊金山、奧克蘭、薩默維爾等在內的多個美國城市在先后發布行政命令和法規，禁止本州或城市警察系統內的攝像頭使用人臉識別技術，但并未禁止其他攝像頭使用該技術，也為禁止聯邦執法機構的使用。

今年3月31日，華盛頓州剛剛簽署了關于人臉識別的SB 6280號法案，成為美國第一部全面限制執法部分使用人臉識別技術的系統性法律，也被認為可能成為今后美國立法的范本。該法要求政府部門除緊急情況之外，應當在進行人臉識別掃描之前取得法院合法簽發的搜查令;用于識別的軟件應當經過獨立測試，以確保準確性及對膚色、性別、年齡及其他特征不存在不公正的區別對待。但該法案仍然面臨民權組織認為對社會邊緣群體保護不到位的批評，認為該法對人臉識別技術的商業開發及對政府的販賣缺乏管制，并且缺少具體實施細則和違規的可歸責性。

筆者認為，人臉識別技術存在的偏見風險和美國政府部門對該技術的廣泛應用之間存在著不可忽略的矛盾。當政府機構把識別結果作為判斷犯罪嫌疑人身份的輔助方式，甚至作為證據應用于逮捕、罰款、監控等執法行為當中時，由于技術對少數族裔的判斷準確率大幅偏低，將會不可避免的導致執法誤判，且從算法層面強化種族歧視的觀念，從而引發警察權力濫用、不合理執法等高度風險，影響執法的準確性和客觀性。同時，政府機構以其公權力做背書，對人臉信息的大面積采集將會勢必導致對公民隱私權的壓縮和損害。因此，近年來對于人臉識別技術的應用邊界的探討成為涉及科技、法律、生物、社會、道德領域的全方位熱點。而此次IBM的發聲，呈現了作為一家頭部科技公司的所承擔的社會義務和責任感。其公開函中對于警察系統改革和擴大少數族裔就業及教育機會的呼吁，對于反對系統化種族歧視和少數族裔平權有著一定的積極作用，而對于退出人臉識別業務的決定，也表明了其認為科技發展應當更具有責任感的企業價值觀。正如公開函中所述：

“人工智能是可以幫助執法部門確保公民安全的利器。但人工智能系統的使用者和供應者也應當對確保人工智能的偏見測試負有責任，特別是用于執法部門時，這樣的偏見測試應當被審計和通報。同時，國家警察也應當鼓勵和促進諸如監控攝像及現代數據分析等技術的應用，從而帶來更大程度的透明度和警察的可歸責性。”

（作者系美國紐約州執業律師、歐盟注冊信息隱私專家Certified Information Privacy Professional/Europe（CIPP/E）、美國注冊信息隱私專家（CIPP/US），主要從事商業及數據合規業務）

鏈接：

清律律師事務所，肇始于“清法律師團”，由一批畢業于清華大學的優秀律師創建，已成為一家特色鮮明、業務領域廣泛、成員背景多元的新銳律師事務所。目前在北京、上海兩地設有辦公室。

一直以來，清律均以高度審慎的標準來歡迎和接納新成員。律所成員背景全面，覆蓋常年顧問、投融資并購、民商事訴訟等主要法律服務領域，深諳各實體行業的商業規則，有豐富的為各行業提供定制化法律服務的經驗，具備為公私客戶提供全案的風險管控措施和糾紛解決的專業能力。

若干年來，清律秉持卓越的敬業精神和專業水準，為客戶提供定制、高效、務實、盡責的法律專業服務，贏得了客戶的信任和依賴，使得客戶能夠平穩、健康地實現商業目標并取得矚目的成績。