人臉識別技術在政府治理中的應用風險及其法律控制①

張 濤

（清華大學 法學院，北京 100084）

一、問題的提出

隨著人工智能與大數據的深度融合，全世界正在經歷一場新的技術革命，即所謂的“智能革命”[1]，也有學者稱之為“第四次工業革命”[2]。這催生了自“新公共管理”運動后政府治理模式的新一輪變革，即所謂的“數字政府”“智慧政府”“算法行政”“智慧治理”等。人臉識別技術（facial recognition technology）作為生物識別技術的一種類型，特指計算機利用分析比較人臉視覺特征信息自動進行身份鑒別的技術。隨著深度卷積神經網絡（deep convolutional neural network，DCNN）的引入，人臉識別技術也迎來跨越式迭代[3]。相較于其他生物識別技術，人臉識別技術具有非侵擾性、便捷性、非接觸性、可擴展性等優勢[4]18，因而受到政府部門的關注和重視，被廣泛應用于政務服務、公共服務、城市治理、產業發展等領域。目前，全國有40 多個城市推出了“刷臉政務”[5]，在中國政府采購網上人臉識別系統領域的公開招投標數量增長迅速，可以看出公共部門對人臉識別技術的需求正在快速增長[6]。

在推進國家治理體系和治理能力現代化的背景下，人臉識別技術有助于實現政府治理的智能化，增強社會治理的協同性、精準性及回應性。但與此同時，人臉識別技術應用存在的諸多法律風險引發了社會的關注和擔憂。社會調查顯示，對于人臉識別技術的使用，79.31%的受訪者擔心信息泄露，60.72%的受訪者認為要加強相關立法，還有43.7%的受訪者認為應限制人臉識別的使用場景[7]。2019年11 月，《中共中央關于堅持和完善中國特色社會主義制度 推進國家治理體系和治理能力現代化若干重大問題的決定》明確指出，“建立健全運用互聯網、大數據、人工智能等技術手段進行行政管理的制度規則”。因此，人臉識別技術在政府治理中實踐應用現狀如何，可能存在何種法律風險，應當受到怎樣的法律約束，已成為亟待回應的法律問題。

在學術研究中，人臉識別技術在政府治理中的應用受到國外學者和相關機構的廣泛關注。美國學者安德魯·弗格森（Andrew Ferguson）對人臉識別技術在行政執法中引發的核心憲法性設計問題（constitutional design problem）進行了研究，認為人臉識別存在高出錯率、種族偏見、不公平和缺乏透明度等問題，需要以美國憲法第四修正案為依托，為人臉識別建立一個新的立法框架[8]。比利時學者埃爾斯·金特（Els J. Kindt）在《生物識別應用的隱私和數據保護問題》一書中探討了人臉識別應用存在的隱私和數據保護問題，并提出應當將比例原則作為其使用的基本原則[9]。歐盟基本權利機構（European Union Agency for Fundamental Rights）在《人臉識別技術：執法背景下的基本權利考量》中說明了公共機構出于執法目的部署、使用人臉識別技術時可能對基本權利保護形成的挑戰，并從九個方面提出了相應的建議[10]。目前，國內法學界對人臉識別技術已有一些關注[11]，但針對人臉識別技術“公共性”應用的研究還不多見[12]。有鑒于此，本文從“智慧法治”的背景出發[13]，試圖將政府治理中人臉識別技術的應用納入行政法的分析框架，對其應用場景、潛在風險和法律控制要素等進行探討。

二、人臉識別技術在政府治理中的應用場景

國務院于2017 年7 月印發《新一代人工智能發展規劃》，明確提出“建設安全便捷的智能社會”，對人工智能在公共服務、社會治理、公共安全保障等領域的應用指明了方向。在此背景下，從中央到地方，各級政府部門均不同程度地制定了相應的規范來推動AI 在政府治理中的發展應用。人臉識別技術成為人工智能最為普及的應用，因為相對于人工智能其他技術領域，人臉識別技術更容易落地實施，“刷臉審批”“刷臉查稅”“刷臉扣分”等“刷臉+政務”形式不斷涌現，一些地方政府甚至還專門制定了“刷臉政務”規劃。例如，昆明市于2019年制定了《昆明市“刷臉就行”工程實施方案》。基于國家層面的規劃和各地的實踐現狀，當下以及未來人臉識別技術在政府治理中的應用大體可以表現為以下幾種情形。

（一）以秩序行政為目的之應用

在行政法理論中，秩序行政也稱為“公權力行政”或“高權行政”，是最典型、最具傳統色彩的行政種類，其目的在于維持社會秩序、國家安全及排除對人民及社會的危害[14]36。實踐中，公共行政部門往往基于秩序行政之目的，在不同領域、不同行政活動中應用人臉識別技術，主要包括以下幾種類型。

其一，人臉識別技術在治安管理中的應用。德國行政法學者埃貝哈德·施密特-阿斯曼曾指出，“安全已上升到國家最為重要的任務，國家存在的正當性也取決于是否能完成這一任務。這一任務不亞于國家保持物質的富裕，而且已經濃縮為一種人權地位的主體要求”[15]。在治安管理中，公共安全是重要工作，它事關人民群眾生命財產安全，事關改革發展穩定大局[16]。公共安全治理能力現代化，是國家治理體系與治理能力現代化的重要組成部分。當前，我國正處于社會轉型期，科學技術快速發展，新興業態不斷涌現，利益多元化、價值沖突等因素導致公共安全形勢變得日益復雜。面對新形勢，習近平總書記提出“推進公共安全工作精細化、信息化、法治化”的總體目標[17]。中共中央辦公廳、國務院辦公廳于2015年4月發布了《關于加強社會治安防控體系建設的意見》（中辦發〔2015〕69號，以下簡稱《意見》），提出要提高“動態化、信息化條件下駕馭社會治安局勢能力”，重點加強社會治安防控網建設。各地以《意見》為指導，紛紛將人臉識別作為建設社會治安防控網的重要手段。例如，杭州市在G20 峰會期間，在浙江省政府到蕭山地區的公共場所、關鍵通道布置了高清人臉識別攝像頭，抓取通過人員的面部數據，與大庫數據比對進行黑名單預警[18]；貴陽市目前已經部署了2萬多個攝像頭，其中人臉識別監控點達到1035個，監控范圍包括機場、火車站、網吧、賓館、旅游景點等區域[19]。

其二，人臉識別技術在刑事偵查中的應用。刑事偵查工作的核心任務是發現犯罪嫌疑人、收集相關證據以查明案件事實，其中最為基礎性與源頭性的工作是鎖定犯罪嫌疑人[20]。隨著我國城鎮化進程的不斷推進，人口流動性大大增加，借助網絡信息技術，犯罪手段不斷翻新，各種遠距離、非接觸性的新型犯罪不斷出現，這給刑事偵查工作帶來了新的挑戰。人臉識別技術采用高效的人臉檢測定位及識別對比系統，依靠算法系統自動運行，能夠第一時間給偵查人員提供幫助，其主要功能包括：（1）人臉監控。在街道、機場、地鐵站等公共場所對人群進行普遍監控，并將捕抓的人臉圖像與已經建立的人臉數據庫進行匹配。（2）人臉辨識。人臉辨識不同于普遍意義上的人臉監控，一般是行政機關有特定的懷疑對象，目標比較明確。最常見的人臉辨識就是公安機關在犯罪行為發生以后，通過犯罪現場留下的線索（如監控錄像、受害人描述、手機錄像視頻、手機拍照等），利用人臉識別技術來辨別犯罪嫌疑人。（3）人臉跟蹤。人臉跟蹤融合了人臉監控與人臉辨識的特點，主要是在監控范圍內跟蹤一個人和確定他的位置。因為可以在監控范圍內發現人臉，而不論其遠近和位置，能連續地跟蹤并將其從背景中分離出來，整個過程完全是無須干預的、連續的和實時的[4]29。

其三，人臉識別技術在交通執法中的應用。傳統的交通管理執法模式主要是“現場執法”，即交通執法人員在道路上發現交通違規行為，責令當事人改正或限期改正，對應當給予處罰的，再根據有關規定作出處罰決定。在現場執法中，一方面，開放的執法環境具有即時性、復雜性、多變性等特征；另一方面，執法人員囿于自身的水平和能力差異，容易造成執法不公、執法不嚴和管控不力等現象[21]。在此背景下，以電子執法為代表的非現場執法逐漸受到交通執法部門的重視。這種方法不僅解決了交通執法資源不足的問題，同時也有效遏制了現場執法過程中出現的執法不嚴、亂執法、亂罰款等情況的發生，滿足了人們對交通執法公正、客觀的要求[22]。不過傳統的電子執法也存在一些問題，最突出的是它只能針對車輛，不能精準地打擊違法行為人，以致一些駕駛人掌握了電子執法的漏洞后，逃避電子執法而實施違法駕駛行為。隨著人臉識別技術在電子執法中的應用，這一問題逐步得到解決。配置人臉識別技術的“電子眼”可以利用前端的攝像頭實時抓取行為人的面部特征，并與后端的違法數據庫、人口信息庫進行比對，查處行為人的交通違規行為。例如，深圳市于2018年4月將40套人臉識別執法設備應用到交通執法中，通過人臉識別執法系統，實現自動識別違法行為人，并自動發送違法處罰告知信息[23]。

其四，人臉識別技術在綜合執法中的應用。綜合執法是指行政機關及其綜合執法人員為了實現國家行政管理的目的，依照法定職權和法定程序，執行法律、法規和規章，直接對特定的行政相對人和特定的事務采取措施并影響相對人權利義務的行為[24]。綜合執法是政府治理的重要組成部分，對于促進社會的穩定和諧具有重要意義。長期以來，綜合執法也不斷在執法程序、執法方式、執法效能等方面進行改革，以避免因執法觀念陳舊、執法能力不足、執法手段不當等因素引發的執法沖突[25]。2015年12月，中共中央、國務院出臺的《關于深入推進城市執法體制改革改進城市管理工作的指導意見》明確指出，“積極推進城市管理數字化、精細化、智慧化”“綜合運用物聯網、云計算、大數據等現代信息技術”。在此背景下，人臉識別技術也開始融入綜合執法中，通過建立檔案信息數據庫、實時視頻抓拍、智能識別分析等功能，形成了“電子城管”模式，開辟了“非接觸式”執法模式。例如，廣西柳州市城管執法局自2018 年7 月開始運行“電子城管”系統，通過“智能采集”“視頻分析”“推送警告”“審核立案”“數據統計”等流程，實現執法的“精準化”和“非接觸性”，減少了執法沖突與矛盾[26]。

（二）以給付行政為目的之應用

在行政法理論中，給付行政也稱為“服務行政”，其強調政府及其他公共行政主體必須提供各種不同的服務措施，例如公用事業、社會救濟、文教事業、社會保險等，使人們在衣、食、住、行等生活、工作、教育方面得到國家最多的服務與最大的照顧[14]36。近年，公共行政部門基于優化給付行政的目的，在有關行政活動中也開始大量使用人臉識別技術，主要集中在以下幾個方面：

其一，人臉識別技術在稅務行政中的應用。稅收是國家財政的重要來源，也是國家調控經濟的重要手段。鑒于稅收在整個國民經濟生活中的重要地位，我國《憲法》第五十六條規定了公民的依法納稅義務。為了保障各級國家稅務機關能夠更好地開展稅務行政活動，保證國家稅款及時、足額地繳入國庫，《稅收征收管理法》賦予稅務行政機關廣泛的行政職權。在稅務行政實踐中，一些企業或個人通過虛假注冊、套票虛開等行為擾亂了稅務行政管理秩序，給社會帶來了極大的危害。2016年7月，國家稅務總局出臺《關于推行實名辦稅的意見》，要求各地稅務機關充分利用信息化手段，做好實名辦稅技術支撐。在此背景下，各地稅務機關積極探索將人臉識別技術、大數據技術融入稅務行政管理中，通過前端啟用人臉識別設備，后端組建稅務大數據系統，打造稅收征管“天眼”。例如，北京市海淀區稅務局于2017 年9 月30 日開始上線運行“人臉識別”稅務系統，不僅方便納稅人全天候查稅、辦稅，而且通過“人臉識別”數據庫與“金稅三期”的數據對接，提升了稽查聯動和風險防控的精準化、自動化水平[27]。

其二，人臉識別技術在社會保障中的應用。社會保障是保障人民生活、調節社會分配的一項基本制度。我國《憲法》第四十五條規定國家要發展社會保險、社會救濟和醫療衛生事業。社會保障是典型的給付行政活動，在社會保障給付行政中，資格認證是一項重要工作。對于行政機關而言，若資格認證機制不合理，可能導致冒領、詐騙社會保險金等不良現象；而對于相對人而言，若資格認證機制不合理，則可能增加權利實現的難度。為了彌補傳統資格認證方法存在的時效性差、易偽造、識別過程復雜等缺陷，社會保障部門利用人臉圖像具有唯一性、穩定性、非接觸性等優勢，將人臉識別技術融入社會保障資格認證中[28]。例如，福建省社會勞動保險局于2017 年在全省（除廈門市）啟動“人臉識別”認證系統，專門解決養老金資格認證問題，不僅突破時空限制，提高了認證效率，而且還降低了工作量，節省了開支[29]。

其三，人臉識別技術在公共衛生中的應用。公共衛生事關公民的健康，受到世界上諸多國家的重視，政府對公共衛生的投入也比較大。在公共衛生服務中，除要有健全的組織機構、完善的法律法規外，還要有一整套應付公共衛生危機的有效機制。習近平總書記在多個場合論及公共衛生體系建設，明確指出“鼓勵運用大數據、人工智能、云計算等數字技術，在疫情監測分析、病毒溯源、防控救治、資源調配等方面更好發揮支撐作用”。大數據、人工智能等技術成為我國推進公共衛生服務體系現代化的重要技術支撐[30]。在此背景下，各級衛生行政主管部門不斷探索大數據、人工智能在公共衛生服務中的應用場景，其中人臉識別技術在基本公共衛生服務、突發公共衛生事件應對中發揮了重要作用。例如，湖南省江華瑤族自治縣自2019年5月啟用了一款將服務對象人臉圖像采集和身份檢測結合于一體的App，它主要針對老年人、孕產婦、兒童等基本公共衛生服務重點人群，前端利用人臉識別技術，后端對接全省公安人口信息系統，自動生成對比結果，能夠對服務對象的身份進行驗證，還能記錄年度體檢、用藥等情況[31]。

其四，人臉識別技術在公共交通中的應用。隨著社會經濟的發展，城市人口日趨增加，交通擁堵成為城市治理中的重要難題。公共交通作為一種可持續發展的交通方式，越來越受到政府治理的重視。2019 年9 月，中共中央、國務院印發《交通強國建設綱要》，明確指出，“構建安全、便捷、高效、綠色、經濟的現代化綜合交通體系”。在此背景下，大數據、人臉識別技術被不斷應用到公共交通中，從購票服務到安全檢查，都可以看到人臉識別技術的應用。例如，在新冠肺炎疫情防控中，廣州市在兩條公交線路上試點應用了“人臉識別測溫儀”，其可以通過信息溯源、智能追蹤、視頻分析、自動比對等流程，記錄不同乘客的體溫，并將實時數據傳回后臺保存，還可以查找同行者、車輛、司機的信息[32]。

三、政府治理中人臉識別技術應用的潛在風險

盡管目前在我國政府治理的眾多領域中，人臉識別技術發揮了重要的積極作用，但與此同時，人臉識別技術引發的問題也是多層次的，其中最為重要的是對公民權利和自由造成不當干預。當然，這些問題可能并不具有涇渭分明的界限，很多問題之間具有很強的關聯性。為了更有針對性地制定人臉識別技術在政府治理中的制度規范，我們有必要對人臉識別技術的公共性應用存在的潛在風險進行探析。

（一）大量收集人臉信息對個人信息及隱私保護造成沖擊

人臉信息（facial information）或面部圖像（facial images）是一種典型的“生物識別數據”（biometric data）或“生物識別信息”（biometric information）。我國立法目前尚未對前述概念作出明確界定，不過《信息安全技術 個人信息安全規范》（GB/T 35273-2020）規定，個人生物識別信息包括個人基因、指紋、聲紋、掌紋、耳廓、虹膜、面部識別特征等。在比較法上，歐盟《通用數據保護條例》（General Data Protection Regulation）第4（14）條規定，“生物識別數據”是通過對自然人的身體、生理或行為特征進行特定的技術處理得到的個人數據，構成了識別該自然人的獨特標識，比如人臉圖像或指紋識別數據。美國伊利諾伊州《生物識別信息隱私法》（Biometric Information Privacy Act）規定，“生物標識”（Biometric identifier）是指“視網膜或虹膜掃描、指紋、聲紋、手部或面部的幾何形狀掃描”；“生物識別信息”是指基于個人生物標識形成的任何信息，無論它是如何被采集、轉換、存儲或共享的。

從法律性質上看，人臉信息屬于個人信息的一種，并且屬于“個人敏感信息”（personal sensitive information）或“私密信息”。根據我國《民法典》第一千零三十四條的規定，“個人信息”是以電子或者其他方式記錄的能夠單獨或者與其他信息結合識別特定自然人的各種信息，包括自然人的姓名、出生日期、身份證件號碼、生物識別信息、住址、電話號碼、電子郵箱、健康信息、行蹤信息等；個人信息中的私密信息，適用有關隱私權的規定。盡管《民法典》并未對“私密信息”作出明確界定，但《信息安全技術 個人信息安全規范》對“個人敏感信息”的界定，可以為“私密信息”提供參考。所謂“個人敏感信息”是指一旦被泄露、非法提供或濫用可能危害人身和財產安全，極易導致個人名譽、身心健康受到損害或受到歧視性待遇等的個人信息，其外延包括個人生物識別信息。根據上述分析，筆者認為，應當將人臉信息作為個人信息中的“私密信息”，同時適用個人信息及隱私權保護的規定。

在人臉識別技術在政府治理的所有應用場景中，人臉信息都是貫穿始終的核心要素。從現有的應用實踐狀況來看，筆者認為，公共機構大量收集人臉信息存在對個人信息及隱私保護的侵害風險，具體主要體現在兩個方面：

其一，人臉識別技術在政府治理中的大部分應用場景對人臉信息的歸集缺乏明確的法律依據，存在對個人隱私的侵害風險。關于隱私的確切含義，理論上尚無定論[33]，不過最新的立法已經對此予以明確。根據《民法典》第一千零三十二條第二款的規定，隱私是指自然人的私人生活安寧和不愿為他人知曉的私密空間、私密活動、私密信息。根據《民法典》第一千零三十三條的規定，除法律另有規定或權利人明確同意外，任何組織或者個人不得處理他人的私密信息。由此可知，對人臉信息等私密信息的處理，必須有法律明確規定或權利人的明確同意。人臉識別技術在政府治理中的大部分應用場景，均涉及人臉信息的處理，然而有明確法律依據的卻只有極少數情形：（1）在刑事偵查中，偵查機關利用人臉識別技術對特定犯罪嫌疑人進行辨識或追蹤，可以從《刑事訴訟法》第五十二條、第七十八條等規定中獲得授權；（2）在反恐活動中，公安機關對嫌疑人員的人臉信息進行處理，可以從《反恐怖主義法》第五十條獲得依據；（3）在戶籍管理中，公安機關對當事人的人臉信息進行處理，可以從《居民身份證法》第三條獲得依據。除前述規定以外，目前政府治理中對人臉信息的收集、處理和共享，大多數情形均缺乏明確的法律依據。根據“法無授權即禁止”這一基本原則和《民法典》第一千零三十三條之規定，在公權力機構作為人臉信息采集、處理和共享的主體的場合，若缺乏明確的法律規定，即違反了行政行為的合法性原則，存在侵犯隱私的問題。

其二，人臉識別技術在政府治理中的大部分應用場景，對人臉信息的歸集違反了“告知-同意”這一個人信息保護的基本原則，存在對個人信息自決權的侵害風險。信息自決權作為信息保護理念的理論基礎，是由德國聯邦憲法法院于1982 年在“人口普查案”中確立的，其核心主張是“個人得本著自主決定的價值和尊嚴，自行決定何時及于何種范圍內公開其個人的生活事實”[34]。“告知-同意”原則是以信息自決權為基礎發展出來的個人信息保護原則，其基本主張就是“對個人信息的收集利用，必須經過本人充分知情前提下的同意”[35]。我國《民法典》第一千零三十五條規定，處理個人信息，應當征得該自然人或其監護人同意，但法律、行政法規另有規定的除外；《網絡安全法》第四十一條也規定，網絡運營者收集、使用個人信息，要經被收集人同意。由此可知，“告知-同意”已經成為我國個人信息保護的基本原則。如前所述，相對于其他生物識別技術，人臉識別技術最大的優勢就是“非接觸性”和“隱蔽性”，以至于公權力機構在收集人臉信息時可能主觀上忽略或者客觀上無法達到法律要求的“告知-同意”原則。此外，即使公權力機構在歸集人臉信息時符合“告知-同意”的要求，鑒于人臉識別技術是通過將人臉信息與其他不同的數據庫（如公安人口信息數據庫）進行連接比對，這也可能突破原有的歸集目的，違反“目的限制”原則。綜上所述，公權力機構在作為人臉信息采集、處理和共享的主體的場合，可能突破“告知-同意”原則和“目的限制”原則，造成對個人信息自決權的侵害。

（二）廣泛部署人臉識別監控可能干預表達自由權

在公共場所中廣泛部署人臉識別監控設備，可能對公民的表達自由權造成干預。我國《憲法》第三十五條規定：“中華人民共和國公民有言論、出版、集會、結社、游行、示威的自由。”這些自由在學理上被概括為“表達自由”或“表現自由”，指人們通過一定的表現手段，表現個人的思想、信念、愿望的自由[36]。對于一個人來說，其有內心的自由，亦即能夠在心里自由地思考并抱有某種觀點，這無疑是最基本的、重要的事；為了人的完整人格的發展，同時也為了人類社會的發展，僅僅有內心的自由是不行的，還必須把人的內心的思想、信條自由地向外部表達出來。在信息社會中，信息的接收對于人的生活發揮著很大的作用，因此其也與表達自由有密切的關聯。表達自由是具有相當廣泛內涵的自由，那么，憲法為何要保障表達自由？按照學者的總結，大致有三點重要理由：維持民主制度，獲得真理，形成個人人格[37]。需要指出的是，與許多憲法權利一樣，表達自由也存在其自身內在的界限，個人表達自由存在與他人的自由權利或社會公眾利益發生相互沖突的可能性，不過對表達自由的限制須接受嚴格的審查[38]。

如前所述，人臉識別技術的重要應用場景是治安管理，尤其是安全防控，目前實踐中采取的基本做法就是將已有的公共場所視頻監控攝像頭升級換代為具有人臉識別功能的攝像頭或者直接部署新的人臉識別攝像頭，這已經成為一種普遍趨勢。現代心理學研究已經揭示，當個體明知自己的行為處于社會有權機構的嚴密監控之下時，其會產生不愉快的壓迫性情緒，進而在從事日常活動時有所顧忌而趨于謹小慎微，即所謂的“心理萎縮效應”[39]。也有學者將其稱為“沉默的螺旋”（spiral of silence），即當人們認為自己身為少數派時，他們為隱藏其觀點而感受到持續增長的壓力[40]。在部署人臉識別監控設備的公共場所中，個人的行為舉止不但會被記錄，而且還可能被進一步辨識、分析或追蹤，最后由系統作出行為合規與否的決定，并自動通知個人予以警示。如此，人們在面對公共場所的監控設備時，就很可能產生壓迫情緒，在實施各種行為時更趨謹慎，難以最大限度地表達內心的真實想法。盡管這種“壓迫情緒”能夠對潛在的違法犯罪行為產生威懾作用，但它同樣也可能影響大多數個人的正常表達自由。

（三）人臉識別中的“算法偏見”可能引發不公平對待的風險

在人臉識別技術中，算法系統是重要的組成部分，也是人臉識別技術正常運作的關鍵。從理論設想來看，人臉識別技術中的算法自動化系統可以對經過前端攝像設備的所有人進行同等評估，從而可以很好地避免歧視，尤其是在行政執法中，可以確保執法人員不再基于預感、印象或偏見而對相對人作出盤問或檢查的決定。然而，自動化算法系統的每一個細節都有工程師參與其中，他們通過貫徹決策者的意志，建立數據集、確立數據采集分析儀的參數、生成適用的模型。在這個過程中，人為偏見和價值觀也可能被嵌入算法系統開發的每一個步驟中。正如美國學者弗蘭克·帕斯奎爾（Frank Pasquale）所指出的，“運算程序并不能杜絕基本的歧視問題，而只是會使那些沒有事實依據的負面假設匯集成偏見。程序的編寫是由人完成的，而人又會將其價值觀嵌入程序，編寫程序過程中使用的數據也會不可避免地帶有人的偏見”[41]。在人臉識別技術的應用場景中，“算法偏見”引發的不公平對待風險主要體現在兩個方面：

其一，因人臉識別系統本身的準確性而引發的不公平對待。人臉識別技術的正常運作依靠一定的環境條件，視角、光線、背景、表情、發型、配飾等都有可能影響識別結果的準確性。這種準確性問題可以分為兩類：一類是“ 假陽性”（false positives），也稱為“假接受率”（false accept rate），即人臉識別系統將一個人的臉與數據庫中的圖像進行不準確的匹配，如將“張三”的照片錯誤地識別為“李四”；另一類是“假陰性”（false negatives），也稱為“假拒絕率”（false reject rate），即人臉識別系統無法將一個人的臉與數據庫中的圖像進行匹配[10]，如本來該識別為“張三”，但卻沒有識別出來。無論是哪種準確性問題，均有可能導致一個無辜的人被錯誤地當成懷疑對象，被無端地盤問或檢查，同時也可能導致一個有犯罪嫌疑的人逃脫檢查。

其二，因人臉識別系統的“特殊設定”而引發的不公平對待。如前所述，人臉識別系統存在一系列數據參數、分析模型的預設，這些預設直接決定了人臉識別系統的輸出結果，進而也影響相應的決策。在進行數據參數或分析模型預設時，設計人員或決策者可能有意或無意地將一些特定群體作為重點識別對象，進而引發不公平對待。在人臉識別技術的應用實踐中，這樣的問題已經逐步凸顯。例如，在新冠肺炎疫情防控中，四川省米易縣利用大數據平臺，將各卡點車輛信息、返鄉人員信息及人臉識別情況進行綜合，可以在10分鐘之內鎖定排查對象在米易縣的活動軌跡，為實地排查或重點關注提供依據[42]。人臉識別技術的這類應用，雖然能夠提升執法部門的執法能力，但卻可能對相對人造成不公平對待。

（四）建立大型人臉數據庫引發數據安全風險

在人臉識別技術的開發、應用過程中，人臉數據庫都起著至關重要的作用。在人臉技術開發過程中，人臉數據庫作為“訓練”算法進行“學習”的材料，受到科技研發公司的重視；在人臉識別技術應用過程中，人臉數據庫作為比對參考數據庫，為人臉識別提供匹配對象，受到系統應用機構的重視。因此，建立大型人臉數據庫成為人臉識別技術應用的必然趨勢。然而，建立大型人臉數據庫卻可能引發數據安全風險，主要體現在兩個方面：

其一，數據安全風險可能來源于內部濫用。從人臉識別技術在政府治理中的應用場景來看，技術的前期研發可能是由外部的科技公司負責，但后期的部署運行則主要是由實際使用人臉識別技術的機構負責，當然也包括人臉數據的建立和管理。在實踐中，一些作為大型個人信息數據庫管理者的公權力機構由于未采取嚴格的信息訪問控制策略，可能導致內部工作人員利用工作之便，濫用公民個人信息，甚至成為泄露公民個人信息的“源頭”。例如，最高人民檢察院于2017 年5 月發布的6 起侵犯公民個人信息犯罪典型案例中，有2 起就涉及國家機關工作人員侵犯公民個人信息犯罪[43]。在“韓某等侵犯公民個人信息案”②中，韓某作為上海市疾病預防控制中心工作人員，利用工作便利，將上海市新生嬰兒信息共計30余萬條出售給他人。在“籍某某、李某某侵犯公民個人信息案”③中，籍某某作為高邑縣王同莊派出所民警，利用其工作之便，使用他人的數字證書查詢公安系統內公民個人信息3670余條，并將其出售給李某某。

其二，數據安全風險可能來源于外部破壞。如前所述，人臉數據庫是科技研發公司在開發人臉識別系統過程中所必備的，而且人臉數據庫包含的數據越豐富、規模越大，對于人臉識別算法的訓練越有利。因此，對于這些科技公司而言，人臉數據庫具有重要的經濟價值，再加上“刷臉支付”越來越普及，這就給人臉數據庫的外部破壞提供了重要動因。一些網絡黑客或不法分子將各類人臉數據庫作為攻擊目標，利用各種技術手段獲取人臉數據，并用于交易或詐騙犯罪。在實踐中，與人臉數據相關的違法事件不斷發生，預示著人臉數據庫存在嚴重的數據安全風險。例如，在“張某等侵犯公民個人信息、詐騙案”④中，張某等人從網絡上下載了2000 萬條公民個人信息，并使用軟件將相關人臉照片制作成公民3D 頭像，從而獲得支付寶人臉識別驗證，騙取錢財。另據央視報道，在一些網絡平臺上有人專門出售“人臉數據集”，10 元錢可購買5000 多張人臉照片，很多還是一個人不同表情的臉部照片，“人臉數據”交易已經成為一條灰色產業鏈[44]。

四、政府治理中人臉識別技術應用風險的法律控制要素

人臉識別技術在政府治理中的應用本質上是公權力機構對公民的人臉信息進行歸集、處理和使用。人臉信息屬于個人敏感信息或私密信息，具有本體特殊性和社會特殊性，這決定了人臉信息具有不同于普通公民個人信息的重要性，法律應當給予其特殊保護。從“智慧法治”的角度看，應當從依據、內容、程序、結果四個方面構筑起一個系統性的法律控制機制。

（一）依據控制：完善人臉識別技術應用的法律依據

人臉識別技術應用的基礎是人臉信息，人臉信息屬于生物識別信息的一種，而生物識別信息又是個人信息的重要組成部分，我國《民法典》第一千零三十四條可以成為人臉信息獲得法律保護的重要依據。然而，總體而言，《民法典》為個人信息提供的保護畢竟屬于原則性規定，更多的具體規則還有賴于專門的個人信息保護立法和數據安全立法。2021年7月，最高人民法院出臺《關于審理使用人臉識別技術處理個人信息相關民事案件適用法律若干問題的規定》（以下簡稱《規定》），對人臉信息提供司法保護，不過該《規定》主要適用于平等民事主體之間因使用人臉識別技術處理人臉信息所引發的民事糾紛。2021 年8 月，《個人信息保護法》正式頒布，該法第二十六條對公共場所使用人臉識別技術進行了原則性規定，要求個人圖像、身份識別信息只能用于維護公共安全的目的。

在比較法上，對人臉信息保護或人臉識別技術應用的立法模式大致可以分為三種：第一種是微觀立法模式，即專門針對人臉識別技術進行立法，制定相應的規則，具體又可以分為兩種立法傾向：（1）禁止公共機構使用人臉識別技術。例如，美國加利福尼亞州議會于2019 年10 月8 日通過《執法：人臉識別和其他生物識別監控》（Law Enforcement：

Facial Recognition and Other Biometric Surveillance），該法禁止執法機構或執法人員在執法設備中使用人臉識別技術。（2）約束公共機構使用人臉識別技術。例如，美國華盛頓州參眾兩院于2020年3月12日通過《人臉識別服務法》（AN ACT Relating to the Use of Facial Recognition Services），該法規定州和地方政府機構應當以裨益社會、以防危害民主自由和威脅公民自由的方式使用人臉識別服務。第二種是中觀立法模式，即在個人信息保護法中專門對公共機構歸集、使用和處理包括人臉信息在內的生物識別信息的行為進行規定。例如，德國《聯邦數據保護法》便專門對公共機構的數據處理行為進行了規定，尤其是對公共場所的視頻監控進行了規定。第三種模式則是宏觀立法模式，即在個人信息保護法中對人臉信息保護進行概括性規定，不具體區分公共機構與私營機構。例如，歐盟《通用數據保護條例》第9 條專門對“特殊類型的個人數據處理”進行了規定，其中就包括生物識別數據。

綜合國外的立法經驗，結合我國的立法趨勢，筆者認為，我國在未來的立法模式上可以借鑒德國《聯邦數據保護法》的立法經驗，將行政機關使用人臉識別技術“由暗轉明”，既明確其行為的正當性與合法性，同時又注重對公民權利的保障。根據法律保留原則和法律明確性原則，未來我國在完善有關人臉識別技術的法規范時，可以采取以下兩種路徑：（1）根據《個人信息保護法》關于“敏感個人信息的處理規則”的規定，進一步細化行政機關在行政監管和提供公共服務的過程中收集、存儲、處理和使用人臉信息的基本原則和具體規則；（2）根據《個人信息保護法》第二十六條的規定，由國務院對目前各地有關公共場所視頻監控立法的經驗進行總結，制定“公共場所視頻監控管理條例”，對使用人臉識別技術的原則、規則予以具體化，以確保政府行為合法合規。

（二）內容控制：以個人信息保護為核心

如前所述，人臉識別技術在政府治理中的應用本質上是公權力機構對公民的人臉信息進行歸集、處理和使用，因此，其必須符合個人信息保護的基本規則。筆者認為，需要從以下四個方面完善人臉信息保護規則：

其一，完善人臉信息歸集中的“告知-同意”機制。在個人信息保護中，“告知-同意”最主要的意義與功能在于落實個人信息的“自主控制”，也就是保障公民“決定是否披露其個人信息及在何種范圍內、于何時、以何種方式、向何人披露的決定權”[45]。根據場景理論，不同的應用場景可以設定不同的“告知-同意”機制，如表1 所示。對于需要告知的場景，政府機構應當履行“標識義務”，明確人臉識別設備的部署位置、具體負責單位及聯系方式等。

表1 人臉識別應用中“告知-同意”的三種場景

其二，限制人臉信息的存儲及共享。在信息存儲技術不斷優化、存儲成本不斷降低的背景下，人臉識別攝像頭攝錄的個人信息若被長期存儲，將增加被濫用的風險，影響公民的隱私和自由。因此，必須對人臉識別攝像頭攝錄的人臉信息之存儲期限進行限制。此外，個人的人臉信息應當與個人身份信息分開存儲，原因在于，人臉信息作為個人的重要生物特征信息，一旦與其他信息鏈接，將產生重要的“聚合效應”，導致知情-同意機制失靈，影響公民的基本權利。

其三，完善人臉信息訪問控制策略。對被授權訪問人臉信息的人員，應當建立最小授權的訪問控制策略，使其只能訪問職責所需的最小部分信息，而且僅具備完成職責所需的最小的數據操作權限。對于數據庫訪問過程進行嚴格監視和記錄，當被授予訪問權限的工作人員調離工作崗位時，應當立即撤銷其訪問權限。此外，對于相關人員的角色應當進行分離設置，如安全管理人員、數據操作人員、審計人員等不能由一個人兼任。

其四，完善人臉數據庫的安全防范措施。在建立和維護人臉數據庫的過程中，應當采用加密等安全措施，在采用密碼技術時應當遵循密碼管理相關國家標準。此外，還應當建立數據安全應急預案制度，針對數據泄露、勒索病毒、惡意程序感染等情況采取相應的防御措施。在人臉信息泄露可能給個人權利和自由造成高風險時，應當最大限度地向信息主體告知人臉信息泄露情況。

（三）程序控制：建立公開、透明的問責程序

從目前人臉識別技術在政府治理中的應用場景來看，無論是前期的部署規劃、中期的技術研發，還是后期的部署運作，立法機關、社會公眾的意見都沒有得到有效的傳遞和表達。因此，在程序上，針對人臉識別技術在政府治理中的應用，應當建立公開、透明的問責程序，主要可以從以下幾個方面進行：

其一，發揮立法機關在人臉識別技術應用中的監督作用。各級人民政府在擬開發或使用人臉識別系統之前，應當向同級人大常委會提交開發、使用人臉識別技術的意向報告。在該意向報告中應當說明擬采用的人臉識別技術的用途及功能、預期收益、財政預算、數據使用規則、數據安全應急預案等。在比較法上，美國華盛頓州《人臉識別服務法》第3（1）條規定，擬開發、獲取或使用人臉識別服務的州或地方政府機構必須向立法機關提交開發、獲取或使用人臉識別服務的意向通知（notice of intent），并說明使用該技術的目的。

其二，完善人臉識別技術應用中的公眾參與機制。各級人民政府在擬開發或使用人臉識別系統之前，應當制定相應的工作方案，并向社會公眾公開征求意見。在工作方案中，應當明確人臉識別系統的主要用途及功能、可能存在的風險、在政府決策中的比重、人臉信息的處理規則等。在比較法上，美國華盛頓州《人臉識別服務法》第3（5）條規定，機構在投入人臉識別服務使用前至少90天向公眾明確傳達最終通過的問責報告，發布在機構的網站上并提交立法機關；第4條規定，使用人臉識別服務的州或地方政府機構作出對個人產生法律效力或具有類似重大影響的決定時，必須確保該決定遵守有意義的人工審查要求。

其三，建立人臉識別技術的風險評估機制。為了避免因人臉識別系統本身存在的技術風險而引發不利的后果，政府機構在部署人臉識別系統之前應當進行風險評估，并以易于訪問的方式向社會公眾公布相應的評估報告。此外，在人臉識別系統實際運作過程中，應當建立定期評估機制，對運作過程中可能出現的新的風險進行評估，并及時公布評估結果。在進行風險評估的過程中，應當豐富評估機構的人員組成，邀請專家學者、社會公眾代表參與評估。在比較法上，美國華盛頓州《人臉識別服務法》第10條規定，應當成立人臉識別工作組，成員包括議會代表、少數族裔代表、執法機構代表、消費者組織代表、科研機構代表，工作組的主要工作是對人臉識別技術存在的潛在風險（質量、準確性、有效性）、法律充分性、權利侵害等問題進行審查。

（四）結果控制：為當事人提供救濟途徑

人臉識別技術在政府治理的實際運作過程中，可能對個人的合法權益造成侵害或限制。因此，遵循“有權利必有救濟”的理念，應當為當事人提供有效的救濟途徑，從結果上對人臉識別技術的公共性應用予以控制，具體可以從以下兩個方面著手：

其一，建立公共機構信息處理下的損害賠償制度。當公共機構在使用人臉識別技術的過程中，因收集、處理或使用非經個人同意的人臉信息，或因管理不善導致人臉信息泄露，由此給個人造成損害時，應當承擔損害賠償責任。盡管在實際運作中，人臉信息的歸集、處理和使用，甚至最后作出的決定（如交通執法中的自動化處罰）都是由算法系統自動作出的，但“對行政機關以自動化設備所為之行為……原則上仍應遵循由公務員直接作成有關行為時所應適用之法規”[46]。在比較法上，德國《聯邦數據保護法》第8節專門對“公共機構自動數據處理下的賠償”進行了規定，如果公共機構根據數據保護法或其他數據保護法規，因收集、處理或使用非經同意或錯誤的個人數據而對數據主體造成損害，則其輔助機構有義務賠償其造成損害的數據主體的損失，無論有無過失。

其二，利用信息公益訴訟為個人提供救濟。在已有的個人信息保護途徑中，由于個人信息侵權損害具有一定的“虛擬性”“隱蔽性”，個人很難提供足夠的證據來主張自己的權利。在實踐中，信息公益訴訟作為保護個人信息的一種新型路徑逐漸受到重視，尤其是檢察機關提起的行政公益訴訟[47]，可以彌補個人與行政機關之間在地位、認知能力、技術能力等方面的不平等，既能為個人信息保護提供有效途徑，也能對歸集人臉信息的公共部門進行監督。根據最高人民法院、最高人民檢察院《關于檢察公益訴訟案件適用法律若干問題的解釋》的規定，檢察院在提起行政公益訴訟之前，可以通過訴前檢察建議、檢察約談等方式，對行政機關提出建議，督促其履行職責或糾正違法行為。在最高人民檢察院發布的檢察公益訴訟典型案例中，“浙江省諸暨市房地產、裝修行業侵犯消費者個人信息公益訴訟案”就是檢察機關利用訴前檢察建議督促行政機關依法履行職責的典型例子[48]。

五、結語

在推進國家治理體系和治理能力現代化過程中，物聯網、大數據、區塊鏈、云計算、人工智能等技術被廣泛運用于政府治理中，人臉識別技術即為其中一項。人臉識別技術具有非接觸性、不易被察覺性、可跟蹤性、高效便捷等技術優勢，很快成為行政機關在政府治理中的重要工具，尤其是在維護社會秩序和公共安全、打擊違法犯罪行為等方面。但人臉識別技術并非解決一切治理難題的萬能藥方，其本身存在技術難點，而且還可能對公民基本權利產生負面效應，存在合法性危機。因此，必須將行政機關使用人臉識別技術的行為納入法治軌道，這樣才能在確保其合法性與合理性的同時，保護公民的合法權益。然而，人臉識別技術的法律控制終究是一個融合了法律與技術的難題，這也是本文未竟的思考。

注釋：

①不作特別說明，在本文中，就個人信息保護這一語境下，“個人數據”與“個人信息”、“人臉數據”與“人臉信息”并不存在實質意義上的區別。

②參見上海市第一中級人民法院（2017）滬01 刑終525號刑事判決書。

③參見河北省趙縣人民法院（2017）冀0133刑初7號刑事判決書。

④參見浙江省衢州市中級人民法院（2019）浙08 刑終333號刑事裁定書。