人臉識別“易破解”面臨的風險挑戰及監管研究

苗 杰

(國家計算機網絡與信息安全管理中心江蘇分中心 南京 210019)

隨著機器學習、深度學習算法的不斷演進以及人工智能技術的日益成熟，人臉識別得到越來越普及的推廣應用.日常生活中人臉識別技術也被廣泛應用于交通出行、小區進出門禁、金融支付等較多領域.2021年2月清華大學RealAI團隊最新的研究成果爆出手機終端具有人臉識別“易破解”安全隱患[1]，這些被破解的手機終端來自排名前5的國產手機，且覆蓋每一手機品牌的不同價位手機型號.目前我國手機終端用戶非常之多，除了蘋果手機基本用的都是主流國產手機，且政府機關以及一些重要崗位工作人員也大多用的是國產手機.因此人臉識別“易破解”不僅會對用戶個人隱私信息、財產形成潛在威脅外[2]，如果被一些違法犯罪分子利用還會引發一系列的社會問題.同時人臉識別“易破解”的安全隱患也會危及個人安全和社會安全，甚至會危及到國家安全.

1 人臉識別原理及應用現狀

1.1 人臉識別原理

人臉識別是身份識別的一種方式，主要是基于人的面部特征信息來進行身份識別.人臉識別的目的就是為了要判斷圖片和視頻中人臉的身份是什么.具體應用中則是通過視頻采集設備掃描獲取識別人的臉部圖像信息，并通過人臉識別算法計算獲取人臉的面部特征信息，與人臉識別系統中的人臉樣本數據庫進行比對，最后判斷出用戶的真實身份.

人臉識別過程可通過圖1所示幾個環節來簡要描述，首先是采集人臉圖像并檢測，其次對采集的人臉圖像進行預處理并提取人臉特征信息，接著將提取的人臉特征信息與人臉特征庫信息進行比對，最后給予識別結果[3]，如圖1人臉識別流程圖所示:

圖1 人臉識別流程圖

一般在人臉識別應用中還會對被識別人進行活體檢測[4]，即要求被識別人進行眨眼、張嘴、點頭等組合動作，以驗證被識別人是真實本人在操作，而非通過照片、換臉等欺詐手段進行識別驗證，這也是人臉識別“易破解”受攻擊的薄弱環節.人臉識別還涉及對人臉進行屬性識別、聚類識別等一些技術應用場景，如人臉屬性識別即是根據人臉展現出的特征檢測出與人臉相關的屬性，包括年齡、性別、頭部姿態等信息.

1.2 人臉識別應用現狀

在2014年我國人臉識別技術從理論階段邁向了實際應用，隨著人臉識別技術日益成熟，并在2018—2020年期間人臉識別技術得到推廣使用并迎來了重要轉折點，人臉識別在諸多應用中通過“刷臉”即可完成.目前我國人臉識別技術在考勤門禁、安防以及金融3個領域應用最為集中.人臉識別應用在考勤門禁領域、安防領域和金融領域的占比分別是42%，30%，20%，如圖2人臉識別應用現狀所示：

圖2 人臉識別應用現狀

從人臉識別技術具體應用來看，其主要涉及場所進出、商業企業、政府職能、信息安全、公共安全這5個領域.如人臉識別應用在場所進出領域的小區門禁控制和出入管理等；人臉識別應用在商業企業領域的日常考勤和電子支付等；人臉識別應用在政府職能領域的管理人口戶籍和電子政務等；人臉識別應用在信息安全領域的網絡登錄認證和文件加解密等；人臉識別應用在公共安全領域的識別罪犯和刑偵追逃等.

2 人臉識別“易破解”技術挑戰

隨著數字拍照、視頻圖像合成以及近年興起的對抗訓練深度學習技術的發展，同時伴隨著網絡各種換臉APP的涌現，獲取特定人的人臉信息或者高精度的合成人臉信息變得越來越容易[5].例如2019年國內某公司推出的AI換臉應用“ZAO”就引起網民的換臉熱潮.在人臉識別得到普及推廣使用的同時，清華大學RealAI團隊爆出其“易破解”安全隱患，由此可見人臉識別“易破解”主要面臨如下一些潛在的技術挑戰.

2.1 臉部模具破解

通過高精度的3D打印機，打印足夠精細的人臉模型，再通過各類復雜識別算法極有可能破解人臉識別[6].

這種破解方式對3D打印機精度要求較高，且高精度3D打印機成本昂貴，具有成本高、破解時間長的劣勢，不容易被廣泛采用.

2.2 視頻攻擊破解

安裝photospeak應用軟件，找到需要破解的1張人臉正面照片，通過photospeak輸入即可生成令人臉眨眼、張嘴效果，從而繞過人臉識別過程中需要行為人眨眼、張嘴這一活體檢測薄弱環節，從而破解人臉識別.

這種破解方式需要安裝photospeak應用，目前photospeak在應用商店免費下載且操作簡單，容易被廣泛采用.

2.3 3D建模破解

通過一些應用生成3D建模圖像，繞過人臉識別云端檢測實現破解.如借助“FaceGen”或“CrazyTalk”2款應用軟件，根據需要破解照片中的人臉面部特征信息，便能在較短時間內建成相應的3D建模圖像，用來破解要求用戶進行點頭、搖頭等動作的人臉識別.這種在短時間內制作出來的3D模型與原來照片的相似度很高.

這種破解方式需要安裝“FaceGen”或者“CrazyTalk”應用，目前這2款應用在其官方網站需要付費使用且成本較高，容易被某些不法分子推廣使用.

2.4 修改程序破解

通過在人臉識別應用程序中設置斷點，當人臉識別程序進入到一定流程時則會觸發該斷點，然后分析并修改人臉識別程序相應的值，從而繞過人臉識別過程中要求眨眼、張嘴這一活體檢測薄弱環節，使用一張靜態照片即可破解人臉識別.

這種破解方式對技術要求極高，實際操作起來也難，不易于推廣使用.

2.5 樣本干擾破解

清華大學RealAI研究團隊利用對抗樣本干擾技術破解人臉識別.其破解人臉識別過程是：首先統一將測試人員A的人臉信息錄入手機，然后測試人員B利用A的照片通過“對抗樣本攻擊算法”在眼部區域生成一個最佳的干擾圖案，最后將干擾圖案打印出來貼在鏡框上并帶上眼鏡，即可對手機屏幕完成人臉識別破解解鎖.利用該方法成功破解了國內主流的19款采用2D人臉識別的手機，對采用3D人臉識別的蘋果手機未能破解，破解成功率高達95%.

這種破解方式需要相關運算生成干擾圖像，對技術能力要求較高，難于普及使用，但不排除商業推廣使用的可能.

3 人臉識別“易破解”面臨的安全風險

目前人臉識別技術在安防、金融、交通應用領域布局較為成熟，同時在教育、酒店等領域也有較廣泛應用，其為社會發展帶來了新的機遇[7]，也為人們日常生活提供了便捷.雖然人臉識別技術提升了身份認證便捷度和效率，但是從清華大學RealAI團隊最新研究成果看出，人臉識別“易破解”也面臨如下一些安全風險.

3.1 威脅個人財產甚至人身安全

目前個人手機留存用戶大量的照片、視頻、工作內容等隱私數據，同時個人手機裝有各類銀行、微信、支付寶等支持“刷臉”認證金融工具.近2年隨著“深度偽造”技術飛速發展，模仿和偽造某人的行為特征并生成相應的圖片、視頻等也越來越容易，其中AI換臉即是深度偽造技術的典型代表[8].因此在一些開通人臉識別認證的應用中，出現個人支付賬戶被盜刷、個人隱私信息被泄露、入室盜竊犯罪等一系列違法行為已成為可能[9].人臉識別“易破解”不僅威脅到個人財產安全和人身安全，甚至會危及公共安全和國家安全，會造成社會憂慮和信任危機.

3.2 侵犯個人隱私和濫用人臉數據

隨著人臉識別技術越來越普遍地應用到人們生活中，人臉特征信息也逐漸成為人們的身份證件之一，但是人臉識別技術在具體應用中仍存在一些不規范問題.首先，存在較多公共場所在采集人臉信息時并未明確告知用戶的現象，用戶在不知情的情況下其人臉信息被采集成為常態.其次，在小區進出門禁或日常工作考勤等人臉識別應用中，用戶基本沒有選擇的權利，只能被動地接受采集其人臉信息.再次，部分在線教育應用以及換裝、測膚質等娛樂小程序未按照相關法律法規要求收集、使用人臉數據[10].同時刷臉支付售貨機、刷臉取件等應用也隨處可見，這些應用正肆無忌憚地收集存儲用戶的人臉數據及個人特征信息[11].這些不規范的人臉識別應用不僅侵犯了個人隱私，也為人臉數據濫用提供可能.

3.3 安全機制缺失造成數據泄露

目前針對人臉識別的安全技術標準和使用規范不夠完善，對于擁有人臉數據相關單位的責任和義務，人臉數據主體的權利缺少明文規定.同時人臉數據在收集、處理、傳輸和存儲等各環節應采取的安全措施也缺少相關規定.并且存在使用人臉識別技術的企業是通過調用第三方的接口實現，其和人臉識別應用服務提供商采取的安全措施可能不足以應對人臉識別帶來的安全威脅，從而容易發生人臉數據泄露等安全事件.另外網絡安全生態環境持續惡化，一些不法分子攻擊系統漏洞也會時有發生，因此人臉數據庫泄露事件也屢見不鮮.

4 人臉識別“易破解”監管研究

為了有效防范人臉識別“易破解”帶來的風險和挑戰，需要從保障公眾知情權、完善法律法規政策、制定人臉識別安全標準、構建人臉識別應用監管體系、建立行業組織鼓勵行業自律5個方面來進行規避，以營造良好的人臉識別行業生態發展環境[12].

4.1 保障公眾知情權

公共場合在采集人臉數據時，應公開明確告知被采集人，以便不愿被采集人臉數據的人避開這些區域.此外，人臉識別相關應用在采集人臉數據前應當告知被采集人其人臉數據的用途和可能帶來的風險，以保障用戶享有知情權和選擇權.同時若用戶不想繼續讓人臉識別應用留存使用其人臉數據時，應用也應該提供一定的刪除渠道，保證用戶能夠及時刪除其人臉數據，確保用戶的刪除權.另外，針對人臉數據易濫用、人臉識別“易破解”等問題，人臉識別應用主體需引導告知用戶要謹慎開通具有“刷臉”功能的相關應用，特別是涉及資金支付、金融認證[13]等需要開通人臉識別的功能.用戶在使用人臉識別應用時，若發現其開發單位為中小企業或不知名企業，更應提高警惕性和安全防范意識，避免企業因安全防控技術手段不足所造成的個人隱私泄露和資金被盜刷的風險.

4.2 完善法律法規監管

人臉數據屬于公民的生物信息[14]，目前我國對公民生物信息保護的相關法律，包括網絡安全法、消費者權益保護法以及最高法、最高檢、國務院頒布的相關司法解釋和規定中，在內容上也僅是對個人信息在收集、使用、存儲、傳輸等環節進行了一些原則性規定，而缺少關于人臉識別在內的個人生物信息相關法律法規.因此應當盡快完善包括人臉識別在內的個人生物信息使用的法律法規，建立人臉識別技術應用申報備案和審批制度.法律法規應當明確保護公民個人生物信息的具體范圍，并強化責任追究制度.同時法律法規需保障個人生物信息的安全規范使用，對泄露個人生物信息和濫用個人生物信息涉事者加大處罰力度.

4.3 制定人臉識別安全標準

隨著人臉識別技術逐漸走向成熟，使用人臉識別技術的應用也越來越多.應當加快建立人臉識別技術所涉及的各類安全標準，包括保護個人生物信息的相關標準也應盡快出臺.建議從人臉識別自身的安全性角度考慮，并結合實際應用過程中關于個人生物識別信息保護等方面，加快研制人臉識別的相關安全技術要求和管理要求、個人生物信息保護要求，并制定人臉識別安全應用規范等一系列標準.通過人臉識別安全標準可以指導行業依據標準來規范人臉識別技術的使用行為，提升人臉識別的自身安全保護水平，降低人臉識別實際使用中的安全風險，從而保障用戶個人生物信息的安全性.

4.4 構建人臉識別應用監管體系

開展人臉識別應用必要性評估制度.企業或者組織機構在使用人臉識別技術前，需要對其實現方式、業務場景、數據收集使用情況，以及人臉識別在實際使用時預期的用戶規模等情況，開展人臉識別應用必要性評估.在人臉識別技術正式投入使用前，通過評估的方式來強化事前監管，從而降低人臉識別正式推廣使用過程所帶來的風險.同時需建立完善人臉識別應用在投入使用過程中的評估制度，并建立完善發生安全事件的事后問責制度.一方面，督促使用人臉識別技術的相關單位依據安全規范標準，配套必要的人臉識別安全保障措施，并定期開展安全評估工作.另一方面，對發生人臉數據泄露等安全事件的單位嚴肅問責，并加強相關人員的安全培訓和給予工作上的指導幫助，同時不定期對涉事單位進行回訪并持續強化監督.

4.5 建立行業組織鼓勵行業自律

以人臉識別為代表的人工智能技術發展日新月異[15]，相關行業法律法規的制訂滯后于技術發展已成為新常態.同時人臉識別在實際應用時涉及多種技術且較為復雜，并面臨保障人臉數據安全難的問題.因此完全寄希望于政府來管理治理人臉識別所存在的問題不大可能也不太現實.所以建立人臉識別行業聯盟類組織則顯得尤為必要.一方面，可以通過鼓勵行業組織使其發揮行業自律平臺的作用，來推動各利益相關方共同制定采集使用人臉數據的行為準則.另一方面，行業組織可以宣傳推廣人臉識別應用中的最佳實踐案例，促進人臉識別行業的安全保護意識，帶動提升人臉識別關于個人特征信息的整體保護水平，為人臉識別創造一個良性的行業生態發展環境[16].

5 結 語

從清華大學RealAI研究團隊最新的關于人臉識別的研究成果看出，目前人臉識別在我國手機應用領域存在非常大的安全漏洞，對用戶和社會可能造成危害.用戶應該提升關于人臉識別應用的安全意識.同時企業在使用人臉識別應用時也應充分評估其安全性，避免因技術漏洞讓不法分子有可乘之機.政府機構也應充分發揮其監管職能，為人臉識別應用營造一個良性的生態環境.