人臉識(shí)別技術(shù)應(yīng)用迎來(lái)監(jiān)管時(shí)代

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部聯(lián)合公布《人臉識(shí)別技術(shù)應(yīng)用安全管理辦法》（以下簡(jiǎn)稱《辦法》），自2025年6月1日起施行。

從《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》到《中華人民共和國(guó)個(gè)人信息保護(hù)法》，一系列相關(guān)法律法規(guī)相繼落地，我國(guó)個(gè)人信息保護(hù)體系正在逐步完善。

“《辦法》首次以專門法律文件形式系統(tǒng)規(guī)定了人臉識(shí)別技術(shù)應(yīng)用安全管理的制度框架，明確了人臉識(shí)別技術(shù)相關(guān)概念范圍，厘清了技術(shù)應(yīng)用邊界。”北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括告訴《中國(guó)報(bào)道》記者。

劃定“安全線”與“倫理框”

有關(guān)“人臉識(shí)別”的爭(zhēng)議從未停止。今年2月，廣西大學(xué)一名法學(xué)研究生因不滿山姆超市強(qiáng)制使用人臉識(shí)別，以“涉嫌違法”為由將其告上法庭，目前廣西南寧市西鄉(xiāng)塘區(qū)人民法院已對(duì)此立案。而此前，曾有多位明星的人臉識(shí)別照片遭泄露并在網(wǎng)絡(luò)黑市售賣，這些事件進(jìn)一步加劇了公眾對(duì)生物信息安全問題的擔(dān)憂。

“當(dāng)前社會(huì)上存在公共場(chǎng)所無(wú)差別采集人臉信息，企業(yè)強(qiáng)制要求‘刷臉’認(rèn)證等亂象，更有不法分子倒賣人臉數(shù)據(jù)進(jìn)行牟利?！眳巧蚶ㄖ赋?，人臉數(shù)據(jù)作為敏感生物信息，一旦泄露可能導(dǎo)致個(gè)人詐騙、身份盜用等嚴(yán)重后果。

受訪專家們普遍認(rèn)為，日益迫切的個(gè)人信息保護(hù)需求與技術(shù)濫用帶來(lái)的安全風(fēng)險(xiǎn)是此次新規(guī)出臺(tái)的兩大現(xiàn)實(shí)動(dòng)因。

針對(duì)人臉識(shí)別技術(shù)應(yīng)用亂象，《辦法》從多個(gè)維度劃定了技術(shù)紅線，它不僅明確了應(yīng)用人臉識(shí)別技術(shù)處理人臉信息的規(guī)則，還對(duì)人臉識(shí)別技術(shù)應(yīng)用的安全規(guī)范提出了要求。《辦法》規(guī)定，應(yīng)用人臉識(shí)別技術(shù)處理人臉信息時(shí)需要有特定目的與充分必要性，個(gè)人信息處理者有告知、保護(hù)個(gè)人信息等義務(wù)。同時(shí)，規(guī)定存在其他非人臉識(shí)別技術(shù)方式的，不得將人臉識(shí)別技術(shù)作為唯一驗(yàn)證方式。

“‘保障個(gè)人自主選擇權(quán)’和‘強(qiáng)化未成年人保護(hù)’是新規(guī)中的重要方面。”賽迪研究院網(wǎng)絡(luò)安全研究所、數(shù)據(jù)安全研究室副主任李立雪告訴《中國(guó)報(bào)道》記者，例如新規(guī)第十條明確禁止“強(qiáng)制刷臉”行為，規(guī)定個(gè)人不同意通過人臉信息進(jìn)行身份驗(yàn)證的，應(yīng)當(dāng)提供其他合理、便捷的方式；新規(guī)第七條則對(duì)未成年人人臉數(shù)據(jù)設(shè)置更高保護(hù)標(biāo)準(zhǔn)，規(guī)定基于個(gè)人同意處理不滿十四周歲未成年人人臉信息的，應(yīng)當(dāng)取得未成年人的父母或者其他監(jiān)護(hù)人的同意。

此外，新規(guī)創(chuàng)新之處還在于其明確了監(jiān)管職責(zé)與法律責(zé)任，構(gòu)建起覆蓋技術(shù)應(yīng)用全生命周期的管理體系。依據(jù)《辦法》要求，個(gè)人信息處理者應(yīng)當(dāng)在應(yīng)用人臉識(shí)別技術(shù)處理的人臉信息存儲(chǔ)數(shù)量達(dá)到10萬(wàn)人之日起30個(gè)工作日內(nèi)向所在地省級(jí)以上網(wǎng)信部門履行備案手續(xù)?！斑@一備案制度體現(xiàn)了監(jiān)管部門前移治理關(guān)口，最大限度降低安全風(fēng)險(xiǎn)水平的綜合治理思路?！眳巧蚶ń庾x道。

吳沈括認(rèn)為，新規(guī)突出對(duì)人臉識(shí)別技術(shù)應(yīng)用的全要素監(jiān)管、全流程規(guī)范。從人臉識(shí)別設(shè)備的安裝到圖像的采集，從數(shù)據(jù)的處理、存儲(chǔ)到數(shù)據(jù)的提供、刪除，從技術(shù)應(yīng)用的準(zhǔn)度、精度到置信度閾值的設(shè)定，從技術(shù)使用者到產(chǎn)品或服務(wù)提供者的責(zé)任義務(wù)，都作出明確且細(xì)致的規(guī)定。同時(shí)，新規(guī)還開創(chuàng)了多元共治的治理范式，明確了備案制與動(dòng)態(tài)監(jiān)管機(jī)制。這些規(guī)范舉措，一方面將提升相關(guān)業(yè)務(wù)的合規(guī)程度，另一方面也會(huì)加強(qiáng)相關(guān)部門之間的聯(lián)動(dòng)監(jiān)管與協(xié)同監(jiān)管。

“新規(guī)的這些亮點(diǎn)和創(chuàng)新之處，既回應(yīng)了公眾對(duì)隱私安全的期待，也為數(shù)字經(jīng)濟(jì)可持續(xù)發(fā)展提供了制度保障。”吳沈括進(jìn)一步補(bǔ)充道。

“非必要不刷臉”多模態(tài)認(rèn)證將成常態(tài)

自2024年起，北京、深圳等多個(gè)城市陸續(xù)取消了入住酒店必須強(qiáng)制刷臉的規(guī)定。與此同時(shí)，上海針對(duì)人臉識(shí)別技術(shù)濫用的情況，開展了“亮劍浦江·2024”消費(fèi)領(lǐng)域個(gè)人信息權(quán)益保護(hù)專項(xiàng)執(zhí)法行動(dòng)，并提出了公共場(chǎng)所“以不刷臉為原則、刷臉為例外”“收集端總體減少數(shù)量、存儲(chǔ)端確保安全無(wú)虞”的治理目標(biāo)，涉及健身房、商場(chǎng)超市、無(wú)人售貨機(jī)、旅游景區(qū)、住宅小區(qū)等各種各樣的消費(fèi)場(chǎng)所。

據(jù)了解，截至2024年底，上海已有600余家商場(chǎng)、6300余家酒店、1200余個(gè)游泳館和健身場(chǎng)所、2900余個(gè)公共廁所等場(chǎng)所完成了人臉識(shí)別設(shè)備的自查和整改。但需要指出的是，這并非以正式成文規(guī)定的形式在全國(guó)推行，在當(dāng)前的公共區(qū)域和商業(yè)消費(fèi)場(chǎng)所中，“刷臉”認(rèn)證的方式仍然存在。

此次，《辦法》第十條明確規(guī)定，當(dāng)存在其他驗(yàn)證方式時(shí)，不得將人臉識(shí)別技術(shù)作為唯一驗(yàn)證方式。第十一條則要求若應(yīng)用人臉識(shí)別技術(shù)驗(yàn)證個(gè)人身份、辨識(shí)特定個(gè)人的，鼓勵(lì)優(yōu)先使用國(guó)家人口基礎(chǔ)信息庫(kù)、國(guó)家網(wǎng)絡(luò)身份認(rèn)證公共服務(wù)等渠道實(shí)施。

在各類消費(fèi)場(chǎng)景中，商業(yè)機(jī)構(gòu)作為涉及場(chǎng)景最為廣泛的主體，其用戶驗(yàn)證模式將迎來(lái)全新的變化。

“商業(yè)機(jī)構(gòu)在設(shè)計(jì)用戶驗(yàn)證流程時(shí)，必須考慮多種驗(yàn)證方式的組合，而不能僅依賴人臉識(shí)別技術(shù)?！眳巧蚶ㄕf(shuō)道，例如，在會(huì)員注冊(cè)、支付驗(yàn)證等場(chǎng)景中，需提供密碼、短信驗(yàn)證碼、指紋識(shí)別等多種替代方案，以滿足不同用戶的需求。其次，相關(guān)規(guī)定將促使商業(yè)機(jī)構(gòu)更加注重用戶自主選擇權(quán)，尊重用戶對(duì)個(gè)人隱私的保護(hù)意愿。最后，這些規(guī)定也有助于減少人臉識(shí)別技術(shù)的濫用，降低因過度采集人臉信息而帶來(lái)的隱私泄露風(fēng)險(xiǎn)。

李立雪分析，新規(guī)出臺(tái)一方面能推動(dòng)商業(yè)機(jī)構(gòu)更加注重改進(jìn)和優(yōu)化用戶體驗(yàn)；另一方面，商業(yè)機(jī)構(gòu)也能更重視驗(yàn)證的安全性和可靠性，多樣的驗(yàn)證方式組合將會(huì)降低因單一人臉識(shí)別方式可能導(dǎo)致的技術(shù)故障、信息泄露等風(fēng)險(xiǎn)，提高用戶身份驗(yàn)證系統(tǒng)的穩(wěn)定性和安全性，同時(shí)也會(huì)促使商業(yè)機(jī)構(gòu)投入更多資源用于安全合規(guī)和隱私保護(hù)。

李立雪強(qiáng)調(diào)，在新規(guī)落地實(shí)施之后，人臉識(shí)別技術(shù)應(yīng)用將迎來(lái)三大變化，一是技術(shù)應(yīng)用合規(guī)性加強(qiáng)，二是數(shù)據(jù)安全保障能力提升，三是監(jiān)管力度進(jìn)一步加大。

安全監(jiān)管與創(chuàng)新發(fā)展并重

在2024至2025年期間，AI換臉技術(shù)的應(yīng)用與市場(chǎng)規(guī)模呈現(xiàn)出顯著的增長(zhǎng)趨勢(shì)。根據(jù)QY Research的統(tǒng)計(jì)及預(yù)測(cè)，2024年全球AI換臉軟件市場(chǎng)銷售額達(dá)到了1.32億美元，預(yù)計(jì)2031年將達(dá)到1.76億美元。但技術(shù)廣泛應(yīng)用的背后，虛假身份、詐騙等問題正層出不窮。

2024年，杭州警方破獲一起“AI換臉技術(shù)”侵犯隱私案，犯罪團(tuán)伙利用該技術(shù)成功突破平臺(tái)的人臉認(rèn)證系統(tǒng)，獲取并出售了大量受害人的個(gè)人信息。截至被逮捕前，團(tuán)伙已獲利20多萬(wàn)元。

在人臉識(shí)別技術(shù)被不當(dāng)使用的同時(shí)，AI換臉技術(shù)的亂象也如影隨形，成為一個(gè)不容忽視的問題。

“當(dāng)前，不法分子利用AI換臉技術(shù)從事網(wǎng)絡(luò)詐騙、偽造身份、傳播虛假信息、生成色情內(nèi)容等非法活動(dòng)的現(xiàn)象屢見不鮮。這些行為嚴(yán)重侵犯了個(gè)人隱私，對(duì)社會(huì)秩序構(gòu)成了嚴(yán)重威脅。”李立雪分析道，AI換臉技術(shù)的濫用，不僅增加了身份信息的盜用風(fēng)險(xiǎn)，還進(jìn)一步加劇了人臉信息泄露的風(fēng)險(xiǎn)。

在今年全國(guó)兩會(huì)期間，全國(guó)政協(xié)委員、演員靳東再次就AI技術(shù)與網(wǎng)絡(luò)平臺(tái)治理建言獻(xiàn)策。作為連續(xù)兩年提交相關(guān)提案的委員，靳東對(duì)利用AI換臉技術(shù)實(shí)施的詐騙行為表示強(qiáng)烈譴責(zé)。他提到，許多喜愛他作品的觀眾，因AI偽造的視頻遭受詐騙，損失慘重。他建議應(yīng)加快完善相關(guān)法律法規(guī)，建立更有效的監(jiān)管機(jī)制，保護(hù)公眾權(quán)益。

“新規(guī)將推動(dòng)AI換臉技術(shù)在合法、安全的框架內(nèi)發(fā)展，保護(hù)公眾利益?！眳巧蚶ㄕf(shuō)。

李立雪則認(rèn)為，新規(guī)明確了人臉識(shí)別技術(shù)應(yīng)用的邊界，將有助于從源頭上減少非法獲取和濫用人臉信息的行為，從而降低AI換臉技術(shù)被用于違法犯罪的風(fēng)險(xiǎn)。同時(shí)，新規(guī)要求人臉識(shí)別技術(shù)應(yīng)用系統(tǒng)采取多種安全措施，將增強(qiáng)對(duì)AI換臉攻擊的防范能力。此外，新規(guī)還明確了監(jiān)管責(zé)任主體，將使得AI換臉等安全問題的監(jiān)管更加有章可循，形成有效的監(jiān)管合力。

國(guó)務(wù)院新聞辦相關(guān)負(fù)責(zé)人在答記者問時(shí)表示，我們還要堅(jiān)持發(fā)展與安全并重，妥善處理促進(jìn)創(chuàng)新和依法治理之間的關(guān)系。新規(guī)在保護(hù)個(gè)人信息權(quán)益的同時(shí)，也鼓勵(lì)人臉識(shí)別技術(shù)的應(yīng)用和創(chuàng)新。其中，明確在中華人民共和國(guó)境內(nèi)為從事人臉識(shí)別技術(shù)研發(fā)、算法訓(xùn)練活動(dòng)應(yīng)用人臉識(shí)別技術(shù)處理人臉信息的，不適用本辦法的規(guī)定，為開展人臉識(shí)別技術(shù)的攻關(guān)研究和應(yīng)用創(chuàng)新預(yù)留空間。