他用AI換臉技術瞞天過海

為確保網約車輛規范運營，一些出行平臺通過人臉核驗等技術對司機開展身份驗證，在確保人車一致后再派單，因此網約車司機只能注冊本人實名的賬號接單。然而，為了實現登錄他人賬號或者使用多個賬號接單，一些不法分子濫用技術，為用戶提供專門性的工具用于規避平臺監管措施。

近日，靜安區人民檢察院辦理了這樣一起提供侵入、非法控制計算機信息系統程序、工具案，劉某某為牟利，應他人要求改裝手機，利用AI換臉技術幫助網約車司機避開平臺人臉驗證，實現隨意注冊和接單。

一臺專門定制的接單手機

陳某某系一名網約車司機，因違規接單其賬號被平臺封禁。某日，陳某某在搭乘網約車過程中，發現該司機竟然能同時使用多部手機接單，經交談后才得知原來對方使用的接單手機“內有玄機”。據該同行說這臺接單的手機是其找人“專門定制”的，內部安裝了一款特殊軟件，一旦平臺開始驗證身份，只要點擊確定，手機后臺就會自動播放預先準備好的AI視頻進行識別驗證。陳某某正愁沒辦法接單，于是在對方的“推薦”下也租借了該款“定制”手機。

2023年11月，平臺公司在日常巡查中發現部分賬號的人臉識別視頻存在異常，懷疑有人利用AI換臉技術進行實名認證，嚴重影響平臺信息系統安全，遂向上海市公安局靜安分局（以下簡稱“靜安公安分局”）報案。經進一步偵查，偵查人員發現涉案司機所使用的定制手機系犯罪嫌疑人劉某某制售的，手機內置一款經過改裝的“虛擬相機”應用程序。2023年12月13日，劉某某被偵查人員抓獲。

2024年3月18日，靜安公安分局以非法獲取計算機信息系統數據罪將劉某某移送靜安區人民檢察院審查起訴。在收到案件后，承辦檢察官結合相關微信聊天記錄，圍繞手機程序如何運作問題對犯罪嫌疑人劉某某進行針對性訊問，并依托專業鑒定機構對涉案程序的運作原理進行鑒定。

據劉某某交代，他原先在某電商平臺經營一家網店，專門為無人直播提供虛擬相機軟件及遠程調試服務。2023年7月，有人主動聯系其詢問店鋪里售賣的虛擬相機軟件能否通過某網約車平臺的人臉識別技術。經一番交談后，劉某某得知對方系網約車司機，因為賬號被平臺封禁遂想借用他人身份注冊賬號接單，但在此之前劉某某并未提供過類似的服務，稱需要時間進行調試，對方當即表示愿意付費進行測試。

隨后，劉某某根據對方提供的網約車賬號、人臉驗證樣本視頻、圖片等素材，對手機進行刷機并安裝相關“虛擬相機”的應用程序，后再結合AI換臉技術將上述圖片和視頻素材制作合成一段虛假動態驗證視頻上傳，同時通過修改“虛擬相機”應用程序參數的方式，順利將數據源更改為上述AI合成的驗證視頻。

就這樣經過幾次測試后，這部安裝了“虛擬相機”程序的手機在遇到平臺人臉識別時，攝像機就會自動調用后臺預先合成的動態驗證視頻，實現無真人驗證即可登錄他人網約車賬號，非法獲取系統派單。此外，劉某某要求對方提供清晰、不同角度的人臉替換素材，這樣做的目的是提高AI合成視頻的“真實性”，提高驗證通過的成功率。同時，為確保測試結果穩定性，其還使用該手機在多家網約車平臺進行測試，結果無一例外都通過平臺人臉識別。因上述改裝的軟件只能在測試手機使用，于是雙方經商議后，劉某某決定在手機安裝好所需軟件，在調試成功后直接將手機出售給對方。

幫助他人逃避人臉識別構成何罪

經審查查明，2023年7月，劉某某應他人要求改裝手機，通過修改“虛擬相機”應用程序，劫持手機內相機服務，實現無真人認證即可通過人臉驗證、登錄他人某平臺賬號并獲取網約車訂單的功能。劉某某陸續向他人有償提供裝有上述應用程序的手機11部，違法所得人民幣1萬余元。

那么對于劉某某制售“改裝手機”幫助他人逃避某網約車平臺人臉識別監管行為究竟該如何定性？承辦檢察官認為劉某某的行為構成提供侵入、非法控制計算機信息系統程序、工具罪。本罪指的是自然人或者單位提供專門用于侵入、非法控制計算機信息系統的程序、工具或者明知他人實施侵入、非法控制計算機信息系統的違法犯罪行為而為其提供工具、程序，情節嚴重的行為。由于涉及計算機類犯罪存在技術門檻，具備相關技術能力的人員制售、提供用于侵入、非法控制計算機信息系統的程序、工具，將造成此類犯罪蔓延，嚴重侵犯國家對計算機信息系統的管理秩序。

根據法律規定，本罪有兩種行為類型，一種是提供專門用于侵入、非法控制計算機信息系統的程序、工具（以下簡稱“專門工具”），無論他人是否利用該專門工具實施犯罪行為，提供者都構成犯罪；另一種是提供其他程序、工具，同時要求提供者明知他人要利用該工具、程序實施與計算機信息系統相關犯罪，此時提供者才構成犯罪。

承辦檢察官認為，結合相關司法解釋對專門程序、工具作出的細化規定，本案裝有“虛擬相機”應用程序的手機可以認定為專門程序、工具。一是從功能上看，涉案虛擬相機程序具有避開計算機信息系統安全保護措施，未經授權侵入、非法控制計算機信息系統的功能，即避開某平臺進行人臉驗證的安全措施，以他人賬號非法獲取系統派送網約車訂單，使得平臺身份核驗的功能受到干擾。二是從違法性層面，涉案程序功能用途單一，系嫌疑人劉某某進行刷機、對相關程序進行修改并針對某平臺應用進行測試、設計，明顯有別于“中性工具”，系專門程序、工具。故劉某某制售的手機屬于“專門用于侵入、非法控制計算機信息系統的程序、工具”，符合《中華人民共和國刑法》第二百八十五條第三款之規定，應當以提供侵入、非法控制計算機信息系統程序、工具罪追究其刑事責任。

2024年9月24日，靜安區人民法院判處被告人劉某某有期徒刑1年，緩刑1年，處罰金人民幣5000元。沒收其非法所得及查獲的犯罪工具。一審判決后劉某某未上訴，現判決已生效。

人工智能技術飛速發展，為經濟發展注入巨大動能，也給人們日常生活帶來諸多便利。但技術是一把“雙刃劍”，與傳統犯罪相比，利用數字信息技術實施的犯罪具有專業、隱蔽、復雜特征。下一步，靜安區人民檢察院將充分發揮檢察職能，始終堅持懲防并舉，源頭治理理念，依法懲治危害網絡安全、數字安全犯罪，在持續加強全鏈條打擊力度的同時，強化“四大檢察”融合履職，深挖此類犯罪的規律特點，會同相關職能部門完善常態化治理機制。

編輯：沈析宇 175556274@qq.com