眼見也不實，新型“AI換臉”詐騙如何防

陳杰

一家跨國公司香港分部的職員受邀參加了一場總部的“多人視頻會議”，按領導要求匯款被騙2億港元，后發現多人視頻會議只有自己是真人；從事財務工作的張女士在與“老板”視頻通話時，被要求轉賬1 8 6萬元到一個指定賬號，見面后老板表示未與她進行該視頻通話……近來，新型的視頻“A I換臉”詐騙案件出現，警方經過調查發現，這些跟受害者視頻溝通的“同事”，全部是經過A I換臉后的詐騙人員。

南京航空航天大學計算機科學與技術學院/人工智能學院副教授李博涵表示：“A I技術的快速發展，特別是A I換臉技術的出現，不僅改變著我們的生活，也開始顛覆人們的認知。就連一直被人們奉為圭臬的成語耳聽為虛，眼見為實，也變成耳聽為虛，眼見也不一定為實了。”基于動態視頻的A I換臉詐騙，技術上是怎么實現的？“其實只需一張目標人物的臉部照片，導入A I軟件就可實現。”李博涵說，A I換臉技術的原理在于將預先訓練好的深度學習模型應用于人臉識別和替換。這些模型基于大量的人臉數據進行特征標注和生成訓練，通過檢測和提取源視頻中的人臉，模型就可以將目標人臉嵌入源視頻中，然后合成逼真的新視頻場景。

電科網安A I團隊負責人吳杰表示，雖然A I處理換臉的過程瞬間就可完成，但在技術層面上也包括人臉位置檢測與追蹤、人臉特征抽取等多個步驟。隨著S o ra的問世，技術上已經可以用更少的人臉數據，構造出高逼真的特定人臉模型。“A I技術的發展已經讓‘換臉的門檻變得越來越低，這肯定會導致深度偽造內容更加泛濫，進而增加被用于違法活動的風險和隱患。”李博涵說。

那么，我們又該如何防范呢？我們要謹慎對待陌生鏈接與視頻要求，切勿輕易點擊或提供個人信息。此外，個人信息安全是防范A I換臉詐騙的關鍵，要強化對人臉、聲紋等生物特征數據的防護，不要過度公開或分享動圖、視頻等含有這些信息的資料。“如果實在無法避免，那么在視頻對話時，我們可以要求對方在臉部前方進行揮手等動作，以觀察其面部是否存在異常情況，也可以問一些只有對方知道的問題，以確保對方身份的真實性。”

當然，完全依靠公眾自己來判斷真偽肯定難以杜絕詐騙的發生。吳杰介紹，“用A I打敗A I是應對這一問題的技術趨勢”。目前在技術防范層面，主要是通過加入不可見水印等方法進行主動防御，以及用A I分析唇部運動、圖像重建放大偽造痕跡等方法進行被動檢測。

來源：《科普時報》