AI詐騙

Holly

隨著各種騙術不斷被曝光，受騙的人逐漸減少。但騙子們也沒閑著—既然AI（人工智能）技術已經在不同領域蓬勃發展，何不也搭上這趟順風車，對行騙方式進行一場“升級改造”呢？

聲音可以偽造

早在2016年，谷歌的人工智能實驗室就開發出了一種聲音合成技術，2017年又成立了Lyrebird公司。在該公司的網站上，你能聽到官方合成版的奧巴馬和特朗普的聲音，幾乎和本人的沒有區別。這項技術如果被詐騙團伙掌握，他們就完全可以通過給你撥打騷擾電話提取你本人的聲音信息，然后通過聲音合成技術制作出模擬你本人的音頻信息，再利用這一信息冒充你，對你的親朋好友實施詐騙。

半年前，廣東警方打掉了一個利用交友軟件進行詐騙的“公司”。該團伙制作了多款交友軟件，并設計出了AI機器人，假裝與目標用戶“談戀愛”，騙取信任，再引誘其墜入事先安排好的消費陷阱。

類似的騙局不只出現在交友軟件中。據人民網報道，微信語音是又一個被AI詐騙入侵的領地。一位姓趙的女士收到“父親”的留言，稱自己買菜沒帶錢，讓她轉200元過去。長了個心眼的趙女士還問了一句：“爸，是你嗎？”收到對方肯定的語音答復后，便將錢轉了過去。誰料，語音消息里的聲音的確是父親的，那段語音卻并非來自父親。

眼見未必為實

聲音靠不住，那可以靠臉嗎？答案是：臉可能也靠不住。

如今，AI技術已經發展到可以給人“換臉”的程度了。這不是說要給你整容，而是說AI已經具備了“移花接木”的能力，比如在影像中把A的臉“換”到B的身體上。

開發這一技術的初衷是為了完善某些影視作品，比如讓已去世的保羅？沃克回歸《速度與激情7》，斯坦？李老爺子繼續出現在漫威系列電影中，但這一技術顯然在朝著失控的方向發展。

電影《神奇女俠》的扮演者蓋爾？加朵的臉曾被一名網友換到了某色情小電影女主角的身體上，第一眼看上去竟毫無違和感，仿佛這個片子本來就是她演的一樣。同樣遭此惡搞的還有比她更大牌的女星，如安妮？海瑟薇、艾瑪？沃特森等。

制作女星換臉小電影的程序員不僅免費發布了他所謂的成果，還將制作視頻的教程“無私”地分享了出來。算法公開后沒多久，就被改造成了一個人人都能上手的App（應用程序）。開發者表示，這是一款“普通人可以突破技術壁壘去使用人工智能技術”的程序。

被惡搞的不止知名女星，連奧巴馬和特朗普這些國家元首級的人物都未能幸免：馬丁？路德？金和奧巴馬實現了某種跨時空互換，尼古拉斯？凱奇的臉被換成了特朗普的……

令人擔憂的是，這種惡搞還在逐漸向普通人蔓延。雖然后來很多平臺都對這項技術頒布了禁令，但并未能阻止此類視頻的制作和傳播，就像打開了潘多拉的魔盒一樣。

印度有一位記者因為揭露了政府官員的黑幕，被不法分子利用這項技術將她的臉和某色情片的女演員互換，做成了粗糙的短視頻在網上傳播。不少人信以為真，甚至連她的家人也陷入困惑。在巨大的壓力下，她一度抑郁，甚至住進醫院。無獨有偶，美國的一位家庭主婦在得知自己的臉被換到某色情女演員身上后，也每天活在恐懼之中。

文字、語音、圖像甚至視頻的真實性都不可信任了，試想一下，如果技術繼續不受控制地發展下去，未來會怎樣？

被代碼撕開的人性遮羞布

AI技術的不當運用可能引發的不只是詐騙、誣陷、報復、勒索，它掀起的信任危機，將會把每個個體卷入其中。

過去不堪電信詐騙之擾的人，未來在AI詐騙面前可能逃無可逃。更可怕的是，如果有不法分子控制了新聞機構的網站或賬戶，發布一些不實消息，還可能造成假新聞泛濫。

技術帶來的問題，可能最終還得通過技術來解決。為了規避AI技術帶來的潛在風險，歐美的一些國家安全機構已著手研發“反AI”工具，力圖“以AI克AI”。美國國防部高級研究計劃局的研究人員發現，通過觀察眼睛的狀態，比如是否眨眼，可以檢測出哪張是AI合成的臉，哪張是真實的臉。

這種角力大概會一直持續下去。各位研究人員應當謹記：技術本身無罪，但運用技術的人應該善良。

（摘自微信公眾號“ELLEMEN睿士”，林冬冬薦）