韓國(guó)集中打擊“深度偽造”犯罪

2024年的前七個(gè)月，韓國(guó)共報(bào)告了297起與色情相關(guān)的“深度偽造”犯罪案件，多于去年的180起，幾乎是2021年數(shù)據(jù)首次整理時(shí)的兩倍。時(shí)下，韓國(guó)正加大對(duì)“人工智能（AI）深度偽造技術(shù)”犯罪行為的打擊力度。

監(jiān)禁期限增至7年

2024年8月29日，在韓國(guó)國(guó)會(huì)舉行的緊急會(huì)議上，韓國(guó)政府和執(zhí)政黨國(guó)民力量黨決定，加強(qiáng)對(duì)“人工智能（AI）深度偽造技術(shù)”（以下簡(jiǎn)稱“深度偽造”）犯罪行為的打擊力度；設(shè)立一個(gè)跨部門工作組，負(fù)責(zé)領(lǐng)導(dǎo)打擊“深度偽造”犯罪工作；采取立法措施，對(duì)有關(guān)犯罪者的最高監(jiān)禁期限從目前的5年提高到7年，從立法角度將“虛假視頻”傳播的刑期與“非法拍攝”等同起來(lái)。

在韓國(guó)，利用“深度偽造”制播虛假影像的行為以及由此衍生的網(wǎng)絡(luò)性犯罪泛濫成災(zāi)，此次“深度偽造”圖像的傳播平臺(tái)是“電報(bào)”，引發(fā)社會(huì)恐慌。過(guò)去一段時(shí)間里，韓國(guó)警方發(fā)現(xiàn)“深度偽造”犯罪分子將女教師、女護(hù)士、女兵作為非法合成色情圖像的目標(biāo)，出現(xiàn)了“女教師房”“護(hù)士房”“女兵”等群組。最近，以女性家人為對(duì)象的“家庭房”“近親房”等也相繼被發(fā)現(xiàn)。

這些群組里的淫穢影像經(jīng)“深度偽造”換臉而制成，只需要上傳熟人照片，付費(fèi)后5秒鐘內(nèi)就能生成裸體合成圖。涉及群組的參與人數(shù)不等，少的幾百上千人，多的有數(shù)萬(wàn)人，總計(jì)參與用戶多達(dá)22萬(wàn)人。經(jīng)初步調(diào)查，受害者80%為女性，包括大學(xué)生、教師、軍人等，甚至有不少初高中生等未成年人。

多名韓國(guó)女性接到陌生人發(fā)來(lái)的騷擾信息，她們并不知道自己的姓名、電話、就讀學(xué)校、家庭住址等個(gè)人信息已被傳遍多個(gè)聊天室。和個(gè)人信息一起被傳閱的還有她們的照片，不法分子把照片制作成涉黃圖片，供聊天室里的人們觀看。而散布這些消息的人，可能是受害者的熟人。一名小學(xué)女教師在接受采訪時(shí)告訴記者，自己被學(xué)生告知，一個(gè)聊天室里有自己的涉黃照片。讓她崩潰的是，上傳者竟是自己的學(xué)生。

“電報(bào)”成為犯罪“溫床”

所謂“深度偽造”，即使用AI生成逼真的虛假內(nèi)容，通常指用于偽造人物的視頻、音頻、圖像等。一些AI生圖大模型在追求更多真實(shí)度的同時(shí)，成為了AI換臉或AI脫衣的幫兇。

“電報(bào)”平臺(tái)提供端到端加密消息傳遞，因其私密的特性而擁有大量國(guó)際用戶，但也因此成為不法行為的“溫床”。當(dāng)前該平臺(tái)上有不少以AI色情為賣點(diǎn)的群組（類似于群聊，即韓國(guó)新聞中“房”的概念），在公開可進(jìn)的群組中，一個(gè)通過(guò)AI技術(shù)偽造國(guó)內(nèi)網(wǎng)紅色情圖片的群組成員人數(shù)達(dá)到了1.5萬(wàn)人。通過(guò)交費(fèi)，還可以進(jìn)入更加私密、尺度更大的群組，黑灰產(chǎn)從業(yè)者正是以此牟利。

除了端到端加密技術(shù)外，“電報(bào)”平臺(tái)還賦予了包括“閱后即焚”“超級(jí)群組”（動(dòng)輒可達(dá)十多萬(wàn)人，相比之下微信群的限制是500人）。“群主設(shè)置不能復(fù)制轉(zhuǎn)發(fā)截圖”等功能，使得平臺(tái)上的一個(gè)個(gè)群組成為封閉式空間。為了使非法交易得以逃避監(jiān)管，不少交易可能會(huì)通過(guò)虛擬貨幣進(jìn)行。

2024年3月，“電報(bào)”平臺(tái)的創(chuàng)始人帕維爾·杜羅夫表示，平臺(tái)已經(jīng)擁有9億用戶，且正接近盈利。8月24日，杜羅夫在法國(guó)巴黎近郊的布爾歇機(jī)場(chǎng)被捕，雖然后來(lái)在司法監(jiān)控下獲得保釋，但不得離開法國(guó)。巴黎檢察官辦公室在一份聲明中指出，其涉嫌的違法行為包括參與出售兒童性虐待素材、販毒、欺詐，以及在法律要求時(shí)拒絕與調(diào)查人員分享信息或文件等。

其他國(guó)家“深度偽造”的受害者大多是明星網(wǎng)紅。而在韓國(guó)，受害者是大量的普通人。盡管韓國(guó)對(duì)于此類犯罪行為有相關(guān)的法律，然而性別歧視觀念根深蒂固，導(dǎo)致此類事件一再發(fā)生。一名韓國(guó)女大學(xué)生控訴道，自己有數(shù)十張裸體照片在“電報(bào)”平臺(tái)的群組中傳播，臉上寫著不堪入目的臟話，甚至還有人通過(guò)AI生成了自己的色情語(yǔ)音。

未成年人深受其害

韓國(guó)近期已開展集中打擊深偽性犯罪的專項(xiàng)行動(dòng)，清查整治利用“深度偽造”制作并傳播虛假內(nèi)容的行為。與此同時(shí)，將通過(guò)識(shí)別軟件對(duì)有關(guān)內(nèi)容進(jìn)行分析，并與國(guó)際機(jī)構(gòu)合作，積極開展偵查活動(dòng)。此前，韓國(guó)警方在例行記者會(huì)上介紹說(shuō)，警方以涉嫌幫助“深度偽造”犯罪為由著手對(duì)“電報(bào)”平臺(tái)進(jìn)行立案前調(diào)查，但該公司在提供賬戶信息等涉案資料方面不積極配合。不只是韓國(guó)警方面臨偵查難題，其他國(guó)家亦是如此。

據(jù)韓國(guó)警察廳公布的數(shù)據(jù)，2021年至2023年，共有527名“深度偽造”淫穢影像受害者報(bào)案。在最近4年被立案調(diào)查的嫌疑人中，青少年比例仍然維持在較高水平，200多所學(xué)校牽涉其中。未成年人作為加害者的涉案比例相當(dāng)驚人，從2021年的65.4%、2022年的61.2%上升到2023年的75.8%。今年的前7個(gè)月則達(dá)到了73.6%。

“深度偽造”在韓國(guó)10代群體（泛指滿10歲而未滿20歲的人）之間像“游戲”一樣盲目蔓延。加之社交媒體的匿名性，犯罪者更加有恃無(wú)恐，甚至出現(xiàn)了“只有傻瓜才會(huì)被警察逮住”的言論。

不少青少年參與制作和傳播“深度偽造”內(nèi)容，導(dǎo)致校園內(nèi)此類犯罪行為泛濫。韓國(guó)警方7月拘捕了一名高中生，搜繳出317份涉案資料。這名嫌疑人6月7日在社交平臺(tái)上發(fā)布帖文稱，可以制作基于買家的家庭成員、熟人或其他名人，通過(guò)“深度偽造”換臉制作色情圖片，通過(guò)“電報(bào)”平臺(tái)以每張1000韓元至2000韓元的價(jià)格出售。他與買家交易了大約10次，共收到30多萬(wàn)韓元。大多數(shù)色情圖片涉及的受害者是嫌疑人中學(xué)時(shí)期的熟人，包括1名教師和10名學(xué)生。隨著調(diào)查進(jìn)行，受害者人數(shù)還可能增加。這名學(xué)生承認(rèn)，他是在網(wǎng)上學(xué)會(huì)的如何制作“深度偽造”內(nèi)容，從事犯罪活動(dòng)是為了“輕松賺錢”。他因涉嫌違反《青少年保護(hù)法》和《性犯罪處罰法》，被立案調(diào)查。

韓國(guó)國(guó)民力量黨黨首韓東勛敦促政府迅速采取措施遏制此類犯罪行為，并強(qiáng)調(diào)有必要下調(diào)未成年人承擔(dān)刑事責(zé)任的年齡標(biāo)準(zhǔn)。目前，根據(jù)韓國(guó)相關(guān)法律，年齡在10—14歲之間的兒童不對(duì)自己的行為承擔(dān)刑事責(zé)任，不會(huì)被送往監(jiān)獄，而是會(huì)被送去少年拘留所，或被判罰從事社區(qū)服務(wù)。鑒于這些年輕人大多數(shù)在毫無(wú)負(fù)罪感的情況下犯案，警方計(jì)劃與教育部門合作，加強(qiáng)收集校園犯罪信息，強(qiáng)化學(xué)校的數(shù)字性犯罪預(yù)防教育，包括告知學(xué)生分發(fā)非法合成材料是嚴(yán)重犯罪，以加深學(xué)生對(duì)數(shù)字性犯罪的認(rèn)識(shí)。

投稿郵箱：zhanghongyuchn@hotmail.com