人工智能時代電信詐騙防控策略探討

摘要：人工智能（AI）技術(shù)被廣泛應(yīng)用于各行各業(yè)，極大地推動了社會進(jìn)步和發(fā)展。然而，任何技術(shù)的雙刃劍特性都不可忽視，人工智能技術(shù)在帶來便利的同時，也為電信詐騙等犯罪行為提供了新的手段和渠道。傳統(tǒng)電信詐騙手段往往依賴于廣泛撒網(wǎng)、低效率覆蓋的策略，而進(jìn)入人工智能時代后，詐騙分子利用大數(shù)據(jù)、機(jī)器學(xué)習(xí)等先進(jìn)技術(shù)，實現(xiàn)了對受害人的精準(zhǔn)識別和個性化詐騙，大大提高了詐騙成功率和隱蔽性。這一變化不僅給個人財產(chǎn)安全帶來了嚴(yán)重威脅，也對社會穩(wěn)定和法治建設(shè)構(gòu)成了挑戰(zhàn)。為此，該文分析了人工智能技術(shù)在電信詐騙中的作用，并探討了其存在的主要問題以及應(yīng)對策略。

關(guān)鍵詞：人工智能；電信詐騙；防控策略

doi：10.3969/J.ISSN.1672-7274.2024.11.051

中圖分類號：TN 929.53；TP 18" " " " " " " " 文獻(xiàn)標(biāo)志碼：A" " " " " " 文章編碼：1672-7274（2024）11-0-03

Discussion on prevention and control strategies of telecom fraud

in the era of artificial intelligence

XU Juan

（China Mobile Communications Group Yunnan Co.， LTD. Kunming branch， Kunming 650200， China）

Abstract： With the rapid development of artificial intelligence technology today， it is widely used in all walks of life， which greatly promotes social progress and development. However， the double-edged characteristics of any technology can not be ignored， artificial intelligence in bringing convenience， but also for telecommunications fraud and other criminal acts to provide new means and channels. Traditional telecom fraud methods often rely on a wide net， inefficient coverage of the strategy， and into the era of artificial intelligence， fraudsters use big data， machine learning and other advanced technologies to achieve accurate identification of victims and personalized fraud， greatly improving the fraud success rate and concealment. This change not only brings a serious threat to personal property security， but also poses a challenge to social stability and the construction of the rule of law. Therefore， this paper analyzes the role of artificial intelligence in telecom fraud， and discusses the main problems and countermeasures.

Keywords： artificial intelligence; Telecom fraud; Prevention and control strategy

根據(jù)公安部的統(tǒng)計，自2022年起，全國執(zhí)法部門有效打擊電信詐騙，累計破獲案件約46.4萬起，幫助群眾追回經(jīng)濟(jì)損失超3 180億元，顯著遏制了此類犯罪活動[1]。但人工智能（AI）技術(shù)的自我學(xué)習(xí)和內(nèi)容生成能力，對反電信詐騙工作提出了新的挑戰(zhàn)。因此，探討人工智能時代電信詐騙防控策略具有十分重要的現(xiàn)實意義。

1" 人工智能技術(shù)在電信詐騙中的作用

1.1 精準(zhǔn)獲取信息

在電信詐騙的初期階段，精準(zhǔn)獲取目標(biāo)受害人的信息至關(guān)重要。AI技術(shù)通過大數(shù)據(jù)分析和機(jī)器學(xué)習(xí)算法，能夠從海量的網(wǎng)絡(luò)數(shù)據(jù)中挖掘出潛在受害人的個人信息、行為習(xí)慣、經(jīng)濟(jì)狀況等關(guān)鍵數(shù)據(jù)。這些數(shù)據(jù)不僅可以幫助詐騙分子更準(zhǔn)確地篩選目標(biāo)人群，還能為后續(xù)的詐騙策略制定提供有力支持。例如，通過分析受害人的社交媒體動態(tài)、購物記錄等信息，AI技術(shù)可以預(yù)測出受害人的興趣愛好、消費(fèi)習(xí)慣等，從而制定更具針對性的詐騙方案。

1.2 設(shè)計詐騙腳本

一旦確定了目標(biāo)受害人，詐騙分子就需要設(shè)計一套吸引人的詐騙腳本。在這個過程中，AI技術(shù)同樣發(fā)揮著重要作用。AI技術(shù)可以通過自然語言處理（NLP）技術(shù)分析大量的詐騙案例和成功案例，提取出有效的詐騙話術(shù)和情節(jié)設(shè)置。同時，AI技術(shù)還能根據(jù)目標(biāo)受害人的個人特征和喜好，自動生成個性化的詐騙腳本。這些腳本不僅具有高度的欺騙性，還能在交流過程中根據(jù)受害人的反應(yīng)進(jìn)行靈活調(diào)整，提高詐騙的成功率[2]。

1.3 協(xié)助溝通交流

在電信詐騙中，溝通交流是至關(guān)重要的一環(huán)。傳統(tǒng)的電信詐騙往往依賴于人工撥打電話或發(fā)送短信，這種方式不僅效率低下，還容易暴露詐騙意圖。而AI技術(shù)的引入，則極大地改變了這一狀況。AI技術(shù)可以通過語音合成技術(shù)生成逼真的語音消息，甚至通過AI換臉技術(shù)偽造視頻通話畫面，與受害人進(jìn)行“面對面”的交流。這種交流方式不僅增強(qiáng)了詐騙的逼真性，還能在交流過程中根據(jù)受害人的反應(yīng)進(jìn)行智能應(yīng)對，使得受害人更難以察覺其中的破綻。

1.4 資金轉(zhuǎn)移支付

資金轉(zhuǎn)移支付是電信詐騙的最終目的。為了更快速、更安全地完成資金轉(zhuǎn)移，詐騙分子也在積極利用AI技術(shù)。一方面，AI技術(shù)可以通過大數(shù)據(jù)分析和機(jī)器學(xué)習(xí)算法，預(yù)測出最適合的資金轉(zhuǎn)移路徑和方式，降低被攔截和追蹤的風(fēng)險。另一方面，AI技術(shù)還可以協(xié)助詐騙分子完成資金的快速清洗和分散轉(zhuǎn)移，使得追蹤和追回工作變得更加困難。例如，利用區(qū)塊鏈技術(shù)和智能合約進(jìn)行資金轉(zhuǎn)移和洗錢操作，不僅可以提高資金的匿名性和不可追蹤性，還能在短時間內(nèi)完成大量資金的快速轉(zhuǎn)移。

2" "人工智能時代電信詐騙防控存在的主

要問題

2.1 預(yù)防困難

根據(jù)《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》，截至2022年底，中國網(wǎng)民數(shù)量已超過10.67億人，互聯(lián)網(wǎng)普及率達(dá)到75.6%。在這個高度數(shù)字化的社會中，人們每天生成大量數(shù)據(jù)，部分?jǐn)?shù)據(jù)可能在用戶未察覺時被非法搜集。這些數(shù)據(jù)構(gòu)成了一個龐大的信息網(wǎng)絡(luò)，成為AI應(yīng)用的基礎(chǔ)。現(xiàn)今，諸如ChatGPT這類的人工智能模型憑借其卓越的學(xué)習(xí)能力，極大地擴(kuò)展了信息獲取的廣度與深度。然而，這也伴隨著一系列挑戰(zhàn)，如個人隱私保護(hù)意識薄弱、網(wǎng)絡(luò)攻擊頻發(fā)以及技術(shù)系統(tǒng)中潛在的安全漏洞等，這些因素共同加劇了個人數(shù)據(jù)被泄露的風(fēng)險。盡管現(xiàn)有技術(shù)能夠在一定程度上提供防護(hù)措施，但在完全阻止信息泄露方面仍顯不足，因此對于基于信息泄露所引發(fā)的電信詐騙行為，尚缺乏有效的源頭治理手段。

另外，進(jìn)入AI時代后，這種情況為電信詐騙帶來了新的實施手段和技術(shù)助力，例如，通過自動化的方式批量生成與受害者的對話，極大地提升了犯罪效率。此外，AI技術(shù)的普及意味著即使是非專業(yè)人士也能借助類似ChatGPT的工具編寫代碼，建立釣魚網(wǎng)站。這一切都使得電信欺詐行為更加猖獗，現(xiàn)有技術(shù)手段難以應(yīng)對這一趨勢。

2.2 取證棘手

在處理電信欺詐案件時，證據(jù)收集是一項核心任務(wù)，而電子數(shù)據(jù)是此類犯罪的重要證據(jù)。實施電信詐騙的犯罪分子，尤其是那些擅長AI技術(shù)的黑客，常常隱匿在網(wǎng)絡(luò)深處。他們的犯罪手法專業(yè)性強(qiáng)，在線留下的痕跡極其難以察覺。再加上電子數(shù)據(jù)本身具有開放性、抽象性和不穩(wěn)定性等特性，這給證據(jù)的發(fā)現(xiàn)、排查、提取和保存帶來了極大的困難。負(fù)責(zé)此類案件的基層公安機(jī)關(guān)通常在程序和思路上沒有問題，但在面對復(fù)雜的電子數(shù)據(jù)時，卻顯得力不從心，不得不依賴專業(yè)技術(shù)人才的幫助。在這種情況下，揭示其背后的非法產(chǎn)業(yè)鏈條極具挑戰(zhàn)性，關(guān)鍵問題是偵查部門技術(shù)人才的短缺。進(jìn)行電子數(shù)據(jù)取證的任務(wù)，亟須具備計算機(jī)科學(xué)與網(wǎng)絡(luò)安全專業(yè)知識的專家來承擔(dān)。隨著互聯(lián)網(wǎng)和人工智能技術(shù)的不斷進(jìn)步，犯罪手法也從簡單模式演變?yōu)榫€上線下融合的模式，特別是新興犯罪類型的出現(xiàn)，對專業(yè)人才的需求更為緊迫。但實際上，偵查機(jī)關(guān)的人員配置和團(tuán)隊建設(shè)遠(yuǎn)遠(yuǎn)不能滿足這一需求，專業(yè)技術(shù)人才的缺口十分大。另外，犯罪分子在撤離作案系統(tǒng)時通常會設(shè)法消除所有活動痕跡，破壞證據(jù)，這無疑增加了人工智能犯罪偵查取證的難度。

2.3 責(zé)任難定

除了防范和證據(jù)收集方面的挑戰(zhàn)，在確定“誰應(yīng)為AI犯罪承擔(dān)責(zé)任”的問題上也存在諸多難題。在電信詐騙案件中，往往存在團(tuán)伙作案的情形，有時甚至是整個詐騙組織在運(yùn)作。依據(jù)我國現(xiàn)行法律對共犯的定義，構(gòu)成共犯需滿足以下幾點(diǎn)：首先，必須有多名參與者，且所有參與者都應(yīng)達(dá)到法定年齡并具備承擔(dān)刑事責(zé)任的能力；其次，參與者之間須有共同實施犯罪的意圖；最后，他們還必須有協(xié)同一致的犯罪行動。根據(jù)我國《刑法》，能夠被視為犯罪主體的只能是具有刑事責(zé)任能力的個人或法人實體[3]。盡管AI是由人設(shè)計并使用的工具，但在其從設(shè)計到使用的整個過程中，涉及設(shè)計者、制造商、所有者和使用者等多個環(huán)節(jié)。盡管如此，一旦AI開發(fā)完成并投入使用，理論上它可以被視為脫離了開發(fā)者主體的存在。因此，在電信欺詐案件中，如何判斷AI技術(shù)手段是否具有主觀故意、由誰來承擔(dān)AI的犯罪責(zé)任、如何針對不同情況下的AI犯罪定罪量刑等問題，在我國現(xiàn)行法律體系中尚未得到明確。

3" "人工智能時代電信詐騙防控的應(yīng)對策略

3.1 管控數(shù)據(jù)源，確保信息起始安全

隨著大數(shù)據(jù)和云計算技術(shù)的發(fā)展，個人信息保護(hù)成為防止電信詐騙的第一道防線。管控數(shù)據(jù)源不僅是為了保障公民個人隱私，更是打擊詐騙行為的重要基礎(chǔ)。數(shù)據(jù)安全指的是確保數(shù)據(jù)在整個生命周期內(nèi)，包括存儲、傳輸、訪問及使用等各個階段都能得到妥善保護(hù)。

首先，在數(shù)據(jù)存儲階段，存在著未授權(quán)訪問、數(shù)據(jù)篡改或損壞等安全隱患。為了解決這些問題，可以運(yùn)用加密算法和密鑰管理等手段來增強(qiáng)數(shù)據(jù)的安全防護(hù)。加密技術(shù)可以有效地阻止非法訪問者直接讀取數(shù)據(jù)內(nèi)容，而密鑰管理則確保只有經(jīng)過認(rèn)證的用戶才能解密數(shù)據(jù)。其次，在數(shù)據(jù)傳輸?shù)倪^程中，可以通過構(gòu)建數(shù)據(jù)標(biāo)識系統(tǒng)來保障數(shù)據(jù)的準(zhǔn)確性和完整性，這樣的系統(tǒng)類似于數(shù)據(jù)的“指紋”，能確保數(shù)據(jù)包的源與目標(biāo)正確對應(yīng)。此外，為了進(jìn)一步提升安全性，使用加密技術(shù)和安全傳輸協(xié)議能夠有效地抵御數(shù)據(jù)傳輸中途的數(shù)據(jù)攔截和篡改。再次，在數(shù)據(jù)訪問控制方面，針對可能遭遇的惡意入侵及各種破解嘗試，可以借助區(qū)塊鏈等技術(shù)解決，以強(qiáng)化用戶認(rèn)證流程和權(quán)限管理機(jī)制。這種方式不僅能夠防止未經(jīng)授權(quán)的訪問，還能追蹤數(shù)據(jù)訪問記錄，確保每一次數(shù)據(jù)調(diào)用都是合法合規(guī)的。最后，在數(shù)據(jù)使用的階段，為防止出現(xiàn)隱私泄露和數(shù)據(jù)盜用等安全問題，可以采取數(shù)據(jù)脫敏和匿名化處理等措施。這些技術(shù)手段能夠在不影響數(shù)據(jù)分析價值的前提下，去除或掩蓋掉可以直接指向個人的信息，確保數(shù)據(jù)僅在授權(quán)范圍內(nèi)被使用。

3.2 技術(shù)對抗，增強(qiáng)偵查取證技能

目前，雖然人工智能在偵查領(lǐng)域的應(yīng)用仍處于初級階段，但AI技術(shù)的引入無疑為傳統(tǒng)的偵查手段帶來了深遠(yuǎn)的影響。公安機(jī)關(guān)運(yùn)用AI技術(shù)不僅是一種偵查模式的革新，也是對偵查技巧的一種擴(kuò)展，在提升偵查效率的同時也有效降低了成本。

當(dāng)前，AI軟件已經(jīng)具備了諸如語音搜索、語音克隆、圖像生成、面部替換以及智能對話等商用功能。在海量數(shù)據(jù)的支持下，大數(shù)據(jù)模型的預(yù)測準(zhǔn)確性不斷提高，雖然這些技術(shù)極大地便利了人們的日常生活，但也可能被不法分子利用，成為新型詐騙工具。因此，技術(shù)開發(fā)者應(yīng)當(dāng)承擔(dān)起社會責(zé)任，致力于研發(fā)更加安全可靠的人工智能技術(shù)，公安機(jī)關(guān)則應(yīng)提供必要的協(xié)助和支持。通過雙方的合作，可以將人工智能技術(shù)轉(zhuǎn)化為打擊電信詐騙的強(qiáng)大工具，從被動防御轉(zhuǎn)向主動進(jìn)攻，不斷強(qiáng)化技術(shù)防范和識別能力，提高治理水平。如加強(qiáng)與科技企業(yè)的合作，共同研究電信詐騙的新趨勢和新特點(diǎn)，形成一套快速響應(yīng)機(jī)制；鼓勵技術(shù)公司開發(fā)專門用于識別和阻止電信詐騙的AI工具，如智能預(yù)警系統(tǒng)、欺詐行為分析平臺等；構(gòu)建統(tǒng)一的數(shù)據(jù)共享平臺，整合來自不同渠道的信息，利用大數(shù)據(jù)分析技術(shù)挖掘詐騙行為的規(guī)律等[4]。

3.3 完善立法，直面新型犯罪挑戰(zhàn)

為了應(yīng)對人工智能應(yīng)用所帶來的各類風(fēng)險，我國一直秉持著發(fā)展與安全并重的原則，在推動技術(shù)創(chuàng)新的同時加強(qiáng)法律法規(guī)的配套建設(shè)。尤其在近幾年，國家愈發(fā)關(guān)注新興技術(shù)領(lǐng)域的監(jiān)管。2023年7月13日，國家互聯(lián)網(wǎng)信息辦公室與其他六個部門共同發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（簡稱《暫行辦法》）指出，服務(wù)提供商必須對其所提供的人工智能服務(wù)所使用的預(yù)訓(xùn)練和微調(diào)數(shù)據(jù)的合法性承擔(dān)責(zé)任，確保這些數(shù)據(jù)未侵犯任何知識產(chǎn)權(quán)。對于涉及個人信息的數(shù)據(jù)，必須取得個人的明確授權(quán)或許可，或符合現(xiàn)行法律的其他例外情況。此外，《暫行辦法》還突出了確定責(zé)任方的重要性，并要求建立完善的數(shù)據(jù)管理及人工智能信息安全體系[5]?！稌盒修k法》第七條對數(shù)據(jù)訓(xùn)練流程做出了特定指示，目的是從源頭上識別和管理由生成式AI帶來的數(shù)據(jù)安全挑戰(zhàn)。不過，為了更有效地加強(qiáng)對AI平臺運(yùn)營商及其所有者的法律責(zé)任約束，還需要從立法角度進(jìn)一步完善個人信息保護(hù)機(jī)制，阻斷非法獲取數(shù)據(jù)的渠道，降低個人信息被不當(dāng)使用的風(fēng)險，防止生成式人工智能成為電信詐騙的媒介。

4" "結(jié)束語

綜上所述，盡管在各方面的強(qiáng)力干預(yù)下，電信詐騙活動的蔓延得到了一定的抑制，但在人工智能時代，電信詐騙的形式無疑會變得更加錯綜復(fù)雜，同時也加大了打擊和管理的難度。相關(guān)部門應(yīng)當(dāng)持續(xù)推動構(gòu)建綜合性的電信詐騙打擊和管理體系，營造出“全警打電詐、全民防電詐、全社會反電詐”的環(huán)境，積極應(yīng)對AI時代帶來的新挑戰(zhàn)，為群眾營造一個更加安全、和諧的通信環(huán)境。

參考文獻(xiàn)

[1] 薛穎．國家安全觀視角下網(wǎng)絡(luò)電信詐騙治理對策路徑研究[J]．現(xiàn)代商貿(mào)工業(yè)，2023，44（22）：164-166．

[2] 楊勝欽．從ChatGPT看AI對電信網(wǎng)絡(luò)詐騙犯罪治理的影響[J]．犯罪與改造研究，2024（05）：26-33．

[3] 徐永勝，馮俊，張敏．人工智能技術(shù)背景下新型網(wǎng)絡(luò)犯罪的治理創(chuàng)新——第二屆新型網(wǎng)絡(luò)犯罪治理智庫論壇綜述[J]．浙江警察學(xué)院學(xué)報，2023（04）：70-78．

[4] 江悅，邵爽，張金波．人工智能視域下智慧偵查發(fā)展現(xiàn)狀及前瞻[J]．中國刑事警察，2021（04）：38-41．

[5] 朱笑延．?dāng)?shù)字社會背景下電信網(wǎng)絡(luò)詐騙的刑法應(yīng)對研究[D]．長春：吉林大學(xué)，2022．