真人驅(qū)動型虛擬主播直播詐騙的犯罪及其防控

□楊懿玲

(上海政法學(xué)院,上海 青浦區(qū) 201701)

近年來,我國網(wǎng)絡(luò)直播門戶及用戶規(guī)?？焖僭鲩L,開啟了全新網(wǎng)絡(luò)社交格局。截至2023年6月,我國網(wǎng)絡(luò)直播用戶規(guī)模達(dá)7.65億,相比2022年12月增長474萬人,增長率為2.0%。[1]數(shù)據(jù)顯示網(wǎng)絡(luò)直播受眾數(shù)量呈快速上升之勢,加之2022年中銀國際證券有限公司發(fā)布《虛擬人行業(yè)深度研究:乘元宇宙之風(fēng),虛擬人行業(yè)發(fā)展加速》(以下簡稱《虛擬人行業(yè)深度研究》)指出,虛擬主播的市場規(guī)模在2030年預(yù)計(jì)高達(dá)1747.2億元。由此可見,虛擬主播將成為未來新型傳播媒介主體,通過直播間與現(xiàn)實(shí)世界互動,模糊虛擬與現(xiàn)實(shí)之間的邊界。在“web3.0 時代的網(wǎng)絡(luò)是虛擬的社會空間,也是犯罪空間”,[2]可將直播平臺視作超現(xiàn)實(shí)的虛擬社區(qū),虛擬主播屬于社區(qū)中的數(shù)字化主體,并可能在社區(qū)中實(shí)施犯罪行為。然而,隨著虛擬主播行業(yè)在軟硬件以及內(nèi)容產(chǎn)出方面呈現(xiàn)出爆發(fā)式增長,隱藏在直播面孔背后的犯罪風(fēng)險(xiǎn)亦不容小覷。因?yàn)樘摂M直播技術(shù)一旦被濫用,同樣會淪為網(wǎng)絡(luò)詐騙犯罪的助推器。

一、真人驅(qū)動型虛擬主播直播詐騙的特點(diǎn)

傳統(tǒng)的直播詐騙犯罪,根據(jù)行為的不同可分為網(wǎng)絡(luò)直播誘導(dǎo)打賞詐騙、網(wǎng)絡(luò)直播炸金花詐騙、網(wǎng)絡(luò)交友類詐騙等類型。虛擬主播根據(jù)驅(qū)動來源的不同可以分為真人驅(qū)動型虛擬主播(1)真人驅(qū)動型虛擬主播,是指真人的動作、表情等需要真人通過動捕設(shè)備或者面捕設(shè)備驅(qū)動2D/3D數(shù)字形象的虛擬數(shù)字人,其中操控虛擬形象的真人被稱之為“中之人”。例如在抖音平臺中的“金桔2049”虛擬主播。和人工智能驅(qū)動型虛擬主播(2)人工智能驅(qū)動型虛擬主播是指通過多模態(tài)技術(shù)和深度學(xué)習(xí)模型的預(yù)算結(jié)果實(shí)時或離線驅(qū)動虛擬人的語音表達(dá)、面部表情、具體動作的虛擬數(shù)字人。例如AI虛擬主播“小小撒”“康曉輝”、新華社的3D版AI合成主播“新小微”。完美日記、歐萊雅、花西子、德芙、白象等品牌,均有專屬的人工智能型虛擬主播為其帶貨。。本文所討論的真人驅(qū)動型虛擬主播直播詐騙,是指真人驅(qū)動型虛擬主播以虛假承諾、虛假抽獎的形式,誘導(dǎo)直播間觀眾打賞的行為。如2022年發(fā)生了虛擬主播誘導(dǎo)觀眾為其打賞“上艦”(3)艦長是虛擬主播的粉絲團(tuán)成員,上艦是指直播間觀眾給虛擬主播打賞一定的人民幣得以加入主播粉絲團(tuán)的行為。事件。[3]在該事件中,主播聲明在該場直播成為“艦長”均可獲得周大福小金花,并抽取現(xiàn)場一位幸運(yùn)“艦長”贈送浙江豪華大別墅一棟。當(dāng)晚直播打賞隨即超過三百萬元,但該主播由于未兌現(xiàn)其諾言,使觀眾造成了巨大的經(jīng)濟(jì)損失。由此可見,真人驅(qū)動型虛擬主播直播詐騙犯罪有以下的特點(diǎn):

(一)社會危害性大

真人驅(qū)動型的虛擬主播實(shí)施的行為依靠“中之人”的主觀意識掌控,“中之人”憑借活潑的性格、優(yōu)秀的才藝和擬人的形象收獲上百萬粉絲,人氣甚至超過部分網(wǎng)紅明星,影響力可見一斑。人工智能驅(qū)動型虛擬主播,該類虛擬主播直播帶貨時“可以通過機(jī)器學(xué)習(xí)和智能算法,根據(jù)觀眾的喜好和購買行為,根據(jù)個性化的推薦和推銷,提高銷售轉(zhuǎn)化率?！盵4]但在當(dāng)前技術(shù)背景下,“算法驅(qū)動型數(shù)字人在實(shí)施具體行為時受到人類設(shè)計(jì)和編制算法的制約,其所實(shí)施的行為完全符合人類設(shè)計(jì)和編制算法的目的。”[5]268因此,由算法控制的虛擬主播不具有獨(dú)立的意志,不會自主生成非法占有的目的,社會危害性較小。相比之下由真人操控的虛擬主播擁有“中之人”的主觀意志,不僅具備主觀上的非法目的,其客觀上也能夠?qū)嵤┰p騙行為,因此具備的危害性較大。相較傳統(tǒng)的直播詐騙而言,真人驅(qū)動型虛擬主播直播詐騙時不僅可以利用虛擬技術(shù)、網(wǎng)絡(luò)“黑產(chǎn)”技術(shù)逃避犯罪偵查,現(xiàn)有法律難以規(guī)制適用,因而具備更大的社會危害性。

(二)具備刑事責(zé)任主體資格

目前學(xué)界對虛擬主播的法律地位關(guān)注較多,多數(shù)人認(rèn)為真人驅(qū)動型虛擬主播的使用者具備責(zé)任主體資格。如有學(xué)者通過論述間接正犯的特點(diǎn),對比明確真人驅(qū)動型虛擬主播的刑事責(zé)任歸屬問題。認(rèn)為真人驅(qū)動型虛擬主播的意識和意志完全來源于驅(qū)動者,“直接追究物理空間中相應(yīng)自然人的刑事責(zé)任”即可。[5]270有學(xué)者認(rèn)為“現(xiàn)實(shí)型數(shù)字人是自然人在元宇宙的映射,由現(xiàn)實(shí)所對應(yīng)的人承擔(dān)權(quán)利與義務(wù)。”[6]由虛擬增強(qiáng)技術(shù)創(chuàng)造的現(xiàn)實(shí)型數(shù)字人指的就是真人驅(qū)動型虛擬主播,而“現(xiàn)實(shí)所對應(yīng)的人”指的是“中之人”。本文贊成以上觀點(diǎn),真人驅(qū)動型虛擬主播顧名思義就是需要真人通過動作捕捉設(shè)備操縱的虛擬主播[7],具備辨認(rèn)能力、控制能力的是背后的真人操縱者,其實(shí)施的直播詐騙行為由中之人承擔(dān)刑事責(zé)任。

(三)犯罪手段隱蔽性強(qiáng)

第一,犯罪主體的不確定性。使用變聲技術(shù)的虛擬直播間與眾普遍認(rèn)為的“所見所聞即為真相”存在顛覆性的認(rèn)知。因?yàn)橛^眾“所見”為虛擬形象,變聲器技術(shù)使“所聞”也存在虛假的可能。在這種情況下,犯罪主體“中之人”與虛擬形象二者的性別是否統(tǒng)一、直播時“中之人”是否被更換,這些行為都難以被觀眾、平臺察覺。第二,犯罪證據(jù)難以保存。直播間的音頻、彈幕等實(shí)時發(fā)送、轉(zhuǎn)瞬即逝,因此犯罪證據(jù)則只能通過截屏或錄屏保存,導(dǎo)致公安機(jī)關(guān)難以捕捉到證據(jù)。

(四)犯罪風(fēng)險(xiǎn)小、收益大

第一,犯罪形式新穎,但規(guī)制不力。目前學(xué)術(shù)界對虛擬主播的法律問題研究并不多,研究成果呈現(xiàn)碎片化,多側(cè)重研究人工智能驅(qū)動型虛擬主播的民事侵權(quán)行為或者是否具備犯罪主體資格。真人驅(qū)動型虛擬主播實(shí)施直播詐騙行為是新型犯罪模式,但現(xiàn)有法律規(guī)制水平滯后。同時,未統(tǒng)一建立直播行業(yè)行政監(jiān)管體系,執(zhí)法收效甚微。第二,詐騙受害的涉眾性明顯。真人驅(qū)動型虛擬主播特殊的受眾群體中是青少年群體,經(jīng)過研究發(fā)現(xiàn),“虛擬主播的受眾群體以‘Z 世代’的青少年為主”。[8]處于青春期的少年由于同輩壓力、心理變化等原因,渴求真人驅(qū)動型虛擬直播這類新型的網(wǎng)絡(luò)交流方式。他們通過與虛擬主播的言語互動、打賞等行為獲得認(rèn)同感、展現(xiàn)自我價(jià)值,但這些行為需要得到正確引導(dǎo)。《虛擬人行業(yè)深度研究》報(bào)告顯示:2020-2021年B站虛擬主播直播打賞營收高速增長,2021年整年保持100%以上的同比增速,2021年12月B站虛擬主播直播打賞收入高達(dá)6940萬元。而艾媒咨詢發(fā)布的《2023年中國虛擬主播行業(yè)研究報(bào)告》(以下簡稱《艾媒報(bào)告》)顯示:有近90%的受訪者愿意為虛擬主播消費(fèi),且有36.7%的受訪者表示未來會增加對虛擬主播的消費(fèi)意愿。由此可見,絕大多數(shù)的受訪者都愿意為其喜愛的虛擬主播直播“買單”。然而,這也意味著一旦虛擬主播被濫用為行騙門戶,則被騙的青少年受眾多、波及范圍廣,且涉案金額較大,其危害后果不容小覷。

二、真人驅(qū)動型虛擬主播直播詐騙風(fēng)險(xiǎn)來源分析

根據(jù)真人驅(qū)動型虛擬主播直播詐騙犯罪的特點(diǎn)以及發(fā)展現(xiàn)狀,從虛擬主播所處的網(wǎng)絡(luò)環(huán)境、虛擬主播自身發(fā)展現(xiàn)狀、直播監(jiān)管部門三方角度分析犯罪風(fēng)險(xiǎn)的來源。

(一)虛擬主播直播成本畸低

第一,畸低的虛擬形象制作成本,反向刺激了犯罪分子的詐騙動機(jī)。元創(chuàng)島公司推出的虛擬主播月租套餐僅為599元,用戶只需準(zhǔn)備手機(jī)與電腦即可開播,還可以享受手動捏臉系統(tǒng)、40多種虛擬形象等服務(wù)。[9]由此,花費(fèi)百元即可獲得一個優(yōu)質(zhì)形象的主播,可見犯罪成本低。第二,開播的門檻較低,處于野蠻生長狀態(tài)。目前并未要求真人驅(qū)動型虛擬主播開播需要經(jīng)過培訓(xùn)或者考核,只要用戶有設(shè)備即可開播。雖然在2021年廣播影視人才交流中心曾在北京等地開展針對網(wǎng)絡(luò)視聽主播的線上培訓(xùn),線上考試合格者可獲得合格證書,但該許可證的性質(zhì)并非資格證書,而是培訓(xùn)合格的證明書?！毒W(wǎng)絡(luò)主播行為規(guī)范》第十三條第二款(4)《網(wǎng)絡(luò)主播行為規(guī)范》第十三條第二款“對于需要較高專業(yè)水平(如醫(yī)療衛(wèi)生、財(cái)經(jīng)金融、法律、教育)的直播內(nèi)容,主播應(yīng)取得相應(yīng)執(zhí)業(yè)資質(zhì),并向直播平臺進(jìn)行執(zhí)業(yè)資質(zhì)報(bào)備,直播平臺應(yīng)對主播進(jìn)行資質(zhì)審核及備案?！闭J(rèn)為只有在涉及較高專業(yè)水平直播內(nèi)容時,才會要求虛擬主播取得相應(yīng)的執(zhí)業(yè)資質(zhì)。由此,真人驅(qū)動型虛擬主播極低的開通門檻及制作成本,為直播詐騙犯罪污言注入強(qiáng)勁動力。

(二)網(wǎng)絡(luò)“黑產(chǎn)”猖獗

試想即使平臺封禁主播賬號,“中之人”仍可通過非法渠道獲得直播賬號,繞過開播前的人臉識別系統(tǒng)后再使用變聲技術(shù)偽裝身份,繼續(xù)實(shí)施直播詐騙行為。這些“黑產(chǎn)”技術(shù)都已成熟并滲透在網(wǎng)絡(luò)世界中,直播平臺自然難以逃脫。可以說,網(wǎng)絡(luò)“黑產(chǎn)”能為真人驅(qū)動型虛擬主播直播詐騙犯罪逃避偵查提供重要的技術(shù)幫助。

1.惡意注冊賬號的支撐

近年來惡意注冊賬號現(xiàn)象在直播平臺十分猖獗,2020年字節(jié)跳動安全中心曾對此類“黑產(chǎn)”開展技術(shù)治理行動,在行動中每周攔截黑產(chǎn)作弊帳號的注冊請求超四百萬次。由此可見,此種現(xiàn)象能夠成為虛擬主播詐騙犯罪的來源,一方面是因?yàn)椤霸谛畔⑦^度泛濫的當(dāng)下,用戶的稀缺性注意力是各大平臺型媒體爭奪的目標(biāo)?！盵10]直播平臺允許手機(jī)號即可注冊賬號,是惡意注冊賬號現(xiàn)象在平臺盛行的重要原因。另一方面,對詐騙分子而言“為了在網(wǎng)絡(luò)空間從事違法犯罪活動,就會對抗網(wǎng)絡(luò)身份的實(shí)名制,因而出現(xiàn)互聯(lián)網(wǎng)賬號的惡意注冊現(xiàn)象”。[11]可見,惡意注冊賬號旨在掩蓋主播真實(shí)身份,這就給詐騙主播逃避偵查提供支撐。盡管如此,目前僅有抖音平臺表明要完善虛擬主播的注冊機(jī)制,(5)《人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》指出:“使用虛擬人進(jìn)行直播,或創(chuàng)建以虛擬人為人設(shè)的賬號,必須對相應(yīng)的虛擬人形象在平臺注冊。”其他的直播平臺似乎仍未知完善虛擬主播注冊機(jī)制的重要性。

2.“人臉代過”的審查漏洞

所謂“人臉代過”,即可幫助犯罪人繞過人臉識別認(rèn)證系統(tǒng)的“黑產(chǎn)”技術(shù)。比如,2019年,湖南的胡某、王某等人成立“人臉代過”工作室,使用非法獲取的公民個人信息制作用于繞開網(wǎng)絡(luò)游戲“地下城與勇士”及其他網(wǎng)絡(luò)平臺的人臉識別、解封游戲賬號或平臺賬號的人臉識別視頻。該案非法獲取的個人信息總計(jì)四萬多條,涉及金額高達(dá)十萬元。(6)廣東省從化市人民法院(2021)粵0117刑初159號判決書。2019年12月16日起,被告人趙愷與楊某某共謀,由楊某某通過“照片活化技術(shù)”(7)所謂“照片活化技術(shù)”,是指將人臉照片制作成3D動態(tài)人臉視頻的技術(shù),該動態(tài)人臉視頻可通過實(shí)人認(rèn)證系統(tǒng)。此技術(shù)屬于“人臉代過”技術(shù)的組成部分。制作動態(tài)人臉視頻破解實(shí)名認(rèn)證環(huán)節(jié),違規(guī)在上海住建委行政服務(wù)中心平臺的行業(yè)從業(yè)人員信息庫中錄入身份信息。(8)上海市徐匯區(qū)人民法院(2020)滬0104刑初732號判決書?？梢?“人臉代過”“黑產(chǎn)”仍有較大規(guī)模的應(yīng)用市場,在直播平臺中勢必同樣滲透著“人臉代過”的技術(shù)服務(wù)。

3.“變聲器”技術(shù)的濫用

“變聲器”技術(shù)給直播間帶來娛樂效果的同時,還為偽裝主播真實(shí)身份提供技術(shù)幫助。比如,劉真通過某網(wǎng)絡(luò)直播平臺直播加上被害人微信后,虛構(gòu)自己為武漢傳媒大學(xué)的女大學(xué)生“邱雨婷”的身份。并使用變聲器變換為女聲,騙被害人的交友信任。后以親人去世、家里欠債等理由,通過微信轉(zhuǎn)賬、微信紅包等陸續(xù)騙取被害人人民幣共計(jì)3萬元。(9)浙江省平陽縣人民法院(2019)浙0326刑初966號判決書。在普通直播詐騙中濫用變聲技術(shù)就足以為犯罪人帶來極強(qiáng)的身份偽裝,更何況在虛擬主播的直播間濫用變聲技術(shù)了,其偽裝的隱蔽性唯有過之而無不及。變聲技術(shù)的濫用容易誤導(dǎo)觀眾,極大減少詐騙分子的暴露風(fēng)險(xiǎn)及違法成本。

(三)執(zhí)法懲戒力度不足

從2018年至2023年,針對網(wǎng)絡(luò)直播現(xiàn)象以及虛擬主播的行為規(guī)范相關(guān)管理部門總共發(fā)布了11項(xiàng)規(guī)定(見表1)。在這些規(guī)定中,管理部門僅在各自的職責(zé)領(lǐng)域內(nèi)宏觀上強(qiáng)調(diào)了要落實(shí)互聯(lián)網(wǎng)直播服務(wù)提供者與虛擬主播的責(zé)任,但未提供可行的落實(shí)政策。[12]如《網(wǎng)絡(luò)主播行為規(guī)范》第十七條(10)《網(wǎng)絡(luò)主播行為規(guī)范》第十七條:“對問題性質(zhì)嚴(yán)重、多次出現(xiàn)問題且屢教不改的網(wǎng)絡(luò)主播,應(yīng)當(dāng)封禁賬號,將相關(guān)網(wǎng)絡(luò)主播納入“黑名單”或“警示名單”,不允許以更換賬號或更換平臺等形式再度開播。”與《網(wǎng)絡(luò)直播營銷管理辦法(試行)》第十四條第三款(11)《網(wǎng)絡(luò)直播營銷管理辦法(試行)》第十四條第三款:“直播營銷平臺應(yīng)當(dāng)建立黑名單制度,將嚴(yán)重違法違規(guī)的直播營銷人員及因違法失德造成惡劣社會影響的人員列入黑名單,并向有關(guān)主管部門報(bào)告?！敝卸贾赋鰬?yīng)構(gòu)建直播平臺“黑名單”系統(tǒng),但在實(shí)踐中此規(guī)定并未得到有效落實(shí)。若沒有可行的落實(shí)政策與之同步,那么這些規(guī)定都僅限于“紙上談兵”。同時,還體現(xiàn)出這些管理部門內(nèi)存在治理內(nèi)容重疊、權(quán)責(zé)交叉的問題,導(dǎo)致執(zhí)法懲戒力度不足,使直播平臺怠于履行監(jiān)管義務(wù)。

表1 2018-2023年行政機(jī)關(guān)針對網(wǎng)絡(luò)直播行業(yè)與虛擬主播的部分政策及規(guī)定

三、虛擬主播直播詐騙規(guī)制措施

真人驅(qū)動型虛擬主播的直播詐騙行為與傳統(tǒng)直播詐騙行為之間是特殊與一般的關(guān)系,前者特殊在于使用虛擬人技術(shù),但二者的客觀行為十分相似。根據(jù)現(xiàn)有研究,可從以下五個角度規(guī)制傳統(tǒng)的網(wǎng)絡(luò)直播詐騙犯罪:第一,根據(jù)情境預(yù)防理論規(guī)制直播詐騙犯罪。第二,治理網(wǎng)絡(luò)直播詐騙犯罪應(yīng)當(dāng)以社會治理水平提升為切入點(diǎn),實(shí)施透明化管理、規(guī)范管理體系、提高監(jiān)管能力和加強(qiáng)法律建設(shè)。[12]第三,根據(jù)犯罪行為模式采取階段式預(yù)防,在犯罪預(yù)備階段直播平臺應(yīng)當(dāng)落實(shí)主播的黑名單制度,提高觀眾防范意識,在犯罪著手階段應(yīng)當(dāng)完善并確保執(zhí)行直播行業(yè)自律公約。[13]第四,從增加社會參與的角度規(guī)制直播詐騙犯罪,包括規(guī)范直播平臺運(yùn)行、增強(qiáng)普通群眾的防范意識,加強(qiáng)對情感社交軟件平臺的管理。[14]因此對真人驅(qū)動型虛擬主播的直播詐騙犯罪規(guī)制,先針對特殊性問題規(guī)制,再借鑒傳統(tǒng)網(wǎng)絡(luò)直播詐騙的規(guī)制方法去治理共性問題即可。

(一)完善真人驅(qū)動型虛擬主播的管理機(jī)制

虛擬主播帶領(lǐng)人類從“實(shí)”走向“虛”,但對其監(jiān)管必須從“虛”走向“實(shí)”。真人驅(qū)動型虛擬主播與傳統(tǒng)直播詐騙的特殊性問題在于虛擬技術(shù)增加了犯罪的隱蔽性。對虛擬主播采取實(shí)證認(rèn)證的身份約束機(jī)制可以降低犯罪隱蔽性,進(jìn)而有效解決主播道德失范、亂象叢生的問題。[15]

1.完善實(shí)名認(rèn)證機(jī)制

完善虛擬主播注冊實(shí)名制,是指直播平臺應(yīng)完善“中之人”的真實(shí)身份信息,這些信息一經(jīng)提交只有提供正當(dāng)?shù)睦碛蓵r才可以修改。不僅如此,還應(yīng)完善多次動態(tài)實(shí)人認(rèn)證制度,即在開播后要求主播進(jìn)行不定時的實(shí)人認(rèn)證,對比開播時的人臉信息是否與開播前提交的信息一致。該機(jī)制在《網(wǎng)絡(luò)直播營銷管理辦法》《網(wǎng)絡(luò)直播營銷管理辦法》第八條第二款中規(guī)定:“直播營銷平臺應(yīng)當(dāng)建立直播營銷人員真實(shí)身份動態(tài)核驗(yàn)機(jī)制,在直播前核驗(yàn)所有直播營銷人員身份信息,對與真實(shí)身份信息不符的,不得為其提供直播發(fā)布服務(wù)。”中已被提出,但尚未獲得廣泛應(yīng)用。動態(tài)實(shí)人認(rèn)證技術(shù)可以大大降低犯罪的隱蔽性,具體體現(xiàn)在真人驅(qū)動型虛擬主播開播者與賬號注冊者必須相同,同時精準(zhǔn)打擊惡意注冊賬號與“人臉代過”“黑產(chǎn)”技術(shù)的濫用。

2.完善準(zhǔn)入機(jī)制

第一,虛擬主播開播必須持有職業(yè)資格證?！耙嬲貙W(wǎng)絡(luò)主播行業(yè)進(jìn)行監(jiān)管,必須提高準(zhǔn)入門檻,開設(shè)網(wǎng)絡(luò)主播從業(yè)資格證管理制度,讓網(wǎng)絡(luò)主播持‘真證’上崗。”[16]由此可見,無論直播內(nèi)容是否涉及專業(yè)領(lǐng)域,虛擬主播都應(yīng)獲取職業(yè)資格證。由人力資源部門將虛擬主播的職業(yè)資格納入國家職業(yè)資格目錄中,并沿用廣播影視人才交流中心的培訓(xùn)方式。培訓(xùn)后再對虛擬主播的道德素養(yǎng)、法律常識等內(nèi)容進(jìn)行考核,合格者獲得國家廣播電視總局頒發(fā)的職業(yè)資格證書。第二,直播平臺、經(jīng)紀(jì)機(jī)構(gòu)應(yīng)當(dāng)健全虛擬主播日常考核機(jī)制,把用戶評價(jià)情況以及基礎(chǔ)法律常識兩方面納入日常考評體系中。日?？己瞬粌H可以讓虛擬主播主動學(xué)習(xí)直播相關(guān)法律知識,還可對潛在的犯罪人起到教育、警示作用。

(二)強(qiáng)化平臺對“黑產(chǎn)”的技術(shù)阻截

直播平臺應(yīng)積極預(yù)防與治理網(wǎng)絡(luò)黑產(chǎn),強(qiáng)化對“黑產(chǎn)”的阻截技術(shù)?！爸卫矶桃曨l平臺亂象的關(guān)鍵在于認(rèn)清‘科技平臺論’的謬誤”,[17]即直播平臺不能只享受流量利益,卻回避應(yīng)履行的監(jiān)管義務(wù)。直播平臺在網(wǎng)絡(luò)黑產(chǎn)治理方面有天然的行業(yè)和技術(shù)優(yōu)勢,因此整治網(wǎng)絡(luò)“黑產(chǎn)”時不會陷入被動治理的困境。具體來說,直播平臺從著重以下幾個方面阻截“黑產(chǎn)”:

第一,提高審核直播內(nèi)容的技術(shù)水平與效率,及時捕獲“黑產(chǎn)”線索。以往直播平臺依靠人工審核,雖能保證正確率但難以保證效率。所以應(yīng)以人工智能審核為主、人工審核為輔,在加快審核速度的同時保證準(zhǔn)確率。計(jì)算機(jī)智能程序可以根據(jù)賬號流量數(shù)據(jù)、直播時頁面敏感詞匯、實(shí)人驗(yàn)證情況、用戶舉報(bào)次數(shù)等內(nèi)容快速篩選出疑似違規(guī)賬號后,再由真人進(jìn)行審核。在直播間內(nèi)建立快速舉報(bào)渠道,及時獲取違法犯罪證據(jù)轉(zhuǎn)交警方。

第二,管控“變聲器”技術(shù)的濫用?！熬W(wǎng)絡(luò)直播是指依托互聯(lián)信息網(wǎng)傳播媒介,實(shí)時向社會公眾發(fā)布視頻、音頻、圖文等信息的活動?！盵18]直播平臺作為傳媒工具,對具有娛樂性質(zhì)的變聲技術(shù)有依賴性,不宜全面禁止使用“變聲器”。但需要在平臺確認(rèn)該虛擬主播無欺詐風(fēng)險(xiǎn)后才能使用,并在獲批的直播間封面用加粗文字提醒觀眾。

第三,加強(qiáng)實(shí)人認(rèn)證系統(tǒng)安全性。直播平臺在實(shí)人認(rèn)證環(huán)節(jié)中增加隨機(jī)動作,確保用戶認(rèn)證時網(wǎng)絡(luò)環(huán)境的安全,可以較大程度防控“人臉代過”行為。與此同時,也要注意用戶人臉信息的保護(hù)問題,在用戶規(guī)則中說明平臺存儲人臉信息的期限與用途,在存儲期間保護(hù)用戶個人信息達(dá)到期限時及時模糊處理,以上內(nèi)容均應(yīng)在用戶實(shí)人認(rèn)證時以彈窗、加粗紅色字體等方式提示、告知用戶。

(三)加大執(zhí)法懲戒的力度

第一,凝聚行政資源,合力治理直播亂象。由于直播平臺的行政部門之間存在“各自為政”現(xiàn)象,導(dǎo)致治理職責(zé)重疊、行政資源浪費(fèi)。應(yīng)構(gòu)建以國家互聯(lián)網(wǎng)信息中心部門為核心樞紐,聯(lián)通國家廣播電視總局、文化和旅游部、工業(yè)和信息化部、國家市場監(jiān)督管理總局、公安部等管理部門的互聯(lián)網(wǎng)直播行業(yè)管理體系。管理部門應(yīng)為防控虛擬技術(shù)滋生的犯罪行為提供前置性預(yù)防對策,加大對違規(guī)網(wǎng)絡(luò)直播平臺的懲戒力度,并全網(wǎng)通報(bào)批評違規(guī)直播平臺。當(dāng)網(wǎng)絡(luò)監(jiān)管等管理部門嚴(yán)厲懲處違規(guī)直播平臺、公安機(jī)關(guān)迅速破案,雙方合力治理之下必能降低真人驅(qū)動型虛擬主播直播詐騙犯罪的機(jī)率。

第二,建立共享的“黑名單”制度,切斷犯罪循環(huán)圈。“構(gòu)建‘黑名單’制度能夠增加犯罪分子的犯罪成本,具體體現(xiàn)在不法分子在實(shí)施違法行為被發(fā)現(xiàn)一次后就必須更換手機(jī)號等個人信息?！盵19]構(gòu)建“黑名單”制度的意義在于,違法犯罪的真人驅(qū)動型虛擬主播無法再次開播,從而切斷犯罪的循環(huán)圈。由此,構(gòu)建直播平臺與網(wǎng)監(jiān)部門的“黑名單”系統(tǒng)實(shí)有必要,應(yīng)當(dāng)納入發(fā)放直播平臺營業(yè)許可證(12)直播平臺的營業(yè)許可證主要是指四種證書,即《網(wǎng)絡(luò)文化經(jīng)營許可證》《互聯(lián)網(wǎng)新聞信息服務(wù)許可證》《互聯(lián)網(wǎng)信息服務(wù)業(yè)務(wù)經(jīng)營許可證》《信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證》。其中,直播平臺獲得《信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證》后,還需要向工業(yè)和信息化部門進(jìn)行備案。的必要條件中。

然而正如前文所述,由于缺少相應(yīng)的落實(shí)政策,導(dǎo)致“黑名單”系統(tǒng)難以搭建。但從直播平臺角度出發(fā),維護(hù)“黑名單系統(tǒng)”不僅需要耗費(fèi)直播平臺的技術(shù)與人力資源,賬號被拉入“黑名單”還會對平臺流量造成不良影響,具有商業(yè)化性質(zhì)的直播平臺自然十分排斥該制度。由于行政機(jī)關(guān)從未強(qiáng)制要求直播平臺共同加入“黑名單”系統(tǒng),因此自愿加入的平臺只有少部分。只有當(dāng)所有的直播平臺統(tǒng)一加入“黑名單”系統(tǒng)時,才能控制犯罪的擴(kuò)張風(fēng)險(xiǎn)?？傊?應(yīng)當(dāng)先由國家網(wǎng)信辦牽頭,以地方各省市網(wǎng)信辦為主線再精確到區(qū)、縣級網(wǎng)信辦,以此為脈絡(luò)構(gòu)建“黑名單”系統(tǒng)。當(dāng)直播平臺將某虛擬主播的賬戶拉入“黑名單”后,網(wǎng)信辦系統(tǒng)再負(fù)責(zé)對賬號二次審核再將該賬號信息上傳至“黑名單”中。既能最大程度上降低直播平臺的沉沒成本,又能真正達(dá)到整治違法違規(guī)主播的效果?！皩τ诰W(wǎng)絡(luò)直播的規(guī)制,不應(yīng)過度依賴強(qiáng)制性手段,還應(yīng)適當(dāng)引入柔性手段?！盵20]因此,行政機(jī)關(guān)在指導(dǎo)直播平臺規(guī)范運(yùn)營時,可以在全網(wǎng)表彰表現(xiàn)出色的直播平臺。

(四)深入開展反詐宣傳教育

被害人受騙的主要原因是對網(wǎng)絡(luò)詐騙手法的甄別意識不強(qiáng),這主要與犯罪類型新穎、直播平臺與行政機(jī)關(guān)的宣教力度不強(qiáng)有關(guān)。直播平臺與行業(yè)管理部門共同協(xié)作,利用線上與線下相結(jié)合的方式展開對受眾群體的反詐宣教。一方面,利用短視頻的傳播優(yōu)勢,加大反詐曝光度。直播平臺將真人驅(qū)動型虛擬主播詐騙行為制作成短視頻當(dāng)用戶在直播間大額打賞時自動彈出提醒用戶。另一方面,創(chuàng)新線下反詐宣教方式,筑牢反詐防線。針對特殊的青少年受眾群體,公安機(jī)關(guān)可與心理醫(yī)生共同在校園開展防控真人驅(qū)動型虛擬主播直播詐騙、青春期心理認(rèn)同感的主題宣講[14],在廣泛提高青少年受眾群體的反詐意識的同時呵護(hù)其心理健康。直播平臺和公安機(jī)關(guān)在宣傳以上反詐內(nèi)容時還應(yīng)鼓勵公民受騙后及時報(bào)警,提供犯罪線索既節(jié)省司法資源還能減少網(wǎng)絡(luò)犯罪黑數(shù)現(xiàn)象。

四、結(jié)語

可以說,正是因?yàn)樘摂M技術(shù)致使犯罪手段的隱蔽性強(qiáng)、難以追蹤使用者的真實(shí)身份,導(dǎo)致一些犯罪分子逃脫制裁,催生了一定的違法犯罪黑數(shù)。對此,直播平臺應(yīng)當(dāng)加強(qiáng)審查監(jiān)測的能力,完善真人驅(qū)動型虛擬主播的管理,識別詐騙賬戶后及時發(fā)布防騙警示,配合網(wǎng)監(jiān)部門將賬戶拉入“黑名單”系統(tǒng)永久封禁。同時,及時轉(zhuǎn)交違法線索給行政執(zhí)法機(jī)構(gòu)進(jìn)行處罰,將犯罪線索轉(zhuǎn)交司法機(jī)關(guān)處理。真人驅(qū)動型虛擬主播的受眾群體提升識別該類虛擬直播詐騙風(fēng)險(xiǎn)與防范意識,能夠有效防止?jié)撛诘氖芎φ呤茯_。受眾群體及時報(bào)警處理能夠減少網(wǎng)絡(luò)犯罪黑數(shù)、營造清朗的網(wǎng)絡(luò)直播平臺。一言以蔽之,只有在直播平臺、政府、用戶三方的協(xié)力共舉下,才能確保直播平臺不致淪為真人驅(qū)動型虛擬主播詐騙犯罪的集散場。