網(wǎng)絡(luò)輿情事件中的謠言傳播與智能化治理

摘要

網(wǎng)絡(luò)謠言的生成與傳播始終是網(wǎng)絡(luò)輿情的重要誘因與推力，智媒時(shí)代，在信息技術(shù)的加持下，兩者的耦合關(guān)系更加凸顯，網(wǎng)絡(luò)謠言也呈現(xiàn)出定制化生成、精準(zhǔn)化傳播、智能化擴(kuò)散的新特征，加劇了對(duì)網(wǎng)絡(luò)輿論環(huán)境、社會(huì)秩序和公共安全的負(fù)面影響。本文旨在通過(guò)典型案例分析來(lái)研究網(wǎng)絡(luò)輿情事件中謠言傳播的特征，在此基礎(chǔ)上，結(jié)合互聯(lián)網(wǎng)平臺(tái)和媒體機(jī)構(gòu)的技術(shù)探索實(shí)踐，嘗試從信源、內(nèi)容、傳播三個(gè)層面提出網(wǎng)絡(luò)謠言智能化治理策略，以期為網(wǎng)絡(luò)空間治理、防范輿情風(fēng)險(xiǎn)提供參考。

關(guān)鍵詞

網(wǎng)絡(luò)謠言 網(wǎng)絡(luò)輿情 人工智能 社會(huì)風(fēng)險(xiǎn)

網(wǎng)絡(luò)謠言治理是互聯(lián)網(wǎng)信息內(nèi)容治理的重要部分。不同于傳統(tǒng)媒體時(shí)代，大眾傳播模式下的新聞報(bào)道有著嚴(yán)格規(guī)范的把關(guān)流程，智能時(shí)代的今天，網(wǎng)絡(luò)信息的數(shù)量過(guò)載、裂變式傳播和網(wǎng)民媒介素養(yǎng)的不對(duì)稱，增加了獲取事實(shí)信息的難度，傳統(tǒng)把關(guān)模式不再行之有效。人工智能技術(shù)的深度發(fā)展也進(jìn)一步驅(qū)動(dòng)了網(wǎng)絡(luò)謠言加速向智能化網(wǎng)絡(luò)謠言演化，催生出面向特定個(gè)體群體或機(jī)構(gòu)的定制化謠言，以及逼真模擬與合成音視頻內(nèi)容的深度偽造謠言。麥克唐納提到每個(gè)人認(rèn)為自己看到了破碎真相的全部[1]，新型網(wǎng)絡(luò)謠言內(nèi)容與傳播形態(tài)使謠言容易在基于網(wǎng)民利益和心理訴求所形成的強(qiáng)互動(dòng)的社群傳播催化下，演化成為網(wǎng)絡(luò)空間的優(yōu)勢(shì)意見(jiàn)，進(jìn)而推動(dòng)網(wǎng)絡(luò)公共事件的發(fā)酵或改變輿情事件進(jìn)程。因此，針對(duì)網(wǎng)絡(luò)輿情事件中的新型謠言生產(chǎn)和傳播模式下智能化治理策略的研究，對(duì)于疏解社會(huì)情緒，防范社會(huì)風(fēng)險(xiǎn)，凈化網(wǎng)絡(luò)環(huán)境具有重要意義。

一、網(wǎng)絡(luò)謠言與網(wǎng)絡(luò)輿情的耦合關(guān)系

網(wǎng)絡(luò)謠言與網(wǎng)絡(luò)輿情往往相互影響、相互作用，所帶來(lái)的社會(huì)風(fēng)險(xiǎn)和負(fù)面影響日益凸顯。伴隨網(wǎng)絡(luò)傳播深度與廣度的拓展，熱點(diǎn)事件滋生謠言的土壤仍將長(zhǎng)期存在，對(duì)網(wǎng)絡(luò)謠言和網(wǎng)絡(luò)輿情的耦合關(guān)系的厘清，將有助于把握此類謠言傳播的特殊性。

網(wǎng)絡(luò)輿情與網(wǎng)絡(luò)謠言相伴而生。網(wǎng)絡(luò)輿情與網(wǎng)絡(luò)謠言往往共同作用于網(wǎng)絡(luò)輿論環(huán)境。網(wǎng)絡(luò)輿情事件演化過(guò)程中，會(huì)圍繞著網(wǎng)民關(guān)切問(wèn)題和次生輿情議題，產(chǎn)生各種各樣的網(wǎng)絡(luò)謠言。而與社會(huì)熱點(diǎn)問(wèn)題緊密關(guān)聯(lián)，能夠聚焦網(wǎng)民注意力或能夠引發(fā)公眾“集體記憶”的網(wǎng)絡(luò)謠言，更容易誘發(fā)“變異進(jìn)化”，成為網(wǎng)絡(luò)輿情事件重要的輿情客體。例如2016年關(guān)于“上海女孩逃離江西農(nóng)村”的相關(guān)謠言，是江蘇省的一名女網(wǎng)民春節(jié)前與丈夫吵架，不愿去丈夫老家過(guò)年而獨(dú)自留守家中，于是發(fā)帖宣泄情緒，內(nèi)容是虛構(gòu)的。但因其發(fā)生在春節(jié)期間，觸及城鄉(xiāng)差異、傳統(tǒng)習(xí)俗等社會(huì)問(wèn)題，快速引起網(wǎng)民熱議。同時(shí)存在惡意炮制謠言制造網(wǎng)絡(luò)熱點(diǎn)事件的現(xiàn)象，或在基礎(chǔ)事實(shí)之上，通過(guò)移花接木、添油加醋等手段，形成網(wǎng)絡(luò)輿情的傳播動(dòng)力。

網(wǎng)絡(luò)輿情與網(wǎng)絡(luò)謠言相互推動(dòng)。網(wǎng)絡(luò)輿情事件發(fā)展的不同階段會(huì)為網(wǎng)絡(luò)謠言的滋生提供土壤，并使網(wǎng)絡(luò)謠言表現(xiàn)出不同的傳播特點(diǎn)。如輿情發(fā)酵期，信息的有限性和不對(duì)稱性會(huì)導(dǎo)致公眾對(duì)部分失實(shí)內(nèi)容的偏信與傳播；輿情爆發(fā)期，隨著討論議題和群體性觀點(diǎn)的逐漸固化，從眾心理會(huì)促使易感人群形成謠言依賴；輿情蔓延期，輿情應(yīng)對(duì)能力不足會(huì)加劇謠言的持續(xù)演變和發(fā)展。同時(shí)，網(wǎng)絡(luò)謠言的擴(kuò)散也會(huì)不同程度地影響輿情事件走向，網(wǎng)絡(luò)謠言易導(dǎo)致輿情方向的偏離，圍繞謠言所形成的大規(guī)模傳播集群也會(huì)刺激輿情周期呈現(xiàn)波動(dòng)式反復(fù)特征。例如，在2021年“成都49名中學(xué)生墜亡”事件中，校方發(fā)布官方調(diào)查結(jié)果后，微博、知乎等平臺(tái)爆出所謂“知情人”的“內(nèi)幕消息”，引發(fā)大量網(wǎng)民質(zhì)疑，刺激輿情熱度上升。

網(wǎng)絡(luò)謠言與網(wǎng)絡(luò)輿情事件會(huì)在相互影響的過(guò)程中產(chǎn)生反作用力，加速彼此消退。當(dāng)分散性的網(wǎng)絡(luò)謠言激增，會(huì)轉(zhuǎn)移公眾對(duì)中心輿情事件的關(guān)注，降低群體性意見(jiàn)的同質(zhì)性，從而阻礙輿情事件發(fā)展，謠言被證偽也會(huì)加速輿情衰退。而有效的信息公開(kāi)、事件處置以及輿論引導(dǎo)能夠快速抑制網(wǎng)絡(luò)謠言傳播，加速網(wǎng)絡(luò)謠言瓦解。例如，在2022年“豐縣生育八孩女子”事件中，因部分網(wǎng)民發(fā)布該母親為四川失聯(lián)女子李瑩等相關(guān)謠言，導(dǎo)致輿情反復(fù)升溫，最終在江蘇省委省政府調(diào)查組開(kāi)展深入調(diào)查并通報(bào)事件處置情況后，相關(guān)謠言才被擊破，輿情逐漸消退。

二、網(wǎng)絡(luò)輿情事件中的謠言特征分析

近年來(lái)，因網(wǎng)絡(luò)謠言傳播而引發(fā)的輿情事件越來(lái)越高發(fā)，網(wǎng)絡(luò)聚焦和放大效應(yīng)更加明顯，本文嘗試通過(guò)典型案例來(lái)研究網(wǎng)絡(luò)輿情事件中謠言的信源特征、內(nèi)容特征和傳播特征，以期為此類網(wǎng)絡(luò)謠言治理提供依據(jù)。

（一）樣本選取與類目編碼

本文選取了2018年至2023年30例較為典型的由網(wǎng)絡(luò)謠言引發(fā)的輿情事件，涵蓋近年來(lái)較有代表性的網(wǎng)絡(luò)謠言議題，如表1所示。

根據(jù)研究目標(biāo)和樣本特點(diǎn)，結(jié)合網(wǎng)絡(luò)謠言類型劃分和判定標(biāo)準(zhǔn)，對(duì)30個(gè)樣本進(jìn)行類目劃分，并對(duì)每一級(jí)類目進(jìn)行編碼，如表2所示。

（二）交互信度檢測(cè)

為了保證編碼的可靠性和分析結(jié)果的有效性，由兩位編碼員對(duì)30個(gè)案例的類目分別編碼，進(jìn)行交互信度檢測(cè)。根據(jù)內(nèi)容分析信度公式R=（n×k）/[1+（n-1）k]，計(jì)算交互信度，R表示信度，n表示編碼員數(shù)量，k表示平均同意度。最終計(jì)算得出平均同意度為0.9074，交互信度為0.9632。本類目設(shè)計(jì)具有可行性，數(shù)據(jù)分析具有準(zhǔn)確性。

（三）研究結(jié)果分析

1.描述性分析

一是社交媒體、短視頻平臺(tái)是主要溫床，算法機(jī)制加劇謠言跨渠道傳播。從首發(fā)媒體分析情況來(lái)看，微博、微信等社交平臺(tái)是網(wǎng)絡(luò)謠言事件的主要發(fā)酵場(chǎng)域，其以關(guān)鍵傳播節(jié)點(diǎn)為核心所形成的集群傳播模式會(huì)加速網(wǎng)絡(luò)謠言的形成與擴(kuò)散，影響輿情事件的發(fā)生與發(fā)展。此外，隨著短視頻平臺(tái)深度下沉，用戶數(shù)量激增，也成為網(wǎng)絡(luò)謠言的重要集散地。視頻內(nèi)容的真實(shí)感和在場(chǎng)感，容易贏得網(wǎng)民信任與共情。短視頻平臺(tái)的算法推送機(jī)制，使多元主體的信息表達(dá)呈現(xiàn)出“網(wǎng)絡(luò)社群巴爾干化”特征，加劇謠言圈層傳播中的極化傾向[2]，極易形成網(wǎng)民合意來(lái)強(qiáng)化參與行為動(dòng)機(jī)，加速謠言跨渠道裂變式擴(kuò)散，擴(kuò)大謠言負(fù)面影響。

二是社會(huì)民生類和防疫健康類網(wǎng)絡(luò)謠言更易引發(fā)輿情危機(jī)。從議題類型分析情況來(lái)看，圍繞社會(huì)熱點(diǎn)話題的網(wǎng)絡(luò)謠言更容易引發(fā)輿情事件。其中，社會(huì)民生始終是網(wǎng)絡(luò)謠言事件的高發(fā)領(lǐng)域，主要涉及衣食住行、倫理規(guī)范、違法犯罪等議題，因貼近公眾生活、關(guān)乎公共利益，高發(fā)生率，更能引起網(wǎng)民關(guān)注。此外，自2020年新冠疫情爆發(fā)以來(lái)，健康領(lǐng)域也成為網(wǎng)絡(luò)謠言的重災(zāi)區(qū)，圍繞疫情防控，疫苗接種，呼吸道疾病防治以及各類新型傳播性病毒等健康類謠言層出不窮，其指涉對(duì)象多關(guān)注具體的人或人群在健康風(fēng)險(xiǎn)中的狀況和境遇。其中，社交機(jī)器人參與生產(chǎn)和傳播了大量涉疫敘事[3]。健康類謠言容易引發(fā)公眾恐慌情緒和健康焦慮，產(chǎn)生偏聽(tīng)偏信的盲從行為，加劇對(duì)個(gè)人家庭、社會(huì)和政府公信力的不良影響，已經(jīng)成為不可忽視的社會(huì)問(wèn)題。

三是謠言傳播中的情緒因素被放大，線上線下關(guān)聯(lián)風(fēng)險(xiǎn)加劇。如何使傳播產(chǎn)生效果，需要把傳播的信息注入被傳者的心理系統(tǒng)[4]。當(dāng)傳受雙方處于同一輿論環(huán)境共生狀態(tài)下，如果謠言傳播者善于建立共通的意義空間開(kāi)展共情傳播，將極大增強(qiáng)謠言的煽動(dòng)性。從謠言內(nèi)容分析情況來(lái)看，尋求網(wǎng)民身份認(rèn)同，傳播敏感和爭(zhēng)議性信息，更容易誘發(fā)網(wǎng)民的非理性情緒，產(chǎn)生話語(yǔ)協(xié)同，加速輿情演化。具有煽動(dòng)性，迎合網(wǎng)民情感訴求的網(wǎng)絡(luò)謠言更具傳播力和影響力。從互動(dòng)儀式鏈視角可以將此種謠言傳播到輿情爆發(fā)的演化過(guò)程描述為“群體聚集——群體認(rèn)同——群體行動(dòng)”。這樣的現(xiàn)象在社交媒體和短視頻平臺(tái)尤為突出，其匿名性和強(qiáng)交互性會(huì)集聚和放大網(wǎng)民的負(fù)面情緒，基于情緒的網(wǎng)絡(luò)謠言由此產(chǎn)生、擴(kuò)散，進(jìn)而刺激群體非理性行為在線上線下相互作用下形成耦合效應(yīng)。

四是辟謠主體多元化，官方機(jī)構(gòu)、專業(yè)媒體依然是重要“守門人”。從辟謠主體來(lái)看，信息生產(chǎn)和傳播機(jī)制的轉(zhuǎn)變，使辟謠平臺(tái)、自媒體和廣大網(wǎng)民成為重要的辟謠主體，與官方機(jī)構(gòu)、專業(yè)媒體一同構(gòu)建網(wǎng)絡(luò)謠言多元共治的長(zhǎng)效機(jī)制。其中，政府有關(guān)部門及時(shí)信息公開(kāi)和應(yīng)急管理，能夠有效疏解社會(huì)輿情；專業(yè)媒體積極發(fā)揮事實(shí)核查、公共監(jiān)督和輿論引導(dǎo)作用，特別是中央級(jí)主流媒體的介入，快速提升輿情等級(jí)，加速事件解決和輿論衰退；互聯(lián)網(wǎng)平臺(tái)致力于依托信息技術(shù)，打造辟謠矩陣產(chǎn)品，聯(lián)合構(gòu)建辟謠聯(lián)盟，強(qiáng)化內(nèi)容監(jiān)管能力，落實(shí)平臺(tái)主體責(zé)任；自媒體能夠以更加簡(jiǎn)單直接、通俗易懂的方式傳遞科學(xué)知識(shí)，強(qiáng)化辟謠的情緒化引導(dǎo)。網(wǎng)民作為重要的信息生產(chǎn)者和傳播者，能夠通過(guò)提供事實(shí)信息，參與平臺(tái)舉報(bào)等方式，加速謠言證偽。

2.相關(guān)性分析

為了進(jìn)一步分析不同因素之間的關(guān)聯(lián)性，本文通過(guò)SPSS Statistics 25軟件生成關(guān)于網(wǎng)絡(luò)謠言的參數(shù)“相關(guān)系數(shù)分析表”（見(jiàn)表3）。其中，帶＊號(hào)數(shù)據(jù)表示兩者之間的關(guān)系是顯著的，數(shù)值越小，顯著性越強(qiáng)。本文重點(diǎn)討論較為顯著的正相關(guān)變量，作為網(wǎng)絡(luò)謠言特征分析的參考。

經(jīng)分析，一方面從議題類型相關(guān)性來(lái)看，社會(huì)民生類網(wǎng)絡(luò)謠言事件多滋生于微信、貼吧、抖音平臺(tái)，對(duì)信息編造篡改、利用熱點(diǎn)事件張冠李戴是導(dǎo)致此類謠言的重要原因。健康類網(wǎng)絡(luò)謠言事件多發(fā)酵于微博、微信和新聞網(wǎng)站，具有口頭性和無(wú)根據(jù)性特點(diǎn)，曲解、虛構(gòu)、假借、恐嚇式、數(shù)據(jù)化的敘事框架構(gòu)造了此類謠言的傳播場(chǎng)景。此外，傳統(tǒng)媒體在突發(fā)事件中的失語(yǔ)或未經(jīng)調(diào)查核實(shí)的錯(cuò)誤性報(bào)道，更容易產(chǎn)生負(fù)面的社會(huì)影響。另一方面從虛假程度和造假方式相關(guān)性來(lái)看，完全虛假的網(wǎng)絡(luò)謠言沒(méi)有事實(shí)依據(jù)，往往由信源出于某種利益動(dòng)機(jī)故意策劃，或借熱點(diǎn)事件捏造而成。而部分失實(shí)的網(wǎng)絡(luò)謠言是在一定客觀事實(shí)基礎(chǔ)上的信息傳播，在擴(kuò)散過(guò)程中被篡改、誤讀或刻意夸大，在網(wǎng)絡(luò)輿情事件中較為常見(jiàn)。

綜上所述，網(wǎng)絡(luò)輿情事件中的謠言傳播表現(xiàn)出以下主要特征：一是信源層面，社會(huì)化信息生產(chǎn)擴(kuò)大謠言數(shù)量，網(wǎng)民參與行為加速謠言擴(kuò)散，社交機(jī)器人參與偽科學(xué)認(rèn)知傳播；微博、微信等社交平臺(tái)和抖音等短視頻平臺(tái)是網(wǎng)絡(luò)謠言事件的主要發(fā)酵場(chǎng)域。二是內(nèi)容層面，社會(huì)民生和健康類網(wǎng)絡(luò)謠言激增；反映社會(huì)問(wèn)題的敏感性議題和視頻化內(nèi)容更易煽動(dòng)網(wǎng)民情感；多模態(tài)網(wǎng)絡(luò)謠言的隱蔽性和說(shuō)服性增強(qiáng)；網(wǎng)絡(luò)謠言存在錯(cuò)誤的價(jià)值導(dǎo)向，容易引發(fā)意識(shí)形態(tài)安全風(fēng)險(xiǎn)。三是傳播層面，算法機(jī)制加速謠言跨渠道病毒式傳播；網(wǎng)民情緒傳播與謠言擴(kuò)散和輿情演化有強(qiáng)關(guān)聯(lián)性；線上線下交互下情感驅(qū)動(dòng)的群體性事件有所加劇；政府、媒體和辟謠平臺(tái)在打擊謠言、疏解輿情方面作用顯著。

三、網(wǎng)絡(luò)謠言智能化治理路徑

智能傳播時(shí)代，信息技術(shù)的快速迭代使網(wǎng)絡(luò)輿論生態(tài)結(jié)構(gòu)發(fā)生巨變，也使網(wǎng)絡(luò)謠言除以上特點(diǎn)外，還呈現(xiàn)出“定制化生成”“精準(zhǔn)化傳播”和“智能化擴(kuò)散”的趨勢(shì)。深度偽造技術(shù)強(qiáng)化了多模態(tài)謠言的逼真性和場(chǎng)景化，生成式人工智能能夠針對(duì)特定目標(biāo)定制謠言，并在算法加持下，讓謠言傳播鏈條的傳播能力更強(qiáng)大[5]。作為一種系統(tǒng)性風(fēng)險(xiǎn)，呈現(xiàn)上述特征的網(wǎng)絡(luò)謠言傳播會(huì)對(duì)社會(huì)信息生態(tài)與社會(huì)信任體系產(chǎn)生極大破壞，加強(qiáng)對(duì)網(wǎng)絡(luò)謠言的管控迫在眉睫。本文結(jié)合互聯(lián)網(wǎng)平臺(tái)和媒體機(jī)構(gòu)的探索實(shí)踐，嘗試從信源、內(nèi)容、傳播三個(gè)層面提出智能化的網(wǎng)絡(luò)謠言甄別與管控策略。

（一）信源層面：加強(qiáng)賬號(hào)行為監(jiān)測(cè)，打擊謠言生產(chǎn)信源

從信源心理角度出發(fā)，網(wǎng)絡(luò)輿情事件中的謠言通常是基于一定利益動(dòng)機(jī)、社會(huì)心理發(fā)布和傳播的，而網(wǎng)民的網(wǎng)絡(luò)行為是其態(tài)度的行動(dòng)成分在網(wǎng)絡(luò)上的具體表現(xiàn)。基于用戶的基本信息和行為數(shù)據(jù)，分析其利益結(jié)構(gòu)、心理動(dòng)機(jī)和行為特點(diǎn)，研究形成“謠言發(fā)布心理”的情緒閾值和行為特征指標(biāo)，建設(shè)謠言傳播者畫像庫(kù)，構(gòu)建聚焦網(wǎng)絡(luò)謠言場(chǎng)景下的用戶信用度評(píng)級(jí)體系，實(shí)現(xiàn)可疑信源的判別和預(yù)警。同時(shí)基于“智能合約”等技術(shù)，進(jìn)行自動(dòng)化的階梯式賬號(hào)管理，以此約束平臺(tái)用戶行為，從源頭上減少網(wǎng)絡(luò)謠言的傳播。例如，F(xiàn)acebook規(guī)定用戶每天分享內(nèi)容超50次或反復(fù)傳播虛假內(nèi)容，將無(wú)法使用廣告投放等功能，發(fā)布的內(nèi)容也會(huì)被平臺(tái)降級(jí)處理。谷歌也采取了積極的措施來(lái)打擊謠言散布者和以欺騙排名算法系統(tǒng)來(lái)獲得更多可見(jiàn)性內(nèi)容的創(chuàng)作者。同時(shí)，根據(jù)“陪審團(tuán)定理”①，大量低信用度的個(gè)體可以實(shí)現(xiàn)非常高的可靠性，根據(jù)用戶信用記錄來(lái)計(jì)算用戶對(duì)新發(fā)內(nèi)容反饋的先驗(yàn)概率，也能夠幫助判定傳播內(nèi)容的可信度。阿里巴巴設(shè)計(jì)了一套涵蓋發(fā)布信息、社交畫像、用戶反饋、傳播路徑等在內(nèi)的謠言判定系統(tǒng)，將謠言識(shí)別與社交用戶觀點(diǎn)識(shí)別打通分析，能夠快速鑒別網(wǎng)絡(luò)謠言。

其次，針對(duì)社交媒體和短視頻平臺(tái)上網(wǎng)絡(luò)謠言的集群傳播現(xiàn)象，可以基于網(wǎng)絡(luò)結(jié)構(gòu)對(duì)謠言的傳播路徑以及與網(wǎng)絡(luò)用戶關(guān)系等傳播鏈進(jìn)行綜合分析，實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)謠言的跟蹤、溯源和取證，實(shí)施針對(duì)性治理。人民網(wǎng)與人民中科聯(lián)合發(fā)布的跨模態(tài)智能內(nèi)容搜索引擎“白澤”，是對(duì)全網(wǎng)海量?jī)?nèi)容進(jìn)行高通量感知、機(jī)器理解、智能檢索并自主進(jìn)化的計(jì)算平臺(tái)。在溯源辟謠方面，“白澤”能夠基于海量媒體內(nèi)容，提供圖形、音頻、視頻、文本等多種形態(tài)的全網(wǎng)快速比對(duì)，通過(guò)對(duì)內(nèi)容在各網(wǎng)絡(luò)平臺(tái)的轉(zhuǎn)發(fā)、引用等傳播鏈綜合分析，提供網(wǎng)絡(luò)謠言的跟蹤、溯源、取證、辟謠等技術(shù)支撐。2024年3月推出的“白澤”跨模態(tài)數(shù)據(jù)計(jì)算一體機(jī)可實(shí)現(xiàn)跨模態(tài)內(nèi)容的理解、檢索、問(wèn)答和生成，進(jìn)一步提升了溯源、風(fēng)控、鑒偽等計(jì)算服務(wù)能力。谷歌發(fā)布的“反向圖像搜索”（Reverse Image Search）溯源工具，能夠使用戶快速找到圖片和視頻來(lái)源，幫助判定信息真實(shí)性。同時(shí)，也可以通過(guò)監(jiān)測(cè)和分析群體性傳播行為，識(shí)別不同集群網(wǎng)絡(luò)中關(guān)鍵節(jié)點(diǎn)的網(wǎng)絡(luò)位置及相鄰節(jié)點(diǎn)的拓?fù)浣Y(jié)構(gòu)，結(jié)合節(jié)點(diǎn)的傳播狀態(tài)進(jìn)行實(shí)時(shí)監(jiān)測(cè)與綜合評(píng)估，通過(guò)干預(yù)關(guān)鍵節(jié)點(diǎn)行為，破壞謠言集群的同質(zhì)性來(lái)降低謠言影響力。英國(guó)科技公司 Fabula AI利用幾何深度學(xué)習(xí)（Geometric Deep Learning）的方法，著眼于信息如何在社交網(wǎng)絡(luò)上傳播以及誰(shuí)在傳播，通過(guò)合并用戶特征、用戶間社交網(wǎng)絡(luò)互動(dòng)等異質(zhì)數(shù)據(jù)開(kāi)展分析，來(lái)判定內(nèi)容可信程度，對(duì)內(nèi)容進(jìn)行分類和評(píng)分，并通過(guò)可視化方式展現(xiàn)謠言傳播的特征差異。

此外，網(wǎng)絡(luò)輿情中大量謠言來(lái)自于社交機(jī)器人賬號(hào)，其隱蔽性和不透明性加劇了人們獲取信息來(lái)源的不確定性，所形成的僵尸網(wǎng)絡(luò)（botnet）也會(huì)在短時(shí)間內(nèi)產(chǎn)生大規(guī)模誤導(dǎo)信息，影響公眾認(rèn)知判斷，并通過(guò)對(duì)真實(shí)傳播網(wǎng)絡(luò)的快速滲透，成為中心節(jié)點(diǎn)從而擴(kuò)大輿論影響，引發(fā)信息失序。社交機(jī)器人也被廣泛應(yīng)用于國(guó)際輿論戰(zhàn)中，通過(guò)推動(dòng)標(biāo)簽活動(dòng)、標(biāo)簽劫持、充當(dāng)意見(jiàn)領(lǐng)袖等方式來(lái)操縱輿論、抹黑對(duì)手[6]。目前，通過(guò)追蹤原發(fā)文源平臺(tái)是否為自動(dòng)化平臺(tái)來(lái)判定機(jī)器人賬號(hào)是較為常見(jiàn)的做法，判別方法包括行為模式分析、內(nèi)容文本分析、流量異常檢測(cè)、社交網(wǎng)絡(luò)分析、用戶元數(shù)據(jù)分析等。例如，BotOrNot 社交機(jī)器人評(píng)估系統(tǒng)是 Twitter 公開(kāi)的第一個(gè)檢測(cè)社交機(jī)器人的接口，該系統(tǒng)能夠通過(guò)分類算法對(duì)用戶賬號(hào)的元數(shù)據(jù)以及交互模式、發(fā)布內(nèi)容、社交關(guān)系等數(shù)據(jù)進(jìn)行分析，生成1000多種特征值，用以判斷賬號(hào)屬于惡意機(jī)器人的可能性。互聯(lián)網(wǎng)平臺(tái)應(yīng)建立完善的人機(jī)審核制度，通過(guò)對(duì)機(jī)器人創(chuàng)建的賬號(hào)采取標(biāo)注、監(jiān)測(cè)、封禁等措施，有效干預(yù)網(wǎng)絡(luò)謠言的異常協(xié)同行為。

（二）內(nèi)容層面：利用智能識(shí)別技術(shù)，降低謠言擴(kuò)散風(fēng)險(xiǎn)

在內(nèi)容層面，可以利用網(wǎng)絡(luò)謠言檢測(cè)技術(shù)和算法，實(shí)現(xiàn)網(wǎng)絡(luò)謠言文本識(shí)別。結(jié)合謠言文本的內(nèi)容特征、話語(yǔ)特征、產(chǎn)生機(jī)理等規(guī)律，利用謠言檢測(cè)技術(shù)通過(guò)自然語(yǔ)言處理、社交挖掘、機(jī)器學(xué)習(xí)等智能處理方法，對(duì)謠言進(jìn)行鑒別與認(rèn)定，也可以利用謠言粉碎機(jī)等算法分析詞匯和信息源特征來(lái)判定文本可信度，或以大數(shù)據(jù)和仿人工神經(jīng)的情緒模擬來(lái)推測(cè)文本內(nèi)容可能對(duì)公眾帶來(lái)的情緒反應(yīng)，幫助判斷內(nèi)容的真實(shí)性，進(jìn)而對(duì)可疑謠言進(jìn)行預(yù)警、標(biāo)識(shí)、刪除等管控。騰訊利用自然語(yǔ)言處理、大數(shù)據(jù)等技術(shù)，從內(nèi)容、標(biāo)題等多維度所對(duì)應(yīng)的表征對(duì)信息是否為謠言進(jìn)行判定。舊金山人工智能基金會(huì)（AI Foundation）開(kāi)發(fā)的Reality Defender系統(tǒng)，利用人工智能驅(qū)動(dòng)的分析技術(shù)幫助識(shí)別 AI 算法生成內(nèi)容，提高謠言檢測(cè)效率[7]。2023年，谷歌更新了檢測(cè)虛假內(nèi)容的機(jī)器學(xué)習(xí)算法，對(duì)網(wǎng)絡(luò)謠言和虛假評(píng)論的識(shí)別效率提升了45%，同時(shí)能夠?qū)Ξ惓鞑バ袨楹凸裟Ｊ竭M(jìn)行捕獲。

其次，打造跨模態(tài)內(nèi)容數(shù)據(jù)庫(kù)與智能搜索引擎，實(shí)現(xiàn)多種形態(tài)謠言的精準(zhǔn)識(shí)別。謠言識(shí)別通常采用基于神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)方法提取特征，并與已有數(shù)據(jù)庫(kù)對(duì)比的方式進(jìn)行檢測(cè)[8]。為應(yīng)對(duì)多模態(tài)謠言識(shí)別難的問(wèn)題，通過(guò)豐富謠言在多模態(tài)上的基礎(chǔ)表征，構(gòu)建健康、常識(shí)等重點(diǎn)領(lǐng)域的知識(shí)圖譜，訓(xùn)練突發(fā)、敏感等輿情事件的主題模型等完善謠言數(shù)據(jù)庫(kù)建設(shè)，進(jìn)一步強(qiáng)化對(duì)比檢測(cè)手段。中科聞歌研發(fā)了“紅旗”融媒體平臺(tái)，基于跨模態(tài) AI 技術(shù)，實(shí)現(xiàn)了文本、圖片、視頻全網(wǎng)跨渠道的檢索、計(jì)算、關(guān)聯(lián)與分析，構(gòu)建了覆蓋海內(nèi)外42個(gè)語(yǔ)種、多傳播渠道的開(kāi)源資訊數(shù)據(jù)庫(kù)，為網(wǎng)絡(luò)謠言的自動(dòng)識(shí)別和謠言內(nèi)容及傳播賬號(hào)的溯源提供了基礎(chǔ)。騰訊較真采用“自主生產(chǎn)+外部授權(quán)”的形式接入全網(wǎng)各平臺(tái)的辟謠文章，構(gòu)建辟謠數(shù)據(jù)庫(kù)，來(lái)反哺平臺(tái)謠言識(shí)別和檢測(cè)能力，并通過(guò)搜索服務(wù)精準(zhǔn)打擊謠言。密度推出“跨模態(tài)信息檢索系統(tǒng)”，能夠?qū)?lái)源于全網(wǎng)的多模態(tài)海量信息映射到統(tǒng)一語(yǔ)義空間，進(jìn)行自動(dòng)理解、關(guān)聯(lián)關(guān)鍵要素，檢索出相同語(yǔ)義的視頻，快速識(shí)別謠言及其來(lái)源，為相關(guān)部門辟謠提供有力支撐。

第三，利用人工智能內(nèi)容風(fēng)控模型，實(shí)現(xiàn)AIGC內(nèi)容有效性驗(yàn)證。AIGC內(nèi)容生產(chǎn)成本低，可規(guī)模化，能在短時(shí)間內(nèi)生成大量信息，相比于真實(shí)構(gòu)圖，AIGC生成內(nèi)容的自由度更高、更復(fù)雜，這為網(wǎng)絡(luò)平臺(tái)內(nèi)容審核帶來(lái)了挑戰(zhàn)。針對(duì)這一難題，依托人民網(wǎng)建設(shè)的傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室研發(fā)了“天目”智能識(shí)別系統(tǒng)，采用算法融合與知識(shí)驅(qū)動(dòng)的人工智能框架，使用深度建模來(lái)捕捉困惑度、突現(xiàn)頻次等隱式特征，學(xué)習(xí)得到機(jī)器生成文本與人工生成文本的分布差異，實(shí)現(xiàn)對(duì)AI生成文本、圖形、視頻內(nèi)容的精準(zhǔn)識(shí)別，深度偽造內(nèi)容的有效檢測(cè)，并對(duì)合成手段進(jìn)行追根溯源，有效防范虛假信息。網(wǎng)易易盾也研發(fā)了針對(duì)圖片、音頻、視頻的“深度偽造檢測(cè)”技術(shù)，從數(shù)據(jù)源頭入手，通過(guò)模擬擴(kuò)充攻擊數(shù)據(jù)，以培訓(xùn)計(jì)算機(jī)檢測(cè)AI合成內(nèi)容，實(shí)現(xiàn)“人臉鑒偽”與“聲紋鑒偽”。瑞萊智慧RealAI 推出深度偽造內(nèi)容檢測(cè)平臺(tái)DeepReal，通過(guò)識(shí)別偽造與真實(shí)內(nèi)容的表征差異，挖掘不同生成途徑的深度偽造內(nèi)容一致性特征，實(shí)現(xiàn)對(duì)圖像、音頻、視頻等多種模態(tài)內(nèi)容的真?zhèn)涡詸z測(cè)，有效輔助打擊虛假宣傳、證據(jù)造假等違法行為。

（三）傳播層面：建設(shè)聯(lián)合共治機(jī)制，阻斷謠言傳播渠道

針對(duì)已經(jīng)進(jìn)入到信息傳播通道的謠言內(nèi)容，應(yīng)盡可能壓縮網(wǎng)絡(luò)謠言的生存空間，降低謠言在網(wǎng)絡(luò)輿論場(chǎng)可能產(chǎn)生的負(fù)面風(fēng)險(xiǎn)。根據(jù)網(wǎng)絡(luò)謠言的鏈狀傳播、樹(shù)狀傳播、放射狀傳播、漩渦型復(fù)式傳播等特殊的傳播模式[9]，以及話題標(biāo)簽、推廣策略、鏈接引流等傳播特點(diǎn)快速識(shí)別謠言，在不同傳播階段，實(shí)施針對(duì)性阻斷措施。例如，在冷啟動(dòng)階段，降低與輿情事件關(guān)聯(lián)的可疑信息的推薦權(quán)重，或通過(guò)算法優(yōu)化排序機(jī)制，弱化網(wǎng)絡(luò)謠言帶來(lái)的負(fù)面影響。Facebook會(huì)降低有爭(zhēng)議的新聞的排序，不會(huì)再進(jìn)行推廣，并對(duì)其進(jìn)行標(biāo)注和提示，點(diǎn)擊提示鏈接，用戶能夠看到爭(zhēng)議內(nèi)容的源鏈接。谷歌也采取了類似方法，對(duì)虛假信息進(jìn)行排名降級(jí)，避免這些信息置頂，針對(duì)“突發(fā)新聞”，谷歌通過(guò)機(jī)器學(xué)習(xí)等方式，訓(xùn)練系統(tǒng)自動(dòng)識(shí)別假消息，并將用戶搜索結(jié)果導(dǎo)向權(quán)威性和可信度更高的條目。

第二，網(wǎng)信部門和互聯(lián)網(wǎng)平臺(tái)共同致力于提高辟謠信息的傳播覆蓋面和精準(zhǔn)觸達(dá)率。全國(guó)網(wǎng)絡(luò)辟謠聯(lián)動(dòng)機(jī)制由中央宣傳部指導(dǎo)、中央網(wǎng)信辦牽頭，41家中央和國(guó)家機(jī)關(guān)部門、人民團(tuán)體為成員單位，地方網(wǎng)信部門、中央主要新聞單位、權(quán)威科普機(jī)構(gòu)、大型商業(yè)網(wǎng)站平臺(tái)為參與單位。2023年9月，全國(guó)網(wǎng)絡(luò)辟謠聯(lián)動(dòng)機(jī)制第一次全體會(huì)議強(qiáng)調(diào)“要堅(jiān)持效果導(dǎo)向，擴(kuò)大網(wǎng)絡(luò)辟謠傳播力影響力；要堅(jiān)持突出重點(diǎn)，切實(shí)加強(qiáng)重點(diǎn)領(lǐng)域網(wǎng)絡(luò)辟謠；要堅(jiān)持重拳出擊，堅(jiān)決打擊造謠傳謠惡劣行為”等。同月，北京市委網(wǎng)信辦指導(dǎo)包括微博、抖音、快手、百度、知乎、騰訊網(wǎng)在內(nèi)的11家重點(diǎn)網(wǎng)絡(luò)平臺(tái)在熱搜熱榜設(shè)置“固定辟謠位”，統(tǒng)一標(biāo)注“辟謠”標(biāo)簽，全面推送呈現(xiàn)辟謠稿件，有效提高辟謠信息的觸達(dá)范圍。互聯(lián)網(wǎng)平臺(tái)方面，今日頭條搭建 GUARD 反謠言系統(tǒng)，建立謠言知識(shí)庫(kù)，快速識(shí)別謠言及其首發(fā)賬號(hào)，對(duì)謠言進(jìn)行標(biāo)記和攔截，對(duì)涉事賬號(hào)進(jìn)行處罰，并向?yàn)g覽謠言的用戶進(jìn)行定向辟謠，在網(wǎng)絡(luò)熱點(diǎn)事件發(fā)生后，“頭條辟謠”賬號(hào)會(huì)快速發(fā)布辟謠信息。百度也構(gòu)建了辟謠平臺(tái)數(shù)據(jù)庫(kù)，通過(guò)引入全國(guó)網(wǎng)警等官方機(jī)構(gòu)和各領(lǐng)域?qū)＜覍W(xué)者，可以鑒別謠言并針對(duì)性產(chǎn)出辟謠文章，再通過(guò)辟謠信息分發(fā)機(jī)制傳遞給廣大網(wǎng)民。

第三，利用事實(shí)打擊謠言，需要發(fā)揮多主體協(xié)同治理效能。除了政府部門及時(shí)、高質(zhì)量的信息公開(kāi)和推進(jìn)事件處置，專業(yè)媒體積極還原事實(shí)真相、主動(dòng)發(fā)聲引導(dǎo)輿論外，也可以探索利用區(qū)塊鏈技術(shù)提升謠言識(shí)別效率并充分調(diào)動(dòng)群眾能動(dòng)性，共同營(yíng)造良好的信任環(huán)境，消除謠言滋生溫床。區(qū)塊鏈技術(shù)具有去中心、難篡改、自治性等特征，能夠增加信息透明度，一旦信息被偽造，區(qū)塊鏈會(huì)暴露其惡意行為，也能夠用來(lái)追蹤謠言傳播路徑與來(lái)源。同時(shí)，基于區(qū)塊鏈的信任機(jī)制和共識(shí)機(jī)制，通過(guò)構(gòu)建網(wǎng)絡(luò)謠言證偽專區(qū)，能夠?qū)崿F(xiàn)公眾參與的“眾包式”事實(shí)核查。Userfeeds 依托區(qū)塊鏈技術(shù)打造公開(kāi)透明、能被公眾審查的新聞內(nèi)容平臺(tái)及其配套排名算法，基于內(nèi)容生產(chǎn)者“評(píng)估證明”，在信息推送給用戶之前，實(shí)現(xiàn)虛假內(nèi)容的有效過(guò)濾。Steemit 平臺(tái)基于區(qū)塊鏈技術(shù)通過(guò)設(shè)計(jì)實(shí)現(xiàn)包括用戶申請(qǐng)審查制、謠言界定投票制、內(nèi)容浮現(xiàn)動(dòng)態(tài)化在內(nèi)的各項(xiàng)機(jī)制，實(shí)現(xiàn)對(duì)平臺(tái)上內(nèi)容的流程管控，強(qiáng)化多主體甄別謠言能力，從而限制和減少網(wǎng)絡(luò)謠言在平臺(tái)上的傳播。

第四，針對(duì)可能演化為社會(huì)輿情的網(wǎng)絡(luò)謠言及其擴(kuò)散可能帶來(lái)的不良價(jià)值導(dǎo)向和意識(shí)形態(tài)風(fēng)險(xiǎn)，要進(jìn)一步強(qiáng)化輿情監(jiān)測(cè)研判、網(wǎng)民情緒疏導(dǎo)和內(nèi)容風(fēng)控能力。網(wǎng)絡(luò)輿情事件中的謠言傳播是社會(huì)情緒的鏡像，對(duì)網(wǎng)民行為和情感的分析有利于更好地把握公眾訴求。對(duì)此，ChatGPT 依托強(qiáng)大的語(yǔ)言理解、文本分析和情緒識(shí)別能力，能夠基于網(wǎng)民語(yǔ)言和符號(hào)更深刻地理解網(wǎng)絡(luò)情緒所具備的輿情內(nèi)涵，有效提升輿情精準(zhǔn)研判水平[10]，并通過(guò)模型訓(xùn)練準(zhǔn)確預(yù)測(cè)輿情發(fā)展方向，同時(shí)依托其內(nèi)容生成能力，能夠針對(duì)不同網(wǎng)民群體特征實(shí)施分眾化輿情引導(dǎo)。而為了更好地自主研發(fā)和訓(xùn)練此類大模型來(lái)強(qiáng)化主流輿論導(dǎo)向，凝聚社會(huì)共識(shí)，人民網(wǎng)開(kāi)發(fā)建設(shè)“人民網(wǎng)主流價(jià)值語(yǔ)料庫(kù)”，助力提高大模型導(dǎo)向安全水平，防范 AIGC 生成謠言風(fēng)險(xiǎn)，有效提升主流媒體輿論糾偏能力。同時(shí)，人民網(wǎng)數(shù)據(jù)中心依托業(yè)內(nèi)最大的輿情數(shù)據(jù)庫(kù)和人民網(wǎng)輿情監(jiān)測(cè)系統(tǒng)，致力于為黨政機(jī)構(gòu)、企事業(yè)單位和社會(huì)團(tuán)體提供精準(zhǔn)的熱點(diǎn)事件社會(huì)情緒感知、網(wǎng)絡(luò)輿情風(fēng)險(xiǎn)監(jiān)測(cè)和態(tài)勢(shì)分析研判等全鏈條智能輿情服務(wù)，截至2023年底，已為3000多起危機(jī)事件提供應(yīng)對(duì)策略支持，有效降低社會(huì)輿情風(fēng)險(xiǎn)帶來(lái)的負(fù)面影響。齊魯壹點(diǎn)也推出了“鷹眼智能校審系統(tǒng)”，通過(guò) NLP、OCR 等技術(shù)構(gòu)建具有主流價(jià)值觀的黨媒算法模型，能夠有效識(shí)別多模態(tài)內(nèi)容中的虛假信息、意識(shí)形態(tài)偏見(jiàn)等違規(guī)內(nèi)容。

結(jié)語(yǔ)

網(wǎng)絡(luò)謠言易引發(fā)網(wǎng)絡(luò)輿情，網(wǎng)絡(luò)輿情易滋生網(wǎng)絡(luò)謠言，兩者的相互作用在智媒時(shí)代的今天表現(xiàn)得更加明顯，對(duì)網(wǎng)絡(luò)環(huán)境和社會(huì)發(fā)展的負(fù)面影響也更加突出。網(wǎng)絡(luò)輿情事件中的謠言傳播具有特殊性，并借由定制生產(chǎn)、算法分發(fā)、智能傳播、社交機(jī)器人介入等方式，進(jìn)一步實(shí)現(xiàn)了隱蔽流動(dòng)、靶向傳染、集中爆發(fā)和極化偏向，網(wǎng)絡(luò)謠言也必然會(huì)伴隨技術(shù)的發(fā)展與人類長(zhǎng)期共存，并不斷呈現(xiàn)出新的特點(diǎn)。對(duì)此，應(yīng)以 AI 治理 AI，充分利用新技術(shù)、新應(yīng)用、新方法，從網(wǎng)絡(luò)謠言的信源、內(nèi)容、傳播等層面的新特征出發(fā)，探索貫穿信息生產(chǎn)傳播全鏈路的針對(duì)性、智能化甄別與管控手段，充分發(fā)揮多主體協(xié)同治理效能，將有效助力于社會(huì)共識(shí)的形成和網(wǎng)絡(luò)輿情的治理，營(yíng)造清朗、健康、有序的網(wǎng)絡(luò)空間。

注釋：

①陪審團(tuán)定理，也稱為孔多塞陪審團(tuán)定理，是一種關(guān)于群體決策的理論，它指出在特定條件下，群體的智慧可能會(huì)超越個(gè)體。該定理的核心在于，當(dāng)參與者的知識(shí)水平普遍較高時(shí)，群體的共識(shí)更有可能達(dá)到正確的結(jié)果。

參考文獻(xiàn)：

[1][英]赫克托·麥克唐納.后真相時(shí)代[M].北京：民主與建設(shè)出版社，2019：12.

[2]馮雯璐，蘇健威等.社會(huì)民生事件中網(wǎng)絡(luò)輿情演化與引導(dǎo)機(jī)制研究[J].情報(bào)雜志，2022（8）：112-120.

[3]楊梟梟，王唯瀅.社交機(jī)器人參與網(wǎng)絡(luò)偽科學(xué)認(rèn)知傳播的機(jī)理研究[J].青年記者，2024（2）：23-30.

[4]林之達(dá).傳播心理學(xué)教程[M].北京：北京大學(xué)出版社，2012：18.

[5]警惕網(wǎng)絡(luò)謠言智能化[EB/OL].（2023-05-08）[2024-04-07].https：//www.zjwx.gov.cn/art/2023/5/8/art_1673572_58873161.html.

[6]趙蓓，張洪忠，任吳炯等.標(biāo)簽、賬號(hào)與敘事：社交機(jī)器人在俄烏沖突中的輿論干預(yù)研究[J].新聞與寫作，2022（9）：89-99.

[7]李凈.國(guó)際視野下治理虛假新聞的技術(shù)手段及相關(guān)模型[J].中國(guó)傳媒科技，2021（8）：17-21.

[8]元鵬，曹娟，盛強(qiáng).語(yǔ)義增強(qiáng)的多模態(tài)虛假新聞檢測(cè)[J].計(jì)算機(jī)研究與發(fā)展，2021（7）：1456-1465.

[9]李倩倩，劉怡君，馬寧等.基于智庫(kù)雙螺旋法的輿情治理與智庫(kù)研究[J].中國(guó)科學(xué)院院刊，2022（6）：773-782.

[10]丁曉蔚，趙鑫，劉梓航，劉天昊.輿情精準(zhǔn)研判中的ChatGPT：“大數(shù)據(jù)、大模型、大計(jì)算”范式驅(qū)動(dòng)的理論與應(yīng)用探索[J].傳媒觀察，2024（3）：53-72.

作者信息：馮雯璐，人民網(wǎng)研究院助理研究員、博士；劉乃榕，人民網(wǎng)傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室助理研究員、博士；田曉麗，人民網(wǎng)研究院編輯、碩士。