AI時代信息疫情的挑戰升級與協同治理

中圖分類號：G206；TP18 文獻標志碼：A 文章編號：1004-342（2025）04-23-5

當前，信息要素已完全嵌入人們的生存方式、生產方式和組織方式，“全天候在線”獲取信息成為普遍現象。然而信息過載、信息繭房、真實信息與虛假信息的混雜傳播，也給人們帶來不少困惑和焦慮，這種因信息而導致的疾病，可被稱為信息疫情（Infodemic）。AI時代的到來，智能化的信息生產和傳播模式使“信息疫情”所產生的影響已超以往任何時期次生災害。掌握AI時代信息疫情的本質內涵和生成傳播機理，制定有效的治理措施，對提升社會治理能力有著重要意義。

一、對信息疫情的再認識

一般認為，信息疫情（Infodemic）是由信息（Information）和疫情（Pandemic）組合而成。在國內被翻譯為“信息疫情”“信息瘟疫”“信息傳染病”“信息流行病”等。信息疫情起源于真實的疫情，2003年非典疫情暴發，戴維·羅特科普夫（DavidRothkopf）在《華盛頓郵報》上第一次使用了“Infodemic”一詞，戴維·羅特科普夫認為，“Infodemic”是一些混雜著恐懼、猜測和謠言的事實信息，在世界范圍內被現代信息技術迅速放大和傳播，以與現實世界完全不相關的方式影響國家、地區乃至全球政治、經濟甚至安全的現象。①之后“Infodemic”雖被學術界偶有提及，但影響不大。直到新冠疫情的全球蔓延，信息疫情再次引起人們的關注。2020年9月，世界衛生組織（WHO）發布ManagingtheCOVID-19infodemic： Promoting healthy behaviours andmitigating the harm from misinformation anddisinformation一文，認為COVID-19是歷史上第一次大規模使用技術和社交媒體來確保人們的安全、知情、高效和聯系的大流行病。與此同時，我們賴以保持聯系和知情的技術正在助長和擴大信息疫情（Infodemic），這種流行病繼續破壞全球應對措施，危及控制疫情的措施。②自此，信息疫情開始被業界和學界廣泛關注。此后，隨著信息疫情研究的不斷深入，信息疫情的內涵不斷泛化。如方興東等認為“信息疫情”的本質是新技術背景下人類社會信息傳播的無序和失控，是民眾、媒體、國家與國際社會整體對新形勢不適應的一次集中劇烈的爆發。③有學者指出信息疫情更多地含有“信息過多，反而使人們在需要時很難找到可靠的來源和可靠的指導”之意。④有學者指出，信息疫情不應局限于公共衛生領域，任何由突發事件的風險性所引發的次生信息災害都是信息疫情的治理范疇。③

基于上述討論，我們認為AI時代的信息疫情可理解為：在數字信息生態中，圍繞特定議題的事實性信息與非事實性信息的（如謠言、偏見、陰謀論等）混雜傳播，導致公眾認知系統過載、情感極化與社會信任耗損的信息生態失衡現象及過程?！靶畔⒁咔椤钡纳蓹C理是信息過載和信息不確定性疊加作用而成。其本質是信息生產一消費鏈條中“信息熵增”與“認知秩序”的動態博弈，是信息生態的失序。這種狀態擾亂公眾判斷、侵蝕社會信任，最終形成與實體危機交織的系統性風險。我們可以從四個維度理解信息疫情的內涵：

第一，從生成語境來看，信息疫情孕育于多元社會情境中，包括但不限于公共危機、政治選舉、科技爭議、文化沖突等議題，其觸發點通常與社會認知斷層（如專業知識壁壘、價值觀對立）或利益博弈（如商業競爭、地緣政治）密切相關。

第二，從擴散機制來看，信息疫情依賴數字媒介的超鏈接性與算法推薦機制，形成“事實與非事實”信息的共生傳播網絡，并表現出非線性擴散和情感裹挾邏輯（如憤怒、恐懼等高喚醒情緒內容優先獲得傳播勢能等）。

第三，從內容特征來看，異質性信息同時傳播，事實與非事實信息并非簡單對立，而是通過語義嵌套（如真假信息互為論據）模態混合（文本、圖像、視頻的多模態偽造）與語境挪用（如斷章取義引用權威信源）建構出“半真半假”的灰色信息生態。

第四，從社會影響看，信息疫情通過三重機制瓦解社會認知秩序。首先是認知熵增，個體因信息過載與矛盾證據陷入“分析癱瘓”，理性決策能力下降；其次是情感極化，群體間因信息選擇差異形成對立性情感共同體；最后是信任耗散，專家系統、媒體機構等傳統權威信源的公信力被持續侵蝕，催生“后真相”文化。

二、AI時代信息疫情的挑戰升級

隨著人工智能技術的迅猛發展，特別是深度偽造（Deepfake）生成式AI及算法推薦系統的廣泛應用，信息疫情的產生和傳播面臨著前所未有的挑戰，具體包括：

1.生成式AI驅動的虛假信息工業化生產和傳播。一方面，生成式AI能夠生成看似合理、邏輯連貫的文章、回答等文本內容，這使得制造虛假信息變得更加容易；另一方面，深度偽造技術可以將虛假的內容完美地嵌入到真實的圖像、視頻或音頻中，讓人們難以辨別真偽。此外，社交平臺算法推薦機制存在顯著情緒化傾向，優先抓取社會矛盾、極端觀點等高傳播性內容構建傳播鏈路。這種算法偏好與虛假信息的高度情緒煽動性形成共振效應，使失真內容在信息繭房效應加持下呈裂變式擴散。

2.認知免疫系統的結構性崩潰。多模態信息（如文本 + 圖像 + 音頻）通過不同感官通道（視覺皮層、聽覺皮層等）同時傳遞信息，可以形成跨模態神經網絡的協同激活。研究表明，這種多通道輸人可顯著增強杏仁核的神經元放電頻率，遠超單一模態的刺激效果。①在這種協同激活模式下，多模態信息的認知滲透增強，導致跨模態毒性上升，過度激活人的直覺系統，同時抑制理性系統的功能，最終造成人的雙認知系統失效，認知失衡。如在俄烏戰爭中，烏軍利用AI技術生成虛假的俄軍將領投降視頻，這一“攻心”奇招，在短短48小時內就給俄軍士氣帶來了巨大打擊。②

三、AI時代信息疫情的協同治理路徑

“信息疫情”同現實疫情一樣，危害著正常社會秩序和人們的認知與心理健康，需要在信息治理中加以防控。

1.構建基于AI技術的全鏈條監測與風險防控體系。一是搭建多模態監測體系，集成文本語義分析、圖像對抗樣本檢測、視頻光流場解析等技術模塊，構建覆蓋全媒介的深度偽造識別網絡，實現虛假信息溯源與快速響應。二是建立用戶行為圖譜，通過時空數據分析模型解析信息傳播的時空分布特征，結合群體畫像技術識別高風險傳播節點。三是部署智能防護系統，采用聯邦學習框架下的差分隱私保護機制，在保障數據安全前提下實施精準干預；同步開發智能合約系統，構建從風險預警到違規內容自動下架的全周期處置閉環，形成技術治理與隱私權保護的動態平衡機制。

2.打造政府主導一平臺擔責一社會參與的多維治理體系。在政府層面，應構建AI內容全鏈條監管框架，建立生成內容數字水印標注體系，厘清算法推薦連帶責任邊界，并將深度偽造技術納入特種應用許可管理。在平臺層面，需強化技術自治能力，開發多模態內容鑒偽系統（集成語義指紋分析、傳播網絡溯源等功能），實施AIGC強制標識制度，同時重構推薦算法權重模型，降低負面信息傳播勢能，并通過安全多方計算技術實現跨平臺數據協作。在社會參與層面，推行“雙軌制”數字素養提升工程，一方面可由相關組織開發虛實信息對抗訓練平臺，運用認知免疫理論設計交互式反謠課程；另一方面在社區層面建立網格化科普機制，通過信息溯源工作坊、數字內容工坊等場景化培訓，培育公眾深度媒介素養。

3.建立以人為核心的動態優化干預機制。由于在信息疫情傳播鏈條中人的行為呈現雙重特性：一是傳播端的利益驅動型擴散者（如黑灰產流量變現、意識形態操縱），二是接收端的認知偏差型傳播者（如恐懼心理擴散、確認偏誤強化）。因此，人才是信息疫情治理中的核心，為此，應構建以人為核心的動態優化干預機制。在信息疫情傳播行為治理層面，可運用傳播溯源圖譜技術解析惡意傳播網絡，結合社會認知理論建立“經濟利益一傳播效能”關聯模型，精準識別黑產傳播鏈中的關鍵節點。在接收行為干預層面，可開發信息認知基線評估系統，通過眼動追蹤與神經反饋技術量化公眾認知偏差程度，設計階梯式認知矯正方案。

四、AI時代信息疫情治理的前沿挑戰

在信息疫情治理過程中，存在著治理悖論。其中一個重要的方面是內容審核與言論自由的邊界爭議。一方面，為了治理信息疫情，需要對虛假信息進行審核和管控，這可能會涉及對某些內容的限制。另一方面，言論自由是公民的基本權利，如何在保障言論自由的前提下進行內容審核成為了一個難題。例如，一些批評性的言論可能在某些情況下被誤判為虛假信息而受到限制，這就引發了關于內容審核是否過度侵犯言論自由的爭議。同時，算法偏見導致的過度審查風險也是治理悖論的一部分。算法是基于數據進行訓練的，而數據可能存在偏差。例如，對于少數語言群體，由于在數據集中他們的語言樣本較少，算法可能對他們的內容存在誤判。這可能導致在內容審核過程中，對少數語言群體的正常言論進行過度審查。

此外，信息疫情治理也面臨著技術攻防演進的挑戰，對抗樣本攻擊對檢測系統的威脅日益增大，量子計算可能引發的加密體系重構也給信息疫情治理帶來了挑戰。目前，許多信息安全技術都是基于現有的加密體系。量子計算具有強大的計算能力，可能會破解現有的加密算法。一旦加密體系被重構，信息疫情治理中的數據安全、信息傳輸安全等方面都將面臨新的挑戰。

（責任編輯：劉曉琴）

Escalating Challenges and Collaborative Governance of InfodemicintheAIEra

CHEN Lanjie12

（1.SchoolofManagement，Hebei University；2.Research Institute for Digital Governanceand Collaborative Governance of Hebei Province，Baoding，Hebei， O71002）

Abstract：With therapid development of AI technology，the increasingly serious phenomenon of infodemic has become a new challenge for social governance.Infodemic is characterized bythe mixed disseminationof factual and non-factual informationonthe specifictopic，leading tocognitiveoverload，emotional polarization，anddepletionof social trust among the public.Inthe AIera，generative AIand deepfaketechnologies have exacerbated the industrial production and dissemination of 1 information，while algorithm recommendation mechanisms have accelerated the fissile diffsion of distorted content，resulting in structuralcollapseof thecognitive immune system.To address this challenge，it is necessry to build an AI-based full-chain monitoring and risk prevention and control system， including the development of amultimodal monitoring system，the construction of user behavior graph，and the deploymentof intelligent protectionsystem.Meanwhile，a multidimensional governance system led bythe govermment， with platforms taking responsibilityand society participating is essential，which strengthens technological autonomy and enhances public digital literacy.Moreover，a human-centered dynamic optimization intervention mechanism is also crucial，itcanaccuratelyidentifyandinterveneindisseminationbehaviors through traceabilityofdissemiation and cognitive correction.

Keywords： information epidemic; infodemic; generative artificial intelligence