AIGC時代網絡輿情的新特征與治理新對策

【內容提要】人工智能技術正在重塑網絡輿情傳播生態，使網絡輿情呈現出如下新特征：輿情主體高度人機協同，輿情傳播路徑不確定性增加，資本影響輿論的方式更強更隱蔽，等等，同時人工智能也誘發新的意識形態風險以及加劇信息污染、虛假信息泛濫等問題。做好智能時代的輿情管理工作，應利用好人工智能技術的運行機制，從建構智能化的網絡輿情監測模型，利用算法抵御意識形態風險，加快輿情治理監督法治化路徑等，使網絡輿情治理向智能化的方向轉型，以進一步提升輿情治理效能。

【關鍵詞】人工智能" 網絡輿情" 輿情治理" 智能傳播

新一代人工智能技術以其強大的內容生產能力和廣泛的應用前景，深刻嵌入媒介領域并引發媒介形態、傳播格局和輿論環境的巨大變革，網絡輿情的復雜性和多變性日益凸顯，傳統的輿情管理模式面臨著巨大挑戰。因此，如何基于人工智能時代的技術底座做好網絡輿情治理工作，推動形成良好網絡輿論生態是一個亟待解決的重要命題。

一、人工智能時代網絡輿情的新特征

當前，新一代人工智能技術已引發網絡輿情生態變革，網絡輿情在生成主體、擴散路徑、場域風險等方面呈現出新的特點和發展趨勢，具體表現如下。

（一）高度人機協同縮短輿情生成進程

當前，人工智能技術已深度嵌入人類社會發展之中，其與媒介技術的深度融合，正在日益影響網絡輿情的生成、發展與傳播，輿情主體表現出高度人機協同的特征。人工智能憑借既定程序設計和批量自動生產的技術優勢，以自動產生、自動擴散、強化接受的傳播鏈路實現跨平臺議題聯動、規模化構建議題網絡的成效，迅速催發輿情生成。同時，傳統的依賴平臺的分發式傳播模式逐漸被侵蝕，人工智能與用戶的直接交互重構了輿情發生和傳播的場域，減少了輿情擴散中的信息消耗，信息傳播效率大幅提升。需要注意的是，隨著人工智能深度學習和大數據技術的迭代升級，作為輿情數字主體典型代表的社交機器人也從初始的機械性“灌水”回帖發展為高度“類人化”和“仿真化”的自主社交和虛擬發言，全天候地圍繞既定議題和立場在不同平臺和領域進行同質化內容輸出①，以先占優勢和規模效應塑造輿論熱點，操縱輿論聲勢。社交機器人水軍的廣泛存在增強了負面輿情的破壞力，其憑借技術優勢，在短時間內向目標群體集中投放大量有偏向性的信息，迅速營造出輿論壓力，迫使目標群體形成合力產生觀點偏移，從而潛移默化引導輿論走向。

（二）輿情傳播路徑不確定性增加

數字技術使得信息以毫秒級時延迅速擴散，用戶不受地域局限在同一時間獲得同一信息的知情權、表達權和傳播權，隨時參與到輿情事件的建構當中。人工智能技術的發展進一步強化了這一走勢，多模態大模型不僅擁有無限“量”的內容生產能力，也是對用戶接收內容“限”的突破。在人工智能的語境下，用戶做出多次或重復的觀點選擇，而受回音壁效應影響，看到相同局部真相、持相似觀點的用戶迅速聚集，形成了聚合著高度同質化用戶的群體或圈層，不同圈層之間的意見表達、情緒走向差異極大，容易引發群體極化現象，輿情事件呈現多節點爆發的特征。同時，人工智能內嵌的算法邏輯天然地將設定者有偏見的價值信息作用于網絡輿情事件的各個節點，潛移默化地輸出觀點。而不同輿情參與主體引導輿情走勢的能力差異懸殊，擁有強大算力和資源的主體灌輸信息和觀點，個體認知的區分度將在同質化信息的湮沒中逐步消弭，用戶的主觀認知與客觀真相之間隔著信息迷霧，輿情發展邏輯趨向混亂。

（三）人工智能革新資本影響輿論的方式

資本憑借對智能技術和社交平臺的壟斷優勢，實現對輿情生成擴散的全過程把控，資本深度影響輿論場域成為可能。②一是資本在智能算法、大數據、深度學習等技術的研發過程中深度嵌入其對技術使用的導向性，并用技術的客觀性和“中立屬性”加以掩蓋，隱蔽性更強。如人工智能的代表技術之一的“推薦算法”機制看似是基于用戶歷史行為和偏好推測用戶可能感興趣的內容或商品。事實上資本主導的價值邏輯早已內化于算法的研發過程中，算法推薦存在被商業利益、輿論制造、運營策略調整等諸多訴求操縱的可能。二是資本對社交平臺擁有壟斷權，在平臺的內容生產和流量分發等規則中內嵌自己的價值邏輯和判斷標準，并運行于熱點事件的議程設置、節點引爆、輿論引導等實踐中。資本還憑借自身經濟優勢，與其他社交平臺達成合作，實現議題生產的跨平臺聯動，進一步擴大設置議題的傳播效應，影響用戶對議題的真實感知。三是當前資本對人工智能技術的研發處于白熱化競爭態勢。囿于資本規模和技術水平的差異，在技術競賽中處于優勢的資本方趁勢將算法算力外溢到其他領域，實現資本權力的擴張。新興技術對資本的加持使其影響輿論的方式逐漸常態化和隱蔽化，若不加以規制，資本追逐利益的價值遵循將造成輿論場域的商品化發展，遮蔽輿論的公共利益和社會價值訴求，輿論漸將失去公共意見承載體的社會功能，成為資本的發聲工具和代言人。而資本借助輿論向公共權力滲透的行為則有可能演化為對政治權力的謀求，進而危害國家主體權力，影響社會穩定，如近年來有境外勢力企圖通過資本進場的方式操縱我國輿論場域，干擾我國意識形態秩序，從而侵蝕國家輿論安全。

（四）人工智能誘發新的意識形態風險

輿論是主流意識形態的重要表現場域③，輿論安全直接關系意識形態安全。人工智能的發展使意識形態風險呈現新特征，逐漸成為我國推進中國式現代化建設進程中的安全隱憂。④一是人工智能使真相和虛假雜糅同構。互聯網數據是人工智能的主要來源之一，由于人工智能對數據和信息的甄別能力有限，其中大量包含人類社會歧視和偏見的信息也被吸納進人工智能的語料庫中，經過算法“中立”且“理性”的包裝后，在與用戶的交互中進行觀點輸出，影響用戶的價值判斷，加深社會偏見。同時，人工智能隱蔽傳播的價值觀也容易造成用戶之間存在信息區隔和價值分化問題，引發意識形態領域撕裂風險。二是算法霸權引發意識形態操縱風險。一方面，算法操縱者將特定思想和價值觀念注入智能算法技術，經過反復訓練后形成算法偏見，并將之強化于特定個體或群體之上，形成信息繭房，影響用戶偏離主流價值觀念。另一方面，人工智能加劇了數字鴻溝現象。由于技術接入、數據資源和信息素養的差異，人工智能在發達國家和地區得到更快部署和應用。根據付費情況，用戶被“分層化”標注，人工智能的優質內容服務優先靠近發達國家和地區，對較為落后的國家和地區因其算法邏輯中內嵌的價值偏向而存在改變群體認知的可能，這也加劇了意識形態被操縱的風險。三是人工智能的工具化加劇了意識形態的解構風險。人工智能的工具屬性在資本和權力的裹挾下愈發凸顯，價值理性逐漸式微，同時網絡空間的開放性和自由性強化了技術工具性的應用，主流意識形態的引導力量受到挑戰。然而對人工智能工具屬性的過度追求容易誘發各種違法犯罪問題滋生，如通過智能算法分析金融市場數據，進行高頻交易、操縱股價等行為，破壞金融市場的穩定和正常運行；或通過人工智能惡意編寫代碼、釣魚郵件進行數據竊取或網絡攻擊，對國家安全和社會秩序帶來風險和挑戰。

（五）人工智能加劇信息污染和虛假信息泛濫

人工智能技術可以在短時間內生成、偽造或篡改文本、圖片、音頻和視頻，產生大量粗制濫造、真假難辨的信息垃圾，污染網絡輿論空間。第一，人工智能生成內容存在大量虛假信息。人工智能通常對其輸出的內容進行合理化論證，但其信源真實性和可靠性常受到質疑，臆造引用來源、虛構新聞、虛造論文等現象頻繁發生，存在知識盲區的用戶很容易被這些看似邏輯自洽的回答誤導進而形成錯誤認知。同時，人工智能生成的虛假信息很有可能成為新的訓練數據被再次“喂養”給機器學習模型，形成“垃圾進，垃圾出”的惡性循環，虛假信息得以再次傳播，而再次傳播的風險或將引發難以預測的后果，例如已有不法分子利用深度偽造技術生成虛假新聞用以電信詐騙、謠言傳播、非法集資等犯罪行為。第二，人工智能技術的應用使信息的生產和傳播達到了前所未有的高度，大量缺乏深度、簡單拼湊甚至虛假的信息給用戶帶來信息過載的困擾⑤，而真正有價值的信息湮沒在海量低質量內容中。長此以往，一方面，人工智能引發的信息污染問題損害用戶批判性、獨立性思考的能力，誘使用戶過度依賴人工智能生成的內容，進而形成錯誤認知模式；另一方面，虛假信息的廣泛傳播對信息真實性將構成嚴重挑戰，公眾對信息的信任度下降進而對整個信息環境產生懷疑，容易引發社會恐慌和群體事件，終將影響社會的和諧發展和穩定。

二、人工智能時代網絡輿情治理新對策

人工智能時代，網絡輿情的發展新態勢使輿情治理面臨新挑戰，應利用好人工智能技術的運行機制，從建構智能化的網絡輿情監測模型，利用算法抵御意識形態風險，加快輿情治理監督法治化路徑等方面，使網絡輿情治理向智能化實踐的方向轉型，提升輿情治理效能。

（一）堅持以智促治，構建人工智能輿情預警模型

智媒時代，技術邏輯應成為貫穿輿情演進和治理全過程的重要邏輯。人工智能技術的迭代升級既為網絡輿情帶來新變化和新風險，也為輿情治理帶來了新機遇。治理主體應高度重視新興技術的發展，著力建構網絡輿情監測模型，推動輿情治理向智能化方向發展。一是深化輿情行業對人工智能技術應用的挖掘，如在人工智能系統中內嵌虛假信息攔截算法，通過訓練和自主學習提升其對信息來源和偽造技術的甄別能力。二是構建智能化的網絡輿情監測模型，依靠人工神經網絡技術、知識工程技術、區塊鏈等在輿情演進初期評估未來輿情走勢和潛在風險，并模擬不同的輿情應對方案，評估其可行性并優化出最佳預處理方案。三是建立重點領域、重點事項、敏感熱點輿情信息庫，聚焦關鍵輿情風險點排查輿情風險，提高網絡輿情治理的主動性和預見性，盡可能將可能引發的輿情隱患扼殺在萌芽狀態。⑥

（二）強化價值引領，算法向善抵御意識形態風險

技術應用需要遵循主流價值導向，面對人工智能技術帶來的意識形態風險，主流價值應深度融入技術的發展應用，促使算法向善發揮正向作用，彌合社會分化，凝聚社會共識，營造和諧社會氛圍。一是利用主流價值觀駕馭算法，將主流價值融入人工智能技術的算法規則之中。在算法設計、模型搭建和驗證優化等環節，行業聯合研發者與監管者共同對算法模型進行充分論證和評估，通過加強算法數據源的可溯源性和可追責性，從算法編碼的源頭切斷偏見的可能，形成算法向善的智能引導方式。二是設立國家級人工智能研發項目，將算法深度嵌入意識形態安全建設的各個領域，建立“AI+政策、教育、文化、法律”等運行模式，實現人工智能技術的守正創新，鞏固我國意識形態領域的工作領導權、管理權、話語權。

（三）堅持以法促治，完善輿情治理監督的法治路徑

以人工智能、算法和大數據為代表的新興智能技術已然引發輿情生態變革，數據隱私泄漏、深度偽造、數據濫用等問題層出不窮，然而智能時代的輿情治理尚屬灰色地帶，亟需建立健全輿情治理法律法規體系。目前我國已出臺《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》《人工智能生成合成內容標識辦法（征求意見稿）》等法律法規，未來應結合人工智能引發的輿情領域新變化和新風險，通過立法形式明確人工智能技術的研發方向、應用范圍等，明確輿情治理的各主體責任和義務、明確輿情治理的基本原則，確保人工智能的開發和應用始終處于法律法規的制約范圍內，以實現網絡輿情治理的良法善治。此外，可以考慮引入人工智能技術到輿情監督的具體執法保障中，如利用大數據技術精準畫像并追蹤隱藏于網絡虛擬身份背后的不法分子，提升執法效率，實現技術賦能執法監督。

（四）規制資本邏輯，加強對智能技術的有效監督

人工智能的發展需要克服資本邏輯對其工具屬性的裹挾，重回價值理性以實現社會價值和倫理責任。一是加強對平臺型媒體的規則建設和行業監督。一方面創新技術監管方式，成立行業聯盟對平臺技術權力進行常態化監察；另一方面政府設立明確的平臺媒體資本入駐邊界，在保證市場健康的前提下，明確外資的市場準入規則。二是技術的發展應始終關注人的需求和福祉，政府需要通過政策引導明確人工智能企業需要承擔的社會責任和公共利益，確立以人為本的市場主體發展規則，確保人工智能技術的發展具有普惠性，讓更多人享受到技術發展帶來的紅利。

【本文系中國社會科學院2024年度重大經濟社會調查項目“中國網絡民意和輿情指數調查（2024-2026）”（項目編號：2024ZDDC006）的階段性研究成果】

注釋：

①黃日涵，姚浩龍.“再塑造”與“高風險”：生成式人工智能對輿論安全的影響[J].情報雜志，2024，43（04）：121-127.

②張愛軍，朱歡.智媒時代資本影響輿論的方式、邏輯及其風險規制[J].公共治理研究，2022，34（03）：14-21.

③丁柏銓.論新聞輿論與意識形態的關系——通過思考獲得的三個認知[J].社會科學戰線，2020，（09）：151-157.

④王延川，趙靖.生成式人工智能誘發意識形態風險的邏輯機理及其應對策略[J].河南師范大學學報（哲學社會科學版），2023，50（04）：1-7.

⑤黃楚新，張迪.ChatGPT對新聞傳播的機遇變革與風險隱憂[J].視聽界，2023，（04）：30-35.

⑥吳啟祥，祝婉新，吳雪.智能時代網絡輿情治理的挑戰、難點與對策[J].山西大同大學學報（社會科學版），2024，38（04）：132-136.

作者簡介：黃楚新，中國社會科學院新媒體研究中心副主任兼秘書長，研究員；賀文文，中國社會科學院大學新聞傳播學院博士研究生

編輯：徐" 峰