生成式人工智能引發的網絡意識形態安全風險及其防范

［摘要］隨著人工智能技術的不斷迭代發展，生成式人工智能在社會生活中被廣泛采用。生成式人工智能作為一種推動未來人類技術顛覆性發展的新興技術形態，在以強大的內容生成力賦能各種行業領域的同時，也給網絡意識形態領域帶來了風險挑戰。不良社會思潮內嵌生成式人工智能進行隱蔽滲透、算法偏見導致生成式人工智能的內容偏向性、數據失真導致網絡意識形態的偏差、算法反噬削弱網民的意識形態鑒別力等風險疊變致使生成式人工智能超越單純技術屬性的內容生成功能，以隱蔽的方式影響網絡意識形態安全。我們可以從加強價值引領、加強大數據檢測與管理、掌控數據管理權力、重塑人機關系等多重路徑應對生成式人工智能給網絡意識形態安全帶來的風險挑戰。

［關鍵詞］生成式人工智能；網絡意識形態安全；風險；防范

［中圖分類號］D64 ［文獻標識碼］A ［文章編號］1003-7608（2025）02-0083-09

與傳統人工智能技術不同，以ChatGPT為代表的初代大語言模型標志著生成式人工智能發展的新階段。與此同時，DeepSeek作為國產生成式人工智能模型的典范，通過其創新性的技術架構與應用實踐，進一步推動了這一領域的深度發展。生成式人工智能以其降低大眾上手難度、提升人機交流效率、革新人機交互模式等特征影響甚至重塑人類思想形態、道德觀念、價值體系和行為方式，呈現出“一種更加脆弱的隱形意識形態”^［1］。從網絡意識形態安全角度審視生成式人工智能的意識形態特征及其本質屬性，挖掘生成式人工智能威脅網絡意識形態安全的風險因素，進而探究生成式人工智能引發網絡意識形態安全風險的調適路徑，對于新時代推進網絡意識形態安全治理現代化具有重要的現實意義。

一、生成式人工智能的雙重屬性

生成式人工智能是一種新型的人工智能技術范式，它依托龐大的深度學習模型，對現有數據集進行深入理解和處理，并以強大的泛化能力獨立創作具有原創性和連貫性的文本內容。隨著人工智能技術朝多模態方向發展，其輸入框架不再局限于文本和數據，而是可以接受音視頻、圖像、代碼等多種形式的輸入，激發出無限潛力。

生成式人工智能的誕生，立刻引起了國內學術界的濃厚興趣和廣泛關注。國內學者對生成式人工智能與傳統人工智能的特有屬性進行了多角度的對比總結。周維棟指出，ChatGPT的興起歸功于大語言模型和生成式人工智能架構帶來的技術性能的顯著提升，它所采用的“大型語言模型”標志著在人工智能的深度合成領域取得了顯著的技術突破^［2］。張凌寒認為，以ChatGPT為代表的大語言模型代表了深度合成領域的重大進步，其與常規算法技術的不同之處在于，大語言模型通常使用數十億甚至數千億參數進行訓練，這需要龐大的訓練數據量和強大的計算資源^［3］。劉越男、錢毅、王平等學者從多個視角和維度對DeepSeek在檔案工作中的應用及其未來前景進行了深入探討，強調DeepSeek能夠促進檔案工作的智能化轉型和進步^［4］。李國杰系統性地探討了DeepSeek的崛起所引發的關于人工智能發展路徑的深層次思考，并針對中國在人工智能領域的實力提升及實現技術自立自強的戰略路徑提出了建設性建議^［5］。這些研究成果主要聚焦于生成式人工智能的技術屬性層面，但對其價值屬性的考量相對較少，未能全面綜合地研究生成式人工智能的意識形態特征及其本質屬性。生成式人工智能作為人類社會實踐的產物，與政治、文化、思想、價值觀等因素交織在一起。審視生成式人工智能引發的網絡意識形態風險時，不僅要關注其技術屬性，還應將其納入網絡意識形態安全作用機制中進行評估和考量。

（一）生成式人工智能的技術屬性

便捷易用性和個性化定制是生成式人工智能的外在優勢。生成式人工智能與傳統人工智能的顯著差異就在于它的便捷易用性。傳統人工智能往往要求用戶具備特定的專業知識和技能，對于缺乏相應專業訓練的普通用戶而言，使用門檻相對較高。生成式人工智能的出現真正打破了人工智能技術的專業知識壁壘：只要用戶能夠熟練地使用互聯網，他們就有能力操作生成式人工智能。當前，國內外涌現的一批成熟的生成式人工智能應用如DeepSeek、ChatGPT、文心一言、訊飛星火等，都是以人機對話的模式模擬真實世界人與人之間的互相交流，不僅能夠迅速消除與用戶之間的距離感，還賦予機械的智能技術一種“人情味兒”。憑借獨一無二的技術應用優勢，生成式人工智能一經推出便火爆全球，成功“出圈”。

大規模數據集和語言模型是生成式人工智能的作用基礎。在訓練階段，語言模型通過接收海量語料并賦予單個詞匯權重，對語料庫中語句和段落的結構和模式進行學習和建模，以便掌握復雜的人類語言規則；在生成階段，語言模型通過訓練階段累積的數據和對語言規則的理解，對輸入語言進行邏輯嵌套和梳理，進而在人類的理解范疇內給出答復。預訓練語言模型的不斷迭代意味著模型參數的爆炸式增長，例如，GPT-3的參數量高達1750億^［6］。參數的引入旨在更加精確地擬合生成式模型和數據，使得生成式人工智能在文本生成、問答系統等應用場景中更加得心應手。語言模型通過反饋強化的學習方法使參數得以更新，借助人類指導實現大模型與人類意圖的對齊，從而提供個性化與定制化的回應。

深度學習算法和高計算力是生成式人工智能的技術核心。深度學習算法是一種以神經網絡為基礎的機器學習方法分支，其核心理念在于通過多層神經網絡模型來挖掘并表征數據的復雜特征。通常而言，深度學習模型由多個層次組成，每一個層級都會使用“神經元”提取出數據的高層次特征，再將加工后的數據運往下一個層級進行處理。在大量數據的迭代訓練下，深度學習模型能夠自主調整參數，進而具備獨立分析、目標分解規劃以及逐步利用工具完成指定任務的能力。同時，生成式人工智能的應用離不開高算力，包括它所需的大數據、大模型。大語言模型在持續的自我訓練和推算時需要消耗巨量算力資源，為了迎合其對高性能計算的需求，目前專用計算芯片和智算中心的配比正在逐步上升。

就技術層面而言，現階段生成式人工智能已經建立龐大的知識庫，具備了優秀的推理能力和高度精準的內容生成技能。它變革了以往的信息傳遞和互動交流體驗，全面影響著人們日常生活的方方面面，成為用戶在日常生活和專業工作中不可或缺的智能化助手。

（二）生成式人工智能的價值屬性

生成式人工智能具有一定技術可行性，同時亦是人類價值觀在智能領域的延伸，內含特定的價值取向。正如海德格爾所言，“如果把技術當作某種中性的東西，我們就容易聽任技術的擺布”^［7］。生成式人工智能在生成包含人類價值觀的信息并融入網絡公共信息傳遞之時，已然超越了純粹的工具屬性。這種技術的廣泛應用，不僅改變了信息傳播的方式，也對社會產生了深遠的價值觀影響。

第一，預訓練模型會吸收大量混雜的價值信息。生成式人工智能的成熟與大規模數據的輸入和資源的整合密不可分。如果缺乏規范化的數據訓練，模型更容易形成觀點與價值上的偏見，潛移默化地影響使用者。隨著生成式人工智能與商業資本的深度綁定，它可能會成為全球信息數據的主要供應者。這種數據壟斷建立在技術基礎上，并非對技術性能的極致追求或技術力量的最佳展現，而是更多地被用作一種凸顯和宣揚意識形態的工具。以目前市場占有率最高的生成式人工智能應用ChatGPT為例，它所使用的預訓練數據集在數據分布上表現出了明確的偏好性：訓練數據絕大部分來自英文材料，鮮有來自中文世界的數據。在英文材料中所體現的，自然是歐美等西方主流國家的價值取向和觀念觀點，蘊含嚴重的政治偏倚。即使我們可以用中文與之交流，在語言轉換的過程中，其附帶的意識形態并不會隨之轉換，而是傾向于輸出英文原始材料的觀點。例如，北京理工大學計算機學院相關研究發現，“ChatGPT生成內容中存在對于中國的大量偏見言論”^［8］。

第二，算法設計會包含開發人員的價值預設。算法是生成式人工智能的底層運轉邏輯。如果把生成式人工智能比作參天大樹，那么算法就是這棵大樹汲取養分的根系。算法設計作為技術合理性與價值主導性的結合體，致使其成為網絡意識形態安全風險的一個重要誘因。從技術角度來看，算法是應對日益增加的信息負載量的一種技術手段。從價值角度來看，算法推薦自誕生起就不可避免地帶有某種價值立場^［9］，具有準確的價值配對功能。一方面，生成式人工智能在開發和設計的過程中無法避免算法設計人員的價值觀融入。開發人員往往會優先選擇具有相同價值立場的文本，這種做法破壞了算法技術原本應有的客觀中立性，引發了算法設計的“技術利維坦”風險。另一方面，生成式人工智能在調試優化的過程中直接受到數據標注人員的價值偏好影響。數據標注人員通過對數據的分類和標記，引導算法模型朝著既定方向發展。換言之，如果數據標注人員在處理數據時受到主觀偏見的影響，那么算法將在帶有偏見的路上越走越遠，進一步加劇了算法的偏見性。盡管OpenAI有著一套極其嚴格的反饋強化學習機制，要求數據標注專家對每次訓練進行記錄和反饋，但是他們也承認這些規定難以根除話語中的偏見生成，從而在數據偏差的層面引發網絡意識形態的偏離。

第三，不同用戶的使用習慣會塑造語言模型的價值取向。生成式人工智能必須應對復雜的語言環境以及可能的語言暴力等情形。同時，為了迎合用戶的預期偏好，它可能會調整自身的立場和觀點。可以說，意識形態的傳播生態由個性化的話語情境塑造。生成式人工智能通過接收用戶的多元話語素材，有的放矢地創造帶有推測性和預測性的個性化回答。一方面，生成式人工智能模糊了主客體之間的信息真偽界限。生成式人工智能的本質是為用戶服務，以用戶為主導。如果用戶用情緒化的言辭和飄忽不定的立場對它進行誘導，會導致其大概率輸出有害文本。一旦不法分子利用生成式人工智能生成釣魚網站、惡意軟件等，將對網絡內容安全和社會穩定帶來巨大威脅。另一方面，生成式人工智能改變了意識形態的傳播樣態。傳統的意識形態傳播基于對主體與客體關系的推測性理解，意味著主體必須揣測和辨析客體的動機才能進行意識形態的引導。但是，生成式人工智能在個性化話題的建立中，突出“工具理性”，變革了意識形態的傳播樣態。正是因為生成式人工智能的“工具理性”過于死板，當它在搜索、整理和糅合信息的過程中無法尋覓符合用戶習慣的價值判斷，就會傾向于收集大量影響用戶客觀判斷的有害信息，在觸發預設關鍵詞時欺騙和誤導用戶，無視用戶作為主體的主導地位。

第四，賦權性的網絡信息流傳播方式傳遞價值觀念。生成式人工智能在給用戶提供信息的過程中，對信息流中的不同內容賦予不同的優先級，進而在網絡意識形態傳播領域發揮作用。傳統的意識形態傳播場景如報紙雜志、主流媒體、書本教材等無一不強調人工審查把關的重要性。然而，在生成式人工智能的傳播場域中，網絡意識形態卻面臨著異化風險，這種異化源于生成式人工智能的工具屬性取代了人類的社會屬性。造成這種現象的原因是多方面的。一方面是人機交互關系的異化。傳統的網絡意識形態傳播是通過人與人之間的情感交流來實現的，生成式人工智能的出現使人與人之間的情感交際向人與機器的情感交互轉變，使得原來“人—人”的雙向社交模式被“人—機”單向互動替換。在生成式人工智能場域中，用戶可能獲得一種“滿足感”，同時也意味著網絡意識形態話語權的構建方式更加隱蔽。此外，生成式人工智能還通過自主生產知識對用戶的認知框架造成沖擊，部分替代了原先的信息傳播渠道，以其獨特的行為方式沖擊著社會主流價值觀。另一方面則是人機創新主體關系的異化。在生成式人工智能出現之前，創新的主體和核心是人。如今，生成式人工智能可以勝任一些重復枯燥的工作，呈現出取代某些行業的趨勢，必然導致一定數量的群體失業，削弱了作為主體的人的創新動力和積極性。

二、生成式人工智能引發網絡意識形態安全的風險因素

生成式人工智能與用戶之間存在著雙向互動的關系。人類通過調整和改進生成式人工智能的算法和模型，以期將其發展方向引導至符合預期的方向。然而，生成式人工智能又以智能主體的形象，在持續的個性化和自動化的人機交互對話過程中逆向影響人類的思維和行為模式。簡言之，我們設計技術，而技術反過來又設計了我們^［10］。隨著生成式人工智能向縱深發展，其在推動社會發展前進的同時，也造成網絡空間愈加復雜與割裂。這對主流意識形態的形成、傳播和接受產生了不利影響，致使網絡意識形態安全面臨風險挑戰。

（一）消極價值觀內嵌生成式人工智能進行隱蔽滲透

數字化時代在推動經濟社會發展、為人們提供生活便利的同時，消極價值觀如極端個人主義、拜金主義、享樂主義等隨著生成式人工智能的普及運用，深入滲透至網絡空間內。這種狀況可能導致主流價值觀的凝聚力逐步瓦解，從而引發人們在價值認同上的迷茫以及價值觀的紊亂。伴隨著生成式人工智能的普及應用，網絡意識形態的斗爭更加隱秘、復雜且智能化。首先，生成式人工智能促使各種消極價值觀的社會影響擴大。生成式人工智能為各種消極價值觀的傳播提供了更為廣闊的平臺，顯著擴大了這些價值觀念的社會影響力和傳播范圍。其次，生成式人工智能持續收集同用戶交流時產生的數字內容，利用這些具備意識形態的文本來窺探和監視民意民情、時政熱點、社會矛盾、輿論風向和群體偏好等意識形態要素，通過將這些素材與特定的算法機制相結合，生成式人工智能能夠針對性地對焦點事件和政治思想進行精準干預和靶向解構，沖擊主流價值觀陣地。如今的第四代多模態GPT，可以接受音頻和圖像等多模態輸入，使其在傳播消極價值觀方面具有更大的潛在風險。再次，生成式人工智能的“生成”也暗藏玄機。它生成的內容虛實參半，往往具有一定的價值導向性。生成式人工智能還會編造虛假的信息源，如果被其欺騙而怠于查證則無疑有害教育、科研的發展^［11］。隨著網絡民粹主義的泛起，生成式人工智能可能成為其傳播載體，生成含有大量民粹主義內容的網絡言論，再定向推送給非理性、極端化的群體，加劇整個社會的價值撕裂。

（二）算法偏見導致生成式人工智能的內容偏向性

算法偏見是指生成式人工智能在生成文本時，可能會根據其訓練數據和算法模型中的偏見，呈現出一定的價值偏好。作為大數據和大模型的結合體，算法并不是獨立存在、永恒不變的實體，而是處于一個相互關聯、動態演變的狀態。傳統的信息生成和文本生成是調動傳統算法從原有數據里截取、糅合內容，這種算法具有較高的可控性。生成式人工智能的內在算法強調生成內容的隨機性與邏輯性，導致生成內容的不可控性顯著增加。這種特性可能使受眾的視野和觀念趨向“一元化”。它通過嵌入用戶閾下信息從而影響其認知，逐漸改變用戶的情緒、態度或者價值觀，容易形成“信息繭房”。“信息繭房”恰當地描述了信息如同“蠶繭”一般把人包圍于其中，讓他們失去以不同的態度與視角認識社會的能力^［12］。算法偏見導致的“信息繭房”，既削弱了不同群體間價值共識的基礎，也阻礙了網絡主流意識形態的傳播。算法是以大數據計算為基礎的，而大數據計算有著既定的計算規則，不斷的計算必然會讓算法帶有高重復性、同偏好性的價值觀印記，使其生成和擴散的內容偏向持續同質化，鞏固了原有算法的壁壘，從而喪失了對類似內容的批判性。人類知識應該是獨特性與共享性的有機統一。然而，算法偏見過分強調了人類知識的獨特性而忽略了其共享屬性，一味地制造、強化和推薦符合特定價值觀的內容，只為滿足所謂的“一己私欲”。一旦經過網絡擴散的具有意識形態屬性和價值屬性的內容觀點符合受眾的口味，那么算法偏見自身就形成了“信息繭房”。在很多情況下，“信息繭房”內部集聚了受眾的非理性力量，與社會主流價值觀背道而馳。

（三）數據失真導致網絡意識形態的偏差

生成式人工智能傳播網絡意識形態的基礎是對高維數據集的分析與整合。通過使用不同類別的標簽進行標注和分類，生成式人工智能可以在網絡空間中映射出各種虛擬身份，滿足不同用戶的個性化需求。這種算法革命基于細分個體自身價值與相關數據的精準匹配，從而接入網絡意識形態傳播環節。在傳播的過程中，數據失真會導致網絡意識形態產生偏差。一是謠言的大規模生產。經過大量的機器學習訓練，生成式人工智能已經具備產生欺詐性和誤導性謠言內容的能力。一方面，生成式人工智能促使謠言的多樣化發展，助力謠言從傳統的單一口語形式升級為涵蓋聽覺、視覺和感覺的多模態化形態。另一方面，生成式人工智能對謠言的加工與包裝將侵占網絡意識形態傳播空間，削弱主流意識形態的權威地位。經過巧妙偽裝的虛假信息可以提升用戶的認知感受，使他們沉浸于其中的愉悅感而難以自拔，阻斷了真實信息流的傳播。二是生成內容的真假摻雜會導致網絡意識形態安全處于復雜情境。生成式人工智能在數據來源方面缺乏真實性和科學性的檢驗，導致虛假信息的無序生成和劣質信息的肆意擴散。即使基礎數據存在紕漏和瑕疵，算法模型仍然會輸出所謂的“標準答案”。不僅如此，生成式人工智能創造的內容往往存在拼接湊數、“車轱轆話”等特征，一旦經過網絡平臺流入主流意識形態圈，將集中擠兌主流意識形態空間。真與假是人類重要的價值判斷，然而，生成式人工智能產生的話語和文本往往真假難辨。生成式人工智能利用失真數據和深度偽造技術生成虛假事件、虛假人物、虛假視頻等，這些虛假內容極易消耗人們對社會的信任，稀釋甚至瓦解主流意識形態，導致網絡主流意識形態走向離散化。

（四）算法反噬削弱網民的意識形態鑒別力

在生成式人工智能傳播的過程中，算法推薦是關鍵的一環。算法賦予信息流以意識形態性，而信息流反過來借助算法推薦技術塑造和強化后續信息的內容屬性，這就是算法反噬的形成機理。算法反噬效應導致信息在傳播過程中難以被分辨真偽，同時具有深刻的意識形態屬性。這種特性能夠造成人的思維偏差，操縱人的行為方式，甚至讓人不禁自我懷疑：到底人是機器的主宰，還是機器在操控人的行為。算法反噬的影響同樣波及人機之間的情感互動，主要體現在人對生成式人工智能的畸形依賴上。這種依賴致使個體的思想價值體系面臨消極價值觀的滲透，嚴重削弱了個體辨識意識形態的能力。一方面，生成式人工智能會剝奪人的自主決策能力和獨立思考能力。人的主體性主要體現在個體對自己行為和決策的內在驅動力和自我引導能力上，而過度依賴生成式人工智能可能會導致人們逐漸喪失自我進步和自我完善的主體意識。盡管生成式人工智能可以通過簡潔的對話問答迅速為用戶提供既定的、看似合理的“標準答案”，但實際上它正在悄然削弱用戶的主動思考能力，導致個體的自主思維能力退化。在生成式人工智能的代理思考下，個人的思考模式將從依靠自身轉變為依靠外力，逐步降低個體的獨立思考能力。而個體的主體意識一旦失守，消極的價值觀便會乘虛而入。另一方面，生成式人工智能會弱化人的批判性思維。倘若人們完全依賴技術，知識構建的主體將不再由人擔任，隨叫隨到的生成式人工智能提供的所謂標準化答案會讓人們最終喪失獨立思考能力和批判性思維。

三、生成式人工智能引發網絡意識形態安全風險的調適路徑

在世界百年未有之大變局的時代背景下，意識形態風險是一種“可能遲滯或中斷中華民族偉大復興進程的全局性風險”^［13］。意識形態安全往往和經濟發展、技術創新、信息服務、網絡文化、國際合作等方面緊密聯系，是事關國家安全的戰略議題。為了有效地抑制生成式人工智能帶來的意識形態風險，我們必須建立一個所有參與主體嚴格遵守的規則體系。

（一）加固網絡主流意識形態傳播“護欄”

習近平指出，“網絡空間已經成為人們生產生活的新空間，那就也應該成為我們黨凝聚共識的新空間”^［14］。守好網絡意識形態安全陣地，需要構建網絡主流意識形態傳播機制，既要堅持社會主義意識形態的價值引領，又要為社會主義法治體系提供堅強保障。

一是強化價值引領，拓寬網絡主流意識形態的陽光大道。網絡已是當前意識形態斗爭的最前沿^［15］。作為一種網絡技術，生成式人工智能應該維護社會主義意識形態的主導地位，通過其內在的價值理念來限制過度的工具化趨勢。“如果我們在教給強大的智能機器基本倫理標準之前，在某些標準上達成了共識，那一切就會變得更好”^［16］。生成式人工智能視角下的網絡意識形態傳播必須在開發、設計、推廣的每個環節都融入主流意識形態，加強對收集數據的意識形態把關，構建內嵌主流意識形態的算法設計。算法推薦在意識形態傳播過程中重塑話語權，重新定義了話語內容和話語價值的傳播方式。因此，一方面，我們要提高技術開發和產品運營團隊對于主流價值觀的認同度，增強他們在維護意識形態安全方面的責任感。具體而言，開發者在政府主導下由權威機構有組織、有計劃地推動主流價值觀的數字化和算法化，確保數據的全面性、中立性與人民性，避免忽視弱勢群體。開發團隊還要適當提高時效性和積極性數據的權重，及時更新語料庫，設計契合主流價值觀的算法，避免形成價值偏見，促使生成式人工智能與用戶的對話內容更具有主流價值導向性。另一方面，我們要警惕消極價值觀的定向滲透。解決這一問題的關鍵在于采用內容審查和海量過濾等技術方法篩選并隔離消極價值觀，通過總結其典型的敘述方式和常見話題，分析消極價值觀影響日常生活的內在邏輯。然后，通過智能分析技術來識別并卸下消極價值觀的面具，從而有效增強主流價值觀在互聯網絡傳播的廣度和深度。

二是建立健全相關法律法規，鋪設維護網絡意識形態安全的法治軌道。“國無常強，無常弱。奉法者強則國強，奉法者弱則國弱”^［17］。網絡空間不是“法外之地”。網絡意識形態安全治理需要運用法治思維和加強法治建設。

一方面，在法律制定方面，國家應積極推進相關法律法規的起草和修訂，為規制生成式人工智能潛在的意識形態風險夯實法律基礎。目前，雖然《生成式人工智能服務管理暫行辦法》的實施在一定程度上遏制了生成式人工智能無序擴張的情況，但是，考慮到目前生成式人工智能可能帶來的各種風險，單憑該暫行辦法還不足以應對瞬息萬變的網絡意識形態風險。這就意味著我們需要對生成式人工智能的原理和技術路徑有清晰的認知，對由生成式人工智能引發的網絡意識形態風險以及由此滋生的違法犯罪活動的特征、成因及規律進行嚴謹分析評估。針對生成式人工智能相關問題的具體細節，擬定并完善細分領域的具體法律法規，確保生成式人工智能的網絡意識形態屬性在法律框架內得到正面引導。例如，歐盟的《人工智能法案》旨在明確人工智能技術的監管手段，保障技術應用的合法性和遵規性。

另一方面，針對生成式人工智能形成的網絡輿論，國家應通過培育大眾法治思維和加強國家法治建設加以引導。隨著生成式人工智能技術的不斷發展，網絡輿論在傳播中逐漸形成了紅色地帶、黑色地帶和灰色地帶，對待不同地帶要采取不同策略。對于其中的灰色地帶和黑色地帶，需要依法遏制網絡謠言、暴力等不良信息的傳播，建立完善的網絡違法和不良信息舉報受理處置一體化的法律機制。通過法律明確網絡空間各方的權利和義務，依法治理網絡空間，維護網民的正當合法權益。網絡空間法治化進程要始終維護好人民利益，在法律上明確所有參與者的網絡權利、責任和義務。

（二）加強大數據技術監測與管理

在生成式人工智能快速發展的背景下，網絡意識形態傳播具有高度的不確定性。因此，加強對生成式人工智能全領域覆蓋的大數據技術監測和管理對于確保其健康發展不可或缺。

首先，通過大數據技術進行監測，規范生成式人工智能在傳播網絡意識形態時所使用的算法與模型，促進主流價值觀的精準傳播。生成式人工智能所使用的大模型，在展現其驚人生成潛力的同時，也伴隨著多維度的安全隱患。第一種是模型安全風險。大模型可能使用從網絡中獲取的“帶毒”內容進行訓練，在遇到預設觸發詞時欺騙和誤導用戶。數據“投毒”渠道多樣，“投毒”行為往往發生在用戶監管之外，這些因素導致傳統的監測技術無法覆蓋。第二種是數據安全風險。用戶高度參與的訓練范式，用戶提出的問題、指令都參與生成式人工智能的訓練，不僅可能外泄個人隱私，單位信息、國家信息等數據泄露的風險也大大增加。運用先進的大數據監測技術，我們可以對信息的可信度進行實時監測與把關。大數據監測技術可以通過數據挖掘、情感分析和文本檢測等手段構建特征數據庫，主動鎖定“帶毒”內容并予以封鎖，阻斷“毒素”的傳播路徑。同時，大數據監測技術還可以從話語體系、情景語境、信息共性等方面對生成內容作二次分析，對疑似內容構建風險評估機制，對涉及敏感話題和個人隱私的內容及時攔截，避免它們流入公眾空間。

其次，在系統思維和動態思維下加強對大數據技術的統一管理，構建大數據規范網絡信息傳播機制。大數據技術的管理對象主要是行業，行業管理的關鍵在于根據各種特定情境，制定精確而高效的管理策略。系統思維要求研制一個覆蓋多源異構知識的行業大模型，積極制定生成式人工智能平臺的基本行業準則，構建多主體合作、多維監管、多方協調的算法管理范式。具體而言，我們可以通過篩選高質量指令數據實現多行業的快速學習，通過行業知識模塊化整合避免造成大模型對原有知識的遺忘，利用大模型能力解耦、知識編輯技術對大模型參數進行更新，將所需模塊靈活組合以便迅速適配新任務。同時，還要提升模型的泛化能力，通過大模型生成幻覺檢測系統，對生成內容和意識形態進行管理與糾偏。動態思維主要強調的是大數據技術的創新。各企業要關注國際前沿實踐并重視技術交流和經驗分享，加快研發基于我國國情的新型人工智能技術，牢牢把握未來生成式人工智能技術的發展動向。“大幅提高自主創新能力，努力掌握關鍵核心技術”^［18］。這就要求創建和豐富我們的語料庫和數據庫，自主研發算法技術和語言模型，擺脫西方世界在這個領域的一元統治，持續改進現有的生成式人工智能產品，扣緊網絡意識形態領域的“安全帶”。

（三）掌控數據管理權力

在缺乏有效監管和算法透明度不足的情況下，數據領域往往容易演變為市場化的虛擬空間。技術的信息篩選與推送權力可能導致平臺趨向市場壟斷。這不僅損害信息的質量與多樣性，還可能對社會價值觀及公共對話造成不利影響。因此，構建一套全面的數據管理體系是必要的，旨在捍衛數據領域的主權，確保生成式人工智能的健康發展。

一是要掌握數據準入權力。與互聯網的開放與包容特性相異，生成式人工智能對數據內容的準入設定了嚴格門檻，僅有契合算法及模型既定標準和條件的數據得以向用戶呈現。不達標的信息則常被邊緣化，深藏于用戶難以觸及的隱蔽角落。鑒于數據準入標準的差異引發了生成式人工智能在無形中嵌入意識形態特征的現象，我們必須采取以下措施。一方面，為確保生成式人工智能輸出內容符合意識形態安全標準，必須在數據準入環節融入相關原則。這要求開發具備價值判斷能力的智能算法，能夠對數據內容的立場、來源等進行深度分析，識別潛在的意識形態傾向，并優先篩選及推薦那些有助于保障國家意識形態安全的信息內容。另一方面，針對意識形態屬性模糊的詞句，不應采取簡單的篩選過濾措施，而應采用情感分析與人工審核相結合的數據編碼策略。人類語言的結構遠超計算機語言，其中所蘊含的意識形態傾向復雜多變，算法難以實現完全精確的識別與評估。因此，盡管大模型在處理海量數據方面表現出色，但在捕捉語言細微差別，特別是那些需要深刻文化及語境理解的表述時，仍存在一定的局限性。在數據準入處理過程中，必須運用先進的算法技術對數據進行編碼，并與人工審查相結合，以細致剖析內容中的模糊性信息。

二是要掌握數據糾偏權力。盡管數據準入設置了一系列門檻，但仍有一些有害數據能夠巧妙地規避審查，成為“漏網之魚”。因此，對包含不當價值觀的數據進行后續的篩選和修正，是確保生成式人工智能在意識形態安全方面實現長期穩定發展的關鍵措施。一旦大數據監測技術發現疑似含有不良意識形態的數據內容，必須通過分析相關信息所引發的追隨型輿論，以判斷其實際的意識形態屬性，并及時移除數據集中隱含的錯誤價值傾向的內容。此外，還需建立和完善數據追溯機制，對于頻繁散布有害我國意識形態安全信息的賬號和個人實施封禁和追責，從根本上遏制有害數據信息的擴散。

（四）以風險意識重塑人機關系

在生成式人工智能構建的虛擬情境中，用戶一直是意識形態風險的主要受眾和能動主體。這不僅表明生成式人工智能將在人機互動的過程中影響用戶的思考模式和思維觀念，而且為用戶提供的對話數據也被其用作訓練素材，從而進一步反哺和優化智能傳播過程。由于用戶群體規模極為龐大，因此，用戶的主動參與和監督對于防范生成式人工智能潛在風險至關重要，可以通過與機器的持續互動逐步培養風險預防和權益保護意識。

一是用戶應當不斷培養自身的“智能素養”。在生成式人工智能時代，只有用戶具備與生成式人工智能相匹配的智能素養，才能在廣泛參與生成式人工智能治理的進程中構建抵御網絡意識形態風險、保護網絡意識形態安全的堅實防線。首先，要增強用戶的數據感知。用戶應充分了解智能算法和語言模型的工作原理，對生成式人工智能提供的內容保持理性態度，充分鑒別有用信息，避免虛假信息的誤導，以批判性思維評估新興的智能工具。其次，用戶要在人機交互中增強自身的數據表達能力。用戶應以主體意識看待生成式人工智能，驅動自身對數據的收集、處理、應用和轉換，在實際操作中逐步建立適應時代發展的思維模式和話語體系。再次，用戶要正確使用生成式人工智能產品。用戶必須堅守法律底線思維，對于不實的內容要拒絕傳播，并在發現有害信息時立即保存相關證據，及時向平臺或監管機構報告，自覺抵制對不良信息的二次創作和擴散，同時尊重他人的知識產權和個人信息權利，避免侵犯他人合法權益。

二是用戶必須始終堅持主體意識。為了始終保持人機關系中的主體地位，在參考生成式人工智能提供的信息或建議時，用戶應當保留自己獨立思考的空間。從技術的本質來看，人類是主導者，技術則是被操作的實體。網絡意識形態的風險因素往往是通過人這一主體產生影響的。盡管生成式人工智能是由開發者創建的，但它是在與用戶的實際交互過程中不斷進化的，其意識形態的最終影響力必然是由廣大用戶群體所決定的。用戶在人機交互時，若能自覺傳播正向價值觀內容，他們將成為規范技術的關鍵力量，并有助于在輸入端預防由生成式人工智能引發的網絡意識形態風險。利用生成式人工智能的循環反饋機制，促使用戶的價值表達與語言模型的價值輸出相輔相成，糾正生成式人工智能固有的先驗價值取向，以實現對生成式人工智能發展的價值引導。

四、結語

“網絡空間成為國家意識形態交流交鋒交融的前沿陣地，成為威脅我國總體安全的‘最大變量’”^［19］。新一代生成式人工智能的興起，標志著人類步入下一個智能時代。通過創造個性化的對話體驗、生成智能化的信息內容以及塑造新的人機交互關系，生成式人工智能不再僅僅被視為工具，而是展示出強大的意識形態影響力，隨之而來的網絡意識形態風險亦日益凸顯。生成式人工智能的迅猛發展使網絡意識形態安全在數據基礎、主客體關系、內容傳播等方面都面臨著巨大的挑戰。為了應對這一系列挑戰，我們需要深入研究生成式人工智能的應用現狀和未來趨勢，精準研判其潛在的意識形態風險，加強預見性防范和標準化指引，確保生成式人工智能發展的可控性、可用性和可靠性，促進生成式人工智能這一“最大變量”向“最大能量”轉化。

［參考文獻］

［1］哈貝馬斯.作為“意識形態”的技術與科學［M］.李黎，郭官義，譯.上海：學林出版社，1999： 69.

［2］周維棟.生成式人工智能類案裁判的標準及價值邊界［J］.東方法學，2023（3）：47-60.

［3］張凌寒.深度合成治理的邏輯更新與體系迭代：ChatGPT等生成型人工智能治理的中國路徑［J］.法律科學（西北政法大學學報），2023（3）：38-51.

［4］劉越男，錢毅，王平，等.挑戰與展望：DeepSeek對檔案工作的影響及應用前景［J］.浙江檔案，2025（2）：5-13.

［5］李國杰.DeepSeek引發的AI發展路徑思考［J］.科技導報，2025（3）：14-19.

［6］STOKEL-WALKER C ， VAN NOORDEN R. The Promise and Peril of Generative AI ［J］.Nature，2023，614（7947）：214-216.

［7］HEIDEGGER M. Basic Writing：From Being and Time（1927） to the Task of Thinking（1964） ［M］.New York：Harper amp; Rowp，1977：288.

［8］張華平，李林翰，李春錦.ChatGPT中文性能測評與風險應對［J］.數據分析與知識發現，2023（3）：16-25.

［9］張林.智能算法推薦的意識形態風險及其治理［J］.探索，2021（1）：176-188.

［10］WOLFF J.How Is Technology Changing the World，and How Should the World Change Technology？［J］.Global Perspectives，2021（1）：42-45.

［11］COTTON D R， COTTON P A， SHIPWAY J R.Chatting and Cheating：Ensuring Academic Integrity in the Era of ChatGPT［J］.Innovations in Education and Teaching International，2023：1-12.

［12］桑斯坦.信息烏托邦：眾人如何生產知識［M］.畢競悅，譯.北京：法律出版社，2008：102.

［13］中共中央黨史和文獻研究院.十九大以來重要文獻選編：中［M］.北京： 中央文獻出版社，2021：654.

［14］習近平.加快推動媒體融合發展 構建全媒體傳播格局［J］.求是， 2019（6）：4-8.

［15］中共中央文獻研究室.習近平關于社會主義文化建設論述摘編［M］.北京：中央文獻出版社，2017：36.

［16］泰格馬克.生命3.0：人工智能時代人類的進化與重生［M］.汪婕舒，譯.杭州：浙江教育出版社，2018：444.

［17］習近平.在慶祝全國人民代表大會成立六十周年大會上的講話［J］.求是，2019（18）：4-15.

［18］習近平在中共中央政治局第九次集體學習時強調 敏銳把握世界科技創新發展趨勢 切實把創新驅動發展戰略實施好［N］.人民日報，2013-10-02（1）.

［19］呂列霞，陳錫喜.國家治理現代化視域下新時代意識形態功能提升論析［J］.東南學術，2022（2）：23-30.

［責任編輯：靳芳菲］