生成式人工智能驅動下的網絡信息風險防范研究

主持人語：

習近平總書記指出，網絡空間是億萬民眾共同的精神家園。網絡空間天朗氣清、生態良好，符合人民利益。網絡空間烏煙瘴氣、生態惡化，不符合人民利益。這些重要論述為加強互聯網內容建設、建立網絡綜合治理體系、營造清朗有序的網絡空間提供了科學指引和行動指南。

中國互聯網絡信息中心（CNNIC）發布的《第55次中國互聯網絡發展狀況統計報告》顯示，截至2024年12月，中國網民規模達11.08億人，互聯網普及率升至 78.6% 。網絡空間已經成為人們生產生活的新空間，但需要關注的是，網絡空間管理也在安全發展、法治秩序、公平正義等方面考驗著政府的治理能力。近年來，我國深入實施網絡內容建設工程，推進網絡文明建設，開展“清朗”系列專項行動，網絡生態治理取得良好的成效。但同時也要看到，隨著人工智能、量子計算等網絡新技術的不斷涌現，網絡安全形勢持續變化，網絡生態治理面臨新的挑戰。

黨的二十屆三中全會通過的《中共中央關于進一步全面深化改革、推進中國式現代化的決定》明確提出，加強網絡空間法治建設，健全網絡生態治理長效機制。這為進一步推進新時代網絡空間法治建設提供了遵循。本刊推出《聚焦網絡生態治理》專題，就人工智能應用治理、網絡內容治理、網絡平臺算法治理等熱點問題進行研究和探討，旨在為維護網絡空間的清明與秩序提供理論支持和實踐指導，敬請垂注。

當前，人工智能技術在新聞傳播領域的應用日益廣泛，但同時也暴露出諸多問題，主要表現為安全防護機制不健全、數據外包造成信息泄露風險以及新聞從業者結構性失業危機等。為充分發揮人工智能在新聞生產中的積極建設作用，保障新聞媒體輿論宣傳效果的穩步提升，需要審慎處理生成式人工智能技術應用過程中涉及的人機倫理問題，妥善處理傳媒行業在融合轉型發展過程中面臨的技術與人才的矛盾等問題，推動傳媒行業健康可持續發展。

一、生成式人工智能技術對新聞產業的影響

生成式人工智能（GenAI）技術是指基于算法、模型、規則等，生成文本、聲音、圖片、視頻等內容的新一代人工智能技術。算力、算法、數據是該技術發展的三大核心要素，這三個要素的綜合作用，使其具備自動生成模式，能實現閉環式學習體系的構建，通過利用海量數據信息、自主學習要素，進而生成原創性的專業知識內容或產品，并不斷更新、自我升級迭代?；谶@些特點，越來越多的行業正將其作為提高生產力水平的新要素。2022年末，美國OpenAI公司推出的Chat-GPT標志著這一技術在文本生成領域取得顯著進展。世界知識產權組織（WIPO）發布的《生成式人工智能專利態勢報告》顯示，2014年至2023年，中國生成式人工智能專利申請量超3.8萬件，居世界第一位1，可見當下中國人工智能技術的使用已有相當基礎。

在新聞生產流程的變革中，人工智能技術發揮了至關重要的創新驅動作用。以四川日報報業集團旗下的《封面新聞》為例，其使用的小封機器人巧妙融合了自然語言處理等領域的多種大小模型，實現了對文本內容的深度剖析與精準闡釋。同時，平臺借助先進的計算機視覺技術，能夠高效地完成對圖像及視頻資料的識別與解析工作。在此基礎上，平臺通過構建基于大型模型的學習機制，深入探究虛假信息與謠言的內在特征，包括但不限于內容屬性與傳播模式等，以實現對不良信息的有效甄別，平臺還利用大型模型對社交網絡用戶的行為模式進行深度挖掘與建模，旨在及時發現并應對異常行為及潛在的惡意活動2。然而，此類媒體在生成式新聞創作過程中對大數據采集的高度依賴，也引發了內容安全防護層面的諸多挑戰。從新聞生產初期的全網數據搜集，到后續輿情監測系統的構建，每一個環節都可能潛藏著不容忽視的安全風險。此外，隨著接觸數據庫的人員規模不斷擴大，密鑰泄露、人員濫用權限以及信息安全數據庫防護薄弱等問題也日益凸顯，影響了新聞生產的安全性與穩定性。

二、新聞生產中網絡信息安全風險的成因

（一）采集數據技術迭代沖擊，安全防護系統尚未健全

在國內，自20世紀50年代起，便針對紙媒形成“三審三?！钡牧鞒腆w系，層層把關、核查紕漏。隨著大數據技術的持續選代，傳統新聞生產過程中的經典守門人理論需要正視數字轉型，與新的概念進行深度對話4，適應新的生產方式。

在傳統新聞生產過程中，把關者通常會對采訪對象的個人信息予以隱藏保護。在當下的數字化時代，基于當前大數據技術的發展，數據采集的范圍、速度及精確度均實現顯著提升。然而相應的防護系統卻未能與之同步發展，人們在各類注冊環節填寫的信息被上傳至網絡后，信息泄露的風險大幅提高。微觀上，存在個人信息加密技術不足，訪問控制管理缺乏精細度的問題；宏觀上，整體規劃與部署的缺失導致系統設計存在漏洞，相關工作人員對數據信息安全重視不夠，進一步加劇了數據泄露的風險。

（二）外包技術存在安全隱憂，關聯行業管理引發危機

隨著政務新媒體的迅速發展，網站、微博、微信的運營維護及客戶端的技術開發等外包服務隨之興起。此外，傳媒行業及其相關的直播行業、電商平臺，特別是商業平臺和自媒體企業，大多選擇將內容安全監管外包。主流媒體大多采取技術外包，在數據外包的過程中，新聞生產采集信息（輿情分析、輿情檢測、輿情預警等）、內容防護的機器審核、媒體資源管理等環節都容易發生信息泄露，產生安全隱患。在移動互聯時代，傳媒行業不再是獨立個體，它和移動通信等行業緊密聯系，其系統多由移動通信行業完成，相關行業的管理漏洞也會導致連鎖安全問題。

2025年3月，百度副總裁謝某某女兒“開盒”他人隱私信息的事件引發熱議。事件起因是，一名網友于3月15日下午在微博某話題下發帖，內容大致為“粉絲開盒素人孕婦太過分了”。隨后，一個ID為“你的眼眸是世界上最小的湖泊\"的用戶公布了該網友的姓名和身份證號。當事人向記者表示，她點擊進入該用戶主頁后發現，被\"開盒”的并非只有自己，“感覺有5人以上\"。

“開盒\"產業鏈的背后，本質是技術發展與社會規范脫節的產物，其運作邏輯與平臺經濟中的“數字控制”如出一轍。它通過數據霸權實現對人的物化。在當下新聞生產行業中，同樣需要警惕此類現象，避免在數據外包過程中產生信息泄露問題。

（三）新聞機構重技術輕人員，引發結構性失業問題

2023年，ChatGPT與Bing因用戶能夠繞過出版商的付費墻而被迫暫停一項新產品合作。在受訪的1159家出版商中，超過半數要求AI（人工智能）網絡爬蟲停止對其網站的抓取。由此可見，無論是從整個新聞行業發展還是個人的薪酬角度看，技術對于人的學習模仿造成了不小的沖擊。隨著AI技術的不斷運用，新聞機構也都紛紛引入先進的采編系統、大數據分析工具和智能傳播平臺，顯著提高了新聞生產和傳播的效率，但對員工在新技術應用、創新思維和業務拓展等方面的培訓能做到系統性和持續性規劃的相對較少。新聞機構利用人工智能的多模塊技術，對記者采集的數據進行大量學習，通過學習，機器甚至可以代替人類自主完成大量的文字、圖片乃至視頻創作，許多基礎重復性工作被機器人所替代。傳媒機構也因此有可能將更多資金投入人工智能的應用上，忽視了對新聞從業人員的技能培訓，引發從業者結構性失業問題。

三、網絡信息內容安全風險的防范之策

（一）多方協同：共筑數字安全防御之堤

隨著各類流媒體平臺、社交網絡平臺、即時通信APP、知識問答社區等互聯網應用的普及，以及專業性、領域性、多模態性等新興搜索引擎的出現，網絡信息的記憶材料越來越多地呈現碎片式的流存形態，難以以完整的存儲記錄形成集體記憶。我國網絡信息安全治理秉持\"政府管平臺\"與\"平臺管用戶\"的理念，但由于資源和技術等方面的限制，政府在規則層面強調讓網絡信息內容服務平臺承擔更多義務和責任。在管理體制上，政府應積極聯合協調多方，對媒體機構、商業平臺的內容安全防護系統進行規范治理。需對人工智能技術涉及的安全隱患進行全面監管，包括在直接惡意危害他人信息內容的前提下進行的信息收集行為，以及在用戶不知情的情況下收集用戶數據進行內容利用的間接性行為。

當前，我國尚未出臺專門針對人工智能技術蓄意侵犯手機用戶信息安全這一新型風險領域的專項保護法律，因此網絡信息內容媒體機構與眾多互聯網公司亟須凝聚共識，協同政府、技術、行業等多方力量，共筑信息安全防范之堤。

一方面，政府應持續完善法律法規，為數據安全與公民隱私保護提供保障。在《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》的基礎上，2025年3月7日，國家互聯網信息辦公室等部門聯合發布《人工智能生成合成內容標識辦法》，提出對生成合成視頻在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，該辦法自2025年9月1日起施行，表明了我國治理深度偽造、惡意合成視頻的決心。另一方面，政府應加大執法力度，對違法違規收集、使用、泄露用戶信息的行為實施嚴厲懲治，維護網絡生態的良性秩序。網絡運營商則需在技術層面持續發力，構建企業級的內容安全防護系統，運用先進的加密技術、訪問控制等手段，確保用戶信息在傳輸、存儲及使用過程中的安全。同時，應積極探索區塊鏈等前沿技術的應用，利用其去中心化、不可篡改的特性，解決數據備份的信任難題，提升信息共享的效率與安全性。此外，要進一步凝聚各成員之間的合作共識，通過協同研發、共享安全資源等手段，提升整個行業的安全防護效能。

（二）生產構建：打造容災備份常態化機制

在信息化時代的洪流之中，容災備份機制已然成為企業確保業務連續性與穩定性的核心策略。容災策略著重于抵御自然災害、硬件故障等重大風險；備份機制則側重于應對數據丟失的潛在威脅，如人為疏忽、軟件缺陷、病毒侵襲等情況。需要特別指出的是，網絡信息內容流失風險雖然常常被忽視，但實際上已經成為內容生態安全風險里不容忽視的一個方面。

在網絡信息內容安全風險日益凸顯的當下，構建一套常態化的歸檔保存體系顯得尤為迫切。容災備份產品的終極目標，在于為企業提供全方位、多層次的防護，以有效應對人為誤操作、軟件錯誤、病毒入侵等“軟\"性災害，以及硬件故障、自然災害等“硬\"性威脅。因此，應摒棄傳統的層級化思維，根據具體情況靈活制定新聞生產的容災與備份政策，以確保在各類突發事件面前，能夠迅速響應、有效應對，維護內容生態的安全與穩定。2021年11月25日，《廣東省公共數據管理辦法》提出，要推進社會數據“統采共用”，提升數據資源使用效益，建立健全社會數據緊急調撥、采購等制度，提高應急狀態下數據要素高效協同配置能力，確保在突發應急情況下，機構依然可以正常運轉。近年來，有學者對網絡信息歸檔保存進行了研究，但并未將其放在網絡信息內容安全風險規制的視角來對待，國內有關網絡信息內容常態化歸檔保存的制度和機制尚未形成。

綜上所述，通過綜合性的防護路徑與容災備份手段，能夠確保重大社會事件與核心議題被精準識別，以真實、完整的面貌還原其動態發展趨勢，構筑起堅實的信息安全屏障。首先，通過全景式調查手段全方位、多層次把握網絡信息內容全貌。其次，通過對與特定事件或主題緊密相關的龐大數據集與信息流進行系統性收集與深度剖析，精準捕捉潛藏于海量數據中的珍貴信息碎片，為信息存檔與保存奠定基礎、提供支撐。最后，在此基礎上，選擇性建檔保存成為確保信息完整性與真實性的核心環節。依據信息的重要性、價值密度及影響力等因素進行嚴謹篩選與科學分類，對承載歷史意義、深遠社會影響或重大科學價值的信息予以重點保護與長期保存。這種有的放矢的歸檔策略，既能有效節省存儲空間，又能確保信息長期可訪問性與可追溯性。

（三）媒體筑基：加強專業培訓， 優化崗位設置

當前，新聞生產正步入一個專業化與智能化并重的嶄新時代。其間，雖記者、編輯等崗位不乏面臨被AI部分替代的挑戰，但也出現了技術專家、數據分析師、算法工程師及AI產品經理等高技能職位。在智能化變革浪潮下，媒體從業者需不斷提升專業素養，更新知識體系。為此，政府亟需加大政策扶持與資金投入，推動新聞機構人員的轉型升級與能力提升，通過AI技術的深度融合，優化內容創意和生產流程，激發新質生產力，為新聞產出與與論引導注入強勁動力。

在技術人員參與新聞領域實踐的過程中，同樣離不開傳統新聞從業人員的協助。具體而言，媒體的數據中臺存在算法工程師不了解新聞采編規律的情況，這致使所構建的用戶畫像模型與實際內容生產嚴重脫節，進而暴露出當下新聞行業面臨的最為嚴峻的挑戰—“數字人才的結構性失衡”。從媒體數據運營的需求來看，其迫切需要的是一類“跨界人才”：他們一方面能夠熟練運用Python進行數據清洗，精準挖掘數據背后的信息，另一方面其具備新聞專業素養，能夠深刻洞悉新聞報道所蘊含的社會價值，同時深譜區塊鏈的加密原理，清楚技術前沿動態，精通著作權法，明晰法律的邊界與尺度1。然而，目前我國此類復合型人才存在較大缺口，人才斷層現象凸顯，且行業難以在短期內通過培訓、轉崗等方式完成向復合型人才的轉型轉化，以滿足行業發展的緊迫需求。因此，應統籌優化崗位配置，強化新聞生產與輿論宣傳核心業務人員的經濟基礎，規避技術過度滲透與商業化傾向對與論生態的潛在威脅。

此外，政府應出臺相應法規予以支持，保障傳統傳媒產業憑借信息資源優勢平穩過渡至新業務模式。洞悉新聞內容在AI系統中的運用詳情，包括數據集與基礎模型權重等核心信息，對于媒體轉型至關重要。在此背景下，堅持運用AI技術強化新聞事實核查機制，成為傳媒行業現代化產業體系構建、加速新質生產力發展的關鍵所在，亦是推動傳媒行業邁向高質量發展的必由之路。

四、結語

當前，在人工智能技術深度融入新聞生產領域的進程中，技術至上之風盛行，而人文關懷卻略顯不足。在網絡信息安全風險的背景下，這進一步加劇了人機之間的矛盾沖突。為有效應對這些挑戰，政府應積極聯合協調多方，對媒體機構、商業平臺的內容安全防護系統進行規范治理，構建強化數據安全管理體系，優化算法邏輯與輿情監測機制。同時，網絡安全部門應加固網絡安全防護壁壘，切實保障從業者的合法權益，助推新聞行業平穩轉型、步入健康發展軌道。

參考文獻

[1]防范人工智能風險要有安全閥 [EB/OL]. （2024-08-15） [2025-04-08]. https：//www.peopleapp.com/rmharticle/ 30046248892.

[2]傳媒融中對.影響 + 資本 ⁺ 產業：封 面傳媒\"三環聯動\"的盈利模式（四川日報 報業集團）[EB/OL].（2019-09－26） [2025-04-08].https：//baijiahao.baidu. com/s？id 1645751793194090119.

[3]孫馨.嚴格“三審三?！敝贫?，推動期刊出版高質量發展.科技與出版，2021（6）：99-102.

[4]李彥雯.經典守門人理論的數字轉型：“望門”與公共價值].青年記者，2024（12）：79-84.

[5]\"副總裁謝廣軍女兒開盒”，百度報 案！受害者發聲[EB/OL].（2024-03-20） [2025-04-08].https：//www.thepaper. cn/newsDetail_forward_30446533.

[6]李潔，周毅.網絡信息內容生態安全風險：內涵、類型、成因與影響研究]圖書情報工作，2022，66（5）：4-12.

[7]張牧.新媒體傳播中的AI生成視頻：原理、應用與挑戰.全媒體探索，2025（3）：121-124.

[8]廣東省人民政府關于進一步深化數字政府改革建設的實施意見[].廣東省人民政府公報，2023（16）：2-13.

[9]周毅，張雪.網絡信息內容生態安全風險整體智治的理論框架與實現策略研究[J].圖書情報工作，2022，66（5）：44-52.

[10]當數據成為“新石油\"如何避免 “資源詛咒”[EB/OL]. （2024-04-08） [2025 - 04 - 28]. https：//mp. weixin. qq. com/s/mVAVVaVgsWnr_cbdy22NCw.