AIGC在新聞生產(chǎn)中的風(fēng)險控制

欒軼玫

當(dāng)下新技術(shù)更新迭代、媒介生態(tài)巨變，AIGC 給新聞生產(chǎn)帶來新可能的同時也蘊含著新風(fēng)險，媒體在面對AIGC 協(xié)助新聞生產(chǎn)過程中應(yīng)具備風(fēng)控思維，制定風(fēng)控策略，使新技術(shù)始終能為我所用。

內(nèi)容質(zhì)量的風(fēng)險控制

新聞報道特別是重大主題報道涉及黨和政府的重大決策和社會熱點問題，在這一類型的新聞生產(chǎn)中需警惕AIGC 基于算法驅(qū)動隱藏的政治偏見風(fēng)險。

首先，控制政治偏見風(fēng)險。使用AIGC 工具自動生成新聞內(nèi)容時存在難以察覺的政治偏見，媒體應(yīng)加強(qiáng)對AIGC 生成內(nèi)容可能具有政治偏見的認(rèn)識，警惕并做好風(fēng)險控制。雖然諸如ChatGPT 等AIGC 工具自稱是“態(tài)度中立沒有任何政治傾向性”“不會試圖通過任何方式影響或改變使用者觀點”的自然語言模型，但是不可忽視的是當(dāng)它被廣大用戶不斷投喂、利用之后產(chǎn)生的“馴化性”，要警惕因投喂與馴化帶來的政治偏見。另外，數(shù)據(jù)庫和語料庫的意識形態(tài)將影響AIGC 生成的內(nèi)容。數(shù)據(jù)是生成式人工智能的基礎(chǔ)，互聯(lián)網(wǎng)上的大量數(shù)據(jù)和語料存在多樣性、傾向性，并非完全中立，加之ChatGPT 難以百分百只學(xué)習(xí)其中中立的部分，而完全摒棄具有傾向性的部分，要警惕數(shù)據(jù)庫、語料庫的意識形態(tài)傾向性。同時，AIGC 生成內(nèi)容還受到其背后算法工程師意識形態(tài)、個人背景的多方因素影響，雖然算法本身可能沒有意識形態(tài)問題，但其中的參數(shù)和賦值等可能會受到人為因素、個人價值觀的影響，要警惕算法實踐過程中隱蔽的意識形態(tài)操控。

其次，控制內(nèi)容低信度風(fēng)險。AIGC 模型生成的內(nèi)容可能存在意想不到的事實性錯誤，從而帶來內(nèi)容質(zhì)量風(fēng)險。客觀上，AIGC 生成的內(nèi)容具有低準(zhǔn)確性的可能，AIGC 工具所依賴的數(shù)據(jù)庫客觀上可能存在大量虛假信息，加之AIGC 模型對新聞報道所涉及的相關(guān)社會情景缺乏準(zhǔn)確了解，即使AIGC 工具盡可能尋找正確的信息生成回答，但仍不可能保證生成內(nèi)容的準(zhǔn)確性與真實性。與此同時，AIGC 的設(shè)計思路使得它“主觀上”傾向于“有問必答”，它會“編造”“虛構(gòu)”案例、故事等，一些生成的回答具有虛構(gòu)性特征。例如有學(xué)者測試、分析AIGC 生成內(nèi)容能力時發(fā)現(xiàn)，AIGC 提供的相關(guān)文獻(xiàn)根本不存在，它杜撰了所依據(jù)的文獻(xiàn)來源，這種生成內(nèi)容與現(xiàn)實情形完全不符的情況無疑會影響信息生產(chǎn)的真實性。總而言之，無論是“客觀”還是“主觀”因素帶來的AIGC 生產(chǎn)中的低準(zhǔn)確性與虛構(gòu)性，都需要把關(guān)人對事實進(jìn)行深入核實，加強(qiáng)對AIGC 生成內(nèi)容的質(zhì)量把關(guān)，做好風(fēng)險控制。

深度造假的風(fēng)險控制

AI 換臉、克隆合成數(shù)字人、虛假圖片及視頻生成等使AIGC 生成的虛假內(nèi)容更加難以識別，內(nèi)容造假進(jìn)入深度造假階段。與此同時，媒介技術(shù)發(fā)展使媒介可供性增強(qiáng)，這使別有用心之人造假成本更低。加之，AIGC 讓造假形式更加多樣且難以察覺，新聞生成面臨深度造假的風(fēng)險，輿論將更容易被有意操控。

首先，造假傳播更廣識別更難。在AIGC 工具的“協(xié)助”下，內(nèi)容造假更加容易。AIGC 強(qiáng)大的內(nèi)容生成能力，讓造假者更快地生產(chǎn)和傳播虛假內(nèi)容。此外，AIGC 具有生成多類型、多介質(zhì)內(nèi)容的能力，造假者更便捷地生成文本、圖像、音頻、視頻的“多形態(tài)”虛假信息，降低了多介質(zhì)內(nèi)容的造假成本。與此同時，AIGC 生成的內(nèi)容自身可能存在的虛假性，加劇了媒介素養(yǎng)不足的群體無意識地造假、傳假，從而使得真相越發(fā)難得，輿論生態(tài)更加復(fù)雜。

其次，深度造假識別與公眾引導(dǎo)。利用AIGC 生成大量的虛假信息散布于網(wǎng)絡(luò)中，可能造成三人成虎的現(xiàn)象，即虛假信息傳播聲量更大，從而使人們更愿意相信虛假信息，而忽視甚至不相信辟謠信息。公眾識別虛假信息的難度大大增加，媒體辟謠則需要更完整的證據(jù)鏈條。針對深度造假帶來的風(fēng)險，媒體可通過打造識別造假內(nèi)容并及時反饋的智能工具，強(qiáng)化智能技術(shù)在辟謠中的應(yīng)用，例如anti-deepfake 技術(shù)。此外，還要加強(qiáng)對深度造假及其識別的科普宣傳，讓公眾了解相關(guān)技術(shù)是如何造假的。同時，大學(xué)可通過面向社會的新聞教育，促進(jìn)公眾媒介素養(yǎng)的全面提升。

數(shù)據(jù)隱私的風(fēng)險控制

AIGC 對于數(shù)據(jù)的收集分析還會給新聞生產(chǎn)帶來數(shù)據(jù)隱私風(fēng)險，管理部門應(yīng)該加強(qiáng)管理和管制，防止數(shù)據(jù)濫用。首先，媒體在使用AIGC 協(xié)助新聞生產(chǎn)時，勢必要向AIGC 工具提供一些包含人臉、聲音等敏感性生物識別數(shù)據(jù)，這些數(shù)據(jù)的頻繁使用將帶來數(shù)據(jù)隱私風(fēng)險，應(yīng)加強(qiáng)自身對數(shù)據(jù)收集、數(shù)據(jù)隱私泄露可能性的意識，使用AIGC 進(jìn)行交互時減少對高度敏感信息的使用。其次，算法脆弱易受攻擊的特性也會給數(shù)據(jù)隱私帶來風(fēng)險。保護(hù)數(shù)據(jù)隱私安全需要加強(qiáng)立法、執(zhí)法的預(yù)判性，做到立法先行，從而從根本上做好數(shù)據(jù)隱私的風(fēng)險控制。