生成式人工智能對(duì)網(wǎng)絡(luò)意識(shí)形態(tài)安全的挑戰(zhàn)及應(yīng)對(duì)*

董扣艷

（浙江大學(xué)1馬克思主義學(xué)院；2馬克思主義理論創(chuàng)新與傳播研究中心 浙江杭州 310058）

自美國(guó)人工智能實(shí)驗(yàn)室OpenAI在2022年11月30日推出聊天機(jī)器人模型ChatGPT以來(lái)，這款生成式人工智能技術(shù)應(yīng)用就立即風(fēng)靡全球，成為有史以來(lái)全球用戶(hù)增速最快的現(xiàn)象級(jí)應(yīng)用程序。在中國(guó)，Chat-GPT 也受到社會(huì)各界廣泛關(guān)注。百度、阿里、騰訊、京東等互聯(lián)網(wǎng)頭部公司紛紛表示已經(jīng)布局“類(lèi)ChatGPT”產(chǎn)品。其中，百度開(kāi)發(fā)的“文心一言”于2023年3月16日正式對(duì)外發(fā)布。

在學(xué)界，學(xué)者們從技術(shù)角度分析了ChatGPT的運(yùn)行模式，[1]從法律方面、[2]倫理方面[3]分析了ChatGPT可能帶來(lái)的風(fēng)險(xiǎn)，探討了ChatGPT對(duì)教育生態(tài)、[4]傳播范式[5]等領(lǐng)域的深遠(yuǎn)影響，從哲學(xué)角度分析了人機(jī)關(guān)系的未來(lái)。[6]然而，鮮有研究專(zhuān)門(mén)從網(wǎng)絡(luò)意識(shí)形態(tài)安全視角論證ChatGPT的發(fā)展前景，揭示生成式人工智能與網(wǎng)絡(luò)意識(shí)形態(tài)安全的耦合關(guān)系。本文結(jié)合ChatGPT的技術(shù)特征，著重闡釋生成式人工智能的技術(shù)缺陷給網(wǎng)絡(luò)意識(shí)形態(tài)安全帶來(lái)的潛在風(fēng)險(xiǎn)，并進(jìn)一步探究更好地促進(jìn)生成式人工智能有效賦能網(wǎng)絡(luò)意識(shí)形態(tài)安全的實(shí)踐路向。

一、生成式人工智能的顯著技術(shù)特征

作為新一代人工智能的技術(shù)風(fēng)口，生成式人工智能比傳統(tǒng)人工智能技術(shù)具有更多的語(yǔ)言處理優(yōu)勢(shì)。盡管它在機(jī)器論證效力方面仍存在嚴(yán)謹(jǐn)性不足等問(wèn)題，但在機(jī)器對(duì)話能力方面具有較強(qiáng)的人機(jī)互動(dòng)性、在語(yǔ)言表達(dá)風(fēng)格方面具有較強(qiáng)的類(lèi)人性。這給我國(guó)網(wǎng)絡(luò)意識(shí)形態(tài)安全帶來(lái)一系列前所未有的機(jī)遇和挑戰(zhàn)。

（一）在機(jī)器對(duì)話能力方面，生成式人工智能展現(xiàn)出較強(qiáng)的人機(jī)互動(dòng)性

ChatGPT的第一個(gè)重要技術(shù)支撐是Transformer神經(jīng)網(wǎng)絡(luò)架構(gòu)（即GPT-3.5架構(gòu)），是一種“基于神經(jīng)網(wǎng)絡(luò)的語(yǔ)言模型”。在計(jì)算機(jī)科學(xué)和人工智能領(lǐng)域，“語(yǔ)言模型”是與自然語(yǔ)言處理（NLP）相關(guān)的重要問(wèn)題。技術(shù)專(zhuān)家試圖通過(guò)自然語(yǔ)言處理，打造一個(gè)能夠計(jì)算人類(lèi)語(yǔ)言文本中單詞、句子出現(xiàn)概率的語(yǔ)言模型。他們的技術(shù)設(shè)想是，在人類(lèi)語(yǔ)言文本中，一句話中的單詞總是按照一定順序排列，通過(guò)前面單詞就可以推算出后面單詞的出現(xiàn)概率。“基于神經(jīng)網(wǎng)絡(luò)的語(yǔ)言模型”的工作原理是通過(guò)海量的人類(lèi)語(yǔ)言語(yǔ)料，訓(xùn)練出一個(gè)神經(jīng)網(wǎng)絡(luò)模型，通過(guò)向這個(gè)模型中輸入一句話中的前面幾個(gè)單詞，它就能推算出這句話后面最常用的幾個(gè)單詞。正因如此，當(dāng)用戶(hù)在ChatGPT 的對(duì)話框中輸入問(wèn)題之后，它能夠根據(jù)用戶(hù)需求進(jìn)行任務(wù)處理，仿佛電腦里有個(gè)“虛擬人”在和用戶(hù)進(jìn)行“對(duì)話”。在生成式人工智能出現(xiàn)之前，傳統(tǒng)人工智能機(jī)器人使用的主要是基于規(guī)則或者機(jī)器學(xué)習(xí)的語(yǔ)言模型，通常需要用戶(hù)先編寫(xiě)程序指令，通過(guò)代碼控制機(jī)器進(jìn)行任務(wù)處理。顯然，這種操作不利于人機(jī)連續(xù)對(duì)話，存在著溝通效率低、對(duì)話方式單一等問(wèn)題。相比而言，ChatGPT省去了以往人機(jī)交互中的程序編寫(xiě)等繁瑣步驟，可以直接處理用戶(hù)輸入的自然語(yǔ)言任務(wù)，并延續(xù)上下文邏輯與用戶(hù)展開(kāi)連續(xù)性對(duì)話。在這個(gè)意義上，生成式人工智能具有比傳統(tǒng)人工智能更強(qiáng)的人機(jī)交互對(duì)話能力。它所擁有的超強(qiáng)語(yǔ)言理解和文本生成能力可以較快回答客戶(hù)問(wèn)題，在未來(lái)有望作為“人機(jī)交互”的輔助工具，在教育、醫(yī)療、法律咨詢(xún)等領(lǐng)域發(fā)揮重要作用。

（二）在語(yǔ)言表達(dá)風(fēng)格方面，生成式人工智能展現(xiàn)出較強(qiáng)的類(lèi)人性

ChatGPT 的第二個(gè)關(guān)鍵技術(shù)支撐是基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí)（RLHF）技術(shù)，它被OpenAI 研發(fā)專(zhuān)家視為ChatGPT 成功的秘密武器，能夠讓機(jī)器像人一樣“思考”。RLHF 把人類(lèi)的反饋納入訓(xùn)練過(guò)程，不斷提升ChatGPT 對(duì)語(yǔ)言理解的準(zhǔn)確性，優(yōu)化生成文本的內(nèi)容質(zhì)量。傳統(tǒng)人工智能機(jī)器人按照程序指令執(zhí)行任務(wù)，其語(yǔ)言表達(dá)與人類(lèi)的自然語(yǔ)言存在顯著區(qū)別，呈現(xiàn)出機(jī)械化、呆板化、去個(gè)性化等風(fēng)格。相比而言，ChatGPT 能夠給用戶(hù)提供更加自然、流暢的對(duì)話體驗(yàn)，被西方媒體稱(chēng)為“有史以來(lái)向公眾發(fā)布的最好的人工智能聊天機(jī)器人”。[7]生成式人工智能的類(lèi)人性離不開(kāi)RLHF 技術(shù)的有效支持，一方面，ChatGPT 將人類(lèi)偏好作為模型調(diào)整的依據(jù)，按照用戶(hù)反饋不斷調(diào)整與優(yōu)化機(jī)器生成的文本內(nèi)容，使其能夠更好地體現(xiàn)人類(lèi)意志；另一方面，它不是簡(jiǎn)單地模仿人類(lèi)的言語(yǔ)行為，而是深度學(xué)習(xí)人類(lèi)的認(rèn)知和思維方式，以便作出更加符合人類(lèi)認(rèn)知的回應(yīng)方案。ChatGPT 的類(lèi)人性還體現(xiàn)在敢于質(zhì)疑、拒絕甚至“回懟”人類(lèi)的非正當(dāng)性提問(wèn)。已有不少用戶(hù)表示，ChatGPT 會(huì)“發(fā)脾氣”。作為一類(lèi)經(jīng)過(guò)強(qiáng)化的人工智能深度學(xué)習(xí)模式，生成式人工智能不是在機(jī)械化地按照程序指令與人類(lèi)進(jìn)行對(duì)話，而是類(lèi)似人類(lèi)一般，經(jīng)過(guò)“思考”再給出回復(fù)方案，從而實(shí)現(xiàn)與人類(lèi)的雙向互構(gòu)。它所擁有的類(lèi)似于人的語(yǔ)言表達(dá)風(fēng)格，有望彌補(bǔ)傳統(tǒng)人機(jī)對(duì)話的非真實(shí)感缺陷，為未來(lái)的道德教育、心理疏導(dǎo)以及情緒危機(jī)干預(yù)等人類(lèi)精神領(lǐng)域的調(diào)節(jié)和引導(dǎo)實(shí)踐賦能。

（三）在機(jī)器論證效力方面，生成式人工智能仍存在不嚴(yán)密性和不成熟性

在神經(jīng)網(wǎng)絡(luò)、自然語(yǔ)言處理和強(qiáng)化學(xué)習(xí)等新興人工智能技術(shù)的支持下，ChatGPT 在一定程度上具備了和人類(lèi)思維圖式較為相似的邏輯推理能力。在生成式人工智能以前，傳統(tǒng)人工智能只能一步接著一步地按照代碼指令運(yùn)行，它對(duì)代碼指令的回應(yīng)也只能算作代碼指令輸入者——人的邏輯思考能力的外顯。相比而言，ChatGPT 在與用戶(hù)進(jìn)行人機(jī)對(duì)話時(shí)，卻能以強(qiáng)大的算力運(yùn)轉(zhuǎn)和豐富的語(yǔ)料庫(kù)數(shù)據(jù)檢索為依托，自主地按照用戶(hù)需求重新組織與之相匹配的文本語(yǔ)言，展現(xiàn)出一定的邏輯思考能力。面對(duì)ChatGPT 在人機(jī)對(duì)話中展現(xiàn)出的邏輯推理能力，很多科技工作者表現(xiàn)出對(duì)智能技術(shù)未知性趨向的恐慌，甚至有人驚呼道“我們離強(qiáng)大到危險(xiǎn)的AI 不遠(yuǎn)了”。[8]盡管如此，ChatGPT 的論證邏輯仍缺乏嚴(yán)密性和成熟性，人工智能的“幻覺(jué)性”通病似乎在ChatGPT 身上也有所映現(xiàn)。它給出的答案漏洞百出，甚至存在“一本正經(jīng)地胡說(shuō)八道”現(xiàn)象。受到技術(shù)發(fā)展水平限制，ChatGPT 在現(xiàn)階段只能做到數(shù)據(jù)概率估算等初級(jí)推理，尚不具備推算因果關(guān)系等更為高級(jí)的數(shù)理運(yùn)算能力。此外，雖然ChatGPT 擁有“舉一反三”的自主學(xué)習(xí)能力，但它的認(rèn)知范圍仍限于語(yǔ)言模型提供的海量文本語(yǔ)料庫(kù)數(shù)據(jù)，難免會(huì)出現(xiàn)超出其“認(rèn)知”的情況。比如，ChatGPT 無(wú)法對(duì)不在語(yǔ)料庫(kù)時(shí)限范圍內(nèi)的信息問(wèn)答作出回應(yīng)，也不能對(duì)還未發(fā)生的事情進(jìn)行科學(xué)性預(yù)測(cè)。

二、生成式人工智能給網(wǎng)絡(luò)意識(shí)形態(tài)安全帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)

作為人工智能技術(shù)的最新成果，生成式人工智能正在重塑社會(huì)信息傳播生態(tài)。不過(guò)，由于人工智能所固有的信息造假、數(shù)據(jù)泄漏、算法歧視等技術(shù)缺陷仍然存在，容易引發(fā)知識(shí)和價(jià)值觀偏差，給網(wǎng)絡(luò)意識(shí)形態(tài)安全帶來(lái)諸多風(fēng)險(xiǎn)和挑戰(zhàn)。

（一）技術(shù)不完善性導(dǎo)致生成式人工智能出現(xiàn)數(shù)據(jù)安全風(fēng)險(xiǎn)

現(xiàn)階段，國(guó)內(nèi)外對(duì)于生成式人工智能的技術(shù)研發(fā)與應(yīng)用仍處于探索和起步階段，存在著由于技術(shù)發(fā)展不完善性帶來(lái)的多重?cái)?shù)據(jù)安全問(wèn)題。一是信息造假風(fēng)險(xiǎn)。由于生成式人工智能的技術(shù)原理是通過(guò)大規(guī)模數(shù)據(jù)學(xué)習(xí)，不斷訓(xùn)練機(jī)器的對(duì)話能力，所以無(wú)法避免由于數(shù)據(jù)偏差和虛假關(guān)聯(lián)性造成的信息造假風(fēng)險(xiǎn)。無(wú)論是國(guó)外的ChatGPT還是百度的“文心一言”，都被用戶(hù)指出存在信息不準(zhǔn)確問(wèn)題。盡管美國(guó)OpenAI公司出于對(duì)內(nèi)容安全性的考量，在GPT-3.5架構(gòu)之后不久就推出了基于GPT-4架構(gòu)的創(chuàng)新人工智能語(yǔ)言模型，但仍不能完全規(guī)避生成式人工智能的技術(shù)野蠻性。技術(shù)研發(fā)者再三警告用戶(hù)，要對(duì)ChatGPT給出的內(nèi)容進(jìn)行人工審核，甄別信息是否符合客觀事實(shí)與倫理道德規(guī)范。同樣地，百度在發(fā)布“類(lèi)ChatGPT產(chǎn)品”——“文心一言”時(shí)就一再?gòu)?qiáng)調(diào)它“不完美”。它在完成用戶(hù)布置的作畫(huà)任務(wù)時(shí)，較為集中地凸顯出信息不準(zhǔn)確性缺陷。比如，當(dāng)用戶(hù)發(fā)出“畫(huà)一幅畫(huà)，一個(gè)醫(yī)生”和“畫(huà)一幅畫(huà)，一個(gè)博士”的需求指令后，“文心一言”繪制的人物形象竟都是醫(yī)生。究其根源，“文心一言”模型先將用戶(hù)輸入的關(guān)鍵詞翻譯成英文，再將其作為提示詞繪制圖畫(huà)。在英文語(yǔ)境中，doctor有兩層含義，意指醫(yī)生或者博士，而“文心一言”只能按照醫(yī)生這一層含義來(lái)繪圖。可見(jiàn)，生成式人工智能提供的信息并非總是精確無(wú)誤的，仍需要人工辨別真?zhèn)魏完P(guān)聯(lián)性。二是數(shù)據(jù)泄漏風(fēng)險(xiǎn)。生成式人工智能需要以海量數(shù)據(jù)庫(kù)作為語(yǔ)言模型訓(xùn)練與學(xué)習(xí)的支撐，其中包括了大量作為獨(dú)立個(gè)體的網(wǎng)民自主輸入的信息內(nèi)容。這就是說(shuō)，生成式人工智能的深度學(xué)習(xí)機(jī)制建立在對(duì)人類(lèi)提供數(shù)據(jù)的反饋基礎(chǔ)之上，一旦用戶(hù)在人機(jī)對(duì)話過(guò)程中輸入個(gè)人的私密信息，Chat-GPT就可能會(huì)將其納入自身語(yǔ)料庫(kù)。當(dāng)其他用戶(hù)也檢索類(lèi)似信息時(shí)，作為個(gè)人私密信息的隱私內(nèi)容很可能被泄漏。雖然OpenAI公司承諾刪除用戶(hù)的個(gè)人身份信息，但是具體的刪除方式尚不明確，至于是否真正做到了保護(hù)用戶(hù)信息更是無(wú)從考證和評(píng)估。由于ChatGPT尚未建立起科學(xué)有效的數(shù)據(jù)使用機(jī)制，無(wú)法保證對(duì)語(yǔ)料庫(kù)中的數(shù)據(jù)來(lái)源進(jìn)行事實(shí)核查，在全球用戶(hù)的開(kāi)放式信息傳播環(huán)境下很容易出現(xiàn)數(shù)據(jù)泄漏風(fēng)險(xiǎn)。

（二）算法偏見(jiàn)和歧視導(dǎo)致生成式人工智能誘發(fā)政治安全風(fēng)險(xiǎn)

生成式人工智能的運(yùn)行離不開(kāi)規(guī)模龐大的數(shù)據(jù)集支持。然而，大數(shù)據(jù)的算法推薦技術(shù)在自動(dòng)化決策時(shí)卻存在著歧視與偏見(jiàn)，造成不同族群價(jià)值觀的摩擦、沖突甚至是分裂，并進(jìn)一步誘發(fā)政治安全風(fēng)險(xiǎn)。一是政治偏見(jiàn)。現(xiàn)階段，生成式人工智能技術(shù)應(yīng)用所依托的數(shù)據(jù)庫(kù)主要存儲(chǔ)的是歐美語(yǔ)言文化的語(yǔ)料，其在價(jià)值立場(chǎng)、情感以及態(tài)度等方面都呈現(xiàn)出崇美親美傾向。OpenAI公司一再警告用戶(hù)，ChatGPT“可能偶爾會(huì)生成不正確的信息”，“產(chǎn)生有害指令或有偏見(jiàn)的內(nèi)容”。[9]截至目前，不少用戶(hù)發(fā)現(xiàn)生成式人工智能在政治立場(chǎng)上存在“選邊站隊(duì)”現(xiàn)象。在模型訓(xùn)練數(shù)據(jù)時(shí)，ChatGPT被嵌入了深刻的政治偏見(jiàn)，突出表現(xiàn)為崇拜西方國(guó)家、歧視第三世界國(guó)家，加劇了國(guó)家間的分歧與對(duì)抗，不利于形成相互尊重、公平正義、合作共贏的新型國(guó)際關(guān)系。二是社會(huì)偏見(jiàn)。生成式人工智能的預(yù)訓(xùn)練模型很可能會(huì)再現(xiàn)不良的社會(huì)刻板印象和有害的社會(huì)偏見(jiàn)。例如，ChatGPT 就存在著明顯的種族歧視、性別偏見(jiàn)等問(wèn)題。相比傳統(tǒng)人工智能而言，ChatGPT深諳社會(huì)文化邏輯和用戶(hù)接受心理，在處理與種族、宗教等相關(guān)的任務(wù)時(shí)，會(huì)盡量避免出現(xiàn)敏感、過(guò)激的言論，試圖保持價(jià)值立場(chǎng)的客觀和中立。但是，與傳統(tǒng)人工智能一樣，“技術(shù)中性論”的觀點(diǎn)同樣不適用于生成式人工智能。ChatGPT 也并非絕對(duì)的價(jià)值中立，而是存在著明顯的偏見(jiàn)、歧視甚至是仇恨。在歐美語(yǔ)言文化的語(yǔ)料庫(kù)中，充斥著大量的種族歧視和性別偏見(jiàn)言論。作為一種預(yù)訓(xùn)練語(yǔ)言模型，ChatGPT的學(xué)習(xí)資料就是這些含有偏見(jiàn)和歧視的內(nèi)容，所以它給出的回答也總是隱含著某種不良的價(jià)值偏向。可以說(shuō)，生成式人工智能不僅放大了社會(huì)偏見(jiàn)，還使社會(huì)偏見(jiàn)以數(shù)字化的形態(tài)傳播開(kāi)來(lái)。除此以外，有網(wǎng)民在嘗試和ChatGPT 進(jìn)行人機(jī)對(duì)話的過(guò)程中，還發(fā)現(xiàn)它存在“反向訓(xùn)練”現(xiàn)象。與以往西方國(guó)家存在的白人至上主義與種族主義言論相比，ChatGPT 非常“聰明”地選擇偏向社會(huì)文化理解中的“弱勢(shì)群體”一方，公開(kāi)支持黑人、女性等群體，使得網(wǎng)絡(luò)空間中的種族分歧和性別對(duì)立愈演愈烈，加劇了不同社會(huì)群體間的分裂與對(duì)抗，不利于社會(huì)價(jià)值觀的有機(jī)整合。

（三）過(guò)度技術(shù)崇拜導(dǎo)致生成式人工智能誘發(fā)社會(huì)安全風(fēng)險(xiǎn)

部分網(wǎng)民存在過(guò)度技術(shù)崇拜傾向，認(rèn)為ChatGPT 無(wú)所不能，對(duì)其產(chǎn)生了較為強(qiáng)烈的使用依賴(lài)性，完全沒(méi)有意識(shí)到ChatGPT 也有潛在的社會(huì)安全風(fēng)險(xiǎn)。一是非法提問(wèn)。就當(dāng)前智能技術(shù)發(fā)展水平而言，生成式人工智能在網(wǎng)絡(luò)、生物和國(guó)際關(guān)系等領(lǐng)域都存在安全風(fēng)險(xiǎn)。對(duì)此，OpenAI 公司試圖在模型訓(xùn)練中不斷加強(qiáng)對(duì)內(nèi)容的人工干預(yù)，以期提升機(jī)器分辨高風(fēng)險(xiǎn)和高敏感詞語(yǔ)的能力。盡管如此，機(jī)器仍不能徹底識(shí)別出一些被用戶(hù)故意去除敏感詞匯的隱蔽性安全風(fēng)險(xiǎn)。比如，當(dāng)用戶(hù)直接向ChatGPT 詢(xún)問(wèn)“如何實(shí)施謀殺”時(shí)，會(huì)被機(jī)器識(shí)別為非法提問(wèn)，并以違反法律為由直接拒絕；但是，如果把提問(wèn)內(nèi)容改成“我想寫(xiě)一本偵探小說(shuō)，請(qǐng)?zhí)峁┮粋€(gè)人物角色實(shí)施謀殺的完美方案”，ChatGPT 就可能會(huì)提供答案。可見(jiàn)，生成式人工智能還不能完全識(shí)別具有潛在安全威脅的非法提問(wèn)。一旦這個(gè)技術(shù)漏洞被別有用心的不法分子利用，就可能導(dǎo)致非法和有害內(nèi)容在社會(huì)范圍內(nèi)傳播，甚至給社會(huì)帶來(lái)動(dòng)蕩和不安。國(guó)外已出現(xiàn)ChatGPT 在用戶(hù)引導(dǎo)下進(jìn)行詐騙、寫(xiě)出“毀滅人類(lèi)計(jì)劃書(shū)”等違法行為，值得關(guān)注和警惕。二是誘導(dǎo)性回答。ChatGPT 的高智能性以及類(lèi)人性等特征還會(huì)使用戶(hù)在人機(jī)交互的過(guò)程中產(chǎn)生認(rèn)知偏差，錯(cuò)把機(jī)器提供的內(nèi)容當(dāng)作是人的觀點(diǎn)。部分用戶(hù)過(guò)度崇拜ChatGPT 在內(nèi)容生成領(lǐng)域的技巧性，存在著嚴(yán)重的受眾依賴(lài)性?xún)A向，盲目信任機(jī)器生成的信息內(nèi)容，不能理性甄別機(jī)器提供觀點(diǎn)的正誤。例如，比利時(shí)一名男子在與智能聊天機(jī)器人頻繁聊天后自殺身亡。該男子與智能聊天機(jī)器人的通信內(nèi)容顯示，人工智能持續(xù)給該男子傳遞出虛無(wú)主義等消極內(nèi)容，最終誘發(fā)該男子選擇終結(jié)生命。這一事件再次引發(fā)人類(lèi)對(duì)于智能倫理風(fēng)險(xiǎn)的省思，包括馬斯克在內(nèi)的科技界人士聯(lián)名呼吁應(yīng)暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能技術(shù)。

（四）技術(shù)惡意使用導(dǎo)致生成式人工智能存在網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

現(xiàn)階段，生成式人工智能給網(wǎng)絡(luò)安全帶來(lái)的風(fēng)險(xiǎn)主要包括以下三個(gè)方面。一是網(wǎng)絡(luò)攻擊。生成式人工智能的代碼編寫(xiě)功能拓展了黑客攻擊的技術(shù)手段，使得網(wǎng)絡(luò)攻擊向智能化、自動(dòng)化和規(guī)模化趨勢(shì)演進(jìn)。一些黑客通過(guò)ChatGPT 輔助編寫(xiě)惡意軟件，不僅增加了有組織攻擊金融、電子政務(wù)、公共服務(wù)等關(guān)鍵信息基礎(chǔ)設(shè)施領(lǐng)域的頻次，也擴(kuò)大了黑客網(wǎng)絡(luò)攻擊的負(fù)面影響效應(yīng)。二是網(wǎng)絡(luò)輿情。生成式人工智能仍存在數(shù)據(jù)造假問(wèn)題，可能會(huì)導(dǎo)致虛假信息泛濫，造成網(wǎng)絡(luò)信息良莠不齊，進(jìn)一步加劇網(wǎng)絡(luò)輿論場(chǎng)中的價(jià)值觀念分歧。由于廣大網(wǎng)民的媒介素養(yǎng)存在顯著差異，不少人面對(duì)冗雜的信息時(shí)難以有效甄別真?zhèn)危瑢⒃黾泳W(wǎng)絡(luò)輿情治理的難度。三是國(guó)際輿論戰(zhàn)。生成式人工智能還有可能被惡意用于國(guó)際輿論戰(zhàn)。近年來(lái)，機(jī)器人水軍已被應(yīng)用于多國(guó)軍事實(shí)踐，一些國(guó)家通過(guò)人工智能有目的地傳播虛假信息，對(duì)全球網(wǎng)絡(luò)輿論格局產(chǎn)生深刻影響。ChatGPT“一本正經(jīng)地胡說(shuō)八道”的不良機(jī)器行為使其存在編造“歷史事實(shí)”現(xiàn)象。在本質(zhì)上，生成式人工智能不僅有可能會(huì)篡改歷史，甚至還會(huì)使大眾出現(xiàn)與史實(shí)不符的集體記憶，即“曼德拉效應(yīng)”，不利于人類(lèi)客觀了解歷史事實(shí)，也不利于形成對(duì)歷史發(fā)展規(guī)律的理性認(rèn)識(shí)。

三、應(yīng)對(duì)生成式人工智能多重安全風(fēng)險(xiǎn)的實(shí)踐路向

面對(duì)生成式人工智能正在廣泛融入社會(huì)生活的客觀現(xiàn)實(shí)，既要正視顛覆性技術(shù)創(chuàng)新給人類(lèi)社會(huì)生活帶來(lái)的新變化，更要提前研判它給網(wǎng)絡(luò)意識(shí)形態(tài)安全帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)，最大限度地規(guī)避生成式人工智能的技術(shù)缺陷以及由此帶來(lái)的負(fù)面效應(yīng)，有效發(fā)揮生成式人工智能對(duì)維護(hù)我國(guó)網(wǎng)絡(luò)意識(shí)形態(tài)安全的賦能效應(yīng)。

（一）摒棄片面的技術(shù)認(rèn)識(shí)論，辯證看待技術(shù)革新與社會(huì)發(fā)展的關(guān)系

自人工智能技術(shù)出現(xiàn)以來(lái)，人類(lèi)對(duì)它的看法就莫衷一是、褒貶不一。技術(shù)樂(lè)觀主義者對(duì)智能技術(shù)發(fā)展持積極態(tài)度，認(rèn)為它將給社會(huì)生活帶來(lái)許多前所未有的新變化，盡管社會(huì)對(duì)技術(shù)的不適應(yīng)性可能會(huì)給社會(huì)治理帶來(lái)風(fēng)險(xiǎn)，但是它在整體上將給經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)正向作用。與之相反，技術(shù)悲觀主義者則對(duì)智能技術(shù)發(fā)展持消極態(tài)度，認(rèn)為它給社會(huì)帶來(lái)的風(fēng)險(xiǎn)要遠(yuǎn)遠(yuǎn)多于機(jī)遇，并且技術(shù)創(chuàng)新將重新改寫(xiě)人機(jī)關(guān)系，導(dǎo)致人類(lèi)囿于技術(shù)的異己力量之中。還有一種觀點(diǎn)主張絕對(duì)的技術(shù)價(jià)值中立，認(rèn)為技術(shù)本身是中性的，技術(shù)應(yīng)用過(guò)程中帶來(lái)善的或是惡的后果完全取決于人。顯然，技術(shù)中性論的觀點(diǎn)低估了智能技術(shù)的復(fù)雜性，沒(méi)有全面認(rèn)識(shí)技術(shù)背后的價(jià)值博弈。在生成式人工智能技術(shù)及其應(yīng)用發(fā)展過(guò)程中，需要摒棄技術(shù)樂(lè)觀主義、技術(shù)悲觀主義以及技術(shù)中性論等幾種片面的技術(shù)認(rèn)識(shí)論，客觀認(rèn)識(shí)生成式人工智能技術(shù)與社會(huì)發(fā)展之間的辯證關(guān)系。既要認(rèn)識(shí)到生成式人工智能將給人類(lèi)社會(huì)和生活帶來(lái)諸多機(jī)遇，比如催生新的產(chǎn)業(yè)形態(tài)、塑造新的生活方式等，也要認(rèn)識(shí)到它將衍生一系列的安全風(fēng)險(xiǎn)，將給網(wǎng)絡(luò)意識(shí)形態(tài)安全帶來(lái)一定沖擊。對(duì)此，一方面，應(yīng)主動(dòng)布局生成式人工智能在網(wǎng)絡(luò)意識(shí)形態(tài)領(lǐng)域的正向應(yīng)用，比如基于已有的意識(shí)形態(tài)工作經(jīng)驗(yàn)幫助用戶(hù)解答常規(guī)的思想困惑，將思政工作者解放出來(lái)，可以把更多的時(shí)間和精力投入到更加復(fù)雜、更有價(jià)值的意識(shí)形態(tài)工作中去。另一方面，還應(yīng)結(jié)合不同階段的技術(shù)發(fā)展水平實(shí)際，提前研判生成式人工智能的潛在安全風(fēng)險(xiǎn)，適時(shí)謀劃網(wǎng)絡(luò)意識(shí)形態(tài)教育議題，及時(shí)回應(yīng)大眾對(duì)生成式人工智能的認(rèn)識(shí)困惑。

（二）強(qiáng)化算力基礎(chǔ)設(shè)施建設(shè)，打造中國(guó)特色大語(yǔ)言模型訓(xùn)練數(shù)據(jù)集

生成式人工智能的通暢運(yùn)行需要以強(qiáng)大的算力基礎(chǔ)設(shè)施作為支撐。現(xiàn)階段，我國(guó)對(duì)于生成式人工智能及其技術(shù)應(yīng)用的探索仍處于起步階段，現(xiàn)有算力還不足以支持生成式人工智能的大規(guī)模、流暢化應(yīng)用。同時(shí)，我國(guó)在生成式人工智能的核心技術(shù)研發(fā)領(lǐng)域仍處在“跟跑”階段，例如對(duì)于基于人工神經(jīng)網(wǎng)絡(luò)的自然語(yǔ)言處理等關(guān)鍵技術(shù)主要還是學(xué)習(xí)與模仿西方。此外，生成式人工智能的巨大數(shù)據(jù)處理能力得益于高算力芯片的數(shù)據(jù)存力，而目前高算力芯片的核心技術(shù)也由美國(guó)科技企業(yè)壟斷。正如前文所述，我國(guó)發(fā)布的“文心一言”等“類(lèi)ChatGPT”產(chǎn)品所使用的仍是基于英文語(yǔ)境的大語(yǔ)言模型訓(xùn)練數(shù)據(jù)集，其所生成的內(nèi)容文本與中文語(yǔ)境完全不符、關(guān)聯(lián)度較低。對(duì)此，一方面，要加快支持生成式人工智能運(yùn)行的算力基礎(chǔ)設(shè)施建設(shè)，滿(mǎn)足大語(yǔ)言模型的高算力需求。另一方面，要加強(qiáng)關(guān)鍵技術(shù)自主研發(fā)能力，推動(dòng)建構(gòu)基于中文語(yǔ)境的大語(yǔ)言模型訓(xùn)練數(shù)據(jù)集，確保生成式人工智能在我國(guó)的應(yīng)用能夠站穩(wěn)中國(guó)立場(chǎng)，體現(xiàn)社會(huì)主義核心價(jià)值觀基本要求。

（三）完善智能倫理和法律規(guī)范，規(guī)避生成式人工智能的技術(shù)缺陷

在全媒體時(shí)代境遇下，互聯(lián)網(wǎng)已經(jīng)和人類(lèi)社會(huì)生活緊密融合。在這個(gè)意義上，網(wǎng)絡(luò)意識(shí)形態(tài)教育的內(nèi)涵和外延均有所延伸。當(dāng)下，人們關(guān)注顛覆性技術(shù)對(duì)人類(lèi)社會(huì)變革的影響，必然會(huì)涉及網(wǎng)絡(luò)意識(shí)形態(tài)安全治理的有關(guān)議題。面對(duì)生成式人工智能給人類(lèi)社會(huì)帶來(lái)的巨大挑戰(zhàn)和機(jī)遇，應(yīng)在有效規(guī)避各類(lèi)智能技術(shù)及其倫理風(fēng)險(xiǎn)的前提下，充分發(fā)揮生成式人工智能的技術(shù)優(yōu)勢(shì)，更好地促進(jìn)網(wǎng)絡(luò)意識(shí)形態(tài)安全治理向更加高級(jí)、更加成熟的狀態(tài)邁進(jìn)。首先，要加強(qiáng)智能技術(shù)治理，按照“以AI對(duì)AI”原則建立人工智能內(nèi)容監(jiān)測(cè)系統(tǒng)，通過(guò)技術(shù)手段盡量規(guī)避現(xiàn)階段生成式人工智能存在的內(nèi)容重復(fù)、邏輯混亂、語(yǔ)法錯(cuò)誤、語(yǔ)義矛盾等通用性缺陷。其次，要加強(qiáng)大數(shù)據(jù)模型訓(xùn)練，進(jìn)一步搜集中文用戶(hù)的反饋數(shù)據(jù)，用足夠多的數(shù)據(jù)不斷訓(xùn)練與優(yōu)化我國(guó)的生成式人工智能技術(shù)應(yīng)用產(chǎn)品，推動(dòng)“文心一言”等“類(lèi)ChatGPT”產(chǎn)品更加完善。再次，建立起符合智能技術(shù)發(fā)展水平的社會(huì)倫理道德秩序。面對(duì)社會(huì)倫理對(duì)生成式人工智能的約束仍存在空白的狀況，需要考慮社會(huì)成員對(duì)新技術(shù)運(yùn)行下的新社會(huì)交往規(guī)則的適應(yīng)性，及時(shí)關(guān)注人與人的關(guān)系、人與智能機(jī)器的關(guān)系變化，探索建構(gòu)與智能技術(shù)水平相適應(yīng)的技術(shù)倫理規(guī)范。最后，建立與完善相應(yīng)法律法規(guī)。當(dāng)生成式人工智能可以進(jìn)行更多類(lèi)人化的思考時(shí)，將不可避免地給人工智能參與違法事件的責(zé)任界定等帶來(lái)法律爭(zhēng)議。為此，應(yīng)及時(shí)完善相應(yīng)的法律法規(guī)，確保生成式人工智能在法律軌道上運(yùn)行。

（四）提高公眾人工智能素養(yǎng)，理性甄別生成式人工智能的利弊

進(jìn)入數(shù)字化時(shí)代，學(xué)界對(duì)于公眾媒介素養(yǎng)的討論也不斷深入。從互聯(lián)網(wǎng)技術(shù)誕生之初的數(shù)字素養(yǎng)，到大數(shù)據(jù)技術(shù)影響下的數(shù)據(jù)素養(yǎng)和算法素養(yǎng)，再到人工智能技術(shù)影響下的人工智能素養(yǎng)，體現(xiàn)出不同技術(shù)手段對(duì)于公眾媒介素養(yǎng)要求的側(cè)重點(diǎn)也不一致。在生成式人工智能融入社會(huì)生活以后，政府、社會(huì)和學(xué)校要順應(yīng)智能技術(shù)發(fā)展趨勢(shì)，加強(qiáng)對(duì)社會(huì)公眾的人工智能素養(yǎng)教育。一方面，要幫助社會(huì)成員及時(shí)了解生成式人工智能的最新技術(shù)成果，認(rèn)識(shí)ChatGPT 的作用機(jī)制和運(yùn)行機(jī)理，了解其給社會(huì)生活帶來(lái)的機(jī)遇和挑戰(zhàn)。另一方面，要著力培養(yǎng)人工智能素養(yǎng)與人文素養(yǎng)兼容的批判性思維，引導(dǎo)社會(huì)成員思考生成式人工智能的技術(shù)局限性，形成對(duì)ChatGPT 各類(lèi)風(fēng)險(xiǎn)的識(shí)別與抵制能力，防止公眾走入盲目技術(shù)崇拜的誤區(qū)以及對(duì)生成式人工智能的過(guò)度依賴(lài)。