ChatGPT在認知域作戰運用剖析及對策

陳昌孝

2022年11月30日，人工智能公司OpenAI正式發布大型自然語言交互程序的聊天機器人ChatGPT。前期，又推出GPT3.5版本，并很快迭代到GPT4.0。這對于信息生產、流通全過程的改變，不僅掀開了人工智能被用于現實傳播問題的序幕，也將助長國際體系與社會生活中根深蒂固的系統性偏見、有意欺詐、政治造謠、偽造身份等問題。這種強有力的變革對認知域作戰同樣會產生巨大影響，將會使得認知域作戰的形式更加豐富、手段更加隱蔽、防范更加困難。需要深入分析ChatGPT的主要特性及在認知域作戰中的運用場景，研究拿出應對之策。

認知域作戰視角下的ChatGPT主要特性

ChatGPT是在GPT（Generative Pre-training Transformer）模型的基礎上通過改進優化得到的，針定對話場景利用了“人在回路”進行了優化。GPT是一種大型語言模型，是現階段對于自然語言進行機器學習的主流思路，能夠生成各種不同的文本類型，它可以根據上下文自動生成跟人類一樣的文本對話。GPT模型主要思路是讓AI在通用的、海量的數據上學習文字接龍，即掌握基于前文內容生成后續文本的能力。目前，GTP模型已經發展到了第四代，是針對對話場景進行針對性優化的結果。相較以往的固定對話式人工智能， ChatGPT擁有自己的思考邏輯，因此在不處于“人在回路”的監管時，系統可以對同一問題給出多種回答，只不過這些回答在系統偏好的作用下以概率分布的形式存在。

ChatGPT作為新一代人工智能，在引入大數據進行自主學習時，使用人工對系統學習結果進行評價，從某種意義上說，該過程正是賦予系統“靈魂”，完成畫龍點睛的過程。但由于人類本身固有的政治立場或傾向，使得在對學習結果進行篩選時，不可避免地被打上監督者的個人標簽，從而在這一過程中給系統帶入一種“預設的價值觀”，使其成為認知域作戰的“新利器”。

（一）難以抹去的價值底色

ChatGPT的價值觀底色根植于參與該系統設計研發人員的價值觀取向，即“硅谷價值觀”，屬于美國左派的溫和派。這種底層邏輯的審視使得ChatGPT常常表現為美國精神的“衛道者”，在測試者的政治性話題中，ChatGPT對于涉美議題或設計外國政治人物的話題上往往采取中立或避而不談的態度，但在關于美國正面話題的談論上，卻表現得相對積極。除此之外，對于諸如少數族裔問題、槍支問題、墮胎問題、環保問題等爭議性話題，ChatGPT也表現出相對保守的態度，并且在整體取向上更加偏向于溫和左派。

在ChatGPT上線互聯網后，世界各國的網民也都參與到與ChatGPT的互動中來，并在大量的交流中逐漸發現ChatGPT在面對不同語言的提問時，同一問題往往會得到不同答案，并且這種改變是隨著社會動態的變化而隨時改變的。這種“見人下菜碟”的行為，說明該智能系統仍處于成長學習階段，且在該過程中系統所受到的人為干預遠不止訓練模型中標注出來的那么簡單，這種實時且強有力的人為干預將ChatGPT的預設價值觀推向了更加隱蔽、更加晦澀的深層次。

（二）開放可塑的數據訓練。

ChatGPT本質上是基于GPT模型，針對聊天環境進行指向性優化的結果。GPT模型在面對不同來源的數據進行學習時，會根據數據本身“意義分布”的不同而學習得到不同的結果。這意味著，已經被ChatGPT證明相對成熟的GPT模型將可以在差異性數據來源的情況下，被培養成為適用不同領域的特定人工智能。這種可塑性使得GPT系統的發展前景大大超過以往的自然語言學習系統，并且為GPT家族的發展壯大提供可能性，也極大地拓寬了其市場前景與應用場景。

隨著特定傾向性的數據訓練，給定的價值觀會演變成為工具本身的價值觀，將會使ChatGPT以網絡空間“虛擬人”的身份進行輸出，而它所擅長的自然語言學習將會成為這種輸出的主要路徑與助力。以ChatGPT為代表的智能系統將會拓展現有網絡空間，成為“元宇宙”的重要組成部分。在“元宇宙”中，ChatGPT可以催生出一種不具有現實映射的“虛擬人”，不僅僅以“系統的一部分”的形式存在，而是會基于其預設價值觀，成為某種價值觀的代言人，通過網絡虛擬空間與現實世界產生巨大的影響。

（三）高度逼真的自主輸出

隨著ChatGPT上線互聯網，人們發現ChatGPT已經跨越了以往工具在面臨“領會意圖”這一問題上難以跨越的人機鴻溝，自然語言學習的過程賦予其超越指令的能力。若將其運用到認知域作戰當中，將可替代目前進行流量攻擊的“網絡水軍”，ChatGPT強大的數據產生能力與強自主性的概略意識，將使得認知攻擊的響應時間更短、行動更加靈活、反饋更迅速，同時作戰成本將會進一步降低，向無人化、智能化邁出了實質一步。

同時，ChatGPT所帶來的深度造假技術的提升，使得認知域作戰的進攻行動更加隱蔽。在現有的進攻行動中，敵方往往需要依托于熱點事件，通過網絡水軍的集結來造成輿論攻勢，進而造成部分民眾的認知混亂。但是，ChatGPT能夠脫離熱點事件，取代網絡水軍的集結行動，將認知域作戰的進攻行動以一種更加平滑的方式融入日常生活之中。未來的認知域作戰所依托的社會事件程度將會進一步降低，呈現出多點開花、多線出擊的態勢。

ChatGPT在認知域作戰中的運用場景構設

在人類歷史絕大部分時間內，科學技術發展的最新成果往往被最先應用于軍事領域，ChatGPT的武器化勢在必行，其在認知域作戰中，有著廣泛的潛在應用場景。

（一）利用沉錨效應，實現認知預設

所謂沉錨效應，是指人們做決策前，思維往往會被所得到的第一信息所左右，第一信息就會像沉入海底的錨一樣，把你的思維固定在某處，從而產生先入為主的歪曲認識。ChatGPT將會首先取代網絡水軍在認知域作戰中的生態位置，強勁的系統架構、強大的數據處理能力，為其所帶來的數據產生能力以及直接對接網絡的機機交互模式，將會使得認知域進攻作戰在時空上都更加平均，同時這種時空分布狀態對進攻烈度進行積分所得到的總進攻強度又會遠遠高于以往。這種變化所帶來的直接影響就是日常生活中任何一起稍具影響力的社會事件都有可能成為認知域作戰的戰場，ChatGPT的預設價值觀不再需要特定的社會事件才能進行表達，而是會廣泛地滲透在社會的角角落落，通過扭曲、造謠、帶節奏的方式從生活中的點滴小事上持續輸出負面信息。

ChatGPT強大的信息生產能力，將進一步突破信息生產力的上限，加劇個體“信息過載”狀態，并對社會信息構成產生影響。從個體微觀視角來看，最直觀的感受就是負能量的戾氣充斥在社會的方方面面，同時大量具有相同預設價值觀的信息會在任何社會實踐發生的時候撲面而來。而且ChatGPT的“不厭其煩”“潛移默化”將會使得這一過程更加平滑順暢，負能量信息被包含在一次次看似正常的抱怨、內涵與“合理的利益訴求”中，悄悄烙入人們的潛意識，形成思維底色。這種潛在印象將會在長期的加強下慢慢毒化社會風氣，影響對于特定事件的社會風評，建立“事件--情緒”的對應關系，在不知不覺中改變一個人的認知邏輯與行為方式。

（二）打造信息繭房，形成認知依賴

信息繭房是信息時代不可避免的社會問題，是個體或群體在信息消費過程中因自身或外界的因素而形成的信息來源窄化和觀念極化現象。認知域作戰過程中，通過大數據對個體展開偏好分析，形成個性化的用戶畫像，為精準認知攻擊提供可能。ChatGPT的強大數據處理能力以及較高的自主性使得其可以獲得進行偏好分析以及后續包括相關信息生產、信息投送的能力。

ChatGPT的智能系統可以實現偏好抓取到信息投送一體化，具備自主、持續、自適應的認知作戰能力，這將會大大提高現有的信息繭房制設效率。傳統認知域作戰中，對于個體或群體信息繭房的制設，一方面需要長期的用戶跟蹤、偏好分析和信息投送；另一方面需要借助熱點事件或制造熱點事件才能達到理想效果，這都要花費較多資源，且攻擊過程易被識別、干擾和破壞。但ChatGPT以平滑的姿態進行進程設計，并將預設的價值觀安插到任何一起稍具影響的社會事件中，不需借助或制造熱點，使得信息繭房制設常態化；ChatGPT的高度自主性、智能化，可針對受到影響的個體進行精準分類，加大信息投送力度，促使潛意識中被植入的印象逐漸成長并在個人思想中占據主導地位，極大提高了信息繭房的制設效率。同時，基于分散社會事件的信息投送模式也更難被發現和監管，使得認知域作戰的進攻成本與響應速度進一步縮減。

（三）強化社群效應，塑造群體極化

社群效應，是指當一部分人群擁有相近的價值觀時，就會在無形中產生相較于日常人際關系更為緊密的聯系。在人口總基數相對不變的前提下，當越來越多的人群被剝離出主流價值觀時，主流價值觀的影響力就會受到削弱，一旦信仰主流價值觀的人口基數在社會中不足以達到大多數時，主流價值觀也會喪失其主流地位。在這一過程中，如果不能確立新的主流價值觀或新的主流價值觀與國家利益不匹配，那么就會在事實上造成社會凝聚力、向心力的喪失，也就是說，在社群效應影響下的小團體分裂行為最終必然導向社會原子化，進而產生社會群體的極化。

在認知域作戰過程中，認知預設旨在源源不斷地制造特定人群，擁有“入群”潛力的個體會在相關信息所織造的信息繭房的不斷提純與篩選下，逐步形成對于這種特定價值觀信息的認知依賴。最后這類經過特殊培養的人就會在自覺或外力的助推下形成抱團取暖的小圈子，在被不斷飼養下逐漸成長，并最終對主流價值觀形成挑戰或者與其他意見相悖的小圈子相互攻訐，用混亂的小團體亂斗攪亂社會思想的統一。

ChatGPT所擁有的精準信息投送能力與人群分類能力在這一過程中將會高效助長各類小團體的形成。通過向處于信息繭房中的特定人員不斷投放對應信息來制造出一批擁有極化思想的個人，當該類人群人口基數達到臨界值后，就通過網絡將這一類人員組織成為小團體并持續投放相關信息，使得該團體不斷地純化、成長。這些受到ChatGPT培養的眾多小團體都會在客觀上削弱主流價值觀的影響力，而這種隱晦繁雜的認知進攻方式的出現正是基于算力的進一步提升以及ChatGPT智能高效的算法架構。

應對ChatGPT的策略思考

（一）健全網絡監控體系，實時感知輿論態勢。網絡輿情態勢感知和監測能力是奪取認知域作戰主動權的前提條件，而高效的輿論感知網絡又是基于先進算法、具有一定自主分析能力的多維感知系統。需要進一步健全網絡監控體系，使之具有網絡輿論態勢感知及溯源能力，并擁有從內容重復性、邏輯性、語法語義等方面開發的人工智能內容鑒別能力。實現準確識別由人工智能控制賬號發布的虛假信息以及誘導性言論，對虛假消息源頭進行“發送、甄別、封禁、溯源、抓捕”的快速反應，堵截ChatGPT發布虛假信息的渠道，削減其參與認知域作戰的能力。加強專業人才隊伍建設，打造一支忠誠可靠、反應快速、技術過硬的認知域作戰人才隊伍，以在網絡環境下認知對抗的常規力量對比中占據優勢。

（二）堅決守住輿論陣地，深化教育宣傳效果。深刻認識網絡空間所具備的主權特征，全社會多部門共同參與，將網絡空間當作“數字領土”一樣進行主權建設。維護以社會主義核心價值觀為代表的主流價值觀的主流地位，加強主流價值觀的宣傳教育，把宣傳陣地牢牢掌握在自己手里。豐富拓展宣傳手段與形式，發掘符合主流價值觀的好人好事，樹立典型、弘揚正氣，主動掌握社會輿論的定義權與主導權。采取人民群眾喜聞樂見的方式，深化宣傳教育效果，實現中華民族傳統文化、中國特色社會主義理論體系和國家建設社會實踐三者有機結合，堅定“四個自信”，正本清源，從根源上杜絕ChatGPT顛倒黑白的一切可能。

（三）堅持開展技術研發，豐富拓展應用手段。堅持以政府為主導、以企業為主體，構建“政產學軍研用”六位一體的協同創新機制，推進高精尖技術的不斷前進與應用技術的大規模應用，將平臺建設、基礎設施投資與科技進步有效轉化成為國家面對網絡新興挑戰的反擊力量。在平臺建設上，充分借鑒民用互聯網的先進經驗，實現網絡認知對抗諸多力量的扁平化管理；在基礎設施投資上，由政府牽頭、多方參與，從硬件上確保監管系統的正常運轉；在科技創新上，以監管與軍事需求為主導，院校與科研院所充分參與，盡快突破認知域作戰態勢感知、戰場孿生、用戶畫像等技術瓶頸，下好應對ChatGPT用于網絡認知對抗的先手棋。

（作者單位：空軍預警學院）

（編輯：曹憲仁）