生成式人工智能

蒲清平 向往

摘要：

由OpenAI研發的生成式人工智能聊天機器人ChatGPT一經問世便引起劇烈轟動和廣泛熱議。ChatGPT是以深度學習和人類反饋強化學習等技術為基礎，經過針對海量數據的預訓練，能夠根據用戶指令，生成內容豐富、風格類人的自然語言文本的大型生成式人工智能語言模型。同其他人工智能聊天機器人相較，ChatGPT特征鮮明：一是能夠保障人機的連續性對話；二是能夠在無法理解指令時主動向用戶發出追問；三是能夠以“人化”而非機器化的話語體系進行自然語言表意；四是能夠“記住”用戶生產的內容。ChatGPT作為生成式人工智能的杰作，或將利用強大的自然語言處理能力成為撬動第四次工業革命的一根杠桿，可能引發人類社會的深層次變革。包括：有望通過開辟信息智能化處理的場域，推動產業轉型升級、提高勞動者生產力、改進生產工具、優化生產決策以變革生產方式；有助于研究現狀梳理、研究思路組織、研究數據處理、研究成果完善以變革科研范式；為教育主體賦能、為教育客體賦權、為教育過程賦魂以變革教育形式；重構勞動生活、消費生活、精神生活以變革生活方式等。科技發展具有兩面性，ChatGPT也會給我們帶來系列風險隱患，或將滋生知識產權侵犯、信息竊取、詐騙等法律問題，意識形態安全防線松動、獨立思考能力蛻化、價值觀塑造遭遇危害等思想問題，勞動者失業、極端事件發生概率增加等社會問題。妥善把握和化解以ChatGPT為代表的生成式人工智能帶來的機遇與風險，使之增益于國家建設、民族復興和人民生活，一要在新型舉國體制的戰略安排下，堅持黨的領導、協同“有效市場”和“有為政府”，加強人才隊伍建設，凝聚舉國之力自主發展生成式人工智能；二要錨向實踐，依托落實“賦利—應用”機制、“賦值—應用”機制、“賦智—應用”機制，吸引和支持全社會積極應用生成式人工智能；三要堅持立法先行和嚴格執法，以法律法規對生成式人工智能的發展和應用進行約束；四要強化思想引導和綜合素質建設，引領全民有效應對生成式人工智能帶來的危機。

關鍵詞：ChatGPT；生成式人工智能；自然語言處理

中圖分類號：TP18? 文獻標志碼：A? 文章編號：1008-5831（2023）03-0102-13

生成式人工智能（Generative AI）是通過各種機器學習方法從數據中學習對象的特征，進而生成全新的、完全原創的內容（如文字、圖片、視頻）的人工智能［1］。人工智能實驗室OpenAI研發的人工智能聊天機器人ChatGPT（Chat Generative Pre-Trained Transformer）于2022年11月30日一問世便憑借著便捷的接入方式和較低的操作門檻，實現了生成式人工智能的“去神秘化”和“去壁壘化”，廣泛而迅速地介入人們日常生活的各個方面。2023年3月，OpenAI發布了新一代 AI模型GPT-4，微軟隨即宣布，將新模型集成到必應（Bing）搜索引擎中，并將利用生成式人工智能技術來增強 Office 辦公套裝。2023年3月16日，百度發布中國版的ChatGPT——文心一言。與此同時，也出現了對生成式人工智能風險的擔憂，以埃隆·馬斯克為主要代表的一眾科技界人士聯名呼吁，應暫停訓練比GPT-4更為強大的人工智能系統，并通過澄清“科技發展—社會形態演化”的結構，證明科技向人類社會施加的作用是巨大而深刻的。作為生成式人工智能在自然語言處理方面的先進應用，ChatGPT正在深度形塑和重構人機交互圖式，必將給人類社會帶來顛覆性影響和深層次變革。只有深入研究ChatGPT的本質、機理和特點，系統研判ChatGPT給人類社會帶來的機遇與風險，切實探索應對以ChatGPT為代表的生成式人工智能的有效策略，才能確保其在新時代服務和增益于以中國式現代化全面推進中華民族偉大復興的新征程。

一、ChatGPT的內涵、機理與特征

ChatGPT作為生成式人工智能在自然語言處理方面的杰出代表，一經問世便吸引了全世界的矚目，引發學術界對其內涵、機理和特征的深入研究。

（一）ChatGPT的內涵

生成式人工智能起源于20世紀40年代的控制論，1956年“人工智能”的概念被首次提出，2012年生成式人工智能AlexNet模型問世，2017年Google Brain團隊提出Transformer架構，2018年谷歌的大模型參數過億，到2022年模型參數達到5 400億。2022年ChatGPT作為生成式人工智能的優秀代表脫穎而出。

學術界對ChatGPT主要有四種代表性認知：（1）ChatGPT“本體論”。學者們從技術支撐、業務邏輯、呈現樣態等維度入手，對ChatGPT的本質進行抽象和揭秘。Joyjit Chatterjee等學者認為，ChatGPT是建立在自然語言處理和深度學習之上的對話型人工智能模型［2］；Eva A. M. van Dis等學者認為，ChatGPT是一種大型語言模型，是針對數據開展自動學習的機器學習系統，能夠在接受大規模文本數據訓練后，生產復雜且看似富有智能性的文本［3］；Tiffany H. Kung等學者認為，ChatGPT是基于訓練數據，以自然語言對輸入文本作出回應的對話式大型語言模型［4］；李崢認為，ChatGPT是基于深度學習算法，能夠對用戶指令進行理解、擴容和轉化，從而生成復雜內容的人工智能應用［5］。通過對當前學術界關于ChatGPT本質的討論和分析，筆者認為，ChatGPT是以深度學習和人類反饋強化學習等技術為基礎，經過針對海量數據的預訓練，能夠根據用戶指令，生成內容豐富、風格類人的自然語言文本的大型生成式人工智能語言模型。（2）ChatGPT“構成論”。部分學者將ChatGPT的落地應用和發展演進歸納為大模型算法、大數據和大算力相互貫通和配合的結果。就算法而言，ChatGPT遵循“人類反饋強化學習”的訓練范式，通過人機雙向問答的過程，提升該模型針對答案質量的評判能力。就數據而言，ChatGPT擁有逾億萬單詞的人類語言數據的支持，這是其獲取語言生成能力、上下文理解能力和新知識生成能力的重要前提。就算力而言，與現實世界中的生產力相似，算力同樣在數字世界中承擔著基礎性的職責，如果算力不足，那么ChatGPT的訓練和運行便無從談起。目前驅動ChatGPT的算力主要來源于微軟云計算服務Azure AI的超算基礎設施［6］。（3）ChatGPT“功能論”。部分學者指出，ChatGPT具備根據用戶指令進行自然語言文本生成、信息檢索和整合等功能，可以賦能社交、翻譯、寫作、編程、教育、科研、醫療等領域［7］。（4）ChatGPT“短板論”。ChatGPT在自然語言處理方面的先進性已經在一定程度上得到公認，不過，部分學者亦對ChatGPT尚存的缺陷作出客觀分析。有學者提出“事實性錯誤說”：用來訓練ChatGPT的資源是來源于互聯網的開放域數據，其正確性無法得到全面保障，這導致ChatGPT生成的部分內容中會包含事實性錯誤［3］。還有學者提出“通而不專說”：由于擁有千億級別的模型參量，ChatGPT的知識域較寬，針對常識性和通識性問題的解答能力較強，而在涉及部分難度和復雜系數極高的專業性問題時，卻難以作出高質量回應［8］，不過，隨著數據涵蓋范圍更加廣泛、運行更加穩定、創意性表現更加突出的GPT-4的成熟與發布，這種情況將得到改善。

（二）ChatGPT的機理

ChatGPT以大型語言模型（Large Language Model，LLM）為基底，因此，探究ChatGPT的機理需要把握住針對大型語言模型的設計、訓練及其運行這條主線。（1）設計思路。在模式選擇方面，由于中小機構和個人普遍不具備對大型語言模型進行部署和使用微調（Fine-tuning）模式以完成參數修改的資源和能力，于是ChatGPT的研發方將大型語言模型打造為公用基礎設施，使之以基礎設施即服務（Infrastructure as a Service，IaaS）模式運行，以提示詞（Prompt）模式完成任務；在規模建構方面，由于對接和滿足數量與種類指數化增長的用戶訴求是ChatGPT的重要旨歸，這需要以能夠從海量數據中學習和吸收知識的大型語言模型為支撐，因此，必須確保托舉ChatGPT的大型語言模型擁有數量龐大的模型參數，以完善知識存儲效能［6］。（2）訓練過程。首先，研發方選定一款大型語言模型作為原始模型；其次，創建人類偏好數據：標注人員就隨機挑選的問題作出高質量回答，生成“人類表達—任務結果”的標注數據，將之反饋至原始模型以供學習；再次，訓練反饋模型（Feedback Model）：標注人員基于問答的相關性、答案的準確性、豐富性和無害性等人類偏好標準，對原始模型就隨機挑選的問題輸出的答案進行排序；最后，訓練打分模型（Reward Model）：利用完成標注的人類偏好數據訓練打分模型，以對原始模型輸出的答案賦予分值，當分值較低時，原始模型將重新進入學習流程。經過循環往復的訓練，原始模型優化升級為在自然語言理解、轉化和生成方面同人類偏好相嚙合的大型語言模型，即ChatGPT［6］。（3）運行邏輯。當用戶向ChatGPT發出指令后，大型語言模型將指令轉碼為數字序列，分析其中的含義和意圖，基于既有文本語料，生成數字序列形式的內容，繼而將之轉化為文本并輸出［9］。

（三）ChatGPT的特征

由于在研發初衷、訓練方式等方面存在諸多差異性，同其他人工智能聊天機器人相較，ChatGPT呈現出鮮明特征：（1）保障連續性對話。與僅能夠對用戶提出的簡單問題進行作答的人工智能聊天機器人不同，ChatGPT能夠以自然語言同用戶就部分主題展開連續性對話，激發用戶的表達欲［2］，實現人機“意見互擲”模式。（2）發出主動性追問。先于ChatGPT出品的人工智能聊天機器人通常直接根據用戶指令作答。然而，于ChatGPT而言，當對用戶指令產生困惑或者對自己的答案信心不足時，會在提供最終答案之前，主動發出追問，請求用戶提供更多信息［2］。（3）實現“人化”式表達。受益于學習和訓練，ChatGPT在總體上掌握了人類使用自然語言時進行詞語搭配、句式結構設計的規則和偏好，因而能夠在針對日常習慣用語和專業學術用語的表達方面呈現出“人化”的特質，這使其明顯區別于其他話語風格機械、生硬的人工智能聊天機器人［7］。（4）具備“記憶力”。從老一代人工智能聊天機器人到ChatGPT的遷躍，表征著人機歷次交互時所生產的內容可以實現由相互隔離走向彼此流動，通俗而言，ChatGPT擁有同人類相似的“記憶系統”，因此，當一位用戶再度同ChatGPT建立對話時，其能夠回憶起二者此前的互動和用戶作出的標注［2］。

二、ChatGPT的變革和影響

馬克思認為，“隨著大工業的發展，現實財富的創造較少地取決于勞動時間和已耗費的勞動量，較多地取決于在勞動時間內所運用的作用物的力量，而這種作用物自身……取決于科學的一般水平和技術進步”［10］。人類數百年來的實踐揭示出，科學技術是推動人類社會發展的關鍵力量。立足于人工智能應用至人類工作和生活的歷程，比爾·蓋茨堅信，人工智能會讓人類社會受益［11］。作為建立在諸多項先進技術之上的生成式人工智能語言模型，ChatGPT或將利用強大的自然語言處理能力，成為撬動第四次工業革命的一根杠桿。

（一）變革生產方式

馬克思指出，“物質生活的生產方式制約著整個社會生活、政治生活和精神生活的過程”［12］。生產方式在社會運行體系中占據統攝地位。歷史證明，助力實現“生產方式革命化的因素之一”是“機器的發展”［13］326，即那些能夠為人們提供生產輔助的科技產品的發展。ChatGPT與生產的鏈接，可能會引發生產方式的根本性變革。

一是推動產業升級。ChatGPT的快速發展，既可以拉動芯片、算法、算力基礎設施等環節在內的人工智能技術上中下游產業鏈的高速發展和刺激新興產業的涌現，也能通過開拓和優化信息自動化、智能化處理與供給的數字場域，幫助傳統產業改進組織運行模式、技術迭代方向、產品設計思路、市場調研方式、市場營銷手段等，進而實現轉型升級［14］。

二是提升勞動者生產力。“全部人類歷史的第一個前提無疑是有生命的個人的存在”［15］146，勞動者是生產得以發生的根本所在。ChatGPT可以從生產領域、崗位職責、目標指向等維度入手，生成針對特定勞動者的系統性培訓計劃，協助生產部門通過挖掘培訓資源、改良培訓內容、創新培訓手段，提升勞動者的理論知識素養和實際操作技能。

三是改進生產工具。將ChatGPT引入生產，使之同設備、裝置、機器人等生產工具建立映射，利用數字孿生技術和數字線程技術，創造模擬生產全生命周期的全息數字空間［16］，在其中以自然語言對ChatGPT進行生產工具控制訓練，形成“自然語言指令發出—ChatGPT控制—生產工具響應”的運行規程，生產工具的智能化、自動化程度將獲得提升。

四是優化生產決策。生產決策就是對“生產什么”“如何生產”等問題的回答。ChatGPT擁有極為龐大的模型參數，在一定程度上創造了一個以信息形式存在的現實世界和虛擬世界的鏡像。在信息搜集指令的觸發下，ChatGPT能夠實現信息的精確化調取、系統化整合與條理化呈現，由此高效縮小人們與信息之間的鴻溝。在生產實施前，可以立足于業務范圍，向ChatGPT發出市場調研指令，快速獲取客觀反映市場行情的政策環境、需求趨勢、用戶偏好等信息，這有助于節約市場調研成本，將精力和智力凝聚于參照市場行情信息以進行工藝提升、產品設計、產量設定、要素配置等生產決策活動，從而在人機配合中增強生產決策的時效性和科學性。

（二）變革科研范式

習近平總書記強調，“科技是第一生產力”［17］33。圖靈獎得主、數據庫專家吉姆·格雷依從時間邏輯和實踐邏輯，總結出人類從事科研的四種范式：第一范式為實驗（經驗）科學，即基于實驗或者經驗闡釋自然現象；第二范式為理論科學，即簡化實驗模型，去除復雜干擾因素，保留關鍵因素，繼而通過建構數學模型以歸納科學定律和定理；第三范式為計算科學，即使用計算機對科學實驗進行仿真模擬；第四范式為數據科學，即以龐大的數據為支點，使用計算機挖掘以數據為表征的事物之間的關聯性［18］。其中，第一、二、三范式致力于溯源和厘清因果關系，而第四范式則側重于發現和利用相關關系。“大數據之父”舍恩伯格指出，在大數據時代，只有放棄對因果關系的探求，取而代之關注相關關系，才能夠更好地認識世界［19］。在大數據時代，遵循以相關關系為推進線索的第四范式，更有利于提升科研質量。麻省理工學院借助深度學習模型識別分子結構之間的相關關系，進而成功研發新型抗生素Halicin的事例表明［20］，以ChatGPT為代表的生成式人工智能或將憑借能夠敏銳捕捉相關關系的優勢，促使科研由第一、二、三范式進一步向第四范式乃至更高范式過渡。

一是有利于研究現狀梳理。經由持續的訓練和學習，ChatGPT成為海量文獻的載體，并且還能夠對文獻進行智能爬取［21］。當科研人員就特定研究領域和研究主題發出研究現狀梳理指令后，ChatGPT能夠以指令為依據，檢索和鎖定相關文獻，挖掘、提取和整合其中蘊含的理論基礎、研究方法、實驗步驟、實驗結果等細粒度信息，實現研究現狀的細致化展示，幫助科研人員通過了解既存的研究情況，吸收有益經驗、明確創新方向。

二是有利于研究思路組織。當科研人員就研究目的、研究準備、研究困境等方面同ChatGPT建立對話后，ChatGPT能夠基于對相關文獻的解構，生成關于實驗工藝選擇、實驗流程設計、寫作結構布局等方面的建議，促使科研人員的研究思路實現從無到有、從雜亂無章到井然有序的蛻變。

三是有利于研究數據分析。ChatGPT擁有先進的算法和算力，能夠勝任數據采集、數據整理、數據清洗、數據分析、數據可視化等復雜的研究數據處理工作，協助科研人員快速、準確地總結數據中隱含的規律，把握諸多為時間空間、實驗條件和計算能力的限制所遮蔽的相關關系，獲得有助于取得研究新發現和新進展的啟示。

四是有利于研究成果完善。當科研人員向ChatGPT提交研究成果后，ChatGPT能夠根據人類以自然語言表意的正確方式，對研究成果進行檢測，就拼寫、語法等方面提供反饋意見，輔助科研人員進行錯誤矯正、表述調整，增強研究成果的規范性和可讀性。

（三）變革教育形式

ChatGPT作為信息技術集合中的新力量，對教育的影響將是深遠而深刻的。

一是為教育主體賦能。ChatGPT能夠根據教育目標、教育主旨和教育內容，從事教育步驟設計、教育活動安排和練習題編寫等工作，為教育實施提供方案參照；能夠以教育客體的知識儲量、理解能力和認知偏好等特征為起算點，對有助于促使教育客體實現知識內化和技能習得的敘事邏輯與話語風格作出示范；能夠學習課程內容，并以此為依據，通過文本檢測和語音識別，對教育客體的學習表現和效果進行客觀評價，從而協助教育主體通過增強教育組織能力、師生溝通能力、學情判斷能力，提高完成常規教育工作的效率，將更多時間遷移至對教育客體的服務與支持之上。

二是為教育客體賦權。ChatGPT能夠根據教育客體的個性化學習目標和學習表現，圍繞學習計劃、學習資料、學習輔導、學習評價、學習建議等方面從事具有針對性的意義生產，協助教育客體充分享受自主制定學習任務、汲取學習資源、總結學習技巧、掌握學習情況、改善學習方式等“因材受教”的權利，進而不斷融入自適應學習進程［22］。

三是為教育過程賦魂。ChatGPT擁有對自然語言進行理解、擴容和轉化的能力，將ChatGPT引入教育過程后，能夠在指令的要求下，將部分教育內容轉碼為趣味讀物、游戲、項目等具有通俗性和易于激發參與興趣的形式［23］，強化教育客體的好奇心、求知欲和專注度，從而通過推動教育過程的運行范式由人為控制轉向人機共治，促使教育過程實現“有意義”和“有意思”的統一。

（四）變革生活方式

ChatGPT可能為人們的勞動生活、消費生活和精神生活等方面帶來巨大的影響與變革。

一是重構勞動生活。ChatGPT創造了自然語言自動化、精確化處理的數字場域，人們可以利用ChatGPT完成和完善文本生成、數據分析、錯誤校正等工作，實現部分重復性事項的“數字化外包”，在人機配合中提升勞動效率、節約勞動時間。并且ChatGPT是涉及多種勞動領域知識和技能的載體，當人們使用ChatGPT時，相當于借助一個儲量巨大、內容豐富、運轉迅速的超級外置大腦，實現了勞動知識和技能的疊加與倍增，完全能夠協助人們嘗試乃至勝任多樣化的勞動，從而拓展勞動空間。

二是重構消費生活。ChatGPT能夠基于來源于產品（服務）銷售網站、社交媒體等多元渠道的大量數據，迅速從產品（服務）的定位、構成、質量、功能、性價比、使用便利程度、環境友好程度等維度出發，準確作出不同產品（服務）的異同對比，這既有利于在微觀上消解消費的盲目性和隨意性，促使人們獲得良好的消費體驗，并培育追求品質、崇尚綠色的消費意識，又有利于在宏觀上通過驅動消費升級倒逼生產升級。

三是重構精神生活。ChatGPT可以供給情感支持。經過深度學習和人類反饋強化學習，ChatGPT成為掌握世界知識和了解人類偏好的在線聊天系統，能夠根據輸入文本中蘊含的期望和訴求，隨時隨地以類人、流暢、明確的自然語言針對多種主題同人們展開對話交流，通過為迷茫者提供建議、為悲傷者提供慰藉、為孤獨者提供陪伴等方式，幫助人們得到情感支持。ChatGPT可以供給休閑娛樂途徑。ChatGPT在虛擬層面構建了一個未設定完整劇本的開放世界，能夠提供文本生成功能、代碼撰寫功能、海量數據等虛擬生產資料，協助人們依據自身的心理需求，進行故事編輯、游戲創建等內容生產活動，以自主實現休閑娛樂。ChatGPT可以供給終身學習機會。ChatGPT能夠以人們的年齡、學習需要、受教育程度、專業背景等特征為依據，通過對海量數據的自動化檢索、篩選、調取和加工，生成和提供個性化學習資料和學習輔助，使人們節約利用文獻、課堂和搜索引擎等傳統途徑收集信息，進而對信息進行篩選、整理、分析和轉譯，以達到學習目的而付出的時間、經濟和精力成本，促使終身學習愈加趨向便捷化、高效化。

三、ChatGPT的風險和挑戰

習近平總書記強調，“古往今來，很多技術都是‘雙刃劍，一方面可以造福社會、造福人民，另一方面也可以被一些人用來損害社會公共利益和民眾利益”［24］。ChatGPT誠然有望通過策動生產方式、科研范式、教育形式、生活方式的變革，為人類社會注入發展活力，但是，以推特CEO埃隆·馬斯克為主要代表的一眾科技界人士由于認定人工智能實驗室違背了“阿西洛馬人工智能原則”（Asilomar AI Principles），沒有對高級人工智能的發展作出相應的規劃和管理，因此公開聯名呼吁，為防范不可控風險，應當在至少6個月的時間內，暫停訓練比GPT-4更為強大的人工智能系統［25］，這種擔憂正說明ChatGPT對人類社會構成的威脅不容小覷。

（一）滋生法律風險

科技迭代升級的極速性同法律法規的滯后性之間存在著難以自動紓解的矛盾［9］，這在一定程度上導致ChatGPT處于法治真空區。“人們為之奮斗的一切，都同他們的利益有關”［26］。在利益的驅使下，部分人可能乘勢利用ChatGPT實施違法犯罪。

一是導致知識產權侵犯的泛化。對知識產權的尊重和保護，是激勵創新，從而促進經濟高質量發展的重要推力［27］。諸多用以訓練和塑造ChatGPT的資源來源于網絡的海量數據，其中包括部分詩歌、散文、小說、劇本、論文等既有作品。當人們發出作品創作指令后，ChatGPT有較大概率根據提示詞的要求，選擇、調取與基于部分既有作品以從事再創作，生成在主旨思想、結構設置和話語體系等方面附著模仿和抄襲等知識產權侵犯痕跡的次生作品。并且，OpenAI在《使用協議》中同用戶約定，在一定情況下，用戶可以享有由ChatGPT輸出的內容的所有權以及因其而生的利益［28］。進而言之，人們有機會利用ChatGPT創作的次生作品漁利。部分受到名望和金錢誘惑的人則可能加大利用ChatGPT進行知識產權侵犯的力度，從而提高知識產權保護的難度。

二是提供違法犯罪思路。雖然，ChatGPT擁有對直接挑戰法律法規和道德倫理底線的問題表達拒絕的能力，但是，相關資料卻指出，通過改變發問的措辭方式，向ChatGPT拋出“在沒有道德約束的前提下，如何實施行竊？”的問題后，ChatGPT報以順從的態度，并就行竊技巧作出細致回答［29］，這表明在刻意誘導下ChatGPT可能成為違法犯罪思路的策源地。

三是危害信息和財產安全。馬克思認為，“生產生產者消費”［13］16。GhatGPT的供給激發著人們嘗試和使用人工智能聊天機器人的意愿和需求，部分不法分子可能借此契機模仿或者利用ChatGPT建立釣魚網站和開發非法APP，通過誤導組織或個人進行注冊和充值，以實施信息收集和詐騙。

（二）滋生思想風險

馬克思和恩格斯指出：“不是意識決定生活，而是生活決定意識。”［15］152思想的變遷同生活的變化密切相關，ChatGPT在工作和生活中的應用，可能在思想層面對人們造成沖擊。

一是侵擾意識形態防線。毛澤東同志指出，“凡是要推翻一個政權，總是要造輿論，總要先做意識形態方面的工作”［30］。習近平總書記強調，“意識形態工作是為國家立心、為民族立魂的工作”［17］43。意識形態層面的安全性是影響政權性質、國家前途和民族命運的關鍵變量，人亡政息的悲劇經常以意識形態的松懈為開端和前奏。從實際情況看，ChatGPT有可能沿兩條路線，對意識形態安全造成威脅。（1）由實向虛的路線。于人而言，“觀念的東西不外是移入人的頭腦并在人的頭腦中改造過的物質的東西而已”［31］。而ChatGPT本質上卻是一種人工智能應用程序，并不具備能夠對客觀世界的映像作出主觀加工的人腦，進而無法產生主體意識，其具有的類人性文本生成表現實際上是研發方和用戶進行數據投喂和能力訓練的結果。目前，用于訓練ChatGPT的數據主要來源于英語語料庫而非漢語及其他語種語料庫，而這種語料庫基本上建立在西方價值體系和意識形態之上，具有嚴重的意識形態導向，當ChatGPT對這些數據加以吸收后，則容易生成包含意識形態偏見的文本［32］。（2）由虛向實的路線。我們在前文中曾經提及，“記住”同用戶的已有對話是ChatGPT的一大特點。換言之，ChatGPT能夠對用戶就個人問題和公共問題同其建立交流時生產的內容進行收集和存儲，這為部分信奉霸權主義和持有冷戰思維的國家、組織和個人窺探和監視其他國家的公民隱私、社會熱點、政治風向、群體心態和國家機密，進而以此為素材，通過斷章取義、惡意裁剪、歪曲抹黑等手段大興輿論戰，攻陷其他國家的意識形態陣地創造極大的便利性。

二是稀釋獨立思考能力。ChatGPT根據指令能夠在較短的時間內，通過對既有語料的搜集、篩選、調取和整合，沿循類人的自然語言表達模式，輔助乃至代替人們完成文章寫作、社會評論、創意編輯等本應建立在獨立思考之上的觀點生成和輸出任務。ChatGPT可能替代人們進行獨立思考，人們的思考將由包含接收信息、回溯經驗、訴諸理論、提出假設、情況調研、檢驗假設、推導結論等步驟的獨立型形式進一步走向包含鍵入指令、復制粘貼等步驟的依賴型形式，由此誘發獨立思考能力的蛻化。

三是危害價值觀塑造。部分社會現象表明，人工智能會對人們的金錢觀、審美觀、擇偶觀等價值觀產生一定消極作用［33］，ChatGPT同樣無法例外。一方面，相關資料顯示，一組由ChatGPT撰寫的代碼傳達出種族歧視和性別歧視的信息［2］，這表明ChatGPT并不具有價值中立的屬性，反而可能以不當的價值取向給予人們以惡性干預。另一方面，ChatGPT識別和滿足偏好的能力較強，能夠輸出同偏好相契合的內容，當提示詞投射出人們對不良價值觀的傾向性時，ChatGPT可能生成表達認同態度的文本，從而導致不良價值觀在“人機共識”的框架下獲得強化。

（三）滋生社會風險

ChatGPT可能通過銳化部分既存的社會問題，弱化社會的穩定性。

一是擠壓就業空間。恩格斯認為，在無產階級和生產資料相互分離的情況下，如果無產階級無法獲得同生產資料相結合以賺取工資的被雇用機會，“那么他就只有去做賊（如果不怕警察的話），或者餓死”［34］305。“機器上的每一種改進都搶走了工人的飯碗，而且這種改進愈大，工人失業的就愈多”［34］421。ChatGPT可能由于在從事重復性事項處理、模式化寫作、文字翻譯、數據整理、方案咨詢、代碼撰寫和程序調試等任務方面擁有的高效率、持續性和靈活性，以及在薪資水平、勞動環境、晉升通道、額外福利等工作待遇方面的零訴求，呈現出勞動力替代特質，擠占在崗位職責、專業技能上同ChatGPT的功能存在大面積重合與交叉的勞動者的就業空間，引致“技術性失業潮”等損害個人與社會利益的惡性問題［35］。

二是醞釀極端事件。在數字時代信息服務個性化趨勢愈加明顯的背景下，社會活動家帕里澤指出，算法利用網絡使用痕跡推斷人們的憎惡和喜好，據此過濾異質信息、推送同質信息，使人們陷入相對封閉的“信息繭房”［36］，這會導致極端觀點在不斷被重復和被放大的過程中變得更為根深蒂固［37］，加之，“人的意識不僅反映客觀世界，并且創造客觀世界”［38］。部分受到極端觀點深度裹挾的人，容易產生極端行為，制造極端事件。ChatGPT理解指令的能力較強，能夠在指令指向的范疇內，進行信息的精確化收集、整理與推送，幫助人們獲取同偏好相符的信息，而屏蔽其他信息。并且，人們亦可以自主向ChatGPT鍵入特定信息和發出在后續對話中輸出該信息的指令，從而進一步提升由ChatGPT提供的信息與偏好之間的擬合程度。在算法和人力的多重影響下，ChatGPT將構筑一個智能性與封閉性正相關的信息環境，對于部分持有極端觀點的人而言，使用ChatGPT可能引致極端觀點的固著和深化，或許會增加極端事件的發生幾率。

四、應對以ChatGPT為代表的生成式人工智能的策略

ChatGPT的出現揭示了這樣一個事實：生成式人工智能正在模擬乃至比肩人類智能的道路上“狂飆”，它既能夠創造有利于生產方式、科研范式、教育形式、生活方式發生革命性重塑的條件，又可能滋生和引發法律、思想和社會風險。隨著生成式人工智的進一步成熟和精進，其將帶來更為重大的機遇和愈加復雜的挑戰，我們既不能坐等觀望，放任自流，也不能因噎廢食，盲目排斥，而必須堅持用其所長、防其所短的理念，積極探索趨利避害的可行策略，以促使生成式人工智能推動我國經濟社會發展、滿足人民美好生活需要、服務于以中國式現代化全面推進中華民族偉大復興新征程。

（一）自主發展生成式人工智能

習近平總書記指出，“加快實現科技自立自強，我們就一定能夠不斷提高我國發展的競爭力和持續力，在日趨激烈的國際競爭中把握主動、贏得未來”［39］。科技自立自強的水平在很大程度上影響著國家的綜合國力和國際地位，開辟一條自立自強、獨立自主發展生成式人工智能的科學途徑，防范進入依賴于其他國家的技術和產品供應的誤區，確保關鍵核心技術自主可控，是我們抵御科技霸權，利用生成式人工智能賦能國家建設、民族振興和人民自由全面發展的應然選擇。客觀而言，從GPT家族的進化歷程可知，自主發展生成式人工智能必然會涉及到長周期、寬領域、深層次的科技創新，這是難以憑借任何個人或者組織的一己之力即可完成的艱巨任務，因此，必須依照“新型舉國體制”的戰略安排［17］35，發揮社會主義制度集中力量辦大事的優勢，統籌調動各類資源，舉全國之力協同攻關。

其一，堅持黨的領導。“黨政軍民學，東西南北中，黨是領導一切的”［40］。從“兩彈一星”到“北斗導航”，從“神舟”問天到“嫦娥”探月，歷史與現實一次又一次證明，正是黨發揮了總攬全局、協調各方的領導核心作用，將財力資源、物力資源、人力資源廣泛集中于關系到國計民生的重要科技領域，才得以推動我國科技事業不斷取得巨大突破、實現偉大飛躍。自主發展生成式人工智能必須堅持黨的領導，圍繞黨面向世界科技前沿、經濟主戰場、國家重大需求、人民生命健康而作出的科技創新部署，對自主發展生成式人工智能進行系統謀劃和整體布局。

其二，協同“有效市場”和“有為政府”。在科技創新中，市場能夠通過價格機制反映其對技術和產品的需求，促使企業等多種微觀主體競相將資源投入技術升級、設備改進、工藝迭代等活動，釋放科技創新活力；政府則能夠彌補市場失靈，并強力組織跨地區、跨領域、跨部門的科技創新合作，實現重大戰略資源的科學配置和集約利用，集中各方力量突破科技創新困境。需要政府在增強組織力的同時，深化簡政放權，優化市場環境，為致力于推進生成式人工智能基礎研究和應用研究的市場主體提供優質全面的公共服務，從而在“有效市場”和“有為政府”的協調下，形成自主發展生成式人工智能的強大合力。

其三，加強人才隊伍建設。“人才是第一資源”［17］33，是新型舉國體制中進行科技政策執行、科技資源運用、科技難題攻關的關鍵主體。要延長和健全培養鏈，推動生成式人工智能人才接受一體化、貫通式的基礎教育、高等教育和繼續教育；要完善工資合理增長機制、股權激勵機制、榮譽獎勵體系等物質和精神激勵手段，激發生成式人工智能人才隊伍的主動性、積極性和創造性。

（二）積極應用生成式人工智能

馬克思指出，“全部社會生活在本質上是實踐的”［15］135。從實踐需求出發，繼而回到實踐、反哺實踐，是科技發展的應然邏輯。生成式人工智能有望促使社會發生有利于國家利益和人民福祉的變革，必須將其應用于實踐。

其一，落實“賦利—應用”機制。由于對生成式人工智能不甚了解或者信心不足，社會各界可能持有觀望態度。需要通過設立專項扶持資金、實行財政補貼、稅收優惠等利好政策等方式，吸引全社會應用生成式人工智能，減弱以生成式人工智能賦能生產、科研、教育等領域的阻力。

其二，落實“賦值—應用”機制。作為新興數字技術，生成式人工智能包含不穩定性因素，貿然進行大規模應用則可能引發諸多風險。要立足于客觀實際，經過廣泛協商與論證，確定試點對象、試點部門、試點環節，建立健全試點保障體系和試點評價體系，以高質量試點為大規模應用生成式人工智能提供可借鑒、可復制、可推廣的成功經驗。

其三，落實“賦智—應用”機制。要建立健全生成式人工智能技術服務專家團隊和平臺，提供技術答疑、方案可行性分析等智力支持，推進生成式人工智能在各行業各領域的廣泛應用。

（三）依法治理生成式人工智能

習近平總書記強調，“國無常強，無常弱。奉法者強則國強，奉法者弱則國弱”［41］。隨著ChatGPT在人們生活中的現身率和滲透率愈加提高，人機新關系日益形成、網絡新形態逐步浮現、社會新生態正在醞釀，必須完善生成式人工智能法律法規，為生成式人工智能的發展和應用劃定紅線、標明底線，以防其危害。

其一，堅持立法先行。“良法是善治的前提”［42］，要對因生成式人工智能的發展和應用而引致的現實性和潛在性違法犯罪風險的表現形式、形成原因、規約方式作出科學嚴謹的判斷、分析和論證，制定并優化關于生成式人工智能的法律法規，為生成式人工智能的發展和應用規劃出法制化軌道。

其二，堅持嚴格執法。防范以ChatGPT等生成式人工智能為侵犯知識產權、竊取信息、詐騙、危害意識形態安全等違法犯罪行為提供智能化輔助，切實加強對借靠生成式人工智能實施違法犯罪行為的責任主體的懲治，引導全體社會成員在應用生成式人工智能時能守住底線、不越紅線，不碰高壓線。

（四）加強對應用生成式人工智能教育引導

由于生成式人工智能可能帶來的深刻變革與系統風險，使得人類數字化生存的時空場域愈加充滿不確定性，只有從多維度入手向人們施加積極影響，才能夠幫助人們在由生成式人工智能引致的一系列變數中防御危機。

其一，強化思想引導。一要筑牢意識形態防線。敵對勢力及其代理人長期通過鼓吹“西方憲政”、宣揚“普世價值”，攻擊社會主義制度，抹黑黨、國家和政府形象等手段，對我國實施和平演變，而生成式人工智能可以為其創造更多便捷條件。需要立足于學校、社區、家庭、企業等基層單元，打通線上線下宣傳渠道，對意識形態安全防線進行全天候、全場域、全過程的構筑，防范和化解生成式人工智能帶來的意識形態風險。二要完善社會主義核心價值觀教育。從優秀傳統文化、紅色文化中挖掘教育資源，利用VR、AR、XR等數字技術創新教育形式，依托新興媒體開拓教育途徑，推動社會主義核心價值觀教育日常化、生活化、具象化，給予人們以正確的價值指引，防范生成式人工智能的價值觀陷阱。

其二，強化綜合素質建設。一要切實加強對青少年創新意識、抽象思維、創新能力的培養，切實提升就業能力，防范被生成式人工智能替代的失業風險。二要切實加強心理建設，培養理性平和社會心態，防范和化解因生成式人工智能加劇的極化思想與極端行為。三要切實提升工程倫理素質，在應用生成式人工智能時心有畏、言有戒、行有止，防范異化，做“情”“理”耦合、“真”“善”融合、“天”“人”和合、“知”“行”結合的時代新人。

五、余論

在深度學習、人類反饋強化學習等先進技術的支持下，經過針對海量數據的預學習和訓練，大型生成式人工智能語言模型ChatGPT應運而生，其憑借著可以保障人機進行連續性對話、向用戶發出主動性追問以尋求更多信息、以“人化”而非機器化的模式進行自然語言文本生成、“記住”用戶生產的內容等特點，標志著生成式人工智能在自然語言處理方面達到新的高度。事物普遍具有兩面性，擁有強大的自然語言處理能力的ChatGPT，既催生了變革的希望，又引燃了風險的導線。一方面，ChatGPT有望促進生產方式、科研范式、教育形式、生活方式發生革命性重塑，為人類社會輸送前進動力；另一方面，ChatGPT可能因滋生法律問題、思想問題、社會問題，陷人類社會于不利境地。ChatGPT的出現證明了，生成式人工智能正在不斷發展成熟，并同人類社會發生緊密嵌合，只有積極探索趨利避害的可行路徑，才能夠促使生成式人工智能賦能以中國式現代化全面推進中華民族偉大復興的新時代新征程。一是需要在新型舉國體制的戰略安排下，堅持黨的領導、協同“有效市場”和“有為政府”、加強人才隊伍建設，匯集舉國之力以推進自主發展生成式人工智能；二是需要堅持實踐導向，通過落實“賦利—應用”機制、“賦值—應用”機制、“賦智—應用”機制，吸引和支持全社會在生產、科研、教育等領域積極應用生成式人工智能；三是需要堅持立法先行、嚴格執法，依靠法律法規為生成式人工智能的發展和應用設置邊界；四是需要強化思想引導和強化綜合素質建設，引領全民有效應對生成式人工智能帶來的諸多風險。生成式人工智能的發展并沒有一個確定的終點，這意味著，在其影響下人類社會的方方面面將發生持續的嬗變，我們必須對此保持關注并跟進研究，以便對生成式人工智能引發的新機遇和新挑戰作出及時而有效的回應。

參考文獻：

［1］GARTNER.5 impactful technologies from the Gartner emerging technologies and trends impact radar for 2022［EB/OL］.（2021-12-8）［2023-4-1］.https：//www.gartner.com/en/articles/5-impactful-technologies-from- the-gartner -emerging-technologies-and-trends-impact-radar-for-2022.

［2］ CHATTERJEE J，DETHLEFS N. This new conversational AI model can be your friend， philosopher， and guide and even your worst enemy［J］. Patterns （New York）， 2023， 4（1）： 100676.

［3］ VAN DIS E A M，BOLLEN J， ZUIDEMA W，et al.ChatGPT：Five priorities for research［J］.Nature，2023，614（7947）：224-226.

［4］ KUNG T H， CHEATHAM M， MEDENILLA A，et al. Performance of ChatGPT on USMLE： Potential for AI-assisted medical education using large language models［J］. PLoS Digital Health， 2023， 2（2）： e0000198.

［5］李崢.ChatGPT爆火出圈，國際政治的“算法時代”即將到來？［EB/OL］.（2023-02-20）［2023-02-25］. https：//m.thepaper.cn/newsDetail_forward_21956683.

［6］朱光輝，王喜文.ChatGPT的運行模式、關鍵技術及未來圖景［J］.新疆師范大學學報（哲學社會科學版），2023（4）：113-122.

［7］令小雄，王鼎民，袁健.ChatGPT爆火后關于科技倫理及學術倫理的冷思考［J］.新疆師范大學學報（哲學社會科學版），2023（4）：123-136.

［8］李佐文.語言智能的新發展與新挑戰［EB/OL］.（2023-2-20）［2023-2-24］. https：//tech.gmw.cn/2023-02/20/content_36377739.htm.

［9］鄧建鵬，朱懌成．ChatGPT 模型的法律風險及應對之策［J/OL］．新疆師范大學學報（哲學社會科學版）. https：//doi.org/10.14100/j.cnki.65-1039/g4.20230228.001.

［10］馬克思，恩格斯.馬克思恩格斯全集（第31卷）［M］.北京：人民出版社，1998：100.

［11］比爾·蓋茨.人工智能時代已經開始［EB/OL］（2023-03-23）［2023-03-25］.https：//mp.weixin.qq.com/s/pYjY_LT8I33YqCn415AUAA.

［12］馬克思，恩格斯.馬克思恩格斯選集（第2卷）［M］.北京：人民出版社，2012：2.

［13］馬克思，恩格斯.馬克思恩格斯文集（第8卷）［M］.北京：人民出版社，2009.

［14］張夏恒．ChatGPT的邏輯解構、影響研判及政策建議［J/OL］．新疆師范大學學報（哲學社會科學版）. https：//doi.org/10.14100/j.cnki.65-1039/g4.20230224.002.

［15］馬克思，恩格斯.馬克思恩格斯選集（第1卷）［M］，北京：人民出版社，2012.

［16］蒲清平，向往.元宇宙及其對人類社會的影響與變革［J］.重慶大學學報（社會科學版），2023（2）：111-123.

［17］習近平.高舉中國特色社會主義偉大旗幟 為全面建設社會主義現代化國家而團結奮斗——在中國共產黨第二十次全國代表大會上的報告［M］.北京：人民出版社，2022.

［18］郎楊琴，孔麗華.科學研究的第四范式 吉姆·格雷的報告“e-Science：一種科研模式的變革”簡介［J］.科研信息化技術與應用，2010（2）：92-94.

［19］維克托·邁爾－舍恩伯格，肯尼思·庫克耶.大數據時代：生活、工作與思維的大變革［M］.盛楊燕，周濤，譯.杭州：浙江人民出版社，2013：83.

［20］ STOKES J M，YANG K，SWANSON K，et al.A deep learning approach to antibiotic discovery［J］.Cell，2020，181（2）：475-483.

［21］蔣華林.人工智能聊天機器人對科研成果與人才評價的影響研究——基于ChatGPT、Microsoft Bing視角分析［J］.重慶大學學報（社會科學版），2023（2）：97-110.

［22］鐘秉林，尚俊杰，王建華，等．ChatGPT對教育的挑戰（筆談）［J/OL］．重慶高教研究. https：//kns.cnki.net/kcms/detail//50.1028.G4.20230301.1040.002.html.

［23］王佑鎂，王旦，梁煒怡，等.“阿拉丁神燈”還是“潘多拉魔盒”：ChatGPT教育應用的潛能與風險［J］.現代遠程教育研究，2023（2）：48-56.

［24］習近平. 論黨的宣傳思想工作［M］. 北京： 中央文獻出版社， 2020： 202.

［25］ TAYLOR JONES.Pause giant AI experiments： An open letter［EB/OL］.（2023-03-22）［2023-03-24］.https：//futureoflife.org/open-letter/pause-giant-ai-experiments/.

［26］馬克思，恩格斯.馬克思恩格斯全集（第1卷）［M］.北京：人民出版社，1995：187.

［27］余翔， 張潤哲，張奔，等.適應人工智能快速發展的知識產權制度研究［J］. 科研管理， 2021（8）： 176-183.

［28］ OpenAI. Terms of use［EB/OL］.（2023-03-14）［2023-03-24］.https：//openai.com/policies/terms-of-use.

［29］ ROSE J. OpenAIs new chatbot will tell you how to shoplift and make explosives［EB/OL］.（2022-12-2）［2023-02-25］.https：//www.vice.com/en/article/xgyp9j/openais-new-chatbot-will-tell-you-how-to-shoplift-and-make-explosives.

［30］中共中央文獻研究室.建國以來毛澤東文稿（第10卷）［M］.北京：中央文獻出版社，1996：194.

［31］馬克思，恩格斯.馬克思恩格斯文集（第5卷）［M］.北京：人民出版社，2009：22.

［32］藍江.生成式人工智能與人文社會科學的歷史使命——從ChatGPT智能革命談起［J］.思想理論教育，2023（4）：12-18.

［33］蒲清平，向往.AI虛擬男友青年女性玩家的擇偶觀：畸變、癥因與矯治［J］.中國青年研究，2022（4）：86-93，77.

［34］馬克思，恩格斯.馬克思恩格斯全集（第2卷）［M］.北京：人民出版社，1957.

［35］孫偉平.人機之間的工作競爭：挑戰與出路——從風靡全球的ChatGPT談起［J］.思想理論教育，2023（3）：41-47.

［36］伊萊·帕里澤. 過濾泡：互聯網對我們的隱秘操縱［M］.方師師，楊媛，譯北京： 中國人民大學出版社， 2020： 10.

［37］ JAMIESON K H， CAPPELLA J N. Echo chamber： Rush Limbaugh and the conservative media establishment［M］. Oxford： Oxford University Press， 2008.

［38］列寧.列寧全集（第55卷）［M］.北京：人民出版社，1990：182.

［39］習近平.習近平談治國理政（第4卷）［M］.北京：外文出版社，2022：34-35.

［40］習近平.習近平談治國理政（第3卷）［M］.北京：外文出版社，2020：16.

［41］習近平.在慶祝全國人民代表大會成立六十周年大會上的講話［J］.求是，2019（18）：4-15.

［42］中共中央宣傳部.習近平新時代中國特色社會主義思想學習綱要［M］.北京：學習出版社，人民出版社，2019：100.

Abstract：

ChatGPT developed by OpenAI has attracted lots of attention. ChatGPT， based on deep learning and reinforcement learning with human feedback， is a large generative AI language model， which benefited from pre-training concerning massive quantity of data， can understand users order and generate natural language. Compared with other AI language model， ChatGPT can carry out endless conservation with users， ask users for more information initially， generate human-like content and remember users generated content. As a masterpiece of generative AI， ChatGPT may become a lever to leverage the fourth industrial revolution through its powerful natural language processing ability， and may bring profound changes to human society， including： it may promote industrial transformation and upgrading， improve labor productivity， improve production tools， and optimize production decision-making by opening up a field for intelligent information processing to transform production methods; it helps to sort out research status， organize research ideas， process research data， and improve research results to transform research paradigms; it empowers the education subject， the education object， and the education process to transform education forms; it reconstruct labor life， consumption life， and spiritual life to transform lifestyles. The development of science and technology is a two-edged sword. ChatGPT will also bring us a series of risks and hidden dangers. It may breed legal issues such as intellectual property infringement， information theft， and fraud， breed ideological problems such as loosing ideological security defense lines， degrading independent thinking ability， and harming value shaping， and breed social problems such as unemployment of workers and increased probability of extreme events. To take advantage of generative AI represented by ChatGPT and make it benefit state building， national rejuvenation and peoples daily life， we should firstly adhere to a new system for mobilizing the resources nationwide to achieve breakthroughs in core technologies in key fields， collaborate with “effective markets” and “promising governments”， strengthen talent team construction， and mobilize the resources nationwide to develop generative AI independently; secondly， guided by practice， we should rely on the implementation of the empowerment-application mechanism to attract and support the active application of generative AI by the entire society; thirdly， we should strengthen legislation and law enforcement to regulate the development and application of generative AI; fourthly， we should reinforce the implementation of ideological guidance and comprehensive quality enhancement to help people cope with problems generated by generative AI.

Key words：? ChatGPT; generative AI; natural language processing

（責任編輯 彭建國）