ChatGPT走紅，但也帶來治理風險

湯景泰

ChatGPT是人工智能發(fā)展史上又一款現(xiàn)象級產(chǎn)品。此前，人工智能領域曾多次出現(xiàn)過類似情況。例如，1997年，IBM開發(fā)的深藍計算機在國際象棋的世紀大戰(zhàn)中打敗了當時的世界冠軍卡斯帕羅夫；2016年，谷歌開發(fā)的AlphaGo在與世界頂尖棋手李世石的五番對決中，以4:1的成績獲勝。

但此次推出的ChatGPT不同點在于，它超越了單一的游戲領域，讓各行各業(yè)的普羅大眾直接領教了一番人工智能的魅力攻勢。特別是ChatGPT不僅上知天文、下知地理，而且在文本生產(chǎn)、數(shù)據(jù)分析、代碼編寫、圖像生成等多模態(tài)話語領域均體現(xiàn)出讓人驚艷的可靠性、高效性與邏輯性，它以生產(chǎn)力工具的面貌突然出現(xiàn)在大眾面前，也因此產(chǎn)生遠超以往的社會震動。已有經(jīng)驗表明，人總是容易高估一年內(nèi)的短期變化，卻容易低估十年內(nèi)的長期變化。雖然ChatGPT發(fā)展為成熟的應用進入普通生活場景，仍需一定時日，但基于長期眼光來看，ChatGPT所帶來的風險并不會僅局限在個體層面，從社會緯度來看，這類人工智能產(chǎn)品或?qū)⒔o網(wǎng)絡社會治理帶來前所未有的挑戰(zhàn)。

從內(nèi)容質(zhì)量來看，“幻覺”（Hallucination）對真實性的污染使得未來的虛假信息治理面臨更嚴峻挑戰(zhàn)。所謂“幻覺”，指的是自然語言處理模型生成自然流暢，語法正確，但實際上毫無意義，或包含虛假信息的內(nèi)容，就像人產(chǎn)生幻覺一樣。作為人工智能領域最先進的產(chǎn)品之一，ChatGPT在底層數(shù)據(jù)與核心技術方面均為世界領先，特別是其核心的人工智能語言大模型在參數(shù)規(guī)模'上已經(jīng)達到千億級別，也使其具備優(yōu)秀的意圖識別與語言理解能力。但是因為數(shù)據(jù)質(zhì)量與技術的限制，它也難以避免幻覺現(xiàn)象。

幻覺問題導致一些網(wǎng)民在試用時發(fā)現(xiàn)，ChatGPT在交互中會生成不少事實性錯誤，有時對一些簡單問題也會一本正經(jīng)地胡說八道。Meta公司推出的大型語言模型Galactica主打科學研究領域的內(nèi)容生成服務，上線后也被發(fā)現(xiàn)部分生成內(nèi)容失實，三天后就遭下線。因此，紐約大學教授蓋瑞?馬庫斯認為，盡管ChatGPT能夠生成合乎語言邏輯的內(nèi)容，但這些內(nèi)容本身并不一定真實。在隔行如隔山的今天，這種似是而非的內(nèi)容對非專業(yè)用戶具有極大的迷惑性。再加上隨著現(xiàn)代科學的蓬勃發(fā)展，科學技術的先進性與權威性已經(jīng)深度捆綁，并植入到了大眾的腦海之中。ChatGPT也可以利用這種認知慣性，裹挾著科學之威，在潛移默化中影響對特定問題的社會認知。

從信息生產(chǎn)與傳播角度來看，ChatGPT還實現(xiàn)了傳播模式的升級。就互聯(lián)網(wǎng)的內(nèi)容生產(chǎn)模式而言，無論是最初的PGC（專家生產(chǎn)內(nèi)容），還是后來大行其道的UGC（用戶生產(chǎn)內(nèi)容），內(nèi)容生產(chǎn)的主體都是人，但以ChatGPT等為代表的應用卻帶來新的AIGC時代(AI生產(chǎn)內(nèi)容）。與此前的模式相比，AIGC實現(xiàn)了傳播主體、內(nèi)容與媒介的深度一體化，標志著基于互聯(lián)網(wǎng)的深度媒介化進入到一個新階段。媒介化是一個宏觀層面上的概念，是對媒介效果的宏觀社會效應的一種延展，其根本點在于以此概念來理解媒介所帶來的復雜社會后果。已有研究表明，媒介化是“所有社會進程中的一個獨特維度”，媒介化學派代表性人物弗里德里希?克羅茨甚至將媒介化視為可以塑造交往形態(tài)和歷史進程的“元進程”。從這個角度來看，ChatGPT就不只是作為一種中立性和工具性的中介存在于治理體系之中，而是會成為不同利益、立場的群體進行互動的平臺和交往場域，并以其內(nèi)在的技術邏輯改造傳統(tǒng)的權力運行邏輯，改變已有的權力結構，對現(xiàn)實社會中的利益博弈施加內(nèi)在影響，從而產(chǎn)生廣泛且深刻的影響。

例如，雖然ChatGPT仍在試用階段，但眾多社會從業(yè)者體驗之后都感到可能被替代的擔憂。關鍵是ChatGPT還處于持續(xù)更新的狀態(tài)中，可以想見，那些擔憂并非杞人憂天，《人類簡史》的作者赫拉利所預言的大規(guī)模“無用階層”的出現(xiàn)也并非危言聳聽。雖然技術的每一次更新都會創(chuàng)造新的勞動就業(yè)機會，但落到個體的角度，卻存在各種可能的結果。由技術發(fā)展帶來的系統(tǒng)性、結構性失業(yè)問題，對任何國家而言，都是不得不防的社會風險。

這還僅僅是ChatGPT對勞資若系可能造成的影響。一從技術麥展的邏輯來看，賦能會導向賦權，ChatGPT延伸了個體的信息生產(chǎn)與傳播能力，也會因此激發(fā)社會行動者達權通變的意愿，利用相關技術與工具拓展各類權力訴求，這又可能帶來權力格局的深度調(diào)整。特別是在國際緯度，以ChatGPT為代表的人工智能與國家的信息安全、經(jīng)濟發(fā)展、社會穩(wěn)定等問題息息相關，未來很可能成為大國競爭的戰(zhàn)略工具。屆時，個別國家以其技術優(yōu)勢獲得更大的霸權優(yōu)勢，將成為全球網(wǎng)絡治理中的新難題。

在現(xiàn)代社會，各類新技茉一度被視為“解蔽世界的力量”而被寄予厚望，但歷史卻多次展現(xiàn)了事與愿違的結果。面對以ChatGPT為代表的人工智能技術可能帶來的治理風險，我們當然不能以“用勺子挖運河”的思維一禁了之，也沒必要恐慌焦慮，但是應樹立完善的技術發(fā)展與應用觀念，警惕激進主義傾向，審慎對待技術的采用和相應產(chǎn)業(yè)的政策制定，防止技術在利益的裹挾，下無序應用。（作者是復旦大學新聞學院教授）