從人機互動到“人際”互動？GPT帶出的主體性問題

于 海

（復旦大學 社會發展與公共政策學院，上海 200433）

人機互動：人長成超人，還是淪為廢人？

人機互動并非新概念。70 年前，當諾伯特·維納撰寫《人有人的用處》時，“他正處于將機器和動物簡單地理解為物理過程的時代的末尾，以及將機器和動物理解為計算過程的我們當下這一代的開端”［1］78。創立控制論的維納認識到，人對機器發指令，跟人對人發指令本質上并無區別。在這個剛剛開始的通信時代，理解通信及其過程才能理解社會，因此，“人與機器之間、機器與人之間以及機器與機器之間的消息，勢必要在社會中占據日益重要的地位”［2］2。維納時代的人機對話采用的是工程語言，而非GPT上人機對話的自然語言，人機對話對維納而言更多的是一種比喻。此外，控制論關心的是在通信中與信息的組織性降低及含義受損的自然趨勢作斗爭，即跟吉布斯所講的增熵趨勢作斗爭，并非今日生成式語言模型的人機開放性互動。在維納的人機系統中，機器結構只是對人類生理結構的復制，因此，機器智能只是人類智能的復制。他不擔心機器智能是否會超越人類，而是關心機器系統的價值觀如何與人類保持一致。“當個體人被用作基本成員來編織成一個社會時，如果他們不能恰如其分地作為負著責任的人，而只是作為齒輪、杠桿和連桿的話，那即使他們的原料是血是肉，實際上和金屬并無什么區別。”［2］166他先知般地告誡人類不能淪為機器的一個元件。人機對話的關鍵是：“除非我們問題提得正確，我們絕不會得到正確的答案的。”［2］166

GPT的人機互動發生在兩個維度。其一是工程師和機器的互動，基于人工神經網絡的深度學習和大語言模型訓練，是機器所謂自主學習和自主成長的機制。強化學習甚至沒有預先輸入數據，機器仍能通過學習知道哪些變量是重要的，以及如何對它們進行加權以達到人類設定的目標。但無論是大數據投喂還是強化學習，都是人類與機器基于規訓①“規訓”是福柯提出的概念，原指掌握話語權的人對人的預先訓練，這里轉用的目的在于使機器有用并馴服。的互動，源自維納的價值對齊要求更是強迫機器價值與人類價值一致。其二是用戶與機器的互動，以自然語言對話展開的人機互動，既是機器向各色人等學習的過程，也是人類向幾乎全知機器學習的過程。

人機互動引出的主體性的第一個問題，關乎人是成為尼采式的超人，還是赫拉利在《未來簡史》中所預言的廢人。

GPT超強的能力，是疊加數據、算法和算力的結果。喬姆斯基雖對GPT批評多多，但也肯定其成功的機制在于通過獲取大量數據，在其中搜索規律，能越來越熟練地生成統計上可能的輸出——比如看似人性化的語言和思想。這些程序可被譽為通用人工智能地平線上的第一縷曙光。［3］有人戲言，利用GPT，聰明的人會變杰出。GPT將昂貴的知識真正平民化，不再需要頭懸梁錐刺股，人對自己及環境都能夠獲得最充分的信息，并知道最好的行動方案，真正實現“認識你自己”，從而不必等到70歲才“隨心所欲而不逾矩”。如此，人類是否真正進入了人人都是英雄豪杰的時代？

然而，得力于AI 而“認識你自己”，更可能是AI 比你更了解你自己。由人類作者寫的臉譜網算法研究給出的預測是，人類若遇重大人生抉擇，如要選擇從事何種活動或選擇職業道路甚至交往對象，可以考慮放下自己心理上的判斷，依賴計算機所做的選擇，“這種數據導向的選擇，有可能會讓人類生活得更好”［4］306。GPT-4 在各種專業和學術考試上已然表現出明顯超越人類水平的能力，例如，在模擬律師考試中，分數排在應試者的前10%左右。而AI 診斷系統所了解的病例和治療方案遠超多數醫生。面對不斷迭代而表現更強的AI，人們惶恐它將橫掃多少工作崗位。赫拉利說人工智能將終結個人主義，因為多數人變得無用而成廢人。［4］294

答案或許不是在超人或廢人之間二選一，而是赫拉利說的少數掌控算法的人“神機妙算”，從智人成為智神，而多數人因高度依賴系統而淪為多余的人。近代科學和哲學的發明，曾讓人類經歷過四重自戀創傷：哥白尼日心說，令人類居住的地球從中心滾到一邊，此系人類在宇宙中位置的一次失落；達爾文進化論，把阿米巴和靈長類連成一線，此系人類在生靈世界的一次下凡；馬克思的歷史唯物論，恢復物質（生產）對于精神的本體地位，此系人類在社會世界的一種還俗；弗洛伊德的精神分析說，把人之初級本能定義為人之高級行為的原始動力，可視為人類在心理世界的一種認祖。人工智能在各項人類事務上比肩人類甚至超越人類的強悍表現，是否構成21 世紀人類正在遭遇并將繼續承受的新一重自戀創傷？馬斯克曾表示，人類恐怕只是數字超級智能的一段非常小的生物引導程序。他擔心的不是人類多數或成為廢人，而是人類全體的生死存亡。

人機互動：機器只是機器，抑或成為主體？

人機互動引出的主體性的第二個問題是：機器是否為一主體，或只是一工具？目前的智能機器雖表現出讓人驚艷的能力，但還不具有自我意義上的主體性，但我們仍可用“主體性”概念來理解AI 最新一波的躍進。上文關于人機對話的專家/機器維度和用戶/機器維度的說明，已經透露出機器的擬主體性，即它雖還沒有本體論意義的主體性，但有互動論意義的主體性。機器本身不直接顯露自主性，但一方面，在互動過程中，機器會影響進而誘導使用者在一些事務上的認知方向，形成慣性，甚至在使用者興起違背道德或邪惡意念時，幫助設計一個完美的實踐路徑，達成“犯罪者”所期待的“黑暗榮耀”。［5］另一方面，被人類價值調教過的AI，或也會在使用者不端心思剛剛露頭時，便中斷對話，拒絕協助用戶策劃惡意方案。此時的機器表現了某種人際互動中才有的道德主體性。

GPT表現的這種擬主體性，是傳統人機對話從未有的，進而也引出人際對話一樣的人機對話，在某種意義上會被當真視為人際對話的問題。

從哲學人類學上看，當下AI 邁不過兩個坎：主體的感受質和主體的創造性。AI 在人機對話中表現的主體性還只是擬主體性，即并非本體論意義上的主體性，而是互動論和功能論意義上的主體性。

迄今，世界上只有人類一個主體，這雖然是人類的自我加冕，但事實上的確沒有第二個物種有資格和能力與人類爭冠。社會學的主體間性（intersubjectivity）概念只用于人類關系，而不會用于人和其他動物或非生物之間的關系，在人類主體看來，它們都只是客體。

主體性的一個主要特質是主體的感受質。感覺、感情都是主體感受質的主要表現。以顏色為例，宇宙是無色的，顏色是主體的主觀感受。物理學能告訴我們，顏色是電磁波在神經纖維鍵盤上演奏的結果，卻不能解釋我們當下的色彩感是怎么回事。“感時花濺淚，恨別鳥驚心”，離愁是文人書寫得最多的人類感受。持還原論立場的神經科學家總想把人的一切主觀感受全都還原為神經元的物理化學活動。對一次長久的、令人心碎的分離，他或能觀察到來自大腦的傳出脈沖電流，通過運動神經纖維，傳導至手臂的某些肌肉（對應手臂不情愿地顫抖著告別）；脈沖電流還會引起某種淚腺封閉，蒙上悲傷的雙眼。但正如物理學家薛定諤所斷言的：“無論生理學發展到多么先進的水平，在這條從眼睛通過中樞神經傳至臂膀肌肉和淚腺的路上，在任何地方你都看不到性格特征，看不到可怕的傷痛，看不到心中的擔憂，雖然它們的存在你是如此肯定，仿佛是你的親身體驗，而事實上你也確實體會到它們。”［6］在用碳基細胞組成的神經網絡上都讀不出主體的感受，我們還能指望在用硅基材料組成的人工神經網絡上讀出感受嗎？簡言之，AI 仍沒心沒肺。因此，戰勝卡斯帕羅夫的“深藍”并不快樂，而柯潔卻難以排遣被阿爾法狗碾壓的郁悶。

創造性是被人類特別珍視的主體性特質，尤其是表現在科學和藝術上的創造性。智能機器在藝術上的成就，特別喚醒了人的主體性危機意識。

在音樂家大衛·科普（David Cope）用他編寫的“音樂智能實驗”程序EMI 創作了讓發燒友和專家都真假難辨的肖邦和巴赫風格的樂曲之后，《哥德爾、艾舍爾、巴赫》一書的作者，著名的認知科學家侯世達說自己被嚇壞了。在侯世達的學生米歇爾看來：“他不是擔心人工智能變得太聰明、太有侵略性、太難以控制，甚至太有用。相反，他擔心的是：智能、創造力、情感，甚至意識本身都太容易產生了，這些他最為珍視的人性特征和人類精神，結果只不過是‘一套把戲’，一套膚淺的暴力算法就可以將其破解。”［7］10侯世達承認：“如果這種無限微妙、復雜且情感深厚的思想會被一塊小小的芯片所簡化，這會摧毀我對人性的理解。”［7］311

但研究者指出，無論是“深藍”，還是EMI，都還不具有讓侯世達感到威脅的人類特有的創造性。2009 年諾貝爾化學獎獲得者拉馬克里希南說，打敗卡斯帕羅夫的不是“深藍”，它只是一架笨重的機器，“深藍的勝利是幾百名程序員戰勝卡斯帕羅夫一個人的勝利”［1］225。米歇爾認為，EMI 并不真正理解其所生成的音樂作品，無論是音樂概念，還是情感表達。因此，EMI 也無法判斷自己作品的質量，這是音樂家科普的工作。藝術是人類引以為傲的作品，因為它可以說最能區別人類與其他生物之間的不同。米歇爾補充道：“讓我們感到自豪的不僅是我們可以創造藝術，還有我們對藝術賞析的能力、對其感人之處的理解以及對作品傳遞的信息的體會。這種賞析和理解的能力對觀眾和藝術家來說都是必不可少的，沒有這些，我們就不能說一個生物是有創造力的。”［7］307-308

以上主體性的感受質、創造性和理解力等的定義，當然都是基于人類立場的觀念。問題是，如果人工智能并非人類智能的直接抄寫，那么，AI 的理解及其創造性也不必復制人類的理解和創造性。人類的理解是概念驅動，通過經驗建立因果推斷，使用極簡的模式和極少的數據，加上自由聯想和直覺。今天的生成式人工智能，幾乎沒有一樣對得上。沒有概念驅動，沒有因果聯系，甚至沒有正式的編程，更沒有實在世界的經驗，只是借助海量的數據和強大的算力，通過復雜的統計相關性計算就能夠獲得近乎完美的模型表現。專家們對大型語言模型（LLMs）智能是否類人智能的分歧表明，我們基于自然智能的傳統觀念是不夠充分的。如果LLMs 和其他模型成功地利用了強大的統計相關性，我們或可認為它繞開了人類的理解模式，難道不也可以被視為一種新興的“理解”能力？一種能夠實現非凡的、超人的預測能力。“比如DeepMind 的AlphaZero 和AlphaFold 模型系統 ，它們似乎分別為國際象棋和蛋白質結構預測領域帶來了一種來自‘外星人’的直覺形式。”［8］人類對自己大腦的工作原理并不清楚，人類專家對最新AI 的工作原理一樣不甚清楚。如果說程序員明確理解傳統編程輸入如何以及為何與輸出相關，那么，大型AI 系統就相當不同。AI 專家說：“我們并沒有真正編寫它們的程序——我們是培育它們，而隨著它們成長，它們的能力會急劇躍升。你添加10 倍的算力或數據，突然間系統的行為就大不相同了。近期的一個例子是，隨著OpenAI 從GPT-3.5 擴展到GPT-4，這個系統在律師資格考試中取得的成績排名從最末10%提高至頭10%。”［9］這種隨系統數據和模型參數增加而來的能力“涌現”，豈非大型AI 系統的“創新”？雖然機器并無創新意識和自覺。AI 在特定任務方面趕上甚至超過人類的表現，讓多數人工智能專家不再懷疑它已具有“創造性”。柯潔說打敗他的AlphaGo 下出了人類棋手從未下過的步子，他見證了機器從“像人類一樣下棋”到“像棋神一樣下棋”的自我進化。

人機互動如何被人視為“人際”互動？

如今，人工智能既強悍又人性化的表現，讓普通人很難僅僅視其為一個工具。從GPT上抄作業、抄論文的學生，是把它當成授業之師還是學霸同學？當不少程序AI 都能寫得又快又好時，程序員是得意于獲得一個得心應手的助手，還是擔心面臨一個將淘汰他的對手？看了一圈醫生，問題仍沒有得到解決的病患，最后通過與AI 的互動而獲得正確診斷，這類互動豈非用戶與醫術更高明的專家的互動？如果一個畫師給GPT打下手，給AI 作品修圖，那么，畫師是主體，還是AI 是主體？主客體在這里是否已顛倒？雖然修圖要求的技術或許更高，但在人機關系上，畫師多少失去了重要性。

GPT的英文是“generative pre-trained transformer”，意為生成式的預訓練轉換器。機器的學習是在人類和機器老師的訓練監督下進行的。工程師告訴我們，訓練機器如同訓練青少年一樣困難和緩慢。［1］24這意味著，越來越人性化的計算機系統實際上也是一個類社會化的產物。問題是，誰不是GPT？社會化就是父母、老師、朋友、同事、上級、機構等，對人做預先訓練，讓受訓者逐步掌握一套說話的模式、做事的模式、價值和規范的模式，然后可在不同場景舉一反三生成恰當的話語和行為。但人的預訓練深受種種限制，如家庭、階層、出生地、工作機構、人種等，跟大語言模型訓練出來的GPT-3、GPT-4 及未來的GPT-n，在數量上不可比擬。當我們說GPT是人對機器的類社會化過程，這是人機關系具有人際關系的底層邏輯。但機器終究將無所不知、無所不能，成為通用人工智能甚或超級智能，那時恐怕會有一個反向的社會化，即人被GPT社會化，或曰人被AI 化，這或是可以預測和想象的前景。這是另一種互文性，另一種互動性，或人機的交互社會化。我擔心的不是發明、改進和掌握AI 的技術精英，而是蕓蕓眾生，或常人主體。AI 醫療系統已經強過多數醫生，不被AI 取代的醫生必將更多地向AI 請教而非相反。AI 戀人，若被發明并合法化，其施愛的本領和善于與人相處的性情，多半優于毛病多多的人類戀人。常人會被各種績優表現的AI 降伏，這樣演化出的“人際”關系勢必侵蝕人的主體性。

至于工程師們，當他們決心要讓機器用人的自然語言跟人類對話時，想到的何止是語言？還有思維、邏輯、價值等，都要像“人”一樣，他們也的確是把機器當作匹配人的主體來訓練。從人機對話到人際對話或不成問題。但當機器日益強大且勢不可當，真正嚴重的問題，已經不再是人類主體是否還能匹配機器主體，而是人類主體是否還能控制機器，不致被機器降維（成為AI 的客體），或被機器所滅。

年度《AI 現狀》報告的作者之一伊恩·霍格思認為，三個字母的首字母縮略詞不能體現AGI（通用人工智能）將產生的巨大影響，因此他實事求是地稱其為“上帝般的AI”。他認為，這可能是一種人們無法控制或理解的力量，可能導致人類被淘汰或毀滅。［9］

“上帝般的AI”的風險其實從一開始就被AI 公司的創始人所了解。DeepMind 首席科學家沙恩·萊格早在2011 年就將AI 對人類生存構成的威脅描述為21 世紀的頭號風險，人為設計的生物病原體緊隨其后排在第二位。OpenAI 的奧爾特曼也曾坦率地說：“最糟糕的情形是——我認為說出這一點很重要——我們所有人迎來末日。”

AI 可能導致人類末日的一個例子，是加州大學伯克利分校計算機教授斯圖爾特·拉塞爾在2021年的BBC 廣播講座中提出的。設想聯合國請一個通用人工智能幫助去除海洋酸化。聯合國深知目標設定不當的風險，因此要求副產品無毒且不會傷害魚類。作為回應，AI 系統提出了一種實現所有設定目標的自我增殖的催化劑。但隨后發生的化學反應將會消耗大氣中四分之一的氧氣。“我們都會緩慢而痛苦地死去。”拉塞爾總結道，“如果我們將錯誤的目標輸入一臺超級智能機器，就會造成一場我們注定會淪為輸家的沖突。”［9］

人機互動的末世前景，還有并不如此悲切的議論，我們可將之歸為人機互動的降維論，即人類將以達爾文主義的達觀，看著硅基生命以我們碳基生命為踏腳石而升維為地球的第一甚至唯一主體。讓我們來聽聽60 年前硬核科幻作家阿瑟·克拉克的預言：

未來世界最聰明的居民不會是人和猴子，而將是機器及今天的計算機的遙遠后代。現在的電子大腦完全是白癡，但將來就不會這樣了。它們會開始思考，最終它們會完全超越它們的創造者。這令人沮喪嗎？我不覺得我們應該這么想。我們取代了其他古人和尼安德特人，我們認為這是一種進步。我們認為，我們應該把這看作一種榮耀，可以成為高級生命的墊腳石。我懷疑有機或生物進化已經走到了盡頭，我們正處于無機或機械進化的開端，而它的速度將比之前的進化速度快幾千倍。［10］

火雞不會投票支持感恩節。人們多數也不會像克拉克那樣，大方地接受被機器替代的結局。無論是被淘汰還是被降維，都是人類主體性的末世。所以，有樂觀的專家設想智能技術將今日之“碼農”解放出來，使其變成明日之“智農”，成為“人機結合，知行合一，虛實一體”的“合一體”智慧員工。［7］XXVII這個設想是不是過于理想？

合理的前景，還是發明人機通信的維納提出的：人有人的用處，機器有機器的用處。也就是說，人和機器互動足矣！一定要走向“人際”互動，危矣！