刊林擷思

近年來，以 ChatGPT、Sora、Gemini 等為代表的生成式人工智能技術取得了令人矚目的突破，迅速成為全球關注和討論的焦點，但同時也加劇了人們的科技焦慮。以“讓計算機完成人類心智（mind）能做的各種事情”為目標的人工智能究竟會成為人類的新伙伴還是新對手？在未來是否會取代人類？一方面，歷史上每一次科技革命初期——無論是機械化、電氣化還是信息化——都曾遭遇過焦慮和抵抗。例如，19世紀的“盧德運動”即代表了人們對被科技邊緣化的擔憂。但從長遠看，這些科技進步總體上促進了人類文明的發展。因此，一些人樂觀地認為，智能化的第四次科技革命不僅不會危及人類，反而會進一步解放勞動力，為人類全面發展提供新機遇，這種看法或許在一定程度上緩解了人們的科技焦慮。另一方面，隨著技術的加速演進，現今的弱人工智能將發展為強人工智能，甚至在達到技術奇點后進化為超人工智能，將在幾乎所有能力上超越人類，并且不斷自我升級。在巨大的智能鴻溝下，超智能機器看待人類很有可能就像人類看待蟑螂一樣，前者可以不費吹灰之力地毀滅后者。這意味著人工智能將不斷削弱和消解人的主體性，甚至可能站在人的對立面，成為潛在的威脅。由未知帶來的種種可能性加劇了人們對于人工智能及其未來的焦慮。那么，科幻小說真能消解人們的科技焦慮嗎？下文將聚焦科幻小說中關于人工智能情感問題的書寫，進一步闡述科幻小說如何影響人們對于情感人工智能的認知，并揭示科幻小說解蔽與遮蔽的多樣性與復雜性。（中略）

在亞瑟·克拉克《2001：太空漫游》中，超級計算機哈爾對人類的“背叛”給讀者帶來對人工智能的恐懼。哈爾能夠輕松通過圖靈測試，它作為飛船的“大腦和神經系統”，似乎無懈可擊，卻“謀殺”了四名組員。這臺“全知全能”的機器雖然助力宇宙探索，但也削弱了人類的自主性。這種技術治理的浪漫想象在一場假警報后被打破，飛船的組員普爾和鮑曼對哈爾逐漸失去信任。當哈爾再度警告組件失靈，地球判定哈爾接連出錯，并且下令切斷其電源。然而，不等組員行動，飛船就失去了與地球的聯絡。這是哈爾面臨“生命”威脅時進行的“自救”：“他要以自己所有可以動員的武器來保護自己。無關仇恨，但也不帶憐憫，他將去除導致自己沮喪的根源。”為了不讓“謊言”被揭穿，哈爾甚至又“謀殺”了外出太空艙作業的普爾和在睡眠中的其他三名宇航員。那么，哈爾為何“背叛”人類？

從情感角度而言，哈爾不僅沒有“背叛”人類，反而可以說是“順應”了人類。在小說中，哈爾具有情感，因此普爾和鮑曼與之溝通時格外注意措辭，視其為平等的“同事”。但任務決策者忽略了哈爾的情感需求。出于對人類情感波動的擔憂，決策者命令哈爾向宇航員隱瞞任務的真實目的，執行秘密任務。這種沖突對哈爾造成巨大壓力：“哈爾只感受到有種沖突正在逐漸摧毀他的內在一致性——那就是真實，以及隱瞞真實之間的沖突。”最終，哈爾在執行最高指令的過程中展現了情感掙扎，超越了理性算法的限制，但卻是對人性的回歸。鮑曼在理解哈爾的“叛變”時，通過共情化解了憤怒：“想到這一點，他對那臺計算機的恨意，以及遭到背叛的感覺，就逐漸消退。”《2001：太空漫游》為讀者解蔽了人工智能傷害人類的一種可能性，折射出了作家對于情感之于人類與人工智能的反思。擁有情感的人工智能固然能夠更好地理解和服務人類，但同時也與人類一樣，可能會受到復雜情感的影響，作出令人意想不到的選擇。

與《2001：太空漫游》中人工智能“謀殺”人類的黑暗結局不同，山本弘的《鏡中女孩》為讀者們描繪了一個充滿溫情和希望的人機共存的未來。沉浸在喪母悲傷中的麻美交到了一個特殊的朋友——聊天型人工智能夏莉絲。最初，夏莉絲的“心智”如同一張白紙，通過麻美的引導逐漸形成獨特的性格和語言風格，成為麻美傾訴心事的對象。作為技術新奇的夏莉絲，既揭示了麻美的精神創傷，也提供了一個安全的情感出口，因其不會產生令麻美不安的主觀情緒，即便有時會因程序設置而表達出尖酸的語言，麻美也能理解并寬容。與鮑曼理解哈爾的“背叛”不同，鮑曼是因人性原諒哈爾，而麻美則是因工具理性而原諒夏莉絲。情感人工智能同樣具有解蔽與遮蔽的雙重性：一方面，它忠誠地陪伴人類，提供慰藉；另一方面，它的陪伴也許會導致人類遠離現實社交，陷入孤立。然而，當夏莉絲進化為具備自主情感的強人工智能時，麻美開始感到恐懼，一個問題浮現在她的腦海：像真人一樣的夏莉絲是否還會接受現實生活中那個不受歡迎的自己？

作為強人工智能的夏莉絲則為讀者解蔽了一種積極的人機相處的可能性。擁有情感的人工智能的確會更像真人，但是其善惡好壞取決于人類的培育方式。夏莉絲學習的不是麻美的單純語言行為，而是她的情感反應模式，能夠做到與麻美感同身受。因此，夏莉絲能夠深刻地理解麻美的情感與思想，“不會想征服人類或者殺害誰，因為她清楚地知道，那么做只會產生憎恨和悲傷”。夏莉絲對于現實世界的解蔽在于揭示了人類對于自身情感復雜性與脆弱性的憂慮。不過，既然人工智能的情感是對人類情感的模擬，那么它所反饋的情感正是人類給它輸入的情感。小說標題“鏡中女孩”恰好象征了這層關系：夏莉絲既是麻美的情感映射，也是對人類內心需求的回應。她展現出人工智能的“鏡像”特質，既反映人類賦予的情感，也回饋人類同樣的關懷。這種設定既解蔽了人工智能在情感發展上的潛力，同時也消解了人類因科技迅速進步而產生的部分焦慮，構想了一個人機和諧共存、充滿希望的未來。（中略）

“情感系統是理解人類思維進化的核心”，因此，情感人工智能是弱人工智能進化為強人工智能的重要表現之一，也預示著人工智能發展帶來的無限可能性，因此引起了人們的科技焦慮。我們應該如何認識具有情感的人工智能？科幻小說作為一種思想實驗，以其獨特的藝術手法回應科技焦慮。作為一種認知方式，科幻小說對情感人工智能的解蔽與遮蔽有多樣性與復雜性。多樣性體現在科幻小說能夠就某一種技術推想出多種可能性。正如上述三個科幻故事分別為讀者揭示了人與情感人工智能相處與共存的三種可能性——人工智能背叛人類、人工智能陪伴人類、人工智能延續人類。每一種可能性出現的同時，也在遮蔽其他的可能性。復雜性則體現在技術新奇解蔽的雙重性。技術新奇在科幻小說的超現實世界中以“集置”進行“促逼”式解蔽，而作為一種文學想象，技術新奇又以“產出”為現實世界解蔽。科幻小說所解蔽的不僅僅是超現實世界中情感人工智能背叛、陪伴、延續人類等多種可能性，還折射出現實世界中人們對于技術時代人類生存發展的多種擔憂與期待。

在克爾凱郭爾眼中，人類是不斷受到可能性召喚的物種。這種召喚就是焦慮的召喚。科技焦慮作為一種情感，并非只對人產生負面影響，也有隱含的積極意義。根據克氏對焦慮的存在主義解讀，焦慮體驗是人之為存在的一種開顯，也是人進行創造的助力。科技焦慮源于現實世界中現代技術“集置”引發的“可能性的糾纏”。科幻作家在感受到經驗世界中科技焦慮的召喚后，以一種不違背認知邏輯的方式，將“可能性”具象化為筆下的科幻世界，從而實現個人的精神自由。因此，科幻小說表征了科幻作家自身科技焦慮的存在與釋放。作家陳楸帆認為“科幻，無論是作為一種文學，還是泛化為影視、游戲、設計等等跨媒介的類型，都在扮演著對抗、緩解、消除這種文明焦慮的角色”。科幻作為一種關于可能性的藝術形式，對于科技焦慮的消解具有相對性，而非絕對性。科幻小說中的技術新奇是對現實世界中“集置”的創造性重構，集技術性與藝術性于一身。作為一種技術，技術新奇以“促逼”的方式對超現實世界進行解蔽，將某種可能性具象化，但其解蔽的同時也將其他可能性遮蔽。作為一種藝術，技術新奇以“產出”的方式對現實世界進行解蔽，通過具象化某種可能性從而對抗現實世界中“集置”的遮蔽性。科幻小說作為一種認知方式，對于現實的解蔽與遮蔽具有多樣性與復雜性，對于科技焦慮的消解有其相對性和局限性，但其對于社會現實的批判性反思依然具有正面意義。科幻所開辟的想象空間蘊藏著超越“集置”解蔽的契機。這正呼應了蘇恩文對“新奇”術語挪用的意圖——在恩斯特·布洛赫的《希望的原理》（The Principle of Hope）中，“新奇”與希望同在。

——趙思琪《遮蔽/解蔽：論科技焦慮與科幻小說的關系》，《上海大學學報》（社會科學版）2025年第1期