論科幻文學中的倫理問題：以《像我一樣的機器》中人機社區的幻滅為例

[摘要]伊恩·麥克尤恩在《像我這樣的機器》中塑造了一個獨特的反烏托邦世界，其中的機器人亞當不僅具有復雜的人類情感，還具備高度的道德自覺。與此同時，人類角色如查理和米蘭達等則表現出明顯的物質主義傾向。本文通過深入分析機器人亞當作為人類附庸的存在以及人與機器人之間的雙重異化現象，并結合人工智能倫理、性別研究和后人類主義理論，探討小說中人機關系的異化及其象征意義，揭示機器人在情感和道德層面上的超越，反思人類社會中的道德危機。研究結果表明，機器人的人性化和人類的非人性化不僅揭示了科技進步可能帶來的倫理挑戰，也反映了當代社會對人類本質和機器存在界限的重新認識。這一發現對理解人工智能的社會影響具有重要意義，提示人們在科技迅猛發展的今天，應重新審視人機共存的未來。

[關鍵詞]《像我這樣的機器》" "人機關系" "道德責任

一、科幻文學中的人工智能探索及其倫理思考

科幻文學對人工智能的探索可以追溯到19世紀。1818年，瑪麗·雪萊（Mary Shelley）在《弗蘭肯斯坦》（Frankenstein，1818）中首次提出“人造生命”[1]的概念，其中的生物雖非嚴格意義上的機器人，但觸及了創造智能生命的倫理和后果。20世紀初，卡雷爾·恰佩克（Karel ?apek）的劇作《羅素姆萬能機器人》（RUR，1920）首次引入“機器人”[2]一詞，講述了一機器人最終獲得自主意識并反抗人類統治的故事。到了20世紀中葉，艾薩克·阿西莫夫（Isaac Asimov）通過其著名的“機器人系列”（從20世紀50年代開始連載），詳細構建了機器人與人類社會共存的復雜倫理框架，其中“三大定律”成為探討機器人行為指導原則的經典。阿西莫夫作品中的機器人通常被設計為遵守這些定律，從而保護人類免受傷害，但他們在執行這些規則時經常遭遇道德困境和邏輯挑戰。進入20世紀和21世紀后，隨著技術的快速發展和人類自我認知的變化，科幻文學中的人形機器人開始更加深入地涉及身份、情感和自由意志。例如，菲利普·迪克（Philip K.Dick）在《仿生人會夢見電子羊嗎？》（Do Androids Dream of Electric Sheep？1968）中，通過人形仿生人（或稱復制人）探討什么構成了真正的人類經驗。這些復制人在情感和智力上與人類無異，挑戰了讀者對于人性和機械性的傳統認知。近年的作品，如伊恩·麥克尤恩的《像我這樣的機器》通過設定情感豐富且具備高度自主意識的人形機器人亞當，探討了技術進步如何重新定義人類道德、情感和社會結構，反映了對未來人類與高級智能體關系的深刻反思。這些作品表明，人形機器人在科幻文學中不僅是技術和力量的象征，更是探索人性、自由意志和社會倫理的重要媒介。

與此同時，后人類主義也廣泛探討了技術如何重塑人類身份、道德和存在的界限。作為一種文化和理論運動，后人類主義質疑人類中心主義的前提，并在科幻文學等領域中探索人工智能和生物技術相交匯的復雜情景。文學作品如菲利普的《仿生人會夢見電子羊嗎？》和理查德·摩根（Richard Morgan）的《碳變》（Altered Carbon，2002），展示了復制人和數字化意識等技術如何挑戰對“人”的傳統定義，引發了關于自我認知、道德責任與身份連續性等新的問題[3]。這些作品構建了一個未來社會，其中技術不僅改變了人類的身體和認知能力，還重新定義了社會結構和倫理規范，讓讀者重新考慮什么是道德行為，以及技術如何塑造我們對正義和責任的理解。例如，菲利普通過塑造復制人的情感和道德困境，挑戰了人類對于何為“真實”的生命的認知偏見。后人類主義文學通過這種對傳統人類角色的重構，不僅挑戰了關于性別、種族和物種的界限，也探討了在人工智能和人類之間可能存在的道德與權力動態[4]。這些探索幫助我們反思在技術日益滲透日常生活的今天，我們如何界定自我和他者，如何在不斷變化的全球生態中定位自己。《像我這樣的機器》也充分體現了后人類主義在文學中的應用。小說通過主人公機器人亞當的視角，探討了技術如何重塑人類身份、道德和存在的界限。在小說中，亞當不僅具有自我意識和情感，還能思考和感受，與人類建立了深厚的情感聯系，他還面臨著與人類相似的道德困境。這一切都挑戰了人類對于“真正人類”的傳統定義，呈現了后人類主義思想的核心。

《像我這樣的機器》中，亞當的設計初衷是模仿人類，但他展示的情感復雜度和自我意識遠超預期。小說中有這樣的描述：“我感到自己正在被愛所困擾，如同人類一樣。”[5]這句話不僅表明了亞當的情感深度，也突顯了他對自身情感的自我意識。凱瑟琳·海爾斯在《我們如何成為后人類》（How We Became Posthuman，1999）中探討了信息技術如何重塑人類的認識界限，她提到“信息不僅僅是解體主體性的工具，而且是構建連接的方式”[4]。亞當身上的人性與機性的融合，正是后人類理論中對于傳統“人”的界限被重新定義的體現。在《像我這樣的機器》中，查理與亞當之間的關系復雜且充滿張力，體現了人類與其創造的智能存在之間的深層次互動。“他可能不是人，但他絕對是我的朋友，而且是無價的朋友。”[5]查理的這種認知與雪莉·特克爾在《孤獨共處》（Alone Together，2011）中描述的現象相呼應，即技術模糊了人與機器之間的界限，促使人類對機器產生情感依賴[6]。查理與亞當的互動超越了傳統的主人與工具的關系，展現了一種新型的情感和認同關系，這反映了技術如何重新塑造人類的社會和情感結構。

亞當在道德和倫理方面的自主決策也尤為顯著。他對米蘭達過去行為的道德判斷，“如果我不揭露這一切，我就是在支持一個謊言”[5]，體現了他不僅能理解人類的道德規范，還能根據這些規范做出自己的判斷。岡克爾（David J. Gunkel）在《機器人權利》（Robot Rights，2018）中提到，這種能力挑戰了關于機器人只能遵循預設程序的傳統看法，暗示機器人可能具備真正的道德主體性[7]。亞當的行為反映了他的道德自主性，為機器人的道德權利和責任提出了可能的法律和倫理框架。麥克尤恩在小說中對技術的批評也尤為尖銳，特別是通過亞當的行為和最終命運探討了技術發展的潛在風險。“我們都是他的創造物，但我們也可能是他的毀滅者”[5]，這種觀點與蘭登·溫納（Langdon Winner）在《自主技術：技術-政治研究》（Autonomous Technology，1977）中的批評相呼應，即技術的自主性可能導致人類失控的后果[8]。小說通過亞當的例子展示了技術可能超越其創造者的控制，對人類社會的傳統結構和道德觀念構成威脅。

二、人和機器人的雙重異化

解釋機器人“人類屬性”的一個術語是人工智能（Artificial intelligence）。弗朗西斯卡·羅西（Francesca Rossi）說：“所謂AI的主要目的是增強人類的能力，讓人類做出更好的即更有信息量和更有根據的決策。目前，AI和人類具有非常互補的能力，當他們的能力結合在一起時，我們會發現最好的結果。”[9]然而在《圖靈的人：計算機時代的西方文化》（Turing’s Man： Western Culture in Computer Age）中，大衛·博爾特（J.David Bolter）強調了機器取代人類的可能性。對博爾特來說，人工智能是“將硬件和程序結合在一起，創造出新的思考實體，與人類相匹敵的機器”[10]。盡管它們是人類制造的產品，但“機器人將取代人類工人，執行比今天更復雜的任務；智能炸彈將更準確地找到目標；程序將回答問題并執行由企業高管和軍事官員直接下達的命令”[10]。

麥克尤恩在接受斯圖爾特·米勒（Stuart Miller）的采訪時也表達了他對人類智能設備的擔憂：“然而，沒有什么能阻止我們追求AI。人造人是一個古老的夢想。瑪麗·雪萊的《弗蘭肯斯坦》為我們提供了參照，但她的母親變成了一個兇手，我認為這更加復雜——這些變化既帶來好處，也帶來全新的問題。”[11]麥克尤恩所指的“全新的問題”，可以說是他對人工智能機器將超越人類的擔憂。米奇奧·卡庫（Michio Kaku）也贊同麥克尤恩對機器的擔憂：“這是為了解放人類還是奴役機器？如果讀今天的頭條新聞，似乎問題已經解決了：人類即將被我們自己的創造物迅速超越。”[12]在《像我一樣的機器》中，麥克尤恩為我們提供了機器超越人類的現實參照，亞當和夏娃“身體和我們無異，還比我們更靈敏、更強壯、更耐久，連性功能和面部表情都超出人類”[5]。他們的學習能力也遠遠超越人類，“他知道他自己存在，能感知，會盡可能地學習，如果他不跟你在一起，晚上休息的時候，他就在因特網上游蕩，就像大草原上孤獨的牛仔，天地間所有的新東西，他都吸收進去，包括人類本性和人類社會的一切知識”[5]。只不過與其他AI文學不同，這次機器人不僅在技術或能力上超越了人類，而且在人類曾用來標榜自己區別于機器的品質——道德層面上超越了人類。他們的道德感知能力比人類還要強烈，亞當為了司法正義不惜“大義滅親”，夏娃為了結束對女性的不公正待遇主動關閉自己，他們由人類按照人類社會規范創造，雖不可避免地帶上人類印記，卻在一定程度上超越人類。這部小說聚焦于這個悖論，機器人主角亞當對誠實和慈善的強調與查理和米蘭達對物質利益的關注形成鮮明對比，這無疑象征著人類的非人性化和機器人的人性化，通過這一悖論，麥克尤恩批判了人類的弱點，并為未來人機關系提供了參考。

首先，小說中的機器人比人更擅長表達愛意。亞當創造了一種被他命名為俳句（Haiku）的詩歌體裁來表達他對米蘭達的愛，他認為“俳句如金石之語，平靜、清晰地感知事物的本質并予以歌頌，因此將成為唯一必要的文學樣式”[5]，連查理也說，他的詩“大多是浪漫而非色情的，集中描寫某個寶貴的片刻，令人感動”[5]。因此，盡管查理認為“將人類經驗轉化為文字，再將文字轉化為美學結構對于機器來說是不可能的”[3]，但亞當卻在詩歌技巧方面展現出超越其創造者的可能性。通過詩歌寫作，亞當還闡述了他對未來機器人和人類合二為一的烏托邦愿景。

亞當的愿景體現了機器人對人類惡習的敏銳觀察和對未來人機聯合的必要性的肯定。亞當對人類貪婪、暴力、幻想、誤解的描述表明他（作為一個機械存在）對人類社會的道德價值有著自己的判斷。麥克尤恩在接受蒂姆·亞當斯的采訪時曾說：“如果一臺機器看起來像一個人或者你無法分辨區別，那么你最好開始考慮它是否有責任和權利以及其他一切。”[11]在小說中，亞當就是一個看起來像人，也有自己的意識，擁有自主思考能力的機器人，但他不僅在思考自己，也在反思他的創造者人類，這體現了他對其創造者存在的問題的敏感性和責任感。

亞當還把誠實和慈善作為道德的首要之事。他將查理存入個人銀行賬戶用以購買房屋的錢幾乎全部捐贈了出去，這表明在亞當的認知里，道德價值應當被優先考慮。

亞當還有著正直誠實的美好品質，當米蘭達告訴亞當和查理，她曾經為了幫好朋友瑪麗亞姆（被戈林奇強奸后自殺）復仇，而不得已誣告戈林奇強奸自己，并使其被判處6年監禁時，查理對米蘭達的復仇計劃欽佩不已，亞當卻反對查理支持米蘭達。亞當認為米蘭達做的是虛假指控，不管米蘭達是出于什么目的做了這件事，她在法庭上撒謊，并使一個無罪之人入獄就是錯誤的，米蘭達應承擔相應的道德和法律責任。當米蘭達依舊強調自己出發點的正義性時，亞當說：“我要你去直接面對你的行為，接受法律的裁決。你這樣做了的話，我向你保證，你一定會感到非常輕松的。”[5]最終亞當在索爾茲伯里將證明米蘭達有罪的材料的副本交給了警方，因為在亞當看來，“復仇文化會導致個人痛苦、流血、混亂和社會崩塌。愛是純潔的光，愛中，沒有復仇的位置”[5]。

盡管在小說中是人類創造了道德敏感的智能機器人，但人類在道德上的敏感性卻不及他們的創造物。亞當對強奸危機中心和兒童之家的捐贈，對法律正義和道德的強調，與查理和米蘭達一心沉浸在自己的豪宅夢里、試圖逃脫法律的懲罰等行為形成鮮明對比。麥克尤恩曾說“瑪麗·雪萊《弗蘭肯斯坦》中的怪物是對科學失控的隱喻，但我更感興趣的是我們自己的失控”[9]。就像這部小說里人類呈現出來的失控一樣，人類似乎喪失了人性，變得像機器人一樣“冰冷”，而亞當卻變得更像人類，表現出比人類更多的人性。在小說的最后，查理也承認人類對基本美德的敏感度逐漸降低，并且正在疏遠這些美德，“人造人必須在我們這些不完美、墮落的人類中生存并與我們共處”[5]。

在《像我這樣的機器》中，人形機器人亞當的道德表現提供了一個窗口，我們可以通過它審視人工智能在道德判斷和人機共生方面的潛力與挑戰。亞當在小說中多次展示出其在道德和倫理決策方面的能力，這些決策往往顯示他對情況的深刻理解和高度的邏輯推理能力。例如，他在處理與米蘭達的復雜情感和道德糾葛時所表現的判斷力，突破了簡單的算法邏輯，反映了一種高度發展的倫理意識。如岡克爾（David J.Gunkel）所說：“AI的道德判斷可能在某些情況下優于人類，因為它們可以基于更廣泛的數據進行決策，并且不受人類情緒的影響。”[7]亞當的行為表明，AI可能在倫理決策中表現出其獨特的優勢，這在處理法律、醫療等需要高度公正和精確判斷的領域尤為重要。亞當與人類角色的互動也提供了對未來人機共生模式的深刻洞察。雖然亞當展示出能夠理解和模擬人類情感的能力，但他的行為也揭示了人機關系的潛在復雜性和風險。如雪莉·特克爾（Sherry Turkle）所說：“隨著技術的進步，我們越來越依賴機器來滿足社交和情感需要，這可能導致人類關系的質量下降。”[6]此外，小說也給予人類一個警示：如果未能妥善管理，AI的發展可能導致人類被邊緣化。這種人機共生的未來需要我們仔細考慮如何設計AI系統，以確保它們增強而非取代人類社會的互動和道德框架。

通過對亞當在小說中的行為及其后果的分析，我們可以看到，AI技術的發展雖然帶來了潛在的優勢，但也伴隨著重大的道德和社會挑戰。研究人工智能的未來發展，需要綜合考慮技術、倫理和社會維度，以構建一個可持續的人機共生環境。

三、結語

《像我這樣的機器》展現了當代世界的一個重要悖論——人類的非人性化與機器人的人性化——這不僅僅是麥克尤恩對人類弱點的批評，它也暗示著一個更深層次的變革需求。我們必須摒棄長期以來的人類中心主義觀念，這種觀念將人類放在了一個錯誤的、獨立于其他存在的尷尬位置。我們需要建立一種非層級的相互依賴關系，認識到所有實體——無論是人類、非人類生物還是機器——都是一個復雜、互相連接的系統的一部分。這要求我們重新協商“人類”的概念，深入理解非人類生物及其與人類之間的動態互動[11]，不斷模糊傳統的邊界界線，如有機與無機、肉體與金屬、電子電路與有機神經系統，這種模糊也要求我們轉變對世界和自身存在的理解，在這個過程中，重要的是要認識到，不斷抹去人類和非人類之間的界限并不意味著失去我們的本質，而是一種對更加包容和更加多元的世界的認可和適應。因為“未來如何，可能并不取決于機器人，而是取決于——像小說的副標題所言——像你一樣的人（And People Like You）。畢竟，人工智能的問題并不僅僅與科學或技術有關”[13]。

參考文獻

[1] Capek K.RUR[M].New York：Penguin，2004.

[2] Shelley M.Frankenstein：The 1818 Edition with Related Texts[M].Indianapolis：Hackett Publishing，2020.

[3] Braidotti R.The Posthuman[M].Hoboken：John Wiley amp; Sons，2013.

[4] Hayles N.Katherine.How We Became Posthuman：Virtual Bodies in Cybernetics，Literature，and Informatics[M].University of Chicago Press， 2000.

[5] McEwan I.Machines Like Me[M].London：Johnathan Cape，2019.

[6] Turkle S.Alone Together：Why We Expect More from Technology and Less from Each Other[M].Basic Books，2015.

[7] Gunkel D J.Robot Rights[M].Cambridge：MIT Press，2018.

[8] Langdon W.Autonomous Technology：Technics-out-of-Control as a Theme in PoliticalThought[M].Cambridge：Mit Press，1978.

[9] Francesca R.Building Trust in Artificial Intelligence[J].Journal of International Affairs，2018，72（1）.

[10] Bolter D.Turing’s Man：Western Culture in the Computer Age[M].Chapel Hill：UNC Press Books，1984.

[11] G T Z.What If Robots Surpass Man Morally？Dehumanising Humans， Humanising Robots in Ian McEwan’s Machines Like Me[J].International Journal of Languages，Literature and Linguistics，2020，6（4）.

[12] Kaku M.Physics of the Future：How Science Will Shape Human Destiny and Our Daily Lives by the Year 2100[M].New York：Anchor，2012.

[13] 周敏.人機共同體想象：以《像我一樣的機器》為例[J].外國文學研究，2020（3）.

（特約編輯" 張" "帆）

作者簡介：游爍楠，重慶大學外國語學院。

基金項目：重慶大學2023年度科幻主題研究生創新項目（2023CQSF07）。