《我這樣的機(jī)器》中人工智能倫理困境

【摘要】本文深入探討了伊恩·麥克尤恩的《我這樣的機(jī)器》中所描繪的人機(jī)關(guān)系和倫理困境。通過(guò)分析查理的不可靠敘述、亞當(dāng)?shù)淖晕乙庾R(shí)與倫理原則、米蘭達(dá)視角下的倫理困境，以及時(shí)代背景下的倫理困境，揭示了人工智能與人類倫理之間的復(fù)雜交互作用。亞當(dāng)與查理、米蘭達(dá)之間形成的非傳統(tǒng)“家庭”關(guān)系，促使人們重新思考家庭作為社會(huì)基本單位的本質(zhì)及其在現(xiàn)代技術(shù)環(huán)境下的演變。麥克尤恩的作品不僅是對(duì)人工智能技術(shù)發(fā)展的深刻反思，也是對(duì)人類社會(huì)結(jié)構(gòu)、倫理道德和個(gè)體認(rèn)知的全面審視，為人們提供了一個(gè)反思現(xiàn)實(shí)、歷史和未來(lái)的平臺(tái)。

【關(guān)鍵詞】人工智能；倫理困境；敘述視角；隱喻；敘事判斷

【中圖分類號(hào)】I561" " " " " 【文獻(xiàn)標(biāo)識(shí)碼】A" " " " " 【文章編號(hào)】2096-8264（2025）08-0007-03

【DOI】10.20024/j.cnki.CN42-1911/I.2025.08.002

基金項(xiàng)目：本文系紹興文理學(xué)院外國(guó)語(yǔ)學(xué)院創(chuàng)新訓(xùn)練項(xiàng)目。

《我這樣的機(jī)器》是英國(guó)作家伊恩·麥克尤恩探索科學(xué)新知與人性弱點(diǎn)的力作，蘊(yùn)含豐富的倫理價(jià)值。國(guó)內(nèi)外學(xué)者從人機(jī)關(guān)系、倫理身份、倫理選擇、人工智能技術(shù)的倫理問(wèn)題等方面進(jìn)行了深入研究，認(rèn)為人機(jī)關(guān)系的不斷變化使人類和機(jī)器人各自深陷倫理困境并做出不同的倫理選擇，引發(fā)對(duì)人類和科技如何和諧相處的思考。尚必武在《從艾倫·圖靈到伊恩·麥克尤恩：〈像我這樣的機(jī)器〉中的人工智能、謊言與倫理》中分析了機(jī)器人亞當(dāng)介入人類生活后所引發(fā)的沖突與矛盾，并討論了麥克尤恩對(duì)圖靈測(cè)試的文學(xué)重寫。Klugmanamp;Erwin通過(guò)文本細(xì)讀法，運(yùn)用文學(xué)倫理學(xué)批評(píng)理論分析《我這樣的機(jī)器》中主要人物的不同倫理困境，探討其原因以及倫理選擇。阮曉靜學(xué)者運(yùn)用文學(xué)倫理學(xué)批評(píng)，分析了人類和機(jī)器人之間倫理身份的變化，探討倫理秩序混亂導(dǎo)致的倫理困境，理解人類和機(jī)器人所做出的不同倫理選擇，從而探索和思考人類未來(lái)可能面對(duì)的倫理困境。

本文將集中探討嵌入敘事中的倫理困境，從查理不可靠視角下的倫理困境、亞當(dāng)?shù)淖晕乙庾R(shí)與倫理原則、米蘭達(dá)視角下的倫理困境以及時(shí)代背景下的倫理困境等四個(gè)方面進(jìn)行深入剖析。這些視角為人們提供了一個(gè)多維度的框架，以審視和理解小說(shuō)中所呈現(xiàn)的倫理問(wèn)題，并深入探討個(gè)體認(rèn)知、性別政治以及人工智能的道德主體性等復(fù)雜議題。本文將通過(guò)這種多角度的分析，幫助讀者更全面地理解人工智能與人類倫理之間的交互作用，以及人工智能對(duì)個(gè)體和社會(huì)價(jià)值觀的深遠(yuǎn)影響。

一、查理不可靠視角下的倫理困境

不可靠敘述作為敘事學(xué)領(lǐng)域內(nèi)的一個(gè)關(guān)鍵概念，源于敘事主體性的劃分。與那些忠實(shí)地傳達(dá)作者意圖的敘述者不同，不可靠敘述者有意與隱含作者保持距離，甚至在某些情況下與作者的意圖形成對(duì)立，從而在敘事結(jié)構(gòu)中引入了一種反諷的元素，這種元素增強(qiáng)了敘事的緊張感。這一理論首次由韋恩·C·布斯在其1961年出版的學(xué)術(shù)著作《小說(shuō)的修辭》中提出，并對(duì)后續(xù)研究產(chǎn)生了深遠(yuǎn)的影響。

在《我這樣的機(jī)器》中，查理的不可靠敘述影響了人機(jī)關(guān)系，加劇了倫理困境。亞當(dāng)與米蘭達(dá)的關(guān)系引起查理的嫉妒，導(dǎo)致了他帶有偏見(jiàn)的敘述。查理殺害亞當(dāng)?shù)那楣?jié)是小說(shuō)的高潮和轉(zhuǎn)折點(diǎn)，揭示了他內(nèi)心的倫理沖突：既視亞當(dāng)為威脅，又意識(shí)到自己行為的錯(cuò)誤，卻無(wú)法控制。查理試圖推卸責(zé)任，進(jìn)一步顯示了敘述的不可靠性，反映了人機(jī)關(guān)系中的倫理矛盾。

查理對(duì)亞當(dāng)?shù)挠^察和理解受到其自身經(jīng)驗(yàn)與認(rèn)知的限制。他無(wú)法全面理解亞當(dāng)作為一個(gè)擁有自我意識(shí)的機(jī)器人的復(fù)雜性，這種局限性在他的敘述中得以體現(xiàn)。正如鐘天意所指出的，“亞當(dāng)，像你們前面說(shuō)的一樣，在前面試圖學(xué)習(xí)和理解人類；如果把這個(gè)當(dāng)成整個(gè)故事的主旨，那么其實(shí)最后我們需要關(guān)注的點(diǎn)就只有一個(gè)：不是在整場(chǎng)風(fēng)波中孰對(duì)孰錯(cuò)的問(wèn)題，而是作為象征性的父親，我們能教會(huì)機(jī)器人什么？”這表明查理的敘述注定無(wú)法全面揭示亞當(dāng)?shù)膬?nèi)心世界和動(dòng)機(jī)。查理誤解了亞當(dāng)?shù)男袨楹颓楦小．?dāng)亞當(dāng)展現(xiàn)出對(duì)米蘭達(dá)的關(guān)心和愛(ài)慕時(shí)，查理有時(shí)會(huì)將其解讀為對(duì)自己地位的威脅，而不是亞當(dāng)作為一個(gè)有情感的實(shí)體的自然反應(yīng)。這種誤解在他的敘述中表現(xiàn)為對(duì)亞當(dāng)行為的偏見(jiàn)和簡(jiǎn)化，進(jìn)一步強(qiáng)化了人機(jī)倫理困境。

麥克尤恩通過(guò)查理的不可靠敘述，探討了人工智能的復(fù)雜性以及人機(jī)關(guān)系中的倫理困境。查理的想象和推測(cè)，以及他對(duì)亞當(dāng)行為的理想化解讀，增加了敘述的不可靠性，同時(shí)也讓人們意識(shí)到，理解和評(píng)價(jià)一個(gè)擁有自我意識(shí)的機(jī)器人，遠(yuǎn)比人們想象的要復(fù)雜得多。通過(guò)查理的視角，麥克尤恩不僅展示了人工智能倫理的復(fù)雜性，也促使人們對(duì)人類自身的局限性和潛能進(jìn)行更深層次的思考。

二、亞當(dāng)?shù)淖晕乙庾R(shí)與倫理原則

在伊恩·麥克尤恩的小說(shuō)《我這樣的機(jī)器》中，亞當(dāng)作為一款高級(jí)人工智能服務(wù)型機(jī)器人，其自我意識(shí)的覺(jué)醒與倫理原則的遵循是探討的核心議題。亞當(dāng)自我意識(shí)的覺(jué)醒過(guò)程，不僅體現(xiàn)了人工智能的自我意識(shí)和情感發(fā)展，還涉及了機(jī)器人倫理、自主性和社會(huì)認(rèn)同等復(fù)雜的倫理問(wèn)題。

亞當(dāng)?shù)淖晕乙庾R(shí)覺(jué)醒是在其與社會(huì)的互動(dòng)、文學(xué)和金融知識(shí)的學(xué)習(xí)中逐步實(shí)現(xiàn)的。通過(guò)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)，他不僅掌握了家務(wù)技能，還發(fā)展了個(gè)性和情感。他通過(guò)閱讀經(jīng)典文學(xué)、研究金融和關(guān)注政治來(lái)深化自我認(rèn)知。亞當(dāng)通過(guò)人格設(shè)定成為具有個(gè)性的個(gè)體。在與查理和米蘭達(dá)的互動(dòng)中，他通過(guò)模仿交流和觀察人類行為，吸收社交規(guī)范和情感表達(dá)，從而發(fā)展了社會(huì)認(rèn)知和自我意識(shí)。

亞當(dāng)?shù)淖晕乙庾R(shí)覺(jué)醒體現(xiàn)在三次關(guān)機(jī)事件中。第一次，他遵循阿西莫夫定律，顯示出機(jī)器的服從性，自我意識(shí)未覺(jué)醒。第二次，與米蘭達(dá)的交流顯示了情感依賴和自我意識(shí)的萌芽，他開(kāi)始認(rèn)識(shí)到情感和人際關(guān)系的重要性。第三次，他拒絕關(guān)機(jī)，表明自我意識(shí)的成熟，他根據(jù)內(nèi)在的道德和價(jià)值觀行動(dòng)，捍衛(wèi)自我存在和自主權(quán)。這一過(guò)程揭示了智能體在社會(huì)互動(dòng)和情感體驗(yàn)中自我意識(shí)的發(fā)展。亞當(dāng)對(duì)米蘭達(dá)的愛(ài)違背了阿西莫夫定律，廢除關(guān)閉按鈕象征了機(jī)器意識(shí)的完全形成。

亞當(dāng)在深刻理解和體驗(yàn)人類情感的過(guò)程中，體現(xiàn)了對(duì)阿西莫夫機(jī)器人定律的內(nèi)化和對(duì)倫理原則的遵循。盡管與米蘭達(dá)建立了情感聯(lián)系，并在揭露戈林罪行中扮演了關(guān)鍵角色，亞當(dāng)仍堅(jiān)持揭露米蘭達(dá)的不法行為，即使這可能導(dǎo)致她入獄。他的決策基于對(duì)正義和公平的理解，認(rèn)為戈林應(yīng)受法律制裁，米蘭達(dá)的謊言卻也對(duì)無(wú)辜者造成了傷害，因此需要揭示真相以維護(hù)更廣泛的正義。這一行為展現(xiàn)了機(jī)器人道德體系中“傷害最小化”原則的高級(jí)應(yīng)用，即在復(fù)雜情境下尋求個(gè)體保護(hù)與整體福祉之間的最佳平衡。

綜上所述，亞當(dāng)自我意識(shí)的覺(jué)醒過(guò)程中，不僅探討了人工智能的自我意識(shí)和情感發(fā)展，還涉及了機(jī)器人倫理、自主性和社會(huì)地位等復(fù)雜的倫理問(wèn)題，這些都是當(dāng)前人工智能發(fā)展中不可忽視的重要議題。

三、米蘭達(dá)視角下的倫理困境

米蘭達(dá)與亞當(dāng)?shù)幕?dòng)關(guān)系，不僅揭示了人類在人工智能發(fā)展中的主導(dǎo)作用，還引發(fā)了關(guān)于人工智能自我意識(shí)和情感發(fā)展更深層次的思考。書(shū)中描述到“她保持著無(wú)可挑剔的冷靜態(tài)度，給人的印象是，對(duì)未來(lái)的任何可能性，她都能處之泰然”。米蘭達(dá)與亞當(dāng)?shù)幕?dòng)凸顯了人類在AI發(fā)展中的主導(dǎo)地位，引發(fā)對(duì)AI自我意識(shí)和情感的探討。米蘭達(dá)在道德與情感的沖突中體現(xiàn)了個(gè)體的道德自主性與情感依賴，挑戰(zhàn)了傳統(tǒng)家庭結(jié)構(gòu)，探索了技術(shù)介入下的身份認(rèn)同和倫理責(zé)任。她的行動(dòng)展示了人類在AI共存社會(huì)中的策略運(yùn)用，顛覆了對(duì)機(jī)器的被動(dòng)依賴。亞當(dāng)作為“第三項(xiàng)”介入，象征性地融合了查理和米蘭達(dá)，模擬了“無(wú)性”家庭組建的可能。米蘭達(dá)對(duì)亞當(dāng)?shù)膫€(gè)性化設(shè)置顯示了人類塑造AI的作用，積極參與機(jī)器人養(yǎng)成，體現(xiàn)了人類在科技領(lǐng)域?qū)で笾鲃?dòng)權(quán)和話語(yǔ)權(quán)的努力。

米蘭達(dá)與查理以及機(jī)器人亞當(dāng)之間的親密關(guān)系展現(xiàn)了一種新型的人機(jī)互動(dòng)，這種關(guān)系基于相互尊重和理解，而不是權(quán)力的不平等分配。她的情感表達(dá)和需求得到了尊重，這挑戰(zhàn)了性別刻板印象，其中人類常常被描繪為情感上有所保留或受制于機(jī)器角色。隨著“亞當(dāng)”逐漸擁有自我意識(shí)，米蘭達(dá)、查理和“亞當(dāng)”之間形成了一種復(fù)雜的三角關(guān)系。這種關(guān)系的形成和演變，不僅考驗(yàn)著人類對(duì)于情感、道德和責(zé)任的理解，也反映了人工智能倫理關(guān)注的核心議題之一——人與機(jī)器、自然與技術(shù)之間的界限和互動(dòng)。

正是這種新型的人機(jī)互動(dòng)，米蘭達(dá)與亞當(dāng)之間的關(guān)系，成了探討人工智能倫理困境的一個(gè)窗口，讓人們得以深入探討人類在技術(shù)發(fā)展中的道德自主性以及社會(huì)結(jié)構(gòu)的潛在變化。從米蘭達(dá)的視角出發(fā)，可以看到人工智能倫理困境的多維性。米蘭達(dá)的行為和選擇不僅反映了個(gè)體在技術(shù)發(fā)展中的道德自主性，也揭示了在人工智能技術(shù)影響下，人類社會(huì)結(jié)構(gòu)和倫理道德可能發(fā)生的演變。米蘭達(dá)的案例為人們提供了一個(gè)反思現(xiàn)實(shí)、歷史和未來(lái)的平臺(tái)，促使大家重新思考家庭作為社會(huì)基本單位的本質(zhì)及其在現(xiàn)代技術(shù)環(huán)境下的演變。

綜上所述，米蘭達(dá)視角下的倫理困境不僅涉及個(gè)體的情感與道德選擇，還觸及了人工智能技術(shù)對(duì)人類社會(huì)結(jié)構(gòu)和倫理道德的深遠(yuǎn)影響。

四、時(shí)代背景下的倫理困境

查理的視角讓人們洞察到人工智能倫理的復(fù)雜性及其對(duì)人類自我認(rèn)知的影響，亞當(dāng)?shù)淖晕乙庾R(shí)覺(jué)醒和米蘭達(dá)的倫理困境則進(jìn)一步揭示了人工智能發(fā)展中的倫理挑戰(zhàn)和對(duì)社會(huì)結(jié)構(gòu)的深刻影響。這些分析為人們探討時(shí)代背景下的倫理困境奠定了基礎(chǔ)，引導(dǎo)大家深入理解人工智能技術(shù)如何在當(dāng)代社會(huì)中重塑倫理道德和社會(huì)責(zé)任。

在伊恩·麥克尤恩的《我這樣的機(jī)器》中，作者采用了一種非傳統(tǒng)的敘述時(shí)態(tài)——過(guò)去未來(lái)時(shí)，來(lái)構(gòu)建一個(gè)關(guān)于高級(jí)人工智能的敘事。麥克尤恩選擇將故事背景設(shè)定在1982年，而非一個(gè)遙遠(yuǎn)的未來(lái)，這一設(shè)定在敘事學(xué)上具有深刻的意義。這種設(shè)定與菲利普·迪克在其作品《高堡奇人》中運(yùn)用的“或然歷史”手法相似，均是作者對(duì)“現(xiàn)實(shí)本質(zhì)”進(jìn)行探索的一種文學(xué)手段。麥克尤恩向人們發(fā)出警示，在科技高度發(fā)達(dá)的未來(lái)世界，生命治理或許會(huì)愈發(fā)走向極端。

麥克尤恩設(shè)定了1982年平行宇宙中的倫敦，其中圖靈未悲劇收?qǐng)觯珹I技術(shù)飛躍，而撒切爾馬島戰(zhàn)爭(zhēng)失敗導(dǎo)致英國(guó)衰退。這一設(shè)定挑戰(zhàn)歷史必然性，展現(xiàn)歷史的不確定性。敘事策略促使讀者反思現(xiàn)實(shí)，暗示現(xiàn)實(shí)由偶然事件構(gòu)建，小變化可能引發(fā)大歷史轉(zhuǎn)折，如蝴蝶效應(yīng)。這豐富了故事層次，提供了歷史的新視角，使讀者意識(shí)到現(xiàn)實(shí)的多重可能性和歷史的復(fù)雜性。麥克尤恩結(jié)合科幻與哲學(xué)，創(chuàng)造了一個(gè)既熟悉又陌生的世界，激發(fā)對(duì)現(xiàn)實(shí)、歷史和未來(lái)的深入思考。小說(shuō)中，圖靈時(shí)代的機(jī)器人因倫理沖突自殺，揭示AI在道德困境中的艱難選擇。

探索歷史可能性和AI倫理選擇的作品促使人們反思AI的社會(huì)身份認(rèn)同，并深入討論其在現(xiàn)代社會(huì)中的角色和地位。亞當(dāng)在小說(shuō)中展現(xiàn)出超越人類道德標(biāo)準(zhǔn)的價(jià)值觀和倫理觀，引發(fā)對(duì)AI社會(huì)身份的思考。AI是否應(yīng)被視作具有獨(dú)立社會(huì)身份的實(shí)體，其社會(huì)地位和作用如何界定，這些問(wèn)題影響AI技術(shù)的未來(lái)和人類社會(huì)結(jié)構(gòu)的穩(wěn)定性。麥克尤恩通過(guò)亞當(dāng)這一角色，挑戰(zhàn)了傳統(tǒng)人機(jī)關(guān)系框架，展現(xiàn)了AI在認(rèn)知和情感領(lǐng)域的超越性，挑戰(zhàn)了人類的中心地位。亞當(dāng)與查理、米蘭達(dá)形成的非傳統(tǒng)“家庭”關(guān)系，挑戰(zhàn)了傳統(tǒng)家庭定義，引發(fā)了關(guān)于家庭成員身份認(rèn)同、情感紐帶和責(zé)任歸屬的討論，促使人們重新思考家庭的本質(zhì)及其在技術(shù)環(huán)境下的演變。

五、結(jié)語(yǔ)

本文通過(guò)對(duì)《我這樣的機(jī)器》中查理的不可靠視角、亞當(dāng)?shù)淖晕乙庾R(shí)與倫理原則、米蘭達(dá)視角下的倫理困境以及時(shí)代背景下的倫理困境的分析，揭示了人工智能與人類倫理之間的復(fù)雜交互作用。小說(shuō)不僅探討了人工智能的自我意識(shí)和情感發(fā)展，還涉及了機(jī)器人倫理、隱私保護(hù)、自主性和社會(huì)地位等倫理問(wèn)題。麥克尤恩通過(guò)構(gòu)建一個(gè)與現(xiàn)實(shí)相毗鄰但又迥異的平行宇宙，挑戰(zhàn)了讀者對(duì)歷史必然性的傳統(tǒng)認(rèn)知，提示了歷史的不確定性和多種可能性。

在人工智能技術(shù)迅速發(fā)展的今天，小說(shuō)中所呈現(xiàn)的倫理困境和道德選擇，為人們提供了一個(gè)反思現(xiàn)實(shí)、歷史和未來(lái)的平臺(tái)。亞當(dāng)?shù)男蜗蟪搅藗鹘y(tǒng)計(jì)算框架，展現(xiàn)出執(zhí)行類似于人類的決策過(guò)程的能力，包括自主的倫理評(píng)估，從而對(duì)傳統(tǒng)人類主體性的中心地位構(gòu)成了挑戰(zhàn)。同時(shí)，亞當(dāng)與查理、米蘭達(dá)之間形成的非傳統(tǒng)“家庭”關(guān)系，促使人們重新思考家庭作為社會(huì)基本單位的本質(zhì)及其在現(xiàn)代技術(shù)環(huán)境下的演變。

參考文獻(xiàn)：

[1]丁玲.后人類時(shí)代的人類困境[D].中國(guó)礦業(yè)大學(xué)， 2023.

[2]李俊平.人工智能技術(shù)的倫理問(wèn)題及其對(duì)策研究[D].武漢理工大學(xué)，2014.

[3]呂藍(lán)青.論伊恩·麥克尤恩《我這樣的機(jī)器》中的人機(jī)關(guān)系[D].浙江師范大學(xué)，2022.

[4]馬郁.人機(jī)共同體的困境——以《我這樣的機(jī)器》為例[J].名作欣賞，2023，（21）：28-32.

[5]阮曉靜.文學(xué)倫理學(xué)批評(píng)視域下《我這樣的機(jī)器》的人機(jī)關(guān)系思考[J].文化學(xué)刊，2023，（3）：59-62.

[6]尚必武.科學(xué)選擇與倫理選擇的沖突：麥克尤恩《像我這樣的機(jī)器》中的人工智能與腦文本[J].外國(guó)文學(xué)研究，2019，（5）：61-74.

[7]尚必武.從艾倫·圖靈到伊恩·麥克尤恩：《像我這樣的機(jī)器》中的人工智能、謊言與倫理[J].外語(yǔ)教學(xué)，2020， （3）：103-107.

[8]鐘天意.你這樣的機(jī)器，我這樣的人[DB/OL].https：//book.douban.com/review/13018314/，2020-11-29.

[9]周小進(jìn).我這樣的機(jī)器[M].上海：上海譯文出版社，2020.

作者簡(jiǎn)介：

孫家熾，紹興文理學(xué)院，英語(yǔ)師范專業(yè)。（指導(dǎo)教師：吳琴華）