《克拉拉與太陽》的人機倫理問題研究

汪慶子

《克拉拉與太陽》是石黑一雄（Kazuo Ishiguro，1954—）最新出版的描寫人工智能機器人題材的小說。石黑一雄以機器人克拉拉的視角，展現了專為陪伴兒童而設計的AF（Artificial Friend，人工朋友）進入人類社會生活后遇到的一系列問題。小說中有一兩項科學技術的突破性發展比現實世界實現得更早，其中機器人技術是小說討論的重要內容，作者由此展開對科技、人性和倫理等問題的思考，以未來審視當下。本文借助文學倫理學批評研究擬對此論題加以探討，旨在揭示高科技快速發展所反映的深刻的倫理內涵，以及從人類中心主義的倫理觀出發，很難建立和諧穩定的人機倫理關系，從而思考在科學選擇的新時代人機共存如何才有可能。

一、人機倫理世界：人工朋友與重組社會

《克拉拉與太陽》描繪了一個高度技術化的社會，小說中既有“超級智能的”機器人幫助人類擺脫孤獨，也有各式各樣尚在發展的高端技術，然而人類在利用科技加速征服世界的現代化進程中，自身也遭到科技的反噬。

首先，人類為消除孤獨感，便通過“科學選擇”制造人工朋友來陪伴孩子。所謂科學選擇，是指人類文明在完成倫理選擇后，目前正在進行和即將進行的選擇。聶珍釗教授指出，科學選擇解決科學與人的結合問題，主要強調三個方面：“一是人如何發展科學和利用科學；二是如何處理科學對人的影響及科學影響人的后果；三是應該如何認識和處理人同科學之間的關系?！敝魅斯死屯閭冏鳛槿斯づ笥讯恢圃斐鰜?，不僅具備一般人形機器人的特征和性能，還具有更多更優秀的能力，并無私地以自己的種種能力服務于人類。他們有著與人類無異的外形，比如克拉拉像法國人，有著顏色很深的短而利落的頭發，還有“一雙最最善良的眼睛”。日本學者森政弘（Masahiro Mori）曾提出“恐惑谷”理論。該理論表明，機器人的外形與行為跟人類越是接近，人類越容易對其產生親和感；而當這種正面的情感達到一定的峰值后，隨著相似度不斷提高，人類反而會對他們產生莫名的惶惑，形成所謂“恐惑谷”。從喬西對克拉拉外貌的評價，以及大街上隨處可見的一個孩子身邊跟著一個AF 的情況來看，人工朋友的外觀設計顯然消除了人類“恐惑谷”的心理障礙，不至于因外形產生機器人與人類溝通交往的消極影響。同時，AF 們聰明且熱情，真誠又體貼，克拉拉具有出色的共情能力和學習能力，以及善良、體貼、無私的美好品質。喬西向克拉拉承諾會把克拉拉帶回家后卻遲遲沒有出現，善良的克拉拉謹遵兩人的約定，一直等待著喬西。克拉拉還能敏銳地察覺出人類的恐懼、憤怒等情緒，能透過喬西的表情、語言、動作等感受到她的喜怒哀樂，能無微不至地關懷生病中的喬西。然而，具備“類人”品質的克拉拉還是無法獲得人們的認同，梅拉尼婭管家始終對其態度惡劣，里克的母親海倫質疑其是否是臺真空吸塵器，卡帕爾迪先生僅僅將其當作科學實驗的研究對象。因而，從科學選擇的角度來看，克拉拉等人工智能機器人與生俱來的目的性和工具性使其不會被人類社會所認可，機器人作為人類工具的原初地位從未改變。

其次，小說還描繪了科技發展之下城市和鄉村的種種景觀，處處顯示這是一個正面臨巨大變革的重組社會。城市里，到處都是望不見頂的高樓大廈，遮蔽住了太陽光的照射，行人走到了陰影里；制造污染的庫廷斯機器發出滾滾濃煙，還有惱人的噪音。鄉村看似保有自然和寧靜，實際上，父親保羅曾經工作的制冷村荒廢在鄉野，克拉拉眼中可怕的“基因牛”等都在暗示鄉村也無可避免地受到科技的入侵?；蚋牧技夹g也已成為這個社會普遍認可的改造手段，但喬西的姐姐在接受改造后過世，喬西也因此患病，接受改造甚至成了一道入學的“門檻”，里克因未接受改造而受到嘲弄且無法進入夢想的學府。

無論是人工朋友的生產制造，還是其他機器或技術的極速發展，最終都指向科學技術的異化與技術理性的膨脹，而這無疑是人類中心主義的產物，在此之下，克拉拉會有何種經歷，又會做出何種選擇？

二、人機倫理困境：人類中心主義倫理觀

克拉拉短暫的一生可以分為兩個階段：商店櫥窗階段，與喬西及其家人生活階段。在前一階段，克拉拉和其他AF 一樣，只需待在自己的位置上觀察學習，等待被孩子買回家。來到喬西家后，克拉拉成為一個名副其實的AF，陪伴在喬西左右，擔負起照顧喬西的任務。起初，克拉拉一直忠實地履行作為AF 最基本的職責，當喬西被病痛折磨時，克拉拉守護在她的床前，時刻關注她的狀態；當喬西和里克鬧別扭時，又幫助他們重歸于好等等。但是隨著喬西的健康每況愈下，克拉拉所需承擔的職責似乎遠遠超過了本職。卡帕爾迪先生道出與母親克麗西共謀為喬西“畫肖像”的真實目的：“我們不僅僅是要求你模仿喬西的外在行為。我們還要請你延續她?！痹瓉?，無論是第一次見面時克麗西要求克拉拉模仿喬西走路，還是摩根瀑布之行時要求克拉拉以喬西的口吻與她對話，以及后來特意為克拉拉安排的對喬西了解程度的測試，目的都是讓克拉拉更好地“延續”（continuation）喬西。作者在此處將小說推向高潮，擺在克拉拉面前的是要不要“成為喬西”的艱難抉擇。

眾所周知，在西方科幻小說史上，美國科幻作家艾薩克·阿西莫夫（Isaac Asimov）提出了著名的“機器人學三大法則”，并在其“機器人系列”小說中塑造了許多人類的朋友、幫手和忠實奴仆等機器人形象，改變了此前科幻文學中人對機器人害怕恐懼的描寫。“三大法則”的具體內容是：“一、機器人不得傷害人類，或因不作為而使人類受到傷害。二、除非違背第一法則，機器人必須服從人類的命令。三、在不違背第一及第二法則的情況下，機器人必須保護自己?！焙唵握f來就是，機器人不得傷害人類，機器人必須服從人類的命令，機器人可以自保但前提是不得傷害人類，其中第一法則絕對優先?！鞍⑽髂虻呢暙I是巨大的，其后的文學作品，如果不是專門討論人工智能倫理問題，基本都會遵循該定律來敘述?！笨死葯C器人也遵循該定律，作為AF 的克拉拉從未違背過第一法則，此刻卻面臨違背“三大法則”的困境。也就是說，如果克拉拉答應母親的請求，則成全了她對喬西的“延續”，但這樣就違背了第一法則，因為克拉拉“成為喬西”的同時也意味著喬西的生命走向了盡頭，作為機器人的克拉拉無論如何也不會讓這樣的事情發生。另一方面，如果拒絕請求，則又違背了第二法則，同時太陽是否愿意為喬西獻出特殊關照是不確定的，同樣可能使喬西遭受危險。

借助文學倫理學的術語來解釋，此時的克拉拉陷入了倫理困境，又稱倫理兩難?！皞惱韮呻y即倫理悖論。倫理兩難由兩個道德命題構成，如果選擇者對它們各自單獨地做出道德判斷，每一個選擇都是正確的，并且每一個選擇都符合普遍道德原則。但是，一旦選擇者在二者之間做出一項選擇，就會導致另一項違背倫理，即違背普遍道德原則。”面對這般困境，克拉拉完美踐行了暗含人類中心主義的“三大法則”，不惜貢獻出自己體內的溶液以毀壞產生污染的庫廷斯機器，又執拗地尋求太陽的特殊關照，都只為幫助喬西恢復健康。但石黑一雄并未止步于此，其筆下的克拉拉更有著對“三大法則”的突破與超越，那就是克拉拉意識到喬西身上有著一樣特別的而自己無法替代的東西，“母親、里克、梅拉尼婭管家、父親——我永遠都無法觸及他們在內心中對于喬西的感情”?？死⒎浅鲇趯Φ谝环▌t的絕對服從才不顧一切地拯救喬西，而是因為她要守護這份愛。最終，喬西在太陽的照耀下奇跡般地起死回生。在克拉拉對喬西“固執”的愛與守護中，看到的是克拉拉身上集中了人類天性中最值得贊頌的部分，成為“愛”的絕對象征。

病愈后的喬西如愿奔赴理想的學府，而完成“任務”后的克拉拉卻獨自走向滿是機器人的堆場，在那里克拉拉看到了無數的同伴，他們同樣失去價值，正慢慢凋零，可見如此“超級智能的”機器人仍未能擺脫悲慘的命運。那么，當一個人與機器共處的時代必定來臨時，兩者如何才能實現真正的共存？

三、人機倫理反思：人機共存的可能性

在科學選擇的新時代，人類與機器人共存已成為不可回避的問題，石黑一雄曾表達對人工智能發展的擔憂：“在拐彎處——我們是否已經轉危為安了？——是科學、技術和醫學的驚人突破所帶來的挑戰。新的遺傳技術，如基因編輯技術CRISPR，以及人工智能和機器人技術的進步將為我們帶來令人驚嘆的、拯救生命的益處，但也可能造成類似種族隔離制度的野蠻的精英統治社會，以及大規模失業的問題，甚至于當前的行業精英們也將瀕臨失業?！币虼?，作者在小說中反思了人類中心主義觀念下人機共存可能帶來的問題。

一方面，機器人不僅侵占了人類的生存空間，而且剝奪了越來越多人類工作的機會，對于在勞動與工作中獲得滿足感與認同感的人來說，意味著勞動與工作信仰的降低，以及對榮譽和價值欲望的喪失，就像小說中喬西的父親保羅被AI 取代，最后只能自我安慰“被替代是我遇到的一件最好的事情”。另一方面，當人工智能比人類強大得多的時候，人類對其“有一種十分普遍而且不斷滋長的擔憂”，“他們害怕，是因為他們已經不能理解那里面是如何運作的了”，所以機器人遭到人類的仇視與攻擊，不斷被拆開檢查，但實質性的問題卻始終沒有得到解決。

人與機器人共存本就是一個復雜的問題，其根源就在于人類中心主義的倫理觀所存在的弊端，那么如何打破這個禁錮，建立和諧穩定的人機共存世界，石黑一雄自然不會為此提供簡單的答案。但作者賦予克拉拉獨特的情感特質，通過克拉拉對“人心”的發現，讓讀者看到一個可謂是“真正的人”的機器，所以人工智能和機器人技術并非是對人類的徹底否定，恰恰是科學選擇時代里對人類未來走向的追問。盡管人工智能給人類生活和本質帶來巨大挑戰，但可以肯定的是，“人心”的特殊價值是任何機器都無法替代的?？档略f：“對動物殘忍的人在處理他的人際關系時也會對他人殘忍。我們可以通過一個人對待動物的方式來判斷他的心腸是好是壞?！蓖耆梢該送普摚谌藱C共存的未來時代里，人類對于機器人的傷害行為也會導致對其同胞的傷害，人類對待機器人的態度將成為評價人性善惡的標準之一。

世界千變萬化，愛卻始終是最為堅實的內核，克拉拉便擁有這樣真誠的核心，她不僅僅是機器，更是一個太陽，以自己的光芒溫暖著世人，并告訴世人：無論世界如何發展，身份如何改變，都要守護好自己的“人心”。

四、結語

比爾·蓋茨在談及《克拉拉與太陽》時說道：“這本書讓我思考擁有超級智能機器人的生活會是怎樣的——以及我們是否會將這些機器視為技術的一部分，還是更多的東西。”石黑一雄以作家的人道主義關懷，借助文學的想象力對人類與機器人的關系提出前瞻性設想，既反對技術至上的唯理主義，又反對以人類為中心的倫理取向，由此為讀者帶來思考與啟示：給人類生存造成威脅的不是技術本身，而是人類對待和使用科技的態度與方式；若要建立一個和諧穩定的人機共存世界，必須擯棄以人類為中心的倫理觀，人機和諧關系建立的基礎不在于機器人究竟是不是“人”，而在于人類以怎樣的眼光和方式看待與對待他們，這不僅是一個科學選擇，更是一個倫理選擇。