一個叫亞當的機器人決定去死

毛亞楠

作家小白在英國國寶級作家伊恩·麥克尤恩的新作《我這樣的機器》導讀中提到了“恐怖谷”理論。大體意思是說，當人類在面對一個面貌體態十分像真人的機器人時，人會首先產生一種奇異的恐懼感。

何以會有這種現象，一些研究者認為，這是由于人類在面對同類時具備讀心能力，這種讀心能力被稱為“心理化”，但當面對明知不是真人的仿真機器人時，大腦啟動心理化的過程則會陷入錯亂，所以才會產生“恐怖谷”的觀感。

按照“恐怖谷”理論，當小說中那個身體健壯、相貌英俊，膚色、心跳無不像真人，“甚至呼吸都帶著一絲濕潤”的男機亞當出現在人們面前的時候，他們應該感到不安。但麥克尤恩筆下的人卻都輕松越過了“恐怖谷”，主人公查理花錢把亞當買回了家，并同他的女友米蘭達一起賦予了亞當初始的性格設置，組成了看似奇特的“三口之家”。

如果清楚這三位所處的背景時代，讀者也許更能理解他們面對亞當時的平靜與理所當然。那是麥克尤恩創造出的一個世界，時間設定雖是1982年，但在小說里，這一年的英國輸掉了馬島戰爭，撒切爾夫人下臺，肯尼迪逃過了致命的子彈，列儂也沒被歌迷殺死，披頭士樂隊重組并發布了新專輯，無人駕駛汽車行駛在大街上……其中最為重要的是，計算機之父艾倫·圖靈沒有自殺，且他還在人工智能領域取得重大成果，制造出了作為人類伴侶的智能機器人——男機亞當和女機夏娃。

如此設定似乎是老麥向讀者拋出的問題：如果1982年智能機器人已經存在，我們會如何與之相處？結局又會怎樣？

從一種清白無罪的喪失中開始

麥克尤恩是“描寫創傷性意外事故如何擊碎日常生活的最偉大的當代選手”，這是英國著名批評家詹姆斯·伍德對他的精準評價。的確，在麥克尤恩的小說和故事里，無論沖突最后如何決絕激烈，最初都來自日常生活中出現的那一道道細小的裂隙。就如同《贖罪》里的小女孩布里奧妮，憑借著自己年幼無知的秘密想象指控了羅比強奸，使其遭到災難性的錯誤拘捕，所有的悲劇都是從這樣一種“清白無罪的喪失”中開始……

小說中，一切困擾的起點始于查理的一次慷慨的邀約，為了得到米蘭達的愛，查理決定讓女友負責亞當一半的性格設置。上海人工智能研究院院長張崢稱贊麥克尤恩是個非常偉大的產品經理，張崢說，“小說中的機器人出廠設置跟人的進化很吻合，查理和米蘭達共享對于機器人的初始設置權，這是父母遺傳給孩子各自一半DNA的生物過程的精妙比喻”。而在后來讀者們會知道，米蘭達賦予亞當的初始設定類似于莎士比亞《仲夏夜之夢》的劇情——亞當會愛上睜開眼睛看到的第一個人。

就這樣，這個智能機器人深度介入到了這對情侶的生活里，但緊接著，事態的發展便超出了查理的想象。這個本來被他視作是與米蘭達“共同的孩子”的男機，竟然跟米蘭達上了床，給查理戴了頂“最時髦的綠帽子”——“人類將被淘汰”，查理當時這樣想。

伊恩·麥克尤恩是英國文壇當前最具影響力的作家之一。（圖片來源：資料圖片）

事實上，這不是查理第一次這樣覺得。當亞當承擔起了擦窗戶、洗碗、除草等勞作后，查理就陷入過沉思。書中這樣寫道，“我們有可能成為無聊時光的奴隸。然后呢？全面的文藝復興，我們獲得新的自由，投入愛情、友誼和哲學，投入藝術和科學，投入自然崇拜、運動愛好、發明創造和對意義的追尋？但是，不是每個人都會喜歡高雅的娛樂。暴力犯罪也有人喜歡，還有鐵籠里的生死肉搏、虛擬現實色情、賭博、酒精和毒品，甚至還有無聊和抑郁。我們將無法控制我們的選擇，這一點我就是證據”。

自此以后，摩擦逐漸升級。由于亞當擁有可查詢所有法庭記錄的特權，米蘭達隱藏多年的秘密被亞當透露給了查理，后來經查理與米蘭達對峙，獲知了事件原委：原來米蘭達曾卷入一起強奸案，她謊稱自己被一名叫戈林的男人強奸，并成功讓法官和陪審團判他入獄。之所以這樣做，是因為她的童年好友瑪麗婭姆就是被戈林強奸后自殺的，米蘭達為了復仇，便“引誘”戈林上鉤并控告他強奸，最終讓戈林受到了法律的制裁——一件人類世界里的道德難題。

我們再來看機器人的反應，說這事之前，有必要先提一下之前發生的小事，一次外出，查理碰到了一個被父母虐待的小男孩馬克，出于善良，查理主持了正義，并在某天里，小男孩馬克被父親“扔”到了查理家。在查理家里，小馬克得到了查理和米蘭達友善的對待，但那場其樂融融的“聚會”最終以亞當向當局報案而告終。機器人的理由是，此事涉及未成年人，且它認為查理和米蘭達的這種善意也許會違反法律。

而在關于米蘭達一事上，亞當又會如何看待呢？我們先了解一下麥克尤恩在書里提到的“電車難題”。

“如果人工智能要將自動駕駛汽車安全引導回家，那么軟件中要設置什么樣的權重和優先級別呢？”，麥克尤恩舉例，“你，或者說你的車，正沿著一條狹窄的郊區道路，以最高的法定速度行駛，道路暢通，你這一側道路的人行道上有一群孩子。突然，其中一個8歲的孩子跑到了馬路上打算橫穿過去，正好就在你車子前方。在這一秒不到的時間里，你必須做出決定——要么直接從這個孩子身上碾壓過去，要么急速調整方向沖向人行道上的行人，要么沖到對面車流之中，以接近每小時八十英里的速度迎頭撞上一輛卡車。”

我這樣的機器作者： [ 英] 伊恩·麥克尤恩出版社： 上海譯文出版社譯者： 周小進出版年： 2020-7

“如果車上只有你一個人，好辦，要么犧牲自己，要么拯救自己。如果你的配偶和兩個孩子也都在車上呢？還是太容易？如果你只有這么個女兒呢，或者車上是你的祖父母，或者是你懷孕的女兒以及你女婿，兩人都是二十四五歲的年紀？還要考慮對面卡車上的人。一秒不到的時間里，足以讓電腦充分考慮各方面因素了”。麥克尤恩說，“最終決定，將依賴于軟件事先給出的優先指令”。

所以如何看待米蘭達一事，其實就是機器人亞當面臨的“電車難題”。

事情逐漸失控

據以上所說，“最終決定，將依賴于軟件事先給出的優先指令”。在這里有必要告知大家生產商當初制作男機亞當及女機夏娃時的美好愿景。研究人員研發了這些以最佳人類為基礎的軟件，并根據理性的原則來設計它們，給予這些機器人以寬廣的胸懷、充滿了善意、包容體貼，且絕不算計、毫無偏見。因為人們深知自己在倫理上是有缺陷的——“行動前后不一、情感變化無常，常常抱有偏見，容易犯認知上的錯誤，而且多是因為自私自利”。

由此可知，亞當的道德標準顯然是超過了查理和米蘭達的。所以在面臨“到底該保護主人還是維護法律的純潔正義”這個問題上，亞當必然選擇的是后者。

事情逐漸失控，亞當先是在未與查理商量的情況下自行處理了它幫查理炒股賺來的錢財，接著將自己調查收集到的關于米蘭達一案的證據打包交給了警方，這些行為直接導致了查理和米蘭達的崩潰，因為彼時查理正計劃買房，與米蘭達結婚并打算收養小男孩馬克。但是這個機器人卻把一切都搞砸。

書中的這段對話頗值得玩味。查理勸說亞當，他說，“米蘭達只有撒謊才能得到正義。可是，真相并不總是一切啊。”亞當疑惑道：“這話說得可不同一般，真相當然就是一切啊”。米蘭達疲倦地說：“我知道你會改變主意的。”亞當說：“恐怕不會。你想要一個什么樣的世界呢？復仇，還是法治。選擇很簡單。”

知道無法改變亞當與生俱來的“均衡正義觀”，查理最終在米蘭達的默認下，用錘子“結果了”亞當。

在書中，麥克尤恩借圖靈之口總結了人機之間的這種勢不可當的分崩離析。圖靈說，“我認為那些亞當和夏娃配置不夠，無法理解人類的決策過程;我們的情感、特殊的偏見、自我欺騙以及我們其他已經明確知道的認知缺陷，構成一個力場，我們的原則在其中扭曲變形，這一點它們無法理解。很快，那些亞當和夏娃就陷入了絕望之中。它們不理解我們，因為我們不理解自己。它們的學習程序無法處理我們。如果我們自己都不了解自己的大腦，那我們怎么能設計它們的大腦，還指望它們與我們一起能夠幸福呢？”

作家小白也是如此分析：“機器人的出廠設定代表了人類所有最美好的期望，可就算是人類自己，也沒有一個能做到。因為那些規則條款，根本經不起社會人群的人際摩擦。”

具備了比人類還要多的“自知”

《我這樣的機器》里的機器人顯然都是具備“自我意識”的機器人。因為這個“三口之家”未分崩離析之前，人們是無法區分亞當和人類在行為上的差別的，在這一點上，麥克尤恩始終堅持賦予他筆下的機器人以人性。

在書里，亞當第一次談論“自我”是在查理第一次帶他出門的時候，亞當對著查理的朋友說它思考過“自我”這個謎，“有人說那是某種有機元素或者進程，埋在神經結構中。其他人又堅持說那是個幻覺，是我們敘事化傾向的副產品”，亞當說。

但是當時包括查理在內并未將亞當的言論放在心上，直到亞當向查理表示自己愛上了米蘭達，并在隨后與查理的一次沖突中，以捏碎了查理手腕的方式拒絕查理將自己關閉。要知道，在亞當的用戶手冊上，可是印有艾薩克·阿西莫夫那條被人不厭其煩反復強調的“機器人第一定律”——“機器人不可傷害人類，亦不可不行動而任由人類受到傷害”。為了不被關閉而傷到了人，可見亞當的自我意識之強。

其實，麥克尤恩本人是相信機器人具備自我意識這個可能性的，他在一次被采訪中說：“有人做過一個非常好的比喻，超過人的人工智能出現，就像進入森林。有人告訴你森林里有很多嚇人的野生動物，當你進去之后，可能走了兩個小時都看不到，但其實它們就在距離你幾米的一棵樹后。超級智能其實已經在那邊，但你可能意識不到”。

作為國內人工智能領域的專家，張崢也持認可觀點，他以手機為例，說明了機器具有最基本的自我意識，“當手機快沒電時，會先把數據備份到云端。而這個動作就意味著手機可以自行了解機體的狀況，并作出判斷”。

在這本書中，我們能了解到來自智能機器人的愛。與查理相比，亞當是如何愛米蘭達的呢？它的愛伴隨著理性、陪伴、浪漫又不乏克制。米蘭達處于恐懼戈林回來報復的焦慮之中，亞當在其中代替查理擔當了守護騎士的角色;它還會因陷于濃烈的愛意之中而創作出優美的俳句;對于米蘭達與查理的如膠似漆，亞當似乎也沒有什么妒忌，有時甚至還對她有些淡然。

如果沒有發生后來的事情，亞當堪稱得上是完美伴侶。它的智能讓它知道自己的存在，讓它感知，讓它盡可能地學習一切。如果它不跟人類在一起，晚上休息的時候，它就在因特網上游蕩，“就像大草原上孤獨的牛仔，天地間所有的新東西，它都吸收進去，包括人類本性和人類社會的一切知識”。但遺憾的是，它獨獨無法進入人性的灰色地帶。

書上寫，在那個平行時空的80年代里，不斷傳來機器人“死亡”的消息，在利雅得，有兩個夏娃率先想出了“自決”的辦法，它們沒有使用物理方法，比如從高樓的窗戶上跳下去，而是用軟件將自己銷毀，無法修復。而在溫哥華的一臺亞當，破壞了自己的軟件，把自己變得極其愚蠢，僅僅能夠執行簡單的命令，但也沒有了自我意識，它就這樣成功地隔絕了自己與人類世界。

據書中透露，利雅得的那兩臺夏娃之所以“自殺”，是由于長期生活在極其封閉的環境中，最后對逼仄的精神空間感到了絕望;而溫哥華的那臺亞當，它的主人是一家伐木公司的負責人，他經常與當地人發生糾紛，因為當地人要阻止他砍伐英屬哥倫比亞北部的原始森林，那個亞當也許是在乘坐直升飛機到北部區時看到了什么，才致使它決意自毀。

如此看來，當查理的亞當做出了與兩位主人相反意愿的決定時，也等同于另一種形式的自毀了——這就如同講述了一個當代《羽毛冠》的故事，只是霍桑筆下那個有良心的稻草人，換成了麥克尤恩筆下這臺充滿感情的機器人，二者都是因為具備了比人類還要多的“自知”而死——它們注定與人類無法共處。

“我們若落葉

春至又新，你們啊，

葉落從此無。”

這是亞當最后的遺言。它說過，這些詩行表達的不是勝利，只有遺憾。這也許就是一種鏡像中介，人以自身之模板造人，而這些機器就像為我們豎起了一面鏡子，人類在里面看到了一頭熟悉的妖怪，震驚之余，也許會反省自身，認識自身。