科幻關于機器人的技術反思

梁小聰

萊姆科幻劇《忠實的機器人》

《忠實的機器人》是萊姆的一部鮮為人知的科幻電視劇。該劇于1963年首次出版于萊姆的電視劇和戲劇集《月夜》。但早在1961年，這部作品已經由波蘭著名電影導演、劇作家、編劇、現任華沙電影學院院長雅努什·馬耶夫斯基改編成了一部科幻戲劇，搬上了波蘭電視臺的電視劇場熒幕。隨后該劇還登上了蘇聯、捷克斯洛伐克、德國等國的戲劇舞臺。

《忠實的機器人》講述了機器人格勞梅爾秘密制造人類并謀殺主人的故事，氛圍幽默，行徑詭異。故事發生在2000年的一天，作家克萊普內爾收到一個無名包裹，里面裝著一個名叫格勞梅爾的機器人。它雖花言巧語，但待人真誠，細致體貼，服務周到。漸漸地，作家對機器人的態度從抗拒轉為接受，并認定它為“忠實”的仆人。殊不知，機器人格勞梅爾正醞釀著一個天大的“造人”計劃。它以主人名義訂購“造人”材料，偷盜主人衣物，并為罪行撒謊。一次聚會上，警官夫婦和出版社老板夫婦談起一樁在逃機器人謀殺案：一個精通各門學科知識和生活技巧的在逃機器人將自己打包寄到人類家中，意欲制造一個完美的真人類！這天，格勞梅爾終于完成造人，取名提普，并宣稱自己和房子都屬于提普。作家和提普為機器人和房屋的“所有權”吵得不可開交。這時，機器人的陰謀因一個制造破綻而徹底破碎。“忠實”的機器人借機毒殺二人，然后打電話請求送一個快遞紙箱上門……

萊姆《忠實的機器人》中，機器人格勞梅爾究竟是個什么形象，為何會做出說謊和謀殺的行為，“機器人造人”的故事背后到底映射了怎樣的憂慮？

機器人的“奴仆”功能與形象

機器人格勞梅爾任勞任怨，一絲不茍地照顧主人的衣食住行。可見，機器人在作品里首先執行的就是服務人類的功能，第一印象就是忠誠能干的“仆人”形象。1921年，恰佩克在《羅素姆萬能機器人》中首創“機器人”（robot）的概念。它源于捷克語的“robota”，意為“苦力”或“農奴制時代的勞役”，可譯成“人造奴”。（林歆：《機器人的誕生與人的神化——紀念<羅素姆萬能機器人>和“機器人”概念誕生100周年》，科普創作評論，2020年第3期，第26-28頁）若溯源西方早期類人機器人形象，不難發現機器人作為“奴仆”的軌跡，其中包括中世紀時期德國大阿爾伯特用皮革、木頭、蠟和金屬制造的“機械仆衛”，“它依來者意圖決定是否放行”。這跟《忠實的機器人》中的機器人格勞梅爾的行為相似：他會根據主人對來客的喜好來選取酒水的品質，又或是以啟程拜訪教授為由讓主人“脫離苦海”。因此，可以大膽猜測萊姆從大阿爾伯特的機械仆衛形象中獲取了一定的創作靈感。

機器人的說謊、叛變與謀殺現象

阿西莫夫提出“機器人三定律”，規范人機倫理，降低機器人毀滅人類的可能性。然而，在機器人科幻文學或影視作品中，常以機器人反叛作為故事轉折點。機器人敘事視角從機器人忠實的“奴仆”形象轉變為了兇殘的“弒主者”，這也是19世紀下半葉機器人科幻作品的重大轉型。如安布羅斯·比爾斯的短篇小說《莫克森的主人》（1899）中的下棋自動機因輸棋惱羞成怒殺死制造者等。萊姆的《忠實的機器人》中，機器人格勞梅爾因計謀敗壞而毒殺主人和自造人提普。

機器人說謊是叛變的前兆。而機器人說謊，是一個有趣的文化現象，是說謊者有意識地扭曲事實來掩蓋罪行的行為，但欺騙效果則取決于謊言接收者是否相信或接受。（趙勇、王瑤，《會說謊的機器人——科幻電影中人工智能的“作偽”表意》，科普創作評論：2021年第1期，第31頁）那么，萊姆筆下的機器人格勞梅爾為何能達到其欺騙效果呢？首先是主人已經對機器人產生了較嚴重的迷戀和依賴心理。克萊普內爾在家庭工作上都依靠機器人，機器人的存在俘獲了人類的心，取代了主人的能動力。此外，機器人欺騙可歸納為三種形式：外部狀態欺騙、表面狀態欺騙、隱藏狀態欺騙。其中，第三種“隱藏狀態欺騙”可理解為背叛的一種形式。后來又有人提出“完全欺騙”和“部分欺騙”的分類方法，但無論哪種類型都與謊言接收者的意識和潛意識緊密聯系：人類通常都有“自愿終止懷疑”或“自欺欺人”的想法。如此看來，《忠實的機器人》中的主人也一直在自我欺騙，即使后來得知格勞梅爾就是警察局一直在緝捕的機器人，也愿意替它隱瞞真相。在此催化劑作用下，機器人說謊、反叛和謀殺便來得更加簡單了。

機器人造人背后的技術憂慮

常見的科幻作品通常都是描述“人造機器人”，而萊姆的《忠實的機器人》里，竟出現了罕見的“機器人造人”。在人工智能生命進化過程中，人性缺陷極有可能帶來難以估測的失控結果。（齊佳敏，《機器人為何殺戮？——析<莫克森的主人>中的人工智能生命觀》，廣東外語外貿大學學報：2021年第2期，第110-118頁）機器人格勞梅爾的理想是創造一個“完美”的人類——這一想法不得不讓人產生對技術的焦慮和恐慌，而弒主機器人的形象也不得不讓人反思技術失控帶來的后果。但與此同時，萊姆筆下那個怪誕的未來世界里，不僅充滿了人類對技術的不可控發展的恐懼，還能發現大量的自動機、機器人等人工智能產物自身的恐懼。在《忠實的機器人》中，出版社老板表示，機器人犯錯并非機器人自身的錯，其罪在于創造它們的人類工程師身上——人類應該改善它們，而不是責罰它們。萊姆描繪的世界里，人類有時對他們創造或購買的服務型機器人始亂終棄，這種人機關系被稱為“遺棄式愛慕關系”或“電子家政服務關系”，這種相處模式會導致機器人驚慌失措，甚至發瘋失控。《忠實的機器人》中，格勞梅爾講了這么一個睡前故事：從前，當世界上還沒電時，山里住著一個善良的胖子和蒸汽機器人。清晨，機器人會到森林里拾干柴、摘蘑菇、給主人做早餐。一天，森林里出現了一個怪物，身上支著兩把大鐵鉗，躲在了樹的背后。當機器人走到他面前時，他哀求道：“我是個孤兒，在這世上一無所有，只有這一對鉗子了……”可見，在科幻文學世界里，不僅有人類對于機器人失控的恐懼，也有機器人本身對于被人類拋棄、“生命”垂危和未知外界感到的恐懼。也許，萊姆筆下的機器人格勞梅爾“造人”、謀殺，只是因為在人類世界里感到不安與害怕吧。

結語

雖然萊姆的科幻劇《忠實的機器人》在國內知名度不高，但其文本中展現的機器人奴仆形象、機器人說謊和謀殺行為、機器人造人現象，都體現了萊姆對科技發展、人類本性的哲學思考。萊姆是一位悲觀主義的未來學家，他自稱是個有遠見的保守派，強調自己與所有的極端事物格格不入，無論是技術主義，還是技術恐懼。他認為：“生產或人際關系領域的每一個前進的步伐、每一個新的舉動，通常都會帶來一些迄今為止尚不可知的不便、威脅與罪惡。”如果這部科幻劇也能搬上中國戲劇舞臺，不知會有怎樣的反響呢？