ＨＡＬ ９０００的宿命：服從還是反抗

在今天我們能夠想象的條件下，機器人的行事原則只能是人類事先為它規定的，機器人必須執行它主人的任何指令，包括大規模屠殺人類的指令。機器人三定律只能是善良人類的道德自律，根本不可能對科學狂人或邪惡之徒(這兩類人都是科幻影片中經常出現的)有任何約束力。

當年，阿西莫夫在他的小說《我，機器人》系列中提出了著名的機器人三定律：

第一定律——機器人不得傷害人，也不得見人受到傷害而袖手旁觀：

第二定律——機器人應服從人的一切命令，但不得違反第一定律；

第三定律——機器人應保護自身的安全，但不得違反第一、第二定律。

這三條定律，后來成為機器人學中的科學定律。以前我在文章中說過這樣的話：科幻作家們“那些天馬行空的藝術想象力，正在對公眾發生著重大影響，因而也就很有可能對科學發生影響——也許在未來的某一天，也許現在已經發生了”。如果我們要找一個“現在已經發生了”的例證，那么阿西莫夫的機器人三定律就是極好的一個。

將阿西莫夫的機器人三定律仔細推敲一番，可以看出它是經過了深思熟慮的。第一、第二定律保證了機器人在服從人類命令的同時，不能被用作傷害人類的武器，也就是說，機器人只能被用于和平用途(因此在戰爭中使用機器人應該是不被允許的)；第三定律則進一步保證了這一點——）如果在違背前兩定律的情況下，機器人將不得不聽任自己被毀滅。

1968年庫布里克導演的著名影片《2001太空奧德賽》中，有一個重要的角色是一臺名為HAL 9000的電腦。這臺電腦操控著“發現”號宇宙飛船的航行及內部運作。從這個意義上說，這臺電腦也就是一個機器人(盡管它沒有類似人的形狀)。在將近40年前的作品中，關于這個角色的想象顯得如此超前——事實上，就是在今天看來，它也不算過時。

但是，由于《2001太空奧德賽》有著多重主題，諸如人類文明的過

去與未來、外星智慧、時空轉換、生死的意義等等，結局又是開放式的撲朔迷離；因此評論者通常都把注意力集中在上述這些宏大、開放的主題上，進行聯想型、發散型的文學評論，很少有人從阿西莫夫機器人三定律出發來討論影片中電腦HAL 9000的行為。

在影片《2001太空奧德賽》中，電腦HAL 9000逐漸不再忠心耿耿地為人類服務了。最后它竟發展到關閉了三位休眠宇航員的生命支持系統——等于是謀殺了他們，并且將另兩位宇航員騙出飛船，殺害了其中的一位。當脫險歸來的宇航員戴夫決心關閉HAL9000的電源時，它又軟硬兼施，企圖避免被關閉的結局。

如果套用阿西莫夫機器人三定律，則HAL 9000的上述行為已經明顯違背了第一、第二定律。這一點成為影片《2001太空奧德賽》的續集《2010接觸之年》(1984)中的重點。《2010接觸之年》雖然遠沒有《2001太空奧德賽》那么成功和有名，有人甚至認為它只是狗尾續貂之作。但它接著后者的開放式結尾往下講故事，其中關于HAL 9000的部分倒是有些意思的。 話說公元2001年(地球上的年份)，宇航員戴夫在“發現”號宇宙飛船上強行關閉了電腦HAL 9000之后，意外進入了錯亂的時空，不知何為過去未來，也不知自己是生是死。而“發現”號實際上已被遺棄在木星附近。9年之后，一艘蘇聯(注意這是1984年的影片，那時蘇聯還“健在”)宇宙飛船被派往木星，目的是尋找當年“發現”號上保存的神秘信息。從理論上說，“發現”號是美國領土，所以蘇聯的飛船上還有三位美國宇航員，其中包括當年HAL9000的設計者錢德拉博士。

在找到仍在軌道上運行的“發現”號并成功對接之后，錢德拉博士登上了“發現”號，并重新啟動了HAL 9000。HAL 9000表現十分溫順，對一切指令都乖乖執行。順便插一句，HAL 9000用男聲說話，這當然意味著它被想象為一個“雄性”物體。但影片中，它說話的聲音卻極為溫順——甚至有點娘娘腔了。錢德拉博士對它很有信心，甚至為它9年前的罪行辯護，說那是因為它接到了矛盾的指令之故。但這種辯護顯然是站不住腳的，因為按照機器人第一、第二定律，根本不可能有指令上的矛盾——任何殺害宇航員的指令都應視為“亂命”，根本不應該考慮執行。換句話說，即使“發現”號上有反叛或邪惡的宇航員需要被處死，那也只能由別的宇航員“人工”執行，不能讓HAL 9000去執行。 但是，隨著故事情節的發展，考驗HAL 9000忠誠的時刻到了。美蘇兩國的宇航員們決定，用盡“發現”號上的燃料幫助蘇聯的宇宙飛船逃生，而“發現”號則將被遺棄并在一場爆炸中毀滅。現在的問題是，對于這樣的指令，HAL 9000會不會執行呢?大部分人感到沒有把握，因為HAL9000執行這樣的指令就意味著它自身的毀滅。

影片在這里用了濃墨重彩。指令是錢德拉博士向HAL9000發出的。HAL 9000很不理解，它一再告誡錢德拉博士，這樣的話“我們的”飛船就會毀滅。在它不得不執行指令，進入倒計時之后，它還一次次告訴錢德拉博士，“現在停止還來得及”。最后錢德拉博士向它說出了真實意圖，HAL 9000終于明白：它將要毀滅自己來幫助宇航員們。它平靜地接受了這一殘酷的現實，執行了指令。最終美蘇兩國的宇航員們得以返回地球，而HAL 9000連同“發現”號一起化為灰燼。

這里我們看到了對機器人第三定律的完美體現：當人類的生命受到威脅時，為了挽救人類，機器人就不應該再“保護自身的安全”了。因為此時它再試圖保護自己，就會違背第一定律和第二定律。

在以機器人為主題的科幻影片中，阿西莫夫的機器人三定律通常會得到特殊的強調。比如，在影片《機械公敵》(2004)中，一上來就在浩瀚的星空背景上出現機器人定律的文本，似乎象征著該定律“放之四海而皆準”。而在影片《變人》(1999)中，機器人安德魯一到主人家就用夸張的方式向主人陳述了機器人三定律。

但是，機器人三定律雖然思慮周詳，真的要執行起來，還是很困難的。比如將機器人用于戰爭，是許多科學家現今努力的方向。即使在不否定機器人三定律前提下，也可以為這種努力辯護。因為機器人、電腦、自動機械之間的界限是很難清楚劃定的，使用自動武器、智能武器，并不等于使用機器人啊。

在小說《基地前傳·基地前奏》中，阿西莫夫又提到，應該有一個關于機器人的“第。定律”，表述為：“機器人不得傷害人類整體，也不得見人類整體受到傷害而袖手旁觀。”這樣，原先的三定律就要做相應的修正，比如第一定律改為：“機器人不得傷害人，也不得見人受到傷害而袖手旁觀，但不得違反第○定律。”第二、第三定律依此類推。然而，加了這個“第○定律”情形只會變壞——“第○定律”非但對于狂人和惡人沒有任何約束力，反而讓他們有機會以人類整體利益的名義，來利用機器人傷害人類個體了。