機器人會成為人類的“敵人”嗎?

1989年，前蘇聯象棋冠軍古德科夫與一位“機器人棋手”對弈。這是一臺超級電腦，古德科夫是具有世界級水平的國際象棋大師。當著幾百名棋手及觀眾，古德科夫連贏三局，當他開始執棋子下第四局時，超級電腦的金屬棋盤表面突然放出一股強大的電流，使得這位國際象棋大師在眾目睽睽之下，突然觸電死亡。

事件發生之后，警方以為是“機器人棋手”——超級電腦出了故障，發生了漏電所造成的。但是，經過仔細檢查，電腦及電路完好無損，功能正常。于是，有不少人推斷，說這超級電腦在連輸三局之后，“惱羞成怒”，為了轉敗為勝，發出指令，加大電流把對手殺死了。前蘇聯一位專家和瑞士一位法律學者認為，超級電腦已具有人的思維，在屢敗情況下，難免會產生殺死對手的念頭。

美國和日本的電腦專家持不同看法。他們認為，“機器人棋手”還都是按照人所編制的程序進行工作的，當代的超能電腦還不具備人類的思維和情感，不可能因為輸了棋就自行殺人。再說即使“機器人棋手”有了思維能力，也不會為了贏棋而殺死對手，因為殺死對手并不算勝。

后來經過深入分析，正確的解釋應該是：由于電子霧的作用，使超級電腦的內部程序出現了紊亂，動作出現了失誤，才產生強大的電流，殺死了對手。

最著名的科普作家阿西莫夫，早在1950年寫的《我，機器人》這本書中，就提出了機器人的三原則：

第一，機器人不得傷害人，也不得見人受到傷害而袖手旁觀；

第二，機器人應服從人的一切命令，但不得違反第一原則；

第三，機器人應該保護自身的安全，但不得違反第一、第二原則。

阿西莫夫為我們提出了應當遵守的憲章。他的正確預言令人信服。機器人發展以后，人類應當對它加以約束與限制，讓它為人類造福。這三原則是否會有效，人類是否能做到，現在是很難斷言的，只有等候將來實際的發展來說明了。