當人工智能變成人類殺手

胡文利

1942年，著名科幻小說家阿西莫夫提出了“機器人三定律”：“第一，機器人不得傷人，或者對身處險境的人袖手旁觀;第二，機器人必須服從人的指示，除非這條指令違反第一條;第三，在不違反以上兩條的情況下，機器人有權自保。”

這些原則對后世的科幻文學產生了深遠影響，也成為現代人工智能（AI）學科的奠基石。數十年來，“失控的機器人”是人類揮之不去的夢魘，一代又一代科學家試圖將日益強大的AI永遠置于阿西莫夫守則的禁錮中。

然而，今年11月，由美國HBO推出的紀錄片《殺手機器人的真相》揭示了冰冷的現實：AI似乎正在遠離阿西莫夫的構想，朝著《終結者》或《西部世界》的方向發展。“這是本年度最恐怖的紀錄片。”英國《衛報》評價道。

殺手機器人已走進現實

《殺手機器人的真相》在機器人“科多莫羅德”的敘述中開場。“她”首先回顧了2015年發生在德國法蘭克福大眾汽車工廠里的一起悲劇。一名21歲的工人走進“關押”機器人的“安全籠”中進行調試，機器人突然“發飆”，用機械臂抓起工人按在金屬板上碾壓，致其死亡。事故發生后，大眾公司含糊其詞，至今未得出調查結論。檢察官曾考慮提起訴訟，卻不知該指控誰。

據美國職業安全健康管理局統計，過去30年間，機器人制造了30多起命案。最近一次是2017年，57歲的技術人員萬達·霍爾布魯克在密歇根州一家汽車配件廠被機器人殺死，事件細節令人毛骨悚然。這家工廠里的機器人和人類在不同區域工作。然而，有個機器人“越界”了，它來到霍爾布魯克身邊，舉起沉重的配件砸向她的頭顱。……