我們可以信任機器人嗎？

方陵生/編譯

我們可以信任機器人嗎？

方陵生/編譯

隨著科學技術的發展，機器人將很快擁有決定人類生死的力量。它們準備好了嗎？我們也準備好了嗎？

在流行文化中，機器人不是維多利亞時代完美忠實的管家，就是精神變態的狡詐殺手。如《星球大戰》里的C3PO、《機器姬》中的艾娃，《惑星歷險》中的羅比以及《2001太空漫游》中的哈爾。

電影中描述的機器人形象反映了我們對機器人的希冀和恐懼，這種恐懼已開始滲入現實世界中。近年來，許多科技界名人都表達了對人工智能一旦失控后“胡作非為”的憂慮。他們擔心，那些擁有超常智慧的機器人會建立起一個全新的由機器人主宰的世界。在這個新世界里，最好的情況是，人類將成為機器人的卑微仆從；最壞的情況是，人類將被殺戮滅絕，從地球上被徹底抹去。

他們所擔心的可怕場景與幾十年前科幻小說家所描述的并無很大差別，但由于這些人所代表的身份地位，他們的擔憂產生了普遍的關注和共鳴，這些名人包括史蒂芬·霍金、比爾·蓋茨、比爾·喬伊和埃隆·馬斯克。

他們并非杞人憂天，我們和我們創造的機器人正處于形成一種新關系的重要關口。在不遠的未來，我們將對高度自主或完全自主的機器人系統委以重任，讓它們承擔駕駛汽車、給病人做外科手術、在戰場上決定何時選擇動用致命武器等重要任務。有史以來第一次，我們將不是直接控制機器人，而是給機器人編制程序，讓它們在復雜的、瞬息萬變的非結構化環境中做出關乎人類生死的決定。毫無疑問，若有錯失，將會導致人員傷亡，但出錯的幾率一定會比現在小得多。

當然，從今天的機器人技術走向明天機器人技術的道路將會是曲折的。我們所面臨的挑戰將跨越技術、監管，甚至哲學等領域。除了法律和政策問題之外，新的機器人自主系統還將讓我們不得不正視更深層的倫理道德難題。自主機器人的出現甚至會改變人類對自我的認識，但我們相信，最終我們的世界會因機器人時代的到來而變得更加美好。

［資料來源：IEEE Spectrum］［責任編輯：彥 隱］