機器與道德

好萊塢影片《人工智能》中，那個有潛意識，甚至會做夢的機器男孩大衛令人難忘。片中，21世紀中期科學家們，為了應對日漸惡劣的自然環境，研制出各種人工智能機器人，為愛而誕生的大衛是其中之一。

為了安撫可能失去兒子的養父母，大衛為媽媽泡咖啡，和她捉迷藏，在紙上寫滿了對爸爸媽媽的愛。然而，因為不了解人類社會而頻頻闖禍的大衛還是被媽媽拋棄了。在躲過機器屠宰場的殘酷追殺后，大衛卻看到一個和自己一模一樣的男孩。他沒想到自己只是一個復制品。由愛而產生的仇恨被激發了，他揮起武器要殺死那個男孩……

那些生活在科幻世界中，看似離現實遙遠的具有人類情感的機器人，如今正隨著機器人自動化程度的提高而臨近。人們相信，電腦控制的機器所面臨的倫理問題已經脫離了科幻的領域，而進入了真實的世界。

或許真的不再遙遠了。1985年蘇聯國際象棋冠軍古德科夫同機器人棋手下棋連勝3局，機器人突然向金屬棋盤釋放強大的電流，將這位國際大師殺死。雖然后經分析認為，是電子霧使超級電腦內部程序出現了紊亂，而產生強大電流，但人們更愿意相信，是因為連續的失敗引發了機器人的憤怒而造成這場悲劇。

事實上，機器人在幫助人們解決各種難題的同時，也讓人糾結，如果它們在工作中出了差錯造成事故，該由誰負責？尤其是，當這些機器人擁有了“高智能”，能“自學成才”，還可以根據自己的所“見”所“想”自作主張的時候。

看來，機器人一旦擁有智能，需要的就不僅僅是維護和修理，更需要規則約束，人們要找到一些方法，幫助它們作出更好的道德判斷。

有道德感的機器戰士

毫無疑問，軍事科技走在智能機器的前列，它的發展已派生出極為豐富的機器種類。諸如能爬窗跳房并保持拍攝狀態的沙蚤機器人；可以在墻上爬行的6條腿機器蟑螂RiSE；能在崎嶇的地形跟著人類小跑，還能負重180千克的機器狗LS3……

美國國防部甚至希望在2015年前用機器人取代其1/3的戰車和軍人，但美國陸軍仍擔心機器人存在失控的可能性。研究人員正在研究如何讓機器人使用致命武器的同時，遵守國際法和交戰規則。有消息稱，具有“道德感”的機器人士兵將在未來20年內正式登上戰場。

負責這項研究的羅納德?阿金博士正在制定一套機器人交戰規則，以確保它們能根據道德準則使用致命武器。他采取的方法就是創造一種被稱為“潛在行動的多維數學決策空間”的軟件系統。他在提交的一份研究報告中說，這套融合了人類悔恨、同情、內疚等情緒的軟件安裝到戰爭機器人上后就能扮演“道德適配器”的角色，把機器人所有可能的行動分為“道德”和“不道德”兩種，并根據需要選擇相應武器系統。機器人在使用大威力武器前必須經過“道德適配器”審核，當使用武器的“負罪感”低于標準值才可行動。

阿金博士舉了一個例子。美軍常用的無人駕駛飛機攜帶有精確制導炸彈。當無人機準備打擊某個目標時，其自帶的“道德適配器”覺察到動用機槍可能導致平民傷亡，便會及時作出“有罪”判定，機槍會被停用。而無人機下一步計劃發射威力更大的“地獄火”激光制導導彈時，“道德適配器”將發出更強烈的“有罪”提示，此時由于“有罪”提示達到最大允許量，無人機的武器系統將會失效。

美國《華盛頓郵報》的預測是，用不了20年，具有“道德感”的機器人能從根本上改變“戰爭屠宰場”的面貌。常規戰爭乃至種族屠殺將因這種機器人的干預而消失。希望如此。

機器人法律三原則

實際上，阿金團隊的工作與20世紀50年代科幻作家艾薩克?阿西莫夫提出的“機器人三原則”有相似之處。所謂“機器人三原則”，就是機器人不能傷害人類，也不能眼看人類將要遇到傷害而袖手旁觀；機器人必須服從人的命令，除非這些命令與第一條原則相違背；機器人應該能保護自己，但與前兩條原則相違背的情況除外。他提出的規則是為了保證機器人在任何情況下都不傷害人類，而阿金的準則是為了確保機器人不在“不道德”的情況下殺害人類。

事實上，首先，法律需要界定，如果一架無人駕駛飛機襲擊了錯誤的目標，或者一輛無人駕駛汽車引發了事故，設計者、編程者、生產者和操控者是否有責任。為了界定責任，自動系統必須保存詳細的記錄，這樣才可以在必要時解釋它們所作決定背后的理由。這對于系統設計有重大的影響。例如，人工神經網絡和向實例學習決策過程的系統發展將受到制約，取而代之的是要求機器人遵守事先制定好的規則。

其次，一旦機器人被植入道德系統，它們所作出的判斷需要被大部分人所接受。研究人類如何處理道德困境的實驗性哲學技術，將幫助實現這個功能。

最后，也是最重要的一點，工程師、倫理學家、律師和政策制定者要進行更密切的合作。如果讓他們設計出自己的機器人，每個人都會制定出完全不同的一套規則。倫理學家與工程師的合作讓雙方均有受益：通過向機器傳授倫理，倫理學家對自己所研究的領域會有更深入的了解；工程師需要向社會保證，他們沒有回避任何倫理問題。人工智能所面臨的道德問題越快得到解決，人類就可以越早享受到它們所帶來的福祉。

在經典科幻影片《2001太空漫游》中，飛船電腦哈爾遇到了一個兩難選擇。它收到的指令要求它既完成飛船的任務，又向宇航員隱藏真實的目的。為了解決這個矛盾，它試圖殺死船員。而有了這個界定，哈爾就可以作出更好的道德判斷了。

雨讀根據《經濟學人》、《遼寧日報》、《科學人》、《高中生》雜志綜合編輯。