智能悖論

在經典科幻電影《2001》中，太空船的主機HAL面臨一個進退兩難的困境。計算機指令要求他既要完成飛船使命（調查一件在木星附近的人工制品），又不能讓船員知情。他決定通過殺死船員來解決這一矛盾。

1997年，在加里·卡斯帕羅夫與IBM的超級計算機深藍第二次對決失利后，人們預言，無論是作為競技性比賽，還是作為觀賞性運動，電腦最終會令國際象棋失去樂趣。

這種輕蔑的態度與時代的精神是一致的。在我們這個時代，程序算法的精密超越了有缺陷的人工判斷。從網絡搜索到市場營銷和股票交易，甚至包括教育和治安在內，計算機根據復雜決策規則處理數據的能力從各個角度保證我們的生活變得更加美好。

乍一看來，這似乎是一個純粹的未來福音，然而開車不單單是技術操作。對于技術操作，機器可以比人做得更好。但是，開車還包括道德抉擇。如果讓汽車自動駕駛，放棄的不僅是對于汽車的控制，還包括駕車時可能面臨的道德判斷。

事實上，反對盲目崇拜程序的運動已經開始。

Anti被程序

隨著機器人變得更加智能與普及，假以時日，智能化機器勢必要在不可預料的處境下做出生死攸關的抉擇，如此一來機器人便有了——或者像是有了——道德選擇能力。在當前的各種武器系統中，操作員還處于“決策圈內”，但隨著系統復雜度的提高，并為之配上可自主執行系統命令的武器，操作員很可能就被安置在了“執行圈上”。

果真如此的話，則機器人將陷入倫理困境。如果已知目標在一所房子內，但其中也可能有平民，無人機是否應該向房子開火？如果是以撞上其他車輛或者危及車內乘員為代價，無人駕駛汽車是否還會選擇突然轉向以躲避行人？面對可能會造成恐慌的情形，救災機器人是否應該告訴人們正在發生的事情真相？此類問題開創了“機器人道德”這一領域，其主要目的是使機器人有能力對此類問題做出恰當的選擇——換句話說，就是賦予它們明辨是非的能力。

讓汽車自主行駛，谷歌目前正在開發這一設想。電腦化的汽車已經在內華達州，佛羅里達州和加利福尼亞州合法化，它們可以開得更快，靠得更緊密，在保證安全的同時減少交通堵塞。它們會在辦公室把你放下，然后自己停靠好。我們有什么理由不喜歡呢？首先，葉夫根尼·莫羅佐夫曾對計算機輔助下的“解決主義”提出過尖銳的批評，就像他指出的那樣，城市規劃的結果對某些人來說并不可取。“隨著更多人開始駕車，自動駕駛汽車帶給我們的是不是低劣的公共交通？”

紐約大學的心理學教授加里·馬庫斯在《紐約客》上提出了一個生動的思想實驗。假設你坐在自動駕駛車中通過一座窄橋，一輛滿載小孩的失控校車朝你猛沖過來。橋上沒有地方允許兩輛車錯車而過。自動駕駛汽車能否做出決定駛下窄橋，以你的死挽救孩子的生命？

馬庫斯的這個例子說明了一個事實：對于技術操作，機器可以比人做得更好，但是，開車還包括道德抉擇。

數字倫理

在巴爾的摩和費城，軟件已經被用于預測哪些囚犯被釋放會再犯罪。這種軟件基于犯罪數據庫，根據地理位置、先前的犯罪類型和上一次犯罪的年齡等變量進行計算。根據《連線》雜志今年的一份報告，“該軟件旨在取代假釋官根據假釋犯的犯罪記錄做出的判斷。”這種道德判斷關乎一個人的自由，將這種道德判斷放手給軟件處理所當然會讓一些人感到不舒服。首先，我們還不知道這套系統是否是比人類更準確。其次，即使系統的判斷更加準確，但只要它不是完全正確，就不可避免地會產生誤報——導致不會再犯罪的人持續被監禁。毫無疑問，在現有的人工判定系統下，這樣的誤報也會發生，但至少我們可以讓做決定的人負上責任。你怎么能讓一個程序負責？

如果自主化的無人機在行動中出了岔子，或者無人駕駛汽車出了車禍，必須有這么一些法律可以幫助人們確定責任歸咎于誰，是機器的設計者、程序員、制造商還是操作人員。為了明確責任歸屬，必須使自主化系統保留詳盡的日志，由此人們便可以在必要的時候弄清楚系統各種決定背后的依據。這其中包含了對系統設計的要求：例如，（無人機或無人駕駛汽車）不能使用人工神經網絡，這種決策系統從實例中學習，而不是遵循預先設定的規則。

其次，在機器人中植入了倫理體系的情況下，它們所做出的判斷需要符合大多數人類的判斷標準。實驗哲學應該對此有幫助，該哲學研究人們如何應對倫理上的兩難困境。最后一點，也是最重要的一點是，工程師、倫理學家、律師和政策制定者需要進一步通力合作，否則他們可能會做出類型各不相同的規則。倫理學家與工程師的合作是雙贏的：倫理學家在試圖“教授”機器倫理的過程中可能會加深自己對倫理學的認知。而工程師則可以向大眾保證其設計出來的機器人沒有道德倫理缺陷。

科技推進了人類社會的發展，然而其每一次進步都伴隨著新問題的出現，智能機器人也不例外。越早解決掉它們所帶來的道德選擇難題，人類就越容易享受其肯定會帶來的好處。

蘇晨根據《經濟學人》《衛報》綜合編譯。