無人駕駛汽車的道德困境

蘇美蘭

“電車難題”是倫理學領域中一個著名的思想實驗。在“電車難題”的場景中，五個無辜的人被綁在鐵軌上，你正駕駛著一輛電車呼嘯而來。如果你不拐彎，那么這五個人死定了，如果你拉下列車控制桿，使列車朝另一個方向駛去，問題又來了，在另一個方向的軌道上有一個同樣無辜的人。自從1967年英國哲學家菲利帕·福特首次提出“電車難題”以來，哲學家們一直沒有討論出統一的答案。主流的觀點漸漸變成兩種，一種是道義論，另一種是結果論。按照道義論，所有生命皆平等，所以你不該轉彎，但按照結果論，你應該轉彎，畢竟只犧牲一個人才能獲得最優的結果。這兩種觀點在某種程度上都是符合道德的，但行為卻截然相反（詳見《大科技·百科新說》2016年第2期《電車難題：轉彎？不轉彎？》一文）。

“電車難題”使哲學家們陷入了兩難的境地，他們越是冥思苦想，就越來越陷入泥淖。然而現在，不僅哲學家要面對這個令人討厭的難題，汽車產業的政策制定者和汽車生產商也開始受到它的折磨了。由于無人駕駛汽車已經上路，政策制定者和汽車生產商不得不考慮一下“電車難題”在現實中出現的可能性。

受到沖擊的設計理念

從表面上來看，無人駕駛汽車似乎并不會帶來新的不同。一輛汽車，不論它受汽車軟件控制，還是由人類親自駕駛，都要面臨撞誰不撞誰的選擇。然而實際上，只有在無人駕駛汽車中，“電車難題”作為一種思想實驗才更具有現實意義。在現實中，人類司機在遭遇緊急情況時，比如，面前突然沖出來一個人或者一輛車的時候，在一瞬間通常是喪失理智的，全靠下意識的操作。他或者急踩剎車，或者急轉彎，完全沒有時間做“電車難題”中的倫理學思考。而且，正是由于下意識的操作，最終的結果是司機無法把握的——有可能是虛驚一場，沒人員傷亡；也有可能比不操作更嚴重，比如急轉彎翻車或者導致連環追尾使更多人傷亡。

因此，在現實的交通事故中，我們很少會從倫理學上對司機做道德譴責（個別情況除外），畢竟，人都會出現失誤。但是，無人駕駛汽車就不同了。它所有的反應都是汽車程序事先設定好了的。它不需要在那一瞬間做決定，汽車生產商早已用計算機代碼告訴它，在這種情況下該怎么做。所以，此時才真正出現了倫理問題，而且這種倫理問題將會沖擊無人駕駛汽車的設計理念。

無人駕駛汽車為什么會出現？作為無人駕駛汽車技術的領軍巨頭，谷歌公司給出了權威的答案——無人駕駛汽車可以減少由于人類疏忽而造成的交通事故，進而降低事故中喪生或受傷的人數。也就是說，無人駕駛汽車是出于安全的角度被設計出來的。那么在出現“電車難題”時，無人駕駛汽車的首要任務是為了保護車主的安全，還是為了保護車外人的安全？

舉一個例子，你乘坐無人駕駛汽車行駛在山路上，發現面前有幾個小孩堵在路中間，向左拐彎的話，你會有沖下懸崖的可能性，向右拐彎則是逆行道，違反了交通規則，有可能與前方駛來的汽車迎頭相撞。這時，如果無人駕駛汽車的設計理念是優先保證車內人的安全，那么汽車完全不會做任何操作，徑直軋過去就行了，但后果會造成這幾個小孩的身亡。另一方面，如果無人駕駛汽車的設計理念是保護車外人的安全，那么很明顯，這樣的車賣不出去——無論車主還是汽車生產商，都不希望自己成為車禍的受害者。

這里，又涉及到另一個問題：如果無人駕駛汽車遵守規則就必須造成傷害，是否應該允許無人駕駛汽車破壞交通規則呢（比如轉入逆行道）？如果可以的話，這是與“遵守交通規則，降低事故風險”的常識相矛盾的。當然，也有人指出，也許可以在設計無人駕駛汽車軟件的時候不設定什么“指導原則”，就讓汽車模擬人類司機的下意識操作，讓它在隨機狀態下運行。但這種“碰運氣”的做法同樣不符合人類發明無人駕駛汽車的初衷。

決策權和責任

對于前一個問題，也許通過技術的進步，汽車生產商們能夠編寫出無比復雜的程序，盡量讓無人駕駛汽車在面對電車難題時做出合乎邏輯的選擇。但是，想象一下，在未來的某一天里，乘坐在無人駕駛汽車中的你，生命處在出現“電車難題”的危急時刻，自己卻無法做出決策，你會甘心么？

“電車難題”中的決策權至關重要，那么它應該屬于誰？是汽車制造商、法律制定者，還是車主本人？誰來做決策，誰就有可能被推到道德的風口、倫理的浪尖上，而且，無人駕駛汽車在面臨“電車難題”時決策權的歸屬會出現一些變數。比如，如果汽車生產商具有決策權，他們設計了一款無人駕駛汽車，讓它在出現“電車難題”的情況下故意殺害車主，以降低事故中的人員傷亡。你如何保證司機不會自己修改程序，以確保自己永遠不會被自己的汽車蓄意謀殺？計算機軟件總有漏洞，總會有人能破解這些軟件。

最后，如果無人駕駛汽車真的遭遇了“電車難題”，汽車軟件在做出選擇之后，誰需要站出來對后果負責呢？反正法律制定者不會讓無人駕駛汽車本身來擔責，“尋找明確的負責人”是我們需要思考的另外一個問題。