我們如何信任自動駕駛

文/

目前距離優步自動駕駛路測撞人致死一案，已經過去31個月。本月晚些時候，該案將進行初審。即便該案自動駕駛系統“參與”之下變得復雜，輿論也未能預料到，審理過程如此曠日持久。

讓我們再次回溯一下發生于2018年3月的該案。優步公司在加州路測時被認定為沒有取得“完整資質”，優步被迫移師亞利桑那州，致命交通事故就發生在該州坦帕市。

后備安全員拉菲拉·瓦斯奎斯（Rafaela Vasquez）乘坐優步自動駕駛汽車（沃爾沃XC90改造而成），撞到一位推著自行車橫穿道路的女性，致其死亡。優步公司規定，安全員必須隨時準備接管車輛，但瓦斯奎斯不時低頭看手機（手機上正播放“美國好聲音”節目），直到事故前半秒才抬頭，為時已晚。

檢方不起訴優步

此案復雜就復雜在，初看似法律問題，再看似技術問題，又看似科學倫理問題，也許是社會問題。犧牲者可能成了多重嵌套難題無解的祭品。

早在2019年3月，美國亞利桑那州馬里科帕縣的檢察官，已經將優步公司排除在刑事調查范圍之外，認為其無須承擔刑責。這并非源于事實判定，而是根據亞利桑那州的法律，企業過失殺人的概念僅僅存在于理論上。既然必須有“過失責任方”為這起傷人致死案負責，那么起訴人，比起訴公司要容易得多。

無論在哪個法律體系下，檢方都很難證明高等級自動駕駛（哪怕只是路測）事故中，自動系統及背后的公司，應該負多少責任。

2019年11月，美國國家安全運輸委員會（NTSB）發布一份報告，其中附有涉案自動駕駛系統的“運行日志”。為了讓人們認識到該系統有多么不靠譜，甚至根本不應該上路，有必要將其中的關鍵時刻羅列于此。

自動駕駛系統都干了些啥

如果將事故發生時定為零時刻，在此前10秒系統內發生的事情，如果從一個人類駕駛員的角度看上去，簡直匪夷所思。

-10秒，車輛一直處于自動駕駛狀態；

-9.9～-5.8秒，車輛從時速56公里加速到時速70公里；

-5.6秒，毫米波雷達第一次檢測到前方目標（就是受害者），計算機將其識別為汽車，并估算了其速度；

-5.2秒，激光雷達再次檢測到受害者，計算機將其識別為“未知”，并認為其靜止不動；

-4.2秒，計算機更改目標類別為“汽車”；

-3.8～-2.7秒，計算機對目標分類，再次在“汽車”和“未知”之間來回搖擺。而且每次更改時，都莫名其妙地忽略前一時刻的跟蹤記錄，以至于不斷將其行為預測為“繼續靜止”；

-2.6秒，計算機終于正確地將目標識別為自行車，但預測其行駛狀態仍為靜止；

-1.5秒：計算機動搖，將人+自行車識別為“未知”，并規劃出躲避目標的路線；

-1.2秒，計算機再次認定目標為自行車，并算出規避已不可行，準備制動，此刻時速64公里；

-0.2秒，經過1秒的延時，終于開始全力制動；

-0.02秒，安全員控制方向盤，汽車脫離自動駕駛狀態；

0秒，發生致命碰撞；

0.7秒，安全員瓦斯奎斯剎停車輛。

顯然，在來得及實施所有措施的時候，自動駕駛系統既無法正確識別，也無法正確預測軌跡和速度。等到終于采取正確措施的時候，距離碰撞只有0.2秒，事故已經無法避免。

在終于正確識別的時刻（此時已經來不及了），自動駕駛系統又設定了1秒延時。算法編制人員認為，緊急制動會造成車輛不穩定，因此關閉了XC90自帶的預碰撞+自動剎車系統，改為用車機軟件控制剎車。

技術無罪？

日志顯示，和成熟的人類駕駛員相比，優步自動駕駛系統表現完全不合格。軟件工程師非常清楚，如果采用保守策略，系統將首鼠兩端、一驚一乍，讓乘坐者非常不舒服；如果采取激進策略，系統將變得遲鈍而自大。系統要么刻意忽略“次要干擾因素”，要么在目標認定上反復橫跳，直至浪費了所有處置機會。

如果深入一點，優步自動駕駛系統的傳感器協同、模式識別算法、決策系統、預設的介入條件，都出了大問題，是事故發生的真正誘因。而瓦斯奎斯玩忽職守，沒有起到“安全閘”作用，導致事故未能被阻止。這種“自動駕駛”，比人類駕駛要危險得多。

任何稍具專業知識和良知的“碼農”，都可能被這個算法驚呆了。決策算法和訓練系統（主要是用數據填喂，訓練感知系統的目標能力），尤其粗糙和不專業。

即便沒有任何專業知識的普通公眾，了解到所謂自動駕駛系統，如此不知所云，絕不會贊成它們在開放道路上行駛。哪怕只是測試，也可能以其他人的生命作為代價。系統成熟度非常低，根本不應該脫離封閉場地。

而NTSB則輕描淡寫地認為，優步的“安全文化”不足，是導致事故的原因。可這種做法，明明是不專業、不走心和膽大妄為。優步沒有擔責，可能是鉆了法律空子。

其技術水準也的確如此。在優步“自愿”終止試驗前，根據加州交管局的報告，優步自動駕駛測試車，每隔37公里就需要一次人工干預，而Waymo同期每1000英里的人工干預次數是0.09。從這個角度，優步作為技術背后的企業應該為安全事故擔責（未必是刑責）。

背鍋俠與軟柿子

然而實際上發生的是，公司什么都不必做。不但擺脫了法律責任，經濟賠償責任則由保險公司負責。至于安全員瓦斯奎斯，檢方要求判她入獄2.5年，她拒絕認罪，也拒絕做控辯交易。

技術公司只因為不是自然人，就不用承擔疏忽導致的事故后果。技術團隊和決策人員，不能用“技術無罪”，規避自己失察責任。更何況他們強行加速試驗進程，很可能出于商業動機，而非簡單的技術能力不行。

公司要求安全員隨時介入，并用合同條款框死了后者的責任。后者因為不在駕駛狀態，事實上很難像普通駕駛員那樣隨時保持警惕和防御駕駛狀態。安全員必須為技術缺陷背鍋。這樣看來，事后被解雇的100多個安全員，焉知非福。

值得一提的是，受害人家屬選擇起訴坦帕市政府，索賠1000萬美元，因為后者不合理的交通設施“鼓勵”橫穿馬路。這和檢方選擇只起訴涉案安全員瓦斯奎斯的做法很相似，柿子撿軟的捏，豬撿肥的宰。

如果要求法律對技術寬容，蛻變為對無良商業團體的縱容，那就不配以技術之名，更不值得冒公眾安全利益的風險。