自動駕駛技術的倫理風險、事故的歸責模式與責任規避

中圖分類號：B82-057；U491 文獻標志碼：A 文章編號:1672-9684(2025)04-0080-011

自動駕駛技術可以追溯到20世紀80年代，它最初只是科研機構的實驗室項目，主要依靠傳感器、計算機視覺和機器學習等關鍵技術。近年來，隨著人工智能技術的不斷突破和傳感技術的日漸成熟，自動駕駛技術從實驗室走向實際應用，在航空、物流、鐵路等領域發揮作用。如今，自動駕駛系統能夠準確地感知周圍環境，智能地做出決策，其安全性和可靠性大幅提升，在汽車行業得到廣泛應用，正深刻變革人們的出行方式乃至生活方式。

2019 年，百度公司宣布啟動“蘿卜快跑”項目，開啟了我國自動駕駛技術的商業化運營。

基金項目:教育部人文社會科學研究青年基金項目“人工智能語境下科學表征的方法論困境及其趨向研究\"（20YJC720026);山西省優秀博士科研啟動金項目“當代馬克思主義科學技術觀的哲學反思\"（SD1822）;山西醫科大學校級博士科研啟動金項目“馬克思主義科學技術觀的現實觀照\"（XD1820）

作者簡介：楊燁陽(1986—)，女，山西臨汾人，副教授，哲學博士，主要從事人工智能與科技倫理研究；王元喆(2000—），男，吉林白城人，碩士研究生，主要從事馬克思主義科學技術觀研究;蘇果云（1962—），女，山西忻州人，教授，博士生導師，主要從事馬克思主義科學技術觀研究。

2024年5月，“蘿卜快跑”依托全球首個支持L4 級自動駕駛的大模型Apollo ADFM實現了全無人自動駕駛，并在國內11個城市試運行無人駕駛出租車，此舉引起人們廣泛的關注。然而，自動駕駛技術的應用使事故責任認定面臨挑戰。“蘿卜快跑”作為自動駕駛技術領域的佼佼者，其在實踐中遇到的問題頗具代表性。自動駕駛車輛由算法控制行為決策，不代表駕駛員的個人意志，而軟件工程師、車輛制造商、銷售商等多方主體共同參與自動駕駛技術的研發和推廣使責任主體變得多元化。謹慎審視自動駕駛技術的事故風險與倫理責任，有助于完善責任體系，保障技術的可持續發展和社會的人際和諧。

一、文獻回顧與問題提出

當前，人工智能廣泛應用于數字教育、智能醫療、數智媒體、智慧城市等人類的生產、生活領域，科技倫理問題也為之日益凸顯。其中，作為人工智能應用最早落地的領域之一，自動駕駛技術是人工智能技術全方位、集成化應用的產物，且其發展速度非常快，產業基礎相對成熟，是人工智能技術極具代表性的應用場景[1。近年來，學界對于自動駕駛技術及其應用風險的探討熱度頗高，相關研究主要聚焦于技術應用的現實風險和社會治理問題，而對自動駕駛技術的安全性與倫理道德、法規規制與責任歸屬、技術融合創新與社會治理等問題的研究尤為突出。

第一，自動駕駛技術的道德決策問題。自動駕駛技術本質上屬于“非人之物”，同樣面臨著“電車難題”，其核心倫理問題可簡單地表述為：自動駕駛汽車在電車情境中應該如何反應[2？在技術領域，學者普遍從實證研究的角度探究算法的優化趨向。而在哲學領域，則著眼于探討統一的功利主義設定的道德合理性和潛在困境，如康提薩的“道德旋鈕”①構想。在社會學領域，學者們也對自動駕駛技術對社會生活的影響進行了廣泛討論，研究呈現出多層次的特征。

第二，自動駕駛技術責任承擔問題。目前，法律界普遍認為自動駕駛技術不能作為獨立承擔責任的主體。但是在倫理層面，自動駕駛技術能否獨立擔責已成為討論焦點。在L4（完全自動駕駛)及以上級別的自動駕駛模式中，已無傳統的人工操作空間，那么作為車輛的實際控制者，自動駕駛系統能否被視為責任承擔主體呢？部分學者認為自動駕駛技術本質上屬于人工智能算法，不能獨立承擔責任而成為道德主體，否則便是對人類主體地位的否認[3];反之，有觀點認為過分對駕駛員進行追責，會導致嚴格責任，甚至引發“責任離散”現象，不利于確保人類主體的合法權益[4]。因此，如何界定責任主體成為當前亟待解決的核心問題。

第三，技術融合創新與社會治理。自動駕駛技術包括控制、感知、決策三個系統，其中，控制系統和感知系統與高階道德算法沒有直接關聯，只有決策系統牽涉高階道德算法[5」。這些不同的軟件、硬件系統如何實現有益交互，對社會治理將產生何種影響，這是當前學界探討的重點問題。有學者認為，規范自動駕駛系統應從技術融合的角度切入，控制其融合速度與程度，避免過度融合產生技術異化而帶來負面影響和法律風險[°；也有學者認為，人工智能發展日新月異，常常帶來意料不到的進展，為經濟社會和人類生活提供新的機會，應當予以大力支持[1]。筆者認為應當審慎對待技術融合的雙重影響，綜合評估其積極與消極作用，通過合理的方案予以規范、引導，確保技術融合能夠兼顧社會責任與倫理底線。

通過梳理現有文獻資料可知，既有研究已取得一定成果，并呈現出多元學科交叉的研究趨勢。但是，仍存在部分問題需要進一步討論：一是倫理問題。現有研究分析較為單一，大多集中于決策層面，而應用場景的倫理風險尚待厘清。二是責任規制。現有研究多從具體法律及地方性條例入手，進行場景化的責任分析，規制路徑缺乏普適性。三是自動駕駛技術發展過程中隱含的“達摩克利斯之劍”②。現有研究缺乏針對性措施以降低其應用風險。基于此，對自動駕駛技術的倫理風險進行多維探析，提出具有可行性的規制策略和規避方案，這既是傳統理論擴大應用場域的必然要求，也是新技術發展背景下解決問題的現實需要。

二、自動駕駛技術的倫理風險

自動駕駛技術在交通運輸業中的廣泛應用無疑為我們帶來了便捷的出行服務。然而，以“蘿卜快跑”為代表的自動駕駛技術在載人汽車中的應用也面臨一系列倫理風險。首要的倫理挑戰在于緊急情況下的道德決策難題。不同于傳統駕駛情境，自動駕駛系統在復雜多變的交通環境中迅速做出判斷的底層邏輯是機器的學習力，本質上涉及“人機對齊”問題。換言之，基于人工智能技術的自動駕駛系統能否全方位模擬人類的決策能力，在保護乘客安全與確保外部傷害最小化之間實現最優平衡？這種權衡過程中的微妙關系會觸及自動駕駛技術的倫理底線。與此同時，數據隱私保護也是不可忽視的倫理議題。盡管“蘿卜快跑”已采取相應的數據保護措施，但數據安全與隱私保護機制仍需不斷探索與加強。另外，自動駕駛技術的全面推廣還可能引發就業結構變化，導致傳統駕駛從業者面臨失業風險，加劇社會就業結構供需失衡的風險。因此，“蘿卜快跑”等自動駕駛技術的研發和應用必須正視這些倫理挑戰，兼顧技術創新、倫理責任與社會福祉。

（一）自動駕駛技術違背倫理規則的風險

自動駕駛技術的研發和設計既復雜又精密。技術的成熟度和完善性直接關系到自動駕駛車輛的安全性能。在研發階段，設計者首先需要輸入現有的交通法規，并對系統進行預訓練，從而確保自動駕駛技術能模擬人類大腦進行決策時的理性思維。然而，人類的決策系統不僅需要調動大腦的理性機能，還常常借助感性思維以確保決策在合規律性與合目的性之間的最優平衡。因此，自動駕駛系統能否在緊急情況下模擬人類大腦，做出既合法又合乎道德的決策？這無疑是一個頗具挑戰性的問題。2024年7月，一輛“蘿卜快跑”無人駕駛出租車在武漢市漢陽區鸚鵡大道與國博大道交匯路口發生交通事故。百度方面回應稱事故發生在綠燈亮起車輛啟動之際，車輛與一名闖紅燈的行人發生輕微接觸[7]。從正義和規則的維度來看，闖紅燈的行人無疑是事故的主要過錯方，但是，闖紅燈的過錯行為本身是否應當承擔“被撞”的嚴重后果呢？這體現了自動化決策與人類主體自尊之間的沖突，也是算法規則與倫理道德之間的矛盾。

當前的自動駕駛技術算法，按設計思路可以分為兩大類：一類是車輛設計者和制造者預先為車輛設置的“強制型倫理算法”，另一類則是將算法設置權交付給車主的“個人化倫理算法”[3]。顯然，“蘿卜快跑”屬于前者，其所面臨的倫理困境就體現在具有普適性意義的倫理規則難以充分應對錯綜復雜的具體情境。事實上，倫理規則恰恰是程序設計必須考慮的重要因素，但多數企業受利益驅動，以盈利為最終目標，缺乏將倫理考量引入研發設計階段的內生動力。倫理考量的缺位、不足成為誘發自動駕駛事故的重要因素。從某種程度上講，智能駕駛算法自身的局限性制約了研發設計階段的倫理考量人場。同時，自動駕駛車輛需要依靠各種傳感器來感知周圍環境，并借助先進的算法做出決策。然而，在實際應用中，系統可能因環境因素的復雜多變而出現誤判或延遲反應的情況。例如，“蘿卜快跑”在運營過程中出現的無故停車、低速行駛等問題很可能與感知系統的誤識別或決策系統的不完善有關。盡管感知算法能借助激光雷達、毫米波雷達、攝像頭等多種高精度傳感器，但其仍然無法與人類的視聽感受相媲美，在諸如道路施工、信號燈失靈等特殊情況下便無法準確判斷。換言之，對自動駕駛系統的感知算法的魯棒性存疑。

另外，研發設計階段倫理考量的缺位將導致自動駕駛技術安全保障機制存在缺陷。隨著車輛與互聯網的深度融合，自動駕駛系統將面臨越來越多的網絡安全威脅。確保系統的穩定性和安全性、防止黑客攻擊導致車輛失控等安全事故是研發和設計階段必須解決的重要問題。一方面，現階段自動駕駛系統尚且無法實現全方位的安全保障。目前，“蘿卜快跑”平臺采取了雙軌并行策略，即部分車輛配備隨車安全員以輔助系統運行，而全無人駕駛車輛則設有行程專員以應對緊急情況，這一舉措體現了當前自動駕駛系統在自主應對安全挑戰上的局限性。另一方面，自動駕駛系統在應對突發狀況和復雜環境時，應急響應機制缺乏變通。“女子雨天乘坐無人駕駛車遭困一小時”事件，就暴露了“蘿卜快跑”在惡劣天氣下的安全預案不夠靈活。盡管平臺解釋這是出于極端天氣下的安全考量，但車輛直接停駐路邊可能引發的交通事故風險，以及乘客長時間滯留車內所面臨的安全隱患均不容忽視。盡管研發人員在設計之初已通過算法預設了常見的安全問題，但在實際應用中，自動駕駛系統的處理方案仍顯得過于機械，缺乏足夠的靈活性和有效性，亟需進一步完善和優化。

（二）自動駕駛技術運行過程中的隱私泄露風險

自動駕駛汽車在運行過程中涉及大量數據，包括個人位置信息、行駛軌跡等，數據的收集與存儲、傳輸與通信、處理與分析等過程是自動駕駛汽車決策的前提。然而，隱私保護不足是自動駕駛技術面臨的重大倫理風險之一。

第一，數據收集與存儲過程中的隱私泄露。自動駕駛技術依賴大量的傳感器和數據采集設備，如攝像頭、雷達、激光雷達等，這些設備在車輛運行過程中不斷收集周圍環境的信息。另外，無人駕駛汽車在運行過程中需要收集大量個人敏感數據，包括位置、軌跡、駕駛員行為、乘客信息等。“大量個人隱私數據的收集，觸發了公眾對于數據泄露、數據篡改及數據濫用等諸多方面的擔憂。”[8]而在數據存儲方面，其數據量極為龐大。據估算，一輛自動駕駛汽車每天可能產生高達數TB 的數據，這些數據通常需要上傳到云端進行存儲和分析，而云存儲的安全性成為了隱私保護的關鍵。總之，無人駕駛技術的普遍應用將伴隨著個人隱私的曝光，包括居住地址、出行規律乃至個人生活習慣等信息，而這些信息可能被不法分子利用從而威脅個人安全。

第二，數據傳輸與通信過程中的隱私泄露。自動駕駛技術不僅依賴本地數據，還需要通過車輛間通信（V2V）和車輛與基礎設施間通信（V2I)實現信息實時交換，以提高行駛的安全性和便捷性。一方面，車輛間通信可能泄露車輛的行駛軌跡、速度、位置等敏感信息。這些信息若被惡意利用，可能對車輛的安全構成威脅。另一方面，車輛與基礎設施間的通信也可能成為隱私泄露的渠道。若通信協議存在安全漏洞，攻擊者可能利用這些漏洞竊取或篡改通信數據。這不僅會威脅到車輛的行駛安全，還可能導致個人隱私泄露。近年來，層出不窮的針對物聯網設備的攻擊事件為自動駕駛技術的通信安全敲響了警鐘。

第三，數據處理與分析過程中的隱私泄露。自動駕駛技術的核心在于對收集到的大量數據進行處理與分析，以實現對周圍環境的感知，從而進行決策與規劃。數據處理環節涉及對個人信息的提取與利用。例如，為了提高自動駕駛系統的識別能力，需要對收集到的圖像數據進行深度學習訓練，在此過程中，若不對圖像數據進行適當的脫敏處理，便可能導致個人隱私的泄露。同樣，在數據分析環節也可能因算法設計缺陷而導致敏感信息泄露。例如，數據分析算法可能通過關聯分析了解到用戶的行為習慣、個人偏好等信息。此外，數據分析結果的存儲與傳輸同樣需要嚴格的保護措施，以防止數據在傳輸過程中被截獲或篡改。

（三）傳統社會就業結構供需失衡的風險

自動駕駛技術的廣泛應用將帶來傳統社會就業結構供需失衡的風險。從勞動力市場的供需不匹配到勞動者技能要求的提高，自動駕駛技術帶來的結構性供需失衡風險正逐步顯現。

一方面，傳統駕駛崗位減少，新興崗位開始涌現。“蘿卜快跑”的推廣應用首先沖擊著傳統的人工駕駛就業崗位。截至2023年11月，“全國共有334家網約車平臺，各地共發放網約車駕駛員證633.4萬本”[9]。今年以來，網約車司機數量還在持續增加。然而，“蘿卜快跑\"等自動駕駛技術的成熟和普及將大幅減少對傳統出租車司機、網約車司機的需求，導致這些行業的就業壓力增大。與此同時，自動駕駛技術的發展也會催生新的就業機會。以“蘿卜快跑”為例，自動駕駛技術的研發、測試、運營、維護等方面都能提供潛在的就業崗位，包括自動駕駛系統工程師、測試員、數據分析師、運維工程師等。據預測，到2025年智能網聯汽車產業的研發人才缺口將達到1.3萬至3.7萬人[10]119，而當前市場上具備相關技能的人才供給卻遠遠無法滿足這一需求。可見，“蘿卜快跑”導致就業結構失衡的風險體現在對傳統駕駛崗位的替代效應和對新興崗位的創造效應。

另一方面，勞動者新興技能培訓的需求增加。傳統駕駛崗位需求的減少導致大量勞動者面臨失業風險；同時，新興崗位對勞動者技能的要求逐漸提高，許多勞動者可能難以勝任。“蘿卜快跑”等自動駕駛服務的應用不僅需要專業的技術人員進行研發、測試和維護，還要求駕駛員具備一定的自動化技能和應急處理能力。然而，由于教育、培訓體系的滯后和勞動者自身條件的限制，許多勞動者難以適應這種技能要求的轉變，從而面臨失業和再就業的風險。這種結構性供需失衡現象，不僅加劇了勞動力市場的分化，也引發了對就業市場穩定性的擔憂。

三、自動駕駛事故的歸責模式比較分析

自動駕駛技術的算法系統能夠代替傳統的駕駛員進行操作，“不過，人工智能不具有打破既定規范的自由意志，但與此同時，我們還需要納人康德的人性法則，給予計算程序進行價值判斷的方向”[11]。傳統交通法規主要基于人類駕駛員的行為和責任進行構建，而自動駕駛技術的介人使責任主體變得復雜多樣，涉及車輛制造商、軟件供應商、運營方、乘客等多個主體。由于“算法黑箱”等原因，自動駕駛技術在事故責任界定方面存在難題。

（一）機器人責任模式

傳統的責任倫理觀通常將事故的道德責任歸因于具有基本認知能力的個體。在傳統人工駕駛方式下的交通事故中，控制者與責任主體是一致的。但在無人駕駛環境中，確定責任主體成為一大難題。那么，能否將自動駕駛系統擬人化，使其成為承擔責任的“電子人”呢？對此存在不同的觀點。肯定的觀點認為，自動駕駛系統具有強大的數據運算能力、完全的信息處理能力和獨立的判斷決策能力，在L4及以上自動駕駛模式中，可以代替人類進行全自動駕駛。因此，應該將自動駕駛系統定義為能夠承擔法律責任的獨立人格。但是，這種觀點具有明顯的局限性。從唯物論視角看，智能駕駛系統本質上不具備人腦這一思維活動的物質基礎，不具備人的情感和自由意志，不能等同于現實世界中的“人”，否則就否認了人類的主體地位。從實踐效果來說，對自動駕駛系統的追責形式大于實質。“直接造成傷害的是自動系統，但是懲罰一個非人格化的自動系統，就相當于什么都沒有懲罰。”[12]一是人工智能本身沒有獨立擔責的現實基礎，二是過分對人工智能進行追責，便會忽視其他主體即運營商、開發商等的責任，造成責任主體相互推諉、形成“責任離散\"現象，不利于保護受害者權益。因此，承擔責任的主體應該是隱藏于“人工智能”表面之后的“人”，即商品的生產者與服務的提供者。

（二)嚴格責任模式

嚴格責任模式指無論行為人是否存在過錯，只要其行為與損害結果之間存在因果關系，就應當承擔相應的法律責任，這屬于英美刑法中一種擴展性的歸責模式。“那么，基于控制責任理論，當人類對自主系統的控制構成指導控制時，必然承擔道德責任，但要重新定義‘有意義‘的構成條件。”[13]在以“蘿卜快跑”為代表的自動駕駛技術中，如果車輛在運營時發生交通事故，無論是因為技術故障、人為操作失誤還是其他任何原因，相關責任主體（汽車制造商、自動駕駛技術提供商、網約車平臺等)都可能承擔嚴格責任。可見，嚴格責任模式并不強調主觀故意，而更重視客觀后果。在這個模式下，無需證明個體的義務行為與事實結果之間存在必然的因果關系，只要基于客觀后果來判定生產商是否違反了必要的注意義務從而導致事故就可以對其進行歸責。

嚴格責任模式的優勢在于：一是可以促進技術進步。通過建立嚴格的責任追究制度，可以倒逼汽車制造商和自動駕駛技術提供商在研發、運營過程中始終保持嚴謹負責的態度，對產品質量精益求精，慎終如始做好安全保障，全力降低交通事故的風險。二是能夠保障受害者權益。交通事故的受害者處于相對弱勢地位，在遭受客觀損失的基礎上通常還要承擔舉證等法律成本。在嚴格責任模式下，受害者無需證明責任主體的過錯即可獲得賠償，有助于快速解決糾紛并保障其合法權益。三是可以推動相關法律的完善。在自動駕駛產品被廣泛應用，但相關技術不完全成熟、存在潛在風險的背景下，嚴格責任模式有利于推動立法部門和行業主管部門盡快厘清擔責的具體標準和方式，推動相關法律法規朝著體系化、制度化方向發展。

但是，嚴格責任模式具有明顯的局限性。首先，該模式下責任主體的界定困難。“蘿卜快跑\"等自動駕駛汽車發生的事故，往往涉及多個環節和汽車制造商、技術提供商、平臺運營商等多個責任主體，難以準確界定責任歸屬和承擔比例。其次，該模式可能抑制技術的創新。自動駕駛技術屬于新興產業，嚴格的責任追究使相關責任主體面臨巨大的法律風險和經濟壓力，從而抑制了其在該領域進行創新的積極性，阻礙技術的進一步發展。再者，嚴格責任模式與我國現行法律中的歸責模式存在明顯差異。不管是否存在主觀過錯，只因客觀后果便追加研發者或所有人的責任，既可能造成責任追究的擴大化，也不符合公平原則。而且，目前嚴格責任模式也并非國際上類似問題的通行定責范式。2018年美國Uber公司自動駕駛汽車撞死行人，但是美國檢方認為 Uber作為一家公司主體，無需承擔任何刑事責任[14]13。這在一定程度上說明，嚴格責任模式并非最合理的歸責模式，而應當秉持具體問題具體分析的原則，客觀分析事故原因，合理劃定事故責任。

(三)過失責任模式

與嚴格責任模式相反，過失責任模式指只有在行為人存在疏忽、過失等主觀過錯的情況下才需要對其行為造成的損害結果承擔責任。事實上，根據大多數歐美國家的現行法律規定，在“自動駕駛”這一模式下發生交通事故，作為駕駛員的個體盡管未直接執行“駕駛任務”，但駕駛員在很大概率上仍會因疏忽大意而被追究刑事責任。但是，“蘿卜快跑”的特殊性在于其缺失駕駛員這個最主要的責任主體。因此，在劃分責任時，責任主體主要有三類：一是運營平臺，其因設計缺陷、運營不當等原因引發事故;二是乘客，其因在車內做出危險行為或攜帶危險物品等原因導致事故;三是其他主體，即在交通事故中，或多或少存在過錯的其他主體也需承擔相應責任。

過失責任模式有其合理性，既符合傳統法律觀念和道德標準，又有助于維護現行法律的權威性，體現了法律的客觀性和公平性。按照過失來劃分主體責任有助于厘清車輛制造商、技術提供商、平臺運營商、乘客和其他主體之間的過錯大小及因果關系，避免追責主體范圍擴大化。這既體現了責任認定過程的嚴謹性，也符合我國社會主義法治追求公平正義的內在要求。此外，應用過失責任模式可以避免一味對企業進行追責，加重企業負擔，在一定程度上保護了企業的科技創新積極性。

因此，現階段對于“蘿卜快跑”發生的交通事故，應當使用過失責任模式對生產商、平臺、乘客等主體合理劃分責任比例，但這在具體實踐中還存在一定的難度。一方面，其理論內涵尚待厘清。英美法系學者遵循“自然可能后果”責任理論，認為人類在設計、使用機器人時，如能預見可能引發的損害，則應當承擔過失;而大陸法系學者傾向于在個體犯罪的法教義學框架中考察機器人背后的人類參與者的刑事責任。另一方面，其實踐進路存在問題。面對多個不同主體存在共同責任的一般化場景，具體的責任分割不夠清晰，在遵循公平原則的前提下制定詳細、可行的責任劃分方案就比較困難。因此，還需要在實踐中不斷探索，以更好地凸顯過失責任模式中的“公平”這個題中應有之義。

四、自動駕駛技術可能承擔的事故責任及其規避對策

“蘿卜快跑”等自動駕駛汽車的不斷發展、應用對現行法律規則提出了更高的要求，必須盡快制定科學合理的法律框架和切實可行的歸責路徑，以確保自動駕駛技術能夠持續健康穩定地發展。自動駕駛引發的事故歸責中的主要問題在于合理確定歸責路徑與各主體之間的責任分配比例。當自動駕駛車輛發生交通事故并造成人身傷亡或財產損失時，主要存在三種可能的風險規避路徑。

（一）高度危險責任及其規避對策

我國《民法典》第1236條規定，從事高度危險作業造成他人損害的，應當承擔侵權責任。“高度危險責任由行為自身具有危險性、即使盡到注意義務并采取安全措施也無法避免損害、不考慮主觀過錯這三個要件構成。”[15]因此，對于“自動駕駛”導致的事故責任，可以參照“高度危險責任”進行歸責。但對于何為“高度危險”，民法典并未給出明確定義。另外，自動駕駛系統不應簡單被定義為“高度危險”。從內涵上看，自動駕駛系統與傳統意義上的“高度危險作業”有著明顯區別，作為一種新興交通出行方式，其已深度融入人們的日常生活并被公眾接受;從實踐上看，自動駕駛系統通過傳感系統和智能算法，實現了較高程度的安全保障，相較于傳統的人工駕駛，避免了主觀疏忽導致的事故隱患;從趨勢上看，自動駕駛技術正處于蓬勃發展期，國內已有許多地方出臺了推廣辦法，其被接受度將進一步增強，不符合“高度危險作業”的發展方向。鑒于以上區別，不應將自動駕駛引發的事故簡單地用高度危險責任進行歸責。

(二)產品責任及其規避對策

使用者在人工智能體的運行過程中獲益，同樣應在其運行過程中負道德責任[16]。根據我國《產品質量法》第46條的規定，“產品存在危及人身、他人財產安全的不合理的危險”或“產品不符合保障人體健康和人身、財產安全的國家標準、行業標準”的，屬于缺陷產品，產品的生產者需要為此承擔法律責任。因此，對“蘿卜快跑”生產者追究產品缺陷責任具有合理性：一是強化了生產者的責任意識。商品的生產者在研發、設計、生產階段負有合理的風險控制義務，必須最大限度消除可以預見的隱患。追究產品責任能促使生產者從外部法律約束轉向加強內部管理，從而提高產品的安全水平。二是體現了對消費者權益的高度保護。在自動駕駛環境中，乘客作為消費者在購買或使用服務時，如因產品缺陷遭遇事故則有權要求生產者承擔賠償責任。目前，我國地方性法規已經嘗試從產品責任的角度對無人駕駛汽車事故進行歸責。《深圳經濟特區智能網聯汽車管理條例》第53條規定：“完全自動駕駛的智能網聯汽車在無駕駛人期間發生交通事故造成損害，屬于該智能網聯汽車一方責任的，由車輛所有人、管理人承擔賠償責任。”[17]由此可見，運用產品責任歸責可以保護消費者權益，督促研發、生產者嚴控產品質量。

產品責任歸責的實施也存在諸多難點。其中，最主要的難點在于如何證明自動駕駛車輛存在產品缺陷，且該缺陷與事故的發生存在因果關系。因此，對于事故發生原因的分析就顯得至關重要。其一，復雜的交通事故往往并非單個原因所致，在劃分責任時，需厘清產品責任在各種事故原因中所占的比例從而合理歸責，避免陷入“嚴格責任模式”。其二，“蘿卜快跑”等自動駕駛產品的生產者和提供者應在設計、研發、安全測試、運營等全過程承擔高度的注意義務，對發現的缺陷產品及時停用或召回。因缺陷產品處置不當造成事故的，適用產品責任進行歸責。但由于自動駕駛產業正處于蓬勃發展階段，技術尚未高度成熟。受當前科技水平等客觀因素的限制，因某些無法預見的產品缺陷導致事故的發生時，則不應對產品生產者進行追責。

（三)過錯責任及其規避對策

“在傳統人工駕駛方式下，由車輛所造成的交通事故中，控制者與責任主體是一致的。但是在自動駕駛方式下，情況卻完全不同。”[18]實際上，自動駕駛系統預先訓練了用于處理從感知到控制的整個過程的神經網絡，以便應對各種駕駛場景[19]687-694。那么，如何建立起高效、公平、合理的歸責路徑呢？我國《道路交通安全法》第76條第1款第1項規定，機動車之間發生交通事故適用過錯責任原則予以歸責，即按照各自過錯比例分擔責任。但是，此過錯責任指的是機動車駕駛員對于交通事故所承擔的責任。“蘿卜快跑”等L4級以上自動駕駛車輛并不存在“駕駛員”這一責任主體。因此，想要應用過錯責任對自動駕駛交通事故進行歸責，就必須明確除駕駛員外的其他幾個相關主體的責任。

一方面，明確乘客是否需要承擔責任。作為“蘿卜快跑”的乘客，與平臺方形成的服務合同實質上是傳統的運輸關系，其自動駕駛系統承擔的是“司機”的角色，為乘客提供有償的運輸服務。雖然在這種特殊情況下并不存在“駕駛員”這一人類主體，但也不能過分要求乘客在行程中承擔傳統駕駛員應盡的安全責任和注意義務。因此，由自動駕駛系統問題導致的交通事故，乘車人在沒有主觀故意過失的前提下不應對交通事故負有責任。

另一方面，明確“蘿卜快跑”平臺是否需要承擔責任。《道路交通安全法》第76條第1款第2項規定，機動車與非機動車駕駛人、行人之間發生交通事故的，采用無過錯責任原則予以歸責，原則上由機動車一方承擔責任。同時，這里存在兩種例外：一是有證據證明非機動車違反交通安全法律法規，機動車已經采取必要措施的，減輕機動車一方責任。二是非機動車故意造成損害，機動車一方不承擔責任。如果責任認定證明“蘿卜快跑”車輛造成事故，由于自動駕駛車輛不能作為獨立的民事或刑事主體，通常認為“蘿卜快跑”平臺對交通事故負有責任。

同時，也要注意區分兩種情況：一是完全自動駕駛狀態下出現的交通事故，平臺應當承擔主要責任；另一種是在緊急情況下有人工現場或遠程干預仍出現的事故，應科學評判人工干預對事故發生的影響，如能證明人工干預失當導致了事故的發生，可能需要連帶追究相關個人的主體責任。

綜上所述，盡管自動駕駛汽車的使用者并不直接進行駕駛活動，但其是自動駕駛汽車的實際監管對象，也是能夠遵循復雜規則的認知主體，因而必須對自動駕駛汽車承擔管制性控制責任。換言之，使用者應為自動駕駛汽車所引發的事故承擔道德責任。正如“費希爾道德責任理論”所強調的：“倘若一個人能夠進行引導性控制或進行管制性控制，那么他就要承擔道德責任。”[20]因此，在對以“蘿卜快跑\"為代表的自動駕駛汽車事故進行歸責時，必須充分考慮具體情況，科學劃分責任范圍。屬于研發階段設計疏漏的，則應追究汽車生產者的責任;如在運行階段出現問題，在完全自動駕駛狀態下或證實屬于軟件系統責任的，則應追究平臺責任；屬于乘客主觀故意的，則應追究乘客責任。總之，應該按照事故發生的時間和原因，科學地確定責任主體，合理劃分責任比例，避免陷入“嚴格責任模式”或造成責任離散現象。

五、結語

以“蘿下快跑”為代表的自動駕駛技術正不斷地深入發展，人工智能與人類深度交互的時代已然來臨。與此同時，人工智能系統引發的問題增加了人們的擔憂，引發了對這項技術進行監管的審視需求。正如徐英瑾所說，“要讓人工智能系統真正像人類那樣進行緊急避險，我們人類自己首先要勇敢地撕去籠罩在電車難題上的‘無知之幕’，并對其背后的風土知識產生‘元認知’。”[21]

首先，堅持高度支持、嚴格管理的基本原則。自動駕駛技術作為21世紀科技創新的代表性成果，對社會生產和人類生活都起到了積極作用，其產生符合馬克思主義“新事物”的一般特征，具有較高的發展潛力。對待自動駕駛技術，應當秉持開放包容的基本態度，在政策、資金等方面予以積極支持，推動其不斷發展與廣泛應用。同時，要牢記科學技術發展的終極目標是造福人類這一標準。因此，“應當在自動駕駛汽車測試、示范運營和商業運營的管理機制中加人倫理審查環節，由主管部門負責召集跨學科、跨行業、跨領域的人士組成倫理委員會，對自動駕駛汽車算法設計是否以及如何貫徹了政府的倫理指導意見和行業的倫理標準進行審查”[22]，避免技術異化及可能出現的安全問題，給自動駕駛技術發展進步構建起安全、可靠的外部環境。

其次，形成多元協同、清晰明確的歸責機制。世界各國的公共機構已經開始在國際層面上制定監管框架，以監督數據驅動系統的活動。例如，歐盟制定了專門的《可信賴人工智能指南》戰略，美國、加拿大、德國、英國、澳大利亞、日本等國也提出了關于自動駕駛汽車監管的指南，以監督其在執法中的合規性[23]。對自動駕駛系統，嚴格責任模式和過失責任模式均有利弊，其根源在于風險和責任之間的合理分配。因此，必須厘清相關主體之間的權利與義務，形成合理公平的歸責機制。就“蘿卜快跑”而言，技術和服務的提供者理應承擔主要責任。同時，應當科學劃定乘客、其他交通參與者等相關涉事主體的責任，確保最大程度上兼顧效率與公平。另外，一切規則的制定都是為了降低風險、確保安全。在自動駕駛技術尚未完全成熟的當下，可以考慮引人交通強制險和商業保險并合理劃定賠償范圍，最大程度減輕事故所產生的損失，避免因賠償壓力而抑制技術的研發與應用，確保新技術能夠始終向前和可持續發展。

再者，構建與時俱進、切合實際的法律體系。2023年12月5日，交通運輸部辦公廳發布的《自動駕駛汽車運輸安全服務指南（試行）》成為全國范圍內的指導性意見，從八個方面對影響運輸安全的核心要素進行了規范，為地方政府提供了決策依據。2024年7月，北京市經信局就《北京市自動駕駛汽車條例(征求意見稿)》對外征求意見，在堅守安全底線的基礎上為自動駕駛汽車市場主體提供了清晰、透明、可預期的制度規范。這充分體現了我國對自動駕駛技術的監管已經實現了從頂層設計到基層執行、從普遍性制度到地區性規范的全面覆蓋。可以預見，未來研究人員將嘗試個性化定制自動駕駛汽車，以便在提升自動駕駛汽車的被接受度的同時運用逆向強化學習方法，使自適應巡航控制系統與駕駛員的風格相匹配[24]。隨著自動駕駛技術的全面推開，其安全隱患以及隨之產生的法律問題還會不斷出現，需要相關部門高度關注，及時修訂、有序出臺相關法律法規，以構建起符合時代要求和實踐需要的法律體系，為自動駕駛技術不斷推廣提供堅實的法律保障。

[責任編輯：楊 氫]

注釋：

① “道德旋鈕”：旋鈕兩端分別代表“利己主義”和“利他主義”，旋鈕中央則代表“完全中立”，指將道德后果的選擇權交予使用者，用“預設選擇“來代替“預設答案”。

② “達摩克利斯之劍”：源于古希臘神話，用來表示時刻存在、很難脫身的危險。

③ “魯棒性”：指控制系統在一定參數攝動下維持其他某些性能的特性。

參考文獻：

[1]樊春良，吳逸菲.人工智能倫理治理的三維分析框架：核心要素、創新過程與主體責任[J].自然辯證法研究，2023（10）:18-24.

[2]GOGOLLl Jan，MuLLER Julian ．Autonomous cars: in favor of a mandatory ethics setting[J]. Science andengineering ethics，2017(3) :681 -700.

[3] 張學義，王曉雪.“倫理旋鈕”：破解無人駕駛算法困境的密鑰？［J].中國人民大學學報，2023（2）：73-82.

[4] 王樂兵.自動駕駛汽車的缺陷及其產品責任[J].清華法學，2020（2）:93－112.

[5] 李大山.自動駕駛無需高階道德算法［J].自然辯證法通訊，2023（6)：10－17.

[6] 王瑩.法律如何可能：自動駕駛技術風險場景之法律透視[J].法制與社會發展，2019(6)：99－112.

[7] 劉佳.自動駕駛的現實挑戰：百度蘿卜快跑撞上闖紅燈路人[N].第一財經日報，2024-07－10（A09）.

［8］李含偉，李夢圓.“堵”還是“促”：無人駕駛的社會訴求與政策因應——以武漢“蘿卜快跑”為例［J].學習與實踐，2024（8）：32-41.

[9]張茜琦.全國共發放網約車駕駛員證633.4萬本[N].北京商報，2023-11-21(4).

［10］中國汽車工程學會.智能網聯汽車產業人才需求預測報告[M].北京:北京理工大學出版社，2021.

［11］陳英.自動駕駛電車難題的康德式道德決策［J].求索，2024（2）:117－124.

[12]徐獻軍.人機協作視角下的自動系統倫理[J].哲學分析，2023（3）：144－155.

[13］俞鼎.“有意義的人類控制”：智能時代人機系統“共享控制”的倫理原則解析［J]．自然辯證法研究，2024(2) :83 -88.

[14]HODULA Mate.Criminal liability of the self driving vehicles under Hungarian criminal law[J].Studia iu-ridica，2023(100):113-125.

[15］宋宗宇，林傳琳.自動駕駛交通事故責任的民法教義學解釋進路[J].政治與法律，2020(11):150－160.

[16]趙子明.人工智能體道德責任歸責問題探析[J].中國礦業大學學報（社會科學版），2024（3）:98-114.

[17］深圳市人民代表大會常務委員會.深圳經濟特區智能網聯汽車管理條例[EB/OL].國家法律法規數據

庫.（2022 -06 -30)[2025 -01 -01]. htps://flk. npc.gov.cn/detail2.html? ZmY4MDgxODE4MjFiM

YyOTAxODIxZmZIMzk3MDFhNzU.

[18］萬丹，詹好.自動駕駛汽車責任主體和道德兩難問題的哲學分析[J].社會科學戰線，2021（11):24-32.

[19]WANG Tsun-Hsuan，MAALOUF Alaa，WEI Xiao，et al. Drive anywhere: generalizable end -to - end autonomous driving with multi-modal foundation models［C]//2O24 IEEE International Conference on Roboticsand Automation(ICRA).Yokohama:IEEE，2024.

[20］顧世春.費希爾道德責任理論視角下自動駕駛汽車使用者道德責任研究[J].自然辯證法研究，2021 (2):113-118.

[21］徐英瑾.人工智能必須考慮風土性因素——以“電車難題”為母題[J].哲學研究，2023（2）:96－107.

[22]鄭戈.電車難題與自動駕駛系統算法設計中的倫理考量[J].浙江社會科學，2022（12）:37－47.

[23]SHAHIN Atakishiyev，MOHAMMAD Salameh，YAO Hengshuai，et al. Explainable artificial intelligence for autonomous driving: a comprehensive overview and field guide for future research directions[J]. IEEE access，2024(12) :1603 -1625.

[24] SCHRUM M L，SUMNER E，GOMBOLAY M C，et al. MAVERIC: a data-driven approach to personalized autonomous driving [J]. IEEE transactions on robotics，2024(40） :1952 -1965.

Ethical Risks of Autonomous Driving Technology ， Attribution Mode of Accidents，and Responsibility Avoidance

YANG Ye-yang，WANG Yuan-zhe，SU Guo-yun (CollegeofMarxism，ShanxiMedical University，TaiyuanO3ooo1，China)

Abstract : While autonomous driving technology brings new development opportunities ，it also faces a series of ethical risks，mainly including the risk of violating ethical rules，potential risk of privacy leakage in the use of technology，and the risk of supply and demand imbalance caused to the traditional social employment structure.In view of these risks，the authors take“Carrots Run Fast” as an example，and sorts out the three attribution models of robot liability model，strict liability model and negligence liability model，so as to clarify the attribution of liability for accidents related to autonomous driving technology，and provide clear ideas and basis for the subsequent responsibility identification and handling.In order to avoid the accident liability that autonomous driving technology may bear，it is necessary to fully consider and formulate effective avoidance paths in the research and development and design stage of autonomous driving. For highly dangerous liability，it is necessary to strengthen safety standards and supervision.As for product liability，it is necessary to ensure the reliability of technology and reduce product defects.In addition，it is necessary to clarify the responsibilities of all parties and strengthen the popularization of technology and legal education for the negligence liability. Through these measures，we hope to provide a theoretical framework with reference value for the healthy development of autonomous driving technology，and then promote the harmonious coexistence of technological progress and social ethics.

Key Words:automatic driving;Carrots Run Fast; sci-tech ethics ;responsibility model