致力可信賴的人工智能，提出創新的“加速測試”方法，讓自動駕駛汽車更安全

卡耐基梅隆大學助理教授 34歲

作為“人文關懷者”入選的趙鼎，提出了創新的“加速測試”方法，讓自動駕駛汽車評測更快速、更安全、更可信賴。他參與撰寫的基于“加速測試”的報告收錄進了世界上首個智能網聯汽車測試中心MCity的首本技術白皮書，如今已成為業界公認的標準測試方法之一。他領導的實驗室與谷歌大腦、亞馬遜、IBM、福特、優步、Adobe、豐田、博世、勞斯萊斯等全球知名企業合作，致力于推動可信賴智能的基礎理論研究和技術落地。

獲獎時年齡：34歲

獲獎時職位：卡耐基梅隆大學助理教授

獲獎理由：他提出了創新的“加速測試”方法，讓自動駕駛汽車評測更快速、更安全、更可信賴。

近年來，人工智能技術的普及加速了自動化系統在社會生活中的應用，其中以自動駕駛最為典型，幾乎所有汽車廠商都在加速布局這一領域。不過，日趨復雜的人工智能技術和算法對自動化系統的測試提出了更高要求，尤其是在安全測試中。

如何保障自動駕駛的安全性？

在自動駕駛如火如荼發展的同時，美國發生了全球首例自動駕駛汽車致行人死亡事件：當地時間2018年3月18日晚，亞利桑那州坦佩市一名女子被優步自動駕駛汽車撞傷，送醫之后不幸身亡。坦佩市警方聲明稱，這輛車當時正朝北行駛，而遇難女子正在人行橫道外從西往東走。事發后，優步立刻暫停了在美國坦佩、匹茲堡、舊金山，以及加拿大多倫多的無人駕駛新型出租車的路上測試。

相關媒體稱，這是全球首例自動駕駛車輛致人死亡的事件，或對這項新技術的引入形成沖擊。似乎整個行業遭遇“重創”，人們給自動駕駛的安全性打上了一個大大的問號。此后，自動駕駛事故偶有發生，這件事開啟了自動駕駛的低谷期。

不過，在經歷了201 9年低谷期之后，自動駕駛整體產業開始回暖。相關行業報告顯示：截至2021年第三季度，自動駕駛項目投融資事件已達69次，總投融資金額達629億元。根據公開的行業數據預測，2022年自動駕駛項目投融資金額有望達到新高峰。

但目前，自動駕駛汽車尚未大規模部署，自然駕駛數據稀少，許多傳統測評方法難以勝任，學界和業界都在尋找更加有效的測試方法，卡內基梅隆大學助理教授趙鼎就是其中之一。

“加速測試”，業界公認的標準測試方法之一

趙鼎在博士論文“自動駕駛汽車的加速測試”中提出了基于重要性采樣對自動駕駛長尾事件進行測評的方法，并在數學上給出了嚴格的證明。

什么是“加速測試”？

所謂“加速測試”，指的是如何更快地確認特定的自動駕駛汽車比普通人類駕駛員更安全。然而，目前自動駕駛汽車尚未普及，而且它引發事故是更是非常稀有的事件，所以即使用蒙特卡洛模擬，也需要很長時間且缺乏統計學上的顯著性。

趙鼎提出的方法對于稀有事件一般可以加速幾個數量級，從而可以極大地降低測試的成本。其核心思路是“人為”增加發生事故的可能性并用數學糾偏。以換道超車場景為例，如果可以從人類駕駛員那里收集大量的換道行為，構建該行為的隨機概率模型，那么就可以改變概率分布函數來強調“重要”或“危險”行為并淡化“無用”或“正常”行為，從而加快測評。他提出的創新的“加速測試”方法，讓自動駕駛汽車評測更快速、更安全、更可信賴。

談及“加速測試”的優勢，趙鼎告訴絡繹科學：“十年前，我開始讀博的時候，自動駕駛還沒有受到業界重視，但是機器學習方興未艾，當時我就想過，如果把人工智能應用在汽車上，必定會掀起浪潮，但車要想上路，需要經過必要的測試和法規的支持。我意識到，這不單是智能車的問題，還是人工智能這一復雜系統的測試問題。而系統測試最終可歸納為數學問題，面對復雜系統的測試，人們需要相對應的甚至更復雜的評測方法。”

“傳統的自動駕駛測試，是簡單的自動駕駛功能的測試，比如緊急制動，而加速測試的不同和最大優勢是經過了多次算法迭代，能夠測試特定自動駕駛在更復雜環境中的安全性。目前如何去學習和處理稀有的有安全隱患的數據和場景是‘加速測試所要解決的關鍵問題。我們最近開發的基于深度學習的重要性采樣加速測試，融合了傳統稀有事件統計學和人工智能這兩個原本很少交流的領域，使得我們能夠測試更為復雜的環境和直接處理高維傳感器的原始信息，為加速測試開辟了新的方向。”趙鼎補充道。

科研歷程

趙鼎主要的研究集中于人工智能的安全性方面，具體來說，對于有安全風險的自動化系統，如自動駕駛、智能醫學診斷等，落地前必須對其進行嚴格的測評。這類應用之所以特別，是因為他們的失效可能引起災難性后果，所以對測評的要求極高。

可是，人工智能的快速發展使自動化系統日趨復雜，傳統的測評方法遇到了瓶頸。這是急需解決的問題。2B9A79DC-4EE1-4280-AF49-3ACD23512D94

美國交通部的報告指出“到2025年，美國一半的新車將擁有部分自動駕駛功能”。現在，幾乎所有的國際汽車和IT公司里都在研發自動駕駛，但目前還沒有一套嚴謹、有效、易用的自動駕駛安全的評測方法。《美國國家人工智能研究和發展戰略規劃》把“人工智能評測方法”列為需要優先發展的方向，否則將會付出生命的代價，并導致創新遲滯，經濟受損。

趙鼎的博士論文《自動駕駛汽車的加速測試》是第一個對自動駕駛汽車測評進行研究的博士論文。他提出了基于重要性采樣對自動駕駛長尾事件進行測評的方法，并在數學上給出了嚴格的證明。

在密西根大學交通研究所做博士后期間，趙鼎與團隊成員合作，提出了“交通基元”概念。這一概念是指，人類在自動駕駛研究中，首次用非監督式學習，從當時世界上最大的車聯網數據庫“Safety Pilot”中，自主學習出交通場景的基本組成單元。

一年后，趙鼎博士后出站，成為密西根大學的研究員，并開始在Mcity開展研究，作為世界上第一個智能網聯汽車測試中心，Mcity擁有60多個世界頂級的企業合作伙伴。

趙鼎參與撰寫的基于“加速測試”的報告，成為Mcity第一本科技白皮書。這項工作成為了當年密西根大學工學院向校友宣傳的兩項突出成果之一（另一項是新的癌癥治療技術）。如今“加速測試”已經成為Mcity對業界推薦的標準測試方法之一。

應用落地

2018年，全球第一起自動駕駛汽車撞人致死的交通事故發生后，優步公司安全測試部門邀請趙鼎到總部，就自動駕駛安全性問題做學術報告。

之后，優步還邀請趙鼎和斯坦福大學的Mykel Kochenderfer教授分別帶領兩個科研團隊對如何提高自動駕駛的安全性開展獨立研究。之后，趙鼎加入了卡耐基梅隆大學，任人工智能安全實驗室主任（CMU Safe AILab）。

CMU是自動駕駛的發源地，在過去30年里，它的人工智能和機器人研究常常排名全美第一。在CMU工作的三年多，趙鼎與全球企業進行合作，包括美國的谷歌大腦、亞馬遜、IBM、福特、優步、Adobe，亞洲的豐田、電裝，歐洲的博世、勞斯萊斯等。在此期間，趙鼎主持了20余項與自動駕駛相關的項目，與團隊共同進行基礎理論的研究并解決社會關注的問題。因為在業內的突出貢獻，他于2018年獲得了美國自然科學基金對青年科學家的最高獎項CAREER Award。同時也獲得了Bosch Carnegie Research Award、Struminger Teaching Award等其他科研和教學獎項。

智能汽車安全駕駛推行方案，提供了兩種方案：“第一種，例如特斯拉，在小范圍地域實行自動駕駛，為人們提供幾條路線，利用傳感器搜集數據，以優化自動駕駛軟件;第二種，做單一路線的自動駕駛，例如大卡車、擺渡車、或者配送小車的行駛路線，通常較單一。只要基礎設施和配套政策跟上，可以在這樣的路線上先試行自動駕駛。從而進入快速的產品迭代期。”

談及技術的商業化，趙鼎告訴絡繹科學：“自動駕駛的落地，離不開大學的人才培養、企業和資方的努力、以及政策法規和基礎設施上的支持。作為大學教授，我很幸運能有機會成為連接三方的橋梁。”

目前，趙鼎領導的實驗室與福特、豐田、勞斯萊斯等全球知名車企均有合作，致力于推動可信賴智能的基礎理論研究和技術落地。

賦能自動駕駛安全，為行業培養更多人才

在過去4年的任教期間，趙鼎指導了4名博士后、11名博士（在研）、30余名碩士、6名本科生和一名高中生，以期在各個學生的各個階段推動人工智能安全的教學、研究和落地。這些學生有的去了哈佛、麻省理工、卡耐基梅隆、密西根、加州大學洛杉磯分校等大學繼續深造，有的去了谷歌、蘋果、英偉達、臉書、Mathworks、Lyft、大眾汽車、沃爾沃、豐田、戴姆勒、亞馬遜等高科技公司去推動技術的研發和落地，還有兩名博士后成為了大學教授。

也是在過去幾年里，受大眾、百度、福特、豐田、伯克利、斯坦福、清華大學等邀請，趙鼎做了20余場學術報告;他參與的工作被TIME、Vox、New York Times、Futurism和Automotive News等媒體報道;同時他也受到Wired、Telegraph等媒體采訪。

2021年，趙鼎在卡耐基梅隆大學開設了新課程“可信賴的智能體”，為人工智能安全方面的人才培養進行探索。作為世界上最早講授可信賴人工智能的課程之一，被卡耐基梅隆大學e-newsletter The Piper報道。明年這門課程會成為新成立的人工智能研究生項目的必修課程。

談及其教育理想，趙鼎表示：“我希望，在未來10年內，培養10名教授，在領導的項目中帶出100名有實戰經驗的博士、碩士和本科工程師，并在課堂上總計為1000名學生授課，作為一名高校教師，我希望做一名連接起學界和業界的橋梁，用安全的人工智能來挽救生命，服務社會。” （綜合整理報道） （編輯/克珂）2B9A79DC-4EE1-4280-AF49-3ACD23512D94