馬斯克資助的AI安全項目正在做什么？

文 陳夢凡 孫夢璠 編輯 汪再興 卜昌炯

馬斯克資助的AI安全項目正在做什么？

文 陳夢凡 孫夢璠 編輯 汪再興 卜昌炯

人工智能是一把雙刃劍。如何讓它只做對人類有益的事卻不至于失控，擁有豪華科學顧問團隊的生命未來研究所正未雨綢繆。

美國麻省理工學院教授、宇宙學家麥克斯·泰格馬克將致力于降低人類存在性風險的生命未來研究所官網Logo設計成一棵樹是有意味的。這棵與眾不同的樹一邊枝繁葉茂，另一邊只剩下枯枝，似乎在暗示技術能給人類帶來前所未有的繁盛，但也會讓人類走向自我毀滅。

麥克斯是生命未來研究所（Future of Life Institute，簡稱FLI）的聯合創始人之一。如名所示，這是一個關注人類未來的組織，關注基因、核以及人工智能等各種現代技術的發展會為人類帶來怎樣的前景。

FLI官網上列出的一長串科學顧問委員會成員名單，可謂大牌云集。這可能是由世界上最聰明、最具影響力的一群人組成的顧問團。

他們中有行事天馬行空的特斯拉創始人埃隆·馬斯克，還有身兼導演、演員、編劇等身份，多次獲得艾美獎和金球獎的艾倫·艾爾達，以及內地很多觀眾熟悉的影星摩根·弗里曼。但更多的還是學術圈名人，著名物理學家史蒂夫·霍金領銜一眾來自哈佛、牛津、劍橋、麻省理工等院校的精英們，涉及基因、大腦、人工智能、物理、宇宙、數字經濟等各個領域。

他們中的不少人曾在不同場合向媒體表達過對人工智能的擔憂。去年12月，霍金接受BBC采訪時稱全面發展的人工智能可能成為人類的終結者，他主要擔心的是那些達到或者超越人類的人工智能—“他們會快速地發展和更新換代，但人類受制于緩慢的生物進化，無法與之抗衡，終將被取代”。馬斯克也有過“發展人工智能就像是召喚魔鬼”的言論，他說：“就像所有的神話中畫著法陣捧著圣水的邪惡巫師一樣，每個巫師都聲稱自己可以控制惡魔，但最終沒有一個成功的。”

名人的擔憂體現了時下這個社會流行且互相沖突的潮流：過去5年，人工智能得以快速發展，很多5年前或者多年前想象的事情現在已經發生了，從活躍在各種制造業工廠的機器人到大腦原型芯片TrueNorth，再到Siri、微軟小冰等，人工智能已經陸續走進并改變著人們的生活，但機器越來越像人的同時也讓它們的創造者深陷恐懼。

2014年3月，在麥克斯的倡導下，Skype的創始人之一揚·塔里安、哈佛大學統計學在讀博士維克托維亞·克拉克弗納、加州大學圣克魯茲分校理論宇宙學教授安東尼·阿吉雷，以及擁有教育和哲學背景的波士頓大學在讀博士米哈埃拉·契塔共同成立了FLI。

依托于波士頓地區豐富的高校資源，FLI吸引了來自各個高校的志愿者。志愿者和創始人們經常在一起席地而坐進行頭腦風暴，討論項目、組織活動。

“出于對人類未來的關心，來自不同領域的我們聚在了一起。不同的專業背景和興趣能讓我們更好地完成使命。”維克托維亞說。

彼時在商業上已經頗有成就的揚·塔里安為初創的機構注入了發展資金。而真正讓媒體和公眾關注到這個組織的，則是埃隆·馬斯克。今年年初，馬斯克向FLI提供了1000萬美元的資助，用于AI安全的研究。

特斯拉、SpaceX創始人埃隆·馬斯克

“我們應該主動出擊”

去年10月，馬斯克在麻省理工學院航空航天系的百年研討會上與學生們交流，聊的話題很“未來”，計算機科學、人工智能、太空探索，還有火星殖民計劃。有人問及他對人工智能的看法，這位科技狂人說：“我覺得我們應該非常小心人工智能。或許人工智能是我們所面臨的最大的存在性威脅。我越來越傾向于應該有一些規范和監督，國家層面或者是國際層面的，從而保證我們不會做蠢事。”

被很多媒體引用的“召喚魔鬼”的言論就出自這場交流。麥克斯說他很欣賞馬斯克的一個地方，就是他不僅說，而且真的會去做。

“馬斯克關注人工智能的安全問題已經有一段時間了，這也促使他加入了CSER （存在風險研究中心）和FLI。”維克托維亞說，“今年年初我們組織了一場AI會議，達成了很多研究方向的共識，馬斯克希望讓這些研究能夠落地。”

2015年1月2日至5日，在波多黎各的圣胡安，FLI組織了一場沒有媒體參與的閉門會議，參會的有學術界和業界的AI從業者，還有經濟、倫理和法律各界的專家。FLI希望這次會議能夠為未來AI的發展和研究確定下方向，從而使其效益最大化，避免走入歧途。當時已是FLI科學顧問的馬斯克也參與了這次會議。那場會議后，馬斯克宣布向FLI資助1000萬美元用于AI安全的研究。

在宣布資助不久后的一次對話中，麥克斯問馬斯克：“為什么對人類的未來這么有興趣？”先后創立了特斯拉、SpaceX的馬斯克說這跟他小時候喜歡看科幻小說和哲學書籍有關，讓他意識到，“我們應該做的是讓生命在未來延續，尤其是有意識的生命。這樣我們才能夠更好地去理解宇宙的本質，達到更高的文明層次”。

在與麥克斯的對話中，馬斯克認為，未來科技將會從五個層面對人類社會產生巨大影響—讓生命多星球化、能源的可持續生產和使用、互聯網的持續發展、對人類基因的重編碼以及人工智能。馬斯克創辦的特斯拉和SpaceX，前者專注于新能源的使用，減少人類交通對石油類能源的依賴，后者作為一家私營太空運輸公司，旨在為人類進入太空鋪路。

在對人工智能的態度上，馬斯克的立場顯得矛盾。他認為，AI最大的好處在于能夠使人們從很多無聊、繁重的工作和測試中解放出來，并突破一些人類智慧尚未解決和難以控制的問題，比如治療癌癥、老年疾病等。

同時，他也認為，AI與基因技術一樣是“雙面的”，可能帶來混亂。“最好的方式是避免AI的負面影響出現，而不是等它出現之后再做出反應。有些AI的潛在威脅是很嚴重的。當風險很大的時候，我們應該主動出擊而不是被動反應。”

“當時做特斯拉和SpaceX，成功的幾率可能只有兩成。”在馬斯克看來，二者對人類社會都是一種長期的優化，不宜急功近利。同樣的，在資助FLI做人工智能安全研究這件事上，他也看得很長遠，對錢的問題并不太計較，“并不是每個人都需要做這些事情，只是確實需要有人去做。如果我看到這些領域沒有人在做，（就會想）也許我可以在這些事情上做點什么。”

一切都是為了有益于人類

Skype的創始人揚·塔里安曾打過一個比方，“發展先進的人工智能就像發射火箭，第一要務是使加速度達到最大，一旦它開始增速的時候，就得去關注控制與引導的問題。”

FLI的創始人麥克斯并不是AI的反對派，不認為應該減緩人工智能的發展，但他希望調整人工智能的目標。這位來自麻省理工學院的教授告訴《博客天下》，發展人工智能的目標不應該是讓機器更加聰明更加智能，而是讓它們更加忠誠且更有益于人類。

“做生物的人，他們并不想做生物武器，他們只想去做藥品之類的對人類有益的事情；做化學的一樣，他們不希望去研發化學武器，他們只想創造新的材料去幫助人類。對人工智能來說也是一樣的，研發他們的人在最開始就應該想清楚這些東西將會走向哪里。”麥克斯說。所以，FLI對參選項目的一個要求就是，“如何讓AI更加有益于人類而不是簡單地變得更加能干。”

在大方向的指引下，還有具體的研究重點。FLI根據前期調研以及會議成果發布了一份文件，詳細介紹了AI安全研究的短期和長期研究重點。短期研究重點關注那些已經初步顯現的AI的影響與威脅，長期研究重點則關注超級人工智能是否能實現。

在得到馬斯克的資助后，FLI開始了針對AI未來研究項目的征集與選拔。此前麥克斯和FLI的另一位創始人安東尼·阿吉雷曾經運營過物理學領域的一個類似機構，他們對機構運營和項目管理有一定的經驗，因此他們也為項目訂立了一系列科學嚴謹的審批流程—在收到各個研究團隊的提案后，FLI將組織相應領域內公認的學者教授或者業內人士組成專家評審團，對項目進行同行評審。當然，FLI會保證評審者和項目申請者互相不知道對方的信息。

評審標準包括項目主要研究者及其團隊的資格審查，項目本身的價值、科學嚴謹性和創新性，在給定時間框架內研究的可行性等。最終37個項目通過了審核。

之后，FLI與硅谷社區基金會下屬的一個捐贈人指導基金（DAF）合作確定每個項目分配多少錢。根據項目承接團隊要求的資助金額，結合項目的影響力，DAF最終確定下分配的項目資金，并且后期負責與項目承擔方在經費上的對接。

37個項目中包括32個具體的研究課題，1個人工智能戰略研究中心的籌建以及4個教育與會議項目。FLI最初的希望是能夠將馬斯克的資助大致分在計算機科學（50%），政策（20%），法律、倫理和經濟（15%）以及教育（15%）4個類目當中。后來根據申報項目的數量和質量，進行了相應的優化調整。

這些項目將獲得為期3年的資助，大部分項目從今年9月份開始，項目承擔者每年將給FLI提交報告匯報，FLI將組織相應的審核。

比失業更可怕的是失去尊嚴

牛津大學的尼克·博斯特羅姆教授拿到了FLI的150萬美元的最高資助。

這筆經費將用于籌建人工智能戰略研究中心。這一中心將由牛津大學和劍橋大學聯合成立，專注于為政府、行業領導者等提供政策研究支持，從而降低人工智能發展的風險，使其效益最大化。

尼克是牛津大學的哲學教授，專注于存在風險和人類未來的研究，也是暢銷書《超級智能：路徑、危險、策略》一書的作者。尼克認為，人們有理由相信不受監管與約束的人工智能會帶來相當大的危險，一方面是因為技術本身有了前所未有的能力，另一方面是因為政府的不負責任。像核裂變等高科技，政策走在了技術發展之后，使得這項技術的發展伴隨著毀滅性的風險。為了避免這種狀況發生，人工智能安全戰略的研究必須走在超越人類的實用人工智能廣泛實行之前。尼克希望戰略研究中心的成果能夠為全世界的政府和從事AI行業的人所用。

尼克本人更加關注AI的長期發展，包括超級人工智能一類的議題，但是人工智能戰略研究中心建成后也會關注AI造成的短期問題，例如失業問題。對這一問題，他個人的看法比較樂觀：“我個人覺得到目前為止，我們還沒有看到人工智能技術的應用與早前的技術進步浪潮帶來的改變有什么不同—一些工作會被淘汰，但新的工作也會出現。”

但并非所有人都這么樂觀。“我認為未來20年間，人工智能帶來的失業問題是最令人擔憂的。”FIL的項目承擔者之一，斯坦福大學博士邁克爾·韋伯告訴《博客天下》，“不管你是一個拿著高收入的律師，還是流水線上生產iPad的普通工人，當你的雇主發現使用機器或者軟件成本更低時，你都有可能失業。”邁克爾說，人類在享受人工智能帶來的經濟增長和生活質量改善的同時，更應該去關注社會中每個人的幸福和尊嚴，尤其是可能被技術進步奪去工作的人。他的研究課題是“人工智能經濟的優化過渡”，他將依據相關經濟理論，針對不同情境下的AI發展，探