現代機器人之父：預測AI的七宗致命罪狀（下）

錯誤的推斷，有限的想象力，以及一些其他常見的錯誤，這些都使得我們無法有效地思考未來。

表現 VS 能力

我們都使用人們如何完成某些特定任務的情況來評估他們完成一些不同任務的狀況。在一個外國城市里，我們向街上的一位陌生人尋路，然后她滿懷信心的回答并指出似乎正確的方向，所以我們就認為當你想乘坐公交車時，也可以詢問她當地的付費系統。

這并不意味著這些系統是無用的，對搜索引擎而言它們有巨大的價值。但這樣問題來了：人們了解到一些機器人或者人工智能系統完成了一些任務，然后就將它們的表現歸結于能力，即執行同樣任務的人可能會有的能力。并且他們將其泛化應用到機器人或人工智能系統中。

如今，機器人和人工智能系統能做的事情仍然十分有限。人類的歸納推理方式對它們并不適用。

行李箱詞匯

馬文·明斯基將有著很多意義的單詞叫做“行李箱詞匯”。學習就是一個強大的行李箱詞匯。它可以指代很多不同類型的經驗。學習使用筷子是一種不同于學習新歌曲的體驗。學著寫代碼更是與在城市里認路完全不同的體驗。

當人們聽說機器學習在一些新領域取得了巨大進步時，他們總會趨向于使用同人們學習新事物一樣的心智模型。然而，機器學習卻非常脆弱，它需要大量的準備工作，包括研究人員或工程師，專用編碼，特殊訓練數據集以及各個領域的自定義學習結構。現如今的機器學習并不像人類從事的那種像海綿一樣的學習那樣，無需專門的設計就能在一個新領域取得快速進步。

行李箱詞匯在誤導人們說機器可以在人類能做的事情上做的多么優秀。這在一定程度上是因為人工智能研究人員——更糟糕的是， 他們的新聞工作室——總是急于闡述行李箱概念的進步實例。這里的重點是“實例”。而這一細節很快就會消失。新聞標題大肆宣揚行李箱詞匯，而這扭曲了人們對于人工智能在哪和它有多接近完成更多任務的廣泛認知。

指數增長

很多人正在深陷“指數主義”的窘境。

在半導體領域著名的摩爾定律似乎正在遭遇“失效”的危機，雖然在過去的 50 年的時間里同等尺寸的集成電路上所容納的元器件在以每年翻一倍的速度增長，但近年來，這一速度已經延長到了兩年多的時間才能翻番，似乎預示著定律即將被終結。

而之所以摩爾定律被高度重視，是因為芯片組件的指數增長意味著計算機運算速度的不斷提高、內存容量的不斷翻倍、數碼相機將會有更高的分辨率，甚至液晶顯示屏的像素都會以指數級增長。

但摩爾定律也有其受限的適用條件，隨著芯片集成元器件越來越小，其已經逐漸逼近了物理的極限。此時此刻，科學家們不得不更換一條思路，于是，量子效應開始占據了主導，伴隨著硅基芯片技術也開始流行開來。

不過，這也引起了人們的思考，當我們深陷“指數主義”的狂歡中時，可能會覺得這將會一直增長下去，但從現實來看，不論是摩爾定律還是其它的指數定律，似乎都將面臨瓦解的風險，究其原因，也許從一開始將它們定義為“指數”定律就是錯誤的。

事實上，一旦設備的存儲能力大到足夠容納任何音樂、視頻或程序時，指數效應就會瞬間崩潰。而尤其是當存儲能力的增長受到物理限制或失去經濟價值的時候，摩爾定律這種指數增長也會難以為繼。

恰巧在這個時候，深度學習技術的飛躍促使 AI 系統性能的急劇增長，于是很多人認為“摩爾定律”的傳奇將在 AI 時代得以延續。不過，事實恐怕沒有那么樂觀，深度學習技術已經被發展了 30 多年，它的成功僅僅是一個個例。

或許在未來會有許多類似深度學習這樣高增長技術的個例出現，當下火熱的人工智能浪潮也使得大量相關的應用相繼涌現。但遺憾的是，并沒有證據表明這種現象將會成為一條定律而一直發揮作用。

好萊塢式情景

許多好萊塢科幻電影給我們的感覺是，未來的世界就像今天并沒有什么不同，除了某些新的橋段。

事實證明，許多 AI 研究人員和專家，特別是那些對 AI 失控和殺人充滿想象力的悲觀主義者，都忽略了一個事實——如果我們最終能夠開發出足夠智能的設備，那么世界將發生很大變化，我們也不會突然對這種超級智慧體的存在感到驚訝。

隨著時間的推移，這些智能體將得到充分的技術發展，我們的世界將會充滿各種各樣的智能形態，我們會擁有大量如何和這些智能體相處和共存的經驗。

在邪惡的超智能體出現并希望擺脫人類控制之前，肯定有一批不那么聰明和好戰的機器。也就是說，在邪惡智能體出現之前，我們首先會大量接觸那些脾氣暴躁、令人懊惱或者傲慢的機器。在這個過程中，我們會改變這個世界，同時調整新技術和新技術所處的環境。我不是說人類不會遇到挑戰。我是說，人類不會像大多數人想象的那樣，以突然和被動的姿態遭遇那些意外。

部署速度

在某些行業，軟件版本的更新非常頻繁。像 Facebook 這類軟件平臺甚至每小時都會加入新的功能。對于很多新功能來說，只要通過了整合測試，哪怕在實際部署后出現問題需要撤回，也不會在經濟上造成什么影響。這是一種硅谷的科技公司以及 Web 開發者們習以為常的方式，而且這種方式之所以行得通是因為部署訊版本軟件的邊際成本近乎為零。

然而部署新硬件的邊際成本就高得多了，其實我們在日常生活中就能感受到。比如我們現在購買的大部分汽車都不是自動駕駛車輛，也不是基于軟件控制的，這類傳統汽車甚至到 2040 年也會在路上行駛。這對自動駕駛車輛的普及無疑是一種限制。再比如，我們現在建一座房子，它 100 年后還會在那，我自己住的房子就建于 1904 年，而且這還不算最老的。

所以說即便有更高科技的替代方案，由于較多的資金投入，物理層面的硬件還是會有相對較長的使用周期。

現在美國空軍的 B-52H 還在繼續服役，它是 B-52 轟炸機的改進型。B-52H 于 1961 年加入美國空軍，這已經是 56 年前的事了。目前看來，這種機型會繼續服役到 2040 年，甚至有消息稱軍方想讓 B-52H 飛滿 100 年。

很多 AI 領域的研究者們認為，世界已經是數字化的了，全新的 AI 系統應該立即部署到供應鏈、工廠、產品設計中去。然而這種想法離事實還很遠，幾乎所有機器人和 AI 領域所取得的創新，要真正開始廣泛部署，所花費的時間要比人們想象的長太多太多。（摘自美《深科技》）

（編輯/華生）