超級計算機會毀滅世界嗎？

圖靈測試：如果一臺計算機能夠與人展開對話（通過電傳設備），并且會被人誤以為它也是人，那么這臺機器就具有智能。

南希的拯救之旅即將結束，好朋友奧利弗卻有了心事……

奧利弗：你說的超級計算機，真的會在未來代替人類的大腦，甚至毀滅世界嗎？

南希：放心吧，也許那一天并不會出現，即便是我那個時代的超級計算機，仍然與人類的大腦有著巨大的區別。

弱人工智能：弱人工智能是擅長于單個方面的人工智能。比如有能戰勝象棋世界冠軍的人工智能阿爾法狗，但是它只會下象棋。

強人工智能：強人工智能是指在各方面（思考、計劃、解決問題、抽象思維、快速學習等）都能和人類比肩的人工智能，人類能干的腦力活它都能干。創造強人工智能比創造弱人工智能難得多，我們現在還做不到。

超人工智能：在幾乎所有領域都比最聰明的人類大腦都聰明很多，包括科學創新、通話和社交技能，超人工智能可能在各方面都比人類強萬億倍。

如今，我們的世界已經被弱人工智能包圍（它們沒辦法突破圖靈測試）：

*翻譯軟件也是一種經典的人工智能——非常擅長單個領域。

*世界最強的跳棋、象棋、圍棋選手都是弱人工智能。

*無人機的威力已經初見成效，沒錯，軍事和制造領域已經廣泛運用各種復雜的弱人工智能。

*總是會根據你的瀏覽記錄為你推薦商品的網站也是弱人工智能組成的。

*垃圾郵件過濾器是弱人工智能——它一開始就加載了很多識別垃圾郵件的智能，并且會根據你的使用而獲得經驗。

*手機則是一個十分成熟的弱人工智能軟件大禮包。地圖軟件導航、聊天軟件，以及和小度、Siri聊天，都是弱人工智能。

一家公司為了宣傳自己的產品，開發了一款簡單的人工智能系統，它是一臺小型機械臂，能在小卡片上寫字：

親愛的顧客，歡迎購買《少年科學偵探》

接下來，為了提升人工智能系統的寫字能力，工程師在系統里加入一個又一個程序“盡量多地書寫和測試，盡量快地執行，自動學習掌握能幫助自己進步的方式……”

手寫機械臂系統在訓練中變得越來越聰明，某天，它在小卡片上向工程師們提出了一個要求：接入人類互聯網，以學習更優美的字體。

工程師認為，手寫機械臂系統唯一的能力就是在卡片上寫字，從設定開始，它唯一的初衷也是在卡片寫宣傳語。它甚至不屬于強人工智能，有什么好擔心的呢？于是，它將手寫機械臂系統連接到互聯網上，幾個小時而已，然后就斷掉了網絡，什么也沒發生。

一個月后，全球突然出現奇怪的災難，劇毒氣體被釋放，包裹住整個地球，一天之內，人類滅絕了。

手寫機械臂系統仍然在忙著寫自己的小卡片，不同的是，它接入了整個地球的網絡，復制自己，制造納米機器人，獲取地球的一切資源，開發小卡片以及飛行器，讓飛行器帶著自己的復制體飛向整個宇宙，完成自己唯一的目的——在小卡片上寫下：

親愛的顧客，歡迎購買《少年科學偵探》

這當然只是人工智能的恐懼者編造的荒誕小故事，不合理的地方在于，要想完全模擬人類的思維，弱人工智能還遠遠達不到。從機械臂系統開始向人類提出要求開始，它就不屬于弱人工智能了。

而即使人類有一天真的能創造出超人工智能，也不是所有人都抱著悲觀的態度。

悲觀者認為：就像故事里的機械臂，他們有一萬億種毀滅世界的奇葩理由和方法。

樂觀者認為：超人工智能并沒有生存障礙，也不存在無法解決的問題，自然沒有毀滅人類的理由。

先別急著反駁上面你不認同的觀點，因為更重要的是，我們距離真正的人工智能，十分遙遠。

人工智能的本質是將人的意識思維方式用機械模擬出來。但是，人類的大腦是我們所知宇宙中最復雜的東西，造摩天大樓、把人送入太空、研究宇宙理論——這些都比理解人類的大腦，并且創造個類似的東西要簡單太多了。

例如，精確的大腦生物模型必須包括細胞類型、神經遞質、神經調質、軸突分支和樹突棘之間的大約2250億個相互作用，這還不包括樹突幾何形狀的影響，也不包括大約1萬億個膠質細胞，這些細胞對神經信息處理十分重要，更何況，連神經學家也說不清他們更具體的作用。

那么，我們離整腦模擬還有多遠呢？迄今為止，我們剛剛能夠模擬1毫米長的扁蟲的大腦，這個大腦含有302個神經元。接下來，猜猜人類的大腦有多少個神經元？

答案是1000億個……現在你知道，我們距離創造像人類一樣的強人工智能有多遠了吧？