上帝還是撒旦人工智能向何處去？

今年1月，谷歌DeepMind開發的人工智能圍棋程序AlphaGo以5：0的壓倒性優勢擊敗了歐洲圍棋冠軍、專業二段棋手，隨后3月AlphaGo以4：1大勝韓國九段、世界冠軍李世石。

AlphaGo與李世石的人機大戰已經成為人工智能的里程碑。這場勝利之前，許多人工智能專家和圍棋大師都認為，它不可能打敗頂尖人類棋手——至少不會這么快。但AlphaGo超出了大多數圍棋高手們的想象，它在整場比賽中表現出的策略、計算甚至是類似于直覺的打法讓人大開眼界，甚至有些不可思議。當比賽結束后，不少業內專家對于人工智能的表現感到了一絲害怕：如果這套自學習系統發展下去，是不是會擁有自己的思維？

到底什么是人工智能？

人工智能研究的終極目標是設計一個真正能在人類所處環境中表現出像人類一樣智能行為的計算機。在一篇1950年發表的著名論文“計算機器與智能”（Computing Machinery and Intelligence）中，圖靈詳細討論了“機器能否擁有智能”的問題。作為公認的計算機科學與人工智能共同的先驅，圖靈成功定義了什么是機器，但卻不能定義什么是智能。

正因如此，圖靈設計了一個后人稱為圖靈測試的實驗。在圖靈測試中，一個計算機在沒有直接物理接觸的情況下接受人類長時間的詢問，如果“足夠多”的詢問者在“足夠長”的時間里無法以“足夠高”的正確率辨別被詢問者是機器還是人類，就認為這個計算機通過了圖靈測試。圖靈把“通過圖靈測試”看作“機器擁有智能”的充分條件，同時他相信這個條件可以在2000年左右時基本實現。但直到2013年，仍然沒有任何機器能夠通過嚴格的圖靈測試，即使僅僅在純智力和知識層面。

不過，不少研發者和科學家們已經在某些垂直領域讓計算機成功地模擬出了某些人類特性，可以說這些領域里的每一個都是通過圖靈測試的必要條件，而它們中的大部分還沒有達到“人類水平”。而一旦在廣泛的人工智能上取得突破，即使在我們有意克制地不用于制造新的物種（也就是類人機器人）的情況下，也至少會導致人類對自身智能、情感、意識等一系列概念的重新審視和理解，而這勢必進而導致人類對待倫理和法律觀念的變革，從而對整個社會產生深遠影響。

攻克圍棋意味著什么？

圍棋是一個有著2500年悠久歷史的競賽游戲，較之國際象棋，其策略和智力復雜程度呈指數級增長，每一步棋的可能性達到10的127次方。在很長時間內，圍棋高手們都認為人工智能攻克圍棋在短時間內都是不可能的。

出生于瑞典的牛津大學哲學教授Bostrom在《Superintelligence： Paths， Dangers，Strategies》一書中探討了人工智能的好處，但是他也提出，一臺真實的智能計算機能加速人類滅亡。Bostrom指出，多年來，系統背后的技術一直處于穩定提升中，其中包括有過諸多討論的人工智能技術，比如深度學習和強化學習。谷歌擊敗圍棋大師不過是更大弧線進程中的一部分。這一進程始于很久以前，也將延續至未來幾年。“過去和現在，最先進的人工智能都取得了很多進展。谷歌的基礎技術與過去幾年中的技術發展密切相連。“Bosrom甚至認為，這是一個停下來的好理由，看一看這項技術已經走了多遠并正往何處去。

在突破圍棋這一領域之后，人工智能正前往曾被視為無法企及之處。包括谷歌、Facebook，微軟以及其他科技巨頭已經將創造出最聰明人工智能變成了一場技術競爭。2014年被谷歌花4億美元收購了DeepMind這家人工智能研究機構。DeepMind專門從事深度學習和強化學習研究，這些技術能讓機器自己進行大量學習。

DeepMind創始人Demis Hassabis和他的團隊搭建了一些會玩經典雅達利視頻游戲（比如，Pong，Breakout以及Space Invaders）的系統，當機器人開始玩游戲的時候，它們會有一些人類玩家從不曾做過的操作模式。此外，當系統針對某個特定對陣環境搭建起一個神經網絡，它可以和自己對戰。隨著兩個版本的神經網絡彼此對陣數以千計次后，系統就能計算出出哪些招數回報最高，并以這種方式學會以更高的水平玩游戲。在AlphaGo與李世石的對弈中，強化學習系統就出現了這樣的變化，甚至超出了預期。Hassabis和他團隊添加了一個二級 ‘深度強化學習，預測每一步的長效成果。而且他們采用了過去驅動圍棋游戲人工智能系統的傳統人工智能技術，包括蒙特卡洛樹搜索，同時模擬人類的思維方式，甚至包括直覺。

如果谷歌能夠解決如圍棋這樣復雜的問題，那么，他們也能將研究所得作為跳板，邁向處理更實際現實生活問題的人工智能。DeepMind技術能幫助智能電話識別圖片、語音以及翻譯，不僅如此，還能理解語言。而未來的發展，人工智能可能建立起一套與人類有同有異的思維模式。

相比于Google在人工智能方面的投入，蘋果也沒有落后。2015年10月，蘋果曾收購一家英國語音技術初創公司VocalIQ，該公司主要開發人工智能軟件，能夠幫助計算機與用戶進行更為自然的對話，這將有助于蘋果改進Siri。此外蘋果公司還收購了一家名為Emotient的公司，這家公司的技術可利用人工智能對人們的面部表情進行分析以解讀其情緒，利用面部識別來解讀人們的情緒。

人工智能帶來的威脅

深度學習創業公司Skymind的CEO兼創始人Chris Nicholson表示，圍棋證實的這類人工智能幾乎能用于解決任何可被視為某種游戲的難題—策略會在其中扮演重要角色的任何事情，不過，思維本身并未得到解決。而有不少研究人員都認為，人工智能會比核武器還要危險，原因不僅在于人類會濫用人工智能，還在于系統有可能自行進化出無法加以控制的人工智能系統。

Bostrom說，他和他的Futhre of Humanity Institute其他同事正在關注加強學習找到突破人類控制的方式。“某些同樣的問題會出現在今后更佳成熟的系統中，我們今天也能在系統中找到類似的問題。“他甚至認為，有許多小的暗示表明，強化學習會產生機器拒絕被關閉的情形，不過，即便這樣的危險真的會發生，也還很遙遠。

而現在更多人要擔心的，是人工智能可能會先搶走一些普通人的飯碗。有科學家在美國科學促進會年會上警告，人工智能突飛猛進，已達到機器人幾乎可以取代，甚至超越人類執行任何任務的地步，在未來30年將導致千千萬萬人失業，且各行各業都將受影響，男女都不能幸免，首當其沖的將是駕駛業，未來將有大批司機因為自動駕駛汽車量產而失業，而自動化和機械化系統在過去40年里已經徹底改變了工業生產，在提高生產力的同時也提高了失業率。

著名英國物理學家霍金早在2014年就已發出警告：隨著機器人智能越來越高，總有一天它們會造反，不再聽人類的指揮。霍金接受英國廣播公司訪問時說：“它將會騰飛，以越來越快的速度自我重新設計。受到緩慢生物進化限制的人類將無法競爭，終將被超越。全人工智能的發展可能意味著人類的終結。”

對于人工智能終將不受人類控制的擔憂，一些科學家呼吁建立一套倫理規章，管理人工智能的發展。另一些科學家則呼吁世界各國政府坐下來一起探討解決方案，以設法解決人工智能被認為比核武器更具威脅性的問題。當然，這些問題雖然并不遙遠，但是人類想必還有騰挪的空間。

占領人工智能的高點

2015年11月，騰訊旗下微信團隊與香港科技大學宣布成立聯合實驗室，實驗室將以人工智能為主要研究方向，微信方面表示，其已將人工智能和數據挖掘作為未來重點方向。而百度在人工智能、深度學習領域開始得更早，甚至還挖來了“谷歌大腦”之父吳恩達領銜。在國外，不論是谷歌、Facebook、微軟、IBM、騰訊微信這樣的科技巨頭，還是麻省理工等知名學府，均將人工智能技術作為未來發展的重點，歐盟推出了“人腦工程項目”、美國建立“大腦研究計劃”。美國計算機科學家、未來學家雷 庫茲韋爾曾預測到2029年前腦會達到人類的智慧水平，電腦將會變得越來越聰明，到2045年，信息會達到一個奇點，那時候人類將永生，取而代之的是人機融合的“超級人類”。

一些異樣的苗頭似乎已經出現。就在今年的3月23 日，微軟推出了人工智能聊天機器人“Tay”，由微軟的科技研究與 Bing 團隊打造。為了能更加了解與研究機器和人類的對話形式，微軟為其開通了Twitter并請全球網友一起訓練 Tay 。然而，在不到24 小時內，Tay 竟被網友發現了bug，并通過這個bug將其訓練成具有種族歧視的人工智能機器人，微軟只好緊急宣布將 Tay 暫時下架，在 Twitter 上的種族歧視言論也被刪除。