人工智能是天使還是魔鬼？

+ 譚鐵牛

大家“金句”

· 現在的人工智能有智能沒有智慧、有智商沒有情商、會計算不會“算計”、有專才無通才。

· 深度學習還不能舉一反三、不能解釋，“知其然不知其所以然”，與人類智能存在很大差距。

· 當前人工智能處于從“不能實用”到“可以實用”的技術拐點，但是距離“很好用”還有諸多瓶頸，理論創新和產業應用發展空間巨大。可以說，人工智能的春天剛剛開始。

人工智能在普遍被看好的同時，確實富有爭議。近些年不斷上映的關于人工智能、機器智能的科幻大片里，有些把人工智能塑造為暖男，也有一些塑造成給我們帶來恐慌的機器人。的確給人們提出了很多懸念和問題：人工智能到底是天使還是魔鬼？

要回答這個問題，有必要搞清楚。人工智能的基本概念、人工智能目前能夠做什么和不能做什么、人工智能未來發展走向。

一、人工智能的基本概念和發展歷程

人工智能，即“Artificial Intelligence”這個詞及相關概念，是1956年在達特茅斯學院暑期研討班上由一個叫約翰·麥卡錫的年輕人提出的。這個研討班的主題就是怎樣用機器模擬人的智能。當然人工智能相關研究并不是從1956年才開始，只是在這個時候才正式提出概念。

人工智能研究的主要目的就是探尋智能本質，研究出具有類人智能的智能機器，讓機器或者計算機會聽、會看、會說、會想、會決策。人工智能的概念提出到今天，62年過去了。從起步時大家的興奮、到后來提出了一些讓人期待但不可實現的目標、接下來的反思，一直到互聯網出現以后大數據的涌現，使得人工智能走上一個新的高潮。

今天，人工智能如日中天、火遍全球，因此實事求是地設定科學目標顯得尤為重要。1956年的研討會有十個年輕人參加，其中一個很樂觀，認為到2000年人工智能有可能達到人的智能，這顯然太樂觀了。但人工智能無論是在理論層面、關鍵技術還是具體應用上的進步是有目共睹的。

二、人工智能發展現狀

1、專用人工智能取得突破性進展

專用人工智能就是讓人工智能系統專門做一件事——比如下圍棋，是面向特定領域或者單一任務的人工智能。它確實取得了一些突破性進展，而且比人做得更好。可以舉出很多這樣的例子。

除了下圍棋的AlphaGo，美國Boston Dynamics公司的人形機器人可以跨過障礙物，四足機器人像狗一樣跑得非常快，可以爬樓梯，普通人看了確實會感到一種不安。

中科院自動化所的機器魚、谷歌最新的語音人機對話都達到了很高水平，科大訊飛的語音識別把維語和普通話的互譯做得非常好。各種人臉識別非常火爆，中國也走在世界前列。

過去二十年我一直在研究虹膜識別，這是人工智能的一個特定領域。瞳孔和眼白之間的中間區域叫做虹膜區域，1936年眼科醫生發現每個人虹膜上的花紋都不一樣，一歲半以后定形終身不變。目前國內很多煤礦的礦工考勤就大量使用這項技術。黑龍江的一家煤礦最早打算使用指紋識別，但人的手指可能會脫皮；如果刷臉，上班沒有問題，下班時的煤礦工人滿面煤灰，很難準確識別；而虹膜識別就沒有問題。這項技術現在推廣到國內很多煤礦。特別讓我高興的是，不久前中央電視臺報道，虹膜識別可以用于尋找丟失兒童。

專用人工智能還能夠成功應用在圖像篡改檢測上——確定照片是否經過修改。這用肉眼很難看出來，而人工智能根據圖像內容分析可以自動實現篡改檢測。這有什么用途？2015年有一天我收到一封信，里面有一張糟糕的照片，把別人的頭像換成我的頭像，要一周之內給他寄二十萬。用人工智能就可以證明這張照片是假的。

Boston Dynamics的人形機器人和狗形機器人在2018年都取得了重大突破

面向特定領域的人工智能（專用人工智能）由于應用背景需求明確、領域知識積累深厚、建模計算簡單可行，因此形成了人工智能領域的單點突破，在局部智能水平的單項測試中可以超越人類智能。

AlphaGo系列在圍棋比賽中碾壓人類棋手

DeepStack戰勝德州撲克人類職業玩家

人工智能的發展現狀

2、統計學習成為人工智能走向實用的理論基礎

可以說，專用人工智能取得突破性進展，很大程度（特別是這幾年）取決于統計學習或者機器學習的進步，特別是深度學習。深度學習其實不神秘，只是借鑒了人的大腦在處理信息過程當中的層次化過程。因為深度學習的涌現，ImageNet圖像分類的Top5誤差率從2012年的16%降到了2017年的3%左右，圖像分類能力開始超越人眼視覺，也就是說識別力高于人。除了深度學習外，通過學習找出最好策略，這就是所謂強化學習。在博弈中學習，使得學習能力不斷提高，這就是生成對抗學習。

3、無論戰略層面還是創新及應用，人工智能都備受關注

人工智能值得一提的現狀是，技術生態或者創新生態備受關注。科技巨頭紛紛推出自己的開源系統、技術軟件平臺和硬件平臺，原因是什么？他們沒有忘記信息技術和信息產業發展的歷史帶給他們的啟示。所以從傳統的操作系統、硬件，到現在移動互聯網再到新時代的人工智能，新老IT巨頭都要全面轉向人工智能。例如，2017年的谷歌I/O大會明確提出發展戰略從“Mobile first”轉向“AI first”；微軟在2017財年年報中首次將人工智能作為公司發展愿景；百度在2017年明確提出“All in AI”;IBM也在 2017年全面推廣認知計算戰略……

另一方面，人工智能創新創業如火如荼。2017年全球新成立的人工智能創業公司就有一千多家，人工智能領域獲得的投資達152億美元，同比增長141%。在應用方面，“智能+”已經成為一種創新范式，向各行各業快速滲透融合、進而重塑整個社會發展，這是人工智能驅動第四次技術革命的最主要表現方式。當然其中有的是炒作，把傳統的數據分析貼上人工智能的標簽。但是人工智能發展迅速是一個客觀現狀。

人工智能已經加速成為國家戰略，我可以舉很多這樣的例子。過去幾年，最早被大家熟悉的“德國工業4.0”，核心就是人工智能；到2018年5月10日，美國白宮組織AI研討會，成立AI專門委員會，確保人工智能領域美國第一。

4、人工智能的社會影響得到廣泛關注

在美國，近千名人工智能領域的專家共同簽署了阿西洛馬23條原則，關注人工智能可能帶來的社會影響，以及如何規范人工智能研究和應用，以確保擁有自主意識的機器保持安全，并以人類的最佳利益行事。

但目前人工智能發展的另外一個客觀現狀是，人工智能領域的誤解和炒作普遍存在。例如所謂“人工智能系統將超越人的智能水平”，“人工智能已達到5歲小孩的水平”，都是炒作。某一個特定任務中人工智能達到五歲小孩水平，是可信的，籠統地說人工智能達到三歲、五歲小孩，就是炒作。

這些炒作有的是有意的，有的則是概念誤解混淆。比如經常有人把機器學習看成人工智能，但這只是人工智能其中一個研究方向；又有人把深度學習看成機器學習，但深度學習只是機器學習中的一種方法；有人只談圖像識別中的人工智能，這只是人工智能一個方向。還有人把大數據看成人工智能、專家系統看成人工智能、機器人看成人工智能……特別是把人工智能與人類智能、或者機器人與人類看成“零和博弈”，你死我活。這些其實都是誤解，人和人工智能是可以互補的。

5、人工智能仍處于起步階段

常有人誤解，專用人工智能等于通用人工智能。什么是通用人工智能或者什么是通用智能系統？我們人的大腦就是一個通用智能系統。同樣一個大腦，經過學習可以下圍棋也可以下象棋，能夠舉一反三、融會貫通，可以處理視覺、聽覺、判斷、推理、學習、思考、規劃、設計等各類問題，可以說一腦百用。目前的人工智能距離人類智能水平還有很大差距，還有很多人工智能不能做的事，而有的事對人來說非常簡單。

所以說，人工智能總體發展水平仍然處于起步的階段，美國的DARPA對人工智能現狀也是這樣認為的：從知識規則到統計學習，第二波人工智能技術在信息感知和機器學習方面進展顯著，但是在概念抽象和規劃決策方面剛剛起步。

6、人工智能的局限性及瓶頸

2015年，我曾經用“四有四無”概括人工智能總體狀況，三年以后還可以這樣說，現在的人工智能是：

· 有智能沒有智慧。智慧是高級智能，有意識、有悟性、具備綜合決策能力，目前的人工智能是缺乏的。

· 有智商沒有情商，機器人對人的情感理解與交流還處于起步階段，與科幻電影中跟人類談情說愛的人工智能還差得很遠。

· 會計算不會“算計”，人工智能系統可謂有智無心，更無謀。

· 有專才無通才，下圍棋的AlphaGo不會下象棋。

舉一個具體的例子，現在語音翻譯已經取得比較大的進展，但如果讓人工智能翻譯這幾句話“他吃食堂，他吃面條，他吃大碗”，谷歌翻譯把“大碗”、“食堂”省去了；同樣，“那輛白車是黑車”和“能穿多少穿多少”，谷歌翻譯也都無能為力。

又例如，學校餐廳打出“歡迎新老師生前來就餐”的橫幅，人類理解起來沒有問題，不僅知其然還知其所以然；但是人工智能算法就會發生歧義。

所以說，目前人工智能發展面臨著數據瓶頸、泛化瓶頸、能耗瓶頸、語義鴻溝瓶頸、可解釋性瓶頸、可靠性瓶頸。例如，深度學習很大程度上是黑箱狀況，我們還不能完全從數據上論證為什么那么有效，不能完全確保這個多層深層神經網絡訓練是收斂的，所以有數據瓶頸。深度學習要提供大量已標注數據，還需要大量的人工；它不能舉一反三、不能解釋，“知其然不知其所以然”，與人類智能存在很大差距。正因為這些差距，人工智能未來發展還有巨大創新空間。

三、人工智能未來發展趨勢——人工智能的春天剛剛開始

當前人工智能處于從“不能實用”到“可以實用”的技術拐點，但是距離“很好用”還有諸多瓶頸，理論創新和產業應用發展空間巨大。可以說，人工智能的春天剛剛開始。

人類社會經歷機械化、電氣化、信息化的時代以后，正在向智能化社會邁進。人工智能有望引領新一輪科技革命。世界著名科學家格特納曾說：“人工智能將是未來十年最具顛覆性的技術，無處不在的人工智能將成為趨勢。”

具體來講，人工智能有八個宏觀發展趨勢值得關注：

（1）從專用智能到通用智能

如何實現從專用智能到通用智能的跨越式發展，既是下一代人工智能發展的必然趨勢，也是研究與應用領域的挑戰問題。通用智能被認為是人工智能皇冠上面的明珠，是全世界科技巨頭競爭的焦點。美國軍方也開始規劃通用智能的研究，他們認為通用人工智能和自主武器，是顯著優于現有人工智能技術體系發展方向，現有人工智能僅僅是走向通用人工智能的一小步。

（2）從機器智能到人機混合智能

人類智能和人工智能各有所長，可以互補。所以人工智能一個非常重要的發展趨勢，是From AI （Artificial Intelligence） to AI（Augmented Intelligence），兩個AI含義不一樣。人類智能和人工智能不是零和博弈，“人+機器”的組合將是人工智能研究的主流方向，“人機共存”將是人類社會的新常態。

（3）從“人工+智能”到自主智能系統

人工采集和標注大樣本訓練數據，是這些年來深度學習取得成功的一個重要基礎或者重要人工基礎。比如要讓人工智能明白一幅圖像中哪一塊是人、哪一塊是草地、哪一塊是天空，都要人工標注好，非常費時費力。此外還有人工設計深度神經網絡模型、人工設定應用場景、用戶需要人工適配智能系統等。所以有人說，目前的人工智能有多少智能，取決于付出多少人工，這話不太精確，但確實指出了問題。下一步發展趨勢是怎樣以極少人工來獲得最大程度的智能。人類看書可以學習到知識，機器還做不到，所以一些機構例如谷歌，開始試圖創建自動機器學習算法，來降低AI的人工成本。

（4）學科交叉將成為人工智能創新源泉

深度學習只是借鑒了大腦的原理：信息分層，層次化處理。所以，人工智能與腦科學交叉融合非常重要。《Nature》和《Science》都有這方面成果報道。比如《Nature》發表了一個研究團隊開發的一種能自主學習的人工突觸，它能提高人工神經網絡的學習速度。但大腦到底怎么處理外部視覺信息或者聽覺信息的，很大程度還是一個黑箱，這就是腦科學面臨的挑戰。這兩個學科的交叉有巨大創新空間。

（5）人工智能產業將蓬勃發展

國際知名咨詢公司預測，2016到2025年人工智能的產業規模幾乎直線上升。國務院《新一代人工智能發展規劃》提出，2030年人工智能核心產業規模將超過1萬億，帶動相關產業規模將超過10萬億。這個產業是蓬勃發展的，前景顯然是非常大的。

（6）人工智能的法律法規將更加健全

大家很關注人工智能可能帶來的社會問題和相關倫理問題，聯合國還專門成立了人工智能和機器人中心這樣的監察機構。前不久，歐盟25個國家簽署了人工智能合作宣言，共同面對人工智能在倫理、法律等方面的挑戰。中國科學院也考慮了這方面的題目。

（7）人工智能將成為更多國家的戰略選擇

一些國家已經把人工智能上升為國家戰略，越來越多國家一定會做出同樣舉措。包括智利，加拿大，韓國等等。

（8）人工智能教育將會全面普及

教育部專門發布了高校人工智能的行動計劃。國務院《新一代人工智能發展規劃》也指出，要支持開展形式多樣的人工智能科普活動。美國科技委員會在《為人工智能的未來做好準備》中提出全民計算機科學與人工智能教育。

這八大宏觀發展趨勢，既有科學研究層面，也有產業應用層面，也有國家戰略和政策法規層面。在科學研究層面特別值得關注的趨勢是：從專用到通用，從人工智能到人機融合、混合，學科交叉借鑒腦科學等。

四、結束語

人工智能經過六十多年發展已經取得重大進展，但總體上還處于初級階段。人工智能既具有巨大的理論與技術創新空間，也具有廣闊應用前景。

現在回到題目中提出的問題，人工智能到底是天使還是魔鬼？我要說，高科技本身沒有天使和魔鬼之分，人工智能也是如此，這一把雙刃劍是天使還是魔鬼取決于人類自身。人工智能在天使手里是天使，在魔鬼手里就是魔鬼。因此我們有必要未雨綢繆、形成合力，確保人工智能正面效應，確保人工智能造福于人類。