圍棋人機大戰：別誤解了一只“狗”

王培

“阿爾法圍棋”在人機大戰中的驚人成績并不說明它發現了思維活動的普遍規律，而面向思維規律的人工智能研究也不以“成為圍棋高手”或“通過圖靈測試”為直接目標，它又被為“通用人工智能”。另一種“非主流”的人工智能研究則是用計算機在神經元層次上構建“腦模型”或在行為層面上構建“認知模型”

韓國棋手李世石和“阿爾法圍棋”（AlphaGo）的人機系列大戰，引起世人空前的興趣和驚奇。隨之而來的，是人們對人工智能未來對人類社會的潛在貢獻和挑戰的種種思考與探討。在這輪熱潮中，AlphaGo在中文中又被“調皮地”翻譯成“阿爾法狗”，而實際上，在英語中，“Go”正是圍棋的意思。

一只“狗”所引發的對前沿科技發展的關注當然十分可貴，但是在諸多熱烈的討論中，也出現了對人工智能的各種誤解。對于與此次人機大戰有關的誤讀，有必要在人工智能的話題保持熱度之時著重提出來，進行清晰的辨識。

忘了“阿爾法圍棋”吧

“非主流”的人工智能更符合大眾預期

有關人工智能的公眾討論向來就包含著大量混亂的信息。造成這種情況的主要原因之一，就是對“人工智能”這個詞存在著幾種非常不同的理解。人工智能的概念問題具有復雜的歷史根源，它不是僅僅由某個權威專家、專業協會或者教科書給出一個“定義”就能解決的。

實際上，自電子計算機發明以來，就一直在逐步實現各種人類智力功能，而“人工智能”的最初目的，就是要在計算機上再現“全部的”人類智力功能。這一想法基本上就是大眾通過科幻作品所建立起來的人工智能的概念——智力可以與人一較高低的計算機或機器人。

然而，由于智能（以及與其密切相關的認知、思維、意識等現象）具有極度的復雜性，因而，雖然人們不斷嘗試設計和構建“思維機器”，希望這些機器在各個方面都可以和人相比，但是，這些嘗試往往都以失敗而告終。其結果是，多年以來，這個領域的主流科學家就已經實際上放棄了或無限期推遲了針對上述目標的努力，轉而研發只在某個特定問題的解決上可以達到人類水平的計算機系統。

近幾十年來，這種研究產生了大量的理論和應用成果，但這個意義上的“人工智能”和公眾的觀念有很大差異。這種差異主要體現在以下方面：第一，盡管這種人工智能系統可能在某一方面有超人的表現，但是它們在其他方面則完全“無能”；第二，這種系統的能力完全由人設計決定，系統本身基本上沒有適應性、靈活性和創造性；第三，這種系統的工作方式和人完全不同，所以，它們的出現并不能夠加深我們對思維的認識。

以上這些特點所造成的后果是：公眾作為“局外人”，覺得這種“智能系統”并無多少智能可言；而作為研發科學家的“局內人”則會辯解說，人工智能就是這么定義的，公眾假如不認可，那純粹是因為“你們科幻作品看得太多了”。

近年來，“機器學習”的發展在一定程度上緩解了上述的觀念沖突。以“阿爾法圍棋”為例，它的核心技術——“深度學習”，使得該系統在一定程度上擺脫了對設計者的依賴，因而和人的學習過程有一定的相似性。這種工作方式和計算機的硬件力量以及海量的數據相結合，最終造成了計算機在圍棋領域中相對于人類棋手的優勢。

然而，深度學習還遠遠沒有解決一般意義上的人工智能問題。盡管這類算法可以應用于不同領域，但它們仍只能解決某類滿足特定條件的問題。比如，它們需要大量的訓練數據和一定的訓練時間，因此不能處理新的或突發性的事件；其次，它們的處理過程和人的思維活動極其不同，因此其“思路”則難以被人所理解；而且，它們會犯一些莫名其妙的錯誤，因此，其可靠性難以保證，等等。迄今為止，盡管深度學習已經取得了令人矚目的成就——“阿爾法圍棋”就是其表現之一，但仍有許多與智能和思維有關的問題是這種技術完全沒有涉及的。

深度學習、機器學習，或者以“解決只有人能夠解決的問題”為導向的主流人工智能，并不是目前人工智能研究的全部。至少還有另外兩種目前可謂“非主流”的人工智能研究是需要被提及并引起關注的。一種思路是，用計算機更忠實地模擬人腦。這種模擬可能是在神經元層次上構建“腦模型”，或者在行為層面上構建“認知模型”，比如以通過圖靈測試為目標，做到在語言、行為上和人不可區分。另一種思路是，把智能的諸方面作為一個整體來看，試圖找到其共同的基礎或核心。后一類研究近年來被稱為“通用人工智能”，筆者本人所做的工作即是在這一領域。

當然，這些“非主流”研究尚未達到實際應用的程度，但是，其概念離公眾心目中的人工智能觀念更近。嚴格來說，這幾種人工智能實際上應該被看成不同的學科，因為它們在研究目的、手段、技術和成果方面均有根本性差別——盡管不同的研究路徑的確具有千絲萬縷的聯系。而對于公眾而言，由于歷史的原因，這些差異巨大的研究方向和成果都被籠統地稱為“人工智能”。

“阿爾法圍棋”擬人化不要太“入戲”

有情感的人工智能并非不可能

認清人工智能不同研究方向的差別，有助于我們恰當地理解這次圍棋人機大戰。

首先，目前的戰況已經充分展示了深度學習在圍棋領域的超人能力，但同時應該認識到，這完全不意味著機器學習已經解決了整個智能問題。對此類問題的誤解常常是由“擬人化”而造成的。因為自古以來就只有人類會下圍棋，人們談論圍棋時所用的各種概念不可避免地是從人的思維活動中提煉出來的，而后它們卻被不自覺地“客觀化”，從而被理所當然地看作圍棋本身的規律性。這一點可以在圍棋界在賽前、賽后的分析中明顯地看出來，其表現就是，人們常常下意識地把“阿爾法圍棋”當做人類棋手來進行分析，而該系統的研究團隊發表在《自然》雜志的文章中早已明確說明，“阿爾法圍棋”下棋的方式和人類棋手的差別并非人們所理解的那樣——只是“看得遠”和“算得細”。

我很欣慰地看到李喆六段在《這兩盤棋沒人會比李世石做得更好！》一文中的清醒認識：“阿爾法圍棋”的下法是不在傳統圍棋文化的概念空間之內的。

就人們對人工智能的理解而言，對圍棋是如此，在其他問題上又何嘗不是呢！由于圍棋對人來說要求有“高智力”，因此很多人就認為計算機中的“圍棋高手”也是具有高智力的。而實際上，“阿爾法圍棋”對于很多在人們看來比圍棋容易得多的任務是完全無能為力的。從這一角度來看，這次比賽完全算不上“人類和計算機的智力的巔峰對決”。

一個人工智能系統只是在某些方面（而非在所有方面）和人具有可比性。人工智能各個“流派”的根本差別，也正體現在它們要在哪一方面達到或超過人類的水平。“阿爾法圍棋”在人機大戰中的驚人成績并不說明它發現了思維活動的普遍規律，而面向思維規律的人工智能研究（我自己所做的就是這方面的工作）也不以“成為圍棋高手”或“通過圖靈測試”為直接目標。由于計算機和人在硬件和經驗上的根本區別，人工智能系統是不可能在所有方面都和人一樣的——那樣的話，人工智能就成了“人造人”了！在討論人工智能的未來影響時，大部分的誤判都源自對以下兩方面認識不清：首先，人機之間的一些根本差別被忽略了；而另一方面應該看到，現有的另一些人機差別則可能只是暫時的，隨著人工智能的發展，這些差別是可能消弭的。

對于以上兩方面，可以各舉一例。

目前對人工智能的普遍擔憂之一，就是它會引起大規模的失業。的確，人工智能技術一定會引起就業結構的重大調整，但是說它能在各種崗位上都能取代人工則是不正確的。既然“智能”和“學習”是密切相關的，那么一個智能系統的行為就同時取決于其先天條件（設計、制造）和后天條件（教育、經歷）。無論計算機技術如何發展，智能系統不會有生物屬性和人類經驗。人工智能和人類的這種差別雖然不會降低一個系統的智能水平，但必然會造成系統在行為上和人類的差異。因此，有很多需要生物屬性或人類經驗的工作，就不是人工智能所能承擔的了。這和人工智能的技術發展水平無關，而更類似于不同文化和環境背景中成長起來的人與人之間的行為差異。

另一方面的例子是，在這次圍棋人機大戰所引發的討論中很多人斷言，“人工智能不可能有情感”。而事實并非完全如此。盡管當前的主流人工智能技術開發出來的系統（包括“阿爾法圍棋”）的確是沒有情感的，但在通用人工智能研究中則有越來越多的研究者認為，情感和智能是密不可分的，而且已經有若干模型具有簡單的情感機制，我自己的工作也呈現了這樣的結果。雖然這種情感在細節和表現方式上和人類情感不完全一樣，但在系統的內部控制和外部通信過程中會發揮同樣的功能。

因此，你可以說“人工智能中的情感機制尚未成熟”，或者對現有的各種模型提出這方面的批評，但并不能因此就說擁有情感的人工智能是“不可能的”。更廣泛地看，對人工智能認識的局限性并不僅限于對“情感”現象的認識。要記住，在一個“人工智能專家”告訴你，人工智能的某個功能是“不可能的”時，他所說的也許只限于他所理解的人工智能。

作為一個非常特別的話題，人工智能總是能夠同時引起人們的好奇心和危機感。與此同時，人們又常常在對相關研究知之甚少的情況下貿然下結論。從人工智能的發展歷史來看，人們關于人工智能的直觀看法往往包含許多錯誤。

這次圍棋大戰使得很多人見識到了某些人工智能技術的力量。但是，和這個領域的發展潛力，尤其是和通用人工智能技術的潛力相比，在圍棋上打敗所有人的智能系統可以說算不得什么。和其他革命性的科技突破一樣，人工智能的發展對整個人類社會來說是機會與挑戰并存、希望與危險同在。在這種情況下，盲目的樂觀和出于無知的恐懼都是有害的。希望有更多的人真正花工夫去了解人工智能研究的進展，共同發現正確的對應之道。

事實上，在人工智能領域，各種理論和技術具有不同的實際能力和局限性，因而不能單憑直覺就籠統地斷言人工智能“能干什么”或者“不能干什么”。

（作者系美國天普大學計算機與信息科學系副教授，世界通用人工智能學會副主席，《通用人工智能》雜志主編）