圖靈測試的明與暗

2020-12-02 22:09:52于劍

計算機研究與發展 2020年5期

于劍

(北京交通大學人工智能研究院北京 100044)(交通數據分析與挖掘北京市重點實驗室(北京交通大學) 北京 100044)

如果追蹤現代人工智能(artificial intelligence, AI)的緣起，可以發現起導火索作用的就是圖靈測試[1].發展至達特茅斯會議，現代人工智能已經可以算瓜熟蒂落了.因此，人工智能避不開圖靈測試.關于圖靈測試，已經有非常多的研究，本文分4部分敘述.

1 圖靈測試

最原始的圖靈測試，也就是圖靈提出的圖靈測試[1].實際上起初機器模擬的是女人，不是范圍更大的人.當然，女人也是人，廣義上說模擬人也沒有錯.現在，圖靈測試一般是指模擬人.在1991年有人就專門設計這種比賽，比賽還有一個專門的獎(Loebner prize)，每年獎勵做的好的參賽隊伍.現在為止，能夠通過圖靈測試的還沒有.

那么通過了圖靈測試，是否就意味著機器具有人的智能了呢？對此，塞爾設計了一個特別的思想實驗來回答這一問題[2]，這個實驗的名稱叫中文實驗室.該實驗明確說明，即使通過了圖靈測試，機器具有的也只是人工智能，并不是人的智能.為什么說不是人的智能呢？原因很簡單：因為只是文字通過了測試，并不意味著現實中就能通過.

現實中，完全有可能文字通過了，可是其他方面不對.作為人，不光是通過文字理解世界，還要通過視覺、觸覺、聽覺、味覺等全面地感知世界.只有在所有方面通過，才可能算人的智能.1989年Harnad提出了完全圖靈測試(total Turing test, T3)[3],原始圖靈測試稱為T2.中國有一個真假美猴王的故事，可以用來說明所謂的T3測試.在真假美猴王這個故事里，眾多能力高超的神仙采取了各種各樣的測試手段，也分不出哪個是真的美猴王，哪個是假的美猴王.如果通過了這個測試，那就是通過了T3.對于人工智能的各種恐懼感，可能都起源于T3.一旦T3通過了，人就可以完全被替代了.因為可以造個機器人，可以完全把人代替了，而且誰都看不出真假，就像真假美猴王一樣.在這種情況下，要求人們不恐懼人工智能似乎也不現實.

但是，不論T2還是T3，是否真有實現的可能呢？這就需要深入討論.

2 圖靈測試的預設

要想知道T2或者T3能否實現，需要仔細研究T2以及T3的預設.考慮到T3是T2的擴展，只需考慮T2的預設就可以了.要考慮圖靈測試的預設，一定要看圖靈生活在什么年代.圖靈生活在1912—1954年，這個時間段非常關鍵.所有的東西都需要放到歷史中看，因為沒有人能擺脫歷史的限制，沒有人不受限于歷史.現在有智能手機，圖靈時代肯定沒有智能手機，這是很自然的事情.圖靈發表圖靈測試的文章是在1950年[1].而到1953年，維特根斯坦出了一本書，叫《哲學研究》[4].這個順序不能亂，知道了這個順序之后，就可以理清很多事情了.

在《哲學研究》出版以前，一般假設概念是存在經典定義的.如果某個概念沒有經典定義，那么只能說明研究還不夠深入，需要繼續研究.這方面，希爾伯特的話最為經典，他說“我們必將發現，我們終將發現”.什么是概念的經典定義？概念的經典定義由3部分組成：1)符號表示，名字表示概念的名稱；2)內涵表示，由命題來表示；3)外延表示，就是概念要指稱世界的對象，要把對象一一列出來，即經典集合表示.

這么說比較抽象，舉個具體的例子，比如素數這個概念的經典定義，素數的符號表示在中文中就是“素數”，英文中為“prime number”，反正是一個名稱；它的內涵表示就是“只能被1和自身整除的自然數”這個命題；它的外延表示就是集合{1,2,3,5,7,11,13,17,19,23，29，…}.有了概念的經典定義之后，很多事情實現起來就非常容易.

在《哲學研究》出版以前，人們認為概念都可以像素數這個概念一樣具有經典定義.在《哲學研究》出版以后，這個假設就不一定正確了.《哲學研究》出來之后，哲學界花了多年進行深入研究，最后基本上認可了這本書的觀點.這些共識傳播到計算機領域，就比較晚了，大約是本世紀初左右的事情.

在《哲學研究》出版以后，一般認為概念不一定存在經典定義.如果概念沒有經典定義，那么需要研究概念的其他表示，這是認知科學中的一個重要方向.《哲學研究》出版以后，概念是否存在經典定義本身需要研究，有的存在，有的不存在.在《哲學研究》中，維特根斯坦已經論證了日常生活中的大多數概念都不存在經典定義.說的更加直白一點，要給出像素數那樣干干凈凈的經典定義，對于日常生活中的很多概念是不可能的事情！

現在回過頭來看圖靈測試中的預設.圖靈測試中預設概念都是經典概念.可惜的是，這個預設并不一定成立.圖靈測試中預設了2個概念是經典概念，一個概念是智能，一個概念是人.這2個概念都不具有經典定義，下面給一個稍微仔細一點的說明.

1) 先說智能.莊子認為“知也者，爭之器也”[5]；霍爾認為智能的本質是“注意應該注意的事情”[6]；愛因斯坦認為“智能的真正表示不是知識而是想象”；王飛躍認為“智能是開放的情報，情報是封閉的智能”[7]；等等.可以發現智能的概念五花八門，到現在為止，并沒有一個大家都認可的定義.考慮到智能實際上是一個不斷擴展的概念，甚至未來也不可能存在一個大家公認的定義.因此，要想給出智能的一個經典概念，目前看來并不可能.

2) 圖靈測試中的另外一個重要概念是人.關于如何定義人，從古至今，也一直是研究的重點.普羅泰戈拉認為“人是萬物的尺度，是存在的事物存在的尺度，也是不存在的事物不存在的尺度”，柏拉圖認為“人是沒有羽毛的兩腳直立的動物”[8]，馬克思認為“人是一切社會關系的總和”[9]等等，不一而足.據說，柏拉圖給出的這個定義就只存在了一天，因為第二天亞里士多德就在課堂上出示了該定義的一個反例——一只拔光了羽毛的雞.上面提到的這些人都非泛泛之輩，給出的定義也不是完全沒有參考價值.但是到現在為止，這些定義都沒有得到大家的完全認可.到目前為止，“人”這個概念尚沒有經典定義.概念只要沒有經典定義，在很多情形下就計算不了，計算不準.這導致圖靈測試中的人沒有了統一的標準或一致的判據.其后果就是圖靈測試的重復性沒有理論保障.這次測試通過了，下次換一批人換一批任務說不定就通不過了.

由于人和智能這2個概念沒有經典定義，說機器的智能超過人的智能，如果不做一定限制的話，就是一件沒有意義的事情.

從以上分析可以看出，圖靈測試是建立在概念存在經典表示的預設之上的.但是，這個假定并不成立.即使進一步縮小范圍，對于“智能”和“人”這兩個在圖靈測試中的核心概念，也同樣不存在經典表示.這對于圖靈測試帶來了致命的后果.

3 圖靈測試的明與暗

由于圖靈測試中預設概念存在經典表示，對于圖靈測試中涉及的概念就劃定了嚴格的范圍，可以對問題進行封閉研究或者實驗.

但是，第2節已經論證了這一預設不成立.這使得圖靈測試具有3個特點:1)問題不確定，問題完全開放.在圖靈測試中并沒有限定問題的范圍，所有的問題都可以問，是完全開放的，也就是說，圖靈測試中模仿的內容或者任務是開放的.2)實驗中的人未定，實驗中的對象是開放的.實驗中的人是中國人？是3歲的小孩？是瘋子或者是聾啞人？等等這些都完全未定.3)圖靈測試中使用的語言未定，測試使用的語言是開放的.圖靈測試并沒有說指定用什么語言來問.如果用泰國語來問作者，那本文作者也是什么不知道，這個模擬就沒什么意義了.總之，原始的圖靈測試是開放測試.工程上要實現的話，一定要封閉實現.就這點來說，圖靈測試實際上只是思想實驗，不是工程實驗.

雖然如此，圖靈依然是當之無愧的人工智能先驅者.由于時代的限制，圖靈測試中假設使用的概念都是所謂的經典概念.既然假設都是經典概念，那么“人”也是可定義的概念，雖然目前可能還給不出“人”的內涵定義.考慮到概念的內涵表示與外延表示的等價性，圖靈測試就避免了智能的內涵式定義以及判定難題，將研究智能的重點放在智能的外在功能性表現上，使得智能從功能上看，似乎是工程上可以實現和判斷的，這極大鼓舞了早期人工智能研究者的熱情.

為了方便起見，原始的圖靈測試，可以稱為開式圖靈測試，或者簡稱圖靈測試，它是開放式的，對于問題、人與語言都不封閉.但是，現在所有的說通過圖靈測試的，它一定是封閉式的.參加測試和判定的人不是抽象意義的人，一定是一個或一些特殊的人，問題一定是特殊的問題，語言要選定特殊的語言.封閉實現的圖靈測試，可以稱之為閉式圖靈測試.現在宣稱實現了圖靈測試的，其實都是閉式圖靈測試.當然，即使閉式圖靈測試實現了，進步也很大.即使這樣，也必須考慮閉式圖靈測試在很多情況下是存在嚴重問題的，比如說模擬某個人是否合法？是否合乎倫理？

到現在為止，在很多特殊情況下，在很多具體任務下，閉式圖靈測試已經成功了，已經給生活帶來了很多的好處，這個大家都感受得到，但是也帶來了一些壞處.具體說：機器寫作、圖像合成、視頻合成、語音合成技術已經面向大眾了.限定在這些特定任務上，說通過了圖靈測試并不是開玩笑.這些特定任務的成功也絕不是沒有社會代價.目前，鑒定數據真假已經成為亟待解決的挑戰性問題了.現在人們接收的很多信息都是機器制造的，有時都不知道交流的對象到底是不是人，也搞不清楚信息的真假.這種狀況已經構成了現實的威脅.

為什么人工智能的有限成功會造成這樣嚴重的后果呢？這需要更加深入的分析.

4 人工智能的基本假設

人工智能已經取得了令人矚目的成績.但是AI的基本假設是什么？到現在為止，人工智能發展遇到了什么樣的瓶頸？要回答這個問題，還是要通過分析圖靈測試來尋根問底.

眾所周知，語言是圖靈測試的關鍵，語言也是正常人的關鍵標志之一.正常人都是通過語言來交流互動的.這里說的語言不一定是通常所說的語言，也可以是盲啞人的手語.對于語言，有一個基本的事實：語言的基本單位是詞，語言自身也是一個詞.詞是概念名，人工智能也是一個詞，也是一個概念名，因此將概念研究清楚，對于語言圖靈測試和人工智能都至關重要.

概念的基本功能有3個：1)指物功能.概念指向客觀世界的對象，表示客觀對象的可觀測性.對象的可觀測性指的是對象或者儀器的直覺感知特性，不依賴于人的主觀感受.2)指心功能.要指向人的心智世界里的對象，代表心智世界里的對象表示.3)指名功能.要指向認知世界或者符號世界表示對象的符號名稱，這些符號名稱可以組成各種語言.

舉例來說明概念的功能.比如“你那么會抬杠，怎么得不到停車場這份工作呢？”這句話，前面的抬杠是比喻用法，是指心，后面的抬杠是指物.一句話里，同一個抬杠，已經從指心轉指物.再比如“若不撇開終是苦”這句話，這個若字是指名，就是指“若”這個字本身，撇開終是苦，那苦的話你心里感覺到苦，就是指心，是借名以指心，整個句子是從指名轉指心.“各能捺住即成名”就是指名轉指物.“能用黑筆寫紅字”這又是指物轉指名.詩句“抓住漂亮詞藻把它捏死”，這又是所謂的指心，把在物理世界不可能的事情轉化到心理世界了.

AI也是一個概念，要實現人工智能，就得實現人工智能這個概念所具有的3個功能，即從3個方面實現AI，指物指心指名，這正好對應人工智能的3個主義.AI指名功能對應符號主義，AI指物功能對應行為主義，AI指心功能對應連接主義.到現在這3條實現人工智能的路線都取得了非常多的成就.

符號主義認為物理符號假設是實現智能的充要條件.人工智能就是符號的計算，只要符號正確就一切正確.代表性的成果是機器證明、機器翻譯、專家系統.連接主義認為所有的概念都在大腦里一個表示，這個表示就是神經網絡.目前最具代表性的AI技術，深度學習，就屬于連接主義的，AI的這次熱潮也是由它引起的.行為主義認為智能取決于感知和行動，不需要知識、不需要表示、不需要推理，只需要表現出來就行了.最有代表性的成果就是波士頓的動力機器人.

在過去，這三大流派曾經競爭的非常厲害，比如符號主義，又稱邏輯主義，曾經拒發連接主義的文章，以至于連接主義的研究者不得不另立門戶.人工智能有個著名的會議叫世界計算智能大會(WCCI)，就是由那些不屬于傳統的符號主義的研究者們創立的會議，所謂計算智能主要是指模糊邏輯、神經網絡和演化計算.這其中，模糊邏輯不屬于傳統的符號主義，神經網絡屬于典型的連接主義，演化計算屬于行為主義.連接主義也曾經有占上風的時候，20世紀80年代曾經提出過人工智能已死、神經網絡萬歲的口號.行為主義，在歷史上又稱進化主義或者控制論學派.據說之所以叫人工智能是因為要與控制論做切割.

到現在，這3個流派已經不象歷史上斗爭的那么厲害，已經在合作了.比如在機器學習中，統計機器學習基本上是按照符號主義走的，深度學習基本上是連接主義這條路線，所謂的強化學習屬于行為主義.機器學習已經不是一種單一的流派了.

曾經，這三大流派認為只要實現自己的路線就可以實現人工智能.符號主義說只要實現指名功能就可以了，指名正確就一切正確；連接主義說只要實現指心功能就行了，指心正確就一切正確.行為主義說只要實現指物功能就夠了，只要能指物正確，就什么都正確.

為什么會這樣說呢？令人驚訝的是，導致這3種流派的居然是一個共同預設，概念的指名指物指心3個功能是等價的.如果概念的3個功能確實等價的話，當然只要實現任意一種就可以了.這個預設對嗎？如果概念有經典表示，這個預設確實正確.原因很簡單，概念的經典表示有5條預設：外延表示是經典集合論；內涵表示是命題表示；外延表示與內涵表示對應相同的概念名；同一個概念表示對任何人都相同，不依賴于個人特性；內涵表示和外延表示用來指稱對象的時候功能完全一致.容易知道，在這5個預設之下，概念的指名、指物、指心3個功能是等價的.

概念的三指等價具有非常大的好處.如果每個人使用的概念都滿足三指等價，這樣的社會就是一種誠信社會，計算簡單，交易成本、溝通成本很低.理想的社會形態都以三指等價為基本假設，自然科學都是以概念的三指等價為預設的，機器學習公理化也是以概念的三指等價為基本假設的[10].社會上，也有很多通過概念的三指等價來表達自己的觀點和情緒的事例.現實生活中為了保證三指等價也做出了很多制度保證，像政府、學校、法律、警察、軍隊、監獄等.

當然三指等價也不是沒有害處的，害處就是易輕信、易上當、易迷信，在極端情形下會產生嚴重的悖論.例如：迷信中的“扎小人”，其實就是假設三指等價，認為扎一個人的名字就等于扎到那個人了.數理邏輯中，有一個著名的烏卡謝維茨悖論“C：C不是一個真語句”[11].如果概念的指名指物指心等價，那么就自然會得出如下結論：C是一個真語句，當且僅當C不是一個真語句，這顯然是一個矛盾.如果應用本文的觀點，在三指不等價的情況下，烏卡謝維茨悖論并不會產生.因為C只是指名的話，即C只是一個名字，則C這個名字不是一個真語句，實際上是一個真語句，故矛盾消除.換句話說，如果概念的三指不等價，烏卡謝維茨悖論就不成立了.實際上，按照這個思路可以解決歷史上的很多語義悖論，在此就不一一詳細論述.

經典概念在現實生活中是不一定存在的.比如概念的外延表示，誰能保證與概念對應的經典集合一定存在？比如作者本人，到底算不算禿頭？不同人有不同的看法，有人覺得是，但也有人覺得不是.顯然，禿不禿頭本身不是一件黑白分明的事情，并不符合經典集合的定義.對于概念的內涵表示，其可以外顯的命題表示也并不一定存在.從某種意義上，維特根斯坦一生就研究概念這么一件事情，前半生堅信概念存在經典定義，認為“凡是能夠說的事情，就能夠說清楚”，出了一本書，叫《邏輯哲學論》[12]；后半生發現不是能夠說的事情都能夠說清楚，論證了概念不一定存在經典定義，出了一本《哲學研究》[4]，否決了西方自柏拉圖以來的信念.對于具體的概念來說，概念名也可能未知，概念的假設外延表示和內涵表示也不一定同名，因為有研究表明日常生活中一個白種人平均每天要說一次謊[13].說謊就是心里想的跟嘴上說的不一樣，那就是所謂概念名不一樣.概念也不一定存在唯一表示，認知科學的研究告訴我們，實際上每個人對概念的表示都依賴于自身的條件，比如一個盲人對顏色的感知、對顏色的概念跟正常人對顏色的概念實際上不可能一樣.概念經典表示要求內涵表示與外延表示用來指稱對象的時候效果一樣，這個要求在現實生活中太高了.比如中國歷史上曾經有“指鹿為馬”的著名故事.西方同樣有類似的事情，西方著名的歷史學家塔西佗《歷史》有一段話說得非常好，“在這段時間里，我們享有這樣一種稀有的幸福：我們在這一時期里可以按照愿望去想，按照心里想的去說”[14].可見要求概念的內涵表示與外延表示指稱等價太難.

現實生活中，雖然三指等價的情形也很常見，但概念的三指不一定等價的情形也不少見，甚至也很不算罕見.

不遵循概念的三指等價的，現在一般不在科學范圍內研究，屬于倫理、心理、哲學、文學、藝術、醫學、政治、軍事等研究范疇.社會科學基本不以概念的三指等價為基本假設.例如哲學，西方著名的哲學家奧斯汀在《如何以言行事》[15]中明確論述了言語與行事之間的關系，即指名與指物的復雜關系，指名跟指物不一定等價.例如軍事，軍事名篇《孫子》[16]開篇即說，“兵者詭道也，故能示之不能，用而示之不用，近而示之遠，遠而示之近”，終篇即是《用間》.例如政治，馬基雅維里所著的《君主論》[17]標志著西方政治學的開端，其中的2章即為《論君主應當怎樣守信》、《應該怎樣避開諂媚者》.當然概念的指名指物不等價也會導致很多嚴重的后果，比如欺詐行為會導致犯罪.在財務審計中，賬實相符從來不是當然的假設，而是必須驗證的事項，即財務審計的一項重要內容是保證指名與指物等價，如果不等價，還要找出彼此其間的差距.

概念的三指不等價在現實生活是有很多優勢的：它包含的信息更復雜，生活中有些人會上當受騙，是因為潛意識中相信三指等價，認為說什么就應該是什么，說的就應該是心里想的，但實際不是這么回事，導致結果完全與預料不一樣.這樣一來，三指不等價對三指等價來說就有更多的行動自由，決策更多變.

當然，三指不等價也有很多缺點.比如，概念的三指不等價時，其信息表示更復雜，交流成本極高，需要“聽其言、觀其行、明其心”.觀察一個人需要考慮言、行、心3個方面，言、行、心任一方面都沒有辦法充分反映一個人的本質，這導致人們之間的信任度嚴重降低，交易成本急劇升高.在這種情況下，為了保證概念的三指等價，要簽訂合同、要有擔保、要買保險，以至于設立對沖基金，發展至今甚至要自產自銷.當概念的三指不等價時，就需要更加復雜的場景計算.

一旦三指不等價，AI三大流派都面臨巨大的問題.符號主義目標是指名正確，保證不了其指物指心正確.連接主義目標是指心正確，保證不了其指物指名正確.行為主義目標是指物正確，保證不了其指心指名正確.在三指等價時，AI至少是努力不騙人的；而在三指不等價時，有時AI可就會或有意或無意的騙人.本文題目中的“暗”就是指這一點.面對這一難題，三大流派都會出現巨大的困難.對于人來說，概念的三指不等價會帶來麻煩，但并不是不能處理.人本來就能夠在悖論中生存，但機器顯然不行.

當面臨悖論時，未來的人工智能怎么辦？這是人工智能面臨的重大理論問題，本文不再展開討論.

5 結論

本文的結論有2點：第一，圖靈測試是思想實驗，不是工程實驗，能夠工程實驗的是閉式圖靈測試.因此，凡是建立在原始圖靈測試通過假設之上的概念都是不成立的.第二，AI的基本假設是概念的指心指物指名功能等價，這與現實有時會發生劇烈的沖突，在人機對話研究中這一點特別明顯.所以，目前對AI來說，確確實實需要更加深入的理論研究，AI的理論假設已經面臨巨大的挑戰.