新一代人工智能十問十答

李德毅

（軍事科學院 系統工程研究院，北京 100141）

智能是學習的能力，以及解釋、解決智力問題的能力；人工智能是脫離生命體的智能，是人類智能的體外延伸；人工智能可面向不同的情境，通過不斷學習，積累本領，與時俱進地成長。

在智能、人工智能等概念達成上述基本共識的基礎上，我們研究新一代人工智能的技術內核，提出十個問題[1]，并給出自己簡要的回答。

一問：意識、智慧和智能是什么關系？新一代人工智能觸不觸及意識？

答：意識不是物質，意識不過是一種感覺，是寄生在物質上的一種精神活動。通常認為，意識是對自身存在的感知，包括對自己行為和驅動行為原因的感知[2]。每個人都能客觀地感受到意識的存在，而這其中，對自身存在的感知和表達?也就是自我意識?是最起碼的自知，也是最初始的意識。原始的自我意識是低級意識，只有自己本人才能體驗到這種意識的存在，正所謂“我思故我在”，在此之上，才談得上高級意識或更高級的群體意識。而要想感知到“我”這個本體的存在，首先需要具備知覺意識，要能夠從邊界上區分出“我”和“非我”(見圖1所示)。對于生物來說，這種邊界就是皮膚。

圖1 意識的三個層次Fig.1 Three levels of consciousness

生物的皮膚除了提供物理的邊界，還具有呼吸、體溫調節、感應、新陳代謝、吸收、分泌排泄、保護等7種邊界交互作用[3]。這種從個體大腦神經元到末梢的知覺神經使得生物有了明確的邊界感知能力，構成了意識的生物學基礎。對于機器人來說，為了形成這種邊界，需要具備包裹自己全身的，類似于人類皮膚的感知邊界，我們稱之為感知膜。感知膜要具備跨模態(如疼痛、溫度、濕度、壓力、張力、彈力、光滑度、透氣性、材質等中的一種或多種)的綜合感知能力和準確的感知精度，當感知膜受損時，還需要自修復能力，以維持邊界的完整性。只有這樣，機器人才能區分“我”和“非我”,也只有這樣,才能夠萌發出原始的自我意識。而要制造出類似人類皮膚這樣敏感的人工感知膜、電子皮膚甚至量子皮膚，還來日方長，也許要一百年。

對于高等生物而言，意識和智能是智慧的基礎。意識和智慧難以分離，智慧還強調生機活力和靈感氣質。高等生物的智慧會涉及意識、情感，生物的情緒反過來也影響其智能。大凡意識、情感都是內省的、自知的、排他的，不可以人造。只有誕生人工生命之后，也許才談得上人工意識。

意識和智能是可以分離的。在計算機上表現出的計算智能就是一個極好的例子，計算機沒有意識。人類智能的發展史就是動力工具的發明史，動力工具是人的體力的體外延伸，如發明發動機、輪子、汽車、飛機可延伸人的出行范圍。而人工智能是人類智能的體外延伸，如發明油燈、電燈、望遠鏡可提升人的視力，發明算盤、計算尺、計算機可延伸人的計算力，發明駕駛腦可代替駕駛員的駕駛認知。人工智能的發展史表明人工智能可以脫離意識而存在。

新一代人工智能不觸及意識。至于高等生物的生理本能，如生存和繁衍，也不在當前人工智能的研究范疇。

雖然非生命體的人工智能沒有意識，但是可以人為地賦予人工智能以情感，那是第三人稱的“外顯”而已，情感機器人只是外顯的情感。

二問：如何理解通用智能？通用智能一定是強智能嗎？新一代人工智能既要通用又要強智能，通用和強是什么關系？

答：通用和專用、強和弱、可解釋和不可解釋，都是相對的。可解釋也是有限的，總是可以追問到不可解釋的邊界，如公理。通用智能是跨領域的一般性智能，能夠不局限于最初設置的任務和目標，通過交互和學習實現智力的增長，具有觸類旁通、舉一反三、融會貫通能力。人類進化過程中很早就表現出模仿能力，模仿中的抽象和類比尤其重要，這就是一種跨領域的一般性智能。當前的人工智能都是專設智能，它們只能按照程序員的設定，完成特定的任務目標。盡管今天的計算機已經可以解決很多復雜的、專門領域的智力問題(如特定圍棋規則的智能)，但我們仍常常覺得它們缺乏人類思維的某些本質特征。這里的差別主要不是在算法、算力、數據量方面，不是在機器的速度和容量方面，而是在人工智能的一般性(通識性、普遍性、常識性)、不確定性(靈活性、適應性、可習得性、容錯性)、創造性(自主性)、開放性等方面。

遺憾的是，發展60多年的人工智能沒有能夠更靠近人的一般性智能。如果說強人工智能追求的是智能縱向的深度，新一代人工智能追求的恰恰是智能橫向的寬度，是可交互、會學習、自成長的類腦智能。縱向智能、橫向智能都沒有盡頭，一臺機器人永遠不可能全知全能。

三問：目前幾乎所有人工智能都是在計算機上表現出來的計算機應用，即“計算機智能”。如何在物理裝置上實現超出計算機智能的、受腦科學和認知科學啟發的新一代人工智能？

答：人類起源可追溯到10萬年前的“智人”崛起，經過綿延不絕的人類進化，從原本也沒有什么特別的動物，進化到地球生物鏈的最高端，人腦的組織結構的持續進化和后天學習，先天基因和后天教育的雙突破，成就了人類的認知革命。

可以說，人類共經歷了3次認知革命。第一次認知革命，是五千年來的語言、文字和符號的發明，創造了文化和文明，發明了教育，使得人類智能可以脫離生命體而以文字等形式獨立存在，并反過來進一步發展和豐富了人類的想象力，智能植根于教育，是人類文明造就了人類智能的生態。第二次認知革命是五百年來的物質科學和技術革命，人類逐漸掌握了如何利用物質和能量，創造了動力工具延伸人的體能，極大地解放了人的體力；最近這一百多年來，人類進入第三次認知革命，開始研究生命，研究腦科學和人工智能，千方百計創造智力工具，來延伸人的智能。

但是，要從生物學意義通過腦的微觀組織結構解釋人的意識和智能，要從認知科學意義通過腦的宏觀功能結構機理解釋人的智慧的成因和發展，至今還相差甚遠。

人類沒有類鳥，卻發明了飛機，反過來用空氣動力學解釋了鳥的滑翔；人類沒有類腦，卻發明了計算機，反過來用計算智能解釋了人的部分智能。目前的人工智能都是基于圖靈機模型和馮諾依曼架構的計算機智能，或者計算智能，它不能執行任何未預先編程的活動，不能自編程，人工智能僅僅是算法工程師的智能表現出的編碼的一次又一次的重復執行而已。傳統計算機智能的硬核是算力、算法和數據。可以說人們當初把計算機比作電腦，就是研制類腦智能的初心，“缸中之腦”[4]的說法也由來已久。在人類對自身腦的工作機理遠遠沒有搞清楚之前，是很難做出類似人腦微觀結構的物理裝置的。但是，我們可以從不同的尺度，采用不同的方法研發受腦科學和認知科學啟發的“類腦”裝置。

在腦科學和認知科學研究成果的啟發下，我們認識到，沒有感知不會有認知，腦和外界環境不停地交互，和外部客體之間一直存在著認知對應關系，尤其是空間位置關系，形成各式各樣的、有概念內涵的認知地圖；大腦和小腦、大腦的不同區域，既有分工又有協同，要實現腦認知的逐層抽象；腦區大規模神經元(1011)組成記憶網絡，對認知起決定性作用，記憶的提取依賴神經網絡動力學，是人類的已有的記憶導致了注意力的選擇；人腦總是處在學習狀態，等等。這些啟發都是極其寶貴的。因此，如同我們不在分子水平討論一棟房子的架構和功能，我們也不必先在基因、蛋白質水平上探究智能，這里我們強調介觀類腦，即在大規模神經元群組和網絡水平上模擬腦認知網絡，尤其是模擬人類特有的、占人腦70% 的大腦皮層那一大片神經組織，其厚度約為2.5 mm，表面積約為 1 500 cm2，它將大腦的其余部分包裹起來，主要表現為智能。

四問：機器人不會有七情六欲，學習的原動力來自何處？如果沒有接受教育的自覺性，新一代人工智能如何具有學習的動機？

答：所有機器和機器人，都不是人工創造出的生命。非生命體沒有求知、好奇的欲望，沒有接受教育的自覺性和學習的原動力，但也沒有不學習和反對學習的負面情緒，它是人類智能的體外延伸。

但是沒有欲望不代表沒有學習的目標，學習的目標取決于任務的目標。如同一枚導彈可以自動尋的，無人駕駛拖拉機可以自己耕地，我們在新一代人工智能基礎架構中，可人工賦予機器企圖和任務目標，讓機器在交互的過程中，提出自己的問題，依據任務目標，分解并確定具體的學習目標，也就有了學習的驅動力，學習欲望強，主動性就強。

五問：人的偏好和注意力選擇是如何產生的？新一代人工智能如何體現這一點？

答：人的注意力選擇源于記憶，源于記憶的偏好依附性。例如，當你看一張大的集體照時，常常首先認出的是你熟悉的那個人。偏好依附受基因影響，有一定的遺傳特性，但后天的培養也很重要。偏好通常與交互的頻度和時間的遠近相關，頻度高、時間近的記憶優先，但也不盡然。人的恐懼性以及滿足感會讓一些發生頻度很低、時間久遠的事記憶特別深刻，也形成選擇性注意，這是記憶印跡太深造成的。因此，記憶網絡以及記憶的多索引并行機制很重要，注意的選擇性法則是：先檢索典型情境提取記憶，后才走規則推理計算求解。如果存在很多的情境，之間也會有不同的權重，通過多索引機制來體現偏好。

六問：人類思維的載體是自然語言，自然語言開放性很強，通用計算機是基于圖靈機模型，屬于封閉的有限狀態空間，根據哥德爾不完備定理，數學自身難以完全自洽。因此，人工智能怎么可以反過來要用計算機語言或者數學語言去形式化人類的自然語言呢？

答：無論數學本身如何嚴密，如何通用，用自然語言表述數學仍然是不可或缺的，這和哥德爾的不完備定理思想是一致的。科學家，尤其是數學家，之所以能夠用自然語言思考，還因為他們的思考過程有很重要的一部分并不是在他們的腦子里，而是在外部數據處理系統的協助下進行的，人腦中的通用智能是指那些一般的、普遍的、開放的、不確定性的智能，能夠觸類旁通，舉一反三，融會貫通。

人工智能經歷了從最初的問題求解程序，到人工神經網絡和人工生命的研究，經歷了從符號計算到神經計算和進化計算的倡導和實施，從最初的符號主義到聯結主義，再到行為主義工作范式及其相互轉換。這3個范式的競爭和轉換的根源，都是由于“智能的本質就是計算”這一基石受到了不同程度的挑戰。人類思維活動常常用語言表達，自然語言是思維的外殼或載體。語言和文字可以脫離生命體獨立存在，才有了人類文明，在人類認知中起重大作用。目前人工智能已經能夠用受限的自然語言進行溝通交互，雖然還不那么好。語言涉及語境、語用、語義和語法，機器自然語言的實現，不可能要求一部機器對全世界的各種語言、各種方言全知全能，不要求應對無限，只要能夠自如應答周邊的語境、語用、語義和語法，應對有限，就很好了，數學可以多局部幫忙，但不能一次性全局替代。機器是否有語言智能，還要看它有沒有接受語言和文字的交互、學習和進化能力。新一代人工智能是用人類的自然語言表述的，因此是開放的，不完全的，允許精確性和復雜性相容，允許不同思想兼容并包。人腦常常被比作一個內在的小宇宙，人的認知是想象的現實而已。其中的智能是多情境、多公理兼容并包的，非單調的、與時俱進的，是多邊智能，智智與共的智能，在不同時刻、不同情境會有不同應對，不完全收斂，不完全自洽，不整體統一，當然也不必一定要腦裂，如同我們的微信里有很多不同價值觀的朋友圈一樣。因此，很難存在智能的單一的公理系統，很難存在非公理的統一體系的數學推理，“智能的統一體系”也許做不到，但可尋求“智能的弱統一體系”，或者用多個高階智能來分段支撐。也就是說，自然語言的形式化不可能畢其功于一役。

七問：如何體現新一代人工智能與時俱進的學習能力？

答：人腦始終具有可塑性，或學得新知，或遺忘舊知，認知的螺旋與時俱進，一直不停地在做微重構。學習是神經系統不斷地接受刺激，獲得新知和積累經驗的過程，學習的本質是理解和記憶，記憶則是將習得的知識和經驗進行鞏固和再現。新一代人工智能不僅在于某一個時刻它能解決什么實際的智力問題，而在于它有沒有與時俱進的學習能力，其最基本特征是能夠在與環境的交互過程中學習和成長。

人類最早存在的肢體語言和模仿學習都是形象思維，常常以視聽覺交互認知方式表現出來，對兒童最原始的母教就是模仿。模仿學習可進一步衍生出類比學習和遷移學習。新一代人工智能也許偶爾會犯錯，從錯誤中同樣可以進行學習，如同人開車向事故學習一樣。人類創造了各種各樣的文字和符號就是形象思維的結果，在人類有了語言和文字之后，有了累積的文化和文明之后，隨著模仿學習的延伸和升華，人類又把交互認知提高到了一個所有其他生物不具備的嶄新高度?教育，并與時俱進改革著教育。

教育作為專門的職業得到全社會的認可和回報，構建了人類社會特有的生態位?傳承學習，這在其他動物世界組織里很難見到。智能后天的習得靠教育，教育帶有強制性，是有指導的學習，不僅僅是有監督的學習。人類文明以文字、文學、法律、藝術和知識的形態積累起來大量的群體智能?人文和常識、科學和技術、知識和技巧，它們可以脫離生命體而獨立存在，通過教育傳承給后代，人類利用教育實現群體智能的有效傳播，實現個體智能和知識的累積和迭代發展。舉個例子，關于輪子的典型知識，這個讓“物體繞軸滾動”的看似簡單的發明和持續發明，倘若沒有它，今天我們很難想象任何一種機械化工具還可以工作，這種知識累積覆蓋了從齒輪到自行車、汽車、噴氣發動機、精密儀表和計算機驅動的所有范圍，由于人類群體延綿的智能，才能改變世界。文字是思維活動的載體，知識是群體智能的結晶，教育是傳承學習(有指導的學習)的手段，個體智能通過教育獲得群體智能，通過傳承學習和自主學習反復迭代個體和群體智能，積累下來，形成認知的螺旋，使得人類進入了高速發展的智能時代。教學過程原本就是提高教師和學生之間交互認知能力的行為，諸如教師和學生的眼睛接觸、互鑒和教師對學生的口頭提示等，有助于培養學生的注意力。教育在人一生中占了四分之一的時間長度，這是其他生物無可比擬的。傳承學習，加上自主學習，有指導學習加上無指導學習，這才培育出一個個單體的智能，包括通用智能，具備思考、分析、解釋、解決一般問題的方法和能力。因此，新一代人工智能也必須具有這樣的學習和交互認知的環境才能習得知識，而不是傳統人工智能那樣一次性設計而成，也不是帶著特殊預設目的，向機器強制地集中性注入一個或者多個專門領域的計算智能。

八問：在新一代人工智能架構的機器人中，基本組成最少可能有哪幾種？各部分中的信息產生機制與存在形式是什么？它們之間的信息傳遞是什么樣的？

答：研究新一代人工智能架構，本文從介觀(mesoscopic)尺度切入。介觀是從介觀物理學借用而來，指介于宏觀與微觀之間的一種體系。這里，我們不從基因或蛋白質水平的微觀角度，也不從腦組織功能分區的宏觀角度，而是在神經細胞環路與網絡水平的尺度上研究腦認知，在介觀上，新一代人工智能機器中，由記憶、交互和計算3個部件組成(見圖2)，其中的感知、認知與行為都是雙向互動的。交互系統里有定時定位定姿、語音文字、圖形圖像等多種傳感器部件，它們承擔與外界環境的交互，而行為交互常常是一個反饋自調節的過程。記憶是新一代人工智能的核心，記憶不同于計算機中的存儲，記憶系統里有瞬時記憶、工作記憶和長期記憶3類子部件，記憶是在神經細胞連接的動態變化中得到的，是多神經元相互連接、相互作用的結果。本文創新地提出“智痕細胞”的概念，記憶是智痕神經元網絡的一種整體狀態，不是哪一個神經元單獨決定的。要有用于檢索記憶的多索引并行機制，從記憶網絡中可挖掘出相互關聯的諸多概念、認知地圖、概念樹、知識點和知識圖，還有這些知識圖隨著時間變化的知識譜。新一代人工智能架構充分利用學習形成并鞏固記憶智能的時候，需要計算智能來幫忙，提高可解釋性。

圖2 新一代人工智能時空架構Fig.2 Space time architecture of new generation artificial intelligence

記憶、交互和計算三部分之間的信息傳遞機制和螺旋發展比較復雜，但三位一體很重要。例如，在每個記憶系統的里面，依然嵌有交互與計算的子系統，但整體表現為記憶。新架構可在結構上體現人腦的不同記憶區不同記憶留存的認知網絡，體現已有記憶中的印跡、概念、概念樹、知識圖譜中的不確定性和多索引機制，體現情境驅動的記憶智能，而不是每次都依靠知識(規則)驅動的計算智能求解才能獲得問題解決方案。新架構要確保情境數據和知識模型的雙驅動。

其實這和馮架構為基礎的計算機智能并不排斥，計算智能可看作新一代人工智能中的一個重要組成，無論是數值計算、符號計算，還是圖計算，都是在公理、常識、原則、規律、規約、模型、方法等前提下的推理或思考，這些前提就是認知的模型，多種模型可以分別是已有的記憶對當前計算的多元約束和監督。

九問：記憶、計算和存儲的區別是什么？能不能說，記憶智能和計算智能都不可或缺？利用自己記憶中的經驗解決當前的一個智力問題也好，利用知識去分析推理解決也好，如何建立整體的工作機制？

答：對人的智能而言，記憶是通過學習而習得的結果，記憶力體現智力，強記憶常常強智能。幼兒腦的發育，先有記憶，后有計算，進化中的人腦組織中有很大部分都是用來記憶的。人腦始終具有可塑性，或學得新知，或遺忘舊知，與時俱進，一直不停地在做微重構。記憶是后天通過學習而習得的結果，當然不理解也可死記硬背。深度學習中的人工標注相當于典型案例的強制記憶。記憶不是簡單存儲，記憶是重組，回憶是提取或者涌現，智能是基于記憶的預測。尤其是自動聯想記憶，可以聯想出模式序列或時間序列。當感知到序列的一部分時，就可以記憶起其余的部分。例如從小段歌詞可想起整首歌曲。所以，記憶的提取非常復雜。在腦科學中，它至今沒有完全搞清楚思維即計算，是探究、解釋、理解智能的過程，要形成當前操控載體的一個智能行為，除了直覺之外，可先根據一個實際問題的認知模型，轉變為算法，再變為程序讓機器執行，即計算。例如，基于知識的演繹學習，可利用歸結原理、謂詞演算和啟發式搜索，進行由上而下的推理，完成符號問題求解、定理證明和數值計算。又例如，基于案例的歸納學習，帶有不確定性，可利用人工神經網絡模型，進行深度學習或強化學習，通過算法、大量的人工標注數據和算力，由下向上地完成分類和識別，或者完成數據挖掘和知識發現。

記憶是新一代人工智能的核心，記憶比計算重要得多，記憶是對計算的監督和約束，認知網絡具有多索引并行機制，可通過檢索引擎直接提取記憶，因為有注意力選擇機理，它要比臨場的思維、推理、計算快得多。實際生活中，依靠情境驅動的記憶解決問題，比知識驅動的計算解決問題更為多見。記憶早于計算，記憶優于計算，記憶約束計算,記憶隨學習與時俱進。

十問：新一代人工智能機器人，存不存在停機問題？如何理解機器人在發育成長過程中軟硬件的維修管理和擴充升級？

答：因為我們把人工智能定義為人類智能的體外延伸，是智力工具，新一代人工智能是有感知、有認知、有行為、可交互、會學習、自成長的機器智能，有解釋、解決智力問題的能力，但沒有意識，也沒有免疫和自愈能力，是特定人的智能代理機器。硬件的故障自修復和停機問題，本質是高階邏輯的不自洽性和不完備性，在這里是不存在的，只能是特定人賦予機器意向性，檢測或者授權停機，特定人是機器人的高階，并在機器人發育成長過程中擴充升級機器人的軟件及其物理載體。機器人自身會學習，也會編程，會形成新的軟件，更會通過與主人的交互交流提出自身“發育”需要補充的軟硬件需求。設想如果人人都有個機器人代理，那將是什么景象啊！