機器意識研究綜述

秦瑞琳 周昌樂 晁 飛

意識是什么? 人類意識是如何產生的? 動物是否具有意識? 這些問題一直困擾著人們.哲學家Dennett 曾說:“人類意識是最后幸存下來的未解之謎”[1].2005 年,Science 雜志提出了125 個尚未解決的科學問題,其中第2 個問題就是“意識的生物學基礎是什么?”[2].2018 年,Nature 雜志提出了目前最重大的6 個科學問題,其中之一便是“什么是意識? ”[3].如今,隨著腦科學的迅速發展,尤其是各種腦成像設備(如EEG、fMRI 等)的廣泛應用,出現了大量關于意識的腦科學研究成果[4?6],形成了一些初步的意識科學理論,人們對意識的神經相關物(Neural correlates of consciousness,NCC)和意識的產生機制有了更加深刻的認識.同時,物理學家基于意識和量子現象的相似性,提出了一些意識的量子理論[7?9],希望利用量子力學來解決意識問題.

隨著人工智能和機器人學的發展,人們開始思考機器能否具有意識這一問題,這類研究逐漸被稱為機器意識(Machine consciousness,MC)或人工意識(Artificial consciousness,AC)[10?12].近年來,Nature 和Science 雜志中出現了越來越多關于機器意識的研究成果[13?16].經過30 多年的發展,人們已提出了一些機器意識理論,如全局工作空間理論、整合信息理論等[17],根據這些理論開發的意識機器人能夠表現出一定的意識行為,并廣泛應用于工業、教育、醫療、娛樂等領域[18?20].機器意識的研究已為當前各類機器人的發展提供了新的契機,例如發育型機器人、協作機器人、機器人導航、機器人軌跡規劃、機器人移動行為預測等[21?25].同時,研發意識機器人也能促進人們對意識的理解,推動構建更加完善的意識理論.

但是,機器意識的研究目前還處于很初級的階段,例如針對自我意識、感受意識這些意識研究中的核心問題,還少有涉及.目前的機器人基于預先編程算法,雖然能表現出一些意識行為,但機器并不理解其所執行的內容,也不具有“自我”的概念,更沒有對于自身以及外部環境的感受.而這些都是人類意識中的核心部分,機器意識研究的最終目的也就是實現這樣的意識機器人.如此,機器人才能不受程序支配,具有內省反思能力和情感體驗,從而能更好地生存與學習,更好地與人交互.然而,由于意識具有超邏輯性,并不是算法所能把握的,因此在基于圖靈機的機器上采用傳統人工智能方法,如符號計算和人工神經網絡,是不能實現這一目的的.為此需要采用新的方法和技術,如量子計算、腦機融合等.量子計算比經典計算具有更強的計算能力與描述能力,且具有真正的不確定性,能突破預先編程的限制,因而更適合描述復雜的意識現象.而腦機融合技術則充分結合了生物智能與機器智能,通過構建腦機混合機器實現大腦與機器的協同工作,進而最終實現機器意識.

下文對意識與機器意識近期的研究進展進行綜述.圖1 展示了機器意識研究內容與方法分類.我們首先對意識和感受性問題作一介紹.在此基礎上,詳細討論機器意識的概念與研究分類、具體實現方法與計算模型,重點論述其中的量子方法.最后,總結了機器意識面臨的困難與未來的發展,并給出了一種機器意識總體實現框架.

圖1 機器意識研究內容與方法分類Fig.1 The taxonomy of contents and methods of machine consciousness

本文的貢獻主要體現在:

1)對機器意識的分類、理論、方法、模型等方面的最新研究進行了詳細綜述,填補了國內機器意識研究綜述的空白,為國內意識機器人研發提供了有益指導.

2)對機器意識面臨的困境和未來的發展給出了建設性的意見,提出了一種機器意識總體實現框架,為機器意識的進一步發展指明了方向.

1 意識與感受性

1.1 意識的概念與理論

目前,意識還沒有一個清晰的定義,不同領域,如心理學、醫學、腦科學等,對意識的界定不盡相同.在心靈哲學領域,哲學家主要研究意識的容易問題與困難問題、統一性問題、意向性問題、心-身問題等,提出了很多關于意識起源和本質的哲學理論[26?27],如表1 所示.科學家們則通過研究意識的腦機制,提出了眾多的意識科學理論,如表2 所示.

表1 意識的哲學理論Table 1 Philosophical theories of consciousness

1.2 意識研究中最困難的問題—感受性(Qualia)

對于意識問題,哲學家Chalmers 將其分為容易問題(Easy problem)與困難問題(Hard problem)[28].所謂容易問題,就是可以還原為物理過程,并用物理方法進行解釋的意識問題,例如對于刺激的辨別、歸類和反應,認知系統對于信息的整合,心理狀態的可報告性,注意的集中,行為的控制等.這些問題是可以通過腦科學研究解決的.而困難問題則是指感受性(Qualia)問題.Qualia 指人的內在的、主觀的體驗(Experience)或感受(Feeling),例如感官感受性(Sensory qualia),情感感受性(Emotional qualia)等.所謂困難問題,就是大腦中的物理過程為何會引發主觀體驗? 又是如何引發的? 如圖2 所示.盡管意識的腦科學研究已取得很多成果,但卻無法解決感受性問題.與Chalmers 的觀點類似,哲學家Block 將意識分為可達意識(Access consciousness) 與現象意識(Phenomenal consciousness)[29],分別對應意識的容易問題和困難問題.哲學家Levine 則將大腦與心靈之間的界限命名為解釋鴻溝(Explanatory gap)[30],如圖2 所示.

表2 意識的科學理論Table 2 Scientific theories of consciousness

圖2 意識的困難問題與解釋鴻溝Fig.2 The hard problem of consciousness and the explanatory gap

感受性是人類意識中最重要的部分,我們每個人都可以通過內省直接得知自己的感受,不需要進行計算、觀察和推理,也不需要使用任何設備.因此,感受性具有與物理現象不同的特性,無法依靠物理還原的方式來解釋.感受性也是心靈哲學上爭論不休的終極問題,有人認為感受性根本不存在,有人提出思想實驗來證明感受性存在,有人認為永遠也無法解決感受性問題,有人認為解決了所有的意識的容易問題后,便可解決感受性問題[39].2018年,Chalmers 又提出了意識的元問題(Meta-problem)[40],指為什么我們會認為存在意識問題.由于困難問題難以解決,Chalmers 建議先通過建立內省模型來解決元問題,然后再考慮困難問題.

2 機器意識的概念與研究分類

和意識的分類類似,Holland 將人工意識分為弱人工意識和強人工意識[41],相當于機器意識的容易問題與困難問題.諸如讓機器具有感知能力,進行推理,用語言進行交流,識別與表達一定的情感等,都屬于容易問題.而讓機器具有自我意識以及感受性則是困難問題.此外,還存在一個如何測試機器是否具有意識,意識能力程度如何的評價問題.

根據機器意識的研究內容與目標,可將其分為6 類[42?43],如表3 所示.其中,前5 類具體研究意識的某個方面,最后一類研究如何評測機器的意識程度.在此分類體系中,不同類別之間并不互相獨立,研究上存在交叉融合的情況.例如在感知意識、認知意識中都伴隨有感受意識與自我意識.機制意識研究人類意識的產生機制,則包括其他各類意識的腦機制.意識測試則涉及到其他所有機器意識類別.從研究內容和目標上來看,前三種類別是機器意識的容易問題和初級目標,而后三種類別是機器意識的困難問題和最終目標,在理論和實現方法上還存在很多爭論.因此,對前三種類別的研究有助于后三種類別的最終實現.

2.1 感知意識

感知意識(MC-Perception)主要研究如何通過外部傳感器和內部感知模型使機器具有感知外界各種刺激并產生行為的能力,如對圖像、聲音、溫度等的感知[44].

例如在視覺方面,Yousef 等基于人類視覺并行計算的特點,提出了一種邊緣檢測方法,有助于構建更好的意識機器[45].聽覺方面,Eliakim 等開發了一個自主蝙蝠機器人Robat,具有兩個耳朵和一個發射器,可以通過回聲定位來創建環境地圖[46].觸覺方面,Klimaszewski 等設計了一種雙層機器人皮膚,可以檢測外力的位置、大小和方向[47].嗅覺方面,Saeed 等開發了一個小型自主機器人,具備超聲波和紅外線傳感器,可用于在危險環境下移動并檢測可燃氣體泄漏[48].味覺方面,Ciui 等開發了一個味道檢測機器人,可通過其手指上的可穿戴化學傳感器,檢測固體或液體食物中葡萄糖、維生素、辣椒素等的含量,進而確定食物的味道,如甜味、酸味、辣味等[49].

感知意識的研究目的是讓機器更加有效地進行感知,距離真正意義上的機器意識還有很大差距.

2.2 認知意識

認知意識(MC-Cognition)主要研究如何通過構建機器內部模型,使機器具有意識的認知特性及其行為表現,如語言、記憶、想象、情感等意識過程中的認知加工.

例如在語言方面,Davila-Chacon 等提出了一種涉身認知方法,可以提高機器人在噪音環境下語音識別的水平[50].在想象方面,Pagel 等探討了意識、想象和夢境的關系,并研究了會做夢的機器人的相關問題[51].在記憶方面,Balkenius 提出了一種意識機器人的記憶模型,實現了機器人的情景記憶、想象等意識功能[52].在情感方面,Yang等開發了一個情感意識機器人,可識別和表達情感,作為家庭護理機器人以改善人的心理健康[53].

認知意識的研究目的是讓機器能表現出意識的認知功能,但意識與這些認知功能之間的關系還需要深入研究.

2.3 機制意識

機制意識(MC-Mechanism)主要研究人類意識的產生機制,以及在此基礎上的機器模擬實現,是目前機器意識研究最多的一個方面.

在意識產生機制方面,人們通過研究腦損傷人群、意識障礙患者以及正常人群的大腦,希望闡明意識的神經相關物以及意識產生機制.例如,對于視覺意識,F?rster 等通過ERP 研究,確證了視覺意識負波是最早出現的ERP 成分[54].對于情感意識,Paul 等指出杏仁核和前額葉之間的通路是情感意識的重要神經結構[55].對于自我意識,Keromnes 討論了關于鏡像神經元的各種觀點[56].對于感受意識,Nani 等指出感受意識與顳頂枕區的多個同步網絡的活動有關[57].此外,Zhao 等歸納出了意識產生的3 個關鍵區域,即丘腦室旁核、屏狀核與后部皮層,并提出了一種意識的巨大神經網絡假說[58].盡管目前意識的腦科學研究成果豐富,但關于意識的產生機制還沒有一致的結論,也沒有一個能夠很好解釋所有意識現象的統一理論框架.

表3 機器意識研究分類Table 3 The taxonomy of machine consciousness

在機器模擬實現方面,研究者基于意識的產生機制,提出了很多可用于機器意識實現的理論和模型,如GWT[32]、IIT[36]、HOR[31]、AST[37]、QC[7]等(將在第3 節詳細討論),并采用仿腦計算的方法,來構建意識機器.此外,Shi 提出了意識與記憶的心智模型CAM 以及一種機器意識架構,包含覺知、注意、動機、元認知、內省學習以及全局工作空間模塊[59].Diaz-Alvarez 等用銀納米線構建了一個類腦神經網絡,具有類似人腦功能的記憶、學習、遺忘等相關電學特征,可作為構建意識機器人的物理基礎[60].Wang 采用仿腦的方法,提出了一種大腦的分層參考模型,包括感覺、動作、記憶、感知四層潛意識能力以及認知、推理、智能三層意識能力[61].

機制意識的研究目的是模擬意識的腦機制來構建意識機器,其研究前提是對意識的產生機制具有正確全面的認識,但目前意識的腦機制研究只取得了一些初步的成果,因此很難提出一種通用的意識仿腦理論和計算模型.此外,現有的意識理論也有待于腦科學研究的進一步驗證.

2.4 自我意識

自我意識(MC-Self)主要研究如何使機器具有內省反思能力,并能意識到“我”是區別于其他個體的存在.

例如,Lipson 認為自我意識就是模擬未來自我狀態的一種能力,對未來的預測能力越強,自我意識程度就越高,機器如果能夠自我模擬,也就具備了自我意識.基于這種理論,他開發了一個機器臂[15],能夠在自己“大腦”創建的模擬環境中學習,產生自我意象,進而完成未知的任務.這個機械臂還可以檢測到自我的損傷,從而重新自我建模.他還研發了一種“粒子”機器人[16],此機器人不是由單片部件構成,而是由很多細胞構成,能夠自我建模和復制,自行恢復結構并自我治愈.粒子可以相互協調移動,從而完成群體遷移,有一部分粒子損壞也不會影響整體運作.Lipson 的工作實現了意識機器人的工程學突破,也為理解自我意識提供了新的視角.

由于鏡像神經元是人類自我意識的重要生物基礎,人們常用鏡像測試來檢驗個體是否具有自我意識[81].例如,Zeng 等提出了一種類腦機器人鏡像神經元系統模型Robot-MNS-Model,可用于仿人機器人的鏡像自我認知.實驗中,3 個外觀完全相同的機器人在鏡子前同時作出隨機運動,結果每個機器人都能識別出自己[62].

此外,Subagdja 等提出了一種自我意識的仿腦模型ARTSELF,并應用于NAO 機器人,機器人可以根據自己的身份、社會生活經驗等回答人們提出的問題[66].Rodriguez 使用本體感受傳感器,開發了一個姿勢識別系統,使得NAO 機器人能夠覺知到自身的姿勢[67].Chella 等提出了一種內部言語(Inner speech)的認知架構,機器通過內部言語和長期記憶可以產生自我意識[64].此外,高階表征理論多用于實現機器自我意識,將在第3.3 節詳細討論.

自我意識是機器意識研究中的困難問題,上述研究中雖有機器通過鏡像測試的實例,但這只是機器具有自我意識的必要條件.此外,對于“自我”這一概念的界定也因人而異,這也為自我意識機器的構建帶來了很大挑戰[82].

教學名師培養要與教育教學改革相結合，注重教學內容、教學方法與教學手段的改革，爭取高水平教學成果獎。同時，注重將教改成果有效轉化。例如，自治區級重大教改項目《創新實踐型藝術人才培養體系的研究與實踐》，已納入學校人才培養的頂層設計，有組織有計劃地實施。

2.5 感受意識

感受意識(MC-Qualia)研究如何使機器具有感受性,如感官感受性、情感感受性等.感受性是意識的本質,而感受意識又是機器意識研究中最難的一類,因此對于機器感受意識能否實現,如何實現等問題,眾多學者有著不同的看法.

英國帝國理工學院電子工程系的Aleksander教授認為,當人們描述他們的意識及感受時,實際上是在描述神經活動本身所具有的某種性質,而采用神經計算方法的機器同樣可以做到這一點,因而機器是可以具有感受的.基于此觀點,他提出了一個意識公理系統,包括感知(Depiction)、想象(Imagination)、注意(Attention)、規劃(Planning)和情感(Emotion)能力,只要機器的內部表征可以滿足這5 條公理,則機器就是具有感受的[72].美國伊利諾伊大學斯普林菲爾德分校哲學系的Haikonen 教授認為,感受性是類人意識機器所必需滿足的先決條件,僅僅實現認知功能不足以產生意識.真正的意識機器人會像人一樣直接感知外部環境和自己的物質機體,不會受程序支配,任何時候都可能出現非預先編程的反應,動機因素將在智能體行為的形成中扮演重要的角色,不過,機器的感受性未必需要和人類的感受性類似.Haikonen 建議使用無縫的感知和運動傳感器融合的方法來構建意識機器,并開發了一個意識機器人系統XCR-1[73],以實現他提出的類模態感受性(Amodal qualia).García-Ba?os 從計算角度來解釋感受性,認為主觀體驗僅僅是大腦中以非線性、不可逆轉的形式編碼的數據,與機器中的信息處理沒有本質區別,因此完全可以通過某種類似的計算手段來實現[68].Reggia 等提出了計算解釋鴻溝(Computational explanatory gap)的概念,認為之所以無法構造出具有感受性的機器,是因為人們還不能理解和解釋大腦中高級認知功能的神經計算模型是如何實現的,因此,必須首先找到意識的計算相關物(Computational correlates of consciousness)[74].Longinotti 和Pandey 認為,人的意識是由大腦神經生物系統產生的,是人類獨有的,而機器僅僅是人類制造出的,不具有神經系統,因而不可能具有意識[70?71].而Koch 等認為,意識是自然界的一部分,是只取決于數學、邏輯、物理定律、化學以及生物學的存在,因而最終是可以由人工實現的[69].Blackmore 認為,人類意識,包括主觀體驗,其實是一種幻覺,這種幻覺產生于Memes (謎米,指文化基因) 互相競爭從而進行自我復制的過程,通過競爭存活下來的Memes 就進化為我們的各種意識能力,機器要具有意識就必須具有這種對意識和自我的幻覺[75].Gamez 認為,機器的外部行為并不能表明機器具有感受,應該在大腦中尋找與意識感受有關的更加清晰明確的時空結構,而不是NCC,從而構建更加普遍的意識理論[43].Man 等認為,有機體的生存依賴于內穩態,而感受是內穩態過程中的心理表現,如果機器能夠實現類似于內穩態的過程,那么就具有某種類似于有機體感受的功能[76].Tojo 等將感受定義為基于主觀體驗的知識內容,開發了一個交互式教學機器人ITR,實現了類似于感受與覺知的功能[78].此外,對感受意識的研究形成了一個專門研究如何用人工手段合成感受的學科,即合成現象學(Synthetic phenomenology)[77].

感受意識是機器意識中最難實現的一種,由于感受性是主觀的,沒有意向對象可以作為形式化的載體,因此難以對其進行表征與計算.目前對于機器感受性的研究多為理論上的探討,少有相關意識系統的開發.

2.6 意識測試

除了對機器意識某一具體類別進行研究與實現外,還有一類研究是機器意識測試(MC-Test),旨在測試機器是否具有意識,意識能力程度如何[83?85].對于感知意識和認知意識,可以用傳統人工智能的評價指標,如準確率、召回率等.對于機制意識,主要可看提出的意識理論對意識產生機制的解釋能力如何,以及在指導構建機器意識時能實現的意識能力的多少、強弱、復雜程度等.而對于自我意識和感受意識,由于涉及他心知問題,行為測試是目前唯一的方法.例如Schweizer 提出了一個用于檢驗機器感受性的完全圖靈測試(Total turing test for qualia,Q3T)[79],相比傳統的圖靈測試,此完全版包括無間斷的定性問題,而機器需要回答這些主觀的涉及內心體驗的問題,例如太平洋的落日景象是不是很美? 給你的印象如何? 等.由于這類問題有多種表達方式且問題的數量是無限的,因而預先編程的機器一定是無法回答的.Arrabales 提出了一種評估智能體意識程度和層次的量表ConsScale[80],將意識分為11 個等級,從最低級的非涉身智能體到最高級的超意識智能體.

機器意識測試是未來重要的研究方向,目前還沒有公認的機器意識測評標準.

3 機器意識的實現方法與計算模型

機器意識的主要實現方法如表4 所示.其中,符號計算和人工神經網絡是傳統的人工智能方法.生物神經網絡采用生物技術,將生物神經元一個一個搭建起來,形成一個真正的神經網絡,這樣的神經網絡無疑更可能具有意識能力.量子計算利用量子的疊加性、糾纏性等性質來解釋意識并構建量子計算模型(將在第3.5 節中詳細討論).腦機融合是腦機接口(Brain-machine interface,BMI)的一種類型,通過將人腦與機器在物理上進行一定程度上的融合來研究意識并構造腦機混合意識機器.

表4 機器意識的實現方法Table 4 Implementation methods of machine consciousness

BMI 旨在建立大腦和機器之間的直接信息通路,按照信息傳輸方向可分為腦到機、機到腦、腦到腦以及腦機融合[86].BMI 具有廣闊的應用前景,是目前的熱門研究方向[87],尤其是腦機融合(混合智能),充分結合生物智能與機器智能,是實現機器意識的重要方法之一.在這方面,Wu 等詳細討論了混合智能(Cyborg intelligence)的概念框架和實現方法等,提出了一種腦機混合系統的認知計算模型[88].Shi 等對上述模型進行了改進,將意識引入到模型當中,并討論了環境覺知的實現問題[123].Schweizer 通過思想實驗表明在其他物理介質上復制人類心智本質上具有理論困難[124].Romano 等詳細討論了生物混合系統中動物與動物機器人的交互問題[125].Lorrimar 則對意識上傳(Mind uploading)進行了理論探討[126].

表5 機器意識的主要理論與計算模型Table 5 Main theories and computational models of machine consciousness

不過,目前還少有以構建意識機器為目的的腦機融合理論和技術研究,現有研究中機器一般只被視為一種工具,主要目的是增強人類,而并不涉及機器本身的意識問題[127].由于人類意識并不能簡單地還原為大腦的神經活動,因此,僅僅將人腦神經信號復制到機器上并不能真正實現機器意識.未來的腦機融合研究需要進一步了解意識產生的神經機制,結合類腦智能、人工大腦、神經芯片等技術,促進意識機器人的開發.

3.1 全局工作空間理論

全局工作空間理論(GWT)是美國加州大學圣地亞哥分校的Baars 教授于1988 年提出的一種意識理論[32],該理論認為意識為大腦提供全局信息處理.Baars 指出,大腦是一個專門處理器網絡,各個處理器實現不同的功能,如感知、運動控制、語言等.在大腦皮層中,廣泛分布著一個全局工作空間(GW),各專門處理器通過競爭以進入GW,從而廣播全局性信息,意識就是在此過程中產生的.1998 年,Dehaene 對GW 進行了神經建模,提出了全局神經工作空間理論(Global neuronal workspace theory,GNWT)[89].

GW 可理解為一個意識劇場,如圖3 所示.劇場內包括后臺、演員、舞臺、觀眾等,其中后臺和觀眾作為背景,相當于人的無意識信息加工,感官、思維、意象等“演員”相互競爭以進入舞臺,選擇性記憶控制聚光燈照射在舞臺演員上,并全局性地廣播到各個無意識處理器進行加工,聚光燈的焦點就形成了意識內容和體驗,聚光燈的邊緣則是一些模糊的意識事件.

在理論研究方面,Whyte 將GNWT 和PPT結合,提出了預測全局神經工作空間PGNW 理論[90].Shea 等將GWT 和元認知理論結合起來,認為GWT中的廣播過程需要元認知的參與[91].Jeczminska 將GWT 和SMT 統一于PPT 框架下,構建了一種新的意識理論[92].

在機器實現方面,美國孟菲斯大學計算機科學系的Franklin 教授等基于GWT,采用符號計算與神經網絡相結合的方法開發了IDA (Intelligent distributed agent)以及 LIDA (Learning IDA)系統[94],實現了注意、情感、想象等意識能力,并給出了一種通用可自定義實現的LIDA 框架,是目前最有影響的意識系統之一.Santos 等基于LIDA 框架,在虛擬環境下構建了一個意識機器人,實現了機器人的移動導航以及情感表達,可用于機器人導游[95].此外,Arrabales 基于GWT,構建了CERA-CRANIUM認知系統,用以檢驗機器意識,尤其是視覺感受[96].

GWT 直觀地解釋了意識的統一性,清晰說明了有意識和無意識腦活動之間的區別,和當前關于工作記憶的觀點很好吻合,對于意識的計算建模產生了較大影響.GWT 的主要問題有:1) GWT 并沒有說明為何全局信息處理在神經層面是和意識相關的;2) GWT 對感受性沒有給出很好的解釋,LIDA框架則沒有考慮感受性的實現[93].

圖3 全局工作空間理論的基本思想Fig.3 The basic idea of global workspace theory

3.2 整合信息理論

整合信息理論(IIT)是美國威斯康星大學麥迪遜分校精神病學系的Tononi 教授于2004 年提出的一種意識理論,又稱為Φ理論[36].2014 年,Oizumi等提出了IIT 的改進版本IIT 3.0[97].IIT 以5 個關于意識體驗的現象學公理為基礎,得出了5 個關于意識神經基礎的推斷,其核心思想是,意識的本質是信息,意識產生于物理系統(如大腦)對大量信息的整合.進而,可以將意識分為“量”和“質”兩個方面,意識的“量”就是物理系統產生的信息量,意識的“質”就是這些信息之間的關聯程度和整合程度.因而,信息量的規模和信息的整合程度就決定了意識水平的高低.信息量和信息的整合程度可以通過公式計算得到,進而可以計算出整個物理系統的意識水平,用Φ表示,Φ值越大,系統的意識就越強[130].如圖4 所示,3 個物理系統各由5 個復合體構成,連接線表示復合體之間的連接強弱程度(實線比虛線強),每個復合體都可計算出Φ值,進而可計算出整個物理系統的Φ值,可以看到圖4中從左到右的系統意識水平逐漸降低.

在理論研究方面,McQueen 將IIT 和意識的幻覺論結合,提出了幻覺整合信息理論[98].同時,他也研究了IIT 和量子理論的結合問題[99].

圖4 整合信息理論的基本思想Fig.4 The basic idea of integrated information theory

在機器實現方面,IIT 目前已成為意識建模中最重要的方法之一.Mayner 等使用Python 語言為IIT 開發了一個工具箱PyPhi[101].受到IIT 的啟發,Aleksander 利用人工神經網絡構建了若干意識系統[72],以實現他提出的機器意識公理系統.Haikonen 則提出了一種認知架構HCA (Haikonen cognitive architecture)[73],HCA 是一個并行、分布式的架構,由大量感知和運動模塊組成,結合了亞符號和符號信息處理,采用了聯想信息處理和異常檢測等機制,同時也包含了諸如內部言語,類模態感受性等模塊.基于HCA,Haikonen 構建了一個非程序化,不基于微處理器,具備亞符號與符號神經系統的意識機器人XCR-1,可以表現出一些非預先編程的行為.

IIT 提供了一種定量測量物理系統意識程度的方法,其主要問題有:1)大腦中加工的信息量過于龐大,在當前計算機條件下根本無法完成計算;2)Φ值更大程度上是與系統的智能信息處理能力有關,而不是與意識相關,因此Φ值并不能成為判斷意識是否存在的指標;3) IIT 將意識完全還原為對信息的整合,是一種還原論和功能主義,因而無法解決感受性問題;4)按照IIT 的觀點,任何具有整合信息的物理系統都是有意識的,因此目前的機器也是有意識的,只不過由于信息整合的水平較低,其意識程度較低,這種泛心論的觀點也難以讓人信服[100].

3.3 高階表征理論

高階表征理論(HOR)早期由哲學家Rosenthal 等進行過深入研究[131],其基本思想如圖5 所示.一階表征理論認為,意識是大腦對基本感覺信息的表征,而HOR 認為,相比無意識的心智活動,有意識的心智活動使用對信息的更高階表征,意識就是由對一階心理狀態的知覺或想法構成[31,132],即對于某種心理狀態M,當存在對M的高階表征時,M就是有意識的.高階表征是一種元認知狀態,可理解為人的自我覺知,例如當我們看到某事物時,并不一定是有意識的,只有當我們覺知到自己看到某事物,才是有意識的,如果沒有這種自我覺知,我們就是無意識的.

圖5 高階表征理論的基本思想Fig.5 The basic idea of higher-order representation theory

在理論研究方面,Cleeremans 等基于HOR,提出了意識的自組織元表征解釋SOMA,認為大腦不斷無意識地學習描述自身的活動,從而發展出符合一階表征系統的元表征系統,意識就是在這樣的學習過程中產生的[102].LeDoux 則基于HOR,提出了情感意識的高階理論[103].

在機器實現方面,人們多采用符號計算方法來開發自我意識機器人,這種機器人系統往往具有多層結構.例如,意大利巴勒莫大學機器人實驗室的Chella 等構建了一種基于高階感知回路的機器人感知信息處理系統[133],并開發了一個博物館導游機器人Cicerobot[63].Cicerobot 使用了3 層表征:亞概念層用于處理最底層的感知數據,中間概念層將感知數據整合為結構化的信息,高階語言層使用符號語義網絡決定機器人的行動.在這個機器人中,一階表征是機器人對外部世界的表征,高階表征是對機器人內部的表征,因而實現了一種自我意識的認知結構機制.近年來,Chella 等在Cicerobot 的基礎上實現了更多的意識功能,如內部言語[64]、基于內省的知識獲取[134]等.此外,Sun 提出了一種混合認知架構CLARION[104],具有兩層表征結構,將連結主義和符號表征、內隱和外顯的心理過程、認知和其他心理過程混合在了一起.Samsonovich 等開發了一個自我意識仿生認知系統 GMU-BICA[65],包含高階的認知表征和低階的圖式表征,以實現對外部世界、內部工作記憶、以及“自我”的覺知.在此基礎上,Samsonovich 將情感和感受引入此系統,開發了一個情感認知架構eBICA[105].

HOR 是實現機器自我意識的一種重要方法,其主要問題有:1) HOR 是通過高階表征來定義意識的,因此會面臨無窮倒退的問題;2) HOR 主要依據符號計算來實現機器意識,缺乏神經層面的解釋;3) HOR 在感受性和意識的統一性方面欠缺考慮[31].

3.4 注意圖式理論

注意圖式理論(AST)是美國普林斯頓大學心理學系的Graziano 教授于2013 年提出的一種意識理論[37,108].類似于身體圖式是身體的一種模型,注意圖式是當前注意狀態的一種內部模型,決定了如何注意和注意什么,人們通過注意圖式修改自我內部關于世界的模型.如圖6 所示,當我們看到一個蘋果時,我們大腦對于世界的表征會發生變化,但這種變化只是信息的變化,即我們有了更多關于蘋果的信息,而并沒有產生意識.大腦要產生意識則還需要另外兩個模型:自我模型和注意圖式,注意圖式將自我模型和對世界的表征聯結起來,因此產生了意識體驗.

圖6 注意圖式理論的基本思想Fig.6 The basic idea of attention schema theory

在理論研究方面,Dolega 分析了AST 存在的問題,提出了一種AST 和PPT 結合的新理論,用于解釋意識體驗[107].Boogaard 為AST 設計了一種基于神經邏輯的時序因果網絡模型,用于驗證AST 提出的假設[106].

在機器實現方面,Graziano 認為,如果AST 是正確的,那么使用當前的技術手段是可以構建意識機器的,不過由于此理論的發展時間較短,Graziano 認為目前AST 還處于基礎概念構建層面,尚不能在工程上給出很好的指導[108],因此目前基于AST構建意識機器人的相關研究還較少.例如,Lanillos 等提出了一種人工注意系統,集成了注意圖式,使社交機器人具有自動注意機制[109].Sim?es基于注意圖式,提出了一種意識注意整合模型CONAIM,整合了長短期記憶、推理、規劃、學習等意識功能[110].

AST 是一種較新的意識理論,其主要觀點還有待于腦科學研究證實,基于AST 的機器意識實現方法也需要進一步深入研究.

3.5 量子意識理論

量子理論是描述微觀粒子運動規律的物理理論.由于分子和原子是構成大腦的物質基礎,因此意識可能和量子理論具有某種關聯.這種假設存在著很大的爭議,主要涉及以下3 個問題:量子和意識有哪些相關性? 大腦中是否存在量子計算? 如何構建意識的量子計算模型?

3.5.1 量子與意識的相關性

量子力學所描述的微觀粒子具有很多和經典力學不同的違反直觀的奇妙性質,這些性質和神秘的意識現象具有一定的相似性,因而量子力學可能用來解釋意識現象.表6 列出了量子力學中粒子的主要性質及其和意識的可能關聯[111?112].

表6 量子和意識的可能關聯Table 6 The possible relationship between quantum and consciousness

3.5.2 大腦中的量子計算

表7 列出了關于大腦中是否存在量子計算這一問題的主要觀點、理由和關于機器意識實現的看法.

這其中,影響最大的是Hameroff 等提出的協同客觀崩現(Orchestrated objective reduction,Orch-OR)理論[113,135].Orch-OR 理論認為,大腦既是神經計算機又是量子計算機,意識產生于微管(是細胞骨架的主要部分)中的量子計算,微管中的π 電子可形成玻色-愛因斯坦凝聚(Bose-Einstein condensate,BEC),當BEC 塌縮時,意識就產生了.Orch-OR 理論對于構建意識機器的意義在于,如果大腦確實是一臺量子計算機,而意識確實是大腦中量子計算的產物的話,那么就有可能在量子計算機上實現機器意識.近些年,已有實驗支持Orch-OR 理論[114].

Orch-OR 理論面臨的主要問題是,量子計算需要一個相對隔絕以及低溫的環境,以避免與環境交互而引起量子退相干,而在溫暖濕潤的大腦中如何能產生量子效應? 對此,很多人都提出了質疑,例如Tegmark 通過計算退相干率[115],證明大腦中的粒子在進行量子計算之前就已經因為和環境的交互退化到經典狀態了,因而大腦中的計算應該是經典計算而不是量子計算.Baars 等認為[116],神經現象原則上可還原為量子事件,但是量子力學并不是解釋意識現象的合理層次,因此應該著重尋找NCC.

表7 關于大腦中是否存在量子計算的觀點Table 7 Views on the existence of quantum computing in the brain

3.5.3 意識的量子計算模型

量子計算具有比經典計算更強的計算能力,且具有真隨機性,能突破預先編程的限制,因而未來的意識機器人很可能基于量子計算而非經典計算.表8 列出了目前構建意識量子計算模型的主要方法.

表8 意識量子計算模型的主要構建方法Table 8 Main methods on constructing quantum computational model of consciousness

1)第一種方法是將意識的某些問題轉化為數學問題,利用量子力學的數學形式,通過量子方程、量子邏輯、量子算法等來構建意識機器人.例如,Majumder 等提出了認知量子數(Cognitive quantum number,CQN)的概念,并將其作為機器的邏輯,通過量子邏輯公式推導,建立了機器內部通用的量子邏輯體系[136].Mahanti 等對量子Braitenberg 小車[141]進行了改進,利用量子算法控制小車飛翔,提出了一種新的量子線路,并在IBM 量子計算平臺(IBM quantum experience)中對其進行了模擬實現,使其能夠更好地表現出恐懼行為,從而在運動中成功避障[117].Toffano 等將量子本征邏輯應用于量子Braitenberg 小車的行為分析,通過多值模糊量子邏輯門的控制以及不同邏輯門的變換和組合,擴展了量子機器人的情感行為[118].Yan 等利用量子線路對機器人的情感空間進行建模,提出了一種量子情感空間,對情感空間中的情感轉換進行了數學推導,使機器人能更好地表達情感[137].

2)第二種方法是通過量子計算與經典計算的結合來進行意識建模,例如量子機器學習(Quantum machine learning,QML)[138].以Kak 提出的量子神經網絡(Quantum neural network,QNN)[119,142]為例,圖7 比較了經典神經元和量子神經元的結構.在量子神經元中,輸入和權值都用量子比特表示,而求和運算和傳遞函數則用量子邏輯門來實現,這樣的量子神經元具有疊加性和糾纏性,更適合作為描述意識現象的神經基礎.Peru?等認為,規模足夠大并且足夠復雜的神經網絡并不足以產生意識,因為神經網絡的神經元、突觸的信息處理過程過于機械、離散和確定,而僅在量子層次考慮意識又會使得模型很復雜,因此在構造意識機器時,需要將神經層次和量子層次結合起來[143].不過,目前大多數此類研究的目的并不是對意識進行建模,而是在傳統神經網絡中引入量子機制,從而提高機器學習的性能.例如Zhang 提出了一種量子神經模糊聯想記憶模型,加深了神經活動、量子理論以及認知意識三者之間的關聯,可進一步用于心智的計算建模[120].Abdulridha 等利用量子神經網絡設計了一個機器人運動控制系統并提出了一種解決機器人逆運動學的方法[139].

圖7 經典神經元和量子神經元Fig.7 The classical neuron and quantum neuron

3)第三種方法是借鑒意識的腦科學和神經生物學研究成果,采用某些具有量子效應的生物組織,或使用仿生計算的方式,來構建量子意識機器.這方面最早由Amoroso 開展了相關的研究[140],他設計的意識計算機由一個輸入輸出裝置和一個動態計算核心組成,通過產生BEC 來模擬人腦中的量子效應.Adamski 分析了BEC 在人類意識中的作用,并指出可以通過電子信息系統和人類生物系統相融合的方式來構建意識機器人[121].Qazi 等基于量子與仿生認知架構,開發了一個自我意識智能體,實現了感知、學習、動機、想象、情感等功能,具有一定程度的意識能力[122].

盡管目前已出現了一些意識的量子理論與計算模型,但由于人們對意識與量子力學的關系還遠未達成共識,意識的量子理論還有待于神經科學的證實.雖然如此,在對意識的解釋以及機器意識的實現方面,量子理論和量子計算模型仍是很有潛力的一種方法.

3.6 意識機器人實例對比分析

我們對上文中提到的Santos 等開發的機器人、XCR-1 以及CiceRobot 進行對比分析,如表9所示.這三種意識機器人主要都用于移動機器人導航,但是是基于不同意識理論開發的,因此適合進行比較.

通過對比可以發現,這三種機器人都實現了一定的意識功能,能夠用于簡單環境下的移動導航.Santos 開發的機器人在虛擬環境下實現了LIDA框架,但LIDA 只考慮了機器的功能意識,并沒有考慮自我意識和感受意識.XCR-1 基于IIT,實現了眾多認知意識和自我意識功能以及Haikonen 提出的類模態感受性,但是類模態感受并不等于真正的感受.CiceRobot 基于HOR 實現自我意識,但這種基于符號計算的自我意識和人類自我意識還相差很遠.由于目前對機器意識方法的評價沒有一個公認的標準,很難比較誰優誰劣,每種方法都有其適用的場合.但從實現機器意識的最終目標來看,應將現有多種機器意識理論有機結合,以更好地構建自我意識和感受意識機器人.

4 思考與展望

4.1 面臨的困境

根據以上對機器意識理論、實現方法和系統開發進展的討論,可歸納出機器意識目前面臨的困境,主要有以下3 點:

1)缺乏意識產生機制的統一科學理論.機器意識的實現需要有意識科學理論的支撐,然而目前人們關于意識還沒有一個清晰的定義,對于意識科學理論(見表2)也遠未達成共識,尤其是對于意識中最難的感受性問題,現有理論都不能很好地解釋.在開發意識機器人時,不同研究者往往根據自己的研究需求給意識下一個定義,進而選擇一種最合適的意識理論,最后進行系統開發,因此開發的機器人很難從理論上給出讓人信服的意識解釋.

2)機器意識的困難問題難以解決.從研究內容上來看,機器意識研究中最難的無疑是機器感受意識,由于感受是主觀的,涉及到無意向性心理活動,沒有意向對象可以作為形式化的載體,因此難以對其進行表征與計算.對于自我意識,由于其包含自我體驗,也涉及到感受性問題,因此也難以完全實現.此外,對于機器意識測試,由于存在他心知問題,外部行為檢測是目前唯一的手段,例如圖靈測試,但如果我們在圖靈測試中重復問機器同一問題,很快就會發現機器和人的區別,由于機器形式系統的局限性,機器缺乏不可預見性的反應能力.而對于自我意識,通過鏡像測試只是具有自我意識的必要條件,而不是充分條件.

表9 意識機器人實例對比分析Table 9 Comparative analysis of conscious robot examples

3)缺乏理想的機器意識實現方法.目前機器意識的計算實現主要依靠傳統人工智能方法,如符號計算和人工神經網絡,但是這種基于預先編程的方法本質上是無法實現機器意識的.量子計算具有比傳統計算更強的計算能力與描述能力,且能突破預先編程的限制,在一定程度上能實現機器意識,但仍然無法解決所有的意識問題,如意向性問題.此外,量子計算還面臨成本高的問題.而采用生物技術或采用腦機融合技術構建腦機混合機器,則存在實現的意識是否還屬于機器意識的問題,而且還涉及到倫理問題.

4.2 未來的發展

鑒于機器意識面臨的困境,未來可從意識理論、計算方法、認知架構、實驗系統、檢測平臺這5 個方面進行深入研究.為此,我們給出一種機器意識總體實現框架,如圖8 所示.

1)構建更加全面合理的機器意識理論.現有的意識科學理論(見表2)更多側重于對意識產生機制的解釋,而不是直接面向機器意識實現的,因此不能很好地指導機器意識的實現.為此,需要直接面向機器意識實現本身,提出一種全新的意識解釋理論,此理論應能清晰刻畫各種意識特性及其關系,給出機器意識限度與范圍,符合機器意識實現的要求,更好地用于指導意識機器人的研發,并給出機器意識實現的理論標準和規范.例如,可開展現有多意識理論結合的研究[17],如GWT 和IIT 相結合,IIT 和量子信息論相結合,以及意識理論與現有人工通用智能理論相結合等.

圖8 機器意識總體實現框架Fig.8 The overall implementation framework of machine consciousness

2)探索有效的機器意識實現方法.首先,可以采用仿腦計算方法或者傳統方法之間相互融合的方法,例如符號計算與神經網絡相融合,深度學習與神經科學相融合[144]等.尤其是深度學習的最新技術,如深度卷積神經網絡、圖神經網絡、膠囊網絡、生成式對抗網絡、零樣本學習等[145?147],可更好地用于實現機器感知意識和認知意識.而為實現機器自我意識和感受意識,可將深度學習與當前意識的神經科學相結合,開發功能更強的神經網絡,并采用仿腦計算的方法來實現機器意識.其次,可以采用量子計算方法,但由于量子計算機的普及難度較大,量子計算的成本代價較高,因此還需要研究在非量子體系下模擬量子計算的類量子方法.此外,將目前的深度學習技術與量子計算相結合,也是未來機器意識實現的重要方法.最后,可以采用生物計算、腦機融合和類腦智能的方法,構建生物機器人和類腦機器人.例如Diaz-Alvarez 等用銀納米線構建的大腦神經網絡[60],Li 等用細胞開發的“粒子”機器人[16],以及Kriegman 等用青蛙細胞創造出的活體機器人[148]等,都為實現機器意識提供了新的方法與思路.

3)構建機器意識綜合認知架構.目前用于人工智能的認知架構已有數百種,但只有少數涉及到意識,例如LIDA[94]、HCA[73]、CLARION[104].應該在機器意識理論的基礎上,構建機器意識綜合認知架構,包括感知意識、認知意識、機制意識、自我意識以及感受意識,并給出他們之間的層次結構與交互關系,以實現環境感知、語言交流、內省反思、自我覺知、情感感受等能力.同時,結合機器意識具體的計算策略與方法,參照已有機器意識和人工智能認知體系的優點,給出機器意識綜合架構的總體實現策略.

4)開發意識機器人實驗系統.在現有智能機器人開發平臺上實現構建好的機器意識綜合認知架構,形成具體的意識機器人系統,并開展具體的系統實驗分析研究,例如真實或虛擬環境下的人機交互,陌生環境下機器人的情感表現,多機器人協作等,以檢驗機器意識綜合認知架構是否滿足提出的機器意識理論要求,最終給出一種機器意識系統的實驗范例.

5)搭建機器意識測試平臺.為檢測開發的意識機器人是否有意識,意識能力程度如何,需要建立機器意識評測標準體系,例如對不同的意識類別設定不同的評價指標.現有的人工智能系統評價指標可用于感知意識和認知意識中,但對于自我意識和感受意識,則沒有一個公認的評價標準,目前只能通過機器的外在行為表現來進行分析.在此基礎上,構建開展評測的環境平臺(如鏡像實驗系統、問卷系統、圖靈測試系統、機器人行為分析系統等),以實際評測意識機器人的意識能力水平.

總之,通過上述5 個方面的研究,希望能夠在機器意識理論構建、方法實現、系統開發、測試平臺搭建等方面有所突破,從而促進機器意識研究的進一步發展.

5 結語

本文首先介紹了意識的概念、理論和感受性問題.然后將機器意識分為感知意識、認知意識、機制意識、自我意識、感受意識和意識測試6 種類型,詳細討論了每種類型的最新研究進展.之后,對指導機器意識計算實現的5 種意識理論,即GWT、IIT、HOR、AST 和QC 進行了深入挖掘,分析了其理論研究進展,建模實現方法以及意識系統開發情況.最后,總結了目前機器意識面臨的困境與未來的可能發展,給出了一套意識機器人系統的總體實現框架.

機器意識的研究還處于很初級的階段,缺乏統一的理論、方法、評價標準等.目前機器意識在國內也少有相關研究.為切實推進機器意識的研究,可按照機器意識總體實現框架(見圖8)進行深入研究.在研究內容方面,可暫時擱置機器意識的困難問題,重點研究感知、認知與機制意識,如視覺、語言、想象、記憶、情感等意識過程中的神經機制和計算建模.在研究方法方面,可采用自然機制和算法相結合,深度學習與量子計算相結合以及腦機融合等策略.在研究目標方面,開發具有一定意向能力的機器人,并應用到工業、教育、娛樂等社會服務領域.