類腦計算研究進展

莫宏偉，叢 垚

(哈爾濱工程大學智能科學與工程學院，哈爾濱 150001)

0 引言

當前信息科技正在向智能化不斷邁進，這離不開人工智能、深度學習和云計算等技術的支持，同時在當前大數據背景下，對計算系統大規模信息處理能力提出了更大的挑戰。當前計算系統在信息處理方式上受限于傳統的馮·諾依曼結構，由于摩爾定律存在物理極限，因此芯片設計不具備通用性，無法實現真正的智能，使得研究學者向類腦研究方向進行探索，企圖從人腦結構及信息處理方式上得到啟發，創建不同于馮·諾依曼結構的類腦計算機，使其在低能耗的條件下實現強大的信息處理能力，且具備通用性以及一定的認知能力。類腦計算通常是指從硬件結構到模型算法，由大腦神經系統結構和信息處理機制所啟發的新型計算方法。我們的大腦的確具備一些當前計算機無法企及的優點：我們的大腦中存在將近103億個神經細胞和超過106億個神經突觸，大腦的日常功耗大約10～25W，而普通計算機的功耗則是大腦的10～20倍，圖形處理器的功耗則是大腦的100倍以上，且大腦的生物神經元同時具備運算和存儲能力。為此，類腦計算機可突破傳統馮·諾依曼結構，提升信息處理效率。

特殊的大腦結構及腦內信息傳遞方式是大腦具備真正智能的關鍵，人類對于大腦結構及功能的探索從未止步：研究表明，大腦中的組織多以分層級結構存在，例如視覺皮層組織[1]，組織中存在著功能不對稱的正向和反向連接方式，正向連接(從低到高)有稀疏的軸突分叉，起源于大腦皮質的上顆粒層，主要終止于第IV層；另一方面，反向連接顯示了豐富的軸突分叉，分布相較于正向連接更加分散，而且連接數量相當多[2]。反向連接與人工神經網絡中的反饋相關，T. P. Lillicarp等[3]認為在腦中的反向連接引起的反饋可誘發神經活動，其反饋差值可用于逼近神經活動信號，從而驅動大腦深層網絡的有效學習。其他方面，T. Hainmueller等[4]的研究表明，齒狀回是海馬記憶形成的關鍵部分，其在不同的認知功能中具有重要作用，包括辨別相似語境、將物體或事件與地點相聯系以及整合記憶操作；K. A. Ferguson等[5]的研究表明，皮層的增益調節使神經元對變化的輸入做出適應性反應，這種增益調節容易受到各種神經活動影響，包括注意力、學習和運動等，并且Y-氨基丁酸能抑制在皮層的增益調節，從而起到關鍵而復雜的作用；A. Bicanski等[6]通過調查研究提出了具有矢量感受野的細胞功能分類，包括邊界矢量細胞、邊界細胞、目標矢量細胞、跟蹤矢量細胞和自我中心邊界細胞等，這些神經元的響應為自底向上的環境布局表征和視覺空間意象生成以及導航規劃提供了基本神經基礎；J. Mcfadgen等[7]的研究表明，包含感知處理初始回路的皮層下區域可以確保處理效率并保障重要生命功能，而皮層下區域與大腦皮層區域間的交互作用促成了非典型的感知和認知加工；L. R. Taxier等[8]在研究中總結了雌二醇的信號傳導機制及其在空間記憶、物體識別、社會記憶和恐懼記憶中的作用，越來越多的證據表明，雌二醇作為神經調節劑在女性和男性的學習記憶方面都起著至關重要的作用；J. Duncan等[9]在研究中表明，任何一種有組織的認知都來自于廣泛分布的腦活動，流體智力與腦中的多需求(Multiple Demand，MD)系統相關，在皮層上可以看到9個MD活動斑塊區域，主要分布在外側額葉、背內側額葉、外側和內側頂葉，以及顳枕葉皮層，在MD區域中算數活動最強，關系推理活動最弱。這些有關大腦探索得到的客觀規律和機制，不僅作用于現代醫學和神經科學領域，也可以作為類腦啟發式應用于工程領域，促進認知智能。

類腦計算技術的研究路線可分為兩大類：一種是自上而下，即先通過科學手段觀察大腦內結構和功能運行機制，然后根據觀察結果模仿大腦功能，例如歐盟的人類腦計劃和美國的腦科學計劃，以及目前各個國家都在推動的腦圖譜和腦網絡組圖譜研究。腦圖譜通過圖像處理的方式按照不同的功能結構劃分腦區，腦網絡組圖譜則在腦圖譜的基礎上提供腦區與腦區之間、腦區與全腦之間的連接模式。通過腦網絡組圖譜可以進一步對大腦局部功能進行探索，2020年蔣田仔團隊利用腦網絡組圖譜發現了紋狀體環路功能異常是精神分裂癥精準診療的有效生物標志物[10]。另一種是自下而上的方法，即先構造大腦功能結構相關的假說和模型，然后驗證假說和模型是否與真實神經結構、動力學規律相符，例如Friston的預測編碼[11]和自由能假說[12]等。

總的來說，類腦計算技術首先借鑒大腦生理結構及功能，建立類腦模型，然后在硬件上參照腦內神經元結構創造實際的類腦元件，最終通過研究人腦學習、記憶和推理的運行機制，并應用于類腦模型中，使其具備人類智能甚至在某些層面上超越人類智能。

1 局部腦功能啟發模型

研究學者通過各種科學手段，如腦電圖(Electroencephalogram，EEG)[13]、功能性磁共振(functional Magnetic Resonance Imaging，fMRI)[14]和功能性近紅外光譜(functional Near-Infrared Spectroscopy，fNIRS)[15]等對大腦的局部構造和功能進行探索，得到多種腦內神經元組織上和功能上的客觀規律，如視覺皮層中大量的分層組織結構、大量的反饋調節機制以及具有特殊作用的腦內神經細胞等，并以此為靈感，融合進學科應用中。卷積神經網絡(Convolutional Neural Networks，CNN)就是以人類視覺皮層的分層組織結構為啟發的經典案例[16]，分層級的組織結構在多個單元層級上對任務進行分解，使復雜任務得以簡化，從而易于控制。反饋調節機制，如注意力機制等，則是腦內重要的信息處理機制，其和正饋處理一起形成了包括視覺感知過程在內的完整腦功能回路。大腦的神經可塑性以及腦內具有特殊功能的神經元則賦予人類靈活的學習、記憶以及特殊的認知功能。目前學者們發現和利用腦局部組織或功能的熱點研究包括:注意力機制(Attention Mechanism)、基于空間導航細胞的類腦導航和長短期記憶網絡 (Long Short Term Memory,LSTM)等。

1.1 注意力機制

注意力機制是大腦中存在的一種反饋機制，是研究人員在對人類視覺系統的研究中發現的。注意力機制體現在人類視覺系統對信息的有選擇攝取。當將人眼接收的視覺信息傳入視覺系統時，視覺系統并非照單全收，而是有篩選地關注更有價值的信息，并抑制對無關信息的關注。可以看出，腦中的注意力具有指向性與集中性，指向性主要指大腦有選擇地關注感興趣的事物，而集中性則是指大腦在關注了感興趣的事物后抑制對其他無關信息的關注。注意力機制一直是心理學上的研究熱點，與人類的學習行為有極大的關聯，M. I. Ponser等[17-18]發展了注意力網絡理論，將注意力看作多網絡系統，包括警覺性網絡、導向性網絡和執行功能網絡[19]。而且認知神經科學學者們通過功能磁共振發現，這些網絡在大腦中具有相應的神經功能區域[20]，警覺性網絡對應的區域主要在丘腦，大腦額葉和頂葉也有部分相應區域，主要負責使個體保持警覺以便做出相應響應[21]；導向性網絡對應區域較廣泛，包括頂葉上部、顳頂葉聯合區、上丘腦和額葉眼動區，主要負責刺激選擇，在給定所有刺激中選擇最相關的[22-23]；執行功能網絡則主要對應于前扣帶回和外側前額葉等，主要負責監控大腦信息處理活動[24-25]。

注意力機制模型最早于20世紀90年代提出并應用于計算機視覺領域，現如今已經成為深度學習模型中應用最廣泛的組件之一，其作用主要是判斷輸入數據的貢獻，類似于傳統的特征工程，但不同于傳統特征工程的靜態性，注意力機制是動態性地計算數據貢獻。V. Mnih等[26]使用融合了注意力機制的循環神經網絡(Recurrent Neural Networks，RNN)模型進行圖像分類，每次只對具有高注意力的像素部分進行處理，從而使復雜的圖像分類問題得以簡化。D. Bahdanau等[27]首次將注意力機制引入自然語言處理(Natural Language Processing，NLP)領域中，并在基于編碼-解碼模型的機器翻譯任務中取得了十分理想的翻譯效果。以編碼-解碼模型為例，普通的編碼-解碼模型對于所有輸入所分配的處理權重都是一樣的，也就是說注意力是平均分配的，在引入了注意力機制后，不同的編碼器輸出根據匹配程度計算得到不同的處理權值，即注意力得分，從而得到相關的注意力，如圖1所示。xi,i=1,2,3,4，為輸入向量序列；hi,i=1,2,3,4，為編碼器輸出序列；yi,i=1,2,3,4，為解碼器輸出序列。注意力得分按式(1)計算

ASi=Similarity(hi,kj)

(1)

其中，ASi為第i個編碼器輸出的注意力得分，通常需要對其進行歸一化

(2)

最后按照注意力得分對編碼器輸出進行加權求和

(3)

圖1 加入注意力機制的編碼-解碼模型Fig.1 Encoding-decoding model with attention mechanism

注意力機制按照其技術延伸機理的不同，除軟/硬注意力機制(Soft/Hard Attention)[28]、全局/局部注意力機制(Global/Local Attention)[29]和自注意力機制(Self Attention)[30]這些基本分類外，還有分層注意力機制(Hierarchical Attention)[31]和疊加式注意力機制(Attention Over Attention, AOA)[32]等組合式的延伸。A.Vaswani等[33]提出了多頭自注意力機制(Multi-headed Self-attention)，采用注意力機制代替傳統的RNN構建編碼-解碼框架，其在WMT2014語料中的英德和英法任務上獲得了令人滿意的實驗結果，并且訓練速度比主流模型更快。Z. Qin等[34]提出了多頻譜通道注意力機制(Multi-spectral Channel Attention)，在頻域上推廣了現有的通道注意力機制的預處理，簡單而有效地完成了圖像分類、檢測以及任務分割。

1.2 長短期記憶網絡

記憶是大腦的重要功能，是行動、學習與認知的前提。所謂記憶，是大腦對于所接收信息的存儲，腦內信息的存儲。腦內信息的存儲與神經突觸的連接相關，這種突觸連接分布于腦內的多個神經組織區域，包括海馬體、杏仁核、前額葉以及小腦[35-39]等。按時間長短記憶可分為工作記憶、短時記憶以及長時記憶，也可按功能劃分為從低到高的六種層次類型：由紋狀體和小腦控制的程序性記憶；由大腦皮層控制的促發記憶；由海馬體和大腦顳葉控制的語義記憶及情景記憶；由大腦皮層控制的短期記憶；由杏仁核控制的情緒記憶。

記憶使人類可以利用之前接收的信息對當前接收的新信息加以理解和處理，即結合上下文加工新信息。而在深度學習模型中，傳統的神經網絡并不具備記憶功能，無法結合早期信息處理新信息。考慮到神經網絡的這種設計缺陷，S. Hochreiter等[40]在1997年提出了LSTM模型，經后來的學者改良，目前LSTM模型已經成為廣泛應用于各種序列模型的基本框架。LSTM是一種特殊的RNN，通過門結構解決RNN中存在的長期依賴問題。LSTM主要構成包括細胞狀態、遺忘門、輸入門和輸出門，如圖2所示。xt為當前輸入；ht-1為上一時間步的輸出；ht為當前時間步的輸出；Ct-1為上一時間步的細胞狀態；Ct為當前時間步的細胞狀態。LSTM的主要流程包括遺忘信息、更新信息以及輸出信息。首先遺忘門決定哪些信息需要從Ct-1中剔除，根據ht-1和xt按式(4)計算

ft=σ(Wf·[ht-1,xt]+bf)

(4)

接下來確定新的信息，并更新細胞狀態

it=σ(Wi·[ht-1,xt]+bi)

(5)

(6)

(7)

最后，基于Ct決定網絡的輸出ht

ot=σ(Wo·[ht-1,xt]+bo)

(8)

ht=ot*tanh(Ct)

(9)

目前，LSTM通常與注意力機制結合用于NLP任務中的序列到序列模型，并在該任務中獲得出色的表現。然而需要注意的是，LSTM雖然借鑒了大腦記憶功能，但并不遵循實際大腦中的記憶實現機制，且目前LSTM模型的訓練復雜度較高。

圖2 LSTM網絡結構Fig.2 LSTM network structure

1.3 基于導航功能細胞的類腦導航

人腦的海馬體是具有空間定位和情景記憶功能的特殊部位，從1971年O’Keefe在對海馬體的研究中發現了位置細胞后，奠定了海馬體在大腦認知地圖中的重要地位。此后，O’Keefe與其他學者相繼在海馬體及大腦其他部位發現了同樣在空間導航中具有重要作用的方向、邊界和網格細胞[41-43]。具體發現及應用的研究進展如表1所示。

表1 導航功能細胞研究進展

(1)類腦導航

研究人員從發現的這些具有導航功能的細胞上獲得啟發，結合認知地圖理念及相關人工智能算法，將其應用于智能體導航中，類腦導航的研究主要包括環境感知技術、空間認知技術、目標導航技術以及群體導航技術。基于類腦的導航系統比一般系統在路徑規劃和決策方面更具主動性和靈活性。F. Yu等[54]將導航功能細胞的啟發應用于SLAM系統中，使其能夠在大型三維環境中進行導航，該NeuroSLAM系統結構如圖3所示。整個系統包括連接位姿細胞、多層經驗地圖以及視覺模塊3個主要部分。視覺模塊提供局部視覺和自運動線索；連接位姿細胞模型的創建則基于三維網格細胞和多層頭向細胞，其根據局部視覺和自運動線索整合路徑；由局部視圖細胞、三維網格細胞、多層頭向細胞和三維視覺里程計的輸出驅動多層經驗地圖的創建。

圖3 NeuroSLAM系統結構示意圖[54]Fig.3 NeuroSLAM system architecture schematic diagram

(2)認知功能拓展

海馬體的功能對研究者的啟發并不限于空間導航，T. E. Behrens等[55]認為海馬體導航功能的規劃可推廣至一般的抽象推理認知;J. C. Whittington[56]則將這種提取抽象結構信息的規劃引入機器學習模型中，可以完成一定的推理任務。導航功能細胞的啟發同樣可用于視覺概念模型(Visual Concept Space Model，VCSM)的創建[57]。海馬內嗅活動模式可以為生物相關的任意變量(如聲音、氣味和面孔)提供空間編碼機制。該理論認為，內嗅網格系統為認知空間維度提供了坐標系統，位置細胞的活動可以代表認知空間中的特定位置。基于此，提出了視覺概念的空間表征，即為某一變量(如椅子和臉)構建一個空間，稱為視覺概念空間。在概念空間中，視覺概念用概念細胞來表示。該VCSM的系統工作原理如圖4所示。整個模型基于編碼-解碼網絡，物體圖像被編碼為一系列屬性向量，并投影至概念空間中的一點，概念空間中不同的點代表不同的概念細胞，投影至概念空間中的點會激活與其最匹配的概念細胞，最后激活的概念細胞決定了物體的概念；反過來，已知物體概念同樣可以通過訓練學習將物體從該模型中解碼出來，即重構圖像。

圖4 VCSM原理結構示意圖Fig.4 VCSM structure schematic diagram

有關腦內導航系統的研究仍在繼續，X. Long等[58]發現除了海馬-內嗅系統之外，軀體感官皮層中還存在另一種大腦導航系統。未來會有更多的研究來明確地揭示大腦導航功能的實現機制，并對當前的類腦導航以及更寬泛的認知推理給予啟示。

2 神經形態計算

類腦計算的主要目的是創建不受限于馮·諾依曼體系的計算系統，通過借鑒大腦的結構和信息處理機制，實現低能耗、高效率的信息傳遞及處理，并支持具有大腦認知功能的神經網絡模型運行[59]。神經形態計算是類腦計算的主要方法之一，Carver Mead在20世紀80年代提出了神經形態(Neuromorphic)一詞，即通過模仿生物神經元特有結構功能，在神經網絡模型中實現和生物神經元同等或相近的信息編碼方式[60]。神經形態計算包括神經形態模型和神經形態芯片，所謂神經形態模型，是在現有計算機硬件系統上實施對生物腦神經網絡的模擬；而神經形態芯片則是在硬件結構上，從神經元結構、信息編碼方式到神經元群體組織結構、信息傳遞來逼近生物腦[61]。

2.1 神經形態模型

2.1.1 神經元模型

神經形態模型的基本組成單元是神經元模型，即模仿樹突、軸突和突觸結構的模型。1952年，A. L. Hodgkin和A. F. Huxley在進行烏賊動作電位發生機制研究時，發現了烏賊神經細胞在受到脈沖電流刺激后細胞膜上的電位變化規律[62]。大腦神經元之間的通信并非是數值形式的，而是依靠神經細胞膜電位的升降的脈沖，因此借鑒大腦神經元膜電位升降原理建立了人工神經元模型，使得其所組成的神經網絡在響應速度和功耗上比一般的神經網絡更具優勢。研究學者提出了多種神經元模型，常見的神經元模型包括：

(1)Integrate-and-Fire(I&F)模型

I&F模型當屬最典型的神經元模型之一，神經元膜電位Vm隨著時間動態變化

(10)

其中，τm為電位下降的膜時間常數；I(t)為輸入電流。

圖5所示為I&F模型上電壓變化過程，可以看出，當膜電位超過一定閾值時，神經元開始釋放脈沖；然后膜電位則下降，當下降到一定值后會保持一段時期，在該時期內不再觸發神經元。

圖5 L&F模型電壓變化過程示意圖Fig.5 The scheme of voltage change process of L&F model

(2) Leak Integrate-and-Fire(LIF)模型

LIF模型相當于電容與電源及一個可變電阻并聯，只考慮膜電位的被動特性以及動作電位的觸發，其數學表達式如下

(11)

其中，Cm代表細胞膜表面電容；GL代表導納；EL代表被動平衡電壓；Iapp代表外界輸入電流。

(3)Spike Response Model(SRM)模型

SRM是LIF模型的推廣，將LIF模型轉化為輸入和輸出脈沖的函數，其一般形式可寫作

(12)

除此之外，還有更加復雜的Hodgkin-Huxley模型、Morris-Lecar模型、FitzHugh-Nagumo模型和Hindmarsh-Rose模型等，神經元模型越接近真實神經元結構特性，其模型就越復雜，模型應用效果也越好。傳統的人工神經網絡中的神經元就是極度簡化的大腦神經元模型，同時考慮使用效果和結構復雜性，LIF模型是神經形態網絡中最常用的神經元模型。

2.1.2 脈沖神經網絡

脈沖神經網絡(Spiking Neural Networks，SNN)作為第三代神經網絡，相比于目前應用效果較好的CNN和RNN等第二代神經網絡，更加貼近腦中神經元信息傳遞方式。1997年，W. Maass[63]提出了SNN，整個模型由脈沖神經元構成。與人工神經網絡不同的是，SNN的輸入信號是脈沖序列，這與人腦中的信號形式一致[64-65]。如圖6所示，下游神經元由上游神經元驅動，且SNN神經元只有當接收和發射脈沖信號時才會被激活，這使其具備節約能耗的優勢，其0,1輸入形式也減少了點積和求和運算量[66]。

圖6 SNN計算模型[66]Fig.6 SNN computational models

2.1.3 CA3模型

除了SNN以外，其他的神經形態模型也多以上述仿腦神經元結構的人工神經元為基本單元。Jensen等[72]采用SRM神經元模型創建CA3模型，海馬體的一個關鍵功能是儲存和回憶聯想記憶。自聯想是指從自身的一個部分或噪聲樣本中檢索記憶，而異性聯想指的是由另一個類別的線索而喚起的記憶。海馬CA1區被認為是異性聯想區域，海馬CA3區可作為陳述性記憶的異性聯想區域或自聯想區域。

CA3系統作為一個自聯想網絡運行，通過內嗅皮層在進行部分線索的回憶過程中完成記憶的存儲，CA3中的所有錐體細胞接收一個用于模擬θ節律的振蕩輸入，中間神經元對所有錐體細胞起反饋抑制作用。圖7所示為基于SRM的CA3模型結構示意圖，該網絡由短時記憶(Short-Term Memory, STM)和長時記憶(Long-Term Memory, LTM)網絡組成。STM重復每個周期中的記憶項。中間神經元提供反饋抑制，在每個周期的正部分產生γ子周期。LTM網絡在可修改的循環突觸中編碼信息。CA3中的錐體細胞和中間神經元活動由SRM神經元模型來模擬。

圖7 基于SRM的CA3模型[72]Fig.7 CA3 model based on SRM

當傳統的深度學習融入了腦機制啟發的模型后，網絡模型在效率和能耗方面有大幅提升，但目前對于學習、記憶、認知和注意力機制的應用還有待進一步發掘，相關腦功能機理的后續研究仍在不斷開展。M. F. Panichello和T. J. Buschman[73]最近的一項研究表明，工作記憶和注意力受同一腦區支配。工作記憶是一種特殊的短時記憶，是大腦對信息進行認知操作過程中對信息的臨時存儲，后續的信息加工都是在此基礎上進行的。Panichello和Buschman對獼猴進行了回顧性和前瞻性記憶測試，通過對外側前額葉皮層、額葉視區、頂葉皮層和中間視區V4這4個腦區神經元亞群的放電速率進行記錄和研究發現，外側前額葉皮層同時控制著工作記憶和注意力的編碼，并且可以通過動態表征轉化控制認知行為。T. Bonhoeffer等[74]同樣針對前額葉皮層進行了研究，前額葉皮層是與復雜思維過程有關的腦區，腦區內細胞可通過學習具備類別選擇能力，并且在改變學習規則后，細胞類別選擇性也產生相應變化，這種靈活的表征能力是長期記憶的結果，當短期記憶轉化為長期記憶時，前額葉皮層內的選擇性細胞就會發揮作用。A. Libby和T. J. Buschman[75]的研究表明，為了使大腦接收的新信息和腦內短時記憶之間不會相互干擾或混淆，采用正交編碼的方式存儲信息，將記憶進行旋轉，使信息間的存儲相互分離，而這種旋轉正交的存儲機制有助于進一步研究大腦對并發事件的處理細節。對于腦區功能的研究有助于探索大腦全局運行機制，探索的過程往往伴隨著神經形態模型的進一步完善，在研究腦區功能的基礎上，各個區域間的連接作用及信息交互、協同運行的方式將是神經形態模型的研究重點。

2.2 神經形態芯片

神經形態計算系統以模仿生物神經元的神經形態器件為基本單元，主體是與腦中神經元網絡生理近似的SNN，與一般計算機遵循指令的工作方式不同，神經形態計算系統遵循并行式工作、分布式處理機制，以完成學習、記憶和推理等認知任務為目的[76]。當前國內外主流神經形態芯片及相應的神經形態計算系統如圖8和表2所示。2014年，美國IBM公司推出了著名的真北(TrueNorth)芯片[77]，采用28nm制造工藝，體積小，含有大量的可編程神經元，具有很好的可擴展性，不依靠全局時鐘信號協調工作，也不會因為一個芯片損壞而影響整體工作。美國斯坦福大學開發的神經形態超級計算機Neurogrid能夠模擬大規模腦內神經元以及突觸連接，從而可應用于腦機接口[78]。英國曼徹斯特大學開發的SpiNNaker網絡架構，基于ARM芯片實現了部分腦功能模型，可以模仿大腦區域功能，其通信機制適合實時建模[79]。Intel公司發布的神經擬態芯片Loihi，通過神經元之間的脈沖傳輸數據結合STDP模型，最與眾不同之處在于該芯片擁有自主學習功能[80]。浙江大學使用792顆達爾文2代芯片，成功研發出類腦計算機Darwin Mouse[81]，并助力實現了機器人協同工作和腦電信號電位解碼等應用。目前的神經形態芯片，主要依從神經動力學原理建立仿腦神經網絡，但對于已經成熟的ANN等模型并不兼容，對此清華大學研發了天機芯片(Tianjic)，融合了神經科學和計算機科學兩條技術路線，可并行運行神經網絡模型，并在模型間無縫通信[82]。

圖8 主流神經形態計算芯片Fig.8 Mainstream neuromorphic computing chip

表2 國內外主流神經形態計算系統及芯片

除了上述神經形態芯片外，還有支持神經網絡和深度學習的非神經形態芯片，如寒武紀芯片[83-84]以及嵌入式智能芯片圖形處理器(Graphics Processing unit，GPU)、現場可編程邏輯門陣列(Field Programmable Gate Array，FPGA)、專用集成電路(Application Specific Integrated Circuit，ASIC)[85]等。

3 人工大腦

除了神經形態計算外，人工大腦也是類腦計算的重要研究內容，仿腦模型是人工大腦的重要部分，包括加拿大滑鐵盧大學開發的SPAUN仿腦模型[86]以及歐洲研究者設計的GENMOD人工神經網絡。SPAUN腦模擬器具備約250萬個虛擬神經元，可以完成一系列認知任務，例如識別和記憶數字、回答與數字有關的問題，以及完成一定難度的數學題目。SPAUN可以在記住數字后用機械臂將所記憶的數字重新寫出來，當需要記憶的數字長度過長時，SPAUN腦模擬器會優先記住開頭和結尾的數字，而且在回答問題時，它甚至會猶豫，這與人類智能的自然缺陷相吻合。而GENMOD人工神經網絡則能夠在不提前訓練的條件下，自主培養數感，進行空間認知。除了仿腦模型這樣的軟件，人工大腦還有人造神經元和人工突觸這樣的硬件。

3.1 人造神經元

2016年，IBM公司設計出首個基于相變材料技術的人造神經元[87]，由輸入端、神經薄膜、信號發生器和輸出端組成，如圖9所示，分別相當于生物神經元的樹突、雙分子層、神經細胞主體和軸突。其中神經薄膜由鍺銻碲復合材料制成，是一種相變材料，在人造神經元中，當信號到來時，鍺銻碲薄膜從原本的無定形態到結晶態，從而導電；而當電流從薄膜通過產生信號并由輸出端發射后，薄膜又會恢復原來的狀態。這種人造神經元技術與人工突觸的主要成分憶阻器是互補的，神經元產生的信號主要通過突觸來傳遞。人工突觸也是人工神經元重要的連接和信息傳遞器件。

圖9 人工神經元示意圖[87]Fig.9 Artificial neuron schematic diagram

3.2 人工突觸

目前,人工突觸的研究主體是憶阻器[88-90]。憶阻器作為第4個無源電子元件，從特性上看是最適合的天然突觸模擬器件。如圖10所示，從結構上看，憶阻器是2條相互垂直的金屬線交叉處的一個氧化結，生物突觸通過釋放Ca和Na離子改變傳導特性，而憶阻器則是通過釋放氧離子改變傳導特性，也就是說，憶阻器通過改變其電阻值模仿生物突觸對學習行為的響應[91]。

圖10 憶阻器結構Fig.10 Memristor structure

記憶功能是憶阻器的重要特征,具體表現為能夠記憶流經它的電荷數量，這直接影響器件的存儲能力，使其成為在促進類腦智能方面最具潛力的基礎元件。2020年，清華大學和馬薩諸塞大學共同提出了一種基于全硬件憶阻器實現的CNN系統[92]。系統組成如圖11所示。該系統以ARM為控制核心，具有動態隨機存儲器和8個憶阻器陣列PE，每個陣列有2048個憶阻器。該系統具有5層CNN網絡，采用不同卷積核和多個相同卷積核分別對共享輸入和不同輸入進行并行處理，通過混合訓練方法可以進行MNIST(Mixed National Institute of Standards and Technology)手寫數字識別，識別精度達到96%以上。總體來說，該憶阻器CNN系統能夠適應設備缺陷，實現了存算一體結構，并具有良好的可擴展性。與Teala V100 GPU相比，功耗效率提高了2個數量級，性能密度提高了1個數量級。

圖11 系統結構圖[92]Fig.11 System architecture schematic diagram

除了憶阻器外，斯坦福大學和桑迪亞國家實驗室的研究人員研發出一種人工突觸[93],成功模仿了人腦中的突觸傳遞信號的方式。其設計靈感源自電池，工作原理類似于晶體管，也具有3個電極，由于其材料與大腦組織成分的相似性，原理上這種人工突觸甚至可以和生物神經元通信，這使其具有可觀的腦機接口應用前景和研究價值。

4 中國類腦研究

類腦計算作為類腦智能的重要內容是人工智能發展的必然趨勢，也是各國將展開激烈競爭的科技領域。國際上對大腦的研究從未停止，自從2013年美國腦計劃提出以來，各國相繼提出了正式的腦計劃，國際上具有代表性的類腦研究項目及成果如表3所示。

表3 各國類腦研究項目及代表成果

中國腦計劃已經醞釀了相當長一段時間，“腦科學與類腦研究”——中國腦計劃，作為重大科技項目被列入國家“十三五”規劃。腦科學的研究在中國擁有重要戰略地位，目前我國已有包括北京腦科學與類腦研究中心、上海腦科學與類腦研究中心在內的超過20個研究機構及實驗室，作為腦科學與類腦研究基地，積極推動中國腦計劃。根據中國科學院上海神經科學研究所所長蒲慕明介紹，中國腦計劃將遵從“一體兩翼(One body twowings) ”布局，以研究腦認知的神經原理為主體，研發腦重大疾病診治新手段和腦機智能新技術為兩翼。在未來15年內，以在腦科學、腦疾病早期診斷與干預、類腦智能器件3個前沿領域取得國際領先的成果為目標[94]。

5 結論

從研究成果上看，國際上對于類腦研究的進展剛起步，各國都有各自的突破性自主類腦技術及產品，等同于處于同一起跑線，類腦計算領域的競爭主要集中在神經形態計算系統硬件及模型軟件上。從目前來看，神經形態芯片研究的主要目的是避開原始的馮·諾依曼結構，以實現低功耗下信息高效傳遞及處理，各國研究的芯片主要支持的是符合生物神經動力學的SNN，但是似乎和當前深度學習等算法的研究拉開距離，神經形態芯片應該具有良好的兼容性，同步于主流算法的研究，從而得以大規模應用并相互促進。模仿生物神經元的人造元件性能從主體構造和材料選擇上來說都有待提高，設計能與生物神經元交流的人造神經元是一個很有前景的計劃。

對于神經形態模型則有更大的提升空間。首先類腦計算得益于人類對大腦生理構造運行機制等規律的運用，目前全球范圍內，人類對于大腦的全局結構及功能包括信息傳遞、區域協調等尚未完全理解，而且對于目前已經探索得到的生物運行機制的發掘利用也仍有可提升的空間。就像對于類腦導航來說，我們知道位置細胞、邊界細胞、方向細胞和網格細胞各自的功能及作用原理，但對于這4個細胞如何共同協作促成人類大腦導航活動的機理還不夠明確，相關的研究及仿真相對較少，致使其在應用過程中不具備良好的可解釋性。其他的研究亦然，目前的研究都是對于大腦局部功能的研究，如何對目前的研究進行從局部到整體的整合是未來的研究主題之一。我們一直希望了解的大腦的學習、推理和記憶等功能是在多區域共同協調控制下才出現的，腦中組織的功能具有相當大的復雜性，常常出現多對一以及一對多的情況，也就是多個組織區域共同實現同一功能或一個組織區域具有不止一種功能，這都為腦功能的整合帶來困難，這種功能上的耦合性也是我們理解大腦認知功能本質的關鍵。