摘 要:為了對IF神經(jīng)網(wǎng)絡(luò)模型向?qū)嶋H運用轉(zhuǎn)化,具體對IF模型進行電路模擬,并從電路特性來解釋生物神經(jīng)元的主要特征,該模型滿足一般的生物神經(jīng)元的特性,如:具備非線性空間特性、時間特性(絕對不應(yīng)期)、EPSP(Excitatory PostsynapitcPotentials)、IPSP(Inhibitory Postsynapitc Potentials),及胞體在閾值下活動期間能夠完成EPSP和IPSP之間的非線性相互作用。從而使模型向具體電路轉(zhuǎn)化接近,為人工模擬的理想模型向?qū)嶋H運用提供了方法。
關(guān)鍵詞:IF模型;神經(jīng)網(wǎng)絡(luò);興奮性突觸;抑制性突觸
中圖分類號:TP302 文獻標識碼:B
文章編號:1004-373X(2008)08-012-03
IntegrateandFire Neural Network Circuit Model and Analysis
YIN Fei,ZHAO Bo,F(xiàn)ENG Dazheng
(National Key Lab of Radar Signal Processing,Xidian University,Xi′an,710071,China)
Abstract:In order to convert IF neural network from ideal model to practical circuit,simulating IntegrateandFire(IF) neural network circuit model and analyzing the many performances,and it meets general biology neural property,(for example,timespace summation,excitatory postsynapitc potentials,inhibitory postsynapitc potentials,nonlinear of excitatory postsynapitc potentials and inhibitory postsynapitc potentials reciprocity unthreshold of soma and so on.Thus,the model will be approached to practical circuit and provide mothod of actuality operation.
Keywords:IF model;neural network;excitatory synaptic;inhibitory synapitc
IntegrateandFire (IF)模型最早是由Lapicque 在1907年提出的[1],最近他又引起了研究人員極大的關(guān)注[24 ],盡管有人認為相對于真正的生物神經(jīng)元他過于簡化,但不可否認他已經(jīng)具有了真正生物神經(jīng)元的一些特性。在近幾十年中,有許多研究人員對IF 模型進行了大量的性能分析和仿真試驗[24],試圖駕馭并訓練此模型,使其在實際應(yīng)用中發(fā)揮巨大潛力。IF模型是對生物神經(jīng)元的一種形式化描述,他對生物神經(jīng)元的信息處理過程進行抽象,并用數(shù)學語言予以描述,對生物神經(jīng)元的結(jié)構(gòu)和功能進行模擬,并用模型如圖1所示。目前人們提出了很多種神經(jīng)元模型,本文從滿足其生物神經(jīng)元特性來建立電路模型。
1 電路及其數(shù)學描述
IF模型的電路圖如圖2所示。其中電容C兩端電壓為活動電壓uc(t),xj(t)表示第j(j=1,2,…,n)個人工神經(jīng)元(圖2中的GNa和Gd)的輸出脈沖;x(t)表示人工神經(jīng)元的輸出脈沖序列(EPSP,IPSP);E為平衡電勢;ENa代表鈉離子平衡電勢;Ed為鉀離子和其他離子綜合平衡電勢;EK為鉀離子平衡電勢;G(i)e和G(j)d分別表示第i個興奮性和第j個抑制性化學門控通道的電導;GNa和GK分別代表可興奮性膜的再生性鈉鉀電導,這兩個電導較之其他電導大得多,從而保證電路的活動、動作和恢復得以正常進行;Vth表示控制GNa的門控電壓;G為膜漏電導;C為膜電容。由比較器完成脈沖觸發(fā)作用,ICM7555電路完成脈沖定時作用。其中右邊ICM7555電路輸出脈沖作鉀電導GNa的控制信號, 另外左邊ICM7555輸出脈沖作鉀電導GK的控制信號。由于控制信號要求較小,經(jīng)各自分壓后控制GNa和GK,G(i)Na和G(i)d隨輸入xi的變化規(guī)律簡單的表示為:
G(i)Na=Gwe(i)xi(t-late(i))[JY](1)
G(i)d=Gwd(i)xi(t-latd(i))[JY](2)
其中we(i)和wd(i)分別為興奮性突觸聯(lián)接強度和抑制性突觸聯(lián)接強度;late(i)和latd(i)分別為興奮性突觸聯(lián)接延時和抑制性突觸聯(lián)接延時。
由電路特性可知輸出至X和X′的信號如圖3所示,且t1=1.1R1×C1,t2=1.1R2×C2。根據(jù)t1,t2要求可以調(diào)整R1,C1,R2,C2獲得所需要的時間參數(shù),幅度由R5與R6,R7與R8的分壓(分V+=2 V)控制。即由X和X′來抑制GNa和GK的作用時間。
依據(jù)克希霍夫定理,由圖2得到方程:
(1) 當未動作,即沒有突觸活動時,由活動電壓uc(t)的一階微分方程表示:
ducdt=-1τ{uc+E+[∑mi=1We(i)xi(t-late(i))]#8226;
(uc-ENa)+[∑mi=1Wd(i)xi(t-latd(i))]#8226;
(uc+EK)}+IC[JY](3)
其中τ=C/G為靜電平衡的時間常數(shù);I為外部注入電流(本文不予考慮);按生理學常識可取取τ=4.7 ms,E=70 mV,ENa=60 mV,EK=90 mV,VCC=-2 V,R3=52 Ω,R4=1 948 Ω,則AD96685的Vth=-52 mV,該方程即為活動方程,可取G=1 s/cm,C=4.7×10-3 F,這時uc(t)稱為活動電壓,即對應(yīng)于神經(jīng)元胞體的閾下活動電壓。
圖2 IF模擬電路圖
[XC<56t1.tif>]
圖1 IF簡化模型圖
圖3 信號波形圖
(2) 當某一時刻(如t=τ),活動電壓達到閾值時,電路開始動作。這時起主要作用的是電導GNa和GK的2個支路,支配uc(t)動作的方程如下:
ducdt=-1τ{uc+E+GNaG(uc-ENa)+GKG(uc+EK)}[JY](4)
其中uc(t0)=Vth,電導GNa和GK的變化規(guī)律為:
GNa=K1G0.5τ′(t-t0)[JY](5)
GK=K2G1.5τ′(t-t0-0.5τ′)[JY](6)
這里K1,K2為常數(shù),可分別取39 G和17 G。這時的輸出方程為:
x(t)=Gτ′(t-t0)[JY](7)
其中,Gτ′表示寬度為τ′的門函數(shù)。方程(4)可稱為動作方程,與支配神經(jīng)元膜動作的方程相對應(yīng)。
(3) 當電路動作過后,且無新的信號輸入時,uc(t)從正后峰電壓被動衰減到平衡電位,他的電壓方程為:
ducdt[WB]=-1τ(uc+E)ducdt
[DW]=-1τ(uc+E)[JY](8)
從上述方程中可以看出該電路的規(guī)律:活動(閾值以下)→動作(突觸觸發(fā))→恢復(有時有,有時沒有)→活動(閾值以下),這是一個反復的過程,與神經(jīng)元活動規(guī)律相似[57]。
2 電路模型分析
2.1 活動電壓達到閾值水平時的電路
當活動電壓達到閾值水平,電路開始動作。在t0 t>t0+2τ′ uc(t)= [HT5”][JB({][HL(2]{56.67-108.67e-8 723(t-t0) []t0 -88.89+124.89e-3829(t-t0-0.5τ′)[]t0+0.5τ′ 由此可得uc(t)的正峰電壓為36 mV,正后電壓為-74.63 mV。 當無新的輸入時,電壓uc(t)按照被動衰減規(guī)律恢復到平衡水平,這時uc(t)由恢復方程(8)解得: uc(t)=-70-4.63e-213(t-t0-2τ′) t>t0+2τ′[JY](10) 由方程(9),(10)可以給出uc(t)的曲線圖如圖4所示。 圖4 IF動作電位波形圖 2.2 有突觸耦合時的電路分析 當有突觸耦合時,為計算和討論的方便,令t=2τ,We=∑mi=1We(i)Wd=∑mi=1Wd(i),且所有的都有脈沖同步到達突觸前。分以下幾種情況討論: (1) 只有興奮型突觸作用、且無延時,即Wd(i)=0,late(i)=0,latd(i)=0,從式(3)可以得到活動電壓uc(t)的解為: uc(t)=We×ENa-E1+We+uc(0)-We×ENa-E1+We× e-0.21(1+We)×t0 uc (t) = -E +[uc (τ) + E]×e-0.21(t-τ) t>τ[JY](12) 上式表示一種EPSP的波形。這種波形以較快的速度上升到EPSP的峰值,然后被動衰減到平衡水平。當uc(t)鉗制再不同的初始水平時,式(12)變成: uc (t) = uc (0) +[uc (τ)-uc (0)]e-0.21(t-τ) t>τ[JY](13) 此時,EPSP隨初始值的變化由式(11)和式(13)決定,其變化情況如圖5所示,其中We=1。可見,隨初始值的上升,EPSP的幅度不斷下降,直到初始值等于-5 mV時,EPSP完全消失,若進一步增加初值將產(chǎn)生極性相反的EPSP。這種變化規(guī)律與神經(jīng)生理學的結(jié)果一致。 [JP3](2) 只有抑制型突觸作用、且無延時,即We(i)=0,late(i)=0,latd(i)=0,從式(3)可得活動電壓uc(t)的解為: [WB]uc(t)=[WB]-Wd×Ed+E1+Wd+uc(0)+Wd×Ed+E1+Wd× [DW2]e-0.21(1+Wd)×t[JY](14) [DW]uc (t) = -E + [uc (τ) + E]×e-0.21(t-τ),t>τ[JY](15) 上式表示一種IPSP的波形。這種波形的變化類似EPSP,除了極性相反和幅度較小外。當uc(t)鉗制再不同的初始水平時,式(15)同樣的變成: uc (t) = uc (0) + uc (τ)-uc (0)e-0.21(t-τ),t>τ[JY](16) 此時,IPSP隨初始值的變化由式(14)和式(15)決定,其變化情況如圖6所示,其中Wd=1。可見,隨初始值的上升,EPSP的幅度不斷增加,直到初始值等于-80 mV時,IPSP完全消失,若初值進一步下降將產(chǎn)生極性相反的IPSP。這種變化規(guī)律與神經(jīng)生理學的結(jié)果一致。 (3) 興奮和抑制都產(chǎn)生作用,只是時間有先后: ① 先興奮后抑制,即late(i)=0,latd(i)=0.4 ms,取We=1,Wd=3uc(0)=-70 mV,從式(3)可得: uc(t)=[JB({][HL(2]-5+[uc(0)+5]e-426t,[]0 -77.5 + [uc (τ) + 77.5]e-862(t-τ),[]τ -70 + [uc (2τ) + 70]e-213(t-2τ),[]t>2τ[HL)][JB)][JY](17) 所以有uc(τ)=-59.82 mV,相對于初始值上升10.18 mV,uc(2τ)=-64.92 mV,相對于初值上升5.08 mV,相對于uc(τ)下降5.10 mV。 ② 先抑制后興奮,即late(i)=0.4 ms,latd(i)=0,取We=1,Wd=3,uc(0)=-70 mV,從式(3)可得: uc(t)=[JB({][HL(2]-77.5 + [uc (τ) + 77.5]e-862(t-τ)[]0 -5+[uc(0)+5]e-426t[]τ -70 + [uc (2τ) + 70]e-213(t-2τ)[]t>2τ[HL)][JB)][JY](18) 所以有uc(τ)=-72.17 mV,相對于初始值下降2.17 mV,uc(2τ)=-61.64 mV,相對于初值上升8.36 mV,相對于uc(τ)上升了10.53 mV。 當t=2τ時,uc(τ)在2種情況下的差值為3.28 mV。在IPSP作用期間,情況①引起uc(t)的下降幅度為5.10 mV,情況②引起uc(t)的下降幅度為2.17 mV。所以說在情況①中,抑制作用強于情況②中的抑制作用。情況①中的uc(t)的最大峰值比情況②中的最大峰值要高,所以在情況①中最有可能發(fā)生奮。 ③ 興奮與抑制同時,即late(i)=0,latd(i)=0,取We=1,Wd=3,uc(0)=-70 mV,從(3)可得: uc(t)=[JB({][HL(2]-50 + [uc (0) + 50]e-1 064(t-τ)[]0 -70+[uc(0)+70]e-213(t-τ)[]τ 在這種情況下最大峰值電位為-63.07 mV,較初值上升6.93 mV,是以上3種情況uc(t)峰值最小的一種情況。這種情況也很好的符合EPSP和IPSP相互作用的神經(jīng)生理學的結(jié)果。 [XC<56t5.tif>;%95%95] 圖5 在不同uc(0)的EPSP波形圖 [XC<56t6.tif>;%95%95] 圖6 在不同電壓uc(0)的IPSP波形圖 3 結(jié) 語 從以上的分析結(jié)果可以看到該電路模型能夠很好地反映生物神經(jīng)元的特性,電路模型規(guī)律:活動(閾值以下)→動作(突觸觸發(fā))→恢復(有時有,有時沒有)→活動(閾值以下),這是一個反復的過程,與神經(jīng)元活動規(guī)律相似[57]。從EPSP與IPSP的波形圖可以看出他們對活動電壓起著支配作用。從而可以由模擬向現(xiàn)實轉(zhuǎn)化,使研究可以進一步深入,為人工智能提供一定的方法。 參 考 文 獻 [1]Jeng Jiwfeng.Behavious of Spilce Outpwt jitter in the IntergrateandFire Model[J].Physical Review Letter,1997,79:4 505 4 508. [2]David Golomb G,Bard Ermentrout.Bistability in Pulse Propagation in Networks ofExcitatory and Inhabittory Populations[J].Physical Review Letter,2001(86):4 1794 182. [3]馮大政.一種人工神經(jīng)元:模型及分析[J].通信學報,1992(5):4552. [4]Blaise Ag[AKu¨]era y Arcas,Adrienne L Fairhall.What Causes a Neuron to Spike[J].Neural Computation,2003(15):1 7891 807. [5]\\[英\\]D J Aidley.可興奮細胞的生理學\\[M\\].周培愛,譯.北京:北京大學出版社,1983. [6]王伯揚.神電生理學\\[M\\].北京:高等教育出版社,1983. [7]韓濟生.神經(jīng)科學綱要\\[M\\].北京:北京醫(yī)科大學中國協(xié)和醫(yī)科大學聯(lián)合出版社,1992. 作者簡介 尹 飛 男,1978年出生,碩士研究生。主要研究方向為神經(jīng)網(wǎng)絡(luò)信號處理。 馮大政 男,1959年出生,教授,博士生導師。主要研究方向為雷達信號處理、神經(jīng)網(wǎng)絡(luò)信號處理、盲信號處理。 注:本文中所涉及到的圖表、注解、公式等內(nèi)容請以PDF格式閱讀原文