摘 要:為了對(duì)IF神經(jīng)網(wǎng)絡(luò)模型向?qū)嶋H運(yùn)用轉(zhuǎn)化,具體對(duì)IF模型進(jìn)行電路模擬,并從電路特性來(lái)解釋生物神經(jīng)元的主要特征,該模型滿足一般的生物神經(jīng)元的特性,如:具備非線性空間特性、時(shí)間特性(絕對(duì)不應(yīng)期)、EPSP(Excitatory PostsynapitcPotentials)、IPSP(Inhibitory Postsynapitc Potentials),及胞體在閾值下活動(dòng)期間能夠完成EPSP和IPSP之間的非線性相互作用。從而使模型向具體電路轉(zhuǎn)化接近,為人工模擬的理想模型向?qū)嶋H運(yùn)用提供了方法。
關(guān)鍵詞:IF模型;神經(jīng)網(wǎng)絡(luò);興奮性突觸;抑制性突觸
中圖分類號(hào):TP302 文獻(xiàn)標(biāo)識(shí)碼:B
文章編號(hào):1004-373X(2008)08-012-03
IntegrateandFire Neural Network Circuit Model and Analysis
YIN Fei,ZHAO Bo,F(xiàn)ENG Dazheng
(National Key Lab of Radar Signal Processing,Xidian University,Xi′an,710071,China)
Abstract:In order to convert IF neural network from ideal model to practical circuit,simulating IntegrateandFire(IF) neural network circuit model and analyzing the many performances,and it meets general biology neural property,(for example,timespace summation,excitatory postsynapitc potentials,inhibitory postsynapitc potentials,nonlinear of excitatory postsynapitc potentials and inhibitory postsynapitc potentials reciprocity unthreshold of soma and so on.Thus,the model will be approached to practical circuit and provide mothod of actuality operation.
Keywords:IF model;neural network;excitatory synaptic;inhibitory synapitc
IntegrateandFire (IF)模型最早是由Lapicque 在1907年提出的[1],最近他又引起了研究人員極大的關(guān)注[24 ],盡管有人認(rèn)為相對(duì)于真正的生物神經(jīng)元他過(guò)于簡(jiǎn)化,但不可否認(rèn)他已經(jīng)具有了真正生物神經(jīng)元的一些特性。在近幾十年中,有許多研究人員對(duì)IF 模型進(jìn)行了大量的性能分析和仿真試驗(yàn)[24],試圖駕馭并訓(xùn)練此模型,使其在實(shí)際應(yīng)用中發(fā)揮巨大潛力。IF模型是對(duì)生物神經(jīng)元的一種形式化描述,他對(duì)生物神經(jīng)元的信息處理過(guò)程進(jìn)行抽象,并用數(shù)學(xué)語(yǔ)言予以描述,對(duì)生物神經(jīng)元的結(jié)構(gòu)和功能進(jìn)行模擬,并用模型如圖1所示。目前人們提出了很多種神經(jīng)元模型,本文從滿足其生物神經(jīng)元特性來(lái)建立電路模型。
1 電路及其數(shù)學(xué)描述
IF模型的電路圖如圖2所示。其中電容C兩端電壓為活動(dòng)電壓uc(t),xj(t)表示第j(j=1,2,…,n)個(gè)人工神經(jīng)元(圖2中的GNa和Gd)的輸出脈沖;x(t)表示人工神經(jīng)元的輸出脈沖序列(EPSP,IPSP);E為平衡電勢(shì);ENa代表鈉離子平衡電勢(shì);Ed為鉀離子和其他離子綜合平衡電勢(shì);EK為鉀離子平衡電勢(shì);G(i)e和G(j)d分別表示第i個(gè)興奮性和第j個(gè)抑制性化學(xué)門(mén)控通道的電導(dǎo);GNa和GK分別代表可興奮性膜的再生性鈉鉀電導(dǎo),這兩個(gè)電導(dǎo)較之其他電導(dǎo)大得多,從而保證電路的活動(dòng)、動(dòng)作和恢復(fù)得以正常進(jìn)行;Vth表示控制GNa的門(mén)控電壓;G為膜漏電導(dǎo);C為膜電容。由比較器完成脈沖觸發(fā)作用,ICM7555電路完成脈沖定時(shí)作用。其中右邊ICM7555電路輸出脈沖作鉀電導(dǎo)GNa的控制信號(hào), 另外左邊ICM7555輸出脈沖作鉀電導(dǎo)GK的控制信號(hào)。由于控制信號(hào)要求較小,經(jīng)各自分壓后控制GNa和GK,G(i)Na和G(i)d隨輸入xi的變化規(guī)律簡(jiǎn)單的表示為:
G(i)Na=Gwe(i)xi(t-late(i))[JY](1)
G(i)d=Gwd(i)xi(t-latd(i))[JY](2)
其中we(i)和wd(i)分別為興奮性突觸聯(lián)接強(qiáng)度和抑制性突觸聯(lián)接強(qiáng)度;late(i)和latd(i)分別為興奮性突觸聯(lián)接延時(shí)和抑制性突觸聯(lián)接延時(shí)。
由電路特性可知輸出至X和X′的信號(hào)如圖3所示,且t1=1.1R1×C1,t2=1.1R2×C2。根據(jù)t1,t2要求可以調(diào)整R1,C1,R2,C2獲得所需要的時(shí)間參數(shù),幅度由R5與R6,R7與R8的分壓(分V+=2 V)控制。即由X和X′來(lái)抑制GNa和GK的作用時(shí)間。
依據(jù)克?;舴蚨ɡ?,由圖2得到方程:
(1) 當(dāng)未動(dòng)作,即沒(méi)有突觸活動(dòng)時(shí),由活動(dòng)電壓uc(t)的一階微分方程表示:
ducdt=-1τ{uc+E+[∑mi=1We(i)xi(t-late(i))]#8226;
(uc-ENa)+[∑mi=1Wd(i)xi(t-latd(i))]#8226;
(uc+EK)}+IC[JY](3)
其中τ=C/G為靜電平衡的時(shí)間常數(shù);I為外部注入電流(本文不予考慮);按生理學(xué)常識(shí)可取取τ=4.7 ms,E=70 mV,ENa=60 mV,EK=90 mV,VCC=-2 V,R3=52 Ω,R4=1 948 Ω,則AD96685的Vth=-52 mV,該方程即為活動(dòng)方程,可取G=1 s/cm,C=4.7×10-3 F,這時(shí)uc(t)稱為活動(dòng)電壓,即對(duì)應(yīng)于神經(jīng)元胞體的閾下活動(dòng)電壓。
圖2 IF模擬電路圖
[XC<56t1.tif>]
圖1 IF簡(jiǎn)化模型圖
圖3 信號(hào)波形圖
(2) 當(dāng)某一時(shí)刻(如t=τ),活動(dòng)電壓達(dá)到閾值時(shí),電路開(kāi)始動(dòng)作。這時(shí)起主要作用的是電導(dǎo)GNa和GK的2個(gè)支路,支配uc(t)動(dòng)作的方程如下:
ducdt=-1τ{uc+E+GNaG(uc-ENa)+GKG(uc+EK)}[JY](4)
其中uc(t0)=Vth,電導(dǎo)GNa和GK的變化規(guī)律為:
GNa=K1G0.5τ′(t-t0)[JY](5)
GK=K2G1.5τ′(t-t0-0.5τ′)[JY](6)
這里K1,K2為常數(shù),可分別取39 G和17 G。這時(shí)的輸出方程為:
x(t)=Gτ′(t-t0)[JY](7)
其中,Gτ′表示寬度為τ′的門(mén)函數(shù)。方程(4)可稱為動(dòng)作方程,與支配神經(jīng)元膜動(dòng)作的方程相對(duì)應(yīng)。
(3) 當(dāng)電路動(dòng)作過(guò)后,且無(wú)新的信號(hào)輸入時(shí),uc(t)從正后峰電壓被動(dòng)衰減到平衡電位,他的電壓方程為:
ducdt[WB]=-1τ(uc+E)ducdt
[DW]=-1τ(uc+E)[JY](8)
從上述方程中可以看出該電路的規(guī)律:活動(dòng)(閾值以下)→動(dòng)作(突觸觸發(fā))→恢復(fù)(有時(shí)有,有時(shí)沒(méi)有)→活動(dòng)(閾值以下),這是一個(gè)反復(fù)的過(guò)程,與神經(jīng)元活動(dòng)規(guī)律相似[57]。
2 電路模型分析
2.1 活動(dòng)電壓達(dá)到閾值水平時(shí)的電路
當(dāng)活動(dòng)電壓達(dá)到閾值水平,電路開(kāi)始動(dòng)作。在t0 t>t0+2τ′ uc(t)= [HT5”][JB({][HL(2]{56.67-108.67e-8 723(t-t0) []t0 -88.89+124.89e-3829(t-t0-0.5τ′)[]t0+0.5τ′ 由此可得uc(t)的正峰電壓為36 mV,正后電壓為-74.63 mV。 當(dāng)無(wú)新的輸入時(shí),電壓uc(t)按照被動(dòng)衰減規(guī)律恢復(fù)到平衡水平,這時(shí)uc(t)由恢復(fù)方程(8)解得: uc(t)=-70-4.63e-213(t-t0-2τ′) t>t0+2τ′[JY](10) 由方程(9),(10)可以給出uc(t)的曲線圖如圖4所示。 圖4 IF動(dòng)作電位波形圖 2.2 有突觸耦合時(shí)的電路分析 當(dāng)有突觸耦合時(shí),為計(jì)算和討論的方便,令t=2τ,We=∑mi=1We(i)Wd=∑mi=1Wd(i),且所有的都有脈沖同步到達(dá)突觸前。分以下幾種情況討論: (1) 只有興奮型突觸作用、且無(wú)延時(shí),即Wd(i)=0,late(i)=0,latd(i)=0,從式(3)可以得到活動(dòng)電壓uc(t)的解為: uc(t)=We×ENa-E1+We+uc(0)-We×ENa-E1+We× e-0.21(1+We)×t0 uc (t) = -E +[uc (τ) + E]×e-0.21(t-τ) t>τ[JY](12) 上式表示一種EPSP的波形。這種波形以較快的速度上升到EPSP的峰值,然后被動(dòng)衰減到平衡水平。當(dāng)uc(t)鉗制再不同的初始水平時(shí),式(12)變成: uc (t) = uc (0) +[uc (τ)-uc (0)]e-0.21(t-τ) t>τ[JY](13) 此時(shí),EPSP隨初始值的變化由式(11)和式(13)決定,其變化情況如圖5所示,其中We=1。可見(jiàn),隨初始值的上升,EPSP的幅度不斷下降,直到初始值等于-5 mV時(shí),EPSP完全消失,若進(jìn)一步增加初值將產(chǎn)生極性相反的EPSP。這種變化規(guī)律與神經(jīng)生理學(xué)的結(jié)果一致。 [JP3](2) 只有抑制型突觸作用、且無(wú)延時(shí),即We(i)=0,late(i)=0,latd(i)=0,從式(3)可得活動(dòng)電壓uc(t)的解為: [WB]uc(t)=[WB]-Wd×Ed+E1+Wd+uc(0)+Wd×Ed+E1+Wd× [DW2]e-0.21(1+Wd)×t[JY](14) [DW]uc (t) = -E + [uc (τ) + E]×e-0.21(t-τ),t>τ[JY](15) 上式表示一種IPSP的波形。這種波形的變化類似EPSP,除了極性相反和幅度較小外。當(dāng)uc(t)鉗制再不同的初始水平時(shí),式(15)同樣的變成: uc (t) = uc (0) + uc (τ)-uc (0)e-0.21(t-τ),t>τ[JY](16) 此時(shí),IPSP隨初始值的變化由式(14)和式(15)決定,其變化情況如圖6所示,其中Wd=1。可見(jiàn),隨初始值的上升,EPSP的幅度不斷增加,直到初始值等于-80 mV時(shí),IPSP完全消失,若初值進(jìn)一步下降將產(chǎn)生極性相反的IPSP。這種變化規(guī)律與神經(jīng)生理學(xué)的結(jié)果一致。 (3) 興奮和抑制都產(chǎn)生作用,只是時(shí)間有先后: ① 先興奮后抑制,即late(i)=0,latd(i)=0.4 ms,取We=1,Wd=3uc(0)=-70 mV,從式(3)可得: uc(t)=[JB({][HL(2]-5+[uc(0)+5]e-426t,[]0 -77.5 + [uc (τ) + 77.5]e-862(t-τ),[]τ -70 + [uc (2τ) + 70]e-213(t-2τ),[]t>2τ[HL)][JB)][JY](17) 所以有uc(τ)=-59.82 mV,相對(duì)于初始值上升10.18 mV,uc(2τ)=-64.92 mV,相對(duì)于初值上升5.08 mV,相對(duì)于uc(τ)下降5.10 mV。 ② 先抑制后興奮,即late(i)=0.4 ms,latd(i)=0,取We=1,Wd=3,uc(0)=-70 mV,從式(3)可得: uc(t)=[JB({][HL(2]-77.5 + [uc (τ) + 77.5]e-862(t-τ)[]0 -5+[uc(0)+5]e-426t[]τ -70 + [uc (2τ) + 70]e-213(t-2τ)[]t>2τ[HL)][JB)][JY](18) 所以有uc(τ)=-72.17 mV,相對(duì)于初始值下降2.17 mV,uc(2τ)=-61.64 mV,相對(duì)于初值上升8.36 mV,相對(duì)于uc(τ)上升了10.53 mV。 當(dāng)t=2τ時(shí),uc(τ)在2種情況下的差值為3.28 mV。在IPSP作用期間,情況①引起uc(t)的下降幅度為5.10 mV,情況②引起uc(t)的下降幅度為2.17 mV。所以說(shuō)在情況①中,抑制作用強(qiáng)于情況②中的抑制作用。情況①中的uc(t)的最大峰值比情況②中的最大峰值要高,所以在情況①中最有可能發(fā)生奮。 ③ 興奮與抑制同時(shí),即late(i)=0,latd(i)=0,取We=1,Wd=3,uc(0)=-70 mV,從(3)可得: uc(t)=[JB({][HL(2]-50 + [uc (0) + 50]e-1 064(t-τ)[]0 -70+[uc(0)+70]e-213(t-τ)[]τ 在這種情況下最大峰值電位為-63.07 mV,較初值上升6.93 mV,是以上3種情況uc(t)峰值最小的一種情況。這種情況也很好的符合EPSP和IPSP相互作用的神經(jīng)生理學(xué)的結(jié)果。 [XC<56t5.tif>;%95%95] 圖5 在不同uc(0)的EPSP波形圖 [XC<56t6.tif>;%95%95] 圖6 在不同電壓uc(0)的IPSP波形圖 3 結(jié) 語(yǔ) 從以上的分析結(jié)果可以看到該電路模型能夠很好地反映生物神經(jīng)元的特性,電路模型規(guī)律:活動(dòng)(閾值以下)→動(dòng)作(突觸觸發(fā))→恢復(fù)(有時(shí)有,有時(shí)沒(méi)有)→活動(dòng)(閾值以下),這是一個(gè)反復(fù)的過(guò)程,與神經(jīng)元活動(dòng)規(guī)律相似[57]。從EPSP與IPSP的波形圖可以看出他們對(duì)活動(dòng)電壓起著支配作用。從而可以由模擬向現(xiàn)實(shí)轉(zhuǎn)化,使研究可以進(jìn)一步深入,為人工智能提供一定的方法。 參 考 文 獻(xiàn) [1]Jeng Jiwfeng.Behavious of Spilce Outpwt jitter in the IntergrateandFire Model[J].Physical Review Letter,1997,79:4 505 4 508. [2]David Golomb G,Bard Ermentrout.Bistability in Pulse Propagation in Networks ofExcitatory and Inhabittory Populations[J].Physical Review Letter,2001(86):4 1794 182. [3]馮大政.一種人工神經(jīng)元:模型及分析[J].通信學(xué)報(bào),1992(5):4552. [4]Blaise Ag[AKu¨]era y Arcas,Adrienne L Fairhall.What Causes a Neuron to Spike[J].Neural Computation,2003(15):1 7891 807. [5]\\[英\\]D J Aidley.可興奮細(xì)胞的生理學(xué)\\[M\\].周培愛(ài),譯.北京:北京大學(xué)出版社,1983. [6]王伯揚(yáng).神電生理學(xué)\\[M\\].北京:高等教育出版社,1983. [7]韓濟(jì)生.神經(jīng)科學(xué)綱要\\[M\\].北京:北京醫(yī)科大學(xué)中國(guó)協(xié)和醫(yī)科大學(xué)聯(lián)合出版社,1992. 作者簡(jiǎn)介 尹 飛 男,1978年出生,碩士研究生。主要研究方向?yàn)樯窠?jīng)網(wǎng)絡(luò)信號(hào)處理。 馮大政 男,1959年出生,教授,博士生導(dǎo)師。主要研究方向?yàn)槔走_(dá)信號(hào)處理、神經(jīng)網(wǎng)絡(luò)信號(hào)處理、盲信號(hào)處理。 注:本文中所涉及到的圖表、注解、公式等內(nèi)容請(qǐng)以PDF格式閱讀原文