朱佳雪 張續(xù)猛 王睿 劉琦?

1) (中國科學院微電子研究所,微電子器件與集成技術重點實驗室,北京 100029)

2) (復旦大學,復旦大學芯片與系統(tǒng)前沿技術研究院,上海 200433)

3) (中國科學院大學,北京 100049)

4) (上海期智研究院,上海 200232)

受人腦工作模式的啟發(fā),脈沖神經元作為人工感知系統(tǒng)和神經形態(tài)計算體系的基本計算單元發(fā)揮著重要作用.然而,基于傳統(tǒng)互補金屬氧化物半導體技術的神經元電路結構復雜,功耗高,且缺乏柔韌性,不利于大規(guī)模集成和與人體兼容的柔性感知系統(tǒng)的應用.本文制備的柔性憶阻器展示出了穩(wěn)定的閾值轉變特性和優(yōu)異的機械彎折特性,其彎折半徑可達1.5 mm,彎折次數(shù)可達104 次.基于此器件構建的神經元電路實現(xiàn)了神經元的關鍵積分放電特性,且其頻率-輸入電壓關系具有整流線性單元相似性,可實現(xiàn)基于轉換法的脈沖神經網(wǎng)絡中神經元的非線性處理功能.此外,基于電子傳輸機制和構建的核殼模型,對柔性憶阻器的工作機制進行分析,提出了電場和熱激發(fā)主導的閾值轉變機制;進一步對憶阻器和神經元的電學特性進行電路仿真模擬,驗證了柔性憶阻器和神經元電路工作機制的合理性.本文對柔性神經元的研究可為神經形態(tài)感知和計算系統(tǒng)的構建提供硬件基礎和理論指導.

1 引言

近年來,人工智能、物聯(lián)網(wǎng)、智能穿戴等領域的發(fā)展,對海量數(shù)據(jù)的快速高效處理提出了更高的要求.基于馮·諾依曼架構的傳統(tǒng)計算系統(tǒng),由于存儲器和處理器的物理分離導致了“存儲器”瓶頸[1],難以實現(xiàn)智能系統(tǒng)的高效數(shù)理處理.受人腦工作模式的啟發(fā),以脈沖神經元為計算單元的神經形態(tài)計算架構體系應運而生,它具有并行信息處理、低功耗、高容錯性等優(yōu)點[2],使其在處理高維和非結構化數(shù)據(jù)方面顯示出巨大優(yōu)勢,為智能系統(tǒng)的設計提供了備選方案.然而,當前神經形態(tài)芯片[3-7]所使用的神經元大多基于互補金屬氧化物半導體(complementary metal oxide semiconductor,CMOS)技術,由于晶體管缺乏內在動力學特性和生物單元相似性,其所構建的神經元電路不但結構復雜,集成度低,而且學習能力欠缺[8].因此,亟需尋找結構簡單、集成度高、內在動力學豐富的神經形態(tài)器件構建緊湊的神經元電路,從而實現(xiàn)更高效的神經形態(tài)系統(tǒng).

在眾多的神經形態(tài)器件(如阻變存儲器[9]、相變存儲器[10]、磁自旋存儲器[11]、鐵電存儲器[12]、突觸離子晶體管[13])中,阻變存儲器(后續(xù)稱為憶阻器)因其結構簡單,轉變速度快,功耗低,動力學特性豐富等優(yōu)點[9,14],在存內計算[15]、突觸功能模擬[16]和人工感知系統(tǒng)[8,17,18]等領域備受研究人員關注.此外,憶阻器所展現(xiàn)出的閾值轉變特性還被用于神經元電路的設計中,并在人工感知系統(tǒng)和神經形態(tài)計算等領域獲得應用[19-22].例如,Zhang 等[23]利用NbOx基憶阻器設計了漏電-積分-發(fā)射(leaky integrate-and-fire,LIF)神經元,并實現(xiàn)了人工傳入神經的模擬.Lashkare 等[24]基于PrMnO3憶阻器設計的神經元具備整流線性單元(rectified linear unit,ReLU)功能,可用于脈沖神經網(wǎng)絡的激活函數(shù)模擬.然而,目前基于憶阻器所設計的神經元均缺乏柔韌性,不利于智能皮膚、人工義肢、健康監(jiān)測等柔性感知方面的應用.此外,憶阻器基脈沖神經元在神經形態(tài)計算的非線性變換功能領域也有著重要應用[20,23-28].因此,設計和開發(fā)一種基于柔性憶阻器的脈沖神經元用于智能感知和計算系統(tǒng),對憶阻器基神經元的功能挖掘和應用推廣意義重大.

本研究組制備了一種柔性的閾值轉變型憶阻器,該器件表現(xiàn)出了優(yōu)異的機械彎折特性,其彎折半徑可達1.5 mm,彎折次數(shù)可達104次.基于此器件設計的柔性神經元電路具備閾值發(fā)放、“全”或“無”、不應期和輸入強度依賴的頻率調制特性,可將模擬的輸入信號轉換成脈沖頻率信號,用于人工感知系統(tǒng)的應用.此外,該神經元表現(xiàn)出的頻率-電壓強度關系具有ReLU 激活函數(shù)相似性,可用作神經形態(tài)計算的非線性變換單元.針對柔性神經元表現(xiàn)出的頻率和閾值電壓隨輸入信號強度的變化關系,對柔性憶阻器的電子傳輸機制和閾值轉變機制進行了分析,并通過電路仿真技術進行了驗證,得到了電場和焦耳熱主導的閾值轉變機制,揭示了柔性襯底的熱積累效應對器件閾值電壓和神經元放電頻率的影響.最后,基于構建的柔性神經元電路搭建了兩層神經網(wǎng)絡(784 × 100 × 10)系統(tǒng)來識別數(shù)字手寫體,得到了約95.6%準確率,與理想情況相當.本研究為柔性神經元的設計和工作機制分析提供了參考,闡述了其在柔性感知和神經形態(tài)計算中的應用潛力.

2 實 驗

柔性NbOx憶阻器的制備流程如圖1 所示.首先,通過旋涂法在清洗后的Si 片上涂布聚酰亞胺(polyimide,PI)溶膠,之后將樣品置于鼓風干燥箱中加熱干燥,直至形成表面光滑且厚度均一的PI 薄膜(厚度約為30 μm).為保證后續(xù)薄膜的沉積質量,在PI 薄膜表面上通過磁控濺射法生長100 nm 厚的SiO2薄膜來獲得更加光滑和致密的表面.隨后,利用紫外光刻技術和剝離法對后續(xù)薄膜進行圖案化,結合磁控濺射法和電子束蒸發(fā)法依次生長5/35 nm 的Ti/Pt 底電極、50 nm 的NbOx阻變層和5/35 nm 的Ti/Pt 頂電極.其中,器件的有效面積為5 μm×5 μm.最后將PI 薄膜從Si 襯底上剝離,于是,柔性PI/SiO2/Ti/Pt/NbOx/Ti/Pt結構的憶阻器制備完成.

圖1 柔性PI/SiO2/Ti/Pt/NbOx/Ti/Pt 結構憶阻器制備流程圖Fig.1.Flow chart of the flexible PI/SiO2/Ti/Pt/NbOx/Ti/Pt structured memristor device.

3 實驗結果與討論

3.1 柔性憶阻器基本電學特性

柔性憶阻器的結構如圖2(a)所示,其中PI 薄膜為柔性襯底,在所有的電學測試中底電極Pt 接地,而在頂電極Ti/Pt 上施加電壓.器件經電激活過程后呈現(xiàn)出如圖2(b)所示的閾值轉變行為,即在正向的掃描電壓下,流過器件的電流隨著電壓的增加而增大,直至電壓達到閾值電壓(the threshold voltage,VTH),電流突然增加至限制電流(compliance current,ICC) 500 μA,器件從高電阻狀態(tài)(the high resistance state,ROFF)轉變?yōu)榈碗娮锠顟B(tài)(the low resistance state,RON);隨著反向掃描電壓降低至保持電壓(the hold voltage,VH),電流突然降低,器件從低電阻狀態(tài)轉變?yōu)楦唠娮锠顟B(tài)轉變,完成器件的關閉.從圖2(b)中可以看出,在50 次電學操作下,器件的穩(wěn)定性良好,從中提取VTH和VH,二者的累積分布函數(shù)如圖2(c)所示,分布均一且離散性小,說明器件具有穩(wěn)定的閾值轉變行為.此外,對不同器件間VTH和VH的差異性進行了表征,如圖2(d)所示,在測試的10 個器件中,VTH和VH雖有一定的離散性,但二者的分布范圍無重疊,且器件的閾值轉變窗口(VTH—VH)均大于0.2 V,可防止電壓誤讀,具有較強的抗干擾能力,可用于后續(xù)神經元電路的構建.

圖2 柔性憶阻器基本電學特性 (a) 柔性PI/SiO2/Ti/Pt/NbOx/Ti/Pt 憶阻器結構示意圖;(b) 憶阻器基本I-V 曲線;(c) 50 次電學循環(huán)下閾值電壓和保持電壓的累積分布函數(shù);(d) 器件差異性表征Fig.2.Basic electrical characteristics of flexible memristor:(a) Structure diagram of PI/SiO2/Ti/Pt/ NbOx/Ti/Pt memristor device;(b) basic current-voltage (I-V ) curve of memristor;(c) cumulative distribution function of threshold voltage and hold voltage under 50 cycles;(d) variation of device to device.

3.2 柔性憶阻器彎折能力表征

為表征柔性憶阻器的機械彎折能力,在不同彎折半徑和彎折次數(shù)下對器件的性能進行了測試.如圖3(a)所示,將柔性憶阻器纏繞在不同半徑的玻璃棒表面,并將其固定在載玻片上進行電學測試,獲得了如圖3(b)所示的I-V曲線.從圖3(b)中可以看出,器件在不同彎折半徑(3.5—1.5 mm)下均表現(xiàn)出閾值轉變現(xiàn)象.在每個測試條件下,提取50 次電循環(huán)中的VTH和VH并作誤差統(tǒng)計分布,如圖3(c)所示.從圖中可以看出,VTH和VH在不同彎折半徑下的標準偏差(σ/μ)分別為2.3%和1.3%,雖有一定的波動性,但二者并未有重疊,說明器件在彎折條件下具有穩(wěn)定性,表明了器件具有良好的可彎折能力.

圖3 不同彎折半徑下器件的電學特性 (a) 不同彎折半徑的測試圖片;(b) 不同彎折半徑下的I-V 曲線;(c) 不同彎折半徑下50 次電學循環(huán)的閾值電壓和保持電壓統(tǒng)計Fig.3.Electrical characteristics of devices at different bending radii:(a) Test image of different bending radii;(b) I-V curves at different bending radii;(c) VTH and VH statistics for 50 cycles at different bending radii.

其次,對器件在彎折條件下的抗疲勞特性進行了表征.如圖4(a)所示,將柔性器件粘貼在絲桿滑臺組件的滑臺上,滑臺由步進電機帶動做往復運動,滑臺距離固定端的最大距離可使器件展平,而最小距離使得器件的彎折半徑為2.5 mm.基于此裝置,對不同彎折次數(shù)下的器件性能進行了測試,如圖4(b)所示,器件在不同彎折次數(shù) (1—104) 下均展現(xiàn)了穩(wěn)定的閾值轉變特性,且在往復彎折104次后,器件的VTH和VH基本保持不變(圖4(c)),表明制備的柔性憶阻器具有良好的彎折耐受性.

圖4 不同彎折次數(shù)下器件的電學特性 (a) 不同彎折次數(shù)的測試圖片;(b) 不同彎折次數(shù)下的I-V 曲線;(c) 不同彎折次數(shù)下50 次電學循環(huán)的閾值電壓和保持電壓統(tǒng)計Fig.4.Electrical characteristics of devices after different cycles of bending:(a) Test image of different cycles of bending;(b) I-V curves after different cycles of bending;(c) VTH and VH statistics of 50 cycles after different cycles of bending.

3.3 柔性憶阻器基脈沖神經元

基于柔性憶阻器及其閾值轉變特性,構建了如圖5(a)所示的憶阻器基脈沖神經元電路(memristive spiking neuron,MSN).該電路由一個負載電阻(the load resistance,RL),一個柔性憶阻器,一個串聯(lián)電阻(the series resistance,RS)和一個電容器(capacitor,C)組成.其中電容器可為憶阻器的內部電容、電路的寄生電容或外部接入的電容.值得注意的是,這里為了定量表示電容值,以便后續(xù)仿真,采用了外接的電容器,而在實際應用中,可根據(jù)具體的需求,去掉外接的電容器,利用憶阻器本身的寄生電容來維持神經元的工作,從而增加集成度.在本節(jié)測試中,RL,RS和C的值分別為30 kΩ,100 Ω 和1 nF,而憶阻器的ROFF和RON分別約為200 kΩ 和1 kΩ.當對電路進行供電時,由于憶阻器處于高阻態(tài),此時“1-2-4-1”環(huán)路的RC時間常數(shù)τ1=RL×C小于“2-3-4-2”環(huán)路的RC時間常數(shù)=(ROFF+RS)×C,所以先對電容器進行充電,直至節(jié)點“2”處的電壓,即電容電位達到憶阻器的閾值電壓,憶阻器由ROFF轉變?yōu)镽ON;此時環(huán)路“2-3-4-2”處的RC時間常數(shù)τ2=(RON+RS)×C小于τ1,電容器進行放電,直至節(jié)點“2”處的電壓達到憶阻器的保持電壓,憶阻器由RON轉變?yōu)镽OFF,電容器進行新一輪的充放電.如圖5(b)所示,當電路的輸入電壓(the input voltage,VIN)為4 V 的固定電壓時,穩(wěn)定工作狀態(tài)下節(jié)點“2”處的電位(記為神經元的輸出電壓)在VTH和VH之間進行振蕩,而從節(jié)點“3”處采集到的電流信號則為脈沖形式,為神經元的脈沖輸出.當輸入信號為圖5(c)所示幅值遞增的脈沖信號時,只有電容電位達到VTH(約2.0 V)時,才會有脈沖信號輸出,表現(xiàn)出閾值發(fā)放特性;而當電容電位低于VTH時,則無脈沖輸出,體現(xiàn)了神經元的“全”或“無”特性.此外,神經元在放電期間,表現(xiàn)出不應期特性,如圖5(d)所示,當神經元開始發(fā)放脈沖時,隨后施加在輸入端的脈沖并不能引起神經元的再次放電,直至神經元完成一次放電行為,此段時間間隔稱作不應期,與生物中的不應期概念相對應.這些結果表明本文所構建的柔性憶阻器基脈沖神經元電路具備了生物神經元的多種關鍵放電特征,能夠把輸入的模擬信號轉換為脈沖信號,可用作人工感知系統(tǒng)中的感覺神經元,而器件本身所具有的柔性使其特別適用于人工義肢、神經界面和類人機器人等柔性感知應用.

圖5 柔性憶阻器脈沖神經元的關鍵特征 (a) 基于柔性憶阻器的脈沖神經元電路原理圖;(b) 憶阻器脈沖神經元的振蕩特性和脈沖輸出特性;(c) 憶阻器脈沖神經元的全或無特性;(d) 憶阻器脈沖神經元的不應期特性Fig.5.Key features of flexible memristive spiking neuron:(a) Schematic diagram of spiking neuron circuit based on flexible memristor;(b) oscillation and output characteristics of memristive spiking neuron;(c) all or nothing characteristic of memristive spiking neuron;(d) refractory period characteristic of memristive spiking neuron.

另一方面,基于柔性憶阻器的神經元電路表現(xiàn)出線性的輸出頻率-輸入電壓依賴關系,使其可用于人工神經網(wǎng)絡中ReLU 激活函數(shù)的模擬.如圖6(a)所示,當神經元有正向輸入時,ReLU 神經元的輸出線性依賴于輸入(圖中斜線部分),而對于負向輸入,ReLU 神經元則無輸出,此特性可通過柔性憶阻器神經元進行模擬.圖6(b)展示了神經元電路在階梯型的脈沖電壓輸入下神經元的振蕩輸出結果.對輸入的電壓脈沖的頻率和幅值進行統(tǒng)計,結果見圖6(c),(d).從圖6(c)中可以看出,當輸入電壓大于等于4 V 時,神經元的輸出頻率隨著輸入電壓的增大而線性增加;而當輸入電壓小于4 V 時,神經元無脈沖輸出.根據(jù)獲得的實驗數(shù)據(jù)進行線性擬合,從圖中可以看出,擬合后的曲線與ReLU 神經元的輸出-輸入關系具有相似性,經過歸一化處理,本文神經元的輸出頻率(frequency,F)和VIN的關系可模擬ReLU 神經元,用于基于轉化法的脈沖神經網(wǎng)絡的推理過程.此外,從圖6(b)的振蕩電壓輸出曲線中可以獲得憶阻器的VTH和VH信息,即VTH對應于輸出曲線的波峰,而VH對應于輸出曲線的波谷,二者的統(tǒng)計結果如圖6(d)所示.可以看出,隨著VIN的增加,VTH有下降趨勢,而VH基本保持不變.但直流測試發(fā)現(xiàn),VTH和VH為憶阻器的內在特征,并不受掃描電壓的影響.針對柔性憶阻器神經元電路的F-VIN線性依賴關系和VTH在脈沖操作模式隨著VIN的增加而下降這一現(xiàn)象,本文從柔性憶阻器的工作機制入手做進一步地分析.

圖6 柔性憶阻器脈沖神經元在不同輸入電壓強度下的頻率調制特性 (a) 整流線性單元對應的神經元輸入輸出關系;(b) 柔性憶阻器脈沖神經元在不同輸入電壓下的脈沖輸出特性,內插圖為虛框內的脈沖輸出放大圖;(c) 不同輸入電壓下的輸出頻率統(tǒng)計及線性擬合;(d) VTH 和VH 在不同輸入電壓下的統(tǒng)計Fig.6.Frequency regulation characteristics of flexible spiking neuron under different input voltage intensities:(a) Input and output relationship of neuron corresponding to rectified linear unit;(b) output characteristics of the flexible memristive spiking neuron under different input voltages,and the inset is the zoom in details of the output curves in the dashed windows;(c) output frequency statistics and linear fitting under different input voltages;(d) VTH and VH statistics at different input voltages.

4 機制分析與模型建立

4.1 電子傳輸機制

為解釋柔性神經元的頻率F和器件VTH隨輸入VIN變化的關系,首先對柔性憶阻器的電子傳輸機制進行分析.如圖7(a)所示,將器件發(fā)生閾值轉變之前的I-V曲線在雙對數(shù)坐標下進行線性擬合可以發(fā)現(xiàn),當掃描電壓小于等于0.2 V 時,I-V曲線擬合的斜率約為1.05,說明在此段電壓范圍內,電子傳輸符合歐姆傳導機制[29].當電壓大于0.2 V,即對應的電場強度(electric field intensity,E)大于4 MV/m 時,如圖7(b)所示,ln(I/E)對E1/2具有線性依賴關系,表明在此電壓范圍內,電子傳輸由Poole-Frenkel(PF)傳導機制主導[30].基于以上分析,對兩種傳輸機制下的電子激活能進行了計算,分別如圖7(c),(d)所示.在變溫測試中,分別提取了0.1 V 和0.6 V 所對應的電流數(shù)據(jù),并根據(jù)Arrhenius 公式對ln(I)和1000/T的關系進行了線性擬合,從中得到歐姆傳輸機制和PF 傳輸機制下的電子激活能Eae和Ea分別為(0.2237±0.02)和(0.2251±0.05) eV,其中±0.02 和 ±0.05 eV 的誤差由器件的差異和讀取電壓選取的不同引起,可為后續(xù)仿真模型的建立提供參考.

圖7 柔性憶阻器的電子傳輸機制分析 (a) 閾值轉變前I-V 曲線在雙對數(shù)坐標下的線性擬合;(b) 閾值轉變前l(fā)n(I/E)和E1/2 的線性擬合;(c) 歐姆傳輸機制下ln(I)和1000/T 的線性擬合;(d) Poole-Frenkel 傳輸機制下ln(I)和1000/T 的線性擬合Fig.7.Analysis of electron transport mechanism of flexible memristor:(a) Linear fitting of I-V curve in logarithmic coordinates before threshold switching;(b) linear fitting of ln(I/E) and E1/2 in logarithmic coordinates before threshold switching;(c) linear fitting of ln(I) and 1000/T under ohmic conduction;(d) linear fitting of ln(I) and 1000/T under Poole-Frenkel transport mechanism.

4.2 核殼模型與閾值轉變機制

根據(jù)已有研究報道[31-33]可知,NbOx基憶阻器在電壓模式下進行電激活會形成細絲通道,隨后在此區(qū)域內完成閾值轉變過程.基于此,本文構建了如圖8 所示核殼模型并結合電子傳輸機制對器件的工作機制進行了分析.在該模型中,未經任何電學操作的NbOx薄膜內部電學性質均一,由Nb2O5—x構成,如圖8(a)所示;而經過電激活操作后NbOx薄膜由Nb2O5—x殼層區(qū)域和相對導電的NbO2細絲區(qū)域構成,如圖8(b)所示.根據(jù)電子傳輸機制分析,由電場和熱激發(fā)主導的PF 機制可在高電場和焦耳熱的輔助下產生電流突增,因此本研究組認為該機制主導了細絲區(qū)域的電子傳輸并結合牛頓冷卻定律[34]引起了器件的閾值轉變行為,這與以往的報道結果一致[30,35].其中,由PF 機制主導的細絲區(qū)域的電阻可簡記為RPF,其公式為

圖8 核殼模型 (a) 電激活操作前的器件結構示意圖;(b) 電激活操作后的器件結構示意圖,其中NbOx 介質層由NbO2 細絲區(qū)域和Nb2O5—x 殼層區(qū)域構成Fig.8.Core-Shell mode:(a) Schematic diagram of the memristor before electroforming;(b) schematic diagram of the memristor after electroforming,in which the NbOx dielectric layer consists of NbO2filamentary region and Nb2O5—x shell region.

其中,R0為前置因子,Ea為電子激活能,E為電場強度,T為溫度,kB為玻爾茲曼常數(shù),ε0和 εr分別為真空介電常數(shù)和相對介電常數(shù).由牛頓冷卻定律主導的熱傳導公式為

其中,iPF為流過細絲區(qū)域的電流;Гth為有效熱導率,其倒數(shù)為有效熱阻Rth;Cth為熱容;ΔT=T—Tamb,為細絲區(qū)域與環(huán)境溫度Tamb之間差值.另外,考慮到殼層區(qū)域面積相對較大,且在電場作用下也會產生漏電流,因此本研究組認為在低電場下的漏電流主要來自于殼層電阻的貢獻,并由歐姆機制主導:J～Eexp(—Eae/(kT)[36],其中J為殼層區(qū)域的電流密度,E為殼層區(qū)域電場,Eae為電子激活能,T為殼層區(qū)域溫度.該殼層區(qū)域的電阻可記作ROhm,其表達式為

其中,R1為前置因子,可由低電壓下器件的電阻-溫度曲線確定.

4.3 SPICE 電路仿真

為了驗證提出機制的合理性,基于以上分析進行了電路仿真(simulation program with integrated circuit emphasis,SPICE).仿真電路的組成如圖9所示,其中圖9(a)為細絲區(qū)域電阻(表示為Rpf)及其熱傳導的仿真原理圖[37],圖9(b)為憶阻器的工作原理圖,其中頂、底電極的電阻分別表示為Rte(～350 Ω)和Rbe(～350 Ω),殼層區(qū)域的電阻表示為Rohm,擬合參數(shù)見表1.柔性憶阻器在直流電壓掃描下的仿真結果如圖10(a)所示,從圖中可以看出,仿真曲線與實驗曲線具有良好的一致性,說明構建的SPICE 模型具有合理性.

圖9 基于NbOx 憶阻器的SPICE 仿真原理圖 (a)細絲區(qū)域的電阻和熱傳導仿真原理圖;(b) 憶阻器的SPICE 仿真模型Fig.9.Schematic diagram of SPICE simulation based on NbOx memristor:(a) Resistor and heat conduction simulation of filament region;(b) SPICE simulation model of memristor.

圖10 柔性憶阻器及神經元的仿真結果 (a)憶阻器在直流電壓掃描下的I-V;(b)憶阻器脈沖神經元在階梯電壓下的輸入輸出曲線;(c)神經元在不同輸入電壓下的輸出頻率統(tǒng)計;(d)神經元在不同輸入電壓下閾值電壓和保持電壓統(tǒng)計Fig.10.Simulation results of flexible memristor and neuron circuit:(a) I-V curve of memristor under DC voltage sweep;(b) input and output curve of memristive spiking neuron at stepped voltage pulses;(c) output frequency statistics of neuron under different input voltages;(d) threshold voltage and hold voltage statistics of neuron under different input voltages.

表1 用于SPICE 仿真的參數(shù)列表Table 1.Parameter list for SPICE simulation.

基于憶阻器的SPICE 模型和圖5(a)所示的神經元電路,對圖6 所示的神經元電路在不同輸入電壓(VIN)下的輸出特性進行了仿真.根據(jù)實驗結果(圖6(d))可知,VTH隨著VIN的增加有下降的趨勢,這一變化與以往報道中NbOx憶阻器VTH隨著溫度的變化關系類似[28].在本工作中,考慮到細絲區(qū)域工作過程中產生的焦耳熱對殼層的貢獻以及柔性襯底的散熱性能的影響,引入了溫度修正項:Tc=3.3×VIN—13.2 對殼層溫度進行了修正.修正公式由實驗結果擬合得出,修正后殼層的溫度為T+Tc.引入溫度修正項后對神經元的輸出特性進行仿真,得到了如圖10(b)所示的振蕩輸出曲線,其中RL和C的值分別為30 kΩ 和1.15 nF(考慮了實際電容值有測試偏差),該仿真結果與實驗具有高度的一致性,對其輸出頻率(F)、波峰(VTH)和波谷(VH)值進行統(tǒng)計,得到了如圖10(c),(d)所示的統(tǒng)計圖.從圖10(c)中可以看出,隨著VIN的升高,神經元的輸出頻率F線性增大,與實驗結果一致.此外,從圖10(d)中可以看出,VTH隨著溫度的升高逐漸下降,而VH基本不變,這一變化規(guī)律也與實驗數(shù)據(jù)匹配.由此說明,基于核殼模型、PF 傳導、歐姆傳導以及熱傳導公式建立的SPICE模型具有合理性,可對柔性憶阻器和基于此構建的神經元的電學行為進行解釋,為神經元的應用和硬件設計提供指導.

5 基于柔性神經元的脈沖神經網(wǎng)絡

與已報道的憶阻器脈沖神經元[24,26,28]相對比,本文工作中基于柔性憶阻器構建的神經元電路具有更好的F-VIN線性度,能夠更好地模擬神經網(wǎng)絡中的ReLU 函數(shù),以實現(xiàn)基于人工神經網(wǎng)絡(artificial neural network,ANN)轉換的SNN 系統(tǒng).為驗證其應用能力,構建了如圖11(a)所示的轉換脈沖神經網(wǎng)絡來執(zhí)行數(shù)字手寫體識別任務.該網(wǎng)絡共三層,分別為包含784 個神經元的輸入層、包含100個神經元的隱含層和包含10 個神經元的輸出層.訓練過程采用ANN 中的反向傳播算法(backpropagation,BP),隱含層和輸出層分別使用ReLU 和Sigmoid 激活函數(shù).在推理過程中則采用SNN 模式,輸入為脈沖頻率信號,所有激活函數(shù)用所構建的柔性憶阻器基脈沖神經元(flexible memristive spiking neuron,FMSN)實現(xiàn).在本工作中FMSN利用了電容器的充放電過程和憶阻器的閾值轉變特性來產生持續(xù)振蕩,如果輸入為脈沖形式,那么輸入頻率越大,充電過程越快,輸出頻率越高.類似地,對于固定的輸入頻率,脈沖幅值越大,輸出頻率越高.因此在SNN 中,不僅可以用脈沖脈率對輸入編碼,也可以通過單脈沖幅度或時間關系編碼,而基于頻率和幅度編碼的SNN 均可以利用本文的神經元來實現(xiàn).圖11(b)展示了最終的識別結果,利用FMSN 所構建的SNN 可以實現(xiàn)95.6%的識別率,與理想情況下的ANN 結果相當(96%),表明FMSN用于神經形態(tài)計算中線性整流單元的可行性,有利于實現(xiàn)高性能的轉換SNN 系統(tǒng).

6 結論

本文制備了一種NbOx基柔性憶阻器,該器件具備穩(wěn)定的閾值轉變特性和良好的彎折特性,其中最小的彎折半徑可達1.5 mm,彎折次數(shù)可達104次.基于柔性憶阻器,構建了脈沖神經元電路,該電路具備閾值發(fā)放、“全”或“無”和不應期等神經元放電特征,能夠將模擬的輸入信號轉化為脈沖輸出,并應用于人工感受系統(tǒng)的傳入神經元.為驗證該器件特性和電路行為的合理性,構建了由Poole-Frenkel傳輸機制和歐姆傳輸機制主導的核殼模型,用來解釋憶阻器的工作機制,并通過SPICE 電路仿真對器件機制和電路放電特性進行了驗證.此外,該神經元的頻率-電壓調制特性具有ReLU 函數(shù)相似性,可用來模擬神經形態(tài)系統(tǒng)中的ReLU 激活函數(shù),實現(xiàn)非線性轉換功能.最后,基于此神經元搭建了基于轉換法的SNN 網(wǎng)絡,在MNIST 手寫體數(shù)據(jù)集上實現(xiàn)了95.6%的識別率,與理想ANN識別率相當.本文為柔性脈沖神經元的設計提供了參考,為其在柔性智能感知系統(tǒng)及神經形態(tài)計算方面的應用奠定了基礎.