莫宏偉，叢 垚

(哈爾濱工程大學智能科學與工程學院，哈爾濱 150001)

0 引言

當前信息科技正在向智能化不斷邁進，這離不開人工智能、深度學習和云計算等技術(shù)的支持，同時在當前大數(shù)據(jù)背景下，對計算系統(tǒng)大規(guī)模信息處理能力提出了更大的挑戰(zhàn)。當前計算系統(tǒng)在信息處理方式上受限于傳統(tǒng)的馮·諾依曼結(jié)構(gòu)，由于摩爾定律存在物理極限，因此芯片設計不具備通用性，無法實現(xiàn)真正的智能，使得研究學者向類腦研究方向進行探索，企圖從人腦結(jié)構(gòu)及信息處理方式上得到啟發(fā)，創(chuàng)建不同于馮·諾依曼結(jié)構(gòu)的類腦計算機，使其在低能耗的條件下實現(xiàn)強大的信息處理能力，且具備通用性以及一定的認知能力。類腦計算通常是指從硬件結(jié)構(gòu)到模型算法，由大腦神經(jīng)系統(tǒng)結(jié)構(gòu)和信息處理機制所啟發(fā)的新型計算方法。我們的大腦的確具備一些當前計算機無法企及的優(yōu)點：我們的大腦中存在將近103億個神經(jīng)細胞和超過106億個神經(jīng)突觸，大腦的日常功耗大約10～25W，而普通計算機的功耗則是大腦的10～20倍，圖形處理器的功耗則是大腦的100倍以上，且大腦的生物神經(jīng)元同時具備運算和存儲能力。為此，類腦計算機可突破傳統(tǒng)馮·諾依曼結(jié)構(gòu)，提升信息處理效率。

特殊的大腦結(jié)構(gòu)及腦內(nèi)信息傳遞方式是大腦具備真正智能的關(guān)鍵，人類對于大腦結(jié)構(gòu)及功能的探索從未止步：研究表明，大腦中的組織多以分層級結(jié)構(gòu)存在，例如視覺皮層組織[1]，組織中存在著功能不對稱的正向和反向連接方式，正向連接(從低到高)有稀疏的軸突分叉，起源于大腦皮質(zhì)的上顆粒層，主要終止于第IV層；另一方面，反向連接顯示了豐富的軸突分叉，分布相較于正向連接更加分散，而且連接數(shù)量相當多[2]。反向連接與人工神經(jīng)網(wǎng)絡中的反饋相關(guān)，T. P. Lillicarp等[3]認為在腦中的反向連接引起的反饋可誘發(fā)神經(jīng)活動，其反饋差值可用于逼近神經(jīng)活動信號，從而驅(qū)動大腦深層網(wǎng)絡的有效學習。其他方面，T. Hainmueller等[4]的研究表明，齒狀回是海馬記憶形成的關(guān)鍵部分，其在不同的認知功能中具有重要作用，包括辨別相似語境、將物體或事件與地點相聯(lián)系以及整合記憶操作；K. A. Ferguson等[5]的研究表明，皮層的增益調(diào)節(jié)使神經(jīng)元對變化的輸入做出適應性反應，這種增益調(diào)節(jié)容易受到各種神經(jīng)活動影響，包括注意力、學習和運動等，并且Y-氨基丁酸能抑制在皮層的增益調(diào)節(jié)，從而起到關(guān)鍵而復雜的作用；A. Bicanski等[6]通過調(diào)查研究提出了具有矢量感受野的細胞功能分類，包括邊界矢量細胞、邊界細胞、目標矢量細胞、跟蹤矢量細胞和自我中心邊界細胞等，這些神經(jīng)元的響應為自底向上的環(huán)境布局表征和視覺空間意象生成以及導航規(guī)劃提供了基本神經(jīng)基礎；J. Mcfadgen等[7]的研究表明，包含感知處理初始回路的皮層下區(qū)域可以確保處理效率并保障重要生命功能，而皮層下區(qū)域與大腦皮層區(qū)域間的交互作用促成了非典型的感知和認知加工；L. R. Taxier等[8]在研究中總結(jié)了雌二醇的信號傳導機制及其在空間記憶、物體識別、社會記憶和恐懼記憶中的作用，越來越多的證據(jù)表明，雌二醇作為神經(jīng)調(diào)節(jié)劑在女性和男性的學習記憶方面都起著至關(guān)重要的作用；J. Duncan等[9]在研究中表明，任何一種有組織的認知都來自于廣泛分布的腦活動，流體智力與腦中的多需求(Multiple Demand，MD)系統(tǒng)相關(guān)，在皮層上可以看到9個MD活動斑塊區(qū)域，主要分布在外側(cè)額葉、背內(nèi)側(cè)額葉、外側(cè)和內(nèi)側(cè)頂葉，以及顳枕葉皮層，在MD區(qū)域中算數(shù)活動最強，關(guān)系推理活動最弱。這些有關(guān)大腦探索得到的客觀規(guī)律和機制，不僅作用于現(xiàn)代醫(yī)學和神經(jīng)科學領(lǐng)域，也可以作為類腦啟發(fā)式應用于工程領(lǐng)域，促進認知智能。

類腦計算技術(shù)的研究路線可分為兩大類：一種是自上而下，即先通過科學手段觀察大腦內(nèi)結(jié)構(gòu)和功能運行機制，然后根據(jù)觀察結(jié)果模仿大腦功能，例如歐盟的人類腦計劃和美國的腦科學計劃，以及目前各個國家都在推動的腦圖譜和腦網(wǎng)絡組圖譜研究。腦圖譜通過圖像處理的方式按照不同的功能結(jié)構(gòu)劃分腦區(qū)，腦網(wǎng)絡組圖譜則在腦圖譜的基礎上提供腦區(qū)與腦區(qū)之間、腦區(qū)與全腦之間的連接模式。通過腦網(wǎng)絡組圖譜可以進一步對大腦局部功能進行探索，2020年蔣田仔團隊利用腦網(wǎng)絡組圖譜發(fā)現(xiàn)了紋狀體環(huán)路功能異常是精神分裂癥精準診療的有效生物標志物[10]。另一種是自下而上的方法，即先構(gòu)造大腦功能結(jié)構(gòu)相關(guān)的假說和模型，然后驗證假說和模型是否與真實神經(jīng)結(jié)構(gòu)、動力學規(guī)律相符，例如Friston的預測編碼[11]和自由能假說[12]等。

總的來說，類腦計算技術(shù)首先借鑒大腦生理結(jié)構(gòu)及功能，建立類腦模型，然后在硬件上參照腦內(nèi)神經(jīng)元結(jié)構(gòu)創(chuàng)造實際的類腦元件，最終通過研究人腦學習、記憶和推理的運行機制，并應用于類腦模型中，使其具備人類智能甚至在某些層面上超越人類智能。

1 局部腦功能啟發(fā)模型

研究學者通過各種科學手段，如腦電圖(Electroencephalogram，EEG)[13]、功能性磁共振(functional Magnetic Resonance Imaging，fMRI)[14]和功能性近紅外光譜(functional Near-Infrared Spectroscopy，fNIRS)[15]等對大腦的局部構(gòu)造和功能進行探索，得到多種腦內(nèi)神經(jīng)元組織上和功能上的客觀規(guī)律，如視覺皮層中大量的分層組織結(jié)構(gòu)、大量的反饋調(diào)節(jié)機制以及具有特殊作用的腦內(nèi)神經(jīng)細胞等，并以此為靈感，融合進學科應用中。卷積神經(jīng)網(wǎng)絡(Convolutional Neural Networks，CNN)就是以人類視覺皮層的分層組織結(jié)構(gòu)為啟發(fā)的經(jīng)典案例[16]，分層級的組織結(jié)構(gòu)在多個單元層級上對任務進行分解，使復雜任務得以簡化，從而易于控制。反饋調(diào)節(jié)機制，如注意力機制等，則是腦內(nèi)重要的信息處理機制，其和正饋處理一起形成了包括視覺感知過程在內(nèi)的完整腦功能回路。大腦的神經(jīng)可塑性以及腦內(nèi)具有特殊功能的神經(jīng)元則賦予人類靈活的學習、記憶以及特殊的認知功能。目前學者們發(fā)現(xiàn)和利用腦局部組織或功能的熱點研究包括:注意力機制(Attention Mechanism)、基于空間導航細胞的類腦導航和長短期記憶網(wǎng)絡 (Long Short Term Memory,LSTM)等。

1.1 注意力機制

注意力機制是大腦中存在的一種反饋機制，是研究人員在對人類視覺系統(tǒng)的研究中發(fā)現(xiàn)的。注意力機制體現(xiàn)在人類視覺系統(tǒng)對信息的有選擇攝取。當將人眼接收的視覺信息傳入視覺系統(tǒng)時，視覺系統(tǒng)并非照單全收，而是有篩選地關(guān)注更有價值的信息，并抑制對無關(guān)信息的關(guān)注。可以看出，腦中的注意力具有指向性與集中性，指向性主要指大腦有選擇地關(guān)注感興趣的事物，而集中性則是指大腦在關(guān)注了感興趣的事物后抑制對其他無關(guān)信息的關(guān)注。注意力機制一直是心理學上的研究熱點，與人類的學習行為有極大的關(guān)聯(lián)，M. I. Ponser等[17-18]發(fā)展了注意力網(wǎng)絡理論，將注意力看作多網(wǎng)絡系統(tǒng)，包括警覺性網(wǎng)絡、導向性網(wǎng)絡和執(zhí)行功能網(wǎng)絡[19]。而且認知神經(jīng)科學學者們通過功能磁共振發(fā)現(xiàn)，這些網(wǎng)絡在大腦中具有相應的神經(jīng)功能區(qū)域[20]，警覺性網(wǎng)絡對應的區(qū)域主要在丘腦，大腦額葉和頂葉也有部分相應區(qū)域，主要負責使個體保持警覺以便做出相應響應[21]；導向性網(wǎng)絡對應區(qū)域較廣泛，包括頂葉上部、顳頂葉聯(lián)合區(qū)、上丘腦和額葉眼動區(qū)，主要負責刺激選擇，在給定所有刺激中選擇最相關(guān)的[22-23]；執(zhí)行功能網(wǎng)絡則主要對應于前扣帶回和外側(cè)前額葉等，主要負責監(jiān)控大腦信息處理活動[24-25]。

注意力機制模型最早于20世紀90年代提出并應用于計算機視覺領(lǐng)域，現(xiàn)如今已經(jīng)成為深度學習模型中應用最廣泛的組件之一，其作用主要是判斷輸入數(shù)據(jù)的貢獻，類似于傳統(tǒng)的特征工程，但不同于傳統(tǒng)特征工程的靜態(tài)性，注意力機制是動態(tài)性地計算數(shù)據(jù)貢獻。V. Mnih等[26]使用融合了注意力機制的循環(huán)神經(jīng)網(wǎng)絡(Recurrent Neural Networks，RNN)模型進行圖像分類，每次只對具有高注意力的像素部分進行處理，從而使復雜的圖像分類問題得以簡化。D. Bahdanau等[27]首次將注意力機制引入自然語言處理(Natural Language Processing，NLP)領(lǐng)域中，并在基于編碼-解碼模型的機器翻譯任務中取得了十分理想的翻譯效果。以編碼-解碼模型為例，普通的編碼-解碼模型對于所有輸入所分配的處理權(quán)重都是一樣的，也就是說注意力是平均分配的，在引入了注意力機制后，不同的編碼器輸出根據(jù)匹配程度計算得到不同的處理權(quán)值，即注意力得分，從而得到相關(guān)的注意力，如圖1所示。xi,i=1,2,3,4，為輸入向量序列；hi,i=1,2,3,4，為編碼器輸出序列；yi,i=1,2,3,4，為解碼器輸出序列。注意力得分按式(1)計算

ASi=Similarity(hi,kj)

(1)

其中，ASi為第i個編碼器輸出的注意力得分，通常需要對其進行歸一化

(2)

最后按照注意力得分對編碼器輸出進行加權(quán)求和

(3)

圖1 加入注意力機制的編碼-解碼模型Fig.1 Encoding-decoding model with attention mechanism

注意力機制按照其技術(shù)延伸機理的不同，除軟/硬注意力機制(Soft/Hard Attention)[28]、全局/局部注意力機制(Global/Local Attention)[29]和自注意力機制(Self Attention)[30]這些基本分類外，還有分層注意力機制(Hierarchical Attention)[31]和疊加式注意力機制(Attention Over Attention, AOA)[32]等組合式的延伸。A.Vaswani等[33]提出了多頭自注意力機制(Multi-headed Self-attention)，采用注意力機制代替?zhèn)鹘y(tǒng)的RNN構(gòu)建編碼-解碼框架，其在WMT2014語料中的英德和英法任務上獲得了令人滿意的實驗結(jié)果，并且訓練速度比主流模型更快。Z. Qin等[34]提出了多頻譜通道注意力機制(Multi-spectral Channel Attention)，在頻域上推廣了現(xiàn)有的通道注意力機制的預處理，簡單而有效地完成了圖像分類、檢測以及任務分割。

1.2 長短期記憶網(wǎng)絡

記憶是大腦的重要功能，是行動、學習與認知的前提。所謂記憶，是大腦對于所接收信息的存儲，腦內(nèi)信息的存儲。腦內(nèi)信息的存儲與神經(jīng)突觸的連接相關(guān)，這種突觸連接分布于腦內(nèi)的多個神經(jīng)組織區(qū)域，包括海馬體、杏仁核、前額葉以及小腦[35-39]等。按時間長短記憶可分為工作記憶、短時記憶以及長時記憶，也可按功能劃分為從低到高的六種層次類型：由紋狀體和小腦控制的程序性記憶；由大腦皮層控制的促發(fā)記憶；由海馬體和大腦顳葉控制的語義記憶及情景記憶；由大腦皮層控制的短期記憶；由杏仁核控制的情緒記憶。

記憶使人類可以利用之前接收的信息對當前接收的新信息加以理解和處理，即結(jié)合上下文加工新信息。而在深度學習模型中，傳統(tǒng)的神經(jīng)網(wǎng)絡并不具備記憶功能，無法結(jié)合早期信息處理新信息?？紤]到神經(jīng)網(wǎng)絡的這種設計缺陷，S. Hochreiter等[40]在1997年提出了LSTM模型，經(jīng)后來的學者改良，目前LSTM模型已經(jīng)成為廣泛應用于各種序列模型的基本框架。LSTM是一種特殊的RNN，通過門結(jié)構(gòu)解決RNN中存在的長期依賴問題。LSTM主要構(gòu)成包括細胞狀態(tài)、遺忘門、輸入門和輸出門，如圖2所示。xt為當前輸入；ht-1為上一時間步的輸出；ht為當前時間步的輸出；Ct-1為上一時間步的細胞狀態(tài)；Ct為當前時間步的細胞狀態(tài)。LSTM的主要流程包括遺忘信息、更新信息以及輸出信息。首先遺忘門決定哪些信息需要從Ct-1中剔除，根據(jù)ht-1和xt按式(4)計算

ft=σ(Wf·[ht-1,xt]+bf)

(4)

接下來確定新的信息，并更新細胞狀態(tài)

it=σ(Wi·[ht-1,xt]+bi)

(5)

(6)

(7)

最后，基于Ct決定網(wǎng)絡的輸出ht

ot=σ(Wo·[ht-1,xt]+bo)

(8)

ht=ot*tanh(Ct)

(9)

目前，LSTM通常與注意力機制結(jié)合用于NLP任務中的序列到序列模型，并在該任務中獲得出色的表現(xiàn)。然而需要注意的是，LSTM雖然借鑒了大腦記憶功能，但并不遵循實際大腦中的記憶實現(xiàn)機制，且目前LSTM模型的訓練復雜度較高。

圖2 LSTM網(wǎng)絡結(jié)構(gòu)Fig.2 LSTM network structure

1.3 基于導航功能細胞的類腦導航

人腦的海馬體是具有空間定位和情景記憶功能的特殊部位，從1971年O’Keefe在對海馬體的研究中發(fā)現(xiàn)了位置細胞后，奠定了海馬體在大腦認知地圖中的重要地位。此后，O’Keefe與其他學者相繼在海馬體及大腦其他部位發(fā)現(xiàn)了同樣在空間導航中具有重要作用的方向、邊界和網(wǎng)格細胞[41-43]。具體發(fā)現(xiàn)及應用的研究進展如表1所示。

表1 導航功能細胞研究進展

(1)類腦導航

研究人員從發(fā)現(xiàn)的這些具有導航功能的細胞上獲得啟發(fā)，結(jié)合認知地圖理念及相關(guān)人工智能算法，將其應用于智能體導航中，類腦導航的研究主要包括環(huán)境感知技術(shù)、空間認知技術(shù)、目標導航技術(shù)以及群體導航技術(shù)。基于類腦的導航系統(tǒng)比一般系統(tǒng)在路徑規(guī)劃和決策方面更具主動性和靈活性。F. Yu等[54]將導航功能細胞的啟發(fā)應用于SLAM系統(tǒng)中，使其能夠在大型三維環(huán)境中進行導航，該NeuroSLAM系統(tǒng)結(jié)構(gòu)如圖3所示。整個系統(tǒng)包括連接位姿細胞、多層經(jīng)驗地圖以及視覺模塊3個主要部分。視覺模塊提供局部視覺和自運動線索；連接位姿細胞模型的創(chuàng)建則基于三維網(wǎng)格細胞和多層頭向細胞，其根據(jù)局部視覺和自運動線索整合路徑；由局部視圖細胞、三維網(wǎng)格細胞、多層頭向細胞和三維視覺里程計的輸出驅(qū)動多層經(jīng)驗地圖的創(chuàng)建。

圖3 NeuroSLAM系統(tǒng)結(jié)構(gòu)示意圖[54]Fig.3 NeuroSLAM system architecture schematic diagram

(2)認知功能拓展

海馬體的功能對研究者的啟發(fā)并不限于空間導航，T. E. Behrens等[55]認為海馬體導航功能的規(guī)劃可推廣至一般的抽象推理認知;J. C. Whittington[56]則將這種提取抽象結(jié)構(gòu)信息的規(guī)劃引入機器學習模型中，可以完成一定的推理任務。導航功能細胞的啟發(fā)同樣可用于視覺概念模型(Visual Concept Space Model，VCSM)的創(chuàng)建[57]。海馬內(nèi)嗅活動模式可以為生物相關(guān)的任意變量(如聲音、氣味和面孔)提供空間編碼機制。該理論認為，內(nèi)嗅網(wǎng)格系統(tǒng)為認知空間維度提供了坐標系統(tǒng)，位置細胞的活動可以代表認知空間中的特定位置。基于此，提出了視覺概念的空間表征，即為某一變量(如椅子和臉)構(gòu)建一個空間，稱為視覺概念空間。在概念空間中，視覺概念用概念細胞來表示。該VCSM的系統(tǒng)工作原理如圖4所示。整個模型基于編碼-解碼網(wǎng)絡，物體圖像被編碼為一系列屬性向量，并投影至概念空間中的一點，概念空間中不同的點代表不同的概念細胞，投影至概念空間中的點會激活與其最匹配的概念細胞，最后激活的概念細胞決定了物體的概念；反過來，已知物體概念同樣可以通過訓練學習將物體從該模型中解碼出來，即重構(gòu)圖像。

圖4 VCSM原理結(jié)構(gòu)示意圖Fig.4 VCSM structure schematic diagram

有關(guān)腦內(nèi)導航系統(tǒng)的研究仍在繼續(xù)，X. Long等[58]發(fā)現(xiàn)除了海馬-內(nèi)嗅系統(tǒng)之外，軀體感官皮層中還存在另一種大腦導航系統(tǒng)。未來會有更多的研究來明確地揭示大腦導航功能的實現(xiàn)機制，并對當前的類腦導航以及更寬泛的認知推理給予啟示。

2 神經(jīng)形態(tài)計算

類腦計算的主要目的是創(chuàng)建不受限于馮·諾依曼體系的計算系統(tǒng)，通過借鑒大腦的結(jié)構(gòu)和信息處理機制，實現(xiàn)低能耗、高效率的信息傳遞及處理，并支持具有大腦認知功能的神經(jīng)網(wǎng)絡模型運行[59]。神經(jīng)形態(tài)計算是類腦計算的主要方法之一，Carver Mead在20世紀80年代提出了神經(jīng)形態(tài)(Neuromorphic)一詞，即通過模仿生物神經(jīng)元特有結(jié)構(gòu)功能，在神經(jīng)網(wǎng)絡模型中實現(xiàn)和生物神經(jīng)元同等或相近的信息編碼方式[60]。神經(jīng)形態(tài)計算包括神經(jīng)形態(tài)模型和神經(jīng)形態(tài)芯片，所謂神經(jīng)形態(tài)模型，是在現(xiàn)有計算機硬件系統(tǒng)上實施對生物腦神經(jīng)網(wǎng)絡的模擬；而神經(jīng)形態(tài)芯片則是在硬件結(jié)構(gòu)上，從神經(jīng)元結(jié)構(gòu)、信息編碼方式到神經(jīng)元群體組織結(jié)構(gòu)、信息傳遞來逼近生物腦[61]。

2.1 神經(jīng)形態(tài)模型

2.1.1 神經(jīng)元模型

神經(jīng)形態(tài)模型的基本組成單元是神經(jīng)元模型，即模仿樹突、軸突和突觸結(jié)構(gòu)的模型。1952年，A. L. Hodgkin和A. F. Huxley在進行烏賊動作電位發(fā)生機制研究時，發(fā)現(xiàn)了烏賊神經(jīng)細胞在受到脈沖電流刺激后細胞膜上的電位變化規(guī)律[62]。大腦神經(jīng)元之間的通信并非是數(shù)值形式的，而是依靠神經(jīng)細胞膜電位的升降的脈沖，因此借鑒大腦神經(jīng)元膜電位升降原理建立了人工神經(jīng)元模型，使得其所組成的神經(jīng)網(wǎng)絡在響應速度和功耗上比一般的神經(jīng)網(wǎng)絡更具優(yōu)勢。研究學者提出了多種神經(jīng)元模型，常見的神經(jīng)元模型包括：

(1)Integrate-and-Fire(I&F)模型

I&F模型當屬最典型的神經(jīng)元模型之一，神經(jīng)元膜電位Vm隨著時間動態(tài)變化

(10)

其中，τm為電位下降的膜時間常數(shù)；I(t)為輸入電流。

圖5所示為I&F模型上電壓變化過程，可以看出，當膜電位超過一定閾值時，神經(jīng)元開始釋放脈沖；然后膜電位則下降，當下降到一定值后會保持一段時期，在該時期內(nèi)不再觸發(fā)神經(jīng)元。

圖5 L&F模型電壓變化過程示意圖Fig.5 The scheme of voltage change process of L&F model

(2) Leak Integrate-and-Fire(LIF)模型

LIF模型相當于電容與電源及一個可變電阻并聯(lián)，只考慮膜電位的被動特性以及動作電位的觸發(fā)，其數(shù)學表達式如下

(11)

其中，Cm代表細胞膜表面電容；GL代表導納；EL代表被動平衡電壓；Iapp代表外界輸入電流。

(3)Spike Response Model(SRM)模型

SRM是LIF模型的推廣，將LIF模型轉(zhuǎn)化為輸入和輸出脈沖的函數(shù)，其一般形式可寫作

(12)

除此之外，還有更加復雜的Hodgkin-Huxley模型、Morris-Lecar模型、FitzHugh-Nagumo模型和Hindmarsh-Rose模型等，神經(jīng)元模型越接近真實神經(jīng)元結(jié)構(gòu)特性，其模型就越復雜，模型應用效果也越好。傳統(tǒng)的人工神經(jīng)網(wǎng)絡中的神經(jīng)元就是極度簡化的大腦神經(jīng)元模型，同時考慮使用效果和結(jié)構(gòu)復雜性，LIF模型是神經(jīng)形態(tài)網(wǎng)絡中最常用的神經(jīng)元模型。

2.1.2 脈沖神經(jīng)網(wǎng)絡

脈沖神經(jīng)網(wǎng)絡(Spiking Neural Networks，SNN)作為第三代神經(jīng)網(wǎng)絡，相比于目前應用效果較好的CNN和RNN等第二代神經(jīng)網(wǎng)絡，更加貼近腦中神經(jīng)元信息傳遞方式。1997年，W. Maass[63]提出了SNN，整個模型由脈沖神經(jīng)元構(gòu)成。與人工神經(jīng)網(wǎng)絡不同的是，SNN的輸入信號是脈沖序列，這與人腦中的信號形式一致[64-65]。如圖6所示，下游神經(jīng)元由上游神經(jīng)元驅(qū)動，且SNN神經(jīng)元只有當接收和發(fā)射脈沖信號時才會被激活，這使其具備節(jié)約能耗的優(yōu)勢，其0,1輸入形式也減少了點積和求和運算量[66]。

圖6 SNN計算模型[66]Fig.6 SNN computational models

2.1.3 CA3模型

除了SNN以外，其他的神經(jīng)形態(tài)模型也多以上述仿腦神經(jīng)元結(jié)構(gòu)的人工神經(jīng)元為基本單元。Jensen等[72]采用SRM神經(jīng)元模型創(chuàng)建CA3模型，海馬體的一個關(guān)鍵功能是儲存和回憶聯(lián)想記憶。自聯(lián)想是指從自身的一個部分或噪聲樣本中檢索記憶，而異性聯(lián)想指的是由另一個類別的線索而喚起的記憶。海馬CA1區(qū)被認為是異性聯(lián)想?yún)^(qū)域，海馬CA3區(qū)可作為陳述性記憶的異性聯(lián)想?yún)^(qū)域或自聯(lián)想?yún)^(qū)域。

CA3系統(tǒng)作為一個自聯(lián)想網(wǎng)絡運行，通過內(nèi)嗅皮層在進行部分線索的回憶過程中完成記憶的存儲，CA3中的所有錐體細胞接收一個用于模擬θ節(jié)律的振蕩輸入，中間神經(jīng)元對所有錐體細胞起反饋抑制作用。圖7所示為基于SRM的CA3模型結(jié)構(gòu)示意圖，該網(wǎng)絡由短時記憶(Short-Term Memory, STM)和長時記憶(Long-Term Memory, LTM)網(wǎng)絡組成。STM重復每個周期中的記憶項。中間神經(jīng)元提供反饋抑制，在每個周期的正部分產(chǎn)生γ子周期。LTM網(wǎng)絡在可修改的循環(huán)突觸中編碼信息。CA3中的錐體細胞和中間神經(jīng)元活動由SRM神經(jīng)元模型來模擬。

圖7 基于SRM的CA3模型[72]Fig.7 CA3 model based on SRM

當傳統(tǒng)的深度學習融入了腦機制啟發(fā)的模型后，網(wǎng)絡模型在效率和能耗方面有大幅提升，但目前對于學習、記憶、認知和注意力機制的應用還有待進一步發(fā)掘，相關(guān)腦功能機理的后續(xù)研究仍在不斷開展。M. F. Panichello和T. J. Buschman[73]最近的一項研究表明，工作記憶和注意力受同一腦區(qū)支配。工作記憶是一種特殊的短時記憶，是大腦對信息進行認知操作過程中對信息的臨時存儲，后續(xù)的信息加工都是在此基礎上進行的。Panichello和Buschman對獼猴進行了回顧性和前瞻性記憶測試，通過對外側(cè)前額葉皮層、額葉視區(qū)、頂葉皮層和中間視區(qū)V4這4個腦區(qū)神經(jīng)元亞群的放電速率進行記錄和研究發(fā)現(xiàn)，外側(cè)前額葉皮層同時控制著工作記憶和注意力的編碼，并且可以通過動態(tài)表征轉(zhuǎn)化控制認知行為。T. Bonhoeffer等[74]同樣針對前額葉皮層進行了研究，前額葉皮層是與復雜思維過程有關(guān)的腦區(qū)，腦區(qū)內(nèi)細胞可通過學習具備類別選擇能力，并且在改變學習規(guī)則后，細胞類別選擇性也產(chǎn)生相應變化，這種靈活的表征能力是長期記憶的結(jié)果，當短期記憶轉(zhuǎn)化為長期記憶時，前額葉皮層內(nèi)的選擇性細胞就會發(fā)揮作用。A. Libby和T. J. Buschman[75]的研究表明，為了使大腦接收的新信息和腦內(nèi)短時記憶之間不會相互干擾或混淆，采用正交編碼的方式存儲信息，將記憶進行旋轉(zhuǎn)，使信息間的存儲相互分離，而這種旋轉(zhuǎn)正交的存儲機制有助于進一步研究大腦對并發(fā)事件的處理細節(jié)。對于腦區(qū)功能的研究有助于探索大腦全局運行機制，探索的過程往往伴隨著神經(jīng)形態(tài)模型的進一步完善，在研究腦區(qū)功能的基礎上，各個區(qū)域間的連接作用及信息交互、協(xié)同運行的方式將是神經(jīng)形態(tài)模型的研究重點。

2.2 神經(jīng)形態(tài)芯片

神經(jīng)形態(tài)計算系統(tǒng)以模仿生物神經(jīng)元的神經(jīng)形態(tài)器件為基本單元，主體是與腦中神經(jīng)元網(wǎng)絡生理近似的SNN，與一般計算機遵循指令的工作方式不同，神經(jīng)形態(tài)計算系統(tǒng)遵循并行式工作、分布式處理機制，以完成學習、記憶和推理等認知任務為目的[76]。當前國內(nèi)外主流神經(jīng)形態(tài)芯片及相應的神經(jīng)形態(tài)計算系統(tǒng)如圖8和表2所示。2014年，美國IBM公司推出了著名的真北(TrueNorth)芯片[77]，采用28nm制造工藝，體積小，含有大量的可編程神經(jīng)元，具有很好的可擴展性，不依靠全局時鐘信號協(xié)調(diào)工作，也不會因為一個芯片損壞而影響整體工作。美國斯坦福大學開發(fā)的神經(jīng)形態(tài)超級計算機Neurogrid能夠模擬大規(guī)模腦內(nèi)神經(jīng)元以及突觸連接，從而可應用于腦機接口[78]。英國曼徹斯特大學開發(fā)的SpiNNaker網(wǎng)絡架構(gòu)，基于ARM芯片實現(xiàn)了部分腦功能模型，可以模仿大腦區(qū)域功能，其通信機制適合實時建模[79]。Intel公司發(fā)布的神經(jīng)擬態(tài)芯片Loihi，通過神經(jīng)元之間的脈沖傳輸數(shù)據(jù)結(jié)合STDP模型，最與眾不同之處在于該芯片擁有自主學習功能[80]。浙江大學使用792顆達爾文2代芯片，成功研發(fā)出類腦計算機Darwin Mouse[81]，并助力實現(xiàn)了機器人協(xié)同工作和腦電信號電位解碼等應用。目前的神經(jīng)形態(tài)芯片，主要依從神經(jīng)動力學原理建立仿腦神經(jīng)網(wǎng)絡，但對于已經(jīng)成熟的ANN等模型并不兼容，對此清華大學研發(fā)了天機芯片(Tianjic)，融合了神經(jīng)科學和計算機科學兩條技術(shù)路線，可并行運行神經(jīng)網(wǎng)絡模型，并在模型間無縫通信[82]。

圖8 主流神經(jīng)形態(tài)計算芯片F(xiàn)ig.8 Mainstream neuromorphic computing chip

表2 國內(nèi)外主流神經(jīng)形態(tài)計算系統(tǒng)及芯片

除了上述神經(jīng)形態(tài)芯片外，還有支持神經(jīng)網(wǎng)絡和深度學習的非神經(jīng)形態(tài)芯片，如寒武紀芯片[83-84]以及嵌入式智能芯片圖形處理器(Graphics Processing unit，GPU)、現(xiàn)場可編程邏輯門陣列(Field Programmable Gate Array，F(xiàn)PGA)、專用集成電路(Application Specific Integrated Circuit，ASIC)[85]等。

3 人工大腦

除了神經(jīng)形態(tài)計算外，人工大腦也是類腦計算的重要研究內(nèi)容，仿腦模型是人工大腦的重要部分，包括加拿大滑鐵盧大學開發(fā)的SPAUN仿腦模型[86]以及歐洲研究者設計的GENMOD人工神經(jīng)網(wǎng)絡。SPAUN腦模擬器具備約250萬個虛擬神經(jīng)元，可以完成一系列認知任務，例如識別和記憶數(shù)字、回答與數(shù)字有關(guān)的問題，以及完成一定難度的數(shù)學題目。SPAUN可以在記住數(shù)字后用機械臂將所記憶的數(shù)字重新寫出來，當需要記憶的數(shù)字長度過長時，SPAUN腦模擬器會優(yōu)先記住開頭和結(jié)尾的數(shù)字，而且在回答問題時，它甚至會猶豫，這與人類智能的自然缺陷相吻合。而GENMOD人工神經(jīng)網(wǎng)絡則能夠在不提前訓練的條件下，自主培養(yǎng)數(shù)感，進行空間認知。除了仿腦模型這樣的軟件，人工大腦還有人造神經(jīng)元和人工突觸這樣的硬件。

3.1 人造神經(jīng)元

2016年，IBM公司設計出首個基于相變材料技術(shù)的人造神經(jīng)元[87]，由輸入端、神經(jīng)薄膜、信號發(fā)生器和輸出端組成，如圖9所示，分別相當于生物神經(jīng)元的樹突、雙分子層、神經(jīng)細胞主體和軸突。其中神經(jīng)薄膜由鍺銻碲復合材料制成，是一種相變材料，在人造神經(jīng)元中，當信號到來時，鍺銻碲薄膜從原本的無定形態(tài)到結(jié)晶態(tài)，從而導電；而當電流從薄膜通過產(chǎn)生信號并由輸出端發(fā)射后，薄膜又會恢復原來的狀態(tài)。這種人造神經(jīng)元技術(shù)與人工突觸的主要成分憶阻器是互補的，神經(jīng)元產(chǎn)生的信號主要通過突觸來傳遞。人工突觸也是人工神經(jīng)元重要的連接和信息傳遞器件。

圖9 人工神經(jīng)元示意圖[87]Fig.9 Artificial neuron schematic diagram

3.2 人工突觸

目前,人工突觸的研究主體是憶阻器[88-90]。憶阻器作為第4個無源電子元件，從特性上看是最適合的天然突觸模擬器件。如圖10所示，從結(jié)構(gòu)上看，憶阻器是2條相互垂直的金屬線交叉處的一個氧化結(jié)，生物突觸通過釋放Ca和Na離子改變傳導特性，而憶阻器則是通過釋放氧離子改變傳導特性，也就是說，憶阻器通過改變其電阻值模仿生物突觸對學習行為的響應[91]。

圖10 憶阻器結(jié)構(gòu)Fig.10 Memristor structure

記憶功能是憶阻器的重要特征,具體表現(xiàn)為能夠記憶流經(jīng)它的電荷數(shù)量，這直接影響器件的存儲能力，使其成為在促進類腦智能方面最具潛力的基礎元件。2020年，清華大學和馬薩諸塞大學共同提出了一種基于全硬件憶阻器實現(xiàn)的CNN系統(tǒng)[92]。系統(tǒng)組成如圖11所示。該系統(tǒng)以ARM為控制核心，具有動態(tài)隨機存儲器和8個憶阻器陣列PE，每個陣列有2048個憶阻器。該系統(tǒng)具有5層CNN網(wǎng)絡，采用不同卷積核和多個相同卷積核分別對共享輸入和不同輸入進行并行處理，通過混合訓練方法可以進行MNIST(Mixed National Institute of Standards and Technology)手寫數(shù)字識別，識別精度達到96%以上?？傮w來說，該憶阻器CNN系統(tǒng)能夠適應設備缺陷，實現(xiàn)了存算一體結(jié)構(gòu)，并具有良好的可擴展性。與Teala V100 GPU相比，功耗效率提高了2個數(shù)量級，性能密度提高了1個數(shù)量級。

圖11 系統(tǒng)結(jié)構(gòu)圖[92]Fig.11 System architecture schematic diagram

除了憶阻器外，斯坦福大學和桑迪亞國家實驗室的研究人員研發(fā)出一種人工突觸[93],成功模仿了人腦中的突觸傳遞信號的方式。其設計靈感源自電池，工作原理類似于晶體管，也具有3個電極，由于其材料與大腦組織成分的相似性，原理上這種人工突觸甚至可以和生物神經(jīng)元通信，這使其具有可觀的腦機接口應用前景和研究價值。

4 中國類腦研究

類腦計算作為類腦智能的重要內(nèi)容是人工智能發(fā)展的必然趨勢，也是各國將展開激烈競爭的科技領(lǐng)域。國際上對大腦的研究從未停止，自從2013年美國腦計劃提出以來，各國相繼提出了正式的腦計劃，國際上具有代表性的類腦研究項目及成果如表3所示。

表3 各國類腦研究項目及代表成果

中國腦計劃已經(jīng)醞釀了相當長一段時間，“腦科學與類腦研究”——中國腦計劃，作為重大科技項目被列入國家“十三五”規(guī)劃。腦科學的研究在中國擁有重要戰(zhàn)略地位，目前我國已有包括北京腦科學與類腦研究中心、上海腦科學與類腦研究中心在內(nèi)的超過20個研究機構(gòu)及實驗室，作為腦科學與類腦研究基地，積極推動中國腦計劃。根據(jù)中國科學院上海神經(jīng)科學研究所所長蒲慕明介紹，中國腦計劃將遵從“一體兩翼(One body twowings) ”布局，以研究腦認知的神經(jīng)原理為主體，研發(fā)腦重大疾病診治新手段和腦機智能新技術(shù)為兩翼。在未來15年內(nèi)，以在腦科學、腦疾病早期診斷與干預、類腦智能器件3個前沿領(lǐng)域取得國際領(lǐng)先的成果為目標[94]。

5 結(jié)論

從研究成果上看，國際上對于類腦研究的進展剛起步，各國都有各自的突破性自主類腦技術(shù)及產(chǎn)品，等同于處于同一起跑線，類腦計算領(lǐng)域的競爭主要集中在神經(jīng)形態(tài)計算系統(tǒng)硬件及模型軟件上。從目前來看，神經(jīng)形態(tài)芯片研究的主要目的是避開原始的馮·諾依曼結(jié)構(gòu)，以實現(xiàn)低功耗下信息高效傳遞及處理，各國研究的芯片主要支持的是符合生物神經(jīng)動力學的SNN，但是似乎和當前深度學習等算法的研究拉開距離，神經(jīng)形態(tài)芯片應該具有良好的兼容性，同步于主流算法的研究，從而得以大規(guī)模應用并相互促進。模仿生物神經(jīng)元的人造元件性能從主體構(gòu)造和材料選擇上來說都有待提高，設計能與生物神經(jīng)元交流的人造神經(jīng)元是一個很有前景的計劃。

對于神經(jīng)形態(tài)模型則有更大的提升空間。首先類腦計算得益于人類對大腦生理構(gòu)造運行機制等規(guī)律的運用，目前全球范圍內(nèi)，人類對于大腦的全局結(jié)構(gòu)及功能包括信息傳遞、區(qū)域協(xié)調(diào)等尚未完全理解，而且對于目前已經(jīng)探索得到的生物運行機制的發(fā)掘利用也仍有可提升的空間。就像對于類腦導航來說，我們知道位置細胞、邊界細胞、方向細胞和網(wǎng)格細胞各自的功能及作用原理，但對于這4個細胞如何共同協(xié)作促成人類大腦導航活動的機理還不夠明確，相關(guān)的研究及仿真相對較少，致使其在應用過程中不具備良好的可解釋性。其他的研究亦然，目前的研究都是對于大腦局部功能的研究，如何對目前的研究進行從局部到整體的整合是未來的研究主題之一。我們一直希望了解的大腦的學習、推理和記憶等功能是在多區(qū)域共同協(xié)調(diào)控制下才出現(xiàn)的，腦中組織的功能具有相當大的復雜性，常常出現(xiàn)多對一以及一對多的情況，也就是多個組織區(qū)域共同實現(xiàn)同一功能或一個組織區(qū)域具有不止一種功能，這都為腦功能的整合帶來困難，這種功能上的耦合性也是我們理解大腦認知功能本質(zhì)的關(guān)鍵。