章聯(lián)生 金耀初 宋永端

1971年美國(guó)加州大學(xué)伯克利分校的華裔物理學(xué)家蔡少棠(L.O.Chua)根據(jù)電路變量組合完備性原理,大膽預(yù)言磁通量φ與電荷q之間也一定存在關(guān)系[1],并將描述φ與q之間關(guān)系的電路元件命名為憶阻器(Memristor,由英文單詞Memory和Resistor截?cái)嗪蠈懚?意為有記憶功能的電阻器),同時(shí)稱它為第四種電路基本元件,通常用符號(hào)表示.此外,φ的微分 dφ與q的微分 dq有如下關(guān)系:

其中,M(q)表示憶阻.于是,電流強(qiáng)度(i),電壓(v),電荷(q)和磁通量(φ)這四個(gè)物理量之間的關(guān)系就可以用圖1直觀表示.

圖1 四個(gè)基本二端電路元件關(guān)系圖Fig.1 The four fundamental two-terminal circuit elements

雖然蔡少棠教授從理論上預(yù)言了憶阻器的存在,但當(dāng)時(shí)尚未制造出這種器件的物理實(shí)物,只是停留在猜想和假設(shè)上,致使憶阻器及其應(yīng)用研究并未引起科學(xué)界和工程界的重視,甚至一度出現(xiàn)了停滯不前.直到37年后的2008年,美國(guó)Hewlett-Packard實(shí)驗(yàn)室的研究團(tuán)隊(duì)在Nature雜志發(fā)表論文[2?3],宣布他們已經(jīng)建立了作為第四種電路基本元件的憶阻器固體狀態(tài)的原型—基于半導(dǎo)體中充電摻雜物飄逸的憶阻器的物理模型.

隨后,2010年Hewlett-Packard實(shí)驗(yàn)室的研究人員再次在Nature雜志上撰文表示,他們?cè)趹涀杵髟O(shè)計(jì)上取得重大突破,發(fā)現(xiàn)憶阻器可以進(jìn)行布爾邏輯運(yùn)算,用于數(shù)據(jù)處理和存儲(chǔ)[4].此后,越來(lái)越多的學(xué)者開(kāi)始加入憶阻器的研究行列.憶阻器元件的存在,使電路設(shè)計(jì)的基本元件由原來(lái)的三個(gè)(電阻器、電容器和電感器)增加到四個(gè)(增加了憶阻器作為第四種基本元件),憶阻器為電路設(shè)計(jì)及其憶阻電路應(yīng)用提供了全新的發(fā)展空間.可以說(shuō),憶阻器的發(fā)明足以媲美100年前三極管的發(fā)明,憶阻器領(lǐng)域任何一項(xiàng)產(chǎn)業(yè)化應(yīng)用都可能帶來(lái)新一輪產(chǎn)業(yè)革命.

憶阻器是一種新型的無(wú)源二端電子元件,當(dāng)電流(或電壓)從某一個(gè)端通過(guò),電阻值增加;當(dāng)電流(或電壓)從相反端流入,電阻值減少;當(dāng)電流(或電壓)停止,最后的阻值被保存,這種類似于可變電阻的特性稱憶阻.憶阻器憶阻值的改變主要依靠流入的電流或電壓.雖然憶阻器與電阻器、電容器以及電感器一樣,已被作為無(wú)源電路基本元件,但與其他三類元件不同,憶阻器有其自身的特性.它就像一個(gè)二端電阻器,當(dāng)電流(或電壓)通過(guò)時(shí),憶阻器能改變其阻值,即它是一個(gè)不耗能、記憶不消失的可編程電阻器.

1976年,蔡少棠教授將憶阻的概念進(jìn)一步拓展,并提出了新的概念—憶阻系統(tǒng)[5](Memristive systems).憶阻系統(tǒng)指的是,存在一類物理系統(tǒng)和設(shè)備,其特性類似憶阻,但并不能真實(shí)地由憶阻來(lái)建模,原因是憶阻只是眾多此類動(dòng)態(tài)系統(tǒng)中的一個(gè)特例,因此將這類系統(tǒng)和設(shè)備稱為憶阻系統(tǒng).同時(shí)指出,憶阻系統(tǒng)最大的特點(diǎn)是過(guò)零屬性(Zero-crossing),即任何時(shí)候當(dāng)系統(tǒng)輸入為零,則系統(tǒng)輸出也為零,即輸入輸出的李薩如圖形一定過(guò)坐標(biāo)軸零點(diǎn).

目前根據(jù)憶阻器制作材料、結(jié)構(gòu)及工藝的不同,將憶阻器分為三類:薄膜憶阻器(美國(guó)Hewlett-Packard實(shí)驗(yàn)室的二氧化鈦憶阻器和高分子聚合物憶阻器屬于這類)、自旋憶阻器和其他憶阻器.這些內(nèi)容不屬本文綜述的范疇,因而不予展開(kāi),感興趣的讀者可以參考文獻(xiàn)[6].

此外,憶阻器作為一種納米級(jí)元件,其制造成本高昂,到目前為止,人們很難獲取一個(gè)能夠完全表征其物理特性的標(biāo)準(zhǔn)元件,而且通過(guò)實(shí)驗(yàn)手段獲取其精確的電氣特性數(shù)據(jù)也較為困難.因此,對(duì)憶阻器的研究較大程度依賴于對(duì)憶阻元件的建模與仿真.現(xiàn)有的憶阻仿真軟件,主要有SPICE、Matlab和Micro-Cap三類.

本文將介紹憶阻器的數(shù)學(xué)模型及分類,綜述目前控制領(lǐng)域頂級(jí)期刊上相關(guān)最新成果,涉及時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)(Delayed memristive neural networks,DMNN)的動(dòng)力學(xué)行為與控制,如穩(wěn)定性、耗散性、無(wú)源性等分析以及鎮(zhèn)定、耗散化、無(wú)源化和同步控制等方面的內(nèi)容,并對(duì)時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)今后的研究作了展望,為憶阻神經(jīng)網(wǎng)絡(luò)在下一代計(jì)算機(jī)研發(fā)和人工智能領(lǐng)域的應(yīng)用提供一些新的思路.經(jīng)過(guò)中外學(xué)者的共同努力,時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為分析與控制取得豐碩的成果,限于筆者的知識(shí)面和視野,本文的綜述仍然是不全面的,肯定有遺珠之憾,請(qǐng)同行海涵.

1 憶阻器數(shù)學(xué)模型及分類

按照憶阻器研究的先驅(qū)蔡少棠教授的說(shuō)法[7],在周期性電流源或電壓源作用下,任何表現(xiàn)出穿過(guò)電壓–電流平面(V-I平面)內(nèi)原點(diǎn)的捏滯回路直流元件為零二端終端器件都可以稱為憶阻器.如果輸入的是電流源,稱它是電流控制的憶阻器;如果輸入的是電壓源,則稱它是電壓控制的憶阻器.這里的二端器件的內(nèi)部結(jié)構(gòu)并沒(méi)有明確,所以上述關(guān)于憶阻器的定義是一種公理化、黑匣子化的定義.現(xiàn)實(shí)也的確如此,憶阻器可以用不同材料制備,其特性在自然界中的變形蟲(chóng)、魷魚和其他生物體中都曾經(jīng)發(fā)現(xiàn)過(guò).

一種器件一旦被實(shí)驗(yàn)辨定為憶阻器,很自然要建立其數(shù)學(xué)模型,以近似模擬其捏滯回路.依據(jù)憶阻器數(shù)學(xué)模型復(fù)雜程度不同,可以方便地將其分類.所有的憶阻器分為如下三類[7?8]:理想型憶阻器(Ideal memristors),通用型憶阻器(Generic memristors)和拓展型憶阻器(Extended memristors).由于定義這些憶阻器的方程不同,從而使它們具有不同的特性.需要指出的是,通用型憶阻器的一個(gè)子集能夠展現(xiàn)出與理想型憶阻器相同的特性,因而這個(gè)子集被稱為理想通用型憶阻器,可以視其為第四種憶阻器.同時(shí),由于理想通用型憶阻器能夠通過(guò)一對(duì)的數(shù)學(xué)變換轉(zhuǎn)變?yōu)槔硐胄蛻涀杵?也被稱為理想型憶阻器的衍生憶阻器.具體見(jiàn)表1(以復(fù)雜程度遞增的順序排列).

表1 四類憶阻器Table 1 Four classes of memristors

位于表1最上面的憶阻器最為簡(jiǎn)單,命名其為理想型憶阻器,它符合憶阻器的最初定義[1].通過(guò)給定的任意初始條件φ(0)可以確定其構(gòu)成關(guān)系,即

式(1)兩邊同時(shí)對(duì)時(shí)間t求導(dǎo)得

注意到

因此式(2)亦可以寫成

式(1)等價(jià)于式(2),它們被稱為電荷控制型憶阻器(A charge-controlled memristor,簡(jiǎn)稱荷控憶阻器)的構(gòu)成關(guān)系式.類似地,磁通量控制型憶阻器(A flux-controlled memristor,簡(jiǎn)稱磁控憶阻器)也有如下的構(gòu)成關(guān)系式

其等價(jià)于電壓控制型憶阻器,即

2 憶阻神經(jīng)網(wǎng)絡(luò)及其優(yōu)點(diǎn)

眾所周知,現(xiàn)今的計(jì)算機(jī)系統(tǒng)都采用馮·諾伊曼(Von Neumann)結(jié)構(gòu),在這種結(jié)構(gòu)的計(jì)算機(jī)中,由于信息存儲(chǔ)與信息處理的傳遞通道都由總線連接,即指令和數(shù)據(jù)共享同一總線的結(jié)構(gòu),使得信息存儲(chǔ)與信息處理必然是分開(kāi)的.盡管目前計(jì)算機(jī)CPU運(yùn)算處理速度增長(zhǎng)非?？?但CPU與內(nèi)存之間的數(shù)據(jù)傳輸速度增長(zhǎng)緩慢,兩者增長(zhǎng)速度的極不匹配,使信息流的傳輸速度成為制約計(jì)算機(jī)性能的瓶頸,也制約了高性能計(jì)算機(jī)的發(fā)展.因此,研制兼具信息存儲(chǔ)與信息處理功能的新型電子存儲(chǔ)器件,以支持信息存儲(chǔ)與信息處理融合的非馮·諾伊曼結(jié)構(gòu)的計(jì)算機(jī)研制,就成為下一代高性能計(jì)算機(jī)發(fā)展的方向.

人腦神經(jīng)系統(tǒng)是由大量的神經(jīng)元相互連接而形成的一種高度復(fù)雜、非線性、并行運(yùn)行的信息處理系統(tǒng),人腦的神經(jīng)元具有獨(dú)特的突觸可塑性,能實(shí)現(xiàn)信息存儲(chǔ)與信息處理的高效融合.長(zhǎng)期以來(lái),人們一直在探索人腦的工作機(jī)理,期望通過(guò)模擬人腦的學(xué)習(xí)、記憶功能,設(shè)計(jì)、研制出接近人類智能的信息處理系統(tǒng),以解決復(fù)雜實(shí)際問(wèn)題,最終實(shí)現(xiàn)真正的人工智能.雖有大量的學(xué)者一直在從事這項(xiàng)工作,但遺憾的是,人類的這個(gè)愿望遠(yuǎn)沒(méi)實(shí)現(xiàn).原因在于:一方面,人腦非常復(fù)雜,人類至今沒(méi)有完全認(rèn)識(shí)人腦的結(jié)構(gòu)也未破解人腦工作的機(jī)理;另一方面,由于半導(dǎo)體電子器件和電子材料研制滯后,人類沒(méi)有找到充當(dāng)人工神經(jīng)元突觸的電子器件.

憶阻器是一種具有記憶功能的非線性電阻器,其阻值會(huì)隨著通過(guò)它的電流強(qiáng)度的改變而改變,并且能夠維持相應(yīng)電阻的特性,這與生物神經(jīng)元突觸在生物電信號(hào)刺激下突觸權(quán)重的變化特性十分相似.因此,憶阻器是現(xiàn)階段模擬生物神經(jīng)元突觸最理想的元件,可以用作人工神經(jīng)元突觸,而且憶阻器是納米尺寸,具有更高的集成度,在充當(dāng)人工神經(jīng)元突觸方面具有其他元件無(wú)可比擬的優(yōu)勢(shì),從而使基于憶阻器的人工神經(jīng)網(wǎng)絡(luò)(Memristor-based neural networks,MNNs)迅速成為研究熱點(diǎn).總之,憶阻器作為一種新型的存儲(chǔ)器件,其特點(diǎn)類似于人腦神經(jīng)元的突觸,能實(shí)現(xiàn)信息存儲(chǔ)與信息處理的一體化功能,為下一代計(jì)算機(jī)提供了一種全新的設(shè)計(jì)架構(gòu).可以說(shuō),憶阻神經(jīng)網(wǎng)絡(luò)的發(fā)明及其電路的研制,為下一代非馮·諾伊曼結(jié)構(gòu)的計(jì)算機(jī)的研制提供了物質(zhì)條件.

相比于傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò),憶阻神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)表現(xiàn)為:

具有自學(xué)習(xí)功能.例如,實(shí)現(xiàn)圖像識(shí)別時(shí),只要先把許多不同的圖像樣板和對(duì)應(yīng)的應(yīng)識(shí)別的結(jié)果輸入憶阻神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)就會(huì)通過(guò)自學(xué)習(xí)功能,慢慢學(xué)會(huì)識(shí)別類似的圖像.通過(guò)對(duì)歷史數(shù)據(jù)的學(xué)習(xí),訓(xùn)練出一個(gè)具有歸納全部數(shù)據(jù)能力的特定的神經(jīng)網(wǎng)絡(luò)系統(tǒng),自學(xué)習(xí)功能對(duì)于預(yù)測(cè)有特別重要的意義.

具有聯(lián)想存儲(chǔ)功能.人工神經(jīng)網(wǎng)絡(luò)的反饋網(wǎng)絡(luò)就可以實(shí)現(xiàn)這種聯(lián)想存儲(chǔ)功能.

具有高速尋找優(yōu)化解的能力.尋找一個(gè)復(fù)雜問(wèn)題的優(yōu)化解,是一個(gè)計(jì)算量非常大的求解過(guò)程,而利用一個(gè)針對(duì)某問(wèn)題而設(shè)計(jì)的反饋型人工神經(jīng)網(wǎng)絡(luò),發(fā)揮計(jì)算機(jī)的高速運(yùn)算能力,往往能很快找到優(yōu)化解.

具有非線性處理功能.人腦的思維是非線性的,憶阻神經(jīng)網(wǎng)絡(luò)能模擬人腦思維,處理非線性問(wèn)題.

具有自適應(yīng)性.傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)電路常常不能處理新模式、新數(shù)據(jù),不能自我調(diào)節(jié),而基于憶阻器的神經(jīng)網(wǎng)絡(luò)對(duì)新模式、新數(shù)據(jù)具有很強(qiáng)的自適應(yīng)性.

3 時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型

圖2 基于憶阻器的遞歸神經(jīng)網(wǎng)絡(luò)電路圖[9]Fig.2 Circuit of memristor-based recurrent network[9]

憶阻神經(jīng)網(wǎng)絡(luò)由圖2所示特大規(guī)模的集成電路(Very large scale integrated circuit,VLSI)來(lái)實(shí)現(xiàn)[10],其中的連接權(quán)由憶阻器來(lái)實(shí)現(xiàn).在圖2中,x i(t)表示第i個(gè)子系統(tǒng)中電容器C i在t時(shí)刻的電壓;C i,R i分別表示其電容,電阻;τ(t)表示系統(tǒng)的傳輸時(shí)滯;f j(x j(t))和g j(x j(t ?τ(t)))分別表示神經(jīng)元不含和含有時(shí)滯的激活函數(shù),它們都是有界連續(xù)函數(shù);M f ij和M gij分別表示函數(shù)f j(·)與x i(·)之間的連接憶阻和函數(shù)g j(·)與x i(·)之間的連接憶阻;a i,b i為輸出變量;I i為外部輸入.

于是,由電路圖2可知,電流I f ij,I gij(i,j=1,2,···,n)有如下關(guān)系式

這里W f ij,W gij表示憶阻M f ij,M gij的憶導(dǎo),即有

另外,

因此,根據(jù)物理學(xué)中的基爾霍夫(Kirchoff)電流定律,得到基于憶阻器的遞歸神經(jīng)網(wǎng)絡(luò)第i個(gè)子系統(tǒng)的動(dòng)力學(xué)方程

進(jìn)而得到

將式(7)變形為

這里

由憶阻器的物理特性及其電流與電壓之間的特性曲線圖3,d i(x i(t)),a ij(x i(t))和b ij(x i(t))隨系統(tǒng)狀態(tài)進(jìn)行切換如下:

此外,給定式(8)的初始條件為x i(θ)=?i(θ),θ ∈[?τ2,0],這里?i(θ)∈C([?τ2,0],R).

圖3 憶阻器的電流—電壓特性曲線Fig.3 Typical current-voltage characteristics of a memristor

為討論的需要,往往需對(duì)時(shí)變時(shí)滯τ(t)和激活函數(shù)f j(·),g j(·)作一些假設(shè):

假設(shè)1.時(shí)變時(shí)滯τ(t) 滿足

這里0≤τ1<τ2以及μ1<μ2都是已知的常數(shù).

假設(shè)2.存在對(duì)角矩陣

使得神經(jīng)元激活函數(shù)f j(·)滿足

應(yīng)當(dāng)說(shuō),絕大多數(shù)文獻(xiàn)中的時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型都是式(8),但也有一些文獻(xiàn)所討論的時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型略有不同.如文獻(xiàn)[12?15],其中的模型更為特殊簡(jiǎn)單,其方程式為

又如文獻(xiàn)[16],其數(shù)學(xué)模型為

在文獻(xiàn)[17]中,提出了如下更一般化的模型

注2.像式(9)這類離散時(shí)變時(shí)滯為τij(t)形式的模型,此時(shí)的方程只能用分量表示,而不能用向量或矩陣來(lái)表示,如文獻(xiàn)[18?20].

注3.值得注意的是,目前研究憶阻神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)行為的相關(guān)文獻(xiàn)無(wú)一例外地直接給出模型的跳變律,缺乏嚴(yán)謹(jǐn)?shù)睦碚撏茖?dǎo),且不同文獻(xiàn)給出的跳變律各不相同,可謂五花八門.主要原因是目前人們對(duì)憶阻器以及憶阻神經(jīng)網(wǎng)絡(luò)的研究仍處于探索階段,尚未形成共識(shí),存在一些爭(zhēng)議.比如,關(guān)于憶阻神經(jīng)網(wǎng)絡(luò)的模型,近來(lái)有學(xué)者Pershin等在文獻(xiàn)[21]中指出,目前大量文獻(xiàn)討論的憶阻神經(jīng)網(wǎng)絡(luò)不具有憶阻元件的概念.由此可見(jiàn),這是一個(gè)引起越來(lái)越多關(guān)注且有關(guān)問(wèn)題尚無(wú)明確答案的研究領(lǐng)域,期待更多后續(xù)研究和探索.

此外,文獻(xiàn)中討論的時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)模型的跳變律也有不同的表達(dá)方式.不過(guò),總體上不影響其動(dòng)力學(xué)行為的分析討論.

目前討論的時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng),以討論離散時(shí)滯為主,但也有分析一般混合時(shí)滯的MNNs,具體見(jiàn)如下式(10).這時(shí)方程中同時(shí)包含離散時(shí)滯、分布時(shí)滯和泄漏時(shí)滯,當(dāng)然,這樣問(wèn)題變得更加復(fù)雜,如文獻(xiàn)[22].

其中δ(t),τ(t)和r(t)分別表示泄漏、離散和分布時(shí)滯,它們滿足

這里δ,τ,r以及δd,τd都是已知的常數(shù);?i(θ)為初始函數(shù),它在區(qū)間[?ρ,0]上連續(xù)可導(dǎo).

在式(10)中,當(dāng)δ(t)≡0時(shí),退化為文獻(xiàn)[15]所討論的模型;當(dāng)r(t)≡0時(shí),退化為文獻(xiàn)[23?24]所討論的模型.

4 處理時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)行為與控制的方法

如前所述,憶阻神經(jīng)網(wǎng)絡(luò)是一類狀態(tài)依賴的切換系統(tǒng),其右端是不連續(xù)的,經(jīng)典的針對(duì)右端連續(xù)的微分方程的穩(wěn)定性理論和方法對(duì)它已不再適用.分析時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng)的動(dòng)力學(xué)行為與控制問(wèn)題,必須另辟蹊徑.就筆者所知,目前處理這些問(wèn)題的方法歸納起來(lái),主要有兩種思路:其一直接借助一些已有分析的技巧和方法來(lái)討論研究,如文獻(xiàn)[17,25?26];其二利用微分包含和集值映射理論,在Filippov 右端不連續(xù)穩(wěn)定性理論[27?28]框架下分析時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng)的動(dòng)力學(xué)行為.目前絕大多數(shù)文獻(xiàn)采用的是第二種方法.

下面以本文的式(8)為例,簡(jiǎn)單敘述一下第二種方法,其他時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)模型類似.

為了解決這一問(wèn)題,Filippov等從20世紀(jì)60年代開(kāi)始研究,建立了右端非連續(xù)微分方程的解,即現(xiàn)在被稱為Filippov 意義下的解的定義,并創(chuàng)立了一套非光滑分析理論,包括集值映射[27,29]、微分包含[28]等理論.

根據(jù)集值映射及微分包含理論,帶有初始條件x i(θ)=?i(θ),θ ∈[?τ2,0]的式(8)在Filippov意義下的解x(t)=[x1(t),x2(t),···,x n(t)]T在[ 0,T](T為一正常數(shù))的任意子集[t1,t2]上絕對(duì)連續(xù),并且有

其中,co{Π1,Π2}表示由實(shí)數(shù)或?qū)嵕仃?Π1和 Π2生成的凸閉包.

為了方便分析問(wèn)題,常將式(11)和式(12)寫成向量及矩陣的形式

或等價(jià)地,存在

使得

這里x(t)=[x1(t),x2(t),···,x n(t)]T為狀態(tài)向量;D=diag(d1,d2,···,d n)是實(shí)對(duì)角矩陣,其中d i>0是x i(t)的自抑制;A和B分別是反饋連接權(quán)矩陣和時(shí)滯反饋連接權(quán)矩陣;f(x(t))=[f1(x1(t)),f2(x2(t)),···,f n(x n(t))]T代表神經(jīng)元激活函數(shù);u(t)=(u1(t),u2(t),···,u n(t))T∈Rn為外部輸入向量;?(θ)=[?1(θ),?2(θ),···,?n(θ)]T為初值函數(shù).

這樣,時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)式(8)就轉(zhuǎn)化為常規(guī)的時(shí)滯神經(jīng)網(wǎng)絡(luò)式(14).相應(yīng)地,時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)分析與控制問(wèn)題就變得容易處理了.

5 時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為與控制

基于憶阻器的時(shí)滯神經(jīng)網(wǎng)絡(luò)模型首次被Hu等[16]提出以來(lái),關(guān)于時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為,例如,平衡點(diǎn)的數(shù)目及分布、可控性、可觀性、穩(wěn)定性(含鎮(zhèn)定)、吸引性、收斂性、周期震蕩性、耗散性、無(wú)源性、一致性、魯棒性、自適應(yīng)性、狀態(tài)估計(jì)、分岔和混沌、分形,同步控制和跟蹤控制,除此之外,還有同宿(異宿)軌道性態(tài)分析、濾波和狀態(tài)邊界分析等方面的研究,已激發(fā)了國(guó)內(nèi)外學(xué)者的濃厚興趣,并取得了豐碩的研究成果.其中文獻(xiàn)[16]被認(rèn)為是國(guó)內(nèi)外最早討論時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)行為的文獻(xiàn).

研究基于憶阻器的神經(jīng)網(wǎng)絡(luò)系統(tǒng)的動(dòng)力學(xué)行為及控制問(wèn)題,獲得的相關(guān)結(jié)果可應(yīng)用于基于憶阻器的新型電路的結(jié)構(gòu)分析和調(diào)控,進(jìn)而有助于揭示不同材料制備的憶阻電路的內(nèi)在動(dòng)力學(xué)機(jī)理,為新型電子存儲(chǔ)材料研制和器件結(jié)構(gòu)的研究提供理論指導(dǎo).

下面重點(diǎn)綜述時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng)的穩(wěn)定性(鎮(zhèn)定)、耗散性與無(wú)源性、同步控制等方面的內(nèi)容.

5.1 穩(wěn)定性與鎮(zhèn)定

近年來(lái),隨著憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng)在聯(lián)想記憶、信號(hào)處理及人工智能等領(lǐng)域應(yīng)用和推廣,國(guó)內(nèi)外越來(lái)越多的科研工作者開(kāi)始關(guān)注憶阻神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為,其中穩(wěn)定與鎮(zhèn)定問(wèn)題最受重視.眾所周知,系統(tǒng)穩(wěn)定是實(shí)際的工程系統(tǒng)能夠正常工作(運(yùn)轉(zhuǎn))的前提條件,也是人們?cè)O(shè)計(jì)控制系統(tǒng)和選擇控制策略的最基本要求.因此,時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性與鎮(zhèn)定是控制科學(xué)與工程研究的一個(gè)重要分支.

5.1.1 無(wú)限時(shí)間的穩(wěn)定性與鎮(zhèn)定

自20世紀(jì)80年代以來(lái),Lyapunov穩(wěn)定性理論被成功地應(yīng)用于神經(jīng)網(wǎng)絡(luò)系統(tǒng)穩(wěn)定性與鎮(zhèn)定分析,并已取得了一系列的成果,如文獻(xiàn)[30?48].憶阻神經(jīng)網(wǎng)絡(luò)模型沒(méi)有脫離神經(jīng)網(wǎng)絡(luò)模型的范疇,所不同的是,其連接權(quán)值由憶阻器的數(shù)學(xué)模型構(gòu)成,從而使憶阻神經(jīng)網(wǎng)絡(luò)成為一類由右端不連續(xù)的微分方程組成的特殊切換神經(jīng)網(wǎng)絡(luò).對(duì)于時(shí)滯MNNs穩(wěn)定性與鎮(zhèn)定的研究,目前通用的方法是前述的第二種方法,將時(shí)滯MNNs轉(zhuǎn)化為通常的時(shí)滯神經(jīng)網(wǎng)絡(luò)進(jìn)行穩(wěn)定性分析與鎮(zhèn)定研究.

文獻(xiàn)[49]針對(duì)具有時(shí)滯的憶阻神經(jīng)網(wǎng)絡(luò),提出基于M-矩陣的全局穩(wěn)定充分性判據(jù);Wen等在文獻(xiàn)[20]分析了帶有時(shí)變時(shí)滯的憶阻遞歸神經(jīng)網(wǎng)絡(luò)的指數(shù)穩(wěn)定性問(wèn)題,借助于新構(gòu)造的Lyapunov-Razumikhin 函數(shù),獲得了這類系統(tǒng)指數(shù)穩(wěn)定的充分條件;Wu等[26]分析了一類時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的全局指數(shù)穩(wěn)定性和全局漸進(jìn)穩(wěn)定,采用的分析方法不同于一般文獻(xiàn),憶阻器的多端口效應(yīng)沒(méi)有被忽略,而且所導(dǎo)出的代數(shù)判據(jù)容易實(shí)現(xiàn);Zhang 等[50]利用右端非連續(xù)微分方程的理論,研究了一類帶有混合時(shí)滯的MNNs動(dòng)力學(xué)行為問(wèn)題,得到了保證其周期解存在以及周期解全局穩(wěn)定的充分條件;胡進(jìn)等[51]研究了一類時(shí)滯憶阻遞歸神經(jīng)網(wǎng)絡(luò)全局一致漸進(jìn)穩(wěn)定問(wèn)題,得到了時(shí)滯相關(guān)一致漸進(jìn)穩(wěn)定的判據(jù);文獻(xiàn)[52]研究了一類時(shí)滯憶阻遞歸神經(jīng)網(wǎng)絡(luò)可靠鎮(zhèn)定問(wèn)題;Zhang等[53]研究了一類時(shí)變時(shí)滯慣性憶阻神經(jīng)網(wǎng)絡(luò)全局指數(shù)穩(wěn)定性;Bao等[54]分析了一類憶阻遞歸神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性,并討論了其在聯(lián)想記憶上的應(yīng)用;Jiang 等[19]討論了一類時(shí)變時(shí)滯且同步切換的憶阻神經(jīng)網(wǎng)絡(luò)的全局指數(shù)穩(wěn)定性問(wèn)題;Li等[55]討論了一類含時(shí)變時(shí)滯及泄漏項(xiàng)的反應(yīng)—擴(kuò)散憶阻神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性;文獻(xiàn)[56]研究了一類混合時(shí)滯的模糊憶阻神經(jīng)網(wǎng)絡(luò)指數(shù)鎮(zhèn)定問(wèn)題;Xiao等[57]討論了一類時(shí)滯T-S模糊憶阻神經(jīng)網(wǎng)絡(luò)在拉格朗日意義下的穩(wěn)定性問(wèn)題;文獻(xiàn)[58]基于飽和數(shù)據(jù)抽樣控制法,研究了一類憶阻神經(jīng)網(wǎng)絡(luò)指數(shù)鎮(zhèn)定問(wèn)題.

以上討論的時(shí)滯MNNs系統(tǒng)都是確定系統(tǒng),沒(méi)有考慮隨機(jī)因素的影響.在實(shí)際應(yīng)用中,憶阻神經(jīng)網(wǎng)絡(luò)通過(guò)一系列電阻、電容、憶阻器和放大器等電子器件實(shí)現(xiàn).一方面,這些電子器件本身存在參數(shù)不確定性;另一方面,信號(hào)的儲(chǔ)存以及神經(jīng)元之間的突觸傳輸都會(huì)受到隨機(jī)因素(如噪聲)的擾動(dòng).因而,分析時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)穩(wěn)定性問(wèn)題時(shí),需要考慮這些隨機(jī)因素的影響,應(yīng)當(dāng)說(shuō),考慮隨機(jī)因素的憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng)更接近實(shí)際系統(tǒng).王長(zhǎng)弘等[59]運(yùn)用Lyapunov泛函方法和隨機(jī)分析方法,研究了一類基于憶阻器的S-分布隨機(jī)時(shí)滯神經(jīng)網(wǎng)絡(luò)的均方指數(shù)穩(wěn)定性問(wèn)題,得到了該隨機(jī)系統(tǒng)均方指數(shù)穩(wěn)定的判據(jù);Sakthivel 等[60]研究了一類具有馬爾科夫跳變和脈沖隨機(jī)時(shí)滯神經(jīng)網(wǎng)絡(luò)指數(shù)穩(wěn)定性問(wèn)題;2014 年Li等[61]探討了一類隨機(jī)時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的指數(shù)穩(wěn)定性,采用Lyapunov 泛函和不等式的方法獲得了其指數(shù)穩(wěn)定的三個(gè)充分條件;Meng 等[62]對(duì)一類隨機(jī)混合時(shí)變時(shí)滯的憶阻遞歸神經(jīng)網(wǎng)絡(luò)穩(wěn)定性進(jìn)行分析,得到了該系統(tǒng)基于線性矩陣不等式的均方漸進(jìn)穩(wěn)定和指數(shù)穩(wěn)定的充分條件.

5.1.2 有限時(shí)間的穩(wěn)定性與鎮(zhèn)定

需要指出的是,在已有關(guān)于各種時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)穩(wěn)定與鎮(zhèn)定的結(jié)果中,以漸近穩(wěn)定性或指數(shù)穩(wěn)定及鎮(zhèn)定控制問(wèn)題,即研究系統(tǒng)狀態(tài)在無(wú)窮時(shí)間收斂到平衡點(diǎn)的問(wèn)題居多.隨著有限時(shí)間控制概念的提出與發(fā)展,時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的有限時(shí)間穩(wěn)定與有限時(shí)間鎮(zhèn)定問(wèn)題引起了學(xué)者重視,也取得了一系列的結(jié)果.

Cai等[63]研究了基于憶阻器的神經(jīng)網(wǎng)絡(luò)的有限時(shí)間鎮(zhèn)定控制;Li等[64]討論了一類馬爾科夫跳變(躍遷概率部分已知)憶阻神經(jīng)網(wǎng)絡(luò)有限時(shí)間穩(wěn)定性;Wang 等[65]研究了時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)有限時(shí)間鎮(zhèn)定和自適應(yīng)控制問(wèn)題;Sheng 等[66]研究了一類含混合時(shí)滯的模糊憶阻神經(jīng)網(wǎng)絡(luò)拉格朗日意義下的指數(shù)穩(wěn)定和有限時(shí)間的鎮(zhèn)定問(wèn)題,借助于微分包含和比較策略,得到了其全局指數(shù)穩(wěn)定的充分條件.

有限時(shí)間的鎮(zhèn)定結(jié)果依賴于系統(tǒng)狀態(tài)的初始時(shí)刻,這極大地限制所得結(jié)果在實(shí)際中的應(yīng)用.為了避免這一局限,在有限時(shí)間控制的基礎(chǔ)上,人們又提出了固定時(shí)間控制的概念[67],固定時(shí)間的鎮(zhèn)定不依賴系統(tǒng)狀態(tài)的任何初始條件,是完全獨(dú)立的.但筆者至今尚未見(jiàn)到有關(guān)時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)固定時(shí)間的鎮(zhèn)定問(wèn)題的結(jié)果,是今后研究的一個(gè)方向.

5.2 耗散性與無(wú)源性

無(wú)源性作為耗散性的特例,起源于電氣網(wǎng)絡(luò)理論,廣泛存在于物理學(xué)、電路系統(tǒng)、應(yīng)用數(shù)學(xué)以及力學(xué)等學(xué)科領(lǐng)域.在Kalman、Popov、Yakubovich 和Willems等超穩(wěn)定性、正實(shí)性等方面的大量工作基礎(chǔ)上,控制領(lǐng)域形成了系統(tǒng)的無(wú)源性和耗散性等相關(guān)理論.在實(shí)踐中,通過(guò)采用Lyapunov方法,無(wú)源性理論被廣泛應(yīng)用于非線性系統(tǒng)的分析和控制.無(wú)源性的物理意義是它要求系統(tǒng)從外界吸收的能量要大于自身所提供的能量,因此,它能在本質(zhì)特征上使系統(tǒng)保持內(nèi)部穩(wěn)定.無(wú)源性在動(dòng)力系統(tǒng)穩(wěn)定性分析、混沌控制、同步、信號(hào)處理、模糊控制等方面具有廣泛的應(yīng)用.

由于耗散性是比無(wú)源性更廣泛的動(dòng)力學(xué)性質(zhì),因而時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)耗散性問(wèn)題的研究比其無(wú)源性的研究更具有重要意義.于是,不少學(xué)者著手研究各種憶阻神經(jīng)網(wǎng)絡(luò)的無(wú)源性和耗散性問(wèn)題.文獻(xiàn)[68]第一次將無(wú)源性分析理論應(yīng)用到時(shí)變時(shí)滯的憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng)的無(wú)源性分析,得到了該系統(tǒng)指數(shù)無(wú)源性判據(jù);文獻(xiàn)[69]討論了一類含不同憶導(dǎo)和時(shí)滯的憶阻BAM(Bidirectional associative memory)神經(jīng)網(wǎng)絡(luò)的無(wú)源性問(wèn)題;文獻(xiàn)[70]研究了一類含泄漏時(shí)滯及兩個(gè)額外時(shí)滯的憶阻神經(jīng)網(wǎng)絡(luò)耗散性與無(wú)源性問(wèn)題;Cao等[71]討論了一類時(shí)滯反應(yīng)—擴(kuò)散憶阻神經(jīng)網(wǎng)絡(luò)的無(wú)源性問(wèn)題,通過(guò)利用不等式技巧和建立適當(dāng)?shù)腖yapunov 泛函,得到了系統(tǒng)無(wú)源性的幾個(gè)充分條件,這些條件都是線性矩陣不等式形式表述,易于驗(yàn)證;文獻(xiàn)[72]提出了一種倒數(shù)凸組合與Wirtinger積分不等式相結(jié)合的方法,討論了時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的耗散性問(wèn)題,得到了時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)嚴(yán)格耗散的時(shí)滯依賴充分條件.

近來(lái)文獻(xiàn)[73?74]將廣義耗散性概念應(yīng)用于討論一般的神經(jīng)網(wǎng)絡(luò).緊接著,Xiao等在文獻(xiàn)[22]采納一般的神經(jīng)網(wǎng)絡(luò)的廣義耗散性概念,研究了一類混合時(shí)滯的憶阻神經(jīng)網(wǎng)絡(luò)廣義耗散性的問(wèn)題,并導(dǎo)出了系統(tǒng)廣義耗散和無(wú)源的充分條件.Ding 等[75]討論了一類隨機(jī)離散時(shí)間的時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)耗散性問(wèn)題.

然而,正如文獻(xiàn)[76]所指出,神經(jīng)網(wǎng)絡(luò)的耗散性與無(wú)源性近期結(jié)果都是基于構(gòu)造Lyapunov-Krasovskii(簡(jiǎn)稱LK)泛函的方法.依據(jù)LK泛函的方法所得結(jié)果,其保守性可作為時(shí)滯相關(guān)判據(jù)優(yōu)劣的重要指標(biāo),但由于構(gòu)造LK泛函缺乏一般性的方法,完全有賴于研究者的經(jīng)驗(yàn),使得文獻(xiàn)上的判據(jù)不同程度存在保守性.

由于憶阻器的不同,使得時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)模型也不同,分析這些時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的耗散性與無(wú)源性問(wèn)題的方法也迥異.如何借助非光滑分析理論及Lyapunov 方法開(kāi)展時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的耗散性與無(wú)源性研究,得到時(shí)滯相關(guān)保守性更低的判據(jù),仍是一個(gè)開(kāi)放問(wèn)題.

5.3 同步控制

同步是自然界和社會(huì)生活中普遍存在的一種現(xiàn)象,如螢火蟲(chóng)的同步發(fā)光現(xiàn)象,蟋蟀、青蛙、知了的集體鳴叫等.同步給人們的生產(chǎn)、生活既帶來(lái)不利影響,也帶來(lái)有利影響.比如,英特網(wǎng)上不同的路由器以同步的方式發(fā)送消息會(huì)引發(fā)網(wǎng)絡(luò)堵塞,人的大腦內(nèi)的神經(jīng)元出現(xiàn)大規(guī)模同步放電會(huì)導(dǎo)致醫(yī)學(xué)上癡癇癥的發(fā)生;混沌同步已被廣泛應(yīng)用于通信系統(tǒng)、激光以及神經(jīng)元系統(tǒng)等多個(gè)領(lǐng)域.因此,同步問(wèn)題成為目前復(fù)雜網(wǎng)絡(luò)動(dòng)力學(xué)的研究熱點(diǎn)之一[77?78].

眾所周知,憶阻神經(jīng)網(wǎng)絡(luò)是一種非常重要的非線性電路網(wǎng)絡(luò),其在很多領(lǐng)域都有廣泛的應(yīng)用,比如其混沌同步已在保密通信上獲得應(yīng)用[79?81],在圖形加密上也有應(yīng)用[82].由于各種憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng)自身無(wú)法實(shí)現(xiàn)同步,需要借助外部的力量,為此人們提出了各種各樣的控制方法和技術(shù),以實(shí)現(xiàn)上述網(wǎng)絡(luò)系統(tǒng)的同步.譬如,自適應(yīng)控制、模糊控制、脈沖控制、切換控制和間歇控制等.

2014年Zhang 等[81]采用非光滑分析,研究了基于周期間歇控制的時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的指數(shù)同步控制;Chen 等[83]利用Lyapunov函數(shù)的方法分析了分?jǐn)?shù)階憶阻神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性和同步性;田小敏等[84]研究了一類具有死區(qū)輸入的分?jǐn)?shù)階混沌系統(tǒng)的有限時(shí)間同步問(wèn)題;2015年Wu 等[85]采用了Lyapunov函數(shù)方法和不等式技術(shù),基于數(shù)據(jù)采樣控制法研究一類時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)同步問(wèn)題;Shi等[86]研究了一類憶阻器競(jìng)爭(zhēng)時(shí)標(biāo)神經(jīng)網(wǎng)絡(luò)的同步問(wèn)題,通過(guò)構(gòu)造Lyapunov函數(shù)并采用微分包含理論,設(shè)計(jì)了一個(gè)線性反饋同步控制器;Chandrasekar等[87]基于二階倒數(shù)凸組合法,研究了一類具有兩個(gè)時(shí)滯的憶阻神經(jīng)網(wǎng)絡(luò)的同步問(wèn)題;文獻(xiàn)[88]研究了一類帶有不同時(shí)滯的憶阻遞歸神經(jīng)網(wǎng)絡(luò)的指數(shù)同步控制問(wèn)題;文獻(xiàn)[89]運(yùn)用魯棒分析法,討論了一類時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的同步控制問(wèn)題;文獻(xiàn)[90]運(yùn)用隨機(jī)非線性脈沖控制法,研究了時(shí)滯憶阻雙向聯(lián)想記憶神經(jīng)網(wǎng)絡(luò)同步問(wèn)題;謝濤[91]研究了帶有時(shí)變時(shí)滯的憶阻神經(jīng)網(wǎng)絡(luò)同步問(wèn)題,通過(guò)運(yùn)用菲利波夫解框架、微分包含理論、自適應(yīng)控制技術(shù),用一種新穎的Lyapunov 函數(shù)設(shè)計(jì)了驅(qū)動(dòng)—響應(yīng)系統(tǒng)的自適應(yīng)同步規(guī)則,獲得了帶有時(shí)滯的憶阻神經(jīng)網(wǎng)絡(luò)的自適應(yīng)同步充分條件;Song等[92]基于驅(qū)動(dòng)—響應(yīng)的概念和隨機(jī)微分包含理論,研究了混合時(shí)滯隨機(jī)憶阻遞歸神經(jīng)網(wǎng)絡(luò)的同步性;文獻(xiàn)[93]基于非光滑分析和隨機(jī)微分包含理論,研究了時(shí)變時(shí)滯隨機(jī)憶阻神經(jīng)網(wǎng)絡(luò)的同步控制問(wèn)題.

同樣地,在時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的同步控制中,也存在有限(固定)時(shí)間的同步控制問(wèn)題,即有限(固定)時(shí)間內(nèi)實(shí)現(xiàn)同步,如文獻(xiàn)[94?98].應(yīng)當(dāng)說(shuō),有限(固定)時(shí)間的同步控制比無(wú)窮時(shí)間的同步控制更實(shí)用.

在動(dòng)力系統(tǒng)分析中,關(guān)于同步的定義有很多種,除了前述的通常同步、滯后同步和有限時(shí)間同步外,還有完全同步(Complete synchronization),反同步(Anti-synchronization)、相位同步(Phase synchronization)、函數(shù)投影同步(Function projective synchronization)、聚類同步(Cluster synchronization)、向前同步(Anticipated synchronization)、廣義同步(Generalized synchronization)、間歇滯后同步(Intermittent lag synchronization)等等.自然地,時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的同步控制也涵蓋這些類型,限于篇幅,這里不再贅述.

為了得到時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)保守性更低的動(dòng)力學(xué)行為的結(jié)果,研究者首先需要搞清楚時(shí)滯相關(guān)判據(jù)的保守性的存在原因.總的來(lái)說(shuō),筆者認(rèn)為,結(jié)果的保守性主要來(lái)自兩個(gè)方面:一是LK泛函的構(gòu)造仍不合理,二是所構(gòu)造的LK泛函對(duì)時(shí)間的導(dǎo)數(shù)被過(guò)度放大或LK泛函對(duì)時(shí)間導(dǎo)數(shù)的上確界沒(méi)找到.因此,為了得到保守性更低的動(dòng)力學(xué)行為判據(jù),構(gòu)造一個(gè)恰當(dāng)?shù)腖K泛函就尤為重要.而為了構(gòu)造一個(gè)適當(dāng)?shù)腖K泛函,有兩種途徑:一是通過(guò)在狀態(tài)指標(biāo)項(xiàng)里增加時(shí)滯項(xiàng)來(lái)擴(kuò)充LK泛函,二是通過(guò)分割時(shí)滯區(qū)間來(lái)構(gòu)造LK泛函,但不存在一般性的構(gòu)造方法.此外,就是巧妙處理所構(gòu)造的LK泛函對(duì)時(shí)間的導(dǎo)數(shù).處理這個(gè)問(wèn)題有兩個(gè)主要辦法:利用各種積分不等式和增加自由權(quán)矩陣.通常情況下,可以通過(guò)引入零等式和S過(guò)程的方法來(lái)增加自由權(quán)矩陣.如何通過(guò)在LK泛函的狀態(tài)指標(biāo)項(xiàng)里(如三次積分)增加一些時(shí)滯項(xiàng)來(lái)構(gòu)建LK泛函,仍然是個(gè)值得探索的問(wèn)題.并且,在新構(gòu)造的LK泛函中,怎樣有效地增加自由權(quán)矩陣和利用最新的積分不等式尋找更低保守性的結(jié)果,依然是個(gè)有趣的挑戰(zhàn).

5.4 其他動(dòng)力學(xué)行為分析與控制

上面主要綜述了時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性與鎮(zhèn)定、耗散性與無(wú)源性和同步控制等動(dòng)力學(xué)行為,應(yīng)該說(shuō),這幾個(gè)方面研究得比較充分,取得了豐碩成果.但如前所述,時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為包括很多方面的內(nèi)容,其中不乏有至今無(wú)人研究的方面,如可控性、可觀性和解耦等,另外,有些方面研究也處于起步階段,成果非常有限,仍值得人們?nèi)ヌ剿?下面對(duì)時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)其他方面的研究作簡(jiǎn)單綜述.

Guo等[17]分析了時(shí)滯憶阻細(xì)胞神經(jīng)的不變形和吸引性,得到該系統(tǒng)有界和全局吸引的充分條件,同時(shí)指出,n階基于憶阻器的細(xì)胞神經(jīng)網(wǎng)絡(luò)位于分段線性激活函數(shù)飽和區(qū)域內(nèi)的平衡點(diǎn)個(gè)數(shù)為這個(gè)數(shù)量是不含憶阻器的細(xì)胞神經(jīng)網(wǎng)絡(luò)平衡點(diǎn)的倍,使得基于憶阻器的細(xì)胞神經(jīng)網(wǎng)絡(luò)的存儲(chǔ)能力急劇增大,從理論上解釋了憶阻神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的存儲(chǔ)能力.文獻(xiàn)[99]借助M-矩陣?yán)碚?、微分包含理論和Mawhin-like收斂定理,證明了一類時(shí)變時(shí)滯的憶阻Cohen-Grossberg 神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)系統(tǒng)周期解的存在性.文獻(xiàn)[100]討論了一類離散時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)H∞狀態(tài)估計(jì)問(wèn)題.Liu 等[101]研究了一類隨機(jī)時(shí)滯離散憶阻神經(jīng)網(wǎng)絡(luò)H∞狀態(tài)估計(jì)問(wèn)題;Rakkiyappan 等[102]基于無(wú)源性理論,討論了一類時(shí)滯憶阻遞歸神經(jīng)網(wǎng)絡(luò)狀態(tài)估計(jì)問(wèn)題;Li等[103]研究了一類時(shí)滯分?jǐn)?shù)階的憶阻神經(jīng)網(wǎng)絡(luò)非脆弱的狀態(tài)估計(jì);Liu 等[104]解決了一類混合時(shí)滯離散憶阻神經(jīng)網(wǎng)絡(luò)H∞狀態(tài)估計(jì)問(wèn)題;Xiao等[105]提出了一類時(shí)滯憶阻神經(jīng)系統(tǒng)模型,討論了其穩(wěn)定性和分岔問(wèn)題,特別是分岔問(wèn)題的解決豐富了時(shí)滯憶阻神經(jīng)系統(tǒng)動(dòng)力分岔的研究.

5.5 時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)行為與控制研究新方向

除了整數(shù)階的憶阻神經(jīng)網(wǎng)絡(luò),近期人們轉(zhuǎn)向分?jǐn)?shù)階的憶阻神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為研究.當(dāng)然,分?jǐn)?shù)階的憶阻神經(jīng)網(wǎng)絡(luò)比整數(shù)階復(fù)雜,需要更深?yuàn)W的分?jǐn)?shù)階的微積分的數(shù)學(xué)知識(shí).Chen 等[83]借助Lyapunov方法研究了基于憶阻器的分?jǐn)?shù)階神經(jīng)網(wǎng)絡(luò)的Mittag-Leffler穩(wěn)定性和同步問(wèn)題;文獻(xiàn)[84]研究了一類分?jǐn)?shù)階憶阻神經(jīng)網(wǎng)絡(luò)有限時(shí)間同步問(wèn)題;張瑋瑋等[106]研究了一類基于憶阻器分?jǐn)?shù)階時(shí)滯神經(jīng)網(wǎng)絡(luò)的修正投影同步問(wèn)題;Rakkiyappan等[107]借助廣義Gronwall不等式和Laplace變換研究了分?jǐn)?shù)階復(fù)數(shù)值的憶阻神經(jīng)網(wǎng)絡(luò)的有限時(shí)間穩(wěn)定性問(wèn)題;Wu等[108]研究了一類分?jǐn)?shù)階的憶阻神經(jīng)網(wǎng)絡(luò)全局Mittag-Leffler鎮(zhèn)定問(wèn)題.

起初,人們研究的時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)都是一階的,最近有學(xué)者開(kāi)始研究高階(二階)時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò),即帶有慣性項(xiàng)的時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò),如Zhang 等在文獻(xiàn)[109?110]中,建立了一類二階時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)模型.對(duì)于高階(二階)憶阻神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為的分析,一般都采用降階法,如文獻(xiàn)[109,111?117].近期學(xué)者開(kāi)始尋找新的方法討論這類問(wèn)題,這種新方法直接處理高階(二階)憶阻神經(jīng)網(wǎng)絡(luò)而不需要降階,所以稱之為非降階法,如文獻(xiàn)[110,118?119].Tu 等[112]用降階方法討論了一類二階中立型慣性憶阻神經(jīng)網(wǎng)絡(luò)的全局耗散性問(wèn)題;Wang 等[113]采用降階法研究了一類二階混合時(shí)滯的慣性神經(jīng)網(wǎng)絡(luò)全局拉格朗日穩(wěn)定;Huang 等[115]借助降階法,通過(guò)數(shù)據(jù)抽樣控制,研究了一類二階慣性憶阻神經(jīng)網(wǎng)絡(luò)的有限時(shí)間的同步控制問(wèn)題.文獻(xiàn)[110]采用非降階法討論了一類帶慣性項(xiàng)的二階時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)全局鎮(zhèn)定問(wèn)題,通過(guò)構(gòu)造新的Lyapunov泛函和設(shè)計(jì)狀態(tài)反饋控制器,得到了使其全局鎮(zhèn)定的判據(jù);Zhang等[119]基于非光滑分析、Lyapunov穩(wěn)定性理論和自適應(yīng)控制理論,運(yùn)用非降階法討論了一類二階混合時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)的鎮(zhèn)定問(wèn)題,得到了保證這類系統(tǒng)全局鎮(zhèn)定的一些新結(jié)論.筆者認(rèn)為,非降階法優(yōu)于降階法,降階法借助變量代換來(lái)實(shí)現(xiàn),變量代換處理這種右端不連續(xù)的憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng),得到的結(jié)果嚴(yán)密性會(huì)弱一些.

此外,鑒于憶阻多層神經(jīng)網(wǎng)絡(luò)(Memristive multilayer neural networks,MMNN)在邏輯運(yùn)算、圖像處理、模式識(shí)別等領(lǐng)域應(yīng)用前景十分廣闊[120?122],人們的研究也由憶阻單層神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)向憶阻多層神經(jīng)網(wǎng)絡(luò)[123?125].不過(guò),憶阻多層神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)目前仍然是一個(gè)難題.

筆者最近從事網(wǎng)絡(luò)系統(tǒng)的自適應(yīng)容錯(cuò)跟蹤控制[126?127]及有限時(shí)間的一致性控制[128?129]等方面的研究,希望下一步將這些控制推廣到時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng),得到相應(yīng)的結(jié)果.

6 總結(jié)與展望

基于憶阻器的人工神經(jīng)網(wǎng)絡(luò)具有一般人工神經(jīng)網(wǎng)絡(luò)無(wú)法比擬的優(yōu)點(diǎn),設(shè)計(jì)滿足人們實(shí)際需要的憶阻神經(jīng)網(wǎng)絡(luò)是一項(xiàng)重要的工作.為了完成這項(xiàng)工作,必須搞清憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng)的動(dòng)力學(xué)行為.由于憶阻神經(jīng)網(wǎng)絡(luò)不同于常規(guī)的神經(jīng)網(wǎng)絡(luò),它是狀態(tài)依賴的切換系統(tǒng),其右端是非連續(xù)的,加上時(shí)滯的存在,大大增加了動(dòng)力學(xué)行為的分析難度,導(dǎo)致人類對(duì)憶阻神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)的研究仍然處于初級(jí)階段,至今還沒(méi)有一個(gè)完善的普適性理論分析其動(dòng)力學(xué)行為特性.

本文綜述了基于憶阻器的時(shí)滯神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)與控制問(wèn)題,重點(diǎn)綜述了其穩(wěn)定性、耗散性與無(wú)源性和同步控制問(wèn)題.事實(shí)上,時(shí)滯憶阻神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)行為包括很多方面,如可控性、可觀性、穩(wěn)定性(含鎮(zhèn)定)、吸引性、收斂性、周期震蕩性、耗散性、無(wú)源性、一致性、魯棒性、自適應(yīng)性、狀態(tài)估計(jì)、分岔和混沌、分形,同步控制和跟蹤控制,還有同宿軌道性態(tài)分析、濾波等方面.

人工神經(jīng)網(wǎng)絡(luò)理論發(fā)展至今,已經(jīng)日趨成熟,其硬件上的實(shí)現(xiàn)有望構(gòu)成非馮·諾伊曼結(jié)構(gòu)的計(jì)算機(jī)系統(tǒng).由于晶體管工藝的局限性,傳統(tǒng)計(jì)算機(jī)系統(tǒng)中基于晶體管的集成電路體積已經(jīng)縮小到了極限,很難再繼續(xù)滿足摩爾定律.用新型材料的電路設(shè)備取代晶體管已成為必然,也是研究熱點(diǎn).憶阻器作為最有希望取代晶體管的新型設(shè)備之一,具有許多優(yōu)良的性質(zhì),比如非易失性、高集成度、低功耗、良好的可擴(kuò)展性等,被用來(lái)研發(fā)新型的存儲(chǔ)器和神經(jīng)計(jì)算系統(tǒng).憶阻單層神經(jīng)網(wǎng)絡(luò)在芯片上的實(shí)現(xiàn)有望徹底改變計(jì)算機(jī)處理信息的方式,構(gòu)建非馮·諾伊曼計(jì)算機(jī)系統(tǒng).而憶阻多層神經(jīng)網(wǎng)絡(luò)應(yīng)用十分廣泛,可用于邏輯運(yùn)算、圖像處理、模式識(shí)別等領(lǐng)域.不過(guò)憶阻多層神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)仍然是一個(gè)難題.

目前,國(guó)內(nèi)外關(guān)于憶阻器的研究主要集中在三個(gè)方面:1)憶阻器的制造技術(shù),即尋找經(jīng)濟(jì)、實(shí)惠的材料制造具有憶阻特性的器件;2)由憶阻器構(gòu)建的系統(tǒng)的動(dòng)力學(xué)分析及其控制;3)將各種憶阻器配置到傳統(tǒng)的電路中,構(gòu)建滿足人們需要的憶阻電路.

隨著實(shí)現(xiàn)憶阻功能的模型與機(jī)理的不斷提出,憶阻器已在模型分析、基礎(chǔ)電路設(shè)計(jì)、電子器件和集成電路設(shè)計(jì)以及生物神經(jīng)記憶行為仿真等領(lǐng)域嶄露頭角.我們充分相信,隨著更多憶阻模型與機(jī)理不斷建立和揭示,相關(guān)結(jié)果必將給憶阻器和憶阻網(wǎng)絡(luò)系統(tǒng)的應(yīng)用帶來(lái)廣闊的前景.我們認(rèn)為,對(duì)憶阻器和憶阻神經(jīng)網(wǎng)絡(luò)系統(tǒng)更深入的研究,將為電路、信息材料、人工智能等領(lǐng)域帶來(lái)新的發(fā)展機(jī)遇.