摘 ?要:本文基于實(shí)值神經(jīng)網(wǎng)絡(luò)模型,研究了復(fù)值神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)分析。利用不動(dòng)點(diǎn)定理以及不等式技術(shù),討論了復(fù)值神經(jīng)網(wǎng)絡(luò)平衡點(diǎn)的存在性以及穩(wěn)定性問題,給出了網(wǎng)絡(luò)平衡點(diǎn)存在的充分判據(jù)并證明了部分平衡點(diǎn)的局部穩(wěn)定性。
關(guān)鍵詞:高斯函數(shù),指數(shù)穩(wěn)定性,不動(dòng)點(diǎn)定理
1943年,美國(guó)神經(jīng)生理學(xué)家McCulloch和數(shù)學(xué)家Pitts提出了神經(jīng)元的MP模型,奠定了計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)。人工神經(jīng)網(wǎng)絡(luò)是一種模仿人腦結(jié)構(gòu)及其功能的智能信息處理系統(tǒng),由于其高容錯(cuò)率,學(xué)習(xí)能力強(qiáng)以及自適應(yīng)能力強(qiáng)等特點(diǎn),已成功應(yīng)用于機(jī)器學(xué)習(xí),優(yōu)化計(jì)算,自動(dòng)控制等多個(gè)領(lǐng)域。
在利用神經(jīng)網(wǎng)絡(luò)解決實(shí)際問題中,穩(wěn)定性是動(dòng)力系統(tǒng)研究的關(guān)鍵。眾所周知,神經(jīng)網(wǎng)絡(luò)穩(wěn)定性問題與激活函數(shù)的類型密切相關(guān)。在現(xiàn)有的文獻(xiàn)中討論的大多是分段線性或單調(diào)不減的激活函數(shù),連續(xù)非單調(diào)線性激活函數(shù)的穩(wěn)定性問題,如文獻(xiàn)[1]研究了帶有分段線性激活函數(shù)的合作神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性。文獻(xiàn)[2]研究了帶有2r 個(gè)拐點(diǎn)、單調(diào)不減分段線性函數(shù)的神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性。文獻(xiàn)[3]研究了帶有非單調(diào)分段線性函數(shù)的神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性。研究發(fā)現(xiàn),神經(jīng)網(wǎng)絡(luò)對(duì)于既非單調(diào)也非線性的激活函數(shù)的討論較少,高斯函數(shù)是一種既非單調(diào)也非線性的徑向基函數(shù),其網(wǎng)絡(luò)具有快速學(xué)習(xí)能力,已被廣泛應(yīng)用于分類,預(yù)測(cè),函數(shù)近似等眾多領(lǐng)域。
本文研究一類帶有高斯函數(shù)的復(fù)值神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為,利用Brouwers不動(dòng)點(diǎn)定理及不等式技術(shù)得出帶有高斯激活函數(shù)的復(fù)值神經(jīng)網(wǎng)絡(luò)平衡點(diǎn)存在的充分判據(jù)以及穩(wěn)定性判據(jù)。
即平衡點(diǎn) 在 是局部穩(wěn)定的。由 的任意性可知,帶有高斯激活函數(shù)的CNNs在 中有 個(gè)局部穩(wěn)定的平衡點(diǎn)。定理證明完成。
參考文獻(xiàn)
[1] ?M. Marco,M. Forti,M. Grazzini and L. Pancioni.(2012)Limit set dichotomy and multistability for a class of cooperative neural networks with delays. IEEE Transactions on Neural Networks and Learning Systems,23(9):1473–1485.
[2] ?Z. Zeng,T. Huang and W. Zheng.(2010)Multistability of recurrent neural networks with time-varying delays and the piecewise linear activation function. IEEE Transactions on Neural Networks,21(8):1371– 1377.
[3] ?L. Wang and T. Chen.(2012)Multistability of neural networks with Mexican-hat-type activation functions.
[4] ?IEEE Transactions on Neural Networks and Learning Systems,23(11):1816–1826.
作者簡(jiǎn)介:查曼玉,(1995,5-),女,安徽省滁州市,碩士研究生,畢業(yè)東南大學(xué)。