許楠，劉英楠，汪秀會(huì)

（1.黑龍江八一農(nóng)墾大學(xué)信息技術(shù)學(xué)院，大慶163319；2.沈陽市遼中縣會(huì)計(jì)核算中心）

1 帶有徑向基函數(shù)的暫態(tài)混沌神經(jīng)元模型

以Chen’s混沌神經(jīng)元為基礎(chǔ)模型，將其單調(diào)遞增的激勵(lì)函數(shù)改為由Sigmoid函數(shù)與逆多二次函數(shù)加和形式，體現(xiàn)出非單調(diào)性以及較好的函數(shù)逼近能力，帶有徑向基函數(shù)的暫態(tài)混沌單神經(jīng)元模型表示如下：

其中x（t）為神經(jīng)元在時(shí)刻t的輸出，該激勵(lì)函數(shù)由S1（u）和S2（u）兩部分加和構(gòu)成；y（t）為神經(jīng)元在時(shí)刻t的內(nèi)部狀態(tài)；k為神經(jīng)隔膜的阻尼因子，0≤k≤1，表示記憶或遺忘內(nèi)部狀態(tài)的能力；ε0是Sigmoid函數(shù)的陡度參數(shù)；z（t）是自反饋連接項(xiàng)；β是模擬退火參數(shù)，其值直接影響退火速度；I0為一正參數(shù)；δ是徑向基函數(shù)的擴(kuò)展常數(shù)或稱寬度；α為逆多二次函數(shù)的參數(shù)。

神經(jīng)元的倒分叉圖可以直觀表明混沌現(xiàn)象的搜索過程以及收斂時(shí)間等情況，而Lyapunov指數(shù)作為沿軌道長期平均的結(jié)果，是一種整體特征，其值是否大于零可以判斷該時(shí)間序列是否為混沌狀態(tài)。下面通過這兩方面來考查該神經(jīng)元的混沌動(dòng)力學(xué)行為特性。

當(dāng)參數(shù)選取ε0=0.02，y（1）=0.2，z（1）=0.5，k=0.95，I0=0.9，δ=0.9，α=10固定不變，當(dāng)分別選取β=0.000 2與β=0.000 3時(shí)神經(jīng)元的倒分叉圖和最大Lyapunov指數(shù)時(shí)間演化圖如圖1至圖4所示。

圖1 β=0.000 2時(shí)神經(jīng)元倒分叉圖Fig.1 State bifurcation figure of the neuron whenβ=0.000 2

圖2 β=0.000 2時(shí)最大Lyapunov指數(shù)時(shí)間演化圖Fig.2 Time evolution figure of themaximal Lyapunovexponentof the neuron whenβ=0.000 2

圖3 β=0.000 3時(shí)神經(jīng)元倒分叉圖Fig.3 State bifurcation figure of the neuron whenβ=0.000 3

圖4 β=0.000 3時(shí)最大Lyapunov指數(shù)時(shí)間演化圖Fig.4 Time evolution figure of themaximal Lyapunovexponentof the neuron whenβ=0.000 3

由上面4圖可知：神經(jīng)元的倒分叉明顯依賴于模擬退火參數(shù)β的取值，兩次倒分叉過程β值僅僅相差0.000 1，而收斂時(shí)間卻相差甚遠(yuǎn)，β=0.000 2時(shí)神經(jīng)元混沌搜索在時(shí)間為4 100左右達(dá)到平衡，β=0.000 3時(shí)神經(jīng)元混沌搜索在時(shí)間為2 750左右達(dá)到平衡，這也說明了混沌對初值的極度敏感性。由式（3）不難分析出模擬退火參數(shù)β對自反饋連接項(xiàng)z（t）的影響：β為正值，因此z（t）在全過程中是不斷衰減的，而下降速度由β控制，β越大衰減越快，β越小衰減越慢，當(dāng)z（t）最終趨近于0值時(shí)，結(jié)束混沌搜索，網(wǎng)絡(luò)逐漸達(dá)到穩(wěn)定的平衡點(diǎn)，在倒分叉圖中顯示為收斂點(diǎn)，在Lyapunov指數(shù)時(shí)間演化圖中顯示為指數(shù)值在0值附近。

若想充分利用混沌的全局搜索特性，則β取值不能過大，那樣會(huì)導(dǎo)致z（t）對網(wǎng)絡(luò)影響太弱，收斂速度過快，容易陷入局部極小點(diǎn)；但β取值也不能過小，那樣收斂速度太慢，影響求解效率，該問題在下面的討論中被稱為“模擬退火參數(shù)過大或過小問題”。

2 分段線性模擬退火策略

分段線性模擬退火策略可以用來解決“模擬退火參數(shù)過大或過小問題”，該思想的關(guān)鍵在于分段退火的分段點(diǎn)，該點(diǎn)應(yīng)處于結(jié)束混沌搜索并開始進(jìn)入收斂過程前，且應(yīng)保證狀態(tài)穩(wěn)定，通常此分段點(diǎn)位于zi（1）/2附近[2]，分段線性模擬退火策略描述如公式（7）：

其中：β1，β2為常數(shù)，0＜β1＜β2＜1，稱η為模擬退火的分段點(diǎn)。

現(xiàn)將分段線性模擬退火策略應(yīng)用于上述神經(jīng)元模型，需用如下所示的公式（8）代替公式（3）：

當(dāng)參數(shù)選取ε0=0.02，y（1）=0.2，z（1）=0.5，k=0.95，I0=0.9，δ=0.9，α=10，β1=0.000 2，β2=0.000 3，η=0.6該初始條件下神經(jīng)元的倒分岔圖和最大Lyapunov指數(shù)時(shí)間演化圖如圖5、圖6所示。

圖5 β1=0.000 2，β2=0.000 3時(shí)神經(jīng)元倒分叉圖Fig.5 State bifurcation figure of the neuron whenβ1=0.000 2 andβ2=0.000 3

圖6 β1=0.000 2，β2=0.000 3時(shí)最大Lyapunov指數(shù)時(shí)間演化圖Fig.6 Time evolution figure of themaximal Lyapunov exponent of the neuron whenβ1=0.000 2 andβ2=0.000 3

由以上兩圖可知：將模擬退火過程分為兩部分，分段點(diǎn)選取η=0.6，即當(dāng)zi（t）＞0.3時(shí)采用β1=0.000 2，此時(shí)模擬退火參數(shù)較小但網(wǎng)絡(luò)具有較高的退火溫度，能夠獲得豐富的混沌動(dòng)力學(xué)行為；當(dāng)zi（t）＜0.3時(shí)選取β2=0.000 3，此時(shí)模擬退火參數(shù)較大但網(wǎng)絡(luò)的退火溫度較低，混沌行為漸趨穩(wěn)定，能夠快速收斂到平衡點(diǎn)。

從圖形整體來看，未采用分段退火策略時(shí)，β=0.000 2情況下的收斂點(diǎn)在4 100左右，β=0.000 3情況下收斂點(diǎn)在2 750左右，采用分段退火策略后收斂點(diǎn)在3 600左右，介于前兩者之間，說明該方案既能夠充分利用混沌的全局搜索特性，從而跳出局部極小點(diǎn)限制找到全局最優(yōu)解，又能夠以較快的速度收斂，有效解決了模擬退火參數(shù)取值不宜過大或過小的局限，從而驗(yàn)證了該策略的可行性及有效性。

3 帶有分段退火策略的徑向基混沌神經(jīng)網(wǎng)絡(luò)在TSP中的應(yīng)用

3.1 帶有分段退火策略的徑向基混沌神經(jīng)網(wǎng)絡(luò)模型

將分段線性模擬退火策略引入一種徑向基混沌神經(jīng)網(wǎng)絡(luò)，在上述改進(jìn)后的徑向基混沌神經(jīng)元模型基礎(chǔ)上建立一種新的網(wǎng)絡(luò)模型，將其描述如下：

網(wǎng)絡(luò)模型中i=1，2，3，∧，n；yi（t），zi（t）分別為內(nèi)部狀態(tài)和自反饋連接項(xiàng)；xi（t）為網(wǎng)絡(luò)的輸出即激勵(lì)函數(shù)，在此采用如公式（4）～（6）所示的兩函數(shù)加和形式；β1是第一模擬退火參數(shù)，β2是第二模擬退火參數(shù)，二者一同控制退火溫度；wij為從神經(jīng)元j到神經(jīng)元i的連接權(quán)值，且wij=wji，wii=0；k為神經(jīng)隔膜的阻尼因子，0≤k≤1；Ii為神經(jīng)元i的輸入偏差；ε0是激勵(lì)函數(shù)的陡度參數(shù)；I0為一正參數(shù)；γ為輸入的正的尺度參數(shù)，控制能量函數(shù)對網(wǎng)絡(luò)的影響程度，過大表示能量函數(shù)影響太強(qiáng)，網(wǎng)絡(luò)不易收斂，過小表示能量函數(shù)影響太弱，網(wǎng)絡(luò)易陷入局部極小點(diǎn)，因此其值應(yīng)選取適當(dāng)。

3.2 解決TSP問題

旅行商最短路徑問題（TSP）可以描述為：給定n個(gè)城市和每兩城市之間的距離，求一條最短路徑，該路徑經(jīng)過每個(gè)城市當(dāng)且僅當(dāng)一次。所求最短路徑并滿足TSP問題約束條件的一個(gè)能量函數(shù)可以有如下公式描述[3]，其中，Vxi為神經(jīng)元輸出，代表第x個(gè)城市在第i次序上被訪問，dxy為城市x、y之間的距離。由于行列式的對稱性，系數(shù)A=B，一個(gè)全局最小的能量函數(shù)值代表一條最短的有效路徑。

10城市坐標(biāo)歸一化為：（0.4，0.443 9）；（0.243 9，0.146 3）；（0.170 7，0.229 3）；（0.229 3，0.716）；（0.517 1，0.941 4）；（0.873 2，0.653 6）；（0.687 8，0.521 9）；（0.848 8，0.360 9）；（0.668 3，0.253 6）；（0.619 5，0.263 4），該10城市最短路徑值為2.677 6，最短路徑如圖7所示。

圖7 10城市TSP問題的最短路徑Fig.7 The optimal distance of 10-city TSP

將帶有分段線性模擬退火策略的徑向基混沌神經(jīng)網(wǎng)絡(luò)應(yīng)用于TSP問題的求解，現(xiàn)從分段點(diǎn)以及分段模擬退火參數(shù)兩個(gè)方面對其進(jìn)行考查，并分析其可行性及各參數(shù)的作用。

首先研究分段點(diǎn)η對該方案對求解10城市TSP的影響。參數(shù)選取A=1.5，D=0.5，ε0=0.02，z（1）=0.5， k=1，I0=0.9，δ=0.9，α=10，β1=0.002，β2=0.003固定不變，不同分段點(diǎn)η時(shí)，200次隨機(jī)分配初始值的仿真結(jié)果如表1所示。

表1 在不同分段點(diǎn)η下200次隨機(jī)分配初始值的仿真試驗(yàn)數(shù)據(jù)Table 1 The results of 200 different internal conditions for eachη

由表1可知，無論分段點(diǎn)選取在什么位置，合法路徑比例均可保證100%，但尋優(yōu)能力則隨著分段點(diǎn)的選取有所不同，η=0.1時(shí)，即當(dāng)zi（t）＞0.05時(shí)使用β1=0.002，只有當(dāng)zi（t）≤0.05時(shí)使用β2=0.003，網(wǎng)絡(luò)過度傾向于全局搜索，雖然最優(yōu)解的比例達(dá)到95%以上，但收斂速度過慢，導(dǎo)致解決TSP過程耗時(shí)太長；當(dāng)η在區(qū)間[0.2，0.4]時(shí)，最優(yōu)路徑比例可以達(dá)到90%以上，卻小于η=0.5時(shí)的最優(yōu)路徑比例，說明此時(shí)分段點(diǎn)的選取不是最佳狀態(tài)，且時(shí)間開銷過大，所以此區(qū)間的分段點(diǎn)不可取；當(dāng)η=0.5時(shí)，zi（t）＞0.25時(shí)使用β1=0.002，zi（t）≤0.25時(shí)使用β2=0.003，分段點(diǎn)位置與網(wǎng)絡(luò)趨近平衡的臨界狀態(tài)位置接近，因此，最優(yōu)比可以達(dá)到97%的同時(shí)，耗時(shí)40.3 s比η=0.1時(shí)效率高；當(dāng)η在區(qū)間[0.6，0.9]時(shí)，此時(shí)網(wǎng)絡(luò)傾向于過度收斂，使得網(wǎng)絡(luò)不能充分利用混沌的全局搜索特性，耗時(shí)雖然比η=0.5時(shí)要短，但最優(yōu)路徑比例沒有η=0.5時(shí)高。

經(jīng)上述分析，在其他參數(shù)初始值不變的前提下，帶有分段線性模擬退火策略的徑向基混沌神經(jīng)網(wǎng)絡(luò)在解決TSP問題時(shí)選取η=0.5作為分段點(diǎn)比較恰當(dāng)，但需說明一點(diǎn)，分段點(diǎn)的選擇與第一模擬退火參數(shù)β1和第二模擬退火參數(shù)β2聯(lián)系緊密，當(dāng)β1與β2初始值改變時(shí)，分段點(diǎn)會(huì)隨之變化。

下面研究當(dāng)分段點(diǎn)一定情況下，第二模擬退火參數(shù)β2對網(wǎng)絡(luò)求解10城市TSP的影響。參數(shù)選取A=1.5，D=0.5，ε0=0.02，z（1）=0.5，k=1，I0=0.9，δ=0.9，α=10，η=0.5，β1=0.002固定不變，不同第二模擬退火參數(shù)β2（β2＞β1）時(shí)，200次隨機(jī)分配初始值的仿真結(jié)果如表2所示。

表2 在不同參數(shù)β2時(shí)200次隨機(jī)分配初始值的仿真試驗(yàn)數(shù)據(jù)Table 2 The results of 200 different internal conditions for eachβ2

由表2可知，在分段模擬退火策略的思想中，β2主要用于控制網(wǎng)絡(luò)的收斂速度，β2的不斷增大，使得收斂速度逐漸加快，耗時(shí)也就隨之減小；當(dāng)網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài)前，即從分段點(diǎn)到網(wǎng)絡(luò)真正達(dá)到穩(wěn)定狀態(tài)的一段時(shí)間，此時(shí)由β2控制網(wǎng)絡(luò)的模擬退火溫度，比β1的退火速度快，致使網(wǎng)絡(luò)的混沌搜索不充分，最優(yōu)解的獲得要低于β1控制時(shí)的數(shù)量，且β2越大，混沌的全局搜索特性越不能得以充分發(fā)揮，因此表2中可以看到隨著β2的增大，最優(yōu)路徑比例不斷下降。

4 結(jié)論

將分段線性模擬退火策略引入到一種徑向基混沌神經(jīng)網(wǎng)絡(luò)中，分析了其混沌神經(jīng)元的動(dòng)力學(xué)特性，驗(yàn)證了該模型在解決“模擬退火參數(shù)過大或過小問題”的有效性，將該網(wǎng)絡(luò)應(yīng)用于10城市旅行商最短路徑問題，仿真實(shí)驗(yàn)結(jié)果表明，如果分段點(diǎn)的選取恰當(dāng)，那么網(wǎng)絡(luò)解決該問題可以充分利用混沌的全局搜索特性，并且能以較快速度收斂，既保證獲得最優(yōu)解的數(shù)量又可以保證求解效率。

［1］CHEN L，AIHARA K.Chaotic simulated annealing by a neural network model with transient chaos［J］.Neural networks，1995，8（6）：915-930.

［2］謝傳泉，何晨.混沌神經(jīng)網(wǎng)絡(luò)模型中的模擬退火策略［J］.上海交通大學(xué)學(xué)報(bào)，2003，37（3）：323-326.

［3］Hopfield J.Neural networks and physical systems with emergent collective computational abilities［J］.Proceedings of the National Academy of Sciences，1982，79：2554-2558.

［4］孫永厚，袁泉，王智敏.神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)的結(jié)合及其應(yīng)用研究［J］.黑龍江八一農(nóng)墾大學(xué)學(xué)報(bào)，1998（2）：49-52.

［5］岳海燕.小波混沌神經(jīng)網(wǎng)絡(luò)模擬退火參數(shù)研究［D］.哈爾濱：哈爾濱工程大學(xué)，2007.

［6］徐耀群，秦峰，辛海濤.傅里葉混沌神經(jīng)網(wǎng)絡(luò)模型中的模擬退火策略［J］.哈爾濱商業(yè)大學(xué)學(xué)報(bào)：自然科學(xué)版，2009，25（3）：303-308.

［7］孫明，趙琳，徐耀群，等.一種求解優(yōu)化問題的新型小波混沌神經(jīng)網(wǎng)絡(luò)［J］.計(jì)算機(jī)工程與應(yīng)用，2010，4（11）：46-49.

［8］李薪宇，呂炳朝.暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)中的模擬退火策略優(yōu)化［J］.計(jì)算機(jī)應(yīng)用，2005，10（10）：198-200.

［9］徐耀群，李玉壘，秦相林.白噪聲混沌神經(jīng)網(wǎng)絡(luò)的模擬退火策略［J］.哈爾濱商業(yè)大學(xué)學(xué)報(bào)：自然科學(xué)版，2010，12（15）：56-59.

［10］許楠，徐耀群.反三角函數(shù)混沌神經(jīng)網(wǎng)絡(luò)的模擬退火策略［J］.哈爾濱商業(yè)大學(xué)學(xué)報(bào)：自然科學(xué)版，2011，27（6）：814-818.