巨政權(quán),張海川,滿夢華

(1.軍械工程學(xué)院 靜電與電磁防護(hù)研究所,石家莊 050003;2.解放軍63961部隊 25分隊,北京 100012)

1 引 言

復(fù)雜電磁環(huán)境對電子系統(tǒng)具有很強的干擾作用。然而,生物體的神經(jīng)系統(tǒng)卻表現(xiàn)出非凡的適應(yīng)性與魯棒性[1]。特別是在過量電刺激的作用下,生物體內(nèi)的電磁信號傳遞卻不受影響,個體的生理活動仍然能夠正常運行。若將生物體神經(jīng)系統(tǒng)的這種特性引入到電子電路實踐中,可用于提高電子系統(tǒng)的抗電磁干擾能力以及復(fù)雜電磁環(huán)境下電子裝備的可靠性。傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,ANN)在自適應(yīng)學(xué)習(xí)、信息處理方面具有較好的魯棒性和容錯能力[2-5],但在構(gòu)建具有生物神經(jīng)系統(tǒng)特性的電子系統(tǒng)時,其具有以下局限性:一是傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型與電子電路之間沒有較好的對等映射關(guān)系;二是傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型的權(quán)值變換硬件實現(xiàn)可行性較差。

為解決上述問題,本文借鑒傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)設(shè)計架構(gòu),提出了一種具有較強自組織特性的神經(jīng)網(wǎng)絡(luò)模型。該模型與電子電路具有較好的對等映射關(guān)系。后續(xù)實驗也證明了應(yīng)用該模型進(jìn)行權(quán)值變換硬件實現(xiàn)的可行性。而且,基于該模型,可較為方便地實現(xiàn)各種功能電路,并使得實現(xiàn)的電路整體具有一定的自組織特性,為后續(xù)實現(xiàn)具有自修復(fù)、自適應(yīng)特性的電路提供了理論和技術(shù)基礎(chǔ)支撐。

2 自組織神經(jīng)網(wǎng)絡(luò)模型的構(gòu)建

2.1 神經(jīng)元模型[6-8]

神經(jīng)元模型由加權(quán)變換、激勵變換兩部分組成,如圖1所示。G(·)和 f(·)分別表示加權(quán)變換和激勵變換函數(shù)。向量P=(p1,p2,…,pm)為神經(jīng)元輸入向量,A=(a1,a2,…,at)為激勵向量,t為激勵參數(shù)量。A=G(P)=PW,其中 W(W為m×t矩陣,每列均為坐標(biāo)向量)為加權(quán)矩陣,描述了神經(jīng)元對輸入向量的遴選情況。根據(jù)神經(jīng)元在不同狀態(tài)下激勵特性不盡相同的特點,激勵函數(shù)f(·)在此具有可變性。b為神經(jīng)元的激勵輸出,c為神經(jīng)元狀態(tài)函數(shù),用于描述神經(jīng)元的狀態(tài)。當(dāng)c=1時,神經(jīng)元正常;c=0時,神經(jīng)元失效,輸出值恒為0。

圖1 神經(jīng)元模型Fig.1 The neuron model

該模型的數(shù)學(xué)形式可表示為

提出的自組織神經(jīng)網(wǎng)絡(luò)神經(jīng)元與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)神經(jīng)元的主要區(qū)別有兩點:第一,權(quán)值只有0和1兩種情況,即只有斷開、連接兩種狀態(tài);第二,激勵函數(shù)是一個由多個具體函數(shù)組成的函數(shù)群,可根據(jù)具體狀態(tài)激活其中某一函數(shù)。

2.2 神經(jīng)網(wǎng)絡(luò)模型

在自組織神經(jīng)網(wǎng)絡(luò)模型中,借鑒分層前饋方式人工神經(jīng)網(wǎng)絡(luò)模型[2]進(jìn)行網(wǎng)絡(luò)拓?fù)錁?gòu)建,一個由m×n個神經(jīng)元組成的神經(jīng)網(wǎng)絡(luò)如圖2所示。

圖2 自組織神經(jīng)網(wǎng)絡(luò)模型Fig.2 The self-organizing neural networks model

由圖2可知,自組織神經(jīng)系統(tǒng)對信號進(jìn)行分層、并行傳遞,每層輸出包含傳遞信息的所有特征。神經(jīng)元無需知道傳遞信息所有情況,只按照某種既定規(guī)律進(jìn)行信號轉(zhuǎn)化傳輸。神經(jīng)網(wǎng)絡(luò)中權(quán)值矩陣 W確定了神經(jīng)網(wǎng)絡(luò)的邏輯結(jié)構(gòu),若第(i,j)個神經(jīng)元對應(yīng)的參數(shù)為Wi,j、fi,j和ci,j,則整個神經(jīng)網(wǎng)絡(luò)可由權(quán)值矩陣W、功能矩陣F、狀態(tài)矩陣C唯一確定:

若第 k層的輸入向量Pk=(p1,k,p2,k,…,pm,k),輸出向量Bk=(b1,k,b2,k,…,bm,k),則由公式(1)可知,bi,k=ci,kfi,k(PkWi,k),其中 i=1,2,…m。從網(wǎng)絡(luò)拓?fù)淇芍?Pk+1=Bk,k=1,2,…,n,且有P1=(p1,1,p2,1,…,pm,1)為已知初始輸入向量,所以網(wǎng)絡(luò)中的信號流可描述為

式中,i=1,2,…,m;k=1,2,…,n。

2.3 信號在神經(jīng)網(wǎng)絡(luò)中的傳遞過程

在自組織神經(jīng)網(wǎng)絡(luò)模型中,信號在自組織神經(jīng)網(wǎng)絡(luò)中分層并行傳遞,每層對信號的傳遞是一種解釋傳遞,即將上層傳遞的信號“解釋”為下層所能理解的信號。系統(tǒng)輸出與輸入信號不盡相同,但其“解釋”對應(yīng)同一組信息特性,即具有相同物理意義。

神經(jīng)網(wǎng)絡(luò)所傳輸?shù)男盘杹碜宰R別系統(tǒng)輸入信號X=(x1,x2,…,xt)。要對識別信息無失真?zhèn)鬏?則必須有t≤m,即所傳輸信號向量的長度不能大于神經(jīng)網(wǎng)絡(luò)所能傳輸向量的最大長度。若符合無失真?zhèn)鬏斠?可將X直接賦值給P1,即P1=X。

網(wǎng)絡(luò)輸出的生物意義是指將神經(jīng)網(wǎng)絡(luò)中傳輸?shù)挠行盘杺鬏斀o大腦識別的過程。有效輸出信號Y=(y1,y2,…,yk)是指可被大腦接收的信號,是第n層神經(jīng)元輸出的一個真子集,即k≤m,識別所需信號向量長度不能大于網(wǎng)絡(luò)所能傳輸向量的最大長度。網(wǎng)絡(luò)輸出Y=BnV,V為輸出權(quán)值矩陣(每列均為坐標(biāo)向量的m×k矩陣),其物理意義為在第n層神經(jīng)網(wǎng)絡(luò)的輸出中有序篩選出有用信號。結(jié)合公式(2),自組織神經(jīng)網(wǎng)絡(luò)模型的信號傳遞過程可表示為

式中,i=1,2,…,m;k=1,2,…,n。

3 功能電路到神經(jīng)網(wǎng)絡(luò)映射及其自組織實現(xiàn)

3.1 功能電路到神經(jīng)網(wǎng)絡(luò)的映射

一般來說,功能電路由多個基本電路單元(或器件)按照特定的拓?fù)浣Y(jié)構(gòu)連接而成。若將電路輸入(輸出)映射為神經(jīng)網(wǎng)絡(luò)輸入(輸出),基本電路單元(器件)映射為神經(jīng)元,電路連接映射為權(quán)值連接,電路拓?fù)溆成錇樯窠?jīng)網(wǎng)絡(luò)拓?fù)?則電子電路與神經(jīng)網(wǎng)絡(luò)具有較好的對等映射關(guān)系,如圖3所示。

圖3 電子電路與神經(jīng)網(wǎng)絡(luò)的對等映射Fig.3 The mapping between the electronic circuit and the neural networks

圖4給出了由電路功能到神經(jīng)網(wǎng)絡(luò)的映射關(guān)系。易見,在映射過程中,同一種電路功能可由多種電路拓?fù)鋵崿F(xiàn)。同時,同一種電路拓?fù)淇梢詫?yīng)多種空間上的物理實現(xiàn),即基于同功能的電路在同一神經(jīng)網(wǎng)絡(luò)上可通過權(quán)值矩陣和函數(shù)矩陣變換,以多種物理結(jié)構(gòu)加以實現(xiàn),這便是本文中構(gòu)建神經(jīng)網(wǎng)絡(luò)系統(tǒng)進(jìn)行自組織,以及后續(xù)研究利用其實現(xiàn)自修復(fù)、自適應(yīng)電路的物理基礎(chǔ)。

圖4 電路功能到神經(jīng)網(wǎng)絡(luò)的映射Fig.4 The mapping form function to the neural networks

3.2 自組織方法描述

在神經(jīng)網(wǎng)絡(luò)發(fā)生“異?！睍r,其自組織特性是保證系統(tǒng)邏輯拓?fù)洳蛔兒凸δ苷崿F(xiàn)的基礎(chǔ)。此時,神經(jīng)網(wǎng)絡(luò)系統(tǒng)常需要重組,重組步驟為:首先對每層內(nèi)神經(jīng)元隨機生成一個邏輯序號形成一個層邏輯序列,然后再根據(jù)每層中邏輯序列與物理序列的情況完成權(quán)值矩陣與函數(shù)矩陣的變換,即實現(xiàn)系統(tǒng)自組織。

為便于描述,定義 Wk=(W1,k,W2,k,…,Wm,k)、Fk=(f1,k,f2,k,…,fm,k)分別為第 k層所對應(yīng)的權(quán)值矩陣向量和功能函數(shù)向量,V=(V1,V2,…,Vm)為輸出權(quán)值矩陣向量,Vi為輸出權(quán)值矩陣V的第i個行向量,則系統(tǒng)自組織方法可描述如下:

神經(jīng)網(wǎng)絡(luò)整體重組可分解為若干單層重組事件并依次進(jìn)行處理,其變換算法可描述為

需要說明的是,各層隨機產(chǎn)生的神經(jīng)元邏輯序列,相當(dāng)于對其物理序列所構(gòu)建的行向量進(jìn)行多次列變換形成,所以變換矩陣Mi必為某一單位矩陣經(jīng)過相應(yīng)的列變換而來。由于層邏輯序列在整個自組織過程中僅起到橋梁作用,可以考慮直接對單位矩陣E進(jìn)行多次隨機行(列)變換來確定 Mi,即 Mi=rand(E)。從而,神經(jīng)網(wǎng)絡(luò)的自組織過程又可描述為

4 實例分析

下面以2×2乘法器為功能電路,取6×6的網(wǎng)絡(luò)結(jié)構(gòu),本文中提出的自組織神經(jīng)網(wǎng)絡(luò)模型對電子電路的承載和自組織方法可描述如下。

4.1 神經(jīng)元的確定

根據(jù)2×2乘法器特點,可設(shè)計神經(jīng)元為2輸入、1輸出的單元,如圖5所示。

圖5 神經(jīng)元的設(shè)計Fig.5 The neuron designed

圖5中,i、j表示此神經(jīng)元為第j層第i個神經(jīng)元;a、b表示所對應(yīng)的輸入連接第j-1層第a、b神經(jīng)元輸出;c為神經(jīng)元功能函數(shù)標(biāo)號,其中,1為與非,2為或,3為異或,4為與。

4.2 功能電路的實現(xiàn)[9,10]

借助遺傳算法,可求解2×2乘法器承載于6×6神經(jīng)網(wǎng)絡(luò)模型時的一種具體物理實現(xiàn),如圖6所示,其對應(yīng)的電路拓?fù)淙鐖D7所示。

圖6 2×2乘法器的物理實現(xiàn)Fig.6 Physical implementation of the 2×2 multiplier

圖7 2×2乘法器的電路拓?fù)銯ig.7 The topplogy of the 2×2 multiplier

規(guī)定由坐標(biāo)向量組成的m×n維矩陣可用其各列向量對應(yīng)的坐標(biāo)數(shù)表示為[(t1,t2,…,tn)],ti表示其第i個列坐標(biāo)向量的第ti元素為1,則構(gòu)建的神經(jīng)網(wǎng)絡(luò)參數(shù)可描述為

4.3 自組織方法的描述

(1)單層重組,M1=M′,M2=M3=M4=M5=E時,神經(jīng)網(wǎng)絡(luò)參數(shù)為

(2)相鄰兩個層重組,M1=E,M2=M3=M′,M4=M5=E,神經(jīng)網(wǎng)絡(luò)參數(shù)為

(3)所有層重組,M1=M2=M3=M4=M5=M′,神經(jīng)網(wǎng)絡(luò)參數(shù)為

通過對5種情況下的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行簡化,消除冗余神經(jīng)元,可以發(fā)現(xiàn):經(jīng)過不同重組方式后,神經(jīng)網(wǎng)絡(luò)所對應(yīng)的電路邏輯拓?fù)浔３忠恢?電路功能唯一。因此,可以得出結(jié)論:所設(shè)計的自組織神經(jīng)網(wǎng)絡(luò)模型對功能電路具有較好的承載性和自組織特性。

5 結(jié)束語

自組織神經(jīng)網(wǎng)絡(luò)模型的構(gòu)建是將生物自組織特性引入電子電路設(shè)計實踐的一種嘗試,其自組織過程實質(zhì)就是在電路功能不變情況下,基于網(wǎng)絡(luò)拓?fù)溥M(jìn)行不同物理實現(xiàn)的相互轉(zhuǎn)換。當(dāng)網(wǎng)絡(luò)中某個神經(jīng)元的某個功能受損或者神經(jīng)元損毀,可通過神經(jīng)網(wǎng)絡(luò)的自組織特性,利用同層中其它神經(jīng)元的冗余功能或者層中的冗余神經(jīng)元進(jìn)行替代,從而確保電路邏輯拓?fù)涞姆€(wěn)定性及功能的完備性。在此基礎(chǔ)上可開展后續(xù)研究,進(jìn)一步實現(xiàn)電子系統(tǒng)的自修復(fù)和自適應(yīng)特性,提高復(fù)雜電磁環(huán)境下電子裝備的可靠性。

[1] 劉尚合,原亮,褚杰.電磁仿生學(xué)——電磁防護(hù)研究的新領(lǐng)域[J].自然雜志,2009,31(1):1-7.LIU Shang-he,YU AN Liang,CHU Jie.Electromagnetic Bionics-A New Study Field of Electromagnetic Protection[J].Chinese Journal of Nature,2009,31(1):1-7.(in Chinese)

[2] Martin T Hagan,Howard B Demuth,Mark H Beale.神經(jīng)網(wǎng)絡(luò)設(shè)計[M].戴葵,宋輝,譚明峰,等,譯.北京:機械工業(yè)出版社,2002.Martin T Hagan,Howard B Demuth,Mark H Beale.Neural Network Design[M].Translated by DAI Kui,SONG Hui,TAN Ming-feng,et al.Beijing:China Machine Press,2002.(in Chinese)

[3] 何新貴,許少華.過程神經(jīng)元網(wǎng)絡(luò)[M].北京:科學(xué)出版社,2007.HE Xin-gui,XU Shao-hua.Process Neural Networks[M].Beijing:Science Press,2007.(in Chinese)

[4] Morgado Dias F,Antunes A.Fault Tolerance of Artificial Neural Networks:an Open Discussion for a Global Model[J].International Journal of Circuits,Systems and Signal Processing,2010,4(1):9-16.

[5] 趙德芳,張?zhí)祢U,金翔,等.基于 BP神經(jīng)網(wǎng)絡(luò)的直擴(kuò)信號擴(kuò)頻碼盲識別[J].電訊技術(shù),2010,50(10):28-35.ZHAO De-fang,ZHANG Tian-qi,JIN Xiang,et al.DSSS Signal Spread Spectrum Codes Blind Identification Based on BP Neural Network[J].Telecommunication Engineering,2010,50(10):28-35.(in Chinese)

[6] 安全,梁川,吳平.脈沖響應(yīng)神經(jīng)網(wǎng)絡(luò)的構(gòu)建[J].信息與控制,2009,38(4):455-460.AN Quan,LIANG Chuan,WU Ping.Construction of Impulse Response Neural Networks[J].Information and Control,2009,38(4):455-460.(in Chinese)

[7] Jason Gauci,Kenneth O Stanley.Autonomous Evolution of Topographic Regularities in Artificial Neural Networks[J].Neural Computation,2010,22(7):1860-1898.

[8] Javier Macia,RicardV Solé.Distributed robustness in cellular networks:insights from synthetic evolved circuits[J].Journal of Royal Society Interface,2009,33(6):393-400.

[9] Sekanina L.Evolutionary functional recovery in virtual reconfigurable circuits[J].ACM Journal on Emerging Technologies in Computing Systems,2007,3(2):1-22.

[10] WANG J,LEE C H.Evolutionary design of combinational logic circuits using VRA processor[J].IEICE Electronics Express,2009,6(3):141-147.