摘 要:現(xiàn)在對(duì)神經(jīng)網(wǎng)絡(luò)的研究以神經(jīng)網(wǎng)絡(luò)模型及算法的模擬實(shí)現(xiàn)為主,較少考慮硬件實(shí)現(xiàn)問(wèn)題。以模擬器件為主,分析設(shè)計(jì)了BP神經(jīng)網(wǎng)絡(luò)各環(huán)節(jié)的硬件電路。介紹其中的一種Sigmoid激勵(lì)函數(shù)電路實(shí)現(xiàn),該電路以差分器件為主要部分,通過(guò)調(diào)整相應(yīng)的參數(shù)可以調(diào)節(jié)輸入電壓的范圍和改變激勵(lì)函數(shù)的增益,并在EDA環(huán)境下仿真驗(yàn)證了電路的有效性。
關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò);激勵(lì)函數(shù);硬件仿真;差分電路
中圖分類(lèi)號(hào):TP183 文獻(xiàn)標(biāo)識(shí)碼:B 文章編號(hào):1004-373X(2008)02-077-02
Hardware Simulation Implementation of Active Function
LIU Liqiang,YU Fugong
(Information Engineering School,Inner Mongolia Polytechnic University,Huhhot,010051,China)
Abstract:With the development of information technology,artificial neural network is used widely in many fields.But most researchers give priority to neural network algorithms software implementation and seldom considers hardware implementation.The paper designs the hardware circuits of Backward Propagation(BP) neural network based on analog circuits.The circuit of active function is introduced.The differential structure is mostly used in it.The range of input voltage and function gain can be adjusted by varying correlated parameters.And its effectiveness is demonstrated by EDA simulation.
Keywords:neural network;active function;hardware simulation;differential circuit
1 引 言
近年來(lái),隨著信息技術(shù)的發(fā)展,人工神經(jīng)網(wǎng)絡(luò)技術(shù)在自動(dòng)控制、人工智能、信號(hào)處理、故障診斷、模式識(shí)別、圖像壓縮等領(lǐng)域都得到了廣泛的應(yīng)用。在進(jìn)行神經(jīng)網(wǎng)絡(luò)的理論研究時(shí),多數(shù)研究者將神經(jīng)網(wǎng)絡(luò)模型及算法在通用的串行或并行計(jì)算機(jī)上編程模擬實(shí)現(xiàn),很少考慮硬件實(shí)現(xiàn)問(wèn)題[1-5]。構(gòu)造實(shí)際的神經(jīng)網(wǎng)絡(luò)應(yīng)用系統(tǒng)時(shí),必須考慮到硬件實(shí)現(xiàn)問(wèn)題,特定應(yīng)用下的專(zhuān)用神經(jīng)網(wǎng)絡(luò)硬件應(yīng)是神經(jīng)網(wǎng)絡(luò)研究的最終目標(biāo)。
關(guān)于神經(jīng)網(wǎng)絡(luò)的硬件實(shí)現(xiàn),目前在國(guó)際上已出現(xiàn)多種方法,如模擬電路實(shí)現(xiàn)、數(shù)字電路實(shí)現(xiàn)、模數(shù)混合電路實(shí)現(xiàn)等。作者以模擬電路為主,分析設(shè)計(jì)BP神經(jīng)網(wǎng)絡(luò)各環(huán)節(jié)硬件實(shí)現(xiàn)電路,并在EDA環(huán)境下進(jìn)行仿真,得到了較好的效果。本文主要介紹其中的一種激勵(lì)函數(shù)硬件電路的仿真實(shí)現(xiàn)。
2 激勵(lì)函數(shù)硬件仿真實(shí)現(xiàn)
2.1 電路結(jié)構(gòu)描述
神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)的常見(jiàn)類(lèi)型有閥值函數(shù)、分段線性函數(shù)和Sigmoid函數(shù)。本文選擇Sigmoid函數(shù)作為BP網(wǎng)絡(luò)的激勵(lì)函數(shù),并利用常用模擬器件設(shè)計(jì)了實(shí)現(xiàn)該函數(shù)的電路結(jié)構(gòu),如圖1所示。
觀察表1和圖2,發(fā)現(xiàn)該電路的輸入輸出特性與Sigmoid函數(shù)的曲線極為相似,實(shí)際運(yùn)算時(shí)可用該電路模擬BP神經(jīng)網(wǎng)絡(luò)的激勵(lì)函數(shù)。
3 結(jié) 語(yǔ)
本文以差分電路為主要器件設(shè)計(jì)Sigmoid函數(shù)的硬件電路,通過(guò)仿真驗(yàn)證了該電路的有效性。在該電路中,通過(guò)調(diào)整vref可以得到所需的輸入電壓范圍,而改變Q3周?chē)碾娮柚涤挚梢哉{(diào)整Sigmoid函數(shù)的增益。在Multisim環(huán)境下,該電路與BP神經(jīng)網(wǎng)絡(luò)的其他環(huán)節(jié)相結(jié)合,仿真模擬實(shí)現(xiàn)了異或問(wèn)題的求解。
該電路雖然較好地實(shí)現(xiàn)了Sigmoid函數(shù),但在整體BP神經(jīng)網(wǎng)絡(luò)硬件電路綜合中還存在著一些問(wèn)題,需在后續(xù)的研究中不斷改進(jìn)。
參 考 文 獻(xiàn)
[1]全鋼,郭江華,梁述海.基于VHDL的神經(jīng)網(wǎng)絡(luò)模型庫(kù)的建立與實(shí)現(xiàn)[J].微計(jì)算機(jī)信息,2002,18(7):70-71.
[2]盧純,石秉學(xué),陳盧.一種學(xué)習(xí)速率自適應(yīng)的可編程片上學(xué)習(xí)BP神經(jīng)網(wǎng)絡(luò)電路系統(tǒng)的設(shè)計(jì)[J].電子學(xué)報(bào),2001,29(5):701-703.
[3]盧純,石秉學(xué).采用遺傳算法的一種可重構(gòu)ANN的電路設(shè)計(jì)[J].半導(dǎo)體學(xué)報(bào),2001,22(5):664-669.
[4]陳盧,石秉學(xué).一種改進(jìn)的PWM型VLSI神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)[J].清華大學(xué)學(xué)報(bào),2001,41(1):115-118.
[5]Sina Balkir,Ethen Alpaydin.ANNSYS:An Analog Neural Network Synthesis System[J].Neural Network,1999,(12):325-338.
注:本文中所涉及到的圖表、注解、公式等內(nèi)容請(qǐng)以PDF格式閱讀原文。