夏浩杰，肖 劍，盛 亮

（江蘇大學(xué)電氣信息工程學(xué)院，江蘇鎮(zhèn)江 212013）

0 引言

1990 年，Eckhorn 等［1］發(fā)現(xiàn)了貓視覺(jué)皮層的神經(jīng)元同步振蕩性；之后Johnson 等［2］基于此提出了脈沖耦合神經(jīng)網(wǎng)絡(luò)（Pulse Coupled Neural Network，PCNN），并將其應(yīng)用于圖像處理。PCNN 作為一種接近生物學(xué)的第三代人工神經(jīng)網(wǎng)絡(luò)，具有同步脈沖、動(dòng)態(tài)閾值和脈沖耦合高等優(yōu)良特點(diǎn)。Zhan 等［3］對(duì)PCNN 進(jìn)行了全面綜述，深入分析了PCNN 的計(jì)算原理。如今，PCNN 在圖像分割［4］、圖像去噪［5］、圖像融合［6］、圖像邊緣檢測(cè)［7］等領(lǐng)域均有著廣泛應(yīng)用。雖然PCNN是由參數(shù)控制的網(wǎng)絡(luò)模型，但是它的固有參數(shù)估計(jì)問(wèn)題被認(rèn)為是影響圖像處理性能的重要原因。如果設(shè)置的人工參數(shù)不合適，PCNN 的處理效果就會(huì)變得很差?；诖?，Li等［8］提出了一種自適應(yīng)參數(shù)的確定策略，并成功實(shí)現(xiàn)了圖像分割任務(wù)。文獻(xiàn)［9］中，連接參數(shù)的改變?nèi)Q于輸入刺激的清晰度。但是，這些自適應(yīng)參數(shù)設(shè)置方法都是由計(jì)算機(jī)仿真得到的，會(huì)產(chǎn)生執(zhí)行時(shí)間長(zhǎng)和效率低下等問(wèn)題。因此，在PCNN 硬件層次上實(shí)現(xiàn)自適應(yīng)動(dòng)態(tài)參數(shù)是非常值得研究的方向。

1971 年，Chua［10］首次提出了第4 種電路元件，也即憶阻器，它首次標(biāo)明了電荷和磁通之間的關(guān)系。2008 年，HP實(shí)驗(yàn)室宣布首次實(shí)現(xiàn)了物理層面的憶阻器，為后續(xù)研究奠定了堅(jiān)實(shí)的基礎(chǔ)［11］。隨著科技的發(fā)展，基于各種材料的憶阻器被研制出來(lái)。如今，憶阻器已廣泛應(yīng)用于神經(jīng)網(wǎng)絡(luò)、圖像處理、電阻存儲(chǔ)等各種計(jì)算機(jī)科學(xué)領(lǐng)域［12-13］。憶阻器具有的非易失性、記憶性和納米級(jí)結(jié)構(gòu)等優(yōu)良特性，將對(duì)神經(jīng)網(wǎng)絡(luò)硬件化發(fā)展產(chǎn)生巨大的推動(dòng)作用。

隨著現(xiàn)代信息社會(huì)數(shù)據(jù)量的飛速增長(zhǎng)，需要處理的圖像復(fù)雜度越來(lái)越高。文獻(xiàn)［14］提出基于憶阻器的神經(jīng)網(wǎng)絡(luò)可以依靠電流和電壓的關(guān)系實(shí)現(xiàn)計(jì)算加速，在圖像處理領(lǐng)域具有非常廣闊的應(yīng)用前景。傳統(tǒng)PCNN 網(wǎng)絡(luò)硬件化模型實(shí)現(xiàn)龐大且復(fù)雜［15］，鑒于此，本文提出基于憶阻器的改進(jìn)PCNN 網(wǎng)絡(luò)，實(shí)現(xiàn)了閾值發(fā)生器的閾值動(dòng)態(tài)更新和連接參數(shù)的自適應(yīng)動(dòng)態(tài)變化。

1 憶阻器模型

經(jīng)典憶阻器的物理結(jié)構(gòu)如圖1 所示，它由兩個(gè)鉑電極之間的兩層二氧化鈦組成。

Fig.1 Physical structure model of amnesia resistor圖1 憶阻器物理結(jié)構(gòu)模型

其中，D 為二氧化鈦薄膜層，該薄膜層分為2 層。缺少部分氧原子的薄膜層叫作摻雜層，用w 表示；另外一層純二氧化鈦層叫作未摻雜層；D 表示薄膜層的總厚度。在接入電源后，摻雜層與未摻雜層之間的寬度會(huì)產(chǎn)生變化，從而影響整體電阻變化。則憶阻器的阻值可表示為：

式（1）中，RL是x=0 時(shí)的極小憶阻值，RH是x=1 時(shí)的極大憶阻值。其中x=w/D，它是在[0，1]范圍內(nèi)的活動(dòng)狀態(tài)變量。從式（2）中可以看出，理想狀態(tài)下，摻雜層邊界的移動(dòng)速率和經(jīng)過(guò)憶阻器的電流是線性關(guān)系。其中，μv是離子的平均遷移率，因此式（2）是憶阻器的線性漂移模型。

Gale［16］在2014 年提出了摻雜層的電阻會(huì)隨時(shí)間而變化的觀點(diǎn)。則摻雜層的移動(dòng)速率可以表示為：

式（3）中，將式（2）的RH用R(t)代入。之后將式（3）積分并將式（1）代入得：

計(jì)算得：

當(dāng)w=0,q=0 時(shí)，可以計(jì)算出c：

將c的值代入式（5），得：

由式（8）得到憶阻器模型，之后對(duì)該模型系統(tǒng)進(jìn)行離散化。使用T 作為最小采樣周期，可以得到：

外部施加一個(gè)恒直流I接通到憶阻器上，可以得到憶阻器的迭代公式：

最后設(shè)置模擬參數(shù)：RH=100Ω，RL=160Ω，μv=1*10-4m2s-1v-1，D=1× 10-3m。將直流電流I=1mA 施加到憶阻器上?？傻玫絭-t曲線，如圖2 所示。

Fig.2 v-t curve of the exponential amnesic resistor圖2 指數(shù)憶阻器的v-t 曲線

2 PCNN 模型

PCNN 模型對(duì)生物學(xué)行為的模仿性更高，并且PCNN 不需要學(xué)習(xí)和訓(xùn)練就能從復(fù)雜的背景中提取出有效信息，因此在圖像處理方面PCNN 有著更為優(yōu)良的特性。經(jīng)典PCNN 網(wǎng)絡(luò)模型一共分為4 部分：輸入模塊、連接模塊、脈沖發(fā)生器和閾值發(fā)生器［17］，如圖3 所示。

接受域由輸入信號(hào)和連接輸入信號(hào)組成。輸入信號(hào)接收外部輸入信號(hào)的激勵(lì)，即Sij，連接輸入信號(hào)用來(lái)接受相鄰神經(jīng)元的輸入。式（10）、式（11）中，(i,j)表示每個(gè)神經(jīng)元的位置，(k,l)指相鄰神經(jīng)元的位置。在PCNN 圖像處理過(guò)程中，坐標(biāo)代表圖像每個(gè)像素點(diǎn)的位置。αf和αl是衰減時(shí)間常數(shù)，Vf和Vl分別是輸入信號(hào)Fij和連接輸入信號(hào)Lij的放大系數(shù)，M和W是突觸權(quán)重矩陣，Ykl是上一次迭代相鄰神經(jīng)元的輸出。

Fig.3 PCNN model framework diagram圖3 PCNN 模型框架

在連接模塊，將輸入信號(hào)和連接輸入信號(hào)進(jìn)行耦合調(diào)制，得到神經(jīng)元的內(nèi)部狀態(tài)信號(hào)，即神經(jīng)元的內(nèi)部狀態(tài)信號(hào)Uij由Fij和Lij非線性組合而成，β是放大連接輸入影響的系數(shù)。

在脈沖發(fā)生器部分，脈沖的產(chǎn)生取決于神經(jīng)元的內(nèi)部狀態(tài)信號(hào)Uij是否大于動(dòng)態(tài)閾值θij。式（14）中，當(dāng)Uij大于θij時(shí)，神經(jīng)元發(fā)生放電現(xiàn)象，從而輸出脈沖。神經(jīng)元的這種行為被稱為點(diǎn)火。

在閾值發(fā)生器部分，閾值的電位會(huì)隨著迭代過(guò)程逐漸衰減。當(dāng)Uij>Yij時(shí)，Yij=1，閾值θij會(huì)很快被提高到一個(gè)較大的值。當(dāng)θij大于Yij時(shí)，脈沖發(fā)生器關(guān)閉，則輸出信號(hào)Yij=0。閾值開(kāi)始呈指數(shù)型下降，下降到一定數(shù)值時(shí)又會(huì)導(dǎo)致脈沖發(fā)生器打開(kāi)。該過(guò)程會(huì)一直循環(huán)到迭代次數(shù)結(jié)束為止。

上式給出了經(jīng)典的脈沖耦合神經(jīng)網(wǎng)絡(luò)框架。任何接受外部刺激的神經(jīng)元在第一次迭代中都會(huì)被激活，產(chǎn)生一個(gè)大的閾值電位。接下來(lái)，需要數(shù)次迭代才能使閾值衰減到足以再次激活神經(jīng)元。

3 M_PCNN 模型

3.1 動(dòng)態(tài)閾值發(fā)生器

根據(jù)憶阻器模型的v-t 曲線可知，憶阻值會(huì)在外部激勵(lì)下隨時(shí)間指數(shù)衰減［18］。如果在沒(méi)有動(dòng)態(tài)更新的情況下，將無(wú)法重新發(fā)送閾值電位。本文基于憶阻器設(shè)計(jì)了PCNN的閾值發(fā)生器電路，可以動(dòng)態(tài)調(diào)整PCNN 的閾值。動(dòng)態(tài)閾值發(fā)生器電路設(shè)計(jì)如圖4 所示。

該電路在憶阻器的基礎(chǔ)上使用NMOS 和PMOS 構(gòu)成了一對(duì)互鎖式電路。從式（14）可得，當(dāng)電路沒(méi)有脈沖輸入時(shí)（即Yij(n-1)=0），NMOS 關(guān)閉并且PMOS 打開(kāi)。這時(shí)一個(gè)正的恒定電流I1通過(guò)憶阻器，讓憶阻器的憶阻值開(kāi)始呈指數(shù)衰減。因此，閾值電位θij也開(kāi)始呈指數(shù)衰減。當(dāng)有一個(gè)脈沖輸入（Yij(n-1)=1）進(jìn)入電路時(shí)，NMOS 打開(kāi)且PMOS關(guān)閉。同時(shí)，一個(gè)大的負(fù)的恒定電流I2通過(guò)憶阻器，讓憶阻迅速上升到一個(gè)較大的值，因此閾值電位也會(huì)升高到一個(gè)很大的值，從而導(dǎo)致NMOS 關(guān)閉且PMOS 打開(kāi)，這時(shí)憶阻器的阻值和閾值電位又會(huì)開(kāi)始呈指數(shù)衰減。

Fig.4 Dynamic threshold generator circuit圖4 動(dòng)態(tài)閾值發(fā)生器電路

3.2 自適應(yīng)連接參數(shù)

在傳統(tǒng)的PCNN 網(wǎng)絡(luò)模型中，連接參數(shù)β是由人工設(shè)置的固定參數(shù)，而修改此參數(shù)會(huì)對(duì)該網(wǎng)絡(luò)的圖像邊緣檢測(cè)效果產(chǎn)生很大影響，如果參數(shù)設(shè)置不適合會(huì)導(dǎo)致輸出效果變得很差。本文使用兩個(gè)憶阻器反向并聯(lián)重構(gòu)了神經(jīng)元連接參數(shù)的輸出電路，讓神經(jīng)元之間的的連接強(qiáng)度可以根據(jù)外部輸入刺激的大小自適應(yīng)調(diào)整變化，如圖5 所示。

Fig.5 Adaptive connection parameters framework圖5 自適應(yīng)連接參數(shù)框架

由于憶阻器的憶阻值可以隨輸入電流變化，由圖可得式（15）。將可變電流源I作為電路的輸入，I由外部輸入Sij和映射函數(shù)f決定。憶阻電路則將外部輸入刺激的大小和連接參數(shù)β直接相關(guān)聯(lián)，既減少了模型相關(guān)參數(shù)，又能讓連接系數(shù)的表達(dá)更加簡(jiǎn)單。

4 仿真實(shí)驗(yàn)分析

4.1 圖像邊緣檢測(cè)

邊緣是圖像最重要的特征之一，圖片大部分重要信息都集中在邊緣部分［19］。基于本文基于憶阻器的PCNN 網(wǎng)絡(luò)模型，可以實(shí)現(xiàn)圖像邊緣檢測(cè)，并能夠獲得優(yōu)良的檢測(cè)效果。M-PCNN 模型處理圖像邊緣流程如圖6 所示。

將圖像輸入M-PCNN 模型時(shí)，對(duì)應(yīng)的神經(jīng)元會(huì)發(fā)出脈沖，接著會(huì)通過(guò)連接突觸激發(fā)相鄰神經(jīng)元產(chǎn)生脈沖，即尖峰神經(jīng)元會(huì)將刺激傳遞給鄰近的神經(jīng)元，促使它們釋放脈沖［20］。因此，對(duì)于一個(gè)神經(jīng)元簇，任何一個(gè)尖峰神經(jīng)元的刺激行為都會(huì)觸發(fā)整個(gè)簇的集體尖峰行為。

Fig.6 M-PCNN edge detection flow圖6 M-PCNN 邊緣檢測(cè)流程

4.2 仿真結(jié)果分析

基于本文提出的M-PCNN 模型，在MATLAB 上進(jìn)行仿真實(shí)驗(yàn)，將該模型應(yīng)用于圖像邊緣檢測(cè)任務(wù)，并與其他算法的邊緣檢測(cè)效果進(jìn)行對(duì)比，結(jié)果如圖7 所示。

從不同算法的邊緣檢測(cè)圖可以看出，相對(duì)于傳統(tǒng)的邊緣檢測(cè)算法，基于憶阻器的PCNN 模型在邊緣檢測(cè)中具有較高性能，有效地抑制了圖像背景噪聲的干擾，在有著完整輪廓的同時(shí)，又保留了邊緣處的細(xì)節(jié)。此外，利用憶阻器改進(jìn)PCNN 模型后，圖像處理的迭代次數(shù)有效減少，與傳統(tǒng)PCNN 模型相比，圖像處理效率提高了13%。

由上述實(shí)驗(yàn)結(jié)果可以得出，M-PCNN 模型提取圖像邊緣相對(duì)于其他方法可以獲得更豐富的邊緣信息，輸出效果明顯優(yōu)于傳統(tǒng)的邊緣檢測(cè)算法。同時(shí)，在實(shí)驗(yàn)過(guò)程中發(fā)現(xiàn)，在邊緣提取中，邊緣不是提取得越多，效果就越好。因此，要設(shè)置適當(dāng)?shù)膽涀杵鲄?shù)以獲得合適的邊界條件。

5 結(jié)語(yǔ)

本文在具體的理論和公式推導(dǎo)基礎(chǔ)上，探討出了一種更加實(shí)用的憶阻器模型，建立了憶阻和電流的映射關(guān)系，并利用憶阻器設(shè)計(jì)了閾值發(fā)生器的電路結(jié)構(gòu)，可以實(shí)時(shí)動(dòng)態(tài)改變閾值電位。此外，針對(duì)傳統(tǒng)PCNN 模型存在的固有參數(shù)估計(jì)問(wèn)題，通過(guò)反向并聯(lián)憶阻器模擬連接系數(shù)β隨外部輸入信號(hào)變化，讓神經(jīng)元之間的模擬連接更加逼近生物學(xué)的范疇。最后，通過(guò)MATLAB 仿真將該模型應(yīng)用于圖像邊緣檢測(cè)任務(wù)，并與其他算法輸出結(jié)果對(duì)比，證明了該模型在圖像邊緣檢測(cè)任務(wù)中有著更加優(yōu)越的性能和實(shí)用性。

通過(guò)對(duì)脈沖耦合神經(jīng)網(wǎng)絡(luò)和憶阻器的深入研究，對(duì)PCNN 硬件化構(gòu)建和自適應(yīng)參數(shù)設(shè)置方法有了更深的認(rèn)識(shí)。但仍然存在一些不足：①本文所提出的自適應(yīng)參數(shù)設(shè)置方法過(guò)于依賴圖像的外部輸入激勵(lì)，沒(méi)有足夠地展現(xiàn)出生物神經(jīng)網(wǎng)絡(luò)的特性，接下來(lái)將作進(jìn)一步研究，使連接參數(shù)設(shè)置更加合理；②對(duì)于憶阻器模型的自身數(shù)學(xué)特性分析不夠全面，不能很好地揭示憶阻器模型的全部特性。因此，在后續(xù)研究中，將針對(duì)憶阻器的記憶和離散特性作進(jìn)一步研究與分析。

隨著憶阻器研究的不斷深入，人們對(duì)生物神經(jīng)網(wǎng)絡(luò)的認(rèn)知也在不斷地迭代和進(jìn)步。因此，應(yīng)實(shí)時(shí)關(guān)注憶阻器和生物神經(jīng)學(xué)的新發(fā)現(xiàn)，進(jìn)一步優(yōu)化網(wǎng)絡(luò)模型，使得憶阻器能夠更好地與神經(jīng)網(wǎng)絡(luò)相結(jié)合，促進(jìn)圖像處理技術(shù)發(fā)展。