亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于改進(jìn)型ELM的指靜脈識別算法研究

        2018-10-23 01:50:04劉勝前張烈平
        自動化與儀表 2018年9期
        關(guān)鍵詞:隱層降維范數(shù)

        劉勝前 ,張烈平 ,趙 陽 ,孫 旋

        (1.桂林理工大學(xué) 機(jī)械與控制工程學(xué)院 廣西礦冶與環(huán)境科學(xué)實(shí)驗(yàn)中心,桂林 541004;2.桂林理工大學(xué)環(huán)境科學(xué)與工程學(xué)院,桂林 541004;3.69225部隊(duì)84分隊(duì),和靜 841300)

        與一般的生物特征圖像相比,基于人體指靜脈的身份識別系統(tǒng)具有一些獨(dú)特的優(yōu)勢:①非接觸性,靜脈位于體表下面,不會因皮膚污染而影響靜脈圖像的采集;②活體性,只有手指或手掌處于活體時才存在成像特征,不會發(fā)生類似指紋生物特征的盜用現(xiàn)象,而且身體內(nèi)部的血管特征很難偽造或是手術(shù)改變;③易接收性,圖像采集比較友好,相比DNA和虹膜,讓人心理上更容易接受;④易與其它生物識別技術(shù)如人臉、指紋等組成多模生物識別系統(tǒng)[1-4]。

        目前對指靜脈身份識別方法的研究主要集中在指靜脈圖像采集、指靜脈圖像特征提取和匹配2個方面。受到手掌皮膚的遮擋、手掌位姿、背景光照、對比度等影響,指靜脈圖像分辨率和清晰度較低,在進(jìn)行識別時具有一定難度。目前指靜脈圖像特征提取和匹配主要分2類:一類是利用指靜脈圖像的結(jié)構(gòu)特征 (如靜脈紋路圖像的端點(diǎn)和交叉點(diǎn))來識別指靜脈,這類方法對手掌姿態(tài)變換比較敏感,且耗時長[5-7];另一類主要提取全局靜脈圖像的統(tǒng)計(jì)特征來進(jìn)行識別,這類方法容易丟失圖像局部信息,識別率不高[8-10]。

        PCA作為一個非監(jiān)督學(xué)習(xí)的降維方法,能夠提取數(shù)據(jù)中的核心成分,用數(shù)據(jù)里最主要的方面來代替原始數(shù)據(jù)。在利用PCA對指靜脈數(shù)據(jù)進(jìn)行處理時,僅僅需要以方差衡量信息量,不受特征集以外的因素影響,主要運(yùn)算是特征值分解,易于實(shí)現(xiàn),可提高檢測時間。由于各主成分之間正交,消除了收集靜脈數(shù)據(jù)時手指位置可能會移動產(chǎn)生影響,提高檢測準(zhǔn)確性。

        在進(jìn)行識別時,神經(jīng)網(wǎng)絡(luò)模型憑借其較好的魯棒性和容錯能力成為圖像分析中的一個熱點(diǎn)研究方向[11-12]。BP神經(jīng)網(wǎng)絡(luò)算法是傳統(tǒng)的手勢識別方法之一,主要通過誤差反向傳播方式來建立手勢識別模型。然而BP方法需要多次迭代才可獲取最優(yōu)解,無法滿足手勢識別的實(shí)時性要求。此外,當(dāng)梯度下降步長較小時,BP方法容易陷入局部極小值,降低了識別的準(zhǔn)確性。

        極限學(xué)習(xí)機(jī)是近年來興起的一個新型生物學(xué)習(xí)網(wǎng)絡(luò)[13-14],具有良好的泛化能力,在利用ELM進(jìn)行指靜脈分析時,對研究對象數(shù)學(xué)模型的精確度和性能特性要求均不高,只需要對一定數(shù)量的樣本展開訓(xùn)練和學(xué)習(xí)就可以完成對指靜脈的識別,具有計(jì)算簡單、學(xué)習(xí)速度快的特點(diǎn)。傳統(tǒng)ELM算法隨機(jī)設(shè)定輸入和隱層參數(shù),僅采用偽逆算法估計(jì)輸出權(quán)重,存在容易過學(xué)習(xí)、算法泛化能力低的問題。本文提出一種PCA特征提取和超限學(xué)習(xí)機(jī)分類相結(jié)合的高效指靜脈識別方法,將經(jīng)過PCA降維提取的最優(yōu)指靜脈圖像特征信息作為特征向量輸入ELM進(jìn)行訓(xùn)練。其次在傳統(tǒng)ELM基礎(chǔ)上,在估計(jì)輸出權(quán)重時引入L1范數(shù)約束來控制整個模型的復(fù)雜度,引入L2范數(shù)約束來提高模型泛化能力。不僅大大降低了要處理的樣本數(shù)量,又保持了ELM學(xué)習(xí)速度快、精度高的優(yōu)點(diǎn)。

        1 基于PCA-ELM的靜脈識別方法

        1.1 圖像預(yù)處理

        1.1.1 靜脈圖像的增強(qiáng)

        由于平滑處理后的圖像中靜脈血管可能會比較模糊,不利于后續(xù)處理,因此需要對圖像進(jìn)行增強(qiáng)。針對靜脈圖像整體過暗的特點(diǎn),采用提升灰度值的思想,使用對數(shù)灰度變換法[15]。對數(shù)灰度變換法的公式如下所示:

        式中:e表示灰度相關(guān)變量;t(e)是原始圖像灰度函數(shù);g(e)是轉(zhuǎn)換后的圖像灰度函數(shù);b和c是用來調(diào)整曲線的位置和形狀,b用于控制曲線形狀,c用于控制變換速率;a相當(dāng)于平移量,在灰度沒有達(dá)到a時皆將輸入定位為0。

        1.1.2 靜脈圖像的分割

        針對每一個像素點(diǎn)f(x,y),都有一個對應(yīng)的灰度閾值T(x,y)。利用一種基于圖像統(tǒng)計(jì)的閾值選取方法來對原始指靜脈圖像進(jìn)行分割[16]。閾值計(jì)算公式為

        其中:

        圖像預(yù)處理結(jié)果如圖1所示。

        圖1 預(yù)處理結(jié)果Fig.1 Pretreatment results

        1.2 基于PCA的靜脈圖像降維

        首先建立樣本的協(xié)方差矩陣R:

        式中:Λ=diag(λ1,λ2,…,λL),λ1≥λ2≥…≥λL為樣本相關(guān)矩陣;U=[u1,u2,…,uL]為與樣本相關(guān)矩陣中特征值對應(yīng)的特征向量矩陣。定義主元方差貢獻(xiàn)率:

        計(jì)算前k個主元的方差貢獻(xiàn)率,選取使貢獻(xiàn)率ηk≥85%的主元為最終主成分,并利用所選的主成分特征值對應(yīng)的特征向量構(gòu)建變換矩陣K=[u1,u2,…,uk],k<L。 新的樣本空間 A=(a1,a2,…,aN)T可以通過A=XK來進(jìn)行重構(gòu)。重構(gòu)后的樣本不僅消除了靜脈圖像中相關(guān)性較強(qiáng)的一些特征,而且達(dá)到了降維的目的。

        2 基于ELM的指靜脈識別模型

        對于N個降維后的靜脈圖像訓(xùn)練樣本(ai,ti),i=1,2,…,N,其中 ai=[ai1,ai2,…,aiK]∈Rk,ti=[ti1,ti2,…,tim]∈Rm,則一個有T個隱層節(jié)點(diǎn)的ELM數(shù)學(xué)模型可以表示為

        式中:wj=[wj1,wj2,…,wjk]為輸入節(jié)點(diǎn)同第 j個隱層節(jié)點(diǎn)之間的連接權(quán)重;βj為j個隱層節(jié)點(diǎn)輸出權(quán)重;bj為第j個隱層節(jié)點(diǎn)的偏置;g(·)為激活函數(shù)。借鑒類腦思維中隨機(jī)性思想,ELM算法對于wj和bj均隨機(jī)給定,并在整個過程中保持不變,大大節(jié)省了訓(xùn)練時間,提高了算法運(yùn)算速率。輸出權(quán)重βj是ELM中唯一需要解析確定的參數(shù)。用矩陣形式重新表示式(3),可以得到:

        在傳統(tǒng)ELM算法中,輸出權(quán)重β通過求解最小二乘問題得到:

        其中Φ?為偽逆,由于最小二乘算法實(shí)現(xiàn)簡單,使得ELM算法在計(jì)算效率方面明顯優(yōu)于傳統(tǒng)BP算法。然而在實(shí)際數(shù)據(jù)分析中,發(fā)現(xiàn)當(dāng)Φ存在不適定現(xiàn)象時,輸出權(quán)重β幅值會急劇增大,導(dǎo)致過擬合現(xiàn)象,極大影響ELM算法的模型準(zhǔn)確性,降低ELM網(wǎng)絡(luò)的泛化能力。

        為了解決上述問題,在式(7)中加入L1-L2范數(shù)約束,一方面憑借L1范數(shù)的稀疏能力可以使模型變得簡單,另一方面L2范數(shù)約束可以提高算法的泛化能力,得到如下公式:

        為了方便求解公式(8),定義如下矩陣:

        由于λ2為一預(yù)先設(shè)定的常數(shù),式(9)進(jìn)一步展開可以得到:

        式(10)對β*求偏導(dǎo),并令導(dǎo)數(shù)為零,可以得到:

        綜上所述,基于L1/L2-ELM算法的步驟可以概括為以下三步:

        (1)隨機(jī)產(chǎn)生隱層節(jié)點(diǎn)參數(shù)wj和bj;

        (2)計(jì)算隱層輸出矩陣Φ;

        3 實(shí)驗(yàn)結(jié)果分析

        為了驗(yàn)證所提出算法的有效性,選取了自采集數(shù)據(jù)和來自MMCBNU-6000的公共數(shù)據(jù)集。公共數(shù)據(jù)集有來自不同國家、血型、性別和年齡的人群,共100個人。每個人18張指靜脈圖片,其中無名指、中指和食指各6張,共100*18=1800張指靜脈圖片。實(shí)驗(yàn)環(huán)境為處理器Inter1.60 GHz,內(nèi)存1 GB,Matlab12平臺仿真。

        圖2展示了PCA前后對指靜脈圖像的預(yù)處理效果,可以看出經(jīng)過PCA操作在降維的同時有效保留了圖像中的靜脈分布。即使在圖像有小角度旋轉(zhuǎn)的情況下,PCA也可以抓住圖像中的有效特征,一定程度上提升了算法的魯棒性。

        圖2 PCA處理前后的效果對比Fig.2 Comparison of the effect of PCA rendering

        如圖3所示,經(jīng)過三重交叉驗(yàn)證之后,可以得到對三個不同用戶的身份識別準(zhǔn)確率。所提出算法在識別準(zhǔn)確率方面占據(jù)了明顯的優(yōu)勢,主要原因在于指靜脈圖像采集過程中極易受到手指姿態(tài)、背景光線的影響,會造成圖像細(xì)微的旋轉(zhuǎn),經(jīng)過PCA的特征提取,可以減弱甚至消除圖像的負(fù)面變化,有利于分類準(zhǔn)確率的提高。此外,由于訓(xùn)練樣本較少,在利用ELM框架進(jìn)行訓(xùn)練時極容易發(fā)生過擬合,因此采用L1和L2范數(shù)約束可以有效避免過擬合,提升算法的范化能力。

        圖3 準(zhǔn)確率對比圖Fig.3 Contrast figure of accuracy

        ELM網(wǎng)絡(luò)在進(jìn)行分類時,隱層神經(jīng)元的數(shù)目需要人為設(shè)定。實(shí)驗(yàn)發(fā)現(xiàn)隱層神經(jīng)元數(shù)目對識別結(jié)果具有一定影響,為了設(shè)置合適的隱層神經(jīng)元數(shù)目,文章分析了當(dāng)隱層神經(jīng)元數(shù)目從20增加至160時的指靜脈圖像分類準(zhǔn)確率,并選取最高準(zhǔn)確率對應(yīng)的隱層神經(jīng)元數(shù)目作為最終隱層神經(jīng)元數(shù)目設(shè)定值。此外,表1對網(wǎng)絡(luò)規(guī)模進(jìn)行了對比分析,可以發(fā)現(xiàn)經(jīng)過傳統(tǒng)BP網(wǎng)絡(luò)訓(xùn)練時間最長,且準(zhǔn)確率較差。與傳統(tǒng)ELM算法相比,經(jīng)過PCA進(jìn)行特征提取之后,可以極大縮短ELM網(wǎng)絡(luò)的訓(xùn)練時間。

        表1 網(wǎng)絡(luò)模型規(guī)模比較Tab.1 Comparison of network model scale

        4 結(jié)語

        本文在極限學(xué)習(xí)機(jī)的基礎(chǔ)之上,結(jié)合主成分分析法,提出了一種PCA-L1/L2ELM的神經(jīng)網(wǎng)絡(luò)算法,本文提出的算法比ELM的訓(xùn)練時間更短,準(zhǔn)確率更高,穩(wěn)定性更強(qiáng)。一方面通過PCA提取指靜脈圖像的特征信息,使得訓(xùn)練數(shù)據(jù)更為簡單,消除了圖像特征之間的關(guān)聯(lián)度,強(qiáng)調(diào)圖像特征個體特性。另一方面結(jié)合ELM的快速訓(xùn)練測試神經(jīng)網(wǎng)絡(luò),通過在ELM算法中引入L1范數(shù)約束來簡化模型,引入L2范數(shù)約束來提高模型的泛化能力。實(shí)驗(yàn)結(jié)果證明該方法具有準(zhǔn)確率高、響應(yīng)快的優(yōu)點(diǎn)。

        猜你喜歡
        隱層降維范數(shù)
        Three-Body’s epic scale and fiercely guarded fanbase present challenges to adaptations
        降維打擊
        海峽姐妹(2019年12期)2020-01-14 03:24:40
        基于RDPSO結(jié)構(gòu)優(yōu)化的三隱層BP神經(jīng)網(wǎng)絡(luò)水質(zhì)預(yù)測模型及應(yīng)用
        人民珠江(2019年4期)2019-04-20 02:32:00
        基于加權(quán)核范數(shù)與范數(shù)的魯棒主成分分析
        矩陣酉不變范數(shù)H?lder不等式及其應(yīng)用
        一類具有準(zhǔn)齊次核的Hilbert型奇異重積分算子的范數(shù)及應(yīng)用
        基于近似結(jié)構(gòu)風(fēng)險的ELM隱層節(jié)點(diǎn)數(shù)優(yōu)化
        最優(yōu)隱層BP神經(jīng)網(wǎng)絡(luò)的滾動軸承故障診斷
        拋物化Navier-Stokes方程的降維仿真模型
        基于特征聯(lián)合和偏最小二乘降維的手勢識別
        少妇无码av无码一区| 国产精品自拍视频在线| 精品国产精品久久一区免费式| 777米奇色8888狠狠俺去啦| 亚洲人成网站免费播放| 无码国产一区二区色欲| 高清少妇二区三区视频在线观看 | 成人激情视频一区二区三区 | 国产精品黄色av网站| 亚洲在线视频免费视频| 欧美精品一区二区蜜臀亚洲| 中文字幕AⅤ人妻一区二区| 国产精品国产三级在线专区| 色中文字幕在线观看视频| 欧美日韩色另类综合| 日韩欧美第一区二区三区| 久久99免费精品国产| 国产精品高清一区二区三区不卡 | 国产欧美一区二区成人影院| 国产福利姬喷水福利在线观看| 囯产精品无码一区二区三区AV| 精品黄色国产一区二区| 中国精品18videosex性中国| 精品少妇人妻av免费久久久| 蜜桃av无码免费看永久| 日本在线观看不卡一区二区| 久久国产精品99精品国产| 日本欧美在线播放| 久久久精品久久久国产| 日本精品久久久久中文字幕| 国产人妻无码一区二区三区免费 | 中国极品少妇videossexhd| 色老汉亚洲av影院天天精品| 一本色道久久88—综合亚洲精品| 乱色熟女综合一区二区三区| 国产精品成人午夜久久| 亚洲精品女人天堂av麻| 日本在线 | 中文| 久久婷婷色综合一区二区| 国产精品丝袜一区二区三区在线 | 97日日碰曰曰摸日日澡|