羅海富,劉 輝,張 旗
(湖南師范大學(xué)物理與信息科學(xué)學(xué)院,中國(guó) 長(zhǎng)沙 410081)
基于雙曲正弦函數(shù)的新變步長(zhǎng)LMS算法
羅海富,劉 輝*,張 旗
(湖南師范大學(xué)物理與信息科學(xué)學(xué)院,中國(guó) 長(zhǎng)沙 410081)
對(duì)自適應(yīng)最小均方誤差(LMS)濾波算法的步長(zhǎng)選取問(wèn)題進(jìn)行了研究.在分析現(xiàn)有變步長(zhǎng)LMS算法的基礎(chǔ)上,通過(guò)對(duì)雙曲正弦函數(shù)進(jìn)行數(shù)學(xué)變化,構(gòu)造步長(zhǎng)因子u(n)與誤差信號(hào)e(n)的函數(shù),提出了一種基于雙曲正弦函數(shù)的新變步長(zhǎng)LMS算法,分析了參數(shù)a、b、c的選取對(duì)該算法性能的影響.仿真結(jié)果表明:該算法在收斂速度和穩(wěn)態(tài)誤差方面明顯優(yōu)于固定步長(zhǎng)LMS算法及SVS-LMS算法.
LMS算法;步長(zhǎng)因子; 變步長(zhǎng);穩(wěn)態(tài)誤差;收斂速度;雙曲正弦函數(shù)
自適應(yīng)濾波技術(shù)是現(xiàn)代信息處理技術(shù)的重要組成部分,被廣泛地應(yīng)用于智能天線、通信、生物醫(yī)學(xué)、雷達(dá)信號(hào)處理等許多領(lǐng)域.1960年,美國(guó)斯坦福大學(xué)的Window和Hoff基于維納濾波理論提出的最小均方誤差(LMS)算法,由于其結(jié)構(gòu)簡(jiǎn)單、性能穩(wěn)定、計(jì)算復(fù)雜度低、易于硬件實(shí)現(xiàn)、魯棒性好等特點(diǎn),得到了廣泛的應(yīng)用[1-3].LMS算法是自適應(yīng)濾波技術(shù)的經(jīng)典算法,它基于最陡下降法的原理,以固定的步長(zhǎng)因子u沿著權(quán)值梯度估值的負(fù)方向進(jìn)行搜索,直至達(dá)到權(quán)值最優(yōu),從而實(shí)現(xiàn)均方誤差意義下的自適應(yīng)濾波[4].所以在設(shè)計(jì)自適應(yīng)濾波器時(shí),不需要預(yù)先知道輸入信號(hào)和噪聲的統(tǒng)計(jì)特性的先驗(yàn)知識(shí),也不需要精確的設(shè)計(jì)信號(hào)處理系統(tǒng)的參數(shù),特別地在濾波過(guò)程中,輸入信號(hào)是非平穩(wěn)信號(hào)時(shí),濾波器也能夠自我進(jìn)行調(diào)節(jié)適應(yīng).
然而傳統(tǒng)LMS算法的收斂性不好,且收斂速度和穩(wěn)態(tài)誤差之間存在矛盾[5],為了克服這一缺點(diǎn),人們相繼提出了很多改進(jìn)的變步長(zhǎng)LMS算法[5-9],即采用變步長(zhǎng)來(lái)實(shí)現(xiàn)矛盾間的平衡.文獻(xiàn)[5~8]指出,衡量自適應(yīng)濾波器算法性能的4個(gè)重要技術(shù)指標(biāo)是收斂速度、算法計(jì)算復(fù)雜度、時(shí)變跟蹤能力、穩(wěn)態(tài)失調(diào),即一種好的算法應(yīng)該具備:跟蹤速度快、收斂速度快、計(jì)算復(fù)雜度小、抗噪性能強(qiáng)、收斂精度高的特點(diǎn).
圖1 自適應(yīng)濾波器的濾波原理圖Fig.1 Principle of adaptive filter
自適應(yīng)濾波器的濾波原理如圖1所示,其中x(n)為實(shí)際輸入信號(hào),v(n)為噪聲信號(hào),y(n)為輸出信號(hào),d(n)為期望信號(hào),e(n)為誤差信號(hào).
LMS算法采用輸出信號(hào)與期望信號(hào)的最小均方誤差作為代價(jià)函數(shù)[10],傳統(tǒng)固定步長(zhǎng)LMS算法步驟[11]如下:
1)初始化權(quán)值系數(shù):W(0)=0, 0
2)對(duì)輸入信號(hào)x(n)進(jìn)行濾波,產(chǎn)生期望響應(yīng)及誤差信號(hào):
y(n)=WT(n)*x(n),
(1)
e(n)=d(n)-y(n).
(2)
3)更新抽頭權(quán)向量:
W(n+1)=W(n)+2*u*x(n)*e(n).
(3)
4)返回重復(fù)步驟2)至步驟4).
其中u為步長(zhǎng),它的取值對(duì)LMS算法的性能起著決定性的作用,收斂條件為[12]:0
u(n)=β*(1/(1+exp(-?*|e(n)|))-0.5).
(4)
使得SVS-LMS算法比傳統(tǒng)固定步長(zhǎng)LMS算法的收斂速度更快.
2.1 改進(jìn)的LMS算法
文獻(xiàn)[5~7]提出了對(duì)步長(zhǎng)因子u的調(diào)整原則,即在算法的初始收斂階段或在自適應(yīng)系統(tǒng)參數(shù)發(fā)生變化時(shí),步長(zhǎng)因子u的值應(yīng)該較大,從而使得算法具有較快的收斂速度和對(duì)時(shí)變系統(tǒng)的跟蹤速度;而在算法達(dá)到收斂后,此時(shí)系統(tǒng)的權(quán)值矢量已接近最優(yōu)值[14],步長(zhǎng)因子u應(yīng)該保持較小的值以達(dá)到很小的穩(wěn)態(tài)誤差.
本文在滿足上述調(diào)整原則的基礎(chǔ)上,根據(jù)文獻(xiàn)[5]所提出的算法的圖像曲線特征,通過(guò)對(duì)雙曲正弦函數(shù)的研究,提出了一種新的基于雙曲正弦函數(shù)的變步長(zhǎng)算法.雙曲正弦函數(shù)的表達(dá)式為:
(5)
圖2 雙曲正弦函數(shù)Fig.2 Hyperbolic sine function
圖2為f(x)的圖像,由圖可知,它具有對(duì)原點(diǎn)對(duì)稱的性質(zhì).簡(jiǎn)單的對(duì)雙曲正弦函數(shù)進(jìn)行變化,并引入控制取值范圍的系數(shù)a和控制圖像形狀的系數(shù)b、c,變換后的函數(shù)表達(dá)式為:
u(n)=a*|sinh(b*e(n)c|,
(6)
通過(guò)Matlab對(duì)公式(6)進(jìn)行函數(shù)圖形繪制,由圖3 可知,當(dāng)e(n)趨近0時(shí),u(n)也趨近0,隨著e(n)的變化,u(n)呈非線性變化,函數(shù)底部平滑,u(n)隨e(n)變化緩慢.可見(jiàn)其滿足步長(zhǎng)特征.
由此得到本文基于雙曲正弦函數(shù)的變步長(zhǎng)LMS算法為
(7)
2.2 參數(shù)分析
保持b、c不變,對(duì)a進(jìn)行調(diào)整,可以看出:當(dāng)b=5,c=1,a分別取0.000 6,0.000 3,0.000 1時(shí),u(n)與e(n)的關(guān)系如圖4所示.由圖4可知,a越大,u的初始值就越大,隨著a的增大,函數(shù)的開(kāi)度增大.
圖3 變化后的函數(shù)圖像Fig.3 The image function changes after
圖4 a變化時(shí),u(n)與e(n)的關(guān)系Fig.4 Changes of a, u(n) and e(n) relationship
保持a、c不變,對(duì)b進(jìn)行調(diào)整,可以看出:當(dāng)a=0.000 6,c=1,b分別取4,5,6時(shí),u(n)與e(n)的關(guān)系如圖5所示.由圖5可知,b越大,初始階段的u也越大,函數(shù)的開(kāi)度也增越大.
保持a、b不變,對(duì)c進(jìn)行調(diào)整,可以看出:當(dāng)a=0.000 6,b=5,c分別取1,2,3時(shí),u(n)與e(n)的關(guān)系如圖6所示.由圖6可知,函數(shù)在e(n)=±1時(shí),最大值保持不變,函數(shù)凹凸程度發(fā)生變化.
圖5 當(dāng)b變化時(shí),u(n)與e(n)的關(guān)系Fig.5 Changes of b, u(n) and e(n) relationship
圖6 當(dāng)c變化時(shí),u(n)與e(n)的關(guān)系Fig.6 Changes of b, u(n) and e(n) relationship
從上面對(duì)參數(shù)a,b,c分別取不同值的分析可知,a的最佳取值范圍是(0,0.01),b的最佳取值范圍是(0,8),c的最佳取值是1(減少計(jì)算復(fù)雜度),不同的取值將對(duì)算法的收斂速度和穩(wěn)態(tài)失調(diào)性能產(chǎn)生影響,選擇合適的a,b,c,就可以保證03 仿真與結(jié)果分析
圖7 3種算法的收斂曲線Fig.7 The convergence curves of three kinds of algorithms
利用Matlab工具將本文算法與傳統(tǒng)固定步長(zhǎng)LMS算法、SVS-LMS算法進(jìn)行仿真對(duì)比實(shí)驗(yàn),實(shí)驗(yàn)條件規(guī)定為:輸入信號(hào)為信號(hào)幅度為1的周期性正弦信號(hào),方差為0.04的標(biāo)準(zhǔn)高斯白噪聲為噪聲信號(hào),自適應(yīng)濾波器的的濾波階數(shù)k=2,輸入信號(hào)抽樣點(diǎn)數(shù)為N=1000.濾波器的算法分別選用傳統(tǒng)固定步長(zhǎng)的LMS算法、文獻(xiàn)[15]提出的SVS-LMS算法及本文提出的算法.設(shè)仿真時(shí)固定步長(zhǎng)LMS算法的步長(zhǎng)u=0.01;SVS-LMS算法的參數(shù)選擇為α=1.5,β=1;本文算法的最優(yōu)參數(shù)選擇為a=0.000 6,b=5,c=1;以下分別從收斂性、計(jì)算量、輸出結(jié)果3個(gè)方面對(duì)上述3種算法進(jìn)行仿真分析.
3.1 收斂性能
圖7分別給出了3種算法的收斂曲線.由圖可知傳統(tǒng)固定步長(zhǎng)LMS算法在第100個(gè)采樣點(diǎn)收斂,SVS-LMS算法在第90個(gè)采樣點(diǎn)收斂,而本文算法在第30個(gè)采樣點(diǎn)收斂.因此本文提出的算法比傳統(tǒng)固定步長(zhǎng)LMS算法、SVS-LMS算法的收斂速度更快.
3.2 算法的計(jì)算復(fù)雜度
表1為2種算法的步長(zhǎng)函數(shù)復(fù)雜度的比較,從中可以看出本文的算法復(fù)雜度與其他算法的復(fù)雜度相近.
表1 2種算法的計(jì)算復(fù)雜度比較
3.3 輸出結(jié)果
由圖8可知,本文算法的輸出信號(hào)比固定步長(zhǎng)LMS算法及SVS-LMS算法的輸出信號(hào)更接近期望信號(hào).
(a)期望信號(hào) (b)3種算法輸出信號(hào)
綜上所述,傳統(tǒng)固定步長(zhǎng)LMS算法由于對(duì)e(n)缺乏調(diào)節(jié)能力,導(dǎo)致算法在收斂性與穩(wěn)定性方面存在矛盾.本文根據(jù)變步長(zhǎng)LMS算法的步長(zhǎng)調(diào)節(jié)原則,通過(guò)建立步長(zhǎng)因子與誤差信號(hào)的雙曲正弦函數(shù)關(guān)系從而改進(jìn)了LMS算法,并對(duì)參數(shù)的設(shè)定進(jìn)行了分析仿真.通過(guò)仿真對(duì)比表明:作者提出的算法能夠有效地提高收斂速度,同時(shí)在穩(wěn)態(tài)性能方面也有一定的優(yōu)越性.
[1] STEPHEN W P. Steepest algorithm for neural network controllers and filters [J].IEEE Trans Neural Networks, 1994,5(2):198-212.
[2] KWONG R H, JOHNSTON E W. Variab lestep size LMS algorithm [J].IEEE Trans Signal Processing, 1992,40(7):1642-1663.
[3] BELLOFIORE S, BALANIS C A, FOUTZ J,etal. Smart-antenna systems for mobile communication net works part1: overviewand antenna design [J]. IEEE Antenn Prop Mag, 2002,44(3):145-154.
[4] 楊 宇,施未來(lái).變步長(zhǎng)LMS自適應(yīng)濾波算法研究[J].江蘇教育學(xué)院學(xué)報(bào), 2011,27(1):9-10.
[5] 覃景繁,歐陽(yáng)景正.一種新的變步長(zhǎng)自適應(yīng)濾波算法[J].數(shù)據(jù)采集與處理, 1997,12(3):171-194.
[6] 高 鷹,謝勝利.一種變步長(zhǎng)LMS自適應(yīng)濾波算法及分析[J].電子學(xué)報(bào), 2001,29(8):1094-1097.
[7] 李建平,蒙建波.基于雙曲函數(shù)的變步LMS 算法及其分析[J].傳感器與微系統(tǒng), 2011,30(5):127-129.
[8] 羅小東,賈振紅,王 強(qiáng).一種新的變步長(zhǎng)LMS自適應(yīng)濾波算法[J].電子學(xué)報(bào), 2006,34(6):1123-1126.
[9] 靳 翼.變步長(zhǎng)LMS自適應(yīng)均衡算法研究及其在DSP上的實(shí)現(xiàn)[D].成都:電子科技大學(xué), 2010.
[10] 李洪兵.時(shí)域變步長(zhǎng)最小均方誤差自適應(yīng)濾波算法研究[D].西安:空軍工程大學(xué), 2008.
[11] 龔耀寰.自適應(yīng)濾波時(shí)域自適應(yīng)濾波和智能天線[M ]. 2版.北京:電子工業(yè)出版社, 2003.
[12] BELLOFIORE S, BALANIS C A, FOUTZ J. Smartantenna system for mobile communication net works part2:beam for ming and net work through put [J]. IEEE Antenn Prop Mag, 2002,44(4):106-114.
[13] 何振亞.自適應(yīng)信號(hào)處理[M].北京:科學(xué)出版社, 2002.
[14] 谷源濤.LMS算法收斂性能研究及應(yīng)用[D].北京:清華大學(xué), 2004.
[15] SRISTI P, LU W S, ANTONIOU A. A new variable step-size LMS algorithm and its application in subband adaptive filtering for echo cancellation[J].IEEE Int Sympos, 2012,2(6):721-72.
(編輯 陳笑梅)
New Variable Step-Size LMS Algorithm Based on Hyperbolic Sine Function
LUOHai-fu,LIUHui*,ZHANGQi
(College of Physics and Information Science, Hunan Normal University, Changsha 410081, China)
The adaptive minimum mean square error (LMS) filtering algorithm step was studied. Based on analyzing the existing variable step size LMS algorithm, through mathematical changes on the hyperbolic sine function, a function is set up between step size factoru(n) and the error signale(n) function, and a new variable step size LMS algorithm is proposed based on the hyperbolic sine function, and the influence of parametera,b,cvalue on the performance of the algorithm was analyzed. Simulation results show that the proposed algorithm significantly outperforms the fixed step size LMS algorithm and SVS-LMS algorithm in convergence speed and steady-state error.
LMS algorithm; step factor; variable step-size; seeady-state error; convergence rate; hyperbolic sine function
2013-03-10
湖南省自然科學(xué)基金資助項(xiàng)目(12JJ3071)
*
,E-mail:liuhui1366@126.com
TN911.72
A
1000-2537(2014)04-0062-04