趙海全 李 磊
(西南交通大學(xué)電氣工程學(xué)院 成都 610031)
自適應(yīng)信號(hào)處理作為現(xiàn)代信號(hào)處理學(xué)科的一個(gè)重要分支,已經(jīng)獲得了極大的發(fā)展,并且已廣泛應(yīng)用于系統(tǒng)參數(shù)辨識(shí)、主動(dòng)噪聲控制、回聲消除、波束形成、信道均衡和電網(wǎng)諧波參數(shù)估計(jì)等領(lǐng)域中[1]。然而,大多數(shù)經(jīng)典的自適應(yīng)濾波算法,如最小均方(Least Mean Square, LMS)算法、遞歸最小二乘(Recursive Least Squares, RLS)算法以及仿射投影(Affine Projection, AP)算法等,它們都是基于測(cè)量噪聲只存在于期望信號(hào)中,而濾波器輸入信號(hào)完全精確的假設(shè)。然而,在實(shí)際環(huán)境中,由于采樣誤差、人工誤差以及工具誤差等誤差的存在,濾波器輸入信號(hào)完全精確有時(shí)候是不現(xiàn)實(shí)的[2]。在這種情況下,傳統(tǒng)的自適應(yīng)濾波算法會(huì)產(chǎn)生有偏估計(jì),并且其性能也嚴(yán)重惡化。為了解決這個(gè)問(wèn)題,研究者提出了各種各樣消除偏差的方法。其中一個(gè)重要的解決方法就是總體最小二乘(Total Least Squares, TLS)法?;诳傮w最小二乘原則,研究者開(kāi)發(fā)了一些相關(guān)的自適應(yīng)濾波算法。如最基本的梯度下降總體最小二乘(Gradient Descent TLS, GD-TLS)算法[2]。此外,基于不同優(yōu)化策略,如線性搜索[3,4]和逆功率迭代[5,6],研究者提出了幾種不同的遞歸總體最小二乘(Recursive TLS, RTLS)算法。
需要說(shuō)明的是,上述的經(jīng)典自適應(yīng)濾波算法包括總體最小二乘算法都是在高斯噪聲模型下取得最優(yōu)值的。盡管高斯分布是廣泛用于信號(hào)處理中的噪聲模型,很多信號(hào)處理及估值理論都是來(lái)自于高斯分布的假設(shè)。但在現(xiàn)實(shí)環(huán)境中,我們會(huì)遇到很多信號(hào)或噪聲不服從高斯分布,如通信系統(tǒng)噪聲、低頻大氣噪聲、雷達(dá)信號(hào)等。這些非高斯噪聲往往在短時(shí)間內(nèi)呈現(xiàn)明顯的沖擊特性,即使其沖擊量很少也會(huì)嚴(yán)重影響自適應(yīng)算法的性能。在文獻(xiàn)中,這類(lèi)非高斯噪聲通常使用Alpha穩(wěn)定分布或伯努利-高斯(Bernoulli-Gaussian, BG)聯(lián)合分布來(lái)描述或者建模。并且為了解決這類(lèi)問(wèn)題,研究者提出了許多解決方法來(lái)提高經(jīng)典自適應(yīng)濾波算法抗沖擊噪聲的能力[7,8]。近年來(lái),一些常用的抗沖擊噪聲算法也被應(yīng)用到TLS算法中。如通過(guò)利用最小誤差熵準(zhǔn)則,Shen等人[9]提出了一種最小總誤差熵(Minimum Total Error Entropy, MTEE)算法。由于MTEE算法具有較高的計(jì)算復(fù)雜度,Wang等人[10]利用另一種信息理論學(xué)習(xí)方法,即最大相關(guān)熵準(zhǔn)則,提出了一種復(fù)雜度相對(duì)較低的最大總相關(guān)熵(Maximum Total Correntropy, MTC)算法。此外,通過(guò)利用M估計(jì)函數(shù)的抗沖擊特性,一種魯棒的總體最小M估計(jì)(Total Least Mean M-Estimate, TLMM)算法也被提出[11]。另外,Sayin等人[12]提出了一族基于對(duì)數(shù)函數(shù)的自適應(yīng)濾波算法,為自適應(yīng)濾波算法的改進(jìn)提供了新的思路。此后,Xiong等人[13]定義了一種新的對(duì)數(shù)函數(shù)形式,并提出了一個(gè)魯棒的最小對(duì)數(shù)均方(Robust Least Mean Logarithmic Square, RLMLS)算法,該算法具有抗沖擊噪聲的特點(diǎn),在非高斯噪聲環(huán)境中仍能很好地工作。然而,在輸入信號(hào)含有噪聲的環(huán)境中,RLMLS算法仍然會(huì)產(chǎn)生有偏估計(jì)。因此,本文利用該對(duì)數(shù)函數(shù)形式具有抗沖擊特性,對(duì)TLS算法進(jìn)行了改進(jìn),提出了一種新穎的抗沖擊噪聲的對(duì)數(shù)總體最小二乘(Logarithmic Total Least Squares, L-TLS)自適應(yīng)算法,該新算法融合了TLS算法和RLMLS算法的優(yōu)勢(shì),不僅在非高斯環(huán)境中具有較好的收斂性能,并且當(dāng)輸入與輸出信號(hào)均被噪聲干擾時(shí)仍能實(shí)現(xiàn)無(wú)偏估計(jì)。最后通過(guò)計(jì)算機(jī)仿真實(shí)驗(yàn)對(duì)L-TLS算法的收斂性能進(jìn)行了驗(yàn)證。
盡管自適應(yīng)濾波器的應(yīng)用場(chǎng)景很多,但是其本質(zhì)都是通過(guò)利用輸入信號(hào)和期望信號(hào)來(lái)計(jì)算估計(jì)誤差,然后自動(dòng)調(diào)整濾波器的抽頭系數(shù)來(lái)適應(yīng)和跟蹤外部環(huán)境的變化。為了更加精確地描述實(shí)際環(huán)境中系統(tǒng)輸入與輸出均含有噪聲的情形,研究者在傳統(tǒng)的系統(tǒng)辨識(shí)模型上增加了輸入噪聲干擾,如圖1所示。這一新模型被稱作Errors-In-Variables(EIV)模型[14]。
其中, x (n) 是 未知系統(tǒng)在時(shí)刻n 的輸入信號(hào)向量,d (n)是 相應(yīng)的輸出信號(hào)。y (n)是濾波器的實(shí)際輸出信號(hào)。本文假設(shè)該未知系統(tǒng)為 L階線性系統(tǒng),即未知系統(tǒng)向量h ∈RL×1。并且滿足
TLS方法的目的是同時(shí)最小化濾波器輸入信號(hào)與期望信號(hào)中的噪聲干擾,它可以被總結(jié)為下面的最小化問(wèn)題[10]
其中,參數(shù) γ是輸出噪聲方差與輸入噪聲方差的比值,即γ =/。將式(3)中的樣本均值運(yùn)算替換為期望運(yùn)算,便可以得到梯度下降總體最小二乘(GD-TLS)算法的代價(jià)函數(shù),即
圖1 EIV系統(tǒng)辨識(shí)模型
本文結(jié)合對(duì)數(shù)函數(shù)用于抗沖擊干擾的優(yōu)勢(shì),提出了一種新的魯棒的總體最小二乘算法,即對(duì)數(shù)總體最小二乘(L-TLS)算法,它的代價(jià)函數(shù)被定義為
其中,α >0是一個(gè)尺度參數(shù),用于改變算法抗沖擊噪聲的能力。通過(guò)式(6)中的代價(jià)函數(shù),我們利用梯度下降法獲得該函數(shù)的極值點(diǎn)。即對(duì)Jl-tls(w)求導(dǎo),可以獲得梯度向量gl-tls(w)的表達(dá)式
然后,使用瞬時(shí)值代替期望值,可以進(jìn)一步獲得瞬時(shí)梯度向量
如此,利用瞬時(shí)梯度向量,可以得到L-TLS算法的權(quán)向量更新公式
其中 μ =2η 為步長(zhǎng)參數(shù),當(dāng)μ 越大時(shí),算法的收斂速度就越快,同時(shí)其穩(wěn)態(tài)誤差也會(huì)增大;而 μ較小時(shí),算法穩(wěn)態(tài)誤差減小,同時(shí)收斂速度將會(huì)降低。對(duì)式(9)進(jìn)行簡(jiǎn)單的代數(shù)轉(zhuǎn)換可以得到
最后,通過(guò)算法完成1次迭代總共需要的加/減法、乘法、除法的操作次數(shù)來(lái)衡量該算法的計(jì)算復(fù)雜度,并將本文提出的L-TLS算法與基本LMS算法和GD-TLS算法,以及文獻(xiàn)[13]中提出的RLMLS算法進(jìn)行了比較。從表2中可以看出,盡管L-TLS算法的計(jì)算量最大,但是比起GD-TLS算法,L-TLS算法的計(jì)算復(fù)雜度并沒(méi)有明顯增加,這在實(shí)際應(yīng)用中是可以接受的。
本節(jié)使用計(jì)算機(jī)仿真實(shí)驗(yàn)來(lái)驗(yàn)證算法的有效性。首先設(shè)置未知系統(tǒng)向量的維數(shù)L =16。未知向量的元素在–0.5~0.5之間隨機(jī)生成并被歸一化為// h//2=1。此外,輸入噪聲是零均值方差為=0.1的高斯噪聲。而輸出噪聲v (n)包 括背景噪聲vA(n)和沖擊噪聲vB(n)兩部分。其中背景噪聲與輸入噪聲相同,為零均值方差=0.1的高斯噪聲,而沖擊噪聲由伯努利-高斯(BG)過(guò)程產(chǎn)生,即vB(n)=b(n)p(n),這里 p(n) 是零均值方差為的高斯過(guò)程,并且?; b (n)是伯努利過(guò)程,其概率密度函數(shù)為P(b(n)=1)=Pr和P(b(n)=0)=1 ?Pr。參 數(shù)Pr用來(lái)控制沖擊噪聲發(fā)生的概率,Pr值越大,算法受到的沖擊效果越強(qiáng)烈。本實(shí)驗(yàn)中,使用歸一化均方誤差(Normalized Mean-Square-Deviation, NMSD)來(lái)評(píng)估算法的收斂性能,其表達(dá)式為
表1 L-TLS算法流程
表2 算法的計(jì)算復(fù)雜度
所有的仿真實(shí)驗(yàn)結(jié)果都是200次獨(dú)立運(yùn)行的平均值。
本小節(jié)中討論了參數(shù)α 對(duì)L-TLS算法性能的影響。設(shè)置沖擊噪聲發(fā)生的頻率為Pr=0.05 ,方差=8。在圖2中,輸入信號(hào)由零均值單位方差的高斯分布獨(dú)立產(chǎn)生,而圖3中的輸入信號(hào)為相關(guān)信號(hào),由零均值單位方差的高斯信號(hào)通過(guò)1階系統(tǒng)G(z)=1/(1 ?0.8z?1)產(chǎn)生。從圖2和圖3中可以看出,當(dāng)參數(shù)α值越大,則L-TLS算法的穩(wěn)態(tài)誤差越小,但是其收斂速度也隨之降低。另外,也可以發(fā)現(xiàn)當(dāng) α值較小時(shí)(如α =0.1),算法的收斂性能明顯惡化,說(shuō)明其抗沖擊噪聲的能力嚴(yán)重降低。
本小節(jié)比較了LMS, GD-TLS, RLMLS和L-TLS算法的收斂性能。其中,圖4輸入信號(hào)為零均值單位方差的高斯信號(hào),圖5輸入信號(hào)為相關(guān)信號(hào)。針對(duì)每一種輸入信號(hào),分別考慮了兩種噪聲環(huán)境,即高斯噪聲環(huán)境(Pr=0 )和沖擊噪聲環(huán)境(Pr=0.05)。本文選擇步長(zhǎng)使得所有算法有相同的初始收斂速率,從而便于觀察穩(wěn)態(tài)誤差的相對(duì)大小。通過(guò)圖4和圖5的仿真結(jié)果,可以得出無(wú)論輸入信號(hào)是高斯信號(hào)還是相關(guān)信號(hào),GD-TLS算法高斯噪聲環(huán)境( Pr=0)中的收斂性能都好于L-TLS算法,但是在沖擊噪聲環(huán)境(Pr=0.05)中,L-TLS算法則更具有優(yōu)勢(shì),而GD-TLS算法性能?chē)?yán)重惡化。另外,也可以發(fā)現(xiàn),在所有的仿真結(jié)果中,L-TLS算法比文獻(xiàn)[13]中的RLMLS算法具有更低的穩(wěn)態(tài)誤差。
μ=0.02圖2 L-TLS算法在高斯信號(hào)輸入的NMSD曲線( )
μ=0.02圖3 L-TLS算法在相關(guān)信號(hào)輸入的NMSD曲線( )
圖4 LMS, GD-TLS, RLMLS和L-TLS算法在高斯信號(hào)輸入的NMSD曲線
圖5 LMS, GD-TLS, RLMLS和L-TLS算法在相關(guān)信號(hào)輸入的NMSD曲線
本文針對(duì)在含有沖擊噪聲的非高斯環(huán)境中總體最小二乘(TLS)自適應(yīng)算法性能?chē)?yán)重惡化的問(wèn)題。利用一種廣義的對(duì)數(shù)函數(shù),提出了一種能夠抗沖擊噪聲干擾的魯棒總體最小二乘自適應(yīng)算法,即L-TLS算法。該算法不僅在未知系統(tǒng)輸入與輸出信號(hào)均被噪聲干擾的環(huán)境中能夠?qū)崿F(xiàn)無(wú)偏估計(jì),并且對(duì)沖擊噪聲的干擾也有很好的抑制能力。最后,本文通過(guò)計(jì)算機(jī)仿真實(shí)驗(yàn)驗(yàn)證了這一結(jié)論。