林　云，雷　洋，曾俊俊

（重慶郵電大學(xué) 移動(dòng)通信技術(shù)重慶市重點(diǎn)實(shí)驗(yàn)室，重慶 400065）

抗沖擊噪聲的核對(duì)數(shù)最小絕對(duì)差算法

林云，雷洋，曾俊俊

（重慶郵電大學(xué) 移動(dòng)通信技術(shù)重慶市重點(diǎn)實(shí)驗(yàn)室，重慶 400065）

提出了一種魯棒核自適應(yīng)濾波算法，其結(jié)合了核空間和最小對(duì)數(shù)絕對(duì)差（LLAD）算法，使用對(duì)數(shù)代價(jià)函數(shù)來解決沖擊噪聲對(duì)算法收斂的影響，從而提高算法的抗干擾性能。核對(duì)數(shù)最小絕對(duì)差（KLLAD）算法實(shí)現(xiàn)了類似核最小均方誤差（KLMS）算法的收斂性能，而且KLLAD算法具有很強(qiáng)的抗干擾能力，在非線性系統(tǒng)辨識(shí)中的魯棒性和收斂方面具有很好的表現(xiàn)。

自適應(yīng)濾波；系統(tǒng)辨識(shí)；魯棒性

0　引言

核方法作為解決非線性問題的有效手段得到了全面的關(guān)注和研究，它的原理是把輸入信號(hào)映射到高維的特征空間中，在高維的特征空間里再進(jìn)行線性運(yùn)算[1]，從而解決非線性問題。核方法不需要知道映射的具體形式，只需要確定變換后內(nèi)積的核函數(shù)的形式?；谧钚【秸`差（LMS）算法的核最小均方誤差（KLMS）算法已經(jīng)被證明能夠在有高斯噪聲的環(huán)境下很好地解決非線性問題[2]，而在實(shí)際應(yīng)用中往往會(huì)存在著非高斯沖擊噪聲[3]，因而 KLMS算法的性能會(huì)受到很大的影響。在線性算法中，用對(duì)數(shù)作為代價(jià)函數(shù)的最小對(duì)數(shù)絕對(duì)差（LLAD）算法被用來解決這種存在非高斯噪聲的問題[4]。文獻(xiàn)[4]中的實(shí)驗(yàn)結(jié)果表明，最小對(duì)數(shù)絕對(duì)差（LLAD）算法和傳統(tǒng)的最小均方誤差（LMS）算法相比，前者具有很好的抗沖擊干擾能力，但是LLAD算法僅僅適用于線性系統(tǒng)。本文將LLAD算法引入到核空間中，提出核最小對(duì)數(shù)絕對(duì)差（KLLAD）算法，以此來解決存在非高斯噪聲的非線性問題，由于KLLAD算法以對(duì)數(shù)作為代價(jià)函數(shù)，能夠降低測(cè)量誤差 e(i)對(duì)算法更新的影響，所以它在魯棒性和收斂方面都有很好的表現(xiàn)。

1　KLMS和LLAD自適應(yīng)濾波算法

1.1KLMS算法

Mercer核是一個(gè)連續(xù)、對(duì)稱、正定的核函數(shù) κ：Rm× Rm→R[5]，常用的核函數(shù)包括高斯核和多項(xiàng)式核，本文使用的高斯核定義如下：

其中 h是核參數(shù)，根據(jù) Mercer的理論研究，任何核函數(shù)κ(u，u′)都可以通過映射φ以內(nèi)積的形式把輸入空間 U映射到高維特征空間 F（內(nèi)積空間）中[6]，其數(shù)學(xué)表達(dá)式如下：

如果定義φ(u)=κ(u，·)，則特征中空間 F本質(zhì)上也是一個(gè)核再生希伯特空間，KLMS算法實(shí)質(zhì)上就是在特征空間F中的線性LMS算法[2]。首先，通過映射φ將輸入信號(hào)u(i)映射到特征空間F中后變成φ(u(i))，定義φ(i)=φ(u(i))，然后對(duì)新的輸入數(shù)列{φ(i)，d(i)}應(yīng)用 LMS算法可以得到：

其中，e(i)是第 i次的預(yù)測(cè)誤差，η是步長(zhǎng)，w(i)是對(duì)特征空間中對(duì)自適應(yīng)濾波器抽頭矢量的估計(jì)。由式(3)可以看出，KLMS算法本質(zhì)上是在高緯特征空間中的線性LMS算法，是解決非線性問題的有效手段，有著非常廣泛的應(yīng)用。

1.2LLAD算法

在傳統(tǒng)的 LMS算法中，定義輸入信號(hào)為 u(i)，期望輸出為d(i)，濾波器輸出為y(i)，誤差信號(hào)e(i)=d(i)-y(i)= d(i)-w(i)Tu(i)，w(i)是自適應(yīng)濾波器的抽頭系數(shù)矢量，最常見的代價(jià)函數(shù)是E(e(i)2)，通過減少代價(jià)函數(shù)來逼近待辨識(shí)的系統(tǒng)，而在LLAD算法中應(yīng)用對(duì)數(shù)作為代價(jià)函數(shù)[4]：

對(duì)式(4)求導(dǎo)可得：

當(dāng)式（5）=0時(shí)，代價(jià)函數(shù)便取得最優(yōu)解，其中 a為設(shè)計(jì)的參數(shù)且a＞0，因此LLAD算法的自適應(yīng)濾波器的抽頭矢量更新表達(dá)式變?yōu)椋?/p>

其中μ為步長(zhǎng)參數(shù)。

分析式(6)可知，當(dāng)e(i)很大時(shí)算法更新近似于符號(hào)（SA）算法，當(dāng) e(i)很小時(shí)，算法更新近似于傳統(tǒng)的 LMS算法。因此LLAD算法綜合了LMS和SA兩種算法[4]，與LMS算法相比具有很好的抗沖擊噪聲性能，與SA算法相比具有更好的收斂性能。

2　KLLAD自適應(yīng)濾波算法

最小對(duì)數(shù)絕對(duì)差（LLAD）算法雖然具有很好的抗沖擊噪聲性能和收斂性能，但其只適用于線性系統(tǒng)，并不能直接用來解決非線性問題，因此本文在LLAD算法的基礎(chǔ)上提出KLLAD算法，在核空間中應(yīng)用LLAD算法，把LLAD算法推廣到核空間來解決非線性問題，并用系統(tǒng)辨識(shí)來驗(yàn)證其魯棒性和收斂性能。

首先，通過映射 φ將輸入信號(hào)u(i)映射到特征空間F中后變成φ(u(i))，定義 φ(i)=φ(u(i))，然后對(duì)新的輸入數(shù)列{φ(i)，d(i)}應(yīng)用 LLAD算法可以得到 KLLAD算法，KLLAD算法第i次的預(yù)測(cè)誤差:

由式(4)可以得出KLLAD算法的代價(jià)函數(shù)為：

其中F(e(i))=E(|e(i)|)。

對(duì)式(8)求導(dǎo)可得到：

如果▽wF(e(i))=0或者F(e(i))=0，則對(duì)數(shù)代價(jià)函數(shù)可以取得最優(yōu)解，所以對(duì)數(shù)代價(jià)函數(shù)J(e(i))的最優(yōu)解與代價(jià)函數(shù) F(e(i))的最優(yōu)解是一致的[4]。由于 F(e(i))=E(|e(i)|)，利用式(6)可以得出：

其中 μ是步長(zhǎng)，w(i)是對(duì)特征空間中對(duì)自適應(yīng)濾波器抽頭矢量的估計(jì)，如果定義w(0)=0，則可得到：

KLLAD在特征空間中的學(xué)習(xí)曲線為：

自適應(yīng)濾波器的輸出fi=w(i)Tφ(·)，如果定義φ(u(i))= κ(u(i)，.)，則KLLAD在原始空間中的學(xué)習(xí)曲線為：

綜上所述，KLLAD算法本質(zhì)上是在特征空間中的LLAD算法，所以其具有LLAD算法的魯棒性。

3　實(shí)驗(yàn)仿真結(jié)果分析

系統(tǒng)辨識(shí)是自適應(yīng)濾波器的一個(gè)重要應(yīng)用，本文用非線性系統(tǒng)辨識(shí)來驗(yàn)證KLLAD算法的性能，定義系統(tǒng)噪聲由高斯噪聲和非高斯沖擊噪聲線性組合而成，系統(tǒng)噪聲混入期望信號(hào)對(duì)期望信號(hào)產(chǎn)生干擾，實(shí)驗(yàn)中分別用KLLAD、KLMS和 LLAD三種算法來對(duì)該未知系統(tǒng)進(jìn)行逼近，并對(duì)比三種算法的魯棒性和收斂性。

非線性系統(tǒng)由一個(gè)線性信道和一個(gè)非線性信道組合而成[7]，其中線性信道選擇為：H(z)=1+0.2z-1，非線性信道為：y=x-0.9x2，其中 x為線性信道的輸出。定義非高斯沖擊噪聲表示為KiAi，Ki是一個(gè)伯努利過程且p(Ki=1)= pr，Ai是零均值的高斯過程，系統(tǒng)噪聲 n(i)由一個(gè)方差為σ2的白高斯噪聲和沖擊噪聲 KiAi組成[8，9]，在實(shí)驗(yàn)中KLLAD算法的參數(shù)設(shè)定為：核參數(shù)h=0.1，σ2=0.4，a=5[4]，μ=0.1；KLMS算法中 σ2=0.4，μ=0.05；LLAD算法中 σ2= 0.4，μ=0.01。三種算法的訓(xùn)練數(shù)據(jù)是1 000，測(cè)試數(shù)據(jù)是100，學(xué)習(xí)曲線取計(jì)算30次的平均值。三種算法的性能對(duì)比如圖1、圖2和圖3所示。其中圖1是沒有非高斯沖擊噪聲的環(huán)境，即pr=0；圖2是存在5%的非高斯沖擊噪聲的情況（pr=0.05，Ai=150）；圖3是存在很大單點(diǎn)非高斯沖擊噪聲的情況（A500=1 500）。

從圖1可以看出：在沒有沖擊噪聲的環(huán)境下，KLLAD（μ=0.1）算法和 KLMS算法（μ=0.05）具有相近的穩(wěn)態(tài)誤差，而且KLLAD算法收斂速度比KLMS要快；與LLAD算法（μ=0.01）相比，KLLAD算法的穩(wěn)態(tài)誤差要遠(yuǎn)遠(yuǎn)低于LLAD算法，由此也證明了LLAD算法不適用于非線性系統(tǒng)，表明了提出KLLAD算法的必要性。從圖2可以看出：在存在非高斯沖擊噪聲的環(huán)境里，KLLAD算法與LLAD都有很好的魯棒性，能夠避免沖擊噪聲對(duì)算法更新迭代的影響，使算法具有穩(wěn)定性；但是KLMS算法由于受到系統(tǒng)非高斯沖擊噪聲的影響，穩(wěn)態(tài)誤差波動(dòng)較大，其收斂性能大大降低，KLLAD算法要優(yōu)于KLMS算法。圖3是在第500次迭代時(shí)出現(xiàn)一個(gè)很大的非高斯沖擊噪聲，從圖中可以看出：在500次迭代時(shí)該沖擊噪聲對(duì)KLLAD和LLAD算法并無影響，而KLMS算法在i=500時(shí)出現(xiàn)了較大的波動(dòng)，產(chǎn)生了較大的誤差，在非高斯沖擊噪聲消失后，KLMS算法又會(huì)收斂于一個(gè)較低的穩(wěn)態(tài)誤差，其結(jié)果更進(jìn)一步驗(yàn)證了KLLAD算法的魯棒性和KLMS算法的局限性，在有非高斯沖擊的環(huán)境下KLLAD算法要遠(yuǎn)遠(yuǎn)優(yōu)于KLMS算法。

圖1　無沖擊噪聲環(huán)境下的三種算法對(duì)比（pr=0）

圖2　有沖擊噪聲環(huán)境下的三種算法對(duì)比（pr=0.05，Ai=150）

圖3　在i=500有單點(diǎn)沖擊噪聲環(huán)境下的三種算法對(duì)比

4　結(jié)論

本文提出的核最小對(duì)數(shù)絕對(duì)差（KLLAD）算法是將最小絕對(duì)差(LLAD)算法與核方法相結(jié)合而形成的新的算法，由于 KLLAD算法使用對(duì)數(shù)作為代價(jià)函數(shù)，有效降低了測(cè)量誤差 e(i)對(duì)算法更新迭代的影響[4]，使算法更具穩(wěn)定性，以此來解決存在非高斯沖擊噪聲的非線性問題，從系統(tǒng)辨識(shí)的實(shí)驗(yàn)仿真結(jié)果來看，在存在非高斯沖擊噪聲的環(huán)境里KLLAD算法與LLAD算法、KLMS算法相比，前者確實(shí)具有很好的魯棒性和收斂性能。

[1]LIU W，PRINCIPLE J C，HAYKIN S.Kernel adaptive filtering：a comprehensive introdtion[M].Hoboken，NJ，USA：Wiley，2010.

[2]LIU W，POKHAREL P P，PRINCIPLE J C.The kernel least-mean-square algorithm[J].IEEE Trans.Signal Process.，2008，56（2）：543-554.

[3]CHAMBERS J，AVLONITIS A.A robust mixed-norm adaptive filter algorithm[J].IEEE Signal Process.，1997，4 (2)：46-48.

[4]SAYIN M O，VANLI N D，KOZAT S S.A novel family of adaptive filtering based on logarithmic cost[J].IEEE Trans. Signal Process.，2014，62(17)：4411-4424.

[5]ARONSZAJN N.Theory of reproducing kernels[J].Trans. Amer.Math，Soc.，1950，68(3)：337-404.

[6]BURGES C J C.A tutorial on support vecter machines for patten recognition[J].Data Min.Knowl.Disc.，1998，2(2)：121-167.

[7]MIAO Q Y，LI C G.Kernel least-mean mixed-norm algorithm[C].ACAI.Xiamen：IET，2012：1285-1288.

[8]TANRIKULU O，CHANBERS J A.Convergence and steadystate properties of the least-mean mixed-norm(LMMN) adaptive algorithm[J].Proc.IEE-Vis.，Image&Signal Process.，1996，143(3)：137-142.

[9]WALACH E，WIDROW B.The least mean fourth(LMF) adaptive algorithm and its family[J].IEEE Trans.Inform. Theory，1984，30(2)：275-283.

Kernel least logarithmic absolute difference algorithm aganist impulsive noise

Lin Yun，Lei Yang，Zeng Junjun
(Chongqing Key Lab of Mobile Communication Technology，Chongqing University of Posts and Telecommunications，Chongqing 400065，China)

This paper presents a robust kernel adaptive filter algorithm,which combines the kernel space and the least logarithm absolute difference(LLAD)algorithm,it uses logarithm as its cost function to solve the impact on the convergence of algorithm which caused by the impulsive noise,then improve the anti-interference performance of the algorithm.Kernel least logarithm absolute difference(KLLAD)algorithm achieves the comparable convergence performance with the kernel least mean square(KLMS)algorithm while the KLLAD algorithm is robust against impulsive interference.The good performances in terms of robust and convergence performance are demonstrated in nonlinear system identification.

adaptive filter；system identification；robustness

TN911.72

A

10.16157/j.issn.0258-7998.2016.02.021

林云（1968-），男，博士，副教授，主要研究方向：MIMO技術(shù)及稀疏信號(hào)處理。

雷洋（1989-），通信作者，男，碩士研究生，主要研究方向：核自適應(yīng)濾波器，E-mail：leiy1989@163.com。

曾俊?。?991-），男，碩士研究生，主要研究方向：自適應(yīng)濾波器。

中文引用格式：林云，雷洋，曾俊俊.抗沖擊噪聲的核對(duì)數(shù)最小絕對(duì)差算法[J].電子技術(shù)應(yīng)用，2016，42(2)：78-80，84.

英文引用格式：Lin Yun，Lei Yang，Zeng Junjun.Kernel least logarithmic absolute difference algorithm aganist impulsive noise[J]. Application of Electronic Technique，2016，42(2)：78-80，84.