倪錦根,馬蘭申

(蘇州大學(xué)電子信息學(xué)院,江蘇蘇州 215006)

抗脈沖干擾的分布式仿射投影符號(hào)算法

倪錦根,馬蘭申

(蘇州大學(xué)電子信息學(xué)院,江蘇蘇州 215006)

遞增式和擴(kuò)散式仿射投影算法收斂較快,但在脈沖噪聲環(huán)境下這兩種分布式估計(jì)算法收斂性較差或容易發(fā)散.本文采用受網(wǎng)絡(luò)節(jié)點(diǎn)的權(quán)值向量更新約束的后驗(yàn)誤差向量l1范數(shù)最小化方法,提出了兩種抗脈沖干擾的分布式估計(jì)算法,即遞增式和擴(kuò)散式仿射投影符號(hào)算法.仿真結(jié)果表明,與分布式仿射投影算法相比,分布式仿射投影符號(hào)算法在脈沖噪聲環(huán)境下具有更好的魯棒性.

自適應(yīng)網(wǎng)絡(luò);仿射投影;符號(hào)算法;分布式估計(jì)

1　引言

隨著信息科學(xué)與技術(shù)的迅速發(fā)展,網(wǎng)絡(luò)在日常生活、工業(yè)生產(chǎn)、航空航天等領(lǐng)域具有廣泛的應(yīng)用.目前,網(wǎng)絡(luò)的分類方式較多:按照是否需要物理方式連接,可將網(wǎng)絡(luò)分為有線網(wǎng)絡(luò)和無線網(wǎng)絡(luò);按照網(wǎng)絡(luò)節(jié)點(diǎn)信息的傳遞方式,可將網(wǎng)絡(luò)分為總線型、星型和環(huán)形等網(wǎng)絡(luò).通常將節(jié)點(diǎn)分散放置在某個(gè)特定區(qū)域上,且每個(gè)節(jié)點(diǎn)具有一定信息處理能力的網(wǎng)絡(luò)稱為分布式網(wǎng)絡(luò)[1].分布式網(wǎng)絡(luò)在目標(biāo)跟蹤[2]、動(dòng)物群體運(yùn)動(dòng)模擬[3]、基因網(wǎng)絡(luò)建模[4]、頻譜感知[5]等領(lǐng)域具有重要作用.自適應(yīng)網(wǎng)絡(luò)是對(duì)具有自適應(yīng)信號(hào)處理能力的分布式網(wǎng)絡(luò)的總稱.能夠?qū)W(wǎng)絡(luò)節(jié)點(diǎn)采集到的信息進(jìn)行分析和推理,且自適應(yīng)地估計(jì)某個(gè)感興趣參量的分布式網(wǎng)絡(luò),都可以稱為自適應(yīng)網(wǎng)絡(luò)[6],并將對(duì)自適應(yīng)網(wǎng)絡(luò)的參數(shù)進(jìn)行估計(jì)的算法稱為分布式估計(jì)算法.

由于分布式網(wǎng)絡(luò)使用廣泛,近年來學(xué)者們對(duì)分布式估計(jì)的研究產(chǎn)生了極大的興趣,提出了一系列分布式估計(jì)算法.典型的分布式估計(jì)算法主要包括遞增式和擴(kuò)散式最小均方算法(分別簡記為ILMS和DLMS)[7,8]、遞增式和擴(kuò)散式遞歸最小二乘算法(分別簡記為IRLS和DRLS)[9,10]、遞增式和擴(kuò)散式仿射投影算法(分別簡記為IAPA和DAPA)[11,12].此外,學(xué)者們還提出了加快估計(jì)稀疏未知向量的分布式估計(jì)算法[13,14]和基于信息論準(zhǔn)則的分布式估計(jì)算法[15].遞增式和擴(kuò)散式最小均方算法因?qū)崿F(xiàn)簡單、計(jì)算復(fù)雜度低等優(yōu)點(diǎn),成為應(yīng)用較多的兩種分布式估計(jì)算法,但其缺點(diǎn)是收斂速度較慢.遞增式和擴(kuò)散式遞歸最小二乘算法能夠加快分布式估計(jì)的收斂速度,但其計(jì)算復(fù)雜度高,跟蹤能力差.遞增式和擴(kuò)散式仿射投影算法的收斂速度快于遞增式和擴(kuò)散式最小均方算法,且計(jì)算復(fù)雜度低于遞增式和擴(kuò)散式遞歸最小二乘算法,因而具有很好的實(shí)用性.

自適應(yīng)濾波算法的魯棒性通常用來指自適應(yīng)濾波算法的抗大噪聲干擾能力.大部分文獻(xiàn)假設(shè)分布式網(wǎng)絡(luò)的所有節(jié)點(diǎn)都處于較小的噪聲環(huán)境中[7～14].在這類環(huán)境中,上述算法一般不存在魯棒性問題.然而在有些情況下,網(wǎng)絡(luò)所處的環(huán)境非常惡劣,網(wǎng)絡(luò)節(jié)點(diǎn)采集到的信號(hào)很可能收到脈沖噪聲的干擾.到目前為止,大部分分布式估計(jì)算法是基于l2范數(shù)最優(yōu)化方法建立的.在脈沖噪聲環(huán)境中,網(wǎng)絡(luò)節(jié)點(diǎn)的輸出誤差信號(hào)中包含了脈沖噪聲.脈沖噪聲的幅值通常是輸出誤差信號(hào)中所包含的有用信號(hào)幅值的幾百甚至幾千倍.基于l2范數(shù)的分布式估計(jì)算法直接使用包含脈沖噪聲的輸出誤差信號(hào)去更新節(jié)點(diǎn)的權(quán)值向量,因而收斂性較差,甚至發(fā)散.已有研究結(jié)果表明,基于l1范數(shù)最優(yōu)化方法建立的自適應(yīng)濾波算法具有很好的魯棒性,如基于最小均方算法的符號(hào)算法(簡記為SA)[16]、基于混合范數(shù)最優(yōu)化的符號(hào)算法(簡記為MSA)[17]、仿射投影符號(hào)算法(簡記為APSA)[18,19]等,其中仿射投影符號(hào)算法具有最快的收斂速度.

為了解決已有分布式估計(jì)算法抗脈沖干擾能力差這一問題,本文提出了兩種分布式估計(jì)算法,即遞增式和擴(kuò)散式仿射投影符號(hào)算法.與文獻(xiàn)[11,12]中采用牛頓迭代法推導(dǎo)遞增式和擴(kuò)散式仿射投影算法不同,本文首先建立受條件約束的后驗(yàn)誤差向量l1范數(shù)最小化公式,然后采用拉格朗日乘子法來推導(dǎo)遞增式和擴(kuò)散式仿射投影符號(hào)算法.仿真結(jié)果表明,與文獻(xiàn)[11,12]中提出的遞增式和擴(kuò)散式仿射投影算法相比,遞增式和擴(kuò)散式仿射投影符號(hào)算法在脈沖噪聲環(huán)境下具有更好的魯棒性.在戶外勘探、環(huán)境監(jiān)測(cè)以及軍事等領(lǐng)域,網(wǎng)絡(luò)節(jié)點(diǎn)所處的環(huán)境較為惡劣,如在人類較難進(jìn)入的大山或者森林中.在這些環(huán)境中,網(wǎng)絡(luò)節(jié)點(diǎn)可能會(huì)受到雷電或強(qiáng)電磁波的干擾.本文提出的分布式估計(jì)算法具有很好的抗脈沖干擾能力,因而在上述環(huán)境中具有很好的應(yīng)用前景.

2　自適應(yīng)網(wǎng)絡(luò)模型

自適應(yīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)也稱為自適應(yīng)網(wǎng)絡(luò)的協(xié)作模式.目前,自適應(yīng)網(wǎng)絡(luò)的協(xié)作模式主要分為三類[6],即遞增式協(xié)作模式、擴(kuò)散式協(xié)作模式和概率擴(kuò)散式協(xié)作模式,如圖1所示.在遞增式協(xié)作模式中,網(wǎng)絡(luò)節(jié)點(diǎn)信號(hào)按順序從一個(gè)節(jié)點(diǎn)傳遞到與之相鄰的下一個(gè)節(jié)點(diǎn),因此,這種協(xié)作模式所需的通信量最低,但網(wǎng)絡(luò)節(jié)點(diǎn)間必須構(gòu)成一個(gè)通信環(huán)路.在擴(kuò)散式協(xié)作模式中,每個(gè)節(jié)點(diǎn)與其鄰域內(nèi)的節(jié)點(diǎn)進(jìn)行通信,因此,這種協(xié)作模式的通信量大于遞增式自適應(yīng)網(wǎng)絡(luò),但這種協(xié)作方式能夠充分利用其鄰域內(nèi)節(jié)點(diǎn)包含的信息,且無需在節(jié)點(diǎn)間構(gòu)建通信環(huán)路.在概率擴(kuò)散式協(xié)作模式中,各節(jié)點(diǎn)的工作方式與在擴(kuò)散式協(xié)作模式中的工作方式類似,但每個(gè)節(jié)點(diǎn)的鄰域不是固定的,即節(jié)點(diǎn)之間以一定的概率進(jìn)行連接(圖中用虛線表示依概率連接),因而具有更好的靈活性,但連接方式實(shí)現(xiàn)更加復(fù)雜.本文主要討論遞增式和擴(kuò)散式協(xié)作模式.

3　分布式估計(jì)算法推導(dǎo)

將節(jié)點(diǎn)n的L階投影輸入矩陣和期望向量分別記為

Un(k)=[un(k),un(k-1),…,un(k-L+1)]

(1)

dn(k)=[dn(k),dn(k-1),…,dn(k-L+1)]T

(2)

定義節(jié)點(diǎn)n的先驗(yàn)和后驗(yàn)誤差向量分別為

(3)

(4)

其中,wn(k)表示節(jié)點(diǎn)n對(duì)未知向量wo在k時(shí)刻的估計(jì).文獻(xiàn)[8]提出了一種用于自適應(yīng)濾波器的仿射投影符號(hào)算法,該算法對(duì)脈沖噪聲干擾具有很好的魯棒性.本文將該算法進(jìn)行推廣,提出兩種分布式仿射投影符號(hào)算法.

建立如下受條件約束的最小化公式:

(5)

(6)

其中,‖·‖1和‖·‖2分別表示取l1和l2范數(shù),μn為節(jié)點(diǎn)n的步長參數(shù),g(n,k)表示與變量n、變量k相關(guān)的對(duì)未知向量wo的一個(gè)估計(jì)值,對(duì)該向量采用不同的取值方式將獲得不同的分布式估計(jì)算法.采用式(5)和式(6)來推導(dǎo)魯棒的分布式估計(jì)算法的依據(jù)如下:在式(5)中,最小化后驗(yàn)誤差向量的l1范數(shù)可以使得每個(gè)節(jié)點(diǎn)的權(quán)值向量沿著使代價(jià)函數(shù)減小的方向移動(dòng),從而逼近未知向量,且l1范數(shù)最小化使得權(quán)值向量更新公式中只包含誤差信號(hào)的符號(hào)運(yùn)算,因而可以降低脈沖噪聲干擾對(duì)節(jié)點(diǎn)的影響[17];式(6)中的約束條件能夠通過步長μ限定算法每次迭代的幅度,從而防止算法發(fā)散.

為了采用拉格朗日乘子法求解上述受約束的最優(yōu)化問題[18],建立如下的代價(jià)函數(shù)

(7)

?J(k)/?wn(k)

=-Un(k)sgn[εn(k)]+2λn[wn(k)-g(n,k)]

(8)

令上式為零,可得

(9)

將式(9)代入式(6)并取等號(hào),從而有

(10)

上式可變換為

(11)

將式(11)代入式(9),可得wn(k)=g(n,k)

(12)

上式中添加的δ為很小的正常數(shù),用來避免數(shù)值計(jì)算困難,文獻(xiàn)中稱其為正則化因子.

3.1遞增式仿射投影符號(hào)算法

令g(n,k)=wn-1(k),則式(12)轉(zhuǎn)化為

wn(k)=wn-1(k)

(13)

wn(k)=wn(k-1)

(14)

由式(14)可見,網(wǎng)絡(luò)中各節(jié)點(diǎn)間的信號(hào)傳遞方式符合圖1(a)所示的遞增式協(xié)作模式,即各節(jié)點(diǎn)之間按順序從前往后傳遞信號(hào).為了形成通信環(huán)路,可將最后一個(gè)節(jié)點(diǎn)N在k-1時(shí)刻的結(jié)果作為起始節(jié)點(diǎn)1在k時(shí)刻更新的基礎(chǔ),即遞增式仿射投影符號(hào)算法的權(quán)值向量更新可表示為

(15)

在遞增式協(xié)作模式中,每個(gè)節(jié)點(diǎn)只需要和相鄰的前后兩個(gè)節(jié)點(diǎn)間進(jìn)行通信,因而能夠降低每個(gè)節(jié)點(diǎn)需要的功耗.如果網(wǎng)絡(luò)中某個(gè)節(jié)點(diǎn)出現(xiàn)故障,那么整個(gè)網(wǎng)絡(luò)就會(huì)因鏈路斷裂而無法正常工作.下面將要介紹的擴(kuò)散式仿射投影符號(hào)算法可以解決這一問題.

3.2擴(kuò)散式仿射投影符號(hào)算法

在圖1(b)所示的擴(kuò)散式協(xié)作模式中,將能夠與節(jié)點(diǎn)n進(jìn)行通信的所有節(jié)點(diǎn)(包括該節(jié)點(diǎn)n本身)形成的集合稱為節(jié)點(diǎn)n的鄰域Nn.每個(gè)節(jié)點(diǎn)n通過與其鄰域內(nèi)其他節(jié)點(diǎn)通信來獲得它們?cè)趉-1時(shí)刻對(duì)未知向量的估計(jì){wi(k-1);i∈Nn},然后通過特定的聯(lián)合方式來生成節(jié)點(diǎn)n對(duì)未知向量wo在k-1時(shí)刻的中間估計(jì)φn(k-1)=fn[wi(k-1)], i∈Nn,其中fn[·]表示節(jié)點(diǎn)n的聯(lián)合函數(shù)[8].該中間估計(jì)最終作為節(jié)點(diǎn)n在k時(shí)刻更新的基礎(chǔ).

令g(n,k)=φn(k-1),則式(11)轉(zhuǎn)化為

wn(k)=φn(k-1)

(16)

wn(k)=φn(k-1)

(17)

如果用線性組合來表示聯(lián)合函數(shù)fn[·],則式(17)中的中間估計(jì)可表示為[8]

(18)

(19)

由式(19)可知,使用擴(kuò)散式仿射投影符號(hào)算法,網(wǎng)絡(luò)中每個(gè)節(jié)點(diǎn)的權(quán)值向量更新只需要傳遞其鄰域中節(jié)點(diǎn)的信號(hào).當(dāng)鄰域中某一節(jié)點(diǎn)因發(fā)生故障而無法通信時(shí),可將與該節(jié)點(diǎn)相關(guān)的聯(lián)合參數(shù)置零,并通過鄰域中剩余的結(jié)點(diǎn)進(jìn)行分布式估計(jì).因此,該算法雖然增大了通信量,但比遞增式仿射投影符號(hào)算法具有更好的穩(wěn)定性.

4　實(shí)驗(yàn)結(jié)果與分析

網(wǎng)絡(luò)中各節(jié)點(diǎn)的輸入信號(hào)un(k)、高斯白噪聲vn(k)和脈沖噪聲θn(k)的方差如圖3所示.輸入信號(hào)un(k)由零均值的高斯白噪聲通過一階系統(tǒng)F(z)=1/(1-0.9z-1)產(chǎn)生,脈沖干擾θn(k)為伯努利-高斯過程,該過程由伯努利過程ωn(k)與零均值的高斯過程zn(k)相乘產(chǎn)生,即θn(k)=ωn(k)zn(k).伯努利過程ωn(k)的概率分布為:當(dāng)ωn(k)=1時(shí),P[ωn(k)]=Pr;當(dāng)ωn(k)=0時(shí),P[ωn(k)]=1-Pr.實(shí)驗(yàn)中將Pr取為0.01.由圖3可見,每個(gè)節(jié)點(diǎn)n對(duì)應(yīng)的脈沖噪聲θn(k)的方差遠(yuǎn)大于高斯噪聲vn(k)的方差.所有算法的投影階數(shù)L都取為5,正則化因子δ都取為0.01.

圖4為遞增式仿射投影算法(IAPA)、仿射投影符號(hào)算法(APSA)和遞增式仿射投影符號(hào)算法(IAPSA)的網(wǎng)絡(luò)均方偏差曲線.為了比較APSA和IAPSA的收斂速度,我們將兩種算法的步長μ分別取為0.008和0.01,從而獲得相同的穩(wěn)態(tài)失調(diào).由該圖可見,在存在脈沖干擾的情況下,IAPA收斂很慢(μ=0.0001)或者不收斂(μ=0.001),而IAPSA和APSA都能夠收斂,且IAPSA比APSA收斂更快.

圖5為擴(kuò)散式仿射投影算法(DAPA)、仿射投影符號(hào)算法(APSA)和擴(kuò)散式仿射投影符號(hào)算法(DAPSA)的網(wǎng)絡(luò)均方偏差曲線圖.為了比較APSA和DAPSA的穩(wěn)態(tài)失調(diào),我們將兩種算法的步長μ分別取為0.01和0.008,從而達(dá)到相同的初始收斂速度.由該圖可見,在存在脈沖干擾的情況下,DAPA收斂很慢(μ=0.002)或者不收斂(μ=0.01),而DAPSA和APSA都能夠收斂,且DAPSA比APSA穩(wěn)態(tài)失調(diào)更低.

5　結(jié)論

本文通過分布式網(wǎng)絡(luò)中的遞增式和擴(kuò)散式協(xié)作模式,分別推導(dǎo)了兩種分布式估計(jì)算法,即遞增式與擴(kuò)散式仿射投影符號(hào)算法.由于遞增式與擴(kuò)散式仿射投影符號(hào)算法都涉及符號(hào)運(yùn)算,因此具有較低的計(jì)算復(fù)雜度.仿真結(jié)果表明,在脈沖噪聲干擾的情況下,遞增式和擴(kuò)散式仿射投影符號(hào)算法比遞增式和擴(kuò)散式仿射投影算法具有更強(qiáng)的魯棒性.

[1]Sayed A H.Adaptation,learning,and optimization over networks[J].Foundations and Trends in Machine Learning,2014,7(4-5):311-802.

[2]Tu S Y,Sayed A H.Mobile adaptive networks[J].IEEE Journal of Selected Topics in Signal Processing,2011,5(4):649-664.

[3]Lorenzo P Di,Barbarossa S,Sayed A H.Bio-inspired decentralized radio access based on swarming mechanisms over adaptive networks[J].IEEE Transactions on Signal Processing,2013,61(12):3183-3197.

[4]Shin Y J,Sayed A H,Shen X.Adaptive models for gene networks[J].Plos One,2012,7(2):e31657.

[5]Quan Z,Zhang W,Shellhammer S J,et al.Optimal spectral feature detection for spectrum sensing at very low SNR[J].IEEE Transactions on Communications,2011,59(1):201-212.

[6]Sayed A H.Adaptive network[J].Proceedings of the IEEE,2014,102(4):460-497.

[7]Lopes C G,Sayed A H.Incremental adaptive strategies over distributed networks[J].IEEE Transactions on Signal Processing,2007,55(8):4064-4077.

[8]Lopes C G,Sayed A H.Diffusion least-mean squares over adaptive networks:formulation and performance analysis[J].IEEE Transactions on Signal Processing,2008,56(7):3122-3136.

[9]Sayed A H,Lopes C G.Adaptive processing over distributed networks[J].IEICE Transactions on Fundamentals of Electronics,Communications and Computer Sciences,2007,E90-A(8):1504-1510.

[10]Cattivelli F S,Lopes C G,Sayed A H.Diffusion recursive least-squares for distributed estimation over adaptive networks[J].IEEE Transactions on Signal Processing,2008,56(5):1865-1877.

[11]Li L,Chambers J A,Lopes C G,Sayed A H.Distributed estimation over an adaptive incremental network based on the affine projection algorithm[J].IEEE Transactions on Signal Processing,2010,58(1):151-164.

[12]李雷雷,何劍輝,張勇剛.分布式網(wǎng)絡(luò)中的仿射投影自適應(yīng)算法[J].中國傳媒大學(xué)學(xué)報(bào),2012,19(2):34-43.

LI Lei-lei,HE Jian-hui,ZHANG Yong-gang.Affine projection algorithms over distributed wireless networks[J].Journal of Communication University of China,2012,19(2):34-43. (in Chinese)

[13]Liu Y,Li C,Zhang Z.Diffusion sparse least-mean squares over networks[J].IEEE Transactions on Signal Processing,2012,60(8):4480-4485.

[14]Liu Z,Liu Y,Li C.Distributed sparse recursive least-squares over networks[J].IEEE Transactions on Signal Processing,2014,62(6):1386-1395.

[15]Li C,Shen P,Liu Y.Diffusion information theoretic learning for distributed estimation over network[J].IEEE Transactions on Signal Processing,2013,61(16):4011-4024.

[16]Sayed A H.Adaptive Filters[M].Hoboken,New Jersey:John Wiley & Sons,2008.

[17]Papoulis E V,Stathaki T.A normalized robust mixed-norm adaptive algorithm for system identification[J].IEEE Signal Processing Letters,2004,11(1):56-59.

[18]Shao T,Zheng Y R,Benesty J.An affine projection sign algorithm robust against impulsive interferences[J].IEEE Signal Processing Letters,2010,17(4):327-330.

[19]Ni J,Li F.Efficient implementation of the affine projection sign algorithm[J].IEEE Signal Processing Letters,2012,19(1):24-26.

[20]Ni J,Chen X,Yang J.Two variants of the sign subband adaptive filter with improved convergence rate[J].Signal Processing,2014,96(B):325-331.

倪錦根男,1979年11月生,江蘇省興化市人.畢業(yè)于復(fù)旦大學(xué),獲理學(xué)博士學(xué)位,現(xiàn)為蘇州大學(xué)電子信息學(xué)院副教授、碩士生導(dǎo)師,IEEE會(huì)員.主要研究方向?yàn)樽赃m應(yīng)濾波、自適應(yīng)網(wǎng)絡(luò)、多采樣率濾波器組設(shè)計(jì)、高速數(shù)字系統(tǒng)的FPGA實(shí)現(xiàn).

E-mail:jni@suda.edu.cn

馬蘭申男,1988年4月生,安徽省亳州市人.獲蘇州大學(xué)碩士學(xué)位.研究方向?yàn)樽赃m應(yīng)濾波和分布式估計(jì).

E-mail:malanlong@163.com

Distributed Affine Projection Sign Algorithms Against Impulsive Interferences

NI Jin-gen,MA Lan-shen

(School of Electronic and Information Engineering,Soochow University,Suzhou,Jiangsu 215006,China)

While the incremental and diffusion affine projection algorithms have fast convergence rate,they may suffer from bad convergence performance or divergence in impulsive interference environments. Based on the method of minimization of the l1-norm of the a posteriori error vectors subject to a constraint on the update of the weight vectors of nodes in the network,two distributed estimation algorithms against impulsive interferences are proposed,namely,the incremental and diffusion affine projection sign algorithms. Simulation results show that the distributed affine projection sign algorithms exhibit better robustness than the distributed affine projection algorithms in impulsive interference environments.

adaptive network;affine projection;sign algorithm;distributed estimation

2015-06-29;

2015-09-30；責(zé)任編輯：李勇鋒

國家自然科學(xué)基金(No.61471251，No.61101217);江蘇省自然科學(xué)基金(No.BK20131164)

TN911.72

A

0372-2112 (2016)07-1555-06

??學(xué)報(bào)URL:http://www.ejournal.org.cn

10.3969/j.issn.0372-2112.2016.07.005