倪錦根,馬蘭申

(蘇州大學電子信息學院,江蘇蘇州 215006)

抗脈沖干擾的分布式仿射投影符號算法

倪錦根,馬蘭申

(蘇州大學電子信息學院,江蘇蘇州 215006)

遞增式和擴散式仿射投影算法收斂較快,但在脈沖噪聲環(huán)境下這兩種分布式估計算法收斂性較差或容易發(fā)散.本文采用受網(wǎng)絡節(jié)點的權值向量更新約束的后驗誤差向量l1范數(shù)最小化方法,提出了兩種抗脈沖干擾的分布式估計算法,即遞增式和擴散式仿射投影符號算法.仿真結果表明,與分布式仿射投影算法相比,分布式仿射投影符號算法在脈沖噪聲環(huán)境下具有更好的魯棒性.

自適應網(wǎng)絡;仿射投影;符號算法;分布式估計

1　引言

隨著信息科學與技術的迅速發(fā)展,網(wǎng)絡在日常生活、工業(yè)生產(chǎn)、航空航天等領域具有廣泛的應用.目前,網(wǎng)絡的分類方式較多:按照是否需要物理方式連接,可將網(wǎng)絡分為有線網(wǎng)絡和無線網(wǎng)絡;按照網(wǎng)絡節(jié)點信息的傳遞方式,可將網(wǎng)絡分為總線型、星型和環(huán)形等網(wǎng)絡.通常將節(jié)點分散放置在某個特定區(qū)域上,且每個節(jié)點具有一定信息處理能力的網(wǎng)絡稱為分布式網(wǎng)絡[1].分布式網(wǎng)絡在目標跟蹤[2]、動物群體運動模擬[3]、基因網(wǎng)絡建模[4]、頻譜感知[5]等領域具有重要作用.自適應網(wǎng)絡是對具有自適應信號處理能力的分布式網(wǎng)絡的總稱.能夠對網(wǎng)絡節(jié)點采集到的信息進行分析和推理,且自適應地估計某個感興趣參量的分布式網(wǎng)絡,都可以稱為自適應網(wǎng)絡[6],并將對自適應網(wǎng)絡的參數(shù)進行估計的算法稱為分布式估計算法.

由于分布式網(wǎng)絡使用廣泛,近年來學者們對分布式估計的研究產(chǎn)生了極大的興趣,提出了一系列分布式估計算法.典型的分布式估計算法主要包括遞增式和擴散式最小均方算法(分別簡記為ILMS和DLMS)[7,8]、遞增式和擴散式遞歸最小二乘算法(分別簡記為IRLS和DRLS)[9,10]、遞增式和擴散式仿射投影算法(分別簡記為IAPA和DAPA)[11,12].此外,學者們還提出了加快估計稀疏未知向量的分布式估計算法[13,14]和基于信息論準則的分布式估計算法[15].遞增式和擴散式最小均方算法因實現(xiàn)簡單、計算復雜度低等優(yōu)點,成為應用較多的兩種分布式估計算法,但其缺點是收斂速度較慢.遞增式和擴散式遞歸最小二乘算法能夠加快分布式估計的收斂速度,但其計算復雜度高,跟蹤能力差.遞增式和擴散式仿射投影算法的收斂速度快于遞增式和擴散式最小均方算法,且計算復雜度低于遞增式和擴散式遞歸最小二乘算法,因而具有很好的實用性.

自適應濾波算法的魯棒性通常用來指自適應濾波算法的抗大噪聲干擾能力.大部分文獻假設分布式網(wǎng)絡的所有節(jié)點都處于較小的噪聲環(huán)境中[7～14].在這類環(huán)境中,上述算法一般不存在魯棒性問題.然而在有些情況下,網(wǎng)絡所處的環(huán)境非常惡劣,網(wǎng)絡節(jié)點采集到的信號很可能收到脈沖噪聲的干擾.到目前為止,大部分分布式估計算法是基于l2范數(shù)最優(yōu)化方法建立的.在脈沖噪聲環(huán)境中,網(wǎng)絡節(jié)點的輸出誤差信號中包含了脈沖噪聲.脈沖噪聲的幅值通常是輸出誤差信號中所包含的有用信號幅值的幾百甚至幾千倍.基于l2范數(shù)的分布式估計算法直接使用包含脈沖噪聲的輸出誤差信號去更新節(jié)點的權值向量,因而收斂性較差,甚至發(fā)散.已有研究結果表明,基于l1范數(shù)最優(yōu)化方法建立的自適應濾波算法具有很好的魯棒性,如基于最小均方算法的符號算法(簡記為SA)[16]、基于混合范數(shù)最優(yōu)化的符號算法(簡記為MSA)[17]、仿射投影符號算法(簡記為APSA)[18,19]等,其中仿射投影符號算法具有最快的收斂速度.

為了解決已有分布式估計算法抗脈沖干擾能力差這一問題,本文提出了兩種分布式估計算法,即遞增式和擴散式仿射投影符號算法.與文獻[11,12]中采用牛頓迭代法推導遞增式和擴散式仿射投影算法不同,本文首先建立受條件約束的后驗誤差向量l1范數(shù)最小化公式,然后采用拉格朗日乘子法來推導遞增式和擴散式仿射投影符號算法.仿真結果表明,與文獻[11,12]中提出的遞增式和擴散式仿射投影算法相比,遞增式和擴散式仿射投影符號算法在脈沖噪聲環(huán)境下具有更好的魯棒性.在戶外勘探、環(huán)境監(jiān)測以及軍事等領域,網(wǎng)絡節(jié)點所處的環(huán)境較為惡劣,如在人類較難進入的大山或者森林中.在這些環(huán)境中,網(wǎng)絡節(jié)點可能會受到雷電或強電磁波的干擾.本文提出的分布式估計算法具有很好的抗脈沖干擾能力,因而在上述環(huán)境中具有很好的應用前景.

2　自適應網(wǎng)絡模型

自適應網(wǎng)絡的拓撲結構也稱為自適應網(wǎng)絡的協(xié)作模式.目前,自適應網(wǎng)絡的協(xié)作模式主要分為三類[6],即遞增式協(xié)作模式、擴散式協(xié)作模式和概率擴散式協(xié)作模式,如圖1所示.在遞增式協(xié)作模式中,網(wǎng)絡節(jié)點信號按順序從一個節(jié)點傳遞到與之相鄰的下一個節(jié)點,因此,這種協(xié)作模式所需的通信量最低,但網(wǎng)絡節(jié)點間必須構成一個通信環(huán)路.在擴散式協(xié)作模式中,每個節(jié)點與其鄰域內(nèi)的節(jié)點進行通信,因此,這種協(xié)作模式的通信量大于遞增式自適應網(wǎng)絡,但這種協(xié)作方式能夠充分利用其鄰域內(nèi)節(jié)點包含的信息,且無需在節(jié)點間構建通信環(huán)路.在概率擴散式協(xié)作模式中,各節(jié)點的工作方式與在擴散式協(xié)作模式中的工作方式類似,但每個節(jié)點的鄰域不是固定的,即節(jié)點之間以一定的概率進行連接(圖中用虛線表示依概率連接),因而具有更好的靈活性,但連接方式實現(xiàn)更加復雜.本文主要討論遞增式和擴散式協(xié)作模式.

3　分布式估計算法推導

將節(jié)點n的L階投影輸入矩陣和期望向量分別記為

Un(k)=[un(k),un(k-1),…,un(k-L+1)]

(1)

dn(k)=[dn(k),dn(k-1),…,dn(k-L+1)]T

(2)

定義節(jié)點n的先驗和后驗誤差向量分別為

(3)

(4)

其中,wn(k)表示節(jié)點n對未知向量wo在k時刻的估計.文獻[8]提出了一種用于自適應濾波器的仿射投影符號算法,該算法對脈沖噪聲干擾具有很好的魯棒性.本文將該算法進行推廣,提出兩種分布式仿射投影符號算法.

建立如下受條件約束的最小化公式:

(5)

(6)

其中,‖·‖1和‖·‖2分別表示取l1和l2范數(shù),μn為節(jié)點n的步長參數(shù),g(n,k)表示與變量n、變量k相關的對未知向量wo的一個估計值,對該向量采用不同的取值方式將獲得不同的分布式估計算法.采用式(5)和式(6)來推導魯棒的分布式估計算法的依據(jù)如下:在式(5)中,最小化后驗誤差向量的l1范數(shù)可以使得每個節(jié)點的權值向量沿著使代價函數(shù)減小的方向移動,從而逼近未知向量,且l1范數(shù)最小化使得權值向量更新公式中只包含誤差信號的符號運算,因而可以降低脈沖噪聲干擾對節(jié)點的影響[17];式(6)中的約束條件能夠通過步長μ限定算法每次迭代的幅度,從而防止算法發(fā)散.

為了采用拉格朗日乘子法求解上述受約束的最優(yōu)化問題[18],建立如下的代價函數(shù)

(7)

?J(k)/?wn(k)

=-Un(k)sgn[εn(k)]+2λn[wn(k)-g(n,k)]

(8)

令上式為零,可得

(9)

將式(9)代入式(6)并取等號,從而有

(10)

上式可變換為

(11)

將式(11)代入式(9),可得wn(k)=g(n,k)

(12)

上式中添加的δ為很小的正常數(shù),用來避免數(shù)值計算困難,文獻中稱其為正則化因子.

3.1遞增式仿射投影符號算法

令g(n,k)=wn-1(k),則式(12)轉化為

wn(k)=wn-1(k)

(13)

wn(k)=wn(k-1)

(14)

由式(14)可見,網(wǎng)絡中各節(jié)點間的信號傳遞方式符合圖1(a)所示的遞增式協(xié)作模式,即各節(jié)點之間按順序從前往后傳遞信號.為了形成通信環(huán)路,可將最后一個節(jié)點N在k-1時刻的結果作為起始節(jié)點1在k時刻更新的基礎,即遞增式仿射投影符號算法的權值向量更新可表示為

(15)

在遞增式協(xié)作模式中,每個節(jié)點只需要和相鄰的前后兩個節(jié)點間進行通信,因而能夠降低每個節(jié)點需要的功耗.如果網(wǎng)絡中某個節(jié)點出現(xiàn)故障,那么整個網(wǎng)絡就會因鏈路斷裂而無法正常工作.下面將要介紹的擴散式仿射投影符號算法可以解決這一問題.

3.2擴散式仿射投影符號算法

在圖1(b)所示的擴散式協(xié)作模式中,將能夠與節(jié)點n進行通信的所有節(jié)點(包括該節(jié)點n本身)形成的集合稱為節(jié)點n的鄰域Nn.每個節(jié)點n通過與其鄰域內(nèi)其他節(jié)點通信來獲得它們在k-1時刻對未知向量的估計{wi(k-1);i∈Nn},然后通過特定的聯(lián)合方式來生成節(jié)點n對未知向量wo在k-1時刻的中間估計φn(k-1)=fn[wi(k-1)], i∈Nn,其中fn[·]表示節(jié)點n的聯(lián)合函數(shù)[8].該中間估計最終作為節(jié)點n在k時刻更新的基礎.

令g(n,k)=φn(k-1),則式(11)轉化為

wn(k)=φn(k-1)

(16)

wn(k)=φn(k-1)

(17)

如果用線性組合來表示聯(lián)合函數(shù)fn[·],則式(17)中的中間估計可表示為[8]

(18)

(19)

由式(19)可知,使用擴散式仿射投影符號算法,網(wǎng)絡中每個節(jié)點的權值向量更新只需要傳遞其鄰域中節(jié)點的信號.當鄰域中某一節(jié)點因發(fā)生故障而無法通信時,可將與該節(jié)點相關的聯(lián)合參數(shù)置零,并通過鄰域中剩余的結點進行分布式估計.因此,該算法雖然增大了通信量,但比遞增式仿射投影符號算法具有更好的穩(wěn)定性.

4　實驗結果與分析

網(wǎng)絡中各節(jié)點的輸入信號un(k)、高斯白噪聲vn(k)和脈沖噪聲θn(k)的方差如圖3所示.輸入信號un(k)由零均值的高斯白噪聲通過一階系統(tǒng)F(z)=1/(1-0.9z-1)產(chǎn)生,脈沖干擾θn(k)為伯努利-高斯過程,該過程由伯努利過程ωn(k)與零均值的高斯過程zn(k)相乘產(chǎn)生,即θn(k)=ωn(k)zn(k).伯努利過程ωn(k)的概率分布為:當ωn(k)=1時,P[ωn(k)]=Pr;當ωn(k)=0時,P[ωn(k)]=1-Pr.實驗中將Pr取為0.01.由圖3可見,每個節(jié)點n對應的脈沖噪聲θn(k)的方差遠大于高斯噪聲vn(k)的方差.所有算法的投影階數(shù)L都取為5,正則化因子δ都取為0.01.

圖4為遞增式仿射投影算法(IAPA)、仿射投影符號算法(APSA)和遞增式仿射投影符號算法(IAPSA)的網(wǎng)絡均方偏差曲線.為了比較APSA和IAPSA的收斂速度,我們將兩種算法的步長μ分別取為0.008和0.01,從而獲得相同的穩(wěn)態(tài)失調.由該圖可見,在存在脈沖干擾的情況下,IAPA收斂很慢(μ=0.0001)或者不收斂(μ=0.001),而IAPSA和APSA都能夠收斂,且IAPSA比APSA收斂更快.

圖5為擴散式仿射投影算法(DAPA)、仿射投影符號算法(APSA)和擴散式仿射投影符號算法(DAPSA)的網(wǎng)絡均方偏差曲線圖.為了比較APSA和DAPSA的穩(wěn)態(tài)失調,我們將兩種算法的步長μ分別取為0.01和0.008,從而達到相同的初始收斂速度.由該圖可見,在存在脈沖干擾的情況下,DAPA收斂很慢(μ=0.002)或者不收斂(μ=0.01),而DAPSA和APSA都能夠收斂,且DAPSA比APSA穩(wěn)態(tài)失調更低.

5　結論

本文通過分布式網(wǎng)絡中的遞增式和擴散式協(xié)作模式,分別推導了兩種分布式估計算法,即遞增式與擴散式仿射投影符號算法.由于遞增式與擴散式仿射投影符號算法都涉及符號運算,因此具有較低的計算復雜度.仿真結果表明,在脈沖噪聲干擾的情況下,遞增式和擴散式仿射投影符號算法比遞增式和擴散式仿射投影算法具有更強的魯棒性.

[1]Sayed A H.Adaptation,learning,and optimization over networks[J].Foundations and Trends in Machine Learning,2014,7(4-5):311-802.

[2]Tu S Y,Sayed A H.Mobile adaptive networks[J].IEEE Journal of Selected Topics in Signal Processing,2011,5(4):649-664.

[3]Lorenzo P Di,Barbarossa S,Sayed A H.Bio-inspired decentralized radio access based on swarming mechanisms over adaptive networks[J].IEEE Transactions on Signal Processing,2013,61(12):3183-3197.

[4]Shin Y J,Sayed A H,Shen X.Adaptive models for gene networks[J].Plos One,2012,7(2):e31657.

[5]Quan Z,Zhang W,Shellhammer S J,et al.Optimal spectral feature detection for spectrum sensing at very low SNR[J].IEEE Transactions on Communications,2011,59(1):201-212.

[6]Sayed A H.Adaptive network[J].Proceedings of the IEEE,2014,102(4):460-497.

[7]Lopes C G,Sayed A H.Incremental adaptive strategies over distributed networks[J].IEEE Transactions on Signal Processing,2007,55(8):4064-4077.

[8]Lopes C G,Sayed A H.Diffusion least-mean squares over adaptive networks:formulation and performance analysis[J].IEEE Transactions on Signal Processing,2008,56(7):3122-3136.

[9]Sayed A H,Lopes C G.Adaptive processing over distributed networks[J].IEICE Transactions on Fundamentals of Electronics,Communications and Computer Sciences,2007,E90-A(8):1504-1510.

[10]Cattivelli F S,Lopes C G,Sayed A H.Diffusion recursive least-squares for distributed estimation over adaptive networks[J].IEEE Transactions on Signal Processing,2008,56(5):1865-1877.

[11]Li L,Chambers J A,Lopes C G,Sayed A H.Distributed estimation over an adaptive incremental network based on the affine projection algorithm[J].IEEE Transactions on Signal Processing,2010,58(1):151-164.

[12]李雷雷,何劍輝,張勇剛.分布式網(wǎng)絡中的仿射投影自適應算法[J].中國傳媒大學學報,2012,19(2):34-43.

LI Lei-lei,HE Jian-hui,ZHANG Yong-gang.Affine projection algorithms over distributed wireless networks[J].Journal of Communication University of China,2012,19(2):34-43. (in Chinese)

[13]Liu Y,Li C,Zhang Z.Diffusion sparse least-mean squares over networks[J].IEEE Transactions on Signal Processing,2012,60(8):4480-4485.

[14]Liu Z,Liu Y,Li C.Distributed sparse recursive least-squares over networks[J].IEEE Transactions on Signal Processing,2014,62(6):1386-1395.

[15]Li C,Shen P,Liu Y.Diffusion information theoretic learning for distributed estimation over network[J].IEEE Transactions on Signal Processing,2013,61(16):4011-4024.

[16]Sayed A H.Adaptive Filters[M].Hoboken,New Jersey:John Wiley & Sons,2008.

[17]Papoulis E V,Stathaki T.A normalized robust mixed-norm adaptive algorithm for system identification[J].IEEE Signal Processing Letters,2004,11(1):56-59.

[18]Shao T,Zheng Y R,Benesty J.An affine projection sign algorithm robust against impulsive interferences[J].IEEE Signal Processing Letters,2010,17(4):327-330.

[19]Ni J,Li F.Efficient implementation of the affine projection sign algorithm[J].IEEE Signal Processing Letters,2012,19(1):24-26.

[20]Ni J,Chen X,Yang J.Two variants of the sign subband adaptive filter with improved convergence rate[J].Signal Processing,2014,96(B):325-331.

倪錦根男,1979年11月生,江蘇省興化市人.畢業(yè)于復旦大學,獲理學博士學位,現(xiàn)為蘇州大學電子信息學院副教授、碩士生導師,IEEE會員.主要研究方向為自適應濾波、自適應網(wǎng)絡、多采樣率濾波器組設計、高速數(shù)字系統(tǒng)的FPGA實現(xiàn).

E-mail:jni@suda.edu.cn

馬蘭申男,1988年4月生,安徽省亳州市人.獲蘇州大學碩士學位.研究方向為自適應濾波和分布式估計.

E-mail:malanlong@163.com

Distributed Affine Projection Sign Algorithms Against Impulsive Interferences

NI Jin-gen,MA Lan-shen

(School of Electronic and Information Engineering,Soochow University,Suzhou,Jiangsu 215006,China)

While the incremental and diffusion affine projection algorithms have fast convergence rate,they may suffer from bad convergence performance or divergence in impulsive interference environments. Based on the method of minimization of the l1-norm of the a posteriori error vectors subject to a constraint on the update of the weight vectors of nodes in the network,two distributed estimation algorithms against impulsive interferences are proposed,namely,the incremental and diffusion affine projection sign algorithms. Simulation results show that the distributed affine projection sign algorithms exhibit better robustness than the distributed affine projection algorithms in impulsive interference environments.

adaptive network;affine projection;sign algorithm;distributed estimation

2015-06-29;

2015-09-30；責任編輯：李勇鋒

國家自然科學基金(No.61471251，No.61101217);江蘇省自然科學基金(No.BK20131164)

TN911.72

A

0372-2112 (2016)07-1555-06

??學報URL:http://www.ejournal.org.cn

10.3969/j.issn.0372-2112.2016.07.005