周 楠 倪錦根(蘇州大學(xué)電子信息學(xué)院 江蘇 蘇州 215006)
將節(jié)點(diǎn)分布在特定的區(qū)域內(nèi),且每個(gè)節(jié)點(diǎn)跟鄰域內(nèi)的其他節(jié)點(diǎn)存在信息交換的網(wǎng)絡(luò)可稱(chēng)為分布式網(wǎng)絡(luò)[1]。分布式網(wǎng)絡(luò)在回聲消除、目標(biāo)定位、生物群體活動(dòng)建模和圖像傳感器網(wǎng)絡(luò)等領(lǐng)域具有重要作用。自適應(yīng)網(wǎng)絡(luò)是指能夠根據(jù)網(wǎng)絡(luò)節(jié)點(diǎn)分布情況進(jìn)行訓(xùn)練和自學(xué)習(xí),并自適應(yīng)地調(diào)節(jié)自身參數(shù)的分布式網(wǎng)絡(luò)[2]。分布式估計(jì)算法通常用來(lái)對(duì)自適應(yīng)網(wǎng)絡(luò)的某些感興趣參量進(jìn)行估計(jì)。
分布式估計(jì)算法在信號(hào)處理領(lǐng)域應(yīng)用廣泛。近年來(lái)提出了幾種分布式估計(jì)算法,如擴(kuò)散式符號(hào)誤差最小均方算法(DSE-LMS)[3]、分布式仿射投影符號(hào)算法(DAPSA)[4]、分布式子帶自適應(yīng)濾波算法(DSAF)[5]、分布式符號(hào)子帶自適應(yīng)濾波算法(DASAF)[6-7]、分布式最小四階矩自適應(yīng)算法(DLMF)[8]等。對(duì)于線性未知系統(tǒng),上述分布式估計(jì)算法能夠獲得很好的性能,但是當(dāng)未知系統(tǒng)的期望信號(hào)存在非線性失真時(shí),上述算法的穩(wěn)態(tài)失調(diào)較大。為了解決這一問(wèn)題,文獻(xiàn)[9]提出了擴(kuò)散式樣條最小均方算法(簡(jiǎn)記為DSLMS),該算法對(duì)高斯噪聲環(huán)境中的自適應(yīng)網(wǎng)絡(luò)具有較好地估計(jì)性能。然而,當(dāng)網(wǎng)絡(luò)中存在一些非高斯的大方差加性噪聲時(shí),算法產(chǎn)生的穩(wěn)態(tài)失調(diào)較大。
本文首先定義節(jié)點(diǎn)誤差的p階矩代價(jià)函數(shù),然后通過(guò)隨機(jī)梯度法來(lái)最小化該代價(jià)函數(shù),從而推出一般形式的擴(kuò)散式樣條自適應(yīng)算法。當(dāng)p為4時(shí),可得擴(kuò)散式樣條四階矩算法。仿真結(jié)果表明,與擴(kuò)散式樣條最小均方算法,該算法對(duì)均勻和二元噪聲等功率較大的非高斯環(huán)境噪聲具有更低的穩(wěn)態(tài)失調(diào)。
自適應(yīng)網(wǎng)絡(luò)的節(jié)點(diǎn)連接方式可以用網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)來(lái)表示。常用的自適應(yīng)網(wǎng)絡(luò)連接方式主要有遞增式、擴(kuò)散式和概率分布式三種[1]。在遞增式拓?fù)浣Y(jié)構(gòu)中,每個(gè)節(jié)點(diǎn)包含的信息必須按順序從一個(gè)節(jié)點(diǎn)傳遞到與之相鄰的下一個(gè)節(jié)點(diǎn),最終形成一個(gè)閉合的通信環(huán);在擴(kuò)散式拓?fù)浣Y(jié)構(gòu)中,每個(gè)節(jié)點(diǎn)與其鄰域內(nèi)的多個(gè)節(jié)點(diǎn)進(jìn)行通信;在概率分布式拓?fù)浣Y(jié)構(gòu)中,每個(gè)節(jié)點(diǎn)是以一定的概率相連接,同樣地與鄰域內(nèi)的節(jié)點(diǎn)進(jìn)行通信。目前,擴(kuò)散式拓?fù)浣Y(jié)構(gòu)應(yīng)用最為廣泛,本文算法也采用擴(kuò)散式拓?fù)浣Y(jié)構(gòu)。
如圖1所示的擴(kuò)散式網(wǎng)絡(luò),各節(jié)點(diǎn)通過(guò)信息傳遞和自適應(yīng)迭代的方式對(duì)包含N個(gè)節(jié)點(diǎn)的網(wǎng)絡(luò)中的未知向量wo進(jìn)行估計(jì)。節(jié)點(diǎn)k在n時(shí)刻的輸入向量為xk,n=[xk(n),xk(n-1),…,xk(n-M+1)]T,其中M表示濾波器的抽頭系數(shù)。在包含非線性失真的自適應(yīng)網(wǎng)絡(luò)中,期望信號(hào)可以表達(dá)為:
(1)
式中:νk(n)表示節(jié)點(diǎn)k受到的環(huán)境噪聲,f(·)表示非線性失真函數(shù)。
圖1 擴(kuò)散式拓?fù)浣Y(jié)構(gòu)
在擴(kuò)散式樣條算法中,每個(gè)節(jié)點(diǎn)采用一個(gè)樣條自適應(yīng)濾波器,其結(jié)構(gòu)框圖如圖2所示[10-11]。
圖2 擴(kuò)散式網(wǎng)絡(luò)節(jié)點(diǎn)采用的樣條自適應(yīng)濾波器框圖
采用擴(kuò)散式樣條算法對(duì)未知系統(tǒng)進(jìn)行估計(jì)時(shí),在節(jié)點(diǎn)k先將輸入信號(hào)通過(guò)自適應(yīng)濾波器,得到線性輸出為[10]:
(2)
(3)
(4)
(5)
式中:B是樣條基矩陣[12]。定義誤差信號(hào)的p階矩為:
(6)
對(duì)第k個(gè)節(jié)點(diǎn)的n時(shí)刻抽頭系數(shù)向量求導(dǎo)可得:
(7)
(8)
對(duì)第k個(gè)節(jié)點(diǎn)的n時(shí)刻控制點(diǎn)向量qk,i,n求梯度可得:
(9)
(10)
研究表明,擴(kuò)散式自適應(yīng)網(wǎng)絡(luò)使用“自適應(yīng)-聯(lián)合”(ATC)策略能夠獲得更低的穩(wěn)態(tài)失調(diào)[1]。將ATC策略和最速下降法應(yīng)用于樣條自適應(yīng)濾波器,可得:
(11)
(12)
(13)
(14)
以上兩式為擴(kuò)散式樣條最小四階矩(DSLMF)算法權(quán)值向量和控制點(diǎn)向量的迭代公式。
圖3 擴(kuò)散式的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)
圖4 未知控制點(diǎn)分布情況
圖5 節(jié)點(diǎn)輸入信號(hào)、均勻噪聲和二元噪聲的方差
以白噪聲作為輸入,均勻噪聲和二元噪聲作為環(huán)境噪聲的情況下,DSLMF和DSLMS的網(wǎng)絡(luò)均方偏差曲線分別如圖6和圖7;為了在相同收斂速度條件下比較失調(diào)問(wèn)題,步長(zhǎng)分別取為0.002和0.000 02,圖7中DSLMS和DSLMF的步長(zhǎng)分別取為0.002和0.000 015。
圖6 DSLMS和DSLMF的網(wǎng)絡(luò)均方偏差曲線,輸入信號(hào)為白噪聲,環(huán)境噪聲為均勻加性噪聲
圖7 DSLMS和DSLMF的網(wǎng)絡(luò)均方偏差曲線,輸入信號(hào)為白噪聲,環(huán)境噪聲為二元加性噪聲
從圖6和圖7可以看出,無(wú)論是均勻還是二元環(huán)境噪聲,DSLMF都比DSLMS具有更低的穩(wěn)態(tài)失調(diào)。圖8和圖9將輸入信號(hào)換成有色信號(hào)。由圖可見(jiàn),在有色信號(hào)輸入下,DSLMF算法在較大的均勻或二元噪聲干擾下,其穩(wěn)態(tài)失調(diào)仍然優(yōu)于DSLMS算法。
圖8 DSLMS和DSLMF的網(wǎng)絡(luò)均方偏差曲線,輸入信號(hào)為有色,環(huán)境噪聲為均勻加性噪聲
圖9 DSLMS和DSLMF的網(wǎng)絡(luò)均方偏差曲線,輸入信號(hào)為有色,環(huán)境噪聲為二元加性噪聲
本文通過(guò)最小化p階矩代價(jià)函數(shù),運(yùn)用梯度下降法,推出了一種擴(kuò)散式樣條自適應(yīng)算法。當(dāng)p取不同的整數(shù)時(shí),可得到不同的算法。仿真結(jié)果表明,在較大的均勻噪聲或二元噪聲環(huán)境中,采用擴(kuò)散式樣條最小四階矩算法具有很低的穩(wěn)態(tài)失調(diào)。
[1] Sayed A H.Adaptive networks[J].Proceedings of the IEEE,2014,102(4):460- 497.
[2] Sayed A H.Adaptation,learning,and optimization over networks[J].Foundations and Trends in Machine Learning,2014,7(4- 5):311- 802.
[3] Ni J,Chen J,Chen X.Diffusion sign-error LMS algorithm:Formulation and stochastic behavior analysis[J].Signal Processing,2016,128:142- 149.
[4] 倪錦根,馬蘭申.抗脈沖干擾的分布式仿射投影符號(hào)算法[J].電子學(xué)報(bào),2016,44(7):1555- 1560.
[5] 倪錦根,馬蘭申.分布式子帶自適應(yīng)濾波算法[J].電子學(xué)報(bào),2015,43(11):2225- 2231.
[6] Ni J.Diffusion sign subband adaptive filtering algorithm for distributed estimation[J].IEEE Signal Processing Letters,2015,22(11):2029- 2033.
[7] Shi J,Ni J.Diffusion Sign Subband Adaptive Filtering Algorithm with Enlarged Cooperation and Its Variant[J].Circuits Systems & Signal Processing,2016,36(4):1- 11.
[8] Ni J,Yang J.Variable step-size diffusion least mean fourth algorithm for distributed estimation[J].Signal Processing,2016,122(C):93- 97.
[9] Scardapane S,Scarpiniti M,Comminiello D,et al.Diffusion spline adaptive filtering[C]//European Signal Processing Conference.IEEE,2016:1498- 1502.
[10] Scarpiniti M,Comminiello D,Parisi R,et al.Nonlinear spline adaptive filtering[J].Signal Processing,2013,93(4):772- 783.
[11] Guan S,Li Z.Normalised spline adaptive filtering algorithm for nonlinear system identification[J].Neural Processing Letters,2017,46(2):595- 607.
[12] Scarpiniti M,Comminiello D,Scarano G,et al.Steady-state performance of spline adaptive filters[J].IEEE Transactions on Signal Processing,2016,64(4):816- 828.