董駿捷,唐 建,周然之,楊超越
(陸軍工程大學(xué)野戰(zhàn)工程學(xué)院,南京 210007)
信號(hào)去噪是信號(hào)處理的重要環(huán)節(jié)。經(jīng)典的去噪方法有小波分解[1-3]、經(jīng)驗(yàn)?zāi)B(tài)分解[4-6](Empirical Mode Decomposition,EMD)、奇異值分解[7-8](Singular Value Decomposition,SVD)等。其中小波分解和SVD本質(zhì)上都是選取某一種核,對(duì)含噪信號(hào)進(jìn)行分解后,去除掉被認(rèn)為是噪聲的部分,重構(gòu)后得到降噪信號(hào)。這類(lèi)基于核的方法,需要依賴(lài)人的經(jīng)驗(yàn)去選擇核和確定閾值,自適應(yīng)性差,在用于時(shí)變信號(hào)去噪時(shí),效果往往不佳。EMD是一種依據(jù)信號(hào)本身特性的自適應(yīng)分解方法,但其存在著過(guò)沖-欠沖及邊界效應(yīng),導(dǎo)致信號(hào)在逐層分解與重構(gòu)過(guò)程中出現(xiàn)失真。
近年來(lái),深度學(xué)習(xí)領(lǐng)域中的生成式對(duì)抗網(wǎng)絡(luò)[6](Generative Adversarial Networks,GAN)發(fā)展迅猛,以其良好的數(shù)據(jù)生成能力、泛化能力、自適應(yīng)能力,在圖像去霧、去雨滴等問(wèn)題上取得了良好應(yīng)用,其本質(zhì)上也是二維信號(hào)的去噪問(wèn)題,為一維時(shí)序信號(hào)的去噪帶來(lái)新的思路。
原始GAN最初由Goodfellow等在2014年提出。其由生成器Generator和判別器Discriminator兩大部分組成。如圖1所示,生成器G根據(jù)輸入的隨機(jī)序列z來(lái)產(chǎn)生盡量服從真實(shí)數(shù)據(jù)分布Pdata(x)的生成樣本G(z),以欺騙判別器D,而D的作用是判斷輸入樣本是真實(shí)樣本x還是生成樣本G(z)。在G與D的交替訓(xùn)練過(guò)程中,兩者之間相互對(duì)抗,互相促進(jìn),最終達(dá)到納什均衡,使G能夠生成高度逼近真實(shí)分布的G(z),而D則由于無(wú)法正確區(qū)分x和G(z),其輸出最終會(huì)逼近一個(gè)固定值。
圖1 GAN的原理Figure 1 Principle of GAN
GAN的目標(biāo)函數(shù)如下所示:
原始GAN一經(jīng)提出,立即衍生出大量改進(jìn)模型,如DCGAN、AC-GAN、CC-GAN、InfoGAN、LSGAN、SGAN、DualGAN、CycleGAN、BGAN等。其中,2015年,Alec Radford提出的深度卷積GAN(Deep Convolutional GAN,DCGAN),將卷積神經(jīng)網(wǎng)絡(luò)與GAN結(jié)合起來(lái),把原始GAN的G和D所采用的多層感知機(jī)模型均改為CNN結(jié)構(gòu),大大優(yōu)化了原始GAN的性能,該結(jié)構(gòu)也多為其他衍生模型所借鑒。2017年,Kim提出了CycleGAN(Cycle-Consistent Generative Adversarial Networks),顧名思義,其是由兩個(gè)鏡像對(duì)稱(chēng)的GAN構(gòu)成的環(huán)形網(wǎng)絡(luò)。該模型可以實(shí)現(xiàn)兩類(lèi)有一定相關(guān)性的樣本的相互轉(zhuǎn)換,即通過(guò)無(wú)監(jiān)督訓(xùn)練,使得生成網(wǎng)絡(luò)學(xué)習(xí)到兩類(lèi)樣本空間相互間的最佳映射。CycleGAN在圖片風(fēng)格遷移領(lǐng)域取得了成功應(yīng)用,而信號(hào)去噪也是某種意義上的信號(hào)風(fēng)格遷移,因而同樣可利用該方法來(lái)實(shí)現(xiàn)信號(hào)去噪。
基于CycleGAN的自適應(yīng)去噪,就是尋求信號(hào)從含噪空間到無(wú)噪空間的最佳映射關(guān)系的過(guò)程。為實(shí)現(xiàn)這一目標(biāo),需要構(gòu)建含噪信號(hào)和無(wú)噪信號(hào)兩類(lèi)樣本集,對(duì)CycleGAN進(jìn)行訓(xùn)練,從而獲得兩個(gè)生成器。其中一個(gè)生成器以含噪信號(hào)為輸入,以無(wú)噪信號(hào)為輸出,也就是實(shí)現(xiàn)了端到端的自適應(yīng)去噪功能。去噪CycleGAN的結(jié)構(gòu)及原理如圖2所示。
圖2 去噪CycleGAN的結(jié)構(gòu)及原理Figure 2 The structure and principle of denoising CycleGAN
兩個(gè)對(duì)稱(chēng)的GAN共享兩個(gè)生成器GAB和GBA,分別完成從含噪信號(hào)樣本空間A到無(wú)噪信號(hào)樣本空間B的映射與逆映射,并各自帶一個(gè)判別器DB和DA。DB用于分辨真實(shí)的無(wú)噪信號(hào)與生成的偽無(wú)噪信號(hào);DA用于分辨真實(shí)的含噪信號(hào)與生成的偽含噪信號(hào)。一個(gè)單向GAN存在由G損失和D損失組成的一組對(duì)抗損失,一對(duì)鏡像的GAN就存在GAB與DB、GBA與DA這兩組對(duì)抗損失。
對(duì)于GBA與DA,對(duì)抗損失函數(shù)如下所示:
對(duì)于GAB與DB,對(duì)抗損失函數(shù)為:
此外,CycleGAN還增加了一項(xiàng)循環(huán)一致性損失,即要求任意一個(gè)信號(hào)依次通過(guò)兩個(gè)生成器后,得到的重構(gòu)信號(hào)能夠與自身盡可能一致,即要求:
循環(huán)一致性損失函數(shù)表達(dá)式為:
至此,整個(gè)CycleGAN的總損失函數(shù)即為兩組對(duì)抗損失和一組循環(huán)一致性損失之和:
本文所搭建的CycleGAN,其鏡像的兩個(gè)GAN均采用一致的DCGAN結(jié)構(gòu)。
判別器由5層卷積神經(jīng)網(wǎng)絡(luò)組成。其輸入為樣本庫(kù)的真實(shí)信號(hào)和生成器的生成信號(hào),輸出是一個(gè)1×32的判別向量,根據(jù)該向量與0向量和1向量的歐氏距離的大小,判定輸入信號(hào)是真實(shí)信號(hào)還是生成器生成的假信號(hào)。
生成器的結(jié)構(gòu)可分為編碼器、轉(zhuǎn)換器和解碼器3大部分。編碼器通過(guò)3層卷積模塊,將1個(gè)輸入信號(hào)壓縮成256個(gè)特征向量;轉(zhuǎn)換器由9層殘差模塊組成,通過(guò)組合信號(hào)的不相近特征,將信號(hào)在含噪域中的特征向量轉(zhuǎn)換為無(wú)噪域中的特征向量;解碼器則利用反卷積層完成從特征向量中還原出低級(jí)特征的工作,最后得到的輸出是1個(gè)生成信號(hào)。
實(shí)驗(yàn)所用訓(xùn)練數(shù)據(jù)集由A集和B集組成,各為5 000個(gè)無(wú)噪與增加了信噪比為1的高斯白噪聲的含噪信號(hào);測(cè)試數(shù)據(jù)集由隨機(jī)生成的信噪比分別為0.5、1、1.5、2、2.5、3的含高斯白噪聲的時(shí)變信號(hào)各200個(gè)組成。每個(gè)信號(hào)采樣頻率均為為1 000 Hz,長(zhǎng)度為256,經(jīng)一化處理。
實(shí)驗(yàn)采用信噪比SNR(Signal Noise Ratio)和均方誤差MSE(Mean Squared Error)來(lái)評(píng)判去噪效果。其中,SNR用以評(píng)價(jià)噪聲的去除情況;MSE用以評(píng)價(jià)去噪后的信號(hào)與真實(shí)信號(hào)之間的一致性。
首先,用訓(xùn)練數(shù)據(jù)集A集和B集對(duì)搭建的CycleGAN網(wǎng)絡(luò)進(jìn)行訓(xùn)練,待到對(duì)抗性損失與循環(huán)一致性損失收斂到穩(wěn)定值時(shí),停止訓(xùn)練,保存模型,此時(shí)的生成器GAB即學(xué)習(xí)到了從含噪域A到無(wú)噪域B的最佳映射;隨后,選取信噪比分別為0.8、1、1.5、2、2.5、3的1~6組含噪信號(hào)測(cè)試集,分別輸入具有去噪功能的生成器GAB,將輸出的去噪結(jié)果再分別與小波閾值去噪結(jié)果進(jìn)行定量對(duì)比,通過(guò)SNR和MSE兩個(gè)指標(biāo)來(lái)評(píng)判其去噪性能。
圖3~4所示為各組測(cè)試集的200個(gè)含噪信號(hào)用不同方法去噪后,信號(hào)的信噪比和均方誤差的分布情況。6組測(cè)試結(jié)果的均值如表1所示??芍?,CycleGAN去噪均方誤差遠(yuǎn)小于小波閾值法,信噪比遠(yuǎn)高于小波閾值法。
圖3 不同方法去噪后信號(hào)的MSE分布對(duì)比Figure 3 MSE distribution of signals denoised by different methods
圖4 不同方法去噪后信號(hào)的SNR分布對(duì)比Figure 4 SNR distribution of signals denoised by different methods
圖5~6分別從時(shí)域上和時(shí)頻域上直觀地展現(xiàn)了CycleGAN去噪的優(yōu)良效果??梢?jiàn),CycleGAN去噪有效克服了小波閾值法去噪在面對(duì)低信噪比信號(hào)時(shí)設(shè)定的閾值一刀切地將有用信號(hào)也當(dāng)做噪聲去除這一不足,通過(guò)模型的循環(huán)對(duì)抗訓(xùn)練,得到了具備自適應(yīng)映射能力的生成器,對(duì)噪聲能量較高的含噪信號(hào)也能很好地去噪,近乎逼真地還原為無(wú)噪信號(hào)。此外,生成網(wǎng)絡(luò)具有良好的泛化性能,能將其他不同信噪比的含噪信號(hào)也很好地從含噪空間映射到無(wú)噪空間。
表1 不同去噪方法的實(shí)驗(yàn)結(jié)果對(duì)比Table 1 Experimental results of different denoising methods
圖5 時(shí)域上的去噪效果比較Figure 5 Denoising effects in the time domain
圖6 時(shí)頻域上的去噪效果比較Figure 6 Denoising effects in the time-frequency domain
本文以尋找信號(hào)從含噪域到無(wú)噪域的最優(yōu)映射的思想為指導(dǎo),構(gòu)建了一維CycleGAN去噪網(wǎng)絡(luò),對(duì)一維時(shí)變信號(hào)自適應(yīng)去噪方法開(kāi)展了研究。實(shí)驗(yàn)結(jié)果表明,該方法得到的去噪生成器,面對(duì)低信號(hào)比的時(shí)變信號(hào)具有比傳統(tǒng)方法更優(yōu)越的自適應(yīng)去噪能力,并且具備良好的泛化性能。但對(duì)于生成器與判別器究竟如何學(xué)習(xí)到含噪信號(hào)與無(wú)噪信號(hào)的特征及其相互映射,尚不明確其數(shù)學(xué)原理。CycleGAN去噪的內(nèi)部黑箱機(jī)理,值得下一步重點(diǎn)研究。