非高斯噪聲環(huán)境下基于擴(kuò)展基追蹤模型的信號去噪
2008-04-12 00:00:00黃烜王春玲汪雄良
現(xiàn)代電子技術(shù) 2008年11期
摘 要：經(jīng)典基追蹤模型中所考慮的噪聲是加性的高斯白噪聲，而實際應(yīng)用中噪聲的形式是多種多樣的。因此，經(jīng)典基追蹤模型不能滿足處理非高斯噪聲環(huán)境下的信號去噪問題?；诓煌南∈栊远攘亢瘮?shù)和不同的擬合誤差項形式，對經(jīng)典基追蹤模型進(jìn)行了擴(kuò)展，提出了新的基追蹤擴(kuò)展模型，并分析了擴(kuò)展模型的統(tǒng)計意義。針對其中一類擴(kuò)展模型，給出了其求解算法。在脈沖噪聲環(huán)境下的信號去噪實驗結(jié)果驗證了該模型具有比經(jīng)典基追蹤模型更顯著的去噪效果。
關(guān)鍵詞：基追蹤；擴(kuò)展模型；字典；正則化參數(shù)；脈沖噪聲；去噪
中圖分類號：TN911.4 文獻(xiàn)標(biāo)識碼：B
文章編號：1004-373X(2008)11-001-03
Signal Denoising Based on Extended Basis Pursuit Model under
Non-Gaussian Noise Circumstance
HUANG Xuan1，WANG Chunling2，WANG Xiongliang2，3
(1.Hubei Normal University，Huangshi，435002，China;
2.National University of Defence Technology，Changsha，410073，China;3.75660 Army，Guilin，541002，China)
Abstract：Traditional basis pursuit model is considered in the presence of additive Gaussian white noise.Eventually，there may be many kinds of noise circumstances in real application.Obviously，traditional basis pursuit model is not enough for non-Gaussian noise circumstances.Based on variable sparseness measure functions and error penalty functions，new extended Basis pursuit model is proposed.Statistical significance of extended basis pursuit model is analyzed，algorithm of a kind of extended basis pursuit model is also brought forward.Some typical signal denosing experiments results demonstrate that the extended Basis Pursuit model can provide better de-noising results than traditional Basis Pursuit model wherein the noise is impulse noise.
Keywords：basis pursuit;extended model;dictionary;regularization parameter;impulse noise;denoising
1 引 言
在科學(xué)領(lǐng)域中，人們總希望能夠以盡量“經(jīng)濟(jì)”的方式描述出信號，即獲取信號的一種最稀疏的表示，也就是使表示系數(shù)含有盡量少的非零分量?；粉櫡椒?sup>[1-3]是信號稀疏表示領(lǐng)域的一種新方法，它采用表示系數(shù)的l1范數(shù)作為信號表示稀疏性的度量，通過最小化l1范數(shù)將信號稀疏表示問題定義為一類有約束的極值問題。目前，它在信號處理領(lǐng)域有很好的應(yīng)用。David L.Donoho等利用經(jīng)典基追蹤模型在一維實信號去噪方面取得了很多很好的應(yīng)用結(jié)果[1，2]。
經(jīng)典基追蹤模型中所考慮的噪聲是加性的高斯白噪聲，而實際上不同的應(yīng)用背景中噪聲的形式是不同的，經(jīng)典基追蹤模型就不足以適應(yīng)多種多樣的噪聲形式。因此，從考慮不同噪聲類型的角度，可以對經(jīng)典的基追蹤模型進(jìn)行擴(kuò)展。
針對經(jīng)典基追蹤模型不適用于非高斯白噪聲環(huán)境下的信號去噪問題，基于不同的稀疏性度量函數(shù)和不同的擬合誤差項形式，給出了基追蹤擴(kuò)展模型的源模型。由源模型出發(fā)，可以衍生出多種有實際意義的擴(kuò)展模型。針對其中一類擴(kuò)展模型，給出了其求解算法。信號去噪實驗結(jié)果驗證了該模型具有顯著的去噪效果。
2 模 型
2.1 含噪觀測下的經(jīng)典基追蹤模型
對于觀測到的離散信號s∈RN，給定RN中的字典:
D={φr，r∈Γ}
其中，Γ為指標(biāo)集。φr∈RN(r∈Γ)為RN中的基函數(shù)，也稱為原子。如果將字典中的原子表示成矩陣D的列，將表示系數(shù)αr表示成一個列向量，經(jīng)典基追蹤模型將信號的稀疏表示問題歸結(jié)為如下的(P1)問題[1]：
(P1)min‖α‖1滿足s=Dα[JY](1)
在含噪觀測的情況下，考慮如下觀測模型：
y=s+n=Dα+n[JY](2)
其中s為原信號(s=Dα)，y為已知的觀測信號，假定n為高斯白噪聲，且‖n‖22<δ。此時，含噪觀測下的經(jīng)典基追蹤模型(也稱為基追蹤去噪模型)為[1]:
min‖α‖1滿足‖y-Dα‖22<δ[JY](3)
由Lagrange乘數(shù)法，模型(3)可歸結(jié)為求解以下(P2-1)問題：
(P2-1)minα12‖y-Dα‖22+λ‖α‖1[JY](4)
由以上優(yōu)化問題目標(biāo)函數(shù)的構(gòu)成可知，該優(yōu)化問題致力于最小化信號重建誤差，同時使得信號的表示最稀疏。正則化參數(shù)λ控制著允許誤差與稀疏性之間的平衡。
對于以上模型(2)，假定pn(n)∝exp[JB((]-‖n‖222σ2n[JB))]，故py|α(y|α)∝exp(-‖y-Dα‖222σ2n)，假定表示系數(shù)α的先驗分布滿足Laplacian分布，pα(α)∝e-c‖α‖1，在給定先驗分布的條件下，式(2)的極大后驗解為：
MAP[WB]=argmaxα ln pα|y(α|y)
[DW]=argminα\\[-lnpy|α(y|α)-lnpα(α)\\]
[DW]=argminα12‖y-Dα‖22+λ‖α‖1
其中取λ=σ2n/c?？梢?，由極大后驗準(zhǔn)則得到的目標(biāo)函數(shù)與經(jīng)典基追蹤模型中的目標(biāo)函數(shù)是一致的。由以上分析還可看出：在基追蹤模型中，目標(biāo)函數(shù)中的擬合誤差項‖y-Dα‖22是與噪聲的先驗分布對應(yīng)的(經(jīng)典基追蹤模型中考慮的是高斯白噪聲)；而正則項‖α‖1是與α的先驗分布對應(yīng)的(經(jīng)典基追蹤模型中考慮的是Laplacian分布)。
2.2 含噪觀測下的擴(kuò)展基追蹤模型
由以上分析可知，在含噪觀測下，改變稀疏性度量函數(shù)和擬合誤差項的形式，可以得到以下擴(kuò)展模型：
(1) 基于不同的擬合誤差項形式，有以下擴(kuò)展模型：
minα‖y-Dα‖ρ1+λ‖α‖1
其中，ρ1為一種損失函數(shù)，滿足可分性，即‖w‖ρ1=∑iρ1(wi)。
(2) 基于不同的稀疏性度量函數(shù)，有以下擴(kuò)展模型：
minα12‖y-Dα‖22+λ#8226;1T#8226;ρ2{α}
其中ρ2也是一種具有可分性的度量函數(shù)，ρ2{(α1，α2，…，αn)}=∑ni=12(αi)。1為其中元素全為自然數(shù)1的向量，如ρ2可取lp(0 綜合(1)和(2)，最終得到含噪觀測下基追蹤擴(kuò)展模型的源模型： minα‖y-Dα‖ρ1+λ#8226;1T#8226;ρ2{α} 由源模型出發(fā)，我們可以衍生出如下形式的擴(kuò)展模型： (P2-k)minα12‖y-Dα‖22+λ‖α‖kk(0 (Pk1-k2)minα‖y-Dα‖k1k1+λ‖α‖k2k2 (0 特別地，當(dāng)k1=k2=1時，可得到以下模型： (P1-1)minα‖y-Dα‖1+λ‖α‖1[JY](5) 以上擴(kuò)展模型(P2-k)在實際中可用于天文圖像復(fù)原[4]以及SAR圖像增強(qiáng)[5]等方面。由式(2)的極大后驗解的分析過程可類似得知：對于擴(kuò)展模型(P1-1)，其對應(yīng)噪聲的先驗分布應(yīng)為Laplacian分布，它是一種典型的稀疏分布[6]，因而擴(kuò)展模型(P1-1)很適用于一類稀疏分布噪聲的去噪問題。下文將給出擴(kuò)展模型(P1-1)求解算法，并驗證其在脈沖噪聲環(huán)境下的去噪效果。 3 字典的構(gòu)造和正則化參數(shù)λ的選取 擴(kuò)展模型(P1-1)在實際應(yīng)用中的主要問題是在已知觀測信號y、字典D和正則化參數(shù)λ的情況下，要得表示系數(shù)α的估計。因此，需要先確定字典D和正則化參數(shù)λ。為了盡可能精確地表示信號，字典應(yīng)該是與信號相適應(yīng)的。實際應(yīng)用中可以根據(jù)利用信號的先驗信息及實際需要設(shè)計字典。設(shè)計的字典一般是完備或超完備的，對于簡單信號去噪問題，只需構(gòu)造完備的字典，對于復(fù)合信號去噪問題，需要構(gòu)造超完備的字典。對于一維信號而言，常見的字典主要有Heaviside字典(用于表示分片常數(shù)信號)，小波字典(用于表示光滑信號)，Heaviside字典+小波字典所構(gòu)成的組合字典[1]等。 在所考慮的噪聲為高斯白噪聲以及對字典D進(jìn)行規(guī)范化(‖φr‖2=1)的情況下，文獻(xiàn)［1］中λ的經(jīng)驗值取為λ=σ2log(P)，其中P為字典D的勢。此經(jīng)驗值實際上對應(yīng)于正交基下小波去噪方法中的軟閾值[1，7]。而對非高斯噪聲情況下，該經(jīng)驗值就不再合適。事實上，非高斯噪聲情況下正則化參數(shù)的選取仍是一個開問題。本文的實驗結(jié)果表明：當(dāng)λ取值在1.15~1.75之間時，能取得比較穩(wěn)健的去噪結(jié)果。在后續(xù)實驗中將在這個取值區(qū)間中給定λ的值。 4 擴(kuò)展基追蹤模型(P1-1)的求解算法 在含噪觀測情況下的擴(kuò)展基追蹤模型式(5)中，記αu+-u-，u+，u-≥0，u+和u-分別對應(yīng)α的正部和負(fù)部，記u=u+u-，這樣‖α‖1=1Tu，其中向量1的維數(shù)與向量u相同，類似地，我們可以記y-Dαv+-v-，v+，v-≥0，v+和v-分別對應(yīng)y-Dα的正部和負(fù)部，v=v+v-，這樣‖y-Dα‖1=1Tv，其中向量1的維數(shù)與向量v相同。由: y-Dαv+-v-v+-v-+D(u+-u-)=y (I，-I，D，-D)(v+，v-，u+，u-)T=y 其中I為維數(shù)為N×N的單位陣，進(jìn)一步定義x=vu，A=(I，-I，D，-D)，c=1λ1，b=y，則(P1-1)問題和下述的線性規(guī)劃問題等價: min cTx滿足Ax=b，x≥0[JY](6) 其中cTx是目標(biāo)函數(shù)，Ax=b是等式約束集，x≥0是非負(fù)約束。這樣，(P1-1)問題的求解就可以轉(zhuǎn)化為上述線性規(guī)劃的算法求解。 5 實驗結(jié)果 為了驗證擴(kuò)展基追蹤模型的去噪效果，我們將其應(yīng)用于脈沖噪聲下的信號去噪實驗。眾所周知，中值濾波方法是目前常用的去除脈沖噪聲的有效方法。因此，將本文方法與經(jīng)典基追蹤模型以及中值濾波方法(調(diào)用Matlab中的函數(shù)“medfilt2.m”)進(jìn)行了比較。設(shè)計三組一維實信號，即分片常數(shù)信號、光滑正弦信號和分片多項式信號。光滑正弦信號由x(n)=4sin(nπ/32)，n=1，2，…，128產(chǎn)生；分片多項式信號由調(diào)用wavelab[8]中的函數(shù)MakeSignal(′Piece-Polynomial′，128)來產(chǎn)生。對三組信號附加脈沖噪聲，噪聲的位置分別在n=2，12，22，32，42，52，62，72，82，92，102，112，對前兩組信號所加噪聲對應(yīng)位置上的幅度為4，4，3，4，4，4，3，2，2，4，3，2；對分片多項式信號所加噪聲對應(yīng)位置上的幅度為40，40，30，40，40，40，30，20，20，40，30，20。依據(jù)信號的特性，對分片常數(shù)信號采用Heaviside字典，光滑正弦信號采用Sym8小波字典，分片多項式信號采用Heaviside字典＋Sym8小波字典所構(gòu)成的組合字典[1]。去噪結(jié)果如圖1、圖2和圖3所示。 圖1 分片常數(shù)信號去噪結(jié)果 表1對經(jīng)典基追蹤模型、中值濾波方法和擴(kuò)展基追蹤模型下的信噪比改善程度進(jìn)行了比較。 由圖1、圖2和圖3可見，與中值濾波方法和經(jīng)典基追蹤模型下的去噪結(jié)果相比，擴(kuò)展基追蹤模型下的去噪結(jié)果更好，脈沖噪聲去得更“干凈”，同時它還能有效地保持原信號中的重要特征，在這方面它明顯比中值濾波方法以及經(jīng)典模型下的結(jié)果要好。在圖1中，中值濾波方法的結(jié)果還不錯，而在圖2和圖3中則差強(qiáng)人意。由此可見，該方法的使用效果與信號特性有關(guān)。另一方面，從表1可見，本文方法對于信噪比的改進(jìn)程度也更高。 圖2 光滑正弦信號去噪結(jié)果 圖3 分片多項式信號去噪結(jié)果 6 結(jié) 語 基于不同的稀疏性度量函數(shù)和不同的擬合誤差項形式，本文提出了基追蹤擴(kuò)展模型，并給出了一類擴(kuò)展模型(P1-1)的求解算法。實驗結(jié)果表明，在脈沖噪聲環(huán)境下，擴(kuò)展模型(P1-1)具有比經(jīng)典基追蹤模型和中值濾波方法更顯著的去噪效果，同時它能有效地保持信號中的重要特征。在實際中，我們還可以依據(jù)其他不同的噪聲先驗分布來改變擬合誤差項形式，得到不同的基追蹤擴(kuò)展模型，從而實現(xiàn)自適應(yīng)的信號去噪。 參 考 文 獻(xiàn) ［1］[JP2]Chen S，Donoho D L，Saunders M A.Atomic Decomposition by Basis Pursuit［J］.SIAM Sci.Comp.，1999，20(1):33-61.[JP] ［2］Donoho D L，Michael Elad.Optimally Sparse Representation in General Dictionaries via l1 Minimization［J］.PNAS，2003，100(5):2 197-2 202. ［3］Donoho D L.For Most Large Underdetermined Systems of Linear Equations，the minimal l1 -norm near-solution approximates the sparsest near-solution［EB/OL］.Technical Report，2004-11，Department of Statistics，Stanford University，2004，http://www-stat.stanford.edu/-donoho/reports.html. ［4］Brian D Jeffs，Metin Gunsay.Restoration of Blurred Star Field Images by Maximally Sparse Optimization［J］.IEEE Transactiona on Image Processing，1993，2(2):202-211. ［5］Wang Xiongliang，Wang Zhengming，Wang Chunling.Target Feature-Enhanced of SAR Image Based on Regularization of lk Norm［C］.International Conference on Space Information Technology (ICSIT/2005)，China，Proc.of SPIE，2005. ［6］周宏潮.基于稀疏參數(shù)模型及參數(shù)先驗的圖像分辨率增強(qiáng)方法研究［D］.長沙:國防科技大學(xué)，2005. ［7］Donoho D L.Denoising by Soft Thresholding［J］.IEEE Transactions on Information Theory，1995(41):613-627. ［8］MakeSignal.m［EB/OL］.http://www-stat.stanford.edu/-wavelab. 作者簡介 黃 烜 女，1976年出生，碩士，講師。主要研究方向為信號處理和計算機(jī)應(yīng)用等。 王春玲 女，1977年出生，碩士，講師。主要研究領(lǐng)域為數(shù)據(jù)融合、隱馬氏模型及其應(yīng)用等。 汪雄良 男，1974年出生，博士，講師。主要研究領(lǐng)域為SAR圖像處理、數(shù)據(jù)融合等。 注：本文中所涉及到的圖表、注解、公式等內(nèi)容請以PDF格式閱讀原文。
