張曉嚴，馬 杰，2，武利濤

（1.河北工業(yè)大學 電子信息工程學院，天津 300401；2.天津市電子材料與器件重點實驗室，天津 300401）

基于過完備字典學習的全變分圖像去噪方法

張曉嚴1，馬 杰1，2，武利濤1

（1.河北工業(yè)大學 電子信息工程學院，天津 300401；2.天津市電子材料與器件重點實驗室，天津 300401）

為了改善低信噪比情況下去噪效果、邊緣保持能力差的問題，提出一種聯(lián)合全變分正則項的字典學習圖像去噪方法.首先，把增廣拉格朗日乘子法和正交匹配追蹤這兩種求解稀疏編碼的方法跟經(jīng)典的K-SVD思想相交融，改善字典性能；其次，將全變分去噪模型融入到基于字典學習的圖像去噪理論中，在圖像重構基礎上，引入全變分約束項，作為改進去噪模型中新的一項，達到對噪聲和圖像邊緣作后續(xù)優(yōu)化處理、改善圖像去噪性能的目的.實驗結果表明，改進的去噪方法，在保持原有去噪效果前提下，在噪聲標準差較大或者圖片邊緣信息豐富時，去噪圖像更加自然，邊緣更加清晰，視覺效果較好.

字典學習；圖像去噪；增廣拉格朗日乘子法；正交匹配追蹤；全變分

0 引言

利用計算機等工具對數(shù)字圖像進行加工處理，提高圖像質量，從圖像中獲得更多有用的信息，數(shù)字圖像處理是數(shù)學領域和計算機領域交叉熱點，因其可靠性高、精度高等優(yōu)勢在日常生活和科學研究中發(fā)揮相當重要作用，例如：通信技術中的圖像壓縮編碼、醫(yī)學檢測中的核磁共振、科學探索領域中的探測衛(wèi)星、氣象預測中的云圖等方面.但是圖像在采集、傳輸過程受到其他因素的影響，不可避免地會出現(xiàn)噪聲，噪聲會降低接收圖像的質量，擾亂人類感知事物的能力，還會對圖像的后期處理，例如：邊緣檢測、特征提取等，造成或多或少的影響，所以在對圖像進行目標識別、分類、分割等后期處理前進行去噪處理有著非常重要的作用.圖像去噪實質就是提取有用信息，抑制無用的噪聲信息，要兼顧噪聲消除和保護重要細節(jié)信息兩方面能力，研究學者們對圖像去噪技術進行不斷的研究，提出很多圖像去噪方法：如鄰域濾波方法[1-2]、小波去噪方法[3]、偏微分方程的圖像去噪方法[4]、非局部相似性的圖像去噪方法[5-6]及稀疏表示理論的圖像去噪方法[7]等.其中，偏微分方程方法是一種局部自適應技術，全變分（Total Variation，TV）[8-9]算法更深入凸顯了偏微分方程在圖像處理中的位置，能兼顧噪聲消除和邊緣保持兩方面的要求，是一種較為不錯的圖像去噪方法.圖像去噪當作一類最簡單的圖像處理反問題向來是研究學者們關切的重點[10-11]，圖像在字典下具備稀疏性先驗是稀疏表示圖像去噪方法實施的關鍵依據(jù).本文的主要工作就是圍繞字典學習理論和全變分去噪模型而開展的，將全變分去噪模型融入到基于字典學習的圖像去噪理論中，提出新的去噪方法，并通過仿真實驗來進行驗證.

1K-SVD學習字典

字典學習要解決這樣問題：給定一類信號訓練樣本，設計一個字典，使得這類信號能在該字典上被稀疏表示.K-SVD算法[12]是較典型的字典學習方法，解決問題

其中：X指訓練樣本；D是字典；A表示稀疏編碼系數(shù)；T0表示非零元素個數(shù).交替進行稀疏編碼和字典更新2個步驟求解式（1）所示問題.

1）固定字典D，更新稀疏系數(shù)A

求解式（2）優(yōu)化問題

稀疏編碼是字典學習中的一個重要環(huán)節(jié)，求解這類問題有很多種方法：正交匹配追蹤（Orthogonal Matching Pursuit，OMP）[13]算法、基追蹤（Basis Pursuit，BP）[14]算法、LARS-Lasso[15]算法等.

2）固定稀疏系數(shù)A，更新字典D

利用上述得到的稀疏系數(shù)A，優(yōu)化字典D.更新第k列原子時dk，使得下式最小

2 基于過完備字典學習的全變分圖像去噪方法

前一部分對K-SVD字典學習算法進行了簡單介紹.為了較好地實現(xiàn)圖像去噪效果，本文從2個步驟來實行.

步驟1：提出一種改進的 K-SVD字典訓練算法.將增廣拉格朗日乘子法（Augmented Lagrange Multipliers，ALM）和正交匹配追蹤（Orthogonal Matching Pursuit，OMP）算法這兩種求解稀疏系數(shù)的算法跟經(jīng)典的K-SVD字典訓練思想相融合，變成一種新的字典訓練方法，從而改善字典學習性能.

步驟2：提出一種聯(lián)合全變分正則項的字典學習圖像去噪方法，將全變分去噪模型思想融入到基于字典學習的圖像去噪理論中.在上一步驟得到的圖像重構基礎上，引入全變分（Total Variation，TV）約束項，作為改進去噪模型中新的一項，對噪聲和圖像邊緣作后續(xù)優(yōu)化處理，從而改善圖像去噪性能.

下面對其中的關鍵步驟——改進的字典訓練方法和改進的圖像去噪模型進行介紹.

2.1 改進的字典訓練方法

從理論框架上講，字典學習主流的研究模式是將字典學習和稀疏編碼輪換迭代更新求解，其中，稀疏編碼可以稱得上是字典學習中的一個重要環(huán)節(jié)，用于求解稀疏系數(shù)，為更新字典作準備.為了提高訓練字典的速度和性能，本文嘗試利用增廣拉格朗日乘子法（Augmented Lagrange Multipliers，ALM）對稀疏編碼模型進行求解.模型如下

引入輔助變量Z，轉化成如（5）所示的有約束問題的稀疏編碼模型

其中：X指訓練樣本；D是字典；A表示稀疏編碼系數(shù)；λ表示權重大小.首先構造如式（5）所示稀疏編碼問題的增廣拉格朗日函數(shù)

式中：C指的是拉格朗日乘子，將有約束條件的最優(yōu)化問題轉化為無約束條件的最優(yōu)化問題；μ≥0是懲罰參數(shù).式（6）的優(yōu)化問題可以利用交替更新的方式求解：固定Z和C，使L（AK+1，ZK，C，μ）最小，用最小二乘法更新求解A；固定A和C，使L（Ak+1，Zk，C，μ）最小，用軟閾值迭代法更新Z.

更新A時

根據(jù)新的Ak+1，更新Z

其中，閾值算子Su（f）的定義為

上述介紹的稀疏編碼采用ALM（Augmented Lagrange Multipliers，ALM）方式完成字典訓練的過程，性能相比于采用OMP（Orthogonal Matching Pursuit，OMP）算法有所提高，但是訓練時間過長；而稀疏編碼采用OMP算法完成字典訓練過程，訓練時間雖然較短，但會因其迭代停止準則在噪聲變大時較早的完成迭代，影響求解稀疏系數(shù)的準確性.因此，為了利用OMP算法收斂時間快和ALM算法字典訓練性能高的特點，本文將求解稀疏編碼的增廣拉格朗日乘子法和正交匹配追蹤算法這兩種求解稀疏系數(shù)的算法跟經(jīng)典的K-SVD字典訓練思想相融合，變成一種新的字典訓練方法，改進的字典學習過程可以分為兩個階段：

1）第1階段，采用ALM-KSVD方法進行字典學習

初始化過程：初始化字典D為過完備DCT字典；

稀疏編碼過程：采用增廣拉格朗日乘子（ALM）算法求解稀疏表示系數(shù)；

字典更新過程：利用上述得到的稀疏系數(shù)，采用K-SVD字典訓練方法優(yōu)化字典.

2）在第2階段，采用OMP-KSVD方法進行字典學習

初始化過程：初始化字典D為第一階段完成后得到的字典D；

稀疏編碼過程：采用正交匹配追蹤（OMP）算法求解稀疏表示系數(shù)；

字典更新過程：利用上述得到的稀疏系數(shù)，采用K-SVD字典訓練方法優(yōu)化字典.

2.2 基于改進K-SVD字典學習和TV正則化的圖像去噪方法

K-SVD字典學習圖像去噪算法[16]，在低信噪比或強噪聲情況下，殘差能量只需幾次迭代就滿足終止迭代條件，去噪效果不是特別明顯，抑制噪聲和邊緣保持能力依然需要深一步的改善，基于全變分理論的圖像處理方法可以更加緊密的將數(shù)學知識和圖像處理理論相結合，處理圖像時可以在平滑噪聲的同時，保留圖像的邊緣和紋理信息.對含噪圖像，不僅需要有效去除噪聲，而且還需要保護好圖像中的重要細節(jié)信息，受此啟發(fā)，將全變分去噪模型融入到基于字典學習的圖像去噪理論中，在提高圖像去噪能力的同時，兼顧邊緣和細節(jié)信息的保持能力，改進后新的去噪模型可以表示為

首先，對字典D進行初始化設置，初始化原始圖像，令X=Y；

其次，求解式（11）所示的第1個子過程，用本文2.1節(jié)介紹的改進的字典訓練方法完成稀疏編碼和字典更新，此過程需要進行J次迭代.

稀疏編碼階段：對提取的圖像小塊RijX，如式（13）所示，當誤差小于（Cσ）2時停止迭代，求解其對應的最優(yōu)稀疏表示系數(shù)，

最后，求解式（12）所示第2個子問題，進行圖像重構，當所有的α?ij和D?給定時，求解模型（10），得到式（14）重構圖像X?.

其中：Pkλ表示非線性投影算子，Chambolle非線性投影算法和Pkλ的求解過程及證明參見文獻[17].

3 實驗結果與分析

實驗在處理器為Intel（R）Core（TM）i5-4200U CPU 2.30 GHZ，操作系統(tǒng)為Windows 7（64bit），環(huán)境為Matlab2014a的條件下進行.

為了對本文所提去噪方法的可行性進行驗證，采用峰值信噪比（PSNR）和結構相似度（SSIM）進行去噪效果的客觀評價，PSNR的單位是dB，值越大，表明去噪效果越好，SSIM是一種用來評價去噪圖像與原始圖像之間結構相似性的指標，與主觀質量評價關聯(lián)性較強，當它越接近1時，也就代表了兩幅圖像更加相近，結構信息保持得越好.對應公式如下

其中：I0是原始的干凈圖像；I?是去噪后的圖像；In是噪聲圖像，圖像大小為M×N.

3.1 第1組實驗

為了檢測本文2.1節(jié)所提的改進K-SVD字典訓練算法（簡稱：NEW-KSVD）的性能，使用仿真合成數(shù)據(jù)測試，將其與經(jīng)典OMP-KSVD方法（稀疏編碼方式采用OMP方法）和ALM-KSVD（稀疏編碼方式采用ALM方法）方法進行比較，對于信號XN×L=DN×M×AM×L，測試它恢復原始字典的能力，首先生成一組大小為20×50的基D∈RN×M，由M=50個維數(shù)為N=20的基向量組成，每一列都進行標準化處理，然后產(chǎn)生L個樣本集信號 {x1，x2，…，xL}，選取L∈ {1 500，5 000，7 500，10 000，20 000}這5種不同的樣本集信號，分別運行50次.對生成的信號加入噪聲等級SNR=10的隨機噪聲，實驗測試數(shù)據(jù)1給出了3種方法訓練時間和RMSE值隨樣本集增大對于數(shù)值直觀的變化情況.

表1 不同樣本集在SRN=10情況下字典訓練時間和RMSE值比較Tab.1 Comparison of dictionary training time and RMSE value in different sample sets under SRN=10 condition

緊接著選取L=10 000的樣本集信號，分別運行50次，對生成的信號加入噪聲等級SNR={10，20，30，40，50}的隨機噪聲，實驗測試數(shù)據(jù)2給出了3種方法訓練時間和RMSE值隨SNR值增大對于數(shù)值直觀的變化情況.

表2 不同噪聲等價在樣本集L=1 000情況下字典訓練時間和RMSE值比較Tab.2 Comparison of dictionary training time and RMSE value in different sample sets under L=1 000 condition

由表1和表2數(shù)據(jù)可以發(fā)現(xiàn)，樣本集越大，訓練時間越長，RMSE值雖然上下波動，但整體變化不大，總體而言，訓練時間情況：ALM-KSVD算法消耗時間最多，其次是本文改進的字典訓練方法，OMP-KSVD算法消耗的時間最少，RMSE情況：保持著ALM-KSVD算法的RMSE最低，其次是NEW-KSVD方法的字典訓練方法，OMP-KSVD算法的RMSE最高.

3.2 第2組實驗

為了驗證本文2.2節(jié)提出的改進去噪算法的性能，選取2幅大小為512×512的灰度圖像“woman”和“peppers”，如圖1所示.

分別加入標準差為σ∈{30，40，50，60，70，80，90，100}的隨機噪聲.有重疊的圖像子塊大小為8×8，迭代次數(shù)J=10，，C=1.15，字典大小為64×256，初始化字典均為DCT字典，稀疏編碼環(huán)節(jié)：傳統(tǒng)K-SVD采用正交匹配追蹤算法，本文采用2.1節(jié)提到的算法.對比算法：1）文獻 [18]中的基于非參數(shù)貝葉斯字典學習的稀疏圖像復原算法，簡稱BPFA；2）文獻 [17]中使用Chambolle投影算法求解TV模型的算法，簡稱TV；3）文獻 [16]中基于稀疏字典學習的去噪算法，簡稱K-SVD；4）本文去噪算法.算法的運算速度由訓練時間來衡量，因此從訓練時間、峰值信噪比（PSNR）、結構相似度（SSIM）評價標準來進行描述，去噪結果，如表3、表4所示.

圖1 實驗中用到的測試圖片F(xiàn)ig.1 The test used in the experiment

表3 “woman”圖像去噪結果Tab.3 Image denoising results

表4 “peppers”圖像去噪結果Tab.4 Image denoising results

從表中數(shù)據(jù)可以看出，隨著噪聲標準差的增加，TV算法、傳統(tǒng)K-SVD算法、和本文算法（KSVD_N_TV）的訓練時間逐漸減少，PDFA算法的訓練時間基本保持不變，但是時間最長，傳統(tǒng)K-SVD算法訓練時間比本文算法用到的訓練時間短，但差距很小.本文算法得到的PSNR和SSIM值明顯高于傳統(tǒng)的K-SVD算法得到的數(shù)值，特別是當噪聲標準差特別大的時候，優(yōu)勢越來越明顯，本文算法不是簡單的將K-SVD算法跟TV算法得到的數(shù)值進行求和.選取了圖像邊緣較豐富的測試圖像“woman”，加入標準差σ=70的隨機噪聲，圖2顯示分別采用TV算法、傳統(tǒng)K-SVD算法、BPFA算法和本文算法去噪后得到的圖像.

圖2 去噪圖像Fig.2 Denoising image

從整體上看，圖像a）較模糊，去噪能力很差，圖像b）、圖像c）較模糊，存在斑塊，圖像d）比其他圖像邊緣更加清晰，圖像更加光滑、自然，視覺效果較好，與原圖像更接近.圖3是將測試圖像“woman”進行局部放大后得到的圖像，進一步說明邊緣保持能力.

圖3 局部放大圖Fig.3 Partial enlarged drawing

圖像a）和圖像b）在邊緣部分較圖像c）較為模糊、暗淡，圖像c）相比于其他圖像邊緣保護的更好一些，圖像更加清楚、光滑，陰影部分處理效果更好.總體而言，本文算法處理后的圖像具有良好的視覺效果，去噪能力高于其他3種算法.

4 結束語

為了改善強噪聲情況下的圖像去噪效果和圖像邊緣、細節(jié)信息保持能力，提出一種基于改進的K-SVD字典和TV正則化的圖像去噪方法.在字典學習過程中，將ALM算法和OMP算法這兩種稀疏編碼算法跟經(jīng)典的K-SVD字典訓練思想相融合，行成一種新的字典訓練方法，改良字典學習性能.在圖像重構基礎上，將全變分去噪模型融入到基于字典學習的圖像去噪理論中，運用TV項對噪聲和圖像邊緣作更深一步處理.通過Matlab仿真驗證，本文提出的方法相比于K-SVD算法在峰值信噪比、結構相似度上都有提高.

[1]Chen T，Ma K K，Chen L H.Tri-state median filter for image denoising[J].Image Processing.IEEE Transactions on，1999，8（12）：1834-1838.

[2]Kazubek M.Wavelet domain image denoising by thresholding and Wiener filtering[J].Signal Processing Letters.IEEE，2003，10（11）：324-326.

[3]Quiroga R Q，Garcia H.Single-trial event-related potentials with wavelet denoising[J].Clinical Neurophysiology.2003，114（2）：376-390.

[4]Zeng W，Lu X，Tan X.A local structural adaptive partial differential equation for image denoising[J].Multimedia Tools and Applications，2015，74（3）：743-757.

[5]Biler P，Imbert C，Karch G.The nonlocal porous medium equation：Barenblatt profiles and other weak solutions[J].Archive for Rational Mechanics and Analysis，2015，215（2）：497-529.

[6]Luo H，Wang Y.Sparse regularization image denoising based on gradient histogram and non-local self-similarity in WMSN[J].Optik-International Journal for Light and Electron Optics，2016，127（4）：1743-1747.

[7]Zhao Y Q，Yang J.Hyperspectral image denoising via sparse representation and low-rank constraint[J].Geoscience and Remote Sensing，IEEE Transactions on，2015，53（1）：296-308.

[8]Chan T F，Osher S，Shen J.The digital TV filter and nonlinear denoising[J].Image Processing，IEEE Transactions on，2001，10（2）：231-241.

[9]Rudin L I，Osher S，F(xiàn)atemi E.Nonlinear total variation based noise removal algorithms[J].Physica D：Nonlinear Phenomena，1992，60（1）：259-268.

[10]Tang Y，Chen Y，Xu N，et al.Image denoising via sparse coding using eigenvectors of graph Laplacian[J].Digital Signal Processing，2016，50：114-122.

[11]Lu T，Li S，F(xiàn)ang L，et al.Spectral-spatial adaptive sparse representation for hyperspectral image denoising[J].Geoscience and Remote Sensing，IEEE Transactions on，2016，54（1）：373-385.

[12]Aharon M，Elad M，Bruckstein A M.The K-SVD：an algorithm for designing of over complete dictionaries for sparse representation[J].IEEE Transactions on Signal Processing，2006，54（11）：4311-4322.

[13]Tropp J A，Gilbert A C.Signal recovery from random measurements via orthogonal matching pursuit[J].Information Theory，IEEE Transactions on，2007，53（12）：4655-4666.

[14]Chen S S，Donoho D L，Saunders M A.Atomic decomposition by basis pursuit[J].SIAM review，2001，43（1）：129-159.

[15]Demanet L，Zhang X.Eventual linear convergence of the Douglas-Rachford iteration for basis pursuit[J].Mathematics of Computation，2016，85（297）：209-238.

[16]Elad M，Aharon M.Image denoising via sparse and redundant representations over learned dictionaries[J].Image Processing，IEEE Transactions on，2006，15（12）：3736-3745.

[17]Chambolle A.An algorithm for total variation minimization and applications[J].Journal of Mathematical imaging and vision，2004，20（1-2）：89-97.

[18]Zhou M，Chen H，Ren L.Non-parametric Bayesian dictionary learning for sparse image representations[C]//Advances in neural information processing systems.2009：2295-2303.

[責任編輯 代俊秋]

A total variation image denoising method over complete dictionary learning

ZHANG Xiaoyan1，MA Jie1，2，WU Litao1
（1.School of Electronics and Information Engineering,Hebei University of Technology,Tianjin 300401,China;2.Key Laboratory of Tianjin Electronic Materials and Devices,Tianjin 300401,China）

In order to improve the low SNR on denoising ability of edge preserving image,proposed K-SVD dictionary learning and total variation regularization denoising method.Firstly,the augmented Lagrange multiplier method and orthogonal method of the two kinds of solving sparse encoding tracking matching with K-SVD classic thoughts to improve the performance of the dictionary;the total variational denoising model into image dictionary learning denoising theory improved image denoising performance.The experimental results show that the improved denoising method,while maintaining the original denoising effect,the noise standard deviation is larger or for the rich image edge information,image denoising is more natural with clearer edge,and the visual effect is better.

dictionary learning;image denoising;augmented lagrange multiplier;orthogonal matching pursuit;total variation

TP391.9

A

1007-2373（2017）01-0001-08

10.14081/j.cnki.hgdxb.2017.01.001

2016-11-04

國家自然科學基金 (61203245)；河北省自然科學基金（F2012202027）

張曉嚴（1990-），女，碩士研究生.

：馬杰（1978-），男，教授，博士生導師.