張學(xué)典,王文明
(上海理工大學(xué) 光電信息與計算機工程學(xué)院,上海 200093)
計算機視覺系統(tǒng)的成功很大程度取決于圖像質(zhì)量,因為它決定了信息檢索和解釋的準(zhǔn)確性,圖像質(zhì)量差會給目標(biāo)識別、分割和特征提取帶來很大阻礙。由于從實時環(huán)境中捕獲的圖像存在對比度差的問題,在這些圖像中對比度更集中在某些區(qū)域的特定范圍,導(dǎo)致邊緣較弱或信息丟失[1]。因此,為了保存圖像所有信息,對圖像的對比度進(jìn)行操作或優(yōu)化至關(guān)重要。
有效去除圖像噪聲,提升圖像質(zhì)量,使機器和人都能清楚理解圖像是圖像處理中最重要的基本步驟。然而,僅對圖像對比度進(jìn)行單方面增強無法保證圖像質(zhì)量,原因為外部干擾或其他光線等原因會使圖像產(chǎn)生大量噪聲,將嚴(yán)重影響圖像質(zhì)量,導(dǎo)致圖像大量細(xì)節(jié)難以被準(zhǔn)確識別[2]。為此,本文提出利用主成分分析法對圖像進(jìn)行降噪處理,采用改進(jìn)型的限制對比度自適應(yīng)直方圖方法來提升圖像質(zhì)量。
圖像增強是提升圖像質(zhì)量的重要處理技術(shù)之一,具體為將一個輸入圖像轉(zhuǎn)換成另一個圖像以改善視覺外觀,或增加圖像對比度使細(xì)節(jié)更明顯[3]。直方圖均衡化(Histogram Equalization,HE)[4]是圖像增強技術(shù)中常用的方法,通過修改圖像直方圖分布、拉伸圖像灰度的動態(tài)范圍,同時限制對比度來減少圖像失真。
然而,HE 會在全局范圍內(nèi)增加對比度,因此圖像仍存在部分位置較暗,還會增強背景噪聲[5]。自適應(yīng)直方圖均衡化(Adaptive Histogram Equalization,AHE)[6]在常規(guī)直方圖均衡算法的基礎(chǔ)上將圖像劃分為幾塊進(jìn)行處理,但缺陷在于過度放大了圖像平滑區(qū)域的對比度,可能會在這些區(qū)域產(chǎn)生噪聲偽影。對比度受限自適應(yīng)直方圖均衡化算法(Contrast Limited Adaptive Histogram Equalization Algorithm,CLAHE)[7]對區(qū)域?qū)Ρ榷冗M(jìn)行限制,利用插值加快計算能有效增強或改善圖像局部對比度,從而獲取更多圖像相關(guān)邊緣信息,有利于后續(xù)分割操作。同時,CLAHE 還可提供一個剪輯限制,聲明直方圖的最大高度和區(qū)域大小,剪輯限制值的范圍為0~1,值越高表示對比度越高。
目前,許多算法已被開發(fā)用于圖像質(zhì)量增強[8-11],但在大量噪音影響下突出對比度分布不均勻的圖像信息是一項具有挑戰(zhàn)性的任務(wù)。Perona 等[12]提出經(jīng)典的各向異性擴散濾波器,但在如何設(shè)計和選擇擴散率函數(shù)方面,并未給出統(tǒng)一的理論基礎(chǔ),一般根據(jù)經(jīng)驗或?qū)U散方程與其他理論模型結(jié)合來選擇擴散率函數(shù)[13,14]。
為此,本文提出一種基于PCA 降噪的改進(jìn)型的各向異性擴散濾波器的模糊裁剪對比度受限自適應(yīng)直方圖均衡化(ADFS-CLAHE-FC)圖像增強方法,旨在去除圖像噪聲、增強圖像對比度、保持圖像的細(xì)節(jié)。同時,將該方法與現(xiàn)有標(biāo)準(zhǔn)增強算法在信息熵、MSE、PSNR 方面進(jìn)行定量分析。結(jié)果表明,通過該方法增強的圖像具有合適的視覺亮度和清晰的細(xì)節(jié),在各評價指標(biāo)中表現(xiàn)良好且穩(wěn)定。
在圖像去噪領(lǐng)域,為了解決上述全局性問題和背景噪聲增強問題,黃勇[15]提出一種用于圖像對比度增強的自動CLAHE。由于自動CLAHE 自適應(yīng)增強每個塊的對比度亮度,能有效增強黑暗圖像和有強烈黑暗陰影的日光圖像,在視覺質(zhì)量和定量措施方面優(yōu)于最先進(jìn)的方法。Yue等[16]采用Bregman 分割算法和CLAHE 對基于圖像內(nèi)部分解的對比度增強進(jìn)行研究,提出在分解模型中引入圖像固有分解進(jìn)行對比度增強,該方法相較于現(xiàn)有方法可獲得更好或相當(dāng)?shù)闹饔^和客觀質(zhì)量,但僅能用于增強對比度,無法適用于改變表面紋理等技術(shù)。Haung等[17]提出一種自動變換技術(shù)改變直方圖,以提升數(shù)字圖像對比度,通過亮度像素的伽馬校正和概率分布提升變暗圖像的亮度,利用關(guān)于每幀間差異的時間信息來降低計算復(fù)雜度。Shakeri 等[18]提出一種基于局部直方圖均衡的對比度增強算法,該算法的特點是確定子直方圖個數(shù),根據(jù)飽和度對直方圖進(jìn)行分離,以產(chǎn)生自然的圖像和增強對比度,但缺點是在圖像亮度高的情況下容易丟失細(xì)節(jié),輸出圖像中仍然存在噪聲。
綜上,基于直方圖、頻率、模糊、濾波器的圖像增強技術(shù)的案例分別為直方圖均衡化(HE)[4]、對比有限自適應(yīng)直方圖均衡化(CLAHE)[7]、遞歸平均分離直方圖均衡化(Recursive Mean Separation Histogram Equalization,RMSHE)[19]、基于模糊裁剪邏輯的增強[20-22]。
首先對圖像進(jìn)行灰度處理,利用PCA 對圖像降噪,然后使用CLAHE 對圖像進(jìn)行增強處理,如圖1所示。
Fig.1 Algorithm Flow圖1 算法流程
圖像去噪技術(shù)可提升模型的分割和識別性能,然而由于噪聲類型和噪聲污染程度不同,傳統(tǒng)圖像去噪方法可能會導(dǎo)致圖像丟失,出現(xiàn)邊緣和細(xì)節(jié)模糊的問題。主成分分析(Principal Component Analysis,PCA)是一種最優(yōu)的降維和特征提取技術(shù),通過線性變換將原始數(shù)據(jù)轉(zhuǎn)化為線性無關(guān)表示形式,在降維的同時不僅可最大程度保留數(shù)據(jù)特征,還能有效去除圖像中存在的噪聲[23],為后續(xù)圖像分類或識別等任務(wù)提供基礎(chǔ)。目前,PCA 已廣泛應(yīng)用于計算機視覺、機器學(xué)習(xí)、數(shù)據(jù)挖掘等領(lǐng)域。
PCA 算法主要思想[24]是通過投影將n維特征映射到k維上,k維是在原有n維特征基礎(chǔ)上重構(gòu)的k維特征,即主成分。在PCA 投影過程包含了零計算過程,目的是尋找所有圖像的均值后減相減,并計算訓(xùn)練圖像集的協(xié)變矩陣,得到協(xié)方差矩陣后進(jìn)行約簡步驟,訓(xùn)練圖像將變換到較低維數(shù)并以準(zhǔn)確性形式得到結(jié)果,從而實現(xiàn)數(shù)據(jù)特征降維。
為了提升圖像質(zhì)量,本文通過直方圖來增強亮度范圍、對比度、銳度等參數(shù)。直方圖均衡化算法(HE)被廣泛應(yīng)用于增強處理后的數(shù)字灰度圖像[25],這類算法的實質(zhì)是根據(jù)給定圖像概率分布函數(shù)調(diào)整半色調(diào)圖像層次,增大亮度分布的動態(tài)范圍,從而增強視覺效果,例如亮度、對比度、銳度和清晰度。圖像概率分布函數(shù)如式(1)所示。
式中:P(i)為亮度i出現(xiàn)的概率,即原始圖像直方圖的歸一化函數(shù);j為處理后圖像的像素坐標(biāo);H(j)為變換后的圖像。
直方圖均衡算法包括局部(自適應(yīng))直方圖均衡算法和全局直方圖均衡算法。其中,全局方法首先建立一個圖,然后均衡化整個圖像的直方圖;局部方法構(gòu)造很多直方圖,每個直方圖只對應(yīng)一部分處理過的圖像,該方法增強了圖像的局部對比度,總體上可獲得較好的處理效果。然而,HE算法是對圖像進(jìn)行全局均衡,會使圖像中較暗區(qū)域在均衡處理后亮度拉的過高,出現(xiàn)噪點直接變成白色的情況。
自適應(yīng)直方圖均衡算法(AHE)在HE 的基礎(chǔ)上,將圖像劃分為幾塊進(jìn)行處理,每一塊圖像統(tǒng)計了各自的分布函數(shù),以更好地處理圖像數(shù)據(jù)的局部細(xì)節(jié)[26],但由于對圖像分塊進(jìn)行處理將降低圖像處理效率,并使圖像呈現(xiàn)出被切割為幾塊的效果。
限制對比度自適應(yīng)直方圖均衡算法(CLAHE)在AHE、HE算法的基礎(chǔ)上進(jìn)行優(yōu)化,是一種能提供剪輯限制和區(qū)域大小的圖像增強方法[27]。限制對比度相當(dāng)于限制直方圖的幅度,在直方圖上給出邊界值可解決對比度增加過多的問題。通常情況下,限制值稱為剪輯限制值,即表示直方圖的最大高度,計算直方圖的剪輯限制如式(2)所示。
式中:M表示區(qū)域大小;N表示灰度值256;α為剪輯因子。
CLAHE 的流程是從區(qū)域大小和剪輯限制的初始化開始,計算每個區(qū)域的直方圖形狀;然后通過剪輯限制切割直方圖,將多余部分(剪輯限制值被認(rèn)為是多余的)分配到另一個直方圖;接下來將新的直方圖映射到圖像上;最后在相鄰區(qū)域內(nèi)進(jìn)行像素插值,生成最終的CLAHE 圖像。裁剪示意圖如圖2 所示。CLAHE 算法示意圖如圖3所示。
Fig.2 CLAHE crop圖2 CLAHE裁剪
Fig.3 CLAHE algorithm圖3 CLAHE算法
3.2.1 模糊裁剪
CLAHE 將輸入圖像劃分為幾個不重疊的子圖像進(jìn)行剪輯,以限制圖像增強數(shù)量。裁剪直方圖通過減少或增加輸入圖像值,參考閾值或均衡前的裁剪限制來改變輸入圖像的結(jié)構(gòu)。
式中:i、j表示圖像中像素的空間坐標(biāo);P(i,j)表示可能結(jié)果的概率。
本文使用的模糊裁剪[20-22]可自動選擇裁剪極限,輸入為對比度C和空間熵E兩種變量,輸出為模糊裁剪增強參數(shù)(fβ)。其中,C 的模糊集為Low(V1)、Medium(V2)、High(V3),E 的模糊集為Small(W1)和Big(W2)。利用三角隸屬函數(shù)構(gòu)造模糊裁剪的規(guī)則,將fβ分為裁剪極小值CL1 和裁剪極大值CL2。所有FC 輸出的每個規(guī)則值被聚合到單一模糊集合中。
Table 1 Fuzzy set variables and their value ranges表1 模糊集變量及其取值范圍
FC-CLAHE 方法計算依賴輸入圖像的C、E的裁剪極限值,如式(5)所示。
式中:fβ為模糊裁剪增強參數(shù)(0~0.1);[]表示截斷值最接近的整數(shù);φ 為像素塊大小的乘積;256 表示像素強度值的范圍為0~255。
3.2.2 改進(jìn)型各向異性擴散濾波器
本文根據(jù)上述定義,使用統(tǒng)計學(xué)解釋模型改進(jìn)原來的擴散濾波器。傳統(tǒng)邊緣檢測算子包括Sobel 算子、Roberts算子等,他們都是一種估計函數(shù),具備相似的統(tǒng)計意義[28]。本文受Perona、Malik 啟發(fā),直接使用圖像局部梯度模值作為邊緣估計函數(shù),設(shè)計了改進(jìn)型各向異性擴散濾波器(ADFS),即基于梯度統(tǒng)計量的各向異性擴散濾波器,估計函數(shù)如式(6)所示。
式中:?u/?x、?u/?y分別為水平和垂直的邊緣檢測一階微分算子,是圖像在x、y方向的導(dǎo)數(shù)。
擴散率函數(shù)[29]如式(7)所示。
式中:變量δ為控制擴散率變化的閾值,當(dāng)邊界估計值小于該值時擴散率較大且變化較快;反之,擴散率逐漸趨向于零。
改進(jìn)型擴散濾波器的數(shù)學(xué)模型如式(8)所示。
式中:δ與擴散率函數(shù)中的功能相似,通常情況下該值與圖像噪聲強度相關(guān),可采用CLAHE 方式進(jìn)行計算,即用噪聲估計子方法計算δ值。
需要注意的是,如果在局部對比度較大的區(qū)域,δ值可取較大的值。在實驗部分,為了簡便計算,本文在局部對比度變化不大的圖像中將δ值置為常數(shù)。此外,本文使用各向異性系數(shù)阻止圖像邊緣上的擴散現(xiàn)象,提出ADFS 模型可表示為:
式中:div(.)、?為散度算子和梯度算子;為邊緣停止機制的還原函數(shù),在調(diào)節(jié)擴散機制中具有重要作用。
此外,兩個遞減函數(shù)如式(10)所示。
式中:k為閾值,如果|?I|>k,像素被認(rèn)為是邊緣,不會被模糊;反之,像素被認(rèn)為是內(nèi)部區(qū)域,將被高度平滑。
為了驗證算法的有效性進(jìn)行噪點圖像增強對比實驗,比較HE、CLAHE、Singh 融合算法、Retinex 算法、基于PCA降噪的改進(jìn)型CLAHE 算法在不同圖像上的去噪音增強效果。所有算法均在Pycharm 平臺上實現(xiàn),使用的圖片來自Sklearn 數(shù)據(jù)集、ExDark 數(shù)據(jù)集和CS6640 項目,其中Sklearn數(shù)據(jù)集為Python 中的機器學(xué)習(xí)庫,提供了很多不同數(shù)據(jù)集,例如玩具數(shù)據(jù)集,鳶尾花樣本,手寫數(shù)字?jǐn)?shù)據(jù)集等;Ex-Dark 數(shù)據(jù)集由專門在低光照環(huán)境下拍攝的低光照片組成;CS6640 項目來自康奈爾大學(xué)一門關(guān)于計算在攝影中的新興應(yīng)用的課程。
由圖4(a)可見,原始圖像噪聲較多,難以辨認(rèn)圖像的數(shù)字,從直方圖中也可看出圖像的灰度集中在右側(cè)部分,整張圖片過亮。圖4(b)經(jīng)過HE 變換后直方圖仍過度增強,灰度較為集中且圖像引入了大量噪聲。由圖5(b)、圖6(b)中均可看出,圖像在經(jīng)過HE 增強后仍存在大量噪聲。由圖5(h)、圖6(h)可見,直方圖灰度集中在一個區(qū)域。
Fig.4 Before and after effects of various methods on image 1圖4 在圖片1上各種方法前后效果
Fig.5 Before and after effects of various methods on image 2圖5 在圖片2上各種方法前后效果
Fig.6 Before and after effects of various methods on image 3圖6 在圖片3上各種方法前后效果
由圖4(i)—圖6(i)可見CLAHE 方法彌補了上述方法直方圖不均衡的缺陷,處理后的圖像灰度范圍適中、分布均衡,圖像既未過度增強也不失真,但圖4(c)即使進(jìn)行了圖像增強,數(shù)字仍然不清晰,圖5(c)、圖6(c)存在明顯噪點。
為了進(jìn)一步與現(xiàn)有較好方法進(jìn)行比較,本文引入Singh 融合算法和Retinex 算法進(jìn)行實驗。由圖5(d)、圖5(e)可見,使用兩種算法后生成的圖像相較于原圖噪點有所減少。由圖5(j)、圖5(k)可見,未均衡化的直方圖相較于原圖與CLAHE 方法得到了明顯改善,但在其他數(shù)據(jù)集中Singh 融合算法和Retinex 算法仍存在圖像噪聲多的缺點,如圖4(e)所示。
綜上,由于這3 組圖像均在未去噪的情況下進(jìn)行圖像增強處理,方法效果較差,數(shù)字難以辨認(rèn),為后續(xù)圖像識別、分割帶來了難度。然而,本文方法解決了Singh 融合算法和Retinex 算法方法的兩個缺陷,圖像上的數(shù)字、輪廓清晰可見(見圖4(f)、圖5(f)、圖6(f)),直方圖上的灰度分布均勻(見圖4(l)、圖5(l)、圖6(l)),在視覺上效果非常好。
由圖4—圖6 可見,基于PCA 降噪的改進(jìn)型CLAHE 方法效果最好,變換后的圖像直方圖灰度范圍適中,圖像得到有效增強,圖像細(xì)節(jié)清晰可見。
雖然,其他方法的直方圖分布范圍和圖像清晰度并不理想,但僅依靠視覺感官仍然無法有效說明算法的有效性。
為了解決上述問題,本文使用信息熵、均方誤差(Mean Squared Error,MSE)和峰值信噪比(Peak Signal to Noise Ratio,PSNR)這3 個指標(biāo),在上述3 個場景對PCA 降噪方法的有效性進(jìn)行有效、客觀地比較分析[30]。其中,信息熵描述了一個事件的不確定性[31];信息熵表示隨機變量不確定的度量,是對所有可能發(fā)生事情產(chǎn)生的信息量的期望,熵越大代表圖像細(xì)節(jié)越豐富,信息內(nèi)容越多;MSE[32]是預(yù)測數(shù)據(jù)和原始數(shù)據(jù)對應(yīng)點誤差的平方和的均值,值越小表示兩幅圖像的差異越小,反之差異越大,具體計算公式為:
式中:yi為真實數(shù)據(jù)為擬合數(shù)據(jù);n為樣本的個數(shù)。
PSNR[33]是一種衡量圖像增強技術(shù)的指標(biāo),表示信號的最大可能功率與影響輸出信號噪聲功率間的比值。不同增強技術(shù)對不同圖像的PSNR 值如表2 所示。由此可見,本文方法相較于其他普通的圖像增強方法PSNR 值更高,證明了該指標(biāo)可用來衡量降噪效果,具體計算公式為:
Table 2 Results of ablation experiments on each module of image 1表2 圖像1各模塊消融實驗結(jié)果
式中:m表示圖像中一個像素能取得的最大值。
一般而言,圖像經(jīng)過處理后信息熵越大,包含的信息量越大,MSE 越小說明處理效果越好,PSNR 值越大說明處理效果好。
4.2.1 消融實驗
首先,本文分別對PCA、ADFS-CLAHE-FC 模塊進(jìn)行比較實驗,依據(jù)PSNR、MSE 指標(biāo)衡量降噪效果和圖像質(zhì)量,結(jié)果如表2所示。
由表2 可知,在PSNR 指標(biāo)中,PCA 降噪、ADFS-CLAHE-FC 相較于含噪模型提升2.935 9 dB、13.346 6 dB,聯(lián)合兩種方法后提升14.897 9 dB;MSE 指標(biāo)中PCA 降噪、ADFS-CLAHE-FC 相較于含噪模型降低18.141 9 dB、32.220 4 dB,聯(lián)合兩種方法后降低38.409 5 dB。實驗表明,分別使用PCA 降噪和ADFS-CLAHE-FC 方法后均能有效提升圖像質(zhì)量。
4.2.2 其他方法比較實驗
表3 為圖4—圖6 中3 幅圖像經(jīng)過HE 變換、CLAHE 變換、Singh 融合算法和Retinex 算法處理[34-35]、基于PCA 降噪的改進(jìn)型CLAHE 變換后的信息熵、MSE、PSNR。實驗結(jié)果表明,基于PCA 降噪的改進(jìn)型CLAHE 算法能有效降低噪聲,提升圖像有效信息。
Table 3 Quantitative results of image 1-image 3表3 圖像1—圖像3的定量結(jié)果
本文選取多個數(shù)據(jù)集中100 個存在噪點的圖像,表4展示了這100 個圖像分別進(jìn)行HE 變換、CLAHE 變換、Singh 融合算法和Retinex 算法處理及基于PCA 降噪的改進(jìn)型CLAHE 變換后得到的信息熵、MSE、PSNR。結(jié)果表明,基于PCA 降噪的改進(jìn)型CLAHE 變換處理后的圖像信息熵、MSE、PSNR 最優(yōu),證明了本文方法能有效降低噪聲,提升圖像對比度,增強圖像有效信息。
Table 4 Average of 100 images表4 100張圖像均值
本文提出一種基于PCA 降噪的改進(jìn)型限制對比度自適應(yīng)直方圖均衡化圖像增強算法。通過主成分分析方法去除圖像噪音、提升圖像質(zhì)量,然后使用改進(jìn)的限制對比度自適應(yīng)直方圖均衡化方法對降噪后的圖像進(jìn)行增強處理,拉伸圖像灰度的動態(tài)范圍。
通過觀察該方法處理的效果圖發(fā)現(xiàn),本文方法不僅抑制了大量噪聲、視覺效果更好,還突出了圖像的更多細(xì)節(jié)。此外,采用信息熵、MSE、PSNR 對所提方法和現(xiàn)有方法的性能進(jìn)行評價,結(jié)果表明該方法可為各種圖像提供更好的增強效果,提升圖像檢測類任務(wù)的可檢測性。
然而,實驗發(fā)現(xiàn)目前方法在不同灰度、彩色的自然圖像測試時,會受到?jīng)_刷現(xiàn)象和不良偽影的影響,無法穩(wěn)定取得良好的圖像增強效果。未來,將對此進(jìn)行改良,以增強模型的魯棒性和實用性。