宋東輝, 劉紋巖, 陳虹麗
(1.浙江大學(xué) 控制科學(xué)與工程學(xué)院,杭州 310007; 2.上海衛(wèi)星工程研究所,上海 200240;3.哈爾濱工程大學(xué) 自動化學(xué)院,哈爾濱 150001)
圖像去霧技術(shù)是圖像處理與計算機視覺領(lǐng)域研究的重要課題之一。霧霾天氣下,嚴重影響圖像的特征提取,以及以此為基礎(chǔ)的目標檢測和目標跟蹤,這很大程度上降低了圖像的利用價值,因此,對霧霾圖像的處理就是極為重要的了。
文獻[1-5]中需要利用同一場景滿足不同條件下的多幅圖像獲得有效信息;但是,在現(xiàn)實條件下,通常無法同時滿足這樣的條件。文獻[6]中假設(shè)霧霾圖像的局部區(qū)域的大氣光恒定不變,并且對比度明顯地增加,在馬爾科夫隨機場(Markov Random Field,MRF)模型的框架下,構(gòu)造了關(guān)于圖像邊緣強度的代價函數(shù),使用圖分割理論估計最理想的大氣光值,但由此導(dǎo)致的圖像顏色過度飽和失真無法避免,同時伴有光暈。文獻[7]中需要大量的物理色彩信息,然而,在濃霧條件下的圖像已經(jīng)丟失了大量的色彩信息,此時估計霧霾圖像的透射率值,偏差一般很大。文獻[8]中實際上是一種大規(guī)模的稀疏線性方程組的推導(dǎo)過程,具有很高的時間和空間復(fù)雜度[9],同時,僅利用最小濾波獲得透射率,會導(dǎo)致去霧圖像出現(xiàn)光暈效應(yīng)和黑斑效應(yīng)。He等[10]提出暗原色先驗(Dark channel prior)原理,但是該算法空間復(fù)雜度和時間復(fù)雜度高;文獻[11]中用雙邊濾波代替圖像摳圖,稍許降低了算法的時間復(fù)雜度,但是透射率圖的精度降低,實用價值不高。Gibson等[12]提出用中值濾波獲得透射率圖的算法,在一定程度上損壞了去霧圖像的細節(jié);進而,張小剛等[13]提出了雙區(qū)域的算法優(yōu)化了中值濾波獲得透射率圖像,但是該算法對圖像細節(jié)的保持作用有限,圖像細節(jié)精細度降低。文獻[14]中提出用開運算優(yōu)化透射率圖像,但其中的腐蝕運算對圖像細節(jié)損害嚴重。劉海波等[15]提出結(jié)合形態(tài)學(xué)和Retinex獲取透射率圖的混合算法,然后用雙邊濾波優(yōu)化,該算法復(fù)雜度高,且可行性受到多個因素的限制,存在多次高斯濾波導(dǎo)致的圖像高頻細節(jié)損失,細節(jié)精度低,去霧圖像易包含噪聲,且對包含天空區(qū)域和白色物體的圖像去霧效果不理想[16]。
雖然,He的算法是公認最好的圖像去霧算法,但是由于暗原色原理自身的局限,導(dǎo)致了一系列問題,如不適用于天空區(qū)域。綜上,本文基于圖分割提出了改進暗原色先驗的去霧算法。
本文提出的去霧算法主要分為3個步驟:①估計大氣光值;②粗估計透射率圖,改進天空區(qū)域的透射率;③優(yōu)化透射率圖像,得到最終去霧圖像。
本文提出分割理論應(yīng)用于圖像去霧,主要有2個原因:①從圖1可以看出,對于含有高亮度的霧霾圖像,He總存在一定概率誤估計大氣光值,而基于分割得到候選天空區(qū)域估計大氣光值則不存在該問題;②基于候選天空區(qū)域,可以更精確的改進圖像天空區(qū)域的透射率。
圖1 He算法估計的天空亮度分布圖
本文改進算法從實效性考慮,把已知圖像I(x)從RGB空間轉(zhuǎn)換到LAB空間;然后采用k均值分割算法獲得候選天空區(qū)域,實驗結(jié)果見圖2,記為It(x)。
(a)原圖 (b)候選天空圖
圖2 不同霧霾濃度的分割效果
從圖2(b)可以看出,候選的天空區(qū)域并不精細,為了進一步減小誤估計的概率,本文提出了新的算法估計天空亮度。這里設(shè)計一個簡單的識別,先統(tǒng)計天空區(qū)域像素值在150以上的數(shù)目,若少于總像素數(shù)的0.05,則認為不含有天空區(qū)域,本文采用He的算法估計天空亮度;否則,對候選的天空區(qū)域進行最小值濾波,即灰度腐蝕操作:
其中,It(x)為It(x)的R、G、B三原色通道,Ω(x)是以像素點x為中心的方形區(qū)域。
為增加天空亮度估計的準確性,降低誤分割的非天空區(qū)域的影響,增強本文算法的容錯性,本文定義天空亮度為候選的天空區(qū)域的均值,其公式如下:
A=mean(Itmin(x))
本文采取順序統(tǒng)計濾波,修正了張定義的暗區(qū)域。在暗區(qū)域采取順序統(tǒng)計濾波,可以消弱Halo效應(yīng),增強圖像的對比度;在非暗區(qū)域,考慮到最小值濾波對圖像細節(jié)保持度高,可以更好地保留圖像的邊緣,抑制塊效應(yīng),采用最小值濾波。該算法函數(shù)定義如下:
上式表示當像素點位于暗區(qū)域時,對該像素點采用最小值濾波;否則,采用順序統(tǒng)計濾波,結(jié)果取鄰域三原色通道的最小值的中值和最小值之間的值;其中w∈[0.8,1),可以得到較滿意的結(jié)果,本文取為0.8。
至此,本文提出對天空區(qū)域的透射率的初步優(yōu)化如下:基于前文獲得的候選的天空區(qū)域,把天空區(qū)域的像素值高于天空亮度的估計值的點對映到暗通道的相應(yīng)點,然后把天空亮度值賦給該點。這樣既可以保證此像素點為天空區(qū)域,還可以加大容錯率,減小誤分割的天空區(qū)域造成的不良影響。從圖3的直方圖可以看出,本文改進的透射率圖更加滿足He的暗原色原理。
(a)原圖 (b)He暗通道直方圖(c)本文暗通道直方圖
圖3 清晰圖像的暗通道圖像及其直方圖
本文得到的透射率圖像細節(jié)依然比較粗糙,故需要對粗糙的透射率進行優(yōu)化處理。由于透射率僅是關(guān)于景深d(x)的函數(shù),對透射率的粗估計進行區(qū)域平滑操作,保持圖像景深突變處的邊緣細節(jié),這可以看作一個濾波問題。軟摳圖具有很高的時間和空間復(fù)雜度,雙邊濾波優(yōu)化效果也不理想[17]。綜合考慮,本文采用導(dǎo)向濾波,導(dǎo)向濾波可以根據(jù)引導(dǎo)圖像的特性有選擇的對圖像優(yōu)化,因此可以有效保持圖像邊緣。實驗結(jié)果見圖4。
(a)優(yōu)化前的透射率(b)優(yōu)化后的透射率
圖4 導(dǎo)向濾波的優(yōu)化效果
以本校校園景色的霧霾圖像為主,結(jié)合部分經(jīng)典圖像,對不同場景的霧圖進行實驗比較,見圖6。
從圖6可以看出,He的算法和本文算法,都獲得了不錯的去霧效果[18-19];He的結(jié)果對天空區(qū)域處理不理想,且對遠景的細節(jié)保持度有限;總體而言,本文算法在對各種類型的霧霾圖像處理中都獲得了很好的效果。
本文使用3ds Max 2013,構(gòu)建了具有代表性的60幅霧霾圖像和60幅清晰圖像的訓(xùn)練庫,其可細分為4個部分:清晰圖像,去霧圖像,霧霾圖像,特效渲染的霧霾圖像。
本文基于3ds Max 2013對清晰圖像進行云霧大氣環(huán)境的特效渲染,以備后續(xù)的客觀評價體系的測試之用。
該軟件提供的場景特效能夠創(chuàng)建云霧、山霧等大氣環(huán)境,在霧霾的作用下,景物消失在霧霾里,如同原場景處于霧霾天氣里,景物覆了一層均勻的霧霾。本文通過設(shè)置可見度、霧霾濃度等參數(shù),創(chuàng)建了不同霧霾濃度的圖像。圖7顯示,特效渲染構(gòu)建的霧霾圖像和真實的霧霾圖像極為相似。
(a)原圖 (b)中濃度霧 (c)較高濃度霧 (d)高濃度霧
圖7 構(gòu)建的霧霾圖像
接著,文中運用特效渲染構(gòu)建的圖像訓(xùn)練庫對客觀評價體系[20-21]進行了驗證,結(jié)果顯示:均值、標準差、對比度、熵、基于形態(tài)學(xué)的可見邊緣強度和暗通道強度可以反映圖像的霧霾濃度。
運用訓(xùn)練庫對上述的6個圖像特征進行了依次的驗證,結(jié)果證明了這些特征參數(shù)對霧霾圖像和清晰圖像分辨作用的可行性。對圖6的實驗結(jié)果顯示:He的算法在所有參數(shù)中都偏低;本文結(jié)果穩(wěn)定,所有參數(shù)都良好,且通過增加圖像的均值,提高了圖像的整體亮度,是相對最為普適性的去霧算法。
為進一步對去霧算法進行客觀評價,對特效渲染的霧霾圖像進行去霧;另一方面還可以把去霧圖像和清晰的原圖進行主觀和客觀的比較,結(jié)論更具有說服力,見圖8。
(a)霧霾圖 (b)原圖 (c)He的結(jié)果 (d)文中結(jié)果
圖8 去霧圖像
表1為圖8的測試數(shù)據(jù),理論上,數(shù)值越大,圖像越清晰。從數(shù)據(jù)中可以得到,He的結(jié)果均值偏小,表明圖像較為灰暗,對比度較低,部分參數(shù)與原圖相差較大;總體而言,本文算法的特征參數(shù)和原圖的最為接近,并且對比度更高,圖像的細節(jié)更加精致。
表1 去霧圖像的特征表
另外,圖像的霧霾濃度越低,其灰度分布與原圖像越相似,這可以證明去霧效果好的圖像的灰度分布應(yīng)與原圖直方圖保持一致[21]。以圖8中的圖像R分量為例進行比較,見圖9;可以看出,本文的算法得到更好的結(jié)果。
(a)第1行圖像(b)第2行圖像
圖9R分量的直方圖
本小節(jié)基于圖像的紋理特征,建立去霧圖像的識別系統(tǒng),將為以后的去霧圖像質(zhì)量評價體系奠定堅實的基礎(chǔ)。
本文設(shè)定SOFM神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效率呈線性遞減至0,鄰域數(shù)也是呈線性遞減,在訓(xùn)練的后四分之一的周期內(nèi),鄰域數(shù)恒為1。這樣,一方面可以保證神經(jīng)元在初始階段的有較大的活動范圍,避免局部最優(yōu),并使全體都趨向于輸入尺量出現(xiàn)的區(qū)域;一方面也可以讓學(xué)習(xí)效率在一個較長的時間內(nèi)衰減,使神經(jīng)元可以足夠的展開。
SOFM網(wǎng)絡(luò)的學(xué)習(xí)過程大體如下:①網(wǎng)絡(luò)權(quán)值初始化。設(shè)定神經(jīng)元數(shù)目和輸入端數(shù)目,歸一隨機化處理初始權(quán)值。②計算獲勝的神經(jīng)元。③調(diào)整權(quán)值。④調(diào)整學(xué)習(xí)效率及更新鄰域神經(jīng)元參數(shù)。⑤結(jié)束判斷。
由于評價體系的特征參數(shù)有6個,故輸入端值設(shè)為6;輸出端設(shè)置為2,清晰圖像用二進制的10表示,霧霾圖像用二進制的01表示;隨機選擇100個樣本為訓(xùn)練數(shù)據(jù),其他20個為測試數(shù)據(jù)。分別選取了(36個競爭神經(jīng)元,訓(xùn)練1 000次;25個競爭神經(jīng)元的網(wǎng)絡(luò),訓(xùn)練了5 000次),表明,基于SOFM神經(jīng)網(wǎng)絡(luò)的圖像識別算法在實際運用中識別效果很好。在增加競爭神經(jīng)元和訓(xùn)練次數(shù)的后續(xù)實驗中,試驗結(jié)果成功率可以達到98%。
(1)文中提出的改進暗原色先驗原理的大氣耗散函數(shù)的估計方案,不僅細節(jié)保持度很好,而且抑制了Halo效應(yīng),并且沒有中值濾波造成的黑斑效應(yīng),獲得了更好的視覺效果。
(2)基于3ds max軟件對清晰圖像進行霧霾特效渲染,獲得了不同濃度的霧霾圖像,并構(gòu)建了本文的圖像訓(xùn)練庫。
(3)對圖像的紋理特征進行了統(tǒng)計分析,驗證了部分可以反應(yīng)圖像霧霾濃度的特征參數(shù)。
(4)對不同的去霧算法獲得的去霧圖像進行了合理且系統(tǒng)的客觀評價和比較。
(5)基于SOFM網(wǎng)絡(luò)提出了識別霧霾圖像和清晰圖像的算法。目前還沒有權(quán)威的去霧圖像的質(zhì)量評價體系,這很大程度上限制了去霧圖像的實用價值,因此,本文初步探索去霧圖像的評價體系具有重大的實際意義。
[1] Schechner Y Y,Narasimhan S G,Nayar S K.Instant dehazing of images using polarization[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition.Washington D.C.,USA:IEEE,2001:325-332.
[2] Shwartz S,Namer E,Schechner Y Y.Blind haze separation[C]//Proceedings of IEEE Conference on Computer Vision and Pattern Recognition. Washington D.C.,USA:IEEE,2006:1984-1991.
[3] Narasimhan S G,Nayar S K. Chromatic framework for vision in bad weather[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition.New York,USA:IEEE,2000:598-605.
[4] Nayar S K,Narasimhan S G.Vision in bad weather[C]//Proceedings of the 7th IEEE International Conference on Computer Vision.Kerkyra,Greece: IEEE,1999:820-827.
[5] Narasimhan S G,Nayar S K. Contrast restoration of weather degraded images[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2003,25(6):713-724.
[6] Tan R T.Visibility in bad weather from a single image[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition.Anchorgae,USA:IEEE,2008.
[7] Fattal R. Single image dehazing[J].ACM Transactions on Graphics, 2008, 27(3):1-9.
[8] Tomasi C, Manduchi R.Bilateral-ltering for gray and color images[C]//Proceedings of the 6th International Conference on Computer Vision Bombay. India:IEEE,1998:839-846.
[9] Xu H R,Guo J M,Liu Q,etal. Fast image dehazing using improved dark channel prior[C]//Proceedings of the IEEE International Conference on Information Science and Technology. Hubei,China:IEEE,2012:663-667.
[10] He Kai-Ming,Sun Jian,Tang Xiao-Ou.Single image haze removal using dark channel prior[C]//In:Proceeding of IEEE Conference on Computer Vision and Pattern Recognition. Washington D.C.,USA:IEEE,2009.1956-1963.
[11] 禹 晶,李大鵬,廖慶敏.基于物理模型的快速單幅圖像去霧方法[J].自動化學(xué)報,2011,37(2):143-149.
[12] Gibson K B,Vo D T,Nguyen T Q.An investigation of dehazing effects on image and video coding[J]. IEEE Transactions on Image Processing,2012,21(2): 662-673.
[13] 張小剛,唐美玲,陳 華,等.一種結(jié)合雙區(qū)域濾波和圖像融合的單幅圖像去霧算法[J].自動化學(xué)報,2014,40(8):1733-1739.
[14] Kumar Y, Gautam J, Gupta A,etal. Single image dehazing using improved dark channel prior[J].IEEE Signal Processing and Integrated Networks,2015:564-569.
[15] 劉海波,楊 杰,吳正平,等. 基于暗通道先驗和Retinex理論的快速單幅圖像去霧方法[J].自動化學(xué)報,2015,41(7):1264-1273.
[16] 陳書貞,任占廣,練秋生. 基于改進暗通道和導(dǎo)向濾波的單幅圖像去霧算法[J].自動化學(xué)報,2016,42(3):455-465.
[17] He Kai-Ming,Sun Jian,Tang Xiao-Ou.Guided image filtering[J]. IEEE Transaction on Pattern Analysis and Machine Intelligence,2013,35(6): 1397-1409.
[18] 宋東輝,夏曉靖,陳虹麗. 一種暗原色先驗的圖像去霧改進算法[J].應(yīng)用科技,2016(6):7-11+23.
[19] 郭 璠,蔡自興.圖像去霧算法清晰化效果客觀評價方法[J].自動化學(xué)報,2012,38(9):1410-1419.
[20] 南 棟,畢篤彥,馬時平,等.基于分類學(xué)習(xí)的去霧后圖像質(zhì)量評價算法[J].自動化學(xué)報,2016,46(2):270-278.
[21] 李大鵬,禹 晶,肖創(chuàng)柏.圖像去霧的無參考客觀質(zhì)量評測方法[J].中國圖象圖形學(xué)報,2011,16(9):1753-1757.