劉紀(jì)偉, 王曉東, 李云輝
(中國(guó)科學(xué)院 長(zhǎng)春光學(xué)精密機(jī)械與物理研究所,吉林 長(zhǎng)春 130033)
在遙感圖像的成像過程中,大氣云層和空氣中的水汽、粉塵等懸浮粒子形成的霧霾通常會(huì)使目標(biāo)物的反射光發(fā)生散射、被吸收、增加雜散光,造成圖像對(duì)比度下降、細(xì)節(jié)丟失、色彩失真,從而降低圖像質(zhì)量。同時(shí),在下傳過程中,惡劣的工作環(huán)境使得遙感圖像容易引入強(qiáng)噪聲、丟失信息,由此得到信息不全的帶霧遙感圖像,影響地物目標(biāo)的識(shí)別、分類、觀測(cè)等?,F(xiàn)有的圖像去霧算法主要針對(duì)RGB三通道圖像,而遙感圖像多是全色單通道圖像,且霧氣分布呈白色,導(dǎo)致單色遙感圖像去霧具有較高的挑戰(zhàn)性。因此,針對(duì)單色遙感圖像復(fù)原去霧的研究具有重要意義。
現(xiàn)有的圖像去霧算法主要可以分為以下3類:(1)基于圖像增強(qiáng)的去霧算法。根據(jù)圖像的灰度分布,通過拉伸補(bǔ)償對(duì)比度、亮度、色彩飽和度等突出圖像的細(xì)節(jié)信息,提升圖像的視覺觀感,常用方法包括直方圖均衡化、小波變換以及基于Retinex理論的算法等[1-3]。從另一角度而言,基于圖像增強(qiáng)的算法又可分為全局增強(qiáng)和局部增強(qiáng)算法[4-7],其中前者的主要作用是提升圖像整體的對(duì)比度;后者針對(duì)圖像的局部紋理特征,通過對(duì)圖像的局部區(qū)域等細(xì)分單元進(jìn)行變換處理,突出圖像的細(xì)節(jié)特征,提升抗噪能力。(2)基于圖像復(fù)原的去霧算法。可以分為兩類,一類是基于先驗(yàn)統(tǒng)計(jì)信息,通過統(tǒng)計(jì)高低質(zhì)量圖像的亮度等信息,復(fù)原出高質(zhì)量的無(wú)霧圖像[8-9]。另一類是基于物理模型,研究相機(jī)成像過程中的大氣擾動(dòng)的影響,分析霧霾等引起圖像質(zhì)量下降的原因,構(gòu)建相應(yīng)的數(shù)學(xué)模型,以觀測(cè)到的霧霾圖像為輸入,通過估算透射率等未知參數(shù),反演計(jì)算復(fù)原出無(wú)霧圖像[10-16]。由于依據(jù)的是大氣散射機(jī)理模型,該類方法具有較強(qiáng)的魯棒性,效果較為顯著。(3)基于深度學(xué)習(xí)的去霧算法。近年來(lái)隨著人工智能的發(fā)展,越來(lái)越多的研究人員使用深度學(xué)習(xí)的方法實(shí)現(xiàn)圖像去霧,主要分為端對(duì)端和非端對(duì)端的網(wǎng)絡(luò)模型。Dong等人提出了一種基于U-Net架構(gòu)的多尺度特征融合去霧網(wǎng)絡(luò),成功恢復(fù)了高分辨率圖像的空間信息[17]。Pang等人提出了一種雙目圖像去霧網(wǎng)絡(luò),通過左右兩幅圖像的相關(guān)性得到去霧損失函數(shù),達(dá)到更好的去霧效果[18]。Zheng等人提出了多導(dǎo)向雙邊濾波卷積神經(jīng)網(wǎng)絡(luò),實(shí)現(xiàn)了高分辨率4K圖像去霧[19]。
綜上所述,現(xiàn)有去霧算法多是針對(duì)特定場(chǎng)景下的彩色圖像去霧,對(duì)于單色且可能存在信息丟失的遙感圖像去霧研究尚不充分,因此本文提出了一種基于矩陣復(fù)原和暗通道理論的單色遙感圖像復(fù)原去霧算法。為了解決圖像在成像和傳輸過程中噪聲過大和圖像信息丟失的問題,首先采用交替方向乘子法(Alternating Direction Method of Multipliers, ADMM)對(duì)圖像進(jìn)行去噪復(fù)原,隨后將去噪復(fù)原后的圖像采用單色暗通道算法去霧,最后對(duì)實(shí)驗(yàn)圖片進(jìn)行主觀評(píng)價(jià),同時(shí)采用對(duì)比度、信息熵、峰值信噪比和結(jié)構(gòu)相似性等指標(biāo)進(jìn)行客觀評(píng)價(jià)。結(jié)果表明,與其他去霧算法相比,本文所提方法具有優(yōu)越性。
ADMM主要用于解決凸優(yōu)化問題,引入一致性約束方法實(shí)現(xiàn)優(yōu)化問題的解耦,將集中式問題并行求解,其主要思想是將原函數(shù)等價(jià)地分解成若干個(gè)可求解的子函數(shù)并求解全部子函數(shù),然后通過協(xié)調(diào)全部子函數(shù),從分塊的數(shù)據(jù)集中獲得相同的全局參數(shù)解,得到全局變量最優(yōu)解[20-23]。
ADMM算法針對(duì)二決策域分塊問題可以用如式(1)所示的表示方式:
該表達(dá)式也被稱為解耦約束式,其中x∈Rn,z∈Rm,x、z分別屬于“x子函數(shù)”和“z子函數(shù)”,為共享變量,n與m可以不相等,即子函數(shù)的參數(shù)維度不同。A、B、b為共享變量的約束矩陣。將目標(biāo)函數(shù)L(x,z,y)代入解耦約束式,可得:
其中:M為乘子向量、ω為常數(shù)懲罰因子。由此其中一個(gè)子函數(shù)的一個(gè)共享變量作為未知變量,其余視為已知變量,便可得到全局迭代方程:
每完成一輪迭代,則更新乘子向量M,其迭代公式如式(4)所示:
最后根據(jù)實(shí)際問題,設(shè)置ADMM的收斂判據(jù),其收斂判據(jù)的表達(dá)形式如式(5)所示:
其中:rk+1、sk+1為第k+1次迭代后的原始?xì)埐詈蛯?duì)偶?xì)埐睿褳閷?duì)偶?xì)埐罟较禂?shù),εpri、εdual為兩殘差容忍最大值[24-26]。
暗通道去霧理論最早由何凱明博士在2009年提出,他提出了一個(gè)基本假設(shè),認(rèn)為在絕大多數(shù)非天空的局部區(qū)域內(nèi),某一些像素點(diǎn)至少會(huì)有一個(gè)通道的灰度值較低,即比較暗的狀態(tài),由RGB三通道中取最小值組成灰度圖,再對(duì)這張灰度圖進(jìn)行濾波,即暗通道去霧理論,其主要是基于如式(6)所示的物理模型:
其中:I(x)為去霧前圖像,J(x)為理想無(wú)霧圖像,t(x)為介質(zhì)透射率,A為大氣光成分。
何凱明博士對(duì)5 000多幅無(wú)霧圖像進(jìn)行統(tǒng)計(jì),發(fā)現(xiàn)約75%的像素值為0,90%的像素值處于非常低的區(qū)間,由此提出暗通道理論,即對(duì)于一幅無(wú)霧圖像,其暗通道可以表示為:
其中:Jc(y)為J的任意一個(gè)顏色通道,Ω(x)為像素點(diǎn)x處的窗口。根據(jù)暗通道理論,Jdark→0。
由式(6)和式(7)可以得到透射率的理想模型表達(dá)式如式(8)所示:
在現(xiàn)實(shí)生活中,無(wú)論多晴朗的天氣,大氣中的懸浮粒子也會(huì)是遙感圖像產(chǎn)生一定的霧氣的感覺,因此為在去霧的同時(shí)保留一定程度的自然效果,引入了一個(gè)[0,1]之間的模糊系數(shù)ω,ω通常取0.95,對(duì)理想透射率進(jìn)行修正,即:
對(duì)于大氣光值A(chǔ),通常取暗通道圖中亮度前1‰的像素,在原始霧圖中取對(duì)應(yīng)亮度最高的像素點(diǎn)灰度值作為大氣光值A(chǔ)。
在實(shí)際處理圖像的過程中,如果透射率值過低,會(huì)使得推導(dǎo)出的無(wú)霧圖像偏白,因此要對(duì)透射率設(shè)一個(gè)下限值t0,t0通常取值為0.1,由此可得出無(wú)霧圖像表達(dá)式如式(10)所示:
現(xiàn)有圖像去霧算法大多針對(duì)RGB三通道的圖像。本文針對(duì)單色遙感圖像去霧及其在傳輸過程中存在的噪聲過大和信息丟失問題,在傳統(tǒng)的暗通道理論基礎(chǔ)上結(jié)合ADMM算法,實(shí)現(xiàn)了單色遙感圖像的復(fù)原去霧。
遙感圖像在成像和傳輸過程中存在的噪聲、信息丟失及霧氣干擾,可以解耦為去噪復(fù)原和去霧兩個(gè)子問題。由此,可以將問題描述成如式(11)所示的形式:
其中:Y為信息丟失帶霧圖像,X為帶霧圖像,N為加性噪聲。由上文給出的帶霧圖像成像過程可以得出:
則帶霧圖像X可通過最小化如下問題求得:
其中:rank(·)為矩陣的秩,λ為系數(shù)。由上文提到的ADMM的計(jì)算方法可以得出X,具體如式(14)所示:
再由上文中暗通道理論的計(jì)算方法,可以得出:
本文的算法流程如圖1所示。將單色遙感圖像變換為三通道圖像,采用基于ADMM的復(fù)原去噪算法進(jìn)行去噪復(fù)原,將復(fù)原去噪的圖像進(jìn)行去霧處理。首先根據(jù)灰度值計(jì)算出灰度圖像的暗通道值,隨后根據(jù)計(jì)算結(jié)果估算透射率和大氣光值,最后計(jì)算得到復(fù)原后的無(wú)霧圖像。
圖1 本文算法流程框圖Fig.1 Flow chart of the algorithm in this paper
本文從長(zhǎng)光衛(wèi)星網(wǎng)站中分別選取了衛(wèi)星和無(wú)人機(jī)遙感圖像,選擇多種不同應(yīng)用場(chǎng)景,包括農(nóng)田、城市、建筑、海洋、河流、山脊,驗(yàn)證本文算法的普適性和魯棒性。分別進(jìn)行了去霧實(shí)驗(yàn)、圖像信息丟失去霧實(shí)驗(yàn)以及不同程度圖像信息丟失去霧實(shí)驗(yàn),驗(yàn)證方法的有效性。模擬霧圖的成像機(jī)理,通過人工合成霧的方式得到帶霧圖像,然后對(duì)比原始圖像、帶霧圖像及去霧圖像的結(jié)果。
分別從主觀評(píng)價(jià)和客觀指標(biāo)評(píng)價(jià)的角度與經(jīng)典算法對(duì)比。本文根據(jù)算法應(yīng)用場(chǎng)景,選取了基于圖像增強(qiáng)的算法1、算法3、算法4、算法5以及基于圖像復(fù)原的算法2、算法6作為對(duì)照,驗(yàn)證本文算法的優(yōu)越性。本文選取的算法1為AGCWD(Adaptive Gamma Correction with Weighting Distribution),該方法通過伽馬校正和亮度像素的概率分布來(lái)提高調(diào)灰暗圖像亮度的自動(dòng)變換;算法2為DCTSVD(Discrete Cosine Transform Pyramid and Singular Value Decomposition),該方法將低頻子帶圖像的奇異矩陣與其全局直方圖均衡化的奇異矩陣結(jié)合起來(lái),估計(jì)均衡化后的低子帶圖像的奇異值矩陣,實(shí)現(xiàn)去噪和增強(qiáng)圖像對(duì)比度;算法 3為GIHE(Gradient and Intensity Histogram),該方法將梯度引入強(qiáng)度直方圖均衡化中,有效保護(hù)了圖像的亮度信息,實(shí)現(xiàn)圖像的去霧增強(qiáng);算法4為IMSVD(Image Enhancement based on Singular Value Decomposition),該方法通過圖像分解、可調(diào)對(duì)比度增強(qiáng)、降噪、圖像合成4個(gè)步驟,結(jié)合亮度和顏色分量,有效實(shí)現(xiàn)了圖像的去噪和去霧增強(qiáng);算法5為RHESVD(Regularized-Histogram Equalization),該方法利用正則直方圖均衡化和離散余弦變換來(lái)提高圖像質(zhì)量;算法6為 NPIE(Naturalness Preserved Image Enhancement),該方法利用高質(zhì)量圖像獲取的先驗(yàn)多層亮度統(tǒng)計(jì)信息,有效實(shí)現(xiàn)圖像去霧增強(qiáng)。選擇的客觀評(píng)價(jià)指標(biāo)有對(duì)比度、結(jié)構(gòu)相似性、峰值信噪比以及信息熵。
圖像對(duì)比度計(jì)算公式為:
其中:h為圖像的高度,w為圖像的寬度,X(i,j)為圖像的像素點(diǎn),C為標(biāo)準(zhǔn)差,μX為像素灰度均值。
圖像結(jié)構(gòu)相似性計(jì)算公式為:
其中:l(x,y)為亮度比較,c(x,y)為對(duì)比度比較,s(x,y)為結(jié)構(gòu)比較,SSIM為結(jié)構(gòu)相似性。
圖像峰值信噪比計(jì)算公式為:
其中:I(i,j)為無(wú)噪聲原始圖像,J(i,j)為噪聲圖像,PSNR為峰值信噪比。
圖像信息熵計(jì)算公式為:
其中:p(i)為灰度值為i的像素所占比例,S為信息熵。
4.2.1 主觀評(píng)價(jià)
對(duì)于7種不同算法進(jìn)行去霧實(shí)驗(yàn),對(duì)于帶霧圖像的去霧處理結(jié)果如圖2所示??梢钥闯觯惴?在多種場(chǎng)景下顏色偏亮,使得局部區(qū)域出現(xiàn)過度飽和,細(xì)節(jié)丟失;算法2在農(nóng)田和城市兩個(gè)場(chǎng)景下具有一定的去霧增強(qiáng)效果,但是在河流場(chǎng)景下,去霧效果并不顯著;算法3去霧效果較為顯著,但是存在著部分區(qū)域過亮;算法4可以有效增強(qiáng)對(duì)比度,提升視覺感知效果,但是整體色澤偏暗;算法5去霧效果不明顯,圖像依然存有薄霧效果;算法6有一定的去霧效果,但是從海洋去霧圖中可以看出,圖中依然存有微量霧氣干擾;本文算法相較于其他算法,可以有效去除霧氣干擾,較為徹底地去除整張圖像中的霧氣效果,在增強(qiáng)視覺感知效果的同時(shí),盡可能地保留圖像的細(xì)節(jié)。因此,本文算法普遍適用于多種應(yīng)用場(chǎng)景。
圖2 圖像去霧結(jié)果圖Fig.2 Image dehazing result map
從上面的分析可以看出,算法3的去霧處理效果相對(duì)顯著。圖3為本文算法與無(wú)霧原圖、帶霧圖像以及算法3處理結(jié)果的對(duì)比。可以看出,本文算法的處理結(jié)果與無(wú)霧原圖基本可以保持一致,能夠?qū)崿F(xiàn)高效去霧。然而,算法3在圖像右上部分的去霧結(jié)果偏亮,與原圖差別較大。
圖3 農(nóng)田場(chǎng)景細(xì)節(jié)展示圖Fig.3 Details of the farmland scene
4.2.2 客觀評(píng)價(jià)
本文通過對(duì)比不同算法的峰值信噪比、結(jié)構(gòu)相似性、對(duì)比度,客觀評(píng)價(jià)圖像去霧效果的優(yōu)越性,計(jì)算結(jié)果如表1所示。結(jié)合主觀評(píng)價(jià)結(jié)果,可以看出,算法1可以有效提升圖像的對(duì)比度,但與原圖像具有較差的結(jié)構(gòu)相似性,圖像細(xì)節(jié)信息丟失較為嚴(yán)重;算法2對(duì)圖像的對(duì)比度提升并不顯著,去霧增強(qiáng)效果不明顯;算法3對(duì)圖像的對(duì)比度增強(qiáng)較為明顯,但在部分場(chǎng)景下,圖像的結(jié)構(gòu)相似性和峰值信噪比較差,算法適用范圍具有局限性;算法4在多個(gè)評(píng)價(jià)指標(biāo)中都有較好的表現(xiàn),可以有效實(shí)現(xiàn)圖像的去霧;算法5和算法6均能實(shí)現(xiàn)一定程度的對(duì)比度拉伸,實(shí)現(xiàn)圖像的部分去霧,但與原圖的結(jié)構(gòu)相似性、細(xì)節(jié)信息存在差異;本文算法相對(duì)于原始輸入霧圖,6個(gè)場(chǎng)景的平均對(duì)比度提升14.748 9、平均峰值信噪比提升8.278 9,平均結(jié)構(gòu)相似性提升0.149 1,在一定程度上有效提升了霧圖的對(duì)比度,同時(shí)相對(duì)于原始圖像具有極高的峰值信噪比和結(jié)構(gòu)相似性,在提升視覺效果的同時(shí),兼顧了圖像的細(xì)節(jié)信息。
表1 圖像去霧客觀評(píng)價(jià)指標(biāo)計(jì)算結(jié)果Tab.1 Calculation results of objective evaluation index for image dehazing
模擬圖像傳輸?shù)纫饒D像信息丟失的過程,將人工合成霧圖信息丟失30%,即隨機(jī)將30%的像素值置為0,然后對(duì)原始圖像、細(xì)節(jié)丟失帶霧圖像及復(fù)原去霧圖像進(jìn)行對(duì)比。
4.3.1 主觀評(píng)價(jià)
圖像信息丟失復(fù)原去霧的結(jié)果如圖4所示,結(jié)合圖2中的原始霧圖,可以看出當(dāng)圖像信息丟失30%后,不同場(chǎng)景下圖像的大部分細(xì)節(jié)信息丟失,很難從圖像中捕獲有用信息。從圖4可以看出,算法1、2和算法4、5、6均不能有效去除噪聲,復(fù)原圖像的基本信息,實(shí)現(xiàn)復(fù)原去霧;算法3可以復(fù)原部分圖像的細(xì)節(jié)信息,降低一部分噪聲,去除原始霧圖中的部分霧氣,但其噪聲干擾依然嚴(yán)重,視覺效果較差;對(duì)比圖2中實(shí)驗(yàn)結(jié)果,本文算法可以有效地復(fù)原出絕大部分圖像的細(xì)節(jié)信息,同時(shí)實(shí)現(xiàn)了圖像有效去霧,因此具有很高的實(shí)際應(yīng)用價(jià)值。
圖4 信息丟失30%霧圖復(fù)原去霧結(jié)果Fig.4 Restoration and dehazing results of 30% information loss haze image
4.3.2 客觀評(píng)價(jià)
信息丟失遙感霧圖的復(fù)原去霧主要是為了復(fù)原圖像中細(xì)節(jié)信息,提升圖像的應(yīng)用價(jià)值,增強(qiáng)圖像的視覺觀感。因此本文選擇信息熵以及對(duì)原始信息完整無(wú)霧圖像的峰值信噪比和結(jié)構(gòu)相似性來(lái)客觀評(píng)價(jià)算法的復(fù)原去霧效果。
圖像的復(fù)原去霧客觀評(píng)價(jià)指標(biāo)結(jié)果如表2所示。結(jié)合主觀視覺效果,從計(jì)算結(jié)果可以看出,算法1、2、5、6的3個(gè)指標(biāo)均未明顯提升,圖像復(fù)原去霧效果不顯著;算法3的結(jié)構(gòu)相似性有一定提升,恢復(fù)了部分圖像細(xì)節(jié),但是與原始圖像依然有較大差距,信息恢復(fù)完整性較差;算法4的信息熵有小幅提升,但是結(jié)構(gòu)相似性變化很小,圖像信息恢復(fù)較少;本文算法相對(duì)于信息丟失30%的霧圖,6個(gè)場(chǎng)景的平均信息熵提升1.665 2、平均峰值信噪比提升11.702 9,平均結(jié)構(gòu)相似性提升0.814 6,均有明顯提高,可以有效復(fù)原出原圖像的細(xì)節(jié)信息,且與表1中信息完整霧圖相比,本文算法可以實(shí)現(xiàn)有效去霧,圖像結(jié)構(gòu)信息更接近原始無(wú)霧圖像。
表2 圖像復(fù)原去霧客觀評(píng)價(jià)指標(biāo)計(jì)算結(jié)果Tab.2 Calculation results of objective evaluation indexes for image restoration and dehazing
將帶霧圖像的圖像信息分別保留50%、60%、70%和80%,使用本文算法對(duì)其進(jìn)行復(fù)原去霧,將所得結(jié)果應(yīng)用信息熵以及對(duì)原始信息完整無(wú)霧圖像的峰值信噪比和結(jié)構(gòu)相似性來(lái)客觀評(píng)價(jià)本文算法在不同惡劣情況下的復(fù)原去霧效果,驗(yàn)證本文算法具有較寬的適用范圍。
4.4.1 主觀評(píng)價(jià)
對(duì)不同比例信息丟失的圖像復(fù)原去霧結(jié)果如圖5所示。可以看出,本文算法在圖像信息不全,原始圖像信息不同比例丟失的情況下,均可以有效復(fù)原出圖像的主要信息,同時(shí)消除圖像中的霧氣分布。在僅保留50%圖像信息的圖像中,圖像中的景物可辨識(shí)性極低,本文算法可以有效復(fù)原出圖像中的大部分景物,同時(shí)相較于圖中左側(cè)信息完整的霧圖,本文算法處理后的圖像很好地去除了圖中的霧氣,提升了圖像的視覺觀感。
圖5 不同比例信息丟失圖像復(fù)原去霧結(jié)果Fig.5 Restoration and dehazing results of images with different proportions of information lost
4.4.2 客觀評(píng)價(jià)
針對(duì)不同比例霧圖信息丟失的復(fù)原去霧結(jié)果客觀評(píng)價(jià)指標(biāo)如表3所示。可以看出,在信息丟失20%的情況下,可以觀測(cè)到的圖像與原圖的結(jié)構(gòu)相似性也僅為0.035 4,峰值信噪比極低,信息熵較小,可辨識(shí)信息較少。通過本文算法處理后,信息丟失20%的輸入圖像相對(duì)于原圖的結(jié)構(gòu)相似性提升到了0.596 4,圖像的信息熵和峰值信噪比也明顯提升,可捕獲信息明顯增多,算法具有較強(qiáng)的復(fù)原去霧效果。
表3 不同比例信息丟失霧圖復(fù)原去霧客觀評(píng)價(jià)指標(biāo)計(jì)算結(jié)果Tab.3 Calculation results of objective evaluation indexes for restoration and dehazing of fog images with different proportions of information loss
本文提出了一種基于ADMM矩陣復(fù)原和暗通道理論的單色遙感圖像去霧算法,實(shí)現(xiàn)了信息丟失情況下的圖像復(fù)原去霧。通過主觀評(píng)價(jià)與客觀指標(biāo)分析相結(jié)合,綜合評(píng)判信息完整和信息丟失情況下的圖像去霧結(jié)果。對(duì)比了6種經(jīng)典圖像去霧算法在多場(chǎng)景下的去霧效果以及在不同比例信息丟失情況下的復(fù)原去霧結(jié)果,實(shí)驗(yàn)結(jié)果表明,本文算法對(duì)于信息丟失30%的霧圖,6個(gè)場(chǎng)景的平均信息熵提升1.665 2,平均峰值信噪比提升11.702 9,平均結(jié)構(gòu)相似性提升0.814 6,指標(biāo)提高顯著,具有較好的復(fù)原去霧效果,能夠在去除噪聲恢復(fù)原圖像有用結(jié)構(gòu)信息的同時(shí),提升圖像的視覺效果,有利于圖像的觀測(cè)和信息獲取,同時(shí)證明本文算法具有寬適性和較好的魯棒性。