徐興貴,楊潤華,冉 兵,樊香所
(1.云南財經(jīng)大學 信息學院,云南 昆明 650221;2.中科院光電所 自適應光學重點實驗室,四川 成都 610209;3.宜賓學院 智能制造學部,四川 宜賓 644000)
有別于常規(guī)成像場景,大氣湍流和氣溶膠等光傳輸介質[1]對光的吸收和散射影響嚴重,使得遠距離成像系統(tǒng)獲得的目標圖像同時出現(xiàn)噪聲、模糊和低對比度等退化降質。因此,針對衛(wèi)星遙感成像、天文光學系統(tǒng)成像和遠距離可見光或紅外成像系統(tǒng)等場景下的有效低照度降質圖像清晰化(增強)面臨較大挑戰(zhàn)。
目前,圖像清晰化方法大致可分為7 類:直方圖均衡法[2-4]、基于Retinex 的增強方法[5-7]、基于物理模型的復原方法[8-9]、基于融合模型的復原方法[10-11]、深度學習的清晰化方法[12-13]、多應用背景[14-17]及圖像處理下[18-20]基于直方圖的規(guī)定化增強方法[21]和基于灰度值的拉伸法[22]。直方圖均衡法利用圖像像素值的直方圖分布特征指導增強圖像,如廣義自適應直方圖均衡[2]、奇異值均衡[3]以及照度直方圖均衡[4]。由于均衡策略依據(jù)直方圖統(tǒng)計特性,此類均衡方法容易造成過增強或者欠增強,并且不會有去模糊的效果。圖像拉伸主要用來改善圖像對比度,圖像拉伸可具體分為3 種方式:基于圖像像素的灰度拉伸增強法,基于圖像像素鄰域關系構建的直方圖均衡化增強方法和基于變換的直方圖規(guī)定化增強。特別地,直方圖規(guī)定化方法能夠有選擇地控制直方圖變成規(guī)定的形狀,從而彌補了一般均衡法不具備的交互特性。第2 種基于Retinex 的圖像增強方法則基于顏色恒定性假設,即物體表面的反射特性決定圖像質量,與成像系統(tǒng)中的光輻射分量不相關。該類方法特別適合光照度不充分的成像場景。近年來,Rahman 等人[6-7]提出多尺度Retinex 算法提取物體反射分量,進而提取出包含圖像細節(jié)信息的清晰本征值獲得增強效果。另一種基于物理模型的清晰化方法則集中在物理模型的構建和先驗信息的利用上。例如:Tarel 等人[8]提出的大氣散射模型法,He 等人[9]提出的暗原色先驗理論找出圖像局部暗原色信息并據(jù)此優(yōu)化透射率后得到清晰圖。此類方法利用先驗信息在常規(guī)自然成像場景中取得了較好效果,但遠距離成像場景顯然不滿足條件。此外,融合模型的方法則采取序列“串聯(lián)式”的策略增強圖像,如Ancuti 等人[11]提出的圖像融合方法,首先從退化圖像中估計退化權重譜,接著根據(jù)權重譜推導介質散射和吸收模型,最后實現(xiàn)圖像清晰化。然而,該方法的權重譜估計依賴大量工程經(jīng)驗,泛化能力差。融合方法中,小波變換已被廣泛應用于圖像處理,如特征提取[16]、去噪[17]、圖像壓縮和超分辨率[18-19]等,取得了許多較好的效果。最近,基于深度學習的方法被廣泛用于圖像清晰化,例如,Chen 等人[12]則利用R-CNN網(wǎng)絡模型來處理CT 圖像,Yao 等人[13]提出一種基于概率模型的深度學習方法清晰化降質圖像。然而,該類方法的深度學習網(wǎng)絡優(yōu)化和數(shù)據(jù)標注等方面的軟硬件成本依然較高。值得一提的是,遠距離降質圖像的高清參考圖像以及光傳輸物理成像模型先驗信息等難以獲取,導致基于物理模型和深度學習的方法難以實現(xiàn)。據(jù)此,本文采用Retinex和小波變換的融合模型實現(xiàn)遠距離低照度降質圖像增強。
結合遠距離成像場景下的低照度和多種退化降質圖像特點,受Retinex 恒常性原理和小波重構高分辨圖像的啟發(fā),本文采用融合離散小波低頻分量的奇異值分解策略來清晰化遠距離退化目標圖像,并對其有效性進行了驗證。所提方法主要分為兩步:首先利用Retinex 方法“粗”提取降質圖像的照度分量和反射分量,然后利用小波奇異值分解“精”提取反射分量,并通過小波逆變換實現(xiàn)圖像清晰化。
如引言所述,Retinex[5-7]增強模型基于顏色恒定性假設,能夠將退化圖像分解為低頻照度分量和變化劇烈的高頻反射分量。Retinex 模型表達為
式中:Ii為退化降質圖像;λ為信道波長;Li和Ri分別為照射分量和反射分量。估計光照分量和反射分量則可通過環(huán)繞尺度函數(shù)濾波法[15],照度分量表示為
以及
式中:Fi(x,y)表示環(huán)繞尺度函數(shù);?為卷積操作算子。相應地,反射分量R(x,y)可以通過(1)式的對數(shù)變換解算。一般地,濾波器尺度參數(shù) σi的值越大,照度分量估計的全局性越好,但局部性越差。為兼顧全局性和局部性,本文采用作者曾提出的自適應全尺度AFSR 方法[15]估計照度分量和尺度分量,其尺度參數(shù)映射公式為
圖1 AFSR 分解結果Fig.1 Results of AFSR decomposition
二維小波變換將圖像分解成不同的頻率范圍,與文獻[14,16]中方法相似,本文采用離散小波變換(discrete wavelet transform,DWT)先沿圖像的行進行一維離散小波變換,然后進行圖像列分解,由此產(chǎn)生4 個類型的子帶圖像,即稱為低-低(LL)、低-高(LH)、高-低(HL)和高-高(HH)。值得一提的是,LL 小波變換子帶對應為圖像低頻照度分量,進一步通過奇異值分解(singular value decomposition,SVD)提取出退化圖像的高頻分量,最后經(jīng)過反向離散小波變換(inverse discrete wavelet transform,IDWT)得到清晰圖像。奇異值分解可實現(xiàn)圖像信號的稀疏分解,SVD 矩陣分解可由前r個主奇異值和特征向量近似構成原始矩陣A,表達式為
式中T 為轉置操作符。原始圖像矩陣可分解為特征矩陣U、奇異值構成的對角矩陣Σ和系數(shù)矩陣V。一般地,奇異值σi按降序排列構成對角陣,其前面10%甚至1%的奇異值之和就占了全部奇異值總和的99%。通常,采用生成的歸一化矩陣(均值為0,方差為1)最大奇異值便可求取主奇異值,修正系數(shù)公式可表達為
結合(5)式和(6)式,原始矩陣經(jīng)SVD 分解后可表達為
進一步,新的LL 分量的奇異值分解表達為
通過逆離散小波變換,最終的清晰化圖像Aobj可通過分解后的LL 子帶和其他3 個子帶重建,即:
實驗中,我們使用了db.9/7 小波函數(shù)作為小波變換的母函數(shù)。如圖2所示,離散小波變換分解原退化圖像得到4 個子波帶HH/HL/LH/LL??梢钥闯?,低頻子波帶圖LL 刻畫了原圖像灰度緩慢地變化的大部分信息,代表了圖像的大致概貌和輪廓,是原圖像(圖7 星云圖)的近似信息。相應地,低-高(LH)、高-低(HL)和高-高(HH)3 個子波帶刻畫的是灰度變化較快的區(qū)域,表現(xiàn)為圖像邊緣區(qū)域的部分。從圖2 中可以看出,HH 子波帶的邊緣區(qū)域部分最為明顯。
圖2 離散小波分解所得的4 個子波帶Fig.2 Four wavelet subbands obtained from discrete wavelet decomposition
另一方面,如圖3(a)和圖3(b)所示,AFSR 增強后的LL 子波帶奇異值主要集中在值較大的前半部分,而原退化圖的低頻LL 奇異值矩陣則比較均勻地分布,其原因是低頻的照度分量模糊了圖像,進而導致光電探測器靶面上的能量即灰度值均勻分布在各區(qū)域。據(jù)此,低頻子波帶的SVD 分解后,通過去除低奇異值對應的模糊分量信息以提高圖像對比度。進一步,針對小波變換后獲得的含有模糊信息的低頻子波帶,利用SVD 分解的方式去除冗余的模糊信息。如圖3(c)和圖3(d)所示,LL 子波帶經(jīng)過SVD 分解后,圖像邊緣輪廓區(qū)域得以保留而平滑區(qū)域的模糊信息被去除,最后通過小波逆變換后便可實現(xiàn)圖像清晰化。
圖3 奇異值矩陣圖示和LL 子波帶SVD 分解前后對比圖Fig.3 Schematic diagram of singular value matrix and comparison of LL wavelet subbands before and after SVD decomposition
對比小波變換處理前后的降質衛(wèi)星圖像(圖6(a))的直方圖和方差值如圖4所示。可以看出,所提的融合算法能夠大大提高圖像的方差,即客觀反映對比度提高,增強后的圖像直方圖得到了改善,更多評價指標見第2.1 節(jié)。
圖4 所提融合算法處理前后結果對比Fig.4 Results comparison before and after processing of proposed fusion algorithm
綜上所述,可得出本算法結構框圖。如圖5所示,算法步驟歸納為
圖5 所提算法結構框圖Fig.5 Block diagram of proposed algorithm structure
步驟1)AFSR 分解得到反射分量和照度分量;
步驟2)離散小波變換分解得到4 個子波帶HH/HL/LH/LL;
步驟3)根據(jù)(8)式計算SVD 系數(shù) ξLLAˉ;
步驟4)根據(jù)(10)式得到增強的圖像。
本文實驗平臺為64 位win10 操作系統(tǒng),Intel Celeron(R)CPU1.83 GHz、8G 內(nèi)存,MATLAB2014b,圖像資源來自文獻[15,19,20],原始圖像如圖6(a)、6(b)和6(c)所示,3 幅圖分別代表典型的空對地衛(wèi)星遙感圖像、近地面遠距離紅外圖像目標和地對空可見光星云圖像,該3 種遠距離成像條件下的圖像均出現(xiàn)不同程度的模糊、噪聲和低對比度降質。3 幅原始圖像大小分別為375×327 像素、330×329 像素、335×330 像素。
圖6 原退化降質圖Fig.6 Original degraded images
本文利用極大化的方式獲取經(jīng)過離散小波變換后的低頻分量LL 的奇異值修正系數(shù),即所提方法中的低頻子帶系數(shù)采用極大值的選擇方式。同時,增加了極大值的選擇和基于區(qū)域方差選擇兩種方式的清晰化對比結果。如圖7所示,利用圖像處理后的對比度(縱坐標)刻畫清晰化效果,5 種遠距離目標圖像場景下獲取的結果表明所選擇的極大值方式能得到更好的奇異值修正系數(shù)。
圖7 低頻子帶系數(shù)修正對比Fig.7 Comparison of low frequency subbands coefficient correction
遠距離退化降質圖像的清晰參照圖像不易獲取,故采用無參考的圖像質量評價[1,15]指標,主要包括均熵(mean entropy,ME)、標準差(standard deviation,SD)、邊緣強度(edge intensity,EI)和圖像對比度指標(image contrast,IC)。均熵為無量綱的信號隨機統(tǒng)計量,該值越大則表示圖像信息量越大,也即圖像邊緣紋理等信息就越豐富。均熵ME 表達式為
圖像標準偏差反映了圖像的高頻分量,該值越高,對比度越高,圖像細節(jié)信息也越豐富。圖像標準方差SD 表示為
邊緣強度采用Sobel 算子來刻畫圖像邊緣細節(jié)程度,邊緣強度EI 可表示為
式中Sobel 算子 ?ij根據(jù)文獻[19]計算得到。
圖像對比度指標(image-contrast metric,IconM)則將圖像分割成16×16 塊,得到每個塊的最大和最小像素值,計算每塊中的相對對比度并求和,該指標通過(14)式計算:
圖9 文獻[3]算法的增強結果Fig.9 Enhancement results of algorithm in reference [3]
圖10 文獻[4]算法的增強結果Fig.10 Enhancement results of algorithm in reference [4]
圖11 文獻[19]算法的增強結果Fig.11 Enhancement results of algorithm in reference [19]
實驗結果中,圖8~圖12分別對應文獻[2]、文獻[3]、文獻[4]、文獻[19]和所提算法的清晰化結果,表1、表2 和表3 分別為圖6(a)、6(b)、6(c)3 個圖在相應算法中的客觀評價指標。從主觀視覺度和清晰度看,文獻[2]的算法僅次于所提算法,但圖像的高亮度(偏白色)區(qū)域出現(xiàn)了過增強,且目標邊緣位置出現(xiàn)了大量不光滑的毛刺,如圖8(a)中上半部分的操場區(qū)域全部被增強為純白色的區(qū)域,圖8 中的增強圖像出現(xiàn)了大量的噪聲;文獻[3]和文獻[4]兩種方法的增強效果最不明顯,增強后的圖像對比度不高,去噪效果不明顯,模糊現(xiàn)象嚴重;文獻[19]的增強效果一般。相比之下,所提方法在視覺清晰度和對比度方面均得到了較好的提高,如圖12(c)星云圖的紋理得到了復原,圖12(a)右下角的房子和圍欄等目標突出的部分也得到較好增強,圖12(b)的紅外模糊目標圖像去除模糊效果和噪聲最好,視覺清晰度最高。
圖8 文獻[2]算法的增強結果Fig.8 Enhancement results of algorithm in reference [2]
圖12 本文算法的增強結果Fig.12 Enhancement results of our proposed algorithm
表1 圖6(a)的清晰化結果評價Table 1 Enhancement evaluation results of Fig.6(a)
表2 圖6(b)的清晰化結果評價Table 2 Enhancement evaluation results of Fig.6(b)
表3 圖6(c)的清晰化結果評價Table 3 Enhancement evaluation results of Fig.6(c)
從客觀評價結果看,本文算法的清晰化結果在圖像信息熵、平均梯度、對比度和邊緣密度等方面總體上都明顯優(yōu)于文獻[3]和文獻[4]的算法,值得注意的是,文獻[3]的對比度值雖然比所提算法高,但其出現(xiàn)了不是我們所希望的欠增強結果。另外,文獻[2]算法處理圖6(b)的邊緣密度指標最高,但究其原因主要是該算法結果中依然存在大量噪聲??傮w來看,所提算法在客觀指標的綜合評價方面最好。
本文針對遠距離成像系統(tǒng)獲取的低照度降質圖像清晰化問題,提出了一種融合Retinex和離散小波奇異值分解的圖像對比度增強算法。該方法能夠利用自適應全尺度Retinex(AFSR)方法“粗”提取照度分量和反射分量;同時,通過離散小波變換能夠估計出低頻子帶圖像奇異值矩陣并應用逆小波變換實現(xiàn)“精”重建圖像。對比其他方法結果表明,所提方法在主客觀評價指標方面均優(yōu)于其他算法。下一步考慮將所提圖像增強后處理方法擴展應用到遠距離暗弱目標檢測和識別。