姜雨彤, 宋海平, 王光輝
(中國北方車輛研究所,北京 100072)
圖像去霧方法是近年的研究熱點,基于大氣散射模型的圖像去霧方法得到了大力發(fā)展,但是無人機航拍圖像去霧仍然是尚未解決的難題。近年來,無人機航拍作為新生的觀測手段,正在日益走向成熟,從而對無人機圖像的去霧方法及去霧效率提出了更高的要求。
傳統(tǒng)的無人機采用裝載一個固定圖像傳感器從上往下垂直攝影(見圖1(a))。為提高無人機影像采集的靈活性,裝載一個可調節(jié)角度相機,可實現多角度傾斜攝影(見圖1(b))。隨著傾斜攝影技術在國際測繪遙感領域的迅速發(fā)展,通過在同一無人機平臺上搭載五攝像機(見圖1(c)),可同時從垂直、傾斜等不同角度采集影像。如圖2所示,機載五攝像機組可獲取地面場景多個方位圖像,并可供用戶多角度瀏覽,使地面場景的影像信息更為完整。
圖1 無人機機載攝像機示意圖Fig.1 Schematic diagram of UAV-borne camera
圖2 無人機機載五攝像機影像獲取示意圖Fig.2 Schematic diagram of five-camera image acquisition on UAV
圖3 無人機垂直攝影圖像Fig.3 UAV vertical photographic image
當無人機圖像傳感器從高空向地面垂直向下攝影時(見圖3),獲取的圖像上所有場景點的深度幾乎一致并等于飛行高度。而且由于飛行高度大多在幾百米或上千米,地物的高度差可以忽略不計。因此,場景透射率差別不大,各景物受霧影響的程度大體相同。另外,此類無人機圖像幾乎不存在天空區(qū)域,現有的估計大氣光的方法往往存在誤差,致使去霧圖像存在不同程度的色移。針對無人機航拍圖像的應用背景,不僅需要清晰化去霧處理,還要求圖像去霧算法復雜度較低、處理速度較快,為無人機圖像去霧后的信息處理作重要預處理工作,爭取有利時間。
因此,需要研究一個計算復雜度低、去霧效果好的去霧模型,降低去霧計算復雜度,可更好地實現處理的圖像去霧方法。針對無人機正拍圖像的特殊性,不需考慮整幅圖像霧氣濃度隨景深的變化,只需簡化圖像去霧過程,研究出針對無人機正拍圖像去霧適用性強、執(zhí)行效率高的去霧方法。
常見的圖像去霧算法可以分為3類,基于物理先驗模型的方法,基于圖像增強的方法,以及使用深度學習的方法。然而這些方法通常用于處理地面平視霧天圖像且計算復雜度高,未能充分利用無人機航拍圖像所有場景點具有近似光學深度這一有利先驗條件。
為了探索一種計算復雜度低的圖像去霧方法,本文提出一種基于質量評價最優(yōu)的無人機圖像去霧方法。針對高空垂直拍攝所獲取的無人機正拍圖像,研究圖像質量評價參數,建立圖像質量評價函數,在此基礎上選擇圖像質量評價函數值最優(yōu)的圖像作為去霧結果,實現無人機正拍圖像的高效去霧處理。
無人機正拍圖像,相對于無人機斜拍圖像和普通景物圖像,有著自身的特點。當無人機上的相機從幾百米或上千米高空垂直向下拍攝時,視野內場景點到達無人機上相機的距離近似一致,地物的高度差可忽略不計,場景中各景物受霧氣影響的程度大體相同。
對于有霧場景的描述通常使用簡化的大氣散射模型,該模型將有霧圖像描述為清晰無霧圖像與大氣光在不同場景點處以不同比例進行疊加,大氣散射模型數學上可以表示為(1)式,
(,)=(,)+(1-),
(1)
式中:(,)、(,)分別表示有霧圖像以及原始無霧圖像的像素點灰度值,(,)為像素點坐標;為全局的大氣光值,表示無窮遠處背景光的多少;為大氣透射率,表示疊加大氣光的程度值,該比例與場景點的深度值相關,
=e-,
(2)
為固定的大氣散射系數值,為場景點的深度。
由于大致相同,對單幅圖像可以將作為全局值進行處理,從而得到更精簡的大氣散射模型如(3)式:
(3)
本文將普通圖像去霧求解整幅圖像所有像素點透射率圖的問題轉變?yōu)榍蠼庹鶊D像全局透射率值問題,大幅度降低無人機正拍圖像去霧算法的計算復雜度,可以更好地實現無人機圖像的去霧處理。
本文結合信息熵(IE)、標準差(SD)和圖像傅里葉振幅(FA)3種圖像質量評價參數展開研究,建立圖像質量評價函數((),(),()),()、()、()分別為圖像的IE、SD、FA在此基礎上提出基于圖像質量評價最優(yōu)(OIQE)的去霧方法。若輸入有霧圖像,且大氣光已知,則將透射率作為大氣散射模型的唯一自變量參數,通過對透射率的不同取值,可根據(3)式求解出不同的去霧圖像。
將各去霧圖像代入圖像質量評價函數中,求取最優(yōu)值即質量評價函數的最大值,根據(4)式將所獲得的圖像確定為去霧結果,
(4)
無人機圖像常作為軍事偵察、毀傷評估、國土監(jiān)測和災害救援的重要信息來源。因此對無人機圖像的去霧結果提出了包含信息量大、對比度高、細節(jié)恢復程度高、紋理清晰和邊緣特征明顯等要求。IE是表示圖像信息豐富程度的重要指標,從信息論角度出發(fā),反映了圖像信息的多少;SD是表示像素點離散程度的重要指標,是反映圖像各像素灰度值分布程度;圖像的FA是表示場景中物體邊緣變化幅度大小的重要指標,是反映構像紋理的清晰程度。因此,本文采用IE、SD、圖像FA來綜合定量評價去霧后圖像的質量。
IE是圖像中所含信息量的度量指標,表征圖像灰度分布的聚集特性,在圖像中,當各個灰度級出現的概率相等時熵最大。根據這個理論,圖像的值越大,表明其包含信息量越大,即圖像細節(jié)紋理信息較豐富;圖像的值越小,表明其包含信息量越小,即圖像細節(jié)紋理信息較匱乏。圖像IE的表達式為
(5)
式中:表示圖像所含的灰度級總數(1≤≤256);表示第級灰度在圖像中出現的概率大小,此概率可由灰度直方圖統(tǒng)計獲得。
可將圖像IE作為參數,來評價去霧圖像的質量。如果去霧圖像的IE增大,則說明去霧處理后圖像所包含信息量超過了未經處理的有霧圖像,有效地去除霧氣對圖像的影響,恢復圖像所包含的細節(jié)紋理。也就是說去霧后圖像的IE越大,就越有可能復原圖像中的信息量,越接近無霧時的真實場景圖像復原。由于無人機圖像是獲取視覺信息的主要來源,它所包含信息量的大小直接影響其利用價值,因此IE可作為評價無人機圖像去霧結果好壞的重要參數。
SD用于度量圖像的對比度,其值的大小直接反映了圖像的清晰程度。圖像的SD值越大,表明圖像的灰度值在整個灰度階范圍內離散性越好,有著較高的對比度和較好的色彩表現,最終說明該檢測圖像清晰度越高;相反,如果SD值越小,表明圖像灰度值過于集中,有著較低的對比度和較差的色彩表現,最終得出圖像清晰度越低。圖像SD的表達式為
(6)
式中:、分別為圖像的寬和高;為圖像像素灰度的平均值。
圖像SD也可作為評價去霧圖像質量的參數。如果去霧圖像的SD顯著增大,則說明去霧處理使圖像灰度的離散性增大,恢復了圖像的對比度,使去霧圖像的清晰程度大大超過未經處理的有霧圖像,并有效地去除霧氣對圖像的影響。也就是說去霧后圖像的SD越大,就越接近無霧時的真實場景圖像復原,因此對于無人機圖像來說,SD可作為評價無人機圖像去霧結果好壞的重要參數。
傅里葉變換可以看作一個玻璃棱鏡,可將一束光分解為不同顏色的光,而每個顏色的光則取決于波長(或頻率)。傅里葉變換可作為數學上的棱鏡,將函數分解為不同頻率的成分,當分解對象為光時,則是由光譜或頻率譜所決定的。由于傅立葉變換是通過頻率成分來分析一個函數的,它也是實現線性系統(tǒng)分析的一個有力工具,可為解決圖像處理問題提供思路,利用頻域中特有的性質,使得許多圖像處理過程更加簡單、有效。傅立葉變換是將圖像從空間域轉換到頻率域,其物理意義是將圖像的灰度分布函數變換為圖像的頻率分布函數。對于二維圖像信號(,),其傅里葉變換定義為
(7)
式中:=0,1,2,…,-1;=0,1,2,…,-1
由于FA的動態(tài)范圍往往過大,通常作如下對數變換:
(,)=lg[1+|(,)|],
(8)
式中:(·)為變換后的FA;為比例常數。
圖像的FA也可作為評價去霧圖像質量的重要參數。如果去霧圖像的FA值增大,則說明去霧處理使圖像相鄰像素的變化很劇烈,恢復了圖像的尖銳度,使去霧處理后圖像的清晰程度大大超過未經處理的有霧圖像,有效地去除霧氣對圖像的模糊。也就是說去霧后圖像的振幅值越大,就越接近無霧時的真實場景圖像復原,因此對于無人機圖像,圖像的FA可作為評價無人機圖像去霧結果好壞的重要參數。
選定IE、SD、FA作為去霧圖像質量的評價參數,三者的值越大,說明去霧后的圖像質量越高,去霧處理算法越有效。表1所示為霧天圖像及其候選去霧圖像。求取候選去霧圖像的IE、SD、FA譜,以最大IE值或最大SD值或最大FA中值所對應的圖像作為最優(yōu)去霧結果。表2給出了候選去霧圖像1、2、3、4、5、6、7、8的IE、SD、FA中值具體求取結果,分別標記出各參數最大值。
為了進一步比較3個參數的計算結果,圖4給出了IF、SD、FA計算值的曲線圖,并標注了它們各自最大值的取值位置。由圖4可見:候選去霧圖像5號的IE最大,被選定為以IE為評價標準的去霧結果;相對于霧天圖像,被霧氣覆蓋的細節(jié)紋理信息被恢復,但圖像并未完全去除霧氣的籠罩,仍有部分區(qū)域未能去霧徹底。候選去霧圖像4號的SD最大,被選定為以SD為評價標準的去霧結果;相對于霧天圖像,圖像的對比度大幅度提高了,但部分區(qū)域去霧過度,使細節(jié)紋理信息被模糊。候選去霧圖像3號FA的中值最大,被選定為以FA為評價標準的去霧結果;相對于圖霧天圖像,圖像的邊緣更明顯,但圖像整體色調偏暗,出現了過飽和現象。由此可見,IE、SD、FA這些參數分別單獨作為去霧圖像質量的評價指標通常無法得到一致性的結果,是一個亟待解決的問題。
表1 霧天圖像及其候選去霧圖像
表2 候選去霧圖像的IE、SD、FA中值的計算結果
圖4 候選去霧圖像IE、SD、FA中值 計算結果及其最大值Fig.4 Calculated results of candidate dehazed image information entropy,standard deviation,Fourier amplitude median and their maximum values
為了彌補單一去霧圖像質量評價參數的片面性,則將IE、SD、FA 3個質量評價參數相結合,建立一個更全面、更合理的質量評價函數,表達式為
(9)
式中:()、()、()為霧天圖像所求得的IE、SD、FA中值;()、()、()分別為根據霧天圖像所獲得的去霧圖像所求得的IE、SD、FA中值。()、()、()的值比()、()、()提高得越大,(,)的值越大,說明去霧圖像的質量越高,去霧效果越好。
由于霧氣的存在會使圖片的IE、SD以及FA 3個圖像指標減小,對于霧天圖像,當()、()、()固定時,其3個指標的值越大,去霧圖像的去霧效果越好。質量評價函數的值與去霧圖像的3個指標值均呈正比,通過函數可將3個指標進行聯合,并將綜合評價分數限制在[0,3]范圍。
本文提出的OIQE方法主要分為以下4個步驟:1)對進行粗略取值,獲取初步候選去霧圖像;2)采用質量評價函數,計算各初步候選去霧圖像的質量評價值,選取最大值所對應的候選去霧圖像,作為初步估計結果;3)提取初步確定的去霧結果所對應的值,根據的小范圍取值獲得一系列精確候選去霧圖像;4)采用質量評價函數,計算各精確候選去霧圖像的質量評價值,并選取最大值所對應的候選去霧圖像,作為最優(yōu)去霧結果圖像。
大氣光值表示無窮遠處背景光的大小,在有天空的場景中通常可以采用遠處天空的灰度值,很多基于大氣散射模型的去霧方法對大氣光的求解進行了簡化。例如暗通道方法將大氣光值取為前1亮度點處的灰度,Kim等的去霧算法不斷對圖像進行四叉分割,并每次均選取平均灰度最大的一塊,但是無論哪一種方法都受到場景中可能存在的白色物體影響,導致大氣光估計存在偏差。由于大氣光值的計算不在本文的重點研究范圍,通過對多個視覺上有霧場景的大氣光進行估計后,發(fā)現大氣光值集中于190以上,因此選取經驗值200作為大氣光(這里如果需要進一步說明,則需要統(tǒng)計多幅有霧圖像)。雖然與實際會產生偏差,但是由于將傳輸函數作為全局值進行估計,最終的估計也會相應主動地在估計過程中與實際值產生偏差來保證圖像的最終質量評價分數仍然最高。圖5給出了一幅霧天無人機圖像。
圖5 霧天無人機圖像Fig.5 Foggy UAV image
以圖5為例,本文提出的去霧方法具體實現步驟描述如下:
根據(3)式,在霧天圖像作為僅有的輸入條件時,對取值為=[200,200,200](的取值對本文提出的算法影響并不大,為了簡化去霧過程,本文將取值為固定值),再對唯一的未知數(0≤≤1)進行粗略取值,=[01,01,09],從01~09變化步長為01取值,通過的這9個取值,可求得相對應的9幅初步候選的去霧圖像,如表3所示。可見通過人眼的視覺感受無法準確地判斷9幅初步候選去霧圖像中哪幅具有最優(yōu)的質量參數,需要進行步驟2的判斷。
表3 不同t取值所對應的初步候選去霧圖像
先根據(6)式計算霧天圖像(見圖5)的(),以及9幅初步候選去霧圖像(見表3)的(1)、(2)、(3)、(4)、(5)、(6)、(7)、(8)、(9);再根據(7)式計算霧天圖像(見圖5)的(),以及9幅初步候選去霧圖像(見表3)的(1)、(2)、(3)、(4)、(5)、(6)、(7)、(8)、(9);接下來根據(9)式計算圖像的,從而將所有像素點的FA中值代表霧天圖像(見圖5)的(),以及9幅初步候選去霧圖像(見表3)的(1)、(2)、(3)、(4)、(5)、(6)、(7)、(8)、(9);然后將計算所的值代入(9)式質量評價函數,并求得9幅圖像相對應的質量評價參數值(,1)、(,2)、(,3)、(,4)、(,5)、(,6)、(,7)、(,8)、(,9);最后在9個質量評價參數其中選擇最大值,并將其所對應的初步候選去霧圖像作為初步去霧結果圖像,其所對應的值作為初步透射率結果,表達式為
(10)
式中:=[01,01,09]。
圖6所示為根據表3的9幅初步候選去霧圖像所求得的質量評價參數值曲線,可見在6號圖像處取得最大值,則圖像6被確定為初步去霧結果圖像,它由=06確定得到。
圖6 不同t值對應的初步候選去霧圖像質量 評價參數值及最大值Fig.6 Quality evaluation parameter values and maximum values of initial candidate dehazed images corresponding to different t values
根據步驟2已經初步確定透射率,進一步縮小的取值范圍,目的是獲得更為精確的透射率將的取值定為=[-01,001,+01],將的21個取值代入(3)式,可求得相對應的21幅精確候選的去霧圖像。這樣先粗略取值再精細取值的目的,是在保證取值精度的條件下減少計算量,有效且有針對性地進行去霧處理,保證圖像去霧的計算復雜度。如表4所示,通過步驟2求得=06,縮小的取值范圍后,將的取值定為=[05,001,06],可見求得的精確候選去霧圖像差別很小,更逼近真實結果。
4) 表4所示21幅精確候選去霧圖像,無法通過人眼來判斷最優(yōu)去霧結果。因此,根據(5)式、(6)式、(8)式計算此21幅精確候選去霧圖像的IE、SD、FA,代入(9)式求得質量評價參數。比較這21個質量評價參數值的大小,選擇其中最大值,并將其所對應的精確候選去霧圖像確定為最終的去霧結果圖像,其所對應的值作為最終的透射率結果,表達式為
(11)
式中:=[-01, 001,+01]。
如圖7所示,此圖為根據表4的21幅精確候選去霧圖像所求得的質量評價參數值曲線,可見在=056時求得的去霧圖像質量參數最大,所以將它所對應的圖像(見表4)確定為精確去霧結果圖像
通過以上4個步驟即可完成本文提出的無人機圖像去霧處理,實現最終去霧圖像結果細節(jié)信息恢復完整、對比度高、邊緣清晰。采用先對粗略取值,再對初步確定的值進行小范圍精確取值的方法,大大減少了計算量,實現了有針對性、有效率的去霧處理。
選取一組青島市2014年世園會建設過程中的航拍圖像作為一實例,采用本文提出的OIQE去霧方法進行無人機航拍霧天圖像的去霧處理實驗,如表5所示。由表5可見,去霧后的圖像細節(jié)信息一目了然、對比度高、邊緣清晰,說明OIQE去霧方法可有效去除無人機圖像中的霧氣干擾,而且可恢復出高質量的清晰圖像。
為了證明OIQE去霧方法的優(yōu)勢,首先將其與經典的暗通道先驗(DCP)去霧方法進行比較。
表4 不同t取值所對應的精確候選去霧圖像
圖7 不同t值對應的精確候選去霧圖像質量 評價參數值及最大值Fig.7 Quality evaluation parameter values and maximum values of accurate candidate dehazed images corresponding to different t values
如表6所示,OIQE去霧方法與DCP去霧方法同時處理一組無人機霧天圖像,可見采用OIQE去霧方法處理后所得到的去霧結果相對于DCP去霧方法所得到的去霧結果細節(jié)更加清晰,對比度更高。DCP方法得出的去霧圖像去霧不完全,霧氣仍有殘留,并未徹底去除霧氣的籠罩??梢娝岢龅腛IQE去霧方法對于無人機圖像去霧的實現效果要優(yōu)于DCP去霧方法。
OIQE去霧方法與目前計算量最小、執(zhí)行最有效的景深線性估計模型(LMD)去霧方法進行比較。如表7所示,OIQE去霧方法與LMD去霧方法同時處理一組圖像,可見OIQE去霧方法處理后所得去霧結果相對于LMD去霧方法所得到的去霧
表5 一組霧天無人機圖像及采用本文方法獲得的去霧圖像
表6 一組霧天無人機圖像DCP、OIQE方法去霧結果比較Tab.6 Comparison of dehazed results of a set of foggy UAV images obtained by DCP and OIQE methods
結果細節(jié)更清晰,邊緣更明確。LMD去霧方法得出的去霧圖像紋理模糊,細節(jié)被平滑,使圖像本來的信息被損失??梢姳疚腛IQE去霧方法對于無人機圖像去霧的實現效果要優(yōu)于LMD去霧方法。
為了客觀定量地評估提出的OIQE圖像去霧方法的性能,采用計算均方差(MSE)的方式對通過 無霧圖像所合成的有霧圖像進行統(tǒng)計,比較OIQE去霧方法與DCP去霧方法和LMD去霧方法所得MSE的大小。
表7 一組霧天無人機圖像LMD、OIQE方法去霧結果比較
為了計算霧天圖像通過去霧處理方法所獲得的去霧結果圖像與無霧真實圖像的MSE,必須要有同一場景在晴朗天氣下的無霧圖像做為真值,霧天圖像進行去霧處理后的結果圖像作為測量值,再進行真值與測量值的誤差計算。但實際情況是,很難同時獲得同一場景下的真實霧天圖像與無霧圖像。為了解決這一問題,只能根據(1)式,再給定值和值對無霧圖像進行合成有霧圖像,然后對合成有霧圖像進行處理,計算去霧結果圖像與無霧圖像的MSE
設=[200,200,200],=08,04,02,這3個不同的值使每一幅無霧圖像都分別獲得3幅霧氣濃度不同的有霧圖像,如表8所示。
表8 一組無人機在晴朗天氣下拍攝無霧圖像所合成的有霧圖像
將得到的合成有霧圖像分別采用提出的OIQE去霧方法、DCP去霧方法、LMD去霧方法進行有霧圖像去霧處理實驗,得到去霧結果圖像,并統(tǒng)計其MSE值。為了更有效地展示比較結果,其中=02所合成的有霧圖像去霧結果分別與表8中無霧圖像真值計算得到MSE結果,如表9所示。
表9 t=0.2時合成有霧圖像的不同方法去霧結果和MSE結果
為有效衡量DCP、LMD以及OIQE方法去霧后的圖像質量采用IE以及對比度兩個無參考指標進行比較,其中IE的計算如(5)式,分別對3個顏色通道應用該公式并最終取均值作為圖像的熵。
對比度的計算采用文獻[16]中的全局對比度計算方法,該方法將圖像進行多次下采樣分別計算不同分辨率下的對比度值,然后使用主觀實驗確定多個對比度值的權重系數,在評價結果上與人眼感受相關性大。對于不同指標使用相同權重的問題,不同權重下的評價函數分值肯定會不同,按照奧卡姆剃刀原理,多組合選擇中采用相同的權重較為簡便與高效。
表9給出了在=02時合成有霧圖像的不同方法去霧結果、MSE結果以及IE和對比度的質量評價比較結果。通過對上述3個指標的計算可以看出,OIQE方法在3個樣例場景中的去霧結果均優(yōu)于DCP方法和LMD方法,充分保留了視覺信息和對比度信息,客觀地說明了本節(jié)提出的OIQE圖像去霧方法對正拍的霧天無人機圖像去霧處理的準確性高、計算誤差小。
本文建立了一種基于圖像質量評價最優(yōu)的圖像去霧方法,并應用于霧天無人機正拍圖像的去霧處理結果表明該方法具有計算復雜度低、操作簡單、有效性高的特點。得出主要結論如下:
1) 由IE、SD和FA構成的圖像質量評價函數可以作為圖像質量綜合評價方法,此方法對于去霧結果的評估相比于單獨的圖像指標作為優(yōu)化目標具有更好的效果。
2) 對于無人機正拍圖像,將所有場景點的光學深度作為全局變量進行估計可以充分利用先驗條件實現計算復雜度低、去霧效果好的圖像處理。
3) 本文所提從粗精度到細精度的大氣透射率估計方法,可以在具備較好的圖像去霧效果及誤差的同時大大降低算法處理時間。