張海艷，高尚兵

(1.淮陰工學院 計算機與軟件工程學院，江蘇 淮安 223003； 2.江蘇省物聯網移動互聯技術工程實驗室(淮陰工學院)，江蘇 淮安 223003； 3.南京曉莊學院 可信云計算與大數據分析重點實驗室，南京 211171) (*通信作者電子郵箱24472074@qq.com)

圖像分割中改進空間約束貝葉斯網絡模型的應用

張海艷1,2*，高尚兵1,3

(1.淮陰工學院 計算機與軟件工程學院，江蘇 淮安 223003； 2.江蘇省物聯網移動互聯技術工程實驗室(淮陰工學院)，江蘇 淮安 223003； 3.南京曉莊學院 可信云計算與大數據分析重點實驗室，南京 211171) (*通信作者電子郵箱24472074@qq.com)

針對馬爾可夫鏈蒙特卡羅方法普遍存在的迭代收斂性問題，在具有空間平滑約束的高斯混合模型條件上提出改進空間約束貝葉斯網絡模型并在圖像分割領域進行具體應用。所提模型應用隱狄利克雷分布(LDA)概率密度模型和高斯-馬爾可夫定理的隨機域參數混合過程來實現參數平滑。所提方法根據空間信息先驗平滑變換操作，在待處理像素點的上下文混合結構中引入LDA符合多項式分布，用來替換傳統(tǒng)期望最大化算法中映射操作。LDA參數采用閉合形式將有利于準確估計最大后驗概率(MAP)框架與上下文混合結構的相關比例。實驗結果表明，應用PRI、VoI、GCE和BDE指標進行效果比較，該方法比聯合系統(tǒng)工程組(JSEG)、當前變換矩陣(CTM)和最大后驗概率-最大似然法(MM)方法的圖像分割應用效果較好，高斯噪聲對于該算法的魯棒性影響較小。

隱狄利克雷分布；期望最大化方法；貝葉斯模型；高斯混合模型；圖像分割

0 引言

目前，很多科學研究文獻已經提出了多種圖像分割方法。其中，圖像聚類方法主要受到數據分組初始安排規(guī)則影響。近些年來的主要科學研究成果均集中在圖形理論方法研究、基于均值漂移(Mean Shift，MS)的相關圖像分割算法和Rate-distortion理論方法[1]。

針對有限混合模型(Finite Mixture Model, FMM)的概率密度函數(Probability Density Function, PDF)的像素點相關屬性(如：強度、紋理等屬性)建模到群體數據上是自然形式，因為它會根據組件自動提供產生分組混合結構。此外，針對聚類性能來說，FMM概率密度函數是米制單位[2]?；贔MM的概率密度函數建模方法已經成功應用在生物信息學[3]、圖像檢索[4]等相關領域。FMM模型參數能夠通過極大似然估計融合期望最大化算法求得[5]。

圖像先驗屬性針對強化空間平滑程度操作有著重要意義，而強化空間平滑度是圖像處理應用的關鍵問題[6]。圖像處理應用包括圖像恢復、圖像去噪、圖像分割、圖像優(yōu)化等各種問題。在常見概率密度函數框架中，圖像平滑操作是針對圖像先驗特征的具體方法。

本文提出的模型與現有方法有區(qū)別。首先，文本、場景和目標分類均為有監(jiān)督學習問題且相關分割方法也是無監(jiān)督性質;同時，在現有科研成果來看，針對隱狄利克雷分布(Latent Dirichlet Allocation, LDA)參數估計通常是由變分推理或者簡化Logistic模型來完成。本文提出的改進模型優(yōu)點是在E-step步驟中可表示在密閉形式上，也明確說明本文模型假設改進空間約束貝葉斯網絡模型的概率向量具體比例。通過期望最大化(Expectation Maximization, EM)算法的推理將執(zhí)行LDA參數的多項式方程，因此，密閉形式M-step步驟所得參數能夠滿足概率約束所需條件。

1 空間變化有限混合模型

(1)

假定像素點位置xi的標準有限混合模型概率密度函數可以表示為式(2)形式:

(2)

φ(xi|θj)的高斯分布參數是θj= {μj,Σj}，其中μj=(μj,1,μj,2,…,μj,L)是平均矢量，Σj是L維高斯分布的協(xié)方差矩陣，Π可定義為隨機變量和Θ參數。

空間變化有限混合模型使用先驗密度分布p(Π)的隨機變量Π，因此，X表示該組像素點的特征向量{xi}，當i=1,2，…,N時，本文假設像素點是獨立統(tǒng)計，應用貝葉斯模型條件，將所得后驗概率密度函數由式(3)計算：

(3)

根據密度對數函數，可推導出式(4):

(4)

p(Π)是Gauss-Markov隨機域[8]表達的典型實例，具體形式如式(5)所示:

(5)

因為參數βj可獲取集群數據的空間平滑性和執(zhí)行不同平滑度，所以在每個集群數據上都找到j以便適應數據模型。

SVFMM空間變化模型具體如圖1所示。在標準FMM模型中，對于給定的像素點特征向量x取決于離散隱變量z來表示混合部分，最終生成特征向量x。如果zj=1，像素點x則屬于j類。在這種情況下，對于給定類混合比例屬于該類別像素點百分比。在SVFMM情況下，每個像素點i都有自身固定混合比例πi，稱為像素點標簽概率。這些上下文混合比例均由平滑先驗知識來執(zhí)行空間約束。

圖1 空間變化有限混合模型

最大后驗概率(Maximum A Posteriori, MAP)估計模型參數估計的EM算法[9]需要在E-step迭代步長t計算隱變量的條件期望值，具體如式(6)所示：

(6)

在M-step步驟中，考慮到完整數據是隱變量的線性似然對數，那么完整數據的最大化對數似然估計模型參數如式(7)所示:

(7)

式(7)中的函數Q(·)能夠針對每個參數執(zhí)行獨立最大化操作，并提供以下在t+1步驟的混合模型參數。

(8)

(9)

2 改進空間約束貝葉斯網絡模型

為了克服SVFMM算法局限性，本章提出改進空間約束貝葉斯網絡模型。本改進空間約束貝葉斯網絡模型依據LDA，基于上層分布混合結構來提出圖像分割上下文混合模型Π。LDA是多項式形式，概率向量πi的相關參數是由LDA分布產生[5]。相似先驗知識已經在改進空間的上下文約束條件中提出，其中LDA參數估計通過迭代梯度下降來進行方法優(yōu)化[7]。此外，空間平滑通過隱Dirichlet分布參數的方程形式以密閉形式計算實施具有真正非負解。

假設生成圖像模型為了產生第i個像素點以求達到第j個組件目的，實現LDA過程，因此，式(6)的隱變量zi具有第j個分量。在這種情況下，后驗概率混合模型結構可表述為式(10)形式：

(10)

考慮LDA實現過程(M=1)與Γ(x+1)=xΓ(x)，式(10)中標簽的第i個像素點概率可改寫成為式(11)：

(11)

新型模型有可能通過引入LDA分布參數A達到空間變化目標。假設高斯-馬爾可夫隨機域來估計閉合形式具體參數[8]。

(12)

已有先驗知識主要特征是為了提供更好的先期適應數據，強制每個數據簇中擁有不同程度的平滑程度。

圖2代表這種分層辦法提出的圖形模型。本文參考LDA分布的空間變化有限混合模型(LDA-SVFMM)模型，LDA-SVFMM產生圖像模型工作原理如下：首先產生樣本ξ(概率向量)使用LDA分布相關參數，從而獲得多項式分布參數ξ。隱變量z表示觀察點類的x變量，它是用ξ參數進行多項式計算所得結果。LDA分布空間參數的約束平滑條件α需要根據標準化SVFMM算法執(zhí)行。

圖2 LDA上下文混合模型

3 MAP-EMM方法

本文模型主要思想是在最大后驗概率(Maximum A Prior, MAP)算法上應用EM方法。應用式(12)中的Gauss-Markov參數A產生下面所提MAP函數，以最大化EM算法的M-step目標。關于參數A，本文給出定義如下：

(13)

(14)

(15)

本文MAP-EMM算法的具體過程如下所述：

步驟1 初始化算法參數和LDA分布向量參數αi。

步驟2 應用式(13)計算MAP函數：

步驟2.2 (M-Step)：

步驟2.2.1 應用式(8)計算改進空間約束貝葉斯網絡模型參數；

步驟2.2.2 應用式(14)所得非負解針對LDA分布參數進行替換；

步驟2.2.3 通過像素點標簽替換像素點已有概率參數；

步驟2.2.4 應用式(15)計算像素點標簽參數。

步驟3 直至MAP函數收縮至無窮小范圍，算法自動達到結束條件。

4 實驗結果與分析

本文實驗環(huán)境為Matlab2014b，圖像大小是256×256。本文針對MAP-EMM改進算法的迭代次數和初始化隨機生成條件，確保提供對數似然函數的最大值。這里考慮EM算法結束條件準則是收斂定義成在式(4)的對數似然變化的百分比在兩個連續(xù)迭代次數之間小于0.001%。

HAIMER位于德國Igenhausen市，是一家中型家族企業(yè)，研發(fā)和生產革命性的超高精度工具。其產品主要有高精度動平衡刀柄、刀具專用動平衡機、刀柄熱縮機、3D尋邊器及對中儀等。2009年，HAIMER于上海成立中國總部，全面負責中國大陸的市場推廣、產品應用以及售后服務。

為了驗證MAP-EMM改進算法提出的先驗LDA的必要性，針對SVFMM[7]提出在不同復雜程度下的相同分段圖像分割的具體實例。經過實驗證明，在人工圖像和自然圖像中，高斯噪聲對于MAP-EMM改進算法的魯棒性影響很小。

本文針對MAP-EMM改進算法在Berkeley圖像數據庫的300張圖像中進行圖像分割[6]。本文MAP-EMM改進算法與JSEG[10]、MAP-ML(MM)[3]、CTM[5]進行效果比較。

應用標準濾波器進行特征描述，在最近文獻中的紋理描述主要方法包括Blobworld特征[11]和MRF特征[12]。Blobworld特征通過生成六維顏色矢量和紋理信息數據的過程關鍵特點是正確估計紋理規(guī)模。MRF特征只應用于PCA進行降維操作，其次是像素點終止窗口的向量化操作。

圖3(a)～(d)和圖4(a)～(d)展示本文方法和其他三種方法分割300幅Berkeley圖像數據庫部分圖像的結果比較。從中可得，本文方法分割結果中，噪聲區(qū)域比較少，邊界保持較好；其次，從本文方法和MM分割結果的比較可見，兩種方法都采用了圖像優(yōu)化方法，分割結果的邊界保持較好(如圖3中MM的分割結果第1～3及第5行)，但圖像的標簽數量對分割結果影響較大，盡管MM在分割過程中能夠根據能力的變換自動調整標簽數，但容易造成過分割或欠分割。

對比其他方法，JSTG能夠得到較為同質的區(qū)域，但已得到過分割結果，并且不能很好地區(qū)分視覺差異不明顯區(qū)域。CTM采用基于超像素的區(qū)域合并策略對圖像進行分割，從圖3和圖4可見，其分割結果邊界不光滑、錯位，采用的最小描述長度準則并不能較好地適應Berkeley數據庫300幅圖像，造成過分割或欠分割現象。

圖3 四種方法分割簡單紋理圖像的比較結果

圖4 四種方法分割復雜紋理圖像的比較結果

為了更好評價各比較方法的分割性能，采用四個常用評價指標函數：PRI(ProbabilisticRandIndex)、VoI(VariationofInformation)、GCE(GlobalConsistencyError)和BDE(BoundaryDisplacementError)對分割結果進行評價。其中:PRI是統(tǒng)計機器分割和多個人工分割之間標簽一致的像素對的個數占整個像素對個數的比率；VoI則把機器分割和人工分割之間的距離定義為在給定人工分割的條件下機器分割的平均條件熵，它能夠測量機器分割中不能被人工分割所解釋的隨機性的量；GCE測量一個分割可被看作為另外一個分割的程度；BDE則是測量兩個分割結果中邊界像素的平均位移誤差。量化結果中PRI值越大，VoI、GCE和BED值越小，則機器分割結果與人工分割結果越接近。

表1給出了4種方法分割300幅圖像的結果在評價指標上的量化分析。可見，本文方法在PRI、VoI、GCE指標上優(yōu)于其他3種方法，在BDE指標上僅次于CTM，相對于JSEG、MM和CTM，本文方法的分割結果更加接近于人工分割結果。

表1 4種方法分割性能比較

5 結語

本文根據貝葉斯理論和空間分層建模約束混合模型提出MAP-EMM改進算法。本文模型應用LDA概率密度模型和高斯—馬爾可夫定理的隨機域參數混合過程來實現參數平滑。本文方法根據空間信息先驗平滑變換操作，在待處理像素點的上下文混合結構中引入LDA符合多項式分布，從而用來替換傳統(tǒng)期望最大化算法中映射操作。本文仿真結果對比圖顯示空間變化的混合模型性能方面比采用投影步驟的混合結構約束方法有很大改進。

)

[1]MAY,DERKSENH,HONGW,etal.Segmentationofmultivariatemixeddatavialossydatacodingandcompression[J].IEEETransactionsonPatternAnalysisandMachineIntelligence, 2007, 29(9): 1546-1562.

[2]TAYLORCJ.Towardfastandaccuratesegmentation[C]//Proceedingsofthe2013IEEEConferenceonComputerVisionandPatternRecognition.Washington,DC:IEEEComputerSociety, 2013: 1916-1922.

[3]GREENSPANH,DVIRG,RUBNERY.Context-dependentsegmentationandmatchinginimagedatabases[J].ComputerVisionandImageUnderstand, 2004, 93(1): 86-109.

[4]BOYKOVY,VEKSLERO,ZABIHR.Fastapproximateenergyminimizationviagraphcuts[J].IEEETransactionsonPatternAnalysisandMachineIntelligence, 2001, 23(11): 1222-1239.

[5]BLEIDM,NGAY,JORDANMI.LatentDirichletallocation[J].JournalofMachineLearningResearch, 2013, 3: 993-1022.

[6]MARTIND,FOWLKESC,TALD,etal.Adatabaseofhumansegmentednaturalimagesanditsapplicationtoevaluatingsegmentationalgorithmsandmeasuringecologicalstatistics[EB/OL]. [2016- 01- 08].http://vision.ics.uci.edu/papers/MartinFTM_ICCV_2001/MartinFTM_ICCV_2001.pdf.

[7]MADSENR,KAUCHAKD,ELKANC.ModelingwordburstinessusingtheDirichletdistribution[C]//Proceedingsofthe22ndInternationalConferenceonMachineLearning.NewYork:ACM, 2005: 545-552.

[8] NIKOU C, GALATSANOS N P, LIKAS A C. A class-adaptive spatially variant mixture model for image segmentation [J]. IEEE Transactions on Image Processing, 2007, 16(4): 1121-1130.

[9] BLEKAS K, LIKAS A, GALATSANOS N P, et al. A spatially constrained mixture model for image segmentation [J]. IEEE Transactions on Neural Networks, 2005, 16(2): 494-498.

[10] ARBELAEZ P, MAIRE M, FOWLKES C, et al. Contour detection and hierarchical image segmentation [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2011, 33(5): 898-916.

[11] CARSON C, BELONGIE S, GREENSPAN H, et al. Blobworld: image segmentation using expectation maximization and its application to image querying [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2002, 24(8): 1026-1038.

[12] 周良芬,何建農.基于GrabCut改進的圖像分割算法[J].計算機應用,2013,33(1):49-52.(ZHOU L F, HE J N. Improved image segmentation algorithm based on GrabCut [J]. Journal of Computer Applications, 2013, 33(1): 49-52.)

[13] 楊明川,呂學斌,周群彪.不完全K-means聚類與分類優(yōu)化結合的圖像分割算法[J].計算機應用,2012,32(1):248-251.(YANG M C, LYU X B, ZHOU Q B. Image segmentation algorithm based on incomplete K-means clustering and category optimization [J]. Journal of Computer Applications , 2012, 32(1): 248-251.)

This work is partially supported by the National Natural Science Foundation of China (61402192), the Key Laboratory of Trusted Cloud Computing and Big Data Analysis.

ZHANG Haiyan, born in 1980, lecturer. Her research interests include image processing.

GAO Shangbing, born in 1981, Ph. D., associate professor. His research interests include pattern recognition, image processing.

Application of improved spatially constrained Bayesian network model to image segmentation

ZHANG Haiyan1,2*, GAO Shangbing1,3

(1.FacultyofComputerandSoftwareEngineering,HuaiyinInstituteofTechnology,Huai’anJiangsu223003,China; 2.JiangsuProvincialInternetofThingsTechnologyEngineeringLaboratory(HuaiyinInstituteofTechnology),Huai’anJiangsu223003,China; 3.KeyLaboratoryofTrustedCloudComputingandBigDataAnalysis,NanjingXiaozhuangUniversity,NanjingJiangsu211171,China;)

Aiming at the problem of iterative convergence of Markov chain Monte Carlo method, an improved spatially constrained Bayesian network model was proposed and applied in the image segmentation domain based on the Gaussian mixture model with spatial smoothing constraint. Latent Dirichlet Allocation (LDA) probability density model and the parameter mix process of Gauss-Markov theorem were used to achieve parameter smoothing. According to the spatial information transcendental transformation operation, the LDA conformance polynomial distribution was introduced into the context hybrid structure of the pixel to be used to replace the mapping operation in the traditional expectation maximization algorithm. LDA parameters were represented by a closed form, which facilitated to accurately estimate the relative proportion of MAP (Maximum A Posteriori) framework to context mixture structure. The experimental results in terms of PRI (Probabilistic Rand Index), VoI (Variation of Information), GCE (Global Consistency Error) and BDE (Boundary Displacement Error) show that the proposed method has better effect in image segmentation, its robustness is less influenced by Gauss noise compared with JSEG (Joint Systems Engineering Group), CTM (Current Transformation Matrix) and MM (Maximum A Posteriori Probability-Maximum Likelihood).

Latent Dirichlet Allocation (LDA); Expectation Maximization (EM) method; Bayesian model; Gaussian Mixture Model (GMM); image segmentation

2016- 09- 05;

2016- 10- 24。

國家自然科學基金資助項目(61402192)；可信云計算與大數據分析重點實驗室資助項目。

張海艷(1980—)，女，江蘇淮安人，講師，主要研究方向：圖像處理； 高尚兵(1981—)，男，江蘇淮安人，副教授，博士，主要研究方向：模式識別、圖像處理。

1001- 9081(2017)03- 0823- 04

10.11772/j.issn.1001- 9081.2017.03.823

TP391.413

A