亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        n-元圈圖模型迭代比例擬合算法中的最優(yōu)分劃

        2015-06-12 12:03:36孫聚波徐平峰
        關(guān)鍵詞:分劃高維復(fù)雜度

        孫聚波, 徐平峰

        (長春工業(yè)大學(xué) 基礎(chǔ)科學(xué)學(xué)院,吉林 長春 130012)

        0 引 言

        近年來,針對分類數(shù)據(jù)的特殊統(tǒng)計方法的應(yīng)用日益廣泛,這個現(xiàn)象一定程度上反映了過去幾十年分類數(shù)據(jù)分析方法的發(fā)展。其中,用列聯(lián)表對分類數(shù)據(jù)進行統(tǒng)計分析是一種常用、直觀的方法[1]。

        一般來說,觀測數(shù)據(jù)按兩個或多個屬性分類時所列出的頻數(shù)表即為列聯(lián)表。文中令V表示由分類變量構(gòu)成的集合。對任意的分類變量γ∈V,Xγ表示γ對應(yīng)的有限的水平集。表中的一個格子表示集合XV中的一個點x=(xγ)γ∈V,這里XV=×γ∈VXγ。假設(shè)把n次觀測數(shù)據(jù)按V進行分類,令計數(shù)

        n(x)=落入格子x的觀測頻數(shù)

        p(x)=一個個體落入格子x的概率

        在高維列聯(lián)表中,飽和模型的參數(shù)個數(shù)一般大于樣本個數(shù),不僅統(tǒng)計上無法處理,計算上也不可行。但事實上,很多高維數(shù)據(jù)都具有某種特殊結(jié)構(gòu),并且結(jié)構(gòu)是稀疏的,通??梢杂脠D模型表示。

        1 圖模型及極大似然估計

        1.1 圖模型

        圖模型是圖論、概率論、統(tǒng)計學(xué)等學(xué)科的交叉領(lǐng)域[2-3]。在圖模型中,隨機變量由圖的頂點表示,隨機變量之間有直接關(guān)聯(lián),對應(yīng)的頂點間用邊相連,這樣構(gòu)成一個圖G(V,E),這里V表示頂點集,E表示邊集。相對于圖G滿足馬爾科夫性的概率分布族,即為圖模型,記作P(G)。如此建立的圖模型清晰地表示了條件獨立關(guān)系,從而建立圖與概率分布的對應(yīng)關(guān)系,利用圖的語言表示概率統(tǒng)計相關(guān)問題,并依據(jù)圖論的理論和算法幫助進行概率統(tǒng)計推斷,降低推斷的復(fù)雜度。目前,圖模型被廣泛地應(yīng)用于生物信息學(xué)、統(tǒng)計物理、圖像處理、信息檢索、機器學(xué)習(xí)等各個領(lǐng)域[4]。

        在圖G中,子集c?V,如果c中任意兩個頂點都是相鄰的,則稱子集c是完全的。如果一個完全子集是最大的(相對于包含運算而言),則稱它為一個團。我們用K(G)表示一個圖的所有團構(gòu)成的集合。

        1.2 極大似然估計的IPS算法

        利用圖模型分析高維數(shù)據(jù),求解參數(shù)的極大似然估計是一個非常重要的方面。設(shè)x1,x2,…,xn為來自多項圖模型P(G)的獨立同分布樣本,對于每個x∈XV,x被觀測到的次數(shù)為n(x)。對于團c∈K(G),xc∈Xc=×γ∈cXγ的觀測數(shù)為。于是,似然函數(shù)為

        似然方程為

        對所有的xc∈Xc,c∈K(G)。

        為求解上述似然方程,Deming[5]等給出了迭代比例擬合(IPS)算法,他們先引入一個邊緣調(diào)整算子Ac,對于任意p(xV),任意c∈K(G),令

        其中j=(tmodk)+1。取p(0)∈P(G),則概率p的極大似然估計為

        收斂性的證明見文獻[3]。

        1.3 基于團分劃改進的IPS算法(IPSP算法)

        在圖模型中,IPS算法的復(fù)雜度隨變量個數(shù)的增加呈指數(shù)型增加,求解似然方程的速度變得非常慢。過去十幾年,諸多學(xué)者做了大量工作以降低IPS算法的復(fù)雜度[6-10]。對于多項圖模型,文獻[10]利用團分劃的策略實現(xiàn)局部計算和共享計算,從而改進了IPS算法,給出了基于團分劃改進的IPS算法,即IPSP算法。它先找K(G)的一個分劃W={K1,K2,…,Km},使得K(G)=,且對;對i=1,2,…,m,令Ui=∪c∈Kic,計算,對c∈Ki,進行局部調(diào)整pUi=AcpUi;利用調(diào)整后的邊緣分布pUi恢復(fù)聯(lián)合分布p(xV),詳見文獻[10]。

        在IPSP算法中,給定分劃W,將所有的團都調(diào)整一次,共需加法次;需乘法次;需除法次。其中算法的復(fù)雜程度主要體現(xiàn)在乘法上,常用乘法次數(shù)來度量算法的復(fù)雜度。

        2 n-元圈圖模型的最優(yōu)分劃

        在IPSP算法中,分劃策略影響算法的復(fù)雜度。如何選擇最優(yōu)分劃是一個組合優(yōu)化問題,對于一般的圖模型問題比較復(fù)雜,可采用模擬退火等方法進行求解。下面對于具有特殊結(jié)構(gòu)的n-元圈圖模型給出了最優(yōu)分劃策略,如圖1所示。

        圖1 n-元圈圖模型

        在上面的n-元圈圖G=(V,E)中,頂點集V={1,2,…,n},邊 集E={(1,2),(2,3),…,(n-1,n),(n,1)},每個頂點表示隨機變量Xi,Xi為離散的,且所有Xi的取值個數(shù)相同。其中,團為:ci={i,i+1},i=1,2,…,n-1,cn={n,1},團集K(G)={ci|i=1,2,…,n}。團集的分劃為:W={K1,K2,…,Km},使得,且對i。分劃W的復(fù)雜度函數(shù)為:

        定理1 令W為連續(xù)分劃,|Ki|=ki,n≥6,隨機變量Xi取值個數(shù)皆為定數(shù)a(a≥2),對應(yīng)的復(fù)雜度函數(shù)為:

        證明 由Jensen不等式,有

        我們構(gòu)造函數(shù):

        m≥3時,若下面不等式組成立

        則m≥3時,f關(guān)于m單調(diào)增。下述即證明m≥3時,該不等式組成立。

        我們構(gòu)造函數(shù):

        n為偶數(shù)時,連續(xù)二等分劃復(fù)雜度為:

        解不等式

        整理得:

        易求得對任意n≥6,a≥2,都有上式成立,則對任意分劃W都有

        g(W)≥f(a,n,3)≥n·an/2+1+2·an

        n為奇數(shù)時,連續(xù)二等分劃復(fù)雜度為:

        解不等式

        整理得

        構(gòu)造函數(shù)

        解不等式組

        將t(2,n)≥0整理為:

        求得n≥7,滿足該不等式。

        成立。

        綜上,無論n為偶數(shù)還是奇數(shù),對任意n≥6,a≥2,任意連續(xù)分劃中二等連續(xù)分劃最優(yōu)。

        3 結(jié) 語

        給出并證明了隨機變量的取值個數(shù)相等時,n-元圈圖模型中IPSP算法的最優(yōu)分劃為連續(xù)二等分劃。那么若隨機變量的取值不一定相同時,其最優(yōu)分劃是否仍為連續(xù)二等分劃,對于結(jié)構(gòu)一般的圖模型,IPSP算法的最優(yōu)分劃是否也為連續(xù)二等分劃呢,這都是尚未解決的問題。作者旨在拋磚引玉,以待更多人關(guān)注和研究。

        [1] Agresti A.屬性數(shù)據(jù)分析引論[M].張淑梅,王睿,曾莉,譯.2版.北京:高等教育出版社,2008.

        [2] 王曉飛.圖模型的結(jié)構(gòu)、分解和可壓縮性[D].長春:東北師范大學(xué)數(shù)學(xué)與統(tǒng)計學(xué)院,2010.

        [3] Lauritzen S L.Lectures on Contingency Tables[EB/OL].(2002-05-28)[2015-03-20].http://www.stats.ox.ac.uk/~steffen/papers/cont.pdf.

        [4] Wainwright M J,Jordan M I.Graphical models,exponential families,and variational inference[J].Foundations and Trends in Machine Learning,2008,1(1/2):1-305.

        [5] Deming W E,Stephan F F.On a least squares adjustment of a sampled frequency table when the expected marginal totals are known[J].The Annals of Mathematical Statistics,1940,11(4):427-444.

        [6] Jirousek R,Preucil S.On the effective implementation of the iterative proportional fitting procedure[J].Computational Statistics and Data Analysis,1995,19(2):177-189.

        [7] Badsberg J H,Malvestuto F M.An implementation of the iterative proportional fitting procedure by propagation trees[J].Computational Statistics and Data Analysis,2001,37(3):297-322.

        [8] Teh Y W,Welling M.On Improving the efficiency of the Iterative proportional fitting procedure[J].In Proceedings of the Ninth International Conference on Artificial Intelligence and Statistics,Key West,F(xiàn)L,2003,34(6):231-240.

        [9] Xu P F,Guo J H,Tang M L.A localized implementation of the iterative proportional scaling procedure for Gaussian graphical models[J].Journal of Computational and Graphical Statistics,2015,24(1):205-229.

        [10] Xu P F,Sun J,Shan N.Local computations of the iterative proportional scaling procedure for hierarchical models[J].Submitted to Computational Statistics Data Analysis,2015,16(2):195-199.

        猜你喜歡
        分劃高維復(fù)雜度
        R1上莫朗測度關(guān)于幾何平均誤差的最優(yōu)Vornoi分劃
        一種低復(fù)雜度的慣性/GNSS矢量深組合方法
        一種改進的GP-CLIQUE自適應(yīng)高維子空間聚類算法
        基于加權(quán)自學(xué)習(xí)散列的高維數(shù)據(jù)最近鄰查詢算法
        求圖上廣探樹的時間復(fù)雜度
        巧用分劃板測望遠鏡的放大率
        某雷達導(dǎo)51 頭中心控制軟件圈復(fù)雜度分析與改進
        非絕對型Henstock 積分與Riemann-Stieltjes 積分之關(guān)系
        一般非齊次非線性擴散方程的等價變換和高維不變子空間
        出口技術(shù)復(fù)雜度研究回顧與評述
        亚洲av无码一区二区三区乱子伦| 国内偷拍第一视频第一视频区| 亚洲精品一区二区网站| 免费国产黄网站在线观看视频| 摸进她的内裤里疯狂揉她动视频 | 激情另类小说区图片区视频区| 亚洲日产国无码| 亚洲黄色av一区二区三区| 国产偷国产偷精品高清尤物| 人禽无码视频在线观看| 日韩av在线不卡一区二区三区| 亚洲女厕偷拍一区二区| 欧美成人猛交69| 欧美aⅴ在线| 国产大全一区二区三区| 国产网站一区二区三区| 国产精品夜间视频香蕉| 欧美精品一区二区精品久久| 一区二区日本免费观看| 伊人久久大香线蕉av色婷婷色| 久久人人爽人人爽人人片av麻烦| 欧美日韩高清一本大道免费| 少妇被粗大的猛进69视频| 97精品国产一区二区三区| 亚洲日韩乱码中文无码蜜桃臀| 日韩一区二区三区中文字幕| 日本一本一道久久香蕉男人的天堂| 在线成人爽a毛片免费软件| 欧洲中文字幕| 国产偷拍自拍在线观看| 亚洲午夜av久久久精品影院色戒| 内射精品无码中文字幕| 日日噜噜噜夜夜爽爽狠狠视频| 蜜桃免费一区二区三区| 五月综合激情婷婷六月色窝| 久久久久亚洲精品天堂| 亚洲永久精品日韩成人av| 亚洲av无一区二区三区久久| 可以免费观看的毛片| 亚洲国产都市一区二区| 在线观看人成视频免费|