李 娜 于曉要
(商丘工學(xué)院基礎(chǔ)教學(xué)部,河南 商丘 476000)
在數(shù)理統(tǒng)計(jì)中,參數(shù)估計(jì)是統(tǒng)計(jì)推斷的基本問(wèn)題之一.當(dāng)總體的分布類(lèi)型已知,但含有一個(gè)或多個(gè)未知參數(shù)時(shí),如何求出未知參數(shù)的估計(jì)值或估計(jì)出未知參數(shù)的取值范圍的一類(lèi)問(wèn)題,即是參數(shù)估計(jì)問(wèn)題.參數(shù)估計(jì)一般有兩種形式:其一是通過(guò)總體的一組樣本X1,X2,… ,Xn所提供的信息,來(lái)求出未知參數(shù)θ的估計(jì)值,這就是一類(lèi)點(diǎn)估計(jì)問(wèn)題;其二是通過(guò)樣本尋求一個(gè)區(qū)間使它有一定的把握包含被估的參數(shù),此類(lèi)即為區(qū)間估計(jì)問(wèn)題.求點(diǎn)估計(jì)的方法很多,最常用的是矩估計(jì)法與最大似然估計(jì)法.本文介紹最大似然估計(jì)法的基本思想及其應(yīng)用.
最大似然估計(jì)法是參數(shù)點(diǎn)估計(jì)中一種重要方法,它的思想是由著名數(shù)學(xué)家高斯提出,后被統(tǒng)計(jì)學(xué)家費(fèi)希爾(R.A.Figher)于1912年在一項(xiàng)工作中應(yīng)用并得到證明.
最大似然估計(jì)法的直觀(guān)想法是:在條件未知的隨機(jī)試驗(yàn)中,如果某事件已經(jīng)發(fā)生,則根據(jù)事件發(fā)生的概率最大原則去推斷試驗(yàn)條件。即:在已經(jīng)得到試驗(yàn)結(jié)果的條件下,應(yīng)該尋找使這個(gè)結(jié)果出現(xiàn)的概率最大的那個(gè)估計(jì)作為總體未知參數(shù)的估計(jì)。
若總體X屬離散型,其分布律P{X=x}=p(x;θ),θ∈Θ的形式為已知,θ為待估參數(shù),Θ是θ可能取值范圍.設(shè)X1,X2,… ,Xn為來(lái)自總體X樣本,則X1,X2,… ,Xn的聯(lián)合分布律為
又設(shè)x1,x2,… ,xn是相應(yīng)于樣本X1,X2,… ,Xn的一個(gè)樣本值.易知樣本取到觀(guān)察值x1,x2,… ,xn的概率,亦即事件發(fā)生的概率為
這一概率隨θ的取值而變化,它是θ的函數(shù),L(θ)稱(chēng)為樣本的似然函數(shù)(這里x1,x2,… ,xn是已知的樣本值,它們都是常數(shù)).
若總體X屬連續(xù)型,其概率密度f(wàn)(x;θ),θ∈Θ的形式為已知,θ為待估參數(shù),Θ是θ可能取值范圍.設(shè)X1,X2,… ,Xn為來(lái)自總體X樣本,則的聯(lián)合密度為即為樣本的似然函數(shù)L(θ).
于是求總體參數(shù)θ的最大似然估計(jì)值,就轉(zhuǎn)化為求似然函數(shù)L(θ)的最大值問(wèn)題.因此當(dāng)L(θ)關(guān)于θ可微時(shí),??蓮姆匠探獾?又因L(θ)與lnL(θ)在同一處取到極值,因此,θ的最大似然估計(jì)也可從方程求得,而后一方程求解往往比較簡(jiǎn)便.稱(chēng)為對(duì)數(shù)似然方程.結(jié)合以上分析,我們可得到求最大似然估計(jì)的步驟:
例1 設(shè)總體X服從參數(shù)為λ的泊松分布,其中λ>0為未知參數(shù),是來(lái)自總體X的樣本,求參數(shù)λ的最大似然估計(jì)量.
關(guān)于λ求導(dǎo),并令其為0,即
解得λ的最大似然估計(jì)值,
λ的最大似然估計(jì)量,
最大似然估計(jì)法也適用于分布中含多個(gè)未知參數(shù)θ1,θ2,…,θk的情況.這時(shí),似然函數(shù)L是這些未知參數(shù)的函數(shù).分別令
解上述k個(gè)方程組,即可得到各未知參數(shù)的最大似然估計(jì)值.
例2 設(shè)X~N(μ,σ2),μ,σ2均為未知參數(shù),x1,x2,… ,xn是來(lái)自總體X的樣本值.求μ,σ2的最大似然估計(jì)量.
解X的概率密度為
似然函數(shù)為
最大似然估計(jì)法是參數(shù)點(diǎn)估計(jì)中一種重要方法,它是在已經(jīng)得到試驗(yàn)結(jié)果的條件下, 應(yīng)該尋找使這個(gè)結(jié)果出現(xiàn)的概率最大的那個(gè)參數(shù)值作為總體未知參數(shù)的估計(jì)值.在一定條件下,只要樣本容量足夠大,最大似然估計(jì)與待估的未知參數(shù)的真值可相差任意小,最大似然估計(jì)法是較理想的估計(jì)方法.