趙 健
(1. 中南財經政法大學 統(tǒng)計與數學學院,湖北 武漢 430074;2. 黃淮學院 經濟管理系,河南 駐馬店 463000)
計量經濟學模型的貝葉斯估計
——以經典單方程為例
趙 健1,2
(1. 中南財經政法大學 統(tǒng)計與數學學院,湖北 武漢 430074;2. 黃淮學院 經濟管理系,河南 駐馬店 463000)
文章以正態(tài)線性單方程為例,介紹了貝葉斯統(tǒng)計方法在計量經濟學模型中的應用,并分析了該問題中貝葉斯估計與普通最小二乘估計的區(qū)別和聯系.
貝葉斯估計;貝葉斯定理;損失函數
貝葉斯統(tǒng)計是由T. R. Bayes于19世紀創(chuàng)立的數理統(tǒng)計的一個重要分支.20世紀50年代,以H. Robins為代表的學者將經驗貝葉斯方法用于計量經濟學模型并與經典方法相結合,此后這種方法得到了廣泛應用.貝葉斯估計對經典計量經濟學模型估計方法的擴展在于它不僅利用樣本信息,同時也利用非樣本信息.本文以正態(tài)線性單方程為例,分析貝葉斯估計方法在計量經濟學模型中的應用.
貝葉斯估計是與經典估計方法相對的一種估計方法,它的基本思路是:要估計的模型參數是服從一定分布的隨機變量,先根據經驗給出待估參數的先驗分布信息——先驗信息,然后將這些先驗信息與樣本信息相結合,應用貝葉斯定理求出待估參數的后驗分布,再應用損失函數得出后驗分布的一些特征值并將其作為待估參數的估計量.貝葉斯估計與傳統(tǒng)估計方法的不同之處在于:
1)關于參數的觀點不同.經典估計方法認為待估參數θ∈Θ具有確定性;貝葉斯估計方法認為待估參數θ具有隨機性,即在具體進行觀測(得到樣本x)之前人們根據經驗對參數θ積累了一些知識,雖然θ的具體值未知,但它服從Θ上的概率分布f()θ( f()θ稱為θ的先驗分布).
2)利用的信息不同.經典方法只利用樣本信息;貝葉斯方法要求事先提供一個參數的先驗信息(一般根據專家經驗提供)即非樣本信息,在參數估計過程中,這些非樣本信息與樣本信息一起被利用.
3)對隨機誤差項的要求不同.經典方法中,除了最大似然法,在參數估計過程中并不要求知道隨機誤差項的具體分布形式,但在假設檢驗與區(qū)間估計時是需要的;貝葉斯方法需要知道隨機誤差項的具體分布形式.
4)選擇參數估計量的準則不同.經典方法一般以最小二乘和最大似然為準則求參數估計量;貝葉斯方法需要構造一個損失函數(一般采用二次損失函數),并以損失函數最小化為準則求參數估計量.
1.1 貝葉斯統(tǒng)計方法的理論基礎
定理1 設 A1,A2,…,An,… 是一完備事件組,則對P(B)> 0的任一事件B,有
(1)式稱為貝葉斯公式,其中: P(Ai)和分別稱為原因的先驗概率和后驗概率,i=1,2,… .P(Ai)是在不知道事件B是否發(fā)生情況下諸事件發(fā)生的概率,在獲得新的信息后(事件B發(fā)生后)人們對諸事件發(fā)生的概率就有了新的估計.
定理2 設θ為待估參數,θ的先驗分布為g(θ),X為樣本觀測信息,X的密度函數記作為θ的后驗分布密度函數,則有即后驗信息正比于樣本信息與先驗信息的乘積.
例 設 X ~ N(θ,σ2),σ2已知,θ ~ N(μ,τ2)(先驗分布),μ和 τ2已知,求θ的后驗分布、數學期望和方差.
解:由題意知
1.2 損失函數
常用的損失函數有線性函數和二次函數,不同的損失函數得到的參數估計值是不同的.
定理3 設待估函數h(θ)的取值于R1,損失函數為L(θ,d)=λ(θ)[h (θ)?d ]2,0<λ(θ)<∞,θ∈Θ,則當λ(θ)=1時h(θ)的貝葉斯估計為
單方程計量經濟學模型貝葉斯估計的過程如下:
1)確定模型的形式,指出待估參數β.
2)給出待估參數β的先驗分布.β是一個多維向量,需要給出多參數的聯合先驗信息,若無先驗信息,可取β為均勻分布.實際上常用的先驗分布為自然共軛分布,即β的密度函數(先驗信息)、X的密度函數(樣本信息)以及兩者結合后產生的函數(后驗分布)服從同一分布規(guī)律.
3)利用樣本信息修正先驗分布,并利用貝葉斯定理導出β的后驗密度函數.
4)選擇二次損失函數,并利用β的后驗密度函數和定理3進一步推斷出β的點估計.
正態(tài)線性單方程計量經濟學模型為
3.1 有先驗信息的貝葉斯估計
這種情況下,
β的先驗分布為自然共軛分布,即取正態(tài)密度函數
由貝葉斯定理,可得到β的后驗密度函數為
(b是β的OLS估計值),舍去(9)式右邊第二項后將其代入(8)式,則有
3.2 無先驗信息的貝葉斯估計
在待估參數一無所知的情況下,求貝葉斯估計時,一般選取待估參數的先驗分布為(? ∞,+∞)上的均勻分布,且互不相關,于是
這種情況下,β的后驗密度函數仍然呈正態(tài)分布,均值為 b,協方差矩陣為 σ2(X ′X)?1,即
因此,β的貝葉斯估計為b,b是β的OLS估計值.可見,無信息先驗得到的β的貝葉斯估計與樣本信息的OLS估計相同,但是兩者的含義不同.貝葉斯結論中的β是隨機的,而均值b在樣本確定后是固定的;樣本信息的結論中,β是期望值,而b是隨機變量,即有 b ~N (β,σ2(X ′X)?1).
與(15)式相同.
[1] 陳希孺.數理統(tǒng)計引論[M].北京:科學出版社,1997.
[2] 李子奈.高等計量經濟學[M].北京:清華大學出版社,2000.
[3] 李子奈.計量經濟學[M].2版.北京:高等教育出版社,2000.
[4] [美]James O.Berger,Statistical decision theory and Bayesian analysis[M].Springer-Verlag,2ndEdi,1985.
[5] [美]威廉H.格林.經濟計量分析[M].北京:中國社會科學出版社,2000.
〔責任編輯 張繼金〕
Bayesian Estimation of Classical Econometric Linear Model
ZHAO Jian1,2
(1. Zhongnan University of Economic and Law,Wuhan Hubei 430074,China;
2. Huanghuai University,Zhumadian Henan 463000,China)
The application of Bayesian estimation methods are introduced by using normal linear single-equation econometric model as an example. The distinction between Bayesian estimation and ordinary least squares estimation (OLS)of this econometric model are analyzed.
Bayesian estimation; Bayesian theory; loss function
F224.0
A
1006-5261(2010)05-0017-03
2009-12-11
趙?。?977―),女,河南新野人,講師,博士研究生.