王理峰,朱道元(.南京鐵道職業(yè)技術(shù)學(xué)院 社科部,南京003;.東南大學(xué) 數(shù)學(xué)系,南京 0096)
二次損失下帶約束的增長(zhǎng)曲線模型的Minimax估計(jì)
王理峰1,朱道元2
(1.南京鐵道職業(yè)技術(shù)學(xué)院 社科部,南京210031;2.東南大學(xué) 數(shù)學(xué)系,南京 210096)
文章對(duì)于帶橢球約束的增長(zhǎng)曲線模型,在二次損失函數(shù)下給出回歸系數(shù)在線性估計(jì)類中的Mini?max估計(jì),證明該估計(jì)是壓縮有偏、可容許估計(jì)。在一些特殊的情形下,該估計(jì)包括了增長(zhǎng)曲線功效嶺回歸估計(jì)、多元線性Minimax估計(jì)等。
增長(zhǎng)曲線模型;Minimax估計(jì);二次損失函數(shù);橢球約束
Minimax估計(jì)是一類重要的估計(jì),它使極大風(fēng)險(xiǎn)極小化,是避免損失的一種選擇,因此在實(shí)際生活中有重要的用途。用Minimax原理來估計(jì)模型的回歸系數(shù)最早由Kuks和Olman(1971,1972)提出,之后有許多學(xué)者用這種原理來研究模型的估計(jì)和預(yù)測(cè)問題。Minimax估計(jì)與損失函數(shù)和所考慮的估計(jì)類有關(guān),主要是在矩陣損失與二次損失函數(shù)下,在齊次線性估計(jì)類和非齊次線性估計(jì)類中展開的。但實(shí)際應(yīng)用中總是對(duì)參數(shù)有或多或少的認(rèn)識(shí),會(huì)得到一些約束條件。譚萄[1]和高婷婷[2]給出了帶等式約束的多元回歸系數(shù)線性估計(jì)在齊次線性估計(jì)類中的Minimax估計(jì)。周明華[3]在矩陣損失函數(shù)下,研究帶橢球約束的增長(zhǎng)曲線模型中回歸系數(shù)的線性Minimax估計(jì)。HelgeBlaker[4]討論二次損失下帶約束的線性回歸模型的線性Minimax估計(jì)。橢球約束下增長(zhǎng)曲線模型的Minimax估計(jì)并不能通過拉直后利用HelgeBlaker的結(jié)論得到。本文將研究二次損失下帶橢球約束的增長(zhǎng)曲線的Minimax估計(jì),一定意義上這也是將HelgeBlaker的主要結(jié)果推廣到了增長(zhǎng)曲線情形。
為了計(jì)算方便,將介紹幾個(gè)符號(hào)及引理:
符號(hào)1[5]:a∨b=max(a,b),a∧b=min(a,b),x+=max(x,0)
若A為n×n階對(duì)稱矩陣,有譜分解A=PDP',其中P為n×n階正à陣,D為對(duì)角陣,其對(duì)角元記為di,i=1,2,…,n。定義 A+=PD+P′,其中 D+=diag((d1∨0),…(di∨0),…(dn∨0))。
引理1[5]:A?(B1+B2)=A?B1+A?B2,(A1?B1)(A2?B2)=(A1A2)?(B1B2),tr(A?B)=trA·trB
引理2[5]:E(xAx)=u'Au+tr(AΣ),其中Ex=u,var(x)=Σ。
證明:參見文獻(xiàn)[5]
引理4:對(duì)于線性模型y=Xβ+e,E(e)=0,cov(e)=σ2∑,∑>0。若rk(Xn×p)=p,則?~Cβ?A(X'∑-1X)-1A'≤A(X'∑-1X)-1C'
證明:參見文獻(xiàn)[5]
本文采用的二次損失函數(shù)為L(zhǎng)(B?,B,A)=tr(B?-B)'A (B?-B),A為 p×p階正定陣,其相應(yīng)的風(fēng)險(xiǎn)函數(shù)為EL(B?,B,A)。
其中Y為n×q階觀測(cè)矩陣,X1,X2為n×p,t×q階設(shè)計(jì)矩陣且rk(X1)=p,rk(X2)=t。E=(e1…eq)為n×q階誤差矩陣,W=(wij)為已知的q階非零非負(fù)定陣。B為 p×t階未知參數(shù)矩陣,滿足橢球約束tr(X2'B'X1'FX1BX2)≤ρ,其中F為n×n階非負(fù)定陣。記≤ρ},模型(1)的最小二乘估計(jì)為:
1.1 增長(zhǎng)曲線模型典則化
增長(zhǎng)曲線模型的估計(jì)問題,在典則形式下變的易理解。下面將把模型(1)化為典則形式。
對(duì)X1進(jìn)行奇異值分解,其中U1、V1分別為n×n、p×p階正à陣,為n×p階矩陣。的(i,i)元為,其余位置為0,則:其中的非零特征根,其中
同理對(duì)X2進(jìn)行奇異值分解U2、V2分別為t×t、q×q階正à陣,為t×q階矩陣,的(i,i)元為其余位置為0,則其中為的非零特征根,其中
模型(2)的最小二乘估計(jì)為:
1.2 將模型進(jìn)一步簡(jiǎn)化處理
為使tr(B'X'FXB)、L(?,B,A)能化為簡(jiǎn)潔形式,須規(guī)定A、F、W滿足條件1:
估計(jì)R只需考慮模型(3)即可,而模型中D1,D2為對(duì)角陣,這樣問題就變得簡(jiǎn)潔,易求。將模型(3)拉直得:
參數(shù)約束空間可簡(jiǎn)化為:
損失函數(shù)可簡(jiǎn)化為:
對(duì)于模型(3)有:
定理1:將模型(3)寫成元素形式為:
則模型(3)的Minima風(fēng)險(xiǎn)為:
其中?表示所有p×p階矩陣組成的類,τ表示所有t×t階矩陣組成的類,
證明:(1)首先證明使極大風(fēng)險(xiǎn)極小化的K,L是對(duì)角矩陣,本文利用Speckman[6]的思路來討論。記KL的 (i,j)元為
取R滿足:i≠m,j≠n時(shí),rij=0。則:
所以:
當(dāng)且僅當(dāng)矩陣K,L為對(duì)角陣時(shí)上面等號(hào)成立。即證明了使極大風(fēng)險(xiǎn)極小化的矩陣K,L是對(duì)角陣。
顯然ν2在約束條件邊界上達(dá)到。下面利用Lagrange乘子法求ν2:
對(duì)于 h>0,i=1,…,p, j=1,…,t,記 G(R,h)=則
當(dāng)kilj=(kilj)*,i=1,…,p,j=1,…,t時(shí),上面不等式仍成立。而:
由上面的不等式及證明中的(1)部分可知:
由定義1知(kilj)*zij為rij的Minimax估計(jì)。即?M,ij= (kilj)*zij,i=1,…,p, j=1,…,t
綜上即證定理。
由上面的定理容易得到本文的主要定理:
定理2:對(duì)于增長(zhǎng)曲線回歸模型(1),B∈Θ={B| tr(X2' B'X1'FX1BX2)≤ρ},F(xiàn)滿足條件1,則 β=νec(B)的線性Minimax估計(jì)為:其中h滿足:
令?表示任意的p×n階矩陣組成的類,τ表示任意的q×t階矩陣組成的類。則線性Minimax估計(jì)的風(fēng)險(xiǎn)為:
證明:由前面的變換知:
則:
由定理1知:
寫成矩陣形式為:
下面證明νecB?M為νecB的線性Minimax估計(jì):為R的線性Minimax估計(jì),由定義1知
綜上即證定理。
增長(zhǎng)曲線Minimax估計(jì)具有以下性質(zhì):
顯然成立。
而β=(V2?V1)r,由引理3知?M是β的可容許估計(jì)。
例2:當(dāng) X2X2'=I時(shí),其中h滿足:其Minimax風(fēng)險(xiǎn)為:
該結(jié)果與文獻(xiàn)[7]所求的多元線性模型的Minimax估計(jì)結(jié)果一致。
[1]譚萄.多元回歸系數(shù)線性估計(jì)的Minimax可容許性[J].廣西師范大學(xué)學(xué)報(bào),2001,19(1).
[2]高婷婷,田麗.矩陣損失下帶約束的多元回歸系數(shù)的Minimax估計(jì)[J].安徽師范大學(xué)學(xué)報(bào)(自然科學(xué)版),2009,32(1).
[3]周明華等.受橢球約束回歸系數(shù)在矩陣損失下的線性Minimax估計(jì)[J].浙江工業(yè)大學(xué)學(xué)報(bào),1998,26(3).
[4]Blaker H.Minimax Estimation in Linear Regression Under Restric?tions[J].Journal of Statistical Planning and Inference,2000,(90).
[5]王松桂.線性模型的理論及其應(yīng)用[M].合肥:安徽科技出版社, 1987.
[6]Speckman P,Spline Smoothing and Optimal Rates of Convergence in Nonparametric Regression Models[J].Annals of Statistics,1985,(13).
[7]王理峰,朱道元.有約束的多元線性回歸模型的Minimax估計(jì)[J].重慶工商大學(xué)學(xué)報(bào)(自然科學(xué)版),2009,26(6).
(責(zé)任編輯/易永生)
O212.1
A
1002-6487(2016)24-0007-05
王理峰(1981—),女,河南平頂山人,碩士,講師,研究方向:多元統(tǒng)計(jì)分析。(通訊作者)朱道元(1947—),男,江蘇揚(yáng)州人,教授,研究方向:多元統(tǒng)計(jì)分析與數(shù)學(xué)建模。