武新乾, 張 剛

(河南科技大學(xué) 數(shù)學(xué)與統(tǒng)計(jì)學(xué)院 河南 洛陽 471023)

?

非參數(shù)回歸模型中誤差方差的樣條估計(jì)

武新乾, 張 剛

(河南科技大學(xué) 數(shù)學(xué)與統(tǒng)計(jì)學(xué)院 河南 洛陽 471023)

針對(duì)具有固定設(shè)計(jì)和混合相依誤差的非參數(shù)回歸模型，構(gòu)造了誤差方差的多項(xiàng)式樣條估計(jì)，證明了估計(jì)量的相合性，并且通過模擬算例說明了估計(jì)方法的可行性．

非參數(shù)回歸； 誤差方差； 樣條估計(jì)； 混合； 相合性

0 引言

非參數(shù)方法在回歸建模中具有靈活性，受到了許多學(xué)者的關(guān)注[1-5]．考慮非參數(shù)回歸模型

Yi=m(xi)+εi,i=1,…,n，

(1)

其中，xi=i/n為固定設(shè)計(jì)點(diǎn)，Yi為響應(yīng)變量，m(x)為未知回歸函數(shù)，{εi}是均值為0、方差為σ2的平穩(wěn)序列．

樣條方法是一種常見的非參數(shù)估計(jì)方法．文[6]在φ-混合和α-混合誤差下討論了m(x)的B-樣條估計(jì)的全局收斂性和一致收斂性，類似文獻(xiàn)可參見文[7-10]．作者主要構(gòu)造模型(1)中誤差方差的多項(xiàng)式樣條估計(jì)，在文[6]中的混合誤差條件下證明誤差方差估計(jì)量的相合性,模擬結(jié)果表明了方法的可行性．

1 樣條估計(jì)

首先給出文[6]中回歸函數(shù)m(x)的樣條估計(jì)．記Sk,v表示在區(qū)間[0,1]上具有k+1個(gè)等距結(jié)點(diǎn)(包括兩個(gè)區(qū)間端點(diǎn))的v次樣條函數(shù)空間，其B-樣條基函數(shù)記為Bkt(x) (t=1,…,k+v)．又記K=k+v，(·)′表示向量的轉(zhuǎn)置．令

Bk(x)=(Bk1(x),Bk2(x),…,BkK(x))′，

回歸函數(shù)m(x)的樣條估計(jì)為

(2)

(3)

2 主要結(jié)果

研究估計(jì)量的性質(zhì)需要文[6]中的如下條件：

(ⅱ)k=O(N1/(2p+1))，0

(4)

I1=oP(N-2(r-δ))．

(5)

又

和

這里φn(j)=φ(jN/n)，αn(j)=α(jN/n)．于是有

所以，

I3-σ2=OP(N-1/2)，

(6)

這也說明I3=OP(1)．由于

因此，

I2=oP(N-(r-δ))OP(1)=oP(N-(r-δ))．

(7)

綜合(4)～(7)式可得

即

(8)

3 模擬算例

對(duì)于非參數(shù)回歸模型(1)，選用文[11]中的回歸函數(shù)m(x)=50x3(1-x)3，x∈[0,1].考慮兩種隨機(jī)誤差序列{εi}：(I)εi獨(dú)立同分布并且εi～N(0,0.64);(II)εi=0.5εi-1+ei，{ei}為獨(dú)立同分布序列，且ei～N(0,0.48)．這兩種隨機(jī)誤差序列均滿足定理1的條件，并且它們的方差相同，σ2=Var(εi)=0.64．

選取ε0=0，采用三次B-樣條基函數(shù)構(gòu)造估計(jì)量，并且基于AIC和BIC準(zhǔn)則從1～10之間自動(dòng)選擇k值，其中，

AIC=ln(RSS/n)+2K/n; BIC=ln(RSS/n)+ln(n)·K/n，

(9)

表1 情形(I)下誤差方差σ2的典型估計(jì)及其絕對(duì)誤差Tab.1 Typical estimates of error variance σ2 and their absolute errors under (I)

注：括號(hào)內(nèi)數(shù)據(jù)為絕對(duì)誤差值.

表2 情形(II)下誤差方差σ2的典型估計(jì)及其絕對(duì)誤差Tab.2 Typical estimates of error variance σ2 and their absolute errors under (II)

注：括號(hào)內(nèi)數(shù)據(jù)為絕對(duì)誤差值.

圖1 BIC準(zhǔn)則下誤差方差σ2的樣條估計(jì)的盒形圖Fig.1 Box plots of spline estimates of error variance σ2 under BIC

[1] Robinson P M．Large-sample inference for nonparametric regression with dependent errors [J]．The Annals of Statistics，1997，25 (5)：2054-2083．

[2] Park C G，Kim I，Lee Y S．Error variance estimation via least squares for small sample nonparametric regression [J]．Journal of Statistical Planning and Inference，2012，142 (8)：2369-2385．

[3] Qiu D，Shao Q，Yang L．Efficient inference for autoregressive coefficients in the presence of trends [J]．Journal of Multivariate Analysis，2013，114(2)：40-53．

[4] 孫耀東，徐寶，趙志文．固定設(shè)計(jì)下時(shí)間序列非參數(shù)回歸模型的方差變點(diǎn)檢驗(yàn)[J]．鄭州大學(xué)學(xué)報(bào)：理學(xué)版，2014，46(1)：1-4．

[5] 李佳，李永明．PA誤差下的半?yún)?shù)回歸模型估計(jì)的矩相合性[J]．信陽師范學(xué)院學(xué)報(bào)：自然科學(xué)版，2013，26(1)：23-26．

[6] Burman P．Regression function estimation from dependent observations [J]．Journal of Multivariate Analysis，1991，36 (2)：263-279．

[7] Wahba G．Bayesian “confidence intervals” for the cross-validated smoothing spline [J]．Journal of the Royal Statistical Society: Series B，1983，45(1)：133-150．

[8] Zhou S，Shen X，Wolfe D A．Local asymptotics for regression splines and confidence regions [J]．The Annals of Statistics，1998，26 (5)：1760-1782．

[9] Mao W，Zhao L H．Free-knot polynomial splines with confidence intervals [J]．Journal of the Royal Statistical Society: Series B，2003，65(4)：901-919．

[10]武新乾．線性過程誤差下回歸函數(shù)的樣條估計(jì)[J]．河南科技大學(xué)學(xué)報(bào)：自然科學(xué)版，2010，31(5)：94-97．

[11]Tran L，Roussas G，Yakowitz S，et al．Fixed-design regression for linear time series[J]．The Annals of Statistics，1996，24 (3)：975-991．

(責(zé)任編輯：孔 薇)

Spline Estimate of Error Variance in Nonparametric Regression Models

WU Xin-qian， ZHANG Gang

(SchoolofMathematicsandStatistics,HenanUniversityofScienceandTechnology,Luoyang471023,China)

Nonparametric regression models with fixed design and mixing dependent errors were considered. A polynomial spline estimate of error variance was constructed, and weak consistency of the estimator was proved. Meanwhile, the feasibility of the estimation was illustrated by a simulated example.

nonparametric regression； error variance； spline estimate； mixing； consistency

2015-04-11

國家自然科學(xué)基金資助項(xiàng)目，編號(hào)11326181；河南省國際科技合作計(jì)劃項(xiàng)目，編號(hào)134300510034；河南科技大學(xué)博士科研啟動(dòng)基金資助項(xiàng)目，編號(hào)4010-13480008．

武新乾(1969-)，男，河南中牟人，副教授，博士，主要從事非線性時(shí)間序列分析及應(yīng)用研究，E-mail:wuxinqian1001@163.com．

武新乾,張剛.非參數(shù)回歸模型中誤差方差的樣條估計(jì)[J].鄭州大學(xué)學(xué)報(bào)：理學(xué)版，2015,47(3)：17-20.

O212.7

A

1671-6841(2015)03-0017-04

10.3969/j.issn.1671-6841.2015.03.003