王奉偉，周世健，周　清，陸培鶴

(1.東華理工大學(xué)測繪工程學(xué)院,江西南昌330013；2.流域生態(tài)與地理環(huán)境監(jiān)測國家測繪地理信息局重點(diǎn)實(shí)驗(yàn)室,江西南昌330013；3.南昌航空大學(xué),江西南昌330063)

?

具有LMS穩(wěn)健初值的選權(quán)迭代法

王奉偉1，2，周世健3，周清1，陸培鶴1

(1.東華理工大學(xué)測繪工程學(xué)院,江西南昌330013；2.流域生態(tài)與地理環(huán)境監(jiān)測國家測繪地理信息局重點(diǎn)實(shí)驗(yàn)室,江西南昌330013；3.南昌航空大學(xué),江西南昌330063)

摘要：基于選權(quán)迭代法的基本理論，文中提出先用LMS穩(wěn)健估計(jì)來確定殘差的初值，然后再進(jìn)行選權(quán)迭代方法。其估計(jì)結(jié)果既繼承LMS方法的高失效點(diǎn)(BP)穩(wěn)健性，又具有選權(quán)迭代法的高估計(jì)效率，其計(jì)算結(jié)果與無異常點(diǎn)時(shí)最小二乘估計(jì)結(jié)果基本一致。

關(guān)鍵詞：抗差估計(jì)；LS；異常點(diǎn)；最小中位數(shù)平方LMS；選權(quán)迭代法

在抗差估計(jì)中，最常用的為M估計(jì)法，其估計(jì)計(jì)算方法有很多種，其中選權(quán)迭代法應(yīng)用最廣，計(jì)算簡單，較易理解，是目前數(shù)據(jù)處理中剔除異常點(diǎn)的常用穩(wěn)健估計(jì)方法[1-5]。殘差初值是影響選權(quán)迭代法的粗差探測能力關(guān)鍵因素之一?，F(xiàn)在一般都采用最小二乘法(Least Squares，LS)來確定殘差初值。異常點(diǎn)的多少與最小二乘估計(jì)崩潰直接相關(guān)，導(dǎo)致選權(quán)迭代法抵抗異常點(diǎn)的能力不強(qiáng)，當(dāng)數(shù)據(jù)中存在較多異常點(diǎn)時(shí)比較明顯。具有穩(wěn)健初值的選權(quán)迭代法(L1WI)是用最小一乘法確定殘差初值而非采用最小二乘法。最小一乘法可以抵抗部分Y方向異常，但異常點(diǎn)較多時(shí)，其穩(wěn)健性較差，對(duì)于X方向的異常點(diǎn)其沒有抗差能力[6-7]。最小中位數(shù)平方LMS(Least Median Squares)方法能夠抵抗X，Y方向異常，具有很強(qiáng)的穩(wěn)健性[8-9]。考慮基于LMS的選權(quán)迭代法(LMSWI)可以更有效地提高估計(jì)參數(shù)的精度，文中利用LS、最小一乘法和最小中位數(shù)平方LMS三種方法求解殘差初值，并進(jìn)行選權(quán)迭代，通過比較迭代結(jié)果判斷三種方法的優(yōu)劣性，驗(yàn)證了殘差初值是選權(quán)迭代法的關(guān)鍵性問題，表明具有LMS初值的選權(quán)迭代法具有很強(qiáng)的抗差能力。

1最小中位數(shù)平方LMS原理

(1)

(2)

式中:min為取最小值算子,選擇殘差vmed對(duì)應(yīng)的那組參數(shù)估值為最小中位數(shù)平方抗差估值。

2具有LMS初值的選權(quán)迭代法

最小中位數(shù)平方LMS方法[8]是一類能夠抵抗X,Y兩個(gè)方向異常，具有很強(qiáng)的穩(wěn)健性的方法。所以考慮用LMS方法確定殘差初值，然后進(jìn)行選權(quán)迭代。這種方法具有較高的估計(jì)效率，又保持LMS較高的穩(wěn)健性質(zhì)。

LMS的目標(biāo)函數(shù)不是使所有各點(diǎn)的殘差平方和最小，而是定義為使升序排列的殘差平方中位數(shù)取最小時(shí)的估計(jì)值。其解可通過以下無放回的重復(fù)抽樣算法來實(shí)現(xiàn)：

1)求解重復(fù)抽樣次數(shù)SN。

2)從n個(gè)觀察值中隨機(jī)抽取p+1個(gè)不同的樣本點(diǎn)(p為X變量個(gè)數(shù))，建立參數(shù)估計(jì)模型，得到一個(gè)回歸參數(shù)向量估計(jì)值b。

4)令j=j+1，重復(fù)以上步驟至SN=j，在所得到的SN個(gè)med中取最小值，將此時(shí)對(duì)應(yīng)的b作為β的LMS估計(jì)。

5)根據(jù)IGGIII權(quán)因子函數(shù)確定權(quán)矩陣。

6)計(jì)算加權(quán)最小二乘估計(jì)得到參數(shù)和殘差，確定新的權(quán)陣，進(jìn)行循環(huán)迭代。

7)若前后兩次迭代得到的參數(shù)估計(jì)值βj+1與βj滿足收斂條件|βj+1-βj|≤ε|βj|，ε為事先設(shè)定的精度，就結(jié)束迭代，輸出估計(jì)參數(shù)值β，否則繼續(xù)循環(huán)迭代。

3權(quán)函數(shù)的選取

權(quán)函數(shù)的選取也是選權(quán)迭代法的關(guān)鍵問題，考慮到權(quán)函數(shù)本身具有一定缺陷，不含淘汰段的Humber法、丹麥法減弱了其抗差的能力，不具有正常段的Tukey法、Andrews法減弱了其效率。所以從權(quán)函數(shù)本身而言，選權(quán)迭代法的權(quán)函數(shù)采用包含正常段、可疑段和淘汰段的IGGIII方案,其權(quán)函數(shù)[10-11]為

(3)

式中:Pi是等價(jià)權(quán)陣的第i個(gè)對(duì)角元素；ui是第i個(gè)標(biāo)準(zhǔn)化殘差；k0，k1是預(yù)先確定的參數(shù)。

4實(shí)驗(yàn)與分析

4.1　無異常點(diǎn)數(shù)據(jù)

利用MATLAB程序[12]由模型Y=8-2.1X+e模擬觀測數(shù)據(jù)，取n=25，隨機(jī)誤差e~N(0,0.2)正態(tài)分布。利用LS、LSWI、L1WI和LMSWI 4種方法對(duì)模擬數(shù)據(jù)進(jìn)行參數(shù)估計(jì)，具體結(jié)果見表1和表2。

表1　無異常點(diǎn)時(shí)的模擬數(shù)據(jù)

表2　X與Y方向異常估計(jì)結(jié)果

從表2數(shù)據(jù)處理結(jié)果來看，無異常點(diǎn)時(shí)4種方法的求解參數(shù)精度基本相當(dāng)，LMSWI通過迭代提高LMS參數(shù)估計(jì)的精度和效率，達(dá)到比較令人滿意的水平。

4.2　Y方向異常

利用MATLAB由模型Y=8-2.1X+e模擬觀測數(shù)據(jù)，取n=25，按異常點(diǎn)比例λ確定異常點(diǎn)個(gè)數(shù)nλ。首先根據(jù)模型產(chǎn)生25-nλ個(gè)無異常數(shù)據(jù)，然后在隨機(jī)抽取nλ個(gè)X生成異常點(diǎn)。λ=20%，λ=30%，λ=40%，20%比例異常點(diǎn)模擬數(shù)據(jù)如表3和表4所示。

表3　Y方向20%異常點(diǎn)的模擬數(shù)據(jù)

表4　Y方向異常估計(jì)結(jié)果

結(jié)果表明，當(dāng)數(shù)據(jù)在Y方向存在異常點(diǎn)時(shí)，即使只有20%比例的異常點(diǎn)，LS方法也會(huì)受到很大的影響，但具有三種方法殘差初值的選權(quán)迭代法，異常點(diǎn)比例在30%以內(nèi)時(shí)均能夠有效地抵抗異常點(diǎn)的影響，表明選權(quán)迭代法在剔除異常點(diǎn)方面具有很強(qiáng)的穩(wěn)健性。即使異常點(diǎn)比例達(dá)到40%，L1WI和LMSWI依然可以準(zhǔn)確的估計(jì)出模型參數(shù)，兩者的性能在僅有Y方向異常點(diǎn)時(shí)不相上下，而LSWI的抗差性在大比例異常點(diǎn)存在時(shí)較弱。

4.3　X與Y方向異常

利用MATLAB程序由模型Y=8-2.1X+e模擬觀測數(shù)據(jù)，取n=25，按異常點(diǎn)比例λ確定異常點(diǎn)個(gè)數(shù)nλ。首先根據(jù)模型產(chǎn)生25-nλ個(gè)無異常數(shù)據(jù)，然后在隨機(jī)抽取nλ個(gè)數(shù)據(jù)根據(jù)模型在X和Y均加入異常值生成異常點(diǎn)。λ=20%，λ=30%，λ=40%，40%比例異常點(diǎn)模擬數(shù)據(jù)如表5和表6所示。

表5　X與Y方向40%異常點(diǎn)的模擬數(shù)據(jù)

表6　X與Y方向異常估計(jì)結(jié)果

由表6可知，當(dāng)數(shù)據(jù)中在X和Y方向上均存在異常點(diǎn)時(shí)，LS估計(jì)參數(shù)結(jié)果明顯失真。LSWI和L1WI也會(huì)受到很大的影響，參數(shù)估計(jì)結(jié)果偏離真實(shí)值。而LMSWI則繼續(xù)保持其高穩(wěn)健性和高崩潰點(diǎn)而不受其影響，即使異常點(diǎn)比例高達(dá)40%，該方法估計(jì)參數(shù)結(jié)果依然穩(wěn)定，基本和真值一致。

5結(jié)束語

對(duì)于數(shù)據(jù)處理來說，異常點(diǎn)剔除越來越受到關(guān)注，選權(quán)迭代法是目前剔除異常點(diǎn)最常用的方法之一，而選擇穩(wěn)健的殘差初值是選權(quán)迭代法的關(guān)鍵問題?；谧钚∫怀朔ǖ木€性規(guī)劃法和LS方法相比，其殘差初值具有一定的穩(wěn)健性，但是其對(duì)于X方向異常點(diǎn)無任何抵抗性。但LMS方法可以同時(shí)抵抗X方向和Y方向的多個(gè)異常點(diǎn)，利用LMS方法確定殘差初值，提高選權(quán)迭代法抵抗異常點(diǎn)的能力，使選權(quán)迭代法具有更強(qiáng)穩(wěn)健性。本文實(shí)例計(jì)算結(jié)果很好地驗(yàn)證了具有LMS穩(wěn)健初值的選權(quán)迭代法具有很好的抗差能力和較高的估計(jì)效率。

參考文獻(xiàn)：

[1]周江文.經(jīng)典誤差理論與抗差估計(jì)[J].測繪學(xué)報(bào),1989,18(2):115-120.

[2]李德仁.利用選權(quán)迭代法進(jìn)行粗差探測定位[J].武漢測繪科技大學(xué)學(xué)報(bào),1984,9(1):46-68.

[3]陳西強(qiáng),黃張?jiān)?抗差估計(jì)的選權(quán)迭代法分析與比較[J].測繪工程,2010，19(4):8-11，15.

[4]楊勇喜,賈東振,何秀鳳.基于選權(quán)迭代法的抗差整體最小二乘及其應(yīng)用[J].測繪工程，2014,23(12):56-59，62.

[5]邱衛(wèi)寧,陶本藻,姚宜斌,等.測量數(shù)據(jù)處理理論與方法[M].武漢:武漢大學(xué)出版社,2008.

[6]劉明.最小一乘法與最小二乘法:基于例證的比較[J].統(tǒng)計(jì)與決策,2012(20):12-15.

[7]邱衛(wèi)寧.具有穩(wěn)健初值的選權(quán)迭代法[J].武漢大學(xué)學(xué)報(bào)(信息科學(xué)版),2003,28(4):452-454.

[8]ROUSSEEUW P J.Least median of squares regression[J].Jourmal of the American Stastical Association,1984,79:871-880.

[9]ROUSSEEUW P J,LEROY A M.Robust regression and outlier detection[M].In Wiley Series in probability and Mathematical Statistics.New York,John Wiley & Sons,1987.

[10]楊玲,沈云中,樓立志.基于中位數(shù)參數(shù)初值的等價(jià)抗差估計(jì)方法[J].測繪學(xué)報(bào),2011,40(1):28-32.

[11]李浩軍,唐詩華,黃杰.經(jīng)典選權(quán)迭代法研究與兩步抗差估計(jì)的提出[J].海洋測繪,2007,27(1):17-20.

[12]張智星.MATLAB 程序設(shè)計(jì)與應(yīng)用[M].北京:清華大學(xué)出版社,2002.

[責(zé)任編輯：李銘娜]

Selecting weight iteration method with initial value by LMS

WANG Feng-wei1,2,ZHOU Shi-jian3,ZHOU Qing1,LU Pei-he1

(1.School of Surveying and Mapping Engineering,East China Institute of Technology,Nan Chang 330013,China；2.Key Laboratory of Watershed Ecology and Geographical Environment Monitoring,NASG,Nanchang 330013,China；3.Nanchang Hangkong University,Nanchang 330063,China)

Abstract：This paper explores the selecting weight iteration method with initial value by LMS,which uses LMS robust estimate to asertain the initial residuals value.The selecting weight iteration(SWI) process goes after that.The estimate result of the method takes on high breakdown point robustness of LMS and high estimate effciency of SWI.The result shows the selecting weight iteration method with LMS estimation can resist outliers like the LS with no outliers.So it is more robust.

Key words：robust estimation；LS；outliers；least median squares；LMS；selecting weight iteration

作者簡介：王奉偉(1988-)，男，碩士研究生.

基金項(xiàng)目：國家自然科學(xué)基金資助項(xiàng)目(41374007)

收稿日期：2014-12-30

中圖分類號(hào)：P221

文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1006-7949(2015)12-0033-03