楊 瑛

(西安市不動產(chǎn)登記服務(wù)中心，陜西 西安 710002)

0 引言

在平面坐標轉(zhuǎn)換中，針對觀測值誤差，一般都是按照最小二乘法(LS法)進行解算,但是LS法只考慮了觀測向量L上的隨機誤差，卻沒有考慮由觀測值組成的系數(shù)矩陣A中的隨機誤差，這在實際情況中并不合理?？傮w最小二乘法(TLS法)的產(chǎn)生解決了上述問題，TLS法同時對系數(shù)矩陣A和觀測向量L進行平差誤差處理，參照文獻[2]。隨之出現(xiàn)的問題便是：TLS法在坐標轉(zhuǎn)換的解算中，對系數(shù)矩陣進行改正的同時改正了其常數(shù)列，這使得TLS法對系數(shù)矩陣A的改正顯得很不合理。汪奇生和楊德宏也注意到了這個問題，他們提出了顧及常數(shù)列的總體最小二乘法，但是這種方法也有一定的局限性，其在于每次迭代過程中的觀測值單位權(quán)中誤差并不是真實的單位權(quán)中誤差?；旌峡傮w最小二乘法(LS-TLS法)應(yīng)運而生，在解決了上述問題的同時，遵循一定的平差準則，對系數(shù)陣中常數(shù)列不加改正，使其在迭代過程中保持不變，文獻[1]詳細推導了混合總體最小二乘的迭代步驟，并證明了在二元線性回歸中，LS-TLS法解算出的參數(shù)要優(yōu)于LS法和TLS法。

本文將LS-TLS法運用在平面坐標轉(zhuǎn)換中。通過算例和仿真實驗的方法，運用LS,TLS,LS-TLS3種方法解算不同觀測值個數(shù)、不同誤差模型的平面四參數(shù)坐標轉(zhuǎn)換參數(shù)，比較了三種方法的優(yōu)劣，并對其進行了分析。

1 坐標轉(zhuǎn)換模型

A原坐標系下坐標轉(zhuǎn)換到B目標系統(tǒng)下的坐標的四參數(shù)轉(zhuǎn)換模型：

(1)

式中：XA，YA——坐標系統(tǒng)下的坐標；

XB,YB——B坐標系統(tǒng)下的坐標；

x0,y0,k,a——A坐標系統(tǒng)轉(zhuǎn)換到B坐標系統(tǒng)的坐標轉(zhuǎn)換參數(shù)。

這四個轉(zhuǎn)換參數(shù)是由兩坐標的重合點算得，設(shè)兩個坐標系有n個重合點，則觀測值個數(shù)為m=2n，參數(shù)個數(shù)t=4，自由度r=2m-4，則四參數(shù)模型坐標轉(zhuǎn)換的誤差方程為：

(2)

2 LS-TLS數(shù)學模型及比較指標

混合最小二乘的數(shù)學模型為：

(3)

3 實驗與分析

3.1 實驗數(shù)據(jù)

3.2 算例

本文算例只是接下來3.3中仿真實驗的一次計算過程，計算步驟如下：

1)從表1中選取P1～P5已加入隨機誤差的5個重合點，組成系數(shù)矩陣A和常數(shù)項矩陣L。

2)按照2.1中闡述的LS-TLS法的迭代步驟進行迭代。參照文獻[2]和文獻[6]，分別用LS，TLS進行解算，得出參數(shù)X估值及相應(yīng)L的改正數(shù)。

3)計算這3種方法的四個轉(zhuǎn)換參數(shù)X、觀測向量L的均方誤差MSRTE以及其余兩種方法相對于LS法的均方誤差之比(RR)(見表2，表3)。

表1 15個重合點原坐標系下XA,YA和

表2 參數(shù)X的真值、估值、殘余真誤差、均方誤差以及均方誤差之比

表3 觀測向量L的真值、估值、殘余真誤差、均方誤差以及均方誤差之比

表4 基于LS,TLS,LS-TLS解算得到轉(zhuǎn)換參數(shù)和觀測向量的MSRTE

3.3 仿真實驗

A,B兩坐標系下的坐標(XA,YA,XB,YB)分別加入3類不同中誤差的隨機誤差(ΔxA,ΔyA,ΔxB,ΔyB)來模擬實驗數(shù)據(jù)，其中隨機誤差絕對值的最大值小于2.5倍的中誤差。

1)隨機誤差服從σ0=5 mm的正態(tài)分布，|ε|≤2.5σ0。

2)隨機誤差服從σ0=1 cm的正態(tài)分布，|ε|≤2.5σ0。

3)隨機誤差服從σ0=5 cm的正態(tài)分布，|ε|≤2.5σ0。

3.4 實驗分析

1)由表4明顯可以看出，隨著隨機誤差中誤差的增加，經(jīng)過LS,TLS,LS-TLS 3種方法解算之后的轉(zhuǎn)換參數(shù)和觀測向量的殘余真誤差均方誤差呈現(xiàn)變大的趨勢，有效性也隨之減少。

2)表5中，當隨機誤差中誤差為0.5 cm和1 cm時，經(jīng)過TLS和LS解算之后的轉(zhuǎn)換參數(shù)的殘余真誤差均方誤差之比RR略大于1.05,當隨機誤差中誤差為5 cm時，其RR大于1.05。就觀測估值而言，TLS與LS法的RR始終大于1.05。LS-TLS與LS解算之后的轉(zhuǎn)換參數(shù)和觀測向量的RR均大于0.95，小于1.05。

表5 基于LS，TLS，LS-TLS解算得到轉(zhuǎn)換參數(shù)和觀測向量的RR

4 結(jié)語