李偉東，林 楠,2，劉德利，孫曉磊

1.吉林建筑大學(xué)測繪與勘查工程學(xué)院，長春 130118 2.吉林大學(xué)地球探測科學(xué)與技術(shù)學(xué)院，長春 130026

用于變形監(jiān)測的最小二乘濾波數(shù)據(jù)處理

李偉東1，林 楠1,2，劉德利1，孫曉磊1

1.吉林建筑大學(xué)測繪與勘查工程學(xué)院，長春 130118 2.吉林大學(xué)地球探測科學(xué)與技術(shù)學(xué)院，長春 130026

隨著全站儀在測量工作中的廣泛使用，以坐標(biāo)為觀測值的數(shù)據(jù)處理成為內(nèi)業(yè)工作的主要內(nèi)容。根據(jù)最小二乘濾波原理，將工程巖土體變形監(jiān)測中所獲得的坐標(biāo)觀測值及其他常規(guī)觀測值進(jìn)行聯(lián)合平差。結(jié)果表明，濾波后變形點的點位精度最大可提高1.35 mm，最弱點亦提高0.94 mm，均明顯高于直接觀測結(jié)果，而且各類觀測值之間所形成的約束條件進(jìn)一步增強了平差結(jié)果的可靠性。

最小二乘；濾波；變形監(jiān)測；坐標(biāo)觀測值

0 引言

隨著全站儀在測量工作中的廣泛使用，以點的坐標(biāo)為觀測值的量測方法逐漸成為測量數(shù)據(jù)獲取的主要形式[1-4]。但是，由于坐標(biāo)觀測值本身的特性，與常規(guī)的邊長、角度等觀測值相比較，空間點與點之間的關(guān)系不再具備明顯的聯(lián)系，導(dǎo)致坐標(biāo)觀測值缺乏幾何上的多余觀測，因而無法用經(jīng)典平差理論進(jìn)行相應(yīng)的數(shù)據(jù)處理。最小二乘濾波是將平差過程中的全部待估參數(shù)均視為隨機參數(shù)，在已知其先驗統(tǒng)計信息的前提下，按照廣義最小二乘原理求定參數(shù)最佳估值的一種方法。由于其良好的運算性能，該方法近年來已經(jīng)成為眾多學(xué)者研究的熱點[5-13]。

筆者基于最小二乘濾波原理，提出一種新的變形監(jiān)測數(shù)據(jù)處理方法：在全站儀對變形點坐標(biāo)進(jìn)行觀測的同時，輔之以相應(yīng)數(shù)量的高差、邊長或角度等常規(guī)觀測值；進(jìn)而選擇變形點坐標(biāo)為隨機參數(shù)，實現(xiàn)對坐標(biāo)值的最優(yōu)估計。由于這種方法可以形成幾何條件與觀測數(shù)量上的多余觀測，故對于提高平差結(jié)果的精度和可靠性將會產(chǎn)生明顯的效果。

1 最小二乘濾波原理

由廣義測量平差原理可知，設(shè)L為正態(tài)隨機觀測向量，X為系統(tǒng)狀態(tài)參數(shù)(或稱信號，服從正態(tài)分布)向量。參數(shù)X和觀測值L具有以下先驗統(tǒng)計性質(zhì)[14-17]：

式中：μx、μL分別代表系統(tǒng)狀態(tài)參數(shù)和觀測向量的驗前期望；DXX、DLL則表示系統(tǒng)狀態(tài)參數(shù)和觀測向量的驗前方差矩陣。L和X之間的觀測方程滿足

式中：B為觀測值系數(shù)矩陣；Φ為隨機誤差。且隨機誤差與未知參數(shù)之間的協(xié)方差為

現(xiàn)用LX表示X的先驗期望μx，即將其視為虛擬觀測值、將待求參數(shù)X看作是非隨機的參數(shù)，設(shè)它所對應(yīng)的隨機誤差為ΦX，此時，三者之間有觀測方程：

式中：V和VX分別對應(yīng)著實際觀測值L和虛擬觀測值LX的改正數(shù)。

2 坐標(biāo)與其他常規(guī)觀測值的聯(lián)合濾波

利用全站儀測得變形點坐標(biāo)，同時測出工作基點至變形點之間的距離、角度、高差等常規(guī)觀測值后，就可以按照最小二乘濾波原理，對所有觀測值進(jìn)行聯(lián)合平差[18-21]。

相應(yīng)的誤差方程為

式中，lX=LX-X0。

其次，由常規(guī)測量觀測值L及待求參數(shù)，可建立誤差方程：

式中，l=L-BX0。

將式(8)與式(9)合并，按照廣義最小二乘準(zhǔn)則，可求得參數(shù)改正數(shù)：

通過式(7)可計算相應(yīng)的參數(shù)最或是值。此外，除用式(6)計算參數(shù)最或是值協(xié)方差外，還可由(2)式及協(xié)因數(shù)傳播律，得到

3 算例

圖1為某醫(yī)院建筑基坑變形監(jiān)測的工作基點與變形點(部分)布置情況示意圖。全站儀標(biāo)稱測角精度為2.0″、測距精度為2+2×10-6D(D為對應(yīng)的觀測距離，單位為mm)。以工作基點A(3 020.076,1 096.053 9)為測站，另一基點B(3 001.030 6,1 094.342 9)為后視，測得變形點坐標(biāo)值見表1。同時以B點為測站，獨立觀測各變形點間的夾角及測站至變形點間的水平距離(表2)。

圖1 變形監(jiān)測示意圖Fig. 1 Schematic diagram of deformation monitoring

點號x/my/m013008.67861107.1862023002.67561107.8724033000.73011108.1799042995.28931108.6104

表2 角度、距離觀測值

按照上述最小二乘濾波公式(6)，對測得的觀測值進(jìn)行平差，得到變形點坐標(biāo)最或是值(表3)。

表3 變形點坐標(biāo)平差值

為檢驗這種方法的實際效果，利用標(biāo)稱精度更高的Leica TM30儀器(測角精度0.5″，測距精度為0.6+10-6D)進(jìn)行了同步觀測，并將觀測結(jié)果近似為變形點坐標(biāo)的真值，如表4所示。

表4 變形點高精度坐標(biāo)觀測值

Table 4 High-precision coordinate value of deformation points

點號x/my/m013008.67981107.1858023002.67661107.8724033000.73261108.1790042995.29001108.6112

對比表1、表3和表4的結(jié)果可以明顯看出，經(jīng)過最小二乘濾波的變形點坐標(biāo)值更接近TM30的觀測數(shù)據(jù)。如果將表4的觀測結(jié)果作為真值參照，經(jīng)過最小二乘濾波后的坐標(biāo)平差值(表3)好于直接觀測結(jié)果(表1)。

由全站儀的儀器標(biāo)稱精度及坐標(biāo)計算公式，依據(jù)協(xié)因數(shù)傳播律，在不考慮工作基點點位誤差的前提下，可計算得到各坐標(biāo)觀測值的驗前協(xié)因數(shù)陣；進(jìn)一步地，根據(jù)式(11)，則可計算出坐標(biāo)平差值的協(xié)因數(shù)。表5給出了變形點坐標(biāo)的驗前和平差后的協(xié)因數(shù)對比。

表5 變形點坐標(biāo)濾波前后協(xié)因數(shù)情況

Table 5 Differences of deformation coordinated factor before and after filtering

點號驗前協(xié)因數(shù)xy平差后協(xié)因數(shù)xy010.258860.247230.042820.04301020.345590.165030.052290.03451030.362610.149900.061700.03780040.401900.116630.129370.05270

通過坐標(biāo)點驗前和平差后的協(xié)因數(shù)對比可以明顯看出：平差后的坐標(biāo)協(xié)因數(shù)結(jié)果明顯優(yōu)于其先驗值。

平差質(zhì)量的改善還可以通過精度對比加以體現(xiàn)。根據(jù)觀測值平差改正數(shù)可得單位權(quán)中誤差：

式中：r為多余觀測數(shù)。根據(jù)表5的坐標(biāo)協(xié)因數(shù)評定結(jié)果和式(13)，可計算得到各點的點位精度。表6給出了平差前后變形點位精度的對比。

表6 變形點濾波前后精度對比情況

Table 6 Differences of accuracy of point deformation before and after filtering

點號濾波前精度/mm濾波后精度/mm012.280.94022.290.94032.291.01042.301.36

通過表6可以明顯看出：由于角度、距離等常規(guī)觀測值的引入，使濾波后變形點的點位精度得到明顯提高。其中，提高幅度最大的點達(dá)到1.36 mm，最小的點亦達(dá)到0.94 mm。同時，因一定數(shù)量的常規(guī)觀測值參與濾波后，使各類觀測值之間形成幾何約束，進(jìn)一步增強了平差結(jié)果的可靠性。

4 結(jié)論與建議

隨著全站儀在測量工作中的普遍使用，以坐標(biāo)為觀測值的數(shù)據(jù)采集與處理逐漸成為測量內(nèi)業(yè)的主要內(nèi)容。在變形監(jiān)測中采用最小二乘濾波進(jìn)行數(shù)據(jù)處理，將坐標(biāo)觀測值視為具有先驗統(tǒng)計信息的隨機參數(shù)，與邊長、角度等常規(guī)觀測值進(jìn)行整體解求，不僅能通過增加多余觀測而提高待定點的精度，還可以利用常規(guī)觀測值與坐標(biāo)參數(shù)之間所形成的約束條件提高待定點坐標(biāo)最或是值的可靠性，從而在實際應(yīng)用中會收到很好的效果。同時，由于該方法不僅考慮到待估隨機參數(shù)的先驗統(tǒng)計特性，而且數(shù)據(jù)處理過程仍然采用最小二乘估計準(zhǔn)則，故與經(jīng)典測量平差方法相比較，其數(shù)據(jù)處理過程較為相似，公式內(nèi)容也比較容易理解，對于類似的工程應(yīng)用和數(shù)據(jù)處理，具有較高的借鑒意義和應(yīng)用價值，適于在相近的測量工作中推廣。

[1] 李宏男，伊廷華，伊?xí)詵|，等.采用GPS與全站儀對大跨斜拉橋進(jìn)行變形監(jiān)測[J].防災(zāi)減災(zāi)工程學(xué)報, 2005, 25(1):8-13. Li Hongnan, Yi Tinghua, Yi Xiaodong, et al. Integration of GPS and Total Station Technology for Deformation Monitoring of Long-Span Bridge[J]. Journal of Disaster Prevention and Mitigation Engineering, 2005, 25(1):8-13.

[2] 陳子進(jìn)，吳斌，梅連友. 全站儀坐標(biāo)差分法在高邊坡變形監(jiān)測中的應(yīng)用[J].重慶建筑大學(xué)學(xué)報, 2005, 27(3):130-135. Chen Zijin, Wu Bin, Mei Lianyou. Application of Coordnate Difference Method in Safe Monitor of High Slope with Total Station Actively[J]. Journal of Chongqing Jianzhu University, 2005, 27(3):130-135.

[3] 高俊強，陶建岳. 利用免棱鏡全站儀進(jìn)行地鐵隧道斷面測量與計算[J].測繪通報,2005 (10):41-43. Gao Junqiang, Tao Jianyue. Profile Survey and Computation of the Subway Tunnel Using Total-Sation Instrument Without Prism[J]. Bulletin of Surveying and Mapping, 2005(10): 41-43.

[4] 張偉，李會青，洪樹生. 全站儀非固定站差分法監(jiān)測深基坑坑壁位移[J].測繪通報, 2002(10):45-48. Zhang Wei, Li Huiqing, Hong Shusheng. Application of Difference-Method to Safe Monitoring of Deep Pit Setting with Total Station Actively[J]. Bulletin of Surveying and Mapping, 2002(10):45-48.

[5] Wu Yun, Guo Jiming. Single Point Positioning with Sequential Least-Squares Filter and Estimated Real-Time Stochastic Model[J]. Geo-Spatial Information Science, 2002, 11(1):13-16.

[6] 李金剛，趙勇，郭戈，等.最小二乘濾波在某型火控系統(tǒng)信息處理中的應(yīng)用[J].指揮控制與仿真, 2006, 28(3): 76-79. Li Jingang, Zhao Yong, Guo Ge, et al. Application of Least Squares Filtering in the Information Processing in Fire Control System[J]. Command Control & Simulation, 2006, 28(3): 76-79.

[7] 柴洪洲，崔岳，明鋒. 最小二乘配置方法確定中國大陸主要塊體運動模型[J].測繪學(xué)報, 2009, 38(1):61-65. Chai Hongzhou, Cui Yue, Ming Feng. The Determination of Chinese Mainland Crustal Movement Model Using Least-Squares Collocation[J]. Acta Geodaetica et Cartographica Sinica, 2009, 38(1): 61-65.

[8] 姚宜斌，陶本藻. 基于最小二乘配置的GPS網(wǎng)平差模型及其應(yīng)用[J].測繪學(xué)院學(xué)報, 2003, 20(1):4-6. Yao Yibin, Tao Benzao. The Adjustment Model of GPS Network with Least Squares Collocation[J]. Journal of Institute of Surveying and Mapping, 2003, 20(1): 4-6.

[9] 鄒賢才，李建成. 最小二乘配置方法確定局部大地水準(zhǔn)面的研究[J].武漢大學(xué)學(xué)報：信息科學(xué)版, 2004, 29(3): 4-6. Zou Xiancai, Li Jiancheng. A Local Geoid Determination Using Least-Squares Collocation[J]. Geomatics and Information Science of Wuhan University, 2004, 29(3): 4-6.

[10] 藍(lán)悅明，陶本藻. 數(shù)字化曲線的最小二乘配置[J].測繪通報, 2004(5):1-3. Lan Yueming, Tao Benzao. Least Squares Collocation of Digitized Curve[J]. Bulletin of Surveying and Mapping, 2004(5): 1-3.

[11] 李成仁，岳東杰，丁旭，等.最小二乘配置及多面函數(shù)法在高程異常推估中的應(yīng)用比較[J].勘察科學(xué)技術(shù), 2013(3):40-42. Li Chengren, Yue Dongjie, Ding Xu, et al. Application and Comparison of Least Squares Collocation and Multi-Surface Functions Method in Height Anomaly Estimation[J]. Site Investigation Science and Technology, 2013(3):40-42.

[12] 姚道榮，鐘波，汪海洪，等.最小二乘配置與普通Kriging法的比較[J].大地測量與地球動力學(xué), 2008, 28(3): 77-82. Yao Daorong, Zhong Bo, Wang Haihong, et al. Comparison Between Least Square Collocation and Ordinary Kriging[J]. Journal of Geodesy and Geodynamics, 2008, 28(3): 77-82.

[13] 黃建平，薛志廣，步長城，等.基于裂步DSR的最小二乘偏移方法[J].吉林大學(xué)學(xué)報：地球科學(xué)版, 2014, 44(1): 369-374. Huang Jianping, Xue Zhiguang, Bu Changcheng, et al. The Study of Least-Squares Migration Method Based on Split-Step DSR[J]. Journal of Jilin University: Earth Science Edition, 2014,44(1): 369-374.

[14] 王新洲. 廣義平差的概括模型[J].武漢測繪科技大學(xué)學(xué)報, 2000, 25(3):257-260. Wang Xinzhou. The Comprehensive Model of Generalized Surveying Adjustment[J]. Journal of Wuhan Technical University of Surveying and Mapping, 2000, 25(3): 257-260.

[15] 崔希璋，於宗儔，陶本藻，等.廣義測量平差[M].武漢:武漢大學(xué)出版社,2009. Cui Xizhang, Yu Zongchou, Tao Benzao, et al. Geo-Spatial Information Science[M]. Wuhan: Wuhan University Press, 2009.

[16] 陶本藻. 測量數(shù)據(jù)處理的統(tǒng)計理論和方法[M].北京:測繪出版社,2007. Tao Benzao. Statistic Theory and Method of Surveying Data Processing[M]. Beijing: Surveying and Mapping Press, 2007.

[17] 王新洲，陶本藻，邱衛(wèi)寧，等.高等測量平差[M].北京:測繪出版社,2010. Wang Xinzhou, Tao Benzao, Qiu Weining, et al. Advanced Surveying Adjustment[M]. Beijing: Surveying and Mapping Press,2010.

[18] 劉國林. 近代測量平差理論與方法[M].徐州:中國礦業(yè)大學(xué)出版社,2012. Liu Guolin. The Principle and Methods of Modern Adjustment of Surveying[M]. Xuzhou: China University of Mining and Technology Press, 2012.

[19] 黃杰. 最小二乘濾波推估與配置的應(yīng)用研究[J]. 桂林工學(xué)院學(xué)報, 1995, 15(1):97-103. Huang Jie. Study of Application of Least-Squares Filtering, Predication and Collocation[J]. Journal of Guilin Institute of Technology, 1995, 15(1):97-103.

[20] 趙龍，陳哲. 新型聯(lián)邦最小二乘濾波算法及應(yīng)用[J].自動化學(xué)報, 2004, 30(6):897-904. Zhao Long, Chen Zhe. A New Type of Federated Least Square Filtering Algorithm and Its Application[J]. Acta Automatica Sinica, 2004, 30(6):897-904.

[21] 周一宇. 阻尼的非線性最小二乘濾波算法[J].國防科技大學(xué)學(xué)報, 1990, 12(4):103-107. Zhou Yiyu. Damped Nonlinear Squares Filtering Algorithm[J]. Journal of National University of Defense Technology, 1990, 12(4):103-107.

Data Processing of Deformation Monitoring Based on Least Square Filtering

Li Weidong1, Lin Nan1,2, Liu Deli1, Sun Xiaolei1

1.College of Surveying and Prospecting Engineering, Jilin Architecture University, Changchun 130118,China 2.College of GeoExploration Science and Technology, Jilin University, Changchun 130026,China

Total station is widely used in various measurements coordinates as the observation values play an important role in the data processiong. The authors adjusted the coordinate observation values combined with other conventional observations deformation data using the least square filter. The results indicated that the precision was obviously improved with the 1.35 mm decrease of maximum point error and 0.94 mm decrease of the weakest point error, and the constraints of different observation also increased the reliability of the least square filter adjustment.

least square; filtering; deformation monitoring; coordinate value

10.13278/j.cnki.jjuese.201406307.

2014-04-18

吉林省科技發(fā)展計劃項目(20120437)；國家自然科學(xué)基金項目(41072244)

李偉東(1967--)，男，副教授，主要從事測量誤差理論及變形監(jiān)測研究，E-mail:349127577@qq.com

林楠(1984--)，男，講師，主要從事工程變形監(jiān)測及地學(xué)信息工程研究，E-mail:linnanzc@126.com。

10.13278/j.cnki.jjuese.201406307

P642.3

A

李偉東，林楠，劉德利，等. 用于變形監(jiān)測的最小二乘濾波數(shù)據(jù)處理.吉林大學(xué)學(xué)報:地球科學(xué)版,2014,44(6):2068-2072.

Li Weidong, Lin Nan, Liu Deli, et al. Data Processing of Deformation Monitoring Based on Least Square Filtering.Journal of Jilin University:Earth Science Edition,2014,44(6):2068-2072.doi:10.13278/j.cnki.jjuese.201406307.