李偉東，林 楠,2，劉德利，孫曉磊

1.吉林建筑大學(xué)測(cè)繪與勘查工程學(xué)院，長(zhǎng)春 130118 2.吉林大學(xué)地球探測(cè)科學(xué)與技術(shù)學(xué)院，長(zhǎng)春 130026

用于變形監(jiān)測(cè)的最小二乘濾波數(shù)據(jù)處理

李偉東1，林 楠1,2，劉德利1，孫曉磊1

1.吉林建筑大學(xué)測(cè)繪與勘查工程學(xué)院，長(zhǎng)春 130118 2.吉林大學(xué)地球探測(cè)科學(xué)與技術(shù)學(xué)院，長(zhǎng)春 130026

隨著全站儀在測(cè)量工作中的廣泛使用，以坐標(biāo)為觀測(cè)值的數(shù)據(jù)處理成為內(nèi)業(yè)工作的主要內(nèi)容。根據(jù)最小二乘濾波原理，將工程巖土體變形監(jiān)測(cè)中所獲得的坐標(biāo)觀測(cè)值及其他常規(guī)觀測(cè)值進(jìn)行聯(lián)合平差。結(jié)果表明，濾波后變形點(diǎn)的點(diǎn)位精度最大可提高1.35 mm，最弱點(diǎn)亦提高0.94 mm，均明顯高于直接觀測(cè)結(jié)果，而且各類(lèi)觀測(cè)值之間所形成的約束條件進(jìn)一步增強(qiáng)了平差結(jié)果的可靠性。

最小二乘；濾波；變形監(jiān)測(cè)；坐標(biāo)觀測(cè)值

0 引言

隨著全站儀在測(cè)量工作中的廣泛使用，以點(diǎn)的坐標(biāo)為觀測(cè)值的量測(cè)方法逐漸成為測(cè)量數(shù)據(jù)獲取的主要形式[1-4]。但是，由于坐標(biāo)觀測(cè)值本身的特性，與常規(guī)的邊長(zhǎng)、角度等觀測(cè)值相比較，空間點(diǎn)與點(diǎn)之間的關(guān)系不再具備明顯的聯(lián)系，導(dǎo)致坐標(biāo)觀測(cè)值缺乏幾何上的多余觀測(cè)，因而無(wú)法用經(jīng)典平差理論進(jìn)行相應(yīng)的數(shù)據(jù)處理。最小二乘濾波是將平差過(guò)程中的全部待估參數(shù)均視為隨機(jī)參數(shù)，在已知其先驗(yàn)統(tǒng)計(jì)信息的前提下，按照廣義最小二乘原理求定參數(shù)最佳估值的一種方法。由于其良好的運(yùn)算性能，該方法近年來(lái)已經(jīng)成為眾多學(xué)者研究的熱點(diǎn)[5-13]。

筆者基于最小二乘濾波原理，提出一種新的變形監(jiān)測(cè)數(shù)據(jù)處理方法：在全站儀對(duì)變形點(diǎn)坐標(biāo)進(jìn)行觀測(cè)的同時(shí)，輔之以相應(yīng)數(shù)量的高差、邊長(zhǎng)或角度等常規(guī)觀測(cè)值；進(jìn)而選擇變形點(diǎn)坐標(biāo)為隨機(jī)參數(shù)，實(shí)現(xiàn)對(duì)坐標(biāo)值的最優(yōu)估計(jì)。由于這種方法可以形成幾何條件與觀測(cè)數(shù)量上的多余觀測(cè)，故對(duì)于提高平差結(jié)果的精度和可靠性將會(huì)產(chǎn)生明顯的效果。

1 最小二乘濾波原理

由廣義測(cè)量平差原理可知，設(shè)L為正態(tài)隨機(jī)觀測(cè)向量，X為系統(tǒng)狀態(tài)參數(shù)(或稱(chēng)信號(hào)，服從正態(tài)分布)向量。參數(shù)X和觀測(cè)值L具有以下先驗(yàn)統(tǒng)計(jì)性質(zhì)[14-17]：

式中：μx、μL分別代表系統(tǒng)狀態(tài)參數(shù)和觀測(cè)向量的驗(yàn)前期望；DXX、DLL則表示系統(tǒng)狀態(tài)參數(shù)和觀測(cè)向量的驗(yàn)前方差矩陣。L和X之間的觀測(cè)方程滿(mǎn)足

式中：B為觀測(cè)值系數(shù)矩陣；Φ為隨機(jī)誤差。且隨機(jī)誤差與未知參數(shù)之間的協(xié)方差為

現(xiàn)用LX表示X的先驗(yàn)期望μx，即將其視為虛擬觀測(cè)值、將待求參數(shù)X看作是非隨機(jī)的參數(shù)，設(shè)它所對(duì)應(yīng)的隨機(jī)誤差為ΦX，此時(shí)，三者之間有觀測(cè)方程：

式中：V和VX分別對(duì)應(yīng)著實(shí)際觀測(cè)值L和虛擬觀測(cè)值LX的改正數(shù)。

2 坐標(biāo)與其他常規(guī)觀測(cè)值的聯(lián)合濾波

利用全站儀測(cè)得變形點(diǎn)坐標(biāo)，同時(shí)測(cè)出工作基點(diǎn)至變形點(diǎn)之間的距離、角度、高差等常規(guī)觀測(cè)值后，就可以按照最小二乘濾波原理，對(duì)所有觀測(cè)值進(jìn)行聯(lián)合平差[18-21]。

相應(yīng)的誤差方程為

式中，lX=LX-X0。

其次，由常規(guī)測(cè)量觀測(cè)值L及待求參數(shù)，可建立誤差方程：

式中，l=L-BX0。

將式(8)與式(9)合并，按照廣義最小二乘準(zhǔn)則，可求得參數(shù)改正數(shù)：

通過(guò)式(7)可計(jì)算相應(yīng)的參數(shù)最或是值。此外，除用式(6)計(jì)算參數(shù)最或是值協(xié)方差外，還可由(2)式及協(xié)因數(shù)傳播律，得到

3 算例

圖1為某醫(yī)院建筑基坑變形監(jiān)測(cè)的工作基點(diǎn)與變形點(diǎn)(部分)布置情況示意圖。全站儀標(biāo)稱(chēng)測(cè)角精度為2.0″、測(cè)距精度為2+2×10-6D(D為對(duì)應(yīng)的觀測(cè)距離，單位為mm)。以工作基點(diǎn)A(3 020.076,1 096.053 9)為測(cè)站，另一基點(diǎn)B(3 001.030 6,1 094.342 9)為后視，測(cè)得變形點(diǎn)坐標(biāo)值見(jiàn)表1。同時(shí)以B點(diǎn)為測(cè)站，獨(dú)立觀測(cè)各變形點(diǎn)間的夾角及測(cè)站至變形點(diǎn)間的水平距離(表2)。

圖1 變形監(jiān)測(cè)示意圖Fig. 1 Schematic diagram of deformation monitoring

點(diǎn)號(hào)x/my/m013008.67861107.1862023002.67561107.8724033000.73011108.1799042995.28931108.6104

表2 角度、距離觀測(cè)值

按照上述最小二乘濾波公式(6)，對(duì)測(cè)得的觀測(cè)值進(jìn)行平差，得到變形點(diǎn)坐標(biāo)最或是值(表3)。

表3 變形點(diǎn)坐標(biāo)平差值

為檢驗(yàn)這種方法的實(shí)際效果，利用標(biāo)稱(chēng)精度更高的Leica TM30儀器(測(cè)角精度0.5″，測(cè)距精度為0.6+10-6D)進(jìn)行了同步觀測(cè)，并將觀測(cè)結(jié)果近似為變形點(diǎn)坐標(biāo)的真值，如表4所示。

表4 變形點(diǎn)高精度坐標(biāo)觀測(cè)值

Table 4 High-precision coordinate value of deformation points

點(diǎn)號(hào)x/my/m013008.67981107.1858023002.67661107.8724033000.73261108.1790042995.29001108.6112

對(duì)比表1、表3和表4的結(jié)果可以明顯看出，經(jīng)過(guò)最小二乘濾波的變形點(diǎn)坐標(biāo)值更接近TM30的觀測(cè)數(shù)據(jù)。如果將表4的觀測(cè)結(jié)果作為真值參照，經(jīng)過(guò)最小二乘濾波后的坐標(biāo)平差值(表3)好于直接觀測(cè)結(jié)果(表1)。

由全站儀的儀器標(biāo)稱(chēng)精度及坐標(biāo)計(jì)算公式，依據(jù)協(xié)因數(shù)傳播律，在不考慮工作基點(diǎn)點(diǎn)位誤差的前提下，可計(jì)算得到各坐標(biāo)觀測(cè)值的驗(yàn)前協(xié)因數(shù)陣；進(jìn)一步地，根據(jù)式(11)，則可計(jì)算出坐標(biāo)平差值的協(xié)因數(shù)。表5給出了變形點(diǎn)坐標(biāo)的驗(yàn)前和平差后的協(xié)因數(shù)對(duì)比。

表5 變形點(diǎn)坐標(biāo)濾波前后協(xié)因數(shù)情況

Table 5 Differences of deformation coordinated factor before and after filtering

點(diǎn)號(hào)驗(yàn)前協(xié)因數(shù)xy平差后協(xié)因數(shù)xy010.258860.247230.042820.04301020.345590.165030.052290.03451030.362610.149900.061700.03780040.401900.116630.129370.05270

通過(guò)坐標(biāo)點(diǎn)驗(yàn)前和平差后的協(xié)因數(shù)對(duì)比可以明顯看出：平差后的坐標(biāo)協(xié)因數(shù)結(jié)果明顯優(yōu)于其先驗(yàn)值。

平差質(zhì)量的改善還可以通過(guò)精度對(duì)比加以體現(xiàn)。根據(jù)觀測(cè)值平差改正數(shù)可得單位權(quán)中誤差：

式中：r為多余觀測(cè)數(shù)。根據(jù)表5的坐標(biāo)協(xié)因數(shù)評(píng)定結(jié)果和式(13)，可計(jì)算得到各點(diǎn)的點(diǎn)位精度。表6給出了平差前后變形點(diǎn)位精度的對(duì)比。

表6 變形點(diǎn)濾波前后精度對(duì)比情況

Table 6 Differences of accuracy of point deformation before and after filtering

點(diǎn)號(hào)濾波前精度/mm濾波后精度/mm012.280.94022.290.94032.291.01042.301.36

通過(guò)表6可以明顯看出：由于角度、距離等常規(guī)觀測(cè)值的引入，使濾波后變形點(diǎn)的點(diǎn)位精度得到明顯提高。其中，提高幅度最大的點(diǎn)達(dá)到1.36 mm，最小的點(diǎn)亦達(dá)到0.94 mm。同時(shí)，因一定數(shù)量的常規(guī)觀測(cè)值參與濾波后，使各類(lèi)觀測(cè)值之間形成幾何約束，進(jìn)一步增強(qiáng)了平差結(jié)果的可靠性。

4 結(jié)論與建議

隨著全站儀在測(cè)量工作中的普遍使用，以坐標(biāo)為觀測(cè)值的數(shù)據(jù)采集與處理逐漸成為測(cè)量?jī)?nèi)業(yè)的主要內(nèi)容。在變形監(jiān)測(cè)中采用最小二乘濾波進(jìn)行數(shù)據(jù)處理，將坐標(biāo)觀測(cè)值視為具有先驗(yàn)統(tǒng)計(jì)信息的隨機(jī)參數(shù)，與邊長(zhǎng)、角度等常規(guī)觀測(cè)值進(jìn)行整體解求，不僅能通過(guò)增加多余觀測(cè)而提高待定點(diǎn)的精度，還可以利用常規(guī)觀測(cè)值與坐標(biāo)參數(shù)之間所形成的約束條件提高待定點(diǎn)坐標(biāo)最或是值的可靠性，從而在實(shí)際應(yīng)用中會(huì)收到很好的效果。同時(shí)，由于該方法不僅考慮到待估隨機(jī)參數(shù)的先驗(yàn)統(tǒng)計(jì)特性，而且數(shù)據(jù)處理過(guò)程仍然采用最小二乘估計(jì)準(zhǔn)則，故與經(jīng)典測(cè)量平差方法相比較，其數(shù)據(jù)處理過(guò)程較為相似，公式內(nèi)容也比較容易理解，對(duì)于類(lèi)似的工程應(yīng)用和數(shù)據(jù)處理，具有較高的借鑒意義和應(yīng)用價(jià)值，適于在相近的測(cè)量工作中推廣。

[1] 李宏男，伊廷華，伊?xí)詵|，等.采用GPS與全站儀對(duì)大跨斜拉橋進(jìn)行變形監(jiān)測(cè)[J].防災(zāi)減災(zāi)工程學(xué)報(bào), 2005, 25(1):8-13. Li Hongnan, Yi Tinghua, Yi Xiaodong, et al. Integration of GPS and Total Station Technology for Deformation Monitoring of Long-Span Bridge[J]. Journal of Disaster Prevention and Mitigation Engineering, 2005, 25(1):8-13.

[2] 陳子進(jìn)，吳斌，梅連友. 全站儀坐標(biāo)差分法在高邊坡變形監(jiān)測(cè)中的應(yīng)用[J].重慶建筑大學(xué)學(xué)報(bào), 2005, 27(3):130-135. Chen Zijin, Wu Bin, Mei Lianyou. Application of Coordnate Difference Method in Safe Monitor of High Slope with Total Station Actively[J]. Journal of Chongqing Jianzhu University, 2005, 27(3):130-135.

[3] 高俊強(qiáng)，陶建岳. 利用免棱鏡全站儀進(jìn)行地鐵隧道斷面測(cè)量與計(jì)算[J].測(cè)繪通報(bào),2005 (10):41-43. Gao Junqiang, Tao Jianyue. Profile Survey and Computation of the Subway Tunnel Using Total-Sation Instrument Without Prism[J]. Bulletin of Surveying and Mapping, 2005(10): 41-43.

[4] 張偉，李會(huì)青，洪樹(shù)生. 全站儀非固定站差分法監(jiān)測(cè)深基坑坑壁位移[J].測(cè)繪通報(bào), 2002(10):45-48. Zhang Wei, Li Huiqing, Hong Shusheng. Application of Difference-Method to Safe Monitoring of Deep Pit Setting with Total Station Actively[J]. Bulletin of Surveying and Mapping, 2002(10):45-48.

[5] Wu Yun, Guo Jiming. Single Point Positioning with Sequential Least-Squares Filter and Estimated Real-Time Stochastic Model[J]. Geo-Spatial Information Science, 2002, 11(1):13-16.

[6] 李金剛，趙勇，郭戈，等.最小二乘濾波在某型火控系統(tǒng)信息處理中的應(yīng)用[J].指揮控制與仿真, 2006, 28(3): 76-79. Li Jingang, Zhao Yong, Guo Ge, et al. Application of Least Squares Filtering in the Information Processing in Fire Control System[J]. Command Control & Simulation, 2006, 28(3): 76-79.

[7] 柴洪洲，崔岳，明鋒. 最小二乘配置方法確定中國(guó)大陸主要塊體運(yùn)動(dòng)模型[J].測(cè)繪學(xué)報(bào), 2009, 38(1):61-65. Chai Hongzhou, Cui Yue, Ming Feng. The Determination of Chinese Mainland Crustal Movement Model Using Least-Squares Collocation[J]. Acta Geodaetica et Cartographica Sinica, 2009, 38(1): 61-65.

[8] 姚宜斌，陶本藻. 基于最小二乘配置的GPS網(wǎng)平差模型及其應(yīng)用[J].測(cè)繪學(xué)院學(xué)報(bào), 2003, 20(1):4-6. Yao Yibin, Tao Benzao. The Adjustment Model of GPS Network with Least Squares Collocation[J]. Journal of Institute of Surveying and Mapping, 2003, 20(1): 4-6.

[9] 鄒賢才，李建成. 最小二乘配置方法確定局部大地水準(zhǔn)面的研究[J].武漢大學(xué)學(xué)報(bào)：信息科學(xué)版, 2004, 29(3): 4-6. Zou Xiancai, Li Jiancheng. A Local Geoid Determination Using Least-Squares Collocation[J]. Geomatics and Information Science of Wuhan University, 2004, 29(3): 4-6.

[10] 藍(lán)悅明，陶本藻. 數(shù)字化曲線(xiàn)的最小二乘配置[J].測(cè)繪通報(bào), 2004(5):1-3. Lan Yueming, Tao Benzao. Least Squares Collocation of Digitized Curve[J]. Bulletin of Surveying and Mapping, 2004(5): 1-3.

[11] 李成仁，岳東杰，丁旭，等.最小二乘配置及多面函數(shù)法在高程異常推估中的應(yīng)用比較[J].勘察科學(xué)技術(shù), 2013(3):40-42. Li Chengren, Yue Dongjie, Ding Xu, et al. Application and Comparison of Least Squares Collocation and Multi-Surface Functions Method in Height Anomaly Estimation[J]. Site Investigation Science and Technology, 2013(3):40-42.

[12] 姚道榮，鐘波，汪海洪，等.最小二乘配置與普通Kriging法的比較[J].大地測(cè)量與地球動(dòng)力學(xué), 2008, 28(3): 77-82. Yao Daorong, Zhong Bo, Wang Haihong, et al. Comparison Between Least Square Collocation and Ordinary Kriging[J]. Journal of Geodesy and Geodynamics, 2008, 28(3): 77-82.

[13] 黃建平，薛志廣，步長(zhǎng)城，等.基于裂步DSR的最小二乘偏移方法[J].吉林大學(xué)學(xué)報(bào)：地球科學(xué)版, 2014, 44(1): 369-374. Huang Jianping, Xue Zhiguang, Bu Changcheng, et al. The Study of Least-Squares Migration Method Based on Split-Step DSR[J]. Journal of Jilin University: Earth Science Edition, 2014,44(1): 369-374.

[14] 王新洲. 廣義平差的概括模型[J].武漢測(cè)繪科技大學(xué)學(xué)報(bào), 2000, 25(3):257-260. Wang Xinzhou. The Comprehensive Model of Generalized Surveying Adjustment[J]. Journal of Wuhan Technical University of Surveying and Mapping, 2000, 25(3): 257-260.

[15] 崔希璋，於宗儔，陶本藻，等.廣義測(cè)量平差[M].武漢:武漢大學(xué)出版社,2009. Cui Xizhang, Yu Zongchou, Tao Benzao, et al. Geo-Spatial Information Science[M]. Wuhan: Wuhan University Press, 2009.

[16] 陶本藻. 測(cè)量數(shù)據(jù)處理的統(tǒng)計(jì)理論和方法[M].北京:測(cè)繪出版社,2007. Tao Benzao. Statistic Theory and Method of Surveying Data Processing[M]. Beijing: Surveying and Mapping Press, 2007.

[17] 王新洲，陶本藻，邱衛(wèi)寧，等.高等測(cè)量平差[M].北京:測(cè)繪出版社,2010. Wang Xinzhou, Tao Benzao, Qiu Weining, et al. Advanced Surveying Adjustment[M]. Beijing: Surveying and Mapping Press,2010.

[18] 劉國(guó)林. 近代測(cè)量平差理論與方法[M].徐州:中國(guó)礦業(yè)大學(xué)出版社,2012. Liu Guolin. The Principle and Methods of Modern Adjustment of Surveying[M]. Xuzhou: China University of Mining and Technology Press, 2012.

[19] 黃杰. 最小二乘濾波推估與配置的應(yīng)用研究[J]. 桂林工學(xué)院學(xué)報(bào), 1995, 15(1):97-103. Huang Jie. Study of Application of Least-Squares Filtering, Predication and Collocation[J]. Journal of Guilin Institute of Technology, 1995, 15(1):97-103.

[20] 趙龍，陳哲. 新型聯(lián)邦最小二乘濾波算法及應(yīng)用[J].自動(dòng)化學(xué)報(bào), 2004, 30(6):897-904. Zhao Long, Chen Zhe. A New Type of Federated Least Square Filtering Algorithm and Its Application[J]. Acta Automatica Sinica, 2004, 30(6):897-904.

[21] 周一宇. 阻尼的非線(xiàn)性最小二乘濾波算法[J].國(guó)防科技大學(xué)學(xué)報(bào), 1990, 12(4):103-107. Zhou Yiyu. Damped Nonlinear Squares Filtering Algorithm[J]. Journal of National University of Defense Technology, 1990, 12(4):103-107.

Data Processing of Deformation Monitoring Based on Least Square Filtering

Li Weidong1, Lin Nan1,2, Liu Deli1, Sun Xiaolei1

1.College of Surveying and Prospecting Engineering, Jilin Architecture University, Changchun 130118,China 2.College of GeoExploration Science and Technology, Jilin University, Changchun 130026,China

Total station is widely used in various measurements coordinates as the observation values play an important role in the data processiong. The authors adjusted the coordinate observation values combined with other conventional observations deformation data using the least square filter. The results indicated that the precision was obviously improved with the 1.35 mm decrease of maximum point error and 0.94 mm decrease of the weakest point error, and the constraints of different observation also increased the reliability of the least square filter adjustment.

least square; filtering; deformation monitoring; coordinate value

10.13278/j.cnki.jjuese.201406307.

2014-04-18

吉林省科技發(fā)展計(jì)劃項(xiàng)目(20120437)；國(guó)家自然科學(xué)基金項(xiàng)目(41072244)

李偉東(1967--)，男，副教授，主要從事測(cè)量誤差理論及變形監(jiān)測(cè)研究，E-mail:349127577@qq.com

林楠(1984--)，男，講師，主要從事工程變形監(jiān)測(cè)及地學(xué)信息工程研究，E-mail:linnanzc@126.com。

10.13278/j.cnki.jjuese.201406307

P642.3

A

李偉東，林楠，劉德利，等. 用于變形監(jiān)測(cè)的最小二乘濾波數(shù)據(jù)處理.吉林大學(xué)學(xué)報(bào):地球科學(xué)版,2014,44(6):2068-2072.

Li Weidong, Lin Nan, Liu Deli, et al. Data Processing of Deformation Monitoring Based on Least Square Filtering.Journal of Jilin University:Earth Science Edition,2014,44(6):2068-2072.doi:10.13278/j.cnki.jjuese.201406307.