加權整體最小二乘算法在直線擬合中的應用

曹澤強++朱笑笑

摘要：在日常測繪生產實踐中，常會遇到不等精度直線擬合的問題，利用加權整體最小二乘算法可以有效解決此類問題。首先對待解決問題借助EIV模型建立誤差方程，然后采用Newton-Gauss法進行迭代計算，將所得結果與最小二乘算法，整體最小二乘算法進行橫向精度分析。經實例計算可知，加權整體最小二乘算法擬合效果更好，擬合精度更高。

關鍵詞：加權整體最小二乘；EIV模型；直線擬合；Newton-Gauss法

Application of Weighted Integral Least Squares in Straight Line Fitting

CAO Ze-qiang， ZHU Xiao-xiao

（School of Geography and Urban Planning， Jiangsu Normal University， Xuzhou 221000）

Abstract： In the practice of daily surveying and mapping production， the problem of straight line fitting is often encountered. The weighted average squares algorithm can solve this problem effectively. Firstly， the error equation is established by means of EIV model. Then， the Newton-Gauss method is used to calculate the iteration. Finally， the result is compared with the least squares algorithm and the whole least squares algorithm. The results show that the weighted average squares algorithm is better and the fitting precision is higher.

Key words： weighted global least squares； EIV model； straight line fitting； Newton-Gauss method

一、引言

直線擬合在工程測量、變形監測、橋梁建筑、房屋建造等測量工作中都有廣泛應用[1]。一般擬合方法是測定直線上若干個點，假設自變量沒有誤差，然后依據最小二乘原則建立誤差方程。而實際情況下，自變量也是有誤差的，因此常規擬合方程中存在著一定的模型誤差[2]。若要減小這些誤差，可以利用整體最小二乘算法（Total Least Squares，TLS）來兼顧系數矩陣和觀測量的誤差以求得更為精確的擬合參數[3]。該算法起源于20世紀90年代，一經提出便引起了很多學者的關注[4]。隨著對該算法的深入研究，學者們發現當系數矩陣，觀測向量為不等精度觀測時，如果直接采用TLS算法進行參數估計則可能會出現解失真的情況[5]，因此需要引入協因數陣[6]的計算，即引入加權整體最小二乘算法（Weighted Total Least Squares，WTLS）。分別對觀測點的和坐標分量賦予相應權重[7]，以求得更為準確的擬合結果。

二、直線擬合

設某條未知直線的方程表達式為：

（1）

（1）式中和分別為對應誤差和的估計值。若有個觀測值，則存在個觀測方程，這些方程用矩陣可表述為：

（2）

（2）式中各元素表達式如下：

（3）

三、直線擬合算法模型

（一）TLS算法模型。

（4）

從式（4）中可以看出TLS算法默認系數矩陣和觀測向量均是等精度觀測，從而不考慮其權陣。而在現實情況中，因為模型誤差、測量員操作誤差、儀器誤差等使得觀測向量和系數矩陣多為不等精度觀測[8]，從而需要為觀測向量和系數矩陣賦予相應的權重，利用WTLS算法來解決此類直線擬合問題。

（二）WTLS算法模型。

（5）

在式（5）中，，表示系數矩陣的偶然誤差矩陣，表示將按列拉伸向量化。和分別代表系數矩陣的列向量協因數陣和行向量協因數陣，且，，為階方陣，為階方陣。在TLS算法中，和皆為單位陣；而WTLS算法分別賦予觀測向量和系數矩陣以不同的權重，因此WTLS算法的擬合模型為：

（6）

由于EIV模型是一種非線性模型，因此使用Shen[9]提出的基于Newton-Gauss法[10]的WTLS迭代算法。

對直線誤差方程進行第次迭代計算后的結果為：

（7）

在（7）式中，表示的改正值，表示第次迭代計算所得系數矩陣的改正值。

借助（7）式構造拉格朗日極值函數[11]：

（8）

對（8）式求偏導并消去得第次迭代計算所得參數近似值為：

（9）

（9）式中各元素表達式如下：

（10）

綜上可得基于Newton-Gauss法的WTLS迭代算法計算步驟為：

令 ，計算初始值[12]：

（11）

迭代過程從到，當（為給定閾值）時，迭代終止。

（三）實例分析。

模擬直線，設計直線模型為。自變量范圍為、因變量范圍為，利用軟件隨機生成10個點，并為每個點的坐標和坐標分別添加隨機誤差，然后用LS，TLS，WTLS三種算法進行直線擬合。endprint

表1樣本數據

i xi Pxi yi Pyi

1 2.1582 1000 -7.9493 1.0

2 -2.2177 1000 18.3062 1.8

3 2.8303 500 -11.9818 4.0

4 4.2313 800 -20.3877 8.0

5 3.1582 200 -13.9490 20.0

6 1.2323 80 -2.3936 20.0

7 0.8249 60 0.0505 70.0

8 -0.1160 20 5.6957 70.0

9 -3.8206 1.8 27.9238 100.0

10 -5.0360 1.0 35.2160 500.0

擬合結果如表2：

表2擬合結果

估計量 真值 LS TLS WTLS

斜率 -6.0000 -6.0033 -6.0005 -5.9998

截距 5.0000 5.0411 5.0057 5.0025

精度分析如表3：

表3精度分析

計算算法 平均偏差 平均偏差

LS 0.0019 0.0359

TLS 0.0005 0.0053

WTLS 0.0002 0.0037

由表3可知，最小二乘算法（LS）所得參數估值與真值平均偏差最大。由于整體最小二乘算法（TLS）兼顧了系數矩陣和觀測向量的誤差，其解算結果優于LS，平均偏差較LS算法降低了71.87%和85.19%。又因為加權整體最小二乘算法（WTLS）加入了協因數陣的計算，因此擬合效果最好，其平均偏差較LS算法降低了88.54%和89.70%，較TLS算法降低了62.96%和30.45%。

四條擬合直線圖如圖1：

圖1擬合直線圖

實驗結果表明：TLS算法兼顧系數陣和觀測向量的誤差，擬合結果相較LS算法與實際情況更加吻合；而在不等權觀測情況下，WTLS算法引入了協因數陣的計算，因此所得參數估值與真值平均偏差最小，其直線擬合效果明顯優于LS和TLS算法。

四、結論

WTLS算法在處理不等精度觀測的直線擬合問題時有明顯的優勢，其相較于LS和TLS算法，可以得到精度更高、更穩定的擬合結果。但是現行WTLS算法多涉及大量公式，計算過程仍較為繁瑣，不利于測量工作者們的快捷使用。因此在未來的測量數據處理中，如何結合實際測量數據特點、判斷系數矩陣誤差、觀測向量誤差對參數求解的影響程度，以及如何更好的優化WTLS算法等都是值得進一步研究的問題。

參考文獻：

[1]姚宜斌， 黃書華， 孔建，等. 空間直線擬合的整體最小二乘算法[J]. 武漢大學學報信息科學版， 2014， 39（5）：571-574.

[2]盧艷， 韓建民， 陶建平. 基于非線性半參數模型的城市群似大地水準面系統誤差研究[J]. 現代測繪， 2013， 36（1）：7-8.

[3]丁克良， 歐吉坤， 陳義. 整體最小二乘法及其在測量數據處理中的應用[C]// 中國測繪學會第九次全國會員代表大會. 2009.

[4]王繼剛， 周立， 蔣廷臣，等. 一種簡單的加權整體最小二乘直線擬合算法[J]. 測繪通報， 2014（4）：33-35.

[5]陶葉青， 高井祥， 姚一飛. 平面坐標轉換的穩健整體最小二乘算法[J]. 中國礦業大學學報， 2014， 43（3）.

[6]楊雪峰， 龔濤， 汪精河. 測量平差中求解協因數的簡化算法[J]. 測繪科學， 2009， 34（1）：85-86.

[7]張清波， 潘九寶. 總體最小二乘的加權GPS高程曲面擬合法[J]. 現代測繪， 2014， 37（5）：54-56.

[8]董校洪. 整體最小二乘法在工程測量上的應用[D]. 同濟大學， 2009.

[9]Shen Y， Li B， Chen Y. An iterative solution of weighted total least-squares adjustment. J Geod[J]. Journal of Geodesy， 2010， 85（4）：229-238.

[10]Li X， Esser E， Herrmann F J. Modified Gauss-Newton full-waveform inversion explained — Why sparsity-promoting updates do matter[J]. Geophysics， 2016， 81（3）：R99-R112.

[11]展丙軍. 關于拉格朗日乘數法的一點注記[J]. 高等數學研究， 2010， 13（2）：51-52.

[12]Schaffrin B， Wieser A. On weighted total least-squares adjustment for linear regression[J]. Journal of Geodesy， 2008， 82（7）：415

作者簡介：

第一作者，曹澤強（1996.06-），男，漢族，江蘇徐州，測繪工程。

第二作者，朱笑笑（1995.10-），女，漢族，江蘇連云港，遙感科學與技術。

注：江蘇省自然科學基金青年項目（BK20150236）；江蘇師范大學自然科學研究基金（15XLR019）endprint