基于奇異矩陣的廣義嶺估計與主成分估計的比較

李春雨

(華北理工大學(xué)礦業(yè)工程學(xué)院，河北 唐山 063210)

引言

通常，對于一般的平差模型，待測值的最小二乘估計具有無偏性，均方誤差最小的優(yōu)點。但由于外業(yè)測量中不可避免的出現(xiàn)觀測值之間不獨立、參數(shù)近似線性相關(guān)、法方程存在嚴(yán)重復(fù)共線性等問題。因此，有必要對β進(jìn)行修正[1]。國內(nèi)外學(xué)者對此進(jìn)行廣泛的研究，徐文科等[2]對于可估函數(shù)在均方誤差意義下，提出了廣義嶺估計優(yōu)于最小二乘估計且在二次損失函數(shù)下廣義嶺估計具有可容許性的優(yōu)點；錢峰等[3]在有偏估計的基礎(chǔ)上提出了一種新的有偏估計壓縮廣義嶺估計的方法，驗證了有偏壓縮嶺估計的可行性和優(yōu)良性；葉松林等[4]針對函數(shù)模型結(jié)構(gòu)差提出了奇異值分解法和廣義嶺估計法處理有偏數(shù)據(jù)；胡靜等[5]應(yīng)用主成分估計方法，對Logistic回歸模型進(jìn)行參數(shù)估計，達(dá)到了消除多重共線性影響的目的。

而廣義嶺估計作為經(jīng)典病態(tài)模型正則化的一種有效方法[6]通過改進(jìn)典則參數(shù)進(jìn)行有偏估計；主成分估計從消除自變量之間的復(fù)共線性入手，通過選擇合適的主成分個數(shù)，使得主成分估計比最小二乘估計有較小的均方差的效果[7]。因此在控制測量中，應(yīng)用和比較廣義嶺估計和主成分估計等有偏估計在大地測量反演、控制網(wǎng)平差、GPS快速定位、航空重力向下延拓[8]等大地測量數(shù)據(jù)處理領(lǐng)域中具有重要意義。

1 有偏估計

1.1 廣義嶺估計

廣義嶺估計討論問題的方式：模型設(shè)計矩陣列向量之間近似線性相關(guān)，系數(shù)矩陣接近奇異。通過在典則形式的法方程系數(shù)陣主對角線元素上加上不同的k值，期望對嶺估計加以改進(jìn)[9]。

廣義嶺估計定義：

(1)

式中，G為正交方陣，且：

GT(βTβ)G=diag(λi,…λt)

K=diag(k1,…kt)

(2)

式中，k1,…,kt為t個嶺參數(shù)或稱廣義嶺參數(shù)。

則參數(shù)Y的廣義嶺估計：

(3)

廣義嶺估計的均方誤差：

(4)

對式(4)中的ki求偏導(dǎo)，并令其為0，可得到：

(5)

(6)

(7)

上述方法也稱直接法求廣義嶺估計。

1.2 主成分估計

主成分估計作為一種線性有偏估計，其中矩陣BTB的特征根λi度量了第i個主成分Ai在總方差中所占的分量，若某個λi≈0，說明這個主成分在總方差中所占分量很小，故可以把其看成常數(shù)并從模型剔除[6]。當(dāng)BTB矩陣奇異時，存在一些特征根λi等于0或者接近于0，此時相當(dāng)于用0去估計多余觀測量，而必要觀測量仍采用LS估計，根據(jù)關(guān)系式定出X的估計。而BTB的特征值為λ1≥λ2≥…≥λp，求得標(biāo)準(zhǔn)正交化特征向量為G1、G2…Gp,則新變量為XGi。

主成分估計公式：

L=A1Y(1)+A2Y(2)+Δ

(8)

(9)

得到X的估計：

(10)

1.3 精度評定

在二維以上的空間，向量或矩陣通過范數(shù)映射到實數(shù)空間，以函數(shù)的本質(zhì)，把不能比較的向量和矩陣轉(zhuǎn)換成可以比較的實數(shù)，成為衡量比較距離的標(biāo)準(zhǔn)。在實際測量工作中，誤差矩陣的二范數(shù)越小，表明其收斂速度越快，精度越高，待測點的估計值越逼近真值。

本文假定初始值，計算估值和假定真值之差的二范數(shù)，對所得二范數(shù)進(jìn)行大小比較。

計算公式：

(11)

1.4 計算流程

計算流程見圖1。

圖1 流程圖

2 數(shù)據(jù)處理及分析

如表1所示，數(shù)據(jù)為控制測中選取的5個參數(shù)[10]。其中，X1、X2、X3、X4、X5所對應(yīng)的列向量為系數(shù)列；β為系數(shù)矩陣；l為其常數(shù)項。

表1 實驗數(shù)據(jù)

其中，系數(shù)矩陣：

其中，常數(shù)項：

l=[-10.512 10.443 1.4485 11.94 14.085-0.1535 21.192 1.6535 8.9494 11.865]T

可算得βTβ的特征值：λ1=0.0292020340149471，λ2=0.116446485269018，λ3=27.4316345387204，λ4=140.832273335337，λ5=608.474551196659；假定待求點的真值：X1=1、X2=1、X3=1、X4=1、X5=1,設(shè)計誤差方程，組成法方程，判斷條件數(shù)：

(12)

式中，λmax為最大特征值；λmin為最小特征值。

若0<ρ<100則認(rèn)為模型正常；若100≤ρ≤1000則認(rèn)為模型存在中等程度病態(tài)；若ρ>1000則認(rèn)為模型有嚴(yán)重病態(tài)性。

表2 3種方法估值及精度分析

表3 二范數(shù)比較

針對病態(tài)法方程數(shù)據(jù)，二范數(shù)越小，其收斂速度越快、越逼近真值。通過3種真值比較得知，廣義嶺估計和主成分估計都在一定程度上改善了最小二乘估計，其中廣義嶺估計效果最好，主成分估計次之。

圖2 估值示范圖

3 結(jié)論

通過以上最小二乘、廣義嶺估計和主成分估計的直觀對比以及二范數(shù)精度，可得出以下結(jié)論。

針對設(shè)計矩陣奇異，廣義嶺估計和主成分估計等有偏估計均在一定程度上改進(jìn)了最小二乘估計。

針對本次法方程奇異的實驗數(shù)據(jù)，廣義嶺估計的改進(jìn)效果優(yōu)于主成分估計，且廣義嶺估計改進(jìn)效果最好。其缺點是迭代次數(shù)較多，收斂速度較慢，整體計算過程相對主成分估計而言較為復(fù)雜。

主成分估計會在個別單個點偏離假定真值，且偏差較大。但整體二范值要優(yōu)于最小二乘估計。

由于主成分估計、廣義嶺估計等有偏估計更適合于矩陣病態(tài)情形下，當(dāng)沒有發(fā)現(xiàn)法方程奇異時，最小二乘估計效果更佳。