正則化方法的統一

郭淑妹 郭 杰 張 寧

1 信息工程大學理學院，鄭州市科學大道62號，450001

不適定問題廣泛存在于大地測量領域如航空重力向下延拓、衛星測量等，Tikhonov［1－2］正則化方法是處理不適定問題的有效手段。Phillips［3］在1962年提出正則化方法，對不適定問題的解的研究進入新的階段［4－11］。不適定問題的研究主要針對兩個問題：一是最佳正則化參數的選取，一是正則矩陣的合理化。Tikhonov 正則化方法適用于解不適定方程，但對于某些具有特殊結構的算子和初始數據具有某些特殊信息時，一般很難獲得最佳的解。本文綜合利用最小二乘解的無偏性和模型參數的先驗誤差協方差陣，得到一個新的估計。一方面保有最小二乘解的優良性，另一方面由先驗信息的約束得到自適應因子，具有一定的統計意義。

1 新估計

大地測量常用的線性模型為：

L為n×1觀測向量，A為n×m設計矩陣，Δ為誤差向量，X為m×1未知參數向量。其中E（Δ）＝0，cov（Δ）＝CΔ。由此模型可得到參數最小二乘估計。最小二乘估計具有很多優良的性質，但是當不適定問題存在時，最小二乘估計的精度較差，表現出相當的不穩定。為了獲得穩定可靠解，必須對病態方程作正則化處理。眾多的正則化方法得到的估計一般都是有偏的。增加先驗信息的約束，可以提高解的精度。

對最小二乘估計作線性變換：

當設計陣病態時，最小二乘估計不再是一個好的估計。對最小二乘估計作線性變換，此時的R是待確定的正則化矩陣。修正最小二乘估計，添加的約束條件就可以轉化為以下矩陣方程：

2 新估計與最小二乘比較

新的估計是一個有偏估計，偏差向量為：

對法矩陣進行正交對角分解：

其中Λ＝diag（λ1，λ2，…，λm），其對角元是法矩陣N的特征值λi，i＝1，2，…，m；U＝［u1，u2，…um］，由法矩陣N的特征向量規范正交化得到。分別表示為：

這里m為A的秩。

偏差的范數為：

根據E2（Z）≤E（Z2），Z為隨機變量，得：

對不適定方程進行正則化處理時，如果正則化方法不適當，可能導致比最小二乘更為嚴重的不穩定。為此，必須在均方誤差框架下將與均方誤差進行比較，以對正則化解與最小二乘解的優劣進行判別。

知：

3 正則化方法形式的統一

線性模型反演的正則化過程的核心是選取合適的正則化參數，比如在航空重力測量數據向下延拓中，通過選取合適的正則化參數來抑制觀測噪聲高頻部分對參數估值的影響。現有解決離散反問題的正則化方法相當于對病態法矩陣N＝增加一個濾波因子。最小二乘估計的分解形式為當法矩陣病態時，為了得到穩定解，通常增加一個濾波因子δi。改進的估計一般形式為：

濾波因子δi起到了正則化參數的作用，不同的正則化準則就有形式不同的濾波因子，可以得到不同的正則化方法。由文獻［12］知，，可得R＝U（D1／2Λ1／2）UT。新估計可表示為：

得到：

吉洪諾夫正則化方法：

廣義嶺估計法：

Stein估計：

濾波因子為δi＝α，協方差陣的特征值為

截斷奇異值法：

雙參數正則化方法：

4 結 語

本文就線性模型不適定問題提出一種先驗信息的正則化方法，該方法是基于最小二乘估計的一種線性變換，并滿足兩個基本要求：一是最小二乘估計的最優擬合，因為最小二乘估計具有無偏性；二是包含了一個外部約束，即待估參數的誤差協方差矩陣。在一定橢圓區域內，新估計的均方誤差小于最小二乘估計的均方誤差，顯示新估計的精度良好。現有正則化方法可以表示成一個統一的形式，通過選擇不同的誤差協方差矩陣特征值濾波因子，可得到不同的正則化方法。

［1］Tikhonov A N.On Stability of Inverse Problems［J］.Dokl Acad Nauk USSR，1943，39（5）：195

［2］Tikhonov A N.On Solving Incorrectly Posed Problems and Method of Regularization［J］.Dokl Acad Nauk USSR，1963，151（3）－198

［3］Phillips D L.A Technique for the Numerical Solution of Certain Integral Equations of the First Kind［J］.J Assoc Comput Mach，1962（9）：84－97

［4］Engl H W.Discrepancy Principles for Tikhoov Regularization of Ill－Posed Problems Leading to Optimal Convergence Rates［J］.J Optim Theory Appl，1987（52）：209－215

［5］Engl H W，Hanke M，Neubauer A.Regularization of Inverse Problems［M］.Dordrecht：Kluwer Academic Publishers，1996

［6］Hansen P C.Numerical Tools for Analysis and Solution of Fredholm Integral Equations of the First Kind［J］.Inverse Problems，1992（8）：849－872

［7］Hanke M，Hansen P C.Regularization Methods for Large－Scale Problems［J］.Surv Math Ind，1993（3）：253－315

［8］Hansen P C.Rank－deficient and Discrete Ill－Posed Problems：Numerical Aspects of Linear Nnversion Philadelphia［M］.SIAM Publishers，1998

［9］Kusche J，Klees R.On the Regularization Problem in Gravity Field Determination from Satellite Gradiometric Data［C］.IAG Assembly，Budapest，2001

［10］Xu P，Rummel.A Simulation Study of Smoothness Methods in Recovery of Regional Gravity Fields［J］.Geophysical Journal International，1994，117：472－486

［11］Xu P.Truncated SVD Methods for Discrete Linear Ill－Posed Problems［J］.Geophysical Journal International，1998，135：505－514

［12］Kotsakis C.A Covariance－Adaptive Approach for Regularized Inversion in Linear Models［J］.Geophys，2007，171：509－522