基于矩陣分解的可分離非線性最小二乘問題求解方法及其應用

王路遙，劉國林，王鳳云，王 珂，韓 宇

山東科技大學測繪與空間信息學院，山東 青島 266590

最小二乘估計在線性與非線性模型的參數(shù)估計理論與實際應用中都占有非常重要的地位[1]，而在數(shù)據(jù)處理中大多數(shù)實際問題都涉及非線性函數(shù)模型[2]。非線性最小二乘問題是最優(yōu)化理論的重要分支，也可視為無約束條件下的二次規(guī)劃問題。若要在非線性數(shù)據(jù)處理中廣泛使用非線性模型參數(shù)估計理論，必須進行大量深入細致的工作[3]。文獻[4]推導了不等式約束整體最小二乘(inequality constrained WTLS,ICWTLS)最優(yōu)解的一階必要條件和二階充分條件，采用有效集(active set,AS)法和序列二次規(guī)劃(sequential quadratic programming,SQP)法求ICWTLS解。序列二次規(guī)劃法和有效集法等算法常常被應用于求解等式或不等式約束，以及混合約束的非線性規(guī)劃問題。而針對可分離非線性最小二乘問題，Golub和Pereyra提出變量投影算法，此后眾多學者對變量分離后再進行解算的方法進行了深入研究。在可分離問題中，應用變量投影算法并結(jié)合Gauss-Newton方法對模型參數(shù)進行求解，函數(shù)的計算效率會有一定程度的提高[5]。文獻[6]證明了變量投影和聯(lián)合優(yōu)化是求解可分離非線性最小二乘問題的兩種截然不同的方法，其最重要的區(qū)別在于前者的不平衡信賴域假設。文獻[7]通過蒙特卡洛模擬試驗驗證了Ruano提出的簡化雅可比矩陣JR=-DFF-y不適用于變量投影算法，這可能使算法難以收斂。此外，基于矩陣的梯形分解[8]、約束方程的廣義LU(lower-upper,LU)分解[9]和奇異值分解[10]等分解方法，多種變量投影的改進算法也被相繼提出?！?br>