加權(quán)最小二乘估計與線性無偏最小方差估計的比較

孫曉杰

(四川大學(xué)數(shù)學(xué)學(xué)院,四川成都 610064)

加權(quán)最小二乘估計與線性無偏最小方差估計的比較

孫曉杰

(四川大學(xué)數(shù)學(xué)學(xué)院,四川成都 610064)

在已知的線性模型中,考慮加權(quán)最小二乘估計與線性無偏最小方差估計的結(jié)果的差異。發(fā)現(xiàn)在兩種條件下,加權(quán)最小二乘估計與線性無偏最小方差估計的結(jié)果趨于一致。

加權(quán)最小二乘估計 線性無偏最小方差估計

1 引言

加權(quán)最小二乘估計與線性無偏最小方差估計是線性模型估計中最常使用的方法。本文主要討論這兩種方法在估計中結(jié)果有什么不同。

2 問題描述

Z=Xβ+ε(其中X 是m×n矩陣(已知)，β是1×n的列向量(要估計的未知參數(shù))，ε為殘差項，Z為觀察值)。考慮用加權(quán)最小二乘估計和無偏線性最小方差兩種方法對β進行估計，考慮這兩種估計所得結(jié)果是否相等。

3 兩種方法的比較

線性無偏最小方差估計：

該估計的誤差方差：

加權(quán)最小二乘估計：

該估計的誤差方差：

3.1 對W1進行變形

所以

將上面的式子(1)--(4)帶入則

3.2 求差值

3.3 進一步考慮(6)式子,在兩種可能情況下趨于0

[1]孫榮恒.應(yīng)用數(shù)理統(tǒng)計(第3版) [M].科學(xué)出版社,2014年1月1日.

[2]Jun Shao.Mathematical statistics：exercises and solutions[M].世界圖書出版公司.2010.

[3]Huart. David.Mathématiques et statistique[M].武漢大學(xué)出版社,2010.

[4]Hogg. Robert V.Introduction to mathematical statistics[M].Higher Education Press.2004.

[5]劉謝進,朱允民.最優(yōu)加權(quán)最小二乘估計與線性無偏 最小方差估計性能比較[J].四川大學(xué)學(xué)報(自然科學(xué)版),2001年10月第38卷第5期.