Bayes線性無偏估計的穩健性

邱紅兵, 羅季, 孫旭

(1. 廣東工業大學應用數學系,廣東 廣州 510006； 2. 浙江財經學院數學與統計學院, 浙江 杭州 310018；3. 東北財經大學統計學院, 遼寧 大連 116025)

0 引 言

考慮線性模型y=Xβ+ε

(1)

在線性模型(1)式中,設參數向量β有先驗分布π:Eβ=μ,Cov(β)=V

(2)

R(d,β)=E[L(d,β)],

這里及以下E均表示關于y和β的聯合分布求均值.

(3)

(4)

其中二次損失函數為L(d,β)=(d-β)′(d-β)

(5)

這方面的文獻可參見文獻[1-3]. 利用可逆矩陣的逆矩陣公式：

(T+XVX′)-1=T-1-T-1X(V-1+X′V-1X)-1X′T-1

回歸系數β的貝葉斯線性無偏估計也可表為

(6)

在線性模型的參數估計中,總是首先假設D(ε)∈R(0,T),但在實際問題中,隨機誤差分布中的均值與協方差矩陣可能略有偏離,因此我們希望據此所做出的統計推斷關于誤差分布具有穩健性. 對于線性模型(1)式,關于回歸系數β及可估函數C′β的估計的穩健性研究, 文獻[4-7]中在二次損失及矩陣損失下分別研究了回歸系數β及可估函數C′β的最小二乘估計,廣義最小二乘估計, Gauss-Markov估計的優良性,并對Gauss-Markov定理作了推廣,得到了推廣的Gauss-Markov定理成立的誤差分布的最大類. 對于線性模型(1)式中參數的Bayes估計的穩健性, 韋來生在文獻[8]中在二次損失下考慮了錯誤先驗假設下回歸系數貝葉斯線性無偏估計的小樣本性質； 文獻[9]中在MSEM準則、PRPC準則以及PPC準則下討論了Bayes線性無偏估計相對廣義線性無偏估計的優良性；文獻[10]中則討論了錯誤先驗假定下貝葉斯線性無偏估計的穩健問題. 而對于Bayes線性無偏估計關于誤差分布的穩健性,尚很少見到相關文獻.

定義1對于線性模型(1)式, 在先驗分布(2)式下, 給定β的估計類(μ)及誤差項ε的一類分布R(η,Σ),若d*∈(μ),使得R(d*,β)≤R(d,β),

對所有d∈(μ)及D(ε)∈R(η,Σ)成立,則稱β的估計d*是[V,(μ),R(η,Σ)]最優的.

1 Bayes線性無偏估計關于誤差分布的穩健性

引理1[2]設Eε=η,Cov(ε)=W,D∈Rn×n,則有E(ε′Dε)=η′Dη+tr(DW).

tr(AX-I)′(AX-I)V+trA′AΣ+η′A′Aη.

記A-Q=P,利用QXVX′=VX′-QT,可得

(7)

(8)

即對任意P∈Rp×n,有

2tr[Q(Σ-T+ηη′)P′]+tr[P(Σ+XVX′+ηη′)P′]≥0

(9)

因Σ+XVX′+ηη′≠0,則存在L∈Rp×n,使得tr[L(Σ+XVX′+ηη′)L′]>0.若(Σ+ηη′)T-1X≠X, 等價于Q(Σ-T+ηη′)≠0, 則取P=kL代入不等式(9)式, 得

2ktr[Q(Σ-T+ηη′)L′]+k2tr[L(Σ+XVX′+ηη′)L′]≥0

(10)

2ktr[Q(Σ-T+ηη′)L′]+k2tr[L(Σ+XVX′+ηη′)L′]<0

充分性：若(Σ+ηη′)T-1X=X,等價于Q(Σ-T+ηη′)=0, 則對任意P∈Rp×n, 由(7)式有

定理2給定估計類(μ),令

定理2的證明給定估計類(μ),D(ε)∈R(T),則顯然有(Σ+ηη′)T-1X=X,于是由定理1知是[V,(μ),R(0,Σ)]最優的.

Σ+ηη′=DD′=XΛX′+TZB′X′+XBZ′T+TZWZ′T,

定理得證.

2 一些推論

由定理1及定理2,容易得到下列推論.

推論4給定估計類(μ),令

對于線性模型(1)式,若D(ε)∈R(0,I),且β的先驗分布(2)式中V=Ip,即先驗分布為π：

Eβ=μ,Cov(β)=I.

推論7給定估計類(μ),令

推論8給定估計類(μ),令則R0(I)是使得β的估計是[I,(μ),R(0,Σ)]最優的誤差項ε的最大分布類.

[1] Trenkler G, Wei L S. The Bayes estimator in a misspecified regression mode1[J].Test, 1996(5)：113-123.

[2] Wang S G, Chow S C. Advanced linearmodel and applications[M].New York:Marcel Dekker,1994.

[3] 張偉平. 貝葉斯線性無偏估計[D]. 合肥:中國科技大學, 2005.

[4] Kariya T,Kurata H. A maximal extension of the Guass-Markov theorem and its nonlinear version[J].J Multivariate Anal, 2002, 83：37-55.

[5] 劉湘蓉. 最小二乘估計關于誤差分布的穩健性[J]. 應用概率統計, 2006, 22(4)：429-437.

[6] 邱紅兵, 羅季.線性模型中廣義最小二乘估計關于誤差分布的穩健性[J]. 吉林大學學報:理學版, 2009, 47(1)：13-16.

[7] 邱紅兵, 羅季.Gauss-Markov估計關于誤差分布的穩健性[J]. 應用概率統計, 2010, 26(6)：615-622.

[8] 韋來生. 錯誤先驗假定下回歸系數Bayes估計的小樣本性質[J]. 應用概率統計, 2000, 6(1)：71-80.

[9] 霍涉云, 張偉平, 韋來生. 一類線性模型參數的Bayes估計及其優良性[J]. 中國科學技術大學學報, 2007, 37(7)：773-776.

[10] 張偉平, 韋來生. 錯誤先驗假設下Bayes線性無偏估計的穩健性[J]. 應用概率統計, 2007, 23(1)：59-67.