廣義線性模型擬似然估計的弱相合性

張 戈，吳黎軍

(新疆大學數學與系統科學學院，烏魯木齊 830046)

1 主要結果

廣義線性模型(GLM)的理論是對線性模型的經典理論的重要推廣，自從Nelder和Wedderburn［1］引入以來，已被廣泛應用到許多領域。

設q×1維響應變量yi是相互獨立的，協變量Xi是已知的p×q階設計陣，yi服從指數分布:

其中

然而，在很多情形下，假定yi服從指數分布是不切實際的。事實上，只要均值函數假定正確，就可以預先假定響應變量的“工作分布”，進而用“工作方差”Λ(·)替換式(2)中的真實方差∑(·)，并保留響應變量獨立的假設，便可以得到擬似然方程:

方程Ln(β)=0的根稱作β0的擬極大似然估計。

關于廣義線性模型的極大似然估計或極大擬似然估計的大樣本性質在相關文獻中已有不少討論［1-4］。張三國，廖原［4］在假定誤差方差有界的條件下研究了擬似然估計的弱相合性，但他們只討論了典則聯結的情形。本文在他們研究的基礎上進一步推廣到非典則聯結情況下的弱相合性，并得到了與典則聯結一樣的結論，即的弱相合的必要條件。

本文所用到的c在不同的位置代表不同的正常數，‖·‖表示Euclid模，記{ei=yi-h(X'iβ0)，i=1，…，n}為殘差表示方陣的最大(小)特征值。

對一維響應變量，列出所需假設條件如下:

1)Xi有界;

2)對每個 t∈Rq，Λ(t)＞0，det(t)≠0，Λ(t)一階偏導連續，h(t)的二階偏導連續;

4){ei}不含漸近退化子列;

主要結果表述為下面的2個定理:

定理1 若條件1)、2)、4)和5)成立，則可以得到如下收斂速度

2 定理的證明

引理1［5］假設獨立隨機變量序列{ξi，i≥1}不含漸近退化的子列。設cn1，…，cnn和bn為常數，使得當n→∞時，依概率有，則當 n → ∞ 時

定理1的證明

以不小于1-ε'n的概率成立。記

由式(4)以及引理1，存在常數序列ε″n↓0，使得

等價于

以不小于1-ε″n的概率成立，再由≤-1，有

以不小于1-ε″n的概率成立，又由于對任意p維單位向量an，

以不小于1-ε″n的概率成立。由式(8)、條件5)以及λmax()≤c2λn，可得

即

另一方面，記

由 Ln)=0 有

這樣，對任意的p維單位向量an，

對任意依概率滿足

的序列{an，n≥1}，令這里序列{an，n≥1}的存在性由條件2)保證)。記

?Mn表示Mn的邊界。由于則有記從而

這說明

即，當n→∞時，依概率有

再由引理1，對任意單位向量an依概率有

特別取an為對應特征值的單位向量，由于，有

與式(14)矛盾。

引理2［4］對響應變量一維的線性回歸模型yi=X'iγ0+ei，(1≤i≤n，n≥1)，其中誤差{ei}滿足條件4，γ0的最小二乘估計為此處若單位向量a1，a2… 使得，則依概率有 a'n- γ0)→/0。

定理2的證明

矩陣Rn和的定義與定理1中的證明一樣，有

這樣，當n充分大時，以概率1有

即

另一方面，

由式(16)得

［1］Nelder J A，Wedderburn R W M.Generalized linear model［J］.J Roy Statist Soc Ser A，1972，135(3):370-384.

［2］Fahrmeir L，Kaufmann H.Consistency and asymptotic normality of the maximum likelihood estimator in generalized linear models［J］.Ann Statist，11985，3(1):342-368.

［3］Yin C M，Zhao L C.Strong consistency of maximum quasi-likelihood estimate in generalized linear models［J］.Sci China Ser-A-Math，2005，48(8):1009-1014.

［4］張三國，廖原.關于廣義線性模型擬似然估計弱相合性的幾個問題［J］.中國科學A輯:數學，2007，37(11):1368-1376.

［5］陳希孺.線性模型參數的估計理論［M］.北京:科學出版社，1985.