最大似然估計(jì)法的思想及其應(yīng)用

李 娜 于曉要

（商丘工學(xué)院基礎(chǔ)教學(xué)部，河南 商丘 476000）

1 引言

在數(shù)理統(tǒng)計(jì)中，參數(shù)估計(jì)是統(tǒng)計(jì)推斷的基本問(wèn)題之一.當(dāng)總體的分布類(lèi)型已知，但含有一個(gè)或多個(gè)未知參數(shù)時(shí)，如何求出未知參數(shù)的估計(jì)值或估計(jì)出未知參數(shù)的取值范圍的一類(lèi)問(wèn)題，即是參數(shù)估計(jì)問(wèn)題.參數(shù)估計(jì)一般有兩種形式：其一是通過(guò)總體的一組樣本X1,X2,… ,Xn所提供的信息，來(lái)求出未知參數(shù)θ的估計(jì)值，這就是一類(lèi)點(diǎn)估計(jì)問(wèn)題；其二是通過(guò)樣本尋求一個(gè)區(qū)間使它有一定的把握包含被估的參數(shù)，此類(lèi)即為區(qū)間估計(jì)問(wèn)題.求點(diǎn)估計(jì)的方法很多，最常用的是矩估計(jì)法與最大似然估計(jì)法.本文介紹最大似然估計(jì)法的基本思想及其應(yīng)用.

2 最大似然估計(jì)法的思想及其應(yīng)用

最大似然估計(jì)法是參數(shù)點(diǎn)估計(jì)中一種重要方法，它的思想是由著名數(shù)學(xué)家高斯提出，后被統(tǒng)計(jì)學(xué)家費(fèi)希爾（R.A.Figher）于1912年在一項(xiàng)工作中應(yīng)用并得到證明.

最大似然估計(jì)法的直觀想法是：在條件未知的隨機(jī)試驗(yàn)中，如果某事件已經(jīng)發(fā)生，則根據(jù)事件發(fā)生的概率最大原則去推斷試驗(yàn)條件。即：在已經(jīng)得到試驗(yàn)結(jié)果的條件下，應(yīng)該尋找使這個(gè)結(jié)果出現(xiàn)的概率最大的那個(gè)估計(jì)作為總體未知參數(shù)的估計(jì)。

若總體X屬離散型，其分布律P{X=x}=p(x;θ)，θ∈Θ的形式為已知，θ為待估參數(shù)，Θ是θ可能取值范圍.設(shè)X1,X2,… ,Xn為來(lái)自總體X樣本，則X1,X2,… ,Xn的聯(lián)合分布律為

又設(shè)x1,x2,… ,xn是相應(yīng)于樣本X1,X2,… ,Xn的一個(gè)樣本值.易知樣本取到觀察值x1,x2,… ,xn的概率，亦即事件發(fā)生的概率為

這一概率隨θ的取值而變化，它是θ的函數(shù)，L(θ)稱(chēng)為樣本的似然函數(shù)（這里x1,x2,… ,xn是已知的樣本值，它們都是常數(shù)）.

若總體X屬連續(xù)型，其概率密度f(wàn)(x;θ)，θ∈Θ的形式為已知，θ為待估參數(shù)，Θ是θ可能取值范圍.設(shè)X1,X2,… ,Xn為來(lái)自總體X樣本，則的聯(lián)合密度為即為樣本的似然函數(shù)L(θ).

于是求總體參數(shù)θ的最大似然估計(jì)值，就轉(zhuǎn)化為求似然函數(shù)L(θ)的最大值問(wèn)題.因此當(dāng)L(θ)關(guān)于θ可微時(shí)，常可從方程解得.又因L(θ)與lnL(θ)在同一處取到極值，因此，θ的最大似然估計(jì)也可從方程求得，而后一方程求解往往比較簡(jiǎn)便.稱(chēng)為對(duì)數(shù)似然方程.結(jié)合以上分析，我們可得到求最大似然估計(jì)的步驟：

例1 設(shè)總體X服從參數(shù)為λ的泊松分布，其中λ＞0為未知參數(shù)，是來(lái)自總體X的樣本，求參數(shù)λ的最大似然估計(jì)量.

關(guān)于λ求導(dǎo)，并令其為0，即

解得λ的最大似然估計(jì)值，

λ的最大似然估計(jì)量，

最大似然估計(jì)法也適用于分布中含多個(gè)未知參數(shù)θ1,θ2,…,θk的情況.這時(shí)，似然函數(shù)L是這些未知參數(shù)的函數(shù).分別令

解上述k個(gè)方程組，即可得到各未知參數(shù)的最大似然估計(jì)值.

例2 設(shè)X～N(μ,σ2)，μ,σ2均為未知參數(shù)，x1,x2,… ,xn是來(lái)自總體X的樣本值.求μ,σ2的最大似然估計(jì)量.

解X的概率密度為

似然函數(shù)為

3 結(jié)束語(yǔ)

最大似然估計(jì)法是參數(shù)點(diǎn)估計(jì)中一種重要方法，它是在已經(jīng)得到試驗(yàn)結(jié)果的條件下, 應(yīng)該尋找使這個(gè)結(jié)果出現(xiàn)的概率最大的那個(gè)參數(shù)值作為總體未知參數(shù)的估計(jì)值.在一定條件下，只要樣本容量足夠大，最大似然估計(jì)與待估的未知參數(shù)的真值可相差任意小，最大似然估計(jì)法是較理想的估計(jì)方法.