如何求解参数的矩估与极大似然估计
一、矩估计
若统计量T作为总体参数(或g( ))的估计时,T就称为(或g( ))的估计量。 定义6.1矩估计量 设X1,X2,,Xn是总体X的样本,X的分布函数F(x:1,,k) 依赖于参数1,,k,假定X的r阶矩为EXrr(1,,k),
r1,,k,(或r阶中心矩)相应的样本矩记为Ar(X1,,Xn), 如下的k个议程
Ar(X1,,Xn)ar(1,,k),r1,,k (6.1) 的解,称为未知参数:1,,k的矩估计。
二、最(极)大似然估计
设总体X的密度函数f(x,),是参数或参数向量,X1,X2,,Xn是该总体的样本,对给定的一组观测值x1,x2,,xn,其联合密度是的函数,又称似然函数,记为:
L()L(,x1,,xn)k1f(xk,),
nˆˆ(x,,x), 使L(ˆ)L(),就称 其中为参数集,若存在1nˆ(X,,X)是的最大似然估计量。 ˆ(x1,,xn)是的最大似然估计值,而1n注:1)对给定的观测值,L()是的函数,最大似然估计的原理是选择使观测值
x1,x2,,xn出现的“概率”达到最大的ˆ作为的估计。
ˆ是的最大似然估计,则g()的最大似然估计2)最大似然估计具有不变性,即若ˆ)。但是,矩估计不具有不变性,例如假定X是的矩估计,一般情形下,2的矩估为g(计不是X。
1x1e1. 设总体ξ服从指数分布,其概率密度函数为f(x)020x,(θ>0)
x0试求参数θ的矩估计和极大似然估计.
x1e,x0解:的概率密度为fx;,0
0,x0n 似然函数为: L1exii1 1nn 1xi1xii1nene
i1而
lnLnln1nxi
i1 令
dlnLdn112nxi0
i1 得到:ˆ1nnxi=X
i1 因此得到参数的极大似然估计量为:ˆ1nnXii1矩估计求法如下: 因为1E
令A1n1nxi
i1则ˆ1nnxi
i1从而的矩估计量为ˆ1nnXi=X
i12. 设母体ξ具有指数分布,密度函数为f(x,)ex0试求参数λ的矩估计和极大似然估计. 解:参数的矩估计求法为:因为
0xx0,(λ>0)
1E令:
1
1nA1xi ni11ˆ则的矩估计量为:1A1nXi1n
i 极大似然估计求法如下:
ex,x0 的概率密度为fx,
0,x0 似然函数为: Lnei1inxi,x0
而lnLnlnxi1
dlnLnnxi0 令
di1ˆ 解得的极大似然估计量为:nxi1n
i3. 设总体X~N(μ,1), (X1,,Xn)为来自X的一个样本,试求参数μ的矩估计和最大似然估计.
解:矩估计求法为:
1EX
1n 令A1xi
ni11nˆxi 则ni1 极大似然估计求法为:
X的概率密度为: fx; 似然函数为:
L1e22x2
i1n1e2n2xi22
2e 而
1xi22i1n
n1n2 lnLln2xi
22i1 令
dlnL1n2xi0
d2i1 即
x0
ii1n1nˆxi 解得的极大似然估计量为:ni1