Last updated 5 years ago
Was this helpful?
极大似然估计,
极大似然估计是建立在极大似然原理的基础上的一个统计方法,是概率论在统计学中的应用。
极大似然估计提供了一种给定观察数据来评估模型参数的方法,即:“模型已定,参数未知”。
通过若干次试验,观察其结果,利用试验结果得到某个参数值能够使样本出现的概率为最大,则称为极大似然估计。
Edit By Porter, 积水成渊,蛟龙生焉。
由于样本集中的样本都是独立同分布,可以只考虑一类样本集D,来估计参数向量θ。记已知的样本集为:
如果 $\hat{\theta}$是参数空间中能使似然函数$l(\theta)$最大的θ值,$\hat{\theta}$则应该是“最可能”的参数值,那么 $\hat{\theta}$ 就是θ的极大似然估计量。它是样本集的函数,记作:
I 为指示函数,上式的分子,表示$y{i}=c{k}$时的统计次数,分母表示一共有多少个样本。
D=x1,x2,...,xND={x_{1}, x_{2},..., x_{N}}D=x1,x2,...,xN
似然函数(linkehood function):联合概率密度函数$P(D|\theta )$称为相对于x1,x2,...,xN{x_{1}, x_{2},..., x_{N}}x1,x2,...,xN的$\theta$的似然函数。
θ^=d(x1,x2,...,xxN)=d(D)\hat{\theta}=d(x_{1},x_{2},...,xx_{N})=d(D)θ^=d(x1,x2,...,xxN)=d(D)
θ(x1,x2,...,xxN)\theta(x_{1},x_{2},...,xx_{N})θ(x1,x2,...,xxN),称为极大似然估计值
参考文献1: 参考文档来源2: