极大似然估计，英文名称为Maximum Likelihood Method，简称MLE。在统计中应用很广。这个方法的思想最早由高斯提出来，后来由菲舍加以推广并命名。
极大似然估计主要是在讲一件什么事情呢？
给定一组数据和一个参数待定的模型，如何确定模型的参数，使得这个确定参数后的模型在所有模型中产生已知数据的概率最 大。
简单一点讲就是：在什么情况下，当前事件发生的可能性最大。
来自百度百科的一个例子
设甲箱中有99个白球，1个黑球；乙箱中有1个白球．99个黑球。现随机取出一箱，再从抽取的一箱中随机取出一球，结果是黑球，这一黑球从乙箱抽取的概率比从甲箱抽取的概率大得多，这时我们自然更多地相信这个黑球是取自乙箱的。一般说来，事件A发生的概率与某一未知参数有关，取值不同，则事件A发生的概率也不同，当我们在一次试验中事件A发生了，则认为此时的值应是t的一切可能取值中使达到最大的那一个，极大似然估计法就是要选取这样的\theta值作为参数\theta的估计值，使所选取的样本在被选的总体中出现的可能性为最大。
求解极大似然的步骤
.求极大似然函数估计值的一般步骤：
- 写出似然函数
- 对似然函数取对数
- 求导数
- 解似然方程
一个例子
抛硬币，记录抛到正面的概率为p，抛到反面的概率为1-p，现在一共抛了5次，三次为正面，两次为反面，利用极大似然的思想解释p取何值时，发生上述情况的可能性最大？
记三次为正面，两次为反面此情况为S，给出的模型为M，
P(S|M)=P(x_1,x_2,x_3,x_4,x_5|M) = P (x_1|M)P (x_2|M)P (x_3|M)P (x_4|M)P (x_5|M)
则：
P(S|M) = p^3(1-p)^2
对上述公式求导，并令其等于0，则p=0.6。即当p为0.6时，投五次硬币，三次为正面，两次为反面发生的可能性最大。
网友评论