一、概念
最大似然估计
- 假设观察的变量是
,观察的变量取值为
,要估计的参数是
,x的分布函数是
,意思是x的分布依赖于
的取值。
- 最大似然估计的似然指的是“事件发生的可能性”,最大则是要找到一个参数使得这个可能性最大。一般而言多次取样的得到的变量x是独立分布的,则n次取样的联合分布概率为连乘:
- 那么我们需要找到的就是使得这个联合概率最大的参数
,一般都会取对应的对数形式:
- 具体求解的时候,对
求导,令导数为0,求出
- 那么我们需要找到的就是使得这个联合概率最大的参数
二、我的理解
![](https://img.haomeiwen.com/i11365552/04c1609fc5c525a1.png)
- 看这张图片,我们不知道红色这8个点的分布到底是什么,假设是服从正态分布的(其实这8个点就是生成服从正态分布的8个随机点)
- 我们现在要去估计正态分布的两个参数
,我们就需要假设这红色的点是这个正态分布中出现的概率很大的点,而不是只会5%概率出现的点,(不会刚好那么背就抽到只会有5%概率出现的点吧),因为如果这些点出现的概率很大,那么我们就更有可能抽到这些点
- 所以我们就要假设这些点出现的概率最大来进行参数预估。我们预估出来的
很可能0,因为只有均值为0的时候,这些点出现的概率会最大
- 这一切的前提都是假设是服从正态分布的
三、一个例子
我们有样本1,2,3,请问最有可能服从均匀分布的哪一个?
A.[0,5]均匀分布 B.[0,3]均匀分布
当然是B,因为在B的情况下,这三个样本出现的概率才会最大。
网友评论