极大似然概率

作者: zidea | 来源:发表于2019-12-18 20:43 被阅读0次
    MachineLearninginMarketing

    EM 算法

    • 极大似然函数
      极大似然估计是机器学习中比较重要的概念,一些专业教程往往容易忽略对其解释。在开始介绍前,我们需要先理解一下似然,似然也就是像这样的意义,也就是想这样(你看到的或是观察到的结果或数据)的可能性。例如身高175cm,体重60kg 根据数据。我们来估计他是男生概率。
      极大似然估计是一种统计学的方法,我们用已知的样本数据分布去推测具体的分布情况。

    其实统计学,我们通过不同概率分布来进行推测数据分布,在正态分布形状是由\mu,\sigma来确定的。我们通过现有数据来估计分布参数\mu,\sigma

    使用极大似然估计方法的两个条件
    1.已知样本数据服从某种的分布。
    2.样本数据。

    这里有两个参数,期望 μ决定了分布图形在坐标轴中的位置,σ决定了分布图形的幅度。(正态分布的图像根据参数都会有不一样的形态)

    • 期望: 就是数据样本的均值
    • 方差: 就是每一个样本距离均值距离求和的均值
      \frac{1}{N} \sum_{i=1}^N(x_i - x)^2
      var(X) = E[X - E(X)]^2
    • 标准差:是方差开平方根
      \sqrt{\frac{1}{N}\sum_{i=1}^N(x_i - x)^2}

    max p(\theta_i|X) = \max \frac{P(X|\theta_i)P(\theta_i)}{p(X)}

    1. 我们的极大似然估计是基于贝叶斯公式
      \begin{aligned} \max (p(X|\theta_i)p(\theta_1))\\ \max p(x|\theta_i)\\ \end{aligned}
    2. 在上面公式中p(X)样本概率是固定的,其他归一化作用所以可以省略,p(\theta_i)是,先验概率\theta_1,\theta_2,\dots,\theta_n

    相关文章

      网友评论

        本文标题:极大似然概率

        本文链接:https://www.haomeiwen.com/subject/ypfpnctx.html