美文网首页
<机器学习> EM算法

<机器学习> EM算法

作者: bobby96 | 来源:发表于2019-03-25 11:10 被阅读0次

文章参考来源:

CS229和PRML中关于EM的推导的过程。

文章内容:

1. 不考虑数据点独立性的EM算法

  • E步和M步骤内容
  • 收敛性证明(利用了jesson不等式以及KL散度)
  • Q函数的自然导出

2. 考虑数据点独立性的EM算法

  • E步和M步骤内容
  • 收敛性证明(利用了jesson不等式以及KL散度)
  • Q函数的自然导出

3. 将考虑数据点独立性的EM应用到GMM的参数估计上

  • Q函数导出
  • 迭代更新公式
  • 多元高斯分布常用求导公式
0002.jpg

相关文章

  • LDA 与 LSA、PLSA、NMF相比

    “pLSA模型的作者Thomas Hoffmann提出的机器学习算法是EM。EM是各种机器学习inference算...

  • EM算法及实现

    周志华老师在《机器学习》里这样评价 EM算法:EM算法是最常见的隐变量估计方法,在机器学习里有着极为广泛的用途,例...

  • <机器学习> EM算法

    文章参考来源: CS229和PRML中关于EM的推导的过程。 文章内容: 1. 不考虑数据点独立性的EM算法 E步...

  • 机器学习:EM 算法

    EM 算法(Expectation Maximization 期望最大化)是一种迭代算法,用于含有隐变量的概率模型...

  • EM 算法

    参考: 从最大似然到EM算法浅解 (EM算法)The EM Algorithm EM算法及其推广学习笔记 EM算法...

  • 再学习EM算法

    EM 算法是十大经典的机器学习算法,【PS:MC是二十世纪十大算法】 回顾下经典的EM算法,对其理解加深 1. 学...

  • 期望最大化:迭代进化

    一,timg.jpg Expectation Maximization(EM)。这是今天各种机器学习算法重要的理论...

  • 机器学习算法之EM算法

    例子:现在随机抽取100个人的身高;其中男生身高服从N1 的正态分布,女生服从N2的正态分布; 如果我们很明确知道...

  • 机器学习(16)——EM算法

    算法思想:含有隐变量的极大似然估计 我们经常会从样本观察数据中,找出样本的模型参数。 最常用的方法就是极大化模型分...

  • 机器学习系列-EM算法

    引子 三硬币模型 EM算法 三硬币模型的算法实现 高斯混合模型 总结

网友评论

      本文标题:<机器学习> EM算法

      本文链接:https://www.haomeiwen.com/subject/roipvqtx.html