<机器学习> EM算法

文章参考来源：

CS229和PRML中关于EM的推导的过程。

文章内容：

1. 不考虑数据点独立性的EM算法

• E步和M步骤内容
• 收敛性证明（利用了jesson不等式以及KL散度）
• Q函数的自然导出

2. 考虑数据点独立性的EM算法

• E步和M步骤内容
• 收敛性证明（利用了jesson不等式以及KL散度）
• Q函数的自然导出

3. 将考虑数据点独立性的EM应用到GMM的参数估计上

• Q函数导出
• 迭代更新公式
• 多元高斯分布常用求导公式

0002.jpg