假设可观测到的变量集合为 X,需要预测的变量集合为 Y,其他变量集合为 Z。
生成式模型是对联合概率分布 P(X,Y,Z) 进行建模,在给定观测集合 X 的条件下,通过计算边缘分布来得到对集合 Y 的推断,即:
image.png判别式模型是直接对条件概率分布 P(Y,Z|X)进行建模,然后消掉无关变量 Z 就可以得到对变量集合 Y 的预测,即:
image.png常见的概率图模型:
- 朴素贝叶斯
- 最大熵模型
- 贝叶斯网络
- 隐马尔可夫
- 条件随机场
- pLSA
- LDA
- ....
生成式模型:
- 朴素贝叶斯
- 贝叶斯网络
- pLSA
- LDA
- 隐马尔可夫模型
判别式模型
- 最大熵模型
- 条件随机场
网友评论