最近因为学习变分贝叶斯,里面涉及到 KL 散度的概念,于是找到几篇讲解非常到位的文章。
相信看完后可以对 KL 散度有个清晰的认识。
- Kullback-Leibler Divergence Explained
- Light on Math Machine Learning: Intuitive Guide to Understanding KL Divergence
- 如何直观地理解KL散度?(第二个文章的中文版)
- KL 散度的理解
- 理论篇:快速了解Jensen's Inequality与KL散度
其实只看第三篇中文版就够了。时间充足的话可以再多多学习。
网友评论