PRML 习题2.9的理解

题目要求：用归纳法证明公式2.38是归一后的Dirichlet概率分布形式

想了很久没明白，于是果断看答案。个人最难理解的是这块：

截图自Pattern Recognition and Machine Learning Solutions to the Exercises: Tutors’ Edition

非常不能理解积分上限的取值。根据Dirichlet的特性，sum_{j=1}^{M}\mu_j = 1， 那么 \mu_{M-1}可取范围应该是(0, 1-sum_{j=1}^{M-2} - \mu_M)。

我的疑惑在于为什么积分掉第M个变量之后，P_{M-1}仍然是个Dirichlet。换句话说，为什么积分之后的边缘概率的变量之间仍然能保证如下性质：

(能不能在文中插入Latex啊啊啊)

查阅了一些资料之后，找到两点间接证明：

• Beta分布是Dirichlet的M=2的特殊情况，假设题中M=3， 那么就很好理解
• 来自网上的资料，245页介绍Dirichlet分布的最后一段，显然还是个草稿，截图如下：
  Roger Levy – Probabilistic Models in the Study of Language draft, November 6, 2012

简单地应用一下第二点就是，从P_{M-1}推导到P_{M}，如果P_{M-1}符合Dirichlet分布，那么我可以把第M-1类拆分成第{M-1}和第{M}类，拆分后得到的P_{M}仍然符合Dirichlet分布。从最后证明的结果也可以看出第{M-1}个变量对应的参数是等于\alpha_{M-1} + \alpha_{M}的。

另外发现一个对Dirichlet分布中参数的解释，可以加深理解Beta和Dirichlet分布在贝叶斯推论中的理解：https://stats.stackexchange.com/questions/244917/what-exactly-is-the-alpha-in-the-dirichlet-distribution