3.3 多维随机变量的分布 - 离散的情况

作者: Megahorn | 来源:发表于2019-05-31 16:17 被阅读0次

离散的情况

离散场合的卷积公式
$X,Y$ 相互独立，对任意非负整数k，有
$P(Z=k)=\sum_{i=0}^{k}P(X=i)P(Y=k-i)$
该公式被称为离散情况下的卷积公式

泊松分布的可加性（例3.3.2）：设随机变量 $X\sim P(λ_1),Y\sim P(λ_2)$ ，且X与Y独立，则 $Z=X+Y\sim P(λ_1+λ_2)$
证明：
由以下已知条件：

Z=X+Y可取0,1,2,…所有非负整数；
事件 $\left\{Z=k\right\}$ 是如下诸互不相容事件的并；
$\left\{X=i,Y=k-i\right\},\quad i=0,1,…,k$
由于 $X,Y$ 相互独立，对任意非负整数k，有
$P(Z=k)=\sum_{i=0}^{k}P(X=i)P(Y=k-i)$
该公式被称为离散情况下的卷积公式。

由以上条件可得：
$P(Z=k)=\sum_{i=0}^{k}(\frac{\lambda_{1}^{i}}{i!}e^{-\lambda_1})(\frac{\lambda_{2}^{k-i}}{(k-i)!}e^{-\lambda_2})$
$\qquad \quad \quad =(e^{-\lambda_1})(e^{-\lambda_2})\sum_{i=0}^{k}\frac{\lambda_{1}^{i}\lambda_{2}^{k-i}}{i!(k-i)!}$
$\qquad \quad \quad =e^{-(\lambda_1+\lambda_2)}\sum_{i=0}^{k}\frac{1}{i!(k-i)!}\frac{(\lambda_{1}^{i}\lambda_{2}^{k-i}){(\lambda_1+\lambda_2)^k}}{(\lambda_1+\lambda_2)^k}$
$\qquad \quad \quad =e^{-(\lambda_1+\lambda_2)}(\lambda_1+\lambda_2)^k \sum_{i=0}^{k}\frac{k!}{k!i!(k-i)!}\frac{\lambda_{1}^{i}\lambda_{2}^{k-i}}{(\lambda_1+\lambda_2)^k}$
$\qquad \quad \quad =e^{-(\lambda_1+\lambda_2)}(\lambda_1+\lambda_2)^k \frac{1}{k!} \sum_{i=0}^{k}\frac{k!}{i!(k-i)!}\frac{\lambda_{1}^{i}\lambda_{2}^{k-i}}{(\lambda_1+\lambda_2)^k}$
$\qquad \quad \quad =e^{-(\lambda_1+\lambda_2)} \frac{(\lambda_1+\lambda_2)^k}{k!} \sum_{i=0}^{k}\underbrace{ \binom{k}{i}\frac{\lambda_1^i}{(\lambda_1+\lambda_2)^i}\frac{\lambda_2^{k-i}}{(\lambda_1+\lambda_2)^{k-i}}}_{二项式[\frac{\lambda_1}{\lambda_1+\lambda_2}+(1-\frac{\lambda_1}{\lambda_1+\lambda_2})]^k的展开式的第i项}$
$\qquad \quad \quad =e^{-(\lambda_1+\lambda_2)} \frac{(\lambda_1+\lambda_2)^k}{k!}\sum_{i=0}^{k}(1)^k$
$\qquad \quad \quad =e^{-(\lambda_1+\lambda_2)} \frac{(\lambda_1+\lambda_2)^k}{k!}$
所以 $X+Y\sim P(\lambda_1+\lambda_2)$
$Q.E.D.$

以上性质被叙述为：泊松分布的卷积仍是泊松分布，并记为 $P(\lambda_1)*P(\lambda_2)=P(\lambda_1+\lambda_2)$
这里卷积是指寻求两个独立随机变量的和的分布的运算，这个性质可以推广到
有限个独立泊松变量之和的分布上，即
$P(\lambda_1)*P(\lambda_2)*…*P(\lambda_n)=P(\lambda_1+\lambda_2+…+\lambda_n)$
当 $\lambda_1=\lambda_2=…=\lambda_n=\lambda$ ，有
$P(\lambda)*P(\lambda)*…*P(\lambda)=P(n \lambda)$

二项分布的可加性（例3.3.3）：设随机变量 $X\sim b(n,p),Y\sim b(m,p)$ ，且 $X,Y$ 独立，则 $Z=X+Y\sim b(n+m,p)$
证明：
由以下已知条件：

$Z=X+Y$ 可取 $0,1,2,…,n+m$ 等 $n+m+1$ 个不同的值；
由于 $X,Y$ 相互独立，对任意非负整数k，有
$P(Z=k)=\sum_{i=0}^{k}P(X=i)P(Y=k-i)$
该公式被称为离散情况下的卷积公式；
在二项分布中，上式中有些事件是不可能事件
1)当 $i>n$ 时， $\left\{X=i \right\}$ 是不可能事件，所以只需考虑 $i\leqslant n$
2)当 $k-i>m$ 时， $\left\{Y=k-i \right\}$ 是不可能事件，所以只需考虑 $i\geqslant k-m$
因此记 $a=max\left\{0,k-m\right\},\quad b=min\left\{n,k\right\}$
即只需考虑 $a\leqslant i \leqslant b$ 的情况

由以上条件可得：
$P(Z=k)=\sum_{i=a}^{b}P(X=i)P(Y=k-i) \quad$
$\qquad \quad \quad =\sum_{i=a}^{b}\binom{n}{i}p^{i}(1-p)^{n-i}\cdot \binom{m}{k-i}p^{k-i}(1-p)^{m-(k-i)}$
$\qquad \quad \quad =p^{k}(1-p)^{n+m-k}\sum_{i=a}^{b}\binom{n}{i}\binom{m}{k-i}$
利用超几何分布可证明上式乘积的和满足：
$\sum_{i=a}^{b}\frac{\binom{n}{i}\binom{m}{k-i}}{\binom{n+m}{k}}=1$ 即
$\sum_{i=a}^{b}\binom{n}{i}\binom{m}{k-i}=\binom{n+m}{k}$
代入原式，得
$P(Z=k)=\binom{n+m}{k}p^{k}(1-p)^{n+m-k},\quad k=0,1,…,n+m$
所以 $Z=X+Y \sim b(n+m,p)$
$Q.E.D.$

即在参数p相同的情况下，二项分布的卷积仍是二项分布，即
$b(n,p)*b(m,p)=b(n+m,p)$ .
这个性质可以推广到有限个场合，即
$b(n_1,p)*b(n_2,p)*…*b(n_k,p)=b(n_1+n_2+…+n_k,p)$
特别当 $n_1=n_2=…=n_k=1$ 时，有
$b(1,p)*b(2,p)*…*b(k,p)=b(n,p)$
这表明：如果 $X_1,X_2,…,X_n$ 独立同分布，都服从 $b(1,p)$ 分布，则其和 $\sum_{i=1}^{n}X_i\sim b(n,p)$ .
或者说，服从二项分布 $b(n,p)$ 的随机变量可以分解成n个相互独立的 $0-1$ 分布的随机变量之和。

最大值与最小值的分布

最大值分布（例3.3.4）：设 $X_1,X_2,…,X_n$ 是相互独立的n个随机变量，若 $Y=max\left\{ X_1,X_2,…,X_n \right\}$ .
试在以下情况下求Y的分布：

$X_i\sim F_i(x),i=1,2,…,n$ ;
诸 $X_i$ 同分布，即 $X_i\sim F(x),i=1,2,…,n$
诸 $X_i$ 为连续随机变量，且诸 $X_i$ 同分;布，即 $X_i$ 的密度函数均为 $p(x),i=1,2,…,n$ ;
$X_i\sim Exp(\lambda),i=1,2,…,n$ .

解：

$Y=max\left\{ X_1,X_2,…,X_n \right\}$ 的分布函数为
$F_Y(y)=P(max\left\{ X_1,X_2,…,X_n \right\}\leqslant y)$
$\qquad \quad =P(X_1\leqslant y,X_2\leqslant y,…,X_n\leqslant y)$
$\qquad \quad =P(X_1\leqslant y)P(X_2\leqslant y)…P(X_n\leqslant y)$
$\qquad \quad =\prod_{i=1}^{n}F_i(y)$
将 $X_i$ 的共同分布函数 $F(x)$ 代入上式得
$F_Y(y)=[F(y)]^n$ .
$Y$ 的分布函数仍为上式，密度函数可对上式关于 $y$ 求导得
$p_Y(y)={F}'_Y(y)=n[F(y)]^{n-1}p(y)$
将 $Exp(\lambda)$ 的分布函数和密度函数代入2/3式中，得
$F_Y(y)=\left\{\begin{matrix} 0,\qquad \qquad \quad y<0\\ (1-e^{-\lambda y})^n,\quad y\geqslant 0 \end{matrix}\right.$
$p_Y(y)=\left\{\begin{matrix} 0,\qquad \qquad \qquad \quad y<0\\ n(1-e^{-\lambda y})\lambda e^{- \lambda y},y\geqslant 0 \end{matrix}\right.$

最小值分布（例3.3.5）：
设 $X_1,X_2,…,X_n$ 是相互独立的 $n$ 个随机变量，若 $Y=min\left\{ X_1,X_2,…,X_n \right\}$ 。试在以下情况求 $Y$ 的分布：

$X_i\sim F_i(x),i=1,2,…,n$ ;
诸 $X_i$ 同分布，即 $X_i\sim F(x),i=1,2,…,n$
诸 $X_i$ 为连续随机变量，且诸 $X_i$ 同分;布，即 $X_i$ 的密度函数均为 $p(x),i=1,2,…,n$ ;
$X_i\sim Exp(\lambda),i=1,2,…,n$ .

解：

$Y=min\left\{ X_1,X_2,…,X_n \right\}$ 的分布函数为
$F_Y(y)=P(min\left\{ X_1,X_2,…,X_n \right\}\leqslant y)$
$\qquad \quad =1-P(min\left\{ X_1,X_2,…,X_n \right\}> y)$
$\qquad \quad =1-P(X_1> y,X_2> y,…,X_n> y)$
$\qquad \quad =1-P(X_1> y)P(X_2> y)…P(X_n> y)$
$\qquad \quad =1-\prod_{i=1}^{n}[1-F_i(y)]$
将 $X_i$ 的共同分布函数 $F(x)$ 代入上式得
$F_Y(y)=1-[1-F(y)]^n$ .
$Y$ 的分布函数仍为上式，密度函数可对上式关于 $y$ 求导得
$p_Y(y)={F}'_Y(y)=n[1-F(y)]^{n-1}p(y)$
将 $Exp(\lambda)$ 的分布函数和密度函数代入2/3式中，得
$F_Y(y)=\left\{\begin{matrix} 0,\qquad \qquad \quad y<0\\ 1-e^{-n \lambda y},\quad y\geqslant 0 \end{matrix}\right.$
$p_Y(y)=\left\{\begin{matrix} 0,\qquad \quad y<0\\ n \lambda e^{-n{\lambda}{y}},y\geqslant 0 \end{matrix}\right.$