附录E：概率论之随机变量的数字特征

作者: 秋的懵懂 | 来源:发表于2018-09-12 14:00 被阅读0次

时间：2018-09-11 作者：魏文应

一、数学期望

平均值 我们给一个文艺一点的名字，把平均值叫做 数学期望。随机变量 $X$ 的数学期望，记为 $E(X)$ ：

$E(X) = \sum_{k = 1}^{\infty}{x_k p_k}$

其中 $p_k$ 是发生 $X = x_k$ 时的概率。如果 $X$ 是连续型随机变量，那么可以表示成定积分的样子：

$E(X) = \int_{-\infty}^{\infty} f(x) \mathrm{d}x$

数学期望有以下几个重要性质（详细推理参考课本）：

设 $C$ 是常数，则有 $E(C) = C$ 。

设 $X$ 是一个随机变量， $C$ 是常数，则有：
$E(CX) = C E(X)$

设 $X$ 、 $Y$ 是两个随机变量，则有：
$E(X+Y) = E(X) + E(Y)$

设 $X$ 、 $Y$ 是两个 相互独立 的随机变量，则有：
$E(XY) = E(X)E(Y)$

二、方差

你每天吃午饭的时间，大约是12点，也就是平均值为 $E(X) = 12$ 。但你每天吃饭肯定不是准点的12点，而是和12点有点偏差。求这个偏差的平均值：

$E\{ | X - E(X)| \} = \frac{1}{N} \sum_{k = 1}^{N}( |x_k-12| )$

上面绝对值运算不方便，我们把它变成平方的形式：

$E\{ [ X - E(X) ]^2 \}$

这个就是 $X$ 的方差，主要用来描述随机变量 $X$ 与平均值 $E(X)$ 的偏离程度。把它记为下面的形式：

$D(X) = E\{ [ X - E(X) ]^2 \}$

把方差进行开方运算得到 $\sqrt{D(X)}$ ，记为 $\sigma{(X)}$ 称为 标准差 或者 均方差 。离散型变量的方差可以这么计算：

$D(X) = \sum_{k=1}^{\infty}[x_k - E(X)]^2 p_k$

连续型变量可以这么计算：

$D(X) = \int_{-\infty}^{\infty} [x_k - E(X) ]f(x)\mathrm{d}x$

当然，方差可以变换，用下面公式计算比较方便：

$D(X) = E\{ [X - E(X)]^2 \} = E(X^2) - [E(X)]^2$

上面公式的意思，就是对 $X^2$ 求平均值，减去 $X$ 平均值的平方，就得到了方差 $D(X)$ 。方差有几个 重要的性质：

设 $C$ 是常数，则 $D(C) = 0$ 。

设 $X$ 是随机变量， $C$ 是常数，则有：
$D(CX) = C^2 D(X)$

$D(X + C) = D(X)$

设 $X$ 、 $Y$ 是两个随机变量，则有：
$D(X+Y)= D(X) + D(Y) + 2E \{ (X-E(X)) (Y - E(Y)) \}$ 当 $X$ 、 $Y$ 相互独立 时，则有：
$D(X+Y)= D(X) + D(Y)$

$D(X) = 0$ 的 充要条件 是 $X$ 以概率 1 取常数 $E(X)$ ，即：
$P\{X = E(X)\} = 1$