(概率论基础1)一维随机变量

作者: To_QT | 来源:发表于2019-04-27 20:32 被阅读0次

金融分析师CFADay3
1.4 概率基础
Python实现概率分布
(概率论基础1)一维随机变量
R语言数学统计相关函数2021.3.7
方差、标准差和均方根误差的区别总结
统计机器学习 -- 目录
$p(x|\theta)$与$p(y|x;\theta)$的区别
机器学习-概率论基础
概率论与数理统计笔记第二章随机变量及其概率分布

随机变量概念

随机变量与确定性变量的区别：

随机变量发生与否及其结果，随事件（试验结果）而定，人预先不可知。如彩票开奖等。
确定性变量：在发生之前即可知道结果。如在理想情况下（不考虑阻力风速等），一个人以 $v(m/s)$ 的速度前进， $t$ 秒后前进了多少米。

随机变量的分类：

离散型：掷骰子 ${1,2,3,4,5,6}$
连续型：电视机的寿命 $(0, \infty)$

离散型随机变量的分布

概率函数与分布函数定义

对于一个随机变量，人们更关注于取一个值的概率是多少，因此引入了概率函数。
定义：关于 $X$ 的概率函数，有
$\begin{align} p_i=P(X = a_i), i=1,2,... \tag{2.1} \end{align}$

某一事件概率的集合称为分布函数，定义：设 $X$ 为随机变量，则函数
$\begin{align} P(X \leq x) = F(x), -\infty<x<\infty \tag {2.2} \end{align}$
称为 $X$ 的分布函数。

分布函数的性质

$F(x)$ 是单调非降的，当 $(x_1 < x_2)$ 时，则有 $F(x_1) < F(x_2)$
当 $x \to \infty$ 时， $F(x)=1$ ，当 $x \to \infty$ 时，有 $F(x)=0$ 。

几种常见的分布

1、二项分布，记为 $X \sim F$

检查某厂产品次品率 $p$ 的大小，从中抽取若干件，检查次品数量 $X$ 的大小。
$\begin{align} p_i = b(i;n, p) = \binom{n}{i} (p)^{i}(1-p)^{n-i} \tag{3.1} \end{align}$

其中二项分布需要满足两个要求：
1.各次试验中的条件是稳定的，保证 $p$ 不会发生改变。
2.各个事件相互独立。

2、泊松分布，记为 $X \sim P(\lambda)$

$\begin{align} P(X=k)=\frac {\lambda ^{k}\cdot e^{-\lambda}}{k!} \tag{3.2} \end{align}$

泊松分布与二项分布之间的关系。
设所观察时间段为 $[0, 1)$ ，取一个很大的 $n$ ，则有 $l_1=[0,\frac{1}{n}), l_2=[\frac{1}{n}, \frac{2}{n}),..., l_n=[\frac{n-1}{n}, 1)$ 。假设：

在每段 $l_i$ 内，事件发生的概率与时间长度成正比,取 $p=\frac{\lambda}{n}$ 。那么，在 $n$ 很大的情况下，这么短时间内不可能同时发生两次事件。因此，在 $l_i$ 内不发生的概率为 $1-\frac{1}{n}$ 。
$l_1, l_2, ..., l_n$ 相互独立。
则有，在 $[0, 1)$ 内发生 $k$ 件事件的概率为：

$\begin{align} p_k \approx b(k;n, \frac{\lambda}{n}) = \binom{n}{k}(\frac{\lambda}{n})^{k}(1-\frac{\lambda}{n})^{n-k} \tag{3.3} \end{align}$
当 $n \to \infty$ 时：

$\binom{n}{k}(\frac{1}{n})^{k} \to \frac{1}{k!}$

$(1-\frac{\lambda}{n})^{n-k} \to e^{-\lambda}$

3、超几何分布

总共有 $N$ 件商品，里面有 $M$ 件次品，问取出得 $n$ 件商品中，含有 $m$ 件次品的概率。
$\begin{align} P(X=m) =\frac{\binom{M}{m} \binom{N-M}{n-m}}{\binom{N}{n}} \tag{3.4} \end{align}$

4、负二项分布

检查某厂产品次品率 $p$ 的大小，从中一件一件抽取，直到抽中 $r$ 件次品为止。 $X$ 记为已经检测合格的产品数量。
$\begin{align} p_i = b(r-1; i+r-1, p) = \binom{i+r-1} {r-1}(p)^{r-1}(1-p)^{i} p \tag{3.5} \end{align}$
与二项分布的区别：二项分布总是定下总的抽检数 $n$ ，把废品个数 $X$ 作为变量，而负二项分布则是定下次品数 $r$ ，把合格数量定为 $X$ 。

连续型随机变量的分布

密度函数定义及解释

定义：设连续型随机变量 $X$ 的分布函数为 $F(X)$ ，则其导数 $f(x)={F}'(x)$ 称为 $X$ 的概率密度函数。
解释：由导数的物理意义可知，事件 $\{x<X \leq x+h\}$ 的概率应为 $F(x+h)-F(x)$ 。所以 $(F(x+h)-F(x))/h$ 可以理解为在单位点 $x$ 附近 $h$ 这么长的区间内，单位长所占的的概率。即总质量为1的金属棒，概率密度相当于杆上的各点的质量密度。

特点：

$\int_{-\infty}^{\infty}f(x)dx=1$
$f(x)\geqslant 0$
对于任何常数 $a<b$ ，都有 $P(a<x<b)=F(b)-F(a) = \int_{a}^{b}f(x)dx$

1、正态分布，记为 $X \sim N(\mu, \sigma^{2})$ 。

如果一个随机变量具有概率密度函数
$\begin{align} f(x) = \frac{1}{\sqrt{2\pi }\cdot \sigma}\cdot e^{\frac{-(x-\mu)^2}{2\sigma^2}} \tag{4.1} \end{align}$

正态分布概率函数图像

正态分布的性质：

$f(x)$ 函数图像关于 $\mu$ 对称
当 $\mu=0, \sigma=1$ 时，称为标准正态分布。
一般的，若 $X \sim N(\mu, \sigma^{2})$ ，则有 $\frac{X-\mu}{\sigma} \sim N(0, 1)$
$\Phi (x)$ 为服从正态分布的随机变量 $X$ 的分布函数，则有 $\Phi(-x) = 1 - \Phi(x)$

2、指数分布

指数分布的概率函数为
$\begin{align} f(x)= \left\{\begin{matrix} \lambda e^{-\lambda x}, x>0 \\ 0,x\leqslant 0 \end{matrix}\right. \tag{4.2} \end{align}$
指数函数的分布函数为：
$\begin{align} F(x)= \left\{\begin{matrix} 1 - e^{-\lambda x}, x>0 \\ 0,x\leqslant 0 \end{matrix}\right. \tag {4.3} \end{align}$
在指数函数中，常用于寿命分布， $\lambda$ 的意义为，元件在时刻 $x$ 尚能工作的情况下，其失效率为某个常数 $\lambda>0$ ，与 $x$ 无关。另外， $\lambda^{-1}$ 就是平均寿命。
$\begin{align} \frac{P(x\leqslant X \leqslant x+h | X>x)} {h} = \lambda\tag{4.4} \end{align}$

3、均匀分布，记为 $X \sim R(a, b)$

均匀分布的概率密度函数为：
$\begin{align} f(x)= \left\{\begin{matrix} \frac{1}{b-a}, a \leqslant x \leqslant b \\ 0, 其他 \end{matrix}\right. \tag{4.5} \end{align}$

均匀分布的分布函数为：
$\begin{align} F(x)= \left\{\begin{matrix} 0, x \leqslant a \\ \frac{x-a} {b-a} , a < x <b \\ 1, b \leqslant x \end{matrix}\right. \tag{4.6} \end{align}$

f(x)与F(x)图像

随机变量的函数分布

随机变量 $Y$ 是随机变量 $X$ 的函数，且有 $Y=g(X)$ .

当 $X$ 为离散型随机变量时： $Y$ 也是离散型随机变量，则通过 $Y=g(X)$ 即可算出 $Y$ 的分布。
当 $X$ 为连续型随机变量时：先求出 $Y$ 的分布函数 $F(Y)=P\{Y \leqslant y\}$ ，然后求 $F(Y)$ 导函数即可。
注意两点

在随机变量函数 $Y=g(X)$ 中，区分清楚 $X, x$ 各自代表的含义是什么。

在处理类似于 $Y=|X|$ 这类函数时，考虑好 $X$ 分布函数中和事件的关系。

$y$ 的范围问题：
3.1 $Y=g(X)$ 时需要考虑
3.2 在完成计算后需要再次检验。

参考文献

《概率论与数理统计》

金融分析师CFADay3
概率论基础概率论相关术语（Terminology of Probability）: 1、随机变量（Random ...
1.4 概率基础
1.4 概率基础本节介绍概率、随机变量、期望、方差等概率论的基础知识。 1.4.1 概率概率是指一个事件出现（...
Python实现概率分布
概率分布基础概率分布，是概率论大的基本概念之一，主要用以表述随机变量取值的概率规律。为了使用的方便，根据随机变量...
(概率论基础1)一维随机变量
随机变量概念随机变量与确定性变量的区别：随机变量发生与否及其结果，随事件（试验结果）而定，人预先不可知。如彩票...
R语言数学统计相关函数2021.3.7
1. 概率函数概率论是统计学的基础，R有许多用于处理概率，概率分布以及随机变量的函数。R对每一个概率分布都有一个...
方差、标准差和均方根误差的区别总结
一、方差方差(variance)：是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量。概率论中方...
统计机器学习 -- 目录
概率基础随机变量1 随机变量2 高斯分布连续分布例子 scale mixture pisribarin je...
$p(x|\theta)$与$p(y|x;\theta)$的区别
是条件概率，是随机变量是当参数为时候，条件概率的值 reference： [1] 概率论：p(x|theta)和p...
机器学习-概率论基础
机器学习中常见的概率论定义以及概率密度估计。 1. 定义随机变量（random variable：随机取值的变量...
概率论与数理统计笔记第二章随机变量及其概率分布
# 概率论与数理统计笔记第二章随机变量及其概率分布概率论与数理统计笔记（计算机专业）作者： [CATPUB]...