美文网首页
常用概率分布回顾之(2)连续概率分布

常用概率分布回顾之(2)连续概率分布

作者: TACITURNLY | 来源:发表于2019-02-28 20:20 被阅读0次

上一篇文章中,我们回顾了几种离散概率分布。接下来,在本文中,将探讨几种连续概率分布。

连续概率分布

均匀分布(Uniform distribution)

均匀分布描述的是随机变量所有取值的概率均相同的概率分布。均匀分布需要定义上下界[a,b],因此所有取值的概率值为\frac{1}{b-a}
期望:
E[X]=\frac{1}{2}(b-a)

方差
var[X]=\frac{1}{12}(b-a)^2

高斯分布(Gaussian distribution)

高斯分布,又称正态分布。在视觉领域应用非常广泛,在忽略灰度值的量化时,常常用高斯分布来建模。真实世界的状态也常常用其描述。本文将重点讲解。

一元高斯分布(Univariate Gaussian Distribution)

一元高斯分布定义域为x\in{\{-\infty, +\infty\}}.有两个参数\mu\sigma^2\mu为均值,决定了高斯分布的峰值位置,\sigma^2为方差,决定了分布的宽度。
其定义为:
Pr(x)=Norm_x[\mu,\sigma^2]=\frac{1}{\sqrt{2\pi\sigma^2}}\exp[-0.5\frac{(x-\mu)^2}{\sigma^2}]

多元高斯分布(Multivariate Gaussian Distribution)

在计算机视觉领域,描述不确定性的的方式用的更多的还是多元高斯分布。类似一元高斯分布,多元高斯分布同样有两个参数:均值\boldsymbol{\mu}和协方差\boldsymbol{\Sigma}。协方差\boldsymbol{\Sigma}D \times D的正定阵。与一元高斯分布中的方差类似的,\boldsymbol{\mu}决定多元高斯分布中心(峰值)的位置,协方差\boldsymbol{\Sigma}用来描述分布的形状。
多元高斯分布的概率密度函数为:
\begin{align} Pr(x) &=Norm_x[\boldsymbol{\mu},\boldsymbol{\Sigma}] \\ &= \frac{1}{(2\pi)^{D/2}|\boldsymbol{\Sigma}|^{1/2}}\exp{[-0.5(\boldsymbol{x}-\boldsymbol{\mu})^T\boldsymbol{\Sigma}^{-1}(\boldsymbol{x}-\boldsymbol{\mu})]} \end{align}

协方差矩阵的几种形式

多元高斯分布的协方差矩阵通常分为三种形式,球形,对角和全协方差。每一种可以看做后一种的特殊形式。
球形协方差矩阵是单位矩阵的整倍数,等概率曲面是一个超球面(二元情况即圆)
球形协方差矩阵在对角线上各有一个正值,在其他地方为0,等概率曲面是一个以主轴与坐标轴对齐的超椭圆体(二元情况即主轴与坐标轴对齐的椭圆)
全协方差矩阵为一个正定矩阵,等概率曲面是不一任何特殊方式对齐的椭圆体。
在二元情况下的三种协方差矩阵分别为:
\boldsymbol{\Sigma}_{spher}=\Big \lbrack \begin{array}{lcr} \sigma^2 & 0 \\ 0 & \sigma^2 \end{array} \Big \rbrack \quad \boldsymbol{\Sigma}_{diag}=\Big \lbrack \begin{array}{lcr} \sigma^2_1 & 0 \\ 0 & \sigma^2_2 \end{array} \Big \rbrack \quad \boldsymbol{\Sigma}_{full} =\Big \lbrack \begin{array}{lcr} \sigma^2_{11} & \sigma^2_{12} \\ \sigma^2_{21} & \sigma^2_{22} \end{array} \Big \rbrack

可视化

下面用代码可视化二元情况下等概率曲线以及概率密度分布图。
可以通过\boldsymbol{\mu}的值控制中心位置,\boldsymbol{\Sigma}控制分布形状,代码如下:

import numpy as np
import matplotlib.pyplot as plt
from scipy.stats import multivariate_normal
from mpl_toolkits.mplot3d import Axes3D

mu1, mu2 = 0, 0
sigma11, sigma12, sigma21, sigma22 = 1.5, 0.7, 0.7, 0.5

x, y = np.mgrid[-5:5:.01, -5:5:.01]
pos = np.dstack((x, y))
rv = multivariate_normal([mu1, mu2], [[sigma11, sigma12], [sigma21, sigma22]])
fig = plt.figure()
ax = Axes3D(fig)
ax.plot_surface(x, y, rv.pdf(pos), cmap='rainbow')

fig2 = plt.figure()
ax2 = fig2.add_subplot(111)
ax2.contourf(x, y, rv.pdf(pos), cmap='rainbow')
plt.show()

如图所示为二元高斯分布不同协方差矩阵下等概率曲线,保持中心位置在(0, 0),改变\boldsymbol{\Sigma},分别为球形,对角和全协方差的情况:

二元高斯分布不同协方差矩阵下等概率曲线

同样的,可以画出概率密度分布图,运行代码,可以拖动图从不同的角度观察。


二元高斯分布概率密度分布图

写文章不易,点个喜欢,关注一下再走呗~

相关文章

网友评论

      本文标题:常用概率分布回顾之(2)连续概率分布

      本文链接:https://www.haomeiwen.com/subject/qnivyqtx.html