美文网首页分析101
马尔可夫不等式和切比雪夫不等式

马尔可夫不等式和切比雪夫不等式

作者: Boye0212 | 来源:发表于2020-12-10 17:52 被阅读0次

    Markov's Inequality

    中文叫马尔科夫不等式或马尔可夫不等式。

    若随机变量X只取非负值,则\forall a>0,有
    \mathbb{P} (X\ge a) \leq \dfrac{\mathbb{E}(X)}{a}

    证明
    Y_a=a\mathbb{I}(X\ge a),则必有Y_a\leq X,进而有\mathbb{E}(Y_a)\leq \mathbb{E}(X)


    \begin{aligned} \mathbb{E}(Y_a)&=a\cdot\mathbb{P} (X\ge a)+0\cdot\mathbb{P} (X< a)\\ &=a\cdot\mathbb{P} (X\ge a) \end{aligned}

    因此有a\mathbb{P}\leq \mathbb{E}(X),得证。

    以上证明非常简单,如果想直观地理解一下,就是将整个X的分布减小(分布图像向左移)到0a处两个部分,减小后的分布的期望一定小于原来的期望。如下图:

    Markov's Inequality

    如果用积分形式来证,也非常直接:

    \begin{aligned} \mathbb{E}(X)&=\int_{-\infty}^{\infty}xf(x)dx\\ &\ge\int_{a}^{\infty}xf(x)dx \quad (a\ge 0)\\ &\ge\int_{a}^{\infty}af(x)dx\\ &=a \int_{a}^{\infty}f(x)dx\\ &=a \mathbb{P} (X\ge a) \end{aligned}

    Markov's inequality用得非常少,因为它给出的上界宽松了,但用它可以证明另一个著名的不等式——Chebyshev's inequality,中文叫切比雪夫不等式。

    Chebyshev's Inequality

    假设随机变量X有均值\mu、方差\sigma^2,则\forall c>0,有:

    \mathbb{P} (\vert X-\mu\vert \ge c) \leq \dfrac{\sigma^2}{c^2}

    证明:

    Y=(X-\mu)^2,则它非负,而c^2也非负,使用Markov's Inequality,有:

    \mathbb{P} (Y\ge c^2) \leq \dfrac{\mathbb{E}(Y)}{c^2}

    \mathbb{E}(Y)=\mathbb{E}[(X-\mu)^2]=\sigma^2Y\ge c^2\vert X-\mu\vert \ge c又是等价的,因此得证。

    相关文章

      网友评论

        本文标题:马尔可夫不等式和切比雪夫不等式

        本文链接:https://www.haomeiwen.com/subject/gcnlgktx.html