美文网首页
无偏估计

无偏估计

作者: DumplingLucky | 来源:发表于2022-06-23 21:40 被阅读0次

今天学习到一个名词,无偏估计
如何理解“不论总体服从什么分布,样本均值是总体均值的无偏估计量”这句话,什么是无偏估计呢?

均值的无偏估计

比如我们想知道一个群体的平均身高,但是没有办法把每个人都进行测量,只有抽样一部分来估计整体的身高。
那么,可以用下面式子来进行平均值的无偏估计:



为什么说是无偏估计,因为不同采样得到的平均值是围绕整体均值(u)左右波动的,这种估算方法没有系统上的偏差,而产生误差的原因只有一个:随机因素(也就是抽样的区别造成的)。

方差的无偏估计

我们用下面的式子来进行方差的无偏估计:



或者是



这里会有几个问题,为什么可以用S2来近似整体方差,如果用样本均值的期望代替整体均值,为什么要用n-1代替n。

已知整体均值(u),采样具有随机性,我们多采样几次,S2会在整体方差的上下波动。



根据中心极限定理,S2的采样均值会服从整体均值(u)=整体方差的正态分布,因此S2可以作为整体方差的无偏估计。
但是如果我们不知道整体均值,只能计算出不同采样的样本均值。当整体均值等于样本均值时,下式最小:



只要整体均值偏离样本均值,该值就会增大。
所以:

如果用下面式子来估计:



那么S2采样均值会服从一个偏离整体方差的正态分布,倾向于低估,具体低估了
因此
而下式得到的就是方差的无偏估计

估计的有效性

另外估计值还有另外一个概念就是有效性,估计量越靠近目标,效果越“好”。这个“靠近”可以用方差来衡量。有效性和无偏性是不相关的两个概念:



有时候不一定追求估计的无偏性,如果系统误差在可接受的范围内,有效性高也是不错的选择。

参考

如何理解无偏估计?

相关文章

  • 无偏估计

    无偏估计是用样本统计量来估计总体参数时的一种无偏推断。估计量的数学期望等于被估计参数的真实值,则称此此估计量为被估...

  • 无偏估计

    实际生活中,如果我们需要了解一些统计数据的话,通常都是通过样本数据来估计总体数据的。例如,我们想知道全国高校学生的...

  • 无偏估计

    今天学习到一个名词,无偏估计。如何理解“不论总体服从什么分布,样本均值是总体均值的无偏估计量”这句话,什么是无偏估...

  • 数据分析学习Day2---商务与统计(第五章)

    1.参数 2.有偏估计与无偏估计 但统计量都是无偏估计时,应该考虑方差即分散程度,选取最小方差的无偏估计。 3.抽...

  • Unbiased Estimation 无偏估计

    Welcome To My Blog 何谓无偏估计 就是用某个公式对采样后的样本进行统计,比如求样本的方差,这个方...

  • 总体方差的无偏估计

    样本平均值average: 样本方差variance: 总体均值(期望)mean: 总体方差variance: 样...

  • 订正一些错误

    numpy中cov计算的是无偏估计(方差的分母是n,而无偏估计的分母是n-1)

  • 机器学习概率统计知识(1): 无偏估计与有偏估计

    引言 在机器学习中经常会接触到无偏估计和有偏估计这两类概念,本文汇总了多篇博客是讲解内容,旨在深入透彻地理解这两个...

  • 深度学习 - 一元线性回归

    学习目标 一元线性回归模型 回归模型参数估计 1.最小二乘估计 2.最大似然估计 3.有偏估计与无偏估计

  • Statistics基本定理

    概念: 总体均值 总体方差 样本均值 样本方差 无偏估计:用样本统计估计总体参数时,估计量的均值(数学期望)与未知...

网友评论

      本文标题:无偏估计

      本文链接:https://www.haomeiwen.com/subject/jcpmvrtx.html